移動物体検出装置
【課題】日照変化に起因した誤検出を排除して正確な検出を行う。
【解決手段】動画を構成する第i番目の原画像P(i)を、格納部120に格納する。平均画像作成部130は、格納部140内の第(i−1)番目の平均画像A(i−1)と原画像P(i)との重みつき平均を求め、平均画像A(i)として格納部140に格納し、参照画像作成部135は、格納部145内の参照画像U(i−1)をU(i)に更新する。画像比較部は、画像P(i)と画像A(i−1)との比較および画像P(i)と画像U(i−1)との比較を画素ごとに行い、いずれも非類似とされた画素を前景画素(J=0)、他の画素を背景画素(J=1)と判定し、マスク画像Mを作成する。参照画像作成部135は、前景部分は更新せず、背景部分は平均画像A(i−1)との重みつき平均により更新して、参照画像U(i)を作成する。
【解決手段】動画を構成する第i番目の原画像P(i)を、格納部120に格納する。平均画像作成部130は、格納部140内の第(i−1)番目の平均画像A(i−1)と原画像P(i)との重みつき平均を求め、平均画像A(i)として格納部140に格納し、参照画像作成部135は、格納部145内の参照画像U(i−1)をU(i)に更新する。画像比較部は、画像P(i)と画像A(i−1)との比較および画像P(i)と画像U(i−1)との比較を画素ごとに行い、いずれも非類似とされた画素を前景画素(J=0)、他の画素を背景画素(J=1)と判定し、マスク画像Mを作成する。参照画像作成部135は、前景部分は更新せず、背景部分は平均画像A(i−1)との重みつき平均により更新して、参照画像U(i)を作成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動画画像に基づいて、画像内の移動物体を検出する移動物体検出装置に関する。
【背景技術】
【0002】
ビデオカメラを用いた監視システムなどでは、監視領域内に存在する移動物体を自動的に検出する技術が重要になってきている。移動物体の自動検出が可能になれば、当該物体が車両であるのか、人間であるのか、といった識別を行う処理に利用することができる。更に、車両の場合であれば、ナンバーを読み取って車両を特定することができ、人間の場合であれば、個人を特定する処理にも応用することができる。また、検出した不審者を自動的にズームアップして追尾することも可能になる。
【0003】
移動物体を検出する基本原理は、時系列で連続的に与えられるフレーム単位の入力画像を予め用意した背景画像と比較し、両者の差分を求めることにより、時間的に変化している領域を認識することにある。ただ、屋外の監視システムなどに利用する場合、時刻や天候などによる照明変動が生じるため、必ずしも正確な物体検出を行うことができない。そこで、たとえば、下記の特許文献1には、フレーム単位の入力画像を小領域に分割し、各小領域単位で画素値の統計処理を施して照明変動を推定する手法が開示されている。また、下記の特許文献2には、フレーム単位の入力画像をブロックに分割し、個々のブロックごとに画素値の平均値を求め、背景画像の画素値平均と比較することにより、当該ブロックが移動物体を含むか否かを判定する手法が開示されている。
【0004】
一方、下記の非特許文献1には、入力画像と背景画像とを画素単位で比較して、当該画素が移動物体を構成する画素であるか否かを判定する手法が開示されている。具体的には、比較対象となる両画素の画素値が類似している場合、当該画素は背景を構成する画素であるとし、類似していない場合、当該画素は移動物体を構成する画素であるとする判定が行われる。このとき、画素の類否判定は、三次元の色空間上で、双方の画素値に対応する座標点をプロットし、一方の座標点が他方の座標点の近傍領域に入っているか否かを調べることにより行われる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平7−302328号公報
【特許文献2】特開2009−048240号公報
【非特許文献】
【0006】
【非特許文献1】Kim K, Chalidabhongse T H, Harwood D, Davis L S. "Background Modeling and Subtraction by Codebook Construction" Proceedings of International Conference on Image Processing, Singapore. IEEE, 2004. 5: 3061-3064
【発明の概要】
【発明が解決しようとする課題】
【0007】
上述したように、移動物体を検出する基本原理は、新たな入力画像を背景画像と比較し、時間的に変化している領域を認識することにある。しかしながら、画像の時間変化は、必ずしも移動物体に起因するものではなく、雲の動きによる日照変化、風の作用による樹木の揺れ、波の動きによる海面の変化など、様々な自然現象にも起因する。このため、特に、屋外の監視システムなどから取り込まれた動画画像に基づいて、移動物体の検出を行う場合、このような自然現象による画像変化を移動物体による画像変化と混同した誤検出が生じやすい。
【0008】
前掲の特許文献1,2には、このような問題を解決するための一手法が開示されているが、入力画像に対して、小領域もしくはブロック単位で画素値のヒストグラムをとるなどの統計処理を施し、当該統計処理によって得られた特徴量を複雑なモデルに当てはめて移動物体の領域を推定する必要があるため、演算処理が極めて複雑になるという問題がある。このため、一般的なプロセッサでは処理時間が長くかかり、リアルタイムでの処理を行うことが困難である。また、より正確な検出を行うためには、多数のフレームにわたって入力画像を格納しておく必要があり、大容量の画像バッファメモリが必要になる。このため、リアルタイムでの監視を目的とした安価な監視システムに利用するには不適当である。
【0009】
一方、上述した非特許文献1に開示されている手法では、画素単位での比較を行えばよいので、複雑な統計処理を行ったり、複雑なモデルを構築したりする必要はない。しかしながら、領域単位での統計処理を省き、画素単位での比較結果のみによって検出を行うため、上述したように、日照変化などの自然現象に起因した誤検出が生じやすい。
【0010】
そこで本発明は、演算処理の負担を軽減しつつ、日照変化などの自然現象に起因した誤検出を排除し、より正確な検出を行うことが可能な移動物体検出装置を提供することを目的とする。
【課題を解決するための手段】
【0011】
(1) 本発明の第1の態様は、動画画像について移動物体を検出する移動物体検出装置において、
時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力部と、
入力された原画像を逐次格納する原画像格納部と、
新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した平均画像とに基づいて、新たな平均画像を作成する平均画像作成部と、
作成された平均画像を逐次格納する平均画像格納部と、
新たな原画像が入力されるたびに、直前に作成した参照画像に基づいて新たな参照画像を作成する参照画像作成部と、
作成された参照画像を逐次格納する参照画像格納部と、
原画像格納部に格納された原画像と、平均画像格納部に格納された平均画像と、参照画像格納部に格納された参照画像と、を用いた比較処理により、前景領域と背景領域とを区別するマスク画像を作成する画像比較部と、
マスク画像を格納するマスク画像格納部と、
マスク画像を出力する画像出力部と、
を設け、
画像比較部は、
原画像格納部に格納された第i番目の原画像、平均画像格納部に格納された第(i−1)番目の平均画像、参照画像格納部に格納された第(i−1)番目の参照画像から、それぞれ対応する所定位置にある画素の三原色の各画素値を読み出す画素値読出部と、
画素値読出部によって読み出された画素値に基づいて、第i番目の原画像の所定位置にある画素が前景画素か背景画素かを判定する前背判定部と、
第i番目のマスク画像を構成する所定位置の画素の画素値として、前背判定部が背景画素と判定した場合には背景領域を示す画素値を、前背判定部が前景画素と判定した場合には前景領域を示す画素値を、それぞれマスク画像格納部に書き込む画素値書込部と、
を有し、
前背判定部は、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の平均画像を構成する画素の画素値a(i−1)とを比較して類似するか否かを判定する第1判定部と、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の参照画像を構成する画素の画素値u(i−1)とを比較して類似するか否かを判定する第2判定部と、第1判定部による判定結果および第2判定部による判定結果の少なくとも一方が類似を示す場合には背景画素、双方とも非類似を示す場合には前景画素との判定を行う総合判定部と、を有し、
平均画像作成部は、第1番目の原画像をそのまま第1番目の平均画像とし、第i番目の原画像と第(i−1)番目の平均画像とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目(i≧2)の平均画像とし、
参照画像作成部は、第1番目の原画像をそのまま第1番目の参照画像とし、第(i−1)番目の参照画像を構成する個々の画素のうち、前背判定部によって第i番目の原画像の対応画素が前景画素と判定された画素については、更新せずに、もとの画素値をそのまま維持し、前背判定部によって第i番目の原画像の対応画素が背景画素と判定された画素については、当該画素と第(i−1)番目の平均画像の対応する位置にある画素とについて、三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を新画素値として更新することにより、第i番目(i≧2)の参照画像を作成するようにしたものである。
【0012】
(2) 本発明の第2の態様は、上述した第1の態様に係る移動物体検出装置において、
平均画像作成部が、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)として平均画像格納部へ格納する処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
所定位置の画素の所定色の画素値、
p(i)は、原画像P(i)の
所定位置の画素の所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成するようにしたものである。
【0013】
(3) 本発明の第3の態様は、上述した第2の態様に係る移動物体検出装置において、
参照画像作成部が、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の参照画像U(1)として参照画像格納部へ格納する処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の参照画像U(i)の各画素値を、
背景画素と判定された画素については、
u(i)=(1−v)・u(i−1)+v・a(i−1)
(但し、u(i)は、平均画像U(i)の
所定位置の画素の所定色の画素値、
u(i−1)は、平均画像U(i−1)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
所定位置の画素の所定色の画素値、
vは、所定の重みを示すパラメータ(v<1))
なる演算式を用いて求められた画素値u(i)に更新し、
前景画素と判定された画素については、
u(i)=u(i−1)
として、更新せずに、もとの画素値をそのまま維持することにより決定するようにしたものである。
【0014】
(4) 本発明の第4の態様は、上述した第3の態様に係る移動物体検出装置において、
重みを示すパラメータw,vを、w>vとなるように設定したものである。
【0015】
(5) 本発明の第5の態様は、上述した第2〜第4の態様に係る移動物体検出装置において、
パラメータ「w」もしくは「v」またはこれら双方を、ユーザの操作入力によって任意の値に設定するパラメータ設定部を更に備えるようにしたものである。
【0016】
(6) 本発明の第6の態様は、上述した第1〜第5の態様に係る移動物体検出装置において、
第1判定部および第2判定部が、比較対象となる一方の画素の画素値を基準画素値、他方の画素の画素値を比較画素値として、三原色の各画素値を各座標軸にとった三次元座標系において、基準画素値に対応する座標に位置する基準点Qと比較画素値に対応する座標に位置する比較点qをとり、基準点Qを中心とする所定サイズの基準立体と比較点qとの位置関係を調べ、比較点qが基準立体の外部に位置すると判定できる場合に非類似との判定を行い、内部に位置すると判定できる場合には類似との判定を行うようにしたものである。
【0017】
(7) 本発明の第7の態様は、上述した第6の態様に係る移動物体検出装置において、
第1判定部が、原画像の画素の画素値を基準画素値、平均画像の画素の画素値を比較画素値として判定を行い、
第2判定部が、原画像の画素の画素値を基準画素値、参照画像の画素の画素値を比較画素値として判定を行うようにしたものである。
【0018】
(8) 本発明の第8の態様は、上述した第6または第7の態様に係る移動物体検出装置において、
第1判定部および第2判定部が、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、この楕円を基準軸Zを中心に回転させることにより得られる同一の回転楕円体Eもしくはその近似体を基準立体として用いるようにしたものである。
【0019】
(9) 本発明の第9の態様は、上述した第8の態様に係る移動物体検出装置において、
第1判定部および第2判定部が、
「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する第1の条件判定部と、
第1の条件判定部が否定的判定を行った場合に「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξもしくはその近似体の外側に比較点qが位置する」という第2の条件を満足するか否かを判定する第2の条件判定部と、
第2の条件判定部が否定的判定を行った場合に「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定する第3の条件判定部と、
第1の条件判定部、第2の条件判定部、第3の条件判定部のいずれかが肯定的判定を行った場合に、非類似との判定結果を示す判定値を出力し、第1の条件判定部、第2の条件判定部、第3の条件判定部のすべてが否定的判定を行った場合に、類似との判定結果を示す判定値を出力する判定値出力部と、
を有するようにしたものである。
【0020】
(10) 本発明の第10の態様は、上述した第8の態様に係る移動物体検出装置において、
第1判定部および第2判定部が、
パラメータhおよびkの値を保持するパラメータ保持部と、
画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
D2=R2+G2+B2 および
d2=r2+g2+b2
なる演算を行い、値D2および値d2を算出する基本演算部と、
基本演算部が算出した値D2および値d2とパラメータ保持部に保持されているパラメータhの値とを用いて、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行う第1の条件判定部と、
第1の条件判定部が否定的判定を行った場合に、画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
γ=R・r+G・g+B・b
なる演算を行い、値γを算出し、基本演算部が算出した値D2および値d2とパラメータ保持部に保持されているパラメータkの値と値γとを用いて、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行う第2の条件判定部と、
第2の条件判定部が否定的判定を行った場合に、基本演算部が算出した値D2および値d2とパラメータ保持部に保持されているパラメータhおよびkの値と第2の条件判定部が算出した値γとを用いて、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
なる演算を行い、当該演算結果を用いて、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行う第3の条件判定部と、
第1の条件判定部、第2の条件判定部、第3の条件判定部のいずれかが肯定的判定を行った場合に、非類似との判定結果を示す判定値を出力し、第1の条件判定部、第2の条件判定部、第3の条件判定部のすべてが否定的判定を行った場合に、類似との判定結果を示す判定値を出力する判定値出力部と、
を有するようにしたものである。
【0021】
(11) 本発明の第11の態様は、上述した第8〜第10の態様に係る移動物体検出装置において、
パラメータ「h」および「k」を、ユーザの操作入力によって任意の値に設定するパラメータ設定部を更に設けたものである。
【0022】
(12) 本発明の第12の態様は、上述した第1〜第11の態様に係る移動物体検出装置を、コンピュータにプログラムを組み込むことにより構成したものである。
【0023】
(13) 本発明の第13の態様は、上述した第1〜第11の態様に係る移動物体検出装置を、半導体集積回路によって構成したものである。
【0024】
(14) 本発明の第14の態様は、動画画像について移動物体を検出する移動物体検出方法において、
コンピュータが、時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力段階と、
コンピュータが、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した平均画像とに基づいて、新たな平均画像を作成する平均画像作成段階と、
コンピュータが、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した参照画像とに基づいて、新たな参照画像を作成する参照画像作成段階と、
コンピュータが、原画像と平均画像と参照画像とを用いた比較処理により、前景領域と背景領域とを区別するマスク画像を作成する画像比較段階と、
コンピュータが、マスク画像を出力する画像出力段階と、
を行い、
画像比較段階を、
第i番目の原画像、第(i−1)番目の平均画像、第(i−1)番目の参照画像から、それぞれ対応する所定位置にある画素の三原色の各画素値を読み出す画素値読出ステップと、
第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の平均画像を構成する画素の画素値a(i−1)とが類似するか否かを判定する第1判定処理と、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の参照画像を構成する画素の画素値u(i−1)とが類似するか否かを判定する第2判定処理と、を行い、第i番目の原画像の所定位置にある画素について、第1判定処理による判定結果と第2判定処理による判定結果との少なくとも一方が類似を示す場合には背景画素、双方とも非類似を示す場合には前景画素との判定を行う前背判定ステップと、
第i番目のマスク画像を構成する所定位置の画素の画素値として、前背判定ステップにより背景画素と判定された場合には背景領域を示す画素値を、前背判定ステップにより前景画素と判定された場合には前景領域を示す画素値を、それぞれ与えることにより、第i番目のマスク画像を作成するマスク画像作成ステップと、
によって構成し、
平均画像作成段階では、第1番目の原画像をそのまま第1番目の平均画像とし、第i番目(i≧2)の平均画像を作成する際には、第i番目の原画像と第(i−1)番目の平均画像とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目の平均画像とし、
参照画像作成段階では、第1番目の原画像をそのまま第1番目の参照画像とし、第i番目(i≧2)の参照画像を作成する際には、第(i−1)番目の参照画像を構成する個々の画素のうち、前背判定ステップにおいて第i番目の原画像の対応画素が前景画素と判定された画素については、更新せずに、もとの画素値をそのまま維持し、前背判定ステップにおいて第i番目の原画像の対応画素が背景画素と判定された画素については、第(i−1)番目の平均画像の対応する位置にある画素との間で、三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を新画素値として更新することにより、第i番目の参照画像を作成するようにしたものである。
【0025】
(15) 本発明の第15の態様は、上述した第14の態様に係る移動物体検出方法において、
平均画像作成段階では、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)とする処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
所定位置の画素の所定色の画素値、
p(i)は、原画像P(i)の
所定位置の画素の所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成し、
参照画像作成段階では、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の参照画像U(1)とする処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の参照画像U(i)の各画素値を、
背景画素と判定された画素については、
u(i)=(1−v)・u(i−1)+v・a(i−1)
(但し、u(i)は、平均画像U(i)の
所定位置の画素の所定色の画素値、
u(i−1)は、平均画像U(i−1)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
所定位置の画素の所定色の画素値、
vは、所定の重みを示すパラメータ(v<1、かつw>v))
なる演算式を用いて求められた画素値u(i)に更新し、
前景画素と判定された画素については、
u(i)=u(i−1)
として、更新せずに、もとの画素値をそのまま維持することにより、参照画像U(i)を作成するようにしたものである。
【発明の効果】
【0026】
本発明に係る移動物体検出装置では、過去に入力された複数の原画像の平均的な特徴を有する平均画像が逐次作成され、更に、この平均画像に基づいて参照画像が逐次作成される。そして、新たに入力された原画像は、平均画像と比較されるとともに参照画像とも比較され、両方の比較結果がともに非類似とされた領域が前景領域(移動物体の領域)、それ以外の領域が背景領域と判定される。ここで、平均画像は、新たな原画像が入力されるたびに更新されるため、原画像の変化に追随して変化を遂げる動的画像になる。これに対して、参照画像は、背景領域と判定された部分に対しては平均画像を利用した更新が行われるが、前景領域と判定された部分に対しては更新が行われない。このため、原画像の変化に追随した参照画像の変化は緩慢になる。
【0027】
このように、平均画像と参照画像とは、原画像の変化に対する追随態様が互いに異なっており、しかも、新たに入力された原画像のうち、平均画像および参照画像の少なくとも一方に類似している領域は背景領域と判定されることになる。したがって、日照変化などの自然現象に起因して変化した背景領域が前景領域(移動物体の領域)として誤検出される可能性を低減することができ、より正確な検出を行うことができるようになる。しかも、実質的には、新たな原画像が入力されるたびに、新たな平均画像および参照画像を作成する処理と、上述した各比較処理と、を行えばよいため、演算処理の負担も比較的軽いものになる。
【0028】
また、回転楕円体を用いて画素の類否判定を行う実施形態の場合、三次元色空間上において、一方の画素値をプロットした座標点を中心とする回転楕円体内に、他方の画素値をプロットした座標点が入るか否かに基づいて、比較対象となるカラー画素の類否判定を行うようにしたため、演算処理の負担を大幅に軽減することが可能になる。
【図面の簡単な説明】
【0029】
【図1】動画画像についての移動物体の検出例を示す平面図である。
【図2】一般的な移動物体検出の基本原理を示す図である。
【図3】背景を示す画像として用いられる平均画像の作成方法の一例を示す図である。
【図4】図3に示す方法に基づいて作成される平均画像上の1画素の画素値変遷プロセスを示す図である。
【図5】一般的なマスク画像の画素値決定プロセスを示す図である。
【図6】画素の類否判定方法の一般例を示す三次元色空間図である。
【図7】画素の類否判定方法の別な一般例を示す三次元色空間図である。
【図8】従来提案されている移動物体検出装置の基本構成を示すブロック図である。
【図9】本発明に係る移動物体検出装置の基本構成を示すブロック図である。
【図10】図9に示す移動物体検出装置の各構成要素で実行される演算内容を示す図である。
【図11】図9に示す移動物体検出装置における各画像の変遷を示す第1の図である。
【図12】図9に示す移動物体検出装置における各画像の変遷を示す第2の図である。
【図13】本発明の一実施形態に係る移動物体検出に利用するための画素の類否判定方法の第1の適用例を示す三次元色空間図である。
【図14】本発明の一実施形態に係る移動物体検出に利用するための画素の類否判定方法の第2の適用例を示す三次元色空間図である。
【図15】本発明の一実施形態に係る画素の類否判定方法を示す三次元色空間図である。
【図16】従来の円柱モデルに対する回転楕円体モデルの利点を示す断面図である。
【図17】回転楕円体モデルを用いた場合の第1の条件判定原理を示す断面図である。
【図18】図17に示す第1の条件判定原理に基づく判定式を示す図である。
【図19】回転楕円体モデルを用いた場合の第2の条件判定原理を示す断面図である。
【図20】図19に示す第2の条件判定原理に基づく判定式を導く第1のプロセスを示す図である。
【図21】図19に示す第2の条件判定原理に基づく判定式を導く第2のプロセスを示す図である。
【図22】図19に示す第2の条件判定原理に基づく判定式を示す図である。
【図23】回転楕円体モデルを用いた場合の第3の条件判定原理を示す断面図である。
【図24】図23に示す第3の条件判定原理に基づく判定式を示す図である。
【図25】本発明の一実施形態に係る画素の類否判定方法の実用的な手順を示す流れ図である。
【図26】図9に示す移動物体検出装置における前背判定部450の構成を示すブロック図である。
【図27】図26に示す第1判定部420の詳細構成を示すブロック図である。
【発明を実施するための形態】
【0030】
以下、本発明を図示する実施形態に基づいて説明する。
【0031】
<<< §1.一般的な移動物体検出の基本原理 >>>
はじめに、一般的な移動物体検出の基本原理を説明する。この基本原理は、動画画像について移動物体を検出するためのものであり、三原色の各画素値を有する画素の集合体として、時系列で連続的にフレーム単位のカラー画像が与えられることを前提としている。
【0032】
たとえば、図1の左側に示すように、フレーム単位の画像P10,P20,P30,P40がこの順番で与えられたものとしよう。図示の例は、街頭に設置された定点ビデオカメラによる撮影画像を示すものであり、右から左へと1台の車両(移動物体)が通過する状態が示されている。なお、一般的なビデオカメラの場合、1秒間に30フレーム程度の周期で連続して撮影画像が出力されるので、実際には、より細かな時間間隔で多数のフレーム画像が得られることになるが、ここでは、説明の便宜上、図示のとおり、4枚のフレーム画像P10,P20,P30,P40が順番に与えられたものとしよう。
【0033】
これら4枚の画像を見ると、画像P10は街の背景のみであるが、画像P20では、右側に車両の一部が侵入したため、背景上に車両の一部が重なった画像になっている。同様に、画像P30,P40も、背景上に車両が重なった画像になっている。背景は静止しているため、画像P10〜P40について共通になるが、車両は移動物体であるため、画像P10〜P40では異なる。ここでは、各画像上において、背景を構成する領域を背景領域B、車両(移動物体)を構成する領域を前景領域Fと呼ぶことにする。
【0034】
本発明における移動物体検出の目的は、与えられた各画像P10〜P40について、それぞれ背景領域Bと前景領域Fとを区別することにある。図1の右側に示す各画像M10〜M40は、それぞれ左側に示す各画像P10〜P40について、背景領域Bと前景領域Fとの区別を示す画像である。図にハッチングを施した領域が背景領域Bであり、白地の領域が前景領域Fである。いずれの領域かを識別できればよいので、これらの画像M10〜M40は、二値画像として与えられる。たとえば、背景領域Bに所属する画素には画素値「1」を与え、前景領域Fに所属する画素には画素値「0」を与えることにすれば、画像M10〜M40は、1ビットの画素値をもった画素の集合体からなる画像データとして用意することができる。
【0035】
本発明によれば、与えられた個々のフレーム画像のそれぞれについて、対応する二値画像を作成することができる。結局、本発明に係る移動物体検出処理の本質は、時系列で連続的に与えられた個々のカラー画像について、それぞれ背景領域Bと前景領域Fとの区別を示す二値画像を作成する処理ということができる。そこで、以下、便宜上、時系列で連続的に与えられるカラー画像を「原画像」と呼び、この「原画像」に基づいて作成される二値画像を「マスク画像」と呼ぶことにする。
【0036】
図1に示す例では、各原画像P10〜P40のそれぞれについて、マスク画像M10〜M40が作成された例が示されている。これらマスク画像を利用すれば、原画像上のどの領域が移動物体であるかを認識できるので、移動物体の形状やサイズを把握したり、移動物体の部分をズームアップして、車両のナンバーを確認したり、人物を特定したりする処理を行うことが可能になる。また、画面上で移動物体をズームアップしたまま追跡したり、移動経路を把握したりすることも可能になる。
【0037】
もちろん、このようなマスク画像の作成を、1枚の原画像のみから行うことは困難である。たとえば、図示の原画像P20のみが静止画像として与えられた場合、人間の脳は様々な情報から車両の存在を認識することができるが、この1枚の静止画像のみから、コンピュータに車両の存在を認識させるには、複雑なアルゴリズムに基づく処理が必要となる。そこで、一般的な移動物体検出アルゴリズムでは、既に述べたとおり、入力画像と背景画像との差を求めることにより、当該差の領域を移動物体の領域(前景領域F)と判断する手法が採られる。
【0038】
たとえば、予め原画像P10を背景画像として指定しておけば、原画像P20が入力された時点で両者を比較することにより、差の領域(異なる領域)を前景領域Fと認識し、図示のようなマスク画像M20を作成することが可能になる。差の領域の認識手法としては、前述したとおり、小領域単位で画素値の統計処理を施す方法も知られているが、入力画像と背景画像とを画素単位で比較して、両画素の画素値が類似している場合、当該画素は背景領域Bを構成する画素であるとし、類似していない場合、当該画素は移動物体を構成する前景領域Fを構成する画素であるとする方法が最も簡便な方法である。本発明も、このような画素単位での比較手法を採用することを前提としている。
【0039】
背景画像としては、予め移動物体が存在しない状態(たとえば、画像P10に示す状態)で撮影した静止画像を利用することも可能であるが、天候や時刻などの要因により、照明環境は時々刻々と変化してゆくものであり、ある特定の時点で撮影した静止画像をそのまま背景画像として継続して利用するのは不適切である。そこで、通常は、過去に入力された複数の原画像に基づいて、これら原画像の平均的な特徴を有する平均画像を作成し、この平均画像を背景画像として利用する手法が採られる。本発明でも、基本的には、このような手法で得られた平均画像を、背景画像として利用することになる。平均画像は新たな画像が入力されるたびに逐次更新されるので、天候や時刻などの要因により、照明環境が変化したとしても、当該変化に追随した適切な背景画像として機能する。
【0040】
図2は、一般的な移動物体検出の基本原理を示す図である。ここで、図の上段に示す画像P(1),P(2),... ,P(i−2),P(i−1)は、時系列で連続的に与えられるフレーム単位の原画像であり、これまでに第1番目の原画像P(1)から第(i−1)番目の原画像P(i−1)まで、(i−1)フレーム分の画像が与えられた状態が示されている。一方、図の中段左に示す画像P(i)は、新たに与えられた第i番目の原画像であり、図の中段右に示す画像A(i−1)は、図の上段に示す過去に与えられた(i−1)フレーム分の原画像P(1)〜P(i−1)の平均的な特徴を有する平均画像である。
【0041】
新たに入力された原画像P(i)についてのマスク画像M(i)は、当該原画像P(i)と平均画像A(i−1)とを比較することによって作成される。図2の下段は、このようにして作成されたマスク画像M(i)を示すものである。具体的には、原画像P(i)上の各画素の画素値を、平均画像A(i−1)上の対応する画素の画素値と比較し、類似範囲内と判定された画素については背景領域Bを示す画素値(たとえば、「1」)を与え、類似範囲外と判定された画素については前景領域Fを示す画素値(たとえば、「0」)を与えることにより、二値画像からなるマスク画像M(i)を作成すればよい。
【0042】
続いて、第(i+1)番目の原画像P(i+1)が入力されたときには、過去に入力された第i番目の原画像P(i)までの平均的な特徴を有する平均画像A(i)が新たに作成され、原画像P(i+1)と平均画像A(i)とを比較することにより、マスク画像M(i+1)が作成される。このように、平均画像は逐次更新されてゆくため、天候や時刻などの要因により、照明環境が変化した場合でも、各時点に適した背景画像としての機能を果たすことができる。
【0043】
なお、平均画像を作成する際には、時系列に沿った重みづけを行うようにし、最新の原画像の情報に重みをおいた加重平均を求めるようにするのが好ましい。たとえば、過去10分間に入力された原画像について重み1、それ以前に入力された原画像について重み0を与えて平均を求めれば、常に、最新10分間に得られた原画像についての平均画像を得ることができ、照明環境が変化した場合にも対応することができる。もちろん、常に最新の原画像ほど重みづけが大きくなるように、重みづけをきめ細かく設定することもできる。
【0044】
結局、この図2に示す例の場合、平均画像を作成する際には、第i番目の原画像P(i)が入力されたときに(i=1,2,...)、当該原画像P(i)を含めた過去の原画像について、それぞれ対応する位置の画素の各色別の画素値の重みづけ平均値を算出し、当該平均値をもつ画素の集合体からなる第i番目の平均画像A(i)を作成すればよい。そして、第(i+1)番目の原画像P(i+1)が入力されたときには、第(i+1)番目のマスク画像M(i+1)を作成するために、原画像P(i+1)と、第i番目の平均画像A(i)とを比較すればよい。
【0045】
ただ、1秒間に30フレームという一般的なフレームレートで動画画像が入力された場合、過去10分間の原画像であっても、その画像データをすべて蓄積しておくには、画像データのバッファにかなりの記憶容量が必要になる。そこで、実用上は、第i番目の原画像P(i)が与えられたときに、第(i−1)番目の平均画像A(i−1)と、当該第i番目の原画像P(i)との2枚の画像に基づいて、第i番目の平均画像A(i)を作成する手法が採られる。図3は、このような手法に基づく平均画像の作成方法の一例を示す図である。
【0046】
まず、最初の原画像P(1)が与えられたときには、当該原画像P(1)をそのまま最初の平均画像A(1)とする処理を行う。そして、以後、図3の上段右に示す第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、図3の上段左に示す第(i−1)番目の平均画像A(i−1)を利用して、図3の中段に示す第i番目の平均画像A(i)を、図3の下段に示す
a(i)=(1−w)・a(i−1)+w・p(i) 式(1)
なる演算式を用いて作成すればよい。ここで、a(i)は、平均画像A(i)の所定位置の画素の所定色の画素値、a(i−1)は、平均画像A(i−1)の前記所定位置の画素の前記所定色の画素値、p(i)は、原画像P(i)の前記所定位置の画素の前記所定色の画素値、wは、所定の重みを示すパラメータ(w<1)である。
【0047】
要するに、直前に与えられた原画像P(i−1)までの原画像について算出された第(i−1)番目の平均画像A(i−1)の画素値a(i−1)と、新たに与えられた第i番目の原画像P(i)の画素値p(i)とについて、重みwを考慮した平均値が算出され、当該算出値を第i番目の平均画像A(i)の画素値a(i)とする処理が行われることになる。このように、新たな原画像P(i)が入力されるたびに、平均画像A(i)を更新してゆき、しかも更新には直前の平均画像A(i−1)のみを用いるようにすれば、過去の原画像データを何フレーム分にもわたって蓄積保持しておく必要がないので、処理を行うために必要なバッファの容量を大幅に節約することができる。
【0048】
図3に示すとおり、重みwの値を大きくすればするほど、最新の原画像P(i)の画素値が平均画像A(i)の画素値に大きな影響を与えることになる。図4は、図3に示す方法に基づいて作成される平均画像上の1画素の画素値変遷プロセスを示す図である。この例では、重みw=0.01に設定した具体例が示されている。
【0049】
たとえば、第1番目(i=1)の原画像P(1)の特定位置の画素の画素値がp(1)=100であったとすると、第1番目の平均画像A(1)の当該特定位置の画素の画素値a(1)は、そのままa(1)=100となる。続いて、第2番目の原画像P(2)の当該特定位置の画素の画素値がp(2)=100であったとすると、第2番目の平均画像A(2)の当該特定位置の画素の画素値a(2)は、a(1)とp(2)との重みつき平均「0.99×100+0.01×100」を計算することにより、a(2)=100になる。
【0050】
図示の例では、原画像の当該特定位置の画素値は、p(1)〜p(4)まで100のまま変化しないため、平均画像の当該特定位置の画素値も、a(1)〜a(4)まで100を維持する。ところが、第5番目の原画像P(5)では、画素値p(5)=200に急変したため、第5番目の平均画像A(5)の画素値a(5)は、図4の下段の式に示すとおり、a(4)とp(5)との重みつき平均「0.99×100+0.01×200」を計算することにより、a(5)=101になる。更に、第6番目の原画像P(6)および第7番目の原画像P(7)では、画素値p(6)=p(7)=200が維持されているため、図4の下段の式に示すとおり、第6番目の平均画像A(6)および第7番目の平均画像A(7)では、画素値a(6)=102、画素値a(7)=103、と徐々に増加している。
【0051】
この例のように、重みwを0.01程度の値に設定すると、原画像の画素値が急激に変化しても、平均画像の画素値は直ちに変化することはなく、原画像の画素値にゆっくりと近づいてゆくことになる。したがって、図1に示す例のように、車両が通過する動画が与えられたとしても、一過性の画素値変化は、平均画像の画素値に大きな変化をもたらすことはなく、平均画像は背景画像としての機能を果たすことができる。一方、時刻が日中から夕暮れに変わった場合など、照明環境に変化が生じた場合、当該変化は多数のフレーム画像にわたって持続するため、平均画像の画素値も当該変化に追従して変化することになる。したがって、日中には日中の背景画像に適した平均画像が得られ、夕暮れには夕暮れの背景画像に適した平均画像が得られることになる。
【0052】
移動物体の領域を示すマスク画像Mは、このような方法で作成された平均画像を背景画像として、個々の原画像を比較することによって作成することができる。図5は、このようにして作成されるマスク画像Mの画素値決定プロセスを示す図である。第i番目の原画像P(i)についてのマスク画像M(i)は、次のような方法で決定される画素値をもつ画素の集合体からなる二値画像である。すなわち、マスク画像M(i)の特定位置の画素の画素値m(i)は、原画像P(i)の当該特定位置の画素の画素値p(i)と、平均画像A(i−1)の当該特定位置の画素の画素値a(i−1)との比較によって決定され、両画素値が類似範囲内であれば、背景領域B内の画素であることを示す画素値(たとえば、「1」)が与えられ、両画素値が類似範囲外であれば、前景領域F内の画素であることを示す画素値(たとえば、「0」)が与えられる。
【0053】
なお、実際には、原画像は三原色の各画素値(たとえば、RGB表色系の場合、R,G,Bの3色の画素値)をもったカラー画像であるので、原画像P(i)を構成する各画素の画素値p(i)や、平均画像A(i)を構成する各画素の画素値a(i)は、いずれも色ごとに独立した3つの値から構成されていることになる。そして、式(1)の演算は、個々の色ごとにそれぞれ独立して実行されることになる。たとえば、平均画像A(i)上の特定位置の画素の画素値a(i)は、R色の画素値、G色の画素値、B色の画素値という3組の画素値によって構成され、R色の画素値は、過去の原画像のR色の画素値の重みつき平均として得られた値になる。
【0054】
したがって、図5における画素値p(i)と画素値a(i−1)との比較は、単なる2つの値の比較ではなく、3組の画素値と3組の画素値との比較ということになる。当然ながら、画素の類否判定は、この3組の画素値の組み合わせからなる色同士が類似するか否かを判定する処理ということになる。以下、この類否判定を行うための一般的な方法を、§2において詳述する。
【0055】
<<< §2.画素の一般的な類否判定方法 >>>
さて、§1で述べた移動物体検出方法では、原画像(入力画像)と平均画像(背景画像)とを画素単位で比較して、両画素が類似している場合は背景領域Bの画素、非類似の場合は前景領域Fの画素という判定を行う。このように画素単位での類否判定を行う方法は、領域単位で特徴量を求める方法に比べて処理が単純になり、演算負担は比較的軽くなる。しかしながら、画素の類否判定が移動物体の検出精度を左右するファクターになるため、どのような方法で、どの程度の範囲までを「類似範囲」と判定するかが非常に重要である。
【0056】
たとえば、§1では、図1の画像P10を平均画像(背景画像)とし、画像P20を原画像(入力画像)とした場合、両者の比較により、画像M20のようなマスク画像が得られることを述べた。ここで、マスク画像M20の前景領域Fは、両画像P10,P20を比較した結果、画素が類似範囲外と判定された領域であり、背景画像Bは、画素が類似範囲内と判定された領域である。この場合、類似範囲を適切に設定しないと、正しいマスク画像を得ることはできない。
【0057】
カラー画像の場合、画素の類否は、両画素の色が近似しているか否かに基づいて判定する必要がある。そのためには、一方の画素の3組の画素値と他方の画素の3組の画素値との総合的な比較を行う必要がある。たとえば、RGB表色系の場合、カラー画像を構成する個々の画素には、R,G,Bの3種類の画素値が与えられるが、たとえ、画素値Rが同一であっても、それだけでは両画素の色が類似していることにならない。通常、このようなカラー画像の画素の比較は、三次元の色空間上で、双方の画素値に対応する座標点をプロットし、両座標点の空間的な位置関係を調べることによって行われる。以下、各画素がRGB表色系の画素値をもっている場合について、色空間上での類否判定を行う代表的な方法をいくつか説明しよう。
【0058】
図6は、画素の類否判定の最も単純な方法を示す三次元色空間図である。図示のとおり、三原色R,G,Bの画素値を各座標軸にとったRGB三次元直交座標系に、座標点AおよびPがプロットされている。ここで、座標点A(Ra,Ga,Ba)は、背景を示す平均画像A上の画素の画素値(Ra,Ga,Ba)をプロットした点であり、座標点P(Rp,Gp,Bp)は、判定対象となる原画像P上の画素の画素値(Rp,Gp,Bp)をプロットした点である。
【0059】
ここで、この三次元色空間上での2点A,Pの距離をδとすれば、当該距離δは、両画素の類似度を示す1つの指標になる。δ=0であれば、両画素は全く同一の画素値をもった画素になり、δが大きくなればなるほど、3つの画素値の総合的な類似度は低下する。したがって、予め所定の閾値δthを設定しておき、δ<δthであれば類似範囲内、δ≧δthであれば類似範囲外と判定するようにすれば、一応の判定基準を設定することができる。
【0060】
あるいは、原点Oを起点として、座標点Aへ向かうベクトルVaと座標点Pへ向かうベクトルVpとを定義し、両ベクトルVa,Vpのなす角θを、両画素の類似度を示す指標として用いることもできる。θ=0の場合、2点A,Pは必ずしも同一の点にはならないが、原点Oを通る同一直線上の点になるため、少なくとも三原色R,G,Bの配合割合で決まる両画素の色相は類似したものになる。結局、θが小さければ、色相の類似性は高まることになるので、指標δを用いた判定基準と同様に、予め所定の閾値θthを設定しておき、θ<θthであれば類似範囲内、θ≧θthであれば類似範囲外と判定するようにすれば、一応の判定基準を設定することができる。
【0061】
一方、より正確な判定を行う方法として、三原色の各画素値を各座標軸にとった三次元座標系において、一方の画素値に対応する座標に位置する基準点を中心として所定サイズの基準立体を配置し、他方の画素値に対応する座標点との位置関係を調べ、当該座標点が基準立体の外部に位置すると判定できる場合に非類似との判定を行い、内部に位置すると判定できる場合には類似との判定を行う方法が知られている。
【0062】
たとえば、前掲の非特許文献1には、適切な判定基準を設定するために、基準立体として円柱を用いる類否判定方法が提案されている。図7は、この円柱モデルを用いる方法の基本原理を示す三次元色空間図である。この図7においても、図6と同様に、背景を示す平均画像A上の画素の画素値(Ra,Ga,Ba)が座標点Aとしてプロットされ、判定対象となる原画像P上の画素の画素値(Rp,Gp,Bp)が座標点Pとしてプロットされている。ここでも、ベクトルVa,Vpは、原点Oを起点として、各点A,Pへ向かうベクトルである。
【0063】
このモデルでは、図示のとおり、座標点Aを中心として所定半径をもった長さLの円柱Cが定義されている。別言すれば、円柱Cは、ベクトルVa上に定義された基準軸Zを中心軸とし、その中心点が座標点Aにくるように配置された円柱ということになる。そして、この円柱Cの内部の空間領域を、背景を示す平均画像Aを構成する画素の類似範囲と定める。したがって、図示の例のように、座標点Pに対応する画素値をもった画素は、円柱Cの外側に位置するため類似範囲外と判定され、前掲領域Fを構成する画素と認定されることになる。逆に、座標点Pが円柱Cの内部に位置していれば、類似範囲内と判定され、背景領域Bを構成する画素と認定される。
【0064】
ここに示す円柱モデルの特徴は、ベクトルVaの方向を向いた基準軸Zを長手方向とする円柱領域が設定される点である。この円柱Cの半径は、色相の類似範囲を決めるパラメータとして機能し、長さLは明度の類似範囲を決めるパラメータとして機能する。実際の景色では、太陽光による照明環境の変化、風による樹木等の明暗の変化などによって、背景領域Bの画素値に時間的変動が生じることになるが、このような変動は、色相よりも明度に大きな影響を及ぼすと考えられる。したがって、このモデルのように、基準軸Zを長手方向とする円柱Cに基づいて類似範囲を設定することは理にかなっている。
【0065】
<<< §3.従来提案されている移動物体検出装置 >>>
ここでは、§1および§2で述べた原理に基づいて移動物体の検出を行う装置の基本構成を、図8のブロック図を参照しながら説明する。この装置は、特願2009−226146号明細書に開示された装置であり、与えられた動画画像について移動物体を検出する機能をもった移動物体検出装置である。図示のとおり、この装置は、画像入力部110、原画像格納部120、平均画像作成部130、平均画像格納部140、画像比較部200、マスク画像格納部310、画像出力部320、パラメータ設定部330によって構成される。
【0066】
画像入力部110は、時系列で連続的に与えられるフレーム単位のカラー原画像Pを、三原色の各画素値を有する画素の集合体データとして入力する構成要素であり、原画像格納部120は、こうして入力された原画像を逐次格納する構成要素である。一方、平均画像作成部130は、過去に入力された複数の原画像Pに基づいて、これら原画像の平均的な特徴を有する平均画像Aを逐次作成する構成要素であり、平均画像格納部140は、作成された平均画像Aを逐次格納する構成要素である。
【0067】
この平均画像Aを作成する具体的な処理機能については、図3を参照して§1で述べたとおりである。すなわち、平均画像作成部130は、最初の原画像P(1)が与えられたときには、当該原画像P(1)をそのまま最初の平均画像A(1)として平均画像格納部140に格納する処理を行う。そして、以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、この原画像P(i)と平均画像格納部140に格納されていた第(i−1)番目の平均画像A(i−1)を利用して、第i番目の平均画像A(i)を作成し、これを平均画像格納部140に格納する。
【0068】
このとき、平均画像A(i)の所定位置の画素の所定色の画素値をa(i)とすれば、画素値a(i)は、既に述べたとおり、
a(i)=(1−w)・a(i−1)+w・p(i) 式(1)
なる演算式を用いて算出される。ここで、a(i−1)は、平均画像A(i−1)の前記所定位置の画素の前記所定色の画素値、p(i)は、原画像P(i)の前記所定位置の画素の前記所定色の画素値、wは、所定の重みを示すパラメータ(w<1)である。なお、各画素値は、実際には、§2で述べたとおり、たとえば、RGB表色系の場合、R,G,Bの3種類の画素値から構成され、上記演算は、個々の色ごとの画素値についてそれぞれ別個に行われる。
【0069】
図8に示す原画像格納部120や平均画像格納部140は、バッファメモリによって構成することができる。平均画像作成部130が、図3に示す方法で重みwをパラメータとして平均画像を逐次作成し、これを平均画像格納部140に格納してゆくようにすれば、原画像格納部120には、常に処理に必要な最新の原画像のみが格納されるようにし、平均画像格納部140には、常に処理に必要な最新の平均画像Aのみが格納されるようにすればよいので、バッファメモリの容量を節約することができる。
【0070】
画像比較部200は、原画像格納部120に格納された原画像Pと、平均画像格納部140に格納された平均画像Aとを比較し、前景領域Fと背景領域Bとを区別するマスク画像Mを作成する機能を果たす構成要素であり、図示のとおり、画素値読出部210、類否判定部220、画素値書込部230によって構成されている。
【0071】
画素値読出部210は、比較対象となる一対の画像(すなわち、原画像格納部120に格納されている原画像Pと、平均画像格納部140に格納されている平均画像A)のうち、いずれか一方の画像の所定位置の画素の画素値を基準画素値(R,G,B)として読み出し、他方の画像の対応位置の画素の画素値を比較画素値(r,g,b)として読み出す処理を行う。
【0072】
類否判定部220は、比較画素値(r,g,b)が、基準画素値(R,G,B)について設定された所定の類似範囲に入っているか否かを判定する処理を行う。具体的には、図7に示す円柱モデルを利用する場合、三原色の各画素値を各座標軸にとった三次元座標系において、基準画素値(R,G,B)に対応する座標に位置する基準点A(R,G,B)と比較画素値(r,g,b)に対応する座標に位置する比較点P(r,g,b)をとり、基準点Aを中心とする所定サイズの円柱Cと比較点Pとの位置関係を調べ、比較点Pが円柱Cの外部に位置する場合には非類似との判定を行い、内部に位置する場合には類似との判定を行う。このとき、円柱Cのサイズは、所定の判定パラメータによって決定される。
【0073】
そして、画素値書込部230は、マスク画像Mを構成する所定位置(画素値読出部210の読出対象となった位置)の画素の画素値として、類否判定部220の判定結果に応じた値を定め、マスク画像格納部310に書き込む処理を行う。すなわち、類否判定部220が類似と判定した場合には背景領域Bを示す画素値(たとえば、「1」)を、類否判定部220が非類似と判定した場合には前景領域Fを示す画素値(たとえば、「0」)を、それぞれマスク画像格納部310に書き込む処理を行う。
【0074】
マスク画像格納部310は、こうして作成されたマスク画像Mを格納する構成要素であり、画像出力部320は、このマスク画像Mを出力する構成要素である。
【0075】
一方、パラメータ設定部330は、平均画像作成部130による平均画像作成処理に利用されるパラメータw(図3に示す重みw)と、類否判定部220の類否判定処理に利用される判定パラメータ(図7に示す円柱Cの半径と長さL)とを、ユーザの操作入力によって任意の値に設定する機能を有する。ユーザは、必要に応じて、これらパラメータの値を調整することにより、より精度の高い検出結果を得ることができる。もっとも、これらのパラメータの一部もしくは全部は、固定値にしておくことも可能である。全部のパラメータ値を固定値にする実施例では、パラメータ設定部330を設ける必要はない。
【0076】
なお、実用上、この図8に示す移動物体検出装置は、コンピュータに専用のプログラムを組み込むことにより構築することができ、図8に各ブロックで示す構成要素は、コンピュータのハードウエアとソフトウエアとの組み合わせによって実現することができる。もちろん、この移動物体検出装置を半導体集積回路として構成することも可能である。
【0077】
この移動物体検出装置による検出精度を向上させるには、各パラメータの値を利用環境に合致した最適値に設定することが重要である。また、類否判定部220において適切な判定アルゴリズムを用いることも重要である。ここでは、図7に示す円柱モデルを利用した例を述べたが、たとえば、§7で述べる回転楕円体モデルを利用すると、一般的に検出精度の向上を図ることができる。
【0078】
このように、図8に示す移動物体検出装置の検出精度を向上させるために、様々な工夫を施すことが可能であるが、本願発明者が行った実験によると、時刻や天候などによる照明変動の影響を完全に排除することは困難であり、依然として、誤検出が生じる問題がある。
【0079】
図1に示す各原画像P10〜P40には、背景部分に全く同じ画像が描かれているが、実際の風景では、雲の動きで太陽光による照明環境が変化し、風により樹木の葉の位置や向きが微妙に変化する。したがって、類否判定部220における画素の類否判定基準を厳しくすると(たとえば、図7に示す円柱モデルの場合、円柱Cのサイズを小さくすると)、実際には背景部分であるのに、非類似との誤判定が生じ、前景領域F内の画素との認定がなされてしまう。逆に、画素の類否判定基準を緩めると、実際には前景部分であるのに、類似との誤判定が生じ、背景領域B内の画素との認定がなされてしまう。
【0080】
もちろん、過去に入力された多数の原画像に対して、より複雑な統計処理を施して背景画像を決定するようにすれば、検出精度の向上を図ることが可能であるが、そのためには演算処理が極めて複雑になり、一般的なプロセッサによるリアルタイム処理を行うことが困難になる。また、多数のフレームにわたって入力画像を格納しておく必要があるため、大容量の画像バッファメモリが必要になる。
【0081】
本発明は、このような問題を解決するための提案であり、その目的は、演算処理の負担を軽減しつつ、日照変化などの自然現象に起因した誤検出を排除し、より正確な検出を行うことが可能な移動物体検出装置を提供することにある。以下、本発明に係る移動物体検出装置の構成および動作を説明する。
【0082】
<<< §4.本発明に係る移動物体検出装置 >>>
本発明に係る移動物体検出装置は、図8に示した従来提案されている移動物体検出装置を改良したものであり、その基本構成を図9に示す。図示のとおり、この装置は、画像入力部110、原画像格納部120、平均画像作成部130、参照画像作成部135、平均画像格納部140、参照画像格納部145、画像比較部400、マスク画像格納部310、画像出力部320、パラメータ設定部340によって構成され、動画画像について移動物体を検出する移動物体検出装置として機能する。
【0083】
この図9に示す各構成要素のうち、画像入力部110、原画像格納部120、平均画像作成部130、平均画像格納部140の機能は、図8に同符号で示す各構成要素の機能と全く同じである。すなわち、画像入力部110は、時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する機能を果たし、原画像格納部120は、入力された原画像を逐次格納する機能を果たす。
【0084】
また、平均画像作成部130は、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した平均画像とに基づいて、新たな平均画像を作成する機能を果たし、平均画像格納部140は、作成された平均画像を逐次格納する機能を果たす。たとえば、画像入力部110によって第i番目の原画像P(i)が入力され、原画像格納部120に格納された場合、平均画像作成部130は、平均画像格納部140から直前に作成した平均画像A(i−1)を読み出し、原画像格納部120から新たな原画像P(i)を読み出し、これらの画像に基づいて、新たな平均画像A(i)を作成し、これを平均画像格納部140に格納する。
【0085】
より具体的には、平均画像作成部130は、第1番目の原画像P(1)をそのまま第1番目の平均画像A(1)として平均画像格納部140に格納し、第i番目(i≧2)の原画像P(i)が入力された場合、この第i番目の原画像P(i)と第(i−1)番目の平均画像A(i−1)とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目(i≧2)の平均画像A(i)として平均画像格納部140に格納する。
【0086】
一方、参照画像作成部135および参照画像格納部145は、本発明に係る移動物体検出装置において新たに付加された構成要素である。参照画像作成部135は、画像入力部110によって新たな原画像が入力されるたびに、直前に作成した参照画像に基づいて新たな参照画像を作成する機能を果たし、参照画像格納部145は、作成された参照画像を逐次格納する機能を果たす。これらの具体的な機能については、後に詳述する。
【0087】
また、画像比較部400は、図8に示す画像比較部200と同様に、画像を個々の画素単位で比較し、類否判定を行う機能をもった構成要素であるが、その比較対象には、新たに参照画像が加わることになる。すなわち、画像比較部400は、原画像格納部120に格納された原画像Pと、平均画像格納部140に格納された平均画像Aと、参照画像格納部145に格納された参照画像Uと、を用いた比較処理により、前景領域Fと背景領域Bとを区別するマスク画像Mを作成する機能を果たす。図示のとおり、画像比較部400は、画素値読出部410、前背判定部450、画素値書込部460によって構成されているが、これら各構成要素の機能については後に詳述する。
【0088】
図9に示すマスク画像格納部310および画像出力部320の機能も、図8に同符号で示す各構成要素の機能と全く同じである。すなわち、マスク画像格納部310は、画像比較部400によって作成されたマスク画像Mを格納する機能を果たし、画像出力部320は、当該マスク画像Mを出力する機能を果たす。
【0089】
パラメータ設定部340は、この装置で利用されるパラメータを設定する構成要素である。この装置の場合、平均画像作成部130で用いられる重みw、参照画像作成部135で用いられる重みv、前背判定部450で用いられる判定パラメータ(たとえば、図7に示す円柱モデルを利用した類否判定を行う場合は、円柱Cの半径と長さL)を、パラメータ設定部340によって設定することができる。ユーザは、必要に応じて、パラメータ設定部340に対して操作入力を行い、これらパラメータの値を調整し、より精度の高い検出結果を得ることができる。もちろん、これらのパラメータの一部もしくは全部は、固定値にしておくことも可能であり、全部のパラメータ値を固定値にする実施例では、パラメータ設定部340を設ける必要はない。
【0090】
図9に示す本発明に係る移動物体検出装置が、図8に示す従来の移動物体検出装置と大きく異なる点は、参照画像作成部135および参照画像格納部145を新たに付加した点と、画像比較部200の代わりに画像比較部400を設けた点である。そこで、まず、画像比較部400の処理機能について説明する。図示のとおり、画像比較部400は、画素値読出部410、前背判定部450、画素値書込部460によって構成されており、前背判定部450は、第1判定部420、第2判定部430、総合判定部440によって構成されている。
【0091】
画素値読出部410は、画像入力部110が第i番目の原画像P(i)を入力し、これを原画像格納部120に格納するたびに、この原画像格納部120に格納されている第i番目の原画像P(i)、平均画像格納部140に格納されている第(i−1)番目の平均画像A(i−1)、参照画像格納部145に格納されている第(i−1)番目の参照画像U(i−1)から、それぞれ対応する所定位置にある画素の画素値を読み出す処理を行う。ここでは、対応する所定位置にある各画素の画素値をそれぞれp(i),a(i−1),u(i−1)で表すことにする。原画像P,平均画像A,参照画像Uは、いずれも同じ二次元画素配列をもった画像であり、対応する所定位置にある各画素とは、この二次元画素配列において同一座標(x,y)に位置する画素ということになる。
【0092】
こうして画素値読出部410が読み出した、同一座標(x,y)に位置する画素の画素値p(i),a(i−1),u(i−1)は、前背判定部450に与えられる。なお、前述したとおり、実際には、各画素は、三原色R,G,Bの成分を有しているので、画素値p(i),a(i−1),u(i−1)は、それぞれ三原色R,G,Bの成分ごとに独立した値をもつことになる。たとえば、画素値p(i)は、実際には、R色成分p(i)r,G色成分p(i)g,B色成分p(i)bという3通りの画素値の集合体であるが、ここでは便宜上、単に画素値p(i)と呼ぶことにする。
【0093】
前背判定部450は、画素値読出部410によって読み出された画素値p(i),a(i−1),u(i−1)に基づいて、第i番目の原画像P(i)の所定位置(座標(x,y)の位置)にある画素が前景画素か背景画素かを判定する処理を行う。ここでは、判定結果をJなる論理値で表す。具体的には、判定結果がJ=0であれば前景画素、J=1であれば背景画素であることを示す。
【0094】
前背判定部450は、第1判定部420、第2判定部430、総合判定部440によって構成されており、座標(x,y)に位置する画素についての判定を次のようなプロセスで実行する。まず、第1判定部420は、第i番目の原画像P(i)を構成する画素の画素値p(i)と第(i−1)番目の平均画像A(i−1)を構成する画素の画素値a(i−1)とを比較して類似するか否かを判定する。一方、第2判定部430は、第i番目の原画像P(i)を構成する画素の画素値p(i)と第(i−1)番目の参照画像U(i−1)を構成する画素の画素値u(i−1)とを比較して類似するか否かを判定する。そして、総合判定部440は、第1判定部420による判定結果および第2判定部430による判定結果の少なくとも一方が類似を示す場合には背景画素との判定を行い判定結果J=1を出力し、双方とも非類似を示す場合には前景画素との判定を行い判定結果J=0を出力する。
【0095】
第1判定部420および第2判定部430は、2つの画素間の類否判定を行うことになるが、その具体的な方法は§2で例示したとおりである。たとえば、図7に示す円柱モデルを利用する場合、第1判定部420は、次のような方法で、画素値p(i)と画素値a(i−1)との類否判定を行うことができる。まず、画素値a(i−1)を構成する三原色の各画素値に基づいて、RGB三次元座標系に基準点Aをプロットし、この基準点Aを中心とする所定サイズの基準立体として円柱Cを配置する。次に、画素値p(i)を構成する三原色の各画素値に基づいて、RGB三次元座標系に比較点Pをプロットする。そして、円柱Cと比較点Pとの位置関係を調べ、比較点Pが円柱Cの外部に位置する場合には非類似との判定を行い、内部に位置する場合には類似との判定を行えばよい。第2判定部430も、同様の方法で、画素値p(i)と画素値u(i−1)との類否判定を行うことができる。
【0096】
総合判定部440は、これら2通りの判定結果に基づき、少なくとも一方が類似を示す場合には判定結果J=1(背景画素との判定結果)を出力し、双方とも非類似を示す場合には判定結果J=0(前景画素との判定結果)を出力する。このような判定結果の出力は、第1判定部420および第2判定部430の判定結果の論理和として得ることができる。すなわち、第1判定部420および第2判定部430が、類似との判定結果を論理値「1」として出力し、非類似との判定結果を論理値「0」として出力するようにしておけば、総合判定部440は、これらの各判定結果の論理和として、最終的な判定結果Jを出力することができる。
【0097】
画素値書込部460は、第i番目のマスク画像M(i)を構成する所定位置(座標(x,y)の位置)の画素の画素値として、前背判定部450が背景画素と判定した場合には背景領域を示す画素値(この例では、判定結果Jと同じ論理値「1」)を、前背判定部450が前景画素と判定した場合には前景領域を示す画素値(この例では、判定結果Jと同じ論理値「0」)を、それぞれマスク画像格納部310に書き込む処理を行う。
【0098】
以上、画像比較部400が、特定の座標(x,y)に位置する1画素について実行する具体的な処理を述べたが、このような処理が、1枚の画像を構成する全画素について繰り返し実行される。こうして、原画像格納部120に格納された第i番目の原画像P(i)を構成する全画素について、それぞれ背景画素か前景画素かの判定が行われることになり、その判定結果に基づいて、マスク画像格納部310内に第i番目(i≧2)のマスク画像M(i)が得られることになる。こうして得られたマスク画像M(i)において、前景画素からなる領域(上例の場合、画素値「0」をもった領域)は、前景領域、すなわち、「移動物体が存在する」と判断できる領域ということになる。
【0099】
続いて、参照画像作成部135および参照画像格納部145の処理機能について説明する。参照画像作成部135および参照画像格納部145の役割は、平均画像作成部130および平均画像格納部140の役割と対比して考えることができる。後者は、平均画像Aを作成しこれを逐次格納する役割を果たすのに対して、前者は、参照画像Uを作成しこれを逐次格納する役割を果たす。そして、平均画像Aも参照画像Uも、画像比較部400において、原画像Pと比較されることになる。この比較処理では、平均画像Aも参照画像Uも、原画像Pに対する背景としての意味合いをもつ。ただ、平均画像Aと参照画像Uとは、その作成プロセスが異なるため、原画像に動的変化が生じた場合、その追従性に差が生じることになる。
【0100】
平均画像作成部130による平均画像Aの作成処理は、既に§3で述べたとおりである。すなわち、平均画像作成部130は、まず、初期設定として、第1番目の原画像P(1)をそのまま第1番目の平均画像A(1)として、平均画像格納部140に格納する処理を行う。続いて、第2番目以降の原画像が入力されると、第i番目の原画像P(i)と第(i−1)番目の平均画像A(i−1)とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目(i≧2)の平均画像A(i)として、平均画像格納部140に格納する処理を行う。
【0101】
図10は、図9に示す移動物体検出装置の各構成要素で実行される演算内容を示す図である。図の上段には、平均画像作成部130で実行される演算内容が式(1A)として示されている。この式(1A)は、図3に示す式(1)と同じものである。要するに、平均画像作成部130は、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)として平均画像格納部140へ格納する処理を行い(図10上段の但し書)、以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i) 式(1A)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
p(i)は、原画像P(i)の
前記所定位置の画素の前記所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成することになる。
【0102】
これに対して、参照画像作成部135による参照画像Uの作成処理は、次のようなプロセスによって行われる。すなわち、参照画像作成部135は、まず、初期設定として、第1番目の原画像P(1)をそのまま第1番目の参照画像U(1)として、参照画像格納部145に格納する処理を行う。続いて、第2番目以降の原画像が入力されると、直前の参照画像に基づいて、次のような方法で新たな参照画像を作成する処理を行う。すなわち、第i番目(i≧2)の原画像P(i)が入力され、この原画像P(i)を構成する個々の画素について、前背判定部450において前景画素か背景画素かの判定が行われたら、参照画像作成部135は、参照画像格納部145に格納されている第(i−1)番目の参照画像U(i−1)を構成する個々の画素のうち、前背判定部450によって第i番目の原画像P(i)の対応画素が前景画素と判定された画素については、更新せずに、もとの画素値u(i−1)をそのまま維持し、前背判定部450によって第i番目の原画像P(i)の対応画素が背景画素と判定された画素については、当該画素と第(i−1)番目の平均画像A(i−1)の対応する位置にある画素とについて、三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を新画素値として更新することにより、第i番目(i≧2)の参照画像U(i)を作成する処理を行う。
【0103】
図10の中段には、参照画像作成部135で実行される演算内容が示されている。すなわち、参照画像作成部135は、最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の参照画像U(1)として参照画像格納部へ格納する処理を行い(図10中段の最下行)、以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の参照画像U(i)の各画素値を、次のような方法で決定する処理を行う。
【0104】
この決定処理では、前背判定部450による判定結果が利用される。すなわち、前背判定部450によって背景画素と判定された画素(判定結果J=1が得られた画素)については、
u(i)=(1−v)・u(i−1)+v・a(i−1) 式(1B)
(但し、u(i)は、平均画像U(i)の
所定位置の画素の所定色の画素値、
u(i−1)は、平均画像U(i−1)の
前記所定位置の画素の前記所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
vは、所定の重みを示すパラメータ(v<1))
なる演算式を用いて求められた画素値u(i)に更新し、
前景画素と判定された画素(判定結果J=0が得られた画素)については、
u(i)=u(i−1) 式(1C)
として、更新せずに、もとの画素値をそのまま維持する。
【0105】
図10の下段には、前背判定部450で実行される判定処理の概念が表として示されている。前述したとおり、前背判定部450における判定処理は、第1判定部420で行われる画素値p(i)とa(i−1)との類否判定処理(表の横欄)と、第2判定部430で行われる画素値p(i)とu(i−1)との類否判定処理(表の縦欄)と、これらの判定結果に基づいて総合判定部440で行われる総合判定処理と、によって構成される。図10下段の表の横欄は、第1判定部420による判定結果の別(類似○/非類似×)を示し、縦欄は、第2判定部430による判定結果の別(類似○/非類似×)を示している。総合判定部440は、少なくとも一方が「類似○」を示す場合には背景画素(J=1)、双方とも「非類似×」を示す場合には前景画素(J=0)との判定を行うことになる。参照画像作成部135は、この判定結果Jを利用して、図10の中段に示す処理を実行する。
【0106】
なお、実用上、この図9に示す移動物体検出装置も、コンピュータに専用のプログラムを組み込むことにより構築することができ、図9に各ブロックで示す構成要素は、コンピュータのハードウエアとソフトウエアとの組み合わせによって実現することができる。もちろん、この移動物体検出装置を半導体集積回路として構成することも可能である。
【0107】
<<< §5.画像変遷の実例 >>>
図11および図12は、図9に示す移動物体検出装置における各画像の変遷の一例を示す図である。前述したとおり、本発明を監視システムなどに利用する場合、実際には、原画像Pは1秒間に30フレーム程度の周期で入力されることになるが、ここでは、便宜上、平均画像Aと参照画像Uとの変遷態様の相違を説明するのに都合が良い非現実的なモデルを用いた変遷例を示すことにする。図11および図12に股がって示されている縦方向軸は、時間軸に対応しており、t1〜t15は時間軸上の各時点を示す。また、横方向に並べた3つの画像は、それぞれ各時点における原画像P,平均画像A,参照画像Uを示している。
【0108】
<第1の時点t1>
まず、第1の時点t1において、図示のような原画像P(1)が与えられたものとしよう。ここでは、便宜上、原画像P(1)を真っ白な画像として示しているが、この真っ白な画像は、街頭に設置された監視カメラから見た背景を示す画像であるものとする。
【0109】
このような第1番目の原画像P(1)が与えられると、平均画像作成部130は、当該原画像P(1)をそのまま第1番目の平均画像A(1)として平均画像格納部140に格納する。同様に、参照画像作成部135は、当該原画像P(1)をそのまま第1番目の参照画像U(1)として参照画像格納部145に格納する。したがって、図11の最上段に示すとおり、第1の時点t1では、図示のような画像P(1),A(1),U(1)が得られることになる。
【0110】
なお、原画像P(1),平均画像A(1),参照画像U(1)内に示された小さな正方形は、それぞれ同一位置(x,y)の画素p(1),a(1),u(1)を示している。以下、個々の画像について、この特定位置(x,y)に配置された特定の画素を代表画素として、この代表画素についてのみ、その画素値の変遷を追ってゆくことにする。ここで、各画素p(1),a(1),u(1)の画素値も画素と同じ符号で示すことにすれば、時点t1では、当然ながら、p(1)=a(1)=u(1)である。
【0111】
<第2の時点t2>
続いて、第2の時点t2において、図示のような原画像P(2)が与えられたものとしよう。ここで、原画像P(2)は原画像P(1)と全く同じ画像であり、監視カメラから見た背景に何ら変わりがなかった例を示している。したがって、画素値p(2)=p(1)である。次に、特定位置(x,y)に配置された画素についての前背判定部450による判定処理を考えると、第1判定部420では、画素p(2)と、1つ前の時点の画素a(1)との類否判定が行われ、第2判定部430では、画素p(2)と、1つ前の時点の画素u(1)との類否判定が行われる。図に実線で示す矢印は、この類否判定の相手先を示しており、矢印上の記号「○/×」は判定結果(○は類似/×は非類似)を示している。図示のとおり、p(2)=a(1)であり、p(2)=u(1)であるから、いずれも類似「○」との判定結果が得られ、前背判定部450は、J=1なる判定結果を出す。これは、画素p(2)が背景画素と判定されたことを意味する。
【0112】
さて、平均画像作成部130は、このような判定結果に依存することなしに、常に、図10に示す式(1A)に従って、平均画像Aの画素値aを更新する処理を行う。すなわち、時点t2における平均画像A(2)の特定位置(x,y)に配置されたの画素の画素値a(2)は、式(1A)に従って、a(2)=(1−w)・a(1)+w・p(2)なる演算によって求められ、画素値a(1)はa(2)に更新される。図の画素a(1)から画素a(2)に向かう破線および画素p(2)から画素a(2)に向かう破線は、式(1A)に従って、画素値a(1)および画素値p(2)に基づいて画素値a(2)が決定されることを示している。もっとも、実際には、a(1)=p(2)であるから、a(2)=a(1)となり、画素値自身に変動は生じない。
【0113】
これに対して、参照画像作成部135は、図10に示すとおり、判定結果Jに依存して異なる処理を行うことになる。ここに示す例の場合、時点t2についての判定結果は、上述したとおり、J=1になるので、参照画像作成部135は、図10に示す式(1B)に従って、参照画像Uの画素値uを更新する処理を行う。すなわち、時点t2における参照画像U(2)の特定位置(x,y)に配置されたの画素の画素値u(2)は、式(1B)に従って、u(2)=(1−v)・u(1)+v・a(1)なる演算によって求められ、画素値u(1)はu(2)に更新される。図の画素u(1)から画素u(2)に向かう破線および画素a(1)から画素u(2)に向かう破線は、式(1B)に従って、画素値a(1)および画素値u(1)に基づいて画素値u(2)が決定されることを示している。もっとも、実際には、a(1)=u(1)であるから、u(2)=u(1)となり、画素値自身に変動は生じない。
【0114】
<第3の時点t3>
続いて、第3の時点t3において、図示のような原画像P(3)が与えられたものとしよう。ここで、原画像P(3)は、視界に車両Vが侵入してきたため、背景上に車両V(移動物体)が重なった状態の画像になっている。したがって、画素値p(3)≠p(2)である。図では、画素p(3)を含む車両Vの部分を二重斜線ハッチング領域として示してある。
【0115】
この時点t3における特定位置(x,y)に配置された画素についての前背判定部450による判定処理を考えると、第1判定部420では、画素p(3)と、1つ前の時点の画素a(2)との類否判定が行われ、第2判定部430では、画素p(3)と、1つ前の時点の画素u(2)との類否判定が行われる。ここでは、説明の便宜上、車両Vの部分(図の二重斜線ハッチング部分)の色が背景部分(図の白地部分)と大きく異なっているものとしよう。そうすると、p(3)≠a(2)であり、p(3)≠u(2)であるから、いずれも非類似「×」との判定結果が得られ、前背判定部450は、J=0なる判定結果を出す。これは、画素p(3)が前景画素と判定されたことを意味する。したがって、第3のマスク画像M3において、特定位置(x,y)の画素は前景領域(移動物体の領域)に含まれる。
【0116】
さて、平均画像作成部130は、このような判定結果に依存することなしに、常に、図10に示す式(1A)に従って、平均画像Aの画素値aを更新する処理を行う。すなわち、時点t3における平均画像A(3)の特定位置(x,y)に配置されたの画素の画素値a(3)は、式(1A)に従って、a(3)=(1−w)・a(2)+w・p(3)なる演算によって求められ、画素値a(2)はa(3)に更新される。ここで、画素値a(3)は、画素値p(3)の影響を受けるため、画素値a(2)から変動することになる。図では、このようにして画素値が変動した画素a(3)に中濃ハッチングを施して示すことにする。
【0117】
一方、参照画像作成部135は、図10に示すとおり、判定結果J=0の場合は、値を更新しない。したがって、1つ前の時点の画素値u(2)をそのまま画素値u(3)として維持することになる。図の画素u(2)から画素u(3)に向かう破線は、更新が行われずに、元の画素値がそのまま維持されることを示している。
【0118】
<第4の時点t4>
続いて、第4の時点t4において、図示のような原画像P(4)が与えられたものとしよう。この原画像P(4)では、車両Vが視界から消え、元の原画像P(1),P(2)と同じ状態に戻っている。したがって、画素値p(4)≠p(3)である。
【0119】
この時点t4における前背判定部450による判定処理を考えると、第1判定部420では、画素p(4)と、1つ前の時点の画素a(3)との類否判定が行われ、第2判定部430では、画素p(4)と、1つ前の時点の画素u(3)との類否判定が行われる。ここでは、説明の便宜上、図の中濃ハッチング部分で示す色が、白地部分で示す色の類似範囲内にギリギリ入っていたものとしよう。実際、重みwの値を0.01程度に設定すると、車両Vが視界を通り過ぎた程度では、平均画像Aの画素値変動はそれほど大きくなく、画素値p(4)とa(3)とが類似範囲に入るケースは現実的である。また、画素値u(3)は更新されずに画素値u(2)を維持しているので、当然、画素値p(4)=u(3)である。よって、いずれの判定においても類似「○」との判定結果が得られ、前背判定部450は、J=1なる判定結果を出す。これは、画素p(4)が背景画素と判定されたことを意味する。
【0120】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(4)=(1−w)・a(3)+w・p(4)なる演算によって求められ、画素値a(3)はa(4)に更新される。ここで、画素値a(4)は、画素値p(4)の影響を受けるため、画素値a(3)から変動する。図では、このようにして画素値が変動した画素a(4)を白地の画素として示してある。
【0121】
これに対して、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(4)=(1−v)・u(3)+v・a(3)なる演算によって求められ、画素値u(3)はu(4)に更新される。図では、このようにして画素値が変動した画素u(4)に薄いハッチングを施して示すことにする。
【0122】
<第5の時点t5>
続いて、第5の時点t5において、図示のような原画像P(5)が与えられたものとしよう。この原画像P(5)では、再び視界に車両Vが侵入してきたため、背景上に車両V(移動物体)が重なった状態の画像になっている。したがって、画素値p(5)≠p(4)である。図では、画素p(5)を含む車両Vの部分を二重斜線ハッチング領域として示してある。
【0123】
この時点t5における前背判定部450による判定処理を考えると、第1判定部420では、画素p(5)と、1つ前の時点の画素a(4)との類否判定が行われ、第2判定部430では、画素p(5)と、1つ前の時点の画素u(4)との類否判定が行われる。図示の例では、いずれも非類似「×」との判定結果が得られ、前背判定部450は、J=0なる判定結果を出している。これは、画素p(5)が前景画素と判定されたことを意味する。したがって、第5のマスク画像M5において、特定位置(x,y)の画素は前景領域(移動物体の領域)に含まれる。
【0124】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(5)=(1−w)・a(4)+w・p(5)なる演算を行い、画素値a(4)はa(5)に更新される。図では、このようにして画素値が変動した画素a(5)に中濃ハッチングを施して示してある。一方、参照画像作成部135は、判定結果J=0を受けて、値を更新しない。したがって、1つ前の時点の画素値u(4)をそのまま画素値u(5)として維持することになる。
【0125】
<第6の時点t6>
続いて、第6の時点t6において、図示のような原画像P(6)が与えられたものとしよう。ここでは、時点t5で侵入してきた車両Vが、そのままの位置で駐車してしまった場合を考えてみよう。この場合、原画像P(6)は原画像P(5)と全く同じになる。
【0126】
この時点t6における前背判定部450による判定処理を考えると、第1判定部420では、画素p(6)と、1つ前の時点の画素a(5)との類否判定が行われ、第2判定部430では、画素p(6)と、1つ前の時点の画素u(5)との類否判定が行われる。図示の例では、いずれも非類似「×」との判定結果が得られ、前背判定部450は、J=0なる判定結果を出している。これは、画素p(6)が前景画素と判定されたことを意味する。したがって、第6のマスク画像M6において、特定位置(x,y)の画素は前景領域(移動物体の領域)に含まれる。
【0127】
一般に、重みw,vを小さく設定しておけば、原画像Pに対する平均画像Aや参照画像Uの追随速度は小さくなるので、車両Vが駐車していた場合でも、当該車両Vが背景に溶け込み、背景の一部として認識されるまでには時間がかかることになる。したがって、図示の例では、車両Vは時点t6ではまだ移動物体として認識されることになる。
【0128】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(6)=(1−w)・a(5)+w・p(6)なる演算を行い、画素値a(5)はa(6)に更新される。図では、このようにして画素値が変動した画素a(5)に斜線ハッチングを施して示してある。一方、参照画像作成部135は、判定結果J=0を受けて、値を更新しない。したがって、1つ前の時点の画素値u(5)をそのまま画素値u(6)として維持することになる。結果的に、時刻t4の画素値u(4)が時刻t6においても画素値u(6)として維持されることになる。
【0129】
<第7の時点t7>
続いて、第7の時点t7において、図示のような原画像P(7)が与えられたものとしよう。この例では、時点t5で侵入してきた車両Vが駐車状態にあり、原画像P(7)は原画像P(6)と全く同じ状態である。
【0130】
この時点t7における前背判定部450による判定処理を考えると、第1判定部420では、画素p(7)と、1つ前の時点の画素a(6)との類否判定が行われ、第2判定部430では、画素p(7)と、1つ前の時点の画素u(6)との類否判定が行われる。ここでは、第1判定部420では類似「○」との判定結果が得られ、第2判定部430では非類似「×」との判定結果が得られたものとしよう。平均画像Aは新たな原画像Pにより常に更新されるのに対して、参照画像Uは条件付き更新が行われるので、原画像Pの変化に対する追随速度は両者で異なる。このため、2つの判定部による判定結果に差が生じることになる。
【0131】
図示の例では、画素a(6)の色は画素p(7)の色にかなり近くなってきているため類似「○」との判定結果が得られたが、画素u(6)の色は、まだ画素p(7)の色に対して差があるため非類似「×」との判定結果が得られている。図10の前背判定部450の判定表に示すとおり、一方が類似「○」、他方が非類似「×」との判定結果が得られた場合、前背判定部450は、当該画素を背景画素と判定し、J=1なる判定結果を出力する。したがって、第7のマスク画像M7において、特定位置(x,y)の画素は背景領域に含まれる。すなわち、時点t7において、駐車中の車両Vは背景に溶け込んだものと認識されることになる。
【0132】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(7)=(1−w)・a(6)+w・p(7)なる演算を行い、画素値a(6)はa(7)に更新される。図では、このようにして画素値が変動した画素a(6)に斜線ハッチングを施して示してある(実際には、画素値a(6)とa(7)とは若干異なるが、図では便宜上、同一ハッチングを施して示す)。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(7)=(1−v)・u(6)+v・a(6)なる演算を行い、画素値u(6)をu(7)に更新する。図では、このようにして画素値が変動した画素u(7)に中濃ハッチングを施して示してある。
【0133】
<第8の時点t8>
続いて、第8の時点t8において、図示のような原画像P(8)が与えられたものとしよう。この例では、時点t5で侵入してきた車両Vが駐車状態にあり、原画像P(8)は原画像P(7)と全く同じ状態である。
【0134】
この時点t8における前背判定部450による判定処理を考えると、第1判定部420では、画素p(8)と、1つ前の時点の画素a(7)との類否判定が行われ、第2判定部430では、画素p(8)と、1つ前の時点の画素u(7)との類否判定が行われる。ここでは、第1判定部420では類似「○」との判定結果が得られ、第2判定部430では非類似「×」との判定結果が得られたものとしよう。
【0135】
図示の例では、画素a(7)の色は画素p(8)の色にかなり近くなってきているため類似「○」との判定結果が得られたが、画素u(7)の色は、まだ画素p(8)の色に対して差があるため非類似「×」との判定結果が得られている。その結果、前背判定部450は、当該画素を背景画素と判定し、J=1なる判定結果を出力する。したがって、第8のマスク画像M8において、特定位置(x,y)の画素は背景領域に含まれる。
【0136】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(8)=(1−w)・a(7)+w・p(8)なる演算を行い、画素値a(7)はa(8)に更新される。図では、このようにして画素値が変動した画素a(8)に斜線ハッチングを施して示してある(実際には、画素値a(7)とa(8)とは若干異なるが、図では便宜上、同一ハッチングを施して示す)。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(8)=(1−v)・u(7)+v・a(7)なる演算を行い、画素値u(7)をu(8)に更新する。図では、このようにして画素値が変動した画素u(8)に斜線ハッチングを施して示してある。
【0137】
<第9の時点t9>
続いて、図12に示す第9の時点t9について説明する(図12の最上段に示す第8の時点t8の各画像は、図11の最下段に示す第8の時点t8の各画像と同じものである)。ここでは、第9の時点t9において、図示のような原画像P(9)が与えられたものとしよう。この例では、時点t5で侵入してきた車両Vが依然として駐車状態にあり、原画像P(9)は原画像P(8)と全く同じ状態である。
【0138】
この時点t9における前背判定部450による判定処理を考えると、第1判定部420では、画素p(9)と、1つ前の時点の画素a(8)との類否判定が行われ、第2判定部430では、画素p(9)と、1つ前の時点の画素u(8)との類否判定が行われる。ここでは、いずれの判定結果も類似「○」との判定結果が得られたものとしよう。すなわち、車両Vが長時間駐車していたため、平均画像Aにおいても参照画像Uにおいても、この車両Vの領域が背景に溶け込んだ状態になり、画素p(9)は、いずれの判定部においても背景画素と判定されるに至ったことになる。したがって、第9のマスク画像M9において、特定位置(x,y)の画素は背景領域に含まれる。
【0139】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(9)=(1−w)・a(8)+w・p(9)なる演算を行い、画素値a(8)はa(9)に更新される。図では、このようにして画素値が変動した画素a(9)に斜線ハッチングを施して示してある(実際には、画素値a(8)とa(9)とは若干異なるが、図では便宜上、同一ハッチングを施して示す)。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(9)=(1−v)・u(8)+v・a(8)なる演算を行い、画素値u(8)をu(9)に更新する。図では、このようにして画素値が変動した画素u(9)に斜線ハッチングを施して示してある(実際には、画素値u(8)とu(9)とは若干異なるが、図では便宜上、同一ハッチングを施して示す)。
【0140】
<第10の時点t10>
続いて、第10の時点t10において、図示のような原画像P(10)が与えられたものとしよう。この原画像P(10)では、これまで駐車していた車両Vが視界から消え、第1番目の原画像P(1)と同じ状態に戻っている。したがって、画素値p(10)≠p(9)である。
【0141】
この時点t10における前背判定部450による判定処理を考えると、第1判定部420では、画素p(10)と、1つ前の時点の画素a(9)との類否判定が行われ、第2判定部430では、画素p(10)と、1つ前の時点の画素u(9)との類否判定が行われる。画素a(9)および画素u(9)の色は、いずれも車両Vの色にかなり近づいていたため、図示の例では、いずれも非類似「×」との判定結果が得られ、前背判定部450は、J=0なる判定結果を出している。これは、画素p(10)が前景画素と判定されたことを意味する。したがって、第10のマスク画像M10において、特定位置(x,y)の画素は前景領域(移動物体の領域)に含まれる。
【0142】
結局、この例の場合、第10の原画像P(10)上には車両Vは存在していないが、第10のマスク画像M10上では、車両Vがかつて存在していた領域が前景領域Fとして検出されることになる。もちろん、現実的な監視カメラの撮影画像の場合は、時点t9から時点t10に至るときに車両Vが忽然と消えることはなく、車両Vは画面上を徐々に移動して去ってゆくことになるので、実際には、徐々に移動中の車両Vの占有領域がマスク画像M上に前景領域Fとして現れることになる。
【0143】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(10)=(1−w)・a(9)+w・p(10)なる演算を行い、画素値a(9)はa(10)に更新される。図では、このようにして画素値が変動した画素a(10)に中濃ハッチングを施して示してある。一方、参照画像作成部135は、判定結果J=0を受けて、値を更新しない。したがって、1つ前の時点の画素値u(9)をそのまま画素値u(10)として維持することになる。
【0144】
<第11の時点t11>
続いて、第11の時点t11において、図示のような原画像P(11)が与えられたものとしよう。この例では、原画像P(11)は、視界に車両Vが再び侵入してきたため、背景上に車両V(移動物体)が重なった状態の画像になっている。したがって、画素値p(11)≠p(10)である。
【0145】
この時点t11における特定位置(x,y)に配置された画素についての前背判定部450による判定処理を考えると、第1判定部420では、画素p(11)と、1つ前の時点の画素a(10)との類否判定が行われ、第2判定部430では、画素p(11)と、1つ前の時点の画素u(10)との類否判定が行われる。ここでは、第1判定部420では非類似「×」との判定結果が得られ、第2判定部430では類似「○」との判定結果が得られたものとしよう。
【0146】
図示の例では、画素a(10)の色は画素p(10)の影響を受けて背景の色に近づいていたため、車両の一部を構成する画素p(11)に対しては非類似「×」との判定結果が得られたが、画素u(10)は更新されなかったため、画素p(11)に対して類似「○」との判定結果が得られたことになる。図10の前背判定部450の判定表に示すとおり、一方が類似「○」、他方が非類似「×」との判定結果が得られた場合、前背判定部450は、当該画素を背景画素と判定し、J=1なる判定結果を出力する。したがって、第11のマスク画像M11において、特定位置(x,y)の画素は背景領域に含まれる。すなわち、ここに示す非現実的なモデルの場合、時点t11に出現した車両Vは、マスク画像M11上では移動物体として検出されない。ただ、後述するように、マスク画像M12上で検出されることになる。
【0147】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(11)=(1−w)・a(10)+w・p(11)なる演算を行い、画素値a(10)はa(11)に更新される。図では、このようにして画素値が変動した画素a(11)に斜線ハッチングを施して示してある。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(11)=(1−v)・u(10)+v・a(10)なる演算を行い、画素値u(10)をu(11)に更新する。図では、このようにして画素値が変動した画素u(11)に斜線ハッチングを施して示してある(実際には、画素値u(10)とu(11)とは若干異なるが、図では便宜上、同一ハッチングを施して示す)。
【0148】
<第12の時点t12>
続いて、第12の時点t12について説明する。ここでは、第12の時点t12において、図示のような原画像P(12)が与えられたものとしよう。この例では、車両Vが視界から消え、第1番目の原画像P(1)と同じ状態に戻っている。したがって、画素値p(12)≠p(11)である。
【0149】
この時点t12における前背判定部450による判定処理を考えると、第1判定部420では、画素p(12)と、1つ前の時点の画素a(11)との類否判定が行われ、第2判定部430では、画素p(12)と、1つ前の時点の画素u(11)との類否判定が行われる。画素a(11)および画素u(11)の色は、いずれも車両Vの色にかなり近いため、図示の例では、いずれも非類似「×」との判定結果が得られ、前背判定部450は、J=0なる判定結果を出している。これは、画素p(12)が前景画素と判定されたことを意味する。したがって、第12のマスク画像M12において、特定位置(x,y)の画素は前景領域(移動物体の領域)に含まれる。
【0150】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(12)=(1−w)・a(11)+w・p(12)なる演算を行い、画素値a(11)はa(12)に更新される。図では、このようにして画素値が変動した画素a(12)に中濃ハッチングを施して示してある。一方、参照画像作成部135は、判定結果J=0を受けて、値を更新しない。したがって、1つ前の時点の画素値u(11)をそのまま画素値u(12)として維持することになる。
【0151】
<第13の時点t13>
続いて、第13の時点t13において、図示のような原画像P(13)が与えられたものとしよう。この例では、画像内に新たな車両の侵入はなく、原画像P(13)は第1番目の原画像P(1)と全く同じ状態である。
【0152】
この時点t13における前背判定部450による判定処理を考えると、第1判定部420では、画素p(13)と、1つ前の時点の画素a(12)との類否判定が行われ、第2判定部430では、画素p(13)と、1つ前の時点の画素u(12)との類否判定が行われる。ここでは、第1判定部420では類似「○」との判定結果が得られ、第2判定部430では非類似「×」との判定結果が得られたものとしよう。前背判定部450は、この判定結果に基づいて当該画素を背景画素と判定し、J=1なる判定結果を出力する。したがって、第13のマスク画像M13において、特定位置(x,y)の画素は背景領域に含まれる。
【0153】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(13)=(1−w)・a(12)+w・p(13)なる演算を行い、画素値a(12)はa(13)に更新される。図では、このようにして画素値が変動した画素a(13)に薄いハッチングを施して示してある。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(13)=(1−v)・u(12)+v・a(12)なる演算を行い、画素値u(12)をu(13)に更新する。図では、このようにして画素値が変動した画素u(13)に中濃ハッチングを施して示してある。
【0154】
<第14の時点t14>
続いて、第14の時点t14について説明する。ここでは、第14の時点t14において、図示のような原画像P(14)が与えられたものとしよう。この例では、依然として画像内に車両の侵入はなく、原画像P(14)は第1番目の原画像P(1)と全く同じ状態である。
【0155】
この時点t14における前背判定部450による判定処理を考えると、第1判定部420では、画素p(14)と、1つ前の時点の画素a(13)との類否判定が行われ、第2判定部430では、画素p(14)と、1つ前の時点の画素u(13)との類否判定が行われる。ここでは、いずれも類似「○」との判定結果が得られたものとしよう。前背判定部450は、この判定結果に基づいて当該画素を背景画素と判定し、J=1なる判定結果を出力する。したがって、第14のマスク画像M14において、特定位置(x,y)の画素は背景領域に含まれる。
【0156】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(14)=(1−w)・a(13)+w・p(14)なる演算を行い、画素値a(13)はa(14)に更新される。図では、このようにして画素値が変動した画素a(14)を白地で示してある。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(14)=(1−v)・u(13)+v・a(13)なる演算を行い、画素値u(13)をu(14)に更新する。図では、このようにして画素値が変動した画素u(9)に薄いハッチングを施して示してある。
【0157】
<第15の時点t15>
最後に、第15の時点t15について説明する。ここでは、第15の時点t15において、図示のような原画像P(15)が与えられたものとしよう。この例では、依然として画像内に車両の侵入はなく、原画像P(15)は第1番目の原画像P(1)と全く同じ状態である。
【0158】
この時点t15における前背判定部450による判定処理を考えると、第1判定部420では、画素p(15)と、1つ前の時点の画素a(14)との類否判定が行われ、第2判定部430では、画素p(15)と、1つ前の時点の画素u(14)との類否判定が行われる。ここでは、いずれも類似「○」との判定結果が得られたものとしよう。前背判定部450は、この判定結果に基づいて当該画素を背景画素と判定し、J=1なる判定結果を出力する。したがって、第15のマスク画像M15において、特定位置(x,y)の画素は背景領域に含まれる。
【0159】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(15)=(1−w)・a(14)+w・p(15)なる演算を行い、画素値a(14)はa(15)に更新される。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(15)=(1−v)・u(14)+v・a(14)なる演算を行い、画素値u(14)をu(15)に更新する。
【0160】
<<< §6.平均画像と参照画像との双方を用いる利点 >>>
これまで、§3において、従来提案されている移動物体検出装置の構成(図8)を説明し、§4において、これを改良した本発明に係る移動物体検出装置の構成(図9)を説明した。いずれの装置を用いた場合も、新たに入力された原画像Pについて、背景領域Bと前景領域Fとを区別するマスク画像Mを得ることができ、前景領域Fは、移動物体が占めると推定される領域ということになる。
【0161】
ただ、図8に示す従来装置の場合、マスク画像Mは、画像比較部200における第i番目の原画像P(i)と第(i−1)番目の平均画像A(i−1)との比較結果に基づいて得られるのに対して、図9に示す本発明に係る装置の場合、マスク画像Mは、画像比較部400における第i番目の原画像P(i)と第(i−1)番目の平均画像A(i−1)との比較結果(第1判定部420の判定結果)と、第i番目の原画像P(i)と第(i−1)番目の参照画像U(i−1)との比較結果(第2判定部430の判定結果)と、の双方に基づいて得られることになる。別言すれば、図8に示す従来装置の場合、原画像Pと平均画像Aとの比較により移動物体の検出を行っていたのに対し、図9に示す本発明に係る装置の場合、原画像Pを平均画像Aと参照画像Uとの双方と比較することにより移動物体の検出を行うことになる。そこで、ここでは、平均画像Aと参照画像Uとの双方を用いた移動物体検出の利点を説明する。
【0162】
平均画像Aと参照画像Uとの大きな相違点は、§5に画像変遷の実例を示したように、平均画像Aの各画素は、新たな原画像Pが入力されるたびに毎回必ず更新されるのに対して、参照画像Uの各画素は、必ずしも毎回更新されるわけではない、という点である。なお、ここで言う「更新」とは、必ずしも「画素値の変動」を指すものではなく、「前回の画素値をそのまま維持するのではなく、新たな画素値を与える」ことを意味する。したがって、たとえば、図10上段に示す式(1A)において、p(i)=a(i−1)であった場合、結果的にa(i)=a(i−1)になるが、第i番目の平均画像A(i)の画素値として新たな画素値a(i)が与えられているので、値が更新されていることになる。同様に、図10中段に示す式(1B)において、a(i−1)=u(i−1)であった場合、結果的にu(i)=u(i−1)になるが、第i番目の参照画像U(i)の画素値として新たな画素値u(i)が与えられているので、値が更新されていることになる。これに対して、図10中段の式(1C)「u(i)=u(i−1)」は、「前回の画素値をそのまま維持すること」を意味しており、値は更新されていないことになる。
【0163】
上述したとおり、平均画像Aの各画素は、新たな原画像Pが入力されるたびに必ず更新されるため、原画像Pの変化に追随して変化を遂げる動的画像になる。もちろん、平均画像Aを構成する各画素の画素値は、重みwを考慮した重みつき平均として算出されるため、原画像Pの画素値が急激に変動しても、平均画像Aの画素値がこれに追随して急激に変動することはない。これは、図4に示す画素値p(i)とa(i)との変動を比べれば容易に理解できよう。しかしながら、平均画像Aは、新たな原画像Pの影響を受けて、必ず変化する画像であるので、たとえば、図1に示すような原画像P10〜P40が与えられた場合、通過した車両の影響が平均画像Aにも及ぶことになる。より具体的には、赤色の車両が通過した場合、平均画像Aの一部も若干赤みを帯びるように変化する。
【0164】
これに対して、参照画像Uの各画素は、新たな原画像Pが入力されるたびに必ずしも更新されるものではない。すなわち、前背判定部450において、背景領域(J=1)と判定された部分に対しては平均画像Aを利用した更新が行われるが(図10の式(1B))、前景領域(J=0)と判定された部分に対しては更新は行われない(図10の式(1C))。このため、原画像Pの変化に追随した参照画像Uの変化は、平均画像Aに比べて緩慢になる。
【0165】
実際、図11および図12に示す実例を見ると、時点t3において車両Vが通過すると、平均画像A(3)の画素a(3)は、これに追随して若干変化しているが、参照画像U(3)の画素u(3)は、更新されないため、画素u(2)のまま変化していない。同様に、時点t10,t12を見ても、平均画像Aは原画像Pの変動に追随して変化しているのに対して、参照画像Uは変化していない。要するに、図11および図12に示す時点t1〜t15の画像変遷を見ればわかるとおり、平均画像Aは、原画像Pの変動に追随して逐次変化するのに対して、参照画像Uの変化は緩慢であり、原画像Pが急激に変動しても、直ちに追随することはない。
【0166】
本発明に係る移動物体検出装置では、新たに入力された原画像Pは、上述したように追随態様が互いに異なっている平均画像Aおよび参照画像Uの双方と比較され、少なくとも一方に類似している領域は背景領域と判定されることになる。したがって、たとえば、雲の動きなどによって原画像Pの背景部分に短期的な日照変化が生じた場合でも、平均画像Aおよび参照画像Uの少なくとも一方に類似している領域は、背景領域Bと判定されることになる。その結果、日照変化などの自然現象に起因して変化した背景領域が前景領域F(移動物体の領域)として誤検出される可能性を低減することができ、より正確な検出を行うことができるようになる。これが、平均画像Aと参照画像Uとの双方を用いて移動物体検出を行う利点である。
【0167】
なお、図9に示す移動物体検出装置には、パラメータ設定部340が設けられており、ユーザは、パラメータ設定部340に対する操作入力によって、各構成要素で用いられるパラメータを任意の値に設定することができる。既に述べたとおり、この装置で設定可能なパラメータは、第1判定部420および第2判定部430の類否判定の基準となる判定パラメータ(たとえば、図7の円柱モデルを利用した判定を行う場合は、円柱Cの半径および長さL)と、平均画像作成部130で用いる重みwと、参照画像作成部135で用いる重みvである。最適なパラメータ値は、装置の実際の使用環境に基づいて変わるので、実用上は、個々の使用環境ごとに試行錯誤によって最適なパラメータ値を設定するようにすればよい。
【0168】
ところで、本願発明者が行った実験によると、平均画像作成部130で用いる重みwと、参照画像作成部135で用いる重みvとについて、w>vなる関係が得られるような設定を行うと、より良好な検出結果が得られることが判明した。上述したとおり、参照画像Uは平均画像Aに比べて、原画像Pの変動に対して緩慢な追従を行うが、参照画像Uを作成する際に用いる重みvを、平均画像Aを作成する際に用いる重みwに比べて小さく設定することにより、参照画像Uの追従の緩慢度を更に上げることができる。その結果、より良好な検出結果が得られるようになるものと考えられる。
【0169】
なお、パラメータ設定部340を設けた場合には、w>vなる関係が得られるように、ユーザの操作入力に制限を課する機能を付加しておくのが好ましい。たとえば、w>vなる条件に反するようなパラメータ設定を行う操作入力が行われた場合には、エラー表示を行い、当該操作入力を受け付けないような機能を設けておけばよい。あるいは、たとえば、「v=0.1×w」というような式により、vとwとの関係を固定しておき、ユーザの操作入力によって、パラメータwのみが設定できるようにしておいてもよい。
【0170】
実際、本願発明者は、屋外に設置した監視カメラから毎秒30フレームの原画像を取り込んで、重みw=0.01、重みv=0.001なる設定で実験を行ったところ、日照変化による誤検出を実用的なレベルまで低減させた良好な検出結果を得ることができた。
【0171】
<<< §7.回転楕円体モデルを用いた類否判定 >>>
図9に示す移動物体検出装置における第1判定部420および第2判定部430では、2つの画素についての類否判定が行われる。このような類否判定の一般的な方法は、既に§2においていくつかの例を紹介したとおりである。ただ、本願発明者は、本発明を実施するにあたって特に有効な類否判定方法を着想したので、以下、この方法を述べておく(この方法は、特願2009−226146号明細書に開示されている方法である)。
【0172】
ここに示す類否判定方法は、基本的には、比較対象となる一方の画素の画素値を基準画素値、他方の画素の画素値を比較画素値として、三原色の各画素値を各座標軸にとった三次元座標系において、基準画素値に対応する座標に位置する基準点Qと比較画素値に対応する座標に位置する比較点qをとり、基準点Qを中心とする所定サイズの基準立体と比較点qとの位置関係を調べ、比較点qが基準立体の外部に位置すると判定できる場合に非類似との判定を行い、内部に位置すると判定できる場合には類似との判定を行うものである。
【0173】
§2で述べた図7に示す例は、基準立体として円柱Cを用いる例であるが、ここで述べる例は、基準立体として回転楕円体を用いるようにした点に特徴がある。ここでは、第1判定部420による類否判定に、この回転楕円体モデルを用いた場合を説明するが、この回転楕円体モデルは、第2判定部430による類否判定にも同様に利用することができる。
【0174】
図13は、図7に示す円柱Cを回転楕円体Eaに置き換えた回転楕円体モデルを示す三次元色空間図である。ここで、類似範囲を示す回転楕円体Eaは、平均画像Aの画素値を示す座標点Aを中心点とし、ベクトルVa上に定義された基準軸Zaを長軸方向とする楕円を、基準軸Zaを回転軸として回転させることにより得られる回転体である。この回転楕円体Eaのサイズは、長軸方向の長さLa1と短軸方向の長さLa2によって規定される。
【0175】
この回転楕円体モデルを用いた場合でも、類否判定の方法は、前述の円柱モデルを用いた場合の判定方法と同様であり、回転楕円体Eaの内部領域にプロットされる画素は、座標点Aに対応する画素値をもった画素に対して類似する画素と判定されることになる。具体的には、図示の例の場合、座標点Pに対応する画素値をもった画素は、回転楕円体Eaの外側に位置するため類似範囲外と判定され、両画素は非類似と判定される。逆に、座標点Pが回転楕円体Eaの内部に位置していれば、両画素は類似と判定される。
【0176】
一方、図14は、図13に示す回転楕円体モデルのバリエーションを示す三次元色空間図である。図示のとおり、このモデルにおける類似範囲を示す回転楕円体Epは、判定対象となる原画像Pの画素値を示す座標点Pを中心点とし、ベクトルVp上に定義された基準軸Zpを長軸方向とする楕円を、基準軸Zpを回転軸として回転させることにより得られる回転体である。この回転楕円体Epのサイズは、長軸方向の長さLp1と短軸方向の長さLp2によって規定される。
【0177】
図13に示すモデルの場合、背景を示す平均画像Aの画素値(Ra,Ga,Ba)をプロットした座標点Aを基準として、類似範囲を示す回転楕円体Eaが定義され、比較対象となる原画像Pの画素値(Rp,Gp,Bp)をプロットした座標点Pが、回転楕円体Eaの内側にあるか外側にあるかを判定していたのに対して、図14に示すモデルの場合、比較対象となる原画像Pの画素値(Rp,Gp,Bp)をプロットした座標点Pをプロットした座標点Pを基準として、類似範囲を示す回転楕円体Epが定義され、背景を示す平均画像Aの画素値(Ra,Ga,Ba)をプロットした座標点Aが、回転楕円体Epの内側にあるか外側にあるかを判定することになる。
【0178】
要するに、前者では、新たに入力された原画像Pの画素が、背景を示す過去の平均画像Aの画素の類似範囲に入っているか否かを判定する手法をとるのに対して、後者では、背景を示す過去の平均画像Aの画素が、新たに入力された原画像Pの画素の類似範囲に入っているか否かを判定する手法をとることになる。結局、両者の相違は、比較対象となる2つの画素のどちらを基準にして回転楕円体を定義するかという点だけである。
【0179】
そこで、以下の説明では、比較対象となる2つの画像のうち、一方の画像の画素値を基準画素値(R,G,B)と表記し、他方の画像の画素値を比較画素値(r,g,b)と表記することにする。また、三次元色空間上で基準画素値(R,G,B)をプロットした座標点Q(R,G,B)を基準点Qと呼び、比較画素値(r,g,b)をプロットした座標点q(r,g,b)を比較点qと呼ぶことにする。類否判定は、基準点Qを中心として定義された回転楕円体と比較点qとの位置関係に基づいてなされることになる。
【0180】
図15は、このような一般的な表記にしたがって、回転楕円体モデルを図示した三次元色空間図である。原点Oを起点として基準点Qへ向かうベクトルをベクトルVとすれば、基準軸Zは、このベクトルV上の軸になる。そして、回転楕円体Eは、基準点Qを中心点とし、ベクトルV上に定義された基準軸Zを長軸方向とする楕円を、基準軸Zを回転軸として回転させることにより得られる回転体である。ここで、比較点q(r,g,b)が回転楕円体Eの内部に位置すれば、両画素は類似と判定され、回転楕円体Eの外部に位置すれば、両画素は非類似と判定される。
【0181】
図13に示すモデルは、類否判定を行う際に、平均画像A(i−1)上の画素a(i−1)の画素値を基準画素値(R,G,B)として基準点Q(R,G,B)をプロットし、原画像P(i)上の画素p(i)の画素値を比較画素値(r,g,b)として比較点q(r,g,b)をプロットしたものである。これに対して、図14に示すモデルは、類否判定を行う際に、原画像P(i)上の画素p(i)の画素値を基準画素値(R,G,B)として基準点Q(R,G,B)をプロットし、平均画像A(i−1)上の画素a(i−1)の画素値を比較画素値(r,g,b)として比較点q(r,g,b)をプロットしたものである。
【0182】
図7に示す円柱モデルに比べて、図15に示す回転楕円体モデルは、次の2つの利点を有している。第1の利点は、時刻や天候などによる照明変動の影響を排除した、より正確な移動物体の検出が可能になる点である。本願発明者は、ビデオカメラで撮影した様々な実写画像について、図7に示す円柱モデルに基づく類否判定処理を採り入れた移動物体の検出と、図15に示す回転楕円体モデルに基づく類否判定処理を採り入れた移動物体の検出とを試みたところ、後者の検出の方がより正確である実験結果が得られた。これは、円柱モデルの場合、円柱の長手方向の端部周縁領域において、誤検出が行われる可能性が高くなるためと考えられる。
【0183】
図16は、円柱モデルに対する回転楕円体モデルの利点を示す断面図である。図示の例において、円柱Cの断面と回転楕円体Eの断面とを比較すると、いずれも基準点Qを中心として、基準軸Zの方向を長手方向とする図形であるが、図にハッチングを施す領域が、円柱Cでは内部領域と判定されるのに対して、回転楕円体Eでは外部領域と判定されることがわかる。したがって、比較点qが、このハッチング領域に位置する場合、一方では類似範囲内と判定され、他方では類似範囲外と判定される。もちろん、いずれの判定結果が正しいものであるかは、一概には決定できないが、少なくとも実写画像を用いた移動物体の検出処理に利用する限りにおいて、後者の判定結果が正しい結果となる可能性が高いことになる。
【0184】
すなわち、円柱モデルの場合、比較点qが図のハッチング領域内に位置する場合、判定対象となる画素は背景画像に類似しているため背景領域B内の画素とされることになるが、実際には、背景画像に対して非類似であり、前景領域F内の画素とすべきであった、というケースが比較的高い確率で生じてしまうものと考えられる。図16に示すとおり、断面形状で比較すると、回転楕円体Eの断面は曲面からなる楕円であるのに対して、円柱Cの断面は直線からなる矩形であり、実写画像を対象物とした類否判定の境界線としては、断面が曲面からなる楕円の方が適していることは、直感的にも理解できよう。
【0185】
このように、少なくとも、実写画像に基づく移動物体の検出処理に利用する場合、円柱モデルよりも回転楕円体モデルの方が検出精度が向上するという第1の利点が得られる。一方、回転楕円体モデルを採用することにより得られる第2の利点は、演算負担の軽減を図ることができる点である。この第2の利点の詳細については、§8で述べることにするが、ここでは、演算負担の軽減に寄与する工夫のひとつを簡単に述べておく。
【0186】
この工夫は、回転楕円体Eのサイズを、三次元座標系の原点Oと基準点Qとの距離Dに比例した値に設定することである。具体的には、図15に示すとおり、距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、基準軸Zを中心に回転させることにより回転楕円体Eを定義すればよい。
【0187】
このような条件で回転楕円体Eのサイズを決定すると、基準点Qが原点Oから離れれば離れるほど、回転楕円体Eのサイズは大きくなり、それだけ類似範囲が広くなる。これは、より明度の高い部分、すなわち、画像のハイライト部ほど、類似範囲が広くなることを意味するが、実用上、そのような類似範囲設定がなされても支障は生じない。一方、類似範囲内か否か、すなわち、回転楕円体Eの内部か外部かを判定するための演算負担は、長軸半径をα=h・D、短軸半径をβ=k・Dと設定することにより(すなわち、楕円のサイズを、距離Dに比例した値に設定することにより)、大幅に軽減することができる。その詳細は§8で述べることにする。
【0188】
ところで、本願発明者が行った実験によると、回転楕円体Eのサイズを、距離Dに比例した値に設定する場合は、図13のモデルよりも、図14のモデルを用いた方が、検出精度が向上することが判明した。図14のモデルを採用した場合、図15において、基準点Q(R,G,B)は、判定対象となる原画像Pの画素の画素値を基準画素値としてプロットした点になり、比較点q(r,g,b)は、背景となる平均画像A(第2判定部430に適用する場合は、参照画像U)の画素の画素値を比較画素値としてプロットした点になる。
【0189】
上述したとおり、図13のモデルと図14のモデルは、原画像Pの画素と平均画像A(参照画像U)の画素とのいずれを基準にして回転楕円体を定義するか、という点において異なる。しかも、回転楕円体のサイズを、距離Dに比例した値に設定すれば、定義される回転楕円体のサイズが、両者では異なることになる。すなわち、図13に示すモデルにおける回転楕円体Eaの長軸方向の長さLa1および短軸方向の長さLa2は、ベクトルVaの長さに、それぞれパラメータ2hおよび2kを乗じることにより得られるのに対して、図14に示すモデルにおける回転楕円体Epの長軸方向の長さLp1および短軸方向の長さLp2は、ベクトルVpの長さに、それぞれパラメータ2hおよび2kを乗じることにより得られる。したがって、図示の例の場合、回転楕円体Eaのサイズよりも、回転楕円体Epのサイズの方が大きくなっており、より広い類似範囲が設定されている。
【0190】
もちろん、常識的には、図14に示すモデルよりも図13に示すモデルを採用するのが一般的であろう。すなわち、予め背景とみなすことができる類似範囲を回転楕円体Eaとして定義しておき、新たに入力された画像の画素を示す点Pが、この類似範囲内に入るか否かを判定することにより、当該画素が移動物体上の点であるか否かを認識する、という方針を採るのが、一般的な考え方である。これに対して、図14に示すモデルは、新たに入力された画像の画素の類似範囲を回転楕円体Ebとして定め、その中に、背景画素を示す点Aが入るか否かを判定する手法を採るものであり、一般常識に基づく手法とは逆の手法と言うことができる。
【0191】
しかしながら、本願発明者が行った実験によると、少なくとも実写画像を用いた移動物体の検出処理に利用する限りにおいて、図13に示すモデルを採用するよりも、図14に示すモデルを採用した方が、より正しい判定結果が得られた。これは、これまで述べた方法で、平均画像Aの画素値a(i)(第2判定部430に適用する場合は、参照画像Uの画素値u(i))を決定すると、様々な要因により、新たに入力されてくる原画像Pの画素値p(i)が大きく変動しても、画素値a(i),u(i)の値が当該変動に追従するまでにはある程度の時間がかかるため、類似範囲の広狭を、原画像Pの画素値p(i)に応じて定めた方が、正しい判定が可能になるためと考えられる。
【0192】
結局、本発明における画素の類否判定を、基準立体モデル(円柱モデルや回転楕円体モデル)を利用して行う場合、第1判定部420は、原画像Pの画素の画素値を基準画素値、平均画像Aの画素の画素値を比較画素値として判定を行い、第2判定部430は、原画像Pの画素の画素値を基準画素値、参照画像Uの画素の画素値を比較画素値として判定を行うようにするのが好ましい。
【0193】
以上、移動物体の検出に利用する画素の類否判定処理方法において、円柱モデルを採用する方法に比べて、回転楕円体モデルを採用する利点として、より正確な移動物体の検出が可能になる、という第1の利点を述べるとともに、演算負担を軽減することができるという第2の利点についても簡単に説明した。続く§8では、この第2の利点についての詳細を述べることにする。
【0194】
<<< §8.回転楕円体モデルを利用した実用的な類否判定手順 >>>
一般に、三次元空間上において、ある1点が、円柱の内側にあるか外側にあるかを判定する場合も、回転楕円体の内側にあるか外側にあるかを判定する場合も、座標値を用いた幾何学演算が必要になる。しかしながら、回転楕円体の内側にあるか外側にあるかを判定する場合は、演算式を工夫し、また、一部に近似演算を取り込むことにより、演算負担を大幅に軽減することが可能である。ここでは、図15に示す回転楕円体モデルにおいて、比較点q(r,g,b)が、基準点Q(R,G,B)を中心として定義された回転楕円体Eの内側にあるか外側にあるかを判定する実用的な手順を述べる。
【0195】
ここで述べる手順は、3つの条件判定段階によって構成される。図17は、そのうちの第1の条件判定段階の原理を示す断面図である。図において、下方に示す原点Oは、図15の三次元色空間図に示されているRGB三次元直交座標系の原点Oであり、当該座標系上に、基準点Q(R,G,B)と比較点q(r,g,b)とがプロットされている(座標軸は図示省略)。基準軸Zは、原点Oと基準点Qとを結ぶ線であり、回転楕円体Eは、この基準軸Zを長軸方向とし、基準点Qを中心とする楕円を、基準軸Zを回転軸として回転させることによって得られる回転体である。図に断面を示す楕円は、長軸半径をα、短軸半径をβとする楕円であるが、§7で述べたとおり、原点Oと基準点Qとの距離をDとしたときに、所定のパラメータh,kについて、α=h・D(但し、h<1)、β=k・D(但し、k<h)となるように設定されている。
【0196】
第1の条件判定段階では、比較点qが、図のハッチング領域内にあるかどうかの判定が行われる。すなわち、図の下方のハッチング領域は、「原点Oを中心とし半径(D−α)の球C1の内側領域」であるから、原点Oと比較点qとの距離をdとすれば、「D−α>d」なる条件が満足されれば、比較点qは、球C1の内側に位置することになる。球C1は、回転楕円体Eの原点Oに対する最近接点E1において、回転楕円体Eに接する球であり、球C1の内側領域は、当然、回転楕円体Eの外側領域になる。一方、図の上方のハッチング領域は、「原点Oを中心とし半径(D+α)の球C2の外側領域」であるから、原点Oと比較点qとの距離をdとすれば、「D+α<d」なる条件が満足されれば、比較点qは、球C2の外側に位置することになる。球C2は、回転楕円体Eの原点Oに対する最遠接点E2において、回転楕円体Eに接する球であり、球C2の外側領域は、当然、回転楕円体Eの外側領域になる。
【0197】
図18は、図17に示す第1の条件判定原理に基づく判定式を示す図である。図18(a) は、比較点qが球C1の内側領域にあるための条件式「D−α>d」の変形プロセスを示す。すなわち、α=h・Dを代入すると、条件式は「(1−h)・D>d」となり、両辺を2乗すると、
(1−h)2・D2>d2 式(2)
が得られる。一方、図18(b) は、比較点qが球C2の外側領域にあるための条件式「D+α<d」の変形プロセスを示す。すなわち、α=h・Dを代入すると、条件式は「(1+h)・D<d」となり、両辺を2乗すると、
(1+h)2・D2<d2 式(3)
が得られる。
【0198】
ここで、基準点Qの座標値が(R,G,B)、比較点qの座標値が(r,g,b)であるから、図18(c) に示すように、
D=√(R2+G2+B2)
d=√(r2+g2+b2)
であり、両辺を2乗すると、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
となる。したがって、式(2),式(3)を書き直せば、図18(c) に示すように、
(1−h)2・(R2+G2+B2)
>(r2+g2+b2) 式(2′)
(1+h)2・(R2+G2+B2)
<(r2+g2+b2) 式(3′)
なる条件式が得られる。ここで、hは予め設定された所定のパラメータであり、(R,G,B)および(r,g,b)は、基準点Qおよび比較点qの座標値(すなわち、比較対象となる2つの画素の三原色の画素値)である。式(2′)および式(3′)は、2乗演算と和差演算のみで構成される演算式であるから、演算負担は非常に軽いものになる。
【0199】
こうして、式(2′)もしくは式(3′)のいずれかの条件を満足する結果が得られた場合、比較点qは、回転楕円体Eの外側に位置すると判断できるので、基準点Qの類似範囲外との判定を行うことができる。
【0200】
一方、式(2′)および式(3′)のいずれの条件も満足しない場合は、図17において、比較点qは、球C1の外側かつ球C2の内側の領域に位置することになる。したがって、その場合には、以下に述べる第2の条件判定段階が引き続き行われる。
【0201】
図19は、この第2の条件判定段階の原理を示す断面図である。第2の条件判定段階では、比較点qが、図19のハッチング領域内にあるかどうかの判定が行われる。このハッチング領域は、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの外側領域」として定義される領域である。円錐ξの半頂角は、図示のとおり角φになる。図示の断面図では、円錐ξが接点Tにおいて楕円Eに接している状態が示されているが、実際には、円錐ξと回転楕円体Eとは、接線円Tで線接触することになる。三次元空間上での円錐ξと回転楕円体Eとの関係は、コーンに卵を挿入した状態を考えれば容易に理解できよう。
【0202】
結局、この第2の条件判定段階では、比較点qが、円錐ξの内側にあるか、外側にあるかを判定することになる。円錐ξと回転楕円体Eとが接する接線円Tの位置は、幾何学的な演算によって求めることができ、そのような接線円Tを通る円錐ξを示す幾何学的な方程式を求めることも可能である。しかしながら、そのような方程式は比較的複雑な式になる。そこで、ここでは、円錐ξの代わりに、図19に破線で示す円錐ξ′を利用した近似的な判定を行うことにより、演算負担の軽減を図ることにする。
【0203】
図19に実線で描いた円錐ξは、接線円Tで回転楕円体Eに接する図形であるが、破線で描いた円錐ξ′は、交線円Sで回転楕円体Eと交差する図形である。ここで、交線円Sは、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線を構成する円であり、基準点Qと交線円S上の任意の点との距離は図示のとおりfである。結局、この近似的な判定では、「原点Oを頂点、基準軸Zを中心軸とし、交線円Sを通る円錐ξ′の外側に比較点qが位置するか否か」という判定が行われることになる。
【0204】
図示のとおり、円錐ξ′の半頂角φ′は、円錐ξの半頂角φよりも若干小さくなり、円錐ξ′は、円錐ξよりも若干小さな円錐になる。このため、「円錐ξ′の外側」かつ「円錐ξの内側」の点の場合、実際は回転楕円体Eの内部の点であるにもかかわらず、円錐ξ′を代用する近似的な判定方法では、回転楕円体Eの外部の点と判定されてしまうことになる。したがって、「回転楕円体Eの内外を厳密に判定する」という観点では、円錐ξ′を代用する判定方法は不正確である。ただ、そもそも回転楕円体E自体が、移動物体を厳密に検出する機能をもつ立体であるわけではなく、あくまでも1つの指標を提供するものであるから、円錐ξ′を代用する近似的な判定方法を用いたとしても、大きな支障は生じない。
【0205】
そこで、比較点qが、この円錐ξ′の内側にあるのか外側にあるのかを幾何学的に判定するための具体的な方法を考えてみる。いま、図20(a) に示すように、三辺の長さがそれぞれa,b,cである一般的な三角形を考える。ここで、2辺b,cの挟角をφとすると、余弦定理により、
cos φ=(b2+c2−a2)/2bc 式(4)
が成り立つ。
【0206】
続いて、図20(b) に示す三角形OQSを考える。この図20(b) は、図19に示す三角形OQSをそのまま抜き出して示したものである。交線円Sは、前述したとおり、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線であるから、2点OSの距離は、2点OQの距離に等しくDになる。したがって、三角形OQSは二等辺三角形になり、2つの等辺の挟角はφ′、第3の辺の長さはfである。この三角形OQSに、式(4)に示す余弦定理を適用すると、
cos φ′=(D2+D2−f2)/2D2 式(5)
が成り立つ。
【0207】
ここで、図19を見ると、長さfは、回転楕円体Eの短軸半径βに近い値になることがわかる。そこで、近似的に、f≒βとすると、β=k・Dなので、f≒k・Dになり、図20の下段右に示すとおり、
cos φ′≒1−k2/2 式(6)
なる式が得られる。
【0208】
次に、図21に示す三角形OQqを考える。この図21は、図19に示す4点O,Q,S,qをそのまま抜き出してプロットしたものである。2点OQ間の距離はDであり、2点Oq間の距離はdである。ここで、この長さD,dをもった2辺の挟角をθとし、第3の辺の長さをtとする。また、線分OQと線分OSとのなす角φ′は、前述した円錐ξ′の半頂角である。
【0209】
さて、図19において、円錐ξの代わりに円錐ξ′を用いて、比較点qがハッチング領域にあるための条件を求めると、θ>φ′であればよいことがわかる。ここで、座標値(画素値)R,G,B,r,g,bが正の値をとるものとすれば、角度θおよびφ′はいずれも鋭角になる。図21の右側にも記載したとおり、一般に、θ,φ′を正の鋭角とすれば、θ>φ′の場合、「cos θ<cos φ′」であり、「cos 2θ<cos 2φ′」である。式(6)より、cos 2φ′≒(1−k2/2)2であるから、結局、
cos 2θ<(1−k2/2)2 式(7)
が成り立てば、比較点qは、円錐ξ′の外側領域にあると近似的に判断できる。
【0210】
続いて、図21に示す三角形OQqについて、式(4)の余弦定理を適用すれば、図21の下段に示すように、
cos θ=(D2+d2−t2)/(2・D・d) 式(8)
が成り立つ。このとき、図22にも記載したとおり、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
t2=(R−r)2+(G−g)2+(B−b)2
だから、これを式(8)に代入して整理すると、
cos θ=γ/(D・d) 式(9)
(但し、γ=R・r+G・g+B・b)
が得られる。式(9)の両辺を2乗すれば、
cos 2θ=γ2/(D2・d2) 式(10)
である。よって、式(7)より、
γ2/(D2・d2)<(1−k2/2)2 式(11)
が成り立てば、比較点qは、円錐ξ′の外側領域にあると近似的に判断できる。ここで、γ,D,dを画素値を用いて書き直せば、図22の下段に示すように、
(R・r+G・g+B・b)2/
((R2+G2+B2)・(r2+g2+b2))
<(1−k2/2)2 式(11′)
が成り立てば、比較点qは、円錐ξ′の外側領域にあると近似的に判断できる。
【0211】
既に述べたとおり、図19において、円錐ξ′は、円錐ξに近似的に代用することができるので、上記式(11′)が成り立てば、比較点qは、回転楕円体Eの外側領域にある、との近似的判定を行うことができる。もちろん、この近似的な判定結果は、円錐ξ′を円錐ξに代用し、かつ、f≒βとの近似を行うことによって得られる判定結果であるので、厳密な判定結果ではない。しかしながら、そもそも回転楕円体E自体が、移動物体を厳密に検出する機能をもつ立体であるわけではないので、このような近似的な判定を行っても、大きな支障は生じない。別言すれば、上述した近似的な判定手法は、比較点qが回転楕円体Eの外部にあるかどうかを判定する代わりに、その近似体の外部に位置するかどうかを判定する手法ということになる。
【0212】
このようにして、式(11′)を満足する結果が得られた場合、比較点qは、回転楕円体Eの近似体の外側に位置すると判断できるので、基準点Qの類似範囲外との判定を行うことができる。
【0213】
一方、式(11′)を満足しない場合は、比較点qは、図19においてハッチングが施されていない円錐ξの内側に位置すると近似的に判断されたことになるので、最終的に、第3の条件判定段階が行われる。
【0214】
図23は、この第3の条件判定段階の原理を示す断面図である。第3の条件判定段階では、比較点qが、図23のハッチング領域内にあるかどうかの判定が行われる。このハッチング領域は、回転楕円体Eの外側領域であり、いわば第3の条件判定段階は、§7で述べた回転楕円体モデルを用いた類否判定として行うべき本来の判定段階ということになる。このため、条件判定に用いられる式は、楕円の方程式を用いた式になり、これまでの条件判定式に比べると、若干複雑にならざるを得ない。
【0215】
いま、図23に示すように、基準点Qの位置に原点をもち、紙面上に定義されたローカルなXY二次元直交座標系をとり、この二次元座標系上において、楕円Eと比較点qとの位置関係を考えることにしよう。ここで、X軸は回転楕円体Eの長軸方向の座標軸であり、Y軸は回転楕円体Eの短軸方向の座標軸である。もちろん、基準点QのXY座標系での座標は(0,0)になる。したがって、比較点qは、RGB三次元直交座標系ではq(r,g,b)なる三次元の座標値をもち、XYローカル座標系ではq(x,y)なる二次元の座標値をもつ。
【0216】
ここで、比較点qの座標値(x,y)を、2点OQ間の距離D、2点Oq間の距離d、そして挟角θを用いて表すと、図23の右下にも記載したとおり、
x=D−d・cos θ、 y=d・sin θ 式(12)
が成り立つ。一方、図24に示すとおり、楕円の公式からは、
x2/α2+y2/β2=1 式(13)
が得られるので、
f(x,y)=β2・x2+α2・y2−α2・β2 式(14)
なる判定式を定義すれば、比較点qは、
f(x,y)<0なら楕円内部の点
f(x,y)=0なら楕円上の点
f(x,y)>0なら楕円外部の点
ということになる。したがって、
β2・x2+α2・y2−α2・β2>0 式(15)
であれば、比較点qは、楕円外部の点ということになる。ここで、XYローカル座標系を、基準軸Zを中心軸として回転しても、上式が成り立つことに変わりはないので、式(15)は、三次元立体にも拡張することができる。すなわち、式(15)の条件が満足されていれば、比較点qは、回転楕円体Eの外側領域の点ということになる。
【0217】
なお、式(15)において、各変数の値は、図24の下半分に示すように、次のようにして求めることができる。まず、α=h・D、β=k・Dであるから、
α2=h2・D2、 β2=k2・D2 式(16)
である。一方、式(12)より、x=D−d・cos θだから、両辺を2乗すると、
x2=D2+d2・cos2 θ−2Dd・cos θ
となり、これに式(9)および式(10)を代入すれば、
x2=D2+γ2/D2−2γ 式(17)
が得られる(但し、γ=R・r+G・g+B・b)。また、式(12)より、y=d・sin θだから、両辺を2乗すると、
y2=d2・sin2 θ=d2・(1−cos2 θ)
となり、これに式(10)を代入すれば、
y2=d2−γ2/D2 式(18)
が得られる(但し、γ=R・r+G・g+B・b)。
【0218】
かくして、式(16)〜式(18)によって、α2,β2,x2,y2の各値を求めた後に、式(15)の条件判定式を演算すれば、比較点qが、回転楕円体Eの内側領域の点か、外側領域の点かを判定することができる。
【0219】
図25は、これまで述べてきた類否判定方法の手順を示す流れ図である。この類否判定方法によれば、三原色の各画素値(R,G,B)を有する第1のカラー画素と、三原色の各画素値(r,g,b)を有する第2のカラー画素と、の類否判定を行うことができる。なお、実際には、この図25に示す各手順は、コンピュータによって実行されることになる。
【0220】
まず、ステップS11では、回転楕円体Eのサイズを決めるパラメータh,kを設定する。前述したとおり、パラメータhは、回転楕円体Eの長軸半径αを決定する値(h<1)であり、長軸半径はα=h・Dなる式で定められる。また、パラメータkは、回転楕円体Eの短軸半径βを決定する値(k<h)であり、短軸半径はβ=k・Dなる式で定められる。これらパラメータh,kの値は、背景画像の特徴(たとえば、屋外か屋内か、街中か郊外か、といった種別)や、移動物体として侵入してくる前景画像の特徴(たとえば、車両か人間か、といった種別)を考慮して、できるだけ高い検出精度が得られるような値に適宜設定することになる。本願発明者が行った実験によれば、一般的な用途の場合、h=0.45〜0.20、k=0.15〜0.05程度の値に設定すれば、比較的高い検出精度が得られる。図9に示す移動物体検出装置の場合、パラメータ設定部340に対する操作入力により、パラメータh,kの値を任意に設定することができる。
【0221】
続く、ステップS12では、基準点Q(R,G,B)と比較点q(r,g,b)の座標値(R,G,B)および(r,g,b)が取り込まれる。これらの座標値は、それぞれ2つのカラー画像の三原色の画素値として与えられた値である。これら座標値が取り込まれたら、準備段階は完了である。すなわち、コンピュータには、パラメータh(h<1)およびk(k<h)、画素値(R,G,B)および(r,g,b)の値が取り込まれた状態となり、これらの値を用いて、以下の演算処理を実行する準備が整ったことになる。
【0222】
以下、ステップS13〜S18に示す手順は、図15に示すように、三原色の各画素値を各座標軸にとった三次元座標系において、画素値(R,G,B)に対応する座標をもつ基準点Qを中心とする所定サイズの回転楕円体Eと、画素値(r,g,b)に対応する座標をもつ比較点qとについて、後者が前者の内部にあるか外部にあるかを調べる位置関係判定段階の手順である。
【0223】
具体的には、既に述べたとおり、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、この基準軸Zを中心に回転させることにより得られる回転楕円体Eを定義する。そして、比較点qがこの回転楕円体Eの内部にあるか外部にあるかを判定することになる。なお、実際には、前述したような近似を行うため、論理的には、回転楕円体Eの代わりに、その近似体について、内部にあるか外部にあるかの判定が行われることになる。この位置関係判定段階は、3つの条件判定段階によって構成される。
【0224】
まず、ステップS13に示す第1の条件判定段階では、図17に示すように、「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という条件を満足するか否かの判定が行われる。そのためには、図18で説明したとおり、
(1−h)2・D2>d2 式(2)
もしくは
(1+h)2・D2<d2 式(3)
という条件を満足するか否かを判定するための演算を行えばよい。ここで、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
であるから、結局、ステップS13のブロック内に記載したように、
(1−h)2・(R2+G2+B2)>(r2+g2+b2) 式(2′)
もしくは
(1+h)2・(R2+G2+B2)<(r2+g2+b2) 式(3′)
という条件を満足するか否かを判定する演算を行えばよい。
【0225】
このステップS13に示す第1の条件判定段階において、肯定的な判定がなされた場合(式(2′)もしくは式(3′)の条件を満足する場合)は、ステップS14からステップS19へと進み、位置関係判定段階は終結する。一方、否定的判定がなされた場合には、ステップS14からステップS15へと進む。
【0226】
ステップS15に示す第2の条件判定段階では、図19に示すように、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの外側に比較点qが位置する」という第2の条件を満足するか否かの判定が行われる。ただ、前述したとおり、実用上は、円錐ξの代わりに円錐ξ′を用い、しかもf≒βと近似する式が用いられる。このような近似的な判定手法を採る場合は、第2の条件は「回転楕円体Eの近似体の外側に比較点qが位置する」という条件になる。
【0227】
この近似的な判定手法を採るのであれば、図22に示すとおり、
γ2/(D2・d2)<(1−k2/2)2 式(11)
という条件を満足するか否かを判定するための演算を行えばよい。ここで、
D2=(R2+G2+B2)
d2=(r2+g2+b2)、
γ=(R・r+G・g+B・b)
であるから、結局、ステップS15のブロック内に記載したように、
(R・r+G・g+B・b)2/
((R2+G2+B2)・(r2+g2+b2))
<(1−k2/2)2 式(11′)
という条件を満足するか否かを判定する演算を行えばよい。
【0228】
このステップS15に示す第2の条件判定段階において、肯定的な判定がなされた場合(式(11′)の条件を満足する場合)は、ステップS16からステップS19へと進み、位置関係判定段階は終結する。一方、否定的判定がなされた場合には、ステップS16からステップS17へと進む。
【0229】
ステップS17に示す第3の条件判定段階では、図23に示すように、「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かの判定が行われる。そのためには、ステップS17のブロック内に記載したように、
β2・x2+α2・y2−α2・β2>0 式(15)
という条件を満足するか否かを判定するための演算を行えばよい。ここで、各変数は、図24で説明したとおり、
α2=h2・D2、 β2=k2・D2 式(16)
x2=D2+γ2/D2−2γ 式(17)
y2=d2−γ2/D2 式(18)
であり、また、既に述べたとおり、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
γ=(R・r+G・g+B・b)
である。
【0230】
このステップS17に示す第3の条件判定段階において、肯定的な判定がなされた場合(式(15)の条件を満足する場合)は、ステップS18からステップS19へと進み、位置関係判定段階は終結する。一方、否定的判定がなされた場合には、ステップS18からステップS20へと進み、やはり位置関係判定段階は終結する。
【0231】
ここで注目すべき点は、以上の第1〜第3の条件判定段階で行われる条件判定式には、加減乗除演算のみしか含まれていない点である。すなわち、一般的な幾何学演算に含まれている開平演算や三角関数演算は一切含まれていない。したがって、演算装置の負担は比較的軽いものになり、安価なプロセッサを用いた場合でも、リアルタイム処理が可能になる。
【0232】
最後に、ステップS19もしくはステップS20に示す判定結果出力段階が行われる。すなわち、上述したとおり、第1の条件判定段階(ステップS13)、第2の条件判定段階(ステップS15)、第3の条件判定段階(ステップS17)のいずれかにおいて肯定的判定がなされた場合には、ステップS19へと進み、第1のカラー画素と第2のカラー画素とが非類似との判定結果が出力される。一方、第1の条件判定段階(ステップS13)、前記第2の条件判定段階(ステップS15)、前記第3の条件判定段階(ステップS17)のすべてにおいて否定的判定がなされた場合には、ステップS20へ進み、第1のカラー画素と第2のカラー画素とが類似するとの判定結果が出力される。
【0233】
要するに、この図25の流れ図に示す手順によれば、回転楕円体Eもしくはその近似体の外部に比較点qがあると判断された場合には、第1のカラー画素と第2のカラー画素とが非類似との判定結果が出力され、回転楕円体Eもしくはその近似体の内部に比較点qがあると判断された場合には、第1のカラー画素と第2のカラー画素とが類似するとの判定結果が出力されることになる。ステップS15の第2の条件判定段階は、ステップS13の第1の条件判定段階において否定的判定がなされた場合にのみ実行され、同様に、ステップS17の第3の条件判定段階は、ステップS15の第2の条件判定段階において否定的判定がなされた場合にのみ実行されることになるので、無駄な演算を省くことが可能になり、演算負担の軽減を図ることができる。
【0234】
特に、パラメータh,kの値を固定値にした運用を行う場合、ステップS13の演算式(2′),(3′)に用いる(1−h)2および(1+h)2の値、ステップS15の演算式(11′)に用いる(1−k2/2)2の値は、予め決められた定数として用意しておくことができるので、演算負担を更に軽減することができる。実際には、まず、(R2+G2+B2)の値および(r2+g2+b2)の値を計算してしまえば、ステップS13の演算式(2′),(3′)に係る演算は、上記定数を利用した極めて単純な演算になる。同様に、ステップS15の演算式(11′)に係る演算も、(R・r+G・g+B・b)の値を計算してしまえば、既に計算済みの(R2+G2+B2)の値および(r2+g2+b2)の値と、上記定数を利用することにより、極めて単純な演算になる。
【0235】
<<< §9.前背判定部の実用的な構成 >>>
ここでは、図9に示す前背判定部450において、画素の類否判定に、§8で述べた実用的な類否判定手順を採用する場合の構成を説明する。図26は、この前背判定部450の構成を示すブロック図である。既に述べたとおり、前背判定部450は、第1判定部420、第2判定部430、総合判定部440によって構成されている。
【0236】
ここで、第1判定部420は、第i番目の原画像P(i)を構成する画素の画素値p(i)と第(i−1)番目の平均画像A(i−1)を構成する画素の画素値a(i−1)とを比較して類似するか否かを判定する処理を行い、第2判定部430は、第i番目の原画像P(i)を構成する画素の画素値p(i)と第(i−1)番目の参照画像U(i−1)を構成する画素の画素値u(i−1)とを比較して類似するか否かを判定する処理を行う。一方、総合判定部440は、図示の表に示すとおり、第1判定部420による判定結果および第2判定部430による判定結果の少なくとも一方が類似を示す場合には背景画素との判定を行い判定結果J=1を出力し、双方とも非類似を示す場合には前景画素との判定を行い判定結果J=0を出力する。
【0237】
第1判定部420および第2判定部430が、類似との判定結果を論理1、非類似との判定結果を論理0として出力するようにしておけば、総合判定部440は、これらの論理値の論理和を判定結果Jとして出力することができるので、総合判定部440を論理和回路によって構成することができる。
【0238】
図27は、図26に示す第1判定部420の詳細構成を示すブロック図である。この第1判定部420は、§8で述べた回転楕円体モデルを利用した実用的な類否判定手順を採用し、図示のとおり、基本演算部421、第1の条件判定部422、第2の条件判定部423、第3の条件判定部424、判定値出力部425、パラメータ保持部426によって構成されている。
【0239】
パラメータ保持部426は、パラメータhおよびkの値を保持する構成要素であり、図9に示すパラメータ設定部340を設けた場合には、このパラメータ設定部340によって設定されたパラメータhおよびkの値がパラメータ保持部426に書き込まれることになる。パラメータhおよびkの値を固定にする場合には、当該固定値がパラメータ保持部426に保持される。
【0240】
基本演算部421は、図9に示す画素値読出部410が読み出した基準画素値(R,G,B)(画素p(i)の画素値)と比較画素値(r,g,b)(画素a(i−1)の画素値)とに基づいて、
D2=R2+G2+B2 および
d2=r2+g2+b2
なる演算を行い、値D2および値d2を算出する構成要素である。ここで算出された値D2および値d2は、第1の条件判定部422、第2の条件判定部423、第3の条件判定部424における演算で利用される。
【0241】
第1の条件判定部422は、図17に示すように、「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する構成要素である。そのために、基本演算部421が算出した値D2および値d2とパラメータ保持部426に保持されているパラメータhの値とを用いて、
(1−h)2・D2>d2 式(2)
もしくは
(1+h)2・D2<d2 式(3)
という条件を満足するか否かを判定するための演算を行う。そして、「条件満足」との肯定的判定が行われた場合、当該判定結果は、判定値出力部425に報知される。一方、「条件満足せず」との否定的判定が行われた場合、当該判定結果は、第2の条件判定部423に報知される。
【0242】
第2の条件判定部423は、第1の条件判定部422から、「条件満足せず」との否定的判定結果が報知された場合に限り、条件判定処理を実行する構成要素である。ここで行われる処理の目的は、図19に示すように、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの外側に比較点qが位置する」という第2の条件を満足するか否かを判定することにある。ただ、実用上は、演算負担を軽減するために、円錐ξの代わりに円錐ξ′を用いた判定を行うようにするのが好ましい。
【0243】
すなわち、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線を構成する円を交線円Sとしたときに、「原点Oを頂点、基準軸Zを中心軸とし、交線円Sを通る円錐ξ′の外側に比較点qが位置する」という第2の条件を満足するか否かを判定すればよい。このとき、演算負担を更に軽減するために、交線円S上の任意の点と基準点Qとの距離fが短軸半径βに等しいとおいた近似式を用いて近似的な判定を行うようにするのが好ましい。
【0244】
このような近似的な判定を行う場合、第2の条件判定部423は、画素値読出部410が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
γ=R・r+G・g+B・b
なる演算を行い、値γを算出し、更に、基本演算部421が算出した値D2および値d2とパラメータ保持部426に保持されているパラメータkの値と、算出した値γとを用いて、
γ2/(D2・d2)<(1−k2/2)2 式(11)
という条件を満足するか否かを判定するための演算を行えばよい。結局、この式(11)の演算式で示される条件は、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの近似体の外側に比較点qが位置する」という条件になる。
【0245】
そして、この第2の条件判定部423において、「条件満足」との肯定的判定が行われた場合、当該判定結果は、判定値出力部425に報知される。一方、「条件満足せず」との否定的判定が行われた場合、当該判定結果は、γの値とともに、第3の条件判定部424に報知される。
【0246】
第3の条件判定部424は、第2の条件判定部423から、「条件満足せず」との否定的判定結果が報知された場合に限り、条件判定処理を実行する構成要素である。ここで行われる処理の目的は、図23に示すように、「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定することにある。そのため、第3の条件判定部424は、基本演算部421が算出した値D2および値d2と、パラメータ保持部426に保持されているパラメータhおよびkの値と、第2の条件判定部423が算出した値γとを用いて、
α2=h2・D2、 β2=k2・D2 式(16)
x2=D2+γ2/D2−2γ 式(17)
y2=d2−γ2/D2 式(18)
なる演算を行い、当該演算結果を用いて、
β2・x2+α2・y2−α2・β2>0 式(15)
という条件を満足するか否かを判定するための演算を行う。
【0247】
そして、この第3の条件判定部424における「条件満足」との肯定的判定結果もしくは「条件満足せず」との否定的判定結果は、判定値出力部425に報知される。
【0248】
判定値出力部425は、第1の条件判定部422、第2の条件判定部423、第3の条件判定部424のいずれかが「条件満足」との肯定的判定を行った場合に、非類似との判定結果(論理値「0」)を出力し、第1の条件判定部422、第2の条件判定部423、第3の条件判定部424のすべてが「条件満足せず」との否定的判定を行った場合に、類似との判定結果(論理値「1」)を出力する。
【0249】
以上、図27を参照して、第1判定部420の詳細構成を述べたが、第2判定部430の構成もこれと全く同様である。なお、第1判定部420による類否判定に用いられる回転楕円体と第2判定部430による類否判定に用いられる回転楕円体とは、両判定部における判定基準を統一するために、同一サイズの回転楕円体とし、三次元座標系上の同一位置に配置するのが好ましい。
【0250】
既に述べたとおり、上記条件判定式には、加減乗除演算のみしか含まれていないため、一般的な幾何学演算に必要とされる開平演算や三角関数演算を行う必要はない。したがって、演算装置の負担は比較的軽いものになり、前背判定部450を安価なプロセッサを用いて構成した場合でも、リアルタイム処理が可能になる。
【0251】
なお、これまで述べた条件判定式には、「不等号>」や「不等号<」を含む演算式が含まれているが、これらの演算式の一部もしくは全部について、「不等号>」の代わりに「不等号≧」を用いた演算式、もしくは「不等号<」の代わりに「不等号≦」を用いた演算式を用いてもかまわない。すなわち、各条件判定式は、比較点qが何らかの図形の内側領域にあるか外側領域にあるかを示すものであるが、当該図形の境界面上の点は、当該図形の内側領域に含ませても、外側領域に含ませてもかまわない。
【0252】
また、これまで述べた実施形態では、三原色を示す符号として、便宜上、(R,G,B)もしくは(r,g,b)という符号を用いているが、これらの符号は、必ずしも(赤,緑,青)なる三原色を意味するものではない。一般的には、ビデオカメラで撮影した画像は、(赤,緑,青)なる三原色の各画素値をもった画素の集合からなるデータとして与えられるが、本発明は、(赤,緑,青)なる三原色を用いた表色系に限定されるものではなく、他の色からなる三原色を用いた別な表色系にも適用可能である。その場合、各演算式に用いられている(R,G,B)もしくは(r,g,b)という符号は、当該別な表色系の三原色の画素値を示すことになる。
【0253】
<<< §10.本発明に係る移動物体検出方法 >>>
最後に、本発明を方法の発明として捉えた場合に、当該方法を構成する個々の手順を説明する。この方法は、動画画像について移動物体を検出する移動物体検出方法であり、実用上、この方法を構成する各手順はコンピュータによって実行される。
【0254】
すなわち、本発明に係る移動物体検出方法は、コンピュータが、時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力段階と、コンピュータが、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した平均画像とに基づいて、新たな平均画像を作成する平均画像作成段階と、コンピュータが、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した参照画像とに基づいて、新たな参照画像を作成する参照画像作成段階と、コンピュータが、原画像と平均画像と参照画像とを用いた比較処理により、前景領域と背景領域とを区別するマスク画像を作成する画像比較段階と、コンピュータが、作成されたマスク画像を出力する画像出力段階と、によって構成される。
【0255】
ここで、画像比較段階は、第i番目の原画像、第(i−1)番目の平均画像、第(i−1)番目の参照画像から、それぞれ対応する所定位置にある画素の三原色の各画素値を読み出す画素値読出ステップと、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の平均画像を構成する画素の画素値a(i−1)とが類似するか否かを判定する第1判定処理と、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の参照画像を構成する画素の画素値u(i−1)とが類似するか否かを判定する第2判定処理と、を行い、第i番目の原画像の所定位置にある画素について、第1判定処理による判定結果と第2判定処理による判定結果との少なくとも一方が類似を示す場合には背景画素、双方とも非類似を示す場合には前景画素との判定を行う前背判定ステップと、第i番目のマスク画像を構成する所定位置の画素の画素値として、前背判定ステップにより背景画素と判定された場合には背景領域を示す画素値を、前背判定ステップにより前景画素と判定された場合には前景領域を示す画素値を、それぞれ与えることにより、第i番目のマスク画像を作成するマスク画像作成ステップと、によって構成される。
【0256】
また、平均画像作成段階では、第1番目の原画像をそのまま第1番目の平均画像とし、第i番目(i≧2)の平均画像を作成する際には、第i番目の原画像と第(i−1)番目の平均画像とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目の平均画像とする処理が行われる。
【0257】
より具体的には、平均画像作成段階では、最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)とする処理を行い、以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
所定位置の画素の所定色の画素値、
p(i)は、原画像P(i)の
所定位置の画素の所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成する処理が行われる。
【0258】
一方、参照画像作成段階では、第1番目の原画像をそのまま第1番目の参照画像とし、第i番目(i≧2)の参照画像を作成する際には、第(i−1)番目の参照画像を構成する個々の画素のうち、前背判定ステップにおいて第i番目の原画像の対応画素が前景画素と判定された画素については、更新せずに、もとの画素値をそのまま維持し、前背判定ステップにおいて第i番目の原画像の対応画素が背景画素と判定された画素については、第(i−1)番目の平均画像の対応する位置にある画素との間で、三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を新画素値として更新することにより、第i番目の参照画像を作成する処理が行われる。
【0259】
より具体的には、参照画像作成段階では、最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の参照画像U(1)とする処理を行い、以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の参照画像U(i)の各画素値を、
背景画素と判定された画素については、
u(i)=(1−v)・u(i−1)+v・a(i−1)
(但し、u(i)は、平均画像U(i)の
所定位置の画素の所定色の画素値、
u(i−1)は、平均画像U(i−1)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
所定位置の画素の所定色の画素値、
vは、所定の重みを示すパラメータ(v<1、かつw>v))
なる演算式を用いて求められた画素値u(i)に更新し、
前景画素と判定された画素については、
u(i)=u(i−1)
として、更新せずに、もとの画素値をそのまま維持することにより、参照画像U(i)を作成する処理が行われる。
【符号の説明】
【0260】
110:画像入力部
120:原画像格納部
130:平均画像作成部
135:参照画像作成部
140:平均画像格納部
145:参照画像格納部
200:画像比較部
210:画素値読出部
220:類否判定部
230:画素値書込部
310:マスク画像格納部
320:画像出力部
330:パラメータ設定部
340:パラメータ設定部
400:画像比較部
410:画素値読出部
420:第1判定部
421:基本演算部
422:第1の条件判定部
423:第2の条件判定部
424:第3の条件判定部
425:判定値出力部
426:パラメータ保持部
430:第2判定部
440:総合判定部
450:前背判定部
460:画素値書込部
A(1)〜A(i):平均画像
A,A(Ra,Ga,Ba):平均画像の画素値を示す座標点
a:三角形の一辺
a(i−1),a(i):平均画像を構成する1つの画素もしくはその画素値
B:背景領域/三原色の画素値(基準画素値)
b:三原色の画素値(比較画素値)/三角形の一辺
C:円柱モデルの円柱
C1,C2:球
C3:球面
c:三角形の一辺
D:原点Oと基準点Qとの距離
d:原点Oと比較点qとの距離
E,Ea,Ep:回転楕円体
E1:回転楕円体Eの最近接点
E2:回転楕円体Eの最遠隔点
F:前景領域
f:交線円S上の任意の点と基準点Qとの距離
G:三原色の画素値(基準画素値)
g:三原色の画素値(比較画素値)
h:回転楕円体Eの長軸半径αを定めるパラメータ
i:時系列の番号
J:判定結果を示す論理値(0:前景/1:背景)
k:回転楕円体Eの短軸半径βを定めるパラメータ
L:円柱Cの長さ
La1:回転楕円体Eaの長軸方向の長さ
La2:回転楕円体Eaの短軸方向の長さ
Lp1:回転楕円体Epの長軸方向の長さ
Lp2:回転楕円体Epの短軸方向の長さ
M:マスク画像
M(1)〜M(i),M(i+1),M10〜M40:マスク画像
m(i):マスク画像を構成する1つの画素の画素値
O:三次元色空間を構成するRGB座標系の原点
P:原画像/原画像の画素値を示す座標点
P(1)〜P(i),P(i+1),P10〜P40:原画像(入力画像)
P(Rp,Gp,Bp):原画像の画素値を示す座標点
p(i):原画像を構成する1つの画素もしくはその画素値
Q:基準点(画素値(R,G,B)をもった座標点)
q:比較点(画素値(r,g,b)をもった座標点)
R:三原色の画素値(基準画素値)
r:三原色の画素値(比較画素値)
S:交線円(球面C3と回転楕円体Eとの交線)
S11〜S20:流れ図の各ステップ
T:接線円(円錐ξと回転楕円体Eとの接線)
t:基準点Qと比較点qとの距離
t1〜t15:時系列の各時点
U(1)〜U(i):参照画像
u(i−1),u(i):参照画像を構成する1つの画素もしくはその画素値
V:基準画素値を示すベクトル/車両
Va:平均画像の画素値を示すベクトル
Vp:原画像の画素値を示すベクトル
v:重みを示すパラメータ
w:重みを示すパラメータ
X:座標軸
x:楕円方程式の変数
Y:座標軸
y:楕円方程式の変数
Z,Za,Zp:基準軸
α:回転楕円体Eの長軸半径
β:回転楕円体Eの短軸半径
γ:演算値
δ:座標点間の距離
θ:角度
ξ,ξ′:円錐
φ,φ′:円錐の半頂角
【技術分野】
【0001】
本発明は、動画画像に基づいて、画像内の移動物体を検出する移動物体検出装置に関する。
【背景技術】
【0002】
ビデオカメラを用いた監視システムなどでは、監視領域内に存在する移動物体を自動的に検出する技術が重要になってきている。移動物体の自動検出が可能になれば、当該物体が車両であるのか、人間であるのか、といった識別を行う処理に利用することができる。更に、車両の場合であれば、ナンバーを読み取って車両を特定することができ、人間の場合であれば、個人を特定する処理にも応用することができる。また、検出した不審者を自動的にズームアップして追尾することも可能になる。
【0003】
移動物体を検出する基本原理は、時系列で連続的に与えられるフレーム単位の入力画像を予め用意した背景画像と比較し、両者の差分を求めることにより、時間的に変化している領域を認識することにある。ただ、屋外の監視システムなどに利用する場合、時刻や天候などによる照明変動が生じるため、必ずしも正確な物体検出を行うことができない。そこで、たとえば、下記の特許文献1には、フレーム単位の入力画像を小領域に分割し、各小領域単位で画素値の統計処理を施して照明変動を推定する手法が開示されている。また、下記の特許文献2には、フレーム単位の入力画像をブロックに分割し、個々のブロックごとに画素値の平均値を求め、背景画像の画素値平均と比較することにより、当該ブロックが移動物体を含むか否かを判定する手法が開示されている。
【0004】
一方、下記の非特許文献1には、入力画像と背景画像とを画素単位で比較して、当該画素が移動物体を構成する画素であるか否かを判定する手法が開示されている。具体的には、比較対象となる両画素の画素値が類似している場合、当該画素は背景を構成する画素であるとし、類似していない場合、当該画素は移動物体を構成する画素であるとする判定が行われる。このとき、画素の類否判定は、三次元の色空間上で、双方の画素値に対応する座標点をプロットし、一方の座標点が他方の座標点の近傍領域に入っているか否かを調べることにより行われる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平7−302328号公報
【特許文献2】特開2009−048240号公報
【非特許文献】
【0006】
【非特許文献1】Kim K, Chalidabhongse T H, Harwood D, Davis L S. "Background Modeling and Subtraction by Codebook Construction" Proceedings of International Conference on Image Processing, Singapore. IEEE, 2004. 5: 3061-3064
【発明の概要】
【発明が解決しようとする課題】
【0007】
上述したように、移動物体を検出する基本原理は、新たな入力画像を背景画像と比較し、時間的に変化している領域を認識することにある。しかしながら、画像の時間変化は、必ずしも移動物体に起因するものではなく、雲の動きによる日照変化、風の作用による樹木の揺れ、波の動きによる海面の変化など、様々な自然現象にも起因する。このため、特に、屋外の監視システムなどから取り込まれた動画画像に基づいて、移動物体の検出を行う場合、このような自然現象による画像変化を移動物体による画像変化と混同した誤検出が生じやすい。
【0008】
前掲の特許文献1,2には、このような問題を解決するための一手法が開示されているが、入力画像に対して、小領域もしくはブロック単位で画素値のヒストグラムをとるなどの統計処理を施し、当該統計処理によって得られた特徴量を複雑なモデルに当てはめて移動物体の領域を推定する必要があるため、演算処理が極めて複雑になるという問題がある。このため、一般的なプロセッサでは処理時間が長くかかり、リアルタイムでの処理を行うことが困難である。また、より正確な検出を行うためには、多数のフレームにわたって入力画像を格納しておく必要があり、大容量の画像バッファメモリが必要になる。このため、リアルタイムでの監視を目的とした安価な監視システムに利用するには不適当である。
【0009】
一方、上述した非特許文献1に開示されている手法では、画素単位での比較を行えばよいので、複雑な統計処理を行ったり、複雑なモデルを構築したりする必要はない。しかしながら、領域単位での統計処理を省き、画素単位での比較結果のみによって検出を行うため、上述したように、日照変化などの自然現象に起因した誤検出が生じやすい。
【0010】
そこで本発明は、演算処理の負担を軽減しつつ、日照変化などの自然現象に起因した誤検出を排除し、より正確な検出を行うことが可能な移動物体検出装置を提供することを目的とする。
【課題を解決するための手段】
【0011】
(1) 本発明の第1の態様は、動画画像について移動物体を検出する移動物体検出装置において、
時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力部と、
入力された原画像を逐次格納する原画像格納部と、
新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した平均画像とに基づいて、新たな平均画像を作成する平均画像作成部と、
作成された平均画像を逐次格納する平均画像格納部と、
新たな原画像が入力されるたびに、直前に作成した参照画像に基づいて新たな参照画像を作成する参照画像作成部と、
作成された参照画像を逐次格納する参照画像格納部と、
原画像格納部に格納された原画像と、平均画像格納部に格納された平均画像と、参照画像格納部に格納された参照画像と、を用いた比較処理により、前景領域と背景領域とを区別するマスク画像を作成する画像比較部と、
マスク画像を格納するマスク画像格納部と、
マスク画像を出力する画像出力部と、
を設け、
画像比較部は、
原画像格納部に格納された第i番目の原画像、平均画像格納部に格納された第(i−1)番目の平均画像、参照画像格納部に格納された第(i−1)番目の参照画像から、それぞれ対応する所定位置にある画素の三原色の各画素値を読み出す画素値読出部と、
画素値読出部によって読み出された画素値に基づいて、第i番目の原画像の所定位置にある画素が前景画素か背景画素かを判定する前背判定部と、
第i番目のマスク画像を構成する所定位置の画素の画素値として、前背判定部が背景画素と判定した場合には背景領域を示す画素値を、前背判定部が前景画素と判定した場合には前景領域を示す画素値を、それぞれマスク画像格納部に書き込む画素値書込部と、
を有し、
前背判定部は、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の平均画像を構成する画素の画素値a(i−1)とを比較して類似するか否かを判定する第1判定部と、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の参照画像を構成する画素の画素値u(i−1)とを比較して類似するか否かを判定する第2判定部と、第1判定部による判定結果および第2判定部による判定結果の少なくとも一方が類似を示す場合には背景画素、双方とも非類似を示す場合には前景画素との判定を行う総合判定部と、を有し、
平均画像作成部は、第1番目の原画像をそのまま第1番目の平均画像とし、第i番目の原画像と第(i−1)番目の平均画像とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目(i≧2)の平均画像とし、
参照画像作成部は、第1番目の原画像をそのまま第1番目の参照画像とし、第(i−1)番目の参照画像を構成する個々の画素のうち、前背判定部によって第i番目の原画像の対応画素が前景画素と判定された画素については、更新せずに、もとの画素値をそのまま維持し、前背判定部によって第i番目の原画像の対応画素が背景画素と判定された画素については、当該画素と第(i−1)番目の平均画像の対応する位置にある画素とについて、三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を新画素値として更新することにより、第i番目(i≧2)の参照画像を作成するようにしたものである。
【0012】
(2) 本発明の第2の態様は、上述した第1の態様に係る移動物体検出装置において、
平均画像作成部が、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)として平均画像格納部へ格納する処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
所定位置の画素の所定色の画素値、
p(i)は、原画像P(i)の
所定位置の画素の所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成するようにしたものである。
【0013】
(3) 本発明の第3の態様は、上述した第2の態様に係る移動物体検出装置において、
参照画像作成部が、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の参照画像U(1)として参照画像格納部へ格納する処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の参照画像U(i)の各画素値を、
背景画素と判定された画素については、
u(i)=(1−v)・u(i−1)+v・a(i−1)
(但し、u(i)は、平均画像U(i)の
所定位置の画素の所定色の画素値、
u(i−1)は、平均画像U(i−1)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
所定位置の画素の所定色の画素値、
vは、所定の重みを示すパラメータ(v<1))
なる演算式を用いて求められた画素値u(i)に更新し、
前景画素と判定された画素については、
u(i)=u(i−1)
として、更新せずに、もとの画素値をそのまま維持することにより決定するようにしたものである。
【0014】
(4) 本発明の第4の態様は、上述した第3の態様に係る移動物体検出装置において、
重みを示すパラメータw,vを、w>vとなるように設定したものである。
【0015】
(5) 本発明の第5の態様は、上述した第2〜第4の態様に係る移動物体検出装置において、
パラメータ「w」もしくは「v」またはこれら双方を、ユーザの操作入力によって任意の値に設定するパラメータ設定部を更に備えるようにしたものである。
【0016】
(6) 本発明の第6の態様は、上述した第1〜第5の態様に係る移動物体検出装置において、
第1判定部および第2判定部が、比較対象となる一方の画素の画素値を基準画素値、他方の画素の画素値を比較画素値として、三原色の各画素値を各座標軸にとった三次元座標系において、基準画素値に対応する座標に位置する基準点Qと比較画素値に対応する座標に位置する比較点qをとり、基準点Qを中心とする所定サイズの基準立体と比較点qとの位置関係を調べ、比較点qが基準立体の外部に位置すると判定できる場合に非類似との判定を行い、内部に位置すると判定できる場合には類似との判定を行うようにしたものである。
【0017】
(7) 本発明の第7の態様は、上述した第6の態様に係る移動物体検出装置において、
第1判定部が、原画像の画素の画素値を基準画素値、平均画像の画素の画素値を比較画素値として判定を行い、
第2判定部が、原画像の画素の画素値を基準画素値、参照画像の画素の画素値を比較画素値として判定を行うようにしたものである。
【0018】
(8) 本発明の第8の態様は、上述した第6または第7の態様に係る移動物体検出装置において、
第1判定部および第2判定部が、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、この楕円を基準軸Zを中心に回転させることにより得られる同一の回転楕円体Eもしくはその近似体を基準立体として用いるようにしたものである。
【0019】
(9) 本発明の第9の態様は、上述した第8の態様に係る移動物体検出装置において、
第1判定部および第2判定部が、
「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する第1の条件判定部と、
第1の条件判定部が否定的判定を行った場合に「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξもしくはその近似体の外側に比較点qが位置する」という第2の条件を満足するか否かを判定する第2の条件判定部と、
第2の条件判定部が否定的判定を行った場合に「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定する第3の条件判定部と、
第1の条件判定部、第2の条件判定部、第3の条件判定部のいずれかが肯定的判定を行った場合に、非類似との判定結果を示す判定値を出力し、第1の条件判定部、第2の条件判定部、第3の条件判定部のすべてが否定的判定を行った場合に、類似との判定結果を示す判定値を出力する判定値出力部と、
を有するようにしたものである。
【0020】
(10) 本発明の第10の態様は、上述した第8の態様に係る移動物体検出装置において、
第1判定部および第2判定部が、
パラメータhおよびkの値を保持するパラメータ保持部と、
画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
D2=R2+G2+B2 および
d2=r2+g2+b2
なる演算を行い、値D2および値d2を算出する基本演算部と、
基本演算部が算出した値D2および値d2とパラメータ保持部に保持されているパラメータhの値とを用いて、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行う第1の条件判定部と、
第1の条件判定部が否定的判定を行った場合に、画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
γ=R・r+G・g+B・b
なる演算を行い、値γを算出し、基本演算部が算出した値D2および値d2とパラメータ保持部に保持されているパラメータkの値と値γとを用いて、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行う第2の条件判定部と、
第2の条件判定部が否定的判定を行った場合に、基本演算部が算出した値D2および値d2とパラメータ保持部に保持されているパラメータhおよびkの値と第2の条件判定部が算出した値γとを用いて、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
なる演算を行い、当該演算結果を用いて、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行う第3の条件判定部と、
第1の条件判定部、第2の条件判定部、第3の条件判定部のいずれかが肯定的判定を行った場合に、非類似との判定結果を示す判定値を出力し、第1の条件判定部、第2の条件判定部、第3の条件判定部のすべてが否定的判定を行った場合に、類似との判定結果を示す判定値を出力する判定値出力部と、
を有するようにしたものである。
【0021】
(11) 本発明の第11の態様は、上述した第8〜第10の態様に係る移動物体検出装置において、
パラメータ「h」および「k」を、ユーザの操作入力によって任意の値に設定するパラメータ設定部を更に設けたものである。
【0022】
(12) 本発明の第12の態様は、上述した第1〜第11の態様に係る移動物体検出装置を、コンピュータにプログラムを組み込むことにより構成したものである。
【0023】
(13) 本発明の第13の態様は、上述した第1〜第11の態様に係る移動物体検出装置を、半導体集積回路によって構成したものである。
【0024】
(14) 本発明の第14の態様は、動画画像について移動物体を検出する移動物体検出方法において、
コンピュータが、時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力段階と、
コンピュータが、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した平均画像とに基づいて、新たな平均画像を作成する平均画像作成段階と、
コンピュータが、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した参照画像とに基づいて、新たな参照画像を作成する参照画像作成段階と、
コンピュータが、原画像と平均画像と参照画像とを用いた比較処理により、前景領域と背景領域とを区別するマスク画像を作成する画像比較段階と、
コンピュータが、マスク画像を出力する画像出力段階と、
を行い、
画像比較段階を、
第i番目の原画像、第(i−1)番目の平均画像、第(i−1)番目の参照画像から、それぞれ対応する所定位置にある画素の三原色の各画素値を読み出す画素値読出ステップと、
第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の平均画像を構成する画素の画素値a(i−1)とが類似するか否かを判定する第1判定処理と、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の参照画像を構成する画素の画素値u(i−1)とが類似するか否かを判定する第2判定処理と、を行い、第i番目の原画像の所定位置にある画素について、第1判定処理による判定結果と第2判定処理による判定結果との少なくとも一方が類似を示す場合には背景画素、双方とも非類似を示す場合には前景画素との判定を行う前背判定ステップと、
第i番目のマスク画像を構成する所定位置の画素の画素値として、前背判定ステップにより背景画素と判定された場合には背景領域を示す画素値を、前背判定ステップにより前景画素と判定された場合には前景領域を示す画素値を、それぞれ与えることにより、第i番目のマスク画像を作成するマスク画像作成ステップと、
によって構成し、
平均画像作成段階では、第1番目の原画像をそのまま第1番目の平均画像とし、第i番目(i≧2)の平均画像を作成する際には、第i番目の原画像と第(i−1)番目の平均画像とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目の平均画像とし、
参照画像作成段階では、第1番目の原画像をそのまま第1番目の参照画像とし、第i番目(i≧2)の参照画像を作成する際には、第(i−1)番目の参照画像を構成する個々の画素のうち、前背判定ステップにおいて第i番目の原画像の対応画素が前景画素と判定された画素については、更新せずに、もとの画素値をそのまま維持し、前背判定ステップにおいて第i番目の原画像の対応画素が背景画素と判定された画素については、第(i−1)番目の平均画像の対応する位置にある画素との間で、三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を新画素値として更新することにより、第i番目の参照画像を作成するようにしたものである。
【0025】
(15) 本発明の第15の態様は、上述した第14の態様に係る移動物体検出方法において、
平均画像作成段階では、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)とする処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
所定位置の画素の所定色の画素値、
p(i)は、原画像P(i)の
所定位置の画素の所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成し、
参照画像作成段階では、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の参照画像U(1)とする処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の参照画像U(i)の各画素値を、
背景画素と判定された画素については、
u(i)=(1−v)・u(i−1)+v・a(i−1)
(但し、u(i)は、平均画像U(i)の
所定位置の画素の所定色の画素値、
u(i−1)は、平均画像U(i−1)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
所定位置の画素の所定色の画素値、
vは、所定の重みを示すパラメータ(v<1、かつw>v))
なる演算式を用いて求められた画素値u(i)に更新し、
前景画素と判定された画素については、
u(i)=u(i−1)
として、更新せずに、もとの画素値をそのまま維持することにより、参照画像U(i)を作成するようにしたものである。
【発明の効果】
【0026】
本発明に係る移動物体検出装置では、過去に入力された複数の原画像の平均的な特徴を有する平均画像が逐次作成され、更に、この平均画像に基づいて参照画像が逐次作成される。そして、新たに入力された原画像は、平均画像と比較されるとともに参照画像とも比較され、両方の比較結果がともに非類似とされた領域が前景領域(移動物体の領域)、それ以外の領域が背景領域と判定される。ここで、平均画像は、新たな原画像が入力されるたびに更新されるため、原画像の変化に追随して変化を遂げる動的画像になる。これに対して、参照画像は、背景領域と判定された部分に対しては平均画像を利用した更新が行われるが、前景領域と判定された部分に対しては更新が行われない。このため、原画像の変化に追随した参照画像の変化は緩慢になる。
【0027】
このように、平均画像と参照画像とは、原画像の変化に対する追随態様が互いに異なっており、しかも、新たに入力された原画像のうち、平均画像および参照画像の少なくとも一方に類似している領域は背景領域と判定されることになる。したがって、日照変化などの自然現象に起因して変化した背景領域が前景領域(移動物体の領域)として誤検出される可能性を低減することができ、より正確な検出を行うことができるようになる。しかも、実質的には、新たな原画像が入力されるたびに、新たな平均画像および参照画像を作成する処理と、上述した各比較処理と、を行えばよいため、演算処理の負担も比較的軽いものになる。
【0028】
また、回転楕円体を用いて画素の類否判定を行う実施形態の場合、三次元色空間上において、一方の画素値をプロットした座標点を中心とする回転楕円体内に、他方の画素値をプロットした座標点が入るか否かに基づいて、比較対象となるカラー画素の類否判定を行うようにしたため、演算処理の負担を大幅に軽減することが可能になる。
【図面の簡単な説明】
【0029】
【図1】動画画像についての移動物体の検出例を示す平面図である。
【図2】一般的な移動物体検出の基本原理を示す図である。
【図3】背景を示す画像として用いられる平均画像の作成方法の一例を示す図である。
【図4】図3に示す方法に基づいて作成される平均画像上の1画素の画素値変遷プロセスを示す図である。
【図5】一般的なマスク画像の画素値決定プロセスを示す図である。
【図6】画素の類否判定方法の一般例を示す三次元色空間図である。
【図7】画素の類否判定方法の別な一般例を示す三次元色空間図である。
【図8】従来提案されている移動物体検出装置の基本構成を示すブロック図である。
【図9】本発明に係る移動物体検出装置の基本構成を示すブロック図である。
【図10】図9に示す移動物体検出装置の各構成要素で実行される演算内容を示す図である。
【図11】図9に示す移動物体検出装置における各画像の変遷を示す第1の図である。
【図12】図9に示す移動物体検出装置における各画像の変遷を示す第2の図である。
【図13】本発明の一実施形態に係る移動物体検出に利用するための画素の類否判定方法の第1の適用例を示す三次元色空間図である。
【図14】本発明の一実施形態に係る移動物体検出に利用するための画素の類否判定方法の第2の適用例を示す三次元色空間図である。
【図15】本発明の一実施形態に係る画素の類否判定方法を示す三次元色空間図である。
【図16】従来の円柱モデルに対する回転楕円体モデルの利点を示す断面図である。
【図17】回転楕円体モデルを用いた場合の第1の条件判定原理を示す断面図である。
【図18】図17に示す第1の条件判定原理に基づく判定式を示す図である。
【図19】回転楕円体モデルを用いた場合の第2の条件判定原理を示す断面図である。
【図20】図19に示す第2の条件判定原理に基づく判定式を導く第1のプロセスを示す図である。
【図21】図19に示す第2の条件判定原理に基づく判定式を導く第2のプロセスを示す図である。
【図22】図19に示す第2の条件判定原理に基づく判定式を示す図である。
【図23】回転楕円体モデルを用いた場合の第3の条件判定原理を示す断面図である。
【図24】図23に示す第3の条件判定原理に基づく判定式を示す図である。
【図25】本発明の一実施形態に係る画素の類否判定方法の実用的な手順を示す流れ図である。
【図26】図9に示す移動物体検出装置における前背判定部450の構成を示すブロック図である。
【図27】図26に示す第1判定部420の詳細構成を示すブロック図である。
【発明を実施するための形態】
【0030】
以下、本発明を図示する実施形態に基づいて説明する。
【0031】
<<< §1.一般的な移動物体検出の基本原理 >>>
はじめに、一般的な移動物体検出の基本原理を説明する。この基本原理は、動画画像について移動物体を検出するためのものであり、三原色の各画素値を有する画素の集合体として、時系列で連続的にフレーム単位のカラー画像が与えられることを前提としている。
【0032】
たとえば、図1の左側に示すように、フレーム単位の画像P10,P20,P30,P40がこの順番で与えられたものとしよう。図示の例は、街頭に設置された定点ビデオカメラによる撮影画像を示すものであり、右から左へと1台の車両(移動物体)が通過する状態が示されている。なお、一般的なビデオカメラの場合、1秒間に30フレーム程度の周期で連続して撮影画像が出力されるので、実際には、より細かな時間間隔で多数のフレーム画像が得られることになるが、ここでは、説明の便宜上、図示のとおり、4枚のフレーム画像P10,P20,P30,P40が順番に与えられたものとしよう。
【0033】
これら4枚の画像を見ると、画像P10は街の背景のみであるが、画像P20では、右側に車両の一部が侵入したため、背景上に車両の一部が重なった画像になっている。同様に、画像P30,P40も、背景上に車両が重なった画像になっている。背景は静止しているため、画像P10〜P40について共通になるが、車両は移動物体であるため、画像P10〜P40では異なる。ここでは、各画像上において、背景を構成する領域を背景領域B、車両(移動物体)を構成する領域を前景領域Fと呼ぶことにする。
【0034】
本発明における移動物体検出の目的は、与えられた各画像P10〜P40について、それぞれ背景領域Bと前景領域Fとを区別することにある。図1の右側に示す各画像M10〜M40は、それぞれ左側に示す各画像P10〜P40について、背景領域Bと前景領域Fとの区別を示す画像である。図にハッチングを施した領域が背景領域Bであり、白地の領域が前景領域Fである。いずれの領域かを識別できればよいので、これらの画像M10〜M40は、二値画像として与えられる。たとえば、背景領域Bに所属する画素には画素値「1」を与え、前景領域Fに所属する画素には画素値「0」を与えることにすれば、画像M10〜M40は、1ビットの画素値をもった画素の集合体からなる画像データとして用意することができる。
【0035】
本発明によれば、与えられた個々のフレーム画像のそれぞれについて、対応する二値画像を作成することができる。結局、本発明に係る移動物体検出処理の本質は、時系列で連続的に与えられた個々のカラー画像について、それぞれ背景領域Bと前景領域Fとの区別を示す二値画像を作成する処理ということができる。そこで、以下、便宜上、時系列で連続的に与えられるカラー画像を「原画像」と呼び、この「原画像」に基づいて作成される二値画像を「マスク画像」と呼ぶことにする。
【0036】
図1に示す例では、各原画像P10〜P40のそれぞれについて、マスク画像M10〜M40が作成された例が示されている。これらマスク画像を利用すれば、原画像上のどの領域が移動物体であるかを認識できるので、移動物体の形状やサイズを把握したり、移動物体の部分をズームアップして、車両のナンバーを確認したり、人物を特定したりする処理を行うことが可能になる。また、画面上で移動物体をズームアップしたまま追跡したり、移動経路を把握したりすることも可能になる。
【0037】
もちろん、このようなマスク画像の作成を、1枚の原画像のみから行うことは困難である。たとえば、図示の原画像P20のみが静止画像として与えられた場合、人間の脳は様々な情報から車両の存在を認識することができるが、この1枚の静止画像のみから、コンピュータに車両の存在を認識させるには、複雑なアルゴリズムに基づく処理が必要となる。そこで、一般的な移動物体検出アルゴリズムでは、既に述べたとおり、入力画像と背景画像との差を求めることにより、当該差の領域を移動物体の領域(前景領域F)と判断する手法が採られる。
【0038】
たとえば、予め原画像P10を背景画像として指定しておけば、原画像P20が入力された時点で両者を比較することにより、差の領域(異なる領域)を前景領域Fと認識し、図示のようなマスク画像M20を作成することが可能になる。差の領域の認識手法としては、前述したとおり、小領域単位で画素値の統計処理を施す方法も知られているが、入力画像と背景画像とを画素単位で比較して、両画素の画素値が類似している場合、当該画素は背景領域Bを構成する画素であるとし、類似していない場合、当該画素は移動物体を構成する前景領域Fを構成する画素であるとする方法が最も簡便な方法である。本発明も、このような画素単位での比較手法を採用することを前提としている。
【0039】
背景画像としては、予め移動物体が存在しない状態(たとえば、画像P10に示す状態)で撮影した静止画像を利用することも可能であるが、天候や時刻などの要因により、照明環境は時々刻々と変化してゆくものであり、ある特定の時点で撮影した静止画像をそのまま背景画像として継続して利用するのは不適切である。そこで、通常は、過去に入力された複数の原画像に基づいて、これら原画像の平均的な特徴を有する平均画像を作成し、この平均画像を背景画像として利用する手法が採られる。本発明でも、基本的には、このような手法で得られた平均画像を、背景画像として利用することになる。平均画像は新たな画像が入力されるたびに逐次更新されるので、天候や時刻などの要因により、照明環境が変化したとしても、当該変化に追随した適切な背景画像として機能する。
【0040】
図2は、一般的な移動物体検出の基本原理を示す図である。ここで、図の上段に示す画像P(1),P(2),... ,P(i−2),P(i−1)は、時系列で連続的に与えられるフレーム単位の原画像であり、これまでに第1番目の原画像P(1)から第(i−1)番目の原画像P(i−1)まで、(i−1)フレーム分の画像が与えられた状態が示されている。一方、図の中段左に示す画像P(i)は、新たに与えられた第i番目の原画像であり、図の中段右に示す画像A(i−1)は、図の上段に示す過去に与えられた(i−1)フレーム分の原画像P(1)〜P(i−1)の平均的な特徴を有する平均画像である。
【0041】
新たに入力された原画像P(i)についてのマスク画像M(i)は、当該原画像P(i)と平均画像A(i−1)とを比較することによって作成される。図2の下段は、このようにして作成されたマスク画像M(i)を示すものである。具体的には、原画像P(i)上の各画素の画素値を、平均画像A(i−1)上の対応する画素の画素値と比較し、類似範囲内と判定された画素については背景領域Bを示す画素値(たとえば、「1」)を与え、類似範囲外と判定された画素については前景領域Fを示す画素値(たとえば、「0」)を与えることにより、二値画像からなるマスク画像M(i)を作成すればよい。
【0042】
続いて、第(i+1)番目の原画像P(i+1)が入力されたときには、過去に入力された第i番目の原画像P(i)までの平均的な特徴を有する平均画像A(i)が新たに作成され、原画像P(i+1)と平均画像A(i)とを比較することにより、マスク画像M(i+1)が作成される。このように、平均画像は逐次更新されてゆくため、天候や時刻などの要因により、照明環境が変化した場合でも、各時点に適した背景画像としての機能を果たすことができる。
【0043】
なお、平均画像を作成する際には、時系列に沿った重みづけを行うようにし、最新の原画像の情報に重みをおいた加重平均を求めるようにするのが好ましい。たとえば、過去10分間に入力された原画像について重み1、それ以前に入力された原画像について重み0を与えて平均を求めれば、常に、最新10分間に得られた原画像についての平均画像を得ることができ、照明環境が変化した場合にも対応することができる。もちろん、常に最新の原画像ほど重みづけが大きくなるように、重みづけをきめ細かく設定することもできる。
【0044】
結局、この図2に示す例の場合、平均画像を作成する際には、第i番目の原画像P(i)が入力されたときに(i=1,2,...)、当該原画像P(i)を含めた過去の原画像について、それぞれ対応する位置の画素の各色別の画素値の重みづけ平均値を算出し、当該平均値をもつ画素の集合体からなる第i番目の平均画像A(i)を作成すればよい。そして、第(i+1)番目の原画像P(i+1)が入力されたときには、第(i+1)番目のマスク画像M(i+1)を作成するために、原画像P(i+1)と、第i番目の平均画像A(i)とを比較すればよい。
【0045】
ただ、1秒間に30フレームという一般的なフレームレートで動画画像が入力された場合、過去10分間の原画像であっても、その画像データをすべて蓄積しておくには、画像データのバッファにかなりの記憶容量が必要になる。そこで、実用上は、第i番目の原画像P(i)が与えられたときに、第(i−1)番目の平均画像A(i−1)と、当該第i番目の原画像P(i)との2枚の画像に基づいて、第i番目の平均画像A(i)を作成する手法が採られる。図3は、このような手法に基づく平均画像の作成方法の一例を示す図である。
【0046】
まず、最初の原画像P(1)が与えられたときには、当該原画像P(1)をそのまま最初の平均画像A(1)とする処理を行う。そして、以後、図3の上段右に示す第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、図3の上段左に示す第(i−1)番目の平均画像A(i−1)を利用して、図3の中段に示す第i番目の平均画像A(i)を、図3の下段に示す
a(i)=(1−w)・a(i−1)+w・p(i) 式(1)
なる演算式を用いて作成すればよい。ここで、a(i)は、平均画像A(i)の所定位置の画素の所定色の画素値、a(i−1)は、平均画像A(i−1)の前記所定位置の画素の前記所定色の画素値、p(i)は、原画像P(i)の前記所定位置の画素の前記所定色の画素値、wは、所定の重みを示すパラメータ(w<1)である。
【0047】
要するに、直前に与えられた原画像P(i−1)までの原画像について算出された第(i−1)番目の平均画像A(i−1)の画素値a(i−1)と、新たに与えられた第i番目の原画像P(i)の画素値p(i)とについて、重みwを考慮した平均値が算出され、当該算出値を第i番目の平均画像A(i)の画素値a(i)とする処理が行われることになる。このように、新たな原画像P(i)が入力されるたびに、平均画像A(i)を更新してゆき、しかも更新には直前の平均画像A(i−1)のみを用いるようにすれば、過去の原画像データを何フレーム分にもわたって蓄積保持しておく必要がないので、処理を行うために必要なバッファの容量を大幅に節約することができる。
【0048】
図3に示すとおり、重みwの値を大きくすればするほど、最新の原画像P(i)の画素値が平均画像A(i)の画素値に大きな影響を与えることになる。図4は、図3に示す方法に基づいて作成される平均画像上の1画素の画素値変遷プロセスを示す図である。この例では、重みw=0.01に設定した具体例が示されている。
【0049】
たとえば、第1番目(i=1)の原画像P(1)の特定位置の画素の画素値がp(1)=100であったとすると、第1番目の平均画像A(1)の当該特定位置の画素の画素値a(1)は、そのままa(1)=100となる。続いて、第2番目の原画像P(2)の当該特定位置の画素の画素値がp(2)=100であったとすると、第2番目の平均画像A(2)の当該特定位置の画素の画素値a(2)は、a(1)とp(2)との重みつき平均「0.99×100+0.01×100」を計算することにより、a(2)=100になる。
【0050】
図示の例では、原画像の当該特定位置の画素値は、p(1)〜p(4)まで100のまま変化しないため、平均画像の当該特定位置の画素値も、a(1)〜a(4)まで100を維持する。ところが、第5番目の原画像P(5)では、画素値p(5)=200に急変したため、第5番目の平均画像A(5)の画素値a(5)は、図4の下段の式に示すとおり、a(4)とp(5)との重みつき平均「0.99×100+0.01×200」を計算することにより、a(5)=101になる。更に、第6番目の原画像P(6)および第7番目の原画像P(7)では、画素値p(6)=p(7)=200が維持されているため、図4の下段の式に示すとおり、第6番目の平均画像A(6)および第7番目の平均画像A(7)では、画素値a(6)=102、画素値a(7)=103、と徐々に増加している。
【0051】
この例のように、重みwを0.01程度の値に設定すると、原画像の画素値が急激に変化しても、平均画像の画素値は直ちに変化することはなく、原画像の画素値にゆっくりと近づいてゆくことになる。したがって、図1に示す例のように、車両が通過する動画が与えられたとしても、一過性の画素値変化は、平均画像の画素値に大きな変化をもたらすことはなく、平均画像は背景画像としての機能を果たすことができる。一方、時刻が日中から夕暮れに変わった場合など、照明環境に変化が生じた場合、当該変化は多数のフレーム画像にわたって持続するため、平均画像の画素値も当該変化に追従して変化することになる。したがって、日中には日中の背景画像に適した平均画像が得られ、夕暮れには夕暮れの背景画像に適した平均画像が得られることになる。
【0052】
移動物体の領域を示すマスク画像Mは、このような方法で作成された平均画像を背景画像として、個々の原画像を比較することによって作成することができる。図5は、このようにして作成されるマスク画像Mの画素値決定プロセスを示す図である。第i番目の原画像P(i)についてのマスク画像M(i)は、次のような方法で決定される画素値をもつ画素の集合体からなる二値画像である。すなわち、マスク画像M(i)の特定位置の画素の画素値m(i)は、原画像P(i)の当該特定位置の画素の画素値p(i)と、平均画像A(i−1)の当該特定位置の画素の画素値a(i−1)との比較によって決定され、両画素値が類似範囲内であれば、背景領域B内の画素であることを示す画素値(たとえば、「1」)が与えられ、両画素値が類似範囲外であれば、前景領域F内の画素であることを示す画素値(たとえば、「0」)が与えられる。
【0053】
なお、実際には、原画像は三原色の各画素値(たとえば、RGB表色系の場合、R,G,Bの3色の画素値)をもったカラー画像であるので、原画像P(i)を構成する各画素の画素値p(i)や、平均画像A(i)を構成する各画素の画素値a(i)は、いずれも色ごとに独立した3つの値から構成されていることになる。そして、式(1)の演算は、個々の色ごとにそれぞれ独立して実行されることになる。たとえば、平均画像A(i)上の特定位置の画素の画素値a(i)は、R色の画素値、G色の画素値、B色の画素値という3組の画素値によって構成され、R色の画素値は、過去の原画像のR色の画素値の重みつき平均として得られた値になる。
【0054】
したがって、図5における画素値p(i)と画素値a(i−1)との比較は、単なる2つの値の比較ではなく、3組の画素値と3組の画素値との比較ということになる。当然ながら、画素の類否判定は、この3組の画素値の組み合わせからなる色同士が類似するか否かを判定する処理ということになる。以下、この類否判定を行うための一般的な方法を、§2において詳述する。
【0055】
<<< §2.画素の一般的な類否判定方法 >>>
さて、§1で述べた移動物体検出方法では、原画像(入力画像)と平均画像(背景画像)とを画素単位で比較して、両画素が類似している場合は背景領域Bの画素、非類似の場合は前景領域Fの画素という判定を行う。このように画素単位での類否判定を行う方法は、領域単位で特徴量を求める方法に比べて処理が単純になり、演算負担は比較的軽くなる。しかしながら、画素の類否判定が移動物体の検出精度を左右するファクターになるため、どのような方法で、どの程度の範囲までを「類似範囲」と判定するかが非常に重要である。
【0056】
たとえば、§1では、図1の画像P10を平均画像(背景画像)とし、画像P20を原画像(入力画像)とした場合、両者の比較により、画像M20のようなマスク画像が得られることを述べた。ここで、マスク画像M20の前景領域Fは、両画像P10,P20を比較した結果、画素が類似範囲外と判定された領域であり、背景画像Bは、画素が類似範囲内と判定された領域である。この場合、類似範囲を適切に設定しないと、正しいマスク画像を得ることはできない。
【0057】
カラー画像の場合、画素の類否は、両画素の色が近似しているか否かに基づいて判定する必要がある。そのためには、一方の画素の3組の画素値と他方の画素の3組の画素値との総合的な比較を行う必要がある。たとえば、RGB表色系の場合、カラー画像を構成する個々の画素には、R,G,Bの3種類の画素値が与えられるが、たとえ、画素値Rが同一であっても、それだけでは両画素の色が類似していることにならない。通常、このようなカラー画像の画素の比較は、三次元の色空間上で、双方の画素値に対応する座標点をプロットし、両座標点の空間的な位置関係を調べることによって行われる。以下、各画素がRGB表色系の画素値をもっている場合について、色空間上での類否判定を行う代表的な方法をいくつか説明しよう。
【0058】
図6は、画素の類否判定の最も単純な方法を示す三次元色空間図である。図示のとおり、三原色R,G,Bの画素値を各座標軸にとったRGB三次元直交座標系に、座標点AおよびPがプロットされている。ここで、座標点A(Ra,Ga,Ba)は、背景を示す平均画像A上の画素の画素値(Ra,Ga,Ba)をプロットした点であり、座標点P(Rp,Gp,Bp)は、判定対象となる原画像P上の画素の画素値(Rp,Gp,Bp)をプロットした点である。
【0059】
ここで、この三次元色空間上での2点A,Pの距離をδとすれば、当該距離δは、両画素の類似度を示す1つの指標になる。δ=0であれば、両画素は全く同一の画素値をもった画素になり、δが大きくなればなるほど、3つの画素値の総合的な類似度は低下する。したがって、予め所定の閾値δthを設定しておき、δ<δthであれば類似範囲内、δ≧δthであれば類似範囲外と判定するようにすれば、一応の判定基準を設定することができる。
【0060】
あるいは、原点Oを起点として、座標点Aへ向かうベクトルVaと座標点Pへ向かうベクトルVpとを定義し、両ベクトルVa,Vpのなす角θを、両画素の類似度を示す指標として用いることもできる。θ=0の場合、2点A,Pは必ずしも同一の点にはならないが、原点Oを通る同一直線上の点になるため、少なくとも三原色R,G,Bの配合割合で決まる両画素の色相は類似したものになる。結局、θが小さければ、色相の類似性は高まることになるので、指標δを用いた判定基準と同様に、予め所定の閾値θthを設定しておき、θ<θthであれば類似範囲内、θ≧θthであれば類似範囲外と判定するようにすれば、一応の判定基準を設定することができる。
【0061】
一方、より正確な判定を行う方法として、三原色の各画素値を各座標軸にとった三次元座標系において、一方の画素値に対応する座標に位置する基準点を中心として所定サイズの基準立体を配置し、他方の画素値に対応する座標点との位置関係を調べ、当該座標点が基準立体の外部に位置すると判定できる場合に非類似との判定を行い、内部に位置すると判定できる場合には類似との判定を行う方法が知られている。
【0062】
たとえば、前掲の非特許文献1には、適切な判定基準を設定するために、基準立体として円柱を用いる類否判定方法が提案されている。図7は、この円柱モデルを用いる方法の基本原理を示す三次元色空間図である。この図7においても、図6と同様に、背景を示す平均画像A上の画素の画素値(Ra,Ga,Ba)が座標点Aとしてプロットされ、判定対象となる原画像P上の画素の画素値(Rp,Gp,Bp)が座標点Pとしてプロットされている。ここでも、ベクトルVa,Vpは、原点Oを起点として、各点A,Pへ向かうベクトルである。
【0063】
このモデルでは、図示のとおり、座標点Aを中心として所定半径をもった長さLの円柱Cが定義されている。別言すれば、円柱Cは、ベクトルVa上に定義された基準軸Zを中心軸とし、その中心点が座標点Aにくるように配置された円柱ということになる。そして、この円柱Cの内部の空間領域を、背景を示す平均画像Aを構成する画素の類似範囲と定める。したがって、図示の例のように、座標点Pに対応する画素値をもった画素は、円柱Cの外側に位置するため類似範囲外と判定され、前掲領域Fを構成する画素と認定されることになる。逆に、座標点Pが円柱Cの内部に位置していれば、類似範囲内と判定され、背景領域Bを構成する画素と認定される。
【0064】
ここに示す円柱モデルの特徴は、ベクトルVaの方向を向いた基準軸Zを長手方向とする円柱領域が設定される点である。この円柱Cの半径は、色相の類似範囲を決めるパラメータとして機能し、長さLは明度の類似範囲を決めるパラメータとして機能する。実際の景色では、太陽光による照明環境の変化、風による樹木等の明暗の変化などによって、背景領域Bの画素値に時間的変動が生じることになるが、このような変動は、色相よりも明度に大きな影響を及ぼすと考えられる。したがって、このモデルのように、基準軸Zを長手方向とする円柱Cに基づいて類似範囲を設定することは理にかなっている。
【0065】
<<< §3.従来提案されている移動物体検出装置 >>>
ここでは、§1および§2で述べた原理に基づいて移動物体の検出を行う装置の基本構成を、図8のブロック図を参照しながら説明する。この装置は、特願2009−226146号明細書に開示された装置であり、与えられた動画画像について移動物体を検出する機能をもった移動物体検出装置である。図示のとおり、この装置は、画像入力部110、原画像格納部120、平均画像作成部130、平均画像格納部140、画像比較部200、マスク画像格納部310、画像出力部320、パラメータ設定部330によって構成される。
【0066】
画像入力部110は、時系列で連続的に与えられるフレーム単位のカラー原画像Pを、三原色の各画素値を有する画素の集合体データとして入力する構成要素であり、原画像格納部120は、こうして入力された原画像を逐次格納する構成要素である。一方、平均画像作成部130は、過去に入力された複数の原画像Pに基づいて、これら原画像の平均的な特徴を有する平均画像Aを逐次作成する構成要素であり、平均画像格納部140は、作成された平均画像Aを逐次格納する構成要素である。
【0067】
この平均画像Aを作成する具体的な処理機能については、図3を参照して§1で述べたとおりである。すなわち、平均画像作成部130は、最初の原画像P(1)が与えられたときには、当該原画像P(1)をそのまま最初の平均画像A(1)として平均画像格納部140に格納する処理を行う。そして、以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、この原画像P(i)と平均画像格納部140に格納されていた第(i−1)番目の平均画像A(i−1)を利用して、第i番目の平均画像A(i)を作成し、これを平均画像格納部140に格納する。
【0068】
このとき、平均画像A(i)の所定位置の画素の所定色の画素値をa(i)とすれば、画素値a(i)は、既に述べたとおり、
a(i)=(1−w)・a(i−1)+w・p(i) 式(1)
なる演算式を用いて算出される。ここで、a(i−1)は、平均画像A(i−1)の前記所定位置の画素の前記所定色の画素値、p(i)は、原画像P(i)の前記所定位置の画素の前記所定色の画素値、wは、所定の重みを示すパラメータ(w<1)である。なお、各画素値は、実際には、§2で述べたとおり、たとえば、RGB表色系の場合、R,G,Bの3種類の画素値から構成され、上記演算は、個々の色ごとの画素値についてそれぞれ別個に行われる。
【0069】
図8に示す原画像格納部120や平均画像格納部140は、バッファメモリによって構成することができる。平均画像作成部130が、図3に示す方法で重みwをパラメータとして平均画像を逐次作成し、これを平均画像格納部140に格納してゆくようにすれば、原画像格納部120には、常に処理に必要な最新の原画像のみが格納されるようにし、平均画像格納部140には、常に処理に必要な最新の平均画像Aのみが格納されるようにすればよいので、バッファメモリの容量を節約することができる。
【0070】
画像比較部200は、原画像格納部120に格納された原画像Pと、平均画像格納部140に格納された平均画像Aとを比較し、前景領域Fと背景領域Bとを区別するマスク画像Mを作成する機能を果たす構成要素であり、図示のとおり、画素値読出部210、類否判定部220、画素値書込部230によって構成されている。
【0071】
画素値読出部210は、比較対象となる一対の画像(すなわち、原画像格納部120に格納されている原画像Pと、平均画像格納部140に格納されている平均画像A)のうち、いずれか一方の画像の所定位置の画素の画素値を基準画素値(R,G,B)として読み出し、他方の画像の対応位置の画素の画素値を比較画素値(r,g,b)として読み出す処理を行う。
【0072】
類否判定部220は、比較画素値(r,g,b)が、基準画素値(R,G,B)について設定された所定の類似範囲に入っているか否かを判定する処理を行う。具体的には、図7に示す円柱モデルを利用する場合、三原色の各画素値を各座標軸にとった三次元座標系において、基準画素値(R,G,B)に対応する座標に位置する基準点A(R,G,B)と比較画素値(r,g,b)に対応する座標に位置する比較点P(r,g,b)をとり、基準点Aを中心とする所定サイズの円柱Cと比較点Pとの位置関係を調べ、比較点Pが円柱Cの外部に位置する場合には非類似との判定を行い、内部に位置する場合には類似との判定を行う。このとき、円柱Cのサイズは、所定の判定パラメータによって決定される。
【0073】
そして、画素値書込部230は、マスク画像Mを構成する所定位置(画素値読出部210の読出対象となった位置)の画素の画素値として、類否判定部220の判定結果に応じた値を定め、マスク画像格納部310に書き込む処理を行う。すなわち、類否判定部220が類似と判定した場合には背景領域Bを示す画素値(たとえば、「1」)を、類否判定部220が非類似と判定した場合には前景領域Fを示す画素値(たとえば、「0」)を、それぞれマスク画像格納部310に書き込む処理を行う。
【0074】
マスク画像格納部310は、こうして作成されたマスク画像Mを格納する構成要素であり、画像出力部320は、このマスク画像Mを出力する構成要素である。
【0075】
一方、パラメータ設定部330は、平均画像作成部130による平均画像作成処理に利用されるパラメータw(図3に示す重みw)と、類否判定部220の類否判定処理に利用される判定パラメータ(図7に示す円柱Cの半径と長さL)とを、ユーザの操作入力によって任意の値に設定する機能を有する。ユーザは、必要に応じて、これらパラメータの値を調整することにより、より精度の高い検出結果を得ることができる。もっとも、これらのパラメータの一部もしくは全部は、固定値にしておくことも可能である。全部のパラメータ値を固定値にする実施例では、パラメータ設定部330を設ける必要はない。
【0076】
なお、実用上、この図8に示す移動物体検出装置は、コンピュータに専用のプログラムを組み込むことにより構築することができ、図8に各ブロックで示す構成要素は、コンピュータのハードウエアとソフトウエアとの組み合わせによって実現することができる。もちろん、この移動物体検出装置を半導体集積回路として構成することも可能である。
【0077】
この移動物体検出装置による検出精度を向上させるには、各パラメータの値を利用環境に合致した最適値に設定することが重要である。また、類否判定部220において適切な判定アルゴリズムを用いることも重要である。ここでは、図7に示す円柱モデルを利用した例を述べたが、たとえば、§7で述べる回転楕円体モデルを利用すると、一般的に検出精度の向上を図ることができる。
【0078】
このように、図8に示す移動物体検出装置の検出精度を向上させるために、様々な工夫を施すことが可能であるが、本願発明者が行った実験によると、時刻や天候などによる照明変動の影響を完全に排除することは困難であり、依然として、誤検出が生じる問題がある。
【0079】
図1に示す各原画像P10〜P40には、背景部分に全く同じ画像が描かれているが、実際の風景では、雲の動きで太陽光による照明環境が変化し、風により樹木の葉の位置や向きが微妙に変化する。したがって、類否判定部220における画素の類否判定基準を厳しくすると(たとえば、図7に示す円柱モデルの場合、円柱Cのサイズを小さくすると)、実際には背景部分であるのに、非類似との誤判定が生じ、前景領域F内の画素との認定がなされてしまう。逆に、画素の類否判定基準を緩めると、実際には前景部分であるのに、類似との誤判定が生じ、背景領域B内の画素との認定がなされてしまう。
【0080】
もちろん、過去に入力された多数の原画像に対して、より複雑な統計処理を施して背景画像を決定するようにすれば、検出精度の向上を図ることが可能であるが、そのためには演算処理が極めて複雑になり、一般的なプロセッサによるリアルタイム処理を行うことが困難になる。また、多数のフレームにわたって入力画像を格納しておく必要があるため、大容量の画像バッファメモリが必要になる。
【0081】
本発明は、このような問題を解決するための提案であり、その目的は、演算処理の負担を軽減しつつ、日照変化などの自然現象に起因した誤検出を排除し、より正確な検出を行うことが可能な移動物体検出装置を提供することにある。以下、本発明に係る移動物体検出装置の構成および動作を説明する。
【0082】
<<< §4.本発明に係る移動物体検出装置 >>>
本発明に係る移動物体検出装置は、図8に示した従来提案されている移動物体検出装置を改良したものであり、その基本構成を図9に示す。図示のとおり、この装置は、画像入力部110、原画像格納部120、平均画像作成部130、参照画像作成部135、平均画像格納部140、参照画像格納部145、画像比較部400、マスク画像格納部310、画像出力部320、パラメータ設定部340によって構成され、動画画像について移動物体を検出する移動物体検出装置として機能する。
【0083】
この図9に示す各構成要素のうち、画像入力部110、原画像格納部120、平均画像作成部130、平均画像格納部140の機能は、図8に同符号で示す各構成要素の機能と全く同じである。すなわち、画像入力部110は、時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する機能を果たし、原画像格納部120は、入力された原画像を逐次格納する機能を果たす。
【0084】
また、平均画像作成部130は、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した平均画像とに基づいて、新たな平均画像を作成する機能を果たし、平均画像格納部140は、作成された平均画像を逐次格納する機能を果たす。たとえば、画像入力部110によって第i番目の原画像P(i)が入力され、原画像格納部120に格納された場合、平均画像作成部130は、平均画像格納部140から直前に作成した平均画像A(i−1)を読み出し、原画像格納部120から新たな原画像P(i)を読み出し、これらの画像に基づいて、新たな平均画像A(i)を作成し、これを平均画像格納部140に格納する。
【0085】
より具体的には、平均画像作成部130は、第1番目の原画像P(1)をそのまま第1番目の平均画像A(1)として平均画像格納部140に格納し、第i番目(i≧2)の原画像P(i)が入力された場合、この第i番目の原画像P(i)と第(i−1)番目の平均画像A(i−1)とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目(i≧2)の平均画像A(i)として平均画像格納部140に格納する。
【0086】
一方、参照画像作成部135および参照画像格納部145は、本発明に係る移動物体検出装置において新たに付加された構成要素である。参照画像作成部135は、画像入力部110によって新たな原画像が入力されるたびに、直前に作成した参照画像に基づいて新たな参照画像を作成する機能を果たし、参照画像格納部145は、作成された参照画像を逐次格納する機能を果たす。これらの具体的な機能については、後に詳述する。
【0087】
また、画像比較部400は、図8に示す画像比較部200と同様に、画像を個々の画素単位で比較し、類否判定を行う機能をもった構成要素であるが、その比較対象には、新たに参照画像が加わることになる。すなわち、画像比較部400は、原画像格納部120に格納された原画像Pと、平均画像格納部140に格納された平均画像Aと、参照画像格納部145に格納された参照画像Uと、を用いた比較処理により、前景領域Fと背景領域Bとを区別するマスク画像Mを作成する機能を果たす。図示のとおり、画像比較部400は、画素値読出部410、前背判定部450、画素値書込部460によって構成されているが、これら各構成要素の機能については後に詳述する。
【0088】
図9に示すマスク画像格納部310および画像出力部320の機能も、図8に同符号で示す各構成要素の機能と全く同じである。すなわち、マスク画像格納部310は、画像比較部400によって作成されたマスク画像Mを格納する機能を果たし、画像出力部320は、当該マスク画像Mを出力する機能を果たす。
【0089】
パラメータ設定部340は、この装置で利用されるパラメータを設定する構成要素である。この装置の場合、平均画像作成部130で用いられる重みw、参照画像作成部135で用いられる重みv、前背判定部450で用いられる判定パラメータ(たとえば、図7に示す円柱モデルを利用した類否判定を行う場合は、円柱Cの半径と長さL)を、パラメータ設定部340によって設定することができる。ユーザは、必要に応じて、パラメータ設定部340に対して操作入力を行い、これらパラメータの値を調整し、より精度の高い検出結果を得ることができる。もちろん、これらのパラメータの一部もしくは全部は、固定値にしておくことも可能であり、全部のパラメータ値を固定値にする実施例では、パラメータ設定部340を設ける必要はない。
【0090】
図9に示す本発明に係る移動物体検出装置が、図8に示す従来の移動物体検出装置と大きく異なる点は、参照画像作成部135および参照画像格納部145を新たに付加した点と、画像比較部200の代わりに画像比較部400を設けた点である。そこで、まず、画像比較部400の処理機能について説明する。図示のとおり、画像比較部400は、画素値読出部410、前背判定部450、画素値書込部460によって構成されており、前背判定部450は、第1判定部420、第2判定部430、総合判定部440によって構成されている。
【0091】
画素値読出部410は、画像入力部110が第i番目の原画像P(i)を入力し、これを原画像格納部120に格納するたびに、この原画像格納部120に格納されている第i番目の原画像P(i)、平均画像格納部140に格納されている第(i−1)番目の平均画像A(i−1)、参照画像格納部145に格納されている第(i−1)番目の参照画像U(i−1)から、それぞれ対応する所定位置にある画素の画素値を読み出す処理を行う。ここでは、対応する所定位置にある各画素の画素値をそれぞれp(i),a(i−1),u(i−1)で表すことにする。原画像P,平均画像A,参照画像Uは、いずれも同じ二次元画素配列をもった画像であり、対応する所定位置にある各画素とは、この二次元画素配列において同一座標(x,y)に位置する画素ということになる。
【0092】
こうして画素値読出部410が読み出した、同一座標(x,y)に位置する画素の画素値p(i),a(i−1),u(i−1)は、前背判定部450に与えられる。なお、前述したとおり、実際には、各画素は、三原色R,G,Bの成分を有しているので、画素値p(i),a(i−1),u(i−1)は、それぞれ三原色R,G,Bの成分ごとに独立した値をもつことになる。たとえば、画素値p(i)は、実際には、R色成分p(i)r,G色成分p(i)g,B色成分p(i)bという3通りの画素値の集合体であるが、ここでは便宜上、単に画素値p(i)と呼ぶことにする。
【0093】
前背判定部450は、画素値読出部410によって読み出された画素値p(i),a(i−1),u(i−1)に基づいて、第i番目の原画像P(i)の所定位置(座標(x,y)の位置)にある画素が前景画素か背景画素かを判定する処理を行う。ここでは、判定結果をJなる論理値で表す。具体的には、判定結果がJ=0であれば前景画素、J=1であれば背景画素であることを示す。
【0094】
前背判定部450は、第1判定部420、第2判定部430、総合判定部440によって構成されており、座標(x,y)に位置する画素についての判定を次のようなプロセスで実行する。まず、第1判定部420は、第i番目の原画像P(i)を構成する画素の画素値p(i)と第(i−1)番目の平均画像A(i−1)を構成する画素の画素値a(i−1)とを比較して類似するか否かを判定する。一方、第2判定部430は、第i番目の原画像P(i)を構成する画素の画素値p(i)と第(i−1)番目の参照画像U(i−1)を構成する画素の画素値u(i−1)とを比較して類似するか否かを判定する。そして、総合判定部440は、第1判定部420による判定結果および第2判定部430による判定結果の少なくとも一方が類似を示す場合には背景画素との判定を行い判定結果J=1を出力し、双方とも非類似を示す場合には前景画素との判定を行い判定結果J=0を出力する。
【0095】
第1判定部420および第2判定部430は、2つの画素間の類否判定を行うことになるが、その具体的な方法は§2で例示したとおりである。たとえば、図7に示す円柱モデルを利用する場合、第1判定部420は、次のような方法で、画素値p(i)と画素値a(i−1)との類否判定を行うことができる。まず、画素値a(i−1)を構成する三原色の各画素値に基づいて、RGB三次元座標系に基準点Aをプロットし、この基準点Aを中心とする所定サイズの基準立体として円柱Cを配置する。次に、画素値p(i)を構成する三原色の各画素値に基づいて、RGB三次元座標系に比較点Pをプロットする。そして、円柱Cと比較点Pとの位置関係を調べ、比較点Pが円柱Cの外部に位置する場合には非類似との判定を行い、内部に位置する場合には類似との判定を行えばよい。第2判定部430も、同様の方法で、画素値p(i)と画素値u(i−1)との類否判定を行うことができる。
【0096】
総合判定部440は、これら2通りの判定結果に基づき、少なくとも一方が類似を示す場合には判定結果J=1(背景画素との判定結果)を出力し、双方とも非類似を示す場合には判定結果J=0(前景画素との判定結果)を出力する。このような判定結果の出力は、第1判定部420および第2判定部430の判定結果の論理和として得ることができる。すなわち、第1判定部420および第2判定部430が、類似との判定結果を論理値「1」として出力し、非類似との判定結果を論理値「0」として出力するようにしておけば、総合判定部440は、これらの各判定結果の論理和として、最終的な判定結果Jを出力することができる。
【0097】
画素値書込部460は、第i番目のマスク画像M(i)を構成する所定位置(座標(x,y)の位置)の画素の画素値として、前背判定部450が背景画素と判定した場合には背景領域を示す画素値(この例では、判定結果Jと同じ論理値「1」)を、前背判定部450が前景画素と判定した場合には前景領域を示す画素値(この例では、判定結果Jと同じ論理値「0」)を、それぞれマスク画像格納部310に書き込む処理を行う。
【0098】
以上、画像比較部400が、特定の座標(x,y)に位置する1画素について実行する具体的な処理を述べたが、このような処理が、1枚の画像を構成する全画素について繰り返し実行される。こうして、原画像格納部120に格納された第i番目の原画像P(i)を構成する全画素について、それぞれ背景画素か前景画素かの判定が行われることになり、その判定結果に基づいて、マスク画像格納部310内に第i番目(i≧2)のマスク画像M(i)が得られることになる。こうして得られたマスク画像M(i)において、前景画素からなる領域(上例の場合、画素値「0」をもった領域)は、前景領域、すなわち、「移動物体が存在する」と判断できる領域ということになる。
【0099】
続いて、参照画像作成部135および参照画像格納部145の処理機能について説明する。参照画像作成部135および参照画像格納部145の役割は、平均画像作成部130および平均画像格納部140の役割と対比して考えることができる。後者は、平均画像Aを作成しこれを逐次格納する役割を果たすのに対して、前者は、参照画像Uを作成しこれを逐次格納する役割を果たす。そして、平均画像Aも参照画像Uも、画像比較部400において、原画像Pと比較されることになる。この比較処理では、平均画像Aも参照画像Uも、原画像Pに対する背景としての意味合いをもつ。ただ、平均画像Aと参照画像Uとは、その作成プロセスが異なるため、原画像に動的変化が生じた場合、その追従性に差が生じることになる。
【0100】
平均画像作成部130による平均画像Aの作成処理は、既に§3で述べたとおりである。すなわち、平均画像作成部130は、まず、初期設定として、第1番目の原画像P(1)をそのまま第1番目の平均画像A(1)として、平均画像格納部140に格納する処理を行う。続いて、第2番目以降の原画像が入力されると、第i番目の原画像P(i)と第(i−1)番目の平均画像A(i−1)とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目(i≧2)の平均画像A(i)として、平均画像格納部140に格納する処理を行う。
【0101】
図10は、図9に示す移動物体検出装置の各構成要素で実行される演算内容を示す図である。図の上段には、平均画像作成部130で実行される演算内容が式(1A)として示されている。この式(1A)は、図3に示す式(1)と同じものである。要するに、平均画像作成部130は、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)として平均画像格納部140へ格納する処理を行い(図10上段の但し書)、以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i) 式(1A)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
p(i)は、原画像P(i)の
前記所定位置の画素の前記所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成することになる。
【0102】
これに対して、参照画像作成部135による参照画像Uの作成処理は、次のようなプロセスによって行われる。すなわち、参照画像作成部135は、まず、初期設定として、第1番目の原画像P(1)をそのまま第1番目の参照画像U(1)として、参照画像格納部145に格納する処理を行う。続いて、第2番目以降の原画像が入力されると、直前の参照画像に基づいて、次のような方法で新たな参照画像を作成する処理を行う。すなわち、第i番目(i≧2)の原画像P(i)が入力され、この原画像P(i)を構成する個々の画素について、前背判定部450において前景画素か背景画素かの判定が行われたら、参照画像作成部135は、参照画像格納部145に格納されている第(i−1)番目の参照画像U(i−1)を構成する個々の画素のうち、前背判定部450によって第i番目の原画像P(i)の対応画素が前景画素と判定された画素については、更新せずに、もとの画素値u(i−1)をそのまま維持し、前背判定部450によって第i番目の原画像P(i)の対応画素が背景画素と判定された画素については、当該画素と第(i−1)番目の平均画像A(i−1)の対応する位置にある画素とについて、三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を新画素値として更新することにより、第i番目(i≧2)の参照画像U(i)を作成する処理を行う。
【0103】
図10の中段には、参照画像作成部135で実行される演算内容が示されている。すなわち、参照画像作成部135は、最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の参照画像U(1)として参照画像格納部へ格納する処理を行い(図10中段の最下行)、以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の参照画像U(i)の各画素値を、次のような方法で決定する処理を行う。
【0104】
この決定処理では、前背判定部450による判定結果が利用される。すなわち、前背判定部450によって背景画素と判定された画素(判定結果J=1が得られた画素)については、
u(i)=(1−v)・u(i−1)+v・a(i−1) 式(1B)
(但し、u(i)は、平均画像U(i)の
所定位置の画素の所定色の画素値、
u(i−1)は、平均画像U(i−1)の
前記所定位置の画素の前記所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
vは、所定の重みを示すパラメータ(v<1))
なる演算式を用いて求められた画素値u(i)に更新し、
前景画素と判定された画素(判定結果J=0が得られた画素)については、
u(i)=u(i−1) 式(1C)
として、更新せずに、もとの画素値をそのまま維持する。
【0105】
図10の下段には、前背判定部450で実行される判定処理の概念が表として示されている。前述したとおり、前背判定部450における判定処理は、第1判定部420で行われる画素値p(i)とa(i−1)との類否判定処理(表の横欄)と、第2判定部430で行われる画素値p(i)とu(i−1)との類否判定処理(表の縦欄)と、これらの判定結果に基づいて総合判定部440で行われる総合判定処理と、によって構成される。図10下段の表の横欄は、第1判定部420による判定結果の別(類似○/非類似×)を示し、縦欄は、第2判定部430による判定結果の別(類似○/非類似×)を示している。総合判定部440は、少なくとも一方が「類似○」を示す場合には背景画素(J=1)、双方とも「非類似×」を示す場合には前景画素(J=0)との判定を行うことになる。参照画像作成部135は、この判定結果Jを利用して、図10の中段に示す処理を実行する。
【0106】
なお、実用上、この図9に示す移動物体検出装置も、コンピュータに専用のプログラムを組み込むことにより構築することができ、図9に各ブロックで示す構成要素は、コンピュータのハードウエアとソフトウエアとの組み合わせによって実現することができる。もちろん、この移動物体検出装置を半導体集積回路として構成することも可能である。
【0107】
<<< §5.画像変遷の実例 >>>
図11および図12は、図9に示す移動物体検出装置における各画像の変遷の一例を示す図である。前述したとおり、本発明を監視システムなどに利用する場合、実際には、原画像Pは1秒間に30フレーム程度の周期で入力されることになるが、ここでは、便宜上、平均画像Aと参照画像Uとの変遷態様の相違を説明するのに都合が良い非現実的なモデルを用いた変遷例を示すことにする。図11および図12に股がって示されている縦方向軸は、時間軸に対応しており、t1〜t15は時間軸上の各時点を示す。また、横方向に並べた3つの画像は、それぞれ各時点における原画像P,平均画像A,参照画像Uを示している。
【0108】
<第1の時点t1>
まず、第1の時点t1において、図示のような原画像P(1)が与えられたものとしよう。ここでは、便宜上、原画像P(1)を真っ白な画像として示しているが、この真っ白な画像は、街頭に設置された監視カメラから見た背景を示す画像であるものとする。
【0109】
このような第1番目の原画像P(1)が与えられると、平均画像作成部130は、当該原画像P(1)をそのまま第1番目の平均画像A(1)として平均画像格納部140に格納する。同様に、参照画像作成部135は、当該原画像P(1)をそのまま第1番目の参照画像U(1)として参照画像格納部145に格納する。したがって、図11の最上段に示すとおり、第1の時点t1では、図示のような画像P(1),A(1),U(1)が得られることになる。
【0110】
なお、原画像P(1),平均画像A(1),参照画像U(1)内に示された小さな正方形は、それぞれ同一位置(x,y)の画素p(1),a(1),u(1)を示している。以下、個々の画像について、この特定位置(x,y)に配置された特定の画素を代表画素として、この代表画素についてのみ、その画素値の変遷を追ってゆくことにする。ここで、各画素p(1),a(1),u(1)の画素値も画素と同じ符号で示すことにすれば、時点t1では、当然ながら、p(1)=a(1)=u(1)である。
【0111】
<第2の時点t2>
続いて、第2の時点t2において、図示のような原画像P(2)が与えられたものとしよう。ここで、原画像P(2)は原画像P(1)と全く同じ画像であり、監視カメラから見た背景に何ら変わりがなかった例を示している。したがって、画素値p(2)=p(1)である。次に、特定位置(x,y)に配置された画素についての前背判定部450による判定処理を考えると、第1判定部420では、画素p(2)と、1つ前の時点の画素a(1)との類否判定が行われ、第2判定部430では、画素p(2)と、1つ前の時点の画素u(1)との類否判定が行われる。図に実線で示す矢印は、この類否判定の相手先を示しており、矢印上の記号「○/×」は判定結果(○は類似/×は非類似)を示している。図示のとおり、p(2)=a(1)であり、p(2)=u(1)であるから、いずれも類似「○」との判定結果が得られ、前背判定部450は、J=1なる判定結果を出す。これは、画素p(2)が背景画素と判定されたことを意味する。
【0112】
さて、平均画像作成部130は、このような判定結果に依存することなしに、常に、図10に示す式(1A)に従って、平均画像Aの画素値aを更新する処理を行う。すなわち、時点t2における平均画像A(2)の特定位置(x,y)に配置されたの画素の画素値a(2)は、式(1A)に従って、a(2)=(1−w)・a(1)+w・p(2)なる演算によって求められ、画素値a(1)はa(2)に更新される。図の画素a(1)から画素a(2)に向かう破線および画素p(2)から画素a(2)に向かう破線は、式(1A)に従って、画素値a(1)および画素値p(2)に基づいて画素値a(2)が決定されることを示している。もっとも、実際には、a(1)=p(2)であるから、a(2)=a(1)となり、画素値自身に変動は生じない。
【0113】
これに対して、参照画像作成部135は、図10に示すとおり、判定結果Jに依存して異なる処理を行うことになる。ここに示す例の場合、時点t2についての判定結果は、上述したとおり、J=1になるので、参照画像作成部135は、図10に示す式(1B)に従って、参照画像Uの画素値uを更新する処理を行う。すなわち、時点t2における参照画像U(2)の特定位置(x,y)に配置されたの画素の画素値u(2)は、式(1B)に従って、u(2)=(1−v)・u(1)+v・a(1)なる演算によって求められ、画素値u(1)はu(2)に更新される。図の画素u(1)から画素u(2)に向かう破線および画素a(1)から画素u(2)に向かう破線は、式(1B)に従って、画素値a(1)および画素値u(1)に基づいて画素値u(2)が決定されることを示している。もっとも、実際には、a(1)=u(1)であるから、u(2)=u(1)となり、画素値自身に変動は生じない。
【0114】
<第3の時点t3>
続いて、第3の時点t3において、図示のような原画像P(3)が与えられたものとしよう。ここで、原画像P(3)は、視界に車両Vが侵入してきたため、背景上に車両V(移動物体)が重なった状態の画像になっている。したがって、画素値p(3)≠p(2)である。図では、画素p(3)を含む車両Vの部分を二重斜線ハッチング領域として示してある。
【0115】
この時点t3における特定位置(x,y)に配置された画素についての前背判定部450による判定処理を考えると、第1判定部420では、画素p(3)と、1つ前の時点の画素a(2)との類否判定が行われ、第2判定部430では、画素p(3)と、1つ前の時点の画素u(2)との類否判定が行われる。ここでは、説明の便宜上、車両Vの部分(図の二重斜線ハッチング部分)の色が背景部分(図の白地部分)と大きく異なっているものとしよう。そうすると、p(3)≠a(2)であり、p(3)≠u(2)であるから、いずれも非類似「×」との判定結果が得られ、前背判定部450は、J=0なる判定結果を出す。これは、画素p(3)が前景画素と判定されたことを意味する。したがって、第3のマスク画像M3において、特定位置(x,y)の画素は前景領域(移動物体の領域)に含まれる。
【0116】
さて、平均画像作成部130は、このような判定結果に依存することなしに、常に、図10に示す式(1A)に従って、平均画像Aの画素値aを更新する処理を行う。すなわち、時点t3における平均画像A(3)の特定位置(x,y)に配置されたの画素の画素値a(3)は、式(1A)に従って、a(3)=(1−w)・a(2)+w・p(3)なる演算によって求められ、画素値a(2)はa(3)に更新される。ここで、画素値a(3)は、画素値p(3)の影響を受けるため、画素値a(2)から変動することになる。図では、このようにして画素値が変動した画素a(3)に中濃ハッチングを施して示すことにする。
【0117】
一方、参照画像作成部135は、図10に示すとおり、判定結果J=0の場合は、値を更新しない。したがって、1つ前の時点の画素値u(2)をそのまま画素値u(3)として維持することになる。図の画素u(2)から画素u(3)に向かう破線は、更新が行われずに、元の画素値がそのまま維持されることを示している。
【0118】
<第4の時点t4>
続いて、第4の時点t4において、図示のような原画像P(4)が与えられたものとしよう。この原画像P(4)では、車両Vが視界から消え、元の原画像P(1),P(2)と同じ状態に戻っている。したがって、画素値p(4)≠p(3)である。
【0119】
この時点t4における前背判定部450による判定処理を考えると、第1判定部420では、画素p(4)と、1つ前の時点の画素a(3)との類否判定が行われ、第2判定部430では、画素p(4)と、1つ前の時点の画素u(3)との類否判定が行われる。ここでは、説明の便宜上、図の中濃ハッチング部分で示す色が、白地部分で示す色の類似範囲内にギリギリ入っていたものとしよう。実際、重みwの値を0.01程度に設定すると、車両Vが視界を通り過ぎた程度では、平均画像Aの画素値変動はそれほど大きくなく、画素値p(4)とa(3)とが類似範囲に入るケースは現実的である。また、画素値u(3)は更新されずに画素値u(2)を維持しているので、当然、画素値p(4)=u(3)である。よって、いずれの判定においても類似「○」との判定結果が得られ、前背判定部450は、J=1なる判定結果を出す。これは、画素p(4)が背景画素と判定されたことを意味する。
【0120】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(4)=(1−w)・a(3)+w・p(4)なる演算によって求められ、画素値a(3)はa(4)に更新される。ここで、画素値a(4)は、画素値p(4)の影響を受けるため、画素値a(3)から変動する。図では、このようにして画素値が変動した画素a(4)を白地の画素として示してある。
【0121】
これに対して、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(4)=(1−v)・u(3)+v・a(3)なる演算によって求められ、画素値u(3)はu(4)に更新される。図では、このようにして画素値が変動した画素u(4)に薄いハッチングを施して示すことにする。
【0122】
<第5の時点t5>
続いて、第5の時点t5において、図示のような原画像P(5)が与えられたものとしよう。この原画像P(5)では、再び視界に車両Vが侵入してきたため、背景上に車両V(移動物体)が重なった状態の画像になっている。したがって、画素値p(5)≠p(4)である。図では、画素p(5)を含む車両Vの部分を二重斜線ハッチング領域として示してある。
【0123】
この時点t5における前背判定部450による判定処理を考えると、第1判定部420では、画素p(5)と、1つ前の時点の画素a(4)との類否判定が行われ、第2判定部430では、画素p(5)と、1つ前の時点の画素u(4)との類否判定が行われる。図示の例では、いずれも非類似「×」との判定結果が得られ、前背判定部450は、J=0なる判定結果を出している。これは、画素p(5)が前景画素と判定されたことを意味する。したがって、第5のマスク画像M5において、特定位置(x,y)の画素は前景領域(移動物体の領域)に含まれる。
【0124】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(5)=(1−w)・a(4)+w・p(5)なる演算を行い、画素値a(4)はa(5)に更新される。図では、このようにして画素値が変動した画素a(5)に中濃ハッチングを施して示してある。一方、参照画像作成部135は、判定結果J=0を受けて、値を更新しない。したがって、1つ前の時点の画素値u(4)をそのまま画素値u(5)として維持することになる。
【0125】
<第6の時点t6>
続いて、第6の時点t6において、図示のような原画像P(6)が与えられたものとしよう。ここでは、時点t5で侵入してきた車両Vが、そのままの位置で駐車してしまった場合を考えてみよう。この場合、原画像P(6)は原画像P(5)と全く同じになる。
【0126】
この時点t6における前背判定部450による判定処理を考えると、第1判定部420では、画素p(6)と、1つ前の時点の画素a(5)との類否判定が行われ、第2判定部430では、画素p(6)と、1つ前の時点の画素u(5)との類否判定が行われる。図示の例では、いずれも非類似「×」との判定結果が得られ、前背判定部450は、J=0なる判定結果を出している。これは、画素p(6)が前景画素と判定されたことを意味する。したがって、第6のマスク画像M6において、特定位置(x,y)の画素は前景領域(移動物体の領域)に含まれる。
【0127】
一般に、重みw,vを小さく設定しておけば、原画像Pに対する平均画像Aや参照画像Uの追随速度は小さくなるので、車両Vが駐車していた場合でも、当該車両Vが背景に溶け込み、背景の一部として認識されるまでには時間がかかることになる。したがって、図示の例では、車両Vは時点t6ではまだ移動物体として認識されることになる。
【0128】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(6)=(1−w)・a(5)+w・p(6)なる演算を行い、画素値a(5)はa(6)に更新される。図では、このようにして画素値が変動した画素a(5)に斜線ハッチングを施して示してある。一方、参照画像作成部135は、判定結果J=0を受けて、値を更新しない。したがって、1つ前の時点の画素値u(5)をそのまま画素値u(6)として維持することになる。結果的に、時刻t4の画素値u(4)が時刻t6においても画素値u(6)として維持されることになる。
【0129】
<第7の時点t7>
続いて、第7の時点t7において、図示のような原画像P(7)が与えられたものとしよう。この例では、時点t5で侵入してきた車両Vが駐車状態にあり、原画像P(7)は原画像P(6)と全く同じ状態である。
【0130】
この時点t7における前背判定部450による判定処理を考えると、第1判定部420では、画素p(7)と、1つ前の時点の画素a(6)との類否判定が行われ、第2判定部430では、画素p(7)と、1つ前の時点の画素u(6)との類否判定が行われる。ここでは、第1判定部420では類似「○」との判定結果が得られ、第2判定部430では非類似「×」との判定結果が得られたものとしよう。平均画像Aは新たな原画像Pにより常に更新されるのに対して、参照画像Uは条件付き更新が行われるので、原画像Pの変化に対する追随速度は両者で異なる。このため、2つの判定部による判定結果に差が生じることになる。
【0131】
図示の例では、画素a(6)の色は画素p(7)の色にかなり近くなってきているため類似「○」との判定結果が得られたが、画素u(6)の色は、まだ画素p(7)の色に対して差があるため非類似「×」との判定結果が得られている。図10の前背判定部450の判定表に示すとおり、一方が類似「○」、他方が非類似「×」との判定結果が得られた場合、前背判定部450は、当該画素を背景画素と判定し、J=1なる判定結果を出力する。したがって、第7のマスク画像M7において、特定位置(x,y)の画素は背景領域に含まれる。すなわち、時点t7において、駐車中の車両Vは背景に溶け込んだものと認識されることになる。
【0132】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(7)=(1−w)・a(6)+w・p(7)なる演算を行い、画素値a(6)はa(7)に更新される。図では、このようにして画素値が変動した画素a(6)に斜線ハッチングを施して示してある(実際には、画素値a(6)とa(7)とは若干異なるが、図では便宜上、同一ハッチングを施して示す)。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(7)=(1−v)・u(6)+v・a(6)なる演算を行い、画素値u(6)をu(7)に更新する。図では、このようにして画素値が変動した画素u(7)に中濃ハッチングを施して示してある。
【0133】
<第8の時点t8>
続いて、第8の時点t8において、図示のような原画像P(8)が与えられたものとしよう。この例では、時点t5で侵入してきた車両Vが駐車状態にあり、原画像P(8)は原画像P(7)と全く同じ状態である。
【0134】
この時点t8における前背判定部450による判定処理を考えると、第1判定部420では、画素p(8)と、1つ前の時点の画素a(7)との類否判定が行われ、第2判定部430では、画素p(8)と、1つ前の時点の画素u(7)との類否判定が行われる。ここでは、第1判定部420では類似「○」との判定結果が得られ、第2判定部430では非類似「×」との判定結果が得られたものとしよう。
【0135】
図示の例では、画素a(7)の色は画素p(8)の色にかなり近くなってきているため類似「○」との判定結果が得られたが、画素u(7)の色は、まだ画素p(8)の色に対して差があるため非類似「×」との判定結果が得られている。その結果、前背判定部450は、当該画素を背景画素と判定し、J=1なる判定結果を出力する。したがって、第8のマスク画像M8において、特定位置(x,y)の画素は背景領域に含まれる。
【0136】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(8)=(1−w)・a(7)+w・p(8)なる演算を行い、画素値a(7)はa(8)に更新される。図では、このようにして画素値が変動した画素a(8)に斜線ハッチングを施して示してある(実際には、画素値a(7)とa(8)とは若干異なるが、図では便宜上、同一ハッチングを施して示す)。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(8)=(1−v)・u(7)+v・a(7)なる演算を行い、画素値u(7)をu(8)に更新する。図では、このようにして画素値が変動した画素u(8)に斜線ハッチングを施して示してある。
【0137】
<第9の時点t9>
続いて、図12に示す第9の時点t9について説明する(図12の最上段に示す第8の時点t8の各画像は、図11の最下段に示す第8の時点t8の各画像と同じものである)。ここでは、第9の時点t9において、図示のような原画像P(9)が与えられたものとしよう。この例では、時点t5で侵入してきた車両Vが依然として駐車状態にあり、原画像P(9)は原画像P(8)と全く同じ状態である。
【0138】
この時点t9における前背判定部450による判定処理を考えると、第1判定部420では、画素p(9)と、1つ前の時点の画素a(8)との類否判定が行われ、第2判定部430では、画素p(9)と、1つ前の時点の画素u(8)との類否判定が行われる。ここでは、いずれの判定結果も類似「○」との判定結果が得られたものとしよう。すなわち、車両Vが長時間駐車していたため、平均画像Aにおいても参照画像Uにおいても、この車両Vの領域が背景に溶け込んだ状態になり、画素p(9)は、いずれの判定部においても背景画素と判定されるに至ったことになる。したがって、第9のマスク画像M9において、特定位置(x,y)の画素は背景領域に含まれる。
【0139】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(9)=(1−w)・a(8)+w・p(9)なる演算を行い、画素値a(8)はa(9)に更新される。図では、このようにして画素値が変動した画素a(9)に斜線ハッチングを施して示してある(実際には、画素値a(8)とa(9)とは若干異なるが、図では便宜上、同一ハッチングを施して示す)。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(9)=(1−v)・u(8)+v・a(8)なる演算を行い、画素値u(8)をu(9)に更新する。図では、このようにして画素値が変動した画素u(9)に斜線ハッチングを施して示してある(実際には、画素値u(8)とu(9)とは若干異なるが、図では便宜上、同一ハッチングを施して示す)。
【0140】
<第10の時点t10>
続いて、第10の時点t10において、図示のような原画像P(10)が与えられたものとしよう。この原画像P(10)では、これまで駐車していた車両Vが視界から消え、第1番目の原画像P(1)と同じ状態に戻っている。したがって、画素値p(10)≠p(9)である。
【0141】
この時点t10における前背判定部450による判定処理を考えると、第1判定部420では、画素p(10)と、1つ前の時点の画素a(9)との類否判定が行われ、第2判定部430では、画素p(10)と、1つ前の時点の画素u(9)との類否判定が行われる。画素a(9)および画素u(9)の色は、いずれも車両Vの色にかなり近づいていたため、図示の例では、いずれも非類似「×」との判定結果が得られ、前背判定部450は、J=0なる判定結果を出している。これは、画素p(10)が前景画素と判定されたことを意味する。したがって、第10のマスク画像M10において、特定位置(x,y)の画素は前景領域(移動物体の領域)に含まれる。
【0142】
結局、この例の場合、第10の原画像P(10)上には車両Vは存在していないが、第10のマスク画像M10上では、車両Vがかつて存在していた領域が前景領域Fとして検出されることになる。もちろん、現実的な監視カメラの撮影画像の場合は、時点t9から時点t10に至るときに車両Vが忽然と消えることはなく、車両Vは画面上を徐々に移動して去ってゆくことになるので、実際には、徐々に移動中の車両Vの占有領域がマスク画像M上に前景領域Fとして現れることになる。
【0143】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(10)=(1−w)・a(9)+w・p(10)なる演算を行い、画素値a(9)はa(10)に更新される。図では、このようにして画素値が変動した画素a(10)に中濃ハッチングを施して示してある。一方、参照画像作成部135は、判定結果J=0を受けて、値を更新しない。したがって、1つ前の時点の画素値u(9)をそのまま画素値u(10)として維持することになる。
【0144】
<第11の時点t11>
続いて、第11の時点t11において、図示のような原画像P(11)が与えられたものとしよう。この例では、原画像P(11)は、視界に車両Vが再び侵入してきたため、背景上に車両V(移動物体)が重なった状態の画像になっている。したがって、画素値p(11)≠p(10)である。
【0145】
この時点t11における特定位置(x,y)に配置された画素についての前背判定部450による判定処理を考えると、第1判定部420では、画素p(11)と、1つ前の時点の画素a(10)との類否判定が行われ、第2判定部430では、画素p(11)と、1つ前の時点の画素u(10)との類否判定が行われる。ここでは、第1判定部420では非類似「×」との判定結果が得られ、第2判定部430では類似「○」との判定結果が得られたものとしよう。
【0146】
図示の例では、画素a(10)の色は画素p(10)の影響を受けて背景の色に近づいていたため、車両の一部を構成する画素p(11)に対しては非類似「×」との判定結果が得られたが、画素u(10)は更新されなかったため、画素p(11)に対して類似「○」との判定結果が得られたことになる。図10の前背判定部450の判定表に示すとおり、一方が類似「○」、他方が非類似「×」との判定結果が得られた場合、前背判定部450は、当該画素を背景画素と判定し、J=1なる判定結果を出力する。したがって、第11のマスク画像M11において、特定位置(x,y)の画素は背景領域に含まれる。すなわち、ここに示す非現実的なモデルの場合、時点t11に出現した車両Vは、マスク画像M11上では移動物体として検出されない。ただ、後述するように、マスク画像M12上で検出されることになる。
【0147】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(11)=(1−w)・a(10)+w・p(11)なる演算を行い、画素値a(10)はa(11)に更新される。図では、このようにして画素値が変動した画素a(11)に斜線ハッチングを施して示してある。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(11)=(1−v)・u(10)+v・a(10)なる演算を行い、画素値u(10)をu(11)に更新する。図では、このようにして画素値が変動した画素u(11)に斜線ハッチングを施して示してある(実際には、画素値u(10)とu(11)とは若干異なるが、図では便宜上、同一ハッチングを施して示す)。
【0148】
<第12の時点t12>
続いて、第12の時点t12について説明する。ここでは、第12の時点t12において、図示のような原画像P(12)が与えられたものとしよう。この例では、車両Vが視界から消え、第1番目の原画像P(1)と同じ状態に戻っている。したがって、画素値p(12)≠p(11)である。
【0149】
この時点t12における前背判定部450による判定処理を考えると、第1判定部420では、画素p(12)と、1つ前の時点の画素a(11)との類否判定が行われ、第2判定部430では、画素p(12)と、1つ前の時点の画素u(11)との類否判定が行われる。画素a(11)および画素u(11)の色は、いずれも車両Vの色にかなり近いため、図示の例では、いずれも非類似「×」との判定結果が得られ、前背判定部450は、J=0なる判定結果を出している。これは、画素p(12)が前景画素と判定されたことを意味する。したがって、第12のマスク画像M12において、特定位置(x,y)の画素は前景領域(移動物体の領域)に含まれる。
【0150】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(12)=(1−w)・a(11)+w・p(12)なる演算を行い、画素値a(11)はa(12)に更新される。図では、このようにして画素値が変動した画素a(12)に中濃ハッチングを施して示してある。一方、参照画像作成部135は、判定結果J=0を受けて、値を更新しない。したがって、1つ前の時点の画素値u(11)をそのまま画素値u(12)として維持することになる。
【0151】
<第13の時点t13>
続いて、第13の時点t13において、図示のような原画像P(13)が与えられたものとしよう。この例では、画像内に新たな車両の侵入はなく、原画像P(13)は第1番目の原画像P(1)と全く同じ状態である。
【0152】
この時点t13における前背判定部450による判定処理を考えると、第1判定部420では、画素p(13)と、1つ前の時点の画素a(12)との類否判定が行われ、第2判定部430では、画素p(13)と、1つ前の時点の画素u(12)との類否判定が行われる。ここでは、第1判定部420では類似「○」との判定結果が得られ、第2判定部430では非類似「×」との判定結果が得られたものとしよう。前背判定部450は、この判定結果に基づいて当該画素を背景画素と判定し、J=1なる判定結果を出力する。したがって、第13のマスク画像M13において、特定位置(x,y)の画素は背景領域に含まれる。
【0153】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(13)=(1−w)・a(12)+w・p(13)なる演算を行い、画素値a(12)はa(13)に更新される。図では、このようにして画素値が変動した画素a(13)に薄いハッチングを施して示してある。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(13)=(1−v)・u(12)+v・a(12)なる演算を行い、画素値u(12)をu(13)に更新する。図では、このようにして画素値が変動した画素u(13)に中濃ハッチングを施して示してある。
【0154】
<第14の時点t14>
続いて、第14の時点t14について説明する。ここでは、第14の時点t14において、図示のような原画像P(14)が与えられたものとしよう。この例では、依然として画像内に車両の侵入はなく、原画像P(14)は第1番目の原画像P(1)と全く同じ状態である。
【0155】
この時点t14における前背判定部450による判定処理を考えると、第1判定部420では、画素p(14)と、1つ前の時点の画素a(13)との類否判定が行われ、第2判定部430では、画素p(14)と、1つ前の時点の画素u(13)との類否判定が行われる。ここでは、いずれも類似「○」との判定結果が得られたものとしよう。前背判定部450は、この判定結果に基づいて当該画素を背景画素と判定し、J=1なる判定結果を出力する。したがって、第14のマスク画像M14において、特定位置(x,y)の画素は背景領域に含まれる。
【0156】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(14)=(1−w)・a(13)+w・p(14)なる演算を行い、画素値a(13)はa(14)に更新される。図では、このようにして画素値が変動した画素a(14)を白地で示してある。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(14)=(1−v)・u(13)+v・a(13)なる演算を行い、画素値u(13)をu(14)に更新する。図では、このようにして画素値が変動した画素u(9)に薄いハッチングを施して示してある。
【0157】
<第15の時点t15>
最後に、第15の時点t15について説明する。ここでは、第15の時点t15において、図示のような原画像P(15)が与えられたものとしよう。この例では、依然として画像内に車両の侵入はなく、原画像P(15)は第1番目の原画像P(1)と全く同じ状態である。
【0158】
この時点t15における前背判定部450による判定処理を考えると、第1判定部420では、画素p(15)と、1つ前の時点の画素a(14)との類否判定が行われ、第2判定部430では、画素p(15)と、1つ前の時点の画素u(14)との類否判定が行われる。ここでは、いずれも類似「○」との判定結果が得られたものとしよう。前背判定部450は、この判定結果に基づいて当該画素を背景画素と判定し、J=1なる判定結果を出力する。したがって、第15のマスク画像M15において、特定位置(x,y)の画素は背景領域に含まれる。
【0159】
平均画像作成部130は、このような判定結果に依存することなしに、式(1A)に従って、a(15)=(1−w)・a(14)+w・p(15)なる演算を行い、画素値a(14)はa(15)に更新される。一方、参照画像作成部135は、判定結果がJ=1になるので、式(1B)に従って、u(15)=(1−v)・u(14)+v・a(14)なる演算を行い、画素値u(14)をu(15)に更新する。
【0160】
<<< §6.平均画像と参照画像との双方を用いる利点 >>>
これまで、§3において、従来提案されている移動物体検出装置の構成(図8)を説明し、§4において、これを改良した本発明に係る移動物体検出装置の構成(図9)を説明した。いずれの装置を用いた場合も、新たに入力された原画像Pについて、背景領域Bと前景領域Fとを区別するマスク画像Mを得ることができ、前景領域Fは、移動物体が占めると推定される領域ということになる。
【0161】
ただ、図8に示す従来装置の場合、マスク画像Mは、画像比較部200における第i番目の原画像P(i)と第(i−1)番目の平均画像A(i−1)との比較結果に基づいて得られるのに対して、図9に示す本発明に係る装置の場合、マスク画像Mは、画像比較部400における第i番目の原画像P(i)と第(i−1)番目の平均画像A(i−1)との比較結果(第1判定部420の判定結果)と、第i番目の原画像P(i)と第(i−1)番目の参照画像U(i−1)との比較結果(第2判定部430の判定結果)と、の双方に基づいて得られることになる。別言すれば、図8に示す従来装置の場合、原画像Pと平均画像Aとの比較により移動物体の検出を行っていたのに対し、図9に示す本発明に係る装置の場合、原画像Pを平均画像Aと参照画像Uとの双方と比較することにより移動物体の検出を行うことになる。そこで、ここでは、平均画像Aと参照画像Uとの双方を用いた移動物体検出の利点を説明する。
【0162】
平均画像Aと参照画像Uとの大きな相違点は、§5に画像変遷の実例を示したように、平均画像Aの各画素は、新たな原画像Pが入力されるたびに毎回必ず更新されるのに対して、参照画像Uの各画素は、必ずしも毎回更新されるわけではない、という点である。なお、ここで言う「更新」とは、必ずしも「画素値の変動」を指すものではなく、「前回の画素値をそのまま維持するのではなく、新たな画素値を与える」ことを意味する。したがって、たとえば、図10上段に示す式(1A)において、p(i)=a(i−1)であった場合、結果的にa(i)=a(i−1)になるが、第i番目の平均画像A(i)の画素値として新たな画素値a(i)が与えられているので、値が更新されていることになる。同様に、図10中段に示す式(1B)において、a(i−1)=u(i−1)であった場合、結果的にu(i)=u(i−1)になるが、第i番目の参照画像U(i)の画素値として新たな画素値u(i)が与えられているので、値が更新されていることになる。これに対して、図10中段の式(1C)「u(i)=u(i−1)」は、「前回の画素値をそのまま維持すること」を意味しており、値は更新されていないことになる。
【0163】
上述したとおり、平均画像Aの各画素は、新たな原画像Pが入力されるたびに必ず更新されるため、原画像Pの変化に追随して変化を遂げる動的画像になる。もちろん、平均画像Aを構成する各画素の画素値は、重みwを考慮した重みつき平均として算出されるため、原画像Pの画素値が急激に変動しても、平均画像Aの画素値がこれに追随して急激に変動することはない。これは、図4に示す画素値p(i)とa(i)との変動を比べれば容易に理解できよう。しかしながら、平均画像Aは、新たな原画像Pの影響を受けて、必ず変化する画像であるので、たとえば、図1に示すような原画像P10〜P40が与えられた場合、通過した車両の影響が平均画像Aにも及ぶことになる。より具体的には、赤色の車両が通過した場合、平均画像Aの一部も若干赤みを帯びるように変化する。
【0164】
これに対して、参照画像Uの各画素は、新たな原画像Pが入力されるたびに必ずしも更新されるものではない。すなわち、前背判定部450において、背景領域(J=1)と判定された部分に対しては平均画像Aを利用した更新が行われるが(図10の式(1B))、前景領域(J=0)と判定された部分に対しては更新は行われない(図10の式(1C))。このため、原画像Pの変化に追随した参照画像Uの変化は、平均画像Aに比べて緩慢になる。
【0165】
実際、図11および図12に示す実例を見ると、時点t3において車両Vが通過すると、平均画像A(3)の画素a(3)は、これに追随して若干変化しているが、参照画像U(3)の画素u(3)は、更新されないため、画素u(2)のまま変化していない。同様に、時点t10,t12を見ても、平均画像Aは原画像Pの変動に追随して変化しているのに対して、参照画像Uは変化していない。要するに、図11および図12に示す時点t1〜t15の画像変遷を見ればわかるとおり、平均画像Aは、原画像Pの変動に追随して逐次変化するのに対して、参照画像Uの変化は緩慢であり、原画像Pが急激に変動しても、直ちに追随することはない。
【0166】
本発明に係る移動物体検出装置では、新たに入力された原画像Pは、上述したように追随態様が互いに異なっている平均画像Aおよび参照画像Uの双方と比較され、少なくとも一方に類似している領域は背景領域と判定されることになる。したがって、たとえば、雲の動きなどによって原画像Pの背景部分に短期的な日照変化が生じた場合でも、平均画像Aおよび参照画像Uの少なくとも一方に類似している領域は、背景領域Bと判定されることになる。その結果、日照変化などの自然現象に起因して変化した背景領域が前景領域F(移動物体の領域)として誤検出される可能性を低減することができ、より正確な検出を行うことができるようになる。これが、平均画像Aと参照画像Uとの双方を用いて移動物体検出を行う利点である。
【0167】
なお、図9に示す移動物体検出装置には、パラメータ設定部340が設けられており、ユーザは、パラメータ設定部340に対する操作入力によって、各構成要素で用いられるパラメータを任意の値に設定することができる。既に述べたとおり、この装置で設定可能なパラメータは、第1判定部420および第2判定部430の類否判定の基準となる判定パラメータ(たとえば、図7の円柱モデルを利用した判定を行う場合は、円柱Cの半径および長さL)と、平均画像作成部130で用いる重みwと、参照画像作成部135で用いる重みvである。最適なパラメータ値は、装置の実際の使用環境に基づいて変わるので、実用上は、個々の使用環境ごとに試行錯誤によって最適なパラメータ値を設定するようにすればよい。
【0168】
ところで、本願発明者が行った実験によると、平均画像作成部130で用いる重みwと、参照画像作成部135で用いる重みvとについて、w>vなる関係が得られるような設定を行うと、より良好な検出結果が得られることが判明した。上述したとおり、参照画像Uは平均画像Aに比べて、原画像Pの変動に対して緩慢な追従を行うが、参照画像Uを作成する際に用いる重みvを、平均画像Aを作成する際に用いる重みwに比べて小さく設定することにより、参照画像Uの追従の緩慢度を更に上げることができる。その結果、より良好な検出結果が得られるようになるものと考えられる。
【0169】
なお、パラメータ設定部340を設けた場合には、w>vなる関係が得られるように、ユーザの操作入力に制限を課する機能を付加しておくのが好ましい。たとえば、w>vなる条件に反するようなパラメータ設定を行う操作入力が行われた場合には、エラー表示を行い、当該操作入力を受け付けないような機能を設けておけばよい。あるいは、たとえば、「v=0.1×w」というような式により、vとwとの関係を固定しておき、ユーザの操作入力によって、パラメータwのみが設定できるようにしておいてもよい。
【0170】
実際、本願発明者は、屋外に設置した監視カメラから毎秒30フレームの原画像を取り込んで、重みw=0.01、重みv=0.001なる設定で実験を行ったところ、日照変化による誤検出を実用的なレベルまで低減させた良好な検出結果を得ることができた。
【0171】
<<< §7.回転楕円体モデルを用いた類否判定 >>>
図9に示す移動物体検出装置における第1判定部420および第2判定部430では、2つの画素についての類否判定が行われる。このような類否判定の一般的な方法は、既に§2においていくつかの例を紹介したとおりである。ただ、本願発明者は、本発明を実施するにあたって特に有効な類否判定方法を着想したので、以下、この方法を述べておく(この方法は、特願2009−226146号明細書に開示されている方法である)。
【0172】
ここに示す類否判定方法は、基本的には、比較対象となる一方の画素の画素値を基準画素値、他方の画素の画素値を比較画素値として、三原色の各画素値を各座標軸にとった三次元座標系において、基準画素値に対応する座標に位置する基準点Qと比較画素値に対応する座標に位置する比較点qをとり、基準点Qを中心とする所定サイズの基準立体と比較点qとの位置関係を調べ、比較点qが基準立体の外部に位置すると判定できる場合に非類似との判定を行い、内部に位置すると判定できる場合には類似との判定を行うものである。
【0173】
§2で述べた図7に示す例は、基準立体として円柱Cを用いる例であるが、ここで述べる例は、基準立体として回転楕円体を用いるようにした点に特徴がある。ここでは、第1判定部420による類否判定に、この回転楕円体モデルを用いた場合を説明するが、この回転楕円体モデルは、第2判定部430による類否判定にも同様に利用することができる。
【0174】
図13は、図7に示す円柱Cを回転楕円体Eaに置き換えた回転楕円体モデルを示す三次元色空間図である。ここで、類似範囲を示す回転楕円体Eaは、平均画像Aの画素値を示す座標点Aを中心点とし、ベクトルVa上に定義された基準軸Zaを長軸方向とする楕円を、基準軸Zaを回転軸として回転させることにより得られる回転体である。この回転楕円体Eaのサイズは、長軸方向の長さLa1と短軸方向の長さLa2によって規定される。
【0175】
この回転楕円体モデルを用いた場合でも、類否判定の方法は、前述の円柱モデルを用いた場合の判定方法と同様であり、回転楕円体Eaの内部領域にプロットされる画素は、座標点Aに対応する画素値をもった画素に対して類似する画素と判定されることになる。具体的には、図示の例の場合、座標点Pに対応する画素値をもった画素は、回転楕円体Eaの外側に位置するため類似範囲外と判定され、両画素は非類似と判定される。逆に、座標点Pが回転楕円体Eaの内部に位置していれば、両画素は類似と判定される。
【0176】
一方、図14は、図13に示す回転楕円体モデルのバリエーションを示す三次元色空間図である。図示のとおり、このモデルにおける類似範囲を示す回転楕円体Epは、判定対象となる原画像Pの画素値を示す座標点Pを中心点とし、ベクトルVp上に定義された基準軸Zpを長軸方向とする楕円を、基準軸Zpを回転軸として回転させることにより得られる回転体である。この回転楕円体Epのサイズは、長軸方向の長さLp1と短軸方向の長さLp2によって規定される。
【0177】
図13に示すモデルの場合、背景を示す平均画像Aの画素値(Ra,Ga,Ba)をプロットした座標点Aを基準として、類似範囲を示す回転楕円体Eaが定義され、比較対象となる原画像Pの画素値(Rp,Gp,Bp)をプロットした座標点Pが、回転楕円体Eaの内側にあるか外側にあるかを判定していたのに対して、図14に示すモデルの場合、比較対象となる原画像Pの画素値(Rp,Gp,Bp)をプロットした座標点Pをプロットした座標点Pを基準として、類似範囲を示す回転楕円体Epが定義され、背景を示す平均画像Aの画素値(Ra,Ga,Ba)をプロットした座標点Aが、回転楕円体Epの内側にあるか外側にあるかを判定することになる。
【0178】
要するに、前者では、新たに入力された原画像Pの画素が、背景を示す過去の平均画像Aの画素の類似範囲に入っているか否かを判定する手法をとるのに対して、後者では、背景を示す過去の平均画像Aの画素が、新たに入力された原画像Pの画素の類似範囲に入っているか否かを判定する手法をとることになる。結局、両者の相違は、比較対象となる2つの画素のどちらを基準にして回転楕円体を定義するかという点だけである。
【0179】
そこで、以下の説明では、比較対象となる2つの画像のうち、一方の画像の画素値を基準画素値(R,G,B)と表記し、他方の画像の画素値を比較画素値(r,g,b)と表記することにする。また、三次元色空間上で基準画素値(R,G,B)をプロットした座標点Q(R,G,B)を基準点Qと呼び、比較画素値(r,g,b)をプロットした座標点q(r,g,b)を比較点qと呼ぶことにする。類否判定は、基準点Qを中心として定義された回転楕円体と比較点qとの位置関係に基づいてなされることになる。
【0180】
図15は、このような一般的な表記にしたがって、回転楕円体モデルを図示した三次元色空間図である。原点Oを起点として基準点Qへ向かうベクトルをベクトルVとすれば、基準軸Zは、このベクトルV上の軸になる。そして、回転楕円体Eは、基準点Qを中心点とし、ベクトルV上に定義された基準軸Zを長軸方向とする楕円を、基準軸Zを回転軸として回転させることにより得られる回転体である。ここで、比較点q(r,g,b)が回転楕円体Eの内部に位置すれば、両画素は類似と判定され、回転楕円体Eの外部に位置すれば、両画素は非類似と判定される。
【0181】
図13に示すモデルは、類否判定を行う際に、平均画像A(i−1)上の画素a(i−1)の画素値を基準画素値(R,G,B)として基準点Q(R,G,B)をプロットし、原画像P(i)上の画素p(i)の画素値を比較画素値(r,g,b)として比較点q(r,g,b)をプロットしたものである。これに対して、図14に示すモデルは、類否判定を行う際に、原画像P(i)上の画素p(i)の画素値を基準画素値(R,G,B)として基準点Q(R,G,B)をプロットし、平均画像A(i−1)上の画素a(i−1)の画素値を比較画素値(r,g,b)として比較点q(r,g,b)をプロットしたものである。
【0182】
図7に示す円柱モデルに比べて、図15に示す回転楕円体モデルは、次の2つの利点を有している。第1の利点は、時刻や天候などによる照明変動の影響を排除した、より正確な移動物体の検出が可能になる点である。本願発明者は、ビデオカメラで撮影した様々な実写画像について、図7に示す円柱モデルに基づく類否判定処理を採り入れた移動物体の検出と、図15に示す回転楕円体モデルに基づく類否判定処理を採り入れた移動物体の検出とを試みたところ、後者の検出の方がより正確である実験結果が得られた。これは、円柱モデルの場合、円柱の長手方向の端部周縁領域において、誤検出が行われる可能性が高くなるためと考えられる。
【0183】
図16は、円柱モデルに対する回転楕円体モデルの利点を示す断面図である。図示の例において、円柱Cの断面と回転楕円体Eの断面とを比較すると、いずれも基準点Qを中心として、基準軸Zの方向を長手方向とする図形であるが、図にハッチングを施す領域が、円柱Cでは内部領域と判定されるのに対して、回転楕円体Eでは外部領域と判定されることがわかる。したがって、比較点qが、このハッチング領域に位置する場合、一方では類似範囲内と判定され、他方では類似範囲外と判定される。もちろん、いずれの判定結果が正しいものであるかは、一概には決定できないが、少なくとも実写画像を用いた移動物体の検出処理に利用する限りにおいて、後者の判定結果が正しい結果となる可能性が高いことになる。
【0184】
すなわち、円柱モデルの場合、比較点qが図のハッチング領域内に位置する場合、判定対象となる画素は背景画像に類似しているため背景領域B内の画素とされることになるが、実際には、背景画像に対して非類似であり、前景領域F内の画素とすべきであった、というケースが比較的高い確率で生じてしまうものと考えられる。図16に示すとおり、断面形状で比較すると、回転楕円体Eの断面は曲面からなる楕円であるのに対して、円柱Cの断面は直線からなる矩形であり、実写画像を対象物とした類否判定の境界線としては、断面が曲面からなる楕円の方が適していることは、直感的にも理解できよう。
【0185】
このように、少なくとも、実写画像に基づく移動物体の検出処理に利用する場合、円柱モデルよりも回転楕円体モデルの方が検出精度が向上するという第1の利点が得られる。一方、回転楕円体モデルを採用することにより得られる第2の利点は、演算負担の軽減を図ることができる点である。この第2の利点の詳細については、§8で述べることにするが、ここでは、演算負担の軽減に寄与する工夫のひとつを簡単に述べておく。
【0186】
この工夫は、回転楕円体Eのサイズを、三次元座標系の原点Oと基準点Qとの距離Dに比例した値に設定することである。具体的には、図15に示すとおり、距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、基準軸Zを中心に回転させることにより回転楕円体Eを定義すればよい。
【0187】
このような条件で回転楕円体Eのサイズを決定すると、基準点Qが原点Oから離れれば離れるほど、回転楕円体Eのサイズは大きくなり、それだけ類似範囲が広くなる。これは、より明度の高い部分、すなわち、画像のハイライト部ほど、類似範囲が広くなることを意味するが、実用上、そのような類似範囲設定がなされても支障は生じない。一方、類似範囲内か否か、すなわち、回転楕円体Eの内部か外部かを判定するための演算負担は、長軸半径をα=h・D、短軸半径をβ=k・Dと設定することにより(すなわち、楕円のサイズを、距離Dに比例した値に設定することにより)、大幅に軽減することができる。その詳細は§8で述べることにする。
【0188】
ところで、本願発明者が行った実験によると、回転楕円体Eのサイズを、距離Dに比例した値に設定する場合は、図13のモデルよりも、図14のモデルを用いた方が、検出精度が向上することが判明した。図14のモデルを採用した場合、図15において、基準点Q(R,G,B)は、判定対象となる原画像Pの画素の画素値を基準画素値としてプロットした点になり、比較点q(r,g,b)は、背景となる平均画像A(第2判定部430に適用する場合は、参照画像U)の画素の画素値を比較画素値としてプロットした点になる。
【0189】
上述したとおり、図13のモデルと図14のモデルは、原画像Pの画素と平均画像A(参照画像U)の画素とのいずれを基準にして回転楕円体を定義するか、という点において異なる。しかも、回転楕円体のサイズを、距離Dに比例した値に設定すれば、定義される回転楕円体のサイズが、両者では異なることになる。すなわち、図13に示すモデルにおける回転楕円体Eaの長軸方向の長さLa1および短軸方向の長さLa2は、ベクトルVaの長さに、それぞれパラメータ2hおよび2kを乗じることにより得られるのに対して、図14に示すモデルにおける回転楕円体Epの長軸方向の長さLp1および短軸方向の長さLp2は、ベクトルVpの長さに、それぞれパラメータ2hおよび2kを乗じることにより得られる。したがって、図示の例の場合、回転楕円体Eaのサイズよりも、回転楕円体Epのサイズの方が大きくなっており、より広い類似範囲が設定されている。
【0190】
もちろん、常識的には、図14に示すモデルよりも図13に示すモデルを採用するのが一般的であろう。すなわち、予め背景とみなすことができる類似範囲を回転楕円体Eaとして定義しておき、新たに入力された画像の画素を示す点Pが、この類似範囲内に入るか否かを判定することにより、当該画素が移動物体上の点であるか否かを認識する、という方針を採るのが、一般的な考え方である。これに対して、図14に示すモデルは、新たに入力された画像の画素の類似範囲を回転楕円体Ebとして定め、その中に、背景画素を示す点Aが入るか否かを判定する手法を採るものであり、一般常識に基づく手法とは逆の手法と言うことができる。
【0191】
しかしながら、本願発明者が行った実験によると、少なくとも実写画像を用いた移動物体の検出処理に利用する限りにおいて、図13に示すモデルを採用するよりも、図14に示すモデルを採用した方が、より正しい判定結果が得られた。これは、これまで述べた方法で、平均画像Aの画素値a(i)(第2判定部430に適用する場合は、参照画像Uの画素値u(i))を決定すると、様々な要因により、新たに入力されてくる原画像Pの画素値p(i)が大きく変動しても、画素値a(i),u(i)の値が当該変動に追従するまでにはある程度の時間がかかるため、類似範囲の広狭を、原画像Pの画素値p(i)に応じて定めた方が、正しい判定が可能になるためと考えられる。
【0192】
結局、本発明における画素の類否判定を、基準立体モデル(円柱モデルや回転楕円体モデル)を利用して行う場合、第1判定部420は、原画像Pの画素の画素値を基準画素値、平均画像Aの画素の画素値を比較画素値として判定を行い、第2判定部430は、原画像Pの画素の画素値を基準画素値、参照画像Uの画素の画素値を比較画素値として判定を行うようにするのが好ましい。
【0193】
以上、移動物体の検出に利用する画素の類否判定処理方法において、円柱モデルを採用する方法に比べて、回転楕円体モデルを採用する利点として、より正確な移動物体の検出が可能になる、という第1の利点を述べるとともに、演算負担を軽減することができるという第2の利点についても簡単に説明した。続く§8では、この第2の利点についての詳細を述べることにする。
【0194】
<<< §8.回転楕円体モデルを利用した実用的な類否判定手順 >>>
一般に、三次元空間上において、ある1点が、円柱の内側にあるか外側にあるかを判定する場合も、回転楕円体の内側にあるか外側にあるかを判定する場合も、座標値を用いた幾何学演算が必要になる。しかしながら、回転楕円体の内側にあるか外側にあるかを判定する場合は、演算式を工夫し、また、一部に近似演算を取り込むことにより、演算負担を大幅に軽減することが可能である。ここでは、図15に示す回転楕円体モデルにおいて、比較点q(r,g,b)が、基準点Q(R,G,B)を中心として定義された回転楕円体Eの内側にあるか外側にあるかを判定する実用的な手順を述べる。
【0195】
ここで述べる手順は、3つの条件判定段階によって構成される。図17は、そのうちの第1の条件判定段階の原理を示す断面図である。図において、下方に示す原点Oは、図15の三次元色空間図に示されているRGB三次元直交座標系の原点Oであり、当該座標系上に、基準点Q(R,G,B)と比較点q(r,g,b)とがプロットされている(座標軸は図示省略)。基準軸Zは、原点Oと基準点Qとを結ぶ線であり、回転楕円体Eは、この基準軸Zを長軸方向とし、基準点Qを中心とする楕円を、基準軸Zを回転軸として回転させることによって得られる回転体である。図に断面を示す楕円は、長軸半径をα、短軸半径をβとする楕円であるが、§7で述べたとおり、原点Oと基準点Qとの距離をDとしたときに、所定のパラメータh,kについて、α=h・D(但し、h<1)、β=k・D(但し、k<h)となるように設定されている。
【0196】
第1の条件判定段階では、比較点qが、図のハッチング領域内にあるかどうかの判定が行われる。すなわち、図の下方のハッチング領域は、「原点Oを中心とし半径(D−α)の球C1の内側領域」であるから、原点Oと比較点qとの距離をdとすれば、「D−α>d」なる条件が満足されれば、比較点qは、球C1の内側に位置することになる。球C1は、回転楕円体Eの原点Oに対する最近接点E1において、回転楕円体Eに接する球であり、球C1の内側領域は、当然、回転楕円体Eの外側領域になる。一方、図の上方のハッチング領域は、「原点Oを中心とし半径(D+α)の球C2の外側領域」であるから、原点Oと比較点qとの距離をdとすれば、「D+α<d」なる条件が満足されれば、比較点qは、球C2の外側に位置することになる。球C2は、回転楕円体Eの原点Oに対する最遠接点E2において、回転楕円体Eに接する球であり、球C2の外側領域は、当然、回転楕円体Eの外側領域になる。
【0197】
図18は、図17に示す第1の条件判定原理に基づく判定式を示す図である。図18(a) は、比較点qが球C1の内側領域にあるための条件式「D−α>d」の変形プロセスを示す。すなわち、α=h・Dを代入すると、条件式は「(1−h)・D>d」となり、両辺を2乗すると、
(1−h)2・D2>d2 式(2)
が得られる。一方、図18(b) は、比較点qが球C2の外側領域にあるための条件式「D+α<d」の変形プロセスを示す。すなわち、α=h・Dを代入すると、条件式は「(1+h)・D<d」となり、両辺を2乗すると、
(1+h)2・D2<d2 式(3)
が得られる。
【0198】
ここで、基準点Qの座標値が(R,G,B)、比較点qの座標値が(r,g,b)であるから、図18(c) に示すように、
D=√(R2+G2+B2)
d=√(r2+g2+b2)
であり、両辺を2乗すると、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
となる。したがって、式(2),式(3)を書き直せば、図18(c) に示すように、
(1−h)2・(R2+G2+B2)
>(r2+g2+b2) 式(2′)
(1+h)2・(R2+G2+B2)
<(r2+g2+b2) 式(3′)
なる条件式が得られる。ここで、hは予め設定された所定のパラメータであり、(R,G,B)および(r,g,b)は、基準点Qおよび比較点qの座標値(すなわち、比較対象となる2つの画素の三原色の画素値)である。式(2′)および式(3′)は、2乗演算と和差演算のみで構成される演算式であるから、演算負担は非常に軽いものになる。
【0199】
こうして、式(2′)もしくは式(3′)のいずれかの条件を満足する結果が得られた場合、比較点qは、回転楕円体Eの外側に位置すると判断できるので、基準点Qの類似範囲外との判定を行うことができる。
【0200】
一方、式(2′)および式(3′)のいずれの条件も満足しない場合は、図17において、比較点qは、球C1の外側かつ球C2の内側の領域に位置することになる。したがって、その場合には、以下に述べる第2の条件判定段階が引き続き行われる。
【0201】
図19は、この第2の条件判定段階の原理を示す断面図である。第2の条件判定段階では、比較点qが、図19のハッチング領域内にあるかどうかの判定が行われる。このハッチング領域は、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの外側領域」として定義される領域である。円錐ξの半頂角は、図示のとおり角φになる。図示の断面図では、円錐ξが接点Tにおいて楕円Eに接している状態が示されているが、実際には、円錐ξと回転楕円体Eとは、接線円Tで線接触することになる。三次元空間上での円錐ξと回転楕円体Eとの関係は、コーンに卵を挿入した状態を考えれば容易に理解できよう。
【0202】
結局、この第2の条件判定段階では、比較点qが、円錐ξの内側にあるか、外側にあるかを判定することになる。円錐ξと回転楕円体Eとが接する接線円Tの位置は、幾何学的な演算によって求めることができ、そのような接線円Tを通る円錐ξを示す幾何学的な方程式を求めることも可能である。しかしながら、そのような方程式は比較的複雑な式になる。そこで、ここでは、円錐ξの代わりに、図19に破線で示す円錐ξ′を利用した近似的な判定を行うことにより、演算負担の軽減を図ることにする。
【0203】
図19に実線で描いた円錐ξは、接線円Tで回転楕円体Eに接する図形であるが、破線で描いた円錐ξ′は、交線円Sで回転楕円体Eと交差する図形である。ここで、交線円Sは、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線を構成する円であり、基準点Qと交線円S上の任意の点との距離は図示のとおりfである。結局、この近似的な判定では、「原点Oを頂点、基準軸Zを中心軸とし、交線円Sを通る円錐ξ′の外側に比較点qが位置するか否か」という判定が行われることになる。
【0204】
図示のとおり、円錐ξ′の半頂角φ′は、円錐ξの半頂角φよりも若干小さくなり、円錐ξ′は、円錐ξよりも若干小さな円錐になる。このため、「円錐ξ′の外側」かつ「円錐ξの内側」の点の場合、実際は回転楕円体Eの内部の点であるにもかかわらず、円錐ξ′を代用する近似的な判定方法では、回転楕円体Eの外部の点と判定されてしまうことになる。したがって、「回転楕円体Eの内外を厳密に判定する」という観点では、円錐ξ′を代用する判定方法は不正確である。ただ、そもそも回転楕円体E自体が、移動物体を厳密に検出する機能をもつ立体であるわけではなく、あくまでも1つの指標を提供するものであるから、円錐ξ′を代用する近似的な判定方法を用いたとしても、大きな支障は生じない。
【0205】
そこで、比較点qが、この円錐ξ′の内側にあるのか外側にあるのかを幾何学的に判定するための具体的な方法を考えてみる。いま、図20(a) に示すように、三辺の長さがそれぞれa,b,cである一般的な三角形を考える。ここで、2辺b,cの挟角をφとすると、余弦定理により、
cos φ=(b2+c2−a2)/2bc 式(4)
が成り立つ。
【0206】
続いて、図20(b) に示す三角形OQSを考える。この図20(b) は、図19に示す三角形OQSをそのまま抜き出して示したものである。交線円Sは、前述したとおり、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線であるから、2点OSの距離は、2点OQの距離に等しくDになる。したがって、三角形OQSは二等辺三角形になり、2つの等辺の挟角はφ′、第3の辺の長さはfである。この三角形OQSに、式(4)に示す余弦定理を適用すると、
cos φ′=(D2+D2−f2)/2D2 式(5)
が成り立つ。
【0207】
ここで、図19を見ると、長さfは、回転楕円体Eの短軸半径βに近い値になることがわかる。そこで、近似的に、f≒βとすると、β=k・Dなので、f≒k・Dになり、図20の下段右に示すとおり、
cos φ′≒1−k2/2 式(6)
なる式が得られる。
【0208】
次に、図21に示す三角形OQqを考える。この図21は、図19に示す4点O,Q,S,qをそのまま抜き出してプロットしたものである。2点OQ間の距離はDであり、2点Oq間の距離はdである。ここで、この長さD,dをもった2辺の挟角をθとし、第3の辺の長さをtとする。また、線分OQと線分OSとのなす角φ′は、前述した円錐ξ′の半頂角である。
【0209】
さて、図19において、円錐ξの代わりに円錐ξ′を用いて、比較点qがハッチング領域にあるための条件を求めると、θ>φ′であればよいことがわかる。ここで、座標値(画素値)R,G,B,r,g,bが正の値をとるものとすれば、角度θおよびφ′はいずれも鋭角になる。図21の右側にも記載したとおり、一般に、θ,φ′を正の鋭角とすれば、θ>φ′の場合、「cos θ<cos φ′」であり、「cos 2θ<cos 2φ′」である。式(6)より、cos 2φ′≒(1−k2/2)2であるから、結局、
cos 2θ<(1−k2/2)2 式(7)
が成り立てば、比較点qは、円錐ξ′の外側領域にあると近似的に判断できる。
【0210】
続いて、図21に示す三角形OQqについて、式(4)の余弦定理を適用すれば、図21の下段に示すように、
cos θ=(D2+d2−t2)/(2・D・d) 式(8)
が成り立つ。このとき、図22にも記載したとおり、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
t2=(R−r)2+(G−g)2+(B−b)2
だから、これを式(8)に代入して整理すると、
cos θ=γ/(D・d) 式(9)
(但し、γ=R・r+G・g+B・b)
が得られる。式(9)の両辺を2乗すれば、
cos 2θ=γ2/(D2・d2) 式(10)
である。よって、式(7)より、
γ2/(D2・d2)<(1−k2/2)2 式(11)
が成り立てば、比較点qは、円錐ξ′の外側領域にあると近似的に判断できる。ここで、γ,D,dを画素値を用いて書き直せば、図22の下段に示すように、
(R・r+G・g+B・b)2/
((R2+G2+B2)・(r2+g2+b2))
<(1−k2/2)2 式(11′)
が成り立てば、比較点qは、円錐ξ′の外側領域にあると近似的に判断できる。
【0211】
既に述べたとおり、図19において、円錐ξ′は、円錐ξに近似的に代用することができるので、上記式(11′)が成り立てば、比較点qは、回転楕円体Eの外側領域にある、との近似的判定を行うことができる。もちろん、この近似的な判定結果は、円錐ξ′を円錐ξに代用し、かつ、f≒βとの近似を行うことによって得られる判定結果であるので、厳密な判定結果ではない。しかしながら、そもそも回転楕円体E自体が、移動物体を厳密に検出する機能をもつ立体であるわけではないので、このような近似的な判定を行っても、大きな支障は生じない。別言すれば、上述した近似的な判定手法は、比較点qが回転楕円体Eの外部にあるかどうかを判定する代わりに、その近似体の外部に位置するかどうかを判定する手法ということになる。
【0212】
このようにして、式(11′)を満足する結果が得られた場合、比較点qは、回転楕円体Eの近似体の外側に位置すると判断できるので、基準点Qの類似範囲外との判定を行うことができる。
【0213】
一方、式(11′)を満足しない場合は、比較点qは、図19においてハッチングが施されていない円錐ξの内側に位置すると近似的に判断されたことになるので、最終的に、第3の条件判定段階が行われる。
【0214】
図23は、この第3の条件判定段階の原理を示す断面図である。第3の条件判定段階では、比較点qが、図23のハッチング領域内にあるかどうかの判定が行われる。このハッチング領域は、回転楕円体Eの外側領域であり、いわば第3の条件判定段階は、§7で述べた回転楕円体モデルを用いた類否判定として行うべき本来の判定段階ということになる。このため、条件判定に用いられる式は、楕円の方程式を用いた式になり、これまでの条件判定式に比べると、若干複雑にならざるを得ない。
【0215】
いま、図23に示すように、基準点Qの位置に原点をもち、紙面上に定義されたローカルなXY二次元直交座標系をとり、この二次元座標系上において、楕円Eと比較点qとの位置関係を考えることにしよう。ここで、X軸は回転楕円体Eの長軸方向の座標軸であり、Y軸は回転楕円体Eの短軸方向の座標軸である。もちろん、基準点QのXY座標系での座標は(0,0)になる。したがって、比較点qは、RGB三次元直交座標系ではq(r,g,b)なる三次元の座標値をもち、XYローカル座標系ではq(x,y)なる二次元の座標値をもつ。
【0216】
ここで、比較点qの座標値(x,y)を、2点OQ間の距離D、2点Oq間の距離d、そして挟角θを用いて表すと、図23の右下にも記載したとおり、
x=D−d・cos θ、 y=d・sin θ 式(12)
が成り立つ。一方、図24に示すとおり、楕円の公式からは、
x2/α2+y2/β2=1 式(13)
が得られるので、
f(x,y)=β2・x2+α2・y2−α2・β2 式(14)
なる判定式を定義すれば、比較点qは、
f(x,y)<0なら楕円内部の点
f(x,y)=0なら楕円上の点
f(x,y)>0なら楕円外部の点
ということになる。したがって、
β2・x2+α2・y2−α2・β2>0 式(15)
であれば、比較点qは、楕円外部の点ということになる。ここで、XYローカル座標系を、基準軸Zを中心軸として回転しても、上式が成り立つことに変わりはないので、式(15)は、三次元立体にも拡張することができる。すなわち、式(15)の条件が満足されていれば、比較点qは、回転楕円体Eの外側領域の点ということになる。
【0217】
なお、式(15)において、各変数の値は、図24の下半分に示すように、次のようにして求めることができる。まず、α=h・D、β=k・Dであるから、
α2=h2・D2、 β2=k2・D2 式(16)
である。一方、式(12)より、x=D−d・cos θだから、両辺を2乗すると、
x2=D2+d2・cos2 θ−2Dd・cos θ
となり、これに式(9)および式(10)を代入すれば、
x2=D2+γ2/D2−2γ 式(17)
が得られる(但し、γ=R・r+G・g+B・b)。また、式(12)より、y=d・sin θだから、両辺を2乗すると、
y2=d2・sin2 θ=d2・(1−cos2 θ)
となり、これに式(10)を代入すれば、
y2=d2−γ2/D2 式(18)
が得られる(但し、γ=R・r+G・g+B・b)。
【0218】
かくして、式(16)〜式(18)によって、α2,β2,x2,y2の各値を求めた後に、式(15)の条件判定式を演算すれば、比較点qが、回転楕円体Eの内側領域の点か、外側領域の点かを判定することができる。
【0219】
図25は、これまで述べてきた類否判定方法の手順を示す流れ図である。この類否判定方法によれば、三原色の各画素値(R,G,B)を有する第1のカラー画素と、三原色の各画素値(r,g,b)を有する第2のカラー画素と、の類否判定を行うことができる。なお、実際には、この図25に示す各手順は、コンピュータによって実行されることになる。
【0220】
まず、ステップS11では、回転楕円体Eのサイズを決めるパラメータh,kを設定する。前述したとおり、パラメータhは、回転楕円体Eの長軸半径αを決定する値(h<1)であり、長軸半径はα=h・Dなる式で定められる。また、パラメータkは、回転楕円体Eの短軸半径βを決定する値(k<h)であり、短軸半径はβ=k・Dなる式で定められる。これらパラメータh,kの値は、背景画像の特徴(たとえば、屋外か屋内か、街中か郊外か、といった種別)や、移動物体として侵入してくる前景画像の特徴(たとえば、車両か人間か、といった種別)を考慮して、できるだけ高い検出精度が得られるような値に適宜設定することになる。本願発明者が行った実験によれば、一般的な用途の場合、h=0.45〜0.20、k=0.15〜0.05程度の値に設定すれば、比較的高い検出精度が得られる。図9に示す移動物体検出装置の場合、パラメータ設定部340に対する操作入力により、パラメータh,kの値を任意に設定することができる。
【0221】
続く、ステップS12では、基準点Q(R,G,B)と比較点q(r,g,b)の座標値(R,G,B)および(r,g,b)が取り込まれる。これらの座標値は、それぞれ2つのカラー画像の三原色の画素値として与えられた値である。これら座標値が取り込まれたら、準備段階は完了である。すなわち、コンピュータには、パラメータh(h<1)およびk(k<h)、画素値(R,G,B)および(r,g,b)の値が取り込まれた状態となり、これらの値を用いて、以下の演算処理を実行する準備が整ったことになる。
【0222】
以下、ステップS13〜S18に示す手順は、図15に示すように、三原色の各画素値を各座標軸にとった三次元座標系において、画素値(R,G,B)に対応する座標をもつ基準点Qを中心とする所定サイズの回転楕円体Eと、画素値(r,g,b)に対応する座標をもつ比較点qとについて、後者が前者の内部にあるか外部にあるかを調べる位置関係判定段階の手順である。
【0223】
具体的には、既に述べたとおり、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、この基準軸Zを中心に回転させることにより得られる回転楕円体Eを定義する。そして、比較点qがこの回転楕円体Eの内部にあるか外部にあるかを判定することになる。なお、実際には、前述したような近似を行うため、論理的には、回転楕円体Eの代わりに、その近似体について、内部にあるか外部にあるかの判定が行われることになる。この位置関係判定段階は、3つの条件判定段階によって構成される。
【0224】
まず、ステップS13に示す第1の条件判定段階では、図17に示すように、「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という条件を満足するか否かの判定が行われる。そのためには、図18で説明したとおり、
(1−h)2・D2>d2 式(2)
もしくは
(1+h)2・D2<d2 式(3)
という条件を満足するか否かを判定するための演算を行えばよい。ここで、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
であるから、結局、ステップS13のブロック内に記載したように、
(1−h)2・(R2+G2+B2)>(r2+g2+b2) 式(2′)
もしくは
(1+h)2・(R2+G2+B2)<(r2+g2+b2) 式(3′)
という条件を満足するか否かを判定する演算を行えばよい。
【0225】
このステップS13に示す第1の条件判定段階において、肯定的な判定がなされた場合(式(2′)もしくは式(3′)の条件を満足する場合)は、ステップS14からステップS19へと進み、位置関係判定段階は終結する。一方、否定的判定がなされた場合には、ステップS14からステップS15へと進む。
【0226】
ステップS15に示す第2の条件判定段階では、図19に示すように、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの外側に比較点qが位置する」という第2の条件を満足するか否かの判定が行われる。ただ、前述したとおり、実用上は、円錐ξの代わりに円錐ξ′を用い、しかもf≒βと近似する式が用いられる。このような近似的な判定手法を採る場合は、第2の条件は「回転楕円体Eの近似体の外側に比較点qが位置する」という条件になる。
【0227】
この近似的な判定手法を採るのであれば、図22に示すとおり、
γ2/(D2・d2)<(1−k2/2)2 式(11)
という条件を満足するか否かを判定するための演算を行えばよい。ここで、
D2=(R2+G2+B2)
d2=(r2+g2+b2)、
γ=(R・r+G・g+B・b)
であるから、結局、ステップS15のブロック内に記載したように、
(R・r+G・g+B・b)2/
((R2+G2+B2)・(r2+g2+b2))
<(1−k2/2)2 式(11′)
という条件を満足するか否かを判定する演算を行えばよい。
【0228】
このステップS15に示す第2の条件判定段階において、肯定的な判定がなされた場合(式(11′)の条件を満足する場合)は、ステップS16からステップS19へと進み、位置関係判定段階は終結する。一方、否定的判定がなされた場合には、ステップS16からステップS17へと進む。
【0229】
ステップS17に示す第3の条件判定段階では、図23に示すように、「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かの判定が行われる。そのためには、ステップS17のブロック内に記載したように、
β2・x2+α2・y2−α2・β2>0 式(15)
という条件を満足するか否かを判定するための演算を行えばよい。ここで、各変数は、図24で説明したとおり、
α2=h2・D2、 β2=k2・D2 式(16)
x2=D2+γ2/D2−2γ 式(17)
y2=d2−γ2/D2 式(18)
であり、また、既に述べたとおり、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
γ=(R・r+G・g+B・b)
である。
【0230】
このステップS17に示す第3の条件判定段階において、肯定的な判定がなされた場合(式(15)の条件を満足する場合)は、ステップS18からステップS19へと進み、位置関係判定段階は終結する。一方、否定的判定がなされた場合には、ステップS18からステップS20へと進み、やはり位置関係判定段階は終結する。
【0231】
ここで注目すべき点は、以上の第1〜第3の条件判定段階で行われる条件判定式には、加減乗除演算のみしか含まれていない点である。すなわち、一般的な幾何学演算に含まれている開平演算や三角関数演算は一切含まれていない。したがって、演算装置の負担は比較的軽いものになり、安価なプロセッサを用いた場合でも、リアルタイム処理が可能になる。
【0232】
最後に、ステップS19もしくはステップS20に示す判定結果出力段階が行われる。すなわち、上述したとおり、第1の条件判定段階(ステップS13)、第2の条件判定段階(ステップS15)、第3の条件判定段階(ステップS17)のいずれかにおいて肯定的判定がなされた場合には、ステップS19へと進み、第1のカラー画素と第2のカラー画素とが非類似との判定結果が出力される。一方、第1の条件判定段階(ステップS13)、前記第2の条件判定段階(ステップS15)、前記第3の条件判定段階(ステップS17)のすべてにおいて否定的判定がなされた場合には、ステップS20へ進み、第1のカラー画素と第2のカラー画素とが類似するとの判定結果が出力される。
【0233】
要するに、この図25の流れ図に示す手順によれば、回転楕円体Eもしくはその近似体の外部に比較点qがあると判断された場合には、第1のカラー画素と第2のカラー画素とが非類似との判定結果が出力され、回転楕円体Eもしくはその近似体の内部に比較点qがあると判断された場合には、第1のカラー画素と第2のカラー画素とが類似するとの判定結果が出力されることになる。ステップS15の第2の条件判定段階は、ステップS13の第1の条件判定段階において否定的判定がなされた場合にのみ実行され、同様に、ステップS17の第3の条件判定段階は、ステップS15の第2の条件判定段階において否定的判定がなされた場合にのみ実行されることになるので、無駄な演算を省くことが可能になり、演算負担の軽減を図ることができる。
【0234】
特に、パラメータh,kの値を固定値にした運用を行う場合、ステップS13の演算式(2′),(3′)に用いる(1−h)2および(1+h)2の値、ステップS15の演算式(11′)に用いる(1−k2/2)2の値は、予め決められた定数として用意しておくことができるので、演算負担を更に軽減することができる。実際には、まず、(R2+G2+B2)の値および(r2+g2+b2)の値を計算してしまえば、ステップS13の演算式(2′),(3′)に係る演算は、上記定数を利用した極めて単純な演算になる。同様に、ステップS15の演算式(11′)に係る演算も、(R・r+G・g+B・b)の値を計算してしまえば、既に計算済みの(R2+G2+B2)の値および(r2+g2+b2)の値と、上記定数を利用することにより、極めて単純な演算になる。
【0235】
<<< §9.前背判定部の実用的な構成 >>>
ここでは、図9に示す前背判定部450において、画素の類否判定に、§8で述べた実用的な類否判定手順を採用する場合の構成を説明する。図26は、この前背判定部450の構成を示すブロック図である。既に述べたとおり、前背判定部450は、第1判定部420、第2判定部430、総合判定部440によって構成されている。
【0236】
ここで、第1判定部420は、第i番目の原画像P(i)を構成する画素の画素値p(i)と第(i−1)番目の平均画像A(i−1)を構成する画素の画素値a(i−1)とを比較して類似するか否かを判定する処理を行い、第2判定部430は、第i番目の原画像P(i)を構成する画素の画素値p(i)と第(i−1)番目の参照画像U(i−1)を構成する画素の画素値u(i−1)とを比較して類似するか否かを判定する処理を行う。一方、総合判定部440は、図示の表に示すとおり、第1判定部420による判定結果および第2判定部430による判定結果の少なくとも一方が類似を示す場合には背景画素との判定を行い判定結果J=1を出力し、双方とも非類似を示す場合には前景画素との判定を行い判定結果J=0を出力する。
【0237】
第1判定部420および第2判定部430が、類似との判定結果を論理1、非類似との判定結果を論理0として出力するようにしておけば、総合判定部440は、これらの論理値の論理和を判定結果Jとして出力することができるので、総合判定部440を論理和回路によって構成することができる。
【0238】
図27は、図26に示す第1判定部420の詳細構成を示すブロック図である。この第1判定部420は、§8で述べた回転楕円体モデルを利用した実用的な類否判定手順を採用し、図示のとおり、基本演算部421、第1の条件判定部422、第2の条件判定部423、第3の条件判定部424、判定値出力部425、パラメータ保持部426によって構成されている。
【0239】
パラメータ保持部426は、パラメータhおよびkの値を保持する構成要素であり、図9に示すパラメータ設定部340を設けた場合には、このパラメータ設定部340によって設定されたパラメータhおよびkの値がパラメータ保持部426に書き込まれることになる。パラメータhおよびkの値を固定にする場合には、当該固定値がパラメータ保持部426に保持される。
【0240】
基本演算部421は、図9に示す画素値読出部410が読み出した基準画素値(R,G,B)(画素p(i)の画素値)と比較画素値(r,g,b)(画素a(i−1)の画素値)とに基づいて、
D2=R2+G2+B2 および
d2=r2+g2+b2
なる演算を行い、値D2および値d2を算出する構成要素である。ここで算出された値D2および値d2は、第1の条件判定部422、第2の条件判定部423、第3の条件判定部424における演算で利用される。
【0241】
第1の条件判定部422は、図17に示すように、「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する構成要素である。そのために、基本演算部421が算出した値D2および値d2とパラメータ保持部426に保持されているパラメータhの値とを用いて、
(1−h)2・D2>d2 式(2)
もしくは
(1+h)2・D2<d2 式(3)
という条件を満足するか否かを判定するための演算を行う。そして、「条件満足」との肯定的判定が行われた場合、当該判定結果は、判定値出力部425に報知される。一方、「条件満足せず」との否定的判定が行われた場合、当該判定結果は、第2の条件判定部423に報知される。
【0242】
第2の条件判定部423は、第1の条件判定部422から、「条件満足せず」との否定的判定結果が報知された場合に限り、条件判定処理を実行する構成要素である。ここで行われる処理の目的は、図19に示すように、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの外側に比較点qが位置する」という第2の条件を満足するか否かを判定することにある。ただ、実用上は、演算負担を軽減するために、円錐ξの代わりに円錐ξ′を用いた判定を行うようにするのが好ましい。
【0243】
すなわち、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線を構成する円を交線円Sとしたときに、「原点Oを頂点、基準軸Zを中心軸とし、交線円Sを通る円錐ξ′の外側に比較点qが位置する」という第2の条件を満足するか否かを判定すればよい。このとき、演算負担を更に軽減するために、交線円S上の任意の点と基準点Qとの距離fが短軸半径βに等しいとおいた近似式を用いて近似的な判定を行うようにするのが好ましい。
【0244】
このような近似的な判定を行う場合、第2の条件判定部423は、画素値読出部410が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
γ=R・r+G・g+B・b
なる演算を行い、値γを算出し、更に、基本演算部421が算出した値D2および値d2とパラメータ保持部426に保持されているパラメータkの値と、算出した値γとを用いて、
γ2/(D2・d2)<(1−k2/2)2 式(11)
という条件を満足するか否かを判定するための演算を行えばよい。結局、この式(11)の演算式で示される条件は、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの近似体の外側に比較点qが位置する」という条件になる。
【0245】
そして、この第2の条件判定部423において、「条件満足」との肯定的判定が行われた場合、当該判定結果は、判定値出力部425に報知される。一方、「条件満足せず」との否定的判定が行われた場合、当該判定結果は、γの値とともに、第3の条件判定部424に報知される。
【0246】
第3の条件判定部424は、第2の条件判定部423から、「条件満足せず」との否定的判定結果が報知された場合に限り、条件判定処理を実行する構成要素である。ここで行われる処理の目的は、図23に示すように、「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定することにある。そのため、第3の条件判定部424は、基本演算部421が算出した値D2および値d2と、パラメータ保持部426に保持されているパラメータhおよびkの値と、第2の条件判定部423が算出した値γとを用いて、
α2=h2・D2、 β2=k2・D2 式(16)
x2=D2+γ2/D2−2γ 式(17)
y2=d2−γ2/D2 式(18)
なる演算を行い、当該演算結果を用いて、
β2・x2+α2・y2−α2・β2>0 式(15)
という条件を満足するか否かを判定するための演算を行う。
【0247】
そして、この第3の条件判定部424における「条件満足」との肯定的判定結果もしくは「条件満足せず」との否定的判定結果は、判定値出力部425に報知される。
【0248】
判定値出力部425は、第1の条件判定部422、第2の条件判定部423、第3の条件判定部424のいずれかが「条件満足」との肯定的判定を行った場合に、非類似との判定結果(論理値「0」)を出力し、第1の条件判定部422、第2の条件判定部423、第3の条件判定部424のすべてが「条件満足せず」との否定的判定を行った場合に、類似との判定結果(論理値「1」)を出力する。
【0249】
以上、図27を参照して、第1判定部420の詳細構成を述べたが、第2判定部430の構成もこれと全く同様である。なお、第1判定部420による類否判定に用いられる回転楕円体と第2判定部430による類否判定に用いられる回転楕円体とは、両判定部における判定基準を統一するために、同一サイズの回転楕円体とし、三次元座標系上の同一位置に配置するのが好ましい。
【0250】
既に述べたとおり、上記条件判定式には、加減乗除演算のみしか含まれていないため、一般的な幾何学演算に必要とされる開平演算や三角関数演算を行う必要はない。したがって、演算装置の負担は比較的軽いものになり、前背判定部450を安価なプロセッサを用いて構成した場合でも、リアルタイム処理が可能になる。
【0251】
なお、これまで述べた条件判定式には、「不等号>」や「不等号<」を含む演算式が含まれているが、これらの演算式の一部もしくは全部について、「不等号>」の代わりに「不等号≧」を用いた演算式、もしくは「不等号<」の代わりに「不等号≦」を用いた演算式を用いてもかまわない。すなわち、各条件判定式は、比較点qが何らかの図形の内側領域にあるか外側領域にあるかを示すものであるが、当該図形の境界面上の点は、当該図形の内側領域に含ませても、外側領域に含ませてもかまわない。
【0252】
また、これまで述べた実施形態では、三原色を示す符号として、便宜上、(R,G,B)もしくは(r,g,b)という符号を用いているが、これらの符号は、必ずしも(赤,緑,青)なる三原色を意味するものではない。一般的には、ビデオカメラで撮影した画像は、(赤,緑,青)なる三原色の各画素値をもった画素の集合からなるデータとして与えられるが、本発明は、(赤,緑,青)なる三原色を用いた表色系に限定されるものではなく、他の色からなる三原色を用いた別な表色系にも適用可能である。その場合、各演算式に用いられている(R,G,B)もしくは(r,g,b)という符号は、当該別な表色系の三原色の画素値を示すことになる。
【0253】
<<< §10.本発明に係る移動物体検出方法 >>>
最後に、本発明を方法の発明として捉えた場合に、当該方法を構成する個々の手順を説明する。この方法は、動画画像について移動物体を検出する移動物体検出方法であり、実用上、この方法を構成する各手順はコンピュータによって実行される。
【0254】
すなわち、本発明に係る移動物体検出方法は、コンピュータが、時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力段階と、コンピュータが、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した平均画像とに基づいて、新たな平均画像を作成する平均画像作成段階と、コンピュータが、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した参照画像とに基づいて、新たな参照画像を作成する参照画像作成段階と、コンピュータが、原画像と平均画像と参照画像とを用いた比較処理により、前景領域と背景領域とを区別するマスク画像を作成する画像比較段階と、コンピュータが、作成されたマスク画像を出力する画像出力段階と、によって構成される。
【0255】
ここで、画像比較段階は、第i番目の原画像、第(i−1)番目の平均画像、第(i−1)番目の参照画像から、それぞれ対応する所定位置にある画素の三原色の各画素値を読み出す画素値読出ステップと、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の平均画像を構成する画素の画素値a(i−1)とが類似するか否かを判定する第1判定処理と、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の参照画像を構成する画素の画素値u(i−1)とが類似するか否かを判定する第2判定処理と、を行い、第i番目の原画像の所定位置にある画素について、第1判定処理による判定結果と第2判定処理による判定結果との少なくとも一方が類似を示す場合には背景画素、双方とも非類似を示す場合には前景画素との判定を行う前背判定ステップと、第i番目のマスク画像を構成する所定位置の画素の画素値として、前背判定ステップにより背景画素と判定された場合には背景領域を示す画素値を、前背判定ステップにより前景画素と判定された場合には前景領域を示す画素値を、それぞれ与えることにより、第i番目のマスク画像を作成するマスク画像作成ステップと、によって構成される。
【0256】
また、平均画像作成段階では、第1番目の原画像をそのまま第1番目の平均画像とし、第i番目(i≧2)の平均画像を作成する際には、第i番目の原画像と第(i−1)番目の平均画像とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目の平均画像とする処理が行われる。
【0257】
より具体的には、平均画像作成段階では、最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)とする処理を行い、以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
所定位置の画素の所定色の画素値、
p(i)は、原画像P(i)の
所定位置の画素の所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成する処理が行われる。
【0258】
一方、参照画像作成段階では、第1番目の原画像をそのまま第1番目の参照画像とし、第i番目(i≧2)の参照画像を作成する際には、第(i−1)番目の参照画像を構成する個々の画素のうち、前背判定ステップにおいて第i番目の原画像の対応画素が前景画素と判定された画素については、更新せずに、もとの画素値をそのまま維持し、前背判定ステップにおいて第i番目の原画像の対応画素が背景画素と判定された画素については、第(i−1)番目の平均画像の対応する位置にある画素との間で、三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を新画素値として更新することにより、第i番目の参照画像を作成する処理が行われる。
【0259】
より具体的には、参照画像作成段階では、最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の参照画像U(1)とする処理を行い、以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の参照画像U(i)の各画素値を、
背景画素と判定された画素については、
u(i)=(1−v)・u(i−1)+v・a(i−1)
(但し、u(i)は、平均画像U(i)の
所定位置の画素の所定色の画素値、
u(i−1)は、平均画像U(i−1)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
所定位置の画素の所定色の画素値、
vは、所定の重みを示すパラメータ(v<1、かつw>v))
なる演算式を用いて求められた画素値u(i)に更新し、
前景画素と判定された画素については、
u(i)=u(i−1)
として、更新せずに、もとの画素値をそのまま維持することにより、参照画像U(i)を作成する処理が行われる。
【符号の説明】
【0260】
110:画像入力部
120:原画像格納部
130:平均画像作成部
135:参照画像作成部
140:平均画像格納部
145:参照画像格納部
200:画像比較部
210:画素値読出部
220:類否判定部
230:画素値書込部
310:マスク画像格納部
320:画像出力部
330:パラメータ設定部
340:パラメータ設定部
400:画像比較部
410:画素値読出部
420:第1判定部
421:基本演算部
422:第1の条件判定部
423:第2の条件判定部
424:第3の条件判定部
425:判定値出力部
426:パラメータ保持部
430:第2判定部
440:総合判定部
450:前背判定部
460:画素値書込部
A(1)〜A(i):平均画像
A,A(Ra,Ga,Ba):平均画像の画素値を示す座標点
a:三角形の一辺
a(i−1),a(i):平均画像を構成する1つの画素もしくはその画素値
B:背景領域/三原色の画素値(基準画素値)
b:三原色の画素値(比較画素値)/三角形の一辺
C:円柱モデルの円柱
C1,C2:球
C3:球面
c:三角形の一辺
D:原点Oと基準点Qとの距離
d:原点Oと比較点qとの距離
E,Ea,Ep:回転楕円体
E1:回転楕円体Eの最近接点
E2:回転楕円体Eの最遠隔点
F:前景領域
f:交線円S上の任意の点と基準点Qとの距離
G:三原色の画素値(基準画素値)
g:三原色の画素値(比較画素値)
h:回転楕円体Eの長軸半径αを定めるパラメータ
i:時系列の番号
J:判定結果を示す論理値(0:前景/1:背景)
k:回転楕円体Eの短軸半径βを定めるパラメータ
L:円柱Cの長さ
La1:回転楕円体Eaの長軸方向の長さ
La2:回転楕円体Eaの短軸方向の長さ
Lp1:回転楕円体Epの長軸方向の長さ
Lp2:回転楕円体Epの短軸方向の長さ
M:マスク画像
M(1)〜M(i),M(i+1),M10〜M40:マスク画像
m(i):マスク画像を構成する1つの画素の画素値
O:三次元色空間を構成するRGB座標系の原点
P:原画像/原画像の画素値を示す座標点
P(1)〜P(i),P(i+1),P10〜P40:原画像(入力画像)
P(Rp,Gp,Bp):原画像の画素値を示す座標点
p(i):原画像を構成する1つの画素もしくはその画素値
Q:基準点(画素値(R,G,B)をもった座標点)
q:比較点(画素値(r,g,b)をもった座標点)
R:三原色の画素値(基準画素値)
r:三原色の画素値(比較画素値)
S:交線円(球面C3と回転楕円体Eとの交線)
S11〜S20:流れ図の各ステップ
T:接線円(円錐ξと回転楕円体Eとの接線)
t:基準点Qと比較点qとの距離
t1〜t15:時系列の各時点
U(1)〜U(i):参照画像
u(i−1),u(i):参照画像を構成する1つの画素もしくはその画素値
V:基準画素値を示すベクトル/車両
Va:平均画像の画素値を示すベクトル
Vp:原画像の画素値を示すベクトル
v:重みを示すパラメータ
w:重みを示すパラメータ
X:座標軸
x:楕円方程式の変数
Y:座標軸
y:楕円方程式の変数
Z,Za,Zp:基準軸
α:回転楕円体Eの長軸半径
β:回転楕円体Eの短軸半径
γ:演算値
δ:座標点間の距離
θ:角度
ξ,ξ′:円錐
φ,φ′:円錐の半頂角
【特許請求の範囲】
【請求項1】
動画画像について移動物体を検出する移動物体検出装置であって、
時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力部と、
入力された原画像を逐次格納する原画像格納部と、
新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した平均画像とに基づいて、新たな平均画像を作成する平均画像作成部と、
作成された平均画像を逐次格納する平均画像格納部と、
新たな原画像が入力されるたびに、直前に作成した参照画像に基づいて新たな参照画像を作成する参照画像作成部と、
作成された参照画像を逐次格納する参照画像格納部と、
前記原画像格納部に格納された原画像と、前記平均画像格納部に格納された平均画像と、前記参照画像格納部に格納された参照画像と、を用いた比較処理により、前景領域と背景領域とを区別するマスク画像を作成する画像比較部と、
前記マスク画像を格納するマスク画像格納部と、
前記マスク画像を出力する画像出力部と、
を備え、
前記画像比較部は、
前記原画像格納部に格納された第i番目の原画像、前記平均画像格納部に格納された第(i−1)番目の平均画像、前記参照画像格納部に格納された第(i−1)番目の参照画像から、それぞれ対応する所定位置にある画素の三原色の各画素値を読み出す画素値読出部と、
前記画素値読出部によって読み出された画素値に基づいて、前記第i番目の原画像の前記所定位置にある画素が前景画素か背景画素かを判定する前背判定部と、
第i番目のマスク画像を構成する前記所定位置の画素の画素値として、前記前背判定部が背景画素と判定した場合には背景領域を示す画素値を、前記前背判定部が前景画素と判定した場合には前景領域を示す画素値を、それぞれ前記マスク画像格納部に書き込む画素値書込部と、
を有し、
前記前背判定部は、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の平均画像を構成する画素の画素値a(i−1)とを比較して類似するか否かを判定する第1判定部と、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の参照画像を構成する画素の画素値u(i−1)とを比較して類似するか否かを判定する第2判定部と、前記第1判定部による判定結果および前記第2判定部による判定結果の少なくとも一方が類似を示す場合には背景画素、双方とも非類似を示す場合には前景画素との判定を行う総合判定部と、を有し、
前記平均画像作成部は、第1番目の原画像をそのまま第1番目の平均画像とし、第i番目の原画像と第(i−1)番目の平均画像とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目(i≧2)の平均画像とし、
前記参照画像作成部は、第1番目の原画像をそのまま第1番目の参照画像とし、第(i−1)番目の参照画像を構成する個々の画素のうち、前記前背判定部によって第i番目の原画像の対応画素が前景画素と判定された画素については、更新せずに、もとの画素値をそのまま維持し、前記前背判定部によって第i番目の原画像の対応画素が背景画素と判定された画素については、当該画素と第(i−1)番目の平均画像の対応する位置にある画素とについて、三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を新画素値として更新することにより、第i番目(i≧2)の参照画像を作成することを特徴とする移動物体検出装置。
【請求項2】
請求項1に記載の移動物体検出装置において、
平均画像作成部が、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)として平均画像格納部へ格納する処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
p(i)は、原画像P(i)の
前記所定位置の画素の前記所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成することを特徴とする移動物体検出装置。
【請求項3】
請求項2に記載の移動物体検出装置において、
参照画像作成部が、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の参照画像U(1)として参照画像格納部へ格納する処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の参照画像U(i)の各画素値を、
背景画素と判定された画素については、
u(i)=(1−v)・u(i−1)+v・a(i−1)
(但し、u(i)は、平均画像U(i)の
所定位置の画素の所定色の画素値、
u(i−1)は、平均画像U(i−1)の
前記所定位置の画素の前記所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
vは、所定の重みを示すパラメータ(v<1))
なる演算式を用いて求められた画素値u(i)に更新し、
前景画素と判定された画素については、
u(i)=u(i−1)
として、更新せずに、もとの画素値をそのまま維持することにより決定することを特徴とする移動物体検出装置。
【請求項4】
請求項3に記載の移動物体検出装置において、
重みを示すパラメータw,vを、w>vとなるように設定することを特徴とする移動物体検出装置。
【請求項5】
請求項2〜4のいずれかに記載の移動物体検出装置において、
パラメータ「w」もしくは「v」またはこれら双方を、ユーザの操作入力によって任意の値に設定するパラメータ設定部を更に備えることを特徴とする移動物体検出装置。
【請求項6】
請求項1〜5のいずれかに記載の移動物体検出装置において、
第1判定部および第2判定部が、比較対象となる一方の画素の画素値を基準画素値、他方の画素の画素値を比較画素値として、三原色の各画素値を各座標軸にとった三次元座標系において、前記基準画素値に対応する座標に位置する基準点Qと前記比較画素値に対応する座標に位置する比較点qをとり、前記基準点Qを中心とする所定サイズの基準立体と前記比較点qとの位置関係を調べ、前記比較点qが前記基準立体の外部に位置すると判定できる場合に非類似との判定を行い、内部に位置すると判定できる場合には類似との判定を行うことを特徴とする移動物体検出装置。
【請求項7】
請求項6に記載の移動物体検出装置において、
第1判定部が、原画像の画素の画素値を基準画素値、平均画像の画素の画素値を比較画素値として判定を行い、
第2判定部が、原画像の画素の画素値を基準画素値、参照画像の画素の画素値を比較画素値として判定を行うことを特徴とする移動物体検出装置。
【請求項8】
請求項6または7に記載の移動物体検出装置において、
第1判定部および第2判定部が、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、この楕円を前記基準軸Zを中心に回転させることにより得られる同一の回転楕円体Eもしくはその近似体を基準立体として用いることを特徴とする移動物体検出装置。
【請求項9】
請求項8に記載の移動物体検出装置において、
第1判定部および第2判定部が、
「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する第1の条件判定部と、
前記第1の条件判定部が否定的判定を行った場合に「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξもしくはその近似体の外側に比較点qが位置する」という第2の条件を満足するか否かを判定する第2の条件判定部と、
前記第2の条件判定部が否定的判定を行った場合に「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定する第3の条件判定部と、
前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のいずれかが肯定的判定を行った場合に、非類似との判定結果を示す判定値を出力し、前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のすべてが否定的判定を行った場合に、類似との判定結果を示す判定値を出力する判定値出力部と、
を有することを特徴とする移動物体検出装置。
【請求項10】
請求項8に記載の移動物体検出装置において、
第1判定部および第2判定部が、
パラメータhおよびkの値を保持するパラメータ保持部と、
画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
D2=R2+G2+B2 および
d2=r2+g2+b2
なる演算を行い、値D2および値d2を算出する基本演算部と、
前記基本演算部が算出した値D2および値d2と前記パラメータ保持部に保持されているパラメータhの値とを用いて、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行う第1の条件判定部と、
前記第1の条件判定部が否定的判定を行った場合に、画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
γ=R・r+G・g+B・b
なる演算を行い、値γを算出し、前記基本演算部が算出した値D2および値d2と前記パラメータ保持部に保持されているパラメータkの値と前記値γとを用いて、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行う第2の条件判定部と、
前記第2の条件判定部が否定的判定を行った場合に、前記基本演算部が算出した値D2および値d2と前記パラメータ保持部に保持されているパラメータhおよびkの値と前記第2の条件判定部が算出した前記値γとを用いて、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
なる演算を行い、当該演算結果を用いて、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行う第3の条件判定部と、
前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のいずれかが肯定的判定を行った場合に、非類似との判定結果を示す判定値を出力し、前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のすべてが否定的判定を行った場合に、類似との判定結果を示す判定値を出力する判定値出力部と、
を有することを特徴とする移動物体検出装置。
【請求項11】
請求項8〜10のいずれかに記載の移動物体検出装置において、
パラメータ「h」および「k」を、ユーザの操作入力によって任意の値に設定するパラメータ設定部を更に備えることを特徴とする移動物体検出装置。
【請求項12】
請求項1〜11のいずれかに記載の移動物体検出装置としてコンピュータを動作させるプログラム。
【請求項13】
請求項1〜11のいずれかに記載の移動物体検出装置として機能する半導体集積回路。
【請求項14】
動画画像について移動物体を検出する移動物体検出方法であって、
コンピュータが、時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力段階と、
コンピュータが、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した平均画像とに基づいて、新たな平均画像を作成する平均画像作成段階と、
コンピュータが、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した参照画像とに基づいて、新たな参照画像を作成する参照画像作成段階と、
コンピュータが、原画像と平均画像と参照画像とを用いた比較処理により、前景領域と背景領域とを区別するマスク画像を作成する画像比較段階と、
コンピュータが、前記マスク画像を出力する画像出力段階と、
を有し、
前記画像比較段階は、
第i番目の原画像、第(i−1)番目の平均画像、第(i−1)番目の参照画像から、それぞれ対応する所定位置にある画素の三原色の各画素値を読み出す画素値読出ステップと、
第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の平均画像を構成する画素の画素値a(i−1)とが類似するか否かを判定する第1判定処理と、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の参照画像を構成する画素の画素値u(i−1)とが類似するか否かを判定する第2判定処理と、を行い、第i番目の原画像の前記所定位置にある画素について、前記第1判定処理による判定結果と前記第2判定処理による判定結果との少なくとも一方が類似を示す場合には背景画素、双方とも非類似を示す場合には前景画素との判定を行う前背判定ステップと、
第i番目のマスク画像を構成する前記所定位置の画素の画素値として、前記前背判定ステップにより背景画素と判定された場合には背景領域を示す画素値を、前記前背判定ステップにより前景画素と判定された場合には前景領域を示す画素値を、それぞれ与えることにより、第i番目のマスク画像を作成するマスク画像作成ステップと、
を有し、
前記平均画像作成段階では、第1番目の原画像をそのまま第1番目の平均画像とし、第i番目(i≧2)の平均画像を作成する際には、第i番目の原画像と第(i−1)番目の平均画像とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目の平均画像とし、
前記参照画像作成段階では、第1番目の原画像をそのまま第1番目の参照画像とし、第i番目(i≧2)の参照画像を作成する際には、第(i−1)番目の参照画像を構成する個々の画素のうち、前記前背判定ステップにおいて第i番目の原画像の対応画素が前景画素と判定された画素については、更新せずに、もとの画素値をそのまま維持し、前記前背判定ステップにおいて第i番目の原画像の対応画素が背景画素と判定された画素については、第(i−1)番目の平均画像の対応する位置にある画素との間で、三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を新画素値として更新することにより、第i番目の参照画像を作成することを特徴とする移動物体検出方法。
【請求項15】
請求項14に記載の移動物体検出方法において、
平均画像作成段階では、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)とする処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
p(i)は、原画像P(i)の
前記所定位置の画素の前記所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成し、
参照画像作成段階では、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の参照画像U(1)とする処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の参照画像U(i)の各画素値を、
背景画素と判定された画素については、
u(i)=(1−v)・u(i−1)+v・a(i−1)
(但し、u(i)は、平均画像U(i)の
所定位置の画素の所定色の画素値、
u(i−1)は、平均画像U(i−1)の
前記所定位置の画素の前記所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
vは、所定の重みを示すパラメータ(v<1、かつw>v))
なる演算式を用いて求められた画素値u(i)に更新し、
前景画素と判定された画素については、
u(i)=u(i−1)
として、更新せずに、もとの画素値をそのまま維持することにより、参照画像U(i)を作成することを特徴とする移動物体検出方法。
【請求項1】
動画画像について移動物体を検出する移動物体検出装置であって、
時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力部と、
入力された原画像を逐次格納する原画像格納部と、
新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した平均画像とに基づいて、新たな平均画像を作成する平均画像作成部と、
作成された平均画像を逐次格納する平均画像格納部と、
新たな原画像が入力されるたびに、直前に作成した参照画像に基づいて新たな参照画像を作成する参照画像作成部と、
作成された参照画像を逐次格納する参照画像格納部と、
前記原画像格納部に格納された原画像と、前記平均画像格納部に格納された平均画像と、前記参照画像格納部に格納された参照画像と、を用いた比較処理により、前景領域と背景領域とを区別するマスク画像を作成する画像比較部と、
前記マスク画像を格納するマスク画像格納部と、
前記マスク画像を出力する画像出力部と、
を備え、
前記画像比較部は、
前記原画像格納部に格納された第i番目の原画像、前記平均画像格納部に格納された第(i−1)番目の平均画像、前記参照画像格納部に格納された第(i−1)番目の参照画像から、それぞれ対応する所定位置にある画素の三原色の各画素値を読み出す画素値読出部と、
前記画素値読出部によって読み出された画素値に基づいて、前記第i番目の原画像の前記所定位置にある画素が前景画素か背景画素かを判定する前背判定部と、
第i番目のマスク画像を構成する前記所定位置の画素の画素値として、前記前背判定部が背景画素と判定した場合には背景領域を示す画素値を、前記前背判定部が前景画素と判定した場合には前景領域を示す画素値を、それぞれ前記マスク画像格納部に書き込む画素値書込部と、
を有し、
前記前背判定部は、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の平均画像を構成する画素の画素値a(i−1)とを比較して類似するか否かを判定する第1判定部と、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の参照画像を構成する画素の画素値u(i−1)とを比較して類似するか否かを判定する第2判定部と、前記第1判定部による判定結果および前記第2判定部による判定結果の少なくとも一方が類似を示す場合には背景画素、双方とも非類似を示す場合には前景画素との判定を行う総合判定部と、を有し、
前記平均画像作成部は、第1番目の原画像をそのまま第1番目の平均画像とし、第i番目の原画像と第(i−1)番目の平均画像とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目(i≧2)の平均画像とし、
前記参照画像作成部は、第1番目の原画像をそのまま第1番目の参照画像とし、第(i−1)番目の参照画像を構成する個々の画素のうち、前記前背判定部によって第i番目の原画像の対応画素が前景画素と判定された画素については、更新せずに、もとの画素値をそのまま維持し、前記前背判定部によって第i番目の原画像の対応画素が背景画素と判定された画素については、当該画素と第(i−1)番目の平均画像の対応する位置にある画素とについて、三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を新画素値として更新することにより、第i番目(i≧2)の参照画像を作成することを特徴とする移動物体検出装置。
【請求項2】
請求項1に記載の移動物体検出装置において、
平均画像作成部が、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)として平均画像格納部へ格納する処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
p(i)は、原画像P(i)の
前記所定位置の画素の前記所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成することを特徴とする移動物体検出装置。
【請求項3】
請求項2に記載の移動物体検出装置において、
参照画像作成部が、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の参照画像U(1)として参照画像格納部へ格納する処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の参照画像U(i)の各画素値を、
背景画素と判定された画素については、
u(i)=(1−v)・u(i−1)+v・a(i−1)
(但し、u(i)は、平均画像U(i)の
所定位置の画素の所定色の画素値、
u(i−1)は、平均画像U(i−1)の
前記所定位置の画素の前記所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
vは、所定の重みを示すパラメータ(v<1))
なる演算式を用いて求められた画素値u(i)に更新し、
前景画素と判定された画素については、
u(i)=u(i−1)
として、更新せずに、もとの画素値をそのまま維持することにより決定することを特徴とする移動物体検出装置。
【請求項4】
請求項3に記載の移動物体検出装置において、
重みを示すパラメータw,vを、w>vとなるように設定することを特徴とする移動物体検出装置。
【請求項5】
請求項2〜4のいずれかに記載の移動物体検出装置において、
パラメータ「w」もしくは「v」またはこれら双方を、ユーザの操作入力によって任意の値に設定するパラメータ設定部を更に備えることを特徴とする移動物体検出装置。
【請求項6】
請求項1〜5のいずれかに記載の移動物体検出装置において、
第1判定部および第2判定部が、比較対象となる一方の画素の画素値を基準画素値、他方の画素の画素値を比較画素値として、三原色の各画素値を各座標軸にとった三次元座標系において、前記基準画素値に対応する座標に位置する基準点Qと前記比較画素値に対応する座標に位置する比較点qをとり、前記基準点Qを中心とする所定サイズの基準立体と前記比較点qとの位置関係を調べ、前記比較点qが前記基準立体の外部に位置すると判定できる場合に非類似との判定を行い、内部に位置すると判定できる場合には類似との判定を行うことを特徴とする移動物体検出装置。
【請求項7】
請求項6に記載の移動物体検出装置において、
第1判定部が、原画像の画素の画素値を基準画素値、平均画像の画素の画素値を比較画素値として判定を行い、
第2判定部が、原画像の画素の画素値を基準画素値、参照画像の画素の画素値を比較画素値として判定を行うことを特徴とする移動物体検出装置。
【請求項8】
請求項6または7に記載の移動物体検出装置において、
第1判定部および第2判定部が、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、この楕円を前記基準軸Zを中心に回転させることにより得られる同一の回転楕円体Eもしくはその近似体を基準立体として用いることを特徴とする移動物体検出装置。
【請求項9】
請求項8に記載の移動物体検出装置において、
第1判定部および第2判定部が、
「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する第1の条件判定部と、
前記第1の条件判定部が否定的判定を行った場合に「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξもしくはその近似体の外側に比較点qが位置する」という第2の条件を満足するか否かを判定する第2の条件判定部と、
前記第2の条件判定部が否定的判定を行った場合に「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定する第3の条件判定部と、
前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のいずれかが肯定的判定を行った場合に、非類似との判定結果を示す判定値を出力し、前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のすべてが否定的判定を行った場合に、類似との判定結果を示す判定値を出力する判定値出力部と、
を有することを特徴とする移動物体検出装置。
【請求項10】
請求項8に記載の移動物体検出装置において、
第1判定部および第2判定部が、
パラメータhおよびkの値を保持するパラメータ保持部と、
画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
D2=R2+G2+B2 および
d2=r2+g2+b2
なる演算を行い、値D2および値d2を算出する基本演算部と、
前記基本演算部が算出した値D2および値d2と前記パラメータ保持部に保持されているパラメータhの値とを用いて、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行う第1の条件判定部と、
前記第1の条件判定部が否定的判定を行った場合に、画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
γ=R・r+G・g+B・b
なる演算を行い、値γを算出し、前記基本演算部が算出した値D2および値d2と前記パラメータ保持部に保持されているパラメータkの値と前記値γとを用いて、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行う第2の条件判定部と、
前記第2の条件判定部が否定的判定を行った場合に、前記基本演算部が算出した値D2および値d2と前記パラメータ保持部に保持されているパラメータhおよびkの値と前記第2の条件判定部が算出した前記値γとを用いて、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
なる演算を行い、当該演算結果を用いて、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行う第3の条件判定部と、
前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のいずれかが肯定的判定を行った場合に、非類似との判定結果を示す判定値を出力し、前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のすべてが否定的判定を行った場合に、類似との判定結果を示す判定値を出力する判定値出力部と、
を有することを特徴とする移動物体検出装置。
【請求項11】
請求項8〜10のいずれかに記載の移動物体検出装置において、
パラメータ「h」および「k」を、ユーザの操作入力によって任意の値に設定するパラメータ設定部を更に備えることを特徴とする移動物体検出装置。
【請求項12】
請求項1〜11のいずれかに記載の移動物体検出装置としてコンピュータを動作させるプログラム。
【請求項13】
請求項1〜11のいずれかに記載の移動物体検出装置として機能する半導体集積回路。
【請求項14】
動画画像について移動物体を検出する移動物体検出方法であって、
コンピュータが、時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力段階と、
コンピュータが、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した平均画像とに基づいて、新たな平均画像を作成する平均画像作成段階と、
コンピュータが、新たな原画像が入力されるたびに、当該新たな原画像と直前に作成した参照画像とに基づいて、新たな参照画像を作成する参照画像作成段階と、
コンピュータが、原画像と平均画像と参照画像とを用いた比較処理により、前景領域と背景領域とを区別するマスク画像を作成する画像比較段階と、
コンピュータが、前記マスク画像を出力する画像出力段階と、
を有し、
前記画像比較段階は、
第i番目の原画像、第(i−1)番目の平均画像、第(i−1)番目の参照画像から、それぞれ対応する所定位置にある画素の三原色の各画素値を読み出す画素値読出ステップと、
第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の平均画像を構成する画素の画素値a(i−1)とが類似するか否かを判定する第1判定処理と、第i番目の原画像を構成する画素の画素値p(i)と第(i−1)番目の参照画像を構成する画素の画素値u(i−1)とが類似するか否かを判定する第2判定処理と、を行い、第i番目の原画像の前記所定位置にある画素について、前記第1判定処理による判定結果と前記第2判定処理による判定結果との少なくとも一方が類似を示す場合には背景画素、双方とも非類似を示す場合には前景画素との判定を行う前背判定ステップと、
第i番目のマスク画像を構成する前記所定位置の画素の画素値として、前記前背判定ステップにより背景画素と判定された場合には背景領域を示す画素値を、前記前背判定ステップにより前景画素と判定された場合には前景領域を示す画素値を、それぞれ与えることにより、第i番目のマスク画像を作成するマスク画像作成ステップと、
を有し、
前記平均画像作成段階では、第1番目の原画像をそのまま第1番目の平均画像とし、第i番目(i≧2)の平均画像を作成する際には、第i番目の原画像と第(i−1)番目の平均画像とについて、互いに対応する位置にある画素の三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を各画素値とする画素の集合からなる画像を第i番目の平均画像とし、
前記参照画像作成段階では、第1番目の原画像をそのまま第1番目の参照画像とし、第i番目(i≧2)の参照画像を作成する際には、第(i−1)番目の参照画像を構成する個々の画素のうち、前記前背判定ステップにおいて第i番目の原画像の対応画素が前景画素と判定された画素については、更新せずに、もとの画素値をそのまま維持し、前記前背判定ステップにおいて第i番目の原画像の対応画素が背景画素と判定された画素については、第(i−1)番目の平均画像の対応する位置にある画素との間で、三原色の各画素値の重みつき平均値をそれぞれ求め、得られた各平均値を新画素値として更新することにより、第i番目の参照画像を作成することを特徴とする移動物体検出方法。
【請求項15】
請求項14に記載の移動物体検出方法において、
平均画像作成段階では、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)とする処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
p(i)は、原画像P(i)の
前記所定位置の画素の前記所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成し、
参照画像作成段階では、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の参照画像U(1)とする処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の参照画像U(i)の各画素値を、
背景画素と判定された画素については、
u(i)=(1−v)・u(i−1)+v・a(i−1)
(但し、u(i)は、平均画像U(i)の
所定位置の画素の所定色の画素値、
u(i−1)は、平均画像U(i−1)の
前記所定位置の画素の前記所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
vは、所定の重みを示すパラメータ(v<1、かつw>v))
なる演算式を用いて求められた画素値u(i)に更新し、
前景画素と判定された画素については、
u(i)=u(i−1)
として、更新せずに、もとの画素値をそのまま維持することにより、参照画像U(i)を作成することを特徴とする移動物体検出方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【公開番号】特開2012−160977(P2012−160977A)
【公開日】平成24年8月23日(2012.8.23)
【国際特許分類】
【出願番号】特願2011−20228(P2011−20228)
【出願日】平成23年2月1日(2011.2.1)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
【公開日】平成24年8月23日(2012.8.23)
【国際特許分類】
【出願日】平成23年2月1日(2011.2.1)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
[ Back to top ]