移動物体検出装置および画素の類否判定方法
【課題】演算処理負担を軽減しつつ、移動物体の検出を正確に行う。
【解決手段】時系列で連続的に与えられるフレーム単位の入力画像と予め用意された背景画像とを、個々の画素単位で比較する。入力画像の着目画素の画素値(r,g,b)と背景画像の対応する画素の画素値(R,G,B)とを三次元色空間上にプロットし、点q(r,g,b)と点Q(R,G,B)を定義する。原点Oと点Qとの距離をDとし、長軸半径α=h・D(但し、h<1)、短軸半径β=k・D(但し、k<h)をもつ楕円を、点Qを中心として、2点O,Qを通る基準軸Zが長軸方向となるように配置し、基準軸Zを中心に回転させて回転楕円体Eを定義する。点qが回転楕円体Eの内部にあれば着目画素は背景領域の画素とし、外部にあれば着目画素は移動物体の画素とする。移動物体の画素の集合体を、当該入力画像上における移動物体の占有領域として検出する。
【解決手段】時系列で連続的に与えられるフレーム単位の入力画像と予め用意された背景画像とを、個々の画素単位で比較する。入力画像の着目画素の画素値(r,g,b)と背景画像の対応する画素の画素値(R,G,B)とを三次元色空間上にプロットし、点q(r,g,b)と点Q(R,G,B)を定義する。原点Oと点Qとの距離をDとし、長軸半径α=h・D(但し、h<1)、短軸半径β=k・D(但し、k<h)をもつ楕円を、点Qを中心として、2点O,Qを通る基準軸Zが長軸方向となるように配置し、基準軸Zを中心に回転させて回転楕円体Eを定義する。点qが回転楕円体Eの内部にあれば着目画素は背景領域の画素とし、外部にあれば着目画素は移動物体の画素とする。移動物体の画素の集合体を、当該入力画像上における移動物体の占有領域として検出する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カラーの動画画像に基づいて、画像内の移動物体を検出する移動物体検出装置およびこれに利用する画素の類否判定方法に関する。
【背景技術】
【0002】
ビデオカメラを用いた監視システムなどでは、監視領域内に存在する移動物体を自動的に検出する技術が重要になってきている。移動物体の自動検出が可能になれば、当該物体が車両であるのか、人間であるのか、といった識別を行う処理に利用することができる。更に、車両の場合であれば、ナンバーを読み取って車両を特定することができ、人間の場合であれば、個人を特定する処理にも応用することができる。また、検出した不審者を自動的にズームアップして追尾することも可能になる。
【0003】
移動物体を検出する基本原理は、時系列で連続的に与えられるフレーム単位の入力画像を予め用意した背景画像と比較し、両者の差分を求めることにより、時間的に変化している領域を認識することにある。ただ、屋外の監視システムなどに利用する場合、時刻や天候などによる照明変動が生じるため、必ずしも正確な物体検出を行うことができない。そこで、たとえば、下記の特許文献1には、フレーム単位の入力画像を小領域に分割し、各小領域単位で画素値の統計処理を施して照明変動を推定する手法が開示されている。また、下記の特許文献2には、フレーム単位の入力画像をブロックに分割し、個々のブロックごとに画素値の平均値を求め、背景画像の画素値平均と比較することにより、当該ブロックが移動物体を含むか否かを判定する手法が開示されている。
【0004】
一方、下記の非特許文献1には、入力画像と背景画像とを画素単位で比較して、当該画素が移動物体を構成する画素であるか否かを判定する手法が開示されている。具体的には、比較対象となる両画素の画素値が類似している場合、当該画素は背景を構成する画素であるとし、類似していない場合、当該画素は移動物体を構成する画素であるとする判定が行われる。このとき、画素の類否判定は、三次元の色空間上で、双方の画素値に対応する座標点をプロットし、一方の座標点が他方の座標点の近傍領域に入っているか否かを調べることにより行われる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平7−302328号公報
【特許文献2】特開2009−048240号公報
【非特許文献】
【0006】
【非特許文献1】Kim K, Chalidabhongse T H, Harwood D, Davis L S. "Background Modeling and Subtraction by Codebook Construction" Proceedings of International Conference on Image Processing, Singapore. IEEE, 2004. 5: 3061-3064
【発明の概要】
【発明が解決しようとする課題】
【0007】
上述した特許文献1,2に開示されている手法では、入力画像に対して、小領域もしくはブロック単位で画素値のヒストグラムをとるなどの統計処理を施し、当該統計処理によって得られた特徴量を複雑なモデルに当てはめて移動物体の領域を推定する必要があるため、演算処理が極めて複雑になるという問題がある。このため、一般的なプロセッサでは処理時間が長くかかり、リアルタイムでの処理を行うことが困難である。また、より正確な検出を行うためには、多数のフレームにわたって入力画像を格納しておく必要があり、大容量の画像バッファメモリが必要になる。このため、リアルタイムでの監視を目的とした安価な監視システムに利用するには不適当である。
【0008】
一方、上述した非特許文献1に開示されている手法では、画素単位での比較を行えばよいので、複雑な統計処理を行ったり、複雑なモデルを構築したりする必要はない。しかしながら、画素の類否判定を行うためには、三次元の色空間上での幾何学演算が必要になり、安価なプロセッサを用いてリアルタイムの処理を行うには、依然として演算処理の負担が重い。特に、三角関数を含む演算は、安価な汎用プロセッサにとって極めて負担の重い処理になる。また、領域単位での統計処理を省き、画素単位での比較結果のみによって検出を行うため、時刻や天候などによる照明変動の影響を受けやすく、誤検出が生じやすいという問題もある。
【0009】
そこで本発明は、演算処理の負担を軽減しつつ、より正確な検出を行うことが可能な移動物体検出装置を提供することを目的とする。また、そのような移動物体検出装置に利用可能な画素の類否判定方法を提供することを目的とする。
【課題を解決するための手段】
【0010】
(1) 本発明の第1の態様は、動画画像について移動物体を検出する移動物体検出装置において、
時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力部と、
入力された原画像を逐次格納する原画像格納部と、
過去に入力された複数の原画像に基づいて、これら原画像の平均的な特徴を有する平均画像を逐次作成する平均画像作成部と、
作成された平均画像を逐次格納する平均画像格納部と、
原画像格納部に格納された原画像と、平均画像格納部に格納された平均画像とを比較し、前景領域と背景領域とを区別するマスク画像を作成する画像比較部と、
マスク画像を格納するマスク画像格納部と、
マスク画像を出力する画像出力部と、
を設け、
画像比較部を、
比較対象となる一方の画像の所定位置の画素の画素値を基準画素値として読み出し、比較対象となる他方の画像の所定位置の画素の画素値を比較画素値として読み出す画素値読出部と、
比較画素値が、基準画素値について設定された所定の類似範囲に入っているか否かを判定する類否判定部と、
マスク画像を構成する所定位置の画素の画素値として、類否判定部が類似範囲内と判定した場合には背景領域を示す画素値を、類否判定部が類似範囲外と判定した場合には前景領域を示す画素値を、それぞれマスク画像格納部に書き込む画素値書込部と、
によって構成し、
類否判定部が、三原色の各画素値を各座標軸にとった三次元座標系において、基準画素値に対応する座標に位置する基準点Qと比較画素値に対応する座標に位置する比較点qをとり、基準点Qを中心とする所定サイズの回転楕円体Eと比較点qとの位置関係を調べ、比較点qが回転楕円体Eもしくはその近似体の外部に位置すると判定できる場合には類似範囲外との判定を行い、内部に位置すると判定できる場合には類似範囲内との判定を行うようにしたものである。
【0011】
(2) 本発明の第2の態様は、上述の第1の態様に係る移動物体検出装置において、
平均画像作成部が、
第i番目の原画像P(i)が入力されたときに(i=1,2,...)、当該原画像P(i)を含めた過去の原画像について、それぞれ対応する位置の画素の各色別の画素値の重みづけ平均値を算出し、当該平均値をもつ画素の集合体からなる第i番目の平均画像A(i)を作成し、
画像比較部が、第(i+1)番目の原画像P(i+1)が入力されたときに、当該原画像P(i+1)と、第i番目の平均画像A(i)とを比較し、第(i+1)番目のマスク画像M(i+1)を作成するようにしたものである。
【0012】
(3) 本発明の第3の態様は、上述の第2の態様に係る移動物体検出装置において、
平均画像作成部が、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)として平均画像格納部へ格納する処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
当該所定位置の画素の当該所定色の画素値、
p(i)は、原画像P(i)の
当該所定位置の画素の当該所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成するようにしたものである。
【0013】
(4) 本発明の第4の態様は、上述の第1〜第3の態様に係る移動物体検出装置において、
類否判定部が、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、基準軸Zを中心に回転させることにより回転楕円体Eを定義するようにしたものである。
【0014】
(5) 本発明の第5の態様は、上述の第4の態様に係る移動物体検出装置において、
類否判定部を、
「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する第1の条件判定部と、
第1の条件判定部が否定的判定を行った場合に「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξもしくはその近似体の外側に比較点qが位置する」という第2の条件を満足するか否かを判定する第2の条件判定部と、
第2の条件判定部が否定的判定を行った場合に「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定する第3の条件判定部と、
第1の条件判定部、第2の条件判定部、第3の条件判定部のいずれかが肯定的判定を行った場合に、類似範囲外との判定結果を示す判定値を出力し、第1の条件判定部、第2の条件判定部、第3の条件判定部のすべてが否定的判定を行った場合に、類似範囲内との判定結果を示す判定値を出力する判定値出力部と、
によって構成するようにしたものである。
【0015】
(6) 本発明の第6の態様は、上述の第5の態様に係る移動物体検出装置において、
原点Oと基準点Qとの距離をD、原点Oと比較点qとの距離をdとしたときに、
第1の条件判定部が、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行うようにしたものである。
【0016】
(7) 本発明の第7の態様は、上述の第5の態様に係る移動物体検出装置において、
第2の条件判定部が、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線を構成する円を交線円Sとしたときに、「原点Oを頂点、基準軸Zを中心軸とし、交線円Sを通る円錐ξ′の外側に比較点qが位置する」という第2の条件を満足するか否かを判定するようにしたものである。
【0017】
(8) 本発明の第8の態様は、上述の第7の態様に係る移動物体検出装置において、
第2の条件判定部が、交線円S上の任意の点と基準点Qとの距離fが短軸半径βに等しいとおいた近似式を用いて近似的な判定を行うようにしたものである。
【0018】
(9) 本発明の第9の態様は、上述の第8の態様に係る移動物体検出装置において、
基準点Qの座標を示す基準画素値を(R,G,B)、比較点qの座標を示す比較画素値を(r,g,b)、原点Oと基準点Qとの距離をD、原点Oと比較点qとの距離をdとしたときに、
第2の条件判定部が、
γ=(R・r+G・g+B・b)
として、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行うようにしたものである。
【0019】
(10) 本発明の第10の態様は、上述の第5の態様に係る移動物体検出装置において、
基準点Qの座標を示す基準画素値を(R,G,B)、比較点qの座標を示す比較画素値を(r,g,b)、原点Oと基準点Qとの距離をD、原点Oと比較点qとの距離をdとしたときに、
第3の条件判定部が、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
γ=(R・r+G・g+B・b)
として、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行うようにしたものである。
【0020】
(11) 本発明の第11の態様は、上述の第4の態様に係る移動物体検出装置において、
類否判定部を、
パラメータhおよびkの値を保持するパラメータ保持部と、
画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
D2=R2+G2+B2 および
d2=r2+g2+b2
なる演算を行い、値D2および値d2を算出する基本演算部と、
基本演算部が算出した値D2および値d2とパラメータ保持部に保持されているパラメータhの値とを用いて、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行う第1の条件判定部と、
第1の条件判定部が否定的判定を行った場合に、画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
γ=R・r+G・g+B・b
なる演算を行い、値γを算出し、基本演算部が算出した値D2および値d2とパラメータ保持部に保持されているパラメータkの値と値γとを用いて、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行う第2の条件判定部と、
第2の条件判定部が否定的判定を行った場合に、基本演算部が算出した値D2および値d2とパラメータ保持部に保持されているパラメータhおよびkの値と第2の条件判定部が算出した値γとを用いて、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
なる演算を行い、当該演算結果を用いて、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行う第3の条件判定部と、
第1の条件判定部、第2の条件判定部、第3の条件判定部のいずれかが肯定的判定を行った場合に、類似範囲外との判定結果を示す判定値を出力し、第1の条件判定部、第2の条件判定部、第3の条件判定部のすべてが否定的判定を行った場合に、類似範囲内との判定結果を示す判定値を出力する判定値出力部と、
によって構成するようにしたものである。
【0021】
(12) 本発明の第12の態様は、上述の第6,第9〜第11の態様に係る移動物体検出装置において、
不等号を含む演算式の一部もしくは全部について、「不等号>」の代わりに「不等号≧」を用いた演算式、もしくは「不等号<」の代わりに「不等号≦」を用いた演算式を用いるようにしたものである。
【0022】
(13) 本発明の第13の態様は、上述の第3〜第12の態様に係る移動物体検出装置において、
パラメータ「w」もしくは「hおよびk」またはこれら全てを、ユーザの操作入力によって任意の値に設定するパラメータ設定部を更に設けるようにしたものである。
【0023】
(14) 本発明の第14の態様は、上述の第3〜第13の態様に係る移動物体検出装置において、
画素値読出部が、原画像の画素の画素値を基準画素値として読み出し、平均画像の画素の画素値を比較画素値として読み出すようにしたものである。
【0024】
(15) 本発明の第15の態様は、上述の第1〜第14の態様に係る移動物体検出装置を、コンピュータにプログラムを組み込むことにより構成したものである。
【0025】
(16) 本発明の第16の態様は、上述の第1〜第14の態様に係る移動物体検出装置を、半導体集積回路により構成したものである。
【0026】
(17) 本発明の第17の態様は、三原色の各画素値(R,G,B)を有する第1のカラー画素と、三原色の各画素値(r,g,b)を有する第2のカラー画素と、の類否判定を行う画素の類否判定方法において、
コンピュータが、画素値(R,G,B)および(r,g,b)の値を取り込む準備段階と、
コンピュータが、三原色の各画素値を各座標軸にとった三次元座標系において、画素値(R,G,B)に対応する座標をもつ基準点Qを中心とする所定サイズの回転楕円体Eもしくはその近似体と、画素値(r,g,b)に対応する座標をもつ比較点qとについて、後者が前者の内部にあるか外部にあるかを調べる位置関係判定段階と、
コンピュータが、回転楕円体Eもしくはその近似体の外部に比較点qがあると判断した場合には、第1のカラー画素と第2のカラー画素とが非類似との判定結果を出力し、回転楕円体Eもしくはその近似体の内部に比較点qがあると判断した場合には、第1のカラー画素と第2のカラー画素とが類似するとの判定結果を出力する判定結果出力段階と、
を行うようにしたものである。
【0027】
(18) 本発明の第18の態様は、上述の第17の態様に係る画素の類否判定方法において、
位置関係判定段階では、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、基準軸Zを中心に回転させることにより得られる回転楕円体Eを定義するようにしたものである。
【0028】
(19) 本発明の第19の態様は、上述の第18の態様に係る画素の類否判定方法において、
位置関係判定段階を、
「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する第1の条件判定段階と、
第1の条件判定段階において否定的判定がなされた場合に、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξもしくはその近似体の外側に比較点qが位置する」という第2の条件を満足するか否かを判定する第2の条件判定段階と、
第2の条件判定段階において否定的判定がなされた場合に、「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定する第3の条件判定段階と、
によって構成し、
判定結果出力段階では、第1の条件判定段階、第2の条件判定段階、第3の条件判定段階のいずれかにおいて肯定的判定がなされた場合には、第1のカラー画素と第2のカラー画素とが非類似との判定結果を出力し、第1の条件判定段階、第2の条件判定段階、第3の条件判定段階のすべてにおいて否定的判定がなされた場合には、第1のカラー画素と第2のカラー画素とが類似するとの判定結果を出力するようにしたものである。
【0029】
(20) 本発明の第20の態様は、上述の第19の態様に係る画素の類否判定方法において、
第1の条件判定段階で、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
としたときに、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行うようにしたものである。
【0030】
(21) 本発明の第21の態様は、上述の第19の態様に係る画素の類否判定方法において、
第2の条件判定段階で、
D2=(R2+G2+B2)
d2=(r2+g2+b2)、
γ=(R・r+G・g+B・b)
としたときに、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行うようにしたものである。
【0031】
(22) 本発明の第22の態様は、上述の第19の態様に係る画素の類否判定方法において、
第3の条件判定段階で、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
D2=(R2+G2+B2)
d2=(r2+g2+b2)
γ=(R・r+G・g+B・b)
としたときに、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行うようにしたものである。
【0032】
(23) 本発明の第23の態様は、三原色の各画素値(R,G,B)を有する第1のカラー画素と、三原色の各画素値(r,g,b)を有する第2のカラー画素と、の類否判定を行う画素の類否判定方法において、
コンピュータが、パラメータh(h<1)およびk(k<h)、画素値(R,G,B)および(r,g,b)の値を取り込む準備段階と、
コンピュータが、
(1−h)2・(R2+G2+B2)>(r2+g2+b2) もしくは
(1+h)2・(R2+G2+B2)<(r2+g2+b2)
という条件を満足するか否かを判定する第1の条件判定段階と、
第1の条件判定段階において否定的判定がなされた場合に、コンピュータが、
(R・r+G・g+B・b)2/
((R2+G2+B2)・(r2+g2+b2))
<(1−k2/2)2
という条件を満足するか否かを判定する第2の条件判定段階と、
第2の条件判定段階において否定的判定がなされた場合に、コンピュータが、
β2・x2+α2・y2−α2・β2>0
但し、α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
D2=(R2+G2+B2)
d2=(r2+g2+b2)
γ=(R・r+G・g+B・b)
という条件を満足するか否かを判定する第3の条件判定段階と、
コンピュータが、第1の条件判定段階、第2の条件判定段階、第3の条件判定段階のいずれかにおいて肯定的判定がなされた場合には、第1のカラー画素と第2のカラー画素とが非類似との判定結果を出力し、第1の条件判定段階、第2の条件判定段階、第3の条件判定段階のすべてにおいて否定的判定がなされた場合には、第1のカラー画素と第2のカラー画素とが類似するとの判定結果を出力する判定結果出力段階と、
を行うようにしたものである。
【0033】
(24) 本発明の第24の態様は、上述の第20〜第23の態様に係る画素の類否判定方法において、
不等号を含む演算式の一部もしくは全部について、「不等号>」の代わりに「不等号≧」を用いた演算式、もしくは「不等号<」の代わりに「不等号≦」を用いた演算式を用いるようにしたものである。
【発明の効果】
【0034】
本発明に係る画素の類否判定方法によれば、三次元色空間上において、一方の画素値をプロットした座標点を中心とする回転楕円体内に、他方の画素値をプロットした座標点が入るか否かに基づいて、比較対象となるカラー画素の類否判定を行うようにしたため、演算処理の負担を軽減しつつ、移動物体の検出を行うのに適した類否判定を行うことが可能になる。また、本発明に係る移動物体検出装置では、上述した画素の類否判定方法を採り入れた検出手法を採用したため、演算処理の負担を軽減しつつ、移動物体の検出をより正確に行うことが可能になる。
【図面の簡単な説明】
【0035】
【図1】動画画像についての移動物体の検出例を示す平面図である。
【図2】本発明における移動物体検出の基本原理を示す図である。
【図3】本発明において背景を示す画像として用いられる平均画像の作成方法の一例を示す図である。
【図4】図3に示す方法に基づいて作成される平均画像上の1画素の画素値変遷プロセスを示す図である。
【図5】本発明におけるマスク画像の画素値決定プロセスを示す図である。
【図6】画素の類否判定方法の従来例を示す三次元色空間図である。
【図7】画素の類否判定方法の別な従来例を示す三次元色空間図である。
【図8】本発明に係る移動物体検出に利用するための画素の類否判定方法の第1の適用例を示す三次元色空間図である。
【図9】本発明に係る移動物体検出に利用するための画素の類否判定方法の第2の適用例を示す三次元色空間図である。
【図10】本発明に係る画素の類否判定方法を示す三次元色空間図である。
【図11】従来の円柱モデルに対する本発明の回転楕円体モデルの利点を示す断面図である。
【図12】回転楕円体モデルを用いた場合の第1の条件判定原理を示す断面図である。
【図13】図12に示す第1の条件判定原理に基づく判定式を示す図である。
【図14】回転楕円体モデルを用いた場合の第2の条件判定原理を示す断面図である。
【図15】図14に示す第2の条件判定原理に基づく判定式を導く第1のプロセスを示す図である。
【図16】図14に示す第2の条件判定原理に基づく判定式を導く第2のプロセスを示す図である。
【図17】図14に示す第2の条件判定原理に基づく判定式を示す図である。
【図18】回転楕円体モデルを用いた場合の第3の条件判定原理を示す断面図である。
【図19】図18に示す第3の条件判定原理に基づく判定式を示す図である。
【図20】本発明に係る画素の類否判定方法の実用的な手順を示す流れ図である。
【図21】本発明に係る移動物体検出装置の基本構成を示すブロック図である。
【図22】図21に示す装置における類否判定部220の詳細構成を示すブロック図である。
【発明を実施するための形態】
【0036】
以下、本発明を図示する実施形態に基づいて説明する。
【0037】
<<< §1.移動物体検出の基本原理 >>>
はじめに、本発明に係る移動物体検出の基本原理を説明する。この基本原理は、動画画像について移動物体を検出するためのものであり、三原色の各画素値を有する画素の集合体として、時系列で連続的にフレーム単位のカラー画像が与えられることを前提としている。
【0038】
たとえば、図1の左側に示すように、フレーム単位の画像P10,P20,P30,P40がこの順番で与えられたものとしよう。図示の例は、街頭に設置された定点ビデオカメラによる撮影画像を示すものであり、右から左へと1台の車両(移動物体)が通過する状態が示されている。なお、一般的なビデオカメラの場合、1秒間に30フレーム程度の周期で連続して撮影画像が出力されるので、実際には、より細かな時間間隔で多数のフレーム画像が得られることになるが、ここでは、説明の便宜上、図示のとおり、4枚のフレーム画像P10,P20,P30,P40が順番に与えられたものとしよう。
【0039】
これら4枚の画像を見ると、画像P10は街の背景のみであるが、画像P20では、右側に車両の一部が侵入したため、背景上に車両の一部が重なった画像になっている。同様に、画像P30,P40も、背景上に車両が重なった画像になっている。背景は静止しているため、画像P10〜P40について共通になるが、車両は移動物体であるため、画像P10〜P40では異なる。ここでは、各画像上において、背景を構成する領域を背景領域B、車両(移動物体)を構成する領域を前景領域Fと呼ぶことにする。
【0040】
本発明における移動物体検出の目的は、与えられた各画像P10〜P40について、それぞれ背景領域Bと前景領域Fとを区別することにある。図1の右側に示す各画像M10〜M40は、それぞれ左側に示す各画像P10〜P40について、背景領域Bと前景領域Fとの区別を示す画像である。図にハッチングを施した領域が背景領域Bであり、白地の領域が前景領域Fである。いずれの領域かを識別できればよいので、これらの画像M10〜M40は、二値画像として与えられる。たとえば、背景領域Bに所属する画素には画素値「0」を与え、前景領域Fに所属する画素には画素値「1」を与えることにすれば、画像M10〜M40は、1ビットの画素値をもった画素の集合体からなる画像データとして用意することができる。
【0041】
本発明によれば、与えられた個々のフレーム画像のそれぞれについて、対応する二値画像を作成することができる。結局、本発明に係る移動物体検出処理の本質は、時系列で連続的に与えられた個々のカラー画像について、それぞれ背景領域Bと前景領域Fとの区別を示す二値画像を作成する処理ということができる。そこで、以下、便宜上、時系列で連続的に与えられるカラー画像を「原画像」と呼び、この「原画像」に基づいて作成される二値画像を「マスク画像」と呼ぶことにする。
【0042】
図1に示す例では、各原画像P10〜P40のそれぞれについて、マスク画像M10〜M40が作成された例が示されている。これらマスク画像を利用すれば、原画像上のどの領域が移動物体であるかを認識できるので、移動物体の形状やサイズを把握したり、移動物体の部分をズームアップして、車両のナンバーを確認したり、人物を特定したりする処理を行うことが可能になる。また、画面上で移動物体をズームアップしたまま追跡したり、移動経路を把握したりすることも可能になる。
【0043】
もちろん、このようなマスク画像の作成を、1枚の原画像のみから行うことは困難である。たとえば、図示の原画像P20のみが静止画像として与えられた場合、人間の脳は様々な情報から車両の存在を認識することができるが、この1枚の静止画像のみから、コンピュータに車両の存在を認識させるには、複雑なアルゴリズムに基づく処理が必要となる。そこで、一般的な移動物体検出アルゴリズムでは、既に述べたとおり、入力画像と背景画像との差を求めることにより、当該差の領域を移動物体の領域(前景領域F)と判断する手法が採られる。
【0044】
たとえば、予め原画像P10を背景画像として指定しておけば、原画像P20が入力された時点で両者を比較することにより、差の領域を前景領域Fと認識し、図示のようなマスク画像M20を作成することが可能になる。差の領域の認識手法としては、前述したとおり、小領域単位で画素値の統計処理を施す方法も知られているが、入力画像と背景画像とを画素単位で比較して、両画素の画素値が類似している場合、当該画素は背景領域Bを構成する画素であるとし、類似していない場合、当該画素は移動物体を構成する前景領域Fを構成する画素であるとする方法が最も簡便な方法である。本発明も、このような画素単位での比較手法を採用することを前提としている。
【0045】
背景画像としては、予め移動物体が存在しない状態(たとえば、画像P10に示す状態)で撮影した静止画像を利用することも可能であるが、天候や時刻などの要因により、照明環境は時々刻々と変化してゆくものであり、ある特定の時点で撮影した静止画像をそのまま背景画像として継続して利用するのは不適切である。そこで、通常は、過去に入力された複数の原画像に基づいて、これら原画像の平均的な特徴を有する平均画像を作成し、この平均画像を背景画像として利用する手法が採られる。本発明でも、このような手法で得られた平均画像を、背景画像として利用している。平均画像は新たな画像が入力されるたびに逐次更新されるので、常に、その時点で最適な背景画像として機能する。
【0046】
図2は、本発明における移動物体検出の基本原理を示す図である。ここで、図の上段に示す画像P(1),P(2),... ,P(i−2),P(i−1),P(i)は、時系列で連続的に与えられるフレーム単位の原画像であり、これまでに第1番目の原画像P(1)から第i番目の原画像P(i)まで、iフレーム分の画像が与えられた状態が示されている。一方、図の中段左に示す画像P(i+1)は、新たに与えられた第(i+1)番目の原画像であり、図の中段右に示す画像A(i)は、図の上段に示す過去に与えられたiフレーム分の原画像P(1)〜P(i)の平均的な特徴を有する平均画像である。
【0047】
新たに入力された原画像P(i+1)についてのマスク画像M(i+1)は、当該原画像P(i+1)と平均画像A(i)とを比較することによって作成される。図2の下段は、このようにして作成されたマスク画像M(i+1)を示すものである。具体的には、原画像P(i+1)上の各画素の画素値を、平均画像A(i)上の対応する画素の画素値と比較し、類似範囲内と判定された画素については背景領域Bを示す画素値(たとえば、「0」)を与え、類似範囲外と判定された画素については前景領域Fを示す画素値(たとえば、「1」)を与えることにより、二値画像からなるマスク画像M(i+1)を作成すればよい。
【0048】
続いて、第(i+2)番目の原画像P(i+2)が入力されたときには、過去に入力された第(i+1)番目の原画像P(i+1)までの平均的な特徴を有する平均画像A(i+1)が新たに作成され、原画像P(i+2)と平均画像A(i+1)とを比較することにより、マスク画像M(i+2)が作成される。このように、平均画像は逐次更新されてゆくため、天候や時刻などの要因により、照明環境が変化した場合でも、各時点に適した背景画像としての機能を果たすことができる。
【0049】
なお、平均画像を作成する際には、時系列に沿った重みづけを行うようにし、最新の原画像の情報に重みをおいた加重平均を求めるようにするのが好ましい。たとえば、過去10分間に入力された原画像について重み1、それ以前に入力された原画像について重み0を与えて平均を求めれば、常に、最新10分間に得られた原画像についての平均画像を得ることができ、照明環境が変化した場合にも対応することができる。もちろん、常に最新の原画像ほど重みづけが大きくなるように、重みづけをきめ細かく設定することもできる。
【0050】
結局、この図2に示す例の場合、平均画像を作成する際には、第i番目の原画像P(i)が入力されたときに(i=1,2,...)、当該原画像P(i)を含めた過去の原画像について、それぞれ対応する位置の画素の各色別の画素値の重みづけ平均値を算出し、当該平均値をもつ画素の集合体からなる第i番目の平均画像A(i)を作成すればよい。そして、第(i+1)番目の原画像P(i+1)について、第(i+1)番目のマスク画像M(i+1)を作成する際には、原画像P(i+1)と、第i番目の平均画像A(i)とを比較すればよい。
【0051】
ただ、1秒間に30フレームという一般的なフレームレートで動画画像が入力された場合、過去10分間の原画像であっても、その画像データをすべて蓄積しておくには、画像データのバッファにかなりの記憶容量が必要になる。そこで、実用上は、第i番目の原画像P(i)が与えられたときに、第(i−1)番目の平均画像A(i−1)と、当該第i番目の原画像P(i)との2枚の画像に基づいて、第i番目の平均画像A(i)を作成する手法が採られる。図3は、このような手法に基づく平均画像の作成方法の一例を示す図である。
【0052】
まず、最初の原画像P(1)が与えられたときには、当該原画像P(1)をそのまま最初の平均画像A(1)とする処理を行う。そして、以後、図3の上段右に示す第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、図3の上段左に示す第(i−1)番目の平均画像A(i−1)を利用して、図3の中段に示す第i番目の平均画像A(i)を、図3の下段に示す
a(i)=(1−w)・a(i−1)+w・p(i) 式(1)
なる演算式を用いて作成すればよい。ここで、a(i)は、平均画像A(i)の所定位置の画素の所定色の画素値、a(i−1)は、平均画像A(i−1)の前記所定位置の画素の前記所定色の画素値、p(i)は、原画像P(i)の前記所定位置の画素の前記所定色の画素値、wは、所定の重みを示すパラメータ(w<1)である。
【0053】
要するに、直前に与えられた原画像P(i−1)までの原画像について算出された第(i−1)番目の平均画像A(i−1)の画素値a(i−1)と、新たに与えられた第i番目の原画像P(i)の画素値p(i)とについて、重みwを考慮した平均値が算出され、当該算出値を第i番目の平均画像A(i)の画素値a(i)とする処理が行われることになる。このように、新たな原画像P(i)が入力されるたびに、平均画像A(i)を更新してゆき、しかも更新には直前の平均画像A(i−1)のみを用いるようにすれば、過去の原画像データを何フレーム分にもわたって蓄積保持しておく必要がないので、処理を行うために必要なバッファの容量を大幅に節約することができる。
【0054】
図3に示すとおり、重みwの値を大きくすればするほど、最新の原画像P(i)の画素値が平均画像A(i)の画素値に大きな影響を与えることになる。図4は、図3に示す方法に基づいて作成される平均画像上の1画素の画素値変遷プロセスを示す図である。この例では、重みw=0.01に設定した具体例が示されている。
【0055】
たとえば、第1番目(i=1)の原画像P(1)の特定位置の画素の画素値がp(1)=100であったとすると、第1番目の平均画像A(1)の当該特定位置の画素の画素値a(1)は、そのままa(1)=100となる。続いて、第2番目の原画像P(2)の当該特定位置の画素の画素値がp(2)=100であったとすると、第2番目の平均画像A(2)の当該特定位置の画素の画素値a(2)は、a(1)とp(2)との重みつき平均「0.99×100+0.01×100」を計算することにより、a(2)=100になる。
【0056】
図示の例では、原画像の当該特定位置の画素値は、p(1)〜p(4)まで100のまま変化しないため、平均画像の当該特定位置の画素値も、a(1)〜a(4)まで100を維持する。ところが、第5番目の原画像P(5)では、画素値p(5)=200に急変したため、第5番目の平均画像A(5)の画素値a(5)は、図4の下段の式に示すとおり、a(4)とp(5)との重みつき平均「0.99×100+0.01×200」を計算することにより、a(5)=101になる。更に、第6番目の原画像P(6)および第7番目の原画像P(7)では、画素値p(6)=p(7)=200が維持されているため、図4の下段の式に示すとおり、第6番目の平均画像A(6)および第7番目の平均画像A(7)では、画素値a(6)=102、画素値a(7)=103、と徐々に増加している。
【0057】
この例のように、重みwを0.01程度の値に設定すると、原画像の画素値が急激に変化しても、平均画像の画素値は直ちに変化することはなく、原画像の画素値にゆっくりと近づいてゆくことになる。したがって、図1に示す例のように、車両が通過する動画が与えられたとしても、一過性の画素値変化は、平均画像の画素値に大きな変化をもたらすことはなく、平均画像は背景画像としての機能を果たすことができる。一方、時刻が日中から夕暮れに変わった場合など、照明環境に変化が生じた場合、当該変化は多数のフレーム画像にわたって持続するため、平均画像の画素値も当該変化に追従して変化することになる。したがって、日中には日中の背景画像に適した平均画像が得られ、夕暮れには夕暮れの背景画像に適した平均画像が得られることになる。
【0058】
本発明におけるマスク画像は、このような方法で作成された平均画像を背景画像として、個々の原画像を比較することによって作成される。図5は、このようにして作成されるマスク画像の画素値決定プロセスを示す図である。第i番目の原画像P(i)についてのマスク画像M(i)は、次のような方法で決定される画素値をもつ画素の集合体からなる二値画像である。すなわち、マスク画像M(i)の特定位置の画素の画素値m(i)は、原画像P(i)の当該特定位置の画素の画素値p(i)と、平均画像A(i−1)の当該特定位置の画素の画素値a(i−1)との比較によって決定され、両画素値が類似範囲内であれば、背景領域B内の画素であることを示す画素値(たとえば、「0」)が与えられ、両画素値が類似範囲外であれば、前景領域F内の画素であることを示す画素値(たとえば、「1」)が与えられる。
【0059】
なお、実際には、原画像は三原色の各画素値(たとえば、RGB表色系の場合、R,G,Bの3色の画素値)をもったカラー画像であるので、原画像P(i)を構成する各画素の画素値p(i)や、平均画像A(i)を構成する各画素の画素値a(i)は、いずれも色ごとに独立した3つの値から構成されていることになる。そして、式(1)の演算は、個々の色ごとにそれぞれ独立して実行されることになる。たとえば、平均画像A(i)上の特定位置の画素の画素値a(i)は、R色の画素値、G色の画素値、B色の画素値という3組の画素値によって構成され、R色の画素値は、過去の原画像のR色の画素値の重みつき平均として得られた値になる。
【0060】
したがって、図5における画素値p(i)と画素値a(i−1)との比較は、単なる2つの値の比較ではなく、3組の画素値と3組の画素値との比較ということになる。当然ながら、画素の類否判定は、この3組の画素値同士が類似するか否かを判定する処理ということになる。本発明の特徴は、この3組の画素値同士の類否を判定する方法にあり、以下、この類否判定方法を、§2において詳述する。
【0061】
<<< §2.画素の類否判定方法 >>>
さて、§1で述べたとおり、本発明では、原画像(入力画像)と平均画像(背景画像)とを画素単位で比較して、両画素が類似している場合は背景領域Bの画素、非類似の場合は前景領域Fの画素という判定を行う。このように画素単位での類否判定を行う方法は、領域単位で特徴量を求める方法に比べて処理が単純になり、演算負担は比較的軽くなる。しかしながら、画素の類否判定が移動物体の検出精度を左右するファクターになるため、どのような方法で、どの程度の範囲までを「類似範囲」と判定するかが非常に重要である。
【0062】
たとえば、§1では、図1の画像P10を平均画像(背景画像)とし、画像P20を原画像(入力画像)とした場合、両者の比較により、画像M20のようなマスク画像が得られることを述べた。ここで、マスク画像M20の前景領域Fは、両画像P10,P20を比較した結果、画素が類似範囲外と判定された領域であり、背景画像Bは、画素が類似範囲内と判定された領域である。この場合、類似範囲を適切に設定しないと、正しいマスク画像を得ることはできない。
【0063】
すなわち、図1では、背景部分に全く同じ画像が描かれているが、実際の風景では、雲の動きで太陽光による照明環境が変化し、風により樹木の葉の位置や向きが微妙に変化する。したがって、画素の類否判定基準を厳しくすると、実際には背景部分であるのに、類似範囲外との誤判定が生じ、前景領域F内の画素との認定がなされてしまう。逆に、画素の類否判定基準を緩めると、実際には前景部分であるのに、類似範囲内との誤判定が生じ、背景領域B内の画素との認定がなされてしまう。
【0064】
しかも、カラー画像の場合、前述したように、画素の類否は、一方の画素の3組の画素値と他方の画素の3組の画素値との比較に基づいて行う必要があるため、様々な類否判定基準を設定することが可能である。そして、どのような類否判定基準を採用するかによって、判定精度も変わってくる。通常、このようなカラー画像の画素の比較は、三次元の色空間上で、双方の画素値に対応する座標点をプロットし、両座標点の空間的な位置関係を調べることによって行われる。以下、各画素がRGB表色系の画素値をもっている場合について、色空間上での類否判定を行ういくつかの方法を説明しよう。
【0065】
図6は、画素の類否判定の最も単純な方法を示す三次元色空間図である。図示のとおり、三原色R,G,Bの画素値を各座標軸にとったRGB三次元直交座標系に、座標点AおよびPがプロットされている。ここで、座標点A(Ra,Ga,Ba)は、背景を示す平均画像A上の画素の画素値(Ra,Ga,Ba)をプロットした点であり、座標点P(Rp,Gp,Bp)は、判定対象となる原画像P上の画素の画素値(Rp,Gp,Bp)をプロットした点である。
【0066】
ここで、この三次元色空間上での2点A,Pの距離をδとすれば、当該距離δは、両画素の類似度を示す1つの指標になる。δ=0であれば、両画素は全く同一の画素値をもった画素になり、δが大きくなればなるほど、3つの画素値の総合的な類似度は低下する。したがって、予め所定の閾値δthを設定しておき、δ<δthであれば類似範囲内、δ≧δthであれば類似範囲外と判定するようにすれば、一応の判定基準を設定することができる。
【0067】
あるいは、原点Oを起点として、座標点Aへ向かうベクトルVaと座標点Pへ向かうベクトルVpとを定義し、両ベクトルVa,Vpのなす角θを、両画素の類似度を示す指標として用いることもできる。θ=0の場合、2点A,Pは必ずしも同一の点にはならないが、原点Oを通る同一直線上の点になるため、少なくとも三原色R,G,Bの配合割合で決まる両画素の色相は類似したものになる。結局、θが小さければ、色相の類似性は高まることになるので、指標δを用いた判定基準と同様に、予め所定の閾値θthを設定しておき、θ<θthであれば類似範囲内、θ≧θthであれば類似範囲外と判定するようにすれば、一応の判定基準を設定することができる。
【0068】
ただ、このような距離δや角度θを基準とした単純な類否判定方法を、一般的な実写画像における移動物体検出処理に利用した場合、満足した検出結果を得ることが困難であることが知られている。これは、距離δや角度θという単純なパラメータの値だけでは、太陽光による照明環境の変化、風による樹木等の明暗の変化など、実際の撮影環境に対応した適切な判定基準を設定することが困難なためである。
【0069】
このような問題に対処するために、前掲の非特許文献1には、より適切な判定基準を設定するために、円柱モデルを用いる類否判定方法が提案されている。図7は、この円柱モデルを用いる方法の基本原理を示す三次元色空間図である。この図7においても、図6と同様に、背景を示す平均画像A上の画素の画素値(Ra,Ga,Ba)が座標点Aとしてプロットされ、判定対象となる原画像P上の画素の画素値(Rp,Gp,Bp)が座標点Pとしてプロットされている。ここでも、ベクトルVa,Vpは、原点Oを起点として、各点A,Pへ向かうベクトルである。
【0070】
このモデルでは、図示のとおり、座標点Aを中心として所定半径をもった長さLの円柱Cが定義されている。別言すれば、円柱Cは、ベクトルVa上に定義された基準軸Zを中心軸とし、その中心点が座標点Aにくるように配置された円柱ということになる。そして、この円柱Cの内部の空間領域を、背景を示す平均画像Aを構成する画素の類似範囲と定める。したがって、図示の例のように、座標点Pに対応する画素値をもった画素は、円柱Cの外側に位置するため類似範囲外と判定され、前掲領域Fを構成する画素と認定されることになる。逆に、座標点Pが円柱Cの内部に位置していれば、類似範囲内と判定され、背景領域Bを構成する画素と認定される。
【0071】
この円柱モデルの特徴は、ベクトルVaの方向を向いた基準軸Zを長手方向とする円柱領域が設定される点である。この円柱Cの半径は、色相の類似範囲を決めるパラメータとして機能し、長さLは明度の類似範囲を決めるパラメータとして機能する。前述したとおり、実際の景色では、太陽光による照明環境の変化、風による樹木等の明暗の変化などによって、背景領域Bの画素値に時間的変動が生じることになるが、このような変動は、色相よりも明度に大きな影響を及ぼすと考えられる。したがって、このモデルのように、基準軸Zを長手方向とする円柱Cに基づいて類似範囲を設定することは理にかなっている。
【0072】
しかしながら、この円柱モデルを用いても、時刻や天候などによる照明変動の影響を完全に排除することは困難であり、依然として、誤検出が生じる問題がある。また、座標点Pが円柱Cの内部に位置するのか外部に位置するのかを判定するためには、三次元の色空間上での幾何学演算が必要になり、安価なプロセッサを用いてリアルタイムの処理を行うには演算処理の負担が重い。特に、三角関数を含む演算は、安価な汎用プロセッサにとって極めて負担の重い処理になる。本発明は、このような問題に対処するために、新たなモデルを用いた画素の類否判定方法を提案するものである。
【0073】
本発明に係る画素の類否判定方法の最も重要な特徴は、図7に示す円柱モデルの円柱Cの代わりに、回転楕円体を用いるようにした点にある。図8は、図7に示す円柱Cを回転楕円体Eaに置き換えた回転楕円体モデルを示す三次元色空間図である。ここで、類似範囲を示す回転楕円体Eaは、平均画像Aの画素値を示す座標点Aを中心点とし、ベクトルVa上に定義された基準軸Zaを長軸方向とする楕円を、基準軸Zaを回転軸として回転させることにより得られる回転体である。この回転楕円体Eaのサイズは、長軸方向の長さLa1と短軸方向の長さLa2によって規定される。
【0074】
この回転楕円体モデルを用いた場合でも、類否判定の方法は、前述の円柱モデルを用いた場合の判定方法と同様であり、回転楕円体Eaの内部領域にプロットされる画素は、座標点Aに対応する画素値をもった画素に対して類似する画素と判定されることになる。具体的には、図示の例の場合、座標点Pに対応する画素値をもった画素は、回転楕円体Eaの外側に位置するため類似範囲外と判定され、前掲領域Fを構成する画素と認定される。逆に、座標点Pが回転楕円体Eaの内部に位置していれば、類似範囲内と判定され、背景領域Bを構成する画素と認定される。
【0075】
一方、図9は、図8に示す回転楕円体モデルのバリエーションを示す三次元色空間図である。図示のとおり、このモデルにおける類似範囲を示す回転楕円体Epは、判定対象となる原画像Pの画素値を示す座標点Pを中心点とし、ベクトルVp上に定義された基準軸Zpを長軸方向とする楕円を、基準軸Zpを回転軸として回転させることにより得られる回転体である。この回転楕円体Epのサイズは、長軸方向の長さLp1と短軸方向の長さLp2によって規定される。
【0076】
図8に示すモデルの場合、背景を示す平均画像Aの画素値(Ra,Ga,Ba)をプロットした座標点Aを基準として、類似範囲を示す回転楕円体Eaが定義され、比較対象となる原画像Pの画素値(Rp,Gp,Bp)をプロットした座標点Pが、回転楕円体Eaの内側にあるか外側にあるかを判定していたのに対して、図9に示すモデルの場合、比較対象となる原画像Pの画素値(Rp,Gp,Bp)をプロットした座標点Pをプロットした座標点Pを基準として、類似範囲を示す回転楕円体Epが定義され、背景を示す平均画像Aの画素値(Ra,Ga,Ba)をプロットした座標点Aが、回転楕円体Epの内側にあるか外側にあるかを判定することになる。
【0077】
要するに、前者では、新たに入力された原画像Pの画素が、背景を示す過去の平均画像Aの画素の類似範囲に入っているか否かを判定する手法をとるのに対して、後者では、背景を示す過去の平均画像Aの画素が、新たに入力された原画像Pの画素の類似範囲に入っているか否かを判定する手法をとることになる。結局、両者の相違は、比較対象となる2つの画素のどちらを基準にして回転楕円体を定義するかという点だけである。
【0078】
そこで、以下の説明では、比較対象となる2つの画像のうち、一方の画像の画素値を基準画素値(R,G,B)と表記し、他方の画像の画素値を比較画素値(r,g,b)と表記することにする。また、三次元色空間上で基準画素値(R,G,B)をプロットした座標点Q(R,G,B)を基準点Qと呼び、比較画素値(r,g,b)をプロットした座標点q(r,g,b)を比較点qと呼ぶことにする。類否判定は、基準点Qを中心として定義された回転楕円体と比較点qとの位置関係に基づいてなされることになる。
【0079】
図10は、このような一般的な表記にしたがって、本発明に係る回転楕円体モデルを図示した三次元色空間図である。原点Oを起点として基準点Qへ向かうベクトルをベクトルVとすれば、基準軸Zは、このベクトルV上の軸になる。そして、回転楕円体Eは、基準点Qを中心点とし、ベクトルV上に定義された基準軸Zを長軸方向とする楕円を、基準軸Zを回転軸として回転させることにより得られる回転体である。ここで、比較点q(r,g,b)が回転楕円体Eの内部に位置すれば、両画素は類似範囲内と判定され、回転楕円体Eの外部に位置すれば、両画素は類似範囲外と判定される。
【0080】
図8に示すモデルは、図5に示す類否判定を行う際に、平均画像A(i−1)上の画素a(i−1)の画素値を基準画素値(R,G,B)として基準点Q(R,G,B)をプロットし、原画像P(i)上の画素p(i)の画素値を比較画素値(r,g,b)として比較点q(r,g,b)をプロットしたものである。これに対して、図9に示すモデルは、図5に示す類否判定を行う際に、原画像P(i)上の画素p(i)の画素値を基準画素値(R,G,B)として基準点Q(R,G,B)をプロットし、平均画像A(i−1)上の画素a(i−1)の画素値を比較画素値(r,g,b)として比較点q(r,g,b)をプロットしたものである。
【0081】
図7に示す従来の円柱モデルに比べて、図10に示す本発明の回転楕円体モデルは、次の2つの利点を有している。第1の利点は、§1で述べた移動物体検出方法における画素の類否判定処理に利用した場合に、時刻や天候などによる照明変動の影響を排除した、より正確な移動物体の検出が可能になる点である。
【0082】
実際、本願発明者は、ビデオカメラで撮影した様々な実写画像について、図7に示す円柱モデルに基づく類否判定処理を採り入れた移動物体の検出と、図10に示す回転楕円体モデルに基づく類否判定処理を採り入れた移動物体の検出とを試みたところ、後者の検出の方がより正確である実験結果が得られた。これは、円柱モデルの場合、円柱の長手方向の端部周縁領域において、誤検出が行われる可能性が高くなるためと考えられる。
【0083】
図11は、円柱モデルに対する回転楕円体モデルの利点を示す断面図である。図示の例において、円柱Cの断面と回転楕円体Eの断面とを比較すると、いずれも基準点Qを中心として、基準軸Zの方向を長手方向とする図形であるが、図にハッチングを施す領域が、円柱Cでは内部領域と判定されるのに対して、回転楕円体Eでは外部領域と判定されることがわかる。したがって、比較点qが、このハッチング領域に位置する場合、一方では類似範囲内と判定され、他方では類似範囲外と判定される。もちろん、いずれの判定結果が正しいものであるかは、一概には決定できないが、少なくとも実写画像を用いた移動物体の検出処理に利用する限りにおいて、後者の判定結果が正しい結果となる可能性が高いことになる。
【0084】
すなわち、円柱モデルの場合、比較点qが図のハッチング領域内に位置する場合、判定対象となる画素は背景画像に類似しているため背景領域B内の画素とされることになるが、実際には、背景画像に対して非類似であり、前景領域F内の画素とすべきであった、というケースが比較的高い確率で生じてしまうものと考えられる。図11に示すとおり、断面形状で比較すると、回転楕円体Eの断面は曲面からなる楕円であるのに対して、円柱Cの断面は直線からなる矩形であり、実写画像を対象物とした類否判定の境界線としては、断面が曲面からなる楕円の方が適していることは、直感的にも理解できよう。
【0085】
このように、少なくとも、実写画像に基づく移動物体の検出処理に利用する場合、円柱モデルよりも回転楕円体モデルの方が検出精度が向上するという第1の利点が得られる。一方、回転楕円体モデルを採用することにより得られる第2の利点は、演算負担の軽減を図ることができる点である。この第2の利点の詳細については、§3で述べることにするが、ここでは、演算負担の軽減に寄与する工夫のひとつを簡単に述べておく。
【0086】
この工夫は、回転楕円体Eのサイズを、三次元座標系の原点Oと基準点Qとの距離Dに比例した値に設定することである。具体的には、図10に示すとおり、距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、基準軸Zを中心に回転させることにより回転楕円体Eを定義すればよい。
【0087】
このような条件で回転楕円体Eのサイズを決定すると、基準点Qが原点Oから離れれば離れるほど、回転楕円体Eのサイズは大きくなり、それだけ類似範囲が広くなる。これは、より明度の高い部分、すなわち、画像のハイライト部ほど、類似範囲が広くなることを意味するが、実用上、そのような類似範囲設定がなされても支障は生じない。一方、類似範囲内か否か、すなわち、回転楕円体Eの内部か外部かを判定するための演算負担は、長軸半径をα=h・D、短軸半径をβ=k・Dと設定することにより(すなわち、楕円のサイズを、距離Dに比例した値に設定することにより)、大幅に軽減することができる。その詳細は§3で述べることにする。
【0088】
ところで、本願発明者が行った実験によると、回転楕円体Eのサイズを、距離Dに比例した値に設定する場合は、図8のモデルよりも、図9のモデルを用いた方が、検出精度が向上することが判明した。図9のモデルを採用した場合、図10において、基準点Q(R,G,B)は、判定対象となる原画像Pの画素の画素値を基準画素値としてプロットした点になり、比較点q(r,g,b)は、背景となる平均画像Aの画素の画素値を比較画素値としてプロットした点になる。
【0089】
上述したとおり、図8のモデルと図9のモデルは、原画像Pの画素と平均画像Aの画素とのいずれを基準にして回転楕円体を定義するか、という点において異なる。しかも、回転楕円体のサイズを、距離Dに比例した値に設定すれば、定義される回転楕円体のサイズが、両者では異なることになる。すなわち、図8に示すモデルにおける回転楕円体Eaの長軸方向の長さLa1および短軸方向の長さLa2は、ベクトルVaの長さに、それぞれパラメータ2hおよび2kを乗じることにより得られるのに対して、図9に示すモデルにおける回転楕円体Epの長軸方向の長さLp1および短軸方向の長さLp2は、ベクトルVpの長さに、それぞれパラメータ2hおよび2kを乗じることにより得られる。したがって、図示の例の場合、回転楕円体Eaのサイズよりも、回転楕円体Epのサイズの方が大きくなっており、より広い類似範囲が設定されている。
【0090】
もちろん、常識的には、図9に示すモデルよりも図8に示すモデルを採用するのが一般的であろう。すなわち、予め背景とみなすことができる類似範囲を回転楕円体Eaとして定義しておき、新たに入力された画像の画素を示す点Pが、この類似範囲内に入るか否かを判定することにより、当該画素が移動物体上の点であるか否かを認識する、という方針を採るのが、一般的な考え方である。これに対して、図9に示すモデルは、新たに入力された画像の画素の類似範囲を回転楕円体Ebとして定め、その中に、背景画素を示す点Aが入るか否かを判定する手法を採るものであり、一般常識に基づく手法とは逆の手法と言うことができる。
【0091】
しかしながら、本願発明者が行った実験によると、少なくとも実写画像を用いた移動物体の検出処理に利用する限りにおいて、図8に示すモデルを採用するよりも、図9に示すモデルを採用した方が、より正しい判定結果が得られた。これは、図3の式(1)に示すような方法で、平均画像Aの画素値a(i)を決定すると、太陽光や風などの要因により、新たに入力されてくる原画像Pの画素値p(i)が大きく変動しても、画素値a(i)の値が当該変動に追従するまでにはある程度の時間がかかるため(たとえば、図4の表を参照)、類似範囲の広狭を、背景を示す平均画像Aの画素値a(i)ではなく、原画像Pの画素値p(i)に応じて定めた方が、正しい判定が可能になるためと考えられる。
【0092】
以上、移動物体の検出に利用する画素の類否判定処理方法において、円柱モデルを採用する従来の方法に比べて、回転楕円体モデルを採用する本発明の利点として、時刻や天候などによる照明変動の影響を排除した、より正確な移動物体の検出が可能になる、という第1の利点を述べるとともに、演算負担を軽減することができるという第2の利点についても簡単に説明した。続く§3では、この第2の利点についての詳細を述べることにする。
【0093】
<<< §3.実用的な類否判定手順 >>>
一般に、三次元空間上において、ある1点が、円柱の内側にあるか外側にあるかを判定する場合も、回転楕円体の内側にあるか外側にあるかを判定する場合も、座標値を用いた幾何学演算が必要になる。しかしながら、回転楕円体の内側にあるか外側にあるかを判定する場合は、演算式を工夫し、また、一部に近似演算を取り込むことにより、演算負担を大幅に軽減することが可能である。ここでは、図10に示す回転楕円体モデルにおいて、比較点q(r,g,b)が、基準点Q(R,G,B)を中心として定義された回転楕円体Eの内側にあるか外側にあるかを判定する実用的な手順を述べる。
【0094】
ここで述べる手順は、3つの条件判定段階によって構成される。図12は、そのうちの第1の条件判定段階の原理を示す断面図である。図において、下方に示す原点Oは、図10の三次元色空間図に示されているRGB三次元直交座標系の原点Oであり、当該座標系上に、基準点Q(R,G,B)と比較点q(r,g,b)とがプロットされている(座標軸は図示省略)。基準軸Zは、原点Oと基準点Qとを結ぶ線であり、回転楕円体Eは、この基準軸Zを長軸方向とし、基準点Qを中心とする楕円を、基準軸Zを回転軸として回転させることによって得られる回転体である。図に断面を示す楕円は、長軸半径をα、短軸半径をβとする楕円であるが、§2で述べたとおり、原点Oと基準点Qとの距離をDとしたときに、所定のパラメータh,kについて、α=h・D(但し、h<1)、β=k・D(但し、k<h)となるように設定されている。
【0095】
第1の条件判定段階では、比較点qが、図のハッチング領域内にあるかどうかの判定が行われる。すなわち、図の下方のハッチング領域は、「原点Oを中心とし半径(D−α)の球C1の内側領域」であるから、原点Oと比較点qとの距離をdとすれば、「D−α>d」なる条件が満足されれば、比較点qは、球C1の内側に位置することになる。球C1は、回転楕円体Eの原点Oに対する最近接点E1において、回転楕円体Eに接する球であり、球C1の内側領域は、当然、回転楕円体Eの外側領域になる。一方、図の上方のハッチング領域は、「原点Oを中心とし半径(D+α)の球C2の外側領域」であるから、原点Oと比較点qとの距離をdとすれば、「D+α<d」なる条件が満足されれば、比較点qは、球C2の外側に位置することになる。球C2は、回転楕円体Eの原点Oに対する最遠接点E2において、回転楕円体Eに接する球であり、球C2の外側領域は、当然、回転楕円体Eの外側領域になる。
【0096】
図13は、図12に示す第1の条件判定原理に基づく判定式を示す図である。図13(a) は、比較点qが球C1の内側領域にあるための条件式「D−α>d」の変形プロセスを示す。すなわち、α=h・Dを代入すると、条件式は「(1−h)・D>d」となり、両辺を2乗すると、
(1−h)2・D2>d2 式(2)
が得られる。一方、図13(b) は、比較点qが球C2の外側領域にあるための条件式「D+α<d」の変形プロセスを示す。すなわち、α=h・Dを代入すると、条件式は「(1+h)・D<d」となり、両辺を2乗すると、
(1+h)2・D2<d2 式(3)
が得られる。
【0097】
ここで、基準点Qの座標値が(R,G,B)、比較点qの座標値が(r,g,b)であるから、図13(c) に示すように、
D=√(R2+G2+B2)
d=√(r2+g2+b2)
であり、両辺を2乗すると、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
となる。したがって、式(2),式(3)を書き直せば、図13(c) に示すように、
(1−h)2・(R2+G2+B2)
>(r2+g2+b2) 式(2′)
(1+h)2・(R2+G2+B2)
<(r2+g2+b2) 式(3′)
なる条件式が得られる。ここで、hは予め設定された所定のパラメータであり、(R,G,B)および(r,g,b)は、基準点Qおよび比較点qの座標値(すなわち、比較対象となる2つの画素の三原色の画素値)である。式(2′)および式(3′)は、2乗演算と和差演算のみで構成される演算式であるから、演算負担は非常に軽いものになる。
【0098】
こうして、式(2′)もしくは式(3′)のいずれかの条件を満足する結果が得られた場合、比較点qは、回転楕円体Eの外側に位置すると判断できるので、基準点Qの類似範囲外との判定を行うことができる。
【0099】
一方、式(2′)および式(3′)のいずれの条件も満足しない場合は、図12において、比較点qは、球C1の外側かつ球C2の内側の領域に位置することになる。したがって、その場合には、以下に述べる第2の条件判定段階が引き続き行われる。
【0100】
図14は、この第2の条件判定段階の原理を示す断面図である。第2の条件判定段階では、比較点qが、図14のハッチング領域内にあるかどうかの判定が行われる。このハッチング領域は、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの外側領域」として定義される領域である。円錐ξの半頂角は、図示のとおり角φになる。図示の断面図では、円錐ξが接点Tにおいて楕円Eに接している状態が示されているが、実際には、円錐ξと回転楕円体Eとは、接線円Tで線接触することになる。三次元空間上での円錐ξと回転楕円体Eとの関係は、コーンに卵を挿入した状態を考えれば容易に理解できよう。
【0101】
結局、この第2の条件判定段階では、比較点qが、円錐ξの内側にあるか、外側にあるかを判定することになる。円錐ξと回転楕円体Eとが接する接線円Tの位置は、幾何学的な演算によって求めることができ、そのような接線円Tを通る円錐ξを示す幾何学的な方程式を求めることも可能である。しかしながら、そのような方程式は比較的複雑な式になる。そこで、ここでは、円錐ξの代わりに、図14に破線で示す円錐ξ′を利用した近似的な判定を行うことにより、演算負担の軽減を図ることにする。
【0102】
図14に実線で描いた円錐ξは、接線円Tで回転楕円体Eに接する図形であるが、破線で描いた円錐ξ′は、交線円Sで回転楕円体Eと交差する図形である。ここで、交線円Sは、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線を構成する円であり、基準点Qと交線円S上の任意の点との距離は図示のとおりfである。結局、この近似的な判定では、「原点Oを頂点、基準軸Zを中心軸とし、交線円Sを通る円錐ξ′の外側に比較点qが位置するか否か」という判定が行われることになる。
【0103】
図示のとおり、円錐ξ′の半頂角φ′は、円錐ξの半頂角φよりも若干小さくなり、円錐ξ′は、円錐ξよりも若干小さな円錐になる。このため、「円錐ξ′の外側」かつ「円錐ξの内側」の点の場合、実際は回転楕円体Eの内部の点であるにもかかわらず、円錐ξ′を代用する近似的な判定方法では、回転楕円体Eの外部の点と判定されてしまうことになる。したがって、「回転楕円体Eの内外を厳密に判定する」という観点では、円錐ξ′を代用する判定方法は不正確である。ただ、そもそも回転楕円体E自体が、移動物体を厳密に検出する機能をもつ立体であるわけではなく、あくまでも1つの指標を提供するものであるから、円錐ξ′を代用する近似的な判定方法を用いたとしても、大きな支障は生じない。
【0104】
そこで、比較点qが、この円錐ξ′の内側にあるのか外側にあるのかを幾何学的に判定するための具体的な方法を考えてみる。いま、図15(a) に示すように、三辺の長さがそれぞれa,b,cである一般的な三角形を考える。ここで、2辺b,cの挟角をφとすると、余弦定理により、
cos φ=(b2+c2−a2)/2bc 式(4)
が成り立つ。
【0105】
続いて、図15(b) に示す三角形OQSを考える。この図15(b) は、図14に示す三角形OQSをそのまま抜き出して示したものである。交線円Sは、前述したとおり、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線であるから、2点OSの距離は、2点OQの距離に等しくDになる。したがって、三角形OQSは二等辺三角形になり、2つの等辺の挟角はφ′、第3の辺の長さはfである。この三角形OQSに、式(4)に示す余弦定理を適用すると、
cos φ′=(D2+D2−f2)/2D2 式(5)
が成り立つ。
【0106】
ここで、図14を見ると、長さfは、回転楕円体Eの短軸半径βに近い値になることがわかる。そこで、近似的に、f≒βとすると、β=k・Dなので、f≒k・Dになり、図15の下段右に示すとおり、
cos φ′≒1−k2/2 式(6)
なる式が得られる。
【0107】
次に、図16に示す三角形OQqを考える。この図16は、図14に示す4点O,Q,S,qをそのまま抜き出してプロットしたものである。2点OQ間の距離はDであり、2点Oq間の距離はdである。ここで、この長さD,dをもった2辺の挟角をθとし、第3の辺の長さをtとする。また、線分OQと線分OSとのなす角φ′は、前述した円錐ξ′の半頂角である。
【0108】
さて、図14において、円錐ξの代わりに円錐ξ′を用いて、比較点qがハッチング領域にあるための条件を求めると、θ>φ′であればよいことがわかる。ここで、座標値(画素値)R,G,B,r,g,bが正の値をとるものとすれば、角度θおよびφ′はいずれも鋭角になる。図16の右側にも記載したとおり、一般に、θ,φ′を正の鋭角とすれば、θ>φ′の場合、「cos θ<cos φ′」であり、「cos 2θ<cos 2φ′」である。式(6)より、cos 2φ′≒(1−k2/2)2であるから、結局、
cos 2θ<(1−k2/2)2 式(7)
が成り立てば、比較点qは、円錐ξ′の外側領域にあると近似的に判断できる。
続いて、図16に示す三角形OQqについて、式(4)の余弦定理を適用すれば、図16の下段に示すように、
cos θ=(D2+d2−t2)/(2・D・d) 式(8)
が成り立つ。このとき、図17にも記載したとおり、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
t2=(R−r)2+(G−g)2+(B−b)2
だから、これを式(8)に代入して整理すると、
cos θ=γ/(D・d) 式(9)
(但し、γ=R・r+G・g+B・b)
が得られる。式(9)の両辺を2乗すれば、
cos 2θ=γ2/(D2・d2) 式(10)
である。よって、式(7)より、
γ2/(D2・d2)<(1−k2/2)2 式(11)
が成り立てば、比較点qは、円錐ξ′の外側領域にあると近似的に判断できる。ここで、γ,D,dを画素値を用いて書き直せば、図17の下段に示すように、
(R・r+G・g+B・b)2/
((R2+G2+B2)・(r2+g2+b2))
<(1−k2/2)2 式(11′)
が成り立てば、比較点qは、円錐ξ′の外側領域にあると近似的に判断できる。
【0109】
既に述べたとおり、図14において、円錐ξ′は、円錐ξに近似的に代用することができるので、上記式(11′)が成り立てば、比較点qは、回転楕円体Eの外側領域にある、との近似的判定を行うことができる。もちろん、この近似的な判定結果は、円錐ξ′を円錐ξに代用し、かつ、f≒βとの近似を行うことによって得られる判定結果であるので、厳密な判定結果ではない。しかしながら、そもそも回転楕円体E自体が、移動物体を厳密に検出する機能をもつ立体であるわけではないので、このような近似的な判定を行っても、大きな支障は生じない。別言すれば、上述した近似的な判定手法は、比較点qが回転楕円体Eの外部にあるかどうかを判定する代わりに、その近似体の外部に位置するかどうかを判定する手法ということになる。
【0110】
このようにして、式(11′)を満足する結果が得られた場合、比較点qは、回転楕円体Eの近似体の外側に位置すると判断できるので、基準点Qの類似範囲外との判定を行うことができる。
【0111】
一方、式(11′)を満足しない場合は、比較点qは、図14においてハッチングが施されていない円錐ξの内側に位置すると近似的に判断されたことになるので、最終的に、第3の条件判定段階が行われる。
【0112】
図18は、この第3の条件判定段階の原理を示す断面図である。第3の条件判定段階では、比較点qが、図18のハッチング領域内にあるかどうかの判定が行われる。このハッチング領域は、回転楕円体Eの外側領域であり、いわば第3の条件判定段階は、§2で述べた回転楕円体モデルを用いた類否判定として行うべき本来の判定段階ということになる。このため、条件判定に用いられる式は、楕円の方程式を用いた式になり、これまでの条件判定式に比べると、若干複雑にならざるを得ない。
【0113】
いま、図18に示すように、基準点Qの位置に原点をもち、紙面上に定義されたローカルなXY二次元直交座標系をとり、この二次元座標系上において、楕円Eと比較点qとの位置関係を考えることにしよう。ここで、X軸は回転楕円体Eの長軸方向の座標軸であり、Y軸は回転楕円体Eの短軸方向の座標軸である。もちろん、基準点QのXY座標系での座標は(0,0)になる。したがって、比較点qは、RGB三次元直交座標系ではq(r,g,b)なる三次元の座標値をもち、XYローカル座標系ではq(x,y)なる二次元の座標値をもつ。
【0114】
ここで、比較点qの座標値(x,y)を、2点OQ間の距離D、2点Oq間の距離d、そして挟角θを用いて表すと、図18の右下にも記載したとおり、
x=D−d・cos θ、 y=d・sin θ 式(12)
が成り立つ。一方、図19に示すとおり、楕円の公式からは、
x2/α2+y2/β2=1 式(13)
が得られるので、
f(x,y)=β2・x2+α2・y2−α2・β2 式(14)
なる判定式を定義すれば、比較点qは、
f(x,y)<0なら楕円内部の点
f(x,y)=0なら楕円上の点
f(x,y)>0なら楕円外部の点
ということになる。したがって、
β2・x2+α2・y2−α2・β2>0 式(15)
であれば、比較点qは、楕円外部の点ということになる。ここで、XYローカル座標系を、基準軸Zを中心軸として回転しても、上式が成り立つことに変わりはないので、式(15)は、三次元立体にも拡張することができる。すなわち、式(15)の条件が満足されていれば、比較点qは、回転楕円体Eの外側領域の点ということになる。
【0115】
なお、式(15)において、各変数の値は、図19の下半分に示すように、次のようにして求めることができる。まず、α=h・D、β=k・Dであるから、
α2=h2・D2、 β2=k2・D2 式(16)
である。一方、式(12)より、x=D−d・cos θだから、両辺を2乗すると、
x2=D2+d2・cos2 θ−2Dd・cos θ
となり、これに式(9)および式(10)を代入すれば、
x2=D2+γ2/D2−2γ 式(17)
が得られる(但し、γ=R・r+G・g+B・b)。また、式(12)より、y=d・sin θだから、両辺を2乗すると、
y2=d2・sin2 θ=d2・(1−cos2 θ)
となり、これに式(10)を代入すれば、
y2=d2−γ2/D2 式(18)
が得られる(但し、γ=R・r+G・g+B・b)。
【0116】
かくして、式(16)〜式(18)によって、α2,β2,x2,y2の各値を求めた後に、式(15)の条件判定式を演算すれば、比較点qが、回転楕円体Eの内側領域の点か、外側領域の点かを判定することができる。
【0117】
図20は、これまで述べてきた本発明に係る実用的な類否判定方法の手順を示す流れ図である。この類否判定方法によれば、三原色の各画素値(R,G,B)を有する第1のカラー画素と、三原色の各画素値(r,g,b)を有する第2のカラー画素と、の類否判定を行うことができる。なお、実際には、この図20に示す各手順は、コンピュータによって実行されることになる。
【0118】
まず、ステップS11では、回転楕円体Eのサイズを決めるパラメータh,kを設定する。前述したとおり、パラメータhは、回転楕円体Eの長軸半径αを決定する値(h<1)であり、長軸半径はα=h・Dなる式で定められる。また、パラメータkは、回転楕円体Eの短軸半径βを決定する値(k<h)であり、短軸半径はβ=k・Dなる式で定められる。これらパラメータh,kの値は、背景画像の特徴(たとえば、屋外か屋内か、街中か郊外か、といった種別)や、移動物体として侵入してくる前景画像の特徴(たとえば、車両か人間か、といった種別)を考慮して、できるだけ高い検出精度が得られるような値に適宜設定することになる。本願発明者が行った実験によれば、一般的な用途の場合、h=0.45〜0.20、k=0.15〜0.05程度の値に設定すれば、比較的高い検出精度が得られる。
【0119】
続く、ステップS12では、基準点Q(R,G,B)と比較点q(r,g,b)の座標値(R,G,B)および(r,g,b)が取り込まれる。これらの座標値は、それぞれ2つのカラー画像の三原色の画素値として与えられた値である。これら座標値が取り込まれたら、準備段階は完了である。すなわち、コンピュータには、パラメータh(h<1)およびk(k<h)、画素値(R,G,B)および(r,g,b)の値が取り込まれた状態となり、これらの値を用いて、以下の演算処理を実行する準備が整ったことになる。
【0120】
以下、ステップS13〜S18に示す手順は、図10に示すように、三原色の各画素値を各座標軸にとった三次元座標系において、画素値(R,G,B)に対応する座標をもつ基準点Qを中心とする所定サイズの回転楕円体Eと、画素値(r,g,b)に対応する座標をもつ比較点qとについて、後者が前者の内部にあるか外部にあるかを調べる位置関係判定段階の手順である。
【0121】
具体的には、既に述べたとおり、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、この基準軸Zを中心に回転させることにより得られる回転楕円体Eを定義する。そして、比較点qがこの回転楕円体Eの内部にあるか外部にあるかを判定することになる。なお、実際には、前述したような近似を行うため、論理的には、回転楕円体Eの代わりに、その近似体について、内部にあるか外部にあるかの判定が行われることになる。この位置関係判定段階は、3つの条件判定段階によって構成される。
【0122】
まず、ステップS13に示す第1の条件判定段階では、図12に示すように、「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という条件を満足するか否かの判定が行われる。そのためには、図13で説明したとおり、
(1−h)2・D2>d2 式(2)
もしくは
(1+h)2・D2<d2 式(3)
という条件を満足するか否かを判定するための演算を行えばよい。ここで、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
であるから、結局、ステップS13のブロック内に記載したように、
(1−h)2・(R2+G2+B2)>(r2+g2+b2) 式(2′)
もしくは
(1+h)2・(R2+G2+B2)<(r2+g2+b2) 式(3′)
という条件を満足するか否かを判定する演算を行えばよい。
【0123】
このステップS13に示す第1の条件判定段階において、肯定的な判定がなされた場合(式(2′)もしくは式(3′)の条件を満足する場合)は、ステップS14からステップS19へと進み、位置関係判定段階は終結する。一方、否定的判定がなされた場合には、ステップS14からステップS15へと進む。
【0124】
ステップS15に示す第2の条件判定段階では、図14に示すように、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの外側に比較点qが位置する」という第2の条件を満足するか否かの判定が行われる。ただ、前述したとおり、実用上は、円錐ξの代わりに円錐ξ′を用い、しかもf≒βと近似する式が用いられる。このような近似的な判定手法を採る場合は、第2の条件は「回転楕円体Eの近似体の外側に比較点qが位置する」という条件になる。
【0125】
この近似的な判定手法を採るのであれば、図17に示すとおり、
γ2/(D2・d2)<(1−k2/2)2 式(11)
という条件を満足するか否かを判定するための演算を行えばよい。ここで、
D2=(R2+G2+B2)
d2=(r2+g2+b2)、
γ=(R・r+G・g+B・b)
であるから、結局、ステップS15のブロック内に記載したように、
(R・r+G・g+B・b)2/
((R2+G2+B2)・(r2+g2+b2))
<(1−k2/2)2 式(11′)
という条件を満足するか否かを判定する演算を行えばよい。
【0126】
このステップS15に示す第2の条件判定段階において、肯定的な判定がなされた場合(式(11′)の条件を満足する場合)は、ステップS16からステップS19へと進み、位置関係判定段階は終結する。一方、否定的判定がなされた場合には、ステップS16からステップS17へと進む。
【0127】
ステップS17に示す第3の条件判定段階では、図18に示すように、「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かの判定が行われる。そのためには、ステップS17のブロック内に記載したように、
β2・x2+α2・y2−α2・β2>0 式(15)
という条件を満足するか否かを判定するための演算を行えばよい。ここで、各変数は、図19で説明したとおり、
α2=h2・D2、 β2=k2・D2 式(16)
x2=D2+γ2/D2−2γ 式(17)
y2=d2−γ2/D2 式(18)
であり、また、既に述べたとおり、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
γ=(R・r+G・g+B・b)
である。
【0128】
このステップS17に示す第3の条件判定段階において、肯定的な判定がなされた場合(式(15)の条件を満足する場合)は、ステップS18からステップS19へと進み、位置関係判定段階は終結する。一方、否定的判定がなされた場合には、ステップS18からステップS20へと進み、やはり位置関係判定段階は終結する。
【0129】
ここで注目すべき点は、以上の第1〜第3の条件判定段階で行われる条件判定式には、加減乗除演算のみしか含まれていない点である。すなわち、一般的な幾何学演算に含まれている開平演算や三角関数演算は一切含まれていない。したがって、演算装置の負担は比較的軽いものになり、安価なプロセッサを用いた場合でも、リアルタイム処理が可能になる。
【0130】
最後に、ステップS19もしくはステップS20に示す判定結果出力段階が行われる。すなわち、上述したとおり、第1の条件判定段階(ステップS13)、第2の条件判定段階(ステップS15)、第3の条件判定段階(ステップS17)のいずれかにおいて肯定的判定がなされた場合には、ステップS19へと進み、第1のカラー画素と第2のカラー画素とが非類似との判定結果が出力される。一方、第1の条件判定段階(ステップS13)、前記第2の条件判定段階(ステップS15)、前記第3の条件判定段階(ステップS17)のすべてにおいて否定的判定がなされた場合には、ステップS20へ進み、第1のカラー画素と第2のカラー画素とが類似するとの判定結果が出力される。
【0131】
要するに、この図20の流れ図に示す手順によれば、回転楕円体Eもしくはその近似体の外部に比較点qがあると判断された場合には、第1のカラー画素と第2のカラー画素とが非類似との判定結果が出力され、回転楕円体Eもしくはその近似体の内部に比較点qがあると判断された場合には、第1のカラー画素と第2のカラー画素とが類似するとの判定結果が出力されることになる。ステップS15の第2の条件判定段階は、ステップS13の第1の条件判定段階において否定的判定がなされた場合にのみ実行され、同様に、ステップS17の第3の条件判定段階は、ステップS15の第2の条件判定段階において否定的判定がなされた場合にのみ実行されることになるので、無駄な演算を省くことが可能になり、演算負担の軽減を図ることができる。
【0132】
特に、パラメータh,kの値を固定値にした運用を行う場合、ステップS13の演算式(2′),(3′)に用いる(1−h)2および(1+h)2の値、ステップS15の演算式(11′)に用いる(1−k2/2)2の値は、予め決められた定数として用意しておくことができるので、演算負担を更に軽減することができる。実際には、まず、(R2+G2+B2)の値および(r2+g2+b2)の値を計算してしまえば、ステップS13の演算式(2′),(3′)に係る演算は、上記定数を利用した極めて単純な演算になる。同様に、ステップS15の演算式(11′)に係る演算も、(R・r+G・g+B・b)の値を計算してしまえば、既に計算済みの(R2+G2+B2)の値および(r2+g2+b2)の値と、上記定数を利用することにより、極めて単純な演算になる。
【0133】
<<< §4.本発明に係る移動物体検出装置の構成 >>>
ここでは、本発明に係る移動物体検出装置の構成を、図21のブロック図を参照しながら説明する。この装置は、与えられた動画画像について移動物体を検出する機能をもっており、図示のとおり、画像入力部110、原画像格納部120、平均画像作成部130、平均画像格納部140、画像比較部200、マスク画像格納部310、画像出力部320、パラメータ設定部330によって構成される。
【0134】
画像入力部110は、時系列で連続的に与えられるフレーム単位のカラー原画像Pを、三原色の各画素値を有する画素の集合体データとして入力する構成要素であり、原画像格納部120は、こうして入力された原画像を逐次格納する構成要素である。一方、平均画像作成部130は、過去に入力された複数の原画像Pに基づいて、これら原画像の平均的な特徴を有する平均画像Aを逐次作成する構成要素であり、平均画像格納部140は、作成された平均画像Aを逐次格納する構成要素である。
【0135】
これら各構成要素の具体的な処理機能については、既に§1で述べたとおりである。原画像格納部120や平均画像格納部140は、バッファメモリによって構成することができる。平均画像作成部130が、図3に示す方法で重みwをパラメータとして平均画像を逐次作成し、これを平均画像格納部140に格納してゆくようにすれば、原画像格納部120には、常に処理に必要な最新の原画像のみが格納されるようにし、平均画像格納部140には、常に処理に必要な最新の平均画像Aのみが格納されるようにすればよいので、バッファメモリの容量を節約することができる。
【0136】
画像比較部200は、原画像格納部120に格納された原画像Pと、平均画像格納部140に格納された平均画像Aとを比較し、前景領域Fと背景領域Bとを区別するマスク画像Mを作成する機能を果たす構成要素であり、図示のとおり、画素値読出部210、類否判定部220、画素値書込部230によって構成されている。
【0137】
画素値読出部210は、比較対象となる一対の画像(すなわち、原画像格納部120に格納されている原画像Pと、平均画像格納部140に格納されている平均画像A)のうち、いずれか一方の画像の所定位置の画素の画素値を基準画素値(R,G,B)として読み出し、他方の画像の対応位置の画素の画素値を比較画素値(r,g,b)として読み出す処理を行う。
【0138】
既に述べたとおり、図8に示すモデルを採用する場合は、平均画像Aの画素の画素値を基準画素値(R,G,B)として読み出し、原画像Pの画素の画素値を比較画素値(r,g,b)として読み出すことになる。これに対して、図9に示すモデルを採用する場合は、逆に、原画像Pの画素の画素値を基準画素値(R,G,B)として読み出し、平均画像Aの画素の画素値を比較画素値(r,g,b)として読み出すことになる。既に§2で述べたとおり、実用上は、図9に示すモデルを採用するのが好ましい。
【0139】
類否判定部220は、比較画素値(r,g,b)が、基準画素値(R,G,B)について設定された所定の類似範囲に入っているか否かを判定する処理を行う。具体的には、図10に示すように、三原色の各画素値を各座標軸にとった三次元座標系において、基準画素値(R,G,B)に対応する座標に位置する基準点Q(R,G,B)と比較画素値(r,g,b)に対応する座標に位置する比較点q(r,g,b)をとり、基準点Qを中心とする所定サイズの回転楕円体Eと比較点qとの位置関係を調べ、比較点qが回転楕円体Eもしくはその近似体の外部に位置すると判定できる場合には類似範囲外との判定を行い、内部に位置すると判定できる場合には類似範囲内との判定を行う。このとき、回転楕円体Eのサイズは、パラメータh,kを参照して決定される。
【0140】
そして、画素値書込部230は、マスク画像Mを構成する所定位置(画素値読出部210の読出対象となった位置)の画素の画素値として、類否判定部220の判定結果に応じた値を定め、マスク画像格納部310に書き込む処理を行う。すなわち、類否判定部220が類似範囲内と判定した場合には背景領域Bを示す画素値(たとえば、「0」)を、類否判定部220が類似範囲外と判定した場合には前景領域Fを示す画素値(たとえば、「1」)を、それぞれマスク画像格納部310に書き込む処理を行う。
【0141】
マスク画像格納部310は、こうして作成されたマスク画像Mを格納する構成要素であり、画像出力部320は、このマスク画像Mを出力する構成要素である。
【0142】
一方、パラメータ設定部330は、平均画像作成部130による平均画像作成処理に利用されるパラメータw(図3に示す重みw)と、類否判定部220の類否判定処理に利用されるパラメータh,k(図10に示す長軸半径αおよび短軸半径βを決定するための値)とを、ユーザの操作入力によって任意の値に設定する機能を有する。ユーザは、必要に応じて、これらパラメータw,h,kの値を調整することにより、より精度の高い検出結果を得ることができる。もっとも、これらのパラメータの一部もしくは全部は、固定値にしておくことも可能である。全部のパラメータ値を固定値にする実施例では、パラメータ設定部330を設ける必要はない。
【0143】
なお、実用上、この図21に示す移動物体検出装置は、コンピュータに専用のプログラムを組み込むことにより構築することができ、図21に各ブロックで示す構成要素は、コンピュータのハードウエアとソフトウエアとの組み合わせによって実現することができる。もちろん、この移動物体検出装置を半導体集積回路として構成することも可能である。
【0144】
図22は、図21に示す装置における類否判定部220の詳細構成を示すブロック図である。図示のとおり、この類否判定部220は、基本演算部221、第1の条件判定部222、第2の条件判定部223、第3の条件判定部224、判定値出力部225、パラメータ保持部226によって構成されている。
【0145】
パラメータ保持部226は、パラメータhおよびkの値を保持する構成要素であり、図21に示すパラメータ設定部330を設けた場合には、このパラメータ設定部330によって設定されたパラメータhおよびkの値がパラメータ保持部226に書き込まれることになる。パラメータhおよびkの値を固定にする場合には、当該固定値がパラメータ保持部226に保持される。
【0146】
基本演算部221は、図21に示す画素値読出部210が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
D2=R2+G2+B2 および
d2=r2+g2+b2
なる演算を行い、値D2および値d2を算出する構成要素である。ここで算出された値D2および値d2は、第1の条件判定部222、第2の条件判定部223、第3の条件判定部224における演算で利用される。
【0147】
第1の条件判定部222は、図12に示すように、「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する構成要素である。そのために、基本演算部221が算出した値D2および値d2とパラメータ保持部226に保持されているパラメータhの値とを用いて、
(1−h)2・D2>d2 式(2)
もしくは
(1+h)2・D2<d2 式(3)
という条件を満足するか否かを判定するための演算を行う。そして、「条件満足」との肯定的判定が行われた場合、当該判定結果は、判定値出力部225に報知される。一方、「条件満足せず」との否定的判定が行われた場合、当該判定結果は、第2の条件判定部223に報知される。
【0148】
第2の条件判定部223は、第1の条件判定部222から、「条件満足せず」との否定的判定結果が報知された場合に限り、条件判定処理を実行する構成要素である。ここで行われる処理の目的は、図14に示すように、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの外側に比較点qが位置する」という第2の条件を満足するか否かを判定することにある。ただ、実用上は、演算負担を軽減するために、円錐ξの代わりに円錐ξ′を用いた判定を行うようにするのが好ましい。
【0149】
すなわち、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線を構成する円を交線円Sとしたときに、「原点Oを頂点、基準軸Zを中心軸とし、交線円Sを通る円錐ξ′の外側に比較点qが位置する」という第2の条件を満足するか否かを判定すればよい。このとき、演算負担を更に軽減するために、交線円S上の任意の点と基準点Qとの距離fが短軸半径βに等しいとおいた近似式を用いて近似的な判定を行うようにするのが好ましい。
【0150】
このような近似的な判定を行う場合、第2の条件判定部223は、図21に示す画素値読出部210が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
γ=R・r+G・g+B・b
なる演算を行い、値γを算出し、更に、基本演算部221が算出した値D2および値d2とパラメータ保持部226に保持されているパラメータkの値と、算出した値γとを用いて、
γ2/(D2・d2)<(1−k2/2)2 式(11)
という条件を満足するか否かを判定するための演算を行えばよい。結局、この式(11)の演算式で示される条件は、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの近似体の外側に比較点qが位置する」という条件になる。
【0151】
そして、この第2の条件判定部223において、「条件満足」との肯定的判定が行われた場合、当該判定結果は、判定値出力部225に報知される。一方、「条件満足せず」との否定的判定が行われた場合、当該判定結果は、γの値とともに、第3の条件判定部224に報知される。
【0152】
第3の条件判定部224は、第2の条件判定部223から、「条件満足せず」との否定的判定結果が報知された場合に限り、条件判定処理を実行する構成要素である。ここで行われる処理の目的は、図18に示すように、「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定することにある。そのため、第3の条件判定部224は、基本演算部221が算出した値D2および値d2と、パラメータ保持部226に保持されているパラメータhおよびkの値と、第2の条件判定部223が算出した値γとを用いて、
α2=h2・D2、 β2=k2・D2 式(16)
x2=D2+γ2/D2−2γ 式(17)
y2=d2−γ2/D2 式(18)
なる演算を行い、当該演算結果を用いて、
β2・x2+α2・y2−α2・β2>0 式(15)
という条件を満足するか否かを判定するための演算を行う。
【0153】
そして、この第3の条件判定部224における「条件満足」との肯定的判定結果もしくは「条件満足せず」との否定的判定結果は、判定値出力部225に報知される。
【0154】
判定値出力部225は、第1の条件判定部222、第2の条件判定部223、第3の条件判定部224のいずれかが「条件満足」との肯定的判定を行った場合に、類似範囲外との判定結果を示す判定値(たとえば「1」)を出力し、第1の条件判定部222、第2の条件判定部223、第3の条件判定部224のすべてが「条件満足せず」との否定的判定を行った場合に、類似範囲内との判定結果を示す判定値(たとえば「0」)を出力する。これらの判定値は、図21に示すように、画素値書込部230によって、マスク画像格納部310内のマスク画像Mの画素値として書き込まれる。
【0155】
既に述べたとおり、上記条件判定式には、加減乗除演算のみしか含まれていないため、一般的な幾何学演算に必要とされる開平演算や三角関数演算を行う必要はない。したがって、演算装置の負担は比較的軽いものになり、類似判定部220を安価なプロセッサを用いて構成した場合でも、リアルタイム処理が可能になる。
【0156】
<<< §5.変形例 >>>
以上、本発明を基本的な実施形態に基づいて説明したが、最後に、本発明の変形例をいくつか述べておく。
【0157】
まず、これまで述べた条件判定式には、「不等号>」や「不等号<」を含む演算式が含まれているが、これらの演算式の一部もしくは全部について、「不等号>」の代わりに「不等号≧」を用いた演算式、もしくは「不等号<」の代わりに「不等号≦」を用いた演算式を用いてもかまわない。すなわち、各条件判定式は、比較点qが何らかの図形の内側領域にあるか外側領域にあるかを示すものであるが、当該図形の境界面上の点は、当該図形の内側領域に含ませても、外側領域に含ませてもかまわない。
【0158】
また、これまで述べた実施形態では、三原色を示す符号として、便宜上、(R,G,B)もしくは(r,g,b)という符号を用いているが、これらの符号は、必ずしも(赤,緑,青)なる三原色を意味するものではない。一般的には、ビデオカメラで撮影した画像は、(赤,緑,青)なる三原色の各画素値をもった画素の集合からなるデータとして与えられるが、本発明は、(赤,緑,青)なる三原色を用いた表色系に限定されるものではなく、他の色からなる三原色を用いた別な表色系にも適用可能である。その場合、各演算式に用いられている(R,G,B)もしくは(r,g,b)という符号は、当該別な表色系の三原色の画素値を示すことになる。
【符号の説明】
【0159】
110:画像入力部
120:原画像格納部
130:平均画像作成部
140:平均画像格納部
200:画像比較部
210:画素値読出部
220:類否判定部
221:基本演算部
222:第1の条件判定部
223:第2の条件判定部
224:第3の条件判定部
225:判定値出力部
226:パラメータ保持部
230:画素値書込部
310:マスク画像格納部
320:画像出力部
330:パラメータ設定部
A(1)〜A(i):平均画像(背景画像)
A,A(Ra,Ga,Ba):平均画像の画素値を示す座標点
a:三角形の一辺
a(i−1),a(i):平均画像を構成する1つの画素の画素値
B:背景領域/三原色の画素値(基準画素値)
b:三原色の画素値(比較画素値)/三角形の一辺
C:円柱モデルの円柱
C1,C2:球
C3:球面
c:三角形の一辺
D:原点Oと基準点Qとの距離
d:原点Oと比較点qとの距離
E,Ea,Ep:回転楕円体
E1:回転楕円体Eの最近接点
E2:回転楕円体Eの最遠隔点
F:前景領域
f:交線円S上の任意の点と基準点Qとの距離
G:三原色の画素値(基準画素値)
g:三原色の画素値(比較画素値)
h:回転楕円体Eの長軸半径αを定めるパラメータ
k:回転楕円体Eの短軸半径βを定めるパラメータ
L:円柱Cの長さ
La1:回転楕円体Eaの長軸方向の長さ
La2:回転楕円体Eaの短軸方向の長さ
Lp1:回転楕円体Epの長軸方向の長さ
Lp2:回転楕円体Epの短軸方向の長さ
M:マスク画像
M(1)〜M(i),M(i+1),M10〜M40:マスク画像
m(i):マスク画像を構成する1つの画素の画素値
O:三次元色空間を構成するRGB座標系の原点
P:原画像/原画像の画素値を示す座標点
P(1)〜P(i),P(i+1),P10〜P40:原画像(入力画像)
P(Rp,Gp,Bp):原画像の画素値を示す座標点
p(i):原画像を構成する1つの画素の画素値
Q:基準点(画素値(R,G,B)をもった座標点)
q:比較点(画素値(r,g,b)をもった座標点)
R:三原色の画素値(基準画素値)
r:三原色の画素値(比較画素値)
S:交線円(球面C3と回転楕円体Eとの交線)
S11〜S20:流れ図の各ステップ
T:接線円(円錐ξと回転楕円体Eとの接線)
t:基準点Qと比較点qとの距離
V:基準画素値を示すベクトル
Va:平均画像の画素値を示すベクトル
Vp:原画像の画素値を示すベクトル
w:重みを示すパラメータ
X:座標軸
x:楕円方程式の変数
Y:座標軸
y:楕円方程式の変数
Z,Za,Zp:基準軸
α:回転楕円体Eの長軸半径
β:回転楕円体Eの短軸半径
γ:演算値
δ:座標点間の距離
θ:角度
ξ,ξ′:円錐
φ,φ′:円錐の半頂角
【技術分野】
【0001】
本発明は、カラーの動画画像に基づいて、画像内の移動物体を検出する移動物体検出装置およびこれに利用する画素の類否判定方法に関する。
【背景技術】
【0002】
ビデオカメラを用いた監視システムなどでは、監視領域内に存在する移動物体を自動的に検出する技術が重要になってきている。移動物体の自動検出が可能になれば、当該物体が車両であるのか、人間であるのか、といった識別を行う処理に利用することができる。更に、車両の場合であれば、ナンバーを読み取って車両を特定することができ、人間の場合であれば、個人を特定する処理にも応用することができる。また、検出した不審者を自動的にズームアップして追尾することも可能になる。
【0003】
移動物体を検出する基本原理は、時系列で連続的に与えられるフレーム単位の入力画像を予め用意した背景画像と比較し、両者の差分を求めることにより、時間的に変化している領域を認識することにある。ただ、屋外の監視システムなどに利用する場合、時刻や天候などによる照明変動が生じるため、必ずしも正確な物体検出を行うことができない。そこで、たとえば、下記の特許文献1には、フレーム単位の入力画像を小領域に分割し、各小領域単位で画素値の統計処理を施して照明変動を推定する手法が開示されている。また、下記の特許文献2には、フレーム単位の入力画像をブロックに分割し、個々のブロックごとに画素値の平均値を求め、背景画像の画素値平均と比較することにより、当該ブロックが移動物体を含むか否かを判定する手法が開示されている。
【0004】
一方、下記の非特許文献1には、入力画像と背景画像とを画素単位で比較して、当該画素が移動物体を構成する画素であるか否かを判定する手法が開示されている。具体的には、比較対象となる両画素の画素値が類似している場合、当該画素は背景を構成する画素であるとし、類似していない場合、当該画素は移動物体を構成する画素であるとする判定が行われる。このとき、画素の類否判定は、三次元の色空間上で、双方の画素値に対応する座標点をプロットし、一方の座標点が他方の座標点の近傍領域に入っているか否かを調べることにより行われる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平7−302328号公報
【特許文献2】特開2009−048240号公報
【非特許文献】
【0006】
【非特許文献1】Kim K, Chalidabhongse T H, Harwood D, Davis L S. "Background Modeling and Subtraction by Codebook Construction" Proceedings of International Conference on Image Processing, Singapore. IEEE, 2004. 5: 3061-3064
【発明の概要】
【発明が解決しようとする課題】
【0007】
上述した特許文献1,2に開示されている手法では、入力画像に対して、小領域もしくはブロック単位で画素値のヒストグラムをとるなどの統計処理を施し、当該統計処理によって得られた特徴量を複雑なモデルに当てはめて移動物体の領域を推定する必要があるため、演算処理が極めて複雑になるという問題がある。このため、一般的なプロセッサでは処理時間が長くかかり、リアルタイムでの処理を行うことが困難である。また、より正確な検出を行うためには、多数のフレームにわたって入力画像を格納しておく必要があり、大容量の画像バッファメモリが必要になる。このため、リアルタイムでの監視を目的とした安価な監視システムに利用するには不適当である。
【0008】
一方、上述した非特許文献1に開示されている手法では、画素単位での比較を行えばよいので、複雑な統計処理を行ったり、複雑なモデルを構築したりする必要はない。しかしながら、画素の類否判定を行うためには、三次元の色空間上での幾何学演算が必要になり、安価なプロセッサを用いてリアルタイムの処理を行うには、依然として演算処理の負担が重い。特に、三角関数を含む演算は、安価な汎用プロセッサにとって極めて負担の重い処理になる。また、領域単位での統計処理を省き、画素単位での比較結果のみによって検出を行うため、時刻や天候などによる照明変動の影響を受けやすく、誤検出が生じやすいという問題もある。
【0009】
そこで本発明は、演算処理の負担を軽減しつつ、より正確な検出を行うことが可能な移動物体検出装置を提供することを目的とする。また、そのような移動物体検出装置に利用可能な画素の類否判定方法を提供することを目的とする。
【課題を解決するための手段】
【0010】
(1) 本発明の第1の態様は、動画画像について移動物体を検出する移動物体検出装置において、
時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力部と、
入力された原画像を逐次格納する原画像格納部と、
過去に入力された複数の原画像に基づいて、これら原画像の平均的な特徴を有する平均画像を逐次作成する平均画像作成部と、
作成された平均画像を逐次格納する平均画像格納部と、
原画像格納部に格納された原画像と、平均画像格納部に格納された平均画像とを比較し、前景領域と背景領域とを区別するマスク画像を作成する画像比較部と、
マスク画像を格納するマスク画像格納部と、
マスク画像を出力する画像出力部と、
を設け、
画像比較部を、
比較対象となる一方の画像の所定位置の画素の画素値を基準画素値として読み出し、比較対象となる他方の画像の所定位置の画素の画素値を比較画素値として読み出す画素値読出部と、
比較画素値が、基準画素値について設定された所定の類似範囲に入っているか否かを判定する類否判定部と、
マスク画像を構成する所定位置の画素の画素値として、類否判定部が類似範囲内と判定した場合には背景領域を示す画素値を、類否判定部が類似範囲外と判定した場合には前景領域を示す画素値を、それぞれマスク画像格納部に書き込む画素値書込部と、
によって構成し、
類否判定部が、三原色の各画素値を各座標軸にとった三次元座標系において、基準画素値に対応する座標に位置する基準点Qと比較画素値に対応する座標に位置する比較点qをとり、基準点Qを中心とする所定サイズの回転楕円体Eと比較点qとの位置関係を調べ、比較点qが回転楕円体Eもしくはその近似体の外部に位置すると判定できる場合には類似範囲外との判定を行い、内部に位置すると判定できる場合には類似範囲内との判定を行うようにしたものである。
【0011】
(2) 本発明の第2の態様は、上述の第1の態様に係る移動物体検出装置において、
平均画像作成部が、
第i番目の原画像P(i)が入力されたときに(i=1,2,...)、当該原画像P(i)を含めた過去の原画像について、それぞれ対応する位置の画素の各色別の画素値の重みづけ平均値を算出し、当該平均値をもつ画素の集合体からなる第i番目の平均画像A(i)を作成し、
画像比較部が、第(i+1)番目の原画像P(i+1)が入力されたときに、当該原画像P(i+1)と、第i番目の平均画像A(i)とを比較し、第(i+1)番目のマスク画像M(i+1)を作成するようにしたものである。
【0012】
(3) 本発明の第3の態様は、上述の第2の態様に係る移動物体検出装置において、
平均画像作成部が、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)として平均画像格納部へ格納する処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
当該所定位置の画素の当該所定色の画素値、
p(i)は、原画像P(i)の
当該所定位置の画素の当該所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成するようにしたものである。
【0013】
(4) 本発明の第4の態様は、上述の第1〜第3の態様に係る移動物体検出装置において、
類否判定部が、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、基準軸Zを中心に回転させることにより回転楕円体Eを定義するようにしたものである。
【0014】
(5) 本発明の第5の態様は、上述の第4の態様に係る移動物体検出装置において、
類否判定部を、
「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する第1の条件判定部と、
第1の条件判定部が否定的判定を行った場合に「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξもしくはその近似体の外側に比較点qが位置する」という第2の条件を満足するか否かを判定する第2の条件判定部と、
第2の条件判定部が否定的判定を行った場合に「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定する第3の条件判定部と、
第1の条件判定部、第2の条件判定部、第3の条件判定部のいずれかが肯定的判定を行った場合に、類似範囲外との判定結果を示す判定値を出力し、第1の条件判定部、第2の条件判定部、第3の条件判定部のすべてが否定的判定を行った場合に、類似範囲内との判定結果を示す判定値を出力する判定値出力部と、
によって構成するようにしたものである。
【0015】
(6) 本発明の第6の態様は、上述の第5の態様に係る移動物体検出装置において、
原点Oと基準点Qとの距離をD、原点Oと比較点qとの距離をdとしたときに、
第1の条件判定部が、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行うようにしたものである。
【0016】
(7) 本発明の第7の態様は、上述の第5の態様に係る移動物体検出装置において、
第2の条件判定部が、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線を構成する円を交線円Sとしたときに、「原点Oを頂点、基準軸Zを中心軸とし、交線円Sを通る円錐ξ′の外側に比較点qが位置する」という第2の条件を満足するか否かを判定するようにしたものである。
【0017】
(8) 本発明の第8の態様は、上述の第7の態様に係る移動物体検出装置において、
第2の条件判定部が、交線円S上の任意の点と基準点Qとの距離fが短軸半径βに等しいとおいた近似式を用いて近似的な判定を行うようにしたものである。
【0018】
(9) 本発明の第9の態様は、上述の第8の態様に係る移動物体検出装置において、
基準点Qの座標を示す基準画素値を(R,G,B)、比較点qの座標を示す比較画素値を(r,g,b)、原点Oと基準点Qとの距離をD、原点Oと比較点qとの距離をdとしたときに、
第2の条件判定部が、
γ=(R・r+G・g+B・b)
として、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行うようにしたものである。
【0019】
(10) 本発明の第10の態様は、上述の第5の態様に係る移動物体検出装置において、
基準点Qの座標を示す基準画素値を(R,G,B)、比較点qの座標を示す比較画素値を(r,g,b)、原点Oと基準点Qとの距離をD、原点Oと比較点qとの距離をdとしたときに、
第3の条件判定部が、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
γ=(R・r+G・g+B・b)
として、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行うようにしたものである。
【0020】
(11) 本発明の第11の態様は、上述の第4の態様に係る移動物体検出装置において、
類否判定部を、
パラメータhおよびkの値を保持するパラメータ保持部と、
画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
D2=R2+G2+B2 および
d2=r2+g2+b2
なる演算を行い、値D2および値d2を算出する基本演算部と、
基本演算部が算出した値D2および値d2とパラメータ保持部に保持されているパラメータhの値とを用いて、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行う第1の条件判定部と、
第1の条件判定部が否定的判定を行った場合に、画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
γ=R・r+G・g+B・b
なる演算を行い、値γを算出し、基本演算部が算出した値D2および値d2とパラメータ保持部に保持されているパラメータkの値と値γとを用いて、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行う第2の条件判定部と、
第2の条件判定部が否定的判定を行った場合に、基本演算部が算出した値D2および値d2とパラメータ保持部に保持されているパラメータhおよびkの値と第2の条件判定部が算出した値γとを用いて、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
なる演算を行い、当該演算結果を用いて、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行う第3の条件判定部と、
第1の条件判定部、第2の条件判定部、第3の条件判定部のいずれかが肯定的判定を行った場合に、類似範囲外との判定結果を示す判定値を出力し、第1の条件判定部、第2の条件判定部、第3の条件判定部のすべてが否定的判定を行った場合に、類似範囲内との判定結果を示す判定値を出力する判定値出力部と、
によって構成するようにしたものである。
【0021】
(12) 本発明の第12の態様は、上述の第6,第9〜第11の態様に係る移動物体検出装置において、
不等号を含む演算式の一部もしくは全部について、「不等号>」の代わりに「不等号≧」を用いた演算式、もしくは「不等号<」の代わりに「不等号≦」を用いた演算式を用いるようにしたものである。
【0022】
(13) 本発明の第13の態様は、上述の第3〜第12の態様に係る移動物体検出装置において、
パラメータ「w」もしくは「hおよびk」またはこれら全てを、ユーザの操作入力によって任意の値に設定するパラメータ設定部を更に設けるようにしたものである。
【0023】
(14) 本発明の第14の態様は、上述の第3〜第13の態様に係る移動物体検出装置において、
画素値読出部が、原画像の画素の画素値を基準画素値として読み出し、平均画像の画素の画素値を比較画素値として読み出すようにしたものである。
【0024】
(15) 本発明の第15の態様は、上述の第1〜第14の態様に係る移動物体検出装置を、コンピュータにプログラムを組み込むことにより構成したものである。
【0025】
(16) 本発明の第16の態様は、上述の第1〜第14の態様に係る移動物体検出装置を、半導体集積回路により構成したものである。
【0026】
(17) 本発明の第17の態様は、三原色の各画素値(R,G,B)を有する第1のカラー画素と、三原色の各画素値(r,g,b)を有する第2のカラー画素と、の類否判定を行う画素の類否判定方法において、
コンピュータが、画素値(R,G,B)および(r,g,b)の値を取り込む準備段階と、
コンピュータが、三原色の各画素値を各座標軸にとった三次元座標系において、画素値(R,G,B)に対応する座標をもつ基準点Qを中心とする所定サイズの回転楕円体Eもしくはその近似体と、画素値(r,g,b)に対応する座標をもつ比較点qとについて、後者が前者の内部にあるか外部にあるかを調べる位置関係判定段階と、
コンピュータが、回転楕円体Eもしくはその近似体の外部に比較点qがあると判断した場合には、第1のカラー画素と第2のカラー画素とが非類似との判定結果を出力し、回転楕円体Eもしくはその近似体の内部に比較点qがあると判断した場合には、第1のカラー画素と第2のカラー画素とが類似するとの判定結果を出力する判定結果出力段階と、
を行うようにしたものである。
【0027】
(18) 本発明の第18の態様は、上述の第17の態様に係る画素の類否判定方法において、
位置関係判定段階では、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、基準軸Zを中心に回転させることにより得られる回転楕円体Eを定義するようにしたものである。
【0028】
(19) 本発明の第19の態様は、上述の第18の態様に係る画素の類否判定方法において、
位置関係判定段階を、
「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する第1の条件判定段階と、
第1の条件判定段階において否定的判定がなされた場合に、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξもしくはその近似体の外側に比較点qが位置する」という第2の条件を満足するか否かを判定する第2の条件判定段階と、
第2の条件判定段階において否定的判定がなされた場合に、「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定する第3の条件判定段階と、
によって構成し、
判定結果出力段階では、第1の条件判定段階、第2の条件判定段階、第3の条件判定段階のいずれかにおいて肯定的判定がなされた場合には、第1のカラー画素と第2のカラー画素とが非類似との判定結果を出力し、第1の条件判定段階、第2の条件判定段階、第3の条件判定段階のすべてにおいて否定的判定がなされた場合には、第1のカラー画素と第2のカラー画素とが類似するとの判定結果を出力するようにしたものである。
【0029】
(20) 本発明の第20の態様は、上述の第19の態様に係る画素の類否判定方法において、
第1の条件判定段階で、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
としたときに、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行うようにしたものである。
【0030】
(21) 本発明の第21の態様は、上述の第19の態様に係る画素の類否判定方法において、
第2の条件判定段階で、
D2=(R2+G2+B2)
d2=(r2+g2+b2)、
γ=(R・r+G・g+B・b)
としたときに、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行うようにしたものである。
【0031】
(22) 本発明の第22の態様は、上述の第19の態様に係る画素の類否判定方法において、
第3の条件判定段階で、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
D2=(R2+G2+B2)
d2=(r2+g2+b2)
γ=(R・r+G・g+B・b)
としたときに、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行うようにしたものである。
【0032】
(23) 本発明の第23の態様は、三原色の各画素値(R,G,B)を有する第1のカラー画素と、三原色の各画素値(r,g,b)を有する第2のカラー画素と、の類否判定を行う画素の類否判定方法において、
コンピュータが、パラメータh(h<1)およびk(k<h)、画素値(R,G,B)および(r,g,b)の値を取り込む準備段階と、
コンピュータが、
(1−h)2・(R2+G2+B2)>(r2+g2+b2) もしくは
(1+h)2・(R2+G2+B2)<(r2+g2+b2)
という条件を満足するか否かを判定する第1の条件判定段階と、
第1の条件判定段階において否定的判定がなされた場合に、コンピュータが、
(R・r+G・g+B・b)2/
((R2+G2+B2)・(r2+g2+b2))
<(1−k2/2)2
という条件を満足するか否かを判定する第2の条件判定段階と、
第2の条件判定段階において否定的判定がなされた場合に、コンピュータが、
β2・x2+α2・y2−α2・β2>0
但し、α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
D2=(R2+G2+B2)
d2=(r2+g2+b2)
γ=(R・r+G・g+B・b)
という条件を満足するか否かを判定する第3の条件判定段階と、
コンピュータが、第1の条件判定段階、第2の条件判定段階、第3の条件判定段階のいずれかにおいて肯定的判定がなされた場合には、第1のカラー画素と第2のカラー画素とが非類似との判定結果を出力し、第1の条件判定段階、第2の条件判定段階、第3の条件判定段階のすべてにおいて否定的判定がなされた場合には、第1のカラー画素と第2のカラー画素とが類似するとの判定結果を出力する判定結果出力段階と、
を行うようにしたものである。
【0033】
(24) 本発明の第24の態様は、上述の第20〜第23の態様に係る画素の類否判定方法において、
不等号を含む演算式の一部もしくは全部について、「不等号>」の代わりに「不等号≧」を用いた演算式、もしくは「不等号<」の代わりに「不等号≦」を用いた演算式を用いるようにしたものである。
【発明の効果】
【0034】
本発明に係る画素の類否判定方法によれば、三次元色空間上において、一方の画素値をプロットした座標点を中心とする回転楕円体内に、他方の画素値をプロットした座標点が入るか否かに基づいて、比較対象となるカラー画素の類否判定を行うようにしたため、演算処理の負担を軽減しつつ、移動物体の検出を行うのに適した類否判定を行うことが可能になる。また、本発明に係る移動物体検出装置では、上述した画素の類否判定方法を採り入れた検出手法を採用したため、演算処理の負担を軽減しつつ、移動物体の検出をより正確に行うことが可能になる。
【図面の簡単な説明】
【0035】
【図1】動画画像についての移動物体の検出例を示す平面図である。
【図2】本発明における移動物体検出の基本原理を示す図である。
【図3】本発明において背景を示す画像として用いられる平均画像の作成方法の一例を示す図である。
【図4】図3に示す方法に基づいて作成される平均画像上の1画素の画素値変遷プロセスを示す図である。
【図5】本発明におけるマスク画像の画素値決定プロセスを示す図である。
【図6】画素の類否判定方法の従来例を示す三次元色空間図である。
【図7】画素の類否判定方法の別な従来例を示す三次元色空間図である。
【図8】本発明に係る移動物体検出に利用するための画素の類否判定方法の第1の適用例を示す三次元色空間図である。
【図9】本発明に係る移動物体検出に利用するための画素の類否判定方法の第2の適用例を示す三次元色空間図である。
【図10】本発明に係る画素の類否判定方法を示す三次元色空間図である。
【図11】従来の円柱モデルに対する本発明の回転楕円体モデルの利点を示す断面図である。
【図12】回転楕円体モデルを用いた場合の第1の条件判定原理を示す断面図である。
【図13】図12に示す第1の条件判定原理に基づく判定式を示す図である。
【図14】回転楕円体モデルを用いた場合の第2の条件判定原理を示す断面図である。
【図15】図14に示す第2の条件判定原理に基づく判定式を導く第1のプロセスを示す図である。
【図16】図14に示す第2の条件判定原理に基づく判定式を導く第2のプロセスを示す図である。
【図17】図14に示す第2の条件判定原理に基づく判定式を示す図である。
【図18】回転楕円体モデルを用いた場合の第3の条件判定原理を示す断面図である。
【図19】図18に示す第3の条件判定原理に基づく判定式を示す図である。
【図20】本発明に係る画素の類否判定方法の実用的な手順を示す流れ図である。
【図21】本発明に係る移動物体検出装置の基本構成を示すブロック図である。
【図22】図21に示す装置における類否判定部220の詳細構成を示すブロック図である。
【発明を実施するための形態】
【0036】
以下、本発明を図示する実施形態に基づいて説明する。
【0037】
<<< §1.移動物体検出の基本原理 >>>
はじめに、本発明に係る移動物体検出の基本原理を説明する。この基本原理は、動画画像について移動物体を検出するためのものであり、三原色の各画素値を有する画素の集合体として、時系列で連続的にフレーム単位のカラー画像が与えられることを前提としている。
【0038】
たとえば、図1の左側に示すように、フレーム単位の画像P10,P20,P30,P40がこの順番で与えられたものとしよう。図示の例は、街頭に設置された定点ビデオカメラによる撮影画像を示すものであり、右から左へと1台の車両(移動物体)が通過する状態が示されている。なお、一般的なビデオカメラの場合、1秒間に30フレーム程度の周期で連続して撮影画像が出力されるので、実際には、より細かな時間間隔で多数のフレーム画像が得られることになるが、ここでは、説明の便宜上、図示のとおり、4枚のフレーム画像P10,P20,P30,P40が順番に与えられたものとしよう。
【0039】
これら4枚の画像を見ると、画像P10は街の背景のみであるが、画像P20では、右側に車両の一部が侵入したため、背景上に車両の一部が重なった画像になっている。同様に、画像P30,P40も、背景上に車両が重なった画像になっている。背景は静止しているため、画像P10〜P40について共通になるが、車両は移動物体であるため、画像P10〜P40では異なる。ここでは、各画像上において、背景を構成する領域を背景領域B、車両(移動物体)を構成する領域を前景領域Fと呼ぶことにする。
【0040】
本発明における移動物体検出の目的は、与えられた各画像P10〜P40について、それぞれ背景領域Bと前景領域Fとを区別することにある。図1の右側に示す各画像M10〜M40は、それぞれ左側に示す各画像P10〜P40について、背景領域Bと前景領域Fとの区別を示す画像である。図にハッチングを施した領域が背景領域Bであり、白地の領域が前景領域Fである。いずれの領域かを識別できればよいので、これらの画像M10〜M40は、二値画像として与えられる。たとえば、背景領域Bに所属する画素には画素値「0」を与え、前景領域Fに所属する画素には画素値「1」を与えることにすれば、画像M10〜M40は、1ビットの画素値をもった画素の集合体からなる画像データとして用意することができる。
【0041】
本発明によれば、与えられた個々のフレーム画像のそれぞれについて、対応する二値画像を作成することができる。結局、本発明に係る移動物体検出処理の本質は、時系列で連続的に与えられた個々のカラー画像について、それぞれ背景領域Bと前景領域Fとの区別を示す二値画像を作成する処理ということができる。そこで、以下、便宜上、時系列で連続的に与えられるカラー画像を「原画像」と呼び、この「原画像」に基づいて作成される二値画像を「マスク画像」と呼ぶことにする。
【0042】
図1に示す例では、各原画像P10〜P40のそれぞれについて、マスク画像M10〜M40が作成された例が示されている。これらマスク画像を利用すれば、原画像上のどの領域が移動物体であるかを認識できるので、移動物体の形状やサイズを把握したり、移動物体の部分をズームアップして、車両のナンバーを確認したり、人物を特定したりする処理を行うことが可能になる。また、画面上で移動物体をズームアップしたまま追跡したり、移動経路を把握したりすることも可能になる。
【0043】
もちろん、このようなマスク画像の作成を、1枚の原画像のみから行うことは困難である。たとえば、図示の原画像P20のみが静止画像として与えられた場合、人間の脳は様々な情報から車両の存在を認識することができるが、この1枚の静止画像のみから、コンピュータに車両の存在を認識させるには、複雑なアルゴリズムに基づく処理が必要となる。そこで、一般的な移動物体検出アルゴリズムでは、既に述べたとおり、入力画像と背景画像との差を求めることにより、当該差の領域を移動物体の領域(前景領域F)と判断する手法が採られる。
【0044】
たとえば、予め原画像P10を背景画像として指定しておけば、原画像P20が入力された時点で両者を比較することにより、差の領域を前景領域Fと認識し、図示のようなマスク画像M20を作成することが可能になる。差の領域の認識手法としては、前述したとおり、小領域単位で画素値の統計処理を施す方法も知られているが、入力画像と背景画像とを画素単位で比較して、両画素の画素値が類似している場合、当該画素は背景領域Bを構成する画素であるとし、類似していない場合、当該画素は移動物体を構成する前景領域Fを構成する画素であるとする方法が最も簡便な方法である。本発明も、このような画素単位での比較手法を採用することを前提としている。
【0045】
背景画像としては、予め移動物体が存在しない状態(たとえば、画像P10に示す状態)で撮影した静止画像を利用することも可能であるが、天候や時刻などの要因により、照明環境は時々刻々と変化してゆくものであり、ある特定の時点で撮影した静止画像をそのまま背景画像として継続して利用するのは不適切である。そこで、通常は、過去に入力された複数の原画像に基づいて、これら原画像の平均的な特徴を有する平均画像を作成し、この平均画像を背景画像として利用する手法が採られる。本発明でも、このような手法で得られた平均画像を、背景画像として利用している。平均画像は新たな画像が入力されるたびに逐次更新されるので、常に、その時点で最適な背景画像として機能する。
【0046】
図2は、本発明における移動物体検出の基本原理を示す図である。ここで、図の上段に示す画像P(1),P(2),... ,P(i−2),P(i−1),P(i)は、時系列で連続的に与えられるフレーム単位の原画像であり、これまでに第1番目の原画像P(1)から第i番目の原画像P(i)まで、iフレーム分の画像が与えられた状態が示されている。一方、図の中段左に示す画像P(i+1)は、新たに与えられた第(i+1)番目の原画像であり、図の中段右に示す画像A(i)は、図の上段に示す過去に与えられたiフレーム分の原画像P(1)〜P(i)の平均的な特徴を有する平均画像である。
【0047】
新たに入力された原画像P(i+1)についてのマスク画像M(i+1)は、当該原画像P(i+1)と平均画像A(i)とを比較することによって作成される。図2の下段は、このようにして作成されたマスク画像M(i+1)を示すものである。具体的には、原画像P(i+1)上の各画素の画素値を、平均画像A(i)上の対応する画素の画素値と比較し、類似範囲内と判定された画素については背景領域Bを示す画素値(たとえば、「0」)を与え、類似範囲外と判定された画素については前景領域Fを示す画素値(たとえば、「1」)を与えることにより、二値画像からなるマスク画像M(i+1)を作成すればよい。
【0048】
続いて、第(i+2)番目の原画像P(i+2)が入力されたときには、過去に入力された第(i+1)番目の原画像P(i+1)までの平均的な特徴を有する平均画像A(i+1)が新たに作成され、原画像P(i+2)と平均画像A(i+1)とを比較することにより、マスク画像M(i+2)が作成される。このように、平均画像は逐次更新されてゆくため、天候や時刻などの要因により、照明環境が変化した場合でも、各時点に適した背景画像としての機能を果たすことができる。
【0049】
なお、平均画像を作成する際には、時系列に沿った重みづけを行うようにし、最新の原画像の情報に重みをおいた加重平均を求めるようにするのが好ましい。たとえば、過去10分間に入力された原画像について重み1、それ以前に入力された原画像について重み0を与えて平均を求めれば、常に、最新10分間に得られた原画像についての平均画像を得ることができ、照明環境が変化した場合にも対応することができる。もちろん、常に最新の原画像ほど重みづけが大きくなるように、重みづけをきめ細かく設定することもできる。
【0050】
結局、この図2に示す例の場合、平均画像を作成する際には、第i番目の原画像P(i)が入力されたときに(i=1,2,...)、当該原画像P(i)を含めた過去の原画像について、それぞれ対応する位置の画素の各色別の画素値の重みづけ平均値を算出し、当該平均値をもつ画素の集合体からなる第i番目の平均画像A(i)を作成すればよい。そして、第(i+1)番目の原画像P(i+1)について、第(i+1)番目のマスク画像M(i+1)を作成する際には、原画像P(i+1)と、第i番目の平均画像A(i)とを比較すればよい。
【0051】
ただ、1秒間に30フレームという一般的なフレームレートで動画画像が入力された場合、過去10分間の原画像であっても、その画像データをすべて蓄積しておくには、画像データのバッファにかなりの記憶容量が必要になる。そこで、実用上は、第i番目の原画像P(i)が与えられたときに、第(i−1)番目の平均画像A(i−1)と、当該第i番目の原画像P(i)との2枚の画像に基づいて、第i番目の平均画像A(i)を作成する手法が採られる。図3は、このような手法に基づく平均画像の作成方法の一例を示す図である。
【0052】
まず、最初の原画像P(1)が与えられたときには、当該原画像P(1)をそのまま最初の平均画像A(1)とする処理を行う。そして、以後、図3の上段右に示す第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、図3の上段左に示す第(i−1)番目の平均画像A(i−1)を利用して、図3の中段に示す第i番目の平均画像A(i)を、図3の下段に示す
a(i)=(1−w)・a(i−1)+w・p(i) 式(1)
なる演算式を用いて作成すればよい。ここで、a(i)は、平均画像A(i)の所定位置の画素の所定色の画素値、a(i−1)は、平均画像A(i−1)の前記所定位置の画素の前記所定色の画素値、p(i)は、原画像P(i)の前記所定位置の画素の前記所定色の画素値、wは、所定の重みを示すパラメータ(w<1)である。
【0053】
要するに、直前に与えられた原画像P(i−1)までの原画像について算出された第(i−1)番目の平均画像A(i−1)の画素値a(i−1)と、新たに与えられた第i番目の原画像P(i)の画素値p(i)とについて、重みwを考慮した平均値が算出され、当該算出値を第i番目の平均画像A(i)の画素値a(i)とする処理が行われることになる。このように、新たな原画像P(i)が入力されるたびに、平均画像A(i)を更新してゆき、しかも更新には直前の平均画像A(i−1)のみを用いるようにすれば、過去の原画像データを何フレーム分にもわたって蓄積保持しておく必要がないので、処理を行うために必要なバッファの容量を大幅に節約することができる。
【0054】
図3に示すとおり、重みwの値を大きくすればするほど、最新の原画像P(i)の画素値が平均画像A(i)の画素値に大きな影響を与えることになる。図4は、図3に示す方法に基づいて作成される平均画像上の1画素の画素値変遷プロセスを示す図である。この例では、重みw=0.01に設定した具体例が示されている。
【0055】
たとえば、第1番目(i=1)の原画像P(1)の特定位置の画素の画素値がp(1)=100であったとすると、第1番目の平均画像A(1)の当該特定位置の画素の画素値a(1)は、そのままa(1)=100となる。続いて、第2番目の原画像P(2)の当該特定位置の画素の画素値がp(2)=100であったとすると、第2番目の平均画像A(2)の当該特定位置の画素の画素値a(2)は、a(1)とp(2)との重みつき平均「0.99×100+0.01×100」を計算することにより、a(2)=100になる。
【0056】
図示の例では、原画像の当該特定位置の画素値は、p(1)〜p(4)まで100のまま変化しないため、平均画像の当該特定位置の画素値も、a(1)〜a(4)まで100を維持する。ところが、第5番目の原画像P(5)では、画素値p(5)=200に急変したため、第5番目の平均画像A(5)の画素値a(5)は、図4の下段の式に示すとおり、a(4)とp(5)との重みつき平均「0.99×100+0.01×200」を計算することにより、a(5)=101になる。更に、第6番目の原画像P(6)および第7番目の原画像P(7)では、画素値p(6)=p(7)=200が維持されているため、図4の下段の式に示すとおり、第6番目の平均画像A(6)および第7番目の平均画像A(7)では、画素値a(6)=102、画素値a(7)=103、と徐々に増加している。
【0057】
この例のように、重みwを0.01程度の値に設定すると、原画像の画素値が急激に変化しても、平均画像の画素値は直ちに変化することはなく、原画像の画素値にゆっくりと近づいてゆくことになる。したがって、図1に示す例のように、車両が通過する動画が与えられたとしても、一過性の画素値変化は、平均画像の画素値に大きな変化をもたらすことはなく、平均画像は背景画像としての機能を果たすことができる。一方、時刻が日中から夕暮れに変わった場合など、照明環境に変化が生じた場合、当該変化は多数のフレーム画像にわたって持続するため、平均画像の画素値も当該変化に追従して変化することになる。したがって、日中には日中の背景画像に適した平均画像が得られ、夕暮れには夕暮れの背景画像に適した平均画像が得られることになる。
【0058】
本発明におけるマスク画像は、このような方法で作成された平均画像を背景画像として、個々の原画像を比較することによって作成される。図5は、このようにして作成されるマスク画像の画素値決定プロセスを示す図である。第i番目の原画像P(i)についてのマスク画像M(i)は、次のような方法で決定される画素値をもつ画素の集合体からなる二値画像である。すなわち、マスク画像M(i)の特定位置の画素の画素値m(i)は、原画像P(i)の当該特定位置の画素の画素値p(i)と、平均画像A(i−1)の当該特定位置の画素の画素値a(i−1)との比較によって決定され、両画素値が類似範囲内であれば、背景領域B内の画素であることを示す画素値(たとえば、「0」)が与えられ、両画素値が類似範囲外であれば、前景領域F内の画素であることを示す画素値(たとえば、「1」)が与えられる。
【0059】
なお、実際には、原画像は三原色の各画素値(たとえば、RGB表色系の場合、R,G,Bの3色の画素値)をもったカラー画像であるので、原画像P(i)を構成する各画素の画素値p(i)や、平均画像A(i)を構成する各画素の画素値a(i)は、いずれも色ごとに独立した3つの値から構成されていることになる。そして、式(1)の演算は、個々の色ごとにそれぞれ独立して実行されることになる。たとえば、平均画像A(i)上の特定位置の画素の画素値a(i)は、R色の画素値、G色の画素値、B色の画素値という3組の画素値によって構成され、R色の画素値は、過去の原画像のR色の画素値の重みつき平均として得られた値になる。
【0060】
したがって、図5における画素値p(i)と画素値a(i−1)との比較は、単なる2つの値の比較ではなく、3組の画素値と3組の画素値との比較ということになる。当然ながら、画素の類否判定は、この3組の画素値同士が類似するか否かを判定する処理ということになる。本発明の特徴は、この3組の画素値同士の類否を判定する方法にあり、以下、この類否判定方法を、§2において詳述する。
【0061】
<<< §2.画素の類否判定方法 >>>
さて、§1で述べたとおり、本発明では、原画像(入力画像)と平均画像(背景画像)とを画素単位で比較して、両画素が類似している場合は背景領域Bの画素、非類似の場合は前景領域Fの画素という判定を行う。このように画素単位での類否判定を行う方法は、領域単位で特徴量を求める方法に比べて処理が単純になり、演算負担は比較的軽くなる。しかしながら、画素の類否判定が移動物体の検出精度を左右するファクターになるため、どのような方法で、どの程度の範囲までを「類似範囲」と判定するかが非常に重要である。
【0062】
たとえば、§1では、図1の画像P10を平均画像(背景画像)とし、画像P20を原画像(入力画像)とした場合、両者の比較により、画像M20のようなマスク画像が得られることを述べた。ここで、マスク画像M20の前景領域Fは、両画像P10,P20を比較した結果、画素が類似範囲外と判定された領域であり、背景画像Bは、画素が類似範囲内と判定された領域である。この場合、類似範囲を適切に設定しないと、正しいマスク画像を得ることはできない。
【0063】
すなわち、図1では、背景部分に全く同じ画像が描かれているが、実際の風景では、雲の動きで太陽光による照明環境が変化し、風により樹木の葉の位置や向きが微妙に変化する。したがって、画素の類否判定基準を厳しくすると、実際には背景部分であるのに、類似範囲外との誤判定が生じ、前景領域F内の画素との認定がなされてしまう。逆に、画素の類否判定基準を緩めると、実際には前景部分であるのに、類似範囲内との誤判定が生じ、背景領域B内の画素との認定がなされてしまう。
【0064】
しかも、カラー画像の場合、前述したように、画素の類否は、一方の画素の3組の画素値と他方の画素の3組の画素値との比較に基づいて行う必要があるため、様々な類否判定基準を設定することが可能である。そして、どのような類否判定基準を採用するかによって、判定精度も変わってくる。通常、このようなカラー画像の画素の比較は、三次元の色空間上で、双方の画素値に対応する座標点をプロットし、両座標点の空間的な位置関係を調べることによって行われる。以下、各画素がRGB表色系の画素値をもっている場合について、色空間上での類否判定を行ういくつかの方法を説明しよう。
【0065】
図6は、画素の類否判定の最も単純な方法を示す三次元色空間図である。図示のとおり、三原色R,G,Bの画素値を各座標軸にとったRGB三次元直交座標系に、座標点AおよびPがプロットされている。ここで、座標点A(Ra,Ga,Ba)は、背景を示す平均画像A上の画素の画素値(Ra,Ga,Ba)をプロットした点であり、座標点P(Rp,Gp,Bp)は、判定対象となる原画像P上の画素の画素値(Rp,Gp,Bp)をプロットした点である。
【0066】
ここで、この三次元色空間上での2点A,Pの距離をδとすれば、当該距離δは、両画素の類似度を示す1つの指標になる。δ=0であれば、両画素は全く同一の画素値をもった画素になり、δが大きくなればなるほど、3つの画素値の総合的な類似度は低下する。したがって、予め所定の閾値δthを設定しておき、δ<δthであれば類似範囲内、δ≧δthであれば類似範囲外と判定するようにすれば、一応の判定基準を設定することができる。
【0067】
あるいは、原点Oを起点として、座標点Aへ向かうベクトルVaと座標点Pへ向かうベクトルVpとを定義し、両ベクトルVa,Vpのなす角θを、両画素の類似度を示す指標として用いることもできる。θ=0の場合、2点A,Pは必ずしも同一の点にはならないが、原点Oを通る同一直線上の点になるため、少なくとも三原色R,G,Bの配合割合で決まる両画素の色相は類似したものになる。結局、θが小さければ、色相の類似性は高まることになるので、指標δを用いた判定基準と同様に、予め所定の閾値θthを設定しておき、θ<θthであれば類似範囲内、θ≧θthであれば類似範囲外と判定するようにすれば、一応の判定基準を設定することができる。
【0068】
ただ、このような距離δや角度θを基準とした単純な類否判定方法を、一般的な実写画像における移動物体検出処理に利用した場合、満足した検出結果を得ることが困難であることが知られている。これは、距離δや角度θという単純なパラメータの値だけでは、太陽光による照明環境の変化、風による樹木等の明暗の変化など、実際の撮影環境に対応した適切な判定基準を設定することが困難なためである。
【0069】
このような問題に対処するために、前掲の非特許文献1には、より適切な判定基準を設定するために、円柱モデルを用いる類否判定方法が提案されている。図7は、この円柱モデルを用いる方法の基本原理を示す三次元色空間図である。この図7においても、図6と同様に、背景を示す平均画像A上の画素の画素値(Ra,Ga,Ba)が座標点Aとしてプロットされ、判定対象となる原画像P上の画素の画素値(Rp,Gp,Bp)が座標点Pとしてプロットされている。ここでも、ベクトルVa,Vpは、原点Oを起点として、各点A,Pへ向かうベクトルである。
【0070】
このモデルでは、図示のとおり、座標点Aを中心として所定半径をもった長さLの円柱Cが定義されている。別言すれば、円柱Cは、ベクトルVa上に定義された基準軸Zを中心軸とし、その中心点が座標点Aにくるように配置された円柱ということになる。そして、この円柱Cの内部の空間領域を、背景を示す平均画像Aを構成する画素の類似範囲と定める。したがって、図示の例のように、座標点Pに対応する画素値をもった画素は、円柱Cの外側に位置するため類似範囲外と判定され、前掲領域Fを構成する画素と認定されることになる。逆に、座標点Pが円柱Cの内部に位置していれば、類似範囲内と判定され、背景領域Bを構成する画素と認定される。
【0071】
この円柱モデルの特徴は、ベクトルVaの方向を向いた基準軸Zを長手方向とする円柱領域が設定される点である。この円柱Cの半径は、色相の類似範囲を決めるパラメータとして機能し、長さLは明度の類似範囲を決めるパラメータとして機能する。前述したとおり、実際の景色では、太陽光による照明環境の変化、風による樹木等の明暗の変化などによって、背景領域Bの画素値に時間的変動が生じることになるが、このような変動は、色相よりも明度に大きな影響を及ぼすと考えられる。したがって、このモデルのように、基準軸Zを長手方向とする円柱Cに基づいて類似範囲を設定することは理にかなっている。
【0072】
しかしながら、この円柱モデルを用いても、時刻や天候などによる照明変動の影響を完全に排除することは困難であり、依然として、誤検出が生じる問題がある。また、座標点Pが円柱Cの内部に位置するのか外部に位置するのかを判定するためには、三次元の色空間上での幾何学演算が必要になり、安価なプロセッサを用いてリアルタイムの処理を行うには演算処理の負担が重い。特に、三角関数を含む演算は、安価な汎用プロセッサにとって極めて負担の重い処理になる。本発明は、このような問題に対処するために、新たなモデルを用いた画素の類否判定方法を提案するものである。
【0073】
本発明に係る画素の類否判定方法の最も重要な特徴は、図7に示す円柱モデルの円柱Cの代わりに、回転楕円体を用いるようにした点にある。図8は、図7に示す円柱Cを回転楕円体Eaに置き換えた回転楕円体モデルを示す三次元色空間図である。ここで、類似範囲を示す回転楕円体Eaは、平均画像Aの画素値を示す座標点Aを中心点とし、ベクトルVa上に定義された基準軸Zaを長軸方向とする楕円を、基準軸Zaを回転軸として回転させることにより得られる回転体である。この回転楕円体Eaのサイズは、長軸方向の長さLa1と短軸方向の長さLa2によって規定される。
【0074】
この回転楕円体モデルを用いた場合でも、類否判定の方法は、前述の円柱モデルを用いた場合の判定方法と同様であり、回転楕円体Eaの内部領域にプロットされる画素は、座標点Aに対応する画素値をもった画素に対して類似する画素と判定されることになる。具体的には、図示の例の場合、座標点Pに対応する画素値をもった画素は、回転楕円体Eaの外側に位置するため類似範囲外と判定され、前掲領域Fを構成する画素と認定される。逆に、座標点Pが回転楕円体Eaの内部に位置していれば、類似範囲内と判定され、背景領域Bを構成する画素と認定される。
【0075】
一方、図9は、図8に示す回転楕円体モデルのバリエーションを示す三次元色空間図である。図示のとおり、このモデルにおける類似範囲を示す回転楕円体Epは、判定対象となる原画像Pの画素値を示す座標点Pを中心点とし、ベクトルVp上に定義された基準軸Zpを長軸方向とする楕円を、基準軸Zpを回転軸として回転させることにより得られる回転体である。この回転楕円体Epのサイズは、長軸方向の長さLp1と短軸方向の長さLp2によって規定される。
【0076】
図8に示すモデルの場合、背景を示す平均画像Aの画素値(Ra,Ga,Ba)をプロットした座標点Aを基準として、類似範囲を示す回転楕円体Eaが定義され、比較対象となる原画像Pの画素値(Rp,Gp,Bp)をプロットした座標点Pが、回転楕円体Eaの内側にあるか外側にあるかを判定していたのに対して、図9に示すモデルの場合、比較対象となる原画像Pの画素値(Rp,Gp,Bp)をプロットした座標点Pをプロットした座標点Pを基準として、類似範囲を示す回転楕円体Epが定義され、背景を示す平均画像Aの画素値(Ra,Ga,Ba)をプロットした座標点Aが、回転楕円体Epの内側にあるか外側にあるかを判定することになる。
【0077】
要するに、前者では、新たに入力された原画像Pの画素が、背景を示す過去の平均画像Aの画素の類似範囲に入っているか否かを判定する手法をとるのに対して、後者では、背景を示す過去の平均画像Aの画素が、新たに入力された原画像Pの画素の類似範囲に入っているか否かを判定する手法をとることになる。結局、両者の相違は、比較対象となる2つの画素のどちらを基準にして回転楕円体を定義するかという点だけである。
【0078】
そこで、以下の説明では、比較対象となる2つの画像のうち、一方の画像の画素値を基準画素値(R,G,B)と表記し、他方の画像の画素値を比較画素値(r,g,b)と表記することにする。また、三次元色空間上で基準画素値(R,G,B)をプロットした座標点Q(R,G,B)を基準点Qと呼び、比較画素値(r,g,b)をプロットした座標点q(r,g,b)を比較点qと呼ぶことにする。類否判定は、基準点Qを中心として定義された回転楕円体と比較点qとの位置関係に基づいてなされることになる。
【0079】
図10は、このような一般的な表記にしたがって、本発明に係る回転楕円体モデルを図示した三次元色空間図である。原点Oを起点として基準点Qへ向かうベクトルをベクトルVとすれば、基準軸Zは、このベクトルV上の軸になる。そして、回転楕円体Eは、基準点Qを中心点とし、ベクトルV上に定義された基準軸Zを長軸方向とする楕円を、基準軸Zを回転軸として回転させることにより得られる回転体である。ここで、比較点q(r,g,b)が回転楕円体Eの内部に位置すれば、両画素は類似範囲内と判定され、回転楕円体Eの外部に位置すれば、両画素は類似範囲外と判定される。
【0080】
図8に示すモデルは、図5に示す類否判定を行う際に、平均画像A(i−1)上の画素a(i−1)の画素値を基準画素値(R,G,B)として基準点Q(R,G,B)をプロットし、原画像P(i)上の画素p(i)の画素値を比較画素値(r,g,b)として比較点q(r,g,b)をプロットしたものである。これに対して、図9に示すモデルは、図5に示す類否判定を行う際に、原画像P(i)上の画素p(i)の画素値を基準画素値(R,G,B)として基準点Q(R,G,B)をプロットし、平均画像A(i−1)上の画素a(i−1)の画素値を比較画素値(r,g,b)として比較点q(r,g,b)をプロットしたものである。
【0081】
図7に示す従来の円柱モデルに比べて、図10に示す本発明の回転楕円体モデルは、次の2つの利点を有している。第1の利点は、§1で述べた移動物体検出方法における画素の類否判定処理に利用した場合に、時刻や天候などによる照明変動の影響を排除した、より正確な移動物体の検出が可能になる点である。
【0082】
実際、本願発明者は、ビデオカメラで撮影した様々な実写画像について、図7に示す円柱モデルに基づく類否判定処理を採り入れた移動物体の検出と、図10に示す回転楕円体モデルに基づく類否判定処理を採り入れた移動物体の検出とを試みたところ、後者の検出の方がより正確である実験結果が得られた。これは、円柱モデルの場合、円柱の長手方向の端部周縁領域において、誤検出が行われる可能性が高くなるためと考えられる。
【0083】
図11は、円柱モデルに対する回転楕円体モデルの利点を示す断面図である。図示の例において、円柱Cの断面と回転楕円体Eの断面とを比較すると、いずれも基準点Qを中心として、基準軸Zの方向を長手方向とする図形であるが、図にハッチングを施す領域が、円柱Cでは内部領域と判定されるのに対して、回転楕円体Eでは外部領域と判定されることがわかる。したがって、比較点qが、このハッチング領域に位置する場合、一方では類似範囲内と判定され、他方では類似範囲外と判定される。もちろん、いずれの判定結果が正しいものであるかは、一概には決定できないが、少なくとも実写画像を用いた移動物体の検出処理に利用する限りにおいて、後者の判定結果が正しい結果となる可能性が高いことになる。
【0084】
すなわち、円柱モデルの場合、比較点qが図のハッチング領域内に位置する場合、判定対象となる画素は背景画像に類似しているため背景領域B内の画素とされることになるが、実際には、背景画像に対して非類似であり、前景領域F内の画素とすべきであった、というケースが比較的高い確率で生じてしまうものと考えられる。図11に示すとおり、断面形状で比較すると、回転楕円体Eの断面は曲面からなる楕円であるのに対して、円柱Cの断面は直線からなる矩形であり、実写画像を対象物とした類否判定の境界線としては、断面が曲面からなる楕円の方が適していることは、直感的にも理解できよう。
【0085】
このように、少なくとも、実写画像に基づく移動物体の検出処理に利用する場合、円柱モデルよりも回転楕円体モデルの方が検出精度が向上するという第1の利点が得られる。一方、回転楕円体モデルを採用することにより得られる第2の利点は、演算負担の軽減を図ることができる点である。この第2の利点の詳細については、§3で述べることにするが、ここでは、演算負担の軽減に寄与する工夫のひとつを簡単に述べておく。
【0086】
この工夫は、回転楕円体Eのサイズを、三次元座標系の原点Oと基準点Qとの距離Dに比例した値に設定することである。具体的には、図10に示すとおり、距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、基準軸Zを中心に回転させることにより回転楕円体Eを定義すればよい。
【0087】
このような条件で回転楕円体Eのサイズを決定すると、基準点Qが原点Oから離れれば離れるほど、回転楕円体Eのサイズは大きくなり、それだけ類似範囲が広くなる。これは、より明度の高い部分、すなわち、画像のハイライト部ほど、類似範囲が広くなることを意味するが、実用上、そのような類似範囲設定がなされても支障は生じない。一方、類似範囲内か否か、すなわち、回転楕円体Eの内部か外部かを判定するための演算負担は、長軸半径をα=h・D、短軸半径をβ=k・Dと設定することにより(すなわち、楕円のサイズを、距離Dに比例した値に設定することにより)、大幅に軽減することができる。その詳細は§3で述べることにする。
【0088】
ところで、本願発明者が行った実験によると、回転楕円体Eのサイズを、距離Dに比例した値に設定する場合は、図8のモデルよりも、図9のモデルを用いた方が、検出精度が向上することが判明した。図9のモデルを採用した場合、図10において、基準点Q(R,G,B)は、判定対象となる原画像Pの画素の画素値を基準画素値としてプロットした点になり、比較点q(r,g,b)は、背景となる平均画像Aの画素の画素値を比較画素値としてプロットした点になる。
【0089】
上述したとおり、図8のモデルと図9のモデルは、原画像Pの画素と平均画像Aの画素とのいずれを基準にして回転楕円体を定義するか、という点において異なる。しかも、回転楕円体のサイズを、距離Dに比例した値に設定すれば、定義される回転楕円体のサイズが、両者では異なることになる。すなわち、図8に示すモデルにおける回転楕円体Eaの長軸方向の長さLa1および短軸方向の長さLa2は、ベクトルVaの長さに、それぞれパラメータ2hおよび2kを乗じることにより得られるのに対して、図9に示すモデルにおける回転楕円体Epの長軸方向の長さLp1および短軸方向の長さLp2は、ベクトルVpの長さに、それぞれパラメータ2hおよび2kを乗じることにより得られる。したがって、図示の例の場合、回転楕円体Eaのサイズよりも、回転楕円体Epのサイズの方が大きくなっており、より広い類似範囲が設定されている。
【0090】
もちろん、常識的には、図9に示すモデルよりも図8に示すモデルを採用するのが一般的であろう。すなわち、予め背景とみなすことができる類似範囲を回転楕円体Eaとして定義しておき、新たに入力された画像の画素を示す点Pが、この類似範囲内に入るか否かを判定することにより、当該画素が移動物体上の点であるか否かを認識する、という方針を採るのが、一般的な考え方である。これに対して、図9に示すモデルは、新たに入力された画像の画素の類似範囲を回転楕円体Ebとして定め、その中に、背景画素を示す点Aが入るか否かを判定する手法を採るものであり、一般常識に基づく手法とは逆の手法と言うことができる。
【0091】
しかしながら、本願発明者が行った実験によると、少なくとも実写画像を用いた移動物体の検出処理に利用する限りにおいて、図8に示すモデルを採用するよりも、図9に示すモデルを採用した方が、より正しい判定結果が得られた。これは、図3の式(1)に示すような方法で、平均画像Aの画素値a(i)を決定すると、太陽光や風などの要因により、新たに入力されてくる原画像Pの画素値p(i)が大きく変動しても、画素値a(i)の値が当該変動に追従するまでにはある程度の時間がかかるため(たとえば、図4の表を参照)、類似範囲の広狭を、背景を示す平均画像Aの画素値a(i)ではなく、原画像Pの画素値p(i)に応じて定めた方が、正しい判定が可能になるためと考えられる。
【0092】
以上、移動物体の検出に利用する画素の類否判定処理方法において、円柱モデルを採用する従来の方法に比べて、回転楕円体モデルを採用する本発明の利点として、時刻や天候などによる照明変動の影響を排除した、より正確な移動物体の検出が可能になる、という第1の利点を述べるとともに、演算負担を軽減することができるという第2の利点についても簡単に説明した。続く§3では、この第2の利点についての詳細を述べることにする。
【0093】
<<< §3.実用的な類否判定手順 >>>
一般に、三次元空間上において、ある1点が、円柱の内側にあるか外側にあるかを判定する場合も、回転楕円体の内側にあるか外側にあるかを判定する場合も、座標値を用いた幾何学演算が必要になる。しかしながら、回転楕円体の内側にあるか外側にあるかを判定する場合は、演算式を工夫し、また、一部に近似演算を取り込むことにより、演算負担を大幅に軽減することが可能である。ここでは、図10に示す回転楕円体モデルにおいて、比較点q(r,g,b)が、基準点Q(R,G,B)を中心として定義された回転楕円体Eの内側にあるか外側にあるかを判定する実用的な手順を述べる。
【0094】
ここで述べる手順は、3つの条件判定段階によって構成される。図12は、そのうちの第1の条件判定段階の原理を示す断面図である。図において、下方に示す原点Oは、図10の三次元色空間図に示されているRGB三次元直交座標系の原点Oであり、当該座標系上に、基準点Q(R,G,B)と比較点q(r,g,b)とがプロットされている(座標軸は図示省略)。基準軸Zは、原点Oと基準点Qとを結ぶ線であり、回転楕円体Eは、この基準軸Zを長軸方向とし、基準点Qを中心とする楕円を、基準軸Zを回転軸として回転させることによって得られる回転体である。図に断面を示す楕円は、長軸半径をα、短軸半径をβとする楕円であるが、§2で述べたとおり、原点Oと基準点Qとの距離をDとしたときに、所定のパラメータh,kについて、α=h・D(但し、h<1)、β=k・D(但し、k<h)となるように設定されている。
【0095】
第1の条件判定段階では、比較点qが、図のハッチング領域内にあるかどうかの判定が行われる。すなわち、図の下方のハッチング領域は、「原点Oを中心とし半径(D−α)の球C1の内側領域」であるから、原点Oと比較点qとの距離をdとすれば、「D−α>d」なる条件が満足されれば、比較点qは、球C1の内側に位置することになる。球C1は、回転楕円体Eの原点Oに対する最近接点E1において、回転楕円体Eに接する球であり、球C1の内側領域は、当然、回転楕円体Eの外側領域になる。一方、図の上方のハッチング領域は、「原点Oを中心とし半径(D+α)の球C2の外側領域」であるから、原点Oと比較点qとの距離をdとすれば、「D+α<d」なる条件が満足されれば、比較点qは、球C2の外側に位置することになる。球C2は、回転楕円体Eの原点Oに対する最遠接点E2において、回転楕円体Eに接する球であり、球C2の外側領域は、当然、回転楕円体Eの外側領域になる。
【0096】
図13は、図12に示す第1の条件判定原理に基づく判定式を示す図である。図13(a) は、比較点qが球C1の内側領域にあるための条件式「D−α>d」の変形プロセスを示す。すなわち、α=h・Dを代入すると、条件式は「(1−h)・D>d」となり、両辺を2乗すると、
(1−h)2・D2>d2 式(2)
が得られる。一方、図13(b) は、比較点qが球C2の外側領域にあるための条件式「D+α<d」の変形プロセスを示す。すなわち、α=h・Dを代入すると、条件式は「(1+h)・D<d」となり、両辺を2乗すると、
(1+h)2・D2<d2 式(3)
が得られる。
【0097】
ここで、基準点Qの座標値が(R,G,B)、比較点qの座標値が(r,g,b)であるから、図13(c) に示すように、
D=√(R2+G2+B2)
d=√(r2+g2+b2)
であり、両辺を2乗すると、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
となる。したがって、式(2),式(3)を書き直せば、図13(c) に示すように、
(1−h)2・(R2+G2+B2)
>(r2+g2+b2) 式(2′)
(1+h)2・(R2+G2+B2)
<(r2+g2+b2) 式(3′)
なる条件式が得られる。ここで、hは予め設定された所定のパラメータであり、(R,G,B)および(r,g,b)は、基準点Qおよび比較点qの座標値(すなわち、比較対象となる2つの画素の三原色の画素値)である。式(2′)および式(3′)は、2乗演算と和差演算のみで構成される演算式であるから、演算負担は非常に軽いものになる。
【0098】
こうして、式(2′)もしくは式(3′)のいずれかの条件を満足する結果が得られた場合、比較点qは、回転楕円体Eの外側に位置すると判断できるので、基準点Qの類似範囲外との判定を行うことができる。
【0099】
一方、式(2′)および式(3′)のいずれの条件も満足しない場合は、図12において、比較点qは、球C1の外側かつ球C2の内側の領域に位置することになる。したがって、その場合には、以下に述べる第2の条件判定段階が引き続き行われる。
【0100】
図14は、この第2の条件判定段階の原理を示す断面図である。第2の条件判定段階では、比較点qが、図14のハッチング領域内にあるかどうかの判定が行われる。このハッチング領域は、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの外側領域」として定義される領域である。円錐ξの半頂角は、図示のとおり角φになる。図示の断面図では、円錐ξが接点Tにおいて楕円Eに接している状態が示されているが、実際には、円錐ξと回転楕円体Eとは、接線円Tで線接触することになる。三次元空間上での円錐ξと回転楕円体Eとの関係は、コーンに卵を挿入した状態を考えれば容易に理解できよう。
【0101】
結局、この第2の条件判定段階では、比較点qが、円錐ξの内側にあるか、外側にあるかを判定することになる。円錐ξと回転楕円体Eとが接する接線円Tの位置は、幾何学的な演算によって求めることができ、そのような接線円Tを通る円錐ξを示す幾何学的な方程式を求めることも可能である。しかしながら、そのような方程式は比較的複雑な式になる。そこで、ここでは、円錐ξの代わりに、図14に破線で示す円錐ξ′を利用した近似的な判定を行うことにより、演算負担の軽減を図ることにする。
【0102】
図14に実線で描いた円錐ξは、接線円Tで回転楕円体Eに接する図形であるが、破線で描いた円錐ξ′は、交線円Sで回転楕円体Eと交差する図形である。ここで、交線円Sは、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線を構成する円であり、基準点Qと交線円S上の任意の点との距離は図示のとおりfである。結局、この近似的な判定では、「原点Oを頂点、基準軸Zを中心軸とし、交線円Sを通る円錐ξ′の外側に比較点qが位置するか否か」という判定が行われることになる。
【0103】
図示のとおり、円錐ξ′の半頂角φ′は、円錐ξの半頂角φよりも若干小さくなり、円錐ξ′は、円錐ξよりも若干小さな円錐になる。このため、「円錐ξ′の外側」かつ「円錐ξの内側」の点の場合、実際は回転楕円体Eの内部の点であるにもかかわらず、円錐ξ′を代用する近似的な判定方法では、回転楕円体Eの外部の点と判定されてしまうことになる。したがって、「回転楕円体Eの内外を厳密に判定する」という観点では、円錐ξ′を代用する判定方法は不正確である。ただ、そもそも回転楕円体E自体が、移動物体を厳密に検出する機能をもつ立体であるわけではなく、あくまでも1つの指標を提供するものであるから、円錐ξ′を代用する近似的な判定方法を用いたとしても、大きな支障は生じない。
【0104】
そこで、比較点qが、この円錐ξ′の内側にあるのか外側にあるのかを幾何学的に判定するための具体的な方法を考えてみる。いま、図15(a) に示すように、三辺の長さがそれぞれa,b,cである一般的な三角形を考える。ここで、2辺b,cの挟角をφとすると、余弦定理により、
cos φ=(b2+c2−a2)/2bc 式(4)
が成り立つ。
【0105】
続いて、図15(b) に示す三角形OQSを考える。この図15(b) は、図14に示す三角形OQSをそのまま抜き出して示したものである。交線円Sは、前述したとおり、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線であるから、2点OSの距離は、2点OQの距離に等しくDになる。したがって、三角形OQSは二等辺三角形になり、2つの等辺の挟角はφ′、第3の辺の長さはfである。この三角形OQSに、式(4)に示す余弦定理を適用すると、
cos φ′=(D2+D2−f2)/2D2 式(5)
が成り立つ。
【0106】
ここで、図14を見ると、長さfは、回転楕円体Eの短軸半径βに近い値になることがわかる。そこで、近似的に、f≒βとすると、β=k・Dなので、f≒k・Dになり、図15の下段右に示すとおり、
cos φ′≒1−k2/2 式(6)
なる式が得られる。
【0107】
次に、図16に示す三角形OQqを考える。この図16は、図14に示す4点O,Q,S,qをそのまま抜き出してプロットしたものである。2点OQ間の距離はDであり、2点Oq間の距離はdである。ここで、この長さD,dをもった2辺の挟角をθとし、第3の辺の長さをtとする。また、線分OQと線分OSとのなす角φ′は、前述した円錐ξ′の半頂角である。
【0108】
さて、図14において、円錐ξの代わりに円錐ξ′を用いて、比較点qがハッチング領域にあるための条件を求めると、θ>φ′であればよいことがわかる。ここで、座標値(画素値)R,G,B,r,g,bが正の値をとるものとすれば、角度θおよびφ′はいずれも鋭角になる。図16の右側にも記載したとおり、一般に、θ,φ′を正の鋭角とすれば、θ>φ′の場合、「cos θ<cos φ′」であり、「cos 2θ<cos 2φ′」である。式(6)より、cos 2φ′≒(1−k2/2)2であるから、結局、
cos 2θ<(1−k2/2)2 式(7)
が成り立てば、比較点qは、円錐ξ′の外側領域にあると近似的に判断できる。
続いて、図16に示す三角形OQqについて、式(4)の余弦定理を適用すれば、図16の下段に示すように、
cos θ=(D2+d2−t2)/(2・D・d) 式(8)
が成り立つ。このとき、図17にも記載したとおり、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
t2=(R−r)2+(G−g)2+(B−b)2
だから、これを式(8)に代入して整理すると、
cos θ=γ/(D・d) 式(9)
(但し、γ=R・r+G・g+B・b)
が得られる。式(9)の両辺を2乗すれば、
cos 2θ=γ2/(D2・d2) 式(10)
である。よって、式(7)より、
γ2/(D2・d2)<(1−k2/2)2 式(11)
が成り立てば、比較点qは、円錐ξ′の外側領域にあると近似的に判断できる。ここで、γ,D,dを画素値を用いて書き直せば、図17の下段に示すように、
(R・r+G・g+B・b)2/
((R2+G2+B2)・(r2+g2+b2))
<(1−k2/2)2 式(11′)
が成り立てば、比較点qは、円錐ξ′の外側領域にあると近似的に判断できる。
【0109】
既に述べたとおり、図14において、円錐ξ′は、円錐ξに近似的に代用することができるので、上記式(11′)が成り立てば、比較点qは、回転楕円体Eの外側領域にある、との近似的判定を行うことができる。もちろん、この近似的な判定結果は、円錐ξ′を円錐ξに代用し、かつ、f≒βとの近似を行うことによって得られる判定結果であるので、厳密な判定結果ではない。しかしながら、そもそも回転楕円体E自体が、移動物体を厳密に検出する機能をもつ立体であるわけではないので、このような近似的な判定を行っても、大きな支障は生じない。別言すれば、上述した近似的な判定手法は、比較点qが回転楕円体Eの外部にあるかどうかを判定する代わりに、その近似体の外部に位置するかどうかを判定する手法ということになる。
【0110】
このようにして、式(11′)を満足する結果が得られた場合、比較点qは、回転楕円体Eの近似体の外側に位置すると判断できるので、基準点Qの類似範囲外との判定を行うことができる。
【0111】
一方、式(11′)を満足しない場合は、比較点qは、図14においてハッチングが施されていない円錐ξの内側に位置すると近似的に判断されたことになるので、最終的に、第3の条件判定段階が行われる。
【0112】
図18は、この第3の条件判定段階の原理を示す断面図である。第3の条件判定段階では、比較点qが、図18のハッチング領域内にあるかどうかの判定が行われる。このハッチング領域は、回転楕円体Eの外側領域であり、いわば第3の条件判定段階は、§2で述べた回転楕円体モデルを用いた類否判定として行うべき本来の判定段階ということになる。このため、条件判定に用いられる式は、楕円の方程式を用いた式になり、これまでの条件判定式に比べると、若干複雑にならざるを得ない。
【0113】
いま、図18に示すように、基準点Qの位置に原点をもち、紙面上に定義されたローカルなXY二次元直交座標系をとり、この二次元座標系上において、楕円Eと比較点qとの位置関係を考えることにしよう。ここで、X軸は回転楕円体Eの長軸方向の座標軸であり、Y軸は回転楕円体Eの短軸方向の座標軸である。もちろん、基準点QのXY座標系での座標は(0,0)になる。したがって、比較点qは、RGB三次元直交座標系ではq(r,g,b)なる三次元の座標値をもち、XYローカル座標系ではq(x,y)なる二次元の座標値をもつ。
【0114】
ここで、比較点qの座標値(x,y)を、2点OQ間の距離D、2点Oq間の距離d、そして挟角θを用いて表すと、図18の右下にも記載したとおり、
x=D−d・cos θ、 y=d・sin θ 式(12)
が成り立つ。一方、図19に示すとおり、楕円の公式からは、
x2/α2+y2/β2=1 式(13)
が得られるので、
f(x,y)=β2・x2+α2・y2−α2・β2 式(14)
なる判定式を定義すれば、比較点qは、
f(x,y)<0なら楕円内部の点
f(x,y)=0なら楕円上の点
f(x,y)>0なら楕円外部の点
ということになる。したがって、
β2・x2+α2・y2−α2・β2>0 式(15)
であれば、比較点qは、楕円外部の点ということになる。ここで、XYローカル座標系を、基準軸Zを中心軸として回転しても、上式が成り立つことに変わりはないので、式(15)は、三次元立体にも拡張することができる。すなわち、式(15)の条件が満足されていれば、比較点qは、回転楕円体Eの外側領域の点ということになる。
【0115】
なお、式(15)において、各変数の値は、図19の下半分に示すように、次のようにして求めることができる。まず、α=h・D、β=k・Dであるから、
α2=h2・D2、 β2=k2・D2 式(16)
である。一方、式(12)より、x=D−d・cos θだから、両辺を2乗すると、
x2=D2+d2・cos2 θ−2Dd・cos θ
となり、これに式(9)および式(10)を代入すれば、
x2=D2+γ2/D2−2γ 式(17)
が得られる(但し、γ=R・r+G・g+B・b)。また、式(12)より、y=d・sin θだから、両辺を2乗すると、
y2=d2・sin2 θ=d2・(1−cos2 θ)
となり、これに式(10)を代入すれば、
y2=d2−γ2/D2 式(18)
が得られる(但し、γ=R・r+G・g+B・b)。
【0116】
かくして、式(16)〜式(18)によって、α2,β2,x2,y2の各値を求めた後に、式(15)の条件判定式を演算すれば、比較点qが、回転楕円体Eの内側領域の点か、外側領域の点かを判定することができる。
【0117】
図20は、これまで述べてきた本発明に係る実用的な類否判定方法の手順を示す流れ図である。この類否判定方法によれば、三原色の各画素値(R,G,B)を有する第1のカラー画素と、三原色の各画素値(r,g,b)を有する第2のカラー画素と、の類否判定を行うことができる。なお、実際には、この図20に示す各手順は、コンピュータによって実行されることになる。
【0118】
まず、ステップS11では、回転楕円体Eのサイズを決めるパラメータh,kを設定する。前述したとおり、パラメータhは、回転楕円体Eの長軸半径αを決定する値(h<1)であり、長軸半径はα=h・Dなる式で定められる。また、パラメータkは、回転楕円体Eの短軸半径βを決定する値(k<h)であり、短軸半径はβ=k・Dなる式で定められる。これらパラメータh,kの値は、背景画像の特徴(たとえば、屋外か屋内か、街中か郊外か、といった種別)や、移動物体として侵入してくる前景画像の特徴(たとえば、車両か人間か、といった種別)を考慮して、できるだけ高い検出精度が得られるような値に適宜設定することになる。本願発明者が行った実験によれば、一般的な用途の場合、h=0.45〜0.20、k=0.15〜0.05程度の値に設定すれば、比較的高い検出精度が得られる。
【0119】
続く、ステップS12では、基準点Q(R,G,B)と比較点q(r,g,b)の座標値(R,G,B)および(r,g,b)が取り込まれる。これらの座標値は、それぞれ2つのカラー画像の三原色の画素値として与えられた値である。これら座標値が取り込まれたら、準備段階は完了である。すなわち、コンピュータには、パラメータh(h<1)およびk(k<h)、画素値(R,G,B)および(r,g,b)の値が取り込まれた状態となり、これらの値を用いて、以下の演算処理を実行する準備が整ったことになる。
【0120】
以下、ステップS13〜S18に示す手順は、図10に示すように、三原色の各画素値を各座標軸にとった三次元座標系において、画素値(R,G,B)に対応する座標をもつ基準点Qを中心とする所定サイズの回転楕円体Eと、画素値(r,g,b)に対応する座標をもつ比較点qとについて、後者が前者の内部にあるか外部にあるかを調べる位置関係判定段階の手順である。
【0121】
具体的には、既に述べたとおり、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、この基準軸Zを中心に回転させることにより得られる回転楕円体Eを定義する。そして、比較点qがこの回転楕円体Eの内部にあるか外部にあるかを判定することになる。なお、実際には、前述したような近似を行うため、論理的には、回転楕円体Eの代わりに、その近似体について、内部にあるか外部にあるかの判定が行われることになる。この位置関係判定段階は、3つの条件判定段階によって構成される。
【0122】
まず、ステップS13に示す第1の条件判定段階では、図12に示すように、「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という条件を満足するか否かの判定が行われる。そのためには、図13で説明したとおり、
(1−h)2・D2>d2 式(2)
もしくは
(1+h)2・D2<d2 式(3)
という条件を満足するか否かを判定するための演算を行えばよい。ここで、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
であるから、結局、ステップS13のブロック内に記載したように、
(1−h)2・(R2+G2+B2)>(r2+g2+b2) 式(2′)
もしくは
(1+h)2・(R2+G2+B2)<(r2+g2+b2) 式(3′)
という条件を満足するか否かを判定する演算を行えばよい。
【0123】
このステップS13に示す第1の条件判定段階において、肯定的な判定がなされた場合(式(2′)もしくは式(3′)の条件を満足する場合)は、ステップS14からステップS19へと進み、位置関係判定段階は終結する。一方、否定的判定がなされた場合には、ステップS14からステップS15へと進む。
【0124】
ステップS15に示す第2の条件判定段階では、図14に示すように、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの外側に比較点qが位置する」という第2の条件を満足するか否かの判定が行われる。ただ、前述したとおり、実用上は、円錐ξの代わりに円錐ξ′を用い、しかもf≒βと近似する式が用いられる。このような近似的な判定手法を採る場合は、第2の条件は「回転楕円体Eの近似体の外側に比較点qが位置する」という条件になる。
【0125】
この近似的な判定手法を採るのであれば、図17に示すとおり、
γ2/(D2・d2)<(1−k2/2)2 式(11)
という条件を満足するか否かを判定するための演算を行えばよい。ここで、
D2=(R2+G2+B2)
d2=(r2+g2+b2)、
γ=(R・r+G・g+B・b)
であるから、結局、ステップS15のブロック内に記載したように、
(R・r+G・g+B・b)2/
((R2+G2+B2)・(r2+g2+b2))
<(1−k2/2)2 式(11′)
という条件を満足するか否かを判定する演算を行えばよい。
【0126】
このステップS15に示す第2の条件判定段階において、肯定的な判定がなされた場合(式(11′)の条件を満足する場合)は、ステップS16からステップS19へと進み、位置関係判定段階は終結する。一方、否定的判定がなされた場合には、ステップS16からステップS17へと進む。
【0127】
ステップS17に示す第3の条件判定段階では、図18に示すように、「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かの判定が行われる。そのためには、ステップS17のブロック内に記載したように、
β2・x2+α2・y2−α2・β2>0 式(15)
という条件を満足するか否かを判定するための演算を行えばよい。ここで、各変数は、図19で説明したとおり、
α2=h2・D2、 β2=k2・D2 式(16)
x2=D2+γ2/D2−2γ 式(17)
y2=d2−γ2/D2 式(18)
であり、また、既に述べたとおり、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
γ=(R・r+G・g+B・b)
である。
【0128】
このステップS17に示す第3の条件判定段階において、肯定的な判定がなされた場合(式(15)の条件を満足する場合)は、ステップS18からステップS19へと進み、位置関係判定段階は終結する。一方、否定的判定がなされた場合には、ステップS18からステップS20へと進み、やはり位置関係判定段階は終結する。
【0129】
ここで注目すべき点は、以上の第1〜第3の条件判定段階で行われる条件判定式には、加減乗除演算のみしか含まれていない点である。すなわち、一般的な幾何学演算に含まれている開平演算や三角関数演算は一切含まれていない。したがって、演算装置の負担は比較的軽いものになり、安価なプロセッサを用いた場合でも、リアルタイム処理が可能になる。
【0130】
最後に、ステップS19もしくはステップS20に示す判定結果出力段階が行われる。すなわち、上述したとおり、第1の条件判定段階(ステップS13)、第2の条件判定段階(ステップS15)、第3の条件判定段階(ステップS17)のいずれかにおいて肯定的判定がなされた場合には、ステップS19へと進み、第1のカラー画素と第2のカラー画素とが非類似との判定結果が出力される。一方、第1の条件判定段階(ステップS13)、前記第2の条件判定段階(ステップS15)、前記第3の条件判定段階(ステップS17)のすべてにおいて否定的判定がなされた場合には、ステップS20へ進み、第1のカラー画素と第2のカラー画素とが類似するとの判定結果が出力される。
【0131】
要するに、この図20の流れ図に示す手順によれば、回転楕円体Eもしくはその近似体の外部に比較点qがあると判断された場合には、第1のカラー画素と第2のカラー画素とが非類似との判定結果が出力され、回転楕円体Eもしくはその近似体の内部に比較点qがあると判断された場合には、第1のカラー画素と第2のカラー画素とが類似するとの判定結果が出力されることになる。ステップS15の第2の条件判定段階は、ステップS13の第1の条件判定段階において否定的判定がなされた場合にのみ実行され、同様に、ステップS17の第3の条件判定段階は、ステップS15の第2の条件判定段階において否定的判定がなされた場合にのみ実行されることになるので、無駄な演算を省くことが可能になり、演算負担の軽減を図ることができる。
【0132】
特に、パラメータh,kの値を固定値にした運用を行う場合、ステップS13の演算式(2′),(3′)に用いる(1−h)2および(1+h)2の値、ステップS15の演算式(11′)に用いる(1−k2/2)2の値は、予め決められた定数として用意しておくことができるので、演算負担を更に軽減することができる。実際には、まず、(R2+G2+B2)の値および(r2+g2+b2)の値を計算してしまえば、ステップS13の演算式(2′),(3′)に係る演算は、上記定数を利用した極めて単純な演算になる。同様に、ステップS15の演算式(11′)に係る演算も、(R・r+G・g+B・b)の値を計算してしまえば、既に計算済みの(R2+G2+B2)の値および(r2+g2+b2)の値と、上記定数を利用することにより、極めて単純な演算になる。
【0133】
<<< §4.本発明に係る移動物体検出装置の構成 >>>
ここでは、本発明に係る移動物体検出装置の構成を、図21のブロック図を参照しながら説明する。この装置は、与えられた動画画像について移動物体を検出する機能をもっており、図示のとおり、画像入力部110、原画像格納部120、平均画像作成部130、平均画像格納部140、画像比較部200、マスク画像格納部310、画像出力部320、パラメータ設定部330によって構成される。
【0134】
画像入力部110は、時系列で連続的に与えられるフレーム単位のカラー原画像Pを、三原色の各画素値を有する画素の集合体データとして入力する構成要素であり、原画像格納部120は、こうして入力された原画像を逐次格納する構成要素である。一方、平均画像作成部130は、過去に入力された複数の原画像Pに基づいて、これら原画像の平均的な特徴を有する平均画像Aを逐次作成する構成要素であり、平均画像格納部140は、作成された平均画像Aを逐次格納する構成要素である。
【0135】
これら各構成要素の具体的な処理機能については、既に§1で述べたとおりである。原画像格納部120や平均画像格納部140は、バッファメモリによって構成することができる。平均画像作成部130が、図3に示す方法で重みwをパラメータとして平均画像を逐次作成し、これを平均画像格納部140に格納してゆくようにすれば、原画像格納部120には、常に処理に必要な最新の原画像のみが格納されるようにし、平均画像格納部140には、常に処理に必要な最新の平均画像Aのみが格納されるようにすればよいので、バッファメモリの容量を節約することができる。
【0136】
画像比較部200は、原画像格納部120に格納された原画像Pと、平均画像格納部140に格納された平均画像Aとを比較し、前景領域Fと背景領域Bとを区別するマスク画像Mを作成する機能を果たす構成要素であり、図示のとおり、画素値読出部210、類否判定部220、画素値書込部230によって構成されている。
【0137】
画素値読出部210は、比較対象となる一対の画像(すなわち、原画像格納部120に格納されている原画像Pと、平均画像格納部140に格納されている平均画像A)のうち、いずれか一方の画像の所定位置の画素の画素値を基準画素値(R,G,B)として読み出し、他方の画像の対応位置の画素の画素値を比較画素値(r,g,b)として読み出す処理を行う。
【0138】
既に述べたとおり、図8に示すモデルを採用する場合は、平均画像Aの画素の画素値を基準画素値(R,G,B)として読み出し、原画像Pの画素の画素値を比較画素値(r,g,b)として読み出すことになる。これに対して、図9に示すモデルを採用する場合は、逆に、原画像Pの画素の画素値を基準画素値(R,G,B)として読み出し、平均画像Aの画素の画素値を比較画素値(r,g,b)として読み出すことになる。既に§2で述べたとおり、実用上は、図9に示すモデルを採用するのが好ましい。
【0139】
類否判定部220は、比較画素値(r,g,b)が、基準画素値(R,G,B)について設定された所定の類似範囲に入っているか否かを判定する処理を行う。具体的には、図10に示すように、三原色の各画素値を各座標軸にとった三次元座標系において、基準画素値(R,G,B)に対応する座標に位置する基準点Q(R,G,B)と比較画素値(r,g,b)に対応する座標に位置する比較点q(r,g,b)をとり、基準点Qを中心とする所定サイズの回転楕円体Eと比較点qとの位置関係を調べ、比較点qが回転楕円体Eもしくはその近似体の外部に位置すると判定できる場合には類似範囲外との判定を行い、内部に位置すると判定できる場合には類似範囲内との判定を行う。このとき、回転楕円体Eのサイズは、パラメータh,kを参照して決定される。
【0140】
そして、画素値書込部230は、マスク画像Mを構成する所定位置(画素値読出部210の読出対象となった位置)の画素の画素値として、類否判定部220の判定結果に応じた値を定め、マスク画像格納部310に書き込む処理を行う。すなわち、類否判定部220が類似範囲内と判定した場合には背景領域Bを示す画素値(たとえば、「0」)を、類否判定部220が類似範囲外と判定した場合には前景領域Fを示す画素値(たとえば、「1」)を、それぞれマスク画像格納部310に書き込む処理を行う。
【0141】
マスク画像格納部310は、こうして作成されたマスク画像Mを格納する構成要素であり、画像出力部320は、このマスク画像Mを出力する構成要素である。
【0142】
一方、パラメータ設定部330は、平均画像作成部130による平均画像作成処理に利用されるパラメータw(図3に示す重みw)と、類否判定部220の類否判定処理に利用されるパラメータh,k(図10に示す長軸半径αおよび短軸半径βを決定するための値)とを、ユーザの操作入力によって任意の値に設定する機能を有する。ユーザは、必要に応じて、これらパラメータw,h,kの値を調整することにより、より精度の高い検出結果を得ることができる。もっとも、これらのパラメータの一部もしくは全部は、固定値にしておくことも可能である。全部のパラメータ値を固定値にする実施例では、パラメータ設定部330を設ける必要はない。
【0143】
なお、実用上、この図21に示す移動物体検出装置は、コンピュータに専用のプログラムを組み込むことにより構築することができ、図21に各ブロックで示す構成要素は、コンピュータのハードウエアとソフトウエアとの組み合わせによって実現することができる。もちろん、この移動物体検出装置を半導体集積回路として構成することも可能である。
【0144】
図22は、図21に示す装置における類否判定部220の詳細構成を示すブロック図である。図示のとおり、この類否判定部220は、基本演算部221、第1の条件判定部222、第2の条件判定部223、第3の条件判定部224、判定値出力部225、パラメータ保持部226によって構成されている。
【0145】
パラメータ保持部226は、パラメータhおよびkの値を保持する構成要素であり、図21に示すパラメータ設定部330を設けた場合には、このパラメータ設定部330によって設定されたパラメータhおよびkの値がパラメータ保持部226に書き込まれることになる。パラメータhおよびkの値を固定にする場合には、当該固定値がパラメータ保持部226に保持される。
【0146】
基本演算部221は、図21に示す画素値読出部210が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
D2=R2+G2+B2 および
d2=r2+g2+b2
なる演算を行い、値D2および値d2を算出する構成要素である。ここで算出された値D2および値d2は、第1の条件判定部222、第2の条件判定部223、第3の条件判定部224における演算で利用される。
【0147】
第1の条件判定部222は、図12に示すように、「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する構成要素である。そのために、基本演算部221が算出した値D2および値d2とパラメータ保持部226に保持されているパラメータhの値とを用いて、
(1−h)2・D2>d2 式(2)
もしくは
(1+h)2・D2<d2 式(3)
という条件を満足するか否かを判定するための演算を行う。そして、「条件満足」との肯定的判定が行われた場合、当該判定結果は、判定値出力部225に報知される。一方、「条件満足せず」との否定的判定が行われた場合、当該判定結果は、第2の条件判定部223に報知される。
【0148】
第2の条件判定部223は、第1の条件判定部222から、「条件満足せず」との否定的判定結果が報知された場合に限り、条件判定処理を実行する構成要素である。ここで行われる処理の目的は、図14に示すように、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの外側に比較点qが位置する」という第2の条件を満足するか否かを判定することにある。ただ、実用上は、演算負担を軽減するために、円錐ξの代わりに円錐ξ′を用いた判定を行うようにするのが好ましい。
【0149】
すなわち、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線を構成する円を交線円Sとしたときに、「原点Oを頂点、基準軸Zを中心軸とし、交線円Sを通る円錐ξ′の外側に比較点qが位置する」という第2の条件を満足するか否かを判定すればよい。このとき、演算負担を更に軽減するために、交線円S上の任意の点と基準点Qとの距離fが短軸半径βに等しいとおいた近似式を用いて近似的な判定を行うようにするのが好ましい。
【0150】
このような近似的な判定を行う場合、第2の条件判定部223は、図21に示す画素値読出部210が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
γ=R・r+G・g+B・b
なる演算を行い、値γを算出し、更に、基本演算部221が算出した値D2および値d2とパラメータ保持部226に保持されているパラメータkの値と、算出した値γとを用いて、
γ2/(D2・d2)<(1−k2/2)2 式(11)
という条件を満足するか否かを判定するための演算を行えばよい。結局、この式(11)の演算式で示される条件は、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξの近似体の外側に比較点qが位置する」という条件になる。
【0151】
そして、この第2の条件判定部223において、「条件満足」との肯定的判定が行われた場合、当該判定結果は、判定値出力部225に報知される。一方、「条件満足せず」との否定的判定が行われた場合、当該判定結果は、γの値とともに、第3の条件判定部224に報知される。
【0152】
第3の条件判定部224は、第2の条件判定部223から、「条件満足せず」との否定的判定結果が報知された場合に限り、条件判定処理を実行する構成要素である。ここで行われる処理の目的は、図18に示すように、「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定することにある。そのため、第3の条件判定部224は、基本演算部221が算出した値D2および値d2と、パラメータ保持部226に保持されているパラメータhおよびkの値と、第2の条件判定部223が算出した値γとを用いて、
α2=h2・D2、 β2=k2・D2 式(16)
x2=D2+γ2/D2−2γ 式(17)
y2=d2−γ2/D2 式(18)
なる演算を行い、当該演算結果を用いて、
β2・x2+α2・y2−α2・β2>0 式(15)
という条件を満足するか否かを判定するための演算を行う。
【0153】
そして、この第3の条件判定部224における「条件満足」との肯定的判定結果もしくは「条件満足せず」との否定的判定結果は、判定値出力部225に報知される。
【0154】
判定値出力部225は、第1の条件判定部222、第2の条件判定部223、第3の条件判定部224のいずれかが「条件満足」との肯定的判定を行った場合に、類似範囲外との判定結果を示す判定値(たとえば「1」)を出力し、第1の条件判定部222、第2の条件判定部223、第3の条件判定部224のすべてが「条件満足せず」との否定的判定を行った場合に、類似範囲内との判定結果を示す判定値(たとえば「0」)を出力する。これらの判定値は、図21に示すように、画素値書込部230によって、マスク画像格納部310内のマスク画像Mの画素値として書き込まれる。
【0155】
既に述べたとおり、上記条件判定式には、加減乗除演算のみしか含まれていないため、一般的な幾何学演算に必要とされる開平演算や三角関数演算を行う必要はない。したがって、演算装置の負担は比較的軽いものになり、類似判定部220を安価なプロセッサを用いて構成した場合でも、リアルタイム処理が可能になる。
【0156】
<<< §5.変形例 >>>
以上、本発明を基本的な実施形態に基づいて説明したが、最後に、本発明の変形例をいくつか述べておく。
【0157】
まず、これまで述べた条件判定式には、「不等号>」や「不等号<」を含む演算式が含まれているが、これらの演算式の一部もしくは全部について、「不等号>」の代わりに「不等号≧」を用いた演算式、もしくは「不等号<」の代わりに「不等号≦」を用いた演算式を用いてもかまわない。すなわち、各条件判定式は、比較点qが何らかの図形の内側領域にあるか外側領域にあるかを示すものであるが、当該図形の境界面上の点は、当該図形の内側領域に含ませても、外側領域に含ませてもかまわない。
【0158】
また、これまで述べた実施形態では、三原色を示す符号として、便宜上、(R,G,B)もしくは(r,g,b)という符号を用いているが、これらの符号は、必ずしも(赤,緑,青)なる三原色を意味するものではない。一般的には、ビデオカメラで撮影した画像は、(赤,緑,青)なる三原色の各画素値をもった画素の集合からなるデータとして与えられるが、本発明は、(赤,緑,青)なる三原色を用いた表色系に限定されるものではなく、他の色からなる三原色を用いた別な表色系にも適用可能である。その場合、各演算式に用いられている(R,G,B)もしくは(r,g,b)という符号は、当該別な表色系の三原色の画素値を示すことになる。
【符号の説明】
【0159】
110:画像入力部
120:原画像格納部
130:平均画像作成部
140:平均画像格納部
200:画像比較部
210:画素値読出部
220:類否判定部
221:基本演算部
222:第1の条件判定部
223:第2の条件判定部
224:第3の条件判定部
225:判定値出力部
226:パラメータ保持部
230:画素値書込部
310:マスク画像格納部
320:画像出力部
330:パラメータ設定部
A(1)〜A(i):平均画像(背景画像)
A,A(Ra,Ga,Ba):平均画像の画素値を示す座標点
a:三角形の一辺
a(i−1),a(i):平均画像を構成する1つの画素の画素値
B:背景領域/三原色の画素値(基準画素値)
b:三原色の画素値(比較画素値)/三角形の一辺
C:円柱モデルの円柱
C1,C2:球
C3:球面
c:三角形の一辺
D:原点Oと基準点Qとの距離
d:原点Oと比較点qとの距離
E,Ea,Ep:回転楕円体
E1:回転楕円体Eの最近接点
E2:回転楕円体Eの最遠隔点
F:前景領域
f:交線円S上の任意の点と基準点Qとの距離
G:三原色の画素値(基準画素値)
g:三原色の画素値(比較画素値)
h:回転楕円体Eの長軸半径αを定めるパラメータ
k:回転楕円体Eの短軸半径βを定めるパラメータ
L:円柱Cの長さ
La1:回転楕円体Eaの長軸方向の長さ
La2:回転楕円体Eaの短軸方向の長さ
Lp1:回転楕円体Epの長軸方向の長さ
Lp2:回転楕円体Epの短軸方向の長さ
M:マスク画像
M(1)〜M(i),M(i+1),M10〜M40:マスク画像
m(i):マスク画像を構成する1つの画素の画素値
O:三次元色空間を構成するRGB座標系の原点
P:原画像/原画像の画素値を示す座標点
P(1)〜P(i),P(i+1),P10〜P40:原画像(入力画像)
P(Rp,Gp,Bp):原画像の画素値を示す座標点
p(i):原画像を構成する1つの画素の画素値
Q:基準点(画素値(R,G,B)をもった座標点)
q:比較点(画素値(r,g,b)をもった座標点)
R:三原色の画素値(基準画素値)
r:三原色の画素値(比較画素値)
S:交線円(球面C3と回転楕円体Eとの交線)
S11〜S20:流れ図の各ステップ
T:接線円(円錐ξと回転楕円体Eとの接線)
t:基準点Qと比較点qとの距離
V:基準画素値を示すベクトル
Va:平均画像の画素値を示すベクトル
Vp:原画像の画素値を示すベクトル
w:重みを示すパラメータ
X:座標軸
x:楕円方程式の変数
Y:座標軸
y:楕円方程式の変数
Z,Za,Zp:基準軸
α:回転楕円体Eの長軸半径
β:回転楕円体Eの短軸半径
γ:演算値
δ:座標点間の距離
θ:角度
ξ,ξ′:円錐
φ,φ′:円錐の半頂角
【特許請求の範囲】
【請求項1】
動画画像について移動物体を検出する移動物体検出装置であって、
時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力部と、
入力された原画像を逐次格納する原画像格納部と、
過去に入力された複数の原画像に基づいて、これら原画像の平均的な特徴を有する平均画像を逐次作成する平均画像作成部と、
作成された平均画像を逐次格納する平均画像格納部と、
前記原画像格納部に格納された原画像と、前記平均画像格納部に格納された平均画像とを比較し、前景領域と背景領域とを区別するマスク画像を作成する画像比較部と、
前記マスク画像を格納するマスク画像格納部と、
前記マスク画像を出力する画像出力部と、
を備え、
前記画像比較部は、
比較対象となる一方の画像の所定位置の画素の画素値を基準画素値として読み出し、比較対象となる他方の画像の前記所定位置の画素の画素値を比較画素値として読み出す画素値読出部と、
前記比較画素値が、前記基準画素値について設定された所定の類似範囲に入っているか否かを判定する類否判定部と、
前記マスク画像を構成する前記所定位置の画素の画素値として、前記類否判定部が類似範囲内と判定した場合には背景領域を示す画素値を、前記類否判定部が類似範囲外と判定した場合には前景領域を示す画素値を、それぞれ前記マスク画像格納部に書き込む画素値書込部と、
を有し、
前記類否判定部が、前記三原色の各画素値を各座標軸にとった三次元座標系において、前記基準画素値に対応する座標に位置する基準点Qと前記比較画素値に対応する座標に位置する比較点qをとり、前記基準点Qを中心とする所定サイズの回転楕円体Eと前記比較点qとの位置関係を調べ、前記比較点qが前記回転楕円体Eもしくはその近似体の外部に位置すると判定できる場合には類似範囲外との判定を行い、内部に位置すると判定できる場合には類似範囲内との判定を行うことを特徴とする移動物体検出装置。
【請求項2】
請求項1に記載の移動物体検出装置において、
平均画像作成部が、
第i番目の原画像P(i)が入力されたときに(i=1,2,...)、当該原画像P(i)を含めた過去の原画像について、それぞれ対応する位置の画素の各色別の画素値の重みづけ平均値を算出し、当該平均値をもつ画素の集合体からなる第i番目の平均画像A(i)を作成し、
画像比較部が、第(i+1)番目の原画像P(i+1)が入力されたときに、当該原画像P(i+1)と、第i番目の平均画像A(i)とを比較し、第(i+1)番目のマスク画像M(i+1)を作成することを特徴とする移動物体検出装置。
【請求項3】
請求項2に記載の移動物体検出装置において、
平均画像作成部が、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)として平均画像格納部へ格納する処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
p(i)は、原画像P(i)の
前記所定位置の画素の前記所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成することを特徴とする移動物体検出装置。
【請求項4】
請求項1〜3のいずれかに記載の移動物体検出装置において、
類否判定部が、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、前記基準軸Zを中心に回転させることにより回転楕円体Eを定義することを特徴とする移動物体検出装置。
【請求項5】
請求項4に記載の移動物体検出装置において、
類否判定部が、
「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する第1の条件判定部と、
前記第1の条件判定部が否定的判定を行った場合に「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξもしくはその近似体の外側に比較点qが位置する」という第2の条件を満足するか否かを判定する第2の条件判定部と、
前記第2の条件判定部が否定的判定を行った場合に「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定する第3の条件判定部と、
前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のいずれかが肯定的判定を行った場合に、類似範囲外との判定結果を示す判定値を出力し、前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のすべてが否定的判定を行った場合に、類似範囲内との判定結果を示す判定値を出力する判定値出力部と、
を有することを特徴とする移動物体検出装置。
【請求項6】
請求項5に記載の移動物体検出装置において、
原点Oと基準点Qとの距離をD、原点Oと比較点qとの距離をdとしたときに、
第1の条件判定部が、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行うことを特徴とする移動物体検出装置。
【請求項7】
請求項5に記載の移動物体検出装置において、
第2の条件判定部が、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線を構成する円を交線円Sとしたときに、「原点Oを頂点、基準軸Zを中心軸とし、前記交線円Sを通る円錐ξ′の外側に比較点qが位置する」という第2の条件を満足するか否かを判定することを特徴とする移動物体検出装置。
【請求項8】
請求項7に記載の移動物体検出装置において、
第2の条件判定部が、交線円S上の任意の点と基準点Qとの距離fが短軸半径βに等しいとおいた近似式を用いて近似的な判定を行うことを特徴とする移動物体検出装置。
【請求項9】
請求項8に記載の移動物体検出装置において、
基準点Qの座標を示す基準画素値を(R,G,B)、比較点qの座標を示す比較画素値を(r,g,b)、原点Oと基準点Qとの距離をD、原点Oと比較点qとの距離をdとしたときに、
第2の条件判定部が、
γ=(R・r+G・g+B・b)
として、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行うことを特徴とする移動物体検出装置。
【請求項10】
請求項5に記載の移動物体検出装置において、
基準点Qの座標を示す基準画素値を(R,G,B)、比較点qの座標を示す比較画素値を(r,g,b)、原点Oと基準点Qとの距離をD、原点Oと比較点qとの距離をdとしたときに、
第3の条件判定部が、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
γ=(R・r+G・g+B・b)
として、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行うことを特徴とする移動物体検出装置。
【請求項11】
請求項4に記載の移動物体検出装置において、
類否判定部が、
パラメータhおよびkの値を保持するパラメータ保持部と、
画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
D2=R2+G2+B2 および
d2=r2+g2+b2
なる演算を行い、値D2および値d2を算出する基本演算部と、
前記基本演算部が算出した値D2および値d2と前記パラメータ保持部に保持されているパラメータhの値とを用いて、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行う第1の条件判定部と、
前記第1の条件判定部が否定的判定を行った場合に、画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
γ=R・r+G・g+B・b
なる演算を行い、値γを算出し、前記基本演算部が算出した値D2および値d2と前記パラメータ保持部に保持されているパラメータkの値と前記値γとを用いて、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行う第2の条件判定部と、
前記第2の条件判定部が否定的判定を行った場合に、前記基本演算部が算出した値D2および値d2と前記パラメータ保持部に保持されているパラメータhおよびkの値と前記第2の条件判定部が算出した前記値γとを用いて、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
なる演算を行い、当該演算結果を用いて、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行う第3の条件判定部と、
前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のいずれかが肯定的判定を行った場合に、類似範囲外との判定結果を示す判定値を出力し、前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のすべてが否定的判定を行った場合に、類似範囲内との判定結果を示す判定値を出力する判定値出力部と、
を有することを特徴とする移動物体検出装置。
【請求項12】
請求項6、9〜11のいずれかに記載の移動物体検出装置において、
不等号を含む演算式の一部もしくは全部について、「不等号>」の代わりに「不等号≧」を用いた演算式、もしくは「不等号<」の代わりに「不等号≦」を用いた演算式を用いることを特徴とする移動物体検出装置。
【請求項13】
請求項3〜12のいずれかに記載の移動物体検出装置において、
パラメータ「w」もしくは「hおよびk」またはこれら全てを、ユーザの操作入力によって任意の値に設定するパラメータ設定部を更に備えることを特徴とする移動物体検出装置。
【請求項14】
請求項3〜13のいずれかに記載の移動物体検出装置において、
画素値読出部が、原画像の画素の画素値を基準画素値として読み出し、平均画像の画素の画素値を比較画素値として読み出すことを特徴とする移動物体検出装置。
【請求項15】
請求項1〜14のいずれかに記載の移動物体検出装置としてコンピュータを動作させるプログラム。
【請求項16】
請求項1〜14のいずれかに記載の移動物体検出装置として機能する半導体集積回路。
【請求項17】
三原色の各画素値(R,G,B)を有する第1のカラー画素と、三原色の各画素値(r,g,b)を有する第2のカラー画素と、の類否判定を行う方法であって、
コンピュータが、画素値(R,G,B)および(r,g,b)の値を取り込む準備段階と、
コンピュータが、三原色の各画素値を各座標軸にとった三次元座標系において、前記画素値(R,G,B)に対応する座標をもつ基準点Qを中心とする所定サイズの回転楕円体Eもしくはその近似体と、前記画素値(r,g,b)に対応する座標をもつ比較点qとについて、後者が前者の内部にあるか外部にあるかを調べる位置関係判定段階と、
コンピュータが、前記回転楕円体Eもしくはその近似体の外部に前記比較点qがあると判断した場合には、前記第1のカラー画素と前記第2のカラー画素とが非類似との判定結果を出力し、前記回転楕円体Eもしくはその近似体の内部に前記比較点qがあると判断した場合には、前記第1のカラー画素と前記第2のカラー画素とが類似するとの判定結果を出力する判定結果出力段階と、
を有することを特徴とする画素の類否判定方法。
【請求項18】
請求項17に記載の画素の類否判定方法において、
位置関係判定段階では、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、前記基準軸Zを中心に回転させることにより得られる回転楕円体Eを定義することを特徴とする画素の類否判定方法。
【請求項19】
請求項18に記載の画素の類否判定方法において、
位置関係判定段階が、
「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する第1の条件判定段階と、
前記第1の条件判定段階において否定的判定がなされた場合に、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξもしくはその近似体の外側に比較点qが位置する」という第2の条件を満足するか否かを判定する第2の条件判定段階と、
前記第2の条件判定段階において否定的判定がなされた場合に、「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定する第3の条件判定段階と、
を有し、
判定結果出力段階では、前記第1の条件判定段階、前記第2の条件判定段階、前記第3の条件判定段階のいずれかにおいて肯定的判定がなされた場合には、前記第1のカラー画素と前記第2のカラー画素とが非類似との判定結果を出力し、前記第1の条件判定段階、前記第2の条件判定段階、前記第3の条件判定段階のすべてにおいて否定的判定がなされた場合には、前記第1のカラー画素と前記第2のカラー画素とが類似するとの判定結果を出力することを特徴とする画素の類否判定方法。
【請求項20】
請求項19に記載の画素の類否判定方法において、
第1の条件判定段階で、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
としたときに、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行うことを特徴とする画素の類否判定方法。
【請求項21】
請求項19に記載の画素の類否判定方法において、
第2の条件判定段階で、
D2=(R2+G2+B2)
d2=(r2+g2+b2)、
γ=(R・r+G・g+B・b)
としたときに、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行うことを特徴とする画素の類否判定方法。
【請求項22】
請求項19に記載の画素の類否判定方法において、
第3の条件判定段階で、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
D2=(R2+G2+B2)
d2=(r2+g2+b2)
γ=(R・r+G・g+B・b)
としたときに、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行うことを特徴とする画素の類否判定方法。
【請求項23】
三原色の各画素値(R,G,B)を有する第1のカラー画素と、三原色の各画素値(r,g,b)を有する第2のカラー画素と、の類否判定を行う方法であって、
コンピュータが、パラメータh(h<1)およびk(k<h)、画素値(R,G,B)および(r,g,b)の値を取り込む準備段階と、
コンピュータが、
(1−h)2・(R2+G2+B2)>(r2+g2+b2) もしくは
(1+h)2・(R2+G2+B2)<(r2+g2+b2)
という条件を満足するか否かを判定する第1の条件判定段階と、
前記第1の条件判定段階において否定的判定がなされた場合に、コンピュータが、
(R・r+G・g+B・b)2/
((R2+G2+B2)・(r2+g2+b2))
<(1−k2/2)2
という条件を満足するか否かを判定する第2の条件判定段階と、
前記第2の条件判定段階において否定的判定がなされた場合に、コンピュータが、
β2・x2+α2・y2−α2・β2>0
但し、α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
D2=(R2+G2+B2)
d2=(r2+g2+b2)
γ=(R・r+G・g+B・b)
という条件を満足するか否かを判定する第3の条件判定段階と、
コンピュータが、前記第1の条件判定段階、前記第2の条件判定段階、前記第3の条件判定段階のいずれかにおいて肯定的判定がなされた場合には、前記第1のカラー画素と前記第2のカラー画素とが非類似との判定結果を出力し、前記第1の条件判定段階、前記第2の条件判定段階、前記第3の条件判定段階のすべてにおいて否定的判定がなされた場合には、前記第1のカラー画素と前記第2のカラー画素とが類似するとの判定結果を出力する判定結果出力段階と、
を有することを特徴とする画素の類否判定方法。
【請求項24】
請求項20〜23のいずれかに記載の画素の類否判定方法において、
不等号を含む演算式の一部もしくは全部について、「不等号>」の代わりに「不等号≧」を用いた演算式、もしくは「不等号<」の代わりに「不等号≦」を用いた演算式を用いることを特徴とする画素の類否判定方法。
【請求項1】
動画画像について移動物体を検出する移動物体検出装置であって、
時系列で連続的に与えられるフレーム単位のカラー原画像を、三原色の各画素値を有する画素の集合体データとして入力する画像入力部と、
入力された原画像を逐次格納する原画像格納部と、
過去に入力された複数の原画像に基づいて、これら原画像の平均的な特徴を有する平均画像を逐次作成する平均画像作成部と、
作成された平均画像を逐次格納する平均画像格納部と、
前記原画像格納部に格納された原画像と、前記平均画像格納部に格納された平均画像とを比較し、前景領域と背景領域とを区別するマスク画像を作成する画像比較部と、
前記マスク画像を格納するマスク画像格納部と、
前記マスク画像を出力する画像出力部と、
を備え、
前記画像比較部は、
比較対象となる一方の画像の所定位置の画素の画素値を基準画素値として読み出し、比較対象となる他方の画像の前記所定位置の画素の画素値を比較画素値として読み出す画素値読出部と、
前記比較画素値が、前記基準画素値について設定された所定の類似範囲に入っているか否かを判定する類否判定部と、
前記マスク画像を構成する前記所定位置の画素の画素値として、前記類否判定部が類似範囲内と判定した場合には背景領域を示す画素値を、前記類否判定部が類似範囲外と判定した場合には前景領域を示す画素値を、それぞれ前記マスク画像格納部に書き込む画素値書込部と、
を有し、
前記類否判定部が、前記三原色の各画素値を各座標軸にとった三次元座標系において、前記基準画素値に対応する座標に位置する基準点Qと前記比較画素値に対応する座標に位置する比較点qをとり、前記基準点Qを中心とする所定サイズの回転楕円体Eと前記比較点qとの位置関係を調べ、前記比較点qが前記回転楕円体Eもしくはその近似体の外部に位置すると判定できる場合には類似範囲外との判定を行い、内部に位置すると判定できる場合には類似範囲内との判定を行うことを特徴とする移動物体検出装置。
【請求項2】
請求項1に記載の移動物体検出装置において、
平均画像作成部が、
第i番目の原画像P(i)が入力されたときに(i=1,2,...)、当該原画像P(i)を含めた過去の原画像について、それぞれ対応する位置の画素の各色別の画素値の重みづけ平均値を算出し、当該平均値をもつ画素の集合体からなる第i番目の平均画像A(i)を作成し、
画像比較部が、第(i+1)番目の原画像P(i+1)が入力されたときに、当該原画像P(i+1)と、第i番目の平均画像A(i)とを比較し、第(i+1)番目のマスク画像M(i+1)を作成することを特徴とする移動物体検出装置。
【請求項3】
請求項2に記載の移動物体検出装置において、
平均画像作成部が、
最初の原画像P(1)が入力されたときに、当該原画像P(1)をそのまま最初の平均画像A(1)として平均画像格納部へ格納する処理を行い、
以後、第i番目の原画像P(i)が入力されるたびに(i=2,3,...)、第i番目の平均画像A(i)を、
a(i)=(1−w)・a(i−1)+w・p(i)
(但し、a(i)は、平均画像A(i)の
所定位置の画素の所定色の画素値、
a(i−1)は、平均画像A(i−1)の
前記所定位置の画素の前記所定色の画素値、
p(i)は、原画像P(i)の
前記所定位置の画素の前記所定色の画素値、
wは、所定の重みを示すパラメータ(w<1))
なる演算式を用いて作成することを特徴とする移動物体検出装置。
【請求項4】
請求項1〜3のいずれかに記載の移動物体検出装置において、
類否判定部が、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、前記基準軸Zを中心に回転させることにより回転楕円体Eを定義することを特徴とする移動物体検出装置。
【請求項5】
請求項4に記載の移動物体検出装置において、
類否判定部が、
「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する第1の条件判定部と、
前記第1の条件判定部が否定的判定を行った場合に「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξもしくはその近似体の外側に比較点qが位置する」という第2の条件を満足するか否かを判定する第2の条件判定部と、
前記第2の条件判定部が否定的判定を行った場合に「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定する第3の条件判定部と、
前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のいずれかが肯定的判定を行った場合に、類似範囲外との判定結果を示す判定値を出力し、前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のすべてが否定的判定を行った場合に、類似範囲内との判定結果を示す判定値を出力する判定値出力部と、
を有することを特徴とする移動物体検出装置。
【請求項6】
請求項5に記載の移動物体検出装置において、
原点Oと基準点Qとの距離をD、原点Oと比較点qとの距離をdとしたときに、
第1の条件判定部が、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行うことを特徴とする移動物体検出装置。
【請求項7】
請求項5に記載の移動物体検出装置において、
第2の条件判定部が、原点Oを中心とする半径Dの球面C3と回転楕円体Eとの交線を構成する円を交線円Sとしたときに、「原点Oを頂点、基準軸Zを中心軸とし、前記交線円Sを通る円錐ξ′の外側に比較点qが位置する」という第2の条件を満足するか否かを判定することを特徴とする移動物体検出装置。
【請求項8】
請求項7に記載の移動物体検出装置において、
第2の条件判定部が、交線円S上の任意の点と基準点Qとの距離fが短軸半径βに等しいとおいた近似式を用いて近似的な判定を行うことを特徴とする移動物体検出装置。
【請求項9】
請求項8に記載の移動物体検出装置において、
基準点Qの座標を示す基準画素値を(R,G,B)、比較点qの座標を示す比較画素値を(r,g,b)、原点Oと基準点Qとの距離をD、原点Oと比較点qとの距離をdとしたときに、
第2の条件判定部が、
γ=(R・r+G・g+B・b)
として、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行うことを特徴とする移動物体検出装置。
【請求項10】
請求項5に記載の移動物体検出装置において、
基準点Qの座標を示す基準画素値を(R,G,B)、比較点qの座標を示す比較画素値を(r,g,b)、原点Oと基準点Qとの距離をD、原点Oと比較点qとの距離をdとしたときに、
第3の条件判定部が、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
γ=(R・r+G・g+B・b)
として、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行うことを特徴とする移動物体検出装置。
【請求項11】
請求項4に記載の移動物体検出装置において、
類否判定部が、
パラメータhおよびkの値を保持するパラメータ保持部と、
画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
D2=R2+G2+B2 および
d2=r2+g2+b2
なる演算を行い、値D2および値d2を算出する基本演算部と、
前記基本演算部が算出した値D2および値d2と前記パラメータ保持部に保持されているパラメータhの値とを用いて、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行う第1の条件判定部と、
前記第1の条件判定部が否定的判定を行った場合に、画素値読出部が読み出した基準画素値(R,G,B)および比較画素値(r,g,b)に基づいて、
γ=R・r+G・g+B・b
なる演算を行い、値γを算出し、前記基本演算部が算出した値D2および値d2と前記パラメータ保持部に保持されているパラメータkの値と前記値γとを用いて、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行う第2の条件判定部と、
前記第2の条件判定部が否定的判定を行った場合に、前記基本演算部が算出した値D2および値d2と前記パラメータ保持部に保持されているパラメータhおよびkの値と前記第2の条件判定部が算出した前記値γとを用いて、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
なる演算を行い、当該演算結果を用いて、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行う第3の条件判定部と、
前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のいずれかが肯定的判定を行った場合に、類似範囲外との判定結果を示す判定値を出力し、前記第1の条件判定部、前記第2の条件判定部、前記第3の条件判定部のすべてが否定的判定を行った場合に、類似範囲内との判定結果を示す判定値を出力する判定値出力部と、
を有することを特徴とする移動物体検出装置。
【請求項12】
請求項6、9〜11のいずれかに記載の移動物体検出装置において、
不等号を含む演算式の一部もしくは全部について、「不等号>」の代わりに「不等号≧」を用いた演算式、もしくは「不等号<」の代わりに「不等号≦」を用いた演算式を用いることを特徴とする移動物体検出装置。
【請求項13】
請求項3〜12のいずれかに記載の移動物体検出装置において、
パラメータ「w」もしくは「hおよびk」またはこれら全てを、ユーザの操作入力によって任意の値に設定するパラメータ設定部を更に備えることを特徴とする移動物体検出装置。
【請求項14】
請求項3〜13のいずれかに記載の移動物体検出装置において、
画素値読出部が、原画像の画素の画素値を基準画素値として読み出し、平均画像の画素の画素値を比較画素値として読み出すことを特徴とする移動物体検出装置。
【請求項15】
請求項1〜14のいずれかに記載の移動物体検出装置としてコンピュータを動作させるプログラム。
【請求項16】
請求項1〜14のいずれかに記載の移動物体検出装置として機能する半導体集積回路。
【請求項17】
三原色の各画素値(R,G,B)を有する第1のカラー画素と、三原色の各画素値(r,g,b)を有する第2のカラー画素と、の類否判定を行う方法であって、
コンピュータが、画素値(R,G,B)および(r,g,b)の値を取り込む準備段階と、
コンピュータが、三原色の各画素値を各座標軸にとった三次元座標系において、前記画素値(R,G,B)に対応する座標をもつ基準点Qを中心とする所定サイズの回転楕円体Eもしくはその近似体と、前記画素値(r,g,b)に対応する座標をもつ比較点qとについて、後者が前者の内部にあるか外部にあるかを調べる位置関係判定段階と、
コンピュータが、前記回転楕円体Eもしくはその近似体の外部に前記比較点qがあると判断した場合には、前記第1のカラー画素と前記第2のカラー画素とが非類似との判定結果を出力し、前記回転楕円体Eもしくはその近似体の内部に前記比較点qがあると判断した場合には、前記第1のカラー画素と前記第2のカラー画素とが類似するとの判定結果を出力する判定結果出力段階と、
を有することを特徴とする画素の類否判定方法。
【請求項18】
請求項17に記載の画素の類否判定方法において、
位置関係判定段階では、三次元座標系の原点Oと基準点Qとの距離Dに、所定のパラメータh(但し、h<1)を乗じて求まる値α=h・Dを長軸半径とし、所定のパラメータk(但し、k<h)を乗じて求まる値β=k・Dを短軸半径とする楕円を、原点Oと基準点Qとを結ぶ基準軸Z上に長軸が重なるように、かつ、基準点Qが中心点となるように配置し、前記基準軸Zを中心に回転させることにより得られる回転楕円体Eを定義することを特徴とする画素の類否判定方法。
【請求項19】
請求項18に記載の画素の類否判定方法において、
位置関係判定段階が、
「原点Oを中心とし半径(D−α)の球C1の内側に比較点qが位置する」もしくは「原点Oを中心とし半径(D+α)の球C2の外側に比較点qが位置する」という第1の条件を満足するか否かを判定する第1の条件判定段階と、
前記第1の条件判定段階において否定的判定がなされた場合に、「原点Oを頂点、基準軸Zを中心軸とし、回転楕円体Eと円で接する円錐ξもしくはその近似体の外側に比較点qが位置する」という第2の条件を満足するか否かを判定する第2の条件判定段階と、
前記第2の条件判定段階において否定的判定がなされた場合に、「回転楕円体Eの外側に比較点qが位置する」という第3の条件を満足するか否かを判定する第3の条件判定段階と、
を有し、
判定結果出力段階では、前記第1の条件判定段階、前記第2の条件判定段階、前記第3の条件判定段階のいずれかにおいて肯定的判定がなされた場合には、前記第1のカラー画素と前記第2のカラー画素とが非類似との判定結果を出力し、前記第1の条件判定段階、前記第2の条件判定段階、前記第3の条件判定段階のすべてにおいて否定的判定がなされた場合には、前記第1のカラー画素と前記第2のカラー画素とが類似するとの判定結果を出力することを特徴とする画素の類否判定方法。
【請求項20】
請求項19に記載の画素の類否判定方法において、
第1の条件判定段階で、
D2=(R2+G2+B2)
d2=(r2+g2+b2)
としたときに、
(1−h)2・D2>d2 もしくは
(1+h)2・D2<d2
という条件を満足するか否かを判定するための演算を行うことを特徴とする画素の類否判定方法。
【請求項21】
請求項19に記載の画素の類否判定方法において、
第2の条件判定段階で、
D2=(R2+G2+B2)
d2=(r2+g2+b2)、
γ=(R・r+G・g+B・b)
としたときに、
γ2/(D2・d2)<(1−k2/2)2
という条件を満足するか否かを判定するための演算を行うことを特徴とする画素の類否判定方法。
【請求項22】
請求項19に記載の画素の類否判定方法において、
第3の条件判定段階で、
α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
D2=(R2+G2+B2)
d2=(r2+g2+b2)
γ=(R・r+G・g+B・b)
としたときに、
β2・x2+α2・y2−α2・β2>0
という条件を満足するか否かを判定するための演算を行うことを特徴とする画素の類否判定方法。
【請求項23】
三原色の各画素値(R,G,B)を有する第1のカラー画素と、三原色の各画素値(r,g,b)を有する第2のカラー画素と、の類否判定を行う方法であって、
コンピュータが、パラメータh(h<1)およびk(k<h)、画素値(R,G,B)および(r,g,b)の値を取り込む準備段階と、
コンピュータが、
(1−h)2・(R2+G2+B2)>(r2+g2+b2) もしくは
(1+h)2・(R2+G2+B2)<(r2+g2+b2)
という条件を満足するか否かを判定する第1の条件判定段階と、
前記第1の条件判定段階において否定的判定がなされた場合に、コンピュータが、
(R・r+G・g+B・b)2/
((R2+G2+B2)・(r2+g2+b2))
<(1−k2/2)2
という条件を満足するか否かを判定する第2の条件判定段階と、
前記第2の条件判定段階において否定的判定がなされた場合に、コンピュータが、
β2・x2+α2・y2−α2・β2>0
但し、α2=h2・D2
β2=k2・D2
x2=D2+γ2/D2−2γ
y2=d2−γ2/D2
D2=(R2+G2+B2)
d2=(r2+g2+b2)
γ=(R・r+G・g+B・b)
という条件を満足するか否かを判定する第3の条件判定段階と、
コンピュータが、前記第1の条件判定段階、前記第2の条件判定段階、前記第3の条件判定段階のいずれかにおいて肯定的判定がなされた場合には、前記第1のカラー画素と前記第2のカラー画素とが非類似との判定結果を出力し、前記第1の条件判定段階、前記第2の条件判定段階、前記第3の条件判定段階のすべてにおいて否定的判定がなされた場合には、前記第1のカラー画素と前記第2のカラー画素とが類似するとの判定結果を出力する判定結果出力段階と、
を有することを特徴とする画素の類否判定方法。
【請求項24】
請求項20〜23のいずれかに記載の画素の類否判定方法において、
不等号を含む演算式の一部もしくは全部について、「不等号>」の代わりに「不等号≧」を用いた演算式、もしくは「不等号<」の代わりに「不等号≦」を用いた演算式を用いることを特徴とする画素の類否判定方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【公開番号】特開2011−76311(P2011−76311A)
【公開日】平成23年4月14日(2011.4.14)
【国際特許分類】
【出願番号】特願2009−226146(P2009−226146)
【出願日】平成21年9月30日(2009.9.30)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
【公開日】平成23年4月14日(2011.4.14)
【国際特許分類】
【出願日】平成21年9月30日(2009.9.30)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
[ Back to top ]