物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体
【課題】参照点を任意の位置に設定可能として、照明変動の影響をうけることなく物体を検出する。
【解決手段】複数参照点選択手段は、画像の注目画素ごとに複数の参照画素を選択し(ステップA1乃至A3)、背景モデル作成手段は、これらの注目画素および参照画素に対して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。そして、距離計算手段は、輝度空間において、上記照明変動背景モデルと、注目画素、および参照画素に対応する背景画素の輝度値の各組が表す点との間の距離を計算する(ステップA4)。物体判別手段は、この距離に基づいて注目画素が物体を表す画素か否かを判別する(ステップA5乃至A9)。
【解決手段】複数参照点選択手段は、画像の注目画素ごとに複数の参照画素を選択し(ステップA1乃至A3)、背景モデル作成手段は、これらの注目画素および参照画素に対して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。そして、距離計算手段は、輝度空間において、上記照明変動背景モデルと、注目画素、および参照画素に対応する背景画素の輝度値の各組が表す点との間の距離を計算する(ステップA4)。物体判別手段は、この距離に基づいて注目画素が物体を表す画素か否かを判別する(ステップA5乃至A9)。
【発明の詳細な説明】
【0001】
【発明の属する技術分野】
本発明は、監視カメラなどにより撮影した画像に含まれる物体を検出する物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体に関するものである。
【0002】
【従来の技術】
監視カメラなどで撮影した動画像から物体を検出する場合、日照条件などにより背景の明るさが変動しても確実に物体を検出できることが重要である。そこで、本発明の発明者らは照明変動が大きく、かつ頻繁に発生する場合でも、その影響を受けにくい物体検出技術を考案し、すでにその特許出願を行っている(特願平11−078641号)。
【0003】
この物体検出技術は、あらかじめ作成した背景画像と、現時点の画像とにおいて、注目点とは異なる位置に参照点を設け、その参照点の輝度値変化の相関情報から物体を判別するというものである。以下、原理について図面を参照して詳しく説明する。
図8は背景画像を表す説明図であり、水平方向にX軸、垂直方向にY軸がそれぞれ設定されている。ただし、必要以上に複雑になることを避けるため、背景画像はテクスチャーがなく場所によらず一定の明るさであるとする。図8において、PAは注目点、PBはその近傍に設けた参照点である。そして、注目点PAにおける輝度値をIA、参照点PBにおける輝度値をIBとする。
【0004】
図9は注目点および参照点の輝度値により形成される2次元の輝度空間を示す説明図である。この輝度空間には2次元の座標系が設定され、その横軸は上記注目点PAの輝度値IAを表し、縦軸は上記参照点PBの輝度値IBを表している。
ここで、注目点PAの輝度値がIA1、参照点PBの輝度値がIB1であったとすると、これらの輝度値の組に対応する、上記輝度空間上の点、すなわち輝度点(IA1、IB1)は、たとえば図9中の白ドット102の位置となる。
そして、背景の明るさが変化し、注目点PAの輝度値がたとえば小さくなったとすると、参照点PBの輝度値も同じ割合で小さくなる。また、注目点PAの輝度値が0なら、参照点PBの輝度値も0となる。したがって、注目点PAおよび参照点PBの輝度IA、IBの組に対応する輝度空間上の点は、背景の明るさが変化したとき、図9に示した直線104に沿って移動する。ここではこのような直線のことを照明変動背景モデルと呼ぶ。
【0005】
一方、たとえば注目点PAの位置に物体が侵入したとし、注目点PAの輝度値がIA2に下がったとすると、この場合の輝度点(IA2、IB1)はたとえば白丸ドット106の位置となる。したがって、このような輝度点と直線104との距離107を調べ、輝度点が直線104から離れている場合には、注目点の位置に物体が侵入していると判定することができる。
そして、照明変動が生じ、たとえば参照点PBの輝度値が大きくなったとすると、通常、物体上の注目点PAの輝度値も同様に大きくなるため、輝度点(IA2、IB1)はおおむね直線104と平行に右上方向(矢印A)に移動し、直線104との間の距離はあまり変化しない。したがって、照明変動が生じても物体を確実に検出することができる。
【0006】
【発明が解決しようとする課題】
しかし、上記従来技術では、参照点を注目点に接近して配置した場合には物体の輪郭部のみが抽出されて、抽出した物体画像が中抜けの状態となり、この点で改良の余地があった。
以下、図10を参照して具体的に説明する。図10は、たとえば監視カメラの撮影領域に物体が侵入した場合の撮影画像を示す説明図である。背景は図8の場合と同様、場所によらず一定の明るさであるとする。
この画像に対して、図10に示したように、注目点PAを設定し、近接して参照点PBを設定したとすると、図10の状態ではこれらの点はいずれも物体108上に在り、両点の輝度はともに同じ程度に低下するため、輝度空間において注目点PAおよび参照点PBが対応する輝度点(IA、IB)は、図9に示した直線104上の黒ドット110の位置となる。そして、黒ドット110と直線104との間の距離は零であるから、この場合、注目点PAは、物体上にはないと判定することになり、注目点PAが物体108上に在るにも係わらず物体を検出することができない。
【0007】
一方、注目点PAと参照点PBを同様の間隔で設定した場合でも、物体108の縁部で、たとえば注目点PAが物体108上となり、参照点PBが背景上となる位置に各点を設定した場合には、両点に輝度差が生じ、図9において対応する輝度点は直線104から離れた位置となるため、物体108を検出することができる。
したがって、特願平11−078641号の技術では、注目点と参照線とを近接して配置した場合には、物体の縁部、すなわち輪郭部のみが検出されることになる。
【0008】
そこで、物体の輪郭部だけでなく全体を検出するためには、参照点を注目点から充分に離して配置する必要がある。
また、特願平11−078641号の技術では、参照点はかならず、物体が侵入する可能性のある領域の外に設定する必要がある。これについて図11を参照して説明する。図11R>1の(A)は画像面を示す説明図、(B)は物体が撮影領域に侵入した場合の模式図、(C)は検出結果を示す模式図である。
【0009】
図11の(A)に示したように、画像上に注目点PAと注目点PBとを離して設定した場合、図11の(B)に示したように、物体108が注目点PAの位置に侵入すると、注目点PAと参照点PBとの間で輝度差が生じて物体108が検出される。しかし、物体108が参照点PBの位置に侵入した場合にも同様の輝度差が生じるため、この場合にも物体108は検出されることになる。
したがって、注目点PAに物体108が侵入して検出された場合、物体108が注目点PAの位置に存在するのか、あるいは参照点PBの位置に存在するのかを特定することができず、その結果、注目点PAの位置のみに物体108が存在するにもかかわらず、図11の(C)に示したように、両方の位置に物体108が存在するように物体像109が生成されてしまう。
【0010】
そのため、このような現象を回避すべく、参照点はかならず、物体が侵入する可能性のある領域の外に設定しなければならない。
本発明はこのような欠点を除去するためになされたもので、その目的は、照明変動が大きく、かつ頻繁に発生する場合にも安定で、しかも高精度に物体を検出できるとともに、参照点を任意の位置に設定して確実に物体を検出することが可能な物体検出装置、物体検出方法、ならびに物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体を提供することにある。
【0011】
【課題を解決するための手段】
本発明は、上記目的を達成するため、撮影画像を用いて物体を検出する物体検出装置であって、前記撮影画像の各画素の輝度値を取り込んで保持する画像入力手段と、前記撮影画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を前記画像入力手段から前記注目画素ごとに取得する複数参照点選択手段と、前記撮影画像の背景を成す背景画像の各画素の輝度値を保持する背景画像保持手段と、前記複数参照点選択手段が選択した前記注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記背景画像保持手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを前記注目画素と、同画素に対応する各参照画素との組ごとに作成する背景モデル作成手段と、輝度空間において、前記背景モデル作成手段が前記注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、前記複数参照点選択手段が前記注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと前記注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する距離計算手段と、前記注目画素と各参照画素との組ごとに、前記距離計算手段が計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って前記注目画素が物体を表す画素か否かを最終的に判別する物体判別手段とを備えたことを特徴とする。
【0012】
本発明の物体検出装置では、画像入力手段は、撮影画像の各画素の輝度値を取り込んで保持し、複数参照点選択手段は、前記画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を画像入力手段から注目画素ごとに取得する。そして、背景モデル作成手段は、複数参照点選択手段が選択した注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを注目画素と、同画素に対応する各参照画素との組ごとに作成する。
【0013】
その上で、距離計算手段は、輝度空間において、背景モデル作成手段が注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、複数参照点選択手段が注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する。
そして、物体判別手段は、注目画素と各参照画素との組ごとに、距離計算手段が計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って注目画素が物体を表す画素か否かを最終的に判別する。
【0014】
また、本発明は、撮影画像を用いて物体を検出する物体検出装置であって、前記撮影画像の各画素の輝度値を取り込んで保持する画像入力手段と、前記撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、前記注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記画像入力手段から取得する水平参照点選択手段と、前記撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、前記注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記画像入力手段から取得する垂直参照点選択手段と、前記撮影画像の背景を成す画像の各画素の輝度値を保持する背景画像保持手段と、前記水平参照点選択手段が選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記背景画像保持手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する水平背景モデル作成手段と、前記垂直参照点選択手段が選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記背景画像保持手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する垂直背景モデル作成手段と、多次元輝度空間において、前記水平背景モデル作成手段が作成した前記照明変動背景モデルと、前記水平参照点選択手段が取得した前記複数の輝度値が表す点との間の距離を計算する水平距離計算手段と、多次元輝度空間において、前記垂直背景モデル作成手段が作成した前記照明変動背景モデルと、前記垂直参照点選択手段が取得した前記複数の輝度値が表す点との間の距離を計算する垂直距離計算手段と、前記水平距離計算手段および前記垂直距離計算手段が計算した前記距離にもとづいて、前記注目水平画素列および前記注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する物体判別手段とを備えたことを特徴とする。
【0015】
本発明の物体検出装置では、画像入力手段は撮影画像の各画素の輝度値を取り込んで保持し、水平参照点選択手段は、撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を画像入力手段から取得する。また、垂直参照点選択手段は、撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を画像入力手段から取得する。
そして、水平背景モデル作成手段は、水平参照点選択手段が選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成し、垂直背景モデル作成手段は、垂直参照点選択手段が選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
【0016】
その後、水平距離計算手段は、多次元輝度空間において、水平背景モデル作成手段が作成した前記照明変動背景モデルと、水平参照点選択手段が取得した前記複数の輝度値が表す点との間の距離を計算し、垂直距離計算手段は、多次元輝度空間において、垂直背景モデル作成手段が作成した前記照明変動背景モデルと、垂直参照点選択手段が取得した前記複数の輝度値が表す点との間の距離を計算する。
そして、物体判別手段は、水平距離計算手段および垂直距離計算手段が計算した前記距離にもとづいて、注目水平画素列および注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する。
【0017】
また、本発明は、撮影画像を用いて物体を検出する物体検出方法であって、前記撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させる画像入力ステップと、前記撮影画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を前記第1の記憶手段から前記注目画素ごとに取得する複数参照点選択ステップと、前記撮影画像の背景を成す背景画像の各画素の輝度値を第2の記憶手段に保持させる背景画像保持ステップと、前記複数参照点選択ステップで選択した前記注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを前記注目画素と、同画素に対応する各参照画素との組ごとに作成する背景モデル作成ステップと、輝度空間において、前記背景モデル作成ステップで前記注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、前記複数参照点選択ステップで前記注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと前記注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する距離計算ステップと、前記注目画素と各参照画素との組ごとに、前記距離計算ステップで計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って前記注目画素が物体を表す画素か否かを最終的に判別する物体判別ステップとを備えたことを特徴とする。
【0018】
また、本発明は、撮影画像を用いて物体を検出する物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体であって、前記撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させる画像入力ステップと、前記撮影画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を前記第1の記憶手段から前記注目画素ごとに取得する複数参照点選択ステップと、前記撮影画像の背景を成す背景画像の各画素の輝度値を第2の記憶手段に保持させる背景画像保持ステップと、前記複数参照点選択ステップで選択した前記注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを前記注目画素と、同画素に対応する各参照画素との組ごとに作成する背景モデル作成ステップと、輝度空間において、前記背景モデル作成ステップで前記注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、前記複数参照点選択ステップで前記注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと前記注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する距離計算ステップと、前記注目画素と各参照画素との組ごとに、前記距離計算ステップで計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って前記注目画素が物体を表す画素か否かを最終的に判別する物体判別ステップとを含むことを特徴とする。
【0019】
本発明の物体検出方法および本発明のコンピュータ読み取り可能な情報記録媒体に記録された物体検出プログラムでは、画像入力ステップにおいて、撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させ、複数参照点選択ステップでは、前記画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を第1の記憶手段から注目画素ごとに取得する。そして、背景モデル作成ステップでは、複数参照点選択ステップで選択した注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を第2の記憶手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを注目画素と、同画素に対応する各参照画素との組ごとに作成する。
【0020】
その上で、距離計算ステップでは、輝度空間において、背景モデル作成ステップで注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、複数参照点選択ステップで注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する。
そして、物体判別ステップでは、注目画素と各参照画素との組ごとに、距離計算ステップで計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って注目画素が物体を表す画素か否かを最終的に判別する。
【0021】
また、本発明は、撮影画像を用いて物体を検出する物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体であって、前記撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させる画像入力ステップと、前記撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、前記注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記第1の記憶手段から取得する水平参照点選択ステップと、前記撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、前記注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記第1の記憶手段から取得する垂直参照点選択ステップと、前記撮影画像の背景を成す画像の各画素の輝度値を第2の記憶手段に保持させる背景画像保持ステップと、前記水平参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する水平背景モデル作成ステップと、前記垂直参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する垂直背景モデル作成ステップと、多次元輝度空間において、前記水平背景モデル作成ステップで作成した前記照明変動背景モデルと、前記水平参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する水平距離計算ステップと、多次元輝度空間において、前記垂直背景モデル作成ステップで作成した前記照明変動背景モデルと、前記垂直参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する垂直距離計算ステップと、前記水平距離計算ステップおよび前記垂直距離計算ステップで計算した前記距離にもとづいて、前記注目水平画素列および前記注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する物体判別ステップとを含むことを特徴とする。
【0022】
また、本発明は、撮影画像を用いて物体を検出する物体検出方法であって、前記撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させる画像入力ステップと、前記撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、前記注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記第1の記憶手段から取得する水平参照点選択ステップと、前記撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、前記注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記第1の記憶手段から取得する垂直参照点選択ステップと、前記撮影画像の背景を成す画像の各画素の輝度値を第2の記憶手段に保持させる背景画像保持ステップと、前記水平参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する水平背景モデル作成ステップと、前記垂直参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する垂直背景モデル作成ステップと、多次元輝度空間において、前記水平背景モデル作成ステップで作成した前記照明変動背景モデルと、前記水平参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する水平距離計算ステップと、多次元輝度空間において、前記垂直背景モデル作成ステップで作成した前記照明変動背景モデルと、前記垂直参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する垂直距離計算ステップと、前記水平距離計算ステップおよび前記垂直距離計算ステップで計算した前記距離にもとづいて、前記注目水平画素列および前記注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する物体判別ステップとを備えたことを特徴とする。
【0023】
本発明の物体検出方法および本発明のコンピュータ読み取り可能な情報記録媒体に記録された物体検出プログラムでは、画像入力ステップにおいて撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させ、水平参照点選択ステップでは、撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を第1の記憶手段から取得する。また、垂直参照点選択ステップでは、撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を第1の記憶手段から取得する。
そして、水平背景モデル作成ステップでは、水平参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を第1の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成し、垂直背景モデル作成ステップでは、垂直参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
【0024】
その後、水平距離計算ステップでは、多次元輝度空間において、水平背景モデル作成ステップで作成した前記照明変動背景モデルと、水平参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算し、垂直距離計算ステップでは、多次元輝度空間において、垂直背景モデル作成ステップで作成した前記照明変動背景モデルと、垂直参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する。
そして、物体判別ステップでは、水平距離計算ステップおよび垂直距離計算ステップで計算した前記距離にもとづいて、注目水平画素列および注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する。
【0025】
【発明の実施の形態】
次に本発明の実施の形態例について図面を参照して説明する。
まず、第1の実施の形態例における物体検出の原理について説明する。図3の(A)は画像面における注目点と参照点との位置関係を示す説明図、(B)は物体が撮影領域に侵入した場合の模式図、(C)は検出結果を示す模式図、(D)は画像面における注目点と参照点との位置関係を示す他の説明図、(E)は検出結果を示す他の模式図、(F)は最終的な検出結果を示す模式図である。
【0026】
図3の(A)に示したように、画像上に注目点PAと注目点PBとを離して設定した場合、図3の(B)に示したように、物体108が注目点PAの位置に侵入すると、注目点PAと参照点PBとの間で輝度差が生じるので、照明変動背景モデルを用いた従来と同じ手法で検出を行って物体108を検出する。そして、検出結果は、図3の(C)に示したように、従来と同様、注目点PAと参照点PBの両方に物体108が存在する可能性があることを示すものとなる。
【0027】
一方、本実施の形態例では、図3の(D)に示したように、参照点PBとは異なる参照点PCをさらに設定する。そして、注目点PAと参照点PCとの組に関しても従来と同様の手法で物体の検出を行う。その結果、上述のように物体108が注目点PAに侵入した場合、検出結果では図3の(E)に示したように、注目点PAと参照点PCの両方の位置に物体108が存在する可能性があることを示すものとなる。
【0028】
本実施の形態例では、さらに、この2つの検出結果、すなわち図3の(C)と(E)の論理積をとる。したがって、図3の(F)に示したように、図3の(C)と(E)の両方に共通して存在する注目点PAの位置の物体像111のみが残り、注目点PAに侵入した物体108がその位置を特定して確実に検出される。そして、本実施の形態例では注目点と参照点とをある程度離して配置することができることから、検出された物体の画像は輪郭部だけでなく内側の領域も描画された画像となる。
【0029】
なお、一般に、1つの注目点に対し、注目点を含むN個(Nは3以上の整数)の異なる参照点を設定した場合、次式により表される条件を満たすことで物体の存在領域を特定することができる。
【0030】
【数1】
dist(Pi、Pj)>ObjectSize
だだし、1≦i、j≦N(i≠j)であり、dist(A、B)は点A、B間の距離を表す。また、ObjectSizeは画像上での物体の大きさを表している。
【0031】
次に、本発明の第1の実施形態について図面を参照して詳細に説明する。
図1は第1の実施の形態例の物体検出装置を示すブロック図、図2は図1の物体検出装置の動作を示すフローチャートである。以下では、これらの図面を参照して本発明の物体検出装置の一例について説明すると同時に本発明の物体検出方法および物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体の実施の形態例について説明する。
【0032】
図1に示した物体検出装置2は、画像入力手段4、複数参照点選択手段6、背景画像保持手段8、背景モデル作成手段10、距離計算手段12、物体判別手段14、ならびに背景作成手段16を含み、たとえば監視カメラにより撮影した画像から物体を検出する構成となっている。
物体検出装置2は具体的には、一例として、監視カメラやビデオテープレコーダとのインターフェースなども備え、所定のオペレーティングシステムが組み込まれたコンピュータにより構成されており、コンピュータを構成する入力装置に、本発明の物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体としてのたとえばCD−ROMを装着してCD−ROMからプログラムデータを読み込み、コンピュータのメモリにロードして、コンピュータのCPUを同プログラムデータにもとづいて動作させることで実現されている。
【0033】
画像入力手段4は、監視カメラにより撮影された画像、あるいは撮影後、ビデオテープレコーダに録画された画像を、監視カメラやVTRなどから取り込んで保持する。より詳しくは、画像入力手段4は、撮影画像の各画素の輝度値を取り込んで保持する。なお、画像入力手段4が取り込む画像は動画像であっても、静止画像であってもよい。また、画像入力手段4は、自身が画像を撮像するカメラを備えた構成であってもよい。
【0034】
複数参照点選択手段6は、前記画像の注目画素(注目点の位置の画素)ごとに、あらかじめ決められた複数の参照画素(参照点の位置の画素)を選択して、選択した複数の参照画素および注目画素の各輝度値を画像入力手段4から注目画素ごとに取得する。なお、1つの注目画素に対応する上記複数の参照画素は参照画素群ともいう。
背景画像保持手段8は、撮影領域の背景画像の各画素の輝度値を保持している。背景画像保持手段8が保持する輝度値は、本実施の形態例では、後に説明するように背景作成手段16により適宜更新される。
背景モデル作成手段10は、複数参照点選択手段6が選択した注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段8から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを注目画素と、同画素に対応する各参照画素との組ごとに作成する。
【0035】
そして、距離計算手段12は、輝度空間において、背景モデル作成手段10が注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、複数参照点選択手段6が注目画素ごとに取得した複数の参照画素の輝度値のそれぞれと注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する。
【0036】
物体判別手段14は、注目画素と各参照画素との組ごとに、距離計算手段12が計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、注目画素と各参照画素との組ごとの判別結果に対し論理演算を行って注目画素が物体を表す画素か否かを最終的に判別する。
そして、画像出力手段15は、物体判別手段14が出力する判別結果の画像データを不図示の表示装置などへ出力する。
また、背景作成手段16は、物体判別手段14が物体を表す画素ではないと判別した注目画素と、同画素に対応する前記複数の参照画素のそれぞれに対応する背景画像の画素の輝度値を、注目画素および参照画素の輝度値にもとづき更新して背景画像保持手段8に保持させる。
【0037】
次に、このように構成された第1の実施の形態例の動作について説明する。
図2に示したように、まず、物体検出装置2の画像入力手段4は、監視カメラなどによって撮像された画像を読み込み、画像を構成する各画素ごとの輝度値を画像入力手段4内に設けられた不図示のメモリに保持する(ステップA1)。
画像はマトリクス状に配列された多数の画素により構成され、画像入力手段4はこのような画素の輝度値を2次元配列のデータとして保持する。また、各画素は上記メモリのxアドレスとyアドレスを指定することで特定可能となっており、xアドレスはマトリクスの列番号に対応し、yアドレスはマトリクスの行番号に対応している。
【0038】
そして、複数参照点選択手段6は、上記画像の注目画素ごとに、あらかじめ決められた複数の参照画素を選択して、選択した複数の参照画素および注目画素の各輝度値を画像入力手段4の上記メモリから注目画素ごとに取得する(ステップA2)。
上記参照画素はそれぞれ、検出すべき侵入物体の大きさよりも大きい距離だけ注目画素から離れた位置に設定されている。
たとえば、侵入物体の画面上での大きさが100画素未満であるとし、現在の注目画素点PAと、この画素とは異なるもう1つの画素点PBを参照点とする場合、図3の(A)に示したように参照点PBは、注目点PAからx軸方向に100画素離れた位置に設定する。このとき、注目点PAにおける輝度値はI(x、y)、参照点PBにおける輝度値はI(x+100、y)のように表すことができる。
同様に、もう1つの参照点PCを設定する場合、図3の(D)に示したように、参照点PCは注目点PAからx軸の反対方向に100画素離れた位置に設定する。参照点PCにおける輝度値はI(x−100、y)のように表すことができる。
【0039】
本実施の形態例では、複数参照点選択手段6は、注目点PAに対し注目点以外に2つの参照点PB、PCを設定するものとし、したがって、注目点および各参照点にそれぞれ対応する1つの注目画素と2つの参照画素を設定するものとする。次に、複数参照点選択手段6は、ステップA2で得た注目画素および参照画素の各輝度値を背景作成手段16に供給する(ステップA3)。この段階では、背景画像保持手段8を構成するメモリには、背景画像を構成する各画素の輝度値はまだ格納されていないため、背景作成手段16は、複数参照点選択手段6から供給された各輝度値を、それぞれ対応する背景画像の画素の輝度値として、背景画像保持手段8に保持させる。
【0040】
次に、背景モデル作成手段10は、背景画像保持手段8が保持している背景画像の各画素の輝度値を用いて照明変動背景モデルを作成する。
たとえば注目画素が図3における注目点PAに対応するpaであり、参照画素が参照点PB、PCに対応するpb、pcであったとすると、背景モデル作成手段10はまず、注目画素paおよび参照画素pbに対応する、背景画像における2つの画素の輝度値を背景画像保持手段8から取得する。
【0041】
そして、これら2つの輝度値を用いて、注目画素paと参照画素pbとの組に対応するものとして、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。具体的には、図9に示したような、注目画素paに対応する背景画素の輝度値を横軸、参照画素pbに対応する背景画素の輝度値を縦軸とする輝度空間において、注目画素paと参照画素pbに対応する背景画素の輝度値の組が表す点と、原点を通過する直線を求め、その直線を上記照明変動背景モデルとする。
背景モデル作成手段10は、注目画素paと参照画素pcとの組に対しても同様に照明変動背景モデルを作成する。
【0042】
なお、注目画素ごとに参照する画素の数が注目画素も含めてN個であれば、1つの注目画素ごとにN個の背景画像の画素の輝度値を用いることになり、したがって注目画素ごとの背景の輝度値の組はN次元のベクトルとして表すことができる。
本実施例では注目画素と1参照点の組を2組用いているので、背景の輝度値は2組の2次元ベクトルとなる。
【0043】
その後、距離計算手段12は、注目画素paおよび参照画素pbの組に対して、上記輝度空間において、上記照明変動背景モデルと、注目画素paおよび参照画素pbの輝度値の組が表す点との間の距離を計算し、さらに、注目画素paおよび参照画素pcの組に対しても同様の距離を計算する(ステップA4)。
【0044】
ここで、注目画素pa、参照画素pb、pcに対応する背景画素の輝度値をia0、ib0、ic0とし、注目画素pa、参照画素pb、pcの輝度値をia1、ib1、ic1とすると、注目画素paと参照画素pbとの組に対応する照明変動背景モデルと、輝度値ia1、ib1に対応する点との間の距離D1、ならびに注目画素paと参照画素pcとの組に対応する照明変動背景モデルと、輝度値ia1、ic1に対応する点との間の距離D2はそれぞれ[数2]、[数4]に示した式によって計算することができる。
【0045】
【数2】
【0046】
【数3】
次に、物体判別手段14は、ステップA4において求められた距離D1、D2と、あらかじめ設定されているしきい値T1、T2とを比べ(ステップA5)、これらの距離およびしきい値が[数4]を満たす場合には、注目画素paは物体を表す画素であり、対応箇所に物体が存在すると判断し、一方、[数4]を満たさない場合には、注目画素paは背景を表す画素であると判断する(ステップA6、S7、S8、S9)。
【0047】
【数4】
より詳しくは、物体判別手段14は、複数距離計算手段が計算した距離D1、D2がそれぞれ上記しきい値T1、T2より大きいか否かを調べる(ステップA5)。たとえば距離D1がしきい値T1より大きい場合には、物体判別手段14は注目画素paおよび参照画素pbは物体を表す画素である可能性があるとし、検出結果として両画素に論理”1”を対応づける。また、距離D2も、しきい値T2より大きい場合には、物体判別手段14は、注目画素paおよび参照画素pcは物体を表す画素である可能性があるとし、検出結果として両画素に論理”1”を対応づける。
一方、距離D1、D2がT1、T2より小さい場合には、各画素には論理”0”を対応づける。
【0048】
その上で、物体判別手段14は、これらの検出結果の論理積をとり(ステップA6)、そして値を判定して(ステップA7)、結果が論理”1”の場合は注目画素paは物体を表す画素であるとし(ステップA8)、論理”0”の場合は注目画素paは物体を表さず、背景を表す画素であるとする(ステップA9)。
たとえば、距離D1がしきい値T1より大きい場合、物体判別手段14が各画素pa、pb、pcに対応づける値は”1”、”1”、”0”となり、また、距離D2がしきい値T2より大きい場合、物体判別手段14が各画素pa、pb、pcに対応づける値は”1”、”0”、”1”となる。したがって、各画素ごとに、これらの値の論理積をとると、それぞれ”1”、”0”、”0”となり、画素paに対する論理値のみが”1”となる。したがって、物体判別手段14は、注目画素paが物体を表す画素であると判断する。
【0049】
一般に注目画素以外にN個の参照点をとった場合、各参照点ごとに距離Diを計算し、各参照点ごとのしきい値Tiを用いて、[数5]が成立するか否かにより注目画素が物体を表す画素であるか否かを判別することができる。
【0050】
【数5】
このようなステップA2からS9までの処理を、画像入力手段4が保持している全画素を次々に注目画素に設定して行うことで(ステップA10)、撮影画像上の物体を検出することができる。
検出された物体は、画像出力手段15により出力され、表示装置に表示される。その際、ステップA7、A8において、物体を表すと判別された注目画素の表示色を、背景とは異なる色で表示すれば、画面上で検出物体の形状などをより明瞭に把握することができる。
【0051】
なお、ステップA10において、すべての画素について処理が終わったと判断された場合に、物体であると判別された画素の数をカウントして、このカウント値が予め設定されたしきい値より大きい場合にのみ物体が存在すると判断するようにしてもよい。これによって、ある大きさ以上の物体のみを検出することが可能となる。
【0052】
一方、ステップA7、A9で注目画素が物体を表す画素ではないと判別された場合には、背景作成手段16は、同注目画素および対応する複数の参照画素の輝度値にもとづいて、対応する背景画像の画素の輝度値を更新し、背景画像保持手段8に保持させる(ステップA3)。
なお、最初の入力画像に移動物体が含まれていなければ、基本的に背景画像の各画素の輝度値は更新する必要はない。しかし、ノイズ等の影響で、背景領域の輝度値が照明変動以外の要因でばらつきを起こしうるため、物体判別手段14により背景とみなされた画素において随時輝度値を更新していくことで誤差を抑えることができる。
【0053】
また、このような背景画像の更新において、新旧の輝度値に重みを乗じて徐々に更新するという方法をとることができる。すなわち、物体判別手段14で注目画素paが背景画素とみなされた場合、[数6]のように新しく加わるデータに重みをかけ徐々に更新することができる。
【0054】
【数6】
ここで、PA_newは注目画素paと参照画素pb、pcに対応する背景画素の輝度値による3次元輝度値行列、PA_oldは今までの注目画素paと参照画素pb、pcに対応する背景画素の輝度値による3次元背景輝度行列である。また、IAは、注目画素paと参照画素pb、pcの輝度値行列、αは上記重み定数である。
【0055】
次に、ステップA10において、すべての画素に対して前述した判別処理が終了したと判断された場合、画像入力手段4は、次の画像があるか否かを判断し(ステップA11)、次の画像がある場合はステップA1に戻って、画像を取得し、以降、上述した各処理が繰り返される。そして、すべての画像に対して処理が終了した時点で、物体検出処理を終了する。
以上の処理を監視カメラから画像が取り込まれるごとに行うことで、物体検出を逐次行うことができる。
【0056】
図4の(A)は、道路を黒い車が走っている原画像を示す模式図、(B)は従来技術による車の検出結果を示す説明図、(C)は本実施の形態例による車の検出結果を示す説明図である。
図4の(B)は、図4の(A)に示した原画像および背景画像により図8などを用いて説明した従来技術にもとづき車の検出を行った結果を示し、注目点および参照点を隣接させて物体検出を行ったため、車の輪郭部のみが検出されている。
【0057】
これに対して、本実施の形態例による検出結果である図4の(C)では、車の輪郭部だけでなく、輪郭の内側も含め、車全体が検出されており、より明瞭に、したがって確実に車が検出されている。
本実施の形態例では、上述したように、各注目画素ごとに選択する参照画素を、注目画素に対し、物体の大きさ以上に離して設定する。したがって、注目画素と参照画素とを接近させて設定した場合のように物体の輪郭部のみが検出されるといったことがない。
そして、1つの注目画素に対して複数の参照画素を設定し、注目画素と各参照画素との組ごとに物体検出を行って、最終的に論理演算により注目画素が物体の画素か否かを判別するので、注目画素と参照画素とを離して設定しても、物体の位置を確実に特定できる。
【0058】
また、上記従来技術と同様、輝度空間における照明変動背景モデルと輝度点との距離にもとづいて注目画素が画像を表すか否かを判定しているので、照明変動が大きく、かつ頻繁に発生する場合にも安定で、しかも高精度に物体を検出することができる。
【0059】
次に、本発明の第2の実施形態について説明する。
図5は第2の実施の形態例の物体検出装置2を示すブロック図、図6は図5の物体検出装置の動作を示すフローチャートである。以下では、これらの図面を参照して本発明の第2の実施の形態例の物体検出装置について説明すると同時に本発明の第2の実施の形態例の物体検出方法および物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体について説明する。なお、図5において図1と同一の要素には同一の符号が付されており、それらに関する説明はここでは省略する。
【0060】
図5に示した物体検出装置18が上記物体検出装置2と異なるのは、物体自体を検出するのではなく物体の外接矩形を求める点であり、その結果、少ない計算量で物体を検出することが可能となる。
物体検出装置18は、画像入力手段4、本発明に係わる水平参照点選択手段および垂直参照点選択手段として機能する複数参照点選択手段20、背景画像保持手段8、本発明に係わる水平背景モデル作成手段および垂直背景モデル作成手段として機能する背景モデル作成手段22、本発明に係わる水平距離計算手段および垂直距離計算手段として機能する距離計算手段24、物体判別手段26、背景作成手段28、ならびに画像出力手段15を含み、たとえば監視カメラにより撮影した画像から物体を検出する構成となっている。
【0061】
物体検出装置18は上記物体検出装置2と同様、具体的には、一例として監視カメラやビデオテープレコーダとのインターフェースなども備えたコンピュータにより構成されており、コンピュータを構成する入力装置に、本発明の物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体としてのたとえばCD−ROMを装着してCD−ROMからプログラムデータを読み込み、コンピュータのメモリにロードして、コンピュータのCPUを同プログラムデータにもとづいて動作させることで実現されている。
【0062】
物体検出装置18の複数参照点選択手段20は、水平参照点選択手段として機能して、撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を画像入力手段4から取得する。
また、複数参照点選択手段20は、垂直参照点選択手段として機能して、撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を画像入力手段4から取得する。
【0063】
そして、背景モデル作成手段22は、水平背景モデル作成手段として機能して、水平参照点選択手段が選択した複数の参照画素にそれぞれ対応する、背景画像における複数の画素の輝度値を背景画像保持手段8から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
また、背景モデル作成手段22は、垂直背景モデル作成手段として機能して、垂直参照点選択手段が選択した複数の参照画素にそれぞれ対応する、背景画像における複数の画素の輝度値を背景画像保持手段8から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
【0064】
複数距離計算手段2は、水平距離計算手段として機能して、多次元輝度空間において、水平背景モデル作成手段としての背景モデル作成手段22が作成した前記照明変動背景モデルと、水平参照点選択手段としての複数参照点選択手段20が取得した複数の輝度値が表す点との間の距離を計算する。
また、複数距離計算手段2は、垂直距離計算手段として機能して、多次元輝度空間において、垂直背景モデル作成手段としての背景モデル作成手段22が作成した前記照明変動背景モデルと、垂直参照点選択手段としての複数参照点選択手段20が取得した前記複数の輝度値が表す点との間の距離を計算する。
【0065】
物体判別手段26は、上記水平距離計算手段および垂直距離計算手段としての複数距離計算手段2が計算した前記距離にもとづいて、注目水平画素列および注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する。
背景作成手段28は、物体判別手段26が物体を表す画素を含まないと判別した前記注目水平画素列および注目垂直画素列を構成する各画素の輝度値にもとづいて、対応する前記背景画像の画素の輝度値を更新して背景画像保持手段8に保持させる。
【0066】
次に、このように構成された物体検出装置18の動作について説明する。
図7は第2の実施の形態例の動作を説明するための図であって、(A)は垂直方向における物体の存在可能領域の検出を表す説明図、(B)は水平方向における物体の存在可能領域の検出を表す説明図、(C)は検出結果を示す説明図である。以下では、図5とともに図6、図7を参照して説明する。
【0067】
図6に示したように、まず、画像入力手段4は、監視カメラなどによって撮像された画像を読み込み、画像を構成する各画素ごとの輝度値を画像入力手段4内に設けられた不図示のメモリに保持する(ステップB1)。
次に、複数参照点選択手段20は、撮影画像において垂直方向のアドレスyにおける1行分の画素を注目水平画素列とし、またこの1行分の画素を参照画素(参照画素群)に選択して、各参照画素の輝度値を画像入力手段4から取得する(ステップB4)。したがって、撮影画像の幅がWidth画素(Widthは正の整数)であったとすると、上記注目水平画素列にはWidth個の画素が含まれ、複数参照点選択手段20は、本実施の形態例ではこれらすべて画素を参照画素とする。
【0068】
そして、背景モデル作成手段22は、複数参照点選択手段20が選択した上記参照画素にそれぞれ対応する、背景画像における各画素の輝度値を背景画像保持手段8から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
その後、複数距離計算手段24は、参照画素の輝度値によって形成される多次元輝度空間において、背景モデル作成手段22が作成した前記照明変動背景モデルと、複数参照点選択手段20が取得した上記複数の輝度値が表す点との間の距離を計算する(ステップB6)。
【0069】
つづいて、物体判別手段26は、複数距離計算手段24がこのように計算した距離をしきい値と比較して、距離がしきい値より大きい場合には、上記注目水平画素列に対応づけて論理”1”を保持し、距離がしきい値より小さい場合には論理”0”を保持する(ステップB8)。
複数参照点選択手段20、背景モデル作成手段22、ならびに複数距離計算手段2は、このような処理を、アドレスyの値を1ずつ大きくしながら、画像の垂直方向の全範囲において行う(ステップB10)。
その結果、図7の(A)に示したように、物体108が図のように存在する場合、Hの範囲内の各注目水平画素列に対して、物体判別手段26は論理”1”を保持することになる。
【0070】
また、複数参照点選択手段20、背景モデル作成手段22、ならびに複数距離計算手段2は、同様の処理を、画像の水平方向においても行う。
すなわち、複数参照点選択手段20は、撮影画像において水平方向のアドレスxにおける1列分の画素を注目垂直画素列とし、またこの1列分の画素を参照画素(参照画素群)に選択して、各参照画素の輝度値を画像入力手段4から取得する(ステップB2)。したがって、撮影画像の高さがHeight画素(Heightは正の整数)であったとすると、上記注目垂直画素列にはHeight個の画素が含まれ、複数参照点選択手段20は、本実施の形態例ではこれらすべて画素を参照画素とする。
【0071】
そして、背景モデル作成手段22は、複数参照点選択手段20が選択した上記参照画素にそれぞれ対応する、背景画像における各画素の輝度値を背景画像保持手段8から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
その後、複数距離計算手段24は、参照画素の輝度値によって形成される多次元輝度空間において、背景モデル作成手段22が作成した前記照明変動背景モデルと、複数参照点選択手段20が取得した上記複数の輝度値が表す点との間の距離を計算する(ステップB5)。
【0072】
つづいて、物体判別手段26は、複数距離計算手段2がこのように計算した距離をしきい値と比較して、距離がしきい値より大きい場合には、上記注目垂直画素列に対応づけて論理”1”を保持し、距離がしきい値より小さい場合には論理”0”を保持する(ステップB7)。
複数参照点選択手段20、背景モデル作成手段22、ならびに複数距離計算手段24は、このような処理を、アドレスyの値を1ずつ大きくしながら、画像の水平方向の全範囲において行う(ステップB9)。
その結果、図7の(B)に示したように、Wの範囲内の各注目垂直画素列に対して、物体判別手段26は論理”1”を保持することになる。
【0073】
その後、物体判別手段26は、各注目水平画素列および各注目垂直画素列ごとに保持している論理値の論理積をとることで(ステップB11)、検出結果としての矩形領域の画像を保持するためのメモリ(図示せず)において、各画素ごとに、その値が論理”1”か論理”0”かを決定する。
詳しくは、値を決定すべき画素に対応する位置の撮影画像の画素を含む注目水平画素列および注目垂直画素列に対して、共に論理”1”を保持している場合には、上記画素の値は論理”1”に設定する。一方、対応する撮影画像の画素を含む注目水平画素列および注目垂直画素列の少なくとも一方に対して論理”0”を保持している場合には、上記画素の値は論理”0”に設定する(ステップB12、B13、B14)。その結果、検出結果を保持する上記メモリにおいて、図7の(C)に示したように、物体を含む可能性のある矩形領域R内の画素の値は論理”1”となり、それ以外の画素の値は論理”0”となる。
【0074】
したがって、このメモリの内容を画像出力手段15により表示装置に表示すれば、物体を含む矩形領域が画面に表示されることになる。また、矩形領域Rの4辺は物体108の外接矩形となっている。
そして、撮影画像の幅がWidth画素、高さがHeight画素であった場合、上記第1の実施の形態例では、各画素ごとに背景モデルの作成や距離の計算を行うので、このような演算処理を(Width×Heigh)回行う必要がある。
しかし、第2の実施の形態例では、各水平画素列ごとに上記演算処理を行い、また各垂直画素列ごとに上記演算処理を行えばよいので、演算処理の回数は全体で(Width+Height)回となる。したがって、演算量は第1の実施の形態例の場合にくらべ大幅に低減し、高速に物体検出を行ったり、装置の低コスト化を図る場合に非常に有利である。
【0075】
なお、物体検出装置2の場合と同様に、背景作成手段28は、物体判別手段26が物体を表す画素を含まないと判別した注目水平画素列および注目垂直画素列を構成する各画素の輝度値にもとづいて、対応する背景画像の画素の輝度値を更新して背景画像保持手段8に保持させる。これにより最新の背景画像を用いて精度の高い物体検出を行うことができる。
また、処理すべき画像がさらに存在する場合には、物体検出装置2の場合と同様、以上の手順が次の画像に対して繰り返される(ステップB15)。
【0076】
なお、この第2の実施の形態例では、注目水平画素列および注目垂直画素列において、各画素列のすべての画素を参照画素にするとしたが、数画素ごとに選択するなどの間引きを行って、さらに演算量の低減を図ることも可能である。
さらに、たとえば水平方向および垂直方向のいずれか一方でまず物体の存在可能領域を確定し、その上で、その領域内でのみ他方の方向における処理を行えば、物体が存在する可能性のない領域では演算処理を行わなくても済むため、さらに演算量を削減することが可能となる。
【0077】
なお、ここでは物体検出装置2および物体検出装置18はコンピュータにより構成されているとしたが、物体検出装置2および物体検出装置18を専用のハードウェアにより構成することも無論可能である。また、本発明に係わる機能のうち、一部の機能をコンピュータに所定のプログラムをロードして実現し、他の機能は専用のハードウェアによって実現したり、さらには、コンピュータにすでに組み込まれているプログラムを組み合わせて用いることで物体検出装置2および物体検出装置18を構成とすることも可能である。
【0078】
また、コンピュータ読み取り可能な情報記録媒体とは、上述したCD−ROMに限らず、フロッピー(登録商標)ディスク、光磁気ディスク、ROMなどの可搬媒体や、コンピュータに内蔵されるハードディスクなどの記憶装置を含んでいる。
さらに、コンピュータ読み取り可能な情報記録媒体は、インターネットなどの通信ネットワークや電話回線などの通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するものも含み、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持するものも含んでいる。
【0079】
【発明の効果】
以上説明したように本発明の物体検出装置では、画像入力手段は、撮影画像の各画素の輝度値を取り込んで保持し、複数参照点選択手段は、前記画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を画像入力手段から注目画素ごとに取得する。そして、背景モデル作成手段は、複数参照点選択手段が選択した注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを注目画素と、同画素に対応する各参照画素との組ごとに作成する。
【0080】
その上で、距離計算手段は、輝度空間において、背景モデル作成手段が注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、複数参照点選択手段が注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する。
そして、物体判別手段は、注目画素と各参照画素との組ごとに、距離計算手段が計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って注目画素が物体を表す画素か否かを最終的に判別する。
【0081】
このように、本発明の物体検出装置では、1つの注目画素に対して複数の参照画素を設定し、注目画素と各参照画素との組ごとに物体検出を行って、最終的に論理演算により注目画素が物体の画素か否かを判別するので、注目画素と参照画素とを離して設定しても、物体の位置を確実に特定できる。
したがって、各注目画素ごとに選択する参照画素を、注目画素に対し、物体の大きさ以上に離して設定することができ、その結果、注目画素と参照画素とを接近させて設定した場合のように物体の輪郭部のみが検出されるといったことがない。
また、上述した従来技術と同様、輝度空間における照明変動背景モデルと輝度点との距離にもとづいて注目画素が画像を表すか否かを判定するので、照明変動が大きく、かつ頻繁に発生する場合にも安定で、しかも高精度に物体を検出することができる。
【0082】
また、本発明の物体検出装置では、画像入力手段は撮影画像の各画素の輝度値を取り込んで保持し、水平参照点選択手段は、撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を画像入力手段から取得する。また、垂直参照点選択手段は、撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を画像入力手段から取得する。
そして、水平背景モデル作成手段は、水平参照点選択手段が選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成し、垂直背景モデル作成手段は、垂直参照点選択手段が選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
【0083】
その後、水平距離計算手段は、多次元輝度空間において、水平背景モデル作成手段が作成した前記照明変動背景モデルと、水平参照点選択手段が取得した前記複数の輝度値が表す点との間の距離を計算し、垂直距離計算手段は、多次元輝度空間において、垂直背景モデル作成手段が作成した前記照明変動背景モデルと、垂直参照点選択手段が取得した前記複数の輝度値が表す点との間の距離を計算する。
そして、物体判別手段は、水平距離計算手段および垂直距離計算手段が計算した前記距離にもとづいて、注目水平画素列および注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する。
【0084】
本発明の物体検出装置では、各水平画素列ごとに背景モデルの作成や、背景モデルと輝度点との間の距離の計算といった演算処理を行い、また各垂直画素列ごとに同様の演算処理を行えばよいので、演算処理の回数は全体で画像の水平方向の画素数に、画像の垂直方向の画素数を加えた値となる。
一方、各画素ごとに背景モデルの作成や、背景モデルと輝度点との間の距離の計算といった演算処理を行った場合には、全体の演算処理の回数は、画像の水平方向の画素数に、画像の垂直方向の画素数を乗じたものとなる。
したがって、本発明では、照明変動が大きく、かつ頻繁に発生する場合にも安定で、しかも高精度に物体の存在領域を検出できる上に、演算量が大幅に低減し、その結果、高速に物体検出を行ったり、装置の低コスト化を図る上で非常に有利となる。
【0085】
本発明の物体検出方法および本発明のコンピュータ読み取り可能な情報記録媒体に記録された物体検出プログラムでは、画像入力ステップにおいて、撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させ、複数参照点選択ステップでは、前記画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を第1の記憶手段から注目画素ごとに取得する。そして、背景モデル作成ステップでは、複数参照点選択ステップで選択した注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を第2の記憶手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを注目画素と、同画素に対応する各参照画素との組ごとに作成する。
【0086】
その上で、距離計算ステップでは、輝度空間において、背景モデル作成ステップで注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、複数参照点選択ステップで注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する。
そして、物体判別ステップでは、注目画素と各参照画素との組ごとに、距離計算ステップで計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って注目画素が物体を表す画素か否かを最終的に判別する。
【0087】
このように本発明では、1つの注目画素に対して複数の参照画素を設定し、注目画素と各参照画素との組ごとに物体検出を行って、最終的に論理演算により注目画素が物体の画素か否かを判別するので、注目画素と参照画素とを離して設定しても、物体の位置を確実に特定できる。
したがって、各注目画素ごとに選択する参照画素を、注目画素に対し、物体の大きさ以上に離して設定することができ、その結果、注目画素と参照画素とを接近させて設定した場合のように物体の輪郭部のみが検出されるといったことがない。
また、上述した従来技術と同様、輝度空間における照明変動背景モデルと輝度点との距離にもとづいて注目画素が画像を表すか否かを判定するので、照明変動が大きく、かつ頻繁に発生する場合にも安定で、しかも高精度に物体を検出することができる。
【0088】
また、本発明の物体検出方法および本発明のコンピュータ読み取り可能な情報記録媒体に記録された物体検出プログラムでは、画像入力ステップにおいて撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させ、水平参照点選択ステップでは、撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を第1の記憶手段から取得する。また、垂直参照点選択ステップでは、撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を第1の記憶手段から取得する。
そして、水平背景モデル作成ステップでは、水平参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を第1の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成し、垂直背景モデル作成ステップでは、垂直参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
【0089】
その後、水平距離計算ステップでは、多次元輝度空間において、水平背景モデル作成ステップで作成した前記照明変動背景モデルと、水平参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算し、垂直距離計算ステップでは、多次元輝度空間において、垂直背景モデル作成ステップで作成した前記照明変動背景モデルと、垂直参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する。
そして、物体判別ステップでは、水平距離計算ステップおよび垂直距離計算ステップで計算した前記距離にもとづいて、注目水平画素列および注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する。
【0090】
このように、本発明では、各水平画素列ごとに背景モデルの作成や、背景モデルと輝度点との間の距離の計算といった演算処理を行い、また各垂直画素列ごとに同様の演算処理を行えばよいので、演算処理の回数は全体で画像の水平方向の画素数に、画像の垂直方向の画素数を加えた値となる。
一方、各画素ごとに背景モデルの作成や、背景モデルと輝度点との間の距離の計算といった演算処理を行った場合には、全体の演算処理の回数は、画像の水平方向の画素数に、画像の垂直方向の画素数を乗じたものとなる。
したがて、本発明では、照明変動が大きく、かつ頻繁に発生する場合にも安定で、しかも高精度に物体の存在領域を検出できる上に、演算量が大幅に低減し、その結果、高速に物体検出を行ったり、装置の低コスト化を図る上で非常に有利となる。
【図面の簡単な説明】
【図1】第1の実施の形態例の物体検出装置を示すブロック図である。
【図2】図1の物体検出装置の動作を示すフローチャートである。
【図3】(A)は画像面における注目点と参照点との位置関係を示す説明図、(B)は物体が撮影領域に侵入した場合の模式図、(C)は検出結果を示す模式図、(D)は画像面における注目点と参照点との位置関係を示す他の説明図、(E)は検出結果を示す他の模式図、(F)は最終的な検出結果を示す模式図である。
【図4】(A)は、道路を黒い車が走っている原画像を示す模式図、(B)は従来技術による車の検出結果を示す説明図、(C)は本実施の形態例による車の検出結果を示す説明図である。
【図5】第2の実施の形態例の物体検出装置を示すブロック図である。
【図6】図5の物体検出装置の動作を示すフローチャートである。
【図7】第2の実施の形態例の動作を説明するための図であって、(A)は垂直方向における物体の存在可能領域の検出を表す説明図、(B)は水平方向における物体の存在可能領域の検出を表す説明図、(C)は検出結果を示す説明図である。
【図8】背景画像を表す説明図である。
【図9】注目点および参照点の輝度値により形成される2次元の輝度空間を示す説明図である。
【図10】監視カメラの撮影領域に物体が侵入した場合の撮影画像を示す説明図である。
【図11】(A)は画像面を示す説明図、(B)は物体が撮影領域に侵入した場合の模式図、(C)は検出結果を示す模式図である。
【符号の説明】
2……物体検出装置、4……画像入力手段、6……複数参照点選択手段、8……背景画像保持手段、10……背景モデル作成手段、12……距離計算手段、14……物体判別手段、16……背景作成手段、18……物体検出装置、20……複数参照点選択手段、22……背景モデル作成手段、24……距離計算手段、26……物体判別手段、28……背景作成手段、102……白ドット、104……直線、106……白丸ドット、108……物体、110……黒ドット。
【0001】
【発明の属する技術分野】
本発明は、監視カメラなどにより撮影した画像に含まれる物体を検出する物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体に関するものである。
【0002】
【従来の技術】
監視カメラなどで撮影した動画像から物体を検出する場合、日照条件などにより背景の明るさが変動しても確実に物体を検出できることが重要である。そこで、本発明の発明者らは照明変動が大きく、かつ頻繁に発生する場合でも、その影響を受けにくい物体検出技術を考案し、すでにその特許出願を行っている(特願平11−078641号)。
【0003】
この物体検出技術は、あらかじめ作成した背景画像と、現時点の画像とにおいて、注目点とは異なる位置に参照点を設け、その参照点の輝度値変化の相関情報から物体を判別するというものである。以下、原理について図面を参照して詳しく説明する。
図8は背景画像を表す説明図であり、水平方向にX軸、垂直方向にY軸がそれぞれ設定されている。ただし、必要以上に複雑になることを避けるため、背景画像はテクスチャーがなく場所によらず一定の明るさであるとする。図8において、PAは注目点、PBはその近傍に設けた参照点である。そして、注目点PAにおける輝度値をIA、参照点PBにおける輝度値をIBとする。
【0004】
図9は注目点および参照点の輝度値により形成される2次元の輝度空間を示す説明図である。この輝度空間には2次元の座標系が設定され、その横軸は上記注目点PAの輝度値IAを表し、縦軸は上記参照点PBの輝度値IBを表している。
ここで、注目点PAの輝度値がIA1、参照点PBの輝度値がIB1であったとすると、これらの輝度値の組に対応する、上記輝度空間上の点、すなわち輝度点(IA1、IB1)は、たとえば図9中の白ドット102の位置となる。
そして、背景の明るさが変化し、注目点PAの輝度値がたとえば小さくなったとすると、参照点PBの輝度値も同じ割合で小さくなる。また、注目点PAの輝度値が0なら、参照点PBの輝度値も0となる。したがって、注目点PAおよび参照点PBの輝度IA、IBの組に対応する輝度空間上の点は、背景の明るさが変化したとき、図9に示した直線104に沿って移動する。ここではこのような直線のことを照明変動背景モデルと呼ぶ。
【0005】
一方、たとえば注目点PAの位置に物体が侵入したとし、注目点PAの輝度値がIA2に下がったとすると、この場合の輝度点(IA2、IB1)はたとえば白丸ドット106の位置となる。したがって、このような輝度点と直線104との距離107を調べ、輝度点が直線104から離れている場合には、注目点の位置に物体が侵入していると判定することができる。
そして、照明変動が生じ、たとえば参照点PBの輝度値が大きくなったとすると、通常、物体上の注目点PAの輝度値も同様に大きくなるため、輝度点(IA2、IB1)はおおむね直線104と平行に右上方向(矢印A)に移動し、直線104との間の距離はあまり変化しない。したがって、照明変動が生じても物体を確実に検出することができる。
【0006】
【発明が解決しようとする課題】
しかし、上記従来技術では、参照点を注目点に接近して配置した場合には物体の輪郭部のみが抽出されて、抽出した物体画像が中抜けの状態となり、この点で改良の余地があった。
以下、図10を参照して具体的に説明する。図10は、たとえば監視カメラの撮影領域に物体が侵入した場合の撮影画像を示す説明図である。背景は図8の場合と同様、場所によらず一定の明るさであるとする。
この画像に対して、図10に示したように、注目点PAを設定し、近接して参照点PBを設定したとすると、図10の状態ではこれらの点はいずれも物体108上に在り、両点の輝度はともに同じ程度に低下するため、輝度空間において注目点PAおよび参照点PBが対応する輝度点(IA、IB)は、図9に示した直線104上の黒ドット110の位置となる。そして、黒ドット110と直線104との間の距離は零であるから、この場合、注目点PAは、物体上にはないと判定することになり、注目点PAが物体108上に在るにも係わらず物体を検出することができない。
【0007】
一方、注目点PAと参照点PBを同様の間隔で設定した場合でも、物体108の縁部で、たとえば注目点PAが物体108上となり、参照点PBが背景上となる位置に各点を設定した場合には、両点に輝度差が生じ、図9において対応する輝度点は直線104から離れた位置となるため、物体108を検出することができる。
したがって、特願平11−078641号の技術では、注目点と参照線とを近接して配置した場合には、物体の縁部、すなわち輪郭部のみが検出されることになる。
【0008】
そこで、物体の輪郭部だけでなく全体を検出するためには、参照点を注目点から充分に離して配置する必要がある。
また、特願平11−078641号の技術では、参照点はかならず、物体が侵入する可能性のある領域の外に設定する必要がある。これについて図11を参照して説明する。図11R>1の(A)は画像面を示す説明図、(B)は物体が撮影領域に侵入した場合の模式図、(C)は検出結果を示す模式図である。
【0009】
図11の(A)に示したように、画像上に注目点PAと注目点PBとを離して設定した場合、図11の(B)に示したように、物体108が注目点PAの位置に侵入すると、注目点PAと参照点PBとの間で輝度差が生じて物体108が検出される。しかし、物体108が参照点PBの位置に侵入した場合にも同様の輝度差が生じるため、この場合にも物体108は検出されることになる。
したがって、注目点PAに物体108が侵入して検出された場合、物体108が注目点PAの位置に存在するのか、あるいは参照点PBの位置に存在するのかを特定することができず、その結果、注目点PAの位置のみに物体108が存在するにもかかわらず、図11の(C)に示したように、両方の位置に物体108が存在するように物体像109が生成されてしまう。
【0010】
そのため、このような現象を回避すべく、参照点はかならず、物体が侵入する可能性のある領域の外に設定しなければならない。
本発明はこのような欠点を除去するためになされたもので、その目的は、照明変動が大きく、かつ頻繁に発生する場合にも安定で、しかも高精度に物体を検出できるとともに、参照点を任意の位置に設定して確実に物体を検出することが可能な物体検出装置、物体検出方法、ならびに物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体を提供することにある。
【0011】
【課題を解決するための手段】
本発明は、上記目的を達成するため、撮影画像を用いて物体を検出する物体検出装置であって、前記撮影画像の各画素の輝度値を取り込んで保持する画像入力手段と、前記撮影画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を前記画像入力手段から前記注目画素ごとに取得する複数参照点選択手段と、前記撮影画像の背景を成す背景画像の各画素の輝度値を保持する背景画像保持手段と、前記複数参照点選択手段が選択した前記注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記背景画像保持手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを前記注目画素と、同画素に対応する各参照画素との組ごとに作成する背景モデル作成手段と、輝度空間において、前記背景モデル作成手段が前記注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、前記複数参照点選択手段が前記注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと前記注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する距離計算手段と、前記注目画素と各参照画素との組ごとに、前記距離計算手段が計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って前記注目画素が物体を表す画素か否かを最終的に判別する物体判別手段とを備えたことを特徴とする。
【0012】
本発明の物体検出装置では、画像入力手段は、撮影画像の各画素の輝度値を取り込んで保持し、複数参照点選択手段は、前記画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を画像入力手段から注目画素ごとに取得する。そして、背景モデル作成手段は、複数参照点選択手段が選択した注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを注目画素と、同画素に対応する各参照画素との組ごとに作成する。
【0013】
その上で、距離計算手段は、輝度空間において、背景モデル作成手段が注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、複数参照点選択手段が注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する。
そして、物体判別手段は、注目画素と各参照画素との組ごとに、距離計算手段が計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って注目画素が物体を表す画素か否かを最終的に判別する。
【0014】
また、本発明は、撮影画像を用いて物体を検出する物体検出装置であって、前記撮影画像の各画素の輝度値を取り込んで保持する画像入力手段と、前記撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、前記注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記画像入力手段から取得する水平参照点選択手段と、前記撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、前記注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記画像入力手段から取得する垂直参照点選択手段と、前記撮影画像の背景を成す画像の各画素の輝度値を保持する背景画像保持手段と、前記水平参照点選択手段が選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記背景画像保持手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する水平背景モデル作成手段と、前記垂直参照点選択手段が選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記背景画像保持手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する垂直背景モデル作成手段と、多次元輝度空間において、前記水平背景モデル作成手段が作成した前記照明変動背景モデルと、前記水平参照点選択手段が取得した前記複数の輝度値が表す点との間の距離を計算する水平距離計算手段と、多次元輝度空間において、前記垂直背景モデル作成手段が作成した前記照明変動背景モデルと、前記垂直参照点選択手段が取得した前記複数の輝度値が表す点との間の距離を計算する垂直距離計算手段と、前記水平距離計算手段および前記垂直距離計算手段が計算した前記距離にもとづいて、前記注目水平画素列および前記注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する物体判別手段とを備えたことを特徴とする。
【0015】
本発明の物体検出装置では、画像入力手段は撮影画像の各画素の輝度値を取り込んで保持し、水平参照点選択手段は、撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を画像入力手段から取得する。また、垂直参照点選択手段は、撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を画像入力手段から取得する。
そして、水平背景モデル作成手段は、水平参照点選択手段が選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成し、垂直背景モデル作成手段は、垂直参照点選択手段が選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
【0016】
その後、水平距離計算手段は、多次元輝度空間において、水平背景モデル作成手段が作成した前記照明変動背景モデルと、水平参照点選択手段が取得した前記複数の輝度値が表す点との間の距離を計算し、垂直距離計算手段は、多次元輝度空間において、垂直背景モデル作成手段が作成した前記照明変動背景モデルと、垂直参照点選択手段が取得した前記複数の輝度値が表す点との間の距離を計算する。
そして、物体判別手段は、水平距離計算手段および垂直距離計算手段が計算した前記距離にもとづいて、注目水平画素列および注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する。
【0017】
また、本発明は、撮影画像を用いて物体を検出する物体検出方法であって、前記撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させる画像入力ステップと、前記撮影画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を前記第1の記憶手段から前記注目画素ごとに取得する複数参照点選択ステップと、前記撮影画像の背景を成す背景画像の各画素の輝度値を第2の記憶手段に保持させる背景画像保持ステップと、前記複数参照点選択ステップで選択した前記注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを前記注目画素と、同画素に対応する各参照画素との組ごとに作成する背景モデル作成ステップと、輝度空間において、前記背景モデル作成ステップで前記注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、前記複数参照点選択ステップで前記注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと前記注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する距離計算ステップと、前記注目画素と各参照画素との組ごとに、前記距離計算ステップで計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って前記注目画素が物体を表す画素か否かを最終的に判別する物体判別ステップとを備えたことを特徴とする。
【0018】
また、本発明は、撮影画像を用いて物体を検出する物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体であって、前記撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させる画像入力ステップと、前記撮影画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を前記第1の記憶手段から前記注目画素ごとに取得する複数参照点選択ステップと、前記撮影画像の背景を成す背景画像の各画素の輝度値を第2の記憶手段に保持させる背景画像保持ステップと、前記複数参照点選択ステップで選択した前記注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを前記注目画素と、同画素に対応する各参照画素との組ごとに作成する背景モデル作成ステップと、輝度空間において、前記背景モデル作成ステップで前記注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、前記複数参照点選択ステップで前記注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと前記注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する距離計算ステップと、前記注目画素と各参照画素との組ごとに、前記距離計算ステップで計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って前記注目画素が物体を表す画素か否かを最終的に判別する物体判別ステップとを含むことを特徴とする。
【0019】
本発明の物体検出方法および本発明のコンピュータ読み取り可能な情報記録媒体に記録された物体検出プログラムでは、画像入力ステップにおいて、撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させ、複数参照点選択ステップでは、前記画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を第1の記憶手段から注目画素ごとに取得する。そして、背景モデル作成ステップでは、複数参照点選択ステップで選択した注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を第2の記憶手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを注目画素と、同画素に対応する各参照画素との組ごとに作成する。
【0020】
その上で、距離計算ステップでは、輝度空間において、背景モデル作成ステップで注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、複数参照点選択ステップで注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する。
そして、物体判別ステップでは、注目画素と各参照画素との組ごとに、距離計算ステップで計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って注目画素が物体を表す画素か否かを最終的に判別する。
【0021】
また、本発明は、撮影画像を用いて物体を検出する物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体であって、前記撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させる画像入力ステップと、前記撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、前記注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記第1の記憶手段から取得する水平参照点選択ステップと、前記撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、前記注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記第1の記憶手段から取得する垂直参照点選択ステップと、前記撮影画像の背景を成す画像の各画素の輝度値を第2の記憶手段に保持させる背景画像保持ステップと、前記水平参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する水平背景モデル作成ステップと、前記垂直参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する垂直背景モデル作成ステップと、多次元輝度空間において、前記水平背景モデル作成ステップで作成した前記照明変動背景モデルと、前記水平参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する水平距離計算ステップと、多次元輝度空間において、前記垂直背景モデル作成ステップで作成した前記照明変動背景モデルと、前記垂直参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する垂直距離計算ステップと、前記水平距離計算ステップおよび前記垂直距離計算ステップで計算した前記距離にもとづいて、前記注目水平画素列および前記注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する物体判別ステップとを含むことを特徴とする。
【0022】
また、本発明は、撮影画像を用いて物体を検出する物体検出方法であって、前記撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させる画像入力ステップと、前記撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、前記注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記第1の記憶手段から取得する水平参照点選択ステップと、前記撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、前記注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記第1の記憶手段から取得する垂直参照点選択ステップと、前記撮影画像の背景を成す画像の各画素の輝度値を第2の記憶手段に保持させる背景画像保持ステップと、前記水平参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する水平背景モデル作成ステップと、前記垂直参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する垂直背景モデル作成ステップと、多次元輝度空間において、前記水平背景モデル作成ステップで作成した前記照明変動背景モデルと、前記水平参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する水平距離計算ステップと、多次元輝度空間において、前記垂直背景モデル作成ステップで作成した前記照明変動背景モデルと、前記垂直参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する垂直距離計算ステップと、前記水平距離計算ステップおよび前記垂直距離計算ステップで計算した前記距離にもとづいて、前記注目水平画素列および前記注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する物体判別ステップとを備えたことを特徴とする。
【0023】
本発明の物体検出方法および本発明のコンピュータ読み取り可能な情報記録媒体に記録された物体検出プログラムでは、画像入力ステップにおいて撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させ、水平参照点選択ステップでは、撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を第1の記憶手段から取得する。また、垂直参照点選択ステップでは、撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を第1の記憶手段から取得する。
そして、水平背景モデル作成ステップでは、水平参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を第1の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成し、垂直背景モデル作成ステップでは、垂直参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
【0024】
その後、水平距離計算ステップでは、多次元輝度空間において、水平背景モデル作成ステップで作成した前記照明変動背景モデルと、水平参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算し、垂直距離計算ステップでは、多次元輝度空間において、垂直背景モデル作成ステップで作成した前記照明変動背景モデルと、垂直参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する。
そして、物体判別ステップでは、水平距離計算ステップおよび垂直距離計算ステップで計算した前記距離にもとづいて、注目水平画素列および注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する。
【0025】
【発明の実施の形態】
次に本発明の実施の形態例について図面を参照して説明する。
まず、第1の実施の形態例における物体検出の原理について説明する。図3の(A)は画像面における注目点と参照点との位置関係を示す説明図、(B)は物体が撮影領域に侵入した場合の模式図、(C)は検出結果を示す模式図、(D)は画像面における注目点と参照点との位置関係を示す他の説明図、(E)は検出結果を示す他の模式図、(F)は最終的な検出結果を示す模式図である。
【0026】
図3の(A)に示したように、画像上に注目点PAと注目点PBとを離して設定した場合、図3の(B)に示したように、物体108が注目点PAの位置に侵入すると、注目点PAと参照点PBとの間で輝度差が生じるので、照明変動背景モデルを用いた従来と同じ手法で検出を行って物体108を検出する。そして、検出結果は、図3の(C)に示したように、従来と同様、注目点PAと参照点PBの両方に物体108が存在する可能性があることを示すものとなる。
【0027】
一方、本実施の形態例では、図3の(D)に示したように、参照点PBとは異なる参照点PCをさらに設定する。そして、注目点PAと参照点PCとの組に関しても従来と同様の手法で物体の検出を行う。その結果、上述のように物体108が注目点PAに侵入した場合、検出結果では図3の(E)に示したように、注目点PAと参照点PCの両方の位置に物体108が存在する可能性があることを示すものとなる。
【0028】
本実施の形態例では、さらに、この2つの検出結果、すなわち図3の(C)と(E)の論理積をとる。したがって、図3の(F)に示したように、図3の(C)と(E)の両方に共通して存在する注目点PAの位置の物体像111のみが残り、注目点PAに侵入した物体108がその位置を特定して確実に検出される。そして、本実施の形態例では注目点と参照点とをある程度離して配置することができることから、検出された物体の画像は輪郭部だけでなく内側の領域も描画された画像となる。
【0029】
なお、一般に、1つの注目点に対し、注目点を含むN個(Nは3以上の整数)の異なる参照点を設定した場合、次式により表される条件を満たすことで物体の存在領域を特定することができる。
【0030】
【数1】
dist(Pi、Pj)>ObjectSize
だだし、1≦i、j≦N(i≠j)であり、dist(A、B)は点A、B間の距離を表す。また、ObjectSizeは画像上での物体の大きさを表している。
【0031】
次に、本発明の第1の実施形態について図面を参照して詳細に説明する。
図1は第1の実施の形態例の物体検出装置を示すブロック図、図2は図1の物体検出装置の動作を示すフローチャートである。以下では、これらの図面を参照して本発明の物体検出装置の一例について説明すると同時に本発明の物体検出方法および物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体の実施の形態例について説明する。
【0032】
図1に示した物体検出装置2は、画像入力手段4、複数参照点選択手段6、背景画像保持手段8、背景モデル作成手段10、距離計算手段12、物体判別手段14、ならびに背景作成手段16を含み、たとえば監視カメラにより撮影した画像から物体を検出する構成となっている。
物体検出装置2は具体的には、一例として、監視カメラやビデオテープレコーダとのインターフェースなども備え、所定のオペレーティングシステムが組み込まれたコンピュータにより構成されており、コンピュータを構成する入力装置に、本発明の物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体としてのたとえばCD−ROMを装着してCD−ROMからプログラムデータを読み込み、コンピュータのメモリにロードして、コンピュータのCPUを同プログラムデータにもとづいて動作させることで実現されている。
【0033】
画像入力手段4は、監視カメラにより撮影された画像、あるいは撮影後、ビデオテープレコーダに録画された画像を、監視カメラやVTRなどから取り込んで保持する。より詳しくは、画像入力手段4は、撮影画像の各画素の輝度値を取り込んで保持する。なお、画像入力手段4が取り込む画像は動画像であっても、静止画像であってもよい。また、画像入力手段4は、自身が画像を撮像するカメラを備えた構成であってもよい。
【0034】
複数参照点選択手段6は、前記画像の注目画素(注目点の位置の画素)ごとに、あらかじめ決められた複数の参照画素(参照点の位置の画素)を選択して、選択した複数の参照画素および注目画素の各輝度値を画像入力手段4から注目画素ごとに取得する。なお、1つの注目画素に対応する上記複数の参照画素は参照画素群ともいう。
背景画像保持手段8は、撮影領域の背景画像の各画素の輝度値を保持している。背景画像保持手段8が保持する輝度値は、本実施の形態例では、後に説明するように背景作成手段16により適宜更新される。
背景モデル作成手段10は、複数参照点選択手段6が選択した注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段8から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを注目画素と、同画素に対応する各参照画素との組ごとに作成する。
【0035】
そして、距離計算手段12は、輝度空間において、背景モデル作成手段10が注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、複数参照点選択手段6が注目画素ごとに取得した複数の参照画素の輝度値のそれぞれと注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する。
【0036】
物体判別手段14は、注目画素と各参照画素との組ごとに、距離計算手段12が計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、注目画素と各参照画素との組ごとの判別結果に対し論理演算を行って注目画素が物体を表す画素か否かを最終的に判別する。
そして、画像出力手段15は、物体判別手段14が出力する判別結果の画像データを不図示の表示装置などへ出力する。
また、背景作成手段16は、物体判別手段14が物体を表す画素ではないと判別した注目画素と、同画素に対応する前記複数の参照画素のそれぞれに対応する背景画像の画素の輝度値を、注目画素および参照画素の輝度値にもとづき更新して背景画像保持手段8に保持させる。
【0037】
次に、このように構成された第1の実施の形態例の動作について説明する。
図2に示したように、まず、物体検出装置2の画像入力手段4は、監視カメラなどによって撮像された画像を読み込み、画像を構成する各画素ごとの輝度値を画像入力手段4内に設けられた不図示のメモリに保持する(ステップA1)。
画像はマトリクス状に配列された多数の画素により構成され、画像入力手段4はこのような画素の輝度値を2次元配列のデータとして保持する。また、各画素は上記メモリのxアドレスとyアドレスを指定することで特定可能となっており、xアドレスはマトリクスの列番号に対応し、yアドレスはマトリクスの行番号に対応している。
【0038】
そして、複数参照点選択手段6は、上記画像の注目画素ごとに、あらかじめ決められた複数の参照画素を選択して、選択した複数の参照画素および注目画素の各輝度値を画像入力手段4の上記メモリから注目画素ごとに取得する(ステップA2)。
上記参照画素はそれぞれ、検出すべき侵入物体の大きさよりも大きい距離だけ注目画素から離れた位置に設定されている。
たとえば、侵入物体の画面上での大きさが100画素未満であるとし、現在の注目画素点PAと、この画素とは異なるもう1つの画素点PBを参照点とする場合、図3の(A)に示したように参照点PBは、注目点PAからx軸方向に100画素離れた位置に設定する。このとき、注目点PAにおける輝度値はI(x、y)、参照点PBにおける輝度値はI(x+100、y)のように表すことができる。
同様に、もう1つの参照点PCを設定する場合、図3の(D)に示したように、参照点PCは注目点PAからx軸の反対方向に100画素離れた位置に設定する。参照点PCにおける輝度値はI(x−100、y)のように表すことができる。
【0039】
本実施の形態例では、複数参照点選択手段6は、注目点PAに対し注目点以外に2つの参照点PB、PCを設定するものとし、したがって、注目点および各参照点にそれぞれ対応する1つの注目画素と2つの参照画素を設定するものとする。次に、複数参照点選択手段6は、ステップA2で得た注目画素および参照画素の各輝度値を背景作成手段16に供給する(ステップA3)。この段階では、背景画像保持手段8を構成するメモリには、背景画像を構成する各画素の輝度値はまだ格納されていないため、背景作成手段16は、複数参照点選択手段6から供給された各輝度値を、それぞれ対応する背景画像の画素の輝度値として、背景画像保持手段8に保持させる。
【0040】
次に、背景モデル作成手段10は、背景画像保持手段8が保持している背景画像の各画素の輝度値を用いて照明変動背景モデルを作成する。
たとえば注目画素が図3における注目点PAに対応するpaであり、参照画素が参照点PB、PCに対応するpb、pcであったとすると、背景モデル作成手段10はまず、注目画素paおよび参照画素pbに対応する、背景画像における2つの画素の輝度値を背景画像保持手段8から取得する。
【0041】
そして、これら2つの輝度値を用いて、注目画素paと参照画素pbとの組に対応するものとして、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。具体的には、図9に示したような、注目画素paに対応する背景画素の輝度値を横軸、参照画素pbに対応する背景画素の輝度値を縦軸とする輝度空間において、注目画素paと参照画素pbに対応する背景画素の輝度値の組が表す点と、原点を通過する直線を求め、その直線を上記照明変動背景モデルとする。
背景モデル作成手段10は、注目画素paと参照画素pcとの組に対しても同様に照明変動背景モデルを作成する。
【0042】
なお、注目画素ごとに参照する画素の数が注目画素も含めてN個であれば、1つの注目画素ごとにN個の背景画像の画素の輝度値を用いることになり、したがって注目画素ごとの背景の輝度値の組はN次元のベクトルとして表すことができる。
本実施例では注目画素と1参照点の組を2組用いているので、背景の輝度値は2組の2次元ベクトルとなる。
【0043】
その後、距離計算手段12は、注目画素paおよび参照画素pbの組に対して、上記輝度空間において、上記照明変動背景モデルと、注目画素paおよび参照画素pbの輝度値の組が表す点との間の距離を計算し、さらに、注目画素paおよび参照画素pcの組に対しても同様の距離を計算する(ステップA4)。
【0044】
ここで、注目画素pa、参照画素pb、pcに対応する背景画素の輝度値をia0、ib0、ic0とし、注目画素pa、参照画素pb、pcの輝度値をia1、ib1、ic1とすると、注目画素paと参照画素pbとの組に対応する照明変動背景モデルと、輝度値ia1、ib1に対応する点との間の距離D1、ならびに注目画素paと参照画素pcとの組に対応する照明変動背景モデルと、輝度値ia1、ic1に対応する点との間の距離D2はそれぞれ[数2]、[数4]に示した式によって計算することができる。
【0045】
【数2】
【0046】
【数3】
次に、物体判別手段14は、ステップA4において求められた距離D1、D2と、あらかじめ設定されているしきい値T1、T2とを比べ(ステップA5)、これらの距離およびしきい値が[数4]を満たす場合には、注目画素paは物体を表す画素であり、対応箇所に物体が存在すると判断し、一方、[数4]を満たさない場合には、注目画素paは背景を表す画素であると判断する(ステップA6、S7、S8、S9)。
【0047】
【数4】
より詳しくは、物体判別手段14は、複数距離計算手段が計算した距離D1、D2がそれぞれ上記しきい値T1、T2より大きいか否かを調べる(ステップA5)。たとえば距離D1がしきい値T1より大きい場合には、物体判別手段14は注目画素paおよび参照画素pbは物体を表す画素である可能性があるとし、検出結果として両画素に論理”1”を対応づける。また、距離D2も、しきい値T2より大きい場合には、物体判別手段14は、注目画素paおよび参照画素pcは物体を表す画素である可能性があるとし、検出結果として両画素に論理”1”を対応づける。
一方、距離D1、D2がT1、T2より小さい場合には、各画素には論理”0”を対応づける。
【0048】
その上で、物体判別手段14は、これらの検出結果の論理積をとり(ステップA6)、そして値を判定して(ステップA7)、結果が論理”1”の場合は注目画素paは物体を表す画素であるとし(ステップA8)、論理”0”の場合は注目画素paは物体を表さず、背景を表す画素であるとする(ステップA9)。
たとえば、距離D1がしきい値T1より大きい場合、物体判別手段14が各画素pa、pb、pcに対応づける値は”1”、”1”、”0”となり、また、距離D2がしきい値T2より大きい場合、物体判別手段14が各画素pa、pb、pcに対応づける値は”1”、”0”、”1”となる。したがって、各画素ごとに、これらの値の論理積をとると、それぞれ”1”、”0”、”0”となり、画素paに対する論理値のみが”1”となる。したがって、物体判別手段14は、注目画素paが物体を表す画素であると判断する。
【0049】
一般に注目画素以外にN個の参照点をとった場合、各参照点ごとに距離Diを計算し、各参照点ごとのしきい値Tiを用いて、[数5]が成立するか否かにより注目画素が物体を表す画素であるか否かを判別することができる。
【0050】
【数5】
このようなステップA2からS9までの処理を、画像入力手段4が保持している全画素を次々に注目画素に設定して行うことで(ステップA10)、撮影画像上の物体を検出することができる。
検出された物体は、画像出力手段15により出力され、表示装置に表示される。その際、ステップA7、A8において、物体を表すと判別された注目画素の表示色を、背景とは異なる色で表示すれば、画面上で検出物体の形状などをより明瞭に把握することができる。
【0051】
なお、ステップA10において、すべての画素について処理が終わったと判断された場合に、物体であると判別された画素の数をカウントして、このカウント値が予め設定されたしきい値より大きい場合にのみ物体が存在すると判断するようにしてもよい。これによって、ある大きさ以上の物体のみを検出することが可能となる。
【0052】
一方、ステップA7、A9で注目画素が物体を表す画素ではないと判別された場合には、背景作成手段16は、同注目画素および対応する複数の参照画素の輝度値にもとづいて、対応する背景画像の画素の輝度値を更新し、背景画像保持手段8に保持させる(ステップA3)。
なお、最初の入力画像に移動物体が含まれていなければ、基本的に背景画像の各画素の輝度値は更新する必要はない。しかし、ノイズ等の影響で、背景領域の輝度値が照明変動以外の要因でばらつきを起こしうるため、物体判別手段14により背景とみなされた画素において随時輝度値を更新していくことで誤差を抑えることができる。
【0053】
また、このような背景画像の更新において、新旧の輝度値に重みを乗じて徐々に更新するという方法をとることができる。すなわち、物体判別手段14で注目画素paが背景画素とみなされた場合、[数6]のように新しく加わるデータに重みをかけ徐々に更新することができる。
【0054】
【数6】
ここで、PA_newは注目画素paと参照画素pb、pcに対応する背景画素の輝度値による3次元輝度値行列、PA_oldは今までの注目画素paと参照画素pb、pcに対応する背景画素の輝度値による3次元背景輝度行列である。また、IAは、注目画素paと参照画素pb、pcの輝度値行列、αは上記重み定数である。
【0055】
次に、ステップA10において、すべての画素に対して前述した判別処理が終了したと判断された場合、画像入力手段4は、次の画像があるか否かを判断し(ステップA11)、次の画像がある場合はステップA1に戻って、画像を取得し、以降、上述した各処理が繰り返される。そして、すべての画像に対して処理が終了した時点で、物体検出処理を終了する。
以上の処理を監視カメラから画像が取り込まれるごとに行うことで、物体検出を逐次行うことができる。
【0056】
図4の(A)は、道路を黒い車が走っている原画像を示す模式図、(B)は従来技術による車の検出結果を示す説明図、(C)は本実施の形態例による車の検出結果を示す説明図である。
図4の(B)は、図4の(A)に示した原画像および背景画像により図8などを用いて説明した従来技術にもとづき車の検出を行った結果を示し、注目点および参照点を隣接させて物体検出を行ったため、車の輪郭部のみが検出されている。
【0057】
これに対して、本実施の形態例による検出結果である図4の(C)では、車の輪郭部だけでなく、輪郭の内側も含め、車全体が検出されており、より明瞭に、したがって確実に車が検出されている。
本実施の形態例では、上述したように、各注目画素ごとに選択する参照画素を、注目画素に対し、物体の大きさ以上に離して設定する。したがって、注目画素と参照画素とを接近させて設定した場合のように物体の輪郭部のみが検出されるといったことがない。
そして、1つの注目画素に対して複数の参照画素を設定し、注目画素と各参照画素との組ごとに物体検出を行って、最終的に論理演算により注目画素が物体の画素か否かを判別するので、注目画素と参照画素とを離して設定しても、物体の位置を確実に特定できる。
【0058】
また、上記従来技術と同様、輝度空間における照明変動背景モデルと輝度点との距離にもとづいて注目画素が画像を表すか否かを判定しているので、照明変動が大きく、かつ頻繁に発生する場合にも安定で、しかも高精度に物体を検出することができる。
【0059】
次に、本発明の第2の実施形態について説明する。
図5は第2の実施の形態例の物体検出装置2を示すブロック図、図6は図5の物体検出装置の動作を示すフローチャートである。以下では、これらの図面を参照して本発明の第2の実施の形態例の物体検出装置について説明すると同時に本発明の第2の実施の形態例の物体検出方法および物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体について説明する。なお、図5において図1と同一の要素には同一の符号が付されており、それらに関する説明はここでは省略する。
【0060】
図5に示した物体検出装置18が上記物体検出装置2と異なるのは、物体自体を検出するのではなく物体の外接矩形を求める点であり、その結果、少ない計算量で物体を検出することが可能となる。
物体検出装置18は、画像入力手段4、本発明に係わる水平参照点選択手段および垂直参照点選択手段として機能する複数参照点選択手段20、背景画像保持手段8、本発明に係わる水平背景モデル作成手段および垂直背景モデル作成手段として機能する背景モデル作成手段22、本発明に係わる水平距離計算手段および垂直距離計算手段として機能する距離計算手段24、物体判別手段26、背景作成手段28、ならびに画像出力手段15を含み、たとえば監視カメラにより撮影した画像から物体を検出する構成となっている。
【0061】
物体検出装置18は上記物体検出装置2と同様、具体的には、一例として監視カメラやビデオテープレコーダとのインターフェースなども備えたコンピュータにより構成されており、コンピュータを構成する入力装置に、本発明の物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体としてのたとえばCD−ROMを装着してCD−ROMからプログラムデータを読み込み、コンピュータのメモリにロードして、コンピュータのCPUを同プログラムデータにもとづいて動作させることで実現されている。
【0062】
物体検出装置18の複数参照点選択手段20は、水平参照点選択手段として機能して、撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を画像入力手段4から取得する。
また、複数参照点選択手段20は、垂直参照点選択手段として機能して、撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を画像入力手段4から取得する。
【0063】
そして、背景モデル作成手段22は、水平背景モデル作成手段として機能して、水平参照点選択手段が選択した複数の参照画素にそれぞれ対応する、背景画像における複数の画素の輝度値を背景画像保持手段8から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
また、背景モデル作成手段22は、垂直背景モデル作成手段として機能して、垂直参照点選択手段が選択した複数の参照画素にそれぞれ対応する、背景画像における複数の画素の輝度値を背景画像保持手段8から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
【0064】
複数距離計算手段2は、水平距離計算手段として機能して、多次元輝度空間において、水平背景モデル作成手段としての背景モデル作成手段22が作成した前記照明変動背景モデルと、水平参照点選択手段としての複数参照点選択手段20が取得した複数の輝度値が表す点との間の距離を計算する。
また、複数距離計算手段2は、垂直距離計算手段として機能して、多次元輝度空間において、垂直背景モデル作成手段としての背景モデル作成手段22が作成した前記照明変動背景モデルと、垂直参照点選択手段としての複数参照点選択手段20が取得した前記複数の輝度値が表す点との間の距離を計算する。
【0065】
物体判別手段26は、上記水平距離計算手段および垂直距離計算手段としての複数距離計算手段2が計算した前記距離にもとづいて、注目水平画素列および注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する。
背景作成手段28は、物体判別手段26が物体を表す画素を含まないと判別した前記注目水平画素列および注目垂直画素列を構成する各画素の輝度値にもとづいて、対応する前記背景画像の画素の輝度値を更新して背景画像保持手段8に保持させる。
【0066】
次に、このように構成された物体検出装置18の動作について説明する。
図7は第2の実施の形態例の動作を説明するための図であって、(A)は垂直方向における物体の存在可能領域の検出を表す説明図、(B)は水平方向における物体の存在可能領域の検出を表す説明図、(C)は検出結果を示す説明図である。以下では、図5とともに図6、図7を参照して説明する。
【0067】
図6に示したように、まず、画像入力手段4は、監視カメラなどによって撮像された画像を読み込み、画像を構成する各画素ごとの輝度値を画像入力手段4内に設けられた不図示のメモリに保持する(ステップB1)。
次に、複数参照点選択手段20は、撮影画像において垂直方向のアドレスyにおける1行分の画素を注目水平画素列とし、またこの1行分の画素を参照画素(参照画素群)に選択して、各参照画素の輝度値を画像入力手段4から取得する(ステップB4)。したがって、撮影画像の幅がWidth画素(Widthは正の整数)であったとすると、上記注目水平画素列にはWidth個の画素が含まれ、複数参照点選択手段20は、本実施の形態例ではこれらすべて画素を参照画素とする。
【0068】
そして、背景モデル作成手段22は、複数参照点選択手段20が選択した上記参照画素にそれぞれ対応する、背景画像における各画素の輝度値を背景画像保持手段8から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
その後、複数距離計算手段24は、参照画素の輝度値によって形成される多次元輝度空間において、背景モデル作成手段22が作成した前記照明変動背景モデルと、複数参照点選択手段20が取得した上記複数の輝度値が表す点との間の距離を計算する(ステップB6)。
【0069】
つづいて、物体判別手段26は、複数距離計算手段24がこのように計算した距離をしきい値と比較して、距離がしきい値より大きい場合には、上記注目水平画素列に対応づけて論理”1”を保持し、距離がしきい値より小さい場合には論理”0”を保持する(ステップB8)。
複数参照点選択手段20、背景モデル作成手段22、ならびに複数距離計算手段2は、このような処理を、アドレスyの値を1ずつ大きくしながら、画像の垂直方向の全範囲において行う(ステップB10)。
その結果、図7の(A)に示したように、物体108が図のように存在する場合、Hの範囲内の各注目水平画素列に対して、物体判別手段26は論理”1”を保持することになる。
【0070】
また、複数参照点選択手段20、背景モデル作成手段22、ならびに複数距離計算手段2は、同様の処理を、画像の水平方向においても行う。
すなわち、複数参照点選択手段20は、撮影画像において水平方向のアドレスxにおける1列分の画素を注目垂直画素列とし、またこの1列分の画素を参照画素(参照画素群)に選択して、各参照画素の輝度値を画像入力手段4から取得する(ステップB2)。したがって、撮影画像の高さがHeight画素(Heightは正の整数)であったとすると、上記注目垂直画素列にはHeight個の画素が含まれ、複数参照点選択手段20は、本実施の形態例ではこれらすべて画素を参照画素とする。
【0071】
そして、背景モデル作成手段22は、複数参照点選択手段20が選択した上記参照画素にそれぞれ対応する、背景画像における各画素の輝度値を背景画像保持手段8から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
その後、複数距離計算手段24は、参照画素の輝度値によって形成される多次元輝度空間において、背景モデル作成手段22が作成した前記照明変動背景モデルと、複数参照点選択手段20が取得した上記複数の輝度値が表す点との間の距離を計算する(ステップB5)。
【0072】
つづいて、物体判別手段26は、複数距離計算手段2がこのように計算した距離をしきい値と比較して、距離がしきい値より大きい場合には、上記注目垂直画素列に対応づけて論理”1”を保持し、距離がしきい値より小さい場合には論理”0”を保持する(ステップB7)。
複数参照点選択手段20、背景モデル作成手段22、ならびに複数距離計算手段24は、このような処理を、アドレスyの値を1ずつ大きくしながら、画像の水平方向の全範囲において行う(ステップB9)。
その結果、図7の(B)に示したように、Wの範囲内の各注目垂直画素列に対して、物体判別手段26は論理”1”を保持することになる。
【0073】
その後、物体判別手段26は、各注目水平画素列および各注目垂直画素列ごとに保持している論理値の論理積をとることで(ステップB11)、検出結果としての矩形領域の画像を保持するためのメモリ(図示せず)において、各画素ごとに、その値が論理”1”か論理”0”かを決定する。
詳しくは、値を決定すべき画素に対応する位置の撮影画像の画素を含む注目水平画素列および注目垂直画素列に対して、共に論理”1”を保持している場合には、上記画素の値は論理”1”に設定する。一方、対応する撮影画像の画素を含む注目水平画素列および注目垂直画素列の少なくとも一方に対して論理”0”を保持している場合には、上記画素の値は論理”0”に設定する(ステップB12、B13、B14)。その結果、検出結果を保持する上記メモリにおいて、図7の(C)に示したように、物体を含む可能性のある矩形領域R内の画素の値は論理”1”となり、それ以外の画素の値は論理”0”となる。
【0074】
したがって、このメモリの内容を画像出力手段15により表示装置に表示すれば、物体を含む矩形領域が画面に表示されることになる。また、矩形領域Rの4辺は物体108の外接矩形となっている。
そして、撮影画像の幅がWidth画素、高さがHeight画素であった場合、上記第1の実施の形態例では、各画素ごとに背景モデルの作成や距離の計算を行うので、このような演算処理を(Width×Heigh)回行う必要がある。
しかし、第2の実施の形態例では、各水平画素列ごとに上記演算処理を行い、また各垂直画素列ごとに上記演算処理を行えばよいので、演算処理の回数は全体で(Width+Height)回となる。したがって、演算量は第1の実施の形態例の場合にくらべ大幅に低減し、高速に物体検出を行ったり、装置の低コスト化を図る場合に非常に有利である。
【0075】
なお、物体検出装置2の場合と同様に、背景作成手段28は、物体判別手段26が物体を表す画素を含まないと判別した注目水平画素列および注目垂直画素列を構成する各画素の輝度値にもとづいて、対応する背景画像の画素の輝度値を更新して背景画像保持手段8に保持させる。これにより最新の背景画像を用いて精度の高い物体検出を行うことができる。
また、処理すべき画像がさらに存在する場合には、物体検出装置2の場合と同様、以上の手順が次の画像に対して繰り返される(ステップB15)。
【0076】
なお、この第2の実施の形態例では、注目水平画素列および注目垂直画素列において、各画素列のすべての画素を参照画素にするとしたが、数画素ごとに選択するなどの間引きを行って、さらに演算量の低減を図ることも可能である。
さらに、たとえば水平方向および垂直方向のいずれか一方でまず物体の存在可能領域を確定し、その上で、その領域内でのみ他方の方向における処理を行えば、物体が存在する可能性のない領域では演算処理を行わなくても済むため、さらに演算量を削減することが可能となる。
【0077】
なお、ここでは物体検出装置2および物体検出装置18はコンピュータにより構成されているとしたが、物体検出装置2および物体検出装置18を専用のハードウェアにより構成することも無論可能である。また、本発明に係わる機能のうち、一部の機能をコンピュータに所定のプログラムをロードして実現し、他の機能は専用のハードウェアによって実現したり、さらには、コンピュータにすでに組み込まれているプログラムを組み合わせて用いることで物体検出装置2および物体検出装置18を構成とすることも可能である。
【0078】
また、コンピュータ読み取り可能な情報記録媒体とは、上述したCD−ROMに限らず、フロッピー(登録商標)ディスク、光磁気ディスク、ROMなどの可搬媒体や、コンピュータに内蔵されるハードディスクなどの記憶装置を含んでいる。
さらに、コンピュータ読み取り可能な情報記録媒体は、インターネットなどの通信ネットワークや電話回線などの通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するものも含み、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持するものも含んでいる。
【0079】
【発明の効果】
以上説明したように本発明の物体検出装置では、画像入力手段は、撮影画像の各画素の輝度値を取り込んで保持し、複数参照点選択手段は、前記画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を画像入力手段から注目画素ごとに取得する。そして、背景モデル作成手段は、複数参照点選択手段が選択した注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを注目画素と、同画素に対応する各参照画素との組ごとに作成する。
【0080】
その上で、距離計算手段は、輝度空間において、背景モデル作成手段が注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、複数参照点選択手段が注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する。
そして、物体判別手段は、注目画素と各参照画素との組ごとに、距離計算手段が計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って注目画素が物体を表す画素か否かを最終的に判別する。
【0081】
このように、本発明の物体検出装置では、1つの注目画素に対して複数の参照画素を設定し、注目画素と各参照画素との組ごとに物体検出を行って、最終的に論理演算により注目画素が物体の画素か否かを判別するので、注目画素と参照画素とを離して設定しても、物体の位置を確実に特定できる。
したがって、各注目画素ごとに選択する参照画素を、注目画素に対し、物体の大きさ以上に離して設定することができ、その結果、注目画素と参照画素とを接近させて設定した場合のように物体の輪郭部のみが検出されるといったことがない。
また、上述した従来技術と同様、輝度空間における照明変動背景モデルと輝度点との距離にもとづいて注目画素が画像を表すか否かを判定するので、照明変動が大きく、かつ頻繁に発生する場合にも安定で、しかも高精度に物体を検出することができる。
【0082】
また、本発明の物体検出装置では、画像入力手段は撮影画像の各画素の輝度値を取り込んで保持し、水平参照点選択手段は、撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を画像入力手段から取得する。また、垂直参照点選択手段は、撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を画像入力手段から取得する。
そして、水平背景モデル作成手段は、水平参照点選択手段が選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成し、垂直背景モデル作成手段は、垂直参照点選択手段が選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を背景画像保持手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
【0083】
その後、水平距離計算手段は、多次元輝度空間において、水平背景モデル作成手段が作成した前記照明変動背景モデルと、水平参照点選択手段が取得した前記複数の輝度値が表す点との間の距離を計算し、垂直距離計算手段は、多次元輝度空間において、垂直背景モデル作成手段が作成した前記照明変動背景モデルと、垂直参照点選択手段が取得した前記複数の輝度値が表す点との間の距離を計算する。
そして、物体判別手段は、水平距離計算手段および垂直距離計算手段が計算した前記距離にもとづいて、注目水平画素列および注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する。
【0084】
本発明の物体検出装置では、各水平画素列ごとに背景モデルの作成や、背景モデルと輝度点との間の距離の計算といった演算処理を行い、また各垂直画素列ごとに同様の演算処理を行えばよいので、演算処理の回数は全体で画像の水平方向の画素数に、画像の垂直方向の画素数を加えた値となる。
一方、各画素ごとに背景モデルの作成や、背景モデルと輝度点との間の距離の計算といった演算処理を行った場合には、全体の演算処理の回数は、画像の水平方向の画素数に、画像の垂直方向の画素数を乗じたものとなる。
したがって、本発明では、照明変動が大きく、かつ頻繁に発生する場合にも安定で、しかも高精度に物体の存在領域を検出できる上に、演算量が大幅に低減し、その結果、高速に物体検出を行ったり、装置の低コスト化を図る上で非常に有利となる。
【0085】
本発明の物体検出方法および本発明のコンピュータ読み取り可能な情報記録媒体に記録された物体検出プログラムでは、画像入力ステップにおいて、撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させ、複数参照点選択ステップでは、前記画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を第1の記憶手段から注目画素ごとに取得する。そして、背景モデル作成ステップでは、複数参照点選択ステップで選択した注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を第2の記憶手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを注目画素と、同画素に対応する各参照画素との組ごとに作成する。
【0086】
その上で、距離計算ステップでは、輝度空間において、背景モデル作成ステップで注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、複数参照点選択ステップで注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する。
そして、物体判別ステップでは、注目画素と各参照画素との組ごとに、距離計算ステップで計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って注目画素が物体を表す画素か否かを最終的に判別する。
【0087】
このように本発明では、1つの注目画素に対して複数の参照画素を設定し、注目画素と各参照画素との組ごとに物体検出を行って、最終的に論理演算により注目画素が物体の画素か否かを判別するので、注目画素と参照画素とを離して設定しても、物体の位置を確実に特定できる。
したがって、各注目画素ごとに選択する参照画素を、注目画素に対し、物体の大きさ以上に離して設定することができ、その結果、注目画素と参照画素とを接近させて設定した場合のように物体の輪郭部のみが検出されるといったことがない。
また、上述した従来技術と同様、輝度空間における照明変動背景モデルと輝度点との距離にもとづいて注目画素が画像を表すか否かを判定するので、照明変動が大きく、かつ頻繁に発生する場合にも安定で、しかも高精度に物体を検出することができる。
【0088】
また、本発明の物体検出方法および本発明のコンピュータ読み取り可能な情報記録媒体に記録された物体検出プログラムでは、画像入力ステップにおいて撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させ、水平参照点選択ステップでは、撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を第1の記憶手段から取得する。また、垂直参照点選択ステップでは、撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を第1の記憶手段から取得する。
そして、水平背景モデル作成ステップでは、水平参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を第1の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成し、垂直背景モデル作成ステップでは、垂直参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する。
【0089】
その後、水平距離計算ステップでは、多次元輝度空間において、水平背景モデル作成ステップで作成した前記照明変動背景モデルと、水平参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算し、垂直距離計算ステップでは、多次元輝度空間において、垂直背景モデル作成ステップで作成した前記照明変動背景モデルと、垂直参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する。
そして、物体判別ステップでは、水平距離計算ステップおよび垂直距離計算ステップで計算した前記距離にもとづいて、注目水平画素列および注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する。
【0090】
このように、本発明では、各水平画素列ごとに背景モデルの作成や、背景モデルと輝度点との間の距離の計算といった演算処理を行い、また各垂直画素列ごとに同様の演算処理を行えばよいので、演算処理の回数は全体で画像の水平方向の画素数に、画像の垂直方向の画素数を加えた値となる。
一方、各画素ごとに背景モデルの作成や、背景モデルと輝度点との間の距離の計算といった演算処理を行った場合には、全体の演算処理の回数は、画像の水平方向の画素数に、画像の垂直方向の画素数を乗じたものとなる。
したがて、本発明では、照明変動が大きく、かつ頻繁に発生する場合にも安定で、しかも高精度に物体の存在領域を検出できる上に、演算量が大幅に低減し、その結果、高速に物体検出を行ったり、装置の低コスト化を図る上で非常に有利となる。
【図面の簡単な説明】
【図1】第1の実施の形態例の物体検出装置を示すブロック図である。
【図2】図1の物体検出装置の動作を示すフローチャートである。
【図3】(A)は画像面における注目点と参照点との位置関係を示す説明図、(B)は物体が撮影領域に侵入した場合の模式図、(C)は検出結果を示す模式図、(D)は画像面における注目点と参照点との位置関係を示す他の説明図、(E)は検出結果を示す他の模式図、(F)は最終的な検出結果を示す模式図である。
【図4】(A)は、道路を黒い車が走っている原画像を示す模式図、(B)は従来技術による車の検出結果を示す説明図、(C)は本実施の形態例による車の検出結果を示す説明図である。
【図5】第2の実施の形態例の物体検出装置を示すブロック図である。
【図6】図5の物体検出装置の動作を示すフローチャートである。
【図7】第2の実施の形態例の動作を説明するための図であって、(A)は垂直方向における物体の存在可能領域の検出を表す説明図、(B)は水平方向における物体の存在可能領域の検出を表す説明図、(C)は検出結果を示す説明図である。
【図8】背景画像を表す説明図である。
【図9】注目点および参照点の輝度値により形成される2次元の輝度空間を示す説明図である。
【図10】監視カメラの撮影領域に物体が侵入した場合の撮影画像を示す説明図である。
【図11】(A)は画像面を示す説明図、(B)は物体が撮影領域に侵入した場合の模式図、(C)は検出結果を示す模式図である。
【符号の説明】
2……物体検出装置、4……画像入力手段、6……複数参照点選択手段、8……背景画像保持手段、10……背景モデル作成手段、12……距離計算手段、14……物体判別手段、16……背景作成手段、18……物体検出装置、20……複数参照点選択手段、22……背景モデル作成手段、24……距離計算手段、26……物体判別手段、28……背景作成手段、102……白ドット、104……直線、106……白丸ドット、108……物体、110……黒ドット。
【特許請求の範囲】
【請求項1】
撮影画像を用いて物体を検出する物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体であって、
前記撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させる画像入力ステップと、
前記撮影画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を前記第1の記憶手段から前記注目画素ごとに取得する複数参照点選択ステップと、
前記撮影画像の背景を成す背景画像の各画素の輝度値を第2の記憶手段に保持させる背景画像保持ステップと、
前記複数参照点選択ステップで選択した前記注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを前記注目画素と、同画素に対応する各参照画素との組ごとに作成する背景モデル作成ステップと、
輝度空間において、前記背景モデル作成ステップで前記注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、前記複数参照点選択ステップで前記注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと前記注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する距離計算ステップと、
前記注目画素と各参照画素との組ごとに、前記距離計算ステップで計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って前記注目画素が物体を表す画素か否かを最終的に判別する物体判別ステップとを含むことを特徴とする物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体。
【請求項2】
前記物体判別ステップで物体を表す画素ではないと判別した前記注目画素、および同画素に対応する前記複数の参照画素のそれぞれに対応する前記背景画像の画素の輝度値を、前記注目画素、および同画素に対応する前記複数の参照画素の輝度値にもとづき更新して前記第1の記憶手段に保持させる背景作成ステップを含むことを特徴とする請求項1記載の物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体。
【請求項3】
撮影画像を用いて物体を検出する物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体であって、
前記撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させる画像入力ステップと、
前記撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、前記注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記第1の記憶手段から取得する水平参照点選択ステップと、
前記撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、前記注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記第1の記憶手段から取得する垂直参照点選択ステップと、
前記撮影画像の背景を成す画像の各画素の輝度値を第2の記憶手段に保持させる背景画像保持ステップと、
前記水平参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する水平背景モデル作成ステップと、
前記垂直参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する垂直背景モデル作成ステップと、
多次元輝度空間において、前記水平背景モデル作成ステップで作成した前記照明変動背景モデルと、前記水平参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する水平距離計算ステップと、
多次元輝度空間において、前記垂直背景モデル作成ステップで作成した前記照明変動背景モデルと、前記垂直参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する垂直距離計算ステップと、
前記水平距離計算ステップおよび前記垂直距離計算ステップで計算した前記距離にもとづいて、前記注目水平画素列および前記注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する物体判別ステップとを含むことを特徴とする物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体。
【請求項4】
前記物体判別ステップで物体を表す画素を含まないと判別した前記注目水平画素列および注目垂直画素列を構成する各画素の輝度値にもとづいて、対応する前記背景画像の画素の輝度値を更新して前記第2の記憶手段に保持させる背景作成ステップとを含むことを特徴とする請求項3記載の物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体。
【請求項1】
撮影画像を用いて物体を検出する物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体であって、
前記撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させる画像入力ステップと、
前記撮影画像の注目画素ごとに複数の参照画素を選択して、選択した複数の参照画素および前記注目画素の輝度値を前記第1の記憶手段から前記注目画素ごとに取得する複数参照点選択ステップと、
前記撮影画像の背景を成す背景画像の各画素の輝度値を第2の記憶手段に保持させる背景画像保持ステップと、
前記複数参照点選択ステップで選択した前記注目画素および同画素に対応する前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して、背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを前記注目画素と、同画素に対応する各参照画素との組ごとに作成する背景モデル作成ステップと、
輝度空間において、前記背景モデル作成ステップで前記注目画素と参照画素との前記組ごとに作成した前記照明変動背景モデルと、前記複数参照点選択ステップで前記注目画素ごとに取得した前記複数の参照画素の輝度値のそれぞれと前記注目画素の輝度値との組が表す点との間の距離をそれぞれ計算する距離計算ステップと、
前記注目画素と各参照画素との組ごとに、前記距離計算ステップで計算した前記距離にもとづいて前記注目画素が物体を表す画素か否かを判別し、前記組ごとの判別結果に対し論理演算を行って前記注目画素が物体を表す画素か否かを最終的に判別する物体判別ステップとを含むことを特徴とする物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体。
【請求項2】
前記物体判別ステップで物体を表す画素ではないと判別した前記注目画素、および同画素に対応する前記複数の参照画素のそれぞれに対応する前記背景画像の画素の輝度値を、前記注目画素、および同画素に対応する前記複数の参照画素の輝度値にもとづき更新して前記第1の記憶手段に保持させる背景作成ステップを含むことを特徴とする請求項1記載の物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体。
【請求項3】
撮影画像を用いて物体を検出する物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体であって、
前記撮影画像の各画素の輝度値を取り込んで第1の記憶手段に保持させる画像入力ステップと、
前記撮影画像において水平方向に配列された複数の画素から成る注目水平画素列ごとに、前記注目水平画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記第1の記憶手段から取得する水平参照点選択ステップと、
前記撮影画像において垂直方向に配列された複数の画素から成る注目垂直画素列ごとに、前記注目垂直画素列に含まれる複数の参照画素を選択して各参照画素の輝度値を前記第1の記憶手段から取得する垂直参照点選択ステップと、
前記撮影画像の背景を成す画像の各画素の輝度値を第2の記憶手段に保持させる背景画像保持ステップと、
前記水平参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する水平背景モデル作成ステップと、
前記垂直参照点選択ステップで選択した前記複数の参照画素にそれぞれ対応する、前記背景画像における複数の画素の輝度値を前記第2の記憶手段から取得して背景の輝度が照明変動の影響を受けて変化した場合の照明変動背景モデルを作成する垂直背景モデル作成ステップと、
多次元輝度空間において、前記水平背景モデル作成ステップで作成した前記照明変動背景モデルと、前記水平参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する水平距離計算ステップと、
多次元輝度空間において、前記垂直背景モデル作成ステップで作成した前記照明変動背景モデルと、前記垂直参照点選択ステップで取得した前記複数の輝度値が表す点との間の距離を計算する垂直距離計算ステップと、
前記水平距離計算ステップおよび前記垂直距離計算ステップで計算した前記距離にもとづいて、前記注目水平画素列および前記注目垂直画素列に物体を表す画素が含まれているか否かを判別し、両画素列に係わる判別結果に対して論理演算を行って物体を含む矩形領域を特定する物体判別ステップとを含むことを特徴とする物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体。
【請求項4】
前記物体判別ステップで物体を表す画素を含まないと判別した前記注目水平画素列および注目垂直画素列を構成する各画素の輝度値にもとづいて、対応する前記背景画像の画素の輝度値を更新して前記第2の記憶手段に保持させる背景作成ステップとを含むことを特徴とする請求項3記載の物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2004−30659(P2004−30659A)
【公開日】平成16年1月29日(2004.1.29)
【国際特許分類】
【出願番号】特願2003−170951(P2003−170951)
【出願日】平成15年6月16日(2003.6.16)
【分割の表示】特願平11−157926の分割
【原出願日】平成11年6月4日(1999.6.4)
【出願人】(000004237)日本電気株式会社 (19,353)
【Fターム(参考)】
【公開日】平成16年1月29日(2004.1.29)
【国際特許分類】
【出願日】平成15年6月16日(2003.6.16)
【分割の表示】特願平11−157926の分割
【原出願日】平成11年6月4日(1999.6.4)
【出願人】(000004237)日本電気株式会社 (19,353)
【Fターム(参考)】
[ Back to top ]