混雑度計測装置、混雑度計測方法、混雑度計測プログラムおよびそのプログラムを記録した記録媒体
【課題】単眼の監視カメラ又は定点カメラを使い、撮影範囲内の物体の数(混雑度)を直接計測することができる混雑度計測装置を提供する。
【解決手段】カメラ1を使って物体を撮影し、例えば画像蓄積部2に蓄積した画像から物体領域を検出・抽出する物体抽出処理部3と、カメラ情報入力部4により入力した前記カメラ1の内部パラメータ、外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち物体の体積に寄与する体積を算出し、その画素が物体の数にどれだけ寄与するかを数量的に表す寄与率としての荷重値を全ての画素に対して求めて荷重値テーブルを生成する荷重値テーブル生成部5と、前記物体抽出処理部3で物体として検出・抽出された各画素と、前記荷重値テーブル生成部5で得た各画素の荷重値から混雑度を計測する混雑度計測部6とを備える。
【解決手段】カメラ1を使って物体を撮影し、例えば画像蓄積部2に蓄積した画像から物体領域を検出・抽出する物体抽出処理部3と、カメラ情報入力部4により入力した前記カメラ1の内部パラメータ、外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち物体の体積に寄与する体積を算出し、その画素が物体の数にどれだけ寄与するかを数量的に表す寄与率としての荷重値を全ての画素に対して求めて荷重値テーブルを生成する荷重値テーブル生成部5と、前記物体抽出処理部3で物体として検出・抽出された各画素と、前記荷重値テーブル生成部5で得た各画素の荷重値から混雑度を計測する混雑度計測部6とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、単眼カメラまたは複数カメラで撮影された映像に利用可能であり、映像中の対象物単体の数(これ以降、混雑度と称する)を計測し、駅・バス停・その他の公共の場の人の混雑度や、道路・通路における人の流れを把握する、混雑度計測装置、混雑度計測方法、混雑度計測プログラムおよびそのプログラムを記録した記録媒体に関する。
【背景技術】
【0002】
監視空間において移動物体を計測する方法として特許文献1に記載の方法が公知である。この方法では、移動物体の表面積を事前に把握しておき、画像中から抽出した物体の画素領域から人数を計数する。また所定の監視空間内にn人の被写体を設置した擬似画像において、場所毎の人物の射影面積を算出して奥行き補正を行い、混雑度を算出する技術(非特許文献1)が公開されている。さらに、カメラ以外のセンサ(赤外線、レーザなど)を使った監視空間内の物体検出を混雑度計測に応用することも可能である。
【特許文献1】特許第3190833号、「移動物体計数処理方法」
【非特許文献1】新村貴彦、新井啓之、井上 潮、「確率的予測に基づく人流計測」、情報処理学会研究報2004−CVIM−143−(16)、pp.119−124、2004.
【発明の開示】
【発明が解決しようとする課題】
【0003】
特許文献1の先行技術では、奥行きを考慮していないため、同じ大きさでも奥行きの違いで人数計測の誤差が大きくなる場合がある。これを改善するには、奥行きを計測する手段として複数カメラを使用した3次元計測が考えられる。しかしながら、ステレオ視ができるようなカメラ配置あるいは撮影装置が必要となる上、設置された既存の監視カメラや定点撮影カメラでは、複数のカメラで共通視野が確保されているとは限らず、3次元計測に十分な条件が与えられているとは限らないため、単眼カメラとして混雑度を計測することが求められる。また、公共の場所では、赤外線センサやレーザ計測などと併用するような監視カメラはまだ十分に普及しておらず、カメラ単体からの混雑度計測が一般的である。
【0004】
一方非特許文献1では、物理的に何人という数値が直接出力されるわけではなく、あくまで奥行き補正により相対的な混雑比が得られるため、混雑度の増減を把握する程度には利用できるが、人を物理的に測定していないため、人数測定のために利用できない。
【0005】
本発明は上記課題を解決するものであり、その目的は、屋内・屋外に設置された単眼の監視カメラあるいは定点カメラを使って、撮影範囲内の物体の数(混雑度)を直接計測することができる混雑度計測装置、混雑度計測方法、混雑度計測プログラムおよびそのプログラムを記録した記録媒体を提供することにある。
【課題を解決するための手段】
【0006】
図1にカメラと対象物の配置を示す。空間中の3次元座標は世界座標系XwYwZwで表現することができる。世界座標系の原点をOとし、Xw軸は図1(a)において紙面の表から裏の方向、Yw軸は水平方向、Zw軸は垂直方向をそれぞれ向いている。図1(b)はZw軸方向から見たカメラと対象物の配置を示している。
【0007】
この座標系においてカメラの視点を(Tx,Ty,Tz)で表現されるものとする。本発明では、混雑度をカメラで観測された対象物の視体積(見かけ上の体積)から算出する。視体積とはカメラで外界を撮影したときの視点から外界へ向かう錐体の体積を意味する。図2では、視野の下限と上限、並びに基準平面(床面、地面など)で囲まれた四角錐であり、視体積Vは基準平面上の底面の面積をSとするとV=S×Tz/3で与えられる。本発明の混雑度計測とは、この視体積中の対象物の体積をカメラで得た観測画像から計測することである。
【0008】
説明の便宜上、視体積を2次元として考える。図3において対象物の高さをh(一定)とし、Yw方向に一定の微小間隔ΔlでN分割し、その量子化した奥行きに応じて高さh、厚さΔlの板を敷き詰めることを想定する。このモデルにおいて1画素の人物への寄与率(1画素が何人に相当するかを表す物理量)を算出する。図3において画像pに投影される微小の視体積の中で高さhまでの空間にある体積は太枠で囲んだ領域であり、この領域内の高さをそれぞれhkとすると、画素pへ投影される寄与率は各奥行きk=1,2,…,Nに対してそれぞれhk/hとなる。この寄与率を、式(1)で示すように、各奥行きにわたって平均化すると1画素あたりの寄与率Δwが得られる。ここで、図3の太枠の領域について、それぞれの奥行きでの微小面積ΔSkは式(2)で与えられるので、式(1)、(2)から1画素の寄与率Δwは式(3)になる。ただし、ΔSは微小面積ΔSkを奥行き方向に加算した値(すなわち太枠の領域の面積)である。
【0009】
【数1】
【0010】
この寄与率を空間中の視体積を使って算出する。図4は図3を立体的に表現した1画素の視体積Vを示す。カメラの視点座標を(Tx,Ty,Tz)とし、その視点で観測される画像上での画素pに対する寄与率Δwを算出する。まず、画像上での各画素が正方格子の形状であると仮定し、画素pの画像座標(xj,yj)の4近傍のサブ画像座標p1=(xj+1/2,yj−1/2),p2=(xj+1/2,yj+1/2),p3=(xj−1/2,yj+1/2),p4=(xj−1/2,yj−1/2)に投影される空間中の3次元位置を算出する。ここで、カメラによる幾何的射影をピンホールカメラに従った透視投影にモデル化できると仮定する。世界座標系で表された3次元点をPj=(Xj,Yj,Zj)、カメラ視点の位置を(Tx,Ty,Tz)とすると、点Pjの画像上で観測される2次元座標値(xj,yj)は式(4)、(5)で与えられる。ここで、fは画素を単位とした焦点距離、R11,R12,…,R33は式(6)に示す3×3の回転行列の要素に対応する。
【0011】
【数2】
【0012】
この透視投影の関係式から、Zj=h(対象物の高さ)での(Xj,Yj)は式(7)で与えられる(h=0は基準平面上の点になる)。
【0013】
【数3】
【0014】
したがって、この式(7)に、画素pの画像座標(xj,yj)の4近傍のサブ画像座標をそれぞれ代入すると、空間中での4つの位置(Xj,Yj,h)が得られる。その後の説明に必要なので、画素pの4近傍の画素に対する高さhでのXY位置をそれぞれAn,n=1,2,3,4,基準平面h=0でのXY位置をそれぞれBn,n=1,2,3,4,さらに画素pの画像座標(xj,yj)を式(7)に代入して得た平面Z=0での3次元位置をB=(Xj,Yj,0)とする。また、XY平面上での視点位置s=(Tx,Ty,0)を基準として、平面Z=hと視体積Vの交差する四角形の頂点に対して点sから最も近い点をA1=(Xs,Ys,h)とし、視体積Vの底面での四角形の頂点に対して点sから最も遠い点をB2=(Xe,Ye,0)とする。
【0015】
図4にて、点sから点Bへの方向(画素中心方向)に垂直な面積Sの矩形面XZ(後に、対象物の表面積を表す平均の面積として扱う)を仮設する。X,Y平面上にて視線方向は、図5に示すようにベクトルaで表すことができる。矩形面XZが視線方向aに微小区間Δlごとに移動して、基準平面から高さhまでの視体積と交差する各断面積ΔSkを考える。視点方向から移動すると、点A1で1点から交差し始め、視体積Vと断面ΔSkと交差して、最後に点B1で1点で交差し終わる。この各断面を微小区間Δlごとに積分すると平行四角錘の体積(画素pへ投影される実効的な視体積)となる。矩形面XZが微小間隔Δlで平行移動したとき、式(8)に示すように面積Sに対する断面積ΔSkの平均値w(x,y)を人数への寄与率と定義する。
【0016】
式(8)の平均値は式(9)のように長さL(x,y)で割って加算した値と等しいので、結局、寄与率w(x,y)は式(10)に表すことができる。
【0017】
【数4】
【0018】
ここで式(10)のL(x、y)は平行四角錘の視線方向の長さを表し、式(11)で与えられる。この長さL(x、y)は、図5の線分A1B2の長さを視線方向(ベクトルa)に射影した長さであり、各ベクトルa,bは点s,A1,B2,Bの各座標から式(12)、式(13)のように示される。
【0019】
【数5】
【0020】
また、式(10)のV(x,y)は平行四角錘の体積である。つまり、平行四角錘の体積V(x,y)とその体積の視線方向の長さL(x,y)が分かれば、式(10)により寄与率w(x,y)を算出することができる。これを全ての画素pに対して求めておき、画像から検出された物体領域の各画素ごとに、この寄与率を加算するだけで、見かけの人数を推定することができる。従って、本発明は、画像中の各画素に対応する人数への寄与率w(x,y)を事前に保有しておき、画像上において物体の像を形成する画素が検出されれば、その画素に対応する寄与率w(x,y)を加算することにより、物体の像の画素の量から見かけ上の人数(混雑度)を計測することができる。
【0021】
これまでに説明した方法に基づき、上記課題を解決するための請求項1に記載の混雑度計測装置は、単眼または複数の画像入力装置を使って取得した画像から、その画像中から移動する物体、または、ある背景に対する前景物体の数を計測する装置であって、画像入力装置を使って物体を撮影し、取得した画像から物体領域を検出・抽出する物体抽出処理手段と、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち物体の体積に寄与する体積を算出し、その画素が物体の数にどれだけ寄与するかを数量的に表す寄与率としての荷重値を全ての画素に対して求めて荷重値テーブルを生成する荷重値テーブル生成手段と、前記物体抽出処理手段で移動する物体、または、ある背景に対する前景物体として検出・抽出された各画素と、前記荷重値テーブル生成手段で得た各画素の荷重値から混雑度を計測する混雑度計測手段とを備えることを特徴としている。
【0022】
また、請求項2に記載の混雑度計測装置は、上記請求項1において、前記荷重値テーブル生成手段は、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の値を超える場合はその画素の荷重値の寄与を抑え、前記混雑度計測手段は、前記荷重値テーブル生成手段で得られた荷重値が所定の値以内の画素について混雑度を計測することを特徴としている。
【0023】
また、請求項3に記載の混雑度計測装置は、上記請求項1において、前記荷重値テーブル生成手段は、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の空間内と交差しない場合はその画素の荷重値の寄与を抑え、前記混雑度計測手段は、前記視体積が所定の空間内と交差する場合において、その対応する画素について混雑度を計測することを特徴としている。
また、請求項4に記載の混雑度計測方法は、単眼または複数の画像入力装置を使って取得した画像から、その画像中の物体の数を計測する方法であって、物体抽出処理手段が、画像入力装置を使って物体を撮影し、取得した画像から物体領域を検出・抽出する物体抽出処理ステップと、荷重値テーブル生成手段が、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち物体の体積に寄与する体積を算出し、その画素が物体の数にどれだけ寄与するかを数量的に表す寄与率としての荷重値を全ての画素に対して求めて荷重値テーブルを生成する荷重値テーブル生成ステップと、混雑度計測手段が、前記物体抽出処理ステップで物体として検出・抽出された各画素と、前記荷重値テーブル生成ステップで得た各画素の荷重値から混雑度を計測する混雑度計測ステップとを備えることを特徴としている。
【0024】
また、請求項5に記載の混雑度計測方法は、上記請求項4において、前記荷重値テーブル生成ステップは、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の値を超える場合はその画素の荷重値の寄与を抑え、前記混雑度計測ステップは、前記荷重値テーブル生成ステップで得られた荷重値が所定の値以内の画素について混雑度を計測することを特徴としている。
【0025】
また、請求項6に記載の混雑度計測方法は、上記請求項4において、前記荷重値テーブル生成ステップは、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の空間内と交差しない場合はその画素の荷重値の寄与を抑え、前記混雑度計測ステップは、前記視体積が所定の空間内と交差する場合において、その対応する画素について混雑度を計測することを特徴としている。
【0026】
また、請求項7に記載の混雑度計測プログラムは、コンピュータに、請求項4ないし請求項6のいずれか1項に記載の各ステップを実行させるプログラムとしたことを特徴としている。
【0027】
また、請求項8に記載の記録媒体は、請求項7に記載の混雑度計測プログラムを記録したコンピュータ読み取り可能な記録媒体であることを特徴としている。
【発明の効果】
【0028】
(1)本発明はカメラ校正作業などで得たカメラパラメータに基づき、単位画素の人数への寄与率を算出するため、非特許文献1のように時系列画像から抽出した人物画像に対して奥行き補正する必要がなく、物体領域として抽出された画素に対応する人数への寄与率(すなわち荷重値)を換算することにより、物体の混雑度を直接に計測できることに効果がある。
【0029】
本発明は特許文献1とは異なり、カメラパラメータに基づき奥行きに応じた視体積を算出し混雑度を計測するため、奥行きに応じた計数誤差が特許文献1と比べると小さい。また、3次元計測を利用する場合では複数カメラで共通視野が確保された条件を前提とするが、本発明は単眼カメラを使った混雑度計測を提供する。本発明は単眼に限定されるわけではなく、仮に複数カメラにおいてもそれぞれのカメラに対して本発明の混雑度計測を適用できる。もし、共通視野が十分に確保されているならば、各カメラからの混雑度を統合すれば、オクルージョンなどによる混雑度の誤差を低減することも可能である。
(2)また請求項2、5に記載の発明によれば、奥行き方向に伸びた画素に投影される視体積により荷重値が必要以上に大きくなってしまうことによる混雑度計測の誤差を抑制することができ、混雑度計測の精度が向上する。
(3)また請求項3、6に記載の発明によれば、混雑度計測に寄与しない画素を除外することができ、混雑度計測に寄与する画素の荷重値算出だけで済むため、効率的に混雑度を計測することができる。
【発明を実施するための最良の形態】
【0030】
以下、図面を参照しながら本発明の実施の形態を説明するが、本発明は下記の実施形態例に限定されるものではない。
【0031】
(実施例1)
図6は本発明の一実施形態例の基本構成図である。図6において、1は画像入力装置としてのカメラ、2はカメラ1で取得した画像を蓄積する画像蓄積部、3は画像蓄積部2に蓄積された画像から物体領域を検出・抽出する物体抽出手段としての物体抽出処理部である。
【0032】
4は、カメラ一の内部パラメータ(焦点距離、画像中心、レンズ歪みなど)、外部パラメータ(姿勢と位置)などのカメラ情報を入力するカメラ情報入力部である。
【0033】
5は、前記カメラ情報入力部4から入力された内部パラメータ、外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち物体の体積に寄与する体積を算出し、その画素が物体の数にどれだけ寄与するかを数量的に表す寄与率としての荷重値を求めて荷重値テーブルを生成する荷重値テーブル生成手段としての荷重値テーブル生成部である。
【0034】
6は、前記物体抽出処理部3により検出・抽出された各画素と、前記荷重値テーブル生成部5で得た各画素の荷重値から混雑度を計測する混雑度計測手段としての混雑度計測部である。
【0035】
7は混雑度計測部6で計測された混雑度を出力する混雑度出力部である。
【0036】
尚、前記物体抽出処理部3、荷重値テーブル生成部5および混雑度計測部6における各処理は、例えばコンピュータにより実行される。
【0037】
画像蓄積部2には、ハードディスク、RAID装置、CD−ROMなどの記録媒体を利用する、または、ネットワークを介してリモートなデータ資源を利用する形態でもどちらでも構わない。
【0038】
また本発明は、他の実施形態例の基本構成図である図7に示すように、リアルタイムで処理を行う構成にすることも可能であり、必ずしも蓄積部などの記憶装置を必要としない。
【0039】
図7において図6と同一部分は同一符号をもって示している。図7において、前記画像蓄積部2は除去しており、カメラ1で取得した画像から背景モデルを構築する背景情報構築部30を図示している。
【0040】
この背景情報構築部30は、構築した背景モデルを使い、物体抽出処理部3にカメラ1から入力された画像に対して後述する背景差分処理を施すことによって移動する物体領域あるいは前景画像領域を抽出するためのものであり、図6の場合は物体抽出処理部3内に設けられている。
【0041】
次に図6、図7の装置の各部の処理の流れを図8のフローチャートに沿って説明する。まず全体の流れを説明すると、ステップS1においてカメラ1で撮影した画像を取り込む(図6の場合は画像蓄積部2に蓄積する)。
【0042】
次に前記取り込んだ画像から背景モデルを構築する(図6の場合は物体抽出処理部3で行われ、図7の場合は背景情報構築部30で行われる)。
【0043】
次にステップS3で処理画像が有ることを判定した後、ステップS4において、前記背景モデルを使った背景差分処理により移動する物体領域あるいは前景画素領域を抽出する(図6、図7の物体抽出処理部3で行われる)。
【0044】
次にステップS9において、ステップS8で生成された荷重値テーブルをもとに、ステップS4により抽出された画素座標の荷重値を加算して混雑度を計測する(図6、図7の混雑度計測部6で行われる)。
【0045】
次にステップS10において、ステップS9で計測された混雑度を出力する(図6、図7の混雑度出力部7で行われる)。
【0046】
以下、前記各処理の詳細を説明する。
【0047】
カメラ1を経由して取得された画像は画像蓄積部2に格納され、その蓄積部2から画像を逐次取り出して、物体抽出処理部3において移動物体または前景と判定された物体領域を抽出する。本発明で使用するカメラ1は固定カメラであり、カメラキャリブレーションを事前に行ってカメラの焦点距離、姿勢・位置が既知であるとする。すなわち、空間中の任意の3次元座標(Xj,Yj,Zj)が、式(4)、(5)に従って画像上での座標(xj,yj)へ投影されると仮定し、式(4)、(5)のカメラパラメータである焦点距離f、カメラ姿勢を表す回転角φ、ω、θ、並びにカメラ視点を表す位置(Tx,Ty,Tz)が、事前に得られていることを前提とする。
【0048】
本実施例では、まず、カメラ1の内部パラメータ(焦点距離,画像中心,レンズ歪など)、外部パラメータ(カメラの姿勢と位置)が与えられたとき、設定された空間情報に基づいて荷重値テーブルを生成する。本発明では、カメラの内部パラメータと外部パラメータを合わせてカメラ情報と呼んでいる。本実施例では、カメラ内部パラメータについて、焦点距離をf、画像中心を投影中心、スキュー0、レンズ歪が無いと仮定し、画像上での座標(xj,yj)は式(4)、(5)で表す透視投影のカメラモデルに従う。図8のカメラ情報入力(ステップS5)では、焦点距離f、カメラの姿勢を表す三軸の回転角ψ、ω、θ、カメラの視点位置を表す(Tx,Ty,Tz)を入力データとして荷重値算出の処理部(図6の荷重値テーブル生成部5)へ与えられる。図8のパラメータ設定(ステップS6)では、対象物の高さh、対象物の表面積Sが設定される。
【0049】
カメラ情報入力(ステップS5)とパラメータ設定(ステップS6)からそれぞれ入力データが与えられたとき、荷重値算出(ステップS7)は図9に示す処理フローに従って処理される。図9において、最初に画像座標(xj,yj)を設定する(ステップS21)。この画像座標とは、画面上に設定された2次元座標系であり、画像中心を原点として水平方向にx軸、垂直方向にy軸が定義されている。以降では、この座標系上の各画素pの座標値(xj,yj)が順番に処理される。各画素pの座標値(xj,yj)が与えられると、(xj,yj)を中心とした4近傍のサブ画像座標:p1=(xj−1/2,yj−1/2),p2=(xj+1/2,yj−1/2),p3=(xj+1/2,yj+1/2),p4=(xj−1/2,yj+1/2)を設定する(ステップS22)。次に、基準平面Z=0におけるその4点の位置B1、B2、B3、B4と、高さZ=hでの平面における位置をA1、A2、A3、A4を求める(ステップS23,S24)。この計算には、画素pの座標値を代入し、カメラ情報入力から得た回転角ψ、ω、θを式(6)に代入して回転行列を求め、カメラ情報入力から得たカメラ視点位置(Tx,Ty,Tz)と高さhを与えて、これらのデータを式(7)に代入すると、平面Z=h(基準平面の場合はh=0とすればよい)での位置(Xj,Yj)が得られる。続いて、A1、A2、A3、A4のうち、視点位置から最も近い点を探した結果、点A1が該当したとし、その3次元座標をA1=(Xs,Ys,h)とする(ステップS25)。同様に、B1、B2、B3、B4のうち、視点位置から最も遠い点を探した結果、点B2が該当したとし、その3次元座標をB2=(Xe,Ye,0)とする(ステップS26)。最近点と最遠点が求まると、式(11)によって有効長L(x,y)を求める(ステップS31)。次にステップS27の面積Sbの算出では基準平面上においてB1、B2、B3、B4が形成する四角形の面積を求め、ステップS28の体積Vの算出では式(14)の公式を使って求める(体積Vは基準平面で形成するB1、B2、B3、B4とZ=hの高さでの平面において形成するA1、A2、A3、A4による四角形で囲まれた四角柱の体積である)。
【0050】
【数6】
【0051】
尚、式(11)のパラメータである基準平面での(X,Y)は、入力画像の座標が有効範囲である(ステップS29で判断する)ことを条件にステップS30において求められる。
【0052】
最後に、式(10)に有効長L(x,y)、体積V(x,y)、パラメータ設定で与えたSを代入して、画像座標(xj,yj)での荷重値w(x,y)を得る(ステップS32)。この荷重値w(x,y)は逐次荷重値テーブルに書き込まれ(ステップS33)、次の画像座標がセットされて(ステップS34)、最初の処理ステップS21に戻る。この処理を全ての画像座標に対して行い、荷重値テーブルが生成される。
【0053】
一方、図8のステップS2では、図6の画像蓄積部2に格納された画像(図7ではカメラ1により取得した画像)を取り出し、背景モデルを構築する。背景モデルは複数枚の時系列画像の平均値をとることで簡単に得られる。すなわち、静的なシーン以外は移動物体と考えて、時間平均を各画素に対して処理することで、移動する物体を画像中からキャンセルする(画像観測で混入するランダム雑音を除去する目的にでも使用する)。この背景モデル構築は定期的に実施する。例えば、屋外では朝と昼と夕方では照明が変化するため、静的シーンの濃淡にも変化が発生する。そこで、本発明では、このような照明変化の効果を除去するため、背景モデルを定期的に更新する。背景モデルが構築されていると、画像蓄積部2から時系列画像を逐次取り出し、背景モデルを使った背景差分処理により、移動する物体領域あるいは前景画素領域を抽出する(ステップS4;図10)。以上の処理により、物体領域を形成する各画素p(x,y)=(xj,yj),j=1,2,…,P(抽出した領域の総画素数がP個)を得る。
【0054】
次に、図6、図7の混雑度計測部6では、図8の物体領域抽出(ステップS4)から得た画素pに対して、式(15)に示した荷重値w(x,y)をかけて加算する(ステップS9)。
【0055】
【数7】
【0056】
最後に、図6、図7の混雑度出力部7から、この加算処理で得た値を混雑度として出力する(ステップS10)。
【0057】
以上の実施例により、時系列画像において、移動する対象物あるいは背景モデルに対する前景領域を検出し、どれだけの物体が存在しているかを示す混雑度を計測することができる。
【0058】
(実施例2)
前記実施例1では、全ての画素に対する荷重値テーブルを生成し、物体領域抽出によって得られた画素の荷重値を加算した。ここで、図11の簡略的な図において、その荷重値の重みについて説明する。この図では下向きにカメラが向けられているため、画面上での画像座標によってその視体積の大きさが異なる。図11の画素pと画素qを比べると、奥行き方向に伸びた画素qの視体積Vqは手前の画素pの視体積Vpよりも大きいことが明らかである。例えば、物体領域抽出において検出された画素が、画面の上方(カメラから遠い)に位置する場合、混雑度として加算される寄与率は大きい。したがって、荷重値テーブルは奥行き方向によって大きい値をもつ構造になる。極端な例として、遠方の物体が数画素で1人分の荷重値が算出されることになり、その混雑度計測への影響は大きい。よって、遠方の物体の場合、1画素の寄与率が大きいため物体領域抽出の処理で間違って画素が抽出されると、混雑度計測の誤差が増加する。
【0059】
そこで、本実施例では、図6、図7の荷重値テーブル生成部5において、ある画素の荷重値が所定の値以上になる場合は、荷重値テーブルに0を書き込み、混雑度計測部6での処理の際その画素の寄与率をキャンセルする。図12は実施例2における荷重値算出の処理フローであり、実施例1の処理フローと異なるのは、ステップS32で荷重値を算出した後の判定において、ある所定の値以下の場合はそのままテーブルへ書き込み、それ以外の場合は荷重値をリセットしてテーブルには0の値を書き込む(ステップS41〜S43)点が異なる。あるいは、テーブルの各画素に対する欄を0に初期化しておき、算出した荷重値が所定の値以上の場合はテーブルへの書き込みを行わないという処理にしてもよい。
【0060】
上記の実施例により、混雑度計測への影響が大きいと考えられる画素については、事前にフィルタをかけておき、混雑度計測のときの加算から除外する。これにより、混雑度計測の処理の効率化を図ることができる。
【0061】
(実施例3)
前記実施例1では、全ての画素に対する荷重値テーブルを生成し、物体領域抽出によって得られた画素の荷重値を加算した。また前記実施例2では、視体積に制限を設けて、所定の大きさ以上の視体積を有する画素については荷重値を算出せず、混雑度計測での加算処理にフィルタをかけた。本実施例3では、カメラ情報に基づき、所定の撮影領域を設定することで、荷重値テーブル生成の効率化を図る。図13に、カメラで撮像できる範囲のうち、指定した領域に対する有効画素領域の例を示す。例えば、XY平面での矩形領域と高さhで指定される領域(網掛け部分)を設定する。このような指定領域の設定は、奥行きは無限の彼方であり画像は有限空間しか撮像されていないため、全ての画素に関する荷重値を算出することは必ずしも効率的とは言えないからである。
【0062】
本実施例では、荷重値算出のとき、画素pの画像座標(xj,yj)がこの指定領域の3次元座標から投影されるかどうかを判定し、指定領域であれば前記実施例1、2で説明した処理手順に従って荷重値を算出し、指定領域でなければ荷重値算出をせずに次ぎの画素へ処理を移行する。図14は本実施例の荷重値算出の処理フローである。実施例1の処理フローと異なるのは、荷重値を算出する前にその画素が指定領域かどうかを判定する点が異なる。処理が開始されると、指定領域を設定し(ステップS51)、ステップS21の画像座標の入力から、投影座標を算出し(ステップS52)、順番に処理される画素pについて、その画像座標(xj,yj)へ投影される3次元座標が指定領域内かどうかを判定する(ステップS53)。まず、画像座標(xj,yj)をh=0として式(7)に代入すると、Zw=0でのXwYw座標:(Xb,Yb,0)が得られる。同様に、画像座標(xj,yj)を式(7)に代入すると、Zw=hでのXwYw座標:(Xt,Yt,h)が得られる。指定領域は4点で決定される矩形として定義されている(ステップS51)ので、どちらかのXwYw座標がこの矩形領域の中であれば、有効領域と判定し、そうでなければ無効領域と判定する(ステップS53)。有効領域と判定されると、荷重値算出の処理に移行し、無効領域と判定されれば、次の画素へ処理が移行する。
【0063】
この判定処理(ステップS51〜S53)を加えることで、指定範囲以外の画素の荷重値を算出しないため、指定範囲外となる画素については、混雑度計測に寄与しない画素として除外することができる。したがって、本実施例によれば全ての荷重値を予め計算してテーブルとして保有することなく、混雑度計測に寄与する指定領域内に対応する画素の荷重値算出だけで済むため、効率的に混雑度を計測することができる。
【0064】
また、本実施形態の混雑度計測装置における各手段の一部もしくは全部の機能をコンピュータのプログラムで構成し、そのプログラムをコンピュータを用いて実行して本発明を実現することができること、本実施形態の混雑度計測方法における手順をコンピュータのプログラムで構成し、そのプログラムをコンピュータに実行させることができることは言うまでもなく、コンピュータでその機能を実現するためのプログラムを、そのコンピュータが読み取り可能な記録媒体、例えばFD(Floppy(登録商標) Disk)や、MO(Magneto−Optical disk)、ROM(Read Only Memory)、メモリカード、CD(Compact Disk)−ROM、DVD(Digital Versatile Disk)−ROM、CD−R,CD−RW,Blu−ray Disk(登録商標),HDD,リムーバブルディスクなどに記録して、保存したり、配布したりすることが可能である。また、上記のプログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。
【図面の簡単な説明】
【0065】
【図1】本発明の基本原理におけるカメラ視点と世界座標系を示す説明図。
【図2】本発明の基本原理における対象物(人を例にした場合)のモデル化を示す説明図。
【図3】本発明の基本原理における撮影領域と視体積を示す説明図。
【図4】発明の基本原理における1画素あたりの視体積を示す説明図。
【図5】発明の基本原理におけるXY平面上での位置関係を示す説明図。
【図6】本発明の一実施形態例の基本構成図。
【図7】本発明の他の実施形態例の基本構成図。
【図8】本発明の実施形態例の全体の処理を示すフローチャート。
【図9】本発明の実施形態例における荷重値算出の処理を示すフローチャート。
【図10】本発明の実施形態例における背景差分による物体領域抽出を示す説明図。
【図11】本発明の実施例2における画素位置の違いによる視体積の大きさを示す説明図。
【図12】本発明の実施例2の荷重値算出の処理を示すフローチャート。
【図13】本発明の実施例3における指定領域に対する画像上での有効範囲を示す説明図。
【図14】本発明の実施例3における荷重値算出の処理を示すフローチャート。
【符号の説明】
【0066】
1…カメラ、2…画像蓄積部、3…物体抽出処理部、4…カメラ情報入力部、5…荷重値テーブル生成部、6…混雑度計測部、7…混雑度出力部、30…背景情報構築部。
【技術分野】
【0001】
本発明は、単眼カメラまたは複数カメラで撮影された映像に利用可能であり、映像中の対象物単体の数(これ以降、混雑度と称する)を計測し、駅・バス停・その他の公共の場の人の混雑度や、道路・通路における人の流れを把握する、混雑度計測装置、混雑度計測方法、混雑度計測プログラムおよびそのプログラムを記録した記録媒体に関する。
【背景技術】
【0002】
監視空間において移動物体を計測する方法として特許文献1に記載の方法が公知である。この方法では、移動物体の表面積を事前に把握しておき、画像中から抽出した物体の画素領域から人数を計数する。また所定の監視空間内にn人の被写体を設置した擬似画像において、場所毎の人物の射影面積を算出して奥行き補正を行い、混雑度を算出する技術(非特許文献1)が公開されている。さらに、カメラ以外のセンサ(赤外線、レーザなど)を使った監視空間内の物体検出を混雑度計測に応用することも可能である。
【特許文献1】特許第3190833号、「移動物体計数処理方法」
【非特許文献1】新村貴彦、新井啓之、井上 潮、「確率的予測に基づく人流計測」、情報処理学会研究報2004−CVIM−143−(16)、pp.119−124、2004.
【発明の開示】
【発明が解決しようとする課題】
【0003】
特許文献1の先行技術では、奥行きを考慮していないため、同じ大きさでも奥行きの違いで人数計測の誤差が大きくなる場合がある。これを改善するには、奥行きを計測する手段として複数カメラを使用した3次元計測が考えられる。しかしながら、ステレオ視ができるようなカメラ配置あるいは撮影装置が必要となる上、設置された既存の監視カメラや定点撮影カメラでは、複数のカメラで共通視野が確保されているとは限らず、3次元計測に十分な条件が与えられているとは限らないため、単眼カメラとして混雑度を計測することが求められる。また、公共の場所では、赤外線センサやレーザ計測などと併用するような監視カメラはまだ十分に普及しておらず、カメラ単体からの混雑度計測が一般的である。
【0004】
一方非特許文献1では、物理的に何人という数値が直接出力されるわけではなく、あくまで奥行き補正により相対的な混雑比が得られるため、混雑度の増減を把握する程度には利用できるが、人を物理的に測定していないため、人数測定のために利用できない。
【0005】
本発明は上記課題を解決するものであり、その目的は、屋内・屋外に設置された単眼の監視カメラあるいは定点カメラを使って、撮影範囲内の物体の数(混雑度)を直接計測することができる混雑度計測装置、混雑度計測方法、混雑度計測プログラムおよびそのプログラムを記録した記録媒体を提供することにある。
【課題を解決するための手段】
【0006】
図1にカメラと対象物の配置を示す。空間中の3次元座標は世界座標系XwYwZwで表現することができる。世界座標系の原点をOとし、Xw軸は図1(a)において紙面の表から裏の方向、Yw軸は水平方向、Zw軸は垂直方向をそれぞれ向いている。図1(b)はZw軸方向から見たカメラと対象物の配置を示している。
【0007】
この座標系においてカメラの視点を(Tx,Ty,Tz)で表現されるものとする。本発明では、混雑度をカメラで観測された対象物の視体積(見かけ上の体積)から算出する。視体積とはカメラで外界を撮影したときの視点から外界へ向かう錐体の体積を意味する。図2では、視野の下限と上限、並びに基準平面(床面、地面など)で囲まれた四角錐であり、視体積Vは基準平面上の底面の面積をSとするとV=S×Tz/3で与えられる。本発明の混雑度計測とは、この視体積中の対象物の体積をカメラで得た観測画像から計測することである。
【0008】
説明の便宜上、視体積を2次元として考える。図3において対象物の高さをh(一定)とし、Yw方向に一定の微小間隔ΔlでN分割し、その量子化した奥行きに応じて高さh、厚さΔlの板を敷き詰めることを想定する。このモデルにおいて1画素の人物への寄与率(1画素が何人に相当するかを表す物理量)を算出する。図3において画像pに投影される微小の視体積の中で高さhまでの空間にある体積は太枠で囲んだ領域であり、この領域内の高さをそれぞれhkとすると、画素pへ投影される寄与率は各奥行きk=1,2,…,Nに対してそれぞれhk/hとなる。この寄与率を、式(1)で示すように、各奥行きにわたって平均化すると1画素あたりの寄与率Δwが得られる。ここで、図3の太枠の領域について、それぞれの奥行きでの微小面積ΔSkは式(2)で与えられるので、式(1)、(2)から1画素の寄与率Δwは式(3)になる。ただし、ΔSは微小面積ΔSkを奥行き方向に加算した値(すなわち太枠の領域の面積)である。
【0009】
【数1】
【0010】
この寄与率を空間中の視体積を使って算出する。図4は図3を立体的に表現した1画素の視体積Vを示す。カメラの視点座標を(Tx,Ty,Tz)とし、その視点で観測される画像上での画素pに対する寄与率Δwを算出する。まず、画像上での各画素が正方格子の形状であると仮定し、画素pの画像座標(xj,yj)の4近傍のサブ画像座標p1=(xj+1/2,yj−1/2),p2=(xj+1/2,yj+1/2),p3=(xj−1/2,yj+1/2),p4=(xj−1/2,yj−1/2)に投影される空間中の3次元位置を算出する。ここで、カメラによる幾何的射影をピンホールカメラに従った透視投影にモデル化できると仮定する。世界座標系で表された3次元点をPj=(Xj,Yj,Zj)、カメラ視点の位置を(Tx,Ty,Tz)とすると、点Pjの画像上で観測される2次元座標値(xj,yj)は式(4)、(5)で与えられる。ここで、fは画素を単位とした焦点距離、R11,R12,…,R33は式(6)に示す3×3の回転行列の要素に対応する。
【0011】
【数2】
【0012】
この透視投影の関係式から、Zj=h(対象物の高さ)での(Xj,Yj)は式(7)で与えられる(h=0は基準平面上の点になる)。
【0013】
【数3】
【0014】
したがって、この式(7)に、画素pの画像座標(xj,yj)の4近傍のサブ画像座標をそれぞれ代入すると、空間中での4つの位置(Xj,Yj,h)が得られる。その後の説明に必要なので、画素pの4近傍の画素に対する高さhでのXY位置をそれぞれAn,n=1,2,3,4,基準平面h=0でのXY位置をそれぞれBn,n=1,2,3,4,さらに画素pの画像座標(xj,yj)を式(7)に代入して得た平面Z=0での3次元位置をB=(Xj,Yj,0)とする。また、XY平面上での視点位置s=(Tx,Ty,0)を基準として、平面Z=hと視体積Vの交差する四角形の頂点に対して点sから最も近い点をA1=(Xs,Ys,h)とし、視体積Vの底面での四角形の頂点に対して点sから最も遠い点をB2=(Xe,Ye,0)とする。
【0015】
図4にて、点sから点Bへの方向(画素中心方向)に垂直な面積Sの矩形面XZ(後に、対象物の表面積を表す平均の面積として扱う)を仮設する。X,Y平面上にて視線方向は、図5に示すようにベクトルaで表すことができる。矩形面XZが視線方向aに微小区間Δlごとに移動して、基準平面から高さhまでの視体積と交差する各断面積ΔSkを考える。視点方向から移動すると、点A1で1点から交差し始め、視体積Vと断面ΔSkと交差して、最後に点B1で1点で交差し終わる。この各断面を微小区間Δlごとに積分すると平行四角錘の体積(画素pへ投影される実効的な視体積)となる。矩形面XZが微小間隔Δlで平行移動したとき、式(8)に示すように面積Sに対する断面積ΔSkの平均値w(x,y)を人数への寄与率と定義する。
【0016】
式(8)の平均値は式(9)のように長さL(x,y)で割って加算した値と等しいので、結局、寄与率w(x,y)は式(10)に表すことができる。
【0017】
【数4】
【0018】
ここで式(10)のL(x、y)は平行四角錘の視線方向の長さを表し、式(11)で与えられる。この長さL(x、y)は、図5の線分A1B2の長さを視線方向(ベクトルa)に射影した長さであり、各ベクトルa,bは点s,A1,B2,Bの各座標から式(12)、式(13)のように示される。
【0019】
【数5】
【0020】
また、式(10)のV(x,y)は平行四角錘の体積である。つまり、平行四角錘の体積V(x,y)とその体積の視線方向の長さL(x,y)が分かれば、式(10)により寄与率w(x,y)を算出することができる。これを全ての画素pに対して求めておき、画像から検出された物体領域の各画素ごとに、この寄与率を加算するだけで、見かけの人数を推定することができる。従って、本発明は、画像中の各画素に対応する人数への寄与率w(x,y)を事前に保有しておき、画像上において物体の像を形成する画素が検出されれば、その画素に対応する寄与率w(x,y)を加算することにより、物体の像の画素の量から見かけ上の人数(混雑度)を計測することができる。
【0021】
これまでに説明した方法に基づき、上記課題を解決するための請求項1に記載の混雑度計測装置は、単眼または複数の画像入力装置を使って取得した画像から、その画像中から移動する物体、または、ある背景に対する前景物体の数を計測する装置であって、画像入力装置を使って物体を撮影し、取得した画像から物体領域を検出・抽出する物体抽出処理手段と、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち物体の体積に寄与する体積を算出し、その画素が物体の数にどれだけ寄与するかを数量的に表す寄与率としての荷重値を全ての画素に対して求めて荷重値テーブルを生成する荷重値テーブル生成手段と、前記物体抽出処理手段で移動する物体、または、ある背景に対する前景物体として検出・抽出された各画素と、前記荷重値テーブル生成手段で得た各画素の荷重値から混雑度を計測する混雑度計測手段とを備えることを特徴としている。
【0022】
また、請求項2に記載の混雑度計測装置は、上記請求項1において、前記荷重値テーブル生成手段は、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の値を超える場合はその画素の荷重値の寄与を抑え、前記混雑度計測手段は、前記荷重値テーブル生成手段で得られた荷重値が所定の値以内の画素について混雑度を計測することを特徴としている。
【0023】
また、請求項3に記載の混雑度計測装置は、上記請求項1において、前記荷重値テーブル生成手段は、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の空間内と交差しない場合はその画素の荷重値の寄与を抑え、前記混雑度計測手段は、前記視体積が所定の空間内と交差する場合において、その対応する画素について混雑度を計測することを特徴としている。
また、請求項4に記載の混雑度計測方法は、単眼または複数の画像入力装置を使って取得した画像から、その画像中の物体の数を計測する方法であって、物体抽出処理手段が、画像入力装置を使って物体を撮影し、取得した画像から物体領域を検出・抽出する物体抽出処理ステップと、荷重値テーブル生成手段が、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち物体の体積に寄与する体積を算出し、その画素が物体の数にどれだけ寄与するかを数量的に表す寄与率としての荷重値を全ての画素に対して求めて荷重値テーブルを生成する荷重値テーブル生成ステップと、混雑度計測手段が、前記物体抽出処理ステップで物体として検出・抽出された各画素と、前記荷重値テーブル生成ステップで得た各画素の荷重値から混雑度を計測する混雑度計測ステップとを備えることを特徴としている。
【0024】
また、請求項5に記載の混雑度計測方法は、上記請求項4において、前記荷重値テーブル生成ステップは、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の値を超える場合はその画素の荷重値の寄与を抑え、前記混雑度計測ステップは、前記荷重値テーブル生成ステップで得られた荷重値が所定の値以内の画素について混雑度を計測することを特徴としている。
【0025】
また、請求項6に記載の混雑度計測方法は、上記請求項4において、前記荷重値テーブル生成ステップは、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の空間内と交差しない場合はその画素の荷重値の寄与を抑え、前記混雑度計測ステップは、前記視体積が所定の空間内と交差する場合において、その対応する画素について混雑度を計測することを特徴としている。
【0026】
また、請求項7に記載の混雑度計測プログラムは、コンピュータに、請求項4ないし請求項6のいずれか1項に記載の各ステップを実行させるプログラムとしたことを特徴としている。
【0027】
また、請求項8に記載の記録媒体は、請求項7に記載の混雑度計測プログラムを記録したコンピュータ読み取り可能な記録媒体であることを特徴としている。
【発明の効果】
【0028】
(1)本発明はカメラ校正作業などで得たカメラパラメータに基づき、単位画素の人数への寄与率を算出するため、非特許文献1のように時系列画像から抽出した人物画像に対して奥行き補正する必要がなく、物体領域として抽出された画素に対応する人数への寄与率(すなわち荷重値)を換算することにより、物体の混雑度を直接に計測できることに効果がある。
【0029】
本発明は特許文献1とは異なり、カメラパラメータに基づき奥行きに応じた視体積を算出し混雑度を計測するため、奥行きに応じた計数誤差が特許文献1と比べると小さい。また、3次元計測を利用する場合では複数カメラで共通視野が確保された条件を前提とするが、本発明は単眼カメラを使った混雑度計測を提供する。本発明は単眼に限定されるわけではなく、仮に複数カメラにおいてもそれぞれのカメラに対して本発明の混雑度計測を適用できる。もし、共通視野が十分に確保されているならば、各カメラからの混雑度を統合すれば、オクルージョンなどによる混雑度の誤差を低減することも可能である。
(2)また請求項2、5に記載の発明によれば、奥行き方向に伸びた画素に投影される視体積により荷重値が必要以上に大きくなってしまうことによる混雑度計測の誤差を抑制することができ、混雑度計測の精度が向上する。
(3)また請求項3、6に記載の発明によれば、混雑度計測に寄与しない画素を除外することができ、混雑度計測に寄与する画素の荷重値算出だけで済むため、効率的に混雑度を計測することができる。
【発明を実施するための最良の形態】
【0030】
以下、図面を参照しながら本発明の実施の形態を説明するが、本発明は下記の実施形態例に限定されるものではない。
【0031】
(実施例1)
図6は本発明の一実施形態例の基本構成図である。図6において、1は画像入力装置としてのカメラ、2はカメラ1で取得した画像を蓄積する画像蓄積部、3は画像蓄積部2に蓄積された画像から物体領域を検出・抽出する物体抽出手段としての物体抽出処理部である。
【0032】
4は、カメラ一の内部パラメータ(焦点距離、画像中心、レンズ歪みなど)、外部パラメータ(姿勢と位置)などのカメラ情報を入力するカメラ情報入力部である。
【0033】
5は、前記カメラ情報入力部4から入力された内部パラメータ、外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち物体の体積に寄与する体積を算出し、その画素が物体の数にどれだけ寄与するかを数量的に表す寄与率としての荷重値を求めて荷重値テーブルを生成する荷重値テーブル生成手段としての荷重値テーブル生成部である。
【0034】
6は、前記物体抽出処理部3により検出・抽出された各画素と、前記荷重値テーブル生成部5で得た各画素の荷重値から混雑度を計測する混雑度計測手段としての混雑度計測部である。
【0035】
7は混雑度計測部6で計測された混雑度を出力する混雑度出力部である。
【0036】
尚、前記物体抽出処理部3、荷重値テーブル生成部5および混雑度計測部6における各処理は、例えばコンピュータにより実行される。
【0037】
画像蓄積部2には、ハードディスク、RAID装置、CD−ROMなどの記録媒体を利用する、または、ネットワークを介してリモートなデータ資源を利用する形態でもどちらでも構わない。
【0038】
また本発明は、他の実施形態例の基本構成図である図7に示すように、リアルタイムで処理を行う構成にすることも可能であり、必ずしも蓄積部などの記憶装置を必要としない。
【0039】
図7において図6と同一部分は同一符号をもって示している。図7において、前記画像蓄積部2は除去しており、カメラ1で取得した画像から背景モデルを構築する背景情報構築部30を図示している。
【0040】
この背景情報構築部30は、構築した背景モデルを使い、物体抽出処理部3にカメラ1から入力された画像に対して後述する背景差分処理を施すことによって移動する物体領域あるいは前景画像領域を抽出するためのものであり、図6の場合は物体抽出処理部3内に設けられている。
【0041】
次に図6、図7の装置の各部の処理の流れを図8のフローチャートに沿って説明する。まず全体の流れを説明すると、ステップS1においてカメラ1で撮影した画像を取り込む(図6の場合は画像蓄積部2に蓄積する)。
【0042】
次に前記取り込んだ画像から背景モデルを構築する(図6の場合は物体抽出処理部3で行われ、図7の場合は背景情報構築部30で行われる)。
【0043】
次にステップS3で処理画像が有ることを判定した後、ステップS4において、前記背景モデルを使った背景差分処理により移動する物体領域あるいは前景画素領域を抽出する(図6、図7の物体抽出処理部3で行われる)。
【0044】
次にステップS9において、ステップS8で生成された荷重値テーブルをもとに、ステップS4により抽出された画素座標の荷重値を加算して混雑度を計測する(図6、図7の混雑度計測部6で行われる)。
【0045】
次にステップS10において、ステップS9で計測された混雑度を出力する(図6、図7の混雑度出力部7で行われる)。
【0046】
以下、前記各処理の詳細を説明する。
【0047】
カメラ1を経由して取得された画像は画像蓄積部2に格納され、その蓄積部2から画像を逐次取り出して、物体抽出処理部3において移動物体または前景と判定された物体領域を抽出する。本発明で使用するカメラ1は固定カメラであり、カメラキャリブレーションを事前に行ってカメラの焦点距離、姿勢・位置が既知であるとする。すなわち、空間中の任意の3次元座標(Xj,Yj,Zj)が、式(4)、(5)に従って画像上での座標(xj,yj)へ投影されると仮定し、式(4)、(5)のカメラパラメータである焦点距離f、カメラ姿勢を表す回転角φ、ω、θ、並びにカメラ視点を表す位置(Tx,Ty,Tz)が、事前に得られていることを前提とする。
【0048】
本実施例では、まず、カメラ1の内部パラメータ(焦点距離,画像中心,レンズ歪など)、外部パラメータ(カメラの姿勢と位置)が与えられたとき、設定された空間情報に基づいて荷重値テーブルを生成する。本発明では、カメラの内部パラメータと外部パラメータを合わせてカメラ情報と呼んでいる。本実施例では、カメラ内部パラメータについて、焦点距離をf、画像中心を投影中心、スキュー0、レンズ歪が無いと仮定し、画像上での座標(xj,yj)は式(4)、(5)で表す透視投影のカメラモデルに従う。図8のカメラ情報入力(ステップS5)では、焦点距離f、カメラの姿勢を表す三軸の回転角ψ、ω、θ、カメラの視点位置を表す(Tx,Ty,Tz)を入力データとして荷重値算出の処理部(図6の荷重値テーブル生成部5)へ与えられる。図8のパラメータ設定(ステップS6)では、対象物の高さh、対象物の表面積Sが設定される。
【0049】
カメラ情報入力(ステップS5)とパラメータ設定(ステップS6)からそれぞれ入力データが与えられたとき、荷重値算出(ステップS7)は図9に示す処理フローに従って処理される。図9において、最初に画像座標(xj,yj)を設定する(ステップS21)。この画像座標とは、画面上に設定された2次元座標系であり、画像中心を原点として水平方向にx軸、垂直方向にy軸が定義されている。以降では、この座標系上の各画素pの座標値(xj,yj)が順番に処理される。各画素pの座標値(xj,yj)が与えられると、(xj,yj)を中心とした4近傍のサブ画像座標:p1=(xj−1/2,yj−1/2),p2=(xj+1/2,yj−1/2),p3=(xj+1/2,yj+1/2),p4=(xj−1/2,yj+1/2)を設定する(ステップS22)。次に、基準平面Z=0におけるその4点の位置B1、B2、B3、B4と、高さZ=hでの平面における位置をA1、A2、A3、A4を求める(ステップS23,S24)。この計算には、画素pの座標値を代入し、カメラ情報入力から得た回転角ψ、ω、θを式(6)に代入して回転行列を求め、カメラ情報入力から得たカメラ視点位置(Tx,Ty,Tz)と高さhを与えて、これらのデータを式(7)に代入すると、平面Z=h(基準平面の場合はh=0とすればよい)での位置(Xj,Yj)が得られる。続いて、A1、A2、A3、A4のうち、視点位置から最も近い点を探した結果、点A1が該当したとし、その3次元座標をA1=(Xs,Ys,h)とする(ステップS25)。同様に、B1、B2、B3、B4のうち、視点位置から最も遠い点を探した結果、点B2が該当したとし、その3次元座標をB2=(Xe,Ye,0)とする(ステップS26)。最近点と最遠点が求まると、式(11)によって有効長L(x,y)を求める(ステップS31)。次にステップS27の面積Sbの算出では基準平面上においてB1、B2、B3、B4が形成する四角形の面積を求め、ステップS28の体積Vの算出では式(14)の公式を使って求める(体積Vは基準平面で形成するB1、B2、B3、B4とZ=hの高さでの平面において形成するA1、A2、A3、A4による四角形で囲まれた四角柱の体積である)。
【0050】
【数6】
【0051】
尚、式(11)のパラメータである基準平面での(X,Y)は、入力画像の座標が有効範囲である(ステップS29で判断する)ことを条件にステップS30において求められる。
【0052】
最後に、式(10)に有効長L(x,y)、体積V(x,y)、パラメータ設定で与えたSを代入して、画像座標(xj,yj)での荷重値w(x,y)を得る(ステップS32)。この荷重値w(x,y)は逐次荷重値テーブルに書き込まれ(ステップS33)、次の画像座標がセットされて(ステップS34)、最初の処理ステップS21に戻る。この処理を全ての画像座標に対して行い、荷重値テーブルが生成される。
【0053】
一方、図8のステップS2では、図6の画像蓄積部2に格納された画像(図7ではカメラ1により取得した画像)を取り出し、背景モデルを構築する。背景モデルは複数枚の時系列画像の平均値をとることで簡単に得られる。すなわち、静的なシーン以外は移動物体と考えて、時間平均を各画素に対して処理することで、移動する物体を画像中からキャンセルする(画像観測で混入するランダム雑音を除去する目的にでも使用する)。この背景モデル構築は定期的に実施する。例えば、屋外では朝と昼と夕方では照明が変化するため、静的シーンの濃淡にも変化が発生する。そこで、本発明では、このような照明変化の効果を除去するため、背景モデルを定期的に更新する。背景モデルが構築されていると、画像蓄積部2から時系列画像を逐次取り出し、背景モデルを使った背景差分処理により、移動する物体領域あるいは前景画素領域を抽出する(ステップS4;図10)。以上の処理により、物体領域を形成する各画素p(x,y)=(xj,yj),j=1,2,…,P(抽出した領域の総画素数がP個)を得る。
【0054】
次に、図6、図7の混雑度計測部6では、図8の物体領域抽出(ステップS4)から得た画素pに対して、式(15)に示した荷重値w(x,y)をかけて加算する(ステップS9)。
【0055】
【数7】
【0056】
最後に、図6、図7の混雑度出力部7から、この加算処理で得た値を混雑度として出力する(ステップS10)。
【0057】
以上の実施例により、時系列画像において、移動する対象物あるいは背景モデルに対する前景領域を検出し、どれだけの物体が存在しているかを示す混雑度を計測することができる。
【0058】
(実施例2)
前記実施例1では、全ての画素に対する荷重値テーブルを生成し、物体領域抽出によって得られた画素の荷重値を加算した。ここで、図11の簡略的な図において、その荷重値の重みについて説明する。この図では下向きにカメラが向けられているため、画面上での画像座標によってその視体積の大きさが異なる。図11の画素pと画素qを比べると、奥行き方向に伸びた画素qの視体積Vqは手前の画素pの視体積Vpよりも大きいことが明らかである。例えば、物体領域抽出において検出された画素が、画面の上方(カメラから遠い)に位置する場合、混雑度として加算される寄与率は大きい。したがって、荷重値テーブルは奥行き方向によって大きい値をもつ構造になる。極端な例として、遠方の物体が数画素で1人分の荷重値が算出されることになり、その混雑度計測への影響は大きい。よって、遠方の物体の場合、1画素の寄与率が大きいため物体領域抽出の処理で間違って画素が抽出されると、混雑度計測の誤差が増加する。
【0059】
そこで、本実施例では、図6、図7の荷重値テーブル生成部5において、ある画素の荷重値が所定の値以上になる場合は、荷重値テーブルに0を書き込み、混雑度計測部6での処理の際その画素の寄与率をキャンセルする。図12は実施例2における荷重値算出の処理フローであり、実施例1の処理フローと異なるのは、ステップS32で荷重値を算出した後の判定において、ある所定の値以下の場合はそのままテーブルへ書き込み、それ以外の場合は荷重値をリセットしてテーブルには0の値を書き込む(ステップS41〜S43)点が異なる。あるいは、テーブルの各画素に対する欄を0に初期化しておき、算出した荷重値が所定の値以上の場合はテーブルへの書き込みを行わないという処理にしてもよい。
【0060】
上記の実施例により、混雑度計測への影響が大きいと考えられる画素については、事前にフィルタをかけておき、混雑度計測のときの加算から除外する。これにより、混雑度計測の処理の効率化を図ることができる。
【0061】
(実施例3)
前記実施例1では、全ての画素に対する荷重値テーブルを生成し、物体領域抽出によって得られた画素の荷重値を加算した。また前記実施例2では、視体積に制限を設けて、所定の大きさ以上の視体積を有する画素については荷重値を算出せず、混雑度計測での加算処理にフィルタをかけた。本実施例3では、カメラ情報に基づき、所定の撮影領域を設定することで、荷重値テーブル生成の効率化を図る。図13に、カメラで撮像できる範囲のうち、指定した領域に対する有効画素領域の例を示す。例えば、XY平面での矩形領域と高さhで指定される領域(網掛け部分)を設定する。このような指定領域の設定は、奥行きは無限の彼方であり画像は有限空間しか撮像されていないため、全ての画素に関する荷重値を算出することは必ずしも効率的とは言えないからである。
【0062】
本実施例では、荷重値算出のとき、画素pの画像座標(xj,yj)がこの指定領域の3次元座標から投影されるかどうかを判定し、指定領域であれば前記実施例1、2で説明した処理手順に従って荷重値を算出し、指定領域でなければ荷重値算出をせずに次ぎの画素へ処理を移行する。図14は本実施例の荷重値算出の処理フローである。実施例1の処理フローと異なるのは、荷重値を算出する前にその画素が指定領域かどうかを判定する点が異なる。処理が開始されると、指定領域を設定し(ステップS51)、ステップS21の画像座標の入力から、投影座標を算出し(ステップS52)、順番に処理される画素pについて、その画像座標(xj,yj)へ投影される3次元座標が指定領域内かどうかを判定する(ステップS53)。まず、画像座標(xj,yj)をh=0として式(7)に代入すると、Zw=0でのXwYw座標:(Xb,Yb,0)が得られる。同様に、画像座標(xj,yj)を式(7)に代入すると、Zw=hでのXwYw座標:(Xt,Yt,h)が得られる。指定領域は4点で決定される矩形として定義されている(ステップS51)ので、どちらかのXwYw座標がこの矩形領域の中であれば、有効領域と判定し、そうでなければ無効領域と判定する(ステップS53)。有効領域と判定されると、荷重値算出の処理に移行し、無効領域と判定されれば、次の画素へ処理が移行する。
【0063】
この判定処理(ステップS51〜S53)を加えることで、指定範囲以外の画素の荷重値を算出しないため、指定範囲外となる画素については、混雑度計測に寄与しない画素として除外することができる。したがって、本実施例によれば全ての荷重値を予め計算してテーブルとして保有することなく、混雑度計測に寄与する指定領域内に対応する画素の荷重値算出だけで済むため、効率的に混雑度を計測することができる。
【0064】
また、本実施形態の混雑度計測装置における各手段の一部もしくは全部の機能をコンピュータのプログラムで構成し、そのプログラムをコンピュータを用いて実行して本発明を実現することができること、本実施形態の混雑度計測方法における手順をコンピュータのプログラムで構成し、そのプログラムをコンピュータに実行させることができることは言うまでもなく、コンピュータでその機能を実現するためのプログラムを、そのコンピュータが読み取り可能な記録媒体、例えばFD(Floppy(登録商標) Disk)や、MO(Magneto−Optical disk)、ROM(Read Only Memory)、メモリカード、CD(Compact Disk)−ROM、DVD(Digital Versatile Disk)−ROM、CD−R,CD−RW,Blu−ray Disk(登録商標),HDD,リムーバブルディスクなどに記録して、保存したり、配布したりすることが可能である。また、上記のプログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。
【図面の簡単な説明】
【0065】
【図1】本発明の基本原理におけるカメラ視点と世界座標系を示す説明図。
【図2】本発明の基本原理における対象物(人を例にした場合)のモデル化を示す説明図。
【図3】本発明の基本原理における撮影領域と視体積を示す説明図。
【図4】発明の基本原理における1画素あたりの視体積を示す説明図。
【図5】発明の基本原理におけるXY平面上での位置関係を示す説明図。
【図6】本発明の一実施形態例の基本構成図。
【図7】本発明の他の実施形態例の基本構成図。
【図8】本発明の実施形態例の全体の処理を示すフローチャート。
【図9】本発明の実施形態例における荷重値算出の処理を示すフローチャート。
【図10】本発明の実施形態例における背景差分による物体領域抽出を示す説明図。
【図11】本発明の実施例2における画素位置の違いによる視体積の大きさを示す説明図。
【図12】本発明の実施例2の荷重値算出の処理を示すフローチャート。
【図13】本発明の実施例3における指定領域に対する画像上での有効範囲を示す説明図。
【図14】本発明の実施例3における荷重値算出の処理を示すフローチャート。
【符号の説明】
【0066】
1…カメラ、2…画像蓄積部、3…物体抽出処理部、4…カメラ情報入力部、5…荷重値テーブル生成部、6…混雑度計測部、7…混雑度出力部、30…背景情報構築部。
【特許請求の範囲】
【請求項1】
単眼または複数の画像入力装置を使って取得した画像から、その画像中の物体の数を計測する装置であって、
画像入力装置を使って物体を撮影し、取得した画像から物体領域を検出・抽出する物体抽出処理手段と、
前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち物体の体積に寄与する体積を算出し、その画素が物体の数にどれだけ寄与するかを数量的に表す寄与率としての荷重値を全ての画素に対して求めて荷重値テーブルを生成する荷重値テーブル生成手段と、
前記物体抽出処理手段で物体として検出・抽出された各画素と、前記荷重値テーブル生成手段で得た各画素の荷重値から混雑度を計測する混雑度計測手段と
を備えることを特徴とする混雑度計測装置。
【請求項2】
請求項1において、
前記荷重値テーブル生成手段は、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の値を超える場合はその画素の荷重値の寄与を抑え、
前記混雑度計測手段は、前記荷重値テーブル生成手段で得られた荷重値が所定の値以内の画素について混雑度を計測する
ことを特徴とする混雑度計測装置。
【請求項3】
請求項1において、
前記荷重値テーブル生成手段は、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の空間内と交差しない場合はその画素の荷重値の寄与を抑え、
前記混雑度計測手段は、前記視体積が所定の空間内と交差する場合において、その対応する画素について混雑度を計測する
ことを特徴とする混雑度計測装置。
【請求項4】
単眼または複数の画像入力装置を使って取得した画像から、その画像中の物体の数を計測する方法であって、
物体抽出処理手段が、画像入力装置を使って物体を撮影し、取得した画像から物体領域を検出・抽出する物体抽出処理ステップと、
荷重値テーブル生成手段が、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち物体の体積に寄与する体積を算出し、その画素が物体の数にどれだけ寄与するかを数量的に表す寄与率としての荷重値を全ての画素に対して求めて荷重値テーブルを生成する荷重値テーブル生成ステップと、
混雑度計測手段が、前記物体抽出処理ステップで物体として検出・抽出された各画素と、前記荷重値テーブル生成ステップで得た各画素の荷重値から混雑度を計測する混雑度計測ステップと
を備えることを特徴とする混雑度計測方法。
【請求項5】
請求項4において、
前記荷重値テーブル生成ステップは、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の値を超える場合はその画素の荷重値の寄与を抑え、
前記混雑度計測ステップは、前記荷重値テーブル生成ステップで得られた荷重値が所定の値以内の画素について混雑度を計測する
ことを特徴とする混雑度計測方法。
【請求項6】
請求項4において、
前記荷重値テーブル生成ステップは、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の空間内と交差しない場合はその画素の荷重値の寄与を抑え、
前記混雑度計測ステップは、前記視体積が所定の空間内と交差する場合において、その対応する画素について混雑度を計測する
ことを特徴とする混雑度計測方法。
【請求項7】
コンピュータに、請求項4ないし請求項6のいずれか1項に記載の各ステップを実行させるプログラムとしたことを特徴とする混雑度計測プログラム。
【請求項8】
請求項7に記載の混雑度計測プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項1】
単眼または複数の画像入力装置を使って取得した画像から、その画像中の物体の数を計測する装置であって、
画像入力装置を使って物体を撮影し、取得した画像から物体領域を検出・抽出する物体抽出処理手段と、
前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち物体の体積に寄与する体積を算出し、その画素が物体の数にどれだけ寄与するかを数量的に表す寄与率としての荷重値を全ての画素に対して求めて荷重値テーブルを生成する荷重値テーブル生成手段と、
前記物体抽出処理手段で物体として検出・抽出された各画素と、前記荷重値テーブル生成手段で得た各画素の荷重値から混雑度を計測する混雑度計測手段と
を備えることを特徴とする混雑度計測装置。
【請求項2】
請求項1において、
前記荷重値テーブル生成手段は、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の値を超える場合はその画素の荷重値の寄与を抑え、
前記混雑度計測手段は、前記荷重値テーブル生成手段で得られた荷重値が所定の値以内の画素について混雑度を計測する
ことを特徴とする混雑度計測装置。
【請求項3】
請求項1において、
前記荷重値テーブル生成手段は、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の空間内と交差しない場合はその画素の荷重値の寄与を抑え、
前記混雑度計測手段は、前記視体積が所定の空間内と交差する場合において、その対応する画素について混雑度を計測する
ことを特徴とする混雑度計測装置。
【請求項4】
単眼または複数の画像入力装置を使って取得した画像から、その画像中の物体の数を計測する方法であって、
物体抽出処理手段が、画像入力装置を使って物体を撮影し、取得した画像から物体領域を検出・抽出する物体抽出処理ステップと、
荷重値テーブル生成手段が、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち物体の体積に寄与する体積を算出し、その画素が物体の数にどれだけ寄与するかを数量的に表す寄与率としての荷重値を全ての画素に対して求めて荷重値テーブルを生成する荷重値テーブル生成ステップと、
混雑度計測手段が、前記物体抽出処理ステップで物体として検出・抽出された各画素と、前記荷重値テーブル生成ステップで得た各画素の荷重値から混雑度を計測する混雑度計測ステップと
を備えることを特徴とする混雑度計測方法。
【請求項5】
請求項4において、
前記荷重値テーブル生成ステップは、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の値を超える場合はその画素の荷重値の寄与を抑え、
前記混雑度計測ステップは、前記荷重値テーブル生成ステップで得られた荷重値が所定の値以内の画素について混雑度を計測する
ことを特徴とする混雑度計測方法。
【請求項6】
請求項4において、
前記荷重値テーブル生成ステップは、前記画像入力装置の内部パラメータ、並びに、前記画像入力装置の姿勢と位置を含む外部パラメータと空間中の3次元点を対応づけた透視投影の関係を前提として、観測される画像上の各画素に投影される視体積のうち、その視体積の値が所定の空間内と交差しない場合はその画素の荷重値の寄与を抑え、
前記混雑度計測ステップは、前記視体積が所定の空間内と交差する場合において、その対応する画素について混雑度を計測する
ことを特徴とする混雑度計測方法。
【請求項7】
コンピュータに、請求項4ないし請求項6のいずれか1項に記載の各ステップを実行させるプログラムとしたことを特徴とする混雑度計測プログラム。
【請求項8】
請求項7に記載の混雑度計測プログラムを記録したコンピュータ読み取り可能な記録媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2009−294755(P2009−294755A)
【公開日】平成21年12月17日(2009.12.17)
【国際特許分類】
【出願番号】特願2008−145640(P2008−145640)
【出願日】平成20年6月3日(2008.6.3)
【出願人】(000004226)日本電信電話株式会社 (13,992)
【Fターム(参考)】
【公開日】平成21年12月17日(2009.12.17)
【国際特許分類】
【出願日】平成20年6月3日(2008.6.3)
【出願人】(000004226)日本電信電話株式会社 (13,992)
【Fターム(参考)】
[ Back to top ]