画像処理による移動物体計測方法及び装置
【課題】計測誤差をより小さくする。
【解決手段】移動物体を撮像するビデオカメラ10から遠ざかる方向へ移動物体が移動するときには移動物体の略後端を代表点とし、ビデオカメラ10へ近づく方向に移動物体が移動するときには移動物体の略前端を代表点とし、代表点に関する物理量を計測する。移動物体の領域に対する相対位置を移動物体の代表点として予め定めておいてもよい。移動物体が他の移動物体と重なっていないと判定した場合には、移動物体の幾何学的重心を代表点として求め、移動物体が他の移動物体と重なっていることを検出した場合には、移動物体の動きベクトルに基づいて、重なりがないとしたときの幾何学的重心に相当する点を代表点として求めてもよい。
【解決手段】移動物体を撮像するビデオカメラ10から遠ざかる方向へ移動物体が移動するときには移動物体の略後端を代表点とし、ビデオカメラ10へ近づく方向に移動物体が移動するときには移動物体の略前端を代表点とし、代表点に関する物理量を計測する。移動物体の領域に対する相対位置を移動物体の代表点として予め定めておいてもよい。移動物体が他の移動物体と重なっていないと判定した場合には、移動物体の幾何学的重心を代表点として求め、移動物体が他の移動物体と重なっていることを検出した場合には、移動物体の動きベクトルに基づいて、重なりがないとしたときの幾何学的重心に相当する点を代表点として求めてもよい。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、時系列画像を処理して画像中の移動物体(車、自転車、動物等の移動可能なもの)の位置、通過時間又は速度等の物理量を計測する移動物体計測方法及び装置に関する。
【背景技術】
【0002】
ビデオカメラで移動物体を撮像し、画像処理して画像上の移動物体を追跡することにより、交通状態や交通事故の検出等を自動的に行うことができる。
【0003】
画像上の移動物体を追跡する方法として、例えば480×640画素のフレームを8×8画素のブロックに分割して60×80ブロックの画像とし、各ブロックの画像を背景画像の対応するブロックの画像と比較して、ブロック単位で移動物体を検出し、時刻t−1とtのフレーム画像の時空相関に基づいてブロック単位で移動物体の識別符号(ID)及び動きベクトル(MV)を求める方法がある(例えば下記特許文献1〜3)。これにより、同一移動物体と認められるブロックには同一IDが付与される。
【0004】
しかしながら、画像上の移動物体を追跡するので、画像上の移動物体の位置、通過時間又は速度等を計測すると、特有の誤差が生ずる。
【0005】
例えば、上記のようにブロック単位で移動物体を検出するので、最大で1ブロック幅の移動物体位置計測誤差が生ずる。
【0006】
図3に示すように路面11上の位置によりビデオカメラ10との距離が異なるので、図4に示すように画像フレーム上でブロックサイズが均一であっても、1ブロック幅の実際の幅(実ブロック幅)がフレーム内の位置により異なる。例えば図3の実ブロック幅KaとKbとは、画像上で同一幅であるが、実ブロック幅Kbの方が実ブロック幅Kaより数倍長い。このため、画像フレーム内の位置により計測誤差が大きく異なる。
【0007】
さらに、同じ位置のブロックでも、移動物体の高さによりビデオカメラとの距離が異なるので、実ブロック幅が異なり、計測誤差も異なる。また、フレームレートが有限であるので、移動物体が不連続的に移動し、移動物体が所定区間を通過するのに要する時間の計測に誤差が生ずる。
【0008】
したがって、画像処理により移動物体の所定区間平均速度を計測すると、条件により誤差が変化し、計測値の信頼性が低くなる。
【0009】
また、図16に示すように、同一IDのブロックの塊であるクラスタの代表点をクラスタの幾何学的重心とした場合、移動物体の一部が他の移動物体に隠れると、代表点が、移動物体が隠れなかった場合の位置からずれるので、代表点に基づいて移動物体の位置、通過時間又は速度等を計測すると、誤差が変動する。図16は、時刻t1〜t3での同一移動物体131〜133と、時刻t1〜t3での同一移動物体141〜143とを重ねて示したものであり、RA1〜RA3はそれぞれ移動物体131〜133の幾何学的重心であり、RB1〜RB3はそれぞれ移動物体141〜143の幾何学的重心である。
【特許文献1】特開2002−133421号公報
【特許文献2】特開2003−006655号公報
【特許文献3】特開2003−263626号公報
【発明の開示】
【発明が解決しようとする課題】
【0010】
本発明の目的は、上記問題点に鑑み、計測誤差をより小さくすることができる、画像処理による移動物体計測方法及び装置を提供することにある。
【0011】
本発明の他の目的は、計測値の信頼性を高くすることができる画像処理による移動物体計測方法及び装置を提供することにある。
【課題を解決するための手段】
【0012】
本発明による画像処理による移動物体計測方法の第1態様では、移動物体を撮像するビデオカメラから遠ざかる方向へ該移動物体が移動するときには該移動物体の略後端を該代表点とし、該ビデオカメラへ近づく方向に該移動物体が移動するときには該移動物体の略前端を該代表点とし、該代表点に関する物理量を計測する。
【0013】
本発明による画像処理による移動物体計測方法の第2態様では、移動物体の領域に対する相対位置を該移動物体の代表点として予め定めておき、該代表点に関する物理量を計測する。
【0014】
本発明による画像処理による移動物体計測方法の第3態様では、移動物体が他の移動物体と重なっていないと判定した場合には、該移動物体の幾何学的重心を代表点として求め、該移動物体が他の移動物体と重なっていることを検出した場合には、該移動物体の動きベクトルに基づいて、該重なりがないとしたときの該幾何学的重心に相当する点を代表点として求め、該代表点に関する物理量を計測する。
【発明の効果】
【0015】
上記第1態様の構成によれば、移動物体の代表点が移動物体の高さによらずほぼ基準面付近となるので、基準面上に設定された位置に関する物理量の計測誤差を低減することができる。
【0016】
上記第2態様の構成によれば、移動物体の領域に対する相対位置が設定されるので、移動物体の影を移動物体と認識しても、計測しようとする物理量に応じた移動物体の着目位置付近を代表点として検出することができるので、計測誤差を低減することができる。
【0017】
上記第3態様の構成によれば、画像上で移動物体同士の重なりがあっても、移動物体の動きベクトルに基づいて、移動物体の重なりが無いとしたときの幾何学的重心に相当する点が代表点として求まるので、代表点に基づいて求めた物理量の計測誤差を低減することができる。
【0018】
本発明の他の構成、作用及び効果は、以下の説明から明らかになる。
【発明を実施するための最良の形態】
【0019】
以下、図面に基づいて本発明の実施例を説明する。図面において、同一又は類似の要素には、同一又は類似の符号を付している。
【実施例1】
【0020】
図1は、ビデオカメラ(例えばITVカメラ)10で撮像された画像を処理して移動物体の平均速度を計測する、本発明の実施例1の移動物体計測装置20の概略機能ブロック図である。
【0021】
移動物体計測装置20のうち記憶部以外は、コンピュータソフトウェア、専用のハードウェア又はコンピュータソフトウエアと専用のハードウエアの組み合わせで構成することができる。
【0022】
ビデオカメラ10で撮影された時系列画像は、例えば30フレーム/秒のレートで、画像メモリ21に格納され、最も古いフレーム画像が新しいフレーム画像で書き換えられる。
【0023】
本発明は、画像メモリ21に格納された画像データを構成要素23〜26によりリアルタイムで処理する場合のみならず、不図示の外部記憶装置に格納しておき、必要な部分のみ後で処理する場合にも適用できる。
【0024】
また、画像メモリ21に格納された画像(原画像)を直接、構成要素23〜26で処理しても、ラプラシアンフィルタ等のフィルタをかけて空間的差分フレーム画像に変換したもの又は2次元フーリエ変換し所定周波数以上の成分を強調した後に逆フーリエ変換したもの(変換画像)を、構成要素23〜26で処理する構成であってもよい。以下、「画像」とは原画像又は変換画像を意味する。
【0025】
背景画像生成部22は、記憶部と処理部とを備え、処理部は、画像メモリ21をアクセスし、例えば過去1分間の全ての又は間引かれたもののフレーム画像の対応する画素について画素値のヒストグラムを作成し、その最頻値(モード)をその画素の画素値とする画像を、移動物体が存在しない背景画像として生成し、これを該記憶部に格納する。背景画像は、この処理が定期的に行われて更新される。
【0026】
ID生成/消滅部23には、図4に示す如くフレーム15内に配置される入口スリットA1、B2及び出口スリットB1、A2の位置及びサイズのデータが、予め設定されている。
【0027】
この設定は、マウス等のポインティングデバイス又はキーボード等の入力装置INと、設定を確認する表示装置OUTと、ID生成/消滅部23に含まれる入力処理プログラムとを含む設定手段により、人の操作に基づいて行われる。
【0028】
図4中のメッシュはブロックの境界線であり、1ブロックは例えば8×8画素である。スリットA1、B1、A2及びB2の移動物体通過方向の幅は、図4では1ブロック幅に等しいが、1ブロック幅の整数倍であればよい。
【0029】
ID生成/消滅部23は、画像メモリ21から入口スリットA1及びB2内の画像データを読み込み、これらの内側に移動物体が存在するかどうかをブロック単位で判定する。あるブロックに移動物体が存在するかどうかは、このブロック内の各画素と背景画像の対応する画素との差の絶対値の総和が所定値以上であるかどうかにより判定する。
【0030】
ID生成/消滅部23は、ブロック内に移動物体が存在すると判定すると、このブロックに新たな移動物体識別符号(ID)を付与する。ID生成/消滅部23は、ID付与済ブロックと隣接しているブロックに移動物体が存在すると判定すると、この隣接ブロックに付与済ブロックと同一のIDを付与する。このID付与済ブロックは、スリットに隣接しているブロックも含まれる。以下、IDが付与されたブロックの塊をクラスタと称する。
【0031】
IDの付与は、記憶部24内のオブジェクトマップの対応するブロックに対して行われる。オブジェクトマップは、上述の場合60×80ブロックの各ブロックの移動物体情報を記憶するためのものであり、移動物体情報は、IDが付与されているかどうかを示すフラグと、IDが付与されていることを示している場合にはID及びブロックの動きベクトル(MV)を含む。なお、該フラグを用いずに、ID=0のときIDが付与されていないと判定してもよい。また、IDの最上位ビットをフラグとしてもよい。ブロックマッチングでMVが求まらないブロックのMVは例えば、その回りの同一IDのブロックのMVの平均値に等しくする。
【0032】
入口スリットA1又はB2を通過したクラスタに対しては、移動物体追跡部25により公知の方法で追跡処理が行われる。例えば、高速処理のため、時刻t−1(フレーム番号)でのMVに基づいて時刻tでのクラスタの概略移動範囲が推定され、この範囲内で上述の移動物体存否判定がブロック毎に行われ、移動方向側のブロックに対するIDの付与及び移動と反対方向側のブロックに対するIDの消滅が行われて、時刻tでのクラスタが決定される。また、時刻t−1とtのフレーム画像間のブロックマッチングにより、時刻tでIDが付与されているブロックのMVが求められる。高速処理のため、ブロックマッチングを行う範囲は、時刻t−1でのMVに基づいて定められる。各ブロックのIDとMVは、評価関数を用いて同時に決定することもできる(例えば上記特許文献3)。ID及びMVの更新は、記憶部24内のオブジェクトマップに対して行われる。
【0033】
移動物体追跡部25による追跡処理は、各クラスタについて出口スリット内まで行われる。
【0034】
ID生成/消滅部23はさらに、記憶部24内のオブジェクトマップに基づき出口スリットB1及びA2内のブロックにIDが付与されているかどうかを調べ、付与されていれば、クラスタが出口スリットを通過したときにそのIDを消滅させる。
【0035】
図5は、IDのオブジェクトマップに、理解を容易にするため図4を重ね合わせたものである。
【0036】
本実施例1の特徴は、平均速度及び誤算算出部26及びこれに関係したID生成/消滅部23の一部の構成にあり、以下これを詳述する。
【0037】
図3は、画像処理による移動物体の区間平均速度計測説明図である。
【0038】
ビデオカメラ10は、路面11から高さHの位置に光軸を斜め下方へ向けて配置されている。一般に、移動物体の速度が一定の場合、計測距離が長いほど測定精度が高くなる。そこで、紙面垂直方向のラインPaからPbまでの距離L1の平均速度Vを計測する。すなわち、距離L1を実測しておくとともに、フレーム画像上でラインPa及びPbを設定しておき、移動物体の代表点がラインPaを通ってからラインPbを通るまでの時間を計測することにより平均速度Vを算出する。
【0039】
ビデオカメラ10で撮影される画像は、ビデオカメラ10の光軸に垂直な面Sに被写体を透視的に投影したものとなる。図4は、ビデオカメラ10で撮影された画像に、上述のブロック境界線及びスリットを描いたものを示す。
【0040】
図4では、ラインPa及びPbがそれぞれ入口スリットA1及び出口スリットB1の前端に一致しており、スリットA1及びB1を上述のように設定することにより、ラインPa及びPbが設定されたことになる。なお、ブロック単位で位置を計測するので、スリット自体をラインとみなしてもよい。
【0041】
ここで、移動物体の代表点を例えばその幾何学的重心とすると、移動物体の高さによりビデオカメラ10と代表点との距離が異なるので、ラインPa及びPbの通過時点計測誤差が増加する原因となる。そこで、図3に示すように移動物体がビデオカメラ10から遠ざかる方向へ移動する場合には、移動物体の後端を移動物体の代表点とする。「後端」は、その辺に対応する複数の移動物体ブロック又はその中の1ブロックのいずれであってもよい。
【0042】
これにより、移動物体の代表点が移動物体の高さによらずほぼ路面11付近となるので、ラインPa及びPbの位置に関する物理量、例えば位置通過時点又は通過位置の計測誤差を低減することができる。なお、図3中の12A及び12Bはそれぞれ、移動物体後端がラインPa及びPbを通過した時点における同じ移動物体を示している。
【0043】
図2は、1フレーム画像における図4の入口スリットA1及び出口スリットB1に対する図1のID生成/消滅部23のライン通過検出処理を示す概略フローチャートである。
【0044】
(S10)入口スリットA1内の各ブロックについて、上述の移動物体存否判定処理を行なう。
【0045】
(S11)入口スリットA1内に新たな移動物体が存在すればステップS12へ進み、そうでなければステップS13へ進む。
【0046】
(S12)入口スリットA1内の、移動物体が存在すると判定されたブロックにIDを付与する。次にステップS15へ進む。
【0047】
(S13)移動物体が入口スリットA1を通過した場合には、すなわち1つ前のフレームで入口スリットA1内に存在した移動物体ブロック(IDが付与されたブロック)が現フレームで存在しなくなった場合には、ラインPaを移動物体が通過したと判定し、ステップS14へ進み、そうでなければステップS15へ進む。
【0048】
(S14)図1の平均速度及び誤算算出部26に対し、入口スリットA1を通過した移動物体のID及び現在のフレーム番号F(入口スリット通過時刻)を通知する。
【0049】
(S15)出口スリットB1内の各ブロックについて、上述の移動物体存否判定処理を行なう。
【0050】
(S16)出口スリットB1内に新たな移動物体が存在すればステップS17へ進み、そうでなければステップS18へ進む。
【0051】
(S17)出口スリットB1内のIDを一時記憶し、処理を終了する。
【0052】
(S18)移動物体が出口スリットB1を通過した場合にはステップS19へ進み、そうでなければ処理を終了する。
【0053】
(S19)図1の平均速度及び誤算算出部26に対し、出口スリットB1を通過したID(ステップS17で記憶したID)及び現在のフレーム番号Fを通知し、ステップS17で記憶したIDを消去する。
【0054】
平均速度及び誤算算出部26は、ステップS14及びS19でID生成/消滅部23から受け取ったID及びフレーム番号Fに基づいて、次式により平均速度V(m/s)を算出する。
【0055】
V=L1/((Fb−Fa)/f) (1)
ここに、Fb及びFaはそれぞれ、ステップS14及びS19で受け取った同一IDについてのフレーム番号であり、fはフレームレートである。
【0056】
1フレーム画像における図5の入口スリットB2及び出口スリットA2に対する図1のID生成/消滅部23のライン通過検出処理はそれぞれ、上述の入口スリットA1及び出口スリットB1に対するライン通過検出処理と同様である。ただし、移動物体16Aがビデオカメラ10に近づく方向へ移動するので、移動物体の前端を移動物体の代表点とする。図4及び図5の16B及び16Aはそれぞれ、移動物体前端がラインPb及びPaを通過した時点における同じ移動物体を示している。
【0057】
次に、平均速度Vの計測誤差δVについて説明する。
【0058】
誤差δVは主に、フレームレートによる誤差と、ブロック単位で移動物体存否を判定することによる誤差とを含んでいる。
【0059】
(1)フレームレートfのみによる位置計測誤差D
例えばf=30で移動物体速度が60km/h及び100km/hの場合、それぞれ1フレーム時間(1/f秒)で0.56m及び0.93m移動し、これらが最大の位置計測誤差Dとなる。
【0060】
(2)ブロック処理のみによる位置計測誤差K
ブロック単位で移動物体存否を判定しているので、最大で、画像上の1ブロック幅に対応する実際の幅(実ブロック幅)Kの位置計測誤差が生ずる。
【0061】
実ブロック幅Kは、ブロックの位置により異なる。図3において、1ブロック幅の視角をηとし、図4に示すラインPa及びPbを一端とするブロックBKa及びBKbの実ブロック幅Kをそれぞれ図3に示すようにKa及びKbとすると、次式が成立する。
【0062】
tan(α−η)=H/(Ka+L2) (2)
tan(β−η)=H/(Kb+L1+L2) (3)
ここに、L2はビデオカメラ10の真下からラインPaまでの距離であり、α及びβはそれぞれビデオカメラ10からラインPa及びPbへの視線と路面11とのなす角度である。
【0063】
α及びβについては、次式が成立する。
【0064】
tan(α)=H/L2 (4)
tan(β)=H/(L1+L2) (5)
L1がnブロックに分割されているとすると、次式が成立する。
【0065】
α=β+n・η (6)
例えばH=10m、L1=20m、L2=20mの場合、上式(4)及び(5)からα=0.46rad、β=0.25radとなり、さらにn=25の場合、上式(6)からη=0.0087radとなる。これらの値を上式(2)及び(3)に代入すると、Ka=0.45m、Kb=1.5mとなり、これらがラインPa、Pb通過位置計測の最大の誤差となる。
【0066】
(3)平均速度計測誤差δV
上式(1)の右辺分母をTと表記すると一般に、
δV/V=−δT/T (7)
が成立する。ここにδTは、計測時間Tの誤差である。
【0067】
δT及びTはそれぞれ、区間フレーム数計測誤差X及び区間フレーム数計測値(Fb−Fa)に比例するので、式(7)は、
δV/V=−X/(Fb−Fa) (8)
と表される。区間フレーム数計測誤差Xは、ラインPa及びPaを移動物体が通過する時点のフレーム番号誤差をそれぞれδFa及びδFbとすると、平均誤差
X=±(δFa+δFb)/2 (9)
で表される。
【0068】
ここで、実ブロック幅Ka及びKbを平均速度Vの移動物体が進むのに必要なフレーム数ΔFa及びΔFbはそれぞれ、次式で表される。
【0069】
ΔFa=f・Ka/V (10)
ΔFb=f・Kb/V (11)
フレーム番号誤差δFaは、ΔFa>1のとき、すなわちK>Dのとき、上記フレーム誤差が上記ブロック処理による誤差に吸収されて最大でΔFaになり、ΔFa≦1のとき、すなわちK≦Dのとき、最大で1になる。同様に、フレーム番号誤差δFbは、ΔFb>1のとき最大でΔFbになり、ΔFb≦1のとき最大で1になる。
【0070】
図6は、平均速度Vが40、60、80及び100km/hの場合の速度計測誤差δV及びこれに関係した上述の量の数値計算例を示す。
【0071】
図1の平均速度及び誤算算出部26は、上式(1)で表される平均速度Vの計測値に応じて、速度計測誤差δVを上述のように算出し、これらV及びδVを表示装置OUTに表示させる。本実施例1の応用例として例えば、制限速度がVlimである場合、V−δV>Vlimであればスピード違反と判定してこれを表示装置OUTに表示するとともに不図示の警報を鳴らし、その時系列画像を不図示の外部記憶装置に格納する。
【0072】
本実施例1によれば、平均速度Vの計測値に応じてその誤差δVが表示されるので、上述のような複雑な誤差があっても、平均速度計測値の信頼性が高くなり、実用化が可能となる。また、電波や音波を用いないで画像処理により速度を計測するので、妨害電波や妨害音波、あるいは散乱部材などの速度計測回避手段で速度計測が妨げられるということがないという利点を有する。
【0073】
なお、図3において、路面11から任意の所定高さの面Shを面Sと対応させることができるので、測定精度向上のための代表点は必ずしも路面11付近でなくてもよく、測定しようとする物理量やカメラアングルに応じて基準高さShを定めることができる。
【実施例2】
【0074】
図7は、ビデオカメラ10で撮像された画像を処理して移動物体の平均速度を計測する、本発明の実施例2の移動物体計測装置20Aの概略機能ブロック図である。
【0075】
代表点追跡部27は、各フレームに対する記憶部24内のオブジェクトマップに基づいて移動物体の代表点を求めることにより、代表点を追跡する。
【0076】
移動物体計測装置20Aは、フレーム画像内の複数の移動物体をリアルタイムで追跡処理する必要があるので、処理を高速化する必要がある。このためにモノクロ画像を用いると、移動物体とその影とを区別することが困難となり、計測誤差を最も小さくするための代表点を決定することができない。図9は、影12SA、12SB、16SA及び16SBがそれぞれ移動物体12A、12B、16A及び16Bと区別出来ない場合を示す。
【0077】
本実施例2の特徴は、このような問題を解決する、移動物体の代表点決定方法にある。
【0078】
ID生成/消滅部23Aでは、図9に示すように、入口スリットB2に移動物体が検出されると、入口スリットB2に入る前のブロックについても移動物体検出処理を行う。さらに、出口スリットB1に移動物体が検出されても、出口スリットB1を完全に抜け出るまで移動物体検出処理を行う。
【0079】
図8は、任意の1つの移動物体クラスタに対する代表点追跡部27の代表点決定処理を示す概略フローチャートである。
【0080】
(S20)移動物体のクラスタが内接する矩形を求める。図10は、図9にさらに、4つの移動物体クラスタが内接する矩形17A、17B、18A及び18Bを追加したものを示す。
【0081】
(S21)代表点Rの座標を
(X0+px・LY,Y0+py・LY)
として求める。ここに、(X0,Y0)は矩形の基準点、例えば矩形の左下頂点の座標である。比率px及びpyは移動物体追跡処理前に予め設定された値であり、0<px<1、0<px<1を満たし、上述の設定手段と同様の手段により設定される。
【0082】
図7の平均速度及び誤算算出部26Aは、代表点以外は上記第1実施例と同様にして、移動物体の平均速度V及びその誤差δVを算出し、これらを表示装置OUTに表示させる。
【0083】
本実施例2によれば、移動物体の領域に対する相対位置が比率px及びpyにより設定されるので、移動物体の影を移動物体と認識しても、計測しようとする物理量に応じた移動物体の着目位置付近を代表点として検出することができ、計測精度向上に寄与するところが大きい。
【0084】
なお、移動物体の一部と見なされる影の大きさは、時間や天候により異なるので、これに応じて比率px及びpyの設定値を変える必要がある。
【0085】
しかしながら、例えば実施例1により平均速度Vを計測し、スピード違反の疑いがある時系列画像を不図示の外部記憶装置に保存しておき、後でその画像を見てpx及びpyを適当に設定することにより、スピード違反の判定をより正確に行なうことが可能となる。
【0086】
また、平均速度及び誤算算出部26Aは、各ブロックの実ブロック幅と代表点追跡部27で求められた代表点の座標とに基づいて代表点の軌跡の長さを走行距離L2として求め、他は上記実施例1と同様にして、移動物体の代表点平均速度V及びその誤差δVを算出してもよい。
【実施例3】
【0087】
上記実施例では、ビデオカメラが道路の中央部上方に配置されている場合を説明したが、例えば交差点にビデオカメラを配置した場合には図12に示すように、ビデオカメラに対する移動物体30の角度が上述の場合と異なる。図12中、30Sは移動物体30の影であり、移動物体の一部と認識され、31はこれらを含む矩形である。Rは、移動物体30の位置計測誤差を小さくするのに好ましい代表点である。
【0088】
また、図13に示すように移動物体が右折すると、移動物体の方向が変化していくので、移動物体の代表点を路面位置付近に設定するのが困難となる。図13中、301〜303は、移動中の異なる時間での同一移動物体を示し、301S〜303Sはそれぞれ移動物体の一部と認識された、移動物体301〜303の影を示す。
【0089】
本実施例3では、このような場合でも代表点を路面位置付近に設定できるようにするため、図8の処理の代わりに、図11に示す処理を行なう。
【0090】
(S30)図8のステップS20と同様に、移動物体のクラスタが内接する矩形を求める。図13中、311〜313は移動物体クラスタが内接する矩形を示す。
【0091】
(S31)移動物体の動きベクトルMVmの角度θを求め、次いで比率関数px(θ)及びpy(θ)の値を求める。動きベクトルMVmは、同一移動物体に属する全てのブロックの動きベクトルの平均ベクトルである。比率px(θ)及びpy(θ)は、予め経験的に決定され、0<px(θ)<1、0<px(θ)<1を満たし、θをパラメータとするテーブル又はこれを数式で近似したもので表される。θは、フレーム画像上の角度又は路面上の角度である。路面上の角度の場合には、フレーム画像上の角度を、フレーム画像上の位置に応じた路面上の角度に変換する数式又はテーブルを用いる。
【0092】
なお、動きベクトルMVmは、平均から所定値以上ずれているものを除いて平均したものであってもよい。動きベクトルMVmはまた、幾何学的重心が含まれるブロックのMV又はその付近のMVの平均値であってもよい。
【0093】
(S32)図8のステップS21と同様に、代表点Rの座標を
(X0+px(θ)・LY,Y0+py(θ)・LY)
として求める。
【0094】
本実施例3によれば、比率px及びpyが移動物体の動きベクトルの角度に応じて定められているので、移動物体の影を移動物体と認識し且つ移動物体がその移動方向を変化させても、計測しようとする物理量に応じた移動物体の着目点付近を代表点として検出することができ、計測精度向上に寄与するところが大きい。
【実施例4】
【0095】
本発明の実施例4は、背景技術の欄で述べた図16に示す問題点を解決するためのものである。実施例4における図7の代表点追跡部27は、各画像フレームに対応するオブジェクトマップ上の各移動物体に対し、図14に示す処理を行なう。
【0096】
(S40)画像上で移動物体同士の重なりがなければステップS41へ進み、そうでなければステップS43へ進む。
【0097】
(S41)幾何学的重心Gの座標を求める。
【0098】
(S42)このGを、時刻tにおける代表点P(t)として求める。図15中、×印は、代表点を示し、RX2以外は幾何学的重心Gである。
【0099】
(S43)着目している移動物体の各ブロックの動きベクトルの平均値MVmを求める。上述のように、動きベクトルMVmは、平均から所定値以上ずれているものを除いて平均したものであってもよい。
【0100】
(S44)1つ前のフレームの対応する移動物体の代表点P(t−1)をMVmだけ移動させた点を、時刻tでの代表点P(t)として求める。図15中のRX2は、このようにして求めた移動物体132の代表点である。
【0101】
本実施例4によれば、画像上で移動物体同士の重なりがあっても、移動物体の動きベクトルに基づいて、移動物体の重なりが無いとしたときの幾何学的重心に相当する点が代表点として求まり、図15と図16を比較すれば明らかなように、より正確に移動物体の代表点及びその軌跡を求めることができ、代表点に基づいて求めた他の物理量の計測値もより正確になる。
【図面の簡単な説明】
【0102】
【図1】ビデオカメラで撮像された画像を処理して移動物体の平均速度を計測する、本発明の実施例1の移動物体計測装置の概略機能ブロック図である。
【図2】1フレーム画像における入口スリット及び出口スリットに対する図1のID生成/消滅部23のライン通過検出処理を示す概略フローチャートである。
【図3】画像処理による移動物体の区間平均速度計測説明図である。
【図4】図3のビデオカメラで撮像された画像を、ブロック境界線、入口スリット及び出口スリットとともに示す説明図である。
【図5】IDのオブジェクトマップに図4を重ね合わせたものを示す説明図である。
【図6】平均速度Vが40、60、80及び100km/hの場合の速度計測誤差δV及びこれに関係した量の数値計算例を示す表である。
【図7】ビデオカメラで撮像された画像を処理して移動物体の平均速度を計測する、本発明の実施例2の移動物体計測装置の概略機能ブロック図である。
【図8】任意の1つの移動物体クラスタに対する代表点追跡部27の代表点決定処理を示す概略フローチャートである。
【図9】移動物体の影が移動物体と区別出来ない場合を示す説明図である。
【図10】図8の処理説明図である。
【図11】本発明の実施例3に係る、任意の1つの移動物体クラスタに対する代表点追跡部27の代表点決定処理を示す概略フローチャートである。
【図12】図11の処理説明図である。
【図13】図11の処理説明図である。
【図14】本発明の実施例4に係る、任意の1つの移動物体クラスタに対する代表点追跡部27の代表点決定処理を示す概略フローチャートである。
【図15】図14の処理説明図である。
【図16】従来技術の問題点説明図である。
【符号の説明】
【0103】
10 ビデオカメラ
11 路面
12A、12B、131〜133、141〜143、16A、16B、30、301〜303 移動物体
12SA、12SB、16SA、16SB、30S、301S、303S 影
15 フレーム
17A、17B、18A、18B、31、311〜313 矩形
20、20A 移動物体計測装置
21 画像メモリ
22 背景画像生成部
23 ID生成/消滅部
24 オブジェクトマップ記憶部
25 移動物体追跡部
26、26A 平均速度及び誤算算出部
27 代表点追跡部
IN 入力装置
OUT 表示装置
Pa、Pb ライン
A1、B2 入口スリット
A2、B1 出口スリット
K、Ka、Kb 実ブロック幅
F、Fa、Fb フレーム番号
ΔFa、ΔFb フレーム数
δFa、δFb フレーム番号誤差
V 平均速度
δV 速度計測誤差
RA1〜RA3、RB1〜RB3 幾何学的重心
【技術分野】
【0001】
本発明は、時系列画像を処理して画像中の移動物体(車、自転車、動物等の移動可能なもの)の位置、通過時間又は速度等の物理量を計測する移動物体計測方法及び装置に関する。
【背景技術】
【0002】
ビデオカメラで移動物体を撮像し、画像処理して画像上の移動物体を追跡することにより、交通状態や交通事故の検出等を自動的に行うことができる。
【0003】
画像上の移動物体を追跡する方法として、例えば480×640画素のフレームを8×8画素のブロックに分割して60×80ブロックの画像とし、各ブロックの画像を背景画像の対応するブロックの画像と比較して、ブロック単位で移動物体を検出し、時刻t−1とtのフレーム画像の時空相関に基づいてブロック単位で移動物体の識別符号(ID)及び動きベクトル(MV)を求める方法がある(例えば下記特許文献1〜3)。これにより、同一移動物体と認められるブロックには同一IDが付与される。
【0004】
しかしながら、画像上の移動物体を追跡するので、画像上の移動物体の位置、通過時間又は速度等を計測すると、特有の誤差が生ずる。
【0005】
例えば、上記のようにブロック単位で移動物体を検出するので、最大で1ブロック幅の移動物体位置計測誤差が生ずる。
【0006】
図3に示すように路面11上の位置によりビデオカメラ10との距離が異なるので、図4に示すように画像フレーム上でブロックサイズが均一であっても、1ブロック幅の実際の幅(実ブロック幅)がフレーム内の位置により異なる。例えば図3の実ブロック幅KaとKbとは、画像上で同一幅であるが、実ブロック幅Kbの方が実ブロック幅Kaより数倍長い。このため、画像フレーム内の位置により計測誤差が大きく異なる。
【0007】
さらに、同じ位置のブロックでも、移動物体の高さによりビデオカメラとの距離が異なるので、実ブロック幅が異なり、計測誤差も異なる。また、フレームレートが有限であるので、移動物体が不連続的に移動し、移動物体が所定区間を通過するのに要する時間の計測に誤差が生ずる。
【0008】
したがって、画像処理により移動物体の所定区間平均速度を計測すると、条件により誤差が変化し、計測値の信頼性が低くなる。
【0009】
また、図16に示すように、同一IDのブロックの塊であるクラスタの代表点をクラスタの幾何学的重心とした場合、移動物体の一部が他の移動物体に隠れると、代表点が、移動物体が隠れなかった場合の位置からずれるので、代表点に基づいて移動物体の位置、通過時間又は速度等を計測すると、誤差が変動する。図16は、時刻t1〜t3での同一移動物体131〜133と、時刻t1〜t3での同一移動物体141〜143とを重ねて示したものであり、RA1〜RA3はそれぞれ移動物体131〜133の幾何学的重心であり、RB1〜RB3はそれぞれ移動物体141〜143の幾何学的重心である。
【特許文献1】特開2002−133421号公報
【特許文献2】特開2003−006655号公報
【特許文献3】特開2003−263626号公報
【発明の開示】
【発明が解決しようとする課題】
【0010】
本発明の目的は、上記問題点に鑑み、計測誤差をより小さくすることができる、画像処理による移動物体計測方法及び装置を提供することにある。
【0011】
本発明の他の目的は、計測値の信頼性を高くすることができる画像処理による移動物体計測方法及び装置を提供することにある。
【課題を解決するための手段】
【0012】
本発明による画像処理による移動物体計測方法の第1態様では、移動物体を撮像するビデオカメラから遠ざかる方向へ該移動物体が移動するときには該移動物体の略後端を該代表点とし、該ビデオカメラへ近づく方向に該移動物体が移動するときには該移動物体の略前端を該代表点とし、該代表点に関する物理量を計測する。
【0013】
本発明による画像処理による移動物体計測方法の第2態様では、移動物体の領域に対する相対位置を該移動物体の代表点として予め定めておき、該代表点に関する物理量を計測する。
【0014】
本発明による画像処理による移動物体計測方法の第3態様では、移動物体が他の移動物体と重なっていないと判定した場合には、該移動物体の幾何学的重心を代表点として求め、該移動物体が他の移動物体と重なっていることを検出した場合には、該移動物体の動きベクトルに基づいて、該重なりがないとしたときの該幾何学的重心に相当する点を代表点として求め、該代表点に関する物理量を計測する。
【発明の効果】
【0015】
上記第1態様の構成によれば、移動物体の代表点が移動物体の高さによらずほぼ基準面付近となるので、基準面上に設定された位置に関する物理量の計測誤差を低減することができる。
【0016】
上記第2態様の構成によれば、移動物体の領域に対する相対位置が設定されるので、移動物体の影を移動物体と認識しても、計測しようとする物理量に応じた移動物体の着目位置付近を代表点として検出することができるので、計測誤差を低減することができる。
【0017】
上記第3態様の構成によれば、画像上で移動物体同士の重なりがあっても、移動物体の動きベクトルに基づいて、移動物体の重なりが無いとしたときの幾何学的重心に相当する点が代表点として求まるので、代表点に基づいて求めた物理量の計測誤差を低減することができる。
【0018】
本発明の他の構成、作用及び効果は、以下の説明から明らかになる。
【発明を実施するための最良の形態】
【0019】
以下、図面に基づいて本発明の実施例を説明する。図面において、同一又は類似の要素には、同一又は類似の符号を付している。
【実施例1】
【0020】
図1は、ビデオカメラ(例えばITVカメラ)10で撮像された画像を処理して移動物体の平均速度を計測する、本発明の実施例1の移動物体計測装置20の概略機能ブロック図である。
【0021】
移動物体計測装置20のうち記憶部以外は、コンピュータソフトウェア、専用のハードウェア又はコンピュータソフトウエアと専用のハードウエアの組み合わせで構成することができる。
【0022】
ビデオカメラ10で撮影された時系列画像は、例えば30フレーム/秒のレートで、画像メモリ21に格納され、最も古いフレーム画像が新しいフレーム画像で書き換えられる。
【0023】
本発明は、画像メモリ21に格納された画像データを構成要素23〜26によりリアルタイムで処理する場合のみならず、不図示の外部記憶装置に格納しておき、必要な部分のみ後で処理する場合にも適用できる。
【0024】
また、画像メモリ21に格納された画像(原画像)を直接、構成要素23〜26で処理しても、ラプラシアンフィルタ等のフィルタをかけて空間的差分フレーム画像に変換したもの又は2次元フーリエ変換し所定周波数以上の成分を強調した後に逆フーリエ変換したもの(変換画像)を、構成要素23〜26で処理する構成であってもよい。以下、「画像」とは原画像又は変換画像を意味する。
【0025】
背景画像生成部22は、記憶部と処理部とを備え、処理部は、画像メモリ21をアクセスし、例えば過去1分間の全ての又は間引かれたもののフレーム画像の対応する画素について画素値のヒストグラムを作成し、その最頻値(モード)をその画素の画素値とする画像を、移動物体が存在しない背景画像として生成し、これを該記憶部に格納する。背景画像は、この処理が定期的に行われて更新される。
【0026】
ID生成/消滅部23には、図4に示す如くフレーム15内に配置される入口スリットA1、B2及び出口スリットB1、A2の位置及びサイズのデータが、予め設定されている。
【0027】
この設定は、マウス等のポインティングデバイス又はキーボード等の入力装置INと、設定を確認する表示装置OUTと、ID生成/消滅部23に含まれる入力処理プログラムとを含む設定手段により、人の操作に基づいて行われる。
【0028】
図4中のメッシュはブロックの境界線であり、1ブロックは例えば8×8画素である。スリットA1、B1、A2及びB2の移動物体通過方向の幅は、図4では1ブロック幅に等しいが、1ブロック幅の整数倍であればよい。
【0029】
ID生成/消滅部23は、画像メモリ21から入口スリットA1及びB2内の画像データを読み込み、これらの内側に移動物体が存在するかどうかをブロック単位で判定する。あるブロックに移動物体が存在するかどうかは、このブロック内の各画素と背景画像の対応する画素との差の絶対値の総和が所定値以上であるかどうかにより判定する。
【0030】
ID生成/消滅部23は、ブロック内に移動物体が存在すると判定すると、このブロックに新たな移動物体識別符号(ID)を付与する。ID生成/消滅部23は、ID付与済ブロックと隣接しているブロックに移動物体が存在すると判定すると、この隣接ブロックに付与済ブロックと同一のIDを付与する。このID付与済ブロックは、スリットに隣接しているブロックも含まれる。以下、IDが付与されたブロックの塊をクラスタと称する。
【0031】
IDの付与は、記憶部24内のオブジェクトマップの対応するブロックに対して行われる。オブジェクトマップは、上述の場合60×80ブロックの各ブロックの移動物体情報を記憶するためのものであり、移動物体情報は、IDが付与されているかどうかを示すフラグと、IDが付与されていることを示している場合にはID及びブロックの動きベクトル(MV)を含む。なお、該フラグを用いずに、ID=0のときIDが付与されていないと判定してもよい。また、IDの最上位ビットをフラグとしてもよい。ブロックマッチングでMVが求まらないブロックのMVは例えば、その回りの同一IDのブロックのMVの平均値に等しくする。
【0032】
入口スリットA1又はB2を通過したクラスタに対しては、移動物体追跡部25により公知の方法で追跡処理が行われる。例えば、高速処理のため、時刻t−1(フレーム番号)でのMVに基づいて時刻tでのクラスタの概略移動範囲が推定され、この範囲内で上述の移動物体存否判定がブロック毎に行われ、移動方向側のブロックに対するIDの付与及び移動と反対方向側のブロックに対するIDの消滅が行われて、時刻tでのクラスタが決定される。また、時刻t−1とtのフレーム画像間のブロックマッチングにより、時刻tでIDが付与されているブロックのMVが求められる。高速処理のため、ブロックマッチングを行う範囲は、時刻t−1でのMVに基づいて定められる。各ブロックのIDとMVは、評価関数を用いて同時に決定することもできる(例えば上記特許文献3)。ID及びMVの更新は、記憶部24内のオブジェクトマップに対して行われる。
【0033】
移動物体追跡部25による追跡処理は、各クラスタについて出口スリット内まで行われる。
【0034】
ID生成/消滅部23はさらに、記憶部24内のオブジェクトマップに基づき出口スリットB1及びA2内のブロックにIDが付与されているかどうかを調べ、付与されていれば、クラスタが出口スリットを通過したときにそのIDを消滅させる。
【0035】
図5は、IDのオブジェクトマップに、理解を容易にするため図4を重ね合わせたものである。
【0036】
本実施例1の特徴は、平均速度及び誤算算出部26及びこれに関係したID生成/消滅部23の一部の構成にあり、以下これを詳述する。
【0037】
図3は、画像処理による移動物体の区間平均速度計測説明図である。
【0038】
ビデオカメラ10は、路面11から高さHの位置に光軸を斜め下方へ向けて配置されている。一般に、移動物体の速度が一定の場合、計測距離が長いほど測定精度が高くなる。そこで、紙面垂直方向のラインPaからPbまでの距離L1の平均速度Vを計測する。すなわち、距離L1を実測しておくとともに、フレーム画像上でラインPa及びPbを設定しておき、移動物体の代表点がラインPaを通ってからラインPbを通るまでの時間を計測することにより平均速度Vを算出する。
【0039】
ビデオカメラ10で撮影される画像は、ビデオカメラ10の光軸に垂直な面Sに被写体を透視的に投影したものとなる。図4は、ビデオカメラ10で撮影された画像に、上述のブロック境界線及びスリットを描いたものを示す。
【0040】
図4では、ラインPa及びPbがそれぞれ入口スリットA1及び出口スリットB1の前端に一致しており、スリットA1及びB1を上述のように設定することにより、ラインPa及びPbが設定されたことになる。なお、ブロック単位で位置を計測するので、スリット自体をラインとみなしてもよい。
【0041】
ここで、移動物体の代表点を例えばその幾何学的重心とすると、移動物体の高さによりビデオカメラ10と代表点との距離が異なるので、ラインPa及びPbの通過時点計測誤差が増加する原因となる。そこで、図3に示すように移動物体がビデオカメラ10から遠ざかる方向へ移動する場合には、移動物体の後端を移動物体の代表点とする。「後端」は、その辺に対応する複数の移動物体ブロック又はその中の1ブロックのいずれであってもよい。
【0042】
これにより、移動物体の代表点が移動物体の高さによらずほぼ路面11付近となるので、ラインPa及びPbの位置に関する物理量、例えば位置通過時点又は通過位置の計測誤差を低減することができる。なお、図3中の12A及び12Bはそれぞれ、移動物体後端がラインPa及びPbを通過した時点における同じ移動物体を示している。
【0043】
図2は、1フレーム画像における図4の入口スリットA1及び出口スリットB1に対する図1のID生成/消滅部23のライン通過検出処理を示す概略フローチャートである。
【0044】
(S10)入口スリットA1内の各ブロックについて、上述の移動物体存否判定処理を行なう。
【0045】
(S11)入口スリットA1内に新たな移動物体が存在すればステップS12へ進み、そうでなければステップS13へ進む。
【0046】
(S12)入口スリットA1内の、移動物体が存在すると判定されたブロックにIDを付与する。次にステップS15へ進む。
【0047】
(S13)移動物体が入口スリットA1を通過した場合には、すなわち1つ前のフレームで入口スリットA1内に存在した移動物体ブロック(IDが付与されたブロック)が現フレームで存在しなくなった場合には、ラインPaを移動物体が通過したと判定し、ステップS14へ進み、そうでなければステップS15へ進む。
【0048】
(S14)図1の平均速度及び誤算算出部26に対し、入口スリットA1を通過した移動物体のID及び現在のフレーム番号F(入口スリット通過時刻)を通知する。
【0049】
(S15)出口スリットB1内の各ブロックについて、上述の移動物体存否判定処理を行なう。
【0050】
(S16)出口スリットB1内に新たな移動物体が存在すればステップS17へ進み、そうでなければステップS18へ進む。
【0051】
(S17)出口スリットB1内のIDを一時記憶し、処理を終了する。
【0052】
(S18)移動物体が出口スリットB1を通過した場合にはステップS19へ進み、そうでなければ処理を終了する。
【0053】
(S19)図1の平均速度及び誤算算出部26に対し、出口スリットB1を通過したID(ステップS17で記憶したID)及び現在のフレーム番号Fを通知し、ステップS17で記憶したIDを消去する。
【0054】
平均速度及び誤算算出部26は、ステップS14及びS19でID生成/消滅部23から受け取ったID及びフレーム番号Fに基づいて、次式により平均速度V(m/s)を算出する。
【0055】
V=L1/((Fb−Fa)/f) (1)
ここに、Fb及びFaはそれぞれ、ステップS14及びS19で受け取った同一IDについてのフレーム番号であり、fはフレームレートである。
【0056】
1フレーム画像における図5の入口スリットB2及び出口スリットA2に対する図1のID生成/消滅部23のライン通過検出処理はそれぞれ、上述の入口スリットA1及び出口スリットB1に対するライン通過検出処理と同様である。ただし、移動物体16Aがビデオカメラ10に近づく方向へ移動するので、移動物体の前端を移動物体の代表点とする。図4及び図5の16B及び16Aはそれぞれ、移動物体前端がラインPb及びPaを通過した時点における同じ移動物体を示している。
【0057】
次に、平均速度Vの計測誤差δVについて説明する。
【0058】
誤差δVは主に、フレームレートによる誤差と、ブロック単位で移動物体存否を判定することによる誤差とを含んでいる。
【0059】
(1)フレームレートfのみによる位置計測誤差D
例えばf=30で移動物体速度が60km/h及び100km/hの場合、それぞれ1フレーム時間(1/f秒)で0.56m及び0.93m移動し、これらが最大の位置計測誤差Dとなる。
【0060】
(2)ブロック処理のみによる位置計測誤差K
ブロック単位で移動物体存否を判定しているので、最大で、画像上の1ブロック幅に対応する実際の幅(実ブロック幅)Kの位置計測誤差が生ずる。
【0061】
実ブロック幅Kは、ブロックの位置により異なる。図3において、1ブロック幅の視角をηとし、図4に示すラインPa及びPbを一端とするブロックBKa及びBKbの実ブロック幅Kをそれぞれ図3に示すようにKa及びKbとすると、次式が成立する。
【0062】
tan(α−η)=H/(Ka+L2) (2)
tan(β−η)=H/(Kb+L1+L2) (3)
ここに、L2はビデオカメラ10の真下からラインPaまでの距離であり、α及びβはそれぞれビデオカメラ10からラインPa及びPbへの視線と路面11とのなす角度である。
【0063】
α及びβについては、次式が成立する。
【0064】
tan(α)=H/L2 (4)
tan(β)=H/(L1+L2) (5)
L1がnブロックに分割されているとすると、次式が成立する。
【0065】
α=β+n・η (6)
例えばH=10m、L1=20m、L2=20mの場合、上式(4)及び(5)からα=0.46rad、β=0.25radとなり、さらにn=25の場合、上式(6)からη=0.0087radとなる。これらの値を上式(2)及び(3)に代入すると、Ka=0.45m、Kb=1.5mとなり、これらがラインPa、Pb通過位置計測の最大の誤差となる。
【0066】
(3)平均速度計測誤差δV
上式(1)の右辺分母をTと表記すると一般に、
δV/V=−δT/T (7)
が成立する。ここにδTは、計測時間Tの誤差である。
【0067】
δT及びTはそれぞれ、区間フレーム数計測誤差X及び区間フレーム数計測値(Fb−Fa)に比例するので、式(7)は、
δV/V=−X/(Fb−Fa) (8)
と表される。区間フレーム数計測誤差Xは、ラインPa及びPaを移動物体が通過する時点のフレーム番号誤差をそれぞれδFa及びδFbとすると、平均誤差
X=±(δFa+δFb)/2 (9)
で表される。
【0068】
ここで、実ブロック幅Ka及びKbを平均速度Vの移動物体が進むのに必要なフレーム数ΔFa及びΔFbはそれぞれ、次式で表される。
【0069】
ΔFa=f・Ka/V (10)
ΔFb=f・Kb/V (11)
フレーム番号誤差δFaは、ΔFa>1のとき、すなわちK>Dのとき、上記フレーム誤差が上記ブロック処理による誤差に吸収されて最大でΔFaになり、ΔFa≦1のとき、すなわちK≦Dのとき、最大で1になる。同様に、フレーム番号誤差δFbは、ΔFb>1のとき最大でΔFbになり、ΔFb≦1のとき最大で1になる。
【0070】
図6は、平均速度Vが40、60、80及び100km/hの場合の速度計測誤差δV及びこれに関係した上述の量の数値計算例を示す。
【0071】
図1の平均速度及び誤算算出部26は、上式(1)で表される平均速度Vの計測値に応じて、速度計測誤差δVを上述のように算出し、これらV及びδVを表示装置OUTに表示させる。本実施例1の応用例として例えば、制限速度がVlimである場合、V−δV>Vlimであればスピード違反と判定してこれを表示装置OUTに表示するとともに不図示の警報を鳴らし、その時系列画像を不図示の外部記憶装置に格納する。
【0072】
本実施例1によれば、平均速度Vの計測値に応じてその誤差δVが表示されるので、上述のような複雑な誤差があっても、平均速度計測値の信頼性が高くなり、実用化が可能となる。また、電波や音波を用いないで画像処理により速度を計測するので、妨害電波や妨害音波、あるいは散乱部材などの速度計測回避手段で速度計測が妨げられるということがないという利点を有する。
【0073】
なお、図3において、路面11から任意の所定高さの面Shを面Sと対応させることができるので、測定精度向上のための代表点は必ずしも路面11付近でなくてもよく、測定しようとする物理量やカメラアングルに応じて基準高さShを定めることができる。
【実施例2】
【0074】
図7は、ビデオカメラ10で撮像された画像を処理して移動物体の平均速度を計測する、本発明の実施例2の移動物体計測装置20Aの概略機能ブロック図である。
【0075】
代表点追跡部27は、各フレームに対する記憶部24内のオブジェクトマップに基づいて移動物体の代表点を求めることにより、代表点を追跡する。
【0076】
移動物体計測装置20Aは、フレーム画像内の複数の移動物体をリアルタイムで追跡処理する必要があるので、処理を高速化する必要がある。このためにモノクロ画像を用いると、移動物体とその影とを区別することが困難となり、計測誤差を最も小さくするための代表点を決定することができない。図9は、影12SA、12SB、16SA及び16SBがそれぞれ移動物体12A、12B、16A及び16Bと区別出来ない場合を示す。
【0077】
本実施例2の特徴は、このような問題を解決する、移動物体の代表点決定方法にある。
【0078】
ID生成/消滅部23Aでは、図9に示すように、入口スリットB2に移動物体が検出されると、入口スリットB2に入る前のブロックについても移動物体検出処理を行う。さらに、出口スリットB1に移動物体が検出されても、出口スリットB1を完全に抜け出るまで移動物体検出処理を行う。
【0079】
図8は、任意の1つの移動物体クラスタに対する代表点追跡部27の代表点決定処理を示す概略フローチャートである。
【0080】
(S20)移動物体のクラスタが内接する矩形を求める。図10は、図9にさらに、4つの移動物体クラスタが内接する矩形17A、17B、18A及び18Bを追加したものを示す。
【0081】
(S21)代表点Rの座標を
(X0+px・LY,Y0+py・LY)
として求める。ここに、(X0,Y0)は矩形の基準点、例えば矩形の左下頂点の座標である。比率px及びpyは移動物体追跡処理前に予め設定された値であり、0<px<1、0<px<1を満たし、上述の設定手段と同様の手段により設定される。
【0082】
図7の平均速度及び誤算算出部26Aは、代表点以外は上記第1実施例と同様にして、移動物体の平均速度V及びその誤差δVを算出し、これらを表示装置OUTに表示させる。
【0083】
本実施例2によれば、移動物体の領域に対する相対位置が比率px及びpyにより設定されるので、移動物体の影を移動物体と認識しても、計測しようとする物理量に応じた移動物体の着目位置付近を代表点として検出することができ、計測精度向上に寄与するところが大きい。
【0084】
なお、移動物体の一部と見なされる影の大きさは、時間や天候により異なるので、これに応じて比率px及びpyの設定値を変える必要がある。
【0085】
しかしながら、例えば実施例1により平均速度Vを計測し、スピード違反の疑いがある時系列画像を不図示の外部記憶装置に保存しておき、後でその画像を見てpx及びpyを適当に設定することにより、スピード違反の判定をより正確に行なうことが可能となる。
【0086】
また、平均速度及び誤算算出部26Aは、各ブロックの実ブロック幅と代表点追跡部27で求められた代表点の座標とに基づいて代表点の軌跡の長さを走行距離L2として求め、他は上記実施例1と同様にして、移動物体の代表点平均速度V及びその誤差δVを算出してもよい。
【実施例3】
【0087】
上記実施例では、ビデオカメラが道路の中央部上方に配置されている場合を説明したが、例えば交差点にビデオカメラを配置した場合には図12に示すように、ビデオカメラに対する移動物体30の角度が上述の場合と異なる。図12中、30Sは移動物体30の影であり、移動物体の一部と認識され、31はこれらを含む矩形である。Rは、移動物体30の位置計測誤差を小さくするのに好ましい代表点である。
【0088】
また、図13に示すように移動物体が右折すると、移動物体の方向が変化していくので、移動物体の代表点を路面位置付近に設定するのが困難となる。図13中、301〜303は、移動中の異なる時間での同一移動物体を示し、301S〜303Sはそれぞれ移動物体の一部と認識された、移動物体301〜303の影を示す。
【0089】
本実施例3では、このような場合でも代表点を路面位置付近に設定できるようにするため、図8の処理の代わりに、図11に示す処理を行なう。
【0090】
(S30)図8のステップS20と同様に、移動物体のクラスタが内接する矩形を求める。図13中、311〜313は移動物体クラスタが内接する矩形を示す。
【0091】
(S31)移動物体の動きベクトルMVmの角度θを求め、次いで比率関数px(θ)及びpy(θ)の値を求める。動きベクトルMVmは、同一移動物体に属する全てのブロックの動きベクトルの平均ベクトルである。比率px(θ)及びpy(θ)は、予め経験的に決定され、0<px(θ)<1、0<px(θ)<1を満たし、θをパラメータとするテーブル又はこれを数式で近似したもので表される。θは、フレーム画像上の角度又は路面上の角度である。路面上の角度の場合には、フレーム画像上の角度を、フレーム画像上の位置に応じた路面上の角度に変換する数式又はテーブルを用いる。
【0092】
なお、動きベクトルMVmは、平均から所定値以上ずれているものを除いて平均したものであってもよい。動きベクトルMVmはまた、幾何学的重心が含まれるブロックのMV又はその付近のMVの平均値であってもよい。
【0093】
(S32)図8のステップS21と同様に、代表点Rの座標を
(X0+px(θ)・LY,Y0+py(θ)・LY)
として求める。
【0094】
本実施例3によれば、比率px及びpyが移動物体の動きベクトルの角度に応じて定められているので、移動物体の影を移動物体と認識し且つ移動物体がその移動方向を変化させても、計測しようとする物理量に応じた移動物体の着目点付近を代表点として検出することができ、計測精度向上に寄与するところが大きい。
【実施例4】
【0095】
本発明の実施例4は、背景技術の欄で述べた図16に示す問題点を解決するためのものである。実施例4における図7の代表点追跡部27は、各画像フレームに対応するオブジェクトマップ上の各移動物体に対し、図14に示す処理を行なう。
【0096】
(S40)画像上で移動物体同士の重なりがなければステップS41へ進み、そうでなければステップS43へ進む。
【0097】
(S41)幾何学的重心Gの座標を求める。
【0098】
(S42)このGを、時刻tにおける代表点P(t)として求める。図15中、×印は、代表点を示し、RX2以外は幾何学的重心Gである。
【0099】
(S43)着目している移動物体の各ブロックの動きベクトルの平均値MVmを求める。上述のように、動きベクトルMVmは、平均から所定値以上ずれているものを除いて平均したものであってもよい。
【0100】
(S44)1つ前のフレームの対応する移動物体の代表点P(t−1)をMVmだけ移動させた点を、時刻tでの代表点P(t)として求める。図15中のRX2は、このようにして求めた移動物体132の代表点である。
【0101】
本実施例4によれば、画像上で移動物体同士の重なりがあっても、移動物体の動きベクトルに基づいて、移動物体の重なりが無いとしたときの幾何学的重心に相当する点が代表点として求まり、図15と図16を比較すれば明らかなように、より正確に移動物体の代表点及びその軌跡を求めることができ、代表点に基づいて求めた他の物理量の計測値もより正確になる。
【図面の簡単な説明】
【0102】
【図1】ビデオカメラで撮像された画像を処理して移動物体の平均速度を計測する、本発明の実施例1の移動物体計測装置の概略機能ブロック図である。
【図2】1フレーム画像における入口スリット及び出口スリットに対する図1のID生成/消滅部23のライン通過検出処理を示す概略フローチャートである。
【図3】画像処理による移動物体の区間平均速度計測説明図である。
【図4】図3のビデオカメラで撮像された画像を、ブロック境界線、入口スリット及び出口スリットとともに示す説明図である。
【図5】IDのオブジェクトマップに図4を重ね合わせたものを示す説明図である。
【図6】平均速度Vが40、60、80及び100km/hの場合の速度計測誤差δV及びこれに関係した量の数値計算例を示す表である。
【図7】ビデオカメラで撮像された画像を処理して移動物体の平均速度を計測する、本発明の実施例2の移動物体計測装置の概略機能ブロック図である。
【図8】任意の1つの移動物体クラスタに対する代表点追跡部27の代表点決定処理を示す概略フローチャートである。
【図9】移動物体の影が移動物体と区別出来ない場合を示す説明図である。
【図10】図8の処理説明図である。
【図11】本発明の実施例3に係る、任意の1つの移動物体クラスタに対する代表点追跡部27の代表点決定処理を示す概略フローチャートである。
【図12】図11の処理説明図である。
【図13】図11の処理説明図である。
【図14】本発明の実施例4に係る、任意の1つの移動物体クラスタに対する代表点追跡部27の代表点決定処理を示す概略フローチャートである。
【図15】図14の処理説明図である。
【図16】従来技術の問題点説明図である。
【符号の説明】
【0103】
10 ビデオカメラ
11 路面
12A、12B、131〜133、141〜143、16A、16B、30、301〜303 移動物体
12SA、12SB、16SA、16SB、30S、301S、303S 影
15 フレーム
17A、17B、18A、18B、31、311〜313 矩形
20、20A 移動物体計測装置
21 画像メモリ
22 背景画像生成部
23 ID生成/消滅部
24 オブジェクトマップ記憶部
25 移動物体追跡部
26、26A 平均速度及び誤算算出部
27 代表点追跡部
IN 入力装置
OUT 表示装置
Pa、Pb ライン
A1、B2 入口スリット
A2、B1 出口スリット
K、Ka、Kb 実ブロック幅
F、Fa、Fb フレーム番号
ΔFa、ΔFb フレーム数
δFa、δFb フレーム番号誤差
V 平均速度
δV 速度計測誤差
RA1〜RA3、RB1〜RB3 幾何学的重心
【特許請求の範囲】
【請求項1】
時系列画像上の移動物体を検出して該移動物体の物理量を計測する、画像処理による移動物体計測方法において、
該移動物体を撮像するビデオカメラから遠ざかる方向へ該移動物体が移動するときには該移動物体の略後端を該代表点とし、該ビデオカメラへ近づく方向に該移動物体が移動するときには該移動物体の略前端を該代表点とし、
該代表点に関する物理量を計測することを特徴とする、画像処理による移動物体計測方法。
【請求項2】
時系列画像上の移動物体を検出して該移動物体の物理量を計測する、画像処理による移動物体計測方法において、
該移動物体の領域に対する相対位置を該移動物体の代表点として予め定めておき、
該代表点に関する物理量を計測することを特徴とする、画像処理による移動物体計測方法。
【請求項3】
該移動物体の領域は、該移動物体が内接する矩形であることを特徴とする請求項2記載の方法。
【請求項4】
該相対位置は実質的に、該矩形の1つの頂点を原点として直交座標(px・LX,py・LY)で表され、ここにLX及びLYは該矩形の隣り合う2辺の長さであり、px及びpyは予め定められ、0<px<1、0<px<1であることを特徴とする請求項3記載の方法。
【請求項5】
該px及びpyは、該移動物体の動きベクトルの角度に応じて定められていることを特徴とする請求項3記載の方法。
【請求項6】
時系列画像上の移動物体を検出して該移動物体の物理量を計測する、画像処理による移動物体計測方法において、
該移動物体が他の移動物体と重なっていないと判定した場合には、該移動物体の幾何学的重心を代表点として求め、該移動物体が他の移動物体と重なっていることを検出した場合には、該移動物体の動きベクトルに基づいて、該重なりがないとしたときの該幾何学的重心に相当する点を代表点として求め、
該代表点に関する物理量を計測することを特徴とする、画像処理による移動物体計測方法。
【請求項7】
画像フレーム内に第1及び第2ラインを予め設定するとともに、該第1ラインから該第2ラインまでの実際の距離を予め測定しておき、
該代表点が該第1ラインから該第2ラインまで移動する時間を検出し、該時間と該距離とに基づき該移動物体の平均速度を該物理量として求める
ことを特徴とする請求項1乃至6のいずれか1つに記載の方法。
【請求項8】
該平均速度の誤差を求め、該誤差を該平均速度とともに出力し、該誤差は少なくとも、フレームレートによるもの及び画像フレームをブロックに分割してブロック単位で該移動物体を検出することによるものを含むことを特徴とする請求項7記載の方法。
【請求項9】
該誤差は実質的にV・X/(Fb−Fa)で表され、ここにVは該平均速度の計測値、Xは該移動物体の代表点が該第1ラインを通過する時点に対応したフレーム番号の誤差と該代表点が該第2ラインを通過する時点に対応したフレーム番号の誤差との平均値、(Fb−Fa)は該代表点が該第1ラインから該第2ラインまで移動するのに要するフレーム数の計測値であることを特徴とする請求項8記載の方法。
【請求項10】
時系列画像上の移動物体を検出して該移動物体の物理量を計測する、画像処理による移動物体計測装置において、
該移動物体の領域に対する相対位置を該移動物体の代表点として設定するための設定手段と、
該時系列画像を処理して該代表点に関する物理量を求める処理手段と、
該物理量を出力する出力手段と、
を有することを特徴とする、画像処理による移動物体計測装置。
【請求項11】
該設定手段はさらに、画像フレーム内に第1及び第2ラインを設定するとともに、該第1ラインから該第2ラインまでの実際の距離を入力するためのものであり、
該物理量は、該代表点が該第1ラインから該第2ラインまで移動する時間と該距離とに基づき求められる該移動物体の平均速度である
ことを特徴とする請求項10記載の装置。
【請求項12】
該処理手段は、画像フレームをブロックに分割してブロック単位で該移動物体を検出し、
該処理手段はさらに、該平均速度の誤差を求め、
該出力手段は、該誤差を該平均速度とともに出力し、
該誤差はフレームレートによるものと該移動物体をブロック単位で検出することによるものとを含むことを特徴とする請求項11記載の装置。
【請求項13】
時系列画像上の移動物体を検出して該移動物体の物理量を計測する、画像処理による移動物体計測装置において、
該移動物体が他の移動物体と重なっているかどうかを判定する判定手段と、
該判定手段が否定判定した場合には、該移動物体の幾何学的重心を代表点として求め、該判定手段が肯定判定した場合には、該移動物体の動きベクトルに基づいて、該重なりがないとしたときの該幾何学的重心に相当する点を代表点として求め、該代表点に関する物理量を求める処理手段と、
該物理量を出力する手段と、
を有することを特徴とする、画像処理による移動物体計測装置。
【請求項1】
時系列画像上の移動物体を検出して該移動物体の物理量を計測する、画像処理による移動物体計測方法において、
該移動物体を撮像するビデオカメラから遠ざかる方向へ該移動物体が移動するときには該移動物体の略後端を該代表点とし、該ビデオカメラへ近づく方向に該移動物体が移動するときには該移動物体の略前端を該代表点とし、
該代表点に関する物理量を計測することを特徴とする、画像処理による移動物体計測方法。
【請求項2】
時系列画像上の移動物体を検出して該移動物体の物理量を計測する、画像処理による移動物体計測方法において、
該移動物体の領域に対する相対位置を該移動物体の代表点として予め定めておき、
該代表点に関する物理量を計測することを特徴とする、画像処理による移動物体計測方法。
【請求項3】
該移動物体の領域は、該移動物体が内接する矩形であることを特徴とする請求項2記載の方法。
【請求項4】
該相対位置は実質的に、該矩形の1つの頂点を原点として直交座標(px・LX,py・LY)で表され、ここにLX及びLYは該矩形の隣り合う2辺の長さであり、px及びpyは予め定められ、0<px<1、0<px<1であることを特徴とする請求項3記載の方法。
【請求項5】
該px及びpyは、該移動物体の動きベクトルの角度に応じて定められていることを特徴とする請求項3記載の方法。
【請求項6】
時系列画像上の移動物体を検出して該移動物体の物理量を計測する、画像処理による移動物体計測方法において、
該移動物体が他の移動物体と重なっていないと判定した場合には、該移動物体の幾何学的重心を代表点として求め、該移動物体が他の移動物体と重なっていることを検出した場合には、該移動物体の動きベクトルに基づいて、該重なりがないとしたときの該幾何学的重心に相当する点を代表点として求め、
該代表点に関する物理量を計測することを特徴とする、画像処理による移動物体計測方法。
【請求項7】
画像フレーム内に第1及び第2ラインを予め設定するとともに、該第1ラインから該第2ラインまでの実際の距離を予め測定しておき、
該代表点が該第1ラインから該第2ラインまで移動する時間を検出し、該時間と該距離とに基づき該移動物体の平均速度を該物理量として求める
ことを特徴とする請求項1乃至6のいずれか1つに記載の方法。
【請求項8】
該平均速度の誤差を求め、該誤差を該平均速度とともに出力し、該誤差は少なくとも、フレームレートによるもの及び画像フレームをブロックに分割してブロック単位で該移動物体を検出することによるものを含むことを特徴とする請求項7記載の方法。
【請求項9】
該誤差は実質的にV・X/(Fb−Fa)で表され、ここにVは該平均速度の計測値、Xは該移動物体の代表点が該第1ラインを通過する時点に対応したフレーム番号の誤差と該代表点が該第2ラインを通過する時点に対応したフレーム番号の誤差との平均値、(Fb−Fa)は該代表点が該第1ラインから該第2ラインまで移動するのに要するフレーム数の計測値であることを特徴とする請求項8記載の方法。
【請求項10】
時系列画像上の移動物体を検出して該移動物体の物理量を計測する、画像処理による移動物体計測装置において、
該移動物体の領域に対する相対位置を該移動物体の代表点として設定するための設定手段と、
該時系列画像を処理して該代表点に関する物理量を求める処理手段と、
該物理量を出力する出力手段と、
を有することを特徴とする、画像処理による移動物体計測装置。
【請求項11】
該設定手段はさらに、画像フレーム内に第1及び第2ラインを設定するとともに、該第1ラインから該第2ラインまでの実際の距離を入力するためのものであり、
該物理量は、該代表点が該第1ラインから該第2ラインまで移動する時間と該距離とに基づき求められる該移動物体の平均速度である
ことを特徴とする請求項10記載の装置。
【請求項12】
該処理手段は、画像フレームをブロックに分割してブロック単位で該移動物体を検出し、
該処理手段はさらに、該平均速度の誤差を求め、
該出力手段は、該誤差を該平均速度とともに出力し、
該誤差はフレームレートによるものと該移動物体をブロック単位で検出することによるものとを含むことを特徴とする請求項11記載の装置。
【請求項13】
時系列画像上の移動物体を検出して該移動物体の物理量を計測する、画像処理による移動物体計測装置において、
該移動物体が他の移動物体と重なっているかどうかを判定する判定手段と、
該判定手段が否定判定した場合には、該移動物体の幾何学的重心を代表点として求め、該判定手段が肯定判定した場合には、該移動物体の動きベクトルに基づいて、該重なりがないとしたときの該幾何学的重心に相当する点を代表点として求め、該代表点に関する物理量を求める処理手段と、
該物理量を出力する手段と、
を有することを特徴とする、画像処理による移動物体計測装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2006−24146(P2006−24146A)
【公開日】平成18年1月26日(2006.1.26)
【国際特許分類】
【出願番号】特願2004−203852(P2004−203852)
【出願日】平成16年7月9日(2004.7.9)
【出願人】(801000049)財団法人生産技術研究奨励会 (72)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】
【公開日】平成18年1月26日(2006.1.26)
【国際特許分類】
【出願日】平成16年7月9日(2004.7.9)
【出願人】(801000049)財団法人生産技術研究奨励会 (72)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】
[ Back to top ]