画像解析装置、画像解析方法、画像解析プログラム及び記録媒体
【課題】解析対象の動きをより正確に解析し、解析結果に対する把握性を向上させる装置及び方法等を提供する装置及び方法等を提供する。
【解決手段】画像解析装置SSは、矩形領域20に存在するベクトル情報を抽出し、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する。
【解決手段】画像解析装置SSは、矩形領域20に存在するベクトル情報を抽出し、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像に表示される物体を解析する装置及び方法等の技術分野に関する。
【背景技術】
【0002】
従来から、所定の施設(交通機関、商業施設、公共機関等)を利用する人を動画像として撮像し、当該動画像に示される人の動き(流れ)を、追跡処理を適用して解析し、人為的な手段を介さずに人の行動を把握することが行われている。
【0003】
このような追跡処理の一例としては、動画像を構成するフレームのうち基準となるフレームに示される解析対象をラベリングにより特定し、特定した解析対象が他のフレームで示す動きを追跡する追跡処理が知られている(例えば、特許文献1参照)。
【0004】
そして、この追跡処理の結果を、解析対象毎の移動方向を示す動線又はベクトルとして表示することにより、人の行動を視覚的に把握させ、解析結果に対する把握性(把握や認識のし易さ)の向上等を図る技術が開示されている。
【0005】
例えば、特許文献2では、指定したエリア内の監視情報を動線として表示する技術が開示されている。
【0006】
また、特許文献3では、空間内の各通行人それぞれの通行軌跡を求め、所定空間の所定時間内に通行した通行人全ての通行軌跡を表示する技術が開示されている。
【0007】
また、特許文献4では、画像上に人流を示す矢印(ベクトル)を表示する技術が開示されている。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特公平6−28449号公報
【特許文献2】特開2003−101994号公報
【特許文献3】特開2005−346617号公報
【特許文献4】特開2007−243342号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、上記特許文献1〜4で開示される技術では、動画像に示される全ての解析対象に応じたベクトル又は動線が表示される。従って、解析対象の増加に伴って表示される動線又はベクトルの数も増加するため、多くの解析対象が表示される場合には、各解析対象に対応した個別のベクトルの向きや大きさ、又は動線の軌跡や数量等を識別することが困難となり、解析結果に対する把握性が著しく低下してしまう。
【0010】
さらに、特許文献3で開示される動線を表示する技術では、解析対象が移動する方向や数量を把握することが困難であるため、解析対象が示す動きを詳細に把握することができない(解析対象の動的要素を表現するには欠けたものとなる)。
【0011】
加えて、特許文献4で開示されるベクトルを表示する技術では、解析対象の動きの方向を示すベクトルの向きが極めて限定的であるため、解析対象が示す動作を詳細に把握することができない(ベクトルの方向が一意に決定されてしまう)。
【0012】
そこで、本発明は、上記各問題点に鑑みてなされたものであり、その目的の一例は、解析対象の動きをより正確に解析し、解析結果に対する把握性を向上させる装置及び方法等を提供することである。
【課題を解決するための手段】
【0013】
上記課題を解決するために、請求項1に記載の発明は、動画像として撮像された解析対象の動きを解析する画像解析装置であって、撮像領域内を一定期間撮像した動画像を記憶する記憶手段と、前記動画像に示される前記解析対象を検出する検出手段と、前記検出された解析対象が、前記撮像領域内で示す位置変化を算出し、前記解析対象を他の解析対象と識別するための解析対象識別情報と対応付けて記憶する位置変化算出手段と、前記記憶された位置変化に基づいて、前記検出された解析対象が、前記撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として解析対象識別情報毎に算出するベクトル情報算出手段と、前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出手段と、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出手段と、前記算出された代表的な方向を、外部へ表示させる表示制御手段と、を備えることを特徴とする。
【0014】
従って、解析対象の動きをより正確に解析し、解析結果に対する把握性を向上させることができる。
【0015】
請求項2に記載の発明は、請求項1に記載の画像解析装置であって、前記ベクトル情報算出手段は、前記ベクトル情報として、前記解析対象の移動開始点を算出し、前記ベクトル情報に含まれる移動開始点に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出することを特徴とする。
【0016】
従って、前記撮像領域の所定範囲内に侵入する解析対象の動きを正確に解析し、解析結果に対する把握性を向上させることができる。
【0017】
請求項3に記載の発明は、請求項1又は2に記載の画像解析装置であって、前記ベクトル情報算出手段は、前記ベクトル情報として、前記解析対象の移動終了点を算出し、前記ベクトル情報に含まれる移動終了点に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出することを特徴とする。
【0018】
従って、前記撮像領域の所定範囲内から退出する解析対象の動きを正確に解析し、解析結果に対する把握性を向上させることができる。
【0019】
請求項4に記載の発明は、請求項1乃至3の何れか1項に記載の画像解析装置であって、前記移動状態算出手段は、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向が、原点を中心に所定の方向を示す方向軸が、当該原点を中心に所定の角度離れて複数設けられた第1の座標系における何れかの方向軸が示す方向と近似するかを判定し、前記移動状態算出手段は、前記ベクトル情報に含まれる方向と、近似すると判定された方向軸が示す方向を、前記所定範囲内に存在するベクトル情報の代表的な方向と算出することを特徴とする。
【0020】
従って、予め定められた方向に応じて前記所定範囲内に存在するベクトル情報の代表的な方向が定められるため、装置(CPU等)の処理負担を軽減しつつ、解析結果に対する把握性を向上させることができる。
【0021】
請求項5に記載の発明は、請求項1乃至4の何れか1項に記載の画像解析装置であって、前記移動状態算出手段は、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向が、所定の方向から原点を示す方向軸が、当該原点を中心に所定の角度離れて複数設けられた第2の座標系における何れかの方向軸が示す方向と近似するかを判定し、移動状態算出手段は、前記ベクトル情報に含まれる方向と、近似すると判定された方向軸が示す方向を、前記所定範囲内に存在するベクトル情報の代表的な方向と算出することを特徴とする。
【0022】
従って、予め定められた方向に応じて前記所定範囲内に存在するベクトル情報の代表的な方向が定められるため、装置(CPU等)の処理負担を軽減しつつ、解析結果に対する把握性を向上させることができる。
【0023】
請求項6に記載の発明は、請求項1乃至5の何れか1項に記載の画像解析装置であって、前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、前記表示制御手段は、前記算出された代表的な方向に属するベクトル情報の数量に応じて、前記外部へ表示させる代表的な方向の表示態様を変化させることを特徴とする。
【0024】
従って、算出された代表的な方向に属するベクトル情報の数量に応じて、前記外部へ表示させる代表的な方向の表示態様が変化するため、解析結果の詳細な情報について、視覚的に容易に把握することができる。
【0025】
請求項7に記載の発明は、請求項1乃至6の何れか1項に記載の画像解析装置であって、前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、前記表示制御手段は、前記算出された代表的な方向に属するベクトル情報に含まれる位置変化の大きさに応じて、前記外部へ表示させる代表的な方向の表示態様を変化させることを特徴とする。
【0026】
従って、算出された代表的な方向に属するベクトル情報に含まれる位置変化の大きさに応じて、前記外部へ表示させる代表的な方向の表示態様が変化するため、解析結果の詳細な情報について、視覚的に容易に把握することができる。
【0027】
請求項8に記載の発明は、請求項1乃至7の何れか1項に記載の画像解析装置であって、前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、前記表示制御手段は、前記移動状態算出手段によって算出された代表的な方向に属するベクトル情報の数量が所定の閾値以上の場合に、当該算出された代表的な方向を、外部へ表示させることを特徴とする。
【0028】
従って、算出された代表的な方向に属するベクトル情報の数量が所定の閾値以上の場合に、当該算出された代表的な方向を外部へ表示するため、ユーザの必要性に応じた解析結果を提示することができる。
【0029】
請求項9に記載の発明は、請求項1乃至8の何れか1項に記載の画像解析装置であって、前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、前記表示制御手段は、前記移動状態算出手段によって算出された代表的な方向に属するベクトル情報の数量が最も多い代表的な方向を抽出し、当該代表的な方向を外部へ表示させることを特徴とする。
【0030】
従って、算出された代表的な方向に属するベクトル情報の数量が最も多い代表的な方向を抽出し、当該代表的な方向を外部へ表示するため、ユーザの必要性に応じた解析結果を提示することができる。
【0031】
請求項10に記載の発明は、請求項1乃至9の何れか1項に記載の画像解析装置であって、前記ベクトル情報抽出手段は、前記ベクトル情報に含まれる位置に基づいて、少なくとも2以上の異なる大きさの撮像領域の所定範囲内に存在するベクトル情報を、撮像領域の所定範囲内毎に抽出し、前記移動状態算出手段は、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の代表的な方向を、前記撮像領域の所定範囲内毎に算出することを特徴とする。
【0032】
従って、少なくとも2以上の異なる大きさの撮像領域の所定範囲内に存在するベクトル情報を、撮像領域の所定範囲内毎に抽出し、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の代表的な方向を、前記撮像領域の所定範囲内毎に算出するため、ユーザの必要性に応じた解析結果を提示することができる。
【0033】
請求項11に記載の発明は、請求項1乃至12の何れか1項に記載の画像解析装置であって、前記ベクトル情報抽出手段は、前記撮像領域内を所定の大きさの領域に分割する分割領域に存在するベクトル情報を、各分割領域毎に算出し、前記移動状態算出手段は、前記分割領域毎に算出されたベクトル情報に基づいて、前記一又は複数の代表的な方向を、各分割領域毎に算出し、前記表示制御手段は、前記算出された各分割領域に対応する一又は複数の代表的な方向を、当該各分割領域に表示させることを特徴とする。
【0034】
請求項12に記載の発明は、請求項11に記載の画像解析装置であって、所定の数量の前記分割領域を一つの領域としてまとめた中領域とし、各中領域毎に算出される代表的な方向の数量が予め設定されており、前記移動状態算出手段は、前記中領域毎に設定された数量に応じて、前記中領域に属する小領域毎に、一又は複数の代表的な方向を算出し、前記表示制御手段は、前記算出された中領域の属する小領域毎に、一又は複数の代表的な方向を、当該小領域に表示させる。
【0035】
請求項13に記載の発明は、請求項1乃至12の何れか1項に記載の画像解析装置であって、前記撮像領域の所定範囲内を任意に設定可能な入力手段をさらに備えることを特徴とする。
【0036】
従って、ユーザの必要性に応じた解析結果を提示することができる。
【0037】
請求項14に記載の発明は、動画像に撮像された解析対象の動きを解析する画像解析装置における画像解析方法であって、撮像領域内を一定期間撮像した動画像を記憶する記憶工程と、前記動画像に示される前記解析対象を検出する検出工程と、前記検出された解析対象が、当該撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として算出し、前記解析対象を他の解析対象と識別するための解析対象識別情報と対応付けて記憶する追跡工程と、前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出工程と、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出工程と、前記算出された代表的な方向を、外部へ表示させる表示制御工程と、を有することを特徴とする。
【0038】
請求項15に記載の発明は、動画像に撮像された解析対象の動きを解析する画像解析装置に含まれるコンピュータを、撮像領域内を一定期間撮像した動画像を記憶する記憶手段、前記動画像に示される前記解析対象を検出する検出手段、前記検出された解析対象が、当該撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として算出し、前記解析対象を他の解析対象と識別するための解析対象識別情報と対応付けて記憶する位置変化算出手段、前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出手段、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出手段、前記算出された代表的な方向を、外部へ表示させる表示制御手段、として機能させることを特徴とする。
【0039】
請求項16に記載の発明は、請求項15に記載の画像処理プログラムがコンピュータ読み取り可能に記録されていることを特徴とする。
【発明の効果】
【0040】
以上のように、本発明によれば、画像解析装置は、所定範囲内に存在するベクトル情報の代表的な方向を算出するため、解析対象の動きをより正確に解析し、解析結果に対する把握性を向上させることができる。
【図面の簡単な説明】
【0041】
【図1】本実施形態にかかる画像解析装置SSの構成を示すブロック図である。
【図2】動画像から検出された解析対象が、撮像領域内で示す位置変化を記憶するまでの画像解析装置SSの動作の詳細を示すフローチャートである。
【図3】入力画像格納部5に記憶されるフレームの一例を示す図である。
【図4】所定期間内における人の移動を示す概念図である。
【図5】位置座標DBに記憶される内容の一例を示す図である。
【図6】算出したベクトル情報に基づいて撮像領域の所定範囲内に存在するベクトル情報の代表的な方向を表示させるまでの画像解析装置SSの動作の詳細を示すフローチャートである。
【図7】人H1の単位時間当たりの位置変化の算出例を示す概念図である。
【図8】人H1の単位時間当たりの位置変化の数量に対応した数量のベクトル情報の算出結果を示す概念図である。
【図9】動画像に示される全ての人に対してベクトル情報を算出した場合の算出結果を示す概念図である。
【図10】矩形領域20に存在するベクトル情報を抽出した抽出例を示す概念図である。
【図11】第1の座標系を示す図である。
【図12】近似を判定する方法を示す概念図である。
【図13】移動させたベクトル情報に含まれる方向が、第1の座標系Tにおける何れかの方向軸の近似する範囲に該当するかを判定した判定結果を示す図である。
【図14】矩形領域20に存在するベクトル情報の代表的な方向を表示した表示例を示す図である。
【図15】代表的な方向を示す方向軸に属するベクトル情報の数量に応じて、代表的な方向の表示態様を変化させた場合の表示結果を示す概念図である。
【図16】代表的な方向を示す方向軸に属するベクトル情報に含まれる位置変化に応じて、代表的な方向の表示態様を変化させた場合の表示結果を示す概念図である。
【図17】代表的な方向を示す方向軸に属するベクトル情報の数量、及び、当該ベクトル情報に含まれる位置変化の大きさに応じて、代表的な方向の表示態様を変化させた場合の表示結果を示す概念図である。
【図18】分割領域に存在するベクトル情報に基づいて代表的な方向を算出し、算出された各分割領域に対応する一又は複数の代表的な方向を、当該各分割領域に表示した場合の表示例を示す図である。
【図19】中領域の設定例を示す概念図である。
【図20】移動状態算出部11が、中領域を参照して、代表的な方向を算出した場合の算出結果を表示した場合の表示例を示す図である。
【図21】2以上の異なる大きさの撮像領域の所定範囲を設定し、当該領域に存在するベクトル情報に含まれる方向に基づいて代表的な方向を算出させた場合の表示例を示す図である。
【図22】2以上の撮像領域の所定範囲に、属性ラベルを設定した場合の例を示す図である。
【図23】第2の座標系を示す図である。
【図24】解析対象が示す単位時間当たりのベクトル情報を、近似曲線で算出した場合を示す概念図である。
【発明を実施するための形態】
【0042】
まず、本願の最良の実施形態を添付図面に基づいて説明する。なお、以下に説明する実施の形態は、動画像として撮像された解析対象の動きを解析する画像解析装置に対して本願を適用した場合の実施形態である。
【0043】
[1.画像解析装置の構成及び機能概要]
まず、本実施形態にかかる画像解析装置SSの構成及び機能概要について、図1を用いて説明する。
【0044】
図1は、本実施形態にかかる画像解析装置SSの構成を示すブロック図である。
【0045】
画像解析装置SSは、入力データとしての動画像の入力を受け付ける画像入力部1、キーボード、タッチパネル、ジョグダイヤル又はその他の入力機構を備えユーザから入力された情報を制御部3へ出力する入力部2、入力データから出力データとしての画像又は動画像を生成する制御部3、ディスプレイ等を備え出力データを表示する表示部4等を備える。
【0046】
さらに詳細には、画像入力部1は、撮像領域内における動画像を撮像して所定の電気信号を出力する図示しないビデオカメラ(デジタルビデオカメラ)から、当該電気信号の入力を受け付ける。
【0047】
本実施形態では、ビデオカメラは、所定の施設(交通機関、商業施設、公共機関等)等に設置され、一定期間(例えば、1時間毎等、又は24時間連続して)、当該施設の所定の撮像領域内を撮像する。
【0048】
なお、ビデオカメラは、公知技術であるため詳しい説明は省略するが、例えば、光学系レンズから取り込まれた光が、絞り機構等によって調節され、CCD(Charge Couple Semiconductor)イメージセンサ又はCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ上に光学像(画像)として結像される。この画像は、イメージセンサによって電気信号に変換され、画像入力部1(カメラI/F)へ出力される。
【0049】
そして、画像入力部1は、ビデオカメラから出力された電気信号を受け付け、前記画像を構成する画素を示す画素情報(前記各画素に対応する電気信号等)と前記画素に対応する色情報(R,G,Bの何れかの原色成分に対応した電荷等)を示す静止画像(後述するフレーム)として、例えば、撮像時刻と対応付けて制御部3(後述する入力画像格納部5)へ出力する。
【0050】
換言すれば、画像入力部1は、入力された動画像を所定フレーム(例えば、毎秒20フレーム(即ち、フレームレートが20fps(frame per second))等)の静止画像からなる画像情報に変換し、例えば、撮像時刻等と対応付けて制御部3へ出力する。即ち、これらのフレームが動画像を構成する。
【0051】
画像入力部1の一例として、例えば、産業用デジタルカメラと画像入力ボードを接続する規格仕様である公知のカメラリンク(Camera Link)に対応したインターフェースが適用される。
【0052】
制御部3は、詳しくは後述するが、動画像に示される解析対象が撮像領域内で示す単位時間当たりの位置変化をベクトル情報として算出し、当該ベクトル情報に基づいて、撮像領域の所定範囲内に存在するベクトル情報の代表的な方向を表示させる出力データを生成する。
【0053】
このような制御部3の動作(処理)は、制御部3内に実装されるハードウェア回路により行われるものであっても良いし、制御部3内に実装されるマイクロコンピュータ(CPU等)が所定のプログラム(ソフトウェア)を実行することにより行われるものであっても良い。
【0054】
さらに具体的に、制御部3は、入力画像格納部5(本願の記憶手段の一例)、動体検出部6(本願の検出手段の一例)、位置変化算出部7(本願の位置変化算出手段の一例)、位置座標記憶部8(本願の位置変化算出手段の一例)、ベクトル情報算出部9(本願のベクトル情報算出手段の一例)、ベクトル情報抽出部10(本願のベクトル情報抽出手段の一例)、移動状態算出部11(本願の移動状態算出手段の一例)、表示制御部12(本願の表示制御手段の一例)、出力フレームメモリ13等から構成される。
【0055】
入力画像格納部5は、上記撮像領域内を一定期間撮像した動画像を記憶するための記憶領域であり、例えば、揮発性又は不揮発性メモリ又はハードディスク等が適用される。
【0056】
具体的に、本実施形態における入力画像格納部5は、一又は複数のフレーム(上述した動画像から所定フレームに変換された静止画像)と、各フレームにおける撮像時刻、及び詳しくは後述する座標値等を対応付けて記憶する。
【0057】
そして、入力画像格納部5には、一定期間撮像された動画像に対応した複数のフレームが記憶されている。
【0058】
動体検出部6は、動画像に示される解析対象を検出する。
【0059】
撮像された動画像には、当該施設を利用する人や当該施設内を通過する移動手段(例えば、車や荷台等)等が示されている。本実施形態における動体検出部6は、この人や移動手段等を解析対象として検出するようになっている。
【0060】
この解析対象を検出する方法は、公知の技術であるため詳しい説明は省略するが、動体検出部6は、動画像を構成するフレームのうち基準となるフレームと、予め記憶された参照フレーム(同じ撮像領域内の静止画像)との画素間減算及び、いわゆる背景除去を行い、画像変化のあった画素のみの画像に変換する。そして、ノイズ除去及び2値化等の画像処理を施すと、当該基準となるフレームの解析対象が抽出される。そして、抽出された解析対象を他の解析対象と識別するためにラベリング処理を行い、各解析対象に動体ID(本願の解析対象識別情報の一例。)を付与する処理を行う。
【0061】
この動体IDは、解析対象を他の解析対象と識別するための識別情報である。
【0062】
位置変化算出部7は、検出された解析対象が、撮像領域内で示す位置変化を算出する。
【0063】
この位置変化の算出には、例えば、公知の追跡処理を適用することができる。
【0064】
追跡処理は公知の技術であるため詳しい説明は省略するが、まず、位置変化算出部7は、基準となるフレームで特定された解析対象が、当該基準となるフレームで示す撮像領域内の位置を特定する。
【0065】
次に、位置変化算出部7は、異なるフレーム(基準となるフレームより後で撮像されたフレーム)に当該解析対象と同一の物体が特定されるか判定する。
【0066】
この同一の物体として特定するための方法としては、例えば基準となるフレームで特定された解析対象の大きさや主軸の比等からなる形状パラメータを求め、他のフレームにおいて、この形状パラメータと最も近似する形状パラメータを有する物体を同一の解析対象とみなす等の方法を適用することができる。
【0067】
そして、同一の物体であると判定された場合には、位置変化算出部7は、異なるフレームにおける解析対象が、当該異なるフレームで示す撮像領域内の位置を特定する。
【0068】
そして、位置変化算出部7は、特定した解析対象が基準となるフレームで示す撮像領域内の位置と、特定した解析対象が異なるフレームで示す撮像領域内の位置を、検出された解析対象が前記撮像領域内で示す位置変化として算出する。
【0069】
この位置変化は、一定期間撮像された動画像の連続するフレームの全てについて、解析対象毎に算出することができる。換言すれば、位置変化算出部7は、動画像に示される解析対象が、上記連続する各フレームにおいて示す撮像領域内の位置を、位置変化として算出することができる。
【0070】
この位置変化の算出によって、解析対象が、撮像領域内で示す位置変化(移動量、移動方向)を把握することができる。
【0071】
位置座標記憶部8は、算出された位置変化を動体IDと対応付けて、解析対象毎に記憶するための記憶領域であり、例えば、揮発性又は不揮発性メモリ又はハードディスク等が適用される。
【0072】
ベクトル情報算出部9は、上記記憶された位置変化に基づいて、検出された解析対象が、撮像領域内で示す単位時間当たりの位置変化を、当該撮像領域内における位置及び方向を含むベクトル情報として動体ID毎に算出する。
【0073】
このベクトル情報の算出は、公知の技術であるため詳しい説明は省略するが、以下のように算出される。
【0074】
上述したフレームは、動画像を所定間隔(所定期間)で分割したもの(例えば、上述した、毎秒20フレーム等)である。そして、位置変化算出部7は、上述したように、解析対象が、撮像領域内で示す位置変化を、連続するフレームの全てについて算出し、位置座標記憶部8に記憶されている。
【0075】
そして、ベクトル情報算出部9は、まず、位置座標記憶部8に記憶された、解析対象が撮像領域内で示す位置変化を用いて、解析対象が撮像領域内で示す単位時間当たりの位置変化を算出する。
【0076】
具体的には、例えば、フレームが動画像を毎秒20フレームで分割されたものであった場合(以下単に、「フレームレートが20fps」とする。)には、ベクトル情報算出部9は、位置変化算出部7によって特定された、解析対象が基準となるフレームで示す撮像領域内の位置と、当該基準となるフレームから21番目にあたるフレーム間で示す撮像領域内の位置を算出することにより、解析対象が前記撮像領域内で示す単位時間当たりの位置変化を算出する。
【0077】
このように、フレームは、動画像を所定間隔で分割したものであるため、任意のフレーム間における解析対象が示す位置変化を算出することによって、解析対象の所定間隔当たりの位置変化を算出することができるのである。
【0078】
そして、ベクトル情報算出部9は、解析対象が、基準となるフレームで示す撮像領域内の位置を移動開始点と、当該基準となるフレームから20番目にあたるフレームで示す撮像領域内の位置を移動終了点として、解析対象が示す単位時間当たりのベクトル情報を算出する。
【0079】
このベクトル情報は、検出された解析対象が、前記撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含む情報として算出したものであり、この情報を、以下単に、ベクトル情報とする。また、上述した追跡処理において、このベクトル情報を算出するようにしてもよい。
【0080】
なお、上述した例では、単位時間を1秒として想定したが、これに限定されず、例えば、単位時間を任意の時間に設定することができる。
【0081】
例えば、この単位時間を5秒とした場合を考える。この場合、フレームレートが20fpsであった場合には、ベクトル情報算出部9が、位置変化算出部7によって特定された、解析対象が基準となるフレームで示す撮像領域内の位置と、当該基準となるフレームから100番目にあたるフレーム間で示す撮像領域内の位置を算出することにより、解析対象が前記撮像領域内で示す単位時間当たりの位置変化が算出されることとなる。
【0082】
ベクトル情報抽出部10は、上記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を、動体ID毎に抽出する。
【0083】
移動状態算出部11は、ベクトル情報抽出部10によって抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する。
【0084】
表示制御部12は、移動状態算出部11によって算出された代表的な方向を、外部へ表示させる。
【0085】
出力フレームメモリ13は、出力データを書込むための制御を行う。
【0086】
[2.動画像から検出された解析対象が、撮像領域内で示す位置変化を記憶するまでの画像解析装置SSの動作]
次に、動画像から検出された解析対象が、撮像領域内で示す位置変化を記憶するまで(主として動体検出部6、及び位置変化算出部7の動作)の画像解析装置SSの動作の詳細について、図2〜図7を用いて説明する。
【0087】
図2は、動画像から検出された解析対象が、撮像領域内で示す位置変化を記憶するまでの画像解析装置SSの動作の詳細を示すフローチャートである。
【0088】
図2に示すように、画像入力部1から出力される撮像時刻と対応付けられたフレームが入力されると(ステップS1)、フレームと、各フレームにおける撮像時刻が対応付けられて、入力画像格納部5に記憶される。
【0089】
さらに、このフレームには、上述した座標値が対応付けて記憶される。
【0090】
この座標値は、フレームに示される撮像領域内の所定の位置を、他の位置と識別するための値であり、例えばフレームの水平方向をX軸と、フレームの垂直方向をY軸とする平面座標系におけるX,Y座標で表わされる。
【0091】
ここで、入力画像格納部5に記憶されるフレームの一例について図3を用いて説明する。
【0092】
図3は、入力画像格納部5に記憶されるフレームの一例を示す図である。
【0093】
図3に示すフレームFは、店舗S1〜S4が設置されたショッピングモールSの所定の撮像領域内を、一定期間撮像された動画像から変換されたフレームのうち一のフレームである。
【0094】
このフレームFには、ショッピングモールSを利用する人等が示されており、全てのフレームで統一された上記座標値が設定されている。
【0095】
この座標値によって、フレームに示される解析対象(人や店舗等。以下代表して「人」と示す。)の位置を、X座標値及びY座標値で表わすことができる。従って、フレームに示されるそれぞれの人や店舗が、フレームに示される撮像領域内の位置を特定することができる。
【0096】
入力画像格納部5には、一定期間撮像された動画像に対応した複数のフレームが記憶されている。
【0097】
次に、動体検出部6は、解析対象として人をそれぞれ検出し、検出した人毎に動体IDを付与する(ステップS2)。例えば、図3のフレームFに示される人毎に動体IDが付与される。
【0098】
次に、位置変化算出部7は、上述した追跡処理(動体追跡)を行い、検出された人の位置変化を算出する。(ステップS3)。
【0099】
ここで、位置変化の算出例について、図4を用いて説明する。
【0100】
図4は、所定期間内における人の移動を示す概念図である。
【0101】
図4に示すように、例えば、人H1(解析対象の一例)が、位置としてV1s(x1、y1)からV10e(x11、y11)まで移動した場合(図の破線部で表わした矢印まで移動)を考える。
【0102】
この場合、位置変化算出部7は、人H1がV1s(x1、y1)に位置することが示されたフレームを基準として、人H1がV10e(x11、y11)に位置することが示されたフレームまで、人H1が各フレーム毎で示す位置を座標値で算出する。この算出された座標値が、人H1が、撮像領域内で示す位置変化となるのである。
【0103】
また、位置変化算出部7は、動画像に示される全ての人(すべての動体ID)に対して位置変化を算出することもできる。
【0104】
次に、位置座標記憶部8は、人H1に対して算出した位置変化を、人H1を示す動体IDと対応付けて位置座標DBとして記憶する(ステップS4)。
【0105】
図5は、位置座標DBに記憶される内容の一例を示す図である。
【0106】
図5に示す位置座標DBには、動体ID(例えば、人H1)と、動体IDが示す人H1が撮像領域内で示す位置としての位置座標、当該位置における時刻(フレームとして撮像された撮像時刻)が対応付けられて記憶される。
【0107】
このように、動体IDが示す人H1が撮像領域内で示す位置と、当該位置における時刻を対応付けて記憶することにより、人H1が、撮像領域内で示す位置変化を記憶することができる。
【0108】
なお、位置座標DBには、動画像に示される全ての人に対して算出された位置変化を記憶することもできる。
【0109】
そして、終了指示があった場合には(ステップS5:YES)、処理を終了し、終了指示がない場合には(ステップS5:NO)、ステップS1の処理へ移行する。
【0110】
[3.算出したベクトル情報に基づいて撮像領域の所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を表示させるまでの画像解析装置SSの動作]
次に、算出したベクトル情報に基づいて撮像領域の所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を表示させるまでの画像解析装置SSの動作の詳細について、図6〜図14を用いて説明する。
【0111】
図6は、算出したベクトル情報に基づいて撮像領域の所定範囲内に存在するベクトル情報の代表的な方向を表示させるまでの画像解析装置SSの動作の詳細を示すフローチャートである。
【0112】
図6に示すように、まず、ベクトル情報算出部9は、例えばユーザによる入力部2の指示により又は、予め設定された指示に基づいて、撮像された動画像から、人H1が、撮像領域内で示す所定期間分の位置変化を取得する(ステップS11)。
【0113】
具体的には、ベクトル情報算出部9は、位置座標DBを参照して、動体IDが、所定期間に示した位置座標を取得する。例えば、所定期間として1時間が設定されていた場合には、ベクトル情報算出部9は、動体IDと対応付けて記憶された時刻と、当該時刻と対応付けて記憶された位置座標を参照して、1時間分の位置座標を、所定期間分の位置変化として取得する。
【0114】
この所定期間分の位置変化は、一の動体IDに対して取得してもよいし、全ての動体IDに対して取得してもよい。
【0115】
なお、ベクトル情報算出部9は、上記取得する位置変化として、所定期間に区切られたものに限らず、例えば、動画像に示される全ての位置変化を取得するようにしてもよい。
【0116】
次に、ベクトル情報算出部9は、上記取得した所定期間分の位置変化に基づいて、単位時間当たりの位置変化を算出する(ステップS12)。
【0117】
ここで、単位時間当たりの位置変化の算出について、図4及び図7を用いて説明する。
【0118】
図7は、人H1の単位時間当たりの位置変化の算出例を示す概念図である。
【0119】
先に示した図4において、人H1が、所定期間の間に、V1s(x1、y1)からV10e(x11、y11)まで移動した場合の単位時間当たりの位置変化を算出する例を説明する。
【0120】
ここで、単位時間当たりの位置変化とは、基準となるフレームで人H1が示す位置を移動開始点とし、当該フレームから単位時間後(例えば1秒後)のフレームで人H1が示す位置を移動終了点とした場合の位置変化を示す。
【0121】
この算出方法について具体的には、人H1が、V1s(x1、y1)からV10e(x11、y11)まで移動した場合の単位時間当たりの位置変化を求めるには、V1s(x1、y1)を基準として、単位時間毎(例えば1秒間隔)のフレームにおける人H1の位置を特定すればよい。
【0122】
さらに具体的には、基準となるフレームで人H1が示す位置がV1s(x1、y1)であり、当該フレームから単位時間後のフレームで人H1が示す位置がV1e(x2、y2)であったとすると、単位時間当たりの位置変化は、移動開始点としてのV1s(x1、y1)から、移動終了点としてのV1e(x2、y2)までの位置変化であると算出される。
【0123】
次に、ベクトル情報算出部9は、V1e(x2、y2)を基準に、単位時間後のフレームにおける人H1の位置を特定し、単位時間当たりの位置変化を算出する。そして、ベクトル情報算出部9は、人H1が、V10e(x11、y11)に至るまでの単位時間当たりの位置変化を、順次算出する。
【0124】
このようにして算出された、人H1が、V1s(x1、y1)からV10e(x11、y11)まで移動した場合の単位時間当たりの位置変化の算出結果を、図7に示す。
【0125】
図7に示すように、人H1が、V1s(x1、y1)からV10e(x11、y11)まで移動した場合の単位時間当たりの位置変化として、まず、移動開始点としてV1s(x1、y1)から、単位時間後のフレームに示される人H1の位置を移動終了点としてV1e(x2、y2)とした、最初の単位時間当たりの位置変化が算出されている。
【0126】
次に、移動開始点をV2s(x2、y2)、移動終了点をV2e(x3、y3)とした次の単位時間当たりの位置変化が、そして、移動開始点をV3s(x3、y3)、移動終了点をV3e(x4、y4)とした次の単位時間当たりの位置変化が、そして、移動開始点をV10s(x10、y10)、移動終了点をV10e(x11、y11)とした最後の単位時間当たりの位置変化まで、単位時間当たりの位置変化が順次算出されている。
【0127】
なお、上述した例では、ある単位時間当たりの位置変化の移動終了点と、当該位置変化の次に算出される単位時間当たりの位置変化の移動開始点(例えば、V1eとV2s等)は同一の点を示すこととなるが、図7においては説明の便宜上、互いに接する点として表している。
【0128】
また、図7に示す例では、説明の便宜上、算出された単位時間当たりの位置変化を、所定のフレームに重畳して表示させている。
【0129】
また、位置変化算出部7は、動画像に示される全ての人(すべての動体ID)に対して位置変化を算出することもできる。
【0130】
次に、ベクトル情報算出部9は、上記算出された単位時間当たりの位置変化を、撮像領域内における位置及び方向を含むベクトル情報として算出する(ステップS13)。
【0131】
このベクトル情報は、例えば、移動開始点がV1s(x1、y1)、移動終了点がV1e(x2、y2)である単位時間当たりの位置変化に着目すると、
ベクトル情報V1は、一般的に、(x2−x1、y2−y1)で算出されることが知られている。ここで、上記移動開始点は所謂ベクトルの始点であり、上記移動終了点は所謂ベクトルの終点である。
【0132】
このベクトル情報V1は、大きさと向きを持つ量であるため、人H1が撮像領域内で示す単位時間当たりの位置変化を把握することができる。
【0133】
そして、ベクトル情報算出部9は、算出された単位時間当たりの位置変化の数量に対応した数量のベクトル情報を算出する。
【0134】
ここで、ベクトル情報の算出結果について、図8を用いて説明する。
【0135】
図8は、人H1の単位時間当たりの位置変化の数量に対応した数量のベクトル情報の算出結果を示す概念図である。
【0136】
図8に示すように、移動開始点をV1s(x1、y1)、移動終了点をV1e(x2、y2)としたベクトル情報V1を最初のベクトル情報として、移動開始点をV2s(x2、y2)、移動終了点をV2e(x3、y3)としたベクトル情報V2、移動開始点をV3s(x3、y3)、移動終了点をV3e(x4、y4)としたベクトル情報V3が、移動開始点をV10s(x10、y10)、移動終了点をV10e(x11、y11)としたベクトル情報V10まで順次算出される。
【0137】
なお、上述した例では、あるベクトル情報の移動終了点と、当該ベクトル情報の次に算出されるベクトル情報の移動開始点は同一の点を示すこととなるが、図8においては説明の便宜上、互いに接する点として表している。
【0138】
なお、図8に示す例では、算出されたベクトル情報を、所定のフレームに重畳して表示させている。
【0139】
上述したように、ベクトル情報は、移動開始点及び移動終了点(位置)を含む情報である。従って、移動開始点及び移動終了点を、フレームの座標値の対応する位置に配置させることによって、算出されたベクトル情報を、所定のフレームの対応する位置に重畳して表示させることができる。
【0140】
このように表示させることによって、撮像領域内における人の行動を視覚的に把握させ、解析結果に対する把握性の向上等が図られる。
【0141】
また、ベクトル情報V1の大きさは、一般的に、((x2−x1)2+(y2−y1)2)1/2で算出されることが知られている。
【0142】
このフレームに示されるベクトル情報V1の大きさと、撮像領域内における現実(実世界)の大きさと、の相関を算出することによって、フレームに示されるベクトル情報V1の大きさが、撮像領域内においてどの程度の大きさを示すのか把握することができる。
【0143】
即ち、フレームで示されるX,Y座標値の値を、実世界の大きさであるメートル(m)等に変換することによって、フレームに示されるベクトル情報V1の大きさが、撮像領域内においてどの程度の大きさを示すのか把握することができる(即ち、撮像領域内における現実の距離を把握することができる)。
【0144】
そして、ベクトル情報算出部9は、動画像に示される全ての人(すべての動体ID)に対して、ステップS11で設定した所定期間分、又は入力される動画像が撮像された一定期間分のベクトル情報を算出することもできる。
【0145】
図9は、動画像に示される全ての人に対してベクトル情報を算出した場合の算出結果を示す概念図である。
【0146】
図9では、動画像に示される全ての人に対してベクトル情報を算出し、所定のフレームに重畳して表示させている。
【0147】
図9に示すように、画像に示される全ての人に対してベクトル情報を算出し、所定のフレームに重畳して表示させた場合には、解析対象の増加に伴って表示されるベクトル情報の数も増加するため、各解析対象に対応した個別のベクトル情報の向きや大きさ、又はベクトル情報の数量等を識別することが困難となり、解析結果に対する把握性が著しく低下してしまう。
【0148】
そこで本実施形態では、上記撮像領域の所定範囲内に存在するベクトル情報を抽出し、この抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出し、表示させるようになっている。
【0149】
具体的には、ユーザによる入力部2の指示により又は、予め設定された指示に基づいて、上記撮像領域内の所定範囲内を指定する命令を受け付けると、ベクトル情報抽出部10は、当該撮像領域内の所定範囲内に存在するベクトル情報を抽出する(ステップS14)。
【0150】
さらに具体的には、例えば、当該撮像領域内の所定範囲内として、図9の矩形領域20が指定(例えば、矩形領域20の定点を示す座標値を入力され、又は表示画面上に表示されるポインタ等で矩形領域を描かせる等により)されたとする。すると、ベクトル情報抽出部10は、座標値を参照して、矩形領域20に存在するベクトル情報を抽出する。
【0151】
図10は、矩形領域20に存在するベクトル情報を抽出した抽出例を示す概念図である。
【0152】
図10に示すように、矩形領域20に存在するベクトル情報としてベクトル情報V1〜Vnが抽出されている。
【0153】
なお、実際には、識別不可能なほど多数のベクトル情報が抽出される場合もあるが、図10では説明の便宜上、ベクトル情報の数量を限定して表記する。また、ベクトル情報の長さは、解析対象である人の単位時間当たりの移動距離に応じて異なるものであるが、図10では説明の便宜上、ベクトル情報の長さは略同一で表記する。
【0154】
また、上述した例と同様に全てのベクトル情報には、移動開始点及び移動終了点が含まれているが、図10では説明の便宜上、代表するベクトル情報(ベクトル情報V1及びベクトル情報Vn)にのみその図示を行い、その他の図示を省略する。
【0155】
このベクトル情報の抽出方法は、種々の方法を適用することができ、例えば、矩形領域20に、ベクトル情報の移動開始点が存在する場合に、ベクトル情報抽出部10は、当該ベクトル情報を抽出するようにしてもよい。
【0156】
具体的に、ベクトル情報V1を例に説明すると、ベクトル情報V1の移動開始点V1Sが矩形領域20に含まれている場合に、ベクトル情報抽出部10は、当該ベクトル情報を抽出する。
【0157】
これにより、矩形領域20にベクトル情報の移動開始点のみが存在する場合(即ち、これから矩形領域20から退出(通過)する動きを示すベクトル情報)についても、ベクトル情報抽出部10は、当該ベクトル情報を抽出するため、矩形領域20から退出する解析対象の動きを正確に解析することができる。
【0158】
また、矩形領域20に、ベクトル情報の移動終了点が存在する場合に、ベクトル情報抽出部10は、当該ベクトル情報を抽出するようにしてもよい。
【0159】
具体的に、ベクトル情報V1の移動終了点V1eが矩形領域20に含まれている場合に、ベクトル情報抽出部10は、当該ベクトル情報を抽出する。
【0160】
これにより、矩形領域20にベクトル情報の移動終了点のみが存在する場合(即ち、矩形領域20へ侵入する動きを示すベクトル情報)についても、ベクトル情報抽出部10は、当該ベクトル情報を抽出するため、矩形領域20から侵入する解析対象の動きを正確に解析することができる。
【0161】
次に、移動状態算出部11は、矩形領域20に存在するベクトル情報に含まれる方向に基づいて、当該ベクトル情報の代表的な方向を算出する(ステップS15)。
【0162】
繰り返すが、ベクトル情報は、上述したように解析対象の移動(動き)に応じて様々な方向を示すこととなる。このような解析対象の動きに応じたベクトル情報を表示させると、各解析対象に対応した個別のベクトル情報を識別することが困難となる原因となる。
【0163】
そこで、移動状態算出手段11は、矩形領域20に存在するベクトル情報の代表的な方向を算出するのである。
【0164】
以下に、ステップS15の処理の詳細について説明する。
【0165】
本実施形態では、移動状態算出部11は、第1の座標系(小領域モデル)を用いて、この代表的な方向を算出する。
【0166】
ここで、第1の座標系について、図11を用いて説明する。
【0167】
図11は、第1の座標系を示す図である。
【0168】
図11に示すように、第1の座標系Tは、原点0を中心に、原点0から背離する方向を示す方向軸a〜h(本願の原点を中心に所定の方向を示す方向軸の一例)が、原点0を中心に互いに45°(本願の所定の角度の一例)離れて8つ(本願の複数の一例)設けられている。即ち、第1の座標系Tは、平面座標系を8分割した座標軸である。
【0169】
そして、移動状態算出部11は、矩形領域20に存在するベクトル情報に含まれる方向が、第1の座標系Tにおける何れかの方向軸a〜hが示す方向と近似するかを判定する。
【0170】
この近似を判定する方法としては種々の方法を適用することができるが、その一例について、図12を用いて説明する。
【0171】
図12は、近似を判定する方法を示す概念図である。
【0172】
上記近似の判定に際しては、移動状態算出部11は、一の方向軸が示す方向と近似する範囲について予め定められたデータを参照する。
【0173】
この近似する範囲としては、例えば、原点0を中心として、一の方向軸を仮想的に所定の角度の範囲で回転させた場合に、当該仮想的に回転させた方向軸が、当該所定の角度の範囲においてそれぞれ示す全ての方向が、近似する範囲として定められる。
【0174】
具体的には、図12に示すように、一の方向軸として方向軸aが示す方向と近似する範囲については、原点0を中心として、方向軸aを仮想的に一の方向へ22.5°、逆方向へ22.5°回転(即ち、原点0を中心に方向軸aを45°の範囲内で回転)させた場合に、当該仮想的に回転させた方向軸aが、一の方向へ22.5°、逆方向へ22.5°回転させた場合にそれぞれ示す全ての方向が、方向軸aが示す方向と近似する範囲にあると判定される。すなわち、方向軸aが示す方向と近似する範囲は、図12の斜線部で示した範囲が該当することとなる。
【0175】
このように、移動状態算出部11は、第1の座標系Tを用いて、一又は複数の代表的な方向を算出することによって、ベクトル情報の移動開始点を基準に近似する範囲を判定するため装置(CPU等)の処理負担を軽減しつつ、撮像領域の所定範囲内から退出する解析対象の動きを正確に解析することができる。
【0176】
以下、上述した方向軸が示す方向と近似する範囲を、単に「近似する範囲」と称する。
【0177】
なお、図12に示す例では、方向軸b〜方向軸hが示す方向と近似する範囲についても、方向軸aと同様に定められている。
【0178】
また、この近似する範囲の設定方法は上述した例に限られず、任意に設定することができる。具体的には、一の方向軸と他の方向軸に対して、近似する範囲を異なるように設定してもよい。
【0179】
また、上述した例では、平面座標系を8分割した方向軸a〜方向軸hを用いて近似する範囲を判定するようになっているが、これに限られず、例えば、平面座標系を任意の方向軸で分割した座標軸を用いるようにしてもよい(例えば、4分割、6分割等)。
【0180】
そして、ステップS15の処理として、移動状態算出部11は、矩形領域20に存在するベクトル情報に含まれる移動開始点を、第1の座標系Tの原点に仮想的に移動する。そして、移動状態算出部11は、移動させたベクトル情報に含まれる方向が、第1の座標系Tにおける何れかの方向軸a〜hの近似する範囲に該当するか判定する。
【0181】
ここで、図13を用いて、移動状態算出部11が、移動させたベクトル情報に含まれる方向が、第1の座標系Tにおける何れかの方向軸の近似する範囲に該当するかを判定した判定結果について説明する。
【0182】
図13は、移動させたベクトル情報に含まれる方向が、第1の座標系Tにおける何れかの方向軸の近似する範囲に該当するかを判定した判定結果を示す図である。
【0183】
図13に示すように、ベクトル情報V1の移動開始点V1Sが、原点0に仮想的に移動され、ベクトル情報V1に含まれる方向が、方向軸fの近似する範囲に含まれている。
【0184】
従って、移動状態算出部11は、ベクトル情報V1は、方向軸fが示す方向に近似すると判断する。
【0185】
そして、移動状態算出部11は、矩形領域20に存在するベクトル情報について、順次同様の判断を行う。
【0186】
そして、ステップS15の最後の処理として、移動状態算出部11は、矩形領域20に存在するベクトル情報の代表的な方向を算出する。
【0187】
代表的な方向の算出方法については、種々の方法を適用することができる。
【0188】
具体的には、例えば、移動状態算出部11は、ベクトル情報と近似すると判断された方向軸が示す方向のうち、最も多くのベクトル情報と近似すると判断された方向軸が示す方向を、代表的な方向とすることができる。
【0189】
そして、移動状態算出部11は、矩形領域20に存在する全てのベクトル情報の代表的な方向を算出した場合には(ステップS16:YES)、表示制御部12は、矩形領域20に存在するベクトル情報の代表的な方向を表示する(ステップS17)。
【0190】
ここで、矩形領域20に存在するベクトル情報の代表的な方向を表示した表示例について図14を用いて説明する。
【0191】
図14は、矩形領域20に存在するベクトル情報の代表的な方向を表示した表示例を示す図である。
【0192】
図14に示すように、矩形領域20には、矩形領域20に存在するベクトル情報の代表的な方向が表示されている。この矩形領域20に表示される方向は、上述した代表的な方向の算出方法として、第1の座標系Tの方向軸のうち、最も多く近似すると判断された方向軸(図13の方向軸b)が示す方向が表示されたものである。
【0193】
以下、このように判定された方向軸を、「代表的な方向を示す方向軸」と称する(図13の方向軸b)。また、このように算出された代表的な方向を、単に「代表的な方向」と称する。
【0194】
この表示された代表的な方向は、矩形領域20における動画像に示された人の動きのうち、最も多くの人が示した動きが示されている。
【0195】
ここで、矩形領域20は、店舗S1の入口付近の位置を示している。そして、表示された代表的な方向は、この店舗S1に侵入する方向を示している。
【0196】
従って、この表示結果から、店舗S1に来店する人が多く、店舗S1は人気がある店舗であることがわかる。
【0197】
また移動状態算出部11は、矩形領域20に存在する全てのベクトル情報の代表的な方向を算出していない場合には(ステップS16:NO)、ステップS11の処理へと移行する。
【0198】
また、この代表的な方向の表示態様は、種々の形態を適用することができる。
【0199】
図14で示す例では、代表的な方向として、最も多くのベクトル情報と近似すると判断された方向軸のみを表示させるようにしたが、2番目又は3番目に多くベクトル情報と近似すると判断された方向軸も併せて表示させるようにしてもよい。
【0200】
即ち、矩形領域20に表示される代表的な方向の数量は任意に設定することができるのである。
【0201】
また、代表的な方向を示す方向軸に属するベクトル情報の数量に応じて、代表的な方向の表示態様を変化させるようにしてもよい。
【0202】
この代表的な方向を示す方向軸に属するベクトル情報の数量とは、移動状態算出部11によって、代表的な方向であると判定された方向軸に、近似すると判定されたベクトル情報の数量をいう。
【0203】
ここで、代表的な方向を示す方向軸に属するベクトル情報の数量に応じて、代表的な方向の表示態様を変化させた場合の表示結果について、図15を用いて説明する。
【0204】
図15は、代表的な方向を示す方向軸に属するベクトル情報の数量に応じて、代表的な方向の表示態様を変化させた場合の表示結果を示す概念図である。
【0205】
図15に示すように、表示制御部12は、代表的な方向を示す方向軸に属するベクトル情報の数量に応じて、1〜5の5段階で、代表的な方向30の太さを変化させて表示させることもできる。
【0206】
また、代表的な方向を示す方向軸に属するベクトル情報に含まれる位置変化の大きさに応じて、代表的な方向の表示態様を変化させるようにしてもよい。
【0207】
この代表的な方向を示す方向軸に属するベクトル情報に含まれる位置変化の大きさとは、移動状態算出部11によって、代表的な方向であると判定された方向軸に、近似すると判定されたベクトル情報に含まれる位置変化の大きさをいう。
【0208】
かかる位置変化の大きさは、ベクトル情報に含まれる移動開始点及び移動終了点が示す座標値に基づいて、把握することが可能である。
【0209】
そこで、表示制御部12は、代表的な方向であると判定された方向軸に、近似すると判定されたベクトル情報に含まれる位置変化の大きさに基づいて、代表的な方向の表示態様を変化させる。
【0210】
ここで、代表的な方向を示す方向軸に属するベクトル情報に含まれる位置変化の大きさに応じて、代表的な方向の表示態様を変化させた場合の表示結果について、図16を用いて説明する。
【0211】
図16は、代表的な方向を示す方向軸に属するベクトル情報に含まれる位置変化に応じて、代表的な方向の表示態様を変化させた場合の表示結果を示す概念図である。
【0212】
図16に示すように、表示制御部12は、代表的な方向を示す方向軸に属するベクトル情報に含まれる位置変化に応じて、1〜5の5段階で、代表的な方向40の長さを変化させて表示させることもできる。
【0213】
この位置変化の大きさは各ベクトル情報の位置変化の大きさを積算した値を適用してもよいし、各ベクトル情報の位置変化の大きさの平均を算出した値を適用してもよい。
【0214】
また、代表的な方向を示す方向軸に属するベクトル情報の数量、及び、当該ベクトル情報に含まれる位置変化の大きさに応じて、代表的な方向の表示態様を変化させるようにしてもよい。
【0215】
図17は、代表的な方向を示す方向軸に属するベクトル情報の数量、及び、当該ベクトル情報に含まれる位置変化の大きさに応じて、代表的な方向の表示態様を変化させた場合の表示結果を示す概念図である。
【0216】
図17に示すように、表示制御部12は、代表的な方向を示す方向軸に属するベクトル情報の数量、及び、当該ベクトル情報に含まれる位置変化の大きさに応じて、代表的な方向50の太さ及び長さを変化させて表示させることもできる。
【0217】
また、上述した例では、移動状態算出部11は、矩形領域20に存在するベクトル情報に基づいて上記代表的な方向を算出したが、フレーム(撮像領域内)を所定の大きさの領域に分割する分割領域に存在するベクトル情報に基づいて、前記一又は複数の代表的な方向を、各分割領域毎に算出し、算出された各分割領域に対応する一又は複数の代表的な方向を、当該各分割領域に表示させるようにしてもよい。
【0218】
ここで、移動状態算出部11が、分割領域に存在するベクトル情報に基づいて上記代表的な方向を算出した場合の算出結果について、図18を用いて説明する。
【0219】
図18は、分割領域に存在するベクトル情報に基づいて一又は複数の代表的な方向を算出し、算出された各分割領域に対応する一又は複数の代表的な方向を、当該各分割領域に表示した場合の表示例を示す図である。
【0220】
図18に示すように、表示部4に示される表示画像60には、フレームを予め定められた複数の分割領域61に存在するベクトル情報に基づいて算出された代表的な方向62及び63等が表示されている。この分割領域61は、フレームを所定の大きさの複数の分割領域で分割されたものである。
【0221】
なお、図18においては、分割領域61以外の分割領域の部材番号については、説明の便宜上、その図示を省略している。また、代表的な方向については、図18において矢印で表示しているが、代表的な方向62及び63以外の代表的な方向の部材番号については、説明の便宜上、その図示を省略している。
【0222】
この表示例から、例えば、代表的な方向62は、店舗S1に侵入する方向を示しているため、店舗S1に来店する人が多く、店舗S1は人気がある店舗であることがわかる。また、代表的な方向63は、店舗S2の前を通過する方向を示しているため、店舗S2に来店する人は少なく、店舗S1はあまり人気がない店舗であることがわかる。
【0223】
また、移動状態算出部11は、中領域を参照して、上述した代表的な方向を算出することもできる。
【0224】
この中領域とは、上述したフレームを予め複数の分割領域に分割された場合の1つの分割領域を小領域とすると、所定の数の前記小領域を一つの領域としてまとめたものをいう。そして、この中領域には、中領域毎に算出される代表的な方向の数量が予め設定されており、移動状態算出部11は、各中領域に設定された代表的な方向の数量に応じて、前記中領域の属する小領域毎に、一又は複数の代表的な方向を算出し、前記算出された中領域の属する小領域毎に、一又は複数の代表的な方向を、当該小領域に表示させるようになっている。
【0225】
例えば、動画像で示す人に対して上述したベクトル情報を算出した場合、算出されるベクトル情報に含まれる方向は、分散したものとなる場合がある。また、撮像領域の範囲内では、このベクトル情報が密集する場所や、まったく算出されない場所がある。即ち、算出されるベクトル情報にばらつきが生じることとなる。
【0226】
そして、このようなベクトル情報に基づいて代表的な方向を算出すると、この代表的な方向においても、同様にばらつきが生じる。
【0227】
そこで、動画像全体で万遍なくベクトル情報が算出されるように、上記中領域を設定し、中領域毎に算出される代表的な方向の数量を予め設定するようになっている。
【0228】
ここで、中領域の設定例について、図19を用いて説明する。
【0229】
図19は、中領域の設定例を示す概念図である。
【0230】
図19に示すように、表示部4に示される表示画像70には、フレームを予め定められた複数の中領域71と、中領域71に算出される一又は複数の代表的な方向の数量72として1がそれぞれ設定されている。この中領域71は、上述したように所定の数の前記小領域を一つの領域としてまとめたものであり、例えば、図18に示す小領域61と同一の大きさの領域を、4つまとめた大きさ示すものである(即ち、中領域71は、小領域61の4倍の大きさを示す)。そして、表示画像70にあっては、20の中領域が設定されている。
【0231】
なお、図19においては、中領域71以外の中領域の部材番号、及び中領域71に算出される代表的な方向の数量72以外の数量の部材番号については、説明の便宜上、その図示を省略している。
【0232】
この前記中領域に属する小領域毎に、一又は複数の代表的な方向を算出する方法は、種々の方法を適用することができる。
【0233】
具体的には、例えば、ある中領域に着目し、当該中領域に属する小領域毎に最も多くのベクトル情報と近似すると判断された方向軸を抽出する。そして、小領域毎に抽出された各方向軸のうち、最も多くのベクトル情報と近似すると判断された方向軸を基準に、又は3番目に多くベクトル情報と近似すると判断された方向軸を、中領域に算出される代表的な方向の数量に応じて表示するようにしてもよい(すなわち、方向軸に近似すると判断されたベクトル情報の数量が、大きいものから順番に表示させる)。
【0234】
また、中領域に属する小領域において抽出されるベクトル情報が一定の数量以下の場合には、中領域に算出される代表的な方向を表示させないようにしてもよい。
【0235】
また、中領域に属する小領域において抽出されるベクトル情報が、一定の数量以上の場合には、抽出されたベクトル情報の数量の比に応じて、中領域毎に、中領域に算出される代表的な方向を決定するようにしてもよい。そして、このような算出方法を適用して、移動状態算出部11が、前記中領域に属する小領域毎に、一又は複数の代表的な方向を算出した場合の算出結果について、図20を用いて説明する。
【0236】
図20は、移動状態算出部11が、中領域を参照して、前記中領域に属する小領域毎に、一又は複数の代表的な方向を算出した場合の算出結果を表示した場合の表示例を示す図である。
【0237】
図20に示すように、表示部4に示される表示画像80には、中領域81に算出される代表的な方向の数量82に対応した数量の一又は複数の代表的な方向が表示されている。すなわち、表示画像80において、中領域に算出される代表的な方向の数量が0のものについては代表的な方向が表示されておらず、中領域に算出される代表的な方向の数量が1のものについては1つの代表的な方向が、中領域に算出される代表的な方向の数量が2のものについては2つの代表的な方向が、中領域に算出される代表的な方向の数量が3のものについては3つの代表的な方向が、それぞれ表示されている。また、実際の表示画像には、中領域、及び中領域に算出される代表的な方向の数量は表示されず、代表的な方向のみ表示されるように設定できる。また、上述した撮像領域の所定範囲(上述した、矩形領域20等)として、少なくとも2以上の異なる大きさの撮像領域の所定範囲を設定し、当該領域に存在するベクトル情報に含まれる方向に基づいて代表的な方向を算出させることもできる。
【0238】
ここで、2以上の異なる大きさの撮像領域の所定範囲を設定し、当該領域に存在するベクトル情報に含まれる方向に基づいて代表的な方向を算出させた場合の表示例について図21を用いて説明する。
【0239】
図21は、2以上の異なる大きさの撮像領域の所定範囲を設定し、当該領域に存在するベクトル情報に含まれる方向に基づいて代表的な方向を算出させた場合の表示例を示す図である。
【0240】
図21に示すように、表示部4に示される表示画像90には、商品が陳列された陳列棚91を中心に、左右方向に通路92及び通路93が表示されている。
【0241】
そして、陳列棚91の正面に矩形領域94(異なる大きさの撮像領域の所定範囲の一例)が、通路92の入口に矩形領域95(異なる大きさの撮像領域の所定範囲の一例)が、通路93の入口に矩形領域96(異なる大きさの撮像領域の所定範囲の一例)が、それぞれ設定されている。
【0242】
さらに、矩形領域94には矩形領域94に存在するベクトル情報に含まれる方向に基づいて算出された代表的な方向96が、矩形領域95には矩形領域95に存在するベクトル情報に含まれる方向に基づいて算出された代表的な方向97が、矩形領域96には矩形領域96に存在するベクトル情報に含まれる方向に基づいて算出された代表的な方向98が、それぞれ表示されている。
【0243】
この表示画像90に表示される代表的な方向96〜98には、例えば、陳列棚91、通路92、又は通路93に向かってくる人の人数や位置変化の大きさ、及び通過する人の人数や位置変化の大きさが示されている。
【0244】
そして、代表的な方向96から、陳列棚91に向かってくる人の人数が多いことが示されれば、陳列棚91に陳列されている商品に興味を持つ人が多いことが把握される。
【0245】
また、代表的な方向96から、陳列棚91に向かってくる人の位置変化が大きいことが示されれば、少しでも早く陳列棚91に到着したいと考える人が多いことが把握される。
【0246】
また、代表的な方向96から、陳列棚91を通過する人の人数が多いことが示されれば、陳列棚91に陳列されている商品は、人気がない商品であることが把握される。
【0247】
さらに、代表的な方向97又は代表的な方向98から、通路92又は通路93の奥へ向かう人の人数が多いことが示されれば、通路92又は通路93の奥には、人が興味を持つ施設等が存在することが把握される。
【0248】
なお、これらの2以上の異なる大きさの撮像領域の所定範囲は、ユーザの入力部2の操作に基づいて任意に設定することもできる。
【0249】
また、撮像領域の所定範囲には、属性ラベルを設定することもできる。
【0250】
この属性ラベルとは、撮像領域の所定範囲について付与される情報であり、例えば、撮像領域の所定範囲を他の範囲と識別するための識別情報や、撮像領域の所定範囲を特徴づける情報等が該当する。
【0251】
ここで、撮像領域の所定範囲に、属性ラベルを設定した場合の例を、図22を用いて説明する。
【0252】
図22は、2以上の撮像領域の所定範囲に、属性ラベルを設定した場合の例を示す図である。
【0253】
図22に示すように、矩形領域100(2以上の撮像領域の所定範囲の一例)には、属性ラベル105が設定されている。なお、矩形領域100が示す撮像領域の所定範囲は、店舗において、低価格(価格が安い)の商品が陳列された場所を示している。そこで、属性ラベル105は、撮像領域の所定範囲を特徴づける情報として、「低価格」との情報が設定されている。
【0254】
同様に、矩形領域101〜矩形領域104には、属性ラベル106〜属性ラベル109が設定されている。
【0255】
属性ラベル106には、中価格(例えば、ユーザが購入しやすい手頃な価格)の商品が陳列された場所を示す「中価格」との情報が、属性ラベル107には、高価格(例えば、高価な商品)の商品が陳列された場所を示す「高価格」との情報が、属性ラベル108には、新しく発売された商品が陳列された場所を示す「新製品」との情報が、属性ラベル109には、店舗の入り口又は測定開始地点を示す「トリガ」との情報がそれぞれ設定されている。
【0256】
このように設定された属性ラベル105〜109は、例えば、表示部4に示される表示画像に表示される。この属性ラベル105〜109を見たユーザは、撮像領域の所定範囲の特徴を容易に把握することができる。
【0257】
また、上述した例では、移動状態算出部11は、第1の座標(小領域モデル)を用いて、この代表的な方向を算出するようになっているが、第2の座標系を用いて、代表的な方向を算出するようにしてもよい。
【0258】
ここで、第2の座標系について、図23を用いて説明する。
【0259】
図23は、第2の座標系を示す図である。
【0260】
図23に示すように、第2の座標系Uは、原点0を中心に、原点0を示す方向を示す方向軸a〜h(本願の所定の方向から原点を示す方向軸の一例)が、原点0を中心に互いに45°(本願の所定の角度の一例)離れて8つ(本願の複数の一例)設けられている。
【0261】
そして、移動状態算出部11は、撮像領域の所定範囲(例えば、矩形領域20)に存在するベクトル情報に含まれる移動終了点を、第2の座標系Uの原点に仮想的に移動する。そして、移動状態算出部11は、移動させたベクトル情報に含まれる方向が、第2の座標系Uにおける何れかの方向軸a〜hの近似する範囲に該当するか判定する。
【0262】
このように、移動状態算出部11は、第2の座標系Uを用いて、代表的な方向を算出することによって、ベクトル情報の移動終了点を基準に近似する範囲を判定するため、装置の処理負担を軽減しつつ、撮像領域の所定範囲内へ侵入する解析対象の動きを正確に解析することができる。
【0263】
また、上述した例では、解析対象が示す単位時間当たりのベクトル情報を、移動開始点及び移動終了点を結ぶ直線で算出したが、移動開始点又は移動終了点を通過する近似曲線(回帰直線)で算出するようにしてもよい。
【0264】
ここで、解析対象が示す単位時間当たりのベクトル情報を、近似曲線で算出した場合について、図24を用いて説明する。
【0265】
図24は、解析対象が示す単位時間当たりのベクトル情報を、近似曲線で算出した場合を示す概念図である。
【0266】
まず、解析対象が示す単位時間当たりのベクトル情報を算出するに際して、単位時間を5秒として想定する。
【0267】
図24に示すように、人H1が、位置としてV1s(x1、y1)からV5e(x6、y6)まで、5秒間で移動した場合(図の破線部で表わした矢印まで移動)を考える。この時、基準となるフレームで人H1が示す位置がV1s(x1、y1)であり、当該フレームから秒後のフレームで人H1が示す位置がV1e(x2、y2)と、さらに、1秒間隔で、人H1が示す位置がV3s(x3、y3)、V4s(x4、y4)、V5s(x5、y5)とそれぞれ特定されたものとする。なお、ある時間当たりの位置変化の移動終了点と、当該位置変化の次に算出される単位時間当たりの位置変化の移動開始点(例えば、V1eとV2s等)は同一の点を示す場合もあることは、図7を用いて既に説明したため、その説明を省略する。
【0268】
ここで、単位時間を5秒間とした場合のベクトル情報は、移動開始点V1s(x1、y1)又は、移動終了点V5e(x6、y6)の何れかを通過する、V1s(x1、y1)からV5e(x6、y6)における回帰直線を算出することによって求めることができる。
【0269】
この回帰直線の算出方法は公知の技術であるため、詳しい説明は省略するが、所謂、最小二乗法によって算出することができる。
【0270】
具体的には、n個の2変数データ(x1、y1)、(x2、y2)、・・・、(xi、yi)、・・・、(xn、yn)における回帰直線は、回帰直線を式(1)とすると、式(2)及び式(3)を式(1)へ代入することにより算出される。
【0271】
【数1】
【0272】
【数2】
【0273】
【数3】
本実施例においては、V1s(x1、y1)からV5e(x6、y6)における値を式(2)及び式(3)へ代入し、a及びbを算出し、式(1)の回帰直線を算出する。
【0274】
そして、こうして算出された回帰直線を、解析対象が示す単位時間当たりのベクトル情報として適用するようにしてもよい。
【0275】
このように単位時間当たりのベクトル情報を回帰直線で算出することによって、単位時間当たりのベクトル情報の移動開始点から移動終了点の間における位置変化も鑑みて当該ベクトル情報が算出されるため、より正確に解析対象の動きを把握することができる。
【0276】
なお、以上説明した実施形態は特許請求の範囲にかかる発明を限定するものではない。そして、上記実施形態の中で説明されている構成の組み合わせ全てが発明の課題解決に必須の手段であるとは限らない。
【0277】
また、図2及び図6に示すフローチャートに対応するプログラムをフレキシブルディスク又はハードディスク等の記録媒体に記録しておき、あるいはネットワークNTを介して取得して記憶しておき、これらを汎用のパーソナルコンピュータ等に読み出して実行させることにより、当該パーソナルコンピュータ等を上記実施形態にかかる画像解析装置SSのCPUが示す動作と同様に機能させることも可能である。
【0278】
以上説明したように、本実施形態においては、動画像として撮像された解析対象の動きを解析する画像解析装置SSは、撮像領域内を一定期間撮像した動画像を記憶する入力画像格納部5と、前記動画像に示される前記解析対象を検出する動体検出部6と、前記検出された解析対象が、前記撮像領域内で示す位置変化を算出し、動体IDと対応付けて位置座標記憶部8へ記憶する位置変化算出部7と、前記記憶された位置変化に基づいて、前記検出された解析対象が、前記撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として動体ID毎に算出するベクトル情報算出部9と、前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出部10と、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出部11と、前記算出された代表的な方向を、外部へ表示させる表示制御部12と、を備えるように構成したため、解析対象の動きをより正確に解析し、解析結果に対する把握性を向上させることができる。
【0279】
なお、上記実施形態においては、本願を画像解析装置SSに対して適用した場合の例を示したが、その他にも例えば、パーソナルコンピュータ又は家庭用等の電子機器等に対しても適用可能である。
【符号の説明】
【0280】
1 画像入力部
2 入力部
3 制御部
4 表示部
5 入力画像格納部
6 動体検出部
7 位置変化算出部
8 位置座標記憶部
9 ベクトル情報算出部
10 ベクトル情報抽出部
11 移動状態算出部
12 表示制御部
13 出力フレームメモリ
SS 画像解析装置
【技術分野】
【0001】
本発明は、画像に表示される物体を解析する装置及び方法等の技術分野に関する。
【背景技術】
【0002】
従来から、所定の施設(交通機関、商業施設、公共機関等)を利用する人を動画像として撮像し、当該動画像に示される人の動き(流れ)を、追跡処理を適用して解析し、人為的な手段を介さずに人の行動を把握することが行われている。
【0003】
このような追跡処理の一例としては、動画像を構成するフレームのうち基準となるフレームに示される解析対象をラベリングにより特定し、特定した解析対象が他のフレームで示す動きを追跡する追跡処理が知られている(例えば、特許文献1参照)。
【0004】
そして、この追跡処理の結果を、解析対象毎の移動方向を示す動線又はベクトルとして表示することにより、人の行動を視覚的に把握させ、解析結果に対する把握性(把握や認識のし易さ)の向上等を図る技術が開示されている。
【0005】
例えば、特許文献2では、指定したエリア内の監視情報を動線として表示する技術が開示されている。
【0006】
また、特許文献3では、空間内の各通行人それぞれの通行軌跡を求め、所定空間の所定時間内に通行した通行人全ての通行軌跡を表示する技術が開示されている。
【0007】
また、特許文献4では、画像上に人流を示す矢印(ベクトル)を表示する技術が開示されている。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特公平6−28449号公報
【特許文献2】特開2003−101994号公報
【特許文献3】特開2005−346617号公報
【特許文献4】特開2007−243342号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、上記特許文献1〜4で開示される技術では、動画像に示される全ての解析対象に応じたベクトル又は動線が表示される。従って、解析対象の増加に伴って表示される動線又はベクトルの数も増加するため、多くの解析対象が表示される場合には、各解析対象に対応した個別のベクトルの向きや大きさ、又は動線の軌跡や数量等を識別することが困難となり、解析結果に対する把握性が著しく低下してしまう。
【0010】
さらに、特許文献3で開示される動線を表示する技術では、解析対象が移動する方向や数量を把握することが困難であるため、解析対象が示す動きを詳細に把握することができない(解析対象の動的要素を表現するには欠けたものとなる)。
【0011】
加えて、特許文献4で開示されるベクトルを表示する技術では、解析対象の動きの方向を示すベクトルの向きが極めて限定的であるため、解析対象が示す動作を詳細に把握することができない(ベクトルの方向が一意に決定されてしまう)。
【0012】
そこで、本発明は、上記各問題点に鑑みてなされたものであり、その目的の一例は、解析対象の動きをより正確に解析し、解析結果に対する把握性を向上させる装置及び方法等を提供することである。
【課題を解決するための手段】
【0013】
上記課題を解決するために、請求項1に記載の発明は、動画像として撮像された解析対象の動きを解析する画像解析装置であって、撮像領域内を一定期間撮像した動画像を記憶する記憶手段と、前記動画像に示される前記解析対象を検出する検出手段と、前記検出された解析対象が、前記撮像領域内で示す位置変化を算出し、前記解析対象を他の解析対象と識別するための解析対象識別情報と対応付けて記憶する位置変化算出手段と、前記記憶された位置変化に基づいて、前記検出された解析対象が、前記撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として解析対象識別情報毎に算出するベクトル情報算出手段と、前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出手段と、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出手段と、前記算出された代表的な方向を、外部へ表示させる表示制御手段と、を備えることを特徴とする。
【0014】
従って、解析対象の動きをより正確に解析し、解析結果に対する把握性を向上させることができる。
【0015】
請求項2に記載の発明は、請求項1に記載の画像解析装置であって、前記ベクトル情報算出手段は、前記ベクトル情報として、前記解析対象の移動開始点を算出し、前記ベクトル情報に含まれる移動開始点に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出することを特徴とする。
【0016】
従って、前記撮像領域の所定範囲内に侵入する解析対象の動きを正確に解析し、解析結果に対する把握性を向上させることができる。
【0017】
請求項3に記載の発明は、請求項1又は2に記載の画像解析装置であって、前記ベクトル情報算出手段は、前記ベクトル情報として、前記解析対象の移動終了点を算出し、前記ベクトル情報に含まれる移動終了点に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出することを特徴とする。
【0018】
従って、前記撮像領域の所定範囲内から退出する解析対象の動きを正確に解析し、解析結果に対する把握性を向上させることができる。
【0019】
請求項4に記載の発明は、請求項1乃至3の何れか1項に記載の画像解析装置であって、前記移動状態算出手段は、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向が、原点を中心に所定の方向を示す方向軸が、当該原点を中心に所定の角度離れて複数設けられた第1の座標系における何れかの方向軸が示す方向と近似するかを判定し、前記移動状態算出手段は、前記ベクトル情報に含まれる方向と、近似すると判定された方向軸が示す方向を、前記所定範囲内に存在するベクトル情報の代表的な方向と算出することを特徴とする。
【0020】
従って、予め定められた方向に応じて前記所定範囲内に存在するベクトル情報の代表的な方向が定められるため、装置(CPU等)の処理負担を軽減しつつ、解析結果に対する把握性を向上させることができる。
【0021】
請求項5に記載の発明は、請求項1乃至4の何れか1項に記載の画像解析装置であって、前記移動状態算出手段は、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向が、所定の方向から原点を示す方向軸が、当該原点を中心に所定の角度離れて複数設けられた第2の座標系における何れかの方向軸が示す方向と近似するかを判定し、移動状態算出手段は、前記ベクトル情報に含まれる方向と、近似すると判定された方向軸が示す方向を、前記所定範囲内に存在するベクトル情報の代表的な方向と算出することを特徴とする。
【0022】
従って、予め定められた方向に応じて前記所定範囲内に存在するベクトル情報の代表的な方向が定められるため、装置(CPU等)の処理負担を軽減しつつ、解析結果に対する把握性を向上させることができる。
【0023】
請求項6に記載の発明は、請求項1乃至5の何れか1項に記載の画像解析装置であって、前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、前記表示制御手段は、前記算出された代表的な方向に属するベクトル情報の数量に応じて、前記外部へ表示させる代表的な方向の表示態様を変化させることを特徴とする。
【0024】
従って、算出された代表的な方向に属するベクトル情報の数量に応じて、前記外部へ表示させる代表的な方向の表示態様が変化するため、解析結果の詳細な情報について、視覚的に容易に把握することができる。
【0025】
請求項7に記載の発明は、請求項1乃至6の何れか1項に記載の画像解析装置であって、前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、前記表示制御手段は、前記算出された代表的な方向に属するベクトル情報に含まれる位置変化の大きさに応じて、前記外部へ表示させる代表的な方向の表示態様を変化させることを特徴とする。
【0026】
従って、算出された代表的な方向に属するベクトル情報に含まれる位置変化の大きさに応じて、前記外部へ表示させる代表的な方向の表示態様が変化するため、解析結果の詳細な情報について、視覚的に容易に把握することができる。
【0027】
請求項8に記載の発明は、請求項1乃至7の何れか1項に記載の画像解析装置であって、前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、前記表示制御手段は、前記移動状態算出手段によって算出された代表的な方向に属するベクトル情報の数量が所定の閾値以上の場合に、当該算出された代表的な方向を、外部へ表示させることを特徴とする。
【0028】
従って、算出された代表的な方向に属するベクトル情報の数量が所定の閾値以上の場合に、当該算出された代表的な方向を外部へ表示するため、ユーザの必要性に応じた解析結果を提示することができる。
【0029】
請求項9に記載の発明は、請求項1乃至8の何れか1項に記載の画像解析装置であって、前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、前記表示制御手段は、前記移動状態算出手段によって算出された代表的な方向に属するベクトル情報の数量が最も多い代表的な方向を抽出し、当該代表的な方向を外部へ表示させることを特徴とする。
【0030】
従って、算出された代表的な方向に属するベクトル情報の数量が最も多い代表的な方向を抽出し、当該代表的な方向を外部へ表示するため、ユーザの必要性に応じた解析結果を提示することができる。
【0031】
請求項10に記載の発明は、請求項1乃至9の何れか1項に記載の画像解析装置であって、前記ベクトル情報抽出手段は、前記ベクトル情報に含まれる位置に基づいて、少なくとも2以上の異なる大きさの撮像領域の所定範囲内に存在するベクトル情報を、撮像領域の所定範囲内毎に抽出し、前記移動状態算出手段は、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の代表的な方向を、前記撮像領域の所定範囲内毎に算出することを特徴とする。
【0032】
従って、少なくとも2以上の異なる大きさの撮像領域の所定範囲内に存在するベクトル情報を、撮像領域の所定範囲内毎に抽出し、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の代表的な方向を、前記撮像領域の所定範囲内毎に算出するため、ユーザの必要性に応じた解析結果を提示することができる。
【0033】
請求項11に記載の発明は、請求項1乃至12の何れか1項に記載の画像解析装置であって、前記ベクトル情報抽出手段は、前記撮像領域内を所定の大きさの領域に分割する分割領域に存在するベクトル情報を、各分割領域毎に算出し、前記移動状態算出手段は、前記分割領域毎に算出されたベクトル情報に基づいて、前記一又は複数の代表的な方向を、各分割領域毎に算出し、前記表示制御手段は、前記算出された各分割領域に対応する一又は複数の代表的な方向を、当該各分割領域に表示させることを特徴とする。
【0034】
請求項12に記載の発明は、請求項11に記載の画像解析装置であって、所定の数量の前記分割領域を一つの領域としてまとめた中領域とし、各中領域毎に算出される代表的な方向の数量が予め設定されており、前記移動状態算出手段は、前記中領域毎に設定された数量に応じて、前記中領域に属する小領域毎に、一又は複数の代表的な方向を算出し、前記表示制御手段は、前記算出された中領域の属する小領域毎に、一又は複数の代表的な方向を、当該小領域に表示させる。
【0035】
請求項13に記載の発明は、請求項1乃至12の何れか1項に記載の画像解析装置であって、前記撮像領域の所定範囲内を任意に設定可能な入力手段をさらに備えることを特徴とする。
【0036】
従って、ユーザの必要性に応じた解析結果を提示することができる。
【0037】
請求項14に記載の発明は、動画像に撮像された解析対象の動きを解析する画像解析装置における画像解析方法であって、撮像領域内を一定期間撮像した動画像を記憶する記憶工程と、前記動画像に示される前記解析対象を検出する検出工程と、前記検出された解析対象が、当該撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として算出し、前記解析対象を他の解析対象と識別するための解析対象識別情報と対応付けて記憶する追跡工程と、前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出工程と、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出工程と、前記算出された代表的な方向を、外部へ表示させる表示制御工程と、を有することを特徴とする。
【0038】
請求項15に記載の発明は、動画像に撮像された解析対象の動きを解析する画像解析装置に含まれるコンピュータを、撮像領域内を一定期間撮像した動画像を記憶する記憶手段、前記動画像に示される前記解析対象を検出する検出手段、前記検出された解析対象が、当該撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として算出し、前記解析対象を他の解析対象と識別するための解析対象識別情報と対応付けて記憶する位置変化算出手段、前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出手段、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出手段、前記算出された代表的な方向を、外部へ表示させる表示制御手段、として機能させることを特徴とする。
【0039】
請求項16に記載の発明は、請求項15に記載の画像処理プログラムがコンピュータ読み取り可能に記録されていることを特徴とする。
【発明の効果】
【0040】
以上のように、本発明によれば、画像解析装置は、所定範囲内に存在するベクトル情報の代表的な方向を算出するため、解析対象の動きをより正確に解析し、解析結果に対する把握性を向上させることができる。
【図面の簡単な説明】
【0041】
【図1】本実施形態にかかる画像解析装置SSの構成を示すブロック図である。
【図2】動画像から検出された解析対象が、撮像領域内で示す位置変化を記憶するまでの画像解析装置SSの動作の詳細を示すフローチャートである。
【図3】入力画像格納部5に記憶されるフレームの一例を示す図である。
【図4】所定期間内における人の移動を示す概念図である。
【図5】位置座標DBに記憶される内容の一例を示す図である。
【図6】算出したベクトル情報に基づいて撮像領域の所定範囲内に存在するベクトル情報の代表的な方向を表示させるまでの画像解析装置SSの動作の詳細を示すフローチャートである。
【図7】人H1の単位時間当たりの位置変化の算出例を示す概念図である。
【図8】人H1の単位時間当たりの位置変化の数量に対応した数量のベクトル情報の算出結果を示す概念図である。
【図9】動画像に示される全ての人に対してベクトル情報を算出した場合の算出結果を示す概念図である。
【図10】矩形領域20に存在するベクトル情報を抽出した抽出例を示す概念図である。
【図11】第1の座標系を示す図である。
【図12】近似を判定する方法を示す概念図である。
【図13】移動させたベクトル情報に含まれる方向が、第1の座標系Tにおける何れかの方向軸の近似する範囲に該当するかを判定した判定結果を示す図である。
【図14】矩形領域20に存在するベクトル情報の代表的な方向を表示した表示例を示す図である。
【図15】代表的な方向を示す方向軸に属するベクトル情報の数量に応じて、代表的な方向の表示態様を変化させた場合の表示結果を示す概念図である。
【図16】代表的な方向を示す方向軸に属するベクトル情報に含まれる位置変化に応じて、代表的な方向の表示態様を変化させた場合の表示結果を示す概念図である。
【図17】代表的な方向を示す方向軸に属するベクトル情報の数量、及び、当該ベクトル情報に含まれる位置変化の大きさに応じて、代表的な方向の表示態様を変化させた場合の表示結果を示す概念図である。
【図18】分割領域に存在するベクトル情報に基づいて代表的な方向を算出し、算出された各分割領域に対応する一又は複数の代表的な方向を、当該各分割領域に表示した場合の表示例を示す図である。
【図19】中領域の設定例を示す概念図である。
【図20】移動状態算出部11が、中領域を参照して、代表的な方向を算出した場合の算出結果を表示した場合の表示例を示す図である。
【図21】2以上の異なる大きさの撮像領域の所定範囲を設定し、当該領域に存在するベクトル情報に含まれる方向に基づいて代表的な方向を算出させた場合の表示例を示す図である。
【図22】2以上の撮像領域の所定範囲に、属性ラベルを設定した場合の例を示す図である。
【図23】第2の座標系を示す図である。
【図24】解析対象が示す単位時間当たりのベクトル情報を、近似曲線で算出した場合を示す概念図である。
【発明を実施するための形態】
【0042】
まず、本願の最良の実施形態を添付図面に基づいて説明する。なお、以下に説明する実施の形態は、動画像として撮像された解析対象の動きを解析する画像解析装置に対して本願を適用した場合の実施形態である。
【0043】
[1.画像解析装置の構成及び機能概要]
まず、本実施形態にかかる画像解析装置SSの構成及び機能概要について、図1を用いて説明する。
【0044】
図1は、本実施形態にかかる画像解析装置SSの構成を示すブロック図である。
【0045】
画像解析装置SSは、入力データとしての動画像の入力を受け付ける画像入力部1、キーボード、タッチパネル、ジョグダイヤル又はその他の入力機構を備えユーザから入力された情報を制御部3へ出力する入力部2、入力データから出力データとしての画像又は動画像を生成する制御部3、ディスプレイ等を備え出力データを表示する表示部4等を備える。
【0046】
さらに詳細には、画像入力部1は、撮像領域内における動画像を撮像して所定の電気信号を出力する図示しないビデオカメラ(デジタルビデオカメラ)から、当該電気信号の入力を受け付ける。
【0047】
本実施形態では、ビデオカメラは、所定の施設(交通機関、商業施設、公共機関等)等に設置され、一定期間(例えば、1時間毎等、又は24時間連続して)、当該施設の所定の撮像領域内を撮像する。
【0048】
なお、ビデオカメラは、公知技術であるため詳しい説明は省略するが、例えば、光学系レンズから取り込まれた光が、絞り機構等によって調節され、CCD(Charge Couple Semiconductor)イメージセンサ又はCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ上に光学像(画像)として結像される。この画像は、イメージセンサによって電気信号に変換され、画像入力部1(カメラI/F)へ出力される。
【0049】
そして、画像入力部1は、ビデオカメラから出力された電気信号を受け付け、前記画像を構成する画素を示す画素情報(前記各画素に対応する電気信号等)と前記画素に対応する色情報(R,G,Bの何れかの原色成分に対応した電荷等)を示す静止画像(後述するフレーム)として、例えば、撮像時刻と対応付けて制御部3(後述する入力画像格納部5)へ出力する。
【0050】
換言すれば、画像入力部1は、入力された動画像を所定フレーム(例えば、毎秒20フレーム(即ち、フレームレートが20fps(frame per second))等)の静止画像からなる画像情報に変換し、例えば、撮像時刻等と対応付けて制御部3へ出力する。即ち、これらのフレームが動画像を構成する。
【0051】
画像入力部1の一例として、例えば、産業用デジタルカメラと画像入力ボードを接続する規格仕様である公知のカメラリンク(Camera Link)に対応したインターフェースが適用される。
【0052】
制御部3は、詳しくは後述するが、動画像に示される解析対象が撮像領域内で示す単位時間当たりの位置変化をベクトル情報として算出し、当該ベクトル情報に基づいて、撮像領域の所定範囲内に存在するベクトル情報の代表的な方向を表示させる出力データを生成する。
【0053】
このような制御部3の動作(処理)は、制御部3内に実装されるハードウェア回路により行われるものであっても良いし、制御部3内に実装されるマイクロコンピュータ(CPU等)が所定のプログラム(ソフトウェア)を実行することにより行われるものであっても良い。
【0054】
さらに具体的に、制御部3は、入力画像格納部5(本願の記憶手段の一例)、動体検出部6(本願の検出手段の一例)、位置変化算出部7(本願の位置変化算出手段の一例)、位置座標記憶部8(本願の位置変化算出手段の一例)、ベクトル情報算出部9(本願のベクトル情報算出手段の一例)、ベクトル情報抽出部10(本願のベクトル情報抽出手段の一例)、移動状態算出部11(本願の移動状態算出手段の一例)、表示制御部12(本願の表示制御手段の一例)、出力フレームメモリ13等から構成される。
【0055】
入力画像格納部5は、上記撮像領域内を一定期間撮像した動画像を記憶するための記憶領域であり、例えば、揮発性又は不揮発性メモリ又はハードディスク等が適用される。
【0056】
具体的に、本実施形態における入力画像格納部5は、一又は複数のフレーム(上述した動画像から所定フレームに変換された静止画像)と、各フレームにおける撮像時刻、及び詳しくは後述する座標値等を対応付けて記憶する。
【0057】
そして、入力画像格納部5には、一定期間撮像された動画像に対応した複数のフレームが記憶されている。
【0058】
動体検出部6は、動画像に示される解析対象を検出する。
【0059】
撮像された動画像には、当該施設を利用する人や当該施設内を通過する移動手段(例えば、車や荷台等)等が示されている。本実施形態における動体検出部6は、この人や移動手段等を解析対象として検出するようになっている。
【0060】
この解析対象を検出する方法は、公知の技術であるため詳しい説明は省略するが、動体検出部6は、動画像を構成するフレームのうち基準となるフレームと、予め記憶された参照フレーム(同じ撮像領域内の静止画像)との画素間減算及び、いわゆる背景除去を行い、画像変化のあった画素のみの画像に変換する。そして、ノイズ除去及び2値化等の画像処理を施すと、当該基準となるフレームの解析対象が抽出される。そして、抽出された解析対象を他の解析対象と識別するためにラベリング処理を行い、各解析対象に動体ID(本願の解析対象識別情報の一例。)を付与する処理を行う。
【0061】
この動体IDは、解析対象を他の解析対象と識別するための識別情報である。
【0062】
位置変化算出部7は、検出された解析対象が、撮像領域内で示す位置変化を算出する。
【0063】
この位置変化の算出には、例えば、公知の追跡処理を適用することができる。
【0064】
追跡処理は公知の技術であるため詳しい説明は省略するが、まず、位置変化算出部7は、基準となるフレームで特定された解析対象が、当該基準となるフレームで示す撮像領域内の位置を特定する。
【0065】
次に、位置変化算出部7は、異なるフレーム(基準となるフレームより後で撮像されたフレーム)に当該解析対象と同一の物体が特定されるか判定する。
【0066】
この同一の物体として特定するための方法としては、例えば基準となるフレームで特定された解析対象の大きさや主軸の比等からなる形状パラメータを求め、他のフレームにおいて、この形状パラメータと最も近似する形状パラメータを有する物体を同一の解析対象とみなす等の方法を適用することができる。
【0067】
そして、同一の物体であると判定された場合には、位置変化算出部7は、異なるフレームにおける解析対象が、当該異なるフレームで示す撮像領域内の位置を特定する。
【0068】
そして、位置変化算出部7は、特定した解析対象が基準となるフレームで示す撮像領域内の位置と、特定した解析対象が異なるフレームで示す撮像領域内の位置を、検出された解析対象が前記撮像領域内で示す位置変化として算出する。
【0069】
この位置変化は、一定期間撮像された動画像の連続するフレームの全てについて、解析対象毎に算出することができる。換言すれば、位置変化算出部7は、動画像に示される解析対象が、上記連続する各フレームにおいて示す撮像領域内の位置を、位置変化として算出することができる。
【0070】
この位置変化の算出によって、解析対象が、撮像領域内で示す位置変化(移動量、移動方向)を把握することができる。
【0071】
位置座標記憶部8は、算出された位置変化を動体IDと対応付けて、解析対象毎に記憶するための記憶領域であり、例えば、揮発性又は不揮発性メモリ又はハードディスク等が適用される。
【0072】
ベクトル情報算出部9は、上記記憶された位置変化に基づいて、検出された解析対象が、撮像領域内で示す単位時間当たりの位置変化を、当該撮像領域内における位置及び方向を含むベクトル情報として動体ID毎に算出する。
【0073】
このベクトル情報の算出は、公知の技術であるため詳しい説明は省略するが、以下のように算出される。
【0074】
上述したフレームは、動画像を所定間隔(所定期間)で分割したもの(例えば、上述した、毎秒20フレーム等)である。そして、位置変化算出部7は、上述したように、解析対象が、撮像領域内で示す位置変化を、連続するフレームの全てについて算出し、位置座標記憶部8に記憶されている。
【0075】
そして、ベクトル情報算出部9は、まず、位置座標記憶部8に記憶された、解析対象が撮像領域内で示す位置変化を用いて、解析対象が撮像領域内で示す単位時間当たりの位置変化を算出する。
【0076】
具体的には、例えば、フレームが動画像を毎秒20フレームで分割されたものであった場合(以下単に、「フレームレートが20fps」とする。)には、ベクトル情報算出部9は、位置変化算出部7によって特定された、解析対象が基準となるフレームで示す撮像領域内の位置と、当該基準となるフレームから21番目にあたるフレーム間で示す撮像領域内の位置を算出することにより、解析対象が前記撮像領域内で示す単位時間当たりの位置変化を算出する。
【0077】
このように、フレームは、動画像を所定間隔で分割したものであるため、任意のフレーム間における解析対象が示す位置変化を算出することによって、解析対象の所定間隔当たりの位置変化を算出することができるのである。
【0078】
そして、ベクトル情報算出部9は、解析対象が、基準となるフレームで示す撮像領域内の位置を移動開始点と、当該基準となるフレームから20番目にあたるフレームで示す撮像領域内の位置を移動終了点として、解析対象が示す単位時間当たりのベクトル情報を算出する。
【0079】
このベクトル情報は、検出された解析対象が、前記撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含む情報として算出したものであり、この情報を、以下単に、ベクトル情報とする。また、上述した追跡処理において、このベクトル情報を算出するようにしてもよい。
【0080】
なお、上述した例では、単位時間を1秒として想定したが、これに限定されず、例えば、単位時間を任意の時間に設定することができる。
【0081】
例えば、この単位時間を5秒とした場合を考える。この場合、フレームレートが20fpsであった場合には、ベクトル情報算出部9が、位置変化算出部7によって特定された、解析対象が基準となるフレームで示す撮像領域内の位置と、当該基準となるフレームから100番目にあたるフレーム間で示す撮像領域内の位置を算出することにより、解析対象が前記撮像領域内で示す単位時間当たりの位置変化が算出されることとなる。
【0082】
ベクトル情報抽出部10は、上記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を、動体ID毎に抽出する。
【0083】
移動状態算出部11は、ベクトル情報抽出部10によって抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する。
【0084】
表示制御部12は、移動状態算出部11によって算出された代表的な方向を、外部へ表示させる。
【0085】
出力フレームメモリ13は、出力データを書込むための制御を行う。
【0086】
[2.動画像から検出された解析対象が、撮像領域内で示す位置変化を記憶するまでの画像解析装置SSの動作]
次に、動画像から検出された解析対象が、撮像領域内で示す位置変化を記憶するまで(主として動体検出部6、及び位置変化算出部7の動作)の画像解析装置SSの動作の詳細について、図2〜図7を用いて説明する。
【0087】
図2は、動画像から検出された解析対象が、撮像領域内で示す位置変化を記憶するまでの画像解析装置SSの動作の詳細を示すフローチャートである。
【0088】
図2に示すように、画像入力部1から出力される撮像時刻と対応付けられたフレームが入力されると(ステップS1)、フレームと、各フレームにおける撮像時刻が対応付けられて、入力画像格納部5に記憶される。
【0089】
さらに、このフレームには、上述した座標値が対応付けて記憶される。
【0090】
この座標値は、フレームに示される撮像領域内の所定の位置を、他の位置と識別するための値であり、例えばフレームの水平方向をX軸と、フレームの垂直方向をY軸とする平面座標系におけるX,Y座標で表わされる。
【0091】
ここで、入力画像格納部5に記憶されるフレームの一例について図3を用いて説明する。
【0092】
図3は、入力画像格納部5に記憶されるフレームの一例を示す図である。
【0093】
図3に示すフレームFは、店舗S1〜S4が設置されたショッピングモールSの所定の撮像領域内を、一定期間撮像された動画像から変換されたフレームのうち一のフレームである。
【0094】
このフレームFには、ショッピングモールSを利用する人等が示されており、全てのフレームで統一された上記座標値が設定されている。
【0095】
この座標値によって、フレームに示される解析対象(人や店舗等。以下代表して「人」と示す。)の位置を、X座標値及びY座標値で表わすことができる。従って、フレームに示されるそれぞれの人や店舗が、フレームに示される撮像領域内の位置を特定することができる。
【0096】
入力画像格納部5には、一定期間撮像された動画像に対応した複数のフレームが記憶されている。
【0097】
次に、動体検出部6は、解析対象として人をそれぞれ検出し、検出した人毎に動体IDを付与する(ステップS2)。例えば、図3のフレームFに示される人毎に動体IDが付与される。
【0098】
次に、位置変化算出部7は、上述した追跡処理(動体追跡)を行い、検出された人の位置変化を算出する。(ステップS3)。
【0099】
ここで、位置変化の算出例について、図4を用いて説明する。
【0100】
図4は、所定期間内における人の移動を示す概念図である。
【0101】
図4に示すように、例えば、人H1(解析対象の一例)が、位置としてV1s(x1、y1)からV10e(x11、y11)まで移動した場合(図の破線部で表わした矢印まで移動)を考える。
【0102】
この場合、位置変化算出部7は、人H1がV1s(x1、y1)に位置することが示されたフレームを基準として、人H1がV10e(x11、y11)に位置することが示されたフレームまで、人H1が各フレーム毎で示す位置を座標値で算出する。この算出された座標値が、人H1が、撮像領域内で示す位置変化となるのである。
【0103】
また、位置変化算出部7は、動画像に示される全ての人(すべての動体ID)に対して位置変化を算出することもできる。
【0104】
次に、位置座標記憶部8は、人H1に対して算出した位置変化を、人H1を示す動体IDと対応付けて位置座標DBとして記憶する(ステップS4)。
【0105】
図5は、位置座標DBに記憶される内容の一例を示す図である。
【0106】
図5に示す位置座標DBには、動体ID(例えば、人H1)と、動体IDが示す人H1が撮像領域内で示す位置としての位置座標、当該位置における時刻(フレームとして撮像された撮像時刻)が対応付けられて記憶される。
【0107】
このように、動体IDが示す人H1が撮像領域内で示す位置と、当該位置における時刻を対応付けて記憶することにより、人H1が、撮像領域内で示す位置変化を記憶することができる。
【0108】
なお、位置座標DBには、動画像に示される全ての人に対して算出された位置変化を記憶することもできる。
【0109】
そして、終了指示があった場合には(ステップS5:YES)、処理を終了し、終了指示がない場合には(ステップS5:NO)、ステップS1の処理へ移行する。
【0110】
[3.算出したベクトル情報に基づいて撮像領域の所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を表示させるまでの画像解析装置SSの動作]
次に、算出したベクトル情報に基づいて撮像領域の所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を表示させるまでの画像解析装置SSの動作の詳細について、図6〜図14を用いて説明する。
【0111】
図6は、算出したベクトル情報に基づいて撮像領域の所定範囲内に存在するベクトル情報の代表的な方向を表示させるまでの画像解析装置SSの動作の詳細を示すフローチャートである。
【0112】
図6に示すように、まず、ベクトル情報算出部9は、例えばユーザによる入力部2の指示により又は、予め設定された指示に基づいて、撮像された動画像から、人H1が、撮像領域内で示す所定期間分の位置変化を取得する(ステップS11)。
【0113】
具体的には、ベクトル情報算出部9は、位置座標DBを参照して、動体IDが、所定期間に示した位置座標を取得する。例えば、所定期間として1時間が設定されていた場合には、ベクトル情報算出部9は、動体IDと対応付けて記憶された時刻と、当該時刻と対応付けて記憶された位置座標を参照して、1時間分の位置座標を、所定期間分の位置変化として取得する。
【0114】
この所定期間分の位置変化は、一の動体IDに対して取得してもよいし、全ての動体IDに対して取得してもよい。
【0115】
なお、ベクトル情報算出部9は、上記取得する位置変化として、所定期間に区切られたものに限らず、例えば、動画像に示される全ての位置変化を取得するようにしてもよい。
【0116】
次に、ベクトル情報算出部9は、上記取得した所定期間分の位置変化に基づいて、単位時間当たりの位置変化を算出する(ステップS12)。
【0117】
ここで、単位時間当たりの位置変化の算出について、図4及び図7を用いて説明する。
【0118】
図7は、人H1の単位時間当たりの位置変化の算出例を示す概念図である。
【0119】
先に示した図4において、人H1が、所定期間の間に、V1s(x1、y1)からV10e(x11、y11)まで移動した場合の単位時間当たりの位置変化を算出する例を説明する。
【0120】
ここで、単位時間当たりの位置変化とは、基準となるフレームで人H1が示す位置を移動開始点とし、当該フレームから単位時間後(例えば1秒後)のフレームで人H1が示す位置を移動終了点とした場合の位置変化を示す。
【0121】
この算出方法について具体的には、人H1が、V1s(x1、y1)からV10e(x11、y11)まで移動した場合の単位時間当たりの位置変化を求めるには、V1s(x1、y1)を基準として、単位時間毎(例えば1秒間隔)のフレームにおける人H1の位置を特定すればよい。
【0122】
さらに具体的には、基準となるフレームで人H1が示す位置がV1s(x1、y1)であり、当該フレームから単位時間後のフレームで人H1が示す位置がV1e(x2、y2)であったとすると、単位時間当たりの位置変化は、移動開始点としてのV1s(x1、y1)から、移動終了点としてのV1e(x2、y2)までの位置変化であると算出される。
【0123】
次に、ベクトル情報算出部9は、V1e(x2、y2)を基準に、単位時間後のフレームにおける人H1の位置を特定し、単位時間当たりの位置変化を算出する。そして、ベクトル情報算出部9は、人H1が、V10e(x11、y11)に至るまでの単位時間当たりの位置変化を、順次算出する。
【0124】
このようにして算出された、人H1が、V1s(x1、y1)からV10e(x11、y11)まで移動した場合の単位時間当たりの位置変化の算出結果を、図7に示す。
【0125】
図7に示すように、人H1が、V1s(x1、y1)からV10e(x11、y11)まで移動した場合の単位時間当たりの位置変化として、まず、移動開始点としてV1s(x1、y1)から、単位時間後のフレームに示される人H1の位置を移動終了点としてV1e(x2、y2)とした、最初の単位時間当たりの位置変化が算出されている。
【0126】
次に、移動開始点をV2s(x2、y2)、移動終了点をV2e(x3、y3)とした次の単位時間当たりの位置変化が、そして、移動開始点をV3s(x3、y3)、移動終了点をV3e(x4、y4)とした次の単位時間当たりの位置変化が、そして、移動開始点をV10s(x10、y10)、移動終了点をV10e(x11、y11)とした最後の単位時間当たりの位置変化まで、単位時間当たりの位置変化が順次算出されている。
【0127】
なお、上述した例では、ある単位時間当たりの位置変化の移動終了点と、当該位置変化の次に算出される単位時間当たりの位置変化の移動開始点(例えば、V1eとV2s等)は同一の点を示すこととなるが、図7においては説明の便宜上、互いに接する点として表している。
【0128】
また、図7に示す例では、説明の便宜上、算出された単位時間当たりの位置変化を、所定のフレームに重畳して表示させている。
【0129】
また、位置変化算出部7は、動画像に示される全ての人(すべての動体ID)に対して位置変化を算出することもできる。
【0130】
次に、ベクトル情報算出部9は、上記算出された単位時間当たりの位置変化を、撮像領域内における位置及び方向を含むベクトル情報として算出する(ステップS13)。
【0131】
このベクトル情報は、例えば、移動開始点がV1s(x1、y1)、移動終了点がV1e(x2、y2)である単位時間当たりの位置変化に着目すると、
ベクトル情報V1は、一般的に、(x2−x1、y2−y1)で算出されることが知られている。ここで、上記移動開始点は所謂ベクトルの始点であり、上記移動終了点は所謂ベクトルの終点である。
【0132】
このベクトル情報V1は、大きさと向きを持つ量であるため、人H1が撮像領域内で示す単位時間当たりの位置変化を把握することができる。
【0133】
そして、ベクトル情報算出部9は、算出された単位時間当たりの位置変化の数量に対応した数量のベクトル情報を算出する。
【0134】
ここで、ベクトル情報の算出結果について、図8を用いて説明する。
【0135】
図8は、人H1の単位時間当たりの位置変化の数量に対応した数量のベクトル情報の算出結果を示す概念図である。
【0136】
図8に示すように、移動開始点をV1s(x1、y1)、移動終了点をV1e(x2、y2)としたベクトル情報V1を最初のベクトル情報として、移動開始点をV2s(x2、y2)、移動終了点をV2e(x3、y3)としたベクトル情報V2、移動開始点をV3s(x3、y3)、移動終了点をV3e(x4、y4)としたベクトル情報V3が、移動開始点をV10s(x10、y10)、移動終了点をV10e(x11、y11)としたベクトル情報V10まで順次算出される。
【0137】
なお、上述した例では、あるベクトル情報の移動終了点と、当該ベクトル情報の次に算出されるベクトル情報の移動開始点は同一の点を示すこととなるが、図8においては説明の便宜上、互いに接する点として表している。
【0138】
なお、図8に示す例では、算出されたベクトル情報を、所定のフレームに重畳して表示させている。
【0139】
上述したように、ベクトル情報は、移動開始点及び移動終了点(位置)を含む情報である。従って、移動開始点及び移動終了点を、フレームの座標値の対応する位置に配置させることによって、算出されたベクトル情報を、所定のフレームの対応する位置に重畳して表示させることができる。
【0140】
このように表示させることによって、撮像領域内における人の行動を視覚的に把握させ、解析結果に対する把握性の向上等が図られる。
【0141】
また、ベクトル情報V1の大きさは、一般的に、((x2−x1)2+(y2−y1)2)1/2で算出されることが知られている。
【0142】
このフレームに示されるベクトル情報V1の大きさと、撮像領域内における現実(実世界)の大きさと、の相関を算出することによって、フレームに示されるベクトル情報V1の大きさが、撮像領域内においてどの程度の大きさを示すのか把握することができる。
【0143】
即ち、フレームで示されるX,Y座標値の値を、実世界の大きさであるメートル(m)等に変換することによって、フレームに示されるベクトル情報V1の大きさが、撮像領域内においてどの程度の大きさを示すのか把握することができる(即ち、撮像領域内における現実の距離を把握することができる)。
【0144】
そして、ベクトル情報算出部9は、動画像に示される全ての人(すべての動体ID)に対して、ステップS11で設定した所定期間分、又は入力される動画像が撮像された一定期間分のベクトル情報を算出することもできる。
【0145】
図9は、動画像に示される全ての人に対してベクトル情報を算出した場合の算出結果を示す概念図である。
【0146】
図9では、動画像に示される全ての人に対してベクトル情報を算出し、所定のフレームに重畳して表示させている。
【0147】
図9に示すように、画像に示される全ての人に対してベクトル情報を算出し、所定のフレームに重畳して表示させた場合には、解析対象の増加に伴って表示されるベクトル情報の数も増加するため、各解析対象に対応した個別のベクトル情報の向きや大きさ、又はベクトル情報の数量等を識別することが困難となり、解析結果に対する把握性が著しく低下してしまう。
【0148】
そこで本実施形態では、上記撮像領域の所定範囲内に存在するベクトル情報を抽出し、この抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出し、表示させるようになっている。
【0149】
具体的には、ユーザによる入力部2の指示により又は、予め設定された指示に基づいて、上記撮像領域内の所定範囲内を指定する命令を受け付けると、ベクトル情報抽出部10は、当該撮像領域内の所定範囲内に存在するベクトル情報を抽出する(ステップS14)。
【0150】
さらに具体的には、例えば、当該撮像領域内の所定範囲内として、図9の矩形領域20が指定(例えば、矩形領域20の定点を示す座標値を入力され、又は表示画面上に表示されるポインタ等で矩形領域を描かせる等により)されたとする。すると、ベクトル情報抽出部10は、座標値を参照して、矩形領域20に存在するベクトル情報を抽出する。
【0151】
図10は、矩形領域20に存在するベクトル情報を抽出した抽出例を示す概念図である。
【0152】
図10に示すように、矩形領域20に存在するベクトル情報としてベクトル情報V1〜Vnが抽出されている。
【0153】
なお、実際には、識別不可能なほど多数のベクトル情報が抽出される場合もあるが、図10では説明の便宜上、ベクトル情報の数量を限定して表記する。また、ベクトル情報の長さは、解析対象である人の単位時間当たりの移動距離に応じて異なるものであるが、図10では説明の便宜上、ベクトル情報の長さは略同一で表記する。
【0154】
また、上述した例と同様に全てのベクトル情報には、移動開始点及び移動終了点が含まれているが、図10では説明の便宜上、代表するベクトル情報(ベクトル情報V1及びベクトル情報Vn)にのみその図示を行い、その他の図示を省略する。
【0155】
このベクトル情報の抽出方法は、種々の方法を適用することができ、例えば、矩形領域20に、ベクトル情報の移動開始点が存在する場合に、ベクトル情報抽出部10は、当該ベクトル情報を抽出するようにしてもよい。
【0156】
具体的に、ベクトル情報V1を例に説明すると、ベクトル情報V1の移動開始点V1Sが矩形領域20に含まれている場合に、ベクトル情報抽出部10は、当該ベクトル情報を抽出する。
【0157】
これにより、矩形領域20にベクトル情報の移動開始点のみが存在する場合(即ち、これから矩形領域20から退出(通過)する動きを示すベクトル情報)についても、ベクトル情報抽出部10は、当該ベクトル情報を抽出するため、矩形領域20から退出する解析対象の動きを正確に解析することができる。
【0158】
また、矩形領域20に、ベクトル情報の移動終了点が存在する場合に、ベクトル情報抽出部10は、当該ベクトル情報を抽出するようにしてもよい。
【0159】
具体的に、ベクトル情報V1の移動終了点V1eが矩形領域20に含まれている場合に、ベクトル情報抽出部10は、当該ベクトル情報を抽出する。
【0160】
これにより、矩形領域20にベクトル情報の移動終了点のみが存在する場合(即ち、矩形領域20へ侵入する動きを示すベクトル情報)についても、ベクトル情報抽出部10は、当該ベクトル情報を抽出するため、矩形領域20から侵入する解析対象の動きを正確に解析することができる。
【0161】
次に、移動状態算出部11は、矩形領域20に存在するベクトル情報に含まれる方向に基づいて、当該ベクトル情報の代表的な方向を算出する(ステップS15)。
【0162】
繰り返すが、ベクトル情報は、上述したように解析対象の移動(動き)に応じて様々な方向を示すこととなる。このような解析対象の動きに応じたベクトル情報を表示させると、各解析対象に対応した個別のベクトル情報を識別することが困難となる原因となる。
【0163】
そこで、移動状態算出手段11は、矩形領域20に存在するベクトル情報の代表的な方向を算出するのである。
【0164】
以下に、ステップS15の処理の詳細について説明する。
【0165】
本実施形態では、移動状態算出部11は、第1の座標系(小領域モデル)を用いて、この代表的な方向を算出する。
【0166】
ここで、第1の座標系について、図11を用いて説明する。
【0167】
図11は、第1の座標系を示す図である。
【0168】
図11に示すように、第1の座標系Tは、原点0を中心に、原点0から背離する方向を示す方向軸a〜h(本願の原点を中心に所定の方向を示す方向軸の一例)が、原点0を中心に互いに45°(本願の所定の角度の一例)離れて8つ(本願の複数の一例)設けられている。即ち、第1の座標系Tは、平面座標系を8分割した座標軸である。
【0169】
そして、移動状態算出部11は、矩形領域20に存在するベクトル情報に含まれる方向が、第1の座標系Tにおける何れかの方向軸a〜hが示す方向と近似するかを判定する。
【0170】
この近似を判定する方法としては種々の方法を適用することができるが、その一例について、図12を用いて説明する。
【0171】
図12は、近似を判定する方法を示す概念図である。
【0172】
上記近似の判定に際しては、移動状態算出部11は、一の方向軸が示す方向と近似する範囲について予め定められたデータを参照する。
【0173】
この近似する範囲としては、例えば、原点0を中心として、一の方向軸を仮想的に所定の角度の範囲で回転させた場合に、当該仮想的に回転させた方向軸が、当該所定の角度の範囲においてそれぞれ示す全ての方向が、近似する範囲として定められる。
【0174】
具体的には、図12に示すように、一の方向軸として方向軸aが示す方向と近似する範囲については、原点0を中心として、方向軸aを仮想的に一の方向へ22.5°、逆方向へ22.5°回転(即ち、原点0を中心に方向軸aを45°の範囲内で回転)させた場合に、当該仮想的に回転させた方向軸aが、一の方向へ22.5°、逆方向へ22.5°回転させた場合にそれぞれ示す全ての方向が、方向軸aが示す方向と近似する範囲にあると判定される。すなわち、方向軸aが示す方向と近似する範囲は、図12の斜線部で示した範囲が該当することとなる。
【0175】
このように、移動状態算出部11は、第1の座標系Tを用いて、一又は複数の代表的な方向を算出することによって、ベクトル情報の移動開始点を基準に近似する範囲を判定するため装置(CPU等)の処理負担を軽減しつつ、撮像領域の所定範囲内から退出する解析対象の動きを正確に解析することができる。
【0176】
以下、上述した方向軸が示す方向と近似する範囲を、単に「近似する範囲」と称する。
【0177】
なお、図12に示す例では、方向軸b〜方向軸hが示す方向と近似する範囲についても、方向軸aと同様に定められている。
【0178】
また、この近似する範囲の設定方法は上述した例に限られず、任意に設定することができる。具体的には、一の方向軸と他の方向軸に対して、近似する範囲を異なるように設定してもよい。
【0179】
また、上述した例では、平面座標系を8分割した方向軸a〜方向軸hを用いて近似する範囲を判定するようになっているが、これに限られず、例えば、平面座標系を任意の方向軸で分割した座標軸を用いるようにしてもよい(例えば、4分割、6分割等)。
【0180】
そして、ステップS15の処理として、移動状態算出部11は、矩形領域20に存在するベクトル情報に含まれる移動開始点を、第1の座標系Tの原点に仮想的に移動する。そして、移動状態算出部11は、移動させたベクトル情報に含まれる方向が、第1の座標系Tにおける何れかの方向軸a〜hの近似する範囲に該当するか判定する。
【0181】
ここで、図13を用いて、移動状態算出部11が、移動させたベクトル情報に含まれる方向が、第1の座標系Tにおける何れかの方向軸の近似する範囲に該当するかを判定した判定結果について説明する。
【0182】
図13は、移動させたベクトル情報に含まれる方向が、第1の座標系Tにおける何れかの方向軸の近似する範囲に該当するかを判定した判定結果を示す図である。
【0183】
図13に示すように、ベクトル情報V1の移動開始点V1Sが、原点0に仮想的に移動され、ベクトル情報V1に含まれる方向が、方向軸fの近似する範囲に含まれている。
【0184】
従って、移動状態算出部11は、ベクトル情報V1は、方向軸fが示す方向に近似すると判断する。
【0185】
そして、移動状態算出部11は、矩形領域20に存在するベクトル情報について、順次同様の判断を行う。
【0186】
そして、ステップS15の最後の処理として、移動状態算出部11は、矩形領域20に存在するベクトル情報の代表的な方向を算出する。
【0187】
代表的な方向の算出方法については、種々の方法を適用することができる。
【0188】
具体的には、例えば、移動状態算出部11は、ベクトル情報と近似すると判断された方向軸が示す方向のうち、最も多くのベクトル情報と近似すると判断された方向軸が示す方向を、代表的な方向とすることができる。
【0189】
そして、移動状態算出部11は、矩形領域20に存在する全てのベクトル情報の代表的な方向を算出した場合には(ステップS16:YES)、表示制御部12は、矩形領域20に存在するベクトル情報の代表的な方向を表示する(ステップS17)。
【0190】
ここで、矩形領域20に存在するベクトル情報の代表的な方向を表示した表示例について図14を用いて説明する。
【0191】
図14は、矩形領域20に存在するベクトル情報の代表的な方向を表示した表示例を示す図である。
【0192】
図14に示すように、矩形領域20には、矩形領域20に存在するベクトル情報の代表的な方向が表示されている。この矩形領域20に表示される方向は、上述した代表的な方向の算出方法として、第1の座標系Tの方向軸のうち、最も多く近似すると判断された方向軸(図13の方向軸b)が示す方向が表示されたものである。
【0193】
以下、このように判定された方向軸を、「代表的な方向を示す方向軸」と称する(図13の方向軸b)。また、このように算出された代表的な方向を、単に「代表的な方向」と称する。
【0194】
この表示された代表的な方向は、矩形領域20における動画像に示された人の動きのうち、最も多くの人が示した動きが示されている。
【0195】
ここで、矩形領域20は、店舗S1の入口付近の位置を示している。そして、表示された代表的な方向は、この店舗S1に侵入する方向を示している。
【0196】
従って、この表示結果から、店舗S1に来店する人が多く、店舗S1は人気がある店舗であることがわかる。
【0197】
また移動状態算出部11は、矩形領域20に存在する全てのベクトル情報の代表的な方向を算出していない場合には(ステップS16:NO)、ステップS11の処理へと移行する。
【0198】
また、この代表的な方向の表示態様は、種々の形態を適用することができる。
【0199】
図14で示す例では、代表的な方向として、最も多くのベクトル情報と近似すると判断された方向軸のみを表示させるようにしたが、2番目又は3番目に多くベクトル情報と近似すると判断された方向軸も併せて表示させるようにしてもよい。
【0200】
即ち、矩形領域20に表示される代表的な方向の数量は任意に設定することができるのである。
【0201】
また、代表的な方向を示す方向軸に属するベクトル情報の数量に応じて、代表的な方向の表示態様を変化させるようにしてもよい。
【0202】
この代表的な方向を示す方向軸に属するベクトル情報の数量とは、移動状態算出部11によって、代表的な方向であると判定された方向軸に、近似すると判定されたベクトル情報の数量をいう。
【0203】
ここで、代表的な方向を示す方向軸に属するベクトル情報の数量に応じて、代表的な方向の表示態様を変化させた場合の表示結果について、図15を用いて説明する。
【0204】
図15は、代表的な方向を示す方向軸に属するベクトル情報の数量に応じて、代表的な方向の表示態様を変化させた場合の表示結果を示す概念図である。
【0205】
図15に示すように、表示制御部12は、代表的な方向を示す方向軸に属するベクトル情報の数量に応じて、1〜5の5段階で、代表的な方向30の太さを変化させて表示させることもできる。
【0206】
また、代表的な方向を示す方向軸に属するベクトル情報に含まれる位置変化の大きさに応じて、代表的な方向の表示態様を変化させるようにしてもよい。
【0207】
この代表的な方向を示す方向軸に属するベクトル情報に含まれる位置変化の大きさとは、移動状態算出部11によって、代表的な方向であると判定された方向軸に、近似すると判定されたベクトル情報に含まれる位置変化の大きさをいう。
【0208】
かかる位置変化の大きさは、ベクトル情報に含まれる移動開始点及び移動終了点が示す座標値に基づいて、把握することが可能である。
【0209】
そこで、表示制御部12は、代表的な方向であると判定された方向軸に、近似すると判定されたベクトル情報に含まれる位置変化の大きさに基づいて、代表的な方向の表示態様を変化させる。
【0210】
ここで、代表的な方向を示す方向軸に属するベクトル情報に含まれる位置変化の大きさに応じて、代表的な方向の表示態様を変化させた場合の表示結果について、図16を用いて説明する。
【0211】
図16は、代表的な方向を示す方向軸に属するベクトル情報に含まれる位置変化に応じて、代表的な方向の表示態様を変化させた場合の表示結果を示す概念図である。
【0212】
図16に示すように、表示制御部12は、代表的な方向を示す方向軸に属するベクトル情報に含まれる位置変化に応じて、1〜5の5段階で、代表的な方向40の長さを変化させて表示させることもできる。
【0213】
この位置変化の大きさは各ベクトル情報の位置変化の大きさを積算した値を適用してもよいし、各ベクトル情報の位置変化の大きさの平均を算出した値を適用してもよい。
【0214】
また、代表的な方向を示す方向軸に属するベクトル情報の数量、及び、当該ベクトル情報に含まれる位置変化の大きさに応じて、代表的な方向の表示態様を変化させるようにしてもよい。
【0215】
図17は、代表的な方向を示す方向軸に属するベクトル情報の数量、及び、当該ベクトル情報に含まれる位置変化の大きさに応じて、代表的な方向の表示態様を変化させた場合の表示結果を示す概念図である。
【0216】
図17に示すように、表示制御部12は、代表的な方向を示す方向軸に属するベクトル情報の数量、及び、当該ベクトル情報に含まれる位置変化の大きさに応じて、代表的な方向50の太さ及び長さを変化させて表示させることもできる。
【0217】
また、上述した例では、移動状態算出部11は、矩形領域20に存在するベクトル情報に基づいて上記代表的な方向を算出したが、フレーム(撮像領域内)を所定の大きさの領域に分割する分割領域に存在するベクトル情報に基づいて、前記一又は複数の代表的な方向を、各分割領域毎に算出し、算出された各分割領域に対応する一又は複数の代表的な方向を、当該各分割領域に表示させるようにしてもよい。
【0218】
ここで、移動状態算出部11が、分割領域に存在するベクトル情報に基づいて上記代表的な方向を算出した場合の算出結果について、図18を用いて説明する。
【0219】
図18は、分割領域に存在するベクトル情報に基づいて一又は複数の代表的な方向を算出し、算出された各分割領域に対応する一又は複数の代表的な方向を、当該各分割領域に表示した場合の表示例を示す図である。
【0220】
図18に示すように、表示部4に示される表示画像60には、フレームを予め定められた複数の分割領域61に存在するベクトル情報に基づいて算出された代表的な方向62及び63等が表示されている。この分割領域61は、フレームを所定の大きさの複数の分割領域で分割されたものである。
【0221】
なお、図18においては、分割領域61以外の分割領域の部材番号については、説明の便宜上、その図示を省略している。また、代表的な方向については、図18において矢印で表示しているが、代表的な方向62及び63以外の代表的な方向の部材番号については、説明の便宜上、その図示を省略している。
【0222】
この表示例から、例えば、代表的な方向62は、店舗S1に侵入する方向を示しているため、店舗S1に来店する人が多く、店舗S1は人気がある店舗であることがわかる。また、代表的な方向63は、店舗S2の前を通過する方向を示しているため、店舗S2に来店する人は少なく、店舗S1はあまり人気がない店舗であることがわかる。
【0223】
また、移動状態算出部11は、中領域を参照して、上述した代表的な方向を算出することもできる。
【0224】
この中領域とは、上述したフレームを予め複数の分割領域に分割された場合の1つの分割領域を小領域とすると、所定の数の前記小領域を一つの領域としてまとめたものをいう。そして、この中領域には、中領域毎に算出される代表的な方向の数量が予め設定されており、移動状態算出部11は、各中領域に設定された代表的な方向の数量に応じて、前記中領域の属する小領域毎に、一又は複数の代表的な方向を算出し、前記算出された中領域の属する小領域毎に、一又は複数の代表的な方向を、当該小領域に表示させるようになっている。
【0225】
例えば、動画像で示す人に対して上述したベクトル情報を算出した場合、算出されるベクトル情報に含まれる方向は、分散したものとなる場合がある。また、撮像領域の範囲内では、このベクトル情報が密集する場所や、まったく算出されない場所がある。即ち、算出されるベクトル情報にばらつきが生じることとなる。
【0226】
そして、このようなベクトル情報に基づいて代表的な方向を算出すると、この代表的な方向においても、同様にばらつきが生じる。
【0227】
そこで、動画像全体で万遍なくベクトル情報が算出されるように、上記中領域を設定し、中領域毎に算出される代表的な方向の数量を予め設定するようになっている。
【0228】
ここで、中領域の設定例について、図19を用いて説明する。
【0229】
図19は、中領域の設定例を示す概念図である。
【0230】
図19に示すように、表示部4に示される表示画像70には、フレームを予め定められた複数の中領域71と、中領域71に算出される一又は複数の代表的な方向の数量72として1がそれぞれ設定されている。この中領域71は、上述したように所定の数の前記小領域を一つの領域としてまとめたものであり、例えば、図18に示す小領域61と同一の大きさの領域を、4つまとめた大きさ示すものである(即ち、中領域71は、小領域61の4倍の大きさを示す)。そして、表示画像70にあっては、20の中領域が設定されている。
【0231】
なお、図19においては、中領域71以外の中領域の部材番号、及び中領域71に算出される代表的な方向の数量72以外の数量の部材番号については、説明の便宜上、その図示を省略している。
【0232】
この前記中領域に属する小領域毎に、一又は複数の代表的な方向を算出する方法は、種々の方法を適用することができる。
【0233】
具体的には、例えば、ある中領域に着目し、当該中領域に属する小領域毎に最も多くのベクトル情報と近似すると判断された方向軸を抽出する。そして、小領域毎に抽出された各方向軸のうち、最も多くのベクトル情報と近似すると判断された方向軸を基準に、又は3番目に多くベクトル情報と近似すると判断された方向軸を、中領域に算出される代表的な方向の数量に応じて表示するようにしてもよい(すなわち、方向軸に近似すると判断されたベクトル情報の数量が、大きいものから順番に表示させる)。
【0234】
また、中領域に属する小領域において抽出されるベクトル情報が一定の数量以下の場合には、中領域に算出される代表的な方向を表示させないようにしてもよい。
【0235】
また、中領域に属する小領域において抽出されるベクトル情報が、一定の数量以上の場合には、抽出されたベクトル情報の数量の比に応じて、中領域毎に、中領域に算出される代表的な方向を決定するようにしてもよい。そして、このような算出方法を適用して、移動状態算出部11が、前記中領域に属する小領域毎に、一又は複数の代表的な方向を算出した場合の算出結果について、図20を用いて説明する。
【0236】
図20は、移動状態算出部11が、中領域を参照して、前記中領域に属する小領域毎に、一又は複数の代表的な方向を算出した場合の算出結果を表示した場合の表示例を示す図である。
【0237】
図20に示すように、表示部4に示される表示画像80には、中領域81に算出される代表的な方向の数量82に対応した数量の一又は複数の代表的な方向が表示されている。すなわち、表示画像80において、中領域に算出される代表的な方向の数量が0のものについては代表的な方向が表示されておらず、中領域に算出される代表的な方向の数量が1のものについては1つの代表的な方向が、中領域に算出される代表的な方向の数量が2のものについては2つの代表的な方向が、中領域に算出される代表的な方向の数量が3のものについては3つの代表的な方向が、それぞれ表示されている。また、実際の表示画像には、中領域、及び中領域に算出される代表的な方向の数量は表示されず、代表的な方向のみ表示されるように設定できる。また、上述した撮像領域の所定範囲(上述した、矩形領域20等)として、少なくとも2以上の異なる大きさの撮像領域の所定範囲を設定し、当該領域に存在するベクトル情報に含まれる方向に基づいて代表的な方向を算出させることもできる。
【0238】
ここで、2以上の異なる大きさの撮像領域の所定範囲を設定し、当該領域に存在するベクトル情報に含まれる方向に基づいて代表的な方向を算出させた場合の表示例について図21を用いて説明する。
【0239】
図21は、2以上の異なる大きさの撮像領域の所定範囲を設定し、当該領域に存在するベクトル情報に含まれる方向に基づいて代表的な方向を算出させた場合の表示例を示す図である。
【0240】
図21に示すように、表示部4に示される表示画像90には、商品が陳列された陳列棚91を中心に、左右方向に通路92及び通路93が表示されている。
【0241】
そして、陳列棚91の正面に矩形領域94(異なる大きさの撮像領域の所定範囲の一例)が、通路92の入口に矩形領域95(異なる大きさの撮像領域の所定範囲の一例)が、通路93の入口に矩形領域96(異なる大きさの撮像領域の所定範囲の一例)が、それぞれ設定されている。
【0242】
さらに、矩形領域94には矩形領域94に存在するベクトル情報に含まれる方向に基づいて算出された代表的な方向96が、矩形領域95には矩形領域95に存在するベクトル情報に含まれる方向に基づいて算出された代表的な方向97が、矩形領域96には矩形領域96に存在するベクトル情報に含まれる方向に基づいて算出された代表的な方向98が、それぞれ表示されている。
【0243】
この表示画像90に表示される代表的な方向96〜98には、例えば、陳列棚91、通路92、又は通路93に向かってくる人の人数や位置変化の大きさ、及び通過する人の人数や位置変化の大きさが示されている。
【0244】
そして、代表的な方向96から、陳列棚91に向かってくる人の人数が多いことが示されれば、陳列棚91に陳列されている商品に興味を持つ人が多いことが把握される。
【0245】
また、代表的な方向96から、陳列棚91に向かってくる人の位置変化が大きいことが示されれば、少しでも早く陳列棚91に到着したいと考える人が多いことが把握される。
【0246】
また、代表的な方向96から、陳列棚91を通過する人の人数が多いことが示されれば、陳列棚91に陳列されている商品は、人気がない商品であることが把握される。
【0247】
さらに、代表的な方向97又は代表的な方向98から、通路92又は通路93の奥へ向かう人の人数が多いことが示されれば、通路92又は通路93の奥には、人が興味を持つ施設等が存在することが把握される。
【0248】
なお、これらの2以上の異なる大きさの撮像領域の所定範囲は、ユーザの入力部2の操作に基づいて任意に設定することもできる。
【0249】
また、撮像領域の所定範囲には、属性ラベルを設定することもできる。
【0250】
この属性ラベルとは、撮像領域の所定範囲について付与される情報であり、例えば、撮像領域の所定範囲を他の範囲と識別するための識別情報や、撮像領域の所定範囲を特徴づける情報等が該当する。
【0251】
ここで、撮像領域の所定範囲に、属性ラベルを設定した場合の例を、図22を用いて説明する。
【0252】
図22は、2以上の撮像領域の所定範囲に、属性ラベルを設定した場合の例を示す図である。
【0253】
図22に示すように、矩形領域100(2以上の撮像領域の所定範囲の一例)には、属性ラベル105が設定されている。なお、矩形領域100が示す撮像領域の所定範囲は、店舗において、低価格(価格が安い)の商品が陳列された場所を示している。そこで、属性ラベル105は、撮像領域の所定範囲を特徴づける情報として、「低価格」との情報が設定されている。
【0254】
同様に、矩形領域101〜矩形領域104には、属性ラベル106〜属性ラベル109が設定されている。
【0255】
属性ラベル106には、中価格(例えば、ユーザが購入しやすい手頃な価格)の商品が陳列された場所を示す「中価格」との情報が、属性ラベル107には、高価格(例えば、高価な商品)の商品が陳列された場所を示す「高価格」との情報が、属性ラベル108には、新しく発売された商品が陳列された場所を示す「新製品」との情報が、属性ラベル109には、店舗の入り口又は測定開始地点を示す「トリガ」との情報がそれぞれ設定されている。
【0256】
このように設定された属性ラベル105〜109は、例えば、表示部4に示される表示画像に表示される。この属性ラベル105〜109を見たユーザは、撮像領域の所定範囲の特徴を容易に把握することができる。
【0257】
また、上述した例では、移動状態算出部11は、第1の座標(小領域モデル)を用いて、この代表的な方向を算出するようになっているが、第2の座標系を用いて、代表的な方向を算出するようにしてもよい。
【0258】
ここで、第2の座標系について、図23を用いて説明する。
【0259】
図23は、第2の座標系を示す図である。
【0260】
図23に示すように、第2の座標系Uは、原点0を中心に、原点0を示す方向を示す方向軸a〜h(本願の所定の方向から原点を示す方向軸の一例)が、原点0を中心に互いに45°(本願の所定の角度の一例)離れて8つ(本願の複数の一例)設けられている。
【0261】
そして、移動状態算出部11は、撮像領域の所定範囲(例えば、矩形領域20)に存在するベクトル情報に含まれる移動終了点を、第2の座標系Uの原点に仮想的に移動する。そして、移動状態算出部11は、移動させたベクトル情報に含まれる方向が、第2の座標系Uにおける何れかの方向軸a〜hの近似する範囲に該当するか判定する。
【0262】
このように、移動状態算出部11は、第2の座標系Uを用いて、代表的な方向を算出することによって、ベクトル情報の移動終了点を基準に近似する範囲を判定するため、装置の処理負担を軽減しつつ、撮像領域の所定範囲内へ侵入する解析対象の動きを正確に解析することができる。
【0263】
また、上述した例では、解析対象が示す単位時間当たりのベクトル情報を、移動開始点及び移動終了点を結ぶ直線で算出したが、移動開始点又は移動終了点を通過する近似曲線(回帰直線)で算出するようにしてもよい。
【0264】
ここで、解析対象が示す単位時間当たりのベクトル情報を、近似曲線で算出した場合について、図24を用いて説明する。
【0265】
図24は、解析対象が示す単位時間当たりのベクトル情報を、近似曲線で算出した場合を示す概念図である。
【0266】
まず、解析対象が示す単位時間当たりのベクトル情報を算出するに際して、単位時間を5秒として想定する。
【0267】
図24に示すように、人H1が、位置としてV1s(x1、y1)からV5e(x6、y6)まで、5秒間で移動した場合(図の破線部で表わした矢印まで移動)を考える。この時、基準となるフレームで人H1が示す位置がV1s(x1、y1)であり、当該フレームから秒後のフレームで人H1が示す位置がV1e(x2、y2)と、さらに、1秒間隔で、人H1が示す位置がV3s(x3、y3)、V4s(x4、y4)、V5s(x5、y5)とそれぞれ特定されたものとする。なお、ある時間当たりの位置変化の移動終了点と、当該位置変化の次に算出される単位時間当たりの位置変化の移動開始点(例えば、V1eとV2s等)は同一の点を示す場合もあることは、図7を用いて既に説明したため、その説明を省略する。
【0268】
ここで、単位時間を5秒間とした場合のベクトル情報は、移動開始点V1s(x1、y1)又は、移動終了点V5e(x6、y6)の何れかを通過する、V1s(x1、y1)からV5e(x6、y6)における回帰直線を算出することによって求めることができる。
【0269】
この回帰直線の算出方法は公知の技術であるため、詳しい説明は省略するが、所謂、最小二乗法によって算出することができる。
【0270】
具体的には、n個の2変数データ(x1、y1)、(x2、y2)、・・・、(xi、yi)、・・・、(xn、yn)における回帰直線は、回帰直線を式(1)とすると、式(2)及び式(3)を式(1)へ代入することにより算出される。
【0271】
【数1】
【0272】
【数2】
【0273】
【数3】
本実施例においては、V1s(x1、y1)からV5e(x6、y6)における値を式(2)及び式(3)へ代入し、a及びbを算出し、式(1)の回帰直線を算出する。
【0274】
そして、こうして算出された回帰直線を、解析対象が示す単位時間当たりのベクトル情報として適用するようにしてもよい。
【0275】
このように単位時間当たりのベクトル情報を回帰直線で算出することによって、単位時間当たりのベクトル情報の移動開始点から移動終了点の間における位置変化も鑑みて当該ベクトル情報が算出されるため、より正確に解析対象の動きを把握することができる。
【0276】
なお、以上説明した実施形態は特許請求の範囲にかかる発明を限定するものではない。そして、上記実施形態の中で説明されている構成の組み合わせ全てが発明の課題解決に必須の手段であるとは限らない。
【0277】
また、図2及び図6に示すフローチャートに対応するプログラムをフレキシブルディスク又はハードディスク等の記録媒体に記録しておき、あるいはネットワークNTを介して取得して記憶しておき、これらを汎用のパーソナルコンピュータ等に読み出して実行させることにより、当該パーソナルコンピュータ等を上記実施形態にかかる画像解析装置SSのCPUが示す動作と同様に機能させることも可能である。
【0278】
以上説明したように、本実施形態においては、動画像として撮像された解析対象の動きを解析する画像解析装置SSは、撮像領域内を一定期間撮像した動画像を記憶する入力画像格納部5と、前記動画像に示される前記解析対象を検出する動体検出部6と、前記検出された解析対象が、前記撮像領域内で示す位置変化を算出し、動体IDと対応付けて位置座標記憶部8へ記憶する位置変化算出部7と、前記記憶された位置変化に基づいて、前記検出された解析対象が、前記撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として動体ID毎に算出するベクトル情報算出部9と、前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出部10と、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出部11と、前記算出された代表的な方向を、外部へ表示させる表示制御部12と、を備えるように構成したため、解析対象の動きをより正確に解析し、解析結果に対する把握性を向上させることができる。
【0279】
なお、上記実施形態においては、本願を画像解析装置SSに対して適用した場合の例を示したが、その他にも例えば、パーソナルコンピュータ又は家庭用等の電子機器等に対しても適用可能である。
【符号の説明】
【0280】
1 画像入力部
2 入力部
3 制御部
4 表示部
5 入力画像格納部
6 動体検出部
7 位置変化算出部
8 位置座標記憶部
9 ベクトル情報算出部
10 ベクトル情報抽出部
11 移動状態算出部
12 表示制御部
13 出力フレームメモリ
SS 画像解析装置
【特許請求の範囲】
【請求項1】
動画像として撮像された解析対象の動きを解析する画像解析装置であって、
撮像領域内を一定期間撮像した動画像を記憶する記憶手段と、
前記動画像に示される前記解析対象を検出する検出手段と、
前記検出された解析対象が、前記撮像領域内で示す位置変化を算出し、前記解析対象を他の解析対象と識別するための解析対象識別情報と対応付けて記憶する位置変化算出手段と、
前記記憶された位置変化に基づいて、前記検出された解析対象が、前記撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として解析対象識別情報毎に算出するベクトル情報算出手段と、
前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出手段と、
前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出手段と、
前記算出された代表的な方向を、外部へ表示させる表示制御手段と、
を備えることを特徴とする画像解析装置。
【請求項2】
請求項1に記載の画像解析装置であって、
前記ベクトル情報算出手段は、前記ベクトル情報として、前記解析対象の移動開始点を算出し、前記ベクトル情報に含まれる移動開始点に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出することを特徴とする画像解析装置。
【請求項3】
請求項1又は2に記載の画像解析装置であって、
前記ベクトル情報算出手段は、前記ベクトル情報として、前記解析対象の移動終了点を算出し、前記ベクトル情報に含まれる移動終了点に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出することを特徴とする画像解析装置。
【請求項4】
請求項1乃至3の何れか1項に記載の画像解析装置であって、
前記移動状態算出手段は、
前記抽出された所定範囲内に存在するベクトル情報に含まれる方向が、
原点を中心に所定の方向を示す方向軸が、当該原点を中心に所定の角度離れて複数設けられた第1の座標系における何れかの方向軸が示す方向と近似するかを判定し、
前記ベクトル情報に含まれる方向と、近似すると判定された方向軸が示す方向を、前記所定範囲内に存在するベクトル情報の代表的な方向と算出することを特徴とする画像解析装置。
【請求項5】
請求項1乃至4の何れか1項に記載の画像解析装置であって、
前記移動状態算出手段は、
前記抽出された所定範囲内に存在するベクトル情報に含まれる方向が、
所定の方向から原点を示す方向軸が、当該原点を中心に所定の角度離れて複数設けられた第2の座標系における何れかの方向軸が示す方向と近似するかを判定し、
前記ベクトル情報に含まれる方向と、近似すると判定された方向軸が示す方向を、前記所定範囲内に存在するベクトル情報の代表的な方向と算出することを特徴とする画像解析装置。
【請求項6】
請求項1乃至5の何れか1項に記載の画像解析装置であって、
前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、
前記表示制御手段は、前記算出された代表的な方向に属するベクトル情報の数量に応じて、前記外部へ表示させる代表的な方向の表示態様を変化させることを特徴とする画像解析装置。
【請求項7】
請求項1乃至6の何れか1項に記載の画像解析装置であって、
前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、
前記表示制御手段は、前記算出された代表的な方向に属するベクトル情報に含まれる位置変化の大きさに応じて、前記外部へ表示させる代表的な方向の表示態様を変化させることを特徴とする画像解析装置。
【請求項8】
請求項1乃至7の何れか1項に記載の画像解析装置であって、
前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、
前記表示制御手段は、
前記移動状態算出手段によって算出された代表的な方向に属するベクトル情報の数量が所定の閾値以上の場合に、当該算出された代表的な方向を、外部へ表示させることを特徴とする画像解析装置。
【請求項9】
請求項1乃至8の何れか1項に記載の画像解析装置であって、
前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、
前記表示制御手段は、
前記移動状態算出手段によって算出された代表的な方向に属するベクトル情報の数量が最も多い代表的な方向を抽出し、当該代表的な方向を外部へ表示させることを特徴とする画像解析装置。
【請求項10】
請求項1乃至9の何れか1項に記載の画像解析装置であって、
前記ベクトル情報抽出手段は、
前記ベクトル情報に含まれる位置に基づいて、少なくとも2以上の異なる大きさの撮像領域の所定範囲内に存在するベクトル情報を、撮像領域の所定範囲内毎に抽出し、
前記移動状態算出手段は、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の代表的な方向を、前記撮像領域の所定範囲内毎に算出することを特徴とする画像解析装置。
【請求項11】
請求項1乃至10の何れか1項に記載の画像解析装置であって、
前記ベクトル情報抽出手段は、前記撮像領域内を所定の大きさの領域に分割する分割領域に存在するベクトル情報を、各分割領域毎に算出し、
前記移動状態算出手段は、前記分割領域毎に算出されたベクトル情報に基づいて、前記一又は複数の代表的な方向を、各分割領域毎に算出し、
前記表示制御手段は、前記算出された各分割領域に対応する一又は複数の代表的な方向を、当該各分割領域に表示させることを特徴とする画像解析装置。
【請求項12】
請求項11に記載の画像解析装置であって、
所定の数量の前記分割領域を一つの領域としてまとめた中領域とし、各中領域毎に算出される代表的な方向の数量が予め設定されており、
前記移動状態算出手段は、前記中領域毎に設定された数量に応じて、前記中領域に属する小領域毎に、一又は複数の代表的な方向を算出し、
前記表示制御手段は、前記算出された中領域の属する小領域毎に、一又は複数の代表的な方向を、当該小領域に表示させることを特徴とする画像解析装置。
【請求項13】
請求項1乃至12の何れか1項に記載の画像解析装置であって、
前記撮像領域の所定範囲内を任意に設定可能な入力手段をさらに備えることを特徴とする画像解析装置。
【請求項14】
動画像に撮像された解析対象の動きを解析する画像解析装置における画像解析方法であって、
撮像領域内を一定期間撮像した動画像を記憶する記憶工程と、
前記動画像に示される前記解析対象を検出する検出工程と、
前記検出された解析対象が、前記撮像領域内で示す位置変化を算出し、前記解析対象を他の解析対象と識別するための解析対象識別情報と対応付けて記憶する位置変化算出工程と、
前記記憶された位置変化に基づいて、前記検出された解析対象が、前記撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として解析対象識別情報毎に算出するベクトル情報算出工程と、
前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出工程と、
前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出工程と、
前記算出された代表的な方向を、外部へ表示させる表示制御工程と、
を有することを特徴とする画像解析方法。
【請求項15】
動画像に撮像された解析対象の動きを解析する画像解析装置に含まれるコンピュータを、
撮像領域内を一定期間撮像した動画像を記憶する記憶手段、
前記動画像に示される前記解析対象を検出する検出手段、
前記検出された解析対象が、前記撮像領域内で示す位置変化を算出し、前記解析対象を他の解析対象と識別するための解析対象識別情報と対応付けて記憶する位置変化算出手段、
前記記憶された位置変化に基づいて、前記検出された解析対象が、前記撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として解析対象識別情報毎に算出するベクトル情報算出手段、
前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出手段、
前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出手段、
前記算出された代表的な方向を、外部へ表示させる表示制御手段、
として機能させることを特徴とする画像解析プログラム。
【請求項16】
請求項15に記載の画像処理プログラムがコンピュータ読み取り可能に記録されていることを特徴とする記録媒体。
【請求項1】
動画像として撮像された解析対象の動きを解析する画像解析装置であって、
撮像領域内を一定期間撮像した動画像を記憶する記憶手段と、
前記動画像に示される前記解析対象を検出する検出手段と、
前記検出された解析対象が、前記撮像領域内で示す位置変化を算出し、前記解析対象を他の解析対象と識別するための解析対象識別情報と対応付けて記憶する位置変化算出手段と、
前記記憶された位置変化に基づいて、前記検出された解析対象が、前記撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として解析対象識別情報毎に算出するベクトル情報算出手段と、
前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出手段と、
前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出手段と、
前記算出された代表的な方向を、外部へ表示させる表示制御手段と、
を備えることを特徴とする画像解析装置。
【請求項2】
請求項1に記載の画像解析装置であって、
前記ベクトル情報算出手段は、前記ベクトル情報として、前記解析対象の移動開始点を算出し、前記ベクトル情報に含まれる移動開始点に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出することを特徴とする画像解析装置。
【請求項3】
請求項1又は2に記載の画像解析装置であって、
前記ベクトル情報算出手段は、前記ベクトル情報として、前記解析対象の移動終了点を算出し、前記ベクトル情報に含まれる移動終了点に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出することを特徴とする画像解析装置。
【請求項4】
請求項1乃至3の何れか1項に記載の画像解析装置であって、
前記移動状態算出手段は、
前記抽出された所定範囲内に存在するベクトル情報に含まれる方向が、
原点を中心に所定の方向を示す方向軸が、当該原点を中心に所定の角度離れて複数設けられた第1の座標系における何れかの方向軸が示す方向と近似するかを判定し、
前記ベクトル情報に含まれる方向と、近似すると判定された方向軸が示す方向を、前記所定範囲内に存在するベクトル情報の代表的な方向と算出することを特徴とする画像解析装置。
【請求項5】
請求項1乃至4の何れか1項に記載の画像解析装置であって、
前記移動状態算出手段は、
前記抽出された所定範囲内に存在するベクトル情報に含まれる方向が、
所定の方向から原点を示す方向軸が、当該原点を中心に所定の角度離れて複数設けられた第2の座標系における何れかの方向軸が示す方向と近似するかを判定し、
前記ベクトル情報に含まれる方向と、近似すると判定された方向軸が示す方向を、前記所定範囲内に存在するベクトル情報の代表的な方向と算出することを特徴とする画像解析装置。
【請求項6】
請求項1乃至5の何れか1項に記載の画像解析装置であって、
前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、
前記表示制御手段は、前記算出された代表的な方向に属するベクトル情報の数量に応じて、前記外部へ表示させる代表的な方向の表示態様を変化させることを特徴とする画像解析装置。
【請求項7】
請求項1乃至6の何れか1項に記載の画像解析装置であって、
前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、
前記表示制御手段は、前記算出された代表的な方向に属するベクトル情報に含まれる位置変化の大きさに応じて、前記外部へ表示させる代表的な方向の表示態様を変化させることを特徴とする画像解析装置。
【請求項8】
請求項1乃至7の何れか1項に記載の画像解析装置であって、
前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、
前記表示制御手段は、
前記移動状態算出手段によって算出された代表的な方向に属するベクトル情報の数量が所定の閾値以上の場合に、当該算出された代表的な方向を、外部へ表示させることを特徴とする画像解析装置。
【請求項9】
請求項1乃至8の何れか1項に記載の画像解析装置であって、
前記ベクトル情報抽出手段は、少なくとも2以上のベクトル情報を抽出し、
前記表示制御手段は、
前記移動状態算出手段によって算出された代表的な方向に属するベクトル情報の数量が最も多い代表的な方向を抽出し、当該代表的な方向を外部へ表示させることを特徴とする画像解析装置。
【請求項10】
請求項1乃至9の何れか1項に記載の画像解析装置であって、
前記ベクトル情報抽出手段は、
前記ベクトル情報に含まれる位置に基づいて、少なくとも2以上の異なる大きさの撮像領域の所定範囲内に存在するベクトル情報を、撮像領域の所定範囲内毎に抽出し、
前記移動状態算出手段は、前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の代表的な方向を、前記撮像領域の所定範囲内毎に算出することを特徴とする画像解析装置。
【請求項11】
請求項1乃至10の何れか1項に記載の画像解析装置であって、
前記ベクトル情報抽出手段は、前記撮像領域内を所定の大きさの領域に分割する分割領域に存在するベクトル情報を、各分割領域毎に算出し、
前記移動状態算出手段は、前記分割領域毎に算出されたベクトル情報に基づいて、前記一又は複数の代表的な方向を、各分割領域毎に算出し、
前記表示制御手段は、前記算出された各分割領域に対応する一又は複数の代表的な方向を、当該各分割領域に表示させることを特徴とする画像解析装置。
【請求項12】
請求項11に記載の画像解析装置であって、
所定の数量の前記分割領域を一つの領域としてまとめた中領域とし、各中領域毎に算出される代表的な方向の数量が予め設定されており、
前記移動状態算出手段は、前記中領域毎に設定された数量に応じて、前記中領域に属する小領域毎に、一又は複数の代表的な方向を算出し、
前記表示制御手段は、前記算出された中領域の属する小領域毎に、一又は複数の代表的な方向を、当該小領域に表示させることを特徴とする画像解析装置。
【請求項13】
請求項1乃至12の何れか1項に記載の画像解析装置であって、
前記撮像領域の所定範囲内を任意に設定可能な入力手段をさらに備えることを特徴とする画像解析装置。
【請求項14】
動画像に撮像された解析対象の動きを解析する画像解析装置における画像解析方法であって、
撮像領域内を一定期間撮像した動画像を記憶する記憶工程と、
前記動画像に示される前記解析対象を検出する検出工程と、
前記検出された解析対象が、前記撮像領域内で示す位置変化を算出し、前記解析対象を他の解析対象と識別するための解析対象識別情報と対応付けて記憶する位置変化算出工程と、
前記記憶された位置変化に基づいて、前記検出された解析対象が、前記撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として解析対象識別情報毎に算出するベクトル情報算出工程と、
前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出工程と、
前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出工程と、
前記算出された代表的な方向を、外部へ表示させる表示制御工程と、
を有することを特徴とする画像解析方法。
【請求項15】
動画像に撮像された解析対象の動きを解析する画像解析装置に含まれるコンピュータを、
撮像領域内を一定期間撮像した動画像を記憶する記憶手段、
前記動画像に示される前記解析対象を検出する検出手段、
前記検出された解析対象が、前記撮像領域内で示す位置変化を算出し、前記解析対象を他の解析対象と識別するための解析対象識別情報と対応付けて記憶する位置変化算出手段、
前記記憶された位置変化に基づいて、前記検出された解析対象が、前記撮像領域内で示す単位時間当たりの位置変化を、前記撮像領域内における位置及び方向を含むベクトル情報として解析対象識別情報毎に算出するベクトル情報算出手段、
前記ベクトル情報に含まれる位置に基づいて、前記撮像領域の所定範囲内に存在するベクトル情報を抽出するベクトル情報抽出手段、
前記抽出された所定範囲内に存在するベクトル情報に含まれる方向に基づいて、当該所定範囲内に存在するベクトル情報の一又は複数の代表的な方向を算出する移動状態算出手段、
前記算出された代表的な方向を、外部へ表示させる表示制御手段、
として機能させることを特徴とする画像解析プログラム。
【請求項16】
請求項15に記載の画像処理プログラムがコンピュータ読み取り可能に記録されていることを特徴とする記録媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【公開番号】特開2012−234285(P2012−234285A)
【公開日】平成24年11月29日(2012.11.29)
【国際特許分類】
【出願番号】特願2011−101522(P2011−101522)
【出願日】平成23年4月28日(2011.4.28)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
【公開日】平成24年11月29日(2012.11.29)
【国際特許分類】
【出願日】平成23年4月28日(2011.4.28)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
[ Back to top ]