監視装置
【構成】監視装置10は、ショッピングモールに設置されるLRF(12)を備える。ショッピングモール内の人間は、LRF(12)を利用して局所行動が検出され、位置情報DB(20)に蓄積される。監視装置10は、1時間毎に局所行動を読み出して、クラスタリング地図を作成し地図DB(22)に蓄積する。さらに、管理装置10は、10分毎に局所行動を読み出してクラスタリング地図を作成し、異なる日付で、同じ時刻に検出された局所行動を含むクラスタリング地図を読み出す。2つのクラスタリング地図は空間グリッド毎に差分が算出され、監視装置10は算出された差分が閾値以上であれば異常を通知する。
【効果】管理者は、異なる時間の局所行動を表わす2つのクラスタリング地図を比較することで異常を通知する監視装置10を利用して、ショッピングモールを大局的に監視できるようになる。
【効果】管理者は、異なる時間の局所行動を表わす2つのクラスタリング地図を比較することで異常を通知する監視装置10を利用して、ショッピングモールを大局的に監視できるようになる。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、監視装置に関し、特にたとえば複数の人間が任意に行動する場所を監視する、監視装置に関する。
【背景技術】
【0002】
特許文献1に開示されている、見守りシステムには、見守り対象者の行動を、赤外線人感センサなどの設置型センサ、CCDカメラなどの画像センサ、電気ポットなどに組み込まれた組み込み型センサ、生活着に装着される加速度センサなどの装着センサおよびガスなどのユーティリティの使用状況を計測するユーティリティセンサなどによって検出する。そして、各センサによって検出されたデータから見守り対象者の異常が検出されると、検出された異常の緊急度に応じて、予め設定された送信許可データが伝送される。
【0003】
また、非特許文献1に開示されている環境情報構造化システムには、自律行動によって人間に近づきサービスを開始することができるロボットが含まれ、そのロボットの活動範囲内に設けられるLRF(レーザーレンジファインダ)を利用して人間の歩行軌跡を計測し、その歩行軌跡から、複数の局所行動を認識する。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2002−261981号公報[H04M 11/04, G08B 25/04, G08B 25/08, H04N 7/18]
【非特許文献】
【0005】
【非特許文献1】Takayuki Kanda, Dylan F. Glas, Masahiro Shiomi, Hiroshi Ishiguro and Norihiro Hagita, Who will be the customer?: A social robot that anticipates people’s behavior from their trajectories, Tenth International Conference on Ubiquitous Computing (UbiComp 2008), pp.380-389, 2008
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかし、特許文献1に示す背景技術では、特定の個人を対象としたものであり、複数の人間が任意に行動する広い場所を見守るシステムではない。また、非特許文献1では、人間の局所行動を取得して空間をクラスタリングすることができるが、そのようなクラスタリング技術を監視装置と組み合わせる技術はこれまで実現されていない。
【0007】
それゆえに、この発明の主たる目的は、新規な、監視装置を提供することである。
【0008】
この発明の他の目的は、複数の人間が居る場所を監視することができる、監視装置を提供することである。
【課題を解決するための手段】
【0009】
この発明は、上記の課題を解決するために、以下の構成を採用した。なお、括弧内の参照符号および補足説明等は、この発明の理解を助けるために記述する実施形態との対応関係を示したものであって、この発明を何ら限定するものではない。
【0010】
第1の発明は、複数の人間が任意に行動する場所を監視する監視装置であって、場所における複数の人間それぞれの局所行動を検出する検出手段、検出手段によって検出された第1所定時間分の局所行動をクラスタリングして第1地図を作成する第1地図作成手段、検出手段によって検出された第2所定時間分の局所行動をクラスタリングして第2地図を作成する第2地図作成手段、および第1地図および第2地図における相当するエリア内において異なる属性の位置が存在するとき、異常を通知する通知手段を備える、監視装置である。
【0011】
第1の発明では、監視装置(10)は、たとえばショッピングモールなど、複数の人間が任意に行動する場所を監視する。検出手段(12,16,S3)は、監視する場所に設けられるLRF12などによって人間の歩行軌跡を検出し、その歩行軌跡から局所行動を検出する。また、第1所定時間とは1時間であり、第1地図作成手段(16,S15)は、現在時刻と同じ時刻であり、かつ1週間前に検出された、一時間分の局所行動をクラスタリングすることで第1地図を作成する。さらに、第2所定時間とは10分であり、第2地図作成手段(16,S35)は、たとえば現在時刻から過去10分間の局所行動をクラスタリングすることで、第2地図を作成する。そして、通知手段(16,S47)は、第1地図および第2地図における相当するエリア内において異なる属性の位置が存在する場合に、異常を通知する。
【0012】
第1の発明によれば、異なる日付で、同じ時刻に検出される局所行動を表わす地図を作成し、比較することで異常を発見できる。これにより、管理者は、多くの人間が同時に利用する場所を大局的に監視できるようになる。
【0013】
第2の発明は、第1の発明に従属し、エリアの属性は、個々の空間グリッド毎の局所行動のヒストグラムから求められ、相当するエリア内の空間グリッド毎のヒストグラムの差分を算出する算出手段をさらに備え、通知手段は、算出手段によって算出された差分が所定値以上であるとき、異常を通知する。
【0014】
第2の発明では、第1地図および第2地図は、空間グリッド化されており、エリアの属性は、そのエリアで最も多く検出される局所行動であり、空間グリッド毎に検出される局所行動のヒストグラムから求めることができる。算出手段(16,S43)は、空間グリッド毎に局所行動のヒストグラムの差分(Diff)を算出する。そして、通知手段は、算出された差分が所定値(閾値th)以上であるときに、異常を通知する。
【0015】
第2の発明によれば、管理者は、閾値を任意に変更することで、監視装置が異常を通知する頻度を調節できるようになる。
【0016】
第3の発明は、第1の発明または第2の発明に従属し、画像を表示可能な表示装置(24)をさらに備え、通知手段は、表示装置に異常報知画像を表示することで異常を通知する。
【0017】
第3の発明では、表示装置(24)は、たとえばLCDであり、監視装置の操作画面(200)を表示する。そして、通知手段は、その操作画面に異常通知画像を表示する。
【0018】
第3の発明によれば、管理者は、複数のカメラによる複数の画面ではなく、1つの画面に表示される異常通知画像を参照することで、大局的な監視を容易に行うことができるようになる。
【発明の効果】
【0019】
この発明によれば、管理者は、異なる日付で、同じ時刻に検出される局所行動を表わす2つの地図を比較することで異常を通知する監視装置を利用して、多くの人間が同時に利用する場所を大局的に監視できるようになる。
【0020】
この発明の上述の目的、その他の目的、特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
【図面の簡単な説明】
【0021】
【図1】図1はこの発明の監視装置の概要を示す図解図である。
【図2】図2は図1に示す監視装置の電気的な構成を示すブロック図である。
【図3】図3は図1および図2に示すLRFの計測領域を示す図解図である。
【図4】図4は図1および図2に示すLRFを利用して取得された人間の歩行軌跡の一例を示す図解図である。
【図5】図5は図2に示すCPUによって検出される局所行動と対応する歩行軌跡の一例を示す図解図である。
【図6】図6は図1に示すLRFが設置される或る場所の地図を示す図解図である。
【図7】図7は図2に示す位置情報DBおよび地図DBに記憶されるデータの一例を示す図解図である。
【図8】図8はCPUによって作成されるクラスタリング地図の一例を示す図解図である。
【図9】図9は図2に示すLCDに表示されるクラスタリング地図の一例を示す図解図である。
【図10】図10は図2に示すメモリのメモリマップの一例を示す図解図である。
【図11】図11は図2に示すCPUの位置情報記録処理を示すフロー図である。
【図12】図12は図2に示すCPUの地図記録処理を示すフロー図である。
【図13】図13は図2に示すCPUの監視処理を示すフロー図である。
【発明を実施するための形態】
【0022】
図1を参照して、この実施例の監視装置10は、LRF12a,12bを含む数台のLRFを備え、LRF12a,12bは人間Aを含む多くの人間が任意に行動できる場所に設置される。そして、監視装置10はLRF12a,12bを利用して人間Aの位置を検出することで、LRF12a,12bが設置される場所を監視する。また、人間Aが任意に行動できる場所とは、会社のフロア、博物館、ショッピングモールまたはアトラクション会場などであり、LRF12a,12bは様々な場所(環境)に設置される。
【0023】
なお、ここでは簡単のため人間は1人しか示していないが、監視装置10は2人以上の位置を同時に検出することができる。
【0024】
図2は監視装置10の電気的な構成を示すブロック図である。この図2を参照して、監視装置10は、LRF12a−12fおよびCPU16を含む。このCPU16は、マイクロコンピュータ或いはプロセサとも呼ばれ、先述したLRF12aおよびLRF12bに加えて、LRF12c,LRF12d,LRF12eおよびLRF12fともそれぞれ接続される。さらに、CPU16は、メモリ18、位置情報DB20、地図DB22、LCD24および入力装置26ともそれぞれ接続される。なお、LRF12a−12fを区別する必要がない場合には、まとめて「LRF12」と言う。
【0025】
LRF12は、レーザーを照射し、物体(人間も含む)に反射して戻ってくるまでの時間から当該物体ための距離を計測するものである。たとえば、トランスミッタ(図示せず)から照射したレーザーを回転ミラー(図示せず)で反射させて、前方を扇状に一定角度(たとえば、0.5度)ずつスキャンする。ここで、LRF12としては、SICK社製のレーザーレンジファインダ(型式 LMS200)を用いることができる。このレーザーレンジファインダを用いた場合には、距離8mを±15mm程度の誤差で計測可能である。
【0026】
メモリ18は、図示は省略をするが、ROM,HDDおよびRAMを含み、ROMおよびHDDには、監視装置10の動作を制御するための制御プログラムが予め記憶される。たとえば、LRF12による人間の検出に必要なプログラムなどが記録される。また、RAMは、ワークメモリやバッファメモリとして用いられる。
【0027】
位置情報データベース(位置情報DB)20は、LRF12によって検出された人間の位置と局所的な行動(局所行動)とを蓄積するためのデータベースであり、HDDのような記憶媒体を用いて構成される。なお、人間の値は、x−y座標で示される。
【0028】
地図データベース(地図DB)22は、1時間毎(第1所定時間)に作成されるクラスタリング地図(図8参照)を蓄積するためのデータベースであり、位置情報DB20と同様にHDDのような記憶媒体を用いて構成される。
【0029】
表示装置であるLCD24は、監視装置10の操作画面(図10参照)を表示し、その操作画面には監視している場所を示す地図などが含まれる。また、入力装置26はマイクや、マウスおよびキーボード(図示せず)から構成される。たとえば、管理者はLCD24に表示された操作画面を見ながら、マウスなどを使って監視装置10を操作する。
【0030】
次にLRF12について詳細に説明する。図3を参照して、LRF12の計測範囲は、半径R(R≒8m)の半円形状(扇形)で示される。つまり、LRF12は、その正面方向を中心とした場合に、左右90°の方向を所定の距離(R)以内で計測可能である。
【0031】
また、使用しているレーザーは、日本工業規格 JIS C 6802「レーザー製品の安全基準」におけるクラス1レーザーであり、人の眼に対して影響を及ぼさない安全なレベルである。また、この実施例では、LRF12のサンプリングレートを37Hzとした。これは、歩行するなどにより移動する人間の位置を連続して検出するためである。
【0032】
さらに、先述したように、LRF12は、様々な場所に配置される。たとえば、LRF12a−12fの各々は、検出領域が重なるように配置され、図示は省略するが、床面から約90cmの高さに固定される。この高さは、被験者の胴体と腕(両腕)とを検出可能とするためであり、たとえば、日本人の成人の平均身長から算出される。したがって、監視装置10を設ける場所(地域ないし国)や被験者の年齢ないし年代(たとえば、子供,大人)に応じて、LRF12を固定する高さを適宜変更するようにしてよい。なお、本実施例では、設定されるLRF12は6台としたが、2台以上であれば、任意の台数のLRF12を設置してもよい。
【0033】
このような構成の監視装置10では、CPU16がLRF12からの出力(距離データ)に基づいて、パーティクルフィルタを用いて、人間の現在位置の変化を推定する。そして、推定された現在位置の変化は歩行軌跡として記録される。
【0034】
たとえば、図4を参照して、LRF12a,12bは互いに向い合せに設置され、LRF12a,12bの計測範囲が重なる範囲は斜線が付されて示される。斜線が付された範囲は検出領域Eとされ、この検出領域E内では人間の現在位置が連続的に検出される。そして、連続的に検出された現在位置のデータは歩行軌跡として示され、たとえば歩行軌跡Kaおよび歩行軌跡Kbのように示される。なお、歩行軌跡Ka,Kbを区別する必要がない場合には、まとめて「歩行軌跡K」と言う。
【0035】
ここで、本実施例では、SVM(Support Vector Machine)によって人間の歩行軌跡Kから人間の歩き方の判別を行い、監視装置10は、局所行動を検出する。なお、SVMによる判別手法については、広く一般的な方法であるため、ここでは詳細な説明を省略する。
【0036】
まず、歩行軌跡Kは特徴量データが抽出される。具体的には、歩行軌跡Kは、左側中央が始点となるように方向の正規化処理が施され、方向の正規化後の歩行軌跡Kと囲む長方形の幅(縦軸方向)および長さ(横軸方向)が算出される。また、歩行軌跡Kは近似する折れ線に変換され、連続する2つの直線のなす角がそれぞれ算出される。さらに、歩行軌跡Kにおける一定時間毎の変化量を時間で微分することで、移動軌跡Kの速度が算出される。そして、このように求められた、歩行軌跡Kの終点、歩行軌跡Kを囲む長方形の幅と長さ、歩行軌跡Kのなす角度および速度のそれぞれが歩行軌跡Kの特徴量データとされる。
【0037】
次に、特徴量データに対してラベル付けし、ラベル付けされた特徴量データをSVMに学習させる。以下、特徴量データに対するラベル付けおよびSVMの学習について詳細に説明する。
【0038】
本実施例では、特徴量データをラベル付けするために、「歩き方」、「歩く速さ」、「短時間の歩き方」および「短時間の歩く速さ」の4つのクラスを定義する。「歩き方」のクラスは、「まっすぐ」、「右に曲がる」、「左に曲がる」、「うろうろする」、「Uターン」および「不明」の6つのカテゴリから構成され、5.1秒の歩行軌跡Kから抽出される特徴量データがラベル付けされる。そして、SVMにはラベル付けされた226個の特徴量データを学習させる。また、「歩く速さ」のクラスは、「走っている」、「忙しく歩く」、「ゆっくり歩く」、「止まっている」および「待っている」の5つのカテゴリから構成され、4.9秒の歩行軌跡Kから抽出される特量データがラベル付けされる。そして、SVMにはラベル付けされた166個の特徴量データを学習させる。
【0039】
「短時間の歩き方」のクラスは、「歩き方」と類似するカテゴリから構成さる。そして、SVMには、2.1秒の歩行軌跡Kであり、かつ「うろうろする」のカテゴリを除いた、150個の特徴量データをSVMに学習させる。「短時間の歩く速さ」のクラスは、「歩く速さ」と類似するカテゴリから構成される。そして、SVMには、2.2秒の歩行軌跡Kであり、かつ「待っている」のカテゴリを除いた、159の特徴量データを学習させる。
【0040】
そして、監視装置10では、このように学習したSVMによって検出される歩行軌跡Kから局所行動を判別し、判別結果をマージする。具体的には、「歩き方」のクラスでは「右に曲がる」、「左に曲がる」および「Uターン」を「うろうろする」にマージし、「歩く速さ」のクラスでは「待っている」を「止まっている」にマージする。さらに、「短時間の歩き方」のクラスは「歩き方」のクラスにマージされ、「短時間の歩く速さ」のクラスは「歩く速さ」のクラスにマージされる。これにより、監視装置10は、「忙しく歩く」、「ゆっくり歩く」、「うろうろする」および「止まっている」の4つの局所行動を検出することができるようになる。
【0041】
このように検出された各局所行動のそれぞれに対応する歩行軌跡Kを図5(A)−図5(D)に示す。図5(A)は「忙しく歩く」の局所行動の一例を示しており、歩行軌跡Kの形状が直線的であり、始点と終点との距離が長い。また、図5(B)は「ゆっくり歩く」の局所行動の一例を示しており、歩行軌跡Kの形状が直線的ではあるが、始点と終点との距離が短い。また、図5(C)は「うろうろする」の局所行動の一例を示しており、歩行軌跡Kが約90度以下で2回曲がっている。そして、図5(D)は「止まっている」の局所行動の一例を示しており、歩行軌跡Kにおける始点と終点とがほぼ変わらない位置にある。
【0042】
ここで、本実施例では、時刻tに検出されるn人(n:自然数)の位置情報を、位置情報Pn(t)と表わし、この位置情報Pn(t)は人間の位置(x、y)に加え、4種類の局所行動の有無を表わすブール変数b1−b4を含むものと定義する。そして、位置情報DB20には、位置情報Pn(t)が記録される。また、位置情報Pn(t)は、数1に示す式で表すことができる。
【0043】
[数1]
Pn(T)={x,y,b1,b2,b3,b4}
ここで、ブール変数b1は「忙しく歩く」の有無を表わし、ブール変数b2は「ゆっくり歩く」の有無を表わし、ブール変数b3は「うろうろする」の有無を表わし、ブール変数b4は「止まっている」の有無を表わす。
【0044】
なお、歩行軌跡Kから抽出される特徴量は4つだけに限らず、加重方向指数ヒストグラム法などによって抽出された特徴量が用いられてもよい。さらに、汎用性を高めるために、判別結果が全くマージされなくてもよし、マージされる判別結果が減らされてもよい。そして、検出される局所行動に応じてブール変数の数も変化するため、位置情報Pn(t)が含むブール変数の数も変化する。また、本実施例におけるブール変数b1−b4のそれぞれは、0〜100までの値をとる。
【0045】
次に、LRF12によって人間の位置を検出可能な空間(検出領域E)を、25cm四方で空間グリッド化する。ここで、監視装置10は、位置情報DB20に記録される位置情報Pn(t)を読み出すことで、或る時刻tの空間グリッドiにおいて、空間グリッドi内の局所行動の生起回数を集計することができる。そして、その集計結果として、「忙しく歩く」、「ゆっくり歩く」、「うろうろする」および「止まっている」の局所行動それぞれに対応する、ヒストグラムH1(i,t)、ヒストグラムH2(i,t)、ヒストグラムH3(i,t)およびヒストグラムH4(i,t)のそれぞれが算出される。
【0046】
たとえば、検出領域Eが図6(A)に示す地図に対応する場所(本実施例ではショッピングモール)に含まれる場合に、短時間の集計によって得られたヒストグラムに基づき、局所行動を空間グリッドi毎に視覚化すると図6(B)に示す局所行動地図のようになる。図6(B)を参照して、局所行動が検出された空間グリッドiには、検出された局所行動に対応する色が彩色され、局所行動が検出されていない空間グリッドiは何も彩色されない。たとえば、青色(図6(B)では、濃い右斜線で示す)に彩色された空間グリッドiは局所行動が「忙しく歩く」を示し、緑色(図6(B)では、濃い左斜線で示す)に彩色された空間グリッドiは局所行動が「ゆっくり歩く」を示し、桃色(図6(B)では、薄い右斜線で示す)に彩色された空間グリッドiは局所行動が「うろうろする」を示し、茶色(図6(B)では、網掛けで示す)に彩色された空間グリッドiは、局所行動が「止まっている」を示す。なお、図6(A)の地図に示される「案内図」と「店舗」とは、図6(B)、後述する図7(A)、図7(B)および図8(A)、図8(B)では省略する。
【0047】
そして、本実施例では、全ての空間グリッドiに対して4種類の局所行動のヒストグラムを算出した後に、類似する空間グリッドを周知のISODATA法によりクラスタリングし、クラスタリング地図を作成する。具体的には、ヒストグラムH1−H4から空間グリッドiと隣接する空間グリッドjの類似度をそれぞれ算出し、類似度が近い空間グリッドiと隣接する空間グリッドjとを併合して空間パーティション(エリア)を作成する。また、空間グリッドiと隣接する空間グリッドjの類似度は数2に示す式から算出される。
【0048】
【数2】
【0049】
たとえば、図7(A)を参照して、時間S1(時刻t1、時刻t2、時刻t3,…)分の位置情報Pn(t)を位置情報DB20から読み出し、各空間グリッドをクラスタリングすると、図7(B)に示すクラスタリング地図が作成される。なお、図7(A)では、読み出された位置情報Pn(t)を局所行動地図として表わす。
【0050】
図7(B)を参照して、時間S1分の位置情報Pn(t)に基づいて作成されたクラスタリング地図では、青色のエリアは「忙しく歩く」の局所行動を属性として持っており、この青色のエリアでは人々が早歩きで歩き去る。たとえば、この青色のエリアは通路などに多く設定されている。緑色のエリアは「ゆっくり歩く」の局所行動を属性として持っており、この緑色のエリアでは人々はゆっくり歩く。たとえば、緑色のエリアは店舗の前に比較的近い処や、案内図の前などに設定されている。桃色のエリアは「うろうろする」の局所行動を属性として持っており、この桃色のエリアでは人々はうろうろする。たとえば、この桃色のエリアは店舗の前に設定されている。茶色のエリアは「止まっている」の局所行動を属性として持っており、この茶色のエリアでは人々は立ち止まっている。たとえば、この茶色のエリアはベンチ(図示せず)の周辺や、店舗の前の一部に設定されている。
【0051】
また、図7(B)に示す時間S1、時間S2および時間S3は、同じ時間幅(1時間)ではあるが、時刻が異なる。たとえば、時間S1は14時から15時までの1時間であり、時間S2は15時から16時までの1時間であり、時間S3は16時から17時までの1時間である。
【0052】
なお、地図DB22には、約2週間分のクラスタリング地図が記録される。また、地図DB22に記憶されるクラスタリング地図には、各空間グリッドのヒストグラムH1−H4も併せて記憶され、さらにクラスタリング地図が作成された時刻などの時間情報が付加される。
【0053】
ここで、本実施例では、過去の同じ曜日の同じ時刻に記録されたクラスタリング地図と、現在のクラスタリング地図とを比較することで、ショッピングモール内の異常を検出する。
【0054】
具体的には、監視装置10は、現在時刻から過去10分間(第2所定時間)の位置情報Pn(t)を読み出し、クラスタリング地図を作成する。さらに、監視装置10は、同じ時刻を含み1週間前に作成された過去のクラスタリング地図を読み出す。監視装置10は、読み出した過去のクラスタリング地図(第1地図)と作成した現在のクラスタリング地図(第2地図)において、空間グリッドi毎にヒストグラムH1−H4の差分Diffを算出し、その差分が閾値(所定値)th以上であるか否かを判断する。そして、差分Diffが閾値th以上である場合に、LCD24に異常報知画像を表示させる。また、差分Diffは、数3に示す式によって算出される。なお、数3では、現在のクラスタリング地図におけるヒストグラムをヒストグラムHNとし、過去のクラスタリング地図におけるヒストグラムをヒストグラムHPとする。
【0055】
【数3】
【0056】
図8(A)および図8(B)は、過去のクラスタリング地図および現在のクラスタリング地図である。たとえば、図8(A)に示す過去のクラスタリング地図は、2月20日(金)の13時から14時までの1時間の位置情報Pn(t)から作成されたクラスタリング地図であり、地図DB22から読み出される。一方、図8(B)現在のクラスタリング地図は、2月27日(金)の13時10分から過去10分間の位置情報Pn(t)から作成されたクラスタリング地図である。
【0057】
ここで、過去のクラスタリング地図におけるエリアG1と現在のクラスタリング地図におけるエリアG1’とは同じ属性ではあるが、エリアの形状が異なる。つまり、エリアG1’は「止まっている」の属性を持つエリアBRを囲っているが、エリアG1は、エリアBRを囲っていない。そのため、図8(B)に示すエリアBRを構成する空間グリッドの差分Diffは閾値th以上の値となり、図9に示す異常報知画像が操作画面200内に表示される。
【0058】
なお、閾値thは、各ヒストグラムH1−H4の標準偏差に基づいて算出される。また、差分Diffは、空間グリッド毎に算出したが、エリア毎に算出してもよく、この場合は、エリアを構成する全ての空間グリッドの差分の総和を算出し、その総和を差分Diffとする。
【0059】
図9を参照して、LCD24に表示される操作画面200には、時刻表示202、異常表示204および地図表示206が含まれる。時刻表示202はCPU16が含むRTCが出力する現在日時であり、たとえば「2009年 2月27日(金) 13時10分」と表示される。異常表示204は、異常が検出されたときに、異常を検出したことを報知する文字列を表示し、たとえば「異常発生」の文字列が表示される。なお、異常表示204は、異常を検出しない場合には何も表示されない。
【0060】
そして、地図表示206は、たとえば図8(B)に示すようなクラスタリング地図が表示される。また、異常を検出した状態では、表示されるクラスタリング地図に、異常を検出したエリアが異常エリアAEとして示され、エリアの境界線が太線で表示される。たとえば、図9では、図8(B)で示したエリアBRが異常エリアAEとして表示される。
【0061】
たとえば、「止まっている」の属性を持つエリアが異常エリアAEである場合には、そのエリア内で人が倒れている場合や、歩行者同士での喧嘩が起きていると推測される。また、「忙しく歩く」の属性を持つエリアが異常エリアAEである場合には、不審物が発見されたり、不審者による騒動が起きたりして、歩行者が逃げていることが推測される。また、「うろうろする」の属性を持つエリアが異常エリアAEである場合には、迷子が居ると推測される。
【0062】
このように、管理者は、異常エリアAEの属性を見ることで、どのような異常であるかを推測することが可能になる。また、管理者は、複数のカメラによる複数の画面ではなく、1つの画面に表示される異常表示204および地図表示206を参照することで、大局的な監視を容易に行うことができるようになる。
【0063】
図10は、図2に示すメモリ18のメモリマップ300の一例を示す図解図である。図10に示すように、メモリ18はプログラム記憶領域302およびデータ記憶領域304を含む。プログラム記憶領域302には、位置情報記録プログラム312、地図記録プログラム314および監視プログラム316が記憶される。
【0064】
位置情報記録プログラム312は、たとえばショッピングモール内に居る人間の位置情報Pn(t)を逐次記録するためのプログラムである。地図記録プログラム314は、第1所定時間(たとえば1時間)毎にクラスタリング地図を作成し、地図DB22に蓄積するプログラムである。監視プログラム316は、第2所定時間(たとえば、10分)毎にクラスタリング地図を作成することで、監視する場所の異常を検出するプログラムである。
【0065】
なお、図示は省略するが、監視装置10を動作させるためのプログラムは、操作画面200を表示するためのプログラムなどを含む。
【0066】
また、データ記憶領域304には、表示画像バッファ330が設けられると共に、GUIデータ332および地図データ334が記録される。表示画像バッファ330は、LCD24に表示するクラスタリング地図のデータを一時的に記録するためのバッファである。GUIデータ332は、操作画面200を表示するための画像データなどである。地図データ334は、クラスタリング地図を作成する際に元になる地図のデータであり、たとえば図6(A)に示す地図である。
【0067】
なお、図示は省略するが、データ記憶領域304には、様々な計算の結果を一時的に格納するバッファや、1時間を計測するカウンタおよび10分を計測するカウンタなどが設けられると共に、監視装置10の動作に必要な他のカウンタやフラグも設けられる。
【0068】
具体的には、監視装置10のCPU16は、図11、図12および図13に示す処理を含む、複数の処理を並列的に実行する。
【0069】
図11に示すように、監視装置10のCPU16は、位置情報記録処理を実行すると、ステップS1では、現在時刻を記録する。つまり、CPU16が含むRTCから得られる現在時刻を記録する。続いて、ステップS3では、各人間の位置情報Pn(t)を取得する。つまり、LRF12によって検出される、人間の位置および局所行動を記録する。続いて、ステップS5では、現在位置と位置情報Pn(T)とを位置情報DB20に記録し、ステップS1に戻る。つまり、位置情報Pn(T)と、その位置情報Pn(t)を検出した現在時刻とを対応付けて、位置情報DB20に記録する。なお、ステップS3の処理を実行するCPU16は検出手段として機能する。
【0070】
図12は、地図記録処理のフロー図である。図12に示すように、CPU16は、ステップS11では所定時間が経過したか否かを判断する。つまり、前回のクラスタリング地図を作成してから、第1所定時間である1時間が経過したか否かを判断する。ステップS11で“NO”であれば、つまり1時間が経過していなければ、ステップS11の処理を繰り返し実行する。一方、ステップS11で“YES”であれば、つまり前回のクラスタリング地図を作成してから1時間が経過していれば、ステップS13で所定時間分の位置情報Pn(t)を読み出す。つまり、1時間分の位置情報Pn(t)を位置情報DB20から読み出す。
【0071】
続いて、ステップS15では、読み出された位置情報Pn(t)に基づいてM個(空間グリッドの総数)の空間グリッドを含むクラスタリング地図を作成する。たとえば、13時から14時までの1時間分の位置情報Pn(t)を読み出し、M個を含むクラスタリング地図を作成する。続いて、ステップS17では、作成したクラスタリング地図を地図DB22に記録し、ステップS11に戻る。つまり、ステップS15で作成されたクラスタリング地図を地図DB22に記録する。
【0072】
なお、ステップ17の処理が終了すると、第1所定時間である1時間を計測するカウンタを初期化(リセット)する。また、ステップS15の処理を実行するCPU16は第1地図作成手段として機能する。
【0073】
図13は、監視処理のフロー図である。図13で示すように、CPU16は、ステップS31では、終了操作か否かを判断する。たとえば、入力装置26に対して、遠隔操作処理を終了する操作がされたか否かを判断する。ステップS31で“YES”であれば、つまり終了操作がされれば、遠隔操作処理を終了する。一方、ステップS31で“NO”であば、つまり終了操作がされていなければ、ステップS33で第2所定時間である10分間の位置情報Pn(t)を読み出す。つまり、現在時刻から過去10分間の位置情報Pn(t)を読み出す。続いて、ステップS35では、読み出された位置情報Pn(t)に基づいて、M個の空間グリッドを含むクラスタリング地図を作成する。つまり、過去10分間の位置情報から、M個の空間グリッドを含むクラスタリング地図を作成する。なお、ステップS35の処理を実行するCPU16は、第2地図作成手段として機能する。
【0074】
続いて、ステップS37では、地図DB22からクラスタリング地図を読み出す。つまり、1週間前の日付で、同じ時刻を含むクラスタリング地図を読み出す。たとえば、現在時刻が2月27日の13時10分であれば、2月20日の13時から14時までの位置情報Pn(t)から作成したクラスタリング地図を読み出す。
【0075】
続いて、ステップS39では、変数iを初期化する。つまり、任意の空間グリッドを指定するための変数iの値を1とする。続いてステップS41では、変数iが総数Mより大きいか否かを判断する。つまり、クラスタリング地図に含まれる空間グリッド全てに対して、差分Diffが算出されたか否かを判断する。ステップS41で“YES”であれば、つまり全ての空間グリッドに対して差分Diffが算出されていれば、ステップS31に戻る。一方、ステップS41で“NO”であれば、つまり全ての空間グリッドに対して差分Diffが算出されていなければ、ステップS43で空間グリッドiにおける局所行動のヒストグラムの差分Diffを算出する。つまり、上述した数3に示す式に基づいて差分Diffを算出する。なお、ステップS43の処理を実行するCPU16は、算出手段として機能する。
【0076】
続いて、ステップS45では差分Diffは閾値thより大きいか否かを判断する。つまり、ステップS43で算出された空間グリッドiにおける差分Diffが閾値thよりも大きいか否かを判断する。これにより、空間グリッドiで異常が発生しているか否かが判断される。ステップS45で“NO”であれば、つまり空間グリッドi内で異常が検出されなければ、ステップS49に進む。一方、ステップS45で“YES”であれば、つまり空間グリッドiで異常が検出されれば、ステップS47で警告をLCD24に表示する。たとえば、図9に示すように、異常表示204には「異常発生」の文字列が表示され、さらに地図表示206内には異常エリアAEが表示される。なお、ステップS47の処理を実行するCPU16は通知手段として機能する。続いて、ステップS49では、変数iをインクリメントし、ステップS41に戻る。つまり、次の空間グリッドを指定するために変数iをインクリメントする。
【0077】
なお、ステップS47の処理による通知は、LCD24に異常報知画像を表示するだけでなく、スピーカによる音声や、LEDなどによる光などによって異常を通知するようにしてもよい。
【0078】
また、遠隔操作される自立型ロボットを備える監視装置であれば、その自立型ロボットに異常を通知してもよい。さらに、異常の通知を受けた自律型ロボットが異常エリアAEに向かうようにしてもよい。そして、ネットワークによるデータ通信が可能な管理装置であれば、ネットワークを経由して、携帯電話などの小型端末に異常を通知するようにしてもよい。
【0079】
さらに、監視装置10は、LRF12が設置される場所に設置される監視カメラを備えていてもよく、異常が検出されると、異常が検出されたエリアの画像をLCD24に表示するようにしてもよい。
【0080】
この実施例によれば、監視装置10は、複数の人間が任意に行動するショッピングモールなどに設置されるLRF12を備える。このショッピングモール内に居る人間は、LRF12を利用して局所行動が検出され、位置情報DB20に蓄積される。監視装置10は、1時間毎に位置情報DB20から局所行動を読み出し、クラスタリング地図を作成して、地図DB22に蓄積する。また、監視装置10は、10分毎に局所行動を読み出し、さらにクラスタリング地図を作成する。そして、監視装置10は、異なる日付で、同じ時刻の局所行動を含むクラスタリング地図を地図DB22から読み出し、作成したクラスタリング地図に含まれる空間グリッド毎にヒストグラムの差分Diffを算出して、その差分Diffが閾値th以上であれば異常を通知する。
【0081】
このように、監視装置10は、異なる日付で、同じ時刻に検出される局所行動を表わす2つのクラスタリング地図を比較することで異常を通知する。これにより、管理者は、ショッピングモール内を大局的に監視できるようになる。
【0082】
また、管理者は、閾値thを任意に変更することで、監視装置10が異常を通知する頻度を調節できるようになる。
【0083】
なお、地図DB22から読み出される過去のクラスタリング地図は、1週間前だけに限らず、1日前や1ヵ月前のクラスタリング地図でもよいし、平日や休日のラベルが付与されたクラスタリング地図であってもよい。
【0084】
また、人間の位置を検出するためにLRF12を用いたが、LRF12に代えて超音波距離センサやミリ波レーダなどを用いて、人間の位置を検出してもよい。
【符号の説明】
【0085】
10 …遠隔操作装置
12a−12f …LRF
16 …CPU
18 …メモリ
20 …位置情報DB
22 …地図DB
24 …LCD
【技術分野】
【0001】
この発明は、監視装置に関し、特にたとえば複数の人間が任意に行動する場所を監視する、監視装置に関する。
【背景技術】
【0002】
特許文献1に開示されている、見守りシステムには、見守り対象者の行動を、赤外線人感センサなどの設置型センサ、CCDカメラなどの画像センサ、電気ポットなどに組み込まれた組み込み型センサ、生活着に装着される加速度センサなどの装着センサおよびガスなどのユーティリティの使用状況を計測するユーティリティセンサなどによって検出する。そして、各センサによって検出されたデータから見守り対象者の異常が検出されると、検出された異常の緊急度に応じて、予め設定された送信許可データが伝送される。
【0003】
また、非特許文献1に開示されている環境情報構造化システムには、自律行動によって人間に近づきサービスを開始することができるロボットが含まれ、そのロボットの活動範囲内に設けられるLRF(レーザーレンジファインダ)を利用して人間の歩行軌跡を計測し、その歩行軌跡から、複数の局所行動を認識する。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2002−261981号公報[H04M 11/04, G08B 25/04, G08B 25/08, H04N 7/18]
【非特許文献】
【0005】
【非特許文献1】Takayuki Kanda, Dylan F. Glas, Masahiro Shiomi, Hiroshi Ishiguro and Norihiro Hagita, Who will be the customer?: A social robot that anticipates people’s behavior from their trajectories, Tenth International Conference on Ubiquitous Computing (UbiComp 2008), pp.380-389, 2008
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかし、特許文献1に示す背景技術では、特定の個人を対象としたものであり、複数の人間が任意に行動する広い場所を見守るシステムではない。また、非特許文献1では、人間の局所行動を取得して空間をクラスタリングすることができるが、そのようなクラスタリング技術を監視装置と組み合わせる技術はこれまで実現されていない。
【0007】
それゆえに、この発明の主たる目的は、新規な、監視装置を提供することである。
【0008】
この発明の他の目的は、複数の人間が居る場所を監視することができる、監視装置を提供することである。
【課題を解決するための手段】
【0009】
この発明は、上記の課題を解決するために、以下の構成を採用した。なお、括弧内の参照符号および補足説明等は、この発明の理解を助けるために記述する実施形態との対応関係を示したものであって、この発明を何ら限定するものではない。
【0010】
第1の発明は、複数の人間が任意に行動する場所を監視する監視装置であって、場所における複数の人間それぞれの局所行動を検出する検出手段、検出手段によって検出された第1所定時間分の局所行動をクラスタリングして第1地図を作成する第1地図作成手段、検出手段によって検出された第2所定時間分の局所行動をクラスタリングして第2地図を作成する第2地図作成手段、および第1地図および第2地図における相当するエリア内において異なる属性の位置が存在するとき、異常を通知する通知手段を備える、監視装置である。
【0011】
第1の発明では、監視装置(10)は、たとえばショッピングモールなど、複数の人間が任意に行動する場所を監視する。検出手段(12,16,S3)は、監視する場所に設けられるLRF12などによって人間の歩行軌跡を検出し、その歩行軌跡から局所行動を検出する。また、第1所定時間とは1時間であり、第1地図作成手段(16,S15)は、現在時刻と同じ時刻であり、かつ1週間前に検出された、一時間分の局所行動をクラスタリングすることで第1地図を作成する。さらに、第2所定時間とは10分であり、第2地図作成手段(16,S35)は、たとえば現在時刻から過去10分間の局所行動をクラスタリングすることで、第2地図を作成する。そして、通知手段(16,S47)は、第1地図および第2地図における相当するエリア内において異なる属性の位置が存在する場合に、異常を通知する。
【0012】
第1の発明によれば、異なる日付で、同じ時刻に検出される局所行動を表わす地図を作成し、比較することで異常を発見できる。これにより、管理者は、多くの人間が同時に利用する場所を大局的に監視できるようになる。
【0013】
第2の発明は、第1の発明に従属し、エリアの属性は、個々の空間グリッド毎の局所行動のヒストグラムから求められ、相当するエリア内の空間グリッド毎のヒストグラムの差分を算出する算出手段をさらに備え、通知手段は、算出手段によって算出された差分が所定値以上であるとき、異常を通知する。
【0014】
第2の発明では、第1地図および第2地図は、空間グリッド化されており、エリアの属性は、そのエリアで最も多く検出される局所行動であり、空間グリッド毎に検出される局所行動のヒストグラムから求めることができる。算出手段(16,S43)は、空間グリッド毎に局所行動のヒストグラムの差分(Diff)を算出する。そして、通知手段は、算出された差分が所定値(閾値th)以上であるときに、異常を通知する。
【0015】
第2の発明によれば、管理者は、閾値を任意に変更することで、監視装置が異常を通知する頻度を調節できるようになる。
【0016】
第3の発明は、第1の発明または第2の発明に従属し、画像を表示可能な表示装置(24)をさらに備え、通知手段は、表示装置に異常報知画像を表示することで異常を通知する。
【0017】
第3の発明では、表示装置(24)は、たとえばLCDであり、監視装置の操作画面(200)を表示する。そして、通知手段は、その操作画面に異常通知画像を表示する。
【0018】
第3の発明によれば、管理者は、複数のカメラによる複数の画面ではなく、1つの画面に表示される異常通知画像を参照することで、大局的な監視を容易に行うことができるようになる。
【発明の効果】
【0019】
この発明によれば、管理者は、異なる日付で、同じ時刻に検出される局所行動を表わす2つの地図を比較することで異常を通知する監視装置を利用して、多くの人間が同時に利用する場所を大局的に監視できるようになる。
【0020】
この発明の上述の目的、その他の目的、特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
【図面の簡単な説明】
【0021】
【図1】図1はこの発明の監視装置の概要を示す図解図である。
【図2】図2は図1に示す監視装置の電気的な構成を示すブロック図である。
【図3】図3は図1および図2に示すLRFの計測領域を示す図解図である。
【図4】図4は図1および図2に示すLRFを利用して取得された人間の歩行軌跡の一例を示す図解図である。
【図5】図5は図2に示すCPUによって検出される局所行動と対応する歩行軌跡の一例を示す図解図である。
【図6】図6は図1に示すLRFが設置される或る場所の地図を示す図解図である。
【図7】図7は図2に示す位置情報DBおよび地図DBに記憶されるデータの一例を示す図解図である。
【図8】図8はCPUによって作成されるクラスタリング地図の一例を示す図解図である。
【図9】図9は図2に示すLCDに表示されるクラスタリング地図の一例を示す図解図である。
【図10】図10は図2に示すメモリのメモリマップの一例を示す図解図である。
【図11】図11は図2に示すCPUの位置情報記録処理を示すフロー図である。
【図12】図12は図2に示すCPUの地図記録処理を示すフロー図である。
【図13】図13は図2に示すCPUの監視処理を示すフロー図である。
【発明を実施するための形態】
【0022】
図1を参照して、この実施例の監視装置10は、LRF12a,12bを含む数台のLRFを備え、LRF12a,12bは人間Aを含む多くの人間が任意に行動できる場所に設置される。そして、監視装置10はLRF12a,12bを利用して人間Aの位置を検出することで、LRF12a,12bが設置される場所を監視する。また、人間Aが任意に行動できる場所とは、会社のフロア、博物館、ショッピングモールまたはアトラクション会場などであり、LRF12a,12bは様々な場所(環境)に設置される。
【0023】
なお、ここでは簡単のため人間は1人しか示していないが、監視装置10は2人以上の位置を同時に検出することができる。
【0024】
図2は監視装置10の電気的な構成を示すブロック図である。この図2を参照して、監視装置10は、LRF12a−12fおよびCPU16を含む。このCPU16は、マイクロコンピュータ或いはプロセサとも呼ばれ、先述したLRF12aおよびLRF12bに加えて、LRF12c,LRF12d,LRF12eおよびLRF12fともそれぞれ接続される。さらに、CPU16は、メモリ18、位置情報DB20、地図DB22、LCD24および入力装置26ともそれぞれ接続される。なお、LRF12a−12fを区別する必要がない場合には、まとめて「LRF12」と言う。
【0025】
LRF12は、レーザーを照射し、物体(人間も含む)に反射して戻ってくるまでの時間から当該物体ための距離を計測するものである。たとえば、トランスミッタ(図示せず)から照射したレーザーを回転ミラー(図示せず)で反射させて、前方を扇状に一定角度(たとえば、0.5度)ずつスキャンする。ここで、LRF12としては、SICK社製のレーザーレンジファインダ(型式 LMS200)を用いることができる。このレーザーレンジファインダを用いた場合には、距離8mを±15mm程度の誤差で計測可能である。
【0026】
メモリ18は、図示は省略をするが、ROM,HDDおよびRAMを含み、ROMおよびHDDには、監視装置10の動作を制御するための制御プログラムが予め記憶される。たとえば、LRF12による人間の検出に必要なプログラムなどが記録される。また、RAMは、ワークメモリやバッファメモリとして用いられる。
【0027】
位置情報データベース(位置情報DB)20は、LRF12によって検出された人間の位置と局所的な行動(局所行動)とを蓄積するためのデータベースであり、HDDのような記憶媒体を用いて構成される。なお、人間の値は、x−y座標で示される。
【0028】
地図データベース(地図DB)22は、1時間毎(第1所定時間)に作成されるクラスタリング地図(図8参照)を蓄積するためのデータベースであり、位置情報DB20と同様にHDDのような記憶媒体を用いて構成される。
【0029】
表示装置であるLCD24は、監視装置10の操作画面(図10参照)を表示し、その操作画面には監視している場所を示す地図などが含まれる。また、入力装置26はマイクや、マウスおよびキーボード(図示せず)から構成される。たとえば、管理者はLCD24に表示された操作画面を見ながら、マウスなどを使って監視装置10を操作する。
【0030】
次にLRF12について詳細に説明する。図3を参照して、LRF12の計測範囲は、半径R(R≒8m)の半円形状(扇形)で示される。つまり、LRF12は、その正面方向を中心とした場合に、左右90°の方向を所定の距離(R)以内で計測可能である。
【0031】
また、使用しているレーザーは、日本工業規格 JIS C 6802「レーザー製品の安全基準」におけるクラス1レーザーであり、人の眼に対して影響を及ぼさない安全なレベルである。また、この実施例では、LRF12のサンプリングレートを37Hzとした。これは、歩行するなどにより移動する人間の位置を連続して検出するためである。
【0032】
さらに、先述したように、LRF12は、様々な場所に配置される。たとえば、LRF12a−12fの各々は、検出領域が重なるように配置され、図示は省略するが、床面から約90cmの高さに固定される。この高さは、被験者の胴体と腕(両腕)とを検出可能とするためであり、たとえば、日本人の成人の平均身長から算出される。したがって、監視装置10を設ける場所(地域ないし国)や被験者の年齢ないし年代(たとえば、子供,大人)に応じて、LRF12を固定する高さを適宜変更するようにしてよい。なお、本実施例では、設定されるLRF12は6台としたが、2台以上であれば、任意の台数のLRF12を設置してもよい。
【0033】
このような構成の監視装置10では、CPU16がLRF12からの出力(距離データ)に基づいて、パーティクルフィルタを用いて、人間の現在位置の変化を推定する。そして、推定された現在位置の変化は歩行軌跡として記録される。
【0034】
たとえば、図4を参照して、LRF12a,12bは互いに向い合せに設置され、LRF12a,12bの計測範囲が重なる範囲は斜線が付されて示される。斜線が付された範囲は検出領域Eとされ、この検出領域E内では人間の現在位置が連続的に検出される。そして、連続的に検出された現在位置のデータは歩行軌跡として示され、たとえば歩行軌跡Kaおよび歩行軌跡Kbのように示される。なお、歩行軌跡Ka,Kbを区別する必要がない場合には、まとめて「歩行軌跡K」と言う。
【0035】
ここで、本実施例では、SVM(Support Vector Machine)によって人間の歩行軌跡Kから人間の歩き方の判別を行い、監視装置10は、局所行動を検出する。なお、SVMによる判別手法については、広く一般的な方法であるため、ここでは詳細な説明を省略する。
【0036】
まず、歩行軌跡Kは特徴量データが抽出される。具体的には、歩行軌跡Kは、左側中央が始点となるように方向の正規化処理が施され、方向の正規化後の歩行軌跡Kと囲む長方形の幅(縦軸方向)および長さ(横軸方向)が算出される。また、歩行軌跡Kは近似する折れ線に変換され、連続する2つの直線のなす角がそれぞれ算出される。さらに、歩行軌跡Kにおける一定時間毎の変化量を時間で微分することで、移動軌跡Kの速度が算出される。そして、このように求められた、歩行軌跡Kの終点、歩行軌跡Kを囲む長方形の幅と長さ、歩行軌跡Kのなす角度および速度のそれぞれが歩行軌跡Kの特徴量データとされる。
【0037】
次に、特徴量データに対してラベル付けし、ラベル付けされた特徴量データをSVMに学習させる。以下、特徴量データに対するラベル付けおよびSVMの学習について詳細に説明する。
【0038】
本実施例では、特徴量データをラベル付けするために、「歩き方」、「歩く速さ」、「短時間の歩き方」および「短時間の歩く速さ」の4つのクラスを定義する。「歩き方」のクラスは、「まっすぐ」、「右に曲がる」、「左に曲がる」、「うろうろする」、「Uターン」および「不明」の6つのカテゴリから構成され、5.1秒の歩行軌跡Kから抽出される特徴量データがラベル付けされる。そして、SVMにはラベル付けされた226個の特徴量データを学習させる。また、「歩く速さ」のクラスは、「走っている」、「忙しく歩く」、「ゆっくり歩く」、「止まっている」および「待っている」の5つのカテゴリから構成され、4.9秒の歩行軌跡Kから抽出される特量データがラベル付けされる。そして、SVMにはラベル付けされた166個の特徴量データを学習させる。
【0039】
「短時間の歩き方」のクラスは、「歩き方」と類似するカテゴリから構成さる。そして、SVMには、2.1秒の歩行軌跡Kであり、かつ「うろうろする」のカテゴリを除いた、150個の特徴量データをSVMに学習させる。「短時間の歩く速さ」のクラスは、「歩く速さ」と類似するカテゴリから構成される。そして、SVMには、2.2秒の歩行軌跡Kであり、かつ「待っている」のカテゴリを除いた、159の特徴量データを学習させる。
【0040】
そして、監視装置10では、このように学習したSVMによって検出される歩行軌跡Kから局所行動を判別し、判別結果をマージする。具体的には、「歩き方」のクラスでは「右に曲がる」、「左に曲がる」および「Uターン」を「うろうろする」にマージし、「歩く速さ」のクラスでは「待っている」を「止まっている」にマージする。さらに、「短時間の歩き方」のクラスは「歩き方」のクラスにマージされ、「短時間の歩く速さ」のクラスは「歩く速さ」のクラスにマージされる。これにより、監視装置10は、「忙しく歩く」、「ゆっくり歩く」、「うろうろする」および「止まっている」の4つの局所行動を検出することができるようになる。
【0041】
このように検出された各局所行動のそれぞれに対応する歩行軌跡Kを図5(A)−図5(D)に示す。図5(A)は「忙しく歩く」の局所行動の一例を示しており、歩行軌跡Kの形状が直線的であり、始点と終点との距離が長い。また、図5(B)は「ゆっくり歩く」の局所行動の一例を示しており、歩行軌跡Kの形状が直線的ではあるが、始点と終点との距離が短い。また、図5(C)は「うろうろする」の局所行動の一例を示しており、歩行軌跡Kが約90度以下で2回曲がっている。そして、図5(D)は「止まっている」の局所行動の一例を示しており、歩行軌跡Kにおける始点と終点とがほぼ変わらない位置にある。
【0042】
ここで、本実施例では、時刻tに検出されるn人(n:自然数)の位置情報を、位置情報Pn(t)と表わし、この位置情報Pn(t)は人間の位置(x、y)に加え、4種類の局所行動の有無を表わすブール変数b1−b4を含むものと定義する。そして、位置情報DB20には、位置情報Pn(t)が記録される。また、位置情報Pn(t)は、数1に示す式で表すことができる。
【0043】
[数1]
Pn(T)={x,y,b1,b2,b3,b4}
ここで、ブール変数b1は「忙しく歩く」の有無を表わし、ブール変数b2は「ゆっくり歩く」の有無を表わし、ブール変数b3は「うろうろする」の有無を表わし、ブール変数b4は「止まっている」の有無を表わす。
【0044】
なお、歩行軌跡Kから抽出される特徴量は4つだけに限らず、加重方向指数ヒストグラム法などによって抽出された特徴量が用いられてもよい。さらに、汎用性を高めるために、判別結果が全くマージされなくてもよし、マージされる判別結果が減らされてもよい。そして、検出される局所行動に応じてブール変数の数も変化するため、位置情報Pn(t)が含むブール変数の数も変化する。また、本実施例におけるブール変数b1−b4のそれぞれは、0〜100までの値をとる。
【0045】
次に、LRF12によって人間の位置を検出可能な空間(検出領域E)を、25cm四方で空間グリッド化する。ここで、監視装置10は、位置情報DB20に記録される位置情報Pn(t)を読み出すことで、或る時刻tの空間グリッドiにおいて、空間グリッドi内の局所行動の生起回数を集計することができる。そして、その集計結果として、「忙しく歩く」、「ゆっくり歩く」、「うろうろする」および「止まっている」の局所行動それぞれに対応する、ヒストグラムH1(i,t)、ヒストグラムH2(i,t)、ヒストグラムH3(i,t)およびヒストグラムH4(i,t)のそれぞれが算出される。
【0046】
たとえば、検出領域Eが図6(A)に示す地図に対応する場所(本実施例ではショッピングモール)に含まれる場合に、短時間の集計によって得られたヒストグラムに基づき、局所行動を空間グリッドi毎に視覚化すると図6(B)に示す局所行動地図のようになる。図6(B)を参照して、局所行動が検出された空間グリッドiには、検出された局所行動に対応する色が彩色され、局所行動が検出されていない空間グリッドiは何も彩色されない。たとえば、青色(図6(B)では、濃い右斜線で示す)に彩色された空間グリッドiは局所行動が「忙しく歩く」を示し、緑色(図6(B)では、濃い左斜線で示す)に彩色された空間グリッドiは局所行動が「ゆっくり歩く」を示し、桃色(図6(B)では、薄い右斜線で示す)に彩色された空間グリッドiは局所行動が「うろうろする」を示し、茶色(図6(B)では、網掛けで示す)に彩色された空間グリッドiは、局所行動が「止まっている」を示す。なお、図6(A)の地図に示される「案内図」と「店舗」とは、図6(B)、後述する図7(A)、図7(B)および図8(A)、図8(B)では省略する。
【0047】
そして、本実施例では、全ての空間グリッドiに対して4種類の局所行動のヒストグラムを算出した後に、類似する空間グリッドを周知のISODATA法によりクラスタリングし、クラスタリング地図を作成する。具体的には、ヒストグラムH1−H4から空間グリッドiと隣接する空間グリッドjの類似度をそれぞれ算出し、類似度が近い空間グリッドiと隣接する空間グリッドjとを併合して空間パーティション(エリア)を作成する。また、空間グリッドiと隣接する空間グリッドjの類似度は数2に示す式から算出される。
【0048】
【数2】
【0049】
たとえば、図7(A)を参照して、時間S1(時刻t1、時刻t2、時刻t3,…)分の位置情報Pn(t)を位置情報DB20から読み出し、各空間グリッドをクラスタリングすると、図7(B)に示すクラスタリング地図が作成される。なお、図7(A)では、読み出された位置情報Pn(t)を局所行動地図として表わす。
【0050】
図7(B)を参照して、時間S1分の位置情報Pn(t)に基づいて作成されたクラスタリング地図では、青色のエリアは「忙しく歩く」の局所行動を属性として持っており、この青色のエリアでは人々が早歩きで歩き去る。たとえば、この青色のエリアは通路などに多く設定されている。緑色のエリアは「ゆっくり歩く」の局所行動を属性として持っており、この緑色のエリアでは人々はゆっくり歩く。たとえば、緑色のエリアは店舗の前に比較的近い処や、案内図の前などに設定されている。桃色のエリアは「うろうろする」の局所行動を属性として持っており、この桃色のエリアでは人々はうろうろする。たとえば、この桃色のエリアは店舗の前に設定されている。茶色のエリアは「止まっている」の局所行動を属性として持っており、この茶色のエリアでは人々は立ち止まっている。たとえば、この茶色のエリアはベンチ(図示せず)の周辺や、店舗の前の一部に設定されている。
【0051】
また、図7(B)に示す時間S1、時間S2および時間S3は、同じ時間幅(1時間)ではあるが、時刻が異なる。たとえば、時間S1は14時から15時までの1時間であり、時間S2は15時から16時までの1時間であり、時間S3は16時から17時までの1時間である。
【0052】
なお、地図DB22には、約2週間分のクラスタリング地図が記録される。また、地図DB22に記憶されるクラスタリング地図には、各空間グリッドのヒストグラムH1−H4も併せて記憶され、さらにクラスタリング地図が作成された時刻などの時間情報が付加される。
【0053】
ここで、本実施例では、過去の同じ曜日の同じ時刻に記録されたクラスタリング地図と、現在のクラスタリング地図とを比較することで、ショッピングモール内の異常を検出する。
【0054】
具体的には、監視装置10は、現在時刻から過去10分間(第2所定時間)の位置情報Pn(t)を読み出し、クラスタリング地図を作成する。さらに、監視装置10は、同じ時刻を含み1週間前に作成された過去のクラスタリング地図を読み出す。監視装置10は、読み出した過去のクラスタリング地図(第1地図)と作成した現在のクラスタリング地図(第2地図)において、空間グリッドi毎にヒストグラムH1−H4の差分Diffを算出し、その差分が閾値(所定値)th以上であるか否かを判断する。そして、差分Diffが閾値th以上である場合に、LCD24に異常報知画像を表示させる。また、差分Diffは、数3に示す式によって算出される。なお、数3では、現在のクラスタリング地図におけるヒストグラムをヒストグラムHNとし、過去のクラスタリング地図におけるヒストグラムをヒストグラムHPとする。
【0055】
【数3】
【0056】
図8(A)および図8(B)は、過去のクラスタリング地図および現在のクラスタリング地図である。たとえば、図8(A)に示す過去のクラスタリング地図は、2月20日(金)の13時から14時までの1時間の位置情報Pn(t)から作成されたクラスタリング地図であり、地図DB22から読み出される。一方、図8(B)現在のクラスタリング地図は、2月27日(金)の13時10分から過去10分間の位置情報Pn(t)から作成されたクラスタリング地図である。
【0057】
ここで、過去のクラスタリング地図におけるエリアG1と現在のクラスタリング地図におけるエリアG1’とは同じ属性ではあるが、エリアの形状が異なる。つまり、エリアG1’は「止まっている」の属性を持つエリアBRを囲っているが、エリアG1は、エリアBRを囲っていない。そのため、図8(B)に示すエリアBRを構成する空間グリッドの差分Diffは閾値th以上の値となり、図9に示す異常報知画像が操作画面200内に表示される。
【0058】
なお、閾値thは、各ヒストグラムH1−H4の標準偏差に基づいて算出される。また、差分Diffは、空間グリッド毎に算出したが、エリア毎に算出してもよく、この場合は、エリアを構成する全ての空間グリッドの差分の総和を算出し、その総和を差分Diffとする。
【0059】
図9を参照して、LCD24に表示される操作画面200には、時刻表示202、異常表示204および地図表示206が含まれる。時刻表示202はCPU16が含むRTCが出力する現在日時であり、たとえば「2009年 2月27日(金) 13時10分」と表示される。異常表示204は、異常が検出されたときに、異常を検出したことを報知する文字列を表示し、たとえば「異常発生」の文字列が表示される。なお、異常表示204は、異常を検出しない場合には何も表示されない。
【0060】
そして、地図表示206は、たとえば図8(B)に示すようなクラスタリング地図が表示される。また、異常を検出した状態では、表示されるクラスタリング地図に、異常を検出したエリアが異常エリアAEとして示され、エリアの境界線が太線で表示される。たとえば、図9では、図8(B)で示したエリアBRが異常エリアAEとして表示される。
【0061】
たとえば、「止まっている」の属性を持つエリアが異常エリアAEである場合には、そのエリア内で人が倒れている場合や、歩行者同士での喧嘩が起きていると推測される。また、「忙しく歩く」の属性を持つエリアが異常エリアAEである場合には、不審物が発見されたり、不審者による騒動が起きたりして、歩行者が逃げていることが推測される。また、「うろうろする」の属性を持つエリアが異常エリアAEである場合には、迷子が居ると推測される。
【0062】
このように、管理者は、異常エリアAEの属性を見ることで、どのような異常であるかを推測することが可能になる。また、管理者は、複数のカメラによる複数の画面ではなく、1つの画面に表示される異常表示204および地図表示206を参照することで、大局的な監視を容易に行うことができるようになる。
【0063】
図10は、図2に示すメモリ18のメモリマップ300の一例を示す図解図である。図10に示すように、メモリ18はプログラム記憶領域302およびデータ記憶領域304を含む。プログラム記憶領域302には、位置情報記録プログラム312、地図記録プログラム314および監視プログラム316が記憶される。
【0064】
位置情報記録プログラム312は、たとえばショッピングモール内に居る人間の位置情報Pn(t)を逐次記録するためのプログラムである。地図記録プログラム314は、第1所定時間(たとえば1時間)毎にクラスタリング地図を作成し、地図DB22に蓄積するプログラムである。監視プログラム316は、第2所定時間(たとえば、10分)毎にクラスタリング地図を作成することで、監視する場所の異常を検出するプログラムである。
【0065】
なお、図示は省略するが、監視装置10を動作させるためのプログラムは、操作画面200を表示するためのプログラムなどを含む。
【0066】
また、データ記憶領域304には、表示画像バッファ330が設けられると共に、GUIデータ332および地図データ334が記録される。表示画像バッファ330は、LCD24に表示するクラスタリング地図のデータを一時的に記録するためのバッファである。GUIデータ332は、操作画面200を表示するための画像データなどである。地図データ334は、クラスタリング地図を作成する際に元になる地図のデータであり、たとえば図6(A)に示す地図である。
【0067】
なお、図示は省略するが、データ記憶領域304には、様々な計算の結果を一時的に格納するバッファや、1時間を計測するカウンタおよび10分を計測するカウンタなどが設けられると共に、監視装置10の動作に必要な他のカウンタやフラグも設けられる。
【0068】
具体的には、監視装置10のCPU16は、図11、図12および図13に示す処理を含む、複数の処理を並列的に実行する。
【0069】
図11に示すように、監視装置10のCPU16は、位置情報記録処理を実行すると、ステップS1では、現在時刻を記録する。つまり、CPU16が含むRTCから得られる現在時刻を記録する。続いて、ステップS3では、各人間の位置情報Pn(t)を取得する。つまり、LRF12によって検出される、人間の位置および局所行動を記録する。続いて、ステップS5では、現在位置と位置情報Pn(T)とを位置情報DB20に記録し、ステップS1に戻る。つまり、位置情報Pn(T)と、その位置情報Pn(t)を検出した現在時刻とを対応付けて、位置情報DB20に記録する。なお、ステップS3の処理を実行するCPU16は検出手段として機能する。
【0070】
図12は、地図記録処理のフロー図である。図12に示すように、CPU16は、ステップS11では所定時間が経過したか否かを判断する。つまり、前回のクラスタリング地図を作成してから、第1所定時間である1時間が経過したか否かを判断する。ステップS11で“NO”であれば、つまり1時間が経過していなければ、ステップS11の処理を繰り返し実行する。一方、ステップS11で“YES”であれば、つまり前回のクラスタリング地図を作成してから1時間が経過していれば、ステップS13で所定時間分の位置情報Pn(t)を読み出す。つまり、1時間分の位置情報Pn(t)を位置情報DB20から読み出す。
【0071】
続いて、ステップS15では、読み出された位置情報Pn(t)に基づいてM個(空間グリッドの総数)の空間グリッドを含むクラスタリング地図を作成する。たとえば、13時から14時までの1時間分の位置情報Pn(t)を読み出し、M個を含むクラスタリング地図を作成する。続いて、ステップS17では、作成したクラスタリング地図を地図DB22に記録し、ステップS11に戻る。つまり、ステップS15で作成されたクラスタリング地図を地図DB22に記録する。
【0072】
なお、ステップ17の処理が終了すると、第1所定時間である1時間を計測するカウンタを初期化(リセット)する。また、ステップS15の処理を実行するCPU16は第1地図作成手段として機能する。
【0073】
図13は、監視処理のフロー図である。図13で示すように、CPU16は、ステップS31では、終了操作か否かを判断する。たとえば、入力装置26に対して、遠隔操作処理を終了する操作がされたか否かを判断する。ステップS31で“YES”であれば、つまり終了操作がされれば、遠隔操作処理を終了する。一方、ステップS31で“NO”であば、つまり終了操作がされていなければ、ステップS33で第2所定時間である10分間の位置情報Pn(t)を読み出す。つまり、現在時刻から過去10分間の位置情報Pn(t)を読み出す。続いて、ステップS35では、読み出された位置情報Pn(t)に基づいて、M個の空間グリッドを含むクラスタリング地図を作成する。つまり、過去10分間の位置情報から、M個の空間グリッドを含むクラスタリング地図を作成する。なお、ステップS35の処理を実行するCPU16は、第2地図作成手段として機能する。
【0074】
続いて、ステップS37では、地図DB22からクラスタリング地図を読み出す。つまり、1週間前の日付で、同じ時刻を含むクラスタリング地図を読み出す。たとえば、現在時刻が2月27日の13時10分であれば、2月20日の13時から14時までの位置情報Pn(t)から作成したクラスタリング地図を読み出す。
【0075】
続いて、ステップS39では、変数iを初期化する。つまり、任意の空間グリッドを指定するための変数iの値を1とする。続いてステップS41では、変数iが総数Mより大きいか否かを判断する。つまり、クラスタリング地図に含まれる空間グリッド全てに対して、差分Diffが算出されたか否かを判断する。ステップS41で“YES”であれば、つまり全ての空間グリッドに対して差分Diffが算出されていれば、ステップS31に戻る。一方、ステップS41で“NO”であれば、つまり全ての空間グリッドに対して差分Diffが算出されていなければ、ステップS43で空間グリッドiにおける局所行動のヒストグラムの差分Diffを算出する。つまり、上述した数3に示す式に基づいて差分Diffを算出する。なお、ステップS43の処理を実行するCPU16は、算出手段として機能する。
【0076】
続いて、ステップS45では差分Diffは閾値thより大きいか否かを判断する。つまり、ステップS43で算出された空間グリッドiにおける差分Diffが閾値thよりも大きいか否かを判断する。これにより、空間グリッドiで異常が発生しているか否かが判断される。ステップS45で“NO”であれば、つまり空間グリッドi内で異常が検出されなければ、ステップS49に進む。一方、ステップS45で“YES”であれば、つまり空間グリッドiで異常が検出されれば、ステップS47で警告をLCD24に表示する。たとえば、図9に示すように、異常表示204には「異常発生」の文字列が表示され、さらに地図表示206内には異常エリアAEが表示される。なお、ステップS47の処理を実行するCPU16は通知手段として機能する。続いて、ステップS49では、変数iをインクリメントし、ステップS41に戻る。つまり、次の空間グリッドを指定するために変数iをインクリメントする。
【0077】
なお、ステップS47の処理による通知は、LCD24に異常報知画像を表示するだけでなく、スピーカによる音声や、LEDなどによる光などによって異常を通知するようにしてもよい。
【0078】
また、遠隔操作される自立型ロボットを備える監視装置であれば、その自立型ロボットに異常を通知してもよい。さらに、異常の通知を受けた自律型ロボットが異常エリアAEに向かうようにしてもよい。そして、ネットワークによるデータ通信が可能な管理装置であれば、ネットワークを経由して、携帯電話などの小型端末に異常を通知するようにしてもよい。
【0079】
さらに、監視装置10は、LRF12が設置される場所に設置される監視カメラを備えていてもよく、異常が検出されると、異常が検出されたエリアの画像をLCD24に表示するようにしてもよい。
【0080】
この実施例によれば、監視装置10は、複数の人間が任意に行動するショッピングモールなどに設置されるLRF12を備える。このショッピングモール内に居る人間は、LRF12を利用して局所行動が検出され、位置情報DB20に蓄積される。監視装置10は、1時間毎に位置情報DB20から局所行動を読み出し、クラスタリング地図を作成して、地図DB22に蓄積する。また、監視装置10は、10分毎に局所行動を読み出し、さらにクラスタリング地図を作成する。そして、監視装置10は、異なる日付で、同じ時刻の局所行動を含むクラスタリング地図を地図DB22から読み出し、作成したクラスタリング地図に含まれる空間グリッド毎にヒストグラムの差分Diffを算出して、その差分Diffが閾値th以上であれば異常を通知する。
【0081】
このように、監視装置10は、異なる日付で、同じ時刻に検出される局所行動を表わす2つのクラスタリング地図を比較することで異常を通知する。これにより、管理者は、ショッピングモール内を大局的に監視できるようになる。
【0082】
また、管理者は、閾値thを任意に変更することで、監視装置10が異常を通知する頻度を調節できるようになる。
【0083】
なお、地図DB22から読み出される過去のクラスタリング地図は、1週間前だけに限らず、1日前や1ヵ月前のクラスタリング地図でもよいし、平日や休日のラベルが付与されたクラスタリング地図であってもよい。
【0084】
また、人間の位置を検出するためにLRF12を用いたが、LRF12に代えて超音波距離センサやミリ波レーダなどを用いて、人間の位置を検出してもよい。
【符号の説明】
【0085】
10 …遠隔操作装置
12a−12f …LRF
16 …CPU
18 …メモリ
20 …位置情報DB
22 …地図DB
24 …LCD
【特許請求の範囲】
【請求項1】
複数の人間が任意に行動する場所を監視する監視装置であって、
前記場所における前記複数の人間それぞれの局所行動を検出する検出手段、
前記検出手段によって検出された第1所定時間分の局所行動をクラスタリングして第1地図を作成する第1地図作成手段、
前記検出手段によって検出された第2所定時間分の局所行動をクラスタリングして第2地図を作成する第2地図作成手段、および
前記第1地図および前記第2地図における相当するエリア内において異なる属性の位置が存在するとき、異常を通知する通知手段を備える、監視装置。
【請求項2】
前記エリアの属性は、個々の空間グリッド毎の前記局所行動のヒストグラムから求められ、
前記相当するエリア内の空間グリッド毎のヒストグラムの差分を算出する算出手段をさらに備え、
前記通知手段は、前記算出手段によって算出された差分が所定値以上であるとき、異常を通知する、請求項1記載の監視装置。
【請求項3】
画像を表示可能な表示装置をさらに備え、
前記通知手段は、前記表示装置に異常報知画像を表示することで異常を通知する、請求項1または2記載の監視装置。
【請求項1】
複数の人間が任意に行動する場所を監視する監視装置であって、
前記場所における前記複数の人間それぞれの局所行動を検出する検出手段、
前記検出手段によって検出された第1所定時間分の局所行動をクラスタリングして第1地図を作成する第1地図作成手段、
前記検出手段によって検出された第2所定時間分の局所行動をクラスタリングして第2地図を作成する第2地図作成手段、および
前記第1地図および前記第2地図における相当するエリア内において異なる属性の位置が存在するとき、異常を通知する通知手段を備える、監視装置。
【請求項2】
前記エリアの属性は、個々の空間グリッド毎の前記局所行動のヒストグラムから求められ、
前記相当するエリア内の空間グリッド毎のヒストグラムの差分を算出する算出手段をさらに備え、
前記通知手段は、前記算出手段によって算出された差分が所定値以上であるとき、異常を通知する、請求項1記載の監視装置。
【請求項3】
画像を表示可能な表示装置をさらに備え、
前記通知手段は、前記表示装置に異常報知画像を表示することで異常を通知する、請求項1または2記載の監視装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2010−231393(P2010−231393A)
【公開日】平成22年10月14日(2010.10.14)
【国際特許分類】
【出願番号】特願2009−76837(P2009−76837)
【出願日】平成21年3月26日(2009.3.26)
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成20年4月1日付平成20年度科学技術総合研究委託事業「科学技術連携施策群の効果的・効率的な推進 施設内外の人計測と環境情報構造化の研究」、産業技術力強化法第19条の適用を受ける特許出願
【出願人】(393031586)株式会社国際電気通信基礎技術研究所 (905)
【Fターム(参考)】
【公開日】平成22年10月14日(2010.10.14)
【国際特許分類】
【出願日】平成21年3月26日(2009.3.26)
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成20年4月1日付平成20年度科学技術総合研究委託事業「科学技術連携施策群の効果的・効率的な推進 施設内外の人計測と環境情報構造化の研究」、産業技術力強化法第19条の適用を受ける特許出願
【出願人】(393031586)株式会社国際電気通信基礎技術研究所 (905)
【Fターム(参考)】
[ Back to top ]