行動認識装置、行動認識方法および行動認識プログラム
【課題】人物の行動を正確に認識すること。
【解決手段】行動認識装置100は、超音波発信機10、超音波受信機20a〜20cに接続される。行動認識装置100は、超音波発信機10からモノIDと検知時間を取得する。また、行動認識装置100は、超音波発信機10から超音波受信機20a〜20cまでの距離の情報を取得する。そして、行動認識装置100は、利用者1の身体周辺を複数の領域に分割し、利用者の手の位置が含まれる領域の推移のパターンと、利用者が利用する物体の種別から、利用者の行動を認識する。
【解決手段】行動認識装置100は、超音波発信機10、超音波受信機20a〜20cに接続される。行動認識装置100は、超音波発信機10からモノIDと検知時間を取得する。また、行動認識装置100は、超音波発信機10から超音波受信機20a〜20cまでの距離の情報を取得する。そして、行動認識装置100は、利用者1の身体周辺を複数の領域に分割し、利用者の手の位置が含まれる領域の推移のパターンと、利用者が利用する物体の種別から、利用者の行動を認識する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、行動認識装置等に関する。
【背景技術】
【0002】
人物の行動を認識するための各種の技術が存在する。例えば、人物の手先に取り付けられたRFID(Radio Frequency Identification)リーダによって、モノに貼付されたIC(integrated Circuit)タグの属性情報を読み取ることで、人物の行動を認識する技術がある。また、人体通信技術を利用して、モノに貼付されたICタグの属性情報を読みとり、人物の行動を認識する技術もある。
【0003】
しかし、モノの属性情報だけでは、モノを使って人物がどのように行動しているのかを認識することができない。例えば、モノが電話であることが属性情報に含まれている場合には、人物が電話をかけるのか、電話をポケット等に収納するのかを区別することができない。
【0004】
これに対して、カメラで人物の画像を撮影し、撮影した画像を分析することで、人物の行動を識別する技術が存在する。この技術によれば、人物全体の動きを把握することができるため、モノを使って人物がどのように行動しているのかを認識することができる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平10−261090号公報
【特許文献2】特開2001−236520号公報
【特許文献3】特開2006−209421号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上述した従来技術では、人物の行動を正確に認識することができないという問題がある。
【0007】
人間の行動というものは、手先の動きが僅かに異なる場合であっても、行動の種別が異なる場合がある。しかし、上記の画像を分析する技術では、人物全体の動きを分析できても、手先レベルの細かい動作の違いまで区別することは困難である。例えば、人物がカメラに背を向けている状態では、携帯電話をポケットにしまう行動と、携帯電話をかける行動とを区別することができない。また、画像を分析する技術は、カメラに写らない人物の行動を認識することができず、使用できる場所が限られる。
【0008】
開示の技術は、上記に鑑みてなされたものであって、人物の行動を正確に認識することができる行動認識装置、行動認識方法および行動認識プログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
本願の開示する行動認識装置は、領域情報記憶部、取得部、領域判定部、行動認識部を有する。領域情報記憶部は、利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶する。取得部は、利用者が利用する物体を識別する物体識別情報を取得する。領域判定部は、利用者の身体の一部の座標と領域の座標とを比較して、利用者の身体の一部を含む領域を判定する。行動認識部は、物体識別情報と前記利用者の身体の一部を含む領域の推移とを基にして、利用者の行動を認識する。
【発明の効果】
【0010】
本願の開示する行動認識装置の一つの態様によれば、人物の行動を正確に認識することができるという効果を奏する。
【図面の簡単な説明】
【0011】
【図1】図1は、本実施例にかかる行動認識システムの構成を示す図である。
【図2】図2は、超音波発信機から各超音波受信機までの距離を示す図である。
【図3】図3は、超音波発信機の構成を示す図である。
【図4】図4は、超音波受信機の構成を示す図である。
【図5】図5は、距離計算の原理を説明する図である。
【図6】図6は、行動認識装置の構成を示す図である。
【図7】図7は、身体周辺の代表的な領域を説明するための図である。
【図8】図8は、身体領域データベースが記憶する領域の座標を示す図である。
【図9】図9は、身体領域データベースのデータ構造を示す図である。
【図10】図10は、モノデータベースのデータ構造を示す図である。
【図11】図11は、イベントパターンデータベースのデータ構造を示す図である。
【図12】図12は、本実施例にかかる行動認識装置の処理手順を示すフローチャートである。
【図13】図13は、複合領域データベースのデータ構造を示す図である。
【図14】図14は、実施例にかかる行動認識装置を構成するコンピュータのハードウェア構成を示す図である。
【発明を実施するための形態】
【0012】
以下に、本願の開示する行動認識装置、行動認識方法および行動認識プログラムの実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。
【実施例】
【0013】
図1は、本実施例にかかる行動認識システムの構成を示す図である。図1に示すように、この行動認識システムは、超音波発信機10、超音波受信部20a〜20c、行動認識装置100を有する。例えば、超音波受信機20a〜20cと行動認識装置100とは、それぞれ有線により接続される。超音波発信機10と行動認識装置100とは、無線により接続される。また、超音波発信機10は、利用者1の手首に設置される。超音波受信機20a〜20cは、利用者1の胸部にそれぞれ設置される。
【0014】
超音波発信機10は、超音波を発信する装置である。超音波発信機10が発信する超音波は、超音波受信機20a〜20cによって受信される。また、超音波発信機10は、超音波を発信するタイミングで、LED(Light Emitting Diode)等を発光させることで、超音波の発信時間を超音波受信機20a〜20cに通知する。超音波の発信時間は、超音波が発信されたタイミングに対応する。
【0015】
また、超音波発信機10は、モノ2に貼付されたICタグ2aから、モノ2を識別するモノID(Identification)を読み取る。超音波発信機10は、モノIDの情報を行動認識装置100に通知する。例えば、超音波発信機10は、モノIDを読み取ったタイミングを契機として、超音波を周期的に発信し、LEDを周期的に発光させる。
【0016】
超音波受信機20a〜20cは、超音波発信機10から発信される超音波、およびLEDの光を受け、超音波発信機10から自超音波受信機までの距離を算出する装置である。図2は、超音波発信機から各超音波受信機までの距離を示す図である。図2に示すように、超音波発信機10から超音波受信機20aまでの距離をL1、超音波発信機10から超音波受信機20bまでの距離をL2、超音波発信機10から超音波受信機20cまでの距離をL3とする。超音波受信機20a〜20cは、それぞれが算出した距離L1〜L3の情報を、行動認識装置100に通知する。
【0017】
行動認識装置100は、モノID、距離L1〜L3の情報を取得して、利用者1が利用するモノと利用者の手先の位置の推移とを特定し、利用者1の行動を認識する装置である。以下において、図1に示した超音波送信機10、超音波受信機20a〜20c、行動認識装置100の構成について順に説明する。
【0018】
図3は、超音波発信機の構成を示す図である。図3に示すように、この超音波発信機10は、読み取り部11、超音波発信部12、発光部13、モノID通知部14、発信タイミング制御部15を有する。
【0019】
読み取り部11は、周期的に電波を送信して、所定の範囲内に含まれるICタグにアクセスし、このICタグに含まれるモノIDを読み取る装置である。また、読み取り部11はタイマ機能を有し、モノIDを読み取った時間を検知時間として測定する。読み取り部11は、モノIDと検知時間とを対応づけて発信タイミング制御部15に出力する。例えば、読み取り部11は、RFIDリーダに対応する。
【0020】
超音波発信部12は、発信タイミング制御部15の発信命令を受けた場合に、超音波を発信する装置である。例えば、超音波発信部12は、発信命令を受けた後、一定の周期毎に超音波を発信する。
【0021】
発光部13は、発信タイミング制御部15の発光命令を受けた場合に、LEDを発光させる装置である。発光部13がLEDを発光させるタイミングは、超音波発信部12が超音波を発信するタイミングと同じタイミングである。例えば、発光部13は、超音波発信部12の発信タイミングに合わせて、LEDを発光させる。
【0022】
モノID通知部14は、発信タイミング制御部15からモノIDと検知時間を取得し、モノIDと検知時間とを行動認識装置100に通知する装置である。例えば、モノID通知部14は、無線通信装置に対応する。
【0023】
発信タイミング制御部15は、発信命令を超音波発信部12に出力し、発光命令を発光部13に出力する処理部である。また、発信タイミング制御部15は、読み取り部11から、モノIDと検知時間とを受け、このモノIDと検知時間とをモノID通知部14に出力する。例えば、発信タイミング制御部15は、モノIDの情報を受けたことを契機として、発信命令および発光命令を出力してもよい。
【0024】
発信タイミング制御部15は、例えば、ASIC(Application Specific Integrated Circuit)や、FPGA(Field Programmable Gate Array)などの集積装置に対応する。また、発信タイミング制御部15は、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等の電子回路に対応する。
【0025】
次に、図1に示した超音波受信機20a〜20cの構成について説明する。図4は、超音波受信機の構成を示す図である。超音波受信機20a〜20cの構成は同じであるため、ここでは、超音波受信機20aの構成を示す。図4に示すように、この超音波受信機20aは、超音波受信部21、受光部22、距離計算部23、距離通知部24を有する。
【0026】
超音波受信部21は、超音波発信機10から超音波を受信する装置である。超音波受信部21は、超音波を受信した受信時間を距離計算部23に出力する。受光部22は、超音波発信機10のLEDから発光される光を受光する装置である。受光部22は、光を受光した受光時間を距離計算部23に出力する装置である。
【0027】
距離計算部23は、超音波発信機10と自超音波受信機との距離を算出する処理部である。例えば、距離計算部23は、受信時間と受光時間との差分を、超音波の音速で割ることで距離を算出する。距離計算部23は、距離の情報を距離通知部24に出力する。
【0028】
ここで、距離計算の原理について説明する。図5は、距離計算の原理を説明する図である。図5の横軸は時間を示す。図5の信号3aは光信号に対応し、信号3bは超音波信号に対応する。また、時間t1は光を受光した受光時間に対応し、時間t2は超音波を受信した受信時間に対応する。超音波発信機10によって、超音波と光は同時に出力されており、光の速度は音の速度と比較して十分速いので、受光時間t1は、音波が超音波発信装置10から発信された時間と見なすことができる。このため、超音波が超音波発信機10から超音波受信機20aまで到達するのに要した時間は、Δtとなる。Δtは、t1とt2との差分に対応する。このΔtを超音波の音速で割ることで、距離が求められる。
【0029】
距離計算部23は、例えば、ASIC、FPGA等の集積装置に対応する。また、距離計算部23は、CPUやMPUなどの電気回路に対応する。
【0030】
超音波発信機10から周期的に、超音波、光が出力される場合には、距離計算部23は、周期的に距離を算出し、距離の情報を順次距離通知部24に出力する。
【0031】
距離通知部24は、距離計算部23から受ける距離の情報を、行動認識装置100に通知する処理部である。
【0032】
次に、図1に示した行動認識装置100の構成について説明する。図6は、行動認識装置の構成を示す図である。図6に示すように、この行動認識装置100は、記憶部110、距離情報取得部120、物体識別情報取得部130、位置情報算出部140、領域判定部150、行動認識部160、認識結果出力部170を有する。
【0033】
記憶部110は、身体領域データベース110a、モノデータベース110b、イベントパターンデータベース110cを記憶する記憶装置である。記憶部110は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子、またはハードディスク、光ディスクなどの記憶装置に対応する。
【0034】
身体領域データベース110aは、利用者1の身体周辺の領域を複数の領域に分割した各領域の座標をそれぞれ記憶する。図7は、身体周辺の代表的な領域を説明するための図である。図7に示すように、例えば、身体領域データベース110aが記憶する領域は、利用者1の耳周辺の領域4a、口周辺の領域4b、上半身のポケット1周辺の領域4c、下半身のポケット2周辺の領域4d、利用者1が新聞等を閲覧する領域4e等がある。また、領域4eに鞄が置かれる場合もある。また、身体領域データベース110aが記憶する領域は、利用者1の胸部の前方領域4f、利用者1の頭部の前方領域4gがある。
【0035】
利用者の行動の種別によって、手先の移動ルートがある程度決まっており、手先が通過する領域は行動の種別毎に共通のものとなる。また、異なる行動の種別であっても、共通して通過する領域がある。身体領域データベース110aは、このような行動の種別毎に共通で通過する領域、または、異なる種別であっても共通して手先が通過する領域をそれぞれ記憶している。このため、手先の位置を含む身体領域データベース110aの領域の推移によって、利用者の行動の種別を判定することが可能となる。例えば、利用者1が電話をかける場合には、利用者の手先を含む領域は、領域4f、4g、4aの順に移動する。また、利用者1が携帯電話をポケットにしまう場合には、利用者の手先を含む領域は、領域4f、4cの順に移動する。また、利用者1が、ポケットにあるものを鞄にしまう場合には、利用者の手先を含む領域は、領域4c、4f、4eの順に移動する。
【0036】
身体領域データベース110aは、領域の座標をどのように記憶しても良いが、例えば、領域の各頂点のうち、対角関係にある頂点の座標を記憶する。図8は、身体領域データベースが記憶する領域の座標を示す図である。図8に示すように、身体領域データベース110aは、領域のAの3次元座標と、Bの3次元座標を記憶する。
【0037】
このように、対角関係にある頂点の座標がわかれば、音波発信機10が該当する領域に含まれているか否かを判定することができる。例えば、Aの3次元座標を(xa、ya、za)とし、Bの3次元座標を(xb、yb、zb)とする。また、ここでは、xa>xb、ya>yb、za>zbとする。音波発信機10の3次元座標(x、y、z)が、それぞれ式(1)、(2)、(3)の関係を満たせば、音波発信機10は該当領域に含まれることとなる。これに対して、式(1)、(2)、(3)のいずれかの関係を満たさない場合には、音波発信機10は該当領域に含まれない。
【0038】
xb<x<xa・・・(1)
yb<y<ya・・・(2)
zb<z<za・・・(3)
【0039】
なお、各3次元座標は、利用者の中心を基準とした座標となる。例えば、利用者の中心を原点0とする。利用者の中心をどのように設定しても良いが、例えば、z座標が0となる位置を利用者の身長を2で割った値とし、x座標が0となる位置を利用者の奥行き幅を2で割った値とし、y座標が0となる位置を利用者の横幅を2で割った値とする。図7に示した原点の位置と、図8に示した原点の位置は同じである。
【0040】
身体領域データベース110aのデータ構造の一例について説明する。図9は、身体領域データベースのデータ構造を示す図である。図9に示すように、身体領域データベース110aは、領域ID、座標A、座標B、領域名称を対応づけて記憶する。領域IDは、領域を一意に識別する情報である。座標A、Bはそれぞれ、図8に示したように、対角関係にある領域の座標である。
【0041】
例えば、図9の1段目では、領域ID「P01」によって識別される利用者の「耳」の領域の座標A、Bが座標「x1、y1、z1」、「x2、y2、z2」であることを示している。図9の2段目から6段目も同様に、領域ID、座標A、座標B、領域名称を対応づけて記憶している。
【0042】
モノデータベース110bは、モノIDとモノ名称とを対応づけて記憶する。図10は、モノデータベースのデータ構造を示す図である。例えば、図10の1段目では、モノID「M01」に対応するモノ名称が「携帯電話」である旨を示している。図10の2段目から4段目も同様に、モノID、モノ名称を対応づけて記憶している。
【0043】
イベントパターンデータベース110cは、後述の行動認識部160が、利用者1の行動を認識する場合に利用するデータである。図11は、イベントパターンデータベースのデータ構造を示す図である。図11に示すように、イベントパターンデータベース110cは、イベントパターン、モノID、領域推移パターンを対応づけて記憶する。イベントパターンは、利用者の行動を識別する情報である。領域推移パターンは、領域の推移のパターンを、領域IDを時系列に並べることで示している。例えば、利用者1の手の位置が、領域ID「P06」の領域、領域ID「P07」の領域、領域ID「P01」の領域の順に推移するパターンは、図11の1段目の領域推移パターンに該当する。イベントパターンは、モノIDと領域推移パターンとの組み合わせてよって特定される。
【0044】
例えば、利用者が携帯電話をかける場合には、利用者が携帯電話を持った状態で、利用者の手先の位置を含む領域が、胸部の前方領域、頭部の前方領域、耳の領域の順に推移する。胸部の前方領域の領域IDは「P06」、頭部の前方領域の領域IDは「P07」、耳の領域IDは「P01」である。このため、図11の1段目に示すように、モノIDが携帯電話のID「M01」、領域推移パターン「P06、P07、P01」に対応するイベントパターンは「電話をかける」となる。
【0045】
また、利用者が携帯電話を胸ポケットに対応するポケット1にしまう場合には、利用者が携帯電話を持った状態で、利用者の手先の位置を含む領域が、胸部の前方領域、ポケット1の領域の順に推移する。例えば、胸部の前方領域の領域IDは「P06」、ポケット1の領域の領域IDは「P03」である。このため、図11の2段目に示すように、モノIDが携帯電話のID「M01」、領域推移パターン「P06、P03」に対応するイベントパターンは「電話をポケット1にしまう」となる。
【0046】
また、利用者が携帯電話をズボンのポケットに対応するポケット2にしまう場合には、利用者が携帯電話を持った状態で、利用者の手先の位置を含む領域が、胸部の前方領域、ポケット2の領域の順に推移する。例えば、胸部の前方領域の領域IDは「P06」、ポケット2の領域の領域IDは「P04」である。このため、図11の3段目に示すように、モノIDが携帯電話のID「M01」、領域推移パターン「P06、P04」に対応するイベントパターンは「電話をポケット2にしまう」となる。
【0047】
また、利用者が薬Aを飲む場合には、利用者は薬Aをもった状態で、利用者の手先の位置を含む領域が、胸部の前方領域、頭部の前方領域、口の領域の順に推移する。胸部の前方領域の領域IDは「P06」、頭部の前方領域の領域IDは「P07」、口の領域IDは「P02」である。このため、図11の4段目に示すように、モノIDが薬AのID「M03」、領域推移パターン「P06、P07、P02」に対応するイベントパターンは「薬Aを飲む」となる。
【0048】
また、利用者がポケット1に入っていた電話を鞄にしまう場合には、例えば、利用者はポケット1から携帯電話をもった状態で、ポケット1の領域、胸部の前方領域、鞄が置いてあると想定される領域の順に移動する。ポケット1の領域の領域IDは「P03」、胸部の前方領域のIDは「P06」であり、鞄がおいてあると想定される領域の領域IDを「P05」とする。この場合には、図11の6段目に示すように、モノIDが携帯電話のID「M01」、領域推移パターン「P03、P06、P05」に対応するイベントパターンは「ポケット1に入っていた携帯電話を鞄にしまう」となる。
【0049】
図6の説明に戻る。距離情報取得部120は、超音波受信機20a〜20cから、距離L1〜L3の情報を取得する装置である。距離情報取得部120は、距離L1〜L3の情報を位置情報算出部140に出力する。
【0050】
物体識別情報取得部130は、超音波発信機10からモノIDと検知時間とを受信する装置である。物体識別情報取得部130は、モノIDと検知時間とを行動認識部160に出力する。例えば、物体識別情報取得部130は、無線通信装置に対応する。
【0051】
位置情報算出部140は、距離L1〜L3に基づいて、超音波発信機10の位置を算出する処理部である。利用者が超音波発信機10を手先に装着している場合には、位置情報算出部140が算出する位置は、利用者の手先の位置を算出していることに等しい。位置情報算出部140は、超音波発信機10の位置情報を領域判定部150に順次出力する。
【0052】
ここで、位置情報算出部140が超音波発信機10の位置を算出する処理の一例について説明する。位置情報算出部140は、超音波受信機20aの座標を中心とした半径L1の球1、超音波受信機20bの座標を中心とした半径L2の球2、超音波受信機20cの座標を中心とした半径L3の球3を求める。位置情報算出部140は、球1〜3を求めた後に、各球1〜3の交点の3次元座標を超音波発信機10の位置として算出する。
【0053】
領域判定部150は、位置情報と、身体領域データベース110aとを比較して、超音波発信機10の位置が含まれる領域の領域IDを所定の周期によって順次判定する処理部である。領域判定部150は、判定した領域IDを行動認識部160に順次出力する。
【0054】
行動認識部160は、超音波発信機10の位置を含む領域の推移パターンと、モノIDと、イベントパターンデータベース110cとを比較して、利用者の行動を認識する処理部である。行動認識部160は、認識結果を認識結果出力部170に通知する。
【0055】
図11を用いて、行動認識部160の処理の一例について説明する。まず、行動認識部160は、物体識別情報取得部130からモノIDを取得し、イベントパターンを絞り込む。例えば、モノIDが「M01」の場合には、イベントパターンは1段目のイベントパターンから3段目のイベントパターンとなる。
【0056】
続いて、行動認識部160は、絞り込んだイベントパターンの領域推移パターンと、領域判定部150から順次取得する領域IDの推移パターンとを比較して、利用者の行動を認識する。例えば、行動認識部160が、領域判定部150から領域IDを「P06」、「P07」、「P01」の順に取得した場合には、図11の1段目の領域推移パターンにヒットする。この場合には、行動認識部160は、利用者の行動を「電話をかける」と認識する。
【0057】
なお、行動認識部160は、モノIDとモノデータベース110bとを比較して、モノIDに対応するモノ名称を判定する。例えば、行動認識部160は、モノID、モノ名称、検知時間、利用者の行動を対応づけて、認識結果に格納する。
【0058】
認識結果出力部170は、行動認識部160の認識結果を、外部装置に出力する処理部である。認識結果出力部170は、認識結果をディスプレイなどの表示装置に出力しても良い。なお、認識結果出力部170は、認識結果をログとして記憶部110に順次記憶しても良い。
【0059】
なお、上記処理部140〜160は、例えば、ASIC、FPGA等の集積装置に対応する。また、上記処理部140〜160は、CPUやMPUなどの電気回路に対応する。
【0060】
次に、本実施例にかかる行動認識装置100の処理手順について説明する。図12は、本実施例にかかる行動認識装置の処理手順を示すフローチャートである。例えば、図12に示す処理は、行動認識装置100が、モノIDと検知時間を超音波発信機から取得したことを契機に実行される。
【0061】
図12に示すように、行動認識装置100は、超音波発信機10からモノIDと検知時間を取得し(ステップS101)、超音波受信機20a〜20cから距離の情報を取得する(ステップS102)。
【0062】
行動認識装置100は、手の位置を算出し(ステップS103)、手の位置と身体領域データベース110aとを比較する(ステップS104)。行動認識装置100は、手の位置が、身体領域データベース110aに登録された領域に含まれない場合には(ステップS105,No)、ステップS107に移行する。
【0063】
一方、行動認識装置100は、手の位置が、身体領域データベース110aに登録された領域に含まれる場合には(ステップS105,Yes)、領域IDを特定し(ステップS106)、ステップS107に移行する。
【0064】
行動認識装置100は、行動認識処理を実行する(ステップS107)。ステップS107において、行動認識装置100は、超音波発信機10の位置を含む領域の推移パターンと、モノIDと、イベントパターンデータベース110cとを比較して、利用者の行動を認識する。
【0065】
行動認識装置100は、処理を終了しない場合には(ステップS108,No)、ステップS101に移行する。行動認識装置100は、処理を終了する場合には(ステップS108,Yes)、処理を終了する。
【0066】
次に、本実施例にかかる行動認識装置100の効果について説明する。行動認識装置100は、利用者の身体周辺を複数の領域に分割し、利用者の手の位置が含まれる領域の推移のパターンと、利用者が利用する物体の種別から、利用者の行動を認識する。このため、利用者の手先レベルの細かい動作の違いを区別して、利用者の行動を正確に認識することができる。
【0067】
また、行動認識装置100は、利用者の手の位置の移動パターンを追跡するのではなく、ある一定の範囲をもった領域単位で、利用者の手の位置の移動パターンを追跡する。このため、利用者の手の位置の検出に高い精度は要求されず、コストを削減することもできる。例えば、利用者の手に超音波発信機10を設置し、胸部に超音波受信機20a〜20cを設置し、超音波発信機10から超音波受信機20a〜20cまでの超音波の到達時間に基づいて、利用者の手の位置を算出すればよい。
【0068】
ところで、身体領域データベース110aの各領域を複合した複合領域データベースを用いて、利用者の手の位置を含む領域を判定してもよい。例えば、耳の領域と口の領域とを複合し、顔周辺の領域とすることができる。図13は、複合領域データベースのデータ構造を示す図である。例えば、複合領域データベースは、記憶部110に記憶される。
【0069】
図13に示すように、この複合領域データベースは、複合領域ID、領域ID群、領域名称を有する。複合領域IDは、複合領域を識別する情報である。領域ID群は、複合領域を構成する各領域の領域IDである。領域名称は、複合領域の名称である。
【0070】
例えば、図13の1段目の複合領域ID「CP01」の領域は、図11に示した領域ID「P01」、「P02」を複合した領域である。また、図13の2段目の複合領域ID「CP02」の領域は、図11に示した領域ID「P03」、「P04」を複合した領域である。
【0071】
行動認識装置100は、複合領域データベースを利用して、利用者の行動を認識しても良い。例えば、利用者が歯ブラシをもった状態で、利用者の手の位置が、複合領域ID「CP01」の領域を出たり入ったりしている場合には、行動認識装置100は、利用者の行動を「歯磨き」と認識する。
【0072】
複合領域は、各領域を組み合わせるだけで利用者周辺の複雑な領域をカバーすることができ、利用者の様々な手の動きに追従することができる。このため、行動認識装置100は、各領域を組み合わせた複合領域を利用することで、利用者の複雑な行動を簡易的に認識することができる。
【0073】
ところで、行動認識装置100の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、行動認識装置100の分散、統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、行動認識装置100は、有線によって、超音波発信機10と通信を行ってもよい。また、行動認識装置100が、超音波発信機10と超音波受信機20a〜20cの距離を算出するようにしてもよい。
【0074】
また、行動認識装置100は、既知の移動体通信端末またはPDAなどの情報処理装置に、行動認識装置100の各機能を搭載することによって実現することもできる。
【0075】
図14は、実施例にかかる行動認識装置を構成するコンピュータのハードウェア構成を示す図である。図14に示すように、このコンピュータ200は、各種演算処理を実行するCPU201と、ユーザからのデータの入力を受け付ける入力装置202と、ディスプレイ203とを有する。また、コンピュータ200は、記憶媒体からプログラム等を読み取る読み取り装置204と、超音波受信機と接続するインターフェース装置205と、超音波発信機と無線通信を行う無線通信装置206とを有する。また、コンピュータ200は、各種情報を一時記憶するRAM207と、フラッシュメモリなどの記憶装置208とを有する。各装置201〜208は、バス209に接続される。
【0076】
記憶装置208は、領域判定プログラム208a、行動認識プログラム208b、領域情報208cを記憶する。
【0077】
CPU201は、記憶装置208に記憶された各プログラム208a、208b、領域情報208cを読み出して、RAM207に展開する。これにより、領域判定プログラム208aは、領域判定プロセス207aとして機能する。行動認識プログラム208bは、行動認識プロセス207bとして機能する。また、領域情報207cは、CPU201が領域判定プロセス207aを実行する場合に利用される。
【0078】
領域判定プロセス207aは、図6の領域判定部150に対応する。行動認識プロセス207bは、図6の行動認識部160に対応する。各プロセス207a、207bにより、CPU201は、利用者の行動を認識する。
【0079】
なお、上記のプログラム208a、208b、領域情報208cは、必ずしも記憶装置208に格納されている必要はない。例えば、CD−ROM等の記憶媒体に記憶されたプログラム208a、208b、領域情報208cを、コンピュータ200が読み出して実行するようにしてもよい。また、公衆回線、インターネット、LAN(Local Area Network)、WAN(Wide Area Network)等に接続された記憶装置に、各プログラム208a、208b、領域情報208cを記憶させておいてもよい。この場合、コンピュータ200がこれらから各プログラム208a、208b、領域情報208cを読み出して実行するようにしてもよい。
【0080】
以上の各実施例を含む実施形態に関し、さらに以下の付記を開示する。
【0081】
(付記1)利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶する領域情報記憶部と、
前記利用者が利用する物体を識別する物体識別情報を取得する取得部と、
前記利用者の身体に取り付けられた音波発信機の座標と前記領域の座標とを比較して、前記音波発信機を含む領域を所定の周期で順次判定する領域判定部と、
前記物体識別情報と前記領域判定部が順次判定する前記音波発信機を含む領域の推移とを基にして、利用者の行動を認識する行動認識部と
を備えたことを特徴とする行動認識装置。
【0082】
(付記2)前記領域情報記憶部は、異なる複数の領域を組み合わせた領域を示す複合領域の座標を更に記憶し、前記行動認識部は、前記物体識別情報と前記音波発信機を含む複合領域の推移を基にして、利用者の行動を認識することを特徴とする付記1に記載の行動認識装置。
【0083】
(付記3)前記音波発信機から発信された音波が、当該音波発信機が取り付けられた位置とは異なる利用者の身体の一部に装着された複数の音波受信機に到達するまでの距離に基づいて、前記音波発信機が装着された前記利用者の身体の一部の座標を算出する位置算出部を更に有することを特徴とする付記1または2に記載の行動認識装置。
【0084】
(付記4)コンピュータが実行する行動認識方法であって、
利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶装置に記憶し、
前記利用者が利用する物体を識別する物体識別情報を取得し、
前記利用者の身体に取り付けられた音波発信機の座標と前記領域の座標とを比較して、前記音波発信機を含む領域を所定の周期で順次判定し、
前記物体識別情報と順次判定する前記音波発信機を含む領域の推移とを基にして、利用者の行動を認識することを特徴とする行動認識方法。
【0085】
(付記5)前記記憶装置は、異なる複数の領域を組み合わせた領域を示す複合領域の座標を更に記憶し、前記コンピュータが利用者の行動を認識する際、前記物体識別情報と前記音波発信機を含む複合領域の推移を基にして、利用者の行動を認識することを特徴とする付記4に記載の行動認識方法。
【0086】
(付記6)前記コンピュータは、前記音波発信機と、当該音波発信機が取り付けられた位置とは異なる利用者の身体の一部に装着された複数の音波受信機とに接続され、前記音波発信機から発信された音波が、前記音波受信機に到達するまでの距離に基づいて、前記音波発信機が装着された前記利用者の身体の一部の座標を算出することを特徴とする付記4または5に記載の行動認識方法。
【0087】
(付記7)コンピュータに、
利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶装置に記憶し、
前記利用者が利用する物体を識別する物体識別情報を取得し、
前記利用者の身体に取り付けられた音波発信機の座標と前記領域の座標とを比較して、前記音波発信機を含む領域を所定の周期で順次判定し、
前記物体識別情報と順次判定する前記音波発信機を含む領域の推移とを基にして、利用者の行動を認識する処理を実行される行動認識プログラム。
【0088】
(付記8)前記記憶装置は、異なる複数の領域を組み合わせた領域を示す複合領域の座標を更に記憶し、前記コンピュータが利用者の行動を認識する際、前記物体識別情報と前記音波発信機を含む複合領域の推移を基にして、利用者の行動を認識することを特徴とする付記7に記載の行動認識プログラム。
【0089】
(付記9)前記コンピュータは、前記音波発信機と、当該音波発信機が取り付けられた位置とは異なる利用者の身体の一部に装着された複数の音波受信機とに接続され、前記音波発信機から発信された音波が、前記音波受信機に到達するまでの距離に基づいて、前記音波発信機が装着された前記利用者の身体の一部の座標を算出することを特徴とする付記7または8に記載の行動認識プログラム。
【符号の説明】
【0090】
10 超音波発信機
20a、20b、20c 超音波受信機
100 行動認識装置
【技術分野】
【0001】
本発明は、行動認識装置等に関する。
【背景技術】
【0002】
人物の行動を認識するための各種の技術が存在する。例えば、人物の手先に取り付けられたRFID(Radio Frequency Identification)リーダによって、モノに貼付されたIC(integrated Circuit)タグの属性情報を読み取ることで、人物の行動を認識する技術がある。また、人体通信技術を利用して、モノに貼付されたICタグの属性情報を読みとり、人物の行動を認識する技術もある。
【0003】
しかし、モノの属性情報だけでは、モノを使って人物がどのように行動しているのかを認識することができない。例えば、モノが電話であることが属性情報に含まれている場合には、人物が電話をかけるのか、電話をポケット等に収納するのかを区別することができない。
【0004】
これに対して、カメラで人物の画像を撮影し、撮影した画像を分析することで、人物の行動を識別する技術が存在する。この技術によれば、人物全体の動きを把握することができるため、モノを使って人物がどのように行動しているのかを認識することができる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平10−261090号公報
【特許文献2】特開2001−236520号公報
【特許文献3】特開2006−209421号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上述した従来技術では、人物の行動を正確に認識することができないという問題がある。
【0007】
人間の行動というものは、手先の動きが僅かに異なる場合であっても、行動の種別が異なる場合がある。しかし、上記の画像を分析する技術では、人物全体の動きを分析できても、手先レベルの細かい動作の違いまで区別することは困難である。例えば、人物がカメラに背を向けている状態では、携帯電話をポケットにしまう行動と、携帯電話をかける行動とを区別することができない。また、画像を分析する技術は、カメラに写らない人物の行動を認識することができず、使用できる場所が限られる。
【0008】
開示の技術は、上記に鑑みてなされたものであって、人物の行動を正確に認識することができる行動認識装置、行動認識方法および行動認識プログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
本願の開示する行動認識装置は、領域情報記憶部、取得部、領域判定部、行動認識部を有する。領域情報記憶部は、利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶する。取得部は、利用者が利用する物体を識別する物体識別情報を取得する。領域判定部は、利用者の身体の一部の座標と領域の座標とを比較して、利用者の身体の一部を含む領域を判定する。行動認識部は、物体識別情報と前記利用者の身体の一部を含む領域の推移とを基にして、利用者の行動を認識する。
【発明の効果】
【0010】
本願の開示する行動認識装置の一つの態様によれば、人物の行動を正確に認識することができるという効果を奏する。
【図面の簡単な説明】
【0011】
【図1】図1は、本実施例にかかる行動認識システムの構成を示す図である。
【図2】図2は、超音波発信機から各超音波受信機までの距離を示す図である。
【図3】図3は、超音波発信機の構成を示す図である。
【図4】図4は、超音波受信機の構成を示す図である。
【図5】図5は、距離計算の原理を説明する図である。
【図6】図6は、行動認識装置の構成を示す図である。
【図7】図7は、身体周辺の代表的な領域を説明するための図である。
【図8】図8は、身体領域データベースが記憶する領域の座標を示す図である。
【図9】図9は、身体領域データベースのデータ構造を示す図である。
【図10】図10は、モノデータベースのデータ構造を示す図である。
【図11】図11は、イベントパターンデータベースのデータ構造を示す図である。
【図12】図12は、本実施例にかかる行動認識装置の処理手順を示すフローチャートである。
【図13】図13は、複合領域データベースのデータ構造を示す図である。
【図14】図14は、実施例にかかる行動認識装置を構成するコンピュータのハードウェア構成を示す図である。
【発明を実施するための形態】
【0012】
以下に、本願の開示する行動認識装置、行動認識方法および行動認識プログラムの実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。
【実施例】
【0013】
図1は、本実施例にかかる行動認識システムの構成を示す図である。図1に示すように、この行動認識システムは、超音波発信機10、超音波受信部20a〜20c、行動認識装置100を有する。例えば、超音波受信機20a〜20cと行動認識装置100とは、それぞれ有線により接続される。超音波発信機10と行動認識装置100とは、無線により接続される。また、超音波発信機10は、利用者1の手首に設置される。超音波受信機20a〜20cは、利用者1の胸部にそれぞれ設置される。
【0014】
超音波発信機10は、超音波を発信する装置である。超音波発信機10が発信する超音波は、超音波受信機20a〜20cによって受信される。また、超音波発信機10は、超音波を発信するタイミングで、LED(Light Emitting Diode)等を発光させることで、超音波の発信時間を超音波受信機20a〜20cに通知する。超音波の発信時間は、超音波が発信されたタイミングに対応する。
【0015】
また、超音波発信機10は、モノ2に貼付されたICタグ2aから、モノ2を識別するモノID(Identification)を読み取る。超音波発信機10は、モノIDの情報を行動認識装置100に通知する。例えば、超音波発信機10は、モノIDを読み取ったタイミングを契機として、超音波を周期的に発信し、LEDを周期的に発光させる。
【0016】
超音波受信機20a〜20cは、超音波発信機10から発信される超音波、およびLEDの光を受け、超音波発信機10から自超音波受信機までの距離を算出する装置である。図2は、超音波発信機から各超音波受信機までの距離を示す図である。図2に示すように、超音波発信機10から超音波受信機20aまでの距離をL1、超音波発信機10から超音波受信機20bまでの距離をL2、超音波発信機10から超音波受信機20cまでの距離をL3とする。超音波受信機20a〜20cは、それぞれが算出した距離L1〜L3の情報を、行動認識装置100に通知する。
【0017】
行動認識装置100は、モノID、距離L1〜L3の情報を取得して、利用者1が利用するモノと利用者の手先の位置の推移とを特定し、利用者1の行動を認識する装置である。以下において、図1に示した超音波送信機10、超音波受信機20a〜20c、行動認識装置100の構成について順に説明する。
【0018】
図3は、超音波発信機の構成を示す図である。図3に示すように、この超音波発信機10は、読み取り部11、超音波発信部12、発光部13、モノID通知部14、発信タイミング制御部15を有する。
【0019】
読み取り部11は、周期的に電波を送信して、所定の範囲内に含まれるICタグにアクセスし、このICタグに含まれるモノIDを読み取る装置である。また、読み取り部11はタイマ機能を有し、モノIDを読み取った時間を検知時間として測定する。読み取り部11は、モノIDと検知時間とを対応づけて発信タイミング制御部15に出力する。例えば、読み取り部11は、RFIDリーダに対応する。
【0020】
超音波発信部12は、発信タイミング制御部15の発信命令を受けた場合に、超音波を発信する装置である。例えば、超音波発信部12は、発信命令を受けた後、一定の周期毎に超音波を発信する。
【0021】
発光部13は、発信タイミング制御部15の発光命令を受けた場合に、LEDを発光させる装置である。発光部13がLEDを発光させるタイミングは、超音波発信部12が超音波を発信するタイミングと同じタイミングである。例えば、発光部13は、超音波発信部12の発信タイミングに合わせて、LEDを発光させる。
【0022】
モノID通知部14は、発信タイミング制御部15からモノIDと検知時間を取得し、モノIDと検知時間とを行動認識装置100に通知する装置である。例えば、モノID通知部14は、無線通信装置に対応する。
【0023】
発信タイミング制御部15は、発信命令を超音波発信部12に出力し、発光命令を発光部13に出力する処理部である。また、発信タイミング制御部15は、読み取り部11から、モノIDと検知時間とを受け、このモノIDと検知時間とをモノID通知部14に出力する。例えば、発信タイミング制御部15は、モノIDの情報を受けたことを契機として、発信命令および発光命令を出力してもよい。
【0024】
発信タイミング制御部15は、例えば、ASIC(Application Specific Integrated Circuit)や、FPGA(Field Programmable Gate Array)などの集積装置に対応する。また、発信タイミング制御部15は、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等の電子回路に対応する。
【0025】
次に、図1に示した超音波受信機20a〜20cの構成について説明する。図4は、超音波受信機の構成を示す図である。超音波受信機20a〜20cの構成は同じであるため、ここでは、超音波受信機20aの構成を示す。図4に示すように、この超音波受信機20aは、超音波受信部21、受光部22、距離計算部23、距離通知部24を有する。
【0026】
超音波受信部21は、超音波発信機10から超音波を受信する装置である。超音波受信部21は、超音波を受信した受信時間を距離計算部23に出力する。受光部22は、超音波発信機10のLEDから発光される光を受光する装置である。受光部22は、光を受光した受光時間を距離計算部23に出力する装置である。
【0027】
距離計算部23は、超音波発信機10と自超音波受信機との距離を算出する処理部である。例えば、距離計算部23は、受信時間と受光時間との差分を、超音波の音速で割ることで距離を算出する。距離計算部23は、距離の情報を距離通知部24に出力する。
【0028】
ここで、距離計算の原理について説明する。図5は、距離計算の原理を説明する図である。図5の横軸は時間を示す。図5の信号3aは光信号に対応し、信号3bは超音波信号に対応する。また、時間t1は光を受光した受光時間に対応し、時間t2は超音波を受信した受信時間に対応する。超音波発信機10によって、超音波と光は同時に出力されており、光の速度は音の速度と比較して十分速いので、受光時間t1は、音波が超音波発信装置10から発信された時間と見なすことができる。このため、超音波が超音波発信機10から超音波受信機20aまで到達するのに要した時間は、Δtとなる。Δtは、t1とt2との差分に対応する。このΔtを超音波の音速で割ることで、距離が求められる。
【0029】
距離計算部23は、例えば、ASIC、FPGA等の集積装置に対応する。また、距離計算部23は、CPUやMPUなどの電気回路に対応する。
【0030】
超音波発信機10から周期的に、超音波、光が出力される場合には、距離計算部23は、周期的に距離を算出し、距離の情報を順次距離通知部24に出力する。
【0031】
距離通知部24は、距離計算部23から受ける距離の情報を、行動認識装置100に通知する処理部である。
【0032】
次に、図1に示した行動認識装置100の構成について説明する。図6は、行動認識装置の構成を示す図である。図6に示すように、この行動認識装置100は、記憶部110、距離情報取得部120、物体識別情報取得部130、位置情報算出部140、領域判定部150、行動認識部160、認識結果出力部170を有する。
【0033】
記憶部110は、身体領域データベース110a、モノデータベース110b、イベントパターンデータベース110cを記憶する記憶装置である。記憶部110は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子、またはハードディスク、光ディスクなどの記憶装置に対応する。
【0034】
身体領域データベース110aは、利用者1の身体周辺の領域を複数の領域に分割した各領域の座標をそれぞれ記憶する。図7は、身体周辺の代表的な領域を説明するための図である。図7に示すように、例えば、身体領域データベース110aが記憶する領域は、利用者1の耳周辺の領域4a、口周辺の領域4b、上半身のポケット1周辺の領域4c、下半身のポケット2周辺の領域4d、利用者1が新聞等を閲覧する領域4e等がある。また、領域4eに鞄が置かれる場合もある。また、身体領域データベース110aが記憶する領域は、利用者1の胸部の前方領域4f、利用者1の頭部の前方領域4gがある。
【0035】
利用者の行動の種別によって、手先の移動ルートがある程度決まっており、手先が通過する領域は行動の種別毎に共通のものとなる。また、異なる行動の種別であっても、共通して通過する領域がある。身体領域データベース110aは、このような行動の種別毎に共通で通過する領域、または、異なる種別であっても共通して手先が通過する領域をそれぞれ記憶している。このため、手先の位置を含む身体領域データベース110aの領域の推移によって、利用者の行動の種別を判定することが可能となる。例えば、利用者1が電話をかける場合には、利用者の手先を含む領域は、領域4f、4g、4aの順に移動する。また、利用者1が携帯電話をポケットにしまう場合には、利用者の手先を含む領域は、領域4f、4cの順に移動する。また、利用者1が、ポケットにあるものを鞄にしまう場合には、利用者の手先を含む領域は、領域4c、4f、4eの順に移動する。
【0036】
身体領域データベース110aは、領域の座標をどのように記憶しても良いが、例えば、領域の各頂点のうち、対角関係にある頂点の座標を記憶する。図8は、身体領域データベースが記憶する領域の座標を示す図である。図8に示すように、身体領域データベース110aは、領域のAの3次元座標と、Bの3次元座標を記憶する。
【0037】
このように、対角関係にある頂点の座標がわかれば、音波発信機10が該当する領域に含まれているか否かを判定することができる。例えば、Aの3次元座標を(xa、ya、za)とし、Bの3次元座標を(xb、yb、zb)とする。また、ここでは、xa>xb、ya>yb、za>zbとする。音波発信機10の3次元座標(x、y、z)が、それぞれ式(1)、(2)、(3)の関係を満たせば、音波発信機10は該当領域に含まれることとなる。これに対して、式(1)、(2)、(3)のいずれかの関係を満たさない場合には、音波発信機10は該当領域に含まれない。
【0038】
xb<x<xa・・・(1)
yb<y<ya・・・(2)
zb<z<za・・・(3)
【0039】
なお、各3次元座標は、利用者の中心を基準とした座標となる。例えば、利用者の中心を原点0とする。利用者の中心をどのように設定しても良いが、例えば、z座標が0となる位置を利用者の身長を2で割った値とし、x座標が0となる位置を利用者の奥行き幅を2で割った値とし、y座標が0となる位置を利用者の横幅を2で割った値とする。図7に示した原点の位置と、図8に示した原点の位置は同じである。
【0040】
身体領域データベース110aのデータ構造の一例について説明する。図9は、身体領域データベースのデータ構造を示す図である。図9に示すように、身体領域データベース110aは、領域ID、座標A、座標B、領域名称を対応づけて記憶する。領域IDは、領域を一意に識別する情報である。座標A、Bはそれぞれ、図8に示したように、対角関係にある領域の座標である。
【0041】
例えば、図9の1段目では、領域ID「P01」によって識別される利用者の「耳」の領域の座標A、Bが座標「x1、y1、z1」、「x2、y2、z2」であることを示している。図9の2段目から6段目も同様に、領域ID、座標A、座標B、領域名称を対応づけて記憶している。
【0042】
モノデータベース110bは、モノIDとモノ名称とを対応づけて記憶する。図10は、モノデータベースのデータ構造を示す図である。例えば、図10の1段目では、モノID「M01」に対応するモノ名称が「携帯電話」である旨を示している。図10の2段目から4段目も同様に、モノID、モノ名称を対応づけて記憶している。
【0043】
イベントパターンデータベース110cは、後述の行動認識部160が、利用者1の行動を認識する場合に利用するデータである。図11は、イベントパターンデータベースのデータ構造を示す図である。図11に示すように、イベントパターンデータベース110cは、イベントパターン、モノID、領域推移パターンを対応づけて記憶する。イベントパターンは、利用者の行動を識別する情報である。領域推移パターンは、領域の推移のパターンを、領域IDを時系列に並べることで示している。例えば、利用者1の手の位置が、領域ID「P06」の領域、領域ID「P07」の領域、領域ID「P01」の領域の順に推移するパターンは、図11の1段目の領域推移パターンに該当する。イベントパターンは、モノIDと領域推移パターンとの組み合わせてよって特定される。
【0044】
例えば、利用者が携帯電話をかける場合には、利用者が携帯電話を持った状態で、利用者の手先の位置を含む領域が、胸部の前方領域、頭部の前方領域、耳の領域の順に推移する。胸部の前方領域の領域IDは「P06」、頭部の前方領域の領域IDは「P07」、耳の領域IDは「P01」である。このため、図11の1段目に示すように、モノIDが携帯電話のID「M01」、領域推移パターン「P06、P07、P01」に対応するイベントパターンは「電話をかける」となる。
【0045】
また、利用者が携帯電話を胸ポケットに対応するポケット1にしまう場合には、利用者が携帯電話を持った状態で、利用者の手先の位置を含む領域が、胸部の前方領域、ポケット1の領域の順に推移する。例えば、胸部の前方領域の領域IDは「P06」、ポケット1の領域の領域IDは「P03」である。このため、図11の2段目に示すように、モノIDが携帯電話のID「M01」、領域推移パターン「P06、P03」に対応するイベントパターンは「電話をポケット1にしまう」となる。
【0046】
また、利用者が携帯電話をズボンのポケットに対応するポケット2にしまう場合には、利用者が携帯電話を持った状態で、利用者の手先の位置を含む領域が、胸部の前方領域、ポケット2の領域の順に推移する。例えば、胸部の前方領域の領域IDは「P06」、ポケット2の領域の領域IDは「P04」である。このため、図11の3段目に示すように、モノIDが携帯電話のID「M01」、領域推移パターン「P06、P04」に対応するイベントパターンは「電話をポケット2にしまう」となる。
【0047】
また、利用者が薬Aを飲む場合には、利用者は薬Aをもった状態で、利用者の手先の位置を含む領域が、胸部の前方領域、頭部の前方領域、口の領域の順に推移する。胸部の前方領域の領域IDは「P06」、頭部の前方領域の領域IDは「P07」、口の領域IDは「P02」である。このため、図11の4段目に示すように、モノIDが薬AのID「M03」、領域推移パターン「P06、P07、P02」に対応するイベントパターンは「薬Aを飲む」となる。
【0048】
また、利用者がポケット1に入っていた電話を鞄にしまう場合には、例えば、利用者はポケット1から携帯電話をもった状態で、ポケット1の領域、胸部の前方領域、鞄が置いてあると想定される領域の順に移動する。ポケット1の領域の領域IDは「P03」、胸部の前方領域のIDは「P06」であり、鞄がおいてあると想定される領域の領域IDを「P05」とする。この場合には、図11の6段目に示すように、モノIDが携帯電話のID「M01」、領域推移パターン「P03、P06、P05」に対応するイベントパターンは「ポケット1に入っていた携帯電話を鞄にしまう」となる。
【0049】
図6の説明に戻る。距離情報取得部120は、超音波受信機20a〜20cから、距離L1〜L3の情報を取得する装置である。距離情報取得部120は、距離L1〜L3の情報を位置情報算出部140に出力する。
【0050】
物体識別情報取得部130は、超音波発信機10からモノIDと検知時間とを受信する装置である。物体識別情報取得部130は、モノIDと検知時間とを行動認識部160に出力する。例えば、物体識別情報取得部130は、無線通信装置に対応する。
【0051】
位置情報算出部140は、距離L1〜L3に基づいて、超音波発信機10の位置を算出する処理部である。利用者が超音波発信機10を手先に装着している場合には、位置情報算出部140が算出する位置は、利用者の手先の位置を算出していることに等しい。位置情報算出部140は、超音波発信機10の位置情報を領域判定部150に順次出力する。
【0052】
ここで、位置情報算出部140が超音波発信機10の位置を算出する処理の一例について説明する。位置情報算出部140は、超音波受信機20aの座標を中心とした半径L1の球1、超音波受信機20bの座標を中心とした半径L2の球2、超音波受信機20cの座標を中心とした半径L3の球3を求める。位置情報算出部140は、球1〜3を求めた後に、各球1〜3の交点の3次元座標を超音波発信機10の位置として算出する。
【0053】
領域判定部150は、位置情報と、身体領域データベース110aとを比較して、超音波発信機10の位置が含まれる領域の領域IDを所定の周期によって順次判定する処理部である。領域判定部150は、判定した領域IDを行動認識部160に順次出力する。
【0054】
行動認識部160は、超音波発信機10の位置を含む領域の推移パターンと、モノIDと、イベントパターンデータベース110cとを比較して、利用者の行動を認識する処理部である。行動認識部160は、認識結果を認識結果出力部170に通知する。
【0055】
図11を用いて、行動認識部160の処理の一例について説明する。まず、行動認識部160は、物体識別情報取得部130からモノIDを取得し、イベントパターンを絞り込む。例えば、モノIDが「M01」の場合には、イベントパターンは1段目のイベントパターンから3段目のイベントパターンとなる。
【0056】
続いて、行動認識部160は、絞り込んだイベントパターンの領域推移パターンと、領域判定部150から順次取得する領域IDの推移パターンとを比較して、利用者の行動を認識する。例えば、行動認識部160が、領域判定部150から領域IDを「P06」、「P07」、「P01」の順に取得した場合には、図11の1段目の領域推移パターンにヒットする。この場合には、行動認識部160は、利用者の行動を「電話をかける」と認識する。
【0057】
なお、行動認識部160は、モノIDとモノデータベース110bとを比較して、モノIDに対応するモノ名称を判定する。例えば、行動認識部160は、モノID、モノ名称、検知時間、利用者の行動を対応づけて、認識結果に格納する。
【0058】
認識結果出力部170は、行動認識部160の認識結果を、外部装置に出力する処理部である。認識結果出力部170は、認識結果をディスプレイなどの表示装置に出力しても良い。なお、認識結果出力部170は、認識結果をログとして記憶部110に順次記憶しても良い。
【0059】
なお、上記処理部140〜160は、例えば、ASIC、FPGA等の集積装置に対応する。また、上記処理部140〜160は、CPUやMPUなどの電気回路に対応する。
【0060】
次に、本実施例にかかる行動認識装置100の処理手順について説明する。図12は、本実施例にかかる行動認識装置の処理手順を示すフローチャートである。例えば、図12に示す処理は、行動認識装置100が、モノIDと検知時間を超音波発信機から取得したことを契機に実行される。
【0061】
図12に示すように、行動認識装置100は、超音波発信機10からモノIDと検知時間を取得し(ステップS101)、超音波受信機20a〜20cから距離の情報を取得する(ステップS102)。
【0062】
行動認識装置100は、手の位置を算出し(ステップS103)、手の位置と身体領域データベース110aとを比較する(ステップS104)。行動認識装置100は、手の位置が、身体領域データベース110aに登録された領域に含まれない場合には(ステップS105,No)、ステップS107に移行する。
【0063】
一方、行動認識装置100は、手の位置が、身体領域データベース110aに登録された領域に含まれる場合には(ステップS105,Yes)、領域IDを特定し(ステップS106)、ステップS107に移行する。
【0064】
行動認識装置100は、行動認識処理を実行する(ステップS107)。ステップS107において、行動認識装置100は、超音波発信機10の位置を含む領域の推移パターンと、モノIDと、イベントパターンデータベース110cとを比較して、利用者の行動を認識する。
【0065】
行動認識装置100は、処理を終了しない場合には(ステップS108,No)、ステップS101に移行する。行動認識装置100は、処理を終了する場合には(ステップS108,Yes)、処理を終了する。
【0066】
次に、本実施例にかかる行動認識装置100の効果について説明する。行動認識装置100は、利用者の身体周辺を複数の領域に分割し、利用者の手の位置が含まれる領域の推移のパターンと、利用者が利用する物体の種別から、利用者の行動を認識する。このため、利用者の手先レベルの細かい動作の違いを区別して、利用者の行動を正確に認識することができる。
【0067】
また、行動認識装置100は、利用者の手の位置の移動パターンを追跡するのではなく、ある一定の範囲をもった領域単位で、利用者の手の位置の移動パターンを追跡する。このため、利用者の手の位置の検出に高い精度は要求されず、コストを削減することもできる。例えば、利用者の手に超音波発信機10を設置し、胸部に超音波受信機20a〜20cを設置し、超音波発信機10から超音波受信機20a〜20cまでの超音波の到達時間に基づいて、利用者の手の位置を算出すればよい。
【0068】
ところで、身体領域データベース110aの各領域を複合した複合領域データベースを用いて、利用者の手の位置を含む領域を判定してもよい。例えば、耳の領域と口の領域とを複合し、顔周辺の領域とすることができる。図13は、複合領域データベースのデータ構造を示す図である。例えば、複合領域データベースは、記憶部110に記憶される。
【0069】
図13に示すように、この複合領域データベースは、複合領域ID、領域ID群、領域名称を有する。複合領域IDは、複合領域を識別する情報である。領域ID群は、複合領域を構成する各領域の領域IDである。領域名称は、複合領域の名称である。
【0070】
例えば、図13の1段目の複合領域ID「CP01」の領域は、図11に示した領域ID「P01」、「P02」を複合した領域である。また、図13の2段目の複合領域ID「CP02」の領域は、図11に示した領域ID「P03」、「P04」を複合した領域である。
【0071】
行動認識装置100は、複合領域データベースを利用して、利用者の行動を認識しても良い。例えば、利用者が歯ブラシをもった状態で、利用者の手の位置が、複合領域ID「CP01」の領域を出たり入ったりしている場合には、行動認識装置100は、利用者の行動を「歯磨き」と認識する。
【0072】
複合領域は、各領域を組み合わせるだけで利用者周辺の複雑な領域をカバーすることができ、利用者の様々な手の動きに追従することができる。このため、行動認識装置100は、各領域を組み合わせた複合領域を利用することで、利用者の複雑な行動を簡易的に認識することができる。
【0073】
ところで、行動認識装置100の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、行動認識装置100の分散、統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、行動認識装置100は、有線によって、超音波発信機10と通信を行ってもよい。また、行動認識装置100が、超音波発信機10と超音波受信機20a〜20cの距離を算出するようにしてもよい。
【0074】
また、行動認識装置100は、既知の移動体通信端末またはPDAなどの情報処理装置に、行動認識装置100の各機能を搭載することによって実現することもできる。
【0075】
図14は、実施例にかかる行動認識装置を構成するコンピュータのハードウェア構成を示す図である。図14に示すように、このコンピュータ200は、各種演算処理を実行するCPU201と、ユーザからのデータの入力を受け付ける入力装置202と、ディスプレイ203とを有する。また、コンピュータ200は、記憶媒体からプログラム等を読み取る読み取り装置204と、超音波受信機と接続するインターフェース装置205と、超音波発信機と無線通信を行う無線通信装置206とを有する。また、コンピュータ200は、各種情報を一時記憶するRAM207と、フラッシュメモリなどの記憶装置208とを有する。各装置201〜208は、バス209に接続される。
【0076】
記憶装置208は、領域判定プログラム208a、行動認識プログラム208b、領域情報208cを記憶する。
【0077】
CPU201は、記憶装置208に記憶された各プログラム208a、208b、領域情報208cを読み出して、RAM207に展開する。これにより、領域判定プログラム208aは、領域判定プロセス207aとして機能する。行動認識プログラム208bは、行動認識プロセス207bとして機能する。また、領域情報207cは、CPU201が領域判定プロセス207aを実行する場合に利用される。
【0078】
領域判定プロセス207aは、図6の領域判定部150に対応する。行動認識プロセス207bは、図6の行動認識部160に対応する。各プロセス207a、207bにより、CPU201は、利用者の行動を認識する。
【0079】
なお、上記のプログラム208a、208b、領域情報208cは、必ずしも記憶装置208に格納されている必要はない。例えば、CD−ROM等の記憶媒体に記憶されたプログラム208a、208b、領域情報208cを、コンピュータ200が読み出して実行するようにしてもよい。また、公衆回線、インターネット、LAN(Local Area Network)、WAN(Wide Area Network)等に接続された記憶装置に、各プログラム208a、208b、領域情報208cを記憶させておいてもよい。この場合、コンピュータ200がこれらから各プログラム208a、208b、領域情報208cを読み出して実行するようにしてもよい。
【0080】
以上の各実施例を含む実施形態に関し、さらに以下の付記を開示する。
【0081】
(付記1)利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶する領域情報記憶部と、
前記利用者が利用する物体を識別する物体識別情報を取得する取得部と、
前記利用者の身体に取り付けられた音波発信機の座標と前記領域の座標とを比較して、前記音波発信機を含む領域を所定の周期で順次判定する領域判定部と、
前記物体識別情報と前記領域判定部が順次判定する前記音波発信機を含む領域の推移とを基にして、利用者の行動を認識する行動認識部と
を備えたことを特徴とする行動認識装置。
【0082】
(付記2)前記領域情報記憶部は、異なる複数の領域を組み合わせた領域を示す複合領域の座標を更に記憶し、前記行動認識部は、前記物体識別情報と前記音波発信機を含む複合領域の推移を基にして、利用者の行動を認識することを特徴とする付記1に記載の行動認識装置。
【0083】
(付記3)前記音波発信機から発信された音波が、当該音波発信機が取り付けられた位置とは異なる利用者の身体の一部に装着された複数の音波受信機に到達するまでの距離に基づいて、前記音波発信機が装着された前記利用者の身体の一部の座標を算出する位置算出部を更に有することを特徴とする付記1または2に記載の行動認識装置。
【0084】
(付記4)コンピュータが実行する行動認識方法であって、
利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶装置に記憶し、
前記利用者が利用する物体を識別する物体識別情報を取得し、
前記利用者の身体に取り付けられた音波発信機の座標と前記領域の座標とを比較して、前記音波発信機を含む領域を所定の周期で順次判定し、
前記物体識別情報と順次判定する前記音波発信機を含む領域の推移とを基にして、利用者の行動を認識することを特徴とする行動認識方法。
【0085】
(付記5)前記記憶装置は、異なる複数の領域を組み合わせた領域を示す複合領域の座標を更に記憶し、前記コンピュータが利用者の行動を認識する際、前記物体識別情報と前記音波発信機を含む複合領域の推移を基にして、利用者の行動を認識することを特徴とする付記4に記載の行動認識方法。
【0086】
(付記6)前記コンピュータは、前記音波発信機と、当該音波発信機が取り付けられた位置とは異なる利用者の身体の一部に装着された複数の音波受信機とに接続され、前記音波発信機から発信された音波が、前記音波受信機に到達するまでの距離に基づいて、前記音波発信機が装着された前記利用者の身体の一部の座標を算出することを特徴とする付記4または5に記載の行動認識方法。
【0087】
(付記7)コンピュータに、
利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶装置に記憶し、
前記利用者が利用する物体を識別する物体識別情報を取得し、
前記利用者の身体に取り付けられた音波発信機の座標と前記領域の座標とを比較して、前記音波発信機を含む領域を所定の周期で順次判定し、
前記物体識別情報と順次判定する前記音波発信機を含む領域の推移とを基にして、利用者の行動を認識する処理を実行される行動認識プログラム。
【0088】
(付記8)前記記憶装置は、異なる複数の領域を組み合わせた領域を示す複合領域の座標を更に記憶し、前記コンピュータが利用者の行動を認識する際、前記物体識別情報と前記音波発信機を含む複合領域の推移を基にして、利用者の行動を認識することを特徴とする付記7に記載の行動認識プログラム。
【0089】
(付記9)前記コンピュータは、前記音波発信機と、当該音波発信機が取り付けられた位置とは異なる利用者の身体の一部に装着された複数の音波受信機とに接続され、前記音波発信機から発信された音波が、前記音波受信機に到達するまでの距離に基づいて、前記音波発信機が装着された前記利用者の身体の一部の座標を算出することを特徴とする付記7または8に記載の行動認識プログラム。
【符号の説明】
【0090】
10 超音波発信機
20a、20b、20c 超音波受信機
100 行動認識装置
【特許請求の範囲】
【請求項1】
利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶する領域情報記憶部と、
前記利用者が利用する物体を識別する物体識別情報を取得する取得部と、
前記利用者の身体に取り付けられた音波発信機の座標と前記領域の座標とを比較して、前記音波発信機を含む領域を所定の周期で順次判定する領域判定部と、
前記物体識別情報と前記領域判定部が順次判定する前記音波発信機を含む領域の推移とを基にして、利用者の行動を認識する行動認識部と
を備えたことを特徴とする行動認識装置。
【請求項2】
前記領域情報記憶部は、異なる複数の領域を組み合わせた領域を示す複合領域の座標を更に記憶し、前記行動認識部は、前記物体識別情報と前記音波発信機を含む複合領域の推移を基にして、利用者の行動を認識することを特徴とする請求項1に記載の行動認識装置。
【請求項3】
前記音波発信機から発信された音波が、当該音波発信機が取り付けられた位置とは異なる利用者の身体の一部に装着された複数の音波受信機に到達するまでの距離に基づいて、前記音波発信機が装着された前記利用者の身体の一部の座標を算出する位置算出部を更に有することを特徴とする請求項1または2に記載の行動認識装置。
【請求項4】
コンピュータが実行する行動認識方法であって、
利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶装置に記憶し、
前記利用者が利用する物体を識別する物体識別情報を取得し、
前記利用者の身体に取り付けられた音波発信機の座標と前記領域の座標とを比較して、前記音波発信機を含む領域を所定の周期で順次判定し、
前記物体識別情報と順次判定する前記音波発信機を含む領域の推移とを基にして、利用者の行動を認識することを特徴とする行動認識方法。
【請求項5】
コンピュータに、
利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶装置に記憶し、
前記利用者が利用する物体を識別する物体識別情報を取得し、
前記利用者の身体に取り付けられた音波発信機の座標と前記領域の座標とを比較して、前記音波発信機を含む領域を所定の周期で順次判定し、
前記物体識別情報と順次判定する前記音波発信機を含む領域の推移とを基にして、利用者の行動を認識する処理を実行される行動認識プログラム。
【請求項1】
利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶する領域情報記憶部と、
前記利用者が利用する物体を識別する物体識別情報を取得する取得部と、
前記利用者の身体に取り付けられた音波発信機の座標と前記領域の座標とを比較して、前記音波発信機を含む領域を所定の周期で順次判定する領域判定部と、
前記物体識別情報と前記領域判定部が順次判定する前記音波発信機を含む領域の推移とを基にして、利用者の行動を認識する行動認識部と
を備えたことを特徴とする行動認識装置。
【請求項2】
前記領域情報記憶部は、異なる複数の領域を組み合わせた領域を示す複合領域の座標を更に記憶し、前記行動認識部は、前記物体識別情報と前記音波発信機を含む複合領域の推移を基にして、利用者の行動を認識することを特徴とする請求項1に記載の行動認識装置。
【請求項3】
前記音波発信機から発信された音波が、当該音波発信機が取り付けられた位置とは異なる利用者の身体の一部に装着された複数の音波受信機に到達するまでの距離に基づいて、前記音波発信機が装着された前記利用者の身体の一部の座標を算出する位置算出部を更に有することを特徴とする請求項1または2に記載の行動認識装置。
【請求項4】
コンピュータが実行する行動認識方法であって、
利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶装置に記憶し、
前記利用者が利用する物体を識別する物体識別情報を取得し、
前記利用者の身体に取り付けられた音波発信機の座標と前記領域の座標とを比較して、前記音波発信機を含む領域を所定の周期で順次判定し、
前記物体識別情報と順次判定する前記音波発信機を含む領域の推移とを基にして、利用者の行動を認識することを特徴とする行動認識方法。
【請求項5】
コンピュータに、
利用者の身体周辺を複数の領域に分割した各領域の座標をそれぞれ記憶装置に記憶し、
前記利用者が利用する物体を識別する物体識別情報を取得し、
前記利用者の身体に取り付けられた音波発信機の座標と前記領域の座標とを比較して、前記音波発信機を含む領域を所定の周期で順次判定し、
前記物体識別情報と順次判定する前記音波発信機を含む領域の推移とを基にして、利用者の行動を認識する処理を実行される行動認識プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2012−130522(P2012−130522A)
【公開日】平成24年7月12日(2012.7.12)
【国際特許分類】
【出願番号】特願2010−285161(P2010−285161)
【出願日】平成22年12月21日(2010.12.21)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】
【公開日】平成24年7月12日(2012.7.12)
【国際特許分類】
【出願日】平成22年12月21日(2010.12.21)
【出願人】(000005223)富士通株式会社 (25,993)
【Fターム(参考)】
[ Back to top ]