動作認識装置、動作認識方法、プログラム
【課題】より高い精度でジェスチャ動作を認識する。
【解決手段】第1,第2の一次元センサの検出軸について、予め定められた直線的なジェスチャ動作の方向である水平方向及び垂直方向に対して異なるようにして配置する。第1,第2の一次元センサ手段からの信号については、正規化を行った上で、位相平面上に写像することで信号軌跡を形成し、さらに、信号軌跡についての相関係数を求める。信号軌跡から求められる相関係数の正/負は、検出した動きが水平方向の動きと素直方向の動きの何れであるかに対応する。そこで、相関係数の正/負に基づき、水平方向の動きと垂直方向の動きとを弁別するようにして判定する。
【解決手段】第1,第2の一次元センサの検出軸について、予め定められた直線的なジェスチャ動作の方向である水平方向及び垂直方向に対して異なるようにして配置する。第1,第2の一次元センサ手段からの信号については、正規化を行った上で、位相平面上に写像することで信号軌跡を形成し、さらに、信号軌跡についての相関係数を求める。信号軌跡から求められる相関係数の正/負は、検出した動きが水平方向の動きと素直方向の動きの何れであるかに対応する。そこで、相関係数の正/負に基づき、水平方向の動きと垂直方向の動きとを弁別するようにして判定する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えば人の手などの動きなどの動作(ジェスチャ)について認識する動作認識装置とその方法、及び動作認識装置が実行するプログラムに関する。
【背景技術】
【0002】
人が行う動作(ジェスチャ)を認識する動作認識(ジェスチャ認識)の技術・手法としては、次のようなものが知られている。
1つには、撮像装置によりジェスチャを行っている被写体を撮像して得られる画像信号について動き解析の画像信号処理を行うことで、ジェスチャ認識を行おうというものが知られている。
また、1つには、加速度センサなどを実装したリモートコントロール装置を提供し、例えばユーザがこのリモートコントロール装置を持つなどして行った動きに応じて得られる加速度センサの検出信号に基づいてジェスチャ認識を行おうとするものである。
また、例えば人体が発する赤外線を検出する赤外線検出素子を利用して人の動きを検知しようとする技術も知られている。
上記のジェスチャ認識の結果は、例えば、電子機器の操作コマンドに適用できる。つまり、ユーザが特定のジェスチャとしての動きをすることにより、電子機器を遠隔操作することが可能になる。
【0003】
例えば上記したジェスチャ認識手法のうち、赤外線検出素子を利用したものは、撮像画像信号について動き解析のための画像信号処理を行う手法と比べれば、撮像装置が不要であり、処理の負荷が大きい画像信号処理も実行しなくてよい。また、ジェスチャを行う際には、例えばユーザの手などの身体部分自体を使用すればよく、加速度センサを実装したリモートコントロール装置などは必要無い。
【0004】
例えば、特許文献1には、赤外線検出素子の1種であるデュアル素子型の焦電センサにより同一方向の動きを連続入力できるように、移動方向を決定した信号の入力から所定時間以内に、その信号と同極性の信号を検出したとき、移動方向と同一方向とする構成が記載されている。
また、特許文献2には、焦電センサを用いたうえで、人体と小動物との弁別が行えるようにした侵入検知システムの構成が記載されている。
また、特許文献3には、テレビジョン受像器において上下左右の十字状に4つの赤外線検出素子を配置し、これらの赤外線検出素子により得られる検出信号の時間差に基づいて、ユーザの左右方向に沿った手の動きによるジェスチャに応じてはチャンネルの切り替えを行い、上下方向に沿った手の動きによるジェスチャに応じては音量の調節を行うようにした構成が記載されている。
また、特許文献4には、赤外線検出素子の検出信号について、所定周波数以上の信号のみを通過させるフィルタ部を用いることで、人体の特定部位の特定方向の早い動きのみを認識可能とした構成が記載されている。
また、特許文献5には、それぞれ2つの人体検知エリアを有する焦電型赤外線センサを2つ用いて、一軸方向における人体移動方向判別を行う構成が記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平05-81503号公報
【特許文献2】特開2008−16015号公報
【特許文献3】特開平7−38971号公報
【特許文献4】特開平11―259206号公報
【特許文献5】特開2006−277626号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
本願発明としては、例えばデュアル型の焦電センサに代表される、一軸方向(一次元)の動きを検出可能な一次元センサを用いることとしたうえで、これまでよりも高い信頼性のジェスチャ認識結果が得られるようにすることを、その課題とする。
【課題を解決するための手段】
【0007】
そこで本発明は上記した課題を解決する手段として、動作認識装置について次のように構成する。
つまり、1つの検出軸に沿った一次元方向の対象物の動作に応じた動きを検出して、その検出した動きに応じた信号を出力するもので、上記検出軸が、認識対象として定められた直線的な対象物の動作の方向である第1の方向及び第2の方向に対して異なるようにして配置される、第1,第2の一次元センサ手段と、上記第1,第2の一次元センサ手段から出力される第1、第2の信号のそれぞれについて、その振幅値を、ピーク値との比により表される値に変換するようにして正規化する処理を実行する正規化処理手段と、同じ時間ごとの上記正規化された第1の信号の値に基づくx座標値と、上記正規化された第2の信号の値に基づくy座標値とにより、位相平面上に対して座標をプロットするようにして、上記第1,第2の時系列に応じた信号軌跡を形成する、位相平面写像化処理手段と、上記信号軌跡を形成する座標値を利用して、第1,第2の信号についての相関係数を求める相関係数算出手段と、少なくとも上記相関係数の値が正/負の何れであるのかに基づいて、検出された動きが、上記第1の方向の動作であるか、上記第2の方向の動作であるのかを判定する動作判定手段とを備えることとした。
【0008】
上記構成では、第1,第2の一次元センサ手段を、検出軸が、予め定められた直線的な対象物の動作の方向である第1の方向及び第2の方向に対して異なるようにして配置することとしている。これにより、第1,第2の一次元センサ手段はともに、第1の方向と第2の方向の何れの動作が行われたとしても、この動きを良好に検出して信号を出力することができる。
そのうえで、第1,第2の一次元センサ手段からの信号については、正規化を行った上で、位相平面上に写像することで信号軌跡を形成し、さらに、信号軌跡についての相関係数を求める。
上記信号軌跡の形状は、第1,第2の一次元センサ手段から出力される信号の位相、極性が反映されている。このために、信号軌跡から求められる相関係数の正/負は、検出した動きが第1の方向の動きと第2の方向の動きの何れであるかに対応する。従って、相関係数に基づいて第1の方向の動きと第2の方向の動きとを弁別するようにして判定できる。
【発明の効果】
【0009】
このようにして、本発明は、少なくとも、第1の方向と第2の方向とのそれぞれ異なる二軸の方向による動作について、これまでよりも高い精度で判定することが可能になる。
【図面の簡単な説明】
【0010】
【図1】本実施形態の写真立て型表示装置の外観例と、この写真立て型表示装置に対するジェスチャ操作として定めたジェスチャ動作の例を示す図である。
【図2】写真立て型表示装置の構成例を示すブロック図である。
【図3】一次元センサの構成例を示すブロック図である。
【図4】一次元センサとしてのデュアル型焦電センサの構造例を示す図である。
【図5】デュアル型焦電センサによる動作検出の原理を説明するための波形図である。
【図6】水平/垂直による二軸方向のジェスチャ動作を検出するのに考え得る一次元センサの配置態様を示す図である。
【図7】図6に示す配置態様のもとで得られるセンサ信号の例を示す波形図である。
【図8】本実施形態としての一次元センサの配置態様例を示す図である。
【図9】本実施形態の一次元センサの配置態様のもとで得られるセンサ信号を示す波形図である。
【図10】本実施形態の一次元センサの配置態様のもとで得られる、左動作、右動作、上動作、下動作ごとに応じたセンサ信号を示す波形図である。
【図11】センサ信号の正規化処理、位相平面写像化処理を説明するための図である。
【図12】右動作、左動作に対応して得られるセンサ信号と、位相平面上の信号軌跡の例を示す図である。
【図13】下動作、上動作に対応して得られるセンサ信号と、位相平面上の信号軌跡の例を示す図である。
【図14】右回転に対応して得られるセンサ信号と、位相平面上の信号軌跡の例を示す図である。
【図15】左回転に対応して得られるセンサ信号と、位相平面上の信号軌跡の例を示す図である。
【図16】ベクトルの外積を説明するための図である。
【図17】ジェスチャ動作判定部の構成例を示すブロック図である。
【図18】ジェスチャ動作判定部が実行する処理手順例を示すフローチャートである。
【図19】ジェスチャ動作期間検出と,これに応じたサンプル記録のための処理手順例を示すフローチャートである。
【図20】正規化処理を示すフローチャートである。
【図21】実施形態としての一次センサ(赤外線検出素子)の配置態様についての変形例を示す図である。
【図22】実施形態としての一次センサ(赤外線検出素子)の配置態様についての変形例を示す図である。
【発明を実施するための形態】
【0011】
以下、本願発明を実施するための形態(以下、実施形態という)について、下記の順により説明する。
<1.実施形態におけるジェスチャ操作の態様例>
<2.写真立て型表示装置の構成例>
<3.一次センサによる移動方向の検出原理>
<4.考え得る一次センサの配置態様例>
<5.実施形態としての一次センサの配置態様例>
<6.ジェスチャ動作判定のための信号処理構成>
[6−1.正規化処理、位相平面写像化処理]
[6−2.水平・垂直方向のジェスチャ動作判定]
[6−3.左右動作方向判定、上下動作方向判定]
[6−4.左右回転動作判定]
<7.ジェスチャ動作判定のためのアルゴリズム>
<8.位相平面写像化処理の変形例>
<9.一次センサの配置態様についての変形例>
【0012】
<1.実施形態におけるジェスチャ操作の態様例>
本実施形態においては、本願発明のジェスチャ認識装置を、写真立て型表示装置に適用する。本実施形態の写真立て型表示装置は、ユーザが行ったジェスチャ操作としての所定の手の動き・動作(ジェスチャ動作)を認識すると、これを操作コマンドとして受け付け、しかるべき応答動作を実行する。
【0013】
図1は、本実施形態の写真立て型表示装置の外観例を斜視図により示すとともに、この写真立て型表示装置に対してユーザが行うジェスチャ操作の態様例を示している。
【0014】
この図に示される写真立て型表示装置1は、所定寸法の幅、高さ、奥行きによる、正面が長方形となる外形形状を有している。
この場合の写真立て型表示装置1は、例えば幅が20cm〜25cm前後、高さが15cm前後の外形サイズであり、卓上などに置いておくのに適するものとなっている。
【0015】
本体部2の正面部には、画像が表示される表示画面部3が設けられている。
上記表示画面部3は、写真立て型表示装置1に採用されたディスプレイデバイスにおける画像パネル部分となる。
【0016】
また、スタンド4は、写真立て型表示装置1の本体部2を、実際の写真立てのようにして立てられた状態に保つために、本体部2の背面側に取り付けられる部品である。
【0017】
また、この場合には、本体部2の前面における枠の下側中央部において、センサ部5の窓部分が設けられている。このセンサ部5は、後述するようにして、2組の一次元センサから成る。これら一次元センサが備える検出素子(赤外線検出素子)は、その空間検出領域が写真立て型表示装置1の前方に形成されるようにされたうえで、後述する所定の位置関係により配置されている。
【0018】
本実施形態においては、ユーザが行うべきジェスチャ操作は、手を動かすことにより行うものとする。ユーザは、写真立て型表示装置1の前面側において、自身の手が上記センサ部5の空間検出領域に入るようにしたうえで、ジェスチャ操作として手を動かすようにする。
【0019】
本実施形態でのジェスチャ操作として定められる手の動き(ジェスチャ動作)については、先ず、基本として下記の4つの動作であるものとする。
1:手を右から左に向かって直線的に移動させる左動作。
2:手を左から右に向かって直線的に移動させる右動作。
3:手を下から上に向かって直線的に移動させる上動作。
4:手を上から下に向かって直線的に移動させる下動作。
そのうえで、本実施形態では、上記4つの基本のジェスチャ動作を認識する構成を適用して、さらに、下記の2つの動作も、ジェスチャ動作として定めることができる。
5:手を左回り(反時計回り)に円周状に回しながら移動させる左回転動作。
6:手を右回り(時計回り)に円周状に回しながら移動させる右回転動作。
【0020】
本実施形態の写真立て型表示装置1は、センサ部5のセンサ信号に基づいて、上記6つのうちのジェスチャ動作のうちの何れが行われたのかを認識する。そして、認識したジェスチャ動作に割与えられた操作コマンドに応じた動作を実行する。
【0021】
ここで、上記6つのジェスチャ動作ごとの操作コマンドの割り当て例について挙げておく。なお、下記の割り当て方は、あくまでも一例であり、他の適用例は多様に考えられる。
先ず、左動作/右動作のそれぞれは、写真立て型表示装置1において表示させている画像の送り/戻しの操作コマンドとして割り当てる。
また、本実施形態の写真立て型表示装置1は、メモリに記憶されている画像を一定時間ごとに順次表示させていくスライドショー表示が可能とされている。上動作/下動作のそれぞれは、このスライドショー表示の開始/停止のための操作コマンドとして割り当てる。
また、本実施形態の写真立て型表示装置1は、例えば写真画像の表示のほか、時計、カレンダーなどを表示させることが可能であり、操作に応じて、これらの表示を切り換えることが可能である。左回転動作/右回転動作は、このような表示切り換えを、所定の送り順、戻し順により切り換えていくための操作コマンドとして割り当てる。
【0022】
<2.写真立て型表示装置の構成例>
図2は、本実施形態に適用できる写真立て型表示装置1の内部構成例を示している。
この図に示すように、本実施形態の写真立て型表示装置1は制御部(CPU:Central Processing Unit)11、ディスプレイデバイス12、フラッシュメモリ13、SDRAM14、時計部15、操作部16、メモリカードインターフェース17、及びセンサ部5を備えて成るものとしている。
【0023】
制御部11は、例えばCPUとしてのハードウェアを備えている。制御部11としてのCPUは、フラッシュメモリ13に記憶されているプログラムを読み出して例えばSDRAM14に展開したうえで、この読み出したプログラムを実行する。これにより、写真立て型表示装置1としての必要な動作が適宜得られる。
ここでのSDRAM14は、制御部11の主記憶装置となるもので、補助記憶装置がフラッシュメモリ13となる。
【0024】
この場合のフラッシュメモリ13は、写真立て型表示装置1において固定的に内蔵されている。フラッシュメモリ13は、上記プログラムのほかに、メモリカード20から読み出されて転送された画像データを記憶する。
【0025】
ディスプレイデバイス12は、ディスプレイパネルと、これを駆動する駆動回路部を有し、制御部11の画像表示制御に応じて駆動回路が表示駆動のための動作を実行することで、ディスプレイパネルに画像を表示させる。このディスプレイパネルとしての画像が表示される部位が、本体部2の前面部において表出する表示画面部3となる。
本実施形態ではディスプレイデバイス12として液晶ディスプレイを採用するものとするが、例えば有機ELディスプレイデバイスなどをはじめ、他のディスプレイデバイスが採用されてよい。
【0026】
時計部15は、現在時刻を計時するための部位である。ここでは、時計部15は、現在時刻として、年月日及び時分秒を計時できるものとする。制御部11は、時計部15において計時されている現在時刻を読み出して取得することができる。
【0027】
この場合の操作部16は、写真立て型表示装置1に備えられる操作子をまとめて示している。操作部16を形成する操作子に対して操作が行われると、この操作に応じた操作コマンド信号が制御部11に出力される。制御部11は、入力される操作信号に応答して、適宜、必要な制御・処理を実行する。
また、写真立て型表示装置1に対する操作をリモートコントローラにより行えるようにされている場合には、この操作部16には、写真立て型表示装置1とは別体のリモートコントローラと、写真立て型表示装置1側に設けられて、リモートコントローラから送信されたコマンド信号を受信復調して、操作信号として制御部11に渡す受信部も含まれることになる。
【0028】
なお、本実施形態の写真立て型表示装置1は、ジェスチャ操作に応答してしかるべき動作を実行するようにされてはいるが、しかるべき操作子などとしての操作部16の構成を備える。例えば写真立て型表示装置1に対する操作が多様である場合、ジェスチャ操作では対応できない操作もあることになるが、操作部16を備えることで、これらの操作に対応できる。また、センサ部5などのジェスチャ操作に対応する機能が故障するなどした場合にも、操作部16に対する操作により同等の操作が可能である。
【0029】
メモリインターフェース17は、外部記憶装置であるメモリカード20が装填される部位を備え、制御部11の制御に応じて、装填されたメモリカード20に対するデータのアクセスとして、少なくともデータの読み出しが可能なように構成される部位である。メモリカード20から読み出したデータは、制御部11に転送される。
【0030】
上記構成による写真立て型表示装置1の基本的な利用態様例と、これに応じた写真立て型表示装置1の表示動作について説明する。
ユーザは、例えばデジタルスチルカメラなどで撮影した画像データが保存されているメモリカード20を、写真立て型表示装置1に対して装填し、画像表示のための操作を行う。
この操作に応じては、制御部11は、メモリインターフェース17を介して、メモリカード20に記憶されている画像データを読み出し、ディスプレイデバイス12にて画像として表示させるための制御を実行する。
これにより、写真立て型表示装置1の表示画面部3において、ユーザが装填したメモリカード20に保存されている画像データの画像が表示されることになる。
【0031】
また、メモリカード20から読み出した画像データをフラッシュメモリ13に取り込むようにして保存し、このフラッシュメモリ13に保存された画像データを表示させることも可能とされている。
この場合には、先ず、ユーザは、写真立て型表示装置1に対してメモリカード20を装填して、ここに記憶されている画像データを、メモリカード20に対して転送して記憶させるための操作を実行する。このときには、例えばメモリカード20に記憶されている画像データのうちから、メモリカード20に記憶させる画像データを選択する操作が行えるようにされている。
この操作に応じて、制御部11は、メモリカード20から選択された画像データを順次読み出し、メモリインターフェース17を介してフラッシュメモリ13に対して書き込み命令を実行するとともに、データを転送する。この命令に応じて、フラッシュメモリ13は、転送されてきた画像データを書き込んで、ファイル単位で管理されるようにして保存させる。なお、フラッシュメモリ13においてファイル単位で管理される画像データは、静止画像データとされ、ここではJPEG(Joint Photographic Expert Group)形式による画像ファイルとして管理されるものとする。また、フラッシュメモリ13は、ファイルシステムとして、あくまでも一例であるがFATを採用しているものとする。
【0032】
この後、ユーザにより、フラッシュメモリ13に記憶されている画像を表示させるための操作が行われたことに応じては、制御部11は、フラッシュメモリ13に記憶されている画像データファイルのうちから必要な画像データファイルを読み出す。制御部11は、これをディスプレイデバイス12により画像として再生表示するための制御を実行する。
【0033】
なお、本実施形態の写真立て型表示装置1は、次のような態様による画像データの再生表示が可能とされている。
先ず、フラッシュメモリ13若しくはメモリカード20に記憶されている画像データのうちから選択した1つの画像データのみを継続して表示させる、1枚表示を行うことができる。
また、フラッシュメモリ13若しくはメモリカード20に記憶されている画像データのうちから選択した複数の画像を、一定時間ごとに変更させていくようにして順次表示していく、スライドショーといわれる表示を行うことができる。また、このスライドショー表示においては、一定時間ごとに1枚ずつ表示させていくことも可能であるし、一定時間ごとに複数枚ずつを表示させていくことも可能である。
さらに、本実施形態の写真立て型表示装置1は、現在時刻を示す時計、またカレンダーなどを表示することも可能とされているが、これらの時計、カレンダーなどとともに、フラッシュメモリ13若しくはメモリカード20に記憶されている画像データを同時に再生表示することも可能である。
また、フラッシュメモリ13若しくはメモリカード20に記憶されている画像データのサムネイル画像を一覧して表示させることも可能とされている。
【0034】
なお、例えば図2に示した構成において、USBなどをはじめとしたデータインターフェースを備え、このようなデータインターフェースを介して画像データを読み込めるようにしてもよい。このような構成の変更、追加は適宜おこなわれてよく、写真立て型表示装置1の内部構成としては、図2に示した構成に限定されるものではない。
【0035】
<3.一次センサによる移動方向の検出原理>
本実施形態は、センサ部5として、一次元、即ち一軸方向の動きを検出可能なセンサである一次元センサを採用する。
一次元センサとしてはいつくかの方式が知られているが、本実施形態では、2つの赤外線検出素子を備える、いわゆるデュアル型焦電センサを採用する。焦電センサ自体は周知のようにして、焦電効果を応用した赤外線検出を行うことにより、背景温度と対象物(赤外線放射物体)との温度差に応じた信号を出力するセンサである。
【0036】
上記のようにして、焦電センサを利用した一次センサとしてのデバイスの構成例を図3に示す。
図3に示す一次センサ40は、集光器41、焦電センサ部42、アンプ・フィルタ43を有して成るものとされる。
集光器41は、例えばフレネルレンズなどから成り、入射光を焦電センサ部42における2つの赤外線検出素子に対して分離して集光させるように形成されている。
デュアル型焦電センサ部42は、一次元に対応する一軸の検出軸に対応させて配置させた2つの赤外線検出素子を備える。
これら2つの赤外線検出素子のそれぞれは、それぞれの配置位置に対応する空間検出領域における対象物と、背景との温度差を検出し、検出される温度差に応じた信号を出力する。焦電センサ部42では、これら2つの赤外線検出素子からの信号を合成して検出信号として出力する。この検出信号が、一軸方向における移動方向を示している。
アンプ・フィルタ43は、上記検出信号について、例えばノイズ成分除去などのための所定以上の周波数成分のみを通過させるフィルタリング処理、また増幅などを行ってセンサ信号として出力する。
【0037】
図4により、焦電センサ42による動作方向の検出原理について説明する。
このデュアル型の焦電センサ42は、図示するようにして、2つの赤外線検出素子51A,51Bを備えている。これら赤外線検出素子51A,51Bは、図示するようにして、トランジスタTrのゲート端子と、焦電センサ42の外部ゲート端子Gとの間において、直列に接続されるようにして挿入される。ここで、赤外線検出素子51A,51Bは、その負極同士が直列に接続される。つまり、赤外線検出素子51A,51Bは、互いに反転した極性により直列接続されている。赤外線検出素子51Aの正極はトランジスタのゲート端子に接続され、赤外線検出素子51Bの正極は、外部ゲート端子Gに接続される。
また、赤外線検出素子51A,51Bの直列接続に対しては、並列に抵抗R1が接続される。また、外部ゲート端子GとドレインDとの間にはゲート−ソース間抵抗Vdが挿入される。
【0038】
図4により、焦電センサ42による移動方向の検出原理について説明する。
このデュアル型の焦電センサ42は、図4(a)に示すようにして、2つの赤外線検出素子51A,51Bを備えている。これら赤外線検出素子51A,51Bは、物理的には図4(b)により後述する位置関係により配置されたうえで、集光器41を介して集光された赤外線が入射されるようになっている。
また、これら赤外線検出素子51A,51Bは、図示するようにして、トランジスタTrのゲート端子と、焦電センサ42の外部ゲート端子Gとの間において、直列に接続されるようにして挿入される。ここで、赤外線検出素子51A,51Bは、その負極同士が直列に接続される。つまり、赤外線検出素子51A,51Bは、逆極性により直列接続されている。赤外線検出素子51Aの正極はトランジスタTrのゲート端子に接続され、赤外線検出素子51Bの正極は、外部ゲート端子Gに接続される。
また、赤外線検出素子51A,51Bの直列接続に対しては、抵抗R1が並列に接続される。また、外部ゲート端子Gとドレイン端子Dとの間にはゲート−ソース間抵抗R2が挿入される。
焦電センサ42の検出信号は、ソース端子Sとゲート端子Gとの間のゲート-ソース間電圧Vdとして得られる。
【0039】
一次元センサ40としてのデバイスにおいては、赤外線検出素子51A,51Bが、集光器41を介して外部光を受光可能なように配置される。図4(b)は、一次元センサ40における赤外線検出素子51A,51Bの物理的な配置態様を模式的に示している。この図においては、上側に赤外線検出素子51Aが位置し,その下側において、或る一定の間隔を有して赤外線検出素子51Aが配置されている。この配置に対応しては、縦(垂直方向)に沿って赤外線検出素子51A,51Bを通過する一点鎖線に対応する方向が、焦電センサ部42の検出軸Lとなる。つまり、図4(b)の紙面対応した赤外線検出素子51A,51Bの配置方向では、縦(垂直)に沿った移動方向についいて上方向への移動と、下方向への移動の何れであるのかが検出されることになる。なお、図4(b)と図4(a)の直線的な動作方向1、2を対応させれば、動作方向1が上方向への移動で、動作方向2が下方向への移動であることになる。
また、動作方向1,2は、互いに逆方向の動きとなるので、動作方向1を正方向とすれば、動作方向2は逆方向となる関係である。
【0040】
ここで、図4(a)において動作方向1による直線的な対象物の動きが生じたとする。これに応じては、先ず、その動きに応じた背景と対象物との温度差の変化が、先ず移動開始位置に近い方の赤外線検出素子51Aにて検出され、次に時間差をもって、赤外線検出素子51Bにて検出されることになる。
なお、赤外線検出素子は、厳密には、上記のようにして、検出軸Lに沿った対象物の移動に応じては、その動きに応じた背景と対象物の温度差の変化を検出するが、説明の記載を簡単にするために、以降においては、「動きに応じた背景と対象物の温度差の変化の検出」を、赤外線検出素子による「動きの検出」であるとして記載することとする。
【0041】
図5(a)は、上記の動作方向1の動きに応じて出力される赤外線検出素子51A、51Bの各信号Sa,Sbと、焦電センサ部42の検出信号Vdを示している。
この場合の赤外線検出素子51Aの信号Saは、動きの検出を開始したことに応じて、時点t0において正レベルの正弦波が立ち上がり、時点t2にて0の振幅となって動きの検出が終了したことが示されている。
これに対して、赤外線検出素子51Bは赤外線検出素子51Aよりも遅れて動きの検出を開始することになる。図4(a)においては、信号Sbは、時点t1にて検出を開始したものとしている。これにより、時点t1において、負のレベルによる正弦波が発生する状態として示されている。そして、時点t3において動きの検出が終了して0レベルとなっている。
図4(a)により説明したように、赤外線検出素子51Aと赤外線検出素子51Bとは逆極性で接続されている。このために、動きを検出して得られる信号Sa,Sbの波形については互いに反転したものとなっている。
【0042】
検出信号Vdとしては、図4(a)の回路からも理解されるように、信号Sa,Sbを合成したものとなる。
つまり、図5(a)に示される検出信号Vdは、先ず、時点t0〜時点t1において、信号Saと同じ正レベルの半周期分の正弦波となる。また、時点t1〜時点t2において、信号Saと信号Sbを合成したことで、時点t0〜時点t1に対して絶対値がほぼ倍となった負のレベルの半周期分の正弦波となる。そして、時点t2〜時点t3において、信号Sbと同じ正レベルの半周期分の正弦波が現れるものとなる。
【0043】
これに対して、図4(a)において動作方向2による直線的な対象物の動きが生じた場合には、先ず、その動きの検出が赤外線検出素子51Bにより開始され、次に、赤外線検出素子51Aにて開始される。
このときの赤外線検出素子51A,51Bの各信号Sa,Sbと、検出信号Vdとを、図5(b)に示す。
図5(b)において、信号Saは、時点t1から正レベルの正弦波が立ち上がるものとなっている。信号Sbは、時点t0において負レベルの正弦波が開始されるものとなっている。
そして、検出信号Vdは、先ず、時点t0〜時点t1において、信号Sbと同じ負レベルの半周期分の正弦波となる。また、時点t1〜時点t2において、信号Saと信号Sbを合成したことで、時点t0〜時点t1に対して絶対値がほぼ倍となった正のレベルの半周期分の正弦波となる。そして、時点t2〜時点t3において、信号Saと同じ負レベルの半周期分の正弦波が現れるものとなる。
【0044】
ここで、図5(a)の検出信号Vdと、図5(b)の検出信号Vdとを比較してみると、その波形パターンは互いに反転したものとなるようにして異なっている。つまり、検出信号Vdの波形パターンにより、検出軸Lに沿った移動方向が示されていることになる。
【0045】
<4.考え得る一次センサの配置態様例>
ここで、本実施形態としては、図1により説明したように、ジェスチャ動作として、左動作、右動作、上動作、下動作、また、右回転動作、左回転動作を認識するものとしている。
ここでは説明を簡単で分かりやすいものとするために、より単純に、上記6つのジェスチャ動作のうち、左動作、右動作、上動作、下動作の4つの動作を検出可能とすることを考えてみる。
【0046】
この場合において、一次元センサとして、上記図3〜図5により説明したデュアル型焦電センサによるものを採用することとした場合について考察してみる。すると、左動作/右動作による水平方向のジェスチャ動作と、上動作/下動作による垂直方向のジェスチャ動作を検出可能とする必要があることになる。即ち、互いに異なる二軸の動作方向を検出すべき必要がある。
このため、一次元センサの検出軸としては、水平(横)方向に対応する検出軸と、垂直(縦)方向に対応する検出軸との2つが必要であり、従って、一次元センサとしても2つが必要であることになる。
【0047】
上記した2つの一次元センサの配置として単純に考え得る態様を図6に示す。
図6(a)には、2つの一次元センサ40−1、40−2が示されている。一次元センサ40−1の検出軸はL1であり、一次元センサ40−2の検出軸はL2である。
一次元センサ40−1については、その検出軸L1が、垂直(縦)方向と一致する向きにより配置する。これに対して、一次元センサ40−2については、その検出軸L2が、水平(横)方向と一致する向きにより配置する。つまり、一次元センサ40−1,40−2について、互いの検出軸が直交する位置関係により配置する。
なお、ここでは、一次元センサ40−1の下に一次元センサ40−2を配置している。
【0048】
図6(b)は、図6(a)に示した一次元センサ40−1、40−2の配置に応じて形成される空間検出領域の例を示している。1つの空間検出領域は、対応する1つの赤外線検出素子51により対象物の動きを検出可能な空間領域をいう。また、空間検出領域は、模式的には、対応する1つの赤外線検出素子51の外形枠を、空間に対して検出有効距離まで拡大投射したときの枠の軌跡により形成される限定された空間となる。
【0049】
先ず、一次元センサ40−1側に関しては、上側に位置する赤外線検出素子51A−1に対応して空間検出領域60A−1が形成され、下側に位置する赤外線検出素子51B−1に対応して空間検出領域60B−1が形成される。
これらの空間検出領域60A−1、60B−1は、対応する赤外線検出素子51A−1,51B−1の形状と配置角度に応じて、水平方向に長い長方形の断面となる空間を形成している。また、位置関係としては、対応する赤外線検出素子51A−1,51B−1の配置位置関係に応じて、空間検出領域60A−1のほうが上で、空間検出領域60B−1が下となる位置関係となっている。
【0050】
また、一次元センサ40−2側に関しては、上側に位置する赤外線検出素子51A−2に対応して空間検出領域60A−2が形成され、下側に位置する赤外線検出素子51B−2に対応して空間検出領域60B−2が形成される。
これらの空間検出領域60A−2、60B−2は、対応する赤外線検出素子51A−2,51B−2の形状と配置角度に応じて、水平方向が長辺となる長方形の断面による空間を形成している。また、位置関係としては、対応する赤外線検出素子51A−2,51B−2の配置位置関係に応じて、空間検出領域60A−2のほうが左で、空間検出領域60B−2が右となる位置関係となっている。
【0051】
上記した一次元センサ40−1、40−2の配置であれば、先に説明した一次元センサの検出原理に基づく限りは、上下左右の各ジェスチャ動作を検出可能であることになる。
一例として右動作が行われたとする場合には、一次元センサ40−2側においては、先ず、右動作を行っているユーザの手(対象物)が、空間検出領域60A−2を通過し、次に空間検出領域60A−1を通過する。これに応じて、図5に示したように、赤外線検出素子51A−2,51B−2においては、時間差を有して動きを検出して信号Sa,Sbを出力し、有意の検出信号Vdを出力する。この検出信号Vdにより、対象物が右方向に移動したことが示されていることになる。
これに対して、垂直方向を検出軸とする一次元センサ40−1側においては、空間検出領域60A−1、60A−2を同時に対象物が通過する。このときに赤外線検出素子51A−1,51B−1から出力される信号Sa,Sbは、例えば図5からも分かるように、互いに逆相となる。従って、検出信号Vdとしては、0レベルとなる。つまり、上下方向に沿った移動は無いことを示す。
【0052】
また、上下のジェスチャ動作が行われた場合に関しても、上記の説明から自明なように、原理的には、一次元センサ40−1の検出信号Vdにより、対象物が上若しくは下方向に移動したことが示されることになる。一方、一次元センサ40−2の検出信号Vdによっては、左右方向の動きは無いことが示される。
【0053】
しかし、本願発明者は、図6に示した一次元センサの配置によっては、現実には、上下左右のジェスチャ動作を認識することが非常に困難であることを確認した。
図7(a)(b)(c)のそれぞれは、本願発明者の実験結果として、図6に示した一次元センサ40−1、40−2の配置のもとで、ジェスチャ動作として右動作を行った場合に得られたセンサ信号S1とセンサ信号S2とを示している。センサ信号S1は、垂直方向が検出軸である一次元センサ40−1から出力され、センサ信号S2は、水平方向が検出軸である一次元センサ40−2から出力される信号であり、その波形は、内部の焦電センサ部42から出力される検出信号Vdに相当する。
【0054】
図7(a)(b)(c)に示されるように、水平方向の検出軸に対応した検出出力となるセンサ信号S2については、右動作の検出に応じたほぼ同じ波形が得られている。つまり、一次元センサ40−32側のみに関すれば、右動作を安定して検出していることになる。
一方、垂直方向の検出軸に対応するセンサ信号S1については、本来であれば、ほぼ0レベルが維持されるべきであることになる。しかし、実際に得られるセンサ信号S1は、図7(a)に示されるように振幅が非常に小さい場合もあれば、図7(b)(c)のようにして大きな振幅が得られる場合もある。さらには、センサ信号2に対するセンサ信号1の位相として、図7(b)の場合には、ほぼ同位相であるのに対して、図7(c)の場合には、逆相になっている。このようにして、センサ信号1については振幅、位相ともにその出現の仕方に一定性がない。
このように、ジェスチャ動作としての動きに沿った方向を検出軸とする一次元センサのセンサ信号は安定しているが、これと直交する方向を検出軸とする一次元センサのセンサ信号は不安定になる。
【0055】
上記のようにしてセンサ信号が不安定になることの原因の主たるものの1つとしては下記のようになる。
つまり、現実における対象物の移動方向は、赤外線検出素子の検出軸と厳密に一致するものではない。このために、一方の検出軸に沿って対象物を移動させているつもりでも、その移動方向が、上記一方の検出軸に対して角度を持つと、他方の検出軸に対応する赤外線検出素子にて、その角度のずれに応じた信号の振幅が生じてしまう。
例えば、右動作を行っているとして、そのときに上方向にも或る程度移動していると、一次元センサ40−1のセンサ信号としては、上方向への移動を示す振幅が生じ、逆に下方向にも或る程度移動していると、一次元センサ40−1のセンサ信号としては、下方向への移動を示す振幅が生じる。
【0056】
このようにしてセンサ信号が不安定であることによっては、ジェスチャ動作に対応したセンサ信号が得られたとしても、これが左右(水平)方向におけるジェスチャ動作であるのか、上下(垂直)方向におけるジェスチャ動作であるのかを識別することが非常に難しくなる。
例えば最も分かりやすい場合として、ジェスチャ動作の方向に対して直交する検出軸に対応するセンサ信号の振幅が、ジェスチャ動作の方向に対応する検出軸に対応するセンサ信号の振幅と同程度にまで大きくなった状態を想定してみる。
正しいジェスチャ認識結果を得るには、センサ信号S1、S2のうちから、真のジェスチャ動作の方向に対応するセンサ信号を選択する必要がある。ここで、例えば単純に振幅レベルの大小関係に基づいて真のジェスチャ動作の方向に対応するセンサ信号を選択するようにして構成したとすると、上記の状態のときには、選択を誤る可能性が非常に高い。また、ジェスチャ動作に応じて出現し得る波形パターンに、より近似した波形を持つセンサ信号を真のジェスチャ動作の方向に対応するものとして選択するようなアルゴリズムによるとしても、位相,振幅ともに不安定であるから、真のジェスチャ動作の方向に対応していないセンサ信号の波形のほうが、より高い近似率となってしまう可能性も低くはない。
このようにして、図6に示す一次元センサ40−1、40−2の配置態様では、信頼性の高いジェスチャ認識結果を得ることが難しい。
【0057】
<5.実施形態としての一次センサの配置態様例>
そこで、本実施形態としては、一次センサを用いたジェスチャ認識について、これまでよりも高い認識精度が得られるようにすることを目的とする。
本実施形態としては、先ず、図1にて述べたように、上下左右に対応した4つのジェスチャ動作が基本となる。即ち、ジェスチャ操作として認識すべき動作方向としては、先ず、水平(横)方向(第1の方向)と、垂直(縦)方向(第2の方向)であることになる。
【0058】
上記のことを前提とした上で、本実施形態では、図8(a)に示すようにして、一次元センサ40−1、40−2についての物理的な配置態様を与えることとした。
つまり、一次元センサ40−1については、その検出軸L1が水平方向・垂直方向に対して45°となる角度により傾けて配置する。ここでは、操作者側(正面方向)から見て右に傾けている。また、一次元センサ40−1の上下の向きについては、赤外線検出素子51A−1が上側で、赤外線検出素子51B−1が下側となる向きで配置している。
また、一次元センサ40−2についても、その検出軸L2が水平方向・垂直方向に対して45°となる角度により傾けて配置する。ただし、傾きの方向は、一次元センサ40−1とは反対の左向きであり、検出軸L2が、一次元センサ40−1の検出軸L1と直交する向きで45°の傾きを与えている。
またここでは、上記の傾き状態において、赤外線検出素子51B−2が上側で、赤外線検出素子51A−2が下側となる向きにより配置している。
【0059】
また、図8(b)により、上記図8(a)の一次元センサ40−1、40−2の配置に応じて形成される、赤外線検出素子51A−1,51B−1,51A−2,51B−2ごとの空間検出領域60A−1,60B−1,60A−2,60B−2を示しておく。
【0060】
上記図8(b)に示した配置によると、先ず、一次元センサ40−1においては、赤外線検出素子51A−1,51B−1について、水平方向に沿った位置のズレが得られる。同じく、垂直方向においてもズレが得られる。
これにより、赤外線検出素子51A−1,51B−1は、垂直方向に沿った上動作・下動作のジェスチャ動作に応じて、時間差をもって動きを検出することが可能になる。同様に、水平方向に沿った左動作・右動作のジェスチャ動作に応じても、時間差をもって動きを検出することが可能になる。これにより、赤外線検出素子51A−1,51B−1、水平・垂直方向の何れのジェスチャ動作にも対応して、図5により説明した信号Sa,Sbを出力できることになる。つまり、一次元センサ40−1は、水平・垂直方向の何れのジェスチャ動作にも対応して動きを検出して、安定したセンサ信号S1を出力できる。
同様にして、一次元センサ40−2も、水平・垂直方向の何れのジェスチャ動作にも対応して動きを検出して、安定したセンサ信号S2を出力可能になる。
【0061】
図9は、本願発明者の実験結果として、図8に示した一次元センサ40−1,40−2の配置態様の下で、ジェスチャ動作として右動作を行った場合に得られたセンサ信号S1とセンサ信号S2とを示している。
図8に示した一次元センサ40−1,40−2(赤外線検出素子51A−1,51B−1,51A−2,51B−2)の配置による場合、右動作を検出することによっては、センサ信号S1,S2の何れについても、図5(b)の検出信号Vdに対応する波形が得られる。図9に示すセンサ信号S1,S2は、何れも図5(b)の検出信号Vdに対応する波形となっている。実験によっては、この図9と同等と見ることのできる波形が、センサ信号S1,S2とで安定して得られることが確認されている。
【0062】
ここで、図10により、図8に示す一次元センサ40−1(赤外線検出素子51A−1,51B−1),40−2(赤外線検出素子51A−2,51B−2)の配置によって、上下左右の各ジェスチャ動作を行った場合に得られるセンサ信号S1,S2の波形を模式的に示しておく。
なお、ここにおいて示される波形は、一次元センサ40−1(赤外線検出素子51A−1,51B−1)に対応する空間検出領域60A−1,60A−1の組と、一次元センサ40−2(赤外線検出素子51A−2,51B−2)に対応する空間検出領域60A−2,60A−2の組との物理的な距離差に応じて生じる検出時間差を排除したものとなっている。
空間検出領域が空間上で交差しても、赤外線検出素子側での検出には特に支障はない。従って、実際においても、一次元センサ40−1(赤外線検出素子51A−1,51B−1)に対応する空間検出領域60A−1,60A−1と、一次元センサ40−2(赤外線検出素子51A−2,51B−2)に対応する空間検出領域60A−2,60A−2とが重複するようにして調整し、検出時間差が問題にならなくなるようにすることができる。
【0063】
図10(a)は、左動作としての動きを検出して得られるセンサ信号S1、S2を示している。この図に示すようにして、左動作に応じては、センサ信号S1、S2は、図5(a)の検出信号Vdに対応した同相の波形が得られる。
図10(b)は、右動作の場合に得られるセンサ信号S1,S2を示している。右動作の場合のセンサ信号S1,S2は、それぞれ、上記図10(a)の波形を反転したものとなる。つまり、センサ信号S1,S2は、図5(b)の検出信号Vdに対応した同相の波形となる。なお、図9の波形は、この図10(b)に対応することになる。
【0064】
図10(c)は、上動作としての動きを検出して得られるセンサ信号S1,S2を示している。
この場合には、センサ信号S1が図5(a)の検出信号Vdに対応する波形で、センサ信号S2が図5(b)の検出信号Vdに対応する波形とされたうえで、互いに逆相となっている。
【0065】
図10(d)は、下動作としての動きを検出して得られるセンサ信号S1,S2を示している。
この場合のセンサ信号S1,S2は、上記図10(c)に対してそれぞれ反転した波形となっている。つまり、センサ信号S1が図5(b)の検出信号Vdに対応する波形で、センサ信号S2が図5(a)の検出信号Vdに対応する波形とされたうえで、互いに逆相となっている。
【0066】
上記図10によれば、先ず、ジェスチャ動作が、水平方向に沿ったものであるか、垂直方向に沿ったものであるかの認識は、センサ信号S1,S2が同相であるか逆相であるか否かを判断すればよいといえる。さらに、水平方向に沿ったジェスチャ動作として左動作と右動作の何れであるのか、また、垂直方向に沿ったジェスチャ動作として上動作と下動作の何れであるのかについては、センサ信号S1,S2の極性に基づいて判断すればよいことになる。
【0067】
<6.ジェスチャ動作判定のための信号処理構成>
[6−1.正規化処理、位相平面写像化処理]
そして本実施形態では、図8の一次元センサ40−1,40−2の配置態様としたうえで、以降説明するようにして、センサ信号S1,S2について信号処理を行ってジェスチャ認識を行う構成を採ることとした。
【0068】
ここで、図11(a)に示されるセンサ信号S1,S2が得られたとする。なお、このセンサ信号S1,S2は、実際においては上動作を検出して得られたものである。
本実施形態においては、このようにして得られたセンサ信号S1,S2について、それぞれ、正規化処理を行う。
この正規化処理として、先ず、センサ信号S1については、ジェスチャ動作に対応する動きを検出したことに応じて振幅が変化したとされる、有意な信号区間(ジェスチャ動作期間)における最大値Vp1を求める。なお、この最大値Vp1は、絶対値として取得する。そのうえで、同じジェスチャ動作期間において得られているセンサ信号S1の振幅値を、上記最大値Vp1により除算する。これにより、センサ信号S1の振幅値は、−1〜1の範囲内で、最大値Vp1との比により示される値となるようにして正規化される。
センサ信号S2についても、同様にして、ジェスチャ動作期間における絶対値による最大値Vp2を求め、同じジェスチャ動作期間において得られているセンサ信号S2の振幅値を、上記最大値Vp2により除算する。これにより、その振幅値は、−1〜1の範囲において最大値Vp1との比により示される値となるようにして正規化される。
【0069】
焦電センサは、背景温度と対象物の温度差を検出して、これに応じた振幅値を出力する。しかし、実際に対象物となる操作者の手の温度はまちまちである。例えば体質による基礎的な体温の違いであるとか、手が濡れていたり、冷えていたりするなどして、手の温度はおおきく変わり得る。また、操作者の手から赤外線検出素子までの距離が遠くなるほど、検出信号の振幅も小さくなっている。このようにして、人体の手の温度であるとか、手の距離などの影響があることで、操作者が同じ操作を行っているとしても、一次元センサ40−1、40−2から出力されるセンサ信号S1,S2の振幅の大きさは、その都度異なるものとなり得る。このようにして、同じジェスチャ動作に応答したものでありながら、センサ信号S1,S2の振幅にばらつきのあるままでは、以降の信号処理について適正に評価することは非常に難しくなる。
そこで、本実施形態では、上記の正規化処理を実行することにより、ピーク値(絶対値)との比に応じた−1〜+1の範囲の値に変換することとしている。これにより、センサ信号S1,S2は、実際の振幅のばらつき要因が排除された正規な値を持つことになる。
【0070】
なお、以降において正規化した振幅値のセンサ信号S1,S2については、それぞれ正規化センサ信号NOM_S1、正規化センサ信号NOM_S2という。
【0071】
上記正規化処理に続けては、正規化センサ信号NOM_S1、正規化センサ信号NOM_S2を、位相平面に対して写像する処理(位相平面写像化処理)を実行する。
図11(a)に示したセンサ信号S1,S2に対応する正規化センサ信号NOM_S1、正規化センサ信号NOM_S2により位相平面写像化処理を実行した結果を、図11(b)に示す。
【0072】
図11(b)に示される位相平面は、x座標が正規化センサ信号NOM_S1に対応し、y座標が正規化センサ信号NOM_S2に対応し、x座標とy座標とでともに−1〜1の座標の範囲を持つ。
【0073】
ここでの位相平面写像化処理としては、同じ時間に得られたとされる正規化センサ信号NOM_S1の値をx座標値とし、正規化センサ信号NOM_S2の値をy座標値として、センサ信号の時間経過に従って、位相平面上に座標をプロットしていく処理となる。
より具体的には、ジェスチャ動作期間に対応して得られるN個の正規化センサ信号NOM_S1,NOM_S2のサンプルデータのうち、それぞれ、i番目のサンプルデータの値をxi,yiとすると、N個のサンプルデータに対応する全ての座標(xi,yi)を求める処理となる。
これにより、模式的には、図11(b)の位相平面上において描かれている曲線は、上記座標のプロットを時間経過に従って行っていた結果、つまり、プロットした点の軌跡として示されることになる。なお、この軌跡としての曲線は、センサ信号S1,S2に基づくものであることに因み、以降、信号軌跡ともいう。
【0074】
[6−2.水平・垂直方向のジェスチャ動作判定]
図12は、水平方向のジェスチャ動作である、右動作・左動作に対応した位相平面写像化処理の結果例を示している。
図12(a)には、ジェスチャ動作として、右動作に続けて左動作を行った場合において得られたセンサ信号S1,S2を示している。この図のセンサ信号S1,S2における右動作検出期間は、右動作の検出に応じて有意な振幅が得られたとする波形区間であり、左動作検出期間は、左動作の検出に応じて有意な振幅が得られたとする波形区間である。
【0075】
そして、右動作検出期間に対応する正規化センサ信号NOM_S1、正規化センサ信号NOM_S2により位相平面写像化処理を実行した結果としては、図12(b)に示す位相平面上の信号軌跡が得られることになる。
また、左動作検出期間に対応する正規化センサ信号NOM_S1、正規化センサ信号NOM_S2により位相平面写像化処理を実行した結果としては、図12(c)に示す位相平面上の信号軌跡が得られる。
【0076】
図13は、垂直方向のジェスチャ動作である、上動作・下動作に対応した位相平面写像化処理の結果例を示している。
図13(a)には下動作に続けて水平方向のジェスチャ動作である、上動作を行った場合において得られたセンサ信号S1,S2を示している。この図のセンサ信号S1,S2における下動作検出期間は、下動作の検出に応じて有意な振幅が得られたとする波形区間であり、上動作検出期間は、上動作の検出に応じて有意な振幅が得られたとする波形区間である。
【0077】
下動作検出期間に対応する正規化センサ信号NOM_S1、正規化センサ信号NOM_S2により位相平面写像化処理を実行した結果としては、図13(b)に示す位相平面上の信号軌跡が得られる。
また、上動作検出期間に対応する正規化センサ信号NOM_S1、正規化センサ信号NOM_S2により位相平面写像化処理を実行した結果としては、図13(c)に示す位相平面上の信号軌跡が得られる。
【0078】
次に、本実施形態では、上記位相平面写像化処理の実行結果として得られる信号軌跡に基づいて、先ず、水平方向に対応するジェスチャ動作(左動作/右動作)であるのか、垂直方向に対応するジェスチャ動作(上動作/下動作)であるのかの判定のための評価項目として信号軌跡の相関係数を求めるものとする。
相関係数rは、下記のようにして求めることができる。
【数1】
【0079】
ここで、水平方向のジェスチャ動作に対応するものとして、図12(b)(c)の位相平面に示される右動作、左動作の信号軌跡は、共通の特徴を持っている。つまり、例えば信号軌跡の大まかな輪郭に対応して、楕円Eをあてはめたとして、この楕円Eの長軸に対応する直線Lについてみると、右動作と左動作の何れについても、右上がりとなる。なお、これは、一次関数y=ax+bにより表される直線としてみた場合には、a>0の直線となる。
また、垂直方向のジェスチャ動作に対応するものとして、図13(b)(c)の位相平面に示される下動作、上動作の信号軌跡も共通の特徴を持ちながら、その特徴は、上記図12(b)(c)とは異なるものとなる。
つまり、図13(b)(c)の信号軌跡にあてはめた楕円Eの長軸に対応する直線Lは下動作と右動作の何れについても、右下がりとなるものであり、一次関数y=ax+bにより表される直線としてみた場合には、a<0の直線となる。
このような特徴は、先に図10にて説明した、センサ信号S1,S2の極性、及び相互の位相の関係に応じて現れるものである。
このことからすれば、信号軌跡に対応して得られる直線Lの傾きについて、これが右上がりであれば、水平方向のジェスチャ動作であると認識し、右下がりであれば、垂直方向のジェスチャ動作であると認識すればよいことになる。
【0080】
相関係数rの正/負は、上記直線Lの右上がり/右下がりに対応する。相関係数rは、センサ信号S1,S2の位相,振幅が近いほど+1に近くなり、信号軌跡の全体形状としても右上がりの直線に近くなっていく。一方、センサ信号S1,S2が互いに同一波形を反転させた逆相の状態に近くなるほど、−1に近づいていき、信号軌跡の形状としては右下がりの直線に近くなっていく。
【0081】
具体的には、図12(b)(c)に示される信号軌跡について相関係数rを実際に計算してみると、それぞれ、0.8〜0.8程度の値が求められる。
一方、図13(b)(c)に示される信号軌跡については、実際には、−0.75〜−0.8程度の値が求められる。
【0082】
このようにして、本実施形態では、ジェスチャ動作が水平と垂直方向との何れによるものであるのかを認識するのにあたり、正規化センサ信号NOM_S1,NOM_S2についての相関係数rを求める。そのうえで、この相関係数rについて、原則として、r>0であれば、水平方向のジェスチャ動作であると認識し、相関係数r<0であれば、垂直方向のジェスチャ動作であると認識するようにアルゴリズムを構成すればよい。
【0083】
ただし、本実施形態においては、相関係数rの絶対値が一定値以下の場合には、後述するようにして、検出したジェスチャ動作が、回転動作によるものである可能性のほうが高くなる。従って、本実施形態の実際としては、相関係数rを求めた上で、検出された動作について、水平/垂直方向のジェスチャ動作と、回転動作との何れであるのかについて判断すべきことになる。この点については後述する。
【0084】
[6−3.左右動作方向判定、上下動作方向判定]
上記のようにして、ジェスチャ動作が水平方向と垂直方向の何れに沿ったものであるのかについては、正規化センサ信号NOM_S1,NOM_S2の間での位相平面上での相関の度合いを示す相関係数rに基づいて判定することができる。
すると、水平方向のジェスチャ動作であると判定したことに応じては、次に左動作・右動作の何れであるのかを認識すべき必要があることになる。また、垂直方向のジェスチャ動作であるとの判定結果に応じては、上動作・下動作の何れであるのかを認識する必要があることになる。
【0085】
ここで、再度、水平方向のジェスチャ動作に対応する図12を参照してみる。
図12(b)に示される右動作に応じた信号軌跡に対応する楕円Eは、その直線Lが右上がりとなる傾きを有した上で、原点に対して第1象限のほうに偏倚している状態であるとみることができる。
これに対して、図12(c)に示される左動作に応じた信号軌跡に対応する楕円Eは、その直線Lが右上がりとなる傾きを有しているのは同様であるが、図12(b)とは逆に、原点に対して第3象限のほうに偏倚している状態であるとみることができる。
【0086】
この右動作と左動作とに応じた偏倚の相違は、図10(a)(b)に示したように、各動きに対応するセンサ信号S1,S2の組は、同相の関係にあるとされたうえで、右動作と左動作とで比較したときには、センサ信号S1同士と、センサ信号2同士の何れも逆相になっていることに応じて現れるものである。
【0087】
また、垂直方向のジェスチャ動作についてみると、図10(c)(d)に示すようにして、上動作と下動作の各動きに対応するセンサ信号S1,S2の組は、互いに逆相の関係にあるとされたうえで、上動作と下動作とで比較したときには、センサ信号S1同士と、センサ信号2同士の何れも逆相になっている。
このような位相関係により、先ず、下動作に応じて形成される信号軌跡に対応する楕円Eは、図13(b)に示すように、その直線Lが右下がりの傾きを有した上で、原点に対して第2象限のほうに偏倚する状態となる。これに対して、上動作に応じた信号軌跡に対応する楕円Eは、図13(c)に示されるように、その直線Lが右下がりとなる傾きを有したうえで、図13(b)とは逆に、原点に対して第4象限のほうに偏倚している状態となる。
【0088】
このことからすると、先ず、水平方向のジェスチャ動作については、信号軌跡としての包括形状(楕円E)が、位相平面において第1象限に偏倚していれば右動作であり、第3象限のほうに偏倚していれば左動作であるということがいえる。
同様に、垂直方向のジェスチャ動作については、信号軌跡としての包括形状(楕円E)が、位相平面において第2象限に偏倚していれば下動作であり、第4象限のほうに偏倚していれば上動作であるということがいえる。
【0089】
そこで、本実施形態では、上記した信号軌跡の包括形状(楕円E)がどの象限に偏倚しているのかを評価するために、位相平面写上における信号軌跡の重心Gを算出して求める。
この重心Gは、位相平面上での座標G(gx,gy)として求められる。
図12(b)(c)、図13(b)(c)においては、直線Lとしての楕円Lの長径の中点として示されている。但し、これはあくまでも模式的なものであり、実際に求められる重心Gの座標は、必ずしも直線Lと一致するものではない。
【0090】
ここで、上記重心Gのx座標gx、y座標yxの求め方としては、いつくか考えられるが、例えば1つには、それぞれ、正規化センサ信号NOM_S1、NOM_S2についての相加平均値を求めることとすればよい。この場合の演算式は、例えば下記のようになる。
【数2】
【0091】
上記重心G(gx,gy)は、即ち、信号軌跡としての包括形状の重心の位置を示すものとなる。従って、位相平面上における重心G(gx,gy)の原点からの方向により、信号軌跡包括形状についての原点に対する偏倚の方向が示されることになる。このことに基づき、重心G(gx,gy)は、水平・垂直各方向における動作方向を認識するための評価値として利用できることになる。
つまり、アルゴリズムとして、水平方向のジェスチャ動作の場合には、重心G(gx,gy)が第1象限に位置するのであれば右動作であると認識し、第3象限に位置するのであれば左動作であると認識することができる。また、垂直方向のジェスチャ動作の場合には、重心G(gx,gy)が第2象限に位置するのであれば下動作であると認識し、第4象限に位置するのであれば上動作と認識することができる。
【0092】
ここで、本実施形態において求める相関係数rは、ジェスチャ動作が垂直方向と水平方向の何れであるのかを判断するための評価値である。つまり、動きの検出により得られたセンサ信号S1,S2が同位相であるか、逆位相であるのかを評価するための評価値である。
また、重心位置G(gx,gy)は、水平方向のジェスチャ動作として左動作と右動作の何れであるのかを判断し、垂直方向のジェスチャ動作として上動作とした動作との何れであるのかを判断するための評価値である。つまり、センサ信号S1,S2自体の極性(波形パターン)を評価するためのものとしてみることができる。
【0093】
上記のようなセンサ信号S1,S2間の位相差、また、センサ信号S1,S2自体の極性を評価・判断する手法として一般に考え得るもとしては、次のようなものを考えることができる。
つまり、センサ信号S1,S2について、先ず、センサ信号S1,S2の振幅の最大値、最小値を求める。そして、求めた2つの最大値、最小値の時間差について閾値以内であるか否かを判断する。この閾値は、例えば、ジェスチャ動作に応じて一般的、平均的に得られるセンサ信号S1,S2の振幅値を基にして設定する。そして、センサ信号S1,S2の間でのピーク値の時間差により同位相であるか逆位相であるかを判断しようとするものである。また、センサ信号S1,S2の最大値、最小値についての時間的な出現順を判断することで、信号の極性を判断することもできる。
【0094】
しかし、図8の一次元センサ40−1,40−2の配置では、図6の場合と比較すれば、非常に安定したセンサ信号S1,S2を得ることはできる。しかし、ジェスチャ動作は、現実には人であるユーザが手の動きにより行うものであるので、移動速度もまちまちであり、検出軸に対する手の動きのぶれも生じる。このような不確定要素の影響で、センサ信号S1,S2は、振幅、位相に或る程度の変動を生じる。このような変動要素があるのにもかかわらず、センサ信号S1,S2の間でのピーク値の時間差を評価値として、これを固定的な閾値と比較しても、信頼性の高い判定結果を得ることは難しい。
【0095】
これに対して、本実施形態のようにして、まずは、センサ信号S1,S2について正規化処理を行って位相平面写像化を行い、そのうえで、相関係数rと重心位置Gの座標を求めることとしている。これらの相関係数r、重心位置Gは、センサ信号S1,S2間の位相差、極性についての評価値として、例えば上記のピークの時間差などと比較して、より高い忠実度を持っている。つまり、本実施形態としては、これまでより高い精度で、上下左右のジェスチャ動作についての認識結果を得ることが可能になる。
【0096】
[6−4.左右回転動作判定]
また、本実施形態では、位相平面写像化処理により形成される信号軌跡に基づき、対象物が円周形上の移動軌跡を描くようにして動く回転動作についても認識可能である。これに基づき、本実施形態では、図1にて説明したように、ジェスチャ操作として、上下左右の動作に加えて、右回転動作、左回転動作も含めることとしたものである。
そこで、続いては、本実施形態における回転動作の認識手法について説明する。
【0097】
図14(a)は右回転動作としてのジェスチャ動作を3回連続して行ったことに応じて出力されたセンサ信号S1,S2の波形例を示している。
この図に示されるセンサ信号S1,S2は、1回の回転動作ごとに得られる波形としては、何れもM字状のピークの絶対値が正極側となる極性とされたうえで、センサ信号S1に対してセンサ信号S2のほうの位相が進むものとなる。
【0098】
上記図14(a)のセンサ信号S1,S2を正規化して位相平面写像化処理を行った結果は、図14(b)に示される。
上下左右のジェスチャ動作の場合、センサ信号S1,S2は、同相(0°)若しくは逆相(180°)とみることのできる位相差の関係であったが、回転動作の場合には、図14(a)にも示されるように、センサ信号S1,S2には、180°よりも小さい位相差が生じる。このために、相関係数rの絶対値としては、上下左右のジェスチャ動作の場合よりも小さい値となる。つまり、信号軌跡の形状としてみた場合には、図14(b)のようにして、上下左右のジェスチャ動作の場合よりも円形状に近くなる。つまり、楕円形としてみれば、長径と短径の比率が1に近くなる。
従って、ジェスチャ動作が、回転動作であるのかどうかについての判定として、最も簡単な手法としては、相関係数rの絶対値について、回転動作に応じて得られるとされる程度に一定以下に小さい値であるか否かを判断すればよいことになる。
【0099】
そのうえで、ここでは、位相平面写像化処理により、センサ信号S1,S2の時間経過に従ってサンプル値をプロットしていったときの、位相平面上での信号軌跡の回転方向について着目する。すると、図14(b)の信号軌跡の全体としては、矢印Arとして示すように、右方向(時計回り方向)に回転していくようにして軌跡を形成していくものとしてみることができる。
この信号軌跡の回転方向は、センサ信号S1,S2の位相差により決まる。つまり、図14(a)では、センサ信号S2に対してセンサ信号S1のほうの位相が進んでいるが、これに応じては、信号軌跡の回転方向は右方向となる。
【0100】
一方、図15(a)は、右回転動作としてのジェスチャ動作を3回連続して行ったことに応じて出力されたセンサ信号S1,S2の波形例を示している。
この図のセンサ信号S1,S2は、1回の回転動作ごとに得られる波形としては、何れもM字状のピークの絶対値が負極側となる極性とされている。そのうえで、センサ信号S1に対してセンサ信号S2のほうの位相が遅れたものとなる。つまり、センサ信号S1,S2の位相差の関係としては、図14(a)の場合と逆になっている。
【0101】
これに応じて、上記図15(a)のセンサ信号S1,S2を正規化して位相平面写像化処理を行った場合の信号軌跡は、図15(b)の矢印Arに示すようにして、全体としては左回り(反時計回り方向)となる。
【0102】
このことからすると、例えば相関係数rが一定以下であることにより、回転に沿ったジェスチャ動作であると認識した場合において、さらに、その回転方向(プロット回転方向)が右回転動作と左回転動作の何れであるのかを判断するためには、次のようなアルゴリズムとすればよいことになる。
つまり、形成された信号軌跡の回転方向が全体傾向として右回りと左回りの何れの方向であるのかを求める。そして、求められた信号軌跡の回転方向が右回りであれば、ジェスチャ動作は右回転動作であると判定し、信号軌跡の回転方向が左回りであれば、ジェスチャ動作は左回転動作であると判定するものとすればよい。
【0103】
このためには、信号処理として、信号軌跡が右回りと左回りの何れであるのかを判定する必要がある。
そこで、本実施形態においては、信号軌跡を形成する座標ごとの外積を算出する。ここで、x軸とy軸から成る2次元平面における外積は、これら2つの軸に直交するz軸方向成分(z成分)のみを持ち、x方向成分及びy方向成分は0となる。この外積のz成分の総和の符号が正・負の何れであるのかにより、信号軌跡の回転方向についての全体傾向を求めることができる。
【0104】
ここで、信号軌跡の回転方向と外積との関係について、図16に示す。
先ず、図16(a)には、
i番目の正規化センサ信号NOM_S1,NOM_S2のサンプルにより位相平面にプロットされた座標O(xi,yi,0)、
i+1番目の正規化センサ信号NOM_S1,NOM_S2のサンプルにより位相平面にプロットされた座標A(xi+1,yi+1,0)
i-1番目の正規化センサ信号NOM_S1,NOM_S2のサンプルにより位相平面にプロットされた座標B(xi-1,yi-1,0)
が示されている。
そのうえで、これらの座標の二次元平面上における位置関係は、座標O(xi,yi,0)の左側に座標A(xi+1,yi+1,0)が位置し、右側に座標B(xi-1,yi-1)が位置している状態が示されている。
ここで、座標O(xi,yi,0)を始点とする座標A(xi+1,yi+1,0)までの方向及び距離をベクトルaにより表し、座標O(xi,yi,0)を始点とする座標B(xi-1,yi-1,0)までの方向及び距離をベクトルbにより表したとする。すると、これらベクトルa、bの外積を求めると、このときのz成分の値としては、正の値を取るものになる。なお、ベクトルa、bの外積の絶対値については、16(a)により示される、ベクトルa、bに対応する線分を隣り合う辺として形成される平行四辺形の面積Sを表すものとなる。
また、図16(b)には、図16(a)における座標O(xi,yi,0)、A(xi+1,yi+1,0)、B(xi-1,yi-1,0)について、座標A(xi+1,yi+1,0)、B(xi-1,yi-1,0)の位置が入れ替わっている場合を示している。この場合において求められるベクトルa、bの外積の絶対値については、図16(a)と同じになる。つまり、平行四辺形の面積Sを表すものとなる。ただし、z成分の符号については負の値となる。
【0105】
本実施形態としては、上記図16に従ってセンサ信号S1,S2のサンプルタイミングごとの外積を算出し、さらに求められた外積の総和を算出する。この外積の総和値pは、下記のようにして求めることができる。
【数3】
そして、求められた外積のz成分の総和値pの符号について正・負の何れであるのかにより、信号軌跡の回転方向の全体傾向を判定する。つまり、ジェスチャ動作が左回転動作と右回転動作の何れであるのかについて認識する。
図16に従った場合、外積のz成分の総和値pの符号が正であれば、信号軌跡の回転方向の全体傾向は左回りであると判定される。つまり、ジェスチャ動作として左回転動作であると判定する。また、外積のz成分の総和値pの符号が負であれば、信号軌跡の回転方向の全体傾向は右回りであると判定される。つまり、ジェスチャ動作として右回転動作であると判定する。
【0106】
<7.ジェスチャ動作判定のためのアルゴリズム>
これまでに説明した本実施形態のジェスチャ動作判定を実現するためのアルゴリズム例について説明する。
先ず、図17は、本実施形態の写真立て型表示装置1がジェスチャ判定部18の構成例を、ブロック構成により示している。このジェスチャ判定部18は、図2に示しているように、制御部11がプログラムを実行することにより実現される。この図においては、ジェスチャ判定部18とともに、一次元センサ40−1、40−2から成るセンサ部5も示している。
【0107】
一次元センサ40−1から出力されるセンサ信号S1は、ジェスチャ動作判定部18において、第1センサ信号記録部31及びジェスチャ検出部33が入力する。また、一次元センサ40−2から出力されるセンサ信号S2は、ジェスチャ動作判定部18において、第2センサ信号記録部32及びジェスチャ検出部33が入力する。
なお、ここでは図示していないが、ジェスチャ動作判定部18に入力される段階のセンサ信号S1,S2は、所定のサンプリング周波数と量子化ビット数によりサンプリングされたデジタル信号に変換されたものとなっている。
【0108】
ジェスチャ検出部33は、入力されるセンサ信号S1,S2に基づいて、ジェスチャ動作期間を検出するための部位である。なお、このジェスチャ検出部33の処理については、図19のフローチャートにより後述する。ジェスチャ検出部33は、検出したジェスチャ動作の開始/終了を、第1センサ信号記録部31、第2センサ信号記録部32に通知する。
【0109】
第1センサ信号記録部31、第2センサ信号記録部32は、ジェスチャ検出部33により通知されたジェスチャ動作期間において、それぞれ、センサ信号S1,S2を取り込んで、サンプルタイミングごとにデータを記録する。
【0110】
第1センサ信号記録部31により記録されたセンサ信号S1のサンプルデータは、第1正規化処理部34に対して出力される。
第1正規化処理部34は、図11にて説明したように、センサ信号S1を対象として正規化処理を実行して、−1〜+1の範囲で正規化した正規化センサ信号NOM_S1のサンプルデータ群を得る。
同様に、第2正規化処理部35も、第2センサ信号記録部32により記録されたセンサ信号S2のサンプルデータを取り込んで正規化処理を実行して、−1〜+1の範囲で正規化した正規化センサ信号NOM_S2のサンプルデータ群を得る。
上記正規化センサ信号NOM_S1,NOM_S2のサンプルデータ群は、位相平面写像化処理部36に対して渡される。
【0111】
位相平面写像化処理部36は、入力された正規化センサ信号NOM_S1,NOM_S2のサンプルデータ群を用いて、図11にて説明したようにして位相平面上にプロットした信号軌跡のデータを求め、評価項目算出部37に渡す。ここでは、信号軌跡のデータは、サンプル番号iごとに対応させて位相平面にプロットした座標(xi,yi)の値(正規化センサ信号NOM_S1,NOM_S2のサンプル値の組)となる。
【0112】
評価項目算出部37は、相関係数算出部37a、重心算出部37b、回転方向算出部37cを備える。
相関係数算出部37aは、受け取った信号軌跡のデータ(正規化センサ信号NOM_S1,NOM_S2のサンプルタイミングごとのデータ)を利用して、先に(数1)により説明した演算により、信号軌跡のデータ相関係数rを算出する処理を実行する。
重心算出部37bは、信号軌跡のデータを利用して、例えば先に(数2)により説明した演算により重心の座標G(gx,gy)を算出する。
回転方向算出部37cは、先に図16、(数3)により説明したようにして、信号軌跡のサンプルごとに求めた外積のz成分の総和値pを求める。
【0113】
動作判定部28は、上記評価項目算出部37により得られる相関係数r、重心座標G(gx,gy)、外積のz成分の総和値pを適宜利用して、ジェスチャ動作として、左動作、右動作、上動作、下動作、左回転動作、右回転動作の何れであるのかを判定する処理を実行し、その判定結果を出力する。
なお、制御部11は、このジェスチャ判定部18により出力されるジェスチャ動作の判定結果を操作コマンドとして処理することで、先に例としてあげた写真立て型表示装置1としてのしかるべき動作が得られるように制御を実行する。
【0114】
図18は、上記図17に示されるジェスチャ動作判定部18が実行する処理の手順例をフローチャートとして示している。
この図においては、先ずステップS101により、ジェスチャ動作期間を検出してセンサ信号を記録する処理を実行する。この図に示す処理は、ジェスチャ検出部33,第1センサ信号記録部31,第2センサ信号記録部32が実行する。
【0115】
ステップS101としての処理手順例を図19のフローチャートに示す。
図19のステップS201においては、先ず、ジェスチャ検出部33がセンサ信号S1,S2を入力して閾値と比較する。ここでの閾値は、一次元センサ40−1においてジェスチャ動作の可能性のある動きを検出したときに得られるセンサ信号の振幅に基づいて定めることができる。また、ここでは一次元センサ40−1、40−2から入力したセンサ信号S1,S2をそのまま閾値と比較することとしているが、この段階において、正規化したセンサ信号S1,S2を求める(NOM_S1,NOM_S2と同じで良い)ようにして、この正規化されたセンサ信号S1,S2の値と閾値とを比較するように構成してもよい。
【0116】
ステップS201においては、センサ信号S1,S2のレベル値(サンプル値)の少なくともいずれか一方が閾値以上となるのを待機することになる。そして、ステップS201において肯定の判別結果が得られると、ステップS202以降の手順に進む。例えば先の図17の説明との対応では、ジェスチャ検出部33は、ステップS201において肯定の判別結果が得られたことに応じて、第1センサ信号記録部31、第2センサ信号記録部32に対してジェスチャ動作の開始を通知する。
【0117】
ステップS202においては、第1センサ信号記録部31、第2センサ信号記録部32により、センサ信号S1,S2のサンプルデータの記録を開始する。つまり、ジェスチャ検出部33によるジェスチャ動作開始の通知に応じて、センサ信号S1,S2の記録を開始する。
【0118】
この場合のジェスチャ検出部33は、上記ステップS201にて肯定の判別結果が得られたことを以て、ジェスチャ動作の開始タイミングを検出するものとみることができる。ジェスチャ検出部33は、この後において、ジェスチャ動作の終了タイミングを検出すべきことになる。ここでは、センサ信号S1,S2の少なくともいずれか一方が閾値以上である状態からセンサ信号S1,S2の双方が閾値未満に遷移し、この閾値未満の状態が一定時間経過した時点を、ジェスチャ動作の終了タイミングとして検出する。ステップS203以降は、ジェスチャ動作の終了タイミングを検出するための処理となる。
【0119】
ステップS203は、ジェスチャ検出部33が実行する。ステップS201にて肯定の判別結果が得られたことに対応しては、センサ信号S1,S2の少なくともいずれか一方が閾値以上の状態にある。この後に実行されるステップS203において、ジェスチャ検出部33は、現在のセンサ信号S1,S2について、両者が閾値未満の状態であるか否かについて判別する。
【0120】
ステップS203において否定の判別結果が得られた場合には、ステップS204により、タイマが起動中であるか否かについて判別する。このタイマは、次に説明するステップS207によりリセット・スタートされるもので、センサ信号S1,S2が閾値未満となった時点からジェスチャ動作の終了時点としてみなされるまでの時間をカウントする。ステップS203においてタイマが起動中でないとして否定の判別結果が得られれば、そのままステップS203に戻る。タイマが起動中であれば、ステップS205によりタイマを停止させてからステップS203に戻る。
【0121】
ステップS203において肯定の判別結果が得られた場合には、先ず、ステップS206により、現在タイマが起動中であるか否かについて判別する。タイマが起動していなければ、ステップS207により、タイマのカウント値をリセットしたうえで、カウントを開始させ、ステップS203に戻る。
これに対してステップS206によりタイマが起動中であるとして肯定の判別結果が得られたのであれば、ステップS208に進む。
【0122】
ステップS208においては、現在のタイマのカウント値に基づきタイマ時間が経過したか否かについて判別する。タイマ時間を経過していないとして否定の判別結果が得られた場合には、そのままステップS203に戻る。これに対して、タイマ時間を経過したとして肯定の判別結果が得られた場合には、ステップS209に進み、タイマのカウントを停止させる。なお、ステップS208によりタイマ時間が経過したとの判別結果を得ることが、ジェスチャ検出部33によりジェスチャ動作期間が終了したことを通知する処理に相当する。
【0123】
ステップS210において第2センサ信号記録部31,第2センサ信号記録部32は、ジェスチャ動作期間の終了に応じて、これまでのセンサ信号S1,S2のサンプルデータの記録を終了させる。
【0124】
図18において、上記ステップS101としての処理を実行した後は、ステップS102の処理を実行することになる。ステップS102においては、第1正規化処理部34、第2正規化処理部35が、それぞれ、第1センサ信号記録部31、第2センサ信号記録部32により記録されたセンサ信号S1,S2のサンプルデータについての正規化処理を実行する。
【0125】
正規化処理は、先にも図11により説明したが、その処理手順例を、図20のフローチャートとして示した。ここでは、フローチャートのステップの流れとして、先ず、センサ信号S1について正規化処理を実行し、次に、センサ信号S2について正規化処理を実行するように構成している。
【0126】
先ず、ステップS301においては、センサ信号S1,S2を一般化したセンサ信号Smに対応させた変数となるmについて、1を代入する。
次に、ステップS302により、センサ信号Smのサンプルデータにおける最大値Smmaxを取得する。この最大値Smmaxは、図11(a)により説明したセンサ信号S1若しくはセンサ信号S2のいずれかの最大値Vp1,Vp2(絶対値)に対応する。
【0127】
ステップS303においては、センサ信号Smのサンプルデータについての番号を示す変数iについて、1を初期値として代入する。
【0128】
次のステップS304においては、センサ信号Smにおけるi番目のサンプルデータを正規化する。
このための処理としては、例えば、センサ信号におけるi番目のサンプルデータの正規化値をNOM_Sm_i、センサ信号Smにおけるi番目のサンプルデータをSm_iとして、
NOM_Sm_i= Sm_i/SmMAX・・・(式1)
により表される演算を実行する。つまり、先に述べたようにして、センサ信号のサンプルデータの値を、同じセンサ信号Smの最大値(絶対値)により除算する。
【0129】
ステップS305においては、変数iについて最大値であるか否かについて判別する。この最大値は、ジェスチャ動作期間に対応して記録されたセンサ信号S1,S2の各サンプル数Nに対応する。
ここで否定の判別結果が得られた場合には、未だ、正規化値を取得していないサンプルが残っていることになる。そこで、ステップS306により変数iをインクリメントしてステップS304に戻る。これにより、順次、サンプルデータについて正規化値が得られることになる。
【0130】
そして、センサ信号Smについて最後のサンプルデータまで正規化処理が終了したとされると、ステップS305にて肯定の判別結果が得られることとなって、ステップS307に進む。ステップS307においては、変数mについて最大値であるか否かについて判別する。これまでの説明との対応では、センサ信号はS1,S2の2つであるから、変数mの最大値は2となる。
ステップS307において否定の判別結果が得られた場合には、未だ正規化処理を行っていないセンサ信号が残っていることになる。そこで、この場合にはステップS308により変数mについてインクリメントしてステップS302に戻る。これにより、これまでとは別のセンサ信号を対象として正規化処理が開始される。
そして、例えばセンサ信号S1,S2について正規化処理が完了したとされると、ステップS307において肯定の判別結果が得られることになり、ステップS102としてのセンサ信号正規化処理が終了されることになる。
なお、センサ信号S1,S2ごとに、サンプルデータの正規化値NOM_Sm_iを、時系列に従ったサンプル順で配列させた構造のものが、先に述べた正規化センサ信号NOM_S1、正規化センサ信号NOM_S2であるとしてみることができる。
【0131】
また、上記図20の処理では、先にも述べたように、センサ信号S1,S2を対象にして正規化処理を行う手順として、先ず、センサ信号S1について処理を行い、これに続けてセンサ信号S2の処理を行うアルゴリズムとなる。しかし、実際においては、例えば図17に示したブロック構成にそのまま対応するようにして、センサ信号S1,S2の正規化処理が併行した処理としてほぼ同時に実行されるようなアルゴリズムとしてもよい。
【0132】
説明を図18に戻す。
上記ステップS102としての正規化処理を実行した後は、ステップS103として、位相平面写像化処理部36が、ステップS102により得られたセンサ信号S1,S2の正規化値(正規化センサ信号NOM_S1、正規化センサ信号NOM_S2)のデータを利用して、位相平面写像化処理を実行する。これにより、位相平面写像化処理部36は、信号軌跡のデータを取得する。
【0133】
ステップS104においては、評価項目算出部37における相関係数算出部37aが、上記信号軌跡のデータを利用して相関係数rを算出する。
【0134】
次のステップS105においては、動作判定部38により、今回検出されたジェスチャ動作について、水平方向のジェスチャ動作、垂直方向のジェスチャ動作、回転動作のうちの何れであるのかについて推定する処理となる。
ステップS105において動作判定部38は、上記ステップS104にて算出された相関係数rを取り込む。そして、この相関係数rが、r>0.5、r<-0.5、-0.5≦r≦0.5のどの範囲に属するのかについて判別する。
【0135】
先に述べたように、水平方向と垂直方向との間での判定に関しては、原則的に、相関係数rが正の値のときに水平方向のジェスチャ動作、負の値のときに垂直方向のジェスチャ動作であると判断する。
但し、判定すべきジェスチャ動作として、回転動作を加える場合には、一定値を定めることとして、相関係数rの絶対値が一定値以下であれば回転動作として判定し、相関係数rの絶対値が一定値以上であれば水平/垂直方向のジェスチャ動作であると判定する。
【0136】
上記ステップS105において相関係数rと比較する閾値である+0.5,-0.5は、水平・垂直方向のジェスチャ動作であるか、回転動作であるかを判定するための上記一定値に相当する。なお、この+0.5,-0.5による閾値としての具体値はあくまでも一例であり、実際との兼ね合いなどで適宜変更されるべきものである。また、正の閾値と負の閾値とで互いに異なる値が設定されても良い。
【0137】
この場合には、相関係数r>0.5の場合に水平方向のジェスチャ動作であると判定することになる。そこで、ステップS105において相関係数r>0.5であると判別した場合に、動作判定部38は、先ずステップS106により水平方向のジェスチャ動作であるとの認識結果を出力するものとする。次に、この認識結果に応じた処理として、続くステップS107以降の手順を実行することで、さらにジェスチャ動作が右動作と左動作の何れであるのかを判定する処理を実行する。
【0138】
ステップS107において動作判定部38は、重心算出部37bにより、信号軌跡についての重心G(gx,gy)を算出させる。次に、動作判定部38は、ステップS108により、ステップS107にて算出された重心Gを取り込み、この重心G(gx,gy)の座標が存在する象限を判定する。
【0139】
ステップS108において、動作判定部38は、第1象限であると判別した場合には、右動作であるとの判定結果を出力する。また、第3象限であると判別した場合には、左動作であるとの判別結果を出力する。
【0140】
また、ステップS108において、第1象限及び第3象限以外の象限(第2象限、第4象限)であると判別した場合として、ここでは、ステップS122に進み、有意なジェスチャ動作は行われなかったものとの判定結果を出力させることとしている。
なお、例えば予め定めた規則、演算などに従って、第2象限、第4象限に位置する重心Gが、第1象限、第3象限のうちで適切とされるほうの象限に位置させるように修正する処理を実行したうえで、その結果に応じて、右動作若しくは左動作の判定結果を出力するというアルゴリズムとすることも考えられる。
【0141】
また、ステップS105にて、相関係数r<-0.5であると判別した場合には、動作判定部38は、ステップS111に示すように、先ず、垂直方向のジェスチャ動作であるとの認識結果を出力する。そのうえで、この認識結果に応じた処理として、ステップS112以降の手順を実行することで、さらにジェスチャ動作が上動作と下動作の何れであるのかを判定する処理を実行する。
【0142】
ステップS112において動作判定部38は、重心算出部37bにより信号軌跡についての重心G(gx,gy)を算出させ、次のステップS113により、重心G(gx,gy)の座標が存在する象限を判定する。
【0143】
ステップS113において動作判定部38は、第2象限であると判別した場合には、下動作であるとの判定結果を出力する。また、第4象限であると判別した場合には、上動作であるとの判定結果を出力する。
また、第2象限及び第4象限以外の象限(第1象限、第3象限)であると判別した場合には、ステップS122により、有意なジェスチャ動作は行われなかったものとして判定する。なお、この場合にも、水平方向のジェスチャ動作判定における場合と同じく、重心Gを、第2象限若しくは第4象限のいずれかに位置するものとなるようにして修正し、下動作・上動作の判定結果を出力するようにしてよい。
【0144】
また、ステップS105において相関係数rについて-0.5≦r≦0.5であると判別された場合には、先ず、ステップS116による判別処理を実行する。ステップS116においては、センサ信号の記録サンプル数Nについて、予め設定した閾値以上であるか否かについて判別する。
【0145】
先に述べてきたように、前提として、相関係数rについて-0.5≦r≦0.5の場合には回転動作であるとして判定してよい。
ただし、実際においては、回転動作以外の動きを検出したときにも、相関係数rの絶対値が一定以下となる可能性がある。例えば、例えば直線的な動きではあるが、水平方向若しくは垂直方向に対して相当にずれた角度で対象物を移動させたような動きの場合には、直交する検出軸の間でクロストークが生じて相関係数rの絶対値は小さくなる。この結果、相関係数rの絶対値が一定以下となる可能性がある。
【0146】
ステップS116の処理は、上記したことを考慮して、相関係数rについて-0.5≦r≦0.5であると判別された場合において、検出された動きについて、回転動作としてのジェスチャ動作であるのか、他の動きであるのかを弁別しようとするものである。
ここで、センサ信号の記録サンプル数Nは、ジェスチャ検出部33が検出したジェスチャ動作期間に対応して第1センサ信号記録部31、第2センサ信号記録部32のそれぞれが記録したサンプルデータ数を指す。つまり、記録サンプル数Nは、ジェスチャ検出部33が検出したジェスチャ動作期間であり、これは動きが継続して検出された時間長を示している。
【0147】
水平・垂直方向のジェスチャ動作は直線的な動きであるので、ジェスチャ動作期間として検出される時間は短い。これに対して、回転動作は、その動きの軌跡が円弧を描くことになるので、相応に長いものとなる。つまり、回転動作としてのジェスチャ動作期間は、相応に長い時間を要するといえる。
そこで、ステップS116に対応しては、回転動作を行ったときに得られるジェスチャ動作期間としての一般的、平均的な時間長に対応して得られるサンプル数に基づいて閾値を設定することとした。そして、ステップS116の処理として、記録サンプル数Nが閾値以上であると判別すれば、ステップS117により回転動作であるとの判定結果を得る。これに対して、記録サンプル数Nが閾値未満であるとして否定の判別結果を得たのであれば、ステップS122に進み、有意な動作は無かったものとの判定結果を出力する。
【0148】
ステップS118において動作判定部38は、信号軌跡の回転方向を算出する。つまり、先の(数3)による演算を実行して、信号軌跡の外積のz成分の総和値pを求める。この外積のz成分の総和値pの正/負が回転方向を示していることになる。
【0149】
ステップS119において動作判定部38は、上記ステップS118により求められた外積総和値pに基づき、信号軌跡の回転方向の全体傾向を判別する。つまり、外積のz成分の総和値pが正の値であれば、信号軌跡の回転方向の全体傾向は左回りであると判別し、外積のz成分の総和値pが負の値であれば、信号軌跡の回転方向の全体傾向は右回りであると判別する。
【0150】
動作判定部38は、ステップS119により右回りであると判別した場合、ステップS120により、右回転動作であるとの判定結果を出力する。また、左回りであると判別した場合、動作判定部38は、ステップS121により、左回転動作であるとの判定結果を出力する。
【0151】
<8.位相平面写像化処理の変形例>
先に図11により説明した位相平面写像化処理では、位相平面上に対して、同じサンプルタイミングの正規化センサ信号NOM_S1,正規化センサ信号NOM_S2の値により座標をプロットするものとしていた。つまり、正規化センサ信号NOM_S1,正規化センサ信号NOM_S2についての、N個の記録サンプルにおるi番目のサンプル値を、xi,yiとして、位相平面に対して、順次、座標(xi,yi) (1≦i≦N)をプロットしていく。この場合、プロットする座標の座標値としては、正規化センサ信号NOM_S1,正規化センサ信号NOM_S2の値をそのまま用いているものである。
【0152】
これに対して、位相平面写像化処理の変形例では、位相平面上にプロットするためのx座標、y座標の値として、それぞれ、元の正規化センサ信号NOM_S1,NOM_S2のサンプル値をべき乗して得られる値を用いることとする。この場合において、べき乗の指数nについては、3以上の奇数を用いる。
つまり、正規化センサ信号NOM_S1,正規化センサ信号NOM_S2についての、N個の記録サンプルにおるi番目のサンプル値を、xi,yiとして、正規化処理としては、座標(xi^n,yi^n):(1≦i≦N、nは3以上の奇数)をプロットしていくものである。
【0153】
先ず、正規化センサ信号NOM_S1,正規化センサ信号NOM_S2をべき乗すると、絶対値の小さな値ほどより小さい値に変換されることになる。このことは、絶対値が大きくなるほど高い重み付けが与えられる、ということになる。すると、位相平面上に形成される信号軌跡としては、座標(xi,yi)をプロットしていった場合よりも、その包括的な形状の傾向が強調される結果になる。例えば、水平・垂直方向のジェスチャ動作に対応しては、その包括的形状は前述のように楕円Eとしてみることができるが、この楕円形状としては、より先鋭化されて、長径と短径の比がより大きなものとなっていく。
ただし、べき乗の指数nについて偶数を用いてしまうと、元のサンプル値xi,yiが負の数の場合には、べき乗した値が正に反転してしまう。そこで、べき乗の指数nについて奇数を用いることとして、元のサンプル値xi,yiの正・負の符号が反転することなく残るようにしている。
【0154】
このようにして、座標(xi^n,yi^n)により位相平面写像化を行って形成される信号軌跡は、その全体形状が強調されて、先鋭化されるものとなり得る。そして、このようにして形成された信号軌跡を利用して求められる相関係数rとしては、例えば水平・垂直方向のジェスチャ動作に対応しては、より極端な一定以上の絶対値が得られることになる。また、回転動作に対応しては、より極端な一定以下の値が得られることになる。つまり、ジェスチャ動作として,水平方向、垂直方向、また、回転方向の何れに応じたものであるのかについての判定精度を高くすることができる。
【0155】
また、座標(xi^n,yi^n)により形成される信号軌跡に基づいて重心Gの座標を求めた場合にも、この求められた座標としては、検出されたジェスチャ動作に応じてしかるべき象限内に位置するがより原点から遠くなって明確なものとすることができる。つまり、水平方向のジェスチャ動作に関しては、右動作と左動作についての判定精度が向上する。また、垂直方向のジェスチャ動作に関しても、上動作と下動作についての判定精度を向上させることが可能になる。
【0156】
なお、座標(xi^n,yi^n)により形成される信号軌跡に基づいて重心Gの座標(xg,xy)は、例えば下記の演算により求めることができる。
【数4】
【0157】
<9.一次センサの配置態様についての変形例>
また、本実施形態として、センサ部5を成す一次元センサ40−1、40−2において、一次元の動きを検出する2対の赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2の配置態様は、図8に示したものに限定されない。つまり認識・判定すべき二軸の直線的ジェスチャ動作の各移動方向に対して、例えば検出軸に45°の角度を与えることで、上記二軸の直線的ジェスチャ動作の何れについても、対の赤外線検出素子51A−1,51B−1、及び赤外線検出素子51A−2,51B−2が、時間差をもって動きに応じた信号Sa,Sbを出力できるようになっていればよい。
【0158】
そこで、一次センサの配置態様の変形例として、図21,図22により、赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2についての他の配置態様例を示しておくこととする。
【0159】
図21に示す変形例においては、例として、赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2を、センサ部5としての1つの部品・デバイスに実装した例を示している。例えば、図8に示した一次元センサ40−1、40−2のようにして、一対の赤外線検出素子51A,51Bを備えるものは、汎用の焦電センサ部品などとして提供されることが多い。しかし、本実施形態のようにして、直交する2軸の直線的なジェスチャ動作を検出することを前提にする場合には、2対の赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2を備えた1つの焦電センサ部品として構成してもよいことになる。
【0160】
そして、図21(a)における配置としては、先ず、赤外線検出素子51A−1,51B−1に対応する検出軸L1、赤外線検出素子51A−2,51B−2に対応する検出軸L2については、水平/垂直方向に対して、図8(a)と同じ角度関係としている。そのうえで、図示する態様により、検出軸L1を通過する位置に赤外線検出素子51A−1,51B−1を配置し、検出軸L2を通過する位置に赤外線検出素子51A−2,51B−2を配置したものである。
【0161】
上記図21(a)による赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2の配置に応じて形成される空間検出領域60A−1,60B−1、空間検出領域60A−2,60B−2は、図21(b)に示すものとなる。
【0162】
次に、図22の変形例について説明する。
この場合には、図22(a)に示すように、検出軸L1は、一定距離を隔てた2つの平行な検出軸L1a,L1bに分割して設定している。また、これら検出軸L1a,L1bは、水平/垂直方向に対して図8の検出軸L1と同じ角度を設定している。この場合には、検出軸L1aのほうが下側で、検出軸L1bのほうが上側となる位置関係としている。
同様にして、検出軸L2も、水平/垂直方向に対して図8の検出軸L2と同じ角度を設定したうえで、一定距離を隔てた2つの平行な検出軸L2a,L2bに分割して設定している。また、この場合には、検出軸L2bのほうが下側で、検出軸L2aのほうが上側となる位置関係としている。
【0163】
そのうえで、検出軸L1a上に対しては、赤外線検出素子51A−1を配置し、検出軸L1b上には、赤外線検出素子51B−1を配置する。また、検出軸L2a上に対しては、赤外線検出素子51A−2を配置し、検出軸L2b上には、赤外線検出素子51B−2を配置する。
なお、上記赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2の配置に応じて形成される空間検出領域60A−1,60B−1、空間検出領域60A−2,60B−2は、図22(b)に示すものとなる。
【0164】
上記図21,図22の何れの配置態様によっても、図8と同様に、一方の対となる赤外線検出素子51A−1,51B−1は、水平/垂直の何れの方向の動きについても、時間差をもって動きを検出することができる。
また、他方の対となる赤外線検出素子51A−2,51B−2も、水平/垂直の何れの方向の動きについても、時間差をもって動きを検出できる。
また、赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2が水平/垂直方向の直線的動きを検出する順序も、図8と同様になっている。
【0165】
なお、先の説明では、図17のジェスチャ動作判定部18は、制御部11としてのCPUがプログラムを実行することにより実現されるソフトウェア処理であることとした。しかし、例えばジェスチャ動作判定部18としての信号処理を、DSP(Dgital Signal Processor)により構成してもよい。つまり、DSPについて、ジェスチャ動作判定部18としての信号処理を実行するためのプログラム、インストラクションを記憶させて構成する。
また、ジェスチャ動作判定部18としての信号処理をハードウェアにより構成することも考えられる。
【0166】
また、制御部11としてのCPUが実行するプログラムは、例えばフラッシュメモリであるとかROMに対して書き込んで記憶させるほか、リムーバブルの記憶媒体に記憶させておいたうえで、この記憶媒体からインストール(アップデートも含む)させるようにしてフラッシュメモリなどに記憶させることが考えられる。また、所定のデータインターフェースを経由させるなどして、他のホストとなる機器からの制御によってプログラムのインストールを行えるようにすることも考えられる。さらに、ネットワーク上のサーバなどにおける記憶装置に記憶させておいたうえで、例えばジェスチャ認識を実行する装置ネットワーク機能を持たせることとし、サーバからダウンロードして取得してインストールできるように構成することも考えられる。
【0167】
また、これまでの説明においては、一次元センサ40−1、40−2の検出軸L1,L2について、水平/垂直方向に対して45°の角度を与えている。これは、本実施形態において定めた二軸の直交する直線的ジェスチャ動作が、左右動作に対応する水平方向(第2の方向)と、上下動作に対応する垂直方向(第2の方向)としていることによる。
例えば、逆に二軸の直交する直線的ジェスチャ動作を、それぞれ水平/垂直方向に対して45°となる方向に沿ったものとして定めたとすれば、検出軸L1,L2のそれぞれが水平/垂直方向に一致するようにして一次元センサ40−1、40−2を配置させることになる。
【0168】
また、実施形態では、最もあり得る態様として、二軸の直線的ジェスチャ動作について相互に直交させる方向であるものとして定めているが、必ずしも、直交させる必要はない。つまり、直線的ジェスチャ動作の各軸が交差する角度が90°以外であってもよい。
本実施形態では、直線的ジェスチャ動作の各軸が交差する角度について、90°以外の角度であっても、対の検出素子において必要な検出時間差が得られていれば、それぞれの軸方向のジェスチャ動作を適正に認識可能である。
【0169】
なお、これまでにおいては、一次元センサ40として、デュアル型焦電センサを採用した場合を例に挙げた。しかし、一次元センサとして採用し得るセンサ方式には、焦電効果を利用する以外の方式も挙げることができる。一次元センサとしては、これらの方式に基づいて構成したものを採用してよい。
【0170】
また、これまでにおいては、本実施形態のジェスチャ認識・判定のための構成を写真立て型表示装置に適用しているが、これはあくまでも一例である。本実施形態のジェスチャ認識の構成は、他の各種の装置にも多様に適用できる。
【符号の説明】
【0171】
1 写真立て型表示装置、2 本体部、3 表示画面部、4 スタンド、5 センサ部、11 制御部、12 ディスプレイデバイス、13 フラッシュメモリ、14 SDRAM、15 時計部、16 操作部、17 メモリカードインターフェース、18 ジェスチャ動作判定部、20 メモリカード、31 第1センサ信号記録部、32 第2センサ信号記録部、33 ジェスチャ検出部、34 第1正規化処理部、35 第2正規化処理部、36 位相平面写像化処理部、37 評価項目算出部、37a 相関係数算出部、37b 重心算出部、37c 回転方向算出部、38 動作判定部、40 一次元センサ、41 集光器、42 焦電センサ部、43 アンプ・フィルタ、51A(51A−1・51A−2)・51B(51B−1・51B−2) 赤外線検出素子、60A−1・60A−2・60B−1・60B−2 空間検出領域
【技術分野】
【0001】
本発明は、例えば人の手などの動きなどの動作(ジェスチャ)について認識する動作認識装置とその方法、及び動作認識装置が実行するプログラムに関する。
【背景技術】
【0002】
人が行う動作(ジェスチャ)を認識する動作認識(ジェスチャ認識)の技術・手法としては、次のようなものが知られている。
1つには、撮像装置によりジェスチャを行っている被写体を撮像して得られる画像信号について動き解析の画像信号処理を行うことで、ジェスチャ認識を行おうというものが知られている。
また、1つには、加速度センサなどを実装したリモートコントロール装置を提供し、例えばユーザがこのリモートコントロール装置を持つなどして行った動きに応じて得られる加速度センサの検出信号に基づいてジェスチャ認識を行おうとするものである。
また、例えば人体が発する赤外線を検出する赤外線検出素子を利用して人の動きを検知しようとする技術も知られている。
上記のジェスチャ認識の結果は、例えば、電子機器の操作コマンドに適用できる。つまり、ユーザが特定のジェスチャとしての動きをすることにより、電子機器を遠隔操作することが可能になる。
【0003】
例えば上記したジェスチャ認識手法のうち、赤外線検出素子を利用したものは、撮像画像信号について動き解析のための画像信号処理を行う手法と比べれば、撮像装置が不要であり、処理の負荷が大きい画像信号処理も実行しなくてよい。また、ジェスチャを行う際には、例えばユーザの手などの身体部分自体を使用すればよく、加速度センサを実装したリモートコントロール装置などは必要無い。
【0004】
例えば、特許文献1には、赤外線検出素子の1種であるデュアル素子型の焦電センサにより同一方向の動きを連続入力できるように、移動方向を決定した信号の入力から所定時間以内に、その信号と同極性の信号を検出したとき、移動方向と同一方向とする構成が記載されている。
また、特許文献2には、焦電センサを用いたうえで、人体と小動物との弁別が行えるようにした侵入検知システムの構成が記載されている。
また、特許文献3には、テレビジョン受像器において上下左右の十字状に4つの赤外線検出素子を配置し、これらの赤外線検出素子により得られる検出信号の時間差に基づいて、ユーザの左右方向に沿った手の動きによるジェスチャに応じてはチャンネルの切り替えを行い、上下方向に沿った手の動きによるジェスチャに応じては音量の調節を行うようにした構成が記載されている。
また、特許文献4には、赤外線検出素子の検出信号について、所定周波数以上の信号のみを通過させるフィルタ部を用いることで、人体の特定部位の特定方向の早い動きのみを認識可能とした構成が記載されている。
また、特許文献5には、それぞれ2つの人体検知エリアを有する焦電型赤外線センサを2つ用いて、一軸方向における人体移動方向判別を行う構成が記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平05-81503号公報
【特許文献2】特開2008−16015号公報
【特許文献3】特開平7−38971号公報
【特許文献4】特開平11―259206号公報
【特許文献5】特開2006−277626号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
本願発明としては、例えばデュアル型の焦電センサに代表される、一軸方向(一次元)の動きを検出可能な一次元センサを用いることとしたうえで、これまでよりも高い信頼性のジェスチャ認識結果が得られるようにすることを、その課題とする。
【課題を解決するための手段】
【0007】
そこで本発明は上記した課題を解決する手段として、動作認識装置について次のように構成する。
つまり、1つの検出軸に沿った一次元方向の対象物の動作に応じた動きを検出して、その検出した動きに応じた信号を出力するもので、上記検出軸が、認識対象として定められた直線的な対象物の動作の方向である第1の方向及び第2の方向に対して異なるようにして配置される、第1,第2の一次元センサ手段と、上記第1,第2の一次元センサ手段から出力される第1、第2の信号のそれぞれについて、その振幅値を、ピーク値との比により表される値に変換するようにして正規化する処理を実行する正規化処理手段と、同じ時間ごとの上記正規化された第1の信号の値に基づくx座標値と、上記正規化された第2の信号の値に基づくy座標値とにより、位相平面上に対して座標をプロットするようにして、上記第1,第2の時系列に応じた信号軌跡を形成する、位相平面写像化処理手段と、上記信号軌跡を形成する座標値を利用して、第1,第2の信号についての相関係数を求める相関係数算出手段と、少なくとも上記相関係数の値が正/負の何れであるのかに基づいて、検出された動きが、上記第1の方向の動作であるか、上記第2の方向の動作であるのかを判定する動作判定手段とを備えることとした。
【0008】
上記構成では、第1,第2の一次元センサ手段を、検出軸が、予め定められた直線的な対象物の動作の方向である第1の方向及び第2の方向に対して異なるようにして配置することとしている。これにより、第1,第2の一次元センサ手段はともに、第1の方向と第2の方向の何れの動作が行われたとしても、この動きを良好に検出して信号を出力することができる。
そのうえで、第1,第2の一次元センサ手段からの信号については、正規化を行った上で、位相平面上に写像することで信号軌跡を形成し、さらに、信号軌跡についての相関係数を求める。
上記信号軌跡の形状は、第1,第2の一次元センサ手段から出力される信号の位相、極性が反映されている。このために、信号軌跡から求められる相関係数の正/負は、検出した動きが第1の方向の動きと第2の方向の動きの何れであるかに対応する。従って、相関係数に基づいて第1の方向の動きと第2の方向の動きとを弁別するようにして判定できる。
【発明の効果】
【0009】
このようにして、本発明は、少なくとも、第1の方向と第2の方向とのそれぞれ異なる二軸の方向による動作について、これまでよりも高い精度で判定することが可能になる。
【図面の簡単な説明】
【0010】
【図1】本実施形態の写真立て型表示装置の外観例と、この写真立て型表示装置に対するジェスチャ操作として定めたジェスチャ動作の例を示す図である。
【図2】写真立て型表示装置の構成例を示すブロック図である。
【図3】一次元センサの構成例を示すブロック図である。
【図4】一次元センサとしてのデュアル型焦電センサの構造例を示す図である。
【図5】デュアル型焦電センサによる動作検出の原理を説明するための波形図である。
【図6】水平/垂直による二軸方向のジェスチャ動作を検出するのに考え得る一次元センサの配置態様を示す図である。
【図7】図6に示す配置態様のもとで得られるセンサ信号の例を示す波形図である。
【図8】本実施形態としての一次元センサの配置態様例を示す図である。
【図9】本実施形態の一次元センサの配置態様のもとで得られるセンサ信号を示す波形図である。
【図10】本実施形態の一次元センサの配置態様のもとで得られる、左動作、右動作、上動作、下動作ごとに応じたセンサ信号を示す波形図である。
【図11】センサ信号の正規化処理、位相平面写像化処理を説明するための図である。
【図12】右動作、左動作に対応して得られるセンサ信号と、位相平面上の信号軌跡の例を示す図である。
【図13】下動作、上動作に対応して得られるセンサ信号と、位相平面上の信号軌跡の例を示す図である。
【図14】右回転に対応して得られるセンサ信号と、位相平面上の信号軌跡の例を示す図である。
【図15】左回転に対応して得られるセンサ信号と、位相平面上の信号軌跡の例を示す図である。
【図16】ベクトルの外積を説明するための図である。
【図17】ジェスチャ動作判定部の構成例を示すブロック図である。
【図18】ジェスチャ動作判定部が実行する処理手順例を示すフローチャートである。
【図19】ジェスチャ動作期間検出と,これに応じたサンプル記録のための処理手順例を示すフローチャートである。
【図20】正規化処理を示すフローチャートである。
【図21】実施形態としての一次センサ(赤外線検出素子)の配置態様についての変形例を示す図である。
【図22】実施形態としての一次センサ(赤外線検出素子)の配置態様についての変形例を示す図である。
【発明を実施するための形態】
【0011】
以下、本願発明を実施するための形態(以下、実施形態という)について、下記の順により説明する。
<1.実施形態におけるジェスチャ操作の態様例>
<2.写真立て型表示装置の構成例>
<3.一次センサによる移動方向の検出原理>
<4.考え得る一次センサの配置態様例>
<5.実施形態としての一次センサの配置態様例>
<6.ジェスチャ動作判定のための信号処理構成>
[6−1.正規化処理、位相平面写像化処理]
[6−2.水平・垂直方向のジェスチャ動作判定]
[6−3.左右動作方向判定、上下動作方向判定]
[6−4.左右回転動作判定]
<7.ジェスチャ動作判定のためのアルゴリズム>
<8.位相平面写像化処理の変形例>
<9.一次センサの配置態様についての変形例>
【0012】
<1.実施形態におけるジェスチャ操作の態様例>
本実施形態においては、本願発明のジェスチャ認識装置を、写真立て型表示装置に適用する。本実施形態の写真立て型表示装置は、ユーザが行ったジェスチャ操作としての所定の手の動き・動作(ジェスチャ動作)を認識すると、これを操作コマンドとして受け付け、しかるべき応答動作を実行する。
【0013】
図1は、本実施形態の写真立て型表示装置の外観例を斜視図により示すとともに、この写真立て型表示装置に対してユーザが行うジェスチャ操作の態様例を示している。
【0014】
この図に示される写真立て型表示装置1は、所定寸法の幅、高さ、奥行きによる、正面が長方形となる外形形状を有している。
この場合の写真立て型表示装置1は、例えば幅が20cm〜25cm前後、高さが15cm前後の外形サイズであり、卓上などに置いておくのに適するものとなっている。
【0015】
本体部2の正面部には、画像が表示される表示画面部3が設けられている。
上記表示画面部3は、写真立て型表示装置1に採用されたディスプレイデバイスにおける画像パネル部分となる。
【0016】
また、スタンド4は、写真立て型表示装置1の本体部2を、実際の写真立てのようにして立てられた状態に保つために、本体部2の背面側に取り付けられる部品である。
【0017】
また、この場合には、本体部2の前面における枠の下側中央部において、センサ部5の窓部分が設けられている。このセンサ部5は、後述するようにして、2組の一次元センサから成る。これら一次元センサが備える検出素子(赤外線検出素子)は、その空間検出領域が写真立て型表示装置1の前方に形成されるようにされたうえで、後述する所定の位置関係により配置されている。
【0018】
本実施形態においては、ユーザが行うべきジェスチャ操作は、手を動かすことにより行うものとする。ユーザは、写真立て型表示装置1の前面側において、自身の手が上記センサ部5の空間検出領域に入るようにしたうえで、ジェスチャ操作として手を動かすようにする。
【0019】
本実施形態でのジェスチャ操作として定められる手の動き(ジェスチャ動作)については、先ず、基本として下記の4つの動作であるものとする。
1:手を右から左に向かって直線的に移動させる左動作。
2:手を左から右に向かって直線的に移動させる右動作。
3:手を下から上に向かって直線的に移動させる上動作。
4:手を上から下に向かって直線的に移動させる下動作。
そのうえで、本実施形態では、上記4つの基本のジェスチャ動作を認識する構成を適用して、さらに、下記の2つの動作も、ジェスチャ動作として定めることができる。
5:手を左回り(反時計回り)に円周状に回しながら移動させる左回転動作。
6:手を右回り(時計回り)に円周状に回しながら移動させる右回転動作。
【0020】
本実施形態の写真立て型表示装置1は、センサ部5のセンサ信号に基づいて、上記6つのうちのジェスチャ動作のうちの何れが行われたのかを認識する。そして、認識したジェスチャ動作に割与えられた操作コマンドに応じた動作を実行する。
【0021】
ここで、上記6つのジェスチャ動作ごとの操作コマンドの割り当て例について挙げておく。なお、下記の割り当て方は、あくまでも一例であり、他の適用例は多様に考えられる。
先ず、左動作/右動作のそれぞれは、写真立て型表示装置1において表示させている画像の送り/戻しの操作コマンドとして割り当てる。
また、本実施形態の写真立て型表示装置1は、メモリに記憶されている画像を一定時間ごとに順次表示させていくスライドショー表示が可能とされている。上動作/下動作のそれぞれは、このスライドショー表示の開始/停止のための操作コマンドとして割り当てる。
また、本実施形態の写真立て型表示装置1は、例えば写真画像の表示のほか、時計、カレンダーなどを表示させることが可能であり、操作に応じて、これらの表示を切り換えることが可能である。左回転動作/右回転動作は、このような表示切り換えを、所定の送り順、戻し順により切り換えていくための操作コマンドとして割り当てる。
【0022】
<2.写真立て型表示装置の構成例>
図2は、本実施形態に適用できる写真立て型表示装置1の内部構成例を示している。
この図に示すように、本実施形態の写真立て型表示装置1は制御部(CPU:Central Processing Unit)11、ディスプレイデバイス12、フラッシュメモリ13、SDRAM14、時計部15、操作部16、メモリカードインターフェース17、及びセンサ部5を備えて成るものとしている。
【0023】
制御部11は、例えばCPUとしてのハードウェアを備えている。制御部11としてのCPUは、フラッシュメモリ13に記憶されているプログラムを読み出して例えばSDRAM14に展開したうえで、この読み出したプログラムを実行する。これにより、写真立て型表示装置1としての必要な動作が適宜得られる。
ここでのSDRAM14は、制御部11の主記憶装置となるもので、補助記憶装置がフラッシュメモリ13となる。
【0024】
この場合のフラッシュメモリ13は、写真立て型表示装置1において固定的に内蔵されている。フラッシュメモリ13は、上記プログラムのほかに、メモリカード20から読み出されて転送された画像データを記憶する。
【0025】
ディスプレイデバイス12は、ディスプレイパネルと、これを駆動する駆動回路部を有し、制御部11の画像表示制御に応じて駆動回路が表示駆動のための動作を実行することで、ディスプレイパネルに画像を表示させる。このディスプレイパネルとしての画像が表示される部位が、本体部2の前面部において表出する表示画面部3となる。
本実施形態ではディスプレイデバイス12として液晶ディスプレイを採用するものとするが、例えば有機ELディスプレイデバイスなどをはじめ、他のディスプレイデバイスが採用されてよい。
【0026】
時計部15は、現在時刻を計時するための部位である。ここでは、時計部15は、現在時刻として、年月日及び時分秒を計時できるものとする。制御部11は、時計部15において計時されている現在時刻を読み出して取得することができる。
【0027】
この場合の操作部16は、写真立て型表示装置1に備えられる操作子をまとめて示している。操作部16を形成する操作子に対して操作が行われると、この操作に応じた操作コマンド信号が制御部11に出力される。制御部11は、入力される操作信号に応答して、適宜、必要な制御・処理を実行する。
また、写真立て型表示装置1に対する操作をリモートコントローラにより行えるようにされている場合には、この操作部16には、写真立て型表示装置1とは別体のリモートコントローラと、写真立て型表示装置1側に設けられて、リモートコントローラから送信されたコマンド信号を受信復調して、操作信号として制御部11に渡す受信部も含まれることになる。
【0028】
なお、本実施形態の写真立て型表示装置1は、ジェスチャ操作に応答してしかるべき動作を実行するようにされてはいるが、しかるべき操作子などとしての操作部16の構成を備える。例えば写真立て型表示装置1に対する操作が多様である場合、ジェスチャ操作では対応できない操作もあることになるが、操作部16を備えることで、これらの操作に対応できる。また、センサ部5などのジェスチャ操作に対応する機能が故障するなどした場合にも、操作部16に対する操作により同等の操作が可能である。
【0029】
メモリインターフェース17は、外部記憶装置であるメモリカード20が装填される部位を備え、制御部11の制御に応じて、装填されたメモリカード20に対するデータのアクセスとして、少なくともデータの読み出しが可能なように構成される部位である。メモリカード20から読み出したデータは、制御部11に転送される。
【0030】
上記構成による写真立て型表示装置1の基本的な利用態様例と、これに応じた写真立て型表示装置1の表示動作について説明する。
ユーザは、例えばデジタルスチルカメラなどで撮影した画像データが保存されているメモリカード20を、写真立て型表示装置1に対して装填し、画像表示のための操作を行う。
この操作に応じては、制御部11は、メモリインターフェース17を介して、メモリカード20に記憶されている画像データを読み出し、ディスプレイデバイス12にて画像として表示させるための制御を実行する。
これにより、写真立て型表示装置1の表示画面部3において、ユーザが装填したメモリカード20に保存されている画像データの画像が表示されることになる。
【0031】
また、メモリカード20から読み出した画像データをフラッシュメモリ13に取り込むようにして保存し、このフラッシュメモリ13に保存された画像データを表示させることも可能とされている。
この場合には、先ず、ユーザは、写真立て型表示装置1に対してメモリカード20を装填して、ここに記憶されている画像データを、メモリカード20に対して転送して記憶させるための操作を実行する。このときには、例えばメモリカード20に記憶されている画像データのうちから、メモリカード20に記憶させる画像データを選択する操作が行えるようにされている。
この操作に応じて、制御部11は、メモリカード20から選択された画像データを順次読み出し、メモリインターフェース17を介してフラッシュメモリ13に対して書き込み命令を実行するとともに、データを転送する。この命令に応じて、フラッシュメモリ13は、転送されてきた画像データを書き込んで、ファイル単位で管理されるようにして保存させる。なお、フラッシュメモリ13においてファイル単位で管理される画像データは、静止画像データとされ、ここではJPEG(Joint Photographic Expert Group)形式による画像ファイルとして管理されるものとする。また、フラッシュメモリ13は、ファイルシステムとして、あくまでも一例であるがFATを採用しているものとする。
【0032】
この後、ユーザにより、フラッシュメモリ13に記憶されている画像を表示させるための操作が行われたことに応じては、制御部11は、フラッシュメモリ13に記憶されている画像データファイルのうちから必要な画像データファイルを読み出す。制御部11は、これをディスプレイデバイス12により画像として再生表示するための制御を実行する。
【0033】
なお、本実施形態の写真立て型表示装置1は、次のような態様による画像データの再生表示が可能とされている。
先ず、フラッシュメモリ13若しくはメモリカード20に記憶されている画像データのうちから選択した1つの画像データのみを継続して表示させる、1枚表示を行うことができる。
また、フラッシュメモリ13若しくはメモリカード20に記憶されている画像データのうちから選択した複数の画像を、一定時間ごとに変更させていくようにして順次表示していく、スライドショーといわれる表示を行うことができる。また、このスライドショー表示においては、一定時間ごとに1枚ずつ表示させていくことも可能であるし、一定時間ごとに複数枚ずつを表示させていくことも可能である。
さらに、本実施形態の写真立て型表示装置1は、現在時刻を示す時計、またカレンダーなどを表示することも可能とされているが、これらの時計、カレンダーなどとともに、フラッシュメモリ13若しくはメモリカード20に記憶されている画像データを同時に再生表示することも可能である。
また、フラッシュメモリ13若しくはメモリカード20に記憶されている画像データのサムネイル画像を一覧して表示させることも可能とされている。
【0034】
なお、例えば図2に示した構成において、USBなどをはじめとしたデータインターフェースを備え、このようなデータインターフェースを介して画像データを読み込めるようにしてもよい。このような構成の変更、追加は適宜おこなわれてよく、写真立て型表示装置1の内部構成としては、図2に示した構成に限定されるものではない。
【0035】
<3.一次センサによる移動方向の検出原理>
本実施形態は、センサ部5として、一次元、即ち一軸方向の動きを検出可能なセンサである一次元センサを採用する。
一次元センサとしてはいつくかの方式が知られているが、本実施形態では、2つの赤外線検出素子を備える、いわゆるデュアル型焦電センサを採用する。焦電センサ自体は周知のようにして、焦電効果を応用した赤外線検出を行うことにより、背景温度と対象物(赤外線放射物体)との温度差に応じた信号を出力するセンサである。
【0036】
上記のようにして、焦電センサを利用した一次センサとしてのデバイスの構成例を図3に示す。
図3に示す一次センサ40は、集光器41、焦電センサ部42、アンプ・フィルタ43を有して成るものとされる。
集光器41は、例えばフレネルレンズなどから成り、入射光を焦電センサ部42における2つの赤外線検出素子に対して分離して集光させるように形成されている。
デュアル型焦電センサ部42は、一次元に対応する一軸の検出軸に対応させて配置させた2つの赤外線検出素子を備える。
これら2つの赤外線検出素子のそれぞれは、それぞれの配置位置に対応する空間検出領域における対象物と、背景との温度差を検出し、検出される温度差に応じた信号を出力する。焦電センサ部42では、これら2つの赤外線検出素子からの信号を合成して検出信号として出力する。この検出信号が、一軸方向における移動方向を示している。
アンプ・フィルタ43は、上記検出信号について、例えばノイズ成分除去などのための所定以上の周波数成分のみを通過させるフィルタリング処理、また増幅などを行ってセンサ信号として出力する。
【0037】
図4により、焦電センサ42による動作方向の検出原理について説明する。
このデュアル型の焦電センサ42は、図示するようにして、2つの赤外線検出素子51A,51Bを備えている。これら赤外線検出素子51A,51Bは、図示するようにして、トランジスタTrのゲート端子と、焦電センサ42の外部ゲート端子Gとの間において、直列に接続されるようにして挿入される。ここで、赤外線検出素子51A,51Bは、その負極同士が直列に接続される。つまり、赤外線検出素子51A,51Bは、互いに反転した極性により直列接続されている。赤外線検出素子51Aの正極はトランジスタのゲート端子に接続され、赤外線検出素子51Bの正極は、外部ゲート端子Gに接続される。
また、赤外線検出素子51A,51Bの直列接続に対しては、並列に抵抗R1が接続される。また、外部ゲート端子GとドレインDとの間にはゲート−ソース間抵抗Vdが挿入される。
【0038】
図4により、焦電センサ42による移動方向の検出原理について説明する。
このデュアル型の焦電センサ42は、図4(a)に示すようにして、2つの赤外線検出素子51A,51Bを備えている。これら赤外線検出素子51A,51Bは、物理的には図4(b)により後述する位置関係により配置されたうえで、集光器41を介して集光された赤外線が入射されるようになっている。
また、これら赤外線検出素子51A,51Bは、図示するようにして、トランジスタTrのゲート端子と、焦電センサ42の外部ゲート端子Gとの間において、直列に接続されるようにして挿入される。ここで、赤外線検出素子51A,51Bは、その負極同士が直列に接続される。つまり、赤外線検出素子51A,51Bは、逆極性により直列接続されている。赤外線検出素子51Aの正極はトランジスタTrのゲート端子に接続され、赤外線検出素子51Bの正極は、外部ゲート端子Gに接続される。
また、赤外線検出素子51A,51Bの直列接続に対しては、抵抗R1が並列に接続される。また、外部ゲート端子Gとドレイン端子Dとの間にはゲート−ソース間抵抗R2が挿入される。
焦電センサ42の検出信号は、ソース端子Sとゲート端子Gとの間のゲート-ソース間電圧Vdとして得られる。
【0039】
一次元センサ40としてのデバイスにおいては、赤外線検出素子51A,51Bが、集光器41を介して外部光を受光可能なように配置される。図4(b)は、一次元センサ40における赤外線検出素子51A,51Bの物理的な配置態様を模式的に示している。この図においては、上側に赤外線検出素子51Aが位置し,その下側において、或る一定の間隔を有して赤外線検出素子51Aが配置されている。この配置に対応しては、縦(垂直方向)に沿って赤外線検出素子51A,51Bを通過する一点鎖線に対応する方向が、焦電センサ部42の検出軸Lとなる。つまり、図4(b)の紙面対応した赤外線検出素子51A,51Bの配置方向では、縦(垂直)に沿った移動方向についいて上方向への移動と、下方向への移動の何れであるのかが検出されることになる。なお、図4(b)と図4(a)の直線的な動作方向1、2を対応させれば、動作方向1が上方向への移動で、動作方向2が下方向への移動であることになる。
また、動作方向1,2は、互いに逆方向の動きとなるので、動作方向1を正方向とすれば、動作方向2は逆方向となる関係である。
【0040】
ここで、図4(a)において動作方向1による直線的な対象物の動きが生じたとする。これに応じては、先ず、その動きに応じた背景と対象物との温度差の変化が、先ず移動開始位置に近い方の赤外線検出素子51Aにて検出され、次に時間差をもって、赤外線検出素子51Bにて検出されることになる。
なお、赤外線検出素子は、厳密には、上記のようにして、検出軸Lに沿った対象物の移動に応じては、その動きに応じた背景と対象物の温度差の変化を検出するが、説明の記載を簡単にするために、以降においては、「動きに応じた背景と対象物の温度差の変化の検出」を、赤外線検出素子による「動きの検出」であるとして記載することとする。
【0041】
図5(a)は、上記の動作方向1の動きに応じて出力される赤外線検出素子51A、51Bの各信号Sa,Sbと、焦電センサ部42の検出信号Vdを示している。
この場合の赤外線検出素子51Aの信号Saは、動きの検出を開始したことに応じて、時点t0において正レベルの正弦波が立ち上がり、時点t2にて0の振幅となって動きの検出が終了したことが示されている。
これに対して、赤外線検出素子51Bは赤外線検出素子51Aよりも遅れて動きの検出を開始することになる。図4(a)においては、信号Sbは、時点t1にて検出を開始したものとしている。これにより、時点t1において、負のレベルによる正弦波が発生する状態として示されている。そして、時点t3において動きの検出が終了して0レベルとなっている。
図4(a)により説明したように、赤外線検出素子51Aと赤外線検出素子51Bとは逆極性で接続されている。このために、動きを検出して得られる信号Sa,Sbの波形については互いに反転したものとなっている。
【0042】
検出信号Vdとしては、図4(a)の回路からも理解されるように、信号Sa,Sbを合成したものとなる。
つまり、図5(a)に示される検出信号Vdは、先ず、時点t0〜時点t1において、信号Saと同じ正レベルの半周期分の正弦波となる。また、時点t1〜時点t2において、信号Saと信号Sbを合成したことで、時点t0〜時点t1に対して絶対値がほぼ倍となった負のレベルの半周期分の正弦波となる。そして、時点t2〜時点t3において、信号Sbと同じ正レベルの半周期分の正弦波が現れるものとなる。
【0043】
これに対して、図4(a)において動作方向2による直線的な対象物の動きが生じた場合には、先ず、その動きの検出が赤外線検出素子51Bにより開始され、次に、赤外線検出素子51Aにて開始される。
このときの赤外線検出素子51A,51Bの各信号Sa,Sbと、検出信号Vdとを、図5(b)に示す。
図5(b)において、信号Saは、時点t1から正レベルの正弦波が立ち上がるものとなっている。信号Sbは、時点t0において負レベルの正弦波が開始されるものとなっている。
そして、検出信号Vdは、先ず、時点t0〜時点t1において、信号Sbと同じ負レベルの半周期分の正弦波となる。また、時点t1〜時点t2において、信号Saと信号Sbを合成したことで、時点t0〜時点t1に対して絶対値がほぼ倍となった正のレベルの半周期分の正弦波となる。そして、時点t2〜時点t3において、信号Saと同じ負レベルの半周期分の正弦波が現れるものとなる。
【0044】
ここで、図5(a)の検出信号Vdと、図5(b)の検出信号Vdとを比較してみると、その波形パターンは互いに反転したものとなるようにして異なっている。つまり、検出信号Vdの波形パターンにより、検出軸Lに沿った移動方向が示されていることになる。
【0045】
<4.考え得る一次センサの配置態様例>
ここで、本実施形態としては、図1により説明したように、ジェスチャ動作として、左動作、右動作、上動作、下動作、また、右回転動作、左回転動作を認識するものとしている。
ここでは説明を簡単で分かりやすいものとするために、より単純に、上記6つのジェスチャ動作のうち、左動作、右動作、上動作、下動作の4つの動作を検出可能とすることを考えてみる。
【0046】
この場合において、一次元センサとして、上記図3〜図5により説明したデュアル型焦電センサによるものを採用することとした場合について考察してみる。すると、左動作/右動作による水平方向のジェスチャ動作と、上動作/下動作による垂直方向のジェスチャ動作を検出可能とする必要があることになる。即ち、互いに異なる二軸の動作方向を検出すべき必要がある。
このため、一次元センサの検出軸としては、水平(横)方向に対応する検出軸と、垂直(縦)方向に対応する検出軸との2つが必要であり、従って、一次元センサとしても2つが必要であることになる。
【0047】
上記した2つの一次元センサの配置として単純に考え得る態様を図6に示す。
図6(a)には、2つの一次元センサ40−1、40−2が示されている。一次元センサ40−1の検出軸はL1であり、一次元センサ40−2の検出軸はL2である。
一次元センサ40−1については、その検出軸L1が、垂直(縦)方向と一致する向きにより配置する。これに対して、一次元センサ40−2については、その検出軸L2が、水平(横)方向と一致する向きにより配置する。つまり、一次元センサ40−1,40−2について、互いの検出軸が直交する位置関係により配置する。
なお、ここでは、一次元センサ40−1の下に一次元センサ40−2を配置している。
【0048】
図6(b)は、図6(a)に示した一次元センサ40−1、40−2の配置に応じて形成される空間検出領域の例を示している。1つの空間検出領域は、対応する1つの赤外線検出素子51により対象物の動きを検出可能な空間領域をいう。また、空間検出領域は、模式的には、対応する1つの赤外線検出素子51の外形枠を、空間に対して検出有効距離まで拡大投射したときの枠の軌跡により形成される限定された空間となる。
【0049】
先ず、一次元センサ40−1側に関しては、上側に位置する赤外線検出素子51A−1に対応して空間検出領域60A−1が形成され、下側に位置する赤外線検出素子51B−1に対応して空間検出領域60B−1が形成される。
これらの空間検出領域60A−1、60B−1は、対応する赤外線検出素子51A−1,51B−1の形状と配置角度に応じて、水平方向に長い長方形の断面となる空間を形成している。また、位置関係としては、対応する赤外線検出素子51A−1,51B−1の配置位置関係に応じて、空間検出領域60A−1のほうが上で、空間検出領域60B−1が下となる位置関係となっている。
【0050】
また、一次元センサ40−2側に関しては、上側に位置する赤外線検出素子51A−2に対応して空間検出領域60A−2が形成され、下側に位置する赤外線検出素子51B−2に対応して空間検出領域60B−2が形成される。
これらの空間検出領域60A−2、60B−2は、対応する赤外線検出素子51A−2,51B−2の形状と配置角度に応じて、水平方向が長辺となる長方形の断面による空間を形成している。また、位置関係としては、対応する赤外線検出素子51A−2,51B−2の配置位置関係に応じて、空間検出領域60A−2のほうが左で、空間検出領域60B−2が右となる位置関係となっている。
【0051】
上記した一次元センサ40−1、40−2の配置であれば、先に説明した一次元センサの検出原理に基づく限りは、上下左右の各ジェスチャ動作を検出可能であることになる。
一例として右動作が行われたとする場合には、一次元センサ40−2側においては、先ず、右動作を行っているユーザの手(対象物)が、空間検出領域60A−2を通過し、次に空間検出領域60A−1を通過する。これに応じて、図5に示したように、赤外線検出素子51A−2,51B−2においては、時間差を有して動きを検出して信号Sa,Sbを出力し、有意の検出信号Vdを出力する。この検出信号Vdにより、対象物が右方向に移動したことが示されていることになる。
これに対して、垂直方向を検出軸とする一次元センサ40−1側においては、空間検出領域60A−1、60A−2を同時に対象物が通過する。このときに赤外線検出素子51A−1,51B−1から出力される信号Sa,Sbは、例えば図5からも分かるように、互いに逆相となる。従って、検出信号Vdとしては、0レベルとなる。つまり、上下方向に沿った移動は無いことを示す。
【0052】
また、上下のジェスチャ動作が行われた場合に関しても、上記の説明から自明なように、原理的には、一次元センサ40−1の検出信号Vdにより、対象物が上若しくは下方向に移動したことが示されることになる。一方、一次元センサ40−2の検出信号Vdによっては、左右方向の動きは無いことが示される。
【0053】
しかし、本願発明者は、図6に示した一次元センサの配置によっては、現実には、上下左右のジェスチャ動作を認識することが非常に困難であることを確認した。
図7(a)(b)(c)のそれぞれは、本願発明者の実験結果として、図6に示した一次元センサ40−1、40−2の配置のもとで、ジェスチャ動作として右動作を行った場合に得られたセンサ信号S1とセンサ信号S2とを示している。センサ信号S1は、垂直方向が検出軸である一次元センサ40−1から出力され、センサ信号S2は、水平方向が検出軸である一次元センサ40−2から出力される信号であり、その波形は、内部の焦電センサ部42から出力される検出信号Vdに相当する。
【0054】
図7(a)(b)(c)に示されるように、水平方向の検出軸に対応した検出出力となるセンサ信号S2については、右動作の検出に応じたほぼ同じ波形が得られている。つまり、一次元センサ40−32側のみに関すれば、右動作を安定して検出していることになる。
一方、垂直方向の検出軸に対応するセンサ信号S1については、本来であれば、ほぼ0レベルが維持されるべきであることになる。しかし、実際に得られるセンサ信号S1は、図7(a)に示されるように振幅が非常に小さい場合もあれば、図7(b)(c)のようにして大きな振幅が得られる場合もある。さらには、センサ信号2に対するセンサ信号1の位相として、図7(b)の場合には、ほぼ同位相であるのに対して、図7(c)の場合には、逆相になっている。このようにして、センサ信号1については振幅、位相ともにその出現の仕方に一定性がない。
このように、ジェスチャ動作としての動きに沿った方向を検出軸とする一次元センサのセンサ信号は安定しているが、これと直交する方向を検出軸とする一次元センサのセンサ信号は不安定になる。
【0055】
上記のようにしてセンサ信号が不安定になることの原因の主たるものの1つとしては下記のようになる。
つまり、現実における対象物の移動方向は、赤外線検出素子の検出軸と厳密に一致するものではない。このために、一方の検出軸に沿って対象物を移動させているつもりでも、その移動方向が、上記一方の検出軸に対して角度を持つと、他方の検出軸に対応する赤外線検出素子にて、その角度のずれに応じた信号の振幅が生じてしまう。
例えば、右動作を行っているとして、そのときに上方向にも或る程度移動していると、一次元センサ40−1のセンサ信号としては、上方向への移動を示す振幅が生じ、逆に下方向にも或る程度移動していると、一次元センサ40−1のセンサ信号としては、下方向への移動を示す振幅が生じる。
【0056】
このようにしてセンサ信号が不安定であることによっては、ジェスチャ動作に対応したセンサ信号が得られたとしても、これが左右(水平)方向におけるジェスチャ動作であるのか、上下(垂直)方向におけるジェスチャ動作であるのかを識別することが非常に難しくなる。
例えば最も分かりやすい場合として、ジェスチャ動作の方向に対して直交する検出軸に対応するセンサ信号の振幅が、ジェスチャ動作の方向に対応する検出軸に対応するセンサ信号の振幅と同程度にまで大きくなった状態を想定してみる。
正しいジェスチャ認識結果を得るには、センサ信号S1、S2のうちから、真のジェスチャ動作の方向に対応するセンサ信号を選択する必要がある。ここで、例えば単純に振幅レベルの大小関係に基づいて真のジェスチャ動作の方向に対応するセンサ信号を選択するようにして構成したとすると、上記の状態のときには、選択を誤る可能性が非常に高い。また、ジェスチャ動作に応じて出現し得る波形パターンに、より近似した波形を持つセンサ信号を真のジェスチャ動作の方向に対応するものとして選択するようなアルゴリズムによるとしても、位相,振幅ともに不安定であるから、真のジェスチャ動作の方向に対応していないセンサ信号の波形のほうが、より高い近似率となってしまう可能性も低くはない。
このようにして、図6に示す一次元センサ40−1、40−2の配置態様では、信頼性の高いジェスチャ認識結果を得ることが難しい。
【0057】
<5.実施形態としての一次センサの配置態様例>
そこで、本実施形態としては、一次センサを用いたジェスチャ認識について、これまでよりも高い認識精度が得られるようにすることを目的とする。
本実施形態としては、先ず、図1にて述べたように、上下左右に対応した4つのジェスチャ動作が基本となる。即ち、ジェスチャ操作として認識すべき動作方向としては、先ず、水平(横)方向(第1の方向)と、垂直(縦)方向(第2の方向)であることになる。
【0058】
上記のことを前提とした上で、本実施形態では、図8(a)に示すようにして、一次元センサ40−1、40−2についての物理的な配置態様を与えることとした。
つまり、一次元センサ40−1については、その検出軸L1が水平方向・垂直方向に対して45°となる角度により傾けて配置する。ここでは、操作者側(正面方向)から見て右に傾けている。また、一次元センサ40−1の上下の向きについては、赤外線検出素子51A−1が上側で、赤外線検出素子51B−1が下側となる向きで配置している。
また、一次元センサ40−2についても、その検出軸L2が水平方向・垂直方向に対して45°となる角度により傾けて配置する。ただし、傾きの方向は、一次元センサ40−1とは反対の左向きであり、検出軸L2が、一次元センサ40−1の検出軸L1と直交する向きで45°の傾きを与えている。
またここでは、上記の傾き状態において、赤外線検出素子51B−2が上側で、赤外線検出素子51A−2が下側となる向きにより配置している。
【0059】
また、図8(b)により、上記図8(a)の一次元センサ40−1、40−2の配置に応じて形成される、赤外線検出素子51A−1,51B−1,51A−2,51B−2ごとの空間検出領域60A−1,60B−1,60A−2,60B−2を示しておく。
【0060】
上記図8(b)に示した配置によると、先ず、一次元センサ40−1においては、赤外線検出素子51A−1,51B−1について、水平方向に沿った位置のズレが得られる。同じく、垂直方向においてもズレが得られる。
これにより、赤外線検出素子51A−1,51B−1は、垂直方向に沿った上動作・下動作のジェスチャ動作に応じて、時間差をもって動きを検出することが可能になる。同様に、水平方向に沿った左動作・右動作のジェスチャ動作に応じても、時間差をもって動きを検出することが可能になる。これにより、赤外線検出素子51A−1,51B−1、水平・垂直方向の何れのジェスチャ動作にも対応して、図5により説明した信号Sa,Sbを出力できることになる。つまり、一次元センサ40−1は、水平・垂直方向の何れのジェスチャ動作にも対応して動きを検出して、安定したセンサ信号S1を出力できる。
同様にして、一次元センサ40−2も、水平・垂直方向の何れのジェスチャ動作にも対応して動きを検出して、安定したセンサ信号S2を出力可能になる。
【0061】
図9は、本願発明者の実験結果として、図8に示した一次元センサ40−1,40−2の配置態様の下で、ジェスチャ動作として右動作を行った場合に得られたセンサ信号S1とセンサ信号S2とを示している。
図8に示した一次元センサ40−1,40−2(赤外線検出素子51A−1,51B−1,51A−2,51B−2)の配置による場合、右動作を検出することによっては、センサ信号S1,S2の何れについても、図5(b)の検出信号Vdに対応する波形が得られる。図9に示すセンサ信号S1,S2は、何れも図5(b)の検出信号Vdに対応する波形となっている。実験によっては、この図9と同等と見ることのできる波形が、センサ信号S1,S2とで安定して得られることが確認されている。
【0062】
ここで、図10により、図8に示す一次元センサ40−1(赤外線検出素子51A−1,51B−1),40−2(赤外線検出素子51A−2,51B−2)の配置によって、上下左右の各ジェスチャ動作を行った場合に得られるセンサ信号S1,S2の波形を模式的に示しておく。
なお、ここにおいて示される波形は、一次元センサ40−1(赤外線検出素子51A−1,51B−1)に対応する空間検出領域60A−1,60A−1の組と、一次元センサ40−2(赤外線検出素子51A−2,51B−2)に対応する空間検出領域60A−2,60A−2の組との物理的な距離差に応じて生じる検出時間差を排除したものとなっている。
空間検出領域が空間上で交差しても、赤外線検出素子側での検出には特に支障はない。従って、実際においても、一次元センサ40−1(赤外線検出素子51A−1,51B−1)に対応する空間検出領域60A−1,60A−1と、一次元センサ40−2(赤外線検出素子51A−2,51B−2)に対応する空間検出領域60A−2,60A−2とが重複するようにして調整し、検出時間差が問題にならなくなるようにすることができる。
【0063】
図10(a)は、左動作としての動きを検出して得られるセンサ信号S1、S2を示している。この図に示すようにして、左動作に応じては、センサ信号S1、S2は、図5(a)の検出信号Vdに対応した同相の波形が得られる。
図10(b)は、右動作の場合に得られるセンサ信号S1,S2を示している。右動作の場合のセンサ信号S1,S2は、それぞれ、上記図10(a)の波形を反転したものとなる。つまり、センサ信号S1,S2は、図5(b)の検出信号Vdに対応した同相の波形となる。なお、図9の波形は、この図10(b)に対応することになる。
【0064】
図10(c)は、上動作としての動きを検出して得られるセンサ信号S1,S2を示している。
この場合には、センサ信号S1が図5(a)の検出信号Vdに対応する波形で、センサ信号S2が図5(b)の検出信号Vdに対応する波形とされたうえで、互いに逆相となっている。
【0065】
図10(d)は、下動作としての動きを検出して得られるセンサ信号S1,S2を示している。
この場合のセンサ信号S1,S2は、上記図10(c)に対してそれぞれ反転した波形となっている。つまり、センサ信号S1が図5(b)の検出信号Vdに対応する波形で、センサ信号S2が図5(a)の検出信号Vdに対応する波形とされたうえで、互いに逆相となっている。
【0066】
上記図10によれば、先ず、ジェスチャ動作が、水平方向に沿ったものであるか、垂直方向に沿ったものであるかの認識は、センサ信号S1,S2が同相であるか逆相であるか否かを判断すればよいといえる。さらに、水平方向に沿ったジェスチャ動作として左動作と右動作の何れであるのか、また、垂直方向に沿ったジェスチャ動作として上動作と下動作の何れであるのかについては、センサ信号S1,S2の極性に基づいて判断すればよいことになる。
【0067】
<6.ジェスチャ動作判定のための信号処理構成>
[6−1.正規化処理、位相平面写像化処理]
そして本実施形態では、図8の一次元センサ40−1,40−2の配置態様としたうえで、以降説明するようにして、センサ信号S1,S2について信号処理を行ってジェスチャ認識を行う構成を採ることとした。
【0068】
ここで、図11(a)に示されるセンサ信号S1,S2が得られたとする。なお、このセンサ信号S1,S2は、実際においては上動作を検出して得られたものである。
本実施形態においては、このようにして得られたセンサ信号S1,S2について、それぞれ、正規化処理を行う。
この正規化処理として、先ず、センサ信号S1については、ジェスチャ動作に対応する動きを検出したことに応じて振幅が変化したとされる、有意な信号区間(ジェスチャ動作期間)における最大値Vp1を求める。なお、この最大値Vp1は、絶対値として取得する。そのうえで、同じジェスチャ動作期間において得られているセンサ信号S1の振幅値を、上記最大値Vp1により除算する。これにより、センサ信号S1の振幅値は、−1〜1の範囲内で、最大値Vp1との比により示される値となるようにして正規化される。
センサ信号S2についても、同様にして、ジェスチャ動作期間における絶対値による最大値Vp2を求め、同じジェスチャ動作期間において得られているセンサ信号S2の振幅値を、上記最大値Vp2により除算する。これにより、その振幅値は、−1〜1の範囲において最大値Vp1との比により示される値となるようにして正規化される。
【0069】
焦電センサは、背景温度と対象物の温度差を検出して、これに応じた振幅値を出力する。しかし、実際に対象物となる操作者の手の温度はまちまちである。例えば体質による基礎的な体温の違いであるとか、手が濡れていたり、冷えていたりするなどして、手の温度はおおきく変わり得る。また、操作者の手から赤外線検出素子までの距離が遠くなるほど、検出信号の振幅も小さくなっている。このようにして、人体の手の温度であるとか、手の距離などの影響があることで、操作者が同じ操作を行っているとしても、一次元センサ40−1、40−2から出力されるセンサ信号S1,S2の振幅の大きさは、その都度異なるものとなり得る。このようにして、同じジェスチャ動作に応答したものでありながら、センサ信号S1,S2の振幅にばらつきのあるままでは、以降の信号処理について適正に評価することは非常に難しくなる。
そこで、本実施形態では、上記の正規化処理を実行することにより、ピーク値(絶対値)との比に応じた−1〜+1の範囲の値に変換することとしている。これにより、センサ信号S1,S2は、実際の振幅のばらつき要因が排除された正規な値を持つことになる。
【0070】
なお、以降において正規化した振幅値のセンサ信号S1,S2については、それぞれ正規化センサ信号NOM_S1、正規化センサ信号NOM_S2という。
【0071】
上記正規化処理に続けては、正規化センサ信号NOM_S1、正規化センサ信号NOM_S2を、位相平面に対して写像する処理(位相平面写像化処理)を実行する。
図11(a)に示したセンサ信号S1,S2に対応する正規化センサ信号NOM_S1、正規化センサ信号NOM_S2により位相平面写像化処理を実行した結果を、図11(b)に示す。
【0072】
図11(b)に示される位相平面は、x座標が正規化センサ信号NOM_S1に対応し、y座標が正規化センサ信号NOM_S2に対応し、x座標とy座標とでともに−1〜1の座標の範囲を持つ。
【0073】
ここでの位相平面写像化処理としては、同じ時間に得られたとされる正規化センサ信号NOM_S1の値をx座標値とし、正規化センサ信号NOM_S2の値をy座標値として、センサ信号の時間経過に従って、位相平面上に座標をプロットしていく処理となる。
より具体的には、ジェスチャ動作期間に対応して得られるN個の正規化センサ信号NOM_S1,NOM_S2のサンプルデータのうち、それぞれ、i番目のサンプルデータの値をxi,yiとすると、N個のサンプルデータに対応する全ての座標(xi,yi)を求める処理となる。
これにより、模式的には、図11(b)の位相平面上において描かれている曲線は、上記座標のプロットを時間経過に従って行っていた結果、つまり、プロットした点の軌跡として示されることになる。なお、この軌跡としての曲線は、センサ信号S1,S2に基づくものであることに因み、以降、信号軌跡ともいう。
【0074】
[6−2.水平・垂直方向のジェスチャ動作判定]
図12は、水平方向のジェスチャ動作である、右動作・左動作に対応した位相平面写像化処理の結果例を示している。
図12(a)には、ジェスチャ動作として、右動作に続けて左動作を行った場合において得られたセンサ信号S1,S2を示している。この図のセンサ信号S1,S2における右動作検出期間は、右動作の検出に応じて有意な振幅が得られたとする波形区間であり、左動作検出期間は、左動作の検出に応じて有意な振幅が得られたとする波形区間である。
【0075】
そして、右動作検出期間に対応する正規化センサ信号NOM_S1、正規化センサ信号NOM_S2により位相平面写像化処理を実行した結果としては、図12(b)に示す位相平面上の信号軌跡が得られることになる。
また、左動作検出期間に対応する正規化センサ信号NOM_S1、正規化センサ信号NOM_S2により位相平面写像化処理を実行した結果としては、図12(c)に示す位相平面上の信号軌跡が得られる。
【0076】
図13は、垂直方向のジェスチャ動作である、上動作・下動作に対応した位相平面写像化処理の結果例を示している。
図13(a)には下動作に続けて水平方向のジェスチャ動作である、上動作を行った場合において得られたセンサ信号S1,S2を示している。この図のセンサ信号S1,S2における下動作検出期間は、下動作の検出に応じて有意な振幅が得られたとする波形区間であり、上動作検出期間は、上動作の検出に応じて有意な振幅が得られたとする波形区間である。
【0077】
下動作検出期間に対応する正規化センサ信号NOM_S1、正規化センサ信号NOM_S2により位相平面写像化処理を実行した結果としては、図13(b)に示す位相平面上の信号軌跡が得られる。
また、上動作検出期間に対応する正規化センサ信号NOM_S1、正規化センサ信号NOM_S2により位相平面写像化処理を実行した結果としては、図13(c)に示す位相平面上の信号軌跡が得られる。
【0078】
次に、本実施形態では、上記位相平面写像化処理の実行結果として得られる信号軌跡に基づいて、先ず、水平方向に対応するジェスチャ動作(左動作/右動作)であるのか、垂直方向に対応するジェスチャ動作(上動作/下動作)であるのかの判定のための評価項目として信号軌跡の相関係数を求めるものとする。
相関係数rは、下記のようにして求めることができる。
【数1】
【0079】
ここで、水平方向のジェスチャ動作に対応するものとして、図12(b)(c)の位相平面に示される右動作、左動作の信号軌跡は、共通の特徴を持っている。つまり、例えば信号軌跡の大まかな輪郭に対応して、楕円Eをあてはめたとして、この楕円Eの長軸に対応する直線Lについてみると、右動作と左動作の何れについても、右上がりとなる。なお、これは、一次関数y=ax+bにより表される直線としてみた場合には、a>0の直線となる。
また、垂直方向のジェスチャ動作に対応するものとして、図13(b)(c)の位相平面に示される下動作、上動作の信号軌跡も共通の特徴を持ちながら、その特徴は、上記図12(b)(c)とは異なるものとなる。
つまり、図13(b)(c)の信号軌跡にあてはめた楕円Eの長軸に対応する直線Lは下動作と右動作の何れについても、右下がりとなるものであり、一次関数y=ax+bにより表される直線としてみた場合には、a<0の直線となる。
このような特徴は、先に図10にて説明した、センサ信号S1,S2の極性、及び相互の位相の関係に応じて現れるものである。
このことからすれば、信号軌跡に対応して得られる直線Lの傾きについて、これが右上がりであれば、水平方向のジェスチャ動作であると認識し、右下がりであれば、垂直方向のジェスチャ動作であると認識すればよいことになる。
【0080】
相関係数rの正/負は、上記直線Lの右上がり/右下がりに対応する。相関係数rは、センサ信号S1,S2の位相,振幅が近いほど+1に近くなり、信号軌跡の全体形状としても右上がりの直線に近くなっていく。一方、センサ信号S1,S2が互いに同一波形を反転させた逆相の状態に近くなるほど、−1に近づいていき、信号軌跡の形状としては右下がりの直線に近くなっていく。
【0081】
具体的には、図12(b)(c)に示される信号軌跡について相関係数rを実際に計算してみると、それぞれ、0.8〜0.8程度の値が求められる。
一方、図13(b)(c)に示される信号軌跡については、実際には、−0.75〜−0.8程度の値が求められる。
【0082】
このようにして、本実施形態では、ジェスチャ動作が水平と垂直方向との何れによるものであるのかを認識するのにあたり、正規化センサ信号NOM_S1,NOM_S2についての相関係数rを求める。そのうえで、この相関係数rについて、原則として、r>0であれば、水平方向のジェスチャ動作であると認識し、相関係数r<0であれば、垂直方向のジェスチャ動作であると認識するようにアルゴリズムを構成すればよい。
【0083】
ただし、本実施形態においては、相関係数rの絶対値が一定値以下の場合には、後述するようにして、検出したジェスチャ動作が、回転動作によるものである可能性のほうが高くなる。従って、本実施形態の実際としては、相関係数rを求めた上で、検出された動作について、水平/垂直方向のジェスチャ動作と、回転動作との何れであるのかについて判断すべきことになる。この点については後述する。
【0084】
[6−3.左右動作方向判定、上下動作方向判定]
上記のようにして、ジェスチャ動作が水平方向と垂直方向の何れに沿ったものであるのかについては、正規化センサ信号NOM_S1,NOM_S2の間での位相平面上での相関の度合いを示す相関係数rに基づいて判定することができる。
すると、水平方向のジェスチャ動作であると判定したことに応じては、次に左動作・右動作の何れであるのかを認識すべき必要があることになる。また、垂直方向のジェスチャ動作であるとの判定結果に応じては、上動作・下動作の何れであるのかを認識する必要があることになる。
【0085】
ここで、再度、水平方向のジェスチャ動作に対応する図12を参照してみる。
図12(b)に示される右動作に応じた信号軌跡に対応する楕円Eは、その直線Lが右上がりとなる傾きを有した上で、原点に対して第1象限のほうに偏倚している状態であるとみることができる。
これに対して、図12(c)に示される左動作に応じた信号軌跡に対応する楕円Eは、その直線Lが右上がりとなる傾きを有しているのは同様であるが、図12(b)とは逆に、原点に対して第3象限のほうに偏倚している状態であるとみることができる。
【0086】
この右動作と左動作とに応じた偏倚の相違は、図10(a)(b)に示したように、各動きに対応するセンサ信号S1,S2の組は、同相の関係にあるとされたうえで、右動作と左動作とで比較したときには、センサ信号S1同士と、センサ信号2同士の何れも逆相になっていることに応じて現れるものである。
【0087】
また、垂直方向のジェスチャ動作についてみると、図10(c)(d)に示すようにして、上動作と下動作の各動きに対応するセンサ信号S1,S2の組は、互いに逆相の関係にあるとされたうえで、上動作と下動作とで比較したときには、センサ信号S1同士と、センサ信号2同士の何れも逆相になっている。
このような位相関係により、先ず、下動作に応じて形成される信号軌跡に対応する楕円Eは、図13(b)に示すように、その直線Lが右下がりの傾きを有した上で、原点に対して第2象限のほうに偏倚する状態となる。これに対して、上動作に応じた信号軌跡に対応する楕円Eは、図13(c)に示されるように、その直線Lが右下がりとなる傾きを有したうえで、図13(b)とは逆に、原点に対して第4象限のほうに偏倚している状態となる。
【0088】
このことからすると、先ず、水平方向のジェスチャ動作については、信号軌跡としての包括形状(楕円E)が、位相平面において第1象限に偏倚していれば右動作であり、第3象限のほうに偏倚していれば左動作であるということがいえる。
同様に、垂直方向のジェスチャ動作については、信号軌跡としての包括形状(楕円E)が、位相平面において第2象限に偏倚していれば下動作であり、第4象限のほうに偏倚していれば上動作であるということがいえる。
【0089】
そこで、本実施形態では、上記した信号軌跡の包括形状(楕円E)がどの象限に偏倚しているのかを評価するために、位相平面写上における信号軌跡の重心Gを算出して求める。
この重心Gは、位相平面上での座標G(gx,gy)として求められる。
図12(b)(c)、図13(b)(c)においては、直線Lとしての楕円Lの長径の中点として示されている。但し、これはあくまでも模式的なものであり、実際に求められる重心Gの座標は、必ずしも直線Lと一致するものではない。
【0090】
ここで、上記重心Gのx座標gx、y座標yxの求め方としては、いつくか考えられるが、例えば1つには、それぞれ、正規化センサ信号NOM_S1、NOM_S2についての相加平均値を求めることとすればよい。この場合の演算式は、例えば下記のようになる。
【数2】
【0091】
上記重心G(gx,gy)は、即ち、信号軌跡としての包括形状の重心の位置を示すものとなる。従って、位相平面上における重心G(gx,gy)の原点からの方向により、信号軌跡包括形状についての原点に対する偏倚の方向が示されることになる。このことに基づき、重心G(gx,gy)は、水平・垂直各方向における動作方向を認識するための評価値として利用できることになる。
つまり、アルゴリズムとして、水平方向のジェスチャ動作の場合には、重心G(gx,gy)が第1象限に位置するのであれば右動作であると認識し、第3象限に位置するのであれば左動作であると認識することができる。また、垂直方向のジェスチャ動作の場合には、重心G(gx,gy)が第2象限に位置するのであれば下動作であると認識し、第4象限に位置するのであれば上動作と認識することができる。
【0092】
ここで、本実施形態において求める相関係数rは、ジェスチャ動作が垂直方向と水平方向の何れであるのかを判断するための評価値である。つまり、動きの検出により得られたセンサ信号S1,S2が同位相であるか、逆位相であるのかを評価するための評価値である。
また、重心位置G(gx,gy)は、水平方向のジェスチャ動作として左動作と右動作の何れであるのかを判断し、垂直方向のジェスチャ動作として上動作とした動作との何れであるのかを判断するための評価値である。つまり、センサ信号S1,S2自体の極性(波形パターン)を評価するためのものとしてみることができる。
【0093】
上記のようなセンサ信号S1,S2間の位相差、また、センサ信号S1,S2自体の極性を評価・判断する手法として一般に考え得るもとしては、次のようなものを考えることができる。
つまり、センサ信号S1,S2について、先ず、センサ信号S1,S2の振幅の最大値、最小値を求める。そして、求めた2つの最大値、最小値の時間差について閾値以内であるか否かを判断する。この閾値は、例えば、ジェスチャ動作に応じて一般的、平均的に得られるセンサ信号S1,S2の振幅値を基にして設定する。そして、センサ信号S1,S2の間でのピーク値の時間差により同位相であるか逆位相であるかを判断しようとするものである。また、センサ信号S1,S2の最大値、最小値についての時間的な出現順を判断することで、信号の極性を判断することもできる。
【0094】
しかし、図8の一次元センサ40−1,40−2の配置では、図6の場合と比較すれば、非常に安定したセンサ信号S1,S2を得ることはできる。しかし、ジェスチャ動作は、現実には人であるユーザが手の動きにより行うものであるので、移動速度もまちまちであり、検出軸に対する手の動きのぶれも生じる。このような不確定要素の影響で、センサ信号S1,S2は、振幅、位相に或る程度の変動を生じる。このような変動要素があるのにもかかわらず、センサ信号S1,S2の間でのピーク値の時間差を評価値として、これを固定的な閾値と比較しても、信頼性の高い判定結果を得ることは難しい。
【0095】
これに対して、本実施形態のようにして、まずは、センサ信号S1,S2について正規化処理を行って位相平面写像化を行い、そのうえで、相関係数rと重心位置Gの座標を求めることとしている。これらの相関係数r、重心位置Gは、センサ信号S1,S2間の位相差、極性についての評価値として、例えば上記のピークの時間差などと比較して、より高い忠実度を持っている。つまり、本実施形態としては、これまでより高い精度で、上下左右のジェスチャ動作についての認識結果を得ることが可能になる。
【0096】
[6−4.左右回転動作判定]
また、本実施形態では、位相平面写像化処理により形成される信号軌跡に基づき、対象物が円周形上の移動軌跡を描くようにして動く回転動作についても認識可能である。これに基づき、本実施形態では、図1にて説明したように、ジェスチャ操作として、上下左右の動作に加えて、右回転動作、左回転動作も含めることとしたものである。
そこで、続いては、本実施形態における回転動作の認識手法について説明する。
【0097】
図14(a)は右回転動作としてのジェスチャ動作を3回連続して行ったことに応じて出力されたセンサ信号S1,S2の波形例を示している。
この図に示されるセンサ信号S1,S2は、1回の回転動作ごとに得られる波形としては、何れもM字状のピークの絶対値が正極側となる極性とされたうえで、センサ信号S1に対してセンサ信号S2のほうの位相が進むものとなる。
【0098】
上記図14(a)のセンサ信号S1,S2を正規化して位相平面写像化処理を行った結果は、図14(b)に示される。
上下左右のジェスチャ動作の場合、センサ信号S1,S2は、同相(0°)若しくは逆相(180°)とみることのできる位相差の関係であったが、回転動作の場合には、図14(a)にも示されるように、センサ信号S1,S2には、180°よりも小さい位相差が生じる。このために、相関係数rの絶対値としては、上下左右のジェスチャ動作の場合よりも小さい値となる。つまり、信号軌跡の形状としてみた場合には、図14(b)のようにして、上下左右のジェスチャ動作の場合よりも円形状に近くなる。つまり、楕円形としてみれば、長径と短径の比率が1に近くなる。
従って、ジェスチャ動作が、回転動作であるのかどうかについての判定として、最も簡単な手法としては、相関係数rの絶対値について、回転動作に応じて得られるとされる程度に一定以下に小さい値であるか否かを判断すればよいことになる。
【0099】
そのうえで、ここでは、位相平面写像化処理により、センサ信号S1,S2の時間経過に従ってサンプル値をプロットしていったときの、位相平面上での信号軌跡の回転方向について着目する。すると、図14(b)の信号軌跡の全体としては、矢印Arとして示すように、右方向(時計回り方向)に回転していくようにして軌跡を形成していくものとしてみることができる。
この信号軌跡の回転方向は、センサ信号S1,S2の位相差により決まる。つまり、図14(a)では、センサ信号S2に対してセンサ信号S1のほうの位相が進んでいるが、これに応じては、信号軌跡の回転方向は右方向となる。
【0100】
一方、図15(a)は、右回転動作としてのジェスチャ動作を3回連続して行ったことに応じて出力されたセンサ信号S1,S2の波形例を示している。
この図のセンサ信号S1,S2は、1回の回転動作ごとに得られる波形としては、何れもM字状のピークの絶対値が負極側となる極性とされている。そのうえで、センサ信号S1に対してセンサ信号S2のほうの位相が遅れたものとなる。つまり、センサ信号S1,S2の位相差の関係としては、図14(a)の場合と逆になっている。
【0101】
これに応じて、上記図15(a)のセンサ信号S1,S2を正規化して位相平面写像化処理を行った場合の信号軌跡は、図15(b)の矢印Arに示すようにして、全体としては左回り(反時計回り方向)となる。
【0102】
このことからすると、例えば相関係数rが一定以下であることにより、回転に沿ったジェスチャ動作であると認識した場合において、さらに、その回転方向(プロット回転方向)が右回転動作と左回転動作の何れであるのかを判断するためには、次のようなアルゴリズムとすればよいことになる。
つまり、形成された信号軌跡の回転方向が全体傾向として右回りと左回りの何れの方向であるのかを求める。そして、求められた信号軌跡の回転方向が右回りであれば、ジェスチャ動作は右回転動作であると判定し、信号軌跡の回転方向が左回りであれば、ジェスチャ動作は左回転動作であると判定するものとすればよい。
【0103】
このためには、信号処理として、信号軌跡が右回りと左回りの何れであるのかを判定する必要がある。
そこで、本実施形態においては、信号軌跡を形成する座標ごとの外積を算出する。ここで、x軸とy軸から成る2次元平面における外積は、これら2つの軸に直交するz軸方向成分(z成分)のみを持ち、x方向成分及びy方向成分は0となる。この外積のz成分の総和の符号が正・負の何れであるのかにより、信号軌跡の回転方向についての全体傾向を求めることができる。
【0104】
ここで、信号軌跡の回転方向と外積との関係について、図16に示す。
先ず、図16(a)には、
i番目の正規化センサ信号NOM_S1,NOM_S2のサンプルにより位相平面にプロットされた座標O(xi,yi,0)、
i+1番目の正規化センサ信号NOM_S1,NOM_S2のサンプルにより位相平面にプロットされた座標A(xi+1,yi+1,0)
i-1番目の正規化センサ信号NOM_S1,NOM_S2のサンプルにより位相平面にプロットされた座標B(xi-1,yi-1,0)
が示されている。
そのうえで、これらの座標の二次元平面上における位置関係は、座標O(xi,yi,0)の左側に座標A(xi+1,yi+1,0)が位置し、右側に座標B(xi-1,yi-1)が位置している状態が示されている。
ここで、座標O(xi,yi,0)を始点とする座標A(xi+1,yi+1,0)までの方向及び距離をベクトルaにより表し、座標O(xi,yi,0)を始点とする座標B(xi-1,yi-1,0)までの方向及び距離をベクトルbにより表したとする。すると、これらベクトルa、bの外積を求めると、このときのz成分の値としては、正の値を取るものになる。なお、ベクトルa、bの外積の絶対値については、16(a)により示される、ベクトルa、bに対応する線分を隣り合う辺として形成される平行四辺形の面積Sを表すものとなる。
また、図16(b)には、図16(a)における座標O(xi,yi,0)、A(xi+1,yi+1,0)、B(xi-1,yi-1,0)について、座標A(xi+1,yi+1,0)、B(xi-1,yi-1,0)の位置が入れ替わっている場合を示している。この場合において求められるベクトルa、bの外積の絶対値については、図16(a)と同じになる。つまり、平行四辺形の面積Sを表すものとなる。ただし、z成分の符号については負の値となる。
【0105】
本実施形態としては、上記図16に従ってセンサ信号S1,S2のサンプルタイミングごとの外積を算出し、さらに求められた外積の総和を算出する。この外積の総和値pは、下記のようにして求めることができる。
【数3】
そして、求められた外積のz成分の総和値pの符号について正・負の何れであるのかにより、信号軌跡の回転方向の全体傾向を判定する。つまり、ジェスチャ動作が左回転動作と右回転動作の何れであるのかについて認識する。
図16に従った場合、外積のz成分の総和値pの符号が正であれば、信号軌跡の回転方向の全体傾向は左回りであると判定される。つまり、ジェスチャ動作として左回転動作であると判定する。また、外積のz成分の総和値pの符号が負であれば、信号軌跡の回転方向の全体傾向は右回りであると判定される。つまり、ジェスチャ動作として右回転動作であると判定する。
【0106】
<7.ジェスチャ動作判定のためのアルゴリズム>
これまでに説明した本実施形態のジェスチャ動作判定を実現するためのアルゴリズム例について説明する。
先ず、図17は、本実施形態の写真立て型表示装置1がジェスチャ判定部18の構成例を、ブロック構成により示している。このジェスチャ判定部18は、図2に示しているように、制御部11がプログラムを実行することにより実現される。この図においては、ジェスチャ判定部18とともに、一次元センサ40−1、40−2から成るセンサ部5も示している。
【0107】
一次元センサ40−1から出力されるセンサ信号S1は、ジェスチャ動作判定部18において、第1センサ信号記録部31及びジェスチャ検出部33が入力する。また、一次元センサ40−2から出力されるセンサ信号S2は、ジェスチャ動作判定部18において、第2センサ信号記録部32及びジェスチャ検出部33が入力する。
なお、ここでは図示していないが、ジェスチャ動作判定部18に入力される段階のセンサ信号S1,S2は、所定のサンプリング周波数と量子化ビット数によりサンプリングされたデジタル信号に変換されたものとなっている。
【0108】
ジェスチャ検出部33は、入力されるセンサ信号S1,S2に基づいて、ジェスチャ動作期間を検出するための部位である。なお、このジェスチャ検出部33の処理については、図19のフローチャートにより後述する。ジェスチャ検出部33は、検出したジェスチャ動作の開始/終了を、第1センサ信号記録部31、第2センサ信号記録部32に通知する。
【0109】
第1センサ信号記録部31、第2センサ信号記録部32は、ジェスチャ検出部33により通知されたジェスチャ動作期間において、それぞれ、センサ信号S1,S2を取り込んで、サンプルタイミングごとにデータを記録する。
【0110】
第1センサ信号記録部31により記録されたセンサ信号S1のサンプルデータは、第1正規化処理部34に対して出力される。
第1正規化処理部34は、図11にて説明したように、センサ信号S1を対象として正規化処理を実行して、−1〜+1の範囲で正規化した正規化センサ信号NOM_S1のサンプルデータ群を得る。
同様に、第2正規化処理部35も、第2センサ信号記録部32により記録されたセンサ信号S2のサンプルデータを取り込んで正規化処理を実行して、−1〜+1の範囲で正規化した正規化センサ信号NOM_S2のサンプルデータ群を得る。
上記正規化センサ信号NOM_S1,NOM_S2のサンプルデータ群は、位相平面写像化処理部36に対して渡される。
【0111】
位相平面写像化処理部36は、入力された正規化センサ信号NOM_S1,NOM_S2のサンプルデータ群を用いて、図11にて説明したようにして位相平面上にプロットした信号軌跡のデータを求め、評価項目算出部37に渡す。ここでは、信号軌跡のデータは、サンプル番号iごとに対応させて位相平面にプロットした座標(xi,yi)の値(正規化センサ信号NOM_S1,NOM_S2のサンプル値の組)となる。
【0112】
評価項目算出部37は、相関係数算出部37a、重心算出部37b、回転方向算出部37cを備える。
相関係数算出部37aは、受け取った信号軌跡のデータ(正規化センサ信号NOM_S1,NOM_S2のサンプルタイミングごとのデータ)を利用して、先に(数1)により説明した演算により、信号軌跡のデータ相関係数rを算出する処理を実行する。
重心算出部37bは、信号軌跡のデータを利用して、例えば先に(数2)により説明した演算により重心の座標G(gx,gy)を算出する。
回転方向算出部37cは、先に図16、(数3)により説明したようにして、信号軌跡のサンプルごとに求めた外積のz成分の総和値pを求める。
【0113】
動作判定部28は、上記評価項目算出部37により得られる相関係数r、重心座標G(gx,gy)、外積のz成分の総和値pを適宜利用して、ジェスチャ動作として、左動作、右動作、上動作、下動作、左回転動作、右回転動作の何れであるのかを判定する処理を実行し、その判定結果を出力する。
なお、制御部11は、このジェスチャ判定部18により出力されるジェスチャ動作の判定結果を操作コマンドとして処理することで、先に例としてあげた写真立て型表示装置1としてのしかるべき動作が得られるように制御を実行する。
【0114】
図18は、上記図17に示されるジェスチャ動作判定部18が実行する処理の手順例をフローチャートとして示している。
この図においては、先ずステップS101により、ジェスチャ動作期間を検出してセンサ信号を記録する処理を実行する。この図に示す処理は、ジェスチャ検出部33,第1センサ信号記録部31,第2センサ信号記録部32が実行する。
【0115】
ステップS101としての処理手順例を図19のフローチャートに示す。
図19のステップS201においては、先ず、ジェスチャ検出部33がセンサ信号S1,S2を入力して閾値と比較する。ここでの閾値は、一次元センサ40−1においてジェスチャ動作の可能性のある動きを検出したときに得られるセンサ信号の振幅に基づいて定めることができる。また、ここでは一次元センサ40−1、40−2から入力したセンサ信号S1,S2をそのまま閾値と比較することとしているが、この段階において、正規化したセンサ信号S1,S2を求める(NOM_S1,NOM_S2と同じで良い)ようにして、この正規化されたセンサ信号S1,S2の値と閾値とを比較するように構成してもよい。
【0116】
ステップS201においては、センサ信号S1,S2のレベル値(サンプル値)の少なくともいずれか一方が閾値以上となるのを待機することになる。そして、ステップS201において肯定の判別結果が得られると、ステップS202以降の手順に進む。例えば先の図17の説明との対応では、ジェスチャ検出部33は、ステップS201において肯定の判別結果が得られたことに応じて、第1センサ信号記録部31、第2センサ信号記録部32に対してジェスチャ動作の開始を通知する。
【0117】
ステップS202においては、第1センサ信号記録部31、第2センサ信号記録部32により、センサ信号S1,S2のサンプルデータの記録を開始する。つまり、ジェスチャ検出部33によるジェスチャ動作開始の通知に応じて、センサ信号S1,S2の記録を開始する。
【0118】
この場合のジェスチャ検出部33は、上記ステップS201にて肯定の判別結果が得られたことを以て、ジェスチャ動作の開始タイミングを検出するものとみることができる。ジェスチャ検出部33は、この後において、ジェスチャ動作の終了タイミングを検出すべきことになる。ここでは、センサ信号S1,S2の少なくともいずれか一方が閾値以上である状態からセンサ信号S1,S2の双方が閾値未満に遷移し、この閾値未満の状態が一定時間経過した時点を、ジェスチャ動作の終了タイミングとして検出する。ステップS203以降は、ジェスチャ動作の終了タイミングを検出するための処理となる。
【0119】
ステップS203は、ジェスチャ検出部33が実行する。ステップS201にて肯定の判別結果が得られたことに対応しては、センサ信号S1,S2の少なくともいずれか一方が閾値以上の状態にある。この後に実行されるステップS203において、ジェスチャ検出部33は、現在のセンサ信号S1,S2について、両者が閾値未満の状態であるか否かについて判別する。
【0120】
ステップS203において否定の判別結果が得られた場合には、ステップS204により、タイマが起動中であるか否かについて判別する。このタイマは、次に説明するステップS207によりリセット・スタートされるもので、センサ信号S1,S2が閾値未満となった時点からジェスチャ動作の終了時点としてみなされるまでの時間をカウントする。ステップS203においてタイマが起動中でないとして否定の判別結果が得られれば、そのままステップS203に戻る。タイマが起動中であれば、ステップS205によりタイマを停止させてからステップS203に戻る。
【0121】
ステップS203において肯定の判別結果が得られた場合には、先ず、ステップS206により、現在タイマが起動中であるか否かについて判別する。タイマが起動していなければ、ステップS207により、タイマのカウント値をリセットしたうえで、カウントを開始させ、ステップS203に戻る。
これに対してステップS206によりタイマが起動中であるとして肯定の判別結果が得られたのであれば、ステップS208に進む。
【0122】
ステップS208においては、現在のタイマのカウント値に基づきタイマ時間が経過したか否かについて判別する。タイマ時間を経過していないとして否定の判別結果が得られた場合には、そのままステップS203に戻る。これに対して、タイマ時間を経過したとして肯定の判別結果が得られた場合には、ステップS209に進み、タイマのカウントを停止させる。なお、ステップS208によりタイマ時間が経過したとの判別結果を得ることが、ジェスチャ検出部33によりジェスチャ動作期間が終了したことを通知する処理に相当する。
【0123】
ステップS210において第2センサ信号記録部31,第2センサ信号記録部32は、ジェスチャ動作期間の終了に応じて、これまでのセンサ信号S1,S2のサンプルデータの記録を終了させる。
【0124】
図18において、上記ステップS101としての処理を実行した後は、ステップS102の処理を実行することになる。ステップS102においては、第1正規化処理部34、第2正規化処理部35が、それぞれ、第1センサ信号記録部31、第2センサ信号記録部32により記録されたセンサ信号S1,S2のサンプルデータについての正規化処理を実行する。
【0125】
正規化処理は、先にも図11により説明したが、その処理手順例を、図20のフローチャートとして示した。ここでは、フローチャートのステップの流れとして、先ず、センサ信号S1について正規化処理を実行し、次に、センサ信号S2について正規化処理を実行するように構成している。
【0126】
先ず、ステップS301においては、センサ信号S1,S2を一般化したセンサ信号Smに対応させた変数となるmについて、1を代入する。
次に、ステップS302により、センサ信号Smのサンプルデータにおける最大値Smmaxを取得する。この最大値Smmaxは、図11(a)により説明したセンサ信号S1若しくはセンサ信号S2のいずれかの最大値Vp1,Vp2(絶対値)に対応する。
【0127】
ステップS303においては、センサ信号Smのサンプルデータについての番号を示す変数iについて、1を初期値として代入する。
【0128】
次のステップS304においては、センサ信号Smにおけるi番目のサンプルデータを正規化する。
このための処理としては、例えば、センサ信号におけるi番目のサンプルデータの正規化値をNOM_Sm_i、センサ信号Smにおけるi番目のサンプルデータをSm_iとして、
NOM_Sm_i= Sm_i/SmMAX・・・(式1)
により表される演算を実行する。つまり、先に述べたようにして、センサ信号のサンプルデータの値を、同じセンサ信号Smの最大値(絶対値)により除算する。
【0129】
ステップS305においては、変数iについて最大値であるか否かについて判別する。この最大値は、ジェスチャ動作期間に対応して記録されたセンサ信号S1,S2の各サンプル数Nに対応する。
ここで否定の判別結果が得られた場合には、未だ、正規化値を取得していないサンプルが残っていることになる。そこで、ステップS306により変数iをインクリメントしてステップS304に戻る。これにより、順次、サンプルデータについて正規化値が得られることになる。
【0130】
そして、センサ信号Smについて最後のサンプルデータまで正規化処理が終了したとされると、ステップS305にて肯定の判別結果が得られることとなって、ステップS307に進む。ステップS307においては、変数mについて最大値であるか否かについて判別する。これまでの説明との対応では、センサ信号はS1,S2の2つであるから、変数mの最大値は2となる。
ステップS307において否定の判別結果が得られた場合には、未だ正規化処理を行っていないセンサ信号が残っていることになる。そこで、この場合にはステップS308により変数mについてインクリメントしてステップS302に戻る。これにより、これまでとは別のセンサ信号を対象として正規化処理が開始される。
そして、例えばセンサ信号S1,S2について正規化処理が完了したとされると、ステップS307において肯定の判別結果が得られることになり、ステップS102としてのセンサ信号正規化処理が終了されることになる。
なお、センサ信号S1,S2ごとに、サンプルデータの正規化値NOM_Sm_iを、時系列に従ったサンプル順で配列させた構造のものが、先に述べた正規化センサ信号NOM_S1、正規化センサ信号NOM_S2であるとしてみることができる。
【0131】
また、上記図20の処理では、先にも述べたように、センサ信号S1,S2を対象にして正規化処理を行う手順として、先ず、センサ信号S1について処理を行い、これに続けてセンサ信号S2の処理を行うアルゴリズムとなる。しかし、実際においては、例えば図17に示したブロック構成にそのまま対応するようにして、センサ信号S1,S2の正規化処理が併行した処理としてほぼ同時に実行されるようなアルゴリズムとしてもよい。
【0132】
説明を図18に戻す。
上記ステップS102としての正規化処理を実行した後は、ステップS103として、位相平面写像化処理部36が、ステップS102により得られたセンサ信号S1,S2の正規化値(正規化センサ信号NOM_S1、正規化センサ信号NOM_S2)のデータを利用して、位相平面写像化処理を実行する。これにより、位相平面写像化処理部36は、信号軌跡のデータを取得する。
【0133】
ステップS104においては、評価項目算出部37における相関係数算出部37aが、上記信号軌跡のデータを利用して相関係数rを算出する。
【0134】
次のステップS105においては、動作判定部38により、今回検出されたジェスチャ動作について、水平方向のジェスチャ動作、垂直方向のジェスチャ動作、回転動作のうちの何れであるのかについて推定する処理となる。
ステップS105において動作判定部38は、上記ステップS104にて算出された相関係数rを取り込む。そして、この相関係数rが、r>0.5、r<-0.5、-0.5≦r≦0.5のどの範囲に属するのかについて判別する。
【0135】
先に述べたように、水平方向と垂直方向との間での判定に関しては、原則的に、相関係数rが正の値のときに水平方向のジェスチャ動作、負の値のときに垂直方向のジェスチャ動作であると判断する。
但し、判定すべきジェスチャ動作として、回転動作を加える場合には、一定値を定めることとして、相関係数rの絶対値が一定値以下であれば回転動作として判定し、相関係数rの絶対値が一定値以上であれば水平/垂直方向のジェスチャ動作であると判定する。
【0136】
上記ステップS105において相関係数rと比較する閾値である+0.5,-0.5は、水平・垂直方向のジェスチャ動作であるか、回転動作であるかを判定するための上記一定値に相当する。なお、この+0.5,-0.5による閾値としての具体値はあくまでも一例であり、実際との兼ね合いなどで適宜変更されるべきものである。また、正の閾値と負の閾値とで互いに異なる値が設定されても良い。
【0137】
この場合には、相関係数r>0.5の場合に水平方向のジェスチャ動作であると判定することになる。そこで、ステップS105において相関係数r>0.5であると判別した場合に、動作判定部38は、先ずステップS106により水平方向のジェスチャ動作であるとの認識結果を出力するものとする。次に、この認識結果に応じた処理として、続くステップS107以降の手順を実行することで、さらにジェスチャ動作が右動作と左動作の何れであるのかを判定する処理を実行する。
【0138】
ステップS107において動作判定部38は、重心算出部37bにより、信号軌跡についての重心G(gx,gy)を算出させる。次に、動作判定部38は、ステップS108により、ステップS107にて算出された重心Gを取り込み、この重心G(gx,gy)の座標が存在する象限を判定する。
【0139】
ステップS108において、動作判定部38は、第1象限であると判別した場合には、右動作であるとの判定結果を出力する。また、第3象限であると判別した場合には、左動作であるとの判別結果を出力する。
【0140】
また、ステップS108において、第1象限及び第3象限以外の象限(第2象限、第4象限)であると判別した場合として、ここでは、ステップS122に進み、有意なジェスチャ動作は行われなかったものとの判定結果を出力させることとしている。
なお、例えば予め定めた規則、演算などに従って、第2象限、第4象限に位置する重心Gが、第1象限、第3象限のうちで適切とされるほうの象限に位置させるように修正する処理を実行したうえで、その結果に応じて、右動作若しくは左動作の判定結果を出力するというアルゴリズムとすることも考えられる。
【0141】
また、ステップS105にて、相関係数r<-0.5であると判別した場合には、動作判定部38は、ステップS111に示すように、先ず、垂直方向のジェスチャ動作であるとの認識結果を出力する。そのうえで、この認識結果に応じた処理として、ステップS112以降の手順を実行することで、さらにジェスチャ動作が上動作と下動作の何れであるのかを判定する処理を実行する。
【0142】
ステップS112において動作判定部38は、重心算出部37bにより信号軌跡についての重心G(gx,gy)を算出させ、次のステップS113により、重心G(gx,gy)の座標が存在する象限を判定する。
【0143】
ステップS113において動作判定部38は、第2象限であると判別した場合には、下動作であるとの判定結果を出力する。また、第4象限であると判別した場合には、上動作であるとの判定結果を出力する。
また、第2象限及び第4象限以外の象限(第1象限、第3象限)であると判別した場合には、ステップS122により、有意なジェスチャ動作は行われなかったものとして判定する。なお、この場合にも、水平方向のジェスチャ動作判定における場合と同じく、重心Gを、第2象限若しくは第4象限のいずれかに位置するものとなるようにして修正し、下動作・上動作の判定結果を出力するようにしてよい。
【0144】
また、ステップS105において相関係数rについて-0.5≦r≦0.5であると判別された場合には、先ず、ステップS116による判別処理を実行する。ステップS116においては、センサ信号の記録サンプル数Nについて、予め設定した閾値以上であるか否かについて判別する。
【0145】
先に述べてきたように、前提として、相関係数rについて-0.5≦r≦0.5の場合には回転動作であるとして判定してよい。
ただし、実際においては、回転動作以外の動きを検出したときにも、相関係数rの絶対値が一定以下となる可能性がある。例えば、例えば直線的な動きではあるが、水平方向若しくは垂直方向に対して相当にずれた角度で対象物を移動させたような動きの場合には、直交する検出軸の間でクロストークが生じて相関係数rの絶対値は小さくなる。この結果、相関係数rの絶対値が一定以下となる可能性がある。
【0146】
ステップS116の処理は、上記したことを考慮して、相関係数rについて-0.5≦r≦0.5であると判別された場合において、検出された動きについて、回転動作としてのジェスチャ動作であるのか、他の動きであるのかを弁別しようとするものである。
ここで、センサ信号の記録サンプル数Nは、ジェスチャ検出部33が検出したジェスチャ動作期間に対応して第1センサ信号記録部31、第2センサ信号記録部32のそれぞれが記録したサンプルデータ数を指す。つまり、記録サンプル数Nは、ジェスチャ検出部33が検出したジェスチャ動作期間であり、これは動きが継続して検出された時間長を示している。
【0147】
水平・垂直方向のジェスチャ動作は直線的な動きであるので、ジェスチャ動作期間として検出される時間は短い。これに対して、回転動作は、その動きの軌跡が円弧を描くことになるので、相応に長いものとなる。つまり、回転動作としてのジェスチャ動作期間は、相応に長い時間を要するといえる。
そこで、ステップS116に対応しては、回転動作を行ったときに得られるジェスチャ動作期間としての一般的、平均的な時間長に対応して得られるサンプル数に基づいて閾値を設定することとした。そして、ステップS116の処理として、記録サンプル数Nが閾値以上であると判別すれば、ステップS117により回転動作であるとの判定結果を得る。これに対して、記録サンプル数Nが閾値未満であるとして否定の判別結果を得たのであれば、ステップS122に進み、有意な動作は無かったものとの判定結果を出力する。
【0148】
ステップS118において動作判定部38は、信号軌跡の回転方向を算出する。つまり、先の(数3)による演算を実行して、信号軌跡の外積のz成分の総和値pを求める。この外積のz成分の総和値pの正/負が回転方向を示していることになる。
【0149】
ステップS119において動作判定部38は、上記ステップS118により求められた外積総和値pに基づき、信号軌跡の回転方向の全体傾向を判別する。つまり、外積のz成分の総和値pが正の値であれば、信号軌跡の回転方向の全体傾向は左回りであると判別し、外積のz成分の総和値pが負の値であれば、信号軌跡の回転方向の全体傾向は右回りであると判別する。
【0150】
動作判定部38は、ステップS119により右回りであると判別した場合、ステップS120により、右回転動作であるとの判定結果を出力する。また、左回りであると判別した場合、動作判定部38は、ステップS121により、左回転動作であるとの判定結果を出力する。
【0151】
<8.位相平面写像化処理の変形例>
先に図11により説明した位相平面写像化処理では、位相平面上に対して、同じサンプルタイミングの正規化センサ信号NOM_S1,正規化センサ信号NOM_S2の値により座標をプロットするものとしていた。つまり、正規化センサ信号NOM_S1,正規化センサ信号NOM_S2についての、N個の記録サンプルにおるi番目のサンプル値を、xi,yiとして、位相平面に対して、順次、座標(xi,yi) (1≦i≦N)をプロットしていく。この場合、プロットする座標の座標値としては、正規化センサ信号NOM_S1,正規化センサ信号NOM_S2の値をそのまま用いているものである。
【0152】
これに対して、位相平面写像化処理の変形例では、位相平面上にプロットするためのx座標、y座標の値として、それぞれ、元の正規化センサ信号NOM_S1,NOM_S2のサンプル値をべき乗して得られる値を用いることとする。この場合において、べき乗の指数nについては、3以上の奇数を用いる。
つまり、正規化センサ信号NOM_S1,正規化センサ信号NOM_S2についての、N個の記録サンプルにおるi番目のサンプル値を、xi,yiとして、正規化処理としては、座標(xi^n,yi^n):(1≦i≦N、nは3以上の奇数)をプロットしていくものである。
【0153】
先ず、正規化センサ信号NOM_S1,正規化センサ信号NOM_S2をべき乗すると、絶対値の小さな値ほどより小さい値に変換されることになる。このことは、絶対値が大きくなるほど高い重み付けが与えられる、ということになる。すると、位相平面上に形成される信号軌跡としては、座標(xi,yi)をプロットしていった場合よりも、その包括的な形状の傾向が強調される結果になる。例えば、水平・垂直方向のジェスチャ動作に対応しては、その包括的形状は前述のように楕円Eとしてみることができるが、この楕円形状としては、より先鋭化されて、長径と短径の比がより大きなものとなっていく。
ただし、べき乗の指数nについて偶数を用いてしまうと、元のサンプル値xi,yiが負の数の場合には、べき乗した値が正に反転してしまう。そこで、べき乗の指数nについて奇数を用いることとして、元のサンプル値xi,yiの正・負の符号が反転することなく残るようにしている。
【0154】
このようにして、座標(xi^n,yi^n)により位相平面写像化を行って形成される信号軌跡は、その全体形状が強調されて、先鋭化されるものとなり得る。そして、このようにして形成された信号軌跡を利用して求められる相関係数rとしては、例えば水平・垂直方向のジェスチャ動作に対応しては、より極端な一定以上の絶対値が得られることになる。また、回転動作に対応しては、より極端な一定以下の値が得られることになる。つまり、ジェスチャ動作として,水平方向、垂直方向、また、回転方向の何れに応じたものであるのかについての判定精度を高くすることができる。
【0155】
また、座標(xi^n,yi^n)により形成される信号軌跡に基づいて重心Gの座標を求めた場合にも、この求められた座標としては、検出されたジェスチャ動作に応じてしかるべき象限内に位置するがより原点から遠くなって明確なものとすることができる。つまり、水平方向のジェスチャ動作に関しては、右動作と左動作についての判定精度が向上する。また、垂直方向のジェスチャ動作に関しても、上動作と下動作についての判定精度を向上させることが可能になる。
【0156】
なお、座標(xi^n,yi^n)により形成される信号軌跡に基づいて重心Gの座標(xg,xy)は、例えば下記の演算により求めることができる。
【数4】
【0157】
<9.一次センサの配置態様についての変形例>
また、本実施形態として、センサ部5を成す一次元センサ40−1、40−2において、一次元の動きを検出する2対の赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2の配置態様は、図8に示したものに限定されない。つまり認識・判定すべき二軸の直線的ジェスチャ動作の各移動方向に対して、例えば検出軸に45°の角度を与えることで、上記二軸の直線的ジェスチャ動作の何れについても、対の赤外線検出素子51A−1,51B−1、及び赤外線検出素子51A−2,51B−2が、時間差をもって動きに応じた信号Sa,Sbを出力できるようになっていればよい。
【0158】
そこで、一次センサの配置態様の変形例として、図21,図22により、赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2についての他の配置態様例を示しておくこととする。
【0159】
図21に示す変形例においては、例として、赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2を、センサ部5としての1つの部品・デバイスに実装した例を示している。例えば、図8に示した一次元センサ40−1、40−2のようにして、一対の赤外線検出素子51A,51Bを備えるものは、汎用の焦電センサ部品などとして提供されることが多い。しかし、本実施形態のようにして、直交する2軸の直線的なジェスチャ動作を検出することを前提にする場合には、2対の赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2を備えた1つの焦電センサ部品として構成してもよいことになる。
【0160】
そして、図21(a)における配置としては、先ず、赤外線検出素子51A−1,51B−1に対応する検出軸L1、赤外線検出素子51A−2,51B−2に対応する検出軸L2については、水平/垂直方向に対して、図8(a)と同じ角度関係としている。そのうえで、図示する態様により、検出軸L1を通過する位置に赤外線検出素子51A−1,51B−1を配置し、検出軸L2を通過する位置に赤外線検出素子51A−2,51B−2を配置したものである。
【0161】
上記図21(a)による赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2の配置に応じて形成される空間検出領域60A−1,60B−1、空間検出領域60A−2,60B−2は、図21(b)に示すものとなる。
【0162】
次に、図22の変形例について説明する。
この場合には、図22(a)に示すように、検出軸L1は、一定距離を隔てた2つの平行な検出軸L1a,L1bに分割して設定している。また、これら検出軸L1a,L1bは、水平/垂直方向に対して図8の検出軸L1と同じ角度を設定している。この場合には、検出軸L1aのほうが下側で、検出軸L1bのほうが上側となる位置関係としている。
同様にして、検出軸L2も、水平/垂直方向に対して図8の検出軸L2と同じ角度を設定したうえで、一定距離を隔てた2つの平行な検出軸L2a,L2bに分割して設定している。また、この場合には、検出軸L2bのほうが下側で、検出軸L2aのほうが上側となる位置関係としている。
【0163】
そのうえで、検出軸L1a上に対しては、赤外線検出素子51A−1を配置し、検出軸L1b上には、赤外線検出素子51B−1を配置する。また、検出軸L2a上に対しては、赤外線検出素子51A−2を配置し、検出軸L2b上には、赤外線検出素子51B−2を配置する。
なお、上記赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2の配置に応じて形成される空間検出領域60A−1,60B−1、空間検出領域60A−2,60B−2は、図22(b)に示すものとなる。
【0164】
上記図21,図22の何れの配置態様によっても、図8と同様に、一方の対となる赤外線検出素子51A−1,51B−1は、水平/垂直の何れの方向の動きについても、時間差をもって動きを検出することができる。
また、他方の対となる赤外線検出素子51A−2,51B−2も、水平/垂直の何れの方向の動きについても、時間差をもって動きを検出できる。
また、赤外線検出素子51A−1,51B−1、赤外線検出素子51A−2,51B−2が水平/垂直方向の直線的動きを検出する順序も、図8と同様になっている。
【0165】
なお、先の説明では、図17のジェスチャ動作判定部18は、制御部11としてのCPUがプログラムを実行することにより実現されるソフトウェア処理であることとした。しかし、例えばジェスチャ動作判定部18としての信号処理を、DSP(Dgital Signal Processor)により構成してもよい。つまり、DSPについて、ジェスチャ動作判定部18としての信号処理を実行するためのプログラム、インストラクションを記憶させて構成する。
また、ジェスチャ動作判定部18としての信号処理をハードウェアにより構成することも考えられる。
【0166】
また、制御部11としてのCPUが実行するプログラムは、例えばフラッシュメモリであるとかROMに対して書き込んで記憶させるほか、リムーバブルの記憶媒体に記憶させておいたうえで、この記憶媒体からインストール(アップデートも含む)させるようにしてフラッシュメモリなどに記憶させることが考えられる。また、所定のデータインターフェースを経由させるなどして、他のホストとなる機器からの制御によってプログラムのインストールを行えるようにすることも考えられる。さらに、ネットワーク上のサーバなどにおける記憶装置に記憶させておいたうえで、例えばジェスチャ認識を実行する装置ネットワーク機能を持たせることとし、サーバからダウンロードして取得してインストールできるように構成することも考えられる。
【0167】
また、これまでの説明においては、一次元センサ40−1、40−2の検出軸L1,L2について、水平/垂直方向に対して45°の角度を与えている。これは、本実施形態において定めた二軸の直交する直線的ジェスチャ動作が、左右動作に対応する水平方向(第2の方向)と、上下動作に対応する垂直方向(第2の方向)としていることによる。
例えば、逆に二軸の直交する直線的ジェスチャ動作を、それぞれ水平/垂直方向に対して45°となる方向に沿ったものとして定めたとすれば、検出軸L1,L2のそれぞれが水平/垂直方向に一致するようにして一次元センサ40−1、40−2を配置させることになる。
【0168】
また、実施形態では、最もあり得る態様として、二軸の直線的ジェスチャ動作について相互に直交させる方向であるものとして定めているが、必ずしも、直交させる必要はない。つまり、直線的ジェスチャ動作の各軸が交差する角度が90°以外であってもよい。
本実施形態では、直線的ジェスチャ動作の各軸が交差する角度について、90°以外の角度であっても、対の検出素子において必要な検出時間差が得られていれば、それぞれの軸方向のジェスチャ動作を適正に認識可能である。
【0169】
なお、これまでにおいては、一次元センサ40として、デュアル型焦電センサを採用した場合を例に挙げた。しかし、一次元センサとして採用し得るセンサ方式には、焦電効果を利用する以外の方式も挙げることができる。一次元センサとしては、これらの方式に基づいて構成したものを採用してよい。
【0170】
また、これまでにおいては、本実施形態のジェスチャ認識・判定のための構成を写真立て型表示装置に適用しているが、これはあくまでも一例である。本実施形態のジェスチャ認識の構成は、他の各種の装置にも多様に適用できる。
【符号の説明】
【0171】
1 写真立て型表示装置、2 本体部、3 表示画面部、4 スタンド、5 センサ部、11 制御部、12 ディスプレイデバイス、13 フラッシュメモリ、14 SDRAM、15 時計部、16 操作部、17 メモリカードインターフェース、18 ジェスチャ動作判定部、20 メモリカード、31 第1センサ信号記録部、32 第2センサ信号記録部、33 ジェスチャ検出部、34 第1正規化処理部、35 第2正規化処理部、36 位相平面写像化処理部、37 評価項目算出部、37a 相関係数算出部、37b 重心算出部、37c 回転方向算出部、38 動作判定部、40 一次元センサ、41 集光器、42 焦電センサ部、43 アンプ・フィルタ、51A(51A−1・51A−2)・51B(51B−1・51B−2) 赤外線検出素子、60A−1・60A−2・60B−1・60B−2 空間検出領域
【特許請求の範囲】
【請求項1】
1つの検出軸に沿った一次元方向の対象物の動作に応じた動きを検出して、その検出した動きに応じた信号を出力するもので、上記検出軸が、認識対象として定められた直線的な対象物の動作の方向である第1の方向及び第2の方向に対して異なるようにして配置される、第1,第2の一次元センサ手段と、
上記第1,第2の一次元センサ手段から出力される第1、第2の信号のそれぞれについて、その振幅値を、ピーク値との比により表される値に変換するようにして正規化する処理を実行する正規化処理手段と、
同じ時間ごとの上記正規化された第1の信号の値に基づくx座標値と、上記正規化された第2の信号の値に基づくy座標値とにより、位相平面上に対して座標をプロットするようにして、上記第1,第2の時系列に応じた信号軌跡を形成する、位相平面写像化処理手段と、
上記信号軌跡を形成する座標値を利用して、第1,第2の信号についての相関係数を求める相関係数算出手段と、
少なくとも上記相関係数の値が正/負の何れであるのかに基づいて、検出された動きが、上記第1の方向の動作であるか、上記第2の方向の動作であるのかを判定する動作判定手段と、
を備える動作認識装置。
【請求項2】
上記信号軌跡についての位相平面上での重心の座標を算出する重心算出手段をさらに備え、
上記動作判定手段は、
上記第1の方向であるとの判定結果に対応する上記相関係数の場合には、算出された上記重心の座標に基づいて、上記第1の方向における正方向の動作と逆方向の動作の何れであるのかを判定し、
上記第2の方向であるとの判定結果に対応する上記相関係数の場合には、算出された上記重心の座標に基づいて、上記第2の方向における正方向の動作と逆方向の動作の何れであるのかを判定する、
請求項1に記載の動作認識装置。
【請求項3】
対象物の動作として、対象物を略円周状に動かす回転動作が認識対象として定められているうえで、
上記信号軌跡の座標を時系列に従ってプロットしたときの回転方向であるプロット回転方向を認識するプロット回転方向認識手段をさらに備え、
上記動作判定手段は、
上記相関係数の絶対値が、検出された対象物の動きが上記回転動作であるとの判定結果に対応する一定以下である場合には、上記認識されたプロット回転方向に基づいて、右回転動作と左回転動作の何れであるのかを判定する、
請求項1又は請求項2に記載の動作認識装置。
【請求項4】
上記プロット回転方向認識手段は、
プロットした座標ごとの外積ののz成分の総和値を求めたうえで、この総和値の正/負に基づいてプロット回転方向を認識する、
請求項3に記載の動作認識装置。
【請求項5】
上記動作判定手段は、
上記相関係数の絶対値が一定以下であり、かつ、対象物の動きが検出されていたとされる期間としての時間長が一定以上である場合に、検出された対象物の動きが上記回転動作であるとの判定結果を得るようにされている、
請求項3又は請求項4に記載の動作認識装置。
【請求項6】
上記位相平面写像化処理手段は、
上記正規化された第1の信号の値に基づくx座標値として、この正規化された第1の信号の値を、奇数の指数によりべき乗した値を用い、
上記正規化された第2の信号の値に基づくy座標値として、この正規化された第2の信号の値を、上記奇数の指数によりべき乗した値を用いる、
請求項1乃至請求項5のいずれかに記載の動作認識装置。
【請求項7】
1つの検出軸に沿った一次元方向の対象物の動作に応じた動きを検出して、その検出した動きに応じた信号を出力するもので、上記検出軸が、認識対象として定められた直線的な対象物の動作の方向である第1の方向及び第2の方向に対して異なるようにして配置される、第1,第2の一次元センサ部から出力される第1、第2の信号のそれぞれについて、その振幅値を、ピーク値との比により表される値に変換するようにして正規化する処理を実行する正規化処理手順と、
同じ時間ごとの上記正規化された第1の信号の値に基づくx座標値と、上記正規化された第2の信号の値に基づくy座標値とにより、位相平面上に対して座標をプロットするようにして、上記第1,第2の時系列に応じた信号軌跡を形成する、位相平面写像化処理手順と、
上記信号軌跡を形成する座標値を利用して、第1,第2の信号についての相関係数を求める相関係数算出手順と、
少なくとも上記相関係数の値が正/負の何れであるのかに基づいて、検出された動きが、上記第1の方向の動作であるか、上記第2の方向の動作であるのかを判定する動作判定手順と、
を実行する動作認識方法。
【請求項8】
動作認識装置に、
1つの検出軸に沿った一次元方向の対象物の動作に応じた動きを検出して、その検出した動きに応じた信号を出力するもので、上記検出軸が、認識対象として定められた直線的な対象物の動作の方向である第1の方向及び第2の方向に対して異なるようにして配置される、第1,第2の一次元センサ部から出力される第1、第2の信号のそれぞれについて、その振幅値を、ピーク値との比により表される値に変換するようにして正規化する処理を実行する正規化処理手順と、
同じ時間ごとの上記正規化された第1の信号の値に基づくx座標値と、上記正規化された第2の信号の値に基づくy座標値とにより、位相平面上に対して座標をプロットするようにして、上記第1,第2の時系列に応じた信号軌跡を形成する、位相平面写像化処理手順と、
上記信号軌跡を形成する座標値を利用して、第1,第2の信号についての相関係数を求める相関係数算出手順と、
少なくとも上記相関係数の値が正/負の何れであるのかに基づいて、検出された動きが、上記第1の方向の動作であるか、上記第2の方向の動作であるのかを判定する動作判定手順と、
を実行させるためのプログラム。
【請求項1】
1つの検出軸に沿った一次元方向の対象物の動作に応じた動きを検出して、その検出した動きに応じた信号を出力するもので、上記検出軸が、認識対象として定められた直線的な対象物の動作の方向である第1の方向及び第2の方向に対して異なるようにして配置される、第1,第2の一次元センサ手段と、
上記第1,第2の一次元センサ手段から出力される第1、第2の信号のそれぞれについて、その振幅値を、ピーク値との比により表される値に変換するようにして正規化する処理を実行する正規化処理手段と、
同じ時間ごとの上記正規化された第1の信号の値に基づくx座標値と、上記正規化された第2の信号の値に基づくy座標値とにより、位相平面上に対して座標をプロットするようにして、上記第1,第2の時系列に応じた信号軌跡を形成する、位相平面写像化処理手段と、
上記信号軌跡を形成する座標値を利用して、第1,第2の信号についての相関係数を求める相関係数算出手段と、
少なくとも上記相関係数の値が正/負の何れであるのかに基づいて、検出された動きが、上記第1の方向の動作であるか、上記第2の方向の動作であるのかを判定する動作判定手段と、
を備える動作認識装置。
【請求項2】
上記信号軌跡についての位相平面上での重心の座標を算出する重心算出手段をさらに備え、
上記動作判定手段は、
上記第1の方向であるとの判定結果に対応する上記相関係数の場合には、算出された上記重心の座標に基づいて、上記第1の方向における正方向の動作と逆方向の動作の何れであるのかを判定し、
上記第2の方向であるとの判定結果に対応する上記相関係数の場合には、算出された上記重心の座標に基づいて、上記第2の方向における正方向の動作と逆方向の動作の何れであるのかを判定する、
請求項1に記載の動作認識装置。
【請求項3】
対象物の動作として、対象物を略円周状に動かす回転動作が認識対象として定められているうえで、
上記信号軌跡の座標を時系列に従ってプロットしたときの回転方向であるプロット回転方向を認識するプロット回転方向認識手段をさらに備え、
上記動作判定手段は、
上記相関係数の絶対値が、検出された対象物の動きが上記回転動作であるとの判定結果に対応する一定以下である場合には、上記認識されたプロット回転方向に基づいて、右回転動作と左回転動作の何れであるのかを判定する、
請求項1又は請求項2に記載の動作認識装置。
【請求項4】
上記プロット回転方向認識手段は、
プロットした座標ごとの外積ののz成分の総和値を求めたうえで、この総和値の正/負に基づいてプロット回転方向を認識する、
請求項3に記載の動作認識装置。
【請求項5】
上記動作判定手段は、
上記相関係数の絶対値が一定以下であり、かつ、対象物の動きが検出されていたとされる期間としての時間長が一定以上である場合に、検出された対象物の動きが上記回転動作であるとの判定結果を得るようにされている、
請求項3又は請求項4に記載の動作認識装置。
【請求項6】
上記位相平面写像化処理手段は、
上記正規化された第1の信号の値に基づくx座標値として、この正規化された第1の信号の値を、奇数の指数によりべき乗した値を用い、
上記正規化された第2の信号の値に基づくy座標値として、この正規化された第2の信号の値を、上記奇数の指数によりべき乗した値を用いる、
請求項1乃至請求項5のいずれかに記載の動作認識装置。
【請求項7】
1つの検出軸に沿った一次元方向の対象物の動作に応じた動きを検出して、その検出した動きに応じた信号を出力するもので、上記検出軸が、認識対象として定められた直線的な対象物の動作の方向である第1の方向及び第2の方向に対して異なるようにして配置される、第1,第2の一次元センサ部から出力される第1、第2の信号のそれぞれについて、その振幅値を、ピーク値との比により表される値に変換するようにして正規化する処理を実行する正規化処理手順と、
同じ時間ごとの上記正規化された第1の信号の値に基づくx座標値と、上記正規化された第2の信号の値に基づくy座標値とにより、位相平面上に対して座標をプロットするようにして、上記第1,第2の時系列に応じた信号軌跡を形成する、位相平面写像化処理手順と、
上記信号軌跡を形成する座標値を利用して、第1,第2の信号についての相関係数を求める相関係数算出手順と、
少なくとも上記相関係数の値が正/負の何れであるのかに基づいて、検出された動きが、上記第1の方向の動作であるか、上記第2の方向の動作であるのかを判定する動作判定手順と、
を実行する動作認識方法。
【請求項8】
動作認識装置に、
1つの検出軸に沿った一次元方向の対象物の動作に応じた動きを検出して、その検出した動きに応じた信号を出力するもので、上記検出軸が、認識対象として定められた直線的な対象物の動作の方向である第1の方向及び第2の方向に対して異なるようにして配置される、第1,第2の一次元センサ部から出力される第1、第2の信号のそれぞれについて、その振幅値を、ピーク値との比により表される値に変換するようにして正規化する処理を実行する正規化処理手順と、
同じ時間ごとの上記正規化された第1の信号の値に基づくx座標値と、上記正規化された第2の信号の値に基づくy座標値とにより、位相平面上に対して座標をプロットするようにして、上記第1,第2の時系列に応じた信号軌跡を形成する、位相平面写像化処理手順と、
上記信号軌跡を形成する座標値を利用して、第1,第2の信号についての相関係数を求める相関係数算出手順と、
少なくとも上記相関係数の値が正/負の何れであるのかに基づいて、検出された動きが、上記第1の方向の動作であるか、上記第2の方向の動作であるのかを判定する動作判定手順と、
を実行させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【公開番号】特開2010−211781(P2010−211781A)
【公開日】平成22年9月24日(2010.9.24)
【国際特許分類】
【出願番号】特願2009−120193(P2009−120193)
【出願日】平成21年5月18日(2009.5.18)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成22年9月24日(2010.9.24)
【国際特許分類】
【出願日】平成21年5月18日(2009.5.18)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]