説明

三次元動き技術を利用した家庭エンターテインメントのための先進制御装置

コマンドを生成し、当該ハンドヘルド装置とベース装置(消費者電子装置を含む)との間でデータを転送するためのハンドヘルド装置。本ハンドヘルド装置は、ハンドヘルド装置自身の動きを検出し、その動きをコマンドとして解釈し、そのコマンドを実行または転送する。装置の動きには、装置を持っている間にユーザーが行う、ハンドヘルド装置をベース装置のほうに振る動作といった身振りが含まれうる。ユーザーによって生成されるコマンドは、基本的なオン/オフコマンドからデータ転送のような複雑なプロセスまで多岐にわたる。ある実施形態では、ユーザーは既存または新規のコマンドに関連付けられた新しい動きを学習するよう装置をトレーニングできる。ハンドヘルド装置は動きの基本成分を解析して動きモデルを作成し、その動きが将来一意的に同定されうるようにする。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、家庭エンターテインメントの装置およびアプリケーションの制御に、特に制御装置を操作することにより家庭エンターテインメント装置を制御し、これにデータを転送する方法およびシステムに関するものである。
【背景技術】
【0002】
リモコン装置のようなハンドヘルド装置は、典型的にはテレビやゲーム機といった消費者電子装置を制御するために使われる。ハンドヘルド装置と消費者電子装置がより洗練されたものになるにつれ、ハンドヘルド装置にコマンドを入力するための新たな技法が開発されてきた。これらの技法には、ハンドヘルド装置の配向を検出してコマンドを生成する諸方法が含まれる。たとえば、米国特許第4,745,402号および4,796,019号はテレビ上でカーソルの位置を制御するための方法を開示している。米国特許第6,603,420号は、たとえばテレビのチャンネルおよび音量選択を制御するために当該リモコン装置の動きの方向を検出するリモコン装置を開示している。
【非特許文献1】Ho-Sub Yoon, Jung Soh, Younglae J. Bae and Hyun Seung Yang, Hand Gesture Recognition Using Combined Features of Location, Angle and Velocity, Pattern Recognition, Volume 34, Issue 7, 2001, Pages 1491-1501
【非特許文献2】Cristopher Lee and Yangsheng Xu, Online, Interactive Learning of Gestures for Human/Robot Interfaces, The Robotics Institute, Carnegie Mellon University, Pittsburgh, IEEE International Conference on Robotics and Automation, Minneapolis, 1996
【非特許文献3】Mu-Chun Su, Yi-Yuan Chen, Kuo-Hua Wang, Chee-Yuen Tew and Hai Huang, 3D Arm Movement Recognition Using Syntactic Pattern Recognition, Artificial Intelligence in Engineering, Volume 14, Issue 2, April 2000, Pages 113-118
【非特許文献4】Ari Y. Benbasat and Joseph A. Paradiso, An Inertial Measurement Framework for Gesture Recognition and Applications, MIT Media Laboratory, Cambridge, 2001
【非特許文献5】Mu-Chun Su, Yi-Yuan Chen, Kuo-Hua Wang, Chee-Yuen Tew and Hai Huang, 3D Arm Movement Recognition Using Syntactic Pattern Recognition, Artificial Intelligence in Engineering, Volume 14, Issue 2, April 2000, Pages 113-118
【発明の開示】
【発明が解決しようとする課題】
【0003】
これらのハンドヘルド装置がデータを保持できること、そして消費者電子装置のより洗練された機能の開発とにより、こうした消費者電子装置の制御について新たな課題が創出された。たとえば、ハンドヘルド装置から消費者電子装置に、あるいはその逆にデータを転送する必要がしばしば生じる。ハンドヘルド装置はまた、データ転送のような動作が実行されるべきであることを示すための自然で効率的な機構をも提供するべきである。したがって、コマンドを生成し、消費者電子装置との間でデータを転送することを効率的に行うことのできる改良されたハンドヘルド装置が必要とされている。
【課題を解決するための手段】
【0004】
コマンドを生成し、ハンドヘルド装置とベース装置(消費者電子装置を含む)との間でデータを転送するための装置および方法が開示される。本ハンドヘルド装置は、ハンドヘルド装置自身の動きを検出し、その動きをコマンドとして解釈し、そのコマンドを実行または転送することができる。装置の動きには、装置を持っている間にユーザーが行う、ハンドヘルド装置をベース装置のほうに振る、テニスラケットを振るときにユーザーが行うような動作といった身振りが含まれうる。ユーザーによって生成されるコマンドは、基本的なオン/オフコマンドからデータ転送のような複雑なプロセスまで多岐にわたる。
【0005】
ある実施形態では、ユーザーは既存または新規のコマンドに関連付けられた新しい動きを学習するよう装置をトレーニングできる。たとえば、ユーザーはハンドヘルド装置をベース装置のほうに振る動きをすることができる。ハンドヘルド装置はその動きの基本成分を解析して動きモデルを作成し、その動きが将来一意的に同定されうるようにする。
【0006】
本発明のより完全な理解ならびに本発明のさらなる特徴および効果は、以下の詳細な記述および図面を参照することによって得られるであろう。
【発明を実施するための最良の形態】
【0007】
図1は、本発明の例示的なハンドヘルド装置300を示している。これは図3との関連でのちにさらに論じる。たとえばフィリップス・スーパー・プロント(Philips Super Pronto)のようなものであるが、本発明の特徴に基づいて修正されている。ハンドヘルド装置300は、該ハンドヘルド装置300の動きを検出し、検出された動きを一つまたは複数のコマンドとして解釈し、そのコマンドを実行または転送することができる。
【0008】
図2A、2Bはユーザーがハンドヘルド装置300を使って行える身振りを示している。たとえば図2Aは、ユーザー201が装置300をテレビ210のようなベース装置のほうに振る身振りをするところを示している。図2Bは、ユーザーがテレビ210のようなベース装置に装置から何かを注ぐ身振りをしているところを示している。この身振りと関連する動きは、ユーザー201がハンドヘルド装置300からテレビ210にデータを転送したがっていることを示している。この場合、ユーザーはまずデータ(たとえば画像または音楽)を位置特定および同定し、それからベース装置のほうに身振りをする。データを同定するのは、たとえばハンドヘルド装置300上に表示されたリストから項目を選択することによってできる。次いでそのデータが転送される。さらに、データが画像であれば(任意的に)テレビに表示されることもできるし、あるいはデータが音楽であれば(任意的に)スピーカーを通じて再生されることもできる。他の身振りとしては、ベース装置からユーザーに向けられた引っ張り運動(図示せず)をすることが含まれる。この場合、その身振りは同定されたデータがハンドヘルド装置300に転送されるべきであることを示したりする。次いでデータがベース装置自身から、あるいは別の装置(たとえばサーバー)から取得される。ユーザー201の領域にはいくつかのベース装置210から214があるので、ハンドヘルド装置300は、転送されるデータを装置210〜214のどれが受信するべきかを同定する機能を有する(のちに詳述)。図3は、本発明の例示的なハンドヘルド装置300のブロック概略図である。当技術分野において知られているように、ここで論じられる方法および装置は、その上にコンピュータ可読コード手段が具現されているコンピュータ可読媒体を有する製造物として頒布されてもよい。コンピュータ可読プログラムコード手段は、中央処理装置301のようなコンピュータシステムとともに、諸方法を実行するための、あるいはここで論じられる装置を生成するための諸ステップの全部または一部を実行するよう動作可能である。コンピュータ可読媒体は記録可能媒体(たとえば、フロッピー(登録商標)ディスク、ハードディスク、コンパクトディスクまたはメモリカード)であってもよいし、あるいは伝送媒体(たとえば光ファイバーのネットワーク、ワールドワイドウェブ、ケーブルまたは時分割多重アクセス、符号分割多重アクセスもしくはその他の無線周波数チャネルを使った無線チャネル)であってもよい。コンピュータシステムとともに使用するのに好適な情報を保存できるいかなる既知または開発される媒体を使ってもよい。コンピュータ可読コード手段は、コンピュータが命令およびデータを読めるようにするための任意の機構である。たとえば、磁気媒体上の磁気変動またはコンパクトディスクの表面上の高さ変動などである。
【0009】
メモリ302は、プロセッサ301を、ここで開示される方法、ステップ、機能を実施するよう構成する。メモリ302は分散型であってもローカルであってもよく、プロセッサ301も分散型であっても単一であってもよい。メモリ302は電気、磁気もしくは光学式メモリまたはこれらもしくは他の種類の記憶装置のいかなる組み合わせとして実装されることもできる。「メモリ」の用語は、プロセッサ301によってアクセスされるアドレス指定可能空間内のアドレスから読み出したり、または該アドレスに書き込まれたりすることのできるいかなる情報をも包含するよう広く解釈されるべきである。
【0010】
図3に示されるように、メモリ302は動きモデルデータベース303、システムプロセス500(図5との関連で後述)、動きトレーニングプロセス600(図6との関連で後述)および動き検出プロセス(図7との関連で後述)を含んでいる。ハンドヘルド装置300はまた、動き検出サブシステム400(図4との関連で後述)、無線周波(RF)通信サブシステム305および赤外線検出サブシステム(IDS: infrared detection subsystem)310を含んでいる。
【0011】
RF通信サブシステム305はハンドヘルド装置300と一つまたは複数のベース装置210〜214との間の通信を既知の仕方で提供する。たとえば、RF通信サブシステム305は、無線通信のためのIEEE802.11規格またはそのいかなる拡張を利用してもよい。IDS310は、ベース装置210〜214に装置300によって送信されるコマンドを実行すべきであると信号を送るために赤外光を指向的な仕方で放出する。その赤外線信号を検出したベース装置210〜214だけが送信されたコマンドを実行すべきである。コマンドはベース装置210〜214にRF通信サブシステム305を介して既知の仕方で転送される。代替的な実施形態では、コマンドは赤外線信号(たとえばIRブラスター規格を使ったもの)を既知の仕方で変調することによって転送されうる。
【0012】
図4は、動き検出サブシステム400の例示的な実施形態を示している。動き検出サブシステム400はx軸加速計センサー410、y軸加速計センサー411、z軸加速計センサー412および対応するアナログ‐デジタル変換器415、416、417を含んでいる。加速計センサー410、411、412はそれぞれ装置300のx軸、y軸、z軸に沿った加速度を検出する。加速計センサー410、411、412はたとえば、米国カリフォルニア州ユニオン・シティのNECTokinから市販されている3D Motion Sensorsを使って具現してもよい。アナログ‐デジタル変換器415、416、417は加速計センサー410、411、412によってそれぞれ検出された加速度を、プロセッサ301が読めるデジタル形式に変換する。代替的な実施形態では、装置300の位置、配向および/または速度を決定するために、応力感応性抵抗素子、傾斜センサーおよび磁気方向センサーを含むその他の構成要素が利用されうる。
【0013】
図5は、システムプロセス500の例示的な実施形態を示している。システムプロセス500は最初はステップ505でコマンドが入力されるのを待つ。ステップ505の間にユーザーがトレーニングコマンドを入力した場合、システムプロセス500はステップ510を実行し、動きトレーニングプロセス600が呼び出される。ステップ505の間にユーザーがコマンドを表す身振りまたは動きをした場合には、システムプロセス500はステップ515を実行し、動き検出プロセス700が呼び出される。呼び出されたプロセス600、700が完了すると、システムプロセス500はステップ505に戻って新たなコマンドの入力を待つ。
【0014】
図6は動きトレーニングプロセス600の例示的な実施形態を示している。動きトレーニングプロセス600は、ユーザーによって実演された新しい身振りおよび動きを、既存または新規のコマンドの同定に使用するために学習する。たとえば、ユーザー201は、装置300をテレビ210に向けて振る動きのような振り運動を検出するよう装置300をトレーニングしたいことがありうる。ユーザーはまずハンドヘルド装置300のスイッチを押して、これから新しい身振りが生成されることを示す。(あるいはまた、ユーザーはある動きをトレーニングプロセスが実行されるべきであるという指標として解釈するよう、ハンドヘルド装置300をトレーニングすることもできる。)動きトレーニングプロセス600は最初は加速計センサー410、411、412の一つまたは複数によって動きが検出されるのを待ち(ステップ601)、次いでアナログ‐デジタル変換器415、416、417から読み込まれたデータを周期的にサンプリングして保存することによってセンサー410、411、412によって検出された動きを記録する(ステップ605)。サンプリングステップ605の間に読み込まれた標本値の一セットごとに、ある指定された時間期間にわたって何の動きも検出されなかったかどうか試験が行われる(ステップ608)。身振りまたは動きが完了したかどうかを調べるのである。ステップ608で動きが検出された場合には、ステップ605が繰り返されて次の標本値のセットを読み込む。そうでない場合には、動きトレーニングプロセス600は、ステップ610で、取り込まれた動きのモデルを生成および保存する。動きモデルは既知の仕方で生成される。たとえば、非特許文献1〜5に示した刊行物は動きおよび身振りを解析し、比較し、モデル化する方法を記載している。それらはここに参照によって組み込まれる。
【0015】
生成されたモデルは、ユーザー201によってなされる将来の身振りおよび動きを解釈するために使用されることになる。ステップ615では、ステップ610で生成されたモデルに、そのモデルに対応する動きが検出されたときに実行されるべきコマンドまたはプロセスが割り当てられる。実行されるべきコマンドは公知の諸方法を利用して同定される。たとえば、コマンドに対応するハンドヘルド装置300上のスイッチを押す、あるいはコマンドに対応するコードをキーパッドで入力するなどである。代替的な実施形態では、ユーザーは、システムに対する複数の行動を実行する(たとえばタッチスクリーン上で)ことによって一連のコマンドを入力(記録)できる。MS Wordにおけるマクロの記録と同様である。するとその一連のコマンドが単一の身振りに関連付けられる。割り当てられたコマンドまたはプロセスは、関連付けられた動きモデルとともに動きモデルデータベース303に保存される。
【0016】
図7は、動き検出プロセス700の例示的な実施形態を示している。動き検出プロセス700はユーザー201によってなされた身振りおよび動きを解釈して、実行されるべきコマンドを決定する。たとえば、ユーザー201がハンドヘルド装置300をテレビ210に向けて振る動きをした場合、ハンドヘルド装置300はその身振りを装置300からテレビ210にデータを転送する命令として解釈する。動き検出プロセス700は最初は、加速計センサー410、411、412によって検出された動きを、アナログ‐デジタル変換器415、416、417から読み込まれたデータを周期的にサンプリングして保存することによって記録する(ステップ705)。サンプリングステップ705の間に読み込まれた標本値の一セットごとに、ある指定された時間期間にわたって何の動きも検出されなかったかどうか試験が行われる(ステップ708)。身振りまたは動きが完了したかどうかを調べるのである。ステップ708で動きが検出された場合には、ステップ705が繰り返されて次の標本値のセットを読み込む。そうでない場合には、動き検出プロセス700は、ステップ705の間に収集されたデータを装置300に保存されている動きモデルと比較する(ステップ710)。ステップ710の間に各モデル比較についてスコアが生成される。ステップ710で最高のスコアを達成したモデルに関連付けられたコマンドまたはプロセスが次いでステップ715で実行される。たとえば、最高スコアのモデルが「振り運動」モデルであった場合にデータ転送プロセス(図示せず)が既知の仕方で実行される。データ転送プロセスはたとえば、802.11規格を利用してよく知られた仕方で達成される。ステップ720ではIDS310も作動させられ、それにより振り運動の方向に赤外線信号が放出されるようにする。その赤外線信号を検出したベース装置210〜214だけがRF通信サブシステム305を介して転送されるデータを受信することになる。
【0017】
図8は、図2Aの振り運動を表す例示的な動きモデルを示している。図のように、z軸加速計は動きはxy平面内であることを示している(z軸方向には動きなし)。x軸加速計によって示されるように、動きはx軸に沿ったすばやい加速、動きの中間点でのピーク速度および動きが完了するころの増大する減速を示している。同様だがより小さな動作がy軸に沿っても起こっている。
【0018】
ここで示され、記載された実施形態および変形は単に本発明の原理を解説するものであって、当業者が本発明の範囲および精神から外れることなくさまざまな修正を実施しうることは理解されるものとする。
【図面の簡単な説明】
【0019】
【図1】本発明の例示的なハンドヘルド装置を示す図である。
【図2A】図1のハンドヘルド装置によってコマンドとして解釈される身振りを示す図である。
【図2B】図1のハンドヘルド装置によってコマンドとして解釈される身振りを示す図である。
【図3】図1のハンドヘルド装置のブロック概略図である。
【図4】動き検出サブシステムの例示的な実施形態を示す図である。
【図5】図1のハンドヘルド装置のシステムプロセスの例示的な実装を記述するフローチャートである。
【図6】動きトレーニングプロセスの例示的な実装を記述するフローチャートである。
【図7】動き検出プロセスの例示的な実装を記述するフローチャートである。
【図8】3つの垂直な平面のそれぞれにおける期待される加速に基づいて振り運動の動きモデルを図解するグラフである。

【特許請求の範囲】
【請求項1】
ベース装置を制御する装置であって:
メモリと、
当該装置の動きを検出し、
当該装置と前記ベース装置の間のデータの転送をトリガーするコマンドを同定するために前記動きを解釈し、
前記コマンドを実行する、
よう動作する少なくとも一つのプロセッサ、
とを有することを特徴とする装置。
【請求項2】
前記コマンドを実行する動作が第二のコマンドを前記ベース装置に転送することを含むことを特徴とする、請求項1記載の装置。
【請求項3】
前記検出された動きが振り運動であることを特徴とする、請求項1記載の装置。
【請求項4】
前記検出された動きが注ぎ運動であることを特徴とする、請求項1記載の装置。
【請求項5】
前記検出された動きが前記ベース装置から離れる方向の引き運動であることを特徴とする、請求項1記載の装置。
【請求項6】
実演の動きを検出して記録することによって一つまたは複数の新規コマンドを追加するようさらに動作することを特徴とする、請求項1記載の装置。
【請求項7】
前記記録された実演の動きから動きモデルを生成するようさらに動作することを特徴とする、請求項6記載の装置。
【請求項8】
前記一つまたは複数の新規コマンドを前記動きモデルに割り当てるようさらに動作することを特徴とする、請求項7記載の装置。
【請求項9】
前記動き検出動作を実行するために三次元の動きセンサーをさらに有することを特徴とする、請求項1記載の装置。
【請求項10】
一つまたは複数の動きモデルをさらに有しており、前記一つまたは複数の動きモデルのそれぞれがコマンドを割り当てられることを特徴とする、請求項1記載の装置。
【請求項11】
前記動きを解釈する動作が、前記検出された動きを前記一つまたは複数の動きモデルのうちの一つまたは複数と比較することによって実行されることを特徴とする、請求項10記載の装置。
【請求項12】
ベース装置を制御する方法であって:
装置の動きを検出し、
前記装置と前記ベース装置の間のデータの転送をトリガーするコマンドを同定するために前記動きを解釈し、
前記コマンドを実行する、
ことを含むことを特徴とする方法。
【請求項13】
前記コマンドを実行するステップが第二のコマンドを前記ベース装置に転送することを含むことを特徴とする、請求項12記載の方法。
【請求項14】
前記検出された動きが振り運動であることを特徴とする、請求項12記載の方法。
【請求項15】
前記検出された動きが注ぎ運動であることを特徴とする、請求項12記載の方法。
【請求項16】
前記検出された動きが前記ベース装置から離れる方向の引き運動であることを特徴とする、請求項12記載の方法。
【請求項17】
実演の動きを検出して記録することによって一つまたは複数の新規コマンドを追加するステップをさらに含むことを特徴とする、請求項12記載の方法。
【請求項18】
前記記録された実演の動きから動きモデルを生成するステップをさらに含むことを特徴とする、請求項17記載の方法。
【請求項19】
前記一つまたは複数の新規コマンドを前記動きモデルに割り当てるステップをさらに含むことを特徴とする、請求項18記載の方法。
【請求項20】
前記動きを解釈するステップが、前記検出された動きを一つまたは複数の動きモデルと比較することによって実行されることを特徴とする、請求項12記載の方法。
【請求項21】
ベース装置を制御するための製造物であって:
実行されたときに:
装置の動きを検出し、
前記装置と前記ベース装置の間のデータの転送をトリガーするコマンドを同定するために前記動きを解釈し、
前記コマンドを実行する、
ステップを実施する一つまたは複数のプログラムを含む機械可読媒体、
を有することを特徴とする製造物。


【図1】
image rotate

【図2A】
image rotate

【図2B】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公表番号】特表2007−518511(P2007−518511A)
【公表日】平成19年7月12日(2007.7.12)
【国際特許分類】
【出願番号】特願2006−550391(P2006−550391)
【出願日】平成17年1月17日(2005.1.17)
【国際出願番号】PCT/IB2005/050182
【国際公開番号】WO2005/071636
【国際公開日】平成17年8月4日(2005.8.4)
【出願人】(590000248)コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ (12,071)
【Fターム(参考)】