タッチパネル付きユーザインタフェース装置、ユーザインタフェース制御方法およびユーザインタフェース制御プログラム
【課題】タッチパネルを有するユーザインタフェース装置において、タッチ操作に対応した機能の操作性を向上させる。
【解決手段】物体近接検出部2は、タッチパネル1から出力される検知信号を用いて、物体のタッチパネル1への近接状態を判定する。指/掌判別部3は、物体近接検出部2において物体が近接したと判定された場合に、その物体がユーザの指であるか掌であるかを判別し、判別結果を出力する。座標検出部4は、指/掌判別部3において近接した物体が指であると判別された場合に、近接している指のタッチパネル1上の近接位置座標を検出する。アプリケーション選択部5は、指/掌判別部3の判別結果および座標検出部4の近接位置座標に基づいて、実行するアプリケーションを選択する。表示部6は、アプリケーション選択部5によって選択されたアプリケーションに対応して適切な画面表示を行う。
【解決手段】物体近接検出部2は、タッチパネル1から出力される検知信号を用いて、物体のタッチパネル1への近接状態を判定する。指/掌判別部3は、物体近接検出部2において物体が近接したと判定された場合に、その物体がユーザの指であるか掌であるかを判別し、判別結果を出力する。座標検出部4は、指/掌判別部3において近接した物体が指であると判別された場合に、近接している指のタッチパネル1上の近接位置座標を検出する。アプリケーション選択部5は、指/掌判別部3の判別結果および座標検出部4の近接位置座標に基づいて、実行するアプリケーションを選択する。表示部6は、アプリケーション選択部5によって選択されたアプリケーションに対応して適切な画面表示を行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、静電タッチパネルへの指または掌の近接を判別して実行するアプリケーションを切り替えるユーザインタフェース装置、その制御方法および制御プログラムに関するものである。
【背景技術】
【0002】
近年、携帯電話やデジタルカメラをはじめとする情報処理端末に搭載されるコンテンツや機能は増加の一途をたどり、コンテンツを閲覧する場合または機能を操作する場合に、ユーザの操作が複雑化してきている。そこで、複雑なコンテンツや機能を簡単に、また直感的に操作可能なユーザインタフェースを実現することが課題となっている。
この課題に対して、例えば特許文献1の操作入力装置は、カメラで撮影した画像に基づいてユーザの手の形状および動きの方向を認識し、認識結果に対応した操作を選択したり、操作のための各種パラメータを変更したりしていた。
また、特許文献2のデータ入力装置は、手または指の部分ごとに異なる掌紋または指紋、その組み合わせを異なるデータに対応付けて格納しておき、掌紋または指紋を読み取ることが可能な画像読み取り手段を手または指の一部に装着して他の指または手の一部を読み取って、対応付けてあるデータに変換して入力を行っていた。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2001−216069号公報
【特許文献2】特開2000−242402号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来のユーザインタフェース装置は以上のように構成されているので、特許文献1,2にはユーザの操作入力を認識するためにタッチパネルを用いることは開示されていなかった。このため、タッチパネルにユーザの指が近接したのか掌が近接したのかを判別して操作に結び付ける技術、および個人差に大きく依存する指紋および掌紋を用いずに指と掌を判別する技術について何ら開示も示唆もされておらず、タッチパネルを用いて複雑なコンテンツや機能を簡単に、直感的に操作させるユーザインタフェースを十分に実現することはできない課題があった。
【0005】
この発明は、上記のような課題を解決するためになされたもので、タッチパネルを有するユーザインタフェース装置において、タッチ操作に対応した機能の操作性を向上させることを目的とする。
【課題を解決するための手段】
【0006】
この発明に係るタッチパネル付きユーザインタフェース装置は、タッチパネルの出力値を用いて、当該タッチパネルへの物体の近接状態を検知する物体近接検出部と、物体近接検出部が近接状態を検知した場合に、出力値から物体がユーザの指か掌かを判別する指/掌判別部と、指/掌判別部が物体を指と判別した場合に、当該指のタッチパネルにおける近接位置座標を検出する座標検出部と、指/掌判別部が判別した結果および座標検出部が検出した近接位置座標に従って、アプリケーションを選択するアプリケーション選択部と、アプリケーション選択部が選択したアプリケーションに対応した表示を行う表示部とを備えるようにしたものである。
【0007】
この発明に係るタッチパネル付きユーザインタフェース装置のユーザインタフェース制御方法は、タッチパネルの出力値を用いて、当該タッチパネルへの物体の近接状態を検知する物体近接検出ステップと、物体近接検出ステップで近接状態を検知した場合に、出力値から物体がユーザの指か掌かを判別する指/掌判別ステップと、指/掌判別ステップで物体を指と判別した場合に、当該指のタッチパネルにおける近接位置座標を検出する座標検出ステップと、指/掌判別ステップで判別した結果および座標検出ステップで検出した近接位置座標に従って、アプリケーションを選択するアプリケーション選択ステップと、アプリケーション選択ステップで選択したアプリケーションに対応した表示を行う表示ステップとを備えるようにしたものである。
【0008】
この発明に係るタッチパネル付きユーザインタフェース装置のユーザインタフェース制御プログラムは、コンピュータを、タッチパネルの出力値を用いて、当該タッチパネルへの物体の近接状態を検知する物体近接検出手段と、物体近接検出手段が近接状態を検知した場合に、出力値から物体がユーザの指か掌かを判別する指/掌判別手段と、指/掌判別手段が物体を指と判別した場合に、当該指のタッチパネルにおける近接位置座標を検出する座標検出手段と、指/掌判別手段が判別した結果および座標検出手段が検出した近接位置座標に従って、アプリケーションを選択するアプリケーション選択手段と、アプリケーション選択手段が選択したアプリケーションに対応した表示を行う表示手段として機能させるようにしたものである。
【発明の効果】
【0009】
この発明によれば、タッチパネルの出力値から近接物体が指か掌かを判別してアプリケーションを選択するようにしたので、通常の指によるタッチ操作に加えて掌による操作も可能となり、タッチ操作に対応した機能の操作性を向上させることができる。また、掌による操作に特定のアプリケーションを対応付けておくことにより、表示画面からこのアプリケーション実行用ボタンを削除でき、画面を簡略化させることができる。
【図面の簡単な説明】
【0010】
【図1】この発明の実施の形態1に係るユーザインタフェース装置の構成を示すブロック図である。
【図2】実施の形態1に係るユーザインタフェース装置の動作を示すフローチャートである。
【図3】図1に示すタッチパネルの構成を示す模式図である。
【図4】図1に示す物体近接検出部がタッチパネルと物体の距離を検出する方法を示す説明図であり、タッチパネルと物体が近接した状態を図4(A)に示し、接触した状態を図4(B)に示す。
【図5】図1に示す指/掌判別部がタッチパネルに指が近接したことを判別する方法を説明する図であり、タッチパネルと指が近接した状態を図5(A)に示し、この状態の静電容量のグラフを図5(B)に示す。
【図6】図1に示す指/掌判別部がタッチパネルに掌が近接したことを判別する方法を説明する図であり、タッチパネルと掌が近接した状態を図6(A)に示し、この状態の静電容量のグラフを図6(B)に示す。
【図7】図1に示すアプリケーション選択部が選択したアプリケーションの説明図であり、指が近接した場合のアプリケーションの例を図7(A)に示し、掌が近接した場合の例を図7(B)に示す。
【図8】この発明の実施の形態2に係るユーザインタフェース装置の構成を示すブロック図である。
【図9】実施の形態2に係るユーザインタフェース装置の動作を示すフローチャートである。
【図10】図8に示すメモリが保存しているセンサ電極の位置座標の情報の構造を示す説明図である。
【図11】タッチパネルに近接した掌の掌ジェスチャに応じた、メモリに保存されるセンサ電極の状態の例を示す説明図である。
【図12】図8に示すアプリケーション選択部が選択したプリケーションの説明図であり、指ジェスチャによる操作の場合のアプリケーションの例を図12(A)に示し、掌ジェスチャによる操作の場合のアプリケーションの例を図12(B)に示す。
【発明を実施するための形態】
【0011】
実施の形態1.
図1は、この発明の実施の形態1に係るユーザインタフェース装置の構成を示すブロック図である。図1に示すように、実施の形態1によるユーザインタフェース装置は、タッチパネル1、物体近接検出部2、指/掌判別部3、座標検出部4、アプリケーション選択部5、表示部6および制御部7から構成される。
【0012】
タッチパネル1は、ユーザの指または掌等、物体による入力を検知し、検知信号を物体近接検出部2へ出力する。物体近接検出部2は、タッチパネル1から出力される検知信号を用いて、物体のタッチパネル1への近接状態を判定する。指/掌判別部3は、物体近接検出部2において物体が近接したと判定された場合に、その物体が指であるか掌であるかを判別し、判別結果を出力する。座標検出部4は、指/掌判別部3において近接した物体が指であると判別された場合に、近接している指のタッチパネル1上の近接位置座標を検出する。アプリケーション選択部5は、指/掌判別部3の判別結果および座標検出部4の近接位置座標に基づいて、実行するアプリケーションを選択する。表示部6は、アプリケーション選択部5によって選択されたアプリケーションに対応して適切な画面表示を行う。制御部7は全体の動作を制御する。
【0013】
次に、実施の形態1によるユーザインタフェース装置の動作を説明する。図2は、実施の形態1に係るユーザインタフェース装置の動作を示すフローチャートである。
先ず、物体近接検出部2が、タッチパネル1への物体の近接があったか否かを判定し(ステップST1)、物体の近接が検知されるまでステップST1の動作を行う。
【0014】
図3は、タッチパネル1の構成を示す模式図である。本実施の形態では、タッチパネル1として、物体10とタッチパネル1との間の微弱な静電容量の変化を検出することで物体10のタッチパネル1への近接(および接触)を検出する静電容量方式の投射容量型タッチパネルを用いる。この他、タッチパネル1として静電容量方式の表面容量型タッチパネルを用いて、静電容量の変化量に従って物体10のタッチパネル1への近接を検出するようにしてもよい。
【0015】
投射容量型のタッチパネル1は、図3に示すように、x方向の座標値を検出するためにy方向と平行に配置された複数のx方向センサ電極11と、y方向の座標値を検出するためにx方向と平行に配置された複数のy方向センサ電極12とから構成される。物体近接検出部2はこれらセンサ電極11,12が出力する検知信号に基づいて、タッチパネル1へ物体10が近接または接触した場合に、x方向センサ電極11およびy方向センサ電極12のうち、x,y方向それぞれどのセンサ電極が反応しているかを検出することで、物体10のタッチパネル1上におけるx,y方向の位置(以下、それぞれx座標、y座標と呼ぶ)を検出することができる。
【0016】
図4は、物体近接検出部2がタッチパネル1と物体10の距離を検出する方法を示す説明図であり、タッチパネル1と物体10の間の静電容量の変化量と距離との関係を示すグラフである。グラフに示すように、タッチパネル1と物体10との距離が近くなるにつれて、タッチパネル1と物体10の間の静電容量が大きくなる。
静電容量の変化の度合いはタッチパネル1と物体10との距離によって変化するため、物体近接検出部2は、タッチパネル1と物体10との間の静電容量の変化度合いから、物体10がタッチパネル1へ近接したか、または接触したかを判定することができる。具体的には、静電容量の変化量が所定の閾値Th1以上の場合(領域A)に物体10がタッチパネル1へ近接したと判定し(図4(A))、閾値Th1未満の場合に近接していないと判定する。さらに、静電容量の変化量が閾値Th2(>Th1)以上の場合(領域B)には、物体10がタッチパネル1に接触したと判定することができる(図4(B))。
【0017】
説明を図2に戻す。物体近接検出部2において物体のタッチパネル1への近接が検出された場合(ステップST1“Yes”)、指/掌判別部3が、近接した物体が指であるか掌であるかを判別する(ステップST2)。
【0018】
図5は指/掌判別部3がタッチパネル1に指10aが近接したことを判別する方法を説明する図であり、図6は掌10bが近接したことを判別する方法を説明する図である。図5(A)に示すようにタッチパネル1に近接した物体が指10aである場合、x方向センサ電極11の静電容量変化の分布は、図5(B)に示すように最も変化の大きいセンサ電極の値を山として急峻な分布21になる。y方向センサ電極12の静電容量変化の分布も同様に急峻な分布になる。一方、図6(A)に示すようにタッチパネル1に近接した物体が掌10bである場合、x,y方向それぞれのセンサ電極11,12の静電容量変化の分布は、図6(B)に示すようになだらかな分布22になり、急峻な分布21のようにはならない。y方向センサ電極12の静電容量変化の分布も同様になだらかな分布になる。従って、指/掌判別部3は、静電容量変化の分布の山の急峻さに基づいて、タッチパネル1に近接した物体が指10aか掌10bかを判別する。
【0019】
なお、指/掌判別部3において、上述した静電容量変化の分布形状を指標に用いず簡易に判別する場合には、各センサ電極の静電容量の変化量21a,22aを指標に用いてもよい。具体的には、指/掌判別部3が、x方向センサ電極11のうち所定の閾値Th2以上の静電容量変化量になるセンサ電極の数を数え、この本数が閾値m未満の場合に指10aがタッチパネル1に近接したと判別し、閾値m以上の場合には掌10bが近接したと判別することで、タッチパネル1に近接した物体が指10aか掌10bかを判別する。指/掌判別部3は、y方向センサ電極12についても同様に判別する。
【0020】
説明を図2に戻す。指/掌判別部3により近接物体が指と判別された場合(ステップST2“指”)、続くステップST3にて座標検出部4が指が近接したタッチパネル1上のx,y座標を検出する。座標検出部4による位置座標検出方法は、上記で図3を用いて説明したように、x方向センサ電極11およびy方向センサ電極12のうち、x,y方向それぞれ最も静電容量変化量の大きいセンサ電極を検出すればよい。このx,y座標が近接位置座標である。
続いて、アプリケーション選択部5が、座標検出部4で検出したx,y座標に基づいて実行するアプリケーションを選択する(ステップST4)。表示部6は、アプリケーション選択部5が選択したアプリケーションに対応して、適切な内容の画面表示を行う(ステップST5)。
【0021】
他方、近接物体が掌と判別された場合(ステップST2“掌”)、続くステップST4においてアプリケーション選択部5が、近接物体が掌である場合に実行するアプリケーションを選択する。表示部6は、アプリケーション選択部5が選択したアプリケーションに対応して、適切な内容の画面表示を行う(ステップST5)。
【0022】
ステップST4においてアプリケーション選択部5が選択するアプリケーションは、指または掌の操作から連想できるようなアプリケーションであることが望ましい。図7(A)にタッチパネル1への近接が指10aの場合に実行するアプリケーションの一例を示し、図7(B)にタッチパネル1への近接が掌10bの場合に実行するアプリケーションの例を示す。なお、タッチパネル1は表示部6の前面に取り付けられて一体となっているものとし、座標検出部4が検出したx,y座標を、表示部6の表示領域中の位置座標として用いる。近接した物体が指10aである場合には、アプリケーション選択部5が、図7(A)のように指10aの位置座標に対応する画面位置に表示されている意味のある表示領域の一部(例えば、1つのアイコン等)を選択するアプリケーションを選択する。他方、近接した物体が掌10bである場合には、アプリケーション選択部5が、図7(B)のように表示領域全体(例えば、全てのアイコン等)を選択するアプリケーションを選択する。図7に示すように指=一部、掌=全体というメタファに則ってアプリケーション選択部5が選択するアプリケーションを指、掌の操作に関連付けておくことで、ユーザが直感的に操作可能なユーザインタフェースを実現することができる。
【0023】
アプリケーション選択部5は、上記以外にも例えば、表示部6に複数ページ有するドキュメントの閲覧画面が表示されているとき、近接した物体が指10aである場合には1ページ戻る/進むアプリケーションを選択し、近接した物体が掌10bである場合には全ページ戻る/進むアプリケーションを選択するようにしてもよい。
また、掌による操作に、ユーザインタフェース装置の電源スイッチのオン/オフ切り替えを制御するアプリケーションを対応付ければ、アプリケーション選択部5は、近接した物体が指10aである場合には通常のアプリケーションを選択し、近接した物体が掌10bである場合には電源スイッチのオン/オフ切り替えを制御するアプリケーションを選択することもできる。
このように、掌による操作に特定のボタンのアプリケーションを対応付けておけば、表示画面内のボタン数を削減することができ、表示画面を簡略化することができる。
【0024】
以上のように、実施の形態1によれば、タッチパネル1への物体の近接状態を検知する物体近接検出部2、および物体がタッチパネル1に近接したと判別された場合に物体がユーザの指であるか掌であるかを判別する指/掌判別部3に加えて、指が近接したのか掌が近接したのかによって実行するアプリケーションを選択するアプリケーション選択部5を備えるように構成した。このため、通常の指によるタッチ操作に加えて、掌による操作も可能となり、タッチパネル1に対応した機能に対する操作性を向上させることができる。また、掌による操作に特定のアプリケーションを対応付けておくことにより、表示画面からこのアプリケーション実行用ボタンを削除でき、画面を簡略化させることもできる。
【0025】
実施の形態2.
上記実施の形態1のユーザインタフェース装置では、物体がタッチパネル1へ近接したことを検知し、さらに、近接した物体がユーザの指であるか掌であるかを判別し、判別結果によって実行するアプリケーションを切り替えることで、通常のタッチ操作に加えて掌による操作を実現した。本実施の形態2では、タッチパネル1に掌が近接したと判別した場合に、掌の動きの方向を認識することによってさらに操作性を向上させたユーザインタフェースを実現する。ここで、ユーザがタッチパネル1に近接させた掌を動かして操作することを掌ジェスチャと呼び、ユーザインタフェース装置がこの掌の動きを認識することを掌ジェスチャ認識と呼ぶ。実施の形態2では、掌ジェスチャを利用する構成のユーザインタフェース装置について述べる。
【0026】
図8は、この発明の実施の形態2に係るユーザインタフェース装置の構成を示すブロック図であり、図1と同一または相当の部分については同一の符号を付す。実施の形態2のユーザインタフェース装置は、上記実施の形態1のユーザインタフェース装置の座標検出部4の後段に、掌ジェスチャを認識する掌ジェスチャ認識部8および掌ジェスチャを認識するための情報を保存しておくメモリ9を追加した点のみが異なる。従って、実施の形態2の説明は実施の形態1と異なる内容のみにとどめ、重複する内容については省略する。
【0027】
次に、実施の形態2によるユーザインタフェース装置の動作を説明する。図9は、実施の形態2に係るユーザインタフェース装置の動作を示すフローチャートである。図9に示すステップST1〜ステップST3の各動作は、図2のステップST1〜ステップST3の各動作と同一であるため、説明を省略する。
なお、ステップST1において、物体近接検出部2が、タッチパネル1への物体の近接を検知しない場合は(ステップST1“No”)、ステップST6にて掌ジェスチャ認識部8がメモリ9の保存する情報を全てクリアする。
【0028】
指/掌判別部3によって近接物体が掌と判別された場合(ステップST2“掌”)、指/掌判別部3が判別の際に用いた、x,y方向それぞれ所定の閾値Th2以上の静電容量の変化量だったセンサ電極のインデックスを、掌ジェスチャ認識部8がメモリ9に保存する(ステップST7)。タッチパネル1に近接した状態で掌ジェスチャが行われれば、掌ジェスチャ中の各時刻のセンサ電極の状態がメモリ9に保存されていく。そして、掌ジェスチャ認識部8がメモリ9の情報を利用して、タッチパネル1上に近接した掌10bがどのように動いたか、即ち掌ジェスチャを認識する(ステップST8)。
【0029】
図10は、メモリ9が保存しているセンサ電極の位置座標の情報の構造を示す説明図である。図10に示すように、メモリ9には、掌がタッチパネル1に近接した状態となったt−n時刻前から最新の時刻tまでのセンサ電極の状態が、全てまたは一部保存されている。xiは、x方向センサ電極11のx座標原点側からのセンサ番号iを示し、yjは、y方向センサ電極12のy座標原点側からのセンサ番号jを示す。掌ジェスチャ認識部8は、センサ電極の状態として、所定の閾値Th2以上の静電容量の変化量を示したセンサ電極に[1]を付与し、閾値Th2未満の静電容量の変化量を示したセンサ電極に[0]を付与して、メモリ9に保存する。
【0030】
図11は、タッチパネル1に近接した掌10bの掌ジェスチャに応じたセンサ電極の状態の例を示す説明図である。図11では、掌10bがx方向と平行に動いた場合にメモリ9に保存される2時刻前(図11(A))、1時刻前(図11(B))、および最新(図11(C))のx方向センサ電極11の各状態を示す。例えば図11(A)においてセンサ番号i=12およびt=2のセンサ電極の状態x1(2),x2(2),・・・,x12(2)は[1,1,1,1,1,1,1,1,0,0,0,0]であり、掌10bの移動と共に、静電容量の変化量の大きい(即ちセンサ電極の状態[1])センサ電極がx方向に移り変わって、最新t=0のセンサ電極の状態x1(0),x2(0),・・・,x12(0)は[0,0,0,0,1,1,1,1,1,1,1,1]となる。従って、掌ジェスチャ認識部8は、静電容量の変化量の大きいセンサ電極の状態の移り変わりを利用すれば、掌10bがx方向に移動したことを認識できる。掌ジェスチャ認識部8は、この掌ジェスチャ認識処理をx方向センサ電極11およびy方向センサ電極12について行い、タッチパネル1上に近接した掌10bがどのように動いたか認識する。
【0031】
なお、ステップST6において、物体が近接していないと判別された場合にメモリ9の内容が全てクリアされているため、連続して近接している状態のみのセンサ電極の状態をメモリ9に保存しておくことができる。
【0032】
説明を図9に戻す。ステップST4において、アプリケーション選択部5は、指/掌判別部3の判別結果から近接物体が指の場合には座標検出部4で検出したx,y座標に基づいて、一方、近接物体が掌の場合には掌ジェスチャ認識部8の掌ジェスチャ認識の結果に基づいて、実行するアプリケーションを選択する。表示部6が、アプリケーション選択部5が選択したアプリケーションに対応して、適切な内容の画面表示を行う(ステップST5)。
なお、近接物体が指の場合、指のx,y座標の時間変化を利用することで、指のジェスチャについても認識することができる。例えば、ユーザインタフェース装置が指ジェスチャ認識部とメモリを備え、近接物体が指と判別された場合に座標検出部4が検出した各時刻のx,y座標をメモリに保存して、指ジェスチャ認識部がx,y座標の時間変化に基づいて指の移動を認識する構成にすればよい。
【0033】
ステップST4においてアプリケーション選択部5が選択するアプリケーションは、指ジェスチャまたは掌ジェスチャの操作から連想できるようなアプリケーションであることが望ましい。図12(A)に指ジェスチャによる操作の場合に実行するアプリケーションの例を示し、図12(B)に掌ジェスチャによる操作の場合に実行するアプリケーションの例を示す。なお、タッチパネル1は表示部6の前面に取り付けられて一体となっているものとし、座標検出部4が検出したx,y座標を、表示部6の表示領域中の位置座標として用いる。近接した物体が指10aであり、かつ、x方向に移動する指ジェスチャの場合には、アプリケーション選択部5が、図12(A)のように複数ページ有するドキュメントの閲覧画面のページを1ページ戻る/進むアプリケーションを選択して、指ジェスチャの移動方向に応じたページめくりを実行する。他方、近接した物体が掌10bであり、かつ、x方向に移動する掌ジェスチャの場合には、アプリケーション選択部5が、図12(B)のように全ページ戻る/進むアプリケーションを選択して、掌ジェスチャの移動方向に応じたページめくりを実行する。図12に示すように指=一部、掌=全体というメタファに則ってアプリケーション選択部5が選択するアプリケーションを指ジェスチャ、掌ジェスチャに関連付けておくことで、ユーザが直感的に操作可能なユーザインタフェースを実現することができる。
【0034】
アプリケーション選択部5は、上記以外にも例えば、指ジェスチャである場合には通常のアプリケーションを選択し、掌ジェスチャの場合にはユーザインタフェース装置の電源スイッチのオン/オフ切り替えを制御するアプリケーションを選択するようにしてもよい。また、表示部6に複数の意味のある表示領域(例えばアイコン)が画面表示されているとき、アプリケーション選択部5は、指ジェスチャである場合には近接した位置座標の表示領域(1つのアイコン)を選択するアプリケーションを選択し、掌ジェスチャである場合には表示領域全体(全てのアイコン)を選択するアプリケーションを選択するようにしてもよい。さらに、掌ジェスチャ認識部8が掌の移動方向に加えて移動速度も認識するようにして(同様に指ジェスチャ認識部も指の移動速度を認識するようにして)、アプリケーション選択部5が移動の方向および速度に応じてアプリケーションを選択してもよい。
このように、掌ジェスチャによる操作に特定のボタンのアプリケーションを対応付けておけば、表示画面内のボタン数を削減することができ、表示画面を簡略化することができる。
【0035】
以上のように、実施の形態2によれば、指/掌判別部3においてタッチパネル1への近接物体が掌であると判別された場合に、タッチパネル1の出力値を用いて掌の動きを認識する掌ジェスチャ認識部8を備えるようにした。このため、掌の近接を利用する上記実施の形態1のユーザインタフェースだけでなく、掌の動きを利用したユーザインタフェースを実現することができる。
【0036】
なお、上記実施の形態1,2のユーザインタフェース装置を、タッチパネル1および表示部6を有するコンピュータで構成する場合、指/掌判別部3、座標検出部4、アプリケーション選択部5、制御部7、掌ジェスチャ認識部8の処理内容を記述しているプログラムをコンピュータの内部メモリに格納し、コンピュータのCPUが内部メモリに格納されているプログラムを実行するようにしてもよい。
【0037】
また、上記実施の形態1,2のユーザインタフェース装置によれば、ユーザがタッチパネル1に触れることなく操作可能となるため、パネルの消耗が少なく、超寿命化の一助になる。
【符号の説明】
【0038】
1 タッチパネル、2 物体近接検出部、3 指/掌判別部、4 座標検出部、5 アプリケーション選択部、6 表示部、7 制御部、8 掌ジェスチャ認識部、9 メモリ、10 物体、10a 指、10b 掌、11 x方向センサ電極、12 y方向センサ電極、21,22 静電容量変化の分布形状、21a,22a 静電容量の変化量。
【技術分野】
【0001】
本発明は、静電タッチパネルへの指または掌の近接を判別して実行するアプリケーションを切り替えるユーザインタフェース装置、その制御方法および制御プログラムに関するものである。
【背景技術】
【0002】
近年、携帯電話やデジタルカメラをはじめとする情報処理端末に搭載されるコンテンツや機能は増加の一途をたどり、コンテンツを閲覧する場合または機能を操作する場合に、ユーザの操作が複雑化してきている。そこで、複雑なコンテンツや機能を簡単に、また直感的に操作可能なユーザインタフェースを実現することが課題となっている。
この課題に対して、例えば特許文献1の操作入力装置は、カメラで撮影した画像に基づいてユーザの手の形状および動きの方向を認識し、認識結果に対応した操作を選択したり、操作のための各種パラメータを変更したりしていた。
また、特許文献2のデータ入力装置は、手または指の部分ごとに異なる掌紋または指紋、その組み合わせを異なるデータに対応付けて格納しておき、掌紋または指紋を読み取ることが可能な画像読み取り手段を手または指の一部に装着して他の指または手の一部を読み取って、対応付けてあるデータに変換して入力を行っていた。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2001−216069号公報
【特許文献2】特開2000−242402号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来のユーザインタフェース装置は以上のように構成されているので、特許文献1,2にはユーザの操作入力を認識するためにタッチパネルを用いることは開示されていなかった。このため、タッチパネルにユーザの指が近接したのか掌が近接したのかを判別して操作に結び付ける技術、および個人差に大きく依存する指紋および掌紋を用いずに指と掌を判別する技術について何ら開示も示唆もされておらず、タッチパネルを用いて複雑なコンテンツや機能を簡単に、直感的に操作させるユーザインタフェースを十分に実現することはできない課題があった。
【0005】
この発明は、上記のような課題を解決するためになされたもので、タッチパネルを有するユーザインタフェース装置において、タッチ操作に対応した機能の操作性を向上させることを目的とする。
【課題を解決するための手段】
【0006】
この発明に係るタッチパネル付きユーザインタフェース装置は、タッチパネルの出力値を用いて、当該タッチパネルへの物体の近接状態を検知する物体近接検出部と、物体近接検出部が近接状態を検知した場合に、出力値から物体がユーザの指か掌かを判別する指/掌判別部と、指/掌判別部が物体を指と判別した場合に、当該指のタッチパネルにおける近接位置座標を検出する座標検出部と、指/掌判別部が判別した結果および座標検出部が検出した近接位置座標に従って、アプリケーションを選択するアプリケーション選択部と、アプリケーション選択部が選択したアプリケーションに対応した表示を行う表示部とを備えるようにしたものである。
【0007】
この発明に係るタッチパネル付きユーザインタフェース装置のユーザインタフェース制御方法は、タッチパネルの出力値を用いて、当該タッチパネルへの物体の近接状態を検知する物体近接検出ステップと、物体近接検出ステップで近接状態を検知した場合に、出力値から物体がユーザの指か掌かを判別する指/掌判別ステップと、指/掌判別ステップで物体を指と判別した場合に、当該指のタッチパネルにおける近接位置座標を検出する座標検出ステップと、指/掌判別ステップで判別した結果および座標検出ステップで検出した近接位置座標に従って、アプリケーションを選択するアプリケーション選択ステップと、アプリケーション選択ステップで選択したアプリケーションに対応した表示を行う表示ステップとを備えるようにしたものである。
【0008】
この発明に係るタッチパネル付きユーザインタフェース装置のユーザインタフェース制御プログラムは、コンピュータを、タッチパネルの出力値を用いて、当該タッチパネルへの物体の近接状態を検知する物体近接検出手段と、物体近接検出手段が近接状態を検知した場合に、出力値から物体がユーザの指か掌かを判別する指/掌判別手段と、指/掌判別手段が物体を指と判別した場合に、当該指のタッチパネルにおける近接位置座標を検出する座標検出手段と、指/掌判別手段が判別した結果および座標検出手段が検出した近接位置座標に従って、アプリケーションを選択するアプリケーション選択手段と、アプリケーション選択手段が選択したアプリケーションに対応した表示を行う表示手段として機能させるようにしたものである。
【発明の効果】
【0009】
この発明によれば、タッチパネルの出力値から近接物体が指か掌かを判別してアプリケーションを選択するようにしたので、通常の指によるタッチ操作に加えて掌による操作も可能となり、タッチ操作に対応した機能の操作性を向上させることができる。また、掌による操作に特定のアプリケーションを対応付けておくことにより、表示画面からこのアプリケーション実行用ボタンを削除でき、画面を簡略化させることができる。
【図面の簡単な説明】
【0010】
【図1】この発明の実施の形態1に係るユーザインタフェース装置の構成を示すブロック図である。
【図2】実施の形態1に係るユーザインタフェース装置の動作を示すフローチャートである。
【図3】図1に示すタッチパネルの構成を示す模式図である。
【図4】図1に示す物体近接検出部がタッチパネルと物体の距離を検出する方法を示す説明図であり、タッチパネルと物体が近接した状態を図4(A)に示し、接触した状態を図4(B)に示す。
【図5】図1に示す指/掌判別部がタッチパネルに指が近接したことを判別する方法を説明する図であり、タッチパネルと指が近接した状態を図5(A)に示し、この状態の静電容量のグラフを図5(B)に示す。
【図6】図1に示す指/掌判別部がタッチパネルに掌が近接したことを判別する方法を説明する図であり、タッチパネルと掌が近接した状態を図6(A)に示し、この状態の静電容量のグラフを図6(B)に示す。
【図7】図1に示すアプリケーション選択部が選択したアプリケーションの説明図であり、指が近接した場合のアプリケーションの例を図7(A)に示し、掌が近接した場合の例を図7(B)に示す。
【図8】この発明の実施の形態2に係るユーザインタフェース装置の構成を示すブロック図である。
【図9】実施の形態2に係るユーザインタフェース装置の動作を示すフローチャートである。
【図10】図8に示すメモリが保存しているセンサ電極の位置座標の情報の構造を示す説明図である。
【図11】タッチパネルに近接した掌の掌ジェスチャに応じた、メモリに保存されるセンサ電極の状態の例を示す説明図である。
【図12】図8に示すアプリケーション選択部が選択したプリケーションの説明図であり、指ジェスチャによる操作の場合のアプリケーションの例を図12(A)に示し、掌ジェスチャによる操作の場合のアプリケーションの例を図12(B)に示す。
【発明を実施するための形態】
【0011】
実施の形態1.
図1は、この発明の実施の形態1に係るユーザインタフェース装置の構成を示すブロック図である。図1に示すように、実施の形態1によるユーザインタフェース装置は、タッチパネル1、物体近接検出部2、指/掌判別部3、座標検出部4、アプリケーション選択部5、表示部6および制御部7から構成される。
【0012】
タッチパネル1は、ユーザの指または掌等、物体による入力を検知し、検知信号を物体近接検出部2へ出力する。物体近接検出部2は、タッチパネル1から出力される検知信号を用いて、物体のタッチパネル1への近接状態を判定する。指/掌判別部3は、物体近接検出部2において物体が近接したと判定された場合に、その物体が指であるか掌であるかを判別し、判別結果を出力する。座標検出部4は、指/掌判別部3において近接した物体が指であると判別された場合に、近接している指のタッチパネル1上の近接位置座標を検出する。アプリケーション選択部5は、指/掌判別部3の判別結果および座標検出部4の近接位置座標に基づいて、実行するアプリケーションを選択する。表示部6は、アプリケーション選択部5によって選択されたアプリケーションに対応して適切な画面表示を行う。制御部7は全体の動作を制御する。
【0013】
次に、実施の形態1によるユーザインタフェース装置の動作を説明する。図2は、実施の形態1に係るユーザインタフェース装置の動作を示すフローチャートである。
先ず、物体近接検出部2が、タッチパネル1への物体の近接があったか否かを判定し(ステップST1)、物体の近接が検知されるまでステップST1の動作を行う。
【0014】
図3は、タッチパネル1の構成を示す模式図である。本実施の形態では、タッチパネル1として、物体10とタッチパネル1との間の微弱な静電容量の変化を検出することで物体10のタッチパネル1への近接(および接触)を検出する静電容量方式の投射容量型タッチパネルを用いる。この他、タッチパネル1として静電容量方式の表面容量型タッチパネルを用いて、静電容量の変化量に従って物体10のタッチパネル1への近接を検出するようにしてもよい。
【0015】
投射容量型のタッチパネル1は、図3に示すように、x方向の座標値を検出するためにy方向と平行に配置された複数のx方向センサ電極11と、y方向の座標値を検出するためにx方向と平行に配置された複数のy方向センサ電極12とから構成される。物体近接検出部2はこれらセンサ電極11,12が出力する検知信号に基づいて、タッチパネル1へ物体10が近接または接触した場合に、x方向センサ電極11およびy方向センサ電極12のうち、x,y方向それぞれどのセンサ電極が反応しているかを検出することで、物体10のタッチパネル1上におけるx,y方向の位置(以下、それぞれx座標、y座標と呼ぶ)を検出することができる。
【0016】
図4は、物体近接検出部2がタッチパネル1と物体10の距離を検出する方法を示す説明図であり、タッチパネル1と物体10の間の静電容量の変化量と距離との関係を示すグラフである。グラフに示すように、タッチパネル1と物体10との距離が近くなるにつれて、タッチパネル1と物体10の間の静電容量が大きくなる。
静電容量の変化の度合いはタッチパネル1と物体10との距離によって変化するため、物体近接検出部2は、タッチパネル1と物体10との間の静電容量の変化度合いから、物体10がタッチパネル1へ近接したか、または接触したかを判定することができる。具体的には、静電容量の変化量が所定の閾値Th1以上の場合(領域A)に物体10がタッチパネル1へ近接したと判定し(図4(A))、閾値Th1未満の場合に近接していないと判定する。さらに、静電容量の変化量が閾値Th2(>Th1)以上の場合(領域B)には、物体10がタッチパネル1に接触したと判定することができる(図4(B))。
【0017】
説明を図2に戻す。物体近接検出部2において物体のタッチパネル1への近接が検出された場合(ステップST1“Yes”)、指/掌判別部3が、近接した物体が指であるか掌であるかを判別する(ステップST2)。
【0018】
図5は指/掌判別部3がタッチパネル1に指10aが近接したことを判別する方法を説明する図であり、図6は掌10bが近接したことを判別する方法を説明する図である。図5(A)に示すようにタッチパネル1に近接した物体が指10aである場合、x方向センサ電極11の静電容量変化の分布は、図5(B)に示すように最も変化の大きいセンサ電極の値を山として急峻な分布21になる。y方向センサ電極12の静電容量変化の分布も同様に急峻な分布になる。一方、図6(A)に示すようにタッチパネル1に近接した物体が掌10bである場合、x,y方向それぞれのセンサ電極11,12の静電容量変化の分布は、図6(B)に示すようになだらかな分布22になり、急峻な分布21のようにはならない。y方向センサ電極12の静電容量変化の分布も同様になだらかな分布になる。従って、指/掌判別部3は、静電容量変化の分布の山の急峻さに基づいて、タッチパネル1に近接した物体が指10aか掌10bかを判別する。
【0019】
なお、指/掌判別部3において、上述した静電容量変化の分布形状を指標に用いず簡易に判別する場合には、各センサ電極の静電容量の変化量21a,22aを指標に用いてもよい。具体的には、指/掌判別部3が、x方向センサ電極11のうち所定の閾値Th2以上の静電容量変化量になるセンサ電極の数を数え、この本数が閾値m未満の場合に指10aがタッチパネル1に近接したと判別し、閾値m以上の場合には掌10bが近接したと判別することで、タッチパネル1に近接した物体が指10aか掌10bかを判別する。指/掌判別部3は、y方向センサ電極12についても同様に判別する。
【0020】
説明を図2に戻す。指/掌判別部3により近接物体が指と判別された場合(ステップST2“指”)、続くステップST3にて座標検出部4が指が近接したタッチパネル1上のx,y座標を検出する。座標検出部4による位置座標検出方法は、上記で図3を用いて説明したように、x方向センサ電極11およびy方向センサ電極12のうち、x,y方向それぞれ最も静電容量変化量の大きいセンサ電極を検出すればよい。このx,y座標が近接位置座標である。
続いて、アプリケーション選択部5が、座標検出部4で検出したx,y座標に基づいて実行するアプリケーションを選択する(ステップST4)。表示部6は、アプリケーション選択部5が選択したアプリケーションに対応して、適切な内容の画面表示を行う(ステップST5)。
【0021】
他方、近接物体が掌と判別された場合(ステップST2“掌”)、続くステップST4においてアプリケーション選択部5が、近接物体が掌である場合に実行するアプリケーションを選択する。表示部6は、アプリケーション選択部5が選択したアプリケーションに対応して、適切な内容の画面表示を行う(ステップST5)。
【0022】
ステップST4においてアプリケーション選択部5が選択するアプリケーションは、指または掌の操作から連想できるようなアプリケーションであることが望ましい。図7(A)にタッチパネル1への近接が指10aの場合に実行するアプリケーションの一例を示し、図7(B)にタッチパネル1への近接が掌10bの場合に実行するアプリケーションの例を示す。なお、タッチパネル1は表示部6の前面に取り付けられて一体となっているものとし、座標検出部4が検出したx,y座標を、表示部6の表示領域中の位置座標として用いる。近接した物体が指10aである場合には、アプリケーション選択部5が、図7(A)のように指10aの位置座標に対応する画面位置に表示されている意味のある表示領域の一部(例えば、1つのアイコン等)を選択するアプリケーションを選択する。他方、近接した物体が掌10bである場合には、アプリケーション選択部5が、図7(B)のように表示領域全体(例えば、全てのアイコン等)を選択するアプリケーションを選択する。図7に示すように指=一部、掌=全体というメタファに則ってアプリケーション選択部5が選択するアプリケーションを指、掌の操作に関連付けておくことで、ユーザが直感的に操作可能なユーザインタフェースを実現することができる。
【0023】
アプリケーション選択部5は、上記以外にも例えば、表示部6に複数ページ有するドキュメントの閲覧画面が表示されているとき、近接した物体が指10aである場合には1ページ戻る/進むアプリケーションを選択し、近接した物体が掌10bである場合には全ページ戻る/進むアプリケーションを選択するようにしてもよい。
また、掌による操作に、ユーザインタフェース装置の電源スイッチのオン/オフ切り替えを制御するアプリケーションを対応付ければ、アプリケーション選択部5は、近接した物体が指10aである場合には通常のアプリケーションを選択し、近接した物体が掌10bである場合には電源スイッチのオン/オフ切り替えを制御するアプリケーションを選択することもできる。
このように、掌による操作に特定のボタンのアプリケーションを対応付けておけば、表示画面内のボタン数を削減することができ、表示画面を簡略化することができる。
【0024】
以上のように、実施の形態1によれば、タッチパネル1への物体の近接状態を検知する物体近接検出部2、および物体がタッチパネル1に近接したと判別された場合に物体がユーザの指であるか掌であるかを判別する指/掌判別部3に加えて、指が近接したのか掌が近接したのかによって実行するアプリケーションを選択するアプリケーション選択部5を備えるように構成した。このため、通常の指によるタッチ操作に加えて、掌による操作も可能となり、タッチパネル1に対応した機能に対する操作性を向上させることができる。また、掌による操作に特定のアプリケーションを対応付けておくことにより、表示画面からこのアプリケーション実行用ボタンを削除でき、画面を簡略化させることもできる。
【0025】
実施の形態2.
上記実施の形態1のユーザインタフェース装置では、物体がタッチパネル1へ近接したことを検知し、さらに、近接した物体がユーザの指であるか掌であるかを判別し、判別結果によって実行するアプリケーションを切り替えることで、通常のタッチ操作に加えて掌による操作を実現した。本実施の形態2では、タッチパネル1に掌が近接したと判別した場合に、掌の動きの方向を認識することによってさらに操作性を向上させたユーザインタフェースを実現する。ここで、ユーザがタッチパネル1に近接させた掌を動かして操作することを掌ジェスチャと呼び、ユーザインタフェース装置がこの掌の動きを認識することを掌ジェスチャ認識と呼ぶ。実施の形態2では、掌ジェスチャを利用する構成のユーザインタフェース装置について述べる。
【0026】
図8は、この発明の実施の形態2に係るユーザインタフェース装置の構成を示すブロック図であり、図1と同一または相当の部分については同一の符号を付す。実施の形態2のユーザインタフェース装置は、上記実施の形態1のユーザインタフェース装置の座標検出部4の後段に、掌ジェスチャを認識する掌ジェスチャ認識部8および掌ジェスチャを認識するための情報を保存しておくメモリ9を追加した点のみが異なる。従って、実施の形態2の説明は実施の形態1と異なる内容のみにとどめ、重複する内容については省略する。
【0027】
次に、実施の形態2によるユーザインタフェース装置の動作を説明する。図9は、実施の形態2に係るユーザインタフェース装置の動作を示すフローチャートである。図9に示すステップST1〜ステップST3の各動作は、図2のステップST1〜ステップST3の各動作と同一であるため、説明を省略する。
なお、ステップST1において、物体近接検出部2が、タッチパネル1への物体の近接を検知しない場合は(ステップST1“No”)、ステップST6にて掌ジェスチャ認識部8がメモリ9の保存する情報を全てクリアする。
【0028】
指/掌判別部3によって近接物体が掌と判別された場合(ステップST2“掌”)、指/掌判別部3が判別の際に用いた、x,y方向それぞれ所定の閾値Th2以上の静電容量の変化量だったセンサ電極のインデックスを、掌ジェスチャ認識部8がメモリ9に保存する(ステップST7)。タッチパネル1に近接した状態で掌ジェスチャが行われれば、掌ジェスチャ中の各時刻のセンサ電極の状態がメモリ9に保存されていく。そして、掌ジェスチャ認識部8がメモリ9の情報を利用して、タッチパネル1上に近接した掌10bがどのように動いたか、即ち掌ジェスチャを認識する(ステップST8)。
【0029】
図10は、メモリ9が保存しているセンサ電極の位置座標の情報の構造を示す説明図である。図10に示すように、メモリ9には、掌がタッチパネル1に近接した状態となったt−n時刻前から最新の時刻tまでのセンサ電極の状態が、全てまたは一部保存されている。xiは、x方向センサ電極11のx座標原点側からのセンサ番号iを示し、yjは、y方向センサ電極12のy座標原点側からのセンサ番号jを示す。掌ジェスチャ認識部8は、センサ電極の状態として、所定の閾値Th2以上の静電容量の変化量を示したセンサ電極に[1]を付与し、閾値Th2未満の静電容量の変化量を示したセンサ電極に[0]を付与して、メモリ9に保存する。
【0030】
図11は、タッチパネル1に近接した掌10bの掌ジェスチャに応じたセンサ電極の状態の例を示す説明図である。図11では、掌10bがx方向と平行に動いた場合にメモリ9に保存される2時刻前(図11(A))、1時刻前(図11(B))、および最新(図11(C))のx方向センサ電極11の各状態を示す。例えば図11(A)においてセンサ番号i=12およびt=2のセンサ電極の状態x1(2),x2(2),・・・,x12(2)は[1,1,1,1,1,1,1,1,0,0,0,0]であり、掌10bの移動と共に、静電容量の変化量の大きい(即ちセンサ電極の状態[1])センサ電極がx方向に移り変わって、最新t=0のセンサ電極の状態x1(0),x2(0),・・・,x12(0)は[0,0,0,0,1,1,1,1,1,1,1,1]となる。従って、掌ジェスチャ認識部8は、静電容量の変化量の大きいセンサ電極の状態の移り変わりを利用すれば、掌10bがx方向に移動したことを認識できる。掌ジェスチャ認識部8は、この掌ジェスチャ認識処理をx方向センサ電極11およびy方向センサ電極12について行い、タッチパネル1上に近接した掌10bがどのように動いたか認識する。
【0031】
なお、ステップST6において、物体が近接していないと判別された場合にメモリ9の内容が全てクリアされているため、連続して近接している状態のみのセンサ電極の状態をメモリ9に保存しておくことができる。
【0032】
説明を図9に戻す。ステップST4において、アプリケーション選択部5は、指/掌判別部3の判別結果から近接物体が指の場合には座標検出部4で検出したx,y座標に基づいて、一方、近接物体が掌の場合には掌ジェスチャ認識部8の掌ジェスチャ認識の結果に基づいて、実行するアプリケーションを選択する。表示部6が、アプリケーション選択部5が選択したアプリケーションに対応して、適切な内容の画面表示を行う(ステップST5)。
なお、近接物体が指の場合、指のx,y座標の時間変化を利用することで、指のジェスチャについても認識することができる。例えば、ユーザインタフェース装置が指ジェスチャ認識部とメモリを備え、近接物体が指と判別された場合に座標検出部4が検出した各時刻のx,y座標をメモリに保存して、指ジェスチャ認識部がx,y座標の時間変化に基づいて指の移動を認識する構成にすればよい。
【0033】
ステップST4においてアプリケーション選択部5が選択するアプリケーションは、指ジェスチャまたは掌ジェスチャの操作から連想できるようなアプリケーションであることが望ましい。図12(A)に指ジェスチャによる操作の場合に実行するアプリケーションの例を示し、図12(B)に掌ジェスチャによる操作の場合に実行するアプリケーションの例を示す。なお、タッチパネル1は表示部6の前面に取り付けられて一体となっているものとし、座標検出部4が検出したx,y座標を、表示部6の表示領域中の位置座標として用いる。近接した物体が指10aであり、かつ、x方向に移動する指ジェスチャの場合には、アプリケーション選択部5が、図12(A)のように複数ページ有するドキュメントの閲覧画面のページを1ページ戻る/進むアプリケーションを選択して、指ジェスチャの移動方向に応じたページめくりを実行する。他方、近接した物体が掌10bであり、かつ、x方向に移動する掌ジェスチャの場合には、アプリケーション選択部5が、図12(B)のように全ページ戻る/進むアプリケーションを選択して、掌ジェスチャの移動方向に応じたページめくりを実行する。図12に示すように指=一部、掌=全体というメタファに則ってアプリケーション選択部5が選択するアプリケーションを指ジェスチャ、掌ジェスチャに関連付けておくことで、ユーザが直感的に操作可能なユーザインタフェースを実現することができる。
【0034】
アプリケーション選択部5は、上記以外にも例えば、指ジェスチャである場合には通常のアプリケーションを選択し、掌ジェスチャの場合にはユーザインタフェース装置の電源スイッチのオン/オフ切り替えを制御するアプリケーションを選択するようにしてもよい。また、表示部6に複数の意味のある表示領域(例えばアイコン)が画面表示されているとき、アプリケーション選択部5は、指ジェスチャである場合には近接した位置座標の表示領域(1つのアイコン)を選択するアプリケーションを選択し、掌ジェスチャである場合には表示領域全体(全てのアイコン)を選択するアプリケーションを選択するようにしてもよい。さらに、掌ジェスチャ認識部8が掌の移動方向に加えて移動速度も認識するようにして(同様に指ジェスチャ認識部も指の移動速度を認識するようにして)、アプリケーション選択部5が移動の方向および速度に応じてアプリケーションを選択してもよい。
このように、掌ジェスチャによる操作に特定のボタンのアプリケーションを対応付けておけば、表示画面内のボタン数を削減することができ、表示画面を簡略化することができる。
【0035】
以上のように、実施の形態2によれば、指/掌判別部3においてタッチパネル1への近接物体が掌であると判別された場合に、タッチパネル1の出力値を用いて掌の動きを認識する掌ジェスチャ認識部8を備えるようにした。このため、掌の近接を利用する上記実施の形態1のユーザインタフェースだけでなく、掌の動きを利用したユーザインタフェースを実現することができる。
【0036】
なお、上記実施の形態1,2のユーザインタフェース装置を、タッチパネル1および表示部6を有するコンピュータで構成する場合、指/掌判別部3、座標検出部4、アプリケーション選択部5、制御部7、掌ジェスチャ認識部8の処理内容を記述しているプログラムをコンピュータの内部メモリに格納し、コンピュータのCPUが内部メモリに格納されているプログラムを実行するようにしてもよい。
【0037】
また、上記実施の形態1,2のユーザインタフェース装置によれば、ユーザがタッチパネル1に触れることなく操作可能となるため、パネルの消耗が少なく、超寿命化の一助になる。
【符号の説明】
【0038】
1 タッチパネル、2 物体近接検出部、3 指/掌判別部、4 座標検出部、5 アプリケーション選択部、6 表示部、7 制御部、8 掌ジェスチャ認識部、9 メモリ、10 物体、10a 指、10b 掌、11 x方向センサ電極、12 y方向センサ電極、21,22 静電容量変化の分布形状、21a,22a 静電容量の変化量。
【特許請求の範囲】
【請求項1】
タッチパネルの出力値を用いて、当該タッチパネルへの物体の近接状態を検知する物体近接検出部と、
前記物体近接検出部が近接状態を検知した場合に、前記出力値から前記物体がユーザの指か掌かを判別する指/掌判別部と、
前記指/掌判別部が前記物体を指と判別した場合に、当該指の前記タッチパネルにおける近接位置座標を検出する座標検出部と、
前記指/掌判別部が判別した結果および前記座標検出部が検出した近接位置座標に従って、アプリケーションを選択するアプリケーション選択部と、
前記アプリケーション選択部が選択したアプリケーションに対応した表示を行う表示部とを備えたタッチパネル付きユーザインタフェース装置。
【請求項2】
タッチパネルの出力値から、近接状態の指または掌の動きを認識するジェスチャ認識部を備え、
アプリケーション選択部は、指/掌判別部が判別した結果および座標検出部が検出した近接位置座標に加え、前記ジェスチャ認識部が認識した結果に従って、アプリケーションを選択することを特徴とする請求項1記載のタッチパネル付きユーザインタフェース装置。
【請求項3】
タッチパネル付きユーザインタフェース装置のユーザインタフェース制御方法であって、
タッチパネルの出力値を用いて、当該タッチパネルへの物体の近接状態を検知する物体近接検出ステップと、
前記物体近接検出ステップで近接状態を検知した場合に、前記出力値から前記物体がユーザの指か掌かを判別する指/掌判別ステップと、
前記指/掌判別ステップで前記物体を指と判別した場合に、当該指の前記タッチパネルにおける近接位置座標を検出する座標検出ステップと、
前記指/掌判別ステップで判別した結果および前記座標検出ステップで検出した近接位置座標に従って、アプリケーションを選択するアプリケーション選択ステップと、
前記アプリケーション選択ステップで選択したアプリケーションに対応した表示を行う表示ステップとを備えたことを特徴とするユーザインタフェース制御方法。
【請求項4】
タッチパネルの出力値から、近接状態の指または掌の動きを認識するジェスチャ認識ステップを備え、
アプリケーション選択ステップは、指/掌判別ステップで判別した結果および座標検出ステップで検出した近接位置座標に加え、前記ジェスチャ認識ステップで認識した結果に従って、アプリケーションを選択することを特徴とする請求項3記載のユーザインタフェース制御方法。
【請求項5】
アプリケーション選択ステップでは、指/掌判別ステップで掌が近接したと判別された場合に、本装置の電源スイッチのオン/オフ切り替えを制御するアプリケーションを選択することを特徴とする請求項3または請求項4記載のユーザインタフェース制御方法。
【請求項6】
アプリケーション選択ステップでは、指/掌判別ステップで掌が近接したと判別された場合に、表示されている全情報を一括して選択するアプリケーションを選択することを特徴とする請求項3または請求項4記載のユーザインタフェース制御方法。
【請求項7】
アプリケーション選択ステップでは、指/掌判別ステップで指が近接したと判別された場合に、座標検出ステップで検出した近接位置座標に表示されている情報を選択するアプリケーションを選択することを特徴とする請求項3から請求項6のうちのいずれか1項記載のユーザインタフェース制御方法。
【請求項8】
アプリケーション選択ステップでは、ドキュメント閲覧画面が表示されているとき、指/掌判別ステップで掌が近接したと判別された場合に当該ドキュメントの複数ページを一括してめくるアプリケーションを選択し、指が近接したと判別された場合に当該ドキュメントの一ページをめくるアプリケーションを選択することを特徴とする請求項3または請求項4記載のユーザインタフェース制御方法。
【請求項9】
タッチパネル付きユーザインタフェース装置のユーザインタフェース制御プログラムであって、
コンピュータを、タッチパネルの出力値を用いて、当該タッチパネルへの物体の近接状態を検知する物体近接検出手段と、
前記物体近接検出手段が近接状態を検知した場合に、前記出力値から前記物体がユーザの指か掌かを判別する指/掌判別手段と、
前記指/掌判別手段が前記物体を指と判別した場合に、当該指の前記タッチパネルにおける近接位置座標を検出する座標検出手段と、
前記指/掌判別手段が判別した結果および前記座標検出手段が検出した近接位置座標に従って、アプリケーションを選択するアプリケーション選択手段と、
前記アプリケーション選択手段が選択したアプリケーションに対応した表示を行う表示手段として機能させるためのユーザインタフェース制御プログラム。
【請求項10】
タッチパネルの出力値から、近接状態の指または掌の動きを認識するジェスチャ認識手段を備え、
アプリケーション選択手段は、指/掌判別手段が判別した結果および座標検出手段が検出した近接位置座標に加え、前記ジェスチャ認識手段が認識した結果に従って、アプリケーションを選択することを特徴とする請求項9記載のユーザインタフェース制御プログラム。
【請求項11】
アプリケーション選択手段は、指/掌判別手段で掌が近接したと判別された場合に、本装置の電源スイッチのオン/オフ切り替えを制御するアプリケーションを選択することを特徴とする請求項9または請求項10記載のユーザインタフェース制御プログラム。
【請求項12】
アプリケーション選択手段は、指/掌判別手段で掌が近接したと判別された場合に、表示されている全情報を一括して選択するアプリケーションを選択することを特徴とする請求項9または請求項10記載のユーザインタフェース制御プログラム。
【請求項13】
アプリケーション選択手段は、指/掌判別手段で指が近接したと判別された場合に、座標検出手段で検出した近接位置座標に表示されている情報を選択するアプリケーションを選択することを特徴とする請求項9から請求項12のうちのいずれか1項記載のユーザインタフェース制御プログラム。
【請求項14】
アプリケーション選択手段は、ドキュメント閲覧画面が表示されているとき、指/掌判別手段で掌が近接したと判別された場合に当該ドキュメントの複数ページを一括してめくるアプリケーションを選択し、指が近接したと判別された場合に当該ドキュメントの一ページをめくるアプリケーションを選択することを特徴とする請求項9または請求項10記載のユーザインタフェース制御プログラム。
【請求項1】
タッチパネルの出力値を用いて、当該タッチパネルへの物体の近接状態を検知する物体近接検出部と、
前記物体近接検出部が近接状態を検知した場合に、前記出力値から前記物体がユーザの指か掌かを判別する指/掌判別部と、
前記指/掌判別部が前記物体を指と判別した場合に、当該指の前記タッチパネルにおける近接位置座標を検出する座標検出部と、
前記指/掌判別部が判別した結果および前記座標検出部が検出した近接位置座標に従って、アプリケーションを選択するアプリケーション選択部と、
前記アプリケーション選択部が選択したアプリケーションに対応した表示を行う表示部とを備えたタッチパネル付きユーザインタフェース装置。
【請求項2】
タッチパネルの出力値から、近接状態の指または掌の動きを認識するジェスチャ認識部を備え、
アプリケーション選択部は、指/掌判別部が判別した結果および座標検出部が検出した近接位置座標に加え、前記ジェスチャ認識部が認識した結果に従って、アプリケーションを選択することを特徴とする請求項1記載のタッチパネル付きユーザインタフェース装置。
【請求項3】
タッチパネル付きユーザインタフェース装置のユーザインタフェース制御方法であって、
タッチパネルの出力値を用いて、当該タッチパネルへの物体の近接状態を検知する物体近接検出ステップと、
前記物体近接検出ステップで近接状態を検知した場合に、前記出力値から前記物体がユーザの指か掌かを判別する指/掌判別ステップと、
前記指/掌判別ステップで前記物体を指と判別した場合に、当該指の前記タッチパネルにおける近接位置座標を検出する座標検出ステップと、
前記指/掌判別ステップで判別した結果および前記座標検出ステップで検出した近接位置座標に従って、アプリケーションを選択するアプリケーション選択ステップと、
前記アプリケーション選択ステップで選択したアプリケーションに対応した表示を行う表示ステップとを備えたことを特徴とするユーザインタフェース制御方法。
【請求項4】
タッチパネルの出力値から、近接状態の指または掌の動きを認識するジェスチャ認識ステップを備え、
アプリケーション選択ステップは、指/掌判別ステップで判別した結果および座標検出ステップで検出した近接位置座標に加え、前記ジェスチャ認識ステップで認識した結果に従って、アプリケーションを選択することを特徴とする請求項3記載のユーザインタフェース制御方法。
【請求項5】
アプリケーション選択ステップでは、指/掌判別ステップで掌が近接したと判別された場合に、本装置の電源スイッチのオン/オフ切り替えを制御するアプリケーションを選択することを特徴とする請求項3または請求項4記載のユーザインタフェース制御方法。
【請求項6】
アプリケーション選択ステップでは、指/掌判別ステップで掌が近接したと判別された場合に、表示されている全情報を一括して選択するアプリケーションを選択することを特徴とする請求項3または請求項4記載のユーザインタフェース制御方法。
【請求項7】
アプリケーション選択ステップでは、指/掌判別ステップで指が近接したと判別された場合に、座標検出ステップで検出した近接位置座標に表示されている情報を選択するアプリケーションを選択することを特徴とする請求項3から請求項6のうちのいずれか1項記載のユーザインタフェース制御方法。
【請求項8】
アプリケーション選択ステップでは、ドキュメント閲覧画面が表示されているとき、指/掌判別ステップで掌が近接したと判別された場合に当該ドキュメントの複数ページを一括してめくるアプリケーションを選択し、指が近接したと判別された場合に当該ドキュメントの一ページをめくるアプリケーションを選択することを特徴とする請求項3または請求項4記載のユーザインタフェース制御方法。
【請求項9】
タッチパネル付きユーザインタフェース装置のユーザインタフェース制御プログラムであって、
コンピュータを、タッチパネルの出力値を用いて、当該タッチパネルへの物体の近接状態を検知する物体近接検出手段と、
前記物体近接検出手段が近接状態を検知した場合に、前記出力値から前記物体がユーザの指か掌かを判別する指/掌判別手段と、
前記指/掌判別手段が前記物体を指と判別した場合に、当該指の前記タッチパネルにおける近接位置座標を検出する座標検出手段と、
前記指/掌判別手段が判別した結果および前記座標検出手段が検出した近接位置座標に従って、アプリケーションを選択するアプリケーション選択手段と、
前記アプリケーション選択手段が選択したアプリケーションに対応した表示を行う表示手段として機能させるためのユーザインタフェース制御プログラム。
【請求項10】
タッチパネルの出力値から、近接状態の指または掌の動きを認識するジェスチャ認識手段を備え、
アプリケーション選択手段は、指/掌判別手段が判別した結果および座標検出手段が検出した近接位置座標に加え、前記ジェスチャ認識手段が認識した結果に従って、アプリケーションを選択することを特徴とする請求項9記載のユーザインタフェース制御プログラム。
【請求項11】
アプリケーション選択手段は、指/掌判別手段で掌が近接したと判別された場合に、本装置の電源スイッチのオン/オフ切り替えを制御するアプリケーションを選択することを特徴とする請求項9または請求項10記載のユーザインタフェース制御プログラム。
【請求項12】
アプリケーション選択手段は、指/掌判別手段で掌が近接したと判別された場合に、表示されている全情報を一括して選択するアプリケーションを選択することを特徴とする請求項9または請求項10記載のユーザインタフェース制御プログラム。
【請求項13】
アプリケーション選択手段は、指/掌判別手段で指が近接したと判別された場合に、座標検出手段で検出した近接位置座標に表示されている情報を選択するアプリケーションを選択することを特徴とする請求項9から請求項12のうちのいずれか1項記載のユーザインタフェース制御プログラム。
【請求項14】
アプリケーション選択手段は、ドキュメント閲覧画面が表示されているとき、指/掌判別手段で掌が近接したと判別された場合に当該ドキュメントの複数ページを一括してめくるアプリケーションを選択し、指が近接したと判別された場合に当該ドキュメントの一ページをめくるアプリケーションを選択することを特徴とする請求項9または請求項10記載のユーザインタフェース制御プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2010−244132(P2010−244132A)
【公開日】平成22年10月28日(2010.10.28)
【国際特許分類】
【出願番号】特願2009−89344(P2009−89344)
【出願日】平成21年4月1日(2009.4.1)
【出願人】(000006013)三菱電機株式会社 (33,312)
【Fターム(参考)】
【公開日】平成22年10月28日(2010.10.28)
【国際特許分類】
【出願日】平成21年4月1日(2009.4.1)
【出願人】(000006013)三菱電機株式会社 (33,312)
【Fターム(参考)】
[ Back to top ]