説明

情報処理方法及び情報処理装置

【課題】タッチパネルで操作されるマウスポインタを指に隠れずに表示させる機能の提供。
【解決手段】指の移動方向と移動速度に応じて、マウスポインタの指に対する出現位置を自動的に変える。本発明は指し示したい方向に指を速めに移動するだけで、意図する方向にマウスポインタが出現するので自然な操作感を得ることができる。

【発明の詳細な説明】
【技術分野】
【0001】
座標入力をする情報入力方法及び情報処理装置に関する。
【背景技術】
【0002】
最近の電子機器の端末装置に見られるような入力手段としてマウスを使用したインターフェースを搭載した装置から、インターネットを通じて多くの閲覧アプリケーションであるWEBブラウザ等を閲覧することが出来る。このWEBブラウザでは、文字や画像などで構成されている多彩なページに、ハイパーリンクが貼られているケースがある。ハイパーリンク上にマウスポインタを移動すると、マウスポインタの形状が変化して、操作者は、マウスポインタがハイパーリンクに置かれ、マウスをクリックすることでそのリンク先に飛ぶことが出来るということを容易に認識できる。ハイパーリンク上の部分をクリックすることでリンク先の新たなWEBページが開き、更なる関連する情報を閲覧することが出来る。
【0003】
近年、液晶表示画面の解像度が大きくなり、WEBブラウザには、より多くの文字、画像を表示することができるようになってきた。解像度の上昇及びディスプレイサイズの小型化が進むに伴い、画面上に表示される文字、画像は細かくなってきている。いかに細かい文字、画像であろうと、マウスでは画面上の任意の部分を指し示すことが出来る。
【0004】
一方、手に持って操作を行なう携帯機器などの装置では、持ち運びながらの画面操作を行なう必要がある。そのためマウスを使用したインターフェースよりも、装置のディスプレイ上に透明なタッチパネルを装備し、直接画面上の部位を接触するインターフェースのものが普及している。タッチパネルによるインターフェースは、瞬時に指し示したい場所を直感的に操作することが可能であるため、すばやく目的の画面上に配置される操作対象を指し示す手段として有効である。
【0005】
そこで、タッチパネルを使用し、マウスポインタのような指示表示を画面上に示す手段を持つ装置において、このような小さな文字、画像を指し示す必要性がでてきた。図1は指でタッチパネルを押した座標と液晶表示部にマウスポインタが表示される座標との位置関係を示している。図1に示すようにタッチパネル1が液晶表示部2に貼り合わせられていて、操作者はタッチパネル1の上に指を乗せる。装置はタッチパネルの検出座標4に基づいて、マウスポインタ5をタッチパネルの検出座標4とマウスポインタが指し示す座標6が同じ位置にあるように液晶表示部2の映像として表示する。図2は図1の指でタッチパネル1を押した座標とマウスポインタが表示される座標を操作者が見たときの透視図である。操作者から見れば、図2のように指の真下にマウスポインタがあるという意識で操作することになる。
【0006】
しかしながら、近年の高解像度の表示画面に表示される小さな文字、画像に張られるハイパーリンクは、指先より小さなものとなっているので、指で指し示そうとしてもマウスポインタ5は自身の指の下に隠れてしまい目視することが出来ない。そのためハイパーリンクが選択状態か否かをマウスポインタの形状の変化により識別することは出来ない。
【0007】
この問題を解決するために従来は以下のような方法を用いていた。
【0008】
第一の方法は、タッチパネルの操作を中断、もしくはタッチパネルを装置に持たないというもので、例えば、マウスを使って、画面上にマウスポインタを表示して、目標とするハイパーリンクを指し示す方法である。
【0009】
類似した方法では、マウスを使わずに遠隔操作でマウスポインタを表示させ、同様の操作をするものもある。たとえば、テレビのリモコンやテレビゲームの十字キーなどのカーソル移動ができるコマンダーなどが該当する。
【0010】
第二の方法は、表示画面上にある透明タッチパネルを指で直に操作するのではなく、指より先の細いペン状のスタイラスを用意して、目標とするハイパーリンクを指し示す方法である。
【0011】
上記の第一と第二の方法は、マウスやペンなどの別の入力手段のための道具を用意することで解決しようとしている。別の入力手段のための道具に手を持ち帰るわずらわしさもあり、また、道具をなくしてしまったら、使用できないなどの問題が起きていた。
【0012】
第三の方法は、指の下にマウスポインタが隠れないように指の周囲にマウスポインタを表示する手段がある(例えば、特許文献1参照。)。また、マウスポインタの表示位置と向きは、マウスポインタが位置する画面の領域によって変化させるように構成されている。
指の真下にマウスポインタがある限り、マウスポインタは指に隠れてしまう。その解決のために特許文献1では、図3に示されるように画面中央に指を置いたときにマウスポインタが指の左側に表示されている状態を示している。この状態であれば、指の左側に表示されるマウスポインタを操作者は指に隠れずに見ることができる。しかし、指を右方向に移動していき、図4に示すように画面の右端に指を移動または、あるいは指を画面の右端に置くと、図5の斜線範囲51に示される領域についてはマウスポインタで示すことは出来ない。図4は操作者が画面右端に指を置いたときにマウスポインタが指の左側に表示されている状態を示している。また、図5は図4で示す画面右端に指を置いたときにマウスポインタが指し示すことができない範囲を示している。
【0013】
これらの問題の解決のために特許文献1の解決手段は、図5に示すような画面右端の斜線範囲51をマウスポインタで指し示すために図6のように画面の右端に近い範囲に指がタッチした場合、指の右側である図6の斜線範囲51の位置にマウスポインタ61を表示するというものである。図6は指を左側に移動して指の右側にマウスポインタ61を表示するようにして、図5でマウスポインタが指し示すことができない範囲51を指し示すようにする説明図である。この方法であれば、画面右端の領域をマウスポインタで指し示すことができる。
【0014】
他にもマウスポインタが指で隠れないように指の上方に表示する方法もある(例えば、特許文献2参照。)。しかしながら、画面の上端付近ではマウスポインタが画面からはみ出してしまう。そのため、画面の上端付近ではマウスポインタを指の上方でなく、指の真下に表示することとしている。結果として、マウスポインタが指で隠れてしまう領域が画面に残る。
【0015】
再び、特許文献1について、図7は図6と同じ位置に指をおいている状態で、指の左側をマウスポインタが指し示している状態を示している。図6の指のタッチ位置と同じ位置に図7のように指を置いた場合にマウスポインタを指の左側(マウスポインタ71)に表示したい場合もありうる。すなわち、同じ指の位置で2つのマウスポインタ位置を指し示したい不都合が発生する。
【先行技術文献】
【特許文献】
【0016】
【特許文献1】特開平11−24841号公報
【特許文献2】特開平9−237157号公報
【発明の概要】
【発明が解決しようとする課題】
【0017】
しかしながら、前述した従来の技術において、第一の方法及び第二の方法では、携帯機器などに採用する場合スタイラスの紛失や、余計な機能の物品を多く携帯しなければならないことによる利便性の低下が考えられる。
【0018】
第三の方法では、画面の上端付近ではマウスポインタが画面からはみ出してしまう。そのため、画面の上端付近ではマウスポインタを指の上方でなく、指の真下に表示することとなる。ゆえに、マウスポインタが指で隠れてしまう領域が画面に残る。
【0019】
また、多くのアプリケーションにおいて、画面全面に多くのタッチ選択可能なボタンやハイパーリンクを散りばめた画面構成を持つものがある。そのようなアプリケーションは、指のタッチ位置のとき、マウスポインタを指の右の位置に表示したい場合と同じ位置に指を置いた場合にマウスポインタを指の左に表示したい場合もありうる。すなわち、同じ指の位置で2つの異なるマウスポインタ位置を指し示したい不都合が発生する。
【0020】
特許文献1は画面の端付近で、マウスカーソルを指より画面の外側に出現させるとしている。操作者はタッチパネルを押す場所によってマウスカーソルが指の右左、上下、斜め方向などに自動的に表示されるのであるが、操作者が意図したところにマウスポインタが表示されるとは限らないことは前述の説明で明らかである。
【0021】
また、特許文献2において、指を離したらすぐにマウスポインタを指の真下に戻すとある。もう一度、指を触れると、マウスポインタは指の上方に表示される。指を離したときにマウスポインタの位置が変わってしまうと指を離す直前に指し示した位置が操作者は分からなくなってしまう問題がある。さらに特許文献2の方法は、タップやダブルタップをした場合にマウスポインタが指し示す位置が指の真下と上方の2つを行き来するので、どちらの位置が選択されるのか判断できない。
【課題を解決するための手段】
【0022】
本発明は、上記の課題を解決するために、タッチパネルを採用しスタイラスやマウスポインタを用いずに、容易に画面上の任意の箇所を指し示すことが出来るマウスポインタの表示手段を提供する。
【0023】
方法としての発明を以下に示す。
【0024】
第1の方法として、入力座標を検出する情報処理方法において、入力座標に関する入力情報を情報入力装置から入手し、入力情報をワークメモリに記録されている情報と比較し、時間的な変化から入力座標の移動方向及び入力座標の移動速度を演算したのちに判断し、入力情報をワークメモリへ記録し、移動速度を予め設定した閾値比較し、移動速度が閾値を超える場合、移動方向から表示領域に表示するマウスポインタの出現方向を選択し、マウスポインタの表示座標を出力する。
【0025】
第2の方法として、上記第1の方法において、情報入力装置に入力情報が検出され続けている間、マウスポインタの出現方向は一定の方向に保持する。
【0026】
第3の方法として、上記第1の方法において、情報入力装置に入力情報が検出され続けている間、マウスポインタの出現方向は更新を続ける。
【0027】
第4の方法として、上記第1ないし第3の方法において、情報入力装置に入力情報が検出されなくなり、予め定めた期間の間に再度入力情報が検出された場合、マウスポインタの出現方向は前回保持した方向とする。
【0028】
第5の方法として、上記第1ないし第3の方法において、情報入力装置に入力情報が検出されなくなり、予め定めた期間を経過した後に再度入力情報が検出された場合、マウスポインタの出現方向を初期位置に更新する。
【0029】
第6の方法として、上記第1ないし第3の方法において、マウスポインタの出現方向は、移動方向の方向と同一である。
【0030】
第7の方法として、上記第1ないし第3の方法において、マウスポインタの出現方向は、移動方向の方向を元にして、入力座標の右上、右下、左上、左下の4種類の位置のいずれかより選択される。
【0031】
また、手段としての発明を以下に示す。
【0032】
第1の手段として、情報処理装置はタッチパネルと、タッチパネル制御部と、液晶表示部と、表示制御部と、タッチパネルで入力した情報を出力するインターフェースと、インターフェースからの信号を元に入力座標を演算するCPUと、入力座標を演算するプログラムを記録するプログラムメモリと、CPUを動作する時に情報を記録する記憶部と、通信、表示、演算、入力などあらゆる制御のプログラムのワーキングエリアとして使用するワークメモリと、により成り立つ。前述のプログラムメモリには、入力座標に関する入力情報を情報入力装置から入手し、入力情報をワークメモリに記録された入力情報と比較し、時間的な変化から入力座標の移動方向及び入力座標の移動速度を判断し、入力情報をワークメモリに記録し、移動速度を予め設定した閾値比較し、移動速度が閾値を超える場合、移動方向から表示領域に表示するマウスポインタの出現方向を選択し、マウスポインタの表示座標を出力するプログラムが記憶されている。
【0033】
第2の手段として、上記第1の手段において、タッチパネルに入力情報が検出され続けている間、マウスポインタの出現方向は一定の方向に保持される。
【0034】
第3の手段として、上記第1の手段において、タッチパネルに入力情報が検出され続けている間、マウスポインタの出現方向は更新を続ける。
【0035】
第4の手段として、上記第1ないし第3の手段において、タッチパネルに入力情報が検出されなくなり、予め定めた期間の間に再度入力情報が検出された場合、マウスポインタの出現方向は前回保持した方向である。
【0036】
第5の手段として、上記第1ないし第3の手段において、タッチパネルに入力情報が検出されなくなり、予め定めた期間を経過した後に再度入力情報が検出された場合、マウスポインタの出現方向を初期位置に更新する。
【0037】
第6の手段として、上記第1ないし第3の手段において、マウスポインタの出現方向は、移動方向の方向と同一である。
【0038】
第7の手段として、上記第1ないし第3の手段において、マウスポインの出現方向は、移動方向の方向を元にして、入力座標の右上、右下、左上、左下の4種類の位置のいずれかを選択する。
【発明の効果】
【0039】
従来の方法であるタッチパネル上に指を置く位置からマウスポインタの指に対する出現位置を決める方法は、操作者が指の周りのどこにマウスポインタが出現するかわかりづらい。また、表示画面の全部の領域を指し示すことができないので、マウスポインタの指に対する出現箇所をスイッチなどで切り替えるなどの必要があるなど操作者は戸惑うことになるが、本発明はマウスポインタを指し示したい方向に指を速めに移動するだけで意図する方向にマウスポインタが出現するので自然な操作感を得ることができる。
【0040】
また、本発明の機能は、タッチパネルドライバー側にのみ実装することで実現できるので、画面の座標制御をつかさどるOS、アプリケーションの変更をせずに本機能を従来のタッチパネルと入れ替えて使用することができることから、少ない開発投資で本機能を実現できる利点も併せ持っている。
【図面の簡単な説明】
【0041】
【図1】タッチパネルを押した座標とマウスポインタが表示される位置関係を説明する図。
【図2】指の真下にマウスポインタが表示される場合を説明する図。
【図3】画面中央に指を置いたときにマウスポインタが左に表示されている状態を示す図。
【図4】画面右端に指を置いたときに指の左側にマウスポインタが表示されることを示す図。
【図5】マウスポインタで指し示すことができなくなる範囲を説明する図。
【図6】特許文献1による解決方法の操作性の不自然さを説明する図。
【図7】特許文献1による解決方法の操作性の不自然さを説明する図。
【図8】マウスカーソルの表示位置を決定する流れを説明する図。
【図9】指と離れたところにマウスポインタの出現座標を示す図。
【図10】指がX方向にVkより大きな速度あるいは−Vkより小さな速度で移動したときにマウスポインタの表示位置が変わることを説明する図。
【図11】指がY方向にVkより大きな速度あるいは−Vkより小さな速度で移動したときにマウスポインタの表示位置が変わることを説明する図。
【図12】マウスポインタの出現位置が変わる速度の範囲をXY座標系で説明する図。
【図13】指がX,Y両方向にVkより大きな速度、−Vkより小さな速度で移動したときにマウスポインタの表示位置が変わることを説明する図。
【図14】指の移動ベクトルとマウスポインタの出現位置を説明する図。
【図15】装置の構成の実施例を説明する図。
【図16】画面上に現れるマウスポインタを説明する図。
【図17】マウスポインタが項目を選択したときに形状が変化したことを説明する図。
【図18】指で項目を選択したときにマウスポインタが指の下に表示されるので見えなくなることを説明する図。
【図19】指で項目を選択したときにマウスポインタが指の左上表示されることを説明する図。
【図20】項目を選択したときにマウスポインタが指の左上に形状を変えて表示されることを説明する図。
【図21】マウスポインタが画面上を指し示すことができる範囲を示す図。
【図22】マウスポインタが画面上を指し示すことができない範囲を示す図。
【図23】指の左上に表示されるマウスポインタが画面右上のハイパーリンクを指し示せないことを説明する図。
【図24】マウスポインタを指の左上から右上に表示を切り替えることにより、画面右上のハイパーリンクを指し示せることを説明する図。
【図25】マウスポインタを3次元座標で操作する様子を説明する図。
【発明を実施するための形態】
【0042】
以下に本発明を実施するための形態について図面を参照して説明する。
【実施例】
【0043】
本発明は、液晶画面などに表示される指先より小さな文字、画像に張られるハイパーリンクなどを指で指し示す新たな手段を提供する。以下の例では、表示画面上にある透明タッチパネルに表示される指先より小さな文字、画像に張られるハイパーリンクを指で直接タッチパネルを操作して、それを指し示す本発明の手段を例に説明するものとする。
以下の説明では、マウスポインタを画面上の意図的に指し示したい場所に指示表示位置を指し示す指示手段として説明しているが、同様な指示手段であるカーソルや領域を指し示すポインタあるいは、指し示す領域の色が反転するような指示手段であっても良い。
【0044】
本発明は、指の直下にマウスポインタを表示するのではなく、指の周囲にマウスポインタを表示させるようにする。
【0045】
指の位置とマウスポインタの表示位置との関係は、あらかじめ定義されたオフセット値を持った座標距離をもって離れた位置に表示するものとし、マウスポインタの表示位置を指の移動方向と移動速度から表示位置を決めるものとする。
【0046】
動作を説明するに当って、便宜上以下のような定義をする。
【0047】
図8は本発明の具体的な処理の流れの例を示している。
【0048】
図1において、タッチパネルの検出座標4は座標(X0,Y0)と定義し、マウスポインタが指し示す座標6を座標(X1,Y1)とする。
【0049】
図8の処理81ではタッチパネルの検出座標4(X0,Y0)を得ている。
【0050】
図2は操作者がマウスポインタが指し示す座標6を指の上から見たときにタッチパネルの検出座標4(X0,Y0)はマウスポインタが指し示す座標6(X1,Y1)と同じ、すなわち数1及び数2のようにキャリブレーションされた状態にあることを図2は説明している。
(数1) X1 = X0
(数2) Y1 = Y0
これは、通常用いられるペンを使用したタッチパネルで運用される座標と同じ概念である。すなわち、タッチパネルの検出座標4(X0,Y0)が、表示上の論理的な座標に変換されて、アプリケーションソフトは、マウスポインタが指し示す座標6(X1,Y1)から、ボタンやハイパーリンクが選択されたかどうかを知ることができる。
【0051】
本発明の一例として、以下に示すように表示上の論理的な座標を指先の大きさ分以上タッチパネルの検出座標4(X0,Y0)から離れた相対的なオフセット位置(Xa、Ya)に表示する。
【0052】
すなわち以下の数3及び数4で示される。
(数3) X1 = X0 + Xa
(数4) Y1 = Y0 + Ya
数3、数4のタッチパネルの検出座標4(X0,Y0)とマウスポインタが指し示す座標6(X1,Y1)の関係は、図9で示す位置関係に図示される。
【0053】
図8の処理82では、指の移動方向と移動速度を得ている。
【0054】
タッチパネルを押し続けたままの移動による操作で、その移動速度によってマウスポインタの出現座標(X1,Y1)が先の数3、数4によって、決まるものとする。
【0055】
Xa,Yaの具体的な設定方法について説明する。
【0056】
Xa,Yaはあらかじめ設定した初期値Xa0,Ya0をもっているものとする。
【0057】
すなわち、Xa,Yaの初期値は以下の数5、数6で示される。
(数5) Xa = −Xa0
(数6) Ya = −Ya0
図9はあらかじめ設定した初期値である数5、数6にあるときの指とマウスポインタの座標の関係を図示したものである。
【0058】
初期値Xa0,Ya0がいずれも正の定数であれば、タッチパネルを押された座標(X0,Y0)は表示上の論理的な座標(X1,Y1)の関係は図9で示すように指の右上にマウスポインタが表示される。
【0059】
本発明の機能は、タッチパネルを押された座標の時間的な変化があらかじめ定めた敷居値を超えた場合にXa,Yaが変わるというものであるの。タッチパネルを押された座標の時間的な変化すなわち移動速度を(Vx,Vy)とする。図8の符号83では、指の移動速度の判断処理が行なわれる。
【0060】
Xa、Yaは以下の数7から数10の条件で変化する。
(数7) Vx > Vk のとき、 Xa = Xa0
(数8) Vx < −Vk のとき、 Xa = −Xa0
(数9) Vy > Vk のとき、 Ya = Ya0
(数10) Vy < −Vk のとき、 Ya = −Ya0
Vxがあらかじめ定められた定数Vkを超えると、数7で示されるようにXaは正数Xa0になる。
【0061】
図10、図11、図13は数7〜数10に基づいた指の触れた座標(X0,Y0)とマウスポインタ(X1,Y1)の関係を示している。X方向の移動について、図10(b)は数7で示す指の移動速度の条件のときにマウスポインタが指の右方向に表示位置を変えることを示している。同様に図10(a)は数8で示す指の移動速度の条件のときにマウスポインタが指の左方向に表示位置を変えることを示している。Y方向の移動については、図11(b)は数9で示す指の移動速度の条件のときにマウスポインタが指の下方向に表示位置を変えることを示している。同様に図11(a)は数10で示す指の移動速度の条件のときにマウスポインタが指の上方向に表示位置を変えることを示している。
【0062】
図12はXY座標系でX及びY方向の速度とマウスポインタの指に対する出現位置が変化する範囲を図示している。図12(a)はX方向についてのマウスポインタが出現する位置の変化する範囲を斜線範囲124および125で示しており、122で示すVx=−Vkの位置より小さい斜線範囲124では数8が適用される。123で示すVx=Vkの位置より大きい斜線範囲125では数7が適用される。
【0063】
図12(b)はY方向についてのマウスポインタが出現する位置の変化する範囲を斜線範囲128および129で示しており、126で示すVy=−Vkの位置より小さい斜線範囲128では数10が適用される。127で示すVy=Vkの位置より大きい斜線範囲129では数9が適用される。
【0064】
図13は指のXおよびY方向の移動速度Vx、Vyが−VkあるいはVkを超えたときに指とマウスポインタとのXおよびY方向位置関係が変化することを示している。先の図12との関係と説明すると、図12(a)の124の範囲では図13(a)あるいは図13(c)の位置にマウスポインタが表示され、図12(a)の125の範囲では図13(b)あるいは図13(d)の位置にマウスポインタが表示される。
【0065】
図12(b)の128の範囲では図13(a)あるいは図13(b)の位置にマウスポインタが表示され、図12(b)の129の範囲では図13(c)あるいは図13(d)の位置にマウスポインタが表示される。
結果、マウスポインタの出現位置は、図13に示すように指の真下より所定された距離を置いた左上、左下、右上、右下4箇所のいずれかに現れるものとする。
【0066】
上記、指の移動方向からマウスの出現位置を選択する処理は図8の処理84で示すものである。また、図8の処理85にてマウスポインタを座標(X1,Y1)で指し示す位置に表示することとしている。
【0067】
図14はマウスポインタの出現候補の箇所を増やした例を示している。
【0068】
上記実施例では、マウスポインタの出現位置が指の周りの4箇所に限定されるが、本発明の請求項は、出現位置は4箇所に限定する必要はなく、例えば図14に示すように指の周囲にいくつかの出現箇所があって、その出現位置がマウスポインタの移動方向と移動速度によって選択されるというものでも良いことは明らかである。すなわち移動速度のベクトルがある値を超えたときに移動速度のベクトルの方向の情報からマウスポインタを出現させる位置を決めるようにしても良い。
【0069】
具体的には、指の移動ベクトルのスカラー量がVkを超えていたときに先のマウスポインタの出現箇所を新たな表示箇所とする。
【0070】
次に指の移動ベクトルを各移動ベクトルの候補の方向のスカラー量を求めて、もっとも最大のものをマウスポインタの出現箇所の候補とする。
【0071】
あるいは、前述のXY座標平面を極座標に見直して、指の移動ベクトルの角度がマウスポインタの出現箇所にもっとも近いものを出現箇所の候補とするなどとしてもよい。
【0072】
図14にて具体的な手段を説明する。140は指の移動ベクトルであり、指の移動方向と移動速度を示している。マウスポインタが指に隠れない指のタッチ位置から距離を持った位置候補141にマウスポインタA(142)〜マウスポインタH(149)をマウスポインタの出現候補とする。
【0073】
指の移動ベクトル141のスカラー量が定められた設定量Vkを超えたときにマウスポインタの出現位置を新たに選択し直すべく次にマウスポインタA(142)〜マウスポインタH(149)の候補からいずれか1つを選択する。
【0074】
図14では説明をわかりやすくするためにマウスポインタA(142)とマウスポインタB(143)についていずれが選択されるのかその方法を図示している。指の移動ベクトル141のマウスポインタA(142)およびマウスポインタB(143)のスカラー量を指の移動ベクトル141よりそれぞれに垂線を降ろして、それぞれの量を指の移動ベクトルの142方向のスカラー量(142a)および指の移動ベクトルの143方向のスカラー量(143a)とする。図14より数11が示される。
(数11) 142a < 143a
143のベクトル方向のスカラー量が142のベクトル方向のスカラー量より大きいと判断して、マウスポインタB(143)を選択する。結果として、143方向にあるマウスポインタB(143)が選択されて表示されることになる。指の移動ベクトル141のスカラー量が定められた設定量Vkを超えない場合には、タッチパネルの検出座標とマウスポインタ表示位置の相対位置は変化しないものとする。
【0075】
本発明では、指をあらかじめ定めた時間t以上離した場合に、マウスポインタを常に指の左上などあらかじめ定める所定位置に表示するようにする。すなわち数12及び数13のように設定するものとすればよい。
(数12) Xa = −Xa0
(数13) Ya = −Ya0
この機能は、タップなどの操作との区別にも作用する。
【0076】
例えば、ハイパーリンクを指し示したときにマウスポインタが形状を変化させる。その後、操作者はこれをタップするとする。このとき、わずかな時間、指がタッチパネルを離れる。その場合にマウスポインタの出現位置が変わってしまっては操作者が混乱するので、タップと認識される間隔時間より時間tを大きくしておけばよい。そのようにすれば、タップによってマウスポインタの出現位置が変化せず同じ場所にとどまるので操作者はマウスポインタで選択した対象を認識してタップを実行できる。
【0077】
アプリケーションソフトウェアの性質からマウスポインタの表示位置が、指の左上の位置に固定であった方が都合のよい場合は、本発明の機能をOFFとすることができても良い。例えば、ドローイング、文字入力など指の移動でマウスポインタの出現位置が移動しては困るようなアプリケーションでは、本発明の機能をOFFとしてマウスポインタを常に指の左上に表示するようにしてもよい。
【0078】
タッチパネル制御部では、指が押された座標を取得する。指が押されたまま移動するときに、指の移動方向と移動速度を座標の時間的変化から得ることができる。移動方向からマウスポインタの指の周囲の出現位置を選択し、移動速度がある定めた値を超えたときに指の真下から距離を置いた選択された出現位置にマウスポインタの座標を決定する。表示制御部は得られたマウスポインタ位置にマウスポインタを表示する。OSは得られたマウスポインタの位置情報をもって制御を行なう。
【0079】
本発明は、携帯端末のような多くの文字情報を画面上に表示して、それをマウスポインタで選択するような用途に使用することが適している。
例えば、携帯電話のWEBブラウザの操作や、PDAに表示される地図表示にアイコンや文字があり、これにハイパーリンクがあってマウスポインタで指し示すようなアプリケーションにも有効である。
【0080】
図1の液晶表示部2は、携帯電話で用いられる数インチサイズのものから、PDA端末のような10インチサイズのものなどの大きさを問わない液晶表示とする。表示部は液晶だけでなく、CRTのようなブラウン管のモニタであってもかまわない。
タッチパネル1は、静電容量方式、抵抗膜方式、超音波方式、温度検出方式、電磁誘導方式などで液晶表示に重ねて表示の内容が透けて見える透明な座標検出ができるタッチパネルである。
【0081】
また、液晶表示部2とタッチパネル1を一体とした液晶表示体であってもよい。
【0082】
図15は本発明の実施形態の構成例であり、これを説明する。
【0083】
液晶表示部2の表示上面にタッチパネル1が貼り合わさっている。液晶表示部2は表示制御部から表示データ158を受け取って、液晶をドライブして表示する。タッチパネル1は操作者がタッチパネル1を触ると指3の検出情報157はタッチパネル制御部155へ渡される。指3の検出情報157には指の距離情報、指を押した強さ、面積、指の本数などの情報のもととなる電気信号を有している。
【0084】
タッチパネル制御部は指3の検出情報より演算処理により、指のXY座標、指を押した強さ、面積、指の本数などを座標データ159として取り出す。
【0085】
座標データ159はタッチパネルインターフェース153を介してCPU150へ伝達される。タッチパネルインターフェース153はUSB、PS2インターフェース、I2C−BUS、同期式、非同期式シリアルなどが一般的なインターフェースとして使われる。
【0086】
CPU150はプログラムメモリに動作をつかさどるプログラムが格納されていて、これを読み出して実行する。装置はソフトウェアとしてOSを積んでいるものがあり、多くの場合、記憶部にOSのプログラムを格納する。記憶部は先のプログラムメモリ152と同様な半導体メモリやハードディスクなどである。CPU150はワークメモリ154を通信、表示、演算、入力などあらゆる制御のプログラムのワーキングエリアとして使用する。ワークメモリ154は半導体メモリであり、今日はSRAM、DRAMが主流となっている。
【0087】
表示制御部156は、接続される出力デバイスであるLCDやモニタなど表示デバイスに表示画像を映像として出力する。表示制御部156には表示メモリを表示されるイメージとして画面1枚もしくは複数のバッファとして用意しており、これを表示サイクルに応じてスキャンして読み出し、表示デバイスに送り出す。CPU150はマウスポインタの画像を、背景画像と共に表示メモリに書き出す。そして、表示制御部156はこれを表示デバイスに表示データとして送り出して、マウスポインタとその背景画像を表示デバイスに表示する。
【0088】
図16はファミリーレストラン、居酒屋などで使用されるウェイトレスが調理の注文をするオーダリング端末を本発明の例として説明する図である。
【0089】
図16はオーダリング端末に3品のオーダーメニューが表示された状態である。ウェイトレスは3品のいずれかをタッチパネルを使用して、画面上に表示されているハイパーリンクのステーキ161、ハンバーグ162、サラダバー163のいずれかを選択する。164のマウスポインタは、前述したハイパーリンクのいずれも選択しない状態にある。
【0090】
図17は図16のオーダー注文端末にて注文項目をマウスポインタが選択したときの説明をする図である。
【0091】
図17はマウスポインタ171がハンバーグ162を選択した状態にあり、マウスポインタ171の形状が図16のマウスポインタ164から指のマークに変化していることを示している。
【0092】
図18は指でオーダー注文端末の注文項目を押して選択したときの図である。
【0093】
しかしながら、ウェイトレスが持ち歩くオーダリング端末はその携帯性を重視して装置の形状を小さく、画面を小さく、表示されるメニューも小さくなる傾向にある。また、ハイパーリンクが張られている画面上の3品のメニューが小さく表示される場合には、図18のようにマウスポインタが指3の下に隠れてしまう問題が発生する。そのために指3の下でハンバーグが選択されて、図17の171のようにマウスポインタ形状が変化していたとしてもそれをウェイトレスは見ることができない。
【0094】
この問題を回避するために指でなく先の小さなペンを使用してタッチパネルを操作すれば、図17のような変化するマウスポインタ171が、押されたペンの隙間から確認できる。しかし、注文をとるたびにペンを取り出す時間と手間が必要になり、ペンを紛失するリスクもあり、運用に支障をきたすことになる。結果として、このような不便な仕様を持つペンを使用した携帯端末の用途は限られたものになっている。
【0095】
従来のタッチパネルの操作に指を使用したときの問題について図18を使用して説明すると、指3の下にマウスポインタが隠れてしまい不便となることが理解できる。
【0096】
図19は指の左上にマウスポインタが表示されるようにしたときの説明をする図である。
【0097】
図20は注文したいオーダーにマウスポインタが移動するように指3を移動してマウスポインタ211が選択されたことを示した図である。
【0098】
図19は常に指3の左上にマウスポインタ191が表示されるようにした場合である。指3とマウスポインタ191との関係は図9のように指に隠れないような距離を持ってマウスポインタ5を指3から離した距離に表示する。このような手段を使って図20のようにハンバーグを選択する位置まで指を移動してマウスポインタの形状が変化することが確認できるようになる。
【0099】
このようにして指の左上に表示するようにしたマウスポインタは図21のような表示画面の範囲を指し示すことができることがわかる。画面の左上を指し示したい場合は、指を211の位置に置き、マウスポインタを215の位置に表示する。画面の左下を指し示したい場合は、指を212に位置に置き、マウスポインタを216の位置に表示する。画面の右上を指し示したい場合は指を213の位置に置き、マウスポインタを217の位置に表示する。画面の右下を指し示したい場合は、指を214の位置に置き、マウスポインタを218の位置に表示する。しかし、図21及び図22の斜線範囲219ように指し示すことができない範囲が存在する。
【0100】
図23はオーダー注文端末の画面の上端にページ移動のハイパーリンクを設けた例を示している。この様なアプリケーションでは、マウスポインタ231が指232の左上に表示されているために、画面右上の「次のページ」と記したハイパーリンク234をマウスポインタ231で指し示すことができない。
【0101】
図24はオーダー注文端末の画面にて指を移動してマウスポインタを右上端のハイパーリンクを指し示すことに成功する例を示している。本発明では図24のように指を242の位置から244の位置に243で示す方向に右上方向に定めた速度を超えて移動する。その後、マウスカーソル245の位置が指の右上に表示される。操作者は徐々に「次のページ」と記したハイパーリンク234を指し示す位置に移動しながら指し示すことができるようになる。
【0102】
本発明の説明ではタッチ位置検出機能として、透明タッチパネルを実施例に説明してきたが、タッチ位置検出機能の範疇として例えば3次元に操作できる指のタッチ位置検出機能を定義してもよい。例えば、3次元上に浮かんで見える映像を指でタッチするタッチ位置検出機能によって検出される指の位置から、マウスポインタを操作者が指で隠れないように指の周りにマウスポインタを表示するといった構成のものに使用することもできる。
【0103】
図25は、表示画面の上に操作するタッチパネルがある場合に限らず、表示イメージおよびマウスポインタがX,Y,Z軸を持つ3次元空間に存在するような3次元座標で操作する場合にも利用できることを説明するものである。符号256,257,258は指し示したい対象物であるイメージが3次元座標に存在するように映像されていて、それぞれイチゴのイメージ、ぶどうのイメージ、桃のイメージが表示されている。操作者の指251は、それらを指し示すように3次元の方向に操作できるものである。しかしながら、操作者の視線254は指を見ているが、視線254の向こう側にマウスポインタが存在しても、それが対象物であるイメージをさしているのか指に隠れて確認できない。操作者はイメージ256を指し示したいとするならば、XY座標方向に指を256方向にすばやく移動することで、マウスポインタ252の位置にマウスポインタを表示させ、さらにゆっくりと対象物のイメージ256を指し示すように指を操作して、視線253の方向にマウスポインタ252を指252に隠れずに対象物のイメージ256を指し示すことができるようになる。
【0104】
また、3次元座標上において、マウスポインタの出現方向はXY座標面に限定されたものに限らず、Z軸方向を加え、3次元座標上の移動方向に対応した方向にマウスポインタを出現させることも出来る。
【符号の説明】
【0105】
1 タッチパネル
2 液晶表示部
3 指
4 タッチパネルの検出座標
5 マウスポインタ
6 マウスポインタで示す座標
21 タッチパネルの検出座標と同一座標にあるマウスポインタ
31 指の左側にあるマウスポインタ
41 指の左側にあるマウスポインタ
51 マウスポインタ選択不可範囲
61 指の右側に表示されるマウスポインタ
71 指の左側に表示されるマウスポインタ
81 指のタッチ座標を得る処理
82 指の移動方向、移動速度を求める処理
83 移動速度が敷居値を越えたか判断する処理
84 移動方向からマウスポインタ出現位置を選択する処理
85 マウスポインタを表示する処理
91 Y軸オフセット距離 Ya
92 X軸オフセット距離 Xa
101 指の左上に表示されるマウスポインタ
102 指の右上に表示されるマウスポインタ
103 X軸負方向へのオフセット距離 Xa = −Xa0
104 X軸正方向へのオフセット距離 Xa = Xa0
111 指の右上に表示されるマウスポインタ
112 指の右下に表示されるマウスポインタ
113 Y軸正方向へのオフセット距離 Ya = Ya0
114 Y軸負方向へのオフセット距離 Ya = −Ya0
121 XY両方向とも速度0の位置
122 Vx = −Vkの位置
123 Vx = Vkの位置
124 数8が適用されるX方向の速度の領域(斜線部分)
125 数7が適用されるX方向の速度の領域(斜線部分)
126 Vy = −Vkの位置
127 Vy = Vkの位置
128 数10が適用されるY方向の速度の領域(斜線部分)
129 数9が適用されるY方向の速度の領域(斜線部分)
131 指の左上に表示されるマウスポインタ
132 指の右上に表示されるマウスポインタ
133 指の左下に表示されるマウスポインタ
134 指の右下に表示されるマウスポインタ
135 Y軸正方向へのオフセット距離 Ya = Ya0
136 X軸負方向へのオフセット距離 Xa = −Xa0
137 X軸正方向へのオフセット距離 Xa = Xa0
138 Y軸負方向へのオフセット距離 Ya = −Ya0
140 指の移動ベクトル
141 マウスポインタの位置候補
142 マウスポインタ表示位置A
142a 指の移動ベクトルの142方向のスカラー量
143 マウスポインタ表示位置B
143a 指の移動ベクトルの143方向のスカラー量
144 マウスポインタ表示位置C
145 マウスポインタ表示位置D
146 マウスポインタ表示位置E
147 マウスポインタ表示位置F
148 マウスポインタ表示位置G
149 マウスポインタ表示位置H
150 CPU
151 記憶部
152 プログラムメモリ
153 タッチパネルインターフェース
154 ワークメモリ
155 タッチパネル制御部
156 表示制御部
157 指の検出情報
158 表示データ
159 タッチパネルの検出座標データ
161〜163 ハイパーリンク文字
164 ハイパーリンク非選択時のマウスポインタ
171 ハイパーリンク選択時のマウスポインタ
191 ハイパーリンク非選択時のマウスポインタ
201 ハイパーリンク選択時のマウスポインタ
211 左上にある指
212 左下にある指
213 右上にある指
214 右下にある指
215,216,217,218 指の左上に表示されるマウスポインタ
219 マウスポインタ選択不可範囲
231 ハイパーリンク非選択時のマウスポインタ
232 指
233、234 ハイパーリンク文字
241 移動前のマウスポインタ
242 移動前の指
243 指の移動ベクトル
244 移動後の指
245 移動後のマウスポインタ
251 指
252 マウスポインタ
253 操作者の視点A
254 操作者の視点B
255 操作者の目
256 イチゴのイメージ
257 ぶどうのイメージ
258 桃のイメージ

【特許請求の範囲】
【請求項1】
入力座標を検出する情報処理方法において、
入力座標に関する入力情報を情報入力装置から入手し、
前記入力情報をワークメモリに記録されている情報と比較し、時間的な変化から入力座標の移動方向及び入力座標の移動速度を演算したのちに判断し、
前記入力情報を前記ワークメモリへ記録し、
前記移動速度を予め設定した閾値比較し、
前記移動速度が前記閾値を超える場合、前記移動方向から表示領域に表示するマウスポインタの出現方向を選択し、
マウスポインタの表示座標を出力する情報処理方法。
【請求項2】
前記情報入力装置に入力情報が検出され続けている間、前記マウスポインタの出現方向は一定の方向に保持される請求項1に記載の情報処理方法。
【請求項3】
前記情報入力装置に入力情報が検出され続けている間、前記マウスポインタの出現方向は更新を続ける請求項1に記載の情報処理方法。
【請求項4】
前記情報入力装置に入力情報が検出されなくなり、予め定めた期間の間に再度入力情報が検出された場合、前記マウスポインタの出現方向は前回保持した方向である請求項1ないし3のいずれか1項に記載の情報処理方法。
【請求項5】
前記情報入力装置に入力情報が検出されなくなり、予め定めた期間を経過した後に再度入力情報が検出された場合、前記マウスポインタの出現方向を初期位置に更新する請求項1ないし3のいずれか1項に記載の情報処理方法。
【請求項6】
前記マウスポインタの出現方向は、前記移動方向の方向と同一である請求項1ないし3のいずれか1項に記載の情報処理方法。
【請求項7】
前記マウスポインタの出現方向は、前記移動方向の方向を元にして、前記入力座標の右上、右下、左上、左下の4種類の位置のいずれかから選択される請求項1ないし3の何れか1項に記載の情報処理方法。
【請求項8】
タッチパネルと、
タッチパネル制御部と、
液晶表示部と、
表示制御部と、
前記タッチパネルで入力した情報を出力するインターフェースと、
前記インターフェースからの信号を元に入力座標を演算するCPUと、
前記入力座標を演算するプログラムを記録するプログラムメモリと、
前記CPUを動作する時に情報を記録する記憶部と、
通信、表示、演算、入力などあらゆる制御のプログラムのワーキングエリアとして使用するワークメモリと、
により成り立つ情報処理装置において、
前記プログラムメモリには、
入力座標に関する入力情報を情報入力装置から入手し、
前記入力情報を前記ワークメモリに記録された入力情報と比較し、時間的な変化から入力座標の移動方向及び入力座標の移動速度を判断し、
前記入力情報を前記ワークメモリに記録し、
前記移動速度を予め設定した閾値比較し、
前記移動速度が前記閾値を超える場合、前記移動方向から表示領域に表示するマウスポインタの出現方向を選択し、
マウスポインタの表示座標を出力するプログラムが記憶されている情報処理装置。
【請求項9】
前記タッチパネルに入力情報が検出され続けている間、前記マウスポインタの出現方向は一定の方向に保持される請求項8に記載の情報処理装置。
【請求項10】
前記タッチパネルに入力情報が検出され続けている間、前記マウスポインタの出現方向は更新を続ける請求項8に記載の情報処理装置。
【請求項11】
前記タッチパネルに入力情報が検出されなくなり、予め定めた期間の間に再度入力情報が検出された場合、前記マウスポインタの出現方向は前回保持した方向である請求項8ないし10のいずれか1項に記載の情報処理装置。
【請求項12】
前記タッチパネルに入力情報が検出されなくなり、予め定めた期間を経過した後に再度入力情報が検出された場合、前記マウスポインタの出現方向を初期位置に更新する請求項8ないし10のいずれか1項に記載の情報処理装置。
【請求項13】
前記マウスポインタの出現方向は、前記移動方向の方向と同一である請求項8ないし10のいずれか1項に記載の情報処理装置。
【請求項14】
前記マウスポインの出現方向は、前記移動方向の方向を元にして、前記入力座標の右上、右下、左上、左下の4種類の位置のいずれかを選択する請求項8ないし10のいずれか1項に記載の情報処理装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate


【公開番号】特開2011−81447(P2011−81447A)
【公開日】平成23年4月21日(2011.4.21)
【国際特許分類】
【出願番号】特願2009−230873(P2009−230873)
【出願日】平成21年10月2日(2009.10.2)
【出願人】(000002325)セイコーインスツル株式会社 (3,629)
【Fターム(参考)】