入力装置、入力装置の制御方法、入力装置の制御プログラム、コンピュータ読取可能な記録媒体、および情報端末装置
【課題】ユーザにとって利便性及び操作性の高い入力装置を提供する。
【解決手段】第1表示/光センサ部300A、及び第2表示/光センサ部300Bが、共に指の像を検知したか否かを判定する検知判定部810と、検知判定部810が、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが共に指の像を検知したと判定した場合に、第1表示/光センサ部300A、及び第2表示/光センサ部300Bがそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出部830と、を備える。これにより、ユーザは、様々な指の像の動きを第1表示/光センサ部300A、及び第2表示/光センサ部300Bに検出させることによって、従来の入力装置では実現できなかった多彩で立体的な操作を経験でき、また、そのような操作によって、優れた利便性及び操作性が提供される。
【解決手段】第1表示/光センサ部300A、及び第2表示/光センサ部300Bが、共に指の像を検知したか否かを判定する検知判定部810と、検知判定部810が、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが共に指の像を検知したと判定した場合に、第1表示/光センサ部300A、及び第2表示/光センサ部300Bがそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出部830と、を備える。これにより、ユーザは、様々な指の像の動きを第1表示/光センサ部300A、及び第2表示/光センサ部300Bに検出させることによって、従来の入力装置では実現できなかった多彩で立体的な操作を経験でき、また、そのような操作によって、優れた利便性及び操作性が提供される。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、二つの入力面から入力する入力装置、入力装置の制御方法、入力装置の制御プログラム、コンピュータ読取可能な記録媒体、および情報端末装置に関する。
【背景技術】
【0002】
近年、タッチパネル式の入力装置が、携帯電話機、PDAなどに代表されるモバイル機器(携帯端末)において広く普及している。その一例として、入力面に対して、指が接触していない状態から、接触している状態に変化したときに、接触した指の位置に応じた入力が行われる入力装置が知られている(例えば、特許文献1)。
【0003】
また、単にタッチパネル式で入力を受け付けるのみならず、用途に応じて、より便利な入力が可能な入力装置が提案されている。例えば、携帯用端末機器において、ユーザは、表示画面上のアイコンに指を接触させて、次にアイコンを移動させたい方向にその指を動かすことにより、そのアイコンを表示画面中の好みの位置に移動させることができる。さらに、表示画面上のフォルダを指でダブルクリックすることにより、そのフォルダを開けることもできる(例えば、特許文献2)。
【特許文献1】特開2008−141519号公報(平成20年6月19日公開)
【特許文献2】特開平11−39093号公報(平成11年2月12日公開)
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、上記従来の入力装置は、何れも一つの入力面から入力する方式(以下、一面入力式とする)であって、裏表両面に配設された二つの入力面から入力する方式(以下、両面入力式とする)の入力装置は、そもそも存在しなかった。
【0005】
従って、ユーザは、両面入力式の入力装置によって実現される多彩で立体的な操作と、その優れた利便性及び操作性を、従来の一面入力式の入力装置では経験することができなかった。
【0006】
さらに、従来の入力装置には次のような問題があった。つまり、一面入力式の入力装置では、ユーザが気付かないうちに意図しない操作が行われる可能性を排除できない。具体的には、ユーザの指がタッチパネル上のアイコンに無意識のうちに接触し、アイコンを表示画面上のどこか別の場所にドラッグしてしまうことがある。そのドラッグした先がゴミ箱フォルダであった場合には、そのアイコンは、ユーザの知らない間に消去されてしまうという事態に陥る。このように、従来の入力装置には、一つの入力面から入力を行うことによって生じる固有の問題もあった。
【0007】
本発明は、上記の問題点に鑑みてなされたものであり、その目的は、ユーザにとって利便性及び操作性の高い入力装置、入力装置の制御方法、入力装置の制御プログラム、コンピュータ読取可能な記録媒体、および情報端末装置を提供することにある。
【課題を解決するための手段】
【0008】
本発明の入力装置は、前記課題を解決するために、近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置であって、前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定手段と、前記検知判定手段が、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出手段と、を備えることを特徴としている。
【0009】
また、本発明の入力装置の制御方法は、近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置の制御方法であって、前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定ステップと、前記検知判定ステップによって、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出ステップと、を含むことを特徴としている。
【0010】
これにより、本発明に係る入力装置および入力装置の制御方法では、表裏両面にそれぞれ配設された近傍の像を検知する面状部材が共に指の像を検知した場合に、指の像の動きに対応付けられた入力信号が入力検出手段によって生成される。そして、その入力信号は、表裏両面の面状部材が検知した指の像の動きに対応付けられた信号である。
【0011】
従って、表裏両面の面状部材が様々な指の像の動きを検出することによって、従来の入力装置では実現できなかった多彩で立体的な操作が行われ、また、そのような操作によって、優れた利便性及び操作性がユーザに提供される。しかも板状の入力装置の裏表両面から画面を指で挟持するように操作するため、ユーザは、極めて容易に当該装置を使用することができる。
【0012】
加えて、表裏両面の面状部材のうち何れか一方の面状部材が指の像を検知しただけでは、その指の像の動きに対応付けられた入力信号が生成されることはない。そのため、例えばユーザの指がタッチパネル上のアイコンに無意識のうちに接触しても、その指の像が検知されて入力信号が生成され、何らかの処理が実行されてしまうという事態を回避することができる。それゆえ、入力面に誤って触って、意図せず操作してしまうリスクが軽減される。
【0013】
このように、本発明に係る入力装置および入力装置の制御方法は、優れた操作性及び利便性をユーザに提供することができる。
【0014】
さらに、本発明に係る入力装置では、前記の構成において、前記入力信号と、動作実行装置に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、前記入力信号に対応する命令を、前記動作実行装置に送信する動作制御手段を備える構成としてもよい。
【0015】
前記の構成によれば、本発明に係る入力装置では、入力検出手段が、表裏両面の面状部材が共に指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する。そして、前記入力信号と、動作実行装置に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、入力信号に対応付けられた命令が動作実行装置に送信され、動作実行装置がその命令に従って所定の動作を実行する。
【0016】
従って、表裏両面の面状部材が様々な指の像の動きを検出することによって、動作実行装置は、ユーザが所望する動作を実行することができる。
【0017】
なお、動作実行装置は、1つであっても複数であってもよく、また入力装置と一体に構成されていてもよく、さらに入力装置から物理的に離れた位置に存在していてもよい。
【0018】
さらに、本発明に係る入力装置では、前記の構成において、前記入力検出手段は、前記表裏両面の面状部材が、該表裏両面の面状部材上の所定の領域において指の像を検知した場合に、前記入力信号を生成する構成としてもよい。
【0019】
前記の構成によれば、本発明に係る入力装置では、入力検出手段が、表裏両面の面状部材上の所定の領域において指の像を検知した場合に入力信号を生成し、表裏両面の面状部材上の前記所定の領域とは異なる他の領域に指がタッチした場合には入力信号を生成しない。このようにして、入力検出手段は、表裏両面の面状部材上の操作領域を制限することができる。
【0020】
従って、ユーザは、表裏両面の面状部材上の前記所定の領域とは異なる他の領域に指をタッチしても、入力信号が生成されて入力面に誤って操作してしまう事態を回避することができる。また、ユーザにとって操作しやすい領域に前記所定の領域が設定されることにより、本発明に係る入力装置は、さらに優れた操作性及び利便性をユーザに提供することができる。
【0021】
さらに、本発明に係る入力装置では、前記表裏両面の面状部材において、前記所定の領域に画像を表示させる画像表示制御手段を備え、前記入力検出手段は、前記画像に対応付けられた前記入力信号を生成する構成としてもよい。
【0022】
前記の構成によれば、本発明に係る入力装置では、画像表示制御手段が所定の領域に画像を表示する。また、入力検出手段は、所定の領域において指の像が検知された場合に、当該画像に対応付けられた入力信号を生成する。
【0023】
つまり、画像表示制御手段が画像を表示することによって操作可能な範囲(操作対象)がユーザに明示され、ユーザは、当該画像を裏表両面から指で挟持することにより、前記動作実行装置に所定の動作を実行させることができる。
【0024】
それとは逆に、入力検出手段は、表裏両面の面状部材上の画像が表示された領域とは異なる他の領域に指がタッチした場合であっても、入力信号を生成することはない。それゆえ、当該画像が表示されている所定の領域とは異なる領域を誤って触って、意図せず操作してしまうという事態を回避できる。
【0025】
さらに、本発明に係る入力装置では、前記の構成において、前記画像表示制御手段は、前記動作実行装置が実行した前記所定の動作の結果に基づく画像を、前記面状部材に表示させる構成としてもよい。
【0026】
前記の構成によれば、本発明に係る入力装置では、画像表示制御手段は、前記動作実行装置が実行した前記所定の動作の結果に基づく画像を前記面状部材に表示させる。
【0027】
従って、画像表示制御手段は、ユーザの指の動きに対応付けられて実行された動作の結果を画面上に表示して、その結果をユーザに確認させることができる。
【0028】
なお、その動作後の画像に対してさらに何らかの動作を与えたいときは、前記表裏両面の面状部材に対して所望の指の像の動きを検出させればよい。つまり、ユーザは、動作の結果を画面上で確認することにより、次の動作を連続的に行うことができる。
【0029】
なお、前記入力装置は、コンピュータによって実現してもよく、この場合には、コンピュータを前記各手段として動作させることにより前記入力装置をコンピュータにて実現させる入力装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。また、前記の入力装置を備えた情報端末装置も、本発明の範疇に入る。
【発明の効果】
【0030】
本発明に係る入力装置は、以上のように、表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定手段と、前記検知判定手段が、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出手段と、を備える構成である。
【0031】
また、本発明に係る入力装置の制御方法は、以上のように、前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定ステップと、前記検知判定ステップによって、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出ステップと、を含む構成である。
【0032】
それゆえ、二つの入力面から入力する、操作性及び利便性に優れた入力装置および入力装置の制御方法をユーザに提供することができる。
【発明を実施するための最良の形態】
【0033】
本実施の形態について図1〜図27に基づいて説明すると以下の通りである。
【0034】
本実施の形態に係るデータ表示/センサ装置100(入力装置)は、概略的に言えば、近傍の像を検知する第1表示/光センサ部300A、及び第2表示/光センサ部300B(表裏両面の面状部材)が表裏両面にそれぞれ配設されており、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが、共に指の像を検知したか否かを判定する検知判定部810(検知判定手段)と、検知判定部810が、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが共に指の像を検知したと判定した場合に、第1表示/光センサ部300A、及び第2表示/光センサ部300Bがそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出部830(入力検出手段)と、を備える装置である。
【0035】
そこで、まず、データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301の概要について説明する。
【0036】
(センサ内蔵液晶パネルの概要)
前記データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301は、データの表示に加え、対象物の画像検出が可能な液晶パネルである。ここで、対象物の画像検出とは、例えば、ユーザが指やペンなどでポインティング(タッチ)した位置の検出や、印刷物等の画像の読み取り(スキャン)である。なお、表示に用いるデバイスは、液晶パネルに限定されるものではなく、有機EL(Electro Luminescence)パネルなどであってもよい。
【0037】
図2を参照しながら、センサ内蔵液晶パネル301の構造について説明する。図2は、センサ内蔵液晶パネル301の断面を模式的に示す図である。なお、ここで説明するセンサ内蔵液晶パネル301は一例であり、表示面と読取面とが共用されているものであれば、任意の構造のものが利用できる。
【0038】
図示のとおり、センサ内蔵液晶パネル301は、背面側に配置されるアクティブマトリクス基板51Aと、表面側に配置される対向基板51Bとを備え、これら基板の間に液晶層52を挟持した構造を有している。アクティブマトリクス基板51Aには、画素電極56、データ信号線57、光センサ回路32(図示せず)、配向膜58、偏光板59などが設けられる。対向基板51Bには、カラーフィルタ53r(赤)、53g(緑)、53b(青)、遮光膜54、対向電極55、配向膜58、偏光板59などが設けられる。また、センサ内蔵液晶パネル301の背面には、バックライト307が設けられている。
【0039】
なお、光センサ回路32に含まれるフォトダイオード6は、青のカラーフィルタ53bを設けた画素電極56の近傍に設けられているが、この構成に限定されるものではない。赤のカラーフィルタ53rを設けた画素電極56の近傍に設けてもよいし、緑のカラーフィルタ53gを設けた画素電極56の近傍に設けてもよい。
【0040】
次に、図3(a)および図3(b)を参照しながら、ユーザが、指やペンで、センサ内蔵液晶パネル301上をタッチした位置を検出する2種類の方法について説明する。
【0041】
図3(a)は、反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。バックライト307から光63が出射されると、フォトダイオード6を含む光センサ回路32は、指などの対象物64により反射された光63を検知する。これにより、対象物64の反射像を検知することができる。このように、センサ内蔵液晶パネル301は、反射像を検知することにより、タッチした位置を検出することができる。
【0042】
また、図3(b)は、影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。図3(b)に示すように、フォトダイオード6を含む光センサ回路32は、対向基板51Bなどを透過した外光61を検知する。しかしながら、ペンなどの対象物62がある場合は、外光61の入射が妨げられるので、光センサ回路32が検知する光量が減る。これにより、対象物62の影像を検知することができる。このように、センサ内蔵液晶パネル301は、影像を検知することにより、タッチした位置を検出することもできる。
【0043】
上述のように、フォトダイオード6は、バックライト307より出射された光の反射光(影像)を検知してもよいし、外光による影像を検知してもよい。また、前記2種類の検知方法を併用して、影像と反射像とを両方を同時に検知するようにしてもよい。
【0044】
(データ表示/センサ装置の要部構成)
次に、図4を参照しながら、前記データ表示/センサ装置100の要部構成について説明する。図4は、データ表示/センサ装置100の要部構成を示すブロック図である。図示のように、データ表示/センサ装置100は、1または複数の表示/光センサ部300、回路制御部600、データ処理部700、主制御部800、記憶部901、一次記憶部902、操作部903、外部通信部907、音声出力部908、および音声入力部909を備えている。ここでは、データ表示/センサ装置100は、表示/光センサ部300を2つ(第1表示/光センサ部300Aおよび第2表示/光センサ部300B)備えているものとして説明する。なお、第1表示/光センサ部300Aおよび第2表示/光センサ部300Bを区別しないときは、表示/光センサ部300と表記する。
【0045】
表示/光センサ部300は、いわゆる光センサ内蔵液晶表示装置でdfある。表示/光センサ部300は、センサ内蔵液晶パネル301、バックライト307、それらを駆動するための周辺回路309を含んで構成される。
【0046】
センサ内蔵液晶パネル301は、マトリクス状に配置された複数の画素回路31および光センサ回路32を含んで構成される。センサ内蔵液晶パネル301の詳細な構成については後述する。
【0047】
周辺回路309は、液晶パネル駆動回路304、光センサ駆動回路305、信号変換回路306、バックライト駆動回路308を含む。
【0048】
液晶パネル駆動回路304は、回路制御部600の表示制御部601からのタイミング制御信号(TC1)およびデータ信号(D)に従って、制御信号(G)およびデータ信号(S)を出力し、画素回路31を駆動する回路である。画素回路31の駆動方法の詳細については後述する。
【0049】
光センサ駆動回路305は、回路制御部600のセンサ制御部602からのタイミング制御信号(TC2)に従って、信号線(R)に電圧を印加し、光センサ回路32を駆動する回路である。光センサ回路32の駆動方法の詳細については後述する。
【0050】
信号変換回路306は、光センサ回路32から出力されるセンサ出力信号(SS)をデジタル信号(DS)に変換し、該変換後の信号をセンサ制御部602に送信する回路である。
【0051】
バックライト307は、複数の白色LED(Light Emitting Diode)を含んでおり、センサ内蔵液晶パネル301の背面に配置される。そして、バックライト駆動回路308から電源電圧が印加されると、バックライト307は点灯し、センサ内蔵液晶パネル301に光を照射する。なお、バックライト307は、白色LEDに限らず、他の色のLEDを含んでいてもよい。また、バックライト307は、LEDに代えて、例えば、冷陰極管(CCFL:Cold Cathode Fluorescent Lamp)を含むものであってもよい。
【0052】
バックライト駆動回路308は、回路制御部600のバックライト制御部603からの制御信号(BK)がハイレベルであるときは、バックライト307に電源電圧を印加し、逆に、バックライト制御部603からの制御信号がローレベルであるときは、バックライト307に電源電圧を印加しない。
【0053】
次に、回路制御部600について説明する。回路制御部600は、表示/光センサ部300の周辺回路309を制御するデバイスドライバとしての機能を備えるものである。回路制御部600は、表示制御部601、センサ制御部602、バックライト制御部603、および表示データ記憶部604を備えている。
【0054】
表示制御部601は、データ処理部700の表示データ処理部701から表示データを受信するとともに、表示データ処理部701からの指示に従って、表示/光センサ部300の液晶パネル駆動回路304に、タイミング制御信号(TC1)およびデータ信号(D)を送信し、前記受信した表示データをセンサ内蔵液晶パネル301に表示させる。
【0055】
なお、表示制御部601は、表示データ処理部701から受信した表示データを、表示データ記憶部604に一次記憶させる。そして、当該一次記憶させた表示データに基づいて、データ信号(D)を生成する。表示データ記憶部604は、例えば、VRAM(video random access memory)などである。
【0056】
センサ制御部602は、データ処理部700のセンサデータ処理部703からの指示に従って、表示/光センサ部300の光センサ駆動回路305に、タイミング制御信号(TC2)を送信し、センサ内蔵液晶パネル301にてスキャンを実行させる。
【0057】
また、センサ制御部602は、信号変換回路306からデジタル信号(DS)を受信する。そして、センサ内蔵液晶パネル301に含まれる全ての光センサ回路32から出力されたセンサ出力信号(SS)に対応するデジタル信号(DS)に基づいて、画像データを生成する。つまり、センサ内蔵液晶パネル301の読み取り領域全体で読み取った画像データを生成する。そして、該生成した画像データをセンサデータ処理部703に送信する。
【0058】
バックライト制御部603は、表示データ処理部701およびセンサデータ処理部703からの指示に従って、表示/光センサ部300のバックライト駆動回路308に制御信号(BK)を送信し、バックライト307を駆動させる。
【0059】
なお、データ表示/センサ装置100が、複数の表示/光センサ部300を備える場合、表示制御部601は、データ処理部700から、どの表示/光センサ部300にて表示データを表示するかの指示を受けたとき、当該指示に応じた表示/光センサ部300の液晶パネル駆動回路304を制御する。また、センサ制御部602は、データ処理部700から、どの表示/光センサ部300にて対象物のスキャンを行なうかの指示を受けたとき、当該指示に応じた表示/光センサ部300の光センサ駆動回路305を制御するとともに、当該指示に応じた表示/光センサ部300の信号変換回路306からデジタル信号(DS)を受信する。
【0060】
次に、データ処理部700について説明する。データ処理部700は、主制御部800から受信する「コマンド」に基づいて、回路制御部600に指示を与えるミドルウェアとしての機能を備えるものである。なお、コマンドの詳細については後述する。
【0061】
データ処理部700は、表示データ処理部701およびセンサデータ処理部703を備えている。そして、データ処理部700が、主制御部800からコマンドを受信すると、該受信したコマンドに含まれる各フィールド(後述する)の値に応じて、表示データ処理部701およびセンサデータ処理部703の少なくとも一方が動作する。
【0062】
表示データ処理部701は、主制御部800から表示データを受信するとともに、データ処理部700が受信したコマンドに従って、表示制御部601およびバックライト制御部603に指示を与え、前記受信した表示データをセンサ内蔵液晶パネル301に表示させる。なお、コマンドに応じた、表示データ処理部701の動作については、後述する。
【0063】
センサデータ処理部703は、データ処理部700が受信したコマンドに従って、センサ制御部602およびバックライト制御部603に指示を与える。
【0064】
また、センサデータ処理部703は、センサ制御部602から画像データを受信し、当該画像データをそのまま画像データバッファ704に格納する。そして、センサデータ処理部703は、データ処理部700が受信したコマンドに従って、画像データバッファ704に記憶されている画像データに基づいて、「全体画像データ」、「部分画像データ(部分画像の座標データを含む)」、および「座標データ」の少なくともいずれか1つを、主制御部800に送信する。なお、全体画像データ、部分画像データ、および座標データについては、後述する。また、コマンドに応じた、センサデータ処理部703の動作については、後述する。
【0065】
次に、主制御部800は、アプリケーションプログラムを実行するものである。主制御部800は、記憶部901に格納されているプログラムを、例えばRAM(Random Access Memory)等で構成される一次記憶部902に読み出して実行する。
【0066】
主制御部800で実行されるアプリケーションプログラムは、センサ内蔵液晶パネル301に表示データを表示させたり、センサ内蔵液晶パネル301にて対象物のスキャンを行わせるために、データ処理部700に対して、コマンドおよび表示データを送信する。また、コマンドに「データ種別」を指定した場合は、当該コマンドの応答として、全体画像データ、部分画像データ、および座標データの少なくともいずれか1つを、データ処理部700から受信する。
【0067】
なお、回路制御部600、データ処理部700、および主制御部800は、それぞれ、CPU(Central Processing Unit)およびメモリ等で構成することができる。また、データ処理部700は、ASIC(application specific integrate circuit)などの回路で構成されていてもよい。
【0068】
次に、記憶部901は、図示のように、主制御部800が実行するプログラムおよびデータを格納するものである。なお、主制御部800が実行するプログラムは、アプリケーション固有のプログラムと、各アプリケーションが共用可能な汎用プログラムとに分離されていてもよい。
【0069】
次に、操作部903は、データ表示/センサ装置100のユーザの入力操作を受けつけるものである。操作部903は、例えば、スイッチ、リモコン、マウス、キーボードなどの入力デバイスで構成される。そして、操作部903は、データ表示/センサ装置100のユーザの入力操作に応じた制御信号を生成し、該生成した制御信号を主制御部800へ送信する。
【0070】
なお、前記スイッチの例としては、電源のオンとオフとを切り替える電源スイッチ905、予め所定の機能が割り当てられているユーザスイッチ906などのハードウェアスイッチを想定している。
【0071】
その他、データ表示/センサ装置100は、無線/有線通信によって外部装置と通信を行なうための外部通信部907、音声を出力するためのスピーカ等の音声出力部908、音声信号を入力するためのマイク等の音声入力部909などを適宜備えていてもよい。
【0072】
(コマンドの詳細)
次に、図5および図6を参照しながら、主制御部800からデータ処理部700に送信されるコマンドの詳細について説明する。図5は、コマンドのフレーム構造の一例を模式的に示す図である。また、図6は、コマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
【0073】
図5に示すように、コマンドは、「ヘッダ」、「データ取得タイミング」、「データ種別」、「スキャン方式」、「スキャン画像階調」、「スキャン解像度」、「スキャンパネル」、「表示パネル」、および「予備」の各フィールドを含んでいる。そして、各フィールドには、例えば、図6に示す値が指定可能である。
【0074】
「ヘッダ」フィールドは、フレームの開始を示すフィールドである。「ヘッダ」フィールドであることが識別可能であれば、「ヘッダ」フィールドの値は、どのような値であってもよい。
【0075】
次に、「データ取得タイミング」フィールドは、データを主制御部800へ送信すべきタイミングを指定するフィールドである。「データ取得タイミング」フィールドには、例えば、“00”(センス)、“01”(イベント)、および“10”(オール)という値が指定可能である。
【0076】
ここで、“センス”は、最新のデータを直ちに送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“センス”であるコマンドを受信すると、「データ種別」フィールドにて指定されている最新のデータを、直ちに、主制御部800に送信する。
【0077】
また、“イベント”は、センサ制御部602から受信する画像データに変化が生じたタイミングで送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“イベント”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、センサ制御部602から受信する画像データに、所定の閾値より大きい変化が生じたタイミングで、主制御部800に送信する。
【0078】
また、“オール”は、所定周期でデータを送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“オール”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、所定周期で、主制御部800に送信する。なお、前記所定周期は、光センサ回路32にてスキャンを行なう周期と一致する。
【0079】
次に、「データ種別」フィールドは、センサデータ処理部703から取得するデータの種別を指定するフィールドである。なお、「データ種別」フィールドには、例えば、“001”(座標)、“010”(部分画像)、および“100”(全体画像)という値が指定可能である。さらに、これらの値を加算することによって、“座標”と、“部分画像”/“全体画像”とを、同時に指定可能である。例えば、“座標”と“部分画像”とを同時に指定する場合、“011”と指定することができる。
【0080】
センサデータ処理部703は、「データ種別」フィールドの値が“全体画像”であるコマンドを受信すると、画像データバッファ704に記憶している画像データそのものを主制御部800に送信する。画像データバッファ704に記憶している画像データそのものを、「全体画像データ」と称する。
【0081】
また、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信すると、センサ制御部602から受信する画像データから、所定の閾値より大きい変化が生じた部分を含む領域を抽出し、該抽出した領域の画像データを主制御部800に送信する。ここで、当該画像データを、「部分画像データ」と称する。なお、前記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出されたそれぞれの部分画像データを主制御部800に送信する。
【0082】
さらに、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信したとき、部分画像データにおける代表座標を検出し、当該代表座標の部分画像データにおける位置を示す座標データを主制御部800に送信する。なお、前記代表座標とは、例えば、前記部分画像データの中心の座標、前記部分画像データの重心の座標などが挙げられる。
【0083】
次に、センサデータ処理部703は、「データ種別」フィールドの値が“座標”であるコマンドを受信すると、前記代表座標の全体画像データにおける位置を示す座標データを主制御部800に送信する。なお、前記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出された、それぞれの部分画像データの、全体画像データにおける代表座標を検出し、当該代表座標を示す座標データのそれぞれを主制御部800に送信する(多点検出)。
【0084】
なお、全体画像データ、部分画像データ、および座標データの具体例については、模式図を参照しながら後述する。
【0085】
次に、「スキャン方式」フィールドは、スキャン実行時に、バックライト307を点灯するか否かを指定するフィールドである。「スキャン方式」フィールドには、例えば、“00”(反射)、“01”(透過)、および“10”(反射/透過)という値が指定可能である。
【0086】
“反射”は、バックライト307を点灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“反射”であるコマンドを受信すると、光センサ駆動回路305とバックライト駆動回路308とが同期して動作するように、センサ制御部602とバックライト制御部603とに指示を与える。
【0087】
また、“透過”は、バックライト307を消灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“透過”であるコマンドを受信すると、光センサ駆動回路305を動作させ、バックライト駆動回路308と動作させないようにセンサ制御部602とバックライト制御部603とに指示を与える。なお、“反射/透過”は、“反射”と“透過”とを併用してスキャンを行なうことを指定するものである。
【0088】
次に、「スキャン画像階調」フィールドは、部分画像データおよび全体画像データの階調を指定するフィールドである。「スキャン画像階調」フィールドには、例えば、“00”(2値)、および“01”(多値)という値が指定可能である。
【0089】
ここで、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“2値”であるコマンドを受信すると、部分画像データおよび全体画像データをモノクロデータとして、主制御部800に送信する。
【0090】
また、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“多値”であるコマンドを受信すると、部分画像データおよび全体画像データを多階調データとして、主制御部800に送信する。
【0091】
次に、「スキャン解像度」フィールドは、部分画像データおよび全体画像データの解像度を指定するフィールドである。「解像度」フィールドには、例えば、“0”(高)および“1”(低)という値が指定可能である。
【0092】
ここで、“高”は、高解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“高”であるコマンドを受信すると、部分画像データおよび全体画像データを高解像度で主制御部800に送信する。例えば、画像認識などの画像処理を行なう対象の画像データ(指紋などの画像データ)には、“高”を指定することが望ましい。
【0093】
また、“低”は、低解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“低”であるコマンドを受信すると、部分画像データおよび全体画像データを低解像度で主制御部800に送信する。例えば、タッチした位置等が分かる程度でよい画像データ(タッチした指や手の画像データなど)には、“低”を指定することが望ましい。
【0094】
次に、「スキャンパネル」フィールドは、どの表示/光センサ部300にて対象物のスキャンを行なうかを指定するフィールドである。「スキャンパネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
【0095】
ここで、センサデータ処理部703は、「スキャンパネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aの光センサ駆動回路305およびバックライト駆動回路308を制御するように、センサ制御部602およびバックライト制御部603に指示を与える。
【0096】
次に、「表示パネル」フィールドは、どの表示/光センサ部300にて表示データを表示させるかを指定するフィールドである。「表示パネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
【0097】
ここで、表示データ処理部701は、例えば、「表示パネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aに表示データを表示させるために、第1表示/光センサ部300Aの液晶パネル駆動回路304およびバックライト駆動回路308を制御するように、表示制御部601およびバックライト制御部603に指示を与える。
【0098】
次に、「予備」フィールドは、上述したフィールドにて指定可能な情報以外の情報をさらに指定する必要がある場合に、適宜指定されるフィールドである。
【0099】
なお、主制御部800にて実行されるアプリケーションは、コマンドを送信するにあたり、上述したフィールドを全て使用する必要はなく、使用しないフィールドには無効値(NULL値など)を設定しておけばよい。
【0100】
また、ユーザが指やペンなどでタッチした位置の座標データを取得したいときは、「データ種別」フィールドに“座標”を指定したコマンドをデータ処理部700に送信することとなるが、指やペンなどは動きがあるため、さらに、当該コマンドの「データ取得タイミング」フィールドに“オール”を指定し、座標データを取得するようにすることが望ましい。また、タッチした位置の座標データが取得できればよいため、スキャンの精度は高くなくてもよい。したがって、前記コマンドの「解像度」フィールドの値は“低”を指定しておけばよい。
【0101】
また、コマンドの「データ種別」フィールドに“座標”を指定した場合において、例えば、ユーザが、複数の指やペンなどでセンサ内蔵液晶パネル301を同時にタッチした場合は、該タッチした位置の座標データのそれぞれを取得することができる(多点検出)。
【0102】
また、原稿などの対象物の画像データを取得する場合、「データ種別」フィールドに“全体画像”を指定したコマンドをデータ処理部700に送信することとなるが、原稿などの対象物は、通常、静止させた状態でスキャンを実行することが一般的であるため、周期的にスキャンを実行する必要はない。従って、この場合は、「データ取得タイミング」フィールドに“センス”または“イベント”を指定することが望ましい。なお、原稿などの対象物をスキャンするときは、ユーザが文字を読みやすいように、スキャン精度は高い方が望ましい。したがって、「解像度」フィールドには“高”を指定することが望ましい。
【0103】
(全体画像データ/部分画像データ/座標データ)
次に、図7を参照しながら、全体画像データ、部分画像データ、および座標データについて、例を挙げて説明する。図7(a)に示す画像データは、対象物がセンサ内蔵液晶パネル301上に置かれていないときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。また、図7(b)に示す画像データは、ユーザが指でセンサ内蔵液晶パネル301をタッチしているときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。
【0104】
ユーザが指でセンサ内蔵液晶パネル301をタッチしたとき、当該タッチした近傍の光センサ回路32が受光する光量が変化するため、当該光センサ回路32が出力する電圧に変化が生じ、その結果として、センサ制御部602が生成する画像データのうち、ユーザがタッチした部分の画素値の明度に変化が生じることとなる。
【0105】
図7(b)に示す画像データでは、図7(a)に示す画像データと比べると、ユーザの指に該当する部分の画素値の明度が高くなっている。そして、図7(b)に示す画像データにおいて、明度が所定の閾値より大きく変化している画素値を全て含む最小の矩形領域(領域PP)が、“部分画像データ”である。
【0106】
なお、領域APで示される画像データが、“全体画像データ”である。
【0107】
また、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)であり、部分画像データ(領域PP)における座標データは(Xp,Yp)である。
【0108】
(センサ内蔵液晶パネルの構成)
次に、図8を参照しながら、センサ内蔵液晶パネル301の構成、および、センサ内蔵液晶パネル301の周辺回路309の構成について説明する。図8は、表示/光センサ部300の要部、特に、センサ内蔵液晶パネル301の構成および周辺回路309の構成を示すブロック図である。
【0109】
センサ内蔵液晶パネル301は、光透過率(輝度)を設定するための画素回路31、および、自身が受光した光の強度に応じた電圧を出力する光センサ回路32を備えている。なお、画素回路31は、赤色、緑色、青色のカラーフィルタのそれぞれに対応するR画素回路31r、G画素回路31g、B画素回路31bの総称して用いる。
【0110】
画素回路31は、センサ内蔵液晶パネル301上の列方向(縦方向)にm個、行方向(横方向)に3n個配置される。そして、R画素回路31r、G画素回路31g、およびB画素回路31bの組が、行方向(横方向)に連続して配置される。この組が1つの画素を形成する。
【0111】
画素回路31の光透過率を設定するには、まず、画素回路31に含まれるTFT(Thin Film Transistor)33のゲート端子に接続される走査信号線Giにハイレベル電圧(TFT33をオン状態にする電圧)を印加する。その後、R画素回路31rのTFT33のソース端子に接続されているデータ信号線SRjに、所定の電圧を印加する。同様に、G画素回路31gおよびB画素回路31bについても、光透過率を設定する。そして、これらの光透過率を設定することにより、センサ内蔵液晶パネル301上に画像が表示される。
【0112】
次に、光センサ回路32は、一画素毎に配置される。なお、R画素回路31r、G画素回路31g、およびB画素回路31bのそれぞれの近傍に1つずつ配置されてもよい。
【0113】
光センサ回路32にて光の強度に応じた電圧を出力させるためには、まず、コンデンサ35の一方の電極に接続されているセンサ読み出し線RWiと、フォトダイオード36のアノード端子に接続されているセンサリセット線RSiとに所定の電圧を印加する。この状態において、フォトダイオード36に光が入射されると、入射した光量に応じた電流がフォトダイオード36に流れる。そして、当該電流に応じて、コンデンサ35の他方の電極とフォトダイオード36のカソード端子との接続点(以下、接続ノードV)の電圧が低下する。そして、センサプリアンプ37のドレイン端子に接続される電圧印加線SDjに電源電圧VDDを印加すると、接続ノードVの電圧は増幅され、センサプリアンプ37のソース端子からセンシングデータ出力線SPjに出力される。そして、当該出力された電圧に基づいて、光センサ回路32が受光した光量を算出することができる。
【0114】
次に、センサ内蔵液晶パネル301の周辺回路である、液晶パネル駆動回路304、光センサ駆動回路305、およびセンサ出力アンプ44について説明する。
【0115】
液晶パネル駆動回路304は、画素回路31を駆動するための回路であり、走査信号線駆動回路3041およびデータ信号線駆動回路3042を含んでいる。
【0116】
走査信号線駆動回路3041は、表示制御部601から受信したタイミング制御信号TC1に基づいて、1ライン時間毎に、走査信号線G1〜Gmの中から1本の走査信号線を順次選択し、該選択した走査信号線にハイレベル電圧を印加するとともに、その他の走査信号線にローレベル電圧を印加する。
【0117】
データ信号線駆動回路3042は、表示制御部601から受信した表示データD(DR、DG、およびDB)に基づいて、1ライン時間毎に、1行分の表示データに対応する所定の電圧を、データ信号線SR1〜SRn、SG1〜SGn、SB1〜SBnに印加する(線順次方式)。なお、データ信号線駆動回路3042は、点順次方式で駆動するものであってもよい。
【0118】
光センサ駆動回路305は、光センサ回路32を駆動するための回路である。光センサ駆動回路305は、センサ制御部602から受信したタイミング制御信号TC2に基づいて、センサ読み出し信号線RW1〜RWmの中から、1ライン時間毎に1本ずつ選択したセンサ読み出し信号線に所定の読み出し用電圧を印加するとともに、その他のセンサ読み出し信号線には、所定の読み出し用電圧以外の電圧を印加する。また、同様に、タイミング制御信号TC2に基づいて、センサリセット信号線RS1〜RSmの中から、1ライン時間毎に1本ずつ選択したセンサリセット信号線に所定のリセット用電圧を印加するとともに、その他のセンサリセット信号線には、所定のリセット用電圧以外の電圧を印加する。
【0119】
センシングデータ出力信号線SP1〜SPnはp個(pは1以上n以下の整数)のグループにまとめられ、各グループに属するセンシングデータ出力信号線は、時分割で順次オン状態になるスイッチ47を介して、センサ出力アンプ44に接続される。センサ出力アンプ44は、スイッチ47により接続されたセンシングデータ出力信号線のグループからの電圧を増幅し、センサ出力信号SS(SS1〜SSp)として、信号変換回路306へ出力する。
〔実施の形態1〕
本発明の主な特徴は、データ表示/センサ装置100では、近傍の像を検知する第1表示/光センサ部300A、及び第2表示/光センサ部300Bが表裏両面にそれぞれ配設されており、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが、共に指の像を検知したか否かを判定する検知判定部810と、検知判定部810が第1表示/光センサ部300A、及び第2表示/光センサ部300Bが共に指の像を検知したと判定した場合に、第1表示/光センサ部300A、及び第2表示/光センサ部300Bがそれぞれ検知した指の像の動きを検出して入力信号を生成する入力検出部830と、を備える点にある。
【0120】
これにより、データ表示/センサ装置100では、表裏両面に配設された第1表示/光センサ部300A、及び第2表示/光センサ部300Bが共に指の像を検知した場合に、入力検出部830が入力信号を生成する。
【0121】
従って、第1表示/光センサ部300A、あるいは第2表示/光センサ部300Bの一方のみが指の像を検出しても、それにより入力信号が生成されることはない。それゆえ、データ表示/センサ装置100は、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが様々な指の像の動きを検出することにより、従来の入力装置では実現できなかった多彩で立体的な操作を可能とする。また、データ表示/センサ装置100は、そのような操作によって優れた利便性及び操作性をユーザに提供する。
【0122】
さらに、データ表示/センサ装置100では、ユーザの指がタッチパネル上のアイコンに無意識のうちに接触して、アイコンを表示画面上のどこか別の場所にドラッグしてしまうといった事態を避けることができる。従って、第1表示/光センサ部300A、及び第2表示/光センサ部300Bという二つの入力面からの入力により入力信号が生成されるため、第1表示/光センサ部300A、及び第2表示/光センサ部300Bに対して誤って操作してしまうリスクが軽減される。
(データ表示/センサ装置の動作説明)
実施の形態1に係るデータ表示/センサ装置100について、図1、図9〜図18、図28〜図30を参照して説明する。
【0123】
なお、まず最初に、データ表示/センサ装置100が実行する種々の動作の具体例を図9〜図18を参照して説明する。次に、データ表示/センサ装置100の構成を図1を参照して説明する。そして、種々の動作を実現する処理の流れを図20を参照して説明する。
【0124】
ここで、データ表示/センサ装置100は、第1表示/光センサ部300A、あるいは第2表示/光センサ部300Bの何れに画像を表示させてもよいが、本実施の形態では、第1表示/光センサ部300Aに画像を表示するものとして説明する。なお、第1表示/光センサ部300Aは、図9〜図18において図面手前側に位置する。
【0125】
また、ユーザは、右手あるいは左手の何れでもデータ表示/センサ装置100を操作することができるが、本実施の形態では、右手で操作するものとして説明する。
(表示画像に対して実行される動作)
以下、図9〜図18の概要を説明する。
【0126】
図9(a)は、第1表示/光センサ部300Aに矩形の画像25aが表示され、かつ、ユーザが、矩形の画像25aを上面から親指20でタッチすると共に、第2表示/光センサ部300Bに矩形の画像25aの裏面が表示されているとしたならば、その矩形の画像25aの裏面が表示されているであろう領域を人差し指21でタッチしている。
【0127】
なお、第1表示/光センサ部300Aに表示された矩形の画像25aが、実際に下面から人差し指21でタッチされることはないものの、説明の便宜上、本実施の形態に係る以降の説明では、この状態を「上面から親指20で、下面から人差し指21で、それぞれタッチする」と表現する。このことは、図10〜図19を参照して説明する記載においても同様である。
【0128】
図9(b)は、親指20と人差し指21をそれぞれ反対方向(図面横方向において、親指20を右方向、人差し指21を左方向)へ移動させて、複数の矩形の画像25aが扇状に拡がった状態で第1表示/光センサ部300Aに表示された様子を示す図である。つまり、図9(a)では、複数の矩形の画像25aはあたかも短冊が束になって閉じた状態にあり、図9(b)では、それら複数の矩形の画像25aが扇状に拡がった状態にある。
【0129】
図10(a)は、第1表示/光センサ部300Aに円形の画像26aを表示し、かつ、円形の画像26aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図10(b)は、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、第1表示/光センサ部300Aに、より大きな寸法の円形の画像26bを表示させた図である。
【0130】
図11(a)は、第1表示/光センサ部300Aに略正方形の画像27aを表示し、かつ、略正方形の画像27aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図11(b)は、親指20と人差し指21をそれぞれ同じ方向(図面横方向において、右方向)へ移動させて、略正方形の画像27aを第1表示/光センサ部300Aの画面の外側へ移動させつつある状態を示す図である。
【0131】
図12(a)は、図面横方向をパイプ軸(管長)方向とするパイプ形状の画像28aを第1表示/光センサ部300Aに表示し、かつ、パイプ形状の画像28aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図12(b)は、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、パイプ軸に直交する方向にパイプ形状の画像28aを回転させている様子を示す図である。
【0132】
図13(a)は、第1表示/光センサ部300Aの画面上端付近に矩形の画像29a〜29dを図面横方向に一列に並べて表示し、かつ、そのうちの一つの矩形の画像29cを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図13(b)は、親指20と人差し指21をそれぞれ同じ方向(図面下方向)へ移動させて、矩形の画像29cを下側に引き出す動作により、矩形の画像29cが図面縦方向に引き伸ばされて、帯状の画像29c’となった様子を示す図である。
【0133】
図14(a)は、第1表示/光センサ部300Aに矩形の画像30aを表示し、かつ、第1表示/光センサ部300Aの表示画面を、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図14(b)は、矩形の画像30aを分断するように親指20と人差し指21をそれぞれ同じ方向(図面下方向)へ移動させて、矩形の画像30aを左右2つの矩形の画像30bに分割した様子を示す図である。
【0134】
図15(a)は、第1表示/光センサ部300Aに複数の矩形の画像31aを円周状に配置して表示し、かつ、円の中心点付近を上面から親指20で、画像31aを下面から人差し指21で、それぞれタッチしている様子を示す図である。図15(b)は、親指20を動かさずに、人差し指21を図面下側へ移動させて、複数の矩形の画像31aを前記円の円周に沿って反時計回りに回転させている様子を示す図である。
【0135】
図16(a)は、第1表示/光センサ部300Aに、円形の画像32aと矩形の画像32bとが結合してなる画像32cを表示し、かつ、円形の画像32aの中心点付近を上面から親指20で、矩形の画像32bを下面から人差し指21で、それぞれタッチしている様子を示す図である。図16(b)は、親指20を動かさずに、人差し指21を図面左側へ移動させて、あたかも円形の画像32aの中心点付近を支点とした振り子のように、矩形の画像32bを左側へ移動させた様子を示す図である。
【0136】
図17(a)は、第1表示/光センサ部300Aのほぼ画面全体に亘って矩形の画像33aを表示し、かつ、矩形の画像33aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図17(b)は、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、図面下側から矩形の画像33bを出現させ、画像33aと画像33bとを図面縦方向に並べて表示した様子を示す。図17(c)は、さらに親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、画面に表示される画像が、画像33aから画像33bに切り替えられた様子を示す図である。
【0137】
図18(a)は、第1表示/光センサ部300Aに略正方形の画像34aを表示した様子を示す。図18(b)は、略正方形の画像34aを、上面から人差し指21で、下面から中指22で、それぞれタッチして、略正方形の画像34aが「選択」状態となった様子を示す図である。
(表示画像に対して実行される動作の具体的説明)
次に、図9〜図18を参照して説明した上記各動作をより具体的に説明する。
【0138】
図9(a)に示すように、第1表示/光センサ部300Aには矩形の画像25aが表示されている。そして、ユーザは、その矩形の画像25aを、上面側(第1表示/光センサ部300Aが配設された側)から親指20で、下面側(第2表示/光センサ部300Bが配設された側)から人差し指21で、それぞれタッチする。
【0139】
なお、上記説明したとおり、第1表示/光センサ部300Aに表示された矩形の画像25aは、上面から親指20でタッチされることはあっても、下面から人差し指21で実際にタッチされることはない。しかしながら、本実施の形態に係る以降の説明では、説明の便宜上、このような状態のことを、「上面から親指20で、下面から人差し指21で、それぞれタッチする」と表現している。このことは、図10〜図18を参照して説明する記載においても同様である。
【0140】
また、親指20及び人差し指21が表裏両面から矩形の画像25aをタッチするものとして説明しているが、どの指を使用してもよい。つまり、何れかの指を使って、表裏両面から矩形の画像25aを挟持すればよく、そのことが、矩形の画像25aに対して所定の動作を実行する前提となる。それゆえ、上面あるいは下面の何れか一方のみから矩形の画像25aをタッチしても、それだけでは矩形の画像25aに対して所定の動作を実行することはできない。また、画像(あるいは画面)を指でタッチするものとして説明しているが、実際に画像をタッチしている必要はなく、表示/光センサ部300がその指の像を検知すればよい。
【0141】
また、図中の星印は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが、指の像を検知しているおおよその場所を示す。なお、以降の説明では、説明の便宜のため、上面側から親指20で、下面側から人差し指21で、画像25aをタッチするものとして説明する。このことは、図10〜図18についても同様である。
【0142】
さらに、画像25aは矩形であるとして説明しているが、画像25aは正方形であってもよく、任意の形状とすることができる。但し、本実施の形態では、画像25aは矩形であるとして説明する。同様に、図10〜図18において、各画像の形状を円形、正方形、あるいはパイプ形状等として説明しているが、それらの形状はあくまで例示であり、記載した形状に限られない。
【0143】
また、親指20と人差し指21の指の動きの速度については特に言及しないが、その指の像の動きに対応付けられた動作は、指の動きの速度に応じて実行される。
【0144】
次に、図9(b)に示すように、ユーザは、親指20と人差し指21を反対方向(図面横方向において、親指20を右方向、人差し指21を左方向)へ移動させる。この指の動きによって、複数の矩形の画像25aが扇状に拡がった状態で第1表示/光センサ部300Aに表示される。つまり、図9(a)では、複数の矩形の画像25aはあたかも短冊が束になって閉じた状態にあり、図9(b)では、それら複数の矩形の画像25aが扇状に拡がった状態にある。
【0145】
なお、上述した扇状の拡がり具合は、親指20及び人差し指21の移動距離に応じて決まる。従って、図9(b)では、親指20及び人差し指21が表示画面の端部付近まで移動しているため、扇状の拡がりは表示画面の全体に及んでいる。
【0146】
また、次のような方法によって、上述したのとは逆の動き、つまり、扇状に拡がった複数の矩形の画像25aを、短冊が束になって閉じたように表示することができる。
【0147】
まず、ユーザは、扇状に広がった複数の矩形の画像25aを、上面側から親指20で、下面側から人差し指21で、それぞれタッチする。このとき、親指20及び人差し指21がタッチする位置は、図9(b)に示すように、それぞれ異なる位置である。つまり、親指20は最外部付近(図面左側)に位置する画像25aをタッチし、人差し指21は他方の最外部付近(図面右側)に位置する画像25aをタッチする。次に、親指20と人差し指21を反対方向(図面横方向において、親指20を左方向、人差し指21を右方向)へ移動させる。つまり、図9(a)から図9(b)へ至る指の動きと逆の動きをする。これにより、扇状に拡がった複数の矩形の画像25aが短冊が束になって閉じたように表示される。このようにして、データ表示/センサ装置100は、図9(a)及び図9(b)によって示される多彩で立体的な動作を、容易かつ迅速に実現することができる。
【0148】
ここで、矩形の画像25aは、図9(a)の図面縦方向にその長手方向が配置され、扇状の拡がりは、図9(b)の図面横方向に向かって記載されている。しかしながら、矩形の画像25aが、図9(a)の図面横方向にその長手方向が配置され、扇状の画像25aが、図9(b)の図面縦方向に拡がるように表示されることも可能である。また、矩形の画像25aの配置方向は、図9(a)の縦・横方向に限らず、任意の方向で配置してよく、図9(a)はあくまで一例である。
【0149】
図9(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、複数の矩形の画像25aがそれぞれ「ニュース」、「ブログ」、「ショッピング」等のアドレスを示す画像(オブジェクト)として割り当てられているとする。そして、上述した親指20、及び人差し指21の動作により、短冊が束になって閉じたように表示されていた複数の矩形の画像25aが扇状に拡がって表示される。これにより、ユーザは、扇状に拡がったオブジェクトの中から、所望のアドレスを容易に、かつ迅速に画面上から探し出すことができる。しかも、アドレス先を示すオブジェクトが扇状に拡がることで、デザイン性に優れた動作を実現でき、データ表示/センサ装置100は、高い満足度をユーザに提供することができる。なお、扇状に拡がった幾つかのオブジェクトの中から、所望のオブジェクトを選択する方法は、例えば図18を参照して説明する方法によって実現される。
【0150】
次に、図10について説明する。図10(a)に示すように、第1表示/光センサ部300Aには円形の画像26aが表示されている。そして、ユーザは、その円形の画像26aを、上面側から親指20で、下面側から人差し指21で、それぞれタッチする。
【0151】
次に、図10(b)に示すように、ユーザは、親指20と人差し指21を反対方向(図面縦方向において、親指20を略上方向、人差し指21を略下方向)へ移動させる。この指の動作によって、円形の画像26aは、より大きな寸法の円形の画像26bとなって第1表示/光センサ部300Aに表示される。
【0152】
なお、寸法が拡大される程度は、親指20及び人差し指21の移動距離に応じて決まる。従って、図10(b)では、ユーザは、親指20及び人差し指21を大きく移動させたため、画像26bは、一部が画面からはみ出して表示されている。
【0153】
また、次のような方法によって、第1表示/光センサ部300Aに、円形の画像26bよりもサイズが小さくなった円形の画像26aを表示させることができる。
【0154】
まず、ユーザは、円形の画像26bを、上面側から親指20で、下面側から人差し指21で、それぞれタッチする。このとき、親指20及び人差し指21が画像26bをタッチする位置は、図10(b)に示すように、それぞれ異なる位置である。なお、図10(b)で示す例では、親指20は画像26bの上端部付近を、人差し指21は画像26bの下端部付近を、それぞれタッチしている。
【0155】
次に、親指20と人差し指21を反対方向(図面縦方向において、親指20を略下方向、人差し指21を略下上方向)へ移動させる。この指の動作によって、円形の画像26bは、より小さな寸法の円形の画像26aとなって第1表示/光センサ部300Aに表示される。つまり、図10(a)から図10(b)へ至る指の動きと逆の動きをすることにより、円形の画像26bは、より小さな寸法の円形の画像26aとなって第1表示/光センサ部300Aに表示される。このようにして、ユーザは、画像の拡大・縮小を容易に、かつ迅速に実行できる。
【0156】
なお、親指20と人差し指21を互いに反対方向に動かす場合に、その方向は、前記説明した図面垂直方向に限らず、どの方向であってもよい。ここで挙げた例はあくまで一例である。
【0157】
図10(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば円形の画像26aが写真画像である場合、ユーザは、拡大した状態でその画像を鑑賞したい場合がある。そのような場合に、上述した親指20、及び人差し指21の動作により、その写真画像を拡大して表示することができ、データ表示/センサ装置100は、拡大した画像を鑑賞したいというユーザの要求に応えることができる。
【0158】
次に、図11について説明する。図11(a)では、第1表示/光センサ部300Aに正方形の画像27aが表示され、その正方形の画像27aが、上面から親指20で、下面から人差し指21で、それぞれタッチされている。そして、図11(b)に示すように、ユーザは、親指20と人差し指21を同一方向(図面横方向において、右方向)へ移動させて、画面の外部へ正方形の画像27aを移動させている。つまり、ユーザは、この指の動きにより、その指の動く距離に応じて正方形の画像27aを移動させることができる。そして、表示画面の外部まで正方形の画像27aを移動させた場合に正方形の画像27aのファイルが削除される、という動作を予め割り当てておけば、正方形の画像27aのファイルは容易に削除される。このようにして、ユーザは、画像の移動、削除をより簡単に、かつ迅速に実行することができる。
【0159】
なお、図11(a)・(b)では、図面横方向において、親指20及び人差し指21を共に右側に移動させるものとして説明した。しかしながら、親指20及び人差し指21を移動させる方向はこれに限らず、いかなる方向であってもよい。従って、ユーザは、任意の場所に画像を移動させることができる。
【0160】
図11(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、ユーザが、画面に表示された任意のファイル(あるいはフォルダ)を移動したい場合に、そのファイルを表裏両面から挟持して、所望の移動先まで親指及び人差し指を移動することにより、その位置にファイルを移動させることができる。また、画面に表示されたファイルを削除したい場合には、そのファイルを表裏両面から挟持して、画面の外側へ移動させればよい。このようにして、データ表示/センサ装置100は、ファイルを削除・移動したいというユーザの要求に応えることができる。
【0161】
次に、図12について説明する。図12(a)に示すように、図面横方向をパイプ軸(管長)方向とするパイプ形状の画像28aが第1表示/光センサ部300Aに表示されている。そして、ユーザは、そのパイプ形状の画像28aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている。そして、図10(b)に示すように、親指20と人差し指21を反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させることにより、第1表示/光センサ部300Aには、パイプ軸に直交する方向(図面下から上方向)にパイプ形状の画像28aが回転する様子が表示される。
【0162】
なお、親指20と人差し指21を前記とはそれぞれ逆の方向(図面縦方向において、親指20を下方向、人差し指21を上方向)に移動させことにより、パイプ形状の画像28aは、前記とは逆の方向、つまり、図面上から下方向に回転する。このように、親指20と人差し指21の移動方向によって、パイプ形状の画像28aの回転方向が任意に選択され、データ表示/センサ装置100は、図12(a)及び図12(b)によって示される多彩で立体的な動作を、容易かつ迅速に実現することができる。
【0163】
図12(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。図12(a)では、パイプ形状の画像28aは、図面横方向に延びる複数の矩形の画像28bによって形成されている。そこで、各矩形の画像28bが、例えば「ニュース」、「ブログ」、「ショッピング」等のアドレスを示す画像(オブジェクト)であり、パイプ形状の画像28aを回転させて、ユーザから見て正面に位置するオブジェクト(画面に対して正面に表示されるオブジェクト)が「選択されるオブジェクト」と設定しておく。そして、ユーザが、上述した親指20、及び人差し指21の動作によってパイプ形状の画像28aを回転させ、さらに、選択したいオブジェクトを画面に対して正面(選択位置P)に移動させることで、所望のオブジェクトが容易に、かつ迅速に選択される。しかも、アドレス先を示すオブジェクトが回転することにより、データ表示/センサ装置100は、デザイン性に優れた動作を実現でき、高い満足度をユーザに提供することができる。
【0164】
次に、図13について説明する。図13(a)では、第1表示/光センサ部300Aの画面上端付近に、矩形の画像29a〜29dが図面横方向に一列に並べて表示されている。そして、矩形の画像29cは、上面から親指20で、下面から人差し指21で、それぞれ挟持されている。そして、図13(b)では、親指20と人差し指21がそれぞれ同じ方向(図面下方向)に移動して、それにより矩形の画像29cは、図面縦方向に引き伸ばされて、帯状の画像29c’となって表示されている。
【0165】
なお、帯状となった画像29c’の図面縦方向の長さは、親指20及び人差し指21の移動距離に応じて決まる。つまり、帯状となった画像29c’の図面縦方向の長さは、親指20及び人差し指21の移動距離に応じて異なる。
【0166】
また、帯状の画像29c’が表示された状態において、ユーザが、上面から親指20で、下面から人差し指21で、それぞれ帯状の画像29c’の図面下側の位置を挟持して、親指20と人差し指21をそれぞれ同じ方向(図面上方向)へ移動させる。この動作により、帯状の画像29c’は、引き延ばされる前の画像である矩形の画像29cに戻る。その結果、第1表示/光センサ部300Aの画面上端付近に矩形の画像29cが表示される。このように、親指20及び人差し指21が図面縦方向に上下することにより、第1表示/光センサ部300Aには、矩形の画像29cと帯状の画像29c’とが切り替わって表示される。
【0167】
なお、図13(a)では、第1表示/光センサ部300Aの画面上端付近に画像29a〜29dを表示しているが、この位置に限らず、第1表示/光センサ部300Aの画面下端、右端、左端付近に画像29a〜29dを表示してもよい。
【0168】
図13(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。ユーザによっては、画面に表示されるオブジェクトをできるだけ少なくしておきたいという要望を持つことがある。そのような場合に、画面の上端、下端、右端、あるいは左端付近にオブジェクトを寄せておき、必要な時にのみ、上述した親指20、及び人差し指21の動作により帯状の画像29c’を引き出すことができれば、画面内のスペースを有効に活用することができ、また、画面に表示されるオブジェクトをできるだけ少なくしておきたいというユーザの要望にも応えることができる。
【0169】
次に、図14について説明する。図14(a)では、第1表示/光センサ部300Aに矩形の画像30aが表示され、かつ、ユーザは、上面から親指20で、下面から人差し指21で、それぞれ表示/光センサ部300をタッチしている。そして、図14(b)に示すように、矩形の画像30aを分断するように親指20と人差し指21をそれぞれ同じ方向(図面下方向)へ移動させることにより、矩形の画像30aは、左右2つの画像30bに分割される。なお、後述する指−命令対応情報テーブルに予め設定しておくことにより、親指20と人差し指21の移動方向に応じて、矩形の画像30aは上下、あるいは斜め方向に分割される。
【0170】
図14(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、矩形の画像30aを2つに分割した場合に当該画像30aのファイルが削除される、という動作を予め割り当てておけば、上述した指の動きにより、矩形の画像30aのファイルを容易に削除することができる。
【0171】
次に、図15について説明する。図15(a)では、第1表示/光センサ部300Aに複数の画像31aが円周状に配置して表示され、かつ、ユーザは、その円の中心点付近を上面から親指20で、画像31aを下面から人差し指21で、それぞれタッチしている。そして、図15(b)に示すように、親指20を動かさずに、人差し指21を図面下側へ移動させることにより、複数の画像31aが、前記円の円周に沿って反時計回りに回転している。なお、図示していないが、人差し指21を図面上側へ移動することにより、複数の画像31aは、円の円周に沿って時計回りに回転する。
【0172】
このようにして、複数の画像31aは、第1表示/光センサ部300Aに回転した状態で表示される。また、ユーザは、指の動きを停止して、その回転を停止させることができる。従って、回転を止めたときに、画面上の所定の場所に位置する画像(オブジェクト)を「選択されるオブジェクト」と設定しておくことにより、従来にはない斬新な方法によってオブジェクトが選択される。しかも人差し指の動きの速度に応じて複数の画像が回転するように設定することにより、所望のオブジェクトは、容易に、かつ迅速に第1表示/光センサ部300Aに表示され、さらに選択される。そして、データ表示/センサ装置100は、デザイン性にも優れた動作を実現できるため、高い満足度をユーザに提供することができる。
【0173】
次に、図16について説明する。図16(a)では、第1表示/光センサ部300Aに、円形の画像32aと矩形の画像32bとが結合してなる画像32cが表示され、かつ、ユーザが、画像32aの中心付近を上面から親指20で、画像32bを下面から人差し指21で、それぞれタッチしている。
【0174】
次に、図16(b)に示すように、親指20を動かさずに、人差し指21が図面左側へ移動することにより、あたかも画像32aの中心点付近を支点とした振り子のように、画像32bが左側に移動する。
【0175】
なお、上述した画像32bの移動は、人差し指21の移動距離に応じて決まる。また、人差し指21の移動方向を逆方向(図面右方向)へ移動させることにより、画像32bは、人差し指21の移動距離に応じて、画像32aの中心点付近を支点として移動する。
【0176】
このようにして、データ表示/センサ装置100は、図16(a)及び図16(b)によって示される多彩で立体的な動作を、容易かつ迅速に実現することができる。
【0177】
なお、図16では、画像32bは画像32aの図面上側に表示されているが、その位置は任意に選択される。また、図16では、画像32a、32bは1つのみ表示されているが、これらが複数表示されてよい。
【0178】
図16(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、ユーザが、データ表示/センサ装置100から出力される音量を画面上の簡単な操作によって調節したいという要望を持つ場合がある。このような場合に、例えば人差し指21が図面左右方向に動き、画像32bがそれに伴い左右に移動し、その移動量に伴って音量がリニアに調節される、という動作を予め割り当てておけば、例えば画像32bを左側に移動させて、これによりデータ表示/センサ装置100から出力される音量を下がることが可能となる。あるいは、画像32bを右側に移動させて、これによりデータ表示/センサ装置100から出力される音量を上げることができる。
【0179】
次に、図17について説明する。図17(a)では、第1表示/光センサ部300Aのほぼ画面全体に亘って矩形の画像33aが表示され、かつ、ユーザが、上面から親指20で、下面から人差し指21でその画像33aをタッチしている。
【0180】
そして、図17(b)に示すように、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させることにより、図面下側から矩形の画像33bが出現し、矩形の画像33aと矩形の画像33bとが図面縦方向に並んで表示される。そして、図17(c)に示すように、さらに親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させることにより、画面に表示される画像が、画像33aから画像33bに切り替わる。
【0181】
つまり、上述した親指20及び人差し指21の動きにより、画面に表示される画像が、画像33aから画像33bに切り替わる。しかも、その切り替えが完全に行われる前に指の動きを停止することにより、矩形の画像33a及び画像33bが図面縦方向に並んで表示される。また、指の動きの速度に応じて、矩形の画像33aから画像33bへの切り替えが所望の速度で行われる。さらに、親指20及び人差し指21の動きを前記とは逆の方向にすることにより、画像33bから矩形の画像33aの方向に画像の切り替えが行われる。
【0182】
図17(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、ユーザが、電子アルバム化された複数の写真を順次鑑賞したい場合を考える。そのような場合に、画面に表示された写真(画像33a)から、次の写真(画像33b)に移りたいときに、上述した親指20、及び人差し指21の動作により、ユーザは、画像33aから画像33bへの切り替えを容易に、かつ迅速に行うことができる。このように、データ表示/センサ装置100は、画像を切り替えて次の画像を見たいというユーザの要求に確実に応えることができる。
【0183】
なお、図17では、画像の切り替えを図面縦方向に行っているが、図面横方向に行うことも可能である。
【0184】
次に、図18について説明する。図18(a)では、第1表示/光センサ部300Aに略正方形の画像34が表示されている。そして、図18(b)に示すように、親指20と人差し指21が表裏両面からほぼ同時に略正方形の画像34にタッチして、略正方形の画像34が選択された状態となる。
【0185】
つまり、ユーザは、親指20と人差し指21を表裏両面からほぼ同時に略正方形の画像34をタッチすることにより、略正方形の画像34を選択することができる。従って、親指20あるいは人差し指21の動きのみでは略正方形の画像34は選択されず、また、第1表示/光センサ部300Aが親指20の像を検知して暫く時間が経ってから第2表示/光センサ部300Bが人差し指21の像を検知したとしても、略正方形の画像34は選択されない。
【0186】
従って、ユーザは、親指20及び人差し指21を表裏両面からほぼ同時に略正方形の画像34にタッチしない限り、所望のオブジェクトを選択することができず、その分だけ、誤入力のリスクは軽減される。
【0187】
なお、第1表示/光センサ部300Aが親指20の像を検知してから第2表示/光センサ部300Bが人差し指21の像を検知する(あるいは、第2表示/光センサ部300Bが人差し指21の像を検知してから第1表示/光センサ部300Aが親指20の像を検知する)までの経過時間は適宜設定してよい。但し、経過時間を「0」としたのでは、容易にオブジェクトの選択をすることができず、ユーザは不便を感じることが多い。また、経過時間が長すぎたのでは、誤入力となってしまう可能性もある。そこで、経過時間を適宜設定しうる構成とすることにより、ユーザは、不便を感じることなく、かつ、誤入力のリスクを軽減することができる。
【0188】
一方、経過時間を設定せず、親指20及び人差し指21が表裏両面から略正方形の画像34にタッチすることで、略正方形の画像34が選択された状態とすることも可能である。これにより、ユーザは、経過時間を気にしながら表裏両面から略正方形の画像34をタッチする必要がなくなる。
【0189】
なお、経過時間の設定は、ユーザが外部から入力し、その入力値を記憶部901に記憶させておけばよい。そして、入力検出部830がその入力値を記憶部901から読み出して、自身が測定した実測値と比較することにより、経過時間が経過したかどうかの判定が行われる。なお、経過時間の実測値が入力値を超える場合は、入力検出部830が入力信号を生成しない構成とすることも可能である。なお、入力検出部830、及び記憶部901の詳細は後ほど説明する。
【0190】
また、後述する指−命令対応情報テーブルに予め登録しておくことにより、親指20と人差し指21が略正方形の画像34を表裏両面からダブルクリックした場合に、その画像34が選択される構成とすることも可能である。この場合、上記の経過時間は、最初のクリックから2回目のクリックまでの時間とすることもできる。
【0191】
以上、図9〜図18を参照して、指の像の動きに対応して実行される種々の動作の具体例を説明した。なお、前記説明では、親指20と人差し指21の移動方向と実行される動作とを対応付けて説明したが、実行される動作は、前記の各動作に限定されない。つまり、指の像の動きと実行される動作とを対応付けて後述する指−命令対応情報テーブルに予め登録しておけば、同じ指の動きであっても、異なる動作を実行することが可能となる。
【0192】
例えば、図11を参照して説明した正方形の画像27aを移動する動作は、親指20と人差し指21をそれぞれ同じ方向へ移動させることにより実行される。しかしながら、親指20と人差し指21をそれぞれ同じ方向へ移動する動きを、画像を拡大(縮小)する動作に対応付けておくことにより、同じ指の動きであっても、異なる動作を実行することができる。あるいは、親指20と人差し指21をそれぞれ同じ方向へ移動させることにより、円形の画像の場合には画像の拡大という動作を割り当て、矩形の画像の場合には移動という動作を割り当てておくことにより、同じ指の動きであっても、画像の形状に応じて、異なる動作を実行することができる。
【0193】
ここで、数え切れないほど多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識し、その指の像の動きに対応付けられた所定の動作を実行するためには、次のような方法が考えられる。
【0194】
第1の方法は、第1表示/光センサ部300Aが検知した指の像の動きと、第2表示/光センサ部300Bが検知した指の像の動きとの関係から、特定の指の動きを認識する方法である。この方法は、例えば、表裏両面における指の像が、同一方向に移動すればオブジェクトが移動、反対方向に移動すればオブジェクトが拡大、近づく方向に移動すればオブジェクトが縮小、といった動きを予め対応付けておくことにより、数多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識するというものである。
【0195】
第2の方法は、上述した第1の方法に加えて、データ表示/センサ装置100との位置関係を考慮するものであり、データ表示/センサ装置100に対する指の像の動きの角度から、特定の指の動きを認識する方法である。この方法は、データ表示/センサ装置100の基準座標(X・Y軸)を定めておき、表裏両面の像が、X軸の反対方向に移動すればオブジェクトが拡大、Y軸の反対方向に移動すればオブジェクトが回転、といった動きを予め対応付けておくことにより、数多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識するというものである。
【0196】
第3の方法は、アプリケーション、モード等の動作する状態(場面)に応じて、特定の指の動きを認識する方法である。この方法は、あるアプリケーションの場合は、表裏両面の指の像を反対方向に移動させればオブジェクトが扇状に展開、他のアプリケーションの場合は、表裏面の指の像を反対方向に移動させればオブジェクトが拡大、さらに他のアプリケーションの場合は、表裏面の指の像を同一方向に移動させればオブジェクトが拡大、といった動きを予め対応付けておくことにより、数多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識するというものである。
【0197】
そして、どの方法を採用するかを予め設定しておけば、数え切れないほど多く存在する指の像の動きの変化の中から、ある特定の指の像の動きが認識されて、その指の像の動きに対応付けられた所定の動作が実行される。
【0198】
また、前記3つの方法に限らず、それらを組み合わせてもよく、あるいは、前記以外の方法により、数え切れないほど多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識し、その指の像の動きに対応付けられた所定の動作を実行してもよい。
【0199】
このようにして、特定の指の像の動きに対応付けられた所定の動作が実行される。そして、その所定の動作とは、図9〜図18を参照して説明した、画像(オブジェクト)の選択、拡大、縮小、回転、扇状への展開、他の画像への切り替え、移動、削除、引き伸ばし、あるいは分割などが挙げられる。そして、第1表示/光センサ部300Aには、上記動作結果が表示される。
【0200】
なお、実行される所定の動作は、上述した各動作に限らず、種々の動作が可能である。また、図9〜図18を参照して説明した各動作を適宜組み合わせて得られる動作も実行可能である。
【0201】
ここで、他の動作の一例を図11(a)・(b)を参照して説明する。図11(a)・(b)では、上面から親指20で、下面から人差し指21で、それぞれ略正方形の画像27aをタッチして、さらに親指20と人差し指21をそれぞれ同じ方向(図面横方向において、右方向)へ移動させている。この指の動きにより、略正方形の画像27aが第1表示/光センサ部300Aの画面の外側へと移動する。
【0202】
このとき、第1表示/光センサ部300Aの画面の外側へ略正方形の画像27aが移動し終わる前に親指20及び/又は人差し指21が略正方形の画像27aから離れた場合、画像が最初の位置(状態)に戻るようデータ表示/センサ装置が構成されていたとする。この場合、ユーザは、当該装置を使用することにより、親指20及び/又は人差し指21を略正方形の画像27aから離すことで略正方形の画像27aを最初の位置(状態)に戻すことができる。つまり、ユーザは、指を離す動作によって所定の動作(画像の移動)をキャンセルすることができる。
【0203】
つまり、データ表示/センサ装置が上記のように構成されていれば、画像を最初の状態に戻すための他の動作を必要とせず、ユーザの負担が軽減される。そして、所定の動作をキャンセルする操作は、図9等を参照して説明した他の実施例にも適用することが可能である。
【0204】
このように、指の動きと所定の動作とを種々のパターンで関連付けることができる。そして、実行される所定の動作は、上述した各動作に限らず、種々の動作が可能である。
【0205】
(データ表示/センサ装置の要部説明)
次に、図1を参照しながら、データ表示/センサ装置100のより詳細な構成について説明する。なお、ここでは、説明を分かりやすくするために、主制御部800と表示/光センサ部300との間に位置するデータ処理部700および回路制御部600の動作については説明を省略する。ただし、正確には、画像の表示および画像の検知を行うにあたり、主制御部800の入力インターフェース制御部805が、データ処理部700にコマンドを送信し、データ処理部700がコマンドに基づいて回路制御部600を制御し、回路制御部600が表示/光センサ部300に対して信号を送信する。また、主制御部800は、データ処理部700に対して送信したコマンドに対する応答として、データ処理部700から、全体画像データ、部分画像データ、および座標データを取得する。
【0206】
図1は、データ表示/センサ装置100の要部構成を表すブロック図である。図示のように、主制御部800は、入力インターフェース制御部805と、アプリケーション実行部850(動作実行装置)と、を備える。また、入力インターフェース制御部805は、検知判定部810と、重畳判定部820と、入力検出部830と、動作制御部840(動作制御手段)と、画像表示制御部860(画像表示制御手段)と、を備える。
【0207】
検知判定部810は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが、共に指の像を検知したかどうかを判定する。より具体的に説明すると、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したとき、座標データ、全体画像データ、部分画像データがデータ制御部700から検知判定部810に送信される。従って、検知判定部810は、第1表示/光センサ部300A及び第2表示/光センサ部300Bの両方から座標データ、全体画像データ、部分画像データを受信した場合に、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定することができる。なお、検知判定部810は、座標データ、全体画像データ、部分画像データのうち少なくとも何れか1つを受信することで、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定することもできる。
【0208】
ここで、図1では、データ処理部700から検知判定部810(及び、重畳判定部820、入力検出部830)へ送信される座標データ、全体画像データ、部分画像データが実線及び破線で記載されている。これは、検知判定部810が、第1表示/光センサ部300A及び第2表示/光センサ部300Bの両方から座標データ、全体画像データ、部分画像データを取得するためであり、第1表示/光センサ部300Aから検知判定部810(及び、重畳判定部820、入力検出部830)へ送信される座標データ、全体画像データ、部分画像データを実線で、第2表示/光センサ部300Bから検知判定部810(及び、重畳判定部820、入力検出部830)へ送信される座標データ、全体画像データ、部分画像データを破線で、それぞれ記載している。
【0209】
次に、検知判定部810は、「第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知した」ことを示す判定結果を入力検出部830に出力する。従って、第1表示/光センサ部300Aのみ、あるいは第2表示/光センサ部300Bのみが指の像を検知した場合、若しくは第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知しなかった場合には、検知判定部810は、「第1表示/光センサ部300A及び第2表示/光センサ部300Bは、共に指の像を検知しなかった」ことを示す判定結果を入力検出部830に出力する。若しくは、検知判定部810は、入力検出部830に対して何も出力しない。
【0210】
重畳判定部820は、第1表示/光センサ部300Aに表示された画像の領域である表示画像領域と、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の領域である像領域とが重畳するか否かを判定する。なお、表示/光センサ部300のうち、第1表示/光センサ部300Aに画像が表示され、第2表示/光センサ部300Bには画像が表示されていないものとして説明する。
【0211】
より具体的に説明すると、重畳判定部820は、データ制御部700から座標データ、全体画像データ、部分画像データを取得し、それら座標データ、全体画像データ、部分画像データから像領域を特定する。また、重畳判定部820は、第1表示/光センサ部300Aに表示された画像に係る画像情報を記憶部901から読み出す。その画像情報には、当該画像に係る表示画像領域が座標により特定されているため、重畳判定部820は、記憶部901から画像情報を読み出すことにより表示画像領域を特定することができる。
【0212】
一例として、図28、及び図29を参照して画像情報について説明する。図28は、図10に係る円形の画像26a、26bについての画像情報を説明するための図である。また、図29は、図11に係る矩形の画像27aについての画像情報を説明するための図である。
【0213】
図28(a)に示すように、円形の画像26aは、座標(A、B)を中心点として、直径φT1で示される円である。また、図10を参照して説明した方法によって得られた、図28(b)におけるより大きな寸法に拡大した円形の画像26bは、座標(A、B)を中心点として、直径φT2で示される円である。なお、ここでは円形の画像26a・26bに係る表示画像領域は、座標(A、B)、及び直径φT1、φT2によって特定されているが、円形の画像26a・26bの各円周の座標によって特定する態様であっても構わない。何れの態様であれ、円形の画像26a・26bに係る表示画像領域が特定されるためである。
【0214】
また、図29(a)に示すように、矩形の画像27aは、(A、B1)という位置を画像の中心として、一辺が長さCで表される正方形の画像である。また、図11を参照して説明した方法によって得られた、図29(b)における図面右側に移動した画像27aは、(A、B2)を画像の中心として、一辺が長さCで表される正方形の画像である。なお、ここでは正方形の画像27aは、座標(A、B1)、(A、B2)、及び長さCで特定されるが、正方形の画像27aの4辺を示す座標によって特定する態様であっても構わない。何れの態様であれ、正方形の画像27aに係る表示画像領域が特定されるためである。
【0215】
このように、図28で言えば座標(A、B)及びφT1、φT2という情報を、また図29で言えば座標(A、B1)、(A、B2)、及びCという情報を、それぞれ画像情報として扱うことにより、重畳判定部820は、記憶部901からその画像情報を読み出すことによって表示画像領域を特定することができる。
【0216】
上記の方法により、重畳判定部820は、像領域および表示画像領域を特定することができ、従って、像領域と表示画像領域との間に重畳する重畳領域が存在するか否かを判定することができる。そして、重畳判定部820は、その判定結果を入力検出部830に出力する。なお、前記の重畳領域が存在しないと判定した場合に、重畳判定部820がその判定結果を入力検出部830に出力せず、そのことにより重畳領域が存在しないことの判定結果とすることもできる。
【0217】
また、前記の説明では、重畳判定部820はデータ制御部700から座標データ、全体画像データ、部分画像データを取得するものとして説明した。しかしながら、重畳判定部820は、検知判定部810を介して、データ制御部700から座標データ、全体画像データ、部分画像データを取得してもよい。
【0218】
なお、重畳領域が存在するか否かの判定では、重畳判定部820は、第1表示/光センサ部300Aに表示された画像の領域である表示画像領域と、第1表示/光センサ部300Aあるいは第2表示/光センサ部300Bのうち、何れか一方が検知した指の像の領域である像領域とが重畳するか否かを判定してもよい。これにより、第1表示/光センサ部300A及び第2表示/光センサ部300Bの両方の像領域と表示画像領域とが重畳するか否かを判定する場合よりも、「重畳領域が存在する」と判定される条件を緩和することができる。
【0219】
ここで、具体例を用いて、重畳判定の条件を緩和することが好ましい理由を説明する。図9(a)では、ユーザは、第1表示/光センサ部300Aに表示された矩形の画像25aに対応する第2表示/光センサ部300B上の領域を人差し指21でタッチしている。つまり、第2表示/光センサ部300Bに矩形の画像25aが表示されているとしたならば、その矩形の画像25aが表示されているであろう領域を、人差し指21がタッチする。
【0220】
このとき、第2表示/光センサ部300Bは矩形の画像25aを画面上に表示していないため、ユーザは、第1表示/光センサ部300Aに表示された矩形の画像25aに対応する第2表示/光センサ部300B上の領域を感覚的に認識して、その上で、その領域をタッチしている。つまり、人差し指21による当該領域へのタッチは、感覚的に行われるものであり、常に正確に行われるものではない。
【0221】
従って、少なくとも第1表示/光センサ部300Aあるいは第2表示/光センサ部300Bのうち、何れか一方が検知した指の像の領域である像領域が表示画像領域と重畳することにより「重畳領域が存在する」と判定されるのであれば、データ表示/センサ装置100は、より優れた操作性及び利便性をユーザに提供することができる。
【0222】
入力検出部830は、検知判定部810が、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定し、かつ、重畳判定部820が重畳領域が存在すると判定した場合には、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出して、その指の像の動きに対応付けられた入力信号を生成し、その入力信号を動作制御部840に出力する。
【0223】
このとき、入力検出部830は、さらにアプリケーション、モード等の動作する状態(場面)、あるいは画像の属性にも対応付けて入力信号を生成する。これにより、後述するアプリケーション実行部850は、第1表示/光センサ部300Aに表示された画像に対して所定の動作を実行することができる。なお、入力検出部830は、記憶部901から直接、もしくは重畳判定部820を介して当該画像等に係る画像情報を取得することができる。これにより、入力検出部830は、第1表示/光センサ部300Aに表示された画像に対応付けされた入力信号を生成することができる。
【0224】
ここで、入力検出部830が生成する入力信号について、図9の動作を例に具体的に説明する。
【0225】
第1表示/光センサ部300A及び第2表示/光センサ部300Bは、反対方向へ移動する親指20の像と人差し指21の像を検知する。このとき、入力検出部830は、データ制御部700から親指20の像と人差し指21の像の移動前後における全体画像データ、部分画像データ、及び座標データを取得する。そして、入力検出部830は、それらのデータから、それぞれの指の像の移動量、及び移動方向を算出する。
【0226】
より具体的に説明すると、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)で表され、部分画像データ(領域PP)における座標データは(Xp,Yp)として表される。従って、入力検出部830は、親指20の像及び人差し指21の像の移動前後における上記座標データをそれぞれ取得して、その座標データの差分を計算することにより、それぞれの指の像の移動量、及び移動方向を算出することができる。
【0227】
このようにして、入力検出部830は、第1表示/光センサ部300A及び第2表示/光センサ部300Bがそれぞれ検知した指の像の動きを検出して、各指の座標移動量、座標移動方向(単独ベクトル)を算出する。そして、入力検出部830は、各指の単独ベクトルから、各指が互いにどの方向に、どの程度移動したかを示す相対ベクトルを算出する。これにより、入力検出部830は、単独ベクトル、及び相対ベクトルを算出し、かつ、単独ベクトル、及び相対ベクトルに対応付けられた入力信号を生成する。
【0228】
さらに、入力検出部830は、以下の種々の項目に対応付けられた入力信号、つまり、記憶部901から読み出した画像情報に基づいて、アプリケーション、モード等の動作する状態(場面)ごとに対応付けされた入力信号、図19を参照して後述する「経過時間」に対応付けられた入力信号、あるいは指の動きの速度に対応付けられた入力信号、を生成する。なお、入力信号は、ここで挙げた項目すべてに対応付けて生成される必要はなく、これらのうち一部に対応付けられて生成されてもよい。
【0229】
このように、入力検出部830は、上記種々の項目に対応付けられた入力信号を生成し、その入力信号を動作制御部840に出力する。
【0230】
動作制御部840は、入力検出部830が生成した入力信号を受信して、その入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とに対応付けられた指−命令対応情報に基づいて、アプリケーション実行部850に動作実行命令を送信する。
【0231】
より具体的に説明すると、動作制御部840は、入力検出部830が生成した入力信号を受信する。そして、動作制御部840は、その入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とに対応付けられた指−命令対応情報を記憶部901から読み出し、その指−命令対応情報に基づいて、当該入力信号に対応する動作実行命令をアプリケーション実行部850に送信する。
【0232】
ここで、指−命令対応情報についてより具体的に説明する。指−命令対応情報とは、入力検出部830が生成する入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とに対応付けられた情報である。例えば、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像が同じ方向に移動すると、選択した画像を同じ方向に移動させる、あるいは、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像が互いに反対方向に移動すると、選択した画像を拡大する(縮小する)、というように、指−命令対応情報は、入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とに対応付けられている(図30参照)。さらに、これに加え、入力検出部830は、単独ベクトル、相対ベクトル、アプリケーション・モード等の動作する状態(場面)、経過時間、あるいは指の動きの速度といった種々の項目に対応付けられた入力信号を生成する。従って、指−命令対応情報は、上記種々の項目、及び実行すべき所定の動作とが関連付けてなるものである。
【0233】
なお、図30は、図9〜図19を参照して説明する、画像の形状、指の動き、及び得られる動作を関連付けた指−命令対応情報の一例を示すテーブルである。従って、ここで示す各項目はあくまで一例であって、これに限られるものではない。
【0234】
アプリケーション実行部850は、動作制御部840から動作実行命令を受信して、その命令によって示される動作を実行する。そして、アプリケーション実行部850は、その動作が行われたことを示す動作結果情報を画像表示制御部860に送信する。
【0235】
例えば、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像が同じ方向に移動した場合(仮にA点からB点へ移動したとする)であって、その指の像の動きに対応付けられた動作が、「表示画像をA点からB点へ移動させる」という動作である場合、アプリケーション実行部850は、当該表示画像の表示位置をA点からB点に移動する処理を行う。そして、アプリケーション実行部850は、「表示画像をA点からB点へ移動する処理を行った」ことを示す動作結果情報を画像表示制御部860に送信する。
【0236】
このように、アプリケーション実行部850は、動作制御部840から動作実行命令を受信して、その命令によって示される動作を実行し、さらに、その動作が行われたことを示す動作結果情報を画像表示制御部860に送信する。
【0237】
なお、図1において、アプリケーション実行部850は主制御部800に含まれる構成である。しかしながら、主制御部800の外部にアプリケーション実行部850を設けて、外部通信部907を介して、所定の動作を実行する構成としてもよい。また、アプリケーション実行部850は、1または複数のアプリケーションを有してよい。
【0238】
画像表示制御部860は、アプリケーション実行部850から動作結果情報を受信すると、データ処理部700に表示データを送信する。その表示データは、アプリケーション実行部850によって実行された動作結果を第1表示/光センサ部300Aに表示するようデータ処理部700に促すものである。
【0239】
従って、「表示画像をA点からB点へ移動させる」という動作がアプリケーション実行部850によって実行された場合、画像表示制御部860は、データ処理部700にそのことを示す表示データを送信して、その結果、第1表示/光センサ部300Aに動作結果が表示される。つまり、表示画像がA点からB点へ移動する様子が第1表示/光センサ部300Aに表示される。
【0240】
また、図1では、記憶部901は、主制御部800の外部に設けられているが、主制御部800の内部に設けられる構成であってもよい。
【0241】
また、検知判定部810、重畳判定部820、及び入力検出部830は、第1表示/光センサ部300A及び第2表示/光センサ部300Bごとに、指の像の全体画像データ、部分画像データ、及び座標データを送信するようデータ処理部700に要求している。これは、主制御部800で実行されるアプリケーションプログラムが、指の像の全体画像データ、部分画像データ、及び座標データを第1表示/光センサ部300A及び第2表示/光センサ部300Bごとに送信するようデータ処理部700を制御することにより行われる。
【0242】
(フローチャート説明)
次に、図9〜図18、及び図20を参照しながら、データ表示/センサ装置100の処理の流れ、及び、入力インターフェース制御部805からデータ処理部700に送信されるコマンドの詳細について説明する。
【0243】
図20は、データ表示/センサ装置100の処理の流れを表すフローチャートである。
【0244】
まず、データ表示/センサ装置100の電源がオフの状態にあるとき、ユーザが電源スイッチ905を押下することにより、データ表示/センサ装置100は電源オンとなる(S11)。
【0245】
そして、ステップS13では、ユーザが電源スイッチ905を押下することにより、表示/光センサ部300に画像が表示される。なお、ここでは、第1表示/光センサ部300Aに画像が表示されるものとする。この状態で、データ表示/センサ装置100は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが指の像を検出するまで待機する。
【0246】
ここで、第1表示/光センサ部300Aに画像を表示させる場合は、「表示パネル」フィールドの値として上画面(“001”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。なお、第2表示/光センサ部300Bに画像を表示させる場合は、「表示パネル」フィールドの値として下画面(“010”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。ここでは、第1表示/光センサ部300Aに画像を表示させるため、「表示パネル」フィールドの値として両画面(“001”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。
【0247】
また、この段階では、表示/光センサ部300は近傍の像を検知可能な状態にあるものとする。前記検知を行うために、「データ取得タイミング」フィールドに、“イベント”を指定し、「データ種別」フィールドに“座標”および“全体画像”の両方を指定(“101”を指定)したコマンドが入力インターフェース制御部805からデータ処理部700に出力される。なお、“座標”または“全体画像”のみを指定したコマンドが入力インターフェース制御部805からデータ処理部700に出力されてもよい。
【0248】
さらに、第1表示/光センサ部300A及び第2表示/光センサ部300Bにおいて前記検知を行うために、「スキャンパネル」フィールドに両方の表示/光センサ部300を指定(“011”)したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。
【0249】
これにより、センサ内蔵液晶パネル301が近傍の像を検知した場合に、検知判定部810、重畳判定部820、及び入力検出部830は、データ処理部700から座標データ、全体画像データ、部分画像データを取得することができる。
【0250】
つまり、第1表示/光センサ部300A及び第2表示/光センサ部300Bにユーザの指がタッチしたとき、光センサ回路32が、タッチした指の影像および反射像の少なくとも何れかを検知する。その結果、データ処理部700がセンサ制御部602から取得する画像データに変化が生じる。
【0251】
このようにして、検知判定部810は、前記画像データに変化が生じた際にデータ処理部700から出力されてくる、座標データ、全体画像データ、部分画像データを取得することにより、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したことを認識できる。
【0252】
そして、ステップS15では、検知判定部810が、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したかどうかを判定する。つまり、表示/光センサ部300ごとの座標データ、全体画像データ、部分画像データがデータ処理部700から検知判定部810に入力されることにより、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定される。なお、図20では、便宜のため、第1表示/光センサ部300Aを「A」と称し、第2表示/光センサ部300Bを「B」と称している。
【0253】
第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知した場合(ステップS15でYes)、ステップS17に進む。ステップS17では、重畳判定部820が、第1表示/光センサ部300Aに表示された画像の領域である表示画像領域と、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の領域である像領域とが重畳するか否かを判定する。つまり、データ処理部700から表示/光センサ部300ごとの座標データ、全体画像データ、部分画像データを取得することにより、重畳判定部820は、座標データ、全体画像データ、及び部分画像データと、第1表示/光センサ部300Aに表示された画像の領域である表示画像領域とを比較して、重畳する領域(重畳領域)が存在するかどうかを判定する。なお、重畳判定部820は、第1表示/光センサ部300Aに表示された画像に係る画像情報を記憶部901から読み出している。
【0254】
重畳領域が存在すると判定された場合(ステップS17でYes)、ステップS19に進む。ステップS19では、入力検出部830が、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出して、その指の像の動きに対応付けられた入力信号を生成し、その入力信号を動作制御部840に出力する。
【0255】
続いて、ステップS21では、動作制御部840が、その入力信号を入力検出部830から受信して、その入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた指−命令対応情報を記憶部901から読み出す。
【0256】
動作制御部840は、記憶部901から指−命令対応情報を読み出して、その指−命令対応情報に基づいて、アプリケーション実行部850に動作実行命令を送信する。
【0257】
続いて、ステップS23では、アプリケーション実行部850が、動作制御部840から動作実行命令を受信して、その命令によって示される動作を実行する。そして、アプリケーション実行部850は、その動作が行われたことを示す動作結果情報を画像表示制御部860に送信する。
【0258】
そして、ステップS25では、画像表示制御部860が、アプリケーション実行部850から動作結果情報を受信して、データ処理部700に表示データを送信する。その表示データは、アプリケーション実行部850によって実行された動作結果を第1表示/光センサ部300Aに表示するようデータ処理部700に促すものである。その結果、第1表示/光センサ部300Aには、アプリケーション実行部850が動作制御部840から受信した動作実行命令に基づいて実行した動作結果が表示される。
【0259】
このとき、第1表示/光センサ部300Aに画像を表示させる場合は、「表示パネル」フィールドの値として上画面(“001”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。なお、第2表示/光センサ部300Bに画像を表示させる場合は、「表示パネル」フィールドの値として下画面(“010”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。ここでは、第1表示/光センサ部300Aに画像を表示させるため、「表示パネル」フィールドの値として両画面(“001”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。
【0260】
一方、ステップS15、及びステップS17で「No」に進む場合は、再びステップS15に戻る。なお、ステップS15の次にステップS17の処理を行う順序で説明したが、同時に行っても、あるいは逆の順序で行ってもよい。
【0261】
なお、後述の図23を参照して説明する例では、第1表示/光センサ部300Aに画像が表示されていない場合であっても、所望の動作を実行することができる。従って、この場合には、重畳領域が存在するか否か(ステップS17)の判定を経ることなく、入力検出部830が入力信号を生成するステップ(ステップS19)に進む。
【0262】
ここで、前記各ステップ(ステップS11〜ステップS25)の処理の流れを図9を参照して説明する。
【0263】
図9(a)では、第1表示/光センサ部300Aに矩形の画像25aが表示されている。これは、「表示パネル」フィールドの値として上画面(“001”)を指定したコマンドが入力インターフェース制御部805からデータ処理部700に出力された結果、第1表示/光センサ部300Aに画像25aが表示されたものである。
【0264】
なお、既にこの段階で、「データ取得タイミング」フィールドに、“イベント”を指定し、「データ種別」フィールドに“座標”および“全体画像”の両方を指定(“101”を指定)したコマンドが入力インターフェース制御部805からデータ処理部700に出力され、表示/光センサ部300は近傍の像を検知可能な状態にあるものとする。なお、“座標”または“全体画像”のみを指定したコマンドが入力インターフェース制御部805からデータ処理部700に出力されてもよい。
【0265】
また、第1表示/光センサ部300A及び第2表示/光センサ部300Bにおいて前記検知を行うために、「スキャンパネル」フィールドに両方の表示/光センサ部300を指定(“011”)したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。
【0266】
このような状態において、ユーザが、上面(第1表示/光センサ部300Aが配設された側)から親指20で、下面(第2表示/光センサ部300Bが配設された側)から人差し指21で、それぞれその矩形の画像25aをタッチする。そして、第1表示/光センサ部300A及び第2表示/光センサ部300Bは共に指の像を検知することができる状態にあるため、検知判定部810は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが、共に指の像を検知していると判定し、その判定結果を入力検出部830に出力する。
【0267】
また、図9(a)に示すように、第1表示/光センサ部300Aに表示された画像25aの領域を示す表示画像領域と、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した親指20、人差し指21の指の像の領域である像領域とは重畳している。従って、重畳判定部820は、表示画像領域と像領域とが重畳する重畳領域が存在すると判定し、その判定結果を入力検出部830に出力する。
【0268】
なお、重畳判定部820は、データ制御部700から指の像の座標データ、全体画像データ、部分画像データを取得し、それらのデータから前記の像領域を特定する。また、重畳判定部820は、第1表示/光センサ部300Aに表示された画像に係る画像情報を記憶部901から読み出すことにより、画像25aの表示画像領域を特定している。このようにして、重畳判定部820は、像領域および表示画像領域を特定することができるため、像領域と表示画像領域との間に重畳する重畳領域が存在するか否かを判定することができる。
【0269】
入力検出部830は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと検知判定部810が判定し、かつ、重畳判定部820が重畳領域が存在すると判定したことにより、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出する。
【0270】
ここで、図9(b)では、親指20と人差し指21をそれぞれ反対方向(図面横方向において、親指20を右方向、人差し指21を左方向)へ移動しているため、入力検出部830は、その指の像の動きを検出し、その指の像の動きに対応付けられた入力信号を生成する。また、入力検出部830は、記憶部901から直接、もしくは重畳判定部820を介して矩形の画像25aに係る画像情報を取得しており、入力信号は、矩形の画像25aに対応付けて生成されている。そして、入力検出部830はその入力信号を動作制御部840に出力する。
【0271】
動作制御部840は、入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた指−命令対応情報を記憶部901から読み出し、次に、動作実行命令をアプリケーション実行部850に送信する。ここで、第1表示/光センサ部300Aに表示された画像が矩形の画像25aであって、データ表示/センサ装置100の表裏両面で検出された指の像の動きがそれぞれ反対方向へ移動する場合には、指−命令対応情報は、矩形の画像25aを扇状の画像25aに変化させる動作に対応付けられている。
【0272】
従って、アプリケーション実行部850は、矩形の画像25aを扇状の画像25aに拡げる処理を行い、その上で、「矩形の画像25aを扇状の画像25aに拡げる処理を行った」ことを示す動作結果情報を画像表示制御部860に送信する。
【0273】
画像表示制御部860は、アプリケーション実行部850から前記の動作結果情報を受信すると、データ処理部700に表示データを送信する。その表示データとは、矩形の画像25aを扇状の画像25aに拡げて表示することを指示するデータである。そして、データ処理部700は、画像表示制御部860から送信された表示データに基づいて、第1表示/光センサ部300Aに表示された矩形の画像25aを扇状の画像25aへ展開した画像を表示させる。
【0274】
なお、扇状の画像25aの表示は、「表示パネル」フィールドの値として上画面(“001”)を指定したコマンドが入力インターフェース制御部805からデータ処理部700に出力された結果、第1表示/光センサ部300Aに扇状の画像25aが表示されたものである。
【0275】
このようにして、図9(a)・(b)を参照して説明した動作が実行され、その実行結果が第1表示/光センサ部300Aに表示される。
【0276】
これと同様の処理の流れによって、図10〜図18を参照して説明した種々の動作が実行され、その実行結果が第1表示/光センサ部300Aに表示される。
【0277】
なお、ここでは、右手について説明しているが、左手についても、入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた指−命令対応情報を記憶部901に記憶させておけば、第1表示/光センサ部300Aに表示された表示画像に対して、所望の動作を実行させることができる。
【0278】
また、ここでは第1表示/光センサ部300Aに表示画像を表示するものとして説明したが、第2表示/光センサ部300Bに画像を表示させてもよい。
【0279】
さらに、第1表示/光センサ部300A及び第2表示/光センサ部300Bによる検知の対象として親指20及び人差し指21を用いることとして説明したが、検知の対象とする指の種類は、これらの指に限定されず、中指、薬指、小指であってもよい。指の種類ではなく、検知した指の像の動きに基づいて、第1表示/光センサ部300Aに表示された画像に対して所定の動作を実行させるためである。
【0280】
データ表示/センサ装置100の前記処理によって得られる効果を説明すると以下の通りである。
【0281】
データ表示/センサ装置100は、前記構成を備えることにより、表裏両面にそれぞれ配設された近傍の像を検知する第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知した場合に、指の像の動きに対応付けられた入力信号が入力検出部830によって生成される。つまり、第1表示/光センサ部300A、第2表示/光センサ部300Bのうち何れか一方の表示/光センサ部300が指の像を検知しただけでは、その指の像の動きに対応付けられた入力信号が生成されることはない。
【0282】
このように、データ表示/センサ装置100では、表裏両面の表示/光センサ部300という二つの入力面からの入力によって入力信号が生成される。そして、その入力信号は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きに対応付けられた信号である。従って、ユーザは、様々な指の像の動きを第1表示/光センサ部300A及び第2表示/光センサ部300Bに検出させることによって、従来の入力装置では実現できなかった多彩で立体的な操作を行うことができ、また、そのような操作によって、優れた利便性及び操作性がもたらされる。しかも板状のデータ表示/センサ装置100の裏表両面から画面を指で挟持するように操作するため、ユーザは、極めて容易に当該装置を使用することができる。
【0283】
そして、二つの入力面からの入力によって入力信号が生成されるため、例えばユーザの指がタッチパネル上のアイコンに無意識のうちに接触しても、その指の像が検知されて入力信号が生成され、何らかの処理が実行されてしまうという事態を回避することができる。その結果、入力面に誤って操作してしまうリスクが軽減される。
【0284】
このように、データ表示/センサ装置100では、優れた操作性及び利便性をユーザに提供することができる。
【0285】
さらに、データ表示/センサ装置100では、前記の構成において、入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、入力信号に対応する命令を、アプリケーション実行部850に送信する動作制御部840を備える構成である。
【0286】
従って、表裏両面の表示/光センサ部300が指の像の動きを検出して、該指の像の動きに対応付けられた入力信号が入力検出部830によって生成される。そして、その入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、入力信号に対応付けられた命令がアプリケーション実行部850に送信され、アプリケーション実行部850は、入力信号に対応する命令を実行する。
【0287】
従って、データ表示/センサ装置100のユーザは、様々な指の像の動きを表裏両面の表示/光センサ部300に検出させることによって、アプリケーション実行部850に所望の動作を実行させることができる。
【0288】
さらに、データ表示/センサ装置100では、前記の構成において、入力検出部830は、表裏両面の表示/光センサ部300が、表裏両面の表示/光センサ部300上の所定の領域において指の像を検知した場合に、前記入力信号を生成する構成とすることができる。そして、表裏両面の表示/光センサ部300において、所定の領域に画像を表示させる画像表示制御部860を備え、入力検出部830は、当該画像に対応付けられた前記入力信号を生成する構成とすることができる。
【0289】
前記の構成によれば、データ表示/センサ装置100では、表裏両面の表示/光センサ部300上の所定の領域において指の像が検知された場合に入力信号が生成される。
【0290】
従って、入力検出部830は、表裏両面の表示/光センサ部300上の所定の領域とは異なる他の領域に指がタッチした場合には入力信号を生成しない。
【0291】
それゆえ、ユーザは、表裏両面の表示/光センサ部300上の所定の領域とは異なる他の領域に指をタッチした場合であっても、入力信号が生成されるという事態を回避することができる。
【0292】
さらに、データ表示/センサ装置100では、画像表示制御部860が所定の領域に画像を表示させる。また、入力検出部830は、所定の領域において指の像が検知された場合に、当該画像に対応付けられた入力信号を生成する。
【0293】
従って、ユーザは、当該画像を裏表両面から指で挟持することにより、アプリケーション実行部850に所定の動作を実行させることができる。逆に、当該画像が表示されている所定の領域とは異なる領域では、入力検出部830は入力信号を生成しないため、ユーザは、当該画像が表示されている所定の領域とは異なる領域をタッチしても、入力面に誤って操作してしまうという事態を回避できる。
【0294】
それゆえ、所定の領域に表示された画像のみを対象として、ユーザは所望の動作を実現することができ、その結果、データ表示/センサ装置100は、優れた操作性及び利便性をユーザに提供することができる。
【0295】
さらに、データ表示/センサ装置100では、画像表示制御部860は、アプリケーション実行部850が実行した所定の動作の結果に基づく画像を、第1表示/光センサ部300Aに表示させる構成とすることができる。
【0296】
つまり、画像表示制御部860は、アプリケーション実行部850が実行した所定の動作の結果に基づく画像を第1表示/光センサ部300Aに表示させることができる。
【0297】
従って、画像表示制御部860は、ユーザの指の動きに対応付けられて実行された動作の結果を画面上に表示して、その結果をユーザに確認させることができる。
【0298】
なお、ユーザは、自身の指の動きに基づいて実行された動作の結果を画面上で確認することができる。そして、その動作後の画像に対してさらに何らかの動作を与えたいときは、表裏両面の表示/光センサ部300に対して所望の指の像の動きを検出させればよい。つまり、ユーザは、動作の結果を画面上で確認することにより、次の動作を連続的に行うことができる。
【0299】
このように、データ表示/センサ装置100は、より優れた操作性および利便性をユーザにも提供することができる。
【0300】
(変形例1)
次に、図19、図21、図22を参照してデータ表示/センサ装置100の一変形例であるデータ表示/センサ装置110を説明する。なお、図1、図9〜図18、図20を参照して説明した内容と同様の内容は説明を省略する。
【0301】
図19(a)は、第1表示/光センサ部300Aに矩形の画像34aが表示されている様子を示す図である。図19(b)は、人差し指21と中指22をそれぞれ同じ方向(図面横方向において、右方向)へ移動させて、画像34aから画像34bへの切り替えを徐々に行う様子を示し、図19(c)は、さらに人差し指21と中指22をそれぞれ同じ方向(図面横方向において、右方向)へ移動させて、画面に表示される画像を、画像34aから画像34bへ切り替えた様子を示す図である。
【0302】
図19(a)では、第1表示/光センサ部300Aに矩形の画像34aが表示され、かつ、ユーザは、上面から人差し指21で、下面から中指22で画像34aをタッチしている。このとき、人差し指21及び中指22は、指先に加えて、指の腹や側面によりデータ表示/センサ装置110を表裏両面から挟持している。従って、人差し指21及び中指22と表示/光センサ部300との接触面積は、指先のみで表示/光センサ部300を挟持する場合に比べて大きくなる。
【0303】
次に、図19(b)に示すように、ユーザは、データ表示/センサ装置110に対して人差し指21と中指22をそれぞれ同じ方向(図面横方向において、右方向)へ移動させて、図面左側から画像34bを出現させ、画像34aと画像34bとを並べて表示させている。つまり、画像34aから画像34bへの切り替えが、人差し指21及び中指22の移動に伴って行われる。なお、画像34aから画像34bへの切り替えは、人差し指21及び中指22と表示/光センサ部300との接触面積が所定の接触面積よりも大きいことをトリガにして行われる。従って、人差し指21及び中指22と表示/光センサ部300との接触面積が所定の接触面積よりも小さい場合は、画像34aから画像34bへの切り替えは実行されない。この点が、図17を参照して説明した画像33aから画像33bへの切り替えと異なる点である。なお、所定の接触面積は、特に決まった数値である必要はなく、任意に設定することができ、その値は記憶部901に記憶される。
【0304】
続いて、図19(c)に示すように、さらに人差し指21と中指22を同じ方向(図面横方向において、右方向)へ移動させて、画像34aから画像34bへの切り替えを完了させている。
【0305】
このように、データ表示/センサ装置110及びその制御方法では、人差し指21及び中指22と表示/光センサ部300との接触面積が設定面積よりも大きいことをトリガにして、前記の人差し指21及び中指22の動きに応じて、画像34aから画像34bへの切り替えが行われる。それゆえ、単に指先で裏表両面から画像34aを挟持するだけでは画像34aから画像34bへの切り替えは実行されず、ユーザは、意識的に指の腹や側面を使う操作を求められる。つまり、データ表示/センサ装置110は、敢えてこのような操作をユーザに求めることにより誤操作のリスクを軽減している。
【0306】
なお、画像34aから画像34bへの切り替えが完全に行われる前に指の動きを停止することにより、画像34aと画像34bとが並んで表示された状態を維持しうる。また、指の動きの速度に応じて、画像34aから画像34bへの切り替えを所望の速度で実行することができる。さらに、人差し指21及び中指22の動きを前記とは逆の方向にすることにより、画像34bから画像34aの方向に画像を切り替えることも可能である。そして、画像34aと画像34bとの境目の移動方向は、図面横方向でも、図面縦方向でも、あるいはその他の方向であってもよく、適宜変更しうる。なお、ここで説明した様々な動作は、予め指−命令対応情報を設定しておき、その指−命令対応情報を参照することにより実現される。
【0307】
図19(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、ユーザが、電子アルバム化された複数の写真を順次鑑賞したい場合を考える。そのような場合に、画面に表示された写真(画像34a)から、次の写真(画像34b)に移りたいときに、上述した人差し指21、及び中指22の動作により、ユーザは、画像34aから画像34bへの切り替えを容易に、かつ迅速に行うことができる。このように、データ表示/センサ装置110は、画像を切り替えて次の画像を見たいというユーザの要求に確実に応えることができる。
【0308】
上述したように、画像34aから画像34bへの切り替えは、人差し指21及び中指22と表示/光センサ部300との接触面積が所定の面積よりも大きいことをトリガにして行われる。従って、図19(b)に記載される画面の切り替えを実現するデータ表示/センサ装置110は、人差し指21及び中指22と表示/光センサ部300との接触面積を算出することが可能な構成を備える必要がある。そこで、データ表示/センサ装置110の構成を図21を参照して説明する。なお、図1を参照して前述した構成要素と同一の構成要素には同一の参照符号を付している。従って、これらの構成要素の詳細な説明は省略する。
【0309】
図21は、データ表示/センサ装置110の要部構成を表すブロック図である。図示のように、入力インターフェース制御部805は、さらに面積算出判定部870を備える。
【0310】
面積算出判定部870は、データ処理部700から部分画像データを取得し、取得した指の像の面積(以降、接触面積と称する)を算出する。そして、予め設定された所定の面積(以降、設定面積と称する)を記憶部901から読み出して、接触面積と設定面積とを比較する。その後、面積算出判定部870は、その判定結果を入力検出部830に出力する。なお、面積の算出方法は、従来の画像処理ソフトで行われる一般的な方法でよい。
【0311】
入力検出部830は、検知判定部810が第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定し、重畳判定部820が重畳領域が存在すると判定した場合、かつ、面積算出判定部870が、接触面積が設定面積よりも大きいと判定した場合に、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出して、その指の動きに対応付けられた入力信号を生成し、その入力信号を動作制御部840に出力する。
【0312】
従って、面積算出判定部870が、接触面積は設定面積よりも小さいと判定した場合には、入力検出部830は入力信号を生成しない。そして、その結果、ユーザがいかに指を動かしたとしても、画像34aから画像34bへの切り替えを実行することはできない。
【0313】
このように、データ表示/センサ装置110は、画像34aから画像34bへの切り替えを、人差し指21及び中指22と表示/光センサ部300との接触面積が設定面積よりも大きいことをトリガにして行っている。
【0314】
次に、図19、及び図22を参照しながら、データ表示/センサ装置110の処理の流れについて説明する。図22は、データ表示/センサ装置110の処理の流れを表すフローチャートである。なお、図20を参照して説明したデータ表示/センサ装置100の処理の流れと同一のステップには同一のステップ番号を付している。従って、これらのステップの詳細な説明は省略する。
【0315】
重畳判定部820が、重畳領域が存在すると判定した場合(ステップS17でYes)、ステップS18に進む。ステップS18では、面積算出判定部870が、データ処理部700から部分画像データを取得し、取得した指の像の面積(接触面積)を算出する。そして、面積算出判定部870は、予め設定された所定の面積(設定面積)を記憶部901から読み出して、接触面積が設定面積よりも大きいか否かを判定する。
【0316】
なお、重畳判定部820による接触面積と設定面積との比較は、第1表示/光センサ部300Aが検知した指の像の接触面積と設定面積との比較、あるいは第2表示/光センサ部300Bが検知した指の像の接触面積と設定面積との比較のどちらでもよい。若しくは、2つの表示/光センサ部300が検知した指の像の接触面積の大きい方(若しくは、小さい方)と設定面積とを比較する構成であってもよい。
【0317】
一方、ステップS18で「No」に進む場合は、再びステップS15に戻る。なお、ステップS15、ステップS17、ステップS18の順に処理を行うこととして説明したが、ここで説明した処理の順序に限定されず、適宜変更してよい。
【0318】
このように、データ表示/センサ装置110及びその制御方法では、人差し指21及び中指22と表示/光センサ部300との接触面積が設定面積よりも大きいことをトリガにして、前記の人差し指21及び中指22の動きに応じて、画像34aから画像34bへの切り替えが行われる。それゆえ、単に指先で裏表両面から画像34aを挟持するだけでは画像34aから画像34bへの切り替えは実行されず、ユーザは、意識的に指の腹や側面を使う操作を求められる。つまり、データ表示/センサ装置110は、敢えてこのような操作をユーザに求めることにより誤操作のリスクを軽減している。
【0319】
(変形例2)
次に、図23、図24を参照して、他の変形例について説明する。
【0320】
図23(a)〜(c)は、表示/光センサ部300に画像が表示されていない状態で、画面の背景の色彩が段階的に変化していく様子を示す図である。また、図24は、本発明の一実施形態に係るデータ表示/センサ装置120の要部構成を表すブロック図である。
【0321】
以下、図23、図24を参照して、データ表示/センサ装置120について説明する。なお、図面に記載されている側を第1表示/光センサ部300Aとして説明する。また、図1等を参照して前述した構成要素と同一の構成要素には同一の参照符号を付している。従って、これらの構成要素の詳細な説明は省略する。
【0322】
図23に図示するように、第1表示/光センサ部300Aは、画面の下端部付近に信号生成領域170を有する。そして、重畳判定部820は、信号生成領域170を示す座標を記憶部901から読み取る(図24参照)。なお、信号生成領域170は、第1表示/光センサ部300Aに表示されていても、表示されていなくても、何れでもよい。
【0323】
ここで、重畳判定部820は、信号生成領域170と、第1表示/光センサ部300A及び/あるいは第2表示/光センサ部300Bが検知した指の像の領域である像領域とが重畳するか否かを判定する。
【0324】
より具体的に説明すると、重畳判定部820は、データ制御部700から2つの表示/光センサ部300で検知された指の像の座標データ、全体画像データ、部分画像データを取得し、それらのデータから像領域を特定する。さらに、重畳判定部820は、座標によって示される信号生成領域170を記憶部901から読み取る。そして、重畳判定部820は、像領域と信号生成領域170との間に重畳する重畳領域が存在するか否かを判定し、その判定結果を入力検出部830に出力する。
【0325】
入力検出部830は、検知判定部810が、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定し、かつ、重畳判定部820が、像領域と信号生成領域170との間に重畳する重畳領域が存在すると判定した場合に、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出して、その指の像の動きに対応付けられた入力信号を生成し、その入力信号を動作制御部840に出力する。
【0326】
従って、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の領域が信号生成領域170に重畳していない場合、入力検出部830は入力信号を生成しない。つまり、ユーザが信号生成領域170とは異なる領域に指でタッチしても、所望の動作を実現することはできない。
【0327】
なお、図23では、信号生成領域170は図面下側に設けられている。しかしながら、信号生成領域170を設ける位置、大きさ、範囲は、任意に設定してよい。図23は、あくまでその一例である。
【0328】
図23で説明した動作の使用例として、次のような実施例が考えられる。
【0329】
ユーザは、上面(第1表示/光センサ部300Aが配設された側)から親指20で、下面(第2表示/光センサ部300Bが配設された側)から人差し指21で、それぞれ信号生成領域170をタッチする。これにより、検知判定部810は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定し、かつ、重畳判定部820が、像領域と信号生成領域170との間に重畳する重畳領域が存在すると判定する。
【0330】
そして、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させる。これにより、入力検出部830は、その指の像の動きに対応付けられた入力信号を動作制御部840に出力する。ここで、親指20と人差し指21をそれぞれ反対方向へ移動させるという指の動き(正確には、その指の動きによる指の像の動き)と、第1表示/光センサ部300Aの画面の背景の色彩が段階的に変化するという動作が対応付けられているとする。すると、動作制御部840は、その入力信号と、アプリケーション950に所定の動作を実行させる命令とが対応付けられた指−命令対応情報を記憶部901から読み出し、当該入力信号に対応する動作実行命令をアプリケーション実行部850に送信する。ここで、その動作実行命令は、第1表示/光センサ部300Aの画面の背景の色彩が段階的に変化するという動作をアプリケーション実行部850に実行させる命令である。それゆえ、最終的に、図1を参照して説明した処理の流れに従って、第1表示/光センサ部300Aの画面の背景の色彩が段階的に変化していく。
【0331】
このように、データ表示/センサ装置120では、たとえ第1表示/光センサ部300Aに画像が表示されていない状態であっても、ユーザは、所望の動作をデータ表示/センサ装置120に実行させることができる。
【0332】
また、データ表示/センサ装置120は、表裏両面の表示/光センサ部300上の信号生成領域170において指の像が検知された場合に入力信号が生成される構成である。従って、ユーザは、表裏両面の表示/光センサ部300上の信号生成領域170とは異なる他の領域に指をタッチしても、入力信号が生成されるという事態を回避することができる。
【0333】
それゆえ、信号生成領域170をユーザにとって操作しやすい領域に設定することにより、データ表示/センサ装置120は、優れた操作性及び利便性をユーザに提供することができる。なお、ユーザがデータ表示/センサ装置120を保持する際に、親指と人差し指が位置する近辺に信号生成領域170を設けておくことにより、ユーザが信号生成領域170をタッチする操作がさらに容易になり、ユーザにとって利便性及び操作性がより一層向上する。
【0334】
また、データ表示/センサ装置120では、ユーザは、信号生成領域170の位置、大きさ、範囲を適宜設定することができるが、他のユーザの使用を制限するために、意図的に信号生成領域170を特定の領域に設定することもできる。これにより、他のユーザが勝手にデータ表示/センサ装置120を使用するといった事態を回避しうる。このように、データ表示/センサ装置120は、利便性及び操作性に優れた装置をユーザに提供することができる。
【0335】
ここで、本変形例から派生する実施例として、さらに次のような実施例も考えられる。以下、その使用例を説明する。
【0336】
第1表示/光センサ部300Aは、画面の下端部付近に信号生成領域170を有する。ここで、第1表示/光センサ部300Aの信号生成領域170とは異なる領域に、図9を参照して説明した、矩形の画像25aが表示されていると仮定する。なお、矩形の画像25aの表示領域は、座標によって記憶部901に記録されている。
【0337】
そして、入力検出部830は、検知判定部810が、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定し、かつ、重畳判定部820が、像領域と信号生成領域170との間に重畳する重畳領域が存在すると判定した場合に、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出して、その指の像の動きに対応付けられた入力信号を生成する。
【0338】
このとき、入力検出部830は、記憶部901から矩形の画像25aの表示領域を読み出しており、矩形の画像25aの表示領域に対して所定の動作を実行するように対応付けられた入力信号を動作制御部840に出力する。
【0339】
このようにして、ユーザは、信号生成領域170において第1表示/光センサ部300Aに指の像の動きを検出させることにより、信号生成領域170とは異なる領域に表示された矩形の画像25aに所定の動作を実行することができる。つまり、ユーザは、矩形の画像25aが表示された領域を指でタッチすることなく、矩形の画像25aに対して所定の動作を実行することもできる。
【0340】
それゆえ、ユーザは、たとえ矩形の画像25aが指から遠い位置に表示されていて、表裏両面から矩形の画像25aを挟持することが困難な場合であっても、信号生成領域170において指を動かすことにより、矩形の画像25aに対して所定の動作を実行することができる。これにより、データ表示/センサ装置120は、利便性及び操作性に優れた装置をユーザに提供することができる。
〔実施の形態2〕
次に、図25〜図27を参照して、本実施の形態に係るデータ表示/センサ装置130の実施例を説明する。なお、ここで説明する内容は、図9〜図24を参照して説明した種々の動作を組み合わせることにより、ユーザが、所望の動作を実現するというものである。従って、図9〜図24を参照して説明した動作の詳細、その動作を実現する処理の詳細、本実施の形態に係るデータ表示/センサ装置130によって得られる効果については、詳細説明を省略する。
【0341】
図25、図26は、データ表示/センサ装置130の実施例を示す図である。図25(a)は、表示/光センサ部300に「メニュー画面(TEL/TV/WEB)」が表示された様子を示す。図25(b)は、メニュー画面から「TV」を示す画像が挟持されて、図面右側に引き出された様子を示す図である。図25(c)は、TVメニューから「民放」が選択された様子を示す図である。図25(d)は、民放「CH01」が視聴されている時の様子を示す図である。
【0342】
続いて、図26(a)は、民放のチャンネルを「CH01」から「CH02」に切り替えている様子を示す図である。図26(b)は、「CH02」が視聴されている時の様子を示す図である。図26(c)は、「民放」から「CS CH02」に切り替えている様子を示す図である。図26(d)は、「CS CH02」が視聴されている時の様子を示す図である。
【0343】
また、図27は、TVメニューにおける、CS、民放、及びBS放送、及びそれら各放送電波におけるチャンネル選択の概念図である。
【0344】
まずは、図25、図26を参照して、データ表示/センサ装置130の実施例を具体的に説明する。
【0345】
図25(a)には、第1表示/光センサ部300Aに「メニュー画面(TEL/TV/WEB)」が示されている。なお、本図ではメニュー画面としてTEL/TV/WEBを用いて説明しているが、選択する項目はここに記載した項目に限らず、写真、動画などのメニューであってよい。
【0346】
この状態は、ユーザが、メニュー画面からTEL、TV、あるいはWEBのうちの何れかの項目を選択しうる状態であり、図13(a)を参照して説明した、第1表示/光センサ部300Aの画面上端付近に画像29a〜29dが表示されているのと同様の状態である。
【0347】
そして、図25(b)は、メニュー画面から「TV」を示す画像部分を挟持して引き出した様子を示す図である。つまり、図25(b)では、第1表示/光センサ部300Aの画面左端付近に表示された「メニュー画面(TEL/TV/WEB)」から、ユーザが、上面から親指20で、下面から人差し指21で所望のメニューを挟持して、親指20と人差し指21をそれぞれ同じ方向(図面横方向において、右方向)へ移動させる。これにより、例えば「TV」を選択した場合に、図25(b)に示すように、TVを示す画像が右方向へ引き伸ばされる。
【0348】
なお、図示のように、TVにはさらに「CS/民放/BS」という項目(放送電波の種類)が含まれる。従って、ユーザは、この項目の中から所望の放送電波を選択することができる。なお、ここでは「CS/民放/BS」という項目により説明を行うが、他の項目を含んでもよい。
【0349】
図25(c)は、TVメニューから「民放」が選択された様子を示す図である。この状態は、ユーザが、「CS/民放/BS」から「民放」を選択した状態であり、図18を参照して説明した、親指20と人差し指21が表裏両面から同時に画像34をタッチして、画像34を選択する動作に該当する。つまり、図26(c)の段階では、第1表示/光センサ部300Aに「CS/民放/BS」を表示しておき、ユーザは、上面から親指20で、下面から人差し指21で所望のメニューをタッチする。これにより、例えば「民放」を選択した場合に、図25(c)に示すように民放が選択されて、図25(d)の状態に移る。
【0350】
図25(d)は、民放「CH01」が視聴されている時の様子を示す図であり、「民放」を選択した結果、民放「CH01」を視聴することができるようになったものである。
【0351】
続いて、図26(a)は、民放のチャンネルを「CH01」から「CH02」に切り替えている様子を示す図である。ユーザは、「CH01」から「CH02」にチャンネルを切り替えたくなった場合には、図示のように、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、「CH01」から「CH02」への切り替えを行う。これは、図17を参照して説明した、親指20と人差し指21をそれぞれ反対方向へ移動させて、画像33aから画像33bへの切り替えを行う動作に該当する。
【0352】
図26(b)は、「CH02」が視聴されている時の様子を示す図であり、「CH01」から「CH02」への切り替えを行った結果、民放の「CH02」を視聴することができるようになったものである。
【0353】
図26(c)は、「民放 CH02」から「CS CH02」に切り替えている様子を示す図である。ユーザは、「民放」から「CS」に放送電波を切り替えたくなった場合には、図示のように、親指20と人差し指21をそれぞれ同じ方向(図面横方向において、右方向)へ移動させて、「民放」から「CS CH02」に切り替えを図っている。これは、図11を参照して説明した、親指20と人差し指21をそれぞれ同じ方向へ移動させて、画像を移動させる動作に該当する。あるいは、この動作は、図13を参照して説明した画像を引き伸ばしする動作に類似する。
【0354】
図26(d)は、「CS CH02」が視聴されている時の様子を示す図であり、「CH01」から「CH02」への切り替えを行った結果、「CH02」を視聴することができるようになったものである。
【0355】
ここで、図25、図26を参照して説明した処理の流れを、図27を用いて概略的に説明する。図27は、TVメニューにおける、CS、民放、及びBS放送、及びそれら各放送電波におけるチャンネル選択の概念図である。なお、図示した状態は、すでに「メニュー画面(TEL/TV/WEB)」から「TV」が選択された状態にある。
【0356】
ここで、図25、図26を参照して説明した処理の流れを理解するために、図27に示すように、「CS/民放/BS」という項目(放送電波の種類)が図面横方向に並び、かつ、各項目ごとに「チャンネル」がリング状に並んでいる状態を考える。
【0357】
ユーザは、視聴したい放送電波を選択する際には、横方向の指の動きを求められる。例えば、ユーザは、「民放」から「CS」に切り替えたい場合に、第1表示/光センサ部300Aに表示された画像を上面から親指20で、下面から人差し指21で挟持し、親指20と人差し指21をそれぞれ同じ方向(図面横方向において、右方向)へ移動させる。これにより、第1表示/光センサ部300Aに「CS」の放送が表示される。また、「民放」から「BS」に切り替えたい場合には、「民放」から「CS」に切り替えた時とは逆の指の動きを行う。これにより、第1表示/光センサ部300Aに「BS」の放送が表示される。つまり、図27に図示する、横方向に並んだ「CS/民放/BS」という項目を切り替える場合には、指を横方向に移動させることにより、所望の放送電波を選択することが可能となる。
【0358】
そして、ユーザは、視聴したいチャンネルを切り替える際には、縦方向の指の動きを求められる。例えば、ユーザは、「CH01」から「CH02」に切り替えたい場合に、第1表示/光センサ部300Aに表示された画像を上面から親指20で、下面から人差し指21で挟持し、親指20と人差し指21をそれぞれ反対方向(図面横方向において、親指20を上方向、人差し指21を下方向)へ移動させる。これにより、第1表示/光センサ部300Aに「CH02」の放送が表示される。また、「CH02」から「CH01」に切り替えたい場合には、「CH01」から「CH02」に切り替えた時とは逆の指の動きを行う。これにより、第1表示/光センサ部300Aに「CH01」の放送が表示される。つまり、図27に図示する、縦方向に並んだ「チャンネル」を切り替える場合には、指を縦方向に指を移動することにより、所望のチャンネルに切り替えることができる。
【0359】
このように、各機能(TEL/TV/WEB)ごとに、あるいは、所望の機能を選択した状態での表示画面ごとに、予め設定された指−命令対応情報を参照することにより、指の動き(より正確には、表示/光センサ部300が検知する指の像の動き)と、それに対応付けられた動作が実行される。これにより、ユーザは、所望の画面を第1表示/光センサ部300Aに表示させることができる。そして図25、図26を参照して説明したように、図9〜図19で説明した種々の動作を適宜組み合わせることにより、ユーザは、所望の動作を実現することができる。
【0360】
なお、発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【0361】
また、本発明に係る入力装置を備えた携帯電話等の情報端末装置も、本発明の技術的範囲に含まれる。
【0362】
(プログラム、コンピュータ読み取り可能な記録媒体)
最後に、本実施形態に係るデータ表示/センサ装置100、110、120、130の各ブロック、特に入力インターフェース制御部805の検知判定部810、重畳判定部820、入力検出部830、動作制御部840、アプリケーション実行部850、及び画像表示制御部860、並びにデータ表示/センサ装置110の面積算出判定部870は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
【0363】
すなわち、本実施形態に係るデータ表示/センサ装置100、110、120、130は、各機能を実現する制御プログラムの命令を実行するCPU(Central Processing Unit)、上記プログラムを格納したROM(Read Only Memory)、上記プログラムを展開するRAM(Random Access Memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアであるデータ表示/センサ装置100、110、120、130の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、上記データ表示/センサ装置100に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
【0364】
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
【0365】
また、本実施形態に係るデータ表示/センサ装置100、110、120、130を通信ネットワークと接続可能に構成し、上記プログラムコードを、通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(Virtual Private Network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
【0366】
本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【産業上の利用可能性】
【0367】
本発明は、二つの入力面から入力する携帯電話機、PDAなどのモバイル機器(携帯端末)に適用できる。特に、像検知装置を備えた携帯端末に好適である。
【図面の簡単な説明】
【0368】
【図1】本発明の一実施形態に係るデータ表示/センサ装置の要部構成を表すブロック図である。
【図2】本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルの断面を模式的に示す図である。
【図3】(a)は、本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルにて反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。(b)は、本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルにて影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。
【図4】本発明の一実施形態に係るデータ表示/センサ装置の要部構成を示すブロック図である。
【図5】本発明の一実施形態に係るデータ表示/センサ装置で用いられるコマンドのフレーム構造の一例を模式的に示す図である。
【図6】図5に示したコマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
【図7】(a)は、本発明の一実施形態に係るデータ表示/センサ装置にて、対象物がセンサ内蔵液晶パネル上に置かれていないときに、センサ内蔵液晶パネル全体をスキャンした結果として得られる画像データである。(b)は、本発明の一実施形態に係るデータ表示/センサ装置にて、ユーザが指でセンサ内蔵液晶パネルをタッチしているときに、スキャンした結果として得られる画像データである。
【図8】本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルの構成およびその周辺回路の構成を示すブロック図である。
【図9】(a)は、表示/光センサ部に矩形の画像を表示し、かつ、その画像を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ反対方向へ移動させて、矩形の画像が扇状に拡がった状態を表示させた図である。
【図10】(a)は、表示/光センサ部に円形の画像を表示し、かつ、その画像を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ反対方向へ移動させて、より大きな寸法の円形に拡大した画像を表示させた図である。
【図11】(a)は、表示/光センサ部に略正方形の画像を表示し、かつ、その画像を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ同じ方向へ移動させて、その画像を画面の外側へ移動させつつある状態を示す図である。
【図12】(a)は、図面横方向をパイプ軸(管長)方向とするパイプ形状の画像を表示/光センサ部に表示し、かつ、その画像を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ反対方向へ移動させて、パイプ軸に直交する方向にその画像を回転させている様子を示す図である。
【図13】(a)は、表示/光センサ部の画面上端付近にいくつかの画像を図面横方向に一列に並べて表示し、かつ、そのうちの一つの画像を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ同じ方向(図面下方向)へ移動させて、その画像を下側に引き出して帯状の画像を表示した図である。
【図14】(a)は、表示/光センサ部に矩形の画像を表示し、かつ、表示/光センサ部の表示画面を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ同じ方向へ移動させて、その画像を2つの画像に分割した様子を示す図である。
【図15】(a)は、表示/光センサ部に複数の画像を円形に配置して表示し、かつ、円の中心付近に上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指を動かさずに、人差し指を図面下側へ移動させて、複数の画像を円周に沿って回転させている様子を示す図である。
【図16】(a)は、表示/光センサ部に、円形の画像と矩形の画像とが結合してなる画像を表示し、かつ、円形の画像の中心付近を上面から親指で、矩形の画像を下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指を動かさずに、人差し指を図面左側へ移動させて、あたかも円形の画像の中心点付近を支点とした振り子のように、矩形の画像を左側へ移動させた様子を示す図である。
【図17】(a)は、表示/光センサ部において、ある画像を表示し、かつ、その画像を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ反対方向へ移動させて、図面下側から別の画像を出現させ、二つの画像を並べて表示した様子を示し、(c)は、さらに親指と人差し指をそれぞれ反対方向へ移動させて、画面に表示される画像を切り替えた様子を示す図である。
【図18】(a)は、表示/光センサ部に画像が表示された様子を示す図であり、(b)は、表裏両面からほぼ同時に親指と人差し指とで当該画像をタッチして、当該画像が「選択」された状態となった様子を示す図である。
【図19】(a)は、表示/光センサ部において、ある画像を表示し、かつ、その画像を、上面から人差し指で、下面から中指で、それぞれタッチしている様子を示す図であり、(b)は、人差し指と中指をそれぞれ同じ方向(図面横方向において、右方向)へ移動させて、別の画像への切り替えを徐々に行う様子を示し、(c)は、さらに人差し指と中指をそれぞれ同じ方向へ移動させて、画面に表示される画像を切り替えた様子を示す図である。
【図20】本発明の一実施形態に係るデータ表示/センサ装置の処理の流れを表すフローチャートである。
【図21】本発明の他の実施形態に係るデータ表示/センサ装置の要部構成を表すブロック図である。
【図22】本発明の他の実施形態に係るデータ表示/センサ装置の処理の流れを表すフローチャートである。
【図23】(a)〜(c)は、表示/光センサ部に画像が表示されていない状態で、背景の色彩が段階的に変化していく様子を示す図である。
【図24】本発明のさらに他の実施形態に係るデータ表示/センサ装置の要部構成を表すブロック図である。
【図25】本実施の形態に係るデータ表示/センサ装置の実施例を示す図であり、(a)は、表示/光センサ部に「メニュー画面(TEL/TV/WEB)」が表示された様子を示す。(b)は、メニュー画面から「TV」を示す画像が挟持されて、引き出された様子を示す図である。(c)は、TVメニューから「民放」が選択された様子を示す図である。(d)は、民放「CH01」が視聴されている時の様子を示す図である。
【図26】本実施の形態に係るデータ表示/センサ装置の実施例を示す図であり、(a)は、民放のチャンネルを「CH01」から「CH02」に切り替えている様子を示す図である。(b)は、「CH02」が視聴されている時の様子を示す図である。(c)は、「民放 CH02」から「CS CH02」に切り替えている様子を示す図である。(d)は、「CS CH02」が視聴されている時の様子を示す図である。
【図27】TVメニューにおける、CS、民放、及びBS放送、及びそれら各放送電波におけるチャンネル選択の概念図である。
【図28】図10に係る円形の画像26a、26bについての画像情報を説明するための図である。
【図29】図11に係る矩形の画像27aについての画像情報を説明するための図である。
【図30】指−命令対応情報の一例を示すための図である。
【符号の説明】
【0369】
100、110、120、130 データ表示/センサ装置(入力装置)
170 信号生成領域(所定の領域)
800 主制御部
805 入力インターフェース制御部
810 検知判定部(検知判定手段)
820 重畳判定部(重畳判定手段)
830 入力検出部(入力検出手段)
840 動作制御部(動作制御手段)
850 アプリケーション実行部(動作実行装置)
860 画像表示制御部(画像表示制御手段)
870 面積算出判定部
901 記憶部
【技術分野】
【0001】
本発明は、二つの入力面から入力する入力装置、入力装置の制御方法、入力装置の制御プログラム、コンピュータ読取可能な記録媒体、および情報端末装置に関する。
【背景技術】
【0002】
近年、タッチパネル式の入力装置が、携帯電話機、PDAなどに代表されるモバイル機器(携帯端末)において広く普及している。その一例として、入力面に対して、指が接触していない状態から、接触している状態に変化したときに、接触した指の位置に応じた入力が行われる入力装置が知られている(例えば、特許文献1)。
【0003】
また、単にタッチパネル式で入力を受け付けるのみならず、用途に応じて、より便利な入力が可能な入力装置が提案されている。例えば、携帯用端末機器において、ユーザは、表示画面上のアイコンに指を接触させて、次にアイコンを移動させたい方向にその指を動かすことにより、そのアイコンを表示画面中の好みの位置に移動させることができる。さらに、表示画面上のフォルダを指でダブルクリックすることにより、そのフォルダを開けることもできる(例えば、特許文献2)。
【特許文献1】特開2008−141519号公報(平成20年6月19日公開)
【特許文献2】特開平11−39093号公報(平成11年2月12日公開)
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、上記従来の入力装置は、何れも一つの入力面から入力する方式(以下、一面入力式とする)であって、裏表両面に配設された二つの入力面から入力する方式(以下、両面入力式とする)の入力装置は、そもそも存在しなかった。
【0005】
従って、ユーザは、両面入力式の入力装置によって実現される多彩で立体的な操作と、その優れた利便性及び操作性を、従来の一面入力式の入力装置では経験することができなかった。
【0006】
さらに、従来の入力装置には次のような問題があった。つまり、一面入力式の入力装置では、ユーザが気付かないうちに意図しない操作が行われる可能性を排除できない。具体的には、ユーザの指がタッチパネル上のアイコンに無意識のうちに接触し、アイコンを表示画面上のどこか別の場所にドラッグしてしまうことがある。そのドラッグした先がゴミ箱フォルダであった場合には、そのアイコンは、ユーザの知らない間に消去されてしまうという事態に陥る。このように、従来の入力装置には、一つの入力面から入力を行うことによって生じる固有の問題もあった。
【0007】
本発明は、上記の問題点に鑑みてなされたものであり、その目的は、ユーザにとって利便性及び操作性の高い入力装置、入力装置の制御方法、入力装置の制御プログラム、コンピュータ読取可能な記録媒体、および情報端末装置を提供することにある。
【課題を解決するための手段】
【0008】
本発明の入力装置は、前記課題を解決するために、近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置であって、前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定手段と、前記検知判定手段が、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出手段と、を備えることを特徴としている。
【0009】
また、本発明の入力装置の制御方法は、近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置の制御方法であって、前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定ステップと、前記検知判定ステップによって、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出ステップと、を含むことを特徴としている。
【0010】
これにより、本発明に係る入力装置および入力装置の制御方法では、表裏両面にそれぞれ配設された近傍の像を検知する面状部材が共に指の像を検知した場合に、指の像の動きに対応付けられた入力信号が入力検出手段によって生成される。そして、その入力信号は、表裏両面の面状部材が検知した指の像の動きに対応付けられた信号である。
【0011】
従って、表裏両面の面状部材が様々な指の像の動きを検出することによって、従来の入力装置では実現できなかった多彩で立体的な操作が行われ、また、そのような操作によって、優れた利便性及び操作性がユーザに提供される。しかも板状の入力装置の裏表両面から画面を指で挟持するように操作するため、ユーザは、極めて容易に当該装置を使用することができる。
【0012】
加えて、表裏両面の面状部材のうち何れか一方の面状部材が指の像を検知しただけでは、その指の像の動きに対応付けられた入力信号が生成されることはない。そのため、例えばユーザの指がタッチパネル上のアイコンに無意識のうちに接触しても、その指の像が検知されて入力信号が生成され、何らかの処理が実行されてしまうという事態を回避することができる。それゆえ、入力面に誤って触って、意図せず操作してしまうリスクが軽減される。
【0013】
このように、本発明に係る入力装置および入力装置の制御方法は、優れた操作性及び利便性をユーザに提供することができる。
【0014】
さらに、本発明に係る入力装置では、前記の構成において、前記入力信号と、動作実行装置に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、前記入力信号に対応する命令を、前記動作実行装置に送信する動作制御手段を備える構成としてもよい。
【0015】
前記の構成によれば、本発明に係る入力装置では、入力検出手段が、表裏両面の面状部材が共に指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する。そして、前記入力信号と、動作実行装置に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、入力信号に対応付けられた命令が動作実行装置に送信され、動作実行装置がその命令に従って所定の動作を実行する。
【0016】
従って、表裏両面の面状部材が様々な指の像の動きを検出することによって、動作実行装置は、ユーザが所望する動作を実行することができる。
【0017】
なお、動作実行装置は、1つであっても複数であってもよく、また入力装置と一体に構成されていてもよく、さらに入力装置から物理的に離れた位置に存在していてもよい。
【0018】
さらに、本発明に係る入力装置では、前記の構成において、前記入力検出手段は、前記表裏両面の面状部材が、該表裏両面の面状部材上の所定の領域において指の像を検知した場合に、前記入力信号を生成する構成としてもよい。
【0019】
前記の構成によれば、本発明に係る入力装置では、入力検出手段が、表裏両面の面状部材上の所定の領域において指の像を検知した場合に入力信号を生成し、表裏両面の面状部材上の前記所定の領域とは異なる他の領域に指がタッチした場合には入力信号を生成しない。このようにして、入力検出手段は、表裏両面の面状部材上の操作領域を制限することができる。
【0020】
従って、ユーザは、表裏両面の面状部材上の前記所定の領域とは異なる他の領域に指をタッチしても、入力信号が生成されて入力面に誤って操作してしまう事態を回避することができる。また、ユーザにとって操作しやすい領域に前記所定の領域が設定されることにより、本発明に係る入力装置は、さらに優れた操作性及び利便性をユーザに提供することができる。
【0021】
さらに、本発明に係る入力装置では、前記表裏両面の面状部材において、前記所定の領域に画像を表示させる画像表示制御手段を備え、前記入力検出手段は、前記画像に対応付けられた前記入力信号を生成する構成としてもよい。
【0022】
前記の構成によれば、本発明に係る入力装置では、画像表示制御手段が所定の領域に画像を表示する。また、入力検出手段は、所定の領域において指の像が検知された場合に、当該画像に対応付けられた入力信号を生成する。
【0023】
つまり、画像表示制御手段が画像を表示することによって操作可能な範囲(操作対象)がユーザに明示され、ユーザは、当該画像を裏表両面から指で挟持することにより、前記動作実行装置に所定の動作を実行させることができる。
【0024】
それとは逆に、入力検出手段は、表裏両面の面状部材上の画像が表示された領域とは異なる他の領域に指がタッチした場合であっても、入力信号を生成することはない。それゆえ、当該画像が表示されている所定の領域とは異なる領域を誤って触って、意図せず操作してしまうという事態を回避できる。
【0025】
さらに、本発明に係る入力装置では、前記の構成において、前記画像表示制御手段は、前記動作実行装置が実行した前記所定の動作の結果に基づく画像を、前記面状部材に表示させる構成としてもよい。
【0026】
前記の構成によれば、本発明に係る入力装置では、画像表示制御手段は、前記動作実行装置が実行した前記所定の動作の結果に基づく画像を前記面状部材に表示させる。
【0027】
従って、画像表示制御手段は、ユーザの指の動きに対応付けられて実行された動作の結果を画面上に表示して、その結果をユーザに確認させることができる。
【0028】
なお、その動作後の画像に対してさらに何らかの動作を与えたいときは、前記表裏両面の面状部材に対して所望の指の像の動きを検出させればよい。つまり、ユーザは、動作の結果を画面上で確認することにより、次の動作を連続的に行うことができる。
【0029】
なお、前記入力装置は、コンピュータによって実現してもよく、この場合には、コンピュータを前記各手段として動作させることにより前記入力装置をコンピュータにて実現させる入力装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。また、前記の入力装置を備えた情報端末装置も、本発明の範疇に入る。
【発明の効果】
【0030】
本発明に係る入力装置は、以上のように、表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定手段と、前記検知判定手段が、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出手段と、を備える構成である。
【0031】
また、本発明に係る入力装置の制御方法は、以上のように、前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定ステップと、前記検知判定ステップによって、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出ステップと、を含む構成である。
【0032】
それゆえ、二つの入力面から入力する、操作性及び利便性に優れた入力装置および入力装置の制御方法をユーザに提供することができる。
【発明を実施するための最良の形態】
【0033】
本実施の形態について図1〜図27に基づいて説明すると以下の通りである。
【0034】
本実施の形態に係るデータ表示/センサ装置100(入力装置)は、概略的に言えば、近傍の像を検知する第1表示/光センサ部300A、及び第2表示/光センサ部300B(表裏両面の面状部材)が表裏両面にそれぞれ配設されており、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが、共に指の像を検知したか否かを判定する検知判定部810(検知判定手段)と、検知判定部810が、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが共に指の像を検知したと判定した場合に、第1表示/光センサ部300A、及び第2表示/光センサ部300Bがそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出部830(入力検出手段)と、を備える装置である。
【0035】
そこで、まず、データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301の概要について説明する。
【0036】
(センサ内蔵液晶パネルの概要)
前記データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301は、データの表示に加え、対象物の画像検出が可能な液晶パネルである。ここで、対象物の画像検出とは、例えば、ユーザが指やペンなどでポインティング(タッチ)した位置の検出や、印刷物等の画像の読み取り(スキャン)である。なお、表示に用いるデバイスは、液晶パネルに限定されるものではなく、有機EL(Electro Luminescence)パネルなどであってもよい。
【0037】
図2を参照しながら、センサ内蔵液晶パネル301の構造について説明する。図2は、センサ内蔵液晶パネル301の断面を模式的に示す図である。なお、ここで説明するセンサ内蔵液晶パネル301は一例であり、表示面と読取面とが共用されているものであれば、任意の構造のものが利用できる。
【0038】
図示のとおり、センサ内蔵液晶パネル301は、背面側に配置されるアクティブマトリクス基板51Aと、表面側に配置される対向基板51Bとを備え、これら基板の間に液晶層52を挟持した構造を有している。アクティブマトリクス基板51Aには、画素電極56、データ信号線57、光センサ回路32(図示せず)、配向膜58、偏光板59などが設けられる。対向基板51Bには、カラーフィルタ53r(赤)、53g(緑)、53b(青)、遮光膜54、対向電極55、配向膜58、偏光板59などが設けられる。また、センサ内蔵液晶パネル301の背面には、バックライト307が設けられている。
【0039】
なお、光センサ回路32に含まれるフォトダイオード6は、青のカラーフィルタ53bを設けた画素電極56の近傍に設けられているが、この構成に限定されるものではない。赤のカラーフィルタ53rを設けた画素電極56の近傍に設けてもよいし、緑のカラーフィルタ53gを設けた画素電極56の近傍に設けてもよい。
【0040】
次に、図3(a)および図3(b)を参照しながら、ユーザが、指やペンで、センサ内蔵液晶パネル301上をタッチした位置を検出する2種類の方法について説明する。
【0041】
図3(a)は、反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。バックライト307から光63が出射されると、フォトダイオード6を含む光センサ回路32は、指などの対象物64により反射された光63を検知する。これにより、対象物64の反射像を検知することができる。このように、センサ内蔵液晶パネル301は、反射像を検知することにより、タッチした位置を検出することができる。
【0042】
また、図3(b)は、影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。図3(b)に示すように、フォトダイオード6を含む光センサ回路32は、対向基板51Bなどを透過した外光61を検知する。しかしながら、ペンなどの対象物62がある場合は、外光61の入射が妨げられるので、光センサ回路32が検知する光量が減る。これにより、対象物62の影像を検知することができる。このように、センサ内蔵液晶パネル301は、影像を検知することにより、タッチした位置を検出することもできる。
【0043】
上述のように、フォトダイオード6は、バックライト307より出射された光の反射光(影像)を検知してもよいし、外光による影像を検知してもよい。また、前記2種類の検知方法を併用して、影像と反射像とを両方を同時に検知するようにしてもよい。
【0044】
(データ表示/センサ装置の要部構成)
次に、図4を参照しながら、前記データ表示/センサ装置100の要部構成について説明する。図4は、データ表示/センサ装置100の要部構成を示すブロック図である。図示のように、データ表示/センサ装置100は、1または複数の表示/光センサ部300、回路制御部600、データ処理部700、主制御部800、記憶部901、一次記憶部902、操作部903、外部通信部907、音声出力部908、および音声入力部909を備えている。ここでは、データ表示/センサ装置100は、表示/光センサ部300を2つ(第1表示/光センサ部300Aおよび第2表示/光センサ部300B)備えているものとして説明する。なお、第1表示/光センサ部300Aおよび第2表示/光センサ部300Bを区別しないときは、表示/光センサ部300と表記する。
【0045】
表示/光センサ部300は、いわゆる光センサ内蔵液晶表示装置でdfある。表示/光センサ部300は、センサ内蔵液晶パネル301、バックライト307、それらを駆動するための周辺回路309を含んで構成される。
【0046】
センサ内蔵液晶パネル301は、マトリクス状に配置された複数の画素回路31および光センサ回路32を含んで構成される。センサ内蔵液晶パネル301の詳細な構成については後述する。
【0047】
周辺回路309は、液晶パネル駆動回路304、光センサ駆動回路305、信号変換回路306、バックライト駆動回路308を含む。
【0048】
液晶パネル駆動回路304は、回路制御部600の表示制御部601からのタイミング制御信号(TC1)およびデータ信号(D)に従って、制御信号(G)およびデータ信号(S)を出力し、画素回路31を駆動する回路である。画素回路31の駆動方法の詳細については後述する。
【0049】
光センサ駆動回路305は、回路制御部600のセンサ制御部602からのタイミング制御信号(TC2)に従って、信号線(R)に電圧を印加し、光センサ回路32を駆動する回路である。光センサ回路32の駆動方法の詳細については後述する。
【0050】
信号変換回路306は、光センサ回路32から出力されるセンサ出力信号(SS)をデジタル信号(DS)に変換し、該変換後の信号をセンサ制御部602に送信する回路である。
【0051】
バックライト307は、複数の白色LED(Light Emitting Diode)を含んでおり、センサ内蔵液晶パネル301の背面に配置される。そして、バックライト駆動回路308から電源電圧が印加されると、バックライト307は点灯し、センサ内蔵液晶パネル301に光を照射する。なお、バックライト307は、白色LEDに限らず、他の色のLEDを含んでいてもよい。また、バックライト307は、LEDに代えて、例えば、冷陰極管(CCFL:Cold Cathode Fluorescent Lamp)を含むものであってもよい。
【0052】
バックライト駆動回路308は、回路制御部600のバックライト制御部603からの制御信号(BK)がハイレベルであるときは、バックライト307に電源電圧を印加し、逆に、バックライト制御部603からの制御信号がローレベルであるときは、バックライト307に電源電圧を印加しない。
【0053】
次に、回路制御部600について説明する。回路制御部600は、表示/光センサ部300の周辺回路309を制御するデバイスドライバとしての機能を備えるものである。回路制御部600は、表示制御部601、センサ制御部602、バックライト制御部603、および表示データ記憶部604を備えている。
【0054】
表示制御部601は、データ処理部700の表示データ処理部701から表示データを受信するとともに、表示データ処理部701からの指示に従って、表示/光センサ部300の液晶パネル駆動回路304に、タイミング制御信号(TC1)およびデータ信号(D)を送信し、前記受信した表示データをセンサ内蔵液晶パネル301に表示させる。
【0055】
なお、表示制御部601は、表示データ処理部701から受信した表示データを、表示データ記憶部604に一次記憶させる。そして、当該一次記憶させた表示データに基づいて、データ信号(D)を生成する。表示データ記憶部604は、例えば、VRAM(video random access memory)などである。
【0056】
センサ制御部602は、データ処理部700のセンサデータ処理部703からの指示に従って、表示/光センサ部300の光センサ駆動回路305に、タイミング制御信号(TC2)を送信し、センサ内蔵液晶パネル301にてスキャンを実行させる。
【0057】
また、センサ制御部602は、信号変換回路306からデジタル信号(DS)を受信する。そして、センサ内蔵液晶パネル301に含まれる全ての光センサ回路32から出力されたセンサ出力信号(SS)に対応するデジタル信号(DS)に基づいて、画像データを生成する。つまり、センサ内蔵液晶パネル301の読み取り領域全体で読み取った画像データを生成する。そして、該生成した画像データをセンサデータ処理部703に送信する。
【0058】
バックライト制御部603は、表示データ処理部701およびセンサデータ処理部703からの指示に従って、表示/光センサ部300のバックライト駆動回路308に制御信号(BK)を送信し、バックライト307を駆動させる。
【0059】
なお、データ表示/センサ装置100が、複数の表示/光センサ部300を備える場合、表示制御部601は、データ処理部700から、どの表示/光センサ部300にて表示データを表示するかの指示を受けたとき、当該指示に応じた表示/光センサ部300の液晶パネル駆動回路304を制御する。また、センサ制御部602は、データ処理部700から、どの表示/光センサ部300にて対象物のスキャンを行なうかの指示を受けたとき、当該指示に応じた表示/光センサ部300の光センサ駆動回路305を制御するとともに、当該指示に応じた表示/光センサ部300の信号変換回路306からデジタル信号(DS)を受信する。
【0060】
次に、データ処理部700について説明する。データ処理部700は、主制御部800から受信する「コマンド」に基づいて、回路制御部600に指示を与えるミドルウェアとしての機能を備えるものである。なお、コマンドの詳細については後述する。
【0061】
データ処理部700は、表示データ処理部701およびセンサデータ処理部703を備えている。そして、データ処理部700が、主制御部800からコマンドを受信すると、該受信したコマンドに含まれる各フィールド(後述する)の値に応じて、表示データ処理部701およびセンサデータ処理部703の少なくとも一方が動作する。
【0062】
表示データ処理部701は、主制御部800から表示データを受信するとともに、データ処理部700が受信したコマンドに従って、表示制御部601およびバックライト制御部603に指示を与え、前記受信した表示データをセンサ内蔵液晶パネル301に表示させる。なお、コマンドに応じた、表示データ処理部701の動作については、後述する。
【0063】
センサデータ処理部703は、データ処理部700が受信したコマンドに従って、センサ制御部602およびバックライト制御部603に指示を与える。
【0064】
また、センサデータ処理部703は、センサ制御部602から画像データを受信し、当該画像データをそのまま画像データバッファ704に格納する。そして、センサデータ処理部703は、データ処理部700が受信したコマンドに従って、画像データバッファ704に記憶されている画像データに基づいて、「全体画像データ」、「部分画像データ(部分画像の座標データを含む)」、および「座標データ」の少なくともいずれか1つを、主制御部800に送信する。なお、全体画像データ、部分画像データ、および座標データについては、後述する。また、コマンドに応じた、センサデータ処理部703の動作については、後述する。
【0065】
次に、主制御部800は、アプリケーションプログラムを実行するものである。主制御部800は、記憶部901に格納されているプログラムを、例えばRAM(Random Access Memory)等で構成される一次記憶部902に読み出して実行する。
【0066】
主制御部800で実行されるアプリケーションプログラムは、センサ内蔵液晶パネル301に表示データを表示させたり、センサ内蔵液晶パネル301にて対象物のスキャンを行わせるために、データ処理部700に対して、コマンドおよび表示データを送信する。また、コマンドに「データ種別」を指定した場合は、当該コマンドの応答として、全体画像データ、部分画像データ、および座標データの少なくともいずれか1つを、データ処理部700から受信する。
【0067】
なお、回路制御部600、データ処理部700、および主制御部800は、それぞれ、CPU(Central Processing Unit)およびメモリ等で構成することができる。また、データ処理部700は、ASIC(application specific integrate circuit)などの回路で構成されていてもよい。
【0068】
次に、記憶部901は、図示のように、主制御部800が実行するプログラムおよびデータを格納するものである。なお、主制御部800が実行するプログラムは、アプリケーション固有のプログラムと、各アプリケーションが共用可能な汎用プログラムとに分離されていてもよい。
【0069】
次に、操作部903は、データ表示/センサ装置100のユーザの入力操作を受けつけるものである。操作部903は、例えば、スイッチ、リモコン、マウス、キーボードなどの入力デバイスで構成される。そして、操作部903は、データ表示/センサ装置100のユーザの入力操作に応じた制御信号を生成し、該生成した制御信号を主制御部800へ送信する。
【0070】
なお、前記スイッチの例としては、電源のオンとオフとを切り替える電源スイッチ905、予め所定の機能が割り当てられているユーザスイッチ906などのハードウェアスイッチを想定している。
【0071】
その他、データ表示/センサ装置100は、無線/有線通信によって外部装置と通信を行なうための外部通信部907、音声を出力するためのスピーカ等の音声出力部908、音声信号を入力するためのマイク等の音声入力部909などを適宜備えていてもよい。
【0072】
(コマンドの詳細)
次に、図5および図6を参照しながら、主制御部800からデータ処理部700に送信されるコマンドの詳細について説明する。図5は、コマンドのフレーム構造の一例を模式的に示す図である。また、図6は、コマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
【0073】
図5に示すように、コマンドは、「ヘッダ」、「データ取得タイミング」、「データ種別」、「スキャン方式」、「スキャン画像階調」、「スキャン解像度」、「スキャンパネル」、「表示パネル」、および「予備」の各フィールドを含んでいる。そして、各フィールドには、例えば、図6に示す値が指定可能である。
【0074】
「ヘッダ」フィールドは、フレームの開始を示すフィールドである。「ヘッダ」フィールドであることが識別可能であれば、「ヘッダ」フィールドの値は、どのような値であってもよい。
【0075】
次に、「データ取得タイミング」フィールドは、データを主制御部800へ送信すべきタイミングを指定するフィールドである。「データ取得タイミング」フィールドには、例えば、“00”(センス)、“01”(イベント)、および“10”(オール)という値が指定可能である。
【0076】
ここで、“センス”は、最新のデータを直ちに送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“センス”であるコマンドを受信すると、「データ種別」フィールドにて指定されている最新のデータを、直ちに、主制御部800に送信する。
【0077】
また、“イベント”は、センサ制御部602から受信する画像データに変化が生じたタイミングで送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“イベント”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、センサ制御部602から受信する画像データに、所定の閾値より大きい変化が生じたタイミングで、主制御部800に送信する。
【0078】
また、“オール”は、所定周期でデータを送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“オール”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、所定周期で、主制御部800に送信する。なお、前記所定周期は、光センサ回路32にてスキャンを行なう周期と一致する。
【0079】
次に、「データ種別」フィールドは、センサデータ処理部703から取得するデータの種別を指定するフィールドである。なお、「データ種別」フィールドには、例えば、“001”(座標)、“010”(部分画像)、および“100”(全体画像)という値が指定可能である。さらに、これらの値を加算することによって、“座標”と、“部分画像”/“全体画像”とを、同時に指定可能である。例えば、“座標”と“部分画像”とを同時に指定する場合、“011”と指定することができる。
【0080】
センサデータ処理部703は、「データ種別」フィールドの値が“全体画像”であるコマンドを受信すると、画像データバッファ704に記憶している画像データそのものを主制御部800に送信する。画像データバッファ704に記憶している画像データそのものを、「全体画像データ」と称する。
【0081】
また、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信すると、センサ制御部602から受信する画像データから、所定の閾値より大きい変化が生じた部分を含む領域を抽出し、該抽出した領域の画像データを主制御部800に送信する。ここで、当該画像データを、「部分画像データ」と称する。なお、前記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出されたそれぞれの部分画像データを主制御部800に送信する。
【0082】
さらに、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信したとき、部分画像データにおける代表座標を検出し、当該代表座標の部分画像データにおける位置を示す座標データを主制御部800に送信する。なお、前記代表座標とは、例えば、前記部分画像データの中心の座標、前記部分画像データの重心の座標などが挙げられる。
【0083】
次に、センサデータ処理部703は、「データ種別」フィールドの値が“座標”であるコマンドを受信すると、前記代表座標の全体画像データにおける位置を示す座標データを主制御部800に送信する。なお、前記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出された、それぞれの部分画像データの、全体画像データにおける代表座標を検出し、当該代表座標を示す座標データのそれぞれを主制御部800に送信する(多点検出)。
【0084】
なお、全体画像データ、部分画像データ、および座標データの具体例については、模式図を参照しながら後述する。
【0085】
次に、「スキャン方式」フィールドは、スキャン実行時に、バックライト307を点灯するか否かを指定するフィールドである。「スキャン方式」フィールドには、例えば、“00”(反射)、“01”(透過)、および“10”(反射/透過)という値が指定可能である。
【0086】
“反射”は、バックライト307を点灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“反射”であるコマンドを受信すると、光センサ駆動回路305とバックライト駆動回路308とが同期して動作するように、センサ制御部602とバックライト制御部603とに指示を与える。
【0087】
また、“透過”は、バックライト307を消灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“透過”であるコマンドを受信すると、光センサ駆動回路305を動作させ、バックライト駆動回路308と動作させないようにセンサ制御部602とバックライト制御部603とに指示を与える。なお、“反射/透過”は、“反射”と“透過”とを併用してスキャンを行なうことを指定するものである。
【0088】
次に、「スキャン画像階調」フィールドは、部分画像データおよび全体画像データの階調を指定するフィールドである。「スキャン画像階調」フィールドには、例えば、“00”(2値)、および“01”(多値)という値が指定可能である。
【0089】
ここで、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“2値”であるコマンドを受信すると、部分画像データおよび全体画像データをモノクロデータとして、主制御部800に送信する。
【0090】
また、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“多値”であるコマンドを受信すると、部分画像データおよび全体画像データを多階調データとして、主制御部800に送信する。
【0091】
次に、「スキャン解像度」フィールドは、部分画像データおよび全体画像データの解像度を指定するフィールドである。「解像度」フィールドには、例えば、“0”(高)および“1”(低)という値が指定可能である。
【0092】
ここで、“高”は、高解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“高”であるコマンドを受信すると、部分画像データおよび全体画像データを高解像度で主制御部800に送信する。例えば、画像認識などの画像処理を行なう対象の画像データ(指紋などの画像データ)には、“高”を指定することが望ましい。
【0093】
また、“低”は、低解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“低”であるコマンドを受信すると、部分画像データおよび全体画像データを低解像度で主制御部800に送信する。例えば、タッチした位置等が分かる程度でよい画像データ(タッチした指や手の画像データなど)には、“低”を指定することが望ましい。
【0094】
次に、「スキャンパネル」フィールドは、どの表示/光センサ部300にて対象物のスキャンを行なうかを指定するフィールドである。「スキャンパネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
【0095】
ここで、センサデータ処理部703は、「スキャンパネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aの光センサ駆動回路305およびバックライト駆動回路308を制御するように、センサ制御部602およびバックライト制御部603に指示を与える。
【0096】
次に、「表示パネル」フィールドは、どの表示/光センサ部300にて表示データを表示させるかを指定するフィールドである。「表示パネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
【0097】
ここで、表示データ処理部701は、例えば、「表示パネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aに表示データを表示させるために、第1表示/光センサ部300Aの液晶パネル駆動回路304およびバックライト駆動回路308を制御するように、表示制御部601およびバックライト制御部603に指示を与える。
【0098】
次に、「予備」フィールドは、上述したフィールドにて指定可能な情報以外の情報をさらに指定する必要がある場合に、適宜指定されるフィールドである。
【0099】
なお、主制御部800にて実行されるアプリケーションは、コマンドを送信するにあたり、上述したフィールドを全て使用する必要はなく、使用しないフィールドには無効値(NULL値など)を設定しておけばよい。
【0100】
また、ユーザが指やペンなどでタッチした位置の座標データを取得したいときは、「データ種別」フィールドに“座標”を指定したコマンドをデータ処理部700に送信することとなるが、指やペンなどは動きがあるため、さらに、当該コマンドの「データ取得タイミング」フィールドに“オール”を指定し、座標データを取得するようにすることが望ましい。また、タッチした位置の座標データが取得できればよいため、スキャンの精度は高くなくてもよい。したがって、前記コマンドの「解像度」フィールドの値は“低”を指定しておけばよい。
【0101】
また、コマンドの「データ種別」フィールドに“座標”を指定した場合において、例えば、ユーザが、複数の指やペンなどでセンサ内蔵液晶パネル301を同時にタッチした場合は、該タッチした位置の座標データのそれぞれを取得することができる(多点検出)。
【0102】
また、原稿などの対象物の画像データを取得する場合、「データ種別」フィールドに“全体画像”を指定したコマンドをデータ処理部700に送信することとなるが、原稿などの対象物は、通常、静止させた状態でスキャンを実行することが一般的であるため、周期的にスキャンを実行する必要はない。従って、この場合は、「データ取得タイミング」フィールドに“センス”または“イベント”を指定することが望ましい。なお、原稿などの対象物をスキャンするときは、ユーザが文字を読みやすいように、スキャン精度は高い方が望ましい。したがって、「解像度」フィールドには“高”を指定することが望ましい。
【0103】
(全体画像データ/部分画像データ/座標データ)
次に、図7を参照しながら、全体画像データ、部分画像データ、および座標データについて、例を挙げて説明する。図7(a)に示す画像データは、対象物がセンサ内蔵液晶パネル301上に置かれていないときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。また、図7(b)に示す画像データは、ユーザが指でセンサ内蔵液晶パネル301をタッチしているときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。
【0104】
ユーザが指でセンサ内蔵液晶パネル301をタッチしたとき、当該タッチした近傍の光センサ回路32が受光する光量が変化するため、当該光センサ回路32が出力する電圧に変化が生じ、その結果として、センサ制御部602が生成する画像データのうち、ユーザがタッチした部分の画素値の明度に変化が生じることとなる。
【0105】
図7(b)に示す画像データでは、図7(a)に示す画像データと比べると、ユーザの指に該当する部分の画素値の明度が高くなっている。そして、図7(b)に示す画像データにおいて、明度が所定の閾値より大きく変化している画素値を全て含む最小の矩形領域(領域PP)が、“部分画像データ”である。
【0106】
なお、領域APで示される画像データが、“全体画像データ”である。
【0107】
また、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)であり、部分画像データ(領域PP)における座標データは(Xp,Yp)である。
【0108】
(センサ内蔵液晶パネルの構成)
次に、図8を参照しながら、センサ内蔵液晶パネル301の構成、および、センサ内蔵液晶パネル301の周辺回路309の構成について説明する。図8は、表示/光センサ部300の要部、特に、センサ内蔵液晶パネル301の構成および周辺回路309の構成を示すブロック図である。
【0109】
センサ内蔵液晶パネル301は、光透過率(輝度)を設定するための画素回路31、および、自身が受光した光の強度に応じた電圧を出力する光センサ回路32を備えている。なお、画素回路31は、赤色、緑色、青色のカラーフィルタのそれぞれに対応するR画素回路31r、G画素回路31g、B画素回路31bの総称して用いる。
【0110】
画素回路31は、センサ内蔵液晶パネル301上の列方向(縦方向)にm個、行方向(横方向)に3n個配置される。そして、R画素回路31r、G画素回路31g、およびB画素回路31bの組が、行方向(横方向)に連続して配置される。この組が1つの画素を形成する。
【0111】
画素回路31の光透過率を設定するには、まず、画素回路31に含まれるTFT(Thin Film Transistor)33のゲート端子に接続される走査信号線Giにハイレベル電圧(TFT33をオン状態にする電圧)を印加する。その後、R画素回路31rのTFT33のソース端子に接続されているデータ信号線SRjに、所定の電圧を印加する。同様に、G画素回路31gおよびB画素回路31bについても、光透過率を設定する。そして、これらの光透過率を設定することにより、センサ内蔵液晶パネル301上に画像が表示される。
【0112】
次に、光センサ回路32は、一画素毎に配置される。なお、R画素回路31r、G画素回路31g、およびB画素回路31bのそれぞれの近傍に1つずつ配置されてもよい。
【0113】
光センサ回路32にて光の強度に応じた電圧を出力させるためには、まず、コンデンサ35の一方の電極に接続されているセンサ読み出し線RWiと、フォトダイオード36のアノード端子に接続されているセンサリセット線RSiとに所定の電圧を印加する。この状態において、フォトダイオード36に光が入射されると、入射した光量に応じた電流がフォトダイオード36に流れる。そして、当該電流に応じて、コンデンサ35の他方の電極とフォトダイオード36のカソード端子との接続点(以下、接続ノードV)の電圧が低下する。そして、センサプリアンプ37のドレイン端子に接続される電圧印加線SDjに電源電圧VDDを印加すると、接続ノードVの電圧は増幅され、センサプリアンプ37のソース端子からセンシングデータ出力線SPjに出力される。そして、当該出力された電圧に基づいて、光センサ回路32が受光した光量を算出することができる。
【0114】
次に、センサ内蔵液晶パネル301の周辺回路である、液晶パネル駆動回路304、光センサ駆動回路305、およびセンサ出力アンプ44について説明する。
【0115】
液晶パネル駆動回路304は、画素回路31を駆動するための回路であり、走査信号線駆動回路3041およびデータ信号線駆動回路3042を含んでいる。
【0116】
走査信号線駆動回路3041は、表示制御部601から受信したタイミング制御信号TC1に基づいて、1ライン時間毎に、走査信号線G1〜Gmの中から1本の走査信号線を順次選択し、該選択した走査信号線にハイレベル電圧を印加するとともに、その他の走査信号線にローレベル電圧を印加する。
【0117】
データ信号線駆動回路3042は、表示制御部601から受信した表示データD(DR、DG、およびDB)に基づいて、1ライン時間毎に、1行分の表示データに対応する所定の電圧を、データ信号線SR1〜SRn、SG1〜SGn、SB1〜SBnに印加する(線順次方式)。なお、データ信号線駆動回路3042は、点順次方式で駆動するものであってもよい。
【0118】
光センサ駆動回路305は、光センサ回路32を駆動するための回路である。光センサ駆動回路305は、センサ制御部602から受信したタイミング制御信号TC2に基づいて、センサ読み出し信号線RW1〜RWmの中から、1ライン時間毎に1本ずつ選択したセンサ読み出し信号線に所定の読み出し用電圧を印加するとともに、その他のセンサ読み出し信号線には、所定の読み出し用電圧以外の電圧を印加する。また、同様に、タイミング制御信号TC2に基づいて、センサリセット信号線RS1〜RSmの中から、1ライン時間毎に1本ずつ選択したセンサリセット信号線に所定のリセット用電圧を印加するとともに、その他のセンサリセット信号線には、所定のリセット用電圧以外の電圧を印加する。
【0119】
センシングデータ出力信号線SP1〜SPnはp個(pは1以上n以下の整数)のグループにまとめられ、各グループに属するセンシングデータ出力信号線は、時分割で順次オン状態になるスイッチ47を介して、センサ出力アンプ44に接続される。センサ出力アンプ44は、スイッチ47により接続されたセンシングデータ出力信号線のグループからの電圧を増幅し、センサ出力信号SS(SS1〜SSp)として、信号変換回路306へ出力する。
〔実施の形態1〕
本発明の主な特徴は、データ表示/センサ装置100では、近傍の像を検知する第1表示/光センサ部300A、及び第2表示/光センサ部300Bが表裏両面にそれぞれ配設されており、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが、共に指の像を検知したか否かを判定する検知判定部810と、検知判定部810が第1表示/光センサ部300A、及び第2表示/光センサ部300Bが共に指の像を検知したと判定した場合に、第1表示/光センサ部300A、及び第2表示/光センサ部300Bがそれぞれ検知した指の像の動きを検出して入力信号を生成する入力検出部830と、を備える点にある。
【0120】
これにより、データ表示/センサ装置100では、表裏両面に配設された第1表示/光センサ部300A、及び第2表示/光センサ部300Bが共に指の像を検知した場合に、入力検出部830が入力信号を生成する。
【0121】
従って、第1表示/光センサ部300A、あるいは第2表示/光センサ部300Bの一方のみが指の像を検出しても、それにより入力信号が生成されることはない。それゆえ、データ表示/センサ装置100は、第1表示/光センサ部300A、及び第2表示/光センサ部300Bが様々な指の像の動きを検出することにより、従来の入力装置では実現できなかった多彩で立体的な操作を可能とする。また、データ表示/センサ装置100は、そのような操作によって優れた利便性及び操作性をユーザに提供する。
【0122】
さらに、データ表示/センサ装置100では、ユーザの指がタッチパネル上のアイコンに無意識のうちに接触して、アイコンを表示画面上のどこか別の場所にドラッグしてしまうといった事態を避けることができる。従って、第1表示/光センサ部300A、及び第2表示/光センサ部300Bという二つの入力面からの入力により入力信号が生成されるため、第1表示/光センサ部300A、及び第2表示/光センサ部300Bに対して誤って操作してしまうリスクが軽減される。
(データ表示/センサ装置の動作説明)
実施の形態1に係るデータ表示/センサ装置100について、図1、図9〜図18、図28〜図30を参照して説明する。
【0123】
なお、まず最初に、データ表示/センサ装置100が実行する種々の動作の具体例を図9〜図18を参照して説明する。次に、データ表示/センサ装置100の構成を図1を参照して説明する。そして、種々の動作を実現する処理の流れを図20を参照して説明する。
【0124】
ここで、データ表示/センサ装置100は、第1表示/光センサ部300A、あるいは第2表示/光センサ部300Bの何れに画像を表示させてもよいが、本実施の形態では、第1表示/光センサ部300Aに画像を表示するものとして説明する。なお、第1表示/光センサ部300Aは、図9〜図18において図面手前側に位置する。
【0125】
また、ユーザは、右手あるいは左手の何れでもデータ表示/センサ装置100を操作することができるが、本実施の形態では、右手で操作するものとして説明する。
(表示画像に対して実行される動作)
以下、図9〜図18の概要を説明する。
【0126】
図9(a)は、第1表示/光センサ部300Aに矩形の画像25aが表示され、かつ、ユーザが、矩形の画像25aを上面から親指20でタッチすると共に、第2表示/光センサ部300Bに矩形の画像25aの裏面が表示されているとしたならば、その矩形の画像25aの裏面が表示されているであろう領域を人差し指21でタッチしている。
【0127】
なお、第1表示/光センサ部300Aに表示された矩形の画像25aが、実際に下面から人差し指21でタッチされることはないものの、説明の便宜上、本実施の形態に係る以降の説明では、この状態を「上面から親指20で、下面から人差し指21で、それぞれタッチする」と表現する。このことは、図10〜図19を参照して説明する記載においても同様である。
【0128】
図9(b)は、親指20と人差し指21をそれぞれ反対方向(図面横方向において、親指20を右方向、人差し指21を左方向)へ移動させて、複数の矩形の画像25aが扇状に拡がった状態で第1表示/光センサ部300Aに表示された様子を示す図である。つまり、図9(a)では、複数の矩形の画像25aはあたかも短冊が束になって閉じた状態にあり、図9(b)では、それら複数の矩形の画像25aが扇状に拡がった状態にある。
【0129】
図10(a)は、第1表示/光センサ部300Aに円形の画像26aを表示し、かつ、円形の画像26aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図10(b)は、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、第1表示/光センサ部300Aに、より大きな寸法の円形の画像26bを表示させた図である。
【0130】
図11(a)は、第1表示/光センサ部300Aに略正方形の画像27aを表示し、かつ、略正方形の画像27aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図11(b)は、親指20と人差し指21をそれぞれ同じ方向(図面横方向において、右方向)へ移動させて、略正方形の画像27aを第1表示/光センサ部300Aの画面の外側へ移動させつつある状態を示す図である。
【0131】
図12(a)は、図面横方向をパイプ軸(管長)方向とするパイプ形状の画像28aを第1表示/光センサ部300Aに表示し、かつ、パイプ形状の画像28aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図12(b)は、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、パイプ軸に直交する方向にパイプ形状の画像28aを回転させている様子を示す図である。
【0132】
図13(a)は、第1表示/光センサ部300Aの画面上端付近に矩形の画像29a〜29dを図面横方向に一列に並べて表示し、かつ、そのうちの一つの矩形の画像29cを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図13(b)は、親指20と人差し指21をそれぞれ同じ方向(図面下方向)へ移動させて、矩形の画像29cを下側に引き出す動作により、矩形の画像29cが図面縦方向に引き伸ばされて、帯状の画像29c’となった様子を示す図である。
【0133】
図14(a)は、第1表示/光センサ部300Aに矩形の画像30aを表示し、かつ、第1表示/光センサ部300Aの表示画面を、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図14(b)は、矩形の画像30aを分断するように親指20と人差し指21をそれぞれ同じ方向(図面下方向)へ移動させて、矩形の画像30aを左右2つの矩形の画像30bに分割した様子を示す図である。
【0134】
図15(a)は、第1表示/光センサ部300Aに複数の矩形の画像31aを円周状に配置して表示し、かつ、円の中心点付近を上面から親指20で、画像31aを下面から人差し指21で、それぞれタッチしている様子を示す図である。図15(b)は、親指20を動かさずに、人差し指21を図面下側へ移動させて、複数の矩形の画像31aを前記円の円周に沿って反時計回りに回転させている様子を示す図である。
【0135】
図16(a)は、第1表示/光センサ部300Aに、円形の画像32aと矩形の画像32bとが結合してなる画像32cを表示し、かつ、円形の画像32aの中心点付近を上面から親指20で、矩形の画像32bを下面から人差し指21で、それぞれタッチしている様子を示す図である。図16(b)は、親指20を動かさずに、人差し指21を図面左側へ移動させて、あたかも円形の画像32aの中心点付近を支点とした振り子のように、矩形の画像32bを左側へ移動させた様子を示す図である。
【0136】
図17(a)は、第1表示/光センサ部300Aのほぼ画面全体に亘って矩形の画像33aを表示し、かつ、矩形の画像33aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている様子を示す図である。図17(b)は、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、図面下側から矩形の画像33bを出現させ、画像33aと画像33bとを図面縦方向に並べて表示した様子を示す。図17(c)は、さらに親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、画面に表示される画像が、画像33aから画像33bに切り替えられた様子を示す図である。
【0137】
図18(a)は、第1表示/光センサ部300Aに略正方形の画像34aを表示した様子を示す。図18(b)は、略正方形の画像34aを、上面から人差し指21で、下面から中指22で、それぞれタッチして、略正方形の画像34aが「選択」状態となった様子を示す図である。
(表示画像に対して実行される動作の具体的説明)
次に、図9〜図18を参照して説明した上記各動作をより具体的に説明する。
【0138】
図9(a)に示すように、第1表示/光センサ部300Aには矩形の画像25aが表示されている。そして、ユーザは、その矩形の画像25aを、上面側(第1表示/光センサ部300Aが配設された側)から親指20で、下面側(第2表示/光センサ部300Bが配設された側)から人差し指21で、それぞれタッチする。
【0139】
なお、上記説明したとおり、第1表示/光センサ部300Aに表示された矩形の画像25aは、上面から親指20でタッチされることはあっても、下面から人差し指21で実際にタッチされることはない。しかしながら、本実施の形態に係る以降の説明では、説明の便宜上、このような状態のことを、「上面から親指20で、下面から人差し指21で、それぞれタッチする」と表現している。このことは、図10〜図18を参照して説明する記載においても同様である。
【0140】
また、親指20及び人差し指21が表裏両面から矩形の画像25aをタッチするものとして説明しているが、どの指を使用してもよい。つまり、何れかの指を使って、表裏両面から矩形の画像25aを挟持すればよく、そのことが、矩形の画像25aに対して所定の動作を実行する前提となる。それゆえ、上面あるいは下面の何れか一方のみから矩形の画像25aをタッチしても、それだけでは矩形の画像25aに対して所定の動作を実行することはできない。また、画像(あるいは画面)を指でタッチするものとして説明しているが、実際に画像をタッチしている必要はなく、表示/光センサ部300がその指の像を検知すればよい。
【0141】
また、図中の星印は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが、指の像を検知しているおおよその場所を示す。なお、以降の説明では、説明の便宜のため、上面側から親指20で、下面側から人差し指21で、画像25aをタッチするものとして説明する。このことは、図10〜図18についても同様である。
【0142】
さらに、画像25aは矩形であるとして説明しているが、画像25aは正方形であってもよく、任意の形状とすることができる。但し、本実施の形態では、画像25aは矩形であるとして説明する。同様に、図10〜図18において、各画像の形状を円形、正方形、あるいはパイプ形状等として説明しているが、それらの形状はあくまで例示であり、記載した形状に限られない。
【0143】
また、親指20と人差し指21の指の動きの速度については特に言及しないが、その指の像の動きに対応付けられた動作は、指の動きの速度に応じて実行される。
【0144】
次に、図9(b)に示すように、ユーザは、親指20と人差し指21を反対方向(図面横方向において、親指20を右方向、人差し指21を左方向)へ移動させる。この指の動きによって、複数の矩形の画像25aが扇状に拡がった状態で第1表示/光センサ部300Aに表示される。つまり、図9(a)では、複数の矩形の画像25aはあたかも短冊が束になって閉じた状態にあり、図9(b)では、それら複数の矩形の画像25aが扇状に拡がった状態にある。
【0145】
なお、上述した扇状の拡がり具合は、親指20及び人差し指21の移動距離に応じて決まる。従って、図9(b)では、親指20及び人差し指21が表示画面の端部付近まで移動しているため、扇状の拡がりは表示画面の全体に及んでいる。
【0146】
また、次のような方法によって、上述したのとは逆の動き、つまり、扇状に拡がった複数の矩形の画像25aを、短冊が束になって閉じたように表示することができる。
【0147】
まず、ユーザは、扇状に広がった複数の矩形の画像25aを、上面側から親指20で、下面側から人差し指21で、それぞれタッチする。このとき、親指20及び人差し指21がタッチする位置は、図9(b)に示すように、それぞれ異なる位置である。つまり、親指20は最外部付近(図面左側)に位置する画像25aをタッチし、人差し指21は他方の最外部付近(図面右側)に位置する画像25aをタッチする。次に、親指20と人差し指21を反対方向(図面横方向において、親指20を左方向、人差し指21を右方向)へ移動させる。つまり、図9(a)から図9(b)へ至る指の動きと逆の動きをする。これにより、扇状に拡がった複数の矩形の画像25aが短冊が束になって閉じたように表示される。このようにして、データ表示/センサ装置100は、図9(a)及び図9(b)によって示される多彩で立体的な動作を、容易かつ迅速に実現することができる。
【0148】
ここで、矩形の画像25aは、図9(a)の図面縦方向にその長手方向が配置され、扇状の拡がりは、図9(b)の図面横方向に向かって記載されている。しかしながら、矩形の画像25aが、図9(a)の図面横方向にその長手方向が配置され、扇状の画像25aが、図9(b)の図面縦方向に拡がるように表示されることも可能である。また、矩形の画像25aの配置方向は、図9(a)の縦・横方向に限らず、任意の方向で配置してよく、図9(a)はあくまで一例である。
【0149】
図9(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、複数の矩形の画像25aがそれぞれ「ニュース」、「ブログ」、「ショッピング」等のアドレスを示す画像(オブジェクト)として割り当てられているとする。そして、上述した親指20、及び人差し指21の動作により、短冊が束になって閉じたように表示されていた複数の矩形の画像25aが扇状に拡がって表示される。これにより、ユーザは、扇状に拡がったオブジェクトの中から、所望のアドレスを容易に、かつ迅速に画面上から探し出すことができる。しかも、アドレス先を示すオブジェクトが扇状に拡がることで、デザイン性に優れた動作を実現でき、データ表示/センサ装置100は、高い満足度をユーザに提供することができる。なお、扇状に拡がった幾つかのオブジェクトの中から、所望のオブジェクトを選択する方法は、例えば図18を参照して説明する方法によって実現される。
【0150】
次に、図10について説明する。図10(a)に示すように、第1表示/光センサ部300Aには円形の画像26aが表示されている。そして、ユーザは、その円形の画像26aを、上面側から親指20で、下面側から人差し指21で、それぞれタッチする。
【0151】
次に、図10(b)に示すように、ユーザは、親指20と人差し指21を反対方向(図面縦方向において、親指20を略上方向、人差し指21を略下方向)へ移動させる。この指の動作によって、円形の画像26aは、より大きな寸法の円形の画像26bとなって第1表示/光センサ部300Aに表示される。
【0152】
なお、寸法が拡大される程度は、親指20及び人差し指21の移動距離に応じて決まる。従って、図10(b)では、ユーザは、親指20及び人差し指21を大きく移動させたため、画像26bは、一部が画面からはみ出して表示されている。
【0153】
また、次のような方法によって、第1表示/光センサ部300Aに、円形の画像26bよりもサイズが小さくなった円形の画像26aを表示させることができる。
【0154】
まず、ユーザは、円形の画像26bを、上面側から親指20で、下面側から人差し指21で、それぞれタッチする。このとき、親指20及び人差し指21が画像26bをタッチする位置は、図10(b)に示すように、それぞれ異なる位置である。なお、図10(b)で示す例では、親指20は画像26bの上端部付近を、人差し指21は画像26bの下端部付近を、それぞれタッチしている。
【0155】
次に、親指20と人差し指21を反対方向(図面縦方向において、親指20を略下方向、人差し指21を略下上方向)へ移動させる。この指の動作によって、円形の画像26bは、より小さな寸法の円形の画像26aとなって第1表示/光センサ部300Aに表示される。つまり、図10(a)から図10(b)へ至る指の動きと逆の動きをすることにより、円形の画像26bは、より小さな寸法の円形の画像26aとなって第1表示/光センサ部300Aに表示される。このようにして、ユーザは、画像の拡大・縮小を容易に、かつ迅速に実行できる。
【0156】
なお、親指20と人差し指21を互いに反対方向に動かす場合に、その方向は、前記説明した図面垂直方向に限らず、どの方向であってもよい。ここで挙げた例はあくまで一例である。
【0157】
図10(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば円形の画像26aが写真画像である場合、ユーザは、拡大した状態でその画像を鑑賞したい場合がある。そのような場合に、上述した親指20、及び人差し指21の動作により、その写真画像を拡大して表示することができ、データ表示/センサ装置100は、拡大した画像を鑑賞したいというユーザの要求に応えることができる。
【0158】
次に、図11について説明する。図11(a)では、第1表示/光センサ部300Aに正方形の画像27aが表示され、その正方形の画像27aが、上面から親指20で、下面から人差し指21で、それぞれタッチされている。そして、図11(b)に示すように、ユーザは、親指20と人差し指21を同一方向(図面横方向において、右方向)へ移動させて、画面の外部へ正方形の画像27aを移動させている。つまり、ユーザは、この指の動きにより、その指の動く距離に応じて正方形の画像27aを移動させることができる。そして、表示画面の外部まで正方形の画像27aを移動させた場合に正方形の画像27aのファイルが削除される、という動作を予め割り当てておけば、正方形の画像27aのファイルは容易に削除される。このようにして、ユーザは、画像の移動、削除をより簡単に、かつ迅速に実行することができる。
【0159】
なお、図11(a)・(b)では、図面横方向において、親指20及び人差し指21を共に右側に移動させるものとして説明した。しかしながら、親指20及び人差し指21を移動させる方向はこれに限らず、いかなる方向であってもよい。従って、ユーザは、任意の場所に画像を移動させることができる。
【0160】
図11(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、ユーザが、画面に表示された任意のファイル(あるいはフォルダ)を移動したい場合に、そのファイルを表裏両面から挟持して、所望の移動先まで親指及び人差し指を移動することにより、その位置にファイルを移動させることができる。また、画面に表示されたファイルを削除したい場合には、そのファイルを表裏両面から挟持して、画面の外側へ移動させればよい。このようにして、データ表示/センサ装置100は、ファイルを削除・移動したいというユーザの要求に応えることができる。
【0161】
次に、図12について説明する。図12(a)に示すように、図面横方向をパイプ軸(管長)方向とするパイプ形状の画像28aが第1表示/光センサ部300Aに表示されている。そして、ユーザは、そのパイプ形状の画像28aを、上面から親指20で、下面から人差し指21で、それぞれタッチしている。そして、図10(b)に示すように、親指20と人差し指21を反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させることにより、第1表示/光センサ部300Aには、パイプ軸に直交する方向(図面下から上方向)にパイプ形状の画像28aが回転する様子が表示される。
【0162】
なお、親指20と人差し指21を前記とはそれぞれ逆の方向(図面縦方向において、親指20を下方向、人差し指21を上方向)に移動させことにより、パイプ形状の画像28aは、前記とは逆の方向、つまり、図面上から下方向に回転する。このように、親指20と人差し指21の移動方向によって、パイプ形状の画像28aの回転方向が任意に選択され、データ表示/センサ装置100は、図12(a)及び図12(b)によって示される多彩で立体的な動作を、容易かつ迅速に実現することができる。
【0163】
図12(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。図12(a)では、パイプ形状の画像28aは、図面横方向に延びる複数の矩形の画像28bによって形成されている。そこで、各矩形の画像28bが、例えば「ニュース」、「ブログ」、「ショッピング」等のアドレスを示す画像(オブジェクト)であり、パイプ形状の画像28aを回転させて、ユーザから見て正面に位置するオブジェクト(画面に対して正面に表示されるオブジェクト)が「選択されるオブジェクト」と設定しておく。そして、ユーザが、上述した親指20、及び人差し指21の動作によってパイプ形状の画像28aを回転させ、さらに、選択したいオブジェクトを画面に対して正面(選択位置P)に移動させることで、所望のオブジェクトが容易に、かつ迅速に選択される。しかも、アドレス先を示すオブジェクトが回転することにより、データ表示/センサ装置100は、デザイン性に優れた動作を実現でき、高い満足度をユーザに提供することができる。
【0164】
次に、図13について説明する。図13(a)では、第1表示/光センサ部300Aの画面上端付近に、矩形の画像29a〜29dが図面横方向に一列に並べて表示されている。そして、矩形の画像29cは、上面から親指20で、下面から人差し指21で、それぞれ挟持されている。そして、図13(b)では、親指20と人差し指21がそれぞれ同じ方向(図面下方向)に移動して、それにより矩形の画像29cは、図面縦方向に引き伸ばされて、帯状の画像29c’となって表示されている。
【0165】
なお、帯状となった画像29c’の図面縦方向の長さは、親指20及び人差し指21の移動距離に応じて決まる。つまり、帯状となった画像29c’の図面縦方向の長さは、親指20及び人差し指21の移動距離に応じて異なる。
【0166】
また、帯状の画像29c’が表示された状態において、ユーザが、上面から親指20で、下面から人差し指21で、それぞれ帯状の画像29c’の図面下側の位置を挟持して、親指20と人差し指21をそれぞれ同じ方向(図面上方向)へ移動させる。この動作により、帯状の画像29c’は、引き延ばされる前の画像である矩形の画像29cに戻る。その結果、第1表示/光センサ部300Aの画面上端付近に矩形の画像29cが表示される。このように、親指20及び人差し指21が図面縦方向に上下することにより、第1表示/光センサ部300Aには、矩形の画像29cと帯状の画像29c’とが切り替わって表示される。
【0167】
なお、図13(a)では、第1表示/光センサ部300Aの画面上端付近に画像29a〜29dを表示しているが、この位置に限らず、第1表示/光センサ部300Aの画面下端、右端、左端付近に画像29a〜29dを表示してもよい。
【0168】
図13(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。ユーザによっては、画面に表示されるオブジェクトをできるだけ少なくしておきたいという要望を持つことがある。そのような場合に、画面の上端、下端、右端、あるいは左端付近にオブジェクトを寄せておき、必要な時にのみ、上述した親指20、及び人差し指21の動作により帯状の画像29c’を引き出すことができれば、画面内のスペースを有効に活用することができ、また、画面に表示されるオブジェクトをできるだけ少なくしておきたいというユーザの要望にも応えることができる。
【0169】
次に、図14について説明する。図14(a)では、第1表示/光センサ部300Aに矩形の画像30aが表示され、かつ、ユーザは、上面から親指20で、下面から人差し指21で、それぞれ表示/光センサ部300をタッチしている。そして、図14(b)に示すように、矩形の画像30aを分断するように親指20と人差し指21をそれぞれ同じ方向(図面下方向)へ移動させることにより、矩形の画像30aは、左右2つの画像30bに分割される。なお、後述する指−命令対応情報テーブルに予め設定しておくことにより、親指20と人差し指21の移動方向に応じて、矩形の画像30aは上下、あるいは斜め方向に分割される。
【0170】
図14(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、矩形の画像30aを2つに分割した場合に当該画像30aのファイルが削除される、という動作を予め割り当てておけば、上述した指の動きにより、矩形の画像30aのファイルを容易に削除することができる。
【0171】
次に、図15について説明する。図15(a)では、第1表示/光センサ部300Aに複数の画像31aが円周状に配置して表示され、かつ、ユーザは、その円の中心点付近を上面から親指20で、画像31aを下面から人差し指21で、それぞれタッチしている。そして、図15(b)に示すように、親指20を動かさずに、人差し指21を図面下側へ移動させることにより、複数の画像31aが、前記円の円周に沿って反時計回りに回転している。なお、図示していないが、人差し指21を図面上側へ移動することにより、複数の画像31aは、円の円周に沿って時計回りに回転する。
【0172】
このようにして、複数の画像31aは、第1表示/光センサ部300Aに回転した状態で表示される。また、ユーザは、指の動きを停止して、その回転を停止させることができる。従って、回転を止めたときに、画面上の所定の場所に位置する画像(オブジェクト)を「選択されるオブジェクト」と設定しておくことにより、従来にはない斬新な方法によってオブジェクトが選択される。しかも人差し指の動きの速度に応じて複数の画像が回転するように設定することにより、所望のオブジェクトは、容易に、かつ迅速に第1表示/光センサ部300Aに表示され、さらに選択される。そして、データ表示/センサ装置100は、デザイン性にも優れた動作を実現できるため、高い満足度をユーザに提供することができる。
【0173】
次に、図16について説明する。図16(a)では、第1表示/光センサ部300Aに、円形の画像32aと矩形の画像32bとが結合してなる画像32cが表示され、かつ、ユーザが、画像32aの中心付近を上面から親指20で、画像32bを下面から人差し指21で、それぞれタッチしている。
【0174】
次に、図16(b)に示すように、親指20を動かさずに、人差し指21が図面左側へ移動することにより、あたかも画像32aの中心点付近を支点とした振り子のように、画像32bが左側に移動する。
【0175】
なお、上述した画像32bの移動は、人差し指21の移動距離に応じて決まる。また、人差し指21の移動方向を逆方向(図面右方向)へ移動させることにより、画像32bは、人差し指21の移動距離に応じて、画像32aの中心点付近を支点として移動する。
【0176】
このようにして、データ表示/センサ装置100は、図16(a)及び図16(b)によって示される多彩で立体的な動作を、容易かつ迅速に実現することができる。
【0177】
なお、図16では、画像32bは画像32aの図面上側に表示されているが、その位置は任意に選択される。また、図16では、画像32a、32bは1つのみ表示されているが、これらが複数表示されてよい。
【0178】
図16(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、ユーザが、データ表示/センサ装置100から出力される音量を画面上の簡単な操作によって調節したいという要望を持つ場合がある。このような場合に、例えば人差し指21が図面左右方向に動き、画像32bがそれに伴い左右に移動し、その移動量に伴って音量がリニアに調節される、という動作を予め割り当てておけば、例えば画像32bを左側に移動させて、これによりデータ表示/センサ装置100から出力される音量を下がることが可能となる。あるいは、画像32bを右側に移動させて、これによりデータ表示/センサ装置100から出力される音量を上げることができる。
【0179】
次に、図17について説明する。図17(a)では、第1表示/光センサ部300Aのほぼ画面全体に亘って矩形の画像33aが表示され、かつ、ユーザが、上面から親指20で、下面から人差し指21でその画像33aをタッチしている。
【0180】
そして、図17(b)に示すように、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させることにより、図面下側から矩形の画像33bが出現し、矩形の画像33aと矩形の画像33bとが図面縦方向に並んで表示される。そして、図17(c)に示すように、さらに親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させることにより、画面に表示される画像が、画像33aから画像33bに切り替わる。
【0181】
つまり、上述した親指20及び人差し指21の動きにより、画面に表示される画像が、画像33aから画像33bに切り替わる。しかも、その切り替えが完全に行われる前に指の動きを停止することにより、矩形の画像33a及び画像33bが図面縦方向に並んで表示される。また、指の動きの速度に応じて、矩形の画像33aから画像33bへの切り替えが所望の速度で行われる。さらに、親指20及び人差し指21の動きを前記とは逆の方向にすることにより、画像33bから矩形の画像33aの方向に画像の切り替えが行われる。
【0182】
図17(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、ユーザが、電子アルバム化された複数の写真を順次鑑賞したい場合を考える。そのような場合に、画面に表示された写真(画像33a)から、次の写真(画像33b)に移りたいときに、上述した親指20、及び人差し指21の動作により、ユーザは、画像33aから画像33bへの切り替えを容易に、かつ迅速に行うことができる。このように、データ表示/センサ装置100は、画像を切り替えて次の画像を見たいというユーザの要求に確実に応えることができる。
【0183】
なお、図17では、画像の切り替えを図面縦方向に行っているが、図面横方向に行うことも可能である。
【0184】
次に、図18について説明する。図18(a)では、第1表示/光センサ部300Aに略正方形の画像34が表示されている。そして、図18(b)に示すように、親指20と人差し指21が表裏両面からほぼ同時に略正方形の画像34にタッチして、略正方形の画像34が選択された状態となる。
【0185】
つまり、ユーザは、親指20と人差し指21を表裏両面からほぼ同時に略正方形の画像34をタッチすることにより、略正方形の画像34を選択することができる。従って、親指20あるいは人差し指21の動きのみでは略正方形の画像34は選択されず、また、第1表示/光センサ部300Aが親指20の像を検知して暫く時間が経ってから第2表示/光センサ部300Bが人差し指21の像を検知したとしても、略正方形の画像34は選択されない。
【0186】
従って、ユーザは、親指20及び人差し指21を表裏両面からほぼ同時に略正方形の画像34にタッチしない限り、所望のオブジェクトを選択することができず、その分だけ、誤入力のリスクは軽減される。
【0187】
なお、第1表示/光センサ部300Aが親指20の像を検知してから第2表示/光センサ部300Bが人差し指21の像を検知する(あるいは、第2表示/光センサ部300Bが人差し指21の像を検知してから第1表示/光センサ部300Aが親指20の像を検知する)までの経過時間は適宜設定してよい。但し、経過時間を「0」としたのでは、容易にオブジェクトの選択をすることができず、ユーザは不便を感じることが多い。また、経過時間が長すぎたのでは、誤入力となってしまう可能性もある。そこで、経過時間を適宜設定しうる構成とすることにより、ユーザは、不便を感じることなく、かつ、誤入力のリスクを軽減することができる。
【0188】
一方、経過時間を設定せず、親指20及び人差し指21が表裏両面から略正方形の画像34にタッチすることで、略正方形の画像34が選択された状態とすることも可能である。これにより、ユーザは、経過時間を気にしながら表裏両面から略正方形の画像34をタッチする必要がなくなる。
【0189】
なお、経過時間の設定は、ユーザが外部から入力し、その入力値を記憶部901に記憶させておけばよい。そして、入力検出部830がその入力値を記憶部901から読み出して、自身が測定した実測値と比較することにより、経過時間が経過したかどうかの判定が行われる。なお、経過時間の実測値が入力値を超える場合は、入力検出部830が入力信号を生成しない構成とすることも可能である。なお、入力検出部830、及び記憶部901の詳細は後ほど説明する。
【0190】
また、後述する指−命令対応情報テーブルに予め登録しておくことにより、親指20と人差し指21が略正方形の画像34を表裏両面からダブルクリックした場合に、その画像34が選択される構成とすることも可能である。この場合、上記の経過時間は、最初のクリックから2回目のクリックまでの時間とすることもできる。
【0191】
以上、図9〜図18を参照して、指の像の動きに対応して実行される種々の動作の具体例を説明した。なお、前記説明では、親指20と人差し指21の移動方向と実行される動作とを対応付けて説明したが、実行される動作は、前記の各動作に限定されない。つまり、指の像の動きと実行される動作とを対応付けて後述する指−命令対応情報テーブルに予め登録しておけば、同じ指の動きであっても、異なる動作を実行することが可能となる。
【0192】
例えば、図11を参照して説明した正方形の画像27aを移動する動作は、親指20と人差し指21をそれぞれ同じ方向へ移動させることにより実行される。しかしながら、親指20と人差し指21をそれぞれ同じ方向へ移動する動きを、画像を拡大(縮小)する動作に対応付けておくことにより、同じ指の動きであっても、異なる動作を実行することができる。あるいは、親指20と人差し指21をそれぞれ同じ方向へ移動させることにより、円形の画像の場合には画像の拡大という動作を割り当て、矩形の画像の場合には移動という動作を割り当てておくことにより、同じ指の動きであっても、画像の形状に応じて、異なる動作を実行することができる。
【0193】
ここで、数え切れないほど多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識し、その指の像の動きに対応付けられた所定の動作を実行するためには、次のような方法が考えられる。
【0194】
第1の方法は、第1表示/光センサ部300Aが検知した指の像の動きと、第2表示/光センサ部300Bが検知した指の像の動きとの関係から、特定の指の動きを認識する方法である。この方法は、例えば、表裏両面における指の像が、同一方向に移動すればオブジェクトが移動、反対方向に移動すればオブジェクトが拡大、近づく方向に移動すればオブジェクトが縮小、といった動きを予め対応付けておくことにより、数多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識するというものである。
【0195】
第2の方法は、上述した第1の方法に加えて、データ表示/センサ装置100との位置関係を考慮するものであり、データ表示/センサ装置100に対する指の像の動きの角度から、特定の指の動きを認識する方法である。この方法は、データ表示/センサ装置100の基準座標(X・Y軸)を定めておき、表裏両面の像が、X軸の反対方向に移動すればオブジェクトが拡大、Y軸の反対方向に移動すればオブジェクトが回転、といった動きを予め対応付けておくことにより、数多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識するというものである。
【0196】
第3の方法は、アプリケーション、モード等の動作する状態(場面)に応じて、特定の指の動きを認識する方法である。この方法は、あるアプリケーションの場合は、表裏両面の指の像を反対方向に移動させればオブジェクトが扇状に展開、他のアプリケーションの場合は、表裏面の指の像を反対方向に移動させればオブジェクトが拡大、さらに他のアプリケーションの場合は、表裏面の指の像を同一方向に移動させればオブジェクトが拡大、といった動きを予め対応付けておくことにより、数多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識するというものである。
【0197】
そして、どの方法を採用するかを予め設定しておけば、数え切れないほど多く存在する指の像の動きの変化の中から、ある特定の指の像の動きが認識されて、その指の像の動きに対応付けられた所定の動作が実行される。
【0198】
また、前記3つの方法に限らず、それらを組み合わせてもよく、あるいは、前記以外の方法により、数え切れないほど多く存在する指の像の動きの変化の中から、ある特定の指の像の動きを認識し、その指の像の動きに対応付けられた所定の動作を実行してもよい。
【0199】
このようにして、特定の指の像の動きに対応付けられた所定の動作が実行される。そして、その所定の動作とは、図9〜図18を参照して説明した、画像(オブジェクト)の選択、拡大、縮小、回転、扇状への展開、他の画像への切り替え、移動、削除、引き伸ばし、あるいは分割などが挙げられる。そして、第1表示/光センサ部300Aには、上記動作結果が表示される。
【0200】
なお、実行される所定の動作は、上述した各動作に限らず、種々の動作が可能である。また、図9〜図18を参照して説明した各動作を適宜組み合わせて得られる動作も実行可能である。
【0201】
ここで、他の動作の一例を図11(a)・(b)を参照して説明する。図11(a)・(b)では、上面から親指20で、下面から人差し指21で、それぞれ略正方形の画像27aをタッチして、さらに親指20と人差し指21をそれぞれ同じ方向(図面横方向において、右方向)へ移動させている。この指の動きにより、略正方形の画像27aが第1表示/光センサ部300Aの画面の外側へと移動する。
【0202】
このとき、第1表示/光センサ部300Aの画面の外側へ略正方形の画像27aが移動し終わる前に親指20及び/又は人差し指21が略正方形の画像27aから離れた場合、画像が最初の位置(状態)に戻るようデータ表示/センサ装置が構成されていたとする。この場合、ユーザは、当該装置を使用することにより、親指20及び/又は人差し指21を略正方形の画像27aから離すことで略正方形の画像27aを最初の位置(状態)に戻すことができる。つまり、ユーザは、指を離す動作によって所定の動作(画像の移動)をキャンセルすることができる。
【0203】
つまり、データ表示/センサ装置が上記のように構成されていれば、画像を最初の状態に戻すための他の動作を必要とせず、ユーザの負担が軽減される。そして、所定の動作をキャンセルする操作は、図9等を参照して説明した他の実施例にも適用することが可能である。
【0204】
このように、指の動きと所定の動作とを種々のパターンで関連付けることができる。そして、実行される所定の動作は、上述した各動作に限らず、種々の動作が可能である。
【0205】
(データ表示/センサ装置の要部説明)
次に、図1を参照しながら、データ表示/センサ装置100のより詳細な構成について説明する。なお、ここでは、説明を分かりやすくするために、主制御部800と表示/光センサ部300との間に位置するデータ処理部700および回路制御部600の動作については説明を省略する。ただし、正確には、画像の表示および画像の検知を行うにあたり、主制御部800の入力インターフェース制御部805が、データ処理部700にコマンドを送信し、データ処理部700がコマンドに基づいて回路制御部600を制御し、回路制御部600が表示/光センサ部300に対して信号を送信する。また、主制御部800は、データ処理部700に対して送信したコマンドに対する応答として、データ処理部700から、全体画像データ、部分画像データ、および座標データを取得する。
【0206】
図1は、データ表示/センサ装置100の要部構成を表すブロック図である。図示のように、主制御部800は、入力インターフェース制御部805と、アプリケーション実行部850(動作実行装置)と、を備える。また、入力インターフェース制御部805は、検知判定部810と、重畳判定部820と、入力検出部830と、動作制御部840(動作制御手段)と、画像表示制御部860(画像表示制御手段)と、を備える。
【0207】
検知判定部810は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが、共に指の像を検知したかどうかを判定する。より具体的に説明すると、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したとき、座標データ、全体画像データ、部分画像データがデータ制御部700から検知判定部810に送信される。従って、検知判定部810は、第1表示/光センサ部300A及び第2表示/光センサ部300Bの両方から座標データ、全体画像データ、部分画像データを受信した場合に、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定することができる。なお、検知判定部810は、座標データ、全体画像データ、部分画像データのうち少なくとも何れか1つを受信することで、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定することもできる。
【0208】
ここで、図1では、データ処理部700から検知判定部810(及び、重畳判定部820、入力検出部830)へ送信される座標データ、全体画像データ、部分画像データが実線及び破線で記載されている。これは、検知判定部810が、第1表示/光センサ部300A及び第2表示/光センサ部300Bの両方から座標データ、全体画像データ、部分画像データを取得するためであり、第1表示/光センサ部300Aから検知判定部810(及び、重畳判定部820、入力検出部830)へ送信される座標データ、全体画像データ、部分画像データを実線で、第2表示/光センサ部300Bから検知判定部810(及び、重畳判定部820、入力検出部830)へ送信される座標データ、全体画像データ、部分画像データを破線で、それぞれ記載している。
【0209】
次に、検知判定部810は、「第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知した」ことを示す判定結果を入力検出部830に出力する。従って、第1表示/光センサ部300Aのみ、あるいは第2表示/光センサ部300Bのみが指の像を検知した場合、若しくは第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知しなかった場合には、検知判定部810は、「第1表示/光センサ部300A及び第2表示/光センサ部300Bは、共に指の像を検知しなかった」ことを示す判定結果を入力検出部830に出力する。若しくは、検知判定部810は、入力検出部830に対して何も出力しない。
【0210】
重畳判定部820は、第1表示/光センサ部300Aに表示された画像の領域である表示画像領域と、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の領域である像領域とが重畳するか否かを判定する。なお、表示/光センサ部300のうち、第1表示/光センサ部300Aに画像が表示され、第2表示/光センサ部300Bには画像が表示されていないものとして説明する。
【0211】
より具体的に説明すると、重畳判定部820は、データ制御部700から座標データ、全体画像データ、部分画像データを取得し、それら座標データ、全体画像データ、部分画像データから像領域を特定する。また、重畳判定部820は、第1表示/光センサ部300Aに表示された画像に係る画像情報を記憶部901から読み出す。その画像情報には、当該画像に係る表示画像領域が座標により特定されているため、重畳判定部820は、記憶部901から画像情報を読み出すことにより表示画像領域を特定することができる。
【0212】
一例として、図28、及び図29を参照して画像情報について説明する。図28は、図10に係る円形の画像26a、26bについての画像情報を説明するための図である。また、図29は、図11に係る矩形の画像27aについての画像情報を説明するための図である。
【0213】
図28(a)に示すように、円形の画像26aは、座標(A、B)を中心点として、直径φT1で示される円である。また、図10を参照して説明した方法によって得られた、図28(b)におけるより大きな寸法に拡大した円形の画像26bは、座標(A、B)を中心点として、直径φT2で示される円である。なお、ここでは円形の画像26a・26bに係る表示画像領域は、座標(A、B)、及び直径φT1、φT2によって特定されているが、円形の画像26a・26bの各円周の座標によって特定する態様であっても構わない。何れの態様であれ、円形の画像26a・26bに係る表示画像領域が特定されるためである。
【0214】
また、図29(a)に示すように、矩形の画像27aは、(A、B1)という位置を画像の中心として、一辺が長さCで表される正方形の画像である。また、図11を参照して説明した方法によって得られた、図29(b)における図面右側に移動した画像27aは、(A、B2)を画像の中心として、一辺が長さCで表される正方形の画像である。なお、ここでは正方形の画像27aは、座標(A、B1)、(A、B2)、及び長さCで特定されるが、正方形の画像27aの4辺を示す座標によって特定する態様であっても構わない。何れの態様であれ、正方形の画像27aに係る表示画像領域が特定されるためである。
【0215】
このように、図28で言えば座標(A、B)及びφT1、φT2という情報を、また図29で言えば座標(A、B1)、(A、B2)、及びCという情報を、それぞれ画像情報として扱うことにより、重畳判定部820は、記憶部901からその画像情報を読み出すことによって表示画像領域を特定することができる。
【0216】
上記の方法により、重畳判定部820は、像領域および表示画像領域を特定することができ、従って、像領域と表示画像領域との間に重畳する重畳領域が存在するか否かを判定することができる。そして、重畳判定部820は、その判定結果を入力検出部830に出力する。なお、前記の重畳領域が存在しないと判定した場合に、重畳判定部820がその判定結果を入力検出部830に出力せず、そのことにより重畳領域が存在しないことの判定結果とすることもできる。
【0217】
また、前記の説明では、重畳判定部820はデータ制御部700から座標データ、全体画像データ、部分画像データを取得するものとして説明した。しかしながら、重畳判定部820は、検知判定部810を介して、データ制御部700から座標データ、全体画像データ、部分画像データを取得してもよい。
【0218】
なお、重畳領域が存在するか否かの判定では、重畳判定部820は、第1表示/光センサ部300Aに表示された画像の領域である表示画像領域と、第1表示/光センサ部300Aあるいは第2表示/光センサ部300Bのうち、何れか一方が検知した指の像の領域である像領域とが重畳するか否かを判定してもよい。これにより、第1表示/光センサ部300A及び第2表示/光センサ部300Bの両方の像領域と表示画像領域とが重畳するか否かを判定する場合よりも、「重畳領域が存在する」と判定される条件を緩和することができる。
【0219】
ここで、具体例を用いて、重畳判定の条件を緩和することが好ましい理由を説明する。図9(a)では、ユーザは、第1表示/光センサ部300Aに表示された矩形の画像25aに対応する第2表示/光センサ部300B上の領域を人差し指21でタッチしている。つまり、第2表示/光センサ部300Bに矩形の画像25aが表示されているとしたならば、その矩形の画像25aが表示されているであろう領域を、人差し指21がタッチする。
【0220】
このとき、第2表示/光センサ部300Bは矩形の画像25aを画面上に表示していないため、ユーザは、第1表示/光センサ部300Aに表示された矩形の画像25aに対応する第2表示/光センサ部300B上の領域を感覚的に認識して、その上で、その領域をタッチしている。つまり、人差し指21による当該領域へのタッチは、感覚的に行われるものであり、常に正確に行われるものではない。
【0221】
従って、少なくとも第1表示/光センサ部300Aあるいは第2表示/光センサ部300Bのうち、何れか一方が検知した指の像の領域である像領域が表示画像領域と重畳することにより「重畳領域が存在する」と判定されるのであれば、データ表示/センサ装置100は、より優れた操作性及び利便性をユーザに提供することができる。
【0222】
入力検出部830は、検知判定部810が、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定し、かつ、重畳判定部820が重畳領域が存在すると判定した場合には、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出して、その指の像の動きに対応付けられた入力信号を生成し、その入力信号を動作制御部840に出力する。
【0223】
このとき、入力検出部830は、さらにアプリケーション、モード等の動作する状態(場面)、あるいは画像の属性にも対応付けて入力信号を生成する。これにより、後述するアプリケーション実行部850は、第1表示/光センサ部300Aに表示された画像に対して所定の動作を実行することができる。なお、入力検出部830は、記憶部901から直接、もしくは重畳判定部820を介して当該画像等に係る画像情報を取得することができる。これにより、入力検出部830は、第1表示/光センサ部300Aに表示された画像に対応付けされた入力信号を生成することができる。
【0224】
ここで、入力検出部830が生成する入力信号について、図9の動作を例に具体的に説明する。
【0225】
第1表示/光センサ部300A及び第2表示/光センサ部300Bは、反対方向へ移動する親指20の像と人差し指21の像を検知する。このとき、入力検出部830は、データ制御部700から親指20の像と人差し指21の像の移動前後における全体画像データ、部分画像データ、及び座標データを取得する。そして、入力検出部830は、それらのデータから、それぞれの指の像の移動量、及び移動方向を算出する。
【0226】
より具体的に説明すると、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)で表され、部分画像データ(領域PP)における座標データは(Xp,Yp)として表される。従って、入力検出部830は、親指20の像及び人差し指21の像の移動前後における上記座標データをそれぞれ取得して、その座標データの差分を計算することにより、それぞれの指の像の移動量、及び移動方向を算出することができる。
【0227】
このようにして、入力検出部830は、第1表示/光センサ部300A及び第2表示/光センサ部300Bがそれぞれ検知した指の像の動きを検出して、各指の座標移動量、座標移動方向(単独ベクトル)を算出する。そして、入力検出部830は、各指の単独ベクトルから、各指が互いにどの方向に、どの程度移動したかを示す相対ベクトルを算出する。これにより、入力検出部830は、単独ベクトル、及び相対ベクトルを算出し、かつ、単独ベクトル、及び相対ベクトルに対応付けられた入力信号を生成する。
【0228】
さらに、入力検出部830は、以下の種々の項目に対応付けられた入力信号、つまり、記憶部901から読み出した画像情報に基づいて、アプリケーション、モード等の動作する状態(場面)ごとに対応付けされた入力信号、図19を参照して後述する「経過時間」に対応付けられた入力信号、あるいは指の動きの速度に対応付けられた入力信号、を生成する。なお、入力信号は、ここで挙げた項目すべてに対応付けて生成される必要はなく、これらのうち一部に対応付けられて生成されてもよい。
【0229】
このように、入力検出部830は、上記種々の項目に対応付けられた入力信号を生成し、その入力信号を動作制御部840に出力する。
【0230】
動作制御部840は、入力検出部830が生成した入力信号を受信して、その入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とに対応付けられた指−命令対応情報に基づいて、アプリケーション実行部850に動作実行命令を送信する。
【0231】
より具体的に説明すると、動作制御部840は、入力検出部830が生成した入力信号を受信する。そして、動作制御部840は、その入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とに対応付けられた指−命令対応情報を記憶部901から読み出し、その指−命令対応情報に基づいて、当該入力信号に対応する動作実行命令をアプリケーション実行部850に送信する。
【0232】
ここで、指−命令対応情報についてより具体的に説明する。指−命令対応情報とは、入力検出部830が生成する入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とに対応付けられた情報である。例えば、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像が同じ方向に移動すると、選択した画像を同じ方向に移動させる、あるいは、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像が互いに反対方向に移動すると、選択した画像を拡大する(縮小する)、というように、指−命令対応情報は、入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とに対応付けられている(図30参照)。さらに、これに加え、入力検出部830は、単独ベクトル、相対ベクトル、アプリケーション・モード等の動作する状態(場面)、経過時間、あるいは指の動きの速度といった種々の項目に対応付けられた入力信号を生成する。従って、指−命令対応情報は、上記種々の項目、及び実行すべき所定の動作とが関連付けてなるものである。
【0233】
なお、図30は、図9〜図19を参照して説明する、画像の形状、指の動き、及び得られる動作を関連付けた指−命令対応情報の一例を示すテーブルである。従って、ここで示す各項目はあくまで一例であって、これに限られるものではない。
【0234】
アプリケーション実行部850は、動作制御部840から動作実行命令を受信して、その命令によって示される動作を実行する。そして、アプリケーション実行部850は、その動作が行われたことを示す動作結果情報を画像表示制御部860に送信する。
【0235】
例えば、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像が同じ方向に移動した場合(仮にA点からB点へ移動したとする)であって、その指の像の動きに対応付けられた動作が、「表示画像をA点からB点へ移動させる」という動作である場合、アプリケーション実行部850は、当該表示画像の表示位置をA点からB点に移動する処理を行う。そして、アプリケーション実行部850は、「表示画像をA点からB点へ移動する処理を行った」ことを示す動作結果情報を画像表示制御部860に送信する。
【0236】
このように、アプリケーション実行部850は、動作制御部840から動作実行命令を受信して、その命令によって示される動作を実行し、さらに、その動作が行われたことを示す動作結果情報を画像表示制御部860に送信する。
【0237】
なお、図1において、アプリケーション実行部850は主制御部800に含まれる構成である。しかしながら、主制御部800の外部にアプリケーション実行部850を設けて、外部通信部907を介して、所定の動作を実行する構成としてもよい。また、アプリケーション実行部850は、1または複数のアプリケーションを有してよい。
【0238】
画像表示制御部860は、アプリケーション実行部850から動作結果情報を受信すると、データ処理部700に表示データを送信する。その表示データは、アプリケーション実行部850によって実行された動作結果を第1表示/光センサ部300Aに表示するようデータ処理部700に促すものである。
【0239】
従って、「表示画像をA点からB点へ移動させる」という動作がアプリケーション実行部850によって実行された場合、画像表示制御部860は、データ処理部700にそのことを示す表示データを送信して、その結果、第1表示/光センサ部300Aに動作結果が表示される。つまり、表示画像がA点からB点へ移動する様子が第1表示/光センサ部300Aに表示される。
【0240】
また、図1では、記憶部901は、主制御部800の外部に設けられているが、主制御部800の内部に設けられる構成であってもよい。
【0241】
また、検知判定部810、重畳判定部820、及び入力検出部830は、第1表示/光センサ部300A及び第2表示/光センサ部300Bごとに、指の像の全体画像データ、部分画像データ、及び座標データを送信するようデータ処理部700に要求している。これは、主制御部800で実行されるアプリケーションプログラムが、指の像の全体画像データ、部分画像データ、及び座標データを第1表示/光センサ部300A及び第2表示/光センサ部300Bごとに送信するようデータ処理部700を制御することにより行われる。
【0242】
(フローチャート説明)
次に、図9〜図18、及び図20を参照しながら、データ表示/センサ装置100の処理の流れ、及び、入力インターフェース制御部805からデータ処理部700に送信されるコマンドの詳細について説明する。
【0243】
図20は、データ表示/センサ装置100の処理の流れを表すフローチャートである。
【0244】
まず、データ表示/センサ装置100の電源がオフの状態にあるとき、ユーザが電源スイッチ905を押下することにより、データ表示/センサ装置100は電源オンとなる(S11)。
【0245】
そして、ステップS13では、ユーザが電源スイッチ905を押下することにより、表示/光センサ部300に画像が表示される。なお、ここでは、第1表示/光センサ部300Aに画像が表示されるものとする。この状態で、データ表示/センサ装置100は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが指の像を検出するまで待機する。
【0246】
ここで、第1表示/光センサ部300Aに画像を表示させる場合は、「表示パネル」フィールドの値として上画面(“001”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。なお、第2表示/光センサ部300Bに画像を表示させる場合は、「表示パネル」フィールドの値として下画面(“010”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。ここでは、第1表示/光センサ部300Aに画像を表示させるため、「表示パネル」フィールドの値として両画面(“001”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。
【0247】
また、この段階では、表示/光センサ部300は近傍の像を検知可能な状態にあるものとする。前記検知を行うために、「データ取得タイミング」フィールドに、“イベント”を指定し、「データ種別」フィールドに“座標”および“全体画像”の両方を指定(“101”を指定)したコマンドが入力インターフェース制御部805からデータ処理部700に出力される。なお、“座標”または“全体画像”のみを指定したコマンドが入力インターフェース制御部805からデータ処理部700に出力されてもよい。
【0248】
さらに、第1表示/光センサ部300A及び第2表示/光センサ部300Bにおいて前記検知を行うために、「スキャンパネル」フィールドに両方の表示/光センサ部300を指定(“011”)したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。
【0249】
これにより、センサ内蔵液晶パネル301が近傍の像を検知した場合に、検知判定部810、重畳判定部820、及び入力検出部830は、データ処理部700から座標データ、全体画像データ、部分画像データを取得することができる。
【0250】
つまり、第1表示/光センサ部300A及び第2表示/光センサ部300Bにユーザの指がタッチしたとき、光センサ回路32が、タッチした指の影像および反射像の少なくとも何れかを検知する。その結果、データ処理部700がセンサ制御部602から取得する画像データに変化が生じる。
【0251】
このようにして、検知判定部810は、前記画像データに変化が生じた際にデータ処理部700から出力されてくる、座標データ、全体画像データ、部分画像データを取得することにより、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したことを認識できる。
【0252】
そして、ステップS15では、検知判定部810が、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したかどうかを判定する。つまり、表示/光センサ部300ごとの座標データ、全体画像データ、部分画像データがデータ処理部700から検知判定部810に入力されることにより、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定される。なお、図20では、便宜のため、第1表示/光センサ部300Aを「A」と称し、第2表示/光センサ部300Bを「B」と称している。
【0253】
第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知した場合(ステップS15でYes)、ステップS17に進む。ステップS17では、重畳判定部820が、第1表示/光センサ部300Aに表示された画像の領域である表示画像領域と、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の領域である像領域とが重畳するか否かを判定する。つまり、データ処理部700から表示/光センサ部300ごとの座標データ、全体画像データ、部分画像データを取得することにより、重畳判定部820は、座標データ、全体画像データ、及び部分画像データと、第1表示/光センサ部300Aに表示された画像の領域である表示画像領域とを比較して、重畳する領域(重畳領域)が存在するかどうかを判定する。なお、重畳判定部820は、第1表示/光センサ部300Aに表示された画像に係る画像情報を記憶部901から読み出している。
【0254】
重畳領域が存在すると判定された場合(ステップS17でYes)、ステップS19に進む。ステップS19では、入力検出部830が、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出して、その指の像の動きに対応付けられた入力信号を生成し、その入力信号を動作制御部840に出力する。
【0255】
続いて、ステップS21では、動作制御部840が、その入力信号を入力検出部830から受信して、その入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた指−命令対応情報を記憶部901から読み出す。
【0256】
動作制御部840は、記憶部901から指−命令対応情報を読み出して、その指−命令対応情報に基づいて、アプリケーション実行部850に動作実行命令を送信する。
【0257】
続いて、ステップS23では、アプリケーション実行部850が、動作制御部840から動作実行命令を受信して、その命令によって示される動作を実行する。そして、アプリケーション実行部850は、その動作が行われたことを示す動作結果情報を画像表示制御部860に送信する。
【0258】
そして、ステップS25では、画像表示制御部860が、アプリケーション実行部850から動作結果情報を受信して、データ処理部700に表示データを送信する。その表示データは、アプリケーション実行部850によって実行された動作結果を第1表示/光センサ部300Aに表示するようデータ処理部700に促すものである。その結果、第1表示/光センサ部300Aには、アプリケーション実行部850が動作制御部840から受信した動作実行命令に基づいて実行した動作結果が表示される。
【0259】
このとき、第1表示/光センサ部300Aに画像を表示させる場合は、「表示パネル」フィールドの値として上画面(“001”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。なお、第2表示/光センサ部300Bに画像を表示させる場合は、「表示パネル」フィールドの値として下画面(“010”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。ここでは、第1表示/光センサ部300Aに画像を表示させるため、「表示パネル」フィールドの値として両画面(“001”)を指定したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。
【0260】
一方、ステップS15、及びステップS17で「No」に進む場合は、再びステップS15に戻る。なお、ステップS15の次にステップS17の処理を行う順序で説明したが、同時に行っても、あるいは逆の順序で行ってもよい。
【0261】
なお、後述の図23を参照して説明する例では、第1表示/光センサ部300Aに画像が表示されていない場合であっても、所望の動作を実行することができる。従って、この場合には、重畳領域が存在するか否か(ステップS17)の判定を経ることなく、入力検出部830が入力信号を生成するステップ(ステップS19)に進む。
【0262】
ここで、前記各ステップ(ステップS11〜ステップS25)の処理の流れを図9を参照して説明する。
【0263】
図9(a)では、第1表示/光センサ部300Aに矩形の画像25aが表示されている。これは、「表示パネル」フィールドの値として上画面(“001”)を指定したコマンドが入力インターフェース制御部805からデータ処理部700に出力された結果、第1表示/光センサ部300Aに画像25aが表示されたものである。
【0264】
なお、既にこの段階で、「データ取得タイミング」フィールドに、“イベント”を指定し、「データ種別」フィールドに“座標”および“全体画像”の両方を指定(“101”を指定)したコマンドが入力インターフェース制御部805からデータ処理部700に出力され、表示/光センサ部300は近傍の像を検知可能な状態にあるものとする。なお、“座標”または“全体画像”のみを指定したコマンドが入力インターフェース制御部805からデータ処理部700に出力されてもよい。
【0265】
また、第1表示/光センサ部300A及び第2表示/光センサ部300Bにおいて前記検知を行うために、「スキャンパネル」フィールドに両方の表示/光センサ部300を指定(“011”)したコマンドが、入力インターフェース制御部805からデータ処理部700に出力される。
【0266】
このような状態において、ユーザが、上面(第1表示/光センサ部300Aが配設された側)から親指20で、下面(第2表示/光センサ部300Bが配設された側)から人差し指21で、それぞれその矩形の画像25aをタッチする。そして、第1表示/光センサ部300A及び第2表示/光センサ部300Bは共に指の像を検知することができる状態にあるため、検知判定部810は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが、共に指の像を検知していると判定し、その判定結果を入力検出部830に出力する。
【0267】
また、図9(a)に示すように、第1表示/光センサ部300Aに表示された画像25aの領域を示す表示画像領域と、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した親指20、人差し指21の指の像の領域である像領域とは重畳している。従って、重畳判定部820は、表示画像領域と像領域とが重畳する重畳領域が存在すると判定し、その判定結果を入力検出部830に出力する。
【0268】
なお、重畳判定部820は、データ制御部700から指の像の座標データ、全体画像データ、部分画像データを取得し、それらのデータから前記の像領域を特定する。また、重畳判定部820は、第1表示/光センサ部300Aに表示された画像に係る画像情報を記憶部901から読み出すことにより、画像25aの表示画像領域を特定している。このようにして、重畳判定部820は、像領域および表示画像領域を特定することができるため、像領域と表示画像領域との間に重畳する重畳領域が存在するか否かを判定することができる。
【0269】
入力検出部830は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと検知判定部810が判定し、かつ、重畳判定部820が重畳領域が存在すると判定したことにより、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出する。
【0270】
ここで、図9(b)では、親指20と人差し指21をそれぞれ反対方向(図面横方向において、親指20を右方向、人差し指21を左方向)へ移動しているため、入力検出部830は、その指の像の動きを検出し、その指の像の動きに対応付けられた入力信号を生成する。また、入力検出部830は、記憶部901から直接、もしくは重畳判定部820を介して矩形の画像25aに係る画像情報を取得しており、入力信号は、矩形の画像25aに対応付けて生成されている。そして、入力検出部830はその入力信号を動作制御部840に出力する。
【0271】
動作制御部840は、入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた指−命令対応情報を記憶部901から読み出し、次に、動作実行命令をアプリケーション実行部850に送信する。ここで、第1表示/光センサ部300Aに表示された画像が矩形の画像25aであって、データ表示/センサ装置100の表裏両面で検出された指の像の動きがそれぞれ反対方向へ移動する場合には、指−命令対応情報は、矩形の画像25aを扇状の画像25aに変化させる動作に対応付けられている。
【0272】
従って、アプリケーション実行部850は、矩形の画像25aを扇状の画像25aに拡げる処理を行い、その上で、「矩形の画像25aを扇状の画像25aに拡げる処理を行った」ことを示す動作結果情報を画像表示制御部860に送信する。
【0273】
画像表示制御部860は、アプリケーション実行部850から前記の動作結果情報を受信すると、データ処理部700に表示データを送信する。その表示データとは、矩形の画像25aを扇状の画像25aに拡げて表示することを指示するデータである。そして、データ処理部700は、画像表示制御部860から送信された表示データに基づいて、第1表示/光センサ部300Aに表示された矩形の画像25aを扇状の画像25aへ展開した画像を表示させる。
【0274】
なお、扇状の画像25aの表示は、「表示パネル」フィールドの値として上画面(“001”)を指定したコマンドが入力インターフェース制御部805からデータ処理部700に出力された結果、第1表示/光センサ部300Aに扇状の画像25aが表示されたものである。
【0275】
このようにして、図9(a)・(b)を参照して説明した動作が実行され、その実行結果が第1表示/光センサ部300Aに表示される。
【0276】
これと同様の処理の流れによって、図10〜図18を参照して説明した種々の動作が実行され、その実行結果が第1表示/光センサ部300Aに表示される。
【0277】
なお、ここでは、右手について説明しているが、左手についても、入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた指−命令対応情報を記憶部901に記憶させておけば、第1表示/光センサ部300Aに表示された表示画像に対して、所望の動作を実行させることができる。
【0278】
また、ここでは第1表示/光センサ部300Aに表示画像を表示するものとして説明したが、第2表示/光センサ部300Bに画像を表示させてもよい。
【0279】
さらに、第1表示/光センサ部300A及び第2表示/光センサ部300Bによる検知の対象として親指20及び人差し指21を用いることとして説明したが、検知の対象とする指の種類は、これらの指に限定されず、中指、薬指、小指であってもよい。指の種類ではなく、検知した指の像の動きに基づいて、第1表示/光センサ部300Aに表示された画像に対して所定の動作を実行させるためである。
【0280】
データ表示/センサ装置100の前記処理によって得られる効果を説明すると以下の通りである。
【0281】
データ表示/センサ装置100は、前記構成を備えることにより、表裏両面にそれぞれ配設された近傍の像を検知する第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知した場合に、指の像の動きに対応付けられた入力信号が入力検出部830によって生成される。つまり、第1表示/光センサ部300A、第2表示/光センサ部300Bのうち何れか一方の表示/光センサ部300が指の像を検知しただけでは、その指の像の動きに対応付けられた入力信号が生成されることはない。
【0282】
このように、データ表示/センサ装置100では、表裏両面の表示/光センサ部300という二つの入力面からの入力によって入力信号が生成される。そして、その入力信号は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きに対応付けられた信号である。従って、ユーザは、様々な指の像の動きを第1表示/光センサ部300A及び第2表示/光センサ部300Bに検出させることによって、従来の入力装置では実現できなかった多彩で立体的な操作を行うことができ、また、そのような操作によって、優れた利便性及び操作性がもたらされる。しかも板状のデータ表示/センサ装置100の裏表両面から画面を指で挟持するように操作するため、ユーザは、極めて容易に当該装置を使用することができる。
【0283】
そして、二つの入力面からの入力によって入力信号が生成されるため、例えばユーザの指がタッチパネル上のアイコンに無意識のうちに接触しても、その指の像が検知されて入力信号が生成され、何らかの処理が実行されてしまうという事態を回避することができる。その結果、入力面に誤って操作してしまうリスクが軽減される。
【0284】
このように、データ表示/センサ装置100では、優れた操作性及び利便性をユーザに提供することができる。
【0285】
さらに、データ表示/センサ装置100では、前記の構成において、入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、入力信号に対応する命令を、アプリケーション実行部850に送信する動作制御部840を備える構成である。
【0286】
従って、表裏両面の表示/光センサ部300が指の像の動きを検出して、該指の像の動きに対応付けられた入力信号が入力検出部830によって生成される。そして、その入力信号と、アプリケーション実行部850に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、入力信号に対応付けられた命令がアプリケーション実行部850に送信され、アプリケーション実行部850は、入力信号に対応する命令を実行する。
【0287】
従って、データ表示/センサ装置100のユーザは、様々な指の像の動きを表裏両面の表示/光センサ部300に検出させることによって、アプリケーション実行部850に所望の動作を実行させることができる。
【0288】
さらに、データ表示/センサ装置100では、前記の構成において、入力検出部830は、表裏両面の表示/光センサ部300が、表裏両面の表示/光センサ部300上の所定の領域において指の像を検知した場合に、前記入力信号を生成する構成とすることができる。そして、表裏両面の表示/光センサ部300において、所定の領域に画像を表示させる画像表示制御部860を備え、入力検出部830は、当該画像に対応付けられた前記入力信号を生成する構成とすることができる。
【0289】
前記の構成によれば、データ表示/センサ装置100では、表裏両面の表示/光センサ部300上の所定の領域において指の像が検知された場合に入力信号が生成される。
【0290】
従って、入力検出部830は、表裏両面の表示/光センサ部300上の所定の領域とは異なる他の領域に指がタッチした場合には入力信号を生成しない。
【0291】
それゆえ、ユーザは、表裏両面の表示/光センサ部300上の所定の領域とは異なる他の領域に指をタッチした場合であっても、入力信号が生成されるという事態を回避することができる。
【0292】
さらに、データ表示/センサ装置100では、画像表示制御部860が所定の領域に画像を表示させる。また、入力検出部830は、所定の領域において指の像が検知された場合に、当該画像に対応付けられた入力信号を生成する。
【0293】
従って、ユーザは、当該画像を裏表両面から指で挟持することにより、アプリケーション実行部850に所定の動作を実行させることができる。逆に、当該画像が表示されている所定の領域とは異なる領域では、入力検出部830は入力信号を生成しないため、ユーザは、当該画像が表示されている所定の領域とは異なる領域をタッチしても、入力面に誤って操作してしまうという事態を回避できる。
【0294】
それゆえ、所定の領域に表示された画像のみを対象として、ユーザは所望の動作を実現することができ、その結果、データ表示/センサ装置100は、優れた操作性及び利便性をユーザに提供することができる。
【0295】
さらに、データ表示/センサ装置100では、画像表示制御部860は、アプリケーション実行部850が実行した所定の動作の結果に基づく画像を、第1表示/光センサ部300Aに表示させる構成とすることができる。
【0296】
つまり、画像表示制御部860は、アプリケーション実行部850が実行した所定の動作の結果に基づく画像を第1表示/光センサ部300Aに表示させることができる。
【0297】
従って、画像表示制御部860は、ユーザの指の動きに対応付けられて実行された動作の結果を画面上に表示して、その結果をユーザに確認させることができる。
【0298】
なお、ユーザは、自身の指の動きに基づいて実行された動作の結果を画面上で確認することができる。そして、その動作後の画像に対してさらに何らかの動作を与えたいときは、表裏両面の表示/光センサ部300に対して所望の指の像の動きを検出させればよい。つまり、ユーザは、動作の結果を画面上で確認することにより、次の動作を連続的に行うことができる。
【0299】
このように、データ表示/センサ装置100は、より優れた操作性および利便性をユーザにも提供することができる。
【0300】
(変形例1)
次に、図19、図21、図22を参照してデータ表示/センサ装置100の一変形例であるデータ表示/センサ装置110を説明する。なお、図1、図9〜図18、図20を参照して説明した内容と同様の内容は説明を省略する。
【0301】
図19(a)は、第1表示/光センサ部300Aに矩形の画像34aが表示されている様子を示す図である。図19(b)は、人差し指21と中指22をそれぞれ同じ方向(図面横方向において、右方向)へ移動させて、画像34aから画像34bへの切り替えを徐々に行う様子を示し、図19(c)は、さらに人差し指21と中指22をそれぞれ同じ方向(図面横方向において、右方向)へ移動させて、画面に表示される画像を、画像34aから画像34bへ切り替えた様子を示す図である。
【0302】
図19(a)では、第1表示/光センサ部300Aに矩形の画像34aが表示され、かつ、ユーザは、上面から人差し指21で、下面から中指22で画像34aをタッチしている。このとき、人差し指21及び中指22は、指先に加えて、指の腹や側面によりデータ表示/センサ装置110を表裏両面から挟持している。従って、人差し指21及び中指22と表示/光センサ部300との接触面積は、指先のみで表示/光センサ部300を挟持する場合に比べて大きくなる。
【0303】
次に、図19(b)に示すように、ユーザは、データ表示/センサ装置110に対して人差し指21と中指22をそれぞれ同じ方向(図面横方向において、右方向)へ移動させて、図面左側から画像34bを出現させ、画像34aと画像34bとを並べて表示させている。つまり、画像34aから画像34bへの切り替えが、人差し指21及び中指22の移動に伴って行われる。なお、画像34aから画像34bへの切り替えは、人差し指21及び中指22と表示/光センサ部300との接触面積が所定の接触面積よりも大きいことをトリガにして行われる。従って、人差し指21及び中指22と表示/光センサ部300との接触面積が所定の接触面積よりも小さい場合は、画像34aから画像34bへの切り替えは実行されない。この点が、図17を参照して説明した画像33aから画像33bへの切り替えと異なる点である。なお、所定の接触面積は、特に決まった数値である必要はなく、任意に設定することができ、その値は記憶部901に記憶される。
【0304】
続いて、図19(c)に示すように、さらに人差し指21と中指22を同じ方向(図面横方向において、右方向)へ移動させて、画像34aから画像34bへの切り替えを完了させている。
【0305】
このように、データ表示/センサ装置110及びその制御方法では、人差し指21及び中指22と表示/光センサ部300との接触面積が設定面積よりも大きいことをトリガにして、前記の人差し指21及び中指22の動きに応じて、画像34aから画像34bへの切り替えが行われる。それゆえ、単に指先で裏表両面から画像34aを挟持するだけでは画像34aから画像34bへの切り替えは実行されず、ユーザは、意識的に指の腹や側面を使う操作を求められる。つまり、データ表示/センサ装置110は、敢えてこのような操作をユーザに求めることにより誤操作のリスクを軽減している。
【0306】
なお、画像34aから画像34bへの切り替えが完全に行われる前に指の動きを停止することにより、画像34aと画像34bとが並んで表示された状態を維持しうる。また、指の動きの速度に応じて、画像34aから画像34bへの切り替えを所望の速度で実行することができる。さらに、人差し指21及び中指22の動きを前記とは逆の方向にすることにより、画像34bから画像34aの方向に画像を切り替えることも可能である。そして、画像34aと画像34bとの境目の移動方向は、図面横方向でも、図面縦方向でも、あるいはその他の方向であってもよく、適宜変更しうる。なお、ここで説明した様々な動作は、予め指−命令対応情報を設定しておき、その指−命令対応情報を参照することにより実現される。
【0307】
図19(a)・(b)で説明した動作の使用例として、次のような実施例が考えられる。例えば、ユーザが、電子アルバム化された複数の写真を順次鑑賞したい場合を考える。そのような場合に、画面に表示された写真(画像34a)から、次の写真(画像34b)に移りたいときに、上述した人差し指21、及び中指22の動作により、ユーザは、画像34aから画像34bへの切り替えを容易に、かつ迅速に行うことができる。このように、データ表示/センサ装置110は、画像を切り替えて次の画像を見たいというユーザの要求に確実に応えることができる。
【0308】
上述したように、画像34aから画像34bへの切り替えは、人差し指21及び中指22と表示/光センサ部300との接触面積が所定の面積よりも大きいことをトリガにして行われる。従って、図19(b)に記載される画面の切り替えを実現するデータ表示/センサ装置110は、人差し指21及び中指22と表示/光センサ部300との接触面積を算出することが可能な構成を備える必要がある。そこで、データ表示/センサ装置110の構成を図21を参照して説明する。なお、図1を参照して前述した構成要素と同一の構成要素には同一の参照符号を付している。従って、これらの構成要素の詳細な説明は省略する。
【0309】
図21は、データ表示/センサ装置110の要部構成を表すブロック図である。図示のように、入力インターフェース制御部805は、さらに面積算出判定部870を備える。
【0310】
面積算出判定部870は、データ処理部700から部分画像データを取得し、取得した指の像の面積(以降、接触面積と称する)を算出する。そして、予め設定された所定の面積(以降、設定面積と称する)を記憶部901から読み出して、接触面積と設定面積とを比較する。その後、面積算出判定部870は、その判定結果を入力検出部830に出力する。なお、面積の算出方法は、従来の画像処理ソフトで行われる一般的な方法でよい。
【0311】
入力検出部830は、検知判定部810が第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定し、重畳判定部820が重畳領域が存在すると判定した場合、かつ、面積算出判定部870が、接触面積が設定面積よりも大きいと判定した場合に、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出して、その指の動きに対応付けられた入力信号を生成し、その入力信号を動作制御部840に出力する。
【0312】
従って、面積算出判定部870が、接触面積は設定面積よりも小さいと判定した場合には、入力検出部830は入力信号を生成しない。そして、その結果、ユーザがいかに指を動かしたとしても、画像34aから画像34bへの切り替えを実行することはできない。
【0313】
このように、データ表示/センサ装置110は、画像34aから画像34bへの切り替えを、人差し指21及び中指22と表示/光センサ部300との接触面積が設定面積よりも大きいことをトリガにして行っている。
【0314】
次に、図19、及び図22を参照しながら、データ表示/センサ装置110の処理の流れについて説明する。図22は、データ表示/センサ装置110の処理の流れを表すフローチャートである。なお、図20を参照して説明したデータ表示/センサ装置100の処理の流れと同一のステップには同一のステップ番号を付している。従って、これらのステップの詳細な説明は省略する。
【0315】
重畳判定部820が、重畳領域が存在すると判定した場合(ステップS17でYes)、ステップS18に進む。ステップS18では、面積算出判定部870が、データ処理部700から部分画像データを取得し、取得した指の像の面積(接触面積)を算出する。そして、面積算出判定部870は、予め設定された所定の面積(設定面積)を記憶部901から読み出して、接触面積が設定面積よりも大きいか否かを判定する。
【0316】
なお、重畳判定部820による接触面積と設定面積との比較は、第1表示/光センサ部300Aが検知した指の像の接触面積と設定面積との比較、あるいは第2表示/光センサ部300Bが検知した指の像の接触面積と設定面積との比較のどちらでもよい。若しくは、2つの表示/光センサ部300が検知した指の像の接触面積の大きい方(若しくは、小さい方)と設定面積とを比較する構成であってもよい。
【0317】
一方、ステップS18で「No」に進む場合は、再びステップS15に戻る。なお、ステップS15、ステップS17、ステップS18の順に処理を行うこととして説明したが、ここで説明した処理の順序に限定されず、適宜変更してよい。
【0318】
このように、データ表示/センサ装置110及びその制御方法では、人差し指21及び中指22と表示/光センサ部300との接触面積が設定面積よりも大きいことをトリガにして、前記の人差し指21及び中指22の動きに応じて、画像34aから画像34bへの切り替えが行われる。それゆえ、単に指先で裏表両面から画像34aを挟持するだけでは画像34aから画像34bへの切り替えは実行されず、ユーザは、意識的に指の腹や側面を使う操作を求められる。つまり、データ表示/センサ装置110は、敢えてこのような操作をユーザに求めることにより誤操作のリスクを軽減している。
【0319】
(変形例2)
次に、図23、図24を参照して、他の変形例について説明する。
【0320】
図23(a)〜(c)は、表示/光センサ部300に画像が表示されていない状態で、画面の背景の色彩が段階的に変化していく様子を示す図である。また、図24は、本発明の一実施形態に係るデータ表示/センサ装置120の要部構成を表すブロック図である。
【0321】
以下、図23、図24を参照して、データ表示/センサ装置120について説明する。なお、図面に記載されている側を第1表示/光センサ部300Aとして説明する。また、図1等を参照して前述した構成要素と同一の構成要素には同一の参照符号を付している。従って、これらの構成要素の詳細な説明は省略する。
【0322】
図23に図示するように、第1表示/光センサ部300Aは、画面の下端部付近に信号生成領域170を有する。そして、重畳判定部820は、信号生成領域170を示す座標を記憶部901から読み取る(図24参照)。なお、信号生成領域170は、第1表示/光センサ部300Aに表示されていても、表示されていなくても、何れでもよい。
【0323】
ここで、重畳判定部820は、信号生成領域170と、第1表示/光センサ部300A及び/あるいは第2表示/光センサ部300Bが検知した指の像の領域である像領域とが重畳するか否かを判定する。
【0324】
より具体的に説明すると、重畳判定部820は、データ制御部700から2つの表示/光センサ部300で検知された指の像の座標データ、全体画像データ、部分画像データを取得し、それらのデータから像領域を特定する。さらに、重畳判定部820は、座標によって示される信号生成領域170を記憶部901から読み取る。そして、重畳判定部820は、像領域と信号生成領域170との間に重畳する重畳領域が存在するか否かを判定し、その判定結果を入力検出部830に出力する。
【0325】
入力検出部830は、検知判定部810が、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定し、かつ、重畳判定部820が、像領域と信号生成領域170との間に重畳する重畳領域が存在すると判定した場合に、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出して、その指の像の動きに対応付けられた入力信号を生成し、その入力信号を動作制御部840に出力する。
【0326】
従って、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の領域が信号生成領域170に重畳していない場合、入力検出部830は入力信号を生成しない。つまり、ユーザが信号生成領域170とは異なる領域に指でタッチしても、所望の動作を実現することはできない。
【0327】
なお、図23では、信号生成領域170は図面下側に設けられている。しかしながら、信号生成領域170を設ける位置、大きさ、範囲は、任意に設定してよい。図23は、あくまでその一例である。
【0328】
図23で説明した動作の使用例として、次のような実施例が考えられる。
【0329】
ユーザは、上面(第1表示/光センサ部300Aが配設された側)から親指20で、下面(第2表示/光センサ部300Bが配設された側)から人差し指21で、それぞれ信号生成領域170をタッチする。これにより、検知判定部810は、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定し、かつ、重畳判定部820が、像領域と信号生成領域170との間に重畳する重畳領域が存在すると判定する。
【0330】
そして、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させる。これにより、入力検出部830は、その指の像の動きに対応付けられた入力信号を動作制御部840に出力する。ここで、親指20と人差し指21をそれぞれ反対方向へ移動させるという指の動き(正確には、その指の動きによる指の像の動き)と、第1表示/光センサ部300Aの画面の背景の色彩が段階的に変化するという動作が対応付けられているとする。すると、動作制御部840は、その入力信号と、アプリケーション950に所定の動作を実行させる命令とが対応付けられた指−命令対応情報を記憶部901から読み出し、当該入力信号に対応する動作実行命令をアプリケーション実行部850に送信する。ここで、その動作実行命令は、第1表示/光センサ部300Aの画面の背景の色彩が段階的に変化するという動作をアプリケーション実行部850に実行させる命令である。それゆえ、最終的に、図1を参照して説明した処理の流れに従って、第1表示/光センサ部300Aの画面の背景の色彩が段階的に変化していく。
【0331】
このように、データ表示/センサ装置120では、たとえ第1表示/光センサ部300Aに画像が表示されていない状態であっても、ユーザは、所望の動作をデータ表示/センサ装置120に実行させることができる。
【0332】
また、データ表示/センサ装置120は、表裏両面の表示/光センサ部300上の信号生成領域170において指の像が検知された場合に入力信号が生成される構成である。従って、ユーザは、表裏両面の表示/光センサ部300上の信号生成領域170とは異なる他の領域に指をタッチしても、入力信号が生成されるという事態を回避することができる。
【0333】
それゆえ、信号生成領域170をユーザにとって操作しやすい領域に設定することにより、データ表示/センサ装置120は、優れた操作性及び利便性をユーザに提供することができる。なお、ユーザがデータ表示/センサ装置120を保持する際に、親指と人差し指が位置する近辺に信号生成領域170を設けておくことにより、ユーザが信号生成領域170をタッチする操作がさらに容易になり、ユーザにとって利便性及び操作性がより一層向上する。
【0334】
また、データ表示/センサ装置120では、ユーザは、信号生成領域170の位置、大きさ、範囲を適宜設定することができるが、他のユーザの使用を制限するために、意図的に信号生成領域170を特定の領域に設定することもできる。これにより、他のユーザが勝手にデータ表示/センサ装置120を使用するといった事態を回避しうる。このように、データ表示/センサ装置120は、利便性及び操作性に優れた装置をユーザに提供することができる。
【0335】
ここで、本変形例から派生する実施例として、さらに次のような実施例も考えられる。以下、その使用例を説明する。
【0336】
第1表示/光センサ部300Aは、画面の下端部付近に信号生成領域170を有する。ここで、第1表示/光センサ部300Aの信号生成領域170とは異なる領域に、図9を参照して説明した、矩形の画像25aが表示されていると仮定する。なお、矩形の画像25aの表示領域は、座標によって記憶部901に記録されている。
【0337】
そして、入力検出部830は、検知判定部810が、第1表示/光センサ部300A及び第2表示/光センサ部300Bが共に指の像を検知したと判定し、かつ、重畳判定部820が、像領域と信号生成領域170との間に重畳する重畳領域が存在すると判定した場合に、第1表示/光センサ部300A及び第2表示/光センサ部300Bが検知した指の像の動きを検出して、その指の像の動きに対応付けられた入力信号を生成する。
【0338】
このとき、入力検出部830は、記憶部901から矩形の画像25aの表示領域を読み出しており、矩形の画像25aの表示領域に対して所定の動作を実行するように対応付けられた入力信号を動作制御部840に出力する。
【0339】
このようにして、ユーザは、信号生成領域170において第1表示/光センサ部300Aに指の像の動きを検出させることにより、信号生成領域170とは異なる領域に表示された矩形の画像25aに所定の動作を実行することができる。つまり、ユーザは、矩形の画像25aが表示された領域を指でタッチすることなく、矩形の画像25aに対して所定の動作を実行することもできる。
【0340】
それゆえ、ユーザは、たとえ矩形の画像25aが指から遠い位置に表示されていて、表裏両面から矩形の画像25aを挟持することが困難な場合であっても、信号生成領域170において指を動かすことにより、矩形の画像25aに対して所定の動作を実行することができる。これにより、データ表示/センサ装置120は、利便性及び操作性に優れた装置をユーザに提供することができる。
〔実施の形態2〕
次に、図25〜図27を参照して、本実施の形態に係るデータ表示/センサ装置130の実施例を説明する。なお、ここで説明する内容は、図9〜図24を参照して説明した種々の動作を組み合わせることにより、ユーザが、所望の動作を実現するというものである。従って、図9〜図24を参照して説明した動作の詳細、その動作を実現する処理の詳細、本実施の形態に係るデータ表示/センサ装置130によって得られる効果については、詳細説明を省略する。
【0341】
図25、図26は、データ表示/センサ装置130の実施例を示す図である。図25(a)は、表示/光センサ部300に「メニュー画面(TEL/TV/WEB)」が表示された様子を示す。図25(b)は、メニュー画面から「TV」を示す画像が挟持されて、図面右側に引き出された様子を示す図である。図25(c)は、TVメニューから「民放」が選択された様子を示す図である。図25(d)は、民放「CH01」が視聴されている時の様子を示す図である。
【0342】
続いて、図26(a)は、民放のチャンネルを「CH01」から「CH02」に切り替えている様子を示す図である。図26(b)は、「CH02」が視聴されている時の様子を示す図である。図26(c)は、「民放」から「CS CH02」に切り替えている様子を示す図である。図26(d)は、「CS CH02」が視聴されている時の様子を示す図である。
【0343】
また、図27は、TVメニューにおける、CS、民放、及びBS放送、及びそれら各放送電波におけるチャンネル選択の概念図である。
【0344】
まずは、図25、図26を参照して、データ表示/センサ装置130の実施例を具体的に説明する。
【0345】
図25(a)には、第1表示/光センサ部300Aに「メニュー画面(TEL/TV/WEB)」が示されている。なお、本図ではメニュー画面としてTEL/TV/WEBを用いて説明しているが、選択する項目はここに記載した項目に限らず、写真、動画などのメニューであってよい。
【0346】
この状態は、ユーザが、メニュー画面からTEL、TV、あるいはWEBのうちの何れかの項目を選択しうる状態であり、図13(a)を参照して説明した、第1表示/光センサ部300Aの画面上端付近に画像29a〜29dが表示されているのと同様の状態である。
【0347】
そして、図25(b)は、メニュー画面から「TV」を示す画像部分を挟持して引き出した様子を示す図である。つまり、図25(b)では、第1表示/光センサ部300Aの画面左端付近に表示された「メニュー画面(TEL/TV/WEB)」から、ユーザが、上面から親指20で、下面から人差し指21で所望のメニューを挟持して、親指20と人差し指21をそれぞれ同じ方向(図面横方向において、右方向)へ移動させる。これにより、例えば「TV」を選択した場合に、図25(b)に示すように、TVを示す画像が右方向へ引き伸ばされる。
【0348】
なお、図示のように、TVにはさらに「CS/民放/BS」という項目(放送電波の種類)が含まれる。従って、ユーザは、この項目の中から所望の放送電波を選択することができる。なお、ここでは「CS/民放/BS」という項目により説明を行うが、他の項目を含んでもよい。
【0349】
図25(c)は、TVメニューから「民放」が選択された様子を示す図である。この状態は、ユーザが、「CS/民放/BS」から「民放」を選択した状態であり、図18を参照して説明した、親指20と人差し指21が表裏両面から同時に画像34をタッチして、画像34を選択する動作に該当する。つまり、図26(c)の段階では、第1表示/光センサ部300Aに「CS/民放/BS」を表示しておき、ユーザは、上面から親指20で、下面から人差し指21で所望のメニューをタッチする。これにより、例えば「民放」を選択した場合に、図25(c)に示すように民放が選択されて、図25(d)の状態に移る。
【0350】
図25(d)は、民放「CH01」が視聴されている時の様子を示す図であり、「民放」を選択した結果、民放「CH01」を視聴することができるようになったものである。
【0351】
続いて、図26(a)は、民放のチャンネルを「CH01」から「CH02」に切り替えている様子を示す図である。ユーザは、「CH01」から「CH02」にチャンネルを切り替えたくなった場合には、図示のように、親指20と人差し指21をそれぞれ反対方向(図面縦方向において、親指20を上方向、人差し指21を下方向)へ移動させて、「CH01」から「CH02」への切り替えを行う。これは、図17を参照して説明した、親指20と人差し指21をそれぞれ反対方向へ移動させて、画像33aから画像33bへの切り替えを行う動作に該当する。
【0352】
図26(b)は、「CH02」が視聴されている時の様子を示す図であり、「CH01」から「CH02」への切り替えを行った結果、民放の「CH02」を視聴することができるようになったものである。
【0353】
図26(c)は、「民放 CH02」から「CS CH02」に切り替えている様子を示す図である。ユーザは、「民放」から「CS」に放送電波を切り替えたくなった場合には、図示のように、親指20と人差し指21をそれぞれ同じ方向(図面横方向において、右方向)へ移動させて、「民放」から「CS CH02」に切り替えを図っている。これは、図11を参照して説明した、親指20と人差し指21をそれぞれ同じ方向へ移動させて、画像を移動させる動作に該当する。あるいは、この動作は、図13を参照して説明した画像を引き伸ばしする動作に類似する。
【0354】
図26(d)は、「CS CH02」が視聴されている時の様子を示す図であり、「CH01」から「CH02」への切り替えを行った結果、「CH02」を視聴することができるようになったものである。
【0355】
ここで、図25、図26を参照して説明した処理の流れを、図27を用いて概略的に説明する。図27は、TVメニューにおける、CS、民放、及びBS放送、及びそれら各放送電波におけるチャンネル選択の概念図である。なお、図示した状態は、すでに「メニュー画面(TEL/TV/WEB)」から「TV」が選択された状態にある。
【0356】
ここで、図25、図26を参照して説明した処理の流れを理解するために、図27に示すように、「CS/民放/BS」という項目(放送電波の種類)が図面横方向に並び、かつ、各項目ごとに「チャンネル」がリング状に並んでいる状態を考える。
【0357】
ユーザは、視聴したい放送電波を選択する際には、横方向の指の動きを求められる。例えば、ユーザは、「民放」から「CS」に切り替えたい場合に、第1表示/光センサ部300Aに表示された画像を上面から親指20で、下面から人差し指21で挟持し、親指20と人差し指21をそれぞれ同じ方向(図面横方向において、右方向)へ移動させる。これにより、第1表示/光センサ部300Aに「CS」の放送が表示される。また、「民放」から「BS」に切り替えたい場合には、「民放」から「CS」に切り替えた時とは逆の指の動きを行う。これにより、第1表示/光センサ部300Aに「BS」の放送が表示される。つまり、図27に図示する、横方向に並んだ「CS/民放/BS」という項目を切り替える場合には、指を横方向に移動させることにより、所望の放送電波を選択することが可能となる。
【0358】
そして、ユーザは、視聴したいチャンネルを切り替える際には、縦方向の指の動きを求められる。例えば、ユーザは、「CH01」から「CH02」に切り替えたい場合に、第1表示/光センサ部300Aに表示された画像を上面から親指20で、下面から人差し指21で挟持し、親指20と人差し指21をそれぞれ反対方向(図面横方向において、親指20を上方向、人差し指21を下方向)へ移動させる。これにより、第1表示/光センサ部300Aに「CH02」の放送が表示される。また、「CH02」から「CH01」に切り替えたい場合には、「CH01」から「CH02」に切り替えた時とは逆の指の動きを行う。これにより、第1表示/光センサ部300Aに「CH01」の放送が表示される。つまり、図27に図示する、縦方向に並んだ「チャンネル」を切り替える場合には、指を縦方向に指を移動することにより、所望のチャンネルに切り替えることができる。
【0359】
このように、各機能(TEL/TV/WEB)ごとに、あるいは、所望の機能を選択した状態での表示画面ごとに、予め設定された指−命令対応情報を参照することにより、指の動き(より正確には、表示/光センサ部300が検知する指の像の動き)と、それに対応付けられた動作が実行される。これにより、ユーザは、所望の画面を第1表示/光センサ部300Aに表示させることができる。そして図25、図26を参照して説明したように、図9〜図19で説明した種々の動作を適宜組み合わせることにより、ユーザは、所望の動作を実現することができる。
【0360】
なお、発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【0361】
また、本発明に係る入力装置を備えた携帯電話等の情報端末装置も、本発明の技術的範囲に含まれる。
【0362】
(プログラム、コンピュータ読み取り可能な記録媒体)
最後に、本実施形態に係るデータ表示/センサ装置100、110、120、130の各ブロック、特に入力インターフェース制御部805の検知判定部810、重畳判定部820、入力検出部830、動作制御部840、アプリケーション実行部850、及び画像表示制御部860、並びにデータ表示/センサ装置110の面積算出判定部870は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
【0363】
すなわち、本実施形態に係るデータ表示/センサ装置100、110、120、130は、各機能を実現する制御プログラムの命令を実行するCPU(Central Processing Unit)、上記プログラムを格納したROM(Read Only Memory)、上記プログラムを展開するRAM(Random Access Memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアであるデータ表示/センサ装置100、110、120、130の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、上記データ表示/センサ装置100に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
【0364】
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
【0365】
また、本実施形態に係るデータ表示/センサ装置100、110、120、130を通信ネットワークと接続可能に構成し、上記プログラムコードを、通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(Virtual Private Network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
【0366】
本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【産業上の利用可能性】
【0367】
本発明は、二つの入力面から入力する携帯電話機、PDAなどのモバイル機器(携帯端末)に適用できる。特に、像検知装置を備えた携帯端末に好適である。
【図面の簡単な説明】
【0368】
【図1】本発明の一実施形態に係るデータ表示/センサ装置の要部構成を表すブロック図である。
【図2】本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルの断面を模式的に示す図である。
【図3】(a)は、本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルにて反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。(b)は、本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルにて影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。
【図4】本発明の一実施形態に係るデータ表示/センサ装置の要部構成を示すブロック図である。
【図5】本発明の一実施形態に係るデータ表示/センサ装置で用いられるコマンドのフレーム構造の一例を模式的に示す図である。
【図6】図5に示したコマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
【図7】(a)は、本発明の一実施形態に係るデータ表示/センサ装置にて、対象物がセンサ内蔵液晶パネル上に置かれていないときに、センサ内蔵液晶パネル全体をスキャンした結果として得られる画像データである。(b)は、本発明の一実施形態に係るデータ表示/センサ装置にて、ユーザが指でセンサ内蔵液晶パネルをタッチしているときに、スキャンした結果として得られる画像データである。
【図8】本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルの構成およびその周辺回路の構成を示すブロック図である。
【図9】(a)は、表示/光センサ部に矩形の画像を表示し、かつ、その画像を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ反対方向へ移動させて、矩形の画像が扇状に拡がった状態を表示させた図である。
【図10】(a)は、表示/光センサ部に円形の画像を表示し、かつ、その画像を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ反対方向へ移動させて、より大きな寸法の円形に拡大した画像を表示させた図である。
【図11】(a)は、表示/光センサ部に略正方形の画像を表示し、かつ、その画像を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ同じ方向へ移動させて、その画像を画面の外側へ移動させつつある状態を示す図である。
【図12】(a)は、図面横方向をパイプ軸(管長)方向とするパイプ形状の画像を表示/光センサ部に表示し、かつ、その画像を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ反対方向へ移動させて、パイプ軸に直交する方向にその画像を回転させている様子を示す図である。
【図13】(a)は、表示/光センサ部の画面上端付近にいくつかの画像を図面横方向に一列に並べて表示し、かつ、そのうちの一つの画像を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ同じ方向(図面下方向)へ移動させて、その画像を下側に引き出して帯状の画像を表示した図である。
【図14】(a)は、表示/光センサ部に矩形の画像を表示し、かつ、表示/光センサ部の表示画面を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ同じ方向へ移動させて、その画像を2つの画像に分割した様子を示す図である。
【図15】(a)は、表示/光センサ部に複数の画像を円形に配置して表示し、かつ、円の中心付近に上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指を動かさずに、人差し指を図面下側へ移動させて、複数の画像を円周に沿って回転させている様子を示す図である。
【図16】(a)は、表示/光センサ部に、円形の画像と矩形の画像とが結合してなる画像を表示し、かつ、円形の画像の中心付近を上面から親指で、矩形の画像を下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指を動かさずに、人差し指を図面左側へ移動させて、あたかも円形の画像の中心点付近を支点とした振り子のように、矩形の画像を左側へ移動させた様子を示す図である。
【図17】(a)は、表示/光センサ部において、ある画像を表示し、かつ、その画像を、上面から親指で、下面から人差し指で、それぞれタッチしている様子を示す図であり、(b)は、親指と人差し指をそれぞれ反対方向へ移動させて、図面下側から別の画像を出現させ、二つの画像を並べて表示した様子を示し、(c)は、さらに親指と人差し指をそれぞれ反対方向へ移動させて、画面に表示される画像を切り替えた様子を示す図である。
【図18】(a)は、表示/光センサ部に画像が表示された様子を示す図であり、(b)は、表裏両面からほぼ同時に親指と人差し指とで当該画像をタッチして、当該画像が「選択」された状態となった様子を示す図である。
【図19】(a)は、表示/光センサ部において、ある画像を表示し、かつ、その画像を、上面から人差し指で、下面から中指で、それぞれタッチしている様子を示す図であり、(b)は、人差し指と中指をそれぞれ同じ方向(図面横方向において、右方向)へ移動させて、別の画像への切り替えを徐々に行う様子を示し、(c)は、さらに人差し指と中指をそれぞれ同じ方向へ移動させて、画面に表示される画像を切り替えた様子を示す図である。
【図20】本発明の一実施形態に係るデータ表示/センサ装置の処理の流れを表すフローチャートである。
【図21】本発明の他の実施形態に係るデータ表示/センサ装置の要部構成を表すブロック図である。
【図22】本発明の他の実施形態に係るデータ表示/センサ装置の処理の流れを表すフローチャートである。
【図23】(a)〜(c)は、表示/光センサ部に画像が表示されていない状態で、背景の色彩が段階的に変化していく様子を示す図である。
【図24】本発明のさらに他の実施形態に係るデータ表示/センサ装置の要部構成を表すブロック図である。
【図25】本実施の形態に係るデータ表示/センサ装置の実施例を示す図であり、(a)は、表示/光センサ部に「メニュー画面(TEL/TV/WEB)」が表示された様子を示す。(b)は、メニュー画面から「TV」を示す画像が挟持されて、引き出された様子を示す図である。(c)は、TVメニューから「民放」が選択された様子を示す図である。(d)は、民放「CH01」が視聴されている時の様子を示す図である。
【図26】本実施の形態に係るデータ表示/センサ装置の実施例を示す図であり、(a)は、民放のチャンネルを「CH01」から「CH02」に切り替えている様子を示す図である。(b)は、「CH02」が視聴されている時の様子を示す図である。(c)は、「民放 CH02」から「CS CH02」に切り替えている様子を示す図である。(d)は、「CS CH02」が視聴されている時の様子を示す図である。
【図27】TVメニューにおける、CS、民放、及びBS放送、及びそれら各放送電波におけるチャンネル選択の概念図である。
【図28】図10に係る円形の画像26a、26bについての画像情報を説明するための図である。
【図29】図11に係る矩形の画像27aについての画像情報を説明するための図である。
【図30】指−命令対応情報の一例を示すための図である。
【符号の説明】
【0369】
100、110、120、130 データ表示/センサ装置(入力装置)
170 信号生成領域(所定の領域)
800 主制御部
805 入力インターフェース制御部
810 検知判定部(検知判定手段)
820 重畳判定部(重畳判定手段)
830 入力検出部(入力検出手段)
840 動作制御部(動作制御手段)
850 アプリケーション実行部(動作実行装置)
860 画像表示制御部(画像表示制御手段)
870 面積算出判定部
901 記憶部
【特許請求の範囲】
【請求項1】
近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置であって、
前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定手段と、
前記検知判定手段が、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出手段と、を備えることを特徴とする入力装置。
【請求項2】
前記入力信号と、動作実行装置に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、前記入力信号に対応する命令を、前記動作実行装置に送信する動作制御手段を備えることを特徴とする請求項1に記載の入力装置。
【請求項3】
前記入力検出手段は、前記表裏両面の面状部材が、該表裏両面の面状部材上の所定の領域において指の像を検知した場合に、前記入力信号を生成することを特徴とする請求項1又は2に記載の入力装置。
【請求項4】
前記表裏両面の面状部材において、前記所定の領域に画像を表示させる画像表示制御手段を備え、
前記入力検出手段は、前記画像に対応付けられた前記入力信号を生成することを特徴とする請求項3に記載の入力装置。
【請求項5】
前記画像表示制御手段は、前記動作実行装置が実行した前記所定の動作の結果に基づく画像を、前記面状部材に表示させることを特徴とする請求項4に記載の入力装置。
【請求項6】
近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置の制御方法であって、
前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定ステップと、
前記検知判定ステップによって、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出ステップと、を含むことを特徴とする入力装置の制御方法。
【請求項7】
近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置の制御プログラムであって、
前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定ステップと、
前記検知判定ステップによって、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出ステップと、をコンピュータに実行させるための入力装置の制御プログラム。
【請求項8】
請求項7に記載の入力装置の制御プログラムを記録したコンピュータ読取可能な記録媒体。
【請求項9】
請求項1から5のいずれか1項に記載の入力装置を備えた情報端末装置。
【請求項1】
近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置であって、
前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定手段と、
前記検知判定手段が、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出手段と、を備えることを特徴とする入力装置。
【請求項2】
前記入力信号と、動作実行装置に所定の動作を実行させる命令とが対応付けられた、指−命令対応情報に基づいて、前記入力信号に対応する命令を、前記動作実行装置に送信する動作制御手段を備えることを特徴とする請求項1に記載の入力装置。
【請求項3】
前記入力検出手段は、前記表裏両面の面状部材が、該表裏両面の面状部材上の所定の領域において指の像を検知した場合に、前記入力信号を生成することを特徴とする請求項1又は2に記載の入力装置。
【請求項4】
前記表裏両面の面状部材において、前記所定の領域に画像を表示させる画像表示制御手段を備え、
前記入力検出手段は、前記画像に対応付けられた前記入力信号を生成することを特徴とする請求項3に記載の入力装置。
【請求項5】
前記画像表示制御手段は、前記動作実行装置が実行した前記所定の動作の結果に基づく画像を、前記面状部材に表示させることを特徴とする請求項4に記載の入力装置。
【請求項6】
近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置の制御方法であって、
前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定ステップと、
前記検知判定ステップによって、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出ステップと、を含むことを特徴とする入力装置の制御方法。
【請求項7】
近傍の像を検知する面状部材が、表裏両面にそれぞれ配設された板状の入力装置の制御プログラムであって、
前記表裏両面の面状部材が、共に指の像を検知したか否かを判定する検知判定ステップと、
前記検知判定ステップによって、前記表裏両面の面状部材が共に指の像を検知したと判定した場合に、前記表裏両面の面状部材がそれぞれ検知した指の像の動きを検出して、該指の像の動きに対応付けられた入力信号を生成する入力検出ステップと、をコンピュータに実行させるための入力装置の制御プログラム。
【請求項8】
請求項7に記載の入力装置の制御プログラムを記録したコンピュータ読取可能な記録媒体。
【請求項9】
請求項1から5のいずれか1項に記載の入力装置を備えた情報端末装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【公開番号】特開2010−146506(P2010−146506A)
【公開日】平成22年7月1日(2010.7.1)
【国際特許分類】
【出願番号】特願2008−326274(P2008−326274)
【出願日】平成20年12月22日(2008.12.22)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
【公開日】平成22年7月1日(2010.7.1)
【国際特許分類】
【出願日】平成20年12月22日(2008.12.22)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
[ Back to top ]