説明

情報処理装置

【課題】マルチディスプレイ環境のような広い画面表示領域を使用しても、ポインティングデバイスの操作性を向上させることができる情報処理装置を提供すること。
【解決手段】1つ以上のディスプレイおよび前記ディスプレイの画面内の情報を操作するためのポインティングデバイスを有し、ポインティングデバイスの操作に応じて前記画面内に表示されるポインタを移動制御する情報処理装置において、画面を区画した画面表示領域毎に対応してマウスポインタを画面表示領域内に表示させるポインタ表示手段120と、ポインタ表示手段120によって画面表示領域毎に表示されているマウスポインタのうち、ユーザの使用状況に応じて適切とされるマウスポインタを選択するポインタ選択手段150と、を備えるように構成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画面内のポインタを介してユーザの指示を受付ける情報処理装置に関する。
【背景技術】
【0002】
近年、多量な情報メディアを視聴する機会が増加していることやコンピュータのグラフィック性能の向上により、複数台のディスプレイを同時に使用して仮想的に広い画面領域を有するマルチディスプレイ環境でコンピュータを利用するユーザが増えている。
【0003】
マルチディスプレイ環境では、広い画面領域を自由に利用できるために一度に多量な情報メディアをユーザが視聴できるが、広い画面領域をマウス等のポインティングデバイスで操作することが煩雑となる。例えば、ユーザが一度マウスポインタの位置を忘れてしまうと広い画面領域内でマウスポインタの位置を探すのが困難になることなどが挙げられる。
【0004】
そこで、従来、この種のコンピュータとしては、マルチディスプレイ環境でディスプレイ間のマウス移動の操作性を向上させるために、2つのディスプレイ間でマウスの移動が可能な領域をそれぞれのディスプレイ上に表示させることでユーザに移動可能領域を通知しているため、ユーザが移動可能な箇所を識別することができ、マウスポインタを両画面間で相互に移動させやすくしたものが知られている(例えば、特許文献1参照)。
【0005】
また、この種のコンピュータとしては、ペン入力可能なマルチディスプレイ環境で、ペン入力によるディスプレイ間を横切るドラッグ操作が実行できるように、ドラッグ操作中にディスプレイの端でペン入力が中断されたことを一定時間記録しておき、一定時間内に隣接するディスプレイにペン入力がされた場合にはドラッグ操作が再開されたと判定するものが知られている(例えば、特許文献2参照)。
【0006】
また、この種のコンピュータとしては、マルチディスプレイ環境におけるメインディスプレイとサブディスプレイでは解像度等の性能の違いが生じる場合、マウスポインタで指定されたアクティブウィンドウがメインディスプレイではない場合は、サブディスプレイの画面内容とメインディスプレイの画面内容とを交換して、それぞれの表示装置に表示させることで、常にアクティブウィンドウをメインディスプレイにすることができ、ユーザの作業効率が改善されるものが知られている(例えば、特許文献3参照)。
【0007】
また、この種のコンピュータとしては、マルチディスプレイや高解像度の大型ディスプレイではマウスポインタを見失って探すことが困難になるため、所定の動作を行うとマウスポインタの表示方法やディスプレイ上のウィンドウ情報等を変更することでマウスポインタの位置をユーザに通知するものが知られている(例えば、特許文献4参照)。
【0008】
また、この種のコンピュータとしては、携帯端末型のマルチディスプレイシステムにおいて、ユーザの視線を検出して、ユーザが使用していないディスプレイの輝度を低下させることで省電力にするものが知られている(例えば、特許文献5参照)。
【0009】
また、この種のコンピュータとしては、複数のパーソナルコンピュータに1つのポインティングデバイスを接続し、それぞれのパーソナルコンピュータに接続されているディスプレイの画面制御を1つのポインティングデバイスで操作可能にするマルチディスプレイシステム環境を構築するものが知られている(例えば、特許文献6参照)。
【0010】
また、この種のコンピュータとしては、ウィンドウ上をマウスを右クリックした状態で表示される操作メニューの「ウィンドウ登録」項目を用いてウィンドウ識別子を登録しておき、マウスからアクティブウィンドウの切り替えを要求するイベントが入力された場合、登録されている複数のウィンドウ識別子それぞれに対応するウィンドウの間で、アクティブウィンドウを次から次に切り替える処理を実行することで、多数のウィンドウが表示されている場合にユーザが切り替え操作を何度も繰り返す必要がなく、目的のウィンドウを容易に切り替えることができるものが知られている(例えば、特許文献7参照)。
【特許文献1】特開2006−59251号公報
【特許文献2】特開2005−346583号公報
【特許文献3】特開2004−29046号公報
【特許文献4】特開2002−215284号公報
【特許文献5】特開平7−146845号公報
【特許文献6】特開2002−55808号公報
【特許文献7】特開2006−330912号公報
【発明の開示】
【発明が解決しようとする課題】
【0011】
しかしながら、上述した特許文献に示した情報処理装置では、マルチディスプレイ環境において、ディスプレイ間で相互にマウスポインタを移動可能な箇所を識別したり、ディスプレイ間を横切るドラッグ操作が実行できたり、マウスポインタを見失わないようにマウスポインタの表示方法を目立つよう変更したりすることができるが、広い画面表示領域の端から端までマウスポインタを移動させる際にもユーザがマウスを大きく動かさなければならないなど、広い画面表示領域に対応したマウスの操作性の向上を考慮していないという問題がある。
【0012】
そこで、本発明は、マルチディスプレイ環境のような広い画面表示領域を使用しても、ポインティングデバイスの操作性を向上させることができる情報処理装置を提供することを目的としている。
【課題を解決するための手段】
【0013】
本発明の情報処理装置は、1つ以上のディスプレイおよび前記ディスプレイの画面内の情報を操作するためのポインティングデバイスを有し、前記ポインティングデバイスの操作に応じて前記画面内に表示されるポインタを移動制御する情報処理装置において、前記画面を区画した画面表示領域毎に対応してポインタを前記画面表示領域内に表示させるポインタ表示手段と、前記ポインタ表示手段によって前記画面表示領域毎に表示されているポインタのうち、ユーザの使用状況に応じて適切とされるポインタを選択するポインタ選択手段と、を備えた構成を有している。
この構成により、画面表示領域毎に対応して1つのポインタを画面表示領域内に表示させ、画面表示領域毎に表示されているポインタのうち、ユーザの使用状況に応じて適切とされるポインタを選択し、選択されたポインタをユーザが操作することで、マルチディスプレイ環境のような広い画面表示領域を使用する際、ユーザがポインティングデバイスを大きく動かす必要もなくなり、ポインティングデバイスの操作性を向上させることができる。
【0014】
また、本発明の情報処理装置は、使用している前記ディスプレイを認識する画面情報認識手段を備え、前記ポインタ表示手段が、前記画面情報認識手段で認識した前記ディスプレイの画面を前記画面表示領域とし、前記ディスプレイの画面毎に対応して前記ポインタを表示する構成を有している。
この構成により、認識した画面毎に対応してポインタを表示するため、簡易にポインタを表示することができる。
【0015】
また、本発明の情報処理装置は、前記ディスプレイの画面内に表示されるアイコンまたはアプリケーションウィンドウを含むユーザインタフェース領域を認識するユーザインタフェース領域認識手段を備え、前記ポインタ選択手段が、前記ポインタ表示手段によって前記画面表示領域毎に表示されているポインタのうち、前記ユーザインタフェース領域にあるポインタを選択する構成を有している。
この構成により、画面表示領域毎に表示されているポインタのうち、ユーザインタフェース領域にあるポインタを選択するため、ユーザの使用状況に応じた適切なポインタを選択することができる。
【0016】
また、本発明の情報処理装置は、前記ディスプレイの画面内のユーザインタフェース領域それぞれが、各前記画面内で同じ表示位置にある場合には、前記画面内で互いに異なる表示位置になるように変更するユーザインタフェース変更手段を備えた構成を有している。
この構成により、ユーザインタフェース領域が各画面内で同じ表示位置にある場合には、画面内で互いに異なる表示位置になるように変更するため、ポインタの選択精度を向上させることができる。
【0017】
また、本発明の情報処理装置は、前記ユーザの視線方向を計測する視線方向計測手段を備え、前記ポインタ選択手段が、前記視線方向計測手段によって計測された視線方向情報を参照して前記ユーザの使用状況に応じて適切とされるポインタを選択する構成を有している。
この構成により、視線方向情報を参照してユーザの使用状況に応じて適切とされるポインタを選択するため、ユーザの使用状況に応じた適切なポインタを選択することができ、ポインタの選択精度を高め、ポインタの選択時間を早めることができる。
【0018】
また、本発明の情報処理装置は、前記ポインタ選択手段が、前記視線方向計測手段によって計測された視線方向情報および前記ポインタの画面内の位置情報を参照して前記ユーザの使用状況に応じて適切とされるポインタを選択する構成を有している。
この構成により、視線方向情報およびポインタの画面内の位置情報を参照してユーザの使用状況に応じて適切とされるポインタを選択するため、視線方向情報でポインタの選択が出来ない場合、ポインタの位置情報でポインタを選択することができる。
【0019】
また、本発明の情報処理装置は、前記ポインタ表示手段で表示されたポインタが指示しているときのタスク処理を実行する指示タスク実行手段と、前記指示タスク実行手段で実行したタスク情報を記録するタスク情報記録手段と、前記ポインタ選択手段によってポインタが選択された場合、前記ポインタ選択手段が選択しなかったポインタが指示したタスク処理のタスク情報を実行前の状態に戻すタスクロールバック手段と、を備えた構成を有している。
この構成により、ポインタが指示したタスク処理を実行すると共に、実行したタスク情報を記録し、ポインタが選択された場合、選択しなかったポインタが指示したタスク処理のタスク情報を実行前の状態に戻すため、ポインタの選択前でもポインタにより指示したタスク処理が実行でき、選択されたポインタのタスク処理を迅速に実行できる。
【0020】
また、本発明の情報処理装置は、前記ポインタ選択手段によって選択されたポインタの再選択の指示を受付けたときに前記ポインタ選択手段に再度選択させる再要求指示手段を備えた構成を有している。
この構成により、ポインタの再選択の指示を受付けたときにポインタを再度選択させるため、ユーザの指示によってマウスポインタの選択結果を変更することができる。
【0021】
また、本発明の情報処理装置は、前記マウスポインタ表示手段は、前記ポインタ選択手段がポインタを選択したとき、前記ポインタ選択手段が選択したポインタと選択しなかったポインタとを区別して表示する構成を有している。
この構成により、選択したポインタと選択しなかったポインタとを区別して表示するため、選択されたマウスポインタをユーザが簡易に視認可能にすることができる。
【0022】
また、本発明の情報処理装置は、前記ユーザが前記アイコンまたは前記アプリケーションウィンドウを前記ポインタで操作した履歴を含む操作履歴情報を取得する操作履歴取得手段を備え、前記ポインタ選択手段は、前記ユーザインタフェース領域にあるポインタの選択候補が複数ある場合、前記操作履歴情報を参照して最近操作した前記アイコンまたは前記アプリケーションウィンドウに対応する前記ユーザインタフェース領域を特定し、特定した前記ユーザインタフェース領域にあるポインタを選択する構成を有している。
この構成により、ユーザインタフェース領域にあるポインタの選択候補が複数ある場合、操作履歴情報を参照して最近操作したアイコンまたはアプリケーションウィンドウに対応するユーザインタフェース領域を特定し、特定したユーザインタフェース領域にあるポインタを選択するため、ユーザの使用状況に応じた適切なポインタを選択することができる。
【発明の効果】
【0023】
以上のように本発明は、新たなデバイスを追加することなくマルチディスプレイ環境におけるマウスポインタの操作性を向上させることができる情報処理装置を提供するものである。
【発明を実施するための最良の形態】
【0024】
以下、本発明の実施の形態について、図面を参照して説明する。
図1は、本発明の実施の形態に係るマルチディスプレイの利用形態を示す図である。図1では、3台のディスプレイ101が1台の情報処理装置100に接続されている。情報を操作するデバイスとしては、キーボード103とマウス102が情報処理装置100に接続されている。3台のディスプレイ101の画面は、情報処理装置100によって仮想的に1つの画面として認識されており、1個のマウス102により全てのディスプレイ101の画面を操作できるようになっている。以下、ディスプレイ101の個々を区別する場合は、ディスプレイ101A、ディスプレイ101B、ディスプレイ101Cと記載する。
【0025】
図2は、本発明の実施の形態に係る情報処理装置のハードウェア構成図を示す。情報処理装置100は、各種制御及び処理を行うCPU(Central Processing Unit)104と、SDRAM(Synchronous Dynamic Random Access Memory)105と、HDD(Hard Disk Drive)106と、複数のディスプレイ101を情報処理装置100に接続するビデオカードなどの表示インターフェース(以下、インターフェースをI/Fと略す)107と、ディスプレイ101の画面を操作するマウス102や文字入力に使用するキーボード103などのポインティングデバイスを情報処理装置100に接続する入力I/F108とを、バスを介して接続することにより構成される。その他、情報処理装置100は、RAMなどを有する。
【0026】
SDRAM105は、CPU104の作業領域として利用されるとともに、本発明における情報処理方法の各工程を実行するための処理プログラムや、OS(オペレーティングシステム)などのプログラムの固定情報の記録領域として利用される。処理プログラムは、HDD106に一旦保存された後に必要なときにSDRAM105にロードされて実行される。
【0027】
(本発明の第1の実施の形態)
図3は、本発明の第1の実施の形態に係る情報処理装置の機能ブロック図である。情報処理装置100は、画面情報認識手段110と、ポインタ表示手段120と、UI領域認識手段130と、操作履歴取得手段140と、ポインタ選択手段150から構成される。これらの手段は、CPU104によって実行されるプログラムなどで実現される。
【0028】
画面情報認識手段110は、情報処理装置100に接続されたディスプレイの台数を認識するようになっている。例えば、ディスプレイ101を接続した際に情報処理装置100のOSは、接続されたディスプレイ101に関するディスプレイ情報を入手し、画面情報認識手段110は、OS側のディスプレイ情報を取得することでディスプレイ101の台数やディスプレイの画面サイズなどの情報を取得するようになっている。
【0029】
ポインタ表示手段120は、画面情報認識手段110で認識したディスプレイ101の画面毎にマウスポインタをディスプレイ101の画面上に表示させるようになっている。例えば、ディスプレイ101の数が3台であった場合は、同時に3つのマウスポインタが表示されてマウス102の操作で移動する。マウスポインタの表示例を図4に示す。
【0030】
図4では、マウスポインタ10は、情報処理装置100の起動直後、各ディスプレイ101の同じ位置に1つずつ表示される。以下、マウスポインタ10の個々を区別する場合は、マウスポインタ10A、マウスポインタ10B、マウスポインタ10Cと記載する。また、図4では、ディスプレイ101には、アプリケーションウィンドウ12やアイコン11が表示されている。
【0031】
図4では、ディスプレイ101の画面サイズ及び解像度が同一である例を示しているのだが、ディスプレイ101の性能が異なるものを使用しても良い。マウスポインタ10を異なる解像度のディスプレイで同じ位置に表示するためには、マウスポインタ10の位置情報を、基準となるディスプレイの画面サイズに対する比率情報に置き換えても良い。また、解像度と画面サイズが大きいディスプレイ101が存在する場合には、解像度と画面サイズが大きいディスプレイ101の1つの画面を複数の領域に分割して、分割した領域毎にマウスポインタ10を1つずつ表示しても良い。
【0032】
UI領域認識手段130は、各ディスプレイ101の画面に表示されるマウスポインタ10で指示可能なユーザインタフェース領域(アプリケーションウィンドウ12やアイコン11等)の情報(以下、画面UI情報という)を認識する。画面UI情報は、情報処理装置100のOS側で管理されている。UI領域認識手段130は、OS側で管理されている画面UI情報を取得することでマウスポインタ10がUI領域にあるか否かを認識できる。
【0033】
操作履歴取得手段140は、ユーザがアイコン11またはアプリケーションウィンドウ12をマウス102で操作した際の操作履歴情報を取得するようになっている。操作履歴情報としては、マウス102によるアイコン11またはアプリケーションウィンドウ12の移動操作やクリック操作、ドラッグ操作などの情報が挙げられる。これらの操作履歴情報は、情報処理装置100のRAMなどに記録されている。
【0034】
ポインタ選択手段150は、UI領域認識手段130で認識した画面UI情報と、操作履歴取得手段140で記録した操作履歴情報とを参照して、ポインタ表示手段120で表示されている複数個のマウスポインタから、ユーザの使用状況に応じて適切とされるマウスポインタを選択するようになっている。
【0035】
図5に示すように、マウスポインタ10の選択処理は、ユーザがマウス102の左クリックを押した際に、ポインタ選択手段150は、各ディスプレイ101に表示されている画面UI情報を参照して、左クリックしたマウスポインタ10の位置がユーザインタフェース領域であるかを判定し、ユーザインタフェース領域にあるマウスポインタ10を選択する。例えば、ポインタ選択手段150は、図5のマウスポインタ10Cがディスプレイ101Cのアプリケーションウィンドウ12にあるため、ユーザの使用状況に応じて適切とされるマウスポインタとしてマウスポインタ10Cを選択する。
【0036】
指示可能な領域にあるマウスポインタが複数ある場合には、ポインタ選択手段150は、予め定めた優先順位に従ってマウスポインタを選択する。優先順位の一例としては、アイコンとアプリケーションウィンドウとではアイコン領域にあるマウスポインタを優先することや、操作履歴情報からユーザが最近操作したアプリケーションウィンドウやアイコンを特定し、特定したものに対応するユーザインタフェース領域にあるマウスポインタを優先することが挙げられる。
【0037】
なお、ポインタ表示手段120は、ポインタ選択手段150がマウスポインタを選択したとき、ポインタ選択手段150が選択したマウスポインタと選択しなかったマウスポインタとを区別して表示するようにしてもよい。例えば、ポインタ表示手段120は、選択されたマウスポインタを拡大表示又は輝度を上げる等を行ってマウスポインタが決定されたことをユーザへ通知してもよい。また、ポインタ表示手段120は、選択されたマウスポインタと選択されなかったマウスポインタの表示色を常に別色にして選択されたマウスポインタをユーザへ通知しても良い。
【0038】
図6は、本発明の第1の実施の形態に係る情報処理装置の動作を表すフローチャートである。
【0039】
ステップS1において、画面情報認識手段110は、情報処理装置100に接続された複数台のディスプレイ101の台数を認識する。図1の例では、複数台のディスプレイが1台の情報処理装置100に接続されたマルチディスプレイ環境の例を示したが、複数台のディスプレイが複数台の情報処理装置100に接続されたマルチディスプレイ環境を使用しても良い。
【0040】
ステップS2において、ポインタ表示手段120は、ステップS1で認識した複数のディスプレイ101毎に対応してマウスポインタを表示する。なお、ポインタ表示手段120は、ディスプレイのサイズが大きいものには、1台のディスプレイに複数個のマウスポインタを表示するように変更しても良い。
【0041】
ステップS3において、UI領域認識手段130は、各ディスプレイ101に表示されているマウスポインタで入力操作可能なユーザインタフェース領域の位置情報を取得する。ステップS4において、操作履歴取得手段140は、ユーザが操作した操作履歴情報を取得する。
【0042】
ステップS5において、ポインタ選択手段150は、ステップS3で取得したユーザインタフェース領域の位置情報からユーザインタフェース領域内にあるマウスを選択し、複数のマウスが該当する場合、操作履歴情報を参照してユーザの使用状況に応じて適切とされるマウスポインタを選択する。
【0043】
ステップS6において、ポインタ表示手段120は、ステップS5で選択されたマウスポインタと選択されなかったマウスポインタとを区別して(例えば色や大きさで区別するなど)ユーザにマウスポインタが選択されたことを通知する。
【0044】
以上説明したように、本発明の第1の実施の形態に係る情報処理装置は、マルチディスプレイ環境のような広い画面領域を使用してもディスプレイの画面使用数に対応してマウスポインタを表示しユーザが使用するマウスポインタを自動的に選択処理することでマルチディスプレイ環境のポインティングデバイスを簡易に操作できる。
【0045】
ここで、マウスのクリック操作情報以外にもマウスのドラッグ操作情報を利用してマウスポインタの選択処理をしても良い。
【0046】
図7に示すように、マウス102のドラッグ操作の終了時に、クリック操作時の説明と同様に、ポインタ選択手段150は、各マウスポインタ10の位置がユーザインタフェース領域であるかを判定することでユーザの使用状況に応じて適切とされるマウスポインタを選択しても良いし、ドラッグ操作による移動量情報を参照してマウスポインタ10Cのように画面領域外に移動してしまうマウスポインタ10Cを除外しても良い。
【0047】
(本発明の第2の実施の形態)
図8は、本発明の第2の実施の形態に係る情報処理装置の機能ブロック図である。なお、本発明の第2の実施の形態に係る機能ブロックを構成する機能ブロックのうち、本発明の第1の実施の形態に係る機能ブロックを構成する機能ブロックと同じものには、同じ符号を付し、それぞれの説明を省略する。
【0048】
また、図8の情報処理装置100の機能ブロックに再要求指示手段160を追加することで、ポインタ選択手段150がユーザの意図に反するマウスポインタを選択してしまった場合に、ユーザの指示によって再度マウスポインタの選択処理を実行させてもよい。再要求指示手段160は、マウス102に附属しているスクロールボタンをユーザが押した際に、再要求指示手段160は、ポインタ選択手段150に選択結果がユーザの意図に反していることを伝え、ポインタ選択手段150は、前回の選択時の優先順位を落とすなどしてマウスポインタを再度選択する。
【0049】
以上説明したように、本発明の第2の実施の形態に係る情報処理装置は、ユーザの意図に反するマウスポインタを選択してしまっても、マウス102に附属しているスクロールボタンをユーザが押した際に、マウスポインタを再度選択することができる。
【0050】
(本発明の第3の実施の形態)
図9は、本発明の第3の実施の形態に係る情報処理装置の機能ブロック図である。なお、本発明の第3の実施の形態に係る機能ブロックを構成する機能ブロックのうち、本発明の第1の実施の形態に係る機能ブロックを構成する機能ブロックと同じものには、同じ符号を付し、それぞれの説明を省略する。
【0051】
図9に示すように、ポインタ選択手段150の選択処理精度を向上させるためには、図9の情報処理装置100の機能ブロックにUI領域変更手段170を追加する。UI領域変更手段170は、ユーザインタフェース領域が各ディスプレイの画面内で同じ表示位置にある場合には、各ディスプレイの画面に表示されるユーザインタフェース領域の位置を互いに異なる位置に変更するようになっている。
【0052】
例えば、図10(A)に示すように、ディスプレイ101Bに表示されているアプリケーションウィンドウ12とディスプレイ101Cに表示されているアプリケーションウィンドウ12の位置が同じ位置に表示されているが、UI領域認識手段130は、図10(B)に示すように、各ディスプレイ101のユーザインタフェース領域の情報を参照して、ディスプレイ101Bおよびディスプレイ101Cの画面に表示されるアプリケーションウィンドウ12の位置を互いに異なる位置に変更して移動させることによって、ディスプレイ101同士で同じ領域にユーザインタフェース領域が重複しないようにする。
【0053】
以上説明したように、本発明の第3の実施の形態に係る情報処理装置は、ディスプレイ101同士で同じ領域にユーザインタフェース領域が重複しないようにするため、ポインタ選択手段150の選択処理精度を向上させることができる。
【0054】
(本発明の第4の実施の形態)
図11は、本発明の第4の実施の形態に係る情報処理装置の機能ブロック図である。なお、本発明の第4の実施の形態に係る機能ブロックを構成する機能ブロックのうち、本発明の第1の実施の形態に係る機能ブロックを構成する機能ブロックと同じものには、同じ符号を付し、それぞれの説明を省略する。
【0055】
図11の情報処理装置100は、マウスポインタの選択処理を行っている最中では複数個のマウスポインタが指示しているアイコンまたはアプリケーションウィンドウなどに対応するタスク処理を同時に実行させ、マウスポインタを選択した時点で、選択しなかったマウスポインタが実行していたタスク処理を実行前の状態に戻す。この機能を実現するために図11の情報処理装置100の機能ブロックに指示タスク実行手段180と、タスク情報記録手段181と、タスクロールバック手段182を追加する。
【0056】
指示タスク実行手段180は、複数個のマウスポインタが指示しているときのタスク処理を全て実行する手段であり、タスク情報記録手段181は、指示タスク実行手段180で実行されたタスク情報を記録するようになっている。
【0057】
タスクスクロールバック手段182は、ポインタ選択手段150が操作履歴情報を継続的に評価することでマウスポインタを選択した際に、タスク情報記録手段181で記録されたタスク情報を参照して、選択されなかったマウスポインタが実行したタスク処理を実行前の状態にロールバックするようになっている。
【0058】
図12は、本発明の第4の実施の形態に係る情報処理装置の動作を表すフローチャートである。図12のステップS1〜S4、ステップS6は、図6の同じ符号の処理と同様である。
【0059】
ステップS15において、指示タスク実行手段180は、左クリックなどで複数個のマウスポインタが指示しているときのタスク処理を全て実行し、タスク情報記録手段181は、指示タスク実行手段180で実行したタスクのタスク情報を記録する。
【0060】
ステップS16において、ポインタ選択手段150が、ステップS3で取得したユーザインタフェース領域の位置情報、ステップS4で取得した継続的な操作履歴情報を参照して、ユーザの使用状況に応じて適切とされるマウスポインタを選択するが、マウスポインタの選択処理時に操作履歴情報の必要な情報量が蓄積されていなければステップS3に戻り、蓄積されていればマウスポインタの選択処理を行いステップS17に進む。
【0061】
ステップS17において、タスクスクロールバック手段182は、ステップS15で記録したタスク情報を参照して、ステップS16で選択しなかったマウスポインタが実行したタスク処理を実行前の状態に戻す。
【0062】
以上説明したように、本発明の第4の実施の形態に係る情報処理装置は、マウスポインタの選択処理前でもマウスポインタにより指示したタスク処理が実行できる情報操作環境を提供できる。
【0063】
(本発明の第5の実施の形態)
図13は、本発明の第5の実施の形態に係るマルチディスプレイの利用形態を示す図である。複数個のマウスポインタから、ユーザの使用状況に応じて適切とされるマウスポインタを選択処理する際に、ユーザの視線情報を参照して選択処理を実行するため、図13では、ディスプレイ101のうち中央のディスプレイ101Bに画像入力部109(USBカメラ等)が設置されている。画像入力部109は、ユーザの視線に関する情報を取得するものである。
【0064】
図14は、本発明の第5の実施の形態に係る情報処理装置の機能ブロック図である。なお、本発明の第5の実施の形態に係る機能ブロックを構成する機能ブロックのうち、本発明の第1の実施の形態に係る機能ブロックを構成する機能ブロックと同じものには、同じ符号を付し、それぞれの説明を省略する。
【0065】
図14の情報処理装置100は、画面情報認識手段110と、ポインタ表示手段120と、視線方向計測手段190と、ポインタ選択手段151から構成される。画面情報認識手段110およびポインタ表示手段120は、図3に示したものと同様である。
【0066】
視線方向計測手段190は、ユーザの視線方向が複数台のディスプレイ101の中からどのディスプレイ101に向いているかを計測するようになっている。視線方向は、ディスプレイ101Bに設置された画像入力部109で撮影されたユーザの目又は顔の画像情報から検出する。
【0067】
一般的な視線検出方法としては、目の画像情報を利用する場合には瞳孔の動きを追跡して視線方向を検出する方法や、顔の画像情報を利用する場合には顔の特徴的な画像領域部(目、口など)を認識してその位置の変化により視線方向を検出する方法や顔の輪郭情報から視線方向を検出する方法などが挙げられる。
【0068】
ポインタ選択手段151は、視線方向計測手段190で計測された視線方向情報を参照して、ユーザの使用状況に応じて適切とされるマウスポインタを選択するようになっている。
【0069】
ポインタ選択手段151は、始めに視線方向情報を参照して複数台のディスプレイからユーザがどのディスプレイを閲覧しているかを判定し、閲覧しているディスプレイのマウスポインタを選択するようになっている。例えば、視線方向情報が、ディスプレイとディスプレイとの中間地点付近にあり、ユーザが閲覧しているディスプレイの判定が困難な場合には、ディスプレイの画面内にあるマウスの位置情報を加味して判定する。
【0070】
図15は、マウスの位置情報を加味したマウスポインタの選択例を示した図である。図15では、ユーザの視線方向がディスプレイ101Bとディスプレイ101Cの中間地点付近にある場合の例である。ディスプレイ101の画面の左半分を青領域、右半分を赤領域と予め決めておき、ポインタ選択手段151は、マウスポインタの位置情報を参照し、マウスポインタの位置情報が青色領域内にあればディスプレイ101Bと判定し、マウスの位置情報が赤色領域内にあればディスプレイ101Cと判定する。
【0071】
また、ユーザがディスプレイ101上の情報を閲覧している際には、視線方向は短時間の間に左右に動くことがあるので、マウスポインタの選択処理はユーザの視線方向が1台のディスプレイの画面領域に任意の時間以上固定されている場合にマウスポインタを切り替えるようにしても良い。
【0072】
以上説明したように、本発明の第5の実施の形態に係る情報処理装置は、ユーザの視線方向を参照してユーザの使用状況に応じて適切とされるマウスポインタを選択することで、マウスポインタの選択精度と選択時間の早期化を実現することができる。
【図面の簡単な説明】
【0073】
【図1】本発明の実施の形態に係るマルチディスプレイの利用形態を示す図
【図2】本発明の実施の形態に係る情報処理装置のハードウェア構成図
【図3】本発明の第1の実施の形態に係る情報処理装置の機能ブロック図
【図4】本発明の実施の形態に係るマルチディスプレイ環境におけるマウスポインタの表示例を示す図
【図5】マウスポインタの選択の例を示す図
【図6】本発明の第1の実施の形態に係る情報処理装置の動作を表すフローチャート
【図7】マウスポインタの選択の例を示す図
【図8】本発明の第2の実施の形態に係る情報処理装置の機能ブロック図
【図9】本発明の第3の実施の形態に係る情報処理装置の機能ブロック図
【図10】UI領域の変更の様子を示す図
【図11】本発明の第4の実施の形態に係る情報処理装置の機能ブロック図
【図12】本発明の第4の実施の形態に係る情報処理装置の動作を表すフローチャート
【図13】本発明の第5の実施の形態に係るマルチディスプレイの利用形態を示す図
【図14】本発明の第5の実施の形態に係る情報処理装置の機能ブロック図
【図15】マウスの位置情報を加味したマウスポインタの選択例を示した図
【符号の説明】
【0074】
10 マウスポインタ
11 アイコン
12 アプリケーションウィンドウ
100 情報処理装置
101 ディスプレイ
102 マウス
103 キーボード
104 CPU
106 HDD
105 SDRAM
107 表示I/F
108 入力I/F
109 画像入力部
110 画面情報認識手段
120 ポインタ表示手段
130 UI領域認識手段
140 操作履歴取得手段
150、151 ポインタ選択手段
160 再要求指示手段
170 UI領域変更手段
180 指示タスク実行手段
190 視線方向計測手段

【特許請求の範囲】
【請求項1】
1つ以上のディスプレイおよび前記ディスプレイの画面内の情報を操作するためのポインティングデバイスを有し、前記ポインティングデバイスの操作に応じて前記画面内に表示されるポインタを移動制御する情報処理装置において、
前記画面を区画した画面表示領域毎に対応してポインタを前記画面表示領域内に表示させるポインタ表示手段と、
前記ポインタ表示手段によって前記画面表示領域毎に表示されているポインタのうち、ユーザの使用状況に応じて適切とされるポインタを選択するポインタ選択手段と、を備えたことを特徴とする情報処理装置。
【請求項2】
使用している前記ディスプレイを認識する画面情報認識手段を備え、
前記ポインタ表示手段が、前記画面情報認識手段で認識した前記ディスプレイの画面を前記画面表示領域とし、前記ディスプレイの画面毎に対応して前記ポインタを表示することを特徴とする請求項1に記載の情報処理装置。
【請求項3】
前記ディスプレイの画面内に表示されるアイコンまたはアプリケーションウィンドウを含むユーザインタフェース領域を認識するユーザインタフェース領域認識手段を備え、
前記ポインタ選択手段が、前記ポインタ表示手段によって前記画面表示領域毎に表示されているポインタのうち、前記ユーザインタフェース領域にあるポインタを選択することを特徴とする請求項2に記載の情報処理装置。
【請求項4】
前記ディスプレイの画面内のユーザインタフェース領域それぞれが、各前記画面内で同じ表示位置にある場合には、前記画面内で互いに異なる表示位置になるように変更するユーザインタフェース変更手段を備えたことを特徴とする請求項3に記載の情報処理装置。
【請求項5】
前記ユーザの視線方向を計測する視線方向計測手段を備え、
前記ポインタ選択手段が、前記視線方向計測手段によって計測された視線方向情報を参照して前記ユーザの使用状況に応じて適切とされるポインタを選択することを特徴とする請求項2に記載の情報処理装置。
【請求項6】
前記ポインタ選択手段が、前記視線方向計測手段によって計測された視線方向情報および前記ポインタの画面内の位置情報を参照して前記ユーザの使用状況に応じて適切とされるポインタを選択することを特徴とする請求項5に記載の情報処理装置。
【請求項7】
前記ポインタ表示手段で表示されたポインタが指示しているときのタスク処理を実行する指示タスク実行手段と、
前記指示タスク実行手段で実行したタスク情報を記録するタスク情報記録手段と、
前記ポインタ選択手段によってポインタが選択された場合、前記ポインタ選択手段が選択しなかったポインタが指示したタスク処理のタスク情報を実行前の状態に戻すタスクロールバック手段と、を備えたことを特徴とする請求項2に記載の情報処理装置。
【請求項8】
前記ポインタ選択手段によって選択されたポインタの再選択の指示を受付けたときに前記ポインタ選択手段に再度選択させる再要求指示手段を備えたことを特徴とする請求項2に記載の情報処理装置。
【請求項9】
前記マウスポインタ表示手段は、前記ポインタ選択手段がポインタを選択したとき、前記ポインタ選択手段が選択したポインタと選択しなかったポインタとを区別して表示することを特徴とする請求項2に記載の情報処理装置。
【請求項10】
前記ユーザが前記アイコンまたは前記アプリケーションウィンドウを前記ポインタで操作した履歴を含む操作履歴情報を取得する操作履歴取得手段を備え、
前記ポインタ選択手段は、前記ユーザインタフェース領域にあるポインタの選択候補が複数ある場合、前記操作履歴情報を参照して最近操作した前記アイコンまたは前記アプリケーションウィンドウに対応する前記ユーザインタフェース領域を特定し、特定した前記ユーザインタフェース領域にあるポインタを選択することを特徴とする請求項3に記載の情報処理装置。
【請求項11】
情報処理装置が1つ以上のディスプレイの画面および画面内の情報を操作するためのポインティングデバイスを有し、前記ポインティングデバイスの操作に応じて前記画面内に表示されるポインタを制御する情報処理方法において、
使用中の前記ディスプレイの画面に関する情報を認識する画面情報認識ステップと、
前記画面表示領域を前記画面情報認識ステップで認識した画面とし、前記認識した画面毎に対応して前記ポインタを表示させるポインタ表示ステップと、
前記ポインタ表示ステップで前記画面表示領域毎に表示されているポインタのうち、ユーザの使用状況に応じて適切とされるポインタを選択するポインタ選択ステップと、を備えたことを特徴とする情報処理方法。
【請求項12】
情報処理装置が1つ以上のディスプレイの画面および画面内の情報を操作するためのポインティングデバイスを有し、前記ポインティングデバイスの操作に応じて前記画面内に表示されるポインタを制御する情報処理プログラムにおいて、
使用中の前記ディスプレイの画面に関する情報を認識する画面情報認識ステップと、
前記画面表示領域を前記画面情報認識ステップで認識した画面とし、前記認識した画面毎に対応して前記ポインタを表示させるポインタ表示ステップと、
前記ポインタ表示ステップで前記画面表示領域毎に表示されているポインタのうち、ユーザの使用状況に応じて適切とされるポインタを選択するポインタ選択ステップと、を備えたことを特徴とする情報処理プログラム。
【請求項13】
請求項12に記載の情報処理プログラムを記録したコンピュータ読取可能な記録媒体。

【図2】
image rotate

【図3】
image rotate

【図6】
image rotate

【図8】
image rotate

【図9】
image rotate

【図11】
image rotate

【図12】
image rotate

【図14】
image rotate

【図1】
image rotate

【図4】
image rotate

【図5】
image rotate

【図7】
image rotate

【図10】
image rotate

【図13】
image rotate

【図15】
image rotate


【公開番号】特開2009−223494(P2009−223494A)
【公開日】平成21年10月1日(2009.10.1)
【国際特許分類】
【出願番号】特願2008−65763(P2008−65763)
【出願日】平成20年3月14日(2008.3.14)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】