表示装置、表示装置の制御方法及びプログラム
【課題】ユーザにとってより少ない操作負担で、表示されている画像を変更し得る仕組みを提供する。
【解決手段】制御部110は、タッチスクリーン部11から出力された検出結果のなかで、重心に相当する位置の座標を第1操作点として特定し、XY直交座標系の予め決められた位置の座標を第2操作点として特定する。制御部110は、第1操作点のX座標及びY座標に基づいて手の移動方向を特定し、第2操作点のZ座標に基づいて特定された手の傾きが予め決められた条件(判定条件)を満たすような場合には、特定された移動方向の操作の順動作であると判断する。判定条件は、手の移動方向側のZ座標が、逆方向側のZ座標よりも大きい、という条件である。制御部110は、順動作であると判断した場合のみ、移動方向の順動作に応じた処理を実行する。
【解決手段】制御部110は、タッチスクリーン部11から出力された検出結果のなかで、重心に相当する位置の座標を第1操作点として特定し、XY直交座標系の予め決められた位置の座標を第2操作点として特定する。制御部110は、第1操作点のX座標及びY座標に基づいて手の移動方向を特定し、第2操作点のZ座標に基づいて特定された手の傾きが予め決められた条件(判定条件)を満たすような場合には、特定された移動方向の操作の順動作であると判断する。判定条件は、手の移動方向側のZ座標が、逆方向側のZ座標よりも大きい、という条件である。制御部110は、順動作であると判断した場合のみ、移動方向の順動作に応じた処理を実行する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示装置における表示内容を操作に応じて制御する技術に関する。
【背景技術】
【0002】
各種センサを備えた装置において、それらのセンサによって検出されたユーザの動作から操作内容を特定し、その特定された操作内容に応じた処理を行う技術がある。例えば、特許文献1には、一定時間腕を差し伸べる動作によって操作対象を指定し、さらにその指定後の動作により、この操作対象に対する処理の指示を行うことが記載されている。また、非特許文献1には、指が近接したことを検出する近接センサが設けられた表示装置が記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2004−246856号公報
【非特許文献】
【0004】
【非特許文献1】「45.5: A System LCD with Optical Input Function usingInfra-Red Backlight Subtraction Scheme」、シャープ株式会社、SID Symposium Digest of Technical Papers -- May 2010 -- Volume 41, Issue 1, pp. 680-683
【発明の概要】
【発明が解決しようとする課題】
【0005】
図12は、非特許文献1の記載と同様に表示装置10aに対して非接触の操作を行う様子を説明するための模式図である。ここでは、表示装置10aは、表示面に近接した手の移動方向を近接センサで検出し、その方向に応じて表示面の表示内容を変更する。例えば表示面に電子書籍が表示されている場合に、ユーザが表示面の上で手を右側に移動させると、表示装置10aは、電子書籍のページが順方向にめくられたかのような動きの画像を表示させる。一方、ユーザが表示面の上で手を左側に移動させると、表示装置10aは、電子書籍のページが逆方向にめくられたかのような動きの画像を表示させる。
【0006】
ところで、ユーザは、このような順方向のページめくりの操作を連続して行う場合には、図12(a)に示すように、矢印aの方向に移動させた手を元の位置に戻すために、いったん、それとは反対である矢印bの方向へと移動させる必要がある。このとき、ユーザは、手を元の位置に戻すだけであるから、表示装置10aの表示内容が変更されることは期待していない。しかしながら、表示装置10aは、このように手を元に戻す操作と、逆方向のページめくりの操作とを区別できないから、手を元の位置に戻す場合においても、電子書籍のページが逆方向にめくられたかのように、表示内容を変更してしまう。
【0007】
このような意図しない表示内容の変更を避けるため、ユーザは、図12(b)に示すように、矢印aの方向に移動させた手を元の位置に戻す場合には、手を、近接センサの検出領域外へと向かう矢印cの方向へと迂回させてから元の位置に戻す必要がある。ユーザは、このような迂回の操作を行うときに、腕全体を自らの方に引き寄せるといった動作が必要となり、非常に煩わしく感じる。腕全体を自らの方に引き寄せるのではなく、手を高く持ち上げて近接センサの検出領域よりも上方に手を迂回させるという方法も考えられるが、ユーザからすれば、どの程度の高さまで手を持ち上げれば近接センサの検出領域外になるかということが分からないため、必要以上に手を高く持ち上げるなどのように、操作負担の軽減にはなりにくい。また、特許文献1に記載の技術のように、操作対象を逐一指定してからその操作対象に対する指示を行うようにしてもよいが、これには2段階の動作が必要となるから、これも操作負担の軽減にはならない。
【0008】
そこで、本発明は、ユーザにとってより少ない操作負担で、表示されている画像を変更し得る仕組みを提供することを目的とする。
【課題を解決するための手段】
【0009】
上記課題を解決するために、本発明は、画像を表示する表示面を有する表示手段と、前記表示面にユーザの手を接触させないで移動させる近接操作を受け付ける操作手段と、前記操作手段によって受け付けられた近接操作における前記手の移動方向及び前記表示面に対する手の傾きを検出する検出手段と、前記検出手段によって検出された前記手の傾きに基づき、当該手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離との大小関係が、決められた条件を満たすか否かを判断する判断手段と、前記判断手段により前記条件が満たされると判断された場合には、前記操作が受け付けられたときに表示されていた画像を、前記検出手段によって検出された前記手の移動方向に応じた画像に変更し、前記判断手段により前記条件が満たされないと判断された場合には、前記操作が受け付けられたときに表示されていた画像を変更しない表示制御手段とを備えることを特徴とする表示装置を提供する。
【0010】
上記表示装置において、前記判断手段は、前記手の移動方向側の部位から前記表示面までの距離が、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離よりも大きい場合に、前記決められた条件を満たすと判断し、前記手の移動方向側の部位から前記表示面までの距離が、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離以下の場合に、前記決められた条件を満たさないと判断するようにしてもよい。
【0011】
上記表示装置において、前記表示制御手段は、第1の操作が前記操作手段によって受け付けられた時刻と、当該第1の操作の後になされた第2の操作が前記操作手段によって受け付けられた時刻との差が閾値以上である場合には、前記判断手段による判断結果によらずに、前記第2の操作が受け付けられたときに表示されていた前記画像の内容を、当該第2の操作について前記検出手段によって検出された前記手の移動方向に応じた画像に変更するようにしてもよい。
【0012】
また、本発明は、画像を表示する表示面を有する表示手段と、前記表示面に前記ユーザの手を接触させないで移動させる近接操作を受け付ける操作手段とを備えた表示装置の制御方法であって、前記操作手段によって受け付けられた近接操作における前記手の移動方向及び前記表示面に対する手の傾きを検出する検出ステップと、前記検出ステップにおいて検出された前記手の傾きに基づき、当該手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離との大小関係が、決められた条件を満たすか否かを判断する判断ステップと、前記判断ステップにおいて前記条件が満たされると判断された場合には、前記操作が受け付けられたときに表示されていた画像を、前記検出ステップにおいて検出された前記手の移動方向に応じた画像に変更し、前記判断ステップにおいて前記条件が満たされないと判断された場合には、前記操作が受け付けられたときに表示されていた画像を変更しない表示制御ステップとを備えることを特徴とする制御方法を提供する。
【0013】
また、本発明は、画像を表示する表示面を有する表示手段と、前記表示面に前記ユーザの手を接触させないで移動させる近接操作を受け付ける操作手段とを有するコンピュータを、前記操作手段によって受け付けられた近接操作における前記手の移動方向及び前記表示面に対する手の傾きを検出する検出手段と、前記検出手段によって検出された前記手の傾きに基づき、当該手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離との大小関係が、決められた条件を満たすか否かを判断する判断手段と、前記判断手段により前記条件が満たされると判断された場合には、前記操作が受け付けられたときに表示されていた画像を、前記検出手段によって検出された前記手の移動方向に応じた画像に変更し、前記判断手段により前記条件が満たされないと判断された場合には、前記操作が受け付けられたときに表示されていた画像を変更しない表示制御手段として機能させるためのプログラムを提供する。
【発明の効果】
【0014】
本発明によれば、ユーザにとってより少ない操作負担で、表示されている画像を変更することができる。
【図面の簡単な説明】
【0015】
【図1】本発明の実施形態に係る表示装置の外観を示した正面図である。
【図2】同実施形態に係る表示装置のハードウェア構成を示したブロック図である。
【図3】同実施形態に係る近接センサの検出結果を取得する処理を説明するための模式図である。
【図4】同実施形態に係る移動操作を説明するための模式図である。
【図5】同実施形態に係る処理テーブルの一例を示した図である。
【図6】同実施形態に係るタッチスクリーン部をその表示面に平行な方向から見たときの図である。
【図7】同実施形態に係る制御部が行う処理の流れを示すフローチャートである。
【図8】同実施形態において、操作の軌跡をXY平面上に示したときの一例を示す図である。
【図9】同実施形態において、第2操作点の座標をサンプリング順序で連ねた曲線の一例を示す図である。
【図10】同実施形態に係るタッチスクリーン部をその表示面に平行な方向から見たときの図である。
【図11】同実施形態に係る表示装置の機能構成を示す機能ブロック図である。
【図12】従来の表示装置の操作を説明するための模式図である。
【発明を実施するための形態】
【0016】
以下、本発明の実施形態について説明する。
(構成)
図1は、本発明の実施形態に係る表示装置の外観を示した正面図である。表示装置10は、例えば長方形のタッチスクリーン部11と、そのタッチスクリーン部11の周囲に設けられた操作子143とを有するコンピュータであり、例えば、タブレット端末、電子ブックリーダ及びパーソナルコンピュータなどの電子機器である。タッチスクリーン部11は、画像を表示する表示部、タッチスクリーン部11に対する物体の接触を検出するタッチセンサ、及びタッチスクリーン部11に対する物体の近接状態を検出する近接センサで構成されている。ユーザは、タッチスクリーン部11に手を近づけたり接触させたりすることで、表示装置10を操作することができるようになっている。表示部、タッチセンサ及び近接センサは、ユーザから見て奥側から手前側に向かって重ねられている。ユーザから見て最も奥側に配置されているのが表示部で、それよりも1つ手前に配置されているのがタッチセンサで、最も手前側に配置されているのが近接センサである。
【0017】
図2は、表示装置10としてのタブレット端末のハードウェア構成を示したブロック図である。表示装置10は、制御部110と、記憶部120と、表示部130と、操作部140とを備えている。制御部110は、CPU(Central Processing Unit)などの演算装置と、ROM(Read Only Memory)やRAM(Random Access Memory)などの記憶装置とを備えている。制御部110のCPUが、ROMや記憶部120に記憶されているコンピュータプログラムをRAMに読み出して実行することにより、表示装置10の各部を制御する。制御部110は、システムクロックに基づいて現在時刻を計測する計時機能なども備えている。
【0018】
表示部130は、例えば液晶ディスプレイ等の表示面131と、表示面131の制御を行う制御回路を有しており、制御部110から供給されたデータに応じた画像を表示面131に表示させる表示手段として機能する。この表示面131は、XY直交座標系が設定されている。このXY直交座標系の原点Pは、長方形である表示面131の四隅のうちのいずれか(ここでは図の左上隅)に位置している。この原点Pを含む、表示面131の2辺のうち、一方の辺(ここでは表示面131の長手方向の辺)がX軸に対応し、他方の辺(ここでは表示面131の短手方向の辺)がY軸に対応している。また、原点Pを含み、X軸及びY軸と直交する直線をZ軸とする。つまり、X軸及びY軸で表される表示面131に対して、Z軸は高さ方向の座標軸に相当する。図1に示す座標記号のうち、内側が白い円の中に黒い円を描いた記号は、紙面奥側から手前側に向かう矢印を表している。以下の説明においては、矢印Xが指す方向をX軸方向といい、矢印Yが指す方向をY軸方向といい、矢印Zが指す方向をZ軸方向というものとする。
【0019】
操作部140は、ユーザの操作を受け付けるタッチセンサ141、近接センサ142及び操作子143を備えており、ユーザの操作に応じた信号を制御部110に出力する。タッチセンサ141は、図1のタッチスクリーン部11において、表示面131の上(Z軸正方向側)に積層され、且つ表示面131の全体を覆うように重ねられた状態で配置されており、その大きさ及び形状は表示面131の大きさ及び形状とほぼ同じである。タッチセンサ141は、光を透過する材料で構成されており、表示面131に表示された画像はタッチセンサ141を透過してユーザに視認されるようになっている。表示面131と同様に、このタッチセンサ141にも、XY直交座標系が設定されている。つまり、XY直交座標系の原点Pは、タッチセンサ141の四隅のうちのいずれか(ここでは図1の左上隅)に位置している。この原点Pを含む、タッチセンサ141の2辺のうち、一方の辺(ここではタッチセンサ141の短手方向の辺)がY軸に対応し、他方の辺(ここではタッチセンサ141の長手方向の辺)がX軸に対応している。タッチセンサ141は、手が触れたか否かを所定のサンプリング周期で検出し、その接触位置を示す座標を検出結果として制御部110へ出力する。以降の説明において、ユーザがタッチスクリーン部11の表面に手を触れさせた状態で行う操作であって、タッチセンサ141により出力された検出結果に基づいて特定される操作のことを「接触操作」ということにする。
【0020】
近接センサ142は、図1のタッチスクリーン部11において、タッチセンサ141の上(Z軸正方向側)に積層され、且つ、タッチセンサ141の全体を覆うように重ねられた状態で配置されており、その大きさ及び形状は、前述したタッチセンサ141及び表示面131の大きさ及び形状とほぼ同じである。この近接センサ142は、光を透過する材料で構成されており、表示面131に表示された画像は近接センサ142を透過してユーザに視認されるようになっている。前述した表示面131及びタッチセンサ141と同様に、この近接センサ142にも、XY直交座標系が設定されている。つまり、XY直交座標系の原点Pは、近接センサ142の四隅のうちのいずれか(ここでは図1の左上隅)に位置している。この原点Pを含む、近接センサ142の2辺のうち、一方の辺(ここでは近接センサ142の短手方向の辺)がY軸に対応し、他方の辺(ここでは近接センサ142の長手方向の辺)がX軸に対応している。近接センサ142は、例えば赤外線型のセンサであり、赤外線を発する複数の発光素子と、光を受けとって電気信号に変換する複数の受光素子を備えており、これらがXY直交座標系に従って配置されている。発光素子から発せられた赤外線が、手に当たって反射してくると、受光素子は、反射した赤外線を受光する。この手が近接センサ142に近いほど反射光の強度が増すことになる。近接センサ142は、受光素子の受光強度に基づいて表示面131と手との距離、つまりZ座標を検出すると、X座標、Y座標及びZ座標を検出結果として出力する。この近接センサ142を有する操作部140は、表示面131にユーザの手を接触させないで移動させる近接操作を受け付ける操作手段として機能することになる。以降の説明において、ユーザがタッチスクリーン部11の表面に手を近接させた状態で行う操作であって、近接センサ142により出力された検出結果に基づいて特定される操作のことを「非接触操作」ということにする。
【0021】
ここで、近接センサ142の検出結果を取得する処理について説明する。図3(a)は、タッチスクリーン部11をその表示面に平行な方向から見たときの図である。なお、図3における手20aは、ユーザの右手の端面図である。二点鎖線Cは、近接センサの検出領域の限界を表している。この検出領域の限界Cとタッチスクリーン部11との間の領域は、近接センサ142がタッチスクリーン部11の表示面131から手(ここでは、手20a)までの距離(Z座標)を検出可能な近接検出可能範囲DPRである。近接検出可能範囲DPRの大きさは、近接センサ142の発光素子及び受光素子の性能に依るものであり、多数のユーザによる操作をサンプルとして実験的に求められた結果(すなわち、検出可能であるべきZ軸方向の距離)を満たすような性能となるように、本実施形態の発光素子及び受光素子が設計されている。図3(a)において黒い円の各々は、近接センサ142により検出された検出結果の一例を表している。図3(b)には、縦軸をZ軸とし、横軸をX軸とした座標系において、近接センサ142による検出結果をプロットしたときの様子を表している。図3(b)において、距離Z1〜Z6は、近接センサ142による検出結果に含まれるZ座標、すなわち、手20aの各部位とタッチスクリーン部11との距離を表している。
【0022】
表示装置10は、例えば電子書籍、写真又は各種メニュー画面などの画像をタッチスクリーン部11に表示させ、手を移動させる操作(以降、移動操作という)を検出した場合に、その移動操作の方向に応じた処理を行う。ここでいう、移動操作の方向に応じた処理とは、例えば電子書籍が表示されている状態において、移動操作の方向にページがめくられたかのような動きの画像を表示させる処理や、表示されている画像オブジェクトが移動操作の方向に移動したかのような動きの画像を表示させる処理である。また、移動操作は、ユーザがタッチスクリーン部11に手を近接させた状態で行う操作(非接触操作)であって、近接検出可能範囲DPR内において手を移動させるという操作である。
【0023】
図4は、移動操作を説明するために、タッチスクリーン部11を正面から見た模式図である。ここで、タッチスクリーン部11に対して、ユーザが手20b1をX軸正方向に相当する矢印Aの方向に移動させる移動操作であって、その移動操作の方向(移動方向)に応じた処理が行われることを期待している移動操作を「第1移動操作」と称する。この移動方向は、タッチスクリーン部11の平面方向、つまり、XY直交座標系で表される方向である。また、タッチスクリーン部11に対して、ユーザが手20b2をX軸負方向に相当する矢印Bの方向に移動させる移動操作であって、その移動方向に応じた処理が行われることを期待している移動操作を「第2移動操作」と称する。このように、ユーザが移動方向に応じた処理が行われることを期待している動作を「順動作」という。ところで、第1移動操作を連続して行う場合などには、X軸正方向に相当する矢印Aの方向に移動させた手を元の位置に戻すために、いったんX軸負方向に相当する矢印Bの方向へと移動させる必要がある。同様に、第2移動操作を連続して行う場合には、X軸負方向に相当する矢印Bの方向に移動させた手を元の位置に戻すために、いったんX軸正方向に相当する矢印Aの方向へと移動させる必要がある。このように、移動操作を行った後に、次の移動操作を行うために手を元の位置に戻す動作を「逆動作」という。
【0024】
もちろん、ユーザは、順動作を行うときには、表示されている画像に対してその順動作の移動方向に応じた処理が行われることを期待しているのに対し、逆動作を行うときには、表示されている画像に対して何らかの処理が行われることは期待していない。このため表示装置10の制御部110は、移動操作が順動作と逆動作のいずれによってなされたかを区別しなければならない。しかしながら、制御部110は、X軸方向の方向成分以外にそれぞれの操作の軌跡を区別することが出来ないから、矢印Bの方向に移動させる操作が第2移動操作の順動作なのか第1移動操作の逆動作なのか、矢印Aの方向に移動させる操作が第1移動操作の順動作なのか第2移動操作の逆動作なのか、を特定することが出来ない。
【0025】
ところで、ユーザは目の前に実在する物体を手のひらで左右の何れかの方向に押しのけたいと考えたときに、手のひらをその物体の方向に向ける。そのときの手の傾きを考えると、その押しのける方向側の手の部位が、その逆方向側の部位よりも高くなる(Z軸正方向に位置する)。このため、タッチスクリーン部に表示された画像を、手の移動方向に移動させるような非接触操作を行う場合であっても、その手の移動方向側の部位がその逆方向側の部位よりも高くなると考えられる。これに対し、ユーザが逆動作を行うときには、表示されている画像に対して何らかの処理が行われることは期待していないから、手の移動方向側の部位がその逆方向側の部位と同じ高さに位置する状態か、又は手の移動方向側の部位がその逆方向側の部位よりも低い状態で手を元の位置に戻すと考えられる。
【0026】
そこで、表示装置10の制御部110は、操作部140によって受け付けられた近接操作における手の移動方向及び表示面131に対する傾きを検出する。そして、制御部110は、検出された手の傾きに基づき、手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て、手の移動方向側とは逆方向側にある部位から表示面131までの距離との大小関係が、決められた条件を満たすか否かを判断することにより、移動操作の順動作又は逆動作を特定する。例えば、制御部110は、タッチスクリーン部11から出力された検出結果のなかで、この検出結果により示される手の重心に相当する位置のX座標及びY座標を第1操作点として特定し、タッチスクリーン部11の予め決められた位置(例えば、図4のタッチスクリーン部11の中心に位置する検出点P2)において検出された手の位置のZ座標を第2操作点として特定する。そして、制御部110は、第1操作点に基づいて手の移動方向を特定し、第2操作点に基づいて特定された手の傾きが予め決められた条件(判定条件)を満たすような場合には、特定された移動方向の操作(第1移動操作又は第2移動操作)の順動作であると判断する。ここで、判定条件は、手の移動方向側の部位のZ座標が、当該移動方向側の部位から見て手の移動方向側とは逆方向側にある部位のZ座標よりも大きい、という条件である。
【0027】
ここで、図2の説明に戻る。記憶部120は、例えばフラッシュメモリやハードディスク等の不揮発性の記憶手段である。記憶部120には、制御部110が実行するコンピュータプログラム、タッチスクリーン部11に対するユーザの操作の内容と制御部110が行う処理の内容とを対応付けた処理テーブル121及び各種の閾値などが記憶されている。図5は、処理テーブル121の一例を示した図である。処理テーブル121は、「操作内容」及び「処理内容」というフィールドを有している。「処理の内容」のフィールドには、制御部110によって実行される処理であり、特に、表示面131の表示の制御に関する処理の内容が記述されている。「操作内容」のフィールドには、「処理内容」に記述された処理を制御部110に実行させるトリガとなる操作の内容が記述されている。制御部110は、決められた条件が満たされると判断された場合、つまり順動作であると判断された場合には、この処理テーブル121の内容に基づいて、操作が受け付けられたときに表示されていた画像を、手の移動方向に応じた画像に変更し、決められた条件が満たされないと判断された場合、つまり逆動作であると判断された場合には、操作が受け付けられたときに表示されていた画像を変更しないようにする。
【0028】
(動作)
図6は、タッチスクリーン部11をその表示面に平行な方向から見たときの図である。なお、図6における手20b1、手20b2は、ユーザの左手の端面図である。ここで、ユーザは、タッチスクリーン部11に表示された画像を、次の画像へと変更させるために、手20b1をX軸正方向に相当する矢印Aの方向に移動させ、更に、移動させた手を元の位置に戻すために、手20b2をX軸負方向に相当する矢印Bの方向へと移動させたものとする。また、手のX軸正方向の部位のZ座標は、手のX軸負方向の部位のZ座標よりも大きいものとする。
【0029】
図7を用いて実施形態の動作を説明する。図7は、制御部110が行う処理の流れを示すフローチャートである。表示装置10の制御部110は、記憶部120に記憶されているプログラムを実行することで以下の動作を行う。制御部110は、タッチスクリーン部11により手の近接が検出されたか否かを判断する(ステップS800)。制御部110は、タッチスクリーン部11により検出されていないと判断した場合には(ステップS800;NO)、この判断処理を繰り返す。一方、制御部110は、タッチスクリーン部11により近接が検出されたと判断した場合には(ステップS800;YES)、タッチスクリーン部11から出力された検出結果から、この検出結果により示される手の重心に相当する位置の座標を第1操作点として特定し、タッチスクリーン部11の予め決められた位置(例えば、図6のタッチスクリーン部11の中心に位置する検出点P2)において検出された手の位置のZ座標を第2操作点として特定する。そして、制御部110は、第1操作点及び第2操作点をサンプリングナンバと現在時刻とともにRAMに記憶させる。サンプリングナンバは、検出結果が最初に検出されたときのサンプリングを第1回目とし、以降、サンプリングのたびに1ずつ増加する値である。制御部110は自身の計時機能によって現在時刻を計測しながらこのサンプリングナンバを数える。検出結果は、タッチスクリーン部11により手の近接が検出されているかぎり、所定のサンプリング周期でタッチスクリーン部11から制御部110に出力され続ける。したがって、制御部110は、例えばステップS802以降の処理においても、出力された検出結果を記憶し続けることになる。これにより、制御部110のRAMには、第1操作点の座標及び第2操作点の座標が時間に応じて変化していく様子、すなわち各座標をサンプリング順序で連ねた軌跡が記憶されることになる。第1操作点の座標をサンプリング順序で連ねた軌跡は、点Pn(Xn,Yn)の集合であり、第2操作点の座標をサンプリング順序で連ねた軌跡は、点Pm(Zm)の集合である。ただし、n及びmは1以上の整数をとるサンプリングナンバである。ここで、各座標の間隔が広くなっている場合には補間処理、狭くなっている場合には間引き処理などを行ってもよい。
【0030】
制御部110は、RAMに記憶された第1操作点の座標をサンプリング順序で連ねた軌跡(第1軌跡)を参照することで、移動方向を特定する(ステップS802)。図8は、操作の軌跡をXY平面上に示したときの一例を示す図である。制御部110は、ユーザにより操作が開始された直後の第1回目のサンプリングにより得られた第1操作点の座標を「始点」として特定する。この第1回目のサンプリングが行われた時刻をt0とする。図8において、この始点は、点P1(X1,Y1)に相当する。制御部110は、第1軌跡Dの始点を通るX軸に平行な直線をX軸平行線Eとし、第1軌跡DとX軸平行線Eとがその交点において成す角度θを算出する。ここで、第1軌跡Dが必ずしも直線ではないことに鑑みれば、角度θは、上記交点における第1軌跡Dの接線と、X軸平行線Eとが成す角度ということになる。制御部110は、算出した角度θが予め記憶部120に記憶されている閾値(例えば45°)よりも小さければ、第1軌跡DがもつX軸方向の成分を特定する。例えば、図6のように、ユーザが手をX軸正方向に相当する矢印Aの方向に移動させた場合のように、第1軌跡DがX軸正方向の成分をもつ場合には、制御部110は、移動方向がX軸正方向であると特定する。また、ユーザが手をX軸負方向に相当する矢印Bの方向に移動させた場合のように、第1軌跡DがX軸負方向の成分をもつ場合には、制御部110は、移動方向がX軸負方向であると特定する。
【0031】
制御部110は、算出した角度θが予め記憶部120に記憶されている閾値以上である場合、つまり、移動方向がX軸正方向又はX軸負方向の何れでもない場合には(ステップS804;NO)、タッチスクリーン部11に表示されている内容及び操作点の位置等に基づいて予め決められた対応処理を行い(ステップS812)、ステップS800の処理に戻る。ここで、制御部110が行う対応処理の内容には、例えば、移動方向を特定できないといった旨のエラーメッセージをタッチスクリーン部11に表示させたり、或いは、移動方向に関係なく第1操作点の位置に表示されている画像オブジェクト(例えばソフトボタン)を選択したり、さらには何も処理を行わない、といったものが含まれる。一方、制御部110は、移動方向がX軸方向(X軸正方向又はX軸負方向)である場合には(ステップS804;YES)、この移動操作が第1移動操作又は第2移動操作の何れかであるということになるから、順動作又は逆動作の何れであるかを判断するために、第2操作点のZ座標に基づいて特定された手の傾きが、順動作について決められた判定条件を満たすか否かを判断する(ステップS806)。
【0032】
前述のように、制御部110は、タッチスクリーン部11によりユーザの操作が検出されると、タッチスクリーン部11の予め決められた位置(例えば、図6のタッチスクリーン部11の中心に位置する検出点P2)において検出された手の位置のZ座標を第2操作点として特定している。ここで、縦軸をZ軸とし、横軸を時間軸とした座標系において、第2操作点の座標をサンプリング順序で連ねた曲線(以降、推移曲線という)を図9に示す。図9(a)は、図6において、手をX軸正方向に相当する矢印Aの方向に移動させた時の推移曲線F1を示している。同図において、時刻t0は、ユーザの操作が検出された直後の第1回目のサンプリングが行われた時刻であり、時刻t1は、検出点P2においてユーザの操作(つまり、第2操作点の座標)が検出された時刻である。また、時刻t2は、時刻t1から予め決められた時間Δtだけ経過した時刻である。ステップS806の処理において、制御部110は、時刻t1における第2操作点のZ座標と、時刻t2における第2操作点のZ座標とを比較することで、手の移動方向側の部位のZ座標が、当該移動方向側の部位から見て、手の移動方向側とは逆方向側にある部位のZ座標よりも大きい、という判定条件を満たしているか否かを判断する。図9(a)の推移曲線F1は、手の移動方向側の部位のZ座標に相当する時刻t1における第2操作点のZ座標が、移動方向側の部位から見て、手の移動方向側とは逆方向側にある部位のZ座標に相当する時刻t2における第2操作点のZ座標よりも大きくなっている。これは、前述したように、ユーザは目の前に実在する物体を手のひらで左右の何れかの方向に押しのけたいと考えたときに、その押しのける方向側の手の部位が、その逆方向側の部位よりも高くなるために、検出点P2で検出された第2操作点のZ座標が時間の経過と共に小さくなっているのだと考えられる。この場合、制御部110は、判定条件を満たすと判断し(ステップS806;YES)、手を移動させた動作が順動作であると判断する。この場合、制御部110は、操作が受け付けられたときに表示されていた画像を、手の移動方向に応じた画像に変更する処理を実行する。例えば、制御部110は、処理テーブル121を参照して、ステップS802で特定した移動方向の順動作に応じた処理を実行する(ステップS808)。ここで、表示装置10は、ステップS808の処理を実行する前のタイミングにおいて、例えば電子書籍の10ページ目の画像をタッチスクリーン部11に表示させているものとする。そして、ステップS802で特定した移動方向がX軸正方向である場合、制御部110は、第1移動操作の順動作に対応づけられた処理内容を実行する。例えば、制御部110は、タッチスクリーン部11に表示されている電子書籍の10ページ目の画像を、次の画像データに応じた画像、つまり、11ページ目の画像に変更する。また、ステップS802で特定した移動方向がX軸負方向である場合、制御部110は、第2移動操作の順動作に対応づけられた処理内容を実行する。例えば、制御部110は、タッチスクリーン部11に表示されている電子書籍の10ページ目の画像を、前の画像データに応じた画像、つまり、9ページ目の画像に変更する。そして、制御部110は、移動操作の方向に応じて、タッチスクリーン部11に表示されている画像を変更した後に、ステップS800の処理に戻る。
【0033】
図9(b)は、図6において、手をX軸負方向に相当する矢印Bの方向に移動させた時の推移曲線F2を示している。同図において、時刻t0は、ユーザの操作が検出された直後の第1回目のサンプリングが行われた時刻であり、時刻t3は、検出点P2においてユーザの操作(つまり、第2操作点の座標)が検出された時刻である。また、時刻t4は、時刻t3から予め決められた時間Δtだけ経過した時刻である。ステップS806の処理において、制御部110は、時刻t3における第2操作点のZ座標と、時刻t4における第2操作点のZ座標とを比較することで、手の移動方向側の部位のZ座標が、当該移動方向側の部位から見て、手の移動方向側とは逆方向側にある部位のZ座標よりも大きい、という判定条件を満たしているか否かを判断する。図9(b)の推移曲線F2は、手の移動方向側の部位のZ座標に相当する時刻t3における第2操作点のZ座標が、移動方向側の部位から見て、手の移動方向側とは逆方向側にある部位のZ座標に相当する時刻t4における第2操作点のZ座標よりも小さくなっているから、制御部110は、判定条件を満たさないと判断し(ステップS806;NO)、X軸負方向に相当する矢印Bの方向に手を移動させた動作が逆動作であると判断する。この場合、制御部110は、処理テーブル121を参照して、逆動作に応じた処理を実行する(ステップS810)。ここで、図5の処理テーブル121には逆動作に応じた処理が記述されていないから、制御部110は、操作が受け付けられたときに表示されていた画像を変更しないで、ステップS800の処理に戻る。
【0034】
ところで、上述した実施形態においては、図6に示すように、主にユーザの左手のひらによって第1移動操作の順動作がなされた場合について説明したが、ユーザの右手のひらによって第2移動操作の順動作がなされた場合についても、ユーザの手の傾きが異なるのみで、制御部110の処理は同じである。ここで、ユーザが、第2移動操作の順動作を行う場合について説明する。まず、図10に示すように、ユーザは、手のX軸負方向の部位のZ座標が手のX軸正方向の部位のZ座標よりも大きくなるように手を傾けた状態で、手20c1をX軸負方向に相当する矢印B1の方向へと移動させたものとする。なお、図10における手20c1、手20c2は、ユーザの右手の端面図である。この場合、タッチスクリーン部11により検出された第2操作点の座標をサンプリング順序で連ねた曲線は、図9(a)の推移曲線F1のような曲線になる。この推移曲線F1は判断条件を満たすから、制御部110は、このユーザの操作がX軸負方向の順動作、つまり、第2移動操作の順動作であると判断することができる。
【0035】
また、図10に示すように、ユーザは、移動させた手を元の位置に戻すために、手のX軸負方向の部位のZ座標が手のX軸正方向の部位のZ座標よりも大きくなるように手を傾けた状態のまま、手20c2をX軸正方向に相当する矢印A1の方向へと移動させたものとする。この場合、タッチスクリーン部11により検出された第2操作点の座標をサンプリング順序で連ねた曲線は、図9(b)の推移曲線F2のような曲線になる。この推移曲線F2は判断条件を満たさないから、制御部110は、このユーザの操作が逆動作であると判断することができる。
【0036】
このように、本実施形態によれば、制御部110は、タッチスクリーン部11により近接が検出された手の移動方向に加え、手の傾きに基づいて、ユーザの操作の内容を判断する。このため、制御部110は、手の移動方向のみに基づいて、ユーザの操作の内容を判断するときのように、操作を行った後に手を元の位置に戻すための動作を、新たな操作が行われた、と誤って判断されることもない。つまり、制御部110は、タッチスクリーン部11の表示面に対するユーザの操作に応じた処理をより正確に行うことが可能となる。
【0037】
ここで、上述した実施形態において表示装置10の制御部110が実現する機能構成について説明する。図11は、表示装置10の機能構成を示す機能ブロック図である。制御部110は、プログラムを実行することにより、検出部112、判断部113及び表示制御部114に相当する機能を実現する。検出部112は、本発明における検出手段の一例であり、操作部140によって受け付けられた近接操作における手の移動方向及び表示面131に対する手の傾きを検出する。判断部113は、本発明における判断手段の一例であり、検出部112によって検出された手の傾きに基づき、手の移動方向側の部位から表示面131までの距離と、移動方向側の部位から見て、手の移動方向側とは逆方向側にある部位から表示面131までの距離との大小関係が、決められた条件を満たすか否かを判断する。表示制御部114は、本発明における表示制御手段の一例であり、判断部113により条件が満たされると判断された場合には、操作が受け付けられたときに表示されていた画像を、検出部112によって検出された手の移動方向に応じた画像に変更し、判断部113により条件が満たされないと判断された場合には、操作が受け付けられたときに表示されていた画像を変更しない。
【0038】
(変形例)
上述した実施形態の内容を以下のように変形してもよい。以下に示す各変形例は、必要に応じて組み合わせて実施されてもよい。
【0039】
(変形例1)
上述した実施形態において、制御部110は、ユーザにより操作が開始された直後の第1回目のサンプリングにより得られた第1操作点の座標を「始点」として特定した。しかしながら、制御部110が、始点を特定する方法はこれに限らない。例えば、制御部110は、X軸方向に対する手の速度(dx/dt)を算出し、その速度(dx/dt)が正から負、又は負から正へと変化する位置の座標を始点として特定してもよい。また、制御部110は、図7のステップS802の処理に変えて、速度(dx/dt)が正の場合には移動方向がX軸正方向であると特定し、速度(dx/dt)が負の場合には移動方向がX軸負方向であると特定するようにしてもよい。
【0040】
(変形例2)
制御部110は、始点が特定された時刻と、当該時刻の直前に始点が特定された時刻との差を算出し、この差が予め記憶部120に記憶されている閾値以上である場合には、判断条件を満たしているか否かによらず、当該操作が順動作であると判断してもよい。この理由は、順動作は移動操作そのものであり、直前の動作との因果関係がないから、直前の動作が成された時刻との差が大きくなると考えられる一方、逆動作は移動操作を行った後に手を元の位置に戻すための動作であるから、直前の動作が成された時刻との差が小さくなると考えられるからである。このように、制御部110は、時刻の差が閾値以上である場合に、順動作であると判断することで、全ての操作について手の傾きが判定条件を満たすか否かを判断する必要がなくなる。したがって、制御部110は、操作が行われてから表示の制御内容を特定するまでの速度を向上させることになる。
【0041】
(変形例3)
上述した実施形態において、制御部110は、タッチスクリーン部11により時系列に検出された時刻t1における第2操作点のZ座標と、時刻t2における第2操作点のZ座標とを比較することで、ユーザの手の傾きを特定した。しかしながら、制御部110が、ユーザの手の傾きを特定する方法はこれに限らない。例えば、制御部110は、図3(b)に示されたように、タッチスクリーン部11において検出された手の複数の位置の検出結果S1〜S6に基づいて、ユーザの手の傾きを特定してもよい。図3(b)において、距離Z1〜Z6は、近接センサ142による検出結果S1〜S6に含まれるZ座標、すなわち、手20aの各部位とタッチスクリーン部11との距離を表している。制御部110は、検出結果S1〜S6のなかから最も大きいZ座標を含む検出結果と、最も小さいZ座標を含む検出結果とを特定する。同図において、最も大きいZ座標を含む検出結果は検出結果S6であり、最も小さいZ座標を含む検出結果は検出結果S1である。そして、同図において、検出結果S6に含まれるX座標は、検出結果S1に含まれるX座標よりも大きい。このように、制御部110は、検出された手の複数の位置の検出結果に含まれるZ座標及びX座標を比較することにより、ユーザの手の傾きを特定することができる。
【0042】
また、近接センサ142は、表示面上の全ての位置において近接を検知しなくてもよく、X軸方向に異なる2以上の点で近接を検知できればよい。この理由は、X軸方向に異なる2以上の点で手の近接を検知できれば、その近接を検知した時刻の差に基づいて移動方向を特定可能であり、更に、夫々が検知したZ座標の差に基づいて手の傾きをも特定可能であるからである。このようにすれば、タッチスクリーン部11の近接センサ142の構成を簡易化することが可能であり、制御部110が処理する情報量も少なくすることができる。
【0043】
(変形例4)
上述した実施形態において、制御部110は、手の傾きが判断条件を満たす場合に順動作であると判断したが、タッチセンサ141により接触操作が検出された場合には、手の傾きが判断条件を満たすか否かによらずに、当該操作が順動作であるとみなしてもよい。このように、制御部110は、タッチセンサ141により接触操作が検出されたタイミングで順動作であることを判断するので、全ての操作に対して、手の傾きが判断条件を満たすか否かを判断する必要がなくなる。したがって、制御部110は、操作が行われてから表示の制御内容を特定するまでの速度を向上させることができる。
【0044】
タッチスクリーン部11は、タッチセンサ141を備えていなくてもよい。この場合、制御部110は、タッチスクリーン部11の近接センサ142により検出された表示装置10と手との距離が閾値未満であると判断された場合に、当該手が表示装置10に接触しているとみなしてもよい。
【0045】
(変形例5)
上述した実施形態において、制御部110は、タッチスクリーン部11から出力された検出結果のなかで、手の重心に相当する位置の座標を第1操作点として特定し、第1操作点の座標をサンプリング順序で連ねた軌跡に基づいて移動方向を特定した。しかしながら、第1操作点は、検出結果の重心である必要は無く、例えば、手の最もX軸正方向に位置する箇所の座標や、最もX軸負方向に位置する箇所の座標を第1操作点として特定してもよく、要するに、移動方向を特定するための基準となるような位置であればよい。
【0046】
(変形例6)
上述した実施形態において、制御部110は、タッチスクリーン部11の予め決められた位置において検出された手の位置のZ座標を第2操作点として特定したが、第2操作点を検出するタッチスクリーン部11の位置はこれに限られない。制御部110は、例えば、表示面131に表示された画像の位置に応じて、第2操作点を検出するタッチスクリーン部11の位置を変更してもよい。
【0047】
(変形例7)
上述した実施形態においては、判定条件は、手の移動方向側の部位のZ座標が、当該移動方向側の部位から見て手の移動方向側とは逆方向側にある部位のZ座標よりも大きい、という条件であったが、これに限られない。例えば、判定条件は、前述の判定条件と異なり、手の移動方向側の部位のZ座標が、当該移動方向側の部位から見て手の移動方向側とは逆方向側にある部位のZ座標よりも小さい、という条件であってもよい。この理由は次のように考えられるからである。例えば、ユーザは目の前に実在する物体に対して手の甲を向け、更にその物体を手の小指側からすくうことで、左右の何れかの方向に払いのけたいと考えたとする。そのときの手の傾きを考えると、その払いのける方向側の手の部位が、その逆方向側の部位よりも低くなる(Z軸負方向に位置する)という傾きになる。このため、タッチスクリーン部に表示された画像を、手の移動方向に移動させるような非接触操作を行う場合であっても、その手の移動方向側の部位がその逆方向側の部位よりも低くなると考えられる。つまり、タッチスクリーン部11により検出された手の移動方向側の部位のZ座標が、その逆方向側の部位のZ座標よりも小さくなると考えられる。これに対し、ユーザが逆動作を行うときには、表示されている画像に対して何らかの処理が行われることは期待していないから、手の移動方向側の部位がその逆方向側の部位と同じ高さに位置する状態か、又は手の移動方向側の部位がその逆方向側の部位よりも高い状態で手を元の位置に戻すと考えられる。つまり、タッチスクリーン部11により検出された手の移動方向側の部位のZ座標が、その逆方向側の部位のZ座標よりも小さくならないと考えられるからである。
【0048】
ところで、前述のように、ユーザの移動操作の態様により、判定条件が異なると考えられるが、ユーザによっては判定条件が同じである方が操作として自然だと捉えることも考えられる。この為、順動作又は逆動作を特定するための判定条件を、ユーザ自身が予め決められたタイミングで設定できるようにしても良い。この場合、制御部110は、ユーザの移動操作の態様を区別することなく、手の傾きが予め決められた判定条件を満たすか否かによって順動作又は逆動作を特定することができる。
【0049】
(変形例8)
本発明は、表示装置以外にも、これらを実現するための方法、及びコンピュータに表示機能を実現させるためのプログラムとしても把握される。かかるプログラムは、これを記憶させた光ディスク等の記録媒体の形態で提供されたり、インターネット等を介して、コンピュータにダウンロードさせ、これをインストールして利用させるなどの形態でも提供されたりする。
【符号の説明】
【0050】
10…表示装置、11…タッチスクリーン部、110…制御部、120…記憶部、121…処理テーブル、130…表示部、131…表示面、140…操作部、141…タッチセンサ、142…近接センサ、143…操作子
【技術分野】
【0001】
本発明は、表示装置における表示内容を操作に応じて制御する技術に関する。
【背景技術】
【0002】
各種センサを備えた装置において、それらのセンサによって検出されたユーザの動作から操作内容を特定し、その特定された操作内容に応じた処理を行う技術がある。例えば、特許文献1には、一定時間腕を差し伸べる動作によって操作対象を指定し、さらにその指定後の動作により、この操作対象に対する処理の指示を行うことが記載されている。また、非特許文献1には、指が近接したことを検出する近接センサが設けられた表示装置が記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2004−246856号公報
【非特許文献】
【0004】
【非特許文献1】「45.5: A System LCD with Optical Input Function usingInfra-Red Backlight Subtraction Scheme」、シャープ株式会社、SID Symposium Digest of Technical Papers -- May 2010 -- Volume 41, Issue 1, pp. 680-683
【発明の概要】
【発明が解決しようとする課題】
【0005】
図12は、非特許文献1の記載と同様に表示装置10aに対して非接触の操作を行う様子を説明するための模式図である。ここでは、表示装置10aは、表示面に近接した手の移動方向を近接センサで検出し、その方向に応じて表示面の表示内容を変更する。例えば表示面に電子書籍が表示されている場合に、ユーザが表示面の上で手を右側に移動させると、表示装置10aは、電子書籍のページが順方向にめくられたかのような動きの画像を表示させる。一方、ユーザが表示面の上で手を左側に移動させると、表示装置10aは、電子書籍のページが逆方向にめくられたかのような動きの画像を表示させる。
【0006】
ところで、ユーザは、このような順方向のページめくりの操作を連続して行う場合には、図12(a)に示すように、矢印aの方向に移動させた手を元の位置に戻すために、いったん、それとは反対である矢印bの方向へと移動させる必要がある。このとき、ユーザは、手を元の位置に戻すだけであるから、表示装置10aの表示内容が変更されることは期待していない。しかしながら、表示装置10aは、このように手を元に戻す操作と、逆方向のページめくりの操作とを区別できないから、手を元の位置に戻す場合においても、電子書籍のページが逆方向にめくられたかのように、表示内容を変更してしまう。
【0007】
このような意図しない表示内容の変更を避けるため、ユーザは、図12(b)に示すように、矢印aの方向に移動させた手を元の位置に戻す場合には、手を、近接センサの検出領域外へと向かう矢印cの方向へと迂回させてから元の位置に戻す必要がある。ユーザは、このような迂回の操作を行うときに、腕全体を自らの方に引き寄せるといった動作が必要となり、非常に煩わしく感じる。腕全体を自らの方に引き寄せるのではなく、手を高く持ち上げて近接センサの検出領域よりも上方に手を迂回させるという方法も考えられるが、ユーザからすれば、どの程度の高さまで手を持ち上げれば近接センサの検出領域外になるかということが分からないため、必要以上に手を高く持ち上げるなどのように、操作負担の軽減にはなりにくい。また、特許文献1に記載の技術のように、操作対象を逐一指定してからその操作対象に対する指示を行うようにしてもよいが、これには2段階の動作が必要となるから、これも操作負担の軽減にはならない。
【0008】
そこで、本発明は、ユーザにとってより少ない操作負担で、表示されている画像を変更し得る仕組みを提供することを目的とする。
【課題を解決するための手段】
【0009】
上記課題を解決するために、本発明は、画像を表示する表示面を有する表示手段と、前記表示面にユーザの手を接触させないで移動させる近接操作を受け付ける操作手段と、前記操作手段によって受け付けられた近接操作における前記手の移動方向及び前記表示面に対する手の傾きを検出する検出手段と、前記検出手段によって検出された前記手の傾きに基づき、当該手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離との大小関係が、決められた条件を満たすか否かを判断する判断手段と、前記判断手段により前記条件が満たされると判断された場合には、前記操作が受け付けられたときに表示されていた画像を、前記検出手段によって検出された前記手の移動方向に応じた画像に変更し、前記判断手段により前記条件が満たされないと判断された場合には、前記操作が受け付けられたときに表示されていた画像を変更しない表示制御手段とを備えることを特徴とする表示装置を提供する。
【0010】
上記表示装置において、前記判断手段は、前記手の移動方向側の部位から前記表示面までの距離が、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離よりも大きい場合に、前記決められた条件を満たすと判断し、前記手の移動方向側の部位から前記表示面までの距離が、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離以下の場合に、前記決められた条件を満たさないと判断するようにしてもよい。
【0011】
上記表示装置において、前記表示制御手段は、第1の操作が前記操作手段によって受け付けられた時刻と、当該第1の操作の後になされた第2の操作が前記操作手段によって受け付けられた時刻との差が閾値以上である場合には、前記判断手段による判断結果によらずに、前記第2の操作が受け付けられたときに表示されていた前記画像の内容を、当該第2の操作について前記検出手段によって検出された前記手の移動方向に応じた画像に変更するようにしてもよい。
【0012】
また、本発明は、画像を表示する表示面を有する表示手段と、前記表示面に前記ユーザの手を接触させないで移動させる近接操作を受け付ける操作手段とを備えた表示装置の制御方法であって、前記操作手段によって受け付けられた近接操作における前記手の移動方向及び前記表示面に対する手の傾きを検出する検出ステップと、前記検出ステップにおいて検出された前記手の傾きに基づき、当該手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離との大小関係が、決められた条件を満たすか否かを判断する判断ステップと、前記判断ステップにおいて前記条件が満たされると判断された場合には、前記操作が受け付けられたときに表示されていた画像を、前記検出ステップにおいて検出された前記手の移動方向に応じた画像に変更し、前記判断ステップにおいて前記条件が満たされないと判断された場合には、前記操作が受け付けられたときに表示されていた画像を変更しない表示制御ステップとを備えることを特徴とする制御方法を提供する。
【0013】
また、本発明は、画像を表示する表示面を有する表示手段と、前記表示面に前記ユーザの手を接触させないで移動させる近接操作を受け付ける操作手段とを有するコンピュータを、前記操作手段によって受け付けられた近接操作における前記手の移動方向及び前記表示面に対する手の傾きを検出する検出手段と、前記検出手段によって検出された前記手の傾きに基づき、当該手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離との大小関係が、決められた条件を満たすか否かを判断する判断手段と、前記判断手段により前記条件が満たされると判断された場合には、前記操作が受け付けられたときに表示されていた画像を、前記検出手段によって検出された前記手の移動方向に応じた画像に変更し、前記判断手段により前記条件が満たされないと判断された場合には、前記操作が受け付けられたときに表示されていた画像を変更しない表示制御手段として機能させるためのプログラムを提供する。
【発明の効果】
【0014】
本発明によれば、ユーザにとってより少ない操作負担で、表示されている画像を変更することができる。
【図面の簡単な説明】
【0015】
【図1】本発明の実施形態に係る表示装置の外観を示した正面図である。
【図2】同実施形態に係る表示装置のハードウェア構成を示したブロック図である。
【図3】同実施形態に係る近接センサの検出結果を取得する処理を説明するための模式図である。
【図4】同実施形態に係る移動操作を説明するための模式図である。
【図5】同実施形態に係る処理テーブルの一例を示した図である。
【図6】同実施形態に係るタッチスクリーン部をその表示面に平行な方向から見たときの図である。
【図7】同実施形態に係る制御部が行う処理の流れを示すフローチャートである。
【図8】同実施形態において、操作の軌跡をXY平面上に示したときの一例を示す図である。
【図9】同実施形態において、第2操作点の座標をサンプリング順序で連ねた曲線の一例を示す図である。
【図10】同実施形態に係るタッチスクリーン部をその表示面に平行な方向から見たときの図である。
【図11】同実施形態に係る表示装置の機能構成を示す機能ブロック図である。
【図12】従来の表示装置の操作を説明するための模式図である。
【発明を実施するための形態】
【0016】
以下、本発明の実施形態について説明する。
(構成)
図1は、本発明の実施形態に係る表示装置の外観を示した正面図である。表示装置10は、例えば長方形のタッチスクリーン部11と、そのタッチスクリーン部11の周囲に設けられた操作子143とを有するコンピュータであり、例えば、タブレット端末、電子ブックリーダ及びパーソナルコンピュータなどの電子機器である。タッチスクリーン部11は、画像を表示する表示部、タッチスクリーン部11に対する物体の接触を検出するタッチセンサ、及びタッチスクリーン部11に対する物体の近接状態を検出する近接センサで構成されている。ユーザは、タッチスクリーン部11に手を近づけたり接触させたりすることで、表示装置10を操作することができるようになっている。表示部、タッチセンサ及び近接センサは、ユーザから見て奥側から手前側に向かって重ねられている。ユーザから見て最も奥側に配置されているのが表示部で、それよりも1つ手前に配置されているのがタッチセンサで、最も手前側に配置されているのが近接センサである。
【0017】
図2は、表示装置10としてのタブレット端末のハードウェア構成を示したブロック図である。表示装置10は、制御部110と、記憶部120と、表示部130と、操作部140とを備えている。制御部110は、CPU(Central Processing Unit)などの演算装置と、ROM(Read Only Memory)やRAM(Random Access Memory)などの記憶装置とを備えている。制御部110のCPUが、ROMや記憶部120に記憶されているコンピュータプログラムをRAMに読み出して実行することにより、表示装置10の各部を制御する。制御部110は、システムクロックに基づいて現在時刻を計測する計時機能なども備えている。
【0018】
表示部130は、例えば液晶ディスプレイ等の表示面131と、表示面131の制御を行う制御回路を有しており、制御部110から供給されたデータに応じた画像を表示面131に表示させる表示手段として機能する。この表示面131は、XY直交座標系が設定されている。このXY直交座標系の原点Pは、長方形である表示面131の四隅のうちのいずれか(ここでは図の左上隅)に位置している。この原点Pを含む、表示面131の2辺のうち、一方の辺(ここでは表示面131の長手方向の辺)がX軸に対応し、他方の辺(ここでは表示面131の短手方向の辺)がY軸に対応している。また、原点Pを含み、X軸及びY軸と直交する直線をZ軸とする。つまり、X軸及びY軸で表される表示面131に対して、Z軸は高さ方向の座標軸に相当する。図1に示す座標記号のうち、内側が白い円の中に黒い円を描いた記号は、紙面奥側から手前側に向かう矢印を表している。以下の説明においては、矢印Xが指す方向をX軸方向といい、矢印Yが指す方向をY軸方向といい、矢印Zが指す方向をZ軸方向というものとする。
【0019】
操作部140は、ユーザの操作を受け付けるタッチセンサ141、近接センサ142及び操作子143を備えており、ユーザの操作に応じた信号を制御部110に出力する。タッチセンサ141は、図1のタッチスクリーン部11において、表示面131の上(Z軸正方向側)に積層され、且つ表示面131の全体を覆うように重ねられた状態で配置されており、その大きさ及び形状は表示面131の大きさ及び形状とほぼ同じである。タッチセンサ141は、光を透過する材料で構成されており、表示面131に表示された画像はタッチセンサ141を透過してユーザに視認されるようになっている。表示面131と同様に、このタッチセンサ141にも、XY直交座標系が設定されている。つまり、XY直交座標系の原点Pは、タッチセンサ141の四隅のうちのいずれか(ここでは図1の左上隅)に位置している。この原点Pを含む、タッチセンサ141の2辺のうち、一方の辺(ここではタッチセンサ141の短手方向の辺)がY軸に対応し、他方の辺(ここではタッチセンサ141の長手方向の辺)がX軸に対応している。タッチセンサ141は、手が触れたか否かを所定のサンプリング周期で検出し、その接触位置を示す座標を検出結果として制御部110へ出力する。以降の説明において、ユーザがタッチスクリーン部11の表面に手を触れさせた状態で行う操作であって、タッチセンサ141により出力された検出結果に基づいて特定される操作のことを「接触操作」ということにする。
【0020】
近接センサ142は、図1のタッチスクリーン部11において、タッチセンサ141の上(Z軸正方向側)に積層され、且つ、タッチセンサ141の全体を覆うように重ねられた状態で配置されており、その大きさ及び形状は、前述したタッチセンサ141及び表示面131の大きさ及び形状とほぼ同じである。この近接センサ142は、光を透過する材料で構成されており、表示面131に表示された画像は近接センサ142を透過してユーザに視認されるようになっている。前述した表示面131及びタッチセンサ141と同様に、この近接センサ142にも、XY直交座標系が設定されている。つまり、XY直交座標系の原点Pは、近接センサ142の四隅のうちのいずれか(ここでは図1の左上隅)に位置している。この原点Pを含む、近接センサ142の2辺のうち、一方の辺(ここでは近接センサ142の短手方向の辺)がY軸に対応し、他方の辺(ここでは近接センサ142の長手方向の辺)がX軸に対応している。近接センサ142は、例えば赤外線型のセンサであり、赤外線を発する複数の発光素子と、光を受けとって電気信号に変換する複数の受光素子を備えており、これらがXY直交座標系に従って配置されている。発光素子から発せられた赤外線が、手に当たって反射してくると、受光素子は、反射した赤外線を受光する。この手が近接センサ142に近いほど反射光の強度が増すことになる。近接センサ142は、受光素子の受光強度に基づいて表示面131と手との距離、つまりZ座標を検出すると、X座標、Y座標及びZ座標を検出結果として出力する。この近接センサ142を有する操作部140は、表示面131にユーザの手を接触させないで移動させる近接操作を受け付ける操作手段として機能することになる。以降の説明において、ユーザがタッチスクリーン部11の表面に手を近接させた状態で行う操作であって、近接センサ142により出力された検出結果に基づいて特定される操作のことを「非接触操作」ということにする。
【0021】
ここで、近接センサ142の検出結果を取得する処理について説明する。図3(a)は、タッチスクリーン部11をその表示面に平行な方向から見たときの図である。なお、図3における手20aは、ユーザの右手の端面図である。二点鎖線Cは、近接センサの検出領域の限界を表している。この検出領域の限界Cとタッチスクリーン部11との間の領域は、近接センサ142がタッチスクリーン部11の表示面131から手(ここでは、手20a)までの距離(Z座標)を検出可能な近接検出可能範囲DPRである。近接検出可能範囲DPRの大きさは、近接センサ142の発光素子及び受光素子の性能に依るものであり、多数のユーザによる操作をサンプルとして実験的に求められた結果(すなわち、検出可能であるべきZ軸方向の距離)を満たすような性能となるように、本実施形態の発光素子及び受光素子が設計されている。図3(a)において黒い円の各々は、近接センサ142により検出された検出結果の一例を表している。図3(b)には、縦軸をZ軸とし、横軸をX軸とした座標系において、近接センサ142による検出結果をプロットしたときの様子を表している。図3(b)において、距離Z1〜Z6は、近接センサ142による検出結果に含まれるZ座標、すなわち、手20aの各部位とタッチスクリーン部11との距離を表している。
【0022】
表示装置10は、例えば電子書籍、写真又は各種メニュー画面などの画像をタッチスクリーン部11に表示させ、手を移動させる操作(以降、移動操作という)を検出した場合に、その移動操作の方向に応じた処理を行う。ここでいう、移動操作の方向に応じた処理とは、例えば電子書籍が表示されている状態において、移動操作の方向にページがめくられたかのような動きの画像を表示させる処理や、表示されている画像オブジェクトが移動操作の方向に移動したかのような動きの画像を表示させる処理である。また、移動操作は、ユーザがタッチスクリーン部11に手を近接させた状態で行う操作(非接触操作)であって、近接検出可能範囲DPR内において手を移動させるという操作である。
【0023】
図4は、移動操作を説明するために、タッチスクリーン部11を正面から見た模式図である。ここで、タッチスクリーン部11に対して、ユーザが手20b1をX軸正方向に相当する矢印Aの方向に移動させる移動操作であって、その移動操作の方向(移動方向)に応じた処理が行われることを期待している移動操作を「第1移動操作」と称する。この移動方向は、タッチスクリーン部11の平面方向、つまり、XY直交座標系で表される方向である。また、タッチスクリーン部11に対して、ユーザが手20b2をX軸負方向に相当する矢印Bの方向に移動させる移動操作であって、その移動方向に応じた処理が行われることを期待している移動操作を「第2移動操作」と称する。このように、ユーザが移動方向に応じた処理が行われることを期待している動作を「順動作」という。ところで、第1移動操作を連続して行う場合などには、X軸正方向に相当する矢印Aの方向に移動させた手を元の位置に戻すために、いったんX軸負方向に相当する矢印Bの方向へと移動させる必要がある。同様に、第2移動操作を連続して行う場合には、X軸負方向に相当する矢印Bの方向に移動させた手を元の位置に戻すために、いったんX軸正方向に相当する矢印Aの方向へと移動させる必要がある。このように、移動操作を行った後に、次の移動操作を行うために手を元の位置に戻す動作を「逆動作」という。
【0024】
もちろん、ユーザは、順動作を行うときには、表示されている画像に対してその順動作の移動方向に応じた処理が行われることを期待しているのに対し、逆動作を行うときには、表示されている画像に対して何らかの処理が行われることは期待していない。このため表示装置10の制御部110は、移動操作が順動作と逆動作のいずれによってなされたかを区別しなければならない。しかしながら、制御部110は、X軸方向の方向成分以外にそれぞれの操作の軌跡を区別することが出来ないから、矢印Bの方向に移動させる操作が第2移動操作の順動作なのか第1移動操作の逆動作なのか、矢印Aの方向に移動させる操作が第1移動操作の順動作なのか第2移動操作の逆動作なのか、を特定することが出来ない。
【0025】
ところで、ユーザは目の前に実在する物体を手のひらで左右の何れかの方向に押しのけたいと考えたときに、手のひらをその物体の方向に向ける。そのときの手の傾きを考えると、その押しのける方向側の手の部位が、その逆方向側の部位よりも高くなる(Z軸正方向に位置する)。このため、タッチスクリーン部に表示された画像を、手の移動方向に移動させるような非接触操作を行う場合であっても、その手の移動方向側の部位がその逆方向側の部位よりも高くなると考えられる。これに対し、ユーザが逆動作を行うときには、表示されている画像に対して何らかの処理が行われることは期待していないから、手の移動方向側の部位がその逆方向側の部位と同じ高さに位置する状態か、又は手の移動方向側の部位がその逆方向側の部位よりも低い状態で手を元の位置に戻すと考えられる。
【0026】
そこで、表示装置10の制御部110は、操作部140によって受け付けられた近接操作における手の移動方向及び表示面131に対する傾きを検出する。そして、制御部110は、検出された手の傾きに基づき、手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て、手の移動方向側とは逆方向側にある部位から表示面131までの距離との大小関係が、決められた条件を満たすか否かを判断することにより、移動操作の順動作又は逆動作を特定する。例えば、制御部110は、タッチスクリーン部11から出力された検出結果のなかで、この検出結果により示される手の重心に相当する位置のX座標及びY座標を第1操作点として特定し、タッチスクリーン部11の予め決められた位置(例えば、図4のタッチスクリーン部11の中心に位置する検出点P2)において検出された手の位置のZ座標を第2操作点として特定する。そして、制御部110は、第1操作点に基づいて手の移動方向を特定し、第2操作点に基づいて特定された手の傾きが予め決められた条件(判定条件)を満たすような場合には、特定された移動方向の操作(第1移動操作又は第2移動操作)の順動作であると判断する。ここで、判定条件は、手の移動方向側の部位のZ座標が、当該移動方向側の部位から見て手の移動方向側とは逆方向側にある部位のZ座標よりも大きい、という条件である。
【0027】
ここで、図2の説明に戻る。記憶部120は、例えばフラッシュメモリやハードディスク等の不揮発性の記憶手段である。記憶部120には、制御部110が実行するコンピュータプログラム、タッチスクリーン部11に対するユーザの操作の内容と制御部110が行う処理の内容とを対応付けた処理テーブル121及び各種の閾値などが記憶されている。図5は、処理テーブル121の一例を示した図である。処理テーブル121は、「操作内容」及び「処理内容」というフィールドを有している。「処理の内容」のフィールドには、制御部110によって実行される処理であり、特に、表示面131の表示の制御に関する処理の内容が記述されている。「操作内容」のフィールドには、「処理内容」に記述された処理を制御部110に実行させるトリガとなる操作の内容が記述されている。制御部110は、決められた条件が満たされると判断された場合、つまり順動作であると判断された場合には、この処理テーブル121の内容に基づいて、操作が受け付けられたときに表示されていた画像を、手の移動方向に応じた画像に変更し、決められた条件が満たされないと判断された場合、つまり逆動作であると判断された場合には、操作が受け付けられたときに表示されていた画像を変更しないようにする。
【0028】
(動作)
図6は、タッチスクリーン部11をその表示面に平行な方向から見たときの図である。なお、図6における手20b1、手20b2は、ユーザの左手の端面図である。ここで、ユーザは、タッチスクリーン部11に表示された画像を、次の画像へと変更させるために、手20b1をX軸正方向に相当する矢印Aの方向に移動させ、更に、移動させた手を元の位置に戻すために、手20b2をX軸負方向に相当する矢印Bの方向へと移動させたものとする。また、手のX軸正方向の部位のZ座標は、手のX軸負方向の部位のZ座標よりも大きいものとする。
【0029】
図7を用いて実施形態の動作を説明する。図7は、制御部110が行う処理の流れを示すフローチャートである。表示装置10の制御部110は、記憶部120に記憶されているプログラムを実行することで以下の動作を行う。制御部110は、タッチスクリーン部11により手の近接が検出されたか否かを判断する(ステップS800)。制御部110は、タッチスクリーン部11により検出されていないと判断した場合には(ステップS800;NO)、この判断処理を繰り返す。一方、制御部110は、タッチスクリーン部11により近接が検出されたと判断した場合には(ステップS800;YES)、タッチスクリーン部11から出力された検出結果から、この検出結果により示される手の重心に相当する位置の座標を第1操作点として特定し、タッチスクリーン部11の予め決められた位置(例えば、図6のタッチスクリーン部11の中心に位置する検出点P2)において検出された手の位置のZ座標を第2操作点として特定する。そして、制御部110は、第1操作点及び第2操作点をサンプリングナンバと現在時刻とともにRAMに記憶させる。サンプリングナンバは、検出結果が最初に検出されたときのサンプリングを第1回目とし、以降、サンプリングのたびに1ずつ増加する値である。制御部110は自身の計時機能によって現在時刻を計測しながらこのサンプリングナンバを数える。検出結果は、タッチスクリーン部11により手の近接が検出されているかぎり、所定のサンプリング周期でタッチスクリーン部11から制御部110に出力され続ける。したがって、制御部110は、例えばステップS802以降の処理においても、出力された検出結果を記憶し続けることになる。これにより、制御部110のRAMには、第1操作点の座標及び第2操作点の座標が時間に応じて変化していく様子、すなわち各座標をサンプリング順序で連ねた軌跡が記憶されることになる。第1操作点の座標をサンプリング順序で連ねた軌跡は、点Pn(Xn,Yn)の集合であり、第2操作点の座標をサンプリング順序で連ねた軌跡は、点Pm(Zm)の集合である。ただし、n及びmは1以上の整数をとるサンプリングナンバである。ここで、各座標の間隔が広くなっている場合には補間処理、狭くなっている場合には間引き処理などを行ってもよい。
【0030】
制御部110は、RAMに記憶された第1操作点の座標をサンプリング順序で連ねた軌跡(第1軌跡)を参照することで、移動方向を特定する(ステップS802)。図8は、操作の軌跡をXY平面上に示したときの一例を示す図である。制御部110は、ユーザにより操作が開始された直後の第1回目のサンプリングにより得られた第1操作点の座標を「始点」として特定する。この第1回目のサンプリングが行われた時刻をt0とする。図8において、この始点は、点P1(X1,Y1)に相当する。制御部110は、第1軌跡Dの始点を通るX軸に平行な直線をX軸平行線Eとし、第1軌跡DとX軸平行線Eとがその交点において成す角度θを算出する。ここで、第1軌跡Dが必ずしも直線ではないことに鑑みれば、角度θは、上記交点における第1軌跡Dの接線と、X軸平行線Eとが成す角度ということになる。制御部110は、算出した角度θが予め記憶部120に記憶されている閾値(例えば45°)よりも小さければ、第1軌跡DがもつX軸方向の成分を特定する。例えば、図6のように、ユーザが手をX軸正方向に相当する矢印Aの方向に移動させた場合のように、第1軌跡DがX軸正方向の成分をもつ場合には、制御部110は、移動方向がX軸正方向であると特定する。また、ユーザが手をX軸負方向に相当する矢印Bの方向に移動させた場合のように、第1軌跡DがX軸負方向の成分をもつ場合には、制御部110は、移動方向がX軸負方向であると特定する。
【0031】
制御部110は、算出した角度θが予め記憶部120に記憶されている閾値以上である場合、つまり、移動方向がX軸正方向又はX軸負方向の何れでもない場合には(ステップS804;NO)、タッチスクリーン部11に表示されている内容及び操作点の位置等に基づいて予め決められた対応処理を行い(ステップS812)、ステップS800の処理に戻る。ここで、制御部110が行う対応処理の内容には、例えば、移動方向を特定できないといった旨のエラーメッセージをタッチスクリーン部11に表示させたり、或いは、移動方向に関係なく第1操作点の位置に表示されている画像オブジェクト(例えばソフトボタン)を選択したり、さらには何も処理を行わない、といったものが含まれる。一方、制御部110は、移動方向がX軸方向(X軸正方向又はX軸負方向)である場合には(ステップS804;YES)、この移動操作が第1移動操作又は第2移動操作の何れかであるということになるから、順動作又は逆動作の何れであるかを判断するために、第2操作点のZ座標に基づいて特定された手の傾きが、順動作について決められた判定条件を満たすか否かを判断する(ステップS806)。
【0032】
前述のように、制御部110は、タッチスクリーン部11によりユーザの操作が検出されると、タッチスクリーン部11の予め決められた位置(例えば、図6のタッチスクリーン部11の中心に位置する検出点P2)において検出された手の位置のZ座標を第2操作点として特定している。ここで、縦軸をZ軸とし、横軸を時間軸とした座標系において、第2操作点の座標をサンプリング順序で連ねた曲線(以降、推移曲線という)を図9に示す。図9(a)は、図6において、手をX軸正方向に相当する矢印Aの方向に移動させた時の推移曲線F1を示している。同図において、時刻t0は、ユーザの操作が検出された直後の第1回目のサンプリングが行われた時刻であり、時刻t1は、検出点P2においてユーザの操作(つまり、第2操作点の座標)が検出された時刻である。また、時刻t2は、時刻t1から予め決められた時間Δtだけ経過した時刻である。ステップS806の処理において、制御部110は、時刻t1における第2操作点のZ座標と、時刻t2における第2操作点のZ座標とを比較することで、手の移動方向側の部位のZ座標が、当該移動方向側の部位から見て、手の移動方向側とは逆方向側にある部位のZ座標よりも大きい、という判定条件を満たしているか否かを判断する。図9(a)の推移曲線F1は、手の移動方向側の部位のZ座標に相当する時刻t1における第2操作点のZ座標が、移動方向側の部位から見て、手の移動方向側とは逆方向側にある部位のZ座標に相当する時刻t2における第2操作点のZ座標よりも大きくなっている。これは、前述したように、ユーザは目の前に実在する物体を手のひらで左右の何れかの方向に押しのけたいと考えたときに、その押しのける方向側の手の部位が、その逆方向側の部位よりも高くなるために、検出点P2で検出された第2操作点のZ座標が時間の経過と共に小さくなっているのだと考えられる。この場合、制御部110は、判定条件を満たすと判断し(ステップS806;YES)、手を移動させた動作が順動作であると判断する。この場合、制御部110は、操作が受け付けられたときに表示されていた画像を、手の移動方向に応じた画像に変更する処理を実行する。例えば、制御部110は、処理テーブル121を参照して、ステップS802で特定した移動方向の順動作に応じた処理を実行する(ステップS808)。ここで、表示装置10は、ステップS808の処理を実行する前のタイミングにおいて、例えば電子書籍の10ページ目の画像をタッチスクリーン部11に表示させているものとする。そして、ステップS802で特定した移動方向がX軸正方向である場合、制御部110は、第1移動操作の順動作に対応づけられた処理内容を実行する。例えば、制御部110は、タッチスクリーン部11に表示されている電子書籍の10ページ目の画像を、次の画像データに応じた画像、つまり、11ページ目の画像に変更する。また、ステップS802で特定した移動方向がX軸負方向である場合、制御部110は、第2移動操作の順動作に対応づけられた処理内容を実行する。例えば、制御部110は、タッチスクリーン部11に表示されている電子書籍の10ページ目の画像を、前の画像データに応じた画像、つまり、9ページ目の画像に変更する。そして、制御部110は、移動操作の方向に応じて、タッチスクリーン部11に表示されている画像を変更した後に、ステップS800の処理に戻る。
【0033】
図9(b)は、図6において、手をX軸負方向に相当する矢印Bの方向に移動させた時の推移曲線F2を示している。同図において、時刻t0は、ユーザの操作が検出された直後の第1回目のサンプリングが行われた時刻であり、時刻t3は、検出点P2においてユーザの操作(つまり、第2操作点の座標)が検出された時刻である。また、時刻t4は、時刻t3から予め決められた時間Δtだけ経過した時刻である。ステップS806の処理において、制御部110は、時刻t3における第2操作点のZ座標と、時刻t4における第2操作点のZ座標とを比較することで、手の移動方向側の部位のZ座標が、当該移動方向側の部位から見て、手の移動方向側とは逆方向側にある部位のZ座標よりも大きい、という判定条件を満たしているか否かを判断する。図9(b)の推移曲線F2は、手の移動方向側の部位のZ座標に相当する時刻t3における第2操作点のZ座標が、移動方向側の部位から見て、手の移動方向側とは逆方向側にある部位のZ座標に相当する時刻t4における第2操作点のZ座標よりも小さくなっているから、制御部110は、判定条件を満たさないと判断し(ステップS806;NO)、X軸負方向に相当する矢印Bの方向に手を移動させた動作が逆動作であると判断する。この場合、制御部110は、処理テーブル121を参照して、逆動作に応じた処理を実行する(ステップS810)。ここで、図5の処理テーブル121には逆動作に応じた処理が記述されていないから、制御部110は、操作が受け付けられたときに表示されていた画像を変更しないで、ステップS800の処理に戻る。
【0034】
ところで、上述した実施形態においては、図6に示すように、主にユーザの左手のひらによって第1移動操作の順動作がなされた場合について説明したが、ユーザの右手のひらによって第2移動操作の順動作がなされた場合についても、ユーザの手の傾きが異なるのみで、制御部110の処理は同じである。ここで、ユーザが、第2移動操作の順動作を行う場合について説明する。まず、図10に示すように、ユーザは、手のX軸負方向の部位のZ座標が手のX軸正方向の部位のZ座標よりも大きくなるように手を傾けた状態で、手20c1をX軸負方向に相当する矢印B1の方向へと移動させたものとする。なお、図10における手20c1、手20c2は、ユーザの右手の端面図である。この場合、タッチスクリーン部11により検出された第2操作点の座標をサンプリング順序で連ねた曲線は、図9(a)の推移曲線F1のような曲線になる。この推移曲線F1は判断条件を満たすから、制御部110は、このユーザの操作がX軸負方向の順動作、つまり、第2移動操作の順動作であると判断することができる。
【0035】
また、図10に示すように、ユーザは、移動させた手を元の位置に戻すために、手のX軸負方向の部位のZ座標が手のX軸正方向の部位のZ座標よりも大きくなるように手を傾けた状態のまま、手20c2をX軸正方向に相当する矢印A1の方向へと移動させたものとする。この場合、タッチスクリーン部11により検出された第2操作点の座標をサンプリング順序で連ねた曲線は、図9(b)の推移曲線F2のような曲線になる。この推移曲線F2は判断条件を満たさないから、制御部110は、このユーザの操作が逆動作であると判断することができる。
【0036】
このように、本実施形態によれば、制御部110は、タッチスクリーン部11により近接が検出された手の移動方向に加え、手の傾きに基づいて、ユーザの操作の内容を判断する。このため、制御部110は、手の移動方向のみに基づいて、ユーザの操作の内容を判断するときのように、操作を行った後に手を元の位置に戻すための動作を、新たな操作が行われた、と誤って判断されることもない。つまり、制御部110は、タッチスクリーン部11の表示面に対するユーザの操作に応じた処理をより正確に行うことが可能となる。
【0037】
ここで、上述した実施形態において表示装置10の制御部110が実現する機能構成について説明する。図11は、表示装置10の機能構成を示す機能ブロック図である。制御部110は、プログラムを実行することにより、検出部112、判断部113及び表示制御部114に相当する機能を実現する。検出部112は、本発明における検出手段の一例であり、操作部140によって受け付けられた近接操作における手の移動方向及び表示面131に対する手の傾きを検出する。判断部113は、本発明における判断手段の一例であり、検出部112によって検出された手の傾きに基づき、手の移動方向側の部位から表示面131までの距離と、移動方向側の部位から見て、手の移動方向側とは逆方向側にある部位から表示面131までの距離との大小関係が、決められた条件を満たすか否かを判断する。表示制御部114は、本発明における表示制御手段の一例であり、判断部113により条件が満たされると判断された場合には、操作が受け付けられたときに表示されていた画像を、検出部112によって検出された手の移動方向に応じた画像に変更し、判断部113により条件が満たされないと判断された場合には、操作が受け付けられたときに表示されていた画像を変更しない。
【0038】
(変形例)
上述した実施形態の内容を以下のように変形してもよい。以下に示す各変形例は、必要に応じて組み合わせて実施されてもよい。
【0039】
(変形例1)
上述した実施形態において、制御部110は、ユーザにより操作が開始された直後の第1回目のサンプリングにより得られた第1操作点の座標を「始点」として特定した。しかしながら、制御部110が、始点を特定する方法はこれに限らない。例えば、制御部110は、X軸方向に対する手の速度(dx/dt)を算出し、その速度(dx/dt)が正から負、又は負から正へと変化する位置の座標を始点として特定してもよい。また、制御部110は、図7のステップS802の処理に変えて、速度(dx/dt)が正の場合には移動方向がX軸正方向であると特定し、速度(dx/dt)が負の場合には移動方向がX軸負方向であると特定するようにしてもよい。
【0040】
(変形例2)
制御部110は、始点が特定された時刻と、当該時刻の直前に始点が特定された時刻との差を算出し、この差が予め記憶部120に記憶されている閾値以上である場合には、判断条件を満たしているか否かによらず、当該操作が順動作であると判断してもよい。この理由は、順動作は移動操作そのものであり、直前の動作との因果関係がないから、直前の動作が成された時刻との差が大きくなると考えられる一方、逆動作は移動操作を行った後に手を元の位置に戻すための動作であるから、直前の動作が成された時刻との差が小さくなると考えられるからである。このように、制御部110は、時刻の差が閾値以上である場合に、順動作であると判断することで、全ての操作について手の傾きが判定条件を満たすか否かを判断する必要がなくなる。したがって、制御部110は、操作が行われてから表示の制御内容を特定するまでの速度を向上させることになる。
【0041】
(変形例3)
上述した実施形態において、制御部110は、タッチスクリーン部11により時系列に検出された時刻t1における第2操作点のZ座標と、時刻t2における第2操作点のZ座標とを比較することで、ユーザの手の傾きを特定した。しかしながら、制御部110が、ユーザの手の傾きを特定する方法はこれに限らない。例えば、制御部110は、図3(b)に示されたように、タッチスクリーン部11において検出された手の複数の位置の検出結果S1〜S6に基づいて、ユーザの手の傾きを特定してもよい。図3(b)において、距離Z1〜Z6は、近接センサ142による検出結果S1〜S6に含まれるZ座標、すなわち、手20aの各部位とタッチスクリーン部11との距離を表している。制御部110は、検出結果S1〜S6のなかから最も大きいZ座標を含む検出結果と、最も小さいZ座標を含む検出結果とを特定する。同図において、最も大きいZ座標を含む検出結果は検出結果S6であり、最も小さいZ座標を含む検出結果は検出結果S1である。そして、同図において、検出結果S6に含まれるX座標は、検出結果S1に含まれるX座標よりも大きい。このように、制御部110は、検出された手の複数の位置の検出結果に含まれるZ座標及びX座標を比較することにより、ユーザの手の傾きを特定することができる。
【0042】
また、近接センサ142は、表示面上の全ての位置において近接を検知しなくてもよく、X軸方向に異なる2以上の点で近接を検知できればよい。この理由は、X軸方向に異なる2以上の点で手の近接を検知できれば、その近接を検知した時刻の差に基づいて移動方向を特定可能であり、更に、夫々が検知したZ座標の差に基づいて手の傾きをも特定可能であるからである。このようにすれば、タッチスクリーン部11の近接センサ142の構成を簡易化することが可能であり、制御部110が処理する情報量も少なくすることができる。
【0043】
(変形例4)
上述した実施形態において、制御部110は、手の傾きが判断条件を満たす場合に順動作であると判断したが、タッチセンサ141により接触操作が検出された場合には、手の傾きが判断条件を満たすか否かによらずに、当該操作が順動作であるとみなしてもよい。このように、制御部110は、タッチセンサ141により接触操作が検出されたタイミングで順動作であることを判断するので、全ての操作に対して、手の傾きが判断条件を満たすか否かを判断する必要がなくなる。したがって、制御部110は、操作が行われてから表示の制御内容を特定するまでの速度を向上させることができる。
【0044】
タッチスクリーン部11は、タッチセンサ141を備えていなくてもよい。この場合、制御部110は、タッチスクリーン部11の近接センサ142により検出された表示装置10と手との距離が閾値未満であると判断された場合に、当該手が表示装置10に接触しているとみなしてもよい。
【0045】
(変形例5)
上述した実施形態において、制御部110は、タッチスクリーン部11から出力された検出結果のなかで、手の重心に相当する位置の座標を第1操作点として特定し、第1操作点の座標をサンプリング順序で連ねた軌跡に基づいて移動方向を特定した。しかしながら、第1操作点は、検出結果の重心である必要は無く、例えば、手の最もX軸正方向に位置する箇所の座標や、最もX軸負方向に位置する箇所の座標を第1操作点として特定してもよく、要するに、移動方向を特定するための基準となるような位置であればよい。
【0046】
(変形例6)
上述した実施形態において、制御部110は、タッチスクリーン部11の予め決められた位置において検出された手の位置のZ座標を第2操作点として特定したが、第2操作点を検出するタッチスクリーン部11の位置はこれに限られない。制御部110は、例えば、表示面131に表示された画像の位置に応じて、第2操作点を検出するタッチスクリーン部11の位置を変更してもよい。
【0047】
(変形例7)
上述した実施形態においては、判定条件は、手の移動方向側の部位のZ座標が、当該移動方向側の部位から見て手の移動方向側とは逆方向側にある部位のZ座標よりも大きい、という条件であったが、これに限られない。例えば、判定条件は、前述の判定条件と異なり、手の移動方向側の部位のZ座標が、当該移動方向側の部位から見て手の移動方向側とは逆方向側にある部位のZ座標よりも小さい、という条件であってもよい。この理由は次のように考えられるからである。例えば、ユーザは目の前に実在する物体に対して手の甲を向け、更にその物体を手の小指側からすくうことで、左右の何れかの方向に払いのけたいと考えたとする。そのときの手の傾きを考えると、その払いのける方向側の手の部位が、その逆方向側の部位よりも低くなる(Z軸負方向に位置する)という傾きになる。このため、タッチスクリーン部に表示された画像を、手の移動方向に移動させるような非接触操作を行う場合であっても、その手の移動方向側の部位がその逆方向側の部位よりも低くなると考えられる。つまり、タッチスクリーン部11により検出された手の移動方向側の部位のZ座標が、その逆方向側の部位のZ座標よりも小さくなると考えられる。これに対し、ユーザが逆動作を行うときには、表示されている画像に対して何らかの処理が行われることは期待していないから、手の移動方向側の部位がその逆方向側の部位と同じ高さに位置する状態か、又は手の移動方向側の部位がその逆方向側の部位よりも高い状態で手を元の位置に戻すと考えられる。つまり、タッチスクリーン部11により検出された手の移動方向側の部位のZ座標が、その逆方向側の部位のZ座標よりも小さくならないと考えられるからである。
【0048】
ところで、前述のように、ユーザの移動操作の態様により、判定条件が異なると考えられるが、ユーザによっては判定条件が同じである方が操作として自然だと捉えることも考えられる。この為、順動作又は逆動作を特定するための判定条件を、ユーザ自身が予め決められたタイミングで設定できるようにしても良い。この場合、制御部110は、ユーザの移動操作の態様を区別することなく、手の傾きが予め決められた判定条件を満たすか否かによって順動作又は逆動作を特定することができる。
【0049】
(変形例8)
本発明は、表示装置以外にも、これらを実現するための方法、及びコンピュータに表示機能を実現させるためのプログラムとしても把握される。かかるプログラムは、これを記憶させた光ディスク等の記録媒体の形態で提供されたり、インターネット等を介して、コンピュータにダウンロードさせ、これをインストールして利用させるなどの形態でも提供されたりする。
【符号の説明】
【0050】
10…表示装置、11…タッチスクリーン部、110…制御部、120…記憶部、121…処理テーブル、130…表示部、131…表示面、140…操作部、141…タッチセンサ、142…近接センサ、143…操作子
【特許請求の範囲】
【請求項1】
画像を表示する表示面を有する表示手段と、
前記表示面にユーザの手を接触させないで移動させる近接操作を受け付ける操作手段と、
前記操作手段によって受け付けられた近接操作における前記手の移動方向及び前記表示面に対する手の傾きを検出する検出手段と、
前記検出手段によって検出された前記手の傾きに基づき、当該手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離との大小関係が、決められた条件を満たすか否かを判断する判断手段と、
前記判断手段により前記条件が満たされると判断された場合には、前記操作が受け付けられたときに表示されていた画像を、前記検出手段によって検出された前記手の移動方向に応じた画像に変更し、前記判断手段により前記条件が満たされないと判断された場合には、前記操作が受け付けられたときに表示されていた画像を変更しない表示制御手段と
を備えることを特徴とする表示装置。
【請求項2】
前記判断手段は、
前記手の移動方向側の部位から前記表示面までの距離が、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離よりも大きい場合に、前記決められた条件を満たすと判断し、前記手の移動方向側の部位から前記表示面までの距離が、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離以下の場合に、前記決められた条件を満たさないと判断する
ことを特徴とする請求項1に記載の表示装置。
【請求項3】
前記表示制御手段は、
第1の操作が前記操作手段によって受け付けられた時刻と、当該第1の操作の後になされた第2の操作が前記操作手段によって受け付けられた時刻との差が閾値以上である場合には、前記判断手段による判断結果によらずに、前記第2の操作が受け付けられたときに表示されていた前記画像の内容を、当該第2の操作について前記検出手段によって検出された前記手の移動方向に応じた画像に変更する
ことを特徴とする請求項1に記載の表示装置。
【請求項4】
画像を表示する表示面を有する表示手段と、前記表示面に前記ユーザの手を接触させないで移動させる近接操作を受け付ける操作手段とを備えた表示装置の制御方法であって、
前記操作手段によって受け付けられた近接操作における前記手の移動方向及び前記表示面に対する手の傾きを検出する検出ステップと、
前記検出ステップにおいて検出された前記手の傾きに基づき、当該手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離との大小関係が、決められた条件を満たすか否かを判断する判断ステップと、
前記判断ステップにおいて前記条件が満たされると判断された場合には、前記操作が受け付けられたときに表示されていた画像を、前記検出ステップにおいて検出された前記手の移動方向に応じた画像に変更し、前記判断ステップにおいて前記条件が満たされないと判断された場合には、前記操作が受け付けられたときに表示されていた画像を変更しない表示制御ステップと
を備えることを特徴とする制御方法。
【請求項5】
画像を表示する表示面を有する表示手段と、前記表示面に前記ユーザの手を接触させないで移動させる近接操作を受け付ける操作手段とを有するコンピュータを、
前記操作手段によって受け付けられた近接操作における前記手の移動方向及び前記表示面に対する手の傾きを検出する検出手段と、
前記検出手段によって検出された前記手の傾きに基づき、当該手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離との大小関係が、決められた条件を満たすか否かを判断する判断手段と、
前記判断手段により前記条件が満たされると判断された場合には、前記操作が受け付けられたときに表示されていた画像を、前記検出手段によって検出された前記手の移動方向に応じた画像に変更し、前記判断手段により前記条件が満たされないと判断された場合には、前記操作が受け付けられたときに表示されていた画像を変更しない表示制御手段と
して機能させるためのプログラム。
【請求項1】
画像を表示する表示面を有する表示手段と、
前記表示面にユーザの手を接触させないで移動させる近接操作を受け付ける操作手段と、
前記操作手段によって受け付けられた近接操作における前記手の移動方向及び前記表示面に対する手の傾きを検出する検出手段と、
前記検出手段によって検出された前記手の傾きに基づき、当該手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離との大小関係が、決められた条件を満たすか否かを判断する判断手段と、
前記判断手段により前記条件が満たされると判断された場合には、前記操作が受け付けられたときに表示されていた画像を、前記検出手段によって検出された前記手の移動方向に応じた画像に変更し、前記判断手段により前記条件が満たされないと判断された場合には、前記操作が受け付けられたときに表示されていた画像を変更しない表示制御手段と
を備えることを特徴とする表示装置。
【請求項2】
前記判断手段は、
前記手の移動方向側の部位から前記表示面までの距離が、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離よりも大きい場合に、前記決められた条件を満たすと判断し、前記手の移動方向側の部位から前記表示面までの距離が、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離以下の場合に、前記決められた条件を満たさないと判断する
ことを特徴とする請求項1に記載の表示装置。
【請求項3】
前記表示制御手段は、
第1の操作が前記操作手段によって受け付けられた時刻と、当該第1の操作の後になされた第2の操作が前記操作手段によって受け付けられた時刻との差が閾値以上である場合には、前記判断手段による判断結果によらずに、前記第2の操作が受け付けられたときに表示されていた前記画像の内容を、当該第2の操作について前記検出手段によって検出された前記手の移動方向に応じた画像に変更する
ことを特徴とする請求項1に記載の表示装置。
【請求項4】
画像を表示する表示面を有する表示手段と、前記表示面に前記ユーザの手を接触させないで移動させる近接操作を受け付ける操作手段とを備えた表示装置の制御方法であって、
前記操作手段によって受け付けられた近接操作における前記手の移動方向及び前記表示面に対する手の傾きを検出する検出ステップと、
前記検出ステップにおいて検出された前記手の傾きに基づき、当該手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離との大小関係が、決められた条件を満たすか否かを判断する判断ステップと、
前記判断ステップにおいて前記条件が満たされると判断された場合には、前記操作が受け付けられたときに表示されていた画像を、前記検出ステップにおいて検出された前記手の移動方向に応じた画像に変更し、前記判断ステップにおいて前記条件が満たされないと判断された場合には、前記操作が受け付けられたときに表示されていた画像を変更しない表示制御ステップと
を備えることを特徴とする制御方法。
【請求項5】
画像を表示する表示面を有する表示手段と、前記表示面に前記ユーザの手を接触させないで移動させる近接操作を受け付ける操作手段とを有するコンピュータを、
前記操作手段によって受け付けられた近接操作における前記手の移動方向及び前記表示面に対する手の傾きを検出する検出手段と、
前記検出手段によって検出された前記手の傾きに基づき、当該手の移動方向側の部位から前記表示面までの距離と、当該移動方向側の部位から見て前記手の移動方向側とは逆方向側にある部位から前記表示面までの距離との大小関係が、決められた条件を満たすか否かを判断する判断手段と、
前記判断手段により前記条件が満たされると判断された場合には、前記操作が受け付けられたときに表示されていた画像を、前記検出手段によって検出された前記手の移動方向に応じた画像に変更し、前記判断手段により前記条件が満たされないと判断された場合には、前記操作が受け付けられたときに表示されていた画像を変更しない表示制御手段と
して機能させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2012−234317(P2012−234317A)
【公開日】平成24年11月29日(2012.11.29)
【国際特許分類】
【出願番号】特願2011−101820(P2011−101820)
【出願日】平成23年4月28日(2011.4.28)
【出願人】(392026693)株式会社エヌ・ティ・ティ・ドコモ (5,876)
【Fターム(参考)】
【公開日】平成24年11月29日(2012.11.29)
【国際特許分類】
【出願日】平成23年4月28日(2011.4.28)
【出願人】(392026693)株式会社エヌ・ティ・ティ・ドコモ (5,876)
【Fターム(参考)】
[ Back to top ]