表示装置、電子機器、およびプログラム
【課題】互いに異なる複数の面に表示部を有する場合であっても、何れの面の表示部に操作者が対面しているかを適切に検出することができる表示装置を提供する。
【解決手段】表示装置は、互いに異なる面に配置されている第1表示部および第2表示部と、第1表示部の表示面に対面する方向である第1方向および第2表示部の表示面に対面する方向である第2方向を撮像する撮像装置と、撮像装置により撮像された画像に基づいて、操作者に対面する表示部が第1表示部および第2表示部の何れであるかを検出する検出部と、を備える。
【解決手段】表示装置は、互いに異なる面に配置されている第1表示部および第2表示部と、第1表示部の表示面に対面する方向である第1方向および第2表示部の表示面に対面する方向である第2方向を撮像する撮像装置と、撮像装置により撮像された画像に基づいて、操作者に対面する表示部が第1表示部および第2表示部の何れであるかを検出する検出部と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示装置、電子機器、およびプログラムに関する。
【背景技術】
【0002】
表示部の表示面に表示されている表示情報を閲覧する操作者を撮像した画像から顔画像を検出して、検出した顔画像の位置や傾きに応じて操作者の顔に正対する位置になるように表示情報を表示させる表示装置がある(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2009−163659号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に示す表示装置にあっては、自装置に備えられている1つの表示部の表示面を閲覧している限られた方向に位置する操作者のみしか検出することができなかった。例えば、互いに異なる複数の面に表示部を有する表示装置においては、何れの面の表示部に操作者が対面しているかを検出することができない場合があった。
【0005】
本発明は、このような事情に鑑みてなされたもので、その目的は、互いに異なる複数の面に表示部を有する場合であっても、何れの面の表示部に操作者が対面しているかを適切に検出することができる表示装置、電子機器、およびプログラムを提供することにある。
【課題を解決するための手段】
【0006】
この発明は上述した課題を解決するためになされたもので、本発明は、互いに異なる面に配置されている第1表示部および第2表示部と、前記第1表示部の表示面に対面する方向である第1方向および前記第2表示部の表示面に対面する方向である第2方向を撮像する撮像装置と、前記撮像装置により撮像された画像に基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する検出部と、
を備えることを特徴とする表示装置である。
【0007】
また、本発明は、上述の表示装置を備えることを特徴とする電子機器である。
【0008】
また、本発明は、互いに異なる面に配置されている第1表示部および第2表示部を有する表示装置が備えるコンピュータに、撮像装置に前記第1表示部の表示面に対面する方向である第1方向および前記第2表示部の表示面に対面する方向である第2方向を撮像させる手順と、前記撮像装置により撮像された画像に基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する手順と、を実行させるためのプログラムである。
【発明の効果】
【0009】
この発明によれば、互いに異なる複数の面に表示部を有する場合であっても、何れの面の表示部に操作者が対面しているかを適切に検出することができる。
【図面の簡単な説明】
【0010】
【図1】本発明の一実施形態による表示装置の概略構成を示す模式図である。
【図2】本発明の一実施形態による表示装置の第1の構成を示す概略ブロック図である。
【図3】撮像された画像から相対位置を検出する処理を説明する図である。
【図4】操作者に対面する表示部の切り替わりを説明する図である。
【図5】表示装置における撮像部の配置例を示す図である。
【図6】表示装置において広角レンズを有する撮像部の配置例を示す図である。
【図7】表示装置において広角レンズを有する撮像部が複数配置されている例を示す図である。
【図8】表示装置において回転駆動可能な撮像部の配置例を示す図である。
【図9】表示装置が把持されている状態の一例を示す図である。
【図10】表示装置の側面に側面接触センサが備えられている例を示す模式図である。
【図11】表示装置に把持部とグリップ位置センサが備えられている例を示す模式図である。
【図12】操作者によって表示装置の把持部が把持されている例を示す第1面側の図である。
【図13】操作者によって表示装置の把持部が把持されている例を示す第2面側の図である。
【図14】側面に移動可能に支持されている把持部の拡大図である。
【図15】側面と把持部との支持機構の一例を説明する断面図である。
【図16】本発明の一実施形態による表示装置の第2の構成を示す概略ブロック図である。
【図17】本発明の一実施形態による表示装置の第3の構成を示す概略ブロック図である。
【図18】車を表示対象とした場合の第1の表示例を示す図である。
【図19】車を表示対象とした場合の第2の表示例を示す図である。
【図20】表示装置の姿勢と操作者の相対位置に基づいて表示を制御する処理の一例を示すフローチャートである。
【図21】車を表示対象とした場合の第3の表示例を示す図である。
【図22】表裏面の切り替えに応じて表裏面の各表示部の表示を制御する例を示す図である。
【図23】単語帳アプリによる表示処理の一例を示すフローチャートである。
【図24】表裏面の切り替えに応じて表裏面の各表示部の表示を制御する別の例を示す図である。
【図25】本発明の一実施形態による表示装置の第4の構成を示す概略ブロック図である。
【図26】電子書籍を表示する場合の表示処理の第1の例を示すフローチャートである。
【図27】電子書籍を表示する場合の表示処理の第2の例を示すフローチャートである。
【図28】表面および裏面の操作入力部における検出領域の一例を示す図である。
【図29】把持状態に応じて操作方法を選択する処理の一例を示すフローチャートである。
【図30】把持状態に基づく操作入力部における検出領域の一例を示す図である。
【図31】把持状態に基づく表示領域の一例を示す図である。
【図32】アプリケーションソフトウェアを実行させる把持状態の一例を示す図である。
【発明を実施するための形態】
【0011】
以下、図面を参照して、本発明の実施の形態について説明する。図1は、この発明の一実施形態による表示装置1の概略構成を示す模式図である。
図1に示す表示装置1は、タブレット型の表示装置である。また、表示装置1は、互いに表裏の位置関係にある第1面101(第1筐体面)と第2面102(第2筐体面)とにおいて、第1面101に第1表示部21を備えており、第2面102に第2表示部22を備えている。すなわち、表示装置1は、互いに表裏の位置関係に配置されている第1表示部21および第2表示部22を備えており、両面に情報または画像等を表示可能である。
図1(a)は、操作者によって第1面101が操作者に対面する面となるように表示装置1が把持されている状態を示している。また、図1(b)は、表示装置1の第1面101を示す図であり、図1(c)は、表示装置1の第2面102を示す図である。
【0012】
第1表示部21および第2表示部22は、操作入力用として、接触式の操作入力部(タッチパネル式の入力部)を備えている。例えば、この操作入力部は、第1表示部21および第2表示部22のそれぞれの表示面上における接触状態を検出する表示面接触センサ(第1接触状態検出部)として、第1表示部21の表示面上に第1表示面接触センサ33を、第2表示部22の表示面上に第2表示面接触センサ34を備えている。
なお、上記表示面接触センサは、表示面上のみに限らず、第1面101および第2面102のそれぞれの面上における接触状態を検出する構成としてもよい。
【0013】
また、表示装置1は、第1面101に配置され、第1表示部21の表示面に対面する方向(第1方向)を撮像する第1撮像部11を備えている。また、表示装置1は、第2面102に配置され、第2表示部22の表示面に対面する方向(第2方向)を撮像する第2撮像部12を備えている。
なお、以下の記述において適宜、表示装置1の操作者に対面する面を表面、その反対側の面であり操作者に対面しない面を裏面とも称する。すなわち、図1(a)において、表示装置1は、操作者に対面している第1表示部21が備えられている第1面101が表面であって、その反対側の面である第2面102が裏面である状態で、操作者によって把持されている。
また、操作者は、例えば、表面側を主な操作面として、第1表示部21の表面上に備えられている第1表示面接触センサ33により操作入力を行う。
【0014】
次に、図2を参照して、表示装置1の構成について説明する。
図2は、この発明の一実施形態による表示装置1の構成を示す概略ブロック図である。
この図において図1の各部に対応する部分には同一の符号を付けている。
【0015】
図2に示す表示装置1は、撮像部10(撮像装置)、表示部20、操作入力部30、検出部40、制御部50、ユーザ認証部70、記憶部5、音出力部6、およびバス80を備えている。
【0016】
撮像部10は、第1面101に配置されている第1撮像部11と、第2面102に配置されている第2撮像部12と、を備えている。例えば、第1撮像部および第2撮像部は、それぞれ光学レンズと、当該光学レンズを介して入力される光学像を撮像する撮像素子と、当該撮像素子に撮像された撮像データをデジタル画像データとして出力する撮像信号処理部と、を有している。また、撮像部10は、後述する制御部50が備えている撮像制御部51により制御される。
【0017】
表示部20は、第1面101に配置されている第1表示部21と、第2面102に配置されている第2表示部22と、を備えている。第1表示部21および第2表示部22は、例えば、液晶表示パネルであって、情報または画像をそれぞれ表示する。
また、表示部20は、タッチパネルであって、操作入力部30が有している表示面接触センサを、第1表示部21および第2表示部22のそれぞれの表示面上に備えている。
【0018】
操作入力部30は、第1面101に配置されている第1操作入力部31と、第2面102に配置されている第2操作入力部32とを備えている。例えば、第1操作入力部31は、第1表示部21の表示面上における接触状態を検出する第1表示面接触センサ33を備えている。また、第2操作入力部32は、第2表示部22の表示面上における接触状態を検出する第2表示面接触センサ34を備えている。
また、表示面接触センサ(第1表示面接触センサ33および第2表示面接触センサ34)は、タッチパネル方式の操作入力デバイスであって、例えば、静電容量方式の接触センサである。なお、表示面接触センサは、静電容量方式に代えて、電磁誘導方式でもよいし、赤外線方式でもよいし、表面弾性波方式でもよいし、抵抗膜方式でもよいし、マトリクス・スイッチ方式でもよい。
また、表示面接触センサは、同時に複数個所の接触を検出することができる多点入力可能な、所謂マルチタッチパネル方式である。
【0019】
検出部40は、相対位置検出部41、姿勢検出部42、および把持状態検出部43を備えている。
相対位置検出部41は、撮像部10により撮像された画像に基づいて、表示装置1に対する操作者の相対位置を検出する。すなわち、相対位置検出部41は、撮像部10により撮像された画像に基づいて、表示部20の表示面に対する操作者の相対位置を検出する。
例えば、相対位置検出部41は、第1撮像部11により撮像された画像に基づいて、第1表示部21の表示面に対する操作者の相対位置を検出する。また、相対位置検出部41は、第2撮像部12により撮像された画像に基づいて、第2表示部22の表示面に対する操作者の相対位置を検出する。
【0020】
また、相対位置検出部41は、撮像部10により撮像された画像から顔を検出し、検出した方向に基づいて、表示部20の表示面に対する操作者の相対位置を検出する。
例えば、相対位置検出部41は、表示部20の表示面に対して顔を検出した方向に、操作者が位置することを検出する。すなわち、相対位置検出部41は、撮像部10により撮像された画像に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する。例えば、相対位置検出部41は、撮像部10により撮像された画像から顔を検出し、検出した方向に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する。具体的には、相対位置検出部41は、第1表示部21に対面する方向に顔を検出した場合、操作者に対面する表示部が第1表示部21であると検出する。また、相対位置検出部41は、第2表示部22に対面する方向に顔を検出した場合、操作者に対面する表示部が第2表示部22であると検出する。
【0021】
なお、相対位置検出部41は、撮像された画像から顔を検出する場合、例えば、顔の形状や特徴をテンプレートとして予め記憶しておき、撮像された画像に対してテンプレートマッチングすることにより顔を検出する。そして、相対位置検出部41は、撮像された画像における画像領域における検出した顔の位置、すなわち検出した顔のある方向に基づいて、操作者の相対位置を検出する。
また、相対位置検出部41は、撮像された画像から顔を検出するのに代えて、身体を検出してもよい。これにより、相対位置検出部41は、撮像された画像から身体を検出し、検出した方向に基づいて、表示部20の表示面に対する操作者の相対位置を検出してもよい。また、相対位置検出部41は、検出した相対位置を制御部50に出力する。
【0022】
また、相対位置検出部41は、撮像部10により撮像された画像に基づいて、操作者に対面する表示部の切り替わりを検出する。例えば、相対位置検出部41は、顔または身体を検出している方向が第1表示部21に対面する方向から第2表示部22に対面する方向に切り替わることに応じて、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わることを検出する。また、相対位置検出部41は、顔または身体を検出している方向が第2表示部22に対面する方向から第1表示部21に対面する方向に切り替わることに応じて、操作者に対面する表示部が第2表示部22から第1表示部21に切り替わることを検出する。
そして、相対位置検出部41は、操作者に対面する表示部が切り替わることを検出した場合、当該切り替わることを示す切替え信号を制御部50に出力する。
【0023】
姿勢検出部42は、表示装置1の姿勢を検出する。例えば、姿勢検出部42は、加速度センサ、角速度センサ、傾斜センサ、または、地磁気センサ等を有しており、水平面に平行な面に含まれる互いに直交するX軸,Y軸、および水平面に直交するZ軸により定まる3次元空間における位置や角度により示される表示装置1の姿勢や動きを検出する。また、姿勢検出部42は、検出した表示装置1の姿勢や動きを制御部50に出力する。
【0024】
把持状態検出部43は、表示装置1が操作者により把持されている状態を把持状態として検出する。例えば、把持状態検出部43は、第1表示部21の表示面上における接触状態を検出する第1表示面接触センサ33と、第2表示部22の表示面上における接触状態を検出する第2表示面接触センサ34と、によって検出されるそれぞれの表示面上における接触状態に基づいて、把持状態を検出する。これにより、把持状態検出部43は、例えば、表示装置1が操作者の手により把持されている場合の把持されている位置、または、表示装置1のいずれの表示面が操作者に対面する表面として把持されているか等を検出する。
【0025】
制御部50は、撮像制御部51、表示制御部52、および操作入力制御部53を備えている。
撮像制御部51は、撮像部10の撮像処理を制御する。例えば、撮像制御部51は、撮像部10が備えている各撮像部に撮像させる撮像タイミング信号を出力する。
表示制御部52は、表示部20の表示処理を制御する。例えば、表示制御部52は、表示部20が備えている各表示部に表示させる情報を選択して表示させる処理、各表示部の表示のオン(表示状態)とオフ(非表示状態)とを切り替える処理等を制御する。ここで、各表示部に表示させる情報とは、画像、文字またはアイコン等による情報、メニュー画面等、表示部に表示させる情報の何れであってもよい。
操作入力制御部53は、操作入力部30において入力される操作に対する検出処理を制御する。例えば、操作入力制御部53は、操作入力部が備えている各表示面接触センサの検出領域の変更、検出動作のオン(検出動作状態)とオフ(検出停止状態)との切り替え処理等を制御する。
【0026】
記憶部5には、表示部20に表示させる情報等が記憶されている。例えば、記憶部5には、表示部20に表示させる情報として、画像、文字またはアイコン等による情報、メニュー画面等、のデータが記憶されている。この記憶部5に記憶されている情報は、制御部50の制御によって読み出される。
音出力部6は、例えば、スピーカーを有しており、制御部50の制御により操作音または警告音などを出力する。なお、音出力部6は、記憶部5に音声ファイルまたは音楽ファイル等が記憶されていて、これらのファイルが制御部50の制御により読み出されて再生された音を出力してもよい。
バス80は、撮像部10、表示部20、操作入力部30、検出部40、制御部50、ユーザ認証部70、記憶部5、および音出力部6と接続され、各部から出力された画像データ、検出信号、制御信号等を転送する。
【0027】
<相対位置を検出する処理>
次に、撮像された画像から相対位置を検出する処理について説明する。
撮像部10により撮像された画像に基づいて、表示装置1に対する操作者の相対位置を検出する。すなわち、相対位置検出部41は、撮像部10により撮像された画像に基づいて、表示部20の表示面に対する操作者の相対位置を検出する。
図3は、撮像された画像から相対位置を検出する処理を説明する図である。
図3(a)は、操作者が表示装置1を把持している状態を示している。この図では、表示装置1の第1面101が操作者によって見られている面(表面)である。
【0028】
第1撮像部11は、第1表示部21の表示面に対面する方向を撮像する。すなわち、図3(a)において、第1撮像部11は、表示装置1に対して操作者がいる方向を撮像する。また、第2撮像部は、第2表示部22の表示面に対面する方向を撮像する。すなわち、図3(a)において、第2撮像部11は、表示装置1に対して操作者がいる方向の反対方向を撮像する。
これにより撮像された画像の例を図3(b)および図3(c)にそれぞれ示す。図3(b)は、第1撮像部11によって撮像された画像の一例であって、画像領域内に操作者が撮像されていることを示している。また、図3(c)は、第2撮像部12によって撮像された画像の一例であって、画像領域内に操作者が撮像されていないこと示している。
【0029】
相対位置検出部41は、この第1撮像部11または第2撮像部12により撮像された画像に基づいて、第1表示部21または第2表示部22に対する操作者の相対位置を検出する。具体的には、相対位置検出部41は、第1撮像部11および第2撮像部12により撮像されたそれぞれの画像から顔を検出する。この図の例では、第1撮像部11により撮像された画像から顔が検出される。また、第2表示部22により撮像された画像からは顔が検出されない。これにより、相対位置検出部41は、顔を検出した方向、すなわち第1撮像部11によって撮像された方向に基づいて、第1表示部21の表示面に対面する方向に操作者が位置することを、表示装置1に対する操作者の相対位置、または、表示部20の表示面に対する操作者の相対位置として検出する。すなわち、相対位置検出部41は、第1撮像部11によって撮像された方向である第1表示部21に対面する方向に顔を検出したことに基づいて、操作者に対面する表示部が第1表示部21であると検出する。また、これにより、相対位置検出部41は、第1表示部21の表示面が表面であって、第2表示部22の表示面が裏面であると検出する。
なお、図3(a)に示す把持状態と表示面が反対の場合、すなわち、表示装置1の第2面102が操作者によって見られている状態で把持されている場合は、相対位置検出部41は、第2撮像部12により撮像された画像から顔を検出して、第2表示部22の表示面に対面する方向に操作者が位置することを検出する。
【0030】
このように、互いに表裏面の位置関係に配置されている表示部を備えている表示装置1は、表裏面それぞれの表示面に対面するそれぞれの方向を撮像する撮像部に撮像された画像に基づいて、表示面に対する操作者の相対位置を検出する。よって、表示装置1は、表示装置1の表示面に対する操作者の相対位置を、両面方向に渡って検出することができる。また、これにより、表示装置1は、互いに表裏面の位置関係に配置されている表示部の何れの表示面が操作者に対する表面(操作者に対面する面)であるかまたは裏面(操作者に対面しない面)であるかを検出することができる。なお、表示装置1は、互いに表裏面の位置関係に配置されている表示部がタッチパネルを備えている場合、何れの面が操作面(または主な操作面)であるかを検出してもよい。例えば、表示装置1は、相対位置検出部41により表面であると検出された面を操作面(または主な操作面)であると検出してもよい。
よって、表示装置1は、表示面に対する操作者の相対位置を適切に検出することができる。すなわち、表示装置1は、互いに表裏面の位置関係に配置されている表示部のうち、何れの表示部が操作者に対面する表示部であるかを検出することができるとともに、操作者に対面する表示部のある表示面を表面であると検出することができる。
【0031】
<操作者に対面する表示部の切り替わりを検出する処理>
続いて、撮像された画像から操作者に対面する表示部の切り替わりを検出する処理について説明する。
相対位置検出部41は、撮像部10により撮像された画像に基づいて、操作者に対面する表示部の切り替わりを検出する。
【0032】
例えば、図3に示す把持状態を例とすると、第1表示部21の表示面に対面する方向を撮像する第1撮像部11により撮像された画像領域内には、操作者が撮像されている。一方、第2表示部22の表示面に対面する方向を撮像する第2撮像部12により撮像された画像領域内には、操作者が撮像されていない。よって、操作者に対面する表示部が第1表示部21であることを検出する。次に、操作者が、操作者に対面しない裏面の第2表示部22を見るために、表示装置1を反転させる、または、裏面の第2表示部22に対面する方向に移動した場合、第1撮像部11により撮像された画像領域内には操作者が撮像されず、第2撮像部12により撮像された画像領域内に操作者が撮像されることになる。
この場合、相対位置検出部41により顔が検出される画像は、第1撮像部11によって撮像された画像から、第2撮像部12により撮像された画像に切り替わる。すなわち、相対位置検出部41により顔が検出される方向は、第1表示部21に対面する方向から第2表示部22に対面する方向に切り替わる。
これにより、相対位置検出部41は、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わることを検出する。つまり、相対位置検出部41は、操作者にとって、第2表示部22が裏面から表面に切り替わり、第1表示部21が表面から裏面に切り替わることを検出する。
【0033】
なお、この第2表示部22が表面、第1表示部21が裏面の状態から、第1表示部21が表面、第2表示部22が裏面の状態に戻った場合は、相対位置検出部41により顔が検出される方向は、第2表示部22に対面する方向から第1表示部21に対面する方向に切り替わる。
これにより、相対位置検出部41は、操作者に対面する表示部が第2表示部22から第1表示部21に切り替わることを検出する。つまり、相対位置検出部41は、操作者にとって、第2表示部22が表面から裏面に切り替わり、第1表示部21が裏面から表面に切り替わることを検出する。
【0034】
図4は、操作者に対面する表示部の切り替わりを説明する図である。
図4(a)は、操作者に対面する表示部が第1表示部21である状態を示しており、第1撮像部11に撮像された画像に顔が撮像され(図4(b)参照)、第2撮像部12に撮像された画像に顔が撮像されていない(図4(c)参照)。相対位置検出部41は、第1撮像部11に撮像された画像からのみ顔を検出することにより、操作者に対面する表示部が第1表示部21であることを検出する。
【0035】
次に、図4(d)は、図4(a)に示す操作者に対面する表示部が第1表示部21である状態から、表示装置1を反転させることにより操作者に対面する表示部が第2表示部22に切り替わった状態を示す。この図4(d)に示す状態では、第1撮像部11に撮像された画像に顔が撮像されず(図4(e)参照)、第2撮像部12に撮像された画像に顔が撮像されている(図4(f)参照)。相対位置検出部41は、第2撮像部12に撮像された画像からのみ顔を検出することにより、操作者に対面する表示部が第2表示部22であることを検出する。
これにより、相対位置検出部41は、顔が検出される画像が第1撮像部11に撮像された画像から第2撮像部12に撮像された画像に切り替わることに応じて、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わることを検出する。
【0036】
また、図4(g)は、図4(a)に示す操作者に対面する表示部が第1表示部21である状態から、操作者が第2表示部22に対面する方向に移動することにより操作者に対面する表示部が第2表示部22に切り替わった状態を示す。この図4(g)に示す状態では、第1撮像部11に撮像された画像に顔が撮像されず(図4(h)参照)、第2撮像部12に撮像された画像に顔が撮像されている(図4(i)参照)。相対位置検出部41は、第2撮像部12に撮像された画像からのみ顔を検出することにより、操作者に対面する表示部が第2表示部22であることを検出する。
これにより、相対位置検出部41は、顔が検出される画像が第1撮像部11に撮像された画像から第2撮像部12に撮像された画像に切り替わることに応じて、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わることを検出する。
【0037】
よって、相対位置検出部41は、顔(または身体)を検出している方向が第1表示部21に対面する方向から第2表示部22に対面する方向に切り替わることに応じて、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わることを検出することができる。また、相対位置検出部41は、顔(または身体)を検出している方向が第2表示部22に対面する方向から第1表示部21に対面する方向に切り替わることに応じて、操作者に対面する表示部が第2表示部22から第1表示部21に切り替わることを検出することができる。
このように、表示装置1は、操作者が表示装置1を反転させることにより操作者に対面する表示部が切り替わった場合であっても、操作者が裏面の表示部に対面する方向に移動した場合であっても、操作者に対面する表示部が第1表示部21および第2表示部22の何れの表示部であるかを検出し、その操作者に対面する表示部の切り替わりを検出することができる。
【0038】
なお、表示装置1は、操作者に対面する表示部の切り替わりを検出する場合、以下に示す処理により検出してもよい。
(1)検出される顔の位置が画像領域内の端の位置に移動することに応じて切り替わりを検出。
操作者が裏面の表示を見るために対面する面を切り替える場合、操作者の相対位置は、切り替える前の表面の表示部に対して中央付近の位置から側面方向に移動した後、裏面方向に移動する。すなわち、切り替える前の表面の表示部に対面する方向を撮像する撮像部により撮像された画像の画像領域において、検出される顔の位置は、中央付近の位置から端の位置に移動する。これにより、例えば、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わる場合、相対位置検出部41は、第1撮像部11により撮像された画像から検出される顔の位置が画像領域内の中央付近の位置から所定の端の位置に移動することに応じて、操作者に対面する表示部の切り替わりを検出してもよい。
ここで、画像領域内の所定の端の位置とは、例えば、撮像部により撮像される画角と、操作者に対面する表示部が切り替わる動作であるとみなす相対位置(表示装置1に対する操作者の相対位置)と、に基づいて、予め設定された位置(画像領域内の端の領域の位置)である。
これにより、表示装置1は、操作者に対面する表示部の切り替わりを検出することができるとともに、切り替わり動作を早いタイミングで検出することができる。
(2)検出される顔の位置が画像領域内の端の位置に移動して画像領域内から検出されなくなるのに応じて切り替わりを検出。
表示装置1が備えている第1撮像部11および第2撮像部12の画角が180度に近い広角である場合、表示装置1は、側面方向に操作者の相対位置が移動した際の操作者の画像を撮像することができるが、画角が180度に対して狭くなるのに応じて、側面方向を撮像することができなくなる。第1撮像部11および第2撮像部12の画角が狭い場合、切り替える前の表面の表示部に対面する方向を撮像する撮像部により撮像された画像の画像領域において、操作者に対面する面が切り替わる動作に応じて、検出される顔の位置は、中央付近の位置から端の位置に移動する。そして、その後、画像領域外となり顔が検出されなくなる。
これにより、例えば、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わる場合、相対位置検出部41は、第1撮像部11により撮像された画像から検出される顔の位置が画像領域内の中央付近の位置から所定の端の位置に移動した後、顔が検出されなくなるのに応じて、操作者に対面する表示部の切り替わりを検出してもよい。
【0039】
なお、相対位置検出部41は、撮像された画像から顔が検出されなくなるのに応じて、姿勢検出部42により検出された表示装置1の姿勢や動きに基づいて、表示装置1の側面方向の操作者の相対位置を検出する構成としてもよい。また、表示装置1は、側面方向を撮像する撮像部を備える構成としてもよい。
これによれば、表示装置1の側面方向の操作者の相対位置を精度よく検出することができる。
【0040】
<撮像部の別の配置例>
次に、表示装置1に備えられている撮像部10の配置例について説明する。
図3を用いて説明した撮像部10は、表示装置1において、第1面101に1つの第1撮像部11、第2面102に1つの第2撮像部12が配置されている例であるが、撮像する範囲が異なる複数の第1撮像部11または複数の第2撮像部12が配置されている構成としてもよい。例えば、第1撮像部11または第2撮像部12は、それぞれ互いに異なる位置に配置されている複数の第1撮像部または複数の第2撮像部を有している。
図5は、表示装置1における撮像部の配置例を示す図である。この図は、第1面101を例として説明している。第2面101は、第1面101と同様の配置としてもよいし、第1面101と異なる配置としてもよい。
【0041】
図5(a)〜(d)は、複数の撮像部の配置例を示す。図5(a)の表示装置1は、第1表示部21の表示面の外周のうち、紙面上の上下に各1つの第1撮像部11が配置されている例を示している。図5(b)の表示装置1は、第1表示部21の表示面の外周のうち、紙面上の上下左右に各1つの第1撮像部11が配置されている例を示している。また、図5(c)の表示装置1は、第1表示部21の表示面の外周の4角うち、互いに対角となる2角の位置に各1つの第1撮像部11が配置されている例を示している。また、図5(d)の表示装置1は、第1表示部21の表示面の外周の4角のそれぞれに各1つの第1撮像部11が配置されている例を示している。
このように、複数の撮像部を配置することにより、表示装置1の把持状態として、表示面に対して垂直となる軸を中心に回転された向き(例えば、表示面が縦長となる向きや表示面が横長となる向き等)で把持された状態の場合、または、操作者の手によって把持される場合の表示装置1が把持される手の位置が様々な場合、等においても、表示装置1は、複数の撮像部のうち適した位置の撮像部により撮像された画像に基づいて、表示面に対する操作者の相対位置を検出することができる。
【0042】
このように、複数の第1撮像部11または複数の第2撮像部12が配置されている構成の場合、制御部50の撮像制御部51は、把持状態検出部43により検出された把持状態と、複数の第1撮像部11または複数の第2撮像部12の何れかにより撮像された画像に基づいて、相対位置を検出する。すなわち、撮像制御部51は、把持状態検出部43により検出された把持状態と、複数の第1撮像部11または複数の第2撮像部12の何れかにより撮像された画像に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する。 例えば、撮像制御部51は、把持状態検出部43により検出された把持状態に基づいて、複数の撮像部の中から撮像させる撮像部を選択する。そして、相対位置検出部41は、撮像制御部51により選択された撮像部により撮像された画像に基づいて、相対位置を検出する。すなわち、相対位置検出部41は、撮像制御部51により選択された撮像部により撮像された画像に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する。
【0043】
一例としては、操作者によって把持されている位置の近傍に配置されている撮像部は、操作者の手によって撮像する方向が遮られる場合がある。そのため、撮像制御部51は、把持状態検出部43により検出された把持状態に基づいて、操作者によって把持されている位置の近傍に配置されている撮像部以外の撮像部を選択する。次に、撮像制御部51は、選択した撮像部に対して撮像タイミング信号を出力して撮像させる。続いて、相対位置検出部41は、撮像制御部51により選択された撮像部により撮像された画像に基づいて、表示面に対する操作者の相対位置を検出する。
これにより、表示装置1は、操作者の手によって撮像する方向が遮られることのない撮像部により撮像された画像と、把持状態検出部43により検出された把持状態とに基づいて、表示面に対する操作者の相対位置を検出することができる。
【0044】
なお、撮像制御部51は、把持状態検出部43により検出された把持状態に基づいて、顔の上下方向が反対とならない撮像部を選択してもよい。また、撮像制御部51は、把持状態検出部43により検出された把持状態に基づいて、操作者に対面する方向を撮像する撮像部を選択してもよい。
また、撮像制御部51は、複数の撮像部の中から撮像させる撮像部として選択しない撮像部に対しては、撮像部の駆動の一部または全てを停止させるなどにより、電力の供給を低減または停止させてもよい。
これにより、撮像制御部51は、複数の撮像部の中から操作者の顔を検出するために適した撮像部を選択して撮像させることができるとともに、撮像部における電力の消費を低減させることができる。
【0045】
なお、撮像部10は、第1表示部21の表示面に対面する方向と、第2表示部22の表示面に対面する方向と、の両方向を撮像する第3撮像部13を備えている構成としてもよい。例えば、撮像部10は、第1表示部21の表示面に対面する方向と、第2表示部22の表示面に対面する方向と、の両方向を撮像する広角レンズを有する第3撮像部13aを備えている。ここで、この広角レンズとは、例えば、画角180度以上の魚眼レンズ等である。
【0046】
図6は、表示装置1において、広角レンズを有する撮像部の配置例を示す図である。
この図は、表示装置1の上側の側面(表示装置1が把持されている姿勢において、第1面101と第2面102とを接続する接続部領域のうち、上側の接続部領域)に、第3撮像部13として、広角レンズを有する第3撮像部13aが配置されている例を示している。第3撮像部13aは、例えば、画角180度以上の魚眼レンズを広角レンズとして有しており、第1表示部21の表示面に対面する方向と、第2表示部22の表示面に対面する方向と、の両方向を含む画像領域を撮像する。
【0047】
相対位置検出部41は、第3撮像部13aにより撮像された画像の画像領域において、顔が検出された画像の位置に基づいて、第1表示部21の表示面に対面する方向と、第2表示部22の表示面に対面する方向と、の何れの方向に操作者が位置しているかを検出する。
これにより、表示装置1は、広角レンズを有する1つの撮像部(第3撮像部13)により撮像された画像に基づいて、表示面に対する操作者の相対位置を検出することができる。
【0048】
なお、表示装置1は、図5を用いて説明した複数の第1撮像部11または複数の第2撮像部12が配置されている構成と同様に、複数の第3撮像部13が配置されている構成としてもよい。
図7は、表示装置1において広角レンズを有する第3撮像部13aが複数配置されている例を示す図である。また、図7は図5と同様に第1面101を例として説明しており、第2面101は、第1面101と同様の配置としてもよいし、第1面101と異なる配置としてもよい。
【0049】
図7(a)の表示装置1は、表示装置1の上側の側面と下側の側面とに各1つの第3撮像部13が配置されている例を示している。図7(b)の表示装置1は、表示装置1の上側の側面と下側の側面とに各1つの第3撮像部13が、互いに対角となる位置に配置されている例を示している。また、図5(c)の表示装置1は、表示装置1の左右の側面それぞれに各3つの第3撮像部13が配置されている例を示している。
なお、ここで上下左右の方向は、図7における紙面上の上下左右の方向である。
【0050】
このように、複数の第3撮像部13が配置されていることにより、図5を用いて説明した複数の第1撮像部11または複数の第2撮像部12が配置されている場合と同様に、操作者による様々な把持状態においても、表示装置1は、複数の第3撮像部13のうち適した位置の撮像部により撮像された画像に基づいて、表示面に対する操作者の相対位置を検出することができる。
【0051】
なお、第3撮像部13は、広角レンズを有している構成に代えて、表示面に平行な軸を中心に回転可能な構成としてもよい。
図8は、表示装置1において回転駆動可能な撮像部の配置例を示す図である。
例えば、この図に示す第3撮像部13は、撮像制御部51により駆動部(不図示)が制御されて回転駆動されることにより、第1表示部21の表示面に対面する方向と、第2表示部22の表示面に対面する方向と、の両方向を撮像することが可能な第3撮像部13bとして構成されている。
この第3撮像部13bは、例えば、第1表示部21の表示面に対面する方向と、第2表示部22の表示面に対面する方向と、の両方向を含む画像領域を撮像する画角を有していない撮像部であっても、表示面に平行な軸を中心に回転させることにより回転方向における全周方向を撮像することができる。
【0052】
なお、撮像部10は、表示装置1に対して着脱可能な構成であってもよい。例えば、撮像部10は、表示装置1の側面に対して着脱可能な構成であってもよい。
これにより、表示装置1において、把持状態等に応じて撮像するのに適した位置に撮像部10を取り付けることができる。また、表示装置1に対して撮像部10を追加して取り付けることができる。さらには、例えば、撮像部を備えていない表示装置に撮像部10を取り付けられる構成としてもよい。
【0053】
<把持状態を検出する処理>
次に、表示装置1が操作者により把持されている状態(把持状態)を検出する処理について説明する。
把持状態検出部43は、第1表示部21および第2表示部22のそれぞれの表示面上における接触状態を検出する表示面接触センサ(第1接触状態検出部)により検出されるそれぞれの表示面上における接触状態に基づいて、把持状態を検出する。
具体的には、把持状態検出部43は、第1表示部21の表示面上における接触状態を検出する第1表示面接触センサ33と、第2表示部22の表示面上における接触状態を検出する第2表示面接触センサ34と、に検出されるそれぞれの表示面上における接触状態に基づいて、把持状態を検出する。
【0054】
例えば、把持状態検出部43は、操作者により表示装置1が把持されることにより第1表示面接触センサ33または第2表示面接触センサ34において検出される手の接触位置に基づいて、表示装置1における把持位置を把持状態として検出する。
また、把持状態検出部43は、把持状態として、操作者にとって何れの面が表面(操作者に対面している面)であるか、または裏面(操作者に対面していない面)であるかを検出する。
【0055】
図9は、表示装置1が把持されている状態の一例を示す図である。この図は、操作者により表示装置1が把持される場合の一般的な把持状態の一例である。この図においては、操作者が表示装置1を右手で把持している。また、操作者の右手の親指が操作者に対面している第1面101側の第1表示部21の表示面に接触しており、右手の親指以外の指が操作者に対面していない第2面102の第2表示部22の表示面に接触している場合を示している。第1表示部21の表示面上における接触状態を検出する第1表示面接触センサ33と第2表示部22の表示面上における接触状態を検出する第2表示面接触センサ34とは、操作者の右手による表示面への接触状態を検出する。
【0056】
例えば、把持状態検出部43は、把持状態として、第1表示面接触センサ33と第2表示面接触センサ34とにより検出されるそれぞれの表示面上における接触領域の数が少ない方の面が表面であり、接触領域の数が多い方の面が裏面であると検出する。すなわち、把持状態検出部43は、親指のみ接触されている接触領域の数が少ない方の第1面101が表面であり、親指以外の複数の指が接触されている接触領域の数が多い方の第2面102が裏面であると検出する。
【0057】
なお、把持状態検出部43は、把持状態として、第1表示面接触センサ33と第2表示面接触センサ34とにより検出されるそれぞれの表示面上における接触領域の面積が小さい方の面が表面であり、接触領域の面積が大きい方の面が裏面であると検出してもよい。例えば、把持状態検出部43は、親指のみ接触されている接触領域の面積が小さい方の第1面101が表面であり、親指以外の複数の指が接触されている接触領域(指毎の接触領域を合計した領域)の面積が大きい方の第2面102が裏面であると検出する。
【0058】
これにより、表示装置1は、把持状態検出部43により検出された把持状態に基づいて、操作者によって把持されている位置や、何れの面を表面または裏面として把持されているかを検出することができる。
【0059】
また、例えば、操作者に対面している面(表面)に対して反対側の面である対面していない面(裏面)に、裏面の表示部を見ている人がいる場合、相対位置検出部41は、第1撮像部11により撮像された画像および第2撮像部12により撮像された画像の両方の画像において顔を検出する。この場合、相対位置検出部41は、さらに、把持状態検出部43により検出された把持状態に基づいて、第1撮像部11により撮像された画像および第2撮像部12により撮像された画像のそれぞれにおいて検出された顔のうち、何れが操作者の顔であるかを判定することができる。これにより、相対位置検出部41は、表示面に対する操作者の相対位置を検出することができる。すなわち、相対位置検出部41は、撮像部10により撮像された画像と、把持状態検出部43により検出された把持状態とに基づいて、表示面に対する操作者の相対位置を検出することができる。
【0060】
<把持状態を検出する処理の別の例>
なお、上述の図9を用いて説明した例は、把持状態検出部43が表示面接触センサにより検出された表示面上における接触状態に基づいて把持状態を検出する例であるが、これに限られるものではない。次に、把持状態検出部43が把持状態を検出する場合の別の検出方法として、以下に示す2つの検出方法の例について説明する。
【0061】
第1の例は、表示装置1の筐体の側面に側面接触センサ46(第2接触状態検出部)が備えられている場合の例であって、操作者の手によって把持される際の接触を検出する場合の例である。
図10は、表示装置1の側面105に側面接触センサ46が備えられている例を示す模式図である。表示装置1は、第1面101および第1面101とは面が異なる第2面102(第1面に対する裏面)のそれぞれの端を接続する接続部領域である側面105に対する接触を検出する側面接触センサ46を備えている。
【0062】
側面接触センサ46は、操作者によって表示装置1が把持された場合、操作者の把持する手が表示装置1の側面における接触された位置を検出する。例えば、側面接触センサ46は、操作者の把持する手が表示装置1の4つの辺の側面のうち、何れの側面に接触されたかを検出する。また、側面接触センサ46は、操作者の把持する手が表示装置1の4つの辺の側面のうち、何れの側面に接触されたかを検出するとともに、接触された側面のうち何れの位置に接触されたかを検出する。このように、側面接触センサ46は、操作者の手よって把持された表示装置1の側面の位置を検出する。
なお、側面接触センサ46は、静電容量方式に代えて、電磁誘導方式でもよいし、赤外線方式でもよいし、表面弾性波方式でもよいし、抵抗膜方式でもよいし、マトリクス・スイッチ方式でもよい。 これにより、把持状態検出部43は、側面接触センサ46により接触が検出された側面105における位置に基づいて、把持状態を検出することができる。
【0063】
また、第2の例は、表示装置1に表示装置1の外周囲の少なくとも一部を移動可能に支持されている把持部200(グリップ)と把持部200の位置を検出するグリップ位置センサ47(第3接触状態検出部)とが備えられている場合であって、グリップ位置センサ47が、把持部200の位置を検出する場合の例である。
【0064】
図11は、表示装置1に把持部200とグリップ位置センサ47が備えられている例を示す模式図である。表示装置1は、例えば、第1面101および第1面101とは面が異なる第2面102のそれぞれの端を接続する接続部領域である側面105にガイド部108(凹形状のガイド溝108Uを有しており、このガイド溝108Uに沿って表示装置1の外周囲の少なくとも一部を移動可能に支持されている把持部200を備えている。そして、この把持部200は、操作者によって表示装置1を把持する際に適した位置に移動されて把持される。また、表示装置1は、表示装置1の外周囲の少なくとも一部を移動された把持部200の位置を検出するグリップ位置センサ47を備えている。これにより、把持状態検出部43は、グリップ位置センサ47により検出された把持部200の位置に基づいて、把持状態を検出する。
なお、把持部200は、表示装置1の第1面101と平行な軸を中心に回転する構成としてもよい。そして、グリップ位置センサ47は、把持部200の回転位置(回転角度)を検出してもよい。
【0065】
また、把持部200は、凹部200Tを有している。凹部200Tは、第1面101(第2面102)の中心に対して外側(反対側)に開口するように形成されている。図11に示す把持部200は、複数の凹部200Tとして第1凹部200Taと第2凹部200Tbと有している。第1凹部200Taと第2凹部200Tbとは、表示装置1の側面105に沿った方向に並んで把持部200の外側に形成されている。
【0066】
図12および図13は、操作者によって表示装置1の把持部200が把持されている例を示す図である。また、図12は第1面101側を示す図であり、図13は第2面102側を示す図である。
図12および図13に示す例では、操作者は、右手で把持部200を把持しており、第1面101が操作者に対面する表面となるように把持している。これらの図に示す例では、第1凹部200Taに操作者の右手の薬指が配置され、第2凹部200Tbに操作者の右手の小指が配置されている。これにより、操作者は、右手の親指が第1面101に接触するように表示装置1を把持していることになり、第1面101が操作者に対面する表面となっている。
すなわち、把持部200は、例えば、操作者が表示装置1を把持する手の親指を操作者に対面する表面に接触可能なように誘導し、把持する手の親指以外の指(人差し指、中指、薬指、および小指)の少なくとも一部を裏面に接触可能なように誘導する形状を有している。
【0067】
このように、把持部200の形状を、操作者の持ち手方向が誘導されるような形状とすることにより、把持状態検出部43は、グリップ位置センサ47により検出された把持部200の表示装置1の外周囲に対する位置または回転位置に基づいて、把持部200の持ち手方向に応じた表示装置1の姿勢を検出することができる。
【0068】
次に、図14および図15を参照して、表示装置1のガイド部108に把持部200が支持されている構成について説明する。
図14は、側面105に移動可能に支持されている把持部200の拡大図である。また、図15は、側面105と把持部200との支持機構の一例を説明する断面図である。
【0069】
把持部200は、支持機構4を介してガイド部108のガイド溝108Uに移動可能に指示されている。支持機構4は、ガイド溝108Uにガイドされて移動可能な移動部9と、把持部200を回転可能に支持する支持部9Sと、を有している。把持部200は、支持部9Sに回転可能に支持される軸部200Jを有している。これにより、把持部200は、ガイド溝108Uに沿って移動可能なように、支持部9Sと軸部200Jとを介して移動部9に支持されている。また、把持部200は、側面105に対して垂直な軸Jを中心に回転可能なように、支持部9Sと軸部200Jとを介して移動部9に支持されている。
なお、ガイド部108は、凹形状のガイド溝108Uに代えて、凸形状のレールとしてもよい。この場合、側面105が有する凸形状のレールに沿って移動部9が移動可能な構成としてもよい。
【0070】
図16は、図10を用いて説明した側面接触センサ46、および図11を用いて説明したグリップ位置センサ47を備えている表示装置1の構成を示す概略ブロック図である。同図において図1の各部に対応する部分には同一の符号を付け、その説明を省略する。
図16に示す構成は、検出部40が、さらに側面接触センサ46およびグリップ位置センサ47を備えていることが図1に示す構成に対して異なる。
上述したように、側面接触センサ46は、表示装置1の側面105に対する接触を検出する。例えば、側面接触センサ46は、操作者が表示装置1を把持している状態において、操作者の手による接触位置を検出する。また、グリップ位置センサ47は、把持部200が表示装置1の側面105において移動された位置または回転位置を検出する。例えば、グリップ位置センサ47は、側面105における把持部200の位置を検出するためのラインセンサ、またはリニアエンコーダを有している。また、例えば、グリップ位置センサ47は、側面105に対する把持部200の回転位置を検出するためのロータリーエンコーダを有している。
また、側面接触センサ46およびグリップ位置センサ47は、検出した検出結果を把持状態検出部43に出力する。
【0071】
このように、把持状態検出部43は、表示装置1の側面105において、側面接触センサ46により検出された接触位置に基づいて、把持状態を検出することができる。また、把持状態検出部43は、グリップ位置センサ47により検出された、表示装置1の外周囲の少なくとも一部を移動可能な把持部200の移動された位置(または回転位置)に基づいて、把持状態を検出することができる。
【0072】
<生体情報を取得して操作者を認識する処理>
次に、表示装置1が備えている撮像部10を用いて、操作者の生体情報を取得して操作者を認識する処理について説明する。
図17は、生体情報を取得して操作者を認識する処理を行う表示装置1の構成の一例を示す概略ブロック図である。同図において図16の各部に対応する部分には同一の符号を付け、その説明を省略する。
図17に示す表示装置1は、ユーザ認証部70を備えていることが図16に示す構成に対して異なる。
【0073】
ユーザ認証部70は、生体情報取得部71と、認証部72とを備えている。
生体情報取得部71は、撮像部10により撮像された操作者の顔または手に基づいて生体情報を取得する。例えば、生体情報取得部71は、生体情報として、顔パターン、指紋パターン、静脈パターン、または、虹彩パターン等、個人を特定できる人間の身体的な特徴情報を取得する。また、生体情報として静脈パターンを取得する場合等、撮像部10は、赤外光を照射する照射部を有し、且つ赤外光の波長域を撮像可能な構成としてもよい。
認証部72は、生体情報取得部71により取得された生体情報に基づいて、操作者の認証を実行する。例えば、記憶部5には、認証するための個人(例えば、操作者になり得る人)の生体情報が予め記憶されており、認証部72は、記憶部5から認証する対象となる個人の生体情報を読み出して、取得された生体情報と認証を行う。
【0074】
よって、ユーザ認証部70は、撮像部10により撮像された画像に基づいて、例えば、顔認証、指紋認証、静脈認証、または、虹彩認証等によって、検出された操作者の個人認証をすることできる。
これにより、例えば、表示装置1が使用される際の認証機能として利用することができる。また、例えば、表示装置1は、撮像部10により撮像された画像から複数の顔が検出された場合に、予め登録されている操作者の顔パターンと顔認証することにより、検出された複数の顔の中から操作者を抽出することも可能である。
【0075】
以上のように、表示装置1は、互いに表裏の位置関係に配置されている第1表示部21および第2表示部22のそれぞれの表示面に対面する方向を撮像した画像に基づいて、第1表示部21および第2表示部22のそれぞれの表示面に対面する両方の方向において、表示面に対する操作者の相対位置を適切に検出することができる。よって、表示装置1は、表裏面両方の方向において、表示面に対する操作者の相対位置を検出することができる。
【0076】
また、表示装置1は、互いに表裏の位置関係に配置されている第1表示部21および第2表示部22のそれぞれの表示面に対面する方向を撮像した画像に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出することができる。すなわち、表示装置1は、第1表示部21および第2表示部22の何れの表示部が操作者に対して表面である状態で把持されているか、または裏面である状態で把持されているかを検出することができる。
また、表示装置1は、互いに表裏の位置関係に配置されている第1表示部21および第2表示部22のそれぞれの表示面に対面する方向を撮像した画像に基づいて、操作者に対面する表示部の切り替わり(表面から裏面への切替わり)を検出することができる。
【0077】
続いて、表示装置1において、相対位置検出部41により検出された表示面に対する操作者の相対位置に応じて、制御部50が表示装置1を制御する処理について説明する。
制御部50は、相対位置検出部41により検出された表示面に対する操作者の相対位置に応じて、表示装置1を制御する。
例えば、制御部50は、相対位置検出部41により検出された表示面に対する操作者の相対位置に応じて、第1表示部21および第2表示部22の表示を制御する。また、制御部50は、相対位置検出部41により検出された表示面に対する操作者の相対位置に応じて、第1表示部21の表示面側および第2表示部22の表示面側のそれぞれに配置されている第1操作入力部31および第2操作入力部32の操作方法を制御する。
【0078】
<相対位置に応じて、表裏面の各表示部の表示を制御する例>
まず、表示制御部52が、操作者の相対位置に応じて、第1表示部21および第2表示部22の表示を制御する場合について説明する。
表示制御部52は、表示対象をA方向から見た場合の像を、第1表示部21に表示させるとともに、A方向と反対のB方向から表示対象を見た場合の像を、第1表示部21の反対面である第2表示部22に表示させる。つまり、表示制御部52は、表示対象に対する視線方向と、表示装置1の表示面に対する視線方向とが、同じ方向となるような表示対象の画像を表示装置1に表示させる。
【0079】
例えば、記憶部5には表示対象の上面視画像および底面視画像が記憶されており、表示制御部52は、記憶部5から読み出した表示対象の上面視画像および底面視画像を、第1表示部21および第2表示部22に次のように表示させる。
表示制御部52は、姿勢検出部42により検出された表示装置1の姿勢が、第1表示部21および第2表示部22の表示面が水平面(XY平面)に対して平行となる姿勢であって、相対位置検出部41により検出された相対位置が、第1表示部21および第2表示部22のうち表示面が上側となる表示部の側の位置である場合、当該上側となる表示部に上面視画像を表示させる。一方、表示制御部52は、相対位置検出部41により検出された相対位置が、第1表示部および第2表示部のうち表示面が下側となる表示部の側の位置である場合、当該下側となる表示部に底面視画像を表示させる。
すなわち、表示制御部52は、表示装置1の表示面が水平面に対して平行となる姿勢である場合であって、第1表示部21が上側、第2表示部22が下側である場合、第1表示部21に表示対象の上面視画像を表示させ、第2表示部22に表示対象の底面視画像を表示させる。
【0080】
図18は、車を表示対象とした場合の第1の表示例を示す図である。また、図18において、XYZ直交座標系が互いに直交するX軸とY軸とが水平面に対して平行に定められ、Z軸が水平面に対して直交する方向に定められている。また、Z軸方向の正方向が上方向、Z軸方向の負方向が下方向である。
図18(a)は、表示装置1が、表示面が水平面に対して平行となる姿勢であって、第1表示部21が上側、第2表示部22が下側であることを示している。そして、図18(b)は、上側の第1表示部21をA方向(上方向)から見た場合に第1表示部21に表示されている表示例を示している。また、図18(c)は、下側の第2表示部22をB方向(下方向)から見た場合に第2表示部22に表示されている表示例を示している。
図18(b)に示すように、表示装置1の上側の表示面には、車の上面視画像が表示されている。一方、図18(c)に示すように、表示装置1の下側の表示面には、車の底面視画像が表示されている。すなわち、表示装置1は、操作者が表示装置1の上側の第1表示部21をA方向(上方向)から見た場合には、同じ視線方向である上方向から車を見た場合の上面視画像を第1表示部21に表示させる。一方、表示装置1は、操作者が表示装置1の下側の第2表示部22をB方向(下方向)から見た場合には、同じ視線方向である下方向から車を見た場合の底面視画像を第2表示部22に表示させる。
【0081】
また、記憶部5には、さらに表示対象の側面視画像が記憶されている場合、表示制御部52は、記憶部5から読みだした表示対象の画像を次のように表示させる。
表示制御部52は、姿勢検出部42により検出された表示装置1の姿勢が、第1表示部21および第2表示部22の表示面が水平面に対して垂直となる姿勢である場合、第1表示部21および第2表示部22に側面視画像を表示させる。
すなわち、表示制御部52は、表示装置1の表示面が水平面に対して垂直となる姿勢である場合、第1表示部21または第2表示部22に表示対象の側面視画像を表示させる。
【0082】
図19は、車を表示対象とした場合の第2の表示例を示す図である。また、図19におけるXYZ直交座標系は図18におけるXYZ直交座標系と同様に定められている。
この図は、表示装置1が、表示面が水平面(XY平面)に対して垂直となる姿勢である場合を示している。図19(a)は、第1表示部21に表示されている表示例を示しており、図19(b)は、第2表示部22に表示されている表示例を示している。
図19(a)、(b)に示すように、表示装置1のそれぞれの表示面には、車の側面視画像が表示されている。例えば、第1表示部21に、車の左側(左フェンダー側)の側面視画像が表示されているとした場合(図19(a)参照)、第2表示部22には、車の右側(右フェンダー側)の側面視画像が表示されている(図19(b)参照)。
なお、図18および図19に示す車の画像の表示制御の場合、表示制御部52は、第1表示部21および第2表示部22のうち操作者に対面しない表示部を非表示状態に制御してもよい。
【0083】
次に、図20を参照して、表示装置1の姿勢と操作者の相対位置に基づいて表示を制御する処理について、図18および図19に示す車の画像の表示を例として説明する。
図20は、表示装置1の姿勢と操作者の相対位置に基づいて表示を制御する処理の一例を示すフローチャートである。
まず、相対位置検出部41は、撮像部10により撮像された画像に基づいて、操作者の相対位置を検出する。例えば、相対位置検出部41は、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する。すなわち、相対位置検出部41は、操作者の閲覧面が第1表示部21および第2表示部22の何れの表示面であるかを検出する(ステップS1)。
【0084】
次に、制御部50は、姿勢検出部42に表示装置1の姿勢を検出させる(ステップS2)。表示制御部52は、相対位置検出部41により検出された操作者の相対位置と姿勢検出部42により検出された表示装置1の姿勢とに基づいて、ステップS1において検出された閲覧面となる表示部に表示させる表示情報を更新する(ステップS3)。例えば、表示制御部52は、検出された表示装置1の姿勢に基づいて、図18に示す車の上面視画像もしくは底面視画像、または、図19に示す車の側面視画像の何れかを選択して記憶部5から読み出して、閲覧面となる表示部に表示させる表示情報として更新する。そして、表示制御部52は、更新された表示情報を閲覧面となる表示部に表示させる(ステップS4)。
例えば、操作者の閲覧面が第1表示部21であると検出され、表示装置1の表示面が水平面に対して平行となる姿勢であって、第1表示部21が上側、第2表示部22が下側であると検出された場合、表示制御部52は、図18(b)に示す車の上面視画像を第1表示部21に表示させる。なお、この場合、表示制御部52は、閲覧面ではない第2表示部22を非表示状態に制御する。
【0085】
続いて、相対位置検出部41は、撮像部10により撮像された画像に基づいて、閲覧面が変更されたか否かを検出する(ステップS5)。ステップS5において、閲覧面が変更されていないと検出された場合、制御部50はステップS2に処理を戻し、姿勢検出部42に表示装置1の姿勢を検出させる。例えば、ステップS2において、姿勢検出部42により検出された表示装置1の姿勢が、表示面が水平面に対して垂直となる姿勢である場合、第1表示部21に表示させる表示情報としての画像を、図18(b)に示す車の上面視画像から図19(a)に示す車の側面視画像に更新する。
一方、ステップS5において、閲覧面が変更されたと検出された場合、表示制御部52は、非閲覧面となった表示部(変更前の閲覧面の表示部)を非表示状態にする。次に、制御部50は、ステップS2に処理を戻し、姿勢検出部42に表示装置1の姿勢を検出させる。
例えば、ステップS5において閲覧面が第1表示部21から第2表示部22に変更された場合、表示制御部52は、第1表示部21を非表示状態にする。次に、ステップS2に処理を戻し、例えば、姿勢検出部42により検出された表示装置1の姿勢が変更されていない場合、すなわち、表示面が水平面に対して平行となる姿勢であって、第1表示部21が上側、第2表示部22が下側であると検出された場合、続いてステップS3において、表示制御部52は、表示させる表示情報としての画像を、図18(b)に示す車の上面視画像から図18(c)に示す車の底面視画像に更新する。そして、表示制御部52は、車の底面視画像を第2表示部22に表示させる。
【0086】
なお、表示装置1が水平面と平行な姿勢であって、上面視画像または底面視画像を表示している状態である場合から、水平面と垂直な方向に回転(変更)された場合、表示装置1は、その回転される際の回転方向に応じて、前後左右それぞれ側面視画像から回転方向に応じた側面視画像を選択して表示させてもよい。
また、上述しように、表示制御部52は、表示対象に対する視線方向と、表示装置1の表示面に対する視線方向とが、同じ方向となるような表示対象の画像を表示装置1に表示させる場合、上面視方向、底面視方向、または側面視方向といった視線方向のみに限られるものではない。例えば、表示制御部52は、図18、図19に定められているX軸、Y軸、およびZ軸のそれぞれを中心に360度回転させた全方向からの表示対象に対する視線方向と、表示装置1の表示面に対する視線方向とが、同じ方向となるような表示対象の画像を表示装置1に表示させてもよい。この場合、表示装置1は、X軸、Y軸、およびZ軸のそれぞれを中心に360度回転させた全方向から視線方向による表示対象の複数の画像を記憶部5に記憶させておいて表示してもよいし、モデリングにより仮想3次元空間上に形成された表示対象のオブジェクトに基づいて画像を生成して表示してもよい。
【0087】
また、表示制御部52は、第1表示部21または第2表示部22に表示対象の外観画像を表示させている状態において、表示対象における可動部を動作させることを示す操作が入力された場合、当該可動部が動作する際の画像を、第1表示部21または第2表示部22に表示させる。
なお、表示制御部52は、第1表示部21または第2表示部22に表示対象の外観画像を表示させている状態において、表示対象の内部が見られる状態になることを示す操作が入力された場合、操作がされた位置に対応する表示対象の内部を示す内部画像を、第1表示部21または第2表示部22に表示させてもよい。
【0088】
図21は、車を表示対象とした場合の第3の表示例を示す図である。また、図21におけるXYZ直交座標系は、図18におけるXYZ直交座標系と同様に定められている。
図21(a)は、第1表示部21に車の側面視画像が表示されており、表示対象の車における可動部であるドアが表示されている位置に、ドアが開く動作をさせることを示す操作として、指によるタッチ操作がされていることを示している。この操作により、表示装置1は、第1表示部21に車のドアが開く画像を表示させた後、図19(b)に示すように、車のドアが開いている状態の側面視画像を表示させる。また、この図19(b)に示す画像の場合、表示装置1は、車のドアが開いたことにより、車の内部が見られる状態になるため、ドアが開いた位置には車の内部を示す画像を表示させる。
【0089】
このように、表示装置1は、表示対象に対する視線方向と、表示装置1の表示面に対する視線方向とが、同じ方向となるように、表示対象を表示装置1に表示させることができる。また、表示装置1は、操作入力に応じ、表示されている表示対象における可動部を動作させること、または表示対象の内部画像を表示させることができる。
【0090】
なお、図18から図21を用いて車を表示対象の例とした場合を説明したが、次のような水面から上の画像や下(水中)の画像を表示対象とした制御も可能である。
例えば、姿勢検出部42により検出された表示装置1の姿勢が、表示装置1の表示面が水平面に対して平行となる姿勢である場合、表示制御部52は、上側の表示面には水面に対面する上方向から水面を見た場合の画像を表示させ、下側の表示面には水中から水面方向を見上げた場合の画像を表示させてもよい。また、表示装置1の表示面が水平面に対して垂直となる姿勢である場合、表示制御部52は、第1表示部21または第2表示部22に半水面画像を表示させてもよい。さらに、この姿勢において、姿勢検出部42または相対位置検出部41により表示装置1が上下に移動されたことが検出された場合、表示制御部52は、表示装置1が上下に移動されるのに応じて、半水面画像における水面の位置を上下に移動させた画像を表示させてもよい。
【0091】
<表示部の表面と裏面とに基づいて、表示を制御する例>
次に、制御部50の表示制御部52が、相対位置検出部41により検出された表面および裏面に基づいて、表面の表示部と裏面の表示部との表示を制御する例について説明する。
ここで、上述したように、表示装置1における表面とは操作者に対面する面であって、裏面とは表面の反対面となる操作者に対面しない面である。
相対位置検出部41は、検出した相対位置に基づいて、第1表示部21および第2表示部22のうち、操作者に対面する表示部の表示面を表面であると検出するとともに、他方の表示部の表示面を裏面であると検出する。表示制御部52は、相対位置検出部41により検出された結果(表面および裏面)に基づいて、表面の表示部または裏面の表示部の表示を制御する。
【0092】
例えば、表示制御部52は、表面の表示部を表示状態とするとともに、裏面の表示部の表示を非表示状態にする。これにより、表示制御部52は、操作者によって見られていない裏面の表示部を非表示状態にすることにより、表示装置1において消費される電力を削減できる。また、裏面の表示を非表示状態にすることにより、裏面に対面する側の人に情報が見られてしまうことを防止できる。
【0093】
なお、表示装置1は、表示部の表面と裏面とに基づいて、表示を制御する例として、次以下のような制御をしてもよい。
表示装置1は、表面の表示部にウェブサイトを表示させている場合であって、表示されているウェブサイトにリンクされている他のページや他のウェブサイトの表示情報を、操作者によって操作されるのに応じて表示させる場合、リンク先の表示情報を裏面の表示部に表示させる制御をしてもよい。例えば、リンク先の表示情報が操作者にとって有害な情報を含んでいる場合がある。表示装置1の制御部50は、リンク先の表示情報のデータを解析して、有害な情報を含んでいる可能性があると判定した場合、リンク先の表示情報を裏面の表示部に表示させる制御をしてもよい。
これにより、表示装置1は、リンク先の表示情報を裏面の表示部に表示するため、操作者にとって有害な表示情報が表示される場合であっても、操作者が裏面の表示部を注意しながら見る事ができるため、その有害な表示情報を意図せず突然見てしまうことを防止することができる。
【0094】
(表裏面の切り替えに応じて表裏面の表示を制御する例)
続いて、表示装置1が、表裏面が切り替わることに応じて表裏面の表示を制御する例を説明する。
相対位置検出部41は、検出された相対位置に基づいて、操作者に対面する面が表面の表示部から裏面の表示部に変更されるか否かを検出する。すなわち、相対位置検出部41は、検出された相対位置に基づいて、操作者に対面する面が表面の表示部から裏面の表示部に切り替わるか否かを検出する。そして、相対位置検出部41は、検出された相対位置に基づいて、操作者に対面する面が表面の表示部から裏面の表示部に切り替わることを検出した場合、当該切り替わることを示す切替え信号を制御部50に出力する。
【0095】
制御部50の表示制御部52は、相対位置検出部41により操作者に対面する面が表面の表示部から裏面の表示部に切り替わることが検出されて切替え信号が入力された場合、切り替わり前の裏面の表示部の表示を非表示状態から表示状態にする。これにより、制御部50は、操作者による操作入力を必要とせずに、非表示状態であった裏面の表示部が操作者に見られる表面に切り替わることを検出して表示状態にすることができる。
【0096】
なお、表示制御部52は、表示面に対する操作者の相対位置に応じて検出した表面および裏面に基づいて表示の制御をしている。そのため、表示制御部52は、表示装置1を反転させることにより、操作者に対面する面が表面の表示部から裏面の表示部に変更される場合であっても、表示装置1を反転せずに操作者が移動することによって見る面が表面の表示部から裏面の表示部に変更される場合であっても、同様の制御が可能である。
【0097】
次に、表示装置1が、表裏面が切り替わることに応じて表裏面の表示を制御する例として単語帳アプリ(アプリケーションソフトウェア)の例を説明する。この単語帳アプリは、表示装置1において実行することにより、表面の表示部に英単語(問題)を表示させ、裏面の表示部に、表面の表示部表示させた英単語の意味(解答)、または、その解答のヒントを表示させるといった制御をする。
【0098】
例えば、表示制御部52は、表面の表示部に問題(第1情報)を表示させる。次に、表示制御部52は、相対位置検出部41から切り替え信号が入力されるのに応じて、切り替わり前の表面の表示部に表示させている問題(第1情報)と関連付けられている解答またはヒント(第2情報)を変更される前の裏面の表示部に表示させる。また、表示制御部52は、切替え信号が入力される回数に応じて、解答またはヒント(第2情報)の内容を変更して、切り替わり前の裏面の表示部に表示させる。例えば、表示制御部52は、切替え信号が入力される回数に応じて、表示させるヒントの内容を変更する、または、ヒントを表示させるか解答を表示させるかを選択する。
【0099】
なお、表示制御部52は、操作者に対面する表示部が表面の表示部から裏面の表示部に切り替わる際の相対位置の変位方向に応じて、解答またはヒント(第2情報)の内容を変更して、切り替わり前の裏面の表示部に表示させてもよい。例えば、表示制御部52は、切り替わる際の相対位置の変位方向に応じて、表示させるヒントの内容を変更する、または、ヒントを表示させるか解答を表示させるかを選択してもよい。
また、表示制御部52は、操作者に対面する表示部が表面の表示部から裏面の表示部に切り替わる際の相対位置の変位量に応じて、解答またはヒント(第2情報)の内容を変更して、切り替わり前の裏面の表示部に表示させる。
【0100】
なお、問題(第1情報)、および解答またはヒント(第2情報)のデータは、アプリケーションソフトウェアまたはアプリケーションソフトウェアに対応する辞書データファイルが有するデータである。そして、これらのデータは、例えば、表示装置1においてアプリケーションソフトウェアが実行されことに応じて、当該実行されている期間、制御部50の制御により記憶部5に記憶されて適宜処理に使用される。
【0101】
図22は、表裏面の切り替えに応じて表裏面の各表示部の表示を制御する例を示す図であって、単語帳アプリを例とした表示制御を示す図である。
例えば、第1表示部21を表面の表示部、第2表示部22を裏面の表示部とした状態である場合、表示制御部52は、第1表示部21に英単語(問題)を表示させる。次に、相対位置検出部41により操作者に対面する面が第1表示部21から第2表示部22に切り替わることが検出された場合、表示制御部52は、1回目の第1表示部21から第2表示部22への切り替わり、および2回目の第1表示部21から第2表示部22への切り替わりにおいては、第2表示部22にヒントを表示させ、3回目の第1表示部21から第2表示部22への切り替わりにおいて、英単語の意味(解答)を表示させる。また、表示制御部52は、1回目の第1表示部21から第2表示部22への切り替わり、および2回目の第1表示部21から第2表示部22への切り替わりにおいて、第2表示部22に表示させるヒントの内容を変更して表示させてもよい。例えば、表示制御部52は、第1表示部21から第2表示部22に切り替わり回数が増加することに応じて、解答がより導かれやすいヒントに変更して第2表示部22に表示させてもよい。
【0102】
次に、図23を参照して、上述した単語帳アプリの制御に応じた表示処理の一例について説明する。
図23は、単語帳アプリによる表示処理の一例を示すフローチャートである。
まず、表示制御部52は、英単語(問題)を記憶部5から読み出して、表面である第1表示部21に表示させる(ステップS11)。次に、表示制御部52は、第1表示部21に注意回数を表示させる(ステップS12)。この注意回数は、同じ英単語(問題)を過去に表示させた際に、当該問題に対する回答が不正解であった場合、またはヒントの表示回数が多かった場合、操作者に対して要注意問題であることを通知するために計数して登録された注意回数であり、後述の処理(ステップS22)において計数される。
【0103】
次に、制御部50は、操作者がヒント回数(ヒントの更新回数)を0に設定する(ステップS13)。なお、このヒント回数は、制御部50の制御により、英単語(問題)に関連づけられて記憶部5に記憶される。続いて、表示制御部52は、第1表示部21に表示させた英単語(問題)に関連付けられているヒントを記憶部5から読み出して、裏面である第2表示部22に表示させる(ステップS14)。
続いて、相対位置検出部41は、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わったか否かを検出する。すなわち、相対位置検出部41は、表示装置1が反転された、または、操作者によって裏面が覗き込まれた等により、表裏面が切り替わったか否かを検出する(ステップS15)。ステップS15において表裏面が切り替わったと検出された場合、制御部50は、ヒント回数が5回未満であるか否かを判定する(ステップS16)。
【0104】
ステップS16においてヒント回数が5回未満であると判定された場合、ヒント回数に1を加算して(ステップS17)、記憶部5から次に表示させるヒントを読み出し、裏面に表示させるヒントの表示情報を更新する(ステップS18)。そして、操作者に対面する表示部が第2表示部22から第1表示部21に切り替わったことが相対位置検出部41により検出された後、すなわち、操作者がヒントを見てから再び英単語(問題)が表示されている第1表示部21に対面する位置に戻ったことが検出された場合、制御部50は、ステップS14に処理を戻し、表示制御部52は、更新したヒントを裏面である第2表示部22に表示させる。
一方、ステップS16においてヒント回数が5回未満でないと判定された場合、制御部50は、注意回数に1を加算し(ステップS22)、加算した注意回数を当該英単語(問題)に関連付けて記憶部5に記憶させ登録する(ステップS23)。次に、表示制御部52は、解答を第2表示部22に表示させて終了する(ステップS24)。
【0105】
また、ステップS15において表裏面が切り替わっていないと検出された場合、制御部50は、第1表示部21に表示させた英単語(問題)に対する操作者からの回答を受け付ける。例えば、表示制御部52は、第1表示部21の表示領域内の一部に、回答入力領域を表示させる。なお、表示制御部52は、第1表示部21の表示領域内の一部に、回答の選択肢を表示させてもよい。
次に、操作者によって回答が入力されるのに応じて、制御部50は、表示させている英単語(問題)に関連付けられているその英単語(問題)の意味(解答)と、操作者によって入力された回答と、を比較して、操作者の回答が正解であるか否かを判定する(ステップS20)。ステップS20において操作者の回答が正解でないと判定された場合、表示制御部52は、第1表示部21に正解でないことを示す情報を表示させ、ステップS15に処理を戻す。一方、ステップS20において操作者の回答が正解であると判定された場合、制御部50は、英単語(問題)に関連付けられているヒント回数を記憶部5から読み出して、読み出したヒント回数が3回以上であるか否かを判定する(ステップS21)。
【0106】
ステップS21においてヒント回数が3回以上でないと判定された場合、表示制御部52は、解答を第2表示部22に表示させて終了する(ステップS24)。一方、ステップS21においてヒント回数が3回以上であると判定された場合、制御部50は、注意回数に1を加算し(ステップS22)、加算した注意回数を当該英単語(問題)に関連付けて記憶部5に記憶させ登録する(ステップS23)。次に、表示制御部52は、解答を第2表示部22に表示させて終了する(ステップS24)。
【0107】
このように、表示装置1は、例えば、英単語(問題)を表面の表示部に表示させるとともに、表裏面が切り替わるのに応じて、表面の表示部に表示させている問題(第1情報)と関連付けられている解答またはヒント(第2情報)を切り替わり前の裏面の表示部に表示させることができる。また、表示装置1は、表裏面の切り替えの回数に応じて、第2情報として解答表示させるか、またはヒントを表示させるかを選択することができる。また、表示装置1は、ヒント回数が多い英単語(問題)、または、正解できなかった英単語(問題)には、要注意問題として注意回数を関連付けて登録するため、次に、表示する際にその注意回数を表示することにより操作者に注意を促すことができる。また、制御部50は、英単語(問題)に関連付けられている注意回数に基づいて、注意回数が0でない英単語(問題)のみを選択して記憶部5から読み出し、順次表示させて出題してもよい。なお、制御部50は、注意回数に限らず不正解の回数、正解の回数、正解に要した時間等を計数または計測して、英単語(問題)に関連付けて記憶させ、表示処理等に利用してもよい。
よって、表示装置1は、上記に説明した単語帳アプリの制御に応じた処理を実行した場合、実際に単語帳を使用する際の動作に対して違和感の少ない直感的な操作を操作者に提供することができる。
【0108】
なお、図22および図23を用いて単語帳アプリを例として説明したが、これに限られるものではない。例えば、第1情報は英単語に限らず様々な分野の問題であってもよい。そして、第1情報に関連付けられている第2情報は、当該問題に対応したヒントおよび解答であってもよい。
【0109】
また、図22および図23を用いて説明した例は、表示制御部52が、表裏面が切り替わる回数によってヒント、または解答を第2表示部22に表示させる制御であるが、表裏面の表示部が切り替わる際の表示部に対する操作者の相対位置の変位方向によって、第2表示部22に表示させる表示内容を変更してもよい。
図24は、表裏面の切り替えに応じて表裏面の各表示部の表示を制御する単語帳アプリを例とした表示制御を示す図であって、図22に示す制御とは別の例を示す図である。例えば、図24に示すように、表示制御部52は、相対位置検出部41により表示面が水平面と平行な軸を中心に回転されたことが検出された場合には第2表示部22にヒントを表示させ、表示面が水平面と垂直な軸を中心に回転されたことが検出された場合には解答を第2表示部22に表示させる制御をしてもよい。
これにより、表示装置1は、表裏面の表示部が切り替わる際の表示部に対する操作者の相対位置の変位方向に応じて、切り替わり前の裏面(切り替わり後の表面)に表示させる情報を変更することができる。
【0110】
また、表示制御部52は、表裏面の表示部が切り替わる際の表示部に対する操作者の相対位置の変位量によって、第2表示部22に表示させる表示内容を変更してもよい。例えば、相対位置検出部41により検出された操作者の位置が、第2表示部22の表示面に正対する方向の位置である場合と、第2表示部22の表示面に対して斜め方向の位置である場合とによって、第2表示部22に表示させる表示内容を変更してもよい。つまり、操作者が裏面である第2表示部22を完全に見た場合と少しだけ覗き見した場合とによって、表示装置1は、第2表示部22に表示させるヒントの内容を変更してもよいし、ヒントを表示させるか解答を表示させるかを選択してもよい。
これにより、表示装置1は、表裏面の表示部が切り替わる際の表示部に対する操作者の相対位置の変位量に応じて、切り替わり前の裏面(切り替わり後の表面)に表示させる情報を変更することができる。
【0111】
なお、表示制御部52は、第1表示部21に表示させた英単語(問題)に対する回答が操作者によって入力された場合、入力された答えが正しいか否かが判定された結果を、第1表示部21または第2表示部22に表示させてもよい。
また、制御部50は、第1表示部21に英単語(問題)を表示させている状態において、相対位置検出部41から切替え信号が入力された場合、音出力部6から音を出力させて警告、または、表示装置1の筐体を振動させる振動部により振動させて警告してもよい。例えば、表示制御部52が表面の第1表示部21に問題を表示させ、裏面の第2表示部22に解答を表示させている場合、制御部50は、切替え信号が入力された場合、裏面の第2表示部22に表示させている解答が覗き見されていると判定して、音出力部6から音を出力させて警告、または、表示装置1の筐体を振動させる振動部により振動させて警告してもよい。
これにより、表示装置1は、例えば、操作者によって裏面の表示部に表示させている解答が覗き見されている場合等に、操作者に警告することができる。
【0112】
このように、表示装置1は、表示面に対する操作者の相対位置を検出することにより、操作者に対面する表示面が切り替わることに応じて、表示を変更する等の適した制御を実行することができる。
【0113】
続いて、表示装置1が入力された音声情報から音声を認識して、その音声認識の結果に基づいて、表示を制御する例について説明する。
図25は、音声認識処理を行う表示装置1の構成の一例を示す概略ブロック図である。同図において図17の各部に対応する部分には同一の符号を付け、その説明を省略する。
図25に示す表示装置1は、音入力部7と、音声認識部8とを備えていることが図17に示す構成に対して異なる。
【0114】
音入力部7は、表示装置1の周囲の音や音声を検出するマイクを有しており、検知した音を音信号に変換して出力する。音声認識部8は、音入力部7から入力される音信号から音声情報を抽出して、音声を認識する処理を実行する。例えば、音声認識部8は、音声情報からその音声に含まれている言葉の内容を認識して、その音声認識の結果を制御部50に出力する。制御部50の表示制御部52は、音声認識部8により認識された音声認識の結果に基づいて、表面または裏面の表示部の表示を制御する。
【0115】
例えば、図22から図24を用いて説明した単語帳アプリの例において、表示装置1が第1表示部21に英単語(問題)を表示させている場合、操作者がその英単語(問題)の意味(解答)を表示装置1に対して発生することにより、表示装置1は、その回答が正解であるか否かを示す情報を表示する。具体的には、音入力部7は、操作者が発生した音声を入力する。音声認識部8は、音入力部7から入力された操作者が発生した回答の音声を認識する処理を実行する。制御部50は、第1表示部21に表示させている英単語(問題)に関連付けられているその英単語(問題)の意味(解答)と、音声認識部8により認識された操作者が発生した回答と、を比較(例えば、音声パターンマッチング)して、操作者の回答が正解であるか否かを判定する。次に、表示制御部52は、判定結果に基づいて、操作者の回答が正解であるか否かを示す情報を第2表示部22に表示させる。
このように、表示装置1は、入力される音声情報から音声を認識して、その音声認識の結果に基づいて、表示を制御することができる。
【0116】
(表裏面が切り替わることに応じて、電子書籍の表示を制御する例)
次に、表示装置1が電子書籍を表示する場合を例として、操作者に対面する表示部が表面の表示部から裏面の表示部に切り替わることに応じて表示を制御する例について説明する。
相対位置検出部41は、操作者に対面する表示部が表面の表示部から裏面の表示部に切り替わることを検出した場合、当該切り替わることを示す切替え信号を出力する。表示制御部52は、相対位置検出部41から切り替え信号が入力されることに応じて、表面の表示部および裏面の表示部の表示を制御する。
【0117】
記憶部5には、電子書籍に記載されている情報が順序付けされた頁毎に記憶されている。そして、表示制御部52は、記憶部5から読み出した順序付けされた頁毎に記憶されている情報を、第1表示部21または第2表示部22に表示させる。この場合、表示制御部52は、相対位置検出部41から切り替え信号が入力される毎に、表面の表示部と裏面の表示部とのうち、切り替わり前における表面の表示部に表示されている情報に対して順序に従った次の頁に対応する情報を、切り替わり後の表面の表示部に表示させる。
【0118】
例えば、表示制御部52は、記憶部5から読み出した電子書籍の頁毎の情報を表示している場合、相対位置検出部41から切り替え信号が入力される毎に、表面の表示部と裏面の表示部とのうち、切り替わり前における表面の表示部に表示されている情報に対して順序に従った次の頁に対応する情報を、切り替わり後の表面の表示部に表示させる。つまり、表示制御部52は、表示装置1を回転または操作者の表示装置1に対する位置を変更することにより、操作者に対面する表示部が表面の表示部から裏面の表示部に切り替わった場合、切り替わり前における表面の表示部に表示されている情報の次の頁の情報を、切り替わり後の表面の表示部に表示させる。すなわち、表示装置1は、頁送りした情報を切り替わり後の表面の表示部に表示させる。
【0119】
また、表示制御部52は、順序に従って次の頁に対応する情報または画像を表示させる場合の頁送りの方向を、相対位置検出部41から切り替え信号が入力される際に、操作入力部30から入力されている操作入力に基づいて、昇順方向と降順方向とのうちから何れかを選択する。
【0120】
例えば、操作入力部30には降順方向を選択する検出領域があり、操作者が、この検出領域にタッチ操作しながら、操作者に対面する表示部を表面の表示部から裏面の表示部に切り替えたとする。この場合、表示制御部52は、操作入力部30により降順方向が選択される操作が検出され、且つ、相対位置検出部41から切り替え信号が入力されることに応じて、切り替わり前における表面の表示部に表示されている情報の前の頁の情報を、切り替わり後の表面の表示部に表示させる。すなわち、表示制御部52は、操作入力部30により降順方向が選択される操作が検出されている場合、切り替え信号が入力されることに応じて、頁戻しした情報を切り替わり後の表面の表示部に表示させる。
【0121】
一方、操作者が、降順方向を選択する検出領域にタッチ操作せずに、操作者に対面する表示部を表面の表示部から裏面の表示部に切り替えたとする。この場合、表示制御部52は、操作入力部30により降順方向が選択される操作が検出されておらず、且つ、相対位置検出部41から切り替え信号が入力されることに応じて、切り替わり前における表面の表示部に表示されている情報の次の頁の情報を、切り替わり後の表面の表示部に表示させる。すなわち、表示制御部52は、操作入力部30により降順方向が選択される操作が検出されていない場合、切り替え信号が入力されることに応じて、頁戻しした情報を切り替わり後の表面の表示部に表示させる。
【0122】
図26は、電子書籍を表示する場合の表示処理の第1の例を示すフローチャートである。この図を参照して、表示装置1が電子書籍を表示する場合の表示処理について説明する。
まず、相対位置検出部41は、撮像部10に撮像された画像に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する。すなわち、相対位置検出部41は、第1表示部21および第2表示部22の何れの表示部が、表面となる表示部であるかまたは裏面となる表示部であるかを検出する(ステップ31)。例えば、相対位置検出部41は、第1表示部21が表面の表示部であり、第2表示部22が裏面の表示部であると検出する。
【0123】
次に、表示制御部52は、相対位置検出部41により検出された表面となる表示部に、記憶部5から読み出した表示対象の電子書籍のn頁(nは自然数)の情報を表示させる(ステップS32)。例えば、表示制御部52は、相対位置検出部41により検出された表面となる第1表示部21に電子書籍の「n頁」の情報を表示させる。
【0124】
続いて、相対位置検出部41は、撮像部10に撮像された画像に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する(ステップS33)。そして、相対位置検出部41は、ステップS33の検出結果に基づいて、操作者に対面する表示部の切り替わり、すなわち、表裏面の切り替わりを検出する(ステップS34)。例えば、相対位置検出部41は、ステップS33において操作者に対面する表示部が第1表示部21であると検出した場合、表面となる表示部が第1表示部21から変更されていないため、表裏面が切り替わっていないことを検出する。一方、相対位置検出部41は、ステップS33において操作者に対面する表示部が第2表示部22であると検出した場合、表面となる表示部が第1表示部21から第2表示部22に変更されているため、表裏面が切り替わったことを検出して、切り替え信号を制御部50に出力する。
【0125】
ステップS34において表裏面が切り替わっていないことが検出された場合(相対位置検出部41から制御部50に切り替え信号が入力されない場合)、制御部50は、ステップS33に処理を戻す。一方、ステップS34において表裏面が切り替わったことが検出された場合(相対位置検出部41から制御部50に切り替え信号が入力された場合)、制御部50は、表裏面が切り替わる際に、降順方向が選択される操作入力が検出されたか否かを判定する(ステップS35)。
【0126】
ステップS35において、降順方向が選択される操作入力が検出されたと判定された場合、表示制御部52は、電子書籍の「n−1頁」の情報を記憶部5から読み出して、読み出した「n−1頁」の情報を切り替わり後の表面の表示部に表示させる(ステップS36)。例えば、表示制御部52は、切り替わり後の表面となる第2表示部22に電子書籍の「n−1頁」の情報を表示させる。続いて、表示制御部52は、切り替わり後の裏面となる第1表示部21を非表示状態にして、ステップS33に処理を戻す(ステップS38)。
【0127】
一方、ステップS35において、降順方向が選択される操作入力されていないことが検出されたと判定された場合、表示制御部52は、電子書籍の「n+1頁」の情報を記憶部5から読み出して、読み出した「n+1頁」の情報を切り替わり後の表面の表示部に表示させる(ステップS37)。例えば、表示制御部52は、切り替わり後の表面となる第2表示部22に電子書籍の「n+1頁」の情報を表示させる。続いて、表示制御部52は、切り替わり後の裏面となる第1表示部21を非表示状態にして、ステップS33に処理を戻す(ステップS38)。
【0128】
このように、表示装置1は、電子書籍の頁毎の情報を表示させる場合、表示装置1の表裏面の切り替わりに応じて、頁の順序に従って頁送りまたは頁戻しした情報を、切り替わり後の表面となる表示部に表示することができる。また、表示装置1は、表裏面が切り替わる際の操作者によるタッチパネルへの操作の有無に応じて、頁送りまたは頁戻しを選択して表示することができる。
【0129】
なお、表示制御部52は、順序に従って次の頁に対応する情報または画像を表示させる場合の頁送りの方向を、相対位置検出部41から切り替え信号が入力される時間間隔(操作者に対面する表示部の切り替わりの時間間隔)に応じて、昇順方向と降順方向とのうちから何れかを選択してもよい。
【0130】
例えば、表示制御部52は、相対位置検出部41から切り替え信号が短い時間間隔(例えば、1秒未満の時間間隔)で入力された場合、切り替わり前における表面の表示部に表示されている情報の前の頁の情報を、切り替わり後の表面の表示部に表示させる。すなわち、表示制御部52は、切り替え信号が短い時間間隔で入力された場合、頁戻しした情報を切り替わり後の表面の表示部に表示させる。
【0131】
一方、表示制御部52は、相対位置検出部41から切り替え信号が長い時間間隔(例えば、1秒以上の時間間隔)で入力された場合、切り替わり前における表面の表示部に表示されている情報の次の頁の情報を、切り替わり後の表面の表示部に表示させる。すなわち、表示制御部52は、切り替え信号が長い時間間隔で入力された場合、頁送りした情報を切り替わり後の表面の表示部に表示させる。
【0132】
図27は、電子書籍を表示する場合の表示処理の第2の例を示すフローチャートである。この図に示す処理は、頁送りまたは頁戻しを選択する処理が図26と異なる。図26と同様の処理については適宜その説明を省略する。
【0133】
図27のステップS41、S42は、図26のステップS31、S32とそれぞれ同様の処理であり、表示制御部52は、例えば、相対位置検出部41により検出された表面となる第1表示部21に電子書籍の「n頁」の情報を表示させる。
次に、制御部50は、内部に備えているタイマを0に設定(T=0)して(ステップS43)、時間の計測を開始する(ステップS44)。
【0134】
続いて、図27のステップS45、S46は、図26のステップS33、S34とそれぞれ同様の処理であり、相対位置検出部41は、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出し(ステップS45)、検出した結果に基づいて表裏面の切り替わりを検出する(ステップS46)。例えば、相対位置検出部41は、ステップS45において操作者に対面する表示部が第2表示部22であると検出した場合、表面となる表示部が第1表示部21から第2表示部22に変更されているため、表裏面が切り替わったことを検出して、切り替え信号を制御部50に出力する。
【0135】
ステップS46において表裏面が切り替わっていないことが検出された場合(相対位置検出部41から制御部50に切り替え信号が入力されない場合)、制御部50は、ステップS44に処理を戻しタイマによる時間の計測を継続する。一方、ステップS46において表裏面が切り替わったことが検出された場合(相対位置検出部41から制御部50に切り替え信号が入力された場合)、制御部50は、タイマの計測時間が1秒未満(T<1秒)であるか否かを判定する(ステップS47)。
【0136】
ステップS47において、タイマの計測時間が1秒未満であると判定された場合、表示制御部52は、電子書籍の「n−1頁」の情報を記憶部5から読み出して、読み出した「n−1頁」の情報を切り替わり後の表面の表示部に表示させる(ステップS48)。例えば、表示制御部52は、切り替わり後の表面となる第2表示部22に電子書籍の「n−1頁」の情報を表示させる。続いて、表示制御部52は、切り替わり後の裏面となる第1表示部21を非表示状態にして、ステップS43に処理を戻す(ステップS50)。
【0137】
一方、ステップS47において、タイマの計測時間が1秒以上であると判定された場合、表示制御部52は、電子書籍の「n+1頁」の情報を記憶部5から読み出して、読み出した「n+1頁」の情報を切り替わり後の表面の表示部に表示させる(ステップS49)。例えば、表示制御部52は、切り替わり後の表面となる第2表示部22に電子書籍の「n+1頁」の情報を表示させる。続いて、表示制御部52は、切り替わり後の裏面となる第1表示部21を非表示状態にして、ステップS33に処理を戻す(ステップS50)。
【0138】
このように、表示装置1は、電子書籍の頁毎の情報を表示させる場合、表示装置1の表裏面の切り替わりに応じて、頁の順序に従って頁送りまたは頁戻しした情報を、切り替わり後の表面となる表示部に表示することができる。また、表示装置1は、表裏面が切り替わる際の時間間隔に応じて、長い時間間隔(例えば、1秒以上)で切り替えられた場合には頁送りを選択し、短い時間間隔(例えば、1秒未満)ですぐに切り替えられた場合には頁戻しを選択して表示することができる。
【0139】
なお、表示制御部52は、姿勢検出部42により検出された表示装置1の姿勢、または、検出された相対位置に基づいて、所定の操作が入力されている期間における表示装置1の傾きの変位方向に応じて、昇順方向と降順方向とのうちから何れかを選択して、表面の表示部に順序付けされた情報を順次表示させてもよい。例えば、表示装置1は、操作者によって裏面の操作入力部にタッチ操作がされている状態で、表示装置1が傾けられた場合、傾き方向(変位方向)に応じて、頁送り表示または頁戻し表示をしてもよい。
これによれば、表示装置1は、操作者により表示装置1が把持されている状態から傾けられた場合、その傾けた方向に応じて、頁送り表示または頁戻し表示をすることができる。例えば、表示装置1は、表示装置1が把持されている状態において、表示装置1の左側の側面が右側の側面に対して鉛直方向の下になるように傾けられた場合には頁送りして表示し、その反対方向に傾けられた場合には頁戻して表示するといった制御をすることが可能である。
【0140】
また、表示制御部52は、姿勢検出部42により検出された表示装置1の姿勢、または、検出された相対位置に基づいて、所定の操作が入力されている期間における表示装置1の傾きの変位量に応じて、表面の表示部に順序付けされた情報を順次表示させる際の頁送りの速度または頁戻しの速度を変更してもよい。例えば、表示装置1は、操作者によって裏面の操作入力部にタッチ操作がされている状態で、表示装置1が傾けられた場合、傾き方向に応じて、頁送りまたは頁戻し表示をするとともに、その傾き量(変位量)に応じて、頁送りの速度または頁戻しの速度を変更して表示してもよい。例えば、表示装置1は、傾き量(変位量)が大きくなるのに応じて速度を早くし、傾き量(変位量)が小さくなるのに応じて速度を遅くしてもよい。
これによれば、表示装置1は、操作者により傾けられた傾き量(変位量)に応じて、頁送りの速度または頁戻しの速度を変更することができる。
【0141】
また、制御部50は、姿勢検出部42により、第1表示部21および第2表示部22の表示面が水平面に対して垂直な状態のまま、表示装置1が鉛直方向へ繰り返し上下移動されたことが検出された場合、順序付けされた情報を表面の表示部および裏面の表示部に表示させる制御を停止する。例えば、操作者によって、表示装置1に対して本の背表紙を持って縦に振るような動作がされた場合、表示装置1は、電子書籍を表示する処理を終了する。
これによれば、表示装置1は、操作者による簡易な操作により電子書籍を表示する処理を終了することができる。
【0142】
以上のように、表示装置1は、例えば、電子書籍を表示させる場合、表示面に対する操作者の相対位置、または表示装置1の姿勢に応じて、頁送り、頁戻し、頁送りまたは頁戻しの速度の変更、または、電子書籍の表示の終了等を実行することができる。よって、表示装置1は、電子書籍を簡易な操作により表示するとともに、本を読む動作に近い違和感の少ない直感的な操作により表示することができる。また、表示装置1は、表示装置1を把持している操作者の片手のみの操作によって表示を制御することが可能である。
なお、上述した順序付けされている情報は、電子書籍の頁毎の情報に限られるものではない。例えば、順序付けされている情報は、順序付けされている複数の静止画であってもよいし、動画の複数のフレームであってもよい。
【0143】
<相対位置に応じて操作方法を制御する例>
次に、検出された相対位置に応じて操作方法を制御する例について説明する。
制御部50は、相対位置検出部41により検出された表示面に対する操作者の相対位置に応じて、第1表示部21の表示面側および第2表示部22の表示面側のそれぞれに配置されている第1操作入力部31および第2操作入力部32の操作方法を制御する。
例えば、相対位置検出部41は、検出した相対位置に応じて、第1操作入力部31および第2操作入力部32のうち、操作者に対面する表示面側に配置されている操作入力部を表面の操作入力部と検出するとともに、他方の操作入力部を裏面の操作入力部と検出する。操作入力制御部53は、相対位置検出部41により検出された結果に基づいて、表面の操作入力部または裏面の操作入力部を制御する。
【0144】
例えば、操作入力制御部53は、相対位置検出部41により検出された相対位置に基づいて、第1操作入力部31および第2操作入力部32における検出領域であって、第1表示面接触センサ33および第2表示面接触センサ34が検出対象とする検出領域を変更する。具体的には、操作入力制御部53は、相対位置検出部41により検出された相対位置に基づいて、裏面の操作入力部における検出領域を表面の操作入力部における検出領域よりも小さくする。
【0145】
図28は、表面および裏面の操作入力部における検出領域の一例を示す図である。この図において、相対位置検出部41により第1面101が表面、第2面102が裏面と検出されている。図28(a)は表面視図、図28(b)は裏面視図である。
操作入力制御部53は、裏面の第2操作入力部32(第2表示面接触センサ34)における検出領域K2を、表面の第1操作入力部31(第1操作入力部31)における検出領域K2よりも小さくしている。例えば、操作入力制御部53は、裏面の第2操作入力部32(第2表示面接触センサ34)における検出領域のうち、操作者が表示装置1を把持した際に操作者の指が接触される可能性の高い領域(例えば、表示装置1の外周に近い領域)を除いた領域を検出領域としている。
これによれば、表示装置1は、検出した相対位置に応じて、裏面の操作入力部の検出領域を小さい検出領域に変更するため、例えば、操作者に把持される際に裏面の操作入力部に指が意図せず接触することによって生じる誤操作を防止できる。
【0146】
なお、操作入力制御部53は、裏面の操作入力部による検出を停止してもよい。
これによれば、表示装置1は、検出した相対位置に応じて、裏面の操作入力部の検出を停止するため、例えば、操作者に把持される際に裏面の操作入力部に指が意図せず接触することによって生じる誤操作や、机の上に置いて使用する際に裏面の操作入力部に机が接触することによって生じる誤操作を防止することができる。
【0147】
また、操作入力制御部53は、裏面の操作入力部に操作入力を検出させるとともに、裏面の表示部の表示を非表示状態にさせる制御をしてもよい。
これによれば、表示装置1は、裏面の操作入力部から操作入力が可能であるため、表面の表示部に表示されている情報の視認性を損なうことなく操作入力が可能である。例えば、表示装置1は、表面の表示部に地図情報を表示し、裏面の操作入力部により操作入力されることに応じて、表面に表示している地図情報の表示位置を変更したり、縮尺を変更して表示させたりすることが可能である。
【0148】
<把持状態に応じて制御する例>
次に、表示装置1が操作者によって把持されている状態に応じて制御する例について説明する。
表示制御部52は、把持状態検出部43により検出された把持状態に基づいて、第1表示部21または第2表示部22に表示する情報の表示形式を変更する。
例えば、把持状態検出部43により検出された把持状態に基づいて、表示面が縦方向に把持されているか、または横方向に把持されているかに応じて、表示させる情報の縦横を変更して表示してもよい。ここで、表示面の縦方向および横方向とは、表示面に直交する軸を中心に表示面が回転される回転角度により定まる方向であって、互いに回転角度が90度異なる方向である。
【0149】
また、表示装置1は、操作者によって片手で把持されている場合と、両手で把持されている場合とによって、操作方法を変更してもよい。すなわち、制御部50は、把持状態検出部43により検出された把持状態に基づいて、片手で把持されている場合と、両手で把持されている場合とによって操作方法を選択して自装置を制御してもよい。
例えば、把持状態検出部43により検出された把持状態が、片手により把持されている状態である場合、制御部50は、相対位置検出部41から入力される切替え信号に応じて、表示装置1を制御する。すなわち、制御部50は、操作者に対面する表示部が表面の表示部から裏面の表示部に切り替わりに応じて、表示装置1を制御する。
一方、把持状態検出部43により検出された把持状態が、両手により把持されている状態である場合、制御部50は、操作入力部30に入力される操作に応じて、表示装置1を制御する。
【0150】
つまり、表示装置1は、片手で把持されている場合、例えば、表裏面を切り替える操作による操作方法とする。これにより、表示装置1は、操作者が片手でも操作が可能な操作方法を選択する。一方、表示装置1は、両手で把持されている場合、例えば、タッチ操作による操作方法とする。これにより、表示装置1は、操作者が両手で操作可能な操作方法を選択する。
【0151】
一例として、電子書籍の頁送りまたは頁戻しの操作方法として、表示装置1は、片手で把持されている場合、図26および図27を用いて説明したような表裏面の切り替わりに応じて頁送りまたは頁戻しの表示制御を実行する操作方法を選択する。また、表示装置1は、両手で把持されている場合、表示面上のタッチパネルに所定の操作がされることに応じて頁送りまたは頁戻しの表示制御を実行する操作方法を選択する。ここで、所定の操作とは、例えば、電子書籍の任意の頁が表示されている表示面上のタッチパネルに対して、操作者が指で横方向に擦る操作等である。
【0152】
図29は、表示装置1が把持状態に応じて操作方法を選択する処理の一例を示すフローチャートである。
まず、制御部50は、初期設定されている操作方法として、タッチパネルへの接触による操作方法を選択する(ステップS61)。例えば、制御部50は、第1表示面接触センサ33または第2表示面接触センサ34により検出された接触状態に基づいて、表示装置1を制御する。
【0153】
次に、把持状態検出部43は、表示装置1が操作者により把持されている状態を把持状態として検出する(ステップS62)。例えば、把持状態検出部43は、第1表示面接触センサ33と第2表示面接触センサ34とにより検出されたそれぞれの表示面上における接触状態に基づいて、把持状態を検出する。
【0154】
続いて、把持状態検出部43は、検出した把持状態が、片手により把持されている状態であるか否かを判定する(ステップS63)。ステップS63において、片手により把持されている状態であると判定された場合、制御部50は、操作方法として、表裏面の切り替わりによる操作方法を選択する(ステップS65)。例えば、制御部50は、相対位置検出部41から入力される切替え信号に応じて、表示装置1を制御する。
【0155】
一方、ステップS63において、片手により把持されている状態でないと判定された場合、把持状態検出部43は、検出した把持状態が、両手により把持されている状態であるか否かを判定する(ステップS64)。ステップS64において、両手により把持されている状態であると判定された場合、制御部50は、操作方法として、タッチパネルへの接触による操作方法を選択する(ステップS66)。一方、ステップS64において、両手により把持されている状態でないと判定された場合、制御部50は、ステップS62に処理を戻す。すなわち、片手により把持されている状態でもなく、両手により把持されている状態でもないと判定された場合、制御部50は、操作方法を変更しないで把持状態の検出を継続する。
【0156】
このように、表示装置1は、片手で把持されている場合と、両手で把持されている場合とによって、それぞれ適した操作方法とすることができる。
【0157】
次に、表示装置1が複数の操作者により把持されている場合の制御の例を説明する。
制御部50は、把持状態検出部43により検出された把持状態が、複数の操作者により把持されている状態である場合、複数の操作者毎に対応する制御をする。
例えば、把持状態検出部43により第1表示部21と第2表示部22とのそれぞれに対面する操作者から把持されている状態が検出された場合、制御部50は、それぞれの操作者に対応する表示を、第1表示部21と第2表示部22とのうち、それぞれの操作者に対面する表示部に表示させる。つまり制御部50は、第1表示部21に対面する操作者からの操作入力に応じて制御した結果に基づく情報を、第1表示部21に表示させ、第2表示部22に対面する操作者からの操作入力に応じて制御した結果に基づく情報を、第2表示部22に表示させる。
【0158】
例えば、制御部50は、クイズを出題するアプリケーションソフトウェアが実行されることにより、第1表示部21と第2表示部22とのそれぞれにクイズの問題を表示させるとともに、それぞれの表示部に対面する操作者からの回答の入力に応じて、回答の正解または不正解を示す情報や次の問題を表示させる制御をそれぞれの表示部毎に制御する。このように、制御部50は、第1表示部21および第2表示部22それぞれに対面する操作者からの操作入力に応じた情報をそれぞれの表示部に表示させる。
また、例えば、制御部50は、テニスのように対面して行うスポーツを表示装置1においてゲームとして実行するアプリケーションソフトウェアが実行される場合、互いに対面するプレーヤーの方向から見たテニスのゲーム画像を第1表示部21と第2表示部22とのそれぞれに表示させてもよい。つまり、制御部50は、表示装置1の表裏面の第1表示部21および第2表示部22それぞれに対面する操作者同士によって対戦可能なように、テニスのゲームのアプリケーションソフトウェアを実行する。
【0159】
また、複数の操作者により把持されている状態である場合、制御部50は、撮像部10により撮像された画像から検出される複数の操作者の顔に基づいて、ユーザ認証部70により顔認証を実行させて個人認証する。これにより、制御部50は、表示装置1を把持している複数の操作者それぞれを個人認証した結果に基づいて、例えば、操作者に対面する表示部に、その操作者に対応する操作者毎に作成された個人用ファイルを表示させる、または、操作者毎に設定されている表示画面を表示させるといった制御をしてもよい。また、制御部50は、複数の操作者により把持されている状態である場合、個人認証した結果に基づいて、操作者毎に作成された個人用ファイルの操作を許可するためのユーザ認証をユーザ認証部70に実行させることにより、本人のファイルの操作のみが許可されるように制御してもよい。
なお、上述の操作者毎に作成された個人用ファイル、操作者毎に設定された設定情報は、記憶部5に操作者を特定するID(Identification)情報と対応付けられて記憶されている。また、このID情報は、ユーザ認証部70が個人認証を実行するための記憶部5に記憶されている個人の生体情報(例えば、顔パターン)と対応付けられて記憶されている。
これにより、表示装置1は、複数の操作者により使用されている場合、それぞれの操作者に適した表示をすることができる。
【0160】
また、操作入力制御部53は、把持状態検出部43により検出された把持状態に基づいて、第1表示面接触センサ33または第2表示面接触センサ34により検出される検出領域のうち、把持されている位置を中心として予め定められている第1の領域における検出を停止する。つまり、操作入力制御部53は、操作者によって把持されている位置の近傍の領域に対しては、第1表示面接触センサ33または第2表示面接触センサ34における検出を停止する。ここで、第1の領域は、操作者によって把持されている位置を中心として、操作者の指により意図せず接触される可能性がある領域として予め定められている領域である。
【0161】
図30は、把持状態に基づく操作入力部における検出領域の一例を示す図である。
図30(a)は、片手(右手)により把持されている状態を示している。
この図において、操作入力制御部53は、把持状態検出部43により検出された操作者によって把持されている位置に基づいて、第1表示面接触センサ33による検出領域のうち領域K3の検出を停止し(領域K3を非検出領域とし)、領域K4を検出領域とする制御をしている。
また、図30(b)は、両手により把持されている状態を示す。
この図において、操作入力制御部53は、把持状態検出部43により検出された操作者によって把持されている位置に基づいて、第1表示面接触センサ33による検出領域のうち領域K5および領域K7の検出を停止し(領域K5および領域K7を非検出領域とし)、領域K6を検出領域とする制御をしている。
【0162】
これにより、表示装置1は、操作者によって把持される場合、第1表示面接触センサ33または第2表示面接触センサ34により検出される検出領域に操作者の指が意図せず接触することによる誤操作を防止することができる。
【0163】
また、表示制御部52は、把持状態検出部43により検出された把持状態に基づいて、第1表示部21または第2表示部22における表示面の表示領域のうち、把持されている位置を中心として予め定められている第2の領域を除く表示領域に表示させる。つまり、表示制御部52は、操作者によって把持されている位置の近傍に対しては、第1表示部21または第2表示部22の表示を非表示状態とする。例えば、表示制御部52は、第1表示部21または第2表示部22における表示面の表示領域のうち、非表示状態とした表示領域を除く領域に、情報を縮小また移動させて表示させる。ここで、第2の領域は、操作者によって把持されている位置を中心として、操作者の手や指により遮られて視認できない可能性がある領域として予め定められている領域である。
【0164】
図31は、把持状態に基づく表示領域の一例を示す図である。
図31(a)は、片手(右手)により把持されている状態を示している。
この図において、表示制御部52は、把持状態検出部43により検出された操作者によって把持されている位置に基づいて、第1表示部21による表示領域のうち領域D1を非表示状態に制御し、領域D2を表示状態に制御している。すなわち、表示制御部52は、第1表示部21による表示領域のうち、領域D1を非表示領域とし領域D2を表示領域として表示制御している。
【0165】
また、図31(b)は、両手により把持されている状態を示す。
この図において、表示制御部52は、把持状態検出部43により検出された操作者によって把持されている位置に基づいて、第1表示部21による表示領域のうち領域D3および領域D5を非表示状態に制御し、領域D4を表示常態に制御している。すなわち、表示制御部52は、第1表示部21による表示領域のうち、領域D3および領域D5を非表示領域とし領域D4を表示領域として表示制御している。
【0166】
なお、表示制御部52は、情報を縮小または移動させて表示させる場合、例えば、図31に表示領域として示される領域D2または領域D4それぞれのうち、一部の領域または全ての領域の何れに表示させてもよい。
これにより、表示装置1は、操作者によって把持される場合、第1表示部21または第2表示部22に表示される情報を操作者が視認する際に、手や指により遮られてしまうことを防止することができる。
【0167】
また、制御部50は、相対位置検出部41により検出された表面および裏面、姿勢検出部42により検出された表示装置1の姿勢、または把持状態検出部43により検出された把持状態に応じて、複数のアプリケーションソフトウェアの中からアプリケーションソフトウェア選択し、選択したアプリケーションソフトウェアを実行してもよい。
例えば、表示装置1の裏面に腕を回して上側の側面が逆手で把持され、且つ、裏面に回した腕が裏面の表示面検出センサに接触している状態であることが検出部40により検出されたとする。この場合、制御部50は、操作者がメモを取るために文字入力しようとしている状態に表示装置1が把持されている(図32参照)と判定して、メモ作成機能を有するアプリケーションソフトウェアを実行して表面の表示部に表示させる。
【0168】
なお、検出部40は、表示装置1の裏面に腕を回して上側の側面が逆手で把持され、且つ、裏面に回した腕が裏面の表示面検出センサに接触している状態であることを検出する場合、例えば、以下のそれぞれの検出結果に基づいて検出する。
相対位置検出部41は、撮像部10により撮像された画像に基づいて表示装置1の表面および裏面を検出する。また、姿勢検出部42は表示装置1の姿勢を検出する。側面接触センサ46は、把持されている場所が、姿勢検出部42により検出された表示装置1の姿勢において上側の側面であることを検出する。また、操作入力部30は、相対位置検出部41により検出された表面側および裏面側の接触状態を検出することにより、表示装置1を把持している操作者の手の向き、および、裏面への接触状態を検出する。これにより、検出部40は、メモ作成機能を有するアプリケーションソフトウェアを実行する把持状態であるか否かを検出する。
【0169】
また、例えば、表示装置1の側面が片手で把持され、且つ、表示面が水平面に対して垂直に近い姿勢に把持されている状態であることが把持状態検出部43および姿勢検出部42により検出されたとする。この場合、制御部50は、撮像部10と表示部20とを制御することにより表示面に対面する方向を鏡に映る像のように表示する鏡表示機能を有するアプリケーションソフトウェアを実行する。
【0170】
このように、表示装置1は、アプリケーションソフトウェアが実行されている表示装置1が操作者に使用される際の典型的な姿勢や把持状態を検出することにより、その典型的な姿勢や把持状態に対応したアプリケーションソフトウェアを起動して実行することができる。よって、操作者は、表示装置1を所定の姿勢や把持状態にすることにより、所望のアプリケーションソフトウェアを実行させることが可能であり、例えば、アプリケーションソフトウェア起動アイコンを探してから起動させるといった操作の手間を省くことができる。
【0171】
なお、表示装置1は、上述した表示装置1の姿勢や把持状態に応じたアプリケーションソフトウェアを実行する制御とは逆に、実行させたアプリケーションソフトウェアにとって適切な把持位置を表示部20に表示させてもよい。
【0172】
以上のように、表示装置1は、表示面に対する操作者の相対位置を適切に検出することができる。また、表示装置1は、表示面に対する操作者の相対位置を適切に検出し、当該検出した相対位置に応じた制御をすることができる。
【0173】
なお、上記実施形態において、表示装置1が、互いに表裏の位置関係に表示面が配置されている第1表示部21および第2表示部22を備えている例について説明したが、これに限られるものではない。つまり、表示部20は、第1表示部21および第2表示部22の2つの表示部を備えている構成に限られるものではなく、1つの表示部、または3つ以上の複数の表示部を備えている構成であってもよい。
例えば、表示装置1は、互いに表裏の位置関係に配置されている第1面101と第2面102とのうち、片方の面にのみ表示部が配置されていてもよい。すなわち、表示装置1において、撮像部10が表示部の表示面に対面する方向である第1方向および第1方向とは方向が異なる第2方向を撮像し、相対位置検出部41が撮像部10により撮像された画像に基づいて、表示部の表示面に対する操作者の相対位置を検出する。そして、表示装置1の制御部50は、相対位置検出部41により検出された相対位置に応じて、表示装置1を制御する。
この構成による表示装置1は、例えば、第1面101のみに表示部を備えており、第1面101に対面する方向に操作者がいる場合(すなわち、操作者が第1面101を表面として表示部を見ている場合)、第2面102に対面する方向に人物(顔)を検出した際に第1面101に備えている表示部の表示を変更する、または表示を非表示状態にするといった制御をすることができる。
【0174】
また、表示装置1は、互いに異なる3面以上の複数の面により構成され、複数の面それぞれに撮像部10、表示部20または操作入力部30を備えている構成としてもよい。この構成による表示装置1は、例えば、複数の面それぞれに備えられている表示部の表示面に対する操作者の相対位置を検出して、表示装置1を制御してもよい。
【0175】
なお、上記実施形態において、表示装置1が、第1表示部21の表示面上における接触状態を検出する第1表示面接触センサ33と、第2表示部22の表示面上における接触状態を検出する第2表示面接触センサ34とを備えている例について説明したが、表示面上における接触状態を検出する構成に代えて、それぞれ第1面101(第1筐体面)と、第2面102(第2筐体面)とにおける接触状態をそれぞれ検出する構成としてもよい。
ここでいう第1面101(第1筐体面)および第2面102(第2筐体面)とは、それぞれの面の領域のうち、表示面の領域以外の領域であってもよいし、または、それぞれの面の領域のうち、表示面の領域と表示面の領域以外の領域との両方を含む領域であってもよい。
【0176】
なお、第1表示部21および第2表示部22は、液晶表示パネル有するものに限られものではなく、例えば、有機EL(Electro-Luminescence)パネル、電子ペーパー方式の表示パネル、2つの透過型表示部とその間に配置されている液晶パネル(透過と非透過とを切替え可能な液晶パネル)とにより構成される表示パネル、等、その他の表示パネルを有するものであってもよい。
【0177】
また、上記実施形態の表示装置1を備えている電子機器に本発明を適することができる。ここで、電子機器とは、携帯情報端末、タブレット型コンピュータ、携帯電話、電子辞書、電子書籍リーダ等、表示装置を備えている電子機器全般をいう。
【0178】
また、上記実施形態における音声認識部8、検出部40、制御部50、およびユーザ認証部70の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより上述の各部の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
【0179】
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【0180】
以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【0181】
1 表示装置、5 記憶部、6 音出力部、7 音入力部、8 音声認識部、10 撮像部(撮像装置)、11 第1撮像部、12 第2撮像部、20 表示部、21 第1表示部、22 第2表示部、30 操作入力部、31 第1操作入力部、32 第2操作入力部、33 第1表示面接触センサ、34 第2表示面接触センサ、40 検出部、41 相対位置検出部、42 姿勢検出部、43 把持状態検出部、46 側面接触センサ、47 グリップ位置センサ、50 制御部、71 生体情報取得部、72 認証部
【技術分野】
【0001】
本発明は、表示装置、電子機器、およびプログラムに関する。
【背景技術】
【0002】
表示部の表示面に表示されている表示情報を閲覧する操作者を撮像した画像から顔画像を検出して、検出した顔画像の位置や傾きに応じて操作者の顔に正対する位置になるように表示情報を表示させる表示装置がある(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2009−163659号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に示す表示装置にあっては、自装置に備えられている1つの表示部の表示面を閲覧している限られた方向に位置する操作者のみしか検出することができなかった。例えば、互いに異なる複数の面に表示部を有する表示装置においては、何れの面の表示部に操作者が対面しているかを検出することができない場合があった。
【0005】
本発明は、このような事情に鑑みてなされたもので、その目的は、互いに異なる複数の面に表示部を有する場合であっても、何れの面の表示部に操作者が対面しているかを適切に検出することができる表示装置、電子機器、およびプログラムを提供することにある。
【課題を解決するための手段】
【0006】
この発明は上述した課題を解決するためになされたもので、本発明は、互いに異なる面に配置されている第1表示部および第2表示部と、前記第1表示部の表示面に対面する方向である第1方向および前記第2表示部の表示面に対面する方向である第2方向を撮像する撮像装置と、前記撮像装置により撮像された画像に基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する検出部と、
を備えることを特徴とする表示装置である。
【0007】
また、本発明は、上述の表示装置を備えることを特徴とする電子機器である。
【0008】
また、本発明は、互いに異なる面に配置されている第1表示部および第2表示部を有する表示装置が備えるコンピュータに、撮像装置に前記第1表示部の表示面に対面する方向である第1方向および前記第2表示部の表示面に対面する方向である第2方向を撮像させる手順と、前記撮像装置により撮像された画像に基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する手順と、を実行させるためのプログラムである。
【発明の効果】
【0009】
この発明によれば、互いに異なる複数の面に表示部を有する場合であっても、何れの面の表示部に操作者が対面しているかを適切に検出することができる。
【図面の簡単な説明】
【0010】
【図1】本発明の一実施形態による表示装置の概略構成を示す模式図である。
【図2】本発明の一実施形態による表示装置の第1の構成を示す概略ブロック図である。
【図3】撮像された画像から相対位置を検出する処理を説明する図である。
【図4】操作者に対面する表示部の切り替わりを説明する図である。
【図5】表示装置における撮像部の配置例を示す図である。
【図6】表示装置において広角レンズを有する撮像部の配置例を示す図である。
【図7】表示装置において広角レンズを有する撮像部が複数配置されている例を示す図である。
【図8】表示装置において回転駆動可能な撮像部の配置例を示す図である。
【図9】表示装置が把持されている状態の一例を示す図である。
【図10】表示装置の側面に側面接触センサが備えられている例を示す模式図である。
【図11】表示装置に把持部とグリップ位置センサが備えられている例を示す模式図である。
【図12】操作者によって表示装置の把持部が把持されている例を示す第1面側の図である。
【図13】操作者によって表示装置の把持部が把持されている例を示す第2面側の図である。
【図14】側面に移動可能に支持されている把持部の拡大図である。
【図15】側面と把持部との支持機構の一例を説明する断面図である。
【図16】本発明の一実施形態による表示装置の第2の構成を示す概略ブロック図である。
【図17】本発明の一実施形態による表示装置の第3の構成を示す概略ブロック図である。
【図18】車を表示対象とした場合の第1の表示例を示す図である。
【図19】車を表示対象とした場合の第2の表示例を示す図である。
【図20】表示装置の姿勢と操作者の相対位置に基づいて表示を制御する処理の一例を示すフローチャートである。
【図21】車を表示対象とした場合の第3の表示例を示す図である。
【図22】表裏面の切り替えに応じて表裏面の各表示部の表示を制御する例を示す図である。
【図23】単語帳アプリによる表示処理の一例を示すフローチャートである。
【図24】表裏面の切り替えに応じて表裏面の各表示部の表示を制御する別の例を示す図である。
【図25】本発明の一実施形態による表示装置の第4の構成を示す概略ブロック図である。
【図26】電子書籍を表示する場合の表示処理の第1の例を示すフローチャートである。
【図27】電子書籍を表示する場合の表示処理の第2の例を示すフローチャートである。
【図28】表面および裏面の操作入力部における検出領域の一例を示す図である。
【図29】把持状態に応じて操作方法を選択する処理の一例を示すフローチャートである。
【図30】把持状態に基づく操作入力部における検出領域の一例を示す図である。
【図31】把持状態に基づく表示領域の一例を示す図である。
【図32】アプリケーションソフトウェアを実行させる把持状態の一例を示す図である。
【発明を実施するための形態】
【0011】
以下、図面を参照して、本発明の実施の形態について説明する。図1は、この発明の一実施形態による表示装置1の概略構成を示す模式図である。
図1に示す表示装置1は、タブレット型の表示装置である。また、表示装置1は、互いに表裏の位置関係にある第1面101(第1筐体面)と第2面102(第2筐体面)とにおいて、第1面101に第1表示部21を備えており、第2面102に第2表示部22を備えている。すなわち、表示装置1は、互いに表裏の位置関係に配置されている第1表示部21および第2表示部22を備えており、両面に情報または画像等を表示可能である。
図1(a)は、操作者によって第1面101が操作者に対面する面となるように表示装置1が把持されている状態を示している。また、図1(b)は、表示装置1の第1面101を示す図であり、図1(c)は、表示装置1の第2面102を示す図である。
【0012】
第1表示部21および第2表示部22は、操作入力用として、接触式の操作入力部(タッチパネル式の入力部)を備えている。例えば、この操作入力部は、第1表示部21および第2表示部22のそれぞれの表示面上における接触状態を検出する表示面接触センサ(第1接触状態検出部)として、第1表示部21の表示面上に第1表示面接触センサ33を、第2表示部22の表示面上に第2表示面接触センサ34を備えている。
なお、上記表示面接触センサは、表示面上のみに限らず、第1面101および第2面102のそれぞれの面上における接触状態を検出する構成としてもよい。
【0013】
また、表示装置1は、第1面101に配置され、第1表示部21の表示面に対面する方向(第1方向)を撮像する第1撮像部11を備えている。また、表示装置1は、第2面102に配置され、第2表示部22の表示面に対面する方向(第2方向)を撮像する第2撮像部12を備えている。
なお、以下の記述において適宜、表示装置1の操作者に対面する面を表面、その反対側の面であり操作者に対面しない面を裏面とも称する。すなわち、図1(a)において、表示装置1は、操作者に対面している第1表示部21が備えられている第1面101が表面であって、その反対側の面である第2面102が裏面である状態で、操作者によって把持されている。
また、操作者は、例えば、表面側を主な操作面として、第1表示部21の表面上に備えられている第1表示面接触センサ33により操作入力を行う。
【0014】
次に、図2を参照して、表示装置1の構成について説明する。
図2は、この発明の一実施形態による表示装置1の構成を示す概略ブロック図である。
この図において図1の各部に対応する部分には同一の符号を付けている。
【0015】
図2に示す表示装置1は、撮像部10(撮像装置)、表示部20、操作入力部30、検出部40、制御部50、ユーザ認証部70、記憶部5、音出力部6、およびバス80を備えている。
【0016】
撮像部10は、第1面101に配置されている第1撮像部11と、第2面102に配置されている第2撮像部12と、を備えている。例えば、第1撮像部および第2撮像部は、それぞれ光学レンズと、当該光学レンズを介して入力される光学像を撮像する撮像素子と、当該撮像素子に撮像された撮像データをデジタル画像データとして出力する撮像信号処理部と、を有している。また、撮像部10は、後述する制御部50が備えている撮像制御部51により制御される。
【0017】
表示部20は、第1面101に配置されている第1表示部21と、第2面102に配置されている第2表示部22と、を備えている。第1表示部21および第2表示部22は、例えば、液晶表示パネルであって、情報または画像をそれぞれ表示する。
また、表示部20は、タッチパネルであって、操作入力部30が有している表示面接触センサを、第1表示部21および第2表示部22のそれぞれの表示面上に備えている。
【0018】
操作入力部30は、第1面101に配置されている第1操作入力部31と、第2面102に配置されている第2操作入力部32とを備えている。例えば、第1操作入力部31は、第1表示部21の表示面上における接触状態を検出する第1表示面接触センサ33を備えている。また、第2操作入力部32は、第2表示部22の表示面上における接触状態を検出する第2表示面接触センサ34を備えている。
また、表示面接触センサ(第1表示面接触センサ33および第2表示面接触センサ34)は、タッチパネル方式の操作入力デバイスであって、例えば、静電容量方式の接触センサである。なお、表示面接触センサは、静電容量方式に代えて、電磁誘導方式でもよいし、赤外線方式でもよいし、表面弾性波方式でもよいし、抵抗膜方式でもよいし、マトリクス・スイッチ方式でもよい。
また、表示面接触センサは、同時に複数個所の接触を検出することができる多点入力可能な、所謂マルチタッチパネル方式である。
【0019】
検出部40は、相対位置検出部41、姿勢検出部42、および把持状態検出部43を備えている。
相対位置検出部41は、撮像部10により撮像された画像に基づいて、表示装置1に対する操作者の相対位置を検出する。すなわち、相対位置検出部41は、撮像部10により撮像された画像に基づいて、表示部20の表示面に対する操作者の相対位置を検出する。
例えば、相対位置検出部41は、第1撮像部11により撮像された画像に基づいて、第1表示部21の表示面に対する操作者の相対位置を検出する。また、相対位置検出部41は、第2撮像部12により撮像された画像に基づいて、第2表示部22の表示面に対する操作者の相対位置を検出する。
【0020】
また、相対位置検出部41は、撮像部10により撮像された画像から顔を検出し、検出した方向に基づいて、表示部20の表示面に対する操作者の相対位置を検出する。
例えば、相対位置検出部41は、表示部20の表示面に対して顔を検出した方向に、操作者が位置することを検出する。すなわち、相対位置検出部41は、撮像部10により撮像された画像に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する。例えば、相対位置検出部41は、撮像部10により撮像された画像から顔を検出し、検出した方向に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する。具体的には、相対位置検出部41は、第1表示部21に対面する方向に顔を検出した場合、操作者に対面する表示部が第1表示部21であると検出する。また、相対位置検出部41は、第2表示部22に対面する方向に顔を検出した場合、操作者に対面する表示部が第2表示部22であると検出する。
【0021】
なお、相対位置検出部41は、撮像された画像から顔を検出する場合、例えば、顔の形状や特徴をテンプレートとして予め記憶しておき、撮像された画像に対してテンプレートマッチングすることにより顔を検出する。そして、相対位置検出部41は、撮像された画像における画像領域における検出した顔の位置、すなわち検出した顔のある方向に基づいて、操作者の相対位置を検出する。
また、相対位置検出部41は、撮像された画像から顔を検出するのに代えて、身体を検出してもよい。これにより、相対位置検出部41は、撮像された画像から身体を検出し、検出した方向に基づいて、表示部20の表示面に対する操作者の相対位置を検出してもよい。また、相対位置検出部41は、検出した相対位置を制御部50に出力する。
【0022】
また、相対位置検出部41は、撮像部10により撮像された画像に基づいて、操作者に対面する表示部の切り替わりを検出する。例えば、相対位置検出部41は、顔または身体を検出している方向が第1表示部21に対面する方向から第2表示部22に対面する方向に切り替わることに応じて、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わることを検出する。また、相対位置検出部41は、顔または身体を検出している方向が第2表示部22に対面する方向から第1表示部21に対面する方向に切り替わることに応じて、操作者に対面する表示部が第2表示部22から第1表示部21に切り替わることを検出する。
そして、相対位置検出部41は、操作者に対面する表示部が切り替わることを検出した場合、当該切り替わることを示す切替え信号を制御部50に出力する。
【0023】
姿勢検出部42は、表示装置1の姿勢を検出する。例えば、姿勢検出部42は、加速度センサ、角速度センサ、傾斜センサ、または、地磁気センサ等を有しており、水平面に平行な面に含まれる互いに直交するX軸,Y軸、および水平面に直交するZ軸により定まる3次元空間における位置や角度により示される表示装置1の姿勢や動きを検出する。また、姿勢検出部42は、検出した表示装置1の姿勢や動きを制御部50に出力する。
【0024】
把持状態検出部43は、表示装置1が操作者により把持されている状態を把持状態として検出する。例えば、把持状態検出部43は、第1表示部21の表示面上における接触状態を検出する第1表示面接触センサ33と、第2表示部22の表示面上における接触状態を検出する第2表示面接触センサ34と、によって検出されるそれぞれの表示面上における接触状態に基づいて、把持状態を検出する。これにより、把持状態検出部43は、例えば、表示装置1が操作者の手により把持されている場合の把持されている位置、または、表示装置1のいずれの表示面が操作者に対面する表面として把持されているか等を検出する。
【0025】
制御部50は、撮像制御部51、表示制御部52、および操作入力制御部53を備えている。
撮像制御部51は、撮像部10の撮像処理を制御する。例えば、撮像制御部51は、撮像部10が備えている各撮像部に撮像させる撮像タイミング信号を出力する。
表示制御部52は、表示部20の表示処理を制御する。例えば、表示制御部52は、表示部20が備えている各表示部に表示させる情報を選択して表示させる処理、各表示部の表示のオン(表示状態)とオフ(非表示状態)とを切り替える処理等を制御する。ここで、各表示部に表示させる情報とは、画像、文字またはアイコン等による情報、メニュー画面等、表示部に表示させる情報の何れであってもよい。
操作入力制御部53は、操作入力部30において入力される操作に対する検出処理を制御する。例えば、操作入力制御部53は、操作入力部が備えている各表示面接触センサの検出領域の変更、検出動作のオン(検出動作状態)とオフ(検出停止状態)との切り替え処理等を制御する。
【0026】
記憶部5には、表示部20に表示させる情報等が記憶されている。例えば、記憶部5には、表示部20に表示させる情報として、画像、文字またはアイコン等による情報、メニュー画面等、のデータが記憶されている。この記憶部5に記憶されている情報は、制御部50の制御によって読み出される。
音出力部6は、例えば、スピーカーを有しており、制御部50の制御により操作音または警告音などを出力する。なお、音出力部6は、記憶部5に音声ファイルまたは音楽ファイル等が記憶されていて、これらのファイルが制御部50の制御により読み出されて再生された音を出力してもよい。
バス80は、撮像部10、表示部20、操作入力部30、検出部40、制御部50、ユーザ認証部70、記憶部5、および音出力部6と接続され、各部から出力された画像データ、検出信号、制御信号等を転送する。
【0027】
<相対位置を検出する処理>
次に、撮像された画像から相対位置を検出する処理について説明する。
撮像部10により撮像された画像に基づいて、表示装置1に対する操作者の相対位置を検出する。すなわち、相対位置検出部41は、撮像部10により撮像された画像に基づいて、表示部20の表示面に対する操作者の相対位置を検出する。
図3は、撮像された画像から相対位置を検出する処理を説明する図である。
図3(a)は、操作者が表示装置1を把持している状態を示している。この図では、表示装置1の第1面101が操作者によって見られている面(表面)である。
【0028】
第1撮像部11は、第1表示部21の表示面に対面する方向を撮像する。すなわち、図3(a)において、第1撮像部11は、表示装置1に対して操作者がいる方向を撮像する。また、第2撮像部は、第2表示部22の表示面に対面する方向を撮像する。すなわち、図3(a)において、第2撮像部11は、表示装置1に対して操作者がいる方向の反対方向を撮像する。
これにより撮像された画像の例を図3(b)および図3(c)にそれぞれ示す。図3(b)は、第1撮像部11によって撮像された画像の一例であって、画像領域内に操作者が撮像されていることを示している。また、図3(c)は、第2撮像部12によって撮像された画像の一例であって、画像領域内に操作者が撮像されていないこと示している。
【0029】
相対位置検出部41は、この第1撮像部11または第2撮像部12により撮像された画像に基づいて、第1表示部21または第2表示部22に対する操作者の相対位置を検出する。具体的には、相対位置検出部41は、第1撮像部11および第2撮像部12により撮像されたそれぞれの画像から顔を検出する。この図の例では、第1撮像部11により撮像された画像から顔が検出される。また、第2表示部22により撮像された画像からは顔が検出されない。これにより、相対位置検出部41は、顔を検出した方向、すなわち第1撮像部11によって撮像された方向に基づいて、第1表示部21の表示面に対面する方向に操作者が位置することを、表示装置1に対する操作者の相対位置、または、表示部20の表示面に対する操作者の相対位置として検出する。すなわち、相対位置検出部41は、第1撮像部11によって撮像された方向である第1表示部21に対面する方向に顔を検出したことに基づいて、操作者に対面する表示部が第1表示部21であると検出する。また、これにより、相対位置検出部41は、第1表示部21の表示面が表面であって、第2表示部22の表示面が裏面であると検出する。
なお、図3(a)に示す把持状態と表示面が反対の場合、すなわち、表示装置1の第2面102が操作者によって見られている状態で把持されている場合は、相対位置検出部41は、第2撮像部12により撮像された画像から顔を検出して、第2表示部22の表示面に対面する方向に操作者が位置することを検出する。
【0030】
このように、互いに表裏面の位置関係に配置されている表示部を備えている表示装置1は、表裏面それぞれの表示面に対面するそれぞれの方向を撮像する撮像部に撮像された画像に基づいて、表示面に対する操作者の相対位置を検出する。よって、表示装置1は、表示装置1の表示面に対する操作者の相対位置を、両面方向に渡って検出することができる。また、これにより、表示装置1は、互いに表裏面の位置関係に配置されている表示部の何れの表示面が操作者に対する表面(操作者に対面する面)であるかまたは裏面(操作者に対面しない面)であるかを検出することができる。なお、表示装置1は、互いに表裏面の位置関係に配置されている表示部がタッチパネルを備えている場合、何れの面が操作面(または主な操作面)であるかを検出してもよい。例えば、表示装置1は、相対位置検出部41により表面であると検出された面を操作面(または主な操作面)であると検出してもよい。
よって、表示装置1は、表示面に対する操作者の相対位置を適切に検出することができる。すなわち、表示装置1は、互いに表裏面の位置関係に配置されている表示部のうち、何れの表示部が操作者に対面する表示部であるかを検出することができるとともに、操作者に対面する表示部のある表示面を表面であると検出することができる。
【0031】
<操作者に対面する表示部の切り替わりを検出する処理>
続いて、撮像された画像から操作者に対面する表示部の切り替わりを検出する処理について説明する。
相対位置検出部41は、撮像部10により撮像された画像に基づいて、操作者に対面する表示部の切り替わりを検出する。
【0032】
例えば、図3に示す把持状態を例とすると、第1表示部21の表示面に対面する方向を撮像する第1撮像部11により撮像された画像領域内には、操作者が撮像されている。一方、第2表示部22の表示面に対面する方向を撮像する第2撮像部12により撮像された画像領域内には、操作者が撮像されていない。よって、操作者に対面する表示部が第1表示部21であることを検出する。次に、操作者が、操作者に対面しない裏面の第2表示部22を見るために、表示装置1を反転させる、または、裏面の第2表示部22に対面する方向に移動した場合、第1撮像部11により撮像された画像領域内には操作者が撮像されず、第2撮像部12により撮像された画像領域内に操作者が撮像されることになる。
この場合、相対位置検出部41により顔が検出される画像は、第1撮像部11によって撮像された画像から、第2撮像部12により撮像された画像に切り替わる。すなわち、相対位置検出部41により顔が検出される方向は、第1表示部21に対面する方向から第2表示部22に対面する方向に切り替わる。
これにより、相対位置検出部41は、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わることを検出する。つまり、相対位置検出部41は、操作者にとって、第2表示部22が裏面から表面に切り替わり、第1表示部21が表面から裏面に切り替わることを検出する。
【0033】
なお、この第2表示部22が表面、第1表示部21が裏面の状態から、第1表示部21が表面、第2表示部22が裏面の状態に戻った場合は、相対位置検出部41により顔が検出される方向は、第2表示部22に対面する方向から第1表示部21に対面する方向に切り替わる。
これにより、相対位置検出部41は、操作者に対面する表示部が第2表示部22から第1表示部21に切り替わることを検出する。つまり、相対位置検出部41は、操作者にとって、第2表示部22が表面から裏面に切り替わり、第1表示部21が裏面から表面に切り替わることを検出する。
【0034】
図4は、操作者に対面する表示部の切り替わりを説明する図である。
図4(a)は、操作者に対面する表示部が第1表示部21である状態を示しており、第1撮像部11に撮像された画像に顔が撮像され(図4(b)参照)、第2撮像部12に撮像された画像に顔が撮像されていない(図4(c)参照)。相対位置検出部41は、第1撮像部11に撮像された画像からのみ顔を検出することにより、操作者に対面する表示部が第1表示部21であることを検出する。
【0035】
次に、図4(d)は、図4(a)に示す操作者に対面する表示部が第1表示部21である状態から、表示装置1を反転させることにより操作者に対面する表示部が第2表示部22に切り替わった状態を示す。この図4(d)に示す状態では、第1撮像部11に撮像された画像に顔が撮像されず(図4(e)参照)、第2撮像部12に撮像された画像に顔が撮像されている(図4(f)参照)。相対位置検出部41は、第2撮像部12に撮像された画像からのみ顔を検出することにより、操作者に対面する表示部が第2表示部22であることを検出する。
これにより、相対位置検出部41は、顔が検出される画像が第1撮像部11に撮像された画像から第2撮像部12に撮像された画像に切り替わることに応じて、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わることを検出する。
【0036】
また、図4(g)は、図4(a)に示す操作者に対面する表示部が第1表示部21である状態から、操作者が第2表示部22に対面する方向に移動することにより操作者に対面する表示部が第2表示部22に切り替わった状態を示す。この図4(g)に示す状態では、第1撮像部11に撮像された画像に顔が撮像されず(図4(h)参照)、第2撮像部12に撮像された画像に顔が撮像されている(図4(i)参照)。相対位置検出部41は、第2撮像部12に撮像された画像からのみ顔を検出することにより、操作者に対面する表示部が第2表示部22であることを検出する。
これにより、相対位置検出部41は、顔が検出される画像が第1撮像部11に撮像された画像から第2撮像部12に撮像された画像に切り替わることに応じて、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わることを検出する。
【0037】
よって、相対位置検出部41は、顔(または身体)を検出している方向が第1表示部21に対面する方向から第2表示部22に対面する方向に切り替わることに応じて、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わることを検出することができる。また、相対位置検出部41は、顔(または身体)を検出している方向が第2表示部22に対面する方向から第1表示部21に対面する方向に切り替わることに応じて、操作者に対面する表示部が第2表示部22から第1表示部21に切り替わることを検出することができる。
このように、表示装置1は、操作者が表示装置1を反転させることにより操作者に対面する表示部が切り替わった場合であっても、操作者が裏面の表示部に対面する方向に移動した場合であっても、操作者に対面する表示部が第1表示部21および第2表示部22の何れの表示部であるかを検出し、その操作者に対面する表示部の切り替わりを検出することができる。
【0038】
なお、表示装置1は、操作者に対面する表示部の切り替わりを検出する場合、以下に示す処理により検出してもよい。
(1)検出される顔の位置が画像領域内の端の位置に移動することに応じて切り替わりを検出。
操作者が裏面の表示を見るために対面する面を切り替える場合、操作者の相対位置は、切り替える前の表面の表示部に対して中央付近の位置から側面方向に移動した後、裏面方向に移動する。すなわち、切り替える前の表面の表示部に対面する方向を撮像する撮像部により撮像された画像の画像領域において、検出される顔の位置は、中央付近の位置から端の位置に移動する。これにより、例えば、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わる場合、相対位置検出部41は、第1撮像部11により撮像された画像から検出される顔の位置が画像領域内の中央付近の位置から所定の端の位置に移動することに応じて、操作者に対面する表示部の切り替わりを検出してもよい。
ここで、画像領域内の所定の端の位置とは、例えば、撮像部により撮像される画角と、操作者に対面する表示部が切り替わる動作であるとみなす相対位置(表示装置1に対する操作者の相対位置)と、に基づいて、予め設定された位置(画像領域内の端の領域の位置)である。
これにより、表示装置1は、操作者に対面する表示部の切り替わりを検出することができるとともに、切り替わり動作を早いタイミングで検出することができる。
(2)検出される顔の位置が画像領域内の端の位置に移動して画像領域内から検出されなくなるのに応じて切り替わりを検出。
表示装置1が備えている第1撮像部11および第2撮像部12の画角が180度に近い広角である場合、表示装置1は、側面方向に操作者の相対位置が移動した際の操作者の画像を撮像することができるが、画角が180度に対して狭くなるのに応じて、側面方向を撮像することができなくなる。第1撮像部11および第2撮像部12の画角が狭い場合、切り替える前の表面の表示部に対面する方向を撮像する撮像部により撮像された画像の画像領域において、操作者に対面する面が切り替わる動作に応じて、検出される顔の位置は、中央付近の位置から端の位置に移動する。そして、その後、画像領域外となり顔が検出されなくなる。
これにより、例えば、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わる場合、相対位置検出部41は、第1撮像部11により撮像された画像から検出される顔の位置が画像領域内の中央付近の位置から所定の端の位置に移動した後、顔が検出されなくなるのに応じて、操作者に対面する表示部の切り替わりを検出してもよい。
【0039】
なお、相対位置検出部41は、撮像された画像から顔が検出されなくなるのに応じて、姿勢検出部42により検出された表示装置1の姿勢や動きに基づいて、表示装置1の側面方向の操作者の相対位置を検出する構成としてもよい。また、表示装置1は、側面方向を撮像する撮像部を備える構成としてもよい。
これによれば、表示装置1の側面方向の操作者の相対位置を精度よく検出することができる。
【0040】
<撮像部の別の配置例>
次に、表示装置1に備えられている撮像部10の配置例について説明する。
図3を用いて説明した撮像部10は、表示装置1において、第1面101に1つの第1撮像部11、第2面102に1つの第2撮像部12が配置されている例であるが、撮像する範囲が異なる複数の第1撮像部11または複数の第2撮像部12が配置されている構成としてもよい。例えば、第1撮像部11または第2撮像部12は、それぞれ互いに異なる位置に配置されている複数の第1撮像部または複数の第2撮像部を有している。
図5は、表示装置1における撮像部の配置例を示す図である。この図は、第1面101を例として説明している。第2面101は、第1面101と同様の配置としてもよいし、第1面101と異なる配置としてもよい。
【0041】
図5(a)〜(d)は、複数の撮像部の配置例を示す。図5(a)の表示装置1は、第1表示部21の表示面の外周のうち、紙面上の上下に各1つの第1撮像部11が配置されている例を示している。図5(b)の表示装置1は、第1表示部21の表示面の外周のうち、紙面上の上下左右に各1つの第1撮像部11が配置されている例を示している。また、図5(c)の表示装置1は、第1表示部21の表示面の外周の4角うち、互いに対角となる2角の位置に各1つの第1撮像部11が配置されている例を示している。また、図5(d)の表示装置1は、第1表示部21の表示面の外周の4角のそれぞれに各1つの第1撮像部11が配置されている例を示している。
このように、複数の撮像部を配置することにより、表示装置1の把持状態として、表示面に対して垂直となる軸を中心に回転された向き(例えば、表示面が縦長となる向きや表示面が横長となる向き等)で把持された状態の場合、または、操作者の手によって把持される場合の表示装置1が把持される手の位置が様々な場合、等においても、表示装置1は、複数の撮像部のうち適した位置の撮像部により撮像された画像に基づいて、表示面に対する操作者の相対位置を検出することができる。
【0042】
このように、複数の第1撮像部11または複数の第2撮像部12が配置されている構成の場合、制御部50の撮像制御部51は、把持状態検出部43により検出された把持状態と、複数の第1撮像部11または複数の第2撮像部12の何れかにより撮像された画像に基づいて、相対位置を検出する。すなわち、撮像制御部51は、把持状態検出部43により検出された把持状態と、複数の第1撮像部11または複数の第2撮像部12の何れかにより撮像された画像に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する。 例えば、撮像制御部51は、把持状態検出部43により検出された把持状態に基づいて、複数の撮像部の中から撮像させる撮像部を選択する。そして、相対位置検出部41は、撮像制御部51により選択された撮像部により撮像された画像に基づいて、相対位置を検出する。すなわち、相対位置検出部41は、撮像制御部51により選択された撮像部により撮像された画像に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する。
【0043】
一例としては、操作者によって把持されている位置の近傍に配置されている撮像部は、操作者の手によって撮像する方向が遮られる場合がある。そのため、撮像制御部51は、把持状態検出部43により検出された把持状態に基づいて、操作者によって把持されている位置の近傍に配置されている撮像部以外の撮像部を選択する。次に、撮像制御部51は、選択した撮像部に対して撮像タイミング信号を出力して撮像させる。続いて、相対位置検出部41は、撮像制御部51により選択された撮像部により撮像された画像に基づいて、表示面に対する操作者の相対位置を検出する。
これにより、表示装置1は、操作者の手によって撮像する方向が遮られることのない撮像部により撮像された画像と、把持状態検出部43により検出された把持状態とに基づいて、表示面に対する操作者の相対位置を検出することができる。
【0044】
なお、撮像制御部51は、把持状態検出部43により検出された把持状態に基づいて、顔の上下方向が反対とならない撮像部を選択してもよい。また、撮像制御部51は、把持状態検出部43により検出された把持状態に基づいて、操作者に対面する方向を撮像する撮像部を選択してもよい。
また、撮像制御部51は、複数の撮像部の中から撮像させる撮像部として選択しない撮像部に対しては、撮像部の駆動の一部または全てを停止させるなどにより、電力の供給を低減または停止させてもよい。
これにより、撮像制御部51は、複数の撮像部の中から操作者の顔を検出するために適した撮像部を選択して撮像させることができるとともに、撮像部における電力の消費を低減させることができる。
【0045】
なお、撮像部10は、第1表示部21の表示面に対面する方向と、第2表示部22の表示面に対面する方向と、の両方向を撮像する第3撮像部13を備えている構成としてもよい。例えば、撮像部10は、第1表示部21の表示面に対面する方向と、第2表示部22の表示面に対面する方向と、の両方向を撮像する広角レンズを有する第3撮像部13aを備えている。ここで、この広角レンズとは、例えば、画角180度以上の魚眼レンズ等である。
【0046】
図6は、表示装置1において、広角レンズを有する撮像部の配置例を示す図である。
この図は、表示装置1の上側の側面(表示装置1が把持されている姿勢において、第1面101と第2面102とを接続する接続部領域のうち、上側の接続部領域)に、第3撮像部13として、広角レンズを有する第3撮像部13aが配置されている例を示している。第3撮像部13aは、例えば、画角180度以上の魚眼レンズを広角レンズとして有しており、第1表示部21の表示面に対面する方向と、第2表示部22の表示面に対面する方向と、の両方向を含む画像領域を撮像する。
【0047】
相対位置検出部41は、第3撮像部13aにより撮像された画像の画像領域において、顔が検出された画像の位置に基づいて、第1表示部21の表示面に対面する方向と、第2表示部22の表示面に対面する方向と、の何れの方向に操作者が位置しているかを検出する。
これにより、表示装置1は、広角レンズを有する1つの撮像部(第3撮像部13)により撮像された画像に基づいて、表示面に対する操作者の相対位置を検出することができる。
【0048】
なお、表示装置1は、図5を用いて説明した複数の第1撮像部11または複数の第2撮像部12が配置されている構成と同様に、複数の第3撮像部13が配置されている構成としてもよい。
図7は、表示装置1において広角レンズを有する第3撮像部13aが複数配置されている例を示す図である。また、図7は図5と同様に第1面101を例として説明しており、第2面101は、第1面101と同様の配置としてもよいし、第1面101と異なる配置としてもよい。
【0049】
図7(a)の表示装置1は、表示装置1の上側の側面と下側の側面とに各1つの第3撮像部13が配置されている例を示している。図7(b)の表示装置1は、表示装置1の上側の側面と下側の側面とに各1つの第3撮像部13が、互いに対角となる位置に配置されている例を示している。また、図5(c)の表示装置1は、表示装置1の左右の側面それぞれに各3つの第3撮像部13が配置されている例を示している。
なお、ここで上下左右の方向は、図7における紙面上の上下左右の方向である。
【0050】
このように、複数の第3撮像部13が配置されていることにより、図5を用いて説明した複数の第1撮像部11または複数の第2撮像部12が配置されている場合と同様に、操作者による様々な把持状態においても、表示装置1は、複数の第3撮像部13のうち適した位置の撮像部により撮像された画像に基づいて、表示面に対する操作者の相対位置を検出することができる。
【0051】
なお、第3撮像部13は、広角レンズを有している構成に代えて、表示面に平行な軸を中心に回転可能な構成としてもよい。
図8は、表示装置1において回転駆動可能な撮像部の配置例を示す図である。
例えば、この図に示す第3撮像部13は、撮像制御部51により駆動部(不図示)が制御されて回転駆動されることにより、第1表示部21の表示面に対面する方向と、第2表示部22の表示面に対面する方向と、の両方向を撮像することが可能な第3撮像部13bとして構成されている。
この第3撮像部13bは、例えば、第1表示部21の表示面に対面する方向と、第2表示部22の表示面に対面する方向と、の両方向を含む画像領域を撮像する画角を有していない撮像部であっても、表示面に平行な軸を中心に回転させることにより回転方向における全周方向を撮像することができる。
【0052】
なお、撮像部10は、表示装置1に対して着脱可能な構成であってもよい。例えば、撮像部10は、表示装置1の側面に対して着脱可能な構成であってもよい。
これにより、表示装置1において、把持状態等に応じて撮像するのに適した位置に撮像部10を取り付けることができる。また、表示装置1に対して撮像部10を追加して取り付けることができる。さらには、例えば、撮像部を備えていない表示装置に撮像部10を取り付けられる構成としてもよい。
【0053】
<把持状態を検出する処理>
次に、表示装置1が操作者により把持されている状態(把持状態)を検出する処理について説明する。
把持状態検出部43は、第1表示部21および第2表示部22のそれぞれの表示面上における接触状態を検出する表示面接触センサ(第1接触状態検出部)により検出されるそれぞれの表示面上における接触状態に基づいて、把持状態を検出する。
具体的には、把持状態検出部43は、第1表示部21の表示面上における接触状態を検出する第1表示面接触センサ33と、第2表示部22の表示面上における接触状態を検出する第2表示面接触センサ34と、に検出されるそれぞれの表示面上における接触状態に基づいて、把持状態を検出する。
【0054】
例えば、把持状態検出部43は、操作者により表示装置1が把持されることにより第1表示面接触センサ33または第2表示面接触センサ34において検出される手の接触位置に基づいて、表示装置1における把持位置を把持状態として検出する。
また、把持状態検出部43は、把持状態として、操作者にとって何れの面が表面(操作者に対面している面)であるか、または裏面(操作者に対面していない面)であるかを検出する。
【0055】
図9は、表示装置1が把持されている状態の一例を示す図である。この図は、操作者により表示装置1が把持される場合の一般的な把持状態の一例である。この図においては、操作者が表示装置1を右手で把持している。また、操作者の右手の親指が操作者に対面している第1面101側の第1表示部21の表示面に接触しており、右手の親指以外の指が操作者に対面していない第2面102の第2表示部22の表示面に接触している場合を示している。第1表示部21の表示面上における接触状態を検出する第1表示面接触センサ33と第2表示部22の表示面上における接触状態を検出する第2表示面接触センサ34とは、操作者の右手による表示面への接触状態を検出する。
【0056】
例えば、把持状態検出部43は、把持状態として、第1表示面接触センサ33と第2表示面接触センサ34とにより検出されるそれぞれの表示面上における接触領域の数が少ない方の面が表面であり、接触領域の数が多い方の面が裏面であると検出する。すなわち、把持状態検出部43は、親指のみ接触されている接触領域の数が少ない方の第1面101が表面であり、親指以外の複数の指が接触されている接触領域の数が多い方の第2面102が裏面であると検出する。
【0057】
なお、把持状態検出部43は、把持状態として、第1表示面接触センサ33と第2表示面接触センサ34とにより検出されるそれぞれの表示面上における接触領域の面積が小さい方の面が表面であり、接触領域の面積が大きい方の面が裏面であると検出してもよい。例えば、把持状態検出部43は、親指のみ接触されている接触領域の面積が小さい方の第1面101が表面であり、親指以外の複数の指が接触されている接触領域(指毎の接触領域を合計した領域)の面積が大きい方の第2面102が裏面であると検出する。
【0058】
これにより、表示装置1は、把持状態検出部43により検出された把持状態に基づいて、操作者によって把持されている位置や、何れの面を表面または裏面として把持されているかを検出することができる。
【0059】
また、例えば、操作者に対面している面(表面)に対して反対側の面である対面していない面(裏面)に、裏面の表示部を見ている人がいる場合、相対位置検出部41は、第1撮像部11により撮像された画像および第2撮像部12により撮像された画像の両方の画像において顔を検出する。この場合、相対位置検出部41は、さらに、把持状態検出部43により検出された把持状態に基づいて、第1撮像部11により撮像された画像および第2撮像部12により撮像された画像のそれぞれにおいて検出された顔のうち、何れが操作者の顔であるかを判定することができる。これにより、相対位置検出部41は、表示面に対する操作者の相対位置を検出することができる。すなわち、相対位置検出部41は、撮像部10により撮像された画像と、把持状態検出部43により検出された把持状態とに基づいて、表示面に対する操作者の相対位置を検出することができる。
【0060】
<把持状態を検出する処理の別の例>
なお、上述の図9を用いて説明した例は、把持状態検出部43が表示面接触センサにより検出された表示面上における接触状態に基づいて把持状態を検出する例であるが、これに限られるものではない。次に、把持状態検出部43が把持状態を検出する場合の別の検出方法として、以下に示す2つの検出方法の例について説明する。
【0061】
第1の例は、表示装置1の筐体の側面に側面接触センサ46(第2接触状態検出部)が備えられている場合の例であって、操作者の手によって把持される際の接触を検出する場合の例である。
図10は、表示装置1の側面105に側面接触センサ46が備えられている例を示す模式図である。表示装置1は、第1面101および第1面101とは面が異なる第2面102(第1面に対する裏面)のそれぞれの端を接続する接続部領域である側面105に対する接触を検出する側面接触センサ46を備えている。
【0062】
側面接触センサ46は、操作者によって表示装置1が把持された場合、操作者の把持する手が表示装置1の側面における接触された位置を検出する。例えば、側面接触センサ46は、操作者の把持する手が表示装置1の4つの辺の側面のうち、何れの側面に接触されたかを検出する。また、側面接触センサ46は、操作者の把持する手が表示装置1の4つの辺の側面のうち、何れの側面に接触されたかを検出するとともに、接触された側面のうち何れの位置に接触されたかを検出する。このように、側面接触センサ46は、操作者の手よって把持された表示装置1の側面の位置を検出する。
なお、側面接触センサ46は、静電容量方式に代えて、電磁誘導方式でもよいし、赤外線方式でもよいし、表面弾性波方式でもよいし、抵抗膜方式でもよいし、マトリクス・スイッチ方式でもよい。 これにより、把持状態検出部43は、側面接触センサ46により接触が検出された側面105における位置に基づいて、把持状態を検出することができる。
【0063】
また、第2の例は、表示装置1に表示装置1の外周囲の少なくとも一部を移動可能に支持されている把持部200(グリップ)と把持部200の位置を検出するグリップ位置センサ47(第3接触状態検出部)とが備えられている場合であって、グリップ位置センサ47が、把持部200の位置を検出する場合の例である。
【0064】
図11は、表示装置1に把持部200とグリップ位置センサ47が備えられている例を示す模式図である。表示装置1は、例えば、第1面101および第1面101とは面が異なる第2面102のそれぞれの端を接続する接続部領域である側面105にガイド部108(凹形状のガイド溝108Uを有しており、このガイド溝108Uに沿って表示装置1の外周囲の少なくとも一部を移動可能に支持されている把持部200を備えている。そして、この把持部200は、操作者によって表示装置1を把持する際に適した位置に移動されて把持される。また、表示装置1は、表示装置1の外周囲の少なくとも一部を移動された把持部200の位置を検出するグリップ位置センサ47を備えている。これにより、把持状態検出部43は、グリップ位置センサ47により検出された把持部200の位置に基づいて、把持状態を検出する。
なお、把持部200は、表示装置1の第1面101と平行な軸を中心に回転する構成としてもよい。そして、グリップ位置センサ47は、把持部200の回転位置(回転角度)を検出してもよい。
【0065】
また、把持部200は、凹部200Tを有している。凹部200Tは、第1面101(第2面102)の中心に対して外側(反対側)に開口するように形成されている。図11に示す把持部200は、複数の凹部200Tとして第1凹部200Taと第2凹部200Tbと有している。第1凹部200Taと第2凹部200Tbとは、表示装置1の側面105に沿った方向に並んで把持部200の外側に形成されている。
【0066】
図12および図13は、操作者によって表示装置1の把持部200が把持されている例を示す図である。また、図12は第1面101側を示す図であり、図13は第2面102側を示す図である。
図12および図13に示す例では、操作者は、右手で把持部200を把持しており、第1面101が操作者に対面する表面となるように把持している。これらの図に示す例では、第1凹部200Taに操作者の右手の薬指が配置され、第2凹部200Tbに操作者の右手の小指が配置されている。これにより、操作者は、右手の親指が第1面101に接触するように表示装置1を把持していることになり、第1面101が操作者に対面する表面となっている。
すなわち、把持部200は、例えば、操作者が表示装置1を把持する手の親指を操作者に対面する表面に接触可能なように誘導し、把持する手の親指以外の指(人差し指、中指、薬指、および小指)の少なくとも一部を裏面に接触可能なように誘導する形状を有している。
【0067】
このように、把持部200の形状を、操作者の持ち手方向が誘導されるような形状とすることにより、把持状態検出部43は、グリップ位置センサ47により検出された把持部200の表示装置1の外周囲に対する位置または回転位置に基づいて、把持部200の持ち手方向に応じた表示装置1の姿勢を検出することができる。
【0068】
次に、図14および図15を参照して、表示装置1のガイド部108に把持部200が支持されている構成について説明する。
図14は、側面105に移動可能に支持されている把持部200の拡大図である。また、図15は、側面105と把持部200との支持機構の一例を説明する断面図である。
【0069】
把持部200は、支持機構4を介してガイド部108のガイド溝108Uに移動可能に指示されている。支持機構4は、ガイド溝108Uにガイドされて移動可能な移動部9と、把持部200を回転可能に支持する支持部9Sと、を有している。把持部200は、支持部9Sに回転可能に支持される軸部200Jを有している。これにより、把持部200は、ガイド溝108Uに沿って移動可能なように、支持部9Sと軸部200Jとを介して移動部9に支持されている。また、把持部200は、側面105に対して垂直な軸Jを中心に回転可能なように、支持部9Sと軸部200Jとを介して移動部9に支持されている。
なお、ガイド部108は、凹形状のガイド溝108Uに代えて、凸形状のレールとしてもよい。この場合、側面105が有する凸形状のレールに沿って移動部9が移動可能な構成としてもよい。
【0070】
図16は、図10を用いて説明した側面接触センサ46、および図11を用いて説明したグリップ位置センサ47を備えている表示装置1の構成を示す概略ブロック図である。同図において図1の各部に対応する部分には同一の符号を付け、その説明を省略する。
図16に示す構成は、検出部40が、さらに側面接触センサ46およびグリップ位置センサ47を備えていることが図1に示す構成に対して異なる。
上述したように、側面接触センサ46は、表示装置1の側面105に対する接触を検出する。例えば、側面接触センサ46は、操作者が表示装置1を把持している状態において、操作者の手による接触位置を検出する。また、グリップ位置センサ47は、把持部200が表示装置1の側面105において移動された位置または回転位置を検出する。例えば、グリップ位置センサ47は、側面105における把持部200の位置を検出するためのラインセンサ、またはリニアエンコーダを有している。また、例えば、グリップ位置センサ47は、側面105に対する把持部200の回転位置を検出するためのロータリーエンコーダを有している。
また、側面接触センサ46およびグリップ位置センサ47は、検出した検出結果を把持状態検出部43に出力する。
【0071】
このように、把持状態検出部43は、表示装置1の側面105において、側面接触センサ46により検出された接触位置に基づいて、把持状態を検出することができる。また、把持状態検出部43は、グリップ位置センサ47により検出された、表示装置1の外周囲の少なくとも一部を移動可能な把持部200の移動された位置(または回転位置)に基づいて、把持状態を検出することができる。
【0072】
<生体情報を取得して操作者を認識する処理>
次に、表示装置1が備えている撮像部10を用いて、操作者の生体情報を取得して操作者を認識する処理について説明する。
図17は、生体情報を取得して操作者を認識する処理を行う表示装置1の構成の一例を示す概略ブロック図である。同図において図16の各部に対応する部分には同一の符号を付け、その説明を省略する。
図17に示す表示装置1は、ユーザ認証部70を備えていることが図16に示す構成に対して異なる。
【0073】
ユーザ認証部70は、生体情報取得部71と、認証部72とを備えている。
生体情報取得部71は、撮像部10により撮像された操作者の顔または手に基づいて生体情報を取得する。例えば、生体情報取得部71は、生体情報として、顔パターン、指紋パターン、静脈パターン、または、虹彩パターン等、個人を特定できる人間の身体的な特徴情報を取得する。また、生体情報として静脈パターンを取得する場合等、撮像部10は、赤外光を照射する照射部を有し、且つ赤外光の波長域を撮像可能な構成としてもよい。
認証部72は、生体情報取得部71により取得された生体情報に基づいて、操作者の認証を実行する。例えば、記憶部5には、認証するための個人(例えば、操作者になり得る人)の生体情報が予め記憶されており、認証部72は、記憶部5から認証する対象となる個人の生体情報を読み出して、取得された生体情報と認証を行う。
【0074】
よって、ユーザ認証部70は、撮像部10により撮像された画像に基づいて、例えば、顔認証、指紋認証、静脈認証、または、虹彩認証等によって、検出された操作者の個人認証をすることできる。
これにより、例えば、表示装置1が使用される際の認証機能として利用することができる。また、例えば、表示装置1は、撮像部10により撮像された画像から複数の顔が検出された場合に、予め登録されている操作者の顔パターンと顔認証することにより、検出された複数の顔の中から操作者を抽出することも可能である。
【0075】
以上のように、表示装置1は、互いに表裏の位置関係に配置されている第1表示部21および第2表示部22のそれぞれの表示面に対面する方向を撮像した画像に基づいて、第1表示部21および第2表示部22のそれぞれの表示面に対面する両方の方向において、表示面に対する操作者の相対位置を適切に検出することができる。よって、表示装置1は、表裏面両方の方向において、表示面に対する操作者の相対位置を検出することができる。
【0076】
また、表示装置1は、互いに表裏の位置関係に配置されている第1表示部21および第2表示部22のそれぞれの表示面に対面する方向を撮像した画像に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出することができる。すなわち、表示装置1は、第1表示部21および第2表示部22の何れの表示部が操作者に対して表面である状態で把持されているか、または裏面である状態で把持されているかを検出することができる。
また、表示装置1は、互いに表裏の位置関係に配置されている第1表示部21および第2表示部22のそれぞれの表示面に対面する方向を撮像した画像に基づいて、操作者に対面する表示部の切り替わり(表面から裏面への切替わり)を検出することができる。
【0077】
続いて、表示装置1において、相対位置検出部41により検出された表示面に対する操作者の相対位置に応じて、制御部50が表示装置1を制御する処理について説明する。
制御部50は、相対位置検出部41により検出された表示面に対する操作者の相対位置に応じて、表示装置1を制御する。
例えば、制御部50は、相対位置検出部41により検出された表示面に対する操作者の相対位置に応じて、第1表示部21および第2表示部22の表示を制御する。また、制御部50は、相対位置検出部41により検出された表示面に対する操作者の相対位置に応じて、第1表示部21の表示面側および第2表示部22の表示面側のそれぞれに配置されている第1操作入力部31および第2操作入力部32の操作方法を制御する。
【0078】
<相対位置に応じて、表裏面の各表示部の表示を制御する例>
まず、表示制御部52が、操作者の相対位置に応じて、第1表示部21および第2表示部22の表示を制御する場合について説明する。
表示制御部52は、表示対象をA方向から見た場合の像を、第1表示部21に表示させるとともに、A方向と反対のB方向から表示対象を見た場合の像を、第1表示部21の反対面である第2表示部22に表示させる。つまり、表示制御部52は、表示対象に対する視線方向と、表示装置1の表示面に対する視線方向とが、同じ方向となるような表示対象の画像を表示装置1に表示させる。
【0079】
例えば、記憶部5には表示対象の上面視画像および底面視画像が記憶されており、表示制御部52は、記憶部5から読み出した表示対象の上面視画像および底面視画像を、第1表示部21および第2表示部22に次のように表示させる。
表示制御部52は、姿勢検出部42により検出された表示装置1の姿勢が、第1表示部21および第2表示部22の表示面が水平面(XY平面)に対して平行となる姿勢であって、相対位置検出部41により検出された相対位置が、第1表示部21および第2表示部22のうち表示面が上側となる表示部の側の位置である場合、当該上側となる表示部に上面視画像を表示させる。一方、表示制御部52は、相対位置検出部41により検出された相対位置が、第1表示部および第2表示部のうち表示面が下側となる表示部の側の位置である場合、当該下側となる表示部に底面視画像を表示させる。
すなわち、表示制御部52は、表示装置1の表示面が水平面に対して平行となる姿勢である場合であって、第1表示部21が上側、第2表示部22が下側である場合、第1表示部21に表示対象の上面視画像を表示させ、第2表示部22に表示対象の底面視画像を表示させる。
【0080】
図18は、車を表示対象とした場合の第1の表示例を示す図である。また、図18において、XYZ直交座標系が互いに直交するX軸とY軸とが水平面に対して平行に定められ、Z軸が水平面に対して直交する方向に定められている。また、Z軸方向の正方向が上方向、Z軸方向の負方向が下方向である。
図18(a)は、表示装置1が、表示面が水平面に対して平行となる姿勢であって、第1表示部21が上側、第2表示部22が下側であることを示している。そして、図18(b)は、上側の第1表示部21をA方向(上方向)から見た場合に第1表示部21に表示されている表示例を示している。また、図18(c)は、下側の第2表示部22をB方向(下方向)から見た場合に第2表示部22に表示されている表示例を示している。
図18(b)に示すように、表示装置1の上側の表示面には、車の上面視画像が表示されている。一方、図18(c)に示すように、表示装置1の下側の表示面には、車の底面視画像が表示されている。すなわち、表示装置1は、操作者が表示装置1の上側の第1表示部21をA方向(上方向)から見た場合には、同じ視線方向である上方向から車を見た場合の上面視画像を第1表示部21に表示させる。一方、表示装置1は、操作者が表示装置1の下側の第2表示部22をB方向(下方向)から見た場合には、同じ視線方向である下方向から車を見た場合の底面視画像を第2表示部22に表示させる。
【0081】
また、記憶部5には、さらに表示対象の側面視画像が記憶されている場合、表示制御部52は、記憶部5から読みだした表示対象の画像を次のように表示させる。
表示制御部52は、姿勢検出部42により検出された表示装置1の姿勢が、第1表示部21および第2表示部22の表示面が水平面に対して垂直となる姿勢である場合、第1表示部21および第2表示部22に側面視画像を表示させる。
すなわち、表示制御部52は、表示装置1の表示面が水平面に対して垂直となる姿勢である場合、第1表示部21または第2表示部22に表示対象の側面視画像を表示させる。
【0082】
図19は、車を表示対象とした場合の第2の表示例を示す図である。また、図19におけるXYZ直交座標系は図18におけるXYZ直交座標系と同様に定められている。
この図は、表示装置1が、表示面が水平面(XY平面)に対して垂直となる姿勢である場合を示している。図19(a)は、第1表示部21に表示されている表示例を示しており、図19(b)は、第2表示部22に表示されている表示例を示している。
図19(a)、(b)に示すように、表示装置1のそれぞれの表示面には、車の側面視画像が表示されている。例えば、第1表示部21に、車の左側(左フェンダー側)の側面視画像が表示されているとした場合(図19(a)参照)、第2表示部22には、車の右側(右フェンダー側)の側面視画像が表示されている(図19(b)参照)。
なお、図18および図19に示す車の画像の表示制御の場合、表示制御部52は、第1表示部21および第2表示部22のうち操作者に対面しない表示部を非表示状態に制御してもよい。
【0083】
次に、図20を参照して、表示装置1の姿勢と操作者の相対位置に基づいて表示を制御する処理について、図18および図19に示す車の画像の表示を例として説明する。
図20は、表示装置1の姿勢と操作者の相対位置に基づいて表示を制御する処理の一例を示すフローチャートである。
まず、相対位置検出部41は、撮像部10により撮像された画像に基づいて、操作者の相対位置を検出する。例えば、相対位置検出部41は、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する。すなわち、相対位置検出部41は、操作者の閲覧面が第1表示部21および第2表示部22の何れの表示面であるかを検出する(ステップS1)。
【0084】
次に、制御部50は、姿勢検出部42に表示装置1の姿勢を検出させる(ステップS2)。表示制御部52は、相対位置検出部41により検出された操作者の相対位置と姿勢検出部42により検出された表示装置1の姿勢とに基づいて、ステップS1において検出された閲覧面となる表示部に表示させる表示情報を更新する(ステップS3)。例えば、表示制御部52は、検出された表示装置1の姿勢に基づいて、図18に示す車の上面視画像もしくは底面視画像、または、図19に示す車の側面視画像の何れかを選択して記憶部5から読み出して、閲覧面となる表示部に表示させる表示情報として更新する。そして、表示制御部52は、更新された表示情報を閲覧面となる表示部に表示させる(ステップS4)。
例えば、操作者の閲覧面が第1表示部21であると検出され、表示装置1の表示面が水平面に対して平行となる姿勢であって、第1表示部21が上側、第2表示部22が下側であると検出された場合、表示制御部52は、図18(b)に示す車の上面視画像を第1表示部21に表示させる。なお、この場合、表示制御部52は、閲覧面ではない第2表示部22を非表示状態に制御する。
【0085】
続いて、相対位置検出部41は、撮像部10により撮像された画像に基づいて、閲覧面が変更されたか否かを検出する(ステップS5)。ステップS5において、閲覧面が変更されていないと検出された場合、制御部50はステップS2に処理を戻し、姿勢検出部42に表示装置1の姿勢を検出させる。例えば、ステップS2において、姿勢検出部42により検出された表示装置1の姿勢が、表示面が水平面に対して垂直となる姿勢である場合、第1表示部21に表示させる表示情報としての画像を、図18(b)に示す車の上面視画像から図19(a)に示す車の側面視画像に更新する。
一方、ステップS5において、閲覧面が変更されたと検出された場合、表示制御部52は、非閲覧面となった表示部(変更前の閲覧面の表示部)を非表示状態にする。次に、制御部50は、ステップS2に処理を戻し、姿勢検出部42に表示装置1の姿勢を検出させる。
例えば、ステップS5において閲覧面が第1表示部21から第2表示部22に変更された場合、表示制御部52は、第1表示部21を非表示状態にする。次に、ステップS2に処理を戻し、例えば、姿勢検出部42により検出された表示装置1の姿勢が変更されていない場合、すなわち、表示面が水平面に対して平行となる姿勢であって、第1表示部21が上側、第2表示部22が下側であると検出された場合、続いてステップS3において、表示制御部52は、表示させる表示情報としての画像を、図18(b)に示す車の上面視画像から図18(c)に示す車の底面視画像に更新する。そして、表示制御部52は、車の底面視画像を第2表示部22に表示させる。
【0086】
なお、表示装置1が水平面と平行な姿勢であって、上面視画像または底面視画像を表示している状態である場合から、水平面と垂直な方向に回転(変更)された場合、表示装置1は、その回転される際の回転方向に応じて、前後左右それぞれ側面視画像から回転方向に応じた側面視画像を選択して表示させてもよい。
また、上述しように、表示制御部52は、表示対象に対する視線方向と、表示装置1の表示面に対する視線方向とが、同じ方向となるような表示対象の画像を表示装置1に表示させる場合、上面視方向、底面視方向、または側面視方向といった視線方向のみに限られるものではない。例えば、表示制御部52は、図18、図19に定められているX軸、Y軸、およびZ軸のそれぞれを中心に360度回転させた全方向からの表示対象に対する視線方向と、表示装置1の表示面に対する視線方向とが、同じ方向となるような表示対象の画像を表示装置1に表示させてもよい。この場合、表示装置1は、X軸、Y軸、およびZ軸のそれぞれを中心に360度回転させた全方向から視線方向による表示対象の複数の画像を記憶部5に記憶させておいて表示してもよいし、モデリングにより仮想3次元空間上に形成された表示対象のオブジェクトに基づいて画像を生成して表示してもよい。
【0087】
また、表示制御部52は、第1表示部21または第2表示部22に表示対象の外観画像を表示させている状態において、表示対象における可動部を動作させることを示す操作が入力された場合、当該可動部が動作する際の画像を、第1表示部21または第2表示部22に表示させる。
なお、表示制御部52は、第1表示部21または第2表示部22に表示対象の外観画像を表示させている状態において、表示対象の内部が見られる状態になることを示す操作が入力された場合、操作がされた位置に対応する表示対象の内部を示す内部画像を、第1表示部21または第2表示部22に表示させてもよい。
【0088】
図21は、車を表示対象とした場合の第3の表示例を示す図である。また、図21におけるXYZ直交座標系は、図18におけるXYZ直交座標系と同様に定められている。
図21(a)は、第1表示部21に車の側面視画像が表示されており、表示対象の車における可動部であるドアが表示されている位置に、ドアが開く動作をさせることを示す操作として、指によるタッチ操作がされていることを示している。この操作により、表示装置1は、第1表示部21に車のドアが開く画像を表示させた後、図19(b)に示すように、車のドアが開いている状態の側面視画像を表示させる。また、この図19(b)に示す画像の場合、表示装置1は、車のドアが開いたことにより、車の内部が見られる状態になるため、ドアが開いた位置には車の内部を示す画像を表示させる。
【0089】
このように、表示装置1は、表示対象に対する視線方向と、表示装置1の表示面に対する視線方向とが、同じ方向となるように、表示対象を表示装置1に表示させることができる。また、表示装置1は、操作入力に応じ、表示されている表示対象における可動部を動作させること、または表示対象の内部画像を表示させることができる。
【0090】
なお、図18から図21を用いて車を表示対象の例とした場合を説明したが、次のような水面から上の画像や下(水中)の画像を表示対象とした制御も可能である。
例えば、姿勢検出部42により検出された表示装置1の姿勢が、表示装置1の表示面が水平面に対して平行となる姿勢である場合、表示制御部52は、上側の表示面には水面に対面する上方向から水面を見た場合の画像を表示させ、下側の表示面には水中から水面方向を見上げた場合の画像を表示させてもよい。また、表示装置1の表示面が水平面に対して垂直となる姿勢である場合、表示制御部52は、第1表示部21または第2表示部22に半水面画像を表示させてもよい。さらに、この姿勢において、姿勢検出部42または相対位置検出部41により表示装置1が上下に移動されたことが検出された場合、表示制御部52は、表示装置1が上下に移動されるのに応じて、半水面画像における水面の位置を上下に移動させた画像を表示させてもよい。
【0091】
<表示部の表面と裏面とに基づいて、表示を制御する例>
次に、制御部50の表示制御部52が、相対位置検出部41により検出された表面および裏面に基づいて、表面の表示部と裏面の表示部との表示を制御する例について説明する。
ここで、上述したように、表示装置1における表面とは操作者に対面する面であって、裏面とは表面の反対面となる操作者に対面しない面である。
相対位置検出部41は、検出した相対位置に基づいて、第1表示部21および第2表示部22のうち、操作者に対面する表示部の表示面を表面であると検出するとともに、他方の表示部の表示面を裏面であると検出する。表示制御部52は、相対位置検出部41により検出された結果(表面および裏面)に基づいて、表面の表示部または裏面の表示部の表示を制御する。
【0092】
例えば、表示制御部52は、表面の表示部を表示状態とするとともに、裏面の表示部の表示を非表示状態にする。これにより、表示制御部52は、操作者によって見られていない裏面の表示部を非表示状態にすることにより、表示装置1において消費される電力を削減できる。また、裏面の表示を非表示状態にすることにより、裏面に対面する側の人に情報が見られてしまうことを防止できる。
【0093】
なお、表示装置1は、表示部の表面と裏面とに基づいて、表示を制御する例として、次以下のような制御をしてもよい。
表示装置1は、表面の表示部にウェブサイトを表示させている場合であって、表示されているウェブサイトにリンクされている他のページや他のウェブサイトの表示情報を、操作者によって操作されるのに応じて表示させる場合、リンク先の表示情報を裏面の表示部に表示させる制御をしてもよい。例えば、リンク先の表示情報が操作者にとって有害な情報を含んでいる場合がある。表示装置1の制御部50は、リンク先の表示情報のデータを解析して、有害な情報を含んでいる可能性があると判定した場合、リンク先の表示情報を裏面の表示部に表示させる制御をしてもよい。
これにより、表示装置1は、リンク先の表示情報を裏面の表示部に表示するため、操作者にとって有害な表示情報が表示される場合であっても、操作者が裏面の表示部を注意しながら見る事ができるため、その有害な表示情報を意図せず突然見てしまうことを防止することができる。
【0094】
(表裏面の切り替えに応じて表裏面の表示を制御する例)
続いて、表示装置1が、表裏面が切り替わることに応じて表裏面の表示を制御する例を説明する。
相対位置検出部41は、検出された相対位置に基づいて、操作者に対面する面が表面の表示部から裏面の表示部に変更されるか否かを検出する。すなわち、相対位置検出部41は、検出された相対位置に基づいて、操作者に対面する面が表面の表示部から裏面の表示部に切り替わるか否かを検出する。そして、相対位置検出部41は、検出された相対位置に基づいて、操作者に対面する面が表面の表示部から裏面の表示部に切り替わることを検出した場合、当該切り替わることを示す切替え信号を制御部50に出力する。
【0095】
制御部50の表示制御部52は、相対位置検出部41により操作者に対面する面が表面の表示部から裏面の表示部に切り替わることが検出されて切替え信号が入力された場合、切り替わり前の裏面の表示部の表示を非表示状態から表示状態にする。これにより、制御部50は、操作者による操作入力を必要とせずに、非表示状態であった裏面の表示部が操作者に見られる表面に切り替わることを検出して表示状態にすることができる。
【0096】
なお、表示制御部52は、表示面に対する操作者の相対位置に応じて検出した表面および裏面に基づいて表示の制御をしている。そのため、表示制御部52は、表示装置1を反転させることにより、操作者に対面する面が表面の表示部から裏面の表示部に変更される場合であっても、表示装置1を反転せずに操作者が移動することによって見る面が表面の表示部から裏面の表示部に変更される場合であっても、同様の制御が可能である。
【0097】
次に、表示装置1が、表裏面が切り替わることに応じて表裏面の表示を制御する例として単語帳アプリ(アプリケーションソフトウェア)の例を説明する。この単語帳アプリは、表示装置1において実行することにより、表面の表示部に英単語(問題)を表示させ、裏面の表示部に、表面の表示部表示させた英単語の意味(解答)、または、その解答のヒントを表示させるといった制御をする。
【0098】
例えば、表示制御部52は、表面の表示部に問題(第1情報)を表示させる。次に、表示制御部52は、相対位置検出部41から切り替え信号が入力されるのに応じて、切り替わり前の表面の表示部に表示させている問題(第1情報)と関連付けられている解答またはヒント(第2情報)を変更される前の裏面の表示部に表示させる。また、表示制御部52は、切替え信号が入力される回数に応じて、解答またはヒント(第2情報)の内容を変更して、切り替わり前の裏面の表示部に表示させる。例えば、表示制御部52は、切替え信号が入力される回数に応じて、表示させるヒントの内容を変更する、または、ヒントを表示させるか解答を表示させるかを選択する。
【0099】
なお、表示制御部52は、操作者に対面する表示部が表面の表示部から裏面の表示部に切り替わる際の相対位置の変位方向に応じて、解答またはヒント(第2情報)の内容を変更して、切り替わり前の裏面の表示部に表示させてもよい。例えば、表示制御部52は、切り替わる際の相対位置の変位方向に応じて、表示させるヒントの内容を変更する、または、ヒントを表示させるか解答を表示させるかを選択してもよい。
また、表示制御部52は、操作者に対面する表示部が表面の表示部から裏面の表示部に切り替わる際の相対位置の変位量に応じて、解答またはヒント(第2情報)の内容を変更して、切り替わり前の裏面の表示部に表示させる。
【0100】
なお、問題(第1情報)、および解答またはヒント(第2情報)のデータは、アプリケーションソフトウェアまたはアプリケーションソフトウェアに対応する辞書データファイルが有するデータである。そして、これらのデータは、例えば、表示装置1においてアプリケーションソフトウェアが実行されことに応じて、当該実行されている期間、制御部50の制御により記憶部5に記憶されて適宜処理に使用される。
【0101】
図22は、表裏面の切り替えに応じて表裏面の各表示部の表示を制御する例を示す図であって、単語帳アプリを例とした表示制御を示す図である。
例えば、第1表示部21を表面の表示部、第2表示部22を裏面の表示部とした状態である場合、表示制御部52は、第1表示部21に英単語(問題)を表示させる。次に、相対位置検出部41により操作者に対面する面が第1表示部21から第2表示部22に切り替わることが検出された場合、表示制御部52は、1回目の第1表示部21から第2表示部22への切り替わり、および2回目の第1表示部21から第2表示部22への切り替わりにおいては、第2表示部22にヒントを表示させ、3回目の第1表示部21から第2表示部22への切り替わりにおいて、英単語の意味(解答)を表示させる。また、表示制御部52は、1回目の第1表示部21から第2表示部22への切り替わり、および2回目の第1表示部21から第2表示部22への切り替わりにおいて、第2表示部22に表示させるヒントの内容を変更して表示させてもよい。例えば、表示制御部52は、第1表示部21から第2表示部22に切り替わり回数が増加することに応じて、解答がより導かれやすいヒントに変更して第2表示部22に表示させてもよい。
【0102】
次に、図23を参照して、上述した単語帳アプリの制御に応じた表示処理の一例について説明する。
図23は、単語帳アプリによる表示処理の一例を示すフローチャートである。
まず、表示制御部52は、英単語(問題)を記憶部5から読み出して、表面である第1表示部21に表示させる(ステップS11)。次に、表示制御部52は、第1表示部21に注意回数を表示させる(ステップS12)。この注意回数は、同じ英単語(問題)を過去に表示させた際に、当該問題に対する回答が不正解であった場合、またはヒントの表示回数が多かった場合、操作者に対して要注意問題であることを通知するために計数して登録された注意回数であり、後述の処理(ステップS22)において計数される。
【0103】
次に、制御部50は、操作者がヒント回数(ヒントの更新回数)を0に設定する(ステップS13)。なお、このヒント回数は、制御部50の制御により、英単語(問題)に関連づけられて記憶部5に記憶される。続いて、表示制御部52は、第1表示部21に表示させた英単語(問題)に関連付けられているヒントを記憶部5から読み出して、裏面である第2表示部22に表示させる(ステップS14)。
続いて、相対位置検出部41は、操作者に対面する表示部が第1表示部21から第2表示部22に切り替わったか否かを検出する。すなわち、相対位置検出部41は、表示装置1が反転された、または、操作者によって裏面が覗き込まれた等により、表裏面が切り替わったか否かを検出する(ステップS15)。ステップS15において表裏面が切り替わったと検出された場合、制御部50は、ヒント回数が5回未満であるか否かを判定する(ステップS16)。
【0104】
ステップS16においてヒント回数が5回未満であると判定された場合、ヒント回数に1を加算して(ステップS17)、記憶部5から次に表示させるヒントを読み出し、裏面に表示させるヒントの表示情報を更新する(ステップS18)。そして、操作者に対面する表示部が第2表示部22から第1表示部21に切り替わったことが相対位置検出部41により検出された後、すなわち、操作者がヒントを見てから再び英単語(問題)が表示されている第1表示部21に対面する位置に戻ったことが検出された場合、制御部50は、ステップS14に処理を戻し、表示制御部52は、更新したヒントを裏面である第2表示部22に表示させる。
一方、ステップS16においてヒント回数が5回未満でないと判定された場合、制御部50は、注意回数に1を加算し(ステップS22)、加算した注意回数を当該英単語(問題)に関連付けて記憶部5に記憶させ登録する(ステップS23)。次に、表示制御部52は、解答を第2表示部22に表示させて終了する(ステップS24)。
【0105】
また、ステップS15において表裏面が切り替わっていないと検出された場合、制御部50は、第1表示部21に表示させた英単語(問題)に対する操作者からの回答を受け付ける。例えば、表示制御部52は、第1表示部21の表示領域内の一部に、回答入力領域を表示させる。なお、表示制御部52は、第1表示部21の表示領域内の一部に、回答の選択肢を表示させてもよい。
次に、操作者によって回答が入力されるのに応じて、制御部50は、表示させている英単語(問題)に関連付けられているその英単語(問題)の意味(解答)と、操作者によって入力された回答と、を比較して、操作者の回答が正解であるか否かを判定する(ステップS20)。ステップS20において操作者の回答が正解でないと判定された場合、表示制御部52は、第1表示部21に正解でないことを示す情報を表示させ、ステップS15に処理を戻す。一方、ステップS20において操作者の回答が正解であると判定された場合、制御部50は、英単語(問題)に関連付けられているヒント回数を記憶部5から読み出して、読み出したヒント回数が3回以上であるか否かを判定する(ステップS21)。
【0106】
ステップS21においてヒント回数が3回以上でないと判定された場合、表示制御部52は、解答を第2表示部22に表示させて終了する(ステップS24)。一方、ステップS21においてヒント回数が3回以上であると判定された場合、制御部50は、注意回数に1を加算し(ステップS22)、加算した注意回数を当該英単語(問題)に関連付けて記憶部5に記憶させ登録する(ステップS23)。次に、表示制御部52は、解答を第2表示部22に表示させて終了する(ステップS24)。
【0107】
このように、表示装置1は、例えば、英単語(問題)を表面の表示部に表示させるとともに、表裏面が切り替わるのに応じて、表面の表示部に表示させている問題(第1情報)と関連付けられている解答またはヒント(第2情報)を切り替わり前の裏面の表示部に表示させることができる。また、表示装置1は、表裏面の切り替えの回数に応じて、第2情報として解答表示させるか、またはヒントを表示させるかを選択することができる。また、表示装置1は、ヒント回数が多い英単語(問題)、または、正解できなかった英単語(問題)には、要注意問題として注意回数を関連付けて登録するため、次に、表示する際にその注意回数を表示することにより操作者に注意を促すことができる。また、制御部50は、英単語(問題)に関連付けられている注意回数に基づいて、注意回数が0でない英単語(問題)のみを選択して記憶部5から読み出し、順次表示させて出題してもよい。なお、制御部50は、注意回数に限らず不正解の回数、正解の回数、正解に要した時間等を計数または計測して、英単語(問題)に関連付けて記憶させ、表示処理等に利用してもよい。
よって、表示装置1は、上記に説明した単語帳アプリの制御に応じた処理を実行した場合、実際に単語帳を使用する際の動作に対して違和感の少ない直感的な操作を操作者に提供することができる。
【0108】
なお、図22および図23を用いて単語帳アプリを例として説明したが、これに限られるものではない。例えば、第1情報は英単語に限らず様々な分野の問題であってもよい。そして、第1情報に関連付けられている第2情報は、当該問題に対応したヒントおよび解答であってもよい。
【0109】
また、図22および図23を用いて説明した例は、表示制御部52が、表裏面が切り替わる回数によってヒント、または解答を第2表示部22に表示させる制御であるが、表裏面の表示部が切り替わる際の表示部に対する操作者の相対位置の変位方向によって、第2表示部22に表示させる表示内容を変更してもよい。
図24は、表裏面の切り替えに応じて表裏面の各表示部の表示を制御する単語帳アプリを例とした表示制御を示す図であって、図22に示す制御とは別の例を示す図である。例えば、図24に示すように、表示制御部52は、相対位置検出部41により表示面が水平面と平行な軸を中心に回転されたことが検出された場合には第2表示部22にヒントを表示させ、表示面が水平面と垂直な軸を中心に回転されたことが検出された場合には解答を第2表示部22に表示させる制御をしてもよい。
これにより、表示装置1は、表裏面の表示部が切り替わる際の表示部に対する操作者の相対位置の変位方向に応じて、切り替わり前の裏面(切り替わり後の表面)に表示させる情報を変更することができる。
【0110】
また、表示制御部52は、表裏面の表示部が切り替わる際の表示部に対する操作者の相対位置の変位量によって、第2表示部22に表示させる表示内容を変更してもよい。例えば、相対位置検出部41により検出された操作者の位置が、第2表示部22の表示面に正対する方向の位置である場合と、第2表示部22の表示面に対して斜め方向の位置である場合とによって、第2表示部22に表示させる表示内容を変更してもよい。つまり、操作者が裏面である第2表示部22を完全に見た場合と少しだけ覗き見した場合とによって、表示装置1は、第2表示部22に表示させるヒントの内容を変更してもよいし、ヒントを表示させるか解答を表示させるかを選択してもよい。
これにより、表示装置1は、表裏面の表示部が切り替わる際の表示部に対する操作者の相対位置の変位量に応じて、切り替わり前の裏面(切り替わり後の表面)に表示させる情報を変更することができる。
【0111】
なお、表示制御部52は、第1表示部21に表示させた英単語(問題)に対する回答が操作者によって入力された場合、入力された答えが正しいか否かが判定された結果を、第1表示部21または第2表示部22に表示させてもよい。
また、制御部50は、第1表示部21に英単語(問題)を表示させている状態において、相対位置検出部41から切替え信号が入力された場合、音出力部6から音を出力させて警告、または、表示装置1の筐体を振動させる振動部により振動させて警告してもよい。例えば、表示制御部52が表面の第1表示部21に問題を表示させ、裏面の第2表示部22に解答を表示させている場合、制御部50は、切替え信号が入力された場合、裏面の第2表示部22に表示させている解答が覗き見されていると判定して、音出力部6から音を出力させて警告、または、表示装置1の筐体を振動させる振動部により振動させて警告してもよい。
これにより、表示装置1は、例えば、操作者によって裏面の表示部に表示させている解答が覗き見されている場合等に、操作者に警告することができる。
【0112】
このように、表示装置1は、表示面に対する操作者の相対位置を検出することにより、操作者に対面する表示面が切り替わることに応じて、表示を変更する等の適した制御を実行することができる。
【0113】
続いて、表示装置1が入力された音声情報から音声を認識して、その音声認識の結果に基づいて、表示を制御する例について説明する。
図25は、音声認識処理を行う表示装置1の構成の一例を示す概略ブロック図である。同図において図17の各部に対応する部分には同一の符号を付け、その説明を省略する。
図25に示す表示装置1は、音入力部7と、音声認識部8とを備えていることが図17に示す構成に対して異なる。
【0114】
音入力部7は、表示装置1の周囲の音や音声を検出するマイクを有しており、検知した音を音信号に変換して出力する。音声認識部8は、音入力部7から入力される音信号から音声情報を抽出して、音声を認識する処理を実行する。例えば、音声認識部8は、音声情報からその音声に含まれている言葉の内容を認識して、その音声認識の結果を制御部50に出力する。制御部50の表示制御部52は、音声認識部8により認識された音声認識の結果に基づいて、表面または裏面の表示部の表示を制御する。
【0115】
例えば、図22から図24を用いて説明した単語帳アプリの例において、表示装置1が第1表示部21に英単語(問題)を表示させている場合、操作者がその英単語(問題)の意味(解答)を表示装置1に対して発生することにより、表示装置1は、その回答が正解であるか否かを示す情報を表示する。具体的には、音入力部7は、操作者が発生した音声を入力する。音声認識部8は、音入力部7から入力された操作者が発生した回答の音声を認識する処理を実行する。制御部50は、第1表示部21に表示させている英単語(問題)に関連付けられているその英単語(問題)の意味(解答)と、音声認識部8により認識された操作者が発生した回答と、を比較(例えば、音声パターンマッチング)して、操作者の回答が正解であるか否かを判定する。次に、表示制御部52は、判定結果に基づいて、操作者の回答が正解であるか否かを示す情報を第2表示部22に表示させる。
このように、表示装置1は、入力される音声情報から音声を認識して、その音声認識の結果に基づいて、表示を制御することができる。
【0116】
(表裏面が切り替わることに応じて、電子書籍の表示を制御する例)
次に、表示装置1が電子書籍を表示する場合を例として、操作者に対面する表示部が表面の表示部から裏面の表示部に切り替わることに応じて表示を制御する例について説明する。
相対位置検出部41は、操作者に対面する表示部が表面の表示部から裏面の表示部に切り替わることを検出した場合、当該切り替わることを示す切替え信号を出力する。表示制御部52は、相対位置検出部41から切り替え信号が入力されることに応じて、表面の表示部および裏面の表示部の表示を制御する。
【0117】
記憶部5には、電子書籍に記載されている情報が順序付けされた頁毎に記憶されている。そして、表示制御部52は、記憶部5から読み出した順序付けされた頁毎に記憶されている情報を、第1表示部21または第2表示部22に表示させる。この場合、表示制御部52は、相対位置検出部41から切り替え信号が入力される毎に、表面の表示部と裏面の表示部とのうち、切り替わり前における表面の表示部に表示されている情報に対して順序に従った次の頁に対応する情報を、切り替わり後の表面の表示部に表示させる。
【0118】
例えば、表示制御部52は、記憶部5から読み出した電子書籍の頁毎の情報を表示している場合、相対位置検出部41から切り替え信号が入力される毎に、表面の表示部と裏面の表示部とのうち、切り替わり前における表面の表示部に表示されている情報に対して順序に従った次の頁に対応する情報を、切り替わり後の表面の表示部に表示させる。つまり、表示制御部52は、表示装置1を回転または操作者の表示装置1に対する位置を変更することにより、操作者に対面する表示部が表面の表示部から裏面の表示部に切り替わった場合、切り替わり前における表面の表示部に表示されている情報の次の頁の情報を、切り替わり後の表面の表示部に表示させる。すなわち、表示装置1は、頁送りした情報を切り替わり後の表面の表示部に表示させる。
【0119】
また、表示制御部52は、順序に従って次の頁に対応する情報または画像を表示させる場合の頁送りの方向を、相対位置検出部41から切り替え信号が入力される際に、操作入力部30から入力されている操作入力に基づいて、昇順方向と降順方向とのうちから何れかを選択する。
【0120】
例えば、操作入力部30には降順方向を選択する検出領域があり、操作者が、この検出領域にタッチ操作しながら、操作者に対面する表示部を表面の表示部から裏面の表示部に切り替えたとする。この場合、表示制御部52は、操作入力部30により降順方向が選択される操作が検出され、且つ、相対位置検出部41から切り替え信号が入力されることに応じて、切り替わり前における表面の表示部に表示されている情報の前の頁の情報を、切り替わり後の表面の表示部に表示させる。すなわち、表示制御部52は、操作入力部30により降順方向が選択される操作が検出されている場合、切り替え信号が入力されることに応じて、頁戻しした情報を切り替わり後の表面の表示部に表示させる。
【0121】
一方、操作者が、降順方向を選択する検出領域にタッチ操作せずに、操作者に対面する表示部を表面の表示部から裏面の表示部に切り替えたとする。この場合、表示制御部52は、操作入力部30により降順方向が選択される操作が検出されておらず、且つ、相対位置検出部41から切り替え信号が入力されることに応じて、切り替わり前における表面の表示部に表示されている情報の次の頁の情報を、切り替わり後の表面の表示部に表示させる。すなわち、表示制御部52は、操作入力部30により降順方向が選択される操作が検出されていない場合、切り替え信号が入力されることに応じて、頁戻しした情報を切り替わり後の表面の表示部に表示させる。
【0122】
図26は、電子書籍を表示する場合の表示処理の第1の例を示すフローチャートである。この図を参照して、表示装置1が電子書籍を表示する場合の表示処理について説明する。
まず、相対位置検出部41は、撮像部10に撮像された画像に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する。すなわち、相対位置検出部41は、第1表示部21および第2表示部22の何れの表示部が、表面となる表示部であるかまたは裏面となる表示部であるかを検出する(ステップ31)。例えば、相対位置検出部41は、第1表示部21が表面の表示部であり、第2表示部22が裏面の表示部であると検出する。
【0123】
次に、表示制御部52は、相対位置検出部41により検出された表面となる表示部に、記憶部5から読み出した表示対象の電子書籍のn頁(nは自然数)の情報を表示させる(ステップS32)。例えば、表示制御部52は、相対位置検出部41により検出された表面となる第1表示部21に電子書籍の「n頁」の情報を表示させる。
【0124】
続いて、相対位置検出部41は、撮像部10に撮像された画像に基づいて、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出する(ステップS33)。そして、相対位置検出部41は、ステップS33の検出結果に基づいて、操作者に対面する表示部の切り替わり、すなわち、表裏面の切り替わりを検出する(ステップS34)。例えば、相対位置検出部41は、ステップS33において操作者に対面する表示部が第1表示部21であると検出した場合、表面となる表示部が第1表示部21から変更されていないため、表裏面が切り替わっていないことを検出する。一方、相対位置検出部41は、ステップS33において操作者に対面する表示部が第2表示部22であると検出した場合、表面となる表示部が第1表示部21から第2表示部22に変更されているため、表裏面が切り替わったことを検出して、切り替え信号を制御部50に出力する。
【0125】
ステップS34において表裏面が切り替わっていないことが検出された場合(相対位置検出部41から制御部50に切り替え信号が入力されない場合)、制御部50は、ステップS33に処理を戻す。一方、ステップS34において表裏面が切り替わったことが検出された場合(相対位置検出部41から制御部50に切り替え信号が入力された場合)、制御部50は、表裏面が切り替わる際に、降順方向が選択される操作入力が検出されたか否かを判定する(ステップS35)。
【0126】
ステップS35において、降順方向が選択される操作入力が検出されたと判定された場合、表示制御部52は、電子書籍の「n−1頁」の情報を記憶部5から読み出して、読み出した「n−1頁」の情報を切り替わり後の表面の表示部に表示させる(ステップS36)。例えば、表示制御部52は、切り替わり後の表面となる第2表示部22に電子書籍の「n−1頁」の情報を表示させる。続いて、表示制御部52は、切り替わり後の裏面となる第1表示部21を非表示状態にして、ステップS33に処理を戻す(ステップS38)。
【0127】
一方、ステップS35において、降順方向が選択される操作入力されていないことが検出されたと判定された場合、表示制御部52は、電子書籍の「n+1頁」の情報を記憶部5から読み出して、読み出した「n+1頁」の情報を切り替わり後の表面の表示部に表示させる(ステップS37)。例えば、表示制御部52は、切り替わり後の表面となる第2表示部22に電子書籍の「n+1頁」の情報を表示させる。続いて、表示制御部52は、切り替わり後の裏面となる第1表示部21を非表示状態にして、ステップS33に処理を戻す(ステップS38)。
【0128】
このように、表示装置1は、電子書籍の頁毎の情報を表示させる場合、表示装置1の表裏面の切り替わりに応じて、頁の順序に従って頁送りまたは頁戻しした情報を、切り替わり後の表面となる表示部に表示することができる。また、表示装置1は、表裏面が切り替わる際の操作者によるタッチパネルへの操作の有無に応じて、頁送りまたは頁戻しを選択して表示することができる。
【0129】
なお、表示制御部52は、順序に従って次の頁に対応する情報または画像を表示させる場合の頁送りの方向を、相対位置検出部41から切り替え信号が入力される時間間隔(操作者に対面する表示部の切り替わりの時間間隔)に応じて、昇順方向と降順方向とのうちから何れかを選択してもよい。
【0130】
例えば、表示制御部52は、相対位置検出部41から切り替え信号が短い時間間隔(例えば、1秒未満の時間間隔)で入力された場合、切り替わり前における表面の表示部に表示されている情報の前の頁の情報を、切り替わり後の表面の表示部に表示させる。すなわち、表示制御部52は、切り替え信号が短い時間間隔で入力された場合、頁戻しした情報を切り替わり後の表面の表示部に表示させる。
【0131】
一方、表示制御部52は、相対位置検出部41から切り替え信号が長い時間間隔(例えば、1秒以上の時間間隔)で入力された場合、切り替わり前における表面の表示部に表示されている情報の次の頁の情報を、切り替わり後の表面の表示部に表示させる。すなわち、表示制御部52は、切り替え信号が長い時間間隔で入力された場合、頁送りした情報を切り替わり後の表面の表示部に表示させる。
【0132】
図27は、電子書籍を表示する場合の表示処理の第2の例を示すフローチャートである。この図に示す処理は、頁送りまたは頁戻しを選択する処理が図26と異なる。図26と同様の処理については適宜その説明を省略する。
【0133】
図27のステップS41、S42は、図26のステップS31、S32とそれぞれ同様の処理であり、表示制御部52は、例えば、相対位置検出部41により検出された表面となる第1表示部21に電子書籍の「n頁」の情報を表示させる。
次に、制御部50は、内部に備えているタイマを0に設定(T=0)して(ステップS43)、時間の計測を開始する(ステップS44)。
【0134】
続いて、図27のステップS45、S46は、図26のステップS33、S34とそれぞれ同様の処理であり、相対位置検出部41は、操作者に対面する表示部が第1表示部21および第2表示部22の何れであるかを検出し(ステップS45)、検出した結果に基づいて表裏面の切り替わりを検出する(ステップS46)。例えば、相対位置検出部41は、ステップS45において操作者に対面する表示部が第2表示部22であると検出した場合、表面となる表示部が第1表示部21から第2表示部22に変更されているため、表裏面が切り替わったことを検出して、切り替え信号を制御部50に出力する。
【0135】
ステップS46において表裏面が切り替わっていないことが検出された場合(相対位置検出部41から制御部50に切り替え信号が入力されない場合)、制御部50は、ステップS44に処理を戻しタイマによる時間の計測を継続する。一方、ステップS46において表裏面が切り替わったことが検出された場合(相対位置検出部41から制御部50に切り替え信号が入力された場合)、制御部50は、タイマの計測時間が1秒未満(T<1秒)であるか否かを判定する(ステップS47)。
【0136】
ステップS47において、タイマの計測時間が1秒未満であると判定された場合、表示制御部52は、電子書籍の「n−1頁」の情報を記憶部5から読み出して、読み出した「n−1頁」の情報を切り替わり後の表面の表示部に表示させる(ステップS48)。例えば、表示制御部52は、切り替わり後の表面となる第2表示部22に電子書籍の「n−1頁」の情報を表示させる。続いて、表示制御部52は、切り替わり後の裏面となる第1表示部21を非表示状態にして、ステップS43に処理を戻す(ステップS50)。
【0137】
一方、ステップS47において、タイマの計測時間が1秒以上であると判定された場合、表示制御部52は、電子書籍の「n+1頁」の情報を記憶部5から読み出して、読み出した「n+1頁」の情報を切り替わり後の表面の表示部に表示させる(ステップS49)。例えば、表示制御部52は、切り替わり後の表面となる第2表示部22に電子書籍の「n+1頁」の情報を表示させる。続いて、表示制御部52は、切り替わり後の裏面となる第1表示部21を非表示状態にして、ステップS33に処理を戻す(ステップS50)。
【0138】
このように、表示装置1は、電子書籍の頁毎の情報を表示させる場合、表示装置1の表裏面の切り替わりに応じて、頁の順序に従って頁送りまたは頁戻しした情報を、切り替わり後の表面となる表示部に表示することができる。また、表示装置1は、表裏面が切り替わる際の時間間隔に応じて、長い時間間隔(例えば、1秒以上)で切り替えられた場合には頁送りを選択し、短い時間間隔(例えば、1秒未満)ですぐに切り替えられた場合には頁戻しを選択して表示することができる。
【0139】
なお、表示制御部52は、姿勢検出部42により検出された表示装置1の姿勢、または、検出された相対位置に基づいて、所定の操作が入力されている期間における表示装置1の傾きの変位方向に応じて、昇順方向と降順方向とのうちから何れかを選択して、表面の表示部に順序付けされた情報を順次表示させてもよい。例えば、表示装置1は、操作者によって裏面の操作入力部にタッチ操作がされている状態で、表示装置1が傾けられた場合、傾き方向(変位方向)に応じて、頁送り表示または頁戻し表示をしてもよい。
これによれば、表示装置1は、操作者により表示装置1が把持されている状態から傾けられた場合、その傾けた方向に応じて、頁送り表示または頁戻し表示をすることができる。例えば、表示装置1は、表示装置1が把持されている状態において、表示装置1の左側の側面が右側の側面に対して鉛直方向の下になるように傾けられた場合には頁送りして表示し、その反対方向に傾けられた場合には頁戻して表示するといった制御をすることが可能である。
【0140】
また、表示制御部52は、姿勢検出部42により検出された表示装置1の姿勢、または、検出された相対位置に基づいて、所定の操作が入力されている期間における表示装置1の傾きの変位量に応じて、表面の表示部に順序付けされた情報を順次表示させる際の頁送りの速度または頁戻しの速度を変更してもよい。例えば、表示装置1は、操作者によって裏面の操作入力部にタッチ操作がされている状態で、表示装置1が傾けられた場合、傾き方向に応じて、頁送りまたは頁戻し表示をするとともに、その傾き量(変位量)に応じて、頁送りの速度または頁戻しの速度を変更して表示してもよい。例えば、表示装置1は、傾き量(変位量)が大きくなるのに応じて速度を早くし、傾き量(変位量)が小さくなるのに応じて速度を遅くしてもよい。
これによれば、表示装置1は、操作者により傾けられた傾き量(変位量)に応じて、頁送りの速度または頁戻しの速度を変更することができる。
【0141】
また、制御部50は、姿勢検出部42により、第1表示部21および第2表示部22の表示面が水平面に対して垂直な状態のまま、表示装置1が鉛直方向へ繰り返し上下移動されたことが検出された場合、順序付けされた情報を表面の表示部および裏面の表示部に表示させる制御を停止する。例えば、操作者によって、表示装置1に対して本の背表紙を持って縦に振るような動作がされた場合、表示装置1は、電子書籍を表示する処理を終了する。
これによれば、表示装置1は、操作者による簡易な操作により電子書籍を表示する処理を終了することができる。
【0142】
以上のように、表示装置1は、例えば、電子書籍を表示させる場合、表示面に対する操作者の相対位置、または表示装置1の姿勢に応じて、頁送り、頁戻し、頁送りまたは頁戻しの速度の変更、または、電子書籍の表示の終了等を実行することができる。よって、表示装置1は、電子書籍を簡易な操作により表示するとともに、本を読む動作に近い違和感の少ない直感的な操作により表示することができる。また、表示装置1は、表示装置1を把持している操作者の片手のみの操作によって表示を制御することが可能である。
なお、上述した順序付けされている情報は、電子書籍の頁毎の情報に限られるものではない。例えば、順序付けされている情報は、順序付けされている複数の静止画であってもよいし、動画の複数のフレームであってもよい。
【0143】
<相対位置に応じて操作方法を制御する例>
次に、検出された相対位置に応じて操作方法を制御する例について説明する。
制御部50は、相対位置検出部41により検出された表示面に対する操作者の相対位置に応じて、第1表示部21の表示面側および第2表示部22の表示面側のそれぞれに配置されている第1操作入力部31および第2操作入力部32の操作方法を制御する。
例えば、相対位置検出部41は、検出した相対位置に応じて、第1操作入力部31および第2操作入力部32のうち、操作者に対面する表示面側に配置されている操作入力部を表面の操作入力部と検出するとともに、他方の操作入力部を裏面の操作入力部と検出する。操作入力制御部53は、相対位置検出部41により検出された結果に基づいて、表面の操作入力部または裏面の操作入力部を制御する。
【0144】
例えば、操作入力制御部53は、相対位置検出部41により検出された相対位置に基づいて、第1操作入力部31および第2操作入力部32における検出領域であって、第1表示面接触センサ33および第2表示面接触センサ34が検出対象とする検出領域を変更する。具体的には、操作入力制御部53は、相対位置検出部41により検出された相対位置に基づいて、裏面の操作入力部における検出領域を表面の操作入力部における検出領域よりも小さくする。
【0145】
図28は、表面および裏面の操作入力部における検出領域の一例を示す図である。この図において、相対位置検出部41により第1面101が表面、第2面102が裏面と検出されている。図28(a)は表面視図、図28(b)は裏面視図である。
操作入力制御部53は、裏面の第2操作入力部32(第2表示面接触センサ34)における検出領域K2を、表面の第1操作入力部31(第1操作入力部31)における検出領域K2よりも小さくしている。例えば、操作入力制御部53は、裏面の第2操作入力部32(第2表示面接触センサ34)における検出領域のうち、操作者が表示装置1を把持した際に操作者の指が接触される可能性の高い領域(例えば、表示装置1の外周に近い領域)を除いた領域を検出領域としている。
これによれば、表示装置1は、検出した相対位置に応じて、裏面の操作入力部の検出領域を小さい検出領域に変更するため、例えば、操作者に把持される際に裏面の操作入力部に指が意図せず接触することによって生じる誤操作を防止できる。
【0146】
なお、操作入力制御部53は、裏面の操作入力部による検出を停止してもよい。
これによれば、表示装置1は、検出した相対位置に応じて、裏面の操作入力部の検出を停止するため、例えば、操作者に把持される際に裏面の操作入力部に指が意図せず接触することによって生じる誤操作や、机の上に置いて使用する際に裏面の操作入力部に机が接触することによって生じる誤操作を防止することができる。
【0147】
また、操作入力制御部53は、裏面の操作入力部に操作入力を検出させるとともに、裏面の表示部の表示を非表示状態にさせる制御をしてもよい。
これによれば、表示装置1は、裏面の操作入力部から操作入力が可能であるため、表面の表示部に表示されている情報の視認性を損なうことなく操作入力が可能である。例えば、表示装置1は、表面の表示部に地図情報を表示し、裏面の操作入力部により操作入力されることに応じて、表面に表示している地図情報の表示位置を変更したり、縮尺を変更して表示させたりすることが可能である。
【0148】
<把持状態に応じて制御する例>
次に、表示装置1が操作者によって把持されている状態に応じて制御する例について説明する。
表示制御部52は、把持状態検出部43により検出された把持状態に基づいて、第1表示部21または第2表示部22に表示する情報の表示形式を変更する。
例えば、把持状態検出部43により検出された把持状態に基づいて、表示面が縦方向に把持されているか、または横方向に把持されているかに応じて、表示させる情報の縦横を変更して表示してもよい。ここで、表示面の縦方向および横方向とは、表示面に直交する軸を中心に表示面が回転される回転角度により定まる方向であって、互いに回転角度が90度異なる方向である。
【0149】
また、表示装置1は、操作者によって片手で把持されている場合と、両手で把持されている場合とによって、操作方法を変更してもよい。すなわち、制御部50は、把持状態検出部43により検出された把持状態に基づいて、片手で把持されている場合と、両手で把持されている場合とによって操作方法を選択して自装置を制御してもよい。
例えば、把持状態検出部43により検出された把持状態が、片手により把持されている状態である場合、制御部50は、相対位置検出部41から入力される切替え信号に応じて、表示装置1を制御する。すなわち、制御部50は、操作者に対面する表示部が表面の表示部から裏面の表示部に切り替わりに応じて、表示装置1を制御する。
一方、把持状態検出部43により検出された把持状態が、両手により把持されている状態である場合、制御部50は、操作入力部30に入力される操作に応じて、表示装置1を制御する。
【0150】
つまり、表示装置1は、片手で把持されている場合、例えば、表裏面を切り替える操作による操作方法とする。これにより、表示装置1は、操作者が片手でも操作が可能な操作方法を選択する。一方、表示装置1は、両手で把持されている場合、例えば、タッチ操作による操作方法とする。これにより、表示装置1は、操作者が両手で操作可能な操作方法を選択する。
【0151】
一例として、電子書籍の頁送りまたは頁戻しの操作方法として、表示装置1は、片手で把持されている場合、図26および図27を用いて説明したような表裏面の切り替わりに応じて頁送りまたは頁戻しの表示制御を実行する操作方法を選択する。また、表示装置1は、両手で把持されている場合、表示面上のタッチパネルに所定の操作がされることに応じて頁送りまたは頁戻しの表示制御を実行する操作方法を選択する。ここで、所定の操作とは、例えば、電子書籍の任意の頁が表示されている表示面上のタッチパネルに対して、操作者が指で横方向に擦る操作等である。
【0152】
図29は、表示装置1が把持状態に応じて操作方法を選択する処理の一例を示すフローチャートである。
まず、制御部50は、初期設定されている操作方法として、タッチパネルへの接触による操作方法を選択する(ステップS61)。例えば、制御部50は、第1表示面接触センサ33または第2表示面接触センサ34により検出された接触状態に基づいて、表示装置1を制御する。
【0153】
次に、把持状態検出部43は、表示装置1が操作者により把持されている状態を把持状態として検出する(ステップS62)。例えば、把持状態検出部43は、第1表示面接触センサ33と第2表示面接触センサ34とにより検出されたそれぞれの表示面上における接触状態に基づいて、把持状態を検出する。
【0154】
続いて、把持状態検出部43は、検出した把持状態が、片手により把持されている状態であるか否かを判定する(ステップS63)。ステップS63において、片手により把持されている状態であると判定された場合、制御部50は、操作方法として、表裏面の切り替わりによる操作方法を選択する(ステップS65)。例えば、制御部50は、相対位置検出部41から入力される切替え信号に応じて、表示装置1を制御する。
【0155】
一方、ステップS63において、片手により把持されている状態でないと判定された場合、把持状態検出部43は、検出した把持状態が、両手により把持されている状態であるか否かを判定する(ステップS64)。ステップS64において、両手により把持されている状態であると判定された場合、制御部50は、操作方法として、タッチパネルへの接触による操作方法を選択する(ステップS66)。一方、ステップS64において、両手により把持されている状態でないと判定された場合、制御部50は、ステップS62に処理を戻す。すなわち、片手により把持されている状態でもなく、両手により把持されている状態でもないと判定された場合、制御部50は、操作方法を変更しないで把持状態の検出を継続する。
【0156】
このように、表示装置1は、片手で把持されている場合と、両手で把持されている場合とによって、それぞれ適した操作方法とすることができる。
【0157】
次に、表示装置1が複数の操作者により把持されている場合の制御の例を説明する。
制御部50は、把持状態検出部43により検出された把持状態が、複数の操作者により把持されている状態である場合、複数の操作者毎に対応する制御をする。
例えば、把持状態検出部43により第1表示部21と第2表示部22とのそれぞれに対面する操作者から把持されている状態が検出された場合、制御部50は、それぞれの操作者に対応する表示を、第1表示部21と第2表示部22とのうち、それぞれの操作者に対面する表示部に表示させる。つまり制御部50は、第1表示部21に対面する操作者からの操作入力に応じて制御した結果に基づく情報を、第1表示部21に表示させ、第2表示部22に対面する操作者からの操作入力に応じて制御した結果に基づく情報を、第2表示部22に表示させる。
【0158】
例えば、制御部50は、クイズを出題するアプリケーションソフトウェアが実行されることにより、第1表示部21と第2表示部22とのそれぞれにクイズの問題を表示させるとともに、それぞれの表示部に対面する操作者からの回答の入力に応じて、回答の正解または不正解を示す情報や次の問題を表示させる制御をそれぞれの表示部毎に制御する。このように、制御部50は、第1表示部21および第2表示部22それぞれに対面する操作者からの操作入力に応じた情報をそれぞれの表示部に表示させる。
また、例えば、制御部50は、テニスのように対面して行うスポーツを表示装置1においてゲームとして実行するアプリケーションソフトウェアが実行される場合、互いに対面するプレーヤーの方向から見たテニスのゲーム画像を第1表示部21と第2表示部22とのそれぞれに表示させてもよい。つまり、制御部50は、表示装置1の表裏面の第1表示部21および第2表示部22それぞれに対面する操作者同士によって対戦可能なように、テニスのゲームのアプリケーションソフトウェアを実行する。
【0159】
また、複数の操作者により把持されている状態である場合、制御部50は、撮像部10により撮像された画像から検出される複数の操作者の顔に基づいて、ユーザ認証部70により顔認証を実行させて個人認証する。これにより、制御部50は、表示装置1を把持している複数の操作者それぞれを個人認証した結果に基づいて、例えば、操作者に対面する表示部に、その操作者に対応する操作者毎に作成された個人用ファイルを表示させる、または、操作者毎に設定されている表示画面を表示させるといった制御をしてもよい。また、制御部50は、複数の操作者により把持されている状態である場合、個人認証した結果に基づいて、操作者毎に作成された個人用ファイルの操作を許可するためのユーザ認証をユーザ認証部70に実行させることにより、本人のファイルの操作のみが許可されるように制御してもよい。
なお、上述の操作者毎に作成された個人用ファイル、操作者毎に設定された設定情報は、記憶部5に操作者を特定するID(Identification)情報と対応付けられて記憶されている。また、このID情報は、ユーザ認証部70が個人認証を実行するための記憶部5に記憶されている個人の生体情報(例えば、顔パターン)と対応付けられて記憶されている。
これにより、表示装置1は、複数の操作者により使用されている場合、それぞれの操作者に適した表示をすることができる。
【0160】
また、操作入力制御部53は、把持状態検出部43により検出された把持状態に基づいて、第1表示面接触センサ33または第2表示面接触センサ34により検出される検出領域のうち、把持されている位置を中心として予め定められている第1の領域における検出を停止する。つまり、操作入力制御部53は、操作者によって把持されている位置の近傍の領域に対しては、第1表示面接触センサ33または第2表示面接触センサ34における検出を停止する。ここで、第1の領域は、操作者によって把持されている位置を中心として、操作者の指により意図せず接触される可能性がある領域として予め定められている領域である。
【0161】
図30は、把持状態に基づく操作入力部における検出領域の一例を示す図である。
図30(a)は、片手(右手)により把持されている状態を示している。
この図において、操作入力制御部53は、把持状態検出部43により検出された操作者によって把持されている位置に基づいて、第1表示面接触センサ33による検出領域のうち領域K3の検出を停止し(領域K3を非検出領域とし)、領域K4を検出領域とする制御をしている。
また、図30(b)は、両手により把持されている状態を示す。
この図において、操作入力制御部53は、把持状態検出部43により検出された操作者によって把持されている位置に基づいて、第1表示面接触センサ33による検出領域のうち領域K5および領域K7の検出を停止し(領域K5および領域K7を非検出領域とし)、領域K6を検出領域とする制御をしている。
【0162】
これにより、表示装置1は、操作者によって把持される場合、第1表示面接触センサ33または第2表示面接触センサ34により検出される検出領域に操作者の指が意図せず接触することによる誤操作を防止することができる。
【0163】
また、表示制御部52は、把持状態検出部43により検出された把持状態に基づいて、第1表示部21または第2表示部22における表示面の表示領域のうち、把持されている位置を中心として予め定められている第2の領域を除く表示領域に表示させる。つまり、表示制御部52は、操作者によって把持されている位置の近傍に対しては、第1表示部21または第2表示部22の表示を非表示状態とする。例えば、表示制御部52は、第1表示部21または第2表示部22における表示面の表示領域のうち、非表示状態とした表示領域を除く領域に、情報を縮小また移動させて表示させる。ここで、第2の領域は、操作者によって把持されている位置を中心として、操作者の手や指により遮られて視認できない可能性がある領域として予め定められている領域である。
【0164】
図31は、把持状態に基づく表示領域の一例を示す図である。
図31(a)は、片手(右手)により把持されている状態を示している。
この図において、表示制御部52は、把持状態検出部43により検出された操作者によって把持されている位置に基づいて、第1表示部21による表示領域のうち領域D1を非表示状態に制御し、領域D2を表示状態に制御している。すなわち、表示制御部52は、第1表示部21による表示領域のうち、領域D1を非表示領域とし領域D2を表示領域として表示制御している。
【0165】
また、図31(b)は、両手により把持されている状態を示す。
この図において、表示制御部52は、把持状態検出部43により検出された操作者によって把持されている位置に基づいて、第1表示部21による表示領域のうち領域D3および領域D5を非表示状態に制御し、領域D4を表示常態に制御している。すなわち、表示制御部52は、第1表示部21による表示領域のうち、領域D3および領域D5を非表示領域とし領域D4を表示領域として表示制御している。
【0166】
なお、表示制御部52は、情報を縮小または移動させて表示させる場合、例えば、図31に表示領域として示される領域D2または領域D4それぞれのうち、一部の領域または全ての領域の何れに表示させてもよい。
これにより、表示装置1は、操作者によって把持される場合、第1表示部21または第2表示部22に表示される情報を操作者が視認する際に、手や指により遮られてしまうことを防止することができる。
【0167】
また、制御部50は、相対位置検出部41により検出された表面および裏面、姿勢検出部42により検出された表示装置1の姿勢、または把持状態検出部43により検出された把持状態に応じて、複数のアプリケーションソフトウェアの中からアプリケーションソフトウェア選択し、選択したアプリケーションソフトウェアを実行してもよい。
例えば、表示装置1の裏面に腕を回して上側の側面が逆手で把持され、且つ、裏面に回した腕が裏面の表示面検出センサに接触している状態であることが検出部40により検出されたとする。この場合、制御部50は、操作者がメモを取るために文字入力しようとしている状態に表示装置1が把持されている(図32参照)と判定して、メモ作成機能を有するアプリケーションソフトウェアを実行して表面の表示部に表示させる。
【0168】
なお、検出部40は、表示装置1の裏面に腕を回して上側の側面が逆手で把持され、且つ、裏面に回した腕が裏面の表示面検出センサに接触している状態であることを検出する場合、例えば、以下のそれぞれの検出結果に基づいて検出する。
相対位置検出部41は、撮像部10により撮像された画像に基づいて表示装置1の表面および裏面を検出する。また、姿勢検出部42は表示装置1の姿勢を検出する。側面接触センサ46は、把持されている場所が、姿勢検出部42により検出された表示装置1の姿勢において上側の側面であることを検出する。また、操作入力部30は、相対位置検出部41により検出された表面側および裏面側の接触状態を検出することにより、表示装置1を把持している操作者の手の向き、および、裏面への接触状態を検出する。これにより、検出部40は、メモ作成機能を有するアプリケーションソフトウェアを実行する把持状態であるか否かを検出する。
【0169】
また、例えば、表示装置1の側面が片手で把持され、且つ、表示面が水平面に対して垂直に近い姿勢に把持されている状態であることが把持状態検出部43および姿勢検出部42により検出されたとする。この場合、制御部50は、撮像部10と表示部20とを制御することにより表示面に対面する方向を鏡に映る像のように表示する鏡表示機能を有するアプリケーションソフトウェアを実行する。
【0170】
このように、表示装置1は、アプリケーションソフトウェアが実行されている表示装置1が操作者に使用される際の典型的な姿勢や把持状態を検出することにより、その典型的な姿勢や把持状態に対応したアプリケーションソフトウェアを起動して実行することができる。よって、操作者は、表示装置1を所定の姿勢や把持状態にすることにより、所望のアプリケーションソフトウェアを実行させることが可能であり、例えば、アプリケーションソフトウェア起動アイコンを探してから起動させるといった操作の手間を省くことができる。
【0171】
なお、表示装置1は、上述した表示装置1の姿勢や把持状態に応じたアプリケーションソフトウェアを実行する制御とは逆に、実行させたアプリケーションソフトウェアにとって適切な把持位置を表示部20に表示させてもよい。
【0172】
以上のように、表示装置1は、表示面に対する操作者の相対位置を適切に検出することができる。また、表示装置1は、表示面に対する操作者の相対位置を適切に検出し、当該検出した相対位置に応じた制御をすることができる。
【0173】
なお、上記実施形態において、表示装置1が、互いに表裏の位置関係に表示面が配置されている第1表示部21および第2表示部22を備えている例について説明したが、これに限られるものではない。つまり、表示部20は、第1表示部21および第2表示部22の2つの表示部を備えている構成に限られるものではなく、1つの表示部、または3つ以上の複数の表示部を備えている構成であってもよい。
例えば、表示装置1は、互いに表裏の位置関係に配置されている第1面101と第2面102とのうち、片方の面にのみ表示部が配置されていてもよい。すなわち、表示装置1において、撮像部10が表示部の表示面に対面する方向である第1方向および第1方向とは方向が異なる第2方向を撮像し、相対位置検出部41が撮像部10により撮像された画像に基づいて、表示部の表示面に対する操作者の相対位置を検出する。そして、表示装置1の制御部50は、相対位置検出部41により検出された相対位置に応じて、表示装置1を制御する。
この構成による表示装置1は、例えば、第1面101のみに表示部を備えており、第1面101に対面する方向に操作者がいる場合(すなわち、操作者が第1面101を表面として表示部を見ている場合)、第2面102に対面する方向に人物(顔)を検出した際に第1面101に備えている表示部の表示を変更する、または表示を非表示状態にするといった制御をすることができる。
【0174】
また、表示装置1は、互いに異なる3面以上の複数の面により構成され、複数の面それぞれに撮像部10、表示部20または操作入力部30を備えている構成としてもよい。この構成による表示装置1は、例えば、複数の面それぞれに備えられている表示部の表示面に対する操作者の相対位置を検出して、表示装置1を制御してもよい。
【0175】
なお、上記実施形態において、表示装置1が、第1表示部21の表示面上における接触状態を検出する第1表示面接触センサ33と、第2表示部22の表示面上における接触状態を検出する第2表示面接触センサ34とを備えている例について説明したが、表示面上における接触状態を検出する構成に代えて、それぞれ第1面101(第1筐体面)と、第2面102(第2筐体面)とにおける接触状態をそれぞれ検出する構成としてもよい。
ここでいう第1面101(第1筐体面)および第2面102(第2筐体面)とは、それぞれの面の領域のうち、表示面の領域以外の領域であってもよいし、または、それぞれの面の領域のうち、表示面の領域と表示面の領域以外の領域との両方を含む領域であってもよい。
【0176】
なお、第1表示部21および第2表示部22は、液晶表示パネル有するものに限られものではなく、例えば、有機EL(Electro-Luminescence)パネル、電子ペーパー方式の表示パネル、2つの透過型表示部とその間に配置されている液晶パネル(透過と非透過とを切替え可能な液晶パネル)とにより構成される表示パネル、等、その他の表示パネルを有するものであってもよい。
【0177】
また、上記実施形態の表示装置1を備えている電子機器に本発明を適することができる。ここで、電子機器とは、携帯情報端末、タブレット型コンピュータ、携帯電話、電子辞書、電子書籍リーダ等、表示装置を備えている電子機器全般をいう。
【0178】
また、上記実施形態における音声認識部8、検出部40、制御部50、およびユーザ認証部70の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより上述の各部の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
【0179】
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【0180】
以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【0181】
1 表示装置、5 記憶部、6 音出力部、7 音入力部、8 音声認識部、10 撮像部(撮像装置)、11 第1撮像部、12 第2撮像部、20 表示部、21 第1表示部、22 第2表示部、30 操作入力部、31 第1操作入力部、32 第2操作入力部、33 第1表示面接触センサ、34 第2表示面接触センサ、40 検出部、41 相対位置検出部、42 姿勢検出部、43 把持状態検出部、46 側面接触センサ、47 グリップ位置センサ、50 制御部、71 生体情報取得部、72 認証部
【特許請求の範囲】
【請求項1】
互いに異なる面に配置されている第1表示部および第2表示部と、
前記第1表示部の表示面に対面する方向である第1方向および前記第2表示部の表示面に対面する方向である第2方向を撮像する撮像装置と、
前記撮像装置により撮像された画像に基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する検出部と、
を備えることを特徴とする表示装置。
【請求項2】
前記検出部は、
前記撮像装置により撮像された画像から顔または身体を検出し、検出した方向に基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する
ことを特徴とする請求項1に記載の表示装置。
【請求項3】
前記検出部は、
前記第1方向に顔または身体を検出した場合、操作者に対面する表示部が前記第1表示部であると検出し、
前記第2方向に顔または身体を検出した場合、操作者に対面する表示部が前記第2表示部であると検出する
ことを特徴とする請求項2に記載の表示装置。
【請求項4】
前記検出部は、
顔または身体を検出している方向が前記第1方向から前記第2方向に切り替わることに応じて、操作者に対面する表示部が前記第1表示部から前記第2表示部に切り替わることを検出し、
顔または身体を検出している方向が前記第2方向から前記第1方向に切り替わることに応じて、操作者に対面する表示部が前記第2表示部から前記第1表示部に切り替わることを検出する
ことを特徴とする請求項2または請求項3に記載の表示装置。
【請求項5】
前記撮像装置は、撮像する範囲が異なる複数の撮像部、
を備えていることを特徴とする請求項1から請求項4の何れか1項に記載の表示装置。
【請求項6】
自装置が操作者により把持されている状態を把持状態として検出する把持状態検出部、
を備え、
前記検出部は、
前記撮像装置により撮像された画像と、前記把持状態検出部により検出された把持状態とに基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する
ことを特徴とする請求項1から請求項5の何れか1項に記載の表示装置。
【請求項7】
前記制御部は、
前記把持状態検出部により検出された把持状態に基づいて、前記複数の撮像部の中から撮像させる撮像部を選択し、
前記検出部は、
前記制御部により選択された撮像部により撮像された画像に基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する
ことを特徴とする請求項6に記載の表示装置。
【請求項8】
前記表示部として、互いに表裏の位置関係に配置されている第1表示部および第2表示部、
を備え、
前記撮像装置は、
前記第1表示部の表示面に対面する方向を撮像する第1撮像部と、前記第2表示部の表示面に対面する方向を撮像する第2撮像部とを有する
ことを特徴とする請求項1から請求項7の何れか1項に記載の表示装置。
【請求項9】
前記第1撮像部または前記第2撮像部は、それぞれ互いに異なる位置に配置されている複数の第1撮像部または複数の第2撮像部を有する
ことを特徴とする請求項8に記載の表示装置。
【請求項10】
前記撮像装置は、前記第1方向および前記第2方向の両方向を撮像する第3撮像部を備えている
ことを特徴とする請求項1から請求項9の何れか1項に記載の表示装置。
【請求項11】
前記第3撮像部は、
前記第1方向および前記第2方向の両方向を撮像する広角レンズを有する
ことを特徴とする請求項10に記載の表示装置。
【請求項12】
前記第3撮像部は、
前記表示面に平行な軸を中心として回転駆動され、
前記回転駆動により前記第1方向および前記第2方向の両方向を撮像する
ことを特徴とする請求項10または請求項11に記載の表示装置。
【請求項13】
前記撮像装置は、
自装置に対して着脱可能な構成である
ことを特徴とする請求項1から請求項12の何れか1項に記載の表示装置。
【請求項14】
前記撮像装置は、
自装置の側面に対して着脱可能な構成である
ことを特徴とする請求項1から請求項13の何れか1項に記載の表示装置。
【請求項15】
自装置の筐体において前記第1表示部の表示面を含む第1筐体面、および前記第1筐体面とは面が異なる第2筐体面のそれぞれの筐体面上における接触状態を検出する第1接触状態検出部、
を備え、
前記把持状態検出部は、
前記第1接触状態検出部により検出される前記それぞれの筐体面上における接触状態に基づいて、前記把持状態を検出する
ことを特徴とする請求項6に記載の表示装置。
【請求項16】
前記第1筐体面と前記第2筐体面とが互いに表裏の位置関係に配置されており、
前記把持状態検出部は、
前記把持状態として、前記第1接触状態検出部により検出される前記それぞれの筐体面上における接触領域の数が少ない方の面が表面であり、接触領域の数が多い方の面が裏面であると検出する
ことを特徴とする請求項15に記載の表示装置。
【請求項17】
前記第1筐体面と前記第2筐体面とが互いに表裏の位置関係に配置されており、
前記把持状態検出部は、
前記把持状態として、前記第1接触状態検出部により検出される前記それぞれの筐体面上における接触領域の面積が小さい方の面が表面であり、接触領域の面積が大きい方の面が裏面であると検出する
ことを特徴とする請求項15または請求項16に記載の表示装置。
【請求項18】
自装置の筐体において前記表示面を含む第1筐体面、および前記第1筐体面とは面が異なる第2筐体面のそれぞれの端を接続する接続部領域に対する接触を検出する第2接触状態検出部、
を備え、
前記把持状態検出部は、
前記接続部領域において、前記第2接触状態検出部により接触が検出された位置に基づいて、前記把持状態を検出する
ことを特徴とする請求項6または請求項15から請求項17の何れか1項に記載の表示装置。
【請求項19】
自装置の外周辺に渡って移動可能な把持部と、
前記外周辺における前記把持部の位置を検出する第3接触状態検出部と、
を備え、
前記把持状態検出部は、
前記第3接触状態検出部により検出された前記把持部の位置に基づいて、前記把持状態を検出する
ことを特徴とする請求項6または請求項15から請求項18の何れか1項に記載の表示装置。
【請求項20】
前記撮像装置により撮像された操作者の顔または手に基づいて生体情報を取得する生体情報取得部と、
前記生体情報取得部により取得された生体情報に基づいて、操作者の認証を実行する認証部と、
を備えることを特徴とする請求項1から請求項19の何れか1項に記載の表示装置。
【請求項21】
前記生体情報取得部は、前記生体情報として、顔パターン、指紋パターン、静脈パターン、または、虹彩パターンを取得する
ことを特徴とする請求項20に記載の表示装置。
【請求項22】
請求項1から請求項21に記載の表示装置、
を備えることを特徴とする電子機器。
【請求項23】
互いに異なる面に配置されている第1表示部および第2表示部を有する表示装置が備えるコンピュータに、
撮像装置に前記第1表示部の表示面に対面する方向である第1方向および前記第2表示部の表示面に対面する方向である第2方向を撮像させる手順と、
前記撮像装置により撮像された画像に基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する手順と、
を実行させるためのプログラム。
【請求項1】
互いに異なる面に配置されている第1表示部および第2表示部と、
前記第1表示部の表示面に対面する方向である第1方向および前記第2表示部の表示面に対面する方向である第2方向を撮像する撮像装置と、
前記撮像装置により撮像された画像に基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する検出部と、
を備えることを特徴とする表示装置。
【請求項2】
前記検出部は、
前記撮像装置により撮像された画像から顔または身体を検出し、検出した方向に基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する
ことを特徴とする請求項1に記載の表示装置。
【請求項3】
前記検出部は、
前記第1方向に顔または身体を検出した場合、操作者に対面する表示部が前記第1表示部であると検出し、
前記第2方向に顔または身体を検出した場合、操作者に対面する表示部が前記第2表示部であると検出する
ことを特徴とする請求項2に記載の表示装置。
【請求項4】
前記検出部は、
顔または身体を検出している方向が前記第1方向から前記第2方向に切り替わることに応じて、操作者に対面する表示部が前記第1表示部から前記第2表示部に切り替わることを検出し、
顔または身体を検出している方向が前記第2方向から前記第1方向に切り替わることに応じて、操作者に対面する表示部が前記第2表示部から前記第1表示部に切り替わることを検出する
ことを特徴とする請求項2または請求項3に記載の表示装置。
【請求項5】
前記撮像装置は、撮像する範囲が異なる複数の撮像部、
を備えていることを特徴とする請求項1から請求項4の何れか1項に記載の表示装置。
【請求項6】
自装置が操作者により把持されている状態を把持状態として検出する把持状態検出部、
を備え、
前記検出部は、
前記撮像装置により撮像された画像と、前記把持状態検出部により検出された把持状態とに基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する
ことを特徴とする請求項1から請求項5の何れか1項に記載の表示装置。
【請求項7】
前記制御部は、
前記把持状態検出部により検出された把持状態に基づいて、前記複数の撮像部の中から撮像させる撮像部を選択し、
前記検出部は、
前記制御部により選択された撮像部により撮像された画像に基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する
ことを特徴とする請求項6に記載の表示装置。
【請求項8】
前記表示部として、互いに表裏の位置関係に配置されている第1表示部および第2表示部、
を備え、
前記撮像装置は、
前記第1表示部の表示面に対面する方向を撮像する第1撮像部と、前記第2表示部の表示面に対面する方向を撮像する第2撮像部とを有する
ことを特徴とする請求項1から請求項7の何れか1項に記載の表示装置。
【請求項9】
前記第1撮像部または前記第2撮像部は、それぞれ互いに異なる位置に配置されている複数の第1撮像部または複数の第2撮像部を有する
ことを特徴とする請求項8に記載の表示装置。
【請求項10】
前記撮像装置は、前記第1方向および前記第2方向の両方向を撮像する第3撮像部を備えている
ことを特徴とする請求項1から請求項9の何れか1項に記載の表示装置。
【請求項11】
前記第3撮像部は、
前記第1方向および前記第2方向の両方向を撮像する広角レンズを有する
ことを特徴とする請求項10に記載の表示装置。
【請求項12】
前記第3撮像部は、
前記表示面に平行な軸を中心として回転駆動され、
前記回転駆動により前記第1方向および前記第2方向の両方向を撮像する
ことを特徴とする請求項10または請求項11に記載の表示装置。
【請求項13】
前記撮像装置は、
自装置に対して着脱可能な構成である
ことを特徴とする請求項1から請求項12の何れか1項に記載の表示装置。
【請求項14】
前記撮像装置は、
自装置の側面に対して着脱可能な構成である
ことを特徴とする請求項1から請求項13の何れか1項に記載の表示装置。
【請求項15】
自装置の筐体において前記第1表示部の表示面を含む第1筐体面、および前記第1筐体面とは面が異なる第2筐体面のそれぞれの筐体面上における接触状態を検出する第1接触状態検出部、
を備え、
前記把持状態検出部は、
前記第1接触状態検出部により検出される前記それぞれの筐体面上における接触状態に基づいて、前記把持状態を検出する
ことを特徴とする請求項6に記載の表示装置。
【請求項16】
前記第1筐体面と前記第2筐体面とが互いに表裏の位置関係に配置されており、
前記把持状態検出部は、
前記把持状態として、前記第1接触状態検出部により検出される前記それぞれの筐体面上における接触領域の数が少ない方の面が表面であり、接触領域の数が多い方の面が裏面であると検出する
ことを特徴とする請求項15に記載の表示装置。
【請求項17】
前記第1筐体面と前記第2筐体面とが互いに表裏の位置関係に配置されており、
前記把持状態検出部は、
前記把持状態として、前記第1接触状態検出部により検出される前記それぞれの筐体面上における接触領域の面積が小さい方の面が表面であり、接触領域の面積が大きい方の面が裏面であると検出する
ことを特徴とする請求項15または請求項16に記載の表示装置。
【請求項18】
自装置の筐体において前記表示面を含む第1筐体面、および前記第1筐体面とは面が異なる第2筐体面のそれぞれの端を接続する接続部領域に対する接触を検出する第2接触状態検出部、
を備え、
前記把持状態検出部は、
前記接続部領域において、前記第2接触状態検出部により接触が検出された位置に基づいて、前記把持状態を検出する
ことを特徴とする請求項6または請求項15から請求項17の何れか1項に記載の表示装置。
【請求項19】
自装置の外周辺に渡って移動可能な把持部と、
前記外周辺における前記把持部の位置を検出する第3接触状態検出部と、
を備え、
前記把持状態検出部は、
前記第3接触状態検出部により検出された前記把持部の位置に基づいて、前記把持状態を検出する
ことを特徴とする請求項6または請求項15から請求項18の何れか1項に記載の表示装置。
【請求項20】
前記撮像装置により撮像された操作者の顔または手に基づいて生体情報を取得する生体情報取得部と、
前記生体情報取得部により取得された生体情報に基づいて、操作者の認証を実行する認証部と、
を備えることを特徴とする請求項1から請求項19の何れか1項に記載の表示装置。
【請求項21】
前記生体情報取得部は、前記生体情報として、顔パターン、指紋パターン、静脈パターン、または、虹彩パターンを取得する
ことを特徴とする請求項20に記載の表示装置。
【請求項22】
請求項1から請求項21に記載の表示装置、
を備えることを特徴とする電子機器。
【請求項23】
互いに異なる面に配置されている第1表示部および第2表示部を有する表示装置が備えるコンピュータに、
撮像装置に前記第1表示部の表示面に対面する方向である第1方向および前記第2表示部の表示面に対面する方向である第2方向を撮像させる手順と、
前記撮像装置により撮像された画像に基づいて、操作者に対面する表示部が前記第1表示部および前記第2表示部の何れであるかを検出する手順と、
を実行させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【公開番号】特開2013−3707(P2013−3707A)
【公開日】平成25年1月7日(2013.1.7)
【国際特許分類】
【出願番号】特願2011−132163(P2011−132163)
【出願日】平成23年6月14日(2011.6.14)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
【公開日】平成25年1月7日(2013.1.7)
【国際特許分類】
【出願日】平成23年6月14日(2011.6.14)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
[ Back to top ]