説明

画像表示装置、画像表示方法、および画像表示システム

【課題】コンテンツをユーザが所望する位置に表示することができる画像表示装置、画像表示方法、および画像表示システムを提供する。
【解決手段】画像表示装置100は、コンテンツ140Aを表示するとともに物体の接触を検出するためのタッチパネル102と、プロセッサ110とを備える。プロセッサ110は、タッチパネル102を用いて、タッチパネル102に第1の所定形状の物体200が接触したことを検出し、タッチパネル102に、物体102の接触位置に対応するエリアにコンテンツ104Aを表示させる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、タッチパネルを介して画像を表示するための画像表示装置、画像表示方法、および画像表示システムに関する。
【背景技術】
【0002】
テキストや画像などのコンテンツを表示する画像表示装置が知られている。そのような画像表示装置の中には、タッチパネルを介してユーザからのタッチ操作を受け付けるものがある。
【0003】
たとえば、実開平04−036632号公報(特許文献1)には、キー入力装置が開示されている。実開平04−036632号公報(特許文献1)によると、キー入力装置は、操作領域が透明なキースイッチと、該キースイッチの透明な操作領域に対応する領域に当該キースイッチの機能を表示する上記キースイッチの後方に配置される表示板と、該表示板からの光を通過あるいは遮断する該表示板と上記キースイッチの間に配置される液晶シャッタと、該液晶シャッタを制御すると共に、上記キースイッチからのキー入力データを検出する制御回路とを有する。
【0004】
また、特表平09−505163号公報(特許文献2)には、インターフェイス装置が開示されている。特表平09−505163号公報(特許文献2)では、フラット・パネル・ディスプレイに表示する情報をディスプレイ制御装置によって即座に切り換えられるようにすることが開示されている。
【0005】
また、特開2006−209279号公報(特許文献3)には、入力装置が開示されている。特開2006−209279号公報(特許文献3)によると、表示画面の上には、矩形の開口部の周囲の枠部を包囲するように、透明な樹脂製の保持部材が配置されている。保持部材には透明な材料からなる押しボタンが配置されており、これらを押下すると図示しないタッチパネルが検出して表示画面の対応する領域の表示を反転させる。この表示態様の変更により押しボタンの操作の確認が容易になる。
【0006】
また、特開平7−319623号公報(特許文献4)には、タッチパネル型液晶ディスプレイが開示されている。特開平7−319623号公報(特許文献4)によると、タッチパネル上に、そのタッチパネルのキー位置に対応した凸部を表面に有する透明シートを設ける。これにより、タッチパネルのキー位置、つまりタッチすべきポイントを、透明シートの凸部によって明確に示すことができる。このため、操作者は目的のキー位置を、そのキー位置上の凸部を目標として、迷うことなく確実に指先でタッチすることが可能となる。さらに、視覚障害者でも、透明シートの凸部によってタッチパネルのキー位置を認識することが可能となる。
【0007】
また、特開平11−110111号公報(特許文献5)には、タッチパネル補助装置が開示されている。特開平11−110111号公報(特許文献5)によると、各キーあるいはボタンのほぼ中央に、上に凸状あるいは下に凸状あるいは上と下の両者に凸状の突起をそれぞれ設けた柔軟な補助シートをタッチパネル上に備える。
【0008】
また、特開2005−316790号公報(特許文献6)には、情報入力方法が開示されている。特開2005−316790号公報(特許文献6)によると、3次元表示装置に表示された複数のオブジェクトの中から操作者が指し示すオブジェクトを入力オブジェクトとして選択する情報入力方法において、3次元表示装置に表示された操作者が指し示しているオブジェクトの奥行き位置、あるいは、3次元表示装置に表示された操作者が指し示しているオブジェクトの奥行き位置およびオブジェクトの奥行き方向の形状を変化させる第1の過程と、第1の過程において、操作者が所定時間オブジェクトを指し示す操作を続けた場合に該当するオブジェクトを入力オブジェクトとして選択する第2の過程とを有する。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】実開平04−036632号公報
【特許文献2】特表平09−505163号公報
【特許文献3】特開2006−209279号公報
【特許文献4】特開平07−319623号公報
【特許文献5】特開平11−110111号公報
【特許文献6】特開2005−316790号公報
【発明の概要】
【発明が解決しようとする課題】
【0010】
しかしながら、従来の画像表示装置は、タッチパネル上における予め定められた位置にコンテンツを表示するものである。そのため、ユーザがコンテンツが表示される領域を変更することができなかった。
【0011】
本発明は、かかる問題を解決するためになされたものであり、その目的は、コンテンツをユーザが所望する位置に表示することができる画像表示装置、画像表示方法、および画像表示システムを提供することである。
【課題を解決するための手段】
【0012】
この発明のある局面に従うと、コンテンツを表示するとともに物体の接触を検出するためのタッチパネルと、プロセッサとを備える画像表示装置が提供される。プロセッサは、タッチパネルを用いて、タッチパネルに第1の所定形状の物体が接触したことを検出し、タッチパネルに、物体の接触位置に対応するエリアにコンテンツを表示させる。
【0013】
好ましくは、第1の所定形状は、枠形状を含む。
好ましくは、第1の所定形状は、面形状を含む。
【0014】
好ましくは、コンテンツはソフトウェアボタンを含む。プロセッサは、タッチパネルを用いて、ソフトウェアボタンが押されたことを検出する。
【0015】
好ましくは、物体は可視光を透過する部材を含む。
好ましくは、タッチパネルは、赤外線を照射して物体からの反射光を検出することによって画像データを取得する。プロセッサは、画像データに基づいて物体の形状を取得する。
【0016】
好ましくは、タッチパネルは、赤外線を発するためのライトと、反射光を検出するための複数のセンサと、複数のセンサのそれぞれに対応する画素毎の反射光の輝度を示す画像データを生成するための画像処理エンジンとを含む。プロセッサは、画像データから特徴点を抽出することによって物体の形状を取得する。
【0017】
好ましくは、タッチパネルは、赤外線を照射して物体からの反射光を検出することによって、物体が存在する位置を示す複数の位置データを取得する。プロセッサは、複数の位置データに基づいて物体の形状を取得する。
【0018】
好ましくは、コンテンツはソフトウェアボタンを含む。物体は上下動可能な可視光を透過する部材を含む物理ボタンを複数含む。物理ボタンの各々は第2の所定形状を有する。プロセッサは、タッチパネルを用いて、第2の所定形状を検出することによって、ソフトウェアボタンのそれぞれを物理ボタンのそれぞれに対応するエリアに表示し、タッチパネルを用いて、ソフトウェアボタンが押されたことを検出する。
【0019】
好ましくは、タッチパネルは、赤外線を発するためのライトと、反射光を検出するための複数のセンサと、複数のセンサのそれぞれに対応する画素毎の反射光の輝度を示す画像データを生成するための画像処理エンジンとを含む。プロセッサは、輝度が第1の閾値以上の画素と輝度が第2の閾値未満の画素との配置に基づいて物理ボタンのいずれかがタッチパネルに近づいたことを検出することによって、ソフトウェアボタンが押されたと判断する。
【0020】
好ましくは、タッチパネルは、赤外線を発するためのライトと、反射光を検出するための複数のセンサと、複数のセンサのそれぞれに対応する画素毎の反射光の輝度を示す画像データを生成するための画像処理エンジンとを含む。プロセッサは、画素間の輝度の差に基づいて物理ボタンのいずれかがタッチパネルに近づいたことを検出することによって、ソフトウェアボタンが押されたと判断する。
【0021】
好ましくは、プロセッサは、タッチパネルに、物体の内側に対応する部分にコンテンツを表示させる。
【0022】
好ましくは、第1の所定形状は第3の所定形状を含む。プロセッサは、第3の所定形状の位置に基づいて物体の配置方向を取得し、物体の配置方向に基づいてコンテンツの表示方向を決定する。
【0023】
好ましくは、プロセッサは、少なくともソフトウェアボタンを表示する状態とソフトウェアボタンを表示しない状態とを有する。画像表示装置は、状態を切り替えるための命令を受け付けるための入力手段をさらに備える。プロセッサは、入力手段が受け付けた命令に基づいて、状態を切り替える。
【0024】
好ましくは、プロセッサは、ソフトウェアボタンが押されると、ソフトウェアボタンの表示態様を変更し、ソフトウェアボタンがリリースされると、ソフトウェアボタンの表示態様を元に戻す。
【0025】
この発明の別の局面に従うと、タッチパネルとプロセッサとを含む画像表示装置における画像表示方法が提供される。画像表示方法は、プロセッサが、タッチパネルを用いて、タッチパネルに第1の所定形状の物体が接触したことを検出するステップと、プロセッサが、タッチパネルに、物体の接触位置に対応するエリアにコンテンツを表示させるステップとを備える。
【0026】
この発明の別の局面に従うと、画像表示装置と移動ユニットとを備える画像表示システムが提供される。移動ユニットは、第1の所定形状を含む。画像表示装置は、コンテンツを表示するとともに移動ユニットを検出するためのタッチパネルと、プロセッサとを含む。プロセッサは、タッチパネルを用いて、タッチパネルに移動ユニットの物体が接触したことを検出し、タッチパネルに、移動ユニットの接触位置に対応するエリアにコンテンツを表示させる。
【0027】
好ましくは、コンテンツはソフトウェアボタンを含む。移動ユニットは上下動可能な可視光を透過する部材を含む物理ボタンを複数含む。物理ボタンの各々は第2の所定形状を有する。プロセッサは、タッチパネルを用いて、第2の所定形状を検出することによって、ソフトウェアボタンのそれぞれを物理ボタンのそれぞれに対応するエリアに表示し、タッチパネルを用いて、ソフトウェアボタンが押されたことを検出する。
【0028】
好ましくは、移動ユニットは、物理ボタンを上下動可能に保持するための弾性部材を含む。物理ボタンは、弾性部材を移動ユニットの外部から見えなくするためのレンズを含む。
【0029】
好ましくは、移動ユニットは、第3の所定形状をさらに含む。プロセッサは、第3の所定形状の位置に基づいて移動ユニットの配置方向を取得し、移動ユニットの配置方向に基づいてコンテンツの表示方向を決定する。
【発明の効果】
【0030】
以上のように、本発明によって、コンテンツをユーザが所望する位置に表示することができる画像表示装置、画像表示方法、および画像表示システムが提供される。
【図面の簡単な説明】
【0031】
【図1】本実施の形態に係る画像表示装置の動作概要を示すイメージ図である。
【図2】本実施の形態に係る画像表示装置のハードウェア構成を表わすブロック図である。
【図3】本実施の形態に係る液晶パネルの構成と当該液晶パネルの周辺回路とを示した図である。
【図4】本実施の形態に係るタッチパネルと移動ユニットとの断面図である。
【図5】本実施の形態に係る光センサ回路を動作させる際のタイミングチャートを示した図である。
【図6】本実施の形態に係る移動ユニット(物理ボタン)とコンテンツ(ソフトウェアボタン)との関係を示すイメージ図である。
【図7】本実施の形態に係る物理ボタンとスキャン画像との関係を示すイメージ図である。
【図8】本実施の形態に係る画像表示装置の機能構成を示すブロック図である。
【図9】接触領域とタッチパネルとの関係を示すイメージ図である。
【図10】ソフトウェアキーボードが表示された状態におけるタッチパネルを示すイメージ図である。
【図11】所定形状の第1の変形例を示すイメージ図である。
【図12】所定形状の第2の変形例を示すイメージ図である。
【図13】所定形状の第3の変形例を示すイメージ図である。
【図14】物理ボタンが押下されたか否かを判断するための処理を示す第1のイメージ図である。
【図15】物理ボタンが押下されたか否かを判断するための処理を示す第2のイメージ図である。
【図16】移動ユニットの第1の変形例を示すイメージ図である。
【図17】第1および第2の所定形状の第1の変形例を示すイメージ図である。
【図18】移動ユニットの第2の変形例を示すイメージ図である。
【図19】第1および第2の所定形状の第2の変形例を示すイメージ図である。
【図20】移動ユニットの第3の変形例を示すイメージ図である。
【図21】物理ボタンの変形例を示すイメージ図である。
【図22】本実施の形態に係る画像表示装置における画像表示処理の処理手順を示すフローチャートである。
【発明を実施するための形態】
【0032】
以下、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
【0033】
<画像表示装置の動作概要>
まず、本実施の形態に係る画像表示装置の動作概要について説明する。図1は、本実施の形態に係る画像表示装置の動作概要を示すイメージ図である。
【0034】
図1を参照して、画像表示装置100は、パーソナルコンピュータ、電子辞書、電子手帳、携帯電話、PDA(Personal Digital Assistants)、テーブルや壁などに載置されるディスプレイ、などによって実現される。本実施の形態に係る画像表示装置100は、タッチパネル102を含む。タッチパネル102は、テキストや画像などのコンテンツを表示し、ユーザによるタッチ操作を受け付ける。
【0035】
なお、コンテンツは、たとえば、ソフトウェアキーボードや、静止画像や、動画像や、テキストなどを含む。ユーザからのタッチ操作は、後述する移動ユニットのタッチパネル102に対する接触操作や、指やスタイラスペンなどのタッチパネル102に対する接触操作などを含む。
【0036】
図1(a)を参照して、画像表示装置100は、通常、壁紙や他のコンテンツなどを表示している。画像表示装置100は、ユーザによるタッチ操作を待ち受ける。なお、他のコンテンツとは、移動ユニット200が載置されるか否かに関わらず、(図2の操作キー177などを介したユーザ操作によって)表示されるコンテンツである。
【0037】
図1(b)を参照して、ユーザは、移動ユニット200をタッチパネル102に接触させることができる。本実施の形態に係る移動ユニット200は、薄型の透明なパネルであって、外周に長方形(第1の所定形状)のリブが形成されている。すなわち、移動ユニット200がタッチパネル102に接触すると、その接触領域の形状は長方形の辺(枠)と同じものになる。
【0038】
本実施の形態に係る画像表示装置100は、タッチパネル102を介して、接触領域の形状を移動ユニット200の形状として取得する。接触領域の形状が長方形である場合、すなわち接触領域の形状が予め設定されている所定形状(第1の所定形状)にマッチした場合、画像表示装置100は、タッチパネル102を介して当該所定形状の内側にソフトウェアキーボード140Aを表示する。
【0039】
なお、本実施の形態に係る画像表示装置100は、他の移動ユニット200がタッチパネル102に接触すると、当該他の移動ユニット200の各々の内側にもソフトウェアキーボード140Bを表示してもよい。
【0040】
また、画像表示装置100は、複数種類の第1の所定形状をコンテンツに対応付けて記憶してもよい。そして、ユーザが接触させた移動ユニット200の形状に基づいて、対応する第1の所定形状に対応付けられたソフトウェアキーボード140A,140Bあるいはコンテンツを表示してもよい。たとえば、移動ユニット200の形状が正方形である場合、画像表示装置100はタッチパネル102を介して当該移動ユニット200の内側に動画像や静止画像を表示するためのウィンドウを表示してもよい。
【0041】
図1(c)を参照して、ユーザが移動ユニット200を移動させることによって移動ユニット200をタッチパネル102の他の場所に接触させた場合、画像表示装置100は、タッチパネル102を介して移動後の移動ユニット200の内側にソフトウェアキーボード140A,140Bなどのコンテンツを表示する。
【0042】
このように、本実施の形態に係る画像表示装置100は、移動ユニット200が接触したタッチパネル102の位置に基づいて、当該位置に対応するエリアにコンテンツを表示させることができる。換言すれば、ユーザは、移動ユニット200を移動させることによって、画像表示装置100の所望するエリアに所望する設置方向でソフトウェアキーボード140A,140Bなどのコンテンツを表示させることができる。
【0043】
なお、本実施の形態に係る画像表示装置100は、ユーザからのタッチ操作を受け付けるための、すなわちソフトウェアキーボード140A,140Bを介して命令を受け付けるためのモード(入力モード)と、表示を行なうためのモード(表示モード)とを有する。すなわち、画像表示装置100は、入力モードにおいて移動ユニット200が載置されるとソフトウェアキーボード140A,140Bを表示し、表示モードにおいては移動ユニット200が載置されても他のコンテンツのみを表示する。
【0044】
画像表示装置100は、ソフトウェアキーボード140A,140Bもしくは図2の操作キー177などを介したユーザ操作によって、これらのモードの切替命令を受け付ける。なお、画像表示装置100は、ソフトウェアキーボードが表示されない表示モードであっても、切替命令などの他の入力を受け付けてもかまわない。また、画像表示装置100非表示のソフトウェアキーボードへの入力が受け付けられたときに入力モードに切り替えてもよい。
【0045】
以下、このような機能を実現するための画像表示装置100の具体的な構成について詳述する。
【0046】
<画像表示装置100のハードウェア構成>
本実施の形態に係る画像表示装置100の具体的構成の一態様について説明する。図2は、本実施の形態に係る画像表示装置100のハードウェア構成を表わすブロック図である。図2を参照して、画像表示装置100は、主たる構成要素として、本体ユニット101と、タッチパネル102とを含む。
【0047】
本体ユニット101は、CPU(Central Processing Unit)110と、RAM(Random Access Memory)171と、ROM(Read-Only Memory)172と、メモリカードリーダライタ173と、通信部174と、マイク175と、スピーカ176と、操作キー177とを含む。各構成要素は、相互にデータバスDB1によって接続されている。メモリカードリーダライタ173には、メモリカード1731が装着される。
【0048】
操作キー177は、画像表示装置100のユーザから指示の入力を受ける。本実施の形態に係る画像表示装置100は、入力モードと、表示モードとを有する。すなわち、画像表示装置100は、入力モードにおいて移動ユニット200が載置されるとソフトウェアキーボード140A,140Bを表示し、表示モードにおいては移動ユニット200が載置されても他のコンテンツのみを表示する。操作キー177は、ユーザからのモードの切替命令を受け付ける。
【0049】
CPU110は、プログラムを実行する。CPU110は、操作キー177やタッチパネル102を介して、ユーザからの命令(切替命令など)を受け付ける。CPU110は、ユーザの動作に基づいてプログラムを実行することによって、後述するような機能を実現する。
【0050】
RAM171は、CPU110によるプログラムの実行により生成されたデータ、または操作キー177を介して入力されたデータを揮発的に格納する。ROM172は、データを不揮発的に格納する。また、ROM172は、EPROM(Erasable Programmable Read-Only Memory)やフラッシュメモリなどの書き込みおよび消去が可能なROMである。
【0051】
通信部174は、図示しない他の電子機器との間で無線通信を行なう。なお、図2には図示していないが、画像表示装置100が、他の電子機器に有線により接続するためのインターフェイス(IF)をさらに含む構成としてもよい。
【0052】
タッチパネル102は、ドライバ130と、光センサ内蔵液晶パネル140(以下、液晶パネル140ともいう。)と、内部IF178と、バックライト179と、画像処理エンジン180とを含む。
【0053】
ドライバ130は、液晶パネル140およびバックライト179を駆動するための駆動回路である。ドライバ130に含まれる各種の駆動回路については、後述する。
【0054】
液晶パネル140は、液晶ディスプレイの機能と光センサの機能とを備えたデバイスである。つまり、液晶パネル140は、液晶を用いた画像の表示と、光センサを用いたセンシングとを行なうことができる。液晶パネル140の詳細については、後述する。
【0055】
内部IF(Interface)178は、本体ユニット101とタッチパネル102との間で、データの遣り取りを仲介する。
【0056】
バックライト179は、液晶パネル140の裏面に配置された光源である。バックライト179は、当該裏面に対して均一な光を照射する。後述するように、バックライト179は、可視光と赤外線とを発してもよい。
【0057】
画像処理エンジン180は、ドライバ130を介して液晶パネル140の動作を制御する。ここで、当該制御は、内部IF178を介して本体ユニット101から送られてくる各種データに基づいて行われる。なお、当該各種データは、後述するコマンドを含む。また、画像処理エンジン180は、液晶パネル140から出力されるデータを処理し、処理したデータを内部IF178を介して本体ユニット101に送る。さらに、画像処理エンジン180は、ドライバ制御部181と、タイマ182と、信号処理部183とを含む。
【0058】
ドライバ制御部181は、ドライバ130に対して制御信号を送ることによりドライバ130の動作を制御する。また、ドライバ制御部181は、本体ユニット101から送られてくるコマンドを解析する。そして、ドライバ制御部181は、当該解析の結果に基づいた制御信号をドライバ130に送る。ドライバ130の動作の詳細については、後述する。
【0059】
タイマ182は、時刻情報を生成し、信号処理部183に対して時刻情報を送る。これによって、画像処理エンジン180は、画像データをその取得した時間に対応付けて本体ユニット101に送信することができる。
【0060】
信号処理部183は、上記光センサから出力されるデータを受け取る。ここで、上記光センサから出力されるデータはアナログデータであるため、信号処理部183は、まず当該アナログデータをデジタルデータに変換する。さらに、信号処理部183は、当該デジタルデータに対して、本体ユニット101から送られてくるコマンドの内容に応じたデータ処理を行なう。上記コマンドは、上記光センサによって実行されるセンシングを指示するセンシングコマンドを含む。
【0061】
そして、信号処理部183は、上記データ処理を行った後のデータと、タイマ182から取得した時刻情報とを含んだデータ(以下、応答データと称する)とを本体ユニット101に送る。また、信号処理部183は、後述するスキャンデータを連続して複数格納できるRAM(図示せず)を備えている。
【0062】
なお、タイマ182は、必ずしも画像処理エンジン180に備えられている必要はない。たとえば、タイマ182は、タッチパネル102内における、画像処理エンジン180の外部に備えられていてもよい。あるいは、タイマ182は、本体ユニット101に備えられていてもよい。また、マイク175およびスピーカ176は、画像表示装置100が常に含む構成ではなく、画像表示装置100の実施例によっては、マイク175およびスピーカ176のいずれかあるいは両方を有さない構成であってもよい。
【0063】
ここで、タッチパネル102は、システム液晶を含んでいる。なお、システム液晶とは、液晶パネル140の周辺機器を当該液晶パネル140のガラス基板上に一体形成することにより得られるデバイスである。本実施の形態では、ドライバ130(バックライト179を駆動する回路を除く)と、内部IF178と、画像処理エンジン180とが、液晶パネル140のガラス基板上に一体形成されている。なお、タッチパネル102が、必ずしもシステム液晶を用いて構成されている必要はなく、ドライバ130(バックライト179を駆動する回路を除く)と、内部IF178と、画像処理エンジン180とが、上記ガラス基板以外の基板に構成されていてもよい。
【0064】
ところで、画像表示装置100における処理は、各ハードウェアおよびCPU110により実行されるソフトウェアによって実現される。このようなソフトウェアは、ROM172に予め記憶されている場合がある。また、ソフトウェアは、メモリカード1731その他の記憶媒体に格納されて、プログラム製品として流通している場合もある。あるいは、ソフトウェアは、いわゆるインターネットに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。
【0065】
このようなソフトウェアは、メモリカードリーダライタ173その他の読取装置によりその記憶媒体から読み取られて、あるいは、通信部174または通信IF(図示せず)を介してダウンロードされた後、ROM172に一旦格納される。そのソフトウェアは、CPU110によってROM172から読み出され、RAM171に実行可能なプログラムの形式で格納される。CPU110は、そのプログラムを実行する。
【0066】
図2に示される画像表示装置100の本体ユニット101を構成する各構成要素は、一般的なものである。そして、CPU110によって実行されるソフトウェアは、RAM171、ROM172、メモリカード1731その他の記憶媒体に格納されていたり、あるいはネットワークを介してダウンロード可能であったりする。なお、画像表示装置100の本体ユニット101のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
【0067】
なお、記憶媒体としては、メモリカードに限られず、CD−ROM、FD(Flexible Disk)、ハードディスク、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integrated Circuit)カード(メモリカードを除く)、光カード、マスクROM、EPROM、EEPROM(Electronically Erasable Programmable Read-Only Memory)、フラッシュROMなどの半導体メモリ等の固定的にプログラムを格納する媒体でもよい。
【0068】
ここでいうプログラムとは、CPUにより直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含む。
【0069】
<液晶パネル140の回路構成および駆動について>
次に、液晶パネル140の構成と、当該液晶パネル140の周辺回路の構成とについて説明する。図3は、液晶パネル140の構成と、当該液晶パネル140の周辺回路とを示した図である。
【0070】
図3を参照して、液晶パネル140は、画素回路141と、光センサ回路144と、走査信号線Giと、データ信号線SRjと、データ信号線SGjと、データ信号線SBjと、センサ信号線SSjと、センサ信号線SDjと、読出信号線RWiと、リセット信号線RSiとを含む。なお、iは、1≦i≦mを満たす自然数であり、jは1≦j≦nを満たす自然数である。
【0071】
また、図2に示したタッチパネル102のドライバ130は、液晶パネル140の周辺回路として、走査信号線駆動回路131と、データ信号線駆動回路132と、光センサ駆動回路133と、スイッチ134と、アンプ135とを含む。
【0072】
走査信号線駆動回路131は、図2に示すドライバ制御部181から制御信号TC1を受ける。そして、走査信号線駆動回路131は、制御信号TC1に基づき、各走査信号線(G1〜Gm)に対して、走査信号線G1から順に予め定められた電圧を印加する。より詳しくは、走査信号線駆動回路131は、単位時間毎に走査信号線(G1〜Gm)の中から1つの走査信号線を順次選択し、当該選択した走査信号線に対して後述するTFT(Thin Film Transistor)142のゲートをターンオンできるだけの電圧(以下、ハイレベル電圧)を印加する。なお、選択されていない走査信号線に対しては、ハイレベル電圧を印加することなく、ローレベル電圧を印加したままとする。
【0073】
データ信号線駆動回路132は、図2に示すドライバ制御部181から画像データ(DR,DG,DB)を受ける。そして、データ信号線駆動回路132は、3n個のデータ信号線(SR1〜SRn,SG1〜SGn,SB1〜SBn)に対して、上記単位時間毎に、1行分の画像データに対応する電圧を順次印加する。
【0074】
なお、ここでは、いわゆる線順次方式と呼ばれる駆動方式を用いて説明したが、駆動方式はこれに限定されるものではない。
【0075】
画素回路141は、1つの画素の輝度(透過率)を設定するための回路である。また、画素回路141は、マトリクス状にm×n個配されている。より詳しくは、画素回路141は、図4の縦方向にm個、横方向にn個配されている。
【0076】
画素回路141は、Rサブピクセル回路141rと、Gサブピクセル回路141gと、Bサブピクセル回路141bとからなる。これら3つの回路(141r,141g,141b)は、それぞれ、TFT142と、画素電極と対向電極とからなる1組の電極対143と、図示しないコンデンサとを含む。
【0077】
なお、n型のトランジスタとp型のトランジスタとを作れるCMOS(Complementary Metal Oxide Semiconductor)を実現できること、キャリア(電子または正孔)の移動速度がアモルファスシリコン薄膜トランジスタ(a-Si TFT)に比べて数百倍早いことなどから、タッチパネル102では、TFT142として多結晶シリコン薄膜トランジスタ(p-Si TFT)が用いられる。なお、TFT142は、n型チャネルの電界効果トランジスタであるとして説明する。ただし、TFT142がp型チャネルの電界効果トランジスタであってもよい。
【0078】
Rサブピクセル回路141r内のTFT142のソースはデータ信号線SRjに接続されている。また、当該TFT142のゲートは走査信号線Giに接続されている。さらに、当該TFT142のドレインは、電極対143の画素電極に接続される。そして、画素電極と対向電極との間には、液晶が配される。なお、Gサブピクセル回路141gおよびBサブピクセル回路141bについても、各TFT142のソースが接続されるデータ信号線が異なる以外は、Rサブピクセル回路141rと同じ構成である。このため、これら2つの回路(141g,141b)についての説明は、繰り返さない。
【0079】
ここで、画素回路141における輝度の設定について説明する。まず、走査信号線Giに上記ハイレベル電圧を印加する。当該ハイレベル電圧の印加により、TFT142のゲートがターンオンする。このようにTFT142のゲートがターンオンした状態で、各データ信号線(SRj,SGj,SBj)に対して、それぞれ指定された電圧(1画素分の画像データに対応する電圧)を印加する。これにより、当該指定された電圧に基づいた電圧が画素電極に印加される。その結果、画素電極と対向電極との間に電位差が生じる。この電位差に基づいて、液晶が応答し、画素の輝度は予め定められた輝度に設定される。なお、当該電位差は、上記図示しないコンデンサ(補助容量)によって、次のフレーム期間において走査信号線Giが選択されるまで保持される。
【0080】
光センサ駆動回路133は、図2に示すドライバ制御部181から制御信号TC2を受ける。
【0081】
そして、光センサ駆動回路133は、制御信号TC2に基づき、単位時間毎にリセット信号線(RS1〜RSm)の中から1つの信号線を順次選択し、当該選択した信号線に対して、予め定められたタイミングで通常よりもハイレベルな電圧VDDRを印加する。なお、選択されていないリセット信号線に対しては、選択されたリセット信号線に印加した電圧よりも低い電圧VSSRを印加したままとする。たとえば、電圧VDDRを0Vに、電圧VSSRを−5Vに設定すればよい。
【0082】
また、光センサ駆動回路133は、制御信号TC2に基づき、単位時間毎に読出信号線(RW1〜RWm)の中から1つの信号線を順次選択し、当該選択した信号線に対して、予め定められたタイミングで通常よりもハイレベルな電圧VDDを印加する。なお、選択されていない読出信号線に対しては、上記電圧VSSRを印加したままとする。たとえば、VDDの値を8Vに設定すればよい。
【0083】
なお、電圧VDDRを印加するタイミング、および電圧VDDを印加するタイミングについては、後述する。
【0084】
光センサ回路144は、フォトダイオード145と、コンデンサ146と、TFT147とを含む。なお、以下では、TFT147がn型チャネルの電界効果トランジスタであるとして説明する。ただし、TFT147がp型チャネルの電界効果トランジスタであってもよい。
【0085】
フォトダイオード145のアノードは、リセット信号線RSiに接続されている。一方、フォトダイオード145のカソードは、コンデンサ146の一方の電極に接続されている。また、コンデンサ146の他方の電極は、読出信号線RWiに接続されている。なお、以下では、フォトダイオード145とコンデンサ146との接続点をノードNと称する。
【0086】
TFT147のゲートは、ノードNに接続されている。また、TFT147のドレインは、センサ信号線SDjに接続されている。さらに、TFT147のソースは、センサ信号線SSjに接続されている。光センサ回路144を用いたセンシングの詳細については、後述する。
【0087】
スイッチ134は、センサ信号線(SD1〜SDn)に対して、予め定められた電圧を印加するか否かを切り換えるために設けられたスイッチである。スイッチ134の切り換え動作は、光センサ駆動回路133により行われる。なお、スイッチ134が導通状態となった場合にセンサ信号線(SD1〜SDn)に印加される電圧については、後述する。
【0088】
アンプ135は、各センサ信号線(SS1〜SSn)から出力された電圧を増幅する。なお、増幅された電圧は、図3に示した信号処理部183に送られる。
【0089】
なお、画素回路141を用いて画像を液晶パネル140に表示させるタイミングと、光センサ回路144を用いてセンシングするタイミングとについては、画像処理エンジン180が制御する。
【0090】
<移動ユニット200の構成>
以下、移動ユニット200の構成について説明する。図4は、タッチパネル102と移動ユニット200との断面図である。
【0091】
図4を参照して、移動ユニット200は、透明の基板201を有する。透明の基板201の底面は、たとえば、外周にタッチパネル102側に突出したリブを有している。この場合、移動ユニット200のリブがタッチパネル102の表面に接する。ただし、透明の基板201の底面は、平面であってもよい。この場合は、移動ユニット200の底面全部がタッチパネル102の表面に接する。
【0092】
基板201の上側には、複数の透明の物理ボタン204A,204Y,204Cが配置される。より詳細には、物理ボタン204A,204B,204Cの各々は、ばねなどの弾性部材203,203を介して基板201に設置される。これによって、物理ボタン204A,204B,204Cの各々は、ユーザ操作によって上下動する。なお、弾性部材203も透明であることが好ましい。
【0093】
移動ユニット200が載置されるタッチパネル102は、移動ユニット200の下方から画像を表示するため、移動ユニット200は当該画像を形成する可視光が透過し易いことが好ましい。換言すれば、ユーザが、移動ユニット200を介してタッチパネル102に表示されている画像を認識し易いことが好ましい。たとえば、移動ユニット200は、リブを構成する枠体であってもよい。
【0094】
物理ボタン204A,204B,204Cの各々は、ユーザの指に押されることによってタッチパネル102側に移動することができる。物理ボタン204A,204B,204Cの各々は、上面204zと、裏面204yと、底面204xとを有する。物理ボタン204A,204B,204Cは、その底面204xが最もタッチパネル102に近いように構成されている。当然に、ユーザが物理ボタン204A,204B,204Cを押下すると、その底面204xはさらにタッチパネル102に近づくことになる。
【0095】
移動ユニット200が載置されるタッチパネル102は、移動ユニット200の底面(裏面、すなわちタッチパネル102側)で反射する光に基づいて、移動ユニット200の形状や物理ボタン204A,204B,204Cの形状や物理ボタン204A,204B,204Cまでの距離などを取得するため、移動ユニット200は赤外線を反射し易いことが好ましい。すなわち、移動ユニット200は、可視光を透過し易く、赤外線を反射し易い材料から構成されることが好ましい。
【0096】
ただし、移動ユニット200は、所定形状を有する枠体であってもよい。すなわち、移動ユニット200は、物理ボタン204A,204B,204Cを含まなくてもよい。この場合には、ユーザは、移動ユニット200の枠内で、物理ボタンを介さずに直接タッチパネル102に表示されているコンテンツ(ソフトウェアキーボード140A,140B)を操作する。
【0097】
<液晶パネル140の物理的構成>
次に、液晶パネル140の物理的構成について説明する。図4を参照して、液晶パネル140は、偏向フィルタ161と、ガラス基板162と、液晶層152とを含む。バックライト179は、液晶層152の裏側に配置されている。なお、本実施の形態においては、画像を表示するための可視光を発するバックライト179が、タッチ操作を検出するための可視光や赤外線を発する。しかしながら、タッチパネル102は、画像を表示するための可視光を発するバックライト179と、タッチ操作を検出するための可視光や赤外線を発するバックライト179B(図7参照)とを含んでもよい。
【0098】
液晶パネル140は、所定の色成分を透過するためのカラーフィルタ(153r,153g,153b)と、赤外線の反射光を透過するためのフィルタ155と、液晶層152を挟むように配置される電極対とを含む。電極対は、画素電極143a,143bを含む。液晶パネル140は、赤外線の反射光などを検出するためのフォトダイオード145と、データ信号線157と、拡散シート164とを含む。
【0099】
さらに、液晶パネル140は、図3に示した、コンデンサ146と、TFT147と、TFT142と、走査信号線Giとを含む。
【0100】
カラーフィルタ153rは、赤色の波長の光を透過させるフィルタである。カラーフィルタ153gは、緑色の波長の光を透過させるフィルタである。カラーフィルタ153bは、青色の波長の光を透過させるフィルタである。ここで、フォトダイオード145は、カラーフィルタ153bに対向する位置に配されている。
【0101】
液晶パネル140は、外光やバックライト179などの光源により発せられた光を遮ったり又は当該光を透過させたりすることによって、画像を表示する。具体的には、液晶パネル140は、画素電極143aと対向電極143bとの間に電圧を印加することにより液晶層152の液晶分子の向きを変化させ、上記光を遮ったり、あるいは透過させたりする。ただし、液晶だけでは光を完全に遮ることができないため、特定の偏向方向の光のみを透過させる偏向フィルタ161が配置されている。
【0102】
ここで、光センサ回路144の動作について説明する。図5は、光センサ回路144を動作させる際のタイミングチャートを示した図である。図5において、電圧VINTは、光センサ回路144内のノードNにおける電位を示している。また、電圧VPIXは、図4に示したセンサ信号線SSjからの出力電圧であって、アンプ135によって増幅される前の電圧を示している。
【0103】
以下では、光センサ回路144をリセットするためのリセット期間と、光センサ回路144を用いて光をセンシングするためのセンシング期間と、センシングした結果を読み出す読出期間とに分けて説明する。
【0104】
まず、リセット期間について説明する。リセット期間においては、リセット信号線RSiに印加する電圧を、ローレベル(電圧VSSR)からハイレベル(電圧VDDR)へと瞬間的に切り換える。一方、読出信号線RWiに印加する電圧は、ローレベル(電圧VSSR)のままとする。このように、リセット信号線RSiに上記ハイレベルの電圧を印加することにより、フォトダイオード145の順方向(アノード側からカソード側)に電流が流れ始める。その結果、ノードNの電位である電圧VINTは、以下の式(1)で示す値となる。なお、式(1)では、フォトダイオード145における順方向の電圧降下量をVfとしている。
【0105】
VINT=VSSR+|VDDR−VSSR|−Vf … (1)
それゆえ、ノードNの電位は、図5に示すとおり、電圧VDDRよりもVfだけ小さな値となる。
【0106】
ここで、電圧VINTは、TFT147のゲートをターンオンさせる閾値以下であるため、センサ信号線SSjからの出力はない。このため、電圧VPIXは変化しない。また、コンデンサ146の電極間には、上記電圧VINT分の差が生じる。このため、コンデンサ146には、当該差に応じた電荷が蓄積される。
【0107】
次に、センシング期間について説明する。リセット期間に続くセンシング期間においては、リセット信号線RSiに印加する電圧は、ハイレベル(電圧VDDR)からローレベル(電圧VSSR)へと瞬間的に切り換わる。一方、読出信号線RWiに印加する電圧は、ローレベル(電圧VSSR)のままとする。
【0108】
このように、リセット信号線RSiに印加する電圧をローレベルに変化させることにより、ノードNの電位は、リセット信号線RSiの電圧および読出信号線RWiの電圧よりも高くなる。このため、フォトダイオード145においては、カソード側の電圧がアノード側の電圧よりも高くなる。つまり、フォトダイオード145は、逆バイアスの状態となる。このような逆バイアスの状態において、光源からの光をフォトダイオード145が受光すると、フォトダイオード145のカソード側からアノード側へと電流が流れ始める。その結果、図5に示すとおり、ノードNの電位(つまり、電圧VINT)は時間の経過とともに低くなる。
【0109】
なお、上述したように、電圧VINTが低下し続けるため、TFT147のゲートはターンオンした状態にはならない。それゆえ、センサ信号線SSjからの出力はない。このため、電圧VPIXは変化しない。
【0110】
次に、読出期間について説明する。センシング期間に続く読出期間においては、リセット信号線RSiに印加する電圧をローレベル(電圧VSSR)のままとする。一方、読出信号線RWiに印加する電圧は、ローレベル(電圧VSSR)からハイレベル(電圧VDD)へと瞬間的に切り換わる。ここで、電圧VDDは、電圧VDDRよりも高い値である。
【0111】
このように、読出信号線RWiにハイレベルの電圧を瞬間的に印加することにより、図5に示すとおり、コンデンサ146を介してノードNの電位が引き上げられる。なお、ノードNの電位の上昇幅は、読出信号線RWiに印加する電圧に応じた値となる。ここで、ノードNの電位(つまり、電圧VINT)が、TFT147のゲートをターンオンさせる閾値以上まで引き上げられるため、TFT147のゲートがターンオンする。
【0112】
この際、TFT147のドレイン側に接続されたセンサ信号線SDj(図3参照)に予め一定電圧を印加しておけば、TFT147のソース側に接続されたセンサ信号線SSjからは、図5のVPIXのグラフに示すとおり、ノードNの電位に応じた電圧が出力される。
【0113】
ここで、フォトダイオード145が受光する光の量(以下、受光量と称する)が少ないと、図5のVINTのグラフに示す直線の傾きが緩やかになる。その結果、電圧VPIXは、受光量が多い場合に比べて高くなる。このように、光センサ回路144は、フォトダイオード145の受光量に応じて、センサ信号線SSjに出力する電圧の値を変化させる。
【0114】
ところで、上記においては、m×n個存在する光センサ回路のうち、1つの光センサ回路144に着目して、その動作を説明した。以下では、液晶パネル140における各光センサ回路の動作について説明する。
【0115】
まず、光センサ駆動回路133は、n個のセンサ信号線(SD1〜SDn)の全てに対して、予め定められた電圧を印加する。次に、光センサ駆動回路133は、リセット信号線RS1に対して、通常よりもハイレベルな電圧VDDRを印加する。なお、他のリセット信号線(RS2〜RSm)および読出信号線(RW1〜RWm)については、ローレベルの電圧を印加したままの状態とする。これにより、図3における1行目のn個の光センサ回路が、上述したリセット期間に入る。その後、1行目のn個の光センサ回路は、センシング期間に入る。さらに、その後、1行目のn個の光センサ回路は、読出期間に入る。
【0116】
なお、n個のセンサ信号線(SD1〜SDn)の全てに対して予め定められた電圧を印加するタイミングは、上記のタイミングに限定されず、少なくとも読出期間前に印加されるタイミングであればよい。
【0117】
1行目のn個の光センサ回路の読出期間が終了すると、光センサ駆動回路133は、リセット信号線RS2に対して、通常よりもハイレベルな電圧VDDRを印加する。つまり、2行目のn個の光センサ回路のリセット期間に入る。リセット期間が終了すると、2行目のn個の光センサ回路は、センシング期間に入り、その後は、読出期間に入る。
【0118】
以降は、上述した処理が、順に、3行目のn個の光センサ回路、4行目のn個の光センサ回路、…m行目のn個の光センサ回路に対して行われる。その結果、センサ信号線(SS1〜SSn)からは、1行目のセンシング結果、2行目のセンシング結果、…、m行目のセンシング結果が、この順に出力される。
【0119】
なお、タッチパネル102においては、上記のように行毎にセンシングが行われるとともに、行毎にセンシング結果が液晶パネル140から出力される。このため、ここでは、液晶パネル140から出力される1行目からm行目までのm行分の電圧に関するデータに対して、信号処理部183が上述したデータ処理を行った後のデータを、「スキャンデータ」とも称する。つまり、スキャンデータとは、スキャン対象物(たとえば、移動ユニット200やユーザの指やスタイラスペン)をスキャンすることにより得られる画像データを指す。また、当該スキャンデータに基づいて表示された画像を、「スキャン画像」とも称する。さらに、以下では、センシングを「スキャン」と称する。
【0120】
また、上記においては、m×n個の光センサ回路全てを用いてスキャンを行なう構成を例に挙げたが、これに限定されるものではない。予め選択された光センサ回路を用いて、液晶パネル140の表面の一部の領域に関してスキャンを行なうことも構成としてもよい。
【0121】
以下では、画像表示装置100が、両構成のいずれの構成をも採用できる。さらに、当該構成間の切り換えは、操作キー177を介した入力などに基づく本体ユニット101から送られてくるコマンドにより行われるものとする。なお、液晶パネル140の表面の一部の領域に関してスキャンを行なう場合、画像処理エンジン180が、スキャン対象領域の設定を行なう。なお、当該領域の設定を、操作キー177を介してユーザが指定できる構成としてもよい。
【0122】
このように、液晶パネル140の表面の一部の領域に関してスキャンを行なう場合には、画像の表示に関し、以下のような利用の態様がある。1つ目は、上記一部の領域(以下、スキャン領域と称する)以外の表面の領域において、画像を表示させる態様である。2つ目は、上記スキャン領域以外の表面の領域において、画像を表示させない態様である。いずれの態様とするかは、本体ユニット101から画像処理エンジン180に送られてくるコマンドに基づく。
【0123】
たとえば、移動ユニット200やユーザの指などが液晶パネル140の表面に接触している場合、バックライト179(179B)から発せられた光(赤外線など)の一部が、移動ユニット200やユーザの指の底面で反射する。画像処理エンジン180は、液晶パネル140からの信号に基づいて、反射光から得られるスキャン画像を生成する。そして、画像処理エンジン180やCPU110が、スキャン画像に基づいて、移動ユニット200やユーザの指がタッチパネル102に接触したことや、移動ユニット200やユーザの指の形状などを取得することができる。
【0124】
<タッチ操作を受け付けるための構成>
次に、画像表示装置100が、タッチパネル102を介してユーザからのタッチ操作を受け付けるための構成について説明する。図6は、本実施の形態に係る移動ユニット200(物理ボタン204A,204B,204C)とコンテンツ(ソフトウェアボタン)との関係を示すイメージ図である。図7は、物理ボタン204A,204B,204Cとスキャン画像との関係を示すイメージ図である。
【0125】
より詳細には、図7(a)は、物理ボタン204Cが押下された状態における移動ユニット200とタッチパネル102の側面断面図である。図7(b)は、物理ボタン204Cが押下された状態における移動ユニット200の側面断面図と検出される反射光の強さ(輝度)とを示す側面断面図である。図7(c)は、物理ボタン204Cが押下された状態におけるスキャン画像を示すイメージ図である。
【0126】
図1および図6を参照して、画像表示装置100は、タッチパネル102を介して取得した画像データに基づいて、移動ユニット200の設置位置や設置方向などを取得する。画像表示装置100は、タッチパネル102を介して、当該設置位置や設置方向に基づいて、移動ユニット200の内側に対応するエリアにソフトウェアキーボード140A,140Bを表示する。
【0127】
より詳細には、画像表示装置100は、タッチパネル102を介して、当該設置位置や設置方向に基づいて、移動ユニット200の各物理ボタン204A,204B,204Cに対向するエリアにソフトウェアボタン140Q,140W,140Eを表示する。これによって、ユーザは、移動ユニット200の内側からタッチパネル102に表示されるソフトウェアボタン140Q,140W,140Eを認識することができる。
【0128】
図7(a)を参照して、バックライト179(179B)からの赤外線が、物理ボタン204A,204B,204Cの底面204xや裏面204yで反射する。底面204xからタッチパネル102までの距離は、裏面204yからタッチパネル102までの距離よりも短いため、底面204xに対向する位置で検出される反射光は、裏面204yに対向する位置で検出される反射光よりも強くなる。
【0129】
そして、ユーザによって物理ボタン204Cが押下されると、物理ボタン204Cの底面204xとタッチパネル102との距離がさらに近くなる。そのため、押下された物理ボタン204Cの底面204xに対向する位置で検出される反射光は、押下されない物理ボタン204A,204Bの底面204xに対向する位置で検出される反射光よりもさらに強くなる。
【0130】
図7(b)および図7(c)を参照して、画像処理エンジン180が生成するスキャン画像には、物理ボタン204Cの底面204xに対応する領域R1と、物理ボタン204Cの裏面に対応する領域R2と、物理ボタン204A,204Bの底面204xに対応する領域R3と、物理ボタン204A,204Bの裏面204yに対応する領域R4と、物理ボタン204A,204B,204Cのいずれにも対応しない領域R5とを含む。
【0131】
赤外線が反射する位置とタッチパネル102との距離に従って、物理ボタン204Cの底面204xに対応する領域R1の反射光の輝度値が最も高い。物理ボタン204Cの裏面に対応する領域R2の反射光の輝度値が2番目に高い。物理ボタン204A,204Bの底面204xに対応する領域R3の反射光の輝度値が3番目に高い。物理ボタン204A,204Bの裏面204yに対応する領域R4の反射光の輝度値が4番目に高い。物理ボタン204A,204B,204Cのいずれにも対応しない領域R5の反射光の輝度値が一番低い。
【0132】
このようにして、CPU110あるいは画像処理エンジン180は、図7(c)に示すスキャン画像に基づいて、どの物理ボタン204A,204B,204C(ソフトウェアボタン)が押下されたかを判断することができる。なお、この処理は、後述する第2の検出部113が実行する処理に相当するものである。
【0133】
<画像表示装置100の機能構成>
次に、本実施の形態に係る画像表示装置100の機能構成について説明する。図8は、本実施の形態に係る画像表示装置100の機能構成を示すブロック図である。
【0134】
図8を参照して、画像表示装置100は、取得部111と、第1の検出部112と、第2の検出部113と、表示制御部114とを含む。また、画像表示装置100は、図2にも示したように、タッチパネル102とRAM171とも含む。
【0135】
まず、タッチパネル102の液晶パネル140の複数の光センサ回路144のそれぞれは、反射光を受光して、当該反射光に応じた電気信号を生成する。そして、複数の光センサ回路144は全体として、画像処理エンジン180(図2)などを介して、液晶パネル140に入力される景色に対応する画像データ(スキャンデータ)を取得部111に入力する。
【0136】
タッチパネル102の液晶パネル140の複数の画素回路141のそれぞれは、画像処理エンジン180を介して、表示制御部114からの画像データに基づき、外部に可視光を発する。より詳細には、複数の画素回路141は全体として、画像処理エンジン180(図2)などを介して、後述する表示制御部114からの画像データ(電気信号)に基づいて、バックライト179からの光を利用しながらソフトウェアキーボード140A,140Bなどのコンテンツを表す画像やテキストを表示する。
【0137】
RAM171は、画像処理エンジン180からの画像データ171Aを順次記憶する。たとえば、RAM171は、画像処理エンジン180からの各センサタイミングにおける一連の接触領域を示す画像データ171Aを記憶する。また、RAM171は、複数種類のソフトウェアキーボードや複数種類の表示ウィンドウの各々を、所定形状(第1の所定形状)に対応付けて記憶する。
【0138】
取得部111と、第1の検出部112と、第2の検出部113と、表示制御部114とは、CPU110などによって実現される機能である。より詳細には、CPU110が有する各機能は、CPU110がRAM171などに記憶される制御プログラムを実行して、図2に示される各ハードウェアを制御することによって実現される機能である。
【0139】
ただし、取得部111と、第1の検出部112と、第2の検出部113と、表示制御部114の一部が、画像処理エンジン180によって実現されてもよい。また、取得部111と、第1の検出部112と、第2の検出部113と、表示制御部114の一部が、ハードウェア回路によって実現されてもよい。
【0140】
取得部111は、タッチパネル102からの画像データを一時的にRAM171に記憶する。たとえば、取得部111は、画像処理エンジン180からの画像データに基づいて、RAM171の画像データを最新の画像データに更新する。取得部111は、タッチパネル102から順次入力される画像データに基づいて、接触領域が検出されている期間だけ、当該接触領域を示す画像データを順次RAM171に蓄積してもよい。
【0141】
取得部111は、画像データから特徴点の位置を計算してもよい。たとえば、取得部111は、画像データに基づいて、輝度が大きく変化する(輝度の傾きが大きい)領域を抽出してもよいし、輝度の傾きが大きい画素の領域同士が交差する(接触する)点の座標を計算してもよい。
【0142】
第1の検出部112は、取得部111あるいはRAM171からの画像データに基づいて、所定形状の物体(移動ユニット200)がタッチパネル102に接触したか否かを判断する。第1の検出部112は、画像データに基づいて所定の閾値以上の輝度を有する画素の配列に基づいて、あるいは輝度の傾きが大きい画素の配列に基づいて、当該配列が第1の所定形状に対応するものであるか否かを判断する。
【0143】
より詳細には、外部の物体の表面のうち、タッチパネル102に接触する部分に対応する位置における反射光の輝度は、前述した領域R1よりもさらに大きくなる。なぜなら、タッチパネル102に接触する部分は、押下された物理ボタン204Cの底面204xよりもタッチパネル102に近い(タッチパネル102までの距離がほとんど0である)からである。すなわち、第1の検出部112は、画素が領域R1に属するか否かを判断するための閾値(後述する閾値1)よりもさらに大きな閾値(閾値0)以上の輝度を有する画素の配列に関して、第1の所定形状に関する形状判断を行なえばよい。
【0144】
図9は、所定の閾値(閾値0)以上の輝度を有する画素からなる領域R6すなわち移動ユニット200のタッチパネル102に対する接触領域とタッチパネル102との関係を示すイメージ図である。図9を参照して、第1の検出部112は、RAM171から第1の所定形状(枠形状)を読み出して、当該第1の所定形状と所定の閾値以上の輝度を有する画素から構成される領域R6の形状とを比較する。
【0145】
第1の検出部112は、領域R6の形状と所定形状との一致度が所定値以上である場合に、タッチパネル102に移動ユニット200が接触したと判断する。第1の検出部112は、タッチパネル102に移動ユニット200が接触したことを示す接触情報と、当該接触領域と一致する所定形状の種類を示す種類情報と、領域R6の中心座標を示す位置情報と、移動ユニット200の配置方向とを表示制御部114に受け渡す。
【0146】
図8に戻って、表示制御部114は、第1の検出部112あるいは第2の検出部113からの検出結果に基づいて、タッチパネル102にソフトウェアキーボード140A,140Bなどのコンテンツを表示させる。すなわち、表示制御部114は、種類情報に基づいて、RAM171から対応するコンテンツを読み出す。表示制御部114は、位置情報に基づいて、当該コンテンツをタッチパネル102に表示させる。
【0147】
図10は、ソフトウェアキーボード140A,140Bが表示された状態におけるタッチパネル102を示すイメージ図である。図10を参照して、表示制御部114は、位置情報に基づいて、タッチパネル102の移動ユニット200の内側に対応するエリアにソフトウェアキーボード140A,140Bを表示する。
【0148】
図11は、所定形状の第1の変形例を示すイメージ図である。図11を参照して、第1の検出部112は、RAM171から所定形状(面形状)を読み出して、所定の閾値以上の輝度を有する画素からなる領域R7の形状と比較する。
【0149】
第1の検出部112は、領域R7の形状と所定形状との一致度が所定値以上である場合に、タッチパネル102に移動ユニット200が接触したと判断する。第1の検出部112は、タッチパネル102に移動ユニット200が接触したことを示す接触情報と、当該接触領域と一致する所定形状の種類を示す種類情報と、領域R7の中心座標を示す位置情報と、移動ユニット200の配置方向とを表示制御部114に受け渡す。
【0150】
以下では、移動ユニット200の配置方向をより正確に検出するための構成について説明する。図12は、所定形状の第2の変形例を示すイメージ図である。図12を参照して、第1の検出部112は、RAM171から所定形状(面形状あるいは枠形状)を読み出して、所定の閾値以上の輝度を有する画素からなる領域R7の形状と比較する。なお、ここでは、第1の所定形状が、穴形状(第3の所定形状)を含む。すなわち、移動ユニット200の基板201の底面が平面であって、当該底面の一部が欠けている。
【0151】
第1の検出部112は、領域R8を含む領域7の形状と第3の所定形状を含む第1の所定形状との一致度が所定値以上である場合に、タッチパネル102に移動ユニット200が接触したと判断する。第1の検出部112は、タッチパネル102に移動ユニット200が接触したことを示す接触情報と、当該接触領域と一致する所定形状の種類を示す種類情報と、領域R7の中心座標を示す位置情報と、当該領域R7における領域R8の位置を示す配置方向とを表示制御部114に受け渡す。
【0152】
たとえば、第1の検出部112あるいは表示制御部114は、RAM171に記憶されている第3の所定形状が第1の所定形状の右上部に位置するものである場合、領域R8がソフトウェアキーボード140A,140B(領域R7)の右上部に位置するように、ソフトウェアキーボード140A,140Bの上下方向(配置方向)を決定する。表示制御部114は、タッチパネル102に、領域R8がソフトウェアキーボード140A,140B(領域R7)の右上部に位置するように、領域R7の内側にソフトウェアキーボード140A,140Bを表示させる。
【0153】
図13は、所定形状の第3の変形例を示すイメージ図である。図13を参照して、第1の検出部112は、RAM171から所定形状(枠形状あるいは面形状)を読み出して、所定の閾値以上の輝度を有する画素からなる領域R6の形状と比較する。なお、ここでは、第1の所定形状が、凸形状(第3の所定形状)を含む。すなわち、移動ユニット200の基板201の底面が枠形状であって、当該枠形状の外周あるいは内周に凸部が設けられている。
【0154】
第1の検出部112は、領域R9を含む領域R6の形状と第3の所定形状を含む第1の所定形状との一致度が所定値以上である場合に、タッチパネル102に移動ユニット200が接触したと判断する。第1の検出部112は、タッチパネル102に移動ユニット200が接触したことを示す接触情報と、当該接触領域と一致する所定形状の種類を示す種類情報と、領域R6の中心座標を示す位置情報と、当該領域R6における領域R9の位置を示す配置方向とを表示制御部114に受け渡す。
【0155】
たとえば、第1の検出部112あるいは表示制御部114は、RAM171に記憶されている第3の所定形状が第1の所定形状の右上部に位置するものである場合、領域R9がソフトウェアキーボード140A,140B(領域R6)の右上部に位置するように、ソフトウェアキーボード140A,140Bの上下方向を決定する。表示制御部114は、タッチパネル102に、領域R9がソフトウェアキーボード140A,140B(領域R6)の右上部に位置するように、領域R6の内側にソフトウェアキーボード140A,140Bを表示させる。
【0156】
図6に戻って、第2の検出部113は、取得部111あるいはRAM171からの画像データに基づいて、物理ボタン204A,204B,204Cが押下されたか否かを判断する。第2の検出部113は、RAM171から第2の所定形状(枠形状)を読み出して、当該第2の所定形状と所定の閾値以上の輝度を有する画素からなる領域の形状とを比較する。
【0157】
図14は、物理ボタン204A,204B,204Cが押下されたか否かを判断するための処理を示す第1のイメージ図である。図15は、物理ボタン204A,204B,204Cが押下されたか否かを判断するための処理を示す第2のイメージ図である。
【0158】
図14(a)および図14(b)を参照して、第2の検出部113は、画像データに基づいて領域R1,R2,R3,R4,R5の輪郭を抽出する。より詳細には、第2の検出部113は、輝度の傾きが大きい画素の配列を領域の輪郭として抽出する。
【0159】
図14(b)および図14(c)を参照して、第2の検出部113は、輪郭を示すデータに基づいて、当該輪郭のコーナーを抽出する。すなわち、第2の検出部113は、輪郭を示す直線が交差あるいは接触する点の座標を計算する。第2の検出部113は、当該コーナーの座標間の関係に基づいて、画像データに第2の所定形状が含まれているか否かを判断する。
【0160】
第2の検出部113は、画像データに第2の所定形状が含まれている場合に、当該第2の所定形状のそれぞれを物理ボタン204A,204B,204Cとして認識する。そして、第2の検出部113は、第2の所定形状内における輝度とその周囲の画素の輝度とに基づいて、物理ボタン204A,204B,204Cが押下されたことをより正確に検出することができる。
【0161】
図15(a)および図15(b)を参照して、第2の検出部113は、第2の所定形状に対応する画素の輝度が閾値1以上であるか否かを判断する。第2の所定形状に対応する画素の輝度が閾値1以上である場合、第2の検出部113は、対応する物理ボタン204A,204B,204Cが押下されたと判断する。
【0162】
一方、第2の検出部113は、第2の所定形状に対応する画素の輝度が閾値1未満である場合に、対応する物理ボタン204A,204B,204Cが押下されていないと判断する。
【0163】
なお、第2の検出部113は、閾値1以上の輝度を有する画素の配列と第2の所定形状との一致度を計算してもよい。これによって、第2の検出部113は、物理ボタン204A,204B,204Cが押下されたことをより正確に検出することができる。
【0164】
また、第2の検出部113は、閾値2未満の画素に対応するエリアには物理ボタン204A,204B,204Cが存在していないと判断する。このように、判断対象となる画素を対応する輝度によって制限することにより、物理ボタン204A,204B,204C以外の物体を検出することによって操作命令を受け付けてしまうことを防止することができる。
【0165】
物理ボタン204A,204B,204Cが押下されたことをさらに正確に検出するために、第2の検出部113は以下の制御を行なってもよい。すなわち、第2の所定形状に対応する画素の輝度が閾値1以上である場合に、第2の検出部113は、第2の所定形状に対応する画素の輝度と当該第2の所定形状の周囲の画素の輝度との差分を計算する。そして、第2の検出部113は、当該差分が閾値3以上である場合に、対応する物理ボタン204A,204B,204Cが押下されたと判断する。
【0166】
なお、移動ユニット200が物理ボタン204A,204B,204Cを有さない場合、すなわち移動ユニット200が第1の所定形状(枠形状)を有する単なる枠体である場合、第2の検出部113は、ソフトウェアボタン140Q,140W,140Eが表示されている領域に外部の物体(指あるいはスタイラスペン)が接触したか否かを判断することによって、ソフトウェアキーボード140A,140Bに対する操作を受け付けてもよい。
【0167】
この場合には、第2の検出部113が、画像データに基づいて、第1の所定形状の内側で、閾値1以上の輝度を有する画素を検出することによって、当該画素に対応する位置に対するタッチ操作を受け付けてもよい。
【0168】
<移動ユニットの変形例>
次に、移動ユニットの変形例、すなわち第1および第2の所定形状の変形例について説明する。図16は、移動ユニットの第1の変形例を示すイメージ図である。図17は、第1および第2の所定形状の第1の変形例を示すイメージ図である。
【0169】
図16および図17を参照して、移動ユニット206は、その外周にタッチパネル102に接触する多角形のリブ(枠体)を有してもよい。すなわち、画像表示装置100は、RAM171に、第1の所定形状の1種として6角形の枠形状を記憶してもよい。第1の検出部112として機能するCPU110は、タッチパネル102からの画像データに基づいて、タッチパネル102に6角形の枠形状を有する物体が接触したことを検出して、移動ユニット206がタッチパネル102に載置されたことを認識してもよい。
【0170】
そして、表示制御部114として機能するCPU110は、タッチパネル102に、移動ユニット206の枠体(第1の所定形状)に内接するソフトウェアキーボード140A,140Bを表示させる。ただし、移動ユニット206の底面は枠形状に限定されるものではなく、当該底面が6角形の平面であってもよい。
【0171】
さらに、移動ユニット206は、その内側に多角形の物理ボタン206A,206B,206Cを有してもよい。すなわち、画像表示装置100は、RAM171に、第2の所定形状の1種として6角形の枠形状を記憶してもよい。物理ボタン204A,204B,204Cの場合と同様に、第2の検出部113として機能するCPU110は、タッチパネル102からの画像データに基づいて、物理ボタン206A,206B,206Cが押下されたことを認識してもよい。
【0172】
そして、表示制御部114として機能するCPU110は、タッチパネル102に、物理ボタン206A,206B,206Cのそれぞれに対応する位置に、ソフトウェアキーボード140A,140Bの一部として6角形のソフトウェアボタンのそれぞれを表示させる。
【0173】
図18は、移動ユニットの第2の変形例を示すイメージ図である。図19は、第1および第2の所定形状の第2の変形例を示すイメージ図である。
【0174】
図18および図19を参照して、移動ユニット205は、その外周にタッチパネル102に接触する5角形のリブ(枠体)を有してもよい。すなわち、画像表示装置100は、RAM171に、第1の所定形状の1種として5角形の枠形状を記憶してもよい。第1の検出部112として機能するCPU110は、タッチパネル102からの画像データに基づいて、タッチパネル102に5角形の枠形状を有する物体が接触したことを検出して、移動ユニット205がタッチパネル102に載置されたことを認識してもよい。
【0175】
そして、表示制御部114として機能するCPU110は、タッチパネル102に、移動ユニット205の枠体(第1の所定形状)に内接するソフトウェアキーボード140A,140Bを表示させる。ただし、移動ユニット205の底面は枠形状に限定されるものではなく、当該底面が5角形の平面であってもよい。
【0176】
さらに、移動ユニット206は、その内側に5角形の物理ボタン205A,205B,205Cを有してもよい。すなわち、画像表示装置100は、RAM171に、第2の所定形状の1種として5角形の枠形状を記憶してもよい。物理ボタン204A,204B,204Cの場合と同様に、第2の検出部113として機能するCPU110は、タッチパネル102からの画像データに基づいて、物理ボタン205A,205B,205Cが押下されたことを認識してもよい。
【0177】
そして、表示制御部114として機能するCPU110は、タッチパネル102に、物理ボタン205A,205B,205Cのそれぞれに対応する位置に、ソフトウェアキーボード140A,140Bの一部として、5角形のソフトウェアボタンのそれぞれを表示させる。
【0178】
図20は、移動ユニットの第3の変形例を示すイメージ図である。以下に説明するように、第1の所定形状と第2の所定形状とは相似形に限定されるものではない。
【0179】
図20を参照して、移動ユニット207は、その外周にタッチパネル102に接触する長方形の枠体を有してもよい。そして、移動ユニット207は、その内側に円形の物理ボタン207A,207B,207Cを有してもよい。すなわち、画像表示装置100は、RAM171に、第2の所定形状の1種として円形の枠形状を記憶してもよい。物理ボタン204A,204B,204Cの場合と同様に、第2の検出部113として機能するCPU110は、タッチパネル102からの画像データに基づいて、物理ボタン207A,207B,207Cが押下されたことを認識してもよい。
【0180】
そして、表示制御部114として機能するCPU110は、タッチパネル102に、物理ボタン207A,207B,207Cのそれぞれに対応する位置に、ソフトウェアキーボード140A,140Bの一部として、円形のソフトウェアボタンのそれぞれを表示させる。
【0181】
<物理ボタンの変形例>
次に、物理ボタンの変形例について説明する。図21は、物理ボタンの変形例を示すイメージ図である。
【0182】
図21を参照して、物理ボタン204A,204B,204Cの各々は、その上面にレンズ204Lを有してもよい。レンズ204Lは、ユーザが物理ボタン204A,204B,204Cを見たときに、ユーザに物理ボタン204A,204B,204Cを指示する弾性部材203を見せないようにする。なお、レンズ204Lは、物理ボタン204A,204B,204Cの各々に一体成型されるものであってもよいし、物理ボタン204A,204B,204Cの表面あるいは裏面などに設置されるものであってもよい。
【0183】
すなわち、レンズ204Lは、物理ボタン204A,204B,204Cの各々の表面から、物理ボタン204A,204B,204Cの下方に表示されているソフトウェアボタンのみが見せるように構成されている。これによって、弾性部材203が透明でなくても、弾性部材203によって物理ボタン204A,204B,204Cのそれぞれに対応するソフトウェアボタンが見え難くなることを防止することができる。
【0184】
なお、物理ボタン204A,204B,204Cの各々は、1つのレンズ204Lによって上記の効果を奏するように構成されてもよいし、複数のレンズ204Lによって上記の効果を奏するように構成されてもよい。
【0185】
<画像表示処理>
次に、本実施の形態に係る画像表示装置100における画像表示処理について説明する。図22は、本実施の形態に係る画像表示装置100における画像表示処理の処理手順を示すフローチャートである。
【0186】
なお、前述したように、本実施の形態に係る画像表示装置100は、ユーザからのタッチ操作を受け付けるための、すなわちソフトウェアキーボード140A,140Bを介して命令を受け付けるためのモード(入力モード)と、表示のみを行なうためのモード(表示モード)とを有する。以下では、入力モードにおける画像表示装置100における画像表示処理について説明する。
【0187】
図2,8,22を参照して、取得部111として機能するCPU110(あるいは画像処理エンジン180)は、定期的に、タッチパネル102から画像データを取得する。第1の検出部112として機能するCPU110(あるいは画像処理エンジン180)は、画像データに基づいて、外部の物体がタッチパネル102に接触したか否かを判断する(ステップS102)。すなわち、CPU110は、画像データに基づいて、閾値0以上の輝度を有する画素が存在するか否かを判断する。外部の物体がタッチパネル102に接触していない場合、CPU110は、ステップS102からの処理を繰り返す。
【0188】
一方、外部の物体がタッチパネル102に接触したと判断した場合、CPU110は、RAM171から全ての第1の所定形状を読み出して、画像データにいずれかの第1の所定形状が含まれるか否かを判断する(ステップS104)。画像データにいずれの第1の所定形状も含まれない場合(ステップS104においてNOである場合)、CPU110は、ステップS102からの処理を繰り返す。
【0189】
一方、画像データにいずれかの第1の所定形状が含まれる場合(ステップS104においてYESである場合)、表示制御部114として機能するCPU110(あるいは画像処理エンジン180)は、タッチパネル102に、第1の所定形状の内側に対応する位置に、当該所定形状に対応するソフトウェアキーボード140Aを表示させる(ステップS106)。
【0190】
このとき、第1の検出部113として機能するCPU110は、画像データに第3の所定形状が含まれるか否かを判断するしてもよい。そして、画像データに第3の所定形状が含まれる場合に、CPU110は、当該第1の所定形状における第3の所定形状の位置に基づいて、ソフトウェアキーボード140Aの上下左右方向を決定する。表示制御部114として機能するCPU110は、当該上下左右方向に基づいて、タッチパネル102に、第1の所定形状の内側に対応する位置に、ソフトウェアキーボード140A,140Bを表示させる。
【0191】
第2の検出部113として機能するCPU110(あるいは画像処理エンジン180)は、RAM171から全ての第2の所定形状を読み出して、画像データにいずれかの第2の所定形状が含まれるか否かを判断する(ステップS108)。なお、CPU110は、当該第2の所定形状に対応する輝度が閾値1以上であるか否かを判断してもよい。画像データに、閾値1以上である第2の所定形状が含まれない場合(ステップS108においてNOである場合)、CPU110はステップS102からの処理を繰り返す。
【0192】
一方、画像データに、閾値1以上であるいずれかの第2の所定形状が含まれる場合(ステップS108においてYESである場合)、CPU110は、当該第2の所定形状に対応する物理ボタン204A,204B,204Cが押下されたと判断する。CPU110は、タッチパネル102のソフトウェアボタンの表示態様を変更する(ステップS110)。
【0193】
たとえば、CPU110は、タッチパネル102に、押下された物理ボタン204A,204B,204Cに対応するソフトウェアボタンの輝度を他のソフトウェアボタンよりも高めたり、押下された物理ボタン204A,204B,204Cに対応するソフトウェアボタンの色を他のソフトウェアボタンと異なるものに変更したりする。すなわち、CPU110は、ソフトウェアボタンが押されたことを示すエフェクトを実現する。
【0194】
第2の検出部113として機能するCPU110は、タッチパネル102を介して順次取得される画像データに基づいて、物理ボタン204A,204B,204Cがリリースされたか否かを判断する(ステップS112)。CPU110は、物理ボタン204A,204B,204Cがリリースされるまで待機する(ステップS112においてNOである場合)。
【0195】
一方、物理ボタン204A,204B,204Cがリリースされると(ステップS112においてYESである場合)、CPU110は、押下されたソフトウェアボタンに対応する命令を受け付けて、押下されていたソフトウェアボタンの表示態様を元に戻す(ステップS114)。CPU110は、ステップS108からの処理を繰り返す。
【0196】
<その他の実施の形態>
上記の実施の形態においては、画像表示装置100が、画像データに基づいて、第1から第3の所定形状の有無を判断する。しかしながら、画像表示装置100は、タッチパネル102に載置される移動ユニット200からの反射光に基づいて、反射光が検知された位置に対応する位置データに基づいて、第1から第3の所定形状の有無を判断してもよい。すなわち、画素毎の輝度を取得することは必須ではなく、画像表示装置100は、画素毎に反射光が検出されたか否かを判断することによって、どの位置に物体が存在するかを判断してもよい。そして、検出された複数の位置データに基づいて、第1から第3の所定形状の有無を判断してもよい。
【0197】
さらに、光センサによって反射光を検出することが必須でもない。すなわち、画像表示装置100は、圧力センサを有する(圧力を検出できる)通常のタッチパネルを用いて、第1の所定形状の有無を判断してもよい。すなわち、画像表示装置100は、光センサ毎に検出される輝度の高低の代わりに、圧力センサ毎に検出される圧力の高低を利用してもよい。また、所定の閾値以上の圧力が検出された複数の位置に対応する複数の位置データに基づいて、第1の所定形状の有無を判断してもよい。
【0198】
本発明は、画像表示装置100にプログラムを供給することによって達成される場合にも適用できることはいうまでもない。そして、本発明を達成するためのソフトウェアによって表されるプログラムを格納した記憶媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することによっても、本発明の効果を享受することが可能となる。
【0199】
この場合、記憶媒体から読出されたプログラムコード自体が前述した実施の形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
【0200】
プログラムコードを供給するための記憶媒体としては、例えば、USB(登録商標:Universal Serial Bus)メモリ、メモリカード、CD−ROM、ハードディスク、光ディスク、光磁気ディスク、CD−R、磁気テープ、不揮発性のメモリカード(ICメモリカード)、ROM(マスクROM、フラッシュEEPROMなど)などを用いることができる。
【0201】
また、コンピュータが読出したプログラムコードを実行することにより、前述した実施の形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行い、その処理によって前述した実施の形態の機能が実現される場合も含まれることは言うまでもない。
【0202】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施の形態の機能が実現される場合も含まれることは言うまでもない。
【0203】
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した説明ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【符号の説明】
【0204】
100 画像表示装置、101 本体ユニット、102 タッチパネル、110 CPU、111 取得部、112 第1の検出部、113 第2の検出部、114 表示制御部、130 ドライバ、131 走査信号線駆動回路、132 データ信号線駆動回路、133 光センサ駆動回路、134 スイッチ、135 アンプ、140 光センサ内蔵液晶パネル(表示パネル)、140A ソフトウェアキーボード、140Q,140W,140E ソフトウェアボタン、141 画素回路、141b サブピクセル回路、141g サブピクセル回路、141r サブピクセル回路、143 電極対、143a 画素電極、143b 対向電極、144 光センサ回路、145 フォトダイオード、146 コンデンサ、152 液晶層、153b カラーフィルタ、153g カラーフィルタ、153r カラーフィルタ、155 フィルタ、157 データ信号線、161 偏向フィルタ、162 ガラス基板、164 拡散シート、171 RAM、171A 画像データ、173 メモリカードリーダライタ、1731 メモリカード、174 外部通信部、175 マイク、176 スピーカ、177 操作キー、179,179B バックライト、180 画像処理エンジン、181 ドライバ制御部、182 タイマ、183 信号処理部、200 移動ユニット、201 基板、203 弾性部材、204A,204B,204C 物理ボタン、204L レンズ、204x 底面、204y 裏面、204y 底面、204z 上面、205 移動ユニット、205A,205B,205C 物理ボタン、206 移動ユニット、206A,206B,206C 物理ボタン、207 移動ユニット、207A,207B,207C 物理ボタン。

【特許請求の範囲】
【請求項1】
コンテンツを表示するとともに物体の接触を検出するためのタッチパネルと、
プロセッサとを備える画像表示装置であって、
前記プロセッサは、
前記タッチパネルを用いて、前記タッチパネルに第1の所定形状の物体が接触したことを検出し、
前記タッチパネルに、前記物体の接触位置に対応するエリアに前記コンテンツを表示させる、画像表示装置。
【請求項2】
前記第1の所定形状は、枠形状を含む、請求項1に記載の画像表示装置。
【請求項3】
前記第1の所定形状は、面形状を含む、請求項1または2に記載の画像表示装置。
【請求項4】
前記コンテンツはソフトウェアボタンを含み、
前記プロセッサは、前記タッチパネルを用いて、前記ソフトウェアボタンが押されたことを検出する、請求項1から3のいずれかに記載の画像表示装置。
【請求項5】
前記物体は可視光を透過する部材を含む、請求項1から4のいずれかに記載の画像表示装置。
【請求項6】
前記タッチパネルは、赤外線を照射して前記物体からの反射光を検出することによって画像データを取得し、
前記プロセッサは、前記画像データに基づいて前記物体の形状を取得する、請求項1から5のいずれかに記載の画像表示装置。
【請求項7】
前記タッチパネルは、
前記赤外線を発するためのライトと、
前記反射光を検出するための複数のセンサと、
前記複数のセンサのそれぞれに対応する画素毎の前記反射光の輝度を示す前記画像データを生成するための画像処理エンジンとを含み、
前記プロセッサは、前記画像データから特徴点を抽出することによって前記物体の形状を取得する、請求項6に記載の画像表示装置。
【請求項8】
前記タッチパネルは、赤外線を照射して前記物体からの反射光を検出することによって、前記物体が存在する位置を示す複数の位置データを取得し、
前記プロセッサは、前記複数の位置データに基づいて前記物体の形状を取得する、請求項1から5のいずれかに記載の画像表示装置。
【請求項9】
前記コンテンツはソフトウェアボタンを含み、
前記物体は上下動可能な可視光を透過する部材を含む物理ボタンを複数含み、
前記物理ボタンの各々は第2の所定形状を有し、
前記プロセッサは、
前記タッチパネルを用いて、前記第2の所定形状を検出することによって、前記ソフトウェアボタンのそれぞれを前記物理ボタンのそれぞれに対応するエリアに表示し、
前記タッチパネルを用いて、前記ソフトウェアボタンが押されたことを検出する、請求項1から3のいずれかに記載の画像表示装置。
【請求項10】
前記タッチパネルは、
前記赤外線を発するためのライトと、
前記反射光を検出するための複数のセンサと、
前記複数のセンサのそれぞれに対応する画素毎の前記反射光の輝度を示す前記画像データを生成するための画像処理エンジンとを含み、
前記プロセッサは、前記輝度が第1の閾値以上の画素と前記輝度が第2の閾値未満の画素との配置に基づいて前記物理ボタンのいずれかが前記タッチパネルに近づいたことを検出することによって、前記ソフトウェアボタンが押されたと判断する、請求項9に記載の画像表示装置。
【請求項11】
前記タッチパネルは、
前記赤外線を発するためのライトと、
前記反射光を検出するための複数のセンサと、
前記複数のセンサのそれぞれに対応する画素毎の前記反射光の輝度を示す前記画像データを生成するための画像処理エンジンとを含み、
前記プロセッサは、前記画素間の前記輝度の差に基づいて前記物理ボタンのいずれかが前記タッチパネルに近づいたことを検出することによって、前記ソフトウェアボタンが押されたと判断する、請求項9に記載の画像表示装置。
【請求項12】
前記プロセッサは、前記タッチパネルに、前記物体の内側に対応する部分に前記コンテンツを表示させる、請求項1から11のいずれかに記載の画像表示装置。
【請求項13】
前記第1の所定形状は第3の所定形状を含み、
前記プロセッサは、
前記第3の所定形状の位置に基づいて前記物体の配置方向を取得し、
前記物体の配置方向に基づいて前記コンテンツの表示方向を決定する、請求項1から12のいずれかに記載の画像表示装置。
【請求項14】
前記プロセッサは、少なくとも前記ソフトウェアボタンを表示する状態と前記ソフトウェアボタンを表示しない状態とを有し、
前記画像表示装置は、前記状態を切り替えるための命令を受け付けるための入力手段をさらに備え、
前記プロセッサは、前記入力手段が受け付けた前記命令に基づいて、前記状態を切り替える、請求項4または9に記載の画像表示装置。
【請求項15】
前記プロセッサは、
前記ソフトウェアボタンが押されると、前記ソフトウェアボタンの表示態様を変更し、
前記ソフトウェアボタンがリリースされると、前記ソフトウェアボタンの表示態様を元に戻す、請求項14に記載の画像表示装置。
【請求項16】
タッチパネルとプロセッサとを含む画像表示装置における画像表示方法であって、
前記プロセッサが、前記タッチパネルを用いて、前記タッチパネルに第1の所定形状の物体が接触したことを検出するステップと、
前記プロセッサが、前記タッチパネルに、前記物体の接触位置に対応するエリアにコンテンツを表示させるステップとを備える、画像表示方法。
【請求項17】
画像表示装置と移動ユニットとを備える画像表示システムであって、
前記移動ユニットは、第1の所定形状を含み、
前記画像表示装置は、
コンテンツを表示するとともに前記移動ユニットを検出するためのタッチパネルと、
プロセッサとを含み、
前記プロセッサは、
前記タッチパネルを用いて、前記タッチパネルに前記移動ユニットの物体が接触したことを検出し、
前記タッチパネルに、前記移動ユニットの接触位置に対応するエリアに前記コンテンツを表示させる、画像表示システム。
【請求項18】
前記コンテンツはソフトウェアボタンを含み、
前記移動ユニットは上下動可能な可視光を透過する部材を含む物理ボタンを複数含み、
前記物理ボタンの各々は第2の所定形状を有し、
前記プロセッサは、
前記タッチパネルを用いて、前記第2の所定形状を検出することによって、前記ソフトウェアボタンのそれぞれを前記物理ボタンのそれぞれに対応するエリアに表示し、
前記タッチパネルを用いて、前記ソフトウェアボタンが押されたことを検出する、請求項17に記載の画像表示システム。
【請求項19】
前記移動ユニットは、前記物理ボタンを上下動可能に保持するための弾性部材を含み、
前記物理ボタンは、前記弾性部材を前記移動ユニットの外部から見えなくするためのレンズを含む、請求項18に記載の画像表示システム。
【請求項20】
前記移動ユニットは、第3の所定形状をさらに含み、
前記プロセッサは、
前記第3の所定形状の位置に基づいて前記移動ユニットの配置方向を取得し、
前記移動ユニットの配置方向に基づいて前記コンテンツの表示方向を決定する、請求項17から19のいずれかに記載の画像表示システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate


【公開番号】特開2011−118577(P2011−118577A)
【公開日】平成23年6月16日(2011.6.16)
【国際特許分類】
【出願番号】特願2009−274328(P2009−274328)
【出願日】平成21年12月2日(2009.12.2)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】