説明

表示装置及び表示方法

【課題】発光と受光を並行して同時に行う場合における、外光の影響の除去を簡単に行う。
【解決手段】表示装置の表示面での画像の表示と受光とを同時又は交互に行う場合において、表示面を発光させて画像を表示させる処理を行うと共に、表示面に入射した光の受光を行い、その受光として、表示用発光が行われている状態(ステップS11)と、発光していない状態(ステップS12)との2回の受光を行い、その2回の受光量の差の検出(ステップS13)から、表示面に接触又は近接した状態を検出し、2回の受光量の差の値を2値化して、表示面に接触又は近接した位置を特定する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えば、液晶表示ディスプレイ、有機EL(electro-luminescence)ディスプレイなどに適用して好適な表示装置及び表示方法に関し、特に、発光と並行して受光も可能な表示技術に関する。
【背景技術】
【0002】
従来、テレビジョン受像機などの表示装置の表示画面上に、その画面に触れることで操作が可能なタッチパネルを構成させる場合、表示装置とは別体のタッチパネルを表示画面上に重ねる構成としてあった。
【0003】
別体のタッチパネルを使用する構成としては、例えば、画面の上に、透明で薄い入力検出装置を貼り付けたものがある。これは導電性フィルムを用いたタッチセンサで、圧力を検出する感圧式のものや、人体との接触で変化する静電容量式のものなどがある。また、電磁誘導式といわれるもので、特殊なペンを用いて位置を入力するものもある。これらは表示パネルの表面に特殊な位置検出用のパネルをもう一枚重ねた構造となる。
【0004】
これら検出用のパネルを、表示パネルと重ね合わせて使用するものは、タッチの検出原理は簡単であるが、表示パネルの上に何らかの部材を重ねるために、必然的に表示品質の低下が起こる。また検出方法が主に容量変化を検出する方式であるため、2箇所以上の入力を同時に検出することは困難である。
【0005】
表面にパネルを追加しないタッチパネルの方式には、光学式のものがある。パネルの上下左右に発光素子(発光ダイオードなど)と、フォトトランジスタを組み合わせて配置し、指などが遮光することにより、位置を検出するものである。このような光学式では表示品質の低下は起こらないが、表示装置の周囲に設置する装置が大掛かりとなり、携帯機器には不向きである。
【0006】
これらの従来のタッチパネルの不都合を解決するために、近年、別体のタッチパネルを設けることなく、表示装置の画面がそのままタッチパネルとして機能するようにしたものが提案されている。特許文献1には、このような発光と受光を並行して行う表示装置についての開示がある。
【0007】
このような発光と受光を並行して行う表示装置の例としては、例えば表示面に配置された画像表示用の発光素子での表示(発光)を、間欠的に行い、その発光が休止した期間に、発光素子そのものに受光に応じた電荷を蓄積させて、その蓄積した電荷量を読み出すように構成する。このような構成が可能な表示装置としては、例えば有機ELディスプレイがある。また、液晶表示ディスプレイのように、表示画素そのものが受光する(電荷を蓄積する)機能を備えていない場合には、表示画素に隣接して、受光素子を配置して、表示(発光)が休止した期間に、受光素子で受光を行うことが提案されている。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2004−127272号公報(図5)
【発明の概要】
【発明が解決しようとする課題】
【0009】
この種の発光と受光を同時に行う表示装置を構成させた場合、受光時には、外光の影響で受光される信号状態に大きな変動がある問題があった。即ち、例えば表示画面に指などで触れたことを検出することを想定した場合、暗い室内で受光を検出する状態と、明るい日中の屋外で受光を検出する状態とでは、受光条件が大きく異なり、均一の受光条件で表示装置の表面の接触などを検出するのは困難であった。
【0010】
従って、例えば携帯用の電子機器の表示パネルに適用する場合のように、屋外、屋内のいずれでも使用可能な機器に適用する場合には、外光の強度の変化に対応した何らかの対処が必要であるが、既に提案されている発光と受光を同時に行う表示装置で、簡単にそのような対処を行うことは困難であった。
【0011】
本発明はかかる点に鑑みてなされたものであり、発光と受光を並行して同時に行う場合における、外光の影響の除去を簡単に行うことを目的とする。
【課題を解決するための手段】
【0012】
本発明は、表示装置の表示面での画像の表示と受光とを同時又は交互に行う場合において、表示面を発光させて画像を表示させる処理を行うと共に、表示面に入射した光の受光を行い、その受光として、表示用発光が行われている状態と、発光していない状態との2回の受光を行い、その2回の受光量の差から、表示面に接触又は近接した状態を検出し、2回の受光量の差の値を2値化して、表示面に接触又は近接した位置を特定するようにしたものである。
【0013】
このようにしたことで、例えば、表示面を発光させた状態で、表示面に触れた個所の素子が検出する受光量については、例え外光があっても、触れた物体そのものが外光を遮るために、外光の有無に関係なく、ほぼ一定の受光量となる。そして、それ以外の個所の素子が検出する受光量については、その一定の受光量から変化するので、2回の受光量の差が所定レベル以上ある場合に、該当する個所に触れられた状態であることが判定できる。表示面に近接した状態についても、同様に判定できる。
【発明の効果】
【0014】
本発明によると、2回の受光量の差が所定レベル以上ある場合に、該当する個所に触れられた状態(又は近接した状態)であることが判定でき、外光の影響を除去した、使用環境に影響されない良好な接触又は近接の判定ができる。
【図面の簡単な説明】
【0015】
【図1】本発明の第1の実施の形態による表示装置の構成例を示すブロック図である。
【図2】本発明の第1の実施の形態による表示パネルの例を示す構成図である。
【図3】本発明の第1の実施の形態による画素構成例を示す接続図である。
【図4】本発明の第1の実施の形態による画素からの読み出し構成例を示す接続図である。
【図5】本発明の第1の実施の形態によるバックライトのオン・オフのタイミングの例を示したタイミング図である。
【図6】本発明の第1の実施の形態による接触又は近接位置の特定処理例を示したフローチャートである。
【図7】本発明の第1の実施の形態による検出画像の例を示した説明図である。
【図8】本発明の第1の実施の形態による外光大の状態での検出例を示した説明図である。
【図9】本発明の第1の実施の形態による外光小の状態での検出例を示した説明図である。
【図10】本発明の第1の実施の形態による検出例を示した説明図である。
【図11】本発明の第1の実施の形態による複数箇所の接触又は近接位置の判定処理例を示したフローチャートである。
【図12】本発明の第1の実施の形態による検出画像の例を示した説明図である。
【図13】本発明の第1の実施の形態による検出例を示した説明図である。
【図14】本発明の第1の実施の形態による検出例を示した説明図である。
【図15】本発明の第1の実施の形態による検出例を示した説明図である。
【図16】本発明の第1の実施の形態による検出と伝達の例を示した説明図である。
【図17】本発明の第1の実施の形態による検出例を示した説明図である。
【図18】本発明の第2の実施の形態による表示装置の構成例を示すブロック図である。
【図19】本発明の第2の実施の形態による画素構成例を示した接続図である。
【図20】本発明の第2の実施の形態による駆動タイミングの例を示した説明図である。
【発明を実施するための形態】
【0016】
以下、本発明の第1の実施の形態を、図1〜図17を参照して説明する。
【0017】
本例においては、液晶表示ディスプレイとして構成された表示装置に適用したものであり、その液晶表示ディスプレイを構成する各発光素子に隣接して受光素子を配置して、発光(表示)と受光(読み取り)とを並行して行えるように構成したものである。ここでは、発光と受光を並行して行える本例のディスプレイを、画像の入力(受光)と出力(表示)が同時に行えるディスプレイであるので、I/Oディスプレイと称する。また、後述するように本例のI/Oディスプレイは、画面を触れた状態である接触だけでなく、画面に近接した物体についても検出が可能であり、以下の説明で接触の検出と述べた場合には、特に説明がある場合を除いて、近接の検出をも含むようにしてある。
【0018】
図1は、本例の表示装置の構成例を示すブロック図である。アプリケーションプログラム実行部11は、そのアプリケーション実行部11が実行中のアプリケーションに応じた画像を表示させる処理を行うと共に、ディスプレイパネルの接触を検出して、接触した表示箇所に応じた処理などを行うようにしてある。アプリケーションプログラム実行部11からの画像の表示の指示は、表示ドライブ回路12に送られ、I/Oディスプレイパネル20で画像を表示させるための駆動が行われる。
【0019】
I/Oディスプレイパネル20は、液晶表示ディスプレイとして構成され、ガラス基板などの透明な基板上に透明電極などが配置されて、表示エリア(センサエリア)21に、複数の画素(表示素子)がマトリクス状に形成されたディスプレイであり、背面にバックライト15が配置してある。本例のバックライト15は、例えば複数の発光ダイオードが配列されたものを使用してあり、比較的高速でバックライトの点灯のオン・オフ制御ができるようにしてある。バックライト15での点灯のオン・オフ制御は、表示ドライブ回路12での表示駆動に連動して行われる。
【0020】
I/Oディスプレイパネル20は、表示素子とは別に複数の受光素子が配置してある。即ち、例えば、表示エリア(センサエリア)21の各表示画素に隣接して、受光素子がマトリクス状に配置してあり、この受光素子への受光光量に対応して蓄積した信号電荷を、受光ドライブ回路13からの駆動で読み出す構成としてある。受光ドライブ回路13は、内部にフレームメモリ13aを備えて、後述する受光信号の読み出し時に必要な判定処理に使用するようにしてある。
【0021】
受光ドライブ回路13で読み出されて判定された受光信号(後述する差分画像信号)は、画像処理部14に送られて、接触状態などが画像として判定され、必要により接触中心の座標位置などが判定され、判定結果(座標データ、認識結果など)がアプリケーションプログラム実行部11に送られる。アプリケーション実行部11では、実行中のアプリケーションに応じた処理を行う。例えば、表示画像中に、接触を検出した箇所や範囲などを表示させる処理を行う。
【0022】
次に、図2を参照して、本例のI/Oディスプレイパネル20のドライバの配置例を説明する。中央に透明な表示エリア(センサエリア)21が配置されたI/Oディスプレイパネル20は、図2に示すように、表示エリア21の4つの端面に、表示用水平ドライバ22、表示用垂直ドライバ23、センサ用水平ドライバ24、センサ用垂直ドライバ25が配置してある。表示用水平ドライバ22と表示用垂直ドライバ23には、表示用のデータとして、表示信号と制御クロックとが供給されて、表示エリア21にマトリクス状に配置された表示画素の駆動が行われる。センサ用水平ドライバ24とセンサ用垂直ドライバ25には、読み出し用のクロックが供給されて、そのクロックに同期して読み出された受光信号を、受光信号線を介して受光ドライブ回路13に供給する。
【0023】
図3は、表示エリア21に配置された画素の1つの構成を示した図である。1つの画素3が備える表示のための構成としては、ここでは水平方向にゲート電極31hが配置してあり、垂直方向にドレイン電極31iが配置してあり、両電極の交点にスイッチチング素子31aが配置してあり、そのスイッチチング素子31aと画素電極31bが接続してある。スイッチチング素子31aは、ゲート電極31hを介して得られる信号によりオン・オフが制御され、ドレイン電極31iを介して供給される信号により、画素電極31bでの表示状態が設定される。
【0024】
そして、画素電極31bに隣接した位置に、受光センサ(受光素子)31cが配置してあり、電源電圧VDDが供給される。この受光センサ(受光素子)31cには、リセットスイッチ31dとコンデンサ31eが接続してあり、リセットスイッチ31dでリセットされながら、コンデンサ31eで受光量に対応した電荷を蓄積するようにしてある。その蓄積された電荷が、読み出しスイッチ31gがオンとなるタイミングで、バッファアンプ31fを介して、信号出力用電極31jに供給され、外部に出力される。リセットスイッチ31dのオン・オフは、リセット電極31kに得られる信号により制御され、読み出しスイッチ31gのオン・オフは、読出し制御電極31kに得られる信号により制御される。
【0025】
図4は、受光センサから読み出した信号が、センサ用ドライバ25に供給されるまでの構成を示した図である。図4では、隣接して配置された赤(R)、緑(G)、青(B)の3つの画素31,32,33を示してある。それぞれの画素の受光センサ31c,32c,33cに接続されたコンデンサで蓄積した電荷は、それぞれのバッファアンプ31f,32f,33fで増幅されて、読み出しスイッチ31g,32g,33gがオンになるタイミングで、信号出力用電極を介してドライバ25に供給される。ここで、各信号出力用電極には、定電流源41a,41b,41cが接続してあり、ドライバ25で感度良く受光量に対応した信号を検出できる構成としてある。
【0026】
図5は、本例のI/Oディスプレイパネル20での表示と受光の状態を示した図である。図5に示すように、例えば1フレームが1/60秒のフレーム周期で画像(動画像又は静止画像)の表示を行うとすると、各フレーム期間を1/2に分割して、その前半の期間(1/120秒間)にバックライト15を点灯させて、各表示画素に表示信号を書き込ませて、そのフレーム期間の画像を表示させる。そして、各フレーム期間の後半の期間には、バックライト15を消灯させて、表示を行わないようにしてある。
【0027】
受光素子で受光した信号の読出しについては、各フレーム期間毎に、バックライトが点灯した前半の期間に1回読み出すとともに、バックライトが消灯した後半の期間にも1回読み出す処理を行う。但し、画像信号の表示についてはフレーム周期で各フレームに行う必要があるが、受光信号の読出しについては、必ずしも1フレーム周期で行う必要はなく、ある程度間引いた周期で行うようにしてもよい。
【0028】
次に、このようにして受光信号を読み出してから行われる処理を、図6のフローチャートを参照して説明する。図5を参照して既に説明したように、本例の場合には、1フレーム期間に2回の受光信号の読み出しを行うようにしてある。即ち、自発光(バックライト光)がオンの状態で読み出す(ステップS11)とともに、自発光(バックライト光)がオフの状態でも読み出す(ステップS12)。それぞれ読み出された信号は、受光ドライブ回路13内のフレームメモリ13a(図1)に一時蓄積されて、その2つの受光信号の差分を画素単位で検出する処理が、受光ドライブ回路13内で行われる(ステップS13)。
【0029】
検出された差分の信号を、1フレーム単位の差分画像として、画像処理部14に送る。画像処理部14では、供給された差分画像を、画素単位で、所定レベル以上と未満とに2値化する処理を行う(ステップS14)。さらに、2値化されて所定レベル以上と検出された領域の重心を判定する演算処理を行い(ステップS15)、その判定された重心の座標位置(表示エリア21の座標位置)をアプリケーション実行部11に送る。アプリケーション実行部11では、供給された重心の座標位置を、接触又は近接した物体の中心位置として特定する(ステップS16)。
【0030】
図7は、このようにしてI/Oディスプレイパネル20の表示面に接触又は近接した物体(者)が検出される状態の例を示したものである。図7の例の画像は、I/Oディスプレイパネル20の表示面に指で触れた場合の画像を示したものである。図7の上段の左右に示すように、自発光がオンの状態で読み出された受光量による画像(右側)と、自発光がオフの状態で読み出された受光量による画像(左側)とが得られたとする。このとき、図7の中段に示すように、両受光画像の差分画像が得られる。その差分画像は、後述するように、外光の明るさに影響されないで、接触又は近接状態を検出できる画像である。そして、その差分画像を2値化することで、図7の下段に示すように、接触した範囲が検出された2値化画像が得られる。さらに、その2値化画像の接触した範囲の重心を検出することで、指で触れた位置を特定することができる。
【0031】
ここで、本例の如き接触又は近接の検出処理で、I/Oディスプレイパネル20の表示面に接触又は近接した物体が、外光の影響を受けずに良好に検出できる原理を、図8及び図9を参照して説明する。図8は、ディスプレイパネルに入射する外光が強い場合(バックライトの光よりも強い場合)の例を示し、図8(a)はその状態でのパネルを指で触れた状態を示し、図8(b)は、受光出力電圧の1ラインでの変化を示したものである。また、図9は、ディスプレイパネルに入射する外光が殆どない場合の例を示し、図9(a)はその状態でのパネルを指で触れた状態を示し、図9(b)は、受光出力電圧の1ラインでの変化を示したものである。
【0032】
図8に示した入射する外光が強い場合には、バックライト15を点灯させた状態での受光電圧Von1は、指で触れた個所以外では、外光の明るさに対応した電圧値Vaとなり、指で触れた個所では、そのときに触れた物体(指)の表面で、バックライトからの光を反射させる反射率に対応した電圧値Vbに低下する。これに対して、バックライト15を消灯させた状態での受光電圧Voff1は、指で触れた個所以外では、外光の明るさに対応した電圧値Vaとなる点は同じであるが、指で触れた個所では、外光が遮断された状態であり、非常にレベルの低い電圧値Vcとなる。
【0033】
次に、図9に示した入射する外光が殆どない状態では、バックライト15を点灯させた状態での受光電圧Von2は、指で触れた個所以外では、外光がないために非常にレベルの低い電圧値Vcとなり、指で触れた個所では、そのときに触れた物体(指)の表面で、バックライトからの光を反射させる反射率に対応した電圧値Vbに上昇する。これに対して、バックライト15を消灯させた状態での受光電圧Voff2は、指で触れた個所とそれ以外の個所のいずれでも、非常にレベルの低い電圧値Vcのままで変化がない。
【0034】
ここで、図8と図9を比較すると判るように、パネルの表示エリア21に接触していない個所では、外光がある場合とない場合とで、受光電圧が大きく異なっている。ところが、指が接触している個所では、外光の有無に関係なく、バックライトの点灯時の電圧Vbと、バックライトの消灯時の電圧Vcとが、ほぼ同じような状態となることが判る。
【0035】
従って、バックライトの点灯時の電圧と消灯時の電圧との差を検出して、電圧Vbと電圧Vcとの差のように、一定以上の差がある個所が、接触した個所又は近接した個所であると判断できる。上述した図6のフローチャートに示した検出及び判別の処理は、この原理を利用した処理であり、パネルに入射する外光が強い場合でも、外光が殆どない場合でも、均一な条件で良好に接触を検出できる。接触に近い状態のパネルへの近接についても、同様に検出できる。
【0036】
図10は、受光電圧の検出に必要なダイナミックレンジについて説明したものである。図10(a)は、パネルの表示エリア21の接触状態を示したもので、指fでパネル表面を触れているとともに、反射率がほぼ100%の円形の物体mを、表示エリア21に載せた状態としてある。この状態で、指fと物体mの双方を走査するラインでの受光電圧は、図10(b)に示す状態となる。図10(b)において、電圧Von3は、バックライトを点灯させた状態での受光電圧であり、電圧Voff3は、バックライトを消灯させた状態での受光電圧である。
【0037】
この図10(b)に示すように、反射率がほぼ100%の物体mがある個所で、バックライト点灯時に検出される電圧Vdよりも高い電圧は観測不要なレベルVyであり、そのレベル以下の範囲Vxが、検出に必要なダイナミックレンジである。観測不要なレベルVyの信号については、オーバーフローさせてしまって、同一の強度とみなすようにすればよい。
【0038】
以上説明したように、本実施の形態のI/Oディスプレイパネルによると、そのディスプレイに接触した状態又は近接した状態を、外光の有無にかかわらず、均一な状態で良好に検出することができる。また、本例のように2回の受光画像の差分を検出する処理を行うことで、画素毎の受光特性の不均一による固定ノイズについても同時に除去される。固定ノイズの除去性能としては、実験では約25dBにもなることが確かめられた。
【0039】
なお、本例での接触を検出する原理では、接触した位置での、表示パネルからの自発光の反射光を検出するものであるため、接触を検出する位置については、画面上である程度の明るさで画像を表示させる必要がある。例えば、指で押すべきボタンを、明るく表示させるような対処が必要である。アプリケーションプログラム実行部11で実行させる表示と接触検出を行うアプリケーションプログラム側で、そのような表示を行う対処を行えばよい。
【0040】
また、接触又は近接を検出する範囲を、表示画面内の特定範囲に限定して、その範囲を明るく表示させるようにしてもよい。或いは、表示される画像の明るさと無関係に、良好に接触などを検出するために、バックライトから発光させる光として、画像照明用の可視光以外に、赤外線光を発光させる構成として、その赤外線光を、常時一定の明るさでパネル20を透過させ、その赤外線光の反射光を検出するようにしてもよい。
【0041】
また、ここまでの説明では、I/Oディスプレイパネルに触れた(近接した)1箇所だけを検出する処理について説明したが、本例の検出処理を適用することで、パネル上の複数箇所を同時に接触(近接)した場合における、その複数の接触(近接)個所の同時検出についても行える。複数の接触個所の同時検出については、パネルから得た受光信号の判別処理で対処できる。
【0042】
図11のフローチャートは、この場合の処理例を示したものである。自発光(バックライト光)がオンの状態で読み出す(ステップS11)とともに、自発光(バックライト光)がオフの状態でも読み出す(ステップS12)。そして、その2つの受光信号の差分を画素単位で検出する処理が、受光ドライブ回路13内で行われ(ステップS13)、差分画像を、画素単位で所定レベル以上と未満とに2値化する処理を行う(ステップS14)。
【0043】
ここまでは図6に示した例と同じであるが、本例の場合には、ここで接触(近接)個所が複数箇所であるか否か判断される(ステップS21)。ここでの判断としては、例えば、ある程度以上の面積の接触検出領域が、それぞれ独立して複数ある場合に、複数箇所の接触であると判断する。
【0044】
この判断で、複数あると判断した場合には、それぞれの個所の重心位置を個別に計算し(ステップS22)、それぞれの判定された重心の座標位置(表示エリア21の座標位置)をアプリケーション実行部11に送る。アプリケーション実行部11では、供給されたそれぞれの重心の座標位置を、接触又は近接した物体の中心位置として特定する(ステップS23)。
【0045】
また、ステップS21で接触個所が1箇所であると判断した場合には、その1箇所の領域の重心を判定する演算処理を行い(ステップS24)、その判定された重心の座標位置(表示エリア21の座標位置)をアプリケーション実行部11に送る。アプリケーション実行部11では、供給された重心の座標位置を、接触又は近接した物体の中心位置として特定する(ステップS25)。
【0046】
図12は、このようにして複数箇所の接触を同時検出する場合の、実際の画像の例である。図12の例の画像は、I/Oディスプレイパネル20の表示面に、3本の指で触れた場合の画像を示したものである。図12(a)は、自発光がオンの状態で読み出された受光量による画像であり、図12(b)は、自発光がオフの状態で読み出された受光量による画像である。この2つの画像の差分による画像が、図12(c)に示す画像である。さらに、それを2値化したものが、図12(d)に示した画像である。この図12(d)に示すように2値化することで、3つの指先が接触した個所が、それぞれ独立した領域となり、それぞれの重心を検出することで、それぞれの指で触れたボタン表示に対応した操作などが可能になる。このような複数箇所の同時接触検出は、従来のタッチパネルでは原理的に不可能なものであった。
【0047】
ここまで説明した本実施の形態での接触又は近接の検出処理としては、接触範囲の重心位置などの中心位置を特定する処理を行うようにしたが、そのような接触位置の座標のデータとして処理するのではなく、接触範囲を示す画像データとして捉えて、様々な用途に使用することもできる。アプリケーション実行部11に実装されるアプリケーションプログラムで該当する処理を行うようにすればよい。
【0048】
図13の例は、表示パネルの表面を手100で触れて、その触れた個所の軌跡を、描画ライン101として画面に表示させるようにした例である。
【0049】
図14の例は、手の形を用いたジェスチャ認識の例である。この例では、表示パネルに触れた(又は近接した)手110の形状を認識して、その認識した手の形を画像として表示させ、その表示オブジェクトの移動111で、何らかの処理を行うようにしたものである。
【0050】
図15の例は、閉じた状態の手121から、開いた状態の手122に変化させて、それぞれの状態の手121,122の接触又は近接を表示パネルで画像認識させて、その画像認識に基づいた処理を実行させるようにしたものである。
【0051】
これらの認識に基づいて処理を行うことで、例えば、ズームインなどの指示を行うことができる。このような指示ができることで、例えば本例のI/Oディスプレイパネル20をパーソナルコンピュータ装置に接続して、そのコンピュータ装置上でコマンドを切り替えている操作などを、これらの画像認識で、より自然な形で入力することが可能になる。
【0052】
また、例えば図16に示すように、本例のI/Oディスプレイパネルを複数台用意して、その複数台のI/Oディスプレイパネルを、何らかの伝送手段で接続することで、接触又は近接を検出した画像を、相手のI/Oディスプレイパネルに伝送して表示させて、両ディスプレイパネルを操作するユーザ間でコミュニケーションをとるようにしても良い。即ち、図16に示すように、2つのI/Oディスプレイパネル131,141を用意して、パネル141で画像認識した手形を相手に送信して、他方のパネル131に手形132を表示させたり、或いは、パネル131を手133で触れて表示された軌跡134を、相手のパネル141に送って表示させる等の処理が可能になる。このようにして、描画している状態が動画で伝達され、手書きの文字や図形などを相手に送ることで、新しいコミュニケーションツールの可能性がある。このような例としては、例えば、本例のI/Oディスプレイパネルを携帯電話端末の表示パネルに適用すること等が想定される。
【0053】
また、本例のような接触の検出が可能なことで、例えば図17に示すように、筆151を使用してI/Oディスプレイパネル150の表面で文字を書くように触れさせて、その筆151が触れた個所をパネル150に画像152として表示させることで、毛筆による手書きの入力が可能になる。この場合には、毛筆の細かいタッチまで認識して実現することが可能である。従来の手書き認識の場合には、例えば一部のデジタイザにおいて、特殊なペンの傾きを電界検出で実現していたが、本例では、本物の毛筆の接触面そのものを検知することにより、より現実的な感覚で情報入力を行える。
【0054】
次に、本発明の第2の実施の形態を、図18〜図20を参照して説明する。上述した第1の実施の形態では、液晶表示ディスプレイに適用した例としたが、本実施の形態では、有機ELディスプレイに適用した例としたものである。液晶表示ディスプレイの場合には、表示画素とは別に、発光手段としてバックライトを必要としたが、有機ELディスプレイの場合には、画素を構成する素子が発光するために、第1の実施の形態の場合に比べて、処理構成を一部変更する必要があり、本実施の形態ではその点について重点的に説明を行い、検出された受光信号の処理や、使用されるアプリケーション等については、第1の実施の形態と同じであり、説明を省略する。
【0055】
図18は、本実施の形態の表示装置の構成例を示すブロック図である。アプリケーションプログラム実行部51は、そのアプリケーション実行部51が実行中のアプリケーションに応じた画像を表示させる処理を行うと共に、ディスプレイパネルの接触を検出して、接触した表示箇所に応じた処理などを行うようにしてある。アプリケーションプログラム実行部51からの画像の表示の指示は、表示ドライブ回路52に送られ、I/Oディスプレイパネル60で画像を表示させるための駆動が行われる。
【0056】
I/Oディスプレイパネル60は、有機ELディスプレイとして構成され、表示エリア(センサエリア)に、複数の画素(表示素子)がマトリクス状に形成されたディスプレイであり、表示素子が受光素子としても機能するようにしてあり、発光期間と受光期間を時分割で設定するようにしてある。そして、受光期間に、受光光量に対応して蓄積した信号電荷を、受光ドライブ回路53からの駆動で読み出す構成としてある。受光ドライブ回路53は、内部にフレームメモリ53aを備えて、受光信号の読み出し時に必要な判定処理(差分の検出処理)に使用するようにしてある。
【0057】
受光ドライブ回路53で読み出されて判定された受光信号(差分画像信号)は、画像処理部54に送られて、接触状態などが画像として判定され、必要により接触中心の座標位置などが判定され、判定結果(座標データ、認識結果など)がアプリケーションプログラム実行部51に送られる。アプリケーション実行部51では、実行中のアプリケーションに応じた処理を行う。例えば、表示画像中に、接触を検出した箇所や範囲などを表示させる処理を行う。
【0058】
図19は、1画素の構成を示した図である。ここでは、有機ELディスプレイの発光素子61を発光ダイオードとして示してあり、その発光ダイオード61には、寄生容量61aが生じている。画像表示のために発光素子61に、表示データ信号線61から、表示データをスイッチSW1を介して発光素子61に供給するようにしてある。従って、表示期間(発光期間)は、スイッチSW1をオンさせている期間で設定される。
【0059】
そして、発光素子61で発光が停止している期間には、表示パネルの表面に入射した光量に応じて、発光素子61に生じた寄生容量61aに、電荷が蓄積する。その蓄積した電荷は、スイッチSW2のオンで、受信データ信号線64に読み出される。なお、受光期間の開始時には、リセット用のスイッチSW3を一瞬オンさせて、寄生容量61aに発光時に蓄積した電荷を放出させる必要がある。スイッチSW2のオンは、読み出しライン選択線63に得られる信号で制御される。
【0060】
図20は、このような有機ELディスプレイタイプのI/Oディスプレイパネル60で、画像などを表示させながら、そのパネル60に接触又は近接したことを検出する処理を行う場合の例を示したものである。
【0061】
図20(a)は、I/Oディスプレイパネル60の状態を示したもので、ここではパネル60の表面を指fで触れた状態としてある。そして、図20(a)に示した状態では、発光領域60aが1画面中の特定の複数水平ラインとしてある。発光領域60aでは発光していないが、発光領域60aを1フィールド期間内で変化させることで、この画面を見ている者にとっては、残像効果で1画面全体で表示されて見える。図20(a)の状態では、発光領域60aの水平ラインが上から下に変化している状態を示している。
【0062】
この状態で、受光信号の読み出しについては、発光領域60aに隣接した上側の水平ラインの読み出し60bと、その読み出し60bからある程度間隔をあけた水平ラインの読み出し60cの2回の読み出しを、1フィールド期間に行うようにする。読み出し60b,60cを行うラインについても、発光領域60aの変化に連動して順に変化させる。
【0063】
このようにして読み出しを行うことで、発光領域60aに隣接した水平ラインの読み出し60bについては、発光領域60aからの光の反射を検出できる読み出しとなり、図20(b)に示すように、自発光オン時の読み取りデータとなる。そして、発光領域60aから離れた水平ラインの読み出し60cについては、発光の影響のない読み出しであり、図20(c)に示すように、自発光オフ時の読み取りデータとなる。従って、両読み出しデータの差分を、図20(d)に示すように検出することで、自発光オン時の受光データと、自発光オフ時の受光データの差分が検出され、その差分の画像データを2値化するなどして処理することで、上述した第1の実施の形態と同様に、外光の影響の除去や、画素を構成する素子の特性の不均一による感度の劣化の除去が行え、良好に接触又は近接を検出できるようになる。
【0064】
このように、有機ELディスプレイのように、画素を構成する表示素子が発光する素子である場合にも、本発明を適用することが可能であり、液晶ディスプレイのように、表示パネルとは別の発光手段を必要とする場合と、表示パネルそのものが発光する場合のいずれでも、本発明の適用が可能である。上述した各実施の形態では、それぞれの表示パネルとして、液晶ディスプレイと有機ELディスプレイを例として説明したが、受光素子を組み込むことが可能なディスプレイであれば、その他の構成のディスプレイにも本発明は適用可能である。
【符号の説明】
【0065】
11…アプリケーションプログラム実行部、12…表示ドライブ回路、13…受光ドライブ回路、13a…フレームメモリ、14…画像処理部、15…バックライト、20…I/Oディスプレイパネル、21…表示エリア(センサエリア)、22…表示用水平ドライバ、23…表示用垂直ドライバ、24…センサ用水平ドライバ、25…センサ用垂直ドライバ、31,32,33…画素、31a…スイッチチング素子、31b…画素電極、31c…センサ素子、31d…リセットスイッチ、31e…コンデンサ、31f…バッファアンプ、31g…読み出しスイッチ、41a,41b,41c…定電流源、51…アプリケーションプログラム実行部、52…表示ドライブ回路、53…受光ドライブ回路、53a…フレームメモリ、54…画像処理部、60…I/Oディスプレイパネル、61…発光素子、61a…寄生容量、62…表示データ信号線、63…読み出しライン選択線、64…受信データ信号線、131,141,150…I/Oディスプレイパネル、SW1,SW2,SW3…スイッチ

【特許請求の範囲】
【請求項1】
発光させて画像を表示させる複数の表示素子と、
前記表示素子による表示面に入射した光の受光を行う複数の受光素子と、
前記表示素子による発光状態での表示が行われている状態と、発光していない状態との2回の前記受光素子での受光を実行させる制御部と、
前記受光素子での前記2回の受光量の差から、表示面に接触又は近接した状態を検出する検出部と、
前記検出部からの前記2回の受光量の差の値を2値化して、表示面に接触又は近接した位置を特定する画像処理部と、を備えた
表示装置。
【請求項2】
請求項1に記載の表示装置において、
前記画像処理部は、表示面に接触又は近接した所定面積以上の領域が存在する場合には、表示面に接触又は近接していると判断する
表示装置。
【請求項3】
請求項1〜2のいずれか1項に記載の表示装置において、
前記2回の受光量の差に基づいて表示面に接触又は近接した範囲を検出し、その検出された範囲の重心位置を、接触又は近接した位置の中心として判定す
表示装置。
【請求項4】
請求項1〜3のいずれか1項に記載の表示装置において、
前記表示素子とは別に、前記表示面の背面に配置されたバックライトを備え
前記バックライトは、可視光と共に赤外光を発光し、
前記検出部は、前記赤外光により表示面に接触又は近接した状態を検出する
表示装置。
【請求項5】
請求項1〜3のいずれか1項に記載の表示装置において、
前記表示素子とは別に、前記表示面を背面から照明するバックライトを備え、
前記2回の受光は、前記バックライトによる照明が行われた状態での受光と、前記バックライトによる照明が行われない状態での受光であ
表示装置。
【請求項6】
請求項1〜3のいずれか1項に記載の表示装置において、
発光する素子からなる複数の表示素子がマトリクス状に配置され、
前記表示素子による発光状態での表示が行われている状態での受光は、発光する表示素子が水平ライン状に配列する発光領域に隣接する場合の受光であり、前記発光していない状態での受光は、前記発光領域から離れた発光の影響のない場合の受光である
表示装置。
【請求項7】
請求項1〜3のいずれか1項に記載の表示装置において、
前記表示素子と前記受光素子とは同一の素子であり、
前記表示素子による発光表示が行われない期間に、前記表示素子を受光素子として使用するものであり、
前記表示素子による発光状態での表示が行われている状態での受光は、前記表示素子による発光が停止した直後の受光であり、前記発光していない状態での受光は、発光が停止してから所定時間が経過してからの受光であ
表示装置。
【請求項8】
表示面での画像の表示と受光とを同時又は交互に行う表示方法において、
前記表示面を発光させて画像を表示させ、
前記表示面に入射した光の受光を行い、その受光として、表示用発光が行われている状態と、発光していない状態との2回の受光を行い、
前記2回の受光量の差から、表示面に接触又は近接した状態を検出し、
前記2回の受光量の差の値を2値化して、表示面に接触又は近接した位置を特定する
表示方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate


【公開番号】特開2010−191438(P2010−191438A)
【公開日】平成22年9月2日(2010.9.2)
【国際特許分類】
【出願番号】特願2010−51030(P2010−51030)
【出願日】平成22年3月8日(2010.3.8)
【分割の表示】特願2005−92154(P2005−92154)の分割
【原出願日】平成17年3月28日(2005.3.28)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】