説明

インプットディスプレイを用いた対話装置

【課題】例えばサイコロの目を読み取れるようにして、ゲームを実現可能とし、ゲーム内容、ゲームの種類の拡張が得られるようにする。
【解決手段】 表示パネルの内部に光検知素子と表示素子とがそれぞれ2次元状に配列され、光入力を検出する光検出機能と表示機能とを備えた表示装置(100)と、前記表示機能を制御して画像の表示を行う画像提供装置(200)と、前記表示パネル上で移動体が静止したときに、前記移動体の対向面の像を認識する画像認識装置(300)と、前記画像認識装置から得られた認識像の処理内容に応答して、現在表示装置で表示している画像の内容を制御する応答装置(400)を具備する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、インプットディスプレイを用いた対話装置に関するものであり、例えばゲーム装置として用いられて有効に機能する。
【背景技術】
【0002】
液晶表示装置は、信号線、走査線及び画素TFTが列設されたアレイ基板と、信号線及び走査線を駆動する駆動回路とを備えている。最近の集積回路技術の進歩発展により、駆動回路の一部をアレイ基板上に形成するプロセス技術が実用化されている。これにより、液晶表示装置全体を軽薄短小化することができ、携帯電話やノート型コンピュータなどの各種の携帯機器の表示装置として幅広く利用されている。
【0003】
ところで、アレイ基板上に、画像取込みを行う密着型エリアセンサ(光電変換素子)を配置した画像取込み機能を備えた表示装置が提案されている(例えば、特許文献1,2を参照)。
【0004】
この種の画像取込み機能を備えた従来の表示装置は、光電変換素子に接続されたキャパシタの電荷量を光電変換素子での受光量に応じて変化させるようにし、キャパシタの両端電圧を検出することで、画像取込みを行っている。
【0005】
最近では、画素TFTや駆動回路を同一のガラス基板上に多結晶シリコン(ポリシリコン)プロセスで形成する技術が進んでおり、上述した光電変換素子もポリシリコンプロセスで形成することにより、各画素内に容易に形成可能である。
【0006】
一方では、ゲーム機器に利用可能であり、サイコロの目を検出する装置がある(例えば特許文献3参照)。
【特許文献1】特開2001-292276号公報
【特許文献2】特開2001-339640号公報
【特許文献3】特開2001-241906号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
上記したサイコロの目を検出する装置は、サイコロ自体を大幅に改良しなければならないという問題がある。
【0008】
そこで、この発明は、上記した画像取込み機能を備えた表示装置により、例えばサイコロの目を読み取れるようにして、ゲームを実現可能とし、ゲーム内容、ゲームの種類の拡張が得られるようにしたインプットディスプレイを用いた対話装置を提供することを目的する。
【課題を解決するための手段】
【0009】
この発明の一面では、上記の目的を達成するために、表示パネルの内部に光検知素子と表示素子とがそれぞれ2次元状に配列され、光入力を検出する光検出機能と表示機能とを備えた表示装置と、前記表示機能を制御して画像の表示を行う画像提供装置と、前記光検出機能を制御し、前記表示パネル上で移動体が静止したときに、前記移動体の対向面の像を認識する画像認識装置と、前記画像提供装置を制御することにより、前記画像認識装置から得られた認識像の処理内容に応答して、現在表示装置で表示している画像の内容を制御する応答装置を備える。
【発明の効果】
【0010】
上記の手段によると、応答装置に対して、例えばゲームの進行を行うアプリケーションを設備することによって、前記移動体の対向面の像を画像読み取り装置で読み取り、画像読み取り装置から得られた像の内容に対応して、前記画像提供装置を制御して応答映像又は応答音声などを出力し、段階的にイベントの進行を実現することができる。
【発明を実施するための最良の形態】
【0011】
以下、図面を参照してこの発明の実施の形態を説明する。まず、図1には、本発明に係る装置の全体的ブロック構成を示している。100は、表示パネルの内部に光検知素子と表示素子とがそれぞれ2次元状に配列され、光入力を検出する光検出機能と表示機能とを備えた表示装置である。画像提供装置200は、表示装置100の表示機能を制御して画像の表示を行うことができる。画像認識装置300は、表示装置100の光検出機能を制御し、表示パネル上で移動体11が静止したときに、移動体11の対向面の像を認識することができる。移動体11としては、例えばサイコロがある。
【0012】
応答処理装置400は、画像認識装置300から得られた認識像の処理内容に応答して、画像提供装置200を制御し、現在表示装置100で表示している画像の内容を制御することができる。
【0013】
このインプットディスプレイを用いた対話装置は、例えばゲーム映像(画像提供)、ゲーム処理機能(画像認識、応答処理)をソフトウエアにより設定することにより、各種のゲーム内容を楽しむことが可能である。
【0014】
図2には、例えば表示装置100に、スタートG1からゴールG2までの道路G3を表示する。道路G3には、道路が複数のエリアに区分され、各エリアに昇順に番号が付されている。ゲームを行っているユーザAが、サイコロ11を表示画面面上で転がすと、サイコロ11の目が読み取られ、ユーザAの所有するこまA11(映像)が、サイコロの目だけ道路G3上を進む。次にユーザBが、サイコロ11を表示画面面上で転がすと、サイコロ11の目が読み取られ、ユーザBの所有するこまB11(映像)が、サイコロの目だけ道路G3上を進むのである。
【0015】
このゲームは、こまA11,又はB11を先にゴールG2まで移動させたユーザが勝者となるゲームである。
【0016】
サイコロ11を転がす代わりに、例えばルーレット映像G11を表示してもよい。ここでは、ユーザが例えばルーレット映像のリング部分をなぞると、ルーレット映像内のボール像がリング部分像を回転移動し、やがて静止する。このときにボール像の位置の数字がこまA11,あるいはこまB11の移動ステップ数を決めるのである。
【0017】
図3には、上述した応答処理装置400、画像認識装置300、画像提供装置200の内部ブロックの構成を示している。即ち、画像提供装置200内には、メモリ部があり、ここには、ゲームの内容に応じて、背景静止映像データ211、移動映像データ(1)−(n)、進行案内映像データ(1)−(m)が、格納されている。またショー映像データ212も格納されている。これらの映像データは、ゲームの進行に応じて、セレクタ220、合成部221を介して表示装置100に供給される。
【0018】
背景静止映像データは、ゲーム内容に応じて設定された背景映像である。例えば、移動映像データは、さきのサイコロ映像を示すこまA11,B11である。進行案内映像データは、ゲームのステップごとに、使用者に対してメッセージを与えるための映像データであり、例えば「サイコロを振ってください」、「ルーレットを操作してください」などの案内メッセージである。これは、映像に限らず、音声であってもよい。ゲームの進行状況に応じて、セレクタ200が、ゲームシーケンサ411からの制御信号により、適切な映像データを選択して出力する。ショー映像データは、例えば、ゲームがスタートしたとき、或いはゲームが終了したときのイベントとしてゲームの案内などを行う映像データである。
【0019】
画像認識装置300内の検出及び読み取り処理部311で読み取られたサイコロの目の画像データは、応答処理装置400内の照合処理部412に送られる。照合処理部412では、読み取ったサイコロの目の画像データと、照合用データメモリ413内の画像データとを比較し、一致する記憶画像データを決定する。この決定を行った後に、記憶画像データに対応している移動画像データの表示位置を制御する。表示位置は、制御部213 に予め格納されているアドレスデータにより決まる。
【0020】
次に、画像認識装置300、表示装置100及び画像提供装置200との関連をさらに詳細に説明する。
【0021】
図4には、表示装置100の機能を中心にしてブロック化した一例を示している。130は画素及びセンサアレイ部であり、マトリックス状に配置された表示素子群と、マトリックス状に配置された光センサ群とを有する。この画素及びセンサアレイ部130の画素回路及びセンサ回路については後述する。
【0022】
基板の表示領域130の側部(図面左側)には、表示用ゲート線駆動回路112、読み出し用ゲート線駆動回路122が形成されている。表示用ゲート線駆動回路112は、マトリックス状に配列された表示素子群を行毎に駆動する回路である。また読み出し用ゲート線駆動回路122は、マトリックス状に配列された光センサ群を行毎に駆動する回路である。基板の表示領域130の下側部には、信号線駆動回路及びプリチャージ回路114が形成されている。この信号線駆動回路及びプリチャージ回路114は、マトリックス状に配列された表示素子群の列方向へ、各表示素子に画像データを書き込む回路である。また信号線駆動回路及びプリチャージ回路114は、マトリックス状に配列された光センサ群の列方向へ、各センサに所定電位をプリチャージする回路である。
【0023】
表示領域130の上部には、A/D変換回路123、データ出力回路124が形成されている。A/D変換回路123は、光センサ群の信号線から読み出された信号をアナログデジタル変換し、データ出力回路124に転送する回路である。データ出力回路124は、取り込んだデータをシリアルデータに変換したうえで、撮像データ125として出力する。撮像データ125は、先の画像認識装置300に取り込まれる。
【0024】
ここで、読出し用ゲート線駆動回路122には、撮像用制御信号121が、先の検出及び読み取り処理部311から与えられている。また表示用ゲート線駆動回路121には、画像提供装置200から表示用制御信号111が与えられている。さらに、信号線駆動回路及びプリチャージ回路114には、R,G,Bの画像データが画像提供装置200から与えられている。R,G,Bの画像データは途中のデジタル-アナログ変換回路(DAC)で液晶セルの階調表示に適したアナログ電圧に変換され、信号線駆動回路を経由して所定の信号線に書き込まれ、さらに表示用ゲート線駆動回路112により指定される行の画素に書き込まれる。また、プリチャージ電圧制御信号115は、先の画像認識装置300から与えられる。
【0025】
画素及びセンサ(リードライト画素と称しても良い)部は、表示用の画素回路1311と読み取り用のセンサ回路1312で構成される。
【0026】
図5(A)には、上記のリードライト画素の回路構成例を示している。CSは、補助容量Csk及び液晶LCの一方の電極に所定の周期で所定の電位を与える電圧ラインである。Gate(m)は、画素回路1311の薄膜トランジスタ(TFT)(以下駆動トランジスタ)13aをオンオフ制御するためのゲートラインである。またCRT(m)は、センサ回路1312を構成する薄膜トランジスタnt1をオンオフ制御するためのリセット信号ラインである。トランジスタnt1がオンしたときに、センサ容量CPにプリチャージが行なわれる。JVssは、接地ラインである。またSFB(m)は、センサ容量CPの電位を読み出すときに薄膜トランジスタnt3をオンするセンサ出力制御ラインである。薄膜トランジスタnt2は増幅素子として機能する。PDはフォトダイオードであり、光に感応し、光量に応じた電流を流す。これにより、センサ容量CPにプリチャージされている電荷を放出することができる。Sig(n), Sig(n+1)は、信号線である。
【0027】
フォトダイオードPDに照射される光量が多い場合は、センサ容量CPの放電量が多い、逆にフォトダイオードPDの照射される光量が少ない場合は、センサ容量CPの放電量が少ないことになる。フォトダイオードPDと図示しないバックライトとの間には、遮光処理が成されている。したがつて、フォトダイオードPDは、表示面上に例えば指などが近接して触れたとき、指から反射してくる光に感応する。あるいは、積極的にライトペンなどの光が与えられるようにしてもよい。
【0028】
信号線Sig(n),Sig(n+1)は、図4に示した信号線駆動回路114及びA/D変換回路123に接続されている。また電圧ラインCs、ゲートラインGate(m)は、表示用ゲート線駆動回路112に接続されており、リセット信号ラインCRT(m)、接地ラインJVss、センサ出力制御ラインSFB(m)は、読出し用ゲート線駆動回路122に接続されている。
【0029】
図5(B)には、上記の回路の動作を説明するためのタイミングチャートを示している。本回路において、1垂直期間(1フレーム期間)内の特定の1水平期間を次のように設定している。画素回路1311では、1水平期間(1H)内を、第1のブランク期間、コモン反転タイミング期間、書込み期間、第2のブランキング期間に分けている。またこの4つの期間に対応させて、センサ回路1312では、出力期間、コモン反転タイミング期間、ブランク期間、プリチャージ期間に分けている。1垂直期間(1フレーム期間)内の上記特定期間を除く他の期間は、画素回路1311は表示期間にあり、センサ回路1312は、撮像期間である。いま、画素回路1311、センサ回路1312の部分の動作を説明する。
【0030】
画素回路1311においては、補助容量Cskに対して信号線Sig(n)を介して、そして書込み期間に矢印a1に示すような経路で、画像信号が書き込まれる。この容量Cskの両端間に生じた電圧値に応じて、液晶LCが駆動され階調表示される。
【0031】
センサ回路1321では、上記書込み期間に続いて、トランジスタnt1がオンされ、容量CPに対してプリチャージが行なわれる。このときも信号線Sig(n)が利用される(矢印b1、c1の経路)。つまり、書込み期間とプリチャージ期間とがずれており、信号線Sig(n)を有効利用している。撮像期間においてフォトダイオードPDに電流が流れると、プリチャージ電圧が変化する。そして、次の1フレームサイクルで、出力期間に、トランジスタnt3がオンされる。すると、センサ容量CPの電圧は、トランジスタnt2で増幅されて、信号線Sig(n+1)を介して取出される(矢印d1、e1の経路)。隣の画素及びセンサ(リードライト画素と称しても良い)部においても次の1水平期間に同様な動作が実行される。センサ容量CPから取出された電圧は、プリチャージ以後、読出しスタートまでの間、フォトダイオードPDが遮光されていた時間に応じて変化する。全く遮光されていない場合は、読み出された電圧は十分に低い電圧であり、遮光されていた時間が長い場合は、高い電圧が得られる。これによりインプットが成されたのかどうかを判定することができる。
【0032】
図6は、上記の動作をフレーム単位(Nフレーム目とN+1フレーム目)で示した説明図である。画素及びセンサ部の構成は上記の実施例に限定されるものではない。
【0033】
図7には、画素及びセンサ部の他の構成例を示している。この構成は、画素回路として青用画素回路132B、緑用画素回路132G、赤用画素回路132Rを有する。したがって夫々の回路132B、132G、132Rに対応する信号線Sig(n)B、Sig(n)G、Sig(n)Rが設けられている。電圧ラインCs、ゲートラインGate(m)、リセット信号ラインCRT(m)、センサ出力制御ラインSFB(m)は、先の図5の回路と同じである。
【0034】
センサ回路133は、トランジスタnt1,容量CP,フォトダイオードPD,増幅器としてのトランジスタnt2,出力を取出すためのトランジスタnt3で構成されている。
【0035】
この回路においても、信号線が有効に活用されている。図5、図6のタイミングチャートも参照して説明する。信号線Sig(n)B、Sig(n)G、Sig(n)Rは、スイッチトランジスタ13aがオンしている期間では、それぞれ対応する容量Csへ映像信号を書き込むために利用される。信号線Sig(n)Rは、プリチャージ期間に、容量CPに所定電位をプリチャージするために利用される。信号線Sig(n)Gは、撮像期間にフォトダイオードPDに流れる電流を放出するために利用される。信号線Sig(n)Gの電位を設定することで、この電流放出動作が可能である。そして、信号線Sig(n)Bは、撮像信号の出力期間に、容量CPの電圧を増幅して読み出すために利用される。
【0036】
上記した動作によって、図1、図2で示したサイコロの目が画像として読み取られ、ゲーム進行が得られる。
【0037】
この発明は上記の実施形態に限定されるものではなく、種々の変形実施例が可能である。上記の例ではサイコロの目を読み取る機能があることを説明した。しかし、これに限らず、移動体が画面に触れて移動する速度を測定する機能と、測定した速度に応じて、画像の移動速度が決まる機能を所有してもよい。例えば図2に示したルーレットの映像において、ユーザが指先でルーレット画像の回転部をなぞると、その速度に応じた速度で、ルーレット円盤が回転するようにしてもよい。そして、一定時間後にルーレット円盤が停止し、かつ、ボールが示す数字も決まるというように構成してもよい。ボールが示す数字は、ルーレット円盤の回転速度と、ボールのスタート位置に応じて決まるようにプログラムされる。
【0038】
図8はさらにこの発明の他の実施の形態である。図3と同一部分には同一符号を付している。この実施の形態は、ゲーム内容を交換することができるように構成されている。ゲーム内容は、画像提供装置200における画像内容、応答処理装置400におけるシーケンサ(プログラム)、照合用データに応じて変更することができる。したがって、インターフェース500から、DVD装置或いはネットワーク501を介してゲーム情報を取り込むことができるように構成してもよい。
【0039】
又この発明の装置に対しては、ゲーム内容に限らず学習プログラムがインストールされてもよい。この表示装置100によると、例えば、ペンなどで文字入力を行うことも可能である。したがって、ゲームあるいは質問に対する答えをペン入力で与えるようにしてもよい。そして照合処理は、ペン入力された情報が、正しいかどうか判定するのである。
【0040】
なお、この発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合せにより種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。更に、異なる実施形態に亘る構成要素を適宜組み合せてもよい。
【図面の簡単な説明】
【0041】
【図1】本発明の装置の一実施の形態を示す図。
【図2】本発明の装置を利用したゲームの表示例を示す図。
【図3】本発明の装置に係る要部をさらに詳しく示す図。
【図4】本発明の装置に係る表示装置を詳しく示す図。
【図5】本発明の装置係る表示装置の動作を説明するために示した図。
【図6】本発明の装置係る表示装置の動作を説明するために示した図。
【図7】本発明の装置係る表示装置の他の例を示す図。
【図8】本発明の装置の他の実施の形態を示す図。
【符号の説明】
【0042】
100…表示装置、200…画像提供装置、300…画像認識装置、400…応答処理装置。

【特許請求の範囲】
【請求項1】
表示パネルの内部に光検知素子と表示素子とがそれぞれ2次元状に配列され、光入力を検出する光検出機能と表示機能とを備えた表示装置と、
前記表示機能を制御して画像の表示を行う画像提供装置
と、
前記光検出機能を制御し、前記表示パネル上の光入力像を認識する画像認識装置
と、
前記画像提供装置を制御することにより、前記画像認識装置から得られた認識像の処理内容に応答して、現在表示装置で表示している画像の内容を制御する応答装置
を具備したことを特徴とするインプットディスプレイを用いた対話装置。
【請求項2】
前記光入力像は、サイコロの像であり、前記画像認識装置は、前記表示パネルに対面しているサイコロの面の目を読み取ることを特徴とする請求項1記載のインプットディスプレイを用いた対話装置。
【請求項3】
前記画像提供装置は、
背景映像となる背景静止映像データと、ゲーム進行に利用する映像のための移動映像データとを格納する格納部と、
前記応答装置により前記移動映像データによる表示位置を変更するための表示位置制御部を含むことを特徴とする請求項1記載のインプットディスプレイを用いた対話装置。
【請求項4】
前記応答装置は、
ゲームルールに応じて前記画像内容を制御するシーケンサを含むことを特徴とする請求項3記載のインプットディスプレイを用いた対話装置。
【請求項5】
前記応答装置は、
前記画像認識装置からの読み取り画像と照合を行うために、複数の対比画像を格納し照合用データメモリを含むことを特徴とする請求項4記載のインプットディスプレイを用いた対話装置。
【請求項6】
前記照合用データメモリ、背景静止映像データ、移動映像データを交換するためのインターフェースがさらに設けられていることを特徴とする請求項5記載のインプットディスプレイを用いた対話装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2006−167039(P2006−167039A)
【公開日】平成18年6月29日(2006.6.29)
【国際特許分類】
【出願番号】特願2004−361743(P2004−361743)
【出願日】平成16年12月14日(2004.12.14)
【出願人】(302020207)東芝松下ディスプレイテクノロジー株式会社 (2,170)
【Fターム(参考)】