説明

液晶表示装置、ネットワークシステム、および画像処理方法

【課題】情報を外部に表示するとともに所定の条件を満たした場合にのみ外部から情報を受け付ける液晶表示装置を提供する。
【解決手段】液晶表示装置100は、入射光に応じて電気信号を生成する複数の光センサ回路144と、電気信号に応じて光を発する複数の画素回路141と、所定のパターン画像を示すパターンデータを格納する記憶部171と、複数の光センサ回路から入力される電気信号に基づいて画像データを生成する生成手段111(180)と、画像データとパターンデータとに基づいて、画像データに対応する第1の画像中に所定のパターン画像が含まれているか否かを判断する判断手段112と、第1の画像中に所定のパターン画像が含まれている場合に、複数の画素回路に画像データに対応する第2の画像を表示させる表示制御手段114(116)とを含む。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画素回路を介して画像やテキストを表示することができる液晶表示装置、ネットワークシステム、および画像処理方法に関し、特に、画素回路とともに配置された光センサ回路を介して画像やテキストを読み取ることができる液晶表示装置、ネットワークシステム、および画像処理方法に関する。
【背景技術】
【0002】
従来から、入射光に基づいて電気信号を生成する光センサ回路と、電気信号に基づいて可視光を発する画素回路とを含む液晶表示装置が知られている。このような液晶表示装置においては、1つの画面中に複数の光センサ回路と複数の画素回路とが配置され、当該1つの画面は外部から情報を受け付ける入力装置と外部へと情報を表示する表示装置の役割を果たすことができる。
【0003】
たとえば、特開2008−191498号公報(特許文献1)には、光センサ付の液晶表示装置が開示されている。特開2008−191498号公報(特許文献1)によると、液晶パネルは、アクティブマトリクス基板と、フィルタ基板と、これらの間に挟み込まれる液晶層とを含む。アクティブマトリクス基板は、液晶パネルの厚み方向においてフィルタ基板に重なる領域上に光センサを含む。光センサは、アクティブマトリクス基板を構成するベース基板上にモノリシックに形成される。フィルタ基板は、液晶パネルの厚み方向において光センサに重なる領域に、外光を透過させる透過部を含む。筐体は、液晶パネルの表示領域を露出させる開口部と、開口部の周辺において透過部を露出させる開口部とを含む。
【0004】
また、特開2005−185316号公報(特許文献2)には、棚札の表示内容の変更システム及び方法が開示されている。特開2005−185316号公報(特許文献2)によると、棚札として電子ペーパーを含む商品陳列棚と、商品情報とデザイン情報とを管理する商品情報管理コンピュータとが、構内ネットワークに接続されている。商品情報管理コンピュータは、表示内容を変更する電子ペーパーのアドレスを指定して、この電子ペーパーを特定し、この電子ペーパーを含む商品陳列棚へ、ネットワークを介して、商品情報と、そのデザイン情報とを送信する。商品陳列棚は、指定されたアドレスで特定される電子ペーパーを含む場合に、この電子ペーパーへ、商品情報と、そのデザイン情報とを転送する。電子ペーパーは、指定されたアドレスで特定される場合に、商品情報と、そのデザイン情報とを受信して、表示内容を、このデザイン情報に従ったこの商品情報の表示に書き換える。
【特許文献1】特開2008−191498号公報
【特許文献2】特開2005−185316号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、従来の液晶表示装置においては、セキュリティー上の不具合が存在する。すなわち、従来の液晶表示装置においては、誰もが液晶表示装置に情報を入力することができてしまう。たとえば、店舗に配置される棚札として、光センサ回路と画素回路とを含む液晶表示装置を使用する場合においては、権限を有する役職者だけでなく、権限がない他の店舗スタッフや店舗に訪れた客でさえも、光センサ回路を介して液晶表示装置に情報を入力できてしまう。
【0006】
本発明は、かかる問題を解決するためになされたものであり、その目的は、情報を外部に表示するとともに、所定の条件を満たした場合にのみ外部から情報を受け付ける液晶表示装置、ネットワークシステム、および画像処理方法を提供することである。
【課題を解決するための手段】
【0007】
この発明のある局面に従うと、液晶表示装置が提供される。液晶表示装置は、入射光に応じて電気信号を生成する複数の光センサ回路と、電気信号に応じて光を発する複数の画素回路と、所定のパターン画像を示すパターンデータを格納する記憶部と、複数の光センサ回路から入力される電気信号に基づいて画像データを生成する生成手段と、画像データとパターンデータとに基づいて、画像データに対応する第1の画像中に所定のパターン画像が含まれているか否かを判断する判断手段と、第1の画像中に所定のパターン画像が含まれている場合に、複数の画素回路に画像データに対応する第2の画像を表示させる表示制御手段とを含む。
【0008】
好ましくは、液晶表示装置は、第1の画像中に所定のパターン画像が含まれている場合に、第1の画像からテキストを抽出することによって、画像データに基づいてテキストデータを取得する取得手段をさらに含む。表示制御手段は、テキストデータに基づいて、複数の画素回路に第2の画像としてテキストを表示させる。
【0009】
好ましくは、記憶部は、第1の画像中に所定のパターン画像が含まれている場合に、テキストデータを格納する。
【0010】
好ましくは、記憶部は、商品の価格を示す価格データを記憶する。取得手段は、第1の画像中に所定のパターン画像が含まれている場合に、テキストデータによって価格データを更新する。
【0011】
好ましくは、表示制御手段は、第1の画像中に所定のパターン画像が含まれている場合に、画像データに基づいて、複数の画素回路に第2の画像として第1の画像を表示させる。
【0012】
好ましくは、記憶部は、第1の画像中に所定のパターン画像が含まれている場合に、画像データを格納する。
【0013】
好ましくは、複数の光センサ回路は、外部の透明シートからの光を入射光として受光する。透明シートには、所定のパターン画像が描画されている。
【0014】
この発明の別の局面に従うと、液晶表示装置と液晶表示装置にネットワークを介して接続可能なサーバ装置とを含むネットワークシステムが提供される。液晶表示装置は、入射光に応じて電気信号を生成する複数の光センサ回路と、電気信号に応じて光を発する複数の画素回路と、所定のパターン画像を示すパターンデータを格納する第1の記憶部と、複数の光センサ回路から入力される電気信号に基づいて画像データを生成する生成手段と、画像データとパターンデータとに基づいて、画像データに対応する第1の画像中に所定のパターン画像が含まれているか否かを判断する判断手段と、第1の画像中に所定のパターン画像が含まれている場合に、複数の画素回路に画像データに対応する第2の画像を表示させる表示制御手段と、第1の画像中に所定のパターン画像が含まれている場合に、複数の画素回路に画像データに対応する送信データをネットワークを介してサーバ装置へ送信する第1の通信部とを含む。サーバ装置は、液晶表示装置から送信データを受信する第2の通信部と、送信データを格納する第2の記憶部とを含む。
【0015】
好ましくは、ネットワークシステムは、所定のパターン画像が描画された透明シートをさらに含む。複数の光センサ回路は、透明シートからの光を入射光として受光する。
【0016】
この発明の別の局面に従うと、液晶表示装置における画像処理方法が提供される。液晶表示装置は、演算処理部と、入射光に応じて電気信号を生成する複数の光センサ回路と、電気信号に応じて光を発する複数の画素回路と、所定のパターン画像を示すパターンデータを格納する記憶部とを含む。演算処理部が、複数の光センサ回路から入力される電気信号に基づいて画像データを生成するステップと、演算処理部が、画像データとパターンデータとに基づいて、画像データに対応する第1の画像中に所定のパターン画像が含まれているか否かを判断するステップと、演算処理部が、第1の画像中に所定のパターン画像が含まれている場合に、複数の画素回路に画像データに対応する第2の画像を表示させるステップとを含む。
【発明の効果】
【0017】
以上のように、本発明によって、情報を外部に表示するとともに、所定の条件を満たした場合にのみ外部から情報を受け付ける液晶表示装置、ネットワークシステム、および画像処理方法が提供される。
【発明を実施するための最良の形態】
【0018】
以下、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
【0019】
[実施の形態1]
<ネットワークシステム1の全体構成>
まず、本実施の形態に係るネットワークシステム1の全体構成について説明する。図1は、本実施の形態に係るネットワークシステム1を示す概略図である。より詳細には、図1(A)は、表示内容が書き換えられる前のネットワークシステム1を示すイメージ図である。図1(B)は、表示内容が書き換えられている最中のネットワークシステム1を示すイメージ図である。図1(C)は、表示内容が書き換えられた後のネットワークシステム1を示すイメージ図である。
【0020】
図1(A)から図1(C)を参照して、本実施の形態に係るネットワークシステム1は、液晶表示装置の一例としての電子機器100と、LAN(Local Area Network)やWAN(Wide Area Network)などのネットワーク250と、ネットワーク250を介して電子機器100に接続されるサーバ装置200と、入力シート300とを含む。電子機器100は、テキストを表示するとともにテキストなどを読み取ることができる液晶パネル140と、操作キー177とを含む。
【0021】
<ネットワークシステム1の動作概要>
次に、本実施の形態に係るネットワークシステム1の動作概要について説明する。
【0022】
図1(A)に示すように、入力シート300には、予め、入力シート300のユーザの権限やユーザID(Identification)などを示すための識別情報301が印刷(表示)されている。そして、入力シート300のユーザは、所望のタイミングで、当該入力シート300に所望する商品価格などのテキスト302を記入する。
【0023】
次に、図1(B)に示すように、ユーザは商品価格などのテキスト302が記入された入力シート300を液晶パネル140に読み取らせる。電子機器100は、液晶パネル140を用いて読み取った識別情報301やテキスト302を含む第1の画像に基づいて第1の画像データを生成する。電子機器100は、第1の画像データと予め記憶している所定のパターン画像に対応するパターンデータとに基づいて、入力シート300上に所定のパターン画像に一致する識別情報301が印刷されているか否かを判断する。入力シート300上の識別情報301が所定のパターン画像を含む場合、電子機器100は、第1の画像データに基づいて第1の画像中からテキスト302を抽出することによって、テキストデータを生成する。
【0024】
次に、図1(C)に示すように、電子機器100は、テキストデータに基づいて、液晶パネル140にテキスト(第2の画像)を表示させる。すなわち、本実施の形態に係る電子機器100は、入力シート300上の識別情報301が所定のパターン画像を含む場合に、入力シート300上に記入された第1の画像を受け付けて、第1の画像に対応するテキストを表示する。このとき、電子機器100は、テキストデータや当該テキストデータに対応する関連データを、ネットワーク250を介してサーバ装置200へ送信する。サーバ装置200においては、受信したテキストデータや当該テキストデータに対応する関連データに基づいて、商品の価格や、当該商品の価格の変更時刻や、当該商品の価格を変更したユーザIDなどを管理することができる。また、サーバ装置200に接続された他の電子機器(たとえばキャッシュレジスタなど)において、変更された商品の価格を利用することもできる。
【0025】
以下、このような機能を実現するための構成について詳述する。
<電子機器100のハードウェア構成>
次に、本実施の形態に係る電子機器100の具体的構成の一態様について説明する。図2は、本実施の形態に係る電子機器100のハードウェア構成を表わすブロック図である。図2を参照して、電子機器100は、主たる構成要素として、本体装置101と、表示装置102とを含む。
【0026】
本体装置101は、CPU(Central Processing Unit)110と、RAM(Random Access Memory)171と、ROM(Read-Only Memory)172と、メモリカードリーダライタ173と、通信装置174と、マイク175と、スピーカ176と、操作キー177とを含む。各構成要素は、相互にデータバスDB1によって接続されている。メモリカードリーダライタ173には、メモリカード1731が装着される。
【0027】
CPU110は、プログラムを実行する。操作キー177は、電子機器100の使用者による指示の入力を受ける。RAM171は、CPU110によるプログラムの実行により生成されたデータ、または操作キー177を介して入力されたデータを揮発的に格納する。ROM172は、データを不揮発的に格納する。また、ROM172は、EPROM(Erasable Programmable Read-Only Memory)やフラッシュメモリなどの書込みおよび消去が可能なROMである。通信装置174は、図示しない他の電子機器との間で無線通信を行う。なお、図2には図示していないが、電子機器100が、他の電子機器に有線により接続するためのインターフェイス(IF)を含む構成としてもよい。
【0028】
表示装置102は、ドライバ130と、光センサ内蔵液晶パネル140(以下、液晶パネル140と称する)と、内部IF178と、バックライト179と、画像処理エンジン180とを含む。
【0029】
ドライバ130は、液晶パネル140およびバックライト179を駆動するための駆動回路である。ドライバ130に含まれる各種の駆動回路については、後述する。
【0030】
液晶パネル140は、液晶ディスプレイの機能と光センサの機能とを備えたデバイスである。つまり、液晶パネル140は、液晶を用いた画像の表示と、光センサを用いたセンシングとを行うことができる。液晶パネル140の詳細については、後述する。
【0031】
内部IF(Interface)178は、本体装置101と表示装置102との間で、データの遣り取りを仲介する。
【0032】
バックライト179は、液晶パネル140の裏面に配置された光源である。バックライト179は、当該裏面に対して均一な光を照射する。
【0033】
画像処理エンジン180は、ドライバ130を介して液晶パネル140の動作を制御する。ここで、当該制御は、内部IF178を介して本体装置101から送られてくる各種データに基づいて行われる。なお、当該各種データは、後述するコマンドを含む。また、画像処理エンジン180は、液晶パネル140から出力されるデータを処理し、処理したデータを内部IF178を介して本体装置101に送る。さらに、画像処理エンジン180は、ドライバ制御部181と、タイマ182と、信号処理部183とを含む。
【0034】
ドライバ制御部181は、ドライバ130に対して制御信号を送ることによりドライバ130の動作を制御する。また、ドライバ制御部181は、本体装置101から送られてくるコマンドを解析する。そして、ドライバ制御部181は、当該解析の結果に基づいた制御信号をドライバ130に送る。ドライバ130の動作の詳細については、後述する。
【0035】
タイマ182は、時刻情報を生成し、信号処理部183に対して時刻情報を送る。
信号処理部183は、上記光センサから出力されるデータを受け取る。ここで、上記光センサから出力されるデータはアナログデータであるため、信号処理部183は、まず当該アナログデータをデジタルデータに変換する。さらに、信号処理部183は、当該デジタルデータに対して、本体装置101から送られてくるコマンドの内容に応じたデータ処理を行う。そして、信号処理部183は、上記データ処理を行った後のデータと、タイマ182から取得した時刻情報とを含んだデータ(以下、応答データと称する)を本体装置101に送る。また、信号処理部183は、後述するスキャンデータを連続して複数格納できるRAM(図示せず)を備えている。
【0036】
上記コマンドは、上記光センサによりセンシングを指示するセンシングコマンドを含む。当該センシングコマンドの詳細および上記応答データの詳細については、後述する(図7〜図9)。
【0037】
なお、タイマ182は、必ずしも画像処理エンジン180に備えられている必要はない。たとえば、タイマ182は、表示装置102内における、画像処理エンジン180の外部に備えられていてもよい。あるいは、タイマ182は、本体装置101に備えられていてもよい。また、マイク175およびスピーカ176は、電子機器100が常に含む構成ではなく、電子機器100の実施例によっては、マイク175およびスピーカ176のいずれかあるいは両方を有さない構成であってもよい。
【0038】
ここで、表示装置102は、システム液晶を含んでいる。なお、システム液晶とは、液晶パネル140の周辺機器を当該液晶パネル140のガラス基板上に一体形成することにより得られるデバイスである。本実施の形態では、ドライバ130(バックライト179を駆動する回路を除く)と、内部IF178と、画像処理エンジン180とが、液晶パネル140のガラス基板上に一体形成されている。なお、表示装置102が、必ずしもシステム液晶を用いて構成されている必要はなく、ドライバ130(バックライト179を駆動する回路を除く)と、内部IF178と、画像処理エンジン180とが、上記ガラス基板以外の基板に構成されていてもよい。
【0039】
ところで、電子機器100における処理は、各ハードウェアおよびCPU110により実行されるソフトウェアによって実現される。このようなソフトウェアは、ROM172に予め記憶されている場合がある。また、ソフトウェアは、メモリカード1731その他の記憶媒体に格納されて、プログラム製品として流通している場合もある。あるいは、ソフトウェアは、いわゆるインターネットに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、メモリカードリーダライタ173その他の読取装置によりその記憶媒体から読み取られて、あるいは、通信装置174または通信IF(図示せず)を介してダウンロードされた後、ROM172に一旦格納される。そのソフトウェアは、CPU110によってROM172から読み出され、RAM171に実行可能なプログラムの形式で格納される。CPU110は、そのプログラムを実行する。
【0040】
図2に示される電子機器100の本体装置101を構成する各構成要素は、一般的なものである。したがって、本発明の本質的な部分は、RAM171、ROM172、メモリカード1731その他の記憶媒体に格納されたソフトウェア、あるいはネットワークを介してダウンロード可能なソフトウェアであるともいえる。なお、電子機器100の本体装置101のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
【0041】
なお、記憶媒体としては、メモリカードに限られず、CD−ROM、FD(Flexible Disk)、ハードディスク、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integrated Circuit)カード(メモリカードを除く)、光カード、マスクROM、EPROM、EEPROM(Electronically Erasable Programmable Read-Only Memory)、フラッシュROMなどの半導体メモリ等の固定的にプログラムを格納する媒体でもよい。
【0042】
ここでいうプログラムとは、CPUにより直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含む。
【0043】
<液晶パネル140の構成および駆動について>
次に、液晶パネル140の構成と、当該液晶パネル140の周辺回路の構成とについて説明する。図3は、液晶パネル140の構成と、当該液晶パネル140の周辺回路とを示した図である。
【0044】
図3を参照して、液晶パネル140は、画素回路141と、光センサ回路144と、走査信号線Giと、データ信号線SRjと、データ信号線SGjと、データ信号線SBjと、センサ信号線SSjと、センサ信号線SDjと、読出信号線RWiと、リセット信号線RSiとを含む。なお、iは、1≦i≦mを満たす自然数であり、jは1≦j≦nを満たす自然数である。
【0045】
また、図2に示した表示装置102のドライバ130は、液晶パネル140の周辺回路として、走査信号線駆動回路131と、データ信号線駆動回路132と、光センサ駆動回路133と、スイッチ134と、アンプ135とを含む。
【0046】
走査信号線駆動回路131は、図2に示すドライバ制御部181から制御信号TC1を受ける。そして、走査信号線駆動回路131は、制御信号TC1に基づき、各走査信号線(G1〜Gm)に対して、走査信号線G1から順に予め定められた電圧を印加する。より詳しくは、走査信号線駆動回路131は、単位時間毎に走査信号線(G1〜Gm)の中から1つの走査信号線を順次選択し、当該選択した走査信号線に対して後述するTFT(Thin Film Transistor)142のゲートをターンオンできるだけの電圧(以下、ハイレベル電圧)を印加する。なお、選択されていない走査信号線に対しては、ハイレベル電圧を印加することなく、ローレベル電圧を印加したままとする。
【0047】
データ信号線駆動回路132は、図2に示すドライバ制御部181から画像データ(DR,DG,DB)を受ける。そして、データ信号線駆動回路132は、3n個のデータ信号線(SR1〜SRn,SG1〜SGn,SB1〜SBn)に対して、上記単位時間毎に、1行分の画像データに対応する電圧を順次印加する。
【0048】
なお、ここでは、いわゆる線順次方式と呼ばれる駆動方式を用いて説明したが、駆動方式はこれに限定されるものではない。
【0049】
画素回路141は、1つの画素の輝度(透過率)を設定するための回路である。また、画素回路141は、マトリクス状にm×n個配されている。より詳しくは、画素回路141は、図3の縦方向にm個、横方向にn個配されている。
【0050】
画素回路141は、Rサブピクセル回路141rと、Gサブピクセル回路141gと、Bサブピクセル回路141bとからなる。これら3つの回路(141r,141g,141b)は、それぞれ、TFT142と、画素電極と対向電極とからなる1組の電極対143と、図示しないコンデンサとを含む。
【0051】
なお、n型のトランジスタとp型のトランジスタとを作れるCMOS(Complementary Metal Oxide Semiconductor)を実現できること、キャリア(電子または正孔)の移動速度がアモルファスシリコン薄膜トランジスタ(a-Si TFT)に比べて数百倍早いことなどから、表示装置102では、TFT142として多結晶シリコン薄膜トランジスタ(p-Si TFT)が用いられる。なお、TFT142は、n型チャネルの電界効果トランジスタであるとして説明する。ただし、TFT142がp型チャネルの電界効果トランジスタであってもよい。
【0052】
Rサブピクセル回路141r内のTFT142のソースはデータ信号線SRjに接続されている。また、当該TFT142のゲートは走査信号線Giに接続されている。さらに、当該TFT142のドレインは、電極対143の画素電極に接続される。そして、画素電極と対向電極との間には、液晶が配される。なお、Gサブピクセル回路141gおよびBサブピクセル回路141bについても、各TFT142のソースが接続されるデータ信号線が異なる以外は、Rサブピクセル回路141rと同じ構成である。このため、これら2つの回路(141g,141b)についての説明は、繰り返さない。
【0053】
ここで、画素回路141における輝度の設定について説明する。まず、走査信号線Giに上記ハイレベル電圧を印加する。当該ハイレベル電圧の印加により、TFT142のゲートがターンオンする。このようにTFT142のゲートがターンオンした状態で、各データ信号線(SRj,SGj,SBj)に対して、それぞれ指定された電圧(1画素分の画像データに対応する電圧)を印加する。これにより、当該指定された電圧に基づいた電圧が画素電極に印加される。その結果、画素電極と対向電極との間に電位差が生じる。この電位差に基づいて、液晶が応答し、画素の輝度は予め定められた輝度に設定される。なお、当該電位差は、上記図示しないコンデンサ(補助容量)によって、次のフレーム期間において走査信号線Giが選択されるまで保持される。
【0054】
光センサ駆動回路133は、図2に示すドライバ制御部181から制御信号TC2を受ける。
【0055】
そして、光センサ駆動回路133は、制御信号TC2に基づき、単位時間毎にリセット信号線(RS1〜RSm)の中から1つの信号線を順次選択し、当該選択した信号線に対して、予め定められたタイミングで通常よりもハイレベルな電圧VDDRを印加する。なお、選択されていないリセット信号線に対しては、選択されたリセット信号線に印加した電圧よりも低い電圧VSSRを印加したままとする。たとえば、電圧VDDRを0Vに、電圧VSSRを−5Vに設定すればよい。
【0056】
また、光センサ駆動回路133は、制御信号TC2に基づき、単位時間毎に読出信号線(RW1〜RWm)の中から1つの信号線を順次選択し、当該選択した信号線に対して、予め定められたタイミングで通常よりもハイレベルな電圧VDDを印加する。なお、選択されていない読出信号線に対しては、上記電圧VSSRを印加したままとする。たとえば、VDDの値を8Vに設定すればよい。
【0057】
なお、電圧VDDRを印加するタイミング、および電圧VDDを印加するタイミングについては、後述する。
【0058】
光センサ回路144は、フォトダイオード145と、コンデンサ146と、TFT147とを含む。なお、以下では、TFT147がn型チャネルの電界効果トランジスタであるとして説明する。ただし、TFT147がp型チャネルの電界効果トランジスタであってもよい。
【0059】
フォトダイオード145のアノードは、リセット信号線RSiに接続されている。一方、フォトダイオード145のカソードは、コンデンサ146の一方の電極に接続されている。また、コンデンサ146の他方の電極は、読出信号線RWiに接続されている。なお、以下では、フォトダイオード145とコンデンサ146との接続点をノードNと称する。
【0060】
TFT147のゲートは、ノードNに接続されている。また、TFT147のドレインは、センサ信号線SDjに接続されている。さらに、TFT147のソースは、センサ信号線SSjに接続されている。光センサ回路144を用いたセンシングの詳細については、後述する。
【0061】
スイッチ134は、センサ信号線(SD1〜SDn)に対して、予め定められた電圧を印加するか否かを切り換えるために設けられたスイッチである。スイッチ134の切り換え動作は、光センサ駆動回路133により行われる。なお、スイッチ134が導通状態となった場合にセンサ信号線(SD1〜SDn)に印加される電圧については、後述する。
【0062】
アンプ135は、各センサ信号線(SS1〜SSn)から出力された電圧を増幅する。なお、増幅された電圧は、図2に示した信号処理部183に送られる。
【0063】
なお、画素回路141を用いて画像を液晶パネル140に表示させるタイミングと、光センサ回路144を用いてセンシングするタイミングとについては、画像処理エンジン180が制御する。
【0064】
図4は、液晶パネル140とバックライト179との断面図である。図4を参照して、液晶パネル140は、アクティブマトリクス基板151Aと、対向基板151Bと、液晶層152とを含む。対向基板151Bは、アクティブマトリクス基板151Aに対向して配されている。液晶層152は、アクティブマトリクス基板151Aと対向基板151Bとに挟まれている。バックライト179は、アクティブマトリクス基板151Aに関し液晶層152と反対側に配されている。
【0065】
アクティブマトリクス基板151Aは、偏光フィルタ161と、ガラス基板162と、電極対143を構成する画素電極143aと、フォトダイオード145と、データ信号線157と、配向膜164とを含む。さらに、図4には示していないが、アクティブマトリクス基板151Aは、図3に示した、コンデンサ146と、TFT147と、TFT142と、走査信号線Giとを含む。
【0066】
また、アクティブマトリクス基板151Aにおいては、バックライト179側から、偏光フィルタ161、ガラス基板162、画素電極143a、および配向膜164が、この順に配されている。フォトダイオード145とデータ信号線157とは、ガラス基板162の液晶層152側に形成されている。
【0067】
対向基板151Bは、偏光フィルタ161と、ガラス基板162と、遮光膜163と、カラーフィルタ(153r,153g,153b)と、電極対143を構成する対向電極143bと、配向膜164とを含む。
【0068】
また、対向基板151Bにおいては、液晶層152側から、配向膜164、対向電極143b、カラーフィルタ(153r,153g,153b)、ガラス基板162、および偏光フィルタ161が、この順に配されている。遮光膜163は、カラーフィルタ(153r,153g,153b)と同一の層に形成されている。
【0069】
カラーフィルタ153rは、赤色の波長の光を透過させるフィルタである。カラーフィルタ153gは、緑色の波長の光を透過させるフィルタである。カラーフィルタ153bは、青色の波長の光を透過させるフィルタである。ここで、フォトダイオード145は、カラーフィルタ153bに対向する位置に配されている。
【0070】
液晶パネル140は、外光やバックライト179などの光源により発せられた光を遮ったり又は当該光を透過させたりすることによって、画像の表示をする。具体的には、液晶パネル140は、画素電極143aと対向電極143bとの間に電圧を印加することにより液晶層152の液晶分子の向きを変化させ、上記光を遮ったり、あるいは透過させる。ただし、液晶だけでは光を完全に遮ることができないため、特定の偏光方向の光のみを透過させる偏光フィルタ161を配置している。
【0071】
なお、フォトダイオード145の位置は、上記の位置に限定されるものではなく、カラーフィルタ153rに対向する位置やカラーフィルタ153gに対向する位置に設けることも可能である。
【0072】
ここで、光センサ回路144の動作について説明する。図5は、光センサ回路144を動作させる際のタイミングチャートを示した図である。図5において、電圧VINTは、光センサ回路144内のノードNにおける電位を示している。また、電圧VPIXは、図3に示したセンサ信号線SSjからの出力電圧であって、アンプ135によって増幅される前の電圧を示している。
【0073】
以下では、光センサ回路144をリセットするためのリセット期間と、光センサ回路144を用いて光をセンシングするためのセンシング期間と、センシングした結果を読み出す読出期間とに分けて説明する。
【0074】
まず、リセット期間について説明する。リセット期間においては、リセット信号線RSiに印加する電圧を、ローレベル(電圧VSSR)からハイレベル(電圧VDDR)へと瞬間的に切り換える。一方、読出信号線RWiに印加する電圧は、ローレベル(電圧VSSR)のままとする。このように、リセット信号線RSiに上記ハイレベルの電圧を印加することにより、フォトダイオード145の順方向(アノード側からカソード側)に電流が流れ始める。その結果、ノードNの電位である電圧VINTは、以下の式(1)で示す値となる。なお、式(1)では、フォトダイオード145における順方向の電圧降下量をVfとしている。
【0075】
VINT=VSSR+|VDDR−VSSR|−Vf … (1)
それゆえ、ノードNの電位は、図5に示すとおり、電圧VDDRよりもVfだけ小さな値となる。
【0076】
ここで、電圧VINTは、TFT147のゲートをターンオンさせる閾値以下であるため、センサ信号線SSjからの出力はない。このため、電圧VPIXは変化しない。また、コンデンサ146の電極間には、上記電圧VINT分の差が生じる。このため、コンデンサ146には、当該差に応じた電荷が蓄積される。
【0077】
次に、センシング期間について説明する。リセット期間に続くセンシング期間においては、リセット信号線RSiに印加する電圧は、ハイレベル(電圧VDDR)からローレベル(電圧VSSR)へと瞬間的に切り換わる。一方、読出信号線RWiに印加する電圧は、ローレベル(電圧VSSR)のままとする。
【0078】
このように、リセット信号線RSiに印加する電圧をローレベルに変化させることにより、ノードNの電位は、リセット信号線RSiの電圧および読出信号線RWiの電圧よりも高くなる。このため、フォトダイオード145においては、カソード側の電圧がアノード側の電圧よりも高くなる。つまり、フォトダイオード145は、逆バイアスの状態となる。このような逆バイアスの状態において、光源からの光をフォトダイオード145が受光すると、フォトダイオード145のカソード側からアノード側へと電流が流れ始める。その結果、図5に示すとおり、ノードNの電位(つまり、電圧VINT)は時間の経過とともに低くなる。
【0079】
なお、このように電圧VINTが低下し続けるため、TFT147のゲートはターンオンした状態にはならない。それゆえ、センサ信号線SSjからの出力はない。このため、電圧VPIXは変化しない。
【0080】
次に、読出期間について説明する。センシング期間に続く読出期間においては、リセット信号線RSiに印加する電圧をローレベル(電圧VSSR)のままとする。一方、読出信号線RWiに印加する電圧は、ローレベル(電圧VSSR)からハイレベル(電圧VDD)へと瞬間的に切り換わる。ここで、電圧VDDは、電圧VDDRよりも高い値である。
【0081】
このように、読出信号線RWiにハイレベルの電圧を瞬間的に印加することにより、図5に示すとおり、コンデンサ146を介してノードNの電位が引き上げられる。なお、ノードNの電位の上昇幅は、読出信号線RWiに印加する電圧に応じた値となる。ここで、ノードNの電位(つまり、電圧VINT)が、TFT147のゲートをターンオンさせる閾値以上まで引き上げられるため、TFT147のゲートがターンオンする。
【0082】
この際、TFT147のドレイン側に接続されたセンサ信号線SDj(図3参照)に予め一定電圧を印加しておけば、TFT147のソース側に接続されたセンサ信号線SSjからは、図5のVPIXのグラフに示すとおり、ノードNの電位に応じた電圧が出力される。
【0083】
ここで、フォトダイオード145が受光する光の量(以下、受光量と称する)が少ないと、図5のVINTのグラフに示す直線の傾きが緩やかになる。その結果、電圧VPIXは、受光量が多い場合に比べて高くなる。このように、光センサ回路144は、フォトダイオード145の受光量に応じて、センサ信号線SSjに出力する電圧の値を変化させる。
【0084】
ところで、上記においては、m×n個存在する光センサ回路のうち、1つの光センサ回路144に着目して、その動作を説明した。以下では、液晶パネル140における各光センサ回路の動作について説明する。
【0085】
まず、光センサ駆動回路133は、n個のセンサ信号線(SD1〜SDn)の全てに対して、予め定められた電圧を印加する。次に、光センサ駆動回路133は、リセット信号線RS1に対して、通常よりもハイレベルな電圧VDDRを印加する。なお、他のリセット信号線(RS2〜RSm)および読出信号線(RW1〜RWm)については、ローレベルの電圧を印加したままの状態とする。これにより、図3における1行目のn個の光センサ回路が、上述したリセット期間に入る。その後、1行目のn個の光センサ回路は、センシング期間に入る。さらに、その後、1行目のn個の光センサ回路は、読出期間に入る。
【0086】
なお、n個のセンサ信号線(SD1〜SDn)の全てに対して予め定められた電圧を印加するタイミングは、上記のタイミングに限定されず、少なくとも読出期間前に印加されるタイミングであればよい。
【0087】
1行目のn個の光センサ回路の読出期間が終了すると、光センサ駆動回路133は、リセット信号線RS2に対して、通常よりもハイレベルな電圧VDDRを印加する。つまり、2行目のn個の光センサ回路のリセット期間に入る。リセット期間が終了すると、2行目のn個の光センサ回路は、センシング期間に入り、その後は、読出期間に入る。
【0088】
以降は、上述した処理が、順に、3行目のn個の光センサ回路、4行目のn個の光センサ回路、…m行目のn個の光センサ回路に対して行われる。その結果、センサ信号線(SS1〜SSn)からは、1行目のセンシング結果、2行目のセンシング結果、…、m行目のセンシング結果が、この順に出力される。
【0089】
なお、表示装置102においては、上記のように行毎にセンシングが行われるとともに、行毎にセンシング結果が液晶パネル140から出力される。このため、以下では、液晶パネル140から出力される1行目からm行目までのm行分の電圧に関するデータに対して、信号処理部183が上述したデータ処理を行った後のデータを、「スキャンデータ」と称する。つまり、スキャンデータとは、スキャン対象物(たとえば、ユーザの指)をスキャンすることにより得られる画像データを指す。また、当該スキャンデータに基づいて表示された画像を、「スキャン画像」と称する。さらに、以下では、センシングを「スキャン」と称する。
【0090】
また、上記においては、m×n個の光センサ回路全てを用いてスキャンを行う構成を例に挙げたが、これに限定されるものではない。予め選択された光センサ回路を用いて、液晶パネル140の表面の一部の領域に関してスキャンを行うことも構成としてもよい。
【0091】
以下では、電子機器100が、両構成のいずれの構成をも採れるものとする。さらに、当該構成間の切り換えは、操作キー177を介した入力などに基づく本体装置101から送られてくるコマンドにより行われるものとする。なお、液晶パネル140の表面の一部の領域に関してスキャンを行う場合、画像処理エンジン180が、スキャン対象領域の設定を行う。なお、当該領域の設定を、操作キー177を介してユーザが指定できる構成としてもよい。
【0092】
このように、液晶パネル140の表面の一部の領域に関してスキャンを行う場合には、画像の表示に関し、以下のような利用の態様がある。1つ目は、上記一部の領域(以下、スキャン領域と称する)以外の表面の領域において、画像を表示させる態様である。2つ目は、上記スキャン領域以外の表面の領域において、画像を表示させない態様である。いずれの態様とするかは、本体装置101から画像処理エンジン180に送られてくるコマンドに基づく。
【0093】
図6は、液晶パネル140とバックライト179との断面図であって、スキャンの際にフォトダイオード145がバックライト179からの光を受光する構成を示した図である。
【0094】
図6を参照して、ユーザの指900が液晶パネル140の表面に接触している場合、バックライト179から発せられた光の一部は、当該接触している領域ではユーザの指900(略平面)にて反射される。そして、フォトダイオード145は、当該反射された光を受光する。
【0095】
また、指900が接触していない領域においても、バックライト179から発せられた光の一部は、ユーザの指900にて反射される。この場合においても、フォトダイオード145は、当該反射された光を受光する。ただし、当該領域においては液晶パネル140の表面に指900が接触していないため、指900が接触している領域よりも、フォトダイオード145の受光量は少なくなる。なお、バックライト179から発せられた光のうち、ユーザの指900に到達しない光のほとんどについては、フォトダイオード145は受光できない。
【0096】
ここで、バックライト179を、少なくともセンシング期間においては点灯させておくことにより、光センサ回路144は、ユーザの指900により反射した光の光量に応じた電圧をセンサ信号線SSjから出力することができる。このように、バックライト179の点灯と消灯とを制御することにより、液晶パネル140では、指900の接触位置、指900の接触している範囲(指900の押圧力によって定まる)、液晶パネル140の表面に対する指900の方向などに応じて、センサ信号線(SS1からSSn)から出力される電圧が変化することになる。
【0097】
以上により、表示装置102は、指900によって光が反射されることにより得られる像(以下、反射像とも称する)をスキャンすることができる。
【0098】
なお、指900以外のスキャン対象物としては、スタイラスなどが挙げられる。
ところで、本実施の形態においては、電子機器100の表示装置として液晶パネルを例に挙げて説明しているが、液晶パネルの代わりに有機EL(Electro-Luminescence)パネルなどの他のパネルを用いてもよい。
【0099】
<データについて>
次に、センシングコマンドについて説明する。なお、表示装置102においては、画像処理エンジン180は、センシングコマンドの内容を解析し、当該解析の結果に従ったデータ(つまり、応答データ)を本体装置101に送り返す。
【0100】
図7は、センシングコマンドの概略構成を示した図である。図7を参照して、センシングコマンドは、ヘッダのデータ領域DA01と、タイミングを示すデータ領域DA02と、データ種別を示すデータ領域DA03と、読取方式を示すデータ領域DA04と、画像階調を示すデータ領域DA05と、解像度を示すデータ領域DA06と、予備のデータ領域DA07とを含む。
【0101】
図8は、センシングコマンドの各領域におけるデータの値と、当該値が示す意味内容とを示した図である。
【0102】
図8を参照して、タイミングを示すデータ領域に「00」が設定されたセンシングコマンドは、画像処理エンジン180に対して、そのときのスキャンデータの送信を要求する。つまり、センシングコマンドは、当該センシングコマンドを画像処理エンジン180が受信した後に、光センサ回路144を用いてスキャンすることにより得られるスキャンデータの送信を要求する。また、タイミングを示すデータ領域に「01」が設定されたセンシングコマンドは、スキャン結果に変化があったときのスキャンデータの送信を要求する。さらに、タイミングを示すデータ領域に「10」が設定されたセンシングコマンドは、一定周期毎にスキャンデータの送信を要求する。
【0103】
データ種別を示すデータ領域に「001」が設定されたセンシングコマンドは、部分画像における中心座標の座標値の送信を要求する。また、データ種別を示すデータ領域に「010」が設定されたセンシングコマンドは、スキャン結果が変化した部分画像のみの送信を要求する。なお、スキャン結果が変化したとは、前回のスキャン結果と今回のスキャン結果が異なっていることを指す。さらに、データ種別を示すデータ領域に「100」が設定されたセンシングコマンドは、全体画像の送信を要求する。
【0104】
ここで、「全体画像」とは、m×n個の光センサ回路を用いてスキャンした際に、各光センサ回路から出力される電圧に基づいて、画像処理エンジン180により生成された画像である。また、「部分画像」とは、全体画像の一部である。部分画像に関して、スキャン結果が変化した部分画像のみの送信を要求する構成とした理由については後述する。
【0105】
なお、上記座標値と上記部分画像または上記全体画像とを同時に要求する構成としてもよい。また、液晶パネル140の表面の一部の領域に関してスキャンを行う構成の場合には、上記全体画像はスキャンが行われる領域に対応した画像となる。
【0106】
読取方式を示すデータ領域に「00」が設定されたセンシングコマンドは、バックライト179を点灯してスキャンすることを要求する。また、読取方式を示すデータ領域に「01」が設定されたセンシングコマンドは、バックライト179を消灯してスキャンすることを要求する。なお、バックライト179を消灯してスキャンする構成については後述する(図12)。さらに、読取方式を示すデータ領域に「10」が設定されたセンシングコマンドは、反射と透過とを併用してスキャンすることを要求する。なお、反射と透過とを併用するとは、バックライト179を点灯してスキャンする方式と、バックライトを消灯してスキャンする方式とを切り換えて、スキャン対象物のスキャンを行うことを指す。
【0107】
画像階調を示すデータ領域に「00」が設定されたセンシングコマンドは、白黒の2値の画像データを要求する。また、画像階調を示すデータ領域に「01」が設定されたセンシングコマンドは、多階調の画像データを要求する。さらに、画像階調を示すデータ領域に「10」が設定されたセンシングコマンドは、RGBのカラーの画像データを要求する。
【0108】
解像度を示すデータ領域に「0」が設定されたセンシングコマンドは、解像度の高い画像データを要求する。また、解像度を示すデータ領域に「1」が設定されたセンシングコマンドは、解像度の低い画像データを要求する。
【0109】
また、センシングコマンドには、図7および図8に示したデータ以外に、スキャンを行う領域(光センサ回路144を駆動する画素の領域)の指定、スキャンを行うタイミング、バックライト179の点灯のタイミングなどが記述されている。
【0110】
図9は、応答データの概略構成を示した図である。応答データは、センシングコマンドの内容に応じたデータであって、表示装置102の画像処理エンジン180が本体装置101に対して送信するデータである。
【0111】
図9を参照して、応答データは、ヘッダのデータ領域DA11と、座標を示すデータ領域DA12と、時刻を示すデータ領域DA13と、画像を示すデータ領域DA14とを含む。ここで、座標を示すデータ領域DA12には、部分画像の中心座標の値が書き込まれる。また、時刻を示すデータ領域には、画像処理エンジン180のタイマ182から取得した時刻情報が書き込まれる。さらに、画像を示すデータ領域には、画像処理エンジン180により処理がされた後の画像データ(つまり、スキャンデータ)が書き込まれる。
【0112】
図10は、指900をスキャンすることにより得られた画像(つまり、スキャン画像)を示した図である。図10を参照して、太実線で囲まれた領域W1の画像が全体画像であり、破線で囲まれた領域P1の画像が部分画像である。また、太線で示した十字の中心点C1が、中心座標となる。
【0113】
本実施の形態では、矩形の領域であって、かつセンサ信号線SSjからの出力電圧が予め定められた値以上となった光センサ回路が備えられた画素(つまり、予め定められた階調または予め定められた輝度以上の画素)全てを含む領域を、部分画像の領域としている。
【0114】
また、中心座標は、部分画像の領域における各画素の階調を考慮して決定される座標である。具体的には、中心座標は、部分画像内の各画素に関し、画素の階調と、当該画素と上記矩形の中心点(つまり図心)との距離とに基づき、重み付け処理を行うことにより決定される。つまり、中心座標は、部分画像の図心とは必ずしも一致しない。
【0115】
ただし、必ずしも中心座標の位置は上記に限定されるものではなく、中心座標を上記図心の座標あるいは図心の近傍の座標としてもよい。
【0116】
センシングコマンドのデータ種別を示すデータ領域に「001」が設定されている場合には、画像処理エンジン180は、座標を示すデータ領域DA12に上記中心座標の値を書き込む。この場合、画像処理エンジン180は、画像を示すデータ領域DA14には画像データを書き込まない。画像処理エンジン180は、上記中心座標の値の書き込みを行なった後、当該中心座標の値を含む応答データを本体装置101に送る。このように、データ種別を示すデータ領域に「001」が設定されている場合には、センシングコマンドは、画像データの出力を要求せずに、中心座標の値の出力を要求する。
【0117】
また、センシングコマンドのデータ種別を示すデータ領域に「010」が設定されている場合には、画像処理エンジン180は、画像を示すデータ領域DA14に、スキャン結果が変化した部分画像の画像データを書き込む。この場合、画像処理エンジン180は、中心座標の値を座標を示すデータ領域DA12に書き込まない。画像処理エンジン180は、上記スキャン結果が変化した部分画像の画像データの書き込みを行なった後、当該部分画像の画像データを含む応答データを本体装置101に送る。このように、データ種別を示すデータ領域に「010」が設定されている場合には、センシングコマンドは、中心座標の値の出力を要求せずに、スキャン結果が変化した部分画像の画像データの出力を要求する。
【0118】
なお、上記のように、スキャン結果が変化した部分画像のみの送信を要求する構成とした理由は、スキャンデータのうち部分画像の領域のスキャンデータが、当該領域以外のスキャンデータよりも重要度の高いデータであること、および、指900などのスキャン対象物との接触状態により、スキャンデータのうち部分画像の領域に相当する領域のスキャンデータが変化しやすいことによる。
【0119】
また、センシングコマンドのデータ種別を示すデータ領域に「011」が設定されている場合には、画像処理エンジン180は、座標を示すデータ領域DA12に中心座標の値を書き込むとともに、画像を示すデータ領域DA14にスキャン結果が変化した部分画像の画像データを書き込む。その後、画像処理エンジン180は、当該中心座標の値と当該部分画像の画像データとを含む応答データを本体装置101に送る。このように、データ種別を示すデータ領域に「011」が設定されている場合には、センシングコマンドは、中心座標の値の出力と、スキャン結果が変化した部分画像の画像データの出力とを要求する。
【0120】
また、センシングコマンドのデータ種別を示すデータ領域に「100」が設定されている場合には、画像処理エンジン180は、図9に示した応答データの画像を示すデータ領域DA14に、全体画像の画像データを書き込む。この場合、画像処理エンジン180は、中心座標の値を座標を示すデータ領域DA12に書き込まない。画像処理エンジン180は、上記全体画像の画像データの書き込みを行なった後、当該全体画像の画像データを含む応答データを本体装置101に送る。このように、データ種別を示すデータ領域に「100」が設定されている場合には、センシングコマンドは、中心座標の値の出力を要求せずに、全体画像の画像データの出力を要求する。
【0121】
また、センシングコマンドのデータ種別を示すデータ領域に「101」が設定されている場合には、画像処理エンジン180は、座標を示すデータ領域DA12に中心座標の値を書き込むとともに、画像を示すデータ領域DA14に全体画像の画像データを書き込む。その後、画像処理エンジン180は、当該中心座標の値と当該全体画像の画像データとを含む応答データを本体装置101に送る。このように、データ種別を示すデータ領域に「101」が設定されている場合には、センシングコマンドは、中心座標の値の出力と、全体画像の画像データの出力とを要求する。
【0122】
<変形例について>
ところで、液晶パネル140の構成は、図3に示した構成に限定されるものではない。以下では、図3とは異なる態様の液晶パネルについて説明する。
【0123】
図11は、上記異なる態様である光センサ内蔵液晶パネル140Aの回路図である。図11を参照して、光センサ内蔵液晶パネル140A(以下、液晶パネル140Aと称する)は、1画素内に3つの光センサ回路(144r,144g,144b)を含んでいる。このように液晶パネル140Aが1画素内に3つの光センサ回路(144r,144g,144b)を含む点において、液晶パネル140Aは、1画素内に1つの光センサ回路を含む液晶パネル140と異なる。なお、光センサ回路144の構成と、3つの各光センサ回路(144r,144g,144b)との構成は同じである。
【0124】
また、1画素内における3つのフォトダイオード(145r,145g,145b)は、それぞれ、カラーフィルタ153r、カラーフィルタ153g、カラーフィルタ153bに対向する位置に配されている。それゆえ、フォトダイオード145rは赤色の光を受光し、フォトダイオード145gは緑色の光を受光し、フォトダイオード145bは青色の光を受光する。
【0125】
また、液晶パネル140は1画素内において1つの光センサ回路144しか含まないため、1画素内に配設されるTFT147用のデータ信号線は、センサ信号線SSjとセンサ信号線SDjとの2本であった。しかしながら、液晶パネル140Aは1画素内において3つの光センサ回路(144r,144g,144b)を含むため、1画素内に配設されるTFT(147r,147g,147b)用のデータ信号線は6本となる。
【0126】
具体的には、カラーフィルタ153rに対向する位置に配されたフォトダイオード145rのカソードに接続されたTFT147rに対応して、センサ信号線SSRjとセンサ信号線SDRjとが配設される。また、カラーフィルタ153gに対向する位置に配されたフォトダイオード145gのカソードに接続されたTFT147gに対応して、センサ信号線SSGjとセンサ信号線SDGjとが配設される。さらに、カラーフィルタ153bに対向する位置に配されたフォトダイオード145bのカソードに接続されたTFT147bに対応して、センサ信号線SSBjとセンサ信号線SDBjとが配設される。
【0127】
このような液晶パネル140Aにおいては、バックライト179から照射された白色光は、3つのカラーフィルタ(153r,153g,153b)を透過し、液晶パネル140Aの表面では、赤、緑、および青とが混ざり白色光となる。ここで、スキャン対象物により白色光が反射されると、スキャン対象物の表面の色素に白色光の一部が吸収され、また一部が反射される。そして、反射された光は、再度、3つのカラーフィルタ(153r,153g,153b)を透過する。
【0128】
この際、カラーフィルタ153rは赤色の波長の光を透過し、フォトダイオード145rは、当該赤色の波長の光を受光する。また、カラーフィルタ153gは緑色の波長の光を透過し、フォトダイオード145gは、当該緑色の波長の光を受光する。また、カラーフィルタ153bは青色の波長の光を透過し、フォトダイオード145bは、当該青色の波長の光を受光する。つまり、スキャン対象物によって反射された光は3つのカラーフィルタ(153r,153g,153b)によって3原色(R,G,B)に色分解され、各フォトダイオード(145r,145g,145b)は、それぞれに対応した色の光を受光する。
【0129】
スキャン対象物の表面の色素に白色光の一部が吸収されると、各フォトダイオード(145r,145g,145b)の受光量が各フォトダイオード(145r,145g,145b)で異なることになる。このため、センサ信号線SSRjとセンサ信号線SSGjとセンサ信号線SSBjとの出力電圧は互いに異なる。
【0130】
それゆえ、各出力電圧に応じて、Rの階調とGの階調とBの階調とを画像処理エンジン180が決定することにより、画像処理エンジン180はRGBのカラー画像を本体装置101へ送ることができる。
【0131】
以上述べたように、電子機器100が液晶パネル140Aを備えた構成とすることにより、スキャン対象物をカラーでスキャンできることになる。
【0132】
次に、図6を参照して説明したスキャンの方法(つまり、反射像をスキャンする方法)とは異なるスキャンの方法について、図12を参照して説明する。
【0133】
図12は、スキャンの際にフォトダイオードが外光を受光する構成を示した断面図である。図12を参照して、外光の一部は、指900によって遮られる。それゆえ、指900と接触している液晶パネル140の表面領域の下部に配されたフォトダイオードは、ほとんど外光を受光できない。また、指900の影が形成された表面領域の下部に配されたフォトダイオードは、ある程度の外光を受光できるものの、影が形成されていない表面領域に比べると外光の受光量が少ない。
【0134】
ここで、バックライト179を、少なくともセンシング期間においては消灯させておくことにより、光センサ回路144は、液晶パネル140の表面に対する指900の位置に応じた電圧をセンサ信号線SSjから出力することができる。このように、バックライト179を点灯と消灯とを制御することにより、液晶パネル140では、指900の接触位置、指900の接触している範囲(指900の押圧力によって定まる)、液晶パネル140の表面に対する指900の方向などに応じて、センサ信号線(SS1からSSn)から出力される電圧が変化することになる。
【0135】
以上により、表示装置102は、指900によって外光が遮られることにより得られる像(以下、影像とも称する)をスキャンすることができる。
【0136】
さらに、表示装置102を、バックライト179を点灯させてスキャンを行った後に、バックライト179を消灯させて再度スキャンを行う構成としてもよい。あるいは、表示装置102を、バックライト179を消灯させてスキャンを行った後に、バックライト179を点灯させて再度スキャンを行う構成としてもよい。
【0137】
この場合には、2つのスキャン方式を併用することになるため、2つのスキャンデータを得ることができる。それゆえ、一方のスキャン方式のみを用いてスキャンする場合に比べて、精度の高い結果を得ることができる。
【0138】
<サーバ装置200のハードウェア構成>
次に、サーバ装置200の具体的構成の一態様について説明する。図13は、サーバ装置200のハードウェア構成を表わすブロック図である。図13を参照して、サーバ装置200は、主たる構成要素として、本体装置201と、表示装置202とを含む。
【0139】
本体装置201は、CPU210と、RAM271と、ROM272と、CD−ROM駆動装置273と、通信IF274と、マイク275と、スピーカ276と、操作キー277と、HDD(Hard disk drive)299とを含む。各構成要素は、相互にデータバスDB2によって接続されている。CD−ROM駆動装置273には、CD−ROM2731が装着される。
【0140】
CPU210は、プログラムを実行する。操作キー277は、サーバ装置200の使用者による指示の入力を受ける。RAM271は、CPU210によるプログラムの実行により生成されたデータ、または操作キー277を介して入力されたデータを揮発的に格納する。ROM272は、データを不揮発的に格納する。通信IF274は、他の電子機器に有線により接続するためのインターフェイスである。たとえば、通信IF274に無線通信機を接続することにより、サーバ装置200は無線通信を行うこともできる。HDD299は、プログラム、およびCPU210によるプログラムの実行により生成されたデータを不揮発的に格納する。
【0141】
表示装置202は、ディスプレイなどによって実現される。表示装置202は、CPU210からのデータに基づいて画像を表示する。
【0142】
ところで、サーバ装置200における処理は、各ハードウェアおよびCPU210により実行されるソフトウェアによって実現される。このようなソフトウェアは、ROM272またはHDD299に予め記憶されている場合がある。また、ソフトウェアは、CD−ROM2731その他の記憶媒体に格納されて、プログラム製品として流通している場合もある。あるいは、ソフトウェアは、いわゆるインターネットに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、CD−ROM駆動装置273その他の読取装置によりその記憶媒体から読み取られて、あるいは、通信IF274または図示しない通信部を介してダウンロードされた後、ROM272またはHDD299に一旦格納される。そのソフトウェアは、CPU210によってROM272またはHDD299から読み出され、RAM271に実行可能なプログラムの形式で格納される。CPU210は、そのプログラムを実行する。
【0143】
図13に示されるサーバ装置200の本体装置201を構成する各構成要素は、一般的なものである。したがって、本発明の本質的な部分は、RAM271、ROM272、HDD299、CD−ROM2731その他の記憶媒体に格納されたソフトウェア、あるいはネットワークを介してダウンロード可能なソフトウェアであるともいえる。なお、サーバ装置200の本体装置201のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
【0144】
なお、記録媒体としては、CD−ROMに限られず、メモリカード、FD(Flexible Disk)、ハードディスク、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integrated Circuit)カード(メモリカードを除く)、光カード、マスクROM、EPROM(Electronically Programmable Read-Only Memory)、EEPROM(Electronically Erasable Programmable Read-Only Memory)、フラッシュROMなどの半導体メモリ等の固定的にプログラムを格納する媒体でもよい。
【0145】
ここでいうプログラムとは、CPUにより直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含む。
【0146】
<ネットワークシステム1の機能構成>
図14は、本実施の形態に係るネットワークシステム1の機能構成を示すブロック図である。図14に示すように、本実施の形態に係るネットワークシステム1は、電子機器100と、サーバ装置200と、ネットワーク250と、入力シート300と、キャッシュレジスタ(以下、レジともいう。)400とを含む。
【0147】
図1に示すように、本実施の形態に係る入力シート300は透明である。入力シート300には、入力シート300のユーザの権限やユーザIDを示す識別情報301が描画されている。識別情報301は、予め入力シート300に変更不能に印刷されているものであってもよいし、入力シート300のユーザにより必要に応じて印鑑などを用いて描画されるものであってもよい。ユーザは、入力シート300表面に、マジックやペンなどを用いてテキスト302や画像などを記入することができる。テキスト302は、図1に示すような数字(価格)であってもよいし、商品名やセール中であることを示す文字であってもよい。
【0148】
図14を参照して、電子機器100は、生成部111と、判断部112と、取得部113と、表示制御部114と、通信制御部115とを含む。また、電子機器100は、図2にも示したように、RAM171と、通信装置174と、複数の光センサ回路144および複数の画素回路141を含む液晶パネル140とを含む。
【0149】
まず、複数の光センサ回路144のそれぞれは、入力シート300を透過してきた入射光を受光して、入射光に応じた電気信号を生成する。複数の光センサ回路144は全体として、画像処理エンジン180(図2)などを介して、第1の画像に対応する電気信号を生成部111に入力する。たとえば、本実施の形態のように、入力シート300が透明である場合には、光センサ回路144は入力シート300を透過してきた入射光に基づいて電気信号を生成する。
【0150】
この場合には、図12に示すようにバックライト179を消灯させた状態で、識別情報301やテキスト302を含む第1の画像を読み取ってもよい。なお、入力シート300が透明であるため、ユーザは、液晶パネル140に入力シート300を読み取らせる際に、識別情報301およびテキスト302と液晶パネル140との位置関係を容易に把握することができる。
【0151】
ただし、入力シート300は透明に限らない。入力シート300が透明でない場合には、図6に示すようにバックライト179を点灯させた状態で第1の画像を読み取ることが好ましい。この場合には、複数の光センサ回路144のそれぞれは、入力シート300にて反射してきた入射光に基づいて電気信号を生成する。
【0152】
複数の画素回路141のそれぞれは、表示制御部114からのテキストデータに基づいて、外部に可視光を発する。より詳細には、複数の画素回路141は全体として、画像処理エンジン180(図2)などを介して、表示制御部114からのテキストデータ(電気信号)に基づいて、バックライト179からの光を利用しながらテキスト(第2の画像)を表示する。
【0153】
RAM171は、入力シート300のユーザ独自の(所定の)パターン画像を示すパターンデータ171Aや、取得部113からのテキストデータ171Bを記憶する。また、RAM171は、生成部111にて生成された図示しない第1の画像データなども記憶する。
【0154】
生成部111と、判断部112と、取得部113と、表示制御部114と、通信制御部115とは、CPU110などによって実現される機能である。より詳細には、CPU110が有する各機能は、CPU110がRAM171などに記憶される制御プログラムを実行して、図2に示される各ハードウェアを制御することによって実現される機能である。
【0155】
生成部111は、画像処理エンジン180(図2)を介して、複数の光センサ回路144から入力される電気信号に基づき、液晶パネル140に対向させられた入力シート300上の第1の画像に対応する第1の画像データを生成する。たとえば、生成部111は、図3に示す液晶パネル140からの電気信号に基づいて、単色で構成される画像データを生成する。あるいは、生成部111は、図11に示す液晶パネル140Aからの電気信号に基づいて、複数色で構成される画像データを生成する。
【0156】
ただし、生成部111は、図2に示す画像処理エンジン180によって実現されてもよい。すなわち、画像処理エンジン180によって実現される生成部111が、光センサ回路144からの電気信号に基づいて第1の画像全体を示す第1の画像データを生成し、第1の画像データをCPU110によって実現される判断部112および取得部113やRAM171などに受け渡してもよい。
【0157】
生成部111は、生成した第1の画像データを判断部112に受け渡す。このとき、生成部111は、第1の画像データを一旦RAM171に記憶してもよい。すなわち、生成部111は、常時RAM171の画像データを最新の第1の画像データに更新してもよい。
【0158】
判断部112は、RAM171から、権限を有するユーザ毎に付与された所定のパターン画像に対応するパターンデータ171Aを読み出して、生成部111が生成した第1の画像データと当該パターンデータ171Aとを比較する。判断部112は、パターンデータ171Aと第1の画像データとに基づき、第1の画像データに対応する第1の画像中にパターンデータ171Aに対応する所定のパターン画像が含まれているか否かを判断する。たとえば、判断部112は、パターンマッチング処理などを行うことによって、第1の画像中に所定のパターン画像が含まれているか否かを判断する。すなわち、判断部112は、入力シート300上に所定の権限を有するユーザに割り当てられているパターン画像(識別情報301)が描画されているか否かを判断する。
【0159】
液晶パネル140の構成に応じて、RAM171に格納されるパターンデータ171Aは、単色で構成されるパターン画像に対応する画像データであってもよいし、複数色で構成されるパターン画像に対応する画像データであってもよい。また、たとえば、パターン画像は、印影を示す画像であってもよい。具体的には、入力シート300のユーザは、入力シート300にテキスト302を描画するとともに、入力シート300に印鑑などを押印することによってRAM171に印影を含む識別情報301を描画してもよい。
【0160】
このようにして、判断部112は、入力シート300上にパターン画像が存在するか否かを判断し、当該判断結果を取得部113に受け渡す。
【0161】
取得部113は、入力シート300にパターン画像を含む識別情報301が描画されている場合、生成部111からの第1の画像データに基づいて、第1の画像データに対応する第1の画像からテキストを抽出する。すなわち、取得部113は、生成部111からの第1の画像データをテキストデータ171Bに変換することによって、第1の画像データに対応するテキストデータ171Bを取得する。取得部113は、テキストデータ171BをRAM171に記憶して、当該テキストデータ171Bを表示制御部114に受け渡す。また、取得部113は、テキストデータ171Bを通信制御部115に受け渡してもよい。
【0162】
なお、入力シート300にパターン画像を含む識別情報301が描画されていない場合には、生成部111は対象となっている画像データを破棄する。あるいは、取得部113は、画像データをテキストデータに変換することなく、そのままRAM171に格納しておく。
【0163】
表示制御部114は、入力シート300にパターン画像を含む識別情報301が描画されている場合、取得部113からのテキストデータ171Bに基づき複数の画素回路141を制御することによって、テキストを第2の画像として表示させる。
【0164】
通信制御部115は、通信装置174を介して、取得部113からのテキストデータ171Bや当該テキストデータ171Bに関連する関連データを、送信データとしてネットワーク250へと送出する。関連データは、第1の画像データやテキストデータ171Bの取得時間を示すデータや、第1の画像データを入力したユーザのユーザIDなどを含む。通信装置174は、ネットワーク250を介して、通信制御部115からのテキストデータ171Bや関連データをサーバ装置200やレジ400などに送信する。
【0165】
前述したように、サーバ装置200は、RAM271や、CPU210や、通信I/F274を含む。CPU210は、通信I/F274を介して電子機器100からテキストデータ171Bや関連データを受信して、当該テキストデータ171Bや関連データをRAM271などに記憶する。たとえば、サーバ装置200は、商品の価格を示すテキストデータ171Bを格納したり、商品の価格をテキストデータ171Bによって更新したりすることによって、同一店舗内の商品の価格や、他の全ての店舗内の商品の価格などを管理することができる。また、サーバ装置200は、テキストデータ171Bや関連データやレジ400からの販売結果などを利用することによって、様々な解析処理を行うこともできる。
【0166】
たとえば、本実施の形態に係るCPU210は、電子機器100から受信した、商品の価格と、当該価格の変更時刻と、当該価格を変更したユーザの識別情報とを、当該商品を特定するための識別情報に対応付けてRAM271に格納する。これによって、サーバ装置200の管理者やサーバ装置200にネットワーク250を介して接続されるレジ400のユーザなどが、商品毎の最新の価格情報や価格の変更情報などを利用することができる。
【0167】
<画像処理>
次に、図2、図14、図15を参照して、本実施の形態に係る電子機器100における画像処理について説明する。なお、図15は、本実施の形態に係る電子機器100における画像処理の処理手順を示すイメージ図である。
【0168】
本実施の形態においては、液晶パネル140に含まれる複数の光センサ回路144は、常時、入射光に応じて電気信号を生成する。光センサ回路144のそれぞれは、画像処理エンジン180を介して、生成した電気信号をCPU110に入力する。すなわち、CPU110は、複数の光センサ回路144からの電気信号を、画像処理エンジン180を介して受け付ける(ステップS102)。生成部111として機能するCPU110(あるいは画像処理エンジン180)は、電気信号に基づいて第1の画像データを生成する(ステップS104)。
【0169】
CPU110は、前回RAM171に記憶された第1の画像データと今回生成された第1の画像データとを比較する(ステップS106)。前回RAM171に記憶された第1の画像データと今回生成された第1の画像データとが略一致する場合(ステップS106にてYESである場合)、CPU110はステップS102からの処理を繰り返す。
【0170】
一方、前回RAM171に記憶された第1の画像データと今回生成された第1の画像データとが一致しない場合(ステップS106にてNOである場合)、CPU110は今回生成された第1の画像データをRAM171に記憶する(ステップS108)。あるいは、CPU110は、前回RAM171に記憶された第1の画像データを、今回生成された第1の画像データによって更新する。
【0171】
判断部112として機能するCPU110は、RAM171から特定の権限を有するユーザ毎のパターンデータを順次読み出す(ステップS110)。CPU110は、生成された第1の画像データとパターンデータとに基づいて、第1の画像データが示す第1の画像中にパターンデータが示す所定のパターン画像が含まれているか否かを、特定の権限を有するユーザ毎に順次判断する(ステップS112)。
【0172】
第1の画像中に所定のパターン画像が含まれていない場合(ステップS112にてNOである場合)、CPU110は、ステップS102からの処理を繰り返す。一方、第1の画像中に所定のパターン画像が含まれている場合(ステップS112にてYESである場合)、取得部113として機能するCPU110は、第1の画像データに基づいて、第1の画像からテキストを抽出して、テキストデータ171Bを生成する(ステップS114)。
【0173】
表示制御部114として機能するCPU110は、テキストデータ171Bに基づいて、複数の画素回路141にテキストを表示させる(ステップS116)。また、通信制御部115として機能するCPU110は、通信装置174を介して、テキストデータ171Bを送信データとしてサーバ装置200に送信する(ステップS118)。
【0174】
[実施の形態2]
<ネットワークシステム1Bの全体構成>
次に、本発明の実施の形態2について説明する。上述の実施の形態1に係るネットワークシステム1においては、電子機器100が、光センサ回路144を用いて第1の画像データを読み取り、当該第1の画像データに対応する第1の画像からテキストを抽出することによってテキストデータを生成し、当該テキストデータに基づいて画素回路141を用いてテキストを第2の画像として表示するものであった。一方、本実施の形態に係るネットワークシステム1Bにおいては、電子機器100Bが、光センサ回路144を用いて第1の画像データを読み取り、当該第1の画像データに基づいて画素回路141を用いて第1の画像を第2の画像として表示するものである。
【0175】
まず、本実施の形態に係るネットワークシステム1Bの全体構成について説明する。図16は、本実施の形態に係るネットワークシステム1Bを示す概略図である。より詳細には、図16(A)は、表示内容が書き換えられる前のネットワークシステム1Bを示すイメージ図である。図16(B)は、表示内容が書き換えられる最中のネットワークシステム1Bを示すイメージ図である。図16(C)は、表示内容が書き換えられた後のネットワークシステム1Bを示すイメージ図である。
【0176】
図16(A)から図16(C)を参照して、本実施の形態に係るネットワークシステム1Bは、電子機器100Bと、ネットワーク250と、ネットワーク250を介して電子機器100Bが接続されるサーバ装置200と、入力シート300とを含む。電子機器100Bは、画像を表示するとともに画像を読み取ることができる液晶パネル140と、操作キー177とを含む。
【0177】
<ネットワークシステム1Bの動作概要>
次に、本実施の形態に係るネットワークシステム1Bの動作概要について説明する。
【0178】
図16(A)に示すように、入力シート300には、予め、入力シート300のユーザの権限やユーザIDなどを示すための識別情報301が印刷(表示)されている。そして、入力シート300のユーザは、所望のタイミングで、当該入力シート300に印影303などの所望する画像を描画する。
【0179】
図16(B)に示すように、ユーザは、たとえば印影303などの画像が描画された入力シート300を液晶パネル140に読み取らせる。電子機器100Bは、液晶パネル140を用いて読み取った識別情報301や印影303を含む第1の画像に基づいて生成される第1の画像データと、予め記憶されている所定のパターン画像に対応するパターンデータとに基づいて、入力シート300上に所定パターン画像に一致する識別情報301が印刷されているか否かを判断する。入力シート300上の識別情報301が所定のパターン画像を含む場合、電子機器100Bは、第1の画像データを記憶したり、第1の画像データを他のアプリケーションデータなどに反映させることによって第2の画像データを生成したりする。
【0180】
図16(C)に示すように、電子機器100Bは、第2の画像データに基づいて、液晶パネル140に第2の画像を表示させる。なお、第2の画像データは第1の画像データそのものであってもよく、すなわち電子機器100は第1の画像そのままを、第2の画像として第1の画像を読み取った場所に表示してもよい。あるいは、第2の画像データは第1の画像データを反映させた他の文書データなどであってもよく、すなわち第2の画像は第1の画像を含む他の文書画像などであってもよい。また、電子機器100Bは、第2の画像データをネットワーク250を介してサーバ装置200へ送信する。
【0181】
<ネットワークシステム1Bの変形例の動作概要>
次に、本実施の形態に係るネットワークシステム1Bの変形例の動作概要について説明する。図17は、本変形例に係るネットワークシステム1Bを示す概略図である。より詳細には、図17(A)は、表示内容が書き換えられる前のネットワークシステム1Bの変形例を示すイメージ図である。図17(B)は、表示内容が書き換えられる最中のネットワークシステム1Bの変形例を示すイメージ図である。図17(C)は、表示内容が書き換えられた後のネットワークシステム1Bの変形例を示すイメージ図である。
【0182】
図17(A)に示すように、入力シート300には、予め、入力シート300のユーザの権限やユーザIDなどを示すための識別情報301が印刷(表示)されている。そして、入力シート300のユーザは、所望のタイミングで、入力シート300に所望する商品価格などのテキスト302を記入する。
【0183】
図17(B)に示すように、ユーザは、たとえば商品価格などのテキスト302が記入された入力シート300を液晶パネル140に読み取らせる。電子機器100Bは、液晶パネル140にて読み取った識別情報301やテキスト302や印影303を含む第1の画像に基づいて生成される第1の画像データと、予め記憶されている所定のパターン画像に対応するパターンデータとに基づいて、入力シート300上に所定のパターン画像に一致する識別情報301が印刷されているか否かを判断する。入力シート300上の識別情報301が所定のパターン画像を含む場合、電子機器100Bは、第1の画像データを記憶したり、第1の画像データを他のアプリケーションデータなどに反映させることによって第2の画像データを生成したりする。
【0184】
図17(C)に示すように、電子機器100Bは、第2の画像データに基づいて、液晶パネル140に第2の画像を表示させる。上述したように、第2の画像データは第1の画像データそのものであってもよく、すなわち第2の画像は第1の画像そのものであってもよい。あるいは、第2の画像データは第1の画像データを反映させた他の文書データなどであってもよく、すなわち第2の画像は第1の画像を含む他の文書画像などであってもよい。また、電子機器100Bは、第2の画像データをネットワーク250を介してサーバ装置200へ送信する。
【0185】
以下、このような機能を実現するための構成について詳述する。なお、ネットワークシステム1Bを構成する機器のハードウェア構成については、図2〜図13に示す実施の形態1に係るそれらと同様であるため、ここでは説明を繰り返さない。
【0186】
<ネットワークシステム1Bの機能構成>
図18は、本実施の形態に係るネットワークシステム1Bの機能構成を示すブロック図である。図18に示すように、本実施の形態に係るネットワークシステム1Bは、電子機器100Bと、サーバ装置200と、ネットワーク250と、入力シート300と、他の電子機器450とを含む。
【0187】
図16および図17に示すように、本実施の形態に係る入力シート300も透明である。入力シート300には、入力シート300のユーザの権限やユーザIDを示す識別情報301が描画されている。識別情報301は、予め入力シート300に変更不能に印刷されているものであってもよいし、入力シート300のユーザにより必要に応じて印鑑などを用いて描画されるものであってもよい。ユーザは、入力シート300表面に、印鑑やマジックやペンなどを用いて画像やテキストを描画することができる。
【0188】
図18を参照して、電子機器100Bは、生成部111と、判断部112と、表示制御部116と、通信制御部117とを含む。また、電子機器100Bは、図2にも示したように、RAM171と、通信装置174と、複数の光センサ回路144および複数の画素回路141を含む液晶パネル140とを含む。
【0189】
通信装置174と、複数の光センサ回路144および複数の画素回路141を含む液晶パネル140とは、実施の形態に係るそれらと同様の部品であるため、ここでは説明を繰り返さない。
【0190】
RAM171は、入力シート300のユーザ独自の(所定の)パターン画像を示すパターンデータ171Aや、生成部111からの第2の画像データ171Cを記憶する。また、RAM171は、生成部111にて生成された図示しない第1の画像データなども記憶する。
【0191】
生成部111と、判断部112と、表示制御部116と、通信制御部117とは、CPU110などによって実現される機能である。より詳細には、CPU110が有する各機能は、CPU110がRAM171などに記憶される制御プログラムを実行して、図2に示される各ハードウェアを制御することによって実現される機能である。
【0192】
ただし、実施の形態1と同様に、生成部111は、図2に示す画像処理エンジン180によって実現されてもよい。すなわち、画像処理エンジン180によって実現される生成部111が、電気信号に基づいて第1の画像全体を示す第1の画像データを生成し、第1の画像データをCPU110によって実現される判断部112および取得部113やRAM171などに受け渡してもよい。
【0193】
生成部111と判断部112の構成は、実施の形態に係るそれらと同様であるため、ここでは説明を繰り返さない。
【0194】
本実施の形態に係る表示制御部116は、入力シート300に識別情報が描画されている場合には、生成部111からの第1の画像データ(あるいは第2の画像データ)に基づき複数の画素回路141を制御することによって、当該複数の画素回路141に第1の画像(あるいは第2の画像)を表示させる。すなわち、表示制御部116は、複数の画素回路141を介して、第1の画像データに基づいて第1の画像そのままを第2の画像として表示させてもよいし、後述するように第1の画像データを加工した第2の画像データに基づいて第1の画像とは異なる第2の画像を表示させてもよい。
【0195】
通信制御部117は、入力シート300に識別情報が描画されている場合には、通信装置174を介して、生成部111からの第1の画像データ(あるいは第2の画像データ)を送信データとしてネットワーク250へと送出する。通信装置174は、ネットワーク250を介して、送信データをサーバ装置200や、他の電子機器450などに送信する。
【0196】
なお、本実施の形態に係る判断部112は、判断結果を一旦生成部111に受け渡してもよい。そして、本実施の形態に係る生成部111は、入力シート300に所定のパターン画像が描画されている場合には、第1の画像データを反映させた他のアプリケーション用の文書データなどを第2の画像データとして表示制御部116に受け渡す。表示制御部114は、第2の画像データに基づいて、複数の画素回路141に第2の画像を表示させる。
【0197】
たとえば、本実施の形態に係る生成部111は、第1の画像データが印影303を示す場合において、他のアプリケーションにて使用されている文書データに当該印影303を示す第1の画像データを追加することによって、印影303が付与された文書に対応する第2の画像データ171Cを生成する。具体的には、生成部111は、文書データと第1の画像データとに基づいて、決済文書の印鑑欄などに印影303が描画された状態の文書データを第2の画像データ171Cとして出力する。生成部111は、第2の画像データ171CをRAM171に記憶する。表示制御部114は、第2の画像データ171Cに基づいて、印影303が押捺されている文書を複数の画素回路141に表示させる。
【0198】
前述したように、サーバ装置200は、RAM271や、CPU210や、通信I/F274を含む。CPU210は、通信I/F274を介して電子機器100Bから送信データとして第2の画像データ171Cを受信して、当該第2の画像データ171CをRAM271などに記憶する。たとえば、サーバ装置200は、印影303の画像を示す第2の画像データ171Cを格納することができる。
【0199】
本実施の形態に係るCPU210は、第2の画像データ171CをRAM271に格納する。これによって、サーバ装置200のユーザや、サーバ装置200にネットワーク250を介して接続される他の電子機器450のユーザが、印影303が描画された文書を利用することができる。
【0200】
<画像処理>
次に、図2、図18、図19を参照して、本実施の形態に係る電子機器100Bにおける画像処理について説明する。なお、図19は、本実施の形態に係る電子機器100Bにおける画像処理の処理手順を示すイメージ図である。
【0201】
本実施の形態においては、液晶パネル140に含まれる複数の光センサ回路144は、常時、入射光に応じて電気信号を生成する。光センサ回路144のそれぞれは、生成した電気信号をCPU110に入力する。すなわち、CPU110は、複数の光センサ回路144からの電気信号を受け付ける(ステップS102)。生成部111として機能するCPU110は、電気信号に基づいて第1の画像データを生成する(ステップS104)。
【0202】
CPU110は、前回RAM171に記憶された第1の画像データと今回生成された第1の画像データとを比較する(ステップS106)。前回RAM171に記憶された第1の画像データと今回生成された第1の画像データとが略一致する場合(ステップS106にてYESである場合)、CPU110はステップS102からの処理を繰り返す。
【0203】
一方、前回RAM171に記憶された第1の画像データと今回生成された第1の画像データとが一致しない場合(ステップS106にてNOである場合)、CPU110は今回生成された第1の画像データをRAM171に記憶する(ステップS108)。あるいは、CPU110は、前回RAM171に記憶された第1の画像データを、今回生成された第1の画像データによって更新する。
【0204】
判断部112として機能するCPU110は、RAM171からパターンデータを読み出す(ステップS110)。CPU110は、生成された第1の画像データとパターンデータとに基づいて、第1の画像データが示す第1の画像中にパターンデータが示す所定のパターン画像が含まれているか否かを判断する(ステップS112)。
【0205】
第1の画像中に所定のパターン画像が含まれていない場合(ステップS112にてNOである場合)、CPU110は、ステップS102からの処理を繰り返す。一方、第1の画像中に所定のパターン画像が含まれている場合(ステップS112にてYESである場合)、取得部113として機能するCPU110は、第1の画像データに基づいて、他のアプリケーションプログラムでも利用可能な文書データに第1の画像データを反映させる(ステップS214)。すなわち、CPU110は、第1の画像が描画された文書を示す第2の画像データ171Cを生成する。
【0206】
表示制御部114として機能するCPU110は、第2の画像データ171Cに基づいて、複数の画素回路141に第2の画像を表示させる(ステップS216)。また、通信制御部115として機能するCPU110は、通信装置174を介して、第2の画像データ171Cを送信データとしてサーバ装置200に送信する(ステップS218)。
【0207】
ただし、ステップS214を省略してもよい。すなわち、第1の画像中に所定のパターン画像が含まれている場合(ステップS112にてYESである場合)、表示制御部114として機能するCPU110は、第1の画像データに基づいて、複数の画素回路141に第1の画像を表示させてもよい(ステップS216)。また、通信制御部115として機能するCPU110は、通信装置174を介して、第1の画像データを送信データとしてサーバ装置200に送信してもよい(ステップS218)。
【0208】
<その他の実施の形態>
本発明は、システム或いは装置にプログラムを供給することによって達成される場合にも適用できることはいうまでもない。そして、本発明を達成するためのソフトウェアによって表されるプログラムを格納した記憶媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することによっても、本発明の効果を享受することが可能となる。
【0209】
この場合、記憶媒体から読出されたプログラムコード自体が前述した実施の形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
【0210】
プログラムコードを供給するための記憶媒体としては、例えば、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード(ICメモリカード)、ROM(マスクROM、フラッシュEEPROMなど)などを用いることができる。
【0211】
また、コンピュータが読出したプログラムコードを実行することにより、前述した実施の形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行い、その処理によって前述した実施の形態の機能が実現される場合も含まれることは言うまでもない。
【0212】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施の形態の機能が実現される場合も含まれることは言うまでもない。
【0213】
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した説明ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【図面の簡単な説明】
【0214】
【図1】実施の形態1に係るネットワークシステムを示す概略図である。
【図2】電子機器のハードウェア構成を表わすブロック図である。
【図3】液晶パネルの構成と当該液晶パネルの周辺回路とを示した図である。
【図4】液晶パネルとバックライトとの断面図である。
【図5】光センサ回路を動作させる際のタイミングチャートを示した図である。
【図6】スキャンの際にフォトダイオードがバックライトからの光を受光する構成を示した断面図である。
【図7】センシングコマンドの概略構成を示した図である。
【図8】センシングコマンドの各領域におけるデータの値と当該値が示す意味内容とを示した図である。
【図9】応答データの概略構成を示した図である。
【図10】指をスキャンすることにより得られた画像を示した図である。
【図11】光センサ内蔵液晶パネルの変形例を示す回路図である。
【図12】スキャンの際にフォトダイオードが外光を受光する構成を示した断面図である。
【図13】サーバ装置のハードウェア構成を表わすブロック図である。
【図14】実施の形態1に係るネットワークシステムの機能構成を示すブロック図である。
【図15】実施の形態1に係る電子機器における画像処理の処理手順を示すイメージ図である。
【図16】実施の形態2に係るネットワークシステムを示す概略図である。
【図17】実施の形態2の変形例に係るネットワークシステムを示す概略図である。
【図18】実施の形態2に係るネットワークシステムの機能構成を示すブロック図である。
【図19】実施の形態2に係る電子機器における画像処理の処理手順を示すイメージ図である。
【符号の説明】
【0215】
1,1B ネットワークシステム、100,100B 電子機器、101 本体装置、102 表示装置、110 CPU、111 生成部、112 判断部、113 取得部、114,116 表示制御部、115,117 通信制御部、130 ドライバ、131 走査信号線駆動回路、132 データ信号線駆動回路、133 光センサ駆動回路、134 スイッチ、135 アンプ、140,140A 光センサ内蔵液晶パネル、141 画素回路、141b,141g,141r サブピクセル回路、143 電極対、143a 画素電極、143b 対向電極、144 光センサ回路、145,145b,145g,145r フォトダイオード、146 コンデンサ、151A アクティブマトリクス基板、151B 対向基板、152 液晶層、153b,153g,153r カラーフィルタ、157 データ信号線、161 偏光フィルタ、162 ガラス基板、163 遮光膜、164 配向膜、171 RAM、171A パターンデータ、171B テキストデータ、171C 画像データ、173 メモリカードリーダライタ、174 通信装置、175 マイク、176 スピーカ、177 操作キー、179 バックライト、180 画像処理エンジン、181 ドライバ制御部、182 タイマ、183 信号処理部、200 サーバ装置、201 本体装置、202 表示装置、250 ネットワーク、273 駆動装置、275 マイク、276 スピーカ、277 操作キー、300 入力シート、301 識別情報、302 テキスト、303 印影、400 キャッシュレジスタ(レジ)、450 他の電子機器、900 指、1731 メモリカード、DB1,DB2 データバス。

【特許請求の範囲】
【請求項1】
入射光に応じて電気信号を生成する複数の光センサ回路と、
電気信号に応じて光を発する複数の画素回路と、
所定のパターン画像を示すパターンデータを格納する記憶部と、
前記複数の光センサ回路から入力される電気信号に基づいて画像データを生成する生成手段と、
前記画像データと前記パターンデータとに基づいて、前記画像データに対応する第1の画像中に前記所定のパターン画像が含まれているか否かを判断する判断手段と、
前記第1の画像中に前記所定のパターン画像が含まれている場合に、前記複数の画素回路に前記画像データに対応する第2の画像を表示させる表示制御手段とを備える、液晶表示装置。
【請求項2】
前記第1の画像中に前記所定のパターン画像が含まれている場合に、前記第1の画像からテキストを抽出することによって、前記画像データに基づいてテキストデータを取得する取得手段をさらに備え、
前記表示制御手段は、前記テキストデータに基づいて、前記複数の画素回路に前記第2の画像として前記テキストを表示させる、請求項1に記載の液晶表示装置。
【請求項3】
前記記憶部は、前記第1の画像中に前記所定のパターン画像が含まれている場合に、前記テキストデータを格納する、請求項2に記載の液晶表示装置。
【請求項4】
前記記憶部は、商品の価格を示す価格データを記憶し、
前記取得手段は、前記第1の画像中に前記所定のパターン画像が含まれている場合に、前記テキストデータによって前記価格データを更新する、請求項2または3に記載の液晶表示装置。
【請求項5】
前記表示制御手段は、前記第1の画像中に前記所定のパターン画像が含まれている場合に、前記画像データに基づいて、前記複数の画素回路に前記第2の画像として前記第1の画像を表示させる、請求項1に記載の液晶表示装置。
【請求項6】
前記記憶部は、前記第1の画像中に前記所定のパターン画像が含まれている場合に、前記画像データを格納する、請求項5に記載の液晶表示装置。
【請求項7】
前記複数の光センサ回路は、外部の透明シートからの光を前記入射光として受光し、
前記透明シートには、前記所定のパターン画像が描画されている、請求項1から6のいずれか1項に記載の液晶表示装置。
【請求項8】
液晶表示装置と前記液晶表示装置にネットワークを介して接続可能なサーバ装置とを備えるネットワークシステムであって、
前記液晶表示装置は、
入射光に応じて電気信号を生成する複数の光センサ回路と、
電気信号に応じて光を発する複数の画素回路と、
所定のパターン画像を示すパターンデータを格納する第1の記憶部と、
前記複数の光センサ回路から入力される電気信号に基づいて画像データを生成する生成手段と、
前記画像データと前記パターンデータとに基づいて、前記画像データに対応する第1の画像中に前記所定のパターン画像が含まれているか否かを判断する判断手段と、
前記第1の画像中に前記所定のパターン画像が含まれている場合に、前記複数の画素回路に前記画像データに対応する第2の画像を表示させる表示制御手段と、
前記第1の画像中に前記所定のパターン画像が含まれている場合に、前記複数の画素回路に前記画像データに対応する送信データをネットワークを介して前記サーバ装置へ送信する第1の通信部とを含み、
前記サーバ装置は、
前記液晶表示装置から前記送信データを受信する第2の通信部と、
前記送信データを格納する第2の記憶部とを含む、ネットワークシステム。
【請求項9】
前記所定のパターン画像が描画された透明シートをさらに備え、
前記複数の光センサ回路は、前記透明シートからの光を前記入射光として受光する、請求項8に記載のネットワークシステム。
【請求項10】
液晶表示装置における画像処理方法であって、
前記液晶表示装置は、
演算処理部と、
入射光に応じて電気信号を生成する複数の光センサ回路と、
電気信号に応じて光を発する複数の画素回路と、
所定のパターン画像を示すパターンデータを格納する記憶部とを備え、
前記演算処理部が、前記複数の光センサ回路から入力される電気信号に基づいて画像データを生成するステップと、
前記演算処理部が、前記画像データと前記パターンデータとに基づいて、前記画像データに対応する第1の画像中に前記所定のパターン画像が含まれているか否かを判断するステップと、
前記演算処理部が、前記第1の画像中に前記所定のパターン画像が含まれている場合に、前記複数の画素回路に前記画像データに対応する第2の画像を表示させるステップとを備える、画像処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate


【公開番号】特開2010−128471(P2010−128471A)
【公開日】平成22年6月10日(2010.6.10)
【国際特許分類】
【出願番号】特願2008−306582(P2008−306582)
【出願日】平成20年12月1日(2008.12.1)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】