入力装置、及び入力装置の制御方法
【課題】ユーザにとって利便性及び操作性の高い入力装置を提供する。
【解決手段】データ表示/センサ装置100は、地図の一部を表示すると共に、近傍の像を検知することが可能なセンサ内蔵液晶パネル301と、検知した像の動きに応じて、地図の位置を変更するスクロール制御部840と、センサ内蔵液晶パネル301が検知した像の位置を、地図上の位置として特定する位置特定部830と、検知した像の面積に応じて、スクロール制御部840が地図の位置を変更するか、あるいは位置特定部830が地図上の位置を特定するか、を選択する面積判定部とを備える。これにより、データ表示/センサ装置100は、スクロール制御部840が地図の位置を変更する動作と、位置特定部830が、センサ内蔵液晶パネル301が検知した像の位置を地図上の位置として特定する動作と、を区別して実行することができる。
【解決手段】データ表示/センサ装置100は、地図の一部を表示すると共に、近傍の像を検知することが可能なセンサ内蔵液晶パネル301と、検知した像の動きに応じて、地図の位置を変更するスクロール制御部840と、センサ内蔵液晶パネル301が検知した像の位置を、地図上の位置として特定する位置特定部830と、検知した像の面積に応じて、スクロール制御部840が地図の位置を変更するか、あるいは位置特定部830が地図上の位置を特定するか、を選択する面積判定部とを備える。これにより、データ表示/センサ装置100は、スクロール制御部840が地図の位置を変更する動作と、位置特定部830が、センサ内蔵液晶パネル301が検知した像の位置を地図上の位置として特定する動作と、を区別して実行することができる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像の表示および対象物の読み取りが同時に可能な入力装置、及び入力装置の制御方法に関するものである。
【背景技術】
【0002】
近年、タッチパネル式の入力装置が、携帯電話機、PDAなどに代表されるモバイル機器(携帯端末)において広く普及している。その一例として、入力面(操作面)に対して、指が接触していない状態から、接触している状態に変化したときに、接触した指の位置に応じた入力が行われる入力装置が知られている。
【0003】
特許文献1には、所定のペン入力操作が終わって、そのペンを画面上から離すことにより1回のペン操作が終了したと判定して、画面に表示される地図をスクロールさせる車両用ナビゲーション装置が開示されている。
【0004】
特許文献2には、地図上の現在位置から目的地までの走行経路をタッチパネルを指でなぞって設定することができ、また、タッチパネル上における指の移動ベクトルに応じて画面に表示された地図をスクロールさせる自動車の経路誘導装置が開示されている。
【特許文献1】特開平9−101171号公報(平成9年4月15日公開)
【特許文献2】特開平7−91974号公報(平成7年4月7日公開)
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、前記従来の構成では、画像を移動させる動作と、その画像に入力する動作とを独立して行うことはできない。
【0006】
例えば、特許文献1に記載の車両用ナビゲーション装置では、所定のペン入力操作が終わって、そのペンを画面上から離さない限り、画面に表示される地図はスクロールしない。従って、前記車両用ナビゲーション装置は、画面をスクロールさせつつ入力操作を行いたいというユーザの要求に応えることができない。
【0007】
また、特許文献2に記載の自動車の経路誘導装置では、タッチパネル上の指が動かない限り、地図はスクロールしない。従って、前記自動車の経路誘導装置は、地図のみをスクロールさせて、周囲の状況を十分に把握した上で入力操作を行いたいというユーザの要求に応えることができない。
【0008】
本発明は、前記の問題点に鑑みてなされたものであり、その目的は、ユーザにとって利便性及び操作性の高い入力装置、及び入力装置の制御方法を実現することにある。
【課題を解決するための手段】
【0009】
本発明の入力装置は、前記課題を解決するために、近傍の像を検知することによりユーザの入力を取得する入力装置であって、1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することが可能な面状部材と、前記面状部材が検知した像の動きに応じて、前記面状部材に表示させる、前記画像上のサブ画像の位置を変更する位置変更手段と、前記面状部材が検知した像の位置を、前記画像上の位置として特定する位置特定手段と、を備え、さらに、前記面状部材が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、前記位置変更手段が前記サブ画像の位置を変更するか、あるいは前記位置特定手段が前記画像上の位置を特定するか、を選択する選択手段を備えることを特徴としている。
【0010】
また、本発明の入力装置の制御方法は、1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することでユーザの入力を取得可能な面状部材を備える入力装置の制御方法であって、前記面状部材が検知した像の動きに応じて、前記面状部材に表示させる、前記画像上のサブ画像の位置を変更する位置変更ステップと、前記面状部材が検知した像の位置を、前記画像上の位置として特定する位置特定ステップと、を含み、さらに、前記面状部材が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、前記位置変更ステップが前記サブ画像の位置を変更するか、あるいは前記位置特定ステップが前記画像上の位置を特定するか、を選択する選択ステップを含むことを特徴としている。
【0011】
これにより、本発明に係る入力装置および入力装置の制御方法は、面状部材が近傍の像を検知すると共に、検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、2つの動作、つまり、位置変更手段がサブ画像の位置を変更する動作と、位置特定手段が、面状部材が検知した像の位置を前記画像上の位置として特定する動作と、を区別して実行することができる。従って、面状部材が異なる面積の2つの像を検知した場合にも、前記2つの動作を独立して行うことができる。つまり、本発明に係る入力装置および入力装置の制御方法は、前記2つの動作について、一方の動作が終了するのを待ってから他方の動作を実行する必要がなく、それゆえ、途切れることなく連続的で多彩な動作をユーザに提供することができる。そして、この動作は従来の入力装置では実現できなかった動作であるため、優れた操作性及び利便性がユーザにもたらされる。
【0012】
なお、その動作後の画像に対してさらに何らかの動作を与えたい場合には、ユーザは、面状部材が検知する像の面積を考慮しつつ、所望の像の動きを面状部材に検知させればよい。これにより、次の動作が連続的に実行される。
【0013】
このように、本発明に係る入力装置および入力装置の制御方法は、優れた操作性及び利便性をユーザに提供することができる。
【0014】
さらに、本発明に係る入力装置では、前記の構成において、前記選択手段は、前記像の面積が前記所定の閾値よりも大きいと判定した場合に、前記面状部材が検知した像の動きに応じて、前記サブ画像の位置を変更し、前記像の面積が前記所定の閾値以下であると判定した場合に、前記画像上の位置を特定する構成であってもよい。
【0015】
前記の構成によれば、本発明に係る入力装置では、選択手段が、面状部材が検知した像の面積が所定の閾値よりも大きいか否かを判定することができる。
【0016】
従って、本発明に係る入力装置は、像の面積と所定の閾値との大小を比較することにより、容易かつ迅速に、像の面積に応じて、面状部材が像を検知した後の2つの動作、つまり、位置変更手段がサブ画像の位置を変更する動作と、位置特定手段が、面状部材が検知した像の位置を前記画像上の位置として特定する動作とを区別して実行することができる。
【0017】
また、本発明に係る入力装置は、前記所定の閾値を変更することにより、選択手段による判定結果を変更することができるため、利便性の高い入力装置をユーザに提供することができる。
【0018】
さらに、本発明に係る入力装置では、前記の構成において、前記位置特定手段が特定した前記画像上の位置を示す位置画像を、前記画像上に重畳表示させる画像表示制御手段を備える構成であってもよい。
【0019】
前記の構成によれば、本発明に係る入力装置では、画像表示制御手段が、前記位置特定手段が特定した前記画像上の位置を示す位置画像を前記画像上に重畳表示させることができる。
【0020】
従って、画像表示制御手段は、位置変更手段がサブ画像の位置を変更した動作と、位置特定手段が面状部材が検知した像の位置を前記画像上の位置として特定し、その特定された画像上の位置を示す位置画像を前記画像上に表示する動作と、を重畳表示させるため、それらの動作結果を容易かつ迅速にユーザに確認させることができる。
【0021】
それゆえ、ユーザは、面状部材に表示された動作結果を視認することにより、次の動作を連続して行うことができる。
【0022】
さらに、本発明に係る入力装置では、前記の構成において、前記画像は、地図であって、その地図の縮尺に基づいて、前記位置画像によって描かれる軌跡の長さに相当する前記地図上の距離を算出する距離算出手段を備える構成であってもよい。
【0023】
前記の構成によれば、本発明に係る入力装置では、距離算出手段は、位置画像によって描かれる軌跡の長さに相当する前記地図上の距離を算出することができる。
【0024】
従って、距離算出手段が算出した地図上の距離を使用することにより、そのデータを活用した様々な処理が可能となる。例えば、本発明に係る入力装置を自動車用ナビゲーションシステムに利用した場合には、ルート毎の距離の大小を比較する処理、あるいは年・月・日などの区分ごとの移動距離を算出する処理が可能となる。
【0025】
このように、本発明に係る入力装置は、距離算出手段が、位置画像によって描かれる、前記面状部材が検知した像の軌跡の長さに相当する前記地図上の距離を算出することができるため、優れた操作性及び利便性をユーザに提供することができる。
【0026】
さらに、本発明に係る入力装置では、前記の構成において、画像表示制御手段は、前記距離算出手段が算出した前記地図上の距離を前記面状部材に表示させる構成であってもよい。
【0027】
これにより、本発明に係る入力装置は、地図上の距離を正確かつ迅速にユーザに視認させることができ、その結果、ルート毎の距離の長短、あるいは最短経路といった情報をユーザに知らせることができる。
【0028】
従って、本発明に係る入力装置は、従来の入力装置では感覚的にしか測ることができなかった地図上の距離を正確かつ迅速にユーザに知らせることができるため、その地図上の距離を正確に知りたいというユーザの要望に応えることができる。
【発明の効果】
【0029】
本発明に係る入力装置は、以上のように、近傍の像を検知することによりユーザの入力を取得する入力装置であって、1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することが可能な面状部材と、前記面状部材が検知した像の動きに応じて、前記面状部材に表示させる、前記画像上のサブ画像の位置を変更する位置変更手段と、前記面状部材が検知した像の位置を、前記画像上の位置として特定する位置特定手段と、を備え、さらに、前記面状部材が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、前記位置変更手段が前記サブ画像の位置を変更するか、あるいは前記位置特定手段が前記画像上の位置を特定するか、を選択する選択手段を備える構成である。
【0030】
また、本発明に係る入力装置の制御方法は、以上のように、1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することでユーザの入力を取得可能な面状部材を備える入力装置の制御方法であって、前記面状部材が検知した像の動きに応じて、前記面状部材に表示させる、前記画像上のサブ画像の位置を変更する位置変更ステップと、前記面状部材が検知した像の位置を、前記画像上の位置として特定する位置特定ステップと、を含み、さらに、前記面状部材が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、前記位置変更ステップが前記サブ画像の位置を変更するか、あるいは前記位置特定ステップが前記画像上の位置を特定するか、を選択する選択ステップを含む構成である。
【0031】
これにより、操作性及び利便性に優れた入力装置および入力装置の制御方法をユーザに提供することができる。
【図面の簡単な説明】
【0032】
【図1】本発明の一実施形態に係るデータ表示/センサ装置の要部構成を表すブロック図である。
【図2】本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルの断面を模式的に示す図である。
【図3】(a)は、本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルにて反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。(b)は、本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルにて影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。
【図4】本発明の一実施形態に係るデータ表示/センサ装置の要部構成を示すブロック図である。
【図5】本発明の一実施形態に係るデータ表示/センサ装置で用いられるコマンドのフレーム構造の一例を模式的に示す図である。
【図6】図5に示したコマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
【図7】(a)は、本発明の一実施形態に係るデータ表示/センサ装置にて、対象物がセンサ内蔵液晶パネル上に置かれていないときに、センサ内蔵液晶パネル全体をスキャンした結果として得られる画像データである。(b)は、本発明の一実施形態に係るデータ表示/センサ装置にて、ユーザが指でセンサ内蔵液晶パネルをタッチしているときに、スキャンした結果として得られる画像データである。
【図8】本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルの構成およびその周辺回路の構成を示すブロック図である。
【図9】スタイラペンによる経路のトレースが画面左端まで到達したため、指を右側に移動する様子を示す図である。
【図10】図9による指の動作によって地図がスクロールし、再びスタイラペンを使用して経路をトレースする様子を示す図である。
【図11】本発明の一実施形態に係るデータ表示/センサ装置の処理の流れを表すフローチャートである。
【図12】本発明の他の実施形態に係る実施例を示す図である。
【図13】本発明の他の実施形態に他の実施例を示す図である。
【発明を実施するための形態】
【0033】
〔実施の形態1〕
本実施の形態について図1〜図13に基づいて説明すると以下の通りである。
【0034】
本実施の形態に係るデータ表示/センサ装置100(入力装置)は、概略的に言えば、1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することが可能なセンサ内蔵液晶パネル301(面状部材)と、センサ内蔵液晶パネル301が検知した像の動きに応じて、センサ内蔵液晶パネル301に表示させる、画像上のサブ画像の位置を変更するスクロール制御部840(位置変更手段)と、センサ内蔵液晶パネル301が検知した像の位置を、画像上の位置として特定する位置特定部830(位置特定手段)と、を備え、さらに、センサ内蔵液晶パネル301が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、スクロール制御部840がサブ画像の位置を変更するか、あるいは位置特定部830が画像上の位置を特定するか、を選択する面積判定部820(選択手段)と、を備える。
【0035】
そこで、まず、データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301の概要について説明する。なお、データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301は1つでもよいし、複数でもよい。
【0036】
(センサ内蔵液晶パネルの概要)
前記データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301は、データの表示に加え、対象物の画像検出が可能な液晶パネルである。ここで、対象物の画像検出とは、例えば、ユーザが指やペンなどでポインティング(タッチ)した位置の検出や、印刷物等の画像の読み取り(スキャン)である。なお、表示に用いるデバイスは、液晶パネルに限定されるものではなく、有機EL(Electro Luminescence)パネルなどであってもよい。
【0037】
図2を参照しながら、センサ内蔵液晶パネル301の構造について説明する。図2は、センサ内蔵液晶パネル301の断面を模式的に示す図である。なお、ここで説明するセンサ内蔵液晶パネル301は一例であり、表示面と読取面とが共用されているものであれば、任意の構造のものが利用できる。
【0038】
図示のとおり、センサ内蔵液晶パネル301は、背面側に配置されるアクティブマトリクス基板51Aと、表面側に配置される対向基板51Bとを備え、これら基板の間に液晶層52を挟持した構造を有している。アクティブマトリクス基板51Aには、画素電極56、データ信号線57、光センサ回路32(図示せず)、配向膜58、偏光板59などが設けられる。対向基板51Bには、カラーフィルタ53r(赤)、53g(緑)、53b(青)、遮光膜54、対向電極55、配向膜58、偏光板59などが設けられる。また、センサ内蔵液晶パネル301の背面には、バックライト307が設けられている。
【0039】
なお、光センサ回路32に含まれるフォトダイオード6は、青のカラーフィルタ53bを設けた画素電極56の近傍に設けられているが、この構成に限定されるものではない。赤のカラーフィルタ53rを設けた画素電極56の近傍に設けてもよいし、緑のカラーフィルタ53gを設けた画素電極56の近傍に設けてもよい。
【0040】
次に、図3(a)および図3(b)を参照しながら、ユーザが、指やペンで、センサ内蔵液晶パネル301上をタッチした位置を検出する2種類の方法について説明する。
【0041】
図3(a)は、反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。バックライト307から光63が出射されると、フォトダイオード6を含む光センサ回路32は、指などの対象物64により反射された光63を検知する。これにより、対象物64の反射像を検知することができる。このように、センサ内蔵液晶パネル301は、反射像を検知することにより、タッチした位置を検出することができる。
【0042】
また、図3(b)は、影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。図3(b)に示すように、フォトダイオード6を含む光センサ回路32は、対向基板51Bなどを透過した外光61を検知する。しかしながら、ペンなどの対象物62がある場合は、外光61の入射が妨げられるので、光センサ回路32が検知する光量が減る。これにより、対象物62の影像を検知することができる。このように、センサ内蔵液晶パネル301は、影像を検知することにより、タッチした位置を検出することもできる。
【0043】
上述のように、フォトダイオード6は、バックライト307より出射された光の反射光(影像)を検知してもよいし、外光による影像を検知してもよい。また、前記2種類の検知方法を併用して、影像と反射像とを両方を同時に検知するようにしてもよい。
【0044】
(データ表示/センサ装置の要部構成)
次に、図4を参照しながら、前記データ表示/センサ装置100の要部構成について説明する。図4は、データ表示/センサ装置100の要部構成を示すブロック図である。図示のように、データ表示/センサ装置100は、1または複数の表示/光センサ部300、回路制御部600、データ処理部700、主制御部800、記憶部901、一次記憶部902、操作部903、外部通信部907、音声出力部908、および音声入力部909を備えている。ここでは、データ表示/センサ装置100は、表示/光センサ部300を2つ(第1表示/光センサ部300Aおよび第2表示/光センサ部300B)備えているものとして説明する。なお、第1表示/光センサ部300Aおよび第2表示/光センサ部300Bを区別しないときは、表示/光センサ部300と表記する。
【0045】
表示/光センサ部300は、いわゆる光センサ内蔵液晶表示装置でdfある。表示/光センサ部300は、センサ内蔵液晶パネル301、バックライト307、それらを駆動するための周辺回路309を含んで構成される。
【0046】
センサ内蔵液晶パネル301は、マトリクス状に配置された複数の画素回路31および光センサ回路32を含んで構成される。センサ内蔵液晶パネル301の詳細な構成については後述する。
【0047】
周辺回路309は、液晶パネル駆動回路304、光センサ駆動回路305、信号変換回路306、バックライト駆動回路308を含む。
【0048】
液晶パネル駆動回路304は、回路制御部600の表示制御部601からのタイミング制御信号(TC1)およびデータ信号(D)に従って、制御信号(G)およびデータ信号(S)を出力し、画素回路31を駆動する回路である。画素回路31の駆動方法の詳細については後述する。
【0049】
光センサ駆動回路305は、回路制御部600のセンサ制御部602からのタイミング制御信号(TC2)に従って、信号線(R)に電圧を印加し、光センサ回路32を駆動する回路である。光センサ回路32の駆動方法の詳細については後述する。
【0050】
信号変換回路306は、光センサ回路32から出力されるセンサ出力信号(SS)をデジタル信号(DS)に変換し、該変換後の信号をセンサ制御部602に送信する回路である。
【0051】
バックライト307は、複数の白色LED(Light Emitting Diode)を含んでおり、センサ内蔵液晶パネル301の背面に配置される。そして、バックライト駆動回路308から電源電圧が印加されると、バックライト307は点灯し、センサ内蔵液晶パネル301に光を照射する。なお、バックライト307は、白色LEDに限らず、他の色のLEDを含んでいてもよい。また、バックライト307は、LEDに代えて、例えば、冷陰極管(CCFL:Cold Cathode Fluorescent Lamp)を含むものであってもよい。
【0052】
バックライト駆動回路308は、回路制御部600のバックライト制御部603からの制御信号(BK)がハイレベルであるときは、バックライト307に電源電圧を印加し、逆に、バックライト制御部603からの制御信号がローレベルであるときは、バックライト307に電源電圧を印加しない。
【0053】
次に、回路制御部600について説明する。回路制御部600は、表示/光センサ部300の周辺回路309を制御するデバイスドライバとしての機能を備えるものである。回路制御部600は、表示制御部601、センサ制御部602、バックライト制御部603、および表示データ記憶部604を備えている。
【0054】
表示制御部601は、データ処理部700の表示データ処理部701から表示データを受信するとともに、表示データ処理部701からの指示に従って、表示/光センサ部300の液晶パネル駆動回路304に、タイミング制御信号(TC1)およびデータ信号(D)を送信し、前記受信した表示データをセンサ内蔵液晶パネル301に表示させる。
【0055】
なお、表示制御部601は、表示データ処理部701から受信した表示データを、表示データ記憶部604に一次記憶させる。そして、当該一次記憶させた表示データに基づいて、データ信号(D)を生成する。表示データ記憶部604は、例えば、VRAM(video random access memory)などである。
【0056】
センサ制御部602は、データ処理部700のセンサデータ処理部703からの指示に従って、表示/光センサ部300の光センサ駆動回路305に、タイミング制御信号(TC2)を送信し、センサ内蔵液晶パネル301にてスキャンを実行させる。
【0057】
また、センサ制御部602は、信号変換回路306からデジタル信号(DS)を受信する。そして、センサ内蔵液晶パネル301に含まれる全ての光センサ回路32から出力されたセンサ出力信号(SS)に対応するデジタル信号(DS)に基づいて、画像データを生成する。つまり、センサ内蔵液晶パネル301の読み取り領域全体で読み取った画像データを生成する。そして、該生成した画像データをセンサデータ処理部703に送信する。
【0058】
バックライト制御部603は、表示データ処理部701およびセンサデータ処理部703からの指示に従って、表示/光センサ部300のバックライト駆動回路308に制御信号(BK)を送信し、バックライト307を駆動させる。
【0059】
なお、データ表示/センサ装置100が、複数の表示/光センサ部300を備える場合、表示制御部601は、データ処理部700から、どの表示/光センサ部300にて表示データを表示するかの指示を受けたとき、当該指示に応じた表示/光センサ部300の液晶パネル駆動回路304を制御する。また、センサ制御部602は、データ処理部700から、どの表示/光センサ部300にて対象物のスキャンを行なうかの指示を受けたとき、当該指示に応じた表示/光センサ部300の光センサ駆動回路305を制御するとともに、当該指示に応じた表示/光センサ部300の信号変換回路306からデジタル信号(DS)を受信する。
【0060】
次に、データ処理部700について説明する。データ処理部700は、主制御部800から受信する「コマンド」に基づいて、回路制御部600に指示を与えるミドルウェアとしての機能を備えるものである。なお、コマンドの詳細については後述する。
【0061】
データ処理部700は、表示データ処理部701およびセンサデータ処理部703を備えている。そして、データ処理部700が、主制御部800からコマンドを受信すると、該受信したコマンドに含まれる各フィールド(後述する)の値に応じて、表示データ処理部701およびセンサデータ処理部703の少なくとも一方が動作する。
【0062】
表示データ処理部701は、主制御部800から表示データを受信するとともに、データ処理部700が受信したコマンドに従って、表示制御部601およびバックライト制御部603に指示を与え、前記受信した表示データをセンサ内蔵液晶パネル301に表示させる。なお、コマンドに応じた、表示データ処理部701の動作については、後述する。
【0063】
センサデータ処理部703は、データ処理部700が受信したコマンドに従って、センサ制御部602およびバックライト制御部603に指示を与える。
【0064】
また、センサデータ処理部703は、センサ制御部602から画像データを受信し、当該画像データをそのまま画像データバッファ704に格納する。そして、センサデータ処理部703は、データ処理部700が受信したコマンドに従って、画像データバッファ704に記憶されている画像データに基づいて、「全体画像データ」、「部分画像データ(部分画像の座標データを含む)」、および「座標データ」の少なくともいずれか1つを、主制御部800に送信する。なお、全体画像データ、部分画像データ、および座標データについては、後述する。また、コマンドに応じた、センサデータ処理部703の動作については、後述する。
【0065】
次に、主制御部800は、アプリケーションプログラムを実行するものである。主制御部800は、記憶部901に格納されているプログラムを、例えばRAM(Random Access Memory)等で構成される一次記憶部902に読み出して実行する。
【0066】
主制御部800で実行されるアプリケーションプログラムは、センサ内蔵液晶パネル301に表示データを表示させたり、センサ内蔵液晶パネル301にて対象物のスキャンを行わせるために、データ処理部700に対して、コマンドおよび表示データを送信する。また、コマンドに「データ種別」を指定した場合は、当該コマンドの応答として、全体画像データ、部分画像データ、および座標データの少なくともいずれか1つを、データ処理部700から受信する。
【0067】
なお、回路制御部600、データ処理部700、および主制御部800は、それぞれ、CPU(Central Processing Unit)およびメモリ等で構成することができる。また、データ処理部700は、ASIC(application specific integrate circuit)などの回路で構成されていてもよい。
【0068】
次に、記憶部901は、図示のように、主制御部800が実行するプログラムおよびデータを格納するものである。なお、主制御部800が実行するプログラムは、アプリケーション固有のプログラムと、各アプリケーションが共用可能な汎用プログラムとに分離されていてもよい。
【0069】
次に、操作部903は、データ表示/センサ装置100のユーザの入力操作を受けつけるものである。操作部903は、例えば、スイッチ、リモコン、マウス、キーボードなどの入力デバイスで構成される。そして、操作部903は、データ表示/センサ装置100のユーザの入力操作に応じた制御信号を生成し、該生成した制御信号を主制御部800へ送信する。
【0070】
なお、前記スイッチの例としては、電源のオンとオフとを切り替える電源スイッチ905、予め所定の機能が割り当てられているユーザスイッチ906などのハードウェアスイッチを想定している。
【0071】
その他、データ表示/センサ装置100は、無線/有線通信によって外部装置と通信を行なうための外部通信部907、音声を出力するためのスピーカ等の音声出力部908、音声信号を入力するためのマイク等の音声入力部909などを適宜備えていてもよい。
【0072】
(コマンドの詳細)
次に、図5および図6を参照しながら、主制御部800からデータ処理部700に送信されるコマンドの詳細について説明する。図5は、コマンドのフレーム構造の一例を模式的に示す図である。また、図6は、コマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
【0073】
図5に示すように、コマンドは、「ヘッダ」、「データ取得タイミング」、「データ種別」、「スキャン方式」、「スキャン画像階調」、「スキャン解像度」、「スキャンパネル」、「表示パネル」、および「予備」の各フィールドを含んでいる。そして、各フィールドには、例えば、図6に示す値が指定可能である。
【0074】
「ヘッダ」フィールドは、フレームの開始を示すフィールドである。「ヘッダ」フィールドであることが識別可能であれば、「ヘッダ」フィールドの値は、どのような値であってもよい。
【0075】
次に、「データ取得タイミング」フィールドは、データを主制御部800へ送信すべきタイミングを指定するフィールドである。「データ取得タイミング」フィールドには、例えば、“00”(センス)、“01”(イベント)、および“10”(オール)という値が指定可能である。
【0076】
ここで、“センス”は、最新のデータを直ちに送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“センス”であるコマンドを受信すると、「データ種別」フィールドにて指定されている最新のデータを、直ちに、主制御部800に送信する。
【0077】
また、“イベント”は、センサ制御部602から受信する画像データに変化が生じたタイミングで送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“イベント”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、センサ制御部602から受信する画像データに、所定の閾値より大きい変化が生じたタイミングで、主制御部800に送信する。
【0078】
また、“オール”は、所定周期でデータを送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“オール”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、所定周期で、主制御部800に送信する。なお、前記所定周期は、光センサ回路32にてスキャンを行なう周期と一致する。
【0079】
次に、「データ種別」フィールドは、センサデータ処理部703から取得するデータの種別を指定するフィールドである。なお、「データ種別」フィールドには、例えば、“001”(座標)、“010”(部分画像)、および“100”(全体画像)という値が指定可能である。さらに、これらの値を加算することによって、“座標”と、“部分画像”/“全体画像”とを、同時に指定可能である。例えば、“座標”と“部分画像”とを同時に指定する場合、“011”と指定することができる。
【0080】
センサデータ処理部703は、「データ種別」フィールドの値が“全体画像”であるコマンドを受信すると、画像データバッファ704に記憶している画像データそのものを主制御部800に送信する。画像データバッファ704に記憶している画像データそのものを、「全体画像データ」と称する。
【0081】
また、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信すると、センサ制御部602から受信する画像データから、所定の閾値より大きい変化が生じた部分を含む領域を抽出し、該抽出した領域の画像データを主制御部800に送信する。ここで、当該画像データを、「部分画像データ」と称する。なお、前記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出されたそれぞれの部分画像データを主制御部800に送信する。
【0082】
さらに、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信したとき、部分画像データにおける代表座標を検出し、当該代表座標の部分画像データにおける位置を示す座標データを主制御部800に送信する。なお、前記代表座標とは、例えば、前記部分画像データの中心の座標、前記部分画像データの重心の座標などが挙げられる。
【0083】
次に、センサデータ処理部703は、「データ種別」フィールドの値が“座標”であるコマンドを受信すると、前記代表座標の全体画像データにおける位置を示す座標データを主制御部800に送信する。なお、前記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出された、それぞれの部分画像データの、全体画像データにおける代表座標を検出し、当該代表座標を示す座標データのそれぞれを主制御部800に送信する(多点検出)。
【0084】
なお、全体画像データ、部分画像データ、および座標データの具体例については、模式図を参照しながら後述する。
【0085】
次に、「スキャン方式」フィールドは、スキャン実行時に、バックライト307を点灯するか否かを指定するフィールドである。「スキャン方式」フィールドには、例えば、“00”(反射)、“01”(透過)、および“10”(反射/透過)という値が指定可能である。
【0086】
“反射”は、バックライト307を点灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“反射”であるコマンドを受信すると、光センサ駆動回路305とバックライト駆動回路308とが同期して動作するように、センサ制御部602とバックライト制御部603とに指示を与える。
【0087】
また、“透過”は、バックライト307を消灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“透過”であるコマンドを受信すると、光センサ駆動回路305を動作させ、バックライト駆動回路308と動作させないようにセンサ制御部602とバックライト制御部603とに指示を与える。なお、“反射/透過”は、“反射”と“透過”とを併用してスキャンを行なうことを指定するものである。
【0088】
次に、「スキャン画像階調」フィールドは、部分画像データおよび全体画像データの階調を指定するフィールドである。「スキャン画像階調」フィールドには、例えば、“00”(2値)、および“01”(多値)という値が指定可能である。
【0089】
ここで、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“2値”であるコマンドを受信すると、部分画像データおよび全体画像データをモノクロデータとして、主制御部800に送信する。
【0090】
また、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“多値”であるコマンドを受信すると、部分画像データおよび全体画像データを多階調データとして、主制御部800に送信する。
【0091】
次に、「スキャン解像度」フィールドは、部分画像データおよび全体画像データの解像度を指定するフィールドである。「解像度」フィールドには、例えば、“0”(高)および“1”(低)という値が指定可能である。
【0092】
ここで、“高”は、高解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“高”であるコマンドを受信すると、部分画像データおよび全体画像データを高解像度で主制御部800に送信する。例えば、画像認識などの画像処理を行なう対象の画像データ(指紋などの画像データ)には、“高”を指定することが望ましい。
【0093】
また、“低”は、低解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“低”であるコマンドを受信すると、部分画像データおよび全体画像データを低解像度で主制御部800に送信する。例えば、タッチした位置等が分かる程度でよい画像データ(タッチした指や手の画像データなど)には、“低”を指定することが望ましい。
【0094】
次に、「スキャンパネル」フィールドは、どの表示/光センサ部300にて対象物のスキャンを行なうかを指定するフィールドである。「スキャンパネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
【0095】
ここで、センサデータ処理部703は、「スキャンパネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aの光センサ駆動回路305およびバックライト駆動回路308を制御するように、センサ制御部602およびバックライト制御部603に指示を与える。
【0096】
次に、「表示パネル」フィールドは、どの表示/光センサ部300にて表示データを表示させるかを指定するフィールドである。「表示パネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
【0097】
ここで、表示データ処理部701は、例えば、「表示パネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aに表示データを表示させるために、第1表示/光センサ部300Aの液晶パネル駆動回路304およびバックライト駆動回路308を制御するように、表示制御部601およびバックライト制御部603に指示を与える。
【0098】
次に、「予備」フィールドは、上述したフィールドにて指定可能な情報以外の情報をさらに指定する必要がある場合に、適宜指定されるフィールドである。
【0099】
なお、主制御部800にて実行されるアプリケーションは、コマンドを送信するにあたり、上述したフィールドを全て使用する必要はなく、使用しないフィールドには無効値(NULL値など)を設定しておけばよい。
【0100】
また、ユーザが指やペンなどでタッチした位置の座標データを取得したいときは、「データ種別」フィールドに“座標”を指定したコマンドをデータ処理部700に送信することとなるが、指やペンなどは動きがあるため、さらに、当該コマンドの「データ取得タイミング」フィールドに“オール”を指定し、座標データを取得するようにすることが望ましい。また、タッチした位置の座標データが取得できればよいため、スキャンの精度は高くなくてもよい。したがって、前記コマンドの「解像度」フィールドの値は“低”を指定しておけばよい。
【0101】
また、コマンドの「データ種別」フィールドに“座標”を指定した場合において、例えば、ユーザが、複数の指やペンなどでセンサ内蔵液晶パネル301を同時にタッチした場合は、該タッチした位置の座標データのそれぞれを取得することができる(多点検出)。
【0102】
また、原稿などの対象物の画像データを取得する場合、「データ種別」フィールドに“全体画像”を指定したコマンドをデータ処理部700に送信することとなるが、原稿などの対象物は、通常、静止させた状態でスキャンを実行することが一般的であるため、周期的にスキャンを実行する必要はない。従って、この場合は、「データ取得タイミング」フィールドに“センス”または“イベント”を指定することが望ましい。なお、原稿などの対象物をスキャンするときは、ユーザが文字を読みやすいように、スキャン精度は高い方が望ましい。したがって、「解像度」フィールドには“高”を指定することが望ましい。
【0103】
(全体画像データ/部分画像データ/座標データ)
次に、図7を参照しながら、全体画像データ、部分画像データ、および座標データについて、例を挙げて説明する。図7(a)に示す画像データは、対象物がセンサ内蔵液晶パネル301上に置かれていないときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。また、図7(b)に示す画像データは、ユーザが指でセンサ内蔵液晶パネル301をタッチしているときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。
【0104】
ユーザが指でセンサ内蔵液晶パネル301をタッチしたとき、当該タッチした近傍の光センサ回路32が受光する光量が変化するため、当該光センサ回路32が出力する電圧に変化が生じ、その結果として、センサ制御部602が生成する画像データのうち、ユーザがタッチした部分の画素値の明度に変化が生じることとなる。
【0105】
図7(b)に示す画像データでは、図7(a)に示す画像データと比べると、ユーザの指に該当する部分の画素値の明度が高くなっている。そして、図7(b)に示す画像データにおいて、明度が所定の閾値より大きく変化している画素値を全て含む最小の矩形領域(領域PP)が、“部分画像データ”である。
【0106】
なお、領域APで示される画像データが、“全体画像データ”である。
【0107】
また、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)であり、部分画像データ(領域PP)における座標データは(Xp,Yp)である。
【0108】
(センサ内蔵液晶パネルの構成)
次に、図8を参照しながら、センサ内蔵液晶パネル301の構成、および、センサ内蔵液晶パネル301の周辺回路309の構成について説明する。図8は、表示/光センサ部300の要部、特に、センサ内蔵液晶パネル301の構成および周辺回路309の構成を示すブロック図である。
【0109】
センサ内蔵液晶パネル301は、光透過率(輝度)を設定するための画素回路31、および、自身が受光した光の強度に応じた電圧を出力する光センサ回路32を備えている。なお、画素回路31は、赤色、緑色、青色のカラーフィルタのそれぞれに対応するR画素回路31r、G画素回路31g、B画素回路31bの総称して用いる。
【0110】
画素回路31は、センサ内蔵液晶パネル301上の列方向(縦方向)にm個、行方向(横方向)に3n個配置される。そして、R画素回路31r、G画素回路31g、およびB画素回路31bの組が、行方向(横方向)に連続して配置される。この組が1つの画素を形成する。
【0111】
画素回路31の光透過率を設定するには、まず、画素回路31に含まれるTFT(Thin Film Transistor)33のゲート端子に接続される走査信号線Giにハイレベル電圧(TFT33をオン状態にする電圧)を印加する。その後、R画素回路31rのTFT33のソース端子に接続されているデータ信号線SRjに、所定の電圧を印加する。同様に、G画素回路31gおよびB画素回路31bについても、光透過率を設定する。そして、これらの光透過率を設定することにより、センサ内蔵液晶パネル301上に画像が表示される。
【0112】
次に、光センサ回路32は、一画素毎に配置される。なお、R画素回路31r、G画素回路31g、およびB画素回路31bのそれぞれの近傍に1つずつ配置されてもよい。
【0113】
光センサ回路32にて光の強度に応じた電圧を出力させるためには、まず、コンデンサ35の一方の電極に接続されているセンサ読み出し線RWiと、フォトダイオード36のアノード端子に接続されているセンサリセット線RSiとに所定の電圧を印加する。この状態において、フォトダイオード36に光が入射されると、入射した光量に応じた電流がフォトダイオード36に流れる。そして、当該電流に応じて、コンデンサ35の他方の電極とフォトダイオード36のカソード端子との接続点(以下、接続ノードV)の電圧が低下する。そして、センサプリアンプ37のドレイン端子に接続される電圧印加線SDjに電源電圧VDDを印加すると、接続ノードVの電圧は増幅され、センサプリアンプ37のソース端子からセンシングデータ出力線SPjに出力される。そして、当該出力された電圧に基づいて、光センサ回路32が受光した光量を算出することができる。
【0114】
次に、センサ内蔵液晶パネル301の周辺回路である、液晶パネル駆動回路304、光センサ駆動回路305、およびセンサ出力アンプ44について説明する。
【0115】
液晶パネル駆動回路304は、画素回路31を駆動するための回路であり、走査信号線駆動回路3041およびデータ信号線駆動回路3042を含んでいる。
【0116】
走査信号線駆動回路3041は、表示制御部601から受信したタイミング制御信号TC1に基づいて、1ライン時間毎に、走査信号線G1〜Gmの中から1本の走査信号線を順次選択し、該選択した走査信号線にハイレベル電圧を印加するとともに、その他の走査信号線にローレベル電圧を印加する。
【0117】
データ信号線駆動回路3042は、表示制御部601から受信した表示データD(DR、DG、およびDB)に基づいて、1ライン時間毎に、1行分の表示データに対応する所定の電圧を、データ信号線SR1〜SRn、SG1〜SGn、SB1〜SBnに印加する(線順次方式)。なお、データ信号線駆動回路3042は、点順次方式で駆動するものであってもよい。
【0118】
光センサ駆動回路305は、光センサ回路32を駆動するための回路である。光センサ駆動回路305は、センサ制御部602から受信したタイミング制御信号TC2に基づいて、センサ読み出し信号線RW1〜RWmの中から、1ライン時間毎に1本ずつ選択したセンサ読み出し信号線に所定の読み出し用電圧を印加するとともに、その他のセンサ読み出し信号線には、所定の読み出し用電圧以外の電圧を印加する。また、同様に、タイミング制御信号TC2に基づいて、センサリセット信号線RS1〜RSmの中から、1ライン時間毎に1本ずつ選択したセンサリセット信号線に所定のリセット用電圧を印加するとともに、その他のセンサリセット信号線には、所定のリセット用電圧以外の電圧を印加する。
【0119】
センシングデータ出力信号線SP1〜SPnはp個(pは1以上n以下の整数)のグループにまとめられ、各グループに属するセンシングデータ出力信号線は、時分割で順次オン状態になるスイッチ47を介して、センサ出力アンプ44に接続される。センサ出力アンプ44は、スイッチ47により接続されたセンシングデータ出力信号線のグループからの電圧を増幅し、センサ出力信号SS(SS1〜SSp)として、信号変換回路306へ出力する。
〔実施の形態1〕
本発明の主な特徴は、データ表示/センサ装置100は、1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することが可能なセンサ内蔵液晶パネル301と、センサ内蔵液晶パネル301が検知した像の動きに応じて、センサ内蔵液晶パネル301に表示させる、画像上のサブ画像の位置を変更するスクロール制御部840と、センサ内蔵液晶パネル301が検知した像の位置を、画像上の位置として特定する位置特定部830と、を備え、さらに、センサ内蔵液晶パネル301が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、スクロール制御部840がサブ画像の位置を変更するか、あるいは位置特定部830が画像上の位置を特定するか、を選択する面積判定部820と、を備える点にある。
【0120】
これにより、データ表示/センサ装置100は、センサ内蔵液晶パネル301が近傍の像を検知すると共に、検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、2つの動作、つまり、スクロール制御部840がサブ画像の位置を変更する動作と、位置特定部830が、センサ内蔵液晶パネル301が検知した像の位置を画像上の位置として特定する動作と、を区別して実行することができる。そして、センサ内蔵液晶パネル301は近傍の像を検知することが可能である。従って、センサ内蔵液晶パネル301が異なる面積の2つの像を検知した場合にも、前記2つの動作を独立して行うことができる。
【0121】
従って、データ表示/センサ装置100では、前記2つの動作について、一方の動作が終了するのを待ってから他方の動作を実行する必要がなく、それゆえ、途切れることなく連続的で多彩な動作をユーザに提供することができる。そして、この動作は従来の入力装置では実現できなかった動作であるため、優れた操作性及び利便性がユーザにもたらされる。
(データ表示/センサ装置の動作説明)
実施の形態1に係るデータ表示/センサ装置100について、図1、図9〜図11を参照して説明する。
【0122】
なお、まず最初に、データ表示/センサ装置100が実行する動作の具体例を図9、図10を参照して説明する。次に、データ表示/センサ装置100の構成を図1を参照して説明する。そして、その動作を実現する処理の流れを図11を参照して説明する。
【0123】
また、データ表示/センサ装置100のセンサ内蔵液晶パネル301には地図が表示され、その地図に対して、ユーザがスタイラペンを使って経路を入力するものとする。
(表示画像に対して実行される動作)
以下、図9、及び図10の概要を説明する。図9は、スタイラペンによる経路のトレースが画面左端まで到達したため、指を右側に移動する様子を示す図である。また、図10は、図9による指の動作によってセンサ内蔵液晶パネル301に表示される地図の位置を変更し、再びスタイラペンを使用して経路をトレースする様子を示す図である。
【0124】
図9に示すように、データ表示/センサ装置100のセンサ内蔵液晶パネル301は、地図を表示すると共に、指およびスタイラペンの像を同時に検知することが可能である。なお、データ表示/センサ装置100は、センサ内蔵液晶パネル301が検知した像が指の像であるか、若しくはスタイラペンの像であるかを次のように区別している。
【0125】
一般的に、指の像の面積はスタイラペンの像の面積よりも大きい。そこで、検知した像の面積と所定の閾値とを比較して、検知した像が所定の閾値よりも大きければ指の像、検知した像が所定の閾値以下であればスタイラペンの像、という判定をする。このように判定することで、データ表示/センサ装置100は、センサ内蔵液晶パネル301が検知した像が指の像であるか、若しくはスタイラペンの像であるかを区別することができる。
【0126】
そして、データ表示/センサ装置100は、センサ内蔵液晶パネル301が検知した像が指の像である場合には、その指の像の動きに応じて、センサ内蔵液晶パネル301に表示される地図の位置を変更する(以降の説明では、地図の位置を変更することをスクロールと呼ぶ)。
【0127】
つまり、指が図面右側(地図上において、西から東の方向)に移動した場合には、同じ移動量だけ、センサ内蔵液晶パネル301に表示される地図が東側にスクロールし、その結果、センサ内蔵液晶パネル301には画面に表示されていなかった西側地域の地図が表示される。同様に、図示していないが、指が左斜上の方向(南東から北西の方向)に移動した場合には、同じ移動量、及び移動方向でセンサ内蔵液晶パネル301に表示される地図が北西にスクロールし、その結果、センサ内蔵液晶パネル301には画面に表示されていなかった南東側地域の地図が表示される。
【0128】
なお、このとき、指が移動する移動速度と同じ速度で地図もスクロールする。従って、移動量、移動方向、及び移動速度を移動ベクトルと言い換えるならば、データ表示/センサ装置100は、センサ内蔵液晶パネル301が検知した指の像の移動ベクトルに応じて地図をスクロールさせる。
【0129】
一方、データ表示/センサ装置100は、センサ内蔵液晶パネル301が検知した像がスタイラペンの像である場合には、スタイラペンの像の位置を地図上の位置として特定し、その特定した地図上の位置を示す位置画像をセンサ内蔵液晶パネル301に表示する。つまり、スタイラペンの像が検知された場合には、あたかもスタイラペンで地図をトレースするように、地図上におけるスタイラペンの像の位置を示す位置画像が、その地図上に表示される。従って、地図上の道路をなぞってスタイラペンを動かすことにより、ユーザは、その道路をトレースすることができる。
【0130】
図9では、ユーザは、図面右側(東)から左側(西)へ地図上の道路をスタイラペンでトレースしている。そして、そのトレースが画面左端(地図上でA市と表示された付近)まで到達し、トレースがそれ以上できない状況となっている。そこで、ユーザは、センサ内蔵液晶パネル301に指の像を検知させたうえで、西の方向から東の方向に指を移動することにより、地図を東の方向にスクロールさせようとしている。
【0131】
次に、図10について説明する。図10は、図9による指の動作によってセンサ内蔵液晶パネル301に表示される地図がスクロールし、再びスタイラペンを使用して経路をトレースする様子を示す。図9に示すスクロールを行った結果、A市は画面中央付近に表示されている(図10)。これにより、トレース可能な範囲がさらに西の方向に拡張し、ユーザは、A市よりもさらに西の方向にトレースを行っている。同様に、図示していないが、例えば画面上端(北の方向)までトレースが行われた場合には、北から南の方向に指を移動することにより、地図を南の方向にスクロールさせることができる。これによりトレース可能な範囲がさらに北の方向に拡張する。
【0132】
ここで、図9の図面左上には「距離8km」、及び図10の図面左上には「距離12km」と表示されている。これは、ユーザがスタイラペンによりトレースした地図上の距離を示す。つまり、図9の時点では地図上の距離8kmに相当する長さのトレースが行われており、図10の時点では地図上の距離12kmに相当する長さのトレースが行われている。
【0133】
このように、データ表示/センサ装置100では、トレースした長さに相当する地図上の距離がセンサ内蔵液晶パネル301に表示されるため、ユーザは、容易かつ迅速に、その距離を確認することができる。
【0134】
(データ表示/センサ装置の要部構成の説明)
次に、図1を参照しながら、データ表示/センサ装置100のより詳細な構成について説明する。なお、ここでは、説明を分かりやすくするために、主制御部800と表示/光センサ部300との間に位置するデータ処理部700および回路制御部600の動作については説明を省略する。ただし、正確には、画像の表示および画像の検知を行うにあたり、主制御部800の画像表示制御部860が、データ処理部700にコマンドを送信し、データ処理部700がコマンドに基づいて回路制御部600を制御し、回路制御部600が表示/光センサ部300に対して信号を送信する。また、主制御部800は、データ処理部700に対して送信したコマンドに対する応答として、データ処理部700から、全体画像データ、部分画像データ、および座標データを取得する。
【0135】
図1は、データ表示/センサ装置100の要部構成を表すブロック図である。図示のように、主制御部800は、データ取得部810と、面積判定部820と、位置特定部830と、スクロール制御部840と、距離算出部850と、画像表示制御部860と、を備える。なお、距離算出部850は、省略することも可能である。
【0136】
データ取得部810は、データ処理部700から出力される全体画像データ及び座標データを取得する。そして、データ取得部810は、データ処理部700から取得した全体画像データ及び座標データを面積判定部820に出力する。
【0137】
面積判定部820は、データ取得部810から全体画像データ及び座標データを取得し、全体画像データに含まれる像の面積(以下、像面積と称する)を算出する。具体的には、面積判定部820は、算出した像面積が所定の閾値より大きいか否かを判定する。なお、所定の閾値は記憶部901に格納されており、面積判定部820は、記憶部901から当該所定の閾値を読み出している。
【0138】
次に、面積判定部820は、データ取得部810から取得した座標データを位置特定部830、又はスクロール制御部840に出力する。このとき、面積判定部820は、データ取得部810から取得した全体画像データに含まれる像面積に応じて出力先を変更する。なお、像面積の算出方法は、従来の画像処理ソフトで行われる一般的な方法でよい。
【0139】
より具体的には、面積判定部820は、算出した像面積が所定の閾値より大きい場合は、データ取得部810から取得した座標データをスクロール制御部840に出力する。一方、面積判定部820は、算出した像面積が所定の閾値以下である場合には、データ取得部810から取得した座標データを位置特定部830に出力する。
【0140】
位置特定部830は、面積判定部820が算出した像面積が所定の閾値より小さい場合に、面積判定部820から座標データを取得し、その座標データに基づいて、検知した像の位置を、地図上の位置として特定する。
【0141】
より具体的に説明すると、図7を参照して説明したように、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)で表され、部分画像データ(領域PP)における座標データは(Xp,Yp)として表される。従って、位置特定部830は、センサ内蔵液晶パネル301が検知した像の前記座標データに基づいて、センサ内蔵液晶パネル301における検知した像の位置を特定することができる。
【0142】
位置特定部830は、さらに、センサ内蔵液晶パネル301に表示される地図に関する地図情報を記憶部901から読み出す。その地図情報には、地図上の各地点を座標によって特定した座標情報が含まれており、位置特定部830は、記憶部901から座標情報を読み出すことにより、センサ内蔵液晶パネル301に表示される地図上の任意の地点を座標によって特定することができる。従って、位置特定部830は、その地図情報に基づいて、センサ内蔵液晶パネル301が検知した像の位置を、地図上の位置として特定することができる。それゆえ、位置特定部830は、地図上の道路がスタイラペンでトレースされた場合には、そのトレースされた位置を地図上の位置として特定し、また後述の方法によって、そのトレースした位置をセンサ内蔵液晶パネル301に表示する。
【0143】
なお、位置特定部830は、センサ内蔵液晶パネル301が、移動する像を連続的に検知した場合には、データ取得部810から座標データを連続的に取得する。そして、地図情報に基づいて、センサ内蔵液晶パネル301が検知した移動する像の位置を、地図上の位置として特定する。
【0144】
位置特定部830は、さらに、センサ内蔵液晶パネル301が検知した像の位置を地図上の位置として特定したうえで、その情報、つまり、ユーザがスタイラペンでトレースした地図上の位置を示すトレース情報を記憶部901に出力する。なお、位置特定部830が自身でトレース情報を記憶する構成とすることもできる。また、位置特定部830は、トレース情報を画像表示制御部860にも出力するが、その詳細は後述する。
【0145】
スクロール制御部840は、面積判定部820が算出した像面積が所定の閾値より大きい場合に、面積判定部820から座標データを取得する。また、スクロール制御部840は、センサ内蔵液晶パネル301が検知した像が移動する場合には、データ取得部810から座標データを連続的に取得する。なお、スクロール制御部840は、像の移動前後における座標データの差分を計算することにより、像の移動量、及び移動方向を算出することができる。また、スクロール制御部840は、座標データが取得された時間の差分を計算することにより、像の移動速度も同時に算出することができる。
【0146】
スクロール制御部840は、さらに、センサ内蔵液晶パネル301に表示される地図に関する地図情報を記憶部901から読み出す。そして、スクロール制御部840は、座標データに基づいて算出した像の移動量、移動方向、及び移動速度と同じ移動量、移動方向、及び移動速度により、センサ内蔵液晶パネル301に表示される地図をスクロールさせるための指示を画像表示制御部860に出力する。つまり、スクロール制御部840は、センサ内蔵液晶パネル301が検知した像の移動に応じて地図をスクロールさせるための指示を画像表示制御部860に出力する。
【0147】
距離算出部850は、記憶部901からトレース情報を読み出し、そのトレース情報に基づいて像の移動量を算出する。なお、像の移動量の算出方法は、検知された像の位置に係る座標データを用いて容易に算出することができ、従来の画像処理ソフトで行われる一般的な方法でよい。
【0148】
同時に、距離算出部850は、センサ内蔵液晶パネル301に表示される地図に関する地図情報を記憶部901から読み出す。その地図情報には地図の縮尺を示す地図縮尺情報が含まれているため、距離算出部850は、センサ内蔵液晶パネル301に表示される地図の縮尺を取得することができる。そして、距離算出部850は、算出した像の移動量と地図の縮尺とに基づいて、その像の移動量に相当する地図上の距離を算出する。そのうえで、距離算出部850は、センサ内蔵液晶パネル301が検知した像の移動量に相当する地図上の距離を表示させるための指示を画像表示制御部860に出力する。なお、センサ内蔵液晶パネル301が検知した像の移動量は、センサ内蔵液晶パネル301に表示される、地図上におけるスタイラペンの像の位置を示す位置画像によって描かれる、センサ内蔵液晶パネル301が検知した像の軌跡の長さに相当する。
【0149】
画像表示制御部860は、位置特定部830、スクロール制御部840、及び距離算出部850からの指示(出力)に基づいて、各出力に対応する表示画面をセンサ内蔵液晶パネル301に表示させるための表示データを生成する。そして、その生成した表示データをデータ処理部700に出力し、前記各出力に対応する表示画面をセンサ内蔵液晶パネル301に表示させる。
【0150】
より具体的に説明すると以下の通りである。上述したように、位置特定部830は、センサ内蔵液晶パネル301が検知した像の位置を、地図上の位置として特定する。そして、位置特定部830は、地図上におけるスタイラペンの像の位置を示す位置画像をセンサ内蔵液晶パネル301に表示させるための指示を画像表示制御部860に出力する。従って、画像表示制御部860は、センサ内蔵液晶パネル301に位置画像を表示させるための表示データを生成する。
【0151】
また、画像表示制御部860は、スクロール制御部840からの出力に応じて、センサ内蔵液晶パネル301に表示される地図をスクロールさせるための表示データを生成する。さらに、画像表示制御部860は、距離算出部850からの出力に応じて、センサ内蔵液晶パネル301に地図上の距離を表示させるための表示データを生成する。この結果、各出力に応じた表示画面がセンサ内蔵液晶パネル301に重畳表示される。
【0152】
ここで、図1では、記憶部901は、主制御部800の外部に設けられている。しかしながら、記憶部901は、主制御部800の内部に設けられる構成であってもよい。また、面積判定部820が記憶部901から取得する所定の閾値は、記憶部901に予め格納されていても、あるいはユーザが外部の入力装置から適宜設定する構成としてもよい。
【0153】
(フローチャート説明)
次に、図1、図9〜図11を参照しながら、データ表示/センサ装置100の処理の流れ、及び、画像表示制御部860からデータ処理部700に送信されるコマンドの詳細について説明する。
【0154】
なお、センサ内蔵液晶パネル301が検知する像は、指およびスタイラペンの像であるものとして説明する。また、指は、大人の指であっても、子供の指であってもよく、さらに、親指であっても小指であってもよい。一般的に、指の像の面積はスタイラペンの像の面積よりも格段に大きい。従って、所定の閾値が、指の像よりも小さくスタイラペンの像よりも大きい値に設定されていれば、指の種類が問題となることはない。
【0155】
また、データ表示/センサ装置100では、第1表示/光センサ部300Aが、近傍の像の検知をすると共に、地図を表示するものとして説明する。
【0156】
図11は、データ表示/センサ装置100の処理の流れを表すフローチャートである。
【0157】
まず、データ表示/センサ装置100の電源がオフの状態にあるとき、ユーザが電源スイッチ905を押下することにより、データ表示/センサ装置100は電源オンとなる(ステップS11)。
【0158】
そして、ステップS13では、ユーザが電源スイッチ905を押下することにより、センサ内蔵液晶パネル301に地図が表示される。この状態で、データ表示/センサ装置100は、センサ内蔵液晶パネル301が指の像を検出するまで待機する。
【0159】
ここで、センサ内蔵液晶パネル301に地図を表示させる場合、「表示パネル」フィールドの値として上画面(第1表示/光センサ部300A)(“001”)を指定したコマンドが、画像表示制御部860からデータ処理部700に出力される。
【0160】
また、この段階では、センサ内蔵液晶パネル301は近傍の像を検知可能な状態にあるものとする。近傍の像の検知を行うために、「データ取得タイミング」フィールドに、“イベント”を指定し、「データ種別」フィールドに“座標”および“全体画像”の両方を指定(“101”を指定)したコマンドが画像表示制御部860からデータ処理部700に出力される。なお、“座標”または“全体画像”のみを指定したコマンドが画像表示制御部860からデータ処理部700に出力されてもよい。
【0161】
さらに、センサ内蔵液晶パネル301において近傍の像の検知を行うために、「スキャンパネル」フィールドに第1表示/光センサ部300Aを指定(“001”)したコマンドが、画像表示制御部860からデータ処理部700に出力される。
【0162】
これにより、センサ内蔵液晶パネル301が指および/またはスタイラペンの像を検知した場合に、データ取得部810は、データ処理部700から全体画像データ及び座標データを取得することができる。
【0163】
つまり、センサ内蔵液晶パネル301にユーザの指、あるいはスタイラペンがタッチした場合、光センサ回路32が、タッチした指あるいはスタイラペンの影像および反射像の少なくとも何れかを検知する。その結果、データ処理部700がセンサ制御部602から取得する画像データに変化が生じ、データ取得部810は、画像データに変化が生じた際にデータ処理部700から出力される全体画像データ及び座標データを取得する。
【0164】
ステップS15では、センサ内蔵液晶パネル301が指および/またはスタイラペンの像を検知して、データ取得部810が、データ処理部700から全体画像データ及び座標データを取得する。そして、データ取得部810は、データ処理部700から取得した全体画像データ及び座標データを面積判定部820に出力する。
【0165】
そして、面積判定部820は、データ取得部810から全体画像データ及び座標データを取得し、全体画像データに含まれる像の面積(像面積)を算出する。さらに、面積判定部820は、算出した像面積が所定の閾値より大きいか否かを判定する。ここで、所定の閾値は記憶部901に格納されており、面積判定部820は、記憶部901から閾値を読み出している。
【0166】
ここで、所定の閾値は、指の像面積よりも小さく、スタイラペンの像面積よりも大きい値が設定されており、面積判定部820は、データ取得部810から取得した全体画像データに含まれる像の面積に応じて、データ取得部810から取得した座標データの出力先を位置特定部830、又はスクロール制御部840に変更する。
【0167】
面積判定部820が、算出した像面積が所定の閾値よりも小さいと判定した場合(ステップS15でYes)、ステップS17に進む。なお、ステップS17は、面積判定部820が算出した像面積が所定の閾値より小さい場合、つまり、センサ内蔵液晶パネル301がスタイラペンの像を検知した場合に該当する。
【0168】
このとき、位置特定部830は、面積判定部820から座標データを取得し、その座標データに基づいて、検知したスタイラペンの像の位置を、地図上の位置として特定する。
【0169】
次に、ステップS19では、位置特定部830が、地図上におけるスタイラペンの像の位置を示す位置画像をセンサ内蔵液晶パネル301に表示させるための指示を画像表示制御部860に出力する。この指示は、スタイラペンによるトレースをセンサ内蔵液晶パネル301に表示させるためのものである。なお、位置特定部830は、ユーザがトレースした地図上の位置を示すトレース情報を記憶部901にも出力しており、記憶部901はそのトレース情報を格納している。
【0170】
次に、ステップS21では、距離算出部850が、記憶部901からトレース情報を読み出し、そのトレース情報に基づいて像の移動量を算出する。
【0171】
同時に、距離算出部850は、センサ内蔵液晶パネル301に表示される地図に関する地図情報を記憶部901から読み出す。その地図情報には地図の縮尺を示す地図縮尺情報が含まれているため、距離算出部850は、センサ内蔵液晶パネル301に表示される地図の縮尺(例えば、1/25000)を取得することができる。
【0172】
そして、距離算出部850は、算出した像の移動量と地図の縮尺とに基づいて、その像の移動量に相当する地図上の距離を算出する。そのうえで、距離算出部850は、センサ内蔵液晶パネル301に地図上の距離を表示させるための指示を画像表示制御部860に出力する。なお、この指示は、センサ内蔵液晶パネル301に、例えば「距離8km」といった地図上の距離を表示させるためのものである。
【0173】
そして、ステップS23では、画像表示制御部860が、地図上におけるスタイラペンの像の位置を示す位置画像をセンサ内蔵液晶パネル301に表示させるための表示データを生成する。また、画像表示制御部860は、距離算出部850からの出力に応じて、センサ内蔵液晶パネル301に地図上の距離を表示させるための表示データを生成する。そして、それら表示データに基づいて、位置特定部830及び距離算出部850からの出力に応じた動作結果がセンサ内蔵液晶パネル301に表示される。
【0174】
一方、面積判定部820が、算出した像面積が所定の閾値よりも大きいと判定した場合(ステップS15でNo)、ステップS25に進む。ステップS25は、面積判定部820が算出した像面積が所定の閾値より大きい場合、つまり、センサ内蔵液晶パネル301が指の像を検知した場合に該当する。
【0175】
このとき、スクロール制御部840は、データ取得部810がデータ処理部700から取得した座標データを面積判定部820から取得する。なお、スクロール制御部840は、センサ内蔵液晶パネル301が検知した指の像が移動する場合には、データ取得部810から座標データを連続的に取得する。また、スクロール制御部840は、像の移動前後における座標データの差分を計算することにより、像の移動量、及び移動方向を算出することができる。さらに、スクロール制御部840は、座標データが取得された時間の差分を計算することにより、像の移動速度も同時に算出することができる。
【0176】
同時に、スクロール制御部840は、センサ内蔵液晶パネル301に表示される地図に関する地図情報を記憶部901から読み出す。そして、スクロール制御部840は、座標データに基づいて算出した像の移動量、移動方向、及び移動速度と同じ移動量、移動方向、及び移動速度でセンサ内蔵液晶パネル301に表示される地図をスクロールさせるための指示を画像表示制御部860に出力する。つまり、スクロール制御部840は、センサ内蔵液晶パネル301が検知した像の移動に応じて地図をスクロールさせるための指示を画像表示制御部860に出力する。なお、この指示は、図10を例にした場合、指を図面右側に移動した結果、同じ移動量、移動方向、及び移動速度で地図を右側にスクロールさせるという指示に該当する。
【0177】
そして、ステップS23では、画像表示制御部860が、スクロール制御部840からの出力に応じて、センサ内蔵液晶パネル301に表示される地図をスクロールさせるための表示データを生成する。そして、それら表示データに基づいて、画像表示制御部860からの出力に応じた動作結果がセンサ内蔵液晶パネル301に表示される。
【0178】
なお、センサ内蔵液晶パネル301が指およびスタイラペンの像を同時に検知した場合には、画像表示制御部860は、位置特定部830、スクロール制御部840、及び距離算出部850からの出力に応じて、センサ内蔵液晶パネル301に各出力に対応する表示画面(入力画面)を表示させるための表示データを生成する。そして、センサ内蔵液晶パネル301は各出力に対応する動作結果を表示する。
【0179】
このとき、センサ内蔵液晶パネル301に画像(動作結果)を表示させるため、「表示パネル」フィールドの値として第1表示/光センサ部300Aを指定(“001”)したコマンドが、画像表示制御部860からデータ処理部700に出力される。
【0180】
以上、データ表示/センサ装置100の処理の流れをステップS11〜S25により説明した。なお、前記説明では、地図へのトレース(ステップS19)に続いて、距離算出(ステップS21)の処理が行われるものとして説明したが、ステップS19及びステップS21を同時に行ってもよい。
【0181】
このようにして、図9、図10を参照して説明した動作が実行され、その動作結果がセンサ内蔵液晶パネル301に表示される。
【0182】
次に、データ表示/センサ装置100の前記処理によって得られる効果を説明する。
【0183】
データ表示/センサ装置100は、前記構成を備えることにより、センサ内蔵液晶パネル301が近傍の像を検知すると共に、検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、2つの動作、つまり、スクロール制御部840が地図の位置を変更(スクロール)する動作と、位置特定部830が、センサ内蔵液晶パネル301が検知した像の位置を地図上の位置として特定する動作と、を区別して実行することができる。従って、センサ内蔵液晶パネル301が異なる面積の2つの像を同時に検知した場合にも、前記2つの動作を独立して行うことができる。
【0184】
これにより、データ表示/センサ装置100は、前記2つの動作について、一方の動作が終了するのを待ってから他方の動作を実行する必要がなく、それゆえ、途切れることなく連続的で多彩な動作をユーザに提供することができる。そして、この動作は従来の入力装置では実現できなかった動作であるため、優れた操作性及び利便性がユーザにもたらされる。
【0185】
さらに、データ表示/センサ装置100では、画像表示制御部860が、位置特定部830が特定した地図上の位置を示す位置画像をセンサ内蔵液晶パネル301が表示する地図上に重畳表示させることができる。
【0186】
従って、画像表示制御部860は、スクロール制御部840が地図をスクロールした動作と、位置特定部830が、センサ内蔵液晶パネル301が検知した像の位置を地図上の位置として特定し、その特定された地図上の位置を示す位置画像をセンサ内蔵液晶パネル301に表示する動作とを重畳表示させるため、それらの動作結果を容易かつ迅速にユーザに視認させることができる。
【0187】
さらに、データ表示/センサ装置100では、面積判定部820が、センサ内蔵液晶パネル301が検知した像の面積が所定の閾値よりも大きいか否かを判定する。
【0188】
従って、データ表示/センサ装置100は、像の面積と所定の閾値との大小を比較することにより、容易かつ迅速に、像の面積に応じて、データ表示/センサ装置100が像を検知した後の2つの動作、つまり、スクロール制御部840が地図をスクロールさせる動作と、位置特定部830が、センサ内蔵液晶パネル301が検知した像の位置を地図上の位置として特定する動作とを区別して実行することができる。
【0189】
また、データ表示/センサ装置100は、前記所定の閾値を変更することにより、面積判定部820による判定結果を変更することができるため、高い利便性をユーザに提供することができる。
【0190】
また、データ表示/センサ装置100では、距離算出部850は、位置画像によって描かれる、センサ内蔵液晶パネル301が検知した像の軌跡の長さに相当する地図上の距離を算出することができる。
【0191】
従って、距離算出部850が算出した地図上の距離を使用することにより、そのデータを活用した様々な処理が可能となる。
【0192】
その一例として、データ表示/センサ装置100を自動車用ナビゲーションシステムに利用する場合を考える。なお、センサ内蔵液晶パネル301が指及びスタイラペンの像を検知して、指(像の面積が大きい方)の動きによって地図がスクロールし、スタイラペン(像の面積が小さい方)の動きによって、地図上の道路をなぞった入力が行われるものとする。
【0193】
ある目的地へ行くために幾つかのルートを選択することが可能な場合、ユーザは、どのルートが最短距離であるかを知りたい場合がある。このような場合に、ユーザは、各ルートをスタイラペンでなぞる(入力を行う)。これにより、距離算出部850は、地図の縮尺に基づいて、スタイラペンの像に係る位置画像によって描かれる、センサ内蔵液晶パネル301が検知した像の軌跡の長さに相当する地図上の距離を算出する。そして、その算出結果を用いることにより、ルート毎の地図上の距離の大小が比較可能となり、その結果、当該自動車用ナビゲーションシステムは、ユーザに最短経路を知らせることができるようになる。
【0194】
また、他の用途として次のようなケースが想定される。ユーザは、年・月・日などの区分ごとの移動距離を知りたいという要望を持つ場合がある。このような場合に、距離算出部850が算出した地図上の距離を年・月・日などのターム毎に集計する処理を行うことにより、地図上の距離の総計を総移動距離としてユーザに知らせることができる。その結果、年・月・日などの区分ごとの移動距離を知りたいというユーザの要望がかなえられる。
【0195】
このように、データ表示/センサ装置100は、距離算出部850が、位置画像によって描かれる、センサ内蔵液晶パネル301が検知した像の軌跡の長さに相当する地図上の距離を算出することができるため、優れた操作性及び利便性をユーザに提供することができる。
【0196】
さらに、データ表示/センサ装置100では、画像表示制御部860は、距離算出部850が算出した地図上の距離をセンサ内蔵液晶パネル301に表示させることができる。
【0197】
これにより、データ表示/センサ装置100は、地図上の距離を正確かつ迅速にユーザに視認させることができ、その結果、ルート毎の距離の長短、あるいは最短経路といった情報をユーザに知らせることができる。
【0198】
従って、データ表示/センサ装置100は、従来の入力装置では感覚的にしか測ることができなかった地図上の距離を正確かつ迅速にユーザに知らせることができるため、その地図上の距離を正確に知りたいというユーザの要望に応えることができる。
【0199】
このように、データ表示/センサ装置100は、より優れた操作性および利便性をユーザにも提供することができる。
〔実施の形態2〕
次に、本発明の他の実施形態に係るデータ表示/センサ装置110について、図12、図13を用いて説明する。実施の形態1と本実施の形態とではアプリケーションが異なっており、本実施の形態は、作図ソフトをユースケースとするものである。なお、図1、図9〜図11を参照して説明した動作の詳細、その動作を実現する処理の詳細、データ表示/センサ装置110によって得られる効果については、その詳細説明を省略する。
【0200】
データ表示/センサ装置100とデータ表示/センサ装置110との相違点は、スタイラペンが、データ表示/センサ装置100では経路入力(トレース)に使用されるのに対し、データ表示/センサ装置110では作図に使用されるという点にある。なお、データ表示/センサ装置110は、地図上の距離を測定する必要がないため、距離算出部850を備えていなくてもよい。
【0201】
図12、及び図13は、データ表示/センサ装置110の実施例を示す図である。図12に示すように、データ表示/センサ装置110のセンサ内蔵液晶パネル301にはユーザが作図中の「星」の図が表示されている。なお、星の上半分は作図されているが、星の下半分はこれから作図される段階にある。そして、図示するように、画面下側(図面下側)における作図スペースは既になく、ユーザは、このままの状態では星の下半分を作図できない状況にある。従って、星の下半分を作図するために、センサ内蔵液晶パネル301に表示される画面を上側(図面上側)にスクロールさせる必要がある。
【0202】
そこで、図12では、センサ内蔵液晶パネル301に指を検知させて、その指を図面上側に移動させてようとしている。この指の動きに応じて、表示画面が、指と同じ移動量、移動方向、及び移動速度により図面上側にスクロールする。図13は、その動作結果を示す。図13では、前記の指の動き(正確には、指の像の動き)に応じて、表示画面が図面上側にスクロールし、その結果、画面下側(図面下側)に新たな作図スペースが生成している。これにより、ユーザは、星の下半分を作図することができる。
【0203】
本実施の形態2では、作図ソフトをユースケースとしうることを説明した。つまり、本発明に係る入力装置は、地図への経路入力(トレース)のみならず、作図ソフトへも適用することができる。このように、本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【0204】
(プログラム、コンピュータ読み取り可能な記録媒体)
最後に、本実施形態に係るデータ表示/センサ装置100、110の各ブロック、特に面積判定部820、位置特定部830、スクロール制御部840、距離算出部850、画像表示制御部860は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
【0205】
すなわち、本実施形態に係るデータ表示/センサ装置100、110は、各機能を実現する制御プログラムの命令を実行するCPU(Central Processing Unit)、前記プログラムを格納したROM(Read Only Memory)、前記プログラムを展開するRAM(Random Access Memory)、前記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアであるデータ表示/センサ装置100、110の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、前記データ表示/センサ装置100、110に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
【0206】
前記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
【0207】
また、本実施形態に係るデータ表示/センサ装置100、110を通信ネットワークと接続可能に構成し、前記プログラムコードを、通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(Virtual Private Network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、前記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
【0208】
本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【産業上の利用可能性】
【0209】
本発明は、画像の表示および対象物の読み取りが同時に可能な入力装置に適用できる。特に、像検知装置を備えた経路入力装置に好適である。
【符号の説明】
【0210】
100 データ表示/センサ装置(入力装置)
810 データ取得部
820 面積判定部(選択手段)
830 位置特定部(位置特定手段)
840 スクロール制御部(位置変更手段)
850 距離算出部(距離算出手段)
860 画像表示制御部(画像表示制御手段)
901 記憶部
【技術分野】
【0001】
本発明は、画像の表示および対象物の読み取りが同時に可能な入力装置、及び入力装置の制御方法に関するものである。
【背景技術】
【0002】
近年、タッチパネル式の入力装置が、携帯電話機、PDAなどに代表されるモバイル機器(携帯端末)において広く普及している。その一例として、入力面(操作面)に対して、指が接触していない状態から、接触している状態に変化したときに、接触した指の位置に応じた入力が行われる入力装置が知られている。
【0003】
特許文献1には、所定のペン入力操作が終わって、そのペンを画面上から離すことにより1回のペン操作が終了したと判定して、画面に表示される地図をスクロールさせる車両用ナビゲーション装置が開示されている。
【0004】
特許文献2には、地図上の現在位置から目的地までの走行経路をタッチパネルを指でなぞって設定することができ、また、タッチパネル上における指の移動ベクトルに応じて画面に表示された地図をスクロールさせる自動車の経路誘導装置が開示されている。
【特許文献1】特開平9−101171号公報(平成9年4月15日公開)
【特許文献2】特開平7−91974号公報(平成7年4月7日公開)
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、前記従来の構成では、画像を移動させる動作と、その画像に入力する動作とを独立して行うことはできない。
【0006】
例えば、特許文献1に記載の車両用ナビゲーション装置では、所定のペン入力操作が終わって、そのペンを画面上から離さない限り、画面に表示される地図はスクロールしない。従って、前記車両用ナビゲーション装置は、画面をスクロールさせつつ入力操作を行いたいというユーザの要求に応えることができない。
【0007】
また、特許文献2に記載の自動車の経路誘導装置では、タッチパネル上の指が動かない限り、地図はスクロールしない。従って、前記自動車の経路誘導装置は、地図のみをスクロールさせて、周囲の状況を十分に把握した上で入力操作を行いたいというユーザの要求に応えることができない。
【0008】
本発明は、前記の問題点に鑑みてなされたものであり、その目的は、ユーザにとって利便性及び操作性の高い入力装置、及び入力装置の制御方法を実現することにある。
【課題を解決するための手段】
【0009】
本発明の入力装置は、前記課題を解決するために、近傍の像を検知することによりユーザの入力を取得する入力装置であって、1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することが可能な面状部材と、前記面状部材が検知した像の動きに応じて、前記面状部材に表示させる、前記画像上のサブ画像の位置を変更する位置変更手段と、前記面状部材が検知した像の位置を、前記画像上の位置として特定する位置特定手段と、を備え、さらに、前記面状部材が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、前記位置変更手段が前記サブ画像の位置を変更するか、あるいは前記位置特定手段が前記画像上の位置を特定するか、を選択する選択手段を備えることを特徴としている。
【0010】
また、本発明の入力装置の制御方法は、1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することでユーザの入力を取得可能な面状部材を備える入力装置の制御方法であって、前記面状部材が検知した像の動きに応じて、前記面状部材に表示させる、前記画像上のサブ画像の位置を変更する位置変更ステップと、前記面状部材が検知した像の位置を、前記画像上の位置として特定する位置特定ステップと、を含み、さらに、前記面状部材が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、前記位置変更ステップが前記サブ画像の位置を変更するか、あるいは前記位置特定ステップが前記画像上の位置を特定するか、を選択する選択ステップを含むことを特徴としている。
【0011】
これにより、本発明に係る入力装置および入力装置の制御方法は、面状部材が近傍の像を検知すると共に、検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、2つの動作、つまり、位置変更手段がサブ画像の位置を変更する動作と、位置特定手段が、面状部材が検知した像の位置を前記画像上の位置として特定する動作と、を区別して実行することができる。従って、面状部材が異なる面積の2つの像を検知した場合にも、前記2つの動作を独立して行うことができる。つまり、本発明に係る入力装置および入力装置の制御方法は、前記2つの動作について、一方の動作が終了するのを待ってから他方の動作を実行する必要がなく、それゆえ、途切れることなく連続的で多彩な動作をユーザに提供することができる。そして、この動作は従来の入力装置では実現できなかった動作であるため、優れた操作性及び利便性がユーザにもたらされる。
【0012】
なお、その動作後の画像に対してさらに何らかの動作を与えたい場合には、ユーザは、面状部材が検知する像の面積を考慮しつつ、所望の像の動きを面状部材に検知させればよい。これにより、次の動作が連続的に実行される。
【0013】
このように、本発明に係る入力装置および入力装置の制御方法は、優れた操作性及び利便性をユーザに提供することができる。
【0014】
さらに、本発明に係る入力装置では、前記の構成において、前記選択手段は、前記像の面積が前記所定の閾値よりも大きいと判定した場合に、前記面状部材が検知した像の動きに応じて、前記サブ画像の位置を変更し、前記像の面積が前記所定の閾値以下であると判定した場合に、前記画像上の位置を特定する構成であってもよい。
【0015】
前記の構成によれば、本発明に係る入力装置では、選択手段が、面状部材が検知した像の面積が所定の閾値よりも大きいか否かを判定することができる。
【0016】
従って、本発明に係る入力装置は、像の面積と所定の閾値との大小を比較することにより、容易かつ迅速に、像の面積に応じて、面状部材が像を検知した後の2つの動作、つまり、位置変更手段がサブ画像の位置を変更する動作と、位置特定手段が、面状部材が検知した像の位置を前記画像上の位置として特定する動作とを区別して実行することができる。
【0017】
また、本発明に係る入力装置は、前記所定の閾値を変更することにより、選択手段による判定結果を変更することができるため、利便性の高い入力装置をユーザに提供することができる。
【0018】
さらに、本発明に係る入力装置では、前記の構成において、前記位置特定手段が特定した前記画像上の位置を示す位置画像を、前記画像上に重畳表示させる画像表示制御手段を備える構成であってもよい。
【0019】
前記の構成によれば、本発明に係る入力装置では、画像表示制御手段が、前記位置特定手段が特定した前記画像上の位置を示す位置画像を前記画像上に重畳表示させることができる。
【0020】
従って、画像表示制御手段は、位置変更手段がサブ画像の位置を変更した動作と、位置特定手段が面状部材が検知した像の位置を前記画像上の位置として特定し、その特定された画像上の位置を示す位置画像を前記画像上に表示する動作と、を重畳表示させるため、それらの動作結果を容易かつ迅速にユーザに確認させることができる。
【0021】
それゆえ、ユーザは、面状部材に表示された動作結果を視認することにより、次の動作を連続して行うことができる。
【0022】
さらに、本発明に係る入力装置では、前記の構成において、前記画像は、地図であって、その地図の縮尺に基づいて、前記位置画像によって描かれる軌跡の長さに相当する前記地図上の距離を算出する距離算出手段を備える構成であってもよい。
【0023】
前記の構成によれば、本発明に係る入力装置では、距離算出手段は、位置画像によって描かれる軌跡の長さに相当する前記地図上の距離を算出することができる。
【0024】
従って、距離算出手段が算出した地図上の距離を使用することにより、そのデータを活用した様々な処理が可能となる。例えば、本発明に係る入力装置を自動車用ナビゲーションシステムに利用した場合には、ルート毎の距離の大小を比較する処理、あるいは年・月・日などの区分ごとの移動距離を算出する処理が可能となる。
【0025】
このように、本発明に係る入力装置は、距離算出手段が、位置画像によって描かれる、前記面状部材が検知した像の軌跡の長さに相当する前記地図上の距離を算出することができるため、優れた操作性及び利便性をユーザに提供することができる。
【0026】
さらに、本発明に係る入力装置では、前記の構成において、画像表示制御手段は、前記距離算出手段が算出した前記地図上の距離を前記面状部材に表示させる構成であってもよい。
【0027】
これにより、本発明に係る入力装置は、地図上の距離を正確かつ迅速にユーザに視認させることができ、その結果、ルート毎の距離の長短、あるいは最短経路といった情報をユーザに知らせることができる。
【0028】
従って、本発明に係る入力装置は、従来の入力装置では感覚的にしか測ることができなかった地図上の距離を正確かつ迅速にユーザに知らせることができるため、その地図上の距離を正確に知りたいというユーザの要望に応えることができる。
【発明の効果】
【0029】
本発明に係る入力装置は、以上のように、近傍の像を検知することによりユーザの入力を取得する入力装置であって、1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することが可能な面状部材と、前記面状部材が検知した像の動きに応じて、前記面状部材に表示させる、前記画像上のサブ画像の位置を変更する位置変更手段と、前記面状部材が検知した像の位置を、前記画像上の位置として特定する位置特定手段と、を備え、さらに、前記面状部材が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、前記位置変更手段が前記サブ画像の位置を変更するか、あるいは前記位置特定手段が前記画像上の位置を特定するか、を選択する選択手段を備える構成である。
【0030】
また、本発明に係る入力装置の制御方法は、以上のように、1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することでユーザの入力を取得可能な面状部材を備える入力装置の制御方法であって、前記面状部材が検知した像の動きに応じて、前記面状部材に表示させる、前記画像上のサブ画像の位置を変更する位置変更ステップと、前記面状部材が検知した像の位置を、前記画像上の位置として特定する位置特定ステップと、を含み、さらに、前記面状部材が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、前記位置変更ステップが前記サブ画像の位置を変更するか、あるいは前記位置特定ステップが前記画像上の位置を特定するか、を選択する選択ステップを含む構成である。
【0031】
これにより、操作性及び利便性に優れた入力装置および入力装置の制御方法をユーザに提供することができる。
【図面の簡単な説明】
【0032】
【図1】本発明の一実施形態に係るデータ表示/センサ装置の要部構成を表すブロック図である。
【図2】本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルの断面を模式的に示す図である。
【図3】(a)は、本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルにて反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。(b)は、本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルにて影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。
【図4】本発明の一実施形態に係るデータ表示/センサ装置の要部構成を示すブロック図である。
【図5】本発明の一実施形態に係るデータ表示/センサ装置で用いられるコマンドのフレーム構造の一例を模式的に示す図である。
【図6】図5に示したコマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
【図7】(a)は、本発明の一実施形態に係るデータ表示/センサ装置にて、対象物がセンサ内蔵液晶パネル上に置かれていないときに、センサ内蔵液晶パネル全体をスキャンした結果として得られる画像データである。(b)は、本発明の一実施形態に係るデータ表示/センサ装置にて、ユーザが指でセンサ内蔵液晶パネルをタッチしているときに、スキャンした結果として得られる画像データである。
【図8】本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルの構成およびその周辺回路の構成を示すブロック図である。
【図9】スタイラペンによる経路のトレースが画面左端まで到達したため、指を右側に移動する様子を示す図である。
【図10】図9による指の動作によって地図がスクロールし、再びスタイラペンを使用して経路をトレースする様子を示す図である。
【図11】本発明の一実施形態に係るデータ表示/センサ装置の処理の流れを表すフローチャートである。
【図12】本発明の他の実施形態に係る実施例を示す図である。
【図13】本発明の他の実施形態に他の実施例を示す図である。
【発明を実施するための形態】
【0033】
〔実施の形態1〕
本実施の形態について図1〜図13に基づいて説明すると以下の通りである。
【0034】
本実施の形態に係るデータ表示/センサ装置100(入力装置)は、概略的に言えば、1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することが可能なセンサ内蔵液晶パネル301(面状部材)と、センサ内蔵液晶パネル301が検知した像の動きに応じて、センサ内蔵液晶パネル301に表示させる、画像上のサブ画像の位置を変更するスクロール制御部840(位置変更手段)と、センサ内蔵液晶パネル301が検知した像の位置を、画像上の位置として特定する位置特定部830(位置特定手段)と、を備え、さらに、センサ内蔵液晶パネル301が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、スクロール制御部840がサブ画像の位置を変更するか、あるいは位置特定部830が画像上の位置を特定するか、を選択する面積判定部820(選択手段)と、を備える。
【0035】
そこで、まず、データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301の概要について説明する。なお、データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301は1つでもよいし、複数でもよい。
【0036】
(センサ内蔵液晶パネルの概要)
前記データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301は、データの表示に加え、対象物の画像検出が可能な液晶パネルである。ここで、対象物の画像検出とは、例えば、ユーザが指やペンなどでポインティング(タッチ)した位置の検出や、印刷物等の画像の読み取り(スキャン)である。なお、表示に用いるデバイスは、液晶パネルに限定されるものではなく、有機EL(Electro Luminescence)パネルなどであってもよい。
【0037】
図2を参照しながら、センサ内蔵液晶パネル301の構造について説明する。図2は、センサ内蔵液晶パネル301の断面を模式的に示す図である。なお、ここで説明するセンサ内蔵液晶パネル301は一例であり、表示面と読取面とが共用されているものであれば、任意の構造のものが利用できる。
【0038】
図示のとおり、センサ内蔵液晶パネル301は、背面側に配置されるアクティブマトリクス基板51Aと、表面側に配置される対向基板51Bとを備え、これら基板の間に液晶層52を挟持した構造を有している。アクティブマトリクス基板51Aには、画素電極56、データ信号線57、光センサ回路32(図示せず)、配向膜58、偏光板59などが設けられる。対向基板51Bには、カラーフィルタ53r(赤)、53g(緑)、53b(青)、遮光膜54、対向電極55、配向膜58、偏光板59などが設けられる。また、センサ内蔵液晶パネル301の背面には、バックライト307が設けられている。
【0039】
なお、光センサ回路32に含まれるフォトダイオード6は、青のカラーフィルタ53bを設けた画素電極56の近傍に設けられているが、この構成に限定されるものではない。赤のカラーフィルタ53rを設けた画素電極56の近傍に設けてもよいし、緑のカラーフィルタ53gを設けた画素電極56の近傍に設けてもよい。
【0040】
次に、図3(a)および図3(b)を参照しながら、ユーザが、指やペンで、センサ内蔵液晶パネル301上をタッチした位置を検出する2種類の方法について説明する。
【0041】
図3(a)は、反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。バックライト307から光63が出射されると、フォトダイオード6を含む光センサ回路32は、指などの対象物64により反射された光63を検知する。これにより、対象物64の反射像を検知することができる。このように、センサ内蔵液晶パネル301は、反射像を検知することにより、タッチした位置を検出することができる。
【0042】
また、図3(b)は、影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。図3(b)に示すように、フォトダイオード6を含む光センサ回路32は、対向基板51Bなどを透過した外光61を検知する。しかしながら、ペンなどの対象物62がある場合は、外光61の入射が妨げられるので、光センサ回路32が検知する光量が減る。これにより、対象物62の影像を検知することができる。このように、センサ内蔵液晶パネル301は、影像を検知することにより、タッチした位置を検出することもできる。
【0043】
上述のように、フォトダイオード6は、バックライト307より出射された光の反射光(影像)を検知してもよいし、外光による影像を検知してもよい。また、前記2種類の検知方法を併用して、影像と反射像とを両方を同時に検知するようにしてもよい。
【0044】
(データ表示/センサ装置の要部構成)
次に、図4を参照しながら、前記データ表示/センサ装置100の要部構成について説明する。図4は、データ表示/センサ装置100の要部構成を示すブロック図である。図示のように、データ表示/センサ装置100は、1または複数の表示/光センサ部300、回路制御部600、データ処理部700、主制御部800、記憶部901、一次記憶部902、操作部903、外部通信部907、音声出力部908、および音声入力部909を備えている。ここでは、データ表示/センサ装置100は、表示/光センサ部300を2つ(第1表示/光センサ部300Aおよび第2表示/光センサ部300B)備えているものとして説明する。なお、第1表示/光センサ部300Aおよび第2表示/光センサ部300Bを区別しないときは、表示/光センサ部300と表記する。
【0045】
表示/光センサ部300は、いわゆる光センサ内蔵液晶表示装置でdfある。表示/光センサ部300は、センサ内蔵液晶パネル301、バックライト307、それらを駆動するための周辺回路309を含んで構成される。
【0046】
センサ内蔵液晶パネル301は、マトリクス状に配置された複数の画素回路31および光センサ回路32を含んで構成される。センサ内蔵液晶パネル301の詳細な構成については後述する。
【0047】
周辺回路309は、液晶パネル駆動回路304、光センサ駆動回路305、信号変換回路306、バックライト駆動回路308を含む。
【0048】
液晶パネル駆動回路304は、回路制御部600の表示制御部601からのタイミング制御信号(TC1)およびデータ信号(D)に従って、制御信号(G)およびデータ信号(S)を出力し、画素回路31を駆動する回路である。画素回路31の駆動方法の詳細については後述する。
【0049】
光センサ駆動回路305は、回路制御部600のセンサ制御部602からのタイミング制御信号(TC2)に従って、信号線(R)に電圧を印加し、光センサ回路32を駆動する回路である。光センサ回路32の駆動方法の詳細については後述する。
【0050】
信号変換回路306は、光センサ回路32から出力されるセンサ出力信号(SS)をデジタル信号(DS)に変換し、該変換後の信号をセンサ制御部602に送信する回路である。
【0051】
バックライト307は、複数の白色LED(Light Emitting Diode)を含んでおり、センサ内蔵液晶パネル301の背面に配置される。そして、バックライト駆動回路308から電源電圧が印加されると、バックライト307は点灯し、センサ内蔵液晶パネル301に光を照射する。なお、バックライト307は、白色LEDに限らず、他の色のLEDを含んでいてもよい。また、バックライト307は、LEDに代えて、例えば、冷陰極管(CCFL:Cold Cathode Fluorescent Lamp)を含むものであってもよい。
【0052】
バックライト駆動回路308は、回路制御部600のバックライト制御部603からの制御信号(BK)がハイレベルであるときは、バックライト307に電源電圧を印加し、逆に、バックライト制御部603からの制御信号がローレベルであるときは、バックライト307に電源電圧を印加しない。
【0053】
次に、回路制御部600について説明する。回路制御部600は、表示/光センサ部300の周辺回路309を制御するデバイスドライバとしての機能を備えるものである。回路制御部600は、表示制御部601、センサ制御部602、バックライト制御部603、および表示データ記憶部604を備えている。
【0054】
表示制御部601は、データ処理部700の表示データ処理部701から表示データを受信するとともに、表示データ処理部701からの指示に従って、表示/光センサ部300の液晶パネル駆動回路304に、タイミング制御信号(TC1)およびデータ信号(D)を送信し、前記受信した表示データをセンサ内蔵液晶パネル301に表示させる。
【0055】
なお、表示制御部601は、表示データ処理部701から受信した表示データを、表示データ記憶部604に一次記憶させる。そして、当該一次記憶させた表示データに基づいて、データ信号(D)を生成する。表示データ記憶部604は、例えば、VRAM(video random access memory)などである。
【0056】
センサ制御部602は、データ処理部700のセンサデータ処理部703からの指示に従って、表示/光センサ部300の光センサ駆動回路305に、タイミング制御信号(TC2)を送信し、センサ内蔵液晶パネル301にてスキャンを実行させる。
【0057】
また、センサ制御部602は、信号変換回路306からデジタル信号(DS)を受信する。そして、センサ内蔵液晶パネル301に含まれる全ての光センサ回路32から出力されたセンサ出力信号(SS)に対応するデジタル信号(DS)に基づいて、画像データを生成する。つまり、センサ内蔵液晶パネル301の読み取り領域全体で読み取った画像データを生成する。そして、該生成した画像データをセンサデータ処理部703に送信する。
【0058】
バックライト制御部603は、表示データ処理部701およびセンサデータ処理部703からの指示に従って、表示/光センサ部300のバックライト駆動回路308に制御信号(BK)を送信し、バックライト307を駆動させる。
【0059】
なお、データ表示/センサ装置100が、複数の表示/光センサ部300を備える場合、表示制御部601は、データ処理部700から、どの表示/光センサ部300にて表示データを表示するかの指示を受けたとき、当該指示に応じた表示/光センサ部300の液晶パネル駆動回路304を制御する。また、センサ制御部602は、データ処理部700から、どの表示/光センサ部300にて対象物のスキャンを行なうかの指示を受けたとき、当該指示に応じた表示/光センサ部300の光センサ駆動回路305を制御するとともに、当該指示に応じた表示/光センサ部300の信号変換回路306からデジタル信号(DS)を受信する。
【0060】
次に、データ処理部700について説明する。データ処理部700は、主制御部800から受信する「コマンド」に基づいて、回路制御部600に指示を与えるミドルウェアとしての機能を備えるものである。なお、コマンドの詳細については後述する。
【0061】
データ処理部700は、表示データ処理部701およびセンサデータ処理部703を備えている。そして、データ処理部700が、主制御部800からコマンドを受信すると、該受信したコマンドに含まれる各フィールド(後述する)の値に応じて、表示データ処理部701およびセンサデータ処理部703の少なくとも一方が動作する。
【0062】
表示データ処理部701は、主制御部800から表示データを受信するとともに、データ処理部700が受信したコマンドに従って、表示制御部601およびバックライト制御部603に指示を与え、前記受信した表示データをセンサ内蔵液晶パネル301に表示させる。なお、コマンドに応じた、表示データ処理部701の動作については、後述する。
【0063】
センサデータ処理部703は、データ処理部700が受信したコマンドに従って、センサ制御部602およびバックライト制御部603に指示を与える。
【0064】
また、センサデータ処理部703は、センサ制御部602から画像データを受信し、当該画像データをそのまま画像データバッファ704に格納する。そして、センサデータ処理部703は、データ処理部700が受信したコマンドに従って、画像データバッファ704に記憶されている画像データに基づいて、「全体画像データ」、「部分画像データ(部分画像の座標データを含む)」、および「座標データ」の少なくともいずれか1つを、主制御部800に送信する。なお、全体画像データ、部分画像データ、および座標データについては、後述する。また、コマンドに応じた、センサデータ処理部703の動作については、後述する。
【0065】
次に、主制御部800は、アプリケーションプログラムを実行するものである。主制御部800は、記憶部901に格納されているプログラムを、例えばRAM(Random Access Memory)等で構成される一次記憶部902に読み出して実行する。
【0066】
主制御部800で実行されるアプリケーションプログラムは、センサ内蔵液晶パネル301に表示データを表示させたり、センサ内蔵液晶パネル301にて対象物のスキャンを行わせるために、データ処理部700に対して、コマンドおよび表示データを送信する。また、コマンドに「データ種別」を指定した場合は、当該コマンドの応答として、全体画像データ、部分画像データ、および座標データの少なくともいずれか1つを、データ処理部700から受信する。
【0067】
なお、回路制御部600、データ処理部700、および主制御部800は、それぞれ、CPU(Central Processing Unit)およびメモリ等で構成することができる。また、データ処理部700は、ASIC(application specific integrate circuit)などの回路で構成されていてもよい。
【0068】
次に、記憶部901は、図示のように、主制御部800が実行するプログラムおよびデータを格納するものである。なお、主制御部800が実行するプログラムは、アプリケーション固有のプログラムと、各アプリケーションが共用可能な汎用プログラムとに分離されていてもよい。
【0069】
次に、操作部903は、データ表示/センサ装置100のユーザの入力操作を受けつけるものである。操作部903は、例えば、スイッチ、リモコン、マウス、キーボードなどの入力デバイスで構成される。そして、操作部903は、データ表示/センサ装置100のユーザの入力操作に応じた制御信号を生成し、該生成した制御信号を主制御部800へ送信する。
【0070】
なお、前記スイッチの例としては、電源のオンとオフとを切り替える電源スイッチ905、予め所定の機能が割り当てられているユーザスイッチ906などのハードウェアスイッチを想定している。
【0071】
その他、データ表示/センサ装置100は、無線/有線通信によって外部装置と通信を行なうための外部通信部907、音声を出力するためのスピーカ等の音声出力部908、音声信号を入力するためのマイク等の音声入力部909などを適宜備えていてもよい。
【0072】
(コマンドの詳細)
次に、図5および図6を参照しながら、主制御部800からデータ処理部700に送信されるコマンドの詳細について説明する。図5は、コマンドのフレーム構造の一例を模式的に示す図である。また、図6は、コマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
【0073】
図5に示すように、コマンドは、「ヘッダ」、「データ取得タイミング」、「データ種別」、「スキャン方式」、「スキャン画像階調」、「スキャン解像度」、「スキャンパネル」、「表示パネル」、および「予備」の各フィールドを含んでいる。そして、各フィールドには、例えば、図6に示す値が指定可能である。
【0074】
「ヘッダ」フィールドは、フレームの開始を示すフィールドである。「ヘッダ」フィールドであることが識別可能であれば、「ヘッダ」フィールドの値は、どのような値であってもよい。
【0075】
次に、「データ取得タイミング」フィールドは、データを主制御部800へ送信すべきタイミングを指定するフィールドである。「データ取得タイミング」フィールドには、例えば、“00”(センス)、“01”(イベント)、および“10”(オール)という値が指定可能である。
【0076】
ここで、“センス”は、最新のデータを直ちに送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“センス”であるコマンドを受信すると、「データ種別」フィールドにて指定されている最新のデータを、直ちに、主制御部800に送信する。
【0077】
また、“イベント”は、センサ制御部602から受信する画像データに変化が生じたタイミングで送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“イベント”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、センサ制御部602から受信する画像データに、所定の閾値より大きい変化が生じたタイミングで、主制御部800に送信する。
【0078】
また、“オール”は、所定周期でデータを送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“オール”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、所定周期で、主制御部800に送信する。なお、前記所定周期は、光センサ回路32にてスキャンを行なう周期と一致する。
【0079】
次に、「データ種別」フィールドは、センサデータ処理部703から取得するデータの種別を指定するフィールドである。なお、「データ種別」フィールドには、例えば、“001”(座標)、“010”(部分画像)、および“100”(全体画像)という値が指定可能である。さらに、これらの値を加算することによって、“座標”と、“部分画像”/“全体画像”とを、同時に指定可能である。例えば、“座標”と“部分画像”とを同時に指定する場合、“011”と指定することができる。
【0080】
センサデータ処理部703は、「データ種別」フィールドの値が“全体画像”であるコマンドを受信すると、画像データバッファ704に記憶している画像データそのものを主制御部800に送信する。画像データバッファ704に記憶している画像データそのものを、「全体画像データ」と称する。
【0081】
また、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信すると、センサ制御部602から受信する画像データから、所定の閾値より大きい変化が生じた部分を含む領域を抽出し、該抽出した領域の画像データを主制御部800に送信する。ここで、当該画像データを、「部分画像データ」と称する。なお、前記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出されたそれぞれの部分画像データを主制御部800に送信する。
【0082】
さらに、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信したとき、部分画像データにおける代表座標を検出し、当該代表座標の部分画像データにおける位置を示す座標データを主制御部800に送信する。なお、前記代表座標とは、例えば、前記部分画像データの中心の座標、前記部分画像データの重心の座標などが挙げられる。
【0083】
次に、センサデータ処理部703は、「データ種別」フィールドの値が“座標”であるコマンドを受信すると、前記代表座標の全体画像データにおける位置を示す座標データを主制御部800に送信する。なお、前記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出された、それぞれの部分画像データの、全体画像データにおける代表座標を検出し、当該代表座標を示す座標データのそれぞれを主制御部800に送信する(多点検出)。
【0084】
なお、全体画像データ、部分画像データ、および座標データの具体例については、模式図を参照しながら後述する。
【0085】
次に、「スキャン方式」フィールドは、スキャン実行時に、バックライト307を点灯するか否かを指定するフィールドである。「スキャン方式」フィールドには、例えば、“00”(反射)、“01”(透過)、および“10”(反射/透過)という値が指定可能である。
【0086】
“反射”は、バックライト307を点灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“反射”であるコマンドを受信すると、光センサ駆動回路305とバックライト駆動回路308とが同期して動作するように、センサ制御部602とバックライト制御部603とに指示を与える。
【0087】
また、“透過”は、バックライト307を消灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“透過”であるコマンドを受信すると、光センサ駆動回路305を動作させ、バックライト駆動回路308と動作させないようにセンサ制御部602とバックライト制御部603とに指示を与える。なお、“反射/透過”は、“反射”と“透過”とを併用してスキャンを行なうことを指定するものである。
【0088】
次に、「スキャン画像階調」フィールドは、部分画像データおよび全体画像データの階調を指定するフィールドである。「スキャン画像階調」フィールドには、例えば、“00”(2値)、および“01”(多値)という値が指定可能である。
【0089】
ここで、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“2値”であるコマンドを受信すると、部分画像データおよび全体画像データをモノクロデータとして、主制御部800に送信する。
【0090】
また、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“多値”であるコマンドを受信すると、部分画像データおよび全体画像データを多階調データとして、主制御部800に送信する。
【0091】
次に、「スキャン解像度」フィールドは、部分画像データおよび全体画像データの解像度を指定するフィールドである。「解像度」フィールドには、例えば、“0”(高)および“1”(低)という値が指定可能である。
【0092】
ここで、“高”は、高解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“高”であるコマンドを受信すると、部分画像データおよび全体画像データを高解像度で主制御部800に送信する。例えば、画像認識などの画像処理を行なう対象の画像データ(指紋などの画像データ)には、“高”を指定することが望ましい。
【0093】
また、“低”は、低解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“低”であるコマンドを受信すると、部分画像データおよび全体画像データを低解像度で主制御部800に送信する。例えば、タッチした位置等が分かる程度でよい画像データ(タッチした指や手の画像データなど)には、“低”を指定することが望ましい。
【0094】
次に、「スキャンパネル」フィールドは、どの表示/光センサ部300にて対象物のスキャンを行なうかを指定するフィールドである。「スキャンパネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
【0095】
ここで、センサデータ処理部703は、「スキャンパネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aの光センサ駆動回路305およびバックライト駆動回路308を制御するように、センサ制御部602およびバックライト制御部603に指示を与える。
【0096】
次に、「表示パネル」フィールドは、どの表示/光センサ部300にて表示データを表示させるかを指定するフィールドである。「表示パネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
【0097】
ここで、表示データ処理部701は、例えば、「表示パネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aに表示データを表示させるために、第1表示/光センサ部300Aの液晶パネル駆動回路304およびバックライト駆動回路308を制御するように、表示制御部601およびバックライト制御部603に指示を与える。
【0098】
次に、「予備」フィールドは、上述したフィールドにて指定可能な情報以外の情報をさらに指定する必要がある場合に、適宜指定されるフィールドである。
【0099】
なお、主制御部800にて実行されるアプリケーションは、コマンドを送信するにあたり、上述したフィールドを全て使用する必要はなく、使用しないフィールドには無効値(NULL値など)を設定しておけばよい。
【0100】
また、ユーザが指やペンなどでタッチした位置の座標データを取得したいときは、「データ種別」フィールドに“座標”を指定したコマンドをデータ処理部700に送信することとなるが、指やペンなどは動きがあるため、さらに、当該コマンドの「データ取得タイミング」フィールドに“オール”を指定し、座標データを取得するようにすることが望ましい。また、タッチした位置の座標データが取得できればよいため、スキャンの精度は高くなくてもよい。したがって、前記コマンドの「解像度」フィールドの値は“低”を指定しておけばよい。
【0101】
また、コマンドの「データ種別」フィールドに“座標”を指定した場合において、例えば、ユーザが、複数の指やペンなどでセンサ内蔵液晶パネル301を同時にタッチした場合は、該タッチした位置の座標データのそれぞれを取得することができる(多点検出)。
【0102】
また、原稿などの対象物の画像データを取得する場合、「データ種別」フィールドに“全体画像”を指定したコマンドをデータ処理部700に送信することとなるが、原稿などの対象物は、通常、静止させた状態でスキャンを実行することが一般的であるため、周期的にスキャンを実行する必要はない。従って、この場合は、「データ取得タイミング」フィールドに“センス”または“イベント”を指定することが望ましい。なお、原稿などの対象物をスキャンするときは、ユーザが文字を読みやすいように、スキャン精度は高い方が望ましい。したがって、「解像度」フィールドには“高”を指定することが望ましい。
【0103】
(全体画像データ/部分画像データ/座標データ)
次に、図7を参照しながら、全体画像データ、部分画像データ、および座標データについて、例を挙げて説明する。図7(a)に示す画像データは、対象物がセンサ内蔵液晶パネル301上に置かれていないときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。また、図7(b)に示す画像データは、ユーザが指でセンサ内蔵液晶パネル301をタッチしているときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。
【0104】
ユーザが指でセンサ内蔵液晶パネル301をタッチしたとき、当該タッチした近傍の光センサ回路32が受光する光量が変化するため、当該光センサ回路32が出力する電圧に変化が生じ、その結果として、センサ制御部602が生成する画像データのうち、ユーザがタッチした部分の画素値の明度に変化が生じることとなる。
【0105】
図7(b)に示す画像データでは、図7(a)に示す画像データと比べると、ユーザの指に該当する部分の画素値の明度が高くなっている。そして、図7(b)に示す画像データにおいて、明度が所定の閾値より大きく変化している画素値を全て含む最小の矩形領域(領域PP)が、“部分画像データ”である。
【0106】
なお、領域APで示される画像データが、“全体画像データ”である。
【0107】
また、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)であり、部分画像データ(領域PP)における座標データは(Xp,Yp)である。
【0108】
(センサ内蔵液晶パネルの構成)
次に、図8を参照しながら、センサ内蔵液晶パネル301の構成、および、センサ内蔵液晶パネル301の周辺回路309の構成について説明する。図8は、表示/光センサ部300の要部、特に、センサ内蔵液晶パネル301の構成および周辺回路309の構成を示すブロック図である。
【0109】
センサ内蔵液晶パネル301は、光透過率(輝度)を設定するための画素回路31、および、自身が受光した光の強度に応じた電圧を出力する光センサ回路32を備えている。なお、画素回路31は、赤色、緑色、青色のカラーフィルタのそれぞれに対応するR画素回路31r、G画素回路31g、B画素回路31bの総称して用いる。
【0110】
画素回路31は、センサ内蔵液晶パネル301上の列方向(縦方向)にm個、行方向(横方向)に3n個配置される。そして、R画素回路31r、G画素回路31g、およびB画素回路31bの組が、行方向(横方向)に連続して配置される。この組が1つの画素を形成する。
【0111】
画素回路31の光透過率を設定するには、まず、画素回路31に含まれるTFT(Thin Film Transistor)33のゲート端子に接続される走査信号線Giにハイレベル電圧(TFT33をオン状態にする電圧)を印加する。その後、R画素回路31rのTFT33のソース端子に接続されているデータ信号線SRjに、所定の電圧を印加する。同様に、G画素回路31gおよびB画素回路31bについても、光透過率を設定する。そして、これらの光透過率を設定することにより、センサ内蔵液晶パネル301上に画像が表示される。
【0112】
次に、光センサ回路32は、一画素毎に配置される。なお、R画素回路31r、G画素回路31g、およびB画素回路31bのそれぞれの近傍に1つずつ配置されてもよい。
【0113】
光センサ回路32にて光の強度に応じた電圧を出力させるためには、まず、コンデンサ35の一方の電極に接続されているセンサ読み出し線RWiと、フォトダイオード36のアノード端子に接続されているセンサリセット線RSiとに所定の電圧を印加する。この状態において、フォトダイオード36に光が入射されると、入射した光量に応じた電流がフォトダイオード36に流れる。そして、当該電流に応じて、コンデンサ35の他方の電極とフォトダイオード36のカソード端子との接続点(以下、接続ノードV)の電圧が低下する。そして、センサプリアンプ37のドレイン端子に接続される電圧印加線SDjに電源電圧VDDを印加すると、接続ノードVの電圧は増幅され、センサプリアンプ37のソース端子からセンシングデータ出力線SPjに出力される。そして、当該出力された電圧に基づいて、光センサ回路32が受光した光量を算出することができる。
【0114】
次に、センサ内蔵液晶パネル301の周辺回路である、液晶パネル駆動回路304、光センサ駆動回路305、およびセンサ出力アンプ44について説明する。
【0115】
液晶パネル駆動回路304は、画素回路31を駆動するための回路であり、走査信号線駆動回路3041およびデータ信号線駆動回路3042を含んでいる。
【0116】
走査信号線駆動回路3041は、表示制御部601から受信したタイミング制御信号TC1に基づいて、1ライン時間毎に、走査信号線G1〜Gmの中から1本の走査信号線を順次選択し、該選択した走査信号線にハイレベル電圧を印加するとともに、その他の走査信号線にローレベル電圧を印加する。
【0117】
データ信号線駆動回路3042は、表示制御部601から受信した表示データD(DR、DG、およびDB)に基づいて、1ライン時間毎に、1行分の表示データに対応する所定の電圧を、データ信号線SR1〜SRn、SG1〜SGn、SB1〜SBnに印加する(線順次方式)。なお、データ信号線駆動回路3042は、点順次方式で駆動するものであってもよい。
【0118】
光センサ駆動回路305は、光センサ回路32を駆動するための回路である。光センサ駆動回路305は、センサ制御部602から受信したタイミング制御信号TC2に基づいて、センサ読み出し信号線RW1〜RWmの中から、1ライン時間毎に1本ずつ選択したセンサ読み出し信号線に所定の読み出し用電圧を印加するとともに、その他のセンサ読み出し信号線には、所定の読み出し用電圧以外の電圧を印加する。また、同様に、タイミング制御信号TC2に基づいて、センサリセット信号線RS1〜RSmの中から、1ライン時間毎に1本ずつ選択したセンサリセット信号線に所定のリセット用電圧を印加するとともに、その他のセンサリセット信号線には、所定のリセット用電圧以外の電圧を印加する。
【0119】
センシングデータ出力信号線SP1〜SPnはp個(pは1以上n以下の整数)のグループにまとめられ、各グループに属するセンシングデータ出力信号線は、時分割で順次オン状態になるスイッチ47を介して、センサ出力アンプ44に接続される。センサ出力アンプ44は、スイッチ47により接続されたセンシングデータ出力信号線のグループからの電圧を増幅し、センサ出力信号SS(SS1〜SSp)として、信号変換回路306へ出力する。
〔実施の形態1〕
本発明の主な特徴は、データ表示/センサ装置100は、1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することが可能なセンサ内蔵液晶パネル301と、センサ内蔵液晶パネル301が検知した像の動きに応じて、センサ内蔵液晶パネル301に表示させる、画像上のサブ画像の位置を変更するスクロール制御部840と、センサ内蔵液晶パネル301が検知した像の位置を、画像上の位置として特定する位置特定部830と、を備え、さらに、センサ内蔵液晶パネル301が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、スクロール制御部840がサブ画像の位置を変更するか、あるいは位置特定部830が画像上の位置を特定するか、を選択する面積判定部820と、を備える点にある。
【0120】
これにより、データ表示/センサ装置100は、センサ内蔵液晶パネル301が近傍の像を検知すると共に、検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、2つの動作、つまり、スクロール制御部840がサブ画像の位置を変更する動作と、位置特定部830が、センサ内蔵液晶パネル301が検知した像の位置を画像上の位置として特定する動作と、を区別して実行することができる。そして、センサ内蔵液晶パネル301は近傍の像を検知することが可能である。従って、センサ内蔵液晶パネル301が異なる面積の2つの像を検知した場合にも、前記2つの動作を独立して行うことができる。
【0121】
従って、データ表示/センサ装置100では、前記2つの動作について、一方の動作が終了するのを待ってから他方の動作を実行する必要がなく、それゆえ、途切れることなく連続的で多彩な動作をユーザに提供することができる。そして、この動作は従来の入力装置では実現できなかった動作であるため、優れた操作性及び利便性がユーザにもたらされる。
(データ表示/センサ装置の動作説明)
実施の形態1に係るデータ表示/センサ装置100について、図1、図9〜図11を参照して説明する。
【0122】
なお、まず最初に、データ表示/センサ装置100が実行する動作の具体例を図9、図10を参照して説明する。次に、データ表示/センサ装置100の構成を図1を参照して説明する。そして、その動作を実現する処理の流れを図11を参照して説明する。
【0123】
また、データ表示/センサ装置100のセンサ内蔵液晶パネル301には地図が表示され、その地図に対して、ユーザがスタイラペンを使って経路を入力するものとする。
(表示画像に対して実行される動作)
以下、図9、及び図10の概要を説明する。図9は、スタイラペンによる経路のトレースが画面左端まで到達したため、指を右側に移動する様子を示す図である。また、図10は、図9による指の動作によってセンサ内蔵液晶パネル301に表示される地図の位置を変更し、再びスタイラペンを使用して経路をトレースする様子を示す図である。
【0124】
図9に示すように、データ表示/センサ装置100のセンサ内蔵液晶パネル301は、地図を表示すると共に、指およびスタイラペンの像を同時に検知することが可能である。なお、データ表示/センサ装置100は、センサ内蔵液晶パネル301が検知した像が指の像であるか、若しくはスタイラペンの像であるかを次のように区別している。
【0125】
一般的に、指の像の面積はスタイラペンの像の面積よりも大きい。そこで、検知した像の面積と所定の閾値とを比較して、検知した像が所定の閾値よりも大きければ指の像、検知した像が所定の閾値以下であればスタイラペンの像、という判定をする。このように判定することで、データ表示/センサ装置100は、センサ内蔵液晶パネル301が検知した像が指の像であるか、若しくはスタイラペンの像であるかを区別することができる。
【0126】
そして、データ表示/センサ装置100は、センサ内蔵液晶パネル301が検知した像が指の像である場合には、その指の像の動きに応じて、センサ内蔵液晶パネル301に表示される地図の位置を変更する(以降の説明では、地図の位置を変更することをスクロールと呼ぶ)。
【0127】
つまり、指が図面右側(地図上において、西から東の方向)に移動した場合には、同じ移動量だけ、センサ内蔵液晶パネル301に表示される地図が東側にスクロールし、その結果、センサ内蔵液晶パネル301には画面に表示されていなかった西側地域の地図が表示される。同様に、図示していないが、指が左斜上の方向(南東から北西の方向)に移動した場合には、同じ移動量、及び移動方向でセンサ内蔵液晶パネル301に表示される地図が北西にスクロールし、その結果、センサ内蔵液晶パネル301には画面に表示されていなかった南東側地域の地図が表示される。
【0128】
なお、このとき、指が移動する移動速度と同じ速度で地図もスクロールする。従って、移動量、移動方向、及び移動速度を移動ベクトルと言い換えるならば、データ表示/センサ装置100は、センサ内蔵液晶パネル301が検知した指の像の移動ベクトルに応じて地図をスクロールさせる。
【0129】
一方、データ表示/センサ装置100は、センサ内蔵液晶パネル301が検知した像がスタイラペンの像である場合には、スタイラペンの像の位置を地図上の位置として特定し、その特定した地図上の位置を示す位置画像をセンサ内蔵液晶パネル301に表示する。つまり、スタイラペンの像が検知された場合には、あたかもスタイラペンで地図をトレースするように、地図上におけるスタイラペンの像の位置を示す位置画像が、その地図上に表示される。従って、地図上の道路をなぞってスタイラペンを動かすことにより、ユーザは、その道路をトレースすることができる。
【0130】
図9では、ユーザは、図面右側(東)から左側(西)へ地図上の道路をスタイラペンでトレースしている。そして、そのトレースが画面左端(地図上でA市と表示された付近)まで到達し、トレースがそれ以上できない状況となっている。そこで、ユーザは、センサ内蔵液晶パネル301に指の像を検知させたうえで、西の方向から東の方向に指を移動することにより、地図を東の方向にスクロールさせようとしている。
【0131】
次に、図10について説明する。図10は、図9による指の動作によってセンサ内蔵液晶パネル301に表示される地図がスクロールし、再びスタイラペンを使用して経路をトレースする様子を示す。図9に示すスクロールを行った結果、A市は画面中央付近に表示されている(図10)。これにより、トレース可能な範囲がさらに西の方向に拡張し、ユーザは、A市よりもさらに西の方向にトレースを行っている。同様に、図示していないが、例えば画面上端(北の方向)までトレースが行われた場合には、北から南の方向に指を移動することにより、地図を南の方向にスクロールさせることができる。これによりトレース可能な範囲がさらに北の方向に拡張する。
【0132】
ここで、図9の図面左上には「距離8km」、及び図10の図面左上には「距離12km」と表示されている。これは、ユーザがスタイラペンによりトレースした地図上の距離を示す。つまり、図9の時点では地図上の距離8kmに相当する長さのトレースが行われており、図10の時点では地図上の距離12kmに相当する長さのトレースが行われている。
【0133】
このように、データ表示/センサ装置100では、トレースした長さに相当する地図上の距離がセンサ内蔵液晶パネル301に表示されるため、ユーザは、容易かつ迅速に、その距離を確認することができる。
【0134】
(データ表示/センサ装置の要部構成の説明)
次に、図1を参照しながら、データ表示/センサ装置100のより詳細な構成について説明する。なお、ここでは、説明を分かりやすくするために、主制御部800と表示/光センサ部300との間に位置するデータ処理部700および回路制御部600の動作については説明を省略する。ただし、正確には、画像の表示および画像の検知を行うにあたり、主制御部800の画像表示制御部860が、データ処理部700にコマンドを送信し、データ処理部700がコマンドに基づいて回路制御部600を制御し、回路制御部600が表示/光センサ部300に対して信号を送信する。また、主制御部800は、データ処理部700に対して送信したコマンドに対する応答として、データ処理部700から、全体画像データ、部分画像データ、および座標データを取得する。
【0135】
図1は、データ表示/センサ装置100の要部構成を表すブロック図である。図示のように、主制御部800は、データ取得部810と、面積判定部820と、位置特定部830と、スクロール制御部840と、距離算出部850と、画像表示制御部860と、を備える。なお、距離算出部850は、省略することも可能である。
【0136】
データ取得部810は、データ処理部700から出力される全体画像データ及び座標データを取得する。そして、データ取得部810は、データ処理部700から取得した全体画像データ及び座標データを面積判定部820に出力する。
【0137】
面積判定部820は、データ取得部810から全体画像データ及び座標データを取得し、全体画像データに含まれる像の面積(以下、像面積と称する)を算出する。具体的には、面積判定部820は、算出した像面積が所定の閾値より大きいか否かを判定する。なお、所定の閾値は記憶部901に格納されており、面積判定部820は、記憶部901から当該所定の閾値を読み出している。
【0138】
次に、面積判定部820は、データ取得部810から取得した座標データを位置特定部830、又はスクロール制御部840に出力する。このとき、面積判定部820は、データ取得部810から取得した全体画像データに含まれる像面積に応じて出力先を変更する。なお、像面積の算出方法は、従来の画像処理ソフトで行われる一般的な方法でよい。
【0139】
より具体的には、面積判定部820は、算出した像面積が所定の閾値より大きい場合は、データ取得部810から取得した座標データをスクロール制御部840に出力する。一方、面積判定部820は、算出した像面積が所定の閾値以下である場合には、データ取得部810から取得した座標データを位置特定部830に出力する。
【0140】
位置特定部830は、面積判定部820が算出した像面積が所定の閾値より小さい場合に、面積判定部820から座標データを取得し、その座標データに基づいて、検知した像の位置を、地図上の位置として特定する。
【0141】
より具体的に説明すると、図7を参照して説明したように、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)で表され、部分画像データ(領域PP)における座標データは(Xp,Yp)として表される。従って、位置特定部830は、センサ内蔵液晶パネル301が検知した像の前記座標データに基づいて、センサ内蔵液晶パネル301における検知した像の位置を特定することができる。
【0142】
位置特定部830は、さらに、センサ内蔵液晶パネル301に表示される地図に関する地図情報を記憶部901から読み出す。その地図情報には、地図上の各地点を座標によって特定した座標情報が含まれており、位置特定部830は、記憶部901から座標情報を読み出すことにより、センサ内蔵液晶パネル301に表示される地図上の任意の地点を座標によって特定することができる。従って、位置特定部830は、その地図情報に基づいて、センサ内蔵液晶パネル301が検知した像の位置を、地図上の位置として特定することができる。それゆえ、位置特定部830は、地図上の道路がスタイラペンでトレースされた場合には、そのトレースされた位置を地図上の位置として特定し、また後述の方法によって、そのトレースした位置をセンサ内蔵液晶パネル301に表示する。
【0143】
なお、位置特定部830は、センサ内蔵液晶パネル301が、移動する像を連続的に検知した場合には、データ取得部810から座標データを連続的に取得する。そして、地図情報に基づいて、センサ内蔵液晶パネル301が検知した移動する像の位置を、地図上の位置として特定する。
【0144】
位置特定部830は、さらに、センサ内蔵液晶パネル301が検知した像の位置を地図上の位置として特定したうえで、その情報、つまり、ユーザがスタイラペンでトレースした地図上の位置を示すトレース情報を記憶部901に出力する。なお、位置特定部830が自身でトレース情報を記憶する構成とすることもできる。また、位置特定部830は、トレース情報を画像表示制御部860にも出力するが、その詳細は後述する。
【0145】
スクロール制御部840は、面積判定部820が算出した像面積が所定の閾値より大きい場合に、面積判定部820から座標データを取得する。また、スクロール制御部840は、センサ内蔵液晶パネル301が検知した像が移動する場合には、データ取得部810から座標データを連続的に取得する。なお、スクロール制御部840は、像の移動前後における座標データの差分を計算することにより、像の移動量、及び移動方向を算出することができる。また、スクロール制御部840は、座標データが取得された時間の差分を計算することにより、像の移動速度も同時に算出することができる。
【0146】
スクロール制御部840は、さらに、センサ内蔵液晶パネル301に表示される地図に関する地図情報を記憶部901から読み出す。そして、スクロール制御部840は、座標データに基づいて算出した像の移動量、移動方向、及び移動速度と同じ移動量、移動方向、及び移動速度により、センサ内蔵液晶パネル301に表示される地図をスクロールさせるための指示を画像表示制御部860に出力する。つまり、スクロール制御部840は、センサ内蔵液晶パネル301が検知した像の移動に応じて地図をスクロールさせるための指示を画像表示制御部860に出力する。
【0147】
距離算出部850は、記憶部901からトレース情報を読み出し、そのトレース情報に基づいて像の移動量を算出する。なお、像の移動量の算出方法は、検知された像の位置に係る座標データを用いて容易に算出することができ、従来の画像処理ソフトで行われる一般的な方法でよい。
【0148】
同時に、距離算出部850は、センサ内蔵液晶パネル301に表示される地図に関する地図情報を記憶部901から読み出す。その地図情報には地図の縮尺を示す地図縮尺情報が含まれているため、距離算出部850は、センサ内蔵液晶パネル301に表示される地図の縮尺を取得することができる。そして、距離算出部850は、算出した像の移動量と地図の縮尺とに基づいて、その像の移動量に相当する地図上の距離を算出する。そのうえで、距離算出部850は、センサ内蔵液晶パネル301が検知した像の移動量に相当する地図上の距離を表示させるための指示を画像表示制御部860に出力する。なお、センサ内蔵液晶パネル301が検知した像の移動量は、センサ内蔵液晶パネル301に表示される、地図上におけるスタイラペンの像の位置を示す位置画像によって描かれる、センサ内蔵液晶パネル301が検知した像の軌跡の長さに相当する。
【0149】
画像表示制御部860は、位置特定部830、スクロール制御部840、及び距離算出部850からの指示(出力)に基づいて、各出力に対応する表示画面をセンサ内蔵液晶パネル301に表示させるための表示データを生成する。そして、その生成した表示データをデータ処理部700に出力し、前記各出力に対応する表示画面をセンサ内蔵液晶パネル301に表示させる。
【0150】
より具体的に説明すると以下の通りである。上述したように、位置特定部830は、センサ内蔵液晶パネル301が検知した像の位置を、地図上の位置として特定する。そして、位置特定部830は、地図上におけるスタイラペンの像の位置を示す位置画像をセンサ内蔵液晶パネル301に表示させるための指示を画像表示制御部860に出力する。従って、画像表示制御部860は、センサ内蔵液晶パネル301に位置画像を表示させるための表示データを生成する。
【0151】
また、画像表示制御部860は、スクロール制御部840からの出力に応じて、センサ内蔵液晶パネル301に表示される地図をスクロールさせるための表示データを生成する。さらに、画像表示制御部860は、距離算出部850からの出力に応じて、センサ内蔵液晶パネル301に地図上の距離を表示させるための表示データを生成する。この結果、各出力に応じた表示画面がセンサ内蔵液晶パネル301に重畳表示される。
【0152】
ここで、図1では、記憶部901は、主制御部800の外部に設けられている。しかしながら、記憶部901は、主制御部800の内部に設けられる構成であってもよい。また、面積判定部820が記憶部901から取得する所定の閾値は、記憶部901に予め格納されていても、あるいはユーザが外部の入力装置から適宜設定する構成としてもよい。
【0153】
(フローチャート説明)
次に、図1、図9〜図11を参照しながら、データ表示/センサ装置100の処理の流れ、及び、画像表示制御部860からデータ処理部700に送信されるコマンドの詳細について説明する。
【0154】
なお、センサ内蔵液晶パネル301が検知する像は、指およびスタイラペンの像であるものとして説明する。また、指は、大人の指であっても、子供の指であってもよく、さらに、親指であっても小指であってもよい。一般的に、指の像の面積はスタイラペンの像の面積よりも格段に大きい。従って、所定の閾値が、指の像よりも小さくスタイラペンの像よりも大きい値に設定されていれば、指の種類が問題となることはない。
【0155】
また、データ表示/センサ装置100では、第1表示/光センサ部300Aが、近傍の像の検知をすると共に、地図を表示するものとして説明する。
【0156】
図11は、データ表示/センサ装置100の処理の流れを表すフローチャートである。
【0157】
まず、データ表示/センサ装置100の電源がオフの状態にあるとき、ユーザが電源スイッチ905を押下することにより、データ表示/センサ装置100は電源オンとなる(ステップS11)。
【0158】
そして、ステップS13では、ユーザが電源スイッチ905を押下することにより、センサ内蔵液晶パネル301に地図が表示される。この状態で、データ表示/センサ装置100は、センサ内蔵液晶パネル301が指の像を検出するまで待機する。
【0159】
ここで、センサ内蔵液晶パネル301に地図を表示させる場合、「表示パネル」フィールドの値として上画面(第1表示/光センサ部300A)(“001”)を指定したコマンドが、画像表示制御部860からデータ処理部700に出力される。
【0160】
また、この段階では、センサ内蔵液晶パネル301は近傍の像を検知可能な状態にあるものとする。近傍の像の検知を行うために、「データ取得タイミング」フィールドに、“イベント”を指定し、「データ種別」フィールドに“座標”および“全体画像”の両方を指定(“101”を指定)したコマンドが画像表示制御部860からデータ処理部700に出力される。なお、“座標”または“全体画像”のみを指定したコマンドが画像表示制御部860からデータ処理部700に出力されてもよい。
【0161】
さらに、センサ内蔵液晶パネル301において近傍の像の検知を行うために、「スキャンパネル」フィールドに第1表示/光センサ部300Aを指定(“001”)したコマンドが、画像表示制御部860からデータ処理部700に出力される。
【0162】
これにより、センサ内蔵液晶パネル301が指および/またはスタイラペンの像を検知した場合に、データ取得部810は、データ処理部700から全体画像データ及び座標データを取得することができる。
【0163】
つまり、センサ内蔵液晶パネル301にユーザの指、あるいはスタイラペンがタッチした場合、光センサ回路32が、タッチした指あるいはスタイラペンの影像および反射像の少なくとも何れかを検知する。その結果、データ処理部700がセンサ制御部602から取得する画像データに変化が生じ、データ取得部810は、画像データに変化が生じた際にデータ処理部700から出力される全体画像データ及び座標データを取得する。
【0164】
ステップS15では、センサ内蔵液晶パネル301が指および/またはスタイラペンの像を検知して、データ取得部810が、データ処理部700から全体画像データ及び座標データを取得する。そして、データ取得部810は、データ処理部700から取得した全体画像データ及び座標データを面積判定部820に出力する。
【0165】
そして、面積判定部820は、データ取得部810から全体画像データ及び座標データを取得し、全体画像データに含まれる像の面積(像面積)を算出する。さらに、面積判定部820は、算出した像面積が所定の閾値より大きいか否かを判定する。ここで、所定の閾値は記憶部901に格納されており、面積判定部820は、記憶部901から閾値を読み出している。
【0166】
ここで、所定の閾値は、指の像面積よりも小さく、スタイラペンの像面積よりも大きい値が設定されており、面積判定部820は、データ取得部810から取得した全体画像データに含まれる像の面積に応じて、データ取得部810から取得した座標データの出力先を位置特定部830、又はスクロール制御部840に変更する。
【0167】
面積判定部820が、算出した像面積が所定の閾値よりも小さいと判定した場合(ステップS15でYes)、ステップS17に進む。なお、ステップS17は、面積判定部820が算出した像面積が所定の閾値より小さい場合、つまり、センサ内蔵液晶パネル301がスタイラペンの像を検知した場合に該当する。
【0168】
このとき、位置特定部830は、面積判定部820から座標データを取得し、その座標データに基づいて、検知したスタイラペンの像の位置を、地図上の位置として特定する。
【0169】
次に、ステップS19では、位置特定部830が、地図上におけるスタイラペンの像の位置を示す位置画像をセンサ内蔵液晶パネル301に表示させるための指示を画像表示制御部860に出力する。この指示は、スタイラペンによるトレースをセンサ内蔵液晶パネル301に表示させるためのものである。なお、位置特定部830は、ユーザがトレースした地図上の位置を示すトレース情報を記憶部901にも出力しており、記憶部901はそのトレース情報を格納している。
【0170】
次に、ステップS21では、距離算出部850が、記憶部901からトレース情報を読み出し、そのトレース情報に基づいて像の移動量を算出する。
【0171】
同時に、距離算出部850は、センサ内蔵液晶パネル301に表示される地図に関する地図情報を記憶部901から読み出す。その地図情報には地図の縮尺を示す地図縮尺情報が含まれているため、距離算出部850は、センサ内蔵液晶パネル301に表示される地図の縮尺(例えば、1/25000)を取得することができる。
【0172】
そして、距離算出部850は、算出した像の移動量と地図の縮尺とに基づいて、その像の移動量に相当する地図上の距離を算出する。そのうえで、距離算出部850は、センサ内蔵液晶パネル301に地図上の距離を表示させるための指示を画像表示制御部860に出力する。なお、この指示は、センサ内蔵液晶パネル301に、例えば「距離8km」といった地図上の距離を表示させるためのものである。
【0173】
そして、ステップS23では、画像表示制御部860が、地図上におけるスタイラペンの像の位置を示す位置画像をセンサ内蔵液晶パネル301に表示させるための表示データを生成する。また、画像表示制御部860は、距離算出部850からの出力に応じて、センサ内蔵液晶パネル301に地図上の距離を表示させるための表示データを生成する。そして、それら表示データに基づいて、位置特定部830及び距離算出部850からの出力に応じた動作結果がセンサ内蔵液晶パネル301に表示される。
【0174】
一方、面積判定部820が、算出した像面積が所定の閾値よりも大きいと判定した場合(ステップS15でNo)、ステップS25に進む。ステップS25は、面積判定部820が算出した像面積が所定の閾値より大きい場合、つまり、センサ内蔵液晶パネル301が指の像を検知した場合に該当する。
【0175】
このとき、スクロール制御部840は、データ取得部810がデータ処理部700から取得した座標データを面積判定部820から取得する。なお、スクロール制御部840は、センサ内蔵液晶パネル301が検知した指の像が移動する場合には、データ取得部810から座標データを連続的に取得する。また、スクロール制御部840は、像の移動前後における座標データの差分を計算することにより、像の移動量、及び移動方向を算出することができる。さらに、スクロール制御部840は、座標データが取得された時間の差分を計算することにより、像の移動速度も同時に算出することができる。
【0176】
同時に、スクロール制御部840は、センサ内蔵液晶パネル301に表示される地図に関する地図情報を記憶部901から読み出す。そして、スクロール制御部840は、座標データに基づいて算出した像の移動量、移動方向、及び移動速度と同じ移動量、移動方向、及び移動速度でセンサ内蔵液晶パネル301に表示される地図をスクロールさせるための指示を画像表示制御部860に出力する。つまり、スクロール制御部840は、センサ内蔵液晶パネル301が検知した像の移動に応じて地図をスクロールさせるための指示を画像表示制御部860に出力する。なお、この指示は、図10を例にした場合、指を図面右側に移動した結果、同じ移動量、移動方向、及び移動速度で地図を右側にスクロールさせるという指示に該当する。
【0177】
そして、ステップS23では、画像表示制御部860が、スクロール制御部840からの出力に応じて、センサ内蔵液晶パネル301に表示される地図をスクロールさせるための表示データを生成する。そして、それら表示データに基づいて、画像表示制御部860からの出力に応じた動作結果がセンサ内蔵液晶パネル301に表示される。
【0178】
なお、センサ内蔵液晶パネル301が指およびスタイラペンの像を同時に検知した場合には、画像表示制御部860は、位置特定部830、スクロール制御部840、及び距離算出部850からの出力に応じて、センサ内蔵液晶パネル301に各出力に対応する表示画面(入力画面)を表示させるための表示データを生成する。そして、センサ内蔵液晶パネル301は各出力に対応する動作結果を表示する。
【0179】
このとき、センサ内蔵液晶パネル301に画像(動作結果)を表示させるため、「表示パネル」フィールドの値として第1表示/光センサ部300Aを指定(“001”)したコマンドが、画像表示制御部860からデータ処理部700に出力される。
【0180】
以上、データ表示/センサ装置100の処理の流れをステップS11〜S25により説明した。なお、前記説明では、地図へのトレース(ステップS19)に続いて、距離算出(ステップS21)の処理が行われるものとして説明したが、ステップS19及びステップS21を同時に行ってもよい。
【0181】
このようにして、図9、図10を参照して説明した動作が実行され、その動作結果がセンサ内蔵液晶パネル301に表示される。
【0182】
次に、データ表示/センサ装置100の前記処理によって得られる効果を説明する。
【0183】
データ表示/センサ装置100は、前記構成を備えることにより、センサ内蔵液晶パネル301が近傍の像を検知すると共に、検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、2つの動作、つまり、スクロール制御部840が地図の位置を変更(スクロール)する動作と、位置特定部830が、センサ内蔵液晶パネル301が検知した像の位置を地図上の位置として特定する動作と、を区別して実行することができる。従って、センサ内蔵液晶パネル301が異なる面積の2つの像を同時に検知した場合にも、前記2つの動作を独立して行うことができる。
【0184】
これにより、データ表示/センサ装置100は、前記2つの動作について、一方の動作が終了するのを待ってから他方の動作を実行する必要がなく、それゆえ、途切れることなく連続的で多彩な動作をユーザに提供することができる。そして、この動作は従来の入力装置では実現できなかった動作であるため、優れた操作性及び利便性がユーザにもたらされる。
【0185】
さらに、データ表示/センサ装置100では、画像表示制御部860が、位置特定部830が特定した地図上の位置を示す位置画像をセンサ内蔵液晶パネル301が表示する地図上に重畳表示させることができる。
【0186】
従って、画像表示制御部860は、スクロール制御部840が地図をスクロールした動作と、位置特定部830が、センサ内蔵液晶パネル301が検知した像の位置を地図上の位置として特定し、その特定された地図上の位置を示す位置画像をセンサ内蔵液晶パネル301に表示する動作とを重畳表示させるため、それらの動作結果を容易かつ迅速にユーザに視認させることができる。
【0187】
さらに、データ表示/センサ装置100では、面積判定部820が、センサ内蔵液晶パネル301が検知した像の面積が所定の閾値よりも大きいか否かを判定する。
【0188】
従って、データ表示/センサ装置100は、像の面積と所定の閾値との大小を比較することにより、容易かつ迅速に、像の面積に応じて、データ表示/センサ装置100が像を検知した後の2つの動作、つまり、スクロール制御部840が地図をスクロールさせる動作と、位置特定部830が、センサ内蔵液晶パネル301が検知した像の位置を地図上の位置として特定する動作とを区別して実行することができる。
【0189】
また、データ表示/センサ装置100は、前記所定の閾値を変更することにより、面積判定部820による判定結果を変更することができるため、高い利便性をユーザに提供することができる。
【0190】
また、データ表示/センサ装置100では、距離算出部850は、位置画像によって描かれる、センサ内蔵液晶パネル301が検知した像の軌跡の長さに相当する地図上の距離を算出することができる。
【0191】
従って、距離算出部850が算出した地図上の距離を使用することにより、そのデータを活用した様々な処理が可能となる。
【0192】
その一例として、データ表示/センサ装置100を自動車用ナビゲーションシステムに利用する場合を考える。なお、センサ内蔵液晶パネル301が指及びスタイラペンの像を検知して、指(像の面積が大きい方)の動きによって地図がスクロールし、スタイラペン(像の面積が小さい方)の動きによって、地図上の道路をなぞった入力が行われるものとする。
【0193】
ある目的地へ行くために幾つかのルートを選択することが可能な場合、ユーザは、どのルートが最短距離であるかを知りたい場合がある。このような場合に、ユーザは、各ルートをスタイラペンでなぞる(入力を行う)。これにより、距離算出部850は、地図の縮尺に基づいて、スタイラペンの像に係る位置画像によって描かれる、センサ内蔵液晶パネル301が検知した像の軌跡の長さに相当する地図上の距離を算出する。そして、その算出結果を用いることにより、ルート毎の地図上の距離の大小が比較可能となり、その結果、当該自動車用ナビゲーションシステムは、ユーザに最短経路を知らせることができるようになる。
【0194】
また、他の用途として次のようなケースが想定される。ユーザは、年・月・日などの区分ごとの移動距離を知りたいという要望を持つ場合がある。このような場合に、距離算出部850が算出した地図上の距離を年・月・日などのターム毎に集計する処理を行うことにより、地図上の距離の総計を総移動距離としてユーザに知らせることができる。その結果、年・月・日などの区分ごとの移動距離を知りたいというユーザの要望がかなえられる。
【0195】
このように、データ表示/センサ装置100は、距離算出部850が、位置画像によって描かれる、センサ内蔵液晶パネル301が検知した像の軌跡の長さに相当する地図上の距離を算出することができるため、優れた操作性及び利便性をユーザに提供することができる。
【0196】
さらに、データ表示/センサ装置100では、画像表示制御部860は、距離算出部850が算出した地図上の距離をセンサ内蔵液晶パネル301に表示させることができる。
【0197】
これにより、データ表示/センサ装置100は、地図上の距離を正確かつ迅速にユーザに視認させることができ、その結果、ルート毎の距離の長短、あるいは最短経路といった情報をユーザに知らせることができる。
【0198】
従って、データ表示/センサ装置100は、従来の入力装置では感覚的にしか測ることができなかった地図上の距離を正確かつ迅速にユーザに知らせることができるため、その地図上の距離を正確に知りたいというユーザの要望に応えることができる。
【0199】
このように、データ表示/センサ装置100は、より優れた操作性および利便性をユーザにも提供することができる。
〔実施の形態2〕
次に、本発明の他の実施形態に係るデータ表示/センサ装置110について、図12、図13を用いて説明する。実施の形態1と本実施の形態とではアプリケーションが異なっており、本実施の形態は、作図ソフトをユースケースとするものである。なお、図1、図9〜図11を参照して説明した動作の詳細、その動作を実現する処理の詳細、データ表示/センサ装置110によって得られる効果については、その詳細説明を省略する。
【0200】
データ表示/センサ装置100とデータ表示/センサ装置110との相違点は、スタイラペンが、データ表示/センサ装置100では経路入力(トレース)に使用されるのに対し、データ表示/センサ装置110では作図に使用されるという点にある。なお、データ表示/センサ装置110は、地図上の距離を測定する必要がないため、距離算出部850を備えていなくてもよい。
【0201】
図12、及び図13は、データ表示/センサ装置110の実施例を示す図である。図12に示すように、データ表示/センサ装置110のセンサ内蔵液晶パネル301にはユーザが作図中の「星」の図が表示されている。なお、星の上半分は作図されているが、星の下半分はこれから作図される段階にある。そして、図示するように、画面下側(図面下側)における作図スペースは既になく、ユーザは、このままの状態では星の下半分を作図できない状況にある。従って、星の下半分を作図するために、センサ内蔵液晶パネル301に表示される画面を上側(図面上側)にスクロールさせる必要がある。
【0202】
そこで、図12では、センサ内蔵液晶パネル301に指を検知させて、その指を図面上側に移動させてようとしている。この指の動きに応じて、表示画面が、指と同じ移動量、移動方向、及び移動速度により図面上側にスクロールする。図13は、その動作結果を示す。図13では、前記の指の動き(正確には、指の像の動き)に応じて、表示画面が図面上側にスクロールし、その結果、画面下側(図面下側)に新たな作図スペースが生成している。これにより、ユーザは、星の下半分を作図することができる。
【0203】
本実施の形態2では、作図ソフトをユースケースとしうることを説明した。つまり、本発明に係る入力装置は、地図への経路入力(トレース)のみならず、作図ソフトへも適用することができる。このように、本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【0204】
(プログラム、コンピュータ読み取り可能な記録媒体)
最後に、本実施形態に係るデータ表示/センサ装置100、110の各ブロック、特に面積判定部820、位置特定部830、スクロール制御部840、距離算出部850、画像表示制御部860は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
【0205】
すなわち、本実施形態に係るデータ表示/センサ装置100、110は、各機能を実現する制御プログラムの命令を実行するCPU(Central Processing Unit)、前記プログラムを格納したROM(Read Only Memory)、前記プログラムを展開するRAM(Random Access Memory)、前記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアであるデータ表示/センサ装置100、110の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、前記データ表示/センサ装置100、110に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
【0206】
前記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
【0207】
また、本実施形態に係るデータ表示/センサ装置100、110を通信ネットワークと接続可能に構成し、前記プログラムコードを、通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(Virtual Private Network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、前記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
【0208】
本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【産業上の利用可能性】
【0209】
本発明は、画像の表示および対象物の読み取りが同時に可能な入力装置に適用できる。特に、像検知装置を備えた経路入力装置に好適である。
【符号の説明】
【0210】
100 データ表示/センサ装置(入力装置)
810 データ取得部
820 面積判定部(選択手段)
830 位置特定部(位置特定手段)
840 スクロール制御部(位置変更手段)
850 距離算出部(距離算出手段)
860 画像表示制御部(画像表示制御手段)
901 記憶部
【特許請求の範囲】
【請求項1】
近傍の像を検知することによりユーザの入力を取得する入力装置であって、
1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することが可能な面状部材と、
前記面状部材が検知した像の動きに応じて、前記面状部材に表示させる、前記画像上のサブ画像の位置を変更する位置変更手段と、
前記面状部材が検知した像の位置を、前記画像上の位置として特定する位置特定手段と、を備え、さらに、
前記面状部材が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、前記位置変更手段が前記サブ画像の位置を変更するか、あるいは前記位置特定手段が前記画像上の位置を特定するか、を選択する選択手段を備えることを特徴とする入力装置。
【請求項2】
前記選択手段は、前記像の面積が前記所定の閾値よりも大きいと判定した場合に、前記面状部材が検知した像の動きに応じて、前記サブ画像の位置を変更し、前記像の面積が前記所定の閾値以下であると判定した場合に、前記画像上の位置を特定することを特徴とする請求項1に記載の入力装置。
【請求項3】
前記位置特定手段が特定した前記画像上の位置を示す位置画像を、前記画像上に重畳表示させる画像表示制御手段を備えることを特徴とする請求項1又は2に記載の入力装置。
【請求項4】
前記画像は、地図であって、
その地図の縮尺に基づいて、前記位置画像によって描かれる軌跡の長さに相当する前記地図上の距離を算出する距離算出手段を備えることを特徴とする請求項3に記載の入力装置。
【請求項5】
前記画像表示制御手段は、前記距離算出手段が算出した前記地図上の距離を前記面状部材に表示させることを特徴とする請求項4に記載の入力装置。
【請求項6】
1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することでユーザの入力を取得可能な面状部材を備える入力装置の制御方法であって、
前記面状部材が検知した像の動きに応じて、前記面状部材に表示させる、前記画像上のサブ画像の位置を変更する位置変更ステップと、
前記面状部材が検知した像の位置を、前記画像上の位置として特定する位置特定ステップと、を含み、さらに、
前記面状部材が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、前記位置変更ステップが前記サブ画像の位置を変更するか、あるいは前記位置特定ステップが前記画像上の位置を特定するか、を選択する選択ステップを含むことを特徴とする入力装置の制御方法。
【請求項1】
近傍の像を検知することによりユーザの入力を取得する入力装置であって、
1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することが可能な面状部材と、
前記面状部材が検知した像の動きに応じて、前記面状部材に表示させる、前記画像上のサブ画像の位置を変更する位置変更手段と、
前記面状部材が検知した像の位置を、前記画像上の位置として特定する位置特定手段と、を備え、さらに、
前記面状部材が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、前記位置変更手段が前記サブ画像の位置を変更するか、あるいは前記位置特定手段が前記画像上の位置を特定するか、を選択する選択手段を備えることを特徴とする入力装置。
【請求項2】
前記選択手段は、前記像の面積が前記所定の閾値よりも大きいと判定した場合に、前記面状部材が検知した像の動きに応じて、前記サブ画像の位置を変更し、前記像の面積が前記所定の閾値以下であると判定した場合に、前記画像上の位置を特定することを特徴とする請求項1に記載の入力装置。
【請求項3】
前記位置特定手段が特定した前記画像上の位置を示す位置画像を、前記画像上に重畳表示させる画像表示制御手段を備えることを特徴とする請求項1又は2に記載の入力装置。
【請求項4】
前記画像は、地図であって、
その地図の縮尺に基づいて、前記位置画像によって描かれる軌跡の長さに相当する前記地図上の距離を算出する距離算出手段を備えることを特徴とする請求項3に記載の入力装置。
【請求項5】
前記画像表示制御手段は、前記距離算出手段が算出した前記地図上の距離を前記面状部材に表示させることを特徴とする請求項4に記載の入力装置。
【請求項6】
1つの画像から切り出したサブ画像を表示すると共に、近傍の像を検知することでユーザの入力を取得可能な面状部材を備える入力装置の制御方法であって、
前記面状部材が検知した像の動きに応じて、前記面状部材に表示させる、前記画像上のサブ画像の位置を変更する位置変更ステップと、
前記面状部材が検知した像の位置を、前記画像上の位置として特定する位置特定ステップと、を含み、さらに、
前記面状部材が検知した像の面積を算出して、その像の面積が所定の閾値よりも大きいか否かを判定し、その判定結果に応じて、前記位置変更ステップが前記サブ画像の位置を変更するか、あるいは前記位置特定ステップが前記画像上の位置を特定するか、を選択する選択ステップを含むことを特徴とする入力装置の制御方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2010−160689(P2010−160689A)
【公開日】平成22年7月22日(2010.7.22)
【国際特許分類】
【出願番号】特願2009−2572(P2009−2572)
【出願日】平成21年1月8日(2009.1.8)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.EEPROM
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
【公開日】平成22年7月22日(2010.7.22)
【国際特許分類】
【出願日】平成21年1月8日(2009.1.8)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.EEPROM
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
[ Back to top ]