画像解析装置、画像解析方法、表示装置、画像解析プログラムおよび記録媒体
【課題】簡単な操作で多様な情報の入力および表示を行うことができる表示装置を提供する。
【解決手段】データ表示/センサ装置は、撮像センサを有する撮像画面に対して提示されたカードを撮像画面によって撮像した撮像画像を取得し、取得した撮像画像を解析することにより、当該撮像画像におけるカードの像の位置を算出するカード位置算出部803と、撮像画像におけるカードの像に含まれるユーザ情報を当該撮像画像から抽出するユーザ情報抽出部801と、カード位置算出部803が算出した位置とユーザ情報抽出部801が抽出したユーザ情報との組み合わせに対応するコンテンツを、所定のコンテンツの中から選択するコンテンツ選択部805とを備えている。
【解決手段】データ表示/センサ装置は、撮像センサを有する撮像画面に対して提示されたカードを撮像画面によって撮像した撮像画像を取得し、取得した撮像画像を解析することにより、当該撮像画像におけるカードの像の位置を算出するカード位置算出部803と、撮像画像におけるカードの像に含まれるユーザ情報を当該撮像画像から抽出するユーザ情報抽出部801と、カード位置算出部803が算出した位置とユーザ情報抽出部801が抽出したユーザ情報との組み合わせに対応するコンテンツを、所定のコンテンツの中から選択するコンテンツ選択部805とを備えている。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、提示物体を提示することにより各種の情報を入力する入力装置に関するものである。
【背景技術】
【0002】
IDカードなど、ユーザ情報が表示された提示物体を撮像面にかざすことにより当該ユーザ情報を入力できる装置が知られている。
【0003】
例えば、特許文献1には、名刺状のオブジェクトをCCDカメラで撮像し、その画像からオブジェクトに印刷された2次元コードのパターンを認識し、そのパターンに対応した所定の処理を行う装置が開示されている。
【0004】
なお、特許文献2には、端末装置とサーバとがインターネットを介して接続されているシステムにおいて、ユーザに対して変化に富んだ情報サービスを提供できるようにする技術が開示されている。このシステムでは、端末装置からサーバに対してアクセスが行われたとき、そのサーバにおいて、アクセスしたユーザがA会員であるかB会員であるかを判定する。A会員であると判定されたとき、A会員用の指定画面がサーバから端末装置へ転送される。
【特許文献1】特開2000−82107号公報(2000年3月21日公開)
【特許文献2】特開平9−114783号公報(1997年5月2日公開)
【発明の開示】
【発明が解決しようとする課題】
【0005】
ところが、上記従来の構成では、IDカードなどの提示物体を読み込むためには、読み込むための専用の装置が必要であり、そのためのスペースが必要であるという問題が生じる。また、処理の内容を切り替えるためには、提示物体をかざした後、さらに処理の内容を切り替える指示を入力する必要がある。
【0006】
本発明は、上記の問題点を解決するためになされたもので、その目的は、簡単な操作で多様な情報の入力および表示を行うことができる表示装置および当該表示装置が備える画像解析装置を提供することにある。また、設置スペースを節約することも本発明の目的のひとつである。
【課題を解決するための手段】
【0007】
本発明に係る画像解析装置は、上記の課題を解決するために、撮像センサを有する撮像画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得手段と、上記取得手段が取得した撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出手段と、上記取得手段が取得した撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出手段と、上記位置算出手段が算出した位置と上記抽出手段が抽出した提示情報との組み合わせに対応する処理を、所定の処理の中から選択する選択手段とを備えることを特徴としている。
【0008】
本発明に係る画像解析方法は、上記の課題を解決するために、画像解析装置における画像解析方法であって、撮像センサを有する撮像画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得工程と、上記取得工程において取得された撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出工程と、上記取得工程において取得された撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出工程と、上記位置算出工程において算出された位置と上記抽出工程において抽出された提示情報との組み合わせに対応する処理を、所定の処理の中から選択する選択工程とを含むことを特徴としている。
【0009】
上記の構成によれば、取得手段は、撮像画面に対して提示された提示物体を当該撮像画面によって撮像した撮像画像を取得する。撮像画面には撮像センサが設けられているため、当該撮像画面に対して提示された提示物体を撮像できる。位置算出手段は、取得手段が取得した撮像画像を解析することにより、当該撮像画像における提示物体の像の位置を算出する。
【0010】
一方、抽出手段は、取得手段が取得した撮像画像から、提示物体の像に含まれる提示情報を抽出する。そして、選択手段は、位置算出手段が算出した提示物体の像の位置と抽出手段が抽出した提示情報との組み合わせに対応する処理を、所定の処理の中から選択する。すなわち、選択手段は、撮像画面のどの位置にどのような提示情報を有する提示物体が提示されたのかに基づいて処理を選択する。
【0011】
それゆえ、提示物体に示された提示情報ごとに、提示物体を提示する位置に応じて処理を切り替えることができ、処理の切り替えを簡単な操作で行うことができる。
【0012】
上記提示物体は、カードであり、上記提示情報は、上記カードに示されている、当該カードを所有するユーザの属性を示す属性情報であることが好ましい。
【0013】
上記の構成によれば、ユーザの属性を示す情報が示されたカードを撮像した撮像画像を解析することにより、カードに示されている属性情報と、撮像画像におけるカードの像の位置(すなわち、撮像画面に対するカードの提示位置)とに基づいて処理が選択される。
【0014】
それゆえ、カードを所有する、同じ属性を有するユーザの集合ごとに、提示物体を提示する位置に応じて処理を切り替えることができる。
【0015】
なお、上記属性とは、例えば、顧客、従業員、男性、女性など、ユーザが属する集合を規定する概念である。
【0016】
上記提示物体は、カードであり、上記提示情報は、上記カードに示されている、当該カードを所有するユーザを特定する特定情報であることが好ましい。
【0017】
上記の構成によれば、ユーザを特定する情報が示されたカード(例えば、IDカード)を撮像した撮像画像を解析することにより、カードに示されている特定情報と、撮像画像におけるカードの像の位置(すなわち、撮像画面に対するカードの提示位置)とに基づいて処理が選択される。
【0018】
それゆえ、カードを所有するユーザごとに、提示物体を提示する位置に応じて処理を切り替えることができる。
【0019】
上記抽出手段は、上記提示情報を当該撮像画像から抽出できなかった場合には、その旨を示す抽出不可情報を上記選択手段へ出力し、上記選択手段は、上記位置算出手段が算出した位置と上記抽出不可情報との組み合わせに対応する処理を、所定の処理の中から選択することが好ましい。
【0020】
上記の構成により、提示情報が示されていない提示物体をユーザが表示画面に提示した場合にも、その操作に対応した処理を選択することができるため、ユーザによる情報入力操作の種類の幅を広げることができる。
【0021】
また、上記画像解析装置を動作させるための画像解析プログラムであって、コンピュータを上記各手段として機能させるための画像解析プログラムおよび当該画像解析プログラムを記録したコンピュータ読み取り可能な記録媒体も本発明の技術的範囲に含まれる。
【0022】
本発明に係る表示装置は、上記の課題を解決するために、撮像センサを内蔵した表示画面を有する表示装置であって、上記表示画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得手段と、上記取得手段が取得した撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出手段と、上記取得手段が取得した撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出手段と、上記位置算出手段が算出した位置と上記抽出手段が抽出した提示情報との組み合わせに対応するコンテンツを選択する選択手段と、上記選択手段が選択したコンテンツを上記表示画面に表示する表示制御手段とを備えることを特徴としている。
【0023】
上記の構成によれば、取得手段は、表示画面に対して提示された提示物体を当該表示画面によって撮像した撮像画像を取得する。表示画面には撮像センサが設けられているため、当該表示画面に対して提示された提示物体を撮像できる。位置算出手段は、取得手段が取得した撮像画像を解析することにより、当該撮像画像における提示物体の像の位置を算出する。
【0024】
一方、抽出手段は、取得手段が取得した撮像画像から、提示物体の像に含まれる提示情報を抽出する。選択手段は、位置算出手段が算出した提示物体の像の置と抽出手段が抽出した提示情報とのとの組み合わせに対応するコンテンツを、所定のコンテンツの中から選択する。すなわち、選択手段は、表示画面のどの位置にどのような提示情報を有する提示物体が提示されたのかに基づいてコンテンツを選択する。そして、表示制御手段は、選択手段が選択したコンテンツを表示画面に表示する。
【0025】
それゆえ、提示物体に示された提示情報ごとに、提示物体を提示する位置に応じてコンテンツを切り替えることができ、コンテンツの切り替えを簡単な操作で行うことができる。また、提示物体を撮像するための撮像センサは表示部に内蔵されているため、撮像装置を別に設ける必要がなく、設置スペースを節約できる。
【0026】
上記表示制御手段は、ユーザが選択可能な複数の選択項目を上記表示画面に表示し、上記位置算出手段が算出した位置と、上記表示画面における上記選択項目の表示位置とを比較することにより、上記提示物体が重ねられた選択項目を特定する選択項目特定手段をさらに備え、上記選択手段は、上記選択項目特定手段が特定した選択項目および上記抽出手段が抽出した提示情報の組み合わせに対応するコンテンツを、所定のコンテンツの中から選択することが好ましい。
【0027】
上記の構成によれば、ユーザが選択可能な複数の選択項目が表示制御手段によって表示画面に表示され、選択項目特定手段は、位置算出手段が算出した提示物体の像の位置と、表示画面における選択項目の表示位置とを比較することにより、提示物体が重ねられた選択項目(換言すれば、提示物体の像と重なる位置にある選択項目)を特定する。
【0028】
そして、選択手段によって、選択項目特定手段が特定した選択項目および抽出手段が抽出した提示情報の組み合わせに対応するコンテンツが、所定のコンテンツの中から選択される。
【0029】
それゆえ、表示画面に表示された選択項目と提示物体の像との位置関係から、ユーザが選択した選択項目を特定することができ、ユーザによる選択項目の選択を容易にすることができる。
【0030】
上記表示制御手段は、上記選択手段が選択したコンテンツを上記表示画面に所定の時間だけ表示することが好ましい。
【0031】
上記の構成によれば、ユーザが選択したコンテンツが所定の時間だけ表示画面に表示され、所定の時間が経過した後は、当該コンテンツは表示されなくなる。
【0032】
それゆえ、コンテンツにユーザの個人情報が含まれている場合など、コンテンツを長時間表示することが好ましくない場合に、コンテンツの表示時間を制限することができる。
【発明の効果】
【0033】
以上のように、本発明に係る画像解析装置は、撮像センサを有する撮像画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得手段と、上記取得手段が取得した撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出手段と、上記取得手段が取得した撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出手段と、上記位置算出手段が算出した位置と上記抽出手段が抽出した提示情報との組み合わせに対応する処理を、所定の処理の中から選択する選択手段とを備える構成である。
【0034】
本発明に係る表示装置は、表示画面に対して提示された提示物体を撮像センサによって撮像した撮像画像を取得する取得手段と、上記取得手段が取得した撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出手段と、上記取得手段が取得した撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出手段と、上記位置算出手段が算出した位置と上記抽出手段が抽出した提示情報との組み合わせに対応するコンテンツを選択する選択手段と、上記選択手段が選択したコンテンツを上記表示画面に表示する表示制御手段とを備える構成である。
【0035】
本発明に係る画像解析方法は、撮像センサを有する撮像画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得工程と、上記取得工程において取得された撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出工程と、上記取得工程において取得された撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出工程と、上記位置算出工程において算出された位置と上記抽出工程において抽出された提示情報との組み合わせに対応する処理を、所定の処理の中から選択する選択工程とを含む構成である。
【0036】
それゆえ、提示物体に表示された提示情報ごとに、提示物体を提示する位置に応じて処理(コンテンツ)を切り替えることができ、処理(コンテンツ)の切り替えを簡単な操作で行うことができるという効果を奏する。
【発明を実施するための最良の形態】
【0037】
〔実施の形態1〕
本発明の実施の一形態について図1〜図16に基づいて説明すれば、以下のとおりである。本実施形態のデータ表示/センサ装置100は、図4に示すように、複数の光センサ回路(撮像センサ)32を内蔵したセンサ内蔵液晶パネル(表示画面)301を備え、このセンサ内蔵液晶パネル301によって、当該センサ内蔵液晶パネル301に対して提示された提示物体(例えば、ID(identification)カード)を撮像する。そして、提示物体に表示されたユーザ情報(提示情報)および提示物体の提示位置に応じてセンサ内蔵液晶パネル301に表示させるコンテンツ(表示用画像)を切り替える。
【0038】
以下では、データ表示/センサ装置100は、デパート等の店内に設置された案内表示装置であるという前提で説明を行う。買い物客および店の従業員がIDカードを所有しており、データ表示/センサ装置100の表示画面(センサ内蔵液晶パネル301)にIDカードをかざすことにより、IDカードに表示されたカード番号および提示位置に応じて表示画面における表示内容が切り替わる。
【0039】
また、データ表示/センサ装置100は、店舗の壁に設置できる形状のものでもよいし、床または卓上に載置できる形状のものでもよく、その形状および大きさは特に限定されない。また、データ表示/センサ装置100の表示画面(センサ内蔵液晶パネル301)は、1つでもよいし、複数でもよい。
【0040】
まず、データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301の概要について説明する。
【0041】
(センサ内蔵液晶パネルの概要)
データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301は、データの表示に加え、対象物の画像検出が可能な液晶パネルである。ここで、対象物の画像検出とは、ユーザがIDカードをかざした位置の検出および、当該IDカードの画像の読み取り(スキャン)である。なお、表示に用いるデバイスは、液晶パネルに限定されるものではなく、有機EL(Electro Luminescence)パネルなどであってもよい。
【0042】
図2を参照しながら、センサ内蔵液晶パネル301の構造について説明する。図2は、センサ内蔵液晶パネル301の断面を模式的に示す図である。なお、ここで説明するセンサ内蔵液晶パネル301は一例であり、表示面と読取面とが共用されているものであれば、任意の構造のものが利用できる。
【0043】
図示のとおり、センサ内蔵液晶パネル301は、背面側に配置されるアクティブマトリクス基板51Aと、表面側に配置される対向基板51Bとを備え、これら基板の間に液晶層52を挟持した構造を有している。アクティブマトリクス基板51Aには、画素電極56、データ信号線57、光センサ回路32(図示せず)、配向膜58、偏光板59などが設けられる。対向基板51Bには、カラーフィルタ53r(赤)、53g(緑)、53b(青)、遮光膜54、対向電極55、配向膜58、偏光板59などが設けられる。また、センサ内蔵液晶パネル301の背面には、バックライト307が設けられている。
【0044】
なお、光センサ回路32に含まれるフォトダイオード(撮像センサ)6は、青のカラーフィルタ53bを設けた画素電極56の近傍に設けられているが、この構成に限定されるものではない。赤のカラーフィルタ53rを設けた画素電極56の近傍に設けてもよいし、緑のカラーフィルタ53gを設けた画素電極56の近傍に設けてもよい。
【0045】
次に、図3(a)および図3(b)を参照しながら、ユーザが、指やペンで、センサ内蔵液晶パネル301上をタッチした場合を例に挙げて、そのタッチ位置を検出する2種類の方法について説明する。
【0046】
図3(a)は、反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。バックライト307から光63が出射されると、フォトダイオード6を含む光センサ回路32は、指などの対象物64により反射された光63を検知する。これにより、対象物64の反射像を検知することができる。このように、センサ内蔵液晶パネル301は、反射像を検知することにより、タッチした位置を検出することができる。
【0047】
また、図3(b)は、影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。図3(b)に示すように、フォトダイオード6を含む光センサ回路32は、対向基板51Bなどを透過した外光61を検知する。しかしながら、ペンなどの対象物62がある場合は、外光61の入射が妨げられるので、光センサ回路32が検知する光量が減る。これにより、対象物62の影像を検知することができる。このように、センサ内蔵液晶パネル301は、影像を検知することにより、タッチした位置を検出することもできる。
【0048】
上述のように、フォトダイオード6は、バックライト307より出射された光の反射光(影像)を検知してもよいし、外光による影像を検知してもよい。また、上記2種類の検知方法を併用して、影像と反射像とを両方を同時に検知するようにしてもよい。
【0049】
IDカードの位置を検出する場合には、バックライト307より出射された光の反射光(影像)を利用してもよいし、外光による影像を利用してもよい。しかし、IDカードに記載されたユーザ情報を読み取る場合には、バックライト307より出射された光の反射光を利用する必要がある。それゆえ、データ表示/センサ装置100においては、バックライト307より出射された光の反射光を利用して、IDカードの位置を検出するとともに、その画像を取得することが好ましい。
【0050】
(データ表示/センサ装置の要部構成)
次に、図4を参照しながら、上記データ表示/センサ装置100の要部構成について説明する。図4は、データ表示/センサ装置100の要部構成を示すブロック図である。図示のように、データ表示/センサ装置100は、1または複数の表示/光センサ部300、回路制御部600、データ処理部700、主制御部800、記憶部901、一次記憶部902、操作部903、外部通信部907、音声出力部908、および音声入力部909を備えている。ここでは、データ表示/センサ装置100は、表示/光センサ部300を2つ(第1表示/光センサ部300Aおよび第2表示/光センサ部300B)備えているものとして説明する。なお、第1表示/光センサ部300Aおよび第2表示/光センサ部300Bを区別しないときは、表示/光センサ部300と表記する。
【0051】
表示/光センサ部300は、いわゆる光センサ内蔵液晶表示装置である。表示/光センサ部300は、センサ内蔵液晶パネル301、バックライト307、それらを駆動するための周辺回路309を含んで構成される。
【0052】
センサ内蔵液晶パネル301は、マトリクス状に配置された複数の画素回路31および光センサ回路32を含んで構成される。センサ内蔵液晶パネル301の詳細な構成については後述する。
【0053】
周辺回路309は、液晶パネル駆動回路304、光センサ駆動回路305、信号変換回路306、バックライト駆動回路308を含む。
【0054】
液晶パネル駆動回路304は、回路制御部600の表示制御部601からのタイミング制御信号(TC1)およびデータ信号(D)に従って、制御信号(G)およびデータ信号(S)を出力し、画素回路31を駆動する回路である。画素回路31の駆動方法の詳細については後述する。
【0055】
光センサ駆動回路305は、回路制御部600のセンサ制御部602からのタイミング制御信号(TC2)に従って、信号線(R)に電圧を印加し、光センサ回路32を駆動する回路である。光センサ回路32の駆動方法の詳細については後述する。
【0056】
信号変換回路306は、光センサ回路32から出力されるセンサ出力信号(SS)をデジタル信号(DS)に変換し、該変換後の信号をセンサ制御部602に送信する回路である。
【0057】
バックライト307は、複数の白色LED(Light Emitting Diode)を含んでおり、センサ内蔵液晶パネル301の背面に配置される。そして、バックライト駆動回路308から電源電圧が印加されると、バックライト307は点灯し、センサ内蔵液晶パネル301に光を照射する。なお、バックライト307は、白色LEDに限らず、他の色のLEDを含んでいてもよい。また、バックライト307は、LEDに代えて、例えば、冷陰極管(CCFL:Cold Cathode Fluorescent Lamp)を含むものであってもよい。
【0058】
バックライト駆動回路308は、回路制御部600のバックライト制御部603からの制御信号(BK)がハイレベルであるときは、バックライト307に電源電圧を印加し、逆に、バックライト制御部603からの制御信号がローレベルであるときは、バックライト307に電源電圧を印加しない。
【0059】
次に、回路制御部600について説明する。回路制御部600は、表示/光センサ部300の周辺回路309を制御するデバイスドライバとしての機能を備えるものである。回路制御部600は、表示制御部601、センサ制御部602、バックライト制御部603、および表示データ記憶部604を備えている。
【0060】
表示制御部601は、データ処理部700の表示データ処理部701から表示データを受信するとともに、表示データ処理部701からの指示に従って、表示/光センサ部300の液晶パネル駆動回路304に、タイミング制御信号(TC1)およびデータ信号(D)を送信し、上記受信した表示データをセンサ内蔵液晶パネル301に表示させる。
【0061】
なお、表示制御部601は、表示データ処理部701から受信した表示データを、表示データ記憶部604に一次記憶させる。そして、当該一次記憶させた表示データに基づいて、データ信号(D)を生成する。表示データ記憶部604は、例えば、VRAM(video random access memory)などである。
【0062】
センサ制御部602は、データ処理部700のセンサデータ処理部(取得手段、位置算出手段)703からの指示に従って、表示/光センサ部300の光センサ駆動回路305に、タイミング制御信号(TC2)を送信し、センサ内蔵液晶パネル301にてスキャンを実行させる。
【0063】
また、センサ制御部602は、信号変換回路306からデジタル信号(DS)を受信する。そして、センサ内蔵液晶パネル301に含まれる全ての光センサ回路32から出力されたセンサ出力信号(SS)に対応するデジタル信号(DS)に基づいて、画像データを生成する。つまり、センサ内蔵液晶パネル301の読み取り領域全体で読み取った画像データを生成する。そして、該生成した画像データをセンサデータ処理部703に送信する。
【0064】
バックライト制御部603は、表示データ処理部701およびセンサデータ処理部703からの指示に従って、表示/光センサ部300のバックライト駆動回路308に制御信号(BK)を送信し、バックライト307を駆動させる。
【0065】
なお、データ表示/センサ装置100が、複数の表示/光センサ部300を備える場合、表示制御部601は、データ処理部700から、どの表示/光センサ部300にて表示データを表示するかの指示を受けたとき、当該指示に応じた表示/光センサ部300の液晶パネル駆動回路304を制御する。また、センサ制御部602は、データ処理部700から、どの表示/光センサ部300にて対象物のスキャンを行なうかの指示を受けたとき、当該指示に応じた表示/光センサ部300の光センサ駆動回路305を制御するとともに、当該指示に応じた表示/光センサ部300の信号変換回路306からデジタル信号(DS)を受信する。
【0066】
次に、データ処理部700について説明する。データ処理部700は、主制御部800から受信する「コマンド」に基づいて、回路制御部600に指示を与えるミドルウェアとしての機能を備えるものである。なお、コマンドの詳細については後述する。
【0067】
データ処理部700は、表示データ処理部701およびセンサデータ処理部703を備えている。そして、データ処理部700が、主制御部800からコマンドを受信すると、該受信したコマンドに含まれる各フィールド(後述する)の値に応じて、表示データ処理部701およびセンサデータ処理部703の少なくとも一方が動作する。
【0068】
表示データ処理部701は、主制御部800から表示データを受信するとともに、データ処理部700が受信したコマンドに従って、表示制御部601およびバックライト制御部603に指示を与え、上記受信した表示データをセンサ内蔵液晶パネル301に表示させる。なお、コマンドに応じた、表示データ処理部701の動作については、後述する。
【0069】
センサデータ処理部703は、データ処理部700が受信したコマンドに従って、センサ制御部602およびバックライト制御部603に指示を与える。
【0070】
また、センサデータ処理部703は、センサ制御部602から画像データを受信し、当該画像データをそのまま画像データバッファ704に格納する。そして、センサデータ処理部703は、データ処理部700が受信したコマンドに従って、画像データバッファ704に記憶されている画像データに基づいて、「全体画像データ」、「部分画像データ(部分画像の座標データを含む)」、および「座標データ」の少なくともいずれか1つを、主制御部800に送信する。
【0071】
なお、全体画像データ、部分画像データ、および座標データについては、後述する。また、コマンドに応じた、センサデータ処理部703の動作については、後述する。
【0072】
次に、主制御部800は、アプリケーションプログラムを実行するものである。主制御部800は、記憶部901に格納されているプログラムを、例えばRAM(Random Access Memory)等で構成される一次記憶部902に読み出して実行する。
【0073】
主制御部800で実行されるアプリケーションプログラムは、センサ内蔵液晶パネル301に表示データを表示させたり、センサ内蔵液晶パネル301にて対象物のスキャンを行わせるために、データ処理部700に対して、コマンドおよび表示データを送信する。また、コマンドに「データ種別」を指定した場合は、当該コマンドの応答として、全体画像データ、部分画像データ、および座標データの少なくともいずれか1つを、データ処理部700から受信する。
【0074】
なお、回路制御部600、データ処理部700、および主制御部800は、それぞれ、CPU(Central Processing Unit)およびメモリ等で構成することができる。また、データ処理部700は、ASIC(application specific integrate circuit)などの回路で構成されていてもよい。
【0075】
次に、記憶部901は、図示のように、主制御部800が実行するプログラムおよびデータを格納するものである。なお、主制御部800が実行するプログラムは、アプリケーション固有のプログラムと、各アプリケーションが共用可能な汎用プログラムとに分離されていてもよい。
【0076】
次に、操作部903は、データ表示/センサ装置100のユーザの入力操作を受けつけるものである。操作部903は、例えば、スイッチ、リモコン、マウス、キーボードなどの入力デバイスで構成される。そして、操作部903は、データ表示/センサ装置100のユーザの入力操作に応じた制御信号を生成し、該生成した制御信号を主制御部800へ送信する。
【0077】
なお、上記スイッチの例としては、電源のオンとオフとを切り替える電源スイッチ905、予め所定の機能が割り当てられているユーザスイッチ906などのハードウェアスイッチを想定している。
【0078】
その他、データ表示/センサ装置100は、無線/有線通信によって外部装置と通信を行なうための外部通信部907、音声を出力するためのスピーカ等の音声出力部908、音声信号を入力するためのマイク等の音声入力部909などを適宜備えていてもよい。
【0079】
(コマンドの詳細)
次に、図5および図6を参照しながら、主制御部800からデータ処理部700に送信されるコマンドの詳細について説明する。図5は、コマンドのフレーム構造の一例を模式的に示す図である。また、図6は、コマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
【0080】
図5に示すように、コマンドは、「ヘッダ」、「データ取得タイミング」、「データ種別」、「スキャン方式」、「スキャン画像階調」、「スキャン解像度」、「スキャンパネル」、「表示パネル」、および「予備」の各フィールドを含んでいる。そして、各フィールドには、例えば、図6に示す値が指定可能である。
【0081】
「ヘッダ」フィールドは、フレームの開始を示すフィールドである。「ヘッダ」フィールドであることが識別可能であれば、「ヘッダ」フィールドの値は、どのような値であってもよい。
【0082】
次に、「データ取得タイミング」フィールドは、データを主制御部800へ送信すべきタイミングを指定するフィールドである。「データ取得タイミング」フィールドには、例えば、“00”(センス)、“01”(イベント)、および“10”(オール)という値が指定可能である。
【0083】
ここで、“センス”は、最新のデータを直ちに送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“センス”であるコマンドを受信すると、「データ種別」フィールドにて指定されている最新のデータを、直ちに、主制御部800に送信する。
【0084】
また、“イベント”は、センサ制御部602から受信する画像データに変化が生じたタイミングで送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“イベント”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、センサ制御部602から受信する画像データに、所定の閾値より大きい変化が生じたタイミングで、主制御部800に送信する。
【0085】
また、“オール”は、所定周期でデータを送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“オール”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、所定周期で、主制御部800に送信する。なお、上記所定周期は、光センサ回路32にてスキャンを行なう周期と一致する。
【0086】
次に、「データ種別」フィールドは、センサデータ処理部703から取得するデータの種別を指定するフィールドである。なお、「データ種別」フィールドには、例えば、“001”(座標)、“010”(部分画像)、および“100”(全体画像)という値が指定可能である。さらに、これらの値を加算することによって、“座標”と、“部分画像”/“全体画像”とを、同時に指定可能である。例えば、“座標”と“部分画像”とを同時に指定する場合、“011”と指定することができる。
【0087】
センサデータ処理部703は、「データ種別」フィールドの値が“全体画像”であるコマンドを受信すると、画像データバッファ704に記憶している画像データそのものを主制御部800に送信する。画像データバッファ704に記憶している画像データそのものを、「全体画像データ」と称する。
【0088】
また、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信すると、センサ制御部602から受信する画像データから、所定の閾値より大きい変化が生じた部分を含む領域を抽出し、該抽出した領域の画像データを主制御部800に送信する。ここで、当該画像データを、「部分画像データ」と称する。なお、上記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出されたそれぞれの部分画像データを主制御部800に送信する。
【0089】
さらに、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信したとき、部分画像データにおける代表座標(代表点)を検出し、当該代表座標の部分画像データにおける位置を示す座標データを主制御部800に送信する。なお、上記代表座標とは、例えば、上記部分画像データの中心の座標、上記部分画像データの重心の座標などが挙げられる。
【0090】
次に、センサデータ処理部703は、「データ種別」フィールドの値が“座標”であるコマンドを受信すると、上記代表座標の全体画像データにおける位置を示す座標データを主制御部800に送信する。なお、上記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出された、それぞれの部分画像データの、全体画像データにおける代表座標を検出し、当該代表座標を示す座標データのそれぞれを主制御部800に送信する(多点検出)。
【0091】
具体的には、センサデータ処理部703は、センサ内蔵液晶パネル301に対して提示されたIDカードをセンサ内蔵液晶パネル301によって撮像した撮像画像を取得し、取得した撮像画像を解析することにより、当該撮像画像におけるIDカードの像の位置を算出する。
【0092】
なお、全体画像データ、部分画像データ、および座標データの具体例については、模式図を参照しながら後述する。
【0093】
次に、「スキャン方式」フィールドは、スキャン実行時に、バックライト307を点灯するか否かを指定するフィールドである。「スキャン方式」フィールドには、例えば、“00”(反射)、“01”(透過)、および“10”(反射/透過)という値が指定可能である。
【0094】
“反射”は、バックライト307を点灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“反射”であるコマンドを受信すると、光センサ駆動回路305とバックライト駆動回路308とが同期して動作するように、センサ制御部602とバックライト制御部603とに指示を与える。
【0095】
また、“透過”は、バックライト307を消灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“透過”であるコマンドを受信すると、光センサ駆動回路305を動作させ、バックライト駆動回路308と動作させないようにセンサ制御部602とバックライト制御部603とに指示を与える。なお、“反射/透過”は、“反射”と“透過”とを併用してスキャンを行なうことを指定するものである。
【0096】
次に、「スキャン画像階調」フィールドは、部分画像データおよび全体画像データの階調を指定するフィールドである。「スキャン画像階調」フィールドには、例えば、“00”(2値)、および“01”(多値)という値が指定可能である。
【0097】
ここで、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“2値”であるコマンドを受信すると、部分画像データおよび全体画像データをモノクロデータとして、主制御部800に送信する。
【0098】
また、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“多値”であるコマンドを受信すると、部分画像データおよび全体画像データを多階調データとして、主制御部800に送信する。
【0099】
次に、「スキャン解像度」フィールドは、部分画像データおよび全体画像データの解像度を指定するフィールドである。「解像度」フィールドには、例えば、“0”(高)および“1”(低)という値が指定可能である。
【0100】
ここで、“高”は、高解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“高”であるコマンドを受信すると、部分画像データおよび全体画像データを高解像度で主制御部800に送信する。例えば、画像認識などの画像処理を行なう対象の画像データ(指紋などの画像データ)には、“高”を指定することが望ましい。
【0101】
また、“低”は、低解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“低”であるコマンドを受信すると、部分画像データおよび全体画像データを低解像度で主制御部800に送信する。例えば、タッチした位置等が分かる程度でよい画像データ(タッチした指や手の画像データなど)には、“低”を指定することが望ましい。
【0102】
次に、「スキャンパネル」フィールドは、どの表示/光センサ部300にて対象物のスキャンを行なうかを指定するフィールドである。「スキャンパネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
【0103】
ここで、センサデータ処理部703は、「スキャンパネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aの光センサ駆動回路305およびバックライト駆動回路308を制御するように、センサ制御部602およびバックライト制御部603に指示を与える。
【0104】
次に、「表示パネル」フィールドは、どの表示/光センサ部300にて表示データを表示させるかを指定するフィールドである。「表示パネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
【0105】
ここで、表示データ処理部701は、例えば、「表示パネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aに表示データを表示させるために、第1表示/光センサ部300Aの液晶パネル駆動回路304およびバックライト駆動回路308を制御するように、表示制御部601およびバックライト制御部603に指示を与える。
【0106】
次に、「予備」フィールドは、上述したフィールドにて指定可能な情報以外の情報をさらに指定する必要がある場合に、適宜指定されるフィールドである。
【0107】
なお、主制御部800にて実行されるアプリケーションは、コマンドを送信するにあたり、上述したフィールドを全て使用する必要はなく、使用しないフィールドには無効値(NULL値など)を設定しておけばよい。
【0108】
また、ユーザが指やペンなどでタッチした位置の座標データを取得したいときは、「データ種別」フィールドに“座標”を指定したコマンドをデータ処理部700に送信することとなるが、指やペンなどの動きを検出したい場合には、さらに、当該コマンドの「データ取得タイミング」フィールドに“オール”を指定し、座標データを取得するようにすることが望ましい。この場合には、タッチした位置の座標データが取得できればよいため、スキャンの精度は高くなくてもよい。したがって、上記コマンドの「解像度」フィールドの値は“低”を指定しておけばよい。
【0109】
また、コマンドの「データ種別」フィールドに“座標”を指定した場合において、例えば、ユーザが、複数の指やペンなどでセンサ内蔵液晶パネル301を同時にタッチした場合は、該タッチした位置の座標データのそれぞれを取得することができる(多点検出)。
【0110】
また、原稿などの対象物の画像データを取得する場合、「データ種別」フィールドに“全体画像”を指定したコマンドをデータ処理部700に送信することとなるが、原稿などの対象物は、通常、静止させた状態でスキャンを実行することが一般的であるため、周期的にスキャンを実行する必要はない。従って、この場合は、「データ取得タイミング」フィールドに“センス”または“イベント”を指定することが望ましい。なお、原稿などの対象物をスキャンするときは、ユーザが文字を読みやすいように、スキャン精度は高い方が望ましい。したがって、「解像度」フィールドには“高”を指定することが望ましい。
【0111】
本発明の場合、IDカードがかざされた位置と、そのIDカードの画像(部分画像)とを取得するため、「データ種別」フィールドに “座標”と“部分画像”とを同時に指定したコマンドをデータ処理部700に送信する。また、IDカードに表示されたユーザ情報を正確に読み取るために、「解像度」フィールドには“高”を指定することが望ましい。また、ユーザがIDカードをかざした時に自動的に画像を取得することが望ましいため、「データ取得タイミング」フィールドに “イベント”を指定することが望ましい。
【0112】
(全体画像データ/部分画像データ/座標データ)
次に、図7を参照しながら、全体画像データ、部分画像データ、および座標データについて、例を挙げて説明する。図7(a)に示す画像データは、対象物がセンサ内蔵液晶パネル301上に置かれていないときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。また、図7(b)に示す画像データは、ユーザが指でセンサ内蔵液晶パネル301をタッチしているときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。
【0113】
ユーザが指でセンサ内蔵液晶パネル301をタッチしたとき、当該タッチした近傍の光センサ回路32が受光する光量が変化するため、当該光センサ回路32が出力する電圧に変化が生じ、その結果として、センサ制御部602が生成する画像データのうち、ユーザがタッチした部分の画素値の明度に変化が生じることとなる。
【0114】
図7(b)に示す画像データでは、図7(a)に示す画像データと比べると、ユーザの指に該当する部分の画素値の明度が高くなっている。そして、図7(b)に示す画像データにおいて、明度が所定の閾値より大きく変化している画素値を全て含む最小の矩形領域(領域PP)が、“部分画像データ”である。
【0115】
IDカードをセンサ内蔵液晶パネル301にかざした場合も、IDカードの像を形成する画素の明度が高まるため、IDカードの像を含む画像が部分画像として生成される。
【0116】
なお、領域APで示される画像データが、“全体画像データ”である。
【0117】
また、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)であり、部分画像データ(領域PP)における座標データは(Xp,Yp)である。
【0118】
(センサ内蔵液晶パネルの構成)
次に、図8を参照しながら、センサ内蔵液晶パネル301の構成、および、センサ内蔵液晶パネル301の周辺回路309の構成について説明する。図8は、表示/光センサ部300の要部、特に、センサ内蔵液晶パネル301の構成および周辺回路309の構成を示すブロック図である。
【0119】
センサ内蔵液晶パネル301は、光透過率(輝度)を設定するための画素回路31、および、自身が受光した光の強度に応じた電圧を出力する光センサ回路32を備えている。なお、画素回路31は、赤色、緑色、青色のカラーフィルタのそれぞれに対応するR画素回路31r、G画素回路31g、B画素回路31bの総称として用いる。
【0120】
画素回路31は、センサ内蔵液晶パネル301上の列方向(縦方向)にm個、行方向(横方向)に3n個配置される。そして、R画素回路31r、G画素回路31g、およびB画素回路31bの組が、行方向(横方向)に連続して配置される。この組が1つの画素を形成する。
【0121】
画素回路31の光透過率を設定するには、まず、画素回路31に含まれるTFT(Thin Film Transistor)33のゲート端子に接続される走査信号線Giにハイレベル電圧(TFT33をオン状態にする電圧)を印加する。その後、R画素回路31rのTFT33のソース端子に接続されているデータ信号線SRjに、所定の電圧を印加する。同様に、G画素回路31gおよびB画素回路31bについても、光透過率を設定する。そして、これらの光透過率を設定することにより、センサ内蔵液晶パネル301上に画像が表示される。
【0122】
次に、光センサ回路32は、一画素毎に配置される。なお、R画素回路31r、G画素回路31g、およびB画素回路31bのそれぞれの近傍に1つずつ配置されてもよい。
【0123】
光センサ回路32にて光の強度に応じた電圧を出力させるためには、まず、コンデンサ35の一方の電極に接続されているセンサ読み出し線RWiと、フォトダイオード36のアノード端子に接続されているセンサリセット線RSiとに所定の電圧を印加する。この状態において、フォトダイオード36に光が入射されると、入射した光量に応じた電流がフォトダイオード36に流れる。そして、当該電流に応じて、コンデンサ35の他方の電極とフォトダイオード36のカソード端子との接続点(以下、接続ノードV)の電圧が低下する。そして、センサプリアンプ37のドレイン端子に接続される電圧印加線SDjに電源電圧VDDを印加すると、接続ノードVの電圧は増幅され、センサプリアンプ37のソース端子からセンシングデータ出力線SPjに出力される。そして、当該出力された電圧に基づいて、光センサ回路32が受光した光量を算出することができる。
【0124】
次に、センサ内蔵液晶パネル301の周辺回路である、液晶パネル駆動回路304、光センサ駆動回路305、およびセンサ出力アンプ44について説明する。
【0125】
液晶パネル駆動回路304は、画素回路31を駆動するための回路であり、走査信号線駆動回路3041およびデータ信号線駆動回路3042を含んでいる。
【0126】
走査信号線駆動回路3041は、表示制御部601から受信したタイミング制御信号TC1に基づいて、1ライン時間毎に、走査信号線G1〜Gmの中から1本の走査信号線を順次選択し、該選択した走査信号線にハイレベル電圧を印加するとともに、その他の走査信号線にローレベル電圧を印加する。
【0127】
データ信号線駆動回路3042は、表示制御部601から受信した表示データD(DR、DG、およびDB)に基づいて、1ライン時間毎に、1行分の表示データに対応する所定の電圧を、データ信号線SR1〜SRn、SG1〜SGn、SB1〜SBnに印加する(線順次方式)。なお、データ信号線駆動回路3042は、点順次方式で駆動するものであってもよい。
【0128】
光センサ駆動回路305は、光センサ回路32を駆動するための回路である。光センサ駆動回路305は、センサ制御部602から受信したタイミング制御信号TC2に基づいて、センサ読み出し信号線RW1〜RWmの中から、1ライン時間毎に1本ずつ選択したセンサ読み出し信号線に所定の読み出し用電圧を印加するとともに、その他のセンサ読み出し信号線には、所定の読み出し用電圧以外の電圧を印加する。また、同様に、タイミング制御信号TC2に基づいて、センサリセット信号線RS1〜RSmの中から、1ライン時間毎に1本ずつ選択したセンサリセット信号線に所定のリセット用電圧を印加するとともに、その他のセンサリセット信号線には、所定のリセット用電圧以外の電圧を印加する。
【0129】
センシングデータ出力信号線SP1〜SPnはp個(pは1以上n以下の整数)のグループにまとめられ、各グループに属するセンシングデータ出力信号線は、時分割で順次オン状態になるスイッチ47を介して、センサ出力アンプ44に接続される。センサ出力アンプ44は、スイッチ47により接続されたセンシングデータ出力信号線のグループからの電圧を増幅し、センサ出力信号SS(SS1〜SSp)として、信号変換回路306へ出力する。
【0130】
(主制御部800の構成)
次に、図1を参照しつつ、主制御部800の構成について説明する。図1は、主制御部800の構成を示すブロック図である。図1に示すように、主制御部800は、ユーザ情報抽出部(取得手段、抽出手段)801、属性特定部(属性特定手段)802、カード位置算出部(取得手段、位置算出手段)803、選択項目特定部(選択項目特定手段)804、コンテンツ選択部(選択手段)805、表示制御部(表示制御手段)806、初期設定部807を備えている。
【0131】
(ユーザ情報抽出部801)
ユーザ情報抽出部801は、センサデータ処理部703から出力された部分画像データを取得し、その部分画像データが示す部分画像からIDカードに表示されたユーザ情報を抽出する。換言すれば、ユーザ情報抽出部801は、センサ内蔵液晶パネル301が撮像した撮像画像におけるIDカードの像に含まれるユーザ情報を当該撮像画像から抽出する。
【0132】
ユーザ情報は、数字、文字および/またはバーコードによって表示されていてもよく、その表示方法は特に限定されない。以下では、ユーザ情報は数字であり、カード番号としてIDカードに表示されているものとする。
【0133】
ユーザ情報抽出部801は、抽出したユーザ情報(カード番号)を属性特定部802へ出力する。
【0134】
(属性特定部802)
属性特定部802は、ユーザ情報抽出部801が抽出したカード番号をもとに、IDカードを所有するユーザの属性(所属グループ)を特定する。具体的には、属性特定部802は、記憶部901に予め格納されているカード番号/グループ関連付けテーブルを参照することによりカード番号からユーザの所属グループを特定する。カード番号/グループ関連付けテーブルは、カード番号(ユーザ情報)とユーザの属性とを対応づけるテーブルである。記憶部901は、例えば、フラッシュメモリである。
【0135】
図9は、カード番号/グループ関連付けテーブルの一例を示す図である。図9に示すように、本実施形態では、ユーザの所属グループとして、「一般会員」と「店員」とが設定されている。それゆえ、属性特定部802は、ユーザ情報抽出部801が抽出したカード番号から、撮像されたIDカードが一般会員のものであるか、店員のものであるかを判定する。
【0136】
属性特定部802は、判定結果を、ユーザの属性を示す情報(属性情報)としてコンテンツ選択部805へ出力する。
【0137】
なお、ユーザの属性は、上述のものに限定されず、「男性」、「女性」であってもよいし、「ゴールド会員」、「シルバー会員」、「通常会員」であってもよく、属性の種類および数はどのようなものでもよい。
【0138】
(カード位置算出部803)
カード位置算出部803は、センサデータ処理部703から、全体画像におけるIDカードの像の代表点(例えば、重心)の座標(全体座標と称する)を示す座標データ(全体座標データ)と、IDカードの像を含む部分画像データと、部分画像におけるIDカードの像の代表点の座標(部分座標と称する)を示す座標データ(部分座標データ)とを受信する。
【0139】
上述したように、部分画像とは、全体画像において明度が所定の閾値より大きく変化している画素値を全て含む最小の矩形領域に対応する画像である。ユーザがIDカードを表示画面にかざしたとき、バックライト307からの光を受けてIDカードの像の明度が高くなる。そのため、部分画像は、IDカードの像を含む画像となる。しかし、この部分画像には、図10に示すように、IDカード11を保持するユーザの指12の像も含まれる可能性がある。図10は、センサデータ処理部が生成する部分画像の一例を示す図である。
【0140】
そこで、カード位置算出部803は、部分画像を画像解析することによりIDカードの位置をより正確に算出する。
【0141】
具体的には、カード位置算出部803は、矩形のパターンを基本パターンとして、部分画像とパターンマッチングすることにより部分画像におけるIDカードの像の位置(座標)を算出する。IDカードの像の座標として当該像の重心の座標を求めてもよいが、より正確にIDカードの位置を算出するためには、IDカードの4隅の座標を算出することが好ましい。以下では、カード位置算出部803は、IDカードの像が有する4隅の座標を算出するものとして説明する。
【0142】
カード位置算出部803は、算出した部分画像における4隅の座標を全体画像における4隅の座標に変換する。部分画像における代表点の座標と、全体画像における代表点とが対応付けられているため、これら2点の座標の関係から、部分画像における4隅の座標を全体画像における4隅の座標に変換することができる。
【0143】
カード位置算出部803は、算出した全体画像における4隅の座標(以下、カード座標と称する)を選択項目特定部804へ出力する。
【0144】
(選択項目特定部804)
選択項目特定部804は、上記カード座標と表示画面に表示された選択項目としてのアイコンの座標とを比較することにより、IDカードがどのアイコンの上にかざされたのかを特定する。換言すれば、選択項目特定部804は、カード位置算出部803が算出した位置と、表示画面における選択項目の表示位置とを比較することにより、IDカードが重ねられた選択項目を特定する。表示画面におけるアイコンの位置は、記憶部901に格納されたアイコン位置テーブルに示されている。表示画面の座標と全体画像の座標とは同じものである。
【0145】
図11は、各アイコンの表示画面における表示位置を示すアイコン位置テーブルの一例を示す図である。本実施形態では、1階、2階、3階のアイコンが表示画面にそれぞれ表示される。各アイコンが表示される領域の座標範囲が図11に示されている。例えば、2階のアイコンは、(0,0)と(959,799)とを頂点として有する長方形の範囲に表示される。
【0146】
図12は、表示画面に表示されるアイコンの一例を示す図である。図12に示すように、各階のアイコンは、当該階の地図として表示される。ユーザは、自分が所望する情報と関連のある階の地図にIDカードをかざす。例えば、食料品に関する情報が欲しい場合には、食料品売り場のある1階の地図の上にIDカードをかざす。
【0147】
選択項目特定部804は、カード位置算出部803から出力されたカード座標とアイコン位置テーブルに示された各階のアイコンの座標とを比較し、カード座標が示す4隅の座標によって形成される矩形と重複する領域が最も多いアイコンを、ユーザが選択した(IDカードをかざした)アイコンであると判定する。そして、選択項目特定部804は、ユーザが選択したアイコンを示す情報(アイコン情報)をコンテンツ選択部805へ出力する。
【0148】
なお、IDカードの位置を正確に算出する必要がなければ、センサデータ処理部703から出力される全体画像における代表点の座標データと、各階のアイコンの表示領域とを比較することによりユーザが選択したアイコンを特定してもよい。例えば、代表点の座標に最も近い中心点を有するアイコンをユーザが選択したアイコンであると判定してもよい。
【0149】
(コンテンツ選択部805)
コンテンツ選択部805は、属性特定部802から出力された属性情報と、選択項目特定部804から出力されたアイコン情報との組み合わせに対応するコンテンツを、所定のコンテンツの中から選択する。
【0150】
図13は、属性情報とアイコン情報とコンテンツとの対応付けを示すコンテンツテーブルの一例を示す図である。コンテンツ選択部805は、記憶部901に格納されたコンテンツテーブルを参照することにより、表示画面に表示するコンテンツを選択する。コンテンツテーブルには、属性情報とアイコン情報との組み合わせに対応したコンテンツを示す情報が含まれていればよく、コンテンツそのものが含まれている必要は必ずしもない。つまり、コンテンツそのものは別のテーブルに示されていてもよい。
【0151】
図13に示す例では、属性情報が「一般会員」を示し、アイコン情報が「1階」を示す場合には、コンテンツ選択部805は、「本日のお買い得 1F食料品 タイムサービス 17時〜」というコンテンツを表示用コンテンツとして選択する。
【0152】
コンテンツ選択部805は、選択した表示用コンテンツを表示制御部806へ出力する。
【0153】
(表示制御部806)
表示制御部806は、コンテンツ選択部805から出力された表示用コンテンツを表示データ処理部701へ出力することにより、当該表示用コンテンツを表示画面に表示する。
【0154】
(初期設定部807)
初期設定部807は、操作部903から入力された指示に従ってデータ表示/センサ装置100の初期設定を行う。ユーザが、IDカードがかざされた位置と、そのIDカードの像を含む部分画像とを取得する指示を入力すると、初期設定部807は、「データ種別」フィールドに “座標”と“部分画像”とを同時に指定したコマンドをデータ処理部700に送信する。また、ユーザが、「高解像度」を指定すれば、初期設定部807は、「解像度」フィールドに“高”を指定する。また、ユーザが、撮像された画像に変化が生じたタイミングで画像を送信することを指示した場合、初期設定部807は、「データ取得タイミング」フィールドに “イベント”を指定する。
【0155】
(データ表示/センサ装置100における処理の流れ)
次に図14および図15を参照しつつ、データ表示/センサ装置100における処理の流れの一例について説明する。図14は、データ表示/センサ装置100における処理の流れの一例を示すフローチャートである。図15(a)〜(c)は、表示画面の切り替え様式を示す図である。ここでは、ユーザである客が会員カードを表示画面にかざす場合の処理の一例について説明する。
【0156】
まず、表示画面(センサ内蔵液晶パネル301)に、図15(a)に示す店内案内図(1〜3Fの地図)が表示される(S1)。
【0157】
ユーザが会員カードを、図15(b)に示すように表示画面上の1Fの地図にかざすと、センサ内蔵液晶パネル301によって会員カードが撮像され(S2)、その撮像画像(全体画像)はセンサ制御部602を介してセンサデータ処理部703へ出力される。ユーザが会員カードをかざすことにより、撮像画像に所定の閾値より大きい変化が生じたことを検出すると(S3にて、YES)、センサデータ処理部703は、取得した全体画像から、会員カード(および指)の像を含む部分画像を生成するとともに、部分画像における代表点の座標(部分座標)および全体画像における代表点の座標(全体座標)を算出し、部分画像をユーザ情報抽出部801へ、部分画像、全体座標および部分座標をカード位置算出部803へ出力する。
【0158】
カード位置算出部803は、部分画像、全体座標および部分座標を受け取ると、上述したように部分画像を解析することにより、全体画像(表示画面)における会員カードの4隅の座標(カード座標)を算出し、算出したカード座標を選択項目特定部804へ出力する(S4)。
【0159】
選択項目特定部804は、カード位置算出部803から出力されたカード座標とアイコン位置テーブルに示された各階のアイコンの座標とを比較し、カード座標が示す4隅の座標によって形成される矩形と重複する領域が最も多いアイコンを、会員カードがかざされたアイコンであると判定する(S5)。ここでは、選択項目特定部804は、1Fのアイコンに会員カードがかざされたと判定したものとする。
【0160】
そして、選択項目特定部804は、1Fのアイコンを示す情報(アイコン情報)をコンテンツ選択部805へ出力する。
【0161】
コンテンツ選択部805は、選択項目特定部804からアイコン情報を受け取ると、当該アイコン情報を一次記憶部902(例えば、DRAM(dynamic random access memory))に一時保存する(S6)。
【0162】
一方、ユーザ情報抽出部801は、センサデータ処理部703から部分画像を受け取ると、当該部分画像から会員カードに表示されたユーザ情報(カード番号)を抽出する(S7)。ここでは、ユーザ情報抽出部801は、カード番号として「1」を抽出したものとする。ユーザ情報抽出部801は、抽出したカード番号を属性特定部802へ出力する。
【0163】
属性特定部802は、ユーザ情報抽出部801からカード番号を受け取ると、カード番号/グループ関連付けテーブルを参照することにより、上記カード番号からユーザの属性(所属グループ)が「一般会員」であると判定する(S8)。属性特定部802は、判定したユーザの属性を示す属性情報をコンテンツ選択部805へ出力する。
【0164】
コンテンツ選択部805は、属性情報を受け取ると、一次記憶部902に格納したアイコン情報を読み出し、当該アイコン情報と属性情報との組み合わせに対応するコンテンツを、コンテンツテーブルに示されたコンテンツから選択する(S9、10)。コンテンツ選択部805は、選択した表示用コンテンツを表示制御部806へ出力する。
【0165】
表示制御部806は、コンテンツ選択部805から受け取った表示用コンテンツを表示データ処理部701へ出力することにより、図15(c)に示すように、当該表示用コンテンツを表示画面に表示する(S12)。
【0166】
そして、センサ内蔵液晶パネル301はさらに撮像を続け(S13)、センサデータ処理部703は、会員カードが再度読み取られたかどうかをモニタする(S14)。所定時間、会員カードが読み取られなかった場合(S15にてNO)、その旨を示す情報がセンサデータ処理部703から表示制御部806へ出力される。
【0167】
表示制御部806は、上記情報を受け取ると、初期状態の案内図を記憶部901から読み取り(S16)、当該案内図を表示データ処理部701へ送信することにより当該案内図を表示画面に表示する(S17)。すなわち、表示制御部806は、コンテンツ選択部805が選択したコンテンツを表示画面に所定時間だけ表示する。
【0168】
上記所定時間は、コンテンツごとに設定されてもよい。例えば、ユーザの個人情報が含まれているコンテンツの表示時間は短く設定し、そうではないコンテンツの表示時間は長く設定してもよい。この所定時間(表示時間)は、コンテンツテーブルに含まれていてもよい。
【0169】
図16(a)〜(b)は、表示画面の切り替え様式の別の例を示す図である。上述の説明は、表示画面にかざされたIDカードが客用のものである場合の説明であるが、図16(a)に示すように、ユーザが店員用のIDカード(メンテナンスカード)を2Fのアイコンにかざした場合には、図16(b)に示すように、「2F 空調システムに異常あり!」という、「店員」という属性と「2F」というアイコン情報との組み合わせに対応したコンテンツがステップS11において選択され、表示画面に表示される。
【0170】
(変更例)
本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【0171】
例えば、上述の説明では、ユーザ情報として、ユーザが一般会員であるか店員であるかの属性情報を利用したが、IDカードを所有するユーザ個人を特定する特定情報をユーザ情報として用いてもよい。この場合には、コンテンツ選択部805は、ユーザの年齢、性別、購買履歴、注文状況等に応じて表示するコンテンツを選択してもよい。
【0172】
また、コンテンツ選択部805は、ユーザ情報とアイコン情報(カード提示位置)との組み合わせに対応する処理を、所定の処理の中から選択してもよい。上記所定の処理とは、例えば、複数種類の音声を出力する処理、複数種類の書面をプリントアウトする処理、複数の部屋の鍵を開錠する処理など、どのような処理でもよい。
【0173】
また、上記提示物体は、クレジットカードなど、各種のカードであってもよいし、カード状以外の形状の物体であってもよく、ユーザの指であってもよい。提示物体がユーザの指である場合には、ユーザ情報は指紋である。また、提示物体に表示された提示情報は、どのような種類の情報であってもよく、提示物体を所有するユーザと直接関係のない情報でもかまわない。
【0174】
また、IDカードを表示画面にかざす操作と、指で表示画面をタッチする処理とを組み合わせてもよい。ユーザが指で表示画面をタッチした場合には、ユーザ情報が抽出できないため、この場合には、ユーザ情報抽出部801は、ユーザ情報が抽出できないことを示す情報(抽出不可情報)をコンテンツ選択部805へ出力する。
【0175】
一方、ユーザが指で表示画面をタッチした場合にもタッチした位置は、センサデータ処理部703によって算出されるため、その位置を示す座標データは、選択項目特定部804へ出力される。選択項目特定部804は、受け取った座標データと表示画面に表示されたアイコンの座標とを比較することにより、ユーザがどのアイコンをタッチしたのかを特定し、特定したアイコンを示すアイコン情報をコンテンツ選択部805へ出力する。
【0176】
コンテンツ選択部805は、アイコン情報と抽出不可情報との組み合わせに対応するコンテンツを選択すればよい。
【0177】
また、データ処理部700と主制御部800とを合わせて画像処理装置として捉えることもできる。
【0178】
また、上述したデータ表示/センサ装置100の各ブロック、特に主制御部800は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
【0179】
すなわち、データ表示/センサ装置100は、各機能を実現する制御プログラムの命令を実行するCPU(central processing unit)、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアであるデータ表示/センサ装置100の制御プログラム(画像解析プログラム、表示プログラム)のプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、データ表示/センサ装置100に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
【0180】
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
【0181】
また、データ表示/センサ装置100を通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
【産業上の利用可能性】
【0182】
本発明は、店内の案内表示装置など、ユーザによって表示を切り替える種々の表示装置に適用できる。
【図面の簡単な説明】
【0183】
【図1】本発明の一実施形態に係るデータ表示/センサ装置が備える主制御部の構成を示すブロック図である。
【図2】本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルの断面を模式的に示す図である。
【図3】図3(a)は、本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルにて反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。図3(b)は、本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルにて影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。
【図4】本発明の一実施形態に係るデータ表示/センサ装置の要部構成を示すブロック図である。
【図5】本発明の一実施形態に係るデータ表示/センサ装置で用いられるコマンドのフレーム構造の一例を模式的に示す図である。
【図6】図5に示したコマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
【図7】図7(a)は、本発明の一実施形態に係るデータ表示/センサ装置にて、対象物がセンサ内蔵液晶パネル上に置かれていないときに、センサ内蔵液晶パネル全体をスキャンした結果として得られる画像データである。図7(b)は、本発明の一実施形態に係るデータ表示/センサ装置にて、ユーザが指でセンサ内蔵液晶パネルをタッチしているときに、センサ内蔵液晶パネル全体をスキャンした結果として得られる画像データである。
【図8】本発明の一実施形態に係るデータ表示/センサ装置が備える表示/光センサ部300の要部、特に、センサ内蔵液晶パネルの構成および周辺回路の構成を示すブロック図である。
【図9】カード番号/グループ関連付けテーブルの一例を示す図である。
【図10】センサデータ処理部が生成する部分画像の一例を示す図である。
【図11】アイコン位置テーブルの一例を示す図である。
【図12】表示画面に表示されるアイコンの一例を示す図である。
【図13】コンテンツテーブルの一例を示す図である。
【図14】データ表示/センサ装置における処理の流れの一例を示すフローチャートである。
【図15】(a)〜(c)は、表示画面の切り替え様式を示す図である。
【図16】(a)〜(b)は、表示画面の切り替え様式の別の例を示す図である。
【符号の説明】
【0184】
6 フォトダイオード(撮像センサ)
11 IDカード(提示物体)
100 データ表示/センサ装置
300 表示/光センサ部(表示部)
301 センサ内蔵液晶パネル(撮像画面、表示画面、表示部)
601 表示制御部(表示制御手段)
701 表示データ処理部(表示制御手段)
703 センサデータ処理部(取得手段、位置算出手段)
801 ユーザ情報抽出部(抽出手段)
803 カード位置算出部(位置算出手段)
804 選択項目特定部(選択項目特定手段)
805 コンテンツ選択部(選択手段)
806 表示制御部(表示制御手段)
【技術分野】
【0001】
本発明は、提示物体を提示することにより各種の情報を入力する入力装置に関するものである。
【背景技術】
【0002】
IDカードなど、ユーザ情報が表示された提示物体を撮像面にかざすことにより当該ユーザ情報を入力できる装置が知られている。
【0003】
例えば、特許文献1には、名刺状のオブジェクトをCCDカメラで撮像し、その画像からオブジェクトに印刷された2次元コードのパターンを認識し、そのパターンに対応した所定の処理を行う装置が開示されている。
【0004】
なお、特許文献2には、端末装置とサーバとがインターネットを介して接続されているシステムにおいて、ユーザに対して変化に富んだ情報サービスを提供できるようにする技術が開示されている。このシステムでは、端末装置からサーバに対してアクセスが行われたとき、そのサーバにおいて、アクセスしたユーザがA会員であるかB会員であるかを判定する。A会員であると判定されたとき、A会員用の指定画面がサーバから端末装置へ転送される。
【特許文献1】特開2000−82107号公報(2000年3月21日公開)
【特許文献2】特開平9−114783号公報(1997年5月2日公開)
【発明の開示】
【発明が解決しようとする課題】
【0005】
ところが、上記従来の構成では、IDカードなどの提示物体を読み込むためには、読み込むための専用の装置が必要であり、そのためのスペースが必要であるという問題が生じる。また、処理の内容を切り替えるためには、提示物体をかざした後、さらに処理の内容を切り替える指示を入力する必要がある。
【0006】
本発明は、上記の問題点を解決するためになされたもので、その目的は、簡単な操作で多様な情報の入力および表示を行うことができる表示装置および当該表示装置が備える画像解析装置を提供することにある。また、設置スペースを節約することも本発明の目的のひとつである。
【課題を解決するための手段】
【0007】
本発明に係る画像解析装置は、上記の課題を解決するために、撮像センサを有する撮像画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得手段と、上記取得手段が取得した撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出手段と、上記取得手段が取得した撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出手段と、上記位置算出手段が算出した位置と上記抽出手段が抽出した提示情報との組み合わせに対応する処理を、所定の処理の中から選択する選択手段とを備えることを特徴としている。
【0008】
本発明に係る画像解析方法は、上記の課題を解決するために、画像解析装置における画像解析方法であって、撮像センサを有する撮像画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得工程と、上記取得工程において取得された撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出工程と、上記取得工程において取得された撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出工程と、上記位置算出工程において算出された位置と上記抽出工程において抽出された提示情報との組み合わせに対応する処理を、所定の処理の中から選択する選択工程とを含むことを特徴としている。
【0009】
上記の構成によれば、取得手段は、撮像画面に対して提示された提示物体を当該撮像画面によって撮像した撮像画像を取得する。撮像画面には撮像センサが設けられているため、当該撮像画面に対して提示された提示物体を撮像できる。位置算出手段は、取得手段が取得した撮像画像を解析することにより、当該撮像画像における提示物体の像の位置を算出する。
【0010】
一方、抽出手段は、取得手段が取得した撮像画像から、提示物体の像に含まれる提示情報を抽出する。そして、選択手段は、位置算出手段が算出した提示物体の像の位置と抽出手段が抽出した提示情報との組み合わせに対応する処理を、所定の処理の中から選択する。すなわち、選択手段は、撮像画面のどの位置にどのような提示情報を有する提示物体が提示されたのかに基づいて処理を選択する。
【0011】
それゆえ、提示物体に示された提示情報ごとに、提示物体を提示する位置に応じて処理を切り替えることができ、処理の切り替えを簡単な操作で行うことができる。
【0012】
上記提示物体は、カードであり、上記提示情報は、上記カードに示されている、当該カードを所有するユーザの属性を示す属性情報であることが好ましい。
【0013】
上記の構成によれば、ユーザの属性を示す情報が示されたカードを撮像した撮像画像を解析することにより、カードに示されている属性情報と、撮像画像におけるカードの像の位置(すなわち、撮像画面に対するカードの提示位置)とに基づいて処理が選択される。
【0014】
それゆえ、カードを所有する、同じ属性を有するユーザの集合ごとに、提示物体を提示する位置に応じて処理を切り替えることができる。
【0015】
なお、上記属性とは、例えば、顧客、従業員、男性、女性など、ユーザが属する集合を規定する概念である。
【0016】
上記提示物体は、カードであり、上記提示情報は、上記カードに示されている、当該カードを所有するユーザを特定する特定情報であることが好ましい。
【0017】
上記の構成によれば、ユーザを特定する情報が示されたカード(例えば、IDカード)を撮像した撮像画像を解析することにより、カードに示されている特定情報と、撮像画像におけるカードの像の位置(すなわち、撮像画面に対するカードの提示位置)とに基づいて処理が選択される。
【0018】
それゆえ、カードを所有するユーザごとに、提示物体を提示する位置に応じて処理を切り替えることができる。
【0019】
上記抽出手段は、上記提示情報を当該撮像画像から抽出できなかった場合には、その旨を示す抽出不可情報を上記選択手段へ出力し、上記選択手段は、上記位置算出手段が算出した位置と上記抽出不可情報との組み合わせに対応する処理を、所定の処理の中から選択することが好ましい。
【0020】
上記の構成により、提示情報が示されていない提示物体をユーザが表示画面に提示した場合にも、その操作に対応した処理を選択することができるため、ユーザによる情報入力操作の種類の幅を広げることができる。
【0021】
また、上記画像解析装置を動作させるための画像解析プログラムであって、コンピュータを上記各手段として機能させるための画像解析プログラムおよび当該画像解析プログラムを記録したコンピュータ読み取り可能な記録媒体も本発明の技術的範囲に含まれる。
【0022】
本発明に係る表示装置は、上記の課題を解決するために、撮像センサを内蔵した表示画面を有する表示装置であって、上記表示画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得手段と、上記取得手段が取得した撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出手段と、上記取得手段が取得した撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出手段と、上記位置算出手段が算出した位置と上記抽出手段が抽出した提示情報との組み合わせに対応するコンテンツを選択する選択手段と、上記選択手段が選択したコンテンツを上記表示画面に表示する表示制御手段とを備えることを特徴としている。
【0023】
上記の構成によれば、取得手段は、表示画面に対して提示された提示物体を当該表示画面によって撮像した撮像画像を取得する。表示画面には撮像センサが設けられているため、当該表示画面に対して提示された提示物体を撮像できる。位置算出手段は、取得手段が取得した撮像画像を解析することにより、当該撮像画像における提示物体の像の位置を算出する。
【0024】
一方、抽出手段は、取得手段が取得した撮像画像から、提示物体の像に含まれる提示情報を抽出する。選択手段は、位置算出手段が算出した提示物体の像の置と抽出手段が抽出した提示情報とのとの組み合わせに対応するコンテンツを、所定のコンテンツの中から選択する。すなわち、選択手段は、表示画面のどの位置にどのような提示情報を有する提示物体が提示されたのかに基づいてコンテンツを選択する。そして、表示制御手段は、選択手段が選択したコンテンツを表示画面に表示する。
【0025】
それゆえ、提示物体に示された提示情報ごとに、提示物体を提示する位置に応じてコンテンツを切り替えることができ、コンテンツの切り替えを簡単な操作で行うことができる。また、提示物体を撮像するための撮像センサは表示部に内蔵されているため、撮像装置を別に設ける必要がなく、設置スペースを節約できる。
【0026】
上記表示制御手段は、ユーザが選択可能な複数の選択項目を上記表示画面に表示し、上記位置算出手段が算出した位置と、上記表示画面における上記選択項目の表示位置とを比較することにより、上記提示物体が重ねられた選択項目を特定する選択項目特定手段をさらに備え、上記選択手段は、上記選択項目特定手段が特定した選択項目および上記抽出手段が抽出した提示情報の組み合わせに対応するコンテンツを、所定のコンテンツの中から選択することが好ましい。
【0027】
上記の構成によれば、ユーザが選択可能な複数の選択項目が表示制御手段によって表示画面に表示され、選択項目特定手段は、位置算出手段が算出した提示物体の像の位置と、表示画面における選択項目の表示位置とを比較することにより、提示物体が重ねられた選択項目(換言すれば、提示物体の像と重なる位置にある選択項目)を特定する。
【0028】
そして、選択手段によって、選択項目特定手段が特定した選択項目および抽出手段が抽出した提示情報の組み合わせに対応するコンテンツが、所定のコンテンツの中から選択される。
【0029】
それゆえ、表示画面に表示された選択項目と提示物体の像との位置関係から、ユーザが選択した選択項目を特定することができ、ユーザによる選択項目の選択を容易にすることができる。
【0030】
上記表示制御手段は、上記選択手段が選択したコンテンツを上記表示画面に所定の時間だけ表示することが好ましい。
【0031】
上記の構成によれば、ユーザが選択したコンテンツが所定の時間だけ表示画面に表示され、所定の時間が経過した後は、当該コンテンツは表示されなくなる。
【0032】
それゆえ、コンテンツにユーザの個人情報が含まれている場合など、コンテンツを長時間表示することが好ましくない場合に、コンテンツの表示時間を制限することができる。
【発明の効果】
【0033】
以上のように、本発明に係る画像解析装置は、撮像センサを有する撮像画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得手段と、上記取得手段が取得した撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出手段と、上記取得手段が取得した撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出手段と、上記位置算出手段が算出した位置と上記抽出手段が抽出した提示情報との組み合わせに対応する処理を、所定の処理の中から選択する選択手段とを備える構成である。
【0034】
本発明に係る表示装置は、表示画面に対して提示された提示物体を撮像センサによって撮像した撮像画像を取得する取得手段と、上記取得手段が取得した撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出手段と、上記取得手段が取得した撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出手段と、上記位置算出手段が算出した位置と上記抽出手段が抽出した提示情報との組み合わせに対応するコンテンツを選択する選択手段と、上記選択手段が選択したコンテンツを上記表示画面に表示する表示制御手段とを備える構成である。
【0035】
本発明に係る画像解析方法は、撮像センサを有する撮像画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得工程と、上記取得工程において取得された撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出工程と、上記取得工程において取得された撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出工程と、上記位置算出工程において算出された位置と上記抽出工程において抽出された提示情報との組み合わせに対応する処理を、所定の処理の中から選択する選択工程とを含む構成である。
【0036】
それゆえ、提示物体に表示された提示情報ごとに、提示物体を提示する位置に応じて処理(コンテンツ)を切り替えることができ、処理(コンテンツ)の切り替えを簡単な操作で行うことができるという効果を奏する。
【発明を実施するための最良の形態】
【0037】
〔実施の形態1〕
本発明の実施の一形態について図1〜図16に基づいて説明すれば、以下のとおりである。本実施形態のデータ表示/センサ装置100は、図4に示すように、複数の光センサ回路(撮像センサ)32を内蔵したセンサ内蔵液晶パネル(表示画面)301を備え、このセンサ内蔵液晶パネル301によって、当該センサ内蔵液晶パネル301に対して提示された提示物体(例えば、ID(identification)カード)を撮像する。そして、提示物体に表示されたユーザ情報(提示情報)および提示物体の提示位置に応じてセンサ内蔵液晶パネル301に表示させるコンテンツ(表示用画像)を切り替える。
【0038】
以下では、データ表示/センサ装置100は、デパート等の店内に設置された案内表示装置であるという前提で説明を行う。買い物客および店の従業員がIDカードを所有しており、データ表示/センサ装置100の表示画面(センサ内蔵液晶パネル301)にIDカードをかざすことにより、IDカードに表示されたカード番号および提示位置に応じて表示画面における表示内容が切り替わる。
【0039】
また、データ表示/センサ装置100は、店舗の壁に設置できる形状のものでもよいし、床または卓上に載置できる形状のものでもよく、その形状および大きさは特に限定されない。また、データ表示/センサ装置100の表示画面(センサ内蔵液晶パネル301)は、1つでもよいし、複数でもよい。
【0040】
まず、データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301の概要について説明する。
【0041】
(センサ内蔵液晶パネルの概要)
データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301は、データの表示に加え、対象物の画像検出が可能な液晶パネルである。ここで、対象物の画像検出とは、ユーザがIDカードをかざした位置の検出および、当該IDカードの画像の読み取り(スキャン)である。なお、表示に用いるデバイスは、液晶パネルに限定されるものではなく、有機EL(Electro Luminescence)パネルなどであってもよい。
【0042】
図2を参照しながら、センサ内蔵液晶パネル301の構造について説明する。図2は、センサ内蔵液晶パネル301の断面を模式的に示す図である。なお、ここで説明するセンサ内蔵液晶パネル301は一例であり、表示面と読取面とが共用されているものであれば、任意の構造のものが利用できる。
【0043】
図示のとおり、センサ内蔵液晶パネル301は、背面側に配置されるアクティブマトリクス基板51Aと、表面側に配置される対向基板51Bとを備え、これら基板の間に液晶層52を挟持した構造を有している。アクティブマトリクス基板51Aには、画素電極56、データ信号線57、光センサ回路32(図示せず)、配向膜58、偏光板59などが設けられる。対向基板51Bには、カラーフィルタ53r(赤)、53g(緑)、53b(青)、遮光膜54、対向電極55、配向膜58、偏光板59などが設けられる。また、センサ内蔵液晶パネル301の背面には、バックライト307が設けられている。
【0044】
なお、光センサ回路32に含まれるフォトダイオード(撮像センサ)6は、青のカラーフィルタ53bを設けた画素電極56の近傍に設けられているが、この構成に限定されるものではない。赤のカラーフィルタ53rを設けた画素電極56の近傍に設けてもよいし、緑のカラーフィルタ53gを設けた画素電極56の近傍に設けてもよい。
【0045】
次に、図3(a)および図3(b)を参照しながら、ユーザが、指やペンで、センサ内蔵液晶パネル301上をタッチした場合を例に挙げて、そのタッチ位置を検出する2種類の方法について説明する。
【0046】
図3(a)は、反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。バックライト307から光63が出射されると、フォトダイオード6を含む光センサ回路32は、指などの対象物64により反射された光63を検知する。これにより、対象物64の反射像を検知することができる。このように、センサ内蔵液晶パネル301は、反射像を検知することにより、タッチした位置を検出することができる。
【0047】
また、図3(b)は、影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。図3(b)に示すように、フォトダイオード6を含む光センサ回路32は、対向基板51Bなどを透過した外光61を検知する。しかしながら、ペンなどの対象物62がある場合は、外光61の入射が妨げられるので、光センサ回路32が検知する光量が減る。これにより、対象物62の影像を検知することができる。このように、センサ内蔵液晶パネル301は、影像を検知することにより、タッチした位置を検出することもできる。
【0048】
上述のように、フォトダイオード6は、バックライト307より出射された光の反射光(影像)を検知してもよいし、外光による影像を検知してもよい。また、上記2種類の検知方法を併用して、影像と反射像とを両方を同時に検知するようにしてもよい。
【0049】
IDカードの位置を検出する場合には、バックライト307より出射された光の反射光(影像)を利用してもよいし、外光による影像を利用してもよい。しかし、IDカードに記載されたユーザ情報を読み取る場合には、バックライト307より出射された光の反射光を利用する必要がある。それゆえ、データ表示/センサ装置100においては、バックライト307より出射された光の反射光を利用して、IDカードの位置を検出するとともに、その画像を取得することが好ましい。
【0050】
(データ表示/センサ装置の要部構成)
次に、図4を参照しながら、上記データ表示/センサ装置100の要部構成について説明する。図4は、データ表示/センサ装置100の要部構成を示すブロック図である。図示のように、データ表示/センサ装置100は、1または複数の表示/光センサ部300、回路制御部600、データ処理部700、主制御部800、記憶部901、一次記憶部902、操作部903、外部通信部907、音声出力部908、および音声入力部909を備えている。ここでは、データ表示/センサ装置100は、表示/光センサ部300を2つ(第1表示/光センサ部300Aおよび第2表示/光センサ部300B)備えているものとして説明する。なお、第1表示/光センサ部300Aおよび第2表示/光センサ部300Bを区別しないときは、表示/光センサ部300と表記する。
【0051】
表示/光センサ部300は、いわゆる光センサ内蔵液晶表示装置である。表示/光センサ部300は、センサ内蔵液晶パネル301、バックライト307、それらを駆動するための周辺回路309を含んで構成される。
【0052】
センサ内蔵液晶パネル301は、マトリクス状に配置された複数の画素回路31および光センサ回路32を含んで構成される。センサ内蔵液晶パネル301の詳細な構成については後述する。
【0053】
周辺回路309は、液晶パネル駆動回路304、光センサ駆動回路305、信号変換回路306、バックライト駆動回路308を含む。
【0054】
液晶パネル駆動回路304は、回路制御部600の表示制御部601からのタイミング制御信号(TC1)およびデータ信号(D)に従って、制御信号(G)およびデータ信号(S)を出力し、画素回路31を駆動する回路である。画素回路31の駆動方法の詳細については後述する。
【0055】
光センサ駆動回路305は、回路制御部600のセンサ制御部602からのタイミング制御信号(TC2)に従って、信号線(R)に電圧を印加し、光センサ回路32を駆動する回路である。光センサ回路32の駆動方法の詳細については後述する。
【0056】
信号変換回路306は、光センサ回路32から出力されるセンサ出力信号(SS)をデジタル信号(DS)に変換し、該変換後の信号をセンサ制御部602に送信する回路である。
【0057】
バックライト307は、複数の白色LED(Light Emitting Diode)を含んでおり、センサ内蔵液晶パネル301の背面に配置される。そして、バックライト駆動回路308から電源電圧が印加されると、バックライト307は点灯し、センサ内蔵液晶パネル301に光を照射する。なお、バックライト307は、白色LEDに限らず、他の色のLEDを含んでいてもよい。また、バックライト307は、LEDに代えて、例えば、冷陰極管(CCFL:Cold Cathode Fluorescent Lamp)を含むものであってもよい。
【0058】
バックライト駆動回路308は、回路制御部600のバックライト制御部603からの制御信号(BK)がハイレベルであるときは、バックライト307に電源電圧を印加し、逆に、バックライト制御部603からの制御信号がローレベルであるときは、バックライト307に電源電圧を印加しない。
【0059】
次に、回路制御部600について説明する。回路制御部600は、表示/光センサ部300の周辺回路309を制御するデバイスドライバとしての機能を備えるものである。回路制御部600は、表示制御部601、センサ制御部602、バックライト制御部603、および表示データ記憶部604を備えている。
【0060】
表示制御部601は、データ処理部700の表示データ処理部701から表示データを受信するとともに、表示データ処理部701からの指示に従って、表示/光センサ部300の液晶パネル駆動回路304に、タイミング制御信号(TC1)およびデータ信号(D)を送信し、上記受信した表示データをセンサ内蔵液晶パネル301に表示させる。
【0061】
なお、表示制御部601は、表示データ処理部701から受信した表示データを、表示データ記憶部604に一次記憶させる。そして、当該一次記憶させた表示データに基づいて、データ信号(D)を生成する。表示データ記憶部604は、例えば、VRAM(video random access memory)などである。
【0062】
センサ制御部602は、データ処理部700のセンサデータ処理部(取得手段、位置算出手段)703からの指示に従って、表示/光センサ部300の光センサ駆動回路305に、タイミング制御信号(TC2)を送信し、センサ内蔵液晶パネル301にてスキャンを実行させる。
【0063】
また、センサ制御部602は、信号変換回路306からデジタル信号(DS)を受信する。そして、センサ内蔵液晶パネル301に含まれる全ての光センサ回路32から出力されたセンサ出力信号(SS)に対応するデジタル信号(DS)に基づいて、画像データを生成する。つまり、センサ内蔵液晶パネル301の読み取り領域全体で読み取った画像データを生成する。そして、該生成した画像データをセンサデータ処理部703に送信する。
【0064】
バックライト制御部603は、表示データ処理部701およびセンサデータ処理部703からの指示に従って、表示/光センサ部300のバックライト駆動回路308に制御信号(BK)を送信し、バックライト307を駆動させる。
【0065】
なお、データ表示/センサ装置100が、複数の表示/光センサ部300を備える場合、表示制御部601は、データ処理部700から、どの表示/光センサ部300にて表示データを表示するかの指示を受けたとき、当該指示に応じた表示/光センサ部300の液晶パネル駆動回路304を制御する。また、センサ制御部602は、データ処理部700から、どの表示/光センサ部300にて対象物のスキャンを行なうかの指示を受けたとき、当該指示に応じた表示/光センサ部300の光センサ駆動回路305を制御するとともに、当該指示に応じた表示/光センサ部300の信号変換回路306からデジタル信号(DS)を受信する。
【0066】
次に、データ処理部700について説明する。データ処理部700は、主制御部800から受信する「コマンド」に基づいて、回路制御部600に指示を与えるミドルウェアとしての機能を備えるものである。なお、コマンドの詳細については後述する。
【0067】
データ処理部700は、表示データ処理部701およびセンサデータ処理部703を備えている。そして、データ処理部700が、主制御部800からコマンドを受信すると、該受信したコマンドに含まれる各フィールド(後述する)の値に応じて、表示データ処理部701およびセンサデータ処理部703の少なくとも一方が動作する。
【0068】
表示データ処理部701は、主制御部800から表示データを受信するとともに、データ処理部700が受信したコマンドに従って、表示制御部601およびバックライト制御部603に指示を与え、上記受信した表示データをセンサ内蔵液晶パネル301に表示させる。なお、コマンドに応じた、表示データ処理部701の動作については、後述する。
【0069】
センサデータ処理部703は、データ処理部700が受信したコマンドに従って、センサ制御部602およびバックライト制御部603に指示を与える。
【0070】
また、センサデータ処理部703は、センサ制御部602から画像データを受信し、当該画像データをそのまま画像データバッファ704に格納する。そして、センサデータ処理部703は、データ処理部700が受信したコマンドに従って、画像データバッファ704に記憶されている画像データに基づいて、「全体画像データ」、「部分画像データ(部分画像の座標データを含む)」、および「座標データ」の少なくともいずれか1つを、主制御部800に送信する。
【0071】
なお、全体画像データ、部分画像データ、および座標データについては、後述する。また、コマンドに応じた、センサデータ処理部703の動作については、後述する。
【0072】
次に、主制御部800は、アプリケーションプログラムを実行するものである。主制御部800は、記憶部901に格納されているプログラムを、例えばRAM(Random Access Memory)等で構成される一次記憶部902に読み出して実行する。
【0073】
主制御部800で実行されるアプリケーションプログラムは、センサ内蔵液晶パネル301に表示データを表示させたり、センサ内蔵液晶パネル301にて対象物のスキャンを行わせるために、データ処理部700に対して、コマンドおよび表示データを送信する。また、コマンドに「データ種別」を指定した場合は、当該コマンドの応答として、全体画像データ、部分画像データ、および座標データの少なくともいずれか1つを、データ処理部700から受信する。
【0074】
なお、回路制御部600、データ処理部700、および主制御部800は、それぞれ、CPU(Central Processing Unit)およびメモリ等で構成することができる。また、データ処理部700は、ASIC(application specific integrate circuit)などの回路で構成されていてもよい。
【0075】
次に、記憶部901は、図示のように、主制御部800が実行するプログラムおよびデータを格納するものである。なお、主制御部800が実行するプログラムは、アプリケーション固有のプログラムと、各アプリケーションが共用可能な汎用プログラムとに分離されていてもよい。
【0076】
次に、操作部903は、データ表示/センサ装置100のユーザの入力操作を受けつけるものである。操作部903は、例えば、スイッチ、リモコン、マウス、キーボードなどの入力デバイスで構成される。そして、操作部903は、データ表示/センサ装置100のユーザの入力操作に応じた制御信号を生成し、該生成した制御信号を主制御部800へ送信する。
【0077】
なお、上記スイッチの例としては、電源のオンとオフとを切り替える電源スイッチ905、予め所定の機能が割り当てられているユーザスイッチ906などのハードウェアスイッチを想定している。
【0078】
その他、データ表示/センサ装置100は、無線/有線通信によって外部装置と通信を行なうための外部通信部907、音声を出力するためのスピーカ等の音声出力部908、音声信号を入力するためのマイク等の音声入力部909などを適宜備えていてもよい。
【0079】
(コマンドの詳細)
次に、図5および図6を参照しながら、主制御部800からデータ処理部700に送信されるコマンドの詳細について説明する。図5は、コマンドのフレーム構造の一例を模式的に示す図である。また、図6は、コマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
【0080】
図5に示すように、コマンドは、「ヘッダ」、「データ取得タイミング」、「データ種別」、「スキャン方式」、「スキャン画像階調」、「スキャン解像度」、「スキャンパネル」、「表示パネル」、および「予備」の各フィールドを含んでいる。そして、各フィールドには、例えば、図6に示す値が指定可能である。
【0081】
「ヘッダ」フィールドは、フレームの開始を示すフィールドである。「ヘッダ」フィールドであることが識別可能であれば、「ヘッダ」フィールドの値は、どのような値であってもよい。
【0082】
次に、「データ取得タイミング」フィールドは、データを主制御部800へ送信すべきタイミングを指定するフィールドである。「データ取得タイミング」フィールドには、例えば、“00”(センス)、“01”(イベント)、および“10”(オール)という値が指定可能である。
【0083】
ここで、“センス”は、最新のデータを直ちに送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“センス”であるコマンドを受信すると、「データ種別」フィールドにて指定されている最新のデータを、直ちに、主制御部800に送信する。
【0084】
また、“イベント”は、センサ制御部602から受信する画像データに変化が生じたタイミングで送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“イベント”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、センサ制御部602から受信する画像データに、所定の閾値より大きい変化が生じたタイミングで、主制御部800に送信する。
【0085】
また、“オール”は、所定周期でデータを送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“オール”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、所定周期で、主制御部800に送信する。なお、上記所定周期は、光センサ回路32にてスキャンを行なう周期と一致する。
【0086】
次に、「データ種別」フィールドは、センサデータ処理部703から取得するデータの種別を指定するフィールドである。なお、「データ種別」フィールドには、例えば、“001”(座標)、“010”(部分画像)、および“100”(全体画像)という値が指定可能である。さらに、これらの値を加算することによって、“座標”と、“部分画像”/“全体画像”とを、同時に指定可能である。例えば、“座標”と“部分画像”とを同時に指定する場合、“011”と指定することができる。
【0087】
センサデータ処理部703は、「データ種別」フィールドの値が“全体画像”であるコマンドを受信すると、画像データバッファ704に記憶している画像データそのものを主制御部800に送信する。画像データバッファ704に記憶している画像データそのものを、「全体画像データ」と称する。
【0088】
また、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信すると、センサ制御部602から受信する画像データから、所定の閾値より大きい変化が生じた部分を含む領域を抽出し、該抽出した領域の画像データを主制御部800に送信する。ここで、当該画像データを、「部分画像データ」と称する。なお、上記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出されたそれぞれの部分画像データを主制御部800に送信する。
【0089】
さらに、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信したとき、部分画像データにおける代表座標(代表点)を検出し、当該代表座標の部分画像データにおける位置を示す座標データを主制御部800に送信する。なお、上記代表座標とは、例えば、上記部分画像データの中心の座標、上記部分画像データの重心の座標などが挙げられる。
【0090】
次に、センサデータ処理部703は、「データ種別」フィールドの値が“座標”であるコマンドを受信すると、上記代表座標の全体画像データにおける位置を示す座標データを主制御部800に送信する。なお、上記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出された、それぞれの部分画像データの、全体画像データにおける代表座標を検出し、当該代表座標を示す座標データのそれぞれを主制御部800に送信する(多点検出)。
【0091】
具体的には、センサデータ処理部703は、センサ内蔵液晶パネル301に対して提示されたIDカードをセンサ内蔵液晶パネル301によって撮像した撮像画像を取得し、取得した撮像画像を解析することにより、当該撮像画像におけるIDカードの像の位置を算出する。
【0092】
なお、全体画像データ、部分画像データ、および座標データの具体例については、模式図を参照しながら後述する。
【0093】
次に、「スキャン方式」フィールドは、スキャン実行時に、バックライト307を点灯するか否かを指定するフィールドである。「スキャン方式」フィールドには、例えば、“00”(反射)、“01”(透過)、および“10”(反射/透過)という値が指定可能である。
【0094】
“反射”は、バックライト307を点灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“反射”であるコマンドを受信すると、光センサ駆動回路305とバックライト駆動回路308とが同期して動作するように、センサ制御部602とバックライト制御部603とに指示を与える。
【0095】
また、“透過”は、バックライト307を消灯した状態でスキャンを行なうことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“透過”であるコマンドを受信すると、光センサ駆動回路305を動作させ、バックライト駆動回路308と動作させないようにセンサ制御部602とバックライト制御部603とに指示を与える。なお、“反射/透過”は、“反射”と“透過”とを併用してスキャンを行なうことを指定するものである。
【0096】
次に、「スキャン画像階調」フィールドは、部分画像データおよび全体画像データの階調を指定するフィールドである。「スキャン画像階調」フィールドには、例えば、“00”(2値)、および“01”(多値)という値が指定可能である。
【0097】
ここで、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“2値”であるコマンドを受信すると、部分画像データおよび全体画像データをモノクロデータとして、主制御部800に送信する。
【0098】
また、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“多値”であるコマンドを受信すると、部分画像データおよび全体画像データを多階調データとして、主制御部800に送信する。
【0099】
次に、「スキャン解像度」フィールドは、部分画像データおよび全体画像データの解像度を指定するフィールドである。「解像度」フィールドには、例えば、“0”(高)および“1”(低)という値が指定可能である。
【0100】
ここで、“高”は、高解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“高”であるコマンドを受信すると、部分画像データおよび全体画像データを高解像度で主制御部800に送信する。例えば、画像認識などの画像処理を行なう対象の画像データ(指紋などの画像データ)には、“高”を指定することが望ましい。
【0101】
また、“低”は、低解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“低”であるコマンドを受信すると、部分画像データおよび全体画像データを低解像度で主制御部800に送信する。例えば、タッチした位置等が分かる程度でよい画像データ(タッチした指や手の画像データなど)には、“低”を指定することが望ましい。
【0102】
次に、「スキャンパネル」フィールドは、どの表示/光センサ部300にて対象物のスキャンを行なうかを指定するフィールドである。「スキャンパネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
【0103】
ここで、センサデータ処理部703は、「スキャンパネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aの光センサ駆動回路305およびバックライト駆動回路308を制御するように、センサ制御部602およびバックライト制御部603に指示を与える。
【0104】
次に、「表示パネル」フィールドは、どの表示/光センサ部300にて表示データを表示させるかを指定するフィールドである。「表示パネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
【0105】
ここで、表示データ処理部701は、例えば、「表示パネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aに表示データを表示させるために、第1表示/光センサ部300Aの液晶パネル駆動回路304およびバックライト駆動回路308を制御するように、表示制御部601およびバックライト制御部603に指示を与える。
【0106】
次に、「予備」フィールドは、上述したフィールドにて指定可能な情報以外の情報をさらに指定する必要がある場合に、適宜指定されるフィールドである。
【0107】
なお、主制御部800にて実行されるアプリケーションは、コマンドを送信するにあたり、上述したフィールドを全て使用する必要はなく、使用しないフィールドには無効値(NULL値など)を設定しておけばよい。
【0108】
また、ユーザが指やペンなどでタッチした位置の座標データを取得したいときは、「データ種別」フィールドに“座標”を指定したコマンドをデータ処理部700に送信することとなるが、指やペンなどの動きを検出したい場合には、さらに、当該コマンドの「データ取得タイミング」フィールドに“オール”を指定し、座標データを取得するようにすることが望ましい。この場合には、タッチした位置の座標データが取得できればよいため、スキャンの精度は高くなくてもよい。したがって、上記コマンドの「解像度」フィールドの値は“低”を指定しておけばよい。
【0109】
また、コマンドの「データ種別」フィールドに“座標”を指定した場合において、例えば、ユーザが、複数の指やペンなどでセンサ内蔵液晶パネル301を同時にタッチした場合は、該タッチした位置の座標データのそれぞれを取得することができる(多点検出)。
【0110】
また、原稿などの対象物の画像データを取得する場合、「データ種別」フィールドに“全体画像”を指定したコマンドをデータ処理部700に送信することとなるが、原稿などの対象物は、通常、静止させた状態でスキャンを実行することが一般的であるため、周期的にスキャンを実行する必要はない。従って、この場合は、「データ取得タイミング」フィールドに“センス”または“イベント”を指定することが望ましい。なお、原稿などの対象物をスキャンするときは、ユーザが文字を読みやすいように、スキャン精度は高い方が望ましい。したがって、「解像度」フィールドには“高”を指定することが望ましい。
【0111】
本発明の場合、IDカードがかざされた位置と、そのIDカードの画像(部分画像)とを取得するため、「データ種別」フィールドに “座標”と“部分画像”とを同時に指定したコマンドをデータ処理部700に送信する。また、IDカードに表示されたユーザ情報を正確に読み取るために、「解像度」フィールドには“高”を指定することが望ましい。また、ユーザがIDカードをかざした時に自動的に画像を取得することが望ましいため、「データ取得タイミング」フィールドに “イベント”を指定することが望ましい。
【0112】
(全体画像データ/部分画像データ/座標データ)
次に、図7を参照しながら、全体画像データ、部分画像データ、および座標データについて、例を挙げて説明する。図7(a)に示す画像データは、対象物がセンサ内蔵液晶パネル301上に置かれていないときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。また、図7(b)に示す画像データは、ユーザが指でセンサ内蔵液晶パネル301をタッチしているときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。
【0113】
ユーザが指でセンサ内蔵液晶パネル301をタッチしたとき、当該タッチした近傍の光センサ回路32が受光する光量が変化するため、当該光センサ回路32が出力する電圧に変化が生じ、その結果として、センサ制御部602が生成する画像データのうち、ユーザがタッチした部分の画素値の明度に変化が生じることとなる。
【0114】
図7(b)に示す画像データでは、図7(a)に示す画像データと比べると、ユーザの指に該当する部分の画素値の明度が高くなっている。そして、図7(b)に示す画像データにおいて、明度が所定の閾値より大きく変化している画素値を全て含む最小の矩形領域(領域PP)が、“部分画像データ”である。
【0115】
IDカードをセンサ内蔵液晶パネル301にかざした場合も、IDカードの像を形成する画素の明度が高まるため、IDカードの像を含む画像が部分画像として生成される。
【0116】
なお、領域APで示される画像データが、“全体画像データ”である。
【0117】
また、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)であり、部分画像データ(領域PP)における座標データは(Xp,Yp)である。
【0118】
(センサ内蔵液晶パネルの構成)
次に、図8を参照しながら、センサ内蔵液晶パネル301の構成、および、センサ内蔵液晶パネル301の周辺回路309の構成について説明する。図8は、表示/光センサ部300の要部、特に、センサ内蔵液晶パネル301の構成および周辺回路309の構成を示すブロック図である。
【0119】
センサ内蔵液晶パネル301は、光透過率(輝度)を設定するための画素回路31、および、自身が受光した光の強度に応じた電圧を出力する光センサ回路32を備えている。なお、画素回路31は、赤色、緑色、青色のカラーフィルタのそれぞれに対応するR画素回路31r、G画素回路31g、B画素回路31bの総称として用いる。
【0120】
画素回路31は、センサ内蔵液晶パネル301上の列方向(縦方向)にm個、行方向(横方向)に3n個配置される。そして、R画素回路31r、G画素回路31g、およびB画素回路31bの組が、行方向(横方向)に連続して配置される。この組が1つの画素を形成する。
【0121】
画素回路31の光透過率を設定するには、まず、画素回路31に含まれるTFT(Thin Film Transistor)33のゲート端子に接続される走査信号線Giにハイレベル電圧(TFT33をオン状態にする電圧)を印加する。その後、R画素回路31rのTFT33のソース端子に接続されているデータ信号線SRjに、所定の電圧を印加する。同様に、G画素回路31gおよびB画素回路31bについても、光透過率を設定する。そして、これらの光透過率を設定することにより、センサ内蔵液晶パネル301上に画像が表示される。
【0122】
次に、光センサ回路32は、一画素毎に配置される。なお、R画素回路31r、G画素回路31g、およびB画素回路31bのそれぞれの近傍に1つずつ配置されてもよい。
【0123】
光センサ回路32にて光の強度に応じた電圧を出力させるためには、まず、コンデンサ35の一方の電極に接続されているセンサ読み出し線RWiと、フォトダイオード36のアノード端子に接続されているセンサリセット線RSiとに所定の電圧を印加する。この状態において、フォトダイオード36に光が入射されると、入射した光量に応じた電流がフォトダイオード36に流れる。そして、当該電流に応じて、コンデンサ35の他方の電極とフォトダイオード36のカソード端子との接続点(以下、接続ノードV)の電圧が低下する。そして、センサプリアンプ37のドレイン端子に接続される電圧印加線SDjに電源電圧VDDを印加すると、接続ノードVの電圧は増幅され、センサプリアンプ37のソース端子からセンシングデータ出力線SPjに出力される。そして、当該出力された電圧に基づいて、光センサ回路32が受光した光量を算出することができる。
【0124】
次に、センサ内蔵液晶パネル301の周辺回路である、液晶パネル駆動回路304、光センサ駆動回路305、およびセンサ出力アンプ44について説明する。
【0125】
液晶パネル駆動回路304は、画素回路31を駆動するための回路であり、走査信号線駆動回路3041およびデータ信号線駆動回路3042を含んでいる。
【0126】
走査信号線駆動回路3041は、表示制御部601から受信したタイミング制御信号TC1に基づいて、1ライン時間毎に、走査信号線G1〜Gmの中から1本の走査信号線を順次選択し、該選択した走査信号線にハイレベル電圧を印加するとともに、その他の走査信号線にローレベル電圧を印加する。
【0127】
データ信号線駆動回路3042は、表示制御部601から受信した表示データD(DR、DG、およびDB)に基づいて、1ライン時間毎に、1行分の表示データに対応する所定の電圧を、データ信号線SR1〜SRn、SG1〜SGn、SB1〜SBnに印加する(線順次方式)。なお、データ信号線駆動回路3042は、点順次方式で駆動するものであってもよい。
【0128】
光センサ駆動回路305は、光センサ回路32を駆動するための回路である。光センサ駆動回路305は、センサ制御部602から受信したタイミング制御信号TC2に基づいて、センサ読み出し信号線RW1〜RWmの中から、1ライン時間毎に1本ずつ選択したセンサ読み出し信号線に所定の読み出し用電圧を印加するとともに、その他のセンサ読み出し信号線には、所定の読み出し用電圧以外の電圧を印加する。また、同様に、タイミング制御信号TC2に基づいて、センサリセット信号線RS1〜RSmの中から、1ライン時間毎に1本ずつ選択したセンサリセット信号線に所定のリセット用電圧を印加するとともに、その他のセンサリセット信号線には、所定のリセット用電圧以外の電圧を印加する。
【0129】
センシングデータ出力信号線SP1〜SPnはp個(pは1以上n以下の整数)のグループにまとめられ、各グループに属するセンシングデータ出力信号線は、時分割で順次オン状態になるスイッチ47を介して、センサ出力アンプ44に接続される。センサ出力アンプ44は、スイッチ47により接続されたセンシングデータ出力信号線のグループからの電圧を増幅し、センサ出力信号SS(SS1〜SSp)として、信号変換回路306へ出力する。
【0130】
(主制御部800の構成)
次に、図1を参照しつつ、主制御部800の構成について説明する。図1は、主制御部800の構成を示すブロック図である。図1に示すように、主制御部800は、ユーザ情報抽出部(取得手段、抽出手段)801、属性特定部(属性特定手段)802、カード位置算出部(取得手段、位置算出手段)803、選択項目特定部(選択項目特定手段)804、コンテンツ選択部(選択手段)805、表示制御部(表示制御手段)806、初期設定部807を備えている。
【0131】
(ユーザ情報抽出部801)
ユーザ情報抽出部801は、センサデータ処理部703から出力された部分画像データを取得し、その部分画像データが示す部分画像からIDカードに表示されたユーザ情報を抽出する。換言すれば、ユーザ情報抽出部801は、センサ内蔵液晶パネル301が撮像した撮像画像におけるIDカードの像に含まれるユーザ情報を当該撮像画像から抽出する。
【0132】
ユーザ情報は、数字、文字および/またはバーコードによって表示されていてもよく、その表示方法は特に限定されない。以下では、ユーザ情報は数字であり、カード番号としてIDカードに表示されているものとする。
【0133】
ユーザ情報抽出部801は、抽出したユーザ情報(カード番号)を属性特定部802へ出力する。
【0134】
(属性特定部802)
属性特定部802は、ユーザ情報抽出部801が抽出したカード番号をもとに、IDカードを所有するユーザの属性(所属グループ)を特定する。具体的には、属性特定部802は、記憶部901に予め格納されているカード番号/グループ関連付けテーブルを参照することによりカード番号からユーザの所属グループを特定する。カード番号/グループ関連付けテーブルは、カード番号(ユーザ情報)とユーザの属性とを対応づけるテーブルである。記憶部901は、例えば、フラッシュメモリである。
【0135】
図9は、カード番号/グループ関連付けテーブルの一例を示す図である。図9に示すように、本実施形態では、ユーザの所属グループとして、「一般会員」と「店員」とが設定されている。それゆえ、属性特定部802は、ユーザ情報抽出部801が抽出したカード番号から、撮像されたIDカードが一般会員のものであるか、店員のものであるかを判定する。
【0136】
属性特定部802は、判定結果を、ユーザの属性を示す情報(属性情報)としてコンテンツ選択部805へ出力する。
【0137】
なお、ユーザの属性は、上述のものに限定されず、「男性」、「女性」であってもよいし、「ゴールド会員」、「シルバー会員」、「通常会員」であってもよく、属性の種類および数はどのようなものでもよい。
【0138】
(カード位置算出部803)
カード位置算出部803は、センサデータ処理部703から、全体画像におけるIDカードの像の代表点(例えば、重心)の座標(全体座標と称する)を示す座標データ(全体座標データ)と、IDカードの像を含む部分画像データと、部分画像におけるIDカードの像の代表点の座標(部分座標と称する)を示す座標データ(部分座標データ)とを受信する。
【0139】
上述したように、部分画像とは、全体画像において明度が所定の閾値より大きく変化している画素値を全て含む最小の矩形領域に対応する画像である。ユーザがIDカードを表示画面にかざしたとき、バックライト307からの光を受けてIDカードの像の明度が高くなる。そのため、部分画像は、IDカードの像を含む画像となる。しかし、この部分画像には、図10に示すように、IDカード11を保持するユーザの指12の像も含まれる可能性がある。図10は、センサデータ処理部が生成する部分画像の一例を示す図である。
【0140】
そこで、カード位置算出部803は、部分画像を画像解析することによりIDカードの位置をより正確に算出する。
【0141】
具体的には、カード位置算出部803は、矩形のパターンを基本パターンとして、部分画像とパターンマッチングすることにより部分画像におけるIDカードの像の位置(座標)を算出する。IDカードの像の座標として当該像の重心の座標を求めてもよいが、より正確にIDカードの位置を算出するためには、IDカードの4隅の座標を算出することが好ましい。以下では、カード位置算出部803は、IDカードの像が有する4隅の座標を算出するものとして説明する。
【0142】
カード位置算出部803は、算出した部分画像における4隅の座標を全体画像における4隅の座標に変換する。部分画像における代表点の座標と、全体画像における代表点とが対応付けられているため、これら2点の座標の関係から、部分画像における4隅の座標を全体画像における4隅の座標に変換することができる。
【0143】
カード位置算出部803は、算出した全体画像における4隅の座標(以下、カード座標と称する)を選択項目特定部804へ出力する。
【0144】
(選択項目特定部804)
選択項目特定部804は、上記カード座標と表示画面に表示された選択項目としてのアイコンの座標とを比較することにより、IDカードがどのアイコンの上にかざされたのかを特定する。換言すれば、選択項目特定部804は、カード位置算出部803が算出した位置と、表示画面における選択項目の表示位置とを比較することにより、IDカードが重ねられた選択項目を特定する。表示画面におけるアイコンの位置は、記憶部901に格納されたアイコン位置テーブルに示されている。表示画面の座標と全体画像の座標とは同じものである。
【0145】
図11は、各アイコンの表示画面における表示位置を示すアイコン位置テーブルの一例を示す図である。本実施形態では、1階、2階、3階のアイコンが表示画面にそれぞれ表示される。各アイコンが表示される領域の座標範囲が図11に示されている。例えば、2階のアイコンは、(0,0)と(959,799)とを頂点として有する長方形の範囲に表示される。
【0146】
図12は、表示画面に表示されるアイコンの一例を示す図である。図12に示すように、各階のアイコンは、当該階の地図として表示される。ユーザは、自分が所望する情報と関連のある階の地図にIDカードをかざす。例えば、食料品に関する情報が欲しい場合には、食料品売り場のある1階の地図の上にIDカードをかざす。
【0147】
選択項目特定部804は、カード位置算出部803から出力されたカード座標とアイコン位置テーブルに示された各階のアイコンの座標とを比較し、カード座標が示す4隅の座標によって形成される矩形と重複する領域が最も多いアイコンを、ユーザが選択した(IDカードをかざした)アイコンであると判定する。そして、選択項目特定部804は、ユーザが選択したアイコンを示す情報(アイコン情報)をコンテンツ選択部805へ出力する。
【0148】
なお、IDカードの位置を正確に算出する必要がなければ、センサデータ処理部703から出力される全体画像における代表点の座標データと、各階のアイコンの表示領域とを比較することによりユーザが選択したアイコンを特定してもよい。例えば、代表点の座標に最も近い中心点を有するアイコンをユーザが選択したアイコンであると判定してもよい。
【0149】
(コンテンツ選択部805)
コンテンツ選択部805は、属性特定部802から出力された属性情報と、選択項目特定部804から出力されたアイコン情報との組み合わせに対応するコンテンツを、所定のコンテンツの中から選択する。
【0150】
図13は、属性情報とアイコン情報とコンテンツとの対応付けを示すコンテンツテーブルの一例を示す図である。コンテンツ選択部805は、記憶部901に格納されたコンテンツテーブルを参照することにより、表示画面に表示するコンテンツを選択する。コンテンツテーブルには、属性情報とアイコン情報との組み合わせに対応したコンテンツを示す情報が含まれていればよく、コンテンツそのものが含まれている必要は必ずしもない。つまり、コンテンツそのものは別のテーブルに示されていてもよい。
【0151】
図13に示す例では、属性情報が「一般会員」を示し、アイコン情報が「1階」を示す場合には、コンテンツ選択部805は、「本日のお買い得 1F食料品 タイムサービス 17時〜」というコンテンツを表示用コンテンツとして選択する。
【0152】
コンテンツ選択部805は、選択した表示用コンテンツを表示制御部806へ出力する。
【0153】
(表示制御部806)
表示制御部806は、コンテンツ選択部805から出力された表示用コンテンツを表示データ処理部701へ出力することにより、当該表示用コンテンツを表示画面に表示する。
【0154】
(初期設定部807)
初期設定部807は、操作部903から入力された指示に従ってデータ表示/センサ装置100の初期設定を行う。ユーザが、IDカードがかざされた位置と、そのIDカードの像を含む部分画像とを取得する指示を入力すると、初期設定部807は、「データ種別」フィールドに “座標”と“部分画像”とを同時に指定したコマンドをデータ処理部700に送信する。また、ユーザが、「高解像度」を指定すれば、初期設定部807は、「解像度」フィールドに“高”を指定する。また、ユーザが、撮像された画像に変化が生じたタイミングで画像を送信することを指示した場合、初期設定部807は、「データ取得タイミング」フィールドに “イベント”を指定する。
【0155】
(データ表示/センサ装置100における処理の流れ)
次に図14および図15を参照しつつ、データ表示/センサ装置100における処理の流れの一例について説明する。図14は、データ表示/センサ装置100における処理の流れの一例を示すフローチャートである。図15(a)〜(c)は、表示画面の切り替え様式を示す図である。ここでは、ユーザである客が会員カードを表示画面にかざす場合の処理の一例について説明する。
【0156】
まず、表示画面(センサ内蔵液晶パネル301)に、図15(a)に示す店内案内図(1〜3Fの地図)が表示される(S1)。
【0157】
ユーザが会員カードを、図15(b)に示すように表示画面上の1Fの地図にかざすと、センサ内蔵液晶パネル301によって会員カードが撮像され(S2)、その撮像画像(全体画像)はセンサ制御部602を介してセンサデータ処理部703へ出力される。ユーザが会員カードをかざすことにより、撮像画像に所定の閾値より大きい変化が生じたことを検出すると(S3にて、YES)、センサデータ処理部703は、取得した全体画像から、会員カード(および指)の像を含む部分画像を生成するとともに、部分画像における代表点の座標(部分座標)および全体画像における代表点の座標(全体座標)を算出し、部分画像をユーザ情報抽出部801へ、部分画像、全体座標および部分座標をカード位置算出部803へ出力する。
【0158】
カード位置算出部803は、部分画像、全体座標および部分座標を受け取ると、上述したように部分画像を解析することにより、全体画像(表示画面)における会員カードの4隅の座標(カード座標)を算出し、算出したカード座標を選択項目特定部804へ出力する(S4)。
【0159】
選択項目特定部804は、カード位置算出部803から出力されたカード座標とアイコン位置テーブルに示された各階のアイコンの座標とを比較し、カード座標が示す4隅の座標によって形成される矩形と重複する領域が最も多いアイコンを、会員カードがかざされたアイコンであると判定する(S5)。ここでは、選択項目特定部804は、1Fのアイコンに会員カードがかざされたと判定したものとする。
【0160】
そして、選択項目特定部804は、1Fのアイコンを示す情報(アイコン情報)をコンテンツ選択部805へ出力する。
【0161】
コンテンツ選択部805は、選択項目特定部804からアイコン情報を受け取ると、当該アイコン情報を一次記憶部902(例えば、DRAM(dynamic random access memory))に一時保存する(S6)。
【0162】
一方、ユーザ情報抽出部801は、センサデータ処理部703から部分画像を受け取ると、当該部分画像から会員カードに表示されたユーザ情報(カード番号)を抽出する(S7)。ここでは、ユーザ情報抽出部801は、カード番号として「1」を抽出したものとする。ユーザ情報抽出部801は、抽出したカード番号を属性特定部802へ出力する。
【0163】
属性特定部802は、ユーザ情報抽出部801からカード番号を受け取ると、カード番号/グループ関連付けテーブルを参照することにより、上記カード番号からユーザの属性(所属グループ)が「一般会員」であると判定する(S8)。属性特定部802は、判定したユーザの属性を示す属性情報をコンテンツ選択部805へ出力する。
【0164】
コンテンツ選択部805は、属性情報を受け取ると、一次記憶部902に格納したアイコン情報を読み出し、当該アイコン情報と属性情報との組み合わせに対応するコンテンツを、コンテンツテーブルに示されたコンテンツから選択する(S9、10)。コンテンツ選択部805は、選択した表示用コンテンツを表示制御部806へ出力する。
【0165】
表示制御部806は、コンテンツ選択部805から受け取った表示用コンテンツを表示データ処理部701へ出力することにより、図15(c)に示すように、当該表示用コンテンツを表示画面に表示する(S12)。
【0166】
そして、センサ内蔵液晶パネル301はさらに撮像を続け(S13)、センサデータ処理部703は、会員カードが再度読み取られたかどうかをモニタする(S14)。所定時間、会員カードが読み取られなかった場合(S15にてNO)、その旨を示す情報がセンサデータ処理部703から表示制御部806へ出力される。
【0167】
表示制御部806は、上記情報を受け取ると、初期状態の案内図を記憶部901から読み取り(S16)、当該案内図を表示データ処理部701へ送信することにより当該案内図を表示画面に表示する(S17)。すなわち、表示制御部806は、コンテンツ選択部805が選択したコンテンツを表示画面に所定時間だけ表示する。
【0168】
上記所定時間は、コンテンツごとに設定されてもよい。例えば、ユーザの個人情報が含まれているコンテンツの表示時間は短く設定し、そうではないコンテンツの表示時間は長く設定してもよい。この所定時間(表示時間)は、コンテンツテーブルに含まれていてもよい。
【0169】
図16(a)〜(b)は、表示画面の切り替え様式の別の例を示す図である。上述の説明は、表示画面にかざされたIDカードが客用のものである場合の説明であるが、図16(a)に示すように、ユーザが店員用のIDカード(メンテナンスカード)を2Fのアイコンにかざした場合には、図16(b)に示すように、「2F 空調システムに異常あり!」という、「店員」という属性と「2F」というアイコン情報との組み合わせに対応したコンテンツがステップS11において選択され、表示画面に表示される。
【0170】
(変更例)
本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【0171】
例えば、上述の説明では、ユーザ情報として、ユーザが一般会員であるか店員であるかの属性情報を利用したが、IDカードを所有するユーザ個人を特定する特定情報をユーザ情報として用いてもよい。この場合には、コンテンツ選択部805は、ユーザの年齢、性別、購買履歴、注文状況等に応じて表示するコンテンツを選択してもよい。
【0172】
また、コンテンツ選択部805は、ユーザ情報とアイコン情報(カード提示位置)との組み合わせに対応する処理を、所定の処理の中から選択してもよい。上記所定の処理とは、例えば、複数種類の音声を出力する処理、複数種類の書面をプリントアウトする処理、複数の部屋の鍵を開錠する処理など、どのような処理でもよい。
【0173】
また、上記提示物体は、クレジットカードなど、各種のカードであってもよいし、カード状以外の形状の物体であってもよく、ユーザの指であってもよい。提示物体がユーザの指である場合には、ユーザ情報は指紋である。また、提示物体に表示された提示情報は、どのような種類の情報であってもよく、提示物体を所有するユーザと直接関係のない情報でもかまわない。
【0174】
また、IDカードを表示画面にかざす操作と、指で表示画面をタッチする処理とを組み合わせてもよい。ユーザが指で表示画面をタッチした場合には、ユーザ情報が抽出できないため、この場合には、ユーザ情報抽出部801は、ユーザ情報が抽出できないことを示す情報(抽出不可情報)をコンテンツ選択部805へ出力する。
【0175】
一方、ユーザが指で表示画面をタッチした場合にもタッチした位置は、センサデータ処理部703によって算出されるため、その位置を示す座標データは、選択項目特定部804へ出力される。選択項目特定部804は、受け取った座標データと表示画面に表示されたアイコンの座標とを比較することにより、ユーザがどのアイコンをタッチしたのかを特定し、特定したアイコンを示すアイコン情報をコンテンツ選択部805へ出力する。
【0176】
コンテンツ選択部805は、アイコン情報と抽出不可情報との組み合わせに対応するコンテンツを選択すればよい。
【0177】
また、データ処理部700と主制御部800とを合わせて画像処理装置として捉えることもできる。
【0178】
また、上述したデータ表示/センサ装置100の各ブロック、特に主制御部800は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
【0179】
すなわち、データ表示/センサ装置100は、各機能を実現する制御プログラムの命令を実行するCPU(central processing unit)、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアであるデータ表示/センサ装置100の制御プログラム(画像解析プログラム、表示プログラム)のプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、データ表示/センサ装置100に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
【0180】
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
【0181】
また、データ表示/センサ装置100を通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
【産業上の利用可能性】
【0182】
本発明は、店内の案内表示装置など、ユーザによって表示を切り替える種々の表示装置に適用できる。
【図面の簡単な説明】
【0183】
【図1】本発明の一実施形態に係るデータ表示/センサ装置が備える主制御部の構成を示すブロック図である。
【図2】本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルの断面を模式的に示す図である。
【図3】図3(a)は、本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルにて反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。図3(b)は、本発明の一実施形態に係るデータ表示/センサ装置が備えるセンサ内蔵液晶パネルにて影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。
【図4】本発明の一実施形態に係るデータ表示/センサ装置の要部構成を示すブロック図である。
【図5】本発明の一実施形態に係るデータ表示/センサ装置で用いられるコマンドのフレーム構造の一例を模式的に示す図である。
【図6】図5に示したコマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
【図7】図7(a)は、本発明の一実施形態に係るデータ表示/センサ装置にて、対象物がセンサ内蔵液晶パネル上に置かれていないときに、センサ内蔵液晶パネル全体をスキャンした結果として得られる画像データである。図7(b)は、本発明の一実施形態に係るデータ表示/センサ装置にて、ユーザが指でセンサ内蔵液晶パネルをタッチしているときに、センサ内蔵液晶パネル全体をスキャンした結果として得られる画像データである。
【図8】本発明の一実施形態に係るデータ表示/センサ装置が備える表示/光センサ部300の要部、特に、センサ内蔵液晶パネルの構成および周辺回路の構成を示すブロック図である。
【図9】カード番号/グループ関連付けテーブルの一例を示す図である。
【図10】センサデータ処理部が生成する部分画像の一例を示す図である。
【図11】アイコン位置テーブルの一例を示す図である。
【図12】表示画面に表示されるアイコンの一例を示す図である。
【図13】コンテンツテーブルの一例を示す図である。
【図14】データ表示/センサ装置における処理の流れの一例を示すフローチャートである。
【図15】(a)〜(c)は、表示画面の切り替え様式を示す図である。
【図16】(a)〜(b)は、表示画面の切り替え様式の別の例を示す図である。
【符号の説明】
【0184】
6 フォトダイオード(撮像センサ)
11 IDカード(提示物体)
100 データ表示/センサ装置
300 表示/光センサ部(表示部)
301 センサ内蔵液晶パネル(撮像画面、表示画面、表示部)
601 表示制御部(表示制御手段)
701 表示データ処理部(表示制御手段)
703 センサデータ処理部(取得手段、位置算出手段)
801 ユーザ情報抽出部(抽出手段)
803 カード位置算出部(位置算出手段)
804 選択項目特定部(選択項目特定手段)
805 コンテンツ選択部(選択手段)
806 表示制御部(表示制御手段)
【特許請求の範囲】
【請求項1】
撮像センサを有する撮像画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得手段と、
上記取得手段が取得した撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出手段と、
上記取得手段が取得した撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出手段と、
上記位置算出手段が算出した位置と上記抽出手段が抽出した提示情報との組み合わせに対応する処理を、所定の処理の中から選択する選択手段とを備えることを特徴とする画像解析装置。
【請求項2】
上記提示物体は、カードであり、
上記提示情報は、上記カードに示されている、当該カードを所有するユーザの属性を示す属性情報であることを特徴とする請求項1に記載の画像解析装置。
【請求項3】
上記提示物体は、カードであり、
上記提示情報は、上記カードに示されている、当該カードを所有するユーザを特定する特定情報であることを特徴とする請求項1に記載の画像解析装置。
【請求項4】
上記抽出手段は、上記提示情報を当該撮像画像から抽出できなかった場合には、その旨を示す抽出不可情報を上記選択手段へ出力し、
上記選択手段は、上記位置算出手段が算出した位置と上記抽出不可情報との組み合わせに対応する処理を、所定の処理の中から選択することを特徴とする請求項1〜3のいずれか1項に記載の画像解析装置。
【請求項5】
請求項1〜4のいずれか1項に記載の画像解析装置を動作させるための画像解析プログラムであって、コンピュータを上記各手段として機能させるための画像解析プログラム。
【請求項6】
請求項5に記載の画像解析プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項7】
撮像センサを内蔵した表示画面を有する表示装置であって、
上記表示画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得手段と、
上記取得手段が取得した撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出手段と、
上記取得手段が取得した撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出手段と、
上記位置算出手段が算出した位置と上記抽出手段が抽出した提示情報との組み合わせに対応するコンテンツを選択する選択手段と、
上記選択手段が選択したコンテンツを上記表示画面に表示する表示制御手段とを備えることを特徴とする表示装置。
【請求項8】
上記表示制御手段は、ユーザが選択可能な複数の選択項目を上記表示画面に表示し、
上記位置算出手段が算出した位置と、上記表示画面における上記選択項目の表示位置とを比較することにより、上記提示物体が重ねられた選択項目を特定する選択項目特定手段をさらに備え、
上記選択手段は、上記選択項目特定手段が特定した選択項目および上記抽出手段が抽出した提示情報の組み合わせに対応するコンテンツを、所定のコンテンツの中から選択することを特徴とする請求項7に記載の表示装置。
【請求項9】
上記表示制御手段は、上記選択手段が選択したコンテンツを上記表示画面に所定の時間だけ表示することを特徴とする請求項7または8に記載の表示装置。
【請求項10】
画像解析装置における画像解析方法であって、
撮像センサを有する撮像画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得工程と、
上記取得工程において取得された撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出工程と、
上記取得工程において取得された撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出工程と、
上記位置算出工程において算出された位置と上記抽出工程において抽出された提示情報との組み合わせに対応する処理を、所定の処理の中から選択する選択工程とを含むことを特徴とする画像解析方法。
【請求項1】
撮像センサを有する撮像画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得手段と、
上記取得手段が取得した撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出手段と、
上記取得手段が取得した撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出手段と、
上記位置算出手段が算出した位置と上記抽出手段が抽出した提示情報との組み合わせに対応する処理を、所定の処理の中から選択する選択手段とを備えることを特徴とする画像解析装置。
【請求項2】
上記提示物体は、カードであり、
上記提示情報は、上記カードに示されている、当該カードを所有するユーザの属性を示す属性情報であることを特徴とする請求項1に記載の画像解析装置。
【請求項3】
上記提示物体は、カードであり、
上記提示情報は、上記カードに示されている、当該カードを所有するユーザを特定する特定情報であることを特徴とする請求項1に記載の画像解析装置。
【請求項4】
上記抽出手段は、上記提示情報を当該撮像画像から抽出できなかった場合には、その旨を示す抽出不可情報を上記選択手段へ出力し、
上記選択手段は、上記位置算出手段が算出した位置と上記抽出不可情報との組み合わせに対応する処理を、所定の処理の中から選択することを特徴とする請求項1〜3のいずれか1項に記載の画像解析装置。
【請求項5】
請求項1〜4のいずれか1項に記載の画像解析装置を動作させるための画像解析プログラムであって、コンピュータを上記各手段として機能させるための画像解析プログラム。
【請求項6】
請求項5に記載の画像解析プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項7】
撮像センサを内蔵した表示画面を有する表示装置であって、
上記表示画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得手段と、
上記取得手段が取得した撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出手段と、
上記取得手段が取得した撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出手段と、
上記位置算出手段が算出した位置と上記抽出手段が抽出した提示情報との組み合わせに対応するコンテンツを選択する選択手段と、
上記選択手段が選択したコンテンツを上記表示画面に表示する表示制御手段とを備えることを特徴とする表示装置。
【請求項8】
上記表示制御手段は、ユーザが選択可能な複数の選択項目を上記表示画面に表示し、
上記位置算出手段が算出した位置と、上記表示画面における上記選択項目の表示位置とを比較することにより、上記提示物体が重ねられた選択項目を特定する選択項目特定手段をさらに備え、
上記選択手段は、上記選択項目特定手段が特定した選択項目および上記抽出手段が抽出した提示情報の組み合わせに対応するコンテンツを、所定のコンテンツの中から選択することを特徴とする請求項7に記載の表示装置。
【請求項9】
上記表示制御手段は、上記選択手段が選択したコンテンツを上記表示画面に所定の時間だけ表示することを特徴とする請求項7または8に記載の表示装置。
【請求項10】
画像解析装置における画像解析方法であって、
撮像センサを有する撮像画面に対して提示された提示物体を上記撮像センサによって撮像した撮像画像を取得する取得工程と、
上記取得工程において取得された撮像画像を解析することにより、当該撮像画像における上記提示物体の像の位置を算出する位置算出工程と、
上記取得工程において取得された撮像画像における上記提示物体の像に含まれる提示情報を当該撮像画像から抽出する抽出工程と、
上記位置算出工程において算出された位置と上記抽出工程において抽出された提示情報との組み合わせに対応する処理を、所定の処理の中から選択する選択工程とを含むことを特徴とする画像解析方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2010−118017(P2010−118017A)
【公開日】平成22年5月27日(2010.5.27)
【国際特許分類】
【出願番号】特願2008−292713(P2008−292713)
【出願日】平成20年11月14日(2008.11.14)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
【公開日】平成22年5月27日(2010.5.27)
【国際特許分類】
【出願日】平成20年11月14日(2008.11.14)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
[ Back to top ]