説明

通信端末、通信方法、マーカ装置及び通信システム

【課題】マーカ型の表示形態において、マーカを基に表示対象のデータを取得して、表示対象のデータを高速且つ簡易に表示画面に表示する。
【解決手段】通信端末は、光源としてのマーカ装置と光通信し、情報若しくはデータを表示する表示部と、マーカ装置から発光された光信号を受光する受光部と、受光部により受光された光信号を、マーカ装置に対応するデータが変調された変調信号に変換する受光制御部と、通信端末の周囲の映像を取得する撮像部と、撮像部により取得された映像を表示部に表示させる表示制御部と、受光制御部により変換された変調信号を復調してマーカ装置に対応するデータを取得する制御部と、を備える。制御部は、表示部に表示された映像の表示画面の所定位置に、マーカ装置に対応するデータを表示するように表示制御部に指示する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、光通信を用いてデータを通信する通信端末、通信方法、マーカ装置及び通信システムに関する。
【背景技術】
【0002】
従来の光通信の一例として、可視光通信は、送信側において、通信対象の情報若しくはデータに応じて電気信号を変調し、例えばLED(Light Emitting Diode)などの発光体から変調信号の符号ビット(「1」又は「0」)を可視光線に重畳して送信(発光)する。また、可視光通信は、受信側において、送信(発光)された可視光信号を受光(受信)し、受光された可視光信号を電気信号に変換して更に復調して元の情報若しくはデータを取得する。この様な可視光通信は、可視光通信コンソーシアム(VLCC:Visible Light Communication Consortium)などの団体により、通信方式などの標準化が進められている。
【0003】
可視光線を用いた通信の一例として、例えば、特許文献1には、映画撮影所において現実の人物又は物体の動きをデジタル的に記録する、所謂モーションキャプチャのために、可視光線を用いてデータを送信し、光学タグにおいて受光された可視光線からデータを投影する方法が開示されている。
【0004】
また、近年、現実環境にコンピュータを用いて情報を付加的に表示し、又は情報が付加的に表示された環境そのものを示すAR(Augmented Reality:拡張現実)技術が普及し始めている。AR技術においては、現実環境における特定の物体に関する説明又は関連情報を含む電子情報(アノテーションという)が、説明対象となる実物体(物理オブジェクト)に対応付けて提示される。AR技術の情報を付加的に表示する形態としては、マーカ型の表示形態と、マーカーレス型の表示形態とに大別される。
【0005】
マーカ型は、マーカと呼ばれる図形などをユーザ端末において画像認識し、その図形に対応した情報(例:画像データ、テキストデータ)を、ユーザ端末のカメラ部において映し出された映像に、マーカの位置を基にオーバーレイして表示する方法である。
【0006】
一方、マーカーレス型は、マーカを使わずに、情報若しくはデータ、更にユーザ端末の表示画面における情報若しくはデータの表示位置を、ネットワークを介して別途取得し、当該ユーザ端末の表示画面の表示位置に表示する方法である。マーカーレス型として、例えば頓智ドット株式会社のセカイカメラ(登録商標)というアプリケーションが知られている。このアプリケーションにおいては、カメラにおいて映し出された映像に、関連する付加情報(文字、画像、音声)がオーバーレイして表示される。より具体的には、このアプリケーションにおいては、GPS(Global Positioning System)及び電子コンパスを用いて位置及び方向を特定し、関連する付加情報を表示する場所が特定される。なお、この付加情報は、インターネットを介して、このアプリケーションを利用可能なユーザ間において共有可能とされる。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2007−310382号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、上述したマーカ型の表示形態においては、マーカの形状を基に表示対象のデータを特定するため、表示対象のデータのデータ量を多くするために複雑な形状のマーカを用いると、結果的に、ユーザ端末においてマーカの形状を認識するための画像認識処理量が増大し、時間がかかることになる。反対に、マーカの形状の認識を高速化するためにマーカの形状を単純化すると、ユーザ端末において表示されるデータのデータ量が減少することになる。
【0009】
また、上述した特許文献1にはAR技術におけるマーカ型の表示形態については想定及び記載されていないため、マーカ型の表示形態において、マーカを基に表示対象のデータを取得して、表示対象のデータを高速且つ簡易に表示画面に表示することは困難であると考えられる。
【0010】
そこで、本発明は、上述した従来の事情に鑑みてなされたものであり、マーカ型の表示形態において、マーカを基に表示対象のデータを取得して、表示対象のデータを高速且つ簡易に表示画面に表示する通信端末、通信方法、マーカ装置及び通信システムを提供することを目的とする。
【課題を解決するための手段】
【0011】
本発明は、上述した通信端末であって、光源としてのマーカ装置と光通信する通信端末であって、情報若しくはデータを表示する表示部と、前記マーカ装置から発光された光信号を受光する受光部と、前記受光部により受光された前記光信号を、前記マーカ装置に対応するデータが変調された変調信号に変換する受光制御部と、前記通信端末の周囲の映像を取得する撮像部と、前記撮像部により取得された前記映像を前記表示部に表示させる表示制御部と、前記受光制御部により変換された前記変調信号を復調して前記マーカ装置に対応するデータを取得する制御部と、を備え、前記制御部は、前記表示制御部により前記表示部に表示された前記映像の表示画面の所定位置に、前記マーカ装置に対応するデータを表示するように前記表示制御部に指示する。
【0012】
本発明は、上述した通信方法であって、光源としてのマーカ装置と光通信する通信端末における通信方法であって、前記マーカ装置から発光された光信号を受光するステップと、前記受光された前記光信号を、前記マーカ装置に対応するデータが変調された変調信号に変換するステップと、前記通信端末の周囲の映像を取得するステップと、前記取得された前記映像を表示部に表示させるステップと、前記変換された前記変調信号を復調して前記マーカ装置に対応するデータを取得するステップと、前記表示部に表示された前記映像の表示画面の所定位置に、前記取得された前記マーカ装置に対応するデータを表示するように指示するステップと、を備える。
【0013】
本発明は、上述したマーカ装置であって、通信端末と光通信する光源としてのマーカ装置であって、前記マーカ装置に対応するデータを保存するメモリ部と、前記メモリ部に保存されている前記マーカ装置に対応するデータを変調する制御部と、前記制御部により変調された前記マーカ装置に対応するデータを前記光通信における光信号に変換する発光制御部と、前記発光制御部により変換された光信号を用いて発光する発光部と、を備える。
【0014】
本発明は、上述した通信システムであって、光源としてのマーカ装置と前記マーカ装置と光通信する通信端末とを含む通信システムであって、前記マーカ装置は、前記マーカ装置に対応するデータを保存するメモリ部と、前記メモリ部に保存されている前記マーカ装置に対応するデータを変調する制御部と、前記制御部により変調された前記マーカ装置に対応するデータを前記光通信における光信号に変換する発光制御部と、前記発光制御部により変換された光信号を用いて発光する発光部と、を備え、前記通信端末は、情報若しくはデータを表示する表示部と、前記マーカ装置から発光された光信号を受光する受光部と、前記受光部により受光された前記光信号を、前記マーカ装置に対応するデータが変調された変調信号に変換する受光制御部と、前記通信端末の周囲の映像を取得する撮像部と、前記撮像部により取得された前記映像を前記表示部に表示させる表示制御部と、前記受光制御部により変換された前記変調信号を復調して前記マーカ装置に対応するデータを取得する制御部と、を備え、前記制御部は、前記表示制御部により前記表示部に表示された前記映像の表示画面の所定位置に、前記マーカ装置に対応するデータを表示するように前記表示制御部に指示する。
【0015】
上述した構成によれば、マーカ型の表示形態において、マーカを基に表示対象のデータを取得して、表示対象のデータを高速且つ簡易に表示画面に表示することができる。
【発明の効果】
【0016】
本発明によれば、マーカ型の表示形態において、マーカを基に表示対象のデータを取得して、表示対象のデータを高速且つ簡易に表示画面に表示することができる。
【図面の簡単な説明】
【0017】
【図1】本実施形態の通信システムを構成するARマーカ及び携帯端末の各ハードウェア構成を示すブロック図
【図2】(a)携帯端末からのARマーカへの方向を説明する説明図、(b)ARマーカに対応する画像データの表示画面における表示の様子を説明する説明図
【図3】(a)携帯端末からの複数のARマーカへの各方向を説明する説明図、(b)複数のARマーカに対応する各画像データの表示画面における表示の様子を説明する説明図
【図4】本実施形態のARマーカの動作を説明するフローチャート
【図5】ARマーカから発光された可視光信号を受光する前の携帯端末の表示画面の表示例を示す説明図
【図6】ARマーカから発光された可視光信号を受光した後の携帯端末の表示画面の表示例を示す説明図
【図7】本実施形態の携帯端末の動作を説明するフローチャート
【図8】ARマーカに対応する画像データを更新する場合におけるARマーカ及び携帯端末の各動作を説明するシーケンス図
【図9】(a)冷蔵庫の冷蔵室、野菜室及び冷凍室の前にそれぞれ配置された3つのARマーカに対応する各画像データを画面に表示している様子を示す図、(b)冷蔵庫の冷蔵室、野菜室及び冷凍室にそれぞれ光源としての3つのARマーカが配置された様子を示す図
【発明を実施するための形態】
【0018】
以下、本発明に係る通信端末、通信方法、マーカ装置及び通信システムの実施形態について、図面を参照して説明する。本発明に係る通信端末は、例えば携帯電話機、スマートフォン、デジタルスチルカメラ又はPDA(Personal Digital Assistant)などの携帯端末に適用可能であるが、これらの携帯端末に限定されない。以下、本発明に係る通信端末を、上述した携帯端末として説明する。
【0019】
なお、本発明は、通信端末の様な装置、又は通信端末をコンピュータとして動作させるためのプログラムとして表現することも可能である。更に、本発明は、通信端末により実行される処理(ステップ)を含む通信方法として表現することも可能である。即ち、本発明は、装置、方法、プログラム及び当該装置を含むシステムのうちいずれのカテゴリでも表現可能である。
【0020】
(通信システム1の構成)
図1は、本実施形態の通信システム1を構成するARマーカ10及び携帯端末20の各ハードウェア構成を示すブロック図である。通信システム1は、図1に示す様に、マーカ装置としてのARマーカ10、及び携帯端末20を含む構成である。通信システム1においては、ARマーカ10と携帯端末20との間で光通信が行われる。以下の実施形態において、光通信として直進性及び独立性の観点で可視光通信を例示して説明するが、他には赤外線通信を用いても良い。
【0021】
先ず、ARマーカ10の構成について説明する。
【0022】
ARマーカ10は、図1に示す様に、電源PW10、制御部11、メモリ部12、可視光データ発光制御部13、発光部14、及びアンテナ15が接続されているデータ受信部16を含む構成である。ARマーカ10は、通信システム1における可視光通信の光源として機能する。ARマーカ10の各部は、電源PW10により動作に必要な駆動電力が供給されている。
【0023】
制御部11は、ARマーカ10に内蔵されるCPU(Central Processing Unit)等のプロセッサを用いて構成され、ARマーカ10の各部の動作を制御する。制御部11の動作の詳細は、図4又は図8を参照して後述する。
【0024】
メモリ部12は、ARマーカ10に内蔵されるフラッシュメモリ若しくはハードディスクを用いて構成され、ARマーカ10に対応するデータとして、例えばテレビジョン装置などの画像データ、又はチラシ等の広告内容、植木鉢に植えられている花の情報若しくは冷蔵庫に貯蔵されているもの(図9参照)の各内容を示す画像データを記憶している。
【0025】
発光制御部としての可視光データ発光制御部13は、発光部14の発光を制御可能な制御回路を用いて構成される。可視光データ発光制御部13は、制御部11から出力された変調後の画像データ(以下、「変調データ」という)の各情報ビットを基に、各情報ビットに対応する電気信号(電圧信号)を可視光信号VSに光電変換して発光部14を発光させる。
【0026】
発光部14は、可視光信号VSを出力(発光)可能な発光素子(例:発光ダイオード、LED)を用いて構成され、可視光データ発光制御部13の制御の下で、可視光信号VSを送信(発光)する。
【0027】
データ受信部16は、情報若しくはデータを送受信可能な無線通信回路を用いて構成され、アンテナ15を介して、携帯端末20から送信された情報若しくはデータが無線通信用に変調された無線信号WSを受信する。
【0028】
次に、携帯端末20の構成について説明する。
【0029】
携帯端末20は、図1に示す様に、電源PW20、制御部21、操作部22、可視光データ受光制御部23、受光部24、撮像部25、映像処理部26、表示制御部27、表示部28、アンテナ29が接続されているデータ送信部30、RAM(Random Access Memory)31及びROM(Read Only Memory)32を含む構成である。携帯端末20の各部は、電源PW20により動作に必要な駆動電力が供給されている。
【0030】
制御部21は、携帯端末20に内蔵されるCPUを用いて構成され、携帯端末20の各部の動作を制御する。制御部21の動作の詳細は図7又は図8を参照して後述する。
【0031】
操作部22は、携帯端末20のユーザからの携帯端末20に対する入力操作を受け付けるユーザインタフェースであり、ユーザの操作内容に応じた操作信号を制御部21に出力する。例えば、操作部22は、ユーザの操作内容、例えばARマーカ10に対応する画像データを更新するための更新指示の操作に応じた操作信号を制御部21に出力する。
【0032】
また、操作部22は、電話番号等を入力するテンキー、オンフック又はオフフックを行う通話器キー及びファンクションキー等の各種キーで構成可能である。更に、操作部22は、表示部28の上に配置され、ユーザの指又はスタイラスペンなどによる入力操作を受け付け可能なタッチパネルを用いて構成されても良い。
【0033】
受光制御部としての可視光データ受光制御部23は、受光部24の受光を制御可能な制御回路を用いて構成される。可視光データ受光制御部23は、可視光信号VSの受光部24における受光量に応じた電流量を基に、可視光信号VSを変調データの電気信号(電圧信号)に光電変換する。
【0034】
受光部24は、可視光信号VSの受光量に応じた電流量を出力可能な受光素子(例:フォトダイオード、PD)を用いて構成され、可視光データ受光制御部23の制御の下で、可視光信号VSの受光量に応じた電流量を可視光データ受光制御部24に出力する。
【0035】
撮像部25は、ユーザにより把持される携帯端末10の所定方向における周囲の映像の画像データを撮像可能なCCD(Charged Coupled Devices)又はCMOS(Complementary Metal Oxide Semiconductor)を用いて構成され、ユーザの撮像指示に応じて操作部22により出力された操作信号を基に、被写体又は景色の映像データを撮像する。なお、図1においては、操作部22から撮像部25への矢印は省略している。
【0036】
映像処理部26は、携帯端末20に内蔵されるCPU等のプロセッサを用いて構成され、撮像部25により撮像された被写体又は景色の映像データ(画像データ)を、ユーザの画像処理指示に応じて操作部22により出力された操作信号を基にして画像処理する。なお、図1においては、操作部22から映像処理部26への矢印は省略している。
【0037】
なお、図1の携帯端末20においては、撮像部25と映像処理部26とは、別々の構成としているが、撮像部25と映像処理部26とが一体として構成されても良い。この場合には、映像処理部26の構成は図1から省略される。
【0038】
表示制御部27は、携帯端末20に内蔵されるCPUを用いて構成され、制御部21から出力された表示指示及び情報若しくはデータを取得し、表示指示に基づいて情報若しくはデータを表示部28に表示する。
【0039】
表示部28は、LCD(Liquid Crystal Display)又は有機EL(Electro Luminescence)ディスプレイを用いて構成され、表示制御部27の制御の下で、ユーザ操作に応じて操作部22から出力された操作信号に応じて、情報若しくはデータを表示する。
【0040】
データ送信部30は、情報若しくはデータを送受信可能な無線通信回路を用いて構成され、アンテナ29を介して、ユーザ操作によって操作部22から出力されたデータ(例:画像データ)をARマーカ10に送信する。なお、データ送信部30から送信されるデータは、後述する様に、メモリ部12に記憶されているARマーカ10に対応する画像データを更新するために、携帯端末20のユーザにより選択された画像データである。例えば、データ送信部30から送信されるデータは、チラシ等の広告内容、植木鉢に植えられている花の情報若しくは冷蔵庫に貯蔵されているもの(図9参照)の各内容を示す画像、映像又はテキスト等のデータである。
【0041】
RAM31は、制御部21、操作部22、映像処理部26、表示制御部27又はデータ送信部30の各動作におけるワークメモリとして動作する。なお、図1においては、制御部21、操作部22、映像処理部26、表示制御部27又はデータ送信部30からRAM31への矢印の図示を省略している。
【0042】
ROM32は、携帯端末20における制御部21、映像処理部26及び表示制御部27の各動作が予め規定されたプログラムを記憶している。なお、制御部21は、ハードウェア又はソフトウェアで構成することが可能である。特に、制御部21がソフトウェアにより構成される際には、携帯端末20に内蔵されているCPUが制御部21の各動作が予め規定されたプログラムをROM32から読み出すことにより、制御部21が動作可能となる。なお、図1においては、ROM32への矢印の図示を省略している。
【0043】
(ARマーカ10に対応する画像データの表示位置の説明)
次に、本実施形態の携帯端末20において、ARマーカ10に対応する画像データ10−Cの表示位置を、図2及び図3を参照して説明する。図2(a)は、携帯端末20からのARマーカ10への方向を説明する説明図である。図2(b)は、ARマーカ10に対応する画像データ10−Cの表示画面における表示の様子を説明する説明図である。図3(a)は、携帯端末20からの複数のARマーカ10a,10bへの各方向を説明する説明図である。図3(b)は、複数のARマーカ10a,10bに対応する各画像データ10−Ca,10−Cbの表示画面における表示の様子を説明する説明図である。なお、図2及び図3において、携帯端末20は例えば折り畳み形式であるとして説明するが、特に折り畳み形式の携帯端末20に限定されず、携帯端末20の代わりにスマートフォンにおいても同様に説明可能である。
【0044】
図2(a)に示す様に、受光部24は、例えば携帯端末20の折り畳みのためのヒンジの略中央部(原点O)に設けられているとする。図2(a)の原点Oを中心としたx−y−z軸のうちのx−y平面において、原点Oから所定角θの方向から、所定の閾値TH1(図7のステップS22参照)を超える受光量の可視光信号VSが受光部24において受光されたとする。なお、ARマーカ10は、原点OからベクトルOP1の大きさに応じた距離ほど離れた点P1に位置しているとする。
【0045】
この所定角θ(受光方向)は、例えば次の様にして求められる。具体的には、携帯端末20において受光部24の近傍又は受光部24に隣接する位置に輝度センサ(不図示)が設けられている場合に、輝度センサが受光部24の位置(原点O、図2(a)参照)を起点に、所定の閾値以上の輝度レベルを有する可視光信号VSの到来方向として求めた角度である。なお、図3(a)の所定角θ1及びθ2の求め方についても同様である。
【0046】
また、携帯端末20が輝度センサを有さない場合には、映像処理部26が、撮像部25において撮像された画像データに輝点を検出した場合に、原点Oと検出された輝点とを結ぶベクトルのx軸に対する角度を所定角θと判定しても良い。この場合、映像処理部26の動作において、撮像部25により撮像された画像上において輝点を検出するためのアルゴリズムが予め規定されていることが好ましい。
【0047】
この場合、図2(b)に示す様に、携帯端末20は、表示部28の点Ofを図2(a)の原点Oに対応する表示画面の原点とした場合に、原点Ofから求められた所定角θの方向に、ARマーカ10に対応する画像データ10−Cを表示する。なお、ARマーカ10に対応する画像データ10−Cの表示画面における表示位置である点P1fと原点Ofとの距離は、図2(a)の原点OからベクトルOP1の大きさに応じた距離に所定の割合(例:0.5など)を乗じたものとしても良い。
【0048】
同様に、図3(a)に示す様に、受光部24は、例えば携帯端末20の折り畳みのためのヒンジの略中央部(原点O)に設けられているとする。図3(a)の原点Oを中心としたx−y−z軸のうちのx−y軸平面において、原点Oから所定角θ1の方向から、所定の閾値TH1(図7のステップS22参照)を超える受光量の可視光信号VSが受光部24において受光されたとする。更に、原点Oから所定角θ2の方向から、所定の閾値TH1(図7のステップS22参照)を超える受光量の可視光信号VSが受光部24において受光されたとする。なお、ARマーカ10aは原点OからベクトルOP1の大きさに応じた距離ほど離れた点P1に位置し、ARマーカ10bは原点OからベクトルOP2の大きさに応じた距離ほど離れた点P2に位置しているとする。
【0049】
この場合、図3(b)に示す様に、携帯端末20は、表示部28の点Ofを図3(a)の原点Oに対応する表示画面の原点とした場合に、原点Ofから同じ所定角θ1の方向に、ARマーカ10aに対応する画像データ10−Caを表示する。更に、携帯端末20は、原点Ofから同じ所定角θ2の方向に、ARマーカ10bに対応する画像データ10−Cbを表示する。なお、ARマーカ10aに対応する画像データ10−Caの表示画面における表示位置である点P1fと原点Ofとの距離は、図3(a)の原点OからベクトルOP1の大きさに応じた距離に所定の割合(例:0.5など)を乗じたものとしても良い。同様に、ARマーカ10bに対応する画像データ10−Cbの表示画面における表示位置である点P2fと原点Ofとの距離は、図3(a)の原点OからベクトルOP2の大きさに応じた距離に所定の割合(例:0.5など)を乗じたものとしても良い。
【0050】
以上により、複数のARマーカ10a,10bからそれぞれ可視光信号VS1,VS2が発光されている場合においても、各ARマーカ10a,10bからの可視光信号VS1,VS2が空間的に直進性及び独立性が非常に高い。これにより、携帯端末20は、各可視光信号VS1,VS2の相互の干渉を回避することができ、確実に各可視光信号を分離して受光することができる。
【0051】
また、ARマーカ10に対応する画像データの表示位置は、上述した角度θ(図2参照)、角度θ1及びθ2(図3参照)の演算を行わなくても、次の様に特定しても良い。具体的には、携帯端末20は、受光部24における可視光信号VSの受光時の画角(角度)と撮像部25における撮影時の画角(角度)とが同じである、即ち撮像部25においてARマーカ10からの可視光信号VSを撮像している場合には、撮像部25により撮像された画像のうちの可視光信号VSを受光した位置を、ARマーカ10に対応する画像データの表示位置として良い。
【0052】
特に、撮像部25における撮像範囲を所定の範囲(例えば撮像部25を起点に±10°の中心方向だけ)に限定することにより、携帯端末20は、撮像部25における撮像範囲においてARマーカ10からの可視光信号VSを受光した場合には、ARマーカ10に対応する画像データを簡易且つ高速に表示可能である。なお、上述した撮像範囲を、撮像部25を起点に±10°としたのはあくまでも一例であって、携帯端末20において予め設定され若しくは携帯端末20のユーザにおいて任意に設定されても良い。
【0053】
(ARマーカ10の動作)
次に、本実施形態のARマーカ10の動作について、図4を参照して説明する。図4は、本実施形態のARマーカ10の動作を説明するフローチャートである。上述した様に、ARマーカ10のメモリ部12には、ARマーカ10に対応するデータとして例えばテレビジョン装置などの画像データが記憶されているとする。
【0054】
図4において、制御部11は、メモリ部12から画像データを読み出す(S11)。制御部11は、ステップS11において読み出された画像データを所定の変調方式に従って変調し、変調データを生成する(S12)。制御部11は、生成された変調データを可視光データ発光制御部13に出力する。
【0055】
可視光データ発光制御部13は、制御部11から出力された変調データを取得し、この変調データの各情報ビット(ビット「1」,ビット「0」)を基に、各情報ビットに対応する電気信号(電圧信号)を可視光信号VSに光電変換する(S13)。
【0056】
発光部14は、ステップS13の光電変換によって生成された可視光信号VSを送信(発光)する(S14)。以上により、ARマーカ10の動作は終了する。上述したステップS11〜ステップS14がARマーカ10において常時繰り返される。但し、ARマーカ10が図4の各処理(ステップ)を繰り返すのは常時ではなく、例えば所定の周期(例:1秒)毎にしても良い。この場合には、ARマーカ10には上述した所定の周期をカウントするためにタイマが内蔵されることが好ましい。
【0057】
(携帯端末20の動作)
次に、本実施形態の携帯端末20の動作について、図5〜図7を参照して説明する。図5は、ARマーカ10から発光された可視光信号VSを受光する前の携帯端末20の表示画面の表示例を示す説明図である。図6は、ARマーカ10から発光された可視光信号VSを受光した後の携帯端末20の表示画面の表示例を示す説明図である。図7は、本実施形態の携帯端末20の動作を説明するフローチャートである。
【0058】
図7において、撮像部25は、携帯端末20のユーザの撮像指示に応じて操作部22により出力された操作信号を基に、携帯端末20の周囲の被写体又は景色の映像データ(画像データ)を撮像する(S21)。図7の説明においては、撮像対象は部屋の様子の一部を模った縮小されたモデルルームのテレビ台であり、携帯端末20の撮像部25は光源としてのARマーカ10の方向に向けられているとする(図5及び図6参照)。
【0059】
制御部21は、撮像部25により撮像された又は映像処理部26により更に画像処理された映像データを表示部28に表示する様に表示制御部27に指示する。表示制御部27は、制御部21からの表示指示を基に、撮像部25により撮像された又は映像処理部26により更に画像処理された映像データを表示部28に表示する(S21)。
【0060】
可視光データ受光制御部23は、受光部24における可視光信号VSの受光量が所定の閾値TH1以上の受光量であるか否かを判定する(S22)。この閾値TH1は、ARマーカ10からの可視光信号VSが携帯端末20において受光されたか否かを判別する値である。可視光データ受光制御部23は、受光部24における可視光信号VSの受光量が所定の閾値TH1以上の受光量であると判定した場合に(S22、YES)、受光部24における可視光信号VSの受光量が所定の閾値TH1以上の受光量である旨を制御部21に出力する。
【0061】
制御部21は、受光部24における可視光信号VSの受光方向を判定する(S23)。この受光方向の算出は、上述した様に、携帯端末20において受光部24の近傍又は受光部24に隣接する位置に輝度センサ(不図示)が設けられている場合に、輝度センサが受光部24の位置(原点O、図2(a)参照)を起点に、所定の閾値TH2以上の輝度レベルを有する可視光信号VSの到来方向として求めた角度となる。この閾値TH2は、ARマーカ10からの可視光信号VSの受光方向を求めるか否かを判別するものとする。なお、輝度センサにより求められた受光方向は、制御部21に出力される。
【0062】
なお、携帯端末20において受光部24の近傍又は受光部24に隣接する位置に輝度センサ(不図示)が設けられていない場合には、映像処理部26が、撮像部25において撮像された画像データに輝点を検出した場合に、撮像部25により撮像された画像のうちの可視光信号VSを受光した方向を図7のステップS23における受光方向とし、また撮像部25又は受光部24において可視光信号VSを受光した位置を、ARマーカ10に対応する画像データの表示位置として良い。
【0063】
可視光データ受光制御部23は、可視光信号VSの受光部24における受光量に応じた電流量を基に、可視光信号VSを変調データの電気信号(電圧信号)に光電変換する(S24)。可視光データ受光制御部23は、光電変換によって生成された変調データの電気信号を制御部21に出力する。
【0064】
制御部21は、可視光データ受光制御部23から出力された変調データの電気信号を基に、所定の復調方式に従って変調データを復調して、ARマーカ10に対応する画像データ10−Cを取得する(S25)。なお、ARマーカ10と携帯端末20との間において行われる変調方式及び復調方式は、ARマーカ10と携帯端末20との間で既知であるとする。
【0065】
制御部21は、ステップS25において取得されたARマーカ10に対応する画像データ10−Cを、表示部28の点Ofを表示画面の原点とした場合に(図2(b)参照)、原点Ofから求められた所定角θの方向に、原点Ofから所定の距離離れた位置に表示する様に表示制御部27に指示する。表示制御部27は、制御部21からの表示指示を基に、ARマーカ10に対応する画像データ10−Cを、表示部28の表示画面の原点Ofから所定角θの方向であって、原点Ofから所定の距離ほど離れた位置に表示する(S26)。
【0066】
図5のARマーカ10に対応する画像データ10−Cがテレビジョン装置である場合、携帯端末20の受光部24を光源としてのARマーカ10に向けた場合に、携帯端末20は、図6に示す様に、ARマーカ10に対応する画像データ10−Cを、表示部28の表示画面に表示する。なお、携帯端末20においては光源としてのARマーカ10からの可視光信号VSの受光方向が求められるため、ARマーカ10に対応する画像データ10−C(テレビジョン装置の画像データ)は、図6のテレビ台の上に位置する様に表示される。
【0067】
また、上述した様に、ARマーカ10に対応する画像データ10−Cの表示画面における表示位置である点P1fと原点Ofとの距離は、図2(a)の原点OからベクトルOP1の大きさに応じた距離に所定の割合を乗じたものとしても良い。以上により、携帯端末20の動作は終了する。
【0068】
以上により、本実施形態の通信システムによれば、マーカ型の表示形態において、ARマーカ10からの可視光信号VSを受光した場合に、可視光信号VSを復調して得られた表示対象の画像データを取得して、表示対象のデータを、撮像部25により撮像された映像データの該当位置及び方向に高速且つ簡易に表示することができる。
【0069】
また、上述した実施形態では、ARマーカ10に対応する画像データ10−Cは、予めARマーカ10のメモリ部12に固定的に記憶されていたが、携帯端末20から新たな例えば画像データを送信することによって更新されても良い。この内容について図8及び図9を参照して説明する。図8は、ARマーカ10に対応する画像データ10−Cを更新する場合におけるARマーカ10及び携帯端末20の各動作を説明するシーケンス図である。図9(a)は、冷蔵庫100の冷蔵室RFG、野菜室VGT及び冷凍室FRCの前にそれぞれ配置された3つのARマーカ10に対応する各画像データを画面に表示している様子を示す図である。図9(b)は、冷蔵庫100の冷蔵室RFG、野菜室VGT及び冷凍室FRCにそれぞれ光源としての3つのARマーカ10が配置された様子を示す図である。なお、図9(a)の携帯端末20は、折り畳み形式(図5、図6参照)ではなく、スマートフォンの様に非折り畳み形式のものとして図示している。
【0070】
図8において、ユーザの新たな画像データの撮像指示に応じて操作部22から出力された操作信号を基に(S31)、撮像部25は、被写体又は景色の映像データを撮像する(S32)。ステップS32において撮像された画像データは、例えばARマーカ10に対応する画像データ10−Cを更新する現在日付が2011年8月15日である場合に、2011年8月15日の冷凍室FRCにアイスが置かれ、同日には牛肉とアイスが少なくとも冷凍庫FRCに存在していることを示す内容とする。
【0071】
撮像部25により撮像された映像データ(画像データ)は映像処理部26に出力され(S33)、ユーザの画像処理指示操作に応じて操作部22から出力された操作信号を基に(S34)、映像処理部26において画像データに対して画像処理が行われる(S35)。
【0072】
映像処理部26は、ステップS35において画像処理された画像データを制御部21に出力する(S36)。制御部21は、映像処理部26から出力された画像データを、所定の変調方式に従って変調する(S37)。図8の説明において、変調された画像データを「変調画像データ」と記載する。
【0073】
制御部21は、ステップS37において変調された変調画像データをデータ送信部30に出力する(S38)。データ送信部30は、アンテナ29を介して、変調画像データをARマーカ10に送信する(S39)。データ受信部16は、ステップS39において送信された変調画像データを受信する(S40)。データ受信部16は、受信された変調画像データを制御部11に出力する(S41)。
【0074】
制御部11は、データ受信部16から出力された変調画像データを、所定の復調方式に従って復調し(S42)、新たな画像データを取得する。制御部11は、ステップS42において復調された新たな画像データをメモリ部12に記憶し、ARマーカ10に対応する画像データ10−Cを更新する(S43)。制御部11は、ARマーカ10に対応する画像データ10−Cを更新した旨の更新完了通知をデータ受信部16に出力する(S44)。
【0075】
データ受信部16は、制御部11から出力された更新完了通知を携帯端末20に送信する(S45)。データ送信部30は、ステップS45において送信された更新完了通知を制御部21に出力する(S46)。以上により、図8のARマーカ10と携帯端末20との間で行われるARマーカ10に対応する画像データ10−Cの更新の動作が終了する。
【0076】
従って、携帯端末20は、ARマーカ10に対応する画像データ10−Cを更新できる。これにより、図9に示す様に、ユーザは、携帯端末20を用いて冷蔵庫100の冷蔵室RFG,野菜室VGT,冷凍室FRCに配置された各ARマーカ10からの可視光信号VSを受光すると、携帯端末20の画面にて、例えば冷蔵室RFGには2011年7月31日に牛乳が存在し2011年8月10日に卵が存在することを、冷蔵室RFGを開けることなく認識可能となる。更に、携帯端末20の画面にて、例えば野菜室には2011年8月10日にはほうれん草が存在し2011年7月20日にじゃがいもが存在することを、野菜室VGTを開けることなく認識可能となる。更に、携帯端末20の画面にて、例えば冷凍室FRCには2011年8月5日には牛肉が存在し2011年8月15日にはアイスが存在することを、冷凍室FRCを開けることなく認識可能となる。
【0077】
以上、図面を参照しながら各種の実施の形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種実施の形態の変更例または修正例、更に各種実施の形態の組み合わせ例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【0078】
上述した実施形態においては、携帯端末20において受光部24と撮像部25とを別々の構成として説明したが、受光部24と撮像部25とは共用して構成しても良い。
【0079】
また、上述した実施形態においては、本発明に係る通信端末の一例として携帯端末20を例示して説明したが、他にHMD(Head Mounted Display)の様に、ユーザに簡易に装着可能な透過型ディスプレイに適用しても良い。この場合には、受光部24が設けられたHMDは、撮像部25及び映像処理部26を共用することが可能であると共に、ユーザの視界範囲と受光部24の受光範囲とを共用することができる。これにより、上述した実施形態の様に、携帯端末20において受光部24及び輝度センサを用いた可視光光線VSの到来角度(所定角θ)の判定処理に必要な処理を低減することができる。
【産業上の利用可能性】
【0080】
本発明は、マーカ型の表示形態において、マーカを基に表示対象のデータを取得して、表示対象のデータを高速且つ簡易に表示画面に表示する通信端末、通信方法、マーカ装置及び通信システムとして有用である。
【符号の説明】
【0081】
1 通信システム
10 ARマーカ
11、21 制御部
12 メモリ部
13 可視光データ発光制御部
14 発光部
15、29 アンテナ
16 データ受信部
20 携帯端末
22 操作部
23 可視光データ受光制御部
24 受光部
25 撮像部
26 映像処理部
27 表示制御部
28 表示部
30 データ送信部
31 RAM
32 ROM
PW10、PW20 電源
VS 可視光信号
WS 無線信号

【特許請求の範囲】
【請求項1】
光源としてのマーカ装置と光通信する通信端末であって、
情報若しくはデータを表示する表示部と、
前記マーカ装置から発光された光信号を受光する受光部と、
前記受光部により受光された前記光信号を、前記マーカ装置に対応するデータが変調された変調信号に変換する受光制御部と、
前記通信端末の周囲の映像を取得する撮像部と、
前記撮像部により取得された前記映像を前記表示部に表示させる表示制御部と、
前記受光制御部により変換された前記変調信号を復調して前記マーカ装置に対応するデータを取得する制御部と、を備え、
前記制御部は、前記表示制御部により前記表示部に表示された前記映像の表示画面の所定位置に、前記マーカ装置に対応するデータを表示するように前記表示制御部に指示する通信端末。
【請求項2】
請求項1に記載の通信端末であって、
前記光通信は、可視光通信であり、
前記受光部は、前記マーカ装置から発光された可視光信号を受光する通信端末。
【請求項3】
請求項1又は2に記載の通信端末であって、
前記マーカ装置に対応する新たなデータへの更新指示を受け付ける操作部と、
前記操作部により受け付けられた前記更新指示を基に、更新対象である前記マーカ装置に対応する新たなデータを前記マーカ装置に送信するデータ送信部と、を更に備える通信端末。
【請求項4】
光源としてのマーカ装置と光通信する通信端末における通信方法であって、
前記マーカ装置から発光された光信号を受光するステップと、
前記受光された前記光信号を、前記マーカ装置に対応するデータが変調された変調信号に変換するステップと、
前記通信端末の周囲の映像を取得するステップと、
前記取得された前記映像を表示部に表示させるステップと、
前記変換された前記変調信号を復調して前記マーカ装置に対応するデータを取得するステップと、
前記表示部に表示された前記映像の表示画面の所定位置に、前記取得された前記マーカ装置に対応するデータを表示するように指示するステップと、を備える通信方法。
【請求項5】
通信端末と光通信する光源としてのマーカ装置であって、
前記マーカ装置に対応するデータを保存するメモリ部と、
前記メモリ部に保存されている前記マーカ装置に対応するデータを変調する制御部と、
前記制御部により変調された前記マーカ装置に対応するデータを前記光通信における光信号に変換する発光制御部と、
前記発光制御部により変換された光信号を用いて発光する発光部と、を備えるマーカ装置。
【請求項6】
光源としてのマーカ装置と前記マーカ装置と光通信する通信端末とを含む通信システムであって、
前記マーカ装置は、
前記マーカ装置に対応するデータを保存するメモリ部と、
前記メモリ部に保存されている前記マーカ装置に対応するデータを変調する制御部と、
前記制御部により変調された前記マーカ装置に対応するデータを前記光通信における光信号に変換する発光制御部と、
前記発光制御部により変換された光信号を用いて発光する発光部と、を備え、
前記通信端末は、
情報若しくはデータを表示する表示部と、
前記マーカ装置から発光された光信号を受光する受光部と、
前記受光部により受光された前記光信号を、前記マーカ装置に対応するデータが変調された変調信号に変換する受光制御部と、
前記通信端末の周囲の映像を取得する撮像部と、
前記撮像部により取得された前記映像を前記表示部に表示させる表示制御部と、
前記受光制御部により変換された前記変調信号を復調して前記マーカ装置に対応するデータを取得する制御部と、を備え、
前記制御部は、前記表示制御部により前記表示部に表示された前記映像の表示画面の所定位置に、前記マーカ装置に対応するデータを表示するように前記表示制御部に指示する通信システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2013−42221(P2013−42221A)
【公開日】平成25年2月28日(2013.2.28)
【国際特許分類】
【出願番号】特願2011−176118(P2011−176118)
【出願日】平成23年8月11日(2011.8.11)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】