拡張現実(AR)を提供するユーザ装置及び方法
【課題】拡張現実(AR)サービスを提供するユーザ装置及び方法を提供する。
【解決手段】
ARサービスを提供するユーザ装置は、ターゲットオブジェクトの画像をキャプチャする撮影部と、ターゲットオブジェクトのキャプチャした画像のコンテキスト情報を収集する情報収集部と、コンテキスト情報に対応する第1の方向のARタグを生成するタグ生成部と、ターゲットオブジェクトの画像及びARタグを表示する表示部とを備える。ARサービスを提供する方法は、カメラでターゲットオブジェクトの画像をキャプチャすることと、ターゲットオブジェクトのキャプチャした画像の位置情報及びターゲットオブジェクトとカメラ間の第1の方位角情報を含むコンテキスト情報を収集することと、コンテキスト情報に対応するARタグを生成することと、ターゲットオブジェクトのキャプチャした画像及び生成したARタグを表示することとを含む。
【解決手段】
ARサービスを提供するユーザ装置は、ターゲットオブジェクトの画像をキャプチャする撮影部と、ターゲットオブジェクトのキャプチャした画像のコンテキスト情報を収集する情報収集部と、コンテキスト情報に対応する第1の方向のARタグを生成するタグ生成部と、ターゲットオブジェクトの画像及びARタグを表示する表示部とを備える。ARサービスを提供する方法は、カメラでターゲットオブジェクトの画像をキャプチャすることと、ターゲットオブジェクトのキャプチャした画像の位置情報及びターゲットオブジェクトとカメラ間の第1の方位角情報を含むコンテキスト情報を収集することと、コンテキスト情報に対応するARタグを生成することと、ターゲットオブジェクトのキャプチャした画像及び生成したARタグを表示することとを含む。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、拡張現実(AR)サービスを提供するユーザ装置及び方法に関し、特にユーザが方位角に基づいてARタグ情報を生成し得るサービスを提供するユーザ装置及び方法に関する。
【背景技術】
【0002】
拡張現実(AR)とは、仮想現実技術の一分野であり、現実世界環境の画像を仮想オブジェクトまたは仮想情報と組み合わせるコンピュータグラフィックス技術である。AR技術は、仮想空間に仮想オブジェクトを提供する一般的な仮想現実技術とは異なり、現実世界環境を仮想オブジェクトまたは情報と組み合わせることにより、現実世界環境で得ることが困難であり得る補足的な情報を追加する。AR技術は現実世界環境の画像内で識別されたオブジェクトにフィルタをかけて、ユーザが求める対象仮想オブジェクトまたは仮想情報を現実環境から取り出すことができる。
【発明の概要】
【発明が解決しようとする課題】
【0003】
しかし、従来のARサービスでは提供できる情報量に限界があった。概して従来のARサービスは、オブジェクトのグローバルポジショニングシステム(GPS)情報を用いたAR技術により基本情報を提供し得るものである。すなわち、従来のARサービスは、オブジェクトを見ているユーザの位置が変化しても同一の情報を提供し得るものであった。
【課題を解決するための手段】
【0004】
本発明の例示的実施形態は、ユーザが見ているオブジェクトに向かう方向の方位角(azimuth)に基づいてARタグを生成することができる拡張現実(AR)サービスを提供するユーザ装置及び方法を提供する。
【0005】
本発明のさらなる特徴を以下に説明する。特徴の一部は以下の記載から明らかであるか、あるいは本発明を実施することにより学習し得る。
【0006】
本発明の例示的実施形態は、ARサービスを提供するユーザ装置であって、ターゲットオブジェクトの画像をキャプチャする撮影部と、前記撮影部の位置情報及び前記ターゲットオブジェクトと前記撮影部間の第1の方位角情報を含む、前記ターゲットオブジェクトの前記キャプチャした画像のコンテキスト情報を収集する情報収集部と、第1の方向のARタグであって前記コンテキスト情報に対応するARタグを生成するタグ生成部と、前記ターゲットオブジェクトの前記画像及び前記ARタグを表示する表示部とを備えることを特徴とするユーザ装置を提供する。
【0007】
本発明の例示的実施形態は、ARサービスを提供するユーザ装置であって、ターゲットオブジェクトの画像をキャプチャする撮影部と、前記撮影部の位置情報及び前記ターゲットオブジェクトの画像データを含む、前記ターゲットオブジェクトの前記キャプチャした画像のコンテキスト情報を収集する情報収集部と、前記収集したコンテキスト情報をAR管理サーバに送信し、前記AR管理サーバから前記ターゲットオブジェクトのAR情報を受信する通信部であって、前記AR管理サーバは、前記キャプチャした画像の方位角情報に基づいて前記ターゲットオブジェクトの前記AR情報を格納している、通信部と、前記ターゲットオブジェクトと前記撮影部間の第1の方位角に対応するAR情報を用いてARタグを生成するタグ生成部と、前記ターゲットオブジェクトの前記キャプチャした画像及び前記生成したARタグを表示する表示部とを備えることを特徴とするユーザ装置を提供する。
【0008】
本発明の例示的実施形態は、ARサービスを提供する方法であって、カメラを用いてターゲットオブジェクトの画像をキャプチャすることと、前記ターゲットオブジェクトの前記キャプチャした画像の位置情報及び前記ターゲットオブジェクトと前記カメラ間の第1の方位角情報を含むコンテキスト情報を収集することと、前記コンテキスト情報に対応するARタグを生成することと、前記ターゲットオブジェクトの前記キャプチャした画像及び前記生成したARタグを表示することとを含むことを特徴とする方法を提供する。
【0009】
本発明の例示的実施形態は、ARサービスを提供する方法であって、ターゲットオブジェクトの画像をキャプチャすることと、前記ターゲットオブジェクトをキャプチャするカメラの位置情報であって端末(terminal)からの位置情報、及び前記画像から得られた前記ターゲットオブジェクトの画像データを含むコンテキスト情報(contextual information)を収集することと、前記収集したコンテキスト情報をAR管理サーバに送信して前記ターゲットオブジェクトのAR情報を第1の方位角用に格納することと、前記ターゲットオブジェクトの前記AR情報を前記AR管理サーバから受信することと、前記ターゲットオブジェクトとカメラ間の前記第1の方位角に対応する前記AR情報を用いてARタグを生成することと、前記ターゲットオブジェクトの前記キャプチャした画像及び前記ARタグを表示することとを含むARサービスを提供する方法を提供する。
【0010】
上記の概説及び以下の詳細な説明は一例であり本発明を説明するものであり、請求の範囲に記載する本発明をさらに説明するためのものであることを理解されたい。他の特徴及び局面は以下の詳細な説明、図面及び請求の範囲から明らかとなる。
【0011】
添付の図面は本発明のさらなる理解のために含めており、本明細書に組み込まれて本明細書の一部を成す。添付の図面は本発明の実施形態を示しており、本明細書の記載と共に本発明の原理を説明する一助となる。
【図面の簡単な説明】
【0012】
【図1】図1は、本発明の例示的実施形態による、拡張現実(AR)サービスを提供する第1のユーザ装置を示すブロック図である。
【図2】図2は、本発明の例示的実施形態による、ARサービスを提供する第2のユーザ装置を示すブロック図である。
【図3】図3は、本発明の例示的実施形態による第2の情報収集部及び第2の情報分析部を示すブロック図である。
【図4A】図4Aは、本発明の例示的実施形態による第2の表示部上に表示されたARタグを示す図である。
【図4B】図4Bは、本発明の例示的実施形態による第2の表示部上に表示されたARタグを示す図である。
【図4C】図4Cは、本発明の例示的実施形態による第2の表示部上に表示されたARタグを示す図である。
【図5】図5は、本発明の例示的実施形態による、ARタグにタッチすることによりAR情報を表示する方法を示す図である。
【図6】図6は、本発明の例示的実施形態による、第2のユーザ装置を移動させることによりARタグのAR情報を表示する方法を示す図である。
【図7】図7は、本発明の例示的実施形態によるAR管理サーバのブロック図である。
【図8】図8は、本発明の例示的実施形態による、ARサービスを提供する第3のユーザ装置のブロック図である。
【図9】図9は、本発明の例示的実施形態による、ARサービスを提供する第4のユーザ装置のブロック図である。
【図10】図10は、本発明の例示的実施形態によるユーザ装置においてARサービスを提供する方法を示すフローチャートである。
【図11】図11は、本発明の例示的実施形態によるユーザ装置においてARサービスを提供する方法を示すフローチャートである。
【発明を実施するための形態】
【0013】
以下、添付の図面を参照して本発明をより詳細に述べる。図面には本発明の実施形態を示す。しかし本発明は多くの異なる形態で実施可能であり、本発明に述べる実施形態に限定されると解釈すべきではない。むしろこれらの実施形態は、本開示が本発明の詳細な記載であり、当業者に対して本発明の範囲を十分に示すために提供される。本開示の目的のために、「〜のうち少なくとも一つ」は、それに続いて列挙する要素のいずれの組み合わせをも含み、列挙した要素のうち複数の要素の組み合わせをも含むと解釈されることを理解されたい。例えば、「X、Y及びZのうち少なくとも一つ」は、Xのみ、Yのみ、Zのみ、またはX、Y及びZのうちの2つ以上の組み合わせ(例:XYZ、XZ、YZ)を意味すると解釈されたい。図面及び詳細な説明の全体において、特にことわりがない限り、図中の同一の参照符号は同一の要素、特徴及び構造を示すと理解されたい。これらの要素の相対的サイズ及び描写は、明瞭性のため、例示のため、及び便宜上、誇張することがある。
【0014】
さらに、ある要素が別の要素に「接続」されていると述べた場合、直接接続されている場合もあれば、介在する要素が存在する場合もあることを理解されたい。逆にある要素が別の要素に「直接接続」されていると述べた場合、介在する要素は存在しない。
【0015】
図1は、本発明の例示的実施形態による、拡張現実(AR)サービスを提供する第1のユーザ装置100を示すブロック図である。
【0016】
図1を参照すると、第1のユーザ装置100は、スマートフォン、携帯電話、ラップトップコンピュータ、タブレット型コンピュータなどの持ち運び可能な装置であってもよい。図1に示すように、第1の装置100は、第1の撮影部110と、第1の情報収集部120と、第1のタグ生成部130と、第1の表示部140とを含む。
【0017】
第1の撮影部110は、ターゲットオブジェクトの画像を撮影またはキャプチャし得、例えば、埋め込み型カメラまたは外部カメラであってもよい。得られた画像は、第1の撮影部110または別体の画像プロセッサによって処理されて表示可能な信号になり得る。
【0018】
第1の情報収集部120は、第1のユーザ装置100の現在位置に関する情報、第1の撮影部110が撮影またはキャプチャしたターゲットオブジェクトの位置情報、第1の撮影部110が現在見ている方向に関する方向情報、及び第1のユーザ装置100とターゲットオブジェクト間の方位角情報を含むコンテキスト情報を収集し得る。さらに、上記位置情報、方向情報及び方位角情報などは、キャプチャした画像、ユーザ装置または他のソースと連動したデータから収集し得る。方位角情報は、第1のユーザ装置100とターゲットオブジェクト間の方位角を示す数値を含み得る。一例では、方位角は水平線から測定した角度を参照し得る。すなわち、方位角情報は、ユーザ装置100上の参照点からターゲットオブジェクトまでの角度であって水平線に対して測定した角度を含み得る。ユーザ装置100上の参照点は、上部点、エッジまたは表面、あるいは下部点、エッジまたは表面として定義してもよいし、撮影部100の焦点レンズから定義してもよい。
【0019】
第1のタグ生成部130は、第1の情報収集部120が収集したコンテキスト情報に対応するARタグを生成し得る。上記したように、コンテキスト情報は、位置情報、方向情報及び方位角情報を含み得る。ARタグは、ターゲットオブジェクトのAR情報を表示する窓という形態または形状で生成し得る。従ってARタグはターゲットオブジェクトを撮影またはキャプチャするために用いた方位角に基づいて生成し得る。ターゲットオブジェクトのAR情報は、1以上のコンテキスト情報用に、第1のユーザ装置100内に格納してもよいし、AR管理サーバ(図示せず)内に格納してもよい。
【0020】
第1の表示部140は、生成したARタグを、ターゲットオブジェクト上に重なるように表示する。
【0021】
図2は、本発明の例示的実施形態による、ARサービスを提供する第2のユーザ装置200を示すブロック図である。図3は、本発明の例示的実施形態による、第2の情報収集部及び第2の情報分析部を示す詳細なブロック図である。
【0022】
図2に示すように、第2のユーザ装置200は、第2のユーザインターフェース(UI)部210と、第2のストレージ部220と、第2の撮影部230と、第2の画像処理部240と、第2の情報収集部250と、第2の情報分析部260と、第2の通信処理部270と、第2の通信部275と、第2のタグ生成部280と、第2の制御部290とを含む。
【0023】
第2のUI部210は、ユーザ装置200とインターフェースする能力をユーザに提供し得、第2のユーザ入力部211と第2の表示部213とを含み得る。
【0024】
第2のユーザ入力部211は、ユーザのコマンド入力を受信する操作パネルであってもよく、様々なインターフェースを含み得る。例えばインターフェースは、ターゲットオブジェクトを撮影またはキャプチャするボタン、方向キー及びタッチパネルなどを含み得る。特にユーザは、第2のユーザ入力部211を操作することにより、方位角に基づくARタグの表示を要求することができる。またユーザが第2の表示部213上に表示されたARタグにタッチすると、第2のユーザ入力部211はユーザのタッチの方向を感知し得る。より具体的には、ユーザが第2の表示部213上に表示された複数の面を有するARタグにタッチしドラッグしてARタグの異なる面が見えるように回転させると、第2のユーザ入力部211はそのタッチ及びドラッグの動作を感知し得る。
【0025】
第2の撮影部230から入力された画像が処理されて信号になると、第2の表示部213は処理された画像を表示し得る。ユーザ装置200がタッチによる入力方法を提供すると、第2の表示部213はタッチパネルのUIを表示し得る。
【0026】
第2のストレージ部220は、ユーザ装置200を作動させるために用いるプログラム、様々なデータ及び情報などを格納し得る。また第2のストレージ部220は、ターゲットオブジェクトのコンテキスト情報にマッピングした、ターゲットオブジェクトのAR情報を格納し得る。
【0027】
第2の撮影部230は、ターゲットオブジェクトの画像を撮影またはキャプチャして画像データを獲得し得る。一例では、第2の撮影部230は埋め込み型カメラまたは外部カメラを含む。
【0028】
第2の画像処理部240は、第2の撮影部230が得た画像を分析し得、分析結果を用いて画像を処理して表示可能な信号にし得る。一例では、第2の画像処理部240は、画像プロセッサであってもよい。
【0029】
第2の情報収集部250は、ユーザ装置200の位置、チルト位置及び方位角に関連する情報を含むコンテキスト情報を収集し得、これらの情報は、キャプチャした画像、ユーザ装置または他のソースと連動したデータから収集し得る。図3を参照すると、第2の情報収集部250は、位置情報収集部251と、方位角情報収集部253と、チルト情報収集部255とを含み得る。
【0030】
位置情報収集部251は、ユーザ装置200の現在位置に関する位置情報及び第2の撮影部230が現在見ているターゲットオブジェクトに向かう方向に関する方向情報を収集し得る。また位置情報収集部251は、ターゲットオブジェクトの現在位置情報をさらに収集し得る。一例では、位置情報収集部251は、グローバルポジショニングシステム(GPS)及び位置情報サービス(LBS)などを用いて現在位置を感知し収集し得る。さらに位置情報収集部251は、デジタルコンパスを用いて方向をも感知し収集し得る。位置情報収集部251が収集した位置情報及び方向情報は、位置分析部261に提供し得る。
【0031】
方位角情報収集部253は、ユーザ装置200とターゲットオブジェクト間の方位角に関する方位角情報を収集し得る。方位角情報収集部253が収集した方位角情報は、方位角分析部263に提供し得る。
【0032】
チルト情報収集部255は、ユーザ装置200のチルトに関するチルト情報を収集し得る。チルト情報は、ユーザ装置200のチルト位置に関する情報であってもよい。ユーザ装置200は、ターゲットオブジェクトを撮影またはキャプチャする前にユーザの操作によって様々な方向に頻繁にチルトしてもよい。一例では、チルト情報収集部255は、例えば3軸ジャイロスコープセンサと3軸(x、y、z)加速度センサとを含む6軸動作センサを用いてチルト情報を感知し収集し得る。チルト情報収集部255が収集したチルト情報は、チルト分析部265に提供し得る。チルト情報は必要に応じて収集してもよい。
【0033】
第2の情報分析部260は、第2の情報収集部250が収集した情報を、処理可能信号を用いて分析し得る。図3を参照すると、第2の情報分析部260は、位置分析部261と、方位角分析部263と、チルト分析部265とを含み得る。
【0034】
位置分析部261は、位置情報収集部251が収集した位置情報及び方向情報を、処理可能信号を用いて分析し得る。
【0035】
方位角分析部263は、方位角情報収集部253が収集した方位角情報を、処理可能信号を用いて分析し得る。
【0036】
チルト分析部265は、チルト情報収集部255が収集したチルト情報を、処理可能信号を用いて分析し得る。
【0037】
図2を参照すると、第2の通信処理部270は、ターゲットオブジェクトの分析したコンテキスト情報及び画像データを、第2の制御部290による送信プロトコルに基づくデータに変換し得る。
【0038】
第2の通信部275は、第2の通信処理部270から入力されたデータを、通信ネットワーク10を介してAR管理サーバ700に送信し得る。また第2の通信部275は、コンテキスト情報に対応するAR情報をAR管理サーバ700から受信し得る。AR管理サーバ700は、様々な異なるコンテキスト情報に対応するAR情報を格納し得る。AR管理サーバ700については、図7を参照して後述する。
【0039】
第2の通信処理部270は、受信したAR情報を第2のユーザ装置200で利用可能なデータに変換し得る。
【0040】
第2のタグ生成部280は、第2の情報収集部250が収集したコンテキスト情報に対応するARタグを生成し得る。より具体的には、ARタグは、第2の通信処理部270が変換したAR情報を用いて生成される。ARタグは、ターゲットオブジェクトのAR情報を表示する窓の形態で生成し得る。第2のタグ生成部280は、ターゲットオブジェクトのAR情報及びコンテキスト情報の両方を表示するARタグを生成し得る。
【0041】
また第2のタグ生成部280は、ターゲットオブジェクトの輪郭に沿った1以上の面を有するARタグを生成し得る。ターゲットオブジェクトと第2の撮影部230間の方位角に基づくAR情報が、ARタグの1以上の面上に表示され得る。例えば、ターゲットオブジェクトが建物であれば、第2のタグ生成部280は三次元立方体のARタグを生成し得るし、ターゲットオブジェクトが球であれば、第2のタグ生成部280は球状のARタグを生成し得る。
【0042】
第2の表示部213は、第2のタグ生成部280が生成したARタグを表示し得る。
【0043】
第2の制御部290は、第2のユーザ装置200の動作を制御し得る。特に第2の制御部290は、オブジェクトの分析したコンテキスト情報及び画像データをAR管理サーバ700に送信することにより、AR管理部700に対して、コンテキスト情報に対応するターゲットオブジェクトのAR情報を提供するように要求し得る。
【0044】
第2の制御部290は、AR管理部700に対してAR情報の提供を要求する前に、コンテキスト情報に対応するAR情報が第2のストレージ部220に格納されているか否かをチェックしてもよい。コンテキスト情報に対応するAR情報が第2のストレージ部220に格納されていれば、第2の制御部290は第2のタグ生成部280を制御して、第2のストレージ部220に格納されているAR情報を用いてARタグを生成させ得る。コンテキスト情報に対応するAR情報が第2のストレージ部220に格納されていなければ、第2の制御部290はAR管理サーバ700に対してAR情報を送信するように要求し得る。
【0045】
図4A、図4B及び図4Cは、本発明の例示的実施形態による第2の表示部上に表示されたARタグを示す図である。
【0046】
図4Aを参照すると、ユーザが、ユーザ装置200の第2の撮影部230を用いてターゲットオブジェクト「南大門(Namdaemun)」を撮影またはキャプチャした場合、第2の表示部213はターゲットオブジェクト「南大門」を表示し得る。ユーザ装置200が現在位置における「南大門」のARタグを表示するようにというユーザからの要求を受信すると、第2の情報収集部250は、現在位置に関する位置情報、方向情報、方位角情報及びチルト情報を含むコンテキスト情報を収集し得る。第2の情報分析部260は、収集されたコンテキスト情報を分析し得、第2のタグ生成部280は、コンテキスト情報に対応するAR情報を用いてARタグ213aを生成し得る。コンテキスト情報に対応するAR情報は、第2のストレージ部220に格納されているものでもよいし、AR管理サーバ700から提供されたものでもよい。
【0047】
ユーザが、「南大門」の裏門を見ることができる位置に移動してからARタグを表示するように要求した場合、第2のタグ生成部280は、移動先の位置のコンテキスト情報に対応するAR情報を用いてARタグ213bを生成し得る。すなわち、同一のターゲットオブジェクトのARタグであって、異なる方位角に基づく異なるARタグが生成され表示され得る。
【0048】
図4Bを参照すると、ターゲットオブジェクト「南大門」は建物であるため、第2のタグ生成部280はさらに、6面を有する立方体ARタグ213cを生成し得る。ARタグ213cの各面上に同一または異なるAR情報が表示され得る。異なるAR情報が表示されると、第2のユーザ装置200は、1以上の方位角に対応するAR情報をAR管理サーバ700から受信し得る。従ってユーザは、異なる方位角で生成されたターゲットオブジェクトのAR情報をARタグ213cを用いてチェックすることができる。
【0049】
図4Cを参照すると、第2のタグ生成部280は、ユーザの現在位置におけるターゲットオブジェクトの右側面に対応するARタグ214dを生成し得る。より具体的には、ユーザの現在位置からは、ターゲットオブジェクトの右側面は見えないか、または部分的にしか見えないため、ARタグ214dは角度をもって表示され得、一例ではユーザは、ユーザが見ることができる方位角範囲を設定またはプリセット(preset)することができ、第2のタグ生成部280は、設定された範囲内の方位角に対応するARタグを生成し得る。図4Cでは、ユーザは方位角範囲を例えば360度と設定することができるため、ターゲットオブジェクトの右側面に対応するARタグ214dが表示され得る。
【0050】
図5は、本発明の例示的実施形態による、ARタグにタッチすることによりAR情報を表示する方法を示す図である。
【0051】
図5を参照すると、第2のタグ生成部280は、複数の面を有する立方体形状の立方体ARタグ500を生成し得る。第2のタグ生成部280は、ターゲットオブジェクトに向かう方向の方位角によって、異なるAR情報をARタグ500の1以上の面上に表示し得る。第2のユーザ装置200の現在位置とターゲットオブジェクト間の方位角に対応するAR情報は、ARタグ500の第1の面510上に表示し得る。表示されるARタグ500を表示し、さらに上方向、下方向、左方向及び右方向を含む様々な方向に回転させて表示することができる。
【0052】
例えば、ユーザが、表示されている第2の面520にタッチするか、あるいはARタグ500にタッチして左方向に回転させた場合、第2のユーザ入力部211は、タッチされた面520及び/またはユーザのタッチの方向をそれぞれ感知し得る。第2のタグ生成部280は、ARタグ500をタッチによって選択されたいずれかの面まで回転させるか、及び/またはARタグ500をユーザが入力したタッチ方向に応じて回転させることによって、ターゲットオブジェクトの第2の方位角に対応するAR情報を正面方向に表示可能とし得る。一例では、ARタグ500は、図5に示すように感知されたタッチ面に応じて回転し得るか、及び/または、ARタグ500をタッチ及びドラッグして上記タッチ方向に回転させることにより回転し得、それによってユーザは面520を正面から見ることができる。またユーザがサブビューを要求した場合、第2のタグ生成部280はサブビューを生成し得、ARタグ500の現在表示されているAR情報の方位角及び/または方向が、サブビュー内で上記情報を示すコンパス矢印を用いてチェックできるようにし得る。すなわち、サブビューのコンパス矢印は方位角及び/または方向を示し得る。
【0053】
図6は、本発明の例示的実施形態による、第2のユーザ装置200を移動させることによりARタグのAR情報を表示する方法を示す図である。
【0054】
図6を参照すると、第2のタグ生成部280は、ターゲットオブジェクトのARタグを、複数の面を有する立方体ARタグ600として生成し得る。ARタグ600の移動が困難または望ましくなく、ターゲットオブジェクトを撮影またはキャプチャしている第2のユーザ装置200が任意の方向に回転した場合、第2のタグ生成部280は、ターゲットオブジェクトに対して回転した方向に見えるターゲットオブジェクトに向かう方向の方位角に対応するARタグを生成し得る。例えば、第2のユーザ装置200が右方向に回転するか、またはARタグ600の第1の面が正面方向に表示された後でユーザが身体を右方向に回転させた場合、第2のタグ生成部280は、ARタグ600の右側面610すなわち第2の面に対応するAR情報が正面方向に表示できるようにし得る。従って第2のタグ生成部280は、ARタグ600を上方向、下方向、左方向及び右方向に直接回転させることにより、ユーザが求めるターゲット画像を提供し得る。
【0055】
図7は、本発明の例示的実施形態によるAR管理サーバ700のブロック図である。
【0056】
図7を参照すると、AR管理サーバ700は、1以上のユーザ装置が生成したARタグ情報をコンテキスト情報と共に格納し管理し得る。図7を参照すると、AR管理サーバ700は、データベース(DB)710と、サーバ通信部720と、送信/受信処理部730と、情報処理部740と、サーバ制御部750とを含み得る。
【0057】
DB710は、1以上のコンテキスト情報にマッピングされたターゲットオブジェクトのAR情報を格納し管理し得る。従って同一のターゲットオブジェクトのAR情報が、ターゲットオブジェクトの撮影またはキャプチャによって収集された1以上のコンテキスト情報用に格納し管理され得る。上記したようにコンテキスト情報は、ターゲットオブジェクトを撮影またはキャプチャするために用いた位置及び方向に関する情報、並びにターゲットオブジェクトの位置情報、方位角情報及びチルト情報を含み得る。一例では、DB710に格納されたコンテキスト情報のうち、方位角情報は参照範囲として格納し得る。例えば、格納されているAR情報が方位角200度に対応する情報であれば、200°±α(αは誤差)がAR情報に対応する方位角情報としてDB710に格納され得る。方位角範囲はユーザまたはオペレータが手動で設定してもよいし、サーバ制御部750が自動的に設定してもよい。DB710に格納されたAR情報は1以上のユーザ装置によって共有し得る。
【0058】
サーバ通信部720は、第2のユーザ装置200を含む1以上のユーザ装置と通信ネットワークを介して通信し得る。以下、第2のユーザ装置200を例として説明する。サーバ通信部720は、AR情報の提供を要求する信号を受信し得、コンテキスト情報を第2のユーザ装置200から受信し得る。サーバ通信部720はさらに、ターゲットオブジェクトの画像データを受信し得る。
【0059】
送信/受信処理部730は、受信したAR情報及び受信したコンテキスト情報が利用可能か否かを判定し得る。より具体的には、送信/受信処理部730は、AR情報及びコンテキスト情報を受信した際にエラーが起こったか否か、または受信したAR情報及びコンテキスト情報が不適切な情報を含んでいるか否かを判定し得る。AR情報及びコンテキスト情報が利用可能であれば、送信/受信処理部730は、信号及びコンテキスト情報を情報処理部740に提供し得る。
【0060】
情報処理部740は、DB710を検索してコンテキスト情報のうち位置情報に対応するAR情報を探す。情報処理部740は、検索情報生成部741と情報検索部743とを含み得る。
【0061】
検索情報生成部741は、DB710へのクエリに対する検索情報を設定し得る。検索情報は、受信したコンテキスト情報のうち位置情報に対応するAR情報がDB710に格納されているか否かに関する検索に関して用い得る。検索情報生成部741は、送信/受信処理部730から入力されたコンテキスト情報を処理することにより検索情報を設定し得、ヘッダタイプ(type of a header)に検索情報を生成し得る。一例では、検索情報は第2のユーザ装置200の位置情報であってもよい。
【0062】
情報検索部741は、検索情報を用いてDB710を検索し得、位置情報に対応するAR情報を抽出し得る。
【0063】
サーバ制御部750は、コンテキスト情報の方位角情報に対応するAR情報をチェックし得る。サーバ制御部750は、送信/受信処理部730及びサーバ通信部720を制御して、方位角情報に対応するAR情報を第2のユーザ装置200に提供させ得る。抽出されたAR情報に対応する方位角情報が方位角範囲として格納されていれば、サーバ制御部750は、コンテキスト情報の方位角情報に最も近い方位角範囲に対応するAR情報を提供し得る。
【0064】
またサーバ制御部750は、方位角情報に対応するAR情報を用いてARタグを構築し得、ARタグ構築データを第2のユーザ装置200に提供し得る。方位角情報以外のコンテキスト情報を第2のユーザ装置200から受信すると、サーバ制御部750は、基本的ARタグを構築し得、ARタグ構築データを第2のユーザ装置200に提供し得る。
【0065】
送信/受信処理部730は、方位角情報に対応するAR情報を送信プロトコルに基づくデータに変換し得る。サーバ通信部720は、変換されたAR情報を第2のユーザ装置200に送信し得る。
【0066】
第2のユーザ装置200は、AR情報を受信した後、撮影またはキャプチャ中のターゲットオブジェクトのAR情報を処理してARタグを生成し得、ARタグを第2の表示部213上に表示し得る。
【0067】
図8は、本発明の例示的実施形態による、ARサービスを提供する第3のユーザ装置800のブロック図である。
【0068】
図8を参照すると、第3のユーザ装置800は、第3の撮影部810と、第3の情報収集部820と、第3のタグ生成部830と、第3の通信部840と、第3の表示部850とを含み得る。図8の第3の撮影部810、第3の情報収集部820、第3のタグ生成部830及び第3の表示部850は、図1の第1の撮影部110、第1の情報収集部120、第1のタグ生成部130及び第1の表示部140とそれぞれ似ており、従ってここでは、これらの詳細な説明は省略する。
【0069】
第3の通信部840は、位置情報、方向情報及び方位角情報を含むコンテキスト情報をAR管理サーバ700(図8には図示せず)に送信することにより、AR管理部700に対して、ターゲットオブジェクトのAR情報を提供するように要求し得る。より具体的には、コンテキスト情報は、第3の情報収集部820が収集した第3のユーザ装置800の現在位置、第3の撮影部810が撮影またはキャプチャしたターゲットオブジェクトの位置情報、第3の撮影部810が見ているターゲットオブジェクトに向かう方向に関する方向情報、及び第3のユーザ装置800とターゲットオブジェクト間の方位角情報を含み得る。また第3の通信部840は、AR管理サーバ700からターゲットオブジェクトのAR情報を受信し得る。AR管理サーバ700は、方位角に基づくターゲットオブジェクトのAR情報を格納し得る。従ってAR管理サーバ700は、格納しているターゲットオブジェクトのAR情報の一部または全体を第3のユーザ装置800に送信し得る。
【0070】
第3のタグ生成部830は、受信したターゲットオブジェクトのAR情報のうちターゲットオブジェクトと第3の撮影部810間の方位角情報に対応するAR情報を用いてARタグを生成し得る。
【0071】
図9は、本発明の例示的実施形態による、ARサービスを提供する第4のユーザ装置900のブロック図である。
【0072】
図9を参照すると、第4のユーザ装置900は、第4のUI部910と、第4のストレージ部920と、第4の撮影部930と、第4の画像処理部940と、第4の情報収集部950と、第4の情報分析部960と、第4の通信処理部970と、第4の通信部975と、第4のタグ生成部980と、第4の制御部990とを含み得る。図9の第4のストレージ部920、第4の撮影部930及び第4の画像処理部940の動作は、図2の第2のストレージ部220、第2の撮影部230及び第2の画像処理部240の動作に非常に似ている。従ってここでは、これらの詳細な説明は省略する。
【0073】
第4のUI部910は、ユーザとユーザ装置900とのインターフェースを提供してユーザの入力を受信し、受信したユーザの入力に対する応答を表示し得る。さらに第4のUI部910は、第4のユーザ入力部911と第4の表示部913とを含み得る。
【0074】
第4のストレージ部920は、ユーザ装置900を作動させるために用いるプログラム、様々なデータ及び情報などを格納し得る。
【0075】
第4の撮影部930は、ターゲットオブジェクトの画像を撮影またはキャプチャしてターゲットオブジェクトの画像データを獲得し得、例えば、埋め込み型カメラまたは外部カメラであってもよい。
【0076】
第4の画像処理部940は、第4の撮影部930から得られた画像を分析し得、分析結果を用いて画像を処理して表示可能な信号にし得る。
【0077】
第4の情報収集部950は、ユーザ装置900の位置、チルト位置及び方位角に関連する情報を含むコンテキスト情報を収集し得る。一例では、方位角に基づくARタグを表示するようにという要求をユーザから受信すると、第4の情報収集部950は方位角情報を収集し得る。
【0078】
第4の情報分析部960は、第4の情報収集部950が収集した情報を、図2及び図3の第2の情報分析部260で用いたものに似た処理可能信号を用いて分析し得る。従ってここでは、これ以上の説明は省略する。
【0079】
第4の通信処理部970は、ターゲットオブジェクトの位置情報、方向情報及び画像データを、第4の制御部990の制御により、送信プロトコルに基づくデータに変換し得る。
【0080】
第4の通信部975は、第4の通信処理部970から入力されたデータを、通信ネットワーク(図9には図示せず)を介してAR管理サーバ(図9には図示せず)に送信し得る。また第4の通信部975は、AR管理サーバから、ターゲットオブジェクトの少なくとも一つのAR情報を受信し得る。AR管理サーバは、1以上のコンテキスト情報に対応するターゲットオブジェクトのAR情報を格納し得る。より具体的には、AR管理サーバは、様々な異なる方位角に対応するAR情報を格納し得る。
【0081】
第4の通信処理部970は、受信したAR情報を、第4のユーザ装置900で利用可能なデータに変換し得る。
【0082】
第4のタグ生成部980は、第4の通信処理部970が変換したAR情報を用いて、第4の情報収集部950が収集したコンテキスト情報に対応するARタグを生成し得る。ユーザが方位角に基づくARタグを表示するように要求すれば、第4のタグ生成部980は、第4の情報収集部950が収集した方位角に対応するAR情報を用いてARタグを生成し得る。生成したARタグは、図4A、図4B、図4C、図5及び図6を参照して述べたUIの画像内に表示し得る。
【0083】
第4の表示部913は、第4のタグ生成部980が生成したARタグを表示し得る。
【0084】
第4の制御部990は、第4のユーザ装置900の動作全体を制御し得る。特に第4の制御部990は、ターゲットオブジェクトの位置情報、方向情報及び画像データを含む様々な情報をAR管理サーバに送信することにより、AR管理部に対して、ターゲットオブジェクトのAR情報を提供するように要求し得る。
【0085】
第4の制御部990は、方位角に基づくAR情報を表示するようにという要求をユーザから受信すると、第4の情報収集部950を制御して方位角情報を収集させ得る。方位角情報が収集されると、第4の制御部990は、AR管理サーバから受信した1以上のAR情報のうち、第4の情報収集部950が収集した方位角に対応するAR情報を抽出し得、そのAR情報を第4のタグ生成部980に提供し得る。
【0086】
図10は、本発明の例示的実施形態によるユーザ装置においてARサービスを提供する方法を示すフローチャートである。
【0087】
図10の方法の1以上の動作は、図1の第1のユーザ装置100または図2の第2のユーザ装置200の制御部またはプロセッサによって実施され得るが、これらに限定されない。
【0088】
動作1010で、ユーザが、カメラを用いてターゲットオブジェクトの画像を撮影またはキャプチャしてターゲットオブジェクトの画像データを獲得し得る。
【0089】
動作1020で、ユーザ装置は、ターゲットオブジェクトに関連するコンテキスト情報を収集し得る。コンテキスト情報は、ターゲットオブジェクトを撮影またはキャプチャした際のユーザ装置の位置情報、ターゲットオブジェクトとカメラ間の方位角情報、及びユーザ装置のチルト情報のうち少なくとも一つを含み得る。
【0090】
動作1030で、ユーザ装置は、ARタグを表示するようにという要求をユーザから受信し得る。
【0091】
動作1040で、ユーザ装置は、コンテキスト情報に対応するAR情報がユーザ装置のメモリに格納されているか否かをチェックし得る。
【0092】
動作1040でコンテキスト情報に対応するAR情報がユーザ装置のメモリに格納されていると判定された場合、ユーザ装置は動作1050で、メモリに格納されているAR情報を用いて、収集したコンテキスト情報に対応するARタグを生成し表示し得る。従ってユーザとターゲットオブジェクト間の方位角によって異なるARタグがユーザに提供され得る。
【0093】
前記動作1040でコンテキスト情報に対応するAR情報が前もってユーザ装置のメモリに格納されていないと判定された場合、ユーザ装置は動作1060で、AR管理サーバに対して、コンテキスト情報に対応するAR情報の提供を要求し得る。AR管理サーバに対して、コンテキスト情報に対応するAR情報の提供を要求するために、ユーザ装置は動作1060で、動作1010で得たターゲットオブジェクトの画像データ及び動作1020で収集したコンテキスト情報をAR管理サーバに送信し得る。
【0094】
動作1070で、ユーザ装置は、AR管理サーバから、コンテキスト情報に対応するAR情報を含むARタグ構築データを受信し得る。
【0095】
動作1080で、ユーザ装置は、受信したAR情報を含むARタグ構築データを用いて、ARタグを生成し表示し得る。ユーザ装置は、動作1070でAR情報を受信した場合、そのAR情報を用いてARタグを生成し得る。
【0096】
図11は、本発明の例示的実施形態によるユーザ装置においてARサービスを提供する方法を示すフローチャートである。
【0097】
図11の方法の各動作は、第3のユーザ装置800または第4のユーザ装置900の制御部またはプロセッサによって実施され得る。
【0098】
動作1100で、ユーザが、カメラを用いてターゲットオブジェクトの画像を撮影またはキャプチャしてターゲットオブジェクトの画像データを獲得し得る。
【0099】
動作1120で、ユーザ装置は、ターゲットオブジェクトに関連するコンテキスト情報を収集し得る。コンテキスト情報は、ターゲットオブジェクトを撮影またはキャプチャした際のユーザ装置の位置情報、方向情報、及びチルト情報のうち少なくとも一つを含み得る。しかし本発明の局面はこれに限定されず、例えばチルト情報は省略してもよい。
【0100】
動作1130で、ユーザ装置は、ARタグを表示するようにという要求をユーザから受信し得る。
【0101】
動作1140で、ユーザ装置は、AR管理サーバに対して、収集したコンテキスト情報に対応するAR情報を提供するように要求し得る。AR管理サーバに対して、収集したコンテキスト情報に対応するAR情報の提供を要求するために、ユーザ装置は動作1160で、動作1110で得たターゲットオブジェクトの画像データ及び動作1120で収集したコンテキスト情報をAR管理サーバに送信し得る。
【0102】
動作1150で、ユーザ装置は、コンテキスト情報に対応する少なくとも一つのAR情報をAR管理サーバから受信し得る。例えば、同一のターゲットオブジェクトのAR情報であるが方位角に基づいて異なるAR情報がAR管理サーバに格納されている場合、ユーザ装置は格納されているターゲットオブジェクトのAR情報の一部または全体を受信し得る。
【0103】
ユーザ装置は、動作1160で、方位角に基づくARタグを表示するようにという要求をユーザから受信しなかった場合、動作1170で、受信した少なくとも一つのAR情報を用いてARタグを生成し表示し得る。受信したAR情報が複数であれば、ユーザ装置は高い頻度または正確さを有するAR情報を用いてARタグを生成し得る。
【0104】
ユーザ装置は、動作1160で、方位角に基づくARタグを表示するようにという要求をユーザから受信した場合、動作1180で、ターゲットオブジェクトとカメラ間の方位角情報を収集し得る。
【0105】
動作1190で、ユーザ装置は、上記少なくとも一つの収集したAR情報のうち、収集した方位角情報に対応するAR情報を抽出し得る。
【0106】
動作1195で、ユーザ装置は、抽出したAR情報を用いてARタグを生成し表示し得る。
【0107】
図10の動作1080または図11の動作1195で表示したARタグが図5のARタグであり、ユーザがARタグをタッチした方向が感知され得る場合、ユーザ装置は、ARタグをユーザがタッチしたいずれかの面まで回転させるか、または感知したタッチ方向にARタグを回転させることにより、異なる方位角に対応するターゲットオブジェクトのAR情報を正面方向に表示し得る。
【0108】
図10の動作1080または図11の動作1195で表示したARタグは図6のARタグに似ていることがあり得る。従ってユーザがユーザ装置を任意の方向に回転させた場合、ユーザ装置は、その任意の方向で見られるオブジェクトに向かう方向の方位角に対応するAR情報が正面方向に表示できるようにし得る。より具体的には、一例では、図6を参照すると、元々第1の面に対向していたユーザ装置が右方向に回転して第2の面に対向した場合、第2の面が正面方向として見られ得る。
【0109】
本発明の例示的実施形態によると、ユーザ装置及び方法は、拡張現実(AR)サービスであって、ユーザが見ているオブジェクトに向かう方向の方位角に基づいてARタグを選択的に提供することができ、それによりユーザが対象となる情報を見ることができるARサービスを提供する。
【0110】
またユーザ装置及び方法は、ARサービスであって、三次元立方体ARタグを提供することができ、受信したユーザ入力に応じてARタグを回転することができ、それによって異なる視点(view)で提供されたAR情報を含むターゲットオブジェクトの様々な異なるAR情報を、ユーザが移動して物理的に回転することなく提供することができるARサービスを提供する。
【0111】
またユーザ装置及び方法は、ARサービスであって、ユーザがユーザ装置を任意の方向に回転させて、回転方向に対応するターゲットオブジェクトのAR情報を提供することができるARサービスを提供する。
【0112】
上記した本発明の例示的実施形態によると、ユーザの位置とターゲットオブジェクト間の方位角によって様々な異なるAR情報を提供し得る。この特徴は、三次元立方体ARタグの提供に貢献し得、ここに記載した様々な応用を何らの制限なく可能にし得る。
【0113】
第1に、立方体ARタグが建物の内壁と同一方向に表示された場合、ユーザは建物の外から内部を見ることができる。6面を有するARタグの各面を建物内部の各面と合致させ、建物内部の各面をARタグの対応する面上に表示することにより、これが可能となり得る。ユーザが建物の外からユーザ装置のカメラを通して建物の1面を見た場合、ARタグの利用可能な複数の面のうちユーザの方向を向いているARタグの前面(第1の面)を透明に表示してもよい。さらにARタグの他の3面、すなわち建物の右側面、左側面、及び後面を立体的に表示してもよい。またARタグを介して表示する画像が動画カメラを用いてリアルタイムに更新される場合、建物の外から建物内部の状態をリアルタイムに認識することが可能である。
【0114】
第2に、本発明の例示的実施形態は、水平及び/または垂直の角度を含むチルト角の情報、すなわち方位角のみならずユーザ装置のチルトに関する情報も考慮しているため、様々な角度に対応するARタグをユーザに提供することができる。また高さ情報を含む場合、ARタグを水平方向の配置よりもむしろ空間的配置で表示してもよく、それにより現実的なビューを提供することができる。従ってユーザは水平方向で見られるARタグを見ることができ、さらにカメラを通してターゲットオブジェクトを見上げたり見下げたりすると、三次元の空間的配置に置かれた近傍のARタグを様々な方向及び様々な角度で見ることができる。
【0115】
第3に、ARタグはサインまたは告知物として用いてもよい。例えばユーザが立っている位置またはそれに対応する方向に基づくARタグとして想像上のサインまたは告知物が表示された場合、そのサインまたは告知物を、ユーザとは逆の方向にいる別のユーザには表示しないようにしてもよく、これにより混乱を避けることができる。一例では、停止の標識に対向しているユーザには停止の標識を示すが、停止の標識を通過した他の人々または停止の標識のある道路と交差する高速道路上を運転している他の人々には示さないようにすれば、道路標識に関する混乱を避けることができる。
【0116】
第4に、ユーザ装置はセンサを用いて、ターゲットオブジェクトとユーザ装置間の方位角をリアルタイムで表示してもよい。この特徴を用いれば、ユーザがある特定の位置でターゲットオブジェクトの画像を撮像した場合、ユーザは専門家が推薦する上記特定の位置で生成されたARタグを用いることができる。より具体的には、ユーザはカメラを配置して専門家が推薦する方位角でターゲットオブジェクトを撮影またはキャプチャすることができる。専門家が生成したARタグは、オブジェクトを撮影またはキャプチャするために用いたカメラ設定情報及び方位角情報を示してもよい。
【0117】
第5に、ユーザ装置は、上に星座が重なったARタグを提供してもよい。星座はユーザが見ている夜空に向かう方向の方位角に基づいてユーザ位置で観察される。この場合、ユーザ装置は、時間情報を追加した星座をARタグに重ねてもよい。これによりユーザはユーザの目で星座に関連する情報を見ることができる。
【0118】
第6に、例えば複数の出口を有する建物または地下鉄の場合、ユーザ装置は現在位置の方位角に基づいてARタグを表示してもよい。これによりユーザは現在位置において、正面方向に表示されている出口が表門であるのか裏門であるのかをARタグを介して認識することができる。
【0119】
第7に、ユーザが山中で道に迷った場合、ユーザ装置は現在位置から山道(trail)への方向に関する情報を提供してもよい。さらにユーザ装置はARタグを介してシェルターまたは近くの地勢に関する情報を提供してもよい。
【0120】
第8に、ユーザ装置のカメラが駐車場の方向を向いている場合、ユーザ装置はARタグを用いて車を停められる位置を表示してもよい。さらにユーザが停車した後、建物の出口または入口までユーザを案内してもよい。
【0121】
第9に、ユーザ装置は様々な形状のARタグ及び方位角によって様々なコンテンツのARタグを表示してもよい。これによりユーザはARタグ及び方位角を容易に認識することができる。
【0122】
第10に、ユーザ装置は方位角に基づいて表示されたARタグのAR情報を提供してもよく、さらに方位角とは無関係にARタグの共通の情報を提供してもよい。ユーザが地図を見れば情報が提供されるようにしてもよい。
【0123】
第11に、方位角に基づくARタグの特徴を用いて単一の面を表示した場合、様々なタグを天体または惑星上で生成してもよい。他の惑星も地球も軌道上を移動し軸回りに回転しているため、表示される面は時間とともに変化し得る。この場合、ユーザは所望の面にタグを設定することができる。
【0124】
第12に、ユーザ装置は方位角によって様々な面、例えば建物の床、天井及び屋根などにARタグを表示してもよい。これは壁面及び大きな建物のフロアマップ用の情報として有用であり得る。
【0125】
本発明による例示的実施形態は、プログラム命令を含む、一時的でなくコンピュータ読み取り可能な媒体に記録され得、コンピュータによって実施される様々な動作を実行する。媒体はさらに、単一またはプログラム命令と組み合わされた形態で、データファイル及びデータ構造などを含み得る。媒体及びプログラム命令は、本発明の目的のために特別に設計され構築されたものであってもよいし、コンピュータソフトウェアの分野の当業者に周知で利用可能な種類のものであってもよい。一時的でなくコンピュータ読み取り可能な媒体の例は、ハードディスク、フロッピーディスク(登録商標)、磁気テープなどの磁気媒体、CD ROMディスク及びDVDなどの光媒体、光ディスクなどの光磁気媒体、ならびにリードオンリーメモリ(ROM)、ランダムアクセスメモリ(RAM)及びフラッシュメモリなどの、プログラム命令を格納し実行するために特に構築されたハードウェアデバイスを含む。プログラム命令の例は、コンパイラによって生成されるマシンコードと、インタープリタを用いてコンピュータによって実行され得る高レベルコードを含むファイルとの両方を含む。上記のハードウェアデバイスは、本発明の上記実施形態の動作を実施するために1以上のソフトウェアモジュールとして作用するように構築され得る。
【0126】
本発明は、その精神又は範囲から逸脱することなく、様々な改変及び変形が可能であることは当業者には明らかである。従って、本発明は、添付の特許請求の範囲及びその均等物の範囲内に含まれる発明の改変及び変形をカバーすることを意図する。
【技術分野】
【0001】
本発明は、拡張現実(AR)サービスを提供するユーザ装置及び方法に関し、特にユーザが方位角に基づいてARタグ情報を生成し得るサービスを提供するユーザ装置及び方法に関する。
【背景技術】
【0002】
拡張現実(AR)とは、仮想現実技術の一分野であり、現実世界環境の画像を仮想オブジェクトまたは仮想情報と組み合わせるコンピュータグラフィックス技術である。AR技術は、仮想空間に仮想オブジェクトを提供する一般的な仮想現実技術とは異なり、現実世界環境を仮想オブジェクトまたは情報と組み合わせることにより、現実世界環境で得ることが困難であり得る補足的な情報を追加する。AR技術は現実世界環境の画像内で識別されたオブジェクトにフィルタをかけて、ユーザが求める対象仮想オブジェクトまたは仮想情報を現実環境から取り出すことができる。
【発明の概要】
【発明が解決しようとする課題】
【0003】
しかし、従来のARサービスでは提供できる情報量に限界があった。概して従来のARサービスは、オブジェクトのグローバルポジショニングシステム(GPS)情報を用いたAR技術により基本情報を提供し得るものである。すなわち、従来のARサービスは、オブジェクトを見ているユーザの位置が変化しても同一の情報を提供し得るものであった。
【課題を解決するための手段】
【0004】
本発明の例示的実施形態は、ユーザが見ているオブジェクトに向かう方向の方位角(azimuth)に基づいてARタグを生成することができる拡張現実(AR)サービスを提供するユーザ装置及び方法を提供する。
【0005】
本発明のさらなる特徴を以下に説明する。特徴の一部は以下の記載から明らかであるか、あるいは本発明を実施することにより学習し得る。
【0006】
本発明の例示的実施形態は、ARサービスを提供するユーザ装置であって、ターゲットオブジェクトの画像をキャプチャする撮影部と、前記撮影部の位置情報及び前記ターゲットオブジェクトと前記撮影部間の第1の方位角情報を含む、前記ターゲットオブジェクトの前記キャプチャした画像のコンテキスト情報を収集する情報収集部と、第1の方向のARタグであって前記コンテキスト情報に対応するARタグを生成するタグ生成部と、前記ターゲットオブジェクトの前記画像及び前記ARタグを表示する表示部とを備えることを特徴とするユーザ装置を提供する。
【0007】
本発明の例示的実施形態は、ARサービスを提供するユーザ装置であって、ターゲットオブジェクトの画像をキャプチャする撮影部と、前記撮影部の位置情報及び前記ターゲットオブジェクトの画像データを含む、前記ターゲットオブジェクトの前記キャプチャした画像のコンテキスト情報を収集する情報収集部と、前記収集したコンテキスト情報をAR管理サーバに送信し、前記AR管理サーバから前記ターゲットオブジェクトのAR情報を受信する通信部であって、前記AR管理サーバは、前記キャプチャした画像の方位角情報に基づいて前記ターゲットオブジェクトの前記AR情報を格納している、通信部と、前記ターゲットオブジェクトと前記撮影部間の第1の方位角に対応するAR情報を用いてARタグを生成するタグ生成部と、前記ターゲットオブジェクトの前記キャプチャした画像及び前記生成したARタグを表示する表示部とを備えることを特徴とするユーザ装置を提供する。
【0008】
本発明の例示的実施形態は、ARサービスを提供する方法であって、カメラを用いてターゲットオブジェクトの画像をキャプチャすることと、前記ターゲットオブジェクトの前記キャプチャした画像の位置情報及び前記ターゲットオブジェクトと前記カメラ間の第1の方位角情報を含むコンテキスト情報を収集することと、前記コンテキスト情報に対応するARタグを生成することと、前記ターゲットオブジェクトの前記キャプチャした画像及び前記生成したARタグを表示することとを含むことを特徴とする方法を提供する。
【0009】
本発明の例示的実施形態は、ARサービスを提供する方法であって、ターゲットオブジェクトの画像をキャプチャすることと、前記ターゲットオブジェクトをキャプチャするカメラの位置情報であって端末(terminal)からの位置情報、及び前記画像から得られた前記ターゲットオブジェクトの画像データを含むコンテキスト情報(contextual information)を収集することと、前記収集したコンテキスト情報をAR管理サーバに送信して前記ターゲットオブジェクトのAR情報を第1の方位角用に格納することと、前記ターゲットオブジェクトの前記AR情報を前記AR管理サーバから受信することと、前記ターゲットオブジェクトとカメラ間の前記第1の方位角に対応する前記AR情報を用いてARタグを生成することと、前記ターゲットオブジェクトの前記キャプチャした画像及び前記ARタグを表示することとを含むARサービスを提供する方法を提供する。
【0010】
上記の概説及び以下の詳細な説明は一例であり本発明を説明するものであり、請求の範囲に記載する本発明をさらに説明するためのものであることを理解されたい。他の特徴及び局面は以下の詳細な説明、図面及び請求の範囲から明らかとなる。
【0011】
添付の図面は本発明のさらなる理解のために含めており、本明細書に組み込まれて本明細書の一部を成す。添付の図面は本発明の実施形態を示しており、本明細書の記載と共に本発明の原理を説明する一助となる。
【図面の簡単な説明】
【0012】
【図1】図1は、本発明の例示的実施形態による、拡張現実(AR)サービスを提供する第1のユーザ装置を示すブロック図である。
【図2】図2は、本発明の例示的実施形態による、ARサービスを提供する第2のユーザ装置を示すブロック図である。
【図3】図3は、本発明の例示的実施形態による第2の情報収集部及び第2の情報分析部を示すブロック図である。
【図4A】図4Aは、本発明の例示的実施形態による第2の表示部上に表示されたARタグを示す図である。
【図4B】図4Bは、本発明の例示的実施形態による第2の表示部上に表示されたARタグを示す図である。
【図4C】図4Cは、本発明の例示的実施形態による第2の表示部上に表示されたARタグを示す図である。
【図5】図5は、本発明の例示的実施形態による、ARタグにタッチすることによりAR情報を表示する方法を示す図である。
【図6】図6は、本発明の例示的実施形態による、第2のユーザ装置を移動させることによりARタグのAR情報を表示する方法を示す図である。
【図7】図7は、本発明の例示的実施形態によるAR管理サーバのブロック図である。
【図8】図8は、本発明の例示的実施形態による、ARサービスを提供する第3のユーザ装置のブロック図である。
【図9】図9は、本発明の例示的実施形態による、ARサービスを提供する第4のユーザ装置のブロック図である。
【図10】図10は、本発明の例示的実施形態によるユーザ装置においてARサービスを提供する方法を示すフローチャートである。
【図11】図11は、本発明の例示的実施形態によるユーザ装置においてARサービスを提供する方法を示すフローチャートである。
【発明を実施するための形態】
【0013】
以下、添付の図面を参照して本発明をより詳細に述べる。図面には本発明の実施形態を示す。しかし本発明は多くの異なる形態で実施可能であり、本発明に述べる実施形態に限定されると解釈すべきではない。むしろこれらの実施形態は、本開示が本発明の詳細な記載であり、当業者に対して本発明の範囲を十分に示すために提供される。本開示の目的のために、「〜のうち少なくとも一つ」は、それに続いて列挙する要素のいずれの組み合わせをも含み、列挙した要素のうち複数の要素の組み合わせをも含むと解釈されることを理解されたい。例えば、「X、Y及びZのうち少なくとも一つ」は、Xのみ、Yのみ、Zのみ、またはX、Y及びZのうちの2つ以上の組み合わせ(例:XYZ、XZ、YZ)を意味すると解釈されたい。図面及び詳細な説明の全体において、特にことわりがない限り、図中の同一の参照符号は同一の要素、特徴及び構造を示すと理解されたい。これらの要素の相対的サイズ及び描写は、明瞭性のため、例示のため、及び便宜上、誇張することがある。
【0014】
さらに、ある要素が別の要素に「接続」されていると述べた場合、直接接続されている場合もあれば、介在する要素が存在する場合もあることを理解されたい。逆にある要素が別の要素に「直接接続」されていると述べた場合、介在する要素は存在しない。
【0015】
図1は、本発明の例示的実施形態による、拡張現実(AR)サービスを提供する第1のユーザ装置100を示すブロック図である。
【0016】
図1を参照すると、第1のユーザ装置100は、スマートフォン、携帯電話、ラップトップコンピュータ、タブレット型コンピュータなどの持ち運び可能な装置であってもよい。図1に示すように、第1の装置100は、第1の撮影部110と、第1の情報収集部120と、第1のタグ生成部130と、第1の表示部140とを含む。
【0017】
第1の撮影部110は、ターゲットオブジェクトの画像を撮影またはキャプチャし得、例えば、埋め込み型カメラまたは外部カメラであってもよい。得られた画像は、第1の撮影部110または別体の画像プロセッサによって処理されて表示可能な信号になり得る。
【0018】
第1の情報収集部120は、第1のユーザ装置100の現在位置に関する情報、第1の撮影部110が撮影またはキャプチャしたターゲットオブジェクトの位置情報、第1の撮影部110が現在見ている方向に関する方向情報、及び第1のユーザ装置100とターゲットオブジェクト間の方位角情報を含むコンテキスト情報を収集し得る。さらに、上記位置情報、方向情報及び方位角情報などは、キャプチャした画像、ユーザ装置または他のソースと連動したデータから収集し得る。方位角情報は、第1のユーザ装置100とターゲットオブジェクト間の方位角を示す数値を含み得る。一例では、方位角は水平線から測定した角度を参照し得る。すなわち、方位角情報は、ユーザ装置100上の参照点からターゲットオブジェクトまでの角度であって水平線に対して測定した角度を含み得る。ユーザ装置100上の参照点は、上部点、エッジまたは表面、あるいは下部点、エッジまたは表面として定義してもよいし、撮影部100の焦点レンズから定義してもよい。
【0019】
第1のタグ生成部130は、第1の情報収集部120が収集したコンテキスト情報に対応するARタグを生成し得る。上記したように、コンテキスト情報は、位置情報、方向情報及び方位角情報を含み得る。ARタグは、ターゲットオブジェクトのAR情報を表示する窓という形態または形状で生成し得る。従ってARタグはターゲットオブジェクトを撮影またはキャプチャするために用いた方位角に基づいて生成し得る。ターゲットオブジェクトのAR情報は、1以上のコンテキスト情報用に、第1のユーザ装置100内に格納してもよいし、AR管理サーバ(図示せず)内に格納してもよい。
【0020】
第1の表示部140は、生成したARタグを、ターゲットオブジェクト上に重なるように表示する。
【0021】
図2は、本発明の例示的実施形態による、ARサービスを提供する第2のユーザ装置200を示すブロック図である。図3は、本発明の例示的実施形態による、第2の情報収集部及び第2の情報分析部を示す詳細なブロック図である。
【0022】
図2に示すように、第2のユーザ装置200は、第2のユーザインターフェース(UI)部210と、第2のストレージ部220と、第2の撮影部230と、第2の画像処理部240と、第2の情報収集部250と、第2の情報分析部260と、第2の通信処理部270と、第2の通信部275と、第2のタグ生成部280と、第2の制御部290とを含む。
【0023】
第2のUI部210は、ユーザ装置200とインターフェースする能力をユーザに提供し得、第2のユーザ入力部211と第2の表示部213とを含み得る。
【0024】
第2のユーザ入力部211は、ユーザのコマンド入力を受信する操作パネルであってもよく、様々なインターフェースを含み得る。例えばインターフェースは、ターゲットオブジェクトを撮影またはキャプチャするボタン、方向キー及びタッチパネルなどを含み得る。特にユーザは、第2のユーザ入力部211を操作することにより、方位角に基づくARタグの表示を要求することができる。またユーザが第2の表示部213上に表示されたARタグにタッチすると、第2のユーザ入力部211はユーザのタッチの方向を感知し得る。より具体的には、ユーザが第2の表示部213上に表示された複数の面を有するARタグにタッチしドラッグしてARタグの異なる面が見えるように回転させると、第2のユーザ入力部211はそのタッチ及びドラッグの動作を感知し得る。
【0025】
第2の撮影部230から入力された画像が処理されて信号になると、第2の表示部213は処理された画像を表示し得る。ユーザ装置200がタッチによる入力方法を提供すると、第2の表示部213はタッチパネルのUIを表示し得る。
【0026】
第2のストレージ部220は、ユーザ装置200を作動させるために用いるプログラム、様々なデータ及び情報などを格納し得る。また第2のストレージ部220は、ターゲットオブジェクトのコンテキスト情報にマッピングした、ターゲットオブジェクトのAR情報を格納し得る。
【0027】
第2の撮影部230は、ターゲットオブジェクトの画像を撮影またはキャプチャして画像データを獲得し得る。一例では、第2の撮影部230は埋め込み型カメラまたは外部カメラを含む。
【0028】
第2の画像処理部240は、第2の撮影部230が得た画像を分析し得、分析結果を用いて画像を処理して表示可能な信号にし得る。一例では、第2の画像処理部240は、画像プロセッサであってもよい。
【0029】
第2の情報収集部250は、ユーザ装置200の位置、チルト位置及び方位角に関連する情報を含むコンテキスト情報を収集し得、これらの情報は、キャプチャした画像、ユーザ装置または他のソースと連動したデータから収集し得る。図3を参照すると、第2の情報収集部250は、位置情報収集部251と、方位角情報収集部253と、チルト情報収集部255とを含み得る。
【0030】
位置情報収集部251は、ユーザ装置200の現在位置に関する位置情報及び第2の撮影部230が現在見ているターゲットオブジェクトに向かう方向に関する方向情報を収集し得る。また位置情報収集部251は、ターゲットオブジェクトの現在位置情報をさらに収集し得る。一例では、位置情報収集部251は、グローバルポジショニングシステム(GPS)及び位置情報サービス(LBS)などを用いて現在位置を感知し収集し得る。さらに位置情報収集部251は、デジタルコンパスを用いて方向をも感知し収集し得る。位置情報収集部251が収集した位置情報及び方向情報は、位置分析部261に提供し得る。
【0031】
方位角情報収集部253は、ユーザ装置200とターゲットオブジェクト間の方位角に関する方位角情報を収集し得る。方位角情報収集部253が収集した方位角情報は、方位角分析部263に提供し得る。
【0032】
チルト情報収集部255は、ユーザ装置200のチルトに関するチルト情報を収集し得る。チルト情報は、ユーザ装置200のチルト位置に関する情報であってもよい。ユーザ装置200は、ターゲットオブジェクトを撮影またはキャプチャする前にユーザの操作によって様々な方向に頻繁にチルトしてもよい。一例では、チルト情報収集部255は、例えば3軸ジャイロスコープセンサと3軸(x、y、z)加速度センサとを含む6軸動作センサを用いてチルト情報を感知し収集し得る。チルト情報収集部255が収集したチルト情報は、チルト分析部265に提供し得る。チルト情報は必要に応じて収集してもよい。
【0033】
第2の情報分析部260は、第2の情報収集部250が収集した情報を、処理可能信号を用いて分析し得る。図3を参照すると、第2の情報分析部260は、位置分析部261と、方位角分析部263と、チルト分析部265とを含み得る。
【0034】
位置分析部261は、位置情報収集部251が収集した位置情報及び方向情報を、処理可能信号を用いて分析し得る。
【0035】
方位角分析部263は、方位角情報収集部253が収集した方位角情報を、処理可能信号を用いて分析し得る。
【0036】
チルト分析部265は、チルト情報収集部255が収集したチルト情報を、処理可能信号を用いて分析し得る。
【0037】
図2を参照すると、第2の通信処理部270は、ターゲットオブジェクトの分析したコンテキスト情報及び画像データを、第2の制御部290による送信プロトコルに基づくデータに変換し得る。
【0038】
第2の通信部275は、第2の通信処理部270から入力されたデータを、通信ネットワーク10を介してAR管理サーバ700に送信し得る。また第2の通信部275は、コンテキスト情報に対応するAR情報をAR管理サーバ700から受信し得る。AR管理サーバ700は、様々な異なるコンテキスト情報に対応するAR情報を格納し得る。AR管理サーバ700については、図7を参照して後述する。
【0039】
第2の通信処理部270は、受信したAR情報を第2のユーザ装置200で利用可能なデータに変換し得る。
【0040】
第2のタグ生成部280は、第2の情報収集部250が収集したコンテキスト情報に対応するARタグを生成し得る。より具体的には、ARタグは、第2の通信処理部270が変換したAR情報を用いて生成される。ARタグは、ターゲットオブジェクトのAR情報を表示する窓の形態で生成し得る。第2のタグ生成部280は、ターゲットオブジェクトのAR情報及びコンテキスト情報の両方を表示するARタグを生成し得る。
【0041】
また第2のタグ生成部280は、ターゲットオブジェクトの輪郭に沿った1以上の面を有するARタグを生成し得る。ターゲットオブジェクトと第2の撮影部230間の方位角に基づくAR情報が、ARタグの1以上の面上に表示され得る。例えば、ターゲットオブジェクトが建物であれば、第2のタグ生成部280は三次元立方体のARタグを生成し得るし、ターゲットオブジェクトが球であれば、第2のタグ生成部280は球状のARタグを生成し得る。
【0042】
第2の表示部213は、第2のタグ生成部280が生成したARタグを表示し得る。
【0043】
第2の制御部290は、第2のユーザ装置200の動作を制御し得る。特に第2の制御部290は、オブジェクトの分析したコンテキスト情報及び画像データをAR管理サーバ700に送信することにより、AR管理部700に対して、コンテキスト情報に対応するターゲットオブジェクトのAR情報を提供するように要求し得る。
【0044】
第2の制御部290は、AR管理部700に対してAR情報の提供を要求する前に、コンテキスト情報に対応するAR情報が第2のストレージ部220に格納されているか否かをチェックしてもよい。コンテキスト情報に対応するAR情報が第2のストレージ部220に格納されていれば、第2の制御部290は第2のタグ生成部280を制御して、第2のストレージ部220に格納されているAR情報を用いてARタグを生成させ得る。コンテキスト情報に対応するAR情報が第2のストレージ部220に格納されていなければ、第2の制御部290はAR管理サーバ700に対してAR情報を送信するように要求し得る。
【0045】
図4A、図4B及び図4Cは、本発明の例示的実施形態による第2の表示部上に表示されたARタグを示す図である。
【0046】
図4Aを参照すると、ユーザが、ユーザ装置200の第2の撮影部230を用いてターゲットオブジェクト「南大門(Namdaemun)」を撮影またはキャプチャした場合、第2の表示部213はターゲットオブジェクト「南大門」を表示し得る。ユーザ装置200が現在位置における「南大門」のARタグを表示するようにというユーザからの要求を受信すると、第2の情報収集部250は、現在位置に関する位置情報、方向情報、方位角情報及びチルト情報を含むコンテキスト情報を収集し得る。第2の情報分析部260は、収集されたコンテキスト情報を分析し得、第2のタグ生成部280は、コンテキスト情報に対応するAR情報を用いてARタグ213aを生成し得る。コンテキスト情報に対応するAR情報は、第2のストレージ部220に格納されているものでもよいし、AR管理サーバ700から提供されたものでもよい。
【0047】
ユーザが、「南大門」の裏門を見ることができる位置に移動してからARタグを表示するように要求した場合、第2のタグ生成部280は、移動先の位置のコンテキスト情報に対応するAR情報を用いてARタグ213bを生成し得る。すなわち、同一のターゲットオブジェクトのARタグであって、異なる方位角に基づく異なるARタグが生成され表示され得る。
【0048】
図4Bを参照すると、ターゲットオブジェクト「南大門」は建物であるため、第2のタグ生成部280はさらに、6面を有する立方体ARタグ213cを生成し得る。ARタグ213cの各面上に同一または異なるAR情報が表示され得る。異なるAR情報が表示されると、第2のユーザ装置200は、1以上の方位角に対応するAR情報をAR管理サーバ700から受信し得る。従ってユーザは、異なる方位角で生成されたターゲットオブジェクトのAR情報をARタグ213cを用いてチェックすることができる。
【0049】
図4Cを参照すると、第2のタグ生成部280は、ユーザの現在位置におけるターゲットオブジェクトの右側面に対応するARタグ214dを生成し得る。より具体的には、ユーザの現在位置からは、ターゲットオブジェクトの右側面は見えないか、または部分的にしか見えないため、ARタグ214dは角度をもって表示され得、一例ではユーザは、ユーザが見ることができる方位角範囲を設定またはプリセット(preset)することができ、第2のタグ生成部280は、設定された範囲内の方位角に対応するARタグを生成し得る。図4Cでは、ユーザは方位角範囲を例えば360度と設定することができるため、ターゲットオブジェクトの右側面に対応するARタグ214dが表示され得る。
【0050】
図5は、本発明の例示的実施形態による、ARタグにタッチすることによりAR情報を表示する方法を示す図である。
【0051】
図5を参照すると、第2のタグ生成部280は、複数の面を有する立方体形状の立方体ARタグ500を生成し得る。第2のタグ生成部280は、ターゲットオブジェクトに向かう方向の方位角によって、異なるAR情報をARタグ500の1以上の面上に表示し得る。第2のユーザ装置200の現在位置とターゲットオブジェクト間の方位角に対応するAR情報は、ARタグ500の第1の面510上に表示し得る。表示されるARタグ500を表示し、さらに上方向、下方向、左方向及び右方向を含む様々な方向に回転させて表示することができる。
【0052】
例えば、ユーザが、表示されている第2の面520にタッチするか、あるいはARタグ500にタッチして左方向に回転させた場合、第2のユーザ入力部211は、タッチされた面520及び/またはユーザのタッチの方向をそれぞれ感知し得る。第2のタグ生成部280は、ARタグ500をタッチによって選択されたいずれかの面まで回転させるか、及び/またはARタグ500をユーザが入力したタッチ方向に応じて回転させることによって、ターゲットオブジェクトの第2の方位角に対応するAR情報を正面方向に表示可能とし得る。一例では、ARタグ500は、図5に示すように感知されたタッチ面に応じて回転し得るか、及び/または、ARタグ500をタッチ及びドラッグして上記タッチ方向に回転させることにより回転し得、それによってユーザは面520を正面から見ることができる。またユーザがサブビューを要求した場合、第2のタグ生成部280はサブビューを生成し得、ARタグ500の現在表示されているAR情報の方位角及び/または方向が、サブビュー内で上記情報を示すコンパス矢印を用いてチェックできるようにし得る。すなわち、サブビューのコンパス矢印は方位角及び/または方向を示し得る。
【0053】
図6は、本発明の例示的実施形態による、第2のユーザ装置200を移動させることによりARタグのAR情報を表示する方法を示す図である。
【0054】
図6を参照すると、第2のタグ生成部280は、ターゲットオブジェクトのARタグを、複数の面を有する立方体ARタグ600として生成し得る。ARタグ600の移動が困難または望ましくなく、ターゲットオブジェクトを撮影またはキャプチャしている第2のユーザ装置200が任意の方向に回転した場合、第2のタグ生成部280は、ターゲットオブジェクトに対して回転した方向に見えるターゲットオブジェクトに向かう方向の方位角に対応するARタグを生成し得る。例えば、第2のユーザ装置200が右方向に回転するか、またはARタグ600の第1の面が正面方向に表示された後でユーザが身体を右方向に回転させた場合、第2のタグ生成部280は、ARタグ600の右側面610すなわち第2の面に対応するAR情報が正面方向に表示できるようにし得る。従って第2のタグ生成部280は、ARタグ600を上方向、下方向、左方向及び右方向に直接回転させることにより、ユーザが求めるターゲット画像を提供し得る。
【0055】
図7は、本発明の例示的実施形態によるAR管理サーバ700のブロック図である。
【0056】
図7を参照すると、AR管理サーバ700は、1以上のユーザ装置が生成したARタグ情報をコンテキスト情報と共に格納し管理し得る。図7を参照すると、AR管理サーバ700は、データベース(DB)710と、サーバ通信部720と、送信/受信処理部730と、情報処理部740と、サーバ制御部750とを含み得る。
【0057】
DB710は、1以上のコンテキスト情報にマッピングされたターゲットオブジェクトのAR情報を格納し管理し得る。従って同一のターゲットオブジェクトのAR情報が、ターゲットオブジェクトの撮影またはキャプチャによって収集された1以上のコンテキスト情報用に格納し管理され得る。上記したようにコンテキスト情報は、ターゲットオブジェクトを撮影またはキャプチャするために用いた位置及び方向に関する情報、並びにターゲットオブジェクトの位置情報、方位角情報及びチルト情報を含み得る。一例では、DB710に格納されたコンテキスト情報のうち、方位角情報は参照範囲として格納し得る。例えば、格納されているAR情報が方位角200度に対応する情報であれば、200°±α(αは誤差)がAR情報に対応する方位角情報としてDB710に格納され得る。方位角範囲はユーザまたはオペレータが手動で設定してもよいし、サーバ制御部750が自動的に設定してもよい。DB710に格納されたAR情報は1以上のユーザ装置によって共有し得る。
【0058】
サーバ通信部720は、第2のユーザ装置200を含む1以上のユーザ装置と通信ネットワークを介して通信し得る。以下、第2のユーザ装置200を例として説明する。サーバ通信部720は、AR情報の提供を要求する信号を受信し得、コンテキスト情報を第2のユーザ装置200から受信し得る。サーバ通信部720はさらに、ターゲットオブジェクトの画像データを受信し得る。
【0059】
送信/受信処理部730は、受信したAR情報及び受信したコンテキスト情報が利用可能か否かを判定し得る。より具体的には、送信/受信処理部730は、AR情報及びコンテキスト情報を受信した際にエラーが起こったか否か、または受信したAR情報及びコンテキスト情報が不適切な情報を含んでいるか否かを判定し得る。AR情報及びコンテキスト情報が利用可能であれば、送信/受信処理部730は、信号及びコンテキスト情報を情報処理部740に提供し得る。
【0060】
情報処理部740は、DB710を検索してコンテキスト情報のうち位置情報に対応するAR情報を探す。情報処理部740は、検索情報生成部741と情報検索部743とを含み得る。
【0061】
検索情報生成部741は、DB710へのクエリに対する検索情報を設定し得る。検索情報は、受信したコンテキスト情報のうち位置情報に対応するAR情報がDB710に格納されているか否かに関する検索に関して用い得る。検索情報生成部741は、送信/受信処理部730から入力されたコンテキスト情報を処理することにより検索情報を設定し得、ヘッダタイプ(type of a header)に検索情報を生成し得る。一例では、検索情報は第2のユーザ装置200の位置情報であってもよい。
【0062】
情報検索部741は、検索情報を用いてDB710を検索し得、位置情報に対応するAR情報を抽出し得る。
【0063】
サーバ制御部750は、コンテキスト情報の方位角情報に対応するAR情報をチェックし得る。サーバ制御部750は、送信/受信処理部730及びサーバ通信部720を制御して、方位角情報に対応するAR情報を第2のユーザ装置200に提供させ得る。抽出されたAR情報に対応する方位角情報が方位角範囲として格納されていれば、サーバ制御部750は、コンテキスト情報の方位角情報に最も近い方位角範囲に対応するAR情報を提供し得る。
【0064】
またサーバ制御部750は、方位角情報に対応するAR情報を用いてARタグを構築し得、ARタグ構築データを第2のユーザ装置200に提供し得る。方位角情報以外のコンテキスト情報を第2のユーザ装置200から受信すると、サーバ制御部750は、基本的ARタグを構築し得、ARタグ構築データを第2のユーザ装置200に提供し得る。
【0065】
送信/受信処理部730は、方位角情報に対応するAR情報を送信プロトコルに基づくデータに変換し得る。サーバ通信部720は、変換されたAR情報を第2のユーザ装置200に送信し得る。
【0066】
第2のユーザ装置200は、AR情報を受信した後、撮影またはキャプチャ中のターゲットオブジェクトのAR情報を処理してARタグを生成し得、ARタグを第2の表示部213上に表示し得る。
【0067】
図8は、本発明の例示的実施形態による、ARサービスを提供する第3のユーザ装置800のブロック図である。
【0068】
図8を参照すると、第3のユーザ装置800は、第3の撮影部810と、第3の情報収集部820と、第3のタグ生成部830と、第3の通信部840と、第3の表示部850とを含み得る。図8の第3の撮影部810、第3の情報収集部820、第3のタグ生成部830及び第3の表示部850は、図1の第1の撮影部110、第1の情報収集部120、第1のタグ生成部130及び第1の表示部140とそれぞれ似ており、従ってここでは、これらの詳細な説明は省略する。
【0069】
第3の通信部840は、位置情報、方向情報及び方位角情報を含むコンテキスト情報をAR管理サーバ700(図8には図示せず)に送信することにより、AR管理部700に対して、ターゲットオブジェクトのAR情報を提供するように要求し得る。より具体的には、コンテキスト情報は、第3の情報収集部820が収集した第3のユーザ装置800の現在位置、第3の撮影部810が撮影またはキャプチャしたターゲットオブジェクトの位置情報、第3の撮影部810が見ているターゲットオブジェクトに向かう方向に関する方向情報、及び第3のユーザ装置800とターゲットオブジェクト間の方位角情報を含み得る。また第3の通信部840は、AR管理サーバ700からターゲットオブジェクトのAR情報を受信し得る。AR管理サーバ700は、方位角に基づくターゲットオブジェクトのAR情報を格納し得る。従ってAR管理サーバ700は、格納しているターゲットオブジェクトのAR情報の一部または全体を第3のユーザ装置800に送信し得る。
【0070】
第3のタグ生成部830は、受信したターゲットオブジェクトのAR情報のうちターゲットオブジェクトと第3の撮影部810間の方位角情報に対応するAR情報を用いてARタグを生成し得る。
【0071】
図9は、本発明の例示的実施形態による、ARサービスを提供する第4のユーザ装置900のブロック図である。
【0072】
図9を参照すると、第4のユーザ装置900は、第4のUI部910と、第4のストレージ部920と、第4の撮影部930と、第4の画像処理部940と、第4の情報収集部950と、第4の情報分析部960と、第4の通信処理部970と、第4の通信部975と、第4のタグ生成部980と、第4の制御部990とを含み得る。図9の第4のストレージ部920、第4の撮影部930及び第4の画像処理部940の動作は、図2の第2のストレージ部220、第2の撮影部230及び第2の画像処理部240の動作に非常に似ている。従ってここでは、これらの詳細な説明は省略する。
【0073】
第4のUI部910は、ユーザとユーザ装置900とのインターフェースを提供してユーザの入力を受信し、受信したユーザの入力に対する応答を表示し得る。さらに第4のUI部910は、第4のユーザ入力部911と第4の表示部913とを含み得る。
【0074】
第4のストレージ部920は、ユーザ装置900を作動させるために用いるプログラム、様々なデータ及び情報などを格納し得る。
【0075】
第4の撮影部930は、ターゲットオブジェクトの画像を撮影またはキャプチャしてターゲットオブジェクトの画像データを獲得し得、例えば、埋め込み型カメラまたは外部カメラであってもよい。
【0076】
第4の画像処理部940は、第4の撮影部930から得られた画像を分析し得、分析結果を用いて画像を処理して表示可能な信号にし得る。
【0077】
第4の情報収集部950は、ユーザ装置900の位置、チルト位置及び方位角に関連する情報を含むコンテキスト情報を収集し得る。一例では、方位角に基づくARタグを表示するようにという要求をユーザから受信すると、第4の情報収集部950は方位角情報を収集し得る。
【0078】
第4の情報分析部960は、第4の情報収集部950が収集した情報を、図2及び図3の第2の情報分析部260で用いたものに似た処理可能信号を用いて分析し得る。従ってここでは、これ以上の説明は省略する。
【0079】
第4の通信処理部970は、ターゲットオブジェクトの位置情報、方向情報及び画像データを、第4の制御部990の制御により、送信プロトコルに基づくデータに変換し得る。
【0080】
第4の通信部975は、第4の通信処理部970から入力されたデータを、通信ネットワーク(図9には図示せず)を介してAR管理サーバ(図9には図示せず)に送信し得る。また第4の通信部975は、AR管理サーバから、ターゲットオブジェクトの少なくとも一つのAR情報を受信し得る。AR管理サーバは、1以上のコンテキスト情報に対応するターゲットオブジェクトのAR情報を格納し得る。より具体的には、AR管理サーバは、様々な異なる方位角に対応するAR情報を格納し得る。
【0081】
第4の通信処理部970は、受信したAR情報を、第4のユーザ装置900で利用可能なデータに変換し得る。
【0082】
第4のタグ生成部980は、第4の通信処理部970が変換したAR情報を用いて、第4の情報収集部950が収集したコンテキスト情報に対応するARタグを生成し得る。ユーザが方位角に基づくARタグを表示するように要求すれば、第4のタグ生成部980は、第4の情報収集部950が収集した方位角に対応するAR情報を用いてARタグを生成し得る。生成したARタグは、図4A、図4B、図4C、図5及び図6を参照して述べたUIの画像内に表示し得る。
【0083】
第4の表示部913は、第4のタグ生成部980が生成したARタグを表示し得る。
【0084】
第4の制御部990は、第4のユーザ装置900の動作全体を制御し得る。特に第4の制御部990は、ターゲットオブジェクトの位置情報、方向情報及び画像データを含む様々な情報をAR管理サーバに送信することにより、AR管理部に対して、ターゲットオブジェクトのAR情報を提供するように要求し得る。
【0085】
第4の制御部990は、方位角に基づくAR情報を表示するようにという要求をユーザから受信すると、第4の情報収集部950を制御して方位角情報を収集させ得る。方位角情報が収集されると、第4の制御部990は、AR管理サーバから受信した1以上のAR情報のうち、第4の情報収集部950が収集した方位角に対応するAR情報を抽出し得、そのAR情報を第4のタグ生成部980に提供し得る。
【0086】
図10は、本発明の例示的実施形態によるユーザ装置においてARサービスを提供する方法を示すフローチャートである。
【0087】
図10の方法の1以上の動作は、図1の第1のユーザ装置100または図2の第2のユーザ装置200の制御部またはプロセッサによって実施され得るが、これらに限定されない。
【0088】
動作1010で、ユーザが、カメラを用いてターゲットオブジェクトの画像を撮影またはキャプチャしてターゲットオブジェクトの画像データを獲得し得る。
【0089】
動作1020で、ユーザ装置は、ターゲットオブジェクトに関連するコンテキスト情報を収集し得る。コンテキスト情報は、ターゲットオブジェクトを撮影またはキャプチャした際のユーザ装置の位置情報、ターゲットオブジェクトとカメラ間の方位角情報、及びユーザ装置のチルト情報のうち少なくとも一つを含み得る。
【0090】
動作1030で、ユーザ装置は、ARタグを表示するようにという要求をユーザから受信し得る。
【0091】
動作1040で、ユーザ装置は、コンテキスト情報に対応するAR情報がユーザ装置のメモリに格納されているか否かをチェックし得る。
【0092】
動作1040でコンテキスト情報に対応するAR情報がユーザ装置のメモリに格納されていると判定された場合、ユーザ装置は動作1050で、メモリに格納されているAR情報を用いて、収集したコンテキスト情報に対応するARタグを生成し表示し得る。従ってユーザとターゲットオブジェクト間の方位角によって異なるARタグがユーザに提供され得る。
【0093】
前記動作1040でコンテキスト情報に対応するAR情報が前もってユーザ装置のメモリに格納されていないと判定された場合、ユーザ装置は動作1060で、AR管理サーバに対して、コンテキスト情報に対応するAR情報の提供を要求し得る。AR管理サーバに対して、コンテキスト情報に対応するAR情報の提供を要求するために、ユーザ装置は動作1060で、動作1010で得たターゲットオブジェクトの画像データ及び動作1020で収集したコンテキスト情報をAR管理サーバに送信し得る。
【0094】
動作1070で、ユーザ装置は、AR管理サーバから、コンテキスト情報に対応するAR情報を含むARタグ構築データを受信し得る。
【0095】
動作1080で、ユーザ装置は、受信したAR情報を含むARタグ構築データを用いて、ARタグを生成し表示し得る。ユーザ装置は、動作1070でAR情報を受信した場合、そのAR情報を用いてARタグを生成し得る。
【0096】
図11は、本発明の例示的実施形態によるユーザ装置においてARサービスを提供する方法を示すフローチャートである。
【0097】
図11の方法の各動作は、第3のユーザ装置800または第4のユーザ装置900の制御部またはプロセッサによって実施され得る。
【0098】
動作1100で、ユーザが、カメラを用いてターゲットオブジェクトの画像を撮影またはキャプチャしてターゲットオブジェクトの画像データを獲得し得る。
【0099】
動作1120で、ユーザ装置は、ターゲットオブジェクトに関連するコンテキスト情報を収集し得る。コンテキスト情報は、ターゲットオブジェクトを撮影またはキャプチャした際のユーザ装置の位置情報、方向情報、及びチルト情報のうち少なくとも一つを含み得る。しかし本発明の局面はこれに限定されず、例えばチルト情報は省略してもよい。
【0100】
動作1130で、ユーザ装置は、ARタグを表示するようにという要求をユーザから受信し得る。
【0101】
動作1140で、ユーザ装置は、AR管理サーバに対して、収集したコンテキスト情報に対応するAR情報を提供するように要求し得る。AR管理サーバに対して、収集したコンテキスト情報に対応するAR情報の提供を要求するために、ユーザ装置は動作1160で、動作1110で得たターゲットオブジェクトの画像データ及び動作1120で収集したコンテキスト情報をAR管理サーバに送信し得る。
【0102】
動作1150で、ユーザ装置は、コンテキスト情報に対応する少なくとも一つのAR情報をAR管理サーバから受信し得る。例えば、同一のターゲットオブジェクトのAR情報であるが方位角に基づいて異なるAR情報がAR管理サーバに格納されている場合、ユーザ装置は格納されているターゲットオブジェクトのAR情報の一部または全体を受信し得る。
【0103】
ユーザ装置は、動作1160で、方位角に基づくARタグを表示するようにという要求をユーザから受信しなかった場合、動作1170で、受信した少なくとも一つのAR情報を用いてARタグを生成し表示し得る。受信したAR情報が複数であれば、ユーザ装置は高い頻度または正確さを有するAR情報を用いてARタグを生成し得る。
【0104】
ユーザ装置は、動作1160で、方位角に基づくARタグを表示するようにという要求をユーザから受信した場合、動作1180で、ターゲットオブジェクトとカメラ間の方位角情報を収集し得る。
【0105】
動作1190で、ユーザ装置は、上記少なくとも一つの収集したAR情報のうち、収集した方位角情報に対応するAR情報を抽出し得る。
【0106】
動作1195で、ユーザ装置は、抽出したAR情報を用いてARタグを生成し表示し得る。
【0107】
図10の動作1080または図11の動作1195で表示したARタグが図5のARタグであり、ユーザがARタグをタッチした方向が感知され得る場合、ユーザ装置は、ARタグをユーザがタッチしたいずれかの面まで回転させるか、または感知したタッチ方向にARタグを回転させることにより、異なる方位角に対応するターゲットオブジェクトのAR情報を正面方向に表示し得る。
【0108】
図10の動作1080または図11の動作1195で表示したARタグは図6のARタグに似ていることがあり得る。従ってユーザがユーザ装置を任意の方向に回転させた場合、ユーザ装置は、その任意の方向で見られるオブジェクトに向かう方向の方位角に対応するAR情報が正面方向に表示できるようにし得る。より具体的には、一例では、図6を参照すると、元々第1の面に対向していたユーザ装置が右方向に回転して第2の面に対向した場合、第2の面が正面方向として見られ得る。
【0109】
本発明の例示的実施形態によると、ユーザ装置及び方法は、拡張現実(AR)サービスであって、ユーザが見ているオブジェクトに向かう方向の方位角に基づいてARタグを選択的に提供することができ、それによりユーザが対象となる情報を見ることができるARサービスを提供する。
【0110】
またユーザ装置及び方法は、ARサービスであって、三次元立方体ARタグを提供することができ、受信したユーザ入力に応じてARタグを回転することができ、それによって異なる視点(view)で提供されたAR情報を含むターゲットオブジェクトの様々な異なるAR情報を、ユーザが移動して物理的に回転することなく提供することができるARサービスを提供する。
【0111】
またユーザ装置及び方法は、ARサービスであって、ユーザがユーザ装置を任意の方向に回転させて、回転方向に対応するターゲットオブジェクトのAR情報を提供することができるARサービスを提供する。
【0112】
上記した本発明の例示的実施形態によると、ユーザの位置とターゲットオブジェクト間の方位角によって様々な異なるAR情報を提供し得る。この特徴は、三次元立方体ARタグの提供に貢献し得、ここに記載した様々な応用を何らの制限なく可能にし得る。
【0113】
第1に、立方体ARタグが建物の内壁と同一方向に表示された場合、ユーザは建物の外から内部を見ることができる。6面を有するARタグの各面を建物内部の各面と合致させ、建物内部の各面をARタグの対応する面上に表示することにより、これが可能となり得る。ユーザが建物の外からユーザ装置のカメラを通して建物の1面を見た場合、ARタグの利用可能な複数の面のうちユーザの方向を向いているARタグの前面(第1の面)を透明に表示してもよい。さらにARタグの他の3面、すなわち建物の右側面、左側面、及び後面を立体的に表示してもよい。またARタグを介して表示する画像が動画カメラを用いてリアルタイムに更新される場合、建物の外から建物内部の状態をリアルタイムに認識することが可能である。
【0114】
第2に、本発明の例示的実施形態は、水平及び/または垂直の角度を含むチルト角の情報、すなわち方位角のみならずユーザ装置のチルトに関する情報も考慮しているため、様々な角度に対応するARタグをユーザに提供することができる。また高さ情報を含む場合、ARタグを水平方向の配置よりもむしろ空間的配置で表示してもよく、それにより現実的なビューを提供することができる。従ってユーザは水平方向で見られるARタグを見ることができ、さらにカメラを通してターゲットオブジェクトを見上げたり見下げたりすると、三次元の空間的配置に置かれた近傍のARタグを様々な方向及び様々な角度で見ることができる。
【0115】
第3に、ARタグはサインまたは告知物として用いてもよい。例えばユーザが立っている位置またはそれに対応する方向に基づくARタグとして想像上のサインまたは告知物が表示された場合、そのサインまたは告知物を、ユーザとは逆の方向にいる別のユーザには表示しないようにしてもよく、これにより混乱を避けることができる。一例では、停止の標識に対向しているユーザには停止の標識を示すが、停止の標識を通過した他の人々または停止の標識のある道路と交差する高速道路上を運転している他の人々には示さないようにすれば、道路標識に関する混乱を避けることができる。
【0116】
第4に、ユーザ装置はセンサを用いて、ターゲットオブジェクトとユーザ装置間の方位角をリアルタイムで表示してもよい。この特徴を用いれば、ユーザがある特定の位置でターゲットオブジェクトの画像を撮像した場合、ユーザは専門家が推薦する上記特定の位置で生成されたARタグを用いることができる。より具体的には、ユーザはカメラを配置して専門家が推薦する方位角でターゲットオブジェクトを撮影またはキャプチャすることができる。専門家が生成したARタグは、オブジェクトを撮影またはキャプチャするために用いたカメラ設定情報及び方位角情報を示してもよい。
【0117】
第5に、ユーザ装置は、上に星座が重なったARタグを提供してもよい。星座はユーザが見ている夜空に向かう方向の方位角に基づいてユーザ位置で観察される。この場合、ユーザ装置は、時間情報を追加した星座をARタグに重ねてもよい。これによりユーザはユーザの目で星座に関連する情報を見ることができる。
【0118】
第6に、例えば複数の出口を有する建物または地下鉄の場合、ユーザ装置は現在位置の方位角に基づいてARタグを表示してもよい。これによりユーザは現在位置において、正面方向に表示されている出口が表門であるのか裏門であるのかをARタグを介して認識することができる。
【0119】
第7に、ユーザが山中で道に迷った場合、ユーザ装置は現在位置から山道(trail)への方向に関する情報を提供してもよい。さらにユーザ装置はARタグを介してシェルターまたは近くの地勢に関する情報を提供してもよい。
【0120】
第8に、ユーザ装置のカメラが駐車場の方向を向いている場合、ユーザ装置はARタグを用いて車を停められる位置を表示してもよい。さらにユーザが停車した後、建物の出口または入口までユーザを案内してもよい。
【0121】
第9に、ユーザ装置は様々な形状のARタグ及び方位角によって様々なコンテンツのARタグを表示してもよい。これによりユーザはARタグ及び方位角を容易に認識することができる。
【0122】
第10に、ユーザ装置は方位角に基づいて表示されたARタグのAR情報を提供してもよく、さらに方位角とは無関係にARタグの共通の情報を提供してもよい。ユーザが地図を見れば情報が提供されるようにしてもよい。
【0123】
第11に、方位角に基づくARタグの特徴を用いて単一の面を表示した場合、様々なタグを天体または惑星上で生成してもよい。他の惑星も地球も軌道上を移動し軸回りに回転しているため、表示される面は時間とともに変化し得る。この場合、ユーザは所望の面にタグを設定することができる。
【0124】
第12に、ユーザ装置は方位角によって様々な面、例えば建物の床、天井及び屋根などにARタグを表示してもよい。これは壁面及び大きな建物のフロアマップ用の情報として有用であり得る。
【0125】
本発明による例示的実施形態は、プログラム命令を含む、一時的でなくコンピュータ読み取り可能な媒体に記録され得、コンピュータによって実施される様々な動作を実行する。媒体はさらに、単一またはプログラム命令と組み合わされた形態で、データファイル及びデータ構造などを含み得る。媒体及びプログラム命令は、本発明の目的のために特別に設計され構築されたものであってもよいし、コンピュータソフトウェアの分野の当業者に周知で利用可能な種類のものであってもよい。一時的でなくコンピュータ読み取り可能な媒体の例は、ハードディスク、フロッピーディスク(登録商標)、磁気テープなどの磁気媒体、CD ROMディスク及びDVDなどの光媒体、光ディスクなどの光磁気媒体、ならびにリードオンリーメモリ(ROM)、ランダムアクセスメモリ(RAM)及びフラッシュメモリなどの、プログラム命令を格納し実行するために特に構築されたハードウェアデバイスを含む。プログラム命令の例は、コンパイラによって生成されるマシンコードと、インタープリタを用いてコンピュータによって実行され得る高レベルコードを含むファイルとの両方を含む。上記のハードウェアデバイスは、本発明の上記実施形態の動作を実施するために1以上のソフトウェアモジュールとして作用するように構築され得る。
【0126】
本発明は、その精神又は範囲から逸脱することなく、様々な改変及び変形が可能であることは当業者には明らかである。従って、本発明は、添付の特許請求の範囲及びその均等物の範囲内に含まれる発明の改変及び変形をカバーすることを意図する。
【特許請求の範囲】
【請求項1】
拡張現実(AR)サービスを提供するユーザ装置であって、前記ユーザ装置は、
ターゲットオブジェクトの画像をキャプチャする撮影部と、
前記撮影部の位置情報及び前記ターゲットオブジェクトと前記撮影部間の第1の方位角情報を含む、前記ターゲットオブジェクトの前記キャプチャした画像のコンテキスト情報を収集する情報収集部と、
第1の方向に基づいたARタグであって前記コンテキスト情報に対応するARタグを生成するタグ生成部と、
前記ターゲットオブジェクトの前記キャプチャした画像及び前記ARタグを表示する表示部と、
を備えることを特徴とするユーザ装置。
【請求項2】
前記コンテキスト情報に対応するAR情報を格納するAR管理サーバと、
前記AR管理サーバと通信する通信部と、
前記通信部を制御して前記AR管理サーバに前記AR情報を送信させる制御部と、
をさらに備えることを特徴とする請求項1に記載のユーザ装置。
【請求項3】
前記コンテキスト情報に対応するAR情報を格納するストレージ部、をさらに備え、
前記タグ生成部は、前記ストレージ部から収集した前記AR情報に基づいて前記ARタグを生成することを特徴とする請求項1に記載のユーザ装置。
【請求項4】
前記タグ生成部は、前記AR情報に基づいて三次元ARタグを生成することを特徴とする請求項1に記載のユーザ装置。
【請求項5】
前記タグ生成部は、前記ターゲットオブジェクトの輪郭に沿った1以上の面を有するARタグを生成することを特徴とする請求項4に記載のユーザ装置。
【請求項6】
前記ターゲットオブジェクトと前記撮影部間の方位角に基づく様々な異なるAR情報が前記ARタグの前記1以上の面上に表示されることを特徴とする請求項5に記載のユーザ装置。
【請求項7】
前記表示されたARタグを回転させるようにというユーザ入力を受信するユーザ入力部、をさらに備え、
前記タグ生成部は、前記受信したユーザ入力に応じて前記表示されたARタグを回転させることにより、前記ターゲットオブジェクトのAR情報であって第2の方位角に対応するAR情報を提供することを特徴とする請求項4に記載のユーザ装置。
【請求項8】
前記ARタグを表示する第2の面が選択されたということを受信するユーザ入力部、をさらに備え、
前記タグ生成部は、前記選択された第2の面に応じて前記ARタグを回転させ、それにより前記第2の面をユーザに対向させ、前記ターゲットオブジェクトのAR情報であって第2の方位角に対応するAR情報を前記第2の面上に提供することを特徴とする請求項1に記載のユーザ装置。
【請求項9】
前記ターゲットオブジェクトをキャプチャしている前記ユーザ装置が前記ターゲットオブジェクトに対する第2の方向に移動した場合、前記タグ生成部は、前記第2の方向に見られる前記ターゲットオブジェクトに向かう方向の前記第1の方位角に対応するARタグを生成することを特徴とする請求項1に記載のユーザ装置。
【請求項10】
拡張現実(AR)サービスを提供するユーザ装置であって、前記ユーザ装置は、
ターゲットオブジェクトの画像をキャプチャする撮影部と、
前記撮影部の位置情報及び前記ターゲットオブジェクトの画像データを含む、前記ターゲットオブジェクトの前記キャプチャした画像のコンテキスト情報を収集する情報収集部と、
前記収集したコンテキスト情報をAR管理サーバに送信し、前記AR管理サーバから前記ターゲットオブジェクトのAR情報を受信する通信部であって、前記AR管理サーバは、前記キャプチャした画像の方位角情報に基づいて前記ターゲットオブジェクトの前記AR情報を格納している、通信部と、
前記ターゲットオブジェクトと前記撮影部間の第1の方位角に対応するAR情報に基づいてARタグを生成するタグ生成部と、
前記ターゲットオブジェクトの前記キャプチャした画像及び前記生成したARタグを表示する表示部と、
を備えることを特徴とするユーザ装置。
【請求項11】
前記情報収集部は、前記ターゲットオブジェクトと前記撮影部間の前記第1の方位角の方位角情報をさらに収集し、
前記収集した方位角情報が変化した場合、前記タグ生成部は、第2の方位角情報に対応するAR情報に基づいてARタグを生成することを特徴とする請求項10に記載のユーザ装置。
【請求項12】
前記タグ生成部は、前記AR情報に基づいて三次元ARタグを生成することを特徴とする請求項10に記載のユーザ装置。
【請求項13】
前記タグ生成部は、前記オブジェクトの輪郭に沿った1以上の面を有するARタグを生成することを特徴とする請求項12に記載のユーザ装置。
【請求項14】
前記ターゲットオブジェクトと前記撮影部間の方位角に基づく前記AR情報が、前記ARタグの1以上の面上に表示されることを特徴とする請求項13に記載のユーザ装置。
【請求項15】
前記表示されたARタグを回転させるようにというユーザ入力を受信するユーザ入力部であって、前記表示されたARタグは前記受け取ったユーザ入力に応じた第2の位置まで回転する、ユーザ入力部を、さらに備え、
前記タグ生成部は、前記ターゲットオブジェクトのAR情報であって前記ARタグの前記第2の位置に対応する第2の方位角に対応するAR情報を提供することを特徴とする請求項12に記載のユーザ装置。
【請求項16】
前記ユーザ装置が回転した場合、前記タグ生成部は、前記ターゲットオブジェクトに対する第2の位置で見られる前記ターゲットオブジェクトに向かう方向の第2の方位角に対応するARタグを生成することを特徴とする請求項10に記載のユーザ装置。
【請求項17】
拡張現実(AR)サービスを提供する方法であって、前記方法は、
カメラでターゲットオブジェクトの画像をキャプチャすることと、
前記ターゲットオブジェクトの前記キャプチャした画像の位置情報及び前記ターゲットオブジェクトと前記カメラ間の第1の方位角情報を含むコンテキスト情報を収集することと、
前記コンテキスト情報に対応するARタグを生成することと、
前記ターゲットオブジェクトの前記キャプチャした画像及び前記生成したARタグを表示することと、
を含むことを特徴とする方法。
【請求項18】
前記AR情報を格納しているAR管理サーバに対して、前記コンテキスト情報に対応するAR情報を提供するように要求することと、
前記AR管理サーバから前記AR情報を受信することと、
をさらに含むことを特徴とする請求項17に記載の方法。
【請求項19】
前記ARタグを生成することは、前記コンテキスト情報に対応する前記AR情報に基づいて前記ARタグを生成することを含み、前記コンテキストはユーザ装置に格納されていることを特徴とする請求項17に記載の方法。
【請求項20】
前記タグ生成を生成することは、AR情報に基づいて三次元ARタグを生成することを含むことを特徴とする請求項17に記載の方法。
【請求項21】
前記ARタグを生成することは、前記ターゲットオブジェクトの輪郭に沿った1以上の面を有するARタグを生成することを含むことを特徴とする請求項20に記載の方法。
【請求項22】
前記表示することは、前記ターゲットオブジェクトと前記カメラ間の前記第1の方位角に基づくAR情報を、前記ARタグの前記1以上の面上に表示することを含むことを特徴とする請求項21に記載の方法。
【請求項23】
前記表示されたARタグを回転させるようにというユーザ入力を受信することと、
前記受信したユーザ入力に応じて前記表示されたARタグを回転させることにより、前記ターゲットオブジェクトのAR情報であって第2の方位角に対応するAR情報を提供することと、
をさらに含むことを特徴とする請求項20に記載の方法。
【請求項24】
前記生成したARタグの第2の面が選択されたことを感知することと、
前記選択された第2の面に応じて前記ARタグを回転させ、それにより前記第2の面がユーザに対向するようにすることと、
前記ターゲットオブジェクトのAR情報であって第2の方位角に対応するAR情報を前記第2の面上に表示することと、
をさらに含むことを特徴とする請求項21に記載の方法。
【請求項25】
前記ターゲットオブジェクトをキャプチャしているユーザ装置が回転した場合、前記ターゲットオブジェクトに対する第2の位置で見られる前記ターゲットオブジェクトに向かう方向の第2の方位角に対応するARタグを生成することをさらに含むことを特徴とする請求項17に記載の方法。
【請求項26】
拡張現実(AR)サービスを提供する方法であって、前記方法は、
ターゲットオブジェクトの画像をキャプチャすることと、
前記キャプチャした画像の位置情報及び前記キャプチャした画像の画像データを含むコンテキスト情報を収集することと、
前記収集したコンテキスト情報をAR管理サーバに送信して前記ターゲットオブジェクトのAR情報を第1の方位角用に格納することと、
前記ターゲットオブジェクトの前記AR情報を前記AR管理サーバから受信することと、
前記ターゲットオブジェクトとカメラ間の前記第1の方位角に対応する前記AR情報に基づいてARタグを生成することと、
前記ターゲットオブジェクトの前記キャプチャした画像及び前記ARタグを表示することと、
を含むことを特徴とする方法。
【請求項27】
前記コンテキスト情報は、前記ターゲットオブジェクトと前記カメラ間の第2の方位角の方位角情報をさらに含み、
前記ARタグを生成することは、前記第2の方位角情報に対応するAR情報に基づいて前記ARタグを生成することを含むことを特徴とする請求項26に記載の方法。
【請求項28】
前記ARタグを生成することは、前記コンテキスト情報に対応するAR情報に基づいて三次元ARタグを生成することを含むことを特徴とする請求項26に記載の方法。
【請求項29】
前記ARタグを生成することは、前記ターゲットオブジェクトの輪郭に沿った1以上の面を有する前記ARタグを生成することと、
前記ARタグの1以上の面に、前記ターゲットオブジェクトと前記カメラ間の前記第1の方位角に基づく前記AR情報を表示することと、
をさらに含むことを特徴とする請求項26に記載の方法。
【請求項1】
拡張現実(AR)サービスを提供するユーザ装置であって、前記ユーザ装置は、
ターゲットオブジェクトの画像をキャプチャする撮影部と、
前記撮影部の位置情報及び前記ターゲットオブジェクトと前記撮影部間の第1の方位角情報を含む、前記ターゲットオブジェクトの前記キャプチャした画像のコンテキスト情報を収集する情報収集部と、
第1の方向に基づいたARタグであって前記コンテキスト情報に対応するARタグを生成するタグ生成部と、
前記ターゲットオブジェクトの前記キャプチャした画像及び前記ARタグを表示する表示部と、
を備えることを特徴とするユーザ装置。
【請求項2】
前記コンテキスト情報に対応するAR情報を格納するAR管理サーバと、
前記AR管理サーバと通信する通信部と、
前記通信部を制御して前記AR管理サーバに前記AR情報を送信させる制御部と、
をさらに備えることを特徴とする請求項1に記載のユーザ装置。
【請求項3】
前記コンテキスト情報に対応するAR情報を格納するストレージ部、をさらに備え、
前記タグ生成部は、前記ストレージ部から収集した前記AR情報に基づいて前記ARタグを生成することを特徴とする請求項1に記載のユーザ装置。
【請求項4】
前記タグ生成部は、前記AR情報に基づいて三次元ARタグを生成することを特徴とする請求項1に記載のユーザ装置。
【請求項5】
前記タグ生成部は、前記ターゲットオブジェクトの輪郭に沿った1以上の面を有するARタグを生成することを特徴とする請求項4に記載のユーザ装置。
【請求項6】
前記ターゲットオブジェクトと前記撮影部間の方位角に基づく様々な異なるAR情報が前記ARタグの前記1以上の面上に表示されることを特徴とする請求項5に記載のユーザ装置。
【請求項7】
前記表示されたARタグを回転させるようにというユーザ入力を受信するユーザ入力部、をさらに備え、
前記タグ生成部は、前記受信したユーザ入力に応じて前記表示されたARタグを回転させることにより、前記ターゲットオブジェクトのAR情報であって第2の方位角に対応するAR情報を提供することを特徴とする請求項4に記載のユーザ装置。
【請求項8】
前記ARタグを表示する第2の面が選択されたということを受信するユーザ入力部、をさらに備え、
前記タグ生成部は、前記選択された第2の面に応じて前記ARタグを回転させ、それにより前記第2の面をユーザに対向させ、前記ターゲットオブジェクトのAR情報であって第2の方位角に対応するAR情報を前記第2の面上に提供することを特徴とする請求項1に記載のユーザ装置。
【請求項9】
前記ターゲットオブジェクトをキャプチャしている前記ユーザ装置が前記ターゲットオブジェクトに対する第2の方向に移動した場合、前記タグ生成部は、前記第2の方向に見られる前記ターゲットオブジェクトに向かう方向の前記第1の方位角に対応するARタグを生成することを特徴とする請求項1に記載のユーザ装置。
【請求項10】
拡張現実(AR)サービスを提供するユーザ装置であって、前記ユーザ装置は、
ターゲットオブジェクトの画像をキャプチャする撮影部と、
前記撮影部の位置情報及び前記ターゲットオブジェクトの画像データを含む、前記ターゲットオブジェクトの前記キャプチャした画像のコンテキスト情報を収集する情報収集部と、
前記収集したコンテキスト情報をAR管理サーバに送信し、前記AR管理サーバから前記ターゲットオブジェクトのAR情報を受信する通信部であって、前記AR管理サーバは、前記キャプチャした画像の方位角情報に基づいて前記ターゲットオブジェクトの前記AR情報を格納している、通信部と、
前記ターゲットオブジェクトと前記撮影部間の第1の方位角に対応するAR情報に基づいてARタグを生成するタグ生成部と、
前記ターゲットオブジェクトの前記キャプチャした画像及び前記生成したARタグを表示する表示部と、
を備えることを特徴とするユーザ装置。
【請求項11】
前記情報収集部は、前記ターゲットオブジェクトと前記撮影部間の前記第1の方位角の方位角情報をさらに収集し、
前記収集した方位角情報が変化した場合、前記タグ生成部は、第2の方位角情報に対応するAR情報に基づいてARタグを生成することを特徴とする請求項10に記載のユーザ装置。
【請求項12】
前記タグ生成部は、前記AR情報に基づいて三次元ARタグを生成することを特徴とする請求項10に記載のユーザ装置。
【請求項13】
前記タグ生成部は、前記オブジェクトの輪郭に沿った1以上の面を有するARタグを生成することを特徴とする請求項12に記載のユーザ装置。
【請求項14】
前記ターゲットオブジェクトと前記撮影部間の方位角に基づく前記AR情報が、前記ARタグの1以上の面上に表示されることを特徴とする請求項13に記載のユーザ装置。
【請求項15】
前記表示されたARタグを回転させるようにというユーザ入力を受信するユーザ入力部であって、前記表示されたARタグは前記受け取ったユーザ入力に応じた第2の位置まで回転する、ユーザ入力部を、さらに備え、
前記タグ生成部は、前記ターゲットオブジェクトのAR情報であって前記ARタグの前記第2の位置に対応する第2の方位角に対応するAR情報を提供することを特徴とする請求項12に記載のユーザ装置。
【請求項16】
前記ユーザ装置が回転した場合、前記タグ生成部は、前記ターゲットオブジェクトに対する第2の位置で見られる前記ターゲットオブジェクトに向かう方向の第2の方位角に対応するARタグを生成することを特徴とする請求項10に記載のユーザ装置。
【請求項17】
拡張現実(AR)サービスを提供する方法であって、前記方法は、
カメラでターゲットオブジェクトの画像をキャプチャすることと、
前記ターゲットオブジェクトの前記キャプチャした画像の位置情報及び前記ターゲットオブジェクトと前記カメラ間の第1の方位角情報を含むコンテキスト情報を収集することと、
前記コンテキスト情報に対応するARタグを生成することと、
前記ターゲットオブジェクトの前記キャプチャした画像及び前記生成したARタグを表示することと、
を含むことを特徴とする方法。
【請求項18】
前記AR情報を格納しているAR管理サーバに対して、前記コンテキスト情報に対応するAR情報を提供するように要求することと、
前記AR管理サーバから前記AR情報を受信することと、
をさらに含むことを特徴とする請求項17に記載の方法。
【請求項19】
前記ARタグを生成することは、前記コンテキスト情報に対応する前記AR情報に基づいて前記ARタグを生成することを含み、前記コンテキストはユーザ装置に格納されていることを特徴とする請求項17に記載の方法。
【請求項20】
前記タグ生成を生成することは、AR情報に基づいて三次元ARタグを生成することを含むことを特徴とする請求項17に記載の方法。
【請求項21】
前記ARタグを生成することは、前記ターゲットオブジェクトの輪郭に沿った1以上の面を有するARタグを生成することを含むことを特徴とする請求項20に記載の方法。
【請求項22】
前記表示することは、前記ターゲットオブジェクトと前記カメラ間の前記第1の方位角に基づくAR情報を、前記ARタグの前記1以上の面上に表示することを含むことを特徴とする請求項21に記載の方法。
【請求項23】
前記表示されたARタグを回転させるようにというユーザ入力を受信することと、
前記受信したユーザ入力に応じて前記表示されたARタグを回転させることにより、前記ターゲットオブジェクトのAR情報であって第2の方位角に対応するAR情報を提供することと、
をさらに含むことを特徴とする請求項20に記載の方法。
【請求項24】
前記生成したARタグの第2の面が選択されたことを感知することと、
前記選択された第2の面に応じて前記ARタグを回転させ、それにより前記第2の面がユーザに対向するようにすることと、
前記ターゲットオブジェクトのAR情報であって第2の方位角に対応するAR情報を前記第2の面上に表示することと、
をさらに含むことを特徴とする請求項21に記載の方法。
【請求項25】
前記ターゲットオブジェクトをキャプチャしているユーザ装置が回転した場合、前記ターゲットオブジェクトに対する第2の位置で見られる前記ターゲットオブジェクトに向かう方向の第2の方位角に対応するARタグを生成することをさらに含むことを特徴とする請求項17に記載の方法。
【請求項26】
拡張現実(AR)サービスを提供する方法であって、前記方法は、
ターゲットオブジェクトの画像をキャプチャすることと、
前記キャプチャした画像の位置情報及び前記キャプチャした画像の画像データを含むコンテキスト情報を収集することと、
前記収集したコンテキスト情報をAR管理サーバに送信して前記ターゲットオブジェクトのAR情報を第1の方位角用に格納することと、
前記ターゲットオブジェクトの前記AR情報を前記AR管理サーバから受信することと、
前記ターゲットオブジェクトとカメラ間の前記第1の方位角に対応する前記AR情報に基づいてARタグを生成することと、
前記ターゲットオブジェクトの前記キャプチャした画像及び前記ARタグを表示することと、
を含むことを特徴とする方法。
【請求項27】
前記コンテキスト情報は、前記ターゲットオブジェクトと前記カメラ間の第2の方位角の方位角情報をさらに含み、
前記ARタグを生成することは、前記第2の方位角情報に対応するAR情報に基づいて前記ARタグを生成することを含むことを特徴とする請求項26に記載の方法。
【請求項28】
前記ARタグを生成することは、前記コンテキスト情報に対応するAR情報に基づいて三次元ARタグを生成することを含むことを特徴とする請求項26に記載の方法。
【請求項29】
前記ARタグを生成することは、前記ターゲットオブジェクトの輪郭に沿った1以上の面を有する前記ARタグを生成することと、
前記ARタグの1以上の面に、前記ターゲットオブジェクトと前記カメラ間の前記第1の方位角に基づく前記AR情報を表示することと、
をさらに含むことを特徴とする請求項26に記載の方法。
【図1】
【図2】
【図3】
【図4A】
【図4B】
【図4C】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4A】
【図4B】
【図4C】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2012−84146(P2012−84146A)
【公開日】平成24年4月26日(2012.4.26)
【国際特許分類】
【出願番号】特願2011−220789(P2011−220789)
【出願日】平成23年10月5日(2011.10.5)
【出願人】(505463102)パンテック カンパニー リミテッド (89)
【Fターム(参考)】
【公開日】平成24年4月26日(2012.4.26)
【国際特許分類】
【出願日】平成23年10月5日(2011.10.5)
【出願人】(505463102)パンテック カンパニー リミテッド (89)
【Fターム(参考)】
[ Back to top ]