説明

投稿情報制御装置、投稿情報制御システム及び投稿情報制御方法

【課題】ユーザにより投稿された情報を端末に表示させることができる投稿情報制御装置、投稿情報制御システム及び投稿情報制御方法を提供する。
【解決手段】現実空間を撮影した映像又は画像にPOI情報のアイコンを重畳して表示する端末装置100に対してPOI情報を配信するARサーバ300であって、POIに付加する付加情報を投稿元の端末装置100から取得する通信部301と、付加情報をPOIと関連付けて記録するコメント入力部304と、配信先の端末装置100の位置情報に基づいて、当該端末装置100に対してPOI情報及び当該POI情報に対応するPOIに関連付けされた付加情報を配信するPOI情報・コメント抽出部303及び通信部301と、を備えて構成される。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、投稿情報制御装置、投稿情報制御システム及び投稿情報制御方法に関する。
【背景技術】
【0002】
従来、現実環境にコンピュータを用いて情報を付加提示する拡張現実感(AR:Augmented Reality)システムが知られている(例えば、特許文献1参照)。特許文献1記載の装置は、コンピュータ上の地理的情報と実風景の景観画像中の各部分とを対応付けてユーザに提示するものである。
【0003】
また、近年では、携帯電話向けのARシステムが情報サービスプラットフォームの新しい形として注目を集めている。携帯電話向けARシステムの代表的な例では、カメラ機能付き携帯電話が位置情報をサーバへ送信し、サーバが携帯電話の現在地周辺にあるPOI(Point of Interest)情報を携帯電話へ送信し、携帯電話がカメラで取得されたライブ画像のPOIに相当する位置にPOI情報のアイコン(グラフィックスオブジェクト)を重畳して表示することが行われている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平10−267671号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ARシステムが新たな情報サービスプラットフォームとして発展するために、ユーザが情報発信できる環境とすることが望まれている。例えば、店舗等のPOI情報に対してユーザがコメントを追加したり、店舗等のPOI情報に対して店舗側がセールに関する情報等を追加したりすることができることが好ましい。
【0006】
上記事情に鑑み、本発明はユーザにより投稿された情報を端末に表示させることができる投稿情報制御装置、投稿情報制御システム及び投稿情報制御方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
すなわち、本発明に係る投稿情報制御装置は、現実空間を撮影した映像又は画像にオブジェクトを重畳して表示する端末に対して前記オブジェクトに関するオブジェクト情報を配信する投稿情報制御装置であって、前記オブジェクトに付加する付加情報を投稿元の前記端末から取得する付加情報取得手段と、前記付加情報を前記オブジェクトと関連付けて記録する付加情報記録手段と、配信先の前記端末の位置情報に基づいて、当該端末に対して前記オブジェクト情報及び当該オブジェクト情報に対応する前記オブジェクトに関連付けされた前記付加情報を配信する情報配信手段と、を備えて構成される。
【0008】
本発明に係る投稿情報制御装置では、付加情報取得手段により、オブジェクトに付加する付加情報が投稿元の端末から取得され、付加情報記録手段により、付加情報がオブジェクトと関連付けられて記録され、情報配信手段により、配信先の端末の位置情報に基づいて当該端末に対してオブジェクト情報及び当該オブジェクト情報に関するオブジェクトに関連付けされた付加情報が配信される。このように、投稿元の端末から投稿された付加情報をオブジェクトと関連付けして記録しておくことができるので、例えば配信先の端末にオブジェクト情報を配信する際に付加情報を送信することが可能となる。このため、例えば配信先の端末がオブジェクトとともに付加情報を表示することができるので、ユーザにより投稿された情報を端末に表示させることが可能となる。
【0009】
ここで、前記付加情報取得手段は、前記オブジェクトを表示している端末から前記付加情報を取得してもよい。このように構成することで、オブジェクトを表示している端末を利用しているユーザにより投稿された付加情報を取得することができる。
【0010】
また、前記付加情報記録手段は、前記付加情報を予め保有された前記オブジェクト情報に追加登録してもよい。このように構成することで、例えばオブジェクト情報と同一のテーブル形式で管理することができるので、1つのテーブルを用いて管理をすることが可能となる。
【0011】
あるいは、前記付加情報記録手段は、前記付加情報と予め保有された前記オブジェクトを示す番号と関連付けし、前記オブジェクト情報とは別に前記付加情報を登録又は管理してもよい。このように構成することで、オブジェクト情報と付加情報とを切り離して管理することができるので、信頼性、保守性等を向上させることが可能となる。
【0012】
また、本発明に係る投稿情報制御システムは、現実空間を撮影した映像又は画像にオブジェクトを重畳して表示する端末と、前記端末と通信可能に構成され前記オブジェクトに関するオブジェクト情報を前記端末へ配信する投稿情報制御装置と、を備える投稿情報制御システムであって、投稿元の前記端末は、前記オブジェクトに付加する付加情報を前記投稿情報制御装置へ送信する端末側送信手段を備え、前記投稿情報制御装置は、投稿元の前記端末により送信された前記付加情報を前記オブジェクトと関連付けて記録する付加情報記録手段と、配信先の前記端末の位置情報に基づいて、当該端末に対して前記オブジェクト情報及び当該オブジェクト情報に対応する前記オブジェクトに関連付けされた前記付加情報を配信する情報配信手段と、を備え、配信先の前記端末は、前記投稿情報制御装置により配信された前記オブジェクト情報に対応する前記オブジェクトに前記付加情報を付加して表示するとともに前記オブジェクトと前記付加情報との関連をグラフィカルに表示する画像表示制御手段を備えること、を特徴として構成される。
【0013】
本発明に係る投稿情報制御システムでは、投稿元の端末の端末側送信手段により、オブジェクトに付加する付加情報が投稿情報制御装置へ送信され、投稿情報制御装置の付加情報記録手段により、投稿元の端末により送信された付加情報がオブジェクトと関連付けられて記録され、情報配信手段により、配信先の端末の位置情報に基づいて当該端末に対してオブジェクト情報及び当該オブジェクト情報に対応するオブジェクトに関連付けされた付加情報が配信され、配信先の端末の画像表示制御手段により、投稿情報制御装置により配信されたオブジェクト情報に対応するオブジェクトに付加情報が付加されて表示されるとともに、オブジェクトと付加情報との関連付けがグラフィカルに表示される。このように、投稿元の端末から投稿された付加情報を、投稿情報制御装置がオブジェクトと関連付けして記録しておくことができるので、投稿情報制御装置が配信先の端末にオブジェクト情報を配信する際に付加情報を送信することが可能となる。このため、配信先の端末がオブジェクトとともに付加情報を表示することができる。よって、ユーザにより投稿された情報を端末に表示させることが可能となる。さらに、オブジェクトと付加情報との関連をグラフィカルに表示することができるので、どのオブジェクトに投稿された情報であるかをユーザが直感的に理解することが可能となる。
【0014】
ここで、前記画像表示制御手段は、前記オブジェクトから吹き出した形状に前記付加情報のアイコンを表示することによって前記オブジェクトと前記付加情報との関連をグラフィカルに表示してもよい。あるいは、前記画像表示制御手段は、前記オブジェクトと前記付加情報のアイコンとの間を線で結ぶことによって前記オブジェクトと前記付加情報との関連をグラフィカルに表示してもよい。
【0015】
また、前記画像表示制御手段は、前記オブジェクトに関連付けされた前記付加情報が複数存在する場合には、複数の前記付加情報を集約アイコンで表示するとともに、前記集約アイコンが選択された場合には集約された前記付加情報が掲載された一覧画面を表示してもよい。このように構成することで、画面が煩雑にならないように投稿された情報を表示することができる。
【0016】
また、前記付加情報は、テキスト、画像、動画もしくは音声又はこれらの組合せからなり、前記情報配信手段は、前記付加情報を示すエントリ及び前記オブジェクト情報を配信し、配信先の前記端末は、前記画像表示制御手段により表示された前記付加情報が選択された場合には前記エントリに基づいて前記付加情報を取得する付加情報取得手段を備えることを特徴として構成されてもよい。このように構成することで、付加情報のうち選択された付加情報の情報のみを取得することができるので、通信負荷の軽減化及びリソースの効率化を図ることができる。
【0017】
また、本発明に係る投稿情報制御方法は、現実空間を撮影した映像又は画像にオブジェクトを重畳して表示する端末と、前記端末と通信可能に構成され前記オブジェクトに関するオブジェクト情報を前記端末へ配信する投稿情報制御装置と、を備える投稿情報制御システムの投稿情報制御方法であって、投稿元の前記端末が前記オブジェクトに付加する付加情報を前記投稿情報制御装置へ送信する付加情報送信ステップと、前記投稿情報制御装置が投稿元の前記端末により送信された前記付加情報を前記オブジェクトと関連付けて記録する付加情報記録ステップと、前記投稿情報制御装置が、配信先の前記端末の位置情報に基づいて、当該端末に対して前記オブジェクト情報及び当該オブジェクト情報に関するオブジェクトに関連付けされた前記付加情報を配信する情報配信ステップと、配信先の前記端末が、前記投稿情報制御装置により配信された前記オブジェクト情報に関するオブジェクトに前記付加情報を付加して表示するとともに前記オブジェクトと前記付加情報との関連をグラフィカルに表示する画像表示制御ステップと、を備えて構成される。
【0018】
本発明に係る投稿情報制御方法によれば、上述した投稿情報制御システムと同様の効果を奏する。
【発明の効果】
【0019】
本発明によれば、ユーザにより投稿された情報を端末に表示させることができる。
【図面の簡単な説明】
【0020】
【図1】実施形態に係る投稿情報制御システムの構成を示す概略図である。
【図2】図1中の端末装置の機能ブロック図である。
【図3】図1中のARサーバの機能ブロック図である。
【図4】POI情報のデータ定義の一例である。
【図5】実施形態に係る投稿情報制御システムの動作を示すフローチャートである。
【図6】実施形態に係る投稿情報制御システムの動作を示すフローチャートである。
【図7】コメントを表示する画面図の一例である。
【図8】複数コメントを表示する画面図の一例である。
【発明を実施するための形態】
【0021】
以下、添付図面を参照して本発明の実施形態に係る投稿情報制御装置、投稿情報制御システム及び投稿情報制御方法について説明する。なお、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。
【0022】
本実施形態に係る投稿情報制御装置、投稿情報制御システム及び投稿情報制御方法は、例えば、携帯電話向けの拡張現実感サービスに好適に採用されるものである。
【0023】
図1は、本発明の実施形態に係る拡張現実感システム(ARシステム、投稿情報制御システム)1の構成を概略的に示した図面である。図1に示すように、ARシステム1は、端末装置100及び拡張現実感情報を端末装置100に提供する拡張現実感サーバ(ARサーバ、投稿情報制御装置)300を備えている。
【0024】
端末装置100は、通信網150と接続して通信を行う携帯電話等のモバイル端末であって、後述するようにイメージ取得機能を備えたカメラ部及び表示部を備えている。ARサーバ300は、通信網150と接続されたネットワーク200と接続されたサーバコンピュータシステムであり、同様にネットワーク200と接続された外部サーバであるコンテンツサーバ371及び端末装置100と通信可能な構成となっている。なお、ARサーバ300は、ネットワーク200と接続された外部サーバである地図情報サーバ(不図示)、経路情報サーバ(不図示)と通信可能に構成されていてもよい。このような構成のARシステム1は、端末装置100のユーザが実空間に向けたカメラで取得した画像に、ARサーバ300が提供する情報を重畳することにより、ユーザに拡張現実感を与えるサービスを提供するものである。以下、端末装置100及びARサーバ300について詳細に説明する。
【0025】
最初に、端末装置100について説明する。図2は本実施形態における端末装置100の機能ブロック図である。この端末装置100は、主として、端末の位置情報を取得する位置情報取得部101と、画面を表示する表示部102と、ユーザのキー操作による入力を受け付ける入力部103と、端末が向いている方位を検出する方位センサ104と、通信網150と接続して通信を行う通信部(端末側送信手段)105と、実空間の映像を取得するカメラ部106と、所定のプログラム及びデータを記憶する記憶部107と、各部の動作を制御するとともに所定の情報処理を実現するARクライアント処理部(画像表示制御手段)108とから構成されている。
【0026】
位置情報取得部101は、例えば、複数のGPS(Global Positioning System)衛星からの電波を受信して、それらの強度から現在の端末位置情報を取得するGPSモジュールを用いる構成とされている。また、GPS方式に加えて、通信部105を介して通信網150と通信することにより端末の近くに存在する衛星の情報をアシストデータとして取得し、位置測位を行うAGPS(Assisted Global Positioning System)方式に対応したモジュールを利用し、端末位置情報をより高速かつ正確に取得してもよい。ただし、位置情報取得システムはGPSまたはAGPSを利用するものに限られるものではなく、GPSに依存することなく端末位置情報を取得する構成とすることも可能である。例えば、WiFiやBluetooth(登録商標)等の無線通信基地局を空間内に複数配設し、それらからの電波強度により端末位置情報を取得する方式を利用してもよいし、このような方式をGPS又はAGPSに併用する方式を利用することも可能である。
【0027】
表示部102は、画面表示を行うためのLCDモジュール及びLCDコントローラと、画面にユーザがタッチする操作に反応し、ユーザの接触位置を検出するセンサモジュール及び位置検出部とを備え、画面表示機能及びタッチパネル機能を実現したものである。すなわち、表示部102は、ARクライアント処理部108からのデータ及び制御信号をLCDコントローラで受け付けて所定の画面をLCDモジュールで表示するとともに、画面をタッチするユーザの操作をセンサモジュールで受け付けて位置検出部にて接触位置を検出し、その接触位置に関する位置信号をARクライアント処理部108に入力として通知するものである。端末装置100は、後述する動作に従って、カメラ部106により取得した実空間の映像にARサーバ300から取得した情報を付加して表示することによりユーザに拡張現実感を提供し、また表示機能及びタッチパネル機能によりユーザインターフェイスを提供する。
【0028】
入力部103は、端末装置100の筐体に設けられたキーパッド、又はその他ボタン等の入力装置であり、ユーザが操作することにより各キーまたはボタンに応じた信号であるキーイベントがARクライアント処理部108へ通知され、種々の操作ないしは制御に利用される。例えば、表示部102により表示中の拡張現実感情報(オブジェクト情報)のアイコン(オブジェクト)を選択して、コメントを入力できる構成とされており、入力されたコメントは、拡張現実感情報と関連付けされた状態でARクライアント処理部108へ出力される。なお、入力部103は、テキスト、画像、動画もしくは音声又はこれらの組合せをコメントとして入力してもよい。
【0029】
方位センサ104は、自分が向いている方向の姿勢・角度を検出し、それに相当する信号をARクライアント処理部108に出力するモジュールである。ARクライアント処理部108は、方位センサ104の検出値からユーザが端末装置100を保持している姿勢・角度を認識することが可能である。このような方位センサ104には複数の地磁気センサを組み合わせたものを利用することが可能であり、さらに地磁気センサに加えて複数の加速度センサを組み合わせたモーションセンサを用いてもよい。3軸方向の地磁気センサと3軸方向の加速度センサとを組み合わせた6軸センサ、3軸方向の地磁気センサと2軸方向の加速度センサとを組み合わせた5軸センサ、また、加速度センサの代わりにジャイロを用いる場合等は、いずれもモーションセンサとして方位センサ104に利用することができる。このようにモーションセンサを利用した場合には、端末装置100の姿勢・角度に関する情報だけでなく、ユーザが端末装置100を動かしたり傾けたりした動作の向き及び速さを検出することが可能となる。
【0030】
通信部105は、通信網150と接続して、他の端末装置やサーバシステムと通信を行うためのモジュールである。ここでの通信としては、例えば、他の端末装置と通信接続して行う回線交換型通信、通信網150を介してネットワーク200に接続されたサーバシステムと行うパケット交換型通信等を挙げることができる。また、AGPS方式により端末位置情報を取得する場合には、通信部105は位置情報取得部101と協調動作して端末位置情報の取得を補助する。
【0031】
カメラ部106は、所定の光学系及び受像素子を有し、デジタル画像を取得する機能を提供するモジュールである。端末装置100でデジタル画像を撮影する際には、起動されたカメラ部106は、通常、光学系の取得した被写体像から所定露光時間で受像素子によりデータを取得する処理を所定時間間隔で繰り返し、当該データを表示部102に表示することによりライブビュー機能を実現する。そして、その状態でユーザがさらに入力部103で所定の操作を行うことにより、カメラ部106は光学系の取得した被写体像から設定された撮影条件で画像データを生成し、生成された画像データは記憶部107に保存される。ARシステム1は、上述のライブビュー機能により表示部102に表示される実空間映像に拡張現実感をもたらす情報を表示するものである。
【0032】
記憶部107は、所定の情報をARクライアント処理部108の制御下で記憶し、また記憶している情報をARクライアント処理部108に提供するためのメモリである。また、記憶部107は、ARクライアント処理部108で実行される種々のプログラムを記憶しており、ARクライアント処理部108はこれを適宜読み出して実行する。記憶部107は一様な構成である必要はなく、ROM、RAM、Flash ROM等の各種メモリを適宜組み合わせて構成することが可能であり、さらにHDDのような二次記憶装置を組み合わせるようにしても構わない。また、記憶部107は、後述するARサーバ300から提供された種々の拡張現実感情報を記憶している。記憶部107が記憶している拡張現実感情報(オブジェクト情報)には、POI情報が含まれる。拡張現実感情報は、端末装置100からのリクエストに応じてARサーバ300からレスポンスとして返されたものである。
【0033】
ARクライアント処理部108は、不図示のCPU上で記憶部107に記憶されたプログラムを実行することにより仮想的に構成される機能ブロックであって、端末装置100の位置情報取得部101、表示部102、入力部103、方位センサ104、通信部105、カメラ部106及び記憶部107といった各機能ブロックとの間でデータ及び制御信号をやり取りすることにより、端末装置100の各種機能を実現するものである。また、ARクライアント処理部108は、入力部103を介してユーザが入力したコメント(付加情報)等を、通信部105を介してARサーバ300へ送信する。なお、送信されるコメントは、拡張現実感情報と関連付けされた状態でARサーバ300へ送信される。さらに、ARクライアント処理部108は、位置情報取得部101が取得した端末位置情報をARサーバ300へ送信してリクエストすることにより、ARサーバ300から端末位置情報に応じた拡張現実感情報のレスポンスを受けて、拡張現実感をユーザに提供する。例えば、ARクライアント処理部108は、カメラ部106の撮影した実空間の映像を表示部102に表示させつつ、拡張現実感情報を実空間の映像に重畳する表示位置を決定し、当該表示位置に当該拡張現実感情報と対応したグラフィックスオブジェクトを重畳して描画する処理を行う。この時、当該拡張現実感情報に関連する投稿コメントをARサーバ300から受信した場合には、投稿コメントに関するグラフィックスオブジェクトも重畳して描画する。以下、このような処理について詳細に説明する。
【0034】
まず、カメラ部106の姿勢及び角度に基づいて拡張現実感情報の表示位置を決定し、実空間の映像に重畳して表示部に表示させる処理について説明する。この処理では、まず、方位センサ104の検出値からカメラの向いている姿勢・方向を導出し、カメラの水平方向視野角及び垂直方向視野角に基づいて、記憶部107に記憶されている拡張現実感情報がカメラ部106の視野に入るか否かを判定し、結果を記憶部107に記録する。続いて、視野内であると判定された拡張現実感情報について、端末装置100の現在の端末位置を原点とした座標空間に配置したと想定し、原点の所定高さを中心点としてカメラの水平方向視野角及び垂直方向視野角並びに映像サイズに基づいて原点から所定距離に定まる矩形平面に各拡張現実感情報を透過投影する処理を行い、透過投影された位置をもって表示位置と決定する。ここで、透過投影する中心点の高さについては、ユーザが立った状態で端末装置100を使用する状況を再現するために、1.5m程度の高さとすることが好適である。
【0035】
上記処理の後、決定された表示位置に各拡張現実感情報を描画することにより実空間映像に重畳させて表示する処理を行う。ユーザにより投稿されたコメント情報も受信している場合には、投稿コメントに関するコメント情報も実空間映像に重畳させて表示する処理を行う。このような処理についての制限は特にないが、各拡張現実感情報又はコメント情報が所定の表示位置に描画されて残部が透明の画面レイヤーを作成し、この画面レイヤーを実空間映像に重ねて表示部102に表示させることができ、これにより実空間映像の適切な位置に拡張現実感情報又はコメント情報が表示される。この際、拡張現実感情報及びコメント情報は、アイコン、情報バルーン、サブウィンドウ等のグラフィックスオブジェクトとして画面上に表示される。タッチパネル機能を利用した物理的な操作をともなう視覚性及び認識性に優れたインターフェイスによって、端末装置100は優れた拡張現実感をもたらす。
【0036】
次に、ARサーバ300について説明する。このARサーバ300は、例えばWebサーバの常駐したサーバシステムであり、端末装置100からのリクエストを通信網150及びネットワーク200を介して受け付け、必要に応じてネットワーク200に接続されたコンテンツサーバ371からデータを取得して、拡張現実感情報として端末装置100にレスポンスする処理を行う。より具体的には、ARサーバ300は、端末装置100により送信された端末装置100の位置情報を通信網150及びネットワーク200を介して受信するとともに、拡張現実感情報を外部のコンテンツサーバ371から収集し、端末装置100の現在位置から所定範囲内のPOI情報を端末装置100へ送信する。また、ARサーバ300は、端末装置100により送信されたコメント情報を通信網150及びネットワーク200を介して受信して記録する。そして、ARサーバ300は、端末装置100へ送信する拡張現実感情報にコメント情報が付加されている場合には、当該コメント情報も端末装置100へ送信する。
【0037】
ARサーバ300の構成について説明する。図3は、本実施形態におけるARサーバ300の機能ブロック図である。ARサーバ300は、物理的には、CPU、ROM、RAM等を備えるコンピュータシステムとして構成されている。後述する各構成要素は、CPUがROM又はRAM上に所定のソフトウェアを読み込ませ、ROM又はRAMに対してデータの読み書きを行うことで実現される。
【0038】
図3に示すように、ARサーバ300は、通信部(付加情報取得手段、情報配信手段)301、POI情報収集部302、POI情報・コメント抽出部(情報配信手段)303、コメント入力部(付加情報記録手段)304及びPOIデータ蓄積部316を備えている。
【0039】
通信部301は、ネットワーク200に接続して端末装置100、及びコンテンツサーバ371等の外部サーバと通信を行うネットワークモジュールであり、公知のものを使用することができる。
【0040】
POI情報収集部302は、コンテンツサーバ371から拡張現実感情報の一例であるPOI情報を取得する機能を有している。ここで、POIとは、現実空間に配置されたオブジェクトの一例であり、誰かの関心の対象となった特定の場所についての情報である。すなわち、POI情報は位置情報に関連付けられた情報全般を意味する。例えば、特定の場所にある施設、店舗についての情報であって、少なくとも位置情報(緯度、経度の情報)を含み、高度、施設・店舗の名称、電話番号、住所、URL又はメールアドレス等の情報が追加されたものである。POI情報はこれに限定されるものではなく、位置情報付きで公開された写真、動画、音声、メッセージ等であってもよい。また、位置情報を含むPOI情報に関連付けられた情報についてもPOI情報として取り扱うことができる。例えば、特定の場所にあるショッピングモールの情報(POI情報)に関連付けられたテナントショップに関する情報もPOI情報として取り扱うことが可能である。このような施設・店舗に関するPOI情報は、POI情報収集部302がコンテンツサーバ371から収集する。例えば、WebAPIを利用して取得することが可能である。POI情報収集部302は、収集したPOI情報をPOIデータ蓄積部316に蓄積する。
【0041】
コメント入力部304は、POIにコメントを付けるための入力を受け付け、POIデータ蓄積部316に登録する。例えば、通信部301が端末装置100により送信されたコメント情報を受信した場合には、コメント入力部304は、受信したコメント情報をPOIデータ蓄積部316に登録する。
【0042】
POIデータ蓄積部316は、POI情報収集部302及びコメント入力部304により登録されたPOI情報及びコメント情報が格納される。図4は、POIデータ蓄積部316に格納されたPOI情報のデータ定義の一例である。図4に示すように、POI情報は、例えば、識別番号を示すpoi_id、名前を示すname(title)、位置情報を示すlat(緯度)、lon(経度)、高度情報を示すaltitude(高度)、内容を示すtel(電話番号)、address(住所)、url(WebページのURL)、email(メールアドレス)、コメント情報のリンク先のPOIを示すrelated_poi_id、コメント情報の内容テキストを示すtxt、コメント情報のデータ格納先を示すresource_urlにより定義される。ここで、poi_idについては、ARサーバ300が自動で付与し、name(title)、lat、lon、altitude、tel、address、url、emailについては、POI情報収集部302によりコンテンツサーバ371から取得される。また、related_poi_id、txt、resource_urlについては、端末装置100から受信する。このように、POIデータ蓄積部316は、ユーザが投稿したコメント情報とPOIとを関連付けした状態で格納している。なお、POIデータ蓄積部316に格納されるコメント情報は、poi_idが自動付与されるとともに、name(title)、lat、lon、altitude、tel、adress、url、emailの各項目はブランクのまま登録される。このように予め保有されたPOI情報と同一のフォーマット(テーブル形式)で追加登録することで、コメント情報をPOI情報と等価に扱うことができる。なお、コメント入力部304は、コメントと予め保有されたPOIとの関係を示すrelated_poi_idと関連付けすることにより、POI情報とは別にコメントを登録又は管理してもよい。このように構成することで、POI情報とコメントとを切り離して管理することができるので、信頼性、保守性等を向上させることが可能となる。
【0043】
テキスト形式のコメントの場合はtxtの項目にコメントの内容テキストが記録される。一方、画像、動画、音声をコメントとして投稿した場合にはtxtの項目に内容に応じた制御コードが記録され、resource_urlの項目にリソースデータの格納場所が記録される。リソースデータはARサーバ300に設定された格納場所に自動的に記録される。
【0044】
POI情報・コメント抽出部303は、端末装置100の位置情報に基づいて、端末装置100の端末位置情報を中心とした所定距離内に存在するPOI情報をPOIデータ蓄積部316から抽出する機能を有している。そして、POI情報・コメント抽出部303は、抽出されたPOI情報に対応するPOIに関連付けられたコメントをPOIデータ蓄積部316から抽出する機能を有している。
【0045】
次に、上述のように構成されたARシステム1における端末装置100及びARサーバ300の動作についてフローチャートを参照しながら説明する。最初に、端末装置100からコメント情報をARサーバ300へ投稿する動作を説明する。図5は、本実施形態におけるARシステム1の動作を示すフローチャートである。
【0046】
図5に示すように、端末装置100から処理を開始する。図5に示す制御処理は、端末装置100の入力部103がユーザ操作を受け付けて拡張現実感プログラムを起動することにより開始される。まず、端末装置100がライブビュー表示を開始する。例えば、カメラ部106及び各種センサ(位置情報取得部101及び方位センサ104)が起動し、初期画面としてライブビュー表示を開始する(S10)。ライブビュー表示は、常法にしたがって、起動されたカメラ部106の光学系により取得された被写体像から所定露光時間で受像素子により映像データを生成し、当該データを表示部102に表示させる処理を所定時間間隔で繰り返すことにより行われる。すなわち、ライブビュー表示では、撮像地点で撮像した撮像画像が表示部102に表示される。
【0047】
続いて、位置情報取得部101が端末装置100の現在の端末位置情報を取得する。そして、端末装置100が取得した端末位置情報をARサーバ300へ送信して拡張現実感情報をリクエストする(S12)。
【0048】
ARサーバ300の通信部301は、端末装置100から端末位置情報を受信し、POI情報・コメント抽出部303へ端末位置情報を出力する(S30)。POI情報・コメント抽出部303は、入力した端末位置情報を中心とした所定距離内に関連するPOI情報を、POIデータ蓄積部316から抽出する(S32)。そして、通信部301は、S32の処理で抽出されたPOI情報を端末装置100へ送信する(S34)。
【0049】
端末装置100の通信部105は、ARサーバ300によりレスポンスされた端末装置100周辺のPOI情報を受信し、記憶部107に記録する(S14)。そして、方位センサ104がカメラ部106の向いている方向(姿勢及び角度)を検出する(S16)。続いて、ARクライアント処理部108が、S16の処理で検出されたカメラ部106の姿勢及び角度の情報並びにS12の処理で取得された端末位置情報に基づいて、S14の処理で受信したPOI情報の関連付けられた地点がカメラ部106の視界に入るか否かを個々に判定し、カメラ部106の視界に入るPOI情報を抽出する(S18)。
【0050】
次に、端末装置100がライブビュー画面にPOI情報のアイコンを重畳する。ARクライアント処理部108が、位置情報及び方位情報に応じてライブビュー画面にPOI情報のアイコンを重畳する(S20)。例えば、ARクライアント処理部108は、現在の端末位置を原点とした座標空間に抽出されたPOI情報のアイコンを配置したと想定して、原点の所定高さを中心点としてカメラの水平方向視野角及び垂直方向視野角並びに映像サイズに基づいて原点から所定距離に定まる矩形平面に各POI情報のアイコンを透過投影する処理を行うことにより各情報の表示位置を算出する。続いて、算出された各情報の表示位置に基づいて、各POI情報のアイコンをライブビュー画面に重畳する。
【0051】
以上で、実空間の映像に拡張現実感情報を重畳する動作は終了してユーザの操作を待つ動作となる。ARクライアント処理部108が、ユーザにより入力部103を介してコメントの入力指示が行われた否かを判定する(S22)。例えば、ARクライアント処理部108は、ユーザがコメント入力対象のPOI情報を示すアイコンを選択したか否かを判定する。S22の処理において、ユーザによる入力指示を受け付けていないと判定した場合には、ユーザが所定のアイコンを選択するまでS22の判定処理を繰り返し実行する。一方、S22の処理において、入力指示を受け付けたと判定した場合には、ARクライアント処理部108は、コメント入力画面を表示部102に表示させ、コメントの入力を受け付ける(S24)。
【0052】
その後、ARクライアント処理部108は、コメント入力のために選択されたPOI情報のpoi_id、及びS24の処理で受け付けたコメントをARサーバ300へ送信する(S26、付加情報送信ステップ)。
【0053】
ARサーバ300の通信部301は、端末装置100からコメント及び関連するpoi_idを受信し、コメント入力部304へ出力する(S36)。コメント入力部304は、入力したコメント及び関連するpoi_idを、POIデータ蓄積部316へ蓄積する(S38、付加情報記録ステップ)。このように、ユーザが投稿したコメント情報とPOIとを関連付けした状態で格納する。そして、ARサーバ300は、コメント登録の完了を端末装置100へ通知し(S40)、動作を終了する。一方、端末装置100は、ARサーバ300から受信した登録完了通知を画面に表示し(S28)、動作を終了する。
【0054】
以上で図5に示す制御処理を終了する。図5に示す制御処理を実行することにより、端末装置100に入力されたコメントが、リンク先のpoi_idとともにARサーバ300へ送信され、POIデータ蓄積部316に新規データとして登録される。また、図5に示す制御処理を実行することにより、POI情報が提示されている状態でユーザにコメントを入力させることができるので、コメントの投稿を容易に行うことができる。
【0055】
次に、端末装置100がコメント情報を表示する動作を説明する。図6は、本実施形態におけるARシステム1の動作を示すフローチャートである。
【0056】
図6に示すように、端末装置100から処理を開始する。図6に示す制御処理は、端末装置100の入力部103がユーザ操作を受け付けて拡張現実感プログラムを起動することにより開始される(S50)。この処理は、図5のS10の処理と同様である。
【0057】
続いて、位置情報取得部101が端末装置100の現在の端末位置情報を取得して、ARサーバ300へ送信し拡張現実感情報をリクエストする。この処理は、図5のS12の処理と同様である。
【0058】
ARサーバ300の通信部301は、端末装置100から端末位置情報を受信し、POI情報・コメント抽出部303へ端末位置情報を出力する(S70)。POI情報・コメント抽出部303は、入力した端末位置情報を中心とした所定距離内に関連するPOI情報を、POIデータ蓄積部316から抽出する(S72)。S70、S72の処理は、図5のS30、S32の処理と同様である。そして、POI情報・コメント抽出部303は、S72の処理で抽出されたPOI情報に対応したPOIにリンクされたコメントを抽出する(S74)。そして、通信部301は、S72の処理で抽出されたPOI情報、及びS74の処理で抽出されたコメントを端末装置100へ送信し(S76、情報配信ステップ)、動作を終了する。
【0059】
端末装置100の通信部105は、ARサーバ300によりレスポンスされた端末装置100周辺のPOI情報及びコメントを受信し、記憶部107に記録する(S54)。ARクライアント処理部108は、コメントを記憶部107に記録する際にインデックスを作成する。そして、方位センサ104がカメラ部106の向いている方向(姿勢及び角度)を検出する(S56)。続いて、ARクライアント処理部108が、カメラ部106の視界に入るPOI情報を抽出する(S58)。S56、S58の処理は、図5のS16、S18の処理と同様である。
【0060】
次に、端末装置100がPOI情報のアイコンのレンダリングを行う(S60)。例えば、ARクライアント処理部108は、端末装置100の位置情報及び方位情報に基づいて表示位置を決定する。表示位置の決定方法は、図5のS20の処理と同様である。
【0061】
続いて、端末装置100がコメントのアイコンのレンダリングを行う(S62)。例えば、ARクライアント処理部108は、コメントのアイコン表示位置をS60の処理で決定したPOI情報のアイコンの近傍に決定する。ARクライアント処理部108は、コメントのアイコンがPOI情報のアイコンに隣接するように、例えば画面サイズや各アイコンの大きさを考慮して両者の距離が所定範囲内になるように決定する。
【0062】
そして、端末装置100がライブビュー画面にPOI情報及びコメントのアイコンを重畳して表示する(S64、画像表示制御ステップ)。ARクライアント処理部108が、S60、S62の処理で決定された各アイコンの表示位置に基づいて、各アイコンをライブビュー画面に重畳する。図7にコメントを表示した画面図の例を示す。図7では、POI情報が「レストランAAA」であり、POI情報のグラフィックスオブジェクトを丸形のアイコンとしている。ARクライアント処理部108は、例えば、図7の(a)に示すように、「レストランAAA」のアイコンとコメントのアイコンとの間を線で結ぶことによって、投稿先のPOIとコメントとの関連をグラフィカルに表示する。また、ARクライアント処理部108は、例えば、図7の(b)に示すように、「レストランAAA」のアイコンから吹き出した形状にコメントのアイコンを表示することによって投稿先のPOIとコメントとの関連をグラフィカルに表示する。なお、同一のPOIに対して複数のコメントが存在する場合には、画面の煩雑さを回避し直感的に複数のコメントが関連している旨をユーザに理解させるべく、集約アイコンを用いて表示してもよい。図8の(a)に複数コメントを表示した画面図の例を示す。図8の(a)は、図7の(a)の場面において、同一のPOIに対して複数のコメントが存在する場合を示している。集約アイコンは、複数のコメントが存在することを示すアイコンであって、例えば複数のアイコンの重なりを視覚的に表示させたものが用いられる。
【0063】
以上で、実空間の映像に拡張現実感情報を重畳する動作は終了してユーザの操作を待つ動作となる。ARクライアント処理部108が、ユーザにより入力部103を介してコメントの選択が行われた否かを判定する(S66)。S66の処理において、ユーザによる選択を受け付けていないと判定した場合には、ユーザがコメントのアイコンを選択するまでS66の判定処理を繰り返し実行する。一方、S66の処理において、選択を受け付けたと判定した場合には、一覧画面表示処理へ移行する。
【0064】
一覧画面表示処理では、ARクライアント処理部108は、記憶部107に記録されたコメントのインデックスを参照し、S66の処理で選択されたコメントと同じrelated_idを有するコメント、すなわち同一のPOIにされた投稿コメントを抽出して表示する。同じrelated_idを有するコメントが存在しない場合には、1つのコメントのみが表示される。一方、同一のPOIにされた投稿コメントが複数の場合には、一覧画面が表示される。図8の(b)に複数コメントを表示した画面図の例を示す。図8の(b)は、図8の(a)に示すコメントが選択された際に遷移する画面図の一例である。ARクライアント処理部108は、図8の(a)に示すコメントが選択された場合、図8の(b)に示すように、POI情報である「レストランAAA」に対する複数のコメント(例えば、口コミ等)を一覧表示する。S68の処理が終了すると、端末装置100の動作を終了する。
【0065】
以上で図6に示す制御処理を終了する。図6に示す制御処理を実行することにより、端末装置100のライブビュー画面にPOIと投稿されたコメントとが表示される。また、複数のコメントが投稿された場合であっても画面上に表示するアイコンの数を抑えることができるので、画面が煩雑となることを回避するとともに、視認及び操作対象としての選択を容易とすることができる。
【0066】
図6に示す制御処理では、いずれも所定のPOIに対して口コミのようなコメント、すなわちテキスト情報を付加情報として追加する場合を示したが、画像、動画、音声またはこれらの組み合わせであってもよい。この場合には、ARサーバ300のPOIデータ蓄積部316に格納されたコメント情報のresource_urlで指定された場所に、追加情報の実体である画像、動画または音声が格納され、これを表示または再生しようとする端末によって取得されることになる。
【0067】
上述したように、本実施形態に係るARサーバ300によれば、通信部301により、POIに付加するコメントが投稿元の端末装置100から取得され、コメント入力部304により、コメントがPOIと関連付けられて記録され、POI情報・コメント抽出部303及び通信部301により、配信先の端末装置100の位置情報に基づいて当該端末装置100に対してPOI情報又は当該POI情報に対応するPOIに関連付けされたコメントが配信される。このように、投稿元の端末装置100から投稿されたコメントをPOIと関連付けして記録しておくことができるので、例えば配信先の端末装置100にPOI情報を配信する際にコメントを送信することが可能となる。このため、例えば配信先の端末装置100がPOIとともにコメントを表示することができるので、ユーザにより投稿された情報を端末装置100に表示させることが可能となる。
【0068】
また、本実施形態に係るARシステム1又は投稿情報制御方法によれば、投稿元の端末装置100の通信部105により、POIに付加するコメントがARサーバ300へ送信され、ARサーバ300のコメント入力部304により、投稿元の端末装置100により送信されたコメントがPOIと関連付けられて記録され、POI情報・コメント抽出部303及び通信部301により、配信先の端末装置100の位置情報に基づいて当該端末装置100に対してPOI情報及び当該POI情報に対応するPOIに関連付けされたコメントが配信され、配信先の端末装置100のARクライアント処理部108により、ARサーバ300により配信されたPOIにコメントが付加されて表示されるとともに、POIとコメントとの関連付けがグラフィカルに表示される。このように、投稿元の端末装置100から投稿されたコメントを、ARサーバ300がPOIと関連付けして記録しておくことができるので、ARサーバ300が配信先の端末装置100にPOI情報を配信する際にコメントを送信することが可能となる。このため、配信先の端末装置100がPOIとともにコメントを表示することができる。よって、ユーザにより投稿された情報を端末装置100に表示させることが可能となる。さらに、POIとコメントとの関連をグラフィカルに表示することができるので、どのPOIに投稿された情報であるかをユーザが直感的に理解することが可能となる。
【0069】
なお、本発明の投稿情報制御装置、投稿情報制御システム及び投稿情報制御方法は、上記実施形態に限られるものではなく、種々変形が可能である。例えば、上記実施形態では、グラフィックスオブジェクトを丸形のアイコンとした場合を示したが、これに限られるものではなく、角形のアイコンであってもよいし情報バルーンのようなものであっても構わない。
【0070】
また、上記実施形態では、端末装置100のARクライアント処理部108が拡張現実感情報の表示位置等を決定する処理を行う例を説明したが、ARサーバ300のサーバ制御部310が拡張現実感情報の表示位置等を決定する処理を行い、結果のみを端末装置100へ返すように構成してもよい。
【0071】
また、上記実施形態では、コメントの実データを配信する例を説明したが、例えば、コメントのエントリのみを配信し、配信先の端末装置100は、ARクライアント処理部108(コメント取得手段)が、表示されたコメントが選択された場合に、エントリに基づいてコメントをARサーバ300から取得するように構成されてもよい。このように構成することで、コメントのうち選択されたコメントの情報のみを取得することができるので、通信負荷の軽減化及びリソースの効率化を図ることができる。
【0072】
また、上記実施形態では、サーバの機能を呼び出す際、機能をCGIで構築しその呼び出しをAPIとしているが、その手法は他のプロトコルや、分散オブジェクトなど、いかなるアプリケーション間の通信手段で構成してもよい。
【0073】
また、上記実施形態では、表示部102がタッチパネル機能を備える例を説明したが、これに限られるものではなく、ユーザの操作を検出する機能を端末装置100が有していればよい。例えば、タッチパネル機能に替えて、ポインティングデバイス、十字キー、テンキー等のハードウェアボタンによる画面操作を検出する構成としてもよい。
【0074】
また、上記実施形態では、付加情報のリンク先をPOIとした場合を示したが、付加情報のリンク先はPOIに限られず、付加情報にリンクした付加情報を登録することも可能である。また、POIに付加した付加情報の用途は口コミ等の投稿に限られず、施設や店舗側からARシステムのユーザに情報を提示する手段として利用することも可能である。
【0075】
また、POIデータの定義を拡張すれば、POIに対する付加情報の追加を禁止可能な構成とすることもできる。
【0076】
さらに、上記実施形態では、POI情報のアイコンを表示させた端末装置100からコメントを入力する例を説明したが、POI情報のアイコンを表示させていない端末装置100からコメントを入力してもよい。すなわち投稿元となる端末装置100は、投稿機能さえあればよく、POI情報の配信対象となっていなくてもよい。
【符号の説明】
【0077】
1…拡張現実感システム(ARシステム、投稿情報制御システム)、100…端末装置、101…位置情報取得部、102…表示部、103…入力部103、104…方位センサ、105…通信部(端末側送信部)、106…カメラ部、107…記憶部、108…ARクライアント制御部(画像表示制御手段)、300…拡張現実感サーバ(ARサーバ、投稿情報制御装置)、301…通信部(付加情報取得手段、情報配信手段)、302…POI情報収集部、303…POI情報・コメント抽出部(情報配信手段)、304…コメント入力部(付加情報記録手段)、316…POIデータ蓄積部。

【特許請求の範囲】
【請求項1】
現実空間を撮影した映像又は画像にオブジェクトを重畳して表示する端末に対して前記オブジェクトに関するオブジェクト情報を配信する投稿情報制御装置であって、
前記オブジェクトに付加する付加情報を投稿元の前記端末から取得する付加情報取得手段と、
前記付加情報を前記オブジェクトと関連付けて記録する付加情報記録手段と、
配信先の前記端末の位置情報に基づいて、当該端末に対して前記オブジェクト情報及び当該オブジェクト情報に対応する前記オブジェクトに関連付けされた前記付加情報を配信する情報配信手段と、
を備える投稿情報制御装置。
【請求項2】
前記付加情報取得手段は、前記オブジェクトを表示している端末から前記付加情報を取得する請求項1に記載の投稿情報制御装置。
【請求項3】
前記付加情報記録手段は、前記付加情報を予め保有された前記オブジェクト情報に追加登録する請求項1又は2に記載の投稿情報制御装置。
【請求項4】
前記付加情報記録手段は、前記付加情報と予め保有された前記オブジェクトを示す番号と関連付けし、前記オブジェクト情報とは別に前記付加情報を登録又は管理する請求項1又は2に記載の投稿情報制御装置。
【請求項5】
現実空間を撮影した映像又は画像にオブジェクトを重畳して表示する端末と、前記端末と通信可能に構成され前記オブジェクトに関するオブジェクト情報を前記端末へ配信する投稿情報制御装置と、を備える投稿情報制御システムであって、
投稿元の前記端末は、前記オブジェクトに付加する付加情報を前記投稿情報制御装置へ送信する端末側送信手段を備え、
前記投稿情報制御装置は、
投稿元の前記端末により送信された前記付加情報を前記オブジェクトと関連付けて記録する付加情報記録手段と、
配信先の前記端末の位置情報に基づいて、当該端末に対して前記オブジェクト情報及び当該オブジェクト情報に対応する前記オブジェクトに関連付けされた前記付加情報を配信する情報配信手段と、
を備え、
配信先の前記端末は、前記投稿情報制御装置により配信された前記オブジェクト情報に対応する前記オブジェクトに前記付加情報を付加して表示するとともに前記オブジェクトと前記付加情報との関連をグラフィカルに表示する画像表示制御手段を備えること、
を特徴とする投稿情報制御システム。
【請求項6】
前記画像表示制御手段は、前記オブジェクトから吹き出した形状に前記付加情報のアイコンを表示することによって前記オブジェクトと前記付加情報との関連をグラフィカルに表示することを特徴とする請求項5に記載の投稿情報制御システム。
【請求項7】
前記画像表示制御手段は、前記オブジェクトと前記付加情報のアイコンとの間を線で結ぶことによって前記オブジェクトと前記付加情報との関連をグラフィカルに表示することを特徴とする請求項5に記載の投稿情報制御システム。
【請求項8】
前記画像表示制御手段は、前記オブジェクトに関連付けされた前記付加情報が複数存在する場合には、複数の前記付加情報を集約アイコンで表示するとともに、前記集約アイコンが選択された場合には集約された前記付加情報が掲載された一覧画面を表示することを特徴とする請求項5〜7の何れか一項に記載の投稿情報制御システム。
【請求項9】
前記付加情報は、テキスト、画像、動画もしくは音声又はこれらの組合せからなり、
前記情報配信手段は、前記付加情報を示すエントリ及び前記オブジェクト情報を配信し、
配信先の前記端末は、前記画像表示制御手段により表示された前記付加情報が選択された場合には前記エントリに基づいて前記付加情報を取得する付加情報取得手段を備えること、
を特徴とする請求項5〜8の何れか一項に記載の投稿情報制御システム。
【請求項10】
現実空間を撮影した映像又は画像にオブジェクトを重畳して表示する端末と、前記端末と通信可能に構成され前記オブジェクトに関するオブジェクト情報を前記端末へ配信する投稿情報制御装置と、を備える投稿情報制御システムの投稿情報制御方法であって、
投稿元の前記端末が前記オブジェクトに付加する付加情報を前記投稿情報制御装置へ送信する付加情報送信ステップと、
前記投稿情報制御装置が投稿元の前記端末により送信された前記付加情報を前記オブジェクトと関連付けて記録する付加情報記録ステップと、
前記投稿情報制御装置が、配信先の前記端末の位置情報に基づいて、当該端末に対して前記オブジェクト情報及び当該オブジェクト情報に関するオブジェクトに関連付けされた前記付加情報を配信する情報配信ステップと、
配信先の前記端末が、前記投稿情報制御装置により配信された前記オブジェクト情報に関するオブジェクトに前記付加情報を付加して表示するとともに前記オブジェクトと前記付加情報との関連をグラフィカルに表示する画像表示制御ステップと、
を備えることを特徴とする投稿情報制御方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2011−242989(P2011−242989A)
【公開日】平成23年12月1日(2011.12.1)
【国際特許分類】
【出願番号】特願2010−114344(P2010−114344)
【出願日】平成22年5月18日(2010.5.18)
【出願人】(392026693)株式会社エヌ・ティ・ティ・ドコモ (5,876)
【出願人】(394020376)ガイアホールディングス株式会社 (51)
【Fターム(参考)】