説明

オブジェクト表示装置、オブジェクト表示方法及びオブジェクト表示プログラム

【課題】AR技術において、現実空間の画像において影が生じている場合であっても、マーカを検出することを可能とする。
【解決手段】オブジェクト表示装置1は、現実空間の画像を取得する画像取得部15、現実空間における影の発生位置を示す陰影情報を取得する陰影演算部14、陰影情報に基づき、影の影響が排除されるように、現実空間の画像又は予め記憶しているマーカの画像を補正する画像処理部19、少なくとも一方が補正された現実空間の画像及びマーカの画像を用いて、現実空間の画像からマーカを抽出するマーカ検知部20、及び当該マーカに対応付けられた仮想オブジェクトを現実空間の画像に重畳する表示部22を備える。これにより、現実空間の画像に構造物等に起因する影が発生している場合であっても、影が生じていない現実空間の画像と同様にマーカの検出処理を実施できる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、オブジェクト表示装置、オブジェクト表示方法及びオブジェクト表示プログラムに関する。
【背景技術】
【0002】
近年において、AR(Augmented Reality:拡張現実)技術を用いたサービスが開発・提供されている。例えば、移動端末の所在位置の周辺に配置されたオブジェクトを取得し、移動端末に備えられたカメラにより取得した現実空間の画像に種々の情報や画像を含むオブジェクトを重畳表示する技術が知られている。また、移動端末のカメラにより取得された現実空間の画像から所定のマーカを検出し、当該マーカに対応付けられたオブジェクトを現実空間の画像に重畳してディスプレイに表示する技術が知られている。一方、様々な条件で撮影された画像から良好にマーカを検出するために、マーカの登録画像から、色彩、輝度、コントラスト、解像度、ピントを変化させたマーカの画像を生成し、生成した画像に基づき、マーカの検出を行う装置が知られている(例えば、特許文献1参照)。また、撮影した現実空間の画像に対して2値化処理を行ってマーカを検出する技術であって、マーカを検出できなかった場合に2値化の際の閾値を変更して検出を試みる装置が知られている。(例えば、特許文献2参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2007−304733号公報
【特許文献2】特開2007−304732号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
かかるAR技術を用いたサービスにおいて、移動端末は、現実空間の画像を様々な条件下で撮影する。特に、マーカを利用したAR技術において、現実空間の画像が屋外で撮影される場合には、光源となる太陽の位置に依存して、現実空間の画像中に影が生じる。この影は、マーカの画像に対して、部分的に大きな変化を生じさせる。移動端末は、予め有しているマーカの画像に基づき現実空間の画像を探索することによりマーカを検出するので、現実空間の画像におけるマーカの画像に変化があると、マーカの検出が困難になる。また、上記特許文献に記載された技術は、マーカ全体又は現実空間画像全体の調整を行なうことによりマーカの検出精度を向上させるものであるので、部分的に色調に変化が生じたマーカの画像を検出できない。
【0005】
そこで、本発明は、上記問題点に鑑みてなされたものであり、AR技術において、現実空間の画像において影が生じている場合であっても、マーカを検出することが可能なオブジェクト表示装置、オブジェクト表示方法及びオブジェクト表示プログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題を解決するために、本発明のオブジェクト表示装置は、仮想オブジェクトに関する仮想オブジェクト情報を、現実空間に所在する所定の標識であるマーカに対応付けて記憶しているオブジェクト情報記憶手段を備え、マーカを現実空間の画像から抽出し、抽出された該マーカに対応付けられた仮想オブジェクトを、現実空間の画像に重畳表示するオブジェクト表示装置であって、現実空間の画像を取得する画像取得手段と、現在の現実空間における影の発生位置を示す陰影情報を取得する陰影取得手段と、陰影取得手段により取得された陰影情報に基づき、画像取得手段により取得された現実空間の画像及びオブジェクト情報記憶手段に記憶されたマーカの少なくとも一方を、影の影響を排除したマーカの抽出が可能になるように補正する画像処理手段と、画像処理手段により少なくとも一方が補正された現実空間の画像及びマーカを用いて、現実空間の画像からマーカを抽出する検知手段と、検知手段により検出されたマーカにオブジェクト情報記憶手段において対応付けられた仮想オブジェクトの画像を、現実空間の画像に重畳した重畳画像を表示する表示手段と、を備える。
【0007】
また、上記課題を解決するために、本発明のオブジェクト表示方法は、仮想オブジェクトに関する仮想オブジェクト情報を、現実空間に所在する所定の標識であるマーカに対応付けて記憶しているオブジェクト情報記憶手段を備え、マーカを現実空間の画像から抽出し、抽出された該マーカに対応付けられた仮想オブジェクトを、現実空間の画像に重畳表示するオブジェクト表示装置におけるオブジェクト表示方法であって、現実空間の画像を取得する画像取得ステップと、現在の現実空間における影の発生位置を示す陰影情報を取得する陰影取得ステップと、陰影取得ステップにおいて取得された陰影情報に基づき、画像取得ステップにおいて取得された現実空間の画像及びオブジェクト情報記憶手段に記憶されたマーカの少なくとも一方を、影の影響を排除したマーカの抽出が可能になるように補正する画像処理ステップと、画像処理ステップにおいて少なくとも一方が補正された現実空間の画像及びマーカを用いて、現実空間の画像からマーカを抽出する検知ステップと、検知ステップにおいて検出されたマーカにオブジェクト情報記憶手段において対応付けられた仮想オブジェクトの画像を、現実空間の画像に重畳した重畳画像を表示する表示ステップと、を有する。
【0008】
また、上記課題を解決するために、本発明のオブジェクト表示プログラムは、仮想オブジェクトに関する仮想オブジェクト情報を、現実空間に所在する所定の標識であるマーカに対応付けて記憶しているオブジェクト情報記憶手段を備え、マーカを現実空間の画像から抽出し、抽出された該マーカに対応付けられた仮想オブジェクトを、現実空間の画像に重畳表示するオブジェクト表示装置として機能させるためのオブジェクト表示プログラムであって、コンピュータに、現実空間の画像を取得する画像取得機能と、現在の現実空間における影の発生位置を示す陰影情報を取得する陰影取得機能と、陰影取得機能により取得された陰影情報に基づき、画像取得機能により取得された現実空間の画像及びオブジェクト情報記憶手段に記憶されたマーカの少なくとも一方を、影の影響を排除したマーカの抽出が可能になるように補正する画像処理機能と、画像処理機能により少なくとも一方が補正された現実空間の画像及びマーカを用いて、現実空間の画像からマーカを抽出する検知機能と、検知機能により検出されたマーカにオブジェクト情報記憶手段において対応付けられた仮想オブジェクトの画像を、現実空間の画像に重畳した重畳画像を表示する表示機能と、を実現させる。
【0009】
本発明のオブジェクト表示装置、オブジェクト表示方法及びオブジェクト表示プログラムによれば、現実空間における影の発生位置を示す陰影情報が取得され、取得された陰影情報に基づき、影の影響が排除されるように、現実空間の画像又は予め記憶しているマーカの画像が補正されるので、影が生じていない現実空間の画像と同様にマーカの検出処理を実施できる。従って、影が生じている現実空間の画像からのマーカの検出が可能となる。
【0010】
また、本発明のオブジェクト表示装置では、画像処理手段は、陰影取得手段により取得された陰影情報に基づき、画像取得手段により取得された現実空間の画像から影の色調成分を除去する補正を行い、検知手段は、画像処理手段により補正された現実空間の画像から、マーカを抽出することとしてもよい。
【0011】
上記構成によれば、陰影情報に基づき、現実空間の画像における影の発生位置から、影の色調成分が除去されるので、影が生じていない現実空間の画像からのマーカの検出処理と同様に、マーカの検出が可能となる。
【0012】
また、本発明のオブジェクト表示装置では、画像処理手段は、陰影取得手段により取得された陰影情報に基づき、オブジェクト情報記憶手段に記憶されたマーカに対して、当該マーカの所在位置に応じて、影の色調成分を付加する補正を行い、検知手段は、画像取得手段により取得された現実空間の画像から、画像処理手段により補正されたマーカを抽出することとしてもよい。
【0013】
この場合には、陰影情報に基づき、現実空間に所在するマーカにおいて影に覆われた部分が発生している場合において、その影の状態及び位置が推定され、推定された影の状態及び位置に基づき検出処理の基準とするためのマーカの画像に対して影の色調成分が付加される。現実空間の画像において、マーカに影に覆われた部分が生じていても、その状態を推定したマーカに基づき検出処理を実施するので、マーカの検出が可能となる。
【0014】
また、本発明のオブジェクト表示装置では、陰影取得手段は、現実空間における構造物の3次元の形状及び位置を表す情報を含む3次元地図情報、及び現在の日時を表す日時情報に基づき、陰影情報を推定することとしてもよい。上記構成によれば、現時点における影の発生位置が適切に推定される。
【0015】
また、本発明のオブジェクト表示装置では、陰影取得手段は、当該オブジェクト表示装置の所在位置を示す位置情報及び現在の日時を表す日時情報に基づき、当該オブジェクト表示装置のユーザにより生じる影の発生位置を推定し、陰影情報に含めることとしてもよい。
【0016】
上記構成によれば、当該オブジェクト表示装置を保持するユーザが光源からの光を遮ることにより生じる影が考慮されるので、陰影情報の精度が向上する。
【0017】
また、本発明のオブジェクト表示装置では、画像処理手段は、現実空間の画像から、陰影情報に示される陰の発生位置の色調情報を取得し、現実空間の画像において該色調情報と略同様の色調情報を有する領域から、影の色調成分を除去する補正を行うこととしてもよい。
【0018】
この場合には、現実空間に恒常的に存在する構造物により発生する影だけでなく、現実空間中を一時的に通過した物等により生じた影の領域が検出され、この領域から影の色調成分が除去される。従って、マーカの検出精度が向上する。
【発明の効果】
【0019】
AR技術において、現実空間の画像において影が生じている場合であっても、マーカを検出することが可能となる。
【図面の簡単な説明】
【0020】
【図1】オブジェクト表示装置の機能的構成を示すブロック図である。
【図2】オブジェクト表示装置のハードブロック図である。
【図3】位置情報、日時情報及び姿勢情報の例を示す図である。
【図4】陰影演算部により推定される陰影情報の例を示す図である。
【図5】オブジェクト情報記憶部の構成及び記憶されているデータの例を示す図である。
【図6】画像処理部による補正処理の例を示す図である。
【図7】表示部により出力及び表示された重畳画像の例を示す図である。
【図8】画像処理部による補正処理の他の例を示す図である。
【図9】オブジェクト表示方法の処理内容を示すフローチャートである。
【図10】オブジェクト表示プログラムの構成を示す図である。
【発明を実施するための形態】
【0021】
本発明に係るオブジェクト表示装置、オブジェクト表示方法及びオブジェクト表示プログラムの実施形態について図面を参照して説明する。なお、可能な場合には、同一の部分には同一の符号を付して、重複する説明を省略する。
【0022】
図1は、オブジェクト表示装置1の機能的構成を示すブロック図である。本実施形態のオブジェクト表示装置1は、仮想オブジェクトに関する仮想オブジェクト情報を、現実空間に所在する所定の標識であるマーカに対応付けて記憶しており、マーカを現実空間の画像から抽出し、抽出されたマーカに対応付けられた仮想オブジェクトを、現実空間の画像に重畳表示する装置である。オブジェクト表示装置1は、例えば、移動体通信網を介した通信が可能な携帯端末である。
【0023】
移動端末等の装置を用いたAR技術によるサービスとしては、例えば、移動端末のカメラにより取得された現実空間の画像から所定のマーカを検出し、当該マーカに対応付けられたオブジェクトを現実空間の画像に重畳してディスプレイに表示するものがある。マーカは、現実空間中に予め人為的に設けられた物であってもよいし、現実空間中に存在する建物及び看板等の構造物並びにロゴマーク等であってもよい。また、同様のサービスとしては、移動端末が所在する位置情報に基づき移動端末の所在位置の周辺に配置されたオブジェクトを取得し、移動端末に備えられたカメラにより取得した現実空間の画像中の位置に対応付けてオブジェクトを重畳表示するものがある。本実施形態のオブジェクト表示装置1では、マーカを用いて仮想オブジェクトを表示する態様が想定される。
【0024】
図1に示すように、オブジェクト表示装置1は、機能的には、位置情報取得部11、日時情報管理部12、地図記憶部13、陰影演算部14(陰影取得手段)、画像取得部15(画像取得手段)、姿勢検知部16、オブジェクト情報記憶部17(オブジェクト記憶手段)、画像突合部18、画像処理部19(画像処理手段)、マーカ検知部20(検知手段)、オブジェクト表示演算部21及び表示部22(表示手段)を含む。
【0025】
図2は、オブジェクト表示装置1のハードウエア構成図である。オブジェクト表示装置1は、物理的には、図2に示すように、CPU101、主記憶装置であるRAM102及びROM103、データ送受信デバイスである通信モジュール104、ハードディスク、フラッシュメモリ等の補助記憶装置105、入力デバイスであるキーボード等の入力装置106、ディスプレイ等の出力装置107などを含むコンピュータシステムとして構成されている。図1に示した各機能は、図2に示すCPU101、RAM102等のハードウエア上に所定のコンピュータソフトウェアを読み込ませることにより、CPU101の制御のもとで通信モジュール104、入力装置106、出力装置107を動作させるとともに、RAM102や補助記憶装置105におけるデータの読み出し及び書き込みを行うことで実現される。再び、図1を参照し、オブジェクト表示装置1の各機能部について詳細に説明する。
【0026】
位置情報取得部11は、オブジェクト表示装置1の所在位置を示す位置情報を取得する部分であって、例えばGPS装置により構成される。図3(a)は、位置情報取得部11により取得される位置情報の例を示す図である。図3(a)に示すように、位置情報取得部11は、例えば、緯度及び経度を位置情報として取得する。位置情報取得部11は、取得した位置情報を陰影演算部14に送出する。
【0027】
日時情報管理部12は、現在の日時を示す日時情報を管理する部分である。日時情報管理部12は、例えば、オブジェクト表示装置1に備えられた時計であってもよいし、図示しない外部装置から通信により日時情報を取得することとしてもよい。図3(b)は、日時情報管理部12により管理される日時情報の例を示す図である。図3(b)に示すように、日時情報管理部12は、例えば、日及び時刻を日時情報として管理する。日時情報管理部12は、日時情報を陰影演算部14に送出する。
【0028】
地図記憶部13は、現実空間における構造物の3次元の形状及び位置を表す情報を含む3次元の地図情報を記憶しているデータベースである。構造物は、建物等の人工的な構造物及び自然の地形の両方を含む。
【0029】
陰影演算部14は、現在の現実空間における影の発生位置を示す陰影情報を取得する部分である。具体的には、陰影演算部14は、現実空間における構造物の3次元の形状及び位置を表す情報を含む3次元地図情報、及び現在の日時を表す日時情報に基づき、陰影情報を推定する。図4は、陰影演算部14により推定される陰影情報の例を示す図である。
【0030】
陰影演算部14は、オブジェクト表示装置1の所在位置周辺の地図情報を取得すると共に、日時情報に基づき、光源である太陽の位置を取得する。そして、陰影演算部14は、構造物により太陽の光が遮断されて発生する影の発生位置を算出する。図4(a)は、このように算出された影A1示す図である。即ち、陰影演算部14は、太陽Lの位置及び構造物Bの形状に基づき、影A1の発生位置を算出する。そして、陰影演算部14は、算出または取得した陰影情報を画像突合部18に送出する。
【0031】
また、陰影演算部14は、オブジェクト表示装置1の所在位置を示す位置情報及び現在の日時を表す日時情報に基づき、当該オブジェクト表示装置1のユーザにより生じる影の発生位置を推定し、陰影情報に含めてもよい。即ち、図4(b)に示すように、陰影演算部14は、太陽Lの位置及びユーザYの位置に基づき、ユーザYにより太陽の光が遮断されて発生する影A2の発生位置を算出できる。ユーザYの位置は、位置情報取得部11からの位置情報により表される。
【0032】
なお、陰影演算部14は、オブジェクト表示装置1ではなく、オブジェクト表示装置1と通信可能な他の装置に備えられることとしてもよい。この場合には、オブジェクト表示装置1は、当該他の装置により算出された陰影情報を取得する。また、地図記憶部13及び日時情報管理部12も同様に、オブジェクト表示装置1と通信可能な他の装置に備えられることとしてもよい。
【0033】
画像取得部15は、現実空間の画像を取得する部分であって、例えば、カメラといった装置により構成される。画像取得部15は、現実空間の画像を画像突合部に送出する。
【0034】
姿勢検知部16は、オブジェクト表示装置1の姿勢を検知する部分であって、例えば、加速度センサ及び地磁気センサといった装置により構成される。図3(c)は、姿勢検知部16により検知される姿勢を表す姿勢情報の例を示す図である。図3(c)に示すように、姿勢検知部16は、例えば、ロール角、ピッチ角及びヨー角といった情報を姿勢情報として検知する。姿勢検知部16は、姿勢情報を画像突合部18に送出する。
【0035】
オブジェクト情報記憶部17は、仮想オブジェクトに関するデータを記憶しているデータベースである。図5は、オブジェクト情報記憶部17の構成及び記憶されているデータの例を示す図である。図5に示すように、オブジェクト情報記憶部17は、マーカを識別するマーカIDに対応付けて、マーカデータ、オブジェクトデータを記憶している。また、オブジェクト情報記憶部17は、例えば、現実空間に存在する建物やロゴマーク等の、位置を予め特定できる物をマーカとする場合には、当該マーカの所在位置を示す位置情報を更に有することができる。マーカデータは、当該マーカの画像データであって、現実空間の画像からの当該マーカの抽出に用いられる。オブジェクトデータは、当該マーカに対応付けて現実空間の画像に重畳表示させるオブジェクトの画像データである。
【0036】
画像突合部18は、画像取得部15により取得された現実空間の画像と、地図情報等及び陰影情報に基づく推定画像とを突合する部分である。画像突合部18は、3次元の地図情報、オブジェクト表示装置1の位置情報及び姿勢検知部により取得された姿勢情報に基づき、画像取得部15により取得されるはずの現実空間の画像を推定し、更に、この画像に対して陰影情報に基づく影を付加することにより、推定画像を生成する。そして、画像突合部18は、推定画像と現実空間の画像との建物(構造物)等の位置及び形状がマッチングするか否かを判定する。画像突合部18は、画像取得部15により取得された現実空間の画像と推定画像とを突合(マッチング)することにより、現実空間の画像における影の発生部分を陰影情報に基づき判別できる。また、画像突合部18は、現実空間の画像における影の発生部分の色調成分を抽出することにより、影の色調に関する情報も取得できる。画像突合部18は、画像取得部15からの現実空間の画像と共に、当該画像の影の発生位置に関する情報及び影の色調に関する情報を画像処理部19に送出する。
【0037】
画像処理部19は、陰影演算部14により取得された陰影情報に基づき、画像取得部15により取得された現実空間の画像及びオブジェクト情報記憶部17に記憶されたマーカの少なくとも一方を、影の影響を排除したマーカの抽出が可能になるように補正する部分である。現実空間の画像が補正される場合の補正処理を、図6を参照して具体的に説明する。図6は、画像処理部19による補正処理の例を説明するための図である。
【0038】
画像処理部19は、陰影情報に基づき、画像取得部15により取得された現実空間の画像から影の色調成分を除去する補正を行う。具体的には、画像処理部19は、陰影演算部14からの陰影情報に基づく、現実空間の画像における影の発生位置及び色調に関する情報を、現実空間の画像と共に、画像突合部18から取得する。図6(a)は、このときに取得される現実空間の画像の例を示す図である。図6(a)に示すように、現実空間の画像には、マーカM及び影Aが含まれている。そして、画像処理部19は、影の発生位置及び色調に関する情報に基づき、画像突合部18を介して取得した現実空間の画像から、影の色調成分を除去する補正を行う。図6(b)は、補正された現実空間の画像の例を示す図である。即ち、画像処理部19は、影の発生位置及び色調に関する情報を有しているので、これらの情報に基づき、図6(a)に示される画像から、影の色調成分を除去する補正を行い、図6(b)に示されるような画像を生成できる。
【0039】
また、画像処理部19は、現実空間の画像において、画像突合部18から取得した影の色調情報と略同様の色調情報を有する領域から、影の色調成分を除去する補正を行うこととしてもよい。この補正により、現実空間に恒常的に存在する構造物により発生する影だけでなく、現実空間中を一時的に通過した人や物等により生じた影を除去できる。画像処理部19は、補正された現実空間の画像をマーカ検知部20に送出する。
【0040】
マーカ検知部20は、画像処理部19から取得した現実空間の画像から、マーカを検知する部分である。具体的には、マーカ検知部20は、オブジェクト情報記憶部17から、オブジェクト情報に含まれるマーカデータを取得し、取得したマーカデータに基づき現実空間の画像をサーチし、現実空間の画像におけるマーカの位置及び大きさといった情報を検知結果として出力できる。画像処理部19から取得した現実空間の画像は、影が除去されているので、マーカ検知部20は、オブジェクト情報記憶部17に記憶されたマーカデータに基づくサーチによりマーカを検出できる。
【0041】
マーカ検知部20は、検知したマーカに対応付けられているオブジェクトデータをオブジェクト情報記憶部17から取得し、当該オブジェクトデータ及び現実空間の画像と共に、マーカの検知結果をオブジェクト表示演算部21に送出する。
【0042】
オブジェクト表示演算部21は、マーカの検知結果に基づき、当該マーカに対応付けて表示する仮想オブジェクトの向き及び大きさを演算する部分である。オブジェクト表示演算部21は、現実空間の画像及びオブジェクトデータと共に、演算結果を表示部22に送出する。
【0043】
表示部22は、マーカ検知部20により検出されたマーカにオブジェクト情報記憶手段において対応付けられた仮想オブジェクトの画像を、現実空間の画像に重畳した重畳画像を表示する部分である。
【0044】
具体的には、表示部22は、オブジェクト表示演算部21からの演算結果に基づき仮想オブジェクトの大きさ及び向きを決定し、当該仮想オブジェクトの画像を現実空間の画像に重畳して、重畳画像を生成する。仮想オブジェクトの重畳位置は、マーカの位置を基準とした相対位置により規定される。そして、表示部22は、重畳画像を例えばディスプレイといった装置に出力する。図7は、表示部22により出力及び表示された重畳画像の例を示す図である。図7に示す例では、図5に示したオブジェクト情報においてマーカID「1」のマーカに対応付けられた仮想オブジェクトVが、マーカMに対応付けられて表示されている。
【0045】
また、画像処理部19は、上述したように、陰影取得手段により取得された陰影情報に基づきオブジェクト情報記憶部17に記憶されたマーカに影の色調を付加する補正を行うことにより、影の影響を排除したマーカの抽出が可能になるようにしてもよい。この補正処理を、図8を参照して具体的に説明する。図8は、画像処理部19による補正処理の例を説明するための図である。
【0046】
画像処理部19は、オブジェクト情報記憶部17に記憶されたマーカに対して、当該マーカの所在位置に応じて、影の色調成分を付加する補正を行う。具体的には、画像処理部19は、陰影演算部14からの陰影情報に基づく、現実空間の画像における影の発生位置及び色調に関する情報を、現実空間の画像と共に、画像突合部18から取得する。また、画像処理部19は、マーカの所在位置を示す位置情報をオブジェクト情報記憶部17から取得する。これらの情報に基づき、画像処理部19は、現実空間における影の発生位置とマーカの位置との位置関係を推定する。図8(a)は、画像処理部に推定された影A3の発生位置とマーカMの位置との位置関係を模式的に示す図である。なお、マーカMは、図5のオブジェクト情報記憶部17において、マーカID「2」として記憶されている。マーカID「2」のマーカMは位置情報(XX,YY)を有しているので、画像処理部19は、画像突合部18により推定された現実空間の推定画像中に、マーカMを配置できる。
【0047】
そして、画像処理部19は、影の発生位置及びマーカの位置に基づき、現実空間においてマーカ上に発生する影を推定できる。即ち、画像処理部19は、現実空間に配置されたマーカ上において影が発生している領域を推定し、オブジェクト情報記憶部17から取得したマーカデータにおける影の発生領域に影の色調成分を付加する。図8(b)は、影A3、マーカM及びユーザYの位置関係を示す図であり、図8(c)は、図8(b)に示す位置関係において、画像処理部19により生成されたマーカデータMの例を模式的に示す図である。図8(c)に示されるように、画像処理部19は、マーカデータMの右側の領域Aに、影の色調成分を付加することができる。
【0048】
画像処理部19は、現実空間の画像と共に、影の色調成分が付加されたマーカデータをマーカ検知部20に送出する。そして、マーカ検知部20は、画像処理部19により影の色調成分が付されたマーカデータに基づき、現実空間の画像からマーカを検知できる。このように、現実空間の画像に配置されたマーカ上に他の構造物等に起因する影が生じている場合であっても、画像処理部19は、その影の状態を反映したマーカデータを生成し、マーカ検知部20は、そのマーカデータに基づき、現実空間の画像からマーカを抽出できる。
【0049】
続いて、オブジェクト表示装置1におけるオブジェクト表示方法の処理内容を説明する。図9は、オブジェクト表示方法の処理内容を示すフローチャートである。
【0050】
まず、位置情報取得部11は、オブジェクト表示装置1の所在位置を示す位置情報を取得する(S1)。続いて、陰影演算部14は、日時情報管理部12により管理されている日時情報及び位置情報に基づき、現在における太陽の位置を算出する。そして、陰影演算部14は、オブジェクト表示装置1の所在位置周辺の3次元の地図情報を取得し、ステップS2において算出された太陽の位置に基づき、現実空間における影の発生位置(陰影情報)を推定する(S3)。
【0051】
次に、画像取得部15は、現実空間の画像を取得する(S4)。続いて、画像突合部18は、地図情報等及び陰影情報に基づき推定画像を生成する。さらに、画像突合部18は、生成した推定画像と、画像取得部15により取得された現実空間の画像とをマッチング(突合)する(S5)。ここで、画像突合部18は、推定画像と現実空間の画像との建物(構造物)等の位置及び形状がマッチングするか否かを判定する(S6)。マッチングすると判定された場合には、処理手順はステップS7に進められる。一方、マッチングすると判定されなかった場合には、処理手順はステップS1に戻る。
【0052】
ステップS7において、画像処理部19は、陰影情報に基づき、画像取得部15により取得された現実空間の画像又はオブジェクト情報記憶部17に記憶されたマーカの画像を補正する(S7)。具体的には、画像処理部19は、現実空間の画像における影が発生している領域から、影の色調成分を除去する。この場合に、画像処理部19は、現実空間の画像において、陰影情報における影の色調情報と略同様の色調を有する領域から、影の色調成分を除去する補正を行ってもよい。または、画像処理部19は、現実空間に存在するマーカにおいて影に覆われている領域があると推定された場合に、マーカデータの当該領域に影の色調成分を付加する。
【0053】
続いて、マーカ検知部20は、ステップS7において少なくとも一方が補正された現実空間の画像及びマーカデータを用いて、現実空間の画像からマーカを検知及び抽出する(S8)。そして、オブジェクト表示演算部21は、マーカの検知結果に基づき、当該マーカに対応付けて表示する仮想オブジェクトの向き及び大きさを演算し、表示部22は、マーカの検知結果に基づき演算された、当該マーカに対応付けて表示する仮想オブジェクトの向き及び大きさに基づき、仮想オブジェクトを現実空間の画像の所定位置に重畳した重畳画像を生成及び表示する(S9)。
【0054】
次に、コンピュータを、本実施形態のオブジェクト表示装置1として機能させるためのオブジェクト表示プログラムについて説明する。図10は、図1に示したオブジェクト表示装置1に対応するオブジェクト表示プログラム1mの構成を示す図である。
【0055】
オブジェクト表示プログラム1mは、オブジェクト表示処理を統括的に制御するメインモジュール10m、位置情報取得モジュール11m、日時情報管理モジュール12m、地図記憶モジュール13m、陰影演算モジュール14m、画像取得モジュール15m、姿勢検知モジュール16m、オブジェクト情報記憶モジュール17m、画像突合モジュール18m、画像処理モジュール19m、マーカ検知モジュール20m、オブジェクト表示演算モジュール21m及び表示モジュール22mを含む。そして、各モジュール10m〜22mにより、オブジェクト表示装置1における各機能部11〜22のための各機能が実現される。なお、オブジェクト表示プログラム1mは、通信回線等の伝送媒体を介して伝送される態様であってもよいし、図10に示されるように、記録媒体1dのプログラム格納領域1rに記憶される態様であってもよい。
【0056】
本実施形態のオブジェクト表示装置1、オブジェクト表示方法及びオブジェクト表示プログラム1mによれば、現実空間における影の発生位置を示す陰影情報が取得され、取得された陰影情報に基づき、影の影響が排除されるように、現実空間の画像又は予め記憶しているマーカの画像が補正されるので、影が生じていない現実空間の画像と同様にマーカの検出処理を実施できる。従って、影が生じている現実空間の画像からのマーカの検出が可能となる。
【0057】
以上、本発明をその実施形態に基づいて詳細に説明した。しかし、本発明は上記実施形態に限定されるものではない。本発明は、その要旨を逸脱しない範囲で様々な変形が可能である。
【符号の説明】
【0058】
1…オブジェクト表示装置、1m…オブジェクト表示プログラム、1d…記録媒体、10m…メインモジュール、11…位置情報取得部、11m…位置情報取得モジュール、12…日時情報管理部、12m…日時情報管理モジュール、13…地図記憶部、13m…地図記憶モジュール、14…陰影演算部、14m…陰影演算モジュール、15…画像取得部、15m…画像取得モジュール、16…姿勢検知部、16m…姿勢検知モジュール、17…オブジェクト情報記憶部、17m…オブジェクト情報記憶モジュール、18…画像突合部、18m…画像突合モジュール、19…画像処理部、19m…画像処理モジュール、20…マーカ検知部、20m…マーカ検知モジュール、21…オブジェクト表示演算部、21m…オブジェクト表示演算モジュール、22…表示部、22m…表示モジュール。

【特許請求の範囲】
【請求項1】
仮想オブジェクトに関する仮想オブジェクト情報を、現実空間に所在する所定の標識であるマーカに対応付けて記憶しているオブジェクト情報記憶手段を備え、前記マーカを現実空間の画像から抽出し、抽出された該マーカに対応付けられた仮想オブジェクトを、現実空間の画像に重畳表示するオブジェクト表示装置であって、
現実空間の画像を取得する画像取得手段と、
現在の現実空間における影の発生位置を示す陰影情報を取得する陰影取得手段と、
前記陰影取得手段により取得された陰影情報に基づき、前記画像取得手段により取得された現実空間の画像及び前記オブジェクト情報記憶手段に記憶されたマーカの少なくとも一方を、影の影響を排除したマーカの抽出が可能になるように補正する画像処理手段と、
前記画像処理手段により少なくとも一方が補正された現実空間の画像及びマーカを用いて、前記現実空間の画像から前記マーカを抽出する検知手段と、
前記検知手段により検出されたマーカに前記オブジェクト情報記憶手段において対応付けられた仮想オブジェクトの画像を、前記現実空間の画像に重畳した重畳画像を表示する表示手段と、
を備えるオブジェクト表示装置。
【請求項2】
前記画像処理手段は、前記陰影取得手段により取得された陰影情報に基づき、前記画像取得手段により取得された現実空間の画像から影の色調成分を除去する補正を行い、
前記検知手段は、前記画像処理手段により補正された現実空間の画像から、前記マーカを抽出する、
請求項1に記載のオブジェクト表示装置。
【請求項3】
前記画像処理手段は、前記陰影取得手段により取得された陰影情報に基づき、前記オブジェクト情報記憶手段に記憶されたマーカに対して、当該マーカの所在位置に応じて、影の色調成分を付加する補正を行い、
前記検知手段は、前記画像取得手段により取得された現実空間の画像から、前記画像処理手段により補正されたマーカを抽出する、
請求項1に記載のオブジェクト表示装置。
【請求項4】
前記陰影取得手段は、現実空間における構造物の3次元の形状及び位置を表す情報を含む3次元地図情報、及び現在の日時を表す日時情報に基づき、前記陰影情報を推定する、
請求項1〜3のいずれか1項に記載のオブジェクト表示装置。
【請求項5】
前記陰影取得手段は、当該オブジェクト表示装置の所在位置を示す位置情報及び現在の日時を表す日時情報に基づき、当該オブジェクト表示装置のユーザにより生じる影の発生位置を推定し、前記陰影情報に含める、
請求項4に記載のオブジェクト表示装置。
【請求項6】
前記画像処理手段は、前記現実空間の画像から、前記陰影情報に示される陰の発生位置の色調情報を取得し、前記現実空間の画像において該色調情報と略同様の色調情報を有する領域から、影の色調成分を除去する補正を行う、
請求項2に記載のオブジェクト表示装置。
【請求項7】
仮想オブジェクトに関する仮想オブジェクト情報を、現実空間に所在する所定の標識であるマーカに対応付けて記憶しているオブジェクト情報記憶手段を備え、前記マーカを現実空間の画像から抽出し、抽出された該マーカに対応付けられた仮想オブジェクトを、現実空間の画像に重畳表示するオブジェクト表示装置におけるオブジェクト表示方法であって、
現実空間の画像を取得する画像取得ステップと、
現在の現実空間における影の発生位置を示す陰影情報を取得する陰影取得ステップと、
前記陰影取得ステップにおいて取得された陰影情報に基づき、前記画像取得ステップにおいて取得された現実空間の画像及び前記オブジェクト情報記憶手段に記憶されたマーカの少なくとも一方を、影の影響を排除したマーカの抽出が可能になるように補正する画像処理ステップと、
前記画像処理ステップにおいて少なくとも一方が補正された現実空間の画像及びマーカを用いて、前記現実空間の画像から前記マーカを抽出する検知ステップと、
前記検知ステップにおいて検出されたマーカに前記オブジェクト情報記憶手段において対応付けられた仮想オブジェクトの画像を、前記現実空間の画像に重畳した重畳画像を表示する表示ステップと、
を有するオブジェクト表示方法。
【請求項8】
仮想オブジェクトに関する仮想オブジェクト情報を、現実空間に所在する所定の標識であるマーカに対応付けて記憶しているオブジェクト情報記憶手段を備え、前記マーカを現実空間の画像から抽出し、抽出された該マーカに対応付けられた仮想オブジェクトを、現実空間の画像に重畳表示するオブジェクト表示装置として機能させるためのオブジェクト表示プログラムであって、
前記コンピュータに、
現実空間の画像を取得する画像取得機能と、
現在の現実空間における影の発生位置を示す陰影情報を取得する陰影取得機能と、
前記陰影取得機能により取得された陰影情報に基づき、前記画像取得機能により取得された現実空間の画像及び前記オブジェクト情報記憶手段に記憶されたマーカの少なくとも一方を、影の影響を排除したマーカの抽出が可能になるように補正する画像処理機能と、
前記画像処理機能により少なくとも一方が補正された現実空間の画像及びマーカを用いて、前記現実空間の画像から前記マーカを抽出する検知機能と、
前記検知機能により検出されたマーカに前記オブジェクト情報記憶手段において対応付けられた仮想オブジェクトの画像を、前記現実空間の画像に重畳した重畳画像を表示する表示機能と、
を実現させるオブジェクト表示プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図5】
image rotate

【図9】
image rotate

【図10】
image rotate

【図4】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2013−25326(P2013−25326A)
【公開日】平成25年2月4日(2013.2.4)
【国際特許分類】
【出願番号】特願2011−156024(P2011−156024)
【出願日】平成23年7月14日(2011.7.14)
【出願人】(392026693)株式会社エヌ・ティ・ティ・ドコモ (5,876)
【Fターム(参考)】