オブジェクト表示装置及びオブジェクト表示方法
【課題】AR技術を用いたサービスにおいて、現実空間の画像における視認容易な位置にオブジェクトを重畳表示させることを可能とする。
【解決手段】画像解析部16により取得されたオブジェクトの大きさ及び色に関する情報及び現実空間の画像の色に関する情報に基づき、現実空間の画像にオブジェクトを重畳表示させた際にオブジェクトを視認容易な領域がパターン抽出部17により現実空間の画像から抽出され、この領域に表示位置補正部18によりオブジェクトの表示位置が補正される。従って、オブジェクトの視認が容易となり、オブジェクトを現実空間の画像に表示することによる情報性といった各種の効果を高めることが可能となる。
【解決手段】画像解析部16により取得されたオブジェクトの大きさ及び色に関する情報及び現実空間の画像の色に関する情報に基づき、現実空間の画像にオブジェクトを重畳表示させた際にオブジェクトを視認容易な領域がパターン抽出部17により現実空間の画像から抽出され、この領域に表示位置補正部18によりオブジェクトの表示位置が補正される。従って、オブジェクトの視認が容易となり、オブジェクトを現実空間の画像に表示することによる情報性といった各種の効果を高めることが可能となる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、オブジェクト表示装置及びオブジェクト表示方法に関する。
【背景技術】
【0002】
近年において、AR(Augmented Reality:拡張現実)技術を用いたサービスが開発・提供されている。例えば、移動端末の所在位置の周辺に配置されたオブジェクトを取得し、移動端末に備えられたカメラにより取得した現実空間の画像に種々の情報や画像を含むオブジェクトを重畳表示する技術が知られている。また、移動端末のカメラにより取得された現実空間の画像から所定のマーカを検出し、当該マーカに対応付けられたオブジェクトを現実空間の画像に重畳してディスプレイに表示する技術が知られている。また、上記技術に関連する技術として、撮影された実空間の画像から肌色の領域を検出し、その検出位置に仮想オブジェクト(ペット)を表示させる装置が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2006−262980号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、通常のAR技術では、オブジェクトの表示位置は、オブジェクトが有する位置情報や、当該オブジェクトが対応付けられるマーカの位置に依存するので、オブジェクトの表示位置周辺の画像の状態は考慮されない。このため、現実空間の画像におけるオブジェクトの表示位置周辺の画像の色調が煩雑である場合には、重畳されたオブジェクトの視認が難しくなり、オブジェクトの表示による各種の情報提供といった効果が小さくなる。
【0005】
そこで、本発明は、上記問題点に鑑みてなされたものであり、AR技術において、現実空間の画像における視認容易な位置にオブジェクトを重畳表示させることが可能なオブジェクト表示装置及びオブジェクト表示方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題を解決するために、本発明のオブジェクト表示装置は、現実空間の画像の所定位置にオブジェクトを重畳表示するオブジェクト表示装置であって、オブジェクトに関するオブジェクト情報を取得するオブジェクト情報取得手段と、現実空間の画像を取得する画像取得手段と、オブジェクト情報取得手段により取得されたオブジェクトの大きさ及び色に関する情報、並びに画像取得手段により取得された現実空間の画像の色に関する情報を取得する画像解析手段と、画像解析手段により取得されたオブジェクトの大きさ及び色に関する情報並びに現実空間の画像の色に関する情報に基づき、現実空間の画像にオブジェクトを重畳表示させた際にオブジェクトを視認容易な領域を現実空間の画像から抽出するパターン抽出手段と、パターン抽出手段により抽出された領域にオブジェクトの表示位置を補正する表示位置補正手段と、表示位置補正手段により補正された表示位置にオブジェクトを重畳表示する表示手段とを備えることを特徴とする。
【0007】
また、上記課題を解決するために、本発明のオブジェクト表示方法は、現実空間の画像の所定位置にオブジェクトを重畳表示するオブジェクト表示装置におけるオブジェクト表示方法であって、オブジェクトに関するオブジェクト情報を取得するオブジェクト情報取得ステップと、現実空間の画像を取得する画像取得ステップと、オブジェクト情報取得ステップにおいて取得されたオブジェクトの現実空間の画像に占める領域の大きさ及び色に関する情報、及び画像取得ステップにおいて取得された現実空間の画像の色に関する情報を取得する画像解析ステップと、画像解析ステップにおいて取得されたオブジェクトの大きさ及び色に関する情報及び現実空間の画像の色に関する情報に基づき、現実空間の画像にオブジェクトを重畳表示させた際にオブジェクトを視認容易な領域を現実空間の画像から抽出するパターン抽出ステップと、パターン抽出ステップにおいて抽出された領域にオブジェクトの表示位置を補正する表示位置補正ステップと、表示位置補正ステップにおいて補正された表示位置にオブジェクトを重畳表示する表示ステップとを有することを特徴とする。
【0008】
本発明のオブジェクト表示装置及びオブジェクト表示方法によれば、オブジェクトの大きさ及び色に関する情報及び現実空間の画像の色に関する情報に基づき、現実空間の画像にオブジェクトを重畳表示させた際にオブジェクトを視認容易な領域が現実空間の画像から抽出され、この領域にオブジェクトの表示位置が補正される。従って、オブジェクトの視認が容易となり、オブジェクトを現実空間の画像に表示することによる各種の効果を高めることが可能となる。
【0009】
また、本発明のオブジェクト表示装置では、パターン抽出手段は、オブジェクトの大きさ以上の大きさを有すると共に、単一の色を有する領域を現実空間の画像から抽出することを特徴とする。
【0010】
この場合には、現実空間の画像において単一の色を有する領域が抽出され、この領域にオブジェクトの表示位置が補正される。これにより、オブジェクトは、現実空間の画像における色調が煩雑でない領域に重畳表示されるので、当該オブジェクトの視認が容易となる。
【0011】
また、本発明のオブジェクト表示装置では、パターン抽出手段は、オブジェクトの大きさ以上の大きさを有すると共に、所定の範囲内の色調を有する領域を現実空間の画像から抽出することを特徴とする。
【0012】
この場合には、現実空間の画像において所定の範囲内の色調を有する領域が抽出され、この領域にオブジェクトの表示位置が補正される。これにより、オブジェクトは、現実空間の画像における色調が煩雑でない領域に重畳表示されるので、当該オブジェクトの視認が容易となる。
【0013】
また、本発明のオブジェクト表示装置では、パターン抽出手段は、オブジェクトの大きさ以上の大きさを有すると共に、オブジェクトを重畳した場合にオブジェクトの外縁部が重畳される部分が単一の色を有する領域を現実空間の画像から抽出することを特徴とする。
【0014】
オブジェクトが現実空間の画像に重畳表示された際に、現実空間の画像における当該オブジェクトにより視認不可能となる部分の色は、オブジェクトの視認性に影響を与えない。一方、オブジェクトの外縁部が重畳される部分の色は、オブジェクトの視認性に大きな影響を与える。本発明のオブジェクト表示装置では、オブジェクトを重畳した際にオブジェクトの外縁部が重畳される部分が単一の色を有する領域が現実空間の画像から抽出され、この領域にオブジェクトの表示位置が補正される。これにより、現実空間の画像における色調が煩雑でない部分に外縁部が位置するようにオブジェクトが重畳表示されるので、当該オブジェクトの視認が容易となる。
【0015】
また、本発明のオブジェクト表示装置では、パターン抽出手段は、オブジェクトの大きさ以上の大きさを有すると共に、オブジェクトを重畳した場合にオブジェクトの外縁部が重畳される部分が所定の範囲内の色調を有する領域を現実空間の画像から抽出することを特徴とする。
【0016】
この場合には、オブジェクトを重畳した際にオブジェクトの外縁部が重畳される部分が所定の範囲内の色調を有する領域が現実空間の画像から抽出され、この領域にオブジェクトの表示位置が補正される。これにより、現実空間の画像における色調が煩雑でない部分に外縁部が位置するようにオブジェクトが重畳表示されるので、当該オブジェクトの視認が容易となる。
【0017】
また、本発明のオブジェクト表示装置では、パターン抽出手段は、オブジェクトの大きさ以上の大きさを有すると共に、単一色に占められる部分が所定以上含まれる領域を現実空間の画像から抽出することを特徴とする。
【0018】
この場合には、現実空間の画像において単一の色が所定以上含まれる領域が抽出され、この領域にオブジェクトの表示位置が補正される。これにより、オブジェクトは、現実空間の画像における色調が比較的煩雑でない領域に重畳表示されるので、当該オブジェクトの視認が容易となる。
【0019】
また、本発明のオブジェクト表示装置では、パターン抽出手段は、オブジェクトの大きさ以上の大きさを有すると共に、所定の範囲内の色調を有する部分が所定以上含まれる領域を現実空間の画像から抽出することを特徴とする。
【0020】
この場合には、現実空間の画像において所定の範囲内の色調を有する部分が所定以上含まれる領域が抽出され、この領域にオブジェクトの表示位置が補正される。これにより、オブジェクトは、現実空間の画像における色調が比較的煩雑でない領域に重畳表示されるので、当該オブジェクトの視認が容易となる。
【0021】
また、本発明のオブジェクト表示装置では、画像解析手段は、画像取得手段により取得された現実空間の画像から、単一色または所定範囲内の色調を有する領域を表示候補領域として抽出し、パターン抽出手段は、画像解析手段により抽出された表示候補領域からオブジェクトを視認容易な領域を抽出することを特徴とする。
【0022】
この場合には、オブジェクトの表示位置を補正するための領域の候補となる表示候補領域が予め抽出され、抽出された表示候補領域に対してオブジェクトの表示のための領域の抽出が実施されるので、当該抽出処理のための処理負荷が軽減される。
【0023】
また、本発明のオブジェクト表示装置では、表示位置補正手段は、画像解析手段により取得されたオブジェクトの色に関する情報及びパターン抽出手段により抽出された領域が有する色に関する情報に基づき、オブジェクトの色と領域の色とが所定の対照関係である場合に、オブジェクトの表示位置を補正することを特徴とする。
【0024】
この場合には、オブジェクトの背景となる領域の色調とオブジェクトの色調とが対照関係にある場合に、オブジェクトの表示位置が当該領域に補正されるので、当該オブジェクトの視認が容易となる。
【0025】
また、本発明のオブジェクト表示装置では、表示位置補正手段は、パターン抽出手段により複数の領域が抽出された場合には、オブジェクトの元の表示位置に最も近い領域にオブジェクトの表示位置を補正することを特徴とする。
【0026】
現実空間の画像に重畳表示されるオブジェクトは、所定の位置に対応付けられており、その位置に関連する情報を含む場合が多い。本発明のオブジェクト表示装置では、視認性向上のために表示位置が補正される場合であっても、当該オブジェクトの元の表示位置に最も近い領域に表示位置が補正されるので、当該オブジェクトの情報性の低下が防止される。
【0027】
また、本発明のオブジェクト表示装置では、オブジェクト情報は、当該オブジェクトの表示位置との関連性の強さの度合いを示す位置依存度を含み、表示位置補正手段は、位置依存度が所定の度合いより低い場合に、オブジェクトの表示位置を補正することを特徴とする。
【0028】
オブジェクトの位置依存度が高い場合には、当該オブジェクトの表示位置に対する関連性が高いことを意味するので、当該オブジェクトを所定位置以外の位置に表示した場合には、当該オブジェクトがユーザに提供する情報が不適切なものとなる可能性が高い。本発明の構成では、位置依存度が所定の度合いより低い場合に、オブジェクトの表示位置が補正されるので、当該オブジェクトの情報性の低下が防止される。
【発明の効果】
【0029】
AR技術において、現実空間の画像において、視認容易な位置にオブジェクトを重畳表示させることが可能となる。
【図面の簡単な説明】
【0030】
【図1】オブジェクト表示装置の機能的構成を示すブロック図である。
【図2】オブジェクト表示装置のハードブロック図である。
【図3】オブジェクトデータベースの構成及び記憶されているデータの例を示す図である。
【図4】現実空間の画像及び現実空間の画像に設定された格子の例を示す図である。
【図5】オブジェクトの表示に必要とされるマス目の数を示す図である。
【図6】画像解析部により取得されたオブジェクトの表示位置、表示に必要なマス目の数、及び主色調を示す図である。
【図7】現実空間の画像から抽出された表示候補領域の例を示す図である。
【図8】画像解析部により取得された各表示候補領域のマス目の数、マス目に関する情報及び主色調を示す図である。
【図9】オブジェクトの表示位置の補正のために、パターン抽出部により抽出される領域のパターン例を示す図である。
【図10】現実空間の画像にオブジェクトを重畳表示した例であって、表示位置の補正前及び補正後の重畳表示の例を示す図である。
【図11】オブジェクト表示方法の処理内容を示すタイミングチャートである。
【図12】図11におけるパターン抽出処理の処理内容を示すフローチャートである。
【発明を実施するための形態】
【0031】
本発明に係るオブジェクト表示装置及びオブジェクト表示方法の実施形態について図面を参照して説明する。なお、可能な場合には、同一の部分には同一の符号を付して、重複する説明を省略する。
【0032】
図1は、オブジェクト表示装置1の機能的構成を示すブロック図である。本実施形態のオブジェクト表示装置1は、現実空間の画像の所定位置にオブジェクトを重畳表示する装置であって、例えば、移動体通信網を介した通信が可能な携帯端末である。
【0033】
移動端末等の装置を用いたAR技術によるサービスとしては、例えば、移動端末のカメラにより取得された現実空間の画像から所定のマーカを検出し、当該マーカに対応付けられたオブジェクトを現実空間の画像に重畳してディスプレイに表示するものがある。また、同様のサービスとしては、移動端末の所在位置の周辺に配置されたオブジェクトを取得し、移動端末に備えられたカメラにより取得した現実空間の画像中の位置に対応付けてオブジェクトを重畳表示するものがある。本実施形態のオブジェクト表示装置1は、後者のサービスの提供を受けるものに相当するが、これには限定されない。
【0034】
図1に示すように、オブジェクト表示装置1は、機能的には、位置情報取得部10、オブジェクト情報取得部11(オブジェクト情報取得手段)、オブジェクトデータベース12、位置依存判定部13、カメラ14、画像取得部15(画像取得手段)、画像解析部16(画像解析手段)、パターン抽出部17(パターン抽出手段)、表示位置補正部18(表示位置補正手段)及び表示部19(表示手段)を備える。
【0035】
図2は、オブジェクト表示装置1のハードウエア構成図である。オブジェクト表示装置1は、物理的には、図2に示すように、CPU101、主記憶装置であるRAM102及びROM103、データ送受信デバイスである通信モジュール104、ハードディスク、フラッシュメモリ等の補助記憶装置105、入力デバイスであるキーボード等の入力装置106、ディスプレイ等の出力装置107などを含むコンピュータシステムとして構成されている。図1に示した各機能は、図2に示すCPU101、RAM102等のハードウエア上に所定のコンピュータソフトウェアを読み込ませることにより、CPU101の制御のもとで通信モジュール104、入力装置106、出力装置107を動作させるとともに、RAM102や補助記憶装置105におけるデータの読み出し及び書き込みを行うことで実現される。再び、図1を参照し、オブジェクト表示装置1の各機能部について詳細に説明する。
【0036】
位置情報取得部10は、オブジェクト表示装置1の所在位置を示す位置情報を取得する部分である。オブジェクト表示装置1の所在位置は、例えば、GPS装置といった測位手段により測位される。位置情報取得部10は、位置情報をオブジェクト情報取得部11に送出する。
【0037】
オブジェクト情報取得部11は、オブジェクトに関するオブジェクト情報を取得する部分である。具体的には、オブジェクト情報取得部11は、位置情報取得部から送出された位置情報に基づき、オブジェクト表示装置1に所在位置の周辺に配置されたオブジェクトに関するオブジェクト情報を、オブジェクトデータベース12から取得する。オブジェクト情報取得部11は、取得したオブジェクト情報を位置依存判定部13及び画像解析部16に送出する。
【0038】
オブジェクトデータベース12は、オブジェクト情報を記憶している記憶手段である。オブジェクトデータベース12は、オブジェクト情報を予め記憶していることとしてもよい。また、オブジェクトデータベース12は、位置情報取得部10により取得された位置情報に基づき、オブジェクト情報を記憶、管理しているサーバ(図示せず)から所定の通信手段(図示せず)を介して取得されたオブジェクト情報を蓄積することとしてもよい。図3は、オブジェクトデータベース12に記憶されているオブジェクト情報の例を示す図である。図3に示すように、オブジェクト情報は、オブジェクトを識別するオブジェクトIDに対応付けられたオブジェクトデータ、位置情報、位置依存度といったデータを含む。
【0039】
オブジェクトデータは、オブジェクトの画像データである。位置情報は、現実空間における当該オブジェクトの配置位置を示す情報であって、例えば、3次元の座標値により表される。位置依存度は、当該オブジェクトの表示位置との関連性の強さの度合いを示す情報である。本実施形態では、位置依存度が「1」である場合には、表示位置との関連性が強いことを示し、位置依存度が「0」である場合には、表示位置との関連性が弱いことを示す。位置依存度が高い場合に、当該オブジェクトを位置情報に示される元の配置位置と異なる場所に表示すると、当該オブジェクトにより提供される情報が不適切なものになる可能性が高い。
【0040】
位置依存判定部13は、オブジェクト情報に含まれる位置依存度に基づき、当該オブジェクトの位置情報に示される元の配置位置に対する関連性の強さを判定する部分である。位置依存判定部13は、判定結果を画像解析部16及び表示位置補正部18に送出する。
【0041】
カメラ14は、現実空間の画像を撮影する装置である。画像取得部15は、カメラ14により撮影された現実空間の画像を取得する部分である。画像取得部15は、取得した現実空間の画像を画像解析部16に送出する。
【0042】
画像解析部16は、オブジェクト情報取得部11により取得されたオブジェクトの現実空間の画像に占める領域の大きさ及び色に関する情報、及び画像取得部15により取得された現実空間の画像の色に関する情報を取得する部分である。画像解析部16により実施される処理内容を以下により具体的に説明する。
【0043】
画像解析部16は、現実空間の画像に所定間隔の格子を設定する。図4(a)は、現実空間の画像Pの例を示す図である。また、図4(b)は、図4(a)に示す現実空間の画像Pに設定された格子Gの例を示す図である。図4(b)に示すように、画像解析部16は、格子Gを設定することにより現実空間の画像Pを方形のマス目Mに分割する。画像解析部16は、一のマス目Mに現実空間の画像の画素が1又は複数含まれるように、格子Gの間隔を所定の大きさに設定する。続いて、画像解析部16は、一のマス目Mごとに色を設定する。一のマス目に設定される色は、例えば、当該マス目Mに含まれる画素の色のうち最も多くの画素が有する色、またはマス目Mに含まれる画素の色の平均といった色に設定される。このように、一のマス目Mごとに単一の色を設定されることにより、現実空間の画像Pに、いわゆるモザイク処理が施されることとなる。
【0044】
また、画像解析部16は、オブジェクトの現実空間の画像に占める領域の大きさ及び色に関する情報を取得する。より具体的には、画像解析部16は、表示対象のオブジェクトの画像データの大きさと、現実空間の画像Pに設定した格子G及びマス目Mの大きさとを対比して、オブジェクトを現実空間の画像に重畳表示する際に必要な領域の大きさ及びマス目数を判定する。図5は、本実施形態における表示対象のオブジェクトOを、現実空間の画像Pに設定した格子G及びマス目Mに重畳した例を示す図である。図5に示すように、オブジェクトOを表示するためには、縦3行×横4列のマス目から成る長方形の領域が必要とされる。画像解析部16は、図5に例示されるような、オブジェクトOを現実空間の画像に重畳表示する際に必要な領域の大きさ及びマス目数の情報を一時記憶する。
【0045】
また、画像解析部16は、オブジェクトOを構成する主な色調である主色調を取得する。画像解析部16は、例えば、当該オブジェクトOに含まれる画素の色のうち最も多くの画素が有する色、または当該オブジェクトOに含まれる画素の色の平均といった色を主色調として取得する。画像解析部16は、取得した主色調に関する情報を一時記憶する。図6は、画像解析部16により一時記憶される、オブジェクトOを現実空間の画像に重畳表示する際に必要な領域の大きさ及びマス目数の情報、及びオブジェクトOの主色調に関する情報の例を示す図である。図6に示すように、画像解析部16は、オブジェクトIDに対応付けて、表示位置、表示マス数及び主色調といった情報を記憶する。表示位置は、当該オブジェクトの配置位置を示す情報であって、当該オブジェクトにおける代表点を配置する位置を示す。この表示位置は、図3に示したオブジェクト情報における位置情報と同様である。表示マス数は、オブジェクトOを現実空間の画像に重畳表示する際に必要な領域の大きさ及びマス目数を示す情報である。図6に示す例では、当該オブジェクトOの表示には、縦3行×横4列のマス目から成る長方形の領域が必要とされることが示されている。主色調は、オブジェクトOの主色調を示す情報であって、本実施形態では、例えばRGB表現のデータにより示されている。
【0046】
また、画像解析部16は、マス目Mに分割された現実空間の画像Pから、オブジェクトの表示位置を補正するための表示候補領域を抽出する。画像解析部16は、マス目Mに分割された現実空間の画像Pから、例えば、単一色で構成される領域を表示候補領域として抽出する。即ち、このように抽出された表示候補領域に含まれる全てのマス目Mは、単一の色を有する。また、画像解析部16は、マス目Mに分割された現実空間の画像Pから、例えば、同系色で構成される領域を表示候補領域として抽出することとしてもよい。本実施形態における同系色は、色調が所定範囲内に含まれる色の群として定義される。より具体的な例としては、各マス目Mが有する色がRGB表現形式で表される場合には、画像解析部16は、各マス目Mの色を表すR、G、B各値の所定の上位ビットを参照して、参照した上位ビットが一致するマス目Mにより構成される領域を表示候補領域として抽出することができる。このように抽出された全てのマス目Mが有する色は、所定範囲の色調に含まれる。
【0047】
画像解析部16は、抽出した表示候補領域に関する情報を一時記憶する。図7は、画像解析部16により抽出された表示候補領域の例を示す図である。図7に示すように、格子Gが設定された現実空間の画像Pから、表示候補領域A1,A2及びA3が抽出されている。また、図8は、画像解析部16により一時記憶される表示候補領域に関する情報の例を示す図である。図8に示すように、画像解析部16は、表示候補領域に関する情報として、表示候補領域を識別する表示候補領域IDに対応付けて領域情報及び主色調を記憶する。領域情報は、当該表示候補領域Aを構成するマス目Mの数N、及びマス目Mを特定する情報Rを含む。マス目Mを特定する情報Rは、当該表示候補領域Aの外縁に位置する全てのマス目Mの座標群であってもよいし、当該表示候補領域Aに含まれる全てのマス目Mの座標群であってもよい。主色調は、当該表示候補領域Aを構成する主な色調である。画像解析部16は、例えば、当該表示候補領域Aに含まれるマス目Mの色のうち最も多くのマス目Mが有する色、または当該表示候補領域Aに含まれるマス目Mの色の平均といった色を主色調として取得し、一時記憶する。画像解析部16は、オブジェクトOが現実空間の画像に占める領域の大きさ及び主色調に関する情報、及び表示項捕領域Aに関する情報をパターン抽出部17に送出する。
【0048】
パターン抽出部17は、画像解析部16により取得されたオブジェクトOの大きさ及び色に関する情報及び現実空間の画像の色に関する情報に基づき、現実空間の画像にオブジェクトを重畳表示させた際にオブジェクトを視認容易な領域を現実空間の画像から抽出する部分である。パターン抽出部17により実施される処理内容を図9を参照しながら、より具体的に説明する。図9は、表示候補領域Aから抽出された抽出パターンの例を示す図である。
【0049】
本実施形態では、パターン抽出部17は、オブジェクトOの大きさ以上の大きさを有すると共に、単一の色を有する領域を抽出パターンとして、表示候補領域Aから抽出する。本実施形態のオブジェクトOを表示するためには、縦3行×横4列のマス目Mから成る長方形の領域が必要とされる。従って、パターン抽出部17は、図9(a)に示すように、単一色のマス目Mにより構成された領域R1を抽出パターンとして表示候補領域Aから抽出する。
【0050】
また、パターン抽出部17は、オブジェクトOの大きさ以上の大きさを有すると共に、所定の範囲内の色調を有する領域を抽出パターンとして、表示候補領域Aから抽出することとしてもよい。この場合には、領域R1に含まれる全てのマス目の色が所定の範囲内の色調を有していれば、パターン抽出部17は、当該領域R1を抽出パターンとして表示候補領域Aから抽出する。
【0051】
オブジェクトOを現実空間の画像に重畳したときに、現実空間の画像において当該オブジェクトOにより隠されて視認できない部分の色調は、オブジェクトOの視認性に影響を与えない。一方、現実空間の画像においてオブジェクトOの外縁部が重畳される部分の色調は、オブジェクトOの視認性に影響を与える。このため、パターン抽出部17は、オブジェクトOの大きさ以上の大きさを有すると共に、オブジェクトOを重畳した場合にオブジェクトOの外縁部が重畳される部分が単一の色を有する領域を抽出パターンとして、表示候補領域Aから抽出することとしてもよい。図5に示すオブジェクトOを現実空間の画像に重畳すると、オブジェクトOは、縦3行×横4列のマス目Mから成る長方形の領域を必要とすると共に、オブジェクトOの外縁部が図9(b)に示される領域R2の斜線が施されたマス目Mに重畳される。この場合には、領域R2に含まれるマス目Mのうち、斜線が施された全てのマス目Mが単一色を有していれば、パターン抽出部17は、当該領域R2を抽出パターンとして表示候補領域Aから抽出する。
【0052】
また、パターン抽出部17は、オブジェクトOの大きさ以上の大きさを有すると共に、オブジェクトOを重畳した場合にオブジェクトOの外縁部が重畳される部分が所定の範囲内の色調を有する領域を抽出パターンとして、表示候補領域Aから抽出することとしてもよい。この場合には、領域R2に含まれるマス目Mのうち、斜線が施された全てのマス目Mの色が所定の範囲内の色調を有していれば、パターン抽出部17は、当該領域R2を抽出パターンとして表示候補領域Aから抽出する。
【0053】
また、オブジェクトOを現実空間の画像に重畳したときに、現実空間の画像において当該オブジェクトOが重畳される領域がより多くの単一色で占められるほど、オブジェクトOの視認性の向上が期待される。このため、パターン抽出部17は、オブジェクトOの大きさ以上の大きさを有すると共に、単一色に占められる部分が所定以上含まれる領域を抽出パターンとして、表示候補領域Aから抽出することとしてもよい。即ち、本実施形態のオブジェクトOを表示するためには、縦3行×横4列のマス目Mから成る長方形の領域が必要とされるところ、パターン抽出部17は、図9(c)に示すように、縦3行×横4列のマス目Mから成る長方形の領域R3に含まれるマス目Mのうち、斜線で示される単一色を有するマス目Mが所定の割合以上である場合に、領域R3を抽出パターンとして表示候補領域Aから抽出する。
【0054】
また、パターン抽出部17は、オブジェクトOの大きさ以上の大きさを有すると共に、所定の範囲内の色調を有する部分が所定以上含まれる領域を抽出パターンとして、表示候補領域Aから抽出することとしてもよい。即ち、本実施形態のオブジェクトOを表示するためには、縦3行×横4列のマス目Mから成る長方形の領域が必要とされるところ、パターン抽出部17は、図9(c)に示すように、縦3行×横4列のマス目Mから成る長方形の領域R3に含まれるマス目Mのうち、斜線で示される所定の範囲内の色調を有するマス目Mが所定の割合以上である場合に、領域R3を抽出パターンとして表示候補領域Aから抽出する。
【0055】
表示位置補正部18は、パターン抽出部17により抽出された抽出パターンにオブジェクトOの表示位置を補正する部分である。即ち、オブジェクトOの元来の表示位置は、例えばオブジェクトデータベース12において位置情報として設定又は記憶されているところ、表示位置補正部18は、オブジェクトOの表示位置を元来の表示位置から、パターン抽出部17により抽出された抽出パターンの位置に変更する。
【0056】
また、表示位置補正部18は、パターン抽出部17により複数の抽出パターンが抽出された場合には、オブジェクトOの元来の表示位置に最も近い領域にオブジェクトOの表示位置を補正することとしてもよい。即ち、パターン抽出部17において、オブジェクトOの視認性向上のための表示位置の候補として、抽出パターンが複数抽出される場合がある。この場合には、表示位置補正部18は、当該オブジェクトOの元来の表示位置に最も近い領域にオブジェクトOの表示位置を補正する。オブジェクトOは、所定の位置に対応付けて表示されることにより、その配置位置に関連する様々な情報を提供するところ、視認性向上のために表示位置が補正される場合であっても、当該オブジェクトOの元の表示位置に最も近い領域に表示位置が補正されるので、当該オブジェクトOの情報性の低下が防止される。
【0057】
また、表示位置補正部18は、画像解析部16により取得されたオブジェクトOの色に関する情報及びパターン抽出部17により抽出された抽出パターンが有する色に関する情報に基づき、オブジェクトOの色調と抽出パターンの色調とが所定の対照関係である場合に、オブジェクトOの表示位置を補正することとしてもよい。例えば、オブジェクトOの色調と抽出パターンの色調とが近似する場合には、当該オブジェクトOの表示位置を当該抽出パターンの位置に補正しても、オブジェクトOの視認性は向上しにくい。従って、オブジェクトOの色調と抽出パターンの色調とが所定の対照関係である場合に、オブジェクトOの表示位置の補正を実施することにより、当該オブジェクトOの視認が容易となる。色調間の対照性の判定は、例えば周知の色相環により行うことができる。具体的には、色相環においてオブジェクトOの主色調の反対の位置及びその周辺に設けられた色を対照色として抽出し、抽出パターンの主色調が対照色に該当する場合に、表示位置補正部18は、オブジェクトOの表示位置の補正を実施する。対照色の範囲は、予め設定されるものとする。
【0058】
また、表示位置補正部18は、位置依存判定部13から送出された、オブジェクトOの元来の表示位置との関連性の強さの度合い位置依存度に関する判定結果を取得する。そして、表示位置補正部18は、オブジェクトOの位置依存度が所定の度合いより低い場合に、オブジェクトOの表示位置の補正を実施することとしてもよい。即ち、オブジェクトOの位置依存度が高い場合には、当該オブジェクトOの表示位置に対する関連性が高いことを意味するので、当該オブジェクトOを元来の表示位置以外の位置に表示した場合には、オブジェクトOがユーザに提供する情報が不適切なものとなる可能性が高い。本実施形態では、位置依存度が所定の度合いより低い場合にオブジェクトOの表示位置が補正されるので、当該オブジェクトOの情報性の低下が防止される。
【0059】
表示部19は、表示位置補正部18により補正された表示位置にオブジェクトOを、現実空間の画像に重畳表示する部分である。図10(a)は、表示位置の補正前における、現実空間の画像にオブジェクトを重畳表示した例である。図10(b)は、表示位置の補正後における、現実空間の画像にオブジェクトを重畳表示した例である。図10(a)に示すように、現実空間の画像におけるオブジェクトOAが重畳表示される領域の色調が煩雑である場合には、オブジェクトOAの視認性は低い。一方、図10(b)に示すように、本実施形態では、オブジェクトOBの表示位置が現実空間の画像における色調が煩雑でない領域に補正されるので、オブジェクトOBの視認性は良好である。
【0060】
続いて、図11及び図12を参照して、本実施形態のオブジェクト表示方法におけるオブジェクト表示装置1の動作について説明する。図11は、オブジェクト表示方法の処理内容を示すタイミングチャートである。また、図12は、図11におけるパターン抽出処理の処理内容を示すフローチャートである。
【0061】
まず、オブジェクト情報取得部11は、オブジェクト情報を取得する(S1、オブジェクト情報取得ステップ)。続いて、位置依存判定部13は、オブジェクト情報に含まれる位置依存度に基づき、当該オブジェクトの位置情報に示される元来の配置位置に対する関連性の強さを判定する(S2)。位置依存度が低いと判定された場合には、処理手順はステップS3に進められる。一方、位置依存度が低いと判定されなかった場合には、処理手順はステップS13に進められる。
【0062】
ステップS3において、画像取得部15は、カメラ14により撮影された現実空間の画像を取得する(S3、画像取得ステップ)。続いて、画像解析部16は、現実空間の画像に所定間隔の格子を設定する(S4)。格子の設定により、現実空間の画像は、方形のマス目に分割される。そして、画像解析部16は、マス目ごとに色を設定する。
【0063】
次に、画像解析部16は、表示対象のオブジェクトの画像データの大きさと、現実空間の画像に設定した格子及びマス目の大きさとを対比して、オブジェクトを現実空間の画像に重畳表示する際に必要な領域の大きさ(マス目数)を取得する(S5、画像解析ステップ)。さらに、画像解析部16は、オブジェクトOを構成する主な色調である主色調を取得する(S5、画像解析ステップ)。
【0064】
画像解析部16は、マス目Mに分割された現実空間の画像Pから、オブジェクトの表示位置を補正するための表示候補領域を抽出する(S6、画像解析ステップ)。表示候補領域は、例えば、単一色のマス目により構成される領域、または、同系色を有するマス目により構成される領域である。また、画像解析部16は、抽出した表示候補領域の主色調を判定する(S6、画像解析ステップ)。なお、ステップS6に示される処理内容は、本実施形態において必須の処理ではない。即ち、本実施形態のオブジェクト表示装置1では、表示候補領域の抽出を実施することなく、後述するパターン抽出処理を表示候補領域ではなく現実空間の画像に対して実施することとしてもよい。
【0065】
次に、パターン抽出部17は、パターン抽出処理を実施する(S7、パターン抽出ステップ)。続いて、図12を参照してパターン抽出処理を詳細に説明する。
【0066】
まず、パターン抽出部17は、抽出パターンのパターン態様を設定する(S21)。パターン態様は、ステップS4において設定されたマス目を1単位として、例えば、以下のようなものが順次設定される。
(i)オブジェクトを重畳表示するために必要な大きさを有する領域に含まれる全てのマス目
(ii)オブジェクトを重畳表示するために必要な大きさを有する領域に含まれる全てのマス目のうち、オブジェクトの外縁部が重畳されるマス目
(iii)オブジェクトを重畳表示するために必要な大きさを有する領域に含まれる全てのマス目のうち、所定の割合又は数以上のマス目
【0067】
本実施形態では、ステップS21において、パターン抽出部17は、パターン(i)をパターン態様として設定する。
【0068】
次に、パターン抽出部17は、オブジェクトを重畳表示するために必要な大きさを有すると共に、単一色のマス目により構成される領域を抽出パターンとして表示候補領域から抽出することを試みる(S22)。ステップS22において、抽出パターンが抽出された場合には、処理手順は終了する(S23)。一方、ステップS22において、抽出パターンが抽出されなかった場合には、処理手順はステップS24に進められる(S23)。
【0069】
ステップS24において、パターン抽出部17は、オブジェクトを重畳表示するために必要な大きさを有すると共に、同系色を有するマス目により構成される領域を抽出パターンとして表示候補領域から抽出することを試みる(S24)。なお、同系色は、所定の範囲内の色調を有する色群として定義される。ステップS24において、抽出パターンが抽出された場合には、処理手順は終了する(S25)。一方、ステップS24において、抽出パターンが抽出されなかった場合には、処理手順はステップS26に進められる(S25)。
【0070】
ステップS26において、パターン抽出部17は、全てのパターン態様の設定を実施済みか否かを判定する(S26)。本実施形態では、上記した(i)〜(iii)のパターン態様について設定済みか否かが判定される。全てのパターン態様の設定を実施済みであると判定された場合には、処理手順は終了する。一方、全てのパターン態様の設定を実施済みであると判定されなかった場合には、処理手順はステップS27に進められる。例えば、パターン態様(i)が設定されてパターン抽出が実施されていた場合には、パターン態様(ii)、(iii)によるパターン抽出が実施されていないので、この場合には、全てのパターン態様の設定を実施済みであると判定されない。
【0071】
ステップS27において、パターン抽出部17は、パターン態様を変更する。具体的には、パターン抽出部17は、抽出パターンが抽出される可能性が高められるように、パターン態様を順次変更する。即ち、上記の複数のパターン態様における抽出パターンが抽出される可能性は、パターン態様(i)が最も低く、パターン態様(iii)が最も高いので、例えば、パターン態様(i)が設定されてパターン抽出が実施されていた場合には、パターン抽出部17は、パターン態様を(ii)に変更する。
【0072】
ステップS27の処理が実施された後、処理手順はステップS22に戻る。このように、パターン態様が変更されながら、ステップS22〜S27の処理が繰り返される。パターン抽出部17は、抽出した抽出パターンに関する情報、又は抽出パターンが抽出されなかった旨の情報を表示位置補正部18に送出する。
【0073】
再び、図11を参照して、ステップS8において、表示位置補正部18は、抽出パターンがあるか否かを判定する(S8)。抽出パターンがあると判定された場合には、処理手順はステップS9に進められる。一方、抽出パターンがあると判定されなかった場合には、処理手順はステップS13に進められる。
【0074】
続いて、表示位置補正部18は、抽出パターンが複数あるか否かを判定する(S9)。抽出パターンが複数あると判定された場合には、処理手順はステップS10に進められる。一方、抽出パターンが複数あると判定されなかった場合には、処理手順はステップS11に進められる。
【0075】
ステップS10において、表示位置補正部18は、オブジェクトの元来の表示位置に最も近くに位置する抽出パターンを選択する(S10)。続いて、表示位置補正部18は、選択された抽出パターンの主色調が、オブジェクトの主色調の所定の対照色に該当するか否かを判定する(S11)。抽出パターンの主色調がオブジェクトの主色調の所定の対照色に該当すると判定された場合には、処理手順はステップS12に進められる。一方、抽出パターンの主色調がオブジェクトの主色調の所定の対照色に該当すると判定されなかった場合には、処理手順はステップS13に進められる。
【0076】
ステップS12において、表示位置補正部18は、パターン抽出部17により抽出された抽出パターンにオブジェクトの表示位置を補正する。そして、表示部19は、現実空間の画像における、表示位置補正部18により補正された表示位置に、オブジェクトを重畳表示する(S12、表示位置補正ステップ、表示ステップ)。
【0077】
一方、ステップS13において、表示部19は、オブジェクトの表示位置の補正を実施することなく、当該オブジェクトの位置情報に示される元来の配置位置にオブジェクトを重畳表示する(S13)。こうして、本実施形態の処理を終了する。
【0078】
なお、ステップS8において、抽出パターンがあると判定されなかった場合、又はステップS11において、抽出パターンの主色調がオブジェクトの主色調の所定の対照色に該当すると判定されなかった場合に、処理手順がステップS4に戻されることとしてもよい。このように、処理手順がステップS4に戻された場合には、抽出パターンが抽出される可能性が高くなるように、ステップS4における格子設定の条件、又はステップS6における表示候補領域の抽出条件が変更されて、ステップS4以降の処理が繰り返される。例えば、ステップS4において、格子の間隔を広げ、格子間に形成されるマス目の大きさを大きくするように格子設定の条件を変更することにより、抽出パターンが抽出される可能性を高めることが可能となる。また、ステップS6において、同系色と判定される色調の範囲を広げるように、表示候補領域の抽出条件を変更することにより、抽出パターンが抽出される可能性を高めることが可能となる。
【0079】
以上説明した本実施形態のオブジェクト表示装置1及びオブジェクト表示方法では、画像解析部16により取得されたオブジェクトの大きさ及び色に関する情報及び現実空間の画像の色に関する情報に基づき、現実空間の画像にオブジェクトを重畳表示させた際にオブジェクトを視認容易な領域がパターン抽出部17により現実空間の画像から抽出され、この領域に表示位置補正部18によりオブジェクトの表示位置が補正される。従って、オブジェクトの視認が容易となり、オブジェクトを現実空間の画像に表示することによる情報性といった各種の効果を高めることが可能となる。
【0080】
以上、本発明をその実施形態に基づいて詳細に説明した。しかし、本発明は上記実施形態に限定されるものではない。本発明は、その要旨を逸脱しない範囲で様々な変形が可能である。
【符号の説明】
【0081】
1…オブジェクト表示装置、10…位置情報取得部、11…オブジェクト情報取得部、12…オブジェクトデータベース、13…位置依存判定部、14…カメラ、15…画像取得部、16…画像解析部、17…パターン抽出部、18…表示位置補正部、19…表示部、A,A1,A2…表示候補領域、G…格子、M…マス目、O…オブジェクト。
【技術分野】
【0001】
本発明は、オブジェクト表示装置及びオブジェクト表示方法に関する。
【背景技術】
【0002】
近年において、AR(Augmented Reality:拡張現実)技術を用いたサービスが開発・提供されている。例えば、移動端末の所在位置の周辺に配置されたオブジェクトを取得し、移動端末に備えられたカメラにより取得した現実空間の画像に種々の情報や画像を含むオブジェクトを重畳表示する技術が知られている。また、移動端末のカメラにより取得された現実空間の画像から所定のマーカを検出し、当該マーカに対応付けられたオブジェクトを現実空間の画像に重畳してディスプレイに表示する技術が知られている。また、上記技術に関連する技術として、撮影された実空間の画像から肌色の領域を検出し、その検出位置に仮想オブジェクト(ペット)を表示させる装置が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2006−262980号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、通常のAR技術では、オブジェクトの表示位置は、オブジェクトが有する位置情報や、当該オブジェクトが対応付けられるマーカの位置に依存するので、オブジェクトの表示位置周辺の画像の状態は考慮されない。このため、現実空間の画像におけるオブジェクトの表示位置周辺の画像の色調が煩雑である場合には、重畳されたオブジェクトの視認が難しくなり、オブジェクトの表示による各種の情報提供といった効果が小さくなる。
【0005】
そこで、本発明は、上記問題点に鑑みてなされたものであり、AR技術において、現実空間の画像における視認容易な位置にオブジェクトを重畳表示させることが可能なオブジェクト表示装置及びオブジェクト表示方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題を解決するために、本発明のオブジェクト表示装置は、現実空間の画像の所定位置にオブジェクトを重畳表示するオブジェクト表示装置であって、オブジェクトに関するオブジェクト情報を取得するオブジェクト情報取得手段と、現実空間の画像を取得する画像取得手段と、オブジェクト情報取得手段により取得されたオブジェクトの大きさ及び色に関する情報、並びに画像取得手段により取得された現実空間の画像の色に関する情報を取得する画像解析手段と、画像解析手段により取得されたオブジェクトの大きさ及び色に関する情報並びに現実空間の画像の色に関する情報に基づき、現実空間の画像にオブジェクトを重畳表示させた際にオブジェクトを視認容易な領域を現実空間の画像から抽出するパターン抽出手段と、パターン抽出手段により抽出された領域にオブジェクトの表示位置を補正する表示位置補正手段と、表示位置補正手段により補正された表示位置にオブジェクトを重畳表示する表示手段とを備えることを特徴とする。
【0007】
また、上記課題を解決するために、本発明のオブジェクト表示方法は、現実空間の画像の所定位置にオブジェクトを重畳表示するオブジェクト表示装置におけるオブジェクト表示方法であって、オブジェクトに関するオブジェクト情報を取得するオブジェクト情報取得ステップと、現実空間の画像を取得する画像取得ステップと、オブジェクト情報取得ステップにおいて取得されたオブジェクトの現実空間の画像に占める領域の大きさ及び色に関する情報、及び画像取得ステップにおいて取得された現実空間の画像の色に関する情報を取得する画像解析ステップと、画像解析ステップにおいて取得されたオブジェクトの大きさ及び色に関する情報及び現実空間の画像の色に関する情報に基づき、現実空間の画像にオブジェクトを重畳表示させた際にオブジェクトを視認容易な領域を現実空間の画像から抽出するパターン抽出ステップと、パターン抽出ステップにおいて抽出された領域にオブジェクトの表示位置を補正する表示位置補正ステップと、表示位置補正ステップにおいて補正された表示位置にオブジェクトを重畳表示する表示ステップとを有することを特徴とする。
【0008】
本発明のオブジェクト表示装置及びオブジェクト表示方法によれば、オブジェクトの大きさ及び色に関する情報及び現実空間の画像の色に関する情報に基づき、現実空間の画像にオブジェクトを重畳表示させた際にオブジェクトを視認容易な領域が現実空間の画像から抽出され、この領域にオブジェクトの表示位置が補正される。従って、オブジェクトの視認が容易となり、オブジェクトを現実空間の画像に表示することによる各種の効果を高めることが可能となる。
【0009】
また、本発明のオブジェクト表示装置では、パターン抽出手段は、オブジェクトの大きさ以上の大きさを有すると共に、単一の色を有する領域を現実空間の画像から抽出することを特徴とする。
【0010】
この場合には、現実空間の画像において単一の色を有する領域が抽出され、この領域にオブジェクトの表示位置が補正される。これにより、オブジェクトは、現実空間の画像における色調が煩雑でない領域に重畳表示されるので、当該オブジェクトの視認が容易となる。
【0011】
また、本発明のオブジェクト表示装置では、パターン抽出手段は、オブジェクトの大きさ以上の大きさを有すると共に、所定の範囲内の色調を有する領域を現実空間の画像から抽出することを特徴とする。
【0012】
この場合には、現実空間の画像において所定の範囲内の色調を有する領域が抽出され、この領域にオブジェクトの表示位置が補正される。これにより、オブジェクトは、現実空間の画像における色調が煩雑でない領域に重畳表示されるので、当該オブジェクトの視認が容易となる。
【0013】
また、本発明のオブジェクト表示装置では、パターン抽出手段は、オブジェクトの大きさ以上の大きさを有すると共に、オブジェクトを重畳した場合にオブジェクトの外縁部が重畳される部分が単一の色を有する領域を現実空間の画像から抽出することを特徴とする。
【0014】
オブジェクトが現実空間の画像に重畳表示された際に、現実空間の画像における当該オブジェクトにより視認不可能となる部分の色は、オブジェクトの視認性に影響を与えない。一方、オブジェクトの外縁部が重畳される部分の色は、オブジェクトの視認性に大きな影響を与える。本発明のオブジェクト表示装置では、オブジェクトを重畳した際にオブジェクトの外縁部が重畳される部分が単一の色を有する領域が現実空間の画像から抽出され、この領域にオブジェクトの表示位置が補正される。これにより、現実空間の画像における色調が煩雑でない部分に外縁部が位置するようにオブジェクトが重畳表示されるので、当該オブジェクトの視認が容易となる。
【0015】
また、本発明のオブジェクト表示装置では、パターン抽出手段は、オブジェクトの大きさ以上の大きさを有すると共に、オブジェクトを重畳した場合にオブジェクトの外縁部が重畳される部分が所定の範囲内の色調を有する領域を現実空間の画像から抽出することを特徴とする。
【0016】
この場合には、オブジェクトを重畳した際にオブジェクトの外縁部が重畳される部分が所定の範囲内の色調を有する領域が現実空間の画像から抽出され、この領域にオブジェクトの表示位置が補正される。これにより、現実空間の画像における色調が煩雑でない部分に外縁部が位置するようにオブジェクトが重畳表示されるので、当該オブジェクトの視認が容易となる。
【0017】
また、本発明のオブジェクト表示装置では、パターン抽出手段は、オブジェクトの大きさ以上の大きさを有すると共に、単一色に占められる部分が所定以上含まれる領域を現実空間の画像から抽出することを特徴とする。
【0018】
この場合には、現実空間の画像において単一の色が所定以上含まれる領域が抽出され、この領域にオブジェクトの表示位置が補正される。これにより、オブジェクトは、現実空間の画像における色調が比較的煩雑でない領域に重畳表示されるので、当該オブジェクトの視認が容易となる。
【0019】
また、本発明のオブジェクト表示装置では、パターン抽出手段は、オブジェクトの大きさ以上の大きさを有すると共に、所定の範囲内の色調を有する部分が所定以上含まれる領域を現実空間の画像から抽出することを特徴とする。
【0020】
この場合には、現実空間の画像において所定の範囲内の色調を有する部分が所定以上含まれる領域が抽出され、この領域にオブジェクトの表示位置が補正される。これにより、オブジェクトは、現実空間の画像における色調が比較的煩雑でない領域に重畳表示されるので、当該オブジェクトの視認が容易となる。
【0021】
また、本発明のオブジェクト表示装置では、画像解析手段は、画像取得手段により取得された現実空間の画像から、単一色または所定範囲内の色調を有する領域を表示候補領域として抽出し、パターン抽出手段は、画像解析手段により抽出された表示候補領域からオブジェクトを視認容易な領域を抽出することを特徴とする。
【0022】
この場合には、オブジェクトの表示位置を補正するための領域の候補となる表示候補領域が予め抽出され、抽出された表示候補領域に対してオブジェクトの表示のための領域の抽出が実施されるので、当該抽出処理のための処理負荷が軽減される。
【0023】
また、本発明のオブジェクト表示装置では、表示位置補正手段は、画像解析手段により取得されたオブジェクトの色に関する情報及びパターン抽出手段により抽出された領域が有する色に関する情報に基づき、オブジェクトの色と領域の色とが所定の対照関係である場合に、オブジェクトの表示位置を補正することを特徴とする。
【0024】
この場合には、オブジェクトの背景となる領域の色調とオブジェクトの色調とが対照関係にある場合に、オブジェクトの表示位置が当該領域に補正されるので、当該オブジェクトの視認が容易となる。
【0025】
また、本発明のオブジェクト表示装置では、表示位置補正手段は、パターン抽出手段により複数の領域が抽出された場合には、オブジェクトの元の表示位置に最も近い領域にオブジェクトの表示位置を補正することを特徴とする。
【0026】
現実空間の画像に重畳表示されるオブジェクトは、所定の位置に対応付けられており、その位置に関連する情報を含む場合が多い。本発明のオブジェクト表示装置では、視認性向上のために表示位置が補正される場合であっても、当該オブジェクトの元の表示位置に最も近い領域に表示位置が補正されるので、当該オブジェクトの情報性の低下が防止される。
【0027】
また、本発明のオブジェクト表示装置では、オブジェクト情報は、当該オブジェクトの表示位置との関連性の強さの度合いを示す位置依存度を含み、表示位置補正手段は、位置依存度が所定の度合いより低い場合に、オブジェクトの表示位置を補正することを特徴とする。
【0028】
オブジェクトの位置依存度が高い場合には、当該オブジェクトの表示位置に対する関連性が高いことを意味するので、当該オブジェクトを所定位置以外の位置に表示した場合には、当該オブジェクトがユーザに提供する情報が不適切なものとなる可能性が高い。本発明の構成では、位置依存度が所定の度合いより低い場合に、オブジェクトの表示位置が補正されるので、当該オブジェクトの情報性の低下が防止される。
【発明の効果】
【0029】
AR技術において、現実空間の画像において、視認容易な位置にオブジェクトを重畳表示させることが可能となる。
【図面の簡単な説明】
【0030】
【図1】オブジェクト表示装置の機能的構成を示すブロック図である。
【図2】オブジェクト表示装置のハードブロック図である。
【図3】オブジェクトデータベースの構成及び記憶されているデータの例を示す図である。
【図4】現実空間の画像及び現実空間の画像に設定された格子の例を示す図である。
【図5】オブジェクトの表示に必要とされるマス目の数を示す図である。
【図6】画像解析部により取得されたオブジェクトの表示位置、表示に必要なマス目の数、及び主色調を示す図である。
【図7】現実空間の画像から抽出された表示候補領域の例を示す図である。
【図8】画像解析部により取得された各表示候補領域のマス目の数、マス目に関する情報及び主色調を示す図である。
【図9】オブジェクトの表示位置の補正のために、パターン抽出部により抽出される領域のパターン例を示す図である。
【図10】現実空間の画像にオブジェクトを重畳表示した例であって、表示位置の補正前及び補正後の重畳表示の例を示す図である。
【図11】オブジェクト表示方法の処理内容を示すタイミングチャートである。
【図12】図11におけるパターン抽出処理の処理内容を示すフローチャートである。
【発明を実施するための形態】
【0031】
本発明に係るオブジェクト表示装置及びオブジェクト表示方法の実施形態について図面を参照して説明する。なお、可能な場合には、同一の部分には同一の符号を付して、重複する説明を省略する。
【0032】
図1は、オブジェクト表示装置1の機能的構成を示すブロック図である。本実施形態のオブジェクト表示装置1は、現実空間の画像の所定位置にオブジェクトを重畳表示する装置であって、例えば、移動体通信網を介した通信が可能な携帯端末である。
【0033】
移動端末等の装置を用いたAR技術によるサービスとしては、例えば、移動端末のカメラにより取得された現実空間の画像から所定のマーカを検出し、当該マーカに対応付けられたオブジェクトを現実空間の画像に重畳してディスプレイに表示するものがある。また、同様のサービスとしては、移動端末の所在位置の周辺に配置されたオブジェクトを取得し、移動端末に備えられたカメラにより取得した現実空間の画像中の位置に対応付けてオブジェクトを重畳表示するものがある。本実施形態のオブジェクト表示装置1は、後者のサービスの提供を受けるものに相当するが、これには限定されない。
【0034】
図1に示すように、オブジェクト表示装置1は、機能的には、位置情報取得部10、オブジェクト情報取得部11(オブジェクト情報取得手段)、オブジェクトデータベース12、位置依存判定部13、カメラ14、画像取得部15(画像取得手段)、画像解析部16(画像解析手段)、パターン抽出部17(パターン抽出手段)、表示位置補正部18(表示位置補正手段)及び表示部19(表示手段)を備える。
【0035】
図2は、オブジェクト表示装置1のハードウエア構成図である。オブジェクト表示装置1は、物理的には、図2に示すように、CPU101、主記憶装置であるRAM102及びROM103、データ送受信デバイスである通信モジュール104、ハードディスク、フラッシュメモリ等の補助記憶装置105、入力デバイスであるキーボード等の入力装置106、ディスプレイ等の出力装置107などを含むコンピュータシステムとして構成されている。図1に示した各機能は、図2に示すCPU101、RAM102等のハードウエア上に所定のコンピュータソフトウェアを読み込ませることにより、CPU101の制御のもとで通信モジュール104、入力装置106、出力装置107を動作させるとともに、RAM102や補助記憶装置105におけるデータの読み出し及び書き込みを行うことで実現される。再び、図1を参照し、オブジェクト表示装置1の各機能部について詳細に説明する。
【0036】
位置情報取得部10は、オブジェクト表示装置1の所在位置を示す位置情報を取得する部分である。オブジェクト表示装置1の所在位置は、例えば、GPS装置といった測位手段により測位される。位置情報取得部10は、位置情報をオブジェクト情報取得部11に送出する。
【0037】
オブジェクト情報取得部11は、オブジェクトに関するオブジェクト情報を取得する部分である。具体的には、オブジェクト情報取得部11は、位置情報取得部から送出された位置情報に基づき、オブジェクト表示装置1に所在位置の周辺に配置されたオブジェクトに関するオブジェクト情報を、オブジェクトデータベース12から取得する。オブジェクト情報取得部11は、取得したオブジェクト情報を位置依存判定部13及び画像解析部16に送出する。
【0038】
オブジェクトデータベース12は、オブジェクト情報を記憶している記憶手段である。オブジェクトデータベース12は、オブジェクト情報を予め記憶していることとしてもよい。また、オブジェクトデータベース12は、位置情報取得部10により取得された位置情報に基づき、オブジェクト情報を記憶、管理しているサーバ(図示せず)から所定の通信手段(図示せず)を介して取得されたオブジェクト情報を蓄積することとしてもよい。図3は、オブジェクトデータベース12に記憶されているオブジェクト情報の例を示す図である。図3に示すように、オブジェクト情報は、オブジェクトを識別するオブジェクトIDに対応付けられたオブジェクトデータ、位置情報、位置依存度といったデータを含む。
【0039】
オブジェクトデータは、オブジェクトの画像データである。位置情報は、現実空間における当該オブジェクトの配置位置を示す情報であって、例えば、3次元の座標値により表される。位置依存度は、当該オブジェクトの表示位置との関連性の強さの度合いを示す情報である。本実施形態では、位置依存度が「1」である場合には、表示位置との関連性が強いことを示し、位置依存度が「0」である場合には、表示位置との関連性が弱いことを示す。位置依存度が高い場合に、当該オブジェクトを位置情報に示される元の配置位置と異なる場所に表示すると、当該オブジェクトにより提供される情報が不適切なものになる可能性が高い。
【0040】
位置依存判定部13は、オブジェクト情報に含まれる位置依存度に基づき、当該オブジェクトの位置情報に示される元の配置位置に対する関連性の強さを判定する部分である。位置依存判定部13は、判定結果を画像解析部16及び表示位置補正部18に送出する。
【0041】
カメラ14は、現実空間の画像を撮影する装置である。画像取得部15は、カメラ14により撮影された現実空間の画像を取得する部分である。画像取得部15は、取得した現実空間の画像を画像解析部16に送出する。
【0042】
画像解析部16は、オブジェクト情報取得部11により取得されたオブジェクトの現実空間の画像に占める領域の大きさ及び色に関する情報、及び画像取得部15により取得された現実空間の画像の色に関する情報を取得する部分である。画像解析部16により実施される処理内容を以下により具体的に説明する。
【0043】
画像解析部16は、現実空間の画像に所定間隔の格子を設定する。図4(a)は、現実空間の画像Pの例を示す図である。また、図4(b)は、図4(a)に示す現実空間の画像Pに設定された格子Gの例を示す図である。図4(b)に示すように、画像解析部16は、格子Gを設定することにより現実空間の画像Pを方形のマス目Mに分割する。画像解析部16は、一のマス目Mに現実空間の画像の画素が1又は複数含まれるように、格子Gの間隔を所定の大きさに設定する。続いて、画像解析部16は、一のマス目Mごとに色を設定する。一のマス目に設定される色は、例えば、当該マス目Mに含まれる画素の色のうち最も多くの画素が有する色、またはマス目Mに含まれる画素の色の平均といった色に設定される。このように、一のマス目Mごとに単一の色を設定されることにより、現実空間の画像Pに、いわゆるモザイク処理が施されることとなる。
【0044】
また、画像解析部16は、オブジェクトの現実空間の画像に占める領域の大きさ及び色に関する情報を取得する。より具体的には、画像解析部16は、表示対象のオブジェクトの画像データの大きさと、現実空間の画像Pに設定した格子G及びマス目Mの大きさとを対比して、オブジェクトを現実空間の画像に重畳表示する際に必要な領域の大きさ及びマス目数を判定する。図5は、本実施形態における表示対象のオブジェクトOを、現実空間の画像Pに設定した格子G及びマス目Mに重畳した例を示す図である。図5に示すように、オブジェクトOを表示するためには、縦3行×横4列のマス目から成る長方形の領域が必要とされる。画像解析部16は、図5に例示されるような、オブジェクトOを現実空間の画像に重畳表示する際に必要な領域の大きさ及びマス目数の情報を一時記憶する。
【0045】
また、画像解析部16は、オブジェクトOを構成する主な色調である主色調を取得する。画像解析部16は、例えば、当該オブジェクトOに含まれる画素の色のうち最も多くの画素が有する色、または当該オブジェクトOに含まれる画素の色の平均といった色を主色調として取得する。画像解析部16は、取得した主色調に関する情報を一時記憶する。図6は、画像解析部16により一時記憶される、オブジェクトOを現実空間の画像に重畳表示する際に必要な領域の大きさ及びマス目数の情報、及びオブジェクトOの主色調に関する情報の例を示す図である。図6に示すように、画像解析部16は、オブジェクトIDに対応付けて、表示位置、表示マス数及び主色調といった情報を記憶する。表示位置は、当該オブジェクトの配置位置を示す情報であって、当該オブジェクトにおける代表点を配置する位置を示す。この表示位置は、図3に示したオブジェクト情報における位置情報と同様である。表示マス数は、オブジェクトOを現実空間の画像に重畳表示する際に必要な領域の大きさ及びマス目数を示す情報である。図6に示す例では、当該オブジェクトOの表示には、縦3行×横4列のマス目から成る長方形の領域が必要とされることが示されている。主色調は、オブジェクトOの主色調を示す情報であって、本実施形態では、例えばRGB表現のデータにより示されている。
【0046】
また、画像解析部16は、マス目Mに分割された現実空間の画像Pから、オブジェクトの表示位置を補正するための表示候補領域を抽出する。画像解析部16は、マス目Mに分割された現実空間の画像Pから、例えば、単一色で構成される領域を表示候補領域として抽出する。即ち、このように抽出された表示候補領域に含まれる全てのマス目Mは、単一の色を有する。また、画像解析部16は、マス目Mに分割された現実空間の画像Pから、例えば、同系色で構成される領域を表示候補領域として抽出することとしてもよい。本実施形態における同系色は、色調が所定範囲内に含まれる色の群として定義される。より具体的な例としては、各マス目Mが有する色がRGB表現形式で表される場合には、画像解析部16は、各マス目Mの色を表すR、G、B各値の所定の上位ビットを参照して、参照した上位ビットが一致するマス目Mにより構成される領域を表示候補領域として抽出することができる。このように抽出された全てのマス目Mが有する色は、所定範囲の色調に含まれる。
【0047】
画像解析部16は、抽出した表示候補領域に関する情報を一時記憶する。図7は、画像解析部16により抽出された表示候補領域の例を示す図である。図7に示すように、格子Gが設定された現実空間の画像Pから、表示候補領域A1,A2及びA3が抽出されている。また、図8は、画像解析部16により一時記憶される表示候補領域に関する情報の例を示す図である。図8に示すように、画像解析部16は、表示候補領域に関する情報として、表示候補領域を識別する表示候補領域IDに対応付けて領域情報及び主色調を記憶する。領域情報は、当該表示候補領域Aを構成するマス目Mの数N、及びマス目Mを特定する情報Rを含む。マス目Mを特定する情報Rは、当該表示候補領域Aの外縁に位置する全てのマス目Mの座標群であってもよいし、当該表示候補領域Aに含まれる全てのマス目Mの座標群であってもよい。主色調は、当該表示候補領域Aを構成する主な色調である。画像解析部16は、例えば、当該表示候補領域Aに含まれるマス目Mの色のうち最も多くのマス目Mが有する色、または当該表示候補領域Aに含まれるマス目Mの色の平均といった色を主色調として取得し、一時記憶する。画像解析部16は、オブジェクトOが現実空間の画像に占める領域の大きさ及び主色調に関する情報、及び表示項捕領域Aに関する情報をパターン抽出部17に送出する。
【0048】
パターン抽出部17は、画像解析部16により取得されたオブジェクトOの大きさ及び色に関する情報及び現実空間の画像の色に関する情報に基づき、現実空間の画像にオブジェクトを重畳表示させた際にオブジェクトを視認容易な領域を現実空間の画像から抽出する部分である。パターン抽出部17により実施される処理内容を図9を参照しながら、より具体的に説明する。図9は、表示候補領域Aから抽出された抽出パターンの例を示す図である。
【0049】
本実施形態では、パターン抽出部17は、オブジェクトOの大きさ以上の大きさを有すると共に、単一の色を有する領域を抽出パターンとして、表示候補領域Aから抽出する。本実施形態のオブジェクトOを表示するためには、縦3行×横4列のマス目Mから成る長方形の領域が必要とされる。従って、パターン抽出部17は、図9(a)に示すように、単一色のマス目Mにより構成された領域R1を抽出パターンとして表示候補領域Aから抽出する。
【0050】
また、パターン抽出部17は、オブジェクトOの大きさ以上の大きさを有すると共に、所定の範囲内の色調を有する領域を抽出パターンとして、表示候補領域Aから抽出することとしてもよい。この場合には、領域R1に含まれる全てのマス目の色が所定の範囲内の色調を有していれば、パターン抽出部17は、当該領域R1を抽出パターンとして表示候補領域Aから抽出する。
【0051】
オブジェクトOを現実空間の画像に重畳したときに、現実空間の画像において当該オブジェクトOにより隠されて視認できない部分の色調は、オブジェクトOの視認性に影響を与えない。一方、現実空間の画像においてオブジェクトOの外縁部が重畳される部分の色調は、オブジェクトOの視認性に影響を与える。このため、パターン抽出部17は、オブジェクトOの大きさ以上の大きさを有すると共に、オブジェクトOを重畳した場合にオブジェクトOの外縁部が重畳される部分が単一の色を有する領域を抽出パターンとして、表示候補領域Aから抽出することとしてもよい。図5に示すオブジェクトOを現実空間の画像に重畳すると、オブジェクトOは、縦3行×横4列のマス目Mから成る長方形の領域を必要とすると共に、オブジェクトOの外縁部が図9(b)に示される領域R2の斜線が施されたマス目Mに重畳される。この場合には、領域R2に含まれるマス目Mのうち、斜線が施された全てのマス目Mが単一色を有していれば、パターン抽出部17は、当該領域R2を抽出パターンとして表示候補領域Aから抽出する。
【0052】
また、パターン抽出部17は、オブジェクトOの大きさ以上の大きさを有すると共に、オブジェクトOを重畳した場合にオブジェクトOの外縁部が重畳される部分が所定の範囲内の色調を有する領域を抽出パターンとして、表示候補領域Aから抽出することとしてもよい。この場合には、領域R2に含まれるマス目Mのうち、斜線が施された全てのマス目Mの色が所定の範囲内の色調を有していれば、パターン抽出部17は、当該領域R2を抽出パターンとして表示候補領域Aから抽出する。
【0053】
また、オブジェクトOを現実空間の画像に重畳したときに、現実空間の画像において当該オブジェクトOが重畳される領域がより多くの単一色で占められるほど、オブジェクトOの視認性の向上が期待される。このため、パターン抽出部17は、オブジェクトOの大きさ以上の大きさを有すると共に、単一色に占められる部分が所定以上含まれる領域を抽出パターンとして、表示候補領域Aから抽出することとしてもよい。即ち、本実施形態のオブジェクトOを表示するためには、縦3行×横4列のマス目Mから成る長方形の領域が必要とされるところ、パターン抽出部17は、図9(c)に示すように、縦3行×横4列のマス目Mから成る長方形の領域R3に含まれるマス目Mのうち、斜線で示される単一色を有するマス目Mが所定の割合以上である場合に、領域R3を抽出パターンとして表示候補領域Aから抽出する。
【0054】
また、パターン抽出部17は、オブジェクトOの大きさ以上の大きさを有すると共に、所定の範囲内の色調を有する部分が所定以上含まれる領域を抽出パターンとして、表示候補領域Aから抽出することとしてもよい。即ち、本実施形態のオブジェクトOを表示するためには、縦3行×横4列のマス目Mから成る長方形の領域が必要とされるところ、パターン抽出部17は、図9(c)に示すように、縦3行×横4列のマス目Mから成る長方形の領域R3に含まれるマス目Mのうち、斜線で示される所定の範囲内の色調を有するマス目Mが所定の割合以上である場合に、領域R3を抽出パターンとして表示候補領域Aから抽出する。
【0055】
表示位置補正部18は、パターン抽出部17により抽出された抽出パターンにオブジェクトOの表示位置を補正する部分である。即ち、オブジェクトOの元来の表示位置は、例えばオブジェクトデータベース12において位置情報として設定又は記憶されているところ、表示位置補正部18は、オブジェクトOの表示位置を元来の表示位置から、パターン抽出部17により抽出された抽出パターンの位置に変更する。
【0056】
また、表示位置補正部18は、パターン抽出部17により複数の抽出パターンが抽出された場合には、オブジェクトOの元来の表示位置に最も近い領域にオブジェクトOの表示位置を補正することとしてもよい。即ち、パターン抽出部17において、オブジェクトOの視認性向上のための表示位置の候補として、抽出パターンが複数抽出される場合がある。この場合には、表示位置補正部18は、当該オブジェクトOの元来の表示位置に最も近い領域にオブジェクトOの表示位置を補正する。オブジェクトOは、所定の位置に対応付けて表示されることにより、その配置位置に関連する様々な情報を提供するところ、視認性向上のために表示位置が補正される場合であっても、当該オブジェクトOの元の表示位置に最も近い領域に表示位置が補正されるので、当該オブジェクトOの情報性の低下が防止される。
【0057】
また、表示位置補正部18は、画像解析部16により取得されたオブジェクトOの色に関する情報及びパターン抽出部17により抽出された抽出パターンが有する色に関する情報に基づき、オブジェクトOの色調と抽出パターンの色調とが所定の対照関係である場合に、オブジェクトOの表示位置を補正することとしてもよい。例えば、オブジェクトOの色調と抽出パターンの色調とが近似する場合には、当該オブジェクトOの表示位置を当該抽出パターンの位置に補正しても、オブジェクトOの視認性は向上しにくい。従って、オブジェクトOの色調と抽出パターンの色調とが所定の対照関係である場合に、オブジェクトOの表示位置の補正を実施することにより、当該オブジェクトOの視認が容易となる。色調間の対照性の判定は、例えば周知の色相環により行うことができる。具体的には、色相環においてオブジェクトOの主色調の反対の位置及びその周辺に設けられた色を対照色として抽出し、抽出パターンの主色調が対照色に該当する場合に、表示位置補正部18は、オブジェクトOの表示位置の補正を実施する。対照色の範囲は、予め設定されるものとする。
【0058】
また、表示位置補正部18は、位置依存判定部13から送出された、オブジェクトOの元来の表示位置との関連性の強さの度合い位置依存度に関する判定結果を取得する。そして、表示位置補正部18は、オブジェクトOの位置依存度が所定の度合いより低い場合に、オブジェクトOの表示位置の補正を実施することとしてもよい。即ち、オブジェクトOの位置依存度が高い場合には、当該オブジェクトOの表示位置に対する関連性が高いことを意味するので、当該オブジェクトOを元来の表示位置以外の位置に表示した場合には、オブジェクトOがユーザに提供する情報が不適切なものとなる可能性が高い。本実施形態では、位置依存度が所定の度合いより低い場合にオブジェクトOの表示位置が補正されるので、当該オブジェクトOの情報性の低下が防止される。
【0059】
表示部19は、表示位置補正部18により補正された表示位置にオブジェクトOを、現実空間の画像に重畳表示する部分である。図10(a)は、表示位置の補正前における、現実空間の画像にオブジェクトを重畳表示した例である。図10(b)は、表示位置の補正後における、現実空間の画像にオブジェクトを重畳表示した例である。図10(a)に示すように、現実空間の画像におけるオブジェクトOAが重畳表示される領域の色調が煩雑である場合には、オブジェクトOAの視認性は低い。一方、図10(b)に示すように、本実施形態では、オブジェクトOBの表示位置が現実空間の画像における色調が煩雑でない領域に補正されるので、オブジェクトOBの視認性は良好である。
【0060】
続いて、図11及び図12を参照して、本実施形態のオブジェクト表示方法におけるオブジェクト表示装置1の動作について説明する。図11は、オブジェクト表示方法の処理内容を示すタイミングチャートである。また、図12は、図11におけるパターン抽出処理の処理内容を示すフローチャートである。
【0061】
まず、オブジェクト情報取得部11は、オブジェクト情報を取得する(S1、オブジェクト情報取得ステップ)。続いて、位置依存判定部13は、オブジェクト情報に含まれる位置依存度に基づき、当該オブジェクトの位置情報に示される元来の配置位置に対する関連性の強さを判定する(S2)。位置依存度が低いと判定された場合には、処理手順はステップS3に進められる。一方、位置依存度が低いと判定されなかった場合には、処理手順はステップS13に進められる。
【0062】
ステップS3において、画像取得部15は、カメラ14により撮影された現実空間の画像を取得する(S3、画像取得ステップ)。続いて、画像解析部16は、現実空間の画像に所定間隔の格子を設定する(S4)。格子の設定により、現実空間の画像は、方形のマス目に分割される。そして、画像解析部16は、マス目ごとに色を設定する。
【0063】
次に、画像解析部16は、表示対象のオブジェクトの画像データの大きさと、現実空間の画像に設定した格子及びマス目の大きさとを対比して、オブジェクトを現実空間の画像に重畳表示する際に必要な領域の大きさ(マス目数)を取得する(S5、画像解析ステップ)。さらに、画像解析部16は、オブジェクトOを構成する主な色調である主色調を取得する(S5、画像解析ステップ)。
【0064】
画像解析部16は、マス目Mに分割された現実空間の画像Pから、オブジェクトの表示位置を補正するための表示候補領域を抽出する(S6、画像解析ステップ)。表示候補領域は、例えば、単一色のマス目により構成される領域、または、同系色を有するマス目により構成される領域である。また、画像解析部16は、抽出した表示候補領域の主色調を判定する(S6、画像解析ステップ)。なお、ステップS6に示される処理内容は、本実施形態において必須の処理ではない。即ち、本実施形態のオブジェクト表示装置1では、表示候補領域の抽出を実施することなく、後述するパターン抽出処理を表示候補領域ではなく現実空間の画像に対して実施することとしてもよい。
【0065】
次に、パターン抽出部17は、パターン抽出処理を実施する(S7、パターン抽出ステップ)。続いて、図12を参照してパターン抽出処理を詳細に説明する。
【0066】
まず、パターン抽出部17は、抽出パターンのパターン態様を設定する(S21)。パターン態様は、ステップS4において設定されたマス目を1単位として、例えば、以下のようなものが順次設定される。
(i)オブジェクトを重畳表示するために必要な大きさを有する領域に含まれる全てのマス目
(ii)オブジェクトを重畳表示するために必要な大きさを有する領域に含まれる全てのマス目のうち、オブジェクトの外縁部が重畳されるマス目
(iii)オブジェクトを重畳表示するために必要な大きさを有する領域に含まれる全てのマス目のうち、所定の割合又は数以上のマス目
【0067】
本実施形態では、ステップS21において、パターン抽出部17は、パターン(i)をパターン態様として設定する。
【0068】
次に、パターン抽出部17は、オブジェクトを重畳表示するために必要な大きさを有すると共に、単一色のマス目により構成される領域を抽出パターンとして表示候補領域から抽出することを試みる(S22)。ステップS22において、抽出パターンが抽出された場合には、処理手順は終了する(S23)。一方、ステップS22において、抽出パターンが抽出されなかった場合には、処理手順はステップS24に進められる(S23)。
【0069】
ステップS24において、パターン抽出部17は、オブジェクトを重畳表示するために必要な大きさを有すると共に、同系色を有するマス目により構成される領域を抽出パターンとして表示候補領域から抽出することを試みる(S24)。なお、同系色は、所定の範囲内の色調を有する色群として定義される。ステップS24において、抽出パターンが抽出された場合には、処理手順は終了する(S25)。一方、ステップS24において、抽出パターンが抽出されなかった場合には、処理手順はステップS26に進められる(S25)。
【0070】
ステップS26において、パターン抽出部17は、全てのパターン態様の設定を実施済みか否かを判定する(S26)。本実施形態では、上記した(i)〜(iii)のパターン態様について設定済みか否かが判定される。全てのパターン態様の設定を実施済みであると判定された場合には、処理手順は終了する。一方、全てのパターン態様の設定を実施済みであると判定されなかった場合には、処理手順はステップS27に進められる。例えば、パターン態様(i)が設定されてパターン抽出が実施されていた場合には、パターン態様(ii)、(iii)によるパターン抽出が実施されていないので、この場合には、全てのパターン態様の設定を実施済みであると判定されない。
【0071】
ステップS27において、パターン抽出部17は、パターン態様を変更する。具体的には、パターン抽出部17は、抽出パターンが抽出される可能性が高められるように、パターン態様を順次変更する。即ち、上記の複数のパターン態様における抽出パターンが抽出される可能性は、パターン態様(i)が最も低く、パターン態様(iii)が最も高いので、例えば、パターン態様(i)が設定されてパターン抽出が実施されていた場合には、パターン抽出部17は、パターン態様を(ii)に変更する。
【0072】
ステップS27の処理が実施された後、処理手順はステップS22に戻る。このように、パターン態様が変更されながら、ステップS22〜S27の処理が繰り返される。パターン抽出部17は、抽出した抽出パターンに関する情報、又は抽出パターンが抽出されなかった旨の情報を表示位置補正部18に送出する。
【0073】
再び、図11を参照して、ステップS8において、表示位置補正部18は、抽出パターンがあるか否かを判定する(S8)。抽出パターンがあると判定された場合には、処理手順はステップS9に進められる。一方、抽出パターンがあると判定されなかった場合には、処理手順はステップS13に進められる。
【0074】
続いて、表示位置補正部18は、抽出パターンが複数あるか否かを判定する(S9)。抽出パターンが複数あると判定された場合には、処理手順はステップS10に進められる。一方、抽出パターンが複数あると判定されなかった場合には、処理手順はステップS11に進められる。
【0075】
ステップS10において、表示位置補正部18は、オブジェクトの元来の表示位置に最も近くに位置する抽出パターンを選択する(S10)。続いて、表示位置補正部18は、選択された抽出パターンの主色調が、オブジェクトの主色調の所定の対照色に該当するか否かを判定する(S11)。抽出パターンの主色調がオブジェクトの主色調の所定の対照色に該当すると判定された場合には、処理手順はステップS12に進められる。一方、抽出パターンの主色調がオブジェクトの主色調の所定の対照色に該当すると判定されなかった場合には、処理手順はステップS13に進められる。
【0076】
ステップS12において、表示位置補正部18は、パターン抽出部17により抽出された抽出パターンにオブジェクトの表示位置を補正する。そして、表示部19は、現実空間の画像における、表示位置補正部18により補正された表示位置に、オブジェクトを重畳表示する(S12、表示位置補正ステップ、表示ステップ)。
【0077】
一方、ステップS13において、表示部19は、オブジェクトの表示位置の補正を実施することなく、当該オブジェクトの位置情報に示される元来の配置位置にオブジェクトを重畳表示する(S13)。こうして、本実施形態の処理を終了する。
【0078】
なお、ステップS8において、抽出パターンがあると判定されなかった場合、又はステップS11において、抽出パターンの主色調がオブジェクトの主色調の所定の対照色に該当すると判定されなかった場合に、処理手順がステップS4に戻されることとしてもよい。このように、処理手順がステップS4に戻された場合には、抽出パターンが抽出される可能性が高くなるように、ステップS4における格子設定の条件、又はステップS6における表示候補領域の抽出条件が変更されて、ステップS4以降の処理が繰り返される。例えば、ステップS4において、格子の間隔を広げ、格子間に形成されるマス目の大きさを大きくするように格子設定の条件を変更することにより、抽出パターンが抽出される可能性を高めることが可能となる。また、ステップS6において、同系色と判定される色調の範囲を広げるように、表示候補領域の抽出条件を変更することにより、抽出パターンが抽出される可能性を高めることが可能となる。
【0079】
以上説明した本実施形態のオブジェクト表示装置1及びオブジェクト表示方法では、画像解析部16により取得されたオブジェクトの大きさ及び色に関する情報及び現実空間の画像の色に関する情報に基づき、現実空間の画像にオブジェクトを重畳表示させた際にオブジェクトを視認容易な領域がパターン抽出部17により現実空間の画像から抽出され、この領域に表示位置補正部18によりオブジェクトの表示位置が補正される。従って、オブジェクトの視認が容易となり、オブジェクトを現実空間の画像に表示することによる情報性といった各種の効果を高めることが可能となる。
【0080】
以上、本発明をその実施形態に基づいて詳細に説明した。しかし、本発明は上記実施形態に限定されるものではない。本発明は、その要旨を逸脱しない範囲で様々な変形が可能である。
【符号の説明】
【0081】
1…オブジェクト表示装置、10…位置情報取得部、11…オブジェクト情報取得部、12…オブジェクトデータベース、13…位置依存判定部、14…カメラ、15…画像取得部、16…画像解析部、17…パターン抽出部、18…表示位置補正部、19…表示部、A,A1,A2…表示候補領域、G…格子、M…マス目、O…オブジェクト。
【特許請求の範囲】
【請求項1】
現実空間の画像の所定位置にオブジェクトを重畳表示するオブジェクト表示装置であって、
オブジェクトに関するオブジェクト情報を取得するオブジェクト情報取得手段と、
現実空間の画像を取得する画像取得手段と、
前記オブジェクト情報取得手段により取得されたオブジェクトの大きさ及び色に関する情報、並びに前記画像取得手段により取得された現実空間の画像の色に関する情報を取得する画像解析手段と、
前記画像解析手段により取得されたオブジェクトの大きさ及び色に関する情報並びに現実空間の画像の色に関する情報に基づき、現実空間の画像に前記オブジェクトを重畳表示させた際に前記オブジェクトを視認容易な領域を現実空間の画像から抽出するパターン抽出手段と、
前記パターン抽出手段により抽出された領域に前記オブジェクトの表示位置を補正する表示位置補正手段と、
前記表示位置補正手段により補正された表示位置にオブジェクトを重畳表示する表示手段と
を備えることを特徴とするオブジェクト表示装置。
【請求項2】
前記パターン抽出手段は、
前記オブジェクトの大きさ以上の大きさを有すると共に、単一の色を有する領域を現実空間の画像から抽出する
ことを特徴とする請求項1に記載のオブジェクト表示装置。
【請求項3】
前記パターン抽出手段は、
前記オブジェクトの大きさ以上の大きさを有すると共に、所定の範囲内の色調を有する領域を現実空間の画像から抽出する
ことを特徴とする請求項1に記載のオブジェクト表示装置。
【請求項4】
前記パターン抽出手段は、
前記オブジェクトの大きさ以上の大きさを有すると共に、前記オブジェクトを重畳した場合に前記オブジェクトの外縁部が重畳される部分が単一色を有する領域を現実空間の画像から抽出する
ことを特徴とする請求項1に記載のオブジェクト表示装置。
【請求項5】
前記パターン抽出手段は、
前記オブジェクトの大きさ以上の大きさを有すると共に、前記オブジェクトを重畳した場合に前記オブジェクトの外縁部が重畳される部分が所定の範囲内の色調を有する領域を現実空間の画像から抽出する
ことを特徴とする請求項1に記載のオブジェクト表示装置。
【請求項6】
前記パターン抽出手段は、
前記オブジェクトの大きさ以上の大きさを有すると共に、単一色に占められる部分が所定の割合以上含まれる領域を現実空間の画像から抽出する
ことを特徴とする請求項1に記載のオブジェクト表示装置。
【請求項7】
前記パターン抽出手段は、
前記オブジェクトの大きさ以上の大きさを有すると共に、所定の範囲内の色調を有する部分が所定の割合以上含まれる領域を現実空間の画像から抽出する
ことを特徴とする請求項1に記載のオブジェクト表示装置。
【請求項8】
前記画像解析手段は、
前記画像取得手段により取得された現実空間の画像から、単一色または所定範囲内の色調を有する領域を表示候補領域として抽出し、
前記パターン抽出手段は、
前記画像解析手段により抽出された表示候補領域から前記オブジェクトを視認容易な領域を抽出する
ことを特徴とする請求項1〜7のいずれか1項に記載のオブジェクト表示装置。
【請求項9】
前記表示位置補正手段は、
前記画像解析手段により取得されたオブジェクトの色に関する情報及び前記パターン抽出手段により抽出された領域が有する色に関する情報に基づき、前記オブジェクトの色調と前記領域の色調とが所定の対照関係である場合に、前記オブジェクトの表示位置を補正する
ことを特徴とする請求項1〜8のいずれか1項に記載のオブジェクト表示装置。
【請求項10】
前記表示位置補正手段は、
前記パターン抽出手段により複数の領域が抽出された場合には、
前記オブジェクトの元の表示位置に最も近い領域に前記オブジェクトの表示位置を補正する
ことを特徴とする請求項1〜9のいずれか1項に記載のオブジェクト表示装置。
【請求項11】
前記オブジェクト情報は、当該オブジェクトの表示位置との関連性の強さの度合いを示す位置依存度を含み、
前記表示位置補正手段は、前記位置依存度が所定の度合いより低い場合に、前記オブジェクトの表示位置を補正する
ことを特徴とする請求項1〜10のいずれか1項に記載のオブジェクト表示装置。
【請求項12】
現実空間の画像の所定位置にオブジェクトを重畳表示するオブジェクト表示装置におけるオブジェクト表示方法であって、
オブジェクトに関するオブジェクト情報を取得するオブジェクト情報取得ステップと、
現実空間の画像を取得する画像取得ステップと、
前記オブジェクト情報取得ステップにおいて取得されたオブジェクトの現実空間の画像に占める領域の大きさ及び色に関する情報、及び前記画像取得ステップにおいて取得された現実空間の画像の色に関する情報を取得する画像解析ステップと、
前記画像解析ステップにおいて取得されたオブジェクトの大きさ及び色に関する情報及び現実空間の画像の色に関する情報に基づき、現実空間の画像に前記オブジェクトを重畳表示させた際に前記オブジェクトを視認容易な領域を現実空間の画像から抽出するパターン抽出ステップと、
前記パターン抽出ステップにおいて抽出された領域に前記オブジェクトの表示位置を補正する表示位置補正ステップと、
前記表示位置補正ステップにおいて補正された表示位置にオブジェクトを重畳表示する表示ステップと
を有することを特徴とするオブジェクト表示方法。
【請求項1】
現実空間の画像の所定位置にオブジェクトを重畳表示するオブジェクト表示装置であって、
オブジェクトに関するオブジェクト情報を取得するオブジェクト情報取得手段と、
現実空間の画像を取得する画像取得手段と、
前記オブジェクト情報取得手段により取得されたオブジェクトの大きさ及び色に関する情報、並びに前記画像取得手段により取得された現実空間の画像の色に関する情報を取得する画像解析手段と、
前記画像解析手段により取得されたオブジェクトの大きさ及び色に関する情報並びに現実空間の画像の色に関する情報に基づき、現実空間の画像に前記オブジェクトを重畳表示させた際に前記オブジェクトを視認容易な領域を現実空間の画像から抽出するパターン抽出手段と、
前記パターン抽出手段により抽出された領域に前記オブジェクトの表示位置を補正する表示位置補正手段と、
前記表示位置補正手段により補正された表示位置にオブジェクトを重畳表示する表示手段と
を備えることを特徴とするオブジェクト表示装置。
【請求項2】
前記パターン抽出手段は、
前記オブジェクトの大きさ以上の大きさを有すると共に、単一の色を有する領域を現実空間の画像から抽出する
ことを特徴とする請求項1に記載のオブジェクト表示装置。
【請求項3】
前記パターン抽出手段は、
前記オブジェクトの大きさ以上の大きさを有すると共に、所定の範囲内の色調を有する領域を現実空間の画像から抽出する
ことを特徴とする請求項1に記載のオブジェクト表示装置。
【請求項4】
前記パターン抽出手段は、
前記オブジェクトの大きさ以上の大きさを有すると共に、前記オブジェクトを重畳した場合に前記オブジェクトの外縁部が重畳される部分が単一色を有する領域を現実空間の画像から抽出する
ことを特徴とする請求項1に記載のオブジェクト表示装置。
【請求項5】
前記パターン抽出手段は、
前記オブジェクトの大きさ以上の大きさを有すると共に、前記オブジェクトを重畳した場合に前記オブジェクトの外縁部が重畳される部分が所定の範囲内の色調を有する領域を現実空間の画像から抽出する
ことを特徴とする請求項1に記載のオブジェクト表示装置。
【請求項6】
前記パターン抽出手段は、
前記オブジェクトの大きさ以上の大きさを有すると共に、単一色に占められる部分が所定の割合以上含まれる領域を現実空間の画像から抽出する
ことを特徴とする請求項1に記載のオブジェクト表示装置。
【請求項7】
前記パターン抽出手段は、
前記オブジェクトの大きさ以上の大きさを有すると共に、所定の範囲内の色調を有する部分が所定の割合以上含まれる領域を現実空間の画像から抽出する
ことを特徴とする請求項1に記載のオブジェクト表示装置。
【請求項8】
前記画像解析手段は、
前記画像取得手段により取得された現実空間の画像から、単一色または所定範囲内の色調を有する領域を表示候補領域として抽出し、
前記パターン抽出手段は、
前記画像解析手段により抽出された表示候補領域から前記オブジェクトを視認容易な領域を抽出する
ことを特徴とする請求項1〜7のいずれか1項に記載のオブジェクト表示装置。
【請求項9】
前記表示位置補正手段は、
前記画像解析手段により取得されたオブジェクトの色に関する情報及び前記パターン抽出手段により抽出された領域が有する色に関する情報に基づき、前記オブジェクトの色調と前記領域の色調とが所定の対照関係である場合に、前記オブジェクトの表示位置を補正する
ことを特徴とする請求項1〜8のいずれか1項に記載のオブジェクト表示装置。
【請求項10】
前記表示位置補正手段は、
前記パターン抽出手段により複数の領域が抽出された場合には、
前記オブジェクトの元の表示位置に最も近い領域に前記オブジェクトの表示位置を補正する
ことを特徴とする請求項1〜9のいずれか1項に記載のオブジェクト表示装置。
【請求項11】
前記オブジェクト情報は、当該オブジェクトの表示位置との関連性の強さの度合いを示す位置依存度を含み、
前記表示位置補正手段は、前記位置依存度が所定の度合いより低い場合に、前記オブジェクトの表示位置を補正する
ことを特徴とする請求項1〜10のいずれか1項に記載のオブジェクト表示装置。
【請求項12】
現実空間の画像の所定位置にオブジェクトを重畳表示するオブジェクト表示装置におけるオブジェクト表示方法であって、
オブジェクトに関するオブジェクト情報を取得するオブジェクト情報取得ステップと、
現実空間の画像を取得する画像取得ステップと、
前記オブジェクト情報取得ステップにおいて取得されたオブジェクトの現実空間の画像に占める領域の大きさ及び色に関する情報、及び前記画像取得ステップにおいて取得された現実空間の画像の色に関する情報を取得する画像解析ステップと、
前記画像解析ステップにおいて取得されたオブジェクトの大きさ及び色に関する情報及び現実空間の画像の色に関する情報に基づき、現実空間の画像に前記オブジェクトを重畳表示させた際に前記オブジェクトを視認容易な領域を現実空間の画像から抽出するパターン抽出ステップと、
前記パターン抽出ステップにおいて抽出された領域に前記オブジェクトの表示位置を補正する表示位置補正ステップと、
前記表示位置補正ステップにおいて補正された表示位置にオブジェクトを重畳表示する表示ステップと
を有することを特徴とするオブジェクト表示方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2012−103790(P2012−103790A)
【公開日】平成24年5月31日(2012.5.31)
【国際特許分類】
【出願番号】特願2010−249873(P2010−249873)
【出願日】平成22年11月8日(2010.11.8)
【出願人】(392026693)株式会社エヌ・ティ・ティ・ドコモ (5,876)
【Fターム(参考)】
【公開日】平成24年5月31日(2012.5.31)
【国際特許分類】
【出願日】平成22年11月8日(2010.11.8)
【出願人】(392026693)株式会社エヌ・ティ・ティ・ドコモ (5,876)
【Fターム(参考)】
[ Back to top ]