説明

周囲情報検索装置及び周囲情報検索方法

【課題】端末装置搭載のカメラを常に被写体に向けた状態で操作する必要がない周辺情報検索装置を提供する。
【解決手段】画像情報を取得する撮影手段と、画像を撮影した時の、自身の位置情報、撮影方向情報、画角情報をそれぞれ取得する測位手段、方向測定手段、画角情報取得手段と、前記画像情報、前記位置情報、前記撮影方向情報、前記画角情報を含む情報の蓄積、処理を行う情報処理手段と、前記画像情報を表示する画像表示手段と、を有し、前記情報処理手段は、画像を撮影した時に取得した前記位置情報、前記撮影方向情報、前記画角情報から、当該画像の撮影画面に収まる方向範囲を決定し、当該方向範囲内に存在する対象物および当該対象物に付随するデータをデータベースから抽出し、蓄積した前記画像情報を前記画像表示手段に表示したときの当該画像において、当該対象物が位置する場所に対応させて抽出した当該対象物に付随するデータを表示する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、周囲情報検索装置及び周囲情報検索方法に関し、特に撮影した画像を表示する画面により対象物に付随するデータを検索する周囲情報検索装置及び周囲情報検索方法に関する。
【背景技術】
【0002】
近年、携帯電話などの携帯通信端末の機能向上に伴い、カメラで撮像した画面上に被写体に関連する情報を重ねて表示するAR(Augmented Reality:拡張現実感)技術を利用した周囲情報検索が容易に利用可能になってきている。
【0003】
たとえば特許文献1には、装備したカメラで画像を入力しながら、端末装置の位置と向きから被写体とその見え方を特定し、当該被写体に関する付随情報の画像を、実際の映像に対応して合成した画像を表示する技術が記載されている。この技術は、端末装置に装備したGPS(Global Positioning System:全地球測位システム)等の測位装置と電子コンパス等の方位測定装置で取得した、位置情報と方位情報から被写体の所在を求め、登録された地理データと照合して、当該被写体を特定している。さらに当該地理データに登録されている、特定された被写体に関する付随データを、カメラ映像上に、画像としてリアルタイムで重ねて表示している。
【0004】
このような技術により、ユーザは自分の周辺にある対象物についての情報を携帯端末の表示画面を通して取得することができる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特許第4294093号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら特許文献1に記載したような技術は、端末装置に搭載されたカメラを常に被写体に向けた状態で使用し続けなければならず、ユーザにとって長時間の運用は負荷が大きく、また例えば交通量の多い路上では利用が憚られるというような問題があった。
【0007】
本発明の目的は、上記の問題点を克服し、端末装置に搭載されたカメラを常に被写体に向けた状態で操作する必要がなく、ユーザの負担や使用上の制約を大幅に削減できる周囲情報検索装置および周囲情報検索方法を提供することである。
【課題を解決するための手段】
【0008】
本発明の周囲情報検索装置は、画像を撮影し、画像情報を取得する撮影手段と、前記撮影手段が画像を撮影した時の、自身の位置情報、撮影方向情報、画角情報をそれぞれ取得する測位手段、方向測定手段、画角情報取得手段と、前記画像情報、前記自身の位置情報、前記撮影方向情報、前記画角情報を含む情報の蓄積、処理を行う情報処理手段と、蓄積した前記画像情報を表示する画像表示手段と、を有し、前記情報処理手段は、前記撮影手段が画像を撮影した時に取得し、蓄積した前記自身の位置情報、前記撮影方向情報、前記画角情報から、当該撮影された画像の撮影画面に収まる方向範囲を決定し、当該方向範囲内に存在する対象物および当該対象物に付随するデータをデータベースから抽出し、蓄積した前記画像情報を前記画像表示手段に表示したときの当該画像において、当該対象物が位置する場所に対応させて、抽出された当該対象物に付随するデータを表示することを特徴としている。
【0009】
また本発明の周囲情報検索方法は、画像を撮影し、画像情報を取得する撮影手順と、画像を撮影した時の、自身の位置情報、撮影方向情報、画角情報をそれぞれ取得する測位手順、方向測定手順、画角情報取得手順と、前記画像情報、前記自身の位置情報、前記撮影方向情報、前記画角情報を含む情報の蓄積、処理を行う情報処理手順と、蓄積した前記画像情報を表示する画像表示手順と、を有し、前記撮影手順で画像を撮影した時に取得し、蓄積した前記自身の位置情報、前記撮影方向情報、前記画角情報から、当該撮影された画像の撮影画面に収まる方向範囲を決定し、当該方向範囲内に存在する対象物および当該対象物に付随するデータをデータベースから抽出し、蓄積した前記画像情報を前記画像表示手段に表示したときの当該画像において、当該対象物が位置する場所に対応させて、抽出された当該対象物に付随するデータを表示することを特徴としている。
【発明の効果】
【0010】
本発明によれば、周囲情報の検索において、端末装置に搭載されたカメラを常に被写体に向けた状態で操作する必要がなく、ユーザの負担や使用上の制約を大幅に削減できる。
【図面の簡単な説明】
【0011】
【図1】本発明の第1の実施の形態の周囲情報検索装置の構成を示すブロック図である。
【図2】本発明の第2の実施の形態を説明する模式図である。
【図3】本発明の第3の実施の形態を説明する模式図である。
【図4】本発明の第4の実施の形態を説明する模式図である。
【図5】本発明の第5の実施の形態を説明する模式図である。
【発明を実施するための形態】
【0012】
次に本発明の実施の形態について、図面を参照して説明する。
(第1の実施の形態)
図1は、本発明の第1の実施の形態の周囲情報検索装置の構成を示すブロック図である。
【0013】
周囲情報検索装置1は、画像を撮影し、画像情報を取得する撮影部2と、撮影部2が画像を撮影した時の、自身の位置情報、撮影方向情報、画角情報をそれぞれ取得する測位部5、方向測定部6、画角情報取得部7を有している。また周囲情報検索装置1は、画像情報、自身の位置情報、撮影方向情報、画角情報を含む情報の収集、蓄積、処理を行う情報処理部4と、蓄積された画像情報を表示する画像表示部3と、を有している。
【0014】
情報処理部4は、撮影部2が画像を撮影した時に取得し、蓄積した自身の位置情報、撮影方向情報、画角情報から、当該撮影された画像の撮影画面に収まる方向範囲を決定し、当該方向範囲内に存在する対象物および当該対象物に付随するデータをデータベースから抽出する。
【0015】
そして、蓄積した画像情報を画像表示部3に表示したときの当該画像において、当該対象物が位置する場所に対応させて、抽出された当該対象物に付随するデータを表示する。
【0016】
この第1の実施の形態では、ユーザは撮影するときだけ周囲情報検索装置1を撮影方向に向け、画像情報を取得する。取得した当該画像情報は情報処理部4に蓄積されるので、その後ユーザは自分の手元での操作により、蓄積した画像を画像表示部3に表示させ、画像表示部3を見ながら必要な情報を得ることができる。このためユーザはカメラを常に被写体に向けた状態で使用し続ける必要がなくなり、長時間の運用によりユーザの負荷が大きくなることはなく、またユーザは撮影場所に留まっている必要がないので、交通量の多い路上等に長時間留まるような状況も避けることができる。
【0017】
なおデータベースは周囲情報検索装置1側に付属して設置されていても、外部の遠隔地に設置されていてもよく、あるいは装置側と遠隔地との両方に設置されていてもよく、対象とする情報の種類や規模などによってその構成を決めることができる。
(第2の実施の形態)
次に本発明の第2の実施の形態について説明する。
【0018】
第2の実施の形態では、周囲情報検索装置の基本的な構成は図1に示したものと同様であるが、画像表示部3にはタッチパネルによるポインティングデバイスを搭載した液晶ディスプレイを用いる。また撮影部2はCMOSイメージセンサによる電子カメラを用い、画角情報取得部7は撮影部2に用いる電子カメラの撮影時の画角の設定値を読み込む。測位部5は、例えばGPS等の測位装置により撮影時の自身の位置情報を取得し、方向測定部6は、例えば電子コンパス等の方向測定装置により撮影方向を取得する。なおデータベースは周囲情報検索装置1に付属して設置されるが、検索対象となる対象物およびその付随データについては、外部のデータベースより必要なデータが読み出され、周囲情報検索装置1に付属して設置したデータベースに蓄積される。
【0019】
情報処理部4は、測位部5、方向測定部6、画角情報取得部7がそれぞれ取得した、自身の位置情報、撮影方向情報、画角情報から、撮影画面に収まる方向範囲を決める。そしてその方向範囲に存在する対象物および当該対象物に付随するデータを、データベースに蓄積したデータの中から検索して抽出する。ここで対象物に付随するデータとしては、名称、所在地、形状、テナント、業態、由緒、その他の特性情報があり、ユーザは必要に応じて取得する特性情報を選択することができる。
【0020】
図2(a)、(b)は第2の実施の形態の動作を説明する模式図である。図2(a)では、撮影部2で撮影し情報処理部4に蓄積した画像情報を画像表示部3に表示した状態で、表示されている対象物のうち、ポインティングデバイスで指定した特定の対象物に関してのみ、その付随データを表示するようにしている。また図2(b)に示すように、画面上で特定の領域を指定し、当該指定した領域内に位置する対象物のみ、付随データを表示するようにしてもよい。
【0021】
このように第2の実施の形態では、複数の対象物が検出された場合、余分な対象物のデータを表示させないようにしているため、表示が見やすくなり、また目当ての対象物のデータを効率よく閲覧できる利点がある。
(第3の実施の形態)
図3は本発明の第3の実施の形態を説明する模式図である。
【0022】
第3の実施の形態の周囲情報検索装置は、基本的な構成、動作は第2の実施の形態に示したものと同じであるが、周囲情報検索装置としてカメラ付き携帯電話8が利用される。そしてこのカメラ付き携帯電話8は画像解析機能を有している。またカメラ付き携帯電話8は付属のデータベースを有し、検索対象となる対象物およびその付随データについては、外部のデータベースより必要なデータが読み出され、カメラ付き携帯電話8に付属のデータベースに登録される。
【0023】
付属のデータベースに登録された対象物に付随するデータには、対象物の視認情報が含まれている。ここで視認情報とは、人物固有の顔、文字のロゴ、モニュメントの形状構成、絵画の構図や配色といった、その対象物を特徴づける視覚的情報であり、カメラ付き携帯電話8が有する画像解析機能により画像から抽出することができる。
【0024】
図3に示すように、カメラ付き携帯電話8はまず、第2の実施の形態と同様に、任意の方向の画像を撮影した時に、当該画像の撮影画面に収まる方向範囲を決定する。
【0025】
次にカメラ付き携帯電話8は、撮影した画像を解析し、画像中に写っている被写体を個別に認識して、それぞれの視認情報を抽出する。
【0026】
次にカメラ付き携帯電話8の情報処理部は、付属のデータベースに登録した対象物のうち、撮影方向範囲に存在する対象物について、それぞれの視認情報と、カメラ付き携帯電話8が抽出した被写体の視認情報とを照合する。
【0027】
そして登録された対象物と、視認情報が一致する被写体が画像中に存在する場合、当該対象物に付随するデータが、画面上の当該被写体に対応した位置に表示される。
【0028】
なお複数の対象物が、それぞれ被写体と視認情報が一致する対象物として検出された場合、画面上でポインティングデバイス等により指定した特定の被写体のみの付随データを表示するようにしてもよい。また画面上で特定の領域を指定し、当該指定した領域内に位置する対象物のみ、付随データを表示するようにしてもよい。
【0029】
この第3の実施の形態では、地理的データのみでなく、対象物の視覚的な特徴を検索条件にしているため、目当ての対象物の検出精度や効率が大幅に向上する利点がある。
(第4の実施の形態)
図4は本発明の第4の実施の形態を説明する模式図である。
【0030】
第4の実施の形態は、周囲情報検索装置1が、ある方向の画像を撮影した時の、当該画像の方向に存在する、付属のデータベースに登録された対象物のうち、一定の距離範囲内に存在する対象物に付随するデータのみを表示する。すなわちデータベースに登録されている対象物は、その所在地が付随データとして登録されている。そしてこの所在地データを参照し、例えば図4における、距離aより遠い場所にある対象物は排除する、あるいは距離aから距離bまでの範囲にある対象物のデータのみを表示するというように、エリアを指定することができる。
【0031】
ここで検索対象範囲を規定する距離(以下、検索距離という)については、画角情報によって指定することができる。例えば周囲情報検索装置1の撮影部2は、図4に示すように近傍を撮影するときには画角を広く、遠方を撮影する場合は画角を狭くすることになる。すなわち検索距離は画角に対応し、ユーザは目視している風景を撮影部2の電子カメラを介して画像表示部3に表示させ、画角を調整しながら検索距離を設定することができる。
【0032】
この第4の実施の形態では、簡単な操作で検索距離を設定することができ、エリアで絞り込んで検索することができる利点がある。
(第5の実施の形態)
図5は本発明の第5の実施の形態を説明する模式図である。
【0033】
上述した他の実施の形態と同様に、周囲情報検索装置1は、まずある方向の画像を撮影した時に自身の位置情報、撮影方向情報、画角情報を取得し、これらの情報から当該画像の撮影画面に収まる方向範囲を決定する。なおこの撮影画像の画像情報は情報処理部4に蓄積され、また画像表示部3に表示される。
【0034】
第5の実施の形態では次に、この方向範囲の3次元地図データを、インターネットを介して一般的に利用可能な3次元地図データ提供サイトよりダウンロードし、周囲情報検索装置1に付属のデータベースに取り込む。
【0035】
そして図5に示すように、画像表示部3に表示した撮影画像に対し、データベースに取り込んだ3次元地図データの表示画面が、対応する画像構成物の位置、アングル、サイズが一致するように調整され画像表示部3上で重ねられる。すなわち撮影画像と3次元地図データ画面とは、当該画像を撮影した時に取得した自身の位置情報、撮影方向情報、画角情報に基づき、常に両者の対応関係が保たれた状態(データリンク状態)で重ねられるようにしている。また撮影画像に対して画像の拡大、縮小、スクロールといった操作が行われた場合、3次元地図データ画面も同様の拡大、縮小、スクロールがなされる。
【0036】
なお実際には画面上に両者が重なって見えていると画像が見づらくなるので、画面表示上は撮影画面のみが見えるように設定されている。そして表示された撮影画面上で特定の対象物が指定されたときに、3次元地図データにおける対応する対象物に付随するデータが撮影画面上に表示される。
【0037】
この第5の実施の形態では、周辺の対象物の付随データをデータベースに登録していない地域においても、一般に利用可能な3次元地図データとリンクさせることにより、対象物の付随データを得ることができる利点がある。
【符号の説明】
【0038】
1 周囲情報検索装置
2 撮影部
3 画像表示部
4 情報処理部
5 測位部
6 方向測定部
7 画角情報取得部
8 カメラ付き携帯電話

【特許請求の範囲】
【請求項1】
画像を撮影し、画像情報を取得する撮影手段と、
前記撮影手段が画像を撮影した時の、自身の位置情報、撮影方向情報、画角情報をそれぞれ取得する測位手段、方向測定手段、画角情報取得手段と、
前記画像情報、前記自身の位置情報、前記撮影方向情報、前記画角情報を含む情報の蓄積、処理を行う情報処理手段と、
蓄積した前記画像情報を表示する画像表示手段と、を有し、
前記情報処理手段は、前記撮影手段が画像を撮影した時に取得し、蓄積した前記自身の位置情報、前記撮影方向情報、前記画角情報から、当該撮影された画像の撮影画面に収まる方向範囲を決定し、当該方向範囲内に存在する対象物および当該対象物に付随するデータをデータベースから抽出し、
蓄積した前記画像情報を前記画像表示手段に表示したときの当該画像において、当該対象物が位置する場所に対応させて、抽出された当該対象物に付随するデータを表示することを特徴とした、周囲情報検索装置。
【請求項2】
前記撮影手段が取得した画像を解析して抽出した画像中の対象物の視認情報を、データベースから抽出した対象物に付随する視認情報と照合し、視認情報が一致する対象物が検出された時に、画像中の当該対象物が表示されている位置に、当該対象物に付随するデータを対応させて表示することを特徴とした、請求項1に記載の周囲情報検索装置。
【請求項3】
前記画像表示手段に表示した画像中指定された特定領域に存在する対象物についてのみ付随データを表示することを特徴とする、請求項1または2に記載の周囲情報検索装置。
【請求項4】
前記画角情報に対応させて、対象物を検索する距離範囲を設定し、データベースから抽出した対象物のうち、設定された距離範囲内に存在する対象物に付随するデータを表示することを特徴とした、請求項1から3のいずれかに記載の周囲情報検索装置。
【請求項5】
前記方向範囲の3次元地図データをデータベースより抽出し、抽出した前記3次元地図データを、前記画像表示手段に表示した画像と対応させ、
当該画像において任意の対象物が位置する場所を指定したときに、前記3次元地図データにおいて対応する当該対象物に付随するデータを表示することを特徴とした、請求項1から4のいずれかに記載の周囲情報検索装置。
【請求項6】
画像を撮影し、画像情報を取得する撮影手順と、
画像を撮影した時の、自身の位置情報、撮影方向情報、画角情報をそれぞれ取得する測位手順、方向測定手順、画角情報取得手順と、
前記画像情報、前記自身の位置情報、前記撮影方向情報、前記画角情報を含む情報の蓄積、処理を行う情報処理手順と、
蓄積した前記画像情報を表示する画像表示手順と、を有し、
前記撮影手順で画像を撮影した時に取得し、蓄積した前記自身の位置情報、前記撮影方向情報、前記画角情報から、当該撮影された画像の撮影画面に収まる方向範囲を決定し、当該方向範囲内に存在する対象物および当該対象物に付随するデータをデータベースから抽出し、
蓄積した前記画像情報を表示したときの当該画像において、当該対象物が位置する場所に対応させて、抽出された当該対象物に付随するデータを表示することを特徴とした、周囲情報検索方法。
【請求項7】
前記撮影手順において取得した画像を解析して抽出した画像中の対象物の視認情報を、データベースから抽出した対象物に付随する視認情報と照合し、視認情報が一致する対象物が検出された時に、画像中の当該対象物が表示されている位置に、当該対象物に付随するデータを対応させて表示することを特徴とした、請求項6に記載の周囲情報検索方法。
【請求項8】
表示した画像中指定された特定領域に存在する対象物についてのみ付随データを表示することを特徴とする、請求項6または7に記載の周囲情報検索方法。
【請求項9】
前記画角情報に対応させて、対象物を検索する距離範囲を設定し、データベースから抽出した対象物のうち、設定された距離範囲内に存在する対象物に付随するデータを表示することを特徴とした、請求項6から8のいずれかに記載の周囲情報検索方法。
【請求項10】
前記方向範囲の3次元地図データをデータベースより抽出し、抽出した前記3次元地図データを、表示した画像と対応させ、
当該画像において任意の対象物が位置する場所を指定したときに、前記3次元地図データにおいて対応する当該対象物に付随するデータを表示することを特徴とした、請求項6から9のいずれかに記載の周囲情報検索装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate


【公開番号】特開2012−38153(P2012−38153A)
【公開日】平成24年2月23日(2012.2.23)
【国際特許分類】
【出願番号】特願2010−178723(P2010−178723)
【出願日】平成22年8月9日(2010.8.9)
【出願人】(390010386)NECマグナスコミュニケーションズ株式会社 (22)
【Fターム(参考)】