説明

座標対応装置、座標対応方法およびプログラム

【課題】画像内のオブジェクトに対して付与した情報を、オブジェクトに対応する物体に関連づける座標対応装置を提供する。
【解決手段】物体の3次元モデリングデータを入力する3次元データ入力部3と、物体を表示する画像を入力する画像生成部5と、入力した画像の視点の座標と視方向を含む属性条件を入力する入力部1と、入力した画像を表示する画像出力部7と、表示した画像上で、情報とそれを付与する位置とを入力するオブジェクト情報入力部8と、指定した位置に表示されている3次元モデリングデータの物体を特定する情報統合部6と、特定された物体の3次元モデリングデータに、オブジェクト情報入力部8で入力した情報を関連付けて記憶するオブジェクト情報蓄積部4と、画像生成部5で入力した画像に、特定された物体の画像に対応して、物体の3次元モデリングデータに関連付けた情報を表示するオブジェクト情報取得部9と、を備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、座標対応装置および方法に関する。より詳しくは、画像の中のオブジェクトに対して付与された情報を、画像に表示する座標対応装置および方法に関する。
【背景技術】
【0002】
画像を表示する装置を備える端末の普及に伴って、画像を扱う技術が開発されている。例えば特許文献1には、各位置に固有な情報を案内情報として利用してなる地理空間案内装置が記載されている。特許文献1の技術は、複数に区分化された地図とその地図上の任意の視点および係る視点における方位に基づいて作成された風景静止画を保持しておき、利用者が区分地図、視点、方位を指示することにより、方位方向を軸として任意の角度領域の区分地図と風景静止画の所定領域とを配信する。
【0003】
特許文献2には、任意地点における映像を端末の環境条件に応じて配信する技術が記載されている。特許文献2の技術は、クライアントシステムの種別や移動速度などの端末環境情報を元に、あらかじめ定められたルールに基づき視点移動経路を自動生成し、視点移動経路に沿った、パノラマ画像、静止画、あるいはムービー等の映像をオンデマンドで生成する。また、特許文献3には、利用者の端末の種類に応じて、提供する情報の形態を変更する技術が記載されている。
【0004】
特許文献4には、地図を3次元的に描画した景観図として携帯端末に表示させる技術が記載されている。特許文献4の技術は、携帯端末からの位置情報により歩行者が存在する候補道路を抽出し、その候補道路の特徴画像を歩行者に選択させることで現在位置および進行方向を取得する。さらに、その現在位置から進行方向に見える景観図を作成して携帯端末に表示させるとともに、景観図に描かれた表示建物のうち、歩行者により指定された表示建物の建物案内データを携帯端末に表示する。
【0005】
特許文献5には、カメラで撮影した前方画像と3D(3-Dimentional:3次元的な)地図とを一致させて周囲状況に応じた案内を行うことが記載されている。特許文献5の技術は、現在位置に応じた2D地図データを取得し、移動体が進行する方位の前方を撮像した画像から、2D地図の俯瞰角度、倍率および横方向位置を調整して、撮像手段で撮像することにより得られた前方画像に一致する3D地図を生成する。前方画像および3D地図を、2Dの前方画像および2D地図にそれぞれ変換して照合を行い、現在位置の周囲状況を判定する。
【0006】
地図データには含まれていない車両などの物体を含めて自車位置周辺の平面図を表示する技術が、特許文献6に記載されている。それは、地図データと、物体の3次元データを記憶しておき、撮影した車両の周辺の映像を用いて、車両に対応する3次元データを選択し、選択した3次元データから物体の画像を前記車両の周辺の地図上に配置して表示する。
【特許文献1】特開2002−251396号公報
【特許文献2】特開2004−326443号公報
【特許文献3】特開2004−350006号公報
【特許文献4】特開2005−241386号公報
【特許文献5】特開2006−119090号公報
【特許文献6】特開2007−010515号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
画像内に表示されている個々のオブジェクト(object)に対して情報を付与する方法としては、インターネット閲覧ソフトであるウェブブラウザ(World Wide Web browser)のクリッカブルマップ(clickable map)機能や、アンカー(anchor)情報表示技術がある。クリッカブルマップ機能は、画像内のオブジェクトが占める領域の座標に対して、付与させたい情報をもつ別サイトへのリンク情報を定義しておき、マウスなどでクリックした際に定められたリンク先に移動し情報を表示するものである。また、アンカー情報表示技術は、カーソルを所定の場所に移動させた際にカーソル下にあるオブジェクトのリンク先の指定情報を表示するものである。
【0008】
CG(Computer Graphics)などの関連する技術の第1の問題点は、例えば家・ビルなどの建物、木・橋・信号・電柱などの立体モデルである3次元オブジェクトに対して付与した情報を、画像内のオブジェクトに反映できないことである。それは、3次元オブジェクトに緯度・経度や大きさの情報を関連付けているが、画像作成時には、画像内でのオブジェクトの位置情報を描画のための情報としてのみ使用しているからである。
【0009】
第2の問題点は、複数枚の画像内に、同一の情報を表示させたい同じ物体が表示されている場合に、それぞれの画像内のオブジェクトに対して情報を付与しなければならないことである。それは、ある画像内のオブジェクトと、その画像とは別の画像内のオブジェクトとの同一性を保持する手段がないためである。
【0010】
第3の問題点は、ある画像内に描画されているオブジェクトに対してオブジェクトの情報を登録しても、同じオブジェクトが描画されている別の画像内のオブジェクトへ、その登録情報を反映できない点である。その理由は、第2の問題点と同様に、画像単位でオブジェクトの情報を保持しているため、他の画像内で同一の物体に対するオブジェクトの情報を登録していても、同一のオブジェクトに対する情報という関連付けがされていないためである。
【0011】
第4の問題点は、情報を付与できる対象が、立体オブジェクト(例えば家・ビルなどの建物、木・橋・信号・電柱など)に対応して画像内に描画されているオブジェクトに限られていることである。それは、情報を付与する対象のオブジェクトが立体オブジェクトのみにしか対応していないためである。
【0012】
本発明は、上述の事情に鑑みてなされたもので、画像内のオブジェクトに対して付与した情報を、オブジェクトに対応する物体に関連づけることができる座標対応装置、および方法を提供することを目的とする。
【課題を解決するための手段】
【0013】
上記の目的を達成するために、本発明の第1の観点に係る座標対応装置は、
物体の3次元モデリングデータを入力する3次元データ入力手段と、
前記物体を表示する画像を入力する画像入力手段と、
前記画像入力手段で入力した画像の、視点の座標と視方向を含む属性条件を入力する画像条件入力手段と、
前記画像入力手段で入力した画像を表示する画像表示手段と、
前記画像表示手段に表示した画像上で、情報を入力する位置を指定する指定手段と、
前記指定手段で指定した位置に付与する情報を入力する情報入力手段と、
前記指定手段で指定した画像上の位置に表示されている3次元モデリングデータの物体を特定する物体特定手段と、
前記物体特定手段で特定された物体の3次元モデリングデータに、前記情報入力手段で入力した情報を関連付けて記憶する記憶手段と、
前記画像入力手段で入力した画像の上に、前記物体特定手段で特定された物体の画像に対応して、前記物体の3次元モデリングデータに関連付けた情報を表示する情報表示手段と、
を備えることを特徴とする。
【0014】
本発明の第2の観点に係る座標対応方法は、
物体の3次元モデリングデータを入力する3次元データ入力ステップと、
前記物体を表示する画像を入力する画像入力ステップと、
前記画像入力ステップで入力した画像の、視点の座標と視方向を含む属性条件を入力する画像条件入力ステップと、
前記画像入力ステップで入力した画像を表示する画像表示ステップと、
前記画像表示ステップに表示した画像上で、情報を入力する位置を指定する指定ステップと、
前記指定ステップで指定した位置に付与する情報を入力する情報入力ステップと、
前記指定ステップで指定した画像上の位置に表示されている3次元モデリングデータの物体を特定する物体特定ステップと、
前記物体特定ステップで特定された物体の3次元モデリングデータに、前記情報入力ステップで入力した情報を関連付けて記憶する記憶ステップと、
前記画像入力ステップで入力した画像の上に、前記物体特定ステップで特定された物体の画像に対応して、前記物体の3次元モデリングデータに関連付けた情報を表示する情報表示ステップと、
を備えることを特徴とする。
【0015】
本発明の第3の観点に係るプログラムは、コンピュータを、
物体の3次元モデリングデータを入力する3次元データ入力手段と、
前記物体を表示する画像を入力する画像入力手段と、
前記画像入力手段で入力した画像の、視点の座標と視方向を含む属性条件を入力する画像条件入力手段と、
前記画像入力手段で入力した画像を表示する画像表示手段と、
前記画像表示手段に表示した画像上で、情報を入力する位置を指定する指定手段と、
前記指定手段で指定した位置に付与する情報を入力する情報入力手段と、
前記指定手段で指定した画像上の位置に表示されている3次元モデリングデータの物体を特定する物体特定手段と、
前記物体特定手段で特定された物体の3次元モデリングデータに、前記情報入力手段で入力した情報を関連付けて記憶する記憶手段と、
前記画像入力手段で入力した画像の上に、前記物体特定手段で特定された物体の画像に対応して、前記物体の3次元モデリングデータに関連付けた情報を表示する情報表示手段
として機能させることを特徴とする。
【発明の効果】
【0016】
本発明の座標対応装置によれば、画像内のオブジェクトに対して付与した情報を、オブジェクトに対応する物体に関連づけることができる。
【発明を実施するための最良の形態】
【0017】
以下、この発明の実施の形態について図面を参照しながら詳細に説明する。なお、図中同一または相当部分には同一符号を付し、その説明は繰り返さない。本実施の形態では、画像内のオブジェクトに付与した情報を、オブジェクトに対応する3次元データに関連づける座標対応装置について説明する。
【0018】
以下の説明ではつぎのように用語を使う。「物体」とは、実世界に存在しうるあらゆるものである。物体は、建物に限らず、例えば、果物、動物、人体、コンピュータ、OA機器など何でもよい。物体には想像上のものも含む。物体の「3次元モデリングデータ(または3次元データ)」とは、物体の位置、形状および向きを含む物体に関する情報を、3次元の座標で表現したデータである。「オブジェクト」とは、画像のなかで1つの物体を表していると認識できる画像上の領域である。「オブジェクト情報」とは、オブジェクトに付けられた情報であって、画像上でオブジェクトとともに表示することができる情報である。
【0019】
(実施の形態1)
図1は、本発明の実施の形態1に係る座標対応装置の構成の一例を示すブロック図である。図1に示すように、実施の形態1に係る座標対応装置20は、入力部1と、画像生成要求部2と、3次元データ入力部3と、オブジェクト情報蓄積部4と、画像生成部5と、情報統合部6と、画像出力部7と、オブジェクト情報入力部8と、オブジェクト情報取得部9と、オブジェクト情報登録部10とを備える。
【0020】
入力部1は、画像の種類と、画像を得るために必要な画像条件を入力して、画像生成要求部2へ送る。画像の種類には、中心投影図や平行投影図などがある。画像条件は、視点の座標、視る方向(投影面の法線方向)、および、画角と投影面までの距離もしくは画像サイズと縮尺率などである。入力部1は、例えば、キーボード、携帯電話、携帯情報端末(Personal Digital Assistants:以下PDAという)などの情報入力手段で構成する。画像条件は、通信回線を経由して取得したホームページの情報などに含まれるデータで与えられることがある。
【0021】
画像生成要求部2は、入力部1から受け取った情報の中から、生成する画像の種類と、その画像を生成するために必要な画像条件からなる画像生成要求信号を生成して、3次元データ入力部3へ送る。例えば、中心投影図の生成要求の場合には、画像生成要求信号は、中心投影図の生成指示と、視点の緯度、経度、標高、視る方向、画角、投影面までの距離などの画像条件を含む。例えばまた、平行投影図の生成要求の場合には、画像生成要求信号は、平行投影図の生成指示と、投影面中心の座標(緯度、経度、標高)、縮尺、画像サイズなどの画像条件を含む。
【0022】
3次元データ入力部3は、画像生成要求部2から画像生成要求信号を受け取り、その中に含まれる視点座標と視る方向などの画像条件をもとに、表示する画像領域内に入る3次元モデリングデータを、例えばオブジェクト情報蓄積部4から取得する。そして、3次元データと画像生成要求信号を画像生成部5に送る。
【0023】
3次元モデリングデータ(以下、3次元データともいう)とは、物体の位置と形状と向きを3次元の座標で表したデータである。3次元データには、物体の位置と形状と向きの外に、面の色、テクスチャ(鏡面か粗面かを含む)、光の反射率および透過率、材質などを含むことがある。
【0024】
3次元データ入力部3は、外部のデータベースなどから3次元データを入力してもよい。オブジェクト情報蓄積部4に対象範囲の3次元データがあれば、そこから入力する。
【0025】
本発明では物体に付随すべき情報を3次元データに関連づけて記憶する。物体に付随する情報とは、物体の画像を表示するときに、その物体の画像とともに表示する情報である。したがって、物体に付随する情報は、オブジェクト情報である。本発明では、ある画像のオブジェクト情報と、そのオブジェクトに対応する物体に付随する情報を一体化して取り扱う。以後は、物体に付随する情報とオブジェクト情報を同一のものとして扱う。
【0026】
オブジェクト情報は、例えば、画像に表示されたあるオブジェクトにポインタを重ねたときに、そのオブジェクトについて表示される情報である。オブジェクト情報には、テキスト、シンボル、画像(クリップアートもしくは写真など)、音響、映像、またはそれらの組み合わせがある。
【0027】
オブジェクト情報蓄積部4は、3次元データとオブジェクト情報を関連づけて記憶する。3次元データは、座標対応装置20でオペレータによって入力されるかもしれないし、外部のデータベースなどから通信ネットワークを経由して入力されるかもしれない。また、CD−ROMなどの記憶媒体から入力される場合もある。オブジェクト情報蓄積部4がDVD−RWなどの取替可能な記憶媒体で、3次元データが他の装置で入力される場合もある。ここでは、3次元データの入力経路は問わない。オブジェクト情報蓄積部4のオブジェクト情報は、情報統合部6からの指示により追加・変更される。
【0028】
図2A、2Bは、3次元モデリングデータの構成の例を示す。図2A中の3次元モデリングデータの基本情報は、物体の識別番号がBodyIDに、3次元モデルが存在する位置の経度がLonに、緯度がLatに、標高がAltに保存される。物体をいくつかの部分に分割して定義する場合、それらの部分を識別する符号をPartIDに保存する。他のフィールドも同様にして、物体の部分ごとに、物体のモデルの種類をBodyModelに、3次元モデルの基準点位置をOriginに、直方体などでモデルを描くのに必要なX、Y、Zの長さをX_axis、Y_axis、Z_axisなどに、円柱や、円錐などを描くのに必要な底面の中心をCenterに、半径をRadiusに、高さをHeightに、保存する。3次元モデリングデータの値は、それぞれのフィールド名で指定される記憶領域の場所に格納される。本来は、物体の向き(または面の向き)を表すデータが必要であるが、理解を容易にするために、図2A、図2Bでは物体の向きのデータを省略している。
【0029】
図2Aは、京都市役所を想定した3次元モデリングデータの情報構造の例である。座標情報と、CG等で再現するために必要な直方体を3つ組み合わせた情報と、関連する画像情報の場所と、建物に関する情報を保存する領域などで構成する。物体の識別番号は、「60485710001」である。図2Aでは、物体を構成する各直方体の向きが南北に沿っていて、また、鉛直方向に傾いていないことを想定している。図3Aは、図2Aの3次元モデリングデータから生成した画像の例を示す。
【0030】
図2Bは、京都タワーを想定した3次元モデリングデータの情報構造の例であり、直方体1つと、円錐1つと、円柱2つとを組み合わせた情報などで構成する。物体の識別番号は、「60082160002」である。図3Bは、図2Bの3次元モデリングデータから生成した画像の例を示す。図2Bの例でも、物体の向きは鉛直方向に傾いていないことを想定している。図2Bの例では、円錐と2つの円柱の重なり部分がどちらにも規定されていることになるが、図2Bのモデルは、そのような重複を許す場合である。重複がないように規定するには、例えば、2つの円柱と、1つの円錐と、2つの円錐台と直方体によって構成することができる。
【0031】
画像生成部5は、3次元データを画像生成要求信号にもとづいて変換して、表示用の画像ファイルを生成する。生成する画像について制限はない。例えば、平行投影図で地図のような画像かもしれないし、中心投影図でいわゆる3DCG(3-Dimensional Computer Graphics)の場合もある。3DCGの場合、画像条件には例えば、光源の位置または照明光の方向、照明光の色と光の強さなどを含む。
【0032】
画像生成部5は、生成した画像ファイルを画像出力部7へ送るとともに、画像ファイル内のオブジェクトの領域情報を情報統合部6へ送る。オブジェクトの領域情報とは、画像におけるオブジェクトが占める領域(画素の集合)の位置と形状を、画像の座標で表したデータである。
【0033】
オブジェクトは1つの物体について1つとは限らない。1つの物体が、前景にある他の物体によって複数の部分に分割されて表示される場合がある。その場合でも、1つの物体に対応する複数のオブジェクトごとに領域情報を生成する。領域情報は、対応する物体の3次元データの識別番号(物体の識別番号:BodyID)をつけて識別する。したがって、同じ3次元データの識別番号(BodyID)を有する複数の領域情報が生成される場合がある。
【0034】
あるいは、1つの物体についてオブジェクトを1つとして、オブジェクトの重なり順序を表すデータをインデックスとして保持してもよい。後述の画像と領域情報の対応関係を表すデータでは、インデックスを用いている。その場合も、オブジェクトの領域情報は、物体の識別番号をつけて識別される。
【0035】
図4は、生成した画像ファイルの表示画像の全領域の情報の構成の一例を示す。画像ファイルの基本情報として、生成した画像ファイルの保存場所がImageURLに、画像生成時の視点の経度がLonに、緯度がLatに、地上高さがAltに、視る方向の方位角がAzimuthに、仰角がElevationに、生成した画像ファイルサイズがWidthとHeightに、保持して登録される。ImageIDは画像ファイル登録時に、重複しないように自動的に割当られる。
【0036】
図5は、生成した画像ファイル内のオブジェクトの領域情報を構成する一例を示す。画像ファイルの表示画像の全領域内で表示しているオブジェクトの領域情報を登録し、複数のオブジェクトの場合には、同様の情報を追加して構成する。図5中のImageIDは画像テーブル(図4)のImageIDと同じもので、画像を識別する。Indexは、画像内にあるオブジェクトに対応する物体の位置(経緯度)が、視点に近いものから順に識別するインデックス値を示す。BodyIDは、オブジェクトに対応する物体の(3次元データの)識別番号である。Obj_LX、Obj_LY、Obj_RX、Obj_RYにはオブジェクトが表示されている画像ファイル内の左上画像座標(X、Y)と右下画像座標(X、Y)を登録する。
【0037】
図5では、理解を容易にするために、オブジェクトの形状を長方形とみなして、左上画像座標と右下画像座標のみ登録している。実際には、オブジェクトの形状(と位置)を表すように、オブジェクトの外形の頂点の座標などを登録する。
【0038】
図6は、画像内の表示領域と、オブジェクトとの対応関係を表す情報構成の一例を示す。図4に示す表示画像の全表示領域の情報に、表示領域内にある各オブジェクトについて、図5に示す領域情報の構成のデータを加えたものである。各オブジェクトにはIndexが割り当てられているので、複数のオブジェクトの間で表示領域が重なっていてもインデックスの順に表示・指定することができる。
【0039】
画像内の任意の点に対して、その点が含まれるオブジェクトを領域情報によって判断することができる。インデックスによってオブジェクトの順が表されている場合は、オブジェクトの重なり部分について、インデックスの順にオブジェクトを選択するように構成できる。領域情報に含まれる3次元データの識別番号を参照して、指定した点が含まれるオブジェクトに対応する3次元データを知ることができる。
【0040】
図7は、物体の識別番号とオブジェクト情報とを関連づける情報構成の例を示す。物体の識別番号に対応して、オブジェクト情報が格納される。図7の例では、物体の緯度、経度、標高などの位置情報を合わせて格納している。オブジェクト情報は、物体の識別番号で3次元データと対応づけられる。
【0041】
情報統合部6は、例えば図6に示すように、オブジェクトの領域情報と、オブジェクトと3次元データとを対応付けるデータを保持する。情報統合部6は、オブジェクト情報を表示する場合は、オブジェクト情報取得部9から画像上の指定した点の座標を受け取って、その点を含むオブジェクトのオブジェクト情報を返す。オブジェクト情報を登録する場合は、オブジェクト情報登録部10から、画像上の指定した点の座標とオブジェクト情報を受け取って、その点を含むオブジェクトに対応する3次元データに、オブジェクト情報を結合する。
【0042】
画像出力部7は、画像生成部5で生成された画像ファイルを表示する。画像出力部7は、例えば、コンピュータのディスプレイ、携帯電話またはPDAの表示装置などの情報出力手段で構成する。
【0043】
オブジェクト情報入力部8は、画像出力部7で表示している画像ファイル内で、情報を表示させたいオブジェクトの指定、または情報を登録したいオブジェクトの指定と、オブジェクト情報の入力を受け付ける。オブジェクト情報入力部8は、例えば、マウス、タッチパネルなどの情報入力手段を備える。オブジェクト情報入力部8は、画像に重ねたポインタ位置、またはクリックしたときのポインタ位置の画像内の座標データを取得する。オブジェクト情報を表示する場合は、指定した点の座標を、オブジェクト情報取得部9へ送る。オブジェクトの領域情報にインデックスを含む場合は、座標データにインデックスを含む。
【0044】
オブジェクト情報を登録する場合は、キーボードなどから入力されたオブジェクト情報を、指定した点の座標とともにオブジェクト情報登録部10へ送る。オブジェクト情報入力部8からオブジェクト情報登録部10に送られるのは、オブジェクト情報の格納場所を示すデータの場合がある。
【0045】
オブジェクト情報取得部9は、オブジェクト情報入力部8から受信した画像内の指定した点の座標を情報統合部6に送り、情報統合部6からから、その点を含むオブジェクトのオブジェクト情報を取得する。情報統合部6は、図6に示すオブジェクトの領域情報を参照して、指定された点を含むオブジェクトを選択する。そして、選択したオブジェクトに対応する3次元データの識別番号によって、オブジェクト情報蓄積部4からオブジェクト情報を取り出し、オブジェクト情報取得部9に送る。オブジェクト情報取得部9は、取得したオブジェクト情報を表示するデータを生成して、画像出力部7に送る。画像出力部7は、オブジェクト情報表示データを画像に重ねて表示する。
【0046】
オブジェクト情報は、オブジェクトにマウスなどでポインタを重ねたときに、そのオブジェクトに対応するオブジェクト情報を表示するようにしてもよい。オブジェクト情報が音声や映像のような場合には、オブジェクトの上でクリックしたときに再生を開始してもよい。オブジェクト情報が画像や映像の場合は、表示した画像に重ねた枠または別の枠で表示してもよい。
【0047】
オブジェクト情報登録部10は、オブジェクト情報入力部8からの入力が、オブジェクト情報の格納場所を示すデータの場合は、格納場所を参照して、対象のファイルを読み込む。そして、入力したデータまたは読み込んだファイルを指定した点の座標とともに、情報統合部6に送る。
【0048】
情報統合部6は、オブジェクト情報登録部10から、画像上の指定した点の座標とオブジェクト情報を受け取って、指定された点を含むオブジェクトの領域情報を選択する。そして選択したオブジェクトに対応する3次元データに、受け取ったオブジェクト情報を結合する。情報統合部6は、3次元データに結合されたオブジェクト情報をオブジェクト情報蓄積部4に格納する。対象の3次元データにオブジェクト情報が登録されている場合には、オブジェクト情報を更新する。
【0049】
さらに、情報統合部6は、登録したオブジェクト情報と指定した点の座標をオブジェクト情報取得部9に送ってもよい。その場合、オブジェクト情報取得部9は、オブジェクト情報を表示するデータを生成して、画像出力部7に送る。その結果、新たに登録されたオブジェクト情報が画面に表示される。
【0050】
3次元データ入力部3は、3次元データとともにオブジェクト情報を入力して、画像生成部5に送るので、オブジェクト情報が3次元データに対応づけて記憶されていれば、改めて画像を生成するときに、オブジェクト情報を画像のオブジェクトに重ねて表示することができる。したがって、視点が異なる別の画像を表示する場合でも、オブジェクト情報を登録したときの画像に対して表示されるのと同じオブジェクト情報を、同じ3次元データに対応するオブジェクトに付随して表示することができる。
【0051】
図8は、座標対応装置20の動作の一例を示すフローチャートである。図8は、画像を表示してオブジェクト情報を表示または入力する動作の例を示す。
【0052】
入力部1は、生成する画像の種類と、画像を得るために必要な視点の緯度、経度、標高、視覚方向、画角、画像サイズ、縮尺率などの画像条件とを入力して、画像生成要求部2へ送る(ステップS101)。画像条件はオペレータによって入力されることもあるし、通信回線を経由して取得したホームページの情報などに含まれるデータで与えられることもある。
【0053】
画像生成要求部2は、入力部1から受け取った情報をもとに、生成する画像の種類と、その画像を生成するために必要な画像条件からなる画像生成要求信号を作成して、3次元データ入力部3に送る(ステップS102)。
【0054】
3次元データ入力部3は、画像生成要求信号の画像条件をもとに、表示する画像領域内に入る3次元モデリングデータを、例えばオブジェクト情報蓄積部4から取得する。そして、3次元データを画像生成要求信号とともに画像生成部5に送る(ステップS103)。物体ごとの3次元データは、物体の識別番号で識別される。
【0055】
画像生成部5は、3次元データを画像生成要求信号にもとづいて変換して、表示用の画像ファイルを生成する(ステップS104)。画像生成部5は、オブジェクトの領域情報を生成する(ステップS105)。オブジェクトの領域情報は、物体の識別番号を含む。画像生成部5は、生成した画像ファイルを画像出力部7へ送るとともに、画像ファイル内のオブジェクトの領域情報を情報統合部6へ送る。画像出力部7は、画像ファイルを表示する(ステップS106)。
【0056】
画像を表示した状態で、オブジェクト情報入力部8は、オブジェクト情報が入力されるのを待機する(ステップS107、ステップS108;NO、ステップS109;NO、ステップS111;NO)。画像表示の終了が入力された場合は(ステップS108;YES)、画像表示を停止する(ステップS113)。画像表示を終了せず(ステップS108;NO)、オブジェクト情報を表示する場合は(ステップS109;YES)、オブジェクト情報表示処理を行う(ステップS110)。オブジェクト情報を入力する場合は(ステップS109;NO、ステップS111;YES)、オブジェクト情報登録処理を行う(ステップS112)。
【0057】
図9Aは、オブジェクト情報表示処理の動作の一例を示す。図9Aの処理は、図8のステップS110の内容である。
【0058】
オブジェクト情報入力部8は、オブジェクト情報を表示する指令を入力すると、オブジェクト情報を表示するオブジェクトを選択するために指定された位置(ポインタなど)の座標データを取得し、オブジェクト情報取得部9へ送る(ステップS201)。オブジェクト情報取得部9は、指定された位置の座標データを情報統合部6に送る。
【0059】
情報統合部6は、受信した画像内の位置情報から、図6に示すオブジェクトの領域情報を参照して、その点を含むオブジェクトの領域情報を選択して、その領域情報につけられた物体の識別番号を取得する(ステップS202)。そして、選択した物体の識別番号に関連づけられるオブジェクト情報を検索し(ステップS203)、オブジェクト情報取得部9に送る。
【0060】
オブジェクト情報取得部9は、オブジェクト情報があれば(ステップS204;YES)、そのオブジェクト情報を表示するデータを生成する(ステップS205)。オブジェクト情報がなければ(ステップS204;NO)、「オブジェクト情報なし」を表示するデータを生成する(ステップS206)。「オブジェクト情報なし」の表示データは定形データでよい。
【0061】
オブジェクト情報取得部9は、生成したデータを画像出力部7に送り、画像に重ねて表示する(ステップS207)。「オブジェクト情報なし」は表示しなくてもよい。
【0062】
図9Bは、オブジェクト情報登録処理の動作の一例を示す。図9Bの処理は、図8のステップS112の内容である。
【0063】
オブジェクト情報入力部8は、オブジェクト情報を入力するために指定された位置の座標データを取得し、オブジェクト情報登録部10へ送る(ステップS211)。また、キーボードなどから入力されたオブジェクト情報をオブジェクト情報登録部10へ送る(ステップS212)。
【0064】
オブジェクト情報登録部10は、オブジェクト情報入力部8からの入力が、オブジェクト情報の格納場所を示すデータの場合は、格納場所を参照して、対象のファイルを読み込む。そして、記憶したデータまたは読み込んだファイルを座標データとともに、情報統合部6に送る。
【0065】
情報統合部6は、受信した画像内の位置情報から、その点を含むオブジェクトの領域情報を選択して、その領域情報につけられた物体の識別番号を取得する(ステップS213)。そして、物体の識別番号にオブジェクト情報を結合する(ステップS214)。情報統合部6は、3次元データに結合されたオブジェクト情報をオブジェクト情報蓄積部4に格納する(ステップS215)。対象の3次元データにオブジェクト情報が登録されている場合には、オブジェクト情報を更新する。
【0066】
再び図8を参照して、オブジェクト情報表示処理(ステップS110)、またはオブジェクト情報登録処理(ステップS112)を終えると、オブジェクト情報入力部8は、オブジェクト情報が入力されるのを待機する(ステップS107)。
【0067】
実施の形態1の座標対応装置20によれば、入力した画像条件により3次元モデリングデータから生成して表示した画像で、画像内のオブジェクトに対して入力した情報を、そのオブジェクトに対応する3次元モデリングデータに関連づけて記憶する。その結果、別の画像を表示する場合でも、オブジェクト情報を登録したときの画像に対して表示されるのと同じオブジェクト情報を、同じ3次元データに対応するオブジェクトに付随して表示することができる。
【0068】
なお、オブジェクト情報を入力するために指定された位置に対応する物体の3次元データを特定するには、オブジェクトの領域情報を用いなくてもよい。例えば、画像の視点と画像上の指定位置とを結ぶ線(視線)の延長と、3次元データで表現された面が交わる点から、情報を付与したい物体の3次元データを特定することができる。
【0069】
(実施の形態2)
実施の形態2の座標対応装置20は、実施の形態1の機能に加えて、登録している物体を撮影した画像を入力して、画像内のオブジェクト情報を表示したり、画像内のオブジェクト情報を登録・更新することにより、物体の情報を登録・更新する機能がある。図10は、本発明の実施の形態2に係る座標対応装置20の構成の一例を示すブロック図である。実施の形態2の座標対応装置20は、実施の形態1の構成に加えて、実写画像入力部12と、オブジェクト抽出部13とを備える。
【0070】
実写画像入力部12は、撮影した画像と、その画像を撮影した点(視点)の位置(座標)、画像を撮影した(視る)方向および画角などの情報を入力する機能を備える。オブジェクト抽出部13は、撮影画像の中から情報を登録するオブジェクトを抽出する機能を備える。その他の構成は、実施の形態1と同様であるが、実写画像入力部12と、オブジェクト抽出部13とを作動させるための機能を備える。
【0071】
実写画像入力部12は、撮影した画像と、撮影時の位置・方位・仰角などの画像条件を入力する手段であり、入力した画像と画像条件などの情報をオブジェクト抽出部13へ送る。実写画像入力部12は、例えば、GPS(Global Positioning System)機能と方位測定機能を搭載したカメラなどが考えられる。通常のカメラで撮影した画像を実写画像入力部12から入力し、位置・方位・仰角・生成する画像サイズなどの画像条件を別に入力してもよい。その場合、座標対応装置20の内部で撮影画像と画像条件を対応させる。
【0072】
オブジェクト抽出部13は、実写画像入力部12で入力した撮影画像から、物体に対応すると想定されるオブジェクト(以下、撮影オブジェクトという)を抽出する。画像処理の方法は、エッジ検出技術や、輪郭形状抽出技術や、マスク処理などのオブジェクトを抽出する技術である。そして、図6の領域情報と同様の撮影オブジェクトの領域情報を生成して、情報統合部6に送る。ただし、撮影オブジェクトと3次元データとの対応関係はこの段階では分からない。オブジェクト抽出部13はまた、撮影画像と画像条件を3次元データ入力部3へ送る。
【0073】
3次元データ入力部3は、オブジェクト抽出部13から撮影画像と画像条件とを受け取り、画像条件に対応する表示領域の3次元モデリングデータを入力する。そして、3次元データと撮影画像および画像条件をともに画像生成部5へ送る。
【0074】
画像生成部5は、撮影画像から表示するための画像ファイルを作成する。画像生成部5は、3次元データを画像条件にもとづいて変換して、撮影画像と同じ画像条件の画像(以下、生成画像という)を生成する。このとき、生成画像について、オブジェクトの領域情報を生成する。オブジェクトの領域情報は、物体の識別番号をつけて識別される。画像生成部5は、画像ファイルを画像出力部7へ送る。また、生成画像内のオブジェクトの領域情報を情報統合部6へ送る。
【0075】
オブジェクト情報入力部8、オブジェクト情報取得部9およびオブジェクト情報登録部10は、実施の形態1と同様に動作する。実施の形態2では、表示されているのが撮影画像であることが異なる。情報統合部6は、生成画像の領域情報と、オブジェクト抽出部13から受信した撮影オブジェクトの領域情報とを対応させて、指定された点を含む(生成画像の)オブジェクトの領域情報を選択する。撮影画像と同じ画像条件の生成画像について、オブジェクトの領域情報を保持しているので、撮影画像の中でオブジェクトを選択するために指定された位置(ポインタなど)の座標データから、対応している生成画像のオブジェクトを選択することができる。
【0076】
撮影オブジェクトの領域情報はなくてもよい。したがって、撮影画像を3次元データ入力部3および画像生成部5で扱わずに、実写画像入力部12から画像出力部7に送って表示してもよい。また、3次元データから物体の外形線(ワイヤーフレーム)だけの画像を生成して、撮影画像に重ねて表示してもよい。
【0077】
オブジェクト情報の表示とオブジェクト情報の登録は、実施の形態1と同様に行う。ただし、表示されている画像が撮影画像であり、オブジェクト情報は撮影画像に重ねて表示される。オペレータは撮影画像についてオブジェクト情報を付与するオブジェクトを選択する。
【0078】
オブジェクト情報を入力するために指定された位置に対応する物体の3次元データを特定するには、オブジェクトの領域情報または撮影オブジェクトの領域情報を用いなくてもよい。撮影画像の画像条件から、例えば、画像の視点と画像上の指定位置とを結ぶ線(視線)の延長と、3次元データで表現された面が交わる点から、情報を付与したい物体の3次元データを特定することができる。撮影したレンズの特性(画像上の任意の点がどの方向を視ていることになるか)がわかっていれば、広角レンズや魚眼レンズで撮影した画像からでも、3次元データを特定することができる。
【0079】
図11は、実施の形態2に係る座標対応装置20の動作の一例を示すシーケンス図である。図11は、入力部1と、画像出力部7と、オブジェクト情報入力部8と、実写画像入力部12とをクライアントとして構成し、他の構成要素をサーバにあるとした場合の例を示す。京都市役所を撮影して、情報を登録するまでの処理を例に説明する。撮影範囲の3次元データは、サーバのオブジェクト情報蓄積部4が保持しているものとする。クライアントの例として、パーソナルコンピュータにカメラや方位測定器などを付属して構成するものと、GPS機能や方位側的能を搭載したカメラ付き携帯端末で構成するものなどがある。
【0080】
実写画像入力部12から撮影した画像と画像条件とを送る。例えば、GPS機能と方位測定機能を搭載したカメラ付携帯端末で、「京都市役所」を向いて撮影を行う。撮影する際に、GPS機能と方位測定機能により撮影時の位置(経度135.7717833、緯度:35.0077555、地上高さ1.5m)、および撮影方向(方位角:45度、仰角:2度)を自動的に取得する。また、画角はレンズの特性で決まる。生成する画像サイズ(幅:600、高さ:400)を設定し、撮影画像および撮影条件とともにオブジェクト抽出部13へ送る(ステップS301)。
【0081】
3次元データ入力部3は、撮影条件に対応する(京都市役所を含む)表示領域の3次元データを入力する。撮影画像、画像条件および3次元データを、画像生成部5へ送る。画像生成部5は、3次元データから画像条件で画像(生成画像)と、オブジェクトの領域情報を生成する。また、撮影画像の画像ファイルを生成し、任意の命名規則により識別できる名前(例えば、20070123120000.jpg)をつけて、クライアントに送る(ステップS302)。撮影画像にオブジェクトの外形線を重ねて表示してもよい。画像生成部5は、また、生成した画像内のオブジェクトの領域情報を情報統合部6へ送る(ステップS303)。
【0082】
画像出力部7は、画像生成部5から、表示用の画像ファイル(20070123120000.jpg)を受け取り、画面に表示する(ステップS304)。ここでは、撮影画像にオブジェクトの外形線を重ねて表示することを想定している。表示用の画像ファイルを送らずに、クライアントで撮影画像だけを表示してもよい。
【0083】
オブジェクト情報入力部8は、画像出力部7で表示している画像内の「京都市役所」の任意の位置(ここでは(250,100)とする)を指定する入力を受け付ける。オブジェクト情報入力部8は画像出力部7に、指定された点に対して登録されている情報を表示するか、新たに情報を登録するかなどの選択メッセージ情報を表示する(ステップS305)。
【0084】
利用者が登録されている情報の表示を選んだ場合には(ステップS305;表示)、情報表示要求をオブジェクト情報取得部9へ送り(ステップS306)、情報統合部6を介して、オブジェクト情報蓄積部4内の物体「京都市役所」に登録されているオブジェクト情報を読み出して、画像出力部7へ送る(ステップS307)。画像出力部7は、「京都市役所」に現在登録されているオブジェクト情報を受け取り表示する(ステップS308)。なお、受け取った情報のみ表示するか、既に保持する画像ファイルに重ねて表示するかは任意である。
【0085】
利用者が新たな情報の登録を選んだ場合には(ステップS305;登録)、画像出力部7の画面上に、情報を入力する枠を表示する。利用者がオブジェクト情報入力部8から登録する情報を入力すると、画像ID(ImageID)や指定点画像座標(250,100)とともに、オブジェクト情報登録部10へ送る(ステップS309)。ここでは、「京都市役所」に登録するオブジェクト情報を「今月の催し」とする。なお、クライアントとサーバの通信セッションで画像IDが特定できる場合は、画像IDを送信しなくてもよい。
【0086】
オブジェクト情報登録部10は、指定された「京都市役所」に対して、オブジェクト情報入力部8から表示している画像ID(ImageID)と、指定点画像座標(250,100)と、オブジェクト情報「今月の催し」とを受信して、情報統合部6へ送る(ステップS310)。
【0087】
情報統合部6は、オブジェクト情報登録部10から受け取った情報をもとに、登録するオブジェクトを特定する。受け取った情報と画像内のオブジェクトに関する領域情報(図6)から、画像ID(ImageID)の同一性を判断して画像出力部7で表示している画像を特定し、指定点画像座標がObj_LX、Obj_LY、Obj_RX、Obj_RYで表示する領域に含まれるかを判断して領域情報を特定する。情報統合部6は、特定した領域情報に対応する物体「京都市役所」の識別番号(BodyID)を取得する。なお、表示画面上で複数の物体の識別番号(BodyID)が検索される場合には、画像の手前から登録されているインデックス(index)の値の小さいものが該当するため、一意に決定することができる(ステップS311)。
【0088】
情報統合部6は、取得した「京都市役所」の識別番号(BodyID)を元に、物体ごとの位置情報とオブジェクト情報のデータ(図7)の、該当する物体の識別番号(BodyID)のオブジェクト情報(Info)の項目に「今月の催し」を書き込む。情報統合部6は、登録した内容をオブジェクト情報蓄積部4内の情報に反映させる。そして、登録した「京都市役所」のオブジェクト情報をオブジェクト情報取得部9を介して画像出力部7へ送る(ステップS312)。
【0089】
画像出力部7は、受信した「京都市役所」のオブジェクト情報「今月の催し」を表示するので、利用者は、登録した内容が正しいかを確認できる(ステップS313)。
【0090】
実施の形態2の座標対応装置20によれば、撮影したリアルな画像を表示させて、画像内に含まれているオブジェクトの情報を表示したり、情報を登録したりすることができる。オブジェクト情報を登録した場合には、登録されている3次元データにオブジェクト情報を関連づけることができ、他の画像内の同一物体を表すオブジェクトに同じオブジェクト情報を表示することができる。
【0091】
(実施の形態3)
実施の形態3の座標対応装置20は、実施の形態2の機能に加え、撮影した画像を複数入力して、物体の3次元モデリングデータを抽出する機能を備える。図12は、本発明の実施の形態3に係る座標対応装置20の構成の一例を示す。実施の形態3の座標対応装置20は、実施の形態2の構成に加えて、3次元モデル抽出部14を備える。3次元モデル抽出部14は、異なる視点で同一物体を撮影した複数の画像から3次元データを抽出して、オブジェクトの3次元モデリングデータを生成する。その他の構成は実施の形態2と同様であるが、3次元モデル抽出部14を動作させるための機能を備える。
【0092】
3次元モデル抽出部14は、3次元データ入力部3から、複数の撮影画像とその画像条件を受け取り、3次元モデリングデータを抽出する。オブジェクト抽出部13で抽出した撮影オブジェクトの領域情報を利用してもよい。複数の撮影画像から3次元データを抽出するには、例えば、以下のようにする。
【0093】
撮影画像からオブジェクトのエッジや頂点などの特徴点を抽出する。撮影画像の視点と投影面上の特徴点とを結ぶ線(視線)を想定する(3次元空間内の直線)。2つの撮影画像の視線が(画像の精度で)交わる点に、その特徴点に対応する物体があると判断できる。撮影オブジェクトの複数の特徴点に対応する空間内の交点をつなぎ合わせて、物体の3次元データを得る。
【0094】
3次元モデル抽出部14は、抽出した3次元データを3次元データ入力部3に送る。3次元データ入力部3は、抽出した3次元データに識別番号を付けて、オブジェクト情報蓄積部4に格納する。また、抽出した3次元データとその識別番号を画像生成部5に送る。以降は、実施の形態2と同じである。
【0095】
図13は、2枚の撮影画像と抽出した3次元モデリングデータを表す模式図である。図13(a)は、南側から京都市内を撮影した模式図であり、(b)は、東側から京都市内を撮影した模式図である。図13(c)は、3次元モデリングデータを視覚的に表す概念図である。2つの撮影画像に表示された同一物体のオブジェクト「五重塔」(符号21)から、「五重塔」の3次元モデリングデータ(c)を得ることができる。
【0096】
図14は、複数の撮影画像からオブジェクトを抽出して3次元モデリングデータを得る場合の一例を示すシーケンス図である。実写画像入力部12は、3次元モデリングデータを登録する物体を撮影した画像と、撮影した位置方向などの画像条件を入力する(ステップS401)。さらに撮影画像を入力する場合は(ステップS402;YES)、入力を繰り返す(ステップS401)。複数の撮影画像を一括して入力してもよいし、すでに蓄積されている撮影画像と組み合わせて3次元データを抽出するよう指示してもよい。
【0097】
撮影画像入力を終えて(ステップS402;NO)、必要なら3次元データを抽出する対象のオブジェクトに含まれる座標を指定する入力を受け付ける(ステップS403)。そして3次元データ抽出を指示する入力を受けて、オブジェクト抽出部13に撮影画像とその画像条件、および抽出オブジェクト指定点の座標を送る(ステップS404)。
【0098】
オブジェクト抽出部13は、撮影画像からオブジェクトの輪郭などの特徴点を抽出する(ステップS405)。オブジェクト抽出部13は、実写画像入力部12から送られた撮影画像に対して、指定点画像座標を含む部分の輪郭形状を抽出するなどの画像処理をして、3次元データを作成するためのオブジェクトの候補を抽出する。そして、撮影画像と、輪郭などを抽出した情報と、画像条件などを3次元データ入力部3を介して、3次元モデル抽出部14へ送る。
【0099】
3次元モデル抽出部14は、上述のような方法で3次元データを抽出し、3次元データ入力部3に渡す(ステップS406)。3次元データ入力部3は、抽出した3次元データに所定の識別番号をつけて、オブジェクト情報蓄積部4に格納する(ステップS407)。3次元データを継続して抽出する場合は(ステップS408;YES)、撮影画像を追加するか判断するステップS402に戻って、動作を繰り返す。3次元データの抽出を継続しない場合は(ステップS408;NO)、処理を終了する。
【0100】
3次元データを抽出したのち、そのデータが正しいかどうか確認するために、3次元データから画像を生成して表示させてもよい。すなわち、抽出した3次元データを画像生成部5に送り、いずれかの撮影画像の画像条件で画像を生成して、画像出力部7で表示する。生成した画像(ワイヤーフレームなど)を、同じ画像条件の撮影画像に重ねて表示してもよい。
【0101】
以上で、3次元データが抽出できるので、以降は、実施の形態1または2と同様に、3次元データに関連づけたオブジェクト情報を登録して表示することができる。さらに、異なる方向から物体を撮影した画像の枚数を多くすることにより、より正確な3次元データを作成することができる。
【0102】
実施の形態3の座標対応装置20によれば、オブジェクトを撮影した複数の画像から同一物体を抽出して3次元データを生成することができる。生成した3次元データは、既存の3次元データと同様に、オブジェクト情報を関連づけることができる。その結果、他の画像内の同一物体を表すオブジェクトに、同じオブジェクト情報を表示することができる。
【0103】
(実施の形態4)
実施の形態4の座標対応装置20は、実施の形態1または2の機能に加え、仮想的な物体を設定して、それについて情報を登録して表示する機能を備える。本発明の実施の形態4の構成は、基本的には実施の形態1と同様であるが、情報統合部6は、要求に基づいて仮想的な3次元データを生成して登録する。実施の形態4の座標対応装置20は、仮想的な物体の3次元データとオブジェクト情報を関連づけて登録・表示する。
【0104】
ここで、「仮想的な物体」とは、現実の物体があるかどうかではなく、オブジェクト情報蓄積部4に3次元データがまだ格納されていない物体をいう。したがって、「仮想的な物体」とは、実世界にない物体かもしれないし、実世界にある物体またはその一部の場合もある。
【0105】
図15は、実施の形態4に係るオブジェクト情報登録処理の動作の一例を示すフローチャートである。図15の処理は、図8のステップS112に相当する。実施の形態4では、図9Bの処理に代えて、例えば、図15の処理を行う。図15では、図9Bと同じ処理には同じ符号を付けている。すなわち、ステップS211ないしステップS215は実施の形態1と同じである。
【0106】
オブジェクト情報入力部8は、オブジェクト情報を入力するために指定された位置の座標データを取得し、オブジェクト情報登録部10へ送る(ステップS211)。また、キーボードなどから入力されたオブジェクト情報をオブジェクト情報登録部10へ送る(ステップS212)。
【0107】
ここで、オブジェクト情報登録部10は、オブジェクト情報を仮想的な物体に対して登録するのか、すでにある3次元データ(表示されているオブジェクト)に対して登録するのか判断する(ステップS501)。仮想的な物体か、既存の3次元データかの選択は、オブジェクト情報入力と同時に入力させることができる。あるいは、オブジェクト情報を付与するオブジェクトの候補を画像に重ねて表示するか、またはオブジェクトの候補がないことを表示して、仮想的な物体か、既存の3次元データかを選択できるようにしてもよい。オブジェクト情報を付与するオブジェクトの候補を、例えば、色を変えて表示したり、外形を強調表示したり、点滅表示したりして識別することができる。
【0108】
既存の3次元データに対してオブジェクト情報を登録する場合は(ステップS501;NO)、実施の形態1(ステップS213ないしステップS215)と同様なので、説明を省略する。仮想的な物体に対してオブジェクト情報を登録する場合は(ステップS501;YES)、情報統合部6は所定の仮想的な物体の3次元データを設定する(ステップS502)。
【0109】
仮想的な物体の3次元データは、例えば、以下のように設定できる。指定点座標が含まれるオブジェクトの3次元データがない場合、例えば、地面を指している場合、指定点の地点の地面上のある大きさの物体を想定して、3次元データを設定する。物体の大きさは、例えば、周囲の物体(3次元データ)に囲まれた直方体または円柱、何段階かに設定したものから画像の表示範囲に合わせて選択した大きさの直方体または円柱、などである。
【0110】
また、例えば、指定点座標が含まれるオブジェクトの3次元データがある場合、その3次元データの指定点が存在する面の一部、またはその面に付着するある大きさの直方体などである。あるいは、その3次元データが建物の場合、指定点を含んで、2つの水平面で挟まれた部分(例えば、フロアに相当する)などである。これらはいくつかの形状を用意しておいて、選択できるようにしてもよい。
【0111】
情報統合部6は、設定した仮想的な物体の3次元データを画像生成部5に送る。画像生成部5は、その3次元データに対応するオブジェクトを生成して(すでに表示している画像の画像条件で生成する)、画像に重ねて表示する(ステップS503)。仮想的な物体に対応するオブジェクトは、例えば、ワイヤーフレーム、または色つき半透明なオブジェクトで表示してもよい。
【0112】
オブジェクト情報入力部8は、表示したオブジェクトに対応する仮想的な物体に、先に入力したオブジェクト情報を関連づけるかどうかの指令を入力する。表示したオブジェクトが適当ではない場合は(ステップS504;NO)、ステップS502に戻って、仮想的な物体の3次元データを設定し直す。オブジェクト情報登録部10は、情報統合部6に仮想的な物体の変更を指示する。情報統合部6は仮想的な物体の3次元データを設定しなおして、そのオブジェクトを表示させる。
【0113】
仮想的な物体の候補として複数の3次元データを設定し、それらに対応する複数のオブジェクトを同時に表示して、その中から選択させてもよい。なお、指定した点が空を指している場合のように、仮想的な物体の位置が特定できない場合、注意を喚起する情報を表示して、指定点を変更させてもよい。また、2つの画像で、入力する点を選択して、その視線の交点を仮想的な物体の位置とすることも可能である。
【0114】
表示したオブジェクトに、入力したオブジェクト情報を関連づけて登録する場合(ステップS504;YES)、オブジェクト情報登録部10は、仮想的な物体に割り当てた識別番号にオブジェクト情報を結合する(ステップS505)。情報統合部6は、設定した仮想的な物体の3次元データと、その識別番号に結合されたオブジェクト情報をオブジェクト情報蓄積部4に格納する(ステップS506)。
【0115】
一旦、登録された仮想的な物体の3次元データは、既存の3次元データと同様に扱うことができるが、仮想的な物体を画像に表示する場合は、例えば、ワイヤーフレームや半透明のオブジェクトで表示してもよい。また、画像には表示せずに、その位置にポインタを重ねたときに、そのオブジェクト情報だけを表示してもよい。
【0116】
図16は、道路と建物を表示する画面上で、交差点を仮想的な物体とする場合の概念図である。図16(a)は、ビルや商店などの建物で3次元データが登録されている画像領域と、何の情報も保持していない画像領域である交差点などを表示している。
【0117】
表示している画像内の「交差点」が表示されている任意の位置(例えば、図16(a)のポインタ22の先端(300,450))を指定点として、オブジェクト情報を入力する。オブジェクト情報は例えば、「信号の待ち時間が長い」である。
【0118】
図16(b)は、仮想的な物体の3次元データを設定し、そのオブジェクトを重ねて表示したところを示す。図16(b)は、仮想的な物体の候補として、道路全体(符号23)、道路A(符号24、左上から右下)、道路B(符号25、左下から右上)、交差点(符号26)のオブジェクトを表示している。
【0119】
図17は、仮想的な物体として初めに設定した3次元データから生成したオブジェクトの領域情報の例を示す。図17は、図16(b)の交差点26に対応する。新規BodyID(478)を、画像内の領域情報の該当するBodyIDフィールドに登録し、オブジェクトの領域の範囲をObj_LX(300)、Obj_LY(450)、Obj_RX(300)、Obj_RY(450)フィールド(図17のBodyID、Obj_LX、Obj_LY、Obj_RX、Obj_RYフィールドの値)に登録している。
【0120】
図18は、新規に登録した仮想的な物体「交差点」の識別番号とオブジェクト情報とを関連づけた情報構成の例を示す。図18の例では、仮想的な物体の位置(経度、緯度、標高)を合わせて記録している。
【0121】
表示画像内の表示領域と、オブジェクトとの対応関係を表す情報に、新規オブジェクトID(BodyID(478))の項目を追加して、画像内に新規オブジェクトの領域をObj_LX(300)、Obj_LY(450)、Obj_RX(300)、Obj_RY(450)として登録する。
【0122】
画像出力部7は、画像生成部5から送られたオブジェクトと、オブジェクト情報取得部9から送られたオブジェクト情報を表示する。利用者は、画像を見て登録した内容が正しいかを確認する。表示位置を編集する場合には、カーソル等で表示されたマーカーを修正し、更新情報をオブジェクト情報入力部8から入力して、3次元データを変更することができる。
【0123】
図19は、仮想的な物体の位置を変更した3次元データから生成したオブジェクトの領域情報の例を示す。図19は、図17のデータから領域情報が、Obj_LX(305)、Obj_LY(447)、Obj_RX(305)、Obj_RY(447)に変更されている。図20は、位置を変更したのちの仮想的な物体「交差点」の識別番号とオブジェクト情報とを関連づけた情報構成の例を示す。図20では、図18のデータに比較して物体の位置が変わっている。
【0124】
図21は、既存の3次元データの中に仮想的な物体(の3次元データ)を登録する場合の概念図である。図21(a)は、3次元モデリングデータから「ビル」27を含む画像を作成した場合であり、図21(b)は、オブジェクト「ビル」27の内部に、仮想的な物体としてビルの3階28、ビルの2階29、ビルの1階30を登録する場合である。
【0125】
図21の例では、仮想的な物体(の3次元データ)を、例えば、2つの水平面に挟まれた既存の建物(の3次元データ)の部分とする。このように、すでに登録された3次元データからその部分を取り出して、仮想的な物体とし、それにオブジェクト情報を関連づけることもできる。
【0126】
実施の形態4の座標対応装置20によれば、仮想的な物体の3次元データを新たに登録し、それにオブジェクト情報を関連づけて登録して、任意の画像にそのオブジェクト情報を表示することができる。また、既存の3次元データの一部を仮想的な物体の3次元データとして、オブジェクト情報を登録して任意の画像に表示することもできる。
【0127】
図22は、図1、図10または図12に示す座標対応装置20のハードウェア構成の一例を示すブロック図である。座標対応装置20は、図22に示すように、制御部31、主記憶部32、外部記憶部33、操作部34、入出力部35、表示部36および送受信部37を備える。主記憶部32、外部記憶部33、操作部34、入出力部35、表示部36および送受信部37はいずれも内部バス30を介して制御部31に接続されている。
【0128】
制御部31はCPU(Central Processing Unit)等から構成され、外部記憶部33に記憶されている制御プログラム40に従って、座標対応装置20を制御するための処理を実行する。
【0129】
主記憶部32はRAM(Random-Access Memory)等から構成され、外部記憶部33に記憶されている制御プログラム40をロードし、制御部31の作業領域として用いられる。
【0130】
外部記憶部33は、フラッシュメモリ、ハードディスク、DVD−RAM(Digital Versatile Disc Random-Access Memory)、DVD−RW(Digital Versatile Disc ReWritable)等の不揮発性メモリから構成され、前記の処理を制御部31に行わせるための制御プログラム40を予め記憶し、また、制御部31の指示に従って、制御プログラム40が記憶するデータを制御部31に供給し、制御部31から供給されたデータを記憶する。図1、図10または図12のオブジェクト情報蓄積部4は、外部記憶部33に構成される。
【0131】
操作部34は、キーボードおよびマウスなどのポインティングデバイス等と、キーボードおよびポインティングデバイス等を内部バス30に接続するインターフェース装置から構成されている。操作部34を介して、画像条件、オブジェクト情報および指定位置の座標などが入力され、制御部31に供給される。入出力部35は、3次元データまたはオブジェクト情報を外部から入力したり、3次元データに結合したオブジェクト情報を外部の機器に出力するのに用いる。
【0132】
表示部36は、LED(Light Emitting Diode)、CRT(Cathode Ray Tube)またはLCD(Liquid Crystal Display)などから構成され、画像とオブジェクト情報を表示する。
【0133】
送受信部37は、無線または有線の通信インタフェースを備え、ネットワークを経由してクライアントであるパソコンまたは携帯端末などと通信して、画像とオブジェクト情報およびクライアントからの指令などを送受信する。
【0134】
上述のように、座標対応装置20の動作は、制御部31が、主記憶部32、外部記憶部33、操作部34、入出力部35、表示部36および送受信部37などと協働して行う。図1、図10または図12の入力部1、画像生成要求部3、3次元データ入力部3、オブジェクト情報蓄積部4、画像生成部5、情報統合部6、画像出力部7、オブジェクト情報入力部8、オブジェクト情報取得部9、オブジェクト情報登録部10、実写画像入力部12、オブジェクト抽出部13、および3次元モデル抽出部14の処理は、制御プログラム40が、制御部31、主記憶部32、外部記憶部33、操作部34、入出力部35、表示部36および送受信部37などを資源として用いて処理することによって実行する。
【0135】
本発明の実施の形態では、機能別に分けて説明をしたが、入力部1と、画像出力部7と、オブジェクト情報入力部8とをクライアントとして、パーソナルコンピュータと、デジタルカメラと、位置測定器などとで構成したり、GPS機能付や方位測定機能を搭載したカメラ付携帯電話などで構成してもよい。また、実施の形態の他の構成要素をサーバとして、クライアントとの間を有線・無線などの通信システムで接続してもよい。
【0136】
その他、本発明の好適な変形として、以下の構成が含まれる。
【0137】
本発明の第1の観点に係る座標対応装置について、好ましくは、前記情報表示手段は、前記情報入力手段で情報を入力した画像とは異なる画像において、前記物体特定手段で特定された物体の画像に対応して、前記物体の3次元モデリングデータに関連付けた情報を表示することを特徴とする。
【0138】
または、あるいはさらに、前記画像入力手段は、前記3次元データ入力手段で入力した3次元モデリングデータに基づいて、前記画像条件入力手段で入力した画像の属性条件で生成された画像を入力することを特徴とする。
【0139】
好ましくは、前記画像入力手段は、物体を撮影した画像を入力し、
前記画像条件入力手段は、前記物体を撮影した位置と撮影方向を含む画像属性を入力し、
前記物体特定手段は、前記物体を撮影した画像の上で指定された位置に表示されている3次元モデリングデータの物体を特定することを特徴とする。
【0140】
または、あるいはさらに、異なる視点から撮影された2以上の画像から、物体とその3次元モデリングデータを抽出する物体抽出手段を備え、
前記3次元データ入力手段は、前記物体抽出手段から3次元モデリングデータを入力し、
前記画像入力手段は、物体を撮影した画像を入力し、
前記画像条件入力手段は、前記物体を撮影した位置と撮影方向を含む画像属性を入力し、
前記物体特定手段は、前記物体を撮影した画像の上で指定された位置に表示されている3次元モデリングデータの物体を特定することを特徴とする。
【0141】
さらに好ましくは、前記3次元データ入力手段は、仮想的な物体を含む3次元モデリングデータを入力し、
前記画像表示手段は、前記仮想的な物体に対応する領域を画像に重畳して表示し、
前記指定手段は、前記仮想的な物体に対応する画像の領域を選択して指定する場合があることを特徴とする。
【0142】
本発明の第2の観点に係る座標対応方法について、好ましくは、前記情報表示ステップは、前記情報入力ステップで情報を入力した画像とは異なる画像において、前記物体特定ステップで特定された物体の画像に対応して、前記物体の3次元モデリングデータに関連付けた情報を表示することを特徴とする。
【0143】
または、あるいはさらに、前記画像入力ステップは、前記3次元データ入力ステップで入力した3次元モデリングデータに基づいて、前記画像条件入力ステップで入力した画像の属性条件で生成された画像を入力することを特徴とする。
【0144】
好ましくは、前記画像入力ステップは、物体を撮影した画像を入力し、
前記画像条件入力ステップは、前記物体を撮影した位置と撮影方向を含む画像属性を入力し、
前記物体特定ステップは、前記物体を撮影した画像の上で指定された位置に表示されている3次元モデリングデータの物体を特定することを特徴とする。
【0145】
または、あるいはさらに、前記画像入力ステップは、物体を撮影した画像を入力し、
異なる視点から撮影された2以上の画像から、物体とその3次元モデリングデータを抽出する物体抽出ステップを備え、
前記3次元データ入力ステップは、前記物体抽出ステップで抽出した3次元モデリングデータを入力し、
前記画像条件入力ステップは、前記物体を撮影した位置と撮影方向を含む画像属性を入力し、
前記物体特定ステップは、前記物体を撮影した画像の上で指定された位置に表示されている3次元モデリングデータの物体を特定することを特徴とする。
【0146】
さらに好ましくは、前記3次元データ入力ステップは、仮想的な物体を含む3次元モデリングデータを入力し、
前記画像表示ステップは、前記仮想的な物体に対応する領域を画像に重畳して表示し、
前記指定ステップは、前記仮想的な物体に対応する画像の領域を選択して指定する場合があることを特徴とする。
【0147】
その他、前記のハードウエア構成やフローチャートは一例であり、任意に変更および修正が可能である。
【0148】
制御部31、主記憶部32、外部記憶部33、操作部34、入出力部35、表示部36および送受信部37などから構成される座標対応装置20の処理を行う中心となる部分は、専用のシステムによらず、通常のコンピュータシステムを用いて実現可能である。たとえば、前記の動作を実行するためのコンピュータプログラムを、コンピュータが読み取り可能な記録媒体(フレキシブルディスク、CD−ROM、DVD−ROM等)に格納して配布し、当該コンピュータプログラムをコンピュータにインストールすることにより、前記の処理を実行する座標対応装置20を構成してもよい。また、インターネット等の通信ネットワーク上のサーバ装置が有する記憶装置に当該コンピュータプログラムを格納しておき、通常のコンピュータシステムがダウンロード等することで座標対応装置20を構成してもよい。
【0149】
また、座標対応装置20の機能を、OS(オペレーティングシステム)とアプリケーションプログラムの分担、またはOSとアプリケーションプログラムとの協働により実現する場合などには、アプリケーションプログラム部分のみを記録媒体や記憶装置に格納してもよい。
【0150】
また、搬送波にコンピュータプログラムを重畳し、通信ネットワークを介して配信することも可能である。たとえば、通信ネットワーク上の掲示板(BBS, Bulletin Board System)に前記コンピュータプログラムを掲示し、ネットワークを介して前記コンピュータプログラムを配信してもよい。そして、このコンピュータプログラムを起動し、OSの制御下で、他のアプリケーションプログラムと同様に実行することにより、前記の処理を実行できるように構成してもよい。
【図面の簡単な説明】
【0151】
【図1】本発明の実施の形態1に係る座標対応装置の構成の一例を示すブロック図である。
【図2A】3次元モデリングデータの構成の一例を示す図である。
【図2B】3次元モデリングデータの構成の一例を示す図である。
【図3A】図2Aの3次元モデリングデータから生成した画像の例を示す図である。
【図3B】図2Bの3次元モデリングデータから生成した画像の例を示す図である。
【図4】画像ファイルの表示画像の全領域の情報の構成の一例を示す図である。
【図5】画像ファイル内のオブジェクトの領域情報を構成する一例を示す図である。
【図6】画像内の表示領域と、オブジェクトとの対応関係を表す情報構成の一例を示す図である。
【図7】物体の識別番号とオブジェクト情報とを関連づける情報構成の例を示す図である。
【図8】実施の形態1に係る座標対応装置の動作の一例を示すフローチャートである。
【図9A】実施の形態1に係るオブジェクト情報表示処理の動作の一例を示すフローチャートである。
【図9B】実施の形態1に係るオブジェクト情報登録処理の動作の一例を示すフローチャートである。
【図10】本発明の実施の形態2に係る座標対応装置の構成の一例を示すブロック図である。
【図11】実施の形態2に係る座標対応装置の動作の一例を示すシーケンス図である。
【図12】本発明の実施の形態3に係る座標対応装置の構成の一例を示すブロック図である。
【図13】2枚の撮影画像と抽出した3次元モデリングデータを表す模式図である。
【図14】複数の撮影画像からオブジェクトを抽出して3次元モデリングデータを得る場合の一例を示すシーケンス図である。
【図15】実施の形態4に係るオブジェクト情報登録処理の動作の一例を示すフローチャートである。
【図16】道路と建物を表示する画面上で、交差点を仮想的な物体とする場合の概念図である。
【図17】仮想的な物体として初めに設定した3次元データから生成したオブジェクトの領域情報の例を示す図である。
【図18】新規に登録した仮想的な物体の識別番号とオブジェクト情報とを関連づけた情報構成の例を示す図である。
【図19】仮想的な物体の位置を変更した3次元データから生成したオブジェクトの領域情報の例を示す図である。
【図20】位置を変更したのちの仮想的な物体の識別番号とオブジェクト情報とを関連づけた情報構成の例を示す図である。
【図21】既存の3次元データの中に仮想的な物体(の3次元データ)を登録する場合の概念図である。
【図22】本発明の実施の形態に係る座標対応装置のハードウェア構成の一例を示すブロック図である。
【符号の説明】
【0152】
1 入力部
2 画像生成要求部
3 3次元データ入力部
4 オブジェクト情報蓄積部
5 画像生成部
6 情報統合部
7 画像出力部
8 オブジェクト情報入力部
9 オブジェクト情報取得部
10 オブジェクト情報登録部
12 実写画像入力部
13 オブジェクト抽出部
14 3次元モデル抽出部
20 座標対応装置
30 内部バス
31 制御部
32 主記憶部
33 外部記憶部
34 操作部
35 入出力部
36 表示部
37 送受信部
40 制御プログラム

【特許請求の範囲】
【請求項1】
物体の3次元モデリングデータを入力する3次元データ入力手段と、
前記物体を表示する画像を入力する画像入力手段と、
前記画像入力手段で入力した画像の、視点の座標と視方向を含む属性条件を入力する画像条件入力手段と、
前記画像入力手段で入力した画像を表示する画像表示手段と、
前記画像表示手段に表示した画像上で、情報を入力する位置を指定する指定手段と、
前記指定手段で指定した位置に付与する情報を入力する情報入力手段と、
前記指定手段で指定した画像上の位置に表示されている3次元モデリングデータの物体を特定する物体特定手段と、
前記物体特定手段で特定された物体の3次元モデリングデータに、前記情報入力手段で入力した情報を関連付けて記憶する記憶手段と、
前記画像入力手段で入力した画像の上に、前記物体特定手段で特定された物体の画像に対応して、前記物体の3次元モデリングデータに関連付けた情報を表示する情報表示手段と、
を備えることを特徴とする座標対応装置。
【請求項2】
前記情報表示手段は、前記情報入力手段で情報を入力した画像とは異なる画像において、前記物体特定手段で特定された物体の画像に対応して、前記物体の3次元モデリングデータに関連付けた情報を表示することを特徴とする請求項1に記載の座標対応装置。
【請求項3】
前記画像入力手段は、前記3次元データ入力手段で入力した3次元モデリングデータに基づいて、前記画像条件入力手段で入力した画像の属性条件で生成された画像を入力する、ことを特徴とする請求項1または2に記載の座標対応装置。
【請求項4】
前記画像入力手段は、物体を撮影した画像を入力し、
前記画像条件入力手段は、前記物体を撮影した位置と撮影方向を含む画像属性を入力し、
前記物体特定手段は、前記物体を撮影した画像の上で指定された位置に表示されている3次元モデリングデータの物体を特定する
ことを特徴とする請求項1または2に記載の座標対応装置。
【請求項5】
異なる視点から撮影された2以上の画像から、物体とその3次元モデリングデータを抽出する物体抽出手段を備え、
前記3次元データ入力手段は、前記物体抽出手段から3次元モデリングデータを入力し、
前記画像入力手段は、物体を撮影した画像を入力し、
前記画像条件入力手段は、前記物体を撮影した位置と撮影方向を含む画像属性を入力し、
前記物体特定手段は、前記物体を撮影した画像の上で指定された位置に表示されている3次元モデリングデータの物体を特定する
ことを特徴とする請求項1または2に記載の座標対応装置。
【請求項6】
前記3次元データ入力手段は、仮想的な物体を含む3次元モデリングデータを入力し、
前記画像表示手段は、前記仮想的な物体に対応する領域を画像に重畳して表示し、
前記指定手段は、前記仮想的な物体に対応する画像の領域を選択して指定する場合がある、
ことを特徴とする請求項1ないし5のいずれか1項に記載の座標対応装置。
【請求項7】
物体の3次元モデリングデータを入力する3次元データ入力ステップと、
前記物体を表示する画像を入力する画像入力ステップと、
前記画像入力ステップで入力した画像の、視点の座標と視方向を含む属性条件を入力する画像条件入力ステップと、
前記画像入力ステップで入力した画像を表示する画像表示ステップと、
前記画像表示ステップに表示した画像上で、情報を入力する位置を指定する指定ステップと、
前記指定ステップで指定した位置に付与する情報を入力する情報入力ステップと、
前記指定ステップで指定した画像上の位置に表示されている3次元モデリングデータの物体を特定する物体特定ステップと、
前記物体特定ステップで特定された物体の3次元モデリングデータに、前記情報入力ステップで入力した情報を関連付けて記憶する記憶ステップと、
前記画像入力ステップで入力した画像の上に、前記物体特定ステップで特定された物体の画像に対応して、前記物体の3次元モデリングデータに関連付けた情報を表示する情報表示ステップと、
を備えることを特徴とする座標対応方法。
【請求項8】
前記情報表示ステップは、前記情報入力ステップで情報を入力した画像とは異なる画像において、前記物体特定ステップで特定された物体の画像に対応して、前記物体の3次元モデリングデータに関連付けた情報を表示することを特徴とする請求項7に記載の座標対応方法。
【請求項9】
前記画像入力ステップは、前記3次元データ入力ステップで入力した3次元モデリングデータに基づいて、前記画像条件入力ステップで入力した画像の属性条件で生成された画像を入力する、ことを特徴とする請求項7または8に記載の座標対応方法。
【請求項10】
前記画像入力ステップは、物体を撮影した画像を入力し、
前記画像条件入力ステップは、前記物体を撮影した位置と撮影方向を含む画像属性を入力し、
前記物体特定ステップは、前記物体を撮影した画像の上で指定された位置に表示されている3次元モデリングデータの物体を特定する
ことを特徴とする請求項7または8に記載の座標対応方法。
【請求項11】
前記画像入力ステップは、物体を撮影した画像を入力し、
異なる視点から撮影された2以上の画像から、物体とその3次元モデリングデータを抽出する物体抽出ステップを備え、
前記3次元データ入力ステップは、前記物体抽出ステップで抽出した3次元モデリングデータを入力し、
前記画像条件入力ステップは、前記物体を撮影した位置と撮影方向を含む画像属性を入力し、
前記物体特定ステップは、前記物体を撮影した画像の上で指定された位置に表示されている3次元モデリングデータの物体を特定する
ことを特徴とする請求項7または8に記載の座標対応方法。
【請求項12】
前記3次元データ入力ステップは、仮想的な物体を含む3次元モデリングデータを入力し、
前記画像表示ステップは、前記仮想的な物体に対応する領域を画像に重畳して表示し、
前記指定ステップは、前記仮想的な物体に対応する画像の領域を選択して指定する場合がある、
ことを特徴とする請求項7ないし11のいずれか1項に記載の座標対応方法。
【請求項13】
コンピュータを、
物体の3次元モデリングデータを入力する3次元データ入力手段と、
前記物体を表示する画像を入力する画像入力手段と、
前記画像入力手段で入力した画像の、視点の座標と視方向を含む属性条件を入力する画像条件入力手段と、
前記画像入力手段で入力した画像を表示する画像表示手段と、
前記画像表示手段に表示した画像上で、情報を入力する位置を指定する指定手段と、
前記指定手段で指定した位置に付与する情報を入力する情報入力手段と、
前記指定手段で指定した画像上の位置に表示されている3次元モデリングデータの物体を特定する物体特定手段と、
前記物体特定手段で特定された物体の3次元モデリングデータに、前記情報入力手段で入力した情報を関連付けて記憶する記憶手段と、
前記画像入力手段で入力した画像の上に、前記物体特定手段で特定された物体の画像に対応して、前記物体の3次元モデリングデータに関連付けた情報を表示する情報表示手段
として機能させることを特徴とするプログラム。

【図1】
image rotate

【図2A】
image rotate

【図2B】
image rotate

【図3A】
image rotate

【図3B】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9A】
image rotate

【図9B】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate


【公開番号】特開2009−238029(P2009−238029A)
【公開日】平成21年10月15日(2009.10.15)
【国際特許分類】
【出願番号】特願2008−84842(P2008−84842)
【出願日】平成20年3月27日(2008.3.27)
【出願人】(390001395)NECシステムテクノロジー株式会社 (438)
【Fターム(参考)】