説明

画像表示方法、プログラム、及び、画像表示装置

【課題】ユーザが指定した背景地図への画像等の配置を迅速かつ簡易に行って、より正確で娯楽性に優れる地図画像を得ることができ、リソースの少ない環境でも実用化が可画像表示方法、プログラム、及び、画像表示装置を提供する。
【解決手段】画像表示装置200を、制御部210と、画像とその取得場所情報を含む属性情報が関連付けられて記憶された記憶部220と、この記憶部220から画像データを読み込み、ユーザが指定した背景地図上に画像を配置して地図画像を作成する地図画像作成部250と、この地図画像作成部250により作成された地図画像を画像表示部240に表示する地図画像出力部260とから構成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像表示方法、プログラム、及び、画像表示装置に関する。
【背景技術】
【0002】
従来、位置情報を持つオブジェクト(例えば、GPS付きカメラユニットで撮影した画像、住所つき店舗情報など)を既知の地図上に配置し、旅行の軌跡などを効果的に振り返ることができるシステムが提案されている(例えば、特許文献1または2参照)。また、オブジェクトを配置する地図として、観光案内図など適宜デフォルメされた地図(以下「変形地図」と呼ぶ)を用いたシステムも提案されている(特許文献3参照)。このような変形地図は、実際には曲がっている通りでも直線として描かれている場合があるなど、本来の地図に対してゆがみを持っていることがある。そのため、この特許文献3のシステムでは、変形地図と本来の地図との間で、対応する点を設定してやることで、互いの対応を取った上で変形地図へのオブジェクトの配置を行っている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2002−251134号公報
【特許文献2】特開2007−322847号公報
【特許文献3】特開平11−282343号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、このような従来のシステムにおいて、オブジェクトを配置する背景として用いられている地図は、その図形的特徴(例えば、東西南北に対する地図画像の向き、傾きなど)が既知かつ比較的均質な地図のデータベースを必要とし、さまざまなユーザの要望に応えようとするとシステムが必要とする地図データの記憶領域が大容量になってしまうという課題があった。そのため、コストの観点からWebサービスのような比較的大きなシステム以外での実用化が難しかった。また、特許文献3のような変形地図を用いたシステムは、本来の地図と変形地図との対応点のデータベースを予め作成しておく分には有効であるが、ユーザの所持する任意のオブジェクト群を配置しようとするときには、膨大な対応点データのデータベースが必要となり、やはり大きなシステム以外での実用化が難しかった。
【0005】
本発明はこのような課題に鑑みてなされたものであり、大容量の地図データ等を予め用意する必要がなく、ユーザの要望に応じた任意の地図に対して画像等の配置を迅速かつ簡易に行って、より正確で娯楽性に優れた地図画像を得ることが可能であり、パーソナルコンピュータ、その組み込み機器などの比較的リソースの少ない環境でも実用化が可能な画像表示方法、プログラム、及び、画像表示装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
前記課題を解決するために、本発明に係る画像表示方法は、コンピュータを用いて、取得場所情報が対応づけられた画像データを表示する画像表示方法であって、画像データの中から取得場所を示す地図とする画像データを選択するステップと、残りの画像データの中から選択され、地図上に同一直線上に並ばないよう配置された少なくとも3枚の基準画像の各々について、地図上における位置座標を取得するステップと、基準画像の各々の、取得された位置座標及び取得場所情報に基づいて、取得場所情報から位置座標に変換するための対応関係を求めるステップと、対応関係を用いて、残りの画像データ毎に、当該画像データの取得場所情報から位置座標を算出するステップと、算出された位置座標に基づいて、残りの画像データを地図上に配置し地図画像を作成して表示するステップと、を有する。
【0007】
このような画像表示方法において、対応関係を求めるステップは、基準画像のうち、3つの基準画像の地図上での位置座標を、AL(x1,y1)、BL(x2,y2)、CL(x3,y3)とし、地図の中心座標をGL(XL,YL)とし、3つの基準画像の取得場所情報から得た位置座標をAG(X1,Y1)、BG(X2,Y2)、CG(X3,Y3)とし、地図として撮影対象となった地図と当該地図撮影時の光軸との交点の座標をGGとしたとき、次式
【数1】

の関係を満足するよう、定数m及びnを決定して、対応関係を求めるための式のパラメータを算出するように構成されることが好ましい。
【0008】
また、このような画像表示方法において、地図上における位置座標を取得するステップは、同一直線上に並ばないように地図上に配置された6枚以上の基準画像の各々について、地図上における位置座標を取得するように構成されることが好ましい。
【0009】
また、本発明に係るプログラムは、取得場所情報が関連付けられた画像データが記憶された記憶部と、画像データを表示する画像表示部と、が接続されたコンピュータに、上述の画像表示方法のいずれかを実行させる。
【0010】
また、本発明に係る画像表示装置は、取得場所情報が関連付けられた画像データが記憶された記憶部と、画像表示部と、記憶部から画像データ及び取得場所情報を読み出して、上述の画像表示方法のいずれかにより画像データを地図上に配置して地図画像を作成し、画像表示部に表示する制御部と、を有する。
【発明の効果】
【0011】
本発明に係る画像表示方法、プログラム、及び、画像表示装置を以上のように構成すると、ユーザの指定した地図を用いて、この地図への画像等の配置を迅速かつ簡易に行うことができ、より正確な地図画像を得ることができる。その結果、大容量の地図データなどの記憶領域を用意する必要がなく、パーソナルコンピュータ、その組み込み機器などの比較的リソースの少ない環境でも実用化が可能となる。また、地図として、通常の地図画像に限らず、航空写真やデフォルメされた地図の写真など、好みの地図を利用することが可能であり、より娯楽性に優れた地図画像を得ることができる。
【図面の簡単な説明】
【0012】
【図1】画像表示装置を有するデジタルカメラの構成を表すブロック図である。
【図2】画像表示装置の構成を表すブロック図である。
【図3】第1の実施形態における記憶部のデータ構造を示す図であり、(a)は画像情報格納領域を示し、(b)は画像データ格納領域を示す。
【図4】背景地図上に配置された基準画像を基に、他の画像を背景地図上に配置するための地図画像作成処理を説明するための説明図であり、(a)は地図画像上に3つの基準画像が配置された状態を示し、(b)は他の画像が地図画面上に配置された状態を示す。
【図5】背景地図上の座標と画像に付加された実際の位置座標との間の歪みを補正するための座標変換処理を説明するための説明図であり、(a)は実座標空間をグリッドで表した図であり、(b)はこの実座標空間グリッドを表示面に射影変換した状態を示す図である。
【図6】画像表示装置により実行される画像表示方法の手順を示すフローチャートである。
【図7】第2実施形態における記憶部のデータ構造を示す図であり、(a)は画像情報格納領域を示し、(b)はグループデータ格納領域を示す。
【図8】第2の実施形態における記憶部のデータ構造を示す図であり、(a)は画像データ格納領域を示し、(b)はアイコン情報格納領域を示し、(c)は音楽情報格納領域を示す。
【図9】第2の実施形態において、背景地図上に配置された基準画像を基に、他の画像を背景地図上に配置するための地図画像作成処理を説明するための説明図であり、(a)は地図画像上に3つの基準画像が配置された状態を示し、(b)は他の画像及び音楽データその他のオブジェクトがグループ化されて地図画面上に配置され、更に、所定のグループアイコンのポップアップ画面が表示された状態を示す。
【発明を実施するための形態】
【0013】
(第1の実施形態)
以下、本発明の好ましい第1の実施形態について図面を参照して説明する。まず、図1を用いて、第1の実施形態に係る画像表示装置を有するデジタルカメラ100(以下、「デジタルカメラ100」という)の構成について説明する。図1に示すように、このデジタルカメラ100は、光学レンズ101、撮像素子102、A/Dコンバータ103、バッファメモリ104、CPU(Central Processing Unit)105、操作スイッチ107やタッチパネル108を有する操作パネル106、RAM(Random Access Memory)113、ROM(Read Only Memory)114、及び、画像信号処理プロセッサ115等を有しており、これらが相互に、又はデータバス121を介して接続されている。
【0014】
光学レンズ101は、撮影対象となる被写体像を撮像素子102上に結像する役目を果たすものである。また、この光学レンズ101は、オートフォーカスおよびズーム機能を備えており、モータ118やアクチュエータ120によって、この光学レンズ101の構成レンズの相対位置を移動させることにより実現される。センサ117は、光学レンズ101の状態を取得する機能を有しており、モータ118は、光学レンズ101の位置を移動させるための機構を駆動し、焦点距離を調整するズーム動作をするものである。そして、モータ/アクチュエータドライバ119は、I/Oコントローラ116からの制御信号を電力に変換し、モータ118、アクチュエータ120が駆動するのに必要な電力の供給を行う。また、アクチュエータ120は、レンズアクチュエータであり、光学レンズ101の構成レンズの相対位置を移動させ、オートフォーカス機構を駆動するものである。なお、I/Oコントローラ116は、CPU105の制御によって機構部の動作を制御するものである。
【0015】
CPU105は、マイクロプロセッサであり、デジタルカメラ100の全体の動作を制御する。そして、このCPU105は、ROM114や画像信号処理プロセッサ115に格納されているプログラムコードやこのプログラムコードが参照するデータに基づいて動作するように構成されている。RAM113は、CPU105や画像信号処理プロセッサ115、ビデオコントローラ112の動作時に必要なデータの格納用として機能するようになっている。ROM114は、CPU105や画像信号処理プロセッサ115が所定の動作を行うために必要なプログラムコードやデータを格納する記憶部となっている。画像信号処理プロセッサ115は、画像データの処理を行うプロセッサであり、画像データの処理に必要な各種演算が高速で行えるような機能を備えており、CPU105の制御により動作するようになっている。
【0016】
そして、上述のモータ118やアクチュエータ120の作動は、CPU105からの制御信号がデータバス121を介してI/Oコントローラ116に送信され、さらに、このI/Oコントローラ116からモータ/アクチュエータドライバ119に送信されることで、制御されるように構成されている。また、撮像素子102は、光学レンズ101によって結像された画像を電気信号に変換し、A/Dコンバータ103によって、撮像素子102から出力される電気信号の連続値が離散値へ変換される。バッファメモリ104は、CPU105や画像信号処理プロセッサ115において、画像信号処理およびデータフロー制御を行うために一時的にデータが格納されるようになっている。
【0017】
操作パネル106は、各種操作に必要な指示をユーザが入力するものである。この操作パネル106には、操作スイッチ107が配置されており、ユーザが操作スイッチ107を操作すると、この操作スイッチ107が通電または遮断されることにより、ユーザの操作入力が実現される。また、この操作パネル106にはタッチパネル108が接続されており、このタッチパネル108は、実際にはディスプレイ109上に配置されるようになっている。そのため、ディスプレイ109に表示された内容に応じて、ユーザが操作入力すると、この操作入力が、タッチパネル108で検出される。つまり、タッチパネル108は、ユーザによって指示された位置の検出と圧力の検出が同時に行えるものとなっているため、ユーザが触れると、その操作入力を検出できる。このタッチパネル108の検出方法としては、例えば、抵抗膜による電圧変化を検出する方法、画像認識による検出方法、電磁誘導による磁界変化を検出する方法などが挙げられるが、本実施形態のデジタルカメラ100においては、これらの検出方法に限定されない。
【0018】
ディスプレイ109は、表示装置であり、例えば、デジタルカメラ100におけるその取り付け位置は、このデジタルカメラ100本体の背面側、つまり、光学レンズ101の取り付け側とは反対側に配置されている。そして、ディスプレイ109は、ユーザが実際に現在撮影しており撮像素子102上に結像されている画像データ(いわゆる「スルー画」を示す)の表示や、デジタルカメラ100の動作状況に対する情報等をユーザに示すことができる。また、ディスプレイ109は、メモリカード110に記憶された画像データの再生やタッチパネル108を介した操作入力のためのボタンやスライドスイッチを、画像として表示することもできるようになっている。なお、このディスプレイ109上に表示される映像は、データバス121を介してビデオコントローラ112から出力される。
【0019】
メモリカード110は、不揮発メモリであって、一旦、画像データ等が記憶されると、デジタルカメラ100本体の電源が遮断された場合であっても、記憶された画像データ等を保持することができるようになっている。このメモリカード110は、ストレージコントローラ111を介して画像データおよび付加情報の記録再生を行う際に制御されるようになっている。このメモリカード110に記憶される画像データ等のデータ構造の詳細については、後述する。
【0020】
このような構成のデジタルカメラ100の電源が投入されると、CPU105はROM114からプログラムコードを読み込み、実行を開始する。このプログラムコードは、最初に、上述したデジタルカメラ100の各構成部分の機能を初期化し、撮影できる待機状態を設定する。設定が完了すると、光学レンズ101により集光され、撮像素子102上に結像された画像データが、A/Dコンバータ103を通じて、バッファメモリ104に格納される。そして、バッファメモリ104に一旦格納された画像データは、画像信号処理プロセッサ115で処理される。その処理された結果が再びバッファメモリ104へ格納され、同時にビデオコントローラ112を介してディスプレイ109上に画像として表示される。この状態において、ユーザは操作パネル106に配置された操作スイッチ107、タッチパネル108を用いて、操作することができ、例えば、レリーズスイッチが押されたときの画像を静止画としてメモリカード110に記憶するように構成されている。
【0021】
次に、図2を用いて本実施形態に係る画像表示方法が実行される画像表示装置200の構成について説明する。この画像表示装置200は、デジタルカメラ100に組み込まれ、上述のようにユーザが撮影しメモリカード110などに記憶された画像データを使用して、これらの画像データを、画像データの取得場所を示す地図としてユーザが指定した地図(以下、「背景地図」と呼ぶ)上に配置して、地図画像を生成するように構成されている。画像表示装置200は、図2に示すように、画像表示装置200全体を制御する制御部210と、動画や静止画などの画像及びこの画像の各種情報から構成される画像データが記憶される記憶部(データベース)220と、記憶部220から画像データを読み込み、ユーザが指定した背景地図上に画像を配置して地図画像を作成する地図画像作成部250と、地図画像作成部250により作成された地図画像を画像表示部240に表示する地図画像出力部260とから構成される。ここで、本実施形態の画像表示装置200は、このディスプレイ109及び外部モニタ241を備えるとともに、図1で示されたCPU105で実行されるプログラム、画像信号処理プロセッサ115、ROM114、RAM113、ビデオコントローラ112、及び、メモリカード110などを備えている。そのため、制御部210は、例えば、上述のCPU105とこのCPU105で実行されるプログラムとから構成される。また、画像表示部240は、デジタルカメラ100のディスプレイ109、又は、図示しない外部端子を介してデジタルカメラ100に接続された、テレビジョン等の外部モニタ241などから構成されている。
【0022】
記憶部220は、メモリカード110、バッファメモリ104、RAM113、ROM114などを備え、図3に示すように、画像データの格納先、背景地図、この背景地図上での位置座標などが記憶される画像情報格納領域221と、画像そのものとその属性情報が(以下、この画像及び属性情報を「画像データ」と呼ぶ)が関連付けられて記憶される画像データ格納領域226とを有して構成されている。
【0023】
画像情報格納領域221は、図3(a)に示すようなデータ構造を有しており、画像データを識別する識別情報(ID)として、第1の実施形態及び以降の実施形態では、ファイル名(例えば、file1.jpg)が記憶されるファイル名記憶領域222と、この画像データの格納先の先頭アドレスが記憶されるアドレス記憶領域223と、背景地図上での画像の表示位置座標(例えば、ディスプレイ109上における画像の中心の位置座標)が記憶される位置座標記憶領域224と、ユーザが撮影し背景地図として指定した画像データの格納先の先頭アドレスが記憶される背景地図格納アドレス記憶領域225とを有して構成されている。なお、デジタルカメラ100により画像が撮影され、後述の画像データ格納領域226に画像データが記憶される際に、画像情報格納領域221のファイル名記憶領域222及びアドレス記憶領域223には各データが設定され、位置座標記憶領域224には、初期値として「(0,0)」が設定され、背景地図格納アドレス記憶領域225には、初期値として「0」が設定されて、記憶部220が更新される。なお、ここでは背景地図の情報として、背景地図格納アドレスを記憶するように構成しているが、これに限定されることはなく、背景地図のファイル名などを記憶してもよいし、画像情報格納領域221とは別個に、背景地図の情報を記憶する領域を設けてもよい。
【0024】
なお、背景地図は、ユーザが予め撮影し指定した地図画像であれば、何れのものであってもよく、例えば、観光案内パンフレットに記載された地図や案内板に描かれた地図を撮影した画像であってもよいし、ユーザがビルの屋上などから景色を撮影した見下ろし写真(鳥瞰写真)などであってもよいし、ユーザの手書き地図などであってもよい。また、国や都道府県地図、または、観光地などの所定の地域などの地図であってもよいし、牧場や公園、テーマパークなどの施設の地図であってもよい。このように予め撮影された画像が、後述の地図画像作成部250による地図画像作成処理で使用される。
【0025】
また、画像データ格納領域226は、図3(b)に示すようなデータ構造を有しており、画像そのものが記憶される画像記憶領域227、ヘッダ領域、取得場所情報(例えば、デジタルカメラ100のGPS機能により付加された緯度及び経度)、撮影時刻情報、などの属性情報が記憶される属性情報記憶領域228と、サムネイル画像が記憶されるサムネイル画像記憶領域229とを有し、1つの画像データに対する情報が1レコードとして管理される。ここで、前述のように、この画像データ格納領域226に格納されている画像データの格納場所(アドレス)は、画像情報格納領域221のアドレス記憶領域223に記憶される。そのため、各部では、ファイル名記憶領域222に記憶されている画像データのファイル名から、読み出そうとする画像データを特定し、この画像データの格納領域の先頭アドレスをアドレス記憶領域223から抽出して、画像データ格納領域232から該当する画像データそのものを取得することができる。なお、この画像記憶領域227と属性情報記憶領域228とを一つのファイルとして構成するようにしてもよい。このようなデータ構造としては、日本電子工業振興協会(JEIDA)で規格されたExif(Exchangeable image file format)等が知られている。
【0026】
次に、このような構成の第1の実施形態に係る画像表示装置200による、画像表示方法を用いた画像表示処理について、図4及び図5の説明図、並びに、図6のフローチャートを合わせて用いて説明する。この画像表示処理は、制御部210の制御により、地図画像作成部250によって行われる地図画像作成処理(ステップS110〜ステップS160)と、地図画像出力部260によって行われる地図画像表示処理(ステップS200〜ステップS230)とから構成され、これらの処理は、ユーザが操作スイッチ107やタッチパネル108などの操作パネル106を操作することで、画像表示装置200に地図作成指示または地図画像表示指示が与えられることにより実行される。
【0027】
このような指示を受信した制御部210は、地図画像作成指示か地図画像表示指示かを判定し(ステップS100、ステップS200)、地図画像作成指示の場合は、制御部210は、地図画像作成部250に対して、地図画像作成処理の実行を命令し、地図画像表示指示の場合は、制御部210は、地図画像出力部260に対して、地図画像表示処理の実行を命令する。各部での処理が終了すると、制御部210は、全ての処理が終了したか判定し(ステップS300)、終了した場合は画像表示処理全体を終了する。ここで、この終了の判定は、例えば、電源オフや図示しない終了スイッチの押下などの終了動作が行われ、この終了動作によって発信された終了信号を制御部210が受信することにより行ってもよい。このような終了動作がされない間は指示待ち状態となり、操作パネル106による次の指示があったタイミングで、制御部210は地図画像作成処理、又は、地図画像表示処理を続行する。以下、各部の処理の詳細について説明する。
【0028】
まず、地図画像作成部250による地図画像作成処理について説明する。地図画像作成部250は、制御部210からの地図画像作成命令を受信すると、記憶部220から画像データを読み出す(ステップS110)。次に、この読み出された画像データの中から、背景地図(301)を選択し、画像表示部240に表示する。この背景地図の選択は、ディスプレイ109に、記憶部220から読み出された画像データの画像を表示し、その中から、操作スイッチ107やタッチパネル108などの操作でユーザが指定した画像を、背景地図として選択する。この選択された背景地図の画像が、ディスプレイ109上に表示される(以上ステップS120)。
【0029】
なお、この背景地図の選択は、このように地図画像作成処理の実行中に行われるものであってもよいが、これに限定されることはない。例えば、旅行先での画像の撮影前に、ユーザが所望の地図画像を撮影し、これを背景地図として記憶部220に記憶しておき、その後、ユーザが撮影した画像の画像データが記憶部220に記憶される際に、画像情報格納領域221の背景地図格納アドレス記憶領域225に、この背景地図の格納アドレスを設定するようにしてもよい。そして、背景地図の選択の際に、この背景地図格納アドレス記憶領域225から格納アドレスを取得し、背景地図を読み出し、ディスプレイ109上に表示する。
【0030】
次に、基準画像の配置及びその位置座標などの取得処理が行われる(ステップS130)。それには、まず、背景地図が表示されたディスプレイ109上の、例えば、上端、下端、左端、又は、右端に、撮影された複数画像のサムネイル画像を表示する。このように背景地図とサムネイル画像とが表示さると、ユーザは、このサムネイル画像の中から、少なくとも3枚の画像(以下、「基準画像302(302a,302b,2302c)」と呼ぶ)を選択し、背景地図301上の当該画像が撮影された場所に配置する(図4(a))。この配置は、スタイラスペンなどのポインティングディバイスを用いて行ってもよいし、カメラ操作部の十字キー(不図示)を用いて行ってもよいし、表示させたい位置の座標データを直接入力して行ってもよい。また、この配置の際には、後述の対応関係を求める式(以下「変換式」と呼ぶ)の精度を高めるため、例えば、図4(a)に示すように、背景地図301上に3枚の基準画像302a〜302cとして、同一直線上に並ばない画像を選択し、これらを同一直線上に並ばないように配置することが好ましい。
【0031】
なお、ここでは3枚の基準画像302a〜302cを配置しているが、ユーザによる配置の誤差や座標軸の歪みなどを良好に補正するために、6枚以上の基準画像302を配置することがより好ましく、これにより、変換式の精度がより向上して、より正確な地図画像を形成することができる。また、ここではサムネイル画像を表示して基準画像302を選択するよう構成しているが、通常サイズの画像をディスプレイ109上に表示し、スクロールボタンなどによって画像をスクロールし、ユーザが何れかの画像を基準画像302として選択すると、背景地図301の画面に切り替わって、選択された基準画像302の表示位置をポインティングデバイスなどで指定できるように構成してもよい。また、基準画像302の配置をより正確に行うため、背景地図301上にグリッド線を表示してもよい。
【0032】
地図画像作成部250は、背景地図301上に配置された各基準画像302a〜302cの中心部の、ディスプレイ109などの表示面300上での表示位置座標(即ち、背景地図301上での表示位置座標)を取得する。また、地図画像作成部250は、各基準画像302a〜302cについて、記憶部220から読み出した画像データ格納領域226の属性情報記憶領域228から、実際の撮影位置座標(本実施形態では、デジタルカメラ100のGPS機能により付加された緯度及び経度)を取得する。
【0033】
次に、地図画像作成部250は、上記ステップS130で取得した3枚の基準画像302a〜302cの実際の撮影位置座標と、背景地図301上の位置座標とを基に、撮影位置座標からの背景地図301上の位置座標への変換式を算出する(ステップS140)。ただし、ユーザが基準画像302a〜302cを背景地図301に配置する際の誤差なども考慮すると、この時得られる変換式は、実地図上の位置座標と背景地図301上の位置座標とが完全に一致するような変換式であるとは限らない。そのため、変換により得られる背景地図301上の位置座標と、属性情報記憶領域228に記憶された実際の撮影位置座標との誤差の累積が、なるべく小さくなるような変換式を採用することが好ましい。
【0034】
この変換式の算出方法について、図5を用いて説明する。ここでは、GPSなどで得られる実際の地図の座標空間(以下、「実地図座標空間」と呼ぶ)400と、ユーザが撮影した背景地図画像の座標空間(以下、「背景地図座標空間」と呼ぶ)402とは、共に平面であると近似して取り扱う。また、背景地図座標空間402は、実地図座標空間400を透視投影モデルを用いて射影変換して得られる平面であるとして扱う。図5(a)に、実地図座標空間400をグリッド線(緯度及び経度)401で分割したものを示し、図5(b)に、この実地図座標空間400とグリッド線401とがディスプレイ109などの表示面300上に射影変換されることにより形成された背景地図座標空間403とグリッド線404とを示す。
【0035】
この時、実地図座標空間401と表示面300との間の座標の変換式は、以下のようにして算出する。まず、ステップS130で取得した基準画像302a〜302cの実際の撮影位置座標を基に、実地図空間座標401及びグリッド線402を作成し、基準画像302a〜302cの実地図座標空間401上での座標を求める。次に、この実地図座標空間401上での座標と、ステップS130で取得した基準画像302a〜302cの背景地図301上の位置座標、即ち、表示面300上での位置座標とを基に、実地図空間座標400から背景地図座標空間402への変換式のパラメータ(即ち、地図画像の撮影時におけるデジタルカメラ100の姿勢パラメータ)を、射影変換により求める。この時、ユーザによるポインティングデバイスの操作ミスなどで、基準画像302を配置すべき正確な位置をポイントできない場合がある。これを考慮して、各基準画像302a〜302cの保持している実地図座標空間401における位置座標と、背景地図座標空間402における位置座標とから射影変換により得られる、実地図座標空間401上の位置座標の二乗誤差の総計が最も小さくなるようにパラメータを調整する。
【0036】
以下に、背景地図301として、本来の地図平面の垂線方向と近い角度で地図(またはその他の地形を表す写真)を撮影した画像を使用した場合の、変換式のパラメータの計算例を示す。撮影対象平面の垂線方向付近から、平面を撮影した場合、光軸方向即ち奥行き方向(図5(b)に示すz方向)の座標の差異(遠近差)による、表示面300への投影時の大きさの変化が小さいと近似して考える。図4(a)に示すように、同一直線上に並ばない3つの基準画像302a〜302cが表示面300上に配置された場合、上記ステップS130で得られた、これらの基準画像302a〜302cの表示面300上での位置座標を、AL(x1,y1)、BL(x2,y2)、CL(x3,y3)とし、表示面300(即ち、背景地図301)の中心座標をGL(XL,YL)としたとき、この中心座標GLと表示面300上での位置座標AL、BL、CLとの間には、定数m及びnを用いて、以下に示す式(1)のような関係が成り立つ。
【0037】
【数2】

【0038】
また、このとき、前述したように背景地図を撮影している撮像系(デジタルカメラ100)の光軸が、撮影対象地図の垂線と略平行であるという仮定から、背景地図として撮影対象となった地図と光軸との交点の座標をGGとし、実地図座標空間401上での位置座標(第1の実施形態では、GPSなどにより取得される緯度及び経度)を、AG(X1,Y1)、BG(X2,Y2)、CG(X3,Y3)としたとき、上記で求められた定数m及びnを用いて、交点座標GGは、以下に示す式(2)により近似的に求めることができる。
【0039】
【数3】

【0040】
上記式(2)により求められたGGには、奥行き方向の距離(遠近差)を無視したことによる誤差、及び、ユーザが設定した位置座標AL,BL,CLの、設定時の誤差が含まれることになる。ここで、光軸の向きは、図5(b)のz方向と同じであり、残りのパラメータとして、デジタルカメラ100の合焦位置(撮影対象の地図までの距離)をcに固定したとき、光軸方向における直線GL−GGの長さg(表示面300に投影された背景地図座標空間402の中心GLと、実地図座標空間401との距離)、及び、実地図座標空間401の平面の観測系のx,y,z軸周りに対する回転角θ、φ、ρの4要素が自由度として残る。
【0041】
この回転角θ,φ,ρを、ある値に設定したとき、△ALLLと△AGGGとの面積比が一定になるようにgを設定し、そのときの表示面(x,y平面)300上の点PLを、この回転角(θ,φ,ρ)の組で表される仮の背景地図座標空間402に投影したときに得られる点PL′の位置座標を求める。このPL′と、PLの背景地図座標空間402での対応点PGの位置座標との距離の絶対値を合計し、この合計値をサンプルとして、ユーザが与えた表示面300上の全ての基準画像302のPLに対して絶対値の合計をとり、誤差Sとする。そして、この誤差Sが最小値となるような、実地図座標空間401の表示面302に対する、向き及び距離のパラメータの組(θmin,φmin,ρmin)及び、回転中心点GGを、表示面300(背景地図座標空間402)と実地図座標空間401(実際の地図)との間の変換式のパラメータとして採用する。なお、表示面300上での位置座標と実地図座標空間401上での位置座標との対応がとれたサンプリング点が、より多く取得できる場合は、上記式(1)及び(2)よりも厳密な射影変換などを用いて、より精度の高い変換が行えるようにしてもよい。以上のようにして算出されたパラメータは、バッファメモリ104などに一時的に記憶され、地図画像作成後は消去されるものであってもよいし、記憶部220に記憶して、再計算などができるようにしてもよい。
【0042】
上記のように変換式のパラメータが求まると、次に、地図画像作成部250は、このパラメータを用いて、記憶部220に記憶された残りの全ての画像データの画像を表示面300上にマッピングする処理を行う(ステップS150)。これらの画像は、実際の撮影位置座標(即ち、実地図座標空間400での位置座標)を有しているので、この位置座標を、上記で求めた変換式に当てはめ、背景地図座標空間402上の位置座標を求める。この求められた位置座標に基づいて、全ての画像データの画像303(303a,303b,303c,…)を、背景地図301上に配置し、表示面300に表示する(図4(b)参照)。以上のように、一度変換式用のパラメータが求まった後は、その変換式及び属性情報記憶領域228の撮影位置座標を用いて、地図画像作成部250が基準画像302以外の画像303を表示面302の対応位置に自動的に配置していく。
【0043】
なお、このように地図画像作成部250により配置された画像303の表示面300上の位置が、ユーザの意図するものと異なっていた場合、表示面300上の当該画像303をポインティングデバイスで移動させることができるように構成してもよい。この操作により、新たに位置指定を行った画像303を基準画像302に加え、ステップS140〜S150の処理を再度行って、変換式のパラメータ調整を行うよう構成することにより、座標変換による画像の配置を、ユーザの意図により近づけることができる。
【0044】
また、以上説明した処理では背景地図座標空間402と実地図座標空間401との変換を、平面から平面への射影変換で求めていたが、この射影変換では、地図上に高低差がある場合に、誤差が大きくなる。したがって、一度変換式のパラメータを固定してから、変換後の背景地図座標空間402のグリッド線403の頂点(交点)をゆがめ、その近傍4頂点からの線形変換で、背景地図座標空間402上の位置座標と実地図座標空間401上の位置座標との変換を行うように構成してもよい。
【0045】
また、以上の説明では、ディスプレイ109の表示面300上で背景地図301の選択、基準画像302の配置などの操作や基準画像302の位置座標の取得を行っているが、デジタルカメラ100に外部端子を介して接続された外部モニタ241上に背景地図301などを表示し、マウスやリモコンなどのポインティングデバイスを用いて、以上の操作や処理を行うようにしてもよい。
【0046】
そして、全ての画像データについて、上記で求められた表示面302上の位置座標を、画像情報格納領域221における位置座標記憶領域224に設定し、記憶部220を更新する(ステップS160)。以上により、地図画像作成部250による地図画像作成処理が終了する。
【0047】
次に、地図画像出力部260による地図画像表示処理について説明する。地図画像出力部260は、制御部210からの地図画像表示命令を受信すると、記憶部220から画像データを全て読み出す。また、背景地図格納アドレス記憶領域225に記憶された背景地図の格納アドレスを基に、背景地図を決定する(ステップS210)。
【0048】
次に、この取得された背景地図301上に、各画像データについて、ステップS210で読み出された位置座標記憶領域224に記憶された位置座標を基に、画像記憶領域227に記憶された画像を配置して、画像表示部240に表示するための地図画像を編集する(ステップS220)。
【0049】
なお、この第1の実施形態において位置座標記憶領域224に記憶された値は、ディスプレイ109上での表示位置座標であるため、この値を基に、地図画像作成処理では、ディスプレイ109への表示用の地図画像を編集する。また、外部モニタ241に地図画像を表示する場合は、ディスプレイ109用の地図画像を外部モニタ241への表示用の画像に変換する処理を行う。また、ディスプレイ109の画面は小さいため、背景地図301上にはサムネイル画像を表示し、何れかのサムネイル画像がポインティングデバイスにより指定された場合に、ディスプレイ109上で、そのサムネイル画像に対応する画像が拡大表示されたり、動画が再生されるように構成してもよい。また、外部モニタ241への表示用の地図画像についても、同様の構成としてもよいが、外部モニタ241の画面が十分に大きい場合は、サムネイル画像ではなく、通常サイズの画像を表示するよう構成してもよい。また、同一の場所で複数の画像を撮影した場合、画像を撮影時間順に重ねて表示してもよいし、並べて表示してもよい。
【0050】
上記のように編集された地図画像が、図4(b)に示すように、画像表示部240のディスプレイ109上または外部モニタ241上に表示され、ユーザは地図画像を観賞することができる(以上、ステップS230)
【0051】
以上のように、第1の実施形態では、ユーザが背景地図301を撮影し、その背景地図301上で、数個の基準画像302の位置を指定するだけの簡単な操作で、他の画像303が背景地図301上の対応した位置に配置され、より正確な地図画像を取得することができる。そのため、多くの地図データや実際の地形図と変形地図との対応点データを格納するための大容量の記憶領域を用意する必要がなく、パーソナルコンピュータ、その組み込み機器などの比較的リソースの少ない環境でも画像評価装置200の実用化が可能となる。また、背景地図301として、通常の地図画像は勿論のこと、航空写真、印刷物の地図などをユーザが撮影した画像、手書き地図や観光地の地図看板などのデフォルメされた地図を撮影した画像などを利用することが可能であり、より娯楽性に優れた地図画像を得ることができる。また、このように背景地図に取得場所に応じて画像が配置された地図画像を観賞することで、ユーザは旅行の軌跡を振り返りつつ、撮影した写真等を楽しむことができる。
【0052】
(第2の実施形態)
次に、第2の実施形態に係る画像表示装置200及びこの画像表示装置200による画像表示方法について説明する。第1の実施形態では、図4(b)に示すように、各画像を個別に背景地図301上に配置し表示しているが、この第2の実施形態では、取得場所の距離が近い画像群をグルーピングし、そのグループごとにオブジェクトを表示している。また、画像の表示だけでなく、グループに関連付けて音楽データやテキストデータなどの他のオブジェクトも背景地図301上に配置して地図画像を生成するよう構成されている。この第2の実施形態に係る画像表示装置200基本構成は、第1の実施形態と同様の構成をしており、制御部210と、記憶部400と、地図画像作成部250と、画像表示部240と、地図画像出力部260とから構成される(図2参照)。以下、第1の実施形態と異なる記憶部400の構成について説明する。
【0053】
第2の実施形態の記憶部400は、図7及び図8に示すように、画像データの格納先や所属グループ、背景地図301上での表示座標などが記憶される画像情報格納領域401と、グループ情報が記憶されるグループ情報格納領域410と、画像データが記憶される画像データ格納領域420と、グループアイコンのデータが格納されるアイコン情報格納領域430と、音楽データが格納される音楽情報格納領域440とを有して構成されている。
【0054】
画像情報格納領域401は、図7(a)に示すようなデータ構造を有しており、画像データを識別する識別情報(ID)として、ファイル名(例えば、file1.jpg)が記憶されるファイル名記憶領域402と、この画像データの格納先の先頭アドレスが記憶されるアドレス記憶領域403と、背景地図301上での画像の表示位置座標が記憶される位置座標記憶領域404と、画像をグルーピングした際の当該画像が所属するグループのIDが記憶されるグループID記憶領域405とを有して構成されている。なお、画像データ格納時には、位置座標記憶領域404には、初期値「(0,0)」が設定される。また、この第2の実施形態では、取得場所別に画像をグルーピングし、グループIDが付与されるようにデジタルカメラ100を構成し、画像データ格納時には、このように付与されたグループIDがグループID記憶領域405に設定されるように構成されている。
【0055】
また、グループデータ格納領域410は、図7(b)に示すようなデータ構造を有しており、グループID(0001,0002,…)が記憶されるグループID記憶領域411と、地図画像上に表示するグループアイコンデータの種別を示すIDが記憶されるアイコン種別記憶領域412と、ユーザが撮影し背景地図301として指定した画像データの格納先の先頭アドレスが記憶される背景地図格納アドレス記憶領域413と、画像に関連して背景地図301に貼り付ける音楽データの種別を示すIDが記憶される音楽データID記憶領域414と、画像に関連し背景地図301に貼り付けるテキストデータが記憶されるテキストデータ記憶領域415とを有して構成されている。なお、グループID記憶領域411以外の記憶領域には、初期値として「0」や空白などが記憶されている。
【0056】
また、画像データ格納領域420は、図8(a)に示すようなデータ構造を有しており、画像そのものが記憶される画像記憶領域421と、ヘッダ領域、取得場所情報(緯度、経度)、撮影時刻情報、などの属性情報が記憶される属性情報記憶領域422と、サムネイル画像が記憶されるサムネイル画像記憶領域423とを有し、1つの画像データに対する情報が1レコードとして管理される。
【0057】
またアイコン情報格納領域430は、図8(b)に示すようなデータ構造を有しており、グループアイコンデータのIDが記憶されるアイコンID記憶領域431と、地図画像に表示するグループアイコンデータそのものが記憶されるアイコンデータ記憶領域432とを有して構成される。また、音楽情報格納領域440は、図8(c)に示すようなデータ構造を有しており、音楽データIDが記憶される音楽ID記憶領域441と、音楽データそのものが記憶される音楽データ記憶領域442とを有して構成される。
【0058】
このような第2の実施形態に係る画像表示装置200による、画像表示方法を用いた画像表示処理は、第1の実施形態と同様に、地図画像作成部250によって行われる地図画像作成処理と、地図画像出力部260によって行われる地図画像表示処理とから構成される。各処理も図6に示すフローと同様のステップが実行される。
【0059】
この第2の実施形態では、画像だけでなく、画像に関連付けて音楽データやテキストデータなどの他のオブジェクトも背景地図301上にマッピングして地図画像を生成するよう構成されている。また、取得場所ごとに、画像その他のオブジェクトをグルーピングし、背景地図301上には、図9(b)に示すように、当該グループのグループアイコン304のみ表示し、ポインティングデバイスにより何れかのグループアイコン304が指定された際に、ポップアップ画面307が表示するように構成されている。このポップアップ画面307には、当該グループに所属する複数の画像303のサムネイル画像、音楽データアイコン305、テキストデータ306などが表示される。
【0060】
次に、第2の実施形態における地図画像作成処理について説明する。この第2の実施形態においても、第1の実施形態と同様に、図9(a)に示すように、ユーザから選択された背景地図301を画像表示部240に表示した後(ステップS110、ステップS120)、撮影した画像の中から、少なくとも3枚、好ましくは6枚以上の画像が基準画像302(302a,302b,302c,…)として選択され、背景地図301上に配置される。このような操作がされると、地図画像作成部250は、基準画像302の表示面300での位置座標と、この基準画像302の有する撮影位置座標(属性情報記憶領域422からのデータ)を取得し(ステップS130)、これらの情報を基に、前述の式(1)及び(2)などを用いて実地図座標空間と背景地図座標空間との間の位置座標の変換用パラメータを算出する(ステップS140)。
【0061】
この変換式のパラメータを基に、地図画像作成部250では、記憶部400から読み出した全ての画像データについて、表示面300における位置座標を算出し、背景地図301上にマッピングし、地図画像を作成する(ステップS150)。ただし、第2の実施形態では、前述したように、各画像は取得場所が近いもの同士がグルーピングされ、作成された地図画像には、各グループのグループアイコン304が表示されている。またこの地図画像とは別に、各グループのポップアップ画像307が形成される。このポップアップ画像307には、グループアイコン304をクリックするなどの操作により、当該グループに所属する画像303のサムネイル画像、音楽データのアイコン305、テキストデータ306などが表示される。
【0062】
したがって、ユーザは、画像表示部240に表示された地図画像を観察し、アイコン304の位置が意図するものと異なっていた場合、当該アイコン304をポインティングデバイスで移動させ、位置を補正することができるように構成してもよい。また、ポップアップ画面307を表示した際に、各グループに所属する画像303の位置が意図したものと異なったり、グループを分割したい場合は、その画像303のサムネイル画像をポインティングディバイスで所定の位置に移動させてもよい。また、第2の実施形態では、グループごとに、グループアイコン304を変更したり、音楽データを選択したり、テキストデータを入力できるように構成している。また、グループアイコン304は、ユーザが選択したり変更できるようにしてもよいし、地図画像作成部250が画像303を解析して、ポートレートであれば人型のアイコンを選択し、建築写真であればビル型のアイコンを選択して表示するように構成してもよい。
【0063】
このような補正やアイコンなどの選択が終了すると、地図画像作成部250は、各画像データについて、変換式により算出された位置座標を位置座標記憶領域404に設定し、グループIDをグループID記憶領域405に設定し、選択されたアイコンデータのIDをグループデータ格納領域410のアイコンID記憶領域412に設定し、指定された音楽データのIDを音楽データID記憶領域414に設定し、に入力されたテキストデータをテキストデータ記憶領域415設定して、記憶部400を更新する(ステップS160)。
【0064】
次に、地図画像表示処理について説明する。この場合も第1の実施形態と同様に、地図画像表示制御部260は、記憶部400から画像データ、位置座標、背景地図、グループ情報などの各種データを読み出すとともに、これらのデータを基に背景地図301を決定する(ステップS210)。この背景地図301上に、各グループのアイコン304を配置し地図画像を編集するとともに、各グループのポップアップ画像307を編集する。また、外部モニタ241に地図画像を表示する場合は、この外部モニタ241への表示用の地図画像を編集する(ステップS220)。
【0065】
このように編集された地図画像が、ディスプレイ109及び外部モニタ241に表示される(ステップS230)。また、ポインティングディバイスの操作により、ユーザが何れかのグループアイコン304を指示すると、図9(b)に示すように、ポップアップ画面307が表示され、前述したように、当該グループに所属する画像303のサムネイル画像、音楽データアイコン305、テキストデータ306などの各種アイコンが表示される。また、このポップアップ画面307のアイコンをポインティングディバイスで指示することで、そのアイコンが示すオブジェクトの元データを再生することができるように構成されている。例えば、サムネイル画像をマウスなどでクリックすると、静止画の場合は通常サイズの画像や拡大画像が画像表示部240に表示され、動画の場合は画像表示部240において動画の再生が行われる。また、音楽データアイコン305をクリックすると、音楽の再生が行われる。さらには、ポインティングディバイスにより1つのグループまたは複数のグループを選択し、この選択されたグループに含まれる画像その他のコンテンツを使用して、スライドショーを再生できるように地図画像出力部260を構成してもよい。このように第2の実施形態においても、ユーザの指定した背景地図を用い、数枚の画像の位置を指定するだけの簡易な操作で、この背景地図に全ての画像その他のオブジェクトが配置された地図画像を観賞することができる。
【0066】
なお、上記各実施形態では、1つの背景地図に全ての画像を配置して1つの地図画像を作成しているが、2つ以上の画像を背景地図として選択してもよく、各画像を何れかの背景地図または複数の背景地図に配置して、複数の地図画像を作成するよう構成してもよい。例えば、北海道旅行の場合、北海道全体の地図を背景地図とし、この背景地図に全ての画像を配置した地図画像を作成するとともに、函館や札幌などの観光地の写真や牧場やテーマパークの写真などを背景地図として複数用い、これらの背景地図に該当する画像を配置して、地域ごとの地図画像を作成してもよい。また、必ずしも実際に画像を撮影した場所の地図を背景地図とする必要もなく、例えば、背景地図として福岡の地図や宇宙の地図を使用し、この背景地図に東京で撮影した画像を配置して、仮想的な地図画像を作成することもでき、娯楽性を更に向上させることができる。また、サムネイル画像やグループアイコン304で画像その他のオブジェクトの位置を示しているが、小さな輝点で位置を示してもよく、位置座標の正確な把握が可能となるとともに、オブジェクトを移動させて配置誤差を補正する際に、より正確な位置にオブジェクトを移動させることができる。また、輝点での表示とサムネイル画像などでの表示とを切り替えることができるようにしてもよい。
【0067】
また、以上の各実施形態の説明では、デジタルカメラ100に画像表示装置200を実装した場合について説明したが、本願がこの構成に限定されることはなく、例えば、CPUやROM、RAM等の処理装置と、ハードディスク等の記憶部を備えるコンピュータに実装しても良いことは言うまでもない。
【0068】
また、画像表示装置200の画像表示処理により実行される画像表示方法は、画像表示装置200のCPU105で実行されるプログラムとして実装することができる。ここで、このプログラムは、例えばフレキシブルディスク、CD−ROM、光磁気ディスク、半導体メモリ、ハードディスク等の記憶媒体または記憶装置(記憶部220)に格納することができる。また、ネットワークなどを介してディジタル信号として配信される場合もある。このとき、中間的な処理結果はメモリ等の記憶装置に一時保管される。あるいは、このプログラムを専用のICチップ(例えば、ASIC等)として構成しても良い。
【符号の説明】
【0069】
200 画像表示装置 210 制御部
220,400 データベース(記憶部)
240 画像表示部 250 地図画像作成部 260 地図画像出力部

【特許請求の範囲】
【請求項1】
コンピュータを用いて、取得場所情報が対応づけられた画像データを表示する画像表示方法であって、
前記画像データの中から取得場所を示す地図とする前記画像データを選択するステップと、
残りの前記画像データの中から選択され、前記地図上に同一直線上に並ばないよう配置された少なくとも3枚の基準画像の各々について、前記地図上における位置座標を取得するステップと、
前記基準画像の各々の、取得された前記位置座標及び前記取得場所情報に基づいて、前記取得場所情報から前記位置座標に変換するための対応関係を求めるステップと、
前記対応関係を用いて、残りの前記画像データ毎に、当該画像データの前記取得場所情報から前記位置座標を算出するステップと、
算出された前記位置座標に基づいて、残りの前記画像データを前記地図上に配置し地図画像を作成して表示するステップと、を有する画像表示方法。
【請求項2】
前記対応関係を求めるステップは、
前記基準画像のうち、3つの前記基準画像の前記地図上での前記位置座標を、AL(x1,y1)、BL(x2,y2)、CL(x3,y3)とし、前記地図の中心座標をGL(XL,YL)とし、3つの前記基準画像の前記取得場所情報から得た前記位置座標をAG(X1,Y1)、BG(X2,Y2)、CG(X3,Y3)とし、前記地図として撮影対象となった地図と当該地図撮影時の光軸との交点の座標をGGとしたとき、次式
【数4】

の関係を満足するよう、定数m及びnを決定して、前記対応関係を求めるための式のパラメータを算出するように構成された請求項1に記載の画像表示方法。
【請求項3】
前記地図上における位置座標を取得するステップは、
同一直線上に並ばないように前記地図上に配置された6枚以上の前記基準画像の各々について、前記地図上における位置座標を取得するように構成された請求項1または2に記載の画像表示方法。
【請求項4】
前記取得場所情報が関連付けられた前記画像データが記憶された記憶部と、前記画像データを表示する画像表示部と、が接続されたコンピュータに、請求項1〜3いずれか一項に記載の画像表示方法を実行させるためのプログラム。
【請求項5】
取得場所情報が関連付けられた画像データが記憶された記憶部と、
画像表示部と、
前記記憶部から前記画像データ及び前記取得場所情報を読み出して、請求項1〜3いずれか一項に記載の画像表示方法により前記画像データを地図上に配置して地図画像を作成し、前記画像表示部に表示する制御部と、を有する画像表示装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2011−43871(P2011−43871A)
【公開日】平成23年3月3日(2011.3.3)
【国際特許分類】
【出願番号】特願2009−189705(P2009−189705)
【出願日】平成21年8月19日(2009.8.19)
【出願人】(592217093)株式会社ニコンシステム (102)
【Fターム(参考)】