説明

画像をカラー化する地理空間モデリングシステム及び関連する方法

地理空間モデリングシステムは、地理的エリアのカラー化3次元(3D)モデルを格納する地理空間モデルデータベースと、前記地理空間モデルデータベースと協働するプロセッサとを有する。前記プロセッサは、前記カラー化3Dモデルに基づき収集されたモノクロ画像に対応する推定されたモノクロ画像を生成し、前記推定されたモノクロ画像と前記収集されたモノクロ画像との間のモノクロ差分画像を生成し、前記モノクロ差分画像に基づき前記収集されたモノクロ画像に対応するカラー化画像を生成するよう構成される。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、地理空間モデリングの分野に関し、より詳細には画像カラー化及び関連する方法に関する。
【背景技術】
【0002】
地理的エリアの地形モデルは、多くの用途について利用される。例えば、地形モデルは、フライトシミュレーションや他のプランニングミッションに利用される。さらに、都市などの人工の構造物の地形モデルは、セルラアンテナ配置、都市計画、災害準備及び分析、マッピングなどの用途に大変有用である。
【0003】
各種タイプの地形モデルが現在使用されている。1つの一般的な地形モデルは、デジタル評価モデル(DEM)である。DEMは、コンピュータによって自動的に生成される地理的エリアのサンプリングされたマトリックス表現である。DEMでは、高度に対応するように座標点が生成される。DEMは、典型的には、谷や山などの異なる高さの間の以降が一般にスムーズである地形をモデル化するのに利用される。すなわち、基本的なDEMは、典型的には、複数の曲線的表面などの地形をモデル化し、それらの間の不連続性は“スムージング”される。他の一般的な地形モデルは、デジタルサーフェスモデル(DSM)である。DSMは、DEMに類似しているが、地形に関する情報に加えて、建物、植物、道路に関する詳細をさらに含むものとして検討される。
【0004】
本出願の譲受人に譲渡され、参照することによりその全体がここに援用される、Rahmesらによる米国特許第6,654,690は、高度と位置のランダムに離間したデータに基づき、地形や建物を含むエリアの地形モデルを生成する自動化された方法を開示する。当該方法は、所定の位置グリッドに従って高度と位置との格子付きのデータを生成するためランダムに離間したデータを処理し、地形データから建物データを区別するため格子付きのデータを処理し、地形と建物を含むエリアの地形データを生成するため建物データに対してポリゴン抽出を実行することを含む。
【0005】
画像及び地形モデルのカラー化は、ユーザに付加的データを便利に提供するのに利用される。例えば、SAR(Synthetic−Aperture Radar)及び赤外線データが、合成カラー、すなわち、人工のカラーを用いて提供することができる。より詳細には、これらの用途では、リターンデータの範囲は、赤外線センサアプリケーションなどのカラーバンドにマッピングされ、より大きなリターン値のエリアが典型的には赤色にカラー化され、より小さなリターン値のエリアが典型的には青色にカラー化される。
【0006】
にもかかわらず、真のカラーはこれらのアプリケーションにおいて有用であり、すなわち、ディスプレイカラー化は、地形モデルにおけるオブジェクトの実際の視覚的な電磁的スペクトル反射特性に基づく。例えば、芝生領域は緑色でカラー化され、水塊は青色でカラー化される。地形モデルにおけるトゥルーカラー化は、モデルにおいてオブジェクトを分類及び特定する際に役立つことによって、ユーザに効果的である。
【0007】
効果的なトゥルーカラー化の可能性のある一例となるアプリケーションは、ユーザが金属製のターゲットを有する農場のSAR画像を閲覧することを含む。金属製のターゲットは、高いリターン値(SAR)のエリアであり、典型的には白色として人工的にカラー化される。金属製のターゲットの周囲の農地エリアは、小さなリターン値のエリアであり、典型的には黒色でカラー化される。この仮想的なSAR画像が提供されると、ユーザは、金属製のターゲットの周囲を正確に評価することができない。本例のアプリケーションでは、トゥルーカラー化は、ユーザに貴重なコンテクストを提供し、小さなリターン値の農地エリアを緑色としてユーザに提供し、これにより、正確なコンテクストと周囲をユーザに提供する。
【0008】
地形モデル及び画像のためのトゥルーカラー化を提供するためのアプローチは、例えば、人手による技術、トゥルーカラー化のテクスチャリング又はオーバレイング、同一センサ技術及び人工カラー化などを含む。
【発明の概要】
【発明が解決しようとする課題】
【0009】
上記背景に鑑み、本発明の課題は、モノクロ画像のカラー化を提供する地理空間モデリングシステムを提供することである。
【課題を解決するための手段】
【0010】
本発明による上記及び他の課題、特徴及び効果は、地理的エリアのカラー化3次元(3D)モデルを格納する地理空間モデルデータベースと、前記地理空間モデルデータベースと協働するプロセッサとを有する地理空間モデリングシステムによって提供される。前記プロセッサは、前記カラー化3Dモデルに基づき収集されたモノクロ画像に対応する推定されたモノクロ画像を生成し、前記推定されたモノクロ画像と前記収集されたモノクロ画像との間のモノクロ差分画像を生成し、前記モノクロ差分画像に基づき前記収集されたモノクロ画像に対応するカラー化画像を生成するよう構成される。前記カラー化画像は、例えば、合成カラーとリアルカラーとを有してもよい。効果的には、収集されたモノクロ画像はカラー化される。
【0011】
より詳細には、前記プロセッサは、少なくとも、前記モノクロ差分画像に基づき前記カラー化3Dモデルを更新し、前記更新されたカラー化3Dモデルに基づき、前記収集されたモノクロ画像に対応する推定されたカラー化画像を生成し、前記カラー化画像を提供するため、前記推定されたカラー化画像に基づき前記収集されたモノクロ画像をカラー化することによって、前記カラー化画像を生成するよう構成されてもよい。
【0012】
さらに、前記収集されたモノクロ画像は、コレクションジオメトリと、関連するセンサ特性データとを有してもよく、前記プロセッサはさらに、前記コレクションジオメトリと前記センサ特性データとに基づき前記推定されたモノクロ画像を生成するよう構成されてもよい。
【0013】
いくつかの実施例では、前記収集されたモノクロ画像は、前記地理的エリアのものより大きなエリアに関連付けされ、前記プロセッサはさらに、前記収集されたモノクロ画像の対応する部分をカラー化するよう構成されてもよい。他の実施例では、前記収集されたモノクロ画像は、前記地理的エリア以下のエリアに関連付けされ、前記プロセッサはさらに、前記収集されたモノクロ画像を完全にカラー化するよう構成されてもよい。
【0014】
さらに、地理空間モデリングシステムはさらに、カラー化画像を表示するため、プロセッサに接続されるディスプレイを有してもよい。例えば、カラー化3Dモデルは、DSM(Digital Surface Model)、LIDAR(Light Detection and Ranging)モデル、SRTM(Shuttle Radar Topography Mission)モデルの少なくとも1つを有する。
【0015】
他の態様は、地理的エリアのカラー化3次元(3D)モデルと、前記地理的エリアの収集されたモノクロ画像とを格納する地理空間モデルデータベースと、カラー化画像を生成するため、前記地理空間モデルデータベースと協働するプロセッサとを有する地理空間モデリングシステム上で実行されるコンピュータにより実現される方法に関する。本方法は、前記プロセッサを使用して、前記収集されたモノクロ画像に対応し、前記カラー化3Dモデルに基づく推定されたモノクロ画像を生成するステップと、前記プロセッサを使用して、前記推定されたモノクロ画像と前記収集されたモノクロ画像との間のモノクロ差分画像を生成するステップと、前記プロセッサを使用して、前記収集されたモノクロ画像に対応し、前記モノクロ差分画像に基づくカラー化画像を生成するステップとを有する。
【図面の簡単な説明】
【0016】
【図1】図1は、本発明による地理空間モデリングシステムの概略図である。
【図2】図2は、図1の地理空間モデリングシステムのより詳細な概略図である。
【図3】図3は、本発明による地理空間モデリングのためのコンピュータにより実現される方法を示すフローチャートである。
【図4】図4は、図1及び2の地理空間モデリングシステムの処理を示す概略ブロック図である。
【図5】図5は、本発明による地理空間モデリングシステムの概略ブロック図である。
【発明を実施するための形態】
【0017】
本発明は、本発明の好適な実施例が示される添付した図面を参照して、以降においてより詳細に説明される。しかしながら、本発明は、多数の異なる形態により実現されてもよく、提供される実施例に限定されるものとして解釈されるべきでない。むしろ、これらの実施例は、本開示が完全かつ完結したものとなるように提供され、当業者に本発明の範囲を十分に伝えようとするものである。同様の番号は同様の要素を参照する。
【0018】
図1〜3をまず参照して、本発明による地理空間モデリングシステム20が説明される。さらに、図3のフローチャート30を参照して、ブロック31から開始される地理空間モデリングのためのコンピュータにより実現される方法に関する他の態様が説明される。地理空間モデリングシステム20は、地理空間モデルデータベース21、それに接続されるパーソナルコンピュータ(図1)として示されるプロセッサ22、及びプロセッサ22に接続されるディスプレイ23を例示的に有する。例えば、プロセッサ22は、PC、Mac又は他の計算ワークステーションの中央処理ユニット(CPU)であってもよい。
【0019】
地理空間モデルデータベース21は、例示的には、ブロック33において、地理的エリアのカラー化された3次元(3D)モデルを格納する。より詳細には、カラー化された3Dモデルは、デジタルサーフェスモデル(DSM)、LIDAR(Light Detection and Ranging)モデル、SRTM(Shuttle Radar Topography Mission)モデル、SAR(Synthetic−Aperture Radar)モデルなどの典型的な3Dモデルと、関連するカラー化データ、すなわち、3Dモデルのオブジェクトの電磁的反射特性に関するデータとを有してもよい。当業者に理解されるように、この反射特性は、電磁スペクトルの少なくとも可視的なスペクトル部分の反射特性を含むものであってもよい。いくつかの実施例では、反射特性は、赤外線やマイクロ波放射などの電磁スペクトルの他の部分の反射特性を含むものであってもよい。
【0020】
地理空間モデルデータベース21はまた、例示的には、グレイスケールなどの収集されたモノクロ画像を格納する(ブロック33)。当業者に理解されるように、収集されたモノクロ画像は、例えば、任意的にはモザイク画像に一緒に位置レジストレーションされる複数のモノクロ画像から構成されてもよい。当業者に理解されるように、収集されたモノクロ画像は、あるいは遠隔地に格納されて遠隔アクセスされてもよいし、又はリアルタイムに収集されてプロセッサ22に同時に供給されてもよい。さらに、収集されたモノクロ画像は、例えば、位置データ、視野などの関連するコレクションジオメトリ及びセンサ特性を有してもよい。収集されたモノクロ画像は、SAR画像又は2次元(2D)や空中地表画像などを有してもよい。
【0021】
プロセッサ22は、地理空間データベース21と協働し、特定のタスクを実行するよう構成される。当業者に理解されるように、これは、プロセッサ22に埋め込まれたファームウェアや別の記憶装置(図示せず)に格納されているソフトウェアを用いて実現されてもよい。図示されるように、プロセッサ22は、ブロック35において、カラー化された3Dモデルに基づき収集されたモノクロ画像に対応する推定されたモノクロ画像を生成するよう構成される。すなわち、プロセッサ22は、3Dモデルデータを用いて、より詳細には、コレクションジオメトリやセンサ特性データに基づき収集されたモノクロ画像を複製する。
【0022】
さらに、ブロック37において、プロセッサ22は、推定されたモノクロ画像と収集されたモノクロ画像との間のモノクロ差分画像を生成するよう構成される。このステップでは、プロセッサ22は、収集されたモノクロ画像において変更されたオブジェクトに関する情報をユーザに提供する。例えば、移動するターゲットが地理的エリアに最近移動してきた場合、カラー化3Dモデルよりおそらくより最近のものである収集されたモノクロ画像は移動したターゲットを含むが、推定されたモノクロ画像はこのターゲットを含まないであろう。
【0023】
ブロック39において、プロセッサ22は、モノクロ差分画像に基づきカラー化3Dモデルを更新するよう構成される。すなわち、モノクロ差分画像は、例えば、カラー化3Dモデルに上述された移動したターゲットを配置することによって、カラー化3Dモデルを更新するのに利用される。
【0024】
プロセッサ22はさらに、ブロック41において、更新されたカラー化3Dモデルに基づき、収集されたモノクロ画像に対応する推定されたカラー化された画像を生成するよう構成される。当業者に理解されるように、この推定されたカラー化画像は、正規化されたカラーデータを有し、すなわち、それは強度データを欠落し、反射的なカラー応答のみを有する。
【0025】
プロセッサ22はさらに、ブロック43において、カラー化画像を提供するため、推定されたカラー化画像に基づき収集されたモノクロ画像をカラー化するよう構成される。すなわち、プロセッサ22は、モノクロ差分画像に基づき、収集されたモノクロ画像に対応するカラー化画像を生成するよう構成される。当業者に理解されるように、カラー化画像は、例えば、合成カラー及びリアル/トゥルーカラーなどを含むものであってもよい。地理空間モデリングシステム20は、ユーザによる閲覧のため、ディスプレイ23上にカラー化画像を出力する。本方法はブロック45において終了する。
【0026】
効果的には、カラー化画像は、収集されたオリジナルのモノクロ画像とカラー化データとの間のデータ統合からなる。すなわち、カラー化データは、収集されたモノクロ画像に“焼かれない(burned)”。従って、ユーザは、SARリターンデータなどの収集されたモノクロ画像の情報と、上述された方法により提供されるカラー化データとを独立に閲覧することができる。
【0027】
図4を参照して、図70は、上述された地理空間モデリングシステム20の実施例の処理を示す。これらの実施例では、収集されたモノクロ画像76は、カラー化3Dモデル73によりカバーされる地理的エリア72のものより大きなエリアに関連付けされる。すなわち、これらの実施例では、カラー化3Dモデル73は、不完全なものであり、収集されたモノクロ画像76の一部しかカバーしない。従って、推定されたモノクロ画像74はまた、対応する部分75しかカバーしない。収集されたモノクロ画像76と推定されたモノクロ画像74とは、下流の第1合成手段77において合成される。当業者に理解されるように、更新されたカラー化3Dモデル81は、不完全なカラー化3Dモデル73の対応する部分83を超える拡張された地理的エリアをカバーする。3Dモデルデータは、例えば、ステレオグラフィック技術を用いて不完全な3Dモデル73を拡張することによって、収集されたモノクロ画像を用いて拡張されてもよい。にもかかわらず、第2合成手段84から下流において、関連するカラー化データは、収集された画像76がモノクロであるため、同様にして拡張することはできず、すなわち、最終的なカラー化画像85の一部86しか実際にはカラー化されない。説明と再生の簡単化のため、図面はグレイスケールであるが、当業者は容易に、カラー化されたものが同様に見えるものを理解するであろう。
【0028】
すなわち、これらの実施例では、プロセッサ22はさらに、収集されたモノクロ画像76の対応する部分をカラー化するよう構成される。あるいは、プロセッサ22は、収集されたモノクロ画像の対応する部分を超えて拡張させるため、カラー化データを補間してもよい。
【0029】
さらに、本実施例では、カラー化3Dモデル73の解像度は、収集されたモノクロ画像76の解像度より低い。図示された推定されたモノクロ画像74はまた、収集されたモノクロ画像76より低い対応する解像度を有する。にもかかわらず、この地理空間モデリングシステム20は、カラー化3Dモデル74から有用なカラー化情報を抽出し、それを収集されたモノクロ画像76の対応する部分に適用する。もちろん、この地理空間モデリングシステム20は、例えば、カラー化3Dモデル73が収集されたモノクロ画像76(図示せず)より高い解像度を有する場合など、カラー化3Dモデルにより収集されたモノクロ画像解像度レシオを可変とすることにより収容可能である。
【0030】
他の実施例では、収集されたモノクロ画像は、地理的エリア以下のエリアに関連付けされてもよい。すなわち、これらの実施例では、カラー化3Dモデルは、完全であり、収集されたモノクロ画像の全体をカバーする。さらに、これらの実施例では、プロセッサ22はさらに、収集されたモノクロ画像を完全にカラー化するよう構成される。
【0031】
図5を参照して、当業者に理解されるように、地理空間モデリングシステム20の一実現形態50がさらに説明される。地理空間モデリングシステムの一実現形態50は、例示的には、3Dモデルモジュール51においてコレクションジオメトリ52を収集し、測定モジュール53において画像57のコレクション53を収集する。この地理空間モデリングシステム50は、例示的には、3Dモデルモジュール51から下流の予測モジュール55と、予測モジュールの下流の予測画像モジュール58とを有する。この地理空間モデリングシステム50はまた、例示的には、収集されたコレクション53から下流の測定画像モジュール59と、予測画像モジュール58と測定画像モジュールから下流のモノクロ差分画像を提供する差分モジュール60とを有する。
【0032】
この地理空間モデリングシステム50は、例示的には、モノクロ差分画像に基づきカラー化3Dモデルを更新するための差分モジュール60の下流の更新モジュール62と、更新モジュールから下流の合成カラー化画像モジュール63と、画像コレクション53と合成カラー化画像モジュールとから下流の合成モジュール64とを有する。地理空間モデリングシステム50はまた、例示的には、カラー化画像66,85(対応するカラー化部分86を有する完全なカラー化画像66又は部分的なカラー化画像85を有する)を提供するカラー化画像モジュール65を有する。説明及び再生の簡単化のため、図面はグレイスケールであるが、当業者は容易に、カラー化されたものが同様に見えるものを理解するであろう。

【特許請求の範囲】
【請求項1】
地理的エリアのカラー化3次元(3D)モデルを格納する地理空間モデルデータベースと、
前記地理空間モデルデータベースと協働するプロセッサと、
を有する地理空間モデリングシステムであって、
前記プロセッサは、
前記カラー化3Dモデルに基づき収集されたモノクロ画像に対応する推定されたモノクロ画像を生成し、
前記推定されたモノクロ画像と前記収集されたモノクロ画像との間のモノクロ差分画像を生成し、
前記モノクロ差分画像に基づき前記収集されたモノクロ画像に対応するカラー化画像を生成するよう構成される地理空間モデリングシステム。
【請求項2】
前記プロセッサは、少なくとも、
前記モノクロ差分画像に基づき前記カラー化3Dモデルを更新し、
前記更新されたカラー化3Dモデルに基づき、前記収集されたモノクロ画像に対応する推定されたカラー化画像を生成し、
前記カラー化画像を提供するため、前記推定されたカラー化画像に基づき前記収集されたモノクロ画像をカラー化することによって、前記カラー化画像を生成するよう構成される、請求項1記載の地理空間モデリングシステム。
【請求項3】
前記カラー化画像は、合成カラーとリアルカラーとを有する、請求項1記載の地理空間モデリングシステム。
【請求項4】
前記収集されたモノクロ画像は、コレクションジオメトリと、関連するセンサ特性データとを有し、
前記プロセッサはさらに、前記コレクションジオメトリと前記センサ特性データとに基づき前記推定されたモノクロ画像を生成するよう構成される、請求項1記載の地理空間モデリングシステム。
【請求項5】
前記収集されたモノクロ画像は、前記地理的エリアのものより大きなエリアに関連付けされ、
前記プロセッサはさらに、前記収集されたモノクロ画像の対応する部分をカラー化するよう構成される、請求項1記載の地理空間モデリングシステム。
【請求項6】
前記収集されたモノクロ画像は、前記地理的エリア以下のエリアに関連付けされ、
前記プロセッサはさらに、前記収集されたモノクロ画像を完全にカラー化するよう構成される、請求項1記載の地理空間モデリングシステム。
【請求項7】
地理的エリアのカラー化3次元(3D)モデルと、前記地理的エリアの収集されたモノクロ画像とを格納する地理空間モデルデータベースと、カラー化画像を生成するため、前記地理空間モデルデータベースと協働するプロセッサとを有する地理空間モデリングシステム上で実行されるコンピュータにより実現される方法であって、
前記プロセッサを使用して、前記収集されたモノクロ画像に対応し、前記カラー化3Dモデルに基づく推定されたモノクロ画像を生成するステップと、
前記プロセッサを使用して、前記推定されたモノクロ画像と前記収集されたモノクロ画像との間のモノクロ差分画像を生成するステップと、
前記プロセッサを使用して、前記収集されたモノクロ画像に対応し、前記モノクロ差分画像に基づくカラー化画像を生成するステップと、
を有する方法。
【請求項8】
前記カラー化画像を生成するステップは、
前記モノクロ差分画像に基づき前記カラー化3D画像を更新するステップと、
前記更新されたカラー化3Dモデルに基づき、前記収集されたモノクロ画像に対応する推定されたカラー化画像を生成するステップと、
前記カラー化画像を提供するため、前記推定されたカラー化画像に基づき前記収集されたモノクロ画像をカラー化するステップと、
を有する、請求項7記載の方法。
【請求項9】
前記カラー化画像は、合成カラーとリアルカラーとを有する、請求項7記載の方法。
【請求項10】
前記収集されたモノクロ画像は、コレクションジオメトリと、関連するセンサ特性データとを有し、
前記推定されたモノクロ画像を生成するステップは、前記コレクションジオメトリと前記センサ特性データとに基づく、請求項7記載の方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate


【公表番号】特表2012−520534(P2012−520534A)
【公表日】平成24年9月6日(2012.9.6)
【国際特許分類】
【出願番号】特願2012−500872(P2012−500872)
【出願日】平成22年3月16日(2010.3.16)
【国際出願番号】PCT/US2010/027413
【国際公開番号】WO2010/107747
【国際公開日】平成22年9月23日(2010.9.23)
【出願人】(594071675)ハリス コーポレイション (287)
【氏名又は名称原語表記】Harris Corporation
【Fターム(参考)】