画像補正装置、画像補正方法及びプログラム
【課題】精度良く、効率的に空中写真の幾何学的な歪みを補正する。
【解決手段】既存のオルソ化済衛星画像と標高データとを用いて、補正対象の空中画像の正射投影座標を計算し、計算した座標に合わせて空中画像を幾何補正(オルソ化)する第1の幾何補正を行う(S103)。そして、第1の幾何補正で補正された空中画像が、既存のオルソ化済衛星画像と一致するように、画像全域で対応点を取得して幾何補正する第2の幾何補正を行う(S104)。そして、既存のオルソ化済衛星画像と最も相関が合うように、第1および第2の幾何補正済の空中画像とをマージした画像を作成する(S105)。
【解決手段】既存のオルソ化済衛星画像と標高データとを用いて、補正対象の空中画像の正射投影座標を計算し、計算した座標に合わせて空中画像を幾何補正(オルソ化)する第1の幾何補正を行う(S103)。そして、第1の幾何補正で補正された空中画像が、既存のオルソ化済衛星画像と一致するように、画像全域で対応点を取得して幾何補正する第2の幾何補正を行う(S104)。そして、既存のオルソ化済衛星画像と最も相関が合うように、第1および第2の幾何補正済の空中画像とをマージした画像を作成する(S105)。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、画像補正装置、画像補正方法及びプログラムに関する。
【背景技術】
【0002】
一般に、地図作製等の目的等により、比較的高度の低い位置から地上を撮影する空中写真は、撮影位置の直下の地点から離れる程、また被写体の高度が高い程、幾何学的な歪みが大きくなる。
【0003】
特許文献1には、同一地域を異なる撮影方向から撮影することで1組のペア画像(ステレオペアの画像)を取得し、地上に設置した測量基準点に基づいてペア画像間での視差を計算して、幾何学的な歪みのない画像を得る技術が開示されている。しかし、ステレオペアの画像を撮影すること、及び地上基準点を設置することは、手間がかかる作業であるため、効率の良い手法であるとは言えない。
【0004】
また、既存の地図及び標高データを用いて、空中写真を幾何学的に補正(幾何補正)することで、幾何学的な歪みのない画像を得ることが一般的に行われている。しかし、この手法では、既存の地図及び標高データの精度が低い場合、幾何補正の精度が悪くなるという問題を有する。
【0005】
また、特許文献2及び3には、既存の地図を用いて空中写真を幾何補正する技術が開示されている。しかし、これらの技術でも、既存の地図の精度が低い場合、幾何補正される空中写真の精度は低下してしまうという問題を有する。
【特許文献1】特開2000−348160号公報
【特許文献2】特開平5−165402号公報
【特許文献3】特開平7−281593号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
本発明は、上記実情に鑑みてなされたものであり、幾何学的な歪みを含んだ空中写真を、効率良く、且つ精度良く幾何補正することを特徴とする画像補正装置及び方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本発明の第1の観点に係る画像補整装置は、
注目地域を上方から撮影して得られる第1の画像を記憶する画像記憶手段と、
複数の地域を上方から撮影して得られた画像を正射投影画像に幾何補正し且つ2次元座標が付与された幾何補正済画像を記憶する幾何補正済画像記憶手段と、
複数地域について、各地点の標高を表す標高データを記憶する標高データ記憶手段と、
前記幾何補正済画像記憶手段に記憶されている幾何補正済画像から、前記注目地域を撮影した第2の画像を取得する幾何補正用画像取得手段と、
前記標高データ記憶手段に記憶されている標高データから、前記注目地域の標高データを取得する幾何補正用標高データ取得手段と、
前記第1の画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した基準点の前記第2の画像内での座標と該基準点の標高データとから、該基準点の3次元座標を取得し、取得した3次元座標を該基準点の第1の画像内での2次元座標に正射投影するための正射投影パラメータを求める正射投影パラメータ取得手段と、
前記第1の画像を求められた正射投影パラメータに基づいて正射投影することにより得られた第1の正射投影画像を取得する第1の正射投影画像取得手段と、
前記第1の正射投影画像取得手段で取得した第1の正射投影画像内と前記第2の画像内とで、同じ位置を示す基準点を、前記第1の正射投影画像内の点に対応する前記第2の画像内の点の座標の周辺領域から複数個検出し、検出した複数個の基準点の前記第1の正射投影画像内での座標が前記第2の画像内での該基準点の座標と一致するように、前記座標位置の第2の正射投影画像を取得する第2の正射投影画像取得手段と、
を備えることを特徴とする。
【0008】
例えば、前記第2の正射投影画像取得手段は、前記第1の正射投影画像取得手段で取得した第1の正射投影画像の各画素に対応する前記第2の画像の画素を判別し、判別した第2の画像の画素の位置を幾何補正後の画素の位置とする。
【0009】
上記目的を達成するため、本発明の第2の観点に係る画像補正方法は、
注目地域を上方から撮影して得られる第1の画像を記憶する画像記憶ステップと、
複数の地域を上方から撮影して得られた画像を正射投影画像に幾何補正し且つ2次元座標が付与された幾何補正済画像を記憶する幾何補正済画像記憶ステップと、
複数地域について、各地点の標高を表す標高データを記憶する標高データ記憶ステップと、
前記幾何補正済画像記憶ステップで記憶した幾何補正済画像から、前記注目地域を撮影した第2の画像を取得する幾何補正用画像取得ステップと、
前記標高データ記憶ステップで記憶した標高データから、前記注目地域の標高データを取得する幾何補正用標高データ取得ステップと、
前記第1の画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した基準点の前記第2の画像内での座標と該基準点の標高データとから、該基準点の3次元座標を取得し、取得した3次元座標を該基準点の第1の画像内での2次元座標に正射投影するための正射投影パラメータを求める正射投影パラメータ取得ステップと、
前記第1の画像を求められた正射投影パラメータに基づいて正射投影することにより得られた第1の正射投影画像を取得する第1の正射投影画像取得ステップと、
前記第1の正射投影画像取得ステップで取得した第1の正射投影画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した複数個の基準点の前記第1の正射投影画像内での座標が前記第2の画像内での該基準点の座標と一致するように、前記座標位置の第2の正射投影画像を取得する第2の正射投影画像取得ステップと、
を備えることを特徴とする。
【0010】
上記目的を達成するため、本発明の第3の観点に係るプログラムは、
コンピュータを、
注目地域を上方から撮影して得られる第1の画像を記憶する画像記憶手段、
複数の地域を上方から撮影して得られた画像を正射投影画像に幾何補正し且つ2次元座標が付与された幾何補正済画像を記憶する幾何補正済画像記憶手段、
複数地域について、各地点の標高を表す標高データを記憶する標高データ記憶手段、
前記幾何補正済画像記憶手段に記憶されている幾何補正済画像から、前記注目地域を撮影した第2の画像を取得する幾何補正用画像取得手段、
前記標高データ記憶手段に記憶されている標高データから、前記注目地域の標高データを取得する幾何補正用標高データ取得手段、
前記第1の画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した基準点の前記第2の画像内での座標と該基準点の標高データとから、該基準点の3次元座標を取得し、取得した3次元座標を該基準点の第1の画像内での2次元座標に正射投影するための正射投影パラメータを求める正射投影パラメータ取得手段、
前記第1の画像を求められた正射投影パラメータに基づいて正射投影することにより得られた第1の正射投影画像を取得する第1の正射投影画像取得手段、
前記第1の正射投影画像取得手段で取得した第1の正射投影画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した複数個の基準点の前記第1の正射投影画像内での座標が前記第2の画像内での該基準点の座標と一致するように、前記座標位置の第2の正射投影画像を取得する第2の正射投影画像取得手段、
として機能させる。
【発明の効果】
【0011】
この発明によれば、幾何学的な歪みを含んだ空中写真を、効率良く、且つ精度良く幾何補正することが可能となる。
【発明を実施するための最良の形態】
【0012】
以下、この発明の一実施の形態に係る画像補正装置100を説明する。
画像補正装置100は、図1に示すように、制御部110、RAM111、ROM112、記憶部113、出力部114、I/F115、入力部116、及び、システムバス118を含む。
【0013】
制御部110は、CPU(Central Processing Unit)等から構成され、ROM112や記憶部113に格納されたプログラムに基づいて所定の処理を実行し、画像補正装置100の全体の制御を行う。例えば、制御部110は、人工衛星から地表を撮影した、幾何学的な歪みが補正済の画像(参照用オルソ補正済衛生写真)と、幾何補正対象となる空中写真とで、同じ位置を示す地点(GCP(Ground Control Point))を取得する。そして、制御部110は、GCPと、地面高さデータ(以下、「DEM(Digital Elevation Model)データ」と呼ぶ)と、3次元座標を平面上に投影するための変換式とから、空中写真の幾何学的な歪みを幾何補正するオルソ補正処理を行う。また、制御部110は、オルソ補正処理で幾何補正された空中写真を、参照用オルソ補正済衛星写真に対応するように幾何補正するイメージマッチング処理を行う。
尚、制御部110が実行する処理の詳細については、後述する。
【0014】
RAM(Random Access Memory)111は、制御部110が所定の処理を実行するために読み出したプログラムや、制御部110が当該プログラムを実行するために必要なデータを格納するワークメモリとして機能する揮発性メモリである。
【0015】
ROM(Read Only Memory)112は、制御部110が所定の処理を実行するためのプログラム等を予め格納する不揮発性メモリである。制御部110は、ROM112から必要に応じてプログラム等を読み出して、RAM111に展開し、当該プログラム等に基づいて所定の処理を実行する。
【0016】
記憶部113は、ハードディスクドライブ等の記憶装置から構成され、種々の情報を記憶する。例えば、記憶部113は、幾何補正の対象となる空中写真および、該空中写真を幾何補正するために用いられる幾何補正済衛星画像及びDEMデータ等を記憶する。また、記憶部113は、図7に示すような、幾何補正の対象となる空中写真の属性情報(撮影位置(緯度・経度)、撮影日付、写真範囲、解像度(1画素あたりの縦横サイズ)等)を空中写真の識別情報(ID)毎に記録する標定データ記録ファイルを記憶する。
【0017】
出力部114は、表示装置等の出力装置から構成され、制御部110からの指示により、制御部110が幾何補正処理を実行した結果として得られる幾何学的な歪みが補正された空中写真を出力する。
【0018】
I/F(インタフェース)115は、CD(Compact Disc)等のリムーバルディスクに対して読み書きするためのCD−ROMドライブ等のドライブ装置121、スキャナ等の読取装置122、外部のネットワーク131(例えば、インターネット、LAN(Local Area Network)等)に繋ぐNIC(Network Interface Card)123などと接続するインタフェースである。
【0019】
入力部116は、キーボード、マウス等の入力装置から構成され、これら入力装置を用いてユーザによって入力されるデータを受け付けて、入力されたデータを制御部110に入力する。
【0020】
システムバス118は、制御部110、RAM111、ROM112、記憶部113、出力部114、I/F115、及び、入力部116の間で命令やデータを転送するための伝送経路である。
【0021】
なお、画像補正装置100は、一般的に普及しているコンピュータ等を用いて構成することができる。
【0022】
次に、本実施の形態に係る画像補正装置100の制御部110が実行する処理について、説明する。
【0023】
まず、前提として、高度400km以上の高度から直下を撮影した衛星写真を受信又は配布機関から入手する。入手した衛星写真に対し、自動若しくは半自動で、既存の地図・標高データ等を用いてオルソ補正を行い、参照用オルソ補正済衛星写真を得る。これを画像補正装置100の記憶部113に格納する。
【0024】
さらに、各参照用オルソ補正済衛星写真に、図2に示すように、識別情報(ID)、撮影位置(緯度と経度)、撮影日、焦点距離、撮影季節、撮影範囲(縦サイズ・横サイズ)、解像度(××m/画素)、品質、等を示す属性情報を付加する。さらに、各参照用オルソ補正済衛星写真を構成する各画素には、地理座標(経度、緯度)を付加する。
【0025】
また、記憶部113に、複数地点の緯度・経度と標高とを対応付ける図3に示すようなDEMデータを記憶する。
【0026】
次に、幾何補正したい(幾何補正対象)空中写真を幾何補正する手順を、図4を参照して説明する。
【0027】
まず、ユーザは得られた一群の空中写真を記憶部113に登録する(ステップS101)。
さらに、一群の空中写真について、標定情報(一種の属性情報(写真の撮影位置(緯度・経度)、撮影日、写真のサイズ、解像度等)を記憶部113に登録する。なお、該処理の詳細については後述する。
【0028】
続いて、制御部110は、各幾何補正対象空中写真について、その空中写真を幾何補正するために使用する参照用オルソ化済衛星写真およびDEMデータを抽出し、参照データとする(ステップS102)。なお、該処理の詳細については後述する。
【0029】
次に、制御部110は、ステップS102で抽出した参照データ(参照用オルソ補正済衛星写真とDEMデータ)を用いて幾何補正対象空中写真に第1の幾何補正(オルソ補正)を実施する(ステップS103)。なお、該幾何補正処理の詳細については後述する。
【0030】
次に、制御部110は、ステップS103で幾何補正した空中写真の各画素の位置を、ステップS102で抽出した参照用オルソ補正済衛星写真の対応する画素の位置に合わせる第2の幾何補正(画像合わせ処理(イメージマッチング))を実施する(ステップS104)。なお、該処理の詳細については後述する。
【0031】
次に制御部110は、ステップS104で幾何補正した空中写真と、対応する参照用オルソ補正済衛星写真との間で、相関を調べ、空中写真の相関が比較的低い部分を、ステップS103で幾何補正した空中写真の対応する部分に置換する幾何補正(幾何補正結果のマージ処理)を行って、最終的な正射画像を得る(ステップS105)。なお、該処理の詳細については後述する。
【0032】
次に、図4のフローチャートに示した空中写真幾何補正処理を、図5〜図15を参照してより詳細に説明する。
【0033】
(1) 図4ステップS101の空中写真登録処理:
まず、幾何補正対象空中写真を記憶部113に登録する(図5のステップS201)。
空中写真が出力された画像型式の場合には、スキャナ122によりこの画像を読み取って順次記憶部113に格納する。
空中写真が記録媒体に記憶されたデータで提供される場合には、ドライブ装置121で記録媒体に記録されたデータを読み取って記憶部113に転送する。また、画像データがネットワーク131を介して接続された他のデータベースに格納されている場合には、NIC123とネットワーク131を介して画像データを読み込み、記憶部113に格納する。
【0034】
次に、スキャナ122で空中写真標定図を電子データとして取り込み、記憶部113に格納する(ステップS202)。
空中写真標定図は、図6に例示するように、地図上に、空中写真を取得した飛行経路(C1〜C4)と、各経路上の撮影点とその順番をプロットした図である。図6に示す空中写真標定図では、地図上に、空中写真を取得した飛行経路(C1〜C4)と、各経路上の撮影点(黒丸●)とその順番(1,2,3,...)がプロットされている。
【0035】
なお、空中写真標定図が電子データとして配布されている場合は、ドライブ装置121により記憶媒体からこれを読み取ったり、NIC123とネットワーク131を介してダウンロードする等して取得してもよい。
【0036】
次に、ステップS202で取り込んだ空中写真標定図において、緯度と経度が既知である点(画素)を複数箇所検出し、各検出点の地理座標(緯度,経度)を指定する。制御部110は、指定された緯度と経度とを検出点(画素)に対応付けて記憶部113に格納する(ステップS203)。
【0037】
例えば、利用者は、入力部116を操作して制御部110に指示を与え、出力部114に空中写真標定図を表示させる。利用者は、表示画面上で、例えば、緯度・経度が既知のランドマークを複数個検出し、各ランドマークの画面上の位置とその緯度と経度とを入力する。制御部110は、指示された位置と緯度経度とを対応付けて記憶部113に記憶する。
【0038】
次に、利用者は、入力部116を操作して、表示されている空中写真標定図に記載されている撮影位置(図6では黒丸●)を撮影順に指定する。制御部110は、先に入力されている複数地点の緯度・経度から、指定された撮影点の経度と緯度を求め、ステップS201で登録されている空中写真に対応付けて、標定データ記録ファイルに撮影位置として記録する(ステップS204)。
【0039】
なお、撮影位置を得る際に、公知の画像処理方法を用いて、自動的に撮影位置を取得するようにしてもよい。
例えば、図6の経路C1上で、左側から順に連続線をたどって、黒丸を検出し、この黒丸の位置の緯度と経度とを撮影位置として割り当てるようにしてもよい。さらに、撮影位置を自動的に判別するためには、例えば、ある一定の数値以上連結された画素の領域と、その重心を抽出し、そこからの距離が一定の閾値に当たるか否かを判定して、撮影点であるか否かを判別する等してもよい。
【0040】
次に、標定データ記録ファイルに、図7に示すように、ステップS204で取得した空中写真の撮影位置(緯度・経度)に加えて、撮影日と、写真範囲と、解像度(1画素あたりの縦横サイズ)等を追加登録する(ステップS205)。これらを空中写真標定データと呼ぶ。
以上で空中写真登録処理(S101)は終了する。
【0041】
なお、ステップS202〜S204の処理により、空中写真の撮影位置を空中写真標定図から取得し、ステップS205の処理により空中写真の各種情報を標定データ記録ファイルに登録したが、これらの空中写真に関する情報が、CSV(Comma Separated Values)形式等の電子データとして配布されている場合もある。このような場合には、ドライブ装置121により記憶媒体から読み取ったり、NIC123とネットワーク131を介してダウンロードする等してこの電子データを取得することにより、空中写真標定データ(図7)を得てもよい。このようにすることで、ステップS202〜S205の処理を省略することが可能となる。
【0042】
(2) 図4ステップS102の参照データ抽出処理:
まず、制御部110は、標定データ記録ファイルから、幾何補正処理を行う空中写真の空中写真標定データを取得する(図8のステップS301)。
【0043】
次に、制御部110は、取得した標定データを元に、空中写真を幾何補正するために使用する参照用オルソ補正済衛星写真の必要範囲(=空中写真のカバーエリア)を計算する(ステップS302)。例えば、空中写真の撮影位置の(緯度・経度)が(X0,Y0)であり、画像が縦(緯度方向)横(経度方向)2kmのサイズの画像であれば、(緯度・経度)=(X0,Y0)を中心として、縦横2kmの範囲を含む参照用オルソ補正済衛星写真が必要である(望ましい)。
【0044】
次に、ステップS302で求められた必要範囲に基づいて、図2に示す参照用オルソ補正済衛星写真の属性情報を参照して、記憶部113に記憶されている参照用オルソ化済衛星写真のうちから、今回の幾何補正処理に最も適する参照用オルソ補正済衛星写真を検索して読み出す(ステップS303)。なお、画像サイズが適合しない場合には、参照用オルソ補正済衛星写真のうちから対応する部分を切り出してもよい。また、複数の参照用オルソ補正済衛星写真から切り出した部分を組み合わせて所望の参照用の参照用オルソ補正済衛星写真を生成してもよい。
【0045】
必要範囲に基づくオルソ補正済画像が複数存在する場合には、図7に示す空中写真標定データと図2に示す参照用オルソ補正済衛星写真の属性情報とから、撮影時期、季節、解像度、品質などに基づいて、最適な参照用オルソ補正済衛星写真を選択する。例えば、撮影時期については、幾何補正対象の空中写真の撮影日直前の参照用オルソ補正済衛星写真が最も望ましく、日数が離れるに従って、価値が低下する。
【0046】
また、参照用オルソ化済衛星写真の撮影季節は、幾何補正対象の空中写真とほぼ同一であることが望ましい。
参照用オルソ化済衛星写真の解像度は、求められている解像度にもよるが、一般的には、高い方が望ましい。参照用オルソ化済衛星写真の品質は高い方が望ましい。
【0047】
従って、例えば、該当する参照用オルソ化済衛星写真が複数存在する場合には、以下の数1の式から、評価値Vを求め、評価値の高い参照用オルソ化済衛星写真を選択する。
【数1】
【0048】
なお、上式のW1〜W4は、評価値Vを求めるための各情報(撮影時期の一致度、季節の一致度、解像度、品質)それぞれの重み付けを表す定数である。
【0049】
次に、記憶部113に記憶されている図3に例示する標高データのうちから、ステップS302で求めた幾何補正対象空中写真のカバーエリア内の標高データを抽出する(ステップS304)。
以上で、参照データ抽出処理(S102)は終了する。
【0050】
(3) 図4ステップS103で実行する第1の幾何補正処理:
まず、幾何補正対象空中写真を1枚特定する(図9ステップS401)。
【0051】
次に、特定した幾何補正対象空中写真からn個(nは複数)、例えば、12個の特徴点を抽出する(ステップS402)。
【0052】
次に、ステップS402で抽出したn個の特徴点に対応するn個の点(対応点)を、参照データ抽出処理(ステップS102)で抽出した参照用オルソ補正済衛星写真から抽出する(ステップS403)。
【0053】
対応するn個の点を求める手法は任意であるが、例えば、画像のパターンマッチングを行って一致度の高い点を特定し、この点を対応点として抽出すればよい。具体的手法としては、例えば、両画像を一定のサイズ及び形状で枡状に区切って、その枡内である窓のサイズで画素の相関係数を順次計算し相関係数の高い(相関度の高い)点を対応点とする方法等がある。
【0054】
次に、幾何補正対象空中写真の各特徴点の緯度(y)と経度(x)を、各特徴点に対応する対応点から取得する(ステップS404)。また、その緯度・経度より、標高データを参照して標高(z)を求める。標高データに丁度よいものがない場合には、補間法などを用いて標高を求める。この処理により、n個の特徴点の地理座標(x1,y1,z1)〜(xn,yn,zn)が求まる。
【0055】
同様に、参照用オルソ補正済衛星写真上の各対応点の、写真内での座標(画像座標(u,v))を求める(ステップS405)。この処理により、n個の特徴点にそれぞれ対応する、n個の対応点の画像座標(u1,v1)〜(un〜vn)が求まる。
【0056】
次に、幾何補正対象空中写真からオルソ補正済空中写真を作成し、記憶部113に格納する。オルソ補正とは、幾何学的な歪みを含んだ空中写真の歪みを幾何補正し、正射投影写真とすることである。
【0057】
オルソ補正は、次の手順で行われる。1)幾何学的な歪みを含んだ空中写真の撮影モデルのパラメータを、三次元座標値と幾何学式(例えば、共線条件式)を用いて算出する(ステップS406)。2)計算したパラメータと幾何学式及び標高データを用いて各画素の正射投影座標を計算する(ステップS407)。3)計算した座標に基づいて画像を再構成し、オルソ化済空中写真を出力する(ステップS408)。
【0058】
具体例を用いてオルソ補正について説明すると、図10(a)に示すようなx−y−z(経度−緯度−標高)座標が付与された幾何補正対象空中写真を、図10(b)に示すようなu−v画像座標が付与された参照用オルソ補正済衛星写真に投影するための変換式として数2を想定する。
【数2】
【0059】
数2で、座標(X0,Y0,Z0)は、参照用オルソ化済衛星写真の撮影位置の3次元地理座標である。この投影位置の座標は、図2に示した衛星写真の属性情報(撮影位置)と、撮影位置に対応したDEMデータ(標高)とから得ることができる。また、数2で、「−f」は焦点距離を示すものである。この焦点距離は、図2に示した参照用オルソ化済衛星写真の属性情報(焦点距離)から得ることができる。
また、数2でa11〜a33はパラメータである。
この数2にn個の特徴点の地理座標(x1,y1,z1)〜(xn,yn,zn)を投入して、n個の対応点の画像座標(U1,V1)〜(Un,Vn)を求める。
【0060】
次に、参照用オルソ化済衛星写真上で、ステップS405で求めた各対応点の本来の画像座標(u1,v1)〜(un,vn)と変換式により求めた画像座標(U1,V1)〜(Un,Vn)との差が最も小さくなるように、例えば、最小二乗法などを用いて、変換式のパラメータa11〜a33を求める(ステップS406)。
【0061】
次に、幾何補正対象の空中写真の各画素について、その画素に対応する経度(x)・緯度(y)と、標高(z)とを求め、パラメータa11〜a33が設定された変換式(数2)に投入し、変換後の画像座標(U,V)を求める。続いて、幾何補正対象画像において、求めた変換後の座標位置の画素の階調を、変換前の画素の階調に設定する(ステップS407)。
【0062】
変換後の各画素の位置は不均一なので、画像を再構成して、オルソ補正済空中写真を生成する(ステップS408)。
【0063】
制御部110は、全ての幾何補正対象空中写真について、同様の処理を実行し、それぞれ、オルソ化済空中写真を生成する。
以上で、第1の幾何補正処理(ステップS103)は終了する。
【0064】
なお、ここで得られた正射投影座標は、パラメータと標高データの精度に依存するため、厳密な正射投影座標ではない。
また、地理座標を画像座標に変換するために共線条件式を用いたが、他の変換式を用いてもよく、これに限るものではない。
【0065】
(4) 図4ステップS104で実行する第2の幾何補正処理:
次に、ステップS104で実行される第2の幾何補正について、図11を参照して説明する。
まず、ステップS103で生成された各オルソ補正済空中写真を記憶部113の別の領域に複製し、複製した各オルソ補正済空中写真と、対応する参照用オルソ補正済衛星写真とを読み出す(ステップS501)。
【0066】
次に、画像全体で対応点を取得する(ステップS502)。
オルソ補正済空中写真は、ステップS103の処理で、大まかに正投影座標が付与されているため、狭い範囲の対応点検索により、対応点を精度良く取得できる。即ち、オルソ補正済空中写真の各座標(U、V)について、参照用オルソ補正済衛星写真のほぼ対応する位置の座標(u,v)とその周辺の画像とをパターンマッチングする。そして、一致度の高い画素の座標(u,v)を幾何補正後の座標とし、その階調をオルソ補正済空中写真の座標(U、V)の位置の階調とする。
【0067】
制御部110は、オルソ化済空中写真の各画素について、上述のパターンマッチング処理を実行し、対応する位置を求め、その位置の画素の階調を、元の画像の対応する画素の階調とする。
【0068】
そして、制御部110は、得られた座標と階調とから、各画素位置の階調を求めることにより、正射投影された画像を再構成する(ステップS503)。
【0069】
なお、オルソ補正済空中写真中の全画素についてパターンマッチング処理を行って対応点を求める代わりに、全画素数より少ない個数の画素についてのみパターンマッチング処理を行って対応点を求め、他の画素については、補間法で処理するようにしてもよい。これにより、処理の高速化が可能である。
【0070】
また、制御部110は、オルソ補正済空中写真(第1幾何補正処理済画像)の各画素と、イメージマッチング処理後の空中写真(第2幾何補正処理済画像)の各画素とで、補正前の空中写真内の同じ位置に対応する画素の座標を、図12に示すように対応付けて、記憶部113に記憶する(ステップS504)。
以上で第2の幾何補正処理(ステップS104)は終了する。
【0071】
(5) 図4ステップS105で実行する幾何補正結果のマージ処理:
次に、図4のステップS105で実行される幾何補正結果のマージ処理について、図13を参照して説明する。
【0072】
まず、制御部110は、第1の幾何補正処理(図4、ステップS103)によって作成された画像(第1幾何補正処理済画像)と、第2の幾何補正処理(図4、ステップS104)によって作成された画像(第2幾何補正処理済画像)と、参照用オルソ補正済衛星写真と、を記憶部113から取得する(ステップS601)。
【0073】
次に、制御部110は、対応する第1幾何補正処理済画像と第2幾何補正処理済画像と参照用オルソ補正済衛星写真とを、これらの画像で全て同一のサイズ及び形状でメッシュに区切る(ステップS602)。
なお、メッシュは1又は複数の画素から構成されるものとする。
【0074】
次に、制御部110は、第2幾何補正処理済画像と参照用オルソ補正済衛星写真とで対応するメッシュの画像間の相関値を求める(ステップS603)。
【0075】
そして、制御部110は、求めた相関値が、所定の閾値(例えば0.5)より大きいか否かを判別する(ステップS604)。相関値が所定の閾値より大きいと判別すると(ステップS604;Yes)、制御部110は、該メッシュの位置に、第2幾何補正処理済画像の対応するメッシュを割り当てるための情報(割り当てるメッシュの位置と割り当て後のメッシュの階調値)を記憶部113に記憶する(ステップS605)。相関値が所定の閾値より小さいと判別すると(ステップS604;No)、制御部110は、該メッシュの位置に、第1幾何補正処理済画像の対応するメッシュを割り当てるための情報(割り当てるメッシュの位置と割り当て後のメッシュの階調値)を記憶部113に記憶する(ステップS606)。
【0076】
なお、上述の処理では、メッシュの相関値が所定の閾値より大きいか否かにより(ステップS604)、該メッシュに第2幾何補正処理済画像のメッシュを割り当てるのか(ステップS605)、第1幾何補正処理済画像のメッシュを割り当てるのか(ステップS606)を判別したが、相関値以外のデータをこの判別処理に加味してもよい。
例えば、各メッシュに対応する地形の傾斜データ(角度)があらかじめ与えられている場合には、ステップS603で求めた相関値が所定の閾値(例えば0.5)以上、若しくは傾斜データが所定の閾値(例えば20度)以上かどうかを判断し、そのような場合にはそのメッシュに第2幾何補正処理済画像のメッシュを割り当て(ステップS605)、それ以外の場合には、そのメッシュに第1幾何補正処理済画像のメッシュを割り当てる(ステップS606)ようにしてもよい。
【0077】
1つのメッシュでステップS603〜S606の処理が終了すると、制御部110は、未だこの処理を実施していない次のメッシュが有るか否かを判断する(ステップS607)。そして、そのようなメッシュが有ると判断すると(ステップS607;Yes)、メッシュに対して同様の処理(ステップS603〜S605)を繰り返し実施する。
【0078】
全てのメッシュでの処理(ステップS603〜S606)が完了すると(ステップS607;No)、制御部110は、ステップS605およびS606の処理で記憶された情報に基づいて、第1幾何補正処理済画像と第2幾何補正処理済画像とをマージした画像(マージ画像)において、第2幾何補正処理済画像を元とするメッシュが複数個連結されて形成されている領域内に、第1幾何補正処理済画像を元とするメッシュが孤立的に1つ点在している場合、そのメッシュをノイズとして、該ノイズを除去するための情報(ノイズに対応するメッシュ内の画素の位置と、ノイズ除去後のその画素の階調値)を記憶部113に記憶する(ステップS608)。具体的にノイズを除去するためには、ノイズに対応するメッシュ内の画素を「膨張」、「圧縮」する公知の「論理フィルタリング」をベースとした手法を用いればよい。
【0079】
次に、制御部110は、第1幾何補正処理済画像から構成されるメッシュと、第2幾何補正処理済画像から構成されるメッシュとが隣接するエッジ部分に位置するメッシュ内の画素の座標を調整するエッジスムージング処理(ステップS609)を行う。
【0080】
ここで、エッジスムージング処理(ステップS609)の詳細について、図14を参照して説明する。
【0081】
制御部110は、マージ画像上において、第1幾何補正処理済画像を適用するメッシュと、第2幾何補正処理済画像を適用するメッシュとが隣接するエッジ部分に位置するメッシュを検出する(ステップS701)。
エッジ部分に位置するメッシュを具体的に検出するには、例えば以下のような処理を行えばよい。まず、第1幾何補正処理済画像を適用するメッシュ内の画素の階調を0、第2幾何補正処理済画像を適用するメッシュ内の画素の階調を1とした2つの階調のみから構成される2値画像を作成する。そして、作成した2値画像の境界部分を取得し、これをエッジ部分のメッシュとして検出すればよい。なお、境界部分の取得の方法としては、単純に階調が0と1に設定された画素の境界を順に辿ってもよいし、sobelフィルタなどの公知の微分フィルタを用いてもよい。
【0082】
次に、制御部110は、エッジ部分に位置するメッシュに対応する、第1幾何補正処理済画像のメッシュ内の画素の座標と、その画素と補正前の空中写真上で同じ位置を示す第2幾何補正処理済画像の画素の座標との中間の座標を求める(ステップS702)。
既に、図11のステップS504の処理により、第1幾何補正処理済画像の各画素と、第2幾何補正処理済画像の各画素とで、補正前の空中写真内の同じ位置に対応する画素同士は対応付いて記憶部113に記憶されている。そのため、中間の座標を求める方法としては、この既に記憶されている情報を元にして、マージ画像のエッジ部分に位置するメッシュ内の画素に対応する、第1幾何補正処理済画像のメッシュ内の画素の座標と、その画素と補正前の空中写真上で同じ位置を示す第2幾何補正処理済画像の画素の座標とを取得して、取得した2つの座標の中間の座標を取得すればよい。
【0083】
この中間の座標の取得の方法を具体的に説明する。
前提として、第1幾何補正処理済画像の各画素と、第2幾何補正処理済画像の各画素とで、補正前の空中写真内の同じ位置に対応する画素同士が図12に示すように対応付けられて記憶されているものとする。
また、エッジ部分に位置するメッシュに対応する第1幾何補正処理済画像が、図15(A)に示すように、X方向に4個、Y方向に4個の画素から構成されているものとする。
このような場合、このメッシュ内の(X,Y)座標、例えば(1,1)に対応する中間の座標は以下のようにして求めることができる。まず、図12を参照して、第1幾何補正処理済画像の画素の座標(1,1)に対応付いて記憶されている第2幾何補正処理済画像(図15(B))の画素の座標(3,3)を取得する。そして、この2つの座標(1,1)と座標(3,3)との中間の座標(2,2)を求める。すなわち、後述する画像の再構成処理(図13ステップS610)で作成されるマージ画像(図15(C))上の中間の座標は(2,2)と求めることができる。
【0084】
次に、制御部110は、中間の座標に位置する画素の階調を、その中間の座標を求めるための元となった第1幾何補正処理済画像の画素の階調と同一の階調に設定するための情報(階調を設定する画素の位置と設定後の階調値)を記憶部113に記憶する(ステップS703)。なお、上述の画素の階調は、中間座標を求めるための元となった第2幾何補正済画像の画素の階調に設定しても、同じ結果を得ることが可能である。中間座標を求めるための元となった第1幾何補正処理済画像の画素と第2幾何補正処理済画像の画素とは、補正前の空中写真の同一の画素に対応しているため、その階調は等しいためである。
【0085】
そして、制御部110は、エッジ部分に位置するメッシュ内の画素のうち、ステップS702、S703の処理をが未だ実施されていない画素があるか否かを判別し(ステップS704)、処理が未だ実施されていない画素がある場合には(ステップS704;Yes)、その画素に対してステップS702、703の処理を繰り返す。
【0086】
エッジ部分に位置するメッシュ内の全ての画素で、ステップS702,S703の処理が完了すると(ステップS704;No)、エッジスムージング処理を終了する。
以上の処理によって、第1幾何補正処理済画像から構成されたメッシュと、第2幾何補正処理済画像から構成されたメッシュとが隣接するエッジ部分に位置するメッシュ内の画素の座標が、第1幾何補正処理済画像と第2幾何補正処理済画像の対応する画素の座標の中間の画素の座標に設定される。よって、エッジ部分における両画像の境界が平滑化された画像が作成される。
【0087】
なお、上述のエッジスムージング処理では、エッジ部分に位置するメッシュを検出し(ステップS701)、特定したメッシュ内の各画素に対してステップS702〜S704の処理を行って画素の階調を調整するスムージング処理を行ったが、エッジ部分に位置する画素を検出し、検出した画素毎にスムージング処理を行ってもよい。以下この場合のエッジスムージング処理について、図16のフローチャートを参照して説明する。
【0088】
まず、制御部110は、第1幾何補正処理済画像から構成されるメッシュと、第2幾何補正処理済画像から構成されるメッシュとが隣接する境界から、所定画素数(例えば2画素数)分の範囲に位置するエッジ部分の画素を検出する(ステップS801)。
【0089】
次に、制御部110は、ステップS801で検出したエッジ部分の画素を中心とする所定数の画素(例えば5×5画素)からなるウインドウ領域を設定する(ステップS802)。
【0090】
次に、制御部110は、設定したウィンドウ領域の中心に位置する画素の平均座標(X,Y)を以下の式から求める(ステップS803)。
・平均座標のX座標=ウインドウ領域内の全ての画素のx座標の和/ウインドウ領域内の画素数
・平均座標のY座標=ウインドウ領域内の全ての画素のy座標の和/ウインドウ領域内の画素数
ただし、上式の、画素のx、y座標とは、マージ画像上の該画素の元となった方の画像(第1幾何補正処理済画像か第2幾何補正処理済画像)内の座標である。また、上式のウインドウ領域内の画素数とは、例えばウインドウ領域が5×5画素で構成されていれば、その数は25となるものである。
【0091】
そして、制御部110は、平均座標に位置する画素の階調を、該ウインドウ領域の中心に位置する画素の階調と同一の階調に設定するための情報(階調を設定する画素の位置と設定後の階調値)を記憶部113に記憶する(ステップS804)。
【0092】
次に制御部110は、エッジ部分の画素のうち、ステップS802〜S804の処理が未だ実施されていない画素があるか否かを判別し(ステップS805)、処理が未だ実施されていない画素がある場合には(ステップS805;Yes)、その画素に対してステップS802〜S804の処理を繰り返す。
【0093】
エッジ部分の全ての画素で、ステップS802〜S804の処理が完了すると(ステップS805;No)、エッジスムージング処理を終了する。
【0094】
このようにエッジスムージング処理を行った場合には、エッジ部分のメッシュ毎に処理を行うのでなく、エッジ部分の画素を単位に処理を行うため、全体の処理回数が少なくなり、処理がより高速化する。
【0095】
以上で、エッジスムージング処理(ステップS609)は終了する。
【0096】
図13に戻り、次に制御部110は、画像再構成処理を行う(ステップS610)。
具体的には、ステップS605、S606で記憶した情報に基づいて、第2幾何補正処理済画像のうち、参照用オルソ補正済衛星画像と相関の低いメッシュを第1幾何補正処理済画像の対応するメッシュに置換する。
そして、ステップS608で記憶した情報に基づいて、置換後の画像内のノイズを除去する。
そして、図14のステップS703又は図16のステップS804で記憶した情報に基づいて、ノイズ除去後の画像のうち、第1幾何補正処理済画像から構成される部分と、第2幾何補正処理済画像から構成される部分とが隣接するエッジ部分の画像内の画素の階調を、両画像の境界が平滑化するように調整した画像を作成する。
以上で、幾何補正画像結果のマージ処理(ステップS105)は終了する。
【0097】
制御部110は、1つのオルソ化済空中写真について処理が終了すると、次のオルソ化済空中写真について同様の処理を行う。
【0098】
全てのオルソ化済空中写真について処理が終了すると、今回の処理を終了する。
【0099】
以上説明したように、この実施の形態によれば、標高データと参照用オルソ補正済衛星写真から、幾何補正対象の写真の三次元座標を取得してオルソ化を行う第1の幾何補正と、参照用オルソ補正済衛星写真とオルソ化済空中写真とで画像全体の対応点を取得して幾何補正を行う第2の幾何補正とを行う。さらに、第2の幾何補正によって補正された画像のうち、参照用オルソ補正済衛星写真と相関が合わない部分を、第1の幾何補正によって補正されたオルソ化済空中写真の対応する部分に置換する補正を行う。
従って、地形によって局所的に幾何学的な歪みが生じていた領域も正確な座標を付与することが可能となり、高い精度の幾何補正が可能となる。
また、400km以上の高高度から撮影した衛星写真を記録部113(データべース)に登録して参照用オルソ化済衛星写真として用いることにより、高精度且つ短時間で幾何補正処理が可能となった。
【0100】
なお、この発明は上記実施の形態に限定されない。例えば、上記実施の形態においては、第1の幾何補正処理(ステップS103)において、特徴点の地理座標として(経度,緯度,標高)を割り当てたが(図9のステップS404参照)、固有の座標を割り当て、割り当てた座標と経度、緯度、標高とを対応付けるようにしてもよい。
【0101】
なお、画像補正装置100は専用機に限らず、一般のコンピュータに上述の処理を実行させるためのプログラムをインストールすることにより実現可能である。
【図面の簡単な説明】
【0102】
【図1】本発明の実施の形態に係る画像補正装置の構成を示すブロック図である。
【図2】オルソ補正済衛星写真の属性情報の例を示す図である。
【図3】DEMデータの例を示した図である。
【図4】空中写真幾何補正処理を説明するためのフローチャートである。
【図5】空中写真登録処理を説明するためのフローチャートである。
【図6】空中写真標定図の例を示した図である。
【図7】標定データ記録ファイルの例を示した図である。
【図8】参照データ抽出処理を説明するためのフローチャートである。
【図9】第1の幾何補正処理を説明するためのフローチャートである。
【図10】(a)は幾何補正対象空中写真に付与される座標系を示した図である。(b)はオルソ補正済衛星写真に付与される画像座標系を示した図である。
【図11】第2の幾何補正処理を説明するためのフローチャートである。
【図12】空中写真上の同一地点に対応する、第1幾何補正処理済画像の画素と第2幾何補正処理済画像の画素とを対応付けて格納する例を示す図である。
【図13】幾何補正結果のマージ処理を説明するためのフローチャートである。
【図14】エッジスムージング処理を説明するためのフローチャートである。
【図15】エッジスムージング処理で、中間点を求める処理を説明するための図である。
【図16】画素単位に行うエッジスムージング処理を説明するためのフローチャートである。
【符号の説明】
【0103】
100 画像補正装置
110 制御部
111 RAM
112 ROM
113 記憶部
114 出力部
115 I/F
116 入力部
118 システムバス
121 ドライブ装置
122 スキャナ
123 NIC
131 ネットワーク
【技術分野】
【0001】
この発明は、画像補正装置、画像補正方法及びプログラムに関する。
【背景技術】
【0002】
一般に、地図作製等の目的等により、比較的高度の低い位置から地上を撮影する空中写真は、撮影位置の直下の地点から離れる程、また被写体の高度が高い程、幾何学的な歪みが大きくなる。
【0003】
特許文献1には、同一地域を異なる撮影方向から撮影することで1組のペア画像(ステレオペアの画像)を取得し、地上に設置した測量基準点に基づいてペア画像間での視差を計算して、幾何学的な歪みのない画像を得る技術が開示されている。しかし、ステレオペアの画像を撮影すること、及び地上基準点を設置することは、手間がかかる作業であるため、効率の良い手法であるとは言えない。
【0004】
また、既存の地図及び標高データを用いて、空中写真を幾何学的に補正(幾何補正)することで、幾何学的な歪みのない画像を得ることが一般的に行われている。しかし、この手法では、既存の地図及び標高データの精度が低い場合、幾何補正の精度が悪くなるという問題を有する。
【0005】
また、特許文献2及び3には、既存の地図を用いて空中写真を幾何補正する技術が開示されている。しかし、これらの技術でも、既存の地図の精度が低い場合、幾何補正される空中写真の精度は低下してしまうという問題を有する。
【特許文献1】特開2000−348160号公報
【特許文献2】特開平5−165402号公報
【特許文献3】特開平7−281593号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
本発明は、上記実情に鑑みてなされたものであり、幾何学的な歪みを含んだ空中写真を、効率良く、且つ精度良く幾何補正することを特徴とする画像補正装置及び方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本発明の第1の観点に係る画像補整装置は、
注目地域を上方から撮影して得られる第1の画像を記憶する画像記憶手段と、
複数の地域を上方から撮影して得られた画像を正射投影画像に幾何補正し且つ2次元座標が付与された幾何補正済画像を記憶する幾何補正済画像記憶手段と、
複数地域について、各地点の標高を表す標高データを記憶する標高データ記憶手段と、
前記幾何補正済画像記憶手段に記憶されている幾何補正済画像から、前記注目地域を撮影した第2の画像を取得する幾何補正用画像取得手段と、
前記標高データ記憶手段に記憶されている標高データから、前記注目地域の標高データを取得する幾何補正用標高データ取得手段と、
前記第1の画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した基準点の前記第2の画像内での座標と該基準点の標高データとから、該基準点の3次元座標を取得し、取得した3次元座標を該基準点の第1の画像内での2次元座標に正射投影するための正射投影パラメータを求める正射投影パラメータ取得手段と、
前記第1の画像を求められた正射投影パラメータに基づいて正射投影することにより得られた第1の正射投影画像を取得する第1の正射投影画像取得手段と、
前記第1の正射投影画像取得手段で取得した第1の正射投影画像内と前記第2の画像内とで、同じ位置を示す基準点を、前記第1の正射投影画像内の点に対応する前記第2の画像内の点の座標の周辺領域から複数個検出し、検出した複数個の基準点の前記第1の正射投影画像内での座標が前記第2の画像内での該基準点の座標と一致するように、前記座標位置の第2の正射投影画像を取得する第2の正射投影画像取得手段と、
を備えることを特徴とする。
【0008】
例えば、前記第2の正射投影画像取得手段は、前記第1の正射投影画像取得手段で取得した第1の正射投影画像の各画素に対応する前記第2の画像の画素を判別し、判別した第2の画像の画素の位置を幾何補正後の画素の位置とする。
【0009】
上記目的を達成するため、本発明の第2の観点に係る画像補正方法は、
注目地域を上方から撮影して得られる第1の画像を記憶する画像記憶ステップと、
複数の地域を上方から撮影して得られた画像を正射投影画像に幾何補正し且つ2次元座標が付与された幾何補正済画像を記憶する幾何補正済画像記憶ステップと、
複数地域について、各地点の標高を表す標高データを記憶する標高データ記憶ステップと、
前記幾何補正済画像記憶ステップで記憶した幾何補正済画像から、前記注目地域を撮影した第2の画像を取得する幾何補正用画像取得ステップと、
前記標高データ記憶ステップで記憶した標高データから、前記注目地域の標高データを取得する幾何補正用標高データ取得ステップと、
前記第1の画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した基準点の前記第2の画像内での座標と該基準点の標高データとから、該基準点の3次元座標を取得し、取得した3次元座標を該基準点の第1の画像内での2次元座標に正射投影するための正射投影パラメータを求める正射投影パラメータ取得ステップと、
前記第1の画像を求められた正射投影パラメータに基づいて正射投影することにより得られた第1の正射投影画像を取得する第1の正射投影画像取得ステップと、
前記第1の正射投影画像取得ステップで取得した第1の正射投影画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した複数個の基準点の前記第1の正射投影画像内での座標が前記第2の画像内での該基準点の座標と一致するように、前記座標位置の第2の正射投影画像を取得する第2の正射投影画像取得ステップと、
を備えることを特徴とする。
【0010】
上記目的を達成するため、本発明の第3の観点に係るプログラムは、
コンピュータを、
注目地域を上方から撮影して得られる第1の画像を記憶する画像記憶手段、
複数の地域を上方から撮影して得られた画像を正射投影画像に幾何補正し且つ2次元座標が付与された幾何補正済画像を記憶する幾何補正済画像記憶手段、
複数地域について、各地点の標高を表す標高データを記憶する標高データ記憶手段、
前記幾何補正済画像記憶手段に記憶されている幾何補正済画像から、前記注目地域を撮影した第2の画像を取得する幾何補正用画像取得手段、
前記標高データ記憶手段に記憶されている標高データから、前記注目地域の標高データを取得する幾何補正用標高データ取得手段、
前記第1の画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した基準点の前記第2の画像内での座標と該基準点の標高データとから、該基準点の3次元座標を取得し、取得した3次元座標を該基準点の第1の画像内での2次元座標に正射投影するための正射投影パラメータを求める正射投影パラメータ取得手段、
前記第1の画像を求められた正射投影パラメータに基づいて正射投影することにより得られた第1の正射投影画像を取得する第1の正射投影画像取得手段、
前記第1の正射投影画像取得手段で取得した第1の正射投影画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した複数個の基準点の前記第1の正射投影画像内での座標が前記第2の画像内での該基準点の座標と一致するように、前記座標位置の第2の正射投影画像を取得する第2の正射投影画像取得手段、
として機能させる。
【発明の効果】
【0011】
この発明によれば、幾何学的な歪みを含んだ空中写真を、効率良く、且つ精度良く幾何補正することが可能となる。
【発明を実施するための最良の形態】
【0012】
以下、この発明の一実施の形態に係る画像補正装置100を説明する。
画像補正装置100は、図1に示すように、制御部110、RAM111、ROM112、記憶部113、出力部114、I/F115、入力部116、及び、システムバス118を含む。
【0013】
制御部110は、CPU(Central Processing Unit)等から構成され、ROM112や記憶部113に格納されたプログラムに基づいて所定の処理を実行し、画像補正装置100の全体の制御を行う。例えば、制御部110は、人工衛星から地表を撮影した、幾何学的な歪みが補正済の画像(参照用オルソ補正済衛生写真)と、幾何補正対象となる空中写真とで、同じ位置を示す地点(GCP(Ground Control Point))を取得する。そして、制御部110は、GCPと、地面高さデータ(以下、「DEM(Digital Elevation Model)データ」と呼ぶ)と、3次元座標を平面上に投影するための変換式とから、空中写真の幾何学的な歪みを幾何補正するオルソ補正処理を行う。また、制御部110は、オルソ補正処理で幾何補正された空中写真を、参照用オルソ補正済衛星写真に対応するように幾何補正するイメージマッチング処理を行う。
尚、制御部110が実行する処理の詳細については、後述する。
【0014】
RAM(Random Access Memory)111は、制御部110が所定の処理を実行するために読み出したプログラムや、制御部110が当該プログラムを実行するために必要なデータを格納するワークメモリとして機能する揮発性メモリである。
【0015】
ROM(Read Only Memory)112は、制御部110が所定の処理を実行するためのプログラム等を予め格納する不揮発性メモリである。制御部110は、ROM112から必要に応じてプログラム等を読み出して、RAM111に展開し、当該プログラム等に基づいて所定の処理を実行する。
【0016】
記憶部113は、ハードディスクドライブ等の記憶装置から構成され、種々の情報を記憶する。例えば、記憶部113は、幾何補正の対象となる空中写真および、該空中写真を幾何補正するために用いられる幾何補正済衛星画像及びDEMデータ等を記憶する。また、記憶部113は、図7に示すような、幾何補正の対象となる空中写真の属性情報(撮影位置(緯度・経度)、撮影日付、写真範囲、解像度(1画素あたりの縦横サイズ)等)を空中写真の識別情報(ID)毎に記録する標定データ記録ファイルを記憶する。
【0017】
出力部114は、表示装置等の出力装置から構成され、制御部110からの指示により、制御部110が幾何補正処理を実行した結果として得られる幾何学的な歪みが補正された空中写真を出力する。
【0018】
I/F(インタフェース)115は、CD(Compact Disc)等のリムーバルディスクに対して読み書きするためのCD−ROMドライブ等のドライブ装置121、スキャナ等の読取装置122、外部のネットワーク131(例えば、インターネット、LAN(Local Area Network)等)に繋ぐNIC(Network Interface Card)123などと接続するインタフェースである。
【0019】
入力部116は、キーボード、マウス等の入力装置から構成され、これら入力装置を用いてユーザによって入力されるデータを受け付けて、入力されたデータを制御部110に入力する。
【0020】
システムバス118は、制御部110、RAM111、ROM112、記憶部113、出力部114、I/F115、及び、入力部116の間で命令やデータを転送するための伝送経路である。
【0021】
なお、画像補正装置100は、一般的に普及しているコンピュータ等を用いて構成することができる。
【0022】
次に、本実施の形態に係る画像補正装置100の制御部110が実行する処理について、説明する。
【0023】
まず、前提として、高度400km以上の高度から直下を撮影した衛星写真を受信又は配布機関から入手する。入手した衛星写真に対し、自動若しくは半自動で、既存の地図・標高データ等を用いてオルソ補正を行い、参照用オルソ補正済衛星写真を得る。これを画像補正装置100の記憶部113に格納する。
【0024】
さらに、各参照用オルソ補正済衛星写真に、図2に示すように、識別情報(ID)、撮影位置(緯度と経度)、撮影日、焦点距離、撮影季節、撮影範囲(縦サイズ・横サイズ)、解像度(××m/画素)、品質、等を示す属性情報を付加する。さらに、各参照用オルソ補正済衛星写真を構成する各画素には、地理座標(経度、緯度)を付加する。
【0025】
また、記憶部113に、複数地点の緯度・経度と標高とを対応付ける図3に示すようなDEMデータを記憶する。
【0026】
次に、幾何補正したい(幾何補正対象)空中写真を幾何補正する手順を、図4を参照して説明する。
【0027】
まず、ユーザは得られた一群の空中写真を記憶部113に登録する(ステップS101)。
さらに、一群の空中写真について、標定情報(一種の属性情報(写真の撮影位置(緯度・経度)、撮影日、写真のサイズ、解像度等)を記憶部113に登録する。なお、該処理の詳細については後述する。
【0028】
続いて、制御部110は、各幾何補正対象空中写真について、その空中写真を幾何補正するために使用する参照用オルソ化済衛星写真およびDEMデータを抽出し、参照データとする(ステップS102)。なお、該処理の詳細については後述する。
【0029】
次に、制御部110は、ステップS102で抽出した参照データ(参照用オルソ補正済衛星写真とDEMデータ)を用いて幾何補正対象空中写真に第1の幾何補正(オルソ補正)を実施する(ステップS103)。なお、該幾何補正処理の詳細については後述する。
【0030】
次に、制御部110は、ステップS103で幾何補正した空中写真の各画素の位置を、ステップS102で抽出した参照用オルソ補正済衛星写真の対応する画素の位置に合わせる第2の幾何補正(画像合わせ処理(イメージマッチング))を実施する(ステップS104)。なお、該処理の詳細については後述する。
【0031】
次に制御部110は、ステップS104で幾何補正した空中写真と、対応する参照用オルソ補正済衛星写真との間で、相関を調べ、空中写真の相関が比較的低い部分を、ステップS103で幾何補正した空中写真の対応する部分に置換する幾何補正(幾何補正結果のマージ処理)を行って、最終的な正射画像を得る(ステップS105)。なお、該処理の詳細については後述する。
【0032】
次に、図4のフローチャートに示した空中写真幾何補正処理を、図5〜図15を参照してより詳細に説明する。
【0033】
(1) 図4ステップS101の空中写真登録処理:
まず、幾何補正対象空中写真を記憶部113に登録する(図5のステップS201)。
空中写真が出力された画像型式の場合には、スキャナ122によりこの画像を読み取って順次記憶部113に格納する。
空中写真が記録媒体に記憶されたデータで提供される場合には、ドライブ装置121で記録媒体に記録されたデータを読み取って記憶部113に転送する。また、画像データがネットワーク131を介して接続された他のデータベースに格納されている場合には、NIC123とネットワーク131を介して画像データを読み込み、記憶部113に格納する。
【0034】
次に、スキャナ122で空中写真標定図を電子データとして取り込み、記憶部113に格納する(ステップS202)。
空中写真標定図は、図6に例示するように、地図上に、空中写真を取得した飛行経路(C1〜C4)と、各経路上の撮影点とその順番をプロットした図である。図6に示す空中写真標定図では、地図上に、空中写真を取得した飛行経路(C1〜C4)と、各経路上の撮影点(黒丸●)とその順番(1,2,3,...)がプロットされている。
【0035】
なお、空中写真標定図が電子データとして配布されている場合は、ドライブ装置121により記憶媒体からこれを読み取ったり、NIC123とネットワーク131を介してダウンロードする等して取得してもよい。
【0036】
次に、ステップS202で取り込んだ空中写真標定図において、緯度と経度が既知である点(画素)を複数箇所検出し、各検出点の地理座標(緯度,経度)を指定する。制御部110は、指定された緯度と経度とを検出点(画素)に対応付けて記憶部113に格納する(ステップS203)。
【0037】
例えば、利用者は、入力部116を操作して制御部110に指示を与え、出力部114に空中写真標定図を表示させる。利用者は、表示画面上で、例えば、緯度・経度が既知のランドマークを複数個検出し、各ランドマークの画面上の位置とその緯度と経度とを入力する。制御部110は、指示された位置と緯度経度とを対応付けて記憶部113に記憶する。
【0038】
次に、利用者は、入力部116を操作して、表示されている空中写真標定図に記載されている撮影位置(図6では黒丸●)を撮影順に指定する。制御部110は、先に入力されている複数地点の緯度・経度から、指定された撮影点の経度と緯度を求め、ステップS201で登録されている空中写真に対応付けて、標定データ記録ファイルに撮影位置として記録する(ステップS204)。
【0039】
なお、撮影位置を得る際に、公知の画像処理方法を用いて、自動的に撮影位置を取得するようにしてもよい。
例えば、図6の経路C1上で、左側から順に連続線をたどって、黒丸を検出し、この黒丸の位置の緯度と経度とを撮影位置として割り当てるようにしてもよい。さらに、撮影位置を自動的に判別するためには、例えば、ある一定の数値以上連結された画素の領域と、その重心を抽出し、そこからの距離が一定の閾値に当たるか否かを判定して、撮影点であるか否かを判別する等してもよい。
【0040】
次に、標定データ記録ファイルに、図7に示すように、ステップS204で取得した空中写真の撮影位置(緯度・経度)に加えて、撮影日と、写真範囲と、解像度(1画素あたりの縦横サイズ)等を追加登録する(ステップS205)。これらを空中写真標定データと呼ぶ。
以上で空中写真登録処理(S101)は終了する。
【0041】
なお、ステップS202〜S204の処理により、空中写真の撮影位置を空中写真標定図から取得し、ステップS205の処理により空中写真の各種情報を標定データ記録ファイルに登録したが、これらの空中写真に関する情報が、CSV(Comma Separated Values)形式等の電子データとして配布されている場合もある。このような場合には、ドライブ装置121により記憶媒体から読み取ったり、NIC123とネットワーク131を介してダウンロードする等してこの電子データを取得することにより、空中写真標定データ(図7)を得てもよい。このようにすることで、ステップS202〜S205の処理を省略することが可能となる。
【0042】
(2) 図4ステップS102の参照データ抽出処理:
まず、制御部110は、標定データ記録ファイルから、幾何補正処理を行う空中写真の空中写真標定データを取得する(図8のステップS301)。
【0043】
次に、制御部110は、取得した標定データを元に、空中写真を幾何補正するために使用する参照用オルソ補正済衛星写真の必要範囲(=空中写真のカバーエリア)を計算する(ステップS302)。例えば、空中写真の撮影位置の(緯度・経度)が(X0,Y0)であり、画像が縦(緯度方向)横(経度方向)2kmのサイズの画像であれば、(緯度・経度)=(X0,Y0)を中心として、縦横2kmの範囲を含む参照用オルソ補正済衛星写真が必要である(望ましい)。
【0044】
次に、ステップS302で求められた必要範囲に基づいて、図2に示す参照用オルソ補正済衛星写真の属性情報を参照して、記憶部113に記憶されている参照用オルソ化済衛星写真のうちから、今回の幾何補正処理に最も適する参照用オルソ補正済衛星写真を検索して読み出す(ステップS303)。なお、画像サイズが適合しない場合には、参照用オルソ補正済衛星写真のうちから対応する部分を切り出してもよい。また、複数の参照用オルソ補正済衛星写真から切り出した部分を組み合わせて所望の参照用の参照用オルソ補正済衛星写真を生成してもよい。
【0045】
必要範囲に基づくオルソ補正済画像が複数存在する場合には、図7に示す空中写真標定データと図2に示す参照用オルソ補正済衛星写真の属性情報とから、撮影時期、季節、解像度、品質などに基づいて、最適な参照用オルソ補正済衛星写真を選択する。例えば、撮影時期については、幾何補正対象の空中写真の撮影日直前の参照用オルソ補正済衛星写真が最も望ましく、日数が離れるに従って、価値が低下する。
【0046】
また、参照用オルソ化済衛星写真の撮影季節は、幾何補正対象の空中写真とほぼ同一であることが望ましい。
参照用オルソ化済衛星写真の解像度は、求められている解像度にもよるが、一般的には、高い方が望ましい。参照用オルソ化済衛星写真の品質は高い方が望ましい。
【0047】
従って、例えば、該当する参照用オルソ化済衛星写真が複数存在する場合には、以下の数1の式から、評価値Vを求め、評価値の高い参照用オルソ化済衛星写真を選択する。
【数1】
【0048】
なお、上式のW1〜W4は、評価値Vを求めるための各情報(撮影時期の一致度、季節の一致度、解像度、品質)それぞれの重み付けを表す定数である。
【0049】
次に、記憶部113に記憶されている図3に例示する標高データのうちから、ステップS302で求めた幾何補正対象空中写真のカバーエリア内の標高データを抽出する(ステップS304)。
以上で、参照データ抽出処理(S102)は終了する。
【0050】
(3) 図4ステップS103で実行する第1の幾何補正処理:
まず、幾何補正対象空中写真を1枚特定する(図9ステップS401)。
【0051】
次に、特定した幾何補正対象空中写真からn個(nは複数)、例えば、12個の特徴点を抽出する(ステップS402)。
【0052】
次に、ステップS402で抽出したn個の特徴点に対応するn個の点(対応点)を、参照データ抽出処理(ステップS102)で抽出した参照用オルソ補正済衛星写真から抽出する(ステップS403)。
【0053】
対応するn個の点を求める手法は任意であるが、例えば、画像のパターンマッチングを行って一致度の高い点を特定し、この点を対応点として抽出すればよい。具体的手法としては、例えば、両画像を一定のサイズ及び形状で枡状に区切って、その枡内である窓のサイズで画素の相関係数を順次計算し相関係数の高い(相関度の高い)点を対応点とする方法等がある。
【0054】
次に、幾何補正対象空中写真の各特徴点の緯度(y)と経度(x)を、各特徴点に対応する対応点から取得する(ステップS404)。また、その緯度・経度より、標高データを参照して標高(z)を求める。標高データに丁度よいものがない場合には、補間法などを用いて標高を求める。この処理により、n個の特徴点の地理座標(x1,y1,z1)〜(xn,yn,zn)が求まる。
【0055】
同様に、参照用オルソ補正済衛星写真上の各対応点の、写真内での座標(画像座標(u,v))を求める(ステップS405)。この処理により、n個の特徴点にそれぞれ対応する、n個の対応点の画像座標(u1,v1)〜(un〜vn)が求まる。
【0056】
次に、幾何補正対象空中写真からオルソ補正済空中写真を作成し、記憶部113に格納する。オルソ補正とは、幾何学的な歪みを含んだ空中写真の歪みを幾何補正し、正射投影写真とすることである。
【0057】
オルソ補正は、次の手順で行われる。1)幾何学的な歪みを含んだ空中写真の撮影モデルのパラメータを、三次元座標値と幾何学式(例えば、共線条件式)を用いて算出する(ステップS406)。2)計算したパラメータと幾何学式及び標高データを用いて各画素の正射投影座標を計算する(ステップS407)。3)計算した座標に基づいて画像を再構成し、オルソ化済空中写真を出力する(ステップS408)。
【0058】
具体例を用いてオルソ補正について説明すると、図10(a)に示すようなx−y−z(経度−緯度−標高)座標が付与された幾何補正対象空中写真を、図10(b)に示すようなu−v画像座標が付与された参照用オルソ補正済衛星写真に投影するための変換式として数2を想定する。
【数2】
【0059】
数2で、座標(X0,Y0,Z0)は、参照用オルソ化済衛星写真の撮影位置の3次元地理座標である。この投影位置の座標は、図2に示した衛星写真の属性情報(撮影位置)と、撮影位置に対応したDEMデータ(標高)とから得ることができる。また、数2で、「−f」は焦点距離を示すものである。この焦点距離は、図2に示した参照用オルソ化済衛星写真の属性情報(焦点距離)から得ることができる。
また、数2でa11〜a33はパラメータである。
この数2にn個の特徴点の地理座標(x1,y1,z1)〜(xn,yn,zn)を投入して、n個の対応点の画像座標(U1,V1)〜(Un,Vn)を求める。
【0060】
次に、参照用オルソ化済衛星写真上で、ステップS405で求めた各対応点の本来の画像座標(u1,v1)〜(un,vn)と変換式により求めた画像座標(U1,V1)〜(Un,Vn)との差が最も小さくなるように、例えば、最小二乗法などを用いて、変換式のパラメータa11〜a33を求める(ステップS406)。
【0061】
次に、幾何補正対象の空中写真の各画素について、その画素に対応する経度(x)・緯度(y)と、標高(z)とを求め、パラメータa11〜a33が設定された変換式(数2)に投入し、変換後の画像座標(U,V)を求める。続いて、幾何補正対象画像において、求めた変換後の座標位置の画素の階調を、変換前の画素の階調に設定する(ステップS407)。
【0062】
変換後の各画素の位置は不均一なので、画像を再構成して、オルソ補正済空中写真を生成する(ステップS408)。
【0063】
制御部110は、全ての幾何補正対象空中写真について、同様の処理を実行し、それぞれ、オルソ化済空中写真を生成する。
以上で、第1の幾何補正処理(ステップS103)は終了する。
【0064】
なお、ここで得られた正射投影座標は、パラメータと標高データの精度に依存するため、厳密な正射投影座標ではない。
また、地理座標を画像座標に変換するために共線条件式を用いたが、他の変換式を用いてもよく、これに限るものではない。
【0065】
(4) 図4ステップS104で実行する第2の幾何補正処理:
次に、ステップS104で実行される第2の幾何補正について、図11を参照して説明する。
まず、ステップS103で生成された各オルソ補正済空中写真を記憶部113の別の領域に複製し、複製した各オルソ補正済空中写真と、対応する参照用オルソ補正済衛星写真とを読み出す(ステップS501)。
【0066】
次に、画像全体で対応点を取得する(ステップS502)。
オルソ補正済空中写真は、ステップS103の処理で、大まかに正投影座標が付与されているため、狭い範囲の対応点検索により、対応点を精度良く取得できる。即ち、オルソ補正済空中写真の各座標(U、V)について、参照用オルソ補正済衛星写真のほぼ対応する位置の座標(u,v)とその周辺の画像とをパターンマッチングする。そして、一致度の高い画素の座標(u,v)を幾何補正後の座標とし、その階調をオルソ補正済空中写真の座標(U、V)の位置の階調とする。
【0067】
制御部110は、オルソ化済空中写真の各画素について、上述のパターンマッチング処理を実行し、対応する位置を求め、その位置の画素の階調を、元の画像の対応する画素の階調とする。
【0068】
そして、制御部110は、得られた座標と階調とから、各画素位置の階調を求めることにより、正射投影された画像を再構成する(ステップS503)。
【0069】
なお、オルソ補正済空中写真中の全画素についてパターンマッチング処理を行って対応点を求める代わりに、全画素数より少ない個数の画素についてのみパターンマッチング処理を行って対応点を求め、他の画素については、補間法で処理するようにしてもよい。これにより、処理の高速化が可能である。
【0070】
また、制御部110は、オルソ補正済空中写真(第1幾何補正処理済画像)の各画素と、イメージマッチング処理後の空中写真(第2幾何補正処理済画像)の各画素とで、補正前の空中写真内の同じ位置に対応する画素の座標を、図12に示すように対応付けて、記憶部113に記憶する(ステップS504)。
以上で第2の幾何補正処理(ステップS104)は終了する。
【0071】
(5) 図4ステップS105で実行する幾何補正結果のマージ処理:
次に、図4のステップS105で実行される幾何補正結果のマージ処理について、図13を参照して説明する。
【0072】
まず、制御部110は、第1の幾何補正処理(図4、ステップS103)によって作成された画像(第1幾何補正処理済画像)と、第2の幾何補正処理(図4、ステップS104)によって作成された画像(第2幾何補正処理済画像)と、参照用オルソ補正済衛星写真と、を記憶部113から取得する(ステップS601)。
【0073】
次に、制御部110は、対応する第1幾何補正処理済画像と第2幾何補正処理済画像と参照用オルソ補正済衛星写真とを、これらの画像で全て同一のサイズ及び形状でメッシュに区切る(ステップS602)。
なお、メッシュは1又は複数の画素から構成されるものとする。
【0074】
次に、制御部110は、第2幾何補正処理済画像と参照用オルソ補正済衛星写真とで対応するメッシュの画像間の相関値を求める(ステップS603)。
【0075】
そして、制御部110は、求めた相関値が、所定の閾値(例えば0.5)より大きいか否かを判別する(ステップS604)。相関値が所定の閾値より大きいと判別すると(ステップS604;Yes)、制御部110は、該メッシュの位置に、第2幾何補正処理済画像の対応するメッシュを割り当てるための情報(割り当てるメッシュの位置と割り当て後のメッシュの階調値)を記憶部113に記憶する(ステップS605)。相関値が所定の閾値より小さいと判別すると(ステップS604;No)、制御部110は、該メッシュの位置に、第1幾何補正処理済画像の対応するメッシュを割り当てるための情報(割り当てるメッシュの位置と割り当て後のメッシュの階調値)を記憶部113に記憶する(ステップS606)。
【0076】
なお、上述の処理では、メッシュの相関値が所定の閾値より大きいか否かにより(ステップS604)、該メッシュに第2幾何補正処理済画像のメッシュを割り当てるのか(ステップS605)、第1幾何補正処理済画像のメッシュを割り当てるのか(ステップS606)を判別したが、相関値以外のデータをこの判別処理に加味してもよい。
例えば、各メッシュに対応する地形の傾斜データ(角度)があらかじめ与えられている場合には、ステップS603で求めた相関値が所定の閾値(例えば0.5)以上、若しくは傾斜データが所定の閾値(例えば20度)以上かどうかを判断し、そのような場合にはそのメッシュに第2幾何補正処理済画像のメッシュを割り当て(ステップS605)、それ以外の場合には、そのメッシュに第1幾何補正処理済画像のメッシュを割り当てる(ステップS606)ようにしてもよい。
【0077】
1つのメッシュでステップS603〜S606の処理が終了すると、制御部110は、未だこの処理を実施していない次のメッシュが有るか否かを判断する(ステップS607)。そして、そのようなメッシュが有ると判断すると(ステップS607;Yes)、メッシュに対して同様の処理(ステップS603〜S605)を繰り返し実施する。
【0078】
全てのメッシュでの処理(ステップS603〜S606)が完了すると(ステップS607;No)、制御部110は、ステップS605およびS606の処理で記憶された情報に基づいて、第1幾何補正処理済画像と第2幾何補正処理済画像とをマージした画像(マージ画像)において、第2幾何補正処理済画像を元とするメッシュが複数個連結されて形成されている領域内に、第1幾何補正処理済画像を元とするメッシュが孤立的に1つ点在している場合、そのメッシュをノイズとして、該ノイズを除去するための情報(ノイズに対応するメッシュ内の画素の位置と、ノイズ除去後のその画素の階調値)を記憶部113に記憶する(ステップS608)。具体的にノイズを除去するためには、ノイズに対応するメッシュ内の画素を「膨張」、「圧縮」する公知の「論理フィルタリング」をベースとした手法を用いればよい。
【0079】
次に、制御部110は、第1幾何補正処理済画像から構成されるメッシュと、第2幾何補正処理済画像から構成されるメッシュとが隣接するエッジ部分に位置するメッシュ内の画素の座標を調整するエッジスムージング処理(ステップS609)を行う。
【0080】
ここで、エッジスムージング処理(ステップS609)の詳細について、図14を参照して説明する。
【0081】
制御部110は、マージ画像上において、第1幾何補正処理済画像を適用するメッシュと、第2幾何補正処理済画像を適用するメッシュとが隣接するエッジ部分に位置するメッシュを検出する(ステップS701)。
エッジ部分に位置するメッシュを具体的に検出するには、例えば以下のような処理を行えばよい。まず、第1幾何補正処理済画像を適用するメッシュ内の画素の階調を0、第2幾何補正処理済画像を適用するメッシュ内の画素の階調を1とした2つの階調のみから構成される2値画像を作成する。そして、作成した2値画像の境界部分を取得し、これをエッジ部分のメッシュとして検出すればよい。なお、境界部分の取得の方法としては、単純に階調が0と1に設定された画素の境界を順に辿ってもよいし、sobelフィルタなどの公知の微分フィルタを用いてもよい。
【0082】
次に、制御部110は、エッジ部分に位置するメッシュに対応する、第1幾何補正処理済画像のメッシュ内の画素の座標と、その画素と補正前の空中写真上で同じ位置を示す第2幾何補正処理済画像の画素の座標との中間の座標を求める(ステップS702)。
既に、図11のステップS504の処理により、第1幾何補正処理済画像の各画素と、第2幾何補正処理済画像の各画素とで、補正前の空中写真内の同じ位置に対応する画素同士は対応付いて記憶部113に記憶されている。そのため、中間の座標を求める方法としては、この既に記憶されている情報を元にして、マージ画像のエッジ部分に位置するメッシュ内の画素に対応する、第1幾何補正処理済画像のメッシュ内の画素の座標と、その画素と補正前の空中写真上で同じ位置を示す第2幾何補正処理済画像の画素の座標とを取得して、取得した2つの座標の中間の座標を取得すればよい。
【0083】
この中間の座標の取得の方法を具体的に説明する。
前提として、第1幾何補正処理済画像の各画素と、第2幾何補正処理済画像の各画素とで、補正前の空中写真内の同じ位置に対応する画素同士が図12に示すように対応付けられて記憶されているものとする。
また、エッジ部分に位置するメッシュに対応する第1幾何補正処理済画像が、図15(A)に示すように、X方向に4個、Y方向に4個の画素から構成されているものとする。
このような場合、このメッシュ内の(X,Y)座標、例えば(1,1)に対応する中間の座標は以下のようにして求めることができる。まず、図12を参照して、第1幾何補正処理済画像の画素の座標(1,1)に対応付いて記憶されている第2幾何補正処理済画像(図15(B))の画素の座標(3,3)を取得する。そして、この2つの座標(1,1)と座標(3,3)との中間の座標(2,2)を求める。すなわち、後述する画像の再構成処理(図13ステップS610)で作成されるマージ画像(図15(C))上の中間の座標は(2,2)と求めることができる。
【0084】
次に、制御部110は、中間の座標に位置する画素の階調を、その中間の座標を求めるための元となった第1幾何補正処理済画像の画素の階調と同一の階調に設定するための情報(階調を設定する画素の位置と設定後の階調値)を記憶部113に記憶する(ステップS703)。なお、上述の画素の階調は、中間座標を求めるための元となった第2幾何補正済画像の画素の階調に設定しても、同じ結果を得ることが可能である。中間座標を求めるための元となった第1幾何補正処理済画像の画素と第2幾何補正処理済画像の画素とは、補正前の空中写真の同一の画素に対応しているため、その階調は等しいためである。
【0085】
そして、制御部110は、エッジ部分に位置するメッシュ内の画素のうち、ステップS702、S703の処理をが未だ実施されていない画素があるか否かを判別し(ステップS704)、処理が未だ実施されていない画素がある場合には(ステップS704;Yes)、その画素に対してステップS702、703の処理を繰り返す。
【0086】
エッジ部分に位置するメッシュ内の全ての画素で、ステップS702,S703の処理が完了すると(ステップS704;No)、エッジスムージング処理を終了する。
以上の処理によって、第1幾何補正処理済画像から構成されたメッシュと、第2幾何補正処理済画像から構成されたメッシュとが隣接するエッジ部分に位置するメッシュ内の画素の座標が、第1幾何補正処理済画像と第2幾何補正処理済画像の対応する画素の座標の中間の画素の座標に設定される。よって、エッジ部分における両画像の境界が平滑化された画像が作成される。
【0087】
なお、上述のエッジスムージング処理では、エッジ部分に位置するメッシュを検出し(ステップS701)、特定したメッシュ内の各画素に対してステップS702〜S704の処理を行って画素の階調を調整するスムージング処理を行ったが、エッジ部分に位置する画素を検出し、検出した画素毎にスムージング処理を行ってもよい。以下この場合のエッジスムージング処理について、図16のフローチャートを参照して説明する。
【0088】
まず、制御部110は、第1幾何補正処理済画像から構成されるメッシュと、第2幾何補正処理済画像から構成されるメッシュとが隣接する境界から、所定画素数(例えば2画素数)分の範囲に位置するエッジ部分の画素を検出する(ステップS801)。
【0089】
次に、制御部110は、ステップS801で検出したエッジ部分の画素を中心とする所定数の画素(例えば5×5画素)からなるウインドウ領域を設定する(ステップS802)。
【0090】
次に、制御部110は、設定したウィンドウ領域の中心に位置する画素の平均座標(X,Y)を以下の式から求める(ステップS803)。
・平均座標のX座標=ウインドウ領域内の全ての画素のx座標の和/ウインドウ領域内の画素数
・平均座標のY座標=ウインドウ領域内の全ての画素のy座標の和/ウインドウ領域内の画素数
ただし、上式の、画素のx、y座標とは、マージ画像上の該画素の元となった方の画像(第1幾何補正処理済画像か第2幾何補正処理済画像)内の座標である。また、上式のウインドウ領域内の画素数とは、例えばウインドウ領域が5×5画素で構成されていれば、その数は25となるものである。
【0091】
そして、制御部110は、平均座標に位置する画素の階調を、該ウインドウ領域の中心に位置する画素の階調と同一の階調に設定するための情報(階調を設定する画素の位置と設定後の階調値)を記憶部113に記憶する(ステップS804)。
【0092】
次に制御部110は、エッジ部分の画素のうち、ステップS802〜S804の処理が未だ実施されていない画素があるか否かを判別し(ステップS805)、処理が未だ実施されていない画素がある場合には(ステップS805;Yes)、その画素に対してステップS802〜S804の処理を繰り返す。
【0093】
エッジ部分の全ての画素で、ステップS802〜S804の処理が完了すると(ステップS805;No)、エッジスムージング処理を終了する。
【0094】
このようにエッジスムージング処理を行った場合には、エッジ部分のメッシュ毎に処理を行うのでなく、エッジ部分の画素を単位に処理を行うため、全体の処理回数が少なくなり、処理がより高速化する。
【0095】
以上で、エッジスムージング処理(ステップS609)は終了する。
【0096】
図13に戻り、次に制御部110は、画像再構成処理を行う(ステップS610)。
具体的には、ステップS605、S606で記憶した情報に基づいて、第2幾何補正処理済画像のうち、参照用オルソ補正済衛星画像と相関の低いメッシュを第1幾何補正処理済画像の対応するメッシュに置換する。
そして、ステップS608で記憶した情報に基づいて、置換後の画像内のノイズを除去する。
そして、図14のステップS703又は図16のステップS804で記憶した情報に基づいて、ノイズ除去後の画像のうち、第1幾何補正処理済画像から構成される部分と、第2幾何補正処理済画像から構成される部分とが隣接するエッジ部分の画像内の画素の階調を、両画像の境界が平滑化するように調整した画像を作成する。
以上で、幾何補正画像結果のマージ処理(ステップS105)は終了する。
【0097】
制御部110は、1つのオルソ化済空中写真について処理が終了すると、次のオルソ化済空中写真について同様の処理を行う。
【0098】
全てのオルソ化済空中写真について処理が終了すると、今回の処理を終了する。
【0099】
以上説明したように、この実施の形態によれば、標高データと参照用オルソ補正済衛星写真から、幾何補正対象の写真の三次元座標を取得してオルソ化を行う第1の幾何補正と、参照用オルソ補正済衛星写真とオルソ化済空中写真とで画像全体の対応点を取得して幾何補正を行う第2の幾何補正とを行う。さらに、第2の幾何補正によって補正された画像のうち、参照用オルソ補正済衛星写真と相関が合わない部分を、第1の幾何補正によって補正されたオルソ化済空中写真の対応する部分に置換する補正を行う。
従って、地形によって局所的に幾何学的な歪みが生じていた領域も正確な座標を付与することが可能となり、高い精度の幾何補正が可能となる。
また、400km以上の高高度から撮影した衛星写真を記録部113(データべース)に登録して参照用オルソ化済衛星写真として用いることにより、高精度且つ短時間で幾何補正処理が可能となった。
【0100】
なお、この発明は上記実施の形態に限定されない。例えば、上記実施の形態においては、第1の幾何補正処理(ステップS103)において、特徴点の地理座標として(経度,緯度,標高)を割り当てたが(図9のステップS404参照)、固有の座標を割り当て、割り当てた座標と経度、緯度、標高とを対応付けるようにしてもよい。
【0101】
なお、画像補正装置100は専用機に限らず、一般のコンピュータに上述の処理を実行させるためのプログラムをインストールすることにより実現可能である。
【図面の簡単な説明】
【0102】
【図1】本発明の実施の形態に係る画像補正装置の構成を示すブロック図である。
【図2】オルソ補正済衛星写真の属性情報の例を示す図である。
【図3】DEMデータの例を示した図である。
【図4】空中写真幾何補正処理を説明するためのフローチャートである。
【図5】空中写真登録処理を説明するためのフローチャートである。
【図6】空中写真標定図の例を示した図である。
【図7】標定データ記録ファイルの例を示した図である。
【図8】参照データ抽出処理を説明するためのフローチャートである。
【図9】第1の幾何補正処理を説明するためのフローチャートである。
【図10】(a)は幾何補正対象空中写真に付与される座標系を示した図である。(b)はオルソ補正済衛星写真に付与される画像座標系を示した図である。
【図11】第2の幾何補正処理を説明するためのフローチャートである。
【図12】空中写真上の同一地点に対応する、第1幾何補正処理済画像の画素と第2幾何補正処理済画像の画素とを対応付けて格納する例を示す図である。
【図13】幾何補正結果のマージ処理を説明するためのフローチャートである。
【図14】エッジスムージング処理を説明するためのフローチャートである。
【図15】エッジスムージング処理で、中間点を求める処理を説明するための図である。
【図16】画素単位に行うエッジスムージング処理を説明するためのフローチャートである。
【符号の説明】
【0103】
100 画像補正装置
110 制御部
111 RAM
112 ROM
113 記憶部
114 出力部
115 I/F
116 入力部
118 システムバス
121 ドライブ装置
122 スキャナ
123 NIC
131 ネットワーク
【特許請求の範囲】
【請求項1】
注目地域を上方から撮影して得られる第1の画像を記憶する画像記憶手段と、
複数の地域を上方から撮影して得られた画像を正射投影画像に幾何補正し且つ2次元座標が付与された幾何補正済画像を記憶する幾何補正済画像記憶手段と、
複数地域について、各地点の標高を表す標高データを記憶する標高データ記憶手段と、
前記幾何補正済画像記憶手段に記憶されている幾何補正済画像から、前記注目地域を撮影した第2の画像を取得する幾何補正用画像取得手段と、
前記標高データ記憶手段に記憶されている標高データから、前記注目地域の標高データを取得する幾何補正用標高データ取得手段と、
前記第1の画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した基準点の前記第2の画像内での座標と該基準点の標高データとから、該基準点の3次元座標を取得し、取得した3次元座標を該基準点の第1の画像内での2次元座標に正射投影するための正射投影パラメータを求める正射投影パラメータ取得手段と、
前記第1の画像を求められた正射投影パラメータに基づいて正射投影することにより得られた第1の正射投影画像を取得する第1の正射投影画像取得手段と、
前記第1の正射投影画像取得手段で取得した第1の正射投影画像内と前記第2の画像内とで、同じ位置を示す基準点を、前記第1の正射投影画像内の点に対応する前記第2の画像内の点の座標の周辺領域から複数個検出し、検出した複数個の基準点の前記第1の正射投影画像内での座標が前記第2の画像内での該基準点の座標と一致するように、前記座標位置の第2の正射投影画像を取得する第2の正射投影画像取得手段と、
を備えることを特徴とする画像補正装置。
【請求項2】
前記第2の正射投影画像取得手段は、前記第1の正射投影画像取得手段で取得した第1の正射投影画像の各画素に対応する前記第2の画像の画素を判別し、判別した第2の画像の画素の位置を幾何補正後の画素の位置とする、
ことを特徴とする請求項1に記載の画像補正装置。
【請求項3】
注目地域を上方から撮影して得られる第1の画像を記憶する画像記憶ステップと、
複数の地域を上方から撮影して得られた画像を正射投影画像に幾何補正し且つ2次元座標が付与された幾何補正済画像を記憶する幾何補正済画像記憶ステップと、
複数地域について、各地点の標高を表す標高データを記憶する標高データ記憶ステップと、
前記幾何補正済画像記憶ステップで記憶した幾何補正済画像から、前記注目地域を撮影した第2の画像を取得する幾何補正用画像取得ステップと、
前記標高データ記憶ステップで記憶した標高データから、前記注目地域の標高データを取得する幾何補正用標高データ取得ステップと、
前記第1の画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した基準点の前記第2の画像内での座標と該基準点の標高データとから、該基準点の3次元座標を取得し、取得した3次元座標を該基準点の第1の画像内での2次元座標に正射投影するための正射投影パラメータを求める正射投影パラメータ取得ステップと、
前記第1の画像を求められた正射投影パラメータに基づいて正射投影することにより得られた第1の正射投影画像を取得する第1の正射投影画像取得ステップと、
前記第1の正射投影画像取得ステップで取得した第1の正射投影画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した複数個の基準点の前記第1の正射投影画像内での座標が前記第2の画像内での該基準点の座標と一致するように、前記座標位置の第2の正射投影画像を取得する第2の正射投影画像取得ステップと、
を備えることを特徴とする画像補正方法。
【請求項4】
コンピュータを、
注目地域を上方から撮影して得られる第1の画像を記憶する画像記憶手段、
複数の地域を上方から撮影して得られた画像を正射投影画像に幾何補正し且つ2次元座標が付与された幾何補正済画像を記憶する幾何補正済画像記憶手段、
複数地域について、各地点の標高を表す標高データを記憶する標高データ記憶手段、
前記幾何補正済画像記憶手段に記憶されている幾何補正済画像から、前記注目地域を撮影した第2の画像を取得する幾何補正用画像取得手段、
前記標高データ記憶手段に記憶されている標高データから、前記注目地域の標高データを取得する幾何補正用標高データ取得手段、
前記第1の画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した基準点の前記第2の画像内での座標と該基準点の標高データとから、該基準点の3次元座標を取得し、取得した3次元座標を該基準点の第1の画像内での2次元座標に正射投影するための正射投影パラメータを求める正射投影パラメータ取得手段、
前記第1の画像を求められた正射投影パラメータに基づいて正射投影することにより得られた第1の正射投影画像を取得する第1の正射投影画像取得手段、
前記第1の正射投影画像取得手段で取得した第1の正射投影画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した複数個の基準点の前記第1の正射投影画像内での座標が前記第2の画像内での該基準点の座標と一致するように、前記座標位置の第2の正射投影画像を取得する第2の正射投影画像取得手段、
として機能させるコンピュータプログラム。
【請求項1】
注目地域を上方から撮影して得られる第1の画像を記憶する画像記憶手段と、
複数の地域を上方から撮影して得られた画像を正射投影画像に幾何補正し且つ2次元座標が付与された幾何補正済画像を記憶する幾何補正済画像記憶手段と、
複数地域について、各地点の標高を表す標高データを記憶する標高データ記憶手段と、
前記幾何補正済画像記憶手段に記憶されている幾何補正済画像から、前記注目地域を撮影した第2の画像を取得する幾何補正用画像取得手段と、
前記標高データ記憶手段に記憶されている標高データから、前記注目地域の標高データを取得する幾何補正用標高データ取得手段と、
前記第1の画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した基準点の前記第2の画像内での座標と該基準点の標高データとから、該基準点の3次元座標を取得し、取得した3次元座標を該基準点の第1の画像内での2次元座標に正射投影するための正射投影パラメータを求める正射投影パラメータ取得手段と、
前記第1の画像を求められた正射投影パラメータに基づいて正射投影することにより得られた第1の正射投影画像を取得する第1の正射投影画像取得手段と、
前記第1の正射投影画像取得手段で取得した第1の正射投影画像内と前記第2の画像内とで、同じ位置を示す基準点を、前記第1の正射投影画像内の点に対応する前記第2の画像内の点の座標の周辺領域から複数個検出し、検出した複数個の基準点の前記第1の正射投影画像内での座標が前記第2の画像内での該基準点の座標と一致するように、前記座標位置の第2の正射投影画像を取得する第2の正射投影画像取得手段と、
を備えることを特徴とする画像補正装置。
【請求項2】
前記第2の正射投影画像取得手段は、前記第1の正射投影画像取得手段で取得した第1の正射投影画像の各画素に対応する前記第2の画像の画素を判別し、判別した第2の画像の画素の位置を幾何補正後の画素の位置とする、
ことを特徴とする請求項1に記載の画像補正装置。
【請求項3】
注目地域を上方から撮影して得られる第1の画像を記憶する画像記憶ステップと、
複数の地域を上方から撮影して得られた画像を正射投影画像に幾何補正し且つ2次元座標が付与された幾何補正済画像を記憶する幾何補正済画像記憶ステップと、
複数地域について、各地点の標高を表す標高データを記憶する標高データ記憶ステップと、
前記幾何補正済画像記憶ステップで記憶した幾何補正済画像から、前記注目地域を撮影した第2の画像を取得する幾何補正用画像取得ステップと、
前記標高データ記憶ステップで記憶した標高データから、前記注目地域の標高データを取得する幾何補正用標高データ取得ステップと、
前記第1の画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した基準点の前記第2の画像内での座標と該基準点の標高データとから、該基準点の3次元座標を取得し、取得した3次元座標を該基準点の第1の画像内での2次元座標に正射投影するための正射投影パラメータを求める正射投影パラメータ取得ステップと、
前記第1の画像を求められた正射投影パラメータに基づいて正射投影することにより得られた第1の正射投影画像を取得する第1の正射投影画像取得ステップと、
前記第1の正射投影画像取得ステップで取得した第1の正射投影画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した複数個の基準点の前記第1の正射投影画像内での座標が前記第2の画像内での該基準点の座標と一致するように、前記座標位置の第2の正射投影画像を取得する第2の正射投影画像取得ステップと、
を備えることを特徴とする画像補正方法。
【請求項4】
コンピュータを、
注目地域を上方から撮影して得られる第1の画像を記憶する画像記憶手段、
複数の地域を上方から撮影して得られた画像を正射投影画像に幾何補正し且つ2次元座標が付与された幾何補正済画像を記憶する幾何補正済画像記憶手段、
複数地域について、各地点の標高を表す標高データを記憶する標高データ記憶手段、
前記幾何補正済画像記憶手段に記憶されている幾何補正済画像から、前記注目地域を撮影した第2の画像を取得する幾何補正用画像取得手段、
前記標高データ記憶手段に記憶されている標高データから、前記注目地域の標高データを取得する幾何補正用標高データ取得手段、
前記第1の画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した基準点の前記第2の画像内での座標と該基準点の標高データとから、該基準点の3次元座標を取得し、取得した3次元座標を該基準点の第1の画像内での2次元座標に正射投影するための正射投影パラメータを求める正射投影パラメータ取得手段、
前記第1の画像を求められた正射投影パラメータに基づいて正射投影することにより得られた第1の正射投影画像を取得する第1の正射投影画像取得手段、
前記第1の正射投影画像取得手段で取得した第1の正射投影画像内と前記第2の画像内とで、同じ位置を示す基準点を複数個検出し、検出した複数個の基準点の前記第1の正射投影画像内での座標が前記第2の画像内での該基準点の座標と一致するように、前記座標位置の第2の正射投影画像を取得する第2の正射投影画像取得手段、
として機能させるコンピュータプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図6】
【図2】
【図3】
【図4】
【図5】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図6】
【公開番号】特開2008−90808(P2008−90808A)
【公開日】平成20年4月17日(2008.4.17)
【国際特許分類】
【出願番号】特願2006−351771(P2006−351771)
【出願日】平成18年12月27日(2006.12.27)
【分割の表示】特願2006−271322(P2006−271322)の分割
【原出願日】平成18年10月2日(2006.10.2)
【出願人】(000102728)株式会社エヌ・ティ・ティ・データ (438)
【Fターム(参考)】
【公開日】平成20年4月17日(2008.4.17)
【国際特許分類】
【出願日】平成18年12月27日(2006.12.27)
【分割の表示】特願2006−271322(P2006−271322)の分割
【原出願日】平成18年10月2日(2006.10.2)
【出願人】(000102728)株式会社エヌ・ティ・ティ・データ (438)
【Fターム(参考)】
[ Back to top ]