説明

映像の幾何補正方法およびその装置

本発明は、センサのLOSベクトルを調整して誤差補正データを獲得し、前記誤差補正データと映像の補助データを用いて映像の各映像座標に正確な地上座標を付与する方法およびその装置に関するものである。本発明のLOSベクトル調整モデルを用いる映像の幾何補正方法では,
地表面を撮影して獲得される映像および 映像の補助データが取得される。地上基準点の地上座標およびその地上座標とマッチする映像の映像座標が取得される。撮影機構センサのLOSベクトを調整して誤差補正データを取得する。補助データと前記誤差補正データをLOSベクトル調整モデルに適用して映像の各映像座標に地上座標を付与することで外部標定を実行する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、地表面の特性を探査するために撮影した映像に対する歪みを補正する方法およびその装置に関し、より詳しくは、センサのLOSベクトルを調整して誤差補正データを獲得し、該誤差補正データと映像の補助データを用いて映像の各映像座標に正確な地上座標を付与する方法およびその装置に関するものである。
【背景技術】
【0002】
現在、地表面が撮影された映像は主に地表面から一定の高さを有する飛行機と衛星に搭載されたカメラとセンサによって得られる。飛行機は数百mから数Kmで相対的に低い高度を有するが、人工衛星に比べて速度と姿勢が比較的不安定である。反面、人工衛星は、大気圏外で動く撮影機構で数百Kmの非常に高い高度を有するが、速度と姿勢が比較的安定的であり、よく定義された軌道楕円体について動く。また、飛行機によって得られた航空写真は、非常に高解像度の映像で小〜中縮尺の地形図、映像地図、数値標高データ等を製作するのに主に利用しており、衛星によって撮影された映像は最近になってからは高解像で得られるが、概して低い解像度で中〜大縮尺の地形図、映像地図、数値標高データ等の地図製作関連に用いられている。このような衛星には、Satellites Pour l’Observation de la Terre (SPOT)、Indian Remote Sensing Satellite (IRS)、Advanced Land Observing Satellite (ALOS)、Land Remote−sensing Satellite (LANDSAT)、and commercial earth observation satellites (IKONOS and QUICKBIRD)等があり、地表面の観測に関連する変化探知、山火事災害モニター等の数多くの応用分野で利用されている。
【0003】
飛行機や衛星のような撮影機構を用いて撮影された地表面映像は、直ちに軍事用や産業に活用されるのではない。その理由は、撮影方法上、該地表面映像が歪んでいるためである。
【0004】
したがって、該歪みを補正し、補正された映像をもとに正確な正射映像、数値地形図または3次元映像等を製作して、軍事用、産業用に活用することになる。
【0005】
ここで、映像の歪みを補正するとは、映像の各座標に正確な実際の地上の地上座標を付与することを意味する。
【0006】
映像の歪みを補正(すなわち、幾何補正)する一般的な方法は、センサモデルを用いることである。前記センサモデルは、図1のように地球の中心を基準に撮影機構の位置

と地上点の位置

との関係から導いた数式であって、映像の座標(i、j)と地上の座標P、P、Pに対する関数である。
【0007】
センサモデルを用いて地上座標を付与するためには、映像座標だけでなく撮影機構の位置、速度、姿勢、撮影角等の補助データが必要である。該補助データは、撮影機構が映像と共に提供する。
【0008】
ところで、問題は、該補助データが正確でないということである。図2で見るように、実際の撮影機構の撮影位置S、撮影角

と補助データによる撮影位置S、撮影角

に誤差がある。そして、図面に図示されてはいないが、撮影機構の実際の姿勢と補助データによる姿勢にも誤差がある。
【0009】
このような誤差によって、図2に図示されたように、撮影機構が実際に撮影した地表面の座標P)とセンサモデルによって求められる地表面の座標Pは互いに異なるようになる。
【0010】
このため、不正確な補助データによって生じる地表面地上座標の誤差を最小化するためにセンサモデルを修正する方案が提案された。
【0011】
従来提示されたセンサモデルの修正方法は、補助データによる撮影機構の位置または姿勢またはこれらすべてを実際に撮影機構に近接するように修正するのである。
【0012】
これに対する代表的なものが韓国特許出願番号第10−2005−51358号“撮影機構回転モデルを用いた線形スキャニング映像の幾何補正方法”である。しかし、現在は、GPS(Global Positioning System)やDORIS(Doppler Orbitography and Radiopositioning Integrated by Satellite)等のようなシステムを用いて比較的正確な撮影機構の撮影位置、撮影速度、撮影姿勢等が分かる。すなわち、このような正確な情報のため、撮影機構の位置または姿勢を調整してセンサモデルを修正すると、むしろ地上座標の誤差をより大きくする可能性がある。このため、この正確な情報を最大限に利用してより容易かつ正確に地表面撮影映像の幾何歪みを補正することが必要となった。
【発明の開示】
【発明が解決しようとする課題】
【0013】
本発明は、上記のような必要から案出されたものであって、撮影機構センサの撮影角(LOSベクトル)を調整して樹立されたLOSベクトル調整モデルを用いてより正確な幾何補正が可能にし、幾何補正のための時間および費用を節約することができる方法と装置を提供することを目的とする。
【課題を解決するための手段】
【0014】
このような目的を達成するための本発明のLOSベクトル調整を通じた映像の幾何補正方法は、(a)地表面を撮影した映像と前記映像に対する補助データを獲得するステップ;(b)地上基準点の地上座標(P,P,P)と前記地上座標にマッチする映像の映像座標(i,j)を獲得するステップ;(c)前記(a)ステップの補助データと前記(b)ステップの地上座標および映像座標を用いて前記映像を撮影した撮影機構センサのLOSベクトルを調整することによって誤差補正データを獲得するステップ;および(d)前記(a)ステップの補助データと前記(c)ステップの誤差補正データをLOSベクトル調整モデルに適用して映像の各座標に地上座標を付与し、映像の歪みを補正する外部標定遂行ステップ;を含む。
【0015】
そして、本発明のLOSベクトル調整を通じた映像の幾何補正装置は、地表面を撮影した映像の補助データから撮影機構の位置、速度、姿勢およびセンサのLOSベクトルを含む補助データを獲得する映像情報獲得部;地上基準点に対する地上座標と前記地上座標にマッチする映像座標を獲得する地上基準点獲得部;映像情報獲得部と地上基準点獲得部からデータを提供され、センサのLOSベクトルを調整することによって誤差補正データを生成する誤差補正データ生成部;および前記映像情報獲得部と誤差補正データ生成部からデータを提供され、前記データをLOSベクトル調整モデルに適用して、それぞれの映像座標に地上座標を付与して映像の歪みを補正する外部標定実行部を含む。
【発明の効果】
【0016】
上述の本発明は、地上座標の抽出のための計算過程をより単純化でき、幾何補正のための費用および時間を節約し、抽出された地上座標の正確度を画期的に高める。そのようにして正射映像、映像地図、数値地形図および数値標高データ製作の作業工程等が単純化され、作業時間の短縮等の効果を有するようになる。
【発明を実施するための最良の形態】
【0017】
図2に図示されたように、本発明は、映像の補助データ中でセンサの撮影角(Line−Of−Sight[LOS]ベクトル)を調整することで、実際に撮影機構が撮影した地表面の位置Pと調整された撮影角

を含む補助データをLOSベクトル調整モデルに適用した場合に求められる地表面位置との誤差が最小化されるようにしたものである。
【0018】
まず、本発明で樹立したLOSベクトル調整モデルについて説明する。
【0019】
地表面を撮影する機構は、図1に表されたように撮影機構の位置Sより方向付けられたLOSベクトル

を有して地表面Pを撮影する。地球の中心から撮影機構の位置をベクトル

で表して地球の中心から地表面の位置をベクトル

で表して数式で表すると次の通りである。
【数1】

ここで、μは、媒介変数を示す。しかし、当該技術分野で周知の

の値と

の値は、地心座標系(Earth−Centered Earth−Fixed Coordinate System;ECEF)または慣性座標系(Earth−Centered Inertia Coordinate System;ECI)で表され、

の値は衛星姿勢座標系(Attitude Coordinate System)で表される。これら3つのベクトルが互いに異なる座標系を有しているため、同一の座標系で合わせなければならず、これらの座標系は局地軌道座標系(Local Orbital Coordinate System)に合わせるために衛星姿勢座標系を局地軌道座標系に変える姿勢座標回転行列Aと局地軌道座標系を地心座標系に変換する位置座標回転行列Mを用いることになる。姿勢座標回転行列A及び位置座標回転行列Mは、下記の数2及び数3の通りである。これらを用いて数1をあらためて表すと下記の数4の通りである。
【数2−1】

【数2−2】

【数3】

ここで、ωはロール角、φはピッチ角、κはヨー角、

は撮影機構の位置ベクトル、

は撮影機構の速度ベクトルで、Ωは昇交点赤経、Iは軌道傾斜角、Wは衛星緯度引数でケプラーの要素である。
【数4】

ここで、P、P、PおよびU、U、Uはそれぞれ



の要素で、ρは地球の中心から撮影機構までの距離で

と同一である。そして、x、y、zは方向成分、zは地球の中心から撮影機構に向かう方向、xは撮影機構の進行方向、yは右手の法則に従ったxおよびzに垂直な方向である。
【0020】
数4の右辺から座標変換行列Aを除去し、M−1=MとA−1=Aである性質を用いると数4は下記のようにあらためて表すことができる。
【数5】

【0021】
前記数5を単純化して表すと下記の通りである。
【数6】

ここでαは回転行列Aの要素、γは行列R=(M・A)の要素であり、



はそれぞれxとy方向での撮影角である。
【0022】
前記数6からμを消去すると、下記のように撮影角によって定義されたセンサモデルの2つの方程式が成立する。
【数7】

【数8】

ここで、

および

は補助データのうちの撮影機構の位置、速度および姿勢によって求めることになるセンサの撮影角である。
【0023】
前記数7、8で表される本発明のセンサモデルは、既存のセンサモデル(共線条件式、韓国特許出願番号第10−2005−51358号のセンサモデル等)とは異なる新しい形式のセンサモデルである。
【0024】
参考までに、前記センサモデルにおいてαとγは、映像の撮影時間tに対する関数で、撮影時間tはライン数iに比例し、



は、画素数jに対する関数である。したがって、前記センサモデルは、映像座標i、jと地上座標P、P、Pの関係を表す。
【0025】
映像に歪みがないのであれば、ある1点に対する正確な地上座標と映像座標を前記数7、8に代入すればF=F=0になるはずである。しかし、歪みによりF、Fは0でない値を有するようになる。該値が映像の歪み量を表す。数7、8の単位は角度(degree)である。したがって、歪み量も角度で表されるが、該角度によっては歪みの程度を把握するのに困難がある。このため、前記数7、8にスケール係数kをかけて(kF、kF)、角度を距離に変える方が良い。前記スケール係数は、衛星の高さhと映像中心撮影角

によって

で定義される。
【0026】
前述した通り、映像の補助データは不正確であるため前記センサモデルを用いて各映像座標i、jに地上座標P、P、Pを付与するようになると、相当な誤差がある。したがって、該誤差を相殺するための要素が前記センサモデルに追加されなければならない。
【0027】
このように誤差を相殺するための要素が追加されたLOSベクトル調整モデルは下記の2つの数式の通りである。
【数9】

【数10】

ここで、EおよびEは誤差補正データであって、それぞれ補助データの撮影機構センサの撮影角が有するxとy方向での誤差を相殺させる値である。
【0028】
前記誤差補正データは、映像のライン数iとライン当たり画素数jによって決定され、これらは下記のように表される。
【数11】

【数12】

ここで、ax0、bxm、cxm、ay0、bym、cymは地上基準点によって補正されるLOSベクトルの係数である。
【0029】
以下では本発明のLOSベクトル調整を通じた映像の幾何補正方法を、手続きフローチャート図を図示した図3を参照して説明する。
【0030】
まず、(a)ステップで、地表面を撮影した映像と該映像に対する補助データを取得する。
【0031】
前記映像と補助データは、飛行機や人工衛星等の撮影機構を介して得る。ここで、補助データは、映像を撮影した撮影機構の位置情報、撮影機構の速度情報、映像の中心ライン撮影時間、映像のライン当たり撮影時間、撮影機構の姿勢情報(ヨー、ピッチおよびロール)およびX、Y方向での撮影角、レンズの歪みに対する情報を含む。
【0032】
(a)ステップを遂行した後は、(b)ステップで、地上基準点を選定して該地上基準点の地上座標P、P、Pと該地上座標にマッチする映像の映像座標i、jを取得する。
【0033】
地上基準点の選定は、映像で容易に確認可能なように橋梁、建物等を選定するのが好ましい。地上基準点に対する地上座標は、現場でGPS測量を通して得たり、数値標高データを通して取得する。該地上座標にマッチする映像座標は、作業者が映像を確認して直接取得する。
【0034】
この時、地上座標にマッチする映像座標の取得のために前記センサモデル(数7、8)を用いた方が良い。映像は、かなり広い地域を含んでいるため、作業者が地上基準点に対応する映像座標をいかなる情報もなしに映像で探すということは容易なことでない。このため、地上基準点に対する地上座標を前記センサモデルに代入してセンサモデルによる映像座標を求め、映像で該センサモデルによる映像座標注意を検索すると地上座標にマッチする映像座標の取得がたやすくなる。
【0035】
(b)ステップを遂行した後は、(c)ステップで、前記補助データと前記地上座標および映像座標を用いて映像を撮影した撮影機構センサのLOSベクトルを調整することによって誤差補正データEおよびEを取得する。
【0036】
これをより具体的に説明する。地上基準点に対する地上座標および映像座標、そして映像の補助データを前記数9、10に代入すると未知数はEおよびEとなる。前記未知数EおよびEは前記数11、12で見るように映像座標i、jに対する関数であるから、未知数はLOSベクトルの係数のax0、bxm、cxm、ay0、bym、cymとなる。結局、これらLOSベクトルの係数が決定されれば誤差補正データは取得できるのである。
【0037】
地上基準点が1つならば、iとjの0次項まで(すなわち、ax0、ay0)でEおよびEが計算され、地上基準点が2つならば、iとjの1次項まで(すなわち、ax0、bx0、cx0、ay0、by0、cy0)計算される。地上基準点がnであればiとjのn−1次項まで計算されてEおよびEが求められる。
【0038】
ここで、EおよびEはiとjの1次項まで(すなわち、地上基準点2つ)計算されるのが好ましい。実験結果0次項まで計算する場合には誤差がたくさん発生し、2次項以上計算する場合、計算過程が複雑で過補正される誤りが発生した。
【0039】
以上で調べた通り、誤差補正データEおよびEは前記数9、10、11、12を用いて求めるが、その係数値は工学分野で多く用いられる正規方程式を用いて求める。正規方程式による計算過程は当該技術分野で周知であるためこれに対する詳細な説明は省略する。
【0040】
(c)ステップを遂行した後は、(d)ステップで、映像の補助データと誤差補正データをLOSベクトル調整モデルに適用して映像の各映像座標に地上座標を付与することで映像の歪みを補正する外部標定を行う。
【0041】
補助データ、誤差補正データおよび映像座標を前記数9、10に代入して地上座標P、P、Pを求めることになるが、方程式は2つで未知数は3つである。したがって、地表面を撮影した映像1つだけでは地上座標を計算できず、同一の地表面を撮影した他の映像がさらに必要である。そうすると最初の映像で方程式が2つ、2つ目の映像で方程式が2つ求められるので地上座標を計算できる。
【0042】
このように(d)ステップを経ると映像は地上座標に対する情報を有するようになる。このようにしてこの情報をもとに3次元映像の製作が可能で、ピクセルの位置を再構成して正射映像の製作が可能で、数値地形図、数値標高データ等の製作が可能になる。
【0043】
そして、参考までに、撮影機構の姿勢を調整すれば、外観上センサの撮影角を調整したのと類似の結果が得られる。しかし、撮影機構の姿勢を調整する場合、その計算過程がかなり複雑になり、地上座標の抽出に時間がかなりかかる。さらに、時間tに対する関数で、すなわち、ライン方向(iまたはy方向)の関数で画素方向(jまたはx方向)の誤差を効果的に補正することは難しい。
【0044】
以下では、本発明のLOSベクトル調整を通じた映像の幾何補正装置をブロック図で図示した図4を参照して説明する。
【0045】
映像の幾何補正を手作業で行うということは現実的に不可能である。このため、コンピュータのような装置を用いて幾何を補正することになる。本発明の幾何補正装置はこの操作のためのものである。
【0046】
図4に示すように、本発明の幾何補正装置は、映像情報獲得部10、地上基準点獲得部20、誤差補正データ生成部30、そして外部標定実行部50とセンサモデル演算部40を含んでなる。
【0047】
前記映像情報生成部10は、入力された映像の補助データから幾何歪み補正に必要な情報の撮影機構の位置、速度、姿勢、そして撮影機構センサのLOSベクトルを抽出する。
【0048】
前記地上基準点生成部20は、多数の地上基準点に対する地上座標および映像座標を受けてこれを格納する。該地上座標および映像座標は作業者が入力する。
【0049】
前記センサモデル演算部40は、作業者が地上座標にマッチする映像座標を容易に探せるようにするためのものである。映像座標は、作業者が映像を見て探すことになる。広範囲な地域を撮影した映像で地上基準点に該当するある1点を探すというのは容易なことでない。このため、センサモデル演算部40は、映像情報生成部からデータを提供され、地上基準点生成部から地上座標を提供されて、そのデータと地上座標を演算し、映像座標を求める。該センサモデルによる映像座標は、誤差があるが正確な映像座標に近接する。したがって、作業者は、映像でセンサモデルによって演算された映像座標周囲を探索して正確な映像座標を容易に探すことになる。
【0050】
前記誤差補正データ生成部30は、前記映像情報獲得部10および前記地上基準点獲得部20からデータを提供されて撮影機構センサのLOSベクトル調整による誤差補正データEおよびEを生成する。
【0051】
前記外部標定実行部50は、前記映像情報獲得部10および誤差補正データ生成部30からデータを提供され、これをLOSベクトル調整モデルの前記数9、10に適用して映像の各映像座標に対する地上座標を演算する。
【0052】
本発明を詳細に説明するため、添付された図面を参考にして、特定のステップと構成要素を有するLOSベクトル調整を通した幾何補正方法および装置を説明したが、当該技術分野で通常の知識を持った者は本発明に多様な変形、付加および代替が可能だということを理解するだろう。このような変形、付加および代替は本発明の範囲内に含まれると解釈されなければならない。
【図面の簡単な説明】
【0053】
【図1】撮影機構と地表面の幾何を図示した幾何例示図である。
【図2】LOSベクトル調整に対する幾何例示図である。
【図3】本発明による幾何補正方法の手続きフローチャート図である。
【図4】本発明による幾何補正装置の概略的なブロック図である。

【特許請求の範囲】
【請求項1】
(a)地表面を撮影した映像と、前記映像に対する補助データを獲得するステップ;
(b)地上基準点の地上座標(P,P,P)と、前記地上座標にマッチする映像の映像座標(i,j)を獲得するステップ;
(c)前記(a)ステップの補助データと前記(b)ステップの地上座標および映像座標を用いて前記映像を撮影した撮影機構センサのLOSベクトルを調整することによって誤差補正データを獲得するステップ;および
(d)前記(a)ステップの補助データと前記(c)ステップの誤差補正データをLOSベクトル調整モデルに適用して、映像の各映像座標に地上座標を付与して映像の歪みを補正する外部標定を遂行するステップ:を含むことを特徴とするLOSベクトル調整モデルを用いる映像の幾何補正方法。
【請求項2】
前記(b)ステップで前記地上座標にマッチする映像座標を獲得するのは下記数1および2で表されるセンサモデルを用いて得られたセンサモデルに基づく映像座標を用いて獲得することを特徴とする請求項1に記載のLOSベクトル調整モデルを用いる映像の幾何補正方法。
【数1】

【数2】

ここで、

および

は補助データ中でセンサの撮影角で、
【数3】

および
【数4】

は補助データ中で撮影機構の位置、速度および姿勢によって求められる撮影角である。
【請求項3】
前記LOSベクトル調整モデルは、下記数5および6で表されることを特徴とする請求項1または2に記載のLOSベクトル調整モデルを用いる映像の幾何補正方法。
【数5】

【数6】

ここで、EおよびEはxおよびy方向の誤差補正データである。
【請求項4】
前記誤差補正データは、下記の数7および数8によって求められることを特徴とする請求項3に記載のLOSベクトル調整モデルを用いる映像の幾何補正方法。
【数7】

【数8】

ここで、ax0、bxm、cxm、ay0、bym、cymは地上基準点によって補正されるLOSベクトルの係数で、iは映像のラインで、jは映像の画素である。
【請求項5】
前記誤差補正データは、iとjの1次項まで計算された値であることを特徴とする請求項4に記載のLOSベクトル調整モデルを用い映像の幾何補正方法。
【請求項6】
地表面を撮影した映像の補助データから撮影機構の位置、速度、姿勢およびセンサのLOSベクトルに関する情報を獲得する映像情報獲得部;
地上基準点に対する地上座標と前記地上座標にマッチする映像座標を獲得し、格納する地上基準点獲得部;
映像情報獲得部と地上基準点獲得部からデータを提供され、センサのLOSベクトルを調整することによって誤差補正データを生成する誤差補正データ生成部;および
前記映像情報獲得部と誤差補正データ生成部からデータを提供され,前記データをLOSベクトル調整モデルに適用して、映像のそれぞれの映像座標に対応する地上座標を演算する外部標定実行部を含むことを特徴とするLOSベクトル調整モデルを用いる映像の幾何補正装置。
【請求項7】
前記地上座標にマッチする映像座標を迅速に検出し、前記映像情報獲得部からのデータと前記地上基準点抽出部で獲得された地上座標とを受けて、センサモデルをもとに映像座標を演算するセンサモデル演算部をさらに含むことを特徴とする請求項6に記載にLOSベクトル調整モデルを用いる映像の幾何補正装置。
【請求項8】
前記外部標定演算実行部に用いられるLOSベクトル調整モデルは請求項3に記載された数9および数10で表されることを特徴とする請求項6または請求項7に記載のLOSベクトル調整モデルを用いる映像の幾何補正装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate


【公表番号】特表2009−501996(P2009−501996A)
【公表日】平成21年1月22日(2009.1.22)
【国際特許分類】
【出願番号】特願2008−522715(P2008−522715)
【出願日】平成18年8月23日(2006.8.23)
【国際出願番号】PCT/KR2006/003301
【国際公開番号】WO2007/108580
【国際公開日】平成19年9月27日(2007.9.27)
【出願人】(508008681)ヨンセイ・ユニバーシティ、インダストリー−アカデミック・コオペレイション・ファウンデーション (6)
【Fターム(参考)】