モザイク画像生成装置及びモザイク画像生成方法
【課題】モザイクストリップの画像の曲がりを効果的に緩和する。
【解決手段】領域の一部が重複する複数の連続した画像を合成してモザイク画像を生成するシステムであって、前記複数の連続した二つの隣接する各画像間の画像変換行列を計算する行列計算手段と、前記計算された画像変換行列の調整要素を、回転変換成分と透視変換成分とに分解して計算する調整要素計算手段と、前記計算された調整要素が適用された画像変換行列を用いて、各画像をモザイク面に投影する画像投影手段と、を備える。
【解決手段】領域の一部が重複する複数の連続した画像を合成してモザイク画像を生成するシステムであって、前記複数の連続した二つの隣接する各画像間の画像変換行列を計算する行列計算手段と、前記計算された画像変換行列の調整要素を、回転変換成分と透視変換成分とに分解して計算する調整要素計算手段と、前記計算された調整要素が適用された画像変換行列を用いて、各画像をモザイク面に投影する画像投影手段と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の連続した画像を所定の面上に並べて投影する技術に関する。
【背景技術】
【0002】
モザイク画像の生成(イメージモザイキング)は、モザイク面と呼ばれる所定の面に、画像を並べて広い視野を得る方法として一般的である。このモザイク画像の生成は、航空写真から画像地図を生成する方法や、通常のカメラによって撮影されたパノラマ画像を得る方法として一般的である。
【0003】
モザイク画像は、所定のモザイク面上に複数の画像を並べることによって広い視野を得る。モザイク画像の生成において、各画像の回転と位置の完全な情報が提供されれば、各画像をモザイク面上に並ぶように直接的に投影することができる。しかし、プラットフォームの位置を正確に記録するためには、非常に高価な装置が必要となる。また、画像の回転パラメータを再構成するためには複雑なセンサモデルが必要となる。そのため、このような従来の方法は、通常は総コストが高い。一般的なモザイク画像の生成方法は、パノラマ画像を生成する方法と似ている。さらに、一般的なモザイク画像の生成方法は、連続する画像間の対応する特徴の位置合わせをし、モザイク画像化の誤差を調整するための制御情報を加え、モザイク面上にモザイクストリップを投影し、その結果を出力する。
【0004】
画像は、モザイク面に画像変換行列(ホモグラフィ)によって変換される。画像変換行列を計算するためには、一般的に、二つの方法がある。一つの方法は、センサ(カメラ等)の位置から逆演算された角度で画像を回転させる方法である。もう一つの方法は、記録された画像の特徴に基づく方法である。前者の方法では、センサの六つのパラメータ (y軸回りの上下振り角(yaw)、z軸回りの左右振り角(pitch)、x軸回りの回転角(roll)、X座標、Y座標、Z座標)のうち使用可能なものを用いて、画像が修正される。一方、後者の方法では、最初に連続する画像間の特徴が抽出され、連続する画像間の偏差を最小化するように画像変換行列が計算される。よりよい結果を得るために、通常、両者は共に使用される。
【0005】
従来の方法は、その適用においても、二つのカテゴリーに分類できる。一つは、写真測量法で十分に開発されているバンドル調整法である。バンドル調整法は、包括的な最適化によって、全ての画像と地表面における正確な位置とを共に処理し、画像の投影誤差を最小にする方法である。バンドル調整法は、高い精度を達成できるが、相当数の地上基準点(Ground Control Point)が必要であり、地上基準点の収集は多大な作業が必要である。しかし、この方法は、リモートセンシングの分野において、正確な地図の作成及び監視のための主な方法である。一方、カメラのパラメータと画像の特徴とを用いた作業は、地上基準点に対する要求を軽減するように思われる。その上、自動化と精度の適度な兼ね合いは、これらの方法を視覚化(visualization)、シミュレーション、監視(surveillance)等の無測定指向のアプリケーションにおいて一般的に考慮されている。
【特許文献1】特開2006−189940号公報
【非特許文献1】Marc Alexa他著,「Linear combination of transformations」,Proceedings of the 29th annual conference on Computer graphics and interactive techniques,San Antonio, Texas, 2002年
【非特許文献2】Shmuel Peleg他著,「Alex Rav-Acha and Assaf Zomet, Mosaicing on Adaptive Manifolds」,IEEE Transcations on Pattern Analysis and Machine Intelligence, Col.22, No.10,2000年10月
【非特許文献3】Amy Hawkins他著,「Animation: keyframing using linear interpolation of matrices」,ACM SIGGRAPH 2005 Posters SIGGRAPH '05,2005年7月
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかし、モザイク画像の生成においては、実際のところ、どの画像も、本質的に、位置ズレ、歪み、運動視差及び動いている被写体を含むので、画像を完全に正確に並べることは困難である。この困難性は、画像のモザイク化における誤差の原因となり、さらに、誤差は隣の画像に伝搬して累積し、モザイクストリップ(複数の連続した画像からなる集合)が曲がる原因となる。このため、本来、直線的に並べられるモザイクストリップは異なる方向に向かってしまう。モザイクストリップの曲がりを軽減するために、画像変換に適切なパラメータを選択する必要がある。これは、他の付加的な制御情報を用いた画像変換行列を用いるということである。
【0007】
曲がったモザイクストリップと地表面における正しい位置との差は、必要とされる修正の合計量を示す。現行の方法は、誤差の線形な最小化に直接適用され、連続した各画像の累積誤差を補間する。そして、修正された変換の結果は、バンドル調整法や特許文献1に記載されている方法のように、曲げられたモザイクストリップを現実の位置のモザイクストリップに変換する最もよい方法である。この方法は、回転変換がない場合又は少しだけ回転変換がある場合によく作用する。しかし、現行の方法では、モザイクストリップが大きな角で曲がっている場合、あるケースでは、累積誤差の平均が計算できず、中間の画像は裏返ってしまい、建物は線上さらには点上に倒れてしまう。
【0008】
モザイクストリップの曲がりを軽減するためには、累積誤差が、連続した画像に適切に補間される必要がある。その補間において、画像変換を調整して、各画像の形状を極端に変化させないようにすべきである。従来の方法の累積誤差の直接的な補間によると、中間の画像はひっくり返ってしまう。また、モザイクストリップが大きな角で曲がっているような特別な場合には、中間の画像は線や点に投影されてしまう。
【0009】
本発明は、画像を投影してモザイク画像を作成する際に生じる累積誤差をモザイクストリップ全体に分散し、モザイクストリップの画像の曲がりを効果的に緩和することを目的とする。
【課題を解決するための手段】
【0010】
本発明の代表的な一例を示せば以下の通りである。すなわち、領域の一部が重複する複数の連続した画像を合成してモザイク画像を生成するシステムであって、前記複数の連続した画像を記憶する記憶部と、前記記憶部に記憶された画像の制御情報を取得する入力部と、計算結果を視覚化し、モザイク画像として表示する表示部と、必要な演算を行う演算部と、前記演算のための情報を記憶するメモリと、生成されたモザイク画像を出力する出力部と、を備える。前記演算部は、前記複数の連続した二つの隣接する各画像間の画像変換行列を計算する行列計算手段と、前記計算された画像変換行列の調整要素を計算する調整要素計算手段と、前記計算された調整要素が適用された画像変換行列を用いて、各画像をモザイク面に投影する画像投影手段と、を備える。前記行列計算手段は、前記複数の連続した画像から隣接する二つの画像を取得し、前記取得した二つの画像から対応する特徴点を抽出し、前記対応する特徴点間の偏差の合計を最小化するように、隣接する各画像間の画像変換行列を計算する。前記調整要素計算手段は、前記計算された画像変換行列の調整要素を生成し、モザイクストリップに含まれる最初の画像を所定のモザイク面上に投影するための第1の制御情報と、前記モザイクストリップに含まれる最後の画像を前記モザイク面上に投影するための第2の制御情報とを取得し、前記取得した制御情報を用いて、前記最初の画像を前記モザイク面に変換する最初の画像変換行列と、前記最後の画像を前記モザイク面に変換する最後の画像変換行列とを計算し、前記調整要素計算手段によって計算された最初の画像変換行列と、前記行列計算手段によって計算された各画像間の画像変換行列とを用いて、前記最後の画像を前記モザイク面上の画像に変換する第2の画像変換行列とを計算し、前記計算された最後の画像変換行列と、前記計算された第2の画像変換行列との差を回転変換成分と透視変換成分とに分解し、前記分解された回転変換成分の調整要素と透視変換成分の調整要素とを計算する。前記画像投影手段は、前記調整要素計算手段によって計算された最初の画像変換行列と、前記行列計算手段によって計算された各画像間の画像変換行列とを用い、さらに前記計算された調整要素を適用して、前記モザイクストリップに含まれる各画像を前記モザイク面上の画像に変換する画像変換行列を計算し、前記計算された各画像に対する画像変換行列を用いて、前記各画像を前記モザイク面に投影する。
【発明の効果】
【0011】
本発明の一実施形態によると、モザイクストリップの画像の曲がりを緩和することができる。
【発明を実施するための最良の形態】
【0012】
まず、本発明の実施の形態の概要について説明する。
【0013】
本発明の実施形態は、カメラによって撮影された領域の一部が重複する複数の連続した画像を用いてモザイク画像を生成する方法である。本発明の実施の形態では、累積誤差の取り扱いが従来技術とは違って、累積誤差を回転成分と透視変換成分とに分解し、その後、各成分に適切な線形補間を適用する。そのため、各画像は、モザイクストリップが大きな角で曲がっていても、比較的スムーズに、ひっくり返ることなく位置合わせをすることができる。その結果、累積誤差は軽減され、モザイクストリップ全体に均等に分散される。本実施の形態によると、見やすい画像を得ることができ、画像の正しい座標を得ることができる。
【0014】
次に、本発明の実施の形態について、図面を参照して説明する。
【0015】
図1は、本発明の実施の形態の画像合成システムの構成を示すブロック図である。
【0016】
本実施の形態の画像合成システムは、画像記録部11、データ入力部12、画像表示部13、演算部14、記憶部15及び出力部16を備える。
【0017】
画像記録部11は、本画像合成システムによって処理される画像(モザイクストリップ)が格納される記憶装置である。データ入力部12は、操作者からの入力指示を受け付けるユーザインターフェースであり、キーボード及びポインティング装置によって構成される。画像表示部13は、本画像合成システムで処理された画像を表示する表示装置である。
【0018】
演算部14は、CPU等の演算装置を備え、本画像合成システムによる処理を実行する演算装置である。記憶部15は、演算部14によって実行されるプログラム、及びプログラムの実行の際に使用されるデータを格納する記憶装置である。出力部16は、本画像合成システムで処理された画像を他の装置に出力するインターフェースである。
【0019】
図2A及び図2Bは、本発明の実施の形態の画像を合成してモザイク画像を生成する処理のフローチャートである。
【0020】
まず、航空機等から連続して撮影された写真(画像)が順に入力される。入力された画像にはi=1から順に番号が付される。そして、iの初期値を”1”に設定して、画像制御パラメータiに1を加える(S10)。その後、入力された画像から二つの画像(画像i及び画像i−1)を取得する(S11)。
【0021】
次に、画像制御パラメータiが1より大きいかによって、二つの画像(画像2及び画像1)を取得できるかを判定する(S12)。パラメータiが1以下であれば、さらに次の画像を取得するために、処理S10に戻る。一方、パラメータiが1より大きければ、処理S13に進む。
【0022】
次に、画像の特徴点を抽出する(S13)。特徴点の抽出には、キャニーエッジ検出(Canny edge detection)、ハリス角検出(Harris corner detection)等の一般的な画像処理方法を用いることができる。
【0023】
次に、特徴点間の対応関係をテンプレートマッチングを用いることによって導き出す。そして、最小二乗法を用いることによって、画像iから画像i−1への画像変換行列(homography)Miを導き出す(S14)。すなわち、処理S14では、画像i−1がマスター画像となり、画像iがスレーブ画像となる。
【0024】
画像の特徴点の抽出及びマッチングのための方法は、画像の特徴を光学的に探索する、ルーカス・カナデ法(pyramidal implementation of Lucas-Kanade)が、一般的かつ効果的な方法である。また、通常は、画像間の対応していない部分を除去するために、RANSAC法(RANdom SAmple Consensus)が用いられる。
【0025】
そして、画像制御パラメータiがNより大きいかを判定する(S15)。ここで、Nは画像数(画像制御パラメータの最大数)である。パラメータiがN以下であれば、未処理の画像が残っているので、さらに次の画像を取得するために処理S10に戻る。一方、パラメータiがNより大きければ、全ての画像に対する画像変換行列Miの導出が完了しているので、処理S21に進む。このように、最後の画像が処理されて、一連の画像変換行列が導出されるまで、処理が繰り返される。
【0026】
次に、モザイクストリップの曲がりを軽減するために、制御情報によって画像変換行列を調整する。バンドル調整法等の従来技術は、極めて多数の地上基準点を必要とする。そこで、本発明では、最初及び最後の画像の制御情報があるか否かを判定する(S21)。
【0027】
その結果、最初及び最後の画像の制御情報があれば、その制御情報を取り込んで、記憶部15に書き込む(S22)。一方、最初又は最後の少なくとも一つの画像の制御情報がなければ、処理S31に進む。
【0028】
ここで、制御情報とは、図3に示すように、画像中の特徴点とモザイク面(参照面)上の点とを対応させる情報である。操作者は、マウスのようなポインティング装置を用いることによって、モザイク面上の点(例えば、地図上の点)と画像中の点との対応を指定して、制御情報を入力する。なお、透視変換の画像変換行列を求めるためには少なくとも4点が必要とされるので、最初の画像中と最後の画像中とで、各々、四つの特徴点が必要となる。
【0029】
制御情報を取得した後、処理S23では、最初の画像と最後の画像とを、各々モザイク面上の画像に変換する二つの画像変換行列(M1、M_last')を求める。このように、モザイクストリップの両端の画像の画像変換行列を用いることによって、モザイクストリップをあるべき位置に定めることができる。処理S23では、モザイク面上の画像がマスター画像となり、モザイクストリップ上の画像がスレーブ画像となる。
【0030】
モザイク画像の生成における誤差は、モザイクストリップ中の画像の位置合わせ中に生じ、最初の画像から最後の画像へ伝搬する。従って、画像のモザイク化における全ての誤差は累積され、モザイクストリップの最初の画像から最後の画像へ伝搬する。図4に示すように、最後の画像は、行列M_last(M_last=M1×M2×…×Mi×…×Mn)を用いることによって、モザイクストリップ上に変換される。ここで、Mi(i=2〜n)は、画像iから隣接する画像i−1へ変換する画像変換行列である。
【0031】
一方、取得した制御情報から求められた画像変換行列M_last'を用いることによって、最後の画像の地表面における正しい位置を定めることができる。行列M_last'と行列M_lastとの偏差は、累積誤差の合計を示す。累積誤差が連続する画像に適切に補間されるなら、曲がったモザイクストリップは正確な向きに表すことができる。モザイクストリップの曲がりを緩和するためには、行列M_last’と行列M_lastと間のスムーズな計算方法を実行する必要がある。
【0032】
そこで、本発明の実施形態では、画像変換行列を回転変換成分と単純な透視変換成分とに分けて、適切な線形行列補間を可能にする(S24)。
【0033】
透視変換は線形性を保つので、画像枠の2本の対角線の交点は、常に、透視投影の主点(Principle Point)に対応する。主点の位置は、回転変換をしても、透視変換をしても変わらない。図5に示すように、本発明の実施形態は、画像の空間的な方向の定量的な表現形式を導き出す。画像の回転は、基準対角線とX軸との間の角度によって表される。画像の回転を、基準対角線とX軸との間の角度によらず、任意の対角線と任意の軸との間の角によって定義してもよい。
【0034】
図6は、本発明の実施の形態の回転変換と透視変換との演算処理(S24)の詳細を示すフローチャートである。
【0035】
まず、行列M_last(行列M_last=M1×M2×…×Mi×…×Mn)を計算する(S241)。ここで、行列M_lastは、最後の画像をモザイク面上の画像に変換する画像変換行列である。また、行列Miは、画像iから隣接する画像i−1へ変換する画像変換行列である。そして、最後の画像のモザイクストリップへの方位角A1が計算される(S242)。
【0036】
次に、最後の画像の画像変換行列M_last'を求めるために、最後の画像の制御情報を記憶部15から読み出し(S243)、読み出した制御情報に基づいて画像変換行列M_last'を求める(S244)。そして、画像変換行列M_last'を用いて最後の画像を変換し、画像変換行列M_last'を用いて変換された画像のモザイクストリップ上(正確な位置)での方位角A2を求める(S245)。
【0037】
その後、二つの方位角の差Aを求める(S246)。この角度差(A=A2−A1)は、画像投影において累積された誤差の回転成分を表し、また、累積誤差を含んだモザイク面上への投影画像を、地表面(モザイク面)上の正しい位置へ補正するための回転角である。
【0038】
次に、変換行列M_lastをM_rotationと、M_last_tempとの積に分解する。すなわち、最後の画像の画像変換行列は、M_rotationと、M_last_tempとに分解される(S247)。ここで、M_rotationは、回転角Aの回転行列である。M_last_tempは、単純な透視変換行列であり、極めて小さい回転成分しか含まず、安定かつ安全な範囲の線形補間行列である。本実施形態の方法は、このようにして、モザイク面上への画像変換の線形補間を制限し、回転成分が大きい画像変換の補間において画像が1点に集約される欠陥を避けることができる。
【0039】
次に、各画像の回転補正要素M_rotation_iと透視変換補正要素M_perspective_iを求める(S248)。回転補正要素M_rotation_iは、方位角Aiの回転行列であり、Ai=A/(N−1)×(i−1)で定義される。なお、Nは、モザイクストリップ中の画像の数である。透視変換補正要素M_perspective_iは、アレクサ行列(Alexa's matrix )用いて、以下の式1を用いて求められる。
【0040】
【数1】
【0041】
ここで、数式(1)中の演算子は、下記数式(2)及び(3)によって表される。また、、数式(1)中の行列Aは、前記求められた回転角Aだけ回転させる回転変換行列であり、数式(1)中の行列Bは、M_last'である。
【0042】
なお、この透視変換補正要素の導出は、前述した非特許文献2に詳細に記載されている。
【0043】
【数2】
【0044】
【数3】
【0045】
ここで図2Bに戻る。図6に示す処理によって、回転成分と透視変換成分との変換の補正量が導出された後、補正変換行列を用いて各画像を補正する(S25)。各画像の補正処理の詳細を図7に示す。
【0046】
まず、取得した制御情報を使用して求められた画像変換行列M1をM_1と定義する(S251)。ここで、行列M1(M_1)は、最初の画像をモザイク面上の画像に変換する画像変換行列である。
【0047】
次に、画像iについて、回転変換の補正要素M_rotation_iと、透視変換の補正要素M_perspective_iとを求める(S252)。そして、補正要素を変換行列Miに適用し、補正された変換行列M_iを求める(S253)。具体的には、M_i=M_perspective_i×M_rotation_i×Miとなる。ここで、Miは、画像iから画像i−1への変換行列である。また、M_iは、画像iから曲がりを緩和したモザイク面への変換行列である。
【0048】
次に、画像制御パラメータiが1より大きくN以下であるかを判定する(S254)。そして、画像制御パラメータiが1より大きくN以下であれば、まだ変換行列を求めるべき画像があるので、処理S252に戻り、処理を繰り返す。一方、画像制御パラメータiが所定の範囲を超えていれば、全ての画像の変換行列が求まっているので、この処理を終了し、処理S31に進む。
【0049】
補正された変換行列M_iを適用することによって、全ての画像に誤差を補正した回転変換成分の正確な合計と透視変換成分の正確な合計とが適用されて、それらが変換される。それによって、モザイクストリップの曲がりは緩和され、見やすい画像を得ることができ、画像の正しい座標を得ることができる。
【0050】
図4、図5は、本発明の実施の形態による実施の形態による画像変換を示す。
【0051】
モザイク画像の生成における誤差は、不正確な処理によって、画像の位置合わせ中に生じ、モザイクストリップの最初の画像から最後の画像へ伝搬する。従って、画像のモザイク化における全ての誤差は累積され、モザイクストリップの最後の画像に伝搬する。図4に示すように、最後の画像は、行列M_last=M1×M2×…Mi×…Mnを用いることによって、モザイクストリップに変換される。ここで、Miは、画像iから画像i−1へ変換する画像変換行列である。一方、利用可能な制御情報、例えば、与えられた四つの地上基準点から求めることができる画像変換行列M_last'を用いることによって、最後の画像の地表面における正しい位置を定めることができる。
【0052】
また、本発明は、地上基準点の要件を、最初の画像及び最後の画像において所与の制御情報のみを用いる最小レベルまで低減する。すなわち、従来の方法では数百の地上基準点が必要であったのに対し、最初の画像及び最後の画像のそれぞれのために四つの基準点、全部で八つの地上基準点が最低限必要である。これら八つの与えられた基準点を用いることによって、モザイクストリップの両端を、正しい位置を定めることができ、曲がったモザイクストリップの最後の画像とその正しい位置とのズレを計算することができる。
【0053】
行列M_last'と行列M_lastとの偏差は、累積誤差の合計を示す。累積誤差が連続する個々の画像に適切に補間されるなら、曲がったモザイクストリップは正確な向きに表す。従って、モザイクの曲がりをどのように緩和するかという問題は、行列M_last'と行列M_lastとの間のスムーズな計算方法をどのように実行するかという問題である。本発明は、ステップS24において、画像変換行列を回転変換成分と単純な透視変換成分とに分けて、適切な線形行列補間を可能にする。
【0054】
次に、ここまで説明した処理によって画像がどのように変化する過程について、図4を参照して説明する。
【0055】
最初の画像(画像1)の制御情報を用いて、モザイク面上への射影行列(画像変換行列)M1が計算される。同様に、最後の画像(画像n)の制御情報を用いて、モザイク面上への射影行列M_last'が計算される。連続した画像間は、各画像間の特徴点を用いて、各画像間の変換行列M2〜Mnが計算される。Miは、図4に示すように、画像iから画像i−1への変換行列である。
【0056】
これらの画像変換行列から、モザイクストリップを画像1から順に辿って、各画像をモザイク面上に投影する射影行列M_iを求めることができる(M_i=M1×M2×…×Mi)。同様に、モザイクストリップを画像1から順に辿って、画像nをモザイク面上に投影する射影行列M_lastを求める(M_last=M1×M2×…×Mn)。
【0057】
画像nについて求められた二つの射影行列M_last'とM_lastとの間の差を求め、この差を線形補間することによって、各画像のモザイク面への射影行列M_iを補正する。このとき、射影行列M_last'とM_lastとの差は回転変換成分と透視変換成分とに分解される。そして、図5に示すように、分解された回転変換成分M_rotationと透視変換成分M_perspectiveとの各々が線形補間される。
【0058】
回転成分は、射影行列M_lastを用いてモザイク面上に投影された画像nの方位A1と、射影行列M_last'を用いてモザイク面上に投影された画像nの方位A2との角度差Aを、画像の間隔で等分して、回転変換成分の線形補正量を求める。
【0059】
求められた射影行列M1、M_i(i=2〜n−1)、M_last'を用いて各画像(画像1〜画像n)をモザイク面上に投影する。その後、モザイク面上に投影された各画像の所定の軸からの方位角を求める。そして、求められた回転変換成分の補正量を、各画像の方位角に加えることによって、モザイク面上に投影された各画像の回転変換成分が補正される。
【0060】
その後、前述した数式(1)を用いて、各画像の透視変換成分の補正量が計算される。
【0061】
通常の線形補間モデルは、以下の数式(4)によって与えられる。
【0062】
【数4】
【0063】
二つの状態A、B間の直接的な補間によって、モザイクストリップの一端からもう一端へ最短経路に沿って徐々に画像変換がなされる。それは、3次元透視画像変換について大きな回転が存在する場合、中間画像を裏返してしまう。さらに、数式(4)を行列に直接適用することはできない。アレクサ行列は、行列の任意の線形結合を生成する方法を提供する。アレクサ法において展開される数式(2)及び(3)によって示される二つの演算子は、行列の対数及び指数関数を用いて演算される。数式(2)によって示される演算子は画像変換行列のスカラー乗算を実施し、数式(3)によって示される演算子は、この演算子が可換であることを除いては行列乗算に類似している。
【0064】
行列の線形補間のために、数式(2)及び(3)に示す演算子に基づいて、数式(4)を数式(5)のように書き直すことができ、曲がったストリップの補正モデルが得られる。
【0065】
【数5】
【0066】
あるケースでは、数式(5)を直接適用することによって調整行列を生成することができる。しかし、不都合なことに、あるケースではアレクサ法は不安定である。一様でない縮尺と組み合わされる回転変換成分が90度以上の多くの画像変換において、行列の平方根は収束できない。従って、まず画像変換を、回転変換成分と透視変換成分とに分けて、回転変換成分に数式(4)を適用し、アレクサ法を前記の透視変換成分のみに適用する。そして、これが常に安定かつ安全な範囲で確実に機能するようにする。
【0067】
図5に示すように、最後の画像(状態A)は、行列M_lastを用いることによってモザイクストリップ中の画像(状態B)に変換され、一方、与えられた基準点から導出される画像変換行列M_last'を用いることによって、その地表面における正確な位置(状態D)が定められる。状態Bと状態Dとの位置及び形状における差は、累積誤差を示す。前述したように、画像変換のスキームを状態Bから状態Dへスムーズに進行することによって、累積誤差が緩和されるように、各画像に適切に分散する必要がある。まず、状態Bの画像をある角度だけ回転させ、状態Dの画像と概ね同じ向きを有する状態Cの画像を得る。そして、アレクサ法を適用して状態Cを状態Dに線形補間する。このように、回転変換成分は状態Cから状態Dでは常に非常に小さく、アレクサ法が安全かつ確実に機能するようにする。
【0068】
撮影対象が平坦であればカメラの光軸は撮影対象に対して垂直であり、透視投影の主点(PP)は画像フレームの中心に対応していると仮定される。このため、二つの対角線の交点はほぼ主点となる。また、透視投影は、透視投影後の画像においても線の直線性を保つ。このため、画像フレームの二つの対角線の交点は常に主点に対応する。
【0069】
図5において、対角線a−c、a'−c'及びa"−c"を主要な対角線とし、b−d、b'−d'及びb"−d"を補助的な対角線とす。画像の向きは、本明細書においては主要な対角線とx軸との間の角として定義されるが、任意の対角線と任意の軸との間の角であってもよい。なお、両者の間の一貫性を維持するために変換が必要とされる。画像の向きが定められると、回転角は単純にそれらの向きの差によって計算することができる。本発明では、図5に示すように、定量的な表現形式を導出し、画像の空間的な向きを説明する。
【0070】
次に、本発明の実施の形態の効果について説明する。
【0071】
本発明の実施の形態では、最初の画像の制御情報と最後の画像の制御情報とのみを用いて、画像を投影してモザイク画像を作成する際の画像(モザイクストリップ)の曲がりを効果的に緩和することができる。
【0072】
図8は、本発明の実施の形態の変換行列でモザイク画像を合成する様子を示す説明図である。本発明のコンセプトについて、図8を用いて説明する。
【0073】
モザイクストリップの両端は最初の画像と最後の画像である。本発明の実施の形態では、累積誤差のによるモザイクストリップの曲がりを緩和するために、最初の画像の制御情報と最後の画像の制御情報とを用いる。すなわち、最後の画像の制御情報を用いることによって、画像を投影してモザイク画像を作るときの累積誤差は、曲がったモザイクストリップの最後の画像の地表面における正確な位置とのズレから求められる。本発明の変換行列の補間方法によると、累積誤差はモザイクストリップ全体に均等に分散され、モザイクストリップの曲がりは効果的に緩和される。
【0074】
図9は、本発明の実施の形態の補間された行列による変換と、従来の画像変換とを対比して示す。
【0075】
本発明の方法では、変換を回転変換成分と透視変換成分とに分解する。これに対し、
従来の直接的な補間方法(例えば、バンドル調整法)では、大きく曲がったモザイクストリップを扱うことができない。すなわち、従来の方法では、累積誤差の平均を求めることはできず、中間の画像は裏返ってしまい、建物は線上さらには点上に倒れてしまう。
【0076】
これに対し、本発明の方法では、変換を回転変換成分と透視変換成分とに分解する。これによって、モザイク面上への画像変換の線形補間を制限し、累積誤差を均等に分散することができる。
【0077】
図10は、回転角が大きい場合の、本発明の実施の形態の補間された行列による変換と、従来の画像変換とを対比して示す。
【0078】
図10によると、回転角が大きい場合には、従来の方法による画像変換では中間の画像が裏返ってしまうが、本発明の方法によると中間の画像が裏返ることない。
【0079】
近年、多数の広範囲な画像を容易に得ることできる。様々な一般的なデジタルカメラやポータブルビデオカメラ(個人ユーザが使用するレベルのもの)を用いることによって、調査、工学技術及び娯楽の分野で、このような画像処理が適用されている。本発明は、従来技術と異なる方法によって、一つの画像(又は、フレーム)から広い視野の画像を作るために、高速に画像を投影してモザイク画像を得るものである。本発明は、画像変換のための適切な線形補間を得るために、画像変換を回転成分と単純な透視変換成分とに分解する。
【0080】
モザイク画像を作成する過程で生じる累積誤差によってモザイク画像は曲げられるが、本発明によると、累積誤差はモザイクストリップ全体に均等に分散される。そのため、モザイクストリップの曲がりは効果的に緩和され、見やすい画像を得ることができる。また、画像の正しい座標を得ることができる。
【0081】
本発明は、おおまかな結果しか提供されない撮影システム(例えば、無人飛行機(UAV:Unmanned Aerial Vehicle)、小型無人飛行機(MAV:Micro Aerial Vehicle)等)によって撮影された画像からのモザイク画像の作成において有効な方法である。そして、本発明は、センサ(カメラ)の姿勢についての情報が十分に提供されない、一般的なデジタルカメラやポータブルビデオカメラ等の撮影システムにも好適である。
【図面の簡単な説明】
【0082】
【図1】本発明の実施の形態の画像合成システムの構成を示すブロック図である。
【図2A】本発明の実施の形態のモザイク画像生成処理のフローチャートである
【図2B】本発明の実施の形態のモザイク画像生成処理のフローチャートである
【図3】本発明の実施の形態の入出力される情報を示す説明図である。
【図4】本発明の実施の形態による画像変換を示す説明図である。
【図5】本発明の実施の形態による画像変換を示す説明図である。
【図6】本発明の実施の形態の回転変換と透視変換との計算処理の詳細を示すフローチャートである。
【図7】本発明の実施の形態の補正後の画像変換行列の計算処理の詳細を示すフローチャートである。
【図8】本発明の実施の形態の変換行列でモザイク画像を合成する様子を示す説明図である。
【図9】本発明の実施の形態の補間された行列による変換と、従来の画像変換とを対比した説明図である。
【図10】回転角度が大きい場合の、本発明の実施の形態の補間された行列による変換と、従来の画像変換とを対比した説明図である。
【符号の説明】
【0083】
11 画像記録部
12 データ入力部
13 画像表示部
14 演算部
15 記憶部
16 出力部
【技術分野】
【0001】
本発明は、複数の連続した画像を所定の面上に並べて投影する技術に関する。
【背景技術】
【0002】
モザイク画像の生成(イメージモザイキング)は、モザイク面と呼ばれる所定の面に、画像を並べて広い視野を得る方法として一般的である。このモザイク画像の生成は、航空写真から画像地図を生成する方法や、通常のカメラによって撮影されたパノラマ画像を得る方法として一般的である。
【0003】
モザイク画像は、所定のモザイク面上に複数の画像を並べることによって広い視野を得る。モザイク画像の生成において、各画像の回転と位置の完全な情報が提供されれば、各画像をモザイク面上に並ぶように直接的に投影することができる。しかし、プラットフォームの位置を正確に記録するためには、非常に高価な装置が必要となる。また、画像の回転パラメータを再構成するためには複雑なセンサモデルが必要となる。そのため、このような従来の方法は、通常は総コストが高い。一般的なモザイク画像の生成方法は、パノラマ画像を生成する方法と似ている。さらに、一般的なモザイク画像の生成方法は、連続する画像間の対応する特徴の位置合わせをし、モザイク画像化の誤差を調整するための制御情報を加え、モザイク面上にモザイクストリップを投影し、その結果を出力する。
【0004】
画像は、モザイク面に画像変換行列(ホモグラフィ)によって変換される。画像変換行列を計算するためには、一般的に、二つの方法がある。一つの方法は、センサ(カメラ等)の位置から逆演算された角度で画像を回転させる方法である。もう一つの方法は、記録された画像の特徴に基づく方法である。前者の方法では、センサの六つのパラメータ (y軸回りの上下振り角(yaw)、z軸回りの左右振り角(pitch)、x軸回りの回転角(roll)、X座標、Y座標、Z座標)のうち使用可能なものを用いて、画像が修正される。一方、後者の方法では、最初に連続する画像間の特徴が抽出され、連続する画像間の偏差を最小化するように画像変換行列が計算される。よりよい結果を得るために、通常、両者は共に使用される。
【0005】
従来の方法は、その適用においても、二つのカテゴリーに分類できる。一つは、写真測量法で十分に開発されているバンドル調整法である。バンドル調整法は、包括的な最適化によって、全ての画像と地表面における正確な位置とを共に処理し、画像の投影誤差を最小にする方法である。バンドル調整法は、高い精度を達成できるが、相当数の地上基準点(Ground Control Point)が必要であり、地上基準点の収集は多大な作業が必要である。しかし、この方法は、リモートセンシングの分野において、正確な地図の作成及び監視のための主な方法である。一方、カメラのパラメータと画像の特徴とを用いた作業は、地上基準点に対する要求を軽減するように思われる。その上、自動化と精度の適度な兼ね合いは、これらの方法を視覚化(visualization)、シミュレーション、監視(surveillance)等の無測定指向のアプリケーションにおいて一般的に考慮されている。
【特許文献1】特開2006−189940号公報
【非特許文献1】Marc Alexa他著,「Linear combination of transformations」,Proceedings of the 29th annual conference on Computer graphics and interactive techniques,San Antonio, Texas, 2002年
【非特許文献2】Shmuel Peleg他著,「Alex Rav-Acha and Assaf Zomet, Mosaicing on Adaptive Manifolds」,IEEE Transcations on Pattern Analysis and Machine Intelligence, Col.22, No.10,2000年10月
【非特許文献3】Amy Hawkins他著,「Animation: keyframing using linear interpolation of matrices」,ACM SIGGRAPH 2005 Posters SIGGRAPH '05,2005年7月
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかし、モザイク画像の生成においては、実際のところ、どの画像も、本質的に、位置ズレ、歪み、運動視差及び動いている被写体を含むので、画像を完全に正確に並べることは困難である。この困難性は、画像のモザイク化における誤差の原因となり、さらに、誤差は隣の画像に伝搬して累積し、モザイクストリップ(複数の連続した画像からなる集合)が曲がる原因となる。このため、本来、直線的に並べられるモザイクストリップは異なる方向に向かってしまう。モザイクストリップの曲がりを軽減するために、画像変換に適切なパラメータを選択する必要がある。これは、他の付加的な制御情報を用いた画像変換行列を用いるということである。
【0007】
曲がったモザイクストリップと地表面における正しい位置との差は、必要とされる修正の合計量を示す。現行の方法は、誤差の線形な最小化に直接適用され、連続した各画像の累積誤差を補間する。そして、修正された変換の結果は、バンドル調整法や特許文献1に記載されている方法のように、曲げられたモザイクストリップを現実の位置のモザイクストリップに変換する最もよい方法である。この方法は、回転変換がない場合又は少しだけ回転変換がある場合によく作用する。しかし、現行の方法では、モザイクストリップが大きな角で曲がっている場合、あるケースでは、累積誤差の平均が計算できず、中間の画像は裏返ってしまい、建物は線上さらには点上に倒れてしまう。
【0008】
モザイクストリップの曲がりを軽減するためには、累積誤差が、連続した画像に適切に補間される必要がある。その補間において、画像変換を調整して、各画像の形状を極端に変化させないようにすべきである。従来の方法の累積誤差の直接的な補間によると、中間の画像はひっくり返ってしまう。また、モザイクストリップが大きな角で曲がっているような特別な場合には、中間の画像は線や点に投影されてしまう。
【0009】
本発明は、画像を投影してモザイク画像を作成する際に生じる累積誤差をモザイクストリップ全体に分散し、モザイクストリップの画像の曲がりを効果的に緩和することを目的とする。
【課題を解決するための手段】
【0010】
本発明の代表的な一例を示せば以下の通りである。すなわち、領域の一部が重複する複数の連続した画像を合成してモザイク画像を生成するシステムであって、前記複数の連続した画像を記憶する記憶部と、前記記憶部に記憶された画像の制御情報を取得する入力部と、計算結果を視覚化し、モザイク画像として表示する表示部と、必要な演算を行う演算部と、前記演算のための情報を記憶するメモリと、生成されたモザイク画像を出力する出力部と、を備える。前記演算部は、前記複数の連続した二つの隣接する各画像間の画像変換行列を計算する行列計算手段と、前記計算された画像変換行列の調整要素を計算する調整要素計算手段と、前記計算された調整要素が適用された画像変換行列を用いて、各画像をモザイク面に投影する画像投影手段と、を備える。前記行列計算手段は、前記複数の連続した画像から隣接する二つの画像を取得し、前記取得した二つの画像から対応する特徴点を抽出し、前記対応する特徴点間の偏差の合計を最小化するように、隣接する各画像間の画像変換行列を計算する。前記調整要素計算手段は、前記計算された画像変換行列の調整要素を生成し、モザイクストリップに含まれる最初の画像を所定のモザイク面上に投影するための第1の制御情報と、前記モザイクストリップに含まれる最後の画像を前記モザイク面上に投影するための第2の制御情報とを取得し、前記取得した制御情報を用いて、前記最初の画像を前記モザイク面に変換する最初の画像変換行列と、前記最後の画像を前記モザイク面に変換する最後の画像変換行列とを計算し、前記調整要素計算手段によって計算された最初の画像変換行列と、前記行列計算手段によって計算された各画像間の画像変換行列とを用いて、前記最後の画像を前記モザイク面上の画像に変換する第2の画像変換行列とを計算し、前記計算された最後の画像変換行列と、前記計算された第2の画像変換行列との差を回転変換成分と透視変換成分とに分解し、前記分解された回転変換成分の調整要素と透視変換成分の調整要素とを計算する。前記画像投影手段は、前記調整要素計算手段によって計算された最初の画像変換行列と、前記行列計算手段によって計算された各画像間の画像変換行列とを用い、さらに前記計算された調整要素を適用して、前記モザイクストリップに含まれる各画像を前記モザイク面上の画像に変換する画像変換行列を計算し、前記計算された各画像に対する画像変換行列を用いて、前記各画像を前記モザイク面に投影する。
【発明の効果】
【0011】
本発明の一実施形態によると、モザイクストリップの画像の曲がりを緩和することができる。
【発明を実施するための最良の形態】
【0012】
まず、本発明の実施の形態の概要について説明する。
【0013】
本発明の実施形態は、カメラによって撮影された領域の一部が重複する複数の連続した画像を用いてモザイク画像を生成する方法である。本発明の実施の形態では、累積誤差の取り扱いが従来技術とは違って、累積誤差を回転成分と透視変換成分とに分解し、その後、各成分に適切な線形補間を適用する。そのため、各画像は、モザイクストリップが大きな角で曲がっていても、比較的スムーズに、ひっくり返ることなく位置合わせをすることができる。その結果、累積誤差は軽減され、モザイクストリップ全体に均等に分散される。本実施の形態によると、見やすい画像を得ることができ、画像の正しい座標を得ることができる。
【0014】
次に、本発明の実施の形態について、図面を参照して説明する。
【0015】
図1は、本発明の実施の形態の画像合成システムの構成を示すブロック図である。
【0016】
本実施の形態の画像合成システムは、画像記録部11、データ入力部12、画像表示部13、演算部14、記憶部15及び出力部16を備える。
【0017】
画像記録部11は、本画像合成システムによって処理される画像(モザイクストリップ)が格納される記憶装置である。データ入力部12は、操作者からの入力指示を受け付けるユーザインターフェースであり、キーボード及びポインティング装置によって構成される。画像表示部13は、本画像合成システムで処理された画像を表示する表示装置である。
【0018】
演算部14は、CPU等の演算装置を備え、本画像合成システムによる処理を実行する演算装置である。記憶部15は、演算部14によって実行されるプログラム、及びプログラムの実行の際に使用されるデータを格納する記憶装置である。出力部16は、本画像合成システムで処理された画像を他の装置に出力するインターフェースである。
【0019】
図2A及び図2Bは、本発明の実施の形態の画像を合成してモザイク画像を生成する処理のフローチャートである。
【0020】
まず、航空機等から連続して撮影された写真(画像)が順に入力される。入力された画像にはi=1から順に番号が付される。そして、iの初期値を”1”に設定して、画像制御パラメータiに1を加える(S10)。その後、入力された画像から二つの画像(画像i及び画像i−1)を取得する(S11)。
【0021】
次に、画像制御パラメータiが1より大きいかによって、二つの画像(画像2及び画像1)を取得できるかを判定する(S12)。パラメータiが1以下であれば、さらに次の画像を取得するために、処理S10に戻る。一方、パラメータiが1より大きければ、処理S13に進む。
【0022】
次に、画像の特徴点を抽出する(S13)。特徴点の抽出には、キャニーエッジ検出(Canny edge detection)、ハリス角検出(Harris corner detection)等の一般的な画像処理方法を用いることができる。
【0023】
次に、特徴点間の対応関係をテンプレートマッチングを用いることによって導き出す。そして、最小二乗法を用いることによって、画像iから画像i−1への画像変換行列(homography)Miを導き出す(S14)。すなわち、処理S14では、画像i−1がマスター画像となり、画像iがスレーブ画像となる。
【0024】
画像の特徴点の抽出及びマッチングのための方法は、画像の特徴を光学的に探索する、ルーカス・カナデ法(pyramidal implementation of Lucas-Kanade)が、一般的かつ効果的な方法である。また、通常は、画像間の対応していない部分を除去するために、RANSAC法(RANdom SAmple Consensus)が用いられる。
【0025】
そして、画像制御パラメータiがNより大きいかを判定する(S15)。ここで、Nは画像数(画像制御パラメータの最大数)である。パラメータiがN以下であれば、未処理の画像が残っているので、さらに次の画像を取得するために処理S10に戻る。一方、パラメータiがNより大きければ、全ての画像に対する画像変換行列Miの導出が完了しているので、処理S21に進む。このように、最後の画像が処理されて、一連の画像変換行列が導出されるまで、処理が繰り返される。
【0026】
次に、モザイクストリップの曲がりを軽減するために、制御情報によって画像変換行列を調整する。バンドル調整法等の従来技術は、極めて多数の地上基準点を必要とする。そこで、本発明では、最初及び最後の画像の制御情報があるか否かを判定する(S21)。
【0027】
その結果、最初及び最後の画像の制御情報があれば、その制御情報を取り込んで、記憶部15に書き込む(S22)。一方、最初又は最後の少なくとも一つの画像の制御情報がなければ、処理S31に進む。
【0028】
ここで、制御情報とは、図3に示すように、画像中の特徴点とモザイク面(参照面)上の点とを対応させる情報である。操作者は、マウスのようなポインティング装置を用いることによって、モザイク面上の点(例えば、地図上の点)と画像中の点との対応を指定して、制御情報を入力する。なお、透視変換の画像変換行列を求めるためには少なくとも4点が必要とされるので、最初の画像中と最後の画像中とで、各々、四つの特徴点が必要となる。
【0029】
制御情報を取得した後、処理S23では、最初の画像と最後の画像とを、各々モザイク面上の画像に変換する二つの画像変換行列(M1、M_last')を求める。このように、モザイクストリップの両端の画像の画像変換行列を用いることによって、モザイクストリップをあるべき位置に定めることができる。処理S23では、モザイク面上の画像がマスター画像となり、モザイクストリップ上の画像がスレーブ画像となる。
【0030】
モザイク画像の生成における誤差は、モザイクストリップ中の画像の位置合わせ中に生じ、最初の画像から最後の画像へ伝搬する。従って、画像のモザイク化における全ての誤差は累積され、モザイクストリップの最初の画像から最後の画像へ伝搬する。図4に示すように、最後の画像は、行列M_last(M_last=M1×M2×…×Mi×…×Mn)を用いることによって、モザイクストリップ上に変換される。ここで、Mi(i=2〜n)は、画像iから隣接する画像i−1へ変換する画像変換行列である。
【0031】
一方、取得した制御情報から求められた画像変換行列M_last'を用いることによって、最後の画像の地表面における正しい位置を定めることができる。行列M_last'と行列M_lastとの偏差は、累積誤差の合計を示す。累積誤差が連続する画像に適切に補間されるなら、曲がったモザイクストリップは正確な向きに表すことができる。モザイクストリップの曲がりを緩和するためには、行列M_last’と行列M_lastと間のスムーズな計算方法を実行する必要がある。
【0032】
そこで、本発明の実施形態では、画像変換行列を回転変換成分と単純な透視変換成分とに分けて、適切な線形行列補間を可能にする(S24)。
【0033】
透視変換は線形性を保つので、画像枠の2本の対角線の交点は、常に、透視投影の主点(Principle Point)に対応する。主点の位置は、回転変換をしても、透視変換をしても変わらない。図5に示すように、本発明の実施形態は、画像の空間的な方向の定量的な表現形式を導き出す。画像の回転は、基準対角線とX軸との間の角度によって表される。画像の回転を、基準対角線とX軸との間の角度によらず、任意の対角線と任意の軸との間の角によって定義してもよい。
【0034】
図6は、本発明の実施の形態の回転変換と透視変換との演算処理(S24)の詳細を示すフローチャートである。
【0035】
まず、行列M_last(行列M_last=M1×M2×…×Mi×…×Mn)を計算する(S241)。ここで、行列M_lastは、最後の画像をモザイク面上の画像に変換する画像変換行列である。また、行列Miは、画像iから隣接する画像i−1へ変換する画像変換行列である。そして、最後の画像のモザイクストリップへの方位角A1が計算される(S242)。
【0036】
次に、最後の画像の画像変換行列M_last'を求めるために、最後の画像の制御情報を記憶部15から読み出し(S243)、読み出した制御情報に基づいて画像変換行列M_last'を求める(S244)。そして、画像変換行列M_last'を用いて最後の画像を変換し、画像変換行列M_last'を用いて変換された画像のモザイクストリップ上(正確な位置)での方位角A2を求める(S245)。
【0037】
その後、二つの方位角の差Aを求める(S246)。この角度差(A=A2−A1)は、画像投影において累積された誤差の回転成分を表し、また、累積誤差を含んだモザイク面上への投影画像を、地表面(モザイク面)上の正しい位置へ補正するための回転角である。
【0038】
次に、変換行列M_lastをM_rotationと、M_last_tempとの積に分解する。すなわち、最後の画像の画像変換行列は、M_rotationと、M_last_tempとに分解される(S247)。ここで、M_rotationは、回転角Aの回転行列である。M_last_tempは、単純な透視変換行列であり、極めて小さい回転成分しか含まず、安定かつ安全な範囲の線形補間行列である。本実施形態の方法は、このようにして、モザイク面上への画像変換の線形補間を制限し、回転成分が大きい画像変換の補間において画像が1点に集約される欠陥を避けることができる。
【0039】
次に、各画像の回転補正要素M_rotation_iと透視変換補正要素M_perspective_iを求める(S248)。回転補正要素M_rotation_iは、方位角Aiの回転行列であり、Ai=A/(N−1)×(i−1)で定義される。なお、Nは、モザイクストリップ中の画像の数である。透視変換補正要素M_perspective_iは、アレクサ行列(Alexa's matrix )用いて、以下の式1を用いて求められる。
【0040】
【数1】
【0041】
ここで、数式(1)中の演算子は、下記数式(2)及び(3)によって表される。また、、数式(1)中の行列Aは、前記求められた回転角Aだけ回転させる回転変換行列であり、数式(1)中の行列Bは、M_last'である。
【0042】
なお、この透視変換補正要素の導出は、前述した非特許文献2に詳細に記載されている。
【0043】
【数2】
【0044】
【数3】
【0045】
ここで図2Bに戻る。図6に示す処理によって、回転成分と透視変換成分との変換の補正量が導出された後、補正変換行列を用いて各画像を補正する(S25)。各画像の補正処理の詳細を図7に示す。
【0046】
まず、取得した制御情報を使用して求められた画像変換行列M1をM_1と定義する(S251)。ここで、行列M1(M_1)は、最初の画像をモザイク面上の画像に変換する画像変換行列である。
【0047】
次に、画像iについて、回転変換の補正要素M_rotation_iと、透視変換の補正要素M_perspective_iとを求める(S252)。そして、補正要素を変換行列Miに適用し、補正された変換行列M_iを求める(S253)。具体的には、M_i=M_perspective_i×M_rotation_i×Miとなる。ここで、Miは、画像iから画像i−1への変換行列である。また、M_iは、画像iから曲がりを緩和したモザイク面への変換行列である。
【0048】
次に、画像制御パラメータiが1より大きくN以下であるかを判定する(S254)。そして、画像制御パラメータiが1より大きくN以下であれば、まだ変換行列を求めるべき画像があるので、処理S252に戻り、処理を繰り返す。一方、画像制御パラメータiが所定の範囲を超えていれば、全ての画像の変換行列が求まっているので、この処理を終了し、処理S31に進む。
【0049】
補正された変換行列M_iを適用することによって、全ての画像に誤差を補正した回転変換成分の正確な合計と透視変換成分の正確な合計とが適用されて、それらが変換される。それによって、モザイクストリップの曲がりは緩和され、見やすい画像を得ることができ、画像の正しい座標を得ることができる。
【0050】
図4、図5は、本発明の実施の形態による実施の形態による画像変換を示す。
【0051】
モザイク画像の生成における誤差は、不正確な処理によって、画像の位置合わせ中に生じ、モザイクストリップの最初の画像から最後の画像へ伝搬する。従って、画像のモザイク化における全ての誤差は累積され、モザイクストリップの最後の画像に伝搬する。図4に示すように、最後の画像は、行列M_last=M1×M2×…Mi×…Mnを用いることによって、モザイクストリップに変換される。ここで、Miは、画像iから画像i−1へ変換する画像変換行列である。一方、利用可能な制御情報、例えば、与えられた四つの地上基準点から求めることができる画像変換行列M_last'を用いることによって、最後の画像の地表面における正しい位置を定めることができる。
【0052】
また、本発明は、地上基準点の要件を、最初の画像及び最後の画像において所与の制御情報のみを用いる最小レベルまで低減する。すなわち、従来の方法では数百の地上基準点が必要であったのに対し、最初の画像及び最後の画像のそれぞれのために四つの基準点、全部で八つの地上基準点が最低限必要である。これら八つの与えられた基準点を用いることによって、モザイクストリップの両端を、正しい位置を定めることができ、曲がったモザイクストリップの最後の画像とその正しい位置とのズレを計算することができる。
【0053】
行列M_last'と行列M_lastとの偏差は、累積誤差の合計を示す。累積誤差が連続する個々の画像に適切に補間されるなら、曲がったモザイクストリップは正確な向きに表す。従って、モザイクの曲がりをどのように緩和するかという問題は、行列M_last'と行列M_lastとの間のスムーズな計算方法をどのように実行するかという問題である。本発明は、ステップS24において、画像変換行列を回転変換成分と単純な透視変換成分とに分けて、適切な線形行列補間を可能にする。
【0054】
次に、ここまで説明した処理によって画像がどのように変化する過程について、図4を参照して説明する。
【0055】
最初の画像(画像1)の制御情報を用いて、モザイク面上への射影行列(画像変換行列)M1が計算される。同様に、最後の画像(画像n)の制御情報を用いて、モザイク面上への射影行列M_last'が計算される。連続した画像間は、各画像間の特徴点を用いて、各画像間の変換行列M2〜Mnが計算される。Miは、図4に示すように、画像iから画像i−1への変換行列である。
【0056】
これらの画像変換行列から、モザイクストリップを画像1から順に辿って、各画像をモザイク面上に投影する射影行列M_iを求めることができる(M_i=M1×M2×…×Mi)。同様に、モザイクストリップを画像1から順に辿って、画像nをモザイク面上に投影する射影行列M_lastを求める(M_last=M1×M2×…×Mn)。
【0057】
画像nについて求められた二つの射影行列M_last'とM_lastとの間の差を求め、この差を線形補間することによって、各画像のモザイク面への射影行列M_iを補正する。このとき、射影行列M_last'とM_lastとの差は回転変換成分と透視変換成分とに分解される。そして、図5に示すように、分解された回転変換成分M_rotationと透視変換成分M_perspectiveとの各々が線形補間される。
【0058】
回転成分は、射影行列M_lastを用いてモザイク面上に投影された画像nの方位A1と、射影行列M_last'を用いてモザイク面上に投影された画像nの方位A2との角度差Aを、画像の間隔で等分して、回転変換成分の線形補正量を求める。
【0059】
求められた射影行列M1、M_i(i=2〜n−1)、M_last'を用いて各画像(画像1〜画像n)をモザイク面上に投影する。その後、モザイク面上に投影された各画像の所定の軸からの方位角を求める。そして、求められた回転変換成分の補正量を、各画像の方位角に加えることによって、モザイク面上に投影された各画像の回転変換成分が補正される。
【0060】
その後、前述した数式(1)を用いて、各画像の透視変換成分の補正量が計算される。
【0061】
通常の線形補間モデルは、以下の数式(4)によって与えられる。
【0062】
【数4】
【0063】
二つの状態A、B間の直接的な補間によって、モザイクストリップの一端からもう一端へ最短経路に沿って徐々に画像変換がなされる。それは、3次元透視画像変換について大きな回転が存在する場合、中間画像を裏返してしまう。さらに、数式(4)を行列に直接適用することはできない。アレクサ行列は、行列の任意の線形結合を生成する方法を提供する。アレクサ法において展開される数式(2)及び(3)によって示される二つの演算子は、行列の対数及び指数関数を用いて演算される。数式(2)によって示される演算子は画像変換行列のスカラー乗算を実施し、数式(3)によって示される演算子は、この演算子が可換であることを除いては行列乗算に類似している。
【0064】
行列の線形補間のために、数式(2)及び(3)に示す演算子に基づいて、数式(4)を数式(5)のように書き直すことができ、曲がったストリップの補正モデルが得られる。
【0065】
【数5】
【0066】
あるケースでは、数式(5)を直接適用することによって調整行列を生成することができる。しかし、不都合なことに、あるケースではアレクサ法は不安定である。一様でない縮尺と組み合わされる回転変換成分が90度以上の多くの画像変換において、行列の平方根は収束できない。従って、まず画像変換を、回転変換成分と透視変換成分とに分けて、回転変換成分に数式(4)を適用し、アレクサ法を前記の透視変換成分のみに適用する。そして、これが常に安定かつ安全な範囲で確実に機能するようにする。
【0067】
図5に示すように、最後の画像(状態A)は、行列M_lastを用いることによってモザイクストリップ中の画像(状態B)に変換され、一方、与えられた基準点から導出される画像変換行列M_last'を用いることによって、その地表面における正確な位置(状態D)が定められる。状態Bと状態Dとの位置及び形状における差は、累積誤差を示す。前述したように、画像変換のスキームを状態Bから状態Dへスムーズに進行することによって、累積誤差が緩和されるように、各画像に適切に分散する必要がある。まず、状態Bの画像をある角度だけ回転させ、状態Dの画像と概ね同じ向きを有する状態Cの画像を得る。そして、アレクサ法を適用して状態Cを状態Dに線形補間する。このように、回転変換成分は状態Cから状態Dでは常に非常に小さく、アレクサ法が安全かつ確実に機能するようにする。
【0068】
撮影対象が平坦であればカメラの光軸は撮影対象に対して垂直であり、透視投影の主点(PP)は画像フレームの中心に対応していると仮定される。このため、二つの対角線の交点はほぼ主点となる。また、透視投影は、透視投影後の画像においても線の直線性を保つ。このため、画像フレームの二つの対角線の交点は常に主点に対応する。
【0069】
図5において、対角線a−c、a'−c'及びa"−c"を主要な対角線とし、b−d、b'−d'及びb"−d"を補助的な対角線とす。画像の向きは、本明細書においては主要な対角線とx軸との間の角として定義されるが、任意の対角線と任意の軸との間の角であってもよい。なお、両者の間の一貫性を維持するために変換が必要とされる。画像の向きが定められると、回転角は単純にそれらの向きの差によって計算することができる。本発明では、図5に示すように、定量的な表現形式を導出し、画像の空間的な向きを説明する。
【0070】
次に、本発明の実施の形態の効果について説明する。
【0071】
本発明の実施の形態では、最初の画像の制御情報と最後の画像の制御情報とのみを用いて、画像を投影してモザイク画像を作成する際の画像(モザイクストリップ)の曲がりを効果的に緩和することができる。
【0072】
図8は、本発明の実施の形態の変換行列でモザイク画像を合成する様子を示す説明図である。本発明のコンセプトについて、図8を用いて説明する。
【0073】
モザイクストリップの両端は最初の画像と最後の画像である。本発明の実施の形態では、累積誤差のによるモザイクストリップの曲がりを緩和するために、最初の画像の制御情報と最後の画像の制御情報とを用いる。すなわち、最後の画像の制御情報を用いることによって、画像を投影してモザイク画像を作るときの累積誤差は、曲がったモザイクストリップの最後の画像の地表面における正確な位置とのズレから求められる。本発明の変換行列の補間方法によると、累積誤差はモザイクストリップ全体に均等に分散され、モザイクストリップの曲がりは効果的に緩和される。
【0074】
図9は、本発明の実施の形態の補間された行列による変換と、従来の画像変換とを対比して示す。
【0075】
本発明の方法では、変換を回転変換成分と透視変換成分とに分解する。これに対し、
従来の直接的な補間方法(例えば、バンドル調整法)では、大きく曲がったモザイクストリップを扱うことができない。すなわち、従来の方法では、累積誤差の平均を求めることはできず、中間の画像は裏返ってしまい、建物は線上さらには点上に倒れてしまう。
【0076】
これに対し、本発明の方法では、変換を回転変換成分と透視変換成分とに分解する。これによって、モザイク面上への画像変換の線形補間を制限し、累積誤差を均等に分散することができる。
【0077】
図10は、回転角が大きい場合の、本発明の実施の形態の補間された行列による変換と、従来の画像変換とを対比して示す。
【0078】
図10によると、回転角が大きい場合には、従来の方法による画像変換では中間の画像が裏返ってしまうが、本発明の方法によると中間の画像が裏返ることない。
【0079】
近年、多数の広範囲な画像を容易に得ることできる。様々な一般的なデジタルカメラやポータブルビデオカメラ(個人ユーザが使用するレベルのもの)を用いることによって、調査、工学技術及び娯楽の分野で、このような画像処理が適用されている。本発明は、従来技術と異なる方法によって、一つの画像(又は、フレーム)から広い視野の画像を作るために、高速に画像を投影してモザイク画像を得るものである。本発明は、画像変換のための適切な線形補間を得るために、画像変換を回転成分と単純な透視変換成分とに分解する。
【0080】
モザイク画像を作成する過程で生じる累積誤差によってモザイク画像は曲げられるが、本発明によると、累積誤差はモザイクストリップ全体に均等に分散される。そのため、モザイクストリップの曲がりは効果的に緩和され、見やすい画像を得ることができる。また、画像の正しい座標を得ることができる。
【0081】
本発明は、おおまかな結果しか提供されない撮影システム(例えば、無人飛行機(UAV:Unmanned Aerial Vehicle)、小型無人飛行機(MAV:Micro Aerial Vehicle)等)によって撮影された画像からのモザイク画像の作成において有効な方法である。そして、本発明は、センサ(カメラ)の姿勢についての情報が十分に提供されない、一般的なデジタルカメラやポータブルビデオカメラ等の撮影システムにも好適である。
【図面の簡単な説明】
【0082】
【図1】本発明の実施の形態の画像合成システムの構成を示すブロック図である。
【図2A】本発明の実施の形態のモザイク画像生成処理のフローチャートである
【図2B】本発明の実施の形態のモザイク画像生成処理のフローチャートである
【図3】本発明の実施の形態の入出力される情報を示す説明図である。
【図4】本発明の実施の形態による画像変換を示す説明図である。
【図5】本発明の実施の形態による画像変換を示す説明図である。
【図6】本発明の実施の形態の回転変換と透視変換との計算処理の詳細を示すフローチャートである。
【図7】本発明の実施の形態の補正後の画像変換行列の計算処理の詳細を示すフローチャートである。
【図8】本発明の実施の形態の変換行列でモザイク画像を合成する様子を示す説明図である。
【図9】本発明の実施の形態の補間された行列による変換と、従来の画像変換とを対比した説明図である。
【図10】回転角度が大きい場合の、本発明の実施の形態の補間された行列による変換と、従来の画像変換とを対比した説明図である。
【符号の説明】
【0083】
11 画像記録部
12 データ入力部
13 画像表示部
14 演算部
15 記憶部
16 出力部
【特許請求の範囲】
【請求項1】
領域の一部が重複する複数の連続した画像を合成してモザイク画像を生成するシステムであって、
前記複数の連続した画像を記憶する記憶部と、
前記記憶部に記憶された画像の制御情報を取得する入力部と、
計算結果をモザイク画像として表示する表示部と、
必要な演算を行う演算部と、
前記演算のための情報を記憶するメモリと、
生成されたモザイク画像を出力する出力部と、を備え、
前記演算部は、
前記複数の連続した二つの隣接する各画像間の画像変換行列を計算する行列計算手段と、
前記計算された画像変換行列の調整要素を計算する調整要素計算手段と、
前記計算された調整要素が適用された画像変換行列を用いて、各画像をモザイク面に投影する画像投影手段と、を備え、
前記行列計算手段は、
前記複数の連続した画像から隣接する二つの画像を取得し、
前記取得した二つの画像から対応する特徴点を抽出し、
前記対応する特徴点間の偏差の合計を最小化するように、隣接する各画像間の画像変換行列を計算し、
前記調整要素計算手段は、
前記計算された画像変換行列の調整要素を生成し、
モザイクストリップに含まれる最初の画像を所定のモザイク面上に投影するための第1の制御情報と、前記モザイクストリップに含まれる最後の画像を前記モザイク面上に投影するための第2の制御情報とを取得し、
前記取得した制御情報を用いて、前記最初の画像を前記モザイク面に変換する最初の画像変換行列と、前記最後の画像を前記モザイク面に変換する最後の画像変換行列とを計算し、
前記調整要素計算手段によって計算された最初の画像変換行列と、前記行列計算手段によって計算された各画像間の画像変換行列とを用いて、前記最後の画像を前記モザイク面上の画像に変換する第2の画像変換行列とを計算し、
前記計算された最後の画像変換行列と、前記計算された第2の画像変換行列との差を回転変換成分と透視変換成分とに分解し、
前記分解された回転変換成分の調整要素と透視変換成分の調整要素とを計算し、
前記画像投影手段は、
前記調整要素計算手段によって計算された最初の画像変換行列と、前記行列計算手段によって計算された各画像間の画像変換行列とを用い、さらに前記計算された調整要素を適用して、前記モザイクストリップに含まれる各画像を前記モザイク面上の画像に変換する画像変換行列を計算し、
前記計算された各画像に対する画像変換行列を用いて、前記各画像を前記モザイク面に投影することを特徴とするモザイク画像生成システム。
【請求項2】
請求項1に記載のモザイク画像生成システムであって、
前記第1の制御情報は、前記最初の画像を前記モザイク面上の正しい位置へ投影するための情報であって、
前記第2の制御情報は、前記最後の画像を前記モザイク面上の正しい位置へ投影するための情報であって、前記モザイク面上に画像を投影する際に生じる累積誤差を全モザイクストリップ上の画像に分散するために用いられることを特徴とする。
【請求項3】
請求項1に記載のモザイク画像生成システムであって、
前記調整要素計算手段は、
前記最後の画像変換行列による前記最後の画像の方位角(A1)を計算し、
前記第2の画像変換行列による前記最後の画像の方位角(A2)を計算し、
前記計算された方位角の差によって回転角(A=A2−A1)を計算し、
前記計算された回転角(A)を、前記モザイクストリップ上の各画像の間の数(N−1)で除した回転角の変化量(A’=A/(N−1))を計算し、
その後、前記計算された回転角の変化量を回転変換成分の調整要素として使用し、透視変換行列を計算することを特徴とする。
【請求項4】
請求項3に記載のモザイク画像生成システムであって、
前記調整要素計算手段は、
前記画像の四つの頂点の座標を求め、
前記画像の二つの対角線の交点を原点と定め、
前記原点を通る任意の軸を定め、
前記定められた原点に対し、前記定められた一つの対角線と前記定められた軸との間の角を計算し、前記画像の方位角とすることを特徴とする。
【請求項5】
請求項1に記載のモザイク画像生成システムであって、
前記調整要素計算手段は、
下記数式(1)によって透視変換成分を計算することを特徴とする。
【数1】
なお、数式(1)中の演算子は、下記数式(2)及び(3)によって表される。また、、数式(1)中の行列Aは、前記計算された回転角Aを回転させる回転変換行列であり、数式(1)中の行列Bは、前記第2の画像変換行列である。
【数2】
【数3】
【請求項6】
計算機を用いて、領域の一部が重複する複数の連続した画像を合成してモザイク画像を生成する方法であって、
前記複数の連続した二つの隣接する各画像間の画像変換行列を計算する第1のステップと、
前記計算された画像変換行列の調整要素を計算する第2のステップと、
前記計算された調整要素が適用された画像変換行列を用いて、各画像をモザイク面に投影する第3のステップと、を含み、
前記第1のステップは、
前記複数の連続した画像から隣接する二つの画像を取得するステップと、
前記取得した二つの画像から対応する特徴点を抽出するステップと、
前記対応する特徴点間の偏差の合計を最小化するように、隣接する各画像間の画像変換行列を計算するステップと、を含み、
前記第2のステップは、
前記計算された画像変換行列の調整要素を生成するステップと、
モザイクストリップに含まれる最初の画像を所定のモザイク面上に投影するための第1の制御情報と、前記モザイクストリップに含まれる最後の画像を前記モザイク面上に投影するための第2の制御情報とを取得するステップと、
前記取得した制御情報を用いて、前記最初の画像を前記モザイク面に変換する最初の画像変換行列と、前記最後の画像を前記モザイク面に変換する最後の画像変換行列とを計算するステップと、
前記第2のステップで計算された最初の画像変換行列と、前記第1のステップで計算された各画像間の画像変換行列とを用いて、前記最後の画像を前記モザイク面上の画像に変換する第2の画像変換行列とを計算するステップと、
前記計算された最後の画像変換行列と、前記計算された第2の画像変換行列との差を回転変換成分と透視変換成分とに分解するステップと、
前記分解された回転変換成分の調整要素と透視変換成分の調整要素とを計算するステップと、を含み
前記第3のステップは、
前記第2のステップで計算された最初の画像変換行列と、前記第1のステップで計算された各画像間の画像変換行列とを用い、さらに前記計算された調整要素を適用して、前記モザイクストリップに含まれる各画像を前記モザイク面上の画像に変換する画像変換行列を計算するステップと、
前記計算された各画像に対する画像変換行列を用いて、前記各画像を前記モザイク面に投影するステップと、を含むことを特徴とするモザイク画像生成方法。
【請求項7】
請求項6に記載のモザイク画像生成方法であって、
前記第1の制御情報は、前記最初の画像を前記モザイク面上の正しい位置へ投影するための情報であって、
前記第2の制御情報は、前記最後の画像を前記モザイク面上の正しい位置へ投影するための情報であって、前記モザイク面上に画像を投影する際に生じる累積誤差を全モザイクストリップ上の画像に分散するために用いられることを特徴とする。
【請求項8】
請求項6に記載のモザイク画像生成方法であって、
回転変換成分と透視変換成分毎に調整要素を計算するステップでは、
前記最後の(last)画像変換行列による前記最後の画像の方位角(A1)を計算し、
前記第2の画像変換行列による前記最後の画像の方位角(A2)を計算し、
前記計算された方位角の差(A=A2−A1)を計算し、
前記計算された回転角(A)を、前記モザイクストリップ上の各画像の間の数(N−1)で除した回転角の変化量(A’=A/(N−1))を計算し、
その後、前記計算された回転角の変化量を回転変換成分の調整要素として使用し、透視変換行列の増分を計算することを特徴とする。
【請求項9】
請求項8に記載のモザイク画像生成方法であって、
最後の画像の方位角を計算するステップでは、
変換されたイメージの四つの頂点の座標を求め、
二つの対角線の交点を原点と定め、
前記原点を通る任意の軸を定め、
前記定められた一つの対角線と前記定められた軸との間の角を計算し、
前記画像の方位角は、前記定められた原点に対し、前記定められた一つの対角線と前記定められた軸との間の角とであることを特徴とする。
【請求項10】
請求項6に記載のモザイク画像生成方法であって、
回転変換成分と透視変換成分毎に調整要素を計算するステップでは、
下記数式(1)によって透視変換成分を計算することを特徴とする。
【数4】
なお、数式(1)中の演算子は、下記数式(2)及び(3)によって表される。また、、数式(1)中の行列Aは、前記計算された回転角Aを回転させる回転変換行列であり、数式(1)中の行列Bは、前記第2の画像変換行列である。
【数5】
【数6】
【請求項1】
領域の一部が重複する複数の連続した画像を合成してモザイク画像を生成するシステムであって、
前記複数の連続した画像を記憶する記憶部と、
前記記憶部に記憶された画像の制御情報を取得する入力部と、
計算結果をモザイク画像として表示する表示部と、
必要な演算を行う演算部と、
前記演算のための情報を記憶するメモリと、
生成されたモザイク画像を出力する出力部と、を備え、
前記演算部は、
前記複数の連続した二つの隣接する各画像間の画像変換行列を計算する行列計算手段と、
前記計算された画像変換行列の調整要素を計算する調整要素計算手段と、
前記計算された調整要素が適用された画像変換行列を用いて、各画像をモザイク面に投影する画像投影手段と、を備え、
前記行列計算手段は、
前記複数の連続した画像から隣接する二つの画像を取得し、
前記取得した二つの画像から対応する特徴点を抽出し、
前記対応する特徴点間の偏差の合計を最小化するように、隣接する各画像間の画像変換行列を計算し、
前記調整要素計算手段は、
前記計算された画像変換行列の調整要素を生成し、
モザイクストリップに含まれる最初の画像を所定のモザイク面上に投影するための第1の制御情報と、前記モザイクストリップに含まれる最後の画像を前記モザイク面上に投影するための第2の制御情報とを取得し、
前記取得した制御情報を用いて、前記最初の画像を前記モザイク面に変換する最初の画像変換行列と、前記最後の画像を前記モザイク面に変換する最後の画像変換行列とを計算し、
前記調整要素計算手段によって計算された最初の画像変換行列と、前記行列計算手段によって計算された各画像間の画像変換行列とを用いて、前記最後の画像を前記モザイク面上の画像に変換する第2の画像変換行列とを計算し、
前記計算された最後の画像変換行列と、前記計算された第2の画像変換行列との差を回転変換成分と透視変換成分とに分解し、
前記分解された回転変換成分の調整要素と透視変換成分の調整要素とを計算し、
前記画像投影手段は、
前記調整要素計算手段によって計算された最初の画像変換行列と、前記行列計算手段によって計算された各画像間の画像変換行列とを用い、さらに前記計算された調整要素を適用して、前記モザイクストリップに含まれる各画像を前記モザイク面上の画像に変換する画像変換行列を計算し、
前記計算された各画像に対する画像変換行列を用いて、前記各画像を前記モザイク面に投影することを特徴とするモザイク画像生成システム。
【請求項2】
請求項1に記載のモザイク画像生成システムであって、
前記第1の制御情報は、前記最初の画像を前記モザイク面上の正しい位置へ投影するための情報であって、
前記第2の制御情報は、前記最後の画像を前記モザイク面上の正しい位置へ投影するための情報であって、前記モザイク面上に画像を投影する際に生じる累積誤差を全モザイクストリップ上の画像に分散するために用いられることを特徴とする。
【請求項3】
請求項1に記載のモザイク画像生成システムであって、
前記調整要素計算手段は、
前記最後の画像変換行列による前記最後の画像の方位角(A1)を計算し、
前記第2の画像変換行列による前記最後の画像の方位角(A2)を計算し、
前記計算された方位角の差によって回転角(A=A2−A1)を計算し、
前記計算された回転角(A)を、前記モザイクストリップ上の各画像の間の数(N−1)で除した回転角の変化量(A’=A/(N−1))を計算し、
その後、前記計算された回転角の変化量を回転変換成分の調整要素として使用し、透視変換行列を計算することを特徴とする。
【請求項4】
請求項3に記載のモザイク画像生成システムであって、
前記調整要素計算手段は、
前記画像の四つの頂点の座標を求め、
前記画像の二つの対角線の交点を原点と定め、
前記原点を通る任意の軸を定め、
前記定められた原点に対し、前記定められた一つの対角線と前記定められた軸との間の角を計算し、前記画像の方位角とすることを特徴とする。
【請求項5】
請求項1に記載のモザイク画像生成システムであって、
前記調整要素計算手段は、
下記数式(1)によって透視変換成分を計算することを特徴とする。
【数1】
なお、数式(1)中の演算子は、下記数式(2)及び(3)によって表される。また、、数式(1)中の行列Aは、前記計算された回転角Aを回転させる回転変換行列であり、数式(1)中の行列Bは、前記第2の画像変換行列である。
【数2】
【数3】
【請求項6】
計算機を用いて、領域の一部が重複する複数の連続した画像を合成してモザイク画像を生成する方法であって、
前記複数の連続した二つの隣接する各画像間の画像変換行列を計算する第1のステップと、
前記計算された画像変換行列の調整要素を計算する第2のステップと、
前記計算された調整要素が適用された画像変換行列を用いて、各画像をモザイク面に投影する第3のステップと、を含み、
前記第1のステップは、
前記複数の連続した画像から隣接する二つの画像を取得するステップと、
前記取得した二つの画像から対応する特徴点を抽出するステップと、
前記対応する特徴点間の偏差の合計を最小化するように、隣接する各画像間の画像変換行列を計算するステップと、を含み、
前記第2のステップは、
前記計算された画像変換行列の調整要素を生成するステップと、
モザイクストリップに含まれる最初の画像を所定のモザイク面上に投影するための第1の制御情報と、前記モザイクストリップに含まれる最後の画像を前記モザイク面上に投影するための第2の制御情報とを取得するステップと、
前記取得した制御情報を用いて、前記最初の画像を前記モザイク面に変換する最初の画像変換行列と、前記最後の画像を前記モザイク面に変換する最後の画像変換行列とを計算するステップと、
前記第2のステップで計算された最初の画像変換行列と、前記第1のステップで計算された各画像間の画像変換行列とを用いて、前記最後の画像を前記モザイク面上の画像に変換する第2の画像変換行列とを計算するステップと、
前記計算された最後の画像変換行列と、前記計算された第2の画像変換行列との差を回転変換成分と透視変換成分とに分解するステップと、
前記分解された回転変換成分の調整要素と透視変換成分の調整要素とを計算するステップと、を含み
前記第3のステップは、
前記第2のステップで計算された最初の画像変換行列と、前記第1のステップで計算された各画像間の画像変換行列とを用い、さらに前記計算された調整要素を適用して、前記モザイクストリップに含まれる各画像を前記モザイク面上の画像に変換する画像変換行列を計算するステップと、
前記計算された各画像に対する画像変換行列を用いて、前記各画像を前記モザイク面に投影するステップと、を含むことを特徴とするモザイク画像生成方法。
【請求項7】
請求項6に記載のモザイク画像生成方法であって、
前記第1の制御情報は、前記最初の画像を前記モザイク面上の正しい位置へ投影するための情報であって、
前記第2の制御情報は、前記最後の画像を前記モザイク面上の正しい位置へ投影するための情報であって、前記モザイク面上に画像を投影する際に生じる累積誤差を全モザイクストリップ上の画像に分散するために用いられることを特徴とする。
【請求項8】
請求項6に記載のモザイク画像生成方法であって、
回転変換成分と透視変換成分毎に調整要素を計算するステップでは、
前記最後の(last)画像変換行列による前記最後の画像の方位角(A1)を計算し、
前記第2の画像変換行列による前記最後の画像の方位角(A2)を計算し、
前記計算された方位角の差(A=A2−A1)を計算し、
前記計算された回転角(A)を、前記モザイクストリップ上の各画像の間の数(N−1)で除した回転角の変化量(A’=A/(N−1))を計算し、
その後、前記計算された回転角の変化量を回転変換成分の調整要素として使用し、透視変換行列の増分を計算することを特徴とする。
【請求項9】
請求項8に記載のモザイク画像生成方法であって、
最後の画像の方位角を計算するステップでは、
変換されたイメージの四つの頂点の座標を求め、
二つの対角線の交点を原点と定め、
前記原点を通る任意の軸を定め、
前記定められた一つの対角線と前記定められた軸との間の角を計算し、
前記画像の方位角は、前記定められた原点に対し、前記定められた一つの対角線と前記定められた軸との間の角とであることを特徴とする。
【請求項10】
請求項6に記載のモザイク画像生成方法であって、
回転変換成分と透視変換成分毎に調整要素を計算するステップでは、
下記数式(1)によって透視変換成分を計算することを特徴とする。
【数4】
なお、数式(1)中の演算子は、下記数式(2)及び(3)によって表される。また、、数式(1)中の行列Aは、前記計算された回転角Aを回転させる回転変換行列であり、数式(1)中の行列Bは、前記第2の画像変換行列である。
【数5】
【数6】
【図1】
【図2A】
【図2B】
【図3】
【図5】
【図6】
【図7】
【図8】
【図9】
【図4】
【図10】
【図2A】
【図2B】
【図3】
【図5】
【図6】
【図7】
【図8】
【図9】
【図4】
【図10】
【公開番号】特開2009−134509(P2009−134509A)
【公開日】平成21年6月18日(2009.6.18)
【国際特許分類】
【出願番号】特願2007−310063(P2007−310063)
【出願日】平成19年11月30日(2007.11.30)
【出願人】(000005108)株式会社日立製作所 (27,607)
【Fターム(参考)】
【公開日】平成21年6月18日(2009.6.18)
【国際特許分類】
【出願日】平成19年11月30日(2007.11.30)
【出願人】(000005108)株式会社日立製作所 (27,607)
【Fターム(参考)】
[ Back to top ]