画像処理装置、画像処理方法、および、画像処理プログラム
【課題】複数の画像から高解像度画像を生成する画像処理における処理時間の短縮。
【解決手段】CPU200は、基準画像f_refにおいて所定の特徴を有する特徴領域TAを決定する。CPU200は、対象画像f(a)(a=1,2,3)において、特徴領域TAに対応する対応特徴領域CAを設定する。そして、CPU200は、特徴領域TAと対応特徴領域CAの画像データ(例えば、特徴的部位を構成する特徴画素および特徴画素と対応する対応特徴画素)に基づいて、対象画像f(a)の基準画像f_refに対する被写体の位置ずれを補正する補正量を、対象画像f(a)(a=1,2,3)のそれぞれについて算出する。CPU200は、算出された補正量に基づいて、位置ずれを補正すると共に、補正された複数の画像データ(基準画像f_refおよび対象画像f(a)(a=1,2,3)を表す画像データ)を合成して、高解像度画像データを生成する。
【解決手段】CPU200は、基準画像f_refにおいて所定の特徴を有する特徴領域TAを決定する。CPU200は、対象画像f(a)(a=1,2,3)において、特徴領域TAに対応する対応特徴領域CAを設定する。そして、CPU200は、特徴領域TAと対応特徴領域CAの画像データ(例えば、特徴的部位を構成する特徴画素および特徴画素と対応する対応特徴画素)に基づいて、対象画像f(a)の基準画像f_refに対する被写体の位置ずれを補正する補正量を、対象画像f(a)(a=1,2,3)のそれぞれについて算出する。CPU200は、算出された補正量に基づいて、位置ずれを補正すると共に、補正された複数の画像データ(基準画像f_refおよび対象画像f(a)(a=1,2,3)を表す画像データ)を合成して、高解像度画像データを生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理に関し、特に、比較的低解像度の複数の画像データから高解像度の画像データを生成する技術に関する。
【背景技術】
【0002】
デジタルビデオカメラで生成された動画像データを構成するフレーム画像や、デジタルスチルカメラによって連続撮影された画像データのように、時系列に並ぶ複数の近似した画像データが取得される場合がある。これらの近似した複数の画像データを元画像データとして、元画像データより高解像度の画像データを生成する技術が知られている(例えば、特許文献1)。
【0003】
【特許文献1】特開2004−88616号公報
【特許文献2】特開平11−164264号公報
【特許文献3】特開2000−244851号公報
【0004】
上記技術では、例えば、元画像データとして、動画像データを構成する連続する複数のフレーム画像を用いる場合において、フレーム画像の画像データを解析して、各フレーム画像間に生じている被写体の位置ずれを算出する。そして、算出した位置ずれに基づいて、各フレーム画像を重ね合わせて、高解像度の画像データを生成している。
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、上記技術では、被写体のずれを算出する負荷が大きく、処理時間がかかるという問題があった。すなわち、合成する領域内の全画素データを解析して、それぞれのフレーム画像間の画素の対応関係を算出して、被写体の位置ずれを合わせているため、特に合成する領域が大きい場合や、被写体の位置ずれが大きい場合には、膨大な処理時間を要する場合があった。
【0006】
また、位置ずれの算出精度を向上するため、被写体の回転成分のずれも考慮すると、さらに、多くの処理時間を要するため、位置ずれの算出処理時間の短縮が課題となっていた。
【0007】
本発明は、上記課題を解決するためになされたものであり、複数の画像データに基づいてより高解像度の画像データを生成する場合に、その処理時間の短縮を図ることを目的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するために本発明の第1の態様は、それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理装置を提供する。本発明の第1の態様に係る画像処理装置は、前記複数の画像データを取得する画像データ取得手段と、前記複数の画像データのうち、基準となる画像データが表す基準画像において、所定の特徴を有する特徴領域を決定する特徴領域決定手段と、前記複数の画像データのうち、前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴領域に対応する対応特徴領域を設定する対応特徴領域設定手段と、前記特徴領域と前記対応特徴領域の画像データに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出する補正量算出手段と、前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する高解像度画像データ生成手段とを備えることを特徴とする。
【0009】
本発明の第1の態様に係る画像処理装置によれば、時系列に並ぶ複数の画像データを合成して高解像度画像データを生成する際に、基準となる画像データが表す画像(以下、基準画像という。)において、所定の特徴を有する特徴領域を決定する。さらに、基準となる画像データ以外の画像データが表す画像(以下、対象画像という。)において、上述した特徴領域に対応する対応特徴領域を設定する。そして、対象画像の基準画像に対する被写体の位置ずれを補正する補正量(以下、単に補正量という。)を、特徴領域と対応特徴領域の画像データに基づいて算出する。対象画像と基準画像の全画像データを用いることなく、一部の領域の画像データを用いることで、補正量の算出に要する処理時間の短縮および処理負荷の軽減が図られる。また、一部の領域は、所定の特徴を有する特徴領域であるので、一部の領域の画像データを用いるのみであっても、精度が劣ることもない。
【0010】
本発明の第1の態様に係る画像処理装置において、前記特徴領域の決定は、前記基準となる画像データを解析して前記所定の特徴を抽出することによって実行されても良い。画像データの解析により適切な特徴領域を抽出することができる。
【0011】
本発明の第1の態様に係る画像処理装置は、さらに、前記基準画像を構成する画素であって、画像の特徴的部位を構成する特徴画素を抽出する特徴画素抽出手段を備え、前記特徴領域の抽出は、前記基準画像において、前記特徴画素を含む領域を前記特徴領域と決定することによって実行されても良い。特徴画素を抽出し、特徴画素を含む領域を特徴領域と決定することで、適切な特徴領域を抽出することができる。
【0012】
本発明の第1の態様に係る画像処理装置において、前記特徴領域は、基準数以上の前記特徴画素を含む領域、または、検出された全ての前記特徴画素のうち基準割合以上の前記特徴画素を含む領域であっても良く、前記特徴領域は、抽出された前記特徴画素全体の重心が中心に位置する領域であっても良い。かかる場合には、特徴画素が多く分布する領域を特徴領域とすることで、より補正量の算出に用いるのに適した特徴領域を抽出することができる。
【0013】
本発明の第1の態様に係る画像処理装置は、さらに、前記特徴領域に含まれる前記特徴画素に対応する対応特徴画素を、それぞれの対象画像における前記対応特徴領域において検出する対応特徴画素検出手段を備え、前記補正量は、前記特徴画素の位置と、前記特徴画素に対応する前記対応特徴画素の位置とに基づいて算出されても良い。かかる場合には、特徴領域に含まれる特徴画素の位置と、対応する対応特徴画素の位置に基づいて、補正量を算出するので、算出に考慮するデータ量をさらに大幅に低減でき、補正量の算出に要する処理時間の短縮および処理負荷の軽減が図られる。
【0014】
発明の第1の態様に係る画像処理装置は、さらに、前記特徴領域に含まれる前記特徴画素に対応する対応特徴画素を、それぞれの対象画像における前記対応特徴領域において検出する対応特徴画素検出手段を備え、前記補正量算出手段は、前記特徴画素の位置と、前記特徴画素に対応する前記対応特徴画素の位置とに基づいて推定される第1の補正量を算出する第1の補正量算出手段と、前記特徴領域を構成する画素の画素値と前記対応特徴領域を構成する画素の画素値とを解析して推定される第2の補正量を、前記第1の補正量を初期値に用いて算出する第2の補正量算出手段とを備えても良い。第1の補正量は、特徴画素および対応特徴画素の位置に基づいて算出されるので、算出に考慮するデータ量が少なく、算出にかかる処理負荷が小さい。さらに、第1の補正量を初期値に用いるため、第2の補正量として算出すべき補正量が小さくなり、第2の補正量の算出にかかる処理負荷が小さくなる。したがって、全体として補正量の算出にかかる処理時間の短縮および処理負荷の軽減を図ることができる。
【0015】
本発明の第1の態様に係る画像処理装置において、前記第1の補正量の算出は、前記複数の画像データが表す画像を構成する画素単位の精度で実行され、前記第2の補正量の算出は、前記複数の画像データが表す画像を構成する画素単位より細かい精度で実行されても良い。かかる場合には、まず、第1の補正量として画素単位の精度の補正量が算出され、最終的に、第2の補正量として画素単位より細かい精度(いわゆるサブピクセルレベルの精度)の補正量が算出される。この結果、処理負荷が比較的高い第2の補正量の算出は、サブピクセルレベルでの位置ずれ補正量にのみ用いられ、処理時間の短縮および処理負荷の軽減が図られる。
【0016】
本発明の第1の態様に係る画像処理装置において、第2の補正量の算出における解析は、前記特徴領域における一部の領域に含まれる画素の画素値と、前記対応特徴領域における前記一部の領域に対応する領域に含まれる画素の画素値のみを用いて実行されても良い。この場合において、前記一部の領域は、前記特徴画素と前記特徴画素近傍の所定範囲に位置する画素とから構成される領域であっても良い。かかる場合には、さらに、第2の補正量の算出において考慮すべきデータ量が少なくなり、さらに補正量の算出にかかる処理時間の短縮および処理負荷の軽減を図ることができる。
【0017】
本発明の第1の態様に係る画像処理装置において、前記対応特徴画素の検出は、それぞれの対象画像における前記対応特徴領域に含まれる画素であって、画像の特徴的部位を構成する候補特徴画素を抽出し、前記特徴画素とその周辺画素から構成される領域と、前記候補特徴画素とその周辺画素から構成される領域とを比較することによって、前記特徴画素と前記候補特徴画素との類似度を算出し、注目する前記特徴画素と前記類似度が最も高い組み合わせを構成する前記候補特徴画素を、注目する前記特徴画素に対応する前記対応特徴画素とすることによって実行されても良い。かかる場合には、画像の特徴的部位を構成する候補特徴画素を抽出し、特徴画素の周辺領域と候補特徴画素の周辺領域との類似度によって、特徴画素に対応する対応特徴画素を検出するので、精度良く対応特徴画素を検出することができる。
【0018】
本発明の第2の態様は、それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理装置を提供する。本発明の第2の態様に係る画像処理装置は、前記複数の画像データを取得する画像データ取得手段と、前記複数の画像データのうち基準となる画像データが表す基準画像を構成する画素の中から、画像の特徴的部位を構成する特徴画素を抽出する特徴画素抽出手段と、前記複数の画像データのうち前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴画素に対応する対応特徴画素を検出する対応特徴画素検出手段と、前記特徴画素の位置と、前記特徴画素に対応する対応特徴画素の位置とに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出する補正量算出手段と、前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する高解像度画像データ生成手段とを備えることを特徴とする。
【0019】
本発明の第2の態様に係る画像処理装置によれば、時系列に並ぶ複数の画像データを合成して高解像度画像データを生成する際に、基準画像を構成する画素の中から、所定の条件を満たす特徴画素を抽出する。さらに、対象画像を構成する画素の中から、上述した特徴画素に対応する対応特徴画素を検出する。そして、対象画像の基準画像に対する補正量を、前記特徴画素の位置と前記対応特徴画素の位置とに基づいて算出する。対象画像と基準画像の全画像データを用いることなく、特徴画素の位置と対応特徴画素の位置を用いることで、補正量の算出に要する処理時間の短縮および処理負荷の大幅な軽減が図られる。
【0020】
本発明の第2の態様に係る画像処理装置において、前記対応特徴画素の検出は、それぞれの対象画像を構成する画素であって、画像の特徴的部位を構成する候補特徴画素を抽出し、前記特徴画素とその周辺画素から構成される領域と、前記候補特徴画素とその周辺画素から構成される領域とを比較することによって、前記特徴画素と前記候補特徴画素との類似度を算出し、注目する前記特徴画素と前記類似度が最も高い組み合わせを構成する前記候補特徴画素を、注目する前記特徴画素に対応する前記対応特徴画素とすることによって実行されても良い。かかる場合には、画像の特徴的部位を構成する候補特徴画素を抽出し、特徴画素の周辺領域と候補特徴画素の周辺領域との類似度によって、特徴画素に対応する対応特徴画素を検出するので、精度良く対応特徴画素を検出することができる。
【0021】
本発明の第2の態様に係る画像処理装置において、前記対応特徴画素の検出は、前記基準画像における所定の特徴を有する特徴領域に対応する領域おいて実行されても良い。この場合において、前記特徴領域は、基準数以上の前記特徴画素を含む領域、または、抽出された全ての前記特徴画素のうち基準割合以上の前記特徴画素を含む領域であっても良く、さらに、抽出された前記特徴画素全体の重心が中心に位置する領域であっても良い。係る場合には、対応特徴画素を検出を画像全体に亘って実行することなく、一部の領域のみにおいて行うので、さらに、処理時間の短縮および処理負荷の軽減が図られる。さらに、対応特徴画素の検出は、特徴ある領域で実行されるので、一部の領域に限ることによって、算出される補正量の精度が劣ることもない。
【0022】
本発明の第3の態様は、それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理方法を提供する。本発明の第3の態様に係る画像処理方法は、前記複数の画像データを取得し、前記複数の画像データのうち、基準となる画像データが表す基準画像において、所定の特徴を有する特徴領域を決定し、前記複数の画像データのうち、前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴領域に対応する対応特徴領域を設定し、前記特徴領域と前記対応特徴領域の画像データに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出し、前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成することを特徴とする。
【0023】
本発明の第3の態様に係る画像処理方法によれば、本発明の第1の態様に係る画像処理装置と同様の作用効果を得ることができる。また、本発明の第3の態様に係る画像処理装置は、本発明の第1の態様にかかる画像処理装置と同様にして種々の態様にて実現され得る。
【0024】
本発明の第4の態様は、それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理方法を提供する。本発明の第5の態様に係る画像処理方法は、前記複数の画像データを取得し、前記複数の画像データのうち基準となる画像データが表す基準画像を構成する画素の中から、画像の特徴的部位を構成する特徴画素を抽出し、前記複数の画像データのうち前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴画素に対応する対応特徴画素を検出し、前記特徴画素の位置と、前記特徴画素に対応する対応特徴画素の位置とに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出し、前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成することを特徴とする。
【0025】
本発明の第4の態様に係る画像処理方法によれば、本発明の第2の態様に係る画像処理装置と同様の作用効果を得ることができる。また、本発明の第4の態様に係る画像処理装置は、本発明の第2の態様にかかる画像処理装置と同様にして種々の態様にて実現され得る。
【0026】
本発明の第3および第4の態様に係る画像処理方法は、この他にも、画像処理プログラムおよび画像処理プログラムが記録されたコンピュータが読み取り可能な記録媒体としても実現され得る。
【発明を実施するための最良の形態】
【0027】
以下、本発明にかかる画像処理装置について、図面を参照しつつ、実施例に基づいて説明する。
【0028】
A.第1の実施例
・画像処理システムの構成:
図1は、本発明の第1の実施例に係る画像処理装置を含む画像処理システムの一例を示す説明図である。本発明の第1の実施例に係る画像処理装置を適用可能な画像処理システムの構成について図1を参照して説明する。
【0029】
画像処理システムは、画像データを生成する撮像装置としてのディジタルビデオカメラ10、ディジタルビデオカメラ10にて生成された複数の画像データから、高解像度の画像データを生成する画像処理装置としてのパーソナルコンピュータ20、画像データを用いて画像を出力する出力装置としてのカラープリンタ30を備えている。また、出力装置としては、プリンタ30の他に、例えば、LCDディスプレイのモニタ25、表示装置40が用いられ得る。
【0030】
ディジタルビデオカメラ10は、設定されたフレームレートで、時系列に並ぶ複数の画像データGD1〜GDn(以下、フレーム画像データという。)を生成するカメラである。画像データは、光の情報をディジタルデバイス(CCDや光電子倍増管)に結像させ、デジタル信号に変換することによって生成される。ディジタルビデオカメラ10は、生成された複数のフレーム画像データGD1〜GDnを1つの画像ファイルGF(動画ファイル)として、光学ディスクLD(例えば、DVD−RAM等)に保存する。もちろん、画像ファイルGFの保存には、光学ディスクLDのみならず、デジタルビデオテープや、メモリカードMC等、種々の記録媒体が用いられ得る。
【0031】
パーソナルコンピュータ20は、一般的に用いられるタイプのコンピュータであり、高解像度の画像データを生成する処理を含む画像処理プログラムを実行するCPU200、CPU200における演算結果、画像データ等を一時的に格納するRAM201、画像処理プログラムを格納するハードディスクドライブ(HDD)202を備えている。パーソナルコンピュータ20は、DVD等の光学ディスクLD用のディスクドライブ205、メモリカードMCを装着するためのカードスロット203、ディジタルビデオカメラ10からの接続ケーブルを接続するための入出力端子204を備えている。
【0032】
プリンタ30は、画像データをカラー画像として出力可能なプリンタであり、例えば、シアン、マゼンタ、イエロー、ブラックの4色の色インクを印刷媒体上に噴射してドットパターンを形成することによって画像を形成するインクジェット方式のプリンタである。あるいは、カラートナーを印刷媒体上に転写・定着させて画像を形成する電子写真方式のプリンタである。色インクには、上記4色に加えて、ライトシアン(薄いシアン)、ライトマゼンタ(薄いマゼンタ)、レッド、ブルーを用いても良い。
【0033】
表示装置40は、画像データの画像を表示するための表示ディスプレイ45を有し、例えば、電子式の写真フレームとして機能する表示装置である。表示ディスプレイ45は、例えば、液晶表示ディスプレイ、有機EL表示ディスプレイが用いられ得る。
【0034】
プリンタ30および表示装置40は、スタンドアローンにて画像処理、画像出力を実行するため、パーソナルコンピュータ20が備える画像処理機能を備えても良い。かかる場合には、プリンタ30、表示装置40は、パーソナルコンピュータ20を介さずに、例えば、メモリーカードMC等の記憶媒体、あるいは、ケーブルを介してディジタルビデオカメラ10から画像データを取得し、プリンタ30、表示装置40がそれぞれ本実施例における画像処理装置として機能することができる。
【0035】
以下の説明では、ディジタルビデオカメラ10で生成された画像データが、パーソナルコンピュータ20に送出され、パーソナルコンピュータ20にて高解像度の画像データを生成する画像処理が実行される場合について説明する。
【0036】
・パーソナルコンピュータ20の機能的構成:
図2は、本実施例に係るパーソナルコンピュータ20(CPU200)の機能ブロック図である。図2を参照してパーソナルコンピュータ20(CPU200)の機能的構成の概要について説明する。
【0037】
画像データ取得部M210は、画像ファイルGFに記録されたフレーム画像データGD1〜GDnの中から選択された時系列に並ぶ複数のフレーム画像データを取得する。
【0038】
特徴画素抽出部M220は、取得された複数のフレーム画像データのうち基準となるデータが表す画像(基準画像)において、画像の特徴的部位を構成する特徴画素を抽出する。特徴領域決定部M230は、基準画像において、所定の特徴を有する特徴領域を抽出する。例えば、抽出された特徴画素を含む領域が特徴領域として抽出される。
【0039】
対応特徴領域設定部M240は、取得された複数のフレーム画像データのうち基準となるデータ以外のデータが表す画像(対象画像)において、抽出された特徴領域に対応する領域(以下、対応特徴領域という。)を、取得された複数のフレーム画像データのうち基準となるデータ以外のデータが表す画像(対象画像)のそれぞれにおいて設定する。対応特徴画素検出部M250は、それぞれの対象画像において設定された対応特徴領域において、上述した特徴画素に対応する対応特徴画素を検出する。
【0040】
補正量算出部M260は、画像データ取得部M210が取得した複数のフレーム画像データが表す各画像間に生じている位置ずれを補正するための補正量(以下、位置ずれ補正量という。)を、特徴領域と対応特徴領域の画像データに基づいて算出する。位置ずれ補正量は、例えば、特徴領域に含まれる特徴画素の位置と、対応特徴領域に含まれる対応特徴画素の位置とに基づいて算出される。
【0041】
高解像度画像生成部M270は、補正量算出部M260によって、算出された位置ずれ補正量に基づいて、上述した各画像間に生じている位置ずれを補正する。そして、高解像度画像生成部M270は、補正された各画像のフレーム画像データを合成して、フレーム画像データより解像度の高い画像データを新たに生成する。
【0042】
・パーソナルコンピュータ20における画像処理:
図3〜図18を参照して、本実施例に係るパーソナルコンピュータ20において実行される画像処理について説明する。
【0043】
図3は、本実施例に係る画像処理の処理ルーチンを示すフローチャートである。パーソナルコンピュータ20(CPU200)は、ユーザーの指示に従って、本画像処理のプログラムを起動する。CPU200は、ユーザの指示に従って光学ディスクLD等から画像ファイルGFを読み出し、画像ファイルGFに記録されたフレーム画像データGD1〜GDnが表す動画像を再生する。
【0044】
動画像の再生中に、ユーザによってフレーム画像データの取得指示が入力されると、CPU200は、動画像データを構成するフレーム画像データGD1〜GDnの中から、連続する複数のフレーム画像データを取得する(ステップS10)。各フレーム画像データは、ドットマトリクス状の各画素の階調値(以下、「画素値」とも呼ぶ。)を示す階調データ(以下、「画素データ」とも呼ぶ。)で構成されている。画素データは、3つの画素値Y(輝度)、Cb(ブルーの色差)、Cr(レッドの色差)からなるYCbCrデータや、3つの画素値R(レッド)、G(グリーン)、B(ブルー)からなるRGBデータ等が用いられ得る。本実施例では、CPU200は、ユーザーに指示されたフレーム画像データを含むと共に時系列に並ぶ4つのフレーム画像データを取得するものとする。CPU200は、取得した4つのフレーム画像データをRAM201に一時的に格納する。
【0045】
図4は、取得した4つのフレーム画像データが表す画像間の位置ずれを説明する概略図である。CPU200は、取得された4つのフレーム画像データのうち、いずれかのフレーム画像データを、合成の基準となる基準フレーム画像データとして指定する。本実施例では、時系列順に2番目のフレーム画像データを、基準フレーム画像データとする(図4参照)。
【0046】
以下の説明では、取得した4つのフレーム画像データのうち、基準フレーム画像データを記号F_refで表すこととする。そして、基準画像データF_refが表す画像を基準画像f_refと呼ぶこととする(図4参照)。また、基準フレーム画像データF_ref以外の3つのフレーム画像データを、時系列順の番号(以下、「フレーム番号」とも呼ぶ。)aを用いて、記号F(a)(a=1〜3)と表すこととする。そして、フレーム画像データF(a)が表す画像を対象画像f(a)(a=1〜3)と呼ぶこととする(図4参照)。
【0047】
ユーザによって、取得されたフレーム画像データについて、高解像度の静止画像を生成する指示が入力されると、まず、CPU200は、4つのフレーム画像データF(a)が表す各画像間における被写体の位置ずれ(以下、単に位置ずれという。)を解消する補正(位置ずれ補正)のための補正量(位置ずれ補正量)を算出する。ステップS30〜ステップS70までの一連の処理は、この位置ずれ補正量を算出するための処理である。ここで、位置ずれおよび位置ずれ補正について説明しておく。
【0048】
図4には、基準画像f_refと、対象画像f(3)間の位置ずれが示されている。また、図5は、基準フレーム画像データF_refを基準として、フレーム画像データF(3)に対して行う位置ずれ補正について示す説明図である。位置ずれ補正量を算出するにあたっては、基準フレーム画像データF_refを基準とする。すなわち、基準フレーム画像データF_refに対する位置ずれ補正量を、他の3つのフレーム画像データF(a )(a=1〜3)について、それぞれ算出する。
【0049】
位置ずれは、画像の横方向および縦方向の並進のずれ(以下、単に、並進ずれという。)と、画像の中心を軸とした回転のずれ(以下、単に、回転ずれという。)との組み合わせで表される。図4では、基準画像f_refに対する、対象画像f(3)の位置ずれ量を分かり易く示すため、基準画像f_refの縁と、対象画像f(3)の縁とを重ねて示すとともに、基準画像f_ref上の中心位置に仮想の十字画像X_refを追記し、この十字画像X_refが、対象画像f(3)と同様にずれたとして、対象画像f(3)上に、ずれた結果の画像である十字画像X3を示すようにしている。更に、この位置ずれ量を、より分かり易く示すために、基準画像f_refおよび十字画像X_refを太い実線で示すとともに、対象画像f(3)および十字画像X3を細い破線で示すようにしている。
【0050】
本実施例では、図4に示すように、並進ずれ量として横方向を「um」、縦方向を「vm」と表し、回転ずれ量を「δm」と表し、対象画像f(a)の基準画像f_refに対する位置ずれ量を「uma」、「vma」、「δma」と表すこととする。例えば、対象画像f(3)の基準画像f_refに対するずれ量は、um3、vm3、δm3と表される。
【0051】
また、補正とは、画像を構成する各画素の位置を、横方向にuの移動、縦方向にvの移動、およびδの回転を施した位置に移動させるように、フレーム画像データにおいて各画素データの座標を変換することを意味する。uは、横方向の並進補正量を表し、vは、縦方向の並進補正量を表している。そして、δは、回転補正量を表している。
【0052】
対象画像f(a)の基準画像f_refに対する位置ずれを補正する位置ずれ補正量を「ua」、「va」、「δa」と表すこととすると、位置ずれ補正量と、上述した位置ずれとの間には、ua=−uma、va=−vma、δa=−δmaの関係が成り立つ。例えば、対象画像f(3)についての位置ずれ補正量u3、v3、δ3は、u3=−um3、v3=−vm3、δ3=−δm3で表される。
【0053】
以上説明したように、例えば、図5に示すように、位置ずれ補正量u3、v3、δ3を用いて、フレーム画像データF(3)に対して補正を実行するすることにより、対象画像f(3)と基準画像f_refの被写体を互いに一致させることができる。すなわち、補正後の対象画像f(3)と、基準画像f_refとを重ね合わせると、図5に示すように、対象画像f(3)は、基準画像f_refに対して部分一致する。なお、この補正の結果を分かり易く示すため、図5においても、図4と同じ仮想の十字画像X_refおよび十字画像X3を表記しており、図5に示すように、補正の結果として、十字画像X3は十字画像X_refと一致することとなる。
【0054】
なお、上述の「部分一致する」とは、以下のことを意味するものである。すなわち、図5に示すように、例えば、ハッチングを施した領域P1は、画像f(3)にのみ存在する領域であり、画像f_refには、該当する領域は存在しない。このように、上述の補正を行ったとしても、ずれに起因して、画像f_refにのみ、または、f(3)にのみ存在する領域が生じてしまうため、画像f(3)は、画像f_refに対して完全一致することはなく、部分一致することとなる。
【0055】
図3に戻って、位置ずれ補正量ua、va、δaの算出する処理(ステップS20〜ステップS70)について説明を続ける。CPU200は、まず、基準画像f_refを構成する画素の中から、特徴画素を抽出する(ステップS30)。特徴画素は、所定の抽出条件を満たす画素であり、抽出条件は、画像の個性を決定づけるような特徴的部位を構成する画素を抽出できる条件であることが望ましい。例えば、本実施例では、エッジ画素であって、当該エッジ画素とその周囲の画素とが所定のパターンを形成する画素を特徴画素として抽出するように、抽出条件を設定している。以下、具体的に説明する。
【0056】
図6は、特徴画素を抽出する処理(以下、特徴画素抽出処理という。)の処理ルーチンを示すフローチャートである。図7は、特徴画素の抽出に用いるフィルタを示す説明図である。図8は、特徴画素抽出処理の結果の一例を示す概略図である。
【0057】
CPU200は、基準画像f_refを構成する画素の中から注目画素を設定する(ステップS301)。CPU200は、注目画素がエッジ画素か否かを判断する(ステップS302)。具体的には、CPU200は、注目画素に対して、所定のエッジ抽出フィルタを適用して、エッジ度合を算出する。そして、CPU200は、注目画素のエッジ度合を予め設定された閾値と比較して、当該閾値より大きい場合には注目画素はエッジ画素であると判断し、当該閾値より小さい場合には注目画素はエッジ画素でないと判断する。
【0058】
エッジ抽出フィルタは、本実施例では、図7(a)に示す垂直および水平方向のsobelフィルタを用いている。もちろん、sobelフィルタに代えて、他の種々の公知のフィルタを用いることが可能である。例えば、prewittフィルタ、robertsフィルタ、laplacianフィルタを用いることができる。
【0059】
エッジ度合は、エッジ勾配の強弱を示す値であり、例えば、注目画素を中心とする3×3の計9つの画素の画素値を、上述したエッジ抽出フィルタによって重み付けして合計した値を用いることができる。エッジ度合の算出に用いる画素値は、輝度値であっても良いし、RGBの各画素値であっても良い。
【0060】
閾値は、適当な数のエッジ画素を抽出できるように、経験的に定められる。また、実際に検出されたエッジ画素数に応じて、適宜、閾値の大きさを調整しても良い。
【0061】
CPU200は、エッジ画素か否かの判断を全ての画素について終了していない場合(ステップS303:NO)には、まだ判断していない画素を注目画素として設定して、上述した処理を繰り返す(ステップS301〜S302)。この結果、基準画像f_refを構成する全ての画素が、エッジ画素か非エッジ画素かのどちらかに類別される。
【0062】
CPU200は、エッジ画素か否かの判断を全ての画素について終了した場合(ステップS303:YES)には、上述したステップにおいてエッジ画素であると判断された画素の中から注目エッジ画素を設定する(ステップS304)。CPU200は、注目エッジ画素が、特徴画素か否かを判断する(ステップS305)。例えば、CPU200は、注目エッジ画素を中心とする領域においてエッジ画素と非エッジ画素とにより形成するパターンが、所定の抽出パターンに近い場合には、注目エッジ画素は特徴画素であると判断し、所定の抽出パターンに近くない場合には、注目エッジ画素は特徴画素でないと判断する。
【0063】
所定の抽出パターンは、例えば、図7(b)に示すように、エッジ画素を表す「1」と非エッジ画素を表す「0」とによってパターンを形成した3×3のドットマトリックス状のフィルタ(以下、パターンフィルタという。)として、予め記憶されている。図7(b)に示す8つのパターンフィルタは、中央のエッジ画素と周囲の4つのエッジ画素(「1」の部分)と、非エッジ画素(「0」の部分)との境界に、135度の角が形成されるパターンを表している。したがって、図7(b)に示すパターンフィルタは、135度の角を抽出するといえる。パターンフィルタとしては、5×5画素等、種々の大きさを採用可能であるし、抽出パターンとしても、90°〜180°の角が形成されるパターン等、種々のパターンを採用可能である。
【0064】
具体的な判断手法について説明すると、CPU200は、注目画素を中心としたパターンフィルタに対応する領域(以下、比較領域という。)と上述した8つのパターンフィルタとを順番に照合する。そして、CPU200は、比較領域におけるエッジ画素の位置と一のパターンフィルタにおけるエッジ画素の位置(「1」の位置)とが3つ以上一致する場合に、当該領域のパターンは所定の抽出パターンに近く、注目エッジ画素は特徴画素であると判断する。そして、CPU200は、比較領域と8つの全てのパターンフィルタとを照合して、エッジ画素の位置が3つ以上一致するパターンフィルタが無い場合に、注目画素は特徴画素でないと判断する。
【0065】
CPU200は、特徴画素か否かの判断を全てのエッジ画素について終了していない場合(ステップS306:NO)には、まだ判断していないエッジ画素を注目エッジ画素として設定して、上述した処理を繰り返す(ステップS304〜S305)。CPU200は、特徴画素か否かの判断を全てのエッジ画素について終了すると(ステップS306:YES)、特徴画素抽出処理を終了する。
【0066】
図8は、特徴画素抽出処理の結果の一例を示す概略図である。図8に示すように、基準画像f_refにおいて、画素値の変化が大きいエッジ部分(例えば、主要被写体と背景との境界部分)に複数個の特徴画素が抽出される。
【0067】
CPU200は、次に、基準画像f_refにおいて所定の特徴を有する特徴領域を決定する(ステップS50)。特徴領域は、画像の個性を決定づけるような特徴的部位を含み、画素値の変化に富む領域であることが望ましい。本実施例では、基準画像f_refの画像データを解析して特徴領域を抽出することによって特徴領域を決定する。以下、具体的に説明する。
【0068】
図9は、特徴領域を決定する処理(以下、特徴領域決定処理という。)の処理ルーチンを示すフローチャートである。図10は、特徴領域決定処理の概略を示す説明図である。以下では、図10に示す例を参照して説明する。CPU200は、先ず、上述した特徴画素抽出処理により抽出された特徴画素全体の重心位置を算出する(ステップS401)。抽出された全ての特徴画素のX座標の平均値、およびY座標の平均値を算出すれば良い。図10において、記号GPは、算出された重心の位置を示している。
【0069】
CPU200は、次に、算出された重心GPを中心として、予め定められた初期サイズの特徴領域を設定する(ステップS402)。図10において2点破線で示される領域FAは、本ステップにより設定された初期サイズの特徴領域を表している。初期サイズは、例えば、基準画像f_refの1/4の縦巾および横幅とすることができる。
【0070】
CPU200は、設定した特徴領域が、領域決定条件を満たすか否かを判断する(ステップS403)。領域決定条件としては、種々の条件を用いることができる。例えば、抽出された全ての特徴画素のうち基準割合(例えば、30%)以上の特徴画素が設定した特徴領域に含まれること、あるいは、基準数(例えば、10個)以上の特徴画素が設定した特徴領域に含まれること、等を領域決定条件とすることができる。これによって、特徴画素が多く分布する適切な特徴領域を抽出することができる。図10で示す例では、図の煩雑を避けるため、5個以上の特徴画素が特徴領域に含まれることを特徴領域決定条件として説明する。図10で示す例では、初期サイズの特徴領域FAは4つの特徴画素しか含んでいないため、CPU200は、特徴領域FAは特徴領域決定条件を満たさないと判断することになる。
【0071】
CPU200は、設定した特徴領域が領域決定条件を満たさない場合(ステップS403:NO)には、特徴領域のサイズを所定量(例えば、縦24画素、横36画素分)大きく変更する(ステップS404)。そして、CPU200は、ステップS403に戻り、変更後の特徴領域が領域決定条件を満たすか否かを判断する。CPU200は、特徴領域が領域決定条件を満たすまで、ステップS403およびS404を繰り返し実行し、特徴領域が特徴領域決定条件を満たした場合(ステップS403:YES)には、その時点で設定されているサイズの特徴領域を最小特徴領域と決定する(ステップS405)。図10に示す例では、破線で示す領域MAまで初期サイズよりサイズを大きくした時点で、特徴領域は5つの特徴画素を含み特徴決定条件を満たすので、CPU200は、領域MAを最小特徴領域と決定することになる。
【0072】
CPU200は、続いて、決定した最小特徴領域MAに所定のマージン領域を付加した領域を最終的な特徴領域TAと決定する(ステップS406)。所定のマージン領域は、例えば、図10の例においてハッチングされた領域Mで示すように、最小特徴領域MAの周囲に所定の巾(図10において、記号TMおよびYMで示されている。)で付加される。マージン領域の巾は、例えば、縦24画素、横36画素とすることが出来る。マージン領域を付加する理由は後述する。CPU200は、最終的な特徴領域TAを決定すると本処理を終了し、図3に示す処理ルーチンにリターンする。
【0073】
図3に戻って説明を続ける。CPU200は、対象画像f(a)(a=1,2,3)のそれぞれにおいて、基準画像f_refにおける上述した特徴領域に対応する領域(以下、対応特徴領域という。)を設定する(ステップS50)。図11は、4つの画像において設定された特徴領域TAと対応特徴領域CAを示す概略図である。図11に示すように、基準画像f_refにおける特徴領域TAの位置、大きさ、範囲と同じ位置、大きさ、範囲の領域を対象画像f(a)(a=1,2,3)のそれぞれに対応特徴領域CAとして設定する。
【0074】
CPU200は、対応特徴領域CAを設定すると、基準画像f_refにおける特徴領域TAに含まれる特徴画素TPに対応する画素CP(以下、対応特徴画素CPという。)を、対応特徴領域CAにおいて検出する(ステップS60)。基準画像f_refと対象画像f(a)(a=1,2,3)は、いずれも時系列的に連続する4つのフレーム画像データの一つが表す画像であるから、多少の位置ずれは生じているものの互いに類似した画像であるはずである。したがって、基準画像f_refにおける特徴画素TPと類似した特徴を有する対応特徴画素CPがそれぞれの対象画像f(a)において、ほぼ近似した位置に存在すると考えられる。以下、対応特徴画素CPの検出について具体的に説明する。
【0075】
図12は、対応特徴画素を検出する処理(以下、対応特徴画素検出処理という。)の処理ルーチンを示すフローチャートである。図13は、対応特徴画素の候補となる画素(以下、候補特徴画素という。)を抽出した結果の一例を示す概略図である。図14は、特徴画素TPと対応する対応特徴画素CPの決定手法を説明する概略図である。図14(a)は、2つの画素の類似度を表す指標Sの算出方法を示している。図14(b)は、基準画像f_refの特徴領域TAにおける特徴画素TP1〜TP5と対象画像f(3)の対応特徴領域CAにおける候補特徴画素CP’1〜CP’6を具体例にして、特徴画素TPと候補特徴画素CP’との対応関係の決定手法を示している。図15は、対応特徴画素検出処理の結果の一例を示す概略図である。CPU200は、先ず、3つの対象画像f(a)(a=1,2,3)の中から注目対象画像を設定する(ステップS601)。
【0076】
CPU200は、設定した注目対象画像における対応特徴領域において、対応特徴画素の候補となる画素CP’(候補特徴画素CP’)を抽出する(ステップS602)。候補特徴画素CP’の抽出は、上述したステップS30の特徴画素抽出処理を注目対象画像における対応特徴領域CAに含まれる各画素に対して適用することによって実行される。すなわち、各画素に対してエッジ抽出フィルタを適用してエッジ画素を抽出し、抽出されたエッジ画素に対してパターンフィルタを適用して候補特徴画素CP’を抽出する(図6および図7参照)。
【0077】
図13に示す例では、対象画像f(3)を注目対象画像として、対応特徴領域CA内において、6個の候補特徴画素CP’が抽出されている。このように、基準画像f_refの特徴領域TAに含まれる特徴画素の数(図13の例では、5個)と、対応特徴領域CAに含まれる候補特徴画素CP’の数は必ずしも一致しない。しかし、少なくとも抽出された候補特徴画素CP’の中に、検出すべき対応特徴画素CPが全て含まれていることが望ましい。図13に示す例では、基準画像f_refと対象画像f(3)間に多少位置ずれが生じているにも関わらず、抽出された6個の候補特徴画素CP’の中に、検出すべき5個の対応特徴画素CP(特徴領域TAに含まれる5個の特徴画素にそれぞれ対応する。)が含まれていることが解る。上述した特徴領域決定処理(ステップS40)においてマージン領域を付加した理由は、位置ずれによって、検出すべき対応特徴画素CPが対応特徴領域CAから外れて、本処理において候補特徴画素CP’として抽出されなくなることを防ぐためである。
【0078】
CPU200は、続いて、特徴領域TAに含まれる各特徴画素TPごとに、最類似の関係にある候補特徴画素CP’を決定する(ステップS603)。図14を参照して説明すると、CPU200は、まず、着目する特徴画素(例えば、特徴画素TP1)と候補特徴画素CP’との類似度を表す値Sを、全ての候補特徴画素(CP’1〜CP’6の6つ)について算出する。本実施例では、図14(a)に示すように、比較する2つの画素を中心とする3×3画素について、それぞれ対応する画素の画素値の差分を算出する。そして、算出した差分の絶対値を足し合わせた値Sを算出する。すなわち、比較する2つの画素の座標をそれぞれ(i,j),(I,J)で表し、座標(i,j)の画素の画素値をX(i,j)と表すと、値Sは以下の式(1)を用いて算出される。
【0079】
【数1】
【0080】
値Sの算出に用いる画素値は、輝度値であっても良いし、RGBの各画素値であっても良い。算出された値Sが小さいほど、両画素は類似度が高いといえる。CPU200は、算出された値Sが最も小さい候補特徴画素CP’を、着目する特徴画素TPと最類似の関係にあると決定する。CPU200は、特徴領域TAに含まれる全ての特徴画素TPに着目して上述の処理を繰り返し、特徴領域TAに含まれる全ての特徴画素TPについてそれぞれ最類似の関係にある候補特徴画素CP’を決定する。
【0081】
CPU200は、次に、対応特徴領域CAに含まれる各候補特徴画素CP’ごとに、最類似の関係にある特徴画素TPを決定する(ステップS604)。つまり、ステップS603とは逆に、対応特徴領域CAに含まれる候補特徴画素CP’に着目して、特徴領域TAに含まれる全ての特徴画素TPの中から着目する候補特徴画素CP’と最類似の関係にある特徴画素を決定する。図14を参照して説明すると、CPU200は、まず、着目する候補特徴画素(例えば、画素CP’1)と特徴画素との類似度を表す値Sを、特徴領域TA内に含まれる全ての特徴画素(TP1〜TP5の5つ)について算出する。値Sの算出手法は、上述したステップS603と同様である。CPU200は、算出された値Sが最も小さい特徴画素TPを、着目する候補特徴画素CP’と最類似の関係にあると決定する。CPU200は、対応特徴領域CAに含まれる全ての候補特徴画素CP’についてそれぞれ最類似の関係にある特徴画素TPを決定する。
【0082】
CPU200は、ステップS603とステップS604において決定した最類似の関係に基づいて、候補特徴画素CP’の中から特徴領域TAに含まれる各特徴画素TPに対応する対応特徴画素CPを決定する(ステップS605)。具体的には、注目する特徴画素TPと、互いからみて最類似の関係にある組み合わせを構成する候補特徴画素CP’を、当該特徴画素TPに対応する対応特徴画素CPであるとする。このような組み合わせが類似度が最も高い組み合わせであると考えられる。
【0083】
図14(b)に示す例を用いて詳しく説明する。ステップS603において特徴画素TP1と最類似の関係にあると決定された候補特徴画素はCP’1であるとする。そして、ステップS604において候補特徴画素CP’1と最類似の関係にあると決定された特徴画素はTP1であり、候補特徴画素CP’6と最類似の関係にあると決定された特徴画素もTP1であるとする。かかる場合には、特徴画素TP1と候補特徴画素CP’1とは互いからみて最類似の関係にあるので、CPU200は、候補特徴画素CP’1を特徴画素TP1に対応する対応特徴画素CPであると決定する。一方で、片側からのみ最類似の関係にある候補特徴画素CP’6は、対応特徴画素とはされない。CPU200は、これにより、特徴領域TAに含まれる5つの特徴画素TP1〜TP5の全てについて、それぞれ対応特徴画素を決定する。図14(b)に示す例では、TP1−CP’1、TP2−CP’2、TP3−CP’3、TP4−CP’4、TP5−CP’5がそれぞれ対応する組み合わせとなる。
【0084】
CPU200は、着目対象f(a)について画像対応特徴画素CPの決定を終えると、全ての対象画像f(a)(a=1,2,3)について対応特徴画素CPを決定する処理を終了したか否かを判断する(ステップS606)。CPU200は、まだ、対応特徴画素の決定が終了していない対象画像f(a)が存在する場合(ステップS606:NO)には、当該対象画像f(a)を新たな着目対象画像に設定して(ステップS601)、上述した処理(ステップS602〜S605)を繰り返す。CPU200は、全ての対象画像f(a)(a=1,2,3)について対応特徴画素の決定を終了すると(ステップS606:YES)、本処理を終了して、図3の処理ルーチンにリターンする。この時点で、基準画像f_refの特徴領域TAにおいては特徴画素TP(図15に示す例では、領域TAにおける5つの画素TP)が認識され、3つの対象画像f(a)(a=1,2,3)それぞれの対応特徴領域CAにおいては対応特徴画素CP(図15に示す例では、領域CAにおける5つの画素CP)が認識された状態となる。
【0085】
CPU200は、次に、これまでの処理によって認識された特徴画素TPの位置と対応特徴画素CPの位置とに基づいて、上述した位置ずれ補正量(ua、va、δa)を、3つの対象画像f(a)(a=1,2,3)それぞれについて算出する(ステップS70)。
【0086】
図16は、基準画像f_refにおける特徴画素TPの位置と対象画像f(3)における対応特徴画素CPの位置が最も近づくように、対象画像f(3)を基準画像f_refに対してずらして重ね合わせた状態を示す概略図である。CPU200は、このような重ね合わせ位置を実現する位置ずれ補正量(ua、va、δa)を算出する。具体的には、予め位置ずれ補正量の最大範囲を決めておき、その範囲内で、各特徴画素TPに対応する対応特徴画素CPとの画素間距離の合計が最も小さくなるように、位置ずれ補正量(ua、va、δa)を決定する。上述したように、4つの画像は時系列的に連続したフレーム画像データが表す画像であるから、互いに類似しており、各画像間に生じている位置ずれ量は、比較的小さな範囲内に収まる。従って、予め経験的に位置ずれ補正量の最大範囲を、例えば、|ua|<U、|va|<V、|δa|<Δ、(U、V、Δは、定数)と定めておくことで、処理を高速化できる。
【0087】
位置ずれ補正量が、対象画像f(a)(a=1〜3)の全てについて算出されると、算出された位置ずれ補正量を用いて、フレーム画像データF(a)(a=1〜3)に対して位置ずれ補正を実行して、対象画像f(a)(a=1〜3)と基準画像f_refの計4つの画像を、部分一致するように重ね合わせることができる(図5参照)。
【0088】
図3に戻って説明を続ける。CPU200は、位置ずれ補正した4つのフレーム画像データF(a)を合成して、フレーム画像データF(a)より高解像度の画像を表す画像データ(以下、高解像度画像データという。)を生成する処理(以下、高解像度画像合成処理という。)を実行する(ステップS80)。以下、高解像度画像合成処理について簡単に説明する。
【0089】
図17は、基準画像f_refと対象画像f(a)(a=1〜3)とを、位置ずれを補正して配置した様子を拡大して示す説明図である。図17では、高解像度画像合成処理によって生成される高解像度画像データが表す画像(以下、高解像度画像という。)の各画素が黒丸で示されているとともに、基準画像f_refの各画素が白抜きの四辺形で示され、対象画像f(a)(a=1〜3)の各画素が、ハッチングを施した四辺形で示されている。なお、高解像度画像の画素密度は、基準画像f_refに対して、縦横1.5倍密に設定されるものとする。また、高解像度画像の各画素は、2画素おきに基準画像f_refの各画素に重なる位置にあるものとする。ただし、高解像度画像の画素が、必ずしも基準画像f_refの各画素に重なる位置にある必要はない。例えば、高解像度画像の各画素のすべてが、基準画像f_refの各画素の中間に位置する等、種々の位置とすることができる。また、高解像度画像の画素密度も、縦横1.5倍に限定されるものではなく、自由に設定することができる。
【0090】
高解像度画像のある画素G(i)に注目して説明する(以下、画素G(i)を注目画素という。)。変数iは、高解像度画像の全画素を区別する番号を示している。ここで、図17に示すように、4つの画像f_ref,f(1),f(2),f(3)において、注目画素G(i)と最も近い画素を、それぞれP_ref,P(1),P(2),P(3)とする。CPU200は、注目画素G(i)と画素P_ref,P(1),P(2),P(3)との距離L0,L1,L2,L3をそれぞれ算出する。そして、CPU200は、最も近い距離にある画素(以下、「最近傍画素」と呼ぶ。)を決定する。図17の例では、L3<L1<L0<L2であるので、対象画像f(3)の画素P(3)が、注目画素G(i)の最近傍画素として決定される。なお、この注目画素G(i)に対する最近傍画素が、対象画像f(3)のj番目の画素であったとして、以下、最近傍画素P(3,j)と表記する。
【0091】
CPU200は、注目画素G(i)の画素値を、決定された最近傍画素含む画像f(a)(図17に示す例では、対象画像f(3))において注目画素G(i)を囲む画素の画素値を用いて、バイ・リニア法等の補完処理によって生成する。補間処理の方法については、バイ・リニア法の他、バイ・キュービック法、ニアレストネイバ法等の種々の方法を用いることができる。
【0092】
図18は、バイ・リニア法による補間処理について示す説明図である。注目画素G(i)は、4つの画像画像f_ref,f(1)〜f(3)のいずれにも存在しない画素であるので、画素値が存在していない。そこで、CPU200は、最近傍画素P(3,i)のほか、注目画素G(i)を囲む3つの画素P(3,i+1)、P(3,k)、P(3,k+1)で区画される領域を、注目画素G(i)で4つの区画に分割し、その面積比で対角位置の画素の画素値をそれぞれ重み付けして加算することにより、注目画素G(i)の画素値を生成する。ただし、kはi番目の画素に対象画像f(3)の横方向の画素数を加えた画素の番号を示している。
【0093】
CPU200は、高解像度画像を構成する全ての画素について、上述した処理によって画素値を生成する。この結果、高解像度画像を表す高解像度画像データが最終的に生成される。
【0094】
以上説明した第1の実施例に係る画像処理装置によれば、画像ファイルGF(動画ファイル)から取得した4つのフレーム画像データF_ref、F(a)(a=1〜3)の合成に用いる位置ずれ補正量を、基準画像f_refの特徴画素の位置と、対象画像f(a)の対応特徴画素の位置とに基づいて算出する。この結果、基準画像f_refおよび対象画像f(a)を表す全画像データを用いることなく、極めて少ない画素の位置のみに基づいて位置ずれ補正量を算出することができるので、算出にかかる処理時間の短縮および処理負荷の軽減を図ることができる。
【0095】
特徴画素の抽出処理や対応特徴画素の検出処理は、画素の周辺の比較的狭い領域(例えば、3×3画素の領域)の比較によって行われる高速な処理であり、これらの処理が負担となることもない。また、位置ずれ補正量の算出に用いる特徴画素および対応特徴画素は、エッジ抽出フィルタやパターンフィルタにより抽出された特徴的な画素であるので、考慮する画素が少なくても位置ずれ補正量の算出精度が劣ることもない。
【0096】
さらに、位置ずれ補正量の算出に用いる特徴画素は、基準画像f_refの一部の領域である特徴領域に含まれる特徴画素であり、位置ずれ補正量の算出に用いる対応特徴画素も、対象画像f(a)(a=1〜3)の一部の領域である対応特徴領域にである。従って、基準画像f_refおよび対象画像f(a)の全領域を考慮することなく、一部の領域のみを考慮して位置ずれ補正量を算出することができるので、さらに算出にかかる処理時間の短縮および処理負荷の軽減を図ることができる。
【0097】
考慮する特徴領域や対応特徴領域は、特徴画素や対応特徴画素が多く分布する特徴的な領域であるので、考慮する領域を一部の領域に限ったとしても位置ずれ補正量の算出精度が劣ることもない。
【0098】
さらに、基準画像f_refにおいて、抽出された特徴画素全体の重心が中心に位置する領域であると共に、基準数以上の特徴画素あるいは基準割合以上の特徴画素を含む領域を、特徴領域とするので、特徴画素が多く分布し補正量の算出に適した領域を特徴領域として抽出することができる。
【0099】
また、特徴画素と同様な特徴的な画素を候補特徴画素として抽出し、特徴画素の周辺領域と候補特徴画素の周辺領域との類似度を表す指標Sを算出する。そして、注目する特徴画素と類似度が最も高い組み合わせを構成する候補特徴画素を、注目する特徴画素に対応する対応特徴画素として検出するので、精度良く対応特徴画素を検出することができる。
【0100】
B.第2の実施例
・画像処理システムの構成:
第2の実施例に係る画像処理システムの構成およびパーソナルコンピュータ20(CPU200)の機能的構成は、図1を参照して説明した第1の実施例に係る画像処理システムの構成と同一であるので、その説明を省略して、以下の説明では同一の符号を用いる。
【0101】
・パーソナルコンピュータ20の機能的構成:
図19は、本実施例に係るパーソナルコンピュータ20(CPU200)の機能ブロック図である。第1の実施例と異なる構成についてのみ説明することとし、第1の実施例と同一の構成については、同一の符号を付し、その説明を省略する。
【0102】
第2の実施例に係るパーソナルコンピュータ20は、補正量算出部M260に、第1の補正量算出部M262と第2の補正量算出部M264を備えている点で、第1の実施例と異なっている。他の構成は、第1の実施例と同じである。
【0103】
第1の補正量算出部M262は、第1の実施例における補正量算出部M260と同様の処理により推定される位置ずれ補正量である第1の補正量を算出する。
【0104】
第2の補正量算出部M264は、合成するフレーム画像データが表す画像を構成する画素の画素値を解析して推定される位置ずれ補正量である第2の補正量を算出する。第2の補正量を算出する際の画素値解析には、第1の補正量算出部M262によって算出された第1の補正量を初期値に用いる。
【0105】
・パーソナルコンピュータ20における画像処理:
図20〜図27を参照して、本実施例に係るパーソナルコンピュータ20において実行される画像処理について説明する。
【0106】
図20は、本実施例に係る画像処理の処理ルーチンを示すフローチャートである。図3を参照して説明した第1の実施例に係る画像処理の処理ルーチンと同一のステップについては、図3と同一の符号を付し、その説明を省略する。
【0107】
第1の実施例に係る画像処理と異なる点は、第1の実施例では、ステップS70(図3参照)において算出していた位置ずれ補正量を、第2の実施例では、第1の補正量の算出(ステップS72)と第2の補正量の算出(ステップS74)の2つのステップに分けて算出している点である。第2の実施例に係るその他の画像処理は、第1の実施例と同一である。以下、第1の実施例と異なる2つのステップにおける処理について説明する。
【0108】
第1の補正量の算出処理は、基本的には、第1の実施例における位置ずれ補正量の算出と同様である。すなわち、CPU200は、これまでの処理(ステップS30〜S60)によって認識された特徴画素の位置と対応特徴画素の位置とに基づいて、位置ずれ補正量(ua、va、δa)を、3つの対象画像f(a)(a=1〜3)それぞれについて算出する。ただし、本ステップで算出する位置ずれ補正量は、大まかな概算値で良く、例えば、画像f_ref、f(a)(a=1〜3)を構成する画素単位程度の精度(いわゆるピクセルレベルの精度)で求めれば良い。後述する第2の補正量の算出処理において、より精度の高い補正量算出に適した手法により、最終的な補正量を高い精度で求めるからである。以下、本ステップで算出される位置ずれ補正量の概算値を第1の補正量と呼び、記号ua_1st、va_1st、δa_1st(a=1,2,3)で表す。
【0109】
CPU200は、次に、基準画像f_refおよび対象画像f(a)(a=1〜3)を構成する画素の画素値を解析(以下、画素値解析という。)することによって、最終的な位置ずれ補正量を算出する(ステップS74)。本ステップで算出される最終的な位置ずれ補正量を第2の補正量と呼び、記号ua_2nd、va_2nd、δa_2nd(a=1,2,3)で表す。
【0110】
第2の補正量は、画像f_ref、f(a)(a=1〜3)を構成する画素単位より細かい精度(いわゆるサブピクセルレベルの精度)で算出される。例えば、並進補正量ua_2nd、va_2ndは、1/16画素単位で、回転補正量δa_2ndは、1/100度単位で算出される。より高い精度で位置ずれ補正量を算出することで、後に生成される高解像度画像データにおいて、より高い画質を確保できるからである。従って、第2の補正量の算出には、第1の補正量の算出手法より高い精度で位置ずれ補正量を算出可能な解析手法が用いられる。本実施例では、第2の補正量は、基準画像f_refを構成する画素と対象画像f(a)を構成する画素のそれぞれの画素値(例えば輝度値)を用いて、勾配法(グラディエント法)を複数回繰り返す手法(以下、反復勾配法という。)によって算出される。以下では、先ず、勾配法および反復勾配法について説明する。
【0111】
図21および図22を参照して、勾配法について説明する。図21は、勾配法による位置ずれ補正量の算出方法について説明する第1の説明図である。図22は、勾配法による位置ずれ補正量の算出方法について説明する第2の説明図である。図21において、黒い丸は、基準画像f_refの画素を表し、例えば、(x1i、y1i)は、基準画像f_refの中心を原点とする直交座標上における画素の座標を表している。そして、白い丸は、基準画像f_refと部分一致するように重ねられた対象画像f(a)(a=1,2,3)の画素P_tar(x2i、y2i)を表し、座標(x2i,y2i)は、対象画像f(a)(a=1,2,3)の中心を原点とする直交座標上における座標を表している。以下、画素P_tar(x2i、y2i)を着目画素として説明を進める。着目画素P_tar(x2i、y2i)は、基準画像f_refと部分一致するように重ねられた場合に、基準画像f_refの画素P_ref(x1i、y1i)の近傍の位置(x1i+Δxi、y1i+Δyi)に位置すると仮定する。ここで、iは、各画素を区別する番号である。
【0112】
まず、着目画素P_tar(x2i、y2i)に最も近い基準画像f_refの画素P_ref(x1i、y1i)と、その上下左右にある4つの画素P_ref(x1i+1、y1i)、P_ref(x1i-1、y1i)、P_ref(x1i、y1i+1)、P_ref(x1i、y1i-1)が、参照画素として選択される。
【0113】
図22(a)は、対象画像f(a)と基準画像f_refとを部分一致するように重ねた場合において、着目画素P_tar(x2i、y2i)と画素P_ref(x1i、y1i)とのx1軸上の距離Δxiを推定する方法を示している。まず、画素P_ref(x1i、y1i)と、左右に隣接する画素P_ref(x1i-1、y1i)、P_ref(x1i+1、y1i)の輝度値B_ref(x1i、y1i)、B_ref(x1i-1、y1i)、B_ref(x1i+1、y1i)とを用いて、輝度勾配ΔBxiが算出される。ΔBxiは、図22(a)において直線R1の傾きで表される量で、画素P_ref(x1i、y1i)の近傍における輝度勾配である。例えば、3つの画素値を用いて、近似直線を求めてその傾きをΔBxとして用いても良いし、単に、左右の画素値を結ぶ直線の傾き{B_ref(x1i+1、y1i)−B_ref(x1i-1、y1i)}/2をΔBxiとして用いても良い。
【0114】
そして、着目する画素P_tar(x2i、y2i)の輝度値B_tar(x2i、y2i)が、図22(a)に示す直線R1上にあるものと仮定すると、
ΔBxi・Δxi=B_tar(x2i、y2i)−B_ref(x1i、y1i)が成立する。ここで、B_tar(x2i、y2i)およびB_ref(x1i、y1i)を単にB_tar、B_refで表すと、
ΔBxi・Δxi - (B_tar - B_ref)= 0 …(2)
が成立する。
【0115】
図22(b)は、対象画像f(a)と基準画像f_refとを部分一致するように重ねた場合において、着目画素P_tar(x2i、y2i)と画素P_ref(x1i、y1i)とのy1軸上の距離Δyiを推定する方法を示している。上述したΔxの推定と同様の手法により、
ΔByi・Δyi - (B_tar - B_ref)= 0 …(3)
の式が導ける。ここで、式(2)、および、式(3)を満たすΔxi、Δyiを求めれば、着目画素P_tar(x2i、y2i)の基準画像f_ref上における位置がわかることになる。
【0116】
この考え方を拡張して、対象画像f(a)を構成する全ての画素について、共通する補正量(ua、va、δa)を求めるには、最小自乗法を用いて、以下のD2を最小にすることを考えれば良い。
D2=Σ{ΔBxi・Δxi+ΔByi・Δyi−(B_tar - B_ref)}2 …(4)
【0117】
ここで、補正量(ua、va、δa)と、各画素についてのΔxi、Δyiとの関係について考える。図23は、画素の回転補正量を模式的に示す説明図である。基準画像f_refの座標(x1,y1)の原点Oからの距離をrとし、x1軸からの回転角度をθとすると、r,θは、下式で表される。
r=(x12+y12)1/2 …(5)
θ=tan-1(y1/x1) …(6)
【0118】
ここで、対象画像f(a)の基準画像f_refに対する並進ずれはなく、回転ずれのみが発生しているものとし、対象画像f(a)における座標(x2,y2)の画素が、基準画像f_ref上の座標(x1,y1)の位置から回転補正量δだけ回転した座標(x1',y1')にあるとする。この回転補正量δaによるx1軸方向の移動量Δxとy1軸方向の移動量Δyは、下式により求められる。
Δx=x1'−x1≒−r・δa・sinθ=−δa・y1 …(7)
Δy=y1'−y1≒r・δa・cosθ=δa・x1 …(8)
【0119】
したがって、上記式(4)における各画素iについてのΔxi、Δyiは、補正量(ua,va、δa)を用いて、下式のように表すことができる。
Δxi=ua−δa・y1i …(9)
Δyi=va+δa・x1i …(10)
ここで、x1iおよびy1iは、基準画像f_refにおける画素P_ref(x1i、y1i)の座標である。
【0120】
上記式(9),(10)を上記式(4)に代入すると、下式が得られる。
D2=Σ{ΔBxi・(ua−δa・y1i)+ΔByi・(va+δa・x1i)−(B_tar - B_ref)}2 …(11)
【0121】
すなわち、勾配法のために考慮する全画素について対応する座標値と輝度値を式(4)に代入したときに、D2を最小にする補正量ua,va,δaを最小自乗法によって求めることができる。
【0122】
次に、反復勾配法について説明する。図24および図25は、反復勾配法の概略を示す説明図である。反復勾配法では、上述した勾配法によって求められた位置ずれ補正量を用いて対象画像f(a)の画素位置を補正し、補正後の画素位置に基づいて上述した参照画素を選択し直し、新たに選択された参照画素を用いて勾配法をもう一度実行する。そして、これを複数回繰り返し、最終的にn回目の勾配法によって求められた位置ずれ補正量と、その前回((n-1)回目)の勾配法によって求められた位置ずれ補正量との差(Δua,Δva,Δδa)が、所定の閾値以下になったときに反復を終了する。言い換えれば、反復勾配法は、前回の勾配法で求められた位置ずれ補正量を、次回の勾配法の初期値に用いて、位置ずれ補正量が収束するまで勾配法を繰り返す手法である。
【0123】
図24(a)で示す対象画像f(3)と基準画像f_refとのずれ補正が全くされていない位置から、図24(b)で示す最終的に求めるべき位置まで補正するずれ補正量を求める場合を具体例として、反復勾配法についてさらに説明する。図25(a−1)〜(a−3)は、図24(b)に示した画素P_tarに着目して、勾配法の反復を概念的に示している。図25(a−1)は、画素P_1を中心とした画素(実線および波線で囲まれた画素)を画素P_tarの参照画素として、1回目の勾配法を実行した結果を示している。1回目の勾配法によって、画素P_tarを矢印A1のようにずらす位置ずれ補正量が算出されている。2回目の勾配法は、1回目に算出された位置ずれ補正量によって補正された画素P_tarの位置に基づいて、参照画素が選択される。図25(a−2)は、補正後の画素P_tarの最近傍に位置する画素P_2を中心とした画素を画素P_tarの参照画素として、2回目の勾配法を実行した結果を示している。図25(a−3)は、さらに2回目の補正後の画素P_tarの最近傍に位置する画素P_3を中心とした画素を画素P_tarの参照画素として、3回目の勾配法を実行した結果を示している。このように、反復するうちに適切な最近傍画素を用いることができるため、精度良く位置ずれ補正量を算出することができる。
【0124】
ここで、図6に戻って説明を続ける。CPU200は、この反復勾配法によって第2の補正量を算出する(ステップS74)にあたり、ステップS72で算出した第1の補正量(ua_1st、va_1st、δa_1st)を初期値に用いて、1回目の勾配法を実行する。図25(b−1)において、矢印B0は、第1の補正量による画素P_tarの補正を示している。図14(b−2)は、第1の補正量による補正後の画素P_tarの最近傍に位置する画素P_3を中心とした画素を画素P_tarの参照画素として、1回目の勾配法を実行した結果を示している。この結果、上述した図25(a−1)〜(a−3)の場合と異なり、1回目から適切な最近傍画素を用いて、精度良く第2の補正量(ua_2nd、va_2nd、δa_2nd)を求めることができる。
【0125】
さらに、本実施例では、第2の補正量を算出する際に、基準画像f_refおよび対象画像f(a)の全画素を考慮せず、基準画像f_refおよび対象画像f(a)の一部の領域のみを考慮する。すなわち、勾配法において、式(11)に座標や画素値(本実施例では輝度値)を代入する画素は、基準画像f_refおよび対象画像f(a)の全画素ではなく、基準画像f_refおよび対象画像f(a)の一部の領域に含まれる画素のみである。
【0126】
図26は、第2の補正量を算出する際に考慮する領域の具体例を説明する概略図である。図26(a)(b)は、基準画像f_refと対象画像f(3)を、第1の補正量を用いて位置ずれを補正して配置した様子、すなわち、第2の補正量の算出の初期状態を示している。図26(a)(b)において、ハッチングで表された領域が第2の補正量を算出する際に考慮する領域を示している。図16(a)では、先の処理(図20:ステップ40)によって抽出された基準画像f_refにおける特徴領域TAを、勾配法において考慮する領域としている。図16(b)では、考慮する領域をさらに限定して、上記の特徴領域TAに含まれるそれぞれの特徴画素TPを中心とした複数の比較的狭い領域(例えば、40×40画素の矩形領域)を、勾配法において考慮する領域としている。
【0127】
以上説明した第2の実施例に係る画像処理装置によれば、画像ファイルGFから取得した4つのフレーム画像データF_ref、F(a)(a=1〜3)の合成に用いる位置ずれ補正量を算出する際に、まず、基準画像f_refの特徴画素の位置と対象画像f(a)の対応特徴画素の位置とに基づいて、大まかな位置ずれ補正量として第1の補正量を算出する。そして、画素値解析によって算出される最終的な位置ずれ補正量である第2の補正量を、第1の補正量を初期値に用いて算出する。この結果、精度は高いが処理負荷の高い画素値解析によって、算出すべき補正量が小さくなる。従って、画素値解析のみによって位置ずれ補正量を算出する場合と比較して、算出にかかる処理時間の短縮および処理負荷の低減が図られる。
【0128】
さらに、第2の補正量を算出する際に考慮する画素を、特徴画素を含む一部の領域に限定しているので、基準画像f_refおよび対象画像f(a)の全画素を考慮する場合と比較して、算出にかかる処理時間の短縮および処理負荷の低減が図られる。また、当該一部の領域は、特徴画素を中心とした領域や特徴画素が多く分布した特徴領域であり、画像の特徴的部位を含んでいる。従って、考慮する画素を一部の領域に限定しても、そのために位置ずれ補正量の算出精度が劣ることもない。
【0129】
・第2の実施例の他の態様:
図27は、基準画像f_refと対象画像f(3)を、他の態様に係る第1の補正量を用いて位置ずれを補正して配置した様子、すなわち、第2の補正量の算出の初期状態を示している。図27に示すように、第1の補正量は、回転ずれδa_1stを考慮せず、並進ずれ(ua_1st、va_1st)のみを算出しても良い。最終的な補正量は第2の補正量として算出するため、第1の補正量は多少精度が悪くても問題ないため、並進ずれのみを算出することとすれば、第1の補正量の算出にかかる処理時間をさらに短縮することが可能である。
【0130】
C.変形例:
第1の実施例における位置ずれ補正量の算出および第2の実施例における第1の補正量の算出では、(1)算出に考慮する領域を全画像ではなく、一部の領域(特徴領域および対応特徴領域)に限定する、(2)算出を特徴画素と対応特徴画素の位置に基づいて算出する、という2つの技術的手段によって、処理時間の短縮および処理負荷の低減を実現しているが、どちらか1つの手段のみを用いることもできる。例えば、特徴領域および対応特徴領域を定めた後、特徴領域および対応特徴領域内の画像データを用いて、周知の方法(例えば、パターンマッチ法)で補正量を算出しても良い。この場合であっても、考慮するデータ量が減少する分、処理時間の短縮および処理負荷の低減を実現できる。逆に、処理対象画像が小さい場合等には、考慮する領域は限定せず、画像全体の特徴画素および対応特徴画素の位置を用いて補正量を算出しても良い。この場合であっても、全画素を考慮する場合と比較して、処理時間の短縮および処理負荷の低減を実現できる。
【0131】
上記実施例では、先に特徴画素を抽出し、特徴画素の分布によって特徴領域を決定しているが、特徴領域を他の手法によって決定することもできる。例えば、取得した画像データに主要被写体の位置を表す情報が付加されている場合には、かかる情報を利用して主要被写体の位置を中心とする所定範囲を特徴領域とすることもできる。かかる場合には、特徴領域を定めた後に、当該領域内において特徴画素を抽出すれば良い。
【0132】
上記実施例では、ディジタルビデオカメラ10によって生成された動画像データから複数のフレーム画像データを取得しているが、高解像度画像データの生成に用いる複数の画像データの取得態様は、これに限られるものではない。例えば、ディジタルスチルカメラの動画撮影モードで撮像された動画像データや、連写機能を備えたディジタルスチルカメラで連続撮影された複数の静止画像データ等、時系列に並ぶ複数の画像データであれば良い。連写機能とは、一般的に、メモリーカードにデータを転送しないで、ディジタルスチルカメラ内部の高速なメモリー(バッファメモリー)に画像データをため込むことで、複数のカットを高速で連続して撮影する機能をいう。
【0133】
以上、実施例、変形例に基づき本発明に係る画像処理について説明してきたが、上記した発明の実施の形態は、本発明の理解を容易にするためのものであり、本発明を限定するものではない。本発明は、その趣旨並びに特許請求の範囲を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物が含まれる。
【図面の簡単な説明】
【0134】
【図1】第1の実施例に係る画像処理装置を含む画像処理システムの一例を示す説明図。
【図2】第1の実施例に係るパーソナルコンピュータ20(CPU200)の機能ブロック図。
【図3】第1の実施例に係る画像処理の処理ルーチンを示すフローチャート。
【図4】4つのフレーム画像データが表す画像間の位置ずれを説明する概略図。
【図5】フレーム画像データF_refを基準として、フレーム画像データF(3)に対して行う位置ずれ補正について示す説明図。
【図6】特徴画素抽出処理の処理ルーチンを示すフローチャート。
【図7】特徴画素の抽出に用いるフィルタを示す説明図。
【図8】特徴画素抽出処理の結果の一例を示す概略図。
【図9】特徴領域決定処理の処理ルーチンを示すフローチャート。
【図10】特徴領域決定処理の概略を示す説明図。
【図11】設定された特徴領域TAと対応特徴領域CAを示す概略図。
【図12】対応特徴画素検出処理の処理ルーチンを示すフローチャート。
【図13】候補特徴画素CP’を抽出した結果の一例を示す概略図。
【図14】特徴画素TPと対応する対応特徴画素CPの決定手法を説明する概略図。
【図15】対応特徴画素検出処理の結果の一例を示す概略図。
【図16】対象画像f(3)を基準画像f_refに対して重ね合わせた状態を示す概略図。
【図17】基準画像f_refと対象画像f(a)(a=1〜3)とを、位置ずれを補正して配置した様子を拡大して示す説明。
【図18】バイ・リニア法による補間処理について示す説明図。
【図19】第2の実施例に係るパーソナルコンピュータ20(CPU200)の機能ブロック図。
【図20】第2の実施例に係る画像処理の処理ルーチンを示すフローチャート。
【図21】勾配法による位置ずれ補正量の算出方法について説明する第1の説明図。
【図22】勾配法による位置ずれ補正量の算出方法について説明する第2の説明図。
【図23】画素の回転補正量を模式的に示す説明図。
【図24】反復勾配法の概略を示す第1の説明図。
【図25】反復勾配法の概略を示す第2の説明図。
【図26】第2の補正量を算出する際に考慮する領域の具体例を説明する概略図。
【図27】基準画像f_refと対象画像f(3)を、他の態様に係る第1の補正量を用いて位置ずれを補正して配置した様子を示す概略図。
【符号の説明】
【0135】
10…ディジタルビデオカメラ(DVC)
20…パーソナルコンピュータ
200…中央演算装置(CPU)
201…ランダムアクセスメモリ(RAM)
202…ハードディスク(HDD)
203…カードスロット
204…入出力端子
205…光学ディスクドライブ
25…モニタ
30…プリンタ
40…表示装置
45…表示部
MC…メモリカード
LD…光学ディスク
M210…画像データ取得部
M220…特徴画素抽出部部
M230…特徴領域決定部
M240…対応特徴領域設定部
M250…対応特徴画素検出部
M260…補正量算出部
M262…第1の補正量算出部
M264…第2の補正量算出部
M270…高解像度画像生成部
【技術分野】
【0001】
本発明は、画像処理に関し、特に、比較的低解像度の複数の画像データから高解像度の画像データを生成する技術に関する。
【背景技術】
【0002】
デジタルビデオカメラで生成された動画像データを構成するフレーム画像や、デジタルスチルカメラによって連続撮影された画像データのように、時系列に並ぶ複数の近似した画像データが取得される場合がある。これらの近似した複数の画像データを元画像データとして、元画像データより高解像度の画像データを生成する技術が知られている(例えば、特許文献1)。
【0003】
【特許文献1】特開2004−88616号公報
【特許文献2】特開平11−164264号公報
【特許文献3】特開2000−244851号公報
【0004】
上記技術では、例えば、元画像データとして、動画像データを構成する連続する複数のフレーム画像を用いる場合において、フレーム画像の画像データを解析して、各フレーム画像間に生じている被写体の位置ずれを算出する。そして、算出した位置ずれに基づいて、各フレーム画像を重ね合わせて、高解像度の画像データを生成している。
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、上記技術では、被写体のずれを算出する負荷が大きく、処理時間がかかるという問題があった。すなわち、合成する領域内の全画素データを解析して、それぞれのフレーム画像間の画素の対応関係を算出して、被写体の位置ずれを合わせているため、特に合成する領域が大きい場合や、被写体の位置ずれが大きい場合には、膨大な処理時間を要する場合があった。
【0006】
また、位置ずれの算出精度を向上するため、被写体の回転成分のずれも考慮すると、さらに、多くの処理時間を要するため、位置ずれの算出処理時間の短縮が課題となっていた。
【0007】
本発明は、上記課題を解決するためになされたものであり、複数の画像データに基づいてより高解像度の画像データを生成する場合に、その処理時間の短縮を図ることを目的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するために本発明の第1の態様は、それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理装置を提供する。本発明の第1の態様に係る画像処理装置は、前記複数の画像データを取得する画像データ取得手段と、前記複数の画像データのうち、基準となる画像データが表す基準画像において、所定の特徴を有する特徴領域を決定する特徴領域決定手段と、前記複数の画像データのうち、前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴領域に対応する対応特徴領域を設定する対応特徴領域設定手段と、前記特徴領域と前記対応特徴領域の画像データに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出する補正量算出手段と、前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する高解像度画像データ生成手段とを備えることを特徴とする。
【0009】
本発明の第1の態様に係る画像処理装置によれば、時系列に並ぶ複数の画像データを合成して高解像度画像データを生成する際に、基準となる画像データが表す画像(以下、基準画像という。)において、所定の特徴を有する特徴領域を決定する。さらに、基準となる画像データ以外の画像データが表す画像(以下、対象画像という。)において、上述した特徴領域に対応する対応特徴領域を設定する。そして、対象画像の基準画像に対する被写体の位置ずれを補正する補正量(以下、単に補正量という。)を、特徴領域と対応特徴領域の画像データに基づいて算出する。対象画像と基準画像の全画像データを用いることなく、一部の領域の画像データを用いることで、補正量の算出に要する処理時間の短縮および処理負荷の軽減が図られる。また、一部の領域は、所定の特徴を有する特徴領域であるので、一部の領域の画像データを用いるのみであっても、精度が劣ることもない。
【0010】
本発明の第1の態様に係る画像処理装置において、前記特徴領域の決定は、前記基準となる画像データを解析して前記所定の特徴を抽出することによって実行されても良い。画像データの解析により適切な特徴領域を抽出することができる。
【0011】
本発明の第1の態様に係る画像処理装置は、さらに、前記基準画像を構成する画素であって、画像の特徴的部位を構成する特徴画素を抽出する特徴画素抽出手段を備え、前記特徴領域の抽出は、前記基準画像において、前記特徴画素を含む領域を前記特徴領域と決定することによって実行されても良い。特徴画素を抽出し、特徴画素を含む領域を特徴領域と決定することで、適切な特徴領域を抽出することができる。
【0012】
本発明の第1の態様に係る画像処理装置において、前記特徴領域は、基準数以上の前記特徴画素を含む領域、または、検出された全ての前記特徴画素のうち基準割合以上の前記特徴画素を含む領域であっても良く、前記特徴領域は、抽出された前記特徴画素全体の重心が中心に位置する領域であっても良い。かかる場合には、特徴画素が多く分布する領域を特徴領域とすることで、より補正量の算出に用いるのに適した特徴領域を抽出することができる。
【0013】
本発明の第1の態様に係る画像処理装置は、さらに、前記特徴領域に含まれる前記特徴画素に対応する対応特徴画素を、それぞれの対象画像における前記対応特徴領域において検出する対応特徴画素検出手段を備え、前記補正量は、前記特徴画素の位置と、前記特徴画素に対応する前記対応特徴画素の位置とに基づいて算出されても良い。かかる場合には、特徴領域に含まれる特徴画素の位置と、対応する対応特徴画素の位置に基づいて、補正量を算出するので、算出に考慮するデータ量をさらに大幅に低減でき、補正量の算出に要する処理時間の短縮および処理負荷の軽減が図られる。
【0014】
発明の第1の態様に係る画像処理装置は、さらに、前記特徴領域に含まれる前記特徴画素に対応する対応特徴画素を、それぞれの対象画像における前記対応特徴領域において検出する対応特徴画素検出手段を備え、前記補正量算出手段は、前記特徴画素の位置と、前記特徴画素に対応する前記対応特徴画素の位置とに基づいて推定される第1の補正量を算出する第1の補正量算出手段と、前記特徴領域を構成する画素の画素値と前記対応特徴領域を構成する画素の画素値とを解析して推定される第2の補正量を、前記第1の補正量を初期値に用いて算出する第2の補正量算出手段とを備えても良い。第1の補正量は、特徴画素および対応特徴画素の位置に基づいて算出されるので、算出に考慮するデータ量が少なく、算出にかかる処理負荷が小さい。さらに、第1の補正量を初期値に用いるため、第2の補正量として算出すべき補正量が小さくなり、第2の補正量の算出にかかる処理負荷が小さくなる。したがって、全体として補正量の算出にかかる処理時間の短縮および処理負荷の軽減を図ることができる。
【0015】
本発明の第1の態様に係る画像処理装置において、前記第1の補正量の算出は、前記複数の画像データが表す画像を構成する画素単位の精度で実行され、前記第2の補正量の算出は、前記複数の画像データが表す画像を構成する画素単位より細かい精度で実行されても良い。かかる場合には、まず、第1の補正量として画素単位の精度の補正量が算出され、最終的に、第2の補正量として画素単位より細かい精度(いわゆるサブピクセルレベルの精度)の補正量が算出される。この結果、処理負荷が比較的高い第2の補正量の算出は、サブピクセルレベルでの位置ずれ補正量にのみ用いられ、処理時間の短縮および処理負荷の軽減が図られる。
【0016】
本発明の第1の態様に係る画像処理装置において、第2の補正量の算出における解析は、前記特徴領域における一部の領域に含まれる画素の画素値と、前記対応特徴領域における前記一部の領域に対応する領域に含まれる画素の画素値のみを用いて実行されても良い。この場合において、前記一部の領域は、前記特徴画素と前記特徴画素近傍の所定範囲に位置する画素とから構成される領域であっても良い。かかる場合には、さらに、第2の補正量の算出において考慮すべきデータ量が少なくなり、さらに補正量の算出にかかる処理時間の短縮および処理負荷の軽減を図ることができる。
【0017】
本発明の第1の態様に係る画像処理装置において、前記対応特徴画素の検出は、それぞれの対象画像における前記対応特徴領域に含まれる画素であって、画像の特徴的部位を構成する候補特徴画素を抽出し、前記特徴画素とその周辺画素から構成される領域と、前記候補特徴画素とその周辺画素から構成される領域とを比較することによって、前記特徴画素と前記候補特徴画素との類似度を算出し、注目する前記特徴画素と前記類似度が最も高い組み合わせを構成する前記候補特徴画素を、注目する前記特徴画素に対応する前記対応特徴画素とすることによって実行されても良い。かかる場合には、画像の特徴的部位を構成する候補特徴画素を抽出し、特徴画素の周辺領域と候補特徴画素の周辺領域との類似度によって、特徴画素に対応する対応特徴画素を検出するので、精度良く対応特徴画素を検出することができる。
【0018】
本発明の第2の態様は、それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理装置を提供する。本発明の第2の態様に係る画像処理装置は、前記複数の画像データを取得する画像データ取得手段と、前記複数の画像データのうち基準となる画像データが表す基準画像を構成する画素の中から、画像の特徴的部位を構成する特徴画素を抽出する特徴画素抽出手段と、前記複数の画像データのうち前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴画素に対応する対応特徴画素を検出する対応特徴画素検出手段と、前記特徴画素の位置と、前記特徴画素に対応する対応特徴画素の位置とに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出する補正量算出手段と、前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する高解像度画像データ生成手段とを備えることを特徴とする。
【0019】
本発明の第2の態様に係る画像処理装置によれば、時系列に並ぶ複数の画像データを合成して高解像度画像データを生成する際に、基準画像を構成する画素の中から、所定の条件を満たす特徴画素を抽出する。さらに、対象画像を構成する画素の中から、上述した特徴画素に対応する対応特徴画素を検出する。そして、対象画像の基準画像に対する補正量を、前記特徴画素の位置と前記対応特徴画素の位置とに基づいて算出する。対象画像と基準画像の全画像データを用いることなく、特徴画素の位置と対応特徴画素の位置を用いることで、補正量の算出に要する処理時間の短縮および処理負荷の大幅な軽減が図られる。
【0020】
本発明の第2の態様に係る画像処理装置において、前記対応特徴画素の検出は、それぞれの対象画像を構成する画素であって、画像の特徴的部位を構成する候補特徴画素を抽出し、前記特徴画素とその周辺画素から構成される領域と、前記候補特徴画素とその周辺画素から構成される領域とを比較することによって、前記特徴画素と前記候補特徴画素との類似度を算出し、注目する前記特徴画素と前記類似度が最も高い組み合わせを構成する前記候補特徴画素を、注目する前記特徴画素に対応する前記対応特徴画素とすることによって実行されても良い。かかる場合には、画像の特徴的部位を構成する候補特徴画素を抽出し、特徴画素の周辺領域と候補特徴画素の周辺領域との類似度によって、特徴画素に対応する対応特徴画素を検出するので、精度良く対応特徴画素を検出することができる。
【0021】
本発明の第2の態様に係る画像処理装置において、前記対応特徴画素の検出は、前記基準画像における所定の特徴を有する特徴領域に対応する領域おいて実行されても良い。この場合において、前記特徴領域は、基準数以上の前記特徴画素を含む領域、または、抽出された全ての前記特徴画素のうち基準割合以上の前記特徴画素を含む領域であっても良く、さらに、抽出された前記特徴画素全体の重心が中心に位置する領域であっても良い。係る場合には、対応特徴画素を検出を画像全体に亘って実行することなく、一部の領域のみにおいて行うので、さらに、処理時間の短縮および処理負荷の軽減が図られる。さらに、対応特徴画素の検出は、特徴ある領域で実行されるので、一部の領域に限ることによって、算出される補正量の精度が劣ることもない。
【0022】
本発明の第3の態様は、それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理方法を提供する。本発明の第3の態様に係る画像処理方法は、前記複数の画像データを取得し、前記複数の画像データのうち、基準となる画像データが表す基準画像において、所定の特徴を有する特徴領域を決定し、前記複数の画像データのうち、前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴領域に対応する対応特徴領域を設定し、前記特徴領域と前記対応特徴領域の画像データに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出し、前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成することを特徴とする。
【0023】
本発明の第3の態様に係る画像処理方法によれば、本発明の第1の態様に係る画像処理装置と同様の作用効果を得ることができる。また、本発明の第3の態様に係る画像処理装置は、本発明の第1の態様にかかる画像処理装置と同様にして種々の態様にて実現され得る。
【0024】
本発明の第4の態様は、それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理方法を提供する。本発明の第5の態様に係る画像処理方法は、前記複数の画像データを取得し、前記複数の画像データのうち基準となる画像データが表す基準画像を構成する画素の中から、画像の特徴的部位を構成する特徴画素を抽出し、前記複数の画像データのうち前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴画素に対応する対応特徴画素を検出し、前記特徴画素の位置と、前記特徴画素に対応する対応特徴画素の位置とに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出し、前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成することを特徴とする。
【0025】
本発明の第4の態様に係る画像処理方法によれば、本発明の第2の態様に係る画像処理装置と同様の作用効果を得ることができる。また、本発明の第4の態様に係る画像処理装置は、本発明の第2の態様にかかる画像処理装置と同様にして種々の態様にて実現され得る。
【0026】
本発明の第3および第4の態様に係る画像処理方法は、この他にも、画像処理プログラムおよび画像処理プログラムが記録されたコンピュータが読み取り可能な記録媒体としても実現され得る。
【発明を実施するための最良の形態】
【0027】
以下、本発明にかかる画像処理装置について、図面を参照しつつ、実施例に基づいて説明する。
【0028】
A.第1の実施例
・画像処理システムの構成:
図1は、本発明の第1の実施例に係る画像処理装置を含む画像処理システムの一例を示す説明図である。本発明の第1の実施例に係る画像処理装置を適用可能な画像処理システムの構成について図1を参照して説明する。
【0029】
画像処理システムは、画像データを生成する撮像装置としてのディジタルビデオカメラ10、ディジタルビデオカメラ10にて生成された複数の画像データから、高解像度の画像データを生成する画像処理装置としてのパーソナルコンピュータ20、画像データを用いて画像を出力する出力装置としてのカラープリンタ30を備えている。また、出力装置としては、プリンタ30の他に、例えば、LCDディスプレイのモニタ25、表示装置40が用いられ得る。
【0030】
ディジタルビデオカメラ10は、設定されたフレームレートで、時系列に並ぶ複数の画像データGD1〜GDn(以下、フレーム画像データという。)を生成するカメラである。画像データは、光の情報をディジタルデバイス(CCDや光電子倍増管)に結像させ、デジタル信号に変換することによって生成される。ディジタルビデオカメラ10は、生成された複数のフレーム画像データGD1〜GDnを1つの画像ファイルGF(動画ファイル)として、光学ディスクLD(例えば、DVD−RAM等)に保存する。もちろん、画像ファイルGFの保存には、光学ディスクLDのみならず、デジタルビデオテープや、メモリカードMC等、種々の記録媒体が用いられ得る。
【0031】
パーソナルコンピュータ20は、一般的に用いられるタイプのコンピュータであり、高解像度の画像データを生成する処理を含む画像処理プログラムを実行するCPU200、CPU200における演算結果、画像データ等を一時的に格納するRAM201、画像処理プログラムを格納するハードディスクドライブ(HDD)202を備えている。パーソナルコンピュータ20は、DVD等の光学ディスクLD用のディスクドライブ205、メモリカードMCを装着するためのカードスロット203、ディジタルビデオカメラ10からの接続ケーブルを接続するための入出力端子204を備えている。
【0032】
プリンタ30は、画像データをカラー画像として出力可能なプリンタであり、例えば、シアン、マゼンタ、イエロー、ブラックの4色の色インクを印刷媒体上に噴射してドットパターンを形成することによって画像を形成するインクジェット方式のプリンタである。あるいは、カラートナーを印刷媒体上に転写・定着させて画像を形成する電子写真方式のプリンタである。色インクには、上記4色に加えて、ライトシアン(薄いシアン)、ライトマゼンタ(薄いマゼンタ)、レッド、ブルーを用いても良い。
【0033】
表示装置40は、画像データの画像を表示するための表示ディスプレイ45を有し、例えば、電子式の写真フレームとして機能する表示装置である。表示ディスプレイ45は、例えば、液晶表示ディスプレイ、有機EL表示ディスプレイが用いられ得る。
【0034】
プリンタ30および表示装置40は、スタンドアローンにて画像処理、画像出力を実行するため、パーソナルコンピュータ20が備える画像処理機能を備えても良い。かかる場合には、プリンタ30、表示装置40は、パーソナルコンピュータ20を介さずに、例えば、メモリーカードMC等の記憶媒体、あるいは、ケーブルを介してディジタルビデオカメラ10から画像データを取得し、プリンタ30、表示装置40がそれぞれ本実施例における画像処理装置として機能することができる。
【0035】
以下の説明では、ディジタルビデオカメラ10で生成された画像データが、パーソナルコンピュータ20に送出され、パーソナルコンピュータ20にて高解像度の画像データを生成する画像処理が実行される場合について説明する。
【0036】
・パーソナルコンピュータ20の機能的構成:
図2は、本実施例に係るパーソナルコンピュータ20(CPU200)の機能ブロック図である。図2を参照してパーソナルコンピュータ20(CPU200)の機能的構成の概要について説明する。
【0037】
画像データ取得部M210は、画像ファイルGFに記録されたフレーム画像データGD1〜GDnの中から選択された時系列に並ぶ複数のフレーム画像データを取得する。
【0038】
特徴画素抽出部M220は、取得された複数のフレーム画像データのうち基準となるデータが表す画像(基準画像)において、画像の特徴的部位を構成する特徴画素を抽出する。特徴領域決定部M230は、基準画像において、所定の特徴を有する特徴領域を抽出する。例えば、抽出された特徴画素を含む領域が特徴領域として抽出される。
【0039】
対応特徴領域設定部M240は、取得された複数のフレーム画像データのうち基準となるデータ以外のデータが表す画像(対象画像)において、抽出された特徴領域に対応する領域(以下、対応特徴領域という。)を、取得された複数のフレーム画像データのうち基準となるデータ以外のデータが表す画像(対象画像)のそれぞれにおいて設定する。対応特徴画素検出部M250は、それぞれの対象画像において設定された対応特徴領域において、上述した特徴画素に対応する対応特徴画素を検出する。
【0040】
補正量算出部M260は、画像データ取得部M210が取得した複数のフレーム画像データが表す各画像間に生じている位置ずれを補正するための補正量(以下、位置ずれ補正量という。)を、特徴領域と対応特徴領域の画像データに基づいて算出する。位置ずれ補正量は、例えば、特徴領域に含まれる特徴画素の位置と、対応特徴領域に含まれる対応特徴画素の位置とに基づいて算出される。
【0041】
高解像度画像生成部M270は、補正量算出部M260によって、算出された位置ずれ補正量に基づいて、上述した各画像間に生じている位置ずれを補正する。そして、高解像度画像生成部M270は、補正された各画像のフレーム画像データを合成して、フレーム画像データより解像度の高い画像データを新たに生成する。
【0042】
・パーソナルコンピュータ20における画像処理:
図3〜図18を参照して、本実施例に係るパーソナルコンピュータ20において実行される画像処理について説明する。
【0043】
図3は、本実施例に係る画像処理の処理ルーチンを示すフローチャートである。パーソナルコンピュータ20(CPU200)は、ユーザーの指示に従って、本画像処理のプログラムを起動する。CPU200は、ユーザの指示に従って光学ディスクLD等から画像ファイルGFを読み出し、画像ファイルGFに記録されたフレーム画像データGD1〜GDnが表す動画像を再生する。
【0044】
動画像の再生中に、ユーザによってフレーム画像データの取得指示が入力されると、CPU200は、動画像データを構成するフレーム画像データGD1〜GDnの中から、連続する複数のフレーム画像データを取得する(ステップS10)。各フレーム画像データは、ドットマトリクス状の各画素の階調値(以下、「画素値」とも呼ぶ。)を示す階調データ(以下、「画素データ」とも呼ぶ。)で構成されている。画素データは、3つの画素値Y(輝度)、Cb(ブルーの色差)、Cr(レッドの色差)からなるYCbCrデータや、3つの画素値R(レッド)、G(グリーン)、B(ブルー)からなるRGBデータ等が用いられ得る。本実施例では、CPU200は、ユーザーに指示されたフレーム画像データを含むと共に時系列に並ぶ4つのフレーム画像データを取得するものとする。CPU200は、取得した4つのフレーム画像データをRAM201に一時的に格納する。
【0045】
図4は、取得した4つのフレーム画像データが表す画像間の位置ずれを説明する概略図である。CPU200は、取得された4つのフレーム画像データのうち、いずれかのフレーム画像データを、合成の基準となる基準フレーム画像データとして指定する。本実施例では、時系列順に2番目のフレーム画像データを、基準フレーム画像データとする(図4参照)。
【0046】
以下の説明では、取得した4つのフレーム画像データのうち、基準フレーム画像データを記号F_refで表すこととする。そして、基準画像データF_refが表す画像を基準画像f_refと呼ぶこととする(図4参照)。また、基準フレーム画像データF_ref以外の3つのフレーム画像データを、時系列順の番号(以下、「フレーム番号」とも呼ぶ。)aを用いて、記号F(a)(a=1〜3)と表すこととする。そして、フレーム画像データF(a)が表す画像を対象画像f(a)(a=1〜3)と呼ぶこととする(図4参照)。
【0047】
ユーザによって、取得されたフレーム画像データについて、高解像度の静止画像を生成する指示が入力されると、まず、CPU200は、4つのフレーム画像データF(a)が表す各画像間における被写体の位置ずれ(以下、単に位置ずれという。)を解消する補正(位置ずれ補正)のための補正量(位置ずれ補正量)を算出する。ステップS30〜ステップS70までの一連の処理は、この位置ずれ補正量を算出するための処理である。ここで、位置ずれおよび位置ずれ補正について説明しておく。
【0048】
図4には、基準画像f_refと、対象画像f(3)間の位置ずれが示されている。また、図5は、基準フレーム画像データF_refを基準として、フレーム画像データF(3)に対して行う位置ずれ補正について示す説明図である。位置ずれ補正量を算出するにあたっては、基準フレーム画像データF_refを基準とする。すなわち、基準フレーム画像データF_refに対する位置ずれ補正量を、他の3つのフレーム画像データF(a )(a=1〜3)について、それぞれ算出する。
【0049】
位置ずれは、画像の横方向および縦方向の並進のずれ(以下、単に、並進ずれという。)と、画像の中心を軸とした回転のずれ(以下、単に、回転ずれという。)との組み合わせで表される。図4では、基準画像f_refに対する、対象画像f(3)の位置ずれ量を分かり易く示すため、基準画像f_refの縁と、対象画像f(3)の縁とを重ねて示すとともに、基準画像f_ref上の中心位置に仮想の十字画像X_refを追記し、この十字画像X_refが、対象画像f(3)と同様にずれたとして、対象画像f(3)上に、ずれた結果の画像である十字画像X3を示すようにしている。更に、この位置ずれ量を、より分かり易く示すために、基準画像f_refおよび十字画像X_refを太い実線で示すとともに、対象画像f(3)および十字画像X3を細い破線で示すようにしている。
【0050】
本実施例では、図4に示すように、並進ずれ量として横方向を「um」、縦方向を「vm」と表し、回転ずれ量を「δm」と表し、対象画像f(a)の基準画像f_refに対する位置ずれ量を「uma」、「vma」、「δma」と表すこととする。例えば、対象画像f(3)の基準画像f_refに対するずれ量は、um3、vm3、δm3と表される。
【0051】
また、補正とは、画像を構成する各画素の位置を、横方向にuの移動、縦方向にvの移動、およびδの回転を施した位置に移動させるように、フレーム画像データにおいて各画素データの座標を変換することを意味する。uは、横方向の並進補正量を表し、vは、縦方向の並進補正量を表している。そして、δは、回転補正量を表している。
【0052】
対象画像f(a)の基準画像f_refに対する位置ずれを補正する位置ずれ補正量を「ua」、「va」、「δa」と表すこととすると、位置ずれ補正量と、上述した位置ずれとの間には、ua=−uma、va=−vma、δa=−δmaの関係が成り立つ。例えば、対象画像f(3)についての位置ずれ補正量u3、v3、δ3は、u3=−um3、v3=−vm3、δ3=−δm3で表される。
【0053】
以上説明したように、例えば、図5に示すように、位置ずれ補正量u3、v3、δ3を用いて、フレーム画像データF(3)に対して補正を実行するすることにより、対象画像f(3)と基準画像f_refの被写体を互いに一致させることができる。すなわち、補正後の対象画像f(3)と、基準画像f_refとを重ね合わせると、図5に示すように、対象画像f(3)は、基準画像f_refに対して部分一致する。なお、この補正の結果を分かり易く示すため、図5においても、図4と同じ仮想の十字画像X_refおよび十字画像X3を表記しており、図5に示すように、補正の結果として、十字画像X3は十字画像X_refと一致することとなる。
【0054】
なお、上述の「部分一致する」とは、以下のことを意味するものである。すなわち、図5に示すように、例えば、ハッチングを施した領域P1は、画像f(3)にのみ存在する領域であり、画像f_refには、該当する領域は存在しない。このように、上述の補正を行ったとしても、ずれに起因して、画像f_refにのみ、または、f(3)にのみ存在する領域が生じてしまうため、画像f(3)は、画像f_refに対して完全一致することはなく、部分一致することとなる。
【0055】
図3に戻って、位置ずれ補正量ua、va、δaの算出する処理(ステップS20〜ステップS70)について説明を続ける。CPU200は、まず、基準画像f_refを構成する画素の中から、特徴画素を抽出する(ステップS30)。特徴画素は、所定の抽出条件を満たす画素であり、抽出条件は、画像の個性を決定づけるような特徴的部位を構成する画素を抽出できる条件であることが望ましい。例えば、本実施例では、エッジ画素であって、当該エッジ画素とその周囲の画素とが所定のパターンを形成する画素を特徴画素として抽出するように、抽出条件を設定している。以下、具体的に説明する。
【0056】
図6は、特徴画素を抽出する処理(以下、特徴画素抽出処理という。)の処理ルーチンを示すフローチャートである。図7は、特徴画素の抽出に用いるフィルタを示す説明図である。図8は、特徴画素抽出処理の結果の一例を示す概略図である。
【0057】
CPU200は、基準画像f_refを構成する画素の中から注目画素を設定する(ステップS301)。CPU200は、注目画素がエッジ画素か否かを判断する(ステップS302)。具体的には、CPU200は、注目画素に対して、所定のエッジ抽出フィルタを適用して、エッジ度合を算出する。そして、CPU200は、注目画素のエッジ度合を予め設定された閾値と比較して、当該閾値より大きい場合には注目画素はエッジ画素であると判断し、当該閾値より小さい場合には注目画素はエッジ画素でないと判断する。
【0058】
エッジ抽出フィルタは、本実施例では、図7(a)に示す垂直および水平方向のsobelフィルタを用いている。もちろん、sobelフィルタに代えて、他の種々の公知のフィルタを用いることが可能である。例えば、prewittフィルタ、robertsフィルタ、laplacianフィルタを用いることができる。
【0059】
エッジ度合は、エッジ勾配の強弱を示す値であり、例えば、注目画素を中心とする3×3の計9つの画素の画素値を、上述したエッジ抽出フィルタによって重み付けして合計した値を用いることができる。エッジ度合の算出に用いる画素値は、輝度値であっても良いし、RGBの各画素値であっても良い。
【0060】
閾値は、適当な数のエッジ画素を抽出できるように、経験的に定められる。また、実際に検出されたエッジ画素数に応じて、適宜、閾値の大きさを調整しても良い。
【0061】
CPU200は、エッジ画素か否かの判断を全ての画素について終了していない場合(ステップS303:NO)には、まだ判断していない画素を注目画素として設定して、上述した処理を繰り返す(ステップS301〜S302)。この結果、基準画像f_refを構成する全ての画素が、エッジ画素か非エッジ画素かのどちらかに類別される。
【0062】
CPU200は、エッジ画素か否かの判断を全ての画素について終了した場合(ステップS303:YES)には、上述したステップにおいてエッジ画素であると判断された画素の中から注目エッジ画素を設定する(ステップS304)。CPU200は、注目エッジ画素が、特徴画素か否かを判断する(ステップS305)。例えば、CPU200は、注目エッジ画素を中心とする領域においてエッジ画素と非エッジ画素とにより形成するパターンが、所定の抽出パターンに近い場合には、注目エッジ画素は特徴画素であると判断し、所定の抽出パターンに近くない場合には、注目エッジ画素は特徴画素でないと判断する。
【0063】
所定の抽出パターンは、例えば、図7(b)に示すように、エッジ画素を表す「1」と非エッジ画素を表す「0」とによってパターンを形成した3×3のドットマトリックス状のフィルタ(以下、パターンフィルタという。)として、予め記憶されている。図7(b)に示す8つのパターンフィルタは、中央のエッジ画素と周囲の4つのエッジ画素(「1」の部分)と、非エッジ画素(「0」の部分)との境界に、135度の角が形成されるパターンを表している。したがって、図7(b)に示すパターンフィルタは、135度の角を抽出するといえる。パターンフィルタとしては、5×5画素等、種々の大きさを採用可能であるし、抽出パターンとしても、90°〜180°の角が形成されるパターン等、種々のパターンを採用可能である。
【0064】
具体的な判断手法について説明すると、CPU200は、注目画素を中心としたパターンフィルタに対応する領域(以下、比較領域という。)と上述した8つのパターンフィルタとを順番に照合する。そして、CPU200は、比較領域におけるエッジ画素の位置と一のパターンフィルタにおけるエッジ画素の位置(「1」の位置)とが3つ以上一致する場合に、当該領域のパターンは所定の抽出パターンに近く、注目エッジ画素は特徴画素であると判断する。そして、CPU200は、比較領域と8つの全てのパターンフィルタとを照合して、エッジ画素の位置が3つ以上一致するパターンフィルタが無い場合に、注目画素は特徴画素でないと判断する。
【0065】
CPU200は、特徴画素か否かの判断を全てのエッジ画素について終了していない場合(ステップS306:NO)には、まだ判断していないエッジ画素を注目エッジ画素として設定して、上述した処理を繰り返す(ステップS304〜S305)。CPU200は、特徴画素か否かの判断を全てのエッジ画素について終了すると(ステップS306:YES)、特徴画素抽出処理を終了する。
【0066】
図8は、特徴画素抽出処理の結果の一例を示す概略図である。図8に示すように、基準画像f_refにおいて、画素値の変化が大きいエッジ部分(例えば、主要被写体と背景との境界部分)に複数個の特徴画素が抽出される。
【0067】
CPU200は、次に、基準画像f_refにおいて所定の特徴を有する特徴領域を決定する(ステップS50)。特徴領域は、画像の個性を決定づけるような特徴的部位を含み、画素値の変化に富む領域であることが望ましい。本実施例では、基準画像f_refの画像データを解析して特徴領域を抽出することによって特徴領域を決定する。以下、具体的に説明する。
【0068】
図9は、特徴領域を決定する処理(以下、特徴領域決定処理という。)の処理ルーチンを示すフローチャートである。図10は、特徴領域決定処理の概略を示す説明図である。以下では、図10に示す例を参照して説明する。CPU200は、先ず、上述した特徴画素抽出処理により抽出された特徴画素全体の重心位置を算出する(ステップS401)。抽出された全ての特徴画素のX座標の平均値、およびY座標の平均値を算出すれば良い。図10において、記号GPは、算出された重心の位置を示している。
【0069】
CPU200は、次に、算出された重心GPを中心として、予め定められた初期サイズの特徴領域を設定する(ステップS402)。図10において2点破線で示される領域FAは、本ステップにより設定された初期サイズの特徴領域を表している。初期サイズは、例えば、基準画像f_refの1/4の縦巾および横幅とすることができる。
【0070】
CPU200は、設定した特徴領域が、領域決定条件を満たすか否かを判断する(ステップS403)。領域決定条件としては、種々の条件を用いることができる。例えば、抽出された全ての特徴画素のうち基準割合(例えば、30%)以上の特徴画素が設定した特徴領域に含まれること、あるいは、基準数(例えば、10個)以上の特徴画素が設定した特徴領域に含まれること、等を領域決定条件とすることができる。これによって、特徴画素が多く分布する適切な特徴領域を抽出することができる。図10で示す例では、図の煩雑を避けるため、5個以上の特徴画素が特徴領域に含まれることを特徴領域決定条件として説明する。図10で示す例では、初期サイズの特徴領域FAは4つの特徴画素しか含んでいないため、CPU200は、特徴領域FAは特徴領域決定条件を満たさないと判断することになる。
【0071】
CPU200は、設定した特徴領域が領域決定条件を満たさない場合(ステップS403:NO)には、特徴領域のサイズを所定量(例えば、縦24画素、横36画素分)大きく変更する(ステップS404)。そして、CPU200は、ステップS403に戻り、変更後の特徴領域が領域決定条件を満たすか否かを判断する。CPU200は、特徴領域が領域決定条件を満たすまで、ステップS403およびS404を繰り返し実行し、特徴領域が特徴領域決定条件を満たした場合(ステップS403:YES)には、その時点で設定されているサイズの特徴領域を最小特徴領域と決定する(ステップS405)。図10に示す例では、破線で示す領域MAまで初期サイズよりサイズを大きくした時点で、特徴領域は5つの特徴画素を含み特徴決定条件を満たすので、CPU200は、領域MAを最小特徴領域と決定することになる。
【0072】
CPU200は、続いて、決定した最小特徴領域MAに所定のマージン領域を付加した領域を最終的な特徴領域TAと決定する(ステップS406)。所定のマージン領域は、例えば、図10の例においてハッチングされた領域Mで示すように、最小特徴領域MAの周囲に所定の巾(図10において、記号TMおよびYMで示されている。)で付加される。マージン領域の巾は、例えば、縦24画素、横36画素とすることが出来る。マージン領域を付加する理由は後述する。CPU200は、最終的な特徴領域TAを決定すると本処理を終了し、図3に示す処理ルーチンにリターンする。
【0073】
図3に戻って説明を続ける。CPU200は、対象画像f(a)(a=1,2,3)のそれぞれにおいて、基準画像f_refにおける上述した特徴領域に対応する領域(以下、対応特徴領域という。)を設定する(ステップS50)。図11は、4つの画像において設定された特徴領域TAと対応特徴領域CAを示す概略図である。図11に示すように、基準画像f_refにおける特徴領域TAの位置、大きさ、範囲と同じ位置、大きさ、範囲の領域を対象画像f(a)(a=1,2,3)のそれぞれに対応特徴領域CAとして設定する。
【0074】
CPU200は、対応特徴領域CAを設定すると、基準画像f_refにおける特徴領域TAに含まれる特徴画素TPに対応する画素CP(以下、対応特徴画素CPという。)を、対応特徴領域CAにおいて検出する(ステップS60)。基準画像f_refと対象画像f(a)(a=1,2,3)は、いずれも時系列的に連続する4つのフレーム画像データの一つが表す画像であるから、多少の位置ずれは生じているものの互いに類似した画像であるはずである。したがって、基準画像f_refにおける特徴画素TPと類似した特徴を有する対応特徴画素CPがそれぞれの対象画像f(a)において、ほぼ近似した位置に存在すると考えられる。以下、対応特徴画素CPの検出について具体的に説明する。
【0075】
図12は、対応特徴画素を検出する処理(以下、対応特徴画素検出処理という。)の処理ルーチンを示すフローチャートである。図13は、対応特徴画素の候補となる画素(以下、候補特徴画素という。)を抽出した結果の一例を示す概略図である。図14は、特徴画素TPと対応する対応特徴画素CPの決定手法を説明する概略図である。図14(a)は、2つの画素の類似度を表す指標Sの算出方法を示している。図14(b)は、基準画像f_refの特徴領域TAにおける特徴画素TP1〜TP5と対象画像f(3)の対応特徴領域CAにおける候補特徴画素CP’1〜CP’6を具体例にして、特徴画素TPと候補特徴画素CP’との対応関係の決定手法を示している。図15は、対応特徴画素検出処理の結果の一例を示す概略図である。CPU200は、先ず、3つの対象画像f(a)(a=1,2,3)の中から注目対象画像を設定する(ステップS601)。
【0076】
CPU200は、設定した注目対象画像における対応特徴領域において、対応特徴画素の候補となる画素CP’(候補特徴画素CP’)を抽出する(ステップS602)。候補特徴画素CP’の抽出は、上述したステップS30の特徴画素抽出処理を注目対象画像における対応特徴領域CAに含まれる各画素に対して適用することによって実行される。すなわち、各画素に対してエッジ抽出フィルタを適用してエッジ画素を抽出し、抽出されたエッジ画素に対してパターンフィルタを適用して候補特徴画素CP’を抽出する(図6および図7参照)。
【0077】
図13に示す例では、対象画像f(3)を注目対象画像として、対応特徴領域CA内において、6個の候補特徴画素CP’が抽出されている。このように、基準画像f_refの特徴領域TAに含まれる特徴画素の数(図13の例では、5個)と、対応特徴領域CAに含まれる候補特徴画素CP’の数は必ずしも一致しない。しかし、少なくとも抽出された候補特徴画素CP’の中に、検出すべき対応特徴画素CPが全て含まれていることが望ましい。図13に示す例では、基準画像f_refと対象画像f(3)間に多少位置ずれが生じているにも関わらず、抽出された6個の候補特徴画素CP’の中に、検出すべき5個の対応特徴画素CP(特徴領域TAに含まれる5個の特徴画素にそれぞれ対応する。)が含まれていることが解る。上述した特徴領域決定処理(ステップS40)においてマージン領域を付加した理由は、位置ずれによって、検出すべき対応特徴画素CPが対応特徴領域CAから外れて、本処理において候補特徴画素CP’として抽出されなくなることを防ぐためである。
【0078】
CPU200は、続いて、特徴領域TAに含まれる各特徴画素TPごとに、最類似の関係にある候補特徴画素CP’を決定する(ステップS603)。図14を参照して説明すると、CPU200は、まず、着目する特徴画素(例えば、特徴画素TP1)と候補特徴画素CP’との類似度を表す値Sを、全ての候補特徴画素(CP’1〜CP’6の6つ)について算出する。本実施例では、図14(a)に示すように、比較する2つの画素を中心とする3×3画素について、それぞれ対応する画素の画素値の差分を算出する。そして、算出した差分の絶対値を足し合わせた値Sを算出する。すなわち、比較する2つの画素の座標をそれぞれ(i,j),(I,J)で表し、座標(i,j)の画素の画素値をX(i,j)と表すと、値Sは以下の式(1)を用いて算出される。
【0079】
【数1】
【0080】
値Sの算出に用いる画素値は、輝度値であっても良いし、RGBの各画素値であっても良い。算出された値Sが小さいほど、両画素は類似度が高いといえる。CPU200は、算出された値Sが最も小さい候補特徴画素CP’を、着目する特徴画素TPと最類似の関係にあると決定する。CPU200は、特徴領域TAに含まれる全ての特徴画素TPに着目して上述の処理を繰り返し、特徴領域TAに含まれる全ての特徴画素TPについてそれぞれ最類似の関係にある候補特徴画素CP’を決定する。
【0081】
CPU200は、次に、対応特徴領域CAに含まれる各候補特徴画素CP’ごとに、最類似の関係にある特徴画素TPを決定する(ステップS604)。つまり、ステップS603とは逆に、対応特徴領域CAに含まれる候補特徴画素CP’に着目して、特徴領域TAに含まれる全ての特徴画素TPの中から着目する候補特徴画素CP’と最類似の関係にある特徴画素を決定する。図14を参照して説明すると、CPU200は、まず、着目する候補特徴画素(例えば、画素CP’1)と特徴画素との類似度を表す値Sを、特徴領域TA内に含まれる全ての特徴画素(TP1〜TP5の5つ)について算出する。値Sの算出手法は、上述したステップS603と同様である。CPU200は、算出された値Sが最も小さい特徴画素TPを、着目する候補特徴画素CP’と最類似の関係にあると決定する。CPU200は、対応特徴領域CAに含まれる全ての候補特徴画素CP’についてそれぞれ最類似の関係にある特徴画素TPを決定する。
【0082】
CPU200は、ステップS603とステップS604において決定した最類似の関係に基づいて、候補特徴画素CP’の中から特徴領域TAに含まれる各特徴画素TPに対応する対応特徴画素CPを決定する(ステップS605)。具体的には、注目する特徴画素TPと、互いからみて最類似の関係にある組み合わせを構成する候補特徴画素CP’を、当該特徴画素TPに対応する対応特徴画素CPであるとする。このような組み合わせが類似度が最も高い組み合わせであると考えられる。
【0083】
図14(b)に示す例を用いて詳しく説明する。ステップS603において特徴画素TP1と最類似の関係にあると決定された候補特徴画素はCP’1であるとする。そして、ステップS604において候補特徴画素CP’1と最類似の関係にあると決定された特徴画素はTP1であり、候補特徴画素CP’6と最類似の関係にあると決定された特徴画素もTP1であるとする。かかる場合には、特徴画素TP1と候補特徴画素CP’1とは互いからみて最類似の関係にあるので、CPU200は、候補特徴画素CP’1を特徴画素TP1に対応する対応特徴画素CPであると決定する。一方で、片側からのみ最類似の関係にある候補特徴画素CP’6は、対応特徴画素とはされない。CPU200は、これにより、特徴領域TAに含まれる5つの特徴画素TP1〜TP5の全てについて、それぞれ対応特徴画素を決定する。図14(b)に示す例では、TP1−CP’1、TP2−CP’2、TP3−CP’3、TP4−CP’4、TP5−CP’5がそれぞれ対応する組み合わせとなる。
【0084】
CPU200は、着目対象f(a)について画像対応特徴画素CPの決定を終えると、全ての対象画像f(a)(a=1,2,3)について対応特徴画素CPを決定する処理を終了したか否かを判断する(ステップS606)。CPU200は、まだ、対応特徴画素の決定が終了していない対象画像f(a)が存在する場合(ステップS606:NO)には、当該対象画像f(a)を新たな着目対象画像に設定して(ステップS601)、上述した処理(ステップS602〜S605)を繰り返す。CPU200は、全ての対象画像f(a)(a=1,2,3)について対応特徴画素の決定を終了すると(ステップS606:YES)、本処理を終了して、図3の処理ルーチンにリターンする。この時点で、基準画像f_refの特徴領域TAにおいては特徴画素TP(図15に示す例では、領域TAにおける5つの画素TP)が認識され、3つの対象画像f(a)(a=1,2,3)それぞれの対応特徴領域CAにおいては対応特徴画素CP(図15に示す例では、領域CAにおける5つの画素CP)が認識された状態となる。
【0085】
CPU200は、次に、これまでの処理によって認識された特徴画素TPの位置と対応特徴画素CPの位置とに基づいて、上述した位置ずれ補正量(ua、va、δa)を、3つの対象画像f(a)(a=1,2,3)それぞれについて算出する(ステップS70)。
【0086】
図16は、基準画像f_refにおける特徴画素TPの位置と対象画像f(3)における対応特徴画素CPの位置が最も近づくように、対象画像f(3)を基準画像f_refに対してずらして重ね合わせた状態を示す概略図である。CPU200は、このような重ね合わせ位置を実現する位置ずれ補正量(ua、va、δa)を算出する。具体的には、予め位置ずれ補正量の最大範囲を決めておき、その範囲内で、各特徴画素TPに対応する対応特徴画素CPとの画素間距離の合計が最も小さくなるように、位置ずれ補正量(ua、va、δa)を決定する。上述したように、4つの画像は時系列的に連続したフレーム画像データが表す画像であるから、互いに類似しており、各画像間に生じている位置ずれ量は、比較的小さな範囲内に収まる。従って、予め経験的に位置ずれ補正量の最大範囲を、例えば、|ua|<U、|va|<V、|δa|<Δ、(U、V、Δは、定数)と定めておくことで、処理を高速化できる。
【0087】
位置ずれ補正量が、対象画像f(a)(a=1〜3)の全てについて算出されると、算出された位置ずれ補正量を用いて、フレーム画像データF(a)(a=1〜3)に対して位置ずれ補正を実行して、対象画像f(a)(a=1〜3)と基準画像f_refの計4つの画像を、部分一致するように重ね合わせることができる(図5参照)。
【0088】
図3に戻って説明を続ける。CPU200は、位置ずれ補正した4つのフレーム画像データF(a)を合成して、フレーム画像データF(a)より高解像度の画像を表す画像データ(以下、高解像度画像データという。)を生成する処理(以下、高解像度画像合成処理という。)を実行する(ステップS80)。以下、高解像度画像合成処理について簡単に説明する。
【0089】
図17は、基準画像f_refと対象画像f(a)(a=1〜3)とを、位置ずれを補正して配置した様子を拡大して示す説明図である。図17では、高解像度画像合成処理によって生成される高解像度画像データが表す画像(以下、高解像度画像という。)の各画素が黒丸で示されているとともに、基準画像f_refの各画素が白抜きの四辺形で示され、対象画像f(a)(a=1〜3)の各画素が、ハッチングを施した四辺形で示されている。なお、高解像度画像の画素密度は、基準画像f_refに対して、縦横1.5倍密に設定されるものとする。また、高解像度画像の各画素は、2画素おきに基準画像f_refの各画素に重なる位置にあるものとする。ただし、高解像度画像の画素が、必ずしも基準画像f_refの各画素に重なる位置にある必要はない。例えば、高解像度画像の各画素のすべてが、基準画像f_refの各画素の中間に位置する等、種々の位置とすることができる。また、高解像度画像の画素密度も、縦横1.5倍に限定されるものではなく、自由に設定することができる。
【0090】
高解像度画像のある画素G(i)に注目して説明する(以下、画素G(i)を注目画素という。)。変数iは、高解像度画像の全画素を区別する番号を示している。ここで、図17に示すように、4つの画像f_ref,f(1),f(2),f(3)において、注目画素G(i)と最も近い画素を、それぞれP_ref,P(1),P(2),P(3)とする。CPU200は、注目画素G(i)と画素P_ref,P(1),P(2),P(3)との距離L0,L1,L2,L3をそれぞれ算出する。そして、CPU200は、最も近い距離にある画素(以下、「最近傍画素」と呼ぶ。)を決定する。図17の例では、L3<L1<L0<L2であるので、対象画像f(3)の画素P(3)が、注目画素G(i)の最近傍画素として決定される。なお、この注目画素G(i)に対する最近傍画素が、対象画像f(3)のj番目の画素であったとして、以下、最近傍画素P(3,j)と表記する。
【0091】
CPU200は、注目画素G(i)の画素値を、決定された最近傍画素含む画像f(a)(図17に示す例では、対象画像f(3))において注目画素G(i)を囲む画素の画素値を用いて、バイ・リニア法等の補完処理によって生成する。補間処理の方法については、バイ・リニア法の他、バイ・キュービック法、ニアレストネイバ法等の種々の方法を用いることができる。
【0092】
図18は、バイ・リニア法による補間処理について示す説明図である。注目画素G(i)は、4つの画像画像f_ref,f(1)〜f(3)のいずれにも存在しない画素であるので、画素値が存在していない。そこで、CPU200は、最近傍画素P(3,i)のほか、注目画素G(i)を囲む3つの画素P(3,i+1)、P(3,k)、P(3,k+1)で区画される領域を、注目画素G(i)で4つの区画に分割し、その面積比で対角位置の画素の画素値をそれぞれ重み付けして加算することにより、注目画素G(i)の画素値を生成する。ただし、kはi番目の画素に対象画像f(3)の横方向の画素数を加えた画素の番号を示している。
【0093】
CPU200は、高解像度画像を構成する全ての画素について、上述した処理によって画素値を生成する。この結果、高解像度画像を表す高解像度画像データが最終的に生成される。
【0094】
以上説明した第1の実施例に係る画像処理装置によれば、画像ファイルGF(動画ファイル)から取得した4つのフレーム画像データF_ref、F(a)(a=1〜3)の合成に用いる位置ずれ補正量を、基準画像f_refの特徴画素の位置と、対象画像f(a)の対応特徴画素の位置とに基づいて算出する。この結果、基準画像f_refおよび対象画像f(a)を表す全画像データを用いることなく、極めて少ない画素の位置のみに基づいて位置ずれ補正量を算出することができるので、算出にかかる処理時間の短縮および処理負荷の軽減を図ることができる。
【0095】
特徴画素の抽出処理や対応特徴画素の検出処理は、画素の周辺の比較的狭い領域(例えば、3×3画素の領域)の比較によって行われる高速な処理であり、これらの処理が負担となることもない。また、位置ずれ補正量の算出に用いる特徴画素および対応特徴画素は、エッジ抽出フィルタやパターンフィルタにより抽出された特徴的な画素であるので、考慮する画素が少なくても位置ずれ補正量の算出精度が劣ることもない。
【0096】
さらに、位置ずれ補正量の算出に用いる特徴画素は、基準画像f_refの一部の領域である特徴領域に含まれる特徴画素であり、位置ずれ補正量の算出に用いる対応特徴画素も、対象画像f(a)(a=1〜3)の一部の領域である対応特徴領域にである。従って、基準画像f_refおよび対象画像f(a)の全領域を考慮することなく、一部の領域のみを考慮して位置ずれ補正量を算出することができるので、さらに算出にかかる処理時間の短縮および処理負荷の軽減を図ることができる。
【0097】
考慮する特徴領域や対応特徴領域は、特徴画素や対応特徴画素が多く分布する特徴的な領域であるので、考慮する領域を一部の領域に限ったとしても位置ずれ補正量の算出精度が劣ることもない。
【0098】
さらに、基準画像f_refにおいて、抽出された特徴画素全体の重心が中心に位置する領域であると共に、基準数以上の特徴画素あるいは基準割合以上の特徴画素を含む領域を、特徴領域とするので、特徴画素が多く分布し補正量の算出に適した領域を特徴領域として抽出することができる。
【0099】
また、特徴画素と同様な特徴的な画素を候補特徴画素として抽出し、特徴画素の周辺領域と候補特徴画素の周辺領域との類似度を表す指標Sを算出する。そして、注目する特徴画素と類似度が最も高い組み合わせを構成する候補特徴画素を、注目する特徴画素に対応する対応特徴画素として検出するので、精度良く対応特徴画素を検出することができる。
【0100】
B.第2の実施例
・画像処理システムの構成:
第2の実施例に係る画像処理システムの構成およびパーソナルコンピュータ20(CPU200)の機能的構成は、図1を参照して説明した第1の実施例に係る画像処理システムの構成と同一であるので、その説明を省略して、以下の説明では同一の符号を用いる。
【0101】
・パーソナルコンピュータ20の機能的構成:
図19は、本実施例に係るパーソナルコンピュータ20(CPU200)の機能ブロック図である。第1の実施例と異なる構成についてのみ説明することとし、第1の実施例と同一の構成については、同一の符号を付し、その説明を省略する。
【0102】
第2の実施例に係るパーソナルコンピュータ20は、補正量算出部M260に、第1の補正量算出部M262と第2の補正量算出部M264を備えている点で、第1の実施例と異なっている。他の構成は、第1の実施例と同じである。
【0103】
第1の補正量算出部M262は、第1の実施例における補正量算出部M260と同様の処理により推定される位置ずれ補正量である第1の補正量を算出する。
【0104】
第2の補正量算出部M264は、合成するフレーム画像データが表す画像を構成する画素の画素値を解析して推定される位置ずれ補正量である第2の補正量を算出する。第2の補正量を算出する際の画素値解析には、第1の補正量算出部M262によって算出された第1の補正量を初期値に用いる。
【0105】
・パーソナルコンピュータ20における画像処理:
図20〜図27を参照して、本実施例に係るパーソナルコンピュータ20において実行される画像処理について説明する。
【0106】
図20は、本実施例に係る画像処理の処理ルーチンを示すフローチャートである。図3を参照して説明した第1の実施例に係る画像処理の処理ルーチンと同一のステップについては、図3と同一の符号を付し、その説明を省略する。
【0107】
第1の実施例に係る画像処理と異なる点は、第1の実施例では、ステップS70(図3参照)において算出していた位置ずれ補正量を、第2の実施例では、第1の補正量の算出(ステップS72)と第2の補正量の算出(ステップS74)の2つのステップに分けて算出している点である。第2の実施例に係るその他の画像処理は、第1の実施例と同一である。以下、第1の実施例と異なる2つのステップにおける処理について説明する。
【0108】
第1の補正量の算出処理は、基本的には、第1の実施例における位置ずれ補正量の算出と同様である。すなわち、CPU200は、これまでの処理(ステップS30〜S60)によって認識された特徴画素の位置と対応特徴画素の位置とに基づいて、位置ずれ補正量(ua、va、δa)を、3つの対象画像f(a)(a=1〜3)それぞれについて算出する。ただし、本ステップで算出する位置ずれ補正量は、大まかな概算値で良く、例えば、画像f_ref、f(a)(a=1〜3)を構成する画素単位程度の精度(いわゆるピクセルレベルの精度)で求めれば良い。後述する第2の補正量の算出処理において、より精度の高い補正量算出に適した手法により、最終的な補正量を高い精度で求めるからである。以下、本ステップで算出される位置ずれ補正量の概算値を第1の補正量と呼び、記号ua_1st、va_1st、δa_1st(a=1,2,3)で表す。
【0109】
CPU200は、次に、基準画像f_refおよび対象画像f(a)(a=1〜3)を構成する画素の画素値を解析(以下、画素値解析という。)することによって、最終的な位置ずれ補正量を算出する(ステップS74)。本ステップで算出される最終的な位置ずれ補正量を第2の補正量と呼び、記号ua_2nd、va_2nd、δa_2nd(a=1,2,3)で表す。
【0110】
第2の補正量は、画像f_ref、f(a)(a=1〜3)を構成する画素単位より細かい精度(いわゆるサブピクセルレベルの精度)で算出される。例えば、並進補正量ua_2nd、va_2ndは、1/16画素単位で、回転補正量δa_2ndは、1/100度単位で算出される。より高い精度で位置ずれ補正量を算出することで、後に生成される高解像度画像データにおいて、より高い画質を確保できるからである。従って、第2の補正量の算出には、第1の補正量の算出手法より高い精度で位置ずれ補正量を算出可能な解析手法が用いられる。本実施例では、第2の補正量は、基準画像f_refを構成する画素と対象画像f(a)を構成する画素のそれぞれの画素値(例えば輝度値)を用いて、勾配法(グラディエント法)を複数回繰り返す手法(以下、反復勾配法という。)によって算出される。以下では、先ず、勾配法および反復勾配法について説明する。
【0111】
図21および図22を参照して、勾配法について説明する。図21は、勾配法による位置ずれ補正量の算出方法について説明する第1の説明図である。図22は、勾配法による位置ずれ補正量の算出方法について説明する第2の説明図である。図21において、黒い丸は、基準画像f_refの画素を表し、例えば、(x1i、y1i)は、基準画像f_refの中心を原点とする直交座標上における画素の座標を表している。そして、白い丸は、基準画像f_refと部分一致するように重ねられた対象画像f(a)(a=1,2,3)の画素P_tar(x2i、y2i)を表し、座標(x2i,y2i)は、対象画像f(a)(a=1,2,3)の中心を原点とする直交座標上における座標を表している。以下、画素P_tar(x2i、y2i)を着目画素として説明を進める。着目画素P_tar(x2i、y2i)は、基準画像f_refと部分一致するように重ねられた場合に、基準画像f_refの画素P_ref(x1i、y1i)の近傍の位置(x1i+Δxi、y1i+Δyi)に位置すると仮定する。ここで、iは、各画素を区別する番号である。
【0112】
まず、着目画素P_tar(x2i、y2i)に最も近い基準画像f_refの画素P_ref(x1i、y1i)と、その上下左右にある4つの画素P_ref(x1i+1、y1i)、P_ref(x1i-1、y1i)、P_ref(x1i、y1i+1)、P_ref(x1i、y1i-1)が、参照画素として選択される。
【0113】
図22(a)は、対象画像f(a)と基準画像f_refとを部分一致するように重ねた場合において、着目画素P_tar(x2i、y2i)と画素P_ref(x1i、y1i)とのx1軸上の距離Δxiを推定する方法を示している。まず、画素P_ref(x1i、y1i)と、左右に隣接する画素P_ref(x1i-1、y1i)、P_ref(x1i+1、y1i)の輝度値B_ref(x1i、y1i)、B_ref(x1i-1、y1i)、B_ref(x1i+1、y1i)とを用いて、輝度勾配ΔBxiが算出される。ΔBxiは、図22(a)において直線R1の傾きで表される量で、画素P_ref(x1i、y1i)の近傍における輝度勾配である。例えば、3つの画素値を用いて、近似直線を求めてその傾きをΔBxとして用いても良いし、単に、左右の画素値を結ぶ直線の傾き{B_ref(x1i+1、y1i)−B_ref(x1i-1、y1i)}/2をΔBxiとして用いても良い。
【0114】
そして、着目する画素P_tar(x2i、y2i)の輝度値B_tar(x2i、y2i)が、図22(a)に示す直線R1上にあるものと仮定すると、
ΔBxi・Δxi=B_tar(x2i、y2i)−B_ref(x1i、y1i)が成立する。ここで、B_tar(x2i、y2i)およびB_ref(x1i、y1i)を単にB_tar、B_refで表すと、
ΔBxi・Δxi - (B_tar - B_ref)= 0 …(2)
が成立する。
【0115】
図22(b)は、対象画像f(a)と基準画像f_refとを部分一致するように重ねた場合において、着目画素P_tar(x2i、y2i)と画素P_ref(x1i、y1i)とのy1軸上の距離Δyiを推定する方法を示している。上述したΔxの推定と同様の手法により、
ΔByi・Δyi - (B_tar - B_ref)= 0 …(3)
の式が導ける。ここで、式(2)、および、式(3)を満たすΔxi、Δyiを求めれば、着目画素P_tar(x2i、y2i)の基準画像f_ref上における位置がわかることになる。
【0116】
この考え方を拡張して、対象画像f(a)を構成する全ての画素について、共通する補正量(ua、va、δa)を求めるには、最小自乗法を用いて、以下のD2を最小にすることを考えれば良い。
D2=Σ{ΔBxi・Δxi+ΔByi・Δyi−(B_tar - B_ref)}2 …(4)
【0117】
ここで、補正量(ua、va、δa)と、各画素についてのΔxi、Δyiとの関係について考える。図23は、画素の回転補正量を模式的に示す説明図である。基準画像f_refの座標(x1,y1)の原点Oからの距離をrとし、x1軸からの回転角度をθとすると、r,θは、下式で表される。
r=(x12+y12)1/2 …(5)
θ=tan-1(y1/x1) …(6)
【0118】
ここで、対象画像f(a)の基準画像f_refに対する並進ずれはなく、回転ずれのみが発生しているものとし、対象画像f(a)における座標(x2,y2)の画素が、基準画像f_ref上の座標(x1,y1)の位置から回転補正量δだけ回転した座標(x1',y1')にあるとする。この回転補正量δaによるx1軸方向の移動量Δxとy1軸方向の移動量Δyは、下式により求められる。
Δx=x1'−x1≒−r・δa・sinθ=−δa・y1 …(7)
Δy=y1'−y1≒r・δa・cosθ=δa・x1 …(8)
【0119】
したがって、上記式(4)における各画素iについてのΔxi、Δyiは、補正量(ua,va、δa)を用いて、下式のように表すことができる。
Δxi=ua−δa・y1i …(9)
Δyi=va+δa・x1i …(10)
ここで、x1iおよびy1iは、基準画像f_refにおける画素P_ref(x1i、y1i)の座標である。
【0120】
上記式(9),(10)を上記式(4)に代入すると、下式が得られる。
D2=Σ{ΔBxi・(ua−δa・y1i)+ΔByi・(va+δa・x1i)−(B_tar - B_ref)}2 …(11)
【0121】
すなわち、勾配法のために考慮する全画素について対応する座標値と輝度値を式(4)に代入したときに、D2を最小にする補正量ua,va,δaを最小自乗法によって求めることができる。
【0122】
次に、反復勾配法について説明する。図24および図25は、反復勾配法の概略を示す説明図である。反復勾配法では、上述した勾配法によって求められた位置ずれ補正量を用いて対象画像f(a)の画素位置を補正し、補正後の画素位置に基づいて上述した参照画素を選択し直し、新たに選択された参照画素を用いて勾配法をもう一度実行する。そして、これを複数回繰り返し、最終的にn回目の勾配法によって求められた位置ずれ補正量と、その前回((n-1)回目)の勾配法によって求められた位置ずれ補正量との差(Δua,Δva,Δδa)が、所定の閾値以下になったときに反復を終了する。言い換えれば、反復勾配法は、前回の勾配法で求められた位置ずれ補正量を、次回の勾配法の初期値に用いて、位置ずれ補正量が収束するまで勾配法を繰り返す手法である。
【0123】
図24(a)で示す対象画像f(3)と基準画像f_refとのずれ補正が全くされていない位置から、図24(b)で示す最終的に求めるべき位置まで補正するずれ補正量を求める場合を具体例として、反復勾配法についてさらに説明する。図25(a−1)〜(a−3)は、図24(b)に示した画素P_tarに着目して、勾配法の反復を概念的に示している。図25(a−1)は、画素P_1を中心とした画素(実線および波線で囲まれた画素)を画素P_tarの参照画素として、1回目の勾配法を実行した結果を示している。1回目の勾配法によって、画素P_tarを矢印A1のようにずらす位置ずれ補正量が算出されている。2回目の勾配法は、1回目に算出された位置ずれ補正量によって補正された画素P_tarの位置に基づいて、参照画素が選択される。図25(a−2)は、補正後の画素P_tarの最近傍に位置する画素P_2を中心とした画素を画素P_tarの参照画素として、2回目の勾配法を実行した結果を示している。図25(a−3)は、さらに2回目の補正後の画素P_tarの最近傍に位置する画素P_3を中心とした画素を画素P_tarの参照画素として、3回目の勾配法を実行した結果を示している。このように、反復するうちに適切な最近傍画素を用いることができるため、精度良く位置ずれ補正量を算出することができる。
【0124】
ここで、図6に戻って説明を続ける。CPU200は、この反復勾配法によって第2の補正量を算出する(ステップS74)にあたり、ステップS72で算出した第1の補正量(ua_1st、va_1st、δa_1st)を初期値に用いて、1回目の勾配法を実行する。図25(b−1)において、矢印B0は、第1の補正量による画素P_tarの補正を示している。図14(b−2)は、第1の補正量による補正後の画素P_tarの最近傍に位置する画素P_3を中心とした画素を画素P_tarの参照画素として、1回目の勾配法を実行した結果を示している。この結果、上述した図25(a−1)〜(a−3)の場合と異なり、1回目から適切な最近傍画素を用いて、精度良く第2の補正量(ua_2nd、va_2nd、δa_2nd)を求めることができる。
【0125】
さらに、本実施例では、第2の補正量を算出する際に、基準画像f_refおよび対象画像f(a)の全画素を考慮せず、基準画像f_refおよび対象画像f(a)の一部の領域のみを考慮する。すなわち、勾配法において、式(11)に座標や画素値(本実施例では輝度値)を代入する画素は、基準画像f_refおよび対象画像f(a)の全画素ではなく、基準画像f_refおよび対象画像f(a)の一部の領域に含まれる画素のみである。
【0126】
図26は、第2の補正量を算出する際に考慮する領域の具体例を説明する概略図である。図26(a)(b)は、基準画像f_refと対象画像f(3)を、第1の補正量を用いて位置ずれを補正して配置した様子、すなわち、第2の補正量の算出の初期状態を示している。図26(a)(b)において、ハッチングで表された領域が第2の補正量を算出する際に考慮する領域を示している。図16(a)では、先の処理(図20:ステップ40)によって抽出された基準画像f_refにおける特徴領域TAを、勾配法において考慮する領域としている。図16(b)では、考慮する領域をさらに限定して、上記の特徴領域TAに含まれるそれぞれの特徴画素TPを中心とした複数の比較的狭い領域(例えば、40×40画素の矩形領域)を、勾配法において考慮する領域としている。
【0127】
以上説明した第2の実施例に係る画像処理装置によれば、画像ファイルGFから取得した4つのフレーム画像データF_ref、F(a)(a=1〜3)の合成に用いる位置ずれ補正量を算出する際に、まず、基準画像f_refの特徴画素の位置と対象画像f(a)の対応特徴画素の位置とに基づいて、大まかな位置ずれ補正量として第1の補正量を算出する。そして、画素値解析によって算出される最終的な位置ずれ補正量である第2の補正量を、第1の補正量を初期値に用いて算出する。この結果、精度は高いが処理負荷の高い画素値解析によって、算出すべき補正量が小さくなる。従って、画素値解析のみによって位置ずれ補正量を算出する場合と比較して、算出にかかる処理時間の短縮および処理負荷の低減が図られる。
【0128】
さらに、第2の補正量を算出する際に考慮する画素を、特徴画素を含む一部の領域に限定しているので、基準画像f_refおよび対象画像f(a)の全画素を考慮する場合と比較して、算出にかかる処理時間の短縮および処理負荷の低減が図られる。また、当該一部の領域は、特徴画素を中心とした領域や特徴画素が多く分布した特徴領域であり、画像の特徴的部位を含んでいる。従って、考慮する画素を一部の領域に限定しても、そのために位置ずれ補正量の算出精度が劣ることもない。
【0129】
・第2の実施例の他の態様:
図27は、基準画像f_refと対象画像f(3)を、他の態様に係る第1の補正量を用いて位置ずれを補正して配置した様子、すなわち、第2の補正量の算出の初期状態を示している。図27に示すように、第1の補正量は、回転ずれδa_1stを考慮せず、並進ずれ(ua_1st、va_1st)のみを算出しても良い。最終的な補正量は第2の補正量として算出するため、第1の補正量は多少精度が悪くても問題ないため、並進ずれのみを算出することとすれば、第1の補正量の算出にかかる処理時間をさらに短縮することが可能である。
【0130】
C.変形例:
第1の実施例における位置ずれ補正量の算出および第2の実施例における第1の補正量の算出では、(1)算出に考慮する領域を全画像ではなく、一部の領域(特徴領域および対応特徴領域)に限定する、(2)算出を特徴画素と対応特徴画素の位置に基づいて算出する、という2つの技術的手段によって、処理時間の短縮および処理負荷の低減を実現しているが、どちらか1つの手段のみを用いることもできる。例えば、特徴領域および対応特徴領域を定めた後、特徴領域および対応特徴領域内の画像データを用いて、周知の方法(例えば、パターンマッチ法)で補正量を算出しても良い。この場合であっても、考慮するデータ量が減少する分、処理時間の短縮および処理負荷の低減を実現できる。逆に、処理対象画像が小さい場合等には、考慮する領域は限定せず、画像全体の特徴画素および対応特徴画素の位置を用いて補正量を算出しても良い。この場合であっても、全画素を考慮する場合と比較して、処理時間の短縮および処理負荷の低減を実現できる。
【0131】
上記実施例では、先に特徴画素を抽出し、特徴画素の分布によって特徴領域を決定しているが、特徴領域を他の手法によって決定することもできる。例えば、取得した画像データに主要被写体の位置を表す情報が付加されている場合には、かかる情報を利用して主要被写体の位置を中心とする所定範囲を特徴領域とすることもできる。かかる場合には、特徴領域を定めた後に、当該領域内において特徴画素を抽出すれば良い。
【0132】
上記実施例では、ディジタルビデオカメラ10によって生成された動画像データから複数のフレーム画像データを取得しているが、高解像度画像データの生成に用いる複数の画像データの取得態様は、これに限られるものではない。例えば、ディジタルスチルカメラの動画撮影モードで撮像された動画像データや、連写機能を備えたディジタルスチルカメラで連続撮影された複数の静止画像データ等、時系列に並ぶ複数の画像データであれば良い。連写機能とは、一般的に、メモリーカードにデータを転送しないで、ディジタルスチルカメラ内部の高速なメモリー(バッファメモリー)に画像データをため込むことで、複数のカットを高速で連続して撮影する機能をいう。
【0133】
以上、実施例、変形例に基づき本発明に係る画像処理について説明してきたが、上記した発明の実施の形態は、本発明の理解を容易にするためのものであり、本発明を限定するものではない。本発明は、その趣旨並びに特許請求の範囲を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物が含まれる。
【図面の簡単な説明】
【0134】
【図1】第1の実施例に係る画像処理装置を含む画像処理システムの一例を示す説明図。
【図2】第1の実施例に係るパーソナルコンピュータ20(CPU200)の機能ブロック図。
【図3】第1の実施例に係る画像処理の処理ルーチンを示すフローチャート。
【図4】4つのフレーム画像データが表す画像間の位置ずれを説明する概略図。
【図5】フレーム画像データF_refを基準として、フレーム画像データF(3)に対して行う位置ずれ補正について示す説明図。
【図6】特徴画素抽出処理の処理ルーチンを示すフローチャート。
【図7】特徴画素の抽出に用いるフィルタを示す説明図。
【図8】特徴画素抽出処理の結果の一例を示す概略図。
【図9】特徴領域決定処理の処理ルーチンを示すフローチャート。
【図10】特徴領域決定処理の概略を示す説明図。
【図11】設定された特徴領域TAと対応特徴領域CAを示す概略図。
【図12】対応特徴画素検出処理の処理ルーチンを示すフローチャート。
【図13】候補特徴画素CP’を抽出した結果の一例を示す概略図。
【図14】特徴画素TPと対応する対応特徴画素CPの決定手法を説明する概略図。
【図15】対応特徴画素検出処理の結果の一例を示す概略図。
【図16】対象画像f(3)を基準画像f_refに対して重ね合わせた状態を示す概略図。
【図17】基準画像f_refと対象画像f(a)(a=1〜3)とを、位置ずれを補正して配置した様子を拡大して示す説明。
【図18】バイ・リニア法による補間処理について示す説明図。
【図19】第2の実施例に係るパーソナルコンピュータ20(CPU200)の機能ブロック図。
【図20】第2の実施例に係る画像処理の処理ルーチンを示すフローチャート。
【図21】勾配法による位置ずれ補正量の算出方法について説明する第1の説明図。
【図22】勾配法による位置ずれ補正量の算出方法について説明する第2の説明図。
【図23】画素の回転補正量を模式的に示す説明図。
【図24】反復勾配法の概略を示す第1の説明図。
【図25】反復勾配法の概略を示す第2の説明図。
【図26】第2の補正量を算出する際に考慮する領域の具体例を説明する概略図。
【図27】基準画像f_refと対象画像f(3)を、他の態様に係る第1の補正量を用いて位置ずれを補正して配置した様子を示す概略図。
【符号の説明】
【0135】
10…ディジタルビデオカメラ(DVC)
20…パーソナルコンピュータ
200…中央演算装置(CPU)
201…ランダムアクセスメモリ(RAM)
202…ハードディスク(HDD)
203…カードスロット
204…入出力端子
205…光学ディスクドライブ
25…モニタ
30…プリンタ
40…表示装置
45…表示部
MC…メモリカード
LD…光学ディスク
M210…画像データ取得部
M220…特徴画素抽出部部
M230…特徴領域決定部
M240…対応特徴領域設定部
M250…対応特徴画素検出部
M260…補正量算出部
M262…第1の補正量算出部
M264…第2の補正量算出部
M270…高解像度画像生成部
【特許請求の範囲】
【請求項1】
それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理装置であって、
前記複数の画像データを取得する画像データ取得手段と、
前記複数の画像データのうち、基準となる画像データが表す基準画像において、所定の特徴を有する特徴領域を決定する特徴領域決定手段と、
前記複数の画像データのうち、前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴領域に対応する対応特徴領域を設定する対応特徴領域設定手段と、
前記特徴領域と前記対応特徴領域の画像データに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出する補正量算出手段と、
前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する高解像度画像データ生成手段とを備える画像処理装置。
【請求項2】
請求項1に記載の画像処理装置において、
前記特徴領域の決定は、前記基準となる画像データを解析して前記所定の特徴を抽出することによって実行される画像処理装置。
【請求項3】
請求項2に記載の画像処理装置は、さらに、
前記基準画像を構成する画素であって、画像の特徴的部位を構成する特徴画素を抽出する特徴画素抽出手段を備え、
前記特徴領域の抽出は、前記基準画像において、前記特徴画素を含む領域を前記特徴領域と決定することによって実行される画像処理装置。
【請求項4】
請求項3に記載の画像処理装置において、
前記特徴領域は、基準数以上の前記特徴画素を含む領域、または、抽出された全ての前記特徴画素のうち基準割合以上の前記特徴画素を含む領域である画像処理装置。
【請求項5】
請求項3または請求項4に記載の画像処理装置において、
前記特徴領域は、抽出された前記特徴画素全体の重心が中心に位置する領域である画像処理装置。
【請求項6】
請求項3ないし請求項5のいずれかに記載の画像処理装置は、さらに、
前記特徴領域に含まれる前記特徴画素に対応する対応特徴画素を、それぞれの対象画像における前記対応特徴領域において検出する対応特徴画素検出手段を備え、
前記補正量は、前記特徴画素の位置と、前記特徴画素に対応する前記対応特徴画素の位置とに基づいて算出される画像処理装置。
【請求項7】
請求項3ないし請求項5のいずれかに記載の画像処理装置は、さらに、
前記特徴領域に含まれる前記特徴画素に対応する対応特徴画素を、それぞれの対象画像における前記対応特徴領域において検出する対応特徴画素検出手段を備え、
前記補正量算出手段は、
前記特徴画素の位置と、前記特徴画素に対応する前記対応特徴画素の位置とに基づいて推定される第1の補正量を算出する第1の補正量算出手段と、
前記特徴領域を構成する画素の画素値と前記対応特徴領域を構成する画素の画素値とを解析して推定される第2の補正量を、前記第1の補正量を初期値に用いて算出する第2の補正量算出手段とを備える画像処理装置。
【請求項8】
請求項7に記載の画像処理装置において、
前記第1の補正量の算出は、前記複数の画像データが表す画像を構成する画素単位の精度で実行され、
前記第2の補正量の算出は、前記複数の画像データが表す画像を構成する画素単位より細かい精度で実行される画像処理装置。
【請求項9】
請求項7または請求項8に記載の画像処理装置において、
第2の補正量の算出における解析は、前記特徴領域における一部の領域に含まれる画素の画素値と、前記対応特徴領域における前記一部の領域に対応する領域に含まれる画素の画素値のみを用いて実行される領域画像処理装置。
【請求項10】
請求項9に記載の画像処理装置において、
前記一部の領域は、前記特徴画素と前記特徴画素近傍の所定範囲に位置する画素とから構成される領域である画像処理装置。
【請求項11】
請求項6ないし請求項10のいずれかに記載の画像処理装置において、
前記対応特徴画素の検出は、
それぞれの対象画像における前記対応特徴領域に含まれる画素であって、画像の特徴的部位を構成する候補特徴画素を抽出し、
前記特徴画素とその周辺画素から構成される領域と、前記候補特徴画素とその周辺画素から構成される領域とを比較することによって、前記特徴画素と前記候補特徴画素との類似度を算出し、
注目する前記特徴画素と前記類似度が最も高い組み合わせを構成する前記候補特徴画素を、注目する前記特徴画素に対応する前記対応特徴画素とすることによって実行される画像処理装置。
【請求項12】
それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理装置であって、
前記複数の画像データを取得する画像データ取得手段と、
前記複数の画像データのうち基準となる画像データが表す基準画像を構成する画素の中から、画像の特徴的部位を構成する特徴画素を抽出する特徴画素抽出手段と、
前記複数の画像データのうち前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴画素に対応する対応特徴画素を検出する対応特徴画素検出手段と、
前記特徴画素の位置と、前記特徴画素に対応する対応特徴画素の位置とに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出する補正量算出手段と、
前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する高解像度画像データ生成手段とを備える画像処理装置。
【請求項13】
請求項12に記載の画像処理装置において、
前記対応特徴画素の検出は、
それぞれの対象画像を構成する画素であって、画像の特徴的部位を構成する候補特徴画素を抽出し、
前記特徴画素とその周辺画素から構成される領域と、前記候補特徴画素とその周辺画素から構成される領域とを比較することによって、前記特徴画素と前記候補特徴画素との類似度を算出し、
注目する前記特徴画素と前記類似度が最も高い組み合わせを構成する前記候補特徴画素を、注目する前記特徴画素に対応する前記対応特徴画素とすることによって実行される画像処理装置。
【請求項14】
請求項12または請求項13に記載の画像処理装置において、
前記対応特徴画素の検出は、前記基準画像における所定の特徴を有する特徴領域に対応する領域おいて実行される画像処理装置。
【請求項15】
請求項14に記載の画像処理装置において、
前記特徴領域は、基準数以上の前記特徴画素を含む領域、または、抽出された全ての前記特徴画素のうち基準割合以上の前記特徴画素を含む領域である画像処理装置。
【請求項16】
請求項14または請求項15に記載の画像処理装置において、
前記特徴領域は、抽出された前記特徴画素全体の重心が中心に位置する領域である画像処理装置。
【請求項17】
それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理方法であって、
前記複数の画像データを取得し、
前記複数の画像データのうち、基準となる画像データが表す基準画像において、所定の特徴を有する特徴領域を決定し、
前記複数の画像データのうち、前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴領域に対応する対応特徴領域を設定し、
前記特徴領域と前記対応特徴領域の画像データに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出し、
前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する画像処理方法。
【請求項18】
それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理方法であって、
前記複数の画像データを取得し、
前記複数の画像データのうち基準となる画像データが表す基準画像を構成する画素の中から、画像の特徴的部位を構成する特徴画素を抽出し、
前記複数の画像データのうち前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴画素に対応する対応特徴画素を検出し、
前記特徴画素の位置と、前記特徴画素に対応する対応特徴画素の位置とに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出し、
前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する画像処理方法。
【請求項19】
それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理をコンピュータに実行させるコンピュータプログラムであって、
前記複数の画像データを取得する機能と、
前記複数の画像データのうち、基準となる画像データが表す基準画像において、所定の特徴を有する特徴領域を決定する機能と、
前記複数の画像データのうち、前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴領域に対応する対応特徴領域を設定する機能と、
前記特徴領域と前記対応特徴領域の画像データに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出する機能と、
前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する機能とを前記コンピュータに実現させるコンピュータプログラム。
【請求項20】
それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理をコンピュータに実行させるコンピュータプログラムであって、
前記複数の画像データを取得する機能と、
前記複数の画像データのうち基準となる画像データが表す基準画像を構成する画素の中から、画像の特徴的部位を構成する特徴画素を抽出する機能と、
前記複数の画像データのうち前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴画素に対応する対応特徴画素を検出する機能と、
前記特徴画素の位置と、前記特徴画素に対応する対応特徴画素の位置とに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出する機能と、
前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する機能とを前記コンピュータに実現させるコンピュータプログラム。
【請求項1】
それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理装置であって、
前記複数の画像データを取得する画像データ取得手段と、
前記複数の画像データのうち、基準となる画像データが表す基準画像において、所定の特徴を有する特徴領域を決定する特徴領域決定手段と、
前記複数の画像データのうち、前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴領域に対応する対応特徴領域を設定する対応特徴領域設定手段と、
前記特徴領域と前記対応特徴領域の画像データに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出する補正量算出手段と、
前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する高解像度画像データ生成手段とを備える画像処理装置。
【請求項2】
請求項1に記載の画像処理装置において、
前記特徴領域の決定は、前記基準となる画像データを解析して前記所定の特徴を抽出することによって実行される画像処理装置。
【請求項3】
請求項2に記載の画像処理装置は、さらに、
前記基準画像を構成する画素であって、画像の特徴的部位を構成する特徴画素を抽出する特徴画素抽出手段を備え、
前記特徴領域の抽出は、前記基準画像において、前記特徴画素を含む領域を前記特徴領域と決定することによって実行される画像処理装置。
【請求項4】
請求項3に記載の画像処理装置において、
前記特徴領域は、基準数以上の前記特徴画素を含む領域、または、抽出された全ての前記特徴画素のうち基準割合以上の前記特徴画素を含む領域である画像処理装置。
【請求項5】
請求項3または請求項4に記載の画像処理装置において、
前記特徴領域は、抽出された前記特徴画素全体の重心が中心に位置する領域である画像処理装置。
【請求項6】
請求項3ないし請求項5のいずれかに記載の画像処理装置は、さらに、
前記特徴領域に含まれる前記特徴画素に対応する対応特徴画素を、それぞれの対象画像における前記対応特徴領域において検出する対応特徴画素検出手段を備え、
前記補正量は、前記特徴画素の位置と、前記特徴画素に対応する前記対応特徴画素の位置とに基づいて算出される画像処理装置。
【請求項7】
請求項3ないし請求項5のいずれかに記載の画像処理装置は、さらに、
前記特徴領域に含まれる前記特徴画素に対応する対応特徴画素を、それぞれの対象画像における前記対応特徴領域において検出する対応特徴画素検出手段を備え、
前記補正量算出手段は、
前記特徴画素の位置と、前記特徴画素に対応する前記対応特徴画素の位置とに基づいて推定される第1の補正量を算出する第1の補正量算出手段と、
前記特徴領域を構成する画素の画素値と前記対応特徴領域を構成する画素の画素値とを解析して推定される第2の補正量を、前記第1の補正量を初期値に用いて算出する第2の補正量算出手段とを備える画像処理装置。
【請求項8】
請求項7に記載の画像処理装置において、
前記第1の補正量の算出は、前記複数の画像データが表す画像を構成する画素単位の精度で実行され、
前記第2の補正量の算出は、前記複数の画像データが表す画像を構成する画素単位より細かい精度で実行される画像処理装置。
【請求項9】
請求項7または請求項8に記載の画像処理装置において、
第2の補正量の算出における解析は、前記特徴領域における一部の領域に含まれる画素の画素値と、前記対応特徴領域における前記一部の領域に対応する領域に含まれる画素の画素値のみを用いて実行される領域画像処理装置。
【請求項10】
請求項9に記載の画像処理装置において、
前記一部の領域は、前記特徴画素と前記特徴画素近傍の所定範囲に位置する画素とから構成される領域である画像処理装置。
【請求項11】
請求項6ないし請求項10のいずれかに記載の画像処理装置において、
前記対応特徴画素の検出は、
それぞれの対象画像における前記対応特徴領域に含まれる画素であって、画像の特徴的部位を構成する候補特徴画素を抽出し、
前記特徴画素とその周辺画素から構成される領域と、前記候補特徴画素とその周辺画素から構成される領域とを比較することによって、前記特徴画素と前記候補特徴画素との類似度を算出し、
注目する前記特徴画素と前記類似度が最も高い組み合わせを構成する前記候補特徴画素を、注目する前記特徴画素に対応する前記対応特徴画素とすることによって実行される画像処理装置。
【請求項12】
それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理装置であって、
前記複数の画像データを取得する画像データ取得手段と、
前記複数の画像データのうち基準となる画像データが表す基準画像を構成する画素の中から、画像の特徴的部位を構成する特徴画素を抽出する特徴画素抽出手段と、
前記複数の画像データのうち前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴画素に対応する対応特徴画素を検出する対応特徴画素検出手段と、
前記特徴画素の位置と、前記特徴画素に対応する対応特徴画素の位置とに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出する補正量算出手段と、
前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する高解像度画像データ生成手段とを備える画像処理装置。
【請求項13】
請求項12に記載の画像処理装置において、
前記対応特徴画素の検出は、
それぞれの対象画像を構成する画素であって、画像の特徴的部位を構成する候補特徴画素を抽出し、
前記特徴画素とその周辺画素から構成される領域と、前記候補特徴画素とその周辺画素から構成される領域とを比較することによって、前記特徴画素と前記候補特徴画素との類似度を算出し、
注目する前記特徴画素と前記類似度が最も高い組み合わせを構成する前記候補特徴画素を、注目する前記特徴画素に対応する前記対応特徴画素とすることによって実行される画像処理装置。
【請求項14】
請求項12または請求項13に記載の画像処理装置において、
前記対応特徴画素の検出は、前記基準画像における所定の特徴を有する特徴領域に対応する領域おいて実行される画像処理装置。
【請求項15】
請求項14に記載の画像処理装置において、
前記特徴領域は、基準数以上の前記特徴画素を含む領域、または、抽出された全ての前記特徴画素のうち基準割合以上の前記特徴画素を含む領域である画像処理装置。
【請求項16】
請求項14または請求項15に記載の画像処理装置において、
前記特徴領域は、抽出された前記特徴画素全体の重心が中心に位置する領域である画像処理装置。
【請求項17】
それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理方法であって、
前記複数の画像データを取得し、
前記複数の画像データのうち、基準となる画像データが表す基準画像において、所定の特徴を有する特徴領域を決定し、
前記複数の画像データのうち、前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴領域に対応する対応特徴領域を設定し、
前記特徴領域と前記対応特徴領域の画像データに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出し、
前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する画像処理方法。
【請求項18】
それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理方法であって、
前記複数の画像データを取得し、
前記複数の画像データのうち基準となる画像データが表す基準画像を構成する画素の中から、画像の特徴的部位を構成する特徴画素を抽出し、
前記複数の画像データのうち前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴画素に対応する対応特徴画素を検出し、
前記特徴画素の位置と、前記特徴画素に対応する対応特徴画素の位置とに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出し、
前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する画像処理方法。
【請求項19】
それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理をコンピュータに実行させるコンピュータプログラムであって、
前記複数の画像データを取得する機能と、
前記複数の画像データのうち、基準となる画像データが表す基準画像において、所定の特徴を有する特徴領域を決定する機能と、
前記複数の画像データのうち、前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴領域に対応する対応特徴領域を設定する機能と、
前記特徴領域と前記対応特徴領域の画像データに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出する機能と、
前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する機能とを前記コンピュータに実現させるコンピュータプログラム。
【請求項20】
それぞれが複数の画素データから構成されると共に時系列に並ぶ複数の画像データから、前記複数の画像データより解像度の高い高解像度画像データを生成する画像処理をコンピュータに実行させるコンピュータプログラムであって、
前記複数の画像データを取得する機能と、
前記複数の画像データのうち基準となる画像データが表す基準画像を構成する画素の中から、画像の特徴的部位を構成する特徴画素を抽出する機能と、
前記複数の画像データのうち前記基準となる画像データ以外の画像データが表す対象画像のそれぞれにおいて、前記特徴画素に対応する対応特徴画素を検出する機能と、
前記特徴画素の位置と、前記特徴画素に対応する対応特徴画素の位置とに基づいて、前記対象画像の前記基準画像に対する被写体の位置ずれを補正する補正量を、前記対象画像のそれぞれについて算出する機能と、
前記算出された補正量に基づいて、前記複数の画像データについて前記位置ずれを補正すると共に、前記補正された複数の画像データを合成して、前記高解像度画像データを生成する機能とを前記コンピュータに実現させるコンピュータプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【公開番号】特開2006−39628(P2006−39628A)
【公開日】平成18年2月9日(2006.2.9)
【国際特許分類】
【出願番号】特願2004−214221(P2004−214221)
【出願日】平成16年7月22日(2004.7.22)
【出願人】(000002369)セイコーエプソン株式会社 (51,324)
【Fターム(参考)】
【公開日】平成18年2月9日(2006.2.9)
【国際特許分類】
【出願日】平成16年7月22日(2004.7.22)
【出願人】(000002369)セイコーエプソン株式会社 (51,324)
【Fターム(参考)】
[ Back to top ]