説明

画像処理装置、画像処理方法、およびプログラム

【課題】複数の画像を合成するとき、輪郭部の劣化が生じていた。
【解決方法】画像合成のための複数の画像に含まれる第1の画像における一部の領域の特徴量を算出し、算出された特徴量に基づき、第1の画像における領域の合成のための重み、または複数の画像に含まれる第2の画像における領域の重みを決定する。そして、第1の画像の領域または前記第2の画像の領域に対して決定された合成の重みに基づいて重み付けを行うことにより、第1の画像と第2の画像とを合成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像データの処理装置および処理方法に関する技術であり、より具体的には複数の画像を合成する技術に関する。
【背景技術】
【0002】
従来より複数の画像を合成し、高画質化を行う技術が知られている。動画像やカメラでの連写撮影からは、時間的に連続した複数の画像を得ることができる。それらの画像にはノイズが存在し得る。例えばデジタルビデオカメラでの動画撮影では、撮像素子で光を電気信号に変換する際にノイズが発生することが知られている。微弱なノイズであっても信号を増幅する工程を経ると、目立ったノイズとなる可能性がある。したがって信号の増幅を大きく行う暗いシーンでの撮影では、明るいシーンでの撮影に比べてノイズが目立つ画像が多い。
【0003】
このようなノイズはランダムに発生するため、連続する複数の画像の位置を合わせて平均化することによりノイズは低減できる。特許文献1では、この原理を利用し、複数フレーム(画像)間の画素の合成によってノイズ除去を行う技術が記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2002−223374号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、平均化、あるいは加重平均化によって複数のフレームの合成を行うと、輪郭部に画像劣化が生じるという問題があった。より具体的には、合成の作用によりノイズ部だけでなく輪郭部も平均化され、輪郭が鈍ってしまう。特許文献1にも、複数画像の合成によるエッジや輪郭部の劣化の解決について何ら記載されていない。
【0006】
本発明はこのような問題に鑑みてなされたものである。その課題は、複数画像の合成処理において輪郭の鈍りを低減させる画像処理装置および画像処理方法を提供することである。
【課題を解決するための手段】
【0007】
本発明に係る画像処理装置は、画像合成のための複数の画像を取得する取得手段と、前記取得手段により取得された複数の画像に含まれる第1の画像における一部の領域の特徴量を算出する算出手段と、前記算出手段により算出された前記第1の画像における領域の特徴量に基づき、前記第1の画像における前記領域の合成のための重み、または前記第1の画像の前記領域と合成される、前記複数の画像に含まれる第2の画像における領域の重みを決定する決定手段と、前記第1の画像の領域または前記第2の画像の領域に対して前記決定手段により決定された合成の重みに基づいて重み付けを行うことにより、前記第1の画像と前記第2の画像とを合成する合成手段と、を備えることを特徴とする。
【発明の効果】
【0008】
本発明によれば、複数画像の合成処理において輪郭の鈍りを低減させる画像処理装置および画像処理方法を提供することができる。
【図面の簡単な説明】
【0009】
【図1】本発明の画像処理におけるブロック図である。
【図2】本発明の画像処理におけるフローチャートである。
【図3】本発明の関数の特性を表すグラフである。
【図4】本発明の関数の特性を表すグラフである。
【図5】本発明の関数の特性を表すグラフである。
【図6】本発明の関数の特性を表すグラフである。
【図7】本発明の関数の特性を表すグラフである。
【図8】本発明の関数の特性を表すグラフである。
【図9】本発明の画像処理におけるフローチャートである。
【図10】本発明の画像処理における仮画像の概念図である。
【発明を実施するための形態】
【0010】
以下、図面を参照して本発明の実施形態を詳細に説明する。
【0011】
図1に本発明の一実施形態における画像処理方法を実施するための画像処理装置1のブロック図を示す。画像処理装置1は、以下の構成を含むPC(Personal Computer)により実装されると想定して説明する。
【0012】
CPU101は、中央演算ユニット(Central Processing Unit)で、他の機能ブロックや装置による処理の制御を行う。処理の制御は、後述するRAM(Random Access Memory)104に展開された制御プログラムに基づいて行われる。ブリッジ部102は、CPU101と他の機能ブロックの間で行われるデータや命令の送受信を中継する機能を提供している。ROM(Read Only Memory)103は読み込み専用の不揮発メモリであり、BIOS(Basic Input/Output System)と呼ばれるプログラムが格納されている。BIOSは画像処理装置が起動したときに最初に実行されるプログラムであり、2次記憶装置105、表示制御装置107、入力装置109、出力装置110などの周辺機器の基本入出力機能を制御するものである。RAM104は、高速の読み/書き可能な記憶領域を提供する。2次記憶装置105は、大容量の記憶領域を提供するHDD(Hard Disk Drive)である。BIOSが実行されると、HDDに格納されているOS(Operating System)が実行される。OSはすべてのアプリケーションで利用可能な基本的な機能や、アプリケーションの管理、基本GUI(Graphical User Interface)を提供する。アプリケーションは、OSが提供するGUIを組み合わせることで、アプリケーション独自の機能を実現するUIを提供できる。OSや、他のアプリケーションの実行プログラムや作業用に使用しているデータは、必要に応じてRAM104または2次記憶装置105に格納される。
【0013】
表示制御部106は、OSやアプリケーションに対して行われるユーザの操作の結果をGUIの画像データとして生成し、表示装置107で表示するための制御を行う。表示装置107には液晶ディスプレイや、CRT(Cathode Ray Tube)ディスプレイが使用できる。I/O制御部108は、複数の入力装置109、出力装置110とのインターフェースを提供するものである。代表的なインターフェースとして、USB(Universal Serial Bus)やPS/2(Personal System/2)がある。
【0014】
入力装置109には、キーボード、マウスといったユーザの意志を画像処理装置1に入力するものがある。さらに、デジタルカメラ、USBメモリ、CF(Compact Flash)メモリ、SD(Secure Digital)メモリカードといった記憶装置などを入力装置109として接続することで、画像データを転送することも可能である。出力装置110としてはプリンタが接続され、所望の印刷結果を得ることが可能である。
【0015】
本実施形態における画像処理方法を実現する画像処理アプリケーションは、2次記憶装置105に格納される。当該画像処理アプリケーションは、ユーザの操作で起動するアプリケーションとして提供される。
【実施例1】
【0016】
以下、本発明に係る実施例1を図面を用いて詳細に説明する。
【0017】
図2は、本実施例における画像処理の流れを示すフローチャートである。この処理は、画像処理装置1においてアプリケーションが起動した後、CPU101の制御により該アプリケーション上で行われる。すなわち、この処理は、CPU101を含むハードウェアとアプリケーションを含むソフトウェアとの協働により実行される。
【0018】
S201ではアプリケーションは、入力装置109又は2次記憶装置105から複数の画像を取得する。当該複数の画像において、合成画像の主となる画像を基準画像(第1の画像)、その他の画像を比較画像(第2の画像)とする。すなわち、アプリケーション(及びCPU101の制御)により、画像合成のための基準画像及び比較画像を含む複数の画像が取得される。当該複数の画像としては、動画像からフレーム切り出しを行ったものや連写撮影などの連続したシーンの画像が想定される。あるいは撮影時間の間隔が開いた画像であっても、定点観測カメラや天体の動きを追う天体カメラなど、同じ被写体を撮影した画像にも適用可能である。
【0019】
ここで、動画像から複数の画像を取得する場合の例を説明する。まず、ユーザは、2次記憶装置105に記憶されたデータから動画を再生し、表示装置107に画像を表示させる。ユーザは、表示された画像を確認し、入力装置109を用いて1つのフレームを選択する。選択されたフレームを静止画データとして切り出し、これを基準画像とする。動画データから静止画データの切り出しは、例えば、該動画像に対応したコーデックを用いて実施できる。ここでは静止画データは、例えばRGB(レッド、グリーン、ブルー)信号で構成されたビットマップ形式で切り出され、RAM104の領域に格納される。
【0020】
次にアプリケーションは、基準画像として選択されたフレームの前後のフレームを比較画像として切り出し、RAM104の領域に格納する。この切り出し処理は、基準画像と同様にビットマップ形式で静止画データへの切り出しを行う。本実施例では、比較画像の取得のために、ユーザに選択されたフレーム(基準画像)の前の2フレーム及び後の2フレームをそれぞれ静止画データとして切り出し、合計4つの比較画像を取得する。
【0021】
複数の静止画取得方法はこれに限定されたものではない。例えば連写撮影された静止画像の1つを基準画像、その他を比較画像としてもよい。また、ユーザが選択せずともアプリケーションが判別機能を持ち、自動的に基準画像および比較画像を選択してもよい。
【0022】
S202では、取得した基準画像について特徴量(第1の特徴量)を画素毎に算出する。本実施例において特徴量とは、輪郭らしさを表す値である。特徴量は、例えば、エッジ量の算出、周波数の解析などで求めることが出来る。本実施例での特徴量の算出は、検査対象の画素とその周囲の画素との間の色又は明るさの差分量に基づいて算出する。差分量が多いほど特徴量が多い値となる。差分量は、例えば、3[画素]×3[画素]のフィルタを用い、中心とその他8画素の色差をそれぞれ求め、それら色差の総和から算出される。そして、この総和を0〜255に正規化することにより、特徴量である輪郭らしさを求めることできる。色差は、RGBやYcc色空間の信号値の距離、Lab色空間上のΔE、又は輝度の差の絶対値などによって求められる。すなわち、基準画像の画素毎の特徴量は、対象画素とその周囲の画素との間の色又は明るさの相違に基づいて算出される。
【0023】
輪郭は、隣接する画素間での色差がある程度大きい時に人間によって認識する事ができる。対象画素と隣接画素との色差が無い、あるいは少ない場合、人間の視覚はこれらの画素を同一色として認識する。色差が少し大きくなると滑らかなグラデーションと認識し、更に大きくなると輪郭として認識する。ところで、一般的にカメラのセンサーノイズは画素毎にランダムに発生する。同一色の被写体を撮影したとしても、ノイズの発生によって画素に若干の色のばらつきが発生する。つまり、ノイズは被写体には存在しなかったはずの隣接画素間の色の差を生み、該画素にはある程度の特徴量が発生してしまう。撮影条件やカメラのセンサーによって異なるが、一般に、ノイズは画像の輪郭に比べて比較的小さな特徴量となることが多い。
【0024】
ここで、比較画像の特徴量を求めずに、基準画像のみの特徴量を求めることは本実施例の特徴の1つとなる。基準画像の画素数と同じ画素数を持つ画像を作成し、それを特徴量画像とする。基準画像のそれぞれの画素で求めた特徴量を特徴量画像の同じ座標の画素に格納する。すなわち、基準画像の座標に対して特徴量画像の同座標が対応しており、例えば基準画像の座標(x, y)=(0,0)の画素の特徴量は特徴量画像の座標(x, y)=(0,0)の画素に格納されている。また、基準画像はR、G、Bの3要素を持つが、特徴量画像は特徴量を表す1要素を持てばよい。
【0025】
S203では、合成の重みを基準画像の画素単位で算出する。合成の重みとは、加重平均をする際の基準画像の重みに対する比較画像の重みであり、それぞれの比較画像の画素の合成比率となる。合成の重みの算出方法の例を、図3を用いて説明する。
【0026】
図3は特徴量を入力(横軸)とし、合成の重みを出力(縦軸)とするグラフである。横軸の特徴量、縦軸の合成の重みは共に0から255の値で表される。特徴量のレベルが低いとき(図3の特徴量が0から64のとき)、重みは最大である255となる。これは、後述する重み付け加算において基準画像に対して比較画像が同等の重みを持つことを意味する。特徴量が64を超えると特徴量が大きい程合成の重みは小さくなる。特徴量が192以上では合成の重みは最小である0である。これは、後述する重み付け加算において基準画像に対して比較画像の重みを持たせず、即ち基準画像に対する比較画像の合成を行わないことを意味する。アプリケーションは特徴量を入力とし、重みを出力とする特性が図3のように、関数、あるいはルックアップテーブルを用いて基準画像の各画素に対する合成の重みを算出する。関数であれば、合成の重みは以下のように求めることができる。
【0027】
(特徴量<=64)であれば、合成の重み=255
(特徴量>=192)であれば、合成の重み=0
(64<特徴量<192)であれば、合成の重み=255−(特徴量−64)/128×255
ここで、図3の点301、点302の線の折れ曲がりについて説明する。図3のグラフで表す、特徴量が低い領域は該画素と隣接画素との色差が無い、あるいは少ない場合であり、この場合は人間の視覚は同一色として認識する。色差が少し大きくなると滑らかなグラデーションと認識し、更に大きくなると輪郭として認識する。
【0028】
図3のグラフで示す関数では、特徴量が点301の値以下、つまり特徴量が0から64のときの出力値(合成の値)は255である。すなわち、特徴量は変化しない。これは、入力された画像において特に低減させるべきノイズの特性が、特徴量での0から64であることに起因する。つまり、特徴量が0から64の画素はノイズである可能性を大きく含んでいる場合にこの関数は適用される。基準画像と比較画像の画素を平均化させてノイズを低減する原理であるため、比較画像の合成の比率、つまり合成の重みを大きくさせることにより、ノイズ低減効果を最大限に発揮させる事ができる。加えて、特徴量が低いという事は周囲画素との色差が小さいため、合成によるボケが発生したとしても人間の視覚に与える影響は少ない。
【0029】
点301から点302、つまり特徴量が64から192の画素のときは段階的に合成の重みを減らす。すなわち、特徴量が所定の閾値を超えた場合、特徴量が大きいほど合成の重みが低くなるように、当該合成の重みを算出する。換言すれば、第1の特徴量に対応する合成の重みが、前記第1の特徴量よりも小さい第2の特徴量に対応する合成の重みよりも低くなるように、合成の重みが決定される。これは、特徴量64を超えるとノイズが原因で発生した色差である可能性も含むが、画像に必要な輪郭の色差である可能性が出てくる。特徴量が大きくなる程に画像に必要な輪郭である確率も上がる。逆に特徴量が大きくなる程にノイズが特徴量に影響している確率は少なくなる。つまり、ノイズを低減する効果も持たせつつ、必要な輪郭をぼかしてしまうリスクを減らしている。なお、本実施例では、特徴量の閾値を64としているがこれに限定されず、当然のことながら任意の値を設定することができる。
【0030】
点302以降、つまり特徴量が192から255のときは比較画像の合成の重みが0となる。これは、入力された画像において特に重要な輪郭部分が特徴量での192から255であることに起因する。つまり、特徴量が192から255の画素は、画像を形成する上で特に重要な輪郭であり、この部分にボケが発生すると画像全体がボケている印象を受ける事が多い。平均化によるボケを回避するため、該画素については比較画像の合成の重みは0とし、特徴量が192から255の画素に対しては合成を行わないようにすることで、基準画像と比較画像の合成後の結果も基準画像のままとなるようにする。また、カメラ性能や撮影条件によっても異なるが、ノイズで発生した周囲画素との色差は小さいことが多い。そのため、ノイズが原因で生じる特徴量が画像の重要な輪郭での特徴量程大きくなる事は少ない。
【0031】
合成の重みの算出方法は上記に限定されるものではなく、別の例では図4、図5、図6、図7、又は図8に示すような特性を持たせてもよい。例えば撮影条件とカメラの特性がわかっており、発生し得るノイズの特徴量レベルが定まっている場合、あるいはボケを発生させたくない特徴量のレベルが定まっている場合は図5に示すような特性で合成の重みを算出すればよい。また、特に何も定まっていないのであれば、図7に示す特性で合成の重みを算出すればボケが発生するリスクとノイズを低減させる効果を減らしてしまうリスクの両方を平均的に分散させる事ができる。
【0032】
また、特徴量の算出方法の特性は可変にしてもよいし、0からユーザが指定した特徴量までの合成の重みを高くするようにしてもよい。
【0033】
以上のようにS203の処理によれば、S202で算出された基準画像の画素毎の特徴量に基づいて比較画像の合成の重みを算出する。このように各画素に対して求めた合成の重みをメモリに格納し、重み画像とする。重み画像と基準画像とが同じ座標で対応するような順で格納を行う。ここで、基準画像の特徴量を用いて合成の重みを算出しており、比較画像の特徴量を用いていない事が本実施形態の特徴の1つである。つまり、1つの画像内で計算可能であり画像間の特徴量を用いて処理する必要がない。その結果、画像合成処理全体の処理速度を高めることができる。
【0034】
図2のS204では、画像加算の準備を行う。アプリケーションはRAM104内に重み付き総和画像の領域を確保する。重み付き総和画像とは、基準画像および比較画像のそれぞれに重みを付け、加算をする信号値データと重みの総和を格納するメモリ領域である。RGB信号画像の場合では、重み付き総和画像は、[R, G, B, 重み]の4つの要素が必要である。各要素は、例えば、R, G, B, 重みの順にメモリ領域に割り当てられる。この4要素が基準画像の画素の数だけRAM104に格納される。基準画像の画素と重み付き総和画像の画素とは同じ座標で対応する。
【0035】
ここでは更に、メモリ領域に割り当てられた重み付き総和画像の全画素について、基準画像のR, G, Bの信号値に、基準画像の重みの数値としての255をそれぞれかけた値をR, G, Bの各要素の値として格納し、255を重みの要素として格納する。この重みの要素である数値255は、基準画像の全ての画素で一律に用いられる。同じ座標上の1つの画素において基準画像の信号値をRm、Gm、Bmとし、重みをW(=255)とし、重み付き総和画像の値をRs、Gs、Bs、Wsとすると、重み付き総和画像の値は、以下の式で表す事ができる。ここで、[←]は格納を意味する。
【0036】
Rs ← Rm × W
Gs ← Gm × W
Bs ← Bm × W
Ws ← W
尚、Rs、Gs、Bsはそれぞれ、レッド、グリーン、ブルーの信号値の重み付き総和であり、Wsは重みの総和を表している。
【0037】
全ての画素において、上記のような格納を行う。全ての画素の重みに255が格納されるのは、基準画像の重みが255であることを示す。
【0038】
図2のS205からS208は、比較画像の数の回数、処理のループを行う。変数I に初期値として1を代入し、( I > 比較画像数)の式を終了条件とする。この式が成り立つまでループ内の処理を繰り返し行う。尚、説明のため、最初の比較画像を比較画像[1]、次の比較画像を比較画像[2]、その次の比較画像を比較画像[3]、という様に表し、ループ内では各比較画像が用いられる。ループ内で使用される比較画像を、変数 I を用いて比較画像[I]と表す。
【0039】
図2のS206では、基準画像と比較画像[I]の位置を合わせる。ここでは、基準画像の座標に対応する比較画像[I]の座標を求める。対応座標の求め方としては、公知のブロックマッチング法や勾配法など、公知の技術を用いる。なお、基準画像の座標に対応する比較画像の座標を求める場合、基準画像に含まれる全ての画素の座標について算出する必要はない。即ち、基準画像の一部の画素について対応座標を求め、求めた対応座標に基づき周囲の画素の対応座標を決定してもよい。これにより、基準画像と比較画像の位置合わせのための処理負荷を低減させることができる。また、画像の一部の画素に従って複数の画像の位置合わせを行う場合、エッジとエッジが交わるコーナーなど、特徴のある箇所に従って位置合わせを行った方が、より位置合わせの精度が向上することができる。そこでS202で求めた画素の特徴量に基づき、基準画像のうち、比較画像における対応座標を求めるための特徴点を特定してもよい。そして、この特徴点に対応する比較画像における座標を求めることにより、基準画像と比較画像の位置合わせを行う。
【0040】
このようにして求めた対応座標に基づいて比較画像[I]を基準画像の座標に合わせて変形させ、仮画像に格納する。すなわち、仮画像とは、基準画像と比較画像[I]の位置を合わせるために、基準画像の座標に対応するように比較画像[I]の座標を変形させた画像である。また、仮画像とはメモリ内に領域が確保された画像であり、比較画像[I]と同様にR、G、Bの3つの要素を持つ。基準画像と同数の縦画素数、横画素数を持っており、基準画像の座標と仮画像の座標はそれぞれ対応している。また、カメラや被写体が動いていない事がわかっている場合には該位置合わせは必須ではなく、比較画像[I]をそのまま仮画像とすればよい。
【0041】
仮画像について、図10を用いて概念を説明する。1001は基準画像であり、1002はそれに合成をする比較画像[I]である。基準画像1001に対し、比較画像1002は撮影時にカメラが動いたなどの理由で被写体の座標や角度、大きさが変わっている。1003は仮画像の概念を表す。基準画像1001に比較画像[I]1002が位置を合わせ変形させると1003のようになる。基準画像は1004の実線の四角で表され、比較画像[I]は基準画像に位置を合わせると破線1005の四角のように変形される。仮画像は基準画像の座標に対応するように作成するため、仮画像は実線1004の四角のような位置となる。ここで、1004内の斜線部は基準画像に対して比較画像[I]の画素が存在しない箇所である。仮画像のこの画素にはR,G,Bの信号に負の値を入れるなどして画素が存在しない事を表せば良い。
【0042】
図2のS207では、重み付け加算を行う。ここでは、仮画像に重みを付け、重み付き総和画像に加算をする。仮画像の画素の信号値に重み画像の同座標の値をかけたものを、総和画像の同座標の値に加算し、再び重み付き総和画像の同座標に格納する。つまり、同じ座標上の1つの画素において仮画像の信号値をRt、Gt、Bt、重み画像の値をW、重み付き総和画像の値をRs、Gs、Bs、Wsとすると、以下の式で表す事ができる。また、Rs、Gs、Bsはそれぞれ、レッド、グリーン、ブルーの信号値の重み付き総和を表し、Wsは重みの総和を表す。ここで、[←]は格納を意味する。
【0043】
Rs ← Rt × W + Rs
Gs ← Gt × W + Gs
Bs ← Bt × W + Bs
Ws ← W + Ws
尚、右辺のRs、Gs、Bsはこの処理を行なう前の値を表しており、左辺のRs、Gs、Bsはこの変数に代入される事を表している。つまり、この処理で右辺の計算が行なわれ、左辺は更新される。また、Rs、Gs、Bsの初期値には、前述した基準画像の信号値による重み付き総和画像の値が格納されている。仮画像に重み付けを行なった値がループ内でRs、Gs、Bsに対して順次加算されていく。
【0044】
仮画像の全ての画素に対して、上記のような重み付け加算を行う。ただし、上述のように、仮画像には合成すべき画素値を有さない画素が存在する場合がある。このような画素に対しては、上記のような重み付け加算を行わない。
【0045】
S203の説明で述べたとおり、基準画像と重み画像とは同じ座標で対応している。S204の説明で述べたとおり、基準画像と重み付き総和画像とは同じ座標で対応している。S206の説明で述べたとおり、基準画像と仮画像は同じ座標で対応している。すなわち、基準画像と重み画像と重み付き総和画像と仮画像とは全て同じ座標で対応が取れているため、参照が容易である。
【0046】
S208ではループの終了を判定する。変数Iに1を加え、(変数I > 比較画像数)の式を満たすとき、全ての比較画像の処理が終了している事を意味するためループは終了となる。全ての比較画像の処理が終了していなければS205に戻り、比較画像[I]についての処理を行う。前述したように変数Iに1が加えられているため、比較画像[I]は先ほどのループとは異なる画像を表す。(変数I > 比較画像数)の式を満たしていれば全ての比較画像で処理が終了しているため、次ステップであるS209へ進む。
【0047】
S209では加重平均を行う。メモリに出力用の画像領域を確保し、出力画像とする。出力画像の1画素は色の信号値である、R、G、Bの3要素を持ち、縦画素数、横画素数は基準画像と同じ数である。加重平均は、重み付き総和画像の画素毎に各信号の重み付き総和(Rs、Gs、Bs)を重みの総和(Ws)で割り、得られた値を出力画像の該当画素へ格納することによって行う。出力画像の画素の信号をRo(レッド信号の画素値), Go(グリーン信号の画素値), Bo(ブルー信号の画素値) とすると、Ro, Go, Boは、以下の式で表すことができる。
【0048】
Ro ← Rs / Ws
Go ← Gs / Ws
Bo ← Bs / Ws
全ての画素について、上記のような加重平均を行い、出力画像を完成させる。
以上のようにS204からS209の処理によれば、S203でされた合成の重みに基づいて、S201で取得された基準画像及び比較画像を含む複数の画像を加重平均により合成する。
【0049】
S210では画像の出力を行う。S209の出力画像をBMPやJPEGなどの画像ファイルに保存する。出力はこれに限定するものではなく、表示装置であるディスプレイに表示してもよいし、出力装置に送信して印刷による画像出力をしてもよい。
【0050】
以上のように図2に示した処理によれば、画像合成のために取得した基準画像及び比較画像を含む複数の画像を取得し、基準画像の特徴量を算出する。算出された基準画像の特徴量に基づいて、基準画像の各画素の位置に対応する比較画像の画素の合成の重みを算出する。算出された合成の重みに基づいて、基準画像及び比較画像を含む複数の画像を加重平均により合成する。
【0051】
このように画像の特徴量及び加重平均を用いて複数の画像を合成することにより、輪郭部の劣化が少なく、ノイズが低減された画像を得ることができる。また、基準画像の特徴量のみを使用し、比較画像の特徴量を求める必要がないため、速度的な無駄が発生しない処理となる。また、基準画像の特徴量を用いて合成の重みを算出しており、比較画像の特徴量の算出処理を必要としないため、画像合成処理全体の処理速度を高めることができる。
【実施例2】
【0052】
以下、実施例2を、図を用いて詳細に説明する。尚、実施例1と同様の処理を行う場合はその詳細な説明を省略する。
【0053】
図9は、本実施形態の処理の流れを示すフローチャートである。この処理は、画像処理装置1においてアプリケーションが起動した後、CPU101の制御により該アプリケーション上で処理が行われる。
【0054】
S901ではアプリケーションは複数の画像を、入力装置109又は2次記憶装置105から取得する。当該複数の画像において、合成画像の主となる画像を基準画像、その他の画像を比較画像とする。実施例1の図2のS201で説明した処理と同様のため詳細な説明は省略する。
【0055】
図9のS902では、画像加算の準備を行う。実施例1の図2のS204で説明した処理と同様のため詳細な説明は省略する。
【0056】
図9のS903からは、比較画像の数でループを行う。変数Iに初期値として1を代入し、(I > 比較画像数)の式を終了条件とし、この式を満たすまでループ内の処理を繰り返し行う。説明のため、最初の比較画像を比較画像[1]、次の比較画像を比較画像[2]、その次の比較画像を比較画像[3]、という様に表し、ループ中に使用される比較画像を、変数Iを用いて比較画像[I]と表す。
【0057】
図9のS904では、仮画像の特徴量を画素毎に算出する。実施例1の図2のS202での基準画像の特徴量の算出と同様に、ここでは仮画像について特徴量を算出し、特徴量画像に格納する。実施例1の図2のS206と同様に基準画像の位置に合わせて比較画像[I]を変形し、仮画像に格納してもよいが、説明を簡略化させるため基準画像と比較画像[I]の位置が同じであるシーンを想定する。よって、比較画像[I]をそのまま仮画像とし、S904ではこの仮画像について画素毎に特徴量を算出する。ここで、比較画像[I]である仮画像のみの特徴量を算出する事が本実施例の特徴の1つである。尚、特徴量の算出方法は前述のS202と同様のため、詳細な説明は省略する。
【0058】
S905では、仮画像の合成の重みを画素単位で算出し、重み画像へ格納する。S904で作成した特徴量画像の各画素の値を入力とし、各画素の合成の重みを関数によって算出する。関数において、特徴量と合成の重みとの関係は図3に示すような特性を持つ。ここで、比較画像[I]である仮画像の特徴量を用いて合成の重みを計算しており、基準画像の特徴量を用いていない事が本実施形態の特徴の1つである。つまり、画像間の特徴量を比べる必要がない。その結果、画像合成処理全体の処理速度を高めることができる。S905のその他の処理は図2のS203と同様であり説明済みであるため、ここでの詳細な説明は省略する。
【0059】
S906では、S207と同様に全ての画素において重み付け加算を行う。ここで、重みはS905で求めた仮画像についての重み画像を用いる。その他はS207と同様のため詳細な説明は省略する。
【0060】
S907では、ループの終了を判定する。S208と同様なため、詳細な説明は省略する。
S908では、加重平均を行う。S209と同様の処理を行うため、詳細な説明は省略する。
S909では、画像の出力を行う。S210と同様の処理を行うため、詳細な説明は省略する。
【0061】
以上、図9に示した複数画像の合成処理によれば、輪郭部の劣化が少なくノイズが低減された画像を得ることができる。
【0062】
[その他の実施例]
上記2つの実施例では動画から静止画切り出しを行い高画質化された静止画を得たが、このように高画質化された画像を複数用いて動画像を再編成する事により、高画質な動画像を得る事もできる。
【0063】
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。また、本発明は、複数のプロセッサが連携して処理を行うことによっても実現できるものである。
【産業上の利用可能性】
【0064】
動画像から静止画切り出しをする際の高画質化。動画像の1フレーム毎の高画質化。
【符号の説明】
【0065】
1001 基準画像
1002 比較画像

【特許請求の範囲】
【請求項1】
画像合成のための複数の画像を取得する取得手段と、
前記取得手段により取得された複数の画像に含まれる第1の画像における一部の領域の特徴量を算出する算出手段と、
前記算出手段により算出された前記第1の画像における領域の特徴量に基づき、前記第1の画像における前記領域の合成のための重み、または前記第1の画像の前記領域と合成される、前記複数の画像に含まれる第2の画像における領域の重みを決定する決定手段と、
前記第1の画像の領域または前記第2の画像の領域に対して前記決定手段により決定された合成の重みに基づいて重み付けを行うことにより、前記第1の画像と前記第2の画像とを合成する合成手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記決定手段は、前記第2の画像の特徴量を用いることなく合成の重みを決定することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記決定手段は、前記算出手段により算出された第1の特徴量に対応する合成の重みが、前記第1の特徴量よりも小さい第2の特徴量に対応する合成の重みよりも低くなるように、合成の重みを決定することを特徴とする請求項1または2に記載の画像処理装置。
【請求項4】
前記決定手段は、前記算出手段により算出された特徴量が所定の閾値を超えない場合には、前記第1の画像または前記第2の画像の合成の重みを変化させず、前記特徴量が前記所定の閾値を超える場合に、合成の重みが前記所定の閾値に対応する合成の重みよりも低くなるように、合成の重みを決定することを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記算出手段により算出された前記第1の画像の特徴量に基づき、前記第1の画像の特徴点を特定する特定手段を有し、
前記合成手段は、前記基準画像の前記特定手段により特定された特徴点に基づき前記第1の画像と前記第2の画像とを合成するための位置合わせを行うことにより、前記第1の画像と前記第2の画像とを合成することを特徴とする請求項1から4のいずれか1つに記載の画像処理装置。
【請求項6】
前記算出手段は、前記第1の画像に含まれる画素ごとの特徴量を算出することを特徴とする請求項1から5のいずれか1つに記載の画像処理装置。
【請求項7】
前記決定手段は、対象画素とその周囲の画素との色又は明るさの相違に基づいて前記第1の画像に含まれる画素の特徴量を算出することを特徴とする請求項6に記載の画像処理装置。
【請求項8】
画像合成のための複数の画像を取得する取得工程と、
前記取得工程において取得された複数の画像に含まれる第1の画像における一部の領域の特徴量を算出する算出工程と、
前記算出工程において算出された前記第1の画像における領域の特徴量に基づき、前記第1の画像における前記領域の合成のための重み、または前記第1の画像の前記領域と合成される、前記複数の画像に含まれる第2の画像における領域の重みを決定する決定工程と、
前記第1の画像の領域または前記第2の画像の領域に対して前記決定工程において決定された合成の重みに基づいて重み付けを行うことにより、前記第1の画像と前記第2の画像とを合成する合成工程と、
を備えることを特徴とする画像処理方法。
【請求項9】
コンピュータに、
画像合成のための複数の画像を取得する取得工程と、
前記取得工程において取得された複数の画像に含まれる第1の画像における一部の領域の特徴量を算出する算出工程と、
前記算出工程において算出された前記第1の画像における領域の特徴量に基づき、前記第1の画像における前記領域の合成のための重み、または前記第1の画像の前記領域と合成される、前記複数の画像に含まれる第2の画像における領域の重みを決定する決定工程と、
前記第1の画像の領域または前記第2の画像の領域に対して前記決定工程において決定された合成の重みに基づいて重み付けを行うことにより、前記第1の画像と前記第2の画像とを合成する合成工程と、
を実行させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2012−22652(P2012−22652A)
【公開日】平成24年2月2日(2012.2.2)
【国際特許分類】
【出願番号】特願2010−162290(P2010−162290)
【出願日】平成22年7月16日(2010.7.16)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.COMPACTFLASH
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】