ノイズ除去装置並びにプログラムおよび方法
【課題】多重解像度変換と方向性を有するフィルタ処理を組み合わせたノイズ除去方法において、細かい構造に対応した方向判別とノイズの影響を受けない方向判別を両立するとともに、演算規模の縮小を図ることができるノイズ除去方法およびプログラム並びに装置を提供することを目的とする。
【解決手段】入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成し、各帯域画像信号に対してそれぞれノイズ除去処理を施すノイズ除去装置であって、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別する方向判別手段と、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去手段と、を備える。
【解決手段】入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成し、各帯域画像信号に対してそれぞれノイズ除去処理を施すノイズ除去装置であって、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別する方向判別手段と、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去手段と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像処理に関し、特に画像のノイズを除去するノイズ除去装置並びにプログラムおよび方法に関するものである。
【背景技術】
【0002】
画像信号に含まれるノイズ信号を除去するノイズ除去装置においては、ローパスフィルタによる平滑化処理が広く行われている。しかし、ローパスフィルタによる平滑化処理によりノイズを低減させようとすると、画像信号に含まれるエッジ成分にも平滑化がかかるため、画像の鮮鋭度が低下してしまうという問題がある。
【0003】
この問題に対処する方法として、特許文献1では画像に含まれるエッジ成分の方向を検出し、当該方向に沿った平滑化処理を適用することで、画像の鮮鋭度を低下させることなくノイズを低減する方式が示されている。また、特許文献2においては、エッジ成分の方向を検出する際に参照する画像を、原画像ではなく、原画像に対してローパスフィルタ処理を施した画像とすることで、方向判別結果を安定させる方式が示されている。
【0004】
また、多重解像度変換を用いたノイズ除去方法が非特許文献1にて開示されている。これは、画像信号をフィルタバンクやラプラシアンピラミッドの手法を用いて複数の周波数帯域の信号に分割し、それぞれの帯域の信号に対して何らかのノイズ除去処理を施した後、これらを再合成するものであり、分割した帯域それぞれに適した強度のノイズ除去処理を行えるという利点を有する。
【0005】
図14にラプラシアンピラミッドによる多重解像度変換と、それを用いたノイズ除去の一例を示す。図14において、入力画像100は、フィルタ処理・縮小処理部101にてローパスフィルタ処理後に縮小される。この処理により、画像サイズは水平方向、垂直方向共に半分となる。縮小された画像は、次段のフィルタ処理・縮小処理部110に供給され、順次さらに縮小されていく。縮小された画像は、拡大処理部102にて元の画像サイズに拡大された後、減算器103にて差分信号が作成される。
【0006】
この差分信号は、フィルタ処理・縮小処理部101で用いられたローパスフィルタ特性により遮断された高域成分に相当する。この高域成分を多く含む差分信号に対して、NR処理部500にてノイズ除去処理を施す。次段の処理でも同様に、フィルタ処理・縮小処理部110、拡大処理部111、減算器112により、次段に相当する帯域の信号が生成され、これに対してNR処理部501でノイズ除去処理を適用する。このようにして順次の帯域分割された信号に対してノイズ除去処理が適用されることとなる。
【0007】
最も低周波の帯域におけるNR処理部502の出力は、低域側の信号と加算器124で加算され、拡大処理部125によって拡大された後、高域側の処理に送られる。このようにして順次低域側から信号が再合成されていき、最終的に最高域の信号が加算器109により加算されて、出力画像503となる。
【0008】
特許文献3においては、図14におけるNR処理部500、501、502を、特許文献1に類似の方向性を有するフィルタ処理を用いた構成にする方式が示されている。また、方向判別に用いる画像については、特許文献2に示されるようなローパスフィルタ処理を施した画像とするために、多重解像度変換における低域側の画像を用いて方向判別をする方式、あるいは、低域側の画像を用いて方向判別した結果と、注目帯域を含む画像を用いて方向判別した結果を組み合わせる方式が示されている。
【特許文献1】特開昭55−133179号公報
【特許文献2】特開平8−202870号公報
【特許文献3】特開2001−57677号公報
【非特許文献1】Surendra Ranganath, “Image Filtering Using Multiresolution Representations”, IEEE Trans. On Pattern Anal. MachineIntell. , Vol. PAMI-13 No.5, May, 1991
【発明の開示】
【発明が解決しようとする課題】
【0009】
ところが、多重解像度変換と方向性を有するフィルタ処理を組み合わせたノイズ除去装置においては、方向判別に使用する画像を低域側の画像とすると、低域側の画像の解像度が低すぎるために、細かい構造に対応した方向判別結果を得ることができず、ノイズ除去の結果として細かい構造をつぶしてしまうという問題がある。他方、方向判別に使用する画像を、注目帯域を含む画像とすると、ノイズ除去前の画像であることから方向判別結果がノイズの影響を強く受け、所望のノイズ除去結果を得ることができないという問題がある。
【0010】
特許文献2においては、方向判別に使用する参照画像を、原画像に対してローパスフィルタを適用したものとしており、このローパスフィルタの強度を調整することで、上記トレードオフの関係にある問題に対処することが可能である。しかし、多重解像度変換においては、各帯域の画像が既に生成されており、演算規模削減の観点からこれら画像を利用することが望ましく、別途所望の特性によるローパスフィルタ処理をすることは望ましくない。
【0011】
特許文献3においては、低域側の画像を用いた方向判別結果と、注目帯域を含む画像を用いた方向判別結果を組み合わせることで、上記トレードオフの関係にある問題に対処する方式が開示されているが、方向判別処理を2回計算する必要があり、これも演算規模削減の観点から望ましいとはいえない。
【0012】
本発明は、上記問題に鑑みてなされたもので、多重解像度変換と方向性を有するフィルタ処理を組み合わせたノイズ除去装置において、細かい構造に対応した方向判別とノイズの影響を受けない方向判別を両立するとともに、演算規模の縮小を図ることができるノイズ除去装置並びにプログラムおよび方法を提供することを目的とする。
【課題を解決するための手段】
【0013】
上記課題を解決するために、本発明は以下の手段を採用する。
本発明に係るノイズ除去装置は、入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成し、各帯域画像信号に対してそれぞれノイズ除去処理を施すノイズ除去装置であって、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別する方向判別手段と、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去手段と、を備えたことを特徴とする。
【0014】
ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数を含む第1の画像信号には、高域成分が含まれているため、細かい構造のエッジが存在し、これを用いて方向判別をすることにより精度の高い方向判別が可能な反面、高域成分に含まれるノイズの影響を強く受けるという欠点がある。他方、ノイズ除去の対象となる帯域画像信号の周波数帯域よりも低域側の周波数を含む第2の画像信号は、細かい構造のエッジは存在しない反面、ノイズも少ないため安定した方向判別が可能となる。
したがって、本発明のノイズ除去装置によれば、第1の画像信号と第2の画像信号とを用いて、ノイズ除去の対象となる帯域画像信号のエッジ成分の方向を判別することで、細かい構造の変化にも対応しつつ、ノイズに影響されない安定した方向判別を実現することができる。
【0015】
本発明に係るノイズ除去装置は、入入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成し、各帯域画像信号に対してそれぞれノイズ除去処理を施すノイズ除去装置であって、ノイズ除去の対象となる帯域画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別する方向判別手段と、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去手段と、を備えたことを特徴とする。
【0016】
ノイズ除去の対象となる帯域画像信号には、高域成分が含まれているため、細かい構造のエッジが存在し、これを用いて方向判別をすることにより精度の高い方向判別が可能な反面、高域成分に含まれるノイズの影響を強く受けるという欠点がある。他方、ノイズ除去の対象となる帯域画像信号の周波数帯域よりも低域側の周波数を含む第2の画像信号は、細かい構造のエッジは存在しない反面、ノイズも少ないため安定した方向判別が可能となる。
したがって、本発明のノイズ除去装置によれば、ノイズ除去の対象となる帯域画像信号と第2の画像信号とを用いて、ノイズ除去の対象となる帯域画像信号のエッジ成分の方向を判別することで、細かい構造の変化にも対応しつつ、ノイズに影響されない安定した方向判別を実現することができる。
また、ノイズ除去の対象となる帯域画像信号と第2の画像信号とを用いて第1の画像信号を生成するので、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数を含む第1の画像信号を保持する必要がなくなる。これにより、画像保持のために必要とされるメモリ量を削減できる。
【0017】
本発明に係るノイズ除去プログラムは、入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の処理と、各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の処理とをコンピュータに実行させるノイズ除去プログラムであって、前記第2の処理は、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズの除去を行うことを特徴とする。
【0018】
本発明に係るノイズ除去プログラムは、入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の処理と、各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の処理とをコンピュータに実行させるノイズ除去プログラムであって、前記第2の処理は、ノイズ除去の対象となる帯域画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズの除去を行うことを特徴とする。
【0019】
本発明に係る撮像システムは、上記のノイズ除去装置を備えることを特徴とする。
【0020】
本発明の撮像システムによれば、撮像される画像のノイズレベルやユーザの好みに適した画像を得ることが可能となる。
【0021】
本発明に係るノイズ除去方法は、入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の工程と、各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の工程とを有し、前記第2の工程は、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去することを特徴とする。
【0022】
本発明に係るノイズ除去方法は、入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の工程と、各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の工程とを有し、前記第2の工程は、ノイズ除去の対象となる帯域画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去することを特徴とする。
【発明の効果】
【0023】
本発明によれば、細かい構造に対応した方向判別とノイズの影響を受けない方向判別を両立するとともに、演算規模の縮小を図ることが可能となる。
【発明を実施するための最良の形態】
【0024】
[第1の実施形態]
以下に、本発明の第1の実施形態に係るノイズ除去装置並びにプログラムおよび方法について、図面を参照して説明する。
図1は本実施形態に係るノイズ除去装置が備える機能を展開して示した機能ブロック図である。
本実施形態に係るノイズ除去装置は、ラプラシアンピラミッドにより多重解像度変換を施す多重解像度変換部と、各帯域の信号に対してノイズ除去をするNR処理部105,113,121とを備えている。
【0025】
上記多重解像度変換部は、複数段のフィルタ処理・縮小処理部101,110,118と、各フィルタ処理・縮小処理部101,110,118に対応して設けられる拡大処理部102,111,119と、ノイズ除去後の画像を用いて信号を再合成する合成部とを備えている。
このような構成において、入力画像100は、フィルタ処理・縮小処理部101にてローパスフィルタ処理後に縮小される。この処理により、画像サイズは水平方向、垂直方向共に半分となる。縮小された画像は、次段のフィルタ処理・縮小処理部110に供給され、順次さらに縮小されていく。縮小された画像は、NR処理部105に与えられ、NR処理部105によってノイズ除去処理が施される。本実施形態では、ノイズ除去部としてNR処理を施すNR処理部105を一例に挙げて説明するが、この例に限定されない。
【0026】
フィルタ処理・縮小処理部101にて縮小された画像は、拡大処理部102にて元の画像サイズに拡大された後、減算器103へ出力される。減算器103では、入力画像100と拡大処理部102から与えられた画像との減算を行うことによって帯域画像信号104が作成される。この帯域画像信号104は、フィルタ処理・縮小処理部101で用いられたローパスフィルタ特性により遮断された高域部分の信号に相当する。
【0027】
この高域成分を多く含む帯域画像信号104に対して、NR処理部105にてノイズ除去処理を施す。次段の処理でも同様に、フィルタ処理・縮小処理部110、拡大処理部111、減算器112により、次段に相当する帯域画像信号が生成され、これに対してNR処理部113でノイズ除去処理を適用する。このようにして順次の帯域分割された信号に対してノイズ除去処理が適用されることとなる。
【0028】
NR処理部121の出力は、合成部の加算器124によって低域側の信号に加算され、合成部の拡大処理部125によって拡大された後、高域側の処理に送られる。このようにして順次低域側から信号が再合成されていき、最終的に最高域の信号が加算器109により加算されて、出力画像126となる。
【0029】
次にNR処理部105の詳細について説明する。
NR処理部105においては、帯域画像信号104を入力とし、NR処理結果106を出力とする。ここで、NR処理は、方向性を有するフィルタ処理に基づいて行われることを前提とし、その方向の判別のために、第1の画像信号107と第2の画像信号108とを用いて第1の参照画像を作成する。第1の画像信号107は、その周波数成分として帯域画像信号104を含み、かつ、それよりも低域側の信号も含む。第2の画像信号108は、ノイズ除去処理後の低域側の信号である。他の帯域のNR処理部であるNR処理部113、121においても同様に、第1の画像信号114、122と第2の画像信号115、123とを用いてそれぞれ第1の参照画像を作成する。
【0030】
図2にNR処理部105の詳細な内容を示す。
方向判別処理部200は、第1の画像信号107と第2の画像信号108を用いて方向判別を行い、方向判別結果201を方向性フィルタ処理部202に出力する。方向性フィルタ処理部202は帯域画像信号104に対して、方向判別結果201が示すエッジの方向に基づきフィルタ係数、あるいは、フィルタ処理を決定してフィルタ処理を施す。そのフィルタ処理結果に対してコアリング処理部203は、微小信号をゼロにするようなコアリング処理を行い、NR処理結果106とする。ここで、コアリング処理とは、典型的には、入力信号の絶対値が閾値以下の場合にその信号を一律ゼロとし、閾値より大きい場合には絶対値を閾値だけ減じた信号とするような処理である。
なお、他の帯域のNR処理部113やNR処理部121は、NR処理部105と同様の処理を行うので説明を省略する。
【0031】
次に、方向判別処理部200の動作の詳細について、図3を参照して説明する。
ここでは、ある注目画素におけるエッジの方向を判別する際に、注目画素の周囲5×5の画素ブロックを用いる場合を例として説明する。なお、このブロックサイズは必要に応じて7×7等他のサイズにすることも可能である。
【0032】
図3のA00〜A44は、第1の画像信号107における画素ブロックの画素を示し、中心画素A22が注目画素位置に相当する。同じくB00〜B44は、第2の画像信号108における画素ブロックの画素を示し、中心画素B22が注目画素位置に相当する。
本実施形態における方向判別処理においては、これら画素を組み合わせた参照画像の画素ブロックとして、中央の注目画素のみを第1の画像信号107の画素A22を用い、その他の画素は第2の画像信号108の画素を用いるものとする。
【0033】
図4は上述のように組み合わせて生成した参照画像の画素ブロックから方向を判別する様子を示した図である。
本実施形態では判別するエッジの方向を図4のような4方向としている。方向数については必要に応じて8方向等に増やすことも可能である。方向判別においては、方向1から方向4までについて、どれが最もエッジに沿った方向であるかを決定するため、それぞれの方向について評価値を計算する。評価値としては様々な物が考えられるが、本実施形態においては、以下の評価値を使用する。
E1 = | A22−B23 | + | A22−B24 | + | A22−B21 | + | A22−B20 |
E2 = | A22−B13 | + | A22−B04 | + | A22−B31 | + | A22−B40 |
E3 = | A22−B12 | + | A22−B02 | + | A22−B32 | + | A22−B42 |
E4 = | A22−B11 | + | A22−B00 | + | A22−B33 | + | A22−B44 |
【0034】
E1からE4はそれぞれ方向1から方向4に対応した評価値であり、評価する方向においてエッジが存在する場合はこの評価値が大きくなり、エッジが存在しない場合には小さくなる特徴を有する。そこで、E1からE4の中で最小値を検出し、それに対応する方向はエッジが存在しないと判断することで、その方向をエッジに沿った方向と判定する。
【0035】
第1の画像信号107には高域成分が含まれているため、細かい構造のエッジが存在し、これを用いて方向判別をすることにより精度の高い方向判別が可能な反面、高域成分に含まれるノイズの影響を強く受けるという欠点がある。第2の画像信号108はノイズ除去済みの低域成分のみからなる画像であるから、細かい構造のエッジは存在しない反面、ノイズも少ないため安定した方向判別が可能となる。
本実施形態においては、中央の注目画素のみを第1の画像信号107の画素とすることで、細かい構造物の変化にも対応した方向判別を実現すると共に、その他の画素についてはノイズの少ない第2の画像信号108から得ることによって、ノイズに影響されない安定した方向判別を実現することが可能となる。
なお、本実施形態においては中央の1画素のみを第1の画像信号107の画素に置き換えたが、例えば、中央の3×3画素を置き換えの対象とすることも可能であり、このように置き換えの範囲を調整することで、精度の高い方向判別とノイズに強い安定した方向判別というトレードオフの関係を調整することが可能となる。
【0036】
以上説明したように、本実施形態に係るノイズ除去装置によれば、第1の画像信号107と第2の画像信号108とを用いて、ノイズ除去の対象となる帯域画像信号のエッジ成分の方向を判別することで、第1の画像信号107と第2の画像信号108とのトレードオフの関係を調整することができる。これにより、入力画像の細かい構造の変化にも対応しつつ、ノイズに影響されない安定した方向判別を実現できる。
また、第1の画像信号107の画素と第2の画像信号108の画素とを部分的に置き換えるという容易な処理により第1の参照画像を作成するので、少ない演算量や回路規模でのノイズ除去が可能となる。さらに、第1の画像信号107および第2の画像信号108として、多重解像度変換において既に生成されている画像を用いるので、第1の参照画像を更に容易に生成することができる。
また、第2の画像信号108は、ノイズ除去済みの低域成分のみからなる画像信号であるから、より安定した方向判別が可能となる。
【0037】
なお、本実施形態において、第1の画像信号107は、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数からなる画像として説明しているが、この信号に対して何らかのフィルタ処理を加えて加工されていてもよい。
また、第2の画像信号108は、ノイズ除去処理が行われ、かつ、ノイズ除去の対象となる帯域画像信号の周波数帯域よりも低域側の周波数からなる画像として説明しているが、ノイズ除去がなされる前の信号とすることも可能である。例えば、上述した第2の画像信号108に代えて、図1の拡大処理手段102の出力等を採用することとしてもよい。さらに、第2の画像信号108は、ノイズ除去の対象となる帯域画像信号と必ずしも隣接する必要はない。例えば、上述した第2の画像信号108に代えて、拡大処理手段119からの出力画像123を適当な画像サイズに拡大した上で採用することとしてもよい。
【0038】
〔第2の実施形態〕
次に、本発明の第2の実施形態について、図5を用いて説明する。
本実施形態に係るノイズ除去装置並びにプログラムおよび方法が第1の実施形態と異なる点は、第1の画像信号と第2の画像信号を所定の比率により重み付き平均化処理をして第1の参照画像を生成する点である。以下、本実施形態に係るノイズ除去装置について、第1の実施形態と共通する点については説明を省略し、異なる点について主に説明する。
【0039】
第2の実施形態においては、第1の実施形態における方向判別処理部200の動作を変更する。この点につき、図5を参照しながら説明する。
第1の実施形態においては、第1の画像信号107の画素ブロックと第2の画像信号108の画素ブロックにおいて、どちらかの画素を選択して方向判別に使用する画素ブロックを構成することにより、精度の高い方向判別とノイズに強い安定した方向判別を両立する上でのトレードオフの関係を調整していた。一方、第2の実施形態においては、これら画素から新たな画素値を計算して、方向判別に使用する参照画像の画素ブロックを構成する。
【0040】
図5におけるC00からC44は、方向判別に使用する参照画像の画素であり、これらは第1の画像信号107の画素値と第2の画像信号108の画素値との重みづけ平均値として、以下の(1)式により算出する。
Cij = wij * Aij + (1−wij) * Bij(i,j = 0, … ,4)・・・(1)
ここでwijは重みであり、1に近づけば第1の画像信号107が優先されることにより、精度の高い方向判別が優先され、0に近づけば第2の画像信号108が優先されることにより、ノイズに強い安定した方向判別が優先されることとなる。この重みwijは、画素ブロックの位置によっても異なる値とすることができる。例えば、これにより中心部に近い部分はwijを1に近い値として、周辺部に行くに従って0に近い値とすることにより、第1の実施形態のような構成に近づけることも可能となる。
【0041】
本実施形態においては、第1の画像信号107と第2の画像信号108から新たな画素ブロックを計算する必要があるため、演算量、あるいは、回路規模が増えるという問題も生ずる。しかし、重みwijを中心部に近い部分のみで値を持ち、周辺部ではゼロと設定することにより、実質的な演算量の増大は抑えることができる。また、方向判別の方向数が多い場合等を想定すると、評価値の計算に多くの演算量が必要とされるため、第1の画像信号107からなる画素ブロックと第2の画像信号108からなる画素ブロックのそれぞれについて方向判別を行う場合に比べて、演算量や回路規模の増大は少ないと考えられる。
【0042】
以上のように、本実施形態に係るノイズ除去装置によれば、第1の画像信号107と第2の画像信号108の重み付き平均化処理をすることで、トレ−ドオフの関係にある第1の画像信号107と第2の画像信号108の特性の調整を、より細かく制御することが可能となる。また、第1の画像信号107および第2の画像信号108として、多重解像度変換において既に生成されている画像を用いることによって、より容易に第1の参照画像を生成することができる。さらに、第1の画像信号107と第2の画像信号108の重み付けを変更することによって、入力画像に応じたノイズ除去をより細かく行うことが可能となる。
【0043】
〔第3の実施形態〕
次に、本発明の第3の実施形態について、図6を用いて説明する。
本実施形態に係るノイズ除去装置並びにプログラムおよび方法が前述の各実施形態と異なる点は、エッジ成分の方向判別する際に使用する画像信号である。以下、本実施形態のノイズ除去装置について、前述の各実施形態と共通する点については説明を省略し、異なる点について主に説明する。
【0044】
図6は、本実施形態に係るノイズ除去装置が備える機能を展開して示した機能ブロック図である。
第1の実施形態においては、NR処理部が方向判別のために使用する画像は、高域成分を含む第1の画像信号107と、低域成分からなる画像である第2の画像信号108であった。一方、第3の実施形態においては、これを帯域画像信号104と、低域成分からなる第2の画像信号108とする。以下、このように構成する趣旨について説明する。
【0045】
第1の実施形態において、第1の画像信号107から、フィルタ処理・縮小処理部101、拡大処理部102を経て減算器103で減算して得られた帯域成分が帯域画像信号104なのであるから、低域画像に対して帯域画像信号104を加算すれば、第1の画像信号107が得られることとなる。ここでいう低域画像とは、次段以降のNR処理部によりノイズ除去処理が行われた低域画像である第2の画像信号108とは、厳密には異なるものであるが、概ね近似できると考えられる。したがって、第2の画像信号108と帯域画像信号104を適宜加算することにより、高域成分を含んだ画像が生成できることとなり、これを用いて方向判別を行えば、細かい構造に沿った方向判別も可能となる。そして、NR処理部300に入力する画像信号として第1の画像信号107が不要となるから、この分画像を保持するために必要とされるメモリ量を削減できるという利点がある。
【0046】
図7にNR処理部300の詳細な内容を示す。第1の実施形態と異なり、方向判別処理部400は帯域画像信号104と低域成分からなる第2の画像信号108を用いて方向判別を行う。この動作の詳細について図8を参照しながら説明する。
図8中のD00からD44は、帯域画像信号104の各値であり、中心値D22が注目画素位置に相当する。同じくB00〜B44は、第2の画像信号108における画素ブロックの画素を示し、中心画素B22が注目画素位置に相当する。本実施形態における方向判別処理においては、これらを組み合わせた画素ブロックとして、中央の注目画素のみを帯域画像信号104と第2の画像信号108を加算した画素値であるE22とし、その他の画素は第2の画像信号108の画素を用いるものとする。
【0047】
前述の通り、E22には高域成分が含まれることとなるため、中央の注目画素のみをこれと置き換えることにより、細かい構造の変化にも対応した方向判別を実現すると共に、その他の画素についてはノイズの少ない第2の画像信号108から得ることによって、ノイズに影響されない安定した方向判別を実現することが可能となる。
本実施形態においては中央の1画素のみを置き換えたが、例えば、中央の3×3画素について加算演算をした上で置き換えの対象とすることも可能であり、このように置き換えの範囲を調整することで、精度の高い方向判別とノイズに強い安定した方向判別を両立する上でのトレードオフの関係を調整することが可能となる。
【0048】
以上のように、本実施形態に係るノイズ除去装置によれば、ノイズ除去の対象となる帯域画像信号104と第2の画像信号108とを用いてノイズ除去処理を行うので、第1の実施形態のように第1の画像信号107を保持する必要がなくなる。これにより、画像保持のために必要とされるメモリ量を削減できる。
【0049】
〔第4の実施形態〕
次に、本発明の第4の実施形態について、図9を用いて説明する。
本実施形態に係るノイズ除去装置並びにプログラムおよび方法が第3の実施形態と異なる点は、ノイズ除去の対象となる帯域画像信号に所定の比率を乗じて得られる画像と前記第2の画像信号とを加算して得られる画像を用いて第2の参照画像を生成する点である。以下、本実施形態のノイズ除去装置について、第3の実施形態と共通する点については説明を省略し、異なる点について主に説明する。
【0050】
本実施形態においては、第3の実施形態における方向判別処理部400の動作を変更する。この点につき、図9を参照しながら説明する。
本実施形態においては、ノイズ除去の対象となる帯域画像信号104と第2の画像信号108の重み付き加算をして方向判別に使用する画素ブロックを構成する。図9におけるF00からF44は、方向判別に使用する画素であり、これらは帯域画像信号104に所定のゲインを乗じた信号と、第2の画像信号108の画素値の和として、以下の(2)式により算出する。
Fij = Bij + wij * Dij(i,j = 0, … ,4)・・・(2)
ここでwijは重みであり、wijが1の場合には第3の実施形態と同様に単純な加算となり、方向判別に高域成分を含む画像を使用することとなる。0の場合には、高域成分は含まれないこととなり、低域成分のみから方向判別がなされる。1より大きくした場合には、高域成分を強調した画像により方向判別をすることとなり、より細かい構造を考慮した方向判別が行われる反面、ノイズに対して安定性が低下することとなる。この重みwijは、画素ブロック内の位置によっても異なる値とすることができる。例えば、これにより中心部に近い部分は1に近い値をとり、周辺部に行くに従って0に近い値とすることにより、第3の実施形態のような構成に近づけることも可能となる。
【0051】
以上のように、本実施形態に係るノイズ除去装置によれば、第3の実施形態と同様に第1の画像信号107を保持する必要がない他、トレードオフの関係にある帯域画像信号104と第2の画像信号108の特性の調整を、より細かく制御することが可能となる。また、帯域画像信号104および第2の画像信号108として、多重解像度変換において既に生成されている画像を用いることによって、より簡易に第2の参照画像を生成することができる。さらに、重み付けを変更することによって、入力画像に応じたノイズ除去をより細かく行うことが可能となる。
【0052】
〔第5の実施形態〕
次に、本発明の第5の実施形態について、図10を用いて説明する。
本実施形態は、前述の各実施形態において説明したノイズ除去装置をデジタルカメラ等の撮像システムに組み込んだ形態である。以下に、本実施形態に係る撮像システムついて主に図10を参照して説明する。なお、前述の各実施形態と共通する点については説明を省略し、異なる点について主に説明する。
【0053】
本実施形態に係る撮像システムは、レンズ系500と、CCD501と、画像処理部502と、ノイズ除去部503と、画像圧縮部504と、記録メディア505と、ノイズ除去条件設定部506と、ノイズ除去パラメータ設定部507とを主な構成要素として備えている。
【0054】
レンズ系500を通してCCD501で撮像された画像信号は、画像処理部502においてホワイトバランス処理やエッジ強調処理、色信号処理等が施された後、ノイズ除去部503においてノイズ除去がなされる。ノイズが除去された画像信号は、画像圧縮部504でJPEG形式等に圧縮された後、メモリーカード等の記録メディア505に保存される。ノイズ除去部503は、前述の各実施形態において説明したノイズ除去装置を適用したものである。
【0055】
ノイズの除去にあたっては、画像処理部502が出力する画像信号をRGB信号からなる画像とし、ノイズ除去部503において3面からなるRGB画像に対して個別にノイズ除去処理をしてもよいし、画像処理部502が出力する信号をYCbCrとして、ノイズ除去部503において3面からなるYCbCr画像に対して個別にノイズ除去処理をしてもよい。さらには、画像処理部502はRGB信号を出力し、ノイズ除去部503内でRGB信号をYCbCr信号等に変換した後に、3面からなるYCbCr画像に対して個別にノイズ除去処理をしてもよい。また、ノイズ除去部503と画像処理部502は本実施形態のように分離する必要はなく、例えば、画像処理部502のエッジ強調処理とノイズ除去部503の処理順序を入れ替えることも可能である。また、ノイズ除去部503は、上述したいずれかの実施形態に係るノイズ除去装置が備える機能を有している。
【0056】
ノイズ除去部503の動作は、ノイズ除去パラメータ設定部507により制御される。ノイズ除去パラメータ設定部507には、ノイズ除去パラメータとして、必要とされるノイズ除去の強度に応じた複数のパラメータ候補が工場出荷時に記憶されている。ノイズ除去パラメータ設定部507は、ユーザのノイズ除去強度に関する設定値や、ノイズ除去条件設定部506からのISO感度情報等に基づいてノイズ除去の強度を決定し、当該複数のパラメータ候補から適当なパラメータを選択してノイズ除去部503のノイズ除去動作を制御する。
【0057】
このノイズ除去に関するパラメータの中には、本発明に関する構成の選択等も含まれることとしてもよい。例えば、第1の実施形態に対応するノイズ除去方法をノイズ除去部503に適用した場合、以下のようなパラメータを候補として、ノイズ除去パラメータ設定部507に記憶させてもよい。
第1の実施形態においては方向判別に使用する参照画像を、高周波成分を含む第1の画像信号107と低周波成分からなる第2の画像信号108の組み合わせにより生成していた。この組み合わせに関する選択として、注目画素位置のみ第1の画像信号107の画素とするのか、注目画素の周辺3×3画素とするのか、あるいは全てを第1の画像信号107、あるいは、第2の画像信号108とするのかというような選択がありうる。この選択により、細かい構造の変化にも対応した方向判別と、ノイズに影響されない安定した方向判別のバランスが決定される。したがって、図11に示すように、パラメータ候補として上述のような参照画像の生成方法を複数設定しておき、予め設定された条件に基づいて第1の参照画像を生成してもよい。ノイズ除去パラメータ設定部507は、適当な構成をユーザ設定やISO感度情報等から選択し、ノイズ除去部503を制御する。
【0058】
なお、多重解像度の各帯域における設定は同一である必要はなく、高域における設定と低域における設定が異なっていても良い。例えば、各帯域画像信号について図11に示す条件を予め設定しておき、該条件に基づいて第1の参照画像を生成しても良い。
また、ノイズのレベルによって多重解像度変換の縮小回数を予め設定しておき、入力画像信号のノイズの大きさに応じて多重解像度変換の縮小回数を決定してもよい。
さらに、ノイズ除去部503は、前述の各実施形態のどれか一つを選択するのではなく、パラメータによりいずれの実施形態に係るノイズ除去方法を選択することとしてもよい。例えば、撮像条件(ISO感度等)に応じて、多重解像度変換における解像度変換の回数を変化させる。
【0059】
以上のように、少なくともいずれかの実施形態に係るノイズ除去方法を採用して、撮像システムを構成することにより、入力画像の細かい構造の変化にも対応しつつ、ノイズに影響されない安定した方向判別を実現することができる。また、この構成をユーザ設定やISO感度情報等により適宜変更することにより、撮像される画像のノイズレベルやユーザの好みに適した画像を得ることが可能な撮像システムとすることが可能となる。
【0060】
なお、上述した各実施形態では、ノイズ除去装置としてハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。例えば、別途ソフトウェアにて処理する構成も可能である。この場合、ノイズ除去装置は、CPU、RAM等の主記憶装置、上記処理の全て或いは一部を実現させるためのプログラムが記録されたコンピュータ読み取り可能な記録媒体を備えている。そして、CPUが上記記憶媒体に記録されているプログラムを読み出して、情報の加工・演算処理を実行することにより、上述のノイズ除去装置と同様の処理を実現させる。ここでコンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等をいう。
【0061】
上記のソフトウェアによる具体的な処理について、図12に示すフローチャートに基づいて以下に説明する。
まず、入力画像信号は、多重解像度変換が行われることにより順次縮小され、複数の縮小画像が生成される(S1)。
次に、各縮小画像は、縮小前の画像サイズに拡大され(S2)、縮小前のそれぞれの画像との減算が行われることにより、ノイズ除去の対象となる帯域画像信号がそれぞれ作成される(S3)。
次に、作成された各帯域画像信号に対してノイズ除去処理が施される(S4)。
そして、ノイズ除去がされた後の各帯域画像信号は再合成され、再合成された画像信号は出力画像信号として出力される(S5)。
【0062】
次にノイズ除去処理(S4)の詳細について主に図13を参照して説明する。ここでは、一例として、上述の処理において作成された複数の帯域画像信号のうち、図1に示される帯域画像信号104のノイズ除去処理について説明する。
まず、ノイズ除去処理では方向判別処理により、エッジの方向が特定される(S11)。この処理では、第1の画像信号107と第2の画像信号108とを用いて第1の参照画像を作成し、この第1の参照画像に基づいてノイズ除去の対象となる帯域画像信号104の方向判別処理が行われる。
次に、方向判別処理の結果が示すエッジの方向に基づきフィルタ係数等が決定され、ノイズ除去の対象となる帯域画像信号104に対してフィルタ処理が施される(S12)。
次に、フィルタ処理が施された帯域画像信号に対して、微小信号をゼロにするようなコアリング処理が行われ、ノイズ除去がされた帯域画像信号106として出力される(S13)。
【0063】
なお、上記の例において、多重解像度変換の一段目の処理において作成される帯域画像信号104について説明したが、多重解像度変換の二段目以降の処理において作成される各帯域画像信号においても同様の処理が行われる。
さらに、上記において、第1の実施形態に対応するノイズ除去方法について説明したが、他の実施形態についても同様に、ソフトウェアにて処理することが可能である。
【図面の簡単な説明】
【0064】
【図1】本発明の第1の実施形態に係るノイズ除去装置が備える機能を展開して示した機能ブロック図である。
【図2】図1に示すノイズ除去装置のNR処理部の機能ブロック図である。
【図3】図2に示す方向判別処理部の動作を説明する図である。
【図4】図2に示す方向判別処理部の動作を説明する図である。
【図5】本発明の第2の実施形態に係る方向判別処理部の動作を説明する図である。
【図6】本発明の第3の実施形態に係るノイズ除去装置が備える機能を展開して示した機能ブロック図である。
【図7】図6に示すノイズ除去装置のNR処理部の機能ブロック図である。
【図8】図7に示す方向判別処理部の動作を説明する図である。
【図9】本発明の第4の実施形態に係る方向判別処理部の動作を説明する図である。
【図10】本発明の第5の実施形態に係る撮像システムの概略構成図である。
【図11】第1の参照画像の生成方法の条件を示す条件設定表である。
【図12】本発明に係るノイズ除去方法のフローチャートである。
【図13】図12におけるノイズ除去処理のフローチャートである。
【図14】従来のノイズ除去装置を示す機能ブロック図である。
【符号の説明】
【0065】
100 入力画像
101,110,118 フィルタ処理・縮小処理部
104 帯域画像信号
105,113,121,300,301,302 NR処理部
107,114,122 第1の画像信号
108,115,123 第2の画像信号
200,400 方向判別処理部
202 方向性フィルタ処理部
【技術分野】
【0001】
本発明は画像処理に関し、特に画像のノイズを除去するノイズ除去装置並びにプログラムおよび方法に関するものである。
【背景技術】
【0002】
画像信号に含まれるノイズ信号を除去するノイズ除去装置においては、ローパスフィルタによる平滑化処理が広く行われている。しかし、ローパスフィルタによる平滑化処理によりノイズを低減させようとすると、画像信号に含まれるエッジ成分にも平滑化がかかるため、画像の鮮鋭度が低下してしまうという問題がある。
【0003】
この問題に対処する方法として、特許文献1では画像に含まれるエッジ成分の方向を検出し、当該方向に沿った平滑化処理を適用することで、画像の鮮鋭度を低下させることなくノイズを低減する方式が示されている。また、特許文献2においては、エッジ成分の方向を検出する際に参照する画像を、原画像ではなく、原画像に対してローパスフィルタ処理を施した画像とすることで、方向判別結果を安定させる方式が示されている。
【0004】
また、多重解像度変換を用いたノイズ除去方法が非特許文献1にて開示されている。これは、画像信号をフィルタバンクやラプラシアンピラミッドの手法を用いて複数の周波数帯域の信号に分割し、それぞれの帯域の信号に対して何らかのノイズ除去処理を施した後、これらを再合成するものであり、分割した帯域それぞれに適した強度のノイズ除去処理を行えるという利点を有する。
【0005】
図14にラプラシアンピラミッドによる多重解像度変換と、それを用いたノイズ除去の一例を示す。図14において、入力画像100は、フィルタ処理・縮小処理部101にてローパスフィルタ処理後に縮小される。この処理により、画像サイズは水平方向、垂直方向共に半分となる。縮小された画像は、次段のフィルタ処理・縮小処理部110に供給され、順次さらに縮小されていく。縮小された画像は、拡大処理部102にて元の画像サイズに拡大された後、減算器103にて差分信号が作成される。
【0006】
この差分信号は、フィルタ処理・縮小処理部101で用いられたローパスフィルタ特性により遮断された高域成分に相当する。この高域成分を多く含む差分信号に対して、NR処理部500にてノイズ除去処理を施す。次段の処理でも同様に、フィルタ処理・縮小処理部110、拡大処理部111、減算器112により、次段に相当する帯域の信号が生成され、これに対してNR処理部501でノイズ除去処理を適用する。このようにして順次の帯域分割された信号に対してノイズ除去処理が適用されることとなる。
【0007】
最も低周波の帯域におけるNR処理部502の出力は、低域側の信号と加算器124で加算され、拡大処理部125によって拡大された後、高域側の処理に送られる。このようにして順次低域側から信号が再合成されていき、最終的に最高域の信号が加算器109により加算されて、出力画像503となる。
【0008】
特許文献3においては、図14におけるNR処理部500、501、502を、特許文献1に類似の方向性を有するフィルタ処理を用いた構成にする方式が示されている。また、方向判別に用いる画像については、特許文献2に示されるようなローパスフィルタ処理を施した画像とするために、多重解像度変換における低域側の画像を用いて方向判別をする方式、あるいは、低域側の画像を用いて方向判別した結果と、注目帯域を含む画像を用いて方向判別した結果を組み合わせる方式が示されている。
【特許文献1】特開昭55−133179号公報
【特許文献2】特開平8−202870号公報
【特許文献3】特開2001−57677号公報
【非特許文献1】Surendra Ranganath, “Image Filtering Using Multiresolution Representations”, IEEE Trans. On Pattern Anal. MachineIntell. , Vol. PAMI-13 No.5, May, 1991
【発明の開示】
【発明が解決しようとする課題】
【0009】
ところが、多重解像度変換と方向性を有するフィルタ処理を組み合わせたノイズ除去装置においては、方向判別に使用する画像を低域側の画像とすると、低域側の画像の解像度が低すぎるために、細かい構造に対応した方向判別結果を得ることができず、ノイズ除去の結果として細かい構造をつぶしてしまうという問題がある。他方、方向判別に使用する画像を、注目帯域を含む画像とすると、ノイズ除去前の画像であることから方向判別結果がノイズの影響を強く受け、所望のノイズ除去結果を得ることができないという問題がある。
【0010】
特許文献2においては、方向判別に使用する参照画像を、原画像に対してローパスフィルタを適用したものとしており、このローパスフィルタの強度を調整することで、上記トレードオフの関係にある問題に対処することが可能である。しかし、多重解像度変換においては、各帯域の画像が既に生成されており、演算規模削減の観点からこれら画像を利用することが望ましく、別途所望の特性によるローパスフィルタ処理をすることは望ましくない。
【0011】
特許文献3においては、低域側の画像を用いた方向判別結果と、注目帯域を含む画像を用いた方向判別結果を組み合わせることで、上記トレードオフの関係にある問題に対処する方式が開示されているが、方向判別処理を2回計算する必要があり、これも演算規模削減の観点から望ましいとはいえない。
【0012】
本発明は、上記問題に鑑みてなされたもので、多重解像度変換と方向性を有するフィルタ処理を組み合わせたノイズ除去装置において、細かい構造に対応した方向判別とノイズの影響を受けない方向判別を両立するとともに、演算規模の縮小を図ることができるノイズ除去装置並びにプログラムおよび方法を提供することを目的とする。
【課題を解決するための手段】
【0013】
上記課題を解決するために、本発明は以下の手段を採用する。
本発明に係るノイズ除去装置は、入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成し、各帯域画像信号に対してそれぞれノイズ除去処理を施すノイズ除去装置であって、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別する方向判別手段と、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去手段と、を備えたことを特徴とする。
【0014】
ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数を含む第1の画像信号には、高域成分が含まれているため、細かい構造のエッジが存在し、これを用いて方向判別をすることにより精度の高い方向判別が可能な反面、高域成分に含まれるノイズの影響を強く受けるという欠点がある。他方、ノイズ除去の対象となる帯域画像信号の周波数帯域よりも低域側の周波数を含む第2の画像信号は、細かい構造のエッジは存在しない反面、ノイズも少ないため安定した方向判別が可能となる。
したがって、本発明のノイズ除去装置によれば、第1の画像信号と第2の画像信号とを用いて、ノイズ除去の対象となる帯域画像信号のエッジ成分の方向を判別することで、細かい構造の変化にも対応しつつ、ノイズに影響されない安定した方向判別を実現することができる。
【0015】
本発明に係るノイズ除去装置は、入入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成し、各帯域画像信号に対してそれぞれノイズ除去処理を施すノイズ除去装置であって、ノイズ除去の対象となる帯域画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別する方向判別手段と、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去手段と、を備えたことを特徴とする。
【0016】
ノイズ除去の対象となる帯域画像信号には、高域成分が含まれているため、細かい構造のエッジが存在し、これを用いて方向判別をすることにより精度の高い方向判別が可能な反面、高域成分に含まれるノイズの影響を強く受けるという欠点がある。他方、ノイズ除去の対象となる帯域画像信号の周波数帯域よりも低域側の周波数を含む第2の画像信号は、細かい構造のエッジは存在しない反面、ノイズも少ないため安定した方向判別が可能となる。
したがって、本発明のノイズ除去装置によれば、ノイズ除去の対象となる帯域画像信号と第2の画像信号とを用いて、ノイズ除去の対象となる帯域画像信号のエッジ成分の方向を判別することで、細かい構造の変化にも対応しつつ、ノイズに影響されない安定した方向判別を実現することができる。
また、ノイズ除去の対象となる帯域画像信号と第2の画像信号とを用いて第1の画像信号を生成するので、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数を含む第1の画像信号を保持する必要がなくなる。これにより、画像保持のために必要とされるメモリ量を削減できる。
【0017】
本発明に係るノイズ除去プログラムは、入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の処理と、各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の処理とをコンピュータに実行させるノイズ除去プログラムであって、前記第2の処理は、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズの除去を行うことを特徴とする。
【0018】
本発明に係るノイズ除去プログラムは、入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の処理と、各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の処理とをコンピュータに実行させるノイズ除去プログラムであって、前記第2の処理は、ノイズ除去の対象となる帯域画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズの除去を行うことを特徴とする。
【0019】
本発明に係る撮像システムは、上記のノイズ除去装置を備えることを特徴とする。
【0020】
本発明の撮像システムによれば、撮像される画像のノイズレベルやユーザの好みに適した画像を得ることが可能となる。
【0021】
本発明に係るノイズ除去方法は、入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の工程と、各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の工程とを有し、前記第2の工程は、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去することを特徴とする。
【0022】
本発明に係るノイズ除去方法は、入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の工程と、各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の工程とを有し、前記第2の工程は、ノイズ除去の対象となる帯域画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去することを特徴とする。
【発明の効果】
【0023】
本発明によれば、細かい構造に対応した方向判別とノイズの影響を受けない方向判別を両立するとともに、演算規模の縮小を図ることが可能となる。
【発明を実施するための最良の形態】
【0024】
[第1の実施形態]
以下に、本発明の第1の実施形態に係るノイズ除去装置並びにプログラムおよび方法について、図面を参照して説明する。
図1は本実施形態に係るノイズ除去装置が備える機能を展開して示した機能ブロック図である。
本実施形態に係るノイズ除去装置は、ラプラシアンピラミッドにより多重解像度変換を施す多重解像度変換部と、各帯域の信号に対してノイズ除去をするNR処理部105,113,121とを備えている。
【0025】
上記多重解像度変換部は、複数段のフィルタ処理・縮小処理部101,110,118と、各フィルタ処理・縮小処理部101,110,118に対応して設けられる拡大処理部102,111,119と、ノイズ除去後の画像を用いて信号を再合成する合成部とを備えている。
このような構成において、入力画像100は、フィルタ処理・縮小処理部101にてローパスフィルタ処理後に縮小される。この処理により、画像サイズは水平方向、垂直方向共に半分となる。縮小された画像は、次段のフィルタ処理・縮小処理部110に供給され、順次さらに縮小されていく。縮小された画像は、NR処理部105に与えられ、NR処理部105によってノイズ除去処理が施される。本実施形態では、ノイズ除去部としてNR処理を施すNR処理部105を一例に挙げて説明するが、この例に限定されない。
【0026】
フィルタ処理・縮小処理部101にて縮小された画像は、拡大処理部102にて元の画像サイズに拡大された後、減算器103へ出力される。減算器103では、入力画像100と拡大処理部102から与えられた画像との減算を行うことによって帯域画像信号104が作成される。この帯域画像信号104は、フィルタ処理・縮小処理部101で用いられたローパスフィルタ特性により遮断された高域部分の信号に相当する。
【0027】
この高域成分を多く含む帯域画像信号104に対して、NR処理部105にてノイズ除去処理を施す。次段の処理でも同様に、フィルタ処理・縮小処理部110、拡大処理部111、減算器112により、次段に相当する帯域画像信号が生成され、これに対してNR処理部113でノイズ除去処理を適用する。このようにして順次の帯域分割された信号に対してノイズ除去処理が適用されることとなる。
【0028】
NR処理部121の出力は、合成部の加算器124によって低域側の信号に加算され、合成部の拡大処理部125によって拡大された後、高域側の処理に送られる。このようにして順次低域側から信号が再合成されていき、最終的に最高域の信号が加算器109により加算されて、出力画像126となる。
【0029】
次にNR処理部105の詳細について説明する。
NR処理部105においては、帯域画像信号104を入力とし、NR処理結果106を出力とする。ここで、NR処理は、方向性を有するフィルタ処理に基づいて行われることを前提とし、その方向の判別のために、第1の画像信号107と第2の画像信号108とを用いて第1の参照画像を作成する。第1の画像信号107は、その周波数成分として帯域画像信号104を含み、かつ、それよりも低域側の信号も含む。第2の画像信号108は、ノイズ除去処理後の低域側の信号である。他の帯域のNR処理部であるNR処理部113、121においても同様に、第1の画像信号114、122と第2の画像信号115、123とを用いてそれぞれ第1の参照画像を作成する。
【0030】
図2にNR処理部105の詳細な内容を示す。
方向判別処理部200は、第1の画像信号107と第2の画像信号108を用いて方向判別を行い、方向判別結果201を方向性フィルタ処理部202に出力する。方向性フィルタ処理部202は帯域画像信号104に対して、方向判別結果201が示すエッジの方向に基づきフィルタ係数、あるいは、フィルタ処理を決定してフィルタ処理を施す。そのフィルタ処理結果に対してコアリング処理部203は、微小信号をゼロにするようなコアリング処理を行い、NR処理結果106とする。ここで、コアリング処理とは、典型的には、入力信号の絶対値が閾値以下の場合にその信号を一律ゼロとし、閾値より大きい場合には絶対値を閾値だけ減じた信号とするような処理である。
なお、他の帯域のNR処理部113やNR処理部121は、NR処理部105と同様の処理を行うので説明を省略する。
【0031】
次に、方向判別処理部200の動作の詳細について、図3を参照して説明する。
ここでは、ある注目画素におけるエッジの方向を判別する際に、注目画素の周囲5×5の画素ブロックを用いる場合を例として説明する。なお、このブロックサイズは必要に応じて7×7等他のサイズにすることも可能である。
【0032】
図3のA00〜A44は、第1の画像信号107における画素ブロックの画素を示し、中心画素A22が注目画素位置に相当する。同じくB00〜B44は、第2の画像信号108における画素ブロックの画素を示し、中心画素B22が注目画素位置に相当する。
本実施形態における方向判別処理においては、これら画素を組み合わせた参照画像の画素ブロックとして、中央の注目画素のみを第1の画像信号107の画素A22を用い、その他の画素は第2の画像信号108の画素を用いるものとする。
【0033】
図4は上述のように組み合わせて生成した参照画像の画素ブロックから方向を判別する様子を示した図である。
本実施形態では判別するエッジの方向を図4のような4方向としている。方向数については必要に応じて8方向等に増やすことも可能である。方向判別においては、方向1から方向4までについて、どれが最もエッジに沿った方向であるかを決定するため、それぞれの方向について評価値を計算する。評価値としては様々な物が考えられるが、本実施形態においては、以下の評価値を使用する。
E1 = | A22−B23 | + | A22−B24 | + | A22−B21 | + | A22−B20 |
E2 = | A22−B13 | + | A22−B04 | + | A22−B31 | + | A22−B40 |
E3 = | A22−B12 | + | A22−B02 | + | A22−B32 | + | A22−B42 |
E4 = | A22−B11 | + | A22−B00 | + | A22−B33 | + | A22−B44 |
【0034】
E1からE4はそれぞれ方向1から方向4に対応した評価値であり、評価する方向においてエッジが存在する場合はこの評価値が大きくなり、エッジが存在しない場合には小さくなる特徴を有する。そこで、E1からE4の中で最小値を検出し、それに対応する方向はエッジが存在しないと判断することで、その方向をエッジに沿った方向と判定する。
【0035】
第1の画像信号107には高域成分が含まれているため、細かい構造のエッジが存在し、これを用いて方向判別をすることにより精度の高い方向判別が可能な反面、高域成分に含まれるノイズの影響を強く受けるという欠点がある。第2の画像信号108はノイズ除去済みの低域成分のみからなる画像であるから、細かい構造のエッジは存在しない反面、ノイズも少ないため安定した方向判別が可能となる。
本実施形態においては、中央の注目画素のみを第1の画像信号107の画素とすることで、細かい構造物の変化にも対応した方向判別を実現すると共に、その他の画素についてはノイズの少ない第2の画像信号108から得ることによって、ノイズに影響されない安定した方向判別を実現することが可能となる。
なお、本実施形態においては中央の1画素のみを第1の画像信号107の画素に置き換えたが、例えば、中央の3×3画素を置き換えの対象とすることも可能であり、このように置き換えの範囲を調整することで、精度の高い方向判別とノイズに強い安定した方向判別というトレードオフの関係を調整することが可能となる。
【0036】
以上説明したように、本実施形態に係るノイズ除去装置によれば、第1の画像信号107と第2の画像信号108とを用いて、ノイズ除去の対象となる帯域画像信号のエッジ成分の方向を判別することで、第1の画像信号107と第2の画像信号108とのトレードオフの関係を調整することができる。これにより、入力画像の細かい構造の変化にも対応しつつ、ノイズに影響されない安定した方向判別を実現できる。
また、第1の画像信号107の画素と第2の画像信号108の画素とを部分的に置き換えるという容易な処理により第1の参照画像を作成するので、少ない演算量や回路規模でのノイズ除去が可能となる。さらに、第1の画像信号107および第2の画像信号108として、多重解像度変換において既に生成されている画像を用いるので、第1の参照画像を更に容易に生成することができる。
また、第2の画像信号108は、ノイズ除去済みの低域成分のみからなる画像信号であるから、より安定した方向判別が可能となる。
【0037】
なお、本実施形態において、第1の画像信号107は、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数からなる画像として説明しているが、この信号に対して何らかのフィルタ処理を加えて加工されていてもよい。
また、第2の画像信号108は、ノイズ除去処理が行われ、かつ、ノイズ除去の対象となる帯域画像信号の周波数帯域よりも低域側の周波数からなる画像として説明しているが、ノイズ除去がなされる前の信号とすることも可能である。例えば、上述した第2の画像信号108に代えて、図1の拡大処理手段102の出力等を採用することとしてもよい。さらに、第2の画像信号108は、ノイズ除去の対象となる帯域画像信号と必ずしも隣接する必要はない。例えば、上述した第2の画像信号108に代えて、拡大処理手段119からの出力画像123を適当な画像サイズに拡大した上で採用することとしてもよい。
【0038】
〔第2の実施形態〕
次に、本発明の第2の実施形態について、図5を用いて説明する。
本実施形態に係るノイズ除去装置並びにプログラムおよび方法が第1の実施形態と異なる点は、第1の画像信号と第2の画像信号を所定の比率により重み付き平均化処理をして第1の参照画像を生成する点である。以下、本実施形態に係るノイズ除去装置について、第1の実施形態と共通する点については説明を省略し、異なる点について主に説明する。
【0039】
第2の実施形態においては、第1の実施形態における方向判別処理部200の動作を変更する。この点につき、図5を参照しながら説明する。
第1の実施形態においては、第1の画像信号107の画素ブロックと第2の画像信号108の画素ブロックにおいて、どちらかの画素を選択して方向判別に使用する画素ブロックを構成することにより、精度の高い方向判別とノイズに強い安定した方向判別を両立する上でのトレードオフの関係を調整していた。一方、第2の実施形態においては、これら画素から新たな画素値を計算して、方向判別に使用する参照画像の画素ブロックを構成する。
【0040】
図5におけるC00からC44は、方向判別に使用する参照画像の画素であり、これらは第1の画像信号107の画素値と第2の画像信号108の画素値との重みづけ平均値として、以下の(1)式により算出する。
Cij = wij * Aij + (1−wij) * Bij(i,j = 0, … ,4)・・・(1)
ここでwijは重みであり、1に近づけば第1の画像信号107が優先されることにより、精度の高い方向判別が優先され、0に近づけば第2の画像信号108が優先されることにより、ノイズに強い安定した方向判別が優先されることとなる。この重みwijは、画素ブロックの位置によっても異なる値とすることができる。例えば、これにより中心部に近い部分はwijを1に近い値として、周辺部に行くに従って0に近い値とすることにより、第1の実施形態のような構成に近づけることも可能となる。
【0041】
本実施形態においては、第1の画像信号107と第2の画像信号108から新たな画素ブロックを計算する必要があるため、演算量、あるいは、回路規模が増えるという問題も生ずる。しかし、重みwijを中心部に近い部分のみで値を持ち、周辺部ではゼロと設定することにより、実質的な演算量の増大は抑えることができる。また、方向判別の方向数が多い場合等を想定すると、評価値の計算に多くの演算量が必要とされるため、第1の画像信号107からなる画素ブロックと第2の画像信号108からなる画素ブロックのそれぞれについて方向判別を行う場合に比べて、演算量や回路規模の増大は少ないと考えられる。
【0042】
以上のように、本実施形態に係るノイズ除去装置によれば、第1の画像信号107と第2の画像信号108の重み付き平均化処理をすることで、トレ−ドオフの関係にある第1の画像信号107と第2の画像信号108の特性の調整を、より細かく制御することが可能となる。また、第1の画像信号107および第2の画像信号108として、多重解像度変換において既に生成されている画像を用いることによって、より容易に第1の参照画像を生成することができる。さらに、第1の画像信号107と第2の画像信号108の重み付けを変更することによって、入力画像に応じたノイズ除去をより細かく行うことが可能となる。
【0043】
〔第3の実施形態〕
次に、本発明の第3の実施形態について、図6を用いて説明する。
本実施形態に係るノイズ除去装置並びにプログラムおよび方法が前述の各実施形態と異なる点は、エッジ成分の方向判別する際に使用する画像信号である。以下、本実施形態のノイズ除去装置について、前述の各実施形態と共通する点については説明を省略し、異なる点について主に説明する。
【0044】
図6は、本実施形態に係るノイズ除去装置が備える機能を展開して示した機能ブロック図である。
第1の実施形態においては、NR処理部が方向判別のために使用する画像は、高域成分を含む第1の画像信号107と、低域成分からなる画像である第2の画像信号108であった。一方、第3の実施形態においては、これを帯域画像信号104と、低域成分からなる第2の画像信号108とする。以下、このように構成する趣旨について説明する。
【0045】
第1の実施形態において、第1の画像信号107から、フィルタ処理・縮小処理部101、拡大処理部102を経て減算器103で減算して得られた帯域成分が帯域画像信号104なのであるから、低域画像に対して帯域画像信号104を加算すれば、第1の画像信号107が得られることとなる。ここでいう低域画像とは、次段以降のNR処理部によりノイズ除去処理が行われた低域画像である第2の画像信号108とは、厳密には異なるものであるが、概ね近似できると考えられる。したがって、第2の画像信号108と帯域画像信号104を適宜加算することにより、高域成分を含んだ画像が生成できることとなり、これを用いて方向判別を行えば、細かい構造に沿った方向判別も可能となる。そして、NR処理部300に入力する画像信号として第1の画像信号107が不要となるから、この分画像を保持するために必要とされるメモリ量を削減できるという利点がある。
【0046】
図7にNR処理部300の詳細な内容を示す。第1の実施形態と異なり、方向判別処理部400は帯域画像信号104と低域成分からなる第2の画像信号108を用いて方向判別を行う。この動作の詳細について図8を参照しながら説明する。
図8中のD00からD44は、帯域画像信号104の各値であり、中心値D22が注目画素位置に相当する。同じくB00〜B44は、第2の画像信号108における画素ブロックの画素を示し、中心画素B22が注目画素位置に相当する。本実施形態における方向判別処理においては、これらを組み合わせた画素ブロックとして、中央の注目画素のみを帯域画像信号104と第2の画像信号108を加算した画素値であるE22とし、その他の画素は第2の画像信号108の画素を用いるものとする。
【0047】
前述の通り、E22には高域成分が含まれることとなるため、中央の注目画素のみをこれと置き換えることにより、細かい構造の変化にも対応した方向判別を実現すると共に、その他の画素についてはノイズの少ない第2の画像信号108から得ることによって、ノイズに影響されない安定した方向判別を実現することが可能となる。
本実施形態においては中央の1画素のみを置き換えたが、例えば、中央の3×3画素について加算演算をした上で置き換えの対象とすることも可能であり、このように置き換えの範囲を調整することで、精度の高い方向判別とノイズに強い安定した方向判別を両立する上でのトレードオフの関係を調整することが可能となる。
【0048】
以上のように、本実施形態に係るノイズ除去装置によれば、ノイズ除去の対象となる帯域画像信号104と第2の画像信号108とを用いてノイズ除去処理を行うので、第1の実施形態のように第1の画像信号107を保持する必要がなくなる。これにより、画像保持のために必要とされるメモリ量を削減できる。
【0049】
〔第4の実施形態〕
次に、本発明の第4の実施形態について、図9を用いて説明する。
本実施形態に係るノイズ除去装置並びにプログラムおよび方法が第3の実施形態と異なる点は、ノイズ除去の対象となる帯域画像信号に所定の比率を乗じて得られる画像と前記第2の画像信号とを加算して得られる画像を用いて第2の参照画像を生成する点である。以下、本実施形態のノイズ除去装置について、第3の実施形態と共通する点については説明を省略し、異なる点について主に説明する。
【0050】
本実施形態においては、第3の実施形態における方向判別処理部400の動作を変更する。この点につき、図9を参照しながら説明する。
本実施形態においては、ノイズ除去の対象となる帯域画像信号104と第2の画像信号108の重み付き加算をして方向判別に使用する画素ブロックを構成する。図9におけるF00からF44は、方向判別に使用する画素であり、これらは帯域画像信号104に所定のゲインを乗じた信号と、第2の画像信号108の画素値の和として、以下の(2)式により算出する。
Fij = Bij + wij * Dij(i,j = 0, … ,4)・・・(2)
ここでwijは重みであり、wijが1の場合には第3の実施形態と同様に単純な加算となり、方向判別に高域成分を含む画像を使用することとなる。0の場合には、高域成分は含まれないこととなり、低域成分のみから方向判別がなされる。1より大きくした場合には、高域成分を強調した画像により方向判別をすることとなり、より細かい構造を考慮した方向判別が行われる反面、ノイズに対して安定性が低下することとなる。この重みwijは、画素ブロック内の位置によっても異なる値とすることができる。例えば、これにより中心部に近い部分は1に近い値をとり、周辺部に行くに従って0に近い値とすることにより、第3の実施形態のような構成に近づけることも可能となる。
【0051】
以上のように、本実施形態に係るノイズ除去装置によれば、第3の実施形態と同様に第1の画像信号107を保持する必要がない他、トレードオフの関係にある帯域画像信号104と第2の画像信号108の特性の調整を、より細かく制御することが可能となる。また、帯域画像信号104および第2の画像信号108として、多重解像度変換において既に生成されている画像を用いることによって、より簡易に第2の参照画像を生成することができる。さらに、重み付けを変更することによって、入力画像に応じたノイズ除去をより細かく行うことが可能となる。
【0052】
〔第5の実施形態〕
次に、本発明の第5の実施形態について、図10を用いて説明する。
本実施形態は、前述の各実施形態において説明したノイズ除去装置をデジタルカメラ等の撮像システムに組み込んだ形態である。以下に、本実施形態に係る撮像システムついて主に図10を参照して説明する。なお、前述の各実施形態と共通する点については説明を省略し、異なる点について主に説明する。
【0053】
本実施形態に係る撮像システムは、レンズ系500と、CCD501と、画像処理部502と、ノイズ除去部503と、画像圧縮部504と、記録メディア505と、ノイズ除去条件設定部506と、ノイズ除去パラメータ設定部507とを主な構成要素として備えている。
【0054】
レンズ系500を通してCCD501で撮像された画像信号は、画像処理部502においてホワイトバランス処理やエッジ強調処理、色信号処理等が施された後、ノイズ除去部503においてノイズ除去がなされる。ノイズが除去された画像信号は、画像圧縮部504でJPEG形式等に圧縮された後、メモリーカード等の記録メディア505に保存される。ノイズ除去部503は、前述の各実施形態において説明したノイズ除去装置を適用したものである。
【0055】
ノイズの除去にあたっては、画像処理部502が出力する画像信号をRGB信号からなる画像とし、ノイズ除去部503において3面からなるRGB画像に対して個別にノイズ除去処理をしてもよいし、画像処理部502が出力する信号をYCbCrとして、ノイズ除去部503において3面からなるYCbCr画像に対して個別にノイズ除去処理をしてもよい。さらには、画像処理部502はRGB信号を出力し、ノイズ除去部503内でRGB信号をYCbCr信号等に変換した後に、3面からなるYCbCr画像に対して個別にノイズ除去処理をしてもよい。また、ノイズ除去部503と画像処理部502は本実施形態のように分離する必要はなく、例えば、画像処理部502のエッジ強調処理とノイズ除去部503の処理順序を入れ替えることも可能である。また、ノイズ除去部503は、上述したいずれかの実施形態に係るノイズ除去装置が備える機能を有している。
【0056】
ノイズ除去部503の動作は、ノイズ除去パラメータ設定部507により制御される。ノイズ除去パラメータ設定部507には、ノイズ除去パラメータとして、必要とされるノイズ除去の強度に応じた複数のパラメータ候補が工場出荷時に記憶されている。ノイズ除去パラメータ設定部507は、ユーザのノイズ除去強度に関する設定値や、ノイズ除去条件設定部506からのISO感度情報等に基づいてノイズ除去の強度を決定し、当該複数のパラメータ候補から適当なパラメータを選択してノイズ除去部503のノイズ除去動作を制御する。
【0057】
このノイズ除去に関するパラメータの中には、本発明に関する構成の選択等も含まれることとしてもよい。例えば、第1の実施形態に対応するノイズ除去方法をノイズ除去部503に適用した場合、以下のようなパラメータを候補として、ノイズ除去パラメータ設定部507に記憶させてもよい。
第1の実施形態においては方向判別に使用する参照画像を、高周波成分を含む第1の画像信号107と低周波成分からなる第2の画像信号108の組み合わせにより生成していた。この組み合わせに関する選択として、注目画素位置のみ第1の画像信号107の画素とするのか、注目画素の周辺3×3画素とするのか、あるいは全てを第1の画像信号107、あるいは、第2の画像信号108とするのかというような選択がありうる。この選択により、細かい構造の変化にも対応した方向判別と、ノイズに影響されない安定した方向判別のバランスが決定される。したがって、図11に示すように、パラメータ候補として上述のような参照画像の生成方法を複数設定しておき、予め設定された条件に基づいて第1の参照画像を生成してもよい。ノイズ除去パラメータ設定部507は、適当な構成をユーザ設定やISO感度情報等から選択し、ノイズ除去部503を制御する。
【0058】
なお、多重解像度の各帯域における設定は同一である必要はなく、高域における設定と低域における設定が異なっていても良い。例えば、各帯域画像信号について図11に示す条件を予め設定しておき、該条件に基づいて第1の参照画像を生成しても良い。
また、ノイズのレベルによって多重解像度変換の縮小回数を予め設定しておき、入力画像信号のノイズの大きさに応じて多重解像度変換の縮小回数を決定してもよい。
さらに、ノイズ除去部503は、前述の各実施形態のどれか一つを選択するのではなく、パラメータによりいずれの実施形態に係るノイズ除去方法を選択することとしてもよい。例えば、撮像条件(ISO感度等)に応じて、多重解像度変換における解像度変換の回数を変化させる。
【0059】
以上のように、少なくともいずれかの実施形態に係るノイズ除去方法を採用して、撮像システムを構成することにより、入力画像の細かい構造の変化にも対応しつつ、ノイズに影響されない安定した方向判別を実現することができる。また、この構成をユーザ設定やISO感度情報等により適宜変更することにより、撮像される画像のノイズレベルやユーザの好みに適した画像を得ることが可能な撮像システムとすることが可能となる。
【0060】
なお、上述した各実施形態では、ノイズ除去装置としてハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。例えば、別途ソフトウェアにて処理する構成も可能である。この場合、ノイズ除去装置は、CPU、RAM等の主記憶装置、上記処理の全て或いは一部を実現させるためのプログラムが記録されたコンピュータ読み取り可能な記録媒体を備えている。そして、CPUが上記記憶媒体に記録されているプログラムを読み出して、情報の加工・演算処理を実行することにより、上述のノイズ除去装置と同様の処理を実現させる。ここでコンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等をいう。
【0061】
上記のソフトウェアによる具体的な処理について、図12に示すフローチャートに基づいて以下に説明する。
まず、入力画像信号は、多重解像度変換が行われることにより順次縮小され、複数の縮小画像が生成される(S1)。
次に、各縮小画像は、縮小前の画像サイズに拡大され(S2)、縮小前のそれぞれの画像との減算が行われることにより、ノイズ除去の対象となる帯域画像信号がそれぞれ作成される(S3)。
次に、作成された各帯域画像信号に対してノイズ除去処理が施される(S4)。
そして、ノイズ除去がされた後の各帯域画像信号は再合成され、再合成された画像信号は出力画像信号として出力される(S5)。
【0062】
次にノイズ除去処理(S4)の詳細について主に図13を参照して説明する。ここでは、一例として、上述の処理において作成された複数の帯域画像信号のうち、図1に示される帯域画像信号104のノイズ除去処理について説明する。
まず、ノイズ除去処理では方向判別処理により、エッジの方向が特定される(S11)。この処理では、第1の画像信号107と第2の画像信号108とを用いて第1の参照画像を作成し、この第1の参照画像に基づいてノイズ除去の対象となる帯域画像信号104の方向判別処理が行われる。
次に、方向判別処理の結果が示すエッジの方向に基づきフィルタ係数等が決定され、ノイズ除去の対象となる帯域画像信号104に対してフィルタ処理が施される(S12)。
次に、フィルタ処理が施された帯域画像信号に対して、微小信号をゼロにするようなコアリング処理が行われ、ノイズ除去がされた帯域画像信号106として出力される(S13)。
【0063】
なお、上記の例において、多重解像度変換の一段目の処理において作成される帯域画像信号104について説明したが、多重解像度変換の二段目以降の処理において作成される各帯域画像信号においても同様の処理が行われる。
さらに、上記において、第1の実施形態に対応するノイズ除去方法について説明したが、他の実施形態についても同様に、ソフトウェアにて処理することが可能である。
【図面の簡単な説明】
【0064】
【図1】本発明の第1の実施形態に係るノイズ除去装置が備える機能を展開して示した機能ブロック図である。
【図2】図1に示すノイズ除去装置のNR処理部の機能ブロック図である。
【図3】図2に示す方向判別処理部の動作を説明する図である。
【図4】図2に示す方向判別処理部の動作を説明する図である。
【図5】本発明の第2の実施形態に係る方向判別処理部の動作を説明する図である。
【図6】本発明の第3の実施形態に係るノイズ除去装置が備える機能を展開して示した機能ブロック図である。
【図7】図6に示すノイズ除去装置のNR処理部の機能ブロック図である。
【図8】図7に示す方向判別処理部の動作を説明する図である。
【図9】本発明の第4の実施形態に係る方向判別処理部の動作を説明する図である。
【図10】本発明の第5の実施形態に係る撮像システムの概略構成図である。
【図11】第1の参照画像の生成方法の条件を示す条件設定表である。
【図12】本発明に係るノイズ除去方法のフローチャートである。
【図13】図12におけるノイズ除去処理のフローチャートである。
【図14】従来のノイズ除去装置を示す機能ブロック図である。
【符号の説明】
【0065】
100 入力画像
101,110,118 フィルタ処理・縮小処理部
104 帯域画像信号
105,113,121,300,301,302 NR処理部
107,114,122 第1の画像信号
108,115,123 第2の画像信号
200,400 方向判別処理部
202 方向性フィルタ処理部
【特許請求の範囲】
【請求項1】
入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成し、各帯域画像信号に対してそれぞれノイズ除去処理を施すノイズ除去装置であって、
ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別する方向判別手段と、
前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去手段と、
を備えたことを特徴とするノイズ除去装置。
【請求項2】
前記方向判別手段は、
前記第1の画像信号から取得する注目画素位置の画素値と、前記第2の画像信号から取得するそのほかの画素位置の画素値とを用いて前記帯域画像信号のエッジ成分の方向を判別することを特徴とする請求項1に記載のノイズ除去装置。
【請求項3】
前記方向判別手段は、
前記第1の画像信号から取得する注目画素位置およびその周辺の所定範囲の画素位置の画素値と、前記第2の画像信号から取得するそのほかの画素位置の画素値とを用いて前記帯域画像信号のエッジ成分の方向を判別することを特徴とする請求項1に記載のノイズ除去装置。
【請求項4】
前記方向判別手段は、
前記第1の画像信号と前記第2の画像信号との加重平均を行うことで算出した画像信号を用いて前記帯域画像信号のエッジ成分の方向を判別することを特徴とする請求項1に記載のノイズ除去装置。
【請求項5】
入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成し、各帯域画像信号に対してそれぞれノイズ除去処理を施すノイズ除去装置であって、
ノイズ除去の対象となる帯域画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別する方向判別手段と、
前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去手段と、
を備えたことを特徴とするノイズ除去装置。
【請求項6】
前記方向判別手段は、
ノイズ除去の対象となる帯域画像信号から取得する注目画素位置の画素値と、前記第2の画像信号から取得するそのほかの画素位置の画素値とを用いて前記帯域画像信号のエッジ成分の方向を判別することを特徴とする請求項5に記載のノイズ除去装置。
【請求項7】
前記方向判別手段は、
ノイズ除去の対象となる帯域画像信号から取得する注目画素位置およびその周辺の所定範囲の画素位置の画素値と、前記第2の画像信号から取得するそのほかの画素位置の画素値とを用いて前記帯域画像信号のエッジ成分の方向を判別することを特徴とする請求項5に記載のノイズ除去装置。
【請求項8】
前記方向判別手段は、
ノイズ除去の対象となる帯域画像信号と前記第2の画像信号との加重平均を行うことで算出した画像信号を用いて前記帯域画像信号のエッジ成分の方向を判別することを特徴とする請求項5に記載のノイズ除去装置。
【請求項9】
前記加重平均の比率は変更可能とされている請求項4または8に記載のノイズ除去装置。
【請求項10】
前記第2の画像信号は、ノイズ除去の対象となる帯域画像信号の周波数帯域よりも低域側の帯域の帯域画像信号に対してノイズ除去処理が行われた信号に基づいて生成された画像信号であることを特徴とする請求項1から9のいずれかに記載のノイズ除去装置。
【請求項11】
入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の処理と、
各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の処理と
をコンピュータに実行させるノイズ除去プログラムであって、
前記第2の処理は、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズの除去を行うノイズ除去プログラム。
【請求項12】
入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の処理と、
各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の処理と
をコンピュータに実行させるノイズ除去プログラムであって、
前記第2の処理は、ノイズ除去の対象となる帯域画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズの除去を行うノイズ除去プログラム。
【請求項13】
請求項1から10のいずれかに記載のノイズ除去装置を備える撮像システム。
【請求項14】
入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の工程と、
各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の工程と
を有し、
前記第2の工程は、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去方法。
【請求項15】
入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の工程と、
各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の工程と
を有し、
前記第2の工程は、ノイズ除去の対象となる帯域画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去方法。
【請求項1】
入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成し、各帯域画像信号に対してそれぞれノイズ除去処理を施すノイズ除去装置であって、
ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別する方向判別手段と、
前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去手段と、
を備えたことを特徴とするノイズ除去装置。
【請求項2】
前記方向判別手段は、
前記第1の画像信号から取得する注目画素位置の画素値と、前記第2の画像信号から取得するそのほかの画素位置の画素値とを用いて前記帯域画像信号のエッジ成分の方向を判別することを特徴とする請求項1に記載のノイズ除去装置。
【請求項3】
前記方向判別手段は、
前記第1の画像信号から取得する注目画素位置およびその周辺の所定範囲の画素位置の画素値と、前記第2の画像信号から取得するそのほかの画素位置の画素値とを用いて前記帯域画像信号のエッジ成分の方向を判別することを特徴とする請求項1に記載のノイズ除去装置。
【請求項4】
前記方向判別手段は、
前記第1の画像信号と前記第2の画像信号との加重平均を行うことで算出した画像信号を用いて前記帯域画像信号のエッジ成分の方向を判別することを特徴とする請求項1に記載のノイズ除去装置。
【請求項5】
入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成し、各帯域画像信号に対してそれぞれノイズ除去処理を施すノイズ除去装置であって、
ノイズ除去の対象となる帯域画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別する方向判別手段と、
前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去手段と、
を備えたことを特徴とするノイズ除去装置。
【請求項6】
前記方向判別手段は、
ノイズ除去の対象となる帯域画像信号から取得する注目画素位置の画素値と、前記第2の画像信号から取得するそのほかの画素位置の画素値とを用いて前記帯域画像信号のエッジ成分の方向を判別することを特徴とする請求項5に記載のノイズ除去装置。
【請求項7】
前記方向判別手段は、
ノイズ除去の対象となる帯域画像信号から取得する注目画素位置およびその周辺の所定範囲の画素位置の画素値と、前記第2の画像信号から取得するそのほかの画素位置の画素値とを用いて前記帯域画像信号のエッジ成分の方向を判別することを特徴とする請求項5に記載のノイズ除去装置。
【請求項8】
前記方向判別手段は、
ノイズ除去の対象となる帯域画像信号と前記第2の画像信号との加重平均を行うことで算出した画像信号を用いて前記帯域画像信号のエッジ成分の方向を判別することを特徴とする請求項5に記載のノイズ除去装置。
【請求項9】
前記加重平均の比率は変更可能とされている請求項4または8に記載のノイズ除去装置。
【請求項10】
前記第2の画像信号は、ノイズ除去の対象となる帯域画像信号の周波数帯域よりも低域側の帯域の帯域画像信号に対してノイズ除去処理が行われた信号に基づいて生成された画像信号であることを特徴とする請求項1から9のいずれかに記載のノイズ除去装置。
【請求項11】
入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の処理と、
各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の処理と
をコンピュータに実行させるノイズ除去プログラムであって、
前記第2の処理は、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズの除去を行うノイズ除去プログラム。
【請求項12】
入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の処理と、
各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の処理と
をコンピュータに実行させるノイズ除去プログラムであって、
前記第2の処理は、ノイズ除去の対象となる帯域画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズの除去を行うノイズ除去プログラム。
【請求項13】
請求項1から10のいずれかに記載のノイズ除去装置を備える撮像システム。
【請求項14】
入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の工程と、
各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の工程と
を有し、
前記第2の工程は、ノイズ除去の対象となる帯域画像信号の周波数帯域および該周波数帯域よりも低域側の周波数の情報を含む第1の画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去方法。
【請求項15】
入力画像信号を多重解像度変換することによって、互いに異なる周波数帯域を有する複数の帯域画像信号を作成する第1の工程と、
各帯域画像信号に対してそれぞれノイズ除去処理を施す第2の工程と
を有し、
前記第2の工程は、ノイズ除去の対象となる帯域画像信号と、該帯域画像信号の周波数帯域よりも低域側の周波数の情報を含む第2の画像信号とを用いて、該帯域画像信号のエッジ成分の方向を判別し、前記エッジ成分の方向に応じて、該帯域画像信号のノイズを除去するノイズ除去方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2008−293424(P2008−293424A)
【公開日】平成20年12月4日(2008.12.4)
【国際特許分類】
【出願番号】特願2007−140674(P2007−140674)
【出願日】平成19年5月28日(2007.5.28)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
【公開日】平成20年12月4日(2008.12.4)
【国際特許分類】
【出願日】平成19年5月28日(2007.5.28)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
[ Back to top ]