画像処理装置
【課題】後処理装置の周波数特性の変化に対応すると共に、適切なノイズ低減と画像細部の保持の両立が可能な画像処理装置の提供。
【解決手段】レンズ系100、CCD101を介して撮影された画像は、A/D102においてデジタル信号に変換され、バッファ103に記憶される。バッファ103の出力は、ノイズ低減処理部104、エッジ強調処理部107、信号処理部105を順次介して、出力部106に接続されている。ノイズ低減処理部104は、バッファ103から読み出した画像信号を、複数の周波数成分に分解し、分解した各成分に変換処理を施した後、再合成し、ノイズを低減する。
【解決手段】レンズ系100、CCD101を介して撮影された画像は、A/D102においてデジタル信号に変換され、バッファ103に記憶される。バッファ103の出力は、ノイズ低減処理部104、エッジ強調処理部107、信号処理部105を順次介して、出力部106に接続されている。ノイズ低減処理部104は、バッファ103から読み出した画像信号を、複数の周波数成分に分解し、分解した各成分に変換処理を施した後、再合成し、ノイズを低減する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、処理対象画像を複数の周波数成分に分解し、分解された周波数成分に対してノイズ低減等の画像処理を行う画像処理装置に関するものである。
【背景技術】
【0002】
画像処理装置においては、画像の劣化を防止するためにノイズ低減等の処理が行われている。例えば特許文献1に示されているように、画像入力媒体のノイズ特性に基づいて,
平滑化フィルタのサイズを変更して、画像に平滑化処理を行っていた。これにより、画像の劣化を防止し、処理の高速化を図っている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2000−69291号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記特許文献1に記載の従来技術は、次のような問題があった。(1)画像入力媒体のノイズ特性に基づいて平滑化処理の特性を変えているため、出力媒体や後処理装置の周波数特性の変化に対応して、変換処理の周波数特性を変えるという点について対応することができない。(2)ノイズ特性に基づいて、平滑化フィルタのサイズを変更して、画像に平滑化処理を行っていた。このため、複数のフィルタという点について対応することができない。
【0005】
本発明は、従来技術のこのような問題点に鑑みてなされたものであり、前記(1)、(2)の問題を解決して、後処理装置の周波数特性の変化に対応すると共に、適切なノイズ低減と画像細部の保持の両立が可能な画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
(1).上記目的を達成するために、第1の構成にかかる画像処理装置は、入力信号を低周波成分と少なくとも一つの高周波成分に分割する周波数分割手段と、前記高周波成分に対して変換処理を行う高周波成分変換手段と、前記低周波成分と前記変換処理された高周波成分とを合成する周波数合成手段と、出力信号に求められる周波数特性を設定する周波数特性設定手段と、前記周波数合成手段の出力信号に対して、さらに変換処理を行って、出力信号の周波数特性を、前記周波数特性設定手段で設定された周波数特性に調整する周波数特性調整手段と、周波数特性設定手段において設定される周波数特性に応じて、周波数分割手段における分割特性を設定する周波数分割特性設定手段と、を有することを特徴とする。
【0007】
(1)の構成に関する実施形態は、図1〜図10に示された第1の実施形態が対応する。(1)の構成において、周波数分割手段は、図2に示された低周波抽出部200、高周波抽出部201が該当する。周波数成分変換手段は、図2に示された高周波変換部202が該当する。周波数合成手段は、図2に示された合成部209が該当する。周波数特性設定手段は、図1、図2に示されたエッジ強調パラメータ設定部108が該当する。周波数特性調整手段は、図1、図2に示されたエッジ強調処理部107が該当する。周波数分割特性設定手段は、図2に示されたLPFフィルタ係数設定部222とHPFフィルタ係数設定部221が該当する。
【0008】
(1)の構成は、周波数特性設定手段により設定された周波数特性に応じて、周波数分割特性設定手段が周波数分割特性を設定する。周波数特性調整手段における周波数特性の調整に応じて、周波数分割手段における周波数の分割方法が変更される。この構成によれば、任意の周波数特性の調整を行っても、特定の周波数成分に対して意図しない調整が行われることを防止できるため、アーティファクトの発生が防止できる。
【0009】
(2)の構成は、前記(1)の構成の前記周波数特性調整手段は、前記周波数合成手段の出力信号から所定の周波数成分を抽出する所定周波数成分抽出手段と、前記所定周波数成分抽出手段により抽出された前記所定の周波数成分に所定の強調処理を行う所定周波数成分強調手段と、前記所定周波数成分強調手段により前記所定の強調処理が行われた前記所定の周波数成分、および前記周波数合成手段の出力信号を合成する所定周波数成分合成手段と、からなることを特徴とする。
【0010】
(2)の構成に関する実施形態は、図2に示されている第1の実施形態が対応する。(2)の構成において、所定周波数成分抽出手段はエッジ抽出部211が、所定周波数成分強調手段はエッジ強調部212が、所定周波数成分合成手段はエッジ加算部213がそれぞれ該当する。(2)の構成は、所定周波数成分強調手段により、強調係数を変えるような所定の強調処理が行われた所定の周波数成分と、(1)の構成の周波数合成手段の出力信号、すなわち低周波成分とを所定周波数成分合成手段で合成する。この構成によれば、鮮鋭感の調整が行われ、エッジ強調された画像信号が得られる。
【0011】
(3)の構成は、前記(1)の構成において、前記周波数特性調整手段は、前記周波数合成手段の出力信号から所定の低周波成分を抽出する低周波成分抽出手段をさらに有し、前記所定周波数成分合成手段が、前記所定周波数成分強調手段により前記所定の強調処理が行われた前記所定の周波数成分と前記所定の低周波成分を合成することを特徴とする。
【0012】
(3)の構成に関する実施形態は、図2に示されている第1の実施形態が対応する。(3)の構成において、低周波成分抽出手段は画素補間部210が該当する。(3)の構成は、低周波成分抽出手段で処理ブロックの領域中心のG画素を生成し、(2)の構成で所定の強調処理が行われた所定の周波数成分と所定周波数成分合成手段で合成される。この構成によれば、エッジ成分に変換処理を行って低周波成分に加算混合することにより、画像信号の鮮鋭感を調整することができる。
【0013】
(4)の構成は、前記(1)の構成の前記高周波成分変換手段が、前記高周波成分のうち、所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段と、からなることを特徴とする。
【0014】
(4)の構成に関する実施形態は、図2に示されている第1の実施形態が対応する。(4)の構成において、高周波成分変換手段が、所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段とを有することは、図10の特性の処理を行うことが該当する。この構成によれば、例えば、45度斜め高周波成分、135度斜め高周波成分、水平垂直高周波成分、残余高周波成分のような各高周波成分のうち、閾値よりも小さい振幅の成分を削除することによりノイズを低減することができる。
【0015】
(5)の構成は、前記(1)の構成において、前記周波数特性設定手段が、前記所定周波数成分抽出手段を構成する所定周波数抽出フィルタの係数、もしくは、前記所定の強調処理の強調量、または、その両方を設定することを特徴とする。
【0016】
(5)の構成の実施形態は、図2に示されている第1の実施形態が対応する。(5)の構成において、所定周波数抽出フィルタの係数設定はBPFフィルタ係数設定部231が、所定の強調処理の強調量設定は強調量設定部232がそれぞれ該当する。この構成によれば、鮮鋭感の調整に応じて、エッジ強調処理バンドパスフィルタの周波数特性が変更された場合には、ノイズ低減処理の低周波抽出フィルタの周波数特性も変更する。このように周波数特性を変更することにより、ノイズ低減処理の低周波抽出フィルタの周波数特性と、エッジ強調処理のバンドパスフィルタの周波数特性に重なり部分が少なくなるようにして、残留したノイズ成分が強調されることによる画質の劣化を防止することができる。
【0017】
(6)の構成は、前記(1)の構成の前記周波数分割特性設定手段は、前記周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定することを特徴とする。
【0018】
(6)の構成の実施形態は、図2に示されている第1の実施形態が対応する。周波数分割特性設定手段であるLPFフィルタ係数設定部222は、図5または図6に示されているような低周波抽出フィルタの係数を設定する。また、周波数分割特性設定手段であるHPFフィルタ係数設定部221は、図4に示す高周波抽出フィルタ(H1〜H12)と、図7または図8に示されている残余高周波抽出フィルタの係数を設定する。この構成によれば、所定係数の高周波抽出フィルタで抽出された各高周波成分に変換処理を行うことにより、各高周波成分に含まれているノイズを低減することができる。
【0019】
(7).本発明の実施形態にかかる画像処理装置は、入力信号を低周波成分と少なくとも一つの高周波成分に分割する周波数分割手段と、前記高周波成分に対して変換処理を行う高周波成分変換手段と、前記低周波成分と変換処理された高周波成分とを合成する周波数合成手段と、前記入力信号のノイズ特性を推定するノイズ特性推定手段と、前記ノイズ特性推定手段における推定結果に応じて、周波数分割手段における分割特性を設定する周波数分割特性設定手段と、を有することを特徴とする。
【0020】
(7)の発明に関する実施の形態は、図11〜図24に示された第2と第3の実施形態が対応する。(7)の発明における次の構成は図12に示されている。周波数分割手段は、低周波抽出部200、高周波抽出部201、第二低周波抽出部410、第二高周波抽出部411、が該当する。周波数成分変換手段は、高周波変換部202、高周波閾値算出部451、第二高周波変換部412、第二高周波閾値算出部452が該当する。周波数合成手段は、合成部209、第二合成部409が該当する。ノイズ特性推定手段は、感度設定部404が該当する。周波数分割特性設定手段は、信号選択部403が該当する。なお、周波数分割特性設定手段として、図12の信号選択部403に代わる構成の図18の重み付け加算部500が該当する。
【0021】
(7)の発明は、ノイズ特性推定手段により推定されたノイズ特性に応じて、周波数分割特性設定手段が周波数分割特性を設定する。ノイズ特性に応じて、周波数分割手段における周波数の分割方法が変更される。この構成によれば、ノイズ量に応じて、特定の周波数成分に対して意図しない調整が行われることを防止できるため、アーティファクトの発生が防止できる。
【0022】
(8)の発明は、(7)の発明の前記高周波成分変換手段が、前記高周波成分のうち、所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段と、からなることを特徴とする。
【0023】
(8)の発明に関する実施形態は、図12に示されている第2の実施形態が対応する。
所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段を有する高周波成分変換手段は、高周波閾値算出部451、第二高周波閾値算出部452による図10の処理を行う処理手段が該当する。この構成によれば、水平方向、垂直方向、斜め方向の各方向の各高周波成分のうち、閾値よりも小さい振幅の成分を削除することによりノイズを低減することができる。
【0024】
(9)の発明は、(7)の発明のノイズ特性推定手段は、撮像素子の温度または前記入力信号に対するゲインまたは撮影時のシャッター速度のうち少なくとも一つの情報に基づき前記入力信号に含まれるノイズ量を推定するノイズ量推定手段からなることを特徴とする。
【0025】
(9)の発明に関する実施形態は、図12〜図15に示されている第2の実施形態が対応する。図13に示されているエッジ方向適応ノイズ低減処理部401の高周波閾値算出部451、図15に示されているエッジ方向非適応ノイズ低減処理部402の第二高周波閾値算出部452は、それぞれ、撮像素子の温度または前記入力信号に対するゲインまたは撮影時のシャッター速度のうち少なくとも一つの情報に基づき前記入力信号に含まれるノイズ量を推定するノイズ量推定手段806を有している。この構成によれば、撮影感度に応じてノイズ低減処理を制御することにより、撮影感度が低い場合には、画像信号に含まれる本来の構造とノイズ成分を分離して、効果的にノイズ低減を行い、鮮鋭感の向上とノイズの低減を両立することができる。また、撮影感度が高い場合には、アーティファクトの発生を防止することができる。
【0026】
(10)の発明は、(7)の発明のノイズ特性推定手段は、ISO感度、露出情報、ホワイトバランス情報の少なくとも一つ以上の情報に基づき前記ゲインを求めるゲイン算出手段をさらに有することを特徴とする。
【0027】
(10)の発明に関する実施形態は、図12〜図15に示されている第2の実施形態が対応する。図13に示されているエッジ方向適応ノイズ低減処理部401の高周波閾値算出部451、図15に示されているエッジ方向非適応ノイズ低減処理部402の第二高周波閾値算出部452は、それぞれ、ISO感度、露出情報、ホワイトバランス情報の少なくとも一つ以上の情報に基づき前記ゲインを求めるゲイン算出手段をさらに有するノイズ量推定手段806を設けている。この構成によれば、撮影感度に応じてノイズ低減処理を制御することにより、撮影感度が低い場合には、画像信号に含まれる本来の構造とノイズ成分を分離して、効果的にノイズ低減を行い、鮮鋭感の向上とノイズの低減を両立することができる。また、撮影感度が高い場合には、アーティファクトの発生を防止することができる。
【0028】
(11)の発明は、(7)の発明の前記周波数分割特性設定手段が、前記周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定することを特徴とする。
【0029】
(11)の発明に関する実施形態は、図19に示された第3の実施形態が対応する。周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数が、フィルタ係数設定部220によって設定される。この構成によれば、各高周波成分に設定される抽出フィルタ係数が変更されることにより、エッジ方向適応ノイズ低減処理とエッジ方向非適応ノイズ低減処理の切り換えを行うことができる。
【0030】
(12).本発明の第4の実施形態にかかる画像処理装置は、入力信号を低周波成分と少なくとも一つの高周波成分に分割する周波数分割手段と、前記高周波成分に対して変換
処理を行う高周波成分変換手段と、低周波成分と変換処理された高周波成分とを合成する周波数合成手段と、前記入力信号の周波数特性を推定する周波数特性推定手段と、前記周波数特性推定手段における推定結果に応じて、周波数分割手段における分割特性を設定する周波数分割特性設定手段と、を有することを特徴とする。
【0031】
(12)の発明の実施形態は、図25〜図27に示された第4の実施の形態が対応する。(12)の発明の構成において、周波数分割手段は、図26の水平垂直高周波抽出部201、45度斜め高周波抽出部203、135度斜め高周波抽出部205、残余高周波抽出部207、図27の斜め高周波抽出部405、垂直高周波抽出部403、水平高周波抽出部421が該当する。高周波成分変換手段は、図26に示された水平垂直高周波変換処理部202、45度斜め高周波変換処理部204、135度斜め高周波変換処理部206、残余高周波変換処理部208、高周波閾値算出部451、残余高周波閾値算出部900が該当する。また、図27に示された垂直高周波変換部404、斜め高周波変換部406、水平高周波変換処理部422、高周波閾値算出部451が該当する。周波数合成手段は、図26、図27に示された合成部209が該当する。周波数特性推定手段は、図26に示された輝度色差分離部911が該当する。周波数分割特性設定手段は、図26、図27に示されたノイズ低減処理部104、色差ノイズ低減処理部450の低周波抽出フィルタ、各高周波抽出フィルタに対する図2のHPFフィルタ設定部221、LPFフィルタ設定部222が該当する。
【0032】
(12)の発明は、輝度信号の周波数分割特性と色差信号の周波数分割特性が異なっており、輝度信号、および色差信号は、それぞれの信号に適した周波数分割方法で変換処理を行うことができる。
【0033】
(13)の発明は、(12)の発明の前記高周波成分変換手段が、前記高周波成分のうち、所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段と、からなることを特徴とする。
【0034】
(13)の発明の実施形態は、図26、図27に示された第4の実施の形態が対応する。所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段は、図26の水平垂直高周波変換処理部202、45度斜め高周波変換処理部204、135度斜め高周波変換処理部206、残余高周波変換処理部208、図27の斜め高周波変換部406、垂直高周波変換部404、水平高周波変換部422が該当する。また所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段は、図26の高周波閾値算出部451、残余高周波閾値算出部900、図27の高周波閾値算出部451が該当する。(13)の発明は、前記のような閾値処理を行うことにより、高周波成分のノイズ成分を削除することができる。
【0035】
(14)の発明は、(12)の発明の前記周波数特性推定手段は、撮像素子の前面に各画素ごとに設けられている少なくとも二種類の色フィルタの配置情報から前記色フィルタに対応する信号の周波数特性を推定することを特徴とする。
【0036】
(14)の発明の実施形態は、図27に示されている第4の実施形態が対応する。撮像素子の前面に各画素ごとに設けられている少なくとも二種類の色フィルタの配置情報から前記色フィルタに対応する信号の周波数特性を推定することは、輝度色差分離部911の処理が該当する。この構成によれば、輝度信号(G)と色差信号(R−G、B−G)に対して、それぞれの信号に適した周波数分解方法で、ノイズ低減処理を行うことができる。
【0037】
(15)の発明は、(12)の発明の前記周波数特性推定手段が、色信号の種別から当
該色信号の周波数特性を推定することを特徴とする。
【0038】
(15)の発明の実施形態は、図27に示されている第4の実施形態が対応する。色信号の種別から当該色信号の周波数特性を推定することは、輝度色差分離部911の処理が該当する。この構成によれば、輝度信号、色差信号に対して、それぞれの周波数特性に適した周波数分割方法で、ノイズ低減処理を行うことができる。
【0039】
(16)の発明は、(12)の発明の周波数分割特性設定手段が、前記周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定することを特徴とする。
【0040】
(16)の発明の実施形態は、図26、図27に示されている第4の実施形態が対応する。周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定することは、図26の低周波抽出部200が、図6に示す低周波抽出フィルタにより構成され、この低周波抽出フィルタは、図2に示したLPFフィルタ係数設定部222で設定されることが該当する。また、水平垂直高周波抽出部201、45度斜め高周波抽出部203、135度斜め抽出部205は、図4に示す高周波抽出フィルタ(H1〜H12)により構成され、残余高周波抽出フィルタ207は、図8に示す残余高周波抽出フィルタにより構成される。これらの高周波抽出フィルタと残余高周波抽出フィルタは、図2に示したHPFフィルタ係数設定部221で設定されることが「周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定すること」に該当する。さらに、図27の色差ノイズ低減処理部450において、低周波抽出部200の低周波抽出フィルタ、各高周波抽出部403、405、441〜447の高周波抽出フィルタは、図2に示したノイズパラメータ設定部109のHPFフィルタ係数設定部221、LPFフィルタ係数設定部222で設定されることが「周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定すること」に該当する。この構成によれば、所定係数の高周波抽出フィルタで抽出された各高周波成分に変換処理を行うことにより、各高周波成分に含まれているノイズを低減することができる。
【発明の効果】
【0041】
本発明においては、任意の周波数特性の調整を行っても、特定の周波数成分に対して意図しない調整が行われることを防止できる。このため、信号処理により不可避的に生じる不要な像または信号成分であるアーティファクトの発生を防止することができる。また、ノイズ量に応じて、特定の周波数成分に対して意図しない調整が行われることを防止できるため、アーティファクトの発生が防止できる。本発明は、画像信号処理の際に後処理装置の周波数特性の変化に応じて、周波数分解に基づく変換処理の周波数分解特性を変えることにより、画質の劣化を防止すると共に、適切なノイズ低減と画像細部の保持の両立が可能な画像処理装置を提供することができる。
【図面の簡単な説明】
【0042】
【図1】第1の実施形態の構成図である。
【図2】図1の部分的な構成を示す構成図である。
【図3】ベイヤー配列を示す説明図である。
【図4】高周波抽出フィルタの例を示す説明図である。
【図5】低周波抽出フィルタの例を示す説明図である。
【図6】低周波抽出フィルタの例を示す説明図である。
【図7】残余高周波抽出フィルタの例を示す説明図である。
【図8】残余高周波抽出フィルタの例を示す説明図である。
【図9】バンドパスフィルタの特性を示す特性図である。
【図10】コアリング変換処理の例を示す特性図である。
【図11】第2の実施形態の構成図である。
【図12】図11の部分的な構成を示す構成図である。
【図13】図12の部分的な構成を示す構成図である。
【図14】ノイズモデルの例を示す特性図である。
【図15】図12の部分的な構成を示す構成図である。
【図16】高周波抽出フィルタの例を示す説明図である。
【図17】低周波抽出フィルタの例を示す説明図である。
【図18】図12の変形例を示す構成図である。
【図19】第3の実施形態の構成図である。
【図20】高周波抽出フィルタの例を示す説明図である。
【図21】第3の実施形態にかかる変形例の構成図である。
【図22】図21の部分的な構成を示す構成図である。
【図23】画素の例を示す説明図である。
【図24】局所分散値の例を示す特性図である。
【図25】第4の実施形態の構成図である。
【図26】図24の部分的な構成を示す構成図である。
【図27】図24の部分的な構成を示す構成図である。
【発明を実施するための形態】
【0043】
以下、第1の実施形態について図を参照して説明する。図1〜図10は、第1の実施形態に適用される図である。図1は、第1の実施形態の構成図、図2は、図1の部分的な構成を示す構成図、図3はベイヤー配列を示す説明図、図4は高周波抽出フィルタの例を示す説明図、図5は低周波抽出フィルタの例を示す説明図、図6は低周波抽出フィルタの例を示す説明図、図7は残余高周波抽出フィルタの例を示す説明図、図8は残余高周波抽出フィルタの例を示す説明図、図9はバンドパスフィルタの特性を示す特性図、図10はコアリング変換処理の例を示す特性図である。
【0044】
画像処理装置の第1の実施形態は、デジタルカメラを想定したもので、被写体を撮影し、得られたデジタルデータを記憶媒体に記録する機能を実現するものである。図1において、レンズ系100、CCD101を介して撮影された画像は、A/D102においてデジタル信号に変換され、バッファ103に記憶される。バッファ103の出力は、ノイズ低減処理部104、エッジ強調処理部107、信号処理部105を順次介して、出力部106に入力されている。
【0045】
さらに、図示しない、マイクロコンピュータ等により構成される制御部が、各部と双方向に接続されている。バッファ103から読み出された画像信号は、ノイズ低減処理部104で、画像信号に含まれるノイズが低減された後、エッジ強調処理部107でエッジ強調処理が行われる。さらに信号処理部105において、色補正処理、圧縮処理などの、公知の信号処理が行われ、出力部106で記録媒体に保存される。また、ノイズ低減パラメータ設定部109がノイズ低減部104に、エッジ強調パラメータ設定部108がエッジ強調処理部107に接続されている。
【0046】
ノイズ低減処理は、図3に示すような、縦5画素、横5画素のベイヤー配列からなる領域を処理単位として行われる。ノイズ低減処理が行われると、図3で領域中心のG画素の信号が変換される。領域を2画素ずつ移動させながら、同様の処理を行うことを繰り返すことにより、画像全体にノイズ低減処理が行われる。これらのイズ低減処理は、制御部の制御に基づき行われる。
【0047】
図2には、図1のノイズ低減処理部104、エッジ強調処理部107、ノイズ低減パラ
メータ設定部109、エッジ強調パラメータ設定部108の詳細構成が示されている。ノイズ低減処理部104は、バッファ103から読み出した画像信号を、複数の周波数成分に分解し、分解した各成分に変換処理を施した後、再合成し、ノイズを低減する。ここでは、周波数分解は、方向性のある高周波抽出フィルタによって行われる。
【0048】
低周波抽出部200は、バッファ103から読み出された画像信号に、図5、または図6に示されている低周波抽出フィルタを適用し、低周波成分を抽出する。低周波抽出フィルタは、LPFフィルタ係数設定部222により設定される。低周波抽出部200により抽出された低周波成分は、合成部209に出力される。高周波抽出部201は、バッファ103から読み出された画像信号に、図4に示す高周波抽出フィルタ(H1〜H12)と、図7または、図8に示されている残余高周波抽出フィルタにより、13種類の高周波成分を抽出する。
【0049】
高周波抽出フィルタ(H1〜H12)と残余高周波抽出フィルタは、HPFフィルタ係数設定部221により設定される。図4は、高周波抽出フィルタ(H1〜H12)を示しており、(a)は45度斜め高周波成分、(b)は135度斜め高周波成分、(c)は水平垂直高周波成分、をそれぞれ抽出する。また、45度斜め高周波抽出フィルタは、第一〜第四の高周波抽出フィルタ(H1〜H4)からなる。また、135度斜め高周波抽出フィルタは、第一〜第四の高周波抽出フィルタ(H5〜H8)からなる。さらに、水平垂直高周波抽出フィルタは、第一〜第四の高周波抽出フィルタ(H9〜H12)からなる。なお、1/16は、ビットシフト演算されるレベル調整用の除数である。図2の高周波抽出部201は、図4(a)〜(c)に示されているように、45度斜め方向、135度斜め方向、水平垂直方向の方向性のある高周波成分を抽出している。
【0050】
残余高周波成分は、原信号から、低周波成分、水平垂直高周波成分、45度斜め高周波成分、135度斜め高周波成分を抽出した後の残りの成分である。図7または、図8に示されている残余高周波抽出フィルタは、低周波成分、水平垂直高周波成分、45度斜め高周波成分、135度斜め高周波成分、残余高周波成分のすべての成分を合成することにより、原信号が完全に復元されるようにするために設けられている。
【0051】
高周波変換部202は、抽出された各高周波成分に変換処理を行うことにより、各高周波成分に含まれているノイズを低減する。高周波変換部202では、図10に示すようなコアリング変換処理が行われる。図10において、○の部分は閾値よりも絶対値が小さい振幅の成分を示している。高周波変換部202では、図10のコアリング変換処理を行い、各高周波成分のうち、前記○の部分である閾値よりも小さい振幅の成分を削除することにより、ノイズを低減する。ノイズが低減された高周波成分は、合成部209にて他の成分と合成される。
【0052】
エッジ強調処理部107は、ノイズ低減処理が行われた画像信号から、エッジ成分と低周波成分を抽出し、適宜エッジ成分に変換処理を行った後、低周波成分に加算混合することにより、画像信号の鮮鋭感を調整する。画素補間部210は、図3に示す処理ブロックのG画素の信号にローパスフィルタをかけることにより、低周波成分を抽出する。この処理により、図3に示す処理ブロックのR/B画素におけるG成分が生成される。エッジ抽出部211は、図3に示す処理ブロックのG画素の信号にバンドパスフィルタをかけることにより、エッジ成分を抽出する。
【0053】
エッジ強調部212は、エッジ成分に係数をかけることにより、エッジ成分の変換処理を行う。エッジ加算部213では、エッジ強調部212で変換処理されたエッジ成分と、画素補間部210で抽出された低周波成分を合成し、エッジ強調された画像信号を得る。強調量設定部232からエッジ強調部212に与えられる強調係数を変えたり、BPFフ
ィルタ係数設定部231からエッジ抽出部211に与えられるバンドパスフィルタ係数を変えることにより、鮮鋭感の調整が行われる。これらの係数の変更は、モード設定部250のモード設定に応じて行われる。エッジ強調モード設定に応じて、エッジ抽出部211のバンドパスフィルタの特性が、図9(a)に示すようにBPF1、もしくは図9(b)に示すようにBPF2となるように、バンドパスフィルタの係数が切り換えられる。
【0054】
エッジ抽出部211のバンドパスフィルタが切り換えられると、それに応じて、ノイズ低減処理部104における低周波抽出部200の低周波抽出フィルタも切り換える。エッジ抽出フィルタBPF1の特性に対しては、図5に示す低周波抽出フィルタ1を、またエッジ抽出フィルタBPF2の特性に対しては、図6に示す低周波抽出フィルタ2を設定する。図5に示す低周波抽出フィルタ1は図9(a)のLPF1の特性を有し、図6に示す低周波抽出フィルタ2は図9(b)のLPF2の特性を有している。
【0055】
さらに、低周波抽出部200の低周波抽出フィルタの切り換えに応じて、高周波抽出部201の残余高周波抽出フィルタも切り換える。図5に示す低周波抽出フィルタ1に対しては、図7に示す残余高周波抽出フィルタ1を設定する。また、図6に示す抽出フィルタ2に対しては、図8に示す残余高周波抽出フィルタ2を設定する。
【0056】
ノイズ低減処理部104の低周波抽出部200の出力は、そのまま、エッジ強調処理部107に入力される。このため、ノイズ低減処理部104の低周波抽出フィルタの周波数特性と、エッジ強調処理部107のバンドパスフィルタの周波数特性に、図9で示すような重なり部分が生じる。このように重なり部分があると、重なった部分の周波数成分が強調される。この周波数特性が重なった周波数領域にノイズの成分が残留していると、ノイズ成分が強調されて画質の劣化を招く。一方、エッジ強調処理部107のバンドパスフィルタの特性は、所望の鮮鋭感が得られるように、個別に調整されるため、ノイズ低減処理部104の低周波抽出フィルタの周波数特性と、エッジ強調処理部107のバンドパスフィルタの周波数特性の関係は、ひとつに定まらない。
【0057】
そこで、上記のように、鮮鋭感の調整に応じて、エッジ強調処理部107のバンドパスフィルタの周波数特性が変更された場合には、ノイズ低減処理部104の低周波抽出フィルタの周波数特性も変更する。これにより、ノイズ低減処理部104の低周波抽出フィルタの周波数特性と、エッジ強調処理部107のバンドパスフィルタの周波数特性に重なり部分が少なくなるようにして、残留したノイズ成分が強調されることによる画質の劣化を防止する。
【0058】
図11〜図18は、本発明の第2の実施形態に適用される図である。図11は第2の実施形態の構成図、図12は図11の部分的な構成を示す構成図、図13は図12の部分的な構成を示す構成図、図14はノイズモデルの例を示す特性図、図15は図12の部分的な構成を示す構成図、図16は高周波抽出フィルタの例を示す説明図、図17は低周波抽出フィルタの例を示す説明図、図18は図12の変形例を示す構成図である。なお、第1の実施形態で説明した図3のベイヤー配列を示す説明図と、図10のコアリング変換処理の例を示す特性図は、第2の実施形態でも適用される。
【0059】
図11に、本発明の第2の実施形態における画像処理装置を示す。この発明の実施形態は、デジタルカメラを想定しており、被写体を撮影し、得られたデジタルデータを記憶媒体に記録する機能を実現するものである。レンズ系100、CCD101を介して撮影された画像は、A/D102においてデジタル信号に変換され、バッファ103に記憶される。バッファ103の出力は、ノイズ低減処理部104、信号処理部105を順次介して、出力部106に入力されている。
【0060】
さらに、図示しない、マイクロコンピュータ等により構成される制御部が、各部と双方向に接続されている。バッファ103から読み出された画像信号は、ノイズ低減処理部104で画像信号に含まれるノイズが低減された後、信号処理部105において、色補正処理、圧縮処理などの公知の信号処理が行われ、出力部106で記録媒体に保存される。また、感度設定部404が、ノイズ低減部104に接続されている。
【0061】
ノイズ低減処理部104におけるノイズ低減処理は、第1の実施形態で説明したと同様に、図3で示された縦5画素、横5画素のベイヤー配列からなる領域を処理単位として行われる。ノイズ低減処理が行われると、図3で領域中心のG画素の信号が変換される。領域を2画素ずつ移動させながら、同様の処理を行うことを繰り返すことにより、画像全体にノイズ低減処理が行われる。これらのノイズ低減処理は、制御部の制御に基づき行われる。
【0062】
図12に、ノイズ低減処理部104の詳細な構成を示す。ノイズ低減処理部104は、エッジ方向適応ノイズ低減処理部401、エッジ方向非適応ノイズ低減処理部402と、エッジ方向適応ノイズ低減処理部401、およびエッジ方向非適応ノイズ低減処理部402のそれぞれの出力に接続された信号選択部403とからなる。エッジ方向適応ノイズ低減処理部401は、バッファ103から読み出した画像信号を、複数の周波数成分に分解し、分解した各成分に変換処理を施した後、再合成し、ノイズを低減する。ここでは、周波数分解は、方向性のある高周波抽出フィルタによって行われる。エッジ方向適応ノイズ低減処理部401で実現されるノイズ低減処理は、複数の高周波成分に分割し、分割された成分ごとにノイズ低減処理を行うため、画像信号に含まれる本来の構造と、ノイズ成分との分離性が良いという特徴がある。
【0063】
低周波抽出部200は、バッファ103から読み出された画像信号に、図17に示す低周波抽出フィルタを適用し、低周波成分を抽出する。抽出された低周波成分は、合成部209に出力される。また、高周波抽出部201は、水平高周波抽出部421、垂直高周波抽出部423、斜め高周波抽出部425からなる。高周波抽出部201は、バッファ103から読み出された画像信号に、図16に示す高周波抽出フィルタ(H1〜H12)により、12種類の高周波成分を抽出する。
【0064】
高周波変換部202は、水平高周波変換部422、垂直高周波変換部424、斜め高周波変換部426を有している。高周波変換部202は、水平高周波抽出部421、垂直高周波抽出部423、斜め高周波抽出部425で抽出された各高周波成分に変換処理を行うことにより、各高周波成分に含まれているノイズを低減する。
【0065】
図16の高周波抽出フィルタ(H1〜H12)において、(a)は水平高周波成分、(b)は垂直高周波成分、(c)は斜め高周波成分、をそれぞれ抽出する。図16においては、図6で説明したと同様に、例えば、水平高周波抽出フィルタは、第一〜第四の高周波抽出フィルタ(H1〜H4)からなる。また、垂直高周波抽出フィルタは、第一〜第四の高周波抽出フィルタ(H5〜H8)からなる。さらに、斜め高周波抽出フィルタは、第一〜第四の高周波抽出フィルタ(H9〜H12)からなる。このように、高周波抽出フィルタは、水平方向、垂直方向、斜め方向の方向性のある高周波抽出を行う。
【0066】
高周波変換部202では、前記した図10に示すようなコアリング変換処理が行われる。各高周波成分のうち、閾値よりも小さい振幅の成分(図10の○印の領域)を削除することによりノイズを低減する。高周波閾値算出部451は、変換処理に用いられる閾値を決定する。ノイズが低減された高周波成分は、合成部209にて他の成分と合成される。
【0067】
図13に示されるように、高周波閾値算出部451は、ノイズ量推定部806、閾値調
整部449から構成される。ノイズ量推定部806は、図14に示すノイズモデルと低周波抽出部200で得られた低周波成分を用いて、高周波成分に含まれると推定されるノイズ量を求める。図14のノイズモデルは、予め、理論計算や実測により定められており、実線が高感度時、破線が低感度時の特性を示している。図13に示される閾値調整部449は、ノイズ量推定部806で得られたノイズ量に調整値を乗算する。この調整値は、水平高周波変換部422、垂直高周波変換部424、斜め高周波変換部426において行われる変換処理の強度を調整するための値で、所望の画質が得られるように、予め調整作業を行って決定された値が設定されている。
【0068】
図l5に示されたエッジ方向非適応ノイズ低減処理部402は、バッファ103から読み出した画像信号を、第二低周波抽出部410および第二高周波抽出部411で低周波成分と高周波成分に分解する。第二低周波抽出部410で抽出された低周波成分(A)は、第二高周波閾値算出部452に入力される。また、第二低周波抽出部410で抽出された低周波成分は、符号が反転された後、第二高周波抽出部411の加算器Cでバッファ103から読み出した画像信号と合成される。この結果、画像信号に含まれる高周波成分が抽出される。
【0069】
第二高周波閾値算出部452は、図13で説明した高周波閾値算出部451と同じ構成で、ノイズ量推定部806、閾値調整部449から構成される。第二高周波閾値算出部452の出力は、第二高周波変換部412に入力され、第二高周波抽出部411で抽出された高周波成分に対する変換処理の強度を調整する。第二高周波変換部412で高周波成分に変換処理を施した後、第二合成部409において第二低周波抽出郁410で抽出された低周波成分と再合成し、ノイズを低減する。第二合成部409の出力は、信号選択部403に入力される。
【0070】
図12の第二低周波抽出部410は、バッファ103から読み出された画像信号に、図17に示す低周波抽出フィルタを適用し、低周波成分を抽出する。低周波抽出フィルタで抽出された低周波成分は、第二合成部409に出力される。第二高周波抽出部411は、減算器で構成され、バッファ103から読み出された画像信号から、低周波成分を減算することにより、高周波成分を抽出する。第二高周波変換部412は、第二高周波抽出部411で抽出された高周波成分に変換処理を行うことにより、高周波成分に含まれているノイズを低減する。
【0071】
第二高周波変換部412では、図10に示すようなコアリング変換処理が行われる。すなわち、第二高周波変換部412は高周波成分のうち、閾値よりも小さい振幅の成分を削除することによりノイズを低減する。第二高周波閾値算出部452は、変換処理に用いられる閾値を決定する。第二高周波変換部412でノイズが低減された高周波成分は、第二低周波抽出部410で抽出された低周波成分と第二合成部409で合成される。第二高周波閾値算出部452は、高周波閾値算出部451と同じ構成で、ノイズモデル、調整値が異なるものとなっている。
【0072】
信号選択部403は、エッジ方向適応ノイズ低減処理部401の出力と、エッジ方向非適応ノイズ低減処理部402の出力を入力とし、感度設定部404の撮影感度設定に応じて、どちらかの信号を選択して信号処理部105に出力する。撮影感度が予め決められた感度よりも高い場合、信号選択部403は、エッジ方向非適応ノイズ低減処理部402の出力を選択して信号処理部105に出力する。
【0073】
感度設定部404では、撮像素子の温度または入力信号に対するゲインまたは撮影時のシャッター速度のうち少なくとも一つの情報に基づき撮影感度を設定する。また、感度設定部404は、ISO感度、露出情報、ホワイトバランス情報の少なくとも一つ以上の情
報に基づき前記ゲインを求めるゲイン算出手段を有する。
【0074】
撮影感度が高い場合、画像信号に含まれるノイズが増えるため、図3に示すような小さな処理ブロック領域内では、画像信号に含まれる本来の構造と、ノイズ成分によって偶々生じた構造との区別が難しくなってくる。このため、ノイズ成分の一部が低減されずに残留してアーティファクトを発生させてしまい、画質を劣化してしまう。この結果、撮影感度が高い場合、エッジ方向適応ノイズ低減処理部401で実現されるノイズ低減処理よりも、エッジ方向非適応ノイズ低減処理部402で実現されるノイズ低減処理の方が好ましい結果を得られる。
【0075】
そこで、撮影感度が低い場合は、エッジ方向適応ノイズ低減処理部401の出力を、ノイズ低減処理部104の出力とする。また、撮影感度が高く、画像信号に含まれるノイズ量が多い場合には、エッジ方向非適応ノイズ低減処理部402の出力を、ノイズ低減処理部104の出力とする。このように、信号選択部403は、撮影感度に応じてエッジ方向適応ノイズ低減処理部401、またはエッジ方向非適応ノイズ低減処理部402の出力を選択して信号処理部105に出力する。
【0076】
このように、撮影感度に応じてノイズ低減処理を制御することにより、撮影感度が低い場合には、画像信号に含まれる本来の構造とノイズ成分を分離して、効果的にノイズ低減を行い、鮮鋭感の向上とノイズの低減を両立する。また、撮影感度が高い場合には、アーティファクトの発生を防止する。なお、図12の信号選択部403の代わりに、図18に示すような重み付け加算部500を設け、撮影感度が高くなるほど、エッジ方向非適応ノイズ低減処理部402の出力の重みを大きくするように制御しても良い。
【0077】
図l8の重み付け加算部500は、乗算器D、Eと加算器Fからなる。係数生成部501は、感度設定部404で設定された撮影感度に応じて、エッジ方向適応ノイズ低減処理部401の出力に対する重み係数を決定して、乗算器Eに設定し、エッジ方向非適応ノイズ低減処理部402の出力に対する重み係数を決定して、乗算器Dに設定する。乗算器Eは、エッジ方向適応ノイズ低減処理部401の出力に対して、エッジ方向適応ノイズ低減処埋部401の出力に対する重み係数を乗算して、加算器Fに出力する。乗算器Dは、エッジ方向非適応ノイズ低減処理部402の出力に対して、エッジ方向非撓応ノイズ低減処理部402の出力に対する重み係数を乗算して、加算器Fに出力する。加算器Fは、係数生成部501によって決定された係数により重み付けされたエッジ方向適応ノイズ低減処理部401の出力とエッジ方向非適応ノイズ低減処理部402の出力を加算して信号処理部105に出力する。上記の例では、信号選択部403における信号の選択や、重み付け加算部500における信号の重み付け加算処理は、感度設定部404で設定された撮影感度に応じて行われている。これらの信号選択や重み付け加算処理は、画像信号に含まれるノイズ量に応じて行われることが望ましい。そこで、感度設定部404で設定された撮影感度の代わりに、ノイズ推定部806から出力されるノイズ推定量に基づいて、信号選択部403における信号の選択や、重み付け加算部500における信号の重み付け加算処理が行われる構成としても良い。
【0078】
図19〜図24は、本発明の第3の実施形態に適用される図である。図19は第3の実施形態の構成図、図20は高周波抽出フィルタの例を示す説明図、図21は第3の実施形態にかかる変形例の構成図、図22は図21の部分的な構成を示す構成図、図23は画素の例を示す説明図、図24は局所分散値の例を示す特性図である。なお、第2の実施形態で説明した図16の高周波抽出フィルタの例を示す説明図、図17で説明した低周波抽出フィルタの例を示す説明図も、第3の実施形態に適用される。
【0079】
第2の実施形態では、図12の構成図に示されているように、周波数分解の方法が異な
る二つのノイズ低減処理部であるエッジ方向適応ノイズ低減処理部401とエッジ方向非適応ノイズ低減処理部402を設け、信号選択部403で、それぞれの出力を選択して出力していた。第3の実施形態では、ノイズ低減処理部をエッジ方向適応ノイズ低減処理部401とエッジ方向非適応ノイズ低減処理部402の二つ設けることに代えて、フィルタ係数を切り換えることにより、実行されるノイズ低減処理を切り換えるものである。
【0080】
本実施形態では、図19に示されているように、図12のエッジ方向適応ノイズ低減処理部401と同じ構成に、フィルタ係数設定部220を加えた構成からなるノイズ低減部104を設ける。図19において、フィルタ係数設定部220は、水平高周波抽出部421、垂直高周波抽出部423、斜め高周波抽出部425に、感度設定部404の撮影感度に応じて異なる抽出フィルタ係数を設定する。
各高周波抽出部421、423、425には、それぞれ水平高周波変換部422、垂直高周波変換部424、斜め高周波変換部426が接続されている。
【0081】
図19において、感度設定部404で設定された撮影感度の設定に基づいてフィルタ係数設定部220で、各高周波成分に設定される抽出フィルタ係数が変更されることにより、エッジ方向適応ノイズ低減処理とエッジ方向非適応ノイズ低減処理の切り換えが行われる。撮影感度が予め決められた感度よりも低い場合は、第2の実施形態で説明した図16(高周波抽出フィルタ)、図17(低周波抽出フィルタ)に示すフィルタ係数が設定されることにより、エッジ方向適応ノイズ低減処理が行われる。一方、撮影感度が予め決められた感度よりも高い場合は、図20(高周波抽出フィルタ)、図17(低周波抽出フィルタ)に示すフィルタ係数が設定されることにより、エッジ方向非適応ノイズ低減処理が行われる。
【0082】
ここで、図20は、図16と同様に、各高周波抽出部に設定される抽出フィルタを示したものである。撮影感度が予め決められた感度よりも高い場合は、エッジ方向非適応ノイズ低減処理が行われるようにする。このため、第一水平高周波抽出フィルタ(H1)のみを高周波抽出フイルタとして用い、他の高周波抽出フイルタ(H2〜H12)には、すべて0の係数を設定する。この結果、第一水平高周波抽出フィルタにより、すベての方向の高周波戒分が抽出され、エッジ方向非適応ノイズ低減処理が行われる。
【0083】
図21に第3の実施形態の変形例を示す。図19に示した第3の実施形態においては、感度設定部404の撮影感度の設定に応じて、低周波抽出部200、および各高周波抽出部(421〜425)に設定される抽出フィルタ係数を変更していた。図21に示す変形例では、画像信号に含まれるノイズ量を推定し、推定されたノイズ量に基づき、抽出フィルタ係数を変更する。図21に示されているように、図19の撮影感度を設定する感度設定部404に代えてノイズ量分析部881が設けられている。
【0084】
図22にノイズ量分析部881を示す。高周波抽出部891は、図20の高周波抽出フィルタにおいて、H1で示すフィルタにより画像信号の高周波成分を抽出する。分散算出部892は、注目画素の周辺n×n画素における局所分散値を算出する。局所分散値は、図23に示す注目画素の周辺n×n画素における高周波成分の二乗値を合計し、nの二乗で除算したものである。入力画像の全画素に対応する高周波成分に対して局所分散値を算出し、分散値バッファ893に一時的に保持する。
【0085】
ヒストグラム生成部894は、分散値バッファ893の局所分散値に基づき、局所分散値のヒストグラムを生成する。最頻値検出部895は、図24の特性図に示すように、局所分散値のヒストグラムから、最も発生頻度が高い局所分散値を決定し、この時の局所分散値を、画像信号に含まれるノイズ量の推定値として出力する。フィルタ係数設定部220は、図21で説明したようにノイズ量の推定値に基づいて、低周波抽出部200および
各高周波抽出部(421〜425)に設定される抽出フィルタ係数を変更する。
【0086】
ノイズ量の推定値が、予め決められた値より小さいときは、図16(高周波抽出フィルタ)、図17(低周波抽出フィルタ)に示すフィルタ係数が設定されることにより、エッジ方向適応ノイズ低減処理が行われる。一方、ノイズ量の推定値が、予め決められた感度よりも高い場合は、図20(高周波抽出フィルタ)、図17(低周波抽出フィルタ)に示すフィルタ係数が設定されることにより、エッジ方向適応非ノイズ低減処理が行われる。また、ノイズ量の推定値は、閾値調整部449にも与えられ、各高周波成分の変換処理の閾値の基準としても用いられる。
【0087】
本変形例では、画像信号から、画像信号に含まれるノイズ量の推定値を算出するに際して、分散算出部892の処理による局所分散値を用いる方法を示したが、これに限定されるものではない。
【0088】
図25〜図27は第4の実施形態に適用される図である。図25は第4の実施形態の構成図、図26は、図25の部分的な構成を示す構成図、図27は図25の部分的な構成を示す構成図である。また、図4の高周波抽出フィルタ、図6の低周波抽出フィルタ、図8の残余高周波抽出フィルタ、図16の高周波抽出フィルタ、および図17の低周波抽出フィルタも第4の実施形態に適用される。
【0089】
図25に、本発明の第4の実施形態における画像処理装置を示す。レンズ系100、CCD101を介して撮影された画像は、A/D102においてデジタル信号に変換され、バッファ103に記憶される。バッファ103に得られたRGB原色信号は、輝度色差分離部911に入力され、輝度信号(G)と色差信号(R−G、B−G)に分離される。輝度信号は、ノイズ低減処理部104に入力され、色差信号は、色差ノイズ低減処理部450に入力されて、それぞれ別個にノイズ低滅処理がなされる。
【0090】
図26に、輝度信号(G)に対してノイズ低減処理を行うノイズ低減処理部104を示す。低周波抽出部200は、図6に示す低周波抽出フィルタにより構成される。水平垂直高周波抽出部201、45度斜め高周波抽出部203、135度斜め抽出部205は、図4に示す高周波抽出フィルタ(H1〜H12)により構成される。残余高周波抽出フィルタ207は、図8に示す残余高周波抽出フィルタにより構成される。
【0091】
高周波閾値算出部451は、図13で説明したように、ノイズ量推定部806、閾値調整部449で構成される。ノイズ量推定部806は、高周波成分に含まれると推定されるノイズ量を求めその出力は閾値調整部449に入力される。閾値調整部449は、前記ノイズ量に調整値を乗算して閾値を算出する。閾値調整部449で算出された閾値の出力Bは、水平垂直高周波変換処理部202、45度斜め高周波変換処理部204、135度斜め高周波変換処理部206に入力される。
【0092】
残余高周波閾値算出部900は、ノイズ量調整部920、閾値調整部949で構成される。高周波閾値算出部451のノイズ量推定部806の出力は、残余高周波閾値算出部900のノイズ量調整部920にも入力される。ノイズ量調整部920の出力は閾値調整部949に入力され、ノイズ量に調整値を乗算してその出力は残余高周波変換処理部208に入力される。各高周波変換処理部202〜208でノイズを低減した高周波成分の出力は、合成部209に入力される。合成部209には、低周波抽出部200でノイズを低減された低周波成分の出力も入力され、前記高周波成分の出力と合成される。合成部209で合成された出力は、図25で示した信号処理部105に出力される。
【0093】
図27に色差信号(R−G)、(B−G)に対してノイズ低減処理を行う色差ノイズ低
減処理部450を示す。低周波抽出部200は、図17に示す低周波抽出フィルタにより構成される。水平高周波抽出部421、垂直高周波抽出部403、斜め高周波抽出部405は、図16に示す高周波抽出フィルタ(H1〜H12)により構成される。水平高周波抽出部421は、第一水平高周波抽出部441、第二水平高周波抽出部443、第三水平高周波抽出部445、第四水平高周波抽出部447からなる。また、水平高周波変換部422は、第一水平高周波変換部442、第二水平高周波変換部444、第三水平高周波変換部446、第四水平高周波変換部448からなる。垂直高周波抽出部403、斜め高周波抽出部405も、水平高周波抽出部421と同様に、第一から第四の四つの抽出部から構成されている。また、垂直高周波変換部404、斜め高周波変換部406も同様である。
【0094】
輝度色差分離部911から出力された色差信号は、水平高周波抽出部421、垂直高周波抽出部403、斜め高周波抽出部405と低周波抽出部200に入力される。低周波抽出部200では、低周波抽出フィルタで低周波成分を抽出して出力を合成部209に入力する。また、低周波抽出部200の出力は、図26で説明したような、ノイズ量推定部806、閾値調整部449で構成される高周波閾値算出部451に入力される。閾値調整部449で低周波成分のノイズ量に調整値を乗算して算出された閾値の出力Bは、垂直高周波変換部406、斜め高周波変換部404に入力される。また、水平高周波変換部422の第一水平高周波変換部442、第二水平高周波変換部444、第三水平高周波変換部446、第四水平高周波変換部448に入力される。
【0095】
輝度色差分離部911から入力され、各高周波抽出部(421、403、405)で抽出された高周波成分に対して、各高周波変換部(422、404、406)で、前記閾値調整部449で算出された閾値に基づき、閾値処理を行う。
このような閾値処理を行うことにより、高周波成分のノイズ成分を削除する。低周波抽出部200で抽出された低周波成分と、垂直高周波変換部406、斜め高周波変換部404、および水平高周波変換部422の第一〜第四高周波変換部(442〜448)でノイズ成分を削除した高周波成分を、合成部209で合成することにより、ノイズを低減した画像信号を得る。この画像信号は、図25で示した信号処理部105に出力される。
【0096】
第4の実施形態においては、輝度信号の周波数分割特性と色差信号の周波数分割特性が異なることが特徴である。ベイヤー配列では、輝度信号の周波数特性と色差信号の周波数特性が異なる。輝度信号、および色差信号は、図26、図27で説明したように、それぞれに適した周波数分割方法で変換処理を行うことができる。
【産業上の利用可能性】
【0097】
以上説明したように、本発明によれば、画像信号を処理する際の周波数特性の変化に対応すると共に、適切なノイズ低減と画像細部の保持の両立が可能な画像処理装置を提供することができる。
【符号の説明】
【0098】
100・・・レンズ系、101・・・CCD、102・・・A/D、103・・・バッファ、104・・・ノイズ低減処理部、105・・・信号処理部、106・・・出力部、107・・・エッジ強調処理、108・・・エッジ強調パラメータ設定部、109・・・ノイズ低減パラメータ設定部、200・・・低周波抽出部、201・・・高周波抽出部、202・・・高周波変換部、209・・・合成部、220・・・フィルタ係数設定部、221・・・HPFフィルタ係数設定部、222・・・LPFフィルタ係数設定部、400・・・色差信号生成部、401・・・エッジ方向適応ノイズ低減処理部、402・・・エッジ方向非適応ノイズ低減処理部、403・・・信号選択部、404・・・感度設定部、409・・・第2合成部、410・・・第2低周波抽出部、411・・・第2高周波抽出
部、412・・・第2高周波変換部、421・・・水平高周波抽出部、422・・・水平高周波変換部、449・・・閾値調整部、450・・・色差ノイズ低減処理部、451・・・高周波閾値算出部、452・・・第2高周波閾値算出部、500・・・重み付け加算部、806・・・ノイズ量推定部、881・・・ノイズ量分析部、894・・・ヒストグラム生成部、895・・・最頻値検出部、900・・・残余高周波閾値算出部、911・・・輝度色差分離部
【技術分野】
【0001】
本発明は、処理対象画像を複数の周波数成分に分解し、分解された周波数成分に対してノイズ低減等の画像処理を行う画像処理装置に関するものである。
【背景技術】
【0002】
画像処理装置においては、画像の劣化を防止するためにノイズ低減等の処理が行われている。例えば特許文献1に示されているように、画像入力媒体のノイズ特性に基づいて,
平滑化フィルタのサイズを変更して、画像に平滑化処理を行っていた。これにより、画像の劣化を防止し、処理の高速化を図っている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2000−69291号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記特許文献1に記載の従来技術は、次のような問題があった。(1)画像入力媒体のノイズ特性に基づいて平滑化処理の特性を変えているため、出力媒体や後処理装置の周波数特性の変化に対応して、変換処理の周波数特性を変えるという点について対応することができない。(2)ノイズ特性に基づいて、平滑化フィルタのサイズを変更して、画像に平滑化処理を行っていた。このため、複数のフィルタという点について対応することができない。
【0005】
本発明は、従来技術のこのような問題点に鑑みてなされたものであり、前記(1)、(2)の問題を解決して、後処理装置の周波数特性の変化に対応すると共に、適切なノイズ低減と画像細部の保持の両立が可能な画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
(1).上記目的を達成するために、第1の構成にかかる画像処理装置は、入力信号を低周波成分と少なくとも一つの高周波成分に分割する周波数分割手段と、前記高周波成分に対して変換処理を行う高周波成分変換手段と、前記低周波成分と前記変換処理された高周波成分とを合成する周波数合成手段と、出力信号に求められる周波数特性を設定する周波数特性設定手段と、前記周波数合成手段の出力信号に対して、さらに変換処理を行って、出力信号の周波数特性を、前記周波数特性設定手段で設定された周波数特性に調整する周波数特性調整手段と、周波数特性設定手段において設定される周波数特性に応じて、周波数分割手段における分割特性を設定する周波数分割特性設定手段と、を有することを特徴とする。
【0007】
(1)の構成に関する実施形態は、図1〜図10に示された第1の実施形態が対応する。(1)の構成において、周波数分割手段は、図2に示された低周波抽出部200、高周波抽出部201が該当する。周波数成分変換手段は、図2に示された高周波変換部202が該当する。周波数合成手段は、図2に示された合成部209が該当する。周波数特性設定手段は、図1、図2に示されたエッジ強調パラメータ設定部108が該当する。周波数特性調整手段は、図1、図2に示されたエッジ強調処理部107が該当する。周波数分割特性設定手段は、図2に示されたLPFフィルタ係数設定部222とHPFフィルタ係数設定部221が該当する。
【0008】
(1)の構成は、周波数特性設定手段により設定された周波数特性に応じて、周波数分割特性設定手段が周波数分割特性を設定する。周波数特性調整手段における周波数特性の調整に応じて、周波数分割手段における周波数の分割方法が変更される。この構成によれば、任意の周波数特性の調整を行っても、特定の周波数成分に対して意図しない調整が行われることを防止できるため、アーティファクトの発生が防止できる。
【0009】
(2)の構成は、前記(1)の構成の前記周波数特性調整手段は、前記周波数合成手段の出力信号から所定の周波数成分を抽出する所定周波数成分抽出手段と、前記所定周波数成分抽出手段により抽出された前記所定の周波数成分に所定の強調処理を行う所定周波数成分強調手段と、前記所定周波数成分強調手段により前記所定の強調処理が行われた前記所定の周波数成分、および前記周波数合成手段の出力信号を合成する所定周波数成分合成手段と、からなることを特徴とする。
【0010】
(2)の構成に関する実施形態は、図2に示されている第1の実施形態が対応する。(2)の構成において、所定周波数成分抽出手段はエッジ抽出部211が、所定周波数成分強調手段はエッジ強調部212が、所定周波数成分合成手段はエッジ加算部213がそれぞれ該当する。(2)の構成は、所定周波数成分強調手段により、強調係数を変えるような所定の強調処理が行われた所定の周波数成分と、(1)の構成の周波数合成手段の出力信号、すなわち低周波成分とを所定周波数成分合成手段で合成する。この構成によれば、鮮鋭感の調整が行われ、エッジ強調された画像信号が得られる。
【0011】
(3)の構成は、前記(1)の構成において、前記周波数特性調整手段は、前記周波数合成手段の出力信号から所定の低周波成分を抽出する低周波成分抽出手段をさらに有し、前記所定周波数成分合成手段が、前記所定周波数成分強調手段により前記所定の強調処理が行われた前記所定の周波数成分と前記所定の低周波成分を合成することを特徴とする。
【0012】
(3)の構成に関する実施形態は、図2に示されている第1の実施形態が対応する。(3)の構成において、低周波成分抽出手段は画素補間部210が該当する。(3)の構成は、低周波成分抽出手段で処理ブロックの領域中心のG画素を生成し、(2)の構成で所定の強調処理が行われた所定の周波数成分と所定周波数成分合成手段で合成される。この構成によれば、エッジ成分に変換処理を行って低周波成分に加算混合することにより、画像信号の鮮鋭感を調整することができる。
【0013】
(4)の構成は、前記(1)の構成の前記高周波成分変換手段が、前記高周波成分のうち、所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段と、からなることを特徴とする。
【0014】
(4)の構成に関する実施形態は、図2に示されている第1の実施形態が対応する。(4)の構成において、高周波成分変換手段が、所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段とを有することは、図10の特性の処理を行うことが該当する。この構成によれば、例えば、45度斜め高周波成分、135度斜め高周波成分、水平垂直高周波成分、残余高周波成分のような各高周波成分のうち、閾値よりも小さい振幅の成分を削除することによりノイズを低減することができる。
【0015】
(5)の構成は、前記(1)の構成において、前記周波数特性設定手段が、前記所定周波数成分抽出手段を構成する所定周波数抽出フィルタの係数、もしくは、前記所定の強調処理の強調量、または、その両方を設定することを特徴とする。
【0016】
(5)の構成の実施形態は、図2に示されている第1の実施形態が対応する。(5)の構成において、所定周波数抽出フィルタの係数設定はBPFフィルタ係数設定部231が、所定の強調処理の強調量設定は強調量設定部232がそれぞれ該当する。この構成によれば、鮮鋭感の調整に応じて、エッジ強調処理バンドパスフィルタの周波数特性が変更された場合には、ノイズ低減処理の低周波抽出フィルタの周波数特性も変更する。このように周波数特性を変更することにより、ノイズ低減処理の低周波抽出フィルタの周波数特性と、エッジ強調処理のバンドパスフィルタの周波数特性に重なり部分が少なくなるようにして、残留したノイズ成分が強調されることによる画質の劣化を防止することができる。
【0017】
(6)の構成は、前記(1)の構成の前記周波数分割特性設定手段は、前記周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定することを特徴とする。
【0018】
(6)の構成の実施形態は、図2に示されている第1の実施形態が対応する。周波数分割特性設定手段であるLPFフィルタ係数設定部222は、図5または図6に示されているような低周波抽出フィルタの係数を設定する。また、周波数分割特性設定手段であるHPFフィルタ係数設定部221は、図4に示す高周波抽出フィルタ(H1〜H12)と、図7または図8に示されている残余高周波抽出フィルタの係数を設定する。この構成によれば、所定係数の高周波抽出フィルタで抽出された各高周波成分に変換処理を行うことにより、各高周波成分に含まれているノイズを低減することができる。
【0019】
(7).本発明の実施形態にかかる画像処理装置は、入力信号を低周波成分と少なくとも一つの高周波成分に分割する周波数分割手段と、前記高周波成分に対して変換処理を行う高周波成分変換手段と、前記低周波成分と変換処理された高周波成分とを合成する周波数合成手段と、前記入力信号のノイズ特性を推定するノイズ特性推定手段と、前記ノイズ特性推定手段における推定結果に応じて、周波数分割手段における分割特性を設定する周波数分割特性設定手段と、を有することを特徴とする。
【0020】
(7)の発明に関する実施の形態は、図11〜図24に示された第2と第3の実施形態が対応する。(7)の発明における次の構成は図12に示されている。周波数分割手段は、低周波抽出部200、高周波抽出部201、第二低周波抽出部410、第二高周波抽出部411、が該当する。周波数成分変換手段は、高周波変換部202、高周波閾値算出部451、第二高周波変換部412、第二高周波閾値算出部452が該当する。周波数合成手段は、合成部209、第二合成部409が該当する。ノイズ特性推定手段は、感度設定部404が該当する。周波数分割特性設定手段は、信号選択部403が該当する。なお、周波数分割特性設定手段として、図12の信号選択部403に代わる構成の図18の重み付け加算部500が該当する。
【0021】
(7)の発明は、ノイズ特性推定手段により推定されたノイズ特性に応じて、周波数分割特性設定手段が周波数分割特性を設定する。ノイズ特性に応じて、周波数分割手段における周波数の分割方法が変更される。この構成によれば、ノイズ量に応じて、特定の周波数成分に対して意図しない調整が行われることを防止できるため、アーティファクトの発生が防止できる。
【0022】
(8)の発明は、(7)の発明の前記高周波成分変換手段が、前記高周波成分のうち、所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段と、からなることを特徴とする。
【0023】
(8)の発明に関する実施形態は、図12に示されている第2の実施形態が対応する。
所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段を有する高周波成分変換手段は、高周波閾値算出部451、第二高周波閾値算出部452による図10の処理を行う処理手段が該当する。この構成によれば、水平方向、垂直方向、斜め方向の各方向の各高周波成分のうち、閾値よりも小さい振幅の成分を削除することによりノイズを低減することができる。
【0024】
(9)の発明は、(7)の発明のノイズ特性推定手段は、撮像素子の温度または前記入力信号に対するゲインまたは撮影時のシャッター速度のうち少なくとも一つの情報に基づき前記入力信号に含まれるノイズ量を推定するノイズ量推定手段からなることを特徴とする。
【0025】
(9)の発明に関する実施形態は、図12〜図15に示されている第2の実施形態が対応する。図13に示されているエッジ方向適応ノイズ低減処理部401の高周波閾値算出部451、図15に示されているエッジ方向非適応ノイズ低減処理部402の第二高周波閾値算出部452は、それぞれ、撮像素子の温度または前記入力信号に対するゲインまたは撮影時のシャッター速度のうち少なくとも一つの情報に基づき前記入力信号に含まれるノイズ量を推定するノイズ量推定手段806を有している。この構成によれば、撮影感度に応じてノイズ低減処理を制御することにより、撮影感度が低い場合には、画像信号に含まれる本来の構造とノイズ成分を分離して、効果的にノイズ低減を行い、鮮鋭感の向上とノイズの低減を両立することができる。また、撮影感度が高い場合には、アーティファクトの発生を防止することができる。
【0026】
(10)の発明は、(7)の発明のノイズ特性推定手段は、ISO感度、露出情報、ホワイトバランス情報の少なくとも一つ以上の情報に基づき前記ゲインを求めるゲイン算出手段をさらに有することを特徴とする。
【0027】
(10)の発明に関する実施形態は、図12〜図15に示されている第2の実施形態が対応する。図13に示されているエッジ方向適応ノイズ低減処理部401の高周波閾値算出部451、図15に示されているエッジ方向非適応ノイズ低減処理部402の第二高周波閾値算出部452は、それぞれ、ISO感度、露出情報、ホワイトバランス情報の少なくとも一つ以上の情報に基づき前記ゲインを求めるゲイン算出手段をさらに有するノイズ量推定手段806を設けている。この構成によれば、撮影感度に応じてノイズ低減処理を制御することにより、撮影感度が低い場合には、画像信号に含まれる本来の構造とノイズ成分を分離して、効果的にノイズ低減を行い、鮮鋭感の向上とノイズの低減を両立することができる。また、撮影感度が高い場合には、アーティファクトの発生を防止することができる。
【0028】
(11)の発明は、(7)の発明の前記周波数分割特性設定手段が、前記周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定することを特徴とする。
【0029】
(11)の発明に関する実施形態は、図19に示された第3の実施形態が対応する。周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数が、フィルタ係数設定部220によって設定される。この構成によれば、各高周波成分に設定される抽出フィルタ係数が変更されることにより、エッジ方向適応ノイズ低減処理とエッジ方向非適応ノイズ低減処理の切り換えを行うことができる。
【0030】
(12).本発明の第4の実施形態にかかる画像処理装置は、入力信号を低周波成分と少なくとも一つの高周波成分に分割する周波数分割手段と、前記高周波成分に対して変換
処理を行う高周波成分変換手段と、低周波成分と変換処理された高周波成分とを合成する周波数合成手段と、前記入力信号の周波数特性を推定する周波数特性推定手段と、前記周波数特性推定手段における推定結果に応じて、周波数分割手段における分割特性を設定する周波数分割特性設定手段と、を有することを特徴とする。
【0031】
(12)の発明の実施形態は、図25〜図27に示された第4の実施の形態が対応する。(12)の発明の構成において、周波数分割手段は、図26の水平垂直高周波抽出部201、45度斜め高周波抽出部203、135度斜め高周波抽出部205、残余高周波抽出部207、図27の斜め高周波抽出部405、垂直高周波抽出部403、水平高周波抽出部421が該当する。高周波成分変換手段は、図26に示された水平垂直高周波変換処理部202、45度斜め高周波変換処理部204、135度斜め高周波変換処理部206、残余高周波変換処理部208、高周波閾値算出部451、残余高周波閾値算出部900が該当する。また、図27に示された垂直高周波変換部404、斜め高周波変換部406、水平高周波変換処理部422、高周波閾値算出部451が該当する。周波数合成手段は、図26、図27に示された合成部209が該当する。周波数特性推定手段は、図26に示された輝度色差分離部911が該当する。周波数分割特性設定手段は、図26、図27に示されたノイズ低減処理部104、色差ノイズ低減処理部450の低周波抽出フィルタ、各高周波抽出フィルタに対する図2のHPFフィルタ設定部221、LPFフィルタ設定部222が該当する。
【0032】
(12)の発明は、輝度信号の周波数分割特性と色差信号の周波数分割特性が異なっており、輝度信号、および色差信号は、それぞれの信号に適した周波数分割方法で変換処理を行うことができる。
【0033】
(13)の発明は、(12)の発明の前記高周波成分変換手段が、前記高周波成分のうち、所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段と、からなることを特徴とする。
【0034】
(13)の発明の実施形態は、図26、図27に示された第4の実施の形態が対応する。所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段は、図26の水平垂直高周波変換処理部202、45度斜め高周波変換処理部204、135度斜め高周波変換処理部206、残余高周波変換処理部208、図27の斜め高周波変換部406、垂直高周波変換部404、水平高周波変換部422が該当する。また所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段は、図26の高周波閾値算出部451、残余高周波閾値算出部900、図27の高周波閾値算出部451が該当する。(13)の発明は、前記のような閾値処理を行うことにより、高周波成分のノイズ成分を削除することができる。
【0035】
(14)の発明は、(12)の発明の前記周波数特性推定手段は、撮像素子の前面に各画素ごとに設けられている少なくとも二種類の色フィルタの配置情報から前記色フィルタに対応する信号の周波数特性を推定することを特徴とする。
【0036】
(14)の発明の実施形態は、図27に示されている第4の実施形態が対応する。撮像素子の前面に各画素ごとに設けられている少なくとも二種類の色フィルタの配置情報から前記色フィルタに対応する信号の周波数特性を推定することは、輝度色差分離部911の処理が該当する。この構成によれば、輝度信号(G)と色差信号(R−G、B−G)に対して、それぞれの信号に適した周波数分解方法で、ノイズ低減処理を行うことができる。
【0037】
(15)の発明は、(12)の発明の前記周波数特性推定手段が、色信号の種別から当
該色信号の周波数特性を推定することを特徴とする。
【0038】
(15)の発明の実施形態は、図27に示されている第4の実施形態が対応する。色信号の種別から当該色信号の周波数特性を推定することは、輝度色差分離部911の処理が該当する。この構成によれば、輝度信号、色差信号に対して、それぞれの周波数特性に適した周波数分割方法で、ノイズ低減処理を行うことができる。
【0039】
(16)の発明は、(12)の発明の周波数分割特性設定手段が、前記周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定することを特徴とする。
【0040】
(16)の発明の実施形態は、図26、図27に示されている第4の実施形態が対応する。周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定することは、図26の低周波抽出部200が、図6に示す低周波抽出フィルタにより構成され、この低周波抽出フィルタは、図2に示したLPFフィルタ係数設定部222で設定されることが該当する。また、水平垂直高周波抽出部201、45度斜め高周波抽出部203、135度斜め抽出部205は、図4に示す高周波抽出フィルタ(H1〜H12)により構成され、残余高周波抽出フィルタ207は、図8に示す残余高周波抽出フィルタにより構成される。これらの高周波抽出フィルタと残余高周波抽出フィルタは、図2に示したHPFフィルタ係数設定部221で設定されることが「周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定すること」に該当する。さらに、図27の色差ノイズ低減処理部450において、低周波抽出部200の低周波抽出フィルタ、各高周波抽出部403、405、441〜447の高周波抽出フィルタは、図2に示したノイズパラメータ設定部109のHPFフィルタ係数設定部221、LPFフィルタ係数設定部222で設定されることが「周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定すること」に該当する。この構成によれば、所定係数の高周波抽出フィルタで抽出された各高周波成分に変換処理を行うことにより、各高周波成分に含まれているノイズを低減することができる。
【発明の効果】
【0041】
本発明においては、任意の周波数特性の調整を行っても、特定の周波数成分に対して意図しない調整が行われることを防止できる。このため、信号処理により不可避的に生じる不要な像または信号成分であるアーティファクトの発生を防止することができる。また、ノイズ量に応じて、特定の周波数成分に対して意図しない調整が行われることを防止できるため、アーティファクトの発生が防止できる。本発明は、画像信号処理の際に後処理装置の周波数特性の変化に応じて、周波数分解に基づく変換処理の周波数分解特性を変えることにより、画質の劣化を防止すると共に、適切なノイズ低減と画像細部の保持の両立が可能な画像処理装置を提供することができる。
【図面の簡単な説明】
【0042】
【図1】第1の実施形態の構成図である。
【図2】図1の部分的な構成を示す構成図である。
【図3】ベイヤー配列を示す説明図である。
【図4】高周波抽出フィルタの例を示す説明図である。
【図5】低周波抽出フィルタの例を示す説明図である。
【図6】低周波抽出フィルタの例を示す説明図である。
【図7】残余高周波抽出フィルタの例を示す説明図である。
【図8】残余高周波抽出フィルタの例を示す説明図である。
【図9】バンドパスフィルタの特性を示す特性図である。
【図10】コアリング変換処理の例を示す特性図である。
【図11】第2の実施形態の構成図である。
【図12】図11の部分的な構成を示す構成図である。
【図13】図12の部分的な構成を示す構成図である。
【図14】ノイズモデルの例を示す特性図である。
【図15】図12の部分的な構成を示す構成図である。
【図16】高周波抽出フィルタの例を示す説明図である。
【図17】低周波抽出フィルタの例を示す説明図である。
【図18】図12の変形例を示す構成図である。
【図19】第3の実施形態の構成図である。
【図20】高周波抽出フィルタの例を示す説明図である。
【図21】第3の実施形態にかかる変形例の構成図である。
【図22】図21の部分的な構成を示す構成図である。
【図23】画素の例を示す説明図である。
【図24】局所分散値の例を示す特性図である。
【図25】第4の実施形態の構成図である。
【図26】図24の部分的な構成を示す構成図である。
【図27】図24の部分的な構成を示す構成図である。
【発明を実施するための形態】
【0043】
以下、第1の実施形態について図を参照して説明する。図1〜図10は、第1の実施形態に適用される図である。図1は、第1の実施形態の構成図、図2は、図1の部分的な構成を示す構成図、図3はベイヤー配列を示す説明図、図4は高周波抽出フィルタの例を示す説明図、図5は低周波抽出フィルタの例を示す説明図、図6は低周波抽出フィルタの例を示す説明図、図7は残余高周波抽出フィルタの例を示す説明図、図8は残余高周波抽出フィルタの例を示す説明図、図9はバンドパスフィルタの特性を示す特性図、図10はコアリング変換処理の例を示す特性図である。
【0044】
画像処理装置の第1の実施形態は、デジタルカメラを想定したもので、被写体を撮影し、得られたデジタルデータを記憶媒体に記録する機能を実現するものである。図1において、レンズ系100、CCD101を介して撮影された画像は、A/D102においてデジタル信号に変換され、バッファ103に記憶される。バッファ103の出力は、ノイズ低減処理部104、エッジ強調処理部107、信号処理部105を順次介して、出力部106に入力されている。
【0045】
さらに、図示しない、マイクロコンピュータ等により構成される制御部が、各部と双方向に接続されている。バッファ103から読み出された画像信号は、ノイズ低減処理部104で、画像信号に含まれるノイズが低減された後、エッジ強調処理部107でエッジ強調処理が行われる。さらに信号処理部105において、色補正処理、圧縮処理などの、公知の信号処理が行われ、出力部106で記録媒体に保存される。また、ノイズ低減パラメータ設定部109がノイズ低減部104に、エッジ強調パラメータ設定部108がエッジ強調処理部107に接続されている。
【0046】
ノイズ低減処理は、図3に示すような、縦5画素、横5画素のベイヤー配列からなる領域を処理単位として行われる。ノイズ低減処理が行われると、図3で領域中心のG画素の信号が変換される。領域を2画素ずつ移動させながら、同様の処理を行うことを繰り返すことにより、画像全体にノイズ低減処理が行われる。これらのイズ低減処理は、制御部の制御に基づき行われる。
【0047】
図2には、図1のノイズ低減処理部104、エッジ強調処理部107、ノイズ低減パラ
メータ設定部109、エッジ強調パラメータ設定部108の詳細構成が示されている。ノイズ低減処理部104は、バッファ103から読み出した画像信号を、複数の周波数成分に分解し、分解した各成分に変換処理を施した後、再合成し、ノイズを低減する。ここでは、周波数分解は、方向性のある高周波抽出フィルタによって行われる。
【0048】
低周波抽出部200は、バッファ103から読み出された画像信号に、図5、または図6に示されている低周波抽出フィルタを適用し、低周波成分を抽出する。低周波抽出フィルタは、LPFフィルタ係数設定部222により設定される。低周波抽出部200により抽出された低周波成分は、合成部209に出力される。高周波抽出部201は、バッファ103から読み出された画像信号に、図4に示す高周波抽出フィルタ(H1〜H12)と、図7または、図8に示されている残余高周波抽出フィルタにより、13種類の高周波成分を抽出する。
【0049】
高周波抽出フィルタ(H1〜H12)と残余高周波抽出フィルタは、HPFフィルタ係数設定部221により設定される。図4は、高周波抽出フィルタ(H1〜H12)を示しており、(a)は45度斜め高周波成分、(b)は135度斜め高周波成分、(c)は水平垂直高周波成分、をそれぞれ抽出する。また、45度斜め高周波抽出フィルタは、第一〜第四の高周波抽出フィルタ(H1〜H4)からなる。また、135度斜め高周波抽出フィルタは、第一〜第四の高周波抽出フィルタ(H5〜H8)からなる。さらに、水平垂直高周波抽出フィルタは、第一〜第四の高周波抽出フィルタ(H9〜H12)からなる。なお、1/16は、ビットシフト演算されるレベル調整用の除数である。図2の高周波抽出部201は、図4(a)〜(c)に示されているように、45度斜め方向、135度斜め方向、水平垂直方向の方向性のある高周波成分を抽出している。
【0050】
残余高周波成分は、原信号から、低周波成分、水平垂直高周波成分、45度斜め高周波成分、135度斜め高周波成分を抽出した後の残りの成分である。図7または、図8に示されている残余高周波抽出フィルタは、低周波成分、水平垂直高周波成分、45度斜め高周波成分、135度斜め高周波成分、残余高周波成分のすべての成分を合成することにより、原信号が完全に復元されるようにするために設けられている。
【0051】
高周波変換部202は、抽出された各高周波成分に変換処理を行うことにより、各高周波成分に含まれているノイズを低減する。高周波変換部202では、図10に示すようなコアリング変換処理が行われる。図10において、○の部分は閾値よりも絶対値が小さい振幅の成分を示している。高周波変換部202では、図10のコアリング変換処理を行い、各高周波成分のうち、前記○の部分である閾値よりも小さい振幅の成分を削除することにより、ノイズを低減する。ノイズが低減された高周波成分は、合成部209にて他の成分と合成される。
【0052】
エッジ強調処理部107は、ノイズ低減処理が行われた画像信号から、エッジ成分と低周波成分を抽出し、適宜エッジ成分に変換処理を行った後、低周波成分に加算混合することにより、画像信号の鮮鋭感を調整する。画素補間部210は、図3に示す処理ブロックのG画素の信号にローパスフィルタをかけることにより、低周波成分を抽出する。この処理により、図3に示す処理ブロックのR/B画素におけるG成分が生成される。エッジ抽出部211は、図3に示す処理ブロックのG画素の信号にバンドパスフィルタをかけることにより、エッジ成分を抽出する。
【0053】
エッジ強調部212は、エッジ成分に係数をかけることにより、エッジ成分の変換処理を行う。エッジ加算部213では、エッジ強調部212で変換処理されたエッジ成分と、画素補間部210で抽出された低周波成分を合成し、エッジ強調された画像信号を得る。強調量設定部232からエッジ強調部212に与えられる強調係数を変えたり、BPFフ
ィルタ係数設定部231からエッジ抽出部211に与えられるバンドパスフィルタ係数を変えることにより、鮮鋭感の調整が行われる。これらの係数の変更は、モード設定部250のモード設定に応じて行われる。エッジ強調モード設定に応じて、エッジ抽出部211のバンドパスフィルタの特性が、図9(a)に示すようにBPF1、もしくは図9(b)に示すようにBPF2となるように、バンドパスフィルタの係数が切り換えられる。
【0054】
エッジ抽出部211のバンドパスフィルタが切り換えられると、それに応じて、ノイズ低減処理部104における低周波抽出部200の低周波抽出フィルタも切り換える。エッジ抽出フィルタBPF1の特性に対しては、図5に示す低周波抽出フィルタ1を、またエッジ抽出フィルタBPF2の特性に対しては、図6に示す低周波抽出フィルタ2を設定する。図5に示す低周波抽出フィルタ1は図9(a)のLPF1の特性を有し、図6に示す低周波抽出フィルタ2は図9(b)のLPF2の特性を有している。
【0055】
さらに、低周波抽出部200の低周波抽出フィルタの切り換えに応じて、高周波抽出部201の残余高周波抽出フィルタも切り換える。図5に示す低周波抽出フィルタ1に対しては、図7に示す残余高周波抽出フィルタ1を設定する。また、図6に示す抽出フィルタ2に対しては、図8に示す残余高周波抽出フィルタ2を設定する。
【0056】
ノイズ低減処理部104の低周波抽出部200の出力は、そのまま、エッジ強調処理部107に入力される。このため、ノイズ低減処理部104の低周波抽出フィルタの周波数特性と、エッジ強調処理部107のバンドパスフィルタの周波数特性に、図9で示すような重なり部分が生じる。このように重なり部分があると、重なった部分の周波数成分が強調される。この周波数特性が重なった周波数領域にノイズの成分が残留していると、ノイズ成分が強調されて画質の劣化を招く。一方、エッジ強調処理部107のバンドパスフィルタの特性は、所望の鮮鋭感が得られるように、個別に調整されるため、ノイズ低減処理部104の低周波抽出フィルタの周波数特性と、エッジ強調処理部107のバンドパスフィルタの周波数特性の関係は、ひとつに定まらない。
【0057】
そこで、上記のように、鮮鋭感の調整に応じて、エッジ強調処理部107のバンドパスフィルタの周波数特性が変更された場合には、ノイズ低減処理部104の低周波抽出フィルタの周波数特性も変更する。これにより、ノイズ低減処理部104の低周波抽出フィルタの周波数特性と、エッジ強調処理部107のバンドパスフィルタの周波数特性に重なり部分が少なくなるようにして、残留したノイズ成分が強調されることによる画質の劣化を防止する。
【0058】
図11〜図18は、本発明の第2の実施形態に適用される図である。図11は第2の実施形態の構成図、図12は図11の部分的な構成を示す構成図、図13は図12の部分的な構成を示す構成図、図14はノイズモデルの例を示す特性図、図15は図12の部分的な構成を示す構成図、図16は高周波抽出フィルタの例を示す説明図、図17は低周波抽出フィルタの例を示す説明図、図18は図12の変形例を示す構成図である。なお、第1の実施形態で説明した図3のベイヤー配列を示す説明図と、図10のコアリング変換処理の例を示す特性図は、第2の実施形態でも適用される。
【0059】
図11に、本発明の第2の実施形態における画像処理装置を示す。この発明の実施形態は、デジタルカメラを想定しており、被写体を撮影し、得られたデジタルデータを記憶媒体に記録する機能を実現するものである。レンズ系100、CCD101を介して撮影された画像は、A/D102においてデジタル信号に変換され、バッファ103に記憶される。バッファ103の出力は、ノイズ低減処理部104、信号処理部105を順次介して、出力部106に入力されている。
【0060】
さらに、図示しない、マイクロコンピュータ等により構成される制御部が、各部と双方向に接続されている。バッファ103から読み出された画像信号は、ノイズ低減処理部104で画像信号に含まれるノイズが低減された後、信号処理部105において、色補正処理、圧縮処理などの公知の信号処理が行われ、出力部106で記録媒体に保存される。また、感度設定部404が、ノイズ低減部104に接続されている。
【0061】
ノイズ低減処理部104におけるノイズ低減処理は、第1の実施形態で説明したと同様に、図3で示された縦5画素、横5画素のベイヤー配列からなる領域を処理単位として行われる。ノイズ低減処理が行われると、図3で領域中心のG画素の信号が変換される。領域を2画素ずつ移動させながら、同様の処理を行うことを繰り返すことにより、画像全体にノイズ低減処理が行われる。これらのノイズ低減処理は、制御部の制御に基づき行われる。
【0062】
図12に、ノイズ低減処理部104の詳細な構成を示す。ノイズ低減処理部104は、エッジ方向適応ノイズ低減処理部401、エッジ方向非適応ノイズ低減処理部402と、エッジ方向適応ノイズ低減処理部401、およびエッジ方向非適応ノイズ低減処理部402のそれぞれの出力に接続された信号選択部403とからなる。エッジ方向適応ノイズ低減処理部401は、バッファ103から読み出した画像信号を、複数の周波数成分に分解し、分解した各成分に変換処理を施した後、再合成し、ノイズを低減する。ここでは、周波数分解は、方向性のある高周波抽出フィルタによって行われる。エッジ方向適応ノイズ低減処理部401で実現されるノイズ低減処理は、複数の高周波成分に分割し、分割された成分ごとにノイズ低減処理を行うため、画像信号に含まれる本来の構造と、ノイズ成分との分離性が良いという特徴がある。
【0063】
低周波抽出部200は、バッファ103から読み出された画像信号に、図17に示す低周波抽出フィルタを適用し、低周波成分を抽出する。抽出された低周波成分は、合成部209に出力される。また、高周波抽出部201は、水平高周波抽出部421、垂直高周波抽出部423、斜め高周波抽出部425からなる。高周波抽出部201は、バッファ103から読み出された画像信号に、図16に示す高周波抽出フィルタ(H1〜H12)により、12種類の高周波成分を抽出する。
【0064】
高周波変換部202は、水平高周波変換部422、垂直高周波変換部424、斜め高周波変換部426を有している。高周波変換部202は、水平高周波抽出部421、垂直高周波抽出部423、斜め高周波抽出部425で抽出された各高周波成分に変換処理を行うことにより、各高周波成分に含まれているノイズを低減する。
【0065】
図16の高周波抽出フィルタ(H1〜H12)において、(a)は水平高周波成分、(b)は垂直高周波成分、(c)は斜め高周波成分、をそれぞれ抽出する。図16においては、図6で説明したと同様に、例えば、水平高周波抽出フィルタは、第一〜第四の高周波抽出フィルタ(H1〜H4)からなる。また、垂直高周波抽出フィルタは、第一〜第四の高周波抽出フィルタ(H5〜H8)からなる。さらに、斜め高周波抽出フィルタは、第一〜第四の高周波抽出フィルタ(H9〜H12)からなる。このように、高周波抽出フィルタは、水平方向、垂直方向、斜め方向の方向性のある高周波抽出を行う。
【0066】
高周波変換部202では、前記した図10に示すようなコアリング変換処理が行われる。各高周波成分のうち、閾値よりも小さい振幅の成分(図10の○印の領域)を削除することによりノイズを低減する。高周波閾値算出部451は、変換処理に用いられる閾値を決定する。ノイズが低減された高周波成分は、合成部209にて他の成分と合成される。
【0067】
図13に示されるように、高周波閾値算出部451は、ノイズ量推定部806、閾値調
整部449から構成される。ノイズ量推定部806は、図14に示すノイズモデルと低周波抽出部200で得られた低周波成分を用いて、高周波成分に含まれると推定されるノイズ量を求める。図14のノイズモデルは、予め、理論計算や実測により定められており、実線が高感度時、破線が低感度時の特性を示している。図13に示される閾値調整部449は、ノイズ量推定部806で得られたノイズ量に調整値を乗算する。この調整値は、水平高周波変換部422、垂直高周波変換部424、斜め高周波変換部426において行われる変換処理の強度を調整するための値で、所望の画質が得られるように、予め調整作業を行って決定された値が設定されている。
【0068】
図l5に示されたエッジ方向非適応ノイズ低減処理部402は、バッファ103から読み出した画像信号を、第二低周波抽出部410および第二高周波抽出部411で低周波成分と高周波成分に分解する。第二低周波抽出部410で抽出された低周波成分(A)は、第二高周波閾値算出部452に入力される。また、第二低周波抽出部410で抽出された低周波成分は、符号が反転された後、第二高周波抽出部411の加算器Cでバッファ103から読み出した画像信号と合成される。この結果、画像信号に含まれる高周波成分が抽出される。
【0069】
第二高周波閾値算出部452は、図13で説明した高周波閾値算出部451と同じ構成で、ノイズ量推定部806、閾値調整部449から構成される。第二高周波閾値算出部452の出力は、第二高周波変換部412に入力され、第二高周波抽出部411で抽出された高周波成分に対する変換処理の強度を調整する。第二高周波変換部412で高周波成分に変換処理を施した後、第二合成部409において第二低周波抽出郁410で抽出された低周波成分と再合成し、ノイズを低減する。第二合成部409の出力は、信号選択部403に入力される。
【0070】
図12の第二低周波抽出部410は、バッファ103から読み出された画像信号に、図17に示す低周波抽出フィルタを適用し、低周波成分を抽出する。低周波抽出フィルタで抽出された低周波成分は、第二合成部409に出力される。第二高周波抽出部411は、減算器で構成され、バッファ103から読み出された画像信号から、低周波成分を減算することにより、高周波成分を抽出する。第二高周波変換部412は、第二高周波抽出部411で抽出された高周波成分に変換処理を行うことにより、高周波成分に含まれているノイズを低減する。
【0071】
第二高周波変換部412では、図10に示すようなコアリング変換処理が行われる。すなわち、第二高周波変換部412は高周波成分のうち、閾値よりも小さい振幅の成分を削除することによりノイズを低減する。第二高周波閾値算出部452は、変換処理に用いられる閾値を決定する。第二高周波変換部412でノイズが低減された高周波成分は、第二低周波抽出部410で抽出された低周波成分と第二合成部409で合成される。第二高周波閾値算出部452は、高周波閾値算出部451と同じ構成で、ノイズモデル、調整値が異なるものとなっている。
【0072】
信号選択部403は、エッジ方向適応ノイズ低減処理部401の出力と、エッジ方向非適応ノイズ低減処理部402の出力を入力とし、感度設定部404の撮影感度設定に応じて、どちらかの信号を選択して信号処理部105に出力する。撮影感度が予め決められた感度よりも高い場合、信号選択部403は、エッジ方向非適応ノイズ低減処理部402の出力を選択して信号処理部105に出力する。
【0073】
感度設定部404では、撮像素子の温度または入力信号に対するゲインまたは撮影時のシャッター速度のうち少なくとも一つの情報に基づき撮影感度を設定する。また、感度設定部404は、ISO感度、露出情報、ホワイトバランス情報の少なくとも一つ以上の情
報に基づき前記ゲインを求めるゲイン算出手段を有する。
【0074】
撮影感度が高い場合、画像信号に含まれるノイズが増えるため、図3に示すような小さな処理ブロック領域内では、画像信号に含まれる本来の構造と、ノイズ成分によって偶々生じた構造との区別が難しくなってくる。このため、ノイズ成分の一部が低減されずに残留してアーティファクトを発生させてしまい、画質を劣化してしまう。この結果、撮影感度が高い場合、エッジ方向適応ノイズ低減処理部401で実現されるノイズ低減処理よりも、エッジ方向非適応ノイズ低減処理部402で実現されるノイズ低減処理の方が好ましい結果を得られる。
【0075】
そこで、撮影感度が低い場合は、エッジ方向適応ノイズ低減処理部401の出力を、ノイズ低減処理部104の出力とする。また、撮影感度が高く、画像信号に含まれるノイズ量が多い場合には、エッジ方向非適応ノイズ低減処理部402の出力を、ノイズ低減処理部104の出力とする。このように、信号選択部403は、撮影感度に応じてエッジ方向適応ノイズ低減処理部401、またはエッジ方向非適応ノイズ低減処理部402の出力を選択して信号処理部105に出力する。
【0076】
このように、撮影感度に応じてノイズ低減処理を制御することにより、撮影感度が低い場合には、画像信号に含まれる本来の構造とノイズ成分を分離して、効果的にノイズ低減を行い、鮮鋭感の向上とノイズの低減を両立する。また、撮影感度が高い場合には、アーティファクトの発生を防止する。なお、図12の信号選択部403の代わりに、図18に示すような重み付け加算部500を設け、撮影感度が高くなるほど、エッジ方向非適応ノイズ低減処理部402の出力の重みを大きくするように制御しても良い。
【0077】
図l8の重み付け加算部500は、乗算器D、Eと加算器Fからなる。係数生成部501は、感度設定部404で設定された撮影感度に応じて、エッジ方向適応ノイズ低減処理部401の出力に対する重み係数を決定して、乗算器Eに設定し、エッジ方向非適応ノイズ低減処理部402の出力に対する重み係数を決定して、乗算器Dに設定する。乗算器Eは、エッジ方向適応ノイズ低減処理部401の出力に対して、エッジ方向適応ノイズ低減処埋部401の出力に対する重み係数を乗算して、加算器Fに出力する。乗算器Dは、エッジ方向非適応ノイズ低減処理部402の出力に対して、エッジ方向非撓応ノイズ低減処理部402の出力に対する重み係数を乗算して、加算器Fに出力する。加算器Fは、係数生成部501によって決定された係数により重み付けされたエッジ方向適応ノイズ低減処理部401の出力とエッジ方向非適応ノイズ低減処理部402の出力を加算して信号処理部105に出力する。上記の例では、信号選択部403における信号の選択や、重み付け加算部500における信号の重み付け加算処理は、感度設定部404で設定された撮影感度に応じて行われている。これらの信号選択や重み付け加算処理は、画像信号に含まれるノイズ量に応じて行われることが望ましい。そこで、感度設定部404で設定された撮影感度の代わりに、ノイズ推定部806から出力されるノイズ推定量に基づいて、信号選択部403における信号の選択や、重み付け加算部500における信号の重み付け加算処理が行われる構成としても良い。
【0078】
図19〜図24は、本発明の第3の実施形態に適用される図である。図19は第3の実施形態の構成図、図20は高周波抽出フィルタの例を示す説明図、図21は第3の実施形態にかかる変形例の構成図、図22は図21の部分的な構成を示す構成図、図23は画素の例を示す説明図、図24は局所分散値の例を示す特性図である。なお、第2の実施形態で説明した図16の高周波抽出フィルタの例を示す説明図、図17で説明した低周波抽出フィルタの例を示す説明図も、第3の実施形態に適用される。
【0079】
第2の実施形態では、図12の構成図に示されているように、周波数分解の方法が異な
る二つのノイズ低減処理部であるエッジ方向適応ノイズ低減処理部401とエッジ方向非適応ノイズ低減処理部402を設け、信号選択部403で、それぞれの出力を選択して出力していた。第3の実施形態では、ノイズ低減処理部をエッジ方向適応ノイズ低減処理部401とエッジ方向非適応ノイズ低減処理部402の二つ設けることに代えて、フィルタ係数を切り換えることにより、実行されるノイズ低減処理を切り換えるものである。
【0080】
本実施形態では、図19に示されているように、図12のエッジ方向適応ノイズ低減処理部401と同じ構成に、フィルタ係数設定部220を加えた構成からなるノイズ低減部104を設ける。図19において、フィルタ係数設定部220は、水平高周波抽出部421、垂直高周波抽出部423、斜め高周波抽出部425に、感度設定部404の撮影感度に応じて異なる抽出フィルタ係数を設定する。
各高周波抽出部421、423、425には、それぞれ水平高周波変換部422、垂直高周波変換部424、斜め高周波変換部426が接続されている。
【0081】
図19において、感度設定部404で設定された撮影感度の設定に基づいてフィルタ係数設定部220で、各高周波成分に設定される抽出フィルタ係数が変更されることにより、エッジ方向適応ノイズ低減処理とエッジ方向非適応ノイズ低減処理の切り換えが行われる。撮影感度が予め決められた感度よりも低い場合は、第2の実施形態で説明した図16(高周波抽出フィルタ)、図17(低周波抽出フィルタ)に示すフィルタ係数が設定されることにより、エッジ方向適応ノイズ低減処理が行われる。一方、撮影感度が予め決められた感度よりも高い場合は、図20(高周波抽出フィルタ)、図17(低周波抽出フィルタ)に示すフィルタ係数が設定されることにより、エッジ方向非適応ノイズ低減処理が行われる。
【0082】
ここで、図20は、図16と同様に、各高周波抽出部に設定される抽出フィルタを示したものである。撮影感度が予め決められた感度よりも高い場合は、エッジ方向非適応ノイズ低減処理が行われるようにする。このため、第一水平高周波抽出フィルタ(H1)のみを高周波抽出フイルタとして用い、他の高周波抽出フイルタ(H2〜H12)には、すべて0の係数を設定する。この結果、第一水平高周波抽出フィルタにより、すベての方向の高周波戒分が抽出され、エッジ方向非適応ノイズ低減処理が行われる。
【0083】
図21に第3の実施形態の変形例を示す。図19に示した第3の実施形態においては、感度設定部404の撮影感度の設定に応じて、低周波抽出部200、および各高周波抽出部(421〜425)に設定される抽出フィルタ係数を変更していた。図21に示す変形例では、画像信号に含まれるノイズ量を推定し、推定されたノイズ量に基づき、抽出フィルタ係数を変更する。図21に示されているように、図19の撮影感度を設定する感度設定部404に代えてノイズ量分析部881が設けられている。
【0084】
図22にノイズ量分析部881を示す。高周波抽出部891は、図20の高周波抽出フィルタにおいて、H1で示すフィルタにより画像信号の高周波成分を抽出する。分散算出部892は、注目画素の周辺n×n画素における局所分散値を算出する。局所分散値は、図23に示す注目画素の周辺n×n画素における高周波成分の二乗値を合計し、nの二乗で除算したものである。入力画像の全画素に対応する高周波成分に対して局所分散値を算出し、分散値バッファ893に一時的に保持する。
【0085】
ヒストグラム生成部894は、分散値バッファ893の局所分散値に基づき、局所分散値のヒストグラムを生成する。最頻値検出部895は、図24の特性図に示すように、局所分散値のヒストグラムから、最も発生頻度が高い局所分散値を決定し、この時の局所分散値を、画像信号に含まれるノイズ量の推定値として出力する。フィルタ係数設定部220は、図21で説明したようにノイズ量の推定値に基づいて、低周波抽出部200および
各高周波抽出部(421〜425)に設定される抽出フィルタ係数を変更する。
【0086】
ノイズ量の推定値が、予め決められた値より小さいときは、図16(高周波抽出フィルタ)、図17(低周波抽出フィルタ)に示すフィルタ係数が設定されることにより、エッジ方向適応ノイズ低減処理が行われる。一方、ノイズ量の推定値が、予め決められた感度よりも高い場合は、図20(高周波抽出フィルタ)、図17(低周波抽出フィルタ)に示すフィルタ係数が設定されることにより、エッジ方向適応非ノイズ低減処理が行われる。また、ノイズ量の推定値は、閾値調整部449にも与えられ、各高周波成分の変換処理の閾値の基準としても用いられる。
【0087】
本変形例では、画像信号から、画像信号に含まれるノイズ量の推定値を算出するに際して、分散算出部892の処理による局所分散値を用いる方法を示したが、これに限定されるものではない。
【0088】
図25〜図27は第4の実施形態に適用される図である。図25は第4の実施形態の構成図、図26は、図25の部分的な構成を示す構成図、図27は図25の部分的な構成を示す構成図である。また、図4の高周波抽出フィルタ、図6の低周波抽出フィルタ、図8の残余高周波抽出フィルタ、図16の高周波抽出フィルタ、および図17の低周波抽出フィルタも第4の実施形態に適用される。
【0089】
図25に、本発明の第4の実施形態における画像処理装置を示す。レンズ系100、CCD101を介して撮影された画像は、A/D102においてデジタル信号に変換され、バッファ103に記憶される。バッファ103に得られたRGB原色信号は、輝度色差分離部911に入力され、輝度信号(G)と色差信号(R−G、B−G)に分離される。輝度信号は、ノイズ低減処理部104に入力され、色差信号は、色差ノイズ低減処理部450に入力されて、それぞれ別個にノイズ低滅処理がなされる。
【0090】
図26に、輝度信号(G)に対してノイズ低減処理を行うノイズ低減処理部104を示す。低周波抽出部200は、図6に示す低周波抽出フィルタにより構成される。水平垂直高周波抽出部201、45度斜め高周波抽出部203、135度斜め抽出部205は、図4に示す高周波抽出フィルタ(H1〜H12)により構成される。残余高周波抽出フィルタ207は、図8に示す残余高周波抽出フィルタにより構成される。
【0091】
高周波閾値算出部451は、図13で説明したように、ノイズ量推定部806、閾値調整部449で構成される。ノイズ量推定部806は、高周波成分に含まれると推定されるノイズ量を求めその出力は閾値調整部449に入力される。閾値調整部449は、前記ノイズ量に調整値を乗算して閾値を算出する。閾値調整部449で算出された閾値の出力Bは、水平垂直高周波変換処理部202、45度斜め高周波変換処理部204、135度斜め高周波変換処理部206に入力される。
【0092】
残余高周波閾値算出部900は、ノイズ量調整部920、閾値調整部949で構成される。高周波閾値算出部451のノイズ量推定部806の出力は、残余高周波閾値算出部900のノイズ量調整部920にも入力される。ノイズ量調整部920の出力は閾値調整部949に入力され、ノイズ量に調整値を乗算してその出力は残余高周波変換処理部208に入力される。各高周波変換処理部202〜208でノイズを低減した高周波成分の出力は、合成部209に入力される。合成部209には、低周波抽出部200でノイズを低減された低周波成分の出力も入力され、前記高周波成分の出力と合成される。合成部209で合成された出力は、図25で示した信号処理部105に出力される。
【0093】
図27に色差信号(R−G)、(B−G)に対してノイズ低減処理を行う色差ノイズ低
減処理部450を示す。低周波抽出部200は、図17に示す低周波抽出フィルタにより構成される。水平高周波抽出部421、垂直高周波抽出部403、斜め高周波抽出部405は、図16に示す高周波抽出フィルタ(H1〜H12)により構成される。水平高周波抽出部421は、第一水平高周波抽出部441、第二水平高周波抽出部443、第三水平高周波抽出部445、第四水平高周波抽出部447からなる。また、水平高周波変換部422は、第一水平高周波変換部442、第二水平高周波変換部444、第三水平高周波変換部446、第四水平高周波変換部448からなる。垂直高周波抽出部403、斜め高周波抽出部405も、水平高周波抽出部421と同様に、第一から第四の四つの抽出部から構成されている。また、垂直高周波変換部404、斜め高周波変換部406も同様である。
【0094】
輝度色差分離部911から出力された色差信号は、水平高周波抽出部421、垂直高周波抽出部403、斜め高周波抽出部405と低周波抽出部200に入力される。低周波抽出部200では、低周波抽出フィルタで低周波成分を抽出して出力を合成部209に入力する。また、低周波抽出部200の出力は、図26で説明したような、ノイズ量推定部806、閾値調整部449で構成される高周波閾値算出部451に入力される。閾値調整部449で低周波成分のノイズ量に調整値を乗算して算出された閾値の出力Bは、垂直高周波変換部406、斜め高周波変換部404に入力される。また、水平高周波変換部422の第一水平高周波変換部442、第二水平高周波変換部444、第三水平高周波変換部446、第四水平高周波変換部448に入力される。
【0095】
輝度色差分離部911から入力され、各高周波抽出部(421、403、405)で抽出された高周波成分に対して、各高周波変換部(422、404、406)で、前記閾値調整部449で算出された閾値に基づき、閾値処理を行う。
このような閾値処理を行うことにより、高周波成分のノイズ成分を削除する。低周波抽出部200で抽出された低周波成分と、垂直高周波変換部406、斜め高周波変換部404、および水平高周波変換部422の第一〜第四高周波変換部(442〜448)でノイズ成分を削除した高周波成分を、合成部209で合成することにより、ノイズを低減した画像信号を得る。この画像信号は、図25で示した信号処理部105に出力される。
【0096】
第4の実施形態においては、輝度信号の周波数分割特性と色差信号の周波数分割特性が異なることが特徴である。ベイヤー配列では、輝度信号の周波数特性と色差信号の周波数特性が異なる。輝度信号、および色差信号は、図26、図27で説明したように、それぞれに適した周波数分割方法で変換処理を行うことができる。
【産業上の利用可能性】
【0097】
以上説明したように、本発明によれば、画像信号を処理する際の周波数特性の変化に対応すると共に、適切なノイズ低減と画像細部の保持の両立が可能な画像処理装置を提供することができる。
【符号の説明】
【0098】
100・・・レンズ系、101・・・CCD、102・・・A/D、103・・・バッファ、104・・・ノイズ低減処理部、105・・・信号処理部、106・・・出力部、107・・・エッジ強調処理、108・・・エッジ強調パラメータ設定部、109・・・ノイズ低減パラメータ設定部、200・・・低周波抽出部、201・・・高周波抽出部、202・・・高周波変換部、209・・・合成部、220・・・フィルタ係数設定部、221・・・HPFフィルタ係数設定部、222・・・LPFフィルタ係数設定部、400・・・色差信号生成部、401・・・エッジ方向適応ノイズ低減処理部、402・・・エッジ方向非適応ノイズ低減処理部、403・・・信号選択部、404・・・感度設定部、409・・・第2合成部、410・・・第2低周波抽出部、411・・・第2高周波抽出
部、412・・・第2高周波変換部、421・・・水平高周波抽出部、422・・・水平高周波変換部、449・・・閾値調整部、450・・・色差ノイズ低減処理部、451・・・高周波閾値算出部、452・・・第2高周波閾値算出部、500・・・重み付け加算部、806・・・ノイズ量推定部、881・・・ノイズ量分析部、894・・・ヒストグラム生成部、895・・・最頻値検出部、900・・・残余高周波閾値算出部、911・・・輝度色差分離部
【特許請求の範囲】
【請求項1】
入力信号を低周波成分と少なくとも一つの高周波成分に分割する周波数分割手段と、前記高周波成分に対して変換処理を行う高周波成分変換手段と、前記低周波成分と変換処理された高周波成分とを合成する周波数合成手段と、前記入力信号のノイズ特性を推定するノイズ特性推定手段と、前記ノイズ特性推定手段における推定結果に応じて、周波数分割手段における分割特性を設定する周波数分割特性設定手段と、を有することを特徴とする画像処理装置。
【請求項2】
前記高周波成分変換手段は、前記高周波成分のうち、所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段と、からなることを特徴とする請求項2に記載の画像処理装置。
【請求項3】
ノイズ特性推定手段は、撮像素子の温度または前記入力信号に対するゲインまたは撮影時のシャッター速度のうち少なくとも一つの情報に基づき前記入力信号に含まれるノイズ量を推定するノイズ量推定手段からなることを特徴とする請求項1に記載の画像処理装置。
【請求項4】
ノイズ特性推定手段は、ISO感度、露出情報、ホワイトバランス情報の少なくとも一つ以上の情報に基づき前記ゲインを求めるゲイン算出手段をさらに有することを特徴とする請求項1に記載の画像処理装置。
【請求項5】
前記周波数分割特性設定手段は、前記周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定することを特徴とする請求項1に記載の画像処理装置。
【請求項6】
入力信号を低周波成分と少なくとも一つの高周波成分に分割する周波数分割手段と、前記高周波成分に対して変換処理を行う高周波成分変換手段と、低周波成分と変換処理された高周波成分とを合成する周波数合成手段と、前記入力信号の周波数特性を推定する周波数特性推定手段と、前記周波数特性推定手段における推定結果に応じて、周波数分割手段における分割特性を設定する周波数分割特性設定手段と、を有することを特徴とする画像処理装置。
【請求項7】
前記高周波成分変換手段は、前記高周波成分のうち、所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段と、からなることを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記周波数特性推定手段は、撮像素子の前面に各画素ごとに設けられている少なくとも二種類の色フィルタの配置情報から前記色フィルタに対応する信号の周波数特性を推定することを特徴とする請求項6に記載の画像処理装置。
【請求項9】
前記周波数特性推定手段は、色信号の種別から当該色信号の周波数特性を推定することを特徴とする請求項6に記載の画像処理装置。
【請求項10】
周波数分割特性設定手段は、前記周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定することを特徴とする請求項6に記載の画像処理装置。
【請求項1】
入力信号を低周波成分と少なくとも一つの高周波成分に分割する周波数分割手段と、前記高周波成分に対して変換処理を行う高周波成分変換手段と、前記低周波成分と変換処理された高周波成分とを合成する周波数合成手段と、前記入力信号のノイズ特性を推定するノイズ特性推定手段と、前記ノイズ特性推定手段における推定結果に応じて、周波数分割手段における分割特性を設定する周波数分割特性設定手段と、を有することを特徴とする画像処理装置。
【請求項2】
前記高周波成分変換手段は、前記高周波成分のうち、所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段と、からなることを特徴とする請求項2に記載の画像処理装置。
【請求項3】
ノイズ特性推定手段は、撮像素子の温度または前記入力信号に対するゲインまたは撮影時のシャッター速度のうち少なくとも一つの情報に基づき前記入力信号に含まれるノイズ量を推定するノイズ量推定手段からなることを特徴とする請求項1に記載の画像処理装置。
【請求項4】
ノイズ特性推定手段は、ISO感度、露出情報、ホワイトバランス情報の少なくとも一つ以上の情報に基づき前記ゲインを求めるゲイン算出手段をさらに有することを特徴とする請求項1に記載の画像処理装置。
【請求項5】
前記周波数分割特性設定手段は、前記周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定することを特徴とする請求項1に記載の画像処理装置。
【請求項6】
入力信号を低周波成分と少なくとも一つの高周波成分に分割する周波数分割手段と、前記高周波成分に対して変換処理を行う高周波成分変換手段と、低周波成分と変換処理された高周波成分とを合成する周波数合成手段と、前記入力信号の周波数特性を推定する周波数特性推定手段と、前記周波数特性推定手段における推定結果に応じて、周波数分割手段における分割特性を設定する周波数分割特性設定手段と、を有することを特徴とする画像処理装置。
【請求項7】
前記高周波成分変換手段は、前記高周波成分のうち、所定の高周波成分における所定の範囲を有する要素を強調または抑制する高周波成分抑制手段と、所定の範囲を定める少なくとも一つの閾値を設定する閾値設定手段と、からなることを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記周波数特性推定手段は、撮像素子の前面に各画素ごとに設けられている少なくとも二種類の色フィルタの配置情報から前記色フィルタに対応する信号の周波数特性を推定することを特徴とする請求項6に記載の画像処理装置。
【請求項9】
前記周波数特性推定手段は、色信号の種別から当該色信号の周波数特性を推定することを特徴とする請求項6に記載の画像処理装置。
【請求項10】
周波数分割特性設定手段は、前記周波数分割手段を構成する周波数分割フィルタ群のうち少なくとも一つの周波数分割フィルタの係数を設定することを特徴とする請求項6に記載の画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【公開番号】特開2011−243233(P2011−243233A)
【公開日】平成23年12月1日(2011.12.1)
【国際特許分類】
【出願番号】特願2011−196947(P2011−196947)
【出願日】平成23年9月9日(2011.9.9)
【分割の表示】特願2005−224927(P2005−224927)の分割
【原出願日】平成17年8月3日(2005.8.3)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
【公開日】平成23年12月1日(2011.12.1)
【国際特許分類】
【出願日】平成23年9月9日(2011.9.9)
【分割の表示】特願2005−224927(P2005−224927)の分割
【原出願日】平成17年8月3日(2005.8.3)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
[ Back to top ]