説明

画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムが記録された記録媒体

【課題】階調変換処理によって増幅されたノイズの双方を低減しつつ、先鋭感を劣化させない画像処理を行うことを目的とする。
【解決手段】階調変換処理手段103により、所定の階調変換特性に基づいて画像データに対して階調変換処理を行い、ノイズ低減処理手段104により画像データに対してノイズ低減処理を行いう。その後、合成比率算出手段105により、階調変換特性に基づいて、ノイズ低減処理手段104によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとの合成比率を算出し、この合成比率に基づいて、ノイズ低減処理手段104によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとを合成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムが記録された記録媒体に関し、特に画像のノイズの低減処理を行う画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムが記録されたコンピュータ読取可能な記録媒体に関する。
【背景技術】
【0002】
従来、画像シーンの明るさやコントラストをコントロールするために画像データに対して階調変換処理が行われている。ここで、階調変換処理にはγ補正のように画像シーンにおいて一つの階調変換特性で画像全体の階調変換処理を行う、いわゆるスペースインバリアントな階調変換処理と、画像シーンのダイナミックレンジを広くするために画像シーンの領域毎に階調変換特性を変えて階調変換処理を行う、いわゆるスペースバリアントな階調変換処理とがある。
【0003】
しかし、何れの階調変換処理も、画像シーンの暗い領域を明るくすることができる反面、同時にその領域のノイズを増幅してしまうという問題がある。このため、特開2007−312331号公報(特許文献1)には、階調変換処理で用いた階調変換特性の傾きが急峻な場合にノイズ低減の強さを大きくすることにより、階調変換処理によって増幅されたノイズを低減する技術が開示されている。
【0004】
一方、ノイズ低減処理を行うと、画像の先鋭感を劣化させてしまうという問題があり、特許文献1に開示された技術では、階調変換処理によって増幅されたノイズを低減することはできるが、その反面、画像の先鋭感を著しく劣化させてしまう虞がある。特開昭61−157164号公報(特許文献2)には、ノイズ低減前の画像からエッジを検出し、検出したエッジに応じてノイズ低減前の画像とノイズ低減後の画像を合成することにより、画像の先鋭感の劣化を防いでノイズ低減を行う技術が開示されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2007−312331号公報
【特許文献2】特開昭61−157164号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、特許文献2に開示された技術では、検出したエッジなど画像の特性のみに基づいてノイズ低減前の画像とノイズ低減後の画像を合成するため、階調変換処理により増幅されるノイズについては考慮されていない。
【0007】
本発明は、上記課題に鑑みてなされたものであって、画像の特性(例えば、輝度情報、エッジ情報、色情報など)に基づくノイズ、および、階調変換処理によって増幅されたノイズの双方を低減しつつ、先鋭感を劣化させない画像処理を行うことのできる画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムが記録されたコンピュータ読取可能な記録媒体を提供することを目的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するために、本発明は以下の手段を採用する。
本発明は、撮像系からの画像データに対して階調変換処理およびノイズ低減処理を行う画像処理装置あって、所定の階調変換特性に基づいて、前記画像データに対して階調変換処理を行う階調変換処理手段と、前記画像データに対してノイズ低減処理を行うノイズ低減処理手段と、前記階調変換特性に基づいて、前記ノイズ低減処理手段によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとの合成比率を算出する合成比率算出手段と、前記合成比率に基づいて、前記ノイズ低減処理手段によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとを合成する合成手段と、を備えることを特徴とする画像処理装置を提供する。
【0009】
本発明は、撮像系からの画像データに対して階調変換処理およびノイズ低減処理を行う画像処理方法であって、所定の階調変換特性に基づいて、前記画像データに対して階調変換処理を行う階調変換処理ステップと、前記画像データに対してノイズ低減処理を行うノイズ低減処理ステップと、前記階調変換特性に基づいて、前記ノイズ低減処理手段によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとの合成比率を算出する合成比率算出ステップと、前記合成比率に基づいて、前記ノイズ低減処理手段によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとを合成する合成ステップと、を備えることを特徴とする画像処理方法を提供する。
【0010】
また、本発明は、撮像系からの画像データに対して階調変換処理およびノイズ低減処理を行う画像処理プログラムであって、所定の階調変換特性に基づいて、前記画像データに対して階調変換処理を行う階調変換処理ステップと、前記画像データに対してノイズ低減処理を行うノイズ低減処理ステップと、前記階調変換特性に基づいて、前記ノイズ低減処理手段によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとの合成比率を算出する合成比率算出ステップと、前記合成比率に基づいて、前記ノイズ低減処理手段によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとを合成する合成ステップと、をコンピュータに実行させる画像処理プログラムを提供する。
【図面の簡単な説明】
【0011】
【図1】本発明の第1の実施形態にかかる画像処理装置の概略を示すブロック図である。
【図2】本発明の第1の実施形態にかかる画像処理装置の階調変換部において階調変換する際の階調変換特性の一例を示す特性図である。
【図3】本発明の第1の実施形態にかかる画像処理装置における階調変換から画像合成までの処理の流れを示すフローチャートである。
【図4】本発明の第2の実施形態にかかる画像処理装置の概略を示すブロック図である。
【図5】処理対象画素と処理対象画素を中心とする3×3の画素の領域の一例を示す図である。
【図6】輝度情報と合成比変化率との関係を示す図である。
【図7】エッジ情報と合成比変化率との関係を示す図である。
【図8】色情報と合成比変化率との関係を示す図である。
【図9】本発明の第3の実施形態にかかる画像処理装置の概略を示すブロック図である。
【図10】本発明の第4の実施形態にかかる画像処理装置の概略を示すブロック図である。
【図11】本発明の第4の実施形態にかかる画像処理装置における階調変換から画像合成までの処理の流れを示すフローチャートである。
【図12】(a)は、本発明の第4の実施形態にかかる画像処理装置において、輝度情報から合成費変化率を算出する際の処理の流れを示すフローチャートであり、(b)は、本発明の第4の実施形態にかかる画像処理装置において、エッジ情報から合成費変化率を算出する際の処理の流れを示すフローチャートであり、(c)は、本発明の第4の実施形態にかかる画像処理装置において、色情報から合成費変化率を算出する際の処理の流れを示すフローチャートである。
【図13】本発明の第4の実施形態にかかる画像処理装置における合成比率算出部における合成比率算出処理の流れを示すフローチャートである。
【発明を実施するための形態】
【0012】
以下、本発明に係る画像処理装置の実施形態について、図面を参照して説明する。
【0013】
(第1の実施形態)
図1は、本発明の第1の実施形態にかかる画像処理装置の概略構成を示したブロック図である。本実施形態にかかる画像処理装置は、図1に示すように、光学系100、撮像系101、画像処理部102、階調変換部(階調変換処理手段)103、ノイズ低減部(ノイズ低減処理手段)104、合成比率算出部(合成比率算出手段)105、合成部(合成手段)106、画像圧縮部107および記録メディア108を備えている。
【0014】
光学系100はレンズ等からなり被写体の像を結像するものであり、撮像系101上に像を結像するように配置されている。撮像系101は、CCD等の固体撮像素子を備えており、固体撮像素子で光学系100により結像された光学的な被写体像を光電変換して電気的な画像データを出力するとともに、CDS(Correlated Double Sampling)/差動サンプリング、アナログゲインの調整等を行う。画像処理部102は、画像データに対してホワイトバランス処理やOB減算などの各種処理を行い、処理後の画像データを階調変換部103に出力する。
【0015】
階調変換部103は、画像データに対して階調変換処理を行う。階調変換部103は、予め階調変換特性に関する関数や、ルックアップテーブルなどで設定されたデータを備えており、このデータから処理対象画素における階調変換特性を算出する。
【0016】
階調変換部103における階調処理変換が、例えば、画像シーンにおいて一つの階調変換特性で画像全体の階調変換処理を行う、いわゆるスペースインバリアントな階調変換処理であった場合には、図2に示すスペースインバリアントな階調変換特性図が設定されており、この階調変換特性に基づいて、画像データに対して階調変換処理を行う。ここで、スペースインバリアントな階調変換特性は、スペースインバリアントな階調変換処理後の画像の画素値をスペースインバリアントな階調変換処理前の画像の画素値で割ったもので各画素値の増幅率を示すものである。
【0017】
また、同様に階調変換部103における階調変換処理が、画像シーンのダイナミックレンジを広くするために画像シーンの領域毎に階調変換特性を変えて処理を行う、いわゆるスペースバリアントな階調変換処理であった場合には、図示しないが、これに応じた階調変換特性に関する特性図や関数、ルックアップテーブルなどを備えており、この階調変換特性に基づいて画像データに対して階調変換処理を行う。
【0018】
このような階調変換特性は、上述したように、予め任意の特性として関数やルックアップテーブルで設定されていても良いし、ヒストグラム平滑化処理などによって画像から算出されても良い。
【0019】
ノイズ低減部104は、階調変換後の画像データに対してノイズ低減処理を行うものであり、ノイズ低減の際の強度を示すデフォルト値が設定されている。
【0020】
合成比率算出部105では、階調変換部103で用いられた階調変換特性に基づいて、ノイズ低減前の画像データとノイズ低減後の画像データ後の合成比率を算出する。より具体的には、ノイズ低減前の画像データとノイズ低減後の画像データとの各画素に対応する増幅率に基づいて画素毎に合成比率を算出する。
【0021】
合成部106では、合成比率算出部105から入力された合成比率に基づいてノイズ低減前の画像データとノイズ低減後の画像データとを合成する。上述した処理は、画像の全画素について行われ、全画素に対する処理が終了、すなわち全画素について合成が終了した後に、合成後の画像データが出力される。
【0022】
合成後の画像データは、図示しない処理部において所定の画像処理が処理された後、画像圧縮部107等を介して、記録メディア108に伝送される。上記の処理は、図示しないシステムコントローラの制御に従って、各処理部が動作することにより行われる。
【0023】
次に、上記の構成からなる画像処理装置による画像処理方法について、図面を参照して説明する。
【0024】
被写体の撮影が行われると光学系100により被写体の像が撮像素子101により画像データに変換され、出力された画像データは、図示しないA/D変換部で画像処理部102において所定の処理が可能な離散化されたデジタル信号の画像データに変換され、画像処理部102に出力される。入力された画像データには画像処理部102においてワイトバランス処理やOB減算等所定の画像処理がなされ、階調変換部103に出力される。
【0025】
図3は、階調変換部103による階調変換から画像合成までの処理の流れを示すフローチャートである。ステップS501では、階調変換部103において、画像処理部102から出力された画像データの読み込みがなされる。ステップS502で、階調変換部103に予め設定された階調変換特性から、処理対象画素における階調変換特性を算出する。ステップS503では、ステップS502で算出された階調変換特性に基づいて、画像データに対して階調変換処理がなされ、階調変換された画像データが合成部106及びノイズ低減部104へ出力される。
【0026】
ステップS504では、ノイズ低減部104により、入力された画像データに対して、予め設定されたノイズ低減の強度を示すデフォルト値に基づいてノイズ低減処理を行う。ノイズ低減処理がなされた画像データは、合成部106へ出力される。
【0027】
ステップS505では、合成比率算出部105により、ノイズ低減前の画像データとノイズ低減後の画像データとの合成の割合である合成比率が、対応する画素毎に算出される。すなわち、ステップS502で算出された階調変換特性、すなわち、増幅率に基づいて、ノイズ低減前の画像データとノイズ低減後の画像データとの各画素に対応する画素毎に合成比率が算出される。
【0028】
より具体的には、例えば、あらかじめ任意の定数値で設定されている合成比率のうちノイズ低減前の画像データを合成する割合をMorg、ノイズ低減後の画像データを合成する割合をMnr、合成比率の変化量をBとし、任意の画素位置[I,j]での階調変換特性(増幅率)がG[I,j]の場合、その画素位置に対応する合成比率をノイズ低減前の画像を合成する割合M‘org[I,j]、ノイズ低減後の画像を合成する割合をM’nr[I,j]とすると以下の式で表すことができる。
【0029】
M’org[I,j]=Morg-B*(G[I,j]-1)
M’nr[I,j]=Mnr+B*(G[I,j]-1)
【0030】
具体的な数値で示すとMorg=0.4、Mnr=0.6、B=0.5、g[i]=1.2だった場合のM‘org[I,j]、M’nr[I,j]は、
M’org[I,j]=0.4-0.5*(1.2-1)=0.3
M’nr[I,j]=0.6+0.5*(1.2-1)=0.7
というように算出される。
【0031】
ここで、合成比率の変化量Bは、予め設定された値であり、任意に定めることができる。算出された合成比率は、合成部106へ出力される。
【0032】
ステップS506では、合成部106により合成比率算出部105から入力された合成比率に基づいてノイズ低減前の画像データとノイズ低減後の画像データとを合成する。具体的には、任意の画素位置[I,j]でのノイズ低減前の画像の値をSorg[I,j]、ノイズ低減後の画像の値をSnr[I,j]、合成後の画像の値をS‘[I,j]とすると、M’org[I,j]、M‘nr[I,j]を用いて以下のように合成される。
S’[I,j]=M’org[I,j]*Sorg[I,j]+M’nr[I,j]*Snr[I,j]
【0033】
ステップS507では、ステップS506までの処理が画像データの全画素に対して行われたか否かを判断し、全画素についての処理が完了したと判断された場合には、合成後の画像データは、図示しない処理部において所定の画像処理が処理された後、画像圧縮部107に出力され、ステップS508で圧縮処理される。
【0034】
上記の処理は、図示しないシステムコントローラの制御に従って、各処理部が動作することにより行われる。
【0035】
このように、階調変換特性に基づいて算出された合成比率を用いてノイズ低減前の画像データとノイズ低減後の画像データを合成するため、階調変換処理によってノイズが増幅された領域はノイズ低減後の画像データを多い割合で、ノイズ低減前の画像データを少ない割合で合成することができ、これによりノイズが効果的に低減された画像を得ることができる。また、画像の領域毎に適した割合でノイズ低減後の画像にノイズ低減前の画像が合成されるため画像の先鋭感を保つことができる。また、スペースバリアントな階調変換処理を行った場合には、効果的にノイズを低減し、先鋭感を保ちつつ、画像シーンのダイナミックレンジを広げることができる。
【0036】
(第2の実施形態)
続いて、本発明の第2の実施形態について説明する。図4は、本実施形態にかかる画像処理装置の概略構成を示したブロック図である。本実施形態にかかる画像処理装置の基本構成は、第1の実施形態にかかる画像処理装置と共通するため、共通する部分の説明を省略し、以下に相違点のみを説明する。
【0037】
本実施形態では、合成比率算出部105が、階調変換部103による階調変換処理後の画像データから画像の特性を算出して、それらと階調変換特性に基づいて合成比率を算出する点である。すなわち、図4の破線に示すように、階調変換部103において、階調変換処理がなされた後、画像データが合成比率算出部105及び合成部107に出力される。合成比率算出部107では、階調変換後の画像データから、輝度情報、エッジ情報及び色情報の画像の特性を算出する。
【0038】
以下に、輝度情報、エッジ情報及び色情報の算出方法について説明する。本実施形態では、図5に示すように処理対象位置の画素値を輝度値に変換したものをp[i,j]とし、このp[i,j]を中心とする3×3の画素からなる領域の情報を算出する方法を説明する。
【0039】
輝度情報Y[i,j]は、ノイズの影響を受けにくくするために、3×3の領域の平均値から算出する。
Y[i,j]=(p[i-1,j-1]+p[i,j-1]+p[i+1,j-1]+p[i-1,j]+p[i,j]+p[i+1,j]+p[i-1,j+1]+p[i,j+1]+p[i+1,j+1])/9
【0040】
続いて、図6に示すように、この輝度情報Y[i,j]と任意の特性Fyから合成比変化率Gy[i,j]を算出する。ここで、合成比変化率とは、画像を合成する割合を算出する際に、階調変換特性だけでなく、輝度情報及びエッジ情報をも考慮するための値であり、後述するように、輝度情報による合成比変化率Gy[i,j]、エッジ情報による合成比変化率Ge[i,j]、色情報による合成比変化率Gc[i,j]と、それぞれ算出される。任意の特性Fyはノイズが目立つ低輝度部ではGy[i,j]を大きく、ノイズが目立たない高輝度部ではGy[i,j]を小さくする特性である。
Gy[i,j]=Fy(Y[i,j])
【0041】
エッジ情報E[I,j]は、水平、垂直、右上がりの斜め、右下がりの斜め方向のエッジ量をDh,Dv,Dz,Dnとすると、以下の式で算出される。
Dh=(|p[i-1,j]-p[i,j]|+|p[i+1,j]-p[i,j]|)/2
Dv=(|p[i,j-1]-p[i,j]|+|p[i,j+1]-p[i,j]|)/2
Dz=(|p[i+1,j-1]-p[i,j]|+|p[i-1,j+1]-p[i,j]|)/2
Dn=(|p[i-1,j-1]-p[i,j]|+|p[i+1,j+1]-p[i,j]|)/2
【0042】
そして、Dh,Dv,Dz,Dnの中の最大値をエッジ情報E[i,j]とする。エッジ情報が大きい場合、処理対象位置と隣接画素との差分が大きいことを示し、処理対象位置はエッジ領域に属することを意味する。逆にエッジ情報が小さい場合は、処理対象位置と隣接画素との差分が小さいことを示し、処理対象位置は非エッジ領域に属することを意味する。
【0043】
図7に示すようにこのエッジ情報E[i,j]と任意の特性Feから合成比変化率Ge[i,j]を算出する。任意の特性Feはノイズをつぶしたい平坦部ではGe[i,j]を大きく、先鋭感を残したいエッジ部ではGe[i,j]を小さくする特性である。
Ge[i,j]=Fe(E[i,j])
【0044】
色情報は例えば画像の任意の画素位置のRGB値をL*a*b*値に変換してある任意の領域内であった場合、その画素位置は特定色領域に属すると判別し、特定色のL*a*b*値との色差を色情報C[i,j]とする。特定色は、ノイズを目立たせたくない色、例えば人の肌の色や空の色とする。そして、図8に示すようにこの色情報C[i,j]と任意の特性Fcから合成比変化率Gc[i,j]を算出する。任意の特性Fcはノイズが目立つ特性色部ではGc[i,j]を大きく、それ以外の領域ではGc[i,j]を小さくする特性である。
Gc[i,j]=Fc(E[i,j])
【0045】
合成比率算出部105では、画像の一画素に対応する階調変換特性(増幅率)および上記画像の特性から一画素に対応する合成比率を算出する。例えば、あらかじめ任意の定数値で設定されている合成比率のうちノイズ低減前の画像を合成する割合をMorg、
ノイズ低減後の画像を合成する割合をMnr、合成比率の変化量をBとすると、任意の画素位置[i,j]での階調変換特性(増幅率)がG[i,j]、輝度情報による合成比変化率がGy[i,j]、エッジ情報による合成比変化率がGe[i,j]、色情報による合成比変化率がGc[i,j]の場合、その画素位置に対応する合成比率をノイズ低減前の画像を合成する割合M‘org[i,j]、ノイズ低減後の画像を合成する割合をM’nr[i,j]とすると以下の式で表すことができる。
【0046】
M’org[i,j]=Morg-B*(G[i,j]*Gy[i,j]*Ge[i,j]*Gc[i,j]-1)
M’nr[i,j]=Mnr+B*(G[i,j]*Gy[i,j]*Ge[i,j]*Gc[i,j]-1)
【0047】
具体的な数値で示すとMorg=0.4、Mnr=0.6、B=0.5、G[i,j]=1.2、Gy[i,j]=1.1、Ge[i,j]=1.1、Gc[i,j]=1.1だった場合のM‘org[i,j]、は、
M’org[i,j]=0.4-0.5*(1.2*1.1*1.1*1.1-1)=0.1
M’nr[i,j]=0.6+0.5*(1.2*1.1*1.1*1.1-1)=0.9
というように算出される。ここで、合成比率の変化量Bは、予め設定された値であり、任意に定めることができる。
【0048】
そして合成部では、任意の画素位置[i,j]でのノイズ低減前の画像の値をSorg[i,j],ノイズ低減後の画像の値をSnr[i,j],合成後の画像の値をS‘[i,j]とするとM’org[i,j]、M‘nr[i,j]を用いて以下のように合成される。
S’[i,j]=M’org[i,j]*Sorg[i,j]+M’nr[i,j]*Snr[i,j]
【0049】
そして画像の全画素位置で上述した処理が行われて合成後の画像が出力される。本実施形態では、画像の特性として、輝度情報、エッジ情報、及び色情報の3つの情報を用いたが、これらの3つに限られず、画像とノイズを区別するための情報であればよい。また、画像の特性は、階調変換後の画像データから算出したが、階調変換後に限られず、階調変換前、ノイズ低減後など適した画像データから算出されても良い。
【0050】
以上、本実施例では階調変換特性および画像の特性に基づいて算出された合成比率を用いてノイズ低減前の画像とノイズ低減後の画像を合成するため、階調変換処理によってノイズが増幅された領域はノイズ低減後の画像が多い割合で、ノイズ低減前の画像が少ない割合で合成されてノイズが効果的に低減された画像を得ることができる。また、画像の領域ごとに適した割合でノイズ低減後の画像にノイズ低減前の画像が合成されるため画像の先鋭感を保つことができる。さらに画像の特性に応じて合成比率が制御されるためノイズ低減を強く行いたい領域と先鋭感を残したい領域をより適応的に分けて処理することができる。
【0051】
(第3の実施形態)
続いて、本発明の第3の実施形態について説明する。
【0052】
図9は、本実施形態にかかる画像処理装置の概略構成を示したブロック図である。本実施形態にかかる画像処理装置の基本構成は、第1の実施形態にかかる画像処理装置と共通するため、共通する部分の説明を省略し、以下に相違点のみを説明する。
【0053】
本実施形態では、上記した実施形態の構成に、さらに階調変換特性と画像の特性に基づいて、ノイズ低減の強さを画素位置において適宜変化させるノイズ低減制御値を算出するノイズ低減制御値算出部200を備えている。
【0054】
ノイズ低減制御値算出部200では、画像の一画素に対応する階調変換特性(増幅率)および輝度情報、エッジ情報及び色情報の画像の特性から一画素に対応するノイズ低減の強さの変化量(ノイズ低減制御値)を算出する。任意の画素位置[i,j]での階調変換特性(増幅率)がG[i,j]、輝度情報による合成比変化率がGy[i,j]、エッジ情報による合成比変化率がGe[i,j]、色情報による合成比変化率がGc[i,j]の場合、その画素位置に対応するノイズ低減制御値をGnr[i,j]とすると以下の式で表すことができる。
【0055】
Gnr[i,j]=G[i,j]*Gy[i,j]*Ge[i,j]*Gc[i,j]
【0056】
ノイズ低減部104では、階調変換後の画像に対してノイズ低減の強さを変えることができるノイズ低減処理が行われる。ここで例えばノイズ低減処理に、コアリング処理を用いた場合の処理を説明する。画像の任意の画像位置[i,j]の画素値をS[i,j]、その画像位置の周囲の任意の範囲の平均値をSaveとすると、画素値S[i,j]と平均値Saveの差の絶対値|S[i,j]−Save|が任意の画素位置の閾値Th[i,j]以下の信号を0にするというコアリング処理を用いた場合、閾値Th[i,j]にノイズ低減制御値Gnr[i,j]を乗算してノイズ低減処理の強さを制御する。コアリング処理後の画素値をS‘[i,j]とすると以下のように示すことができる。
【0057】
|S[i,j]-Save|<Th[i,j]*Gnr[i,j]の場合は、
S’[i,j]=Save
|S[i,j]-Save|≧Th[i,j]*Gnr[i,j]の場合は、
S[i,j]-Save>0であればS’[i,j]=S[i,j]-Th[i,j]*Gnr[i,j]、
S[i,j]-Save<0であればS’[i,j]=S[i,j]+Th[i,j]*Gnr[i,j]、
ここでノイズ低減処理をコアリング処理としたが、フィルタ係数やフィルタのタップ数を変えてノイズ低減の強さを変えるノイズ低減処理等を用いてもよい。
【0058】
上記したようにノイズ低減処理を行った後、ノイズ低減後の画像データは合成部106へ出力される。
合成比率算出部105では、第1の実施形態と同様に、階調変換部103での階調変換特性に基づいてノイズ低減前の画像データとノイズ低減後の画像データとの合成比率を算出する。合成部106では、先に算出された合成比率に基づいてノイズ低減前の画像データとノイズ低減後の画像データとが合成される。画像データの全画素について合成処理がなされると、合成後の画像データが画像圧縮部107に出力される。
【0059】
以上、本実施例では階調変換特性に基づいて算出された合成比率を用いてノイズ低減前の画像とノイズ低減後の画像を合成するため、階調変換処理によってノイズが増幅された領域はノイズ低減後の画像が多い割合で、ノイズ低減前の画像が少ない割合で合成されてノイズが効果的に低減された画像を得ることができる。また、階調変換特性および画像の特性に基づいて算出されたノイズ低減制御値を用いてノイズ低減処理の強さを制御するため、画像の領域ごとに適した強さでノイズ低減処理が行われ、ノイズ低減を強く行いたい領域と先鋭感を残したい領域をより適応的に分けて処理されたノイズ低減後の画像を得ることができる。
【0060】
(第4の実施形態)
続いて、本発明の第4の実施形態について説明する。
図10は、本実施形態にかかる画像処理装置の概略構成を示したブロック図である。本実施形態にかかる画像処理装置の基本構成は、第3の実施形態にかかる画像処理装置と共通するため、共通する部分の説明を省略し、以下に相違点のみを説明する。
【0061】
本実施形態は、上述した第3の実施形態において、階調変換特性、画像の特性の双方に基づいて合成比率を決定する点が異なる。従って、図10に示すように、階調変換部103において階調変換がなされた画像データはノイズ低減部104、合成比率算出部105、及びノイズ低減制御値算出部200に出力される。そして、この画像データの画像の特性が、合成比率算出部105及びノイズ低減算出部200で用いられる。
【0062】
以下、本実施形態の画像処理装置による画像処理方法について説明する。被写体の撮影が行われると光学系100により被写体の像が撮像素子101により画像データに変換され、出力された画像データは、図示しないA/D変換部で画像処理部102において所定の処理が可能な離散化されたデジタル信号の画像データに変換され、画像処理部102に出力される。入力された画像データには画像処理部102においてワイトバランス処理やOB減算等所定の画像処理がなされ、階調変換部103に出力される。
【0063】
図11は、階調変換部103による階調変換から画像合成までの処理の流れを示すフローチャートである。
【0064】
ステップS600では、階調変換部103が画像処理部102にから入力された画像データを読み込む。ステップS601で、階調変換部103に予め設定された。図2に示すような階調変換特性にかかる特性図と読み込んだ画像データに基づいて階調変換特性を算出する。ステップS602にてステップS601で算出した階調変換特性に基づいて画像データに階調変換処理を行う。ステップS603にてステップS602で階調変換処理された画像データから三種類の画像の特性(輝度情報、エッジ情報、色情報)から少なくとも一つの情報を用いて合成比変化率を算出する。
【0065】
合成比変化率の算出を輝度情報から算出する場合には、図12(a)に示すように、ステップS10にてステップS602で階調変換処理された画像データから輝度値を算出し、ステップS11で、処理画素位置を中心とする周辺の3×3画素からなる領域を抽出する。その後、ステップS12で、ステップS11で抽出した3×3画素の輝度値の平均値を算出する。ステップS13では、ステップS12で算出した平均値を合成比変化率に変換する任意の特性Fyを読み込む。ステップS14で、ステップS12で算出した平均値とステップS13で読み込んだ任意の特性Fyから合成変化率Gyを算出する。
【0066】
画像の特性(エッジ情報)による合成変化率の算出の場合は、図12(b)に示すように、ステップS20にてステップS601で階調変換処理された画像データから輝度値を算出する。ステップS21にて処理画素を中心とする周辺の3×3画素からなる領域を抽出する。ステップS22にてステップS21で抽出した3×3画素から水平、垂直、右上がり斜め、右下がり斜め方向のエッジ量を算出する。ステップS23にてステップS22で算出した4つのエッジ量から最大値を算出する。ステップS24にてステップS23で算出した最大値を合成比変化率に変換する任意の特性Feを読み込む。ステップS25にてステップS23で算出した最大値とステップS24で読み込んだ任意の特性から合成変化率Geを算出する。
【0067】
画像の特性(色情報)による合成変化率の算出の場合は、図12(c)に示すように、ステップS30にてステップS602で階調変換処理された画像データからL*a*b*値を算出する。ステップS31にて特定色のL*a*b*値を読み込む。ステップS32にてステップS30で変換したL*a*b*値とステップS31で読み込んだ特定色のL*a*b*値から色差を算出する。ステップS33にてステップS32で算出した色差を合成比変化率に変換する任意の特性Fcを読み込むステップS34にてステップS32で算出した色差とステップS33で読み込んだ任意の特性から合成変化率Gcを算出する。
【0068】
ステップS604にて、ノイズ低減部104に予め設定されたノイズ低減の強度のデフォルト値を読み込む。ステップS605で、ノイズ低減制御値算出部200によりノイズ低減制御値を算出する。具体的には、ステップS601で算出した階調変換特性とステップS603で算出した合成比変化率とステップS604で読み込んだノイズ低減の強度のデフォルト値を乗算することにより、ノイズ低減制御値を算出する。
【0069】
ステップS606にてステップS605で算出したノイズ低減制御値に基づきステップS602で階調変換処理された画像データに対してノイズ低減処理を行う。ノイズ低減処理された画像データは、合成部106へ出力される。続いて、ステップS607では、合成比率算出部105が合成比率のデフォルト値を読み込む。ステップS608にて、合成比率算出部105が合成比率を算出する。
【0070】
具体的には、図13のフローチャートに示すように、ステップS40にて合成比率の変化量を読み込む。ステップS41にてステップS603で算出した合成比変化率とステップS40で読み込んだ合成比率の変化量を乗算する。ステップS42にてステップS607で読み込んだ合成比率のデフォルト値のうちノイズ低減後の画像を合成する比率からステップS41で算出した乗算結果を加算する。ステップS43にてステップS607で読み込んだ合成比率のデフォルト値のうちノイズ低減前の画像を合成する比率からステップS41で算出した乗算結果を減算する。
【0071】
ステップS609にて、ステップS608で算出した合成比率に基づいてステップS606でノイズ低減処理されたノイズ低減後の画像データとステップS602で階調変換処理され、ノイズ低減前の画像データとを合成する。ステップS610では、ステップS601〜ステップS609の処理を画像データの全画素に対して行われたか否かを判断し、全画素で行われていないと判断された場合には、ステップS601に戻り、ステップS609までの処理を繰り返す。ステップS610で全画素に対する上記処理が行われたと判断された場合には、合成後の画像データが画像圧縮部107に出力され、ステップS611にて画像圧縮処理が行われ、記録メディア108に合成された画像データが記録保存されて終了する。
【0072】
このように、ノイズ低減後の画像データとノイズ低減前の画像データを合成することにより、画像シーンの解像感を保ちつつノイズを低減することができる。また、その際に階調変換特性と、輝度情報、エッジ情報及び色情報などの画像の特性とに基づいて合成の割合を制御するため、階調変換処理によってノイズが目立った領域のノイズをより強く低減し、その他の領域は解像感を保つことができるとともに、画像の特性に基づいたより細かい制御により高品質な画像を得ることができる。
【0073】
上述した全ての実施形態において、階調変換の際には、いわゆるスペースインバリアントな階調変換処理または、いわゆるスペースバリアントな階調変換処理を適宜選択的に適用可能である。特に、スペースバリアントな階調変換処理を行った場合には、スペースバリアントな階調変換処理によってノイズが目立った領域のノイズをより強く低減し、その他の領域は解像感を保つことができるとともに、画像シーンの明るさやコントラストを画像シーンの領域ごとに適応的に調整することができ、ダイナミックレンジを広げることができる。
【0074】
上記した各実施形態にかかる画像処理装置は放送用据え置き型カメラ、ENGカメラ、民生用ハンディカメラ、デジタルカメラ等の製品に適用することが可能である。また、動画を扱う画像信号補正プログラム(CGプログラム)、画像編集装置などにも用いられる。
【0075】
なお、上述した合成画像を生成する一連の画像処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることも可能である。この場合には、あらかじめ、この一連の画像処理をソフトウェアとして実行させるプログラムを記録媒体に格納しておき、記録媒体から、所定のハードウェアに組み込まれているコンピュータや、汎用のパーソナルコンピュータ等の各種プログラムをインストールすることで所定の処理を実行することができる。
【符号の説明】
【0076】
100 光学系
101 撮像系
102 画像処理部
103 階調変換部
104 ノイズ低減部
105 合成比率算出部
106 合成部
107 画像圧縮部
108 記録メディア
200 ノイズ低減制御値算出部

【特許請求の範囲】
【請求項1】
撮像系からの画像データに対して階調変換処理およびノイズ低減処理を行う画像処理装置あって、
所定の階調変換特性に基づいて、前記画像データに対して階調変換処理を行う階調変換処理手段と、
前記画像データに対してノイズ低減処理を行うノイズ低減処理手段と、
前記階調変換特性に基づいて、前記ノイズ低減処理手段によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとの合成比率を算出する合成比率算出手段と、
前記合成比率に基づいて、前記ノイズ低減処理手段によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとを合成する合成手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記合成比率算出手段は、画像の特性および前記階調変換特性に基づいて合成比率を算出すること、
を特徴とする請求項1記載の画像処理装置。
【請求項3】
画像の特性および/または階調変換特性に基づいて前記ノイズ低減処理手段によるノイズ低減処理の強さを制御するノイズ低減制御値を算出するノイズ低減制御値算出手段を備え、
前記ノイズ低減処理手段は、前記ノイズ低減制御値に基づいて前記階調変換後の画像データに対してノイズ低減処理を行うことによりノイズ低減データを生成することを特徴とする請求項1又は請求項2に記載の画像処理装置。
【請求項4】
前記画像の特性には、該画像の輝度情報、エッジ情報及び色情報が含まれ、前記階調変換特性には、階調変換の増幅率が含まれることを特徴とする請求項1乃至請求項3の何れか1項に記載の画像処理装置。
【請求項5】
前記階調変換特性は、予め任意に設定された又は前記画像データから算出したスペースインバリアントな階調変換特性であり、前記階調変換手段は該階調変換特性に基づいて前記画像データにスペースインバリアントな階調変換処理を行うことを特徴とする請求項1乃至請求項4の何れか1項に記載の画像処理装置。
【請求項6】
前記階調変換特性は前記画像データから算出したスペースバリアントな階調変換特性であることを特徴とし、前記階調変換手段は該階調変換特性に基づいて前記画像データにスペースバリアントな階調変換処理を行うことを特徴とする請求項1乃至請求項4の何れか1項に記載の画像処理装置。
【請求項7】
撮像系からの画像データに対して階調変換処理およびノイズ低減処理を行う画像処理方法であって、
所定の階調変換特性に基づいて、前記画像データに対して階調変換処理を行う階調変換処理ステップと、
前記画像データに対してノイズ低減処理を行うノイズ低減処理ステップと、
前記階調変換特性に基づいて、前記ノイズ低減処理手段によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとの合成比率を算出する合成比率算出ステップと、
前記合成比率に基づいて、前記ノイズ低減処理手段によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとを合成する合成ステップと、
を備えることを特徴とする画像処理方法。
【請求項8】
撮像系からの画像データに対して階調変換処理およびノイズ低減処理を行う画像処理プログラムであって、
所定の階調変換特性に基づいて、前記画像データに対して階調変換処理を行う階調変換処理ステップと、
前記画像データに対してノイズ低減処理を行うノイズ低減処理ステップと、
前記階調変換特性に基づいて、前記ノイズ低減処理手段によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとの合成比率を算出する合成比率算出ステップと、
前記合成比率に基づいて、前記ノイズ低減処理手段によるノイズ低減処理前の画像データとノイズ低減処理後の画像データとを合成する合成ステップと、
をコンピュータに実行させる画像処理プログラム。
【請求項9】
請求項8に記載の画像処理プログラムを記録したコンピュータ読取可能な記録媒体。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate


【公開番号】特開2011−15277(P2011−15277A)
【公開日】平成23年1月20日(2011.1.20)
【国際特許分類】
【出願番号】特願2009−158837(P2009−158837)
【出願日】平成21年7月3日(2009.7.3)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】