画像処理装置及び画像処理方法
【課題】 画像全体に存在するノイズのみならず、一部の画素に生じるノイズも存在する画像に対して効率的にノイズを低減する。
【解決手段】 入力画像の、処理対象画素を含む局所的な領域の複数の画素の信号レベルを平滑化した値を算出するとともに、入力画像にフィルタ処理を適用してインパルスノイズを低減したプレノイズ低減画像から、処理対象画素のエッジの程度を示す特徴量を算出する。そして、特徴量に応じた割合で、処理対象画素の信号レベルと平滑化した値とを加重加算し、加重加算結果をノイズ低減処理後の信号レベルとして出力する。
【解決手段】 入力画像の、処理対象画素を含む局所的な領域の複数の画素の信号レベルを平滑化した値を算出するとともに、入力画像にフィルタ処理を適用してインパルスノイズを低減したプレノイズ低減画像から、処理対象画素のエッジの程度を示す特徴量を算出する。そして、特徴量に応じた割合で、処理対象画素の信号レベルと平滑化した値とを加重加算し、加重加算結果をノイズ低減処理後の信号レベルとして出力する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像処理装置及び画像処理方法に関し、特には画像のノイズを低減するための画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
エッジ保存効果を有する画像のノイズ低減方法として、Leeの方法(例えば、非特許文献1参照)が知られている。この方法では、以下の式(1)、(2)に示すように、画素がXY方向に整列してなる画像の画素の信号レベルの分散を算出し、この分散に基づいてノイズ低減を行う。
【0003】
【0004】
式(1)のg(x,y)は画像の座標(x,y)に位置する画素の信号レベルである。E(g(x,y))は座標(x,y)を中心とした局所的な領域の画素の信号レベルの平均値である。具体的には、座標(x,y)の画素を中心とした5画素×5画素の範囲に配置された画素の信号レベルの平均値である。式(2)のσ2g(x,y)は座標(x,y)を中心とした局所的な領域の画素の信号レベルの分散である。具体的には、座標(x,y)の画素を中心とした5画素×5画素の範囲に配置された画素の信号レベルの分散である。σ2n(x,y)は座標(x,y)の画素を中心とした5画素×5画素の範囲に配置された画素の信号レベルに含まれるノイズレベルの分散である。
【0005】
また、エッジ特徴量p(x,y)は、座標(x,y)の画素のエッジの程度を表す。特徴量p(x,y)は0〜1の値をとり、式(2)から明らかなように、予め測定しておいたノイズの分散値σ2n(x,y)が大きいほど特徴量p(x,y)は小さな値となり、局所的な分散値σ2g(x,y)が大きいほど特徴量p(x,y)は大きな値となる。そのため、式(1)に示すように、ノイズ低減後の信号レベルr(x,y)の、元の信号レベルg(x,y)に対する局所的な平均値E(g(x,y))が占める比率は、ノイズの分散値σ2n(x,y)が大きいほど大きくなる。反対に、ノイズ低減後の信号レベルr(x,y)の、元の信号レベルg(x,y)に対する局所的な平均値E(g(x,y))が占める比率は、局所的な分散値σ2g(x,y)が大きいほど小さくなる。
【0006】
また、画像のエッジ部では、画像の局所的な分散値σ2g(x,y)が大きくなる。そのため、画像のエッジ部では、エッジ特徴量p(x,y)の値が1に近づき、ノイズ低減後の信号レベルr(x,y)に占める元の信号レベルg(x,y)の割合が多くなる。これにより、画像のエッジ部では、局所的な平均値E(g(x,y))によって、元の信号レベルのエッジがなまってしまうことを抑制することができる。
【0007】
一方、画素欠損による輝点ノイズや暗点ノイズ、後述のランダム・テレグラフ・シグナル(RTS)ノイズのような、インパルス状のノイズが存在する画像は、局所的な分散値σ2g(x,y)が大きくなりエッジ部と判断されやすい。そのため、これらのノイズが発生する位置では、特徴量p(x,y)の値が大きくなり、ノイズ低減効果が小さくなる。
【0008】
図23は、エッジ特徴量p(x,y)と、画像の標準偏差σg(x,y)の関係を示す図である。図23は14ビット/画素の画像でのノイズの標準偏差σn(x,y)が250のときの例を示しており、横軸はノイズの標準偏差σn(x,y)、縦軸はエッジ特徴量p(x,y)である。
【0009】
インパルスノイズの除去にはメディアンフィルタが多用されるが、メディアンフィルタの適用は画像の高周波部分に歪みを生じさせ、画像の詳細な情報が失われる原因となる。また、デジタルカメラで撮像素子として用いられる光電変換素子に起因するノイズには、光電変換時の暗電流ノイズ、光ショットノイズの他、増幅回路における熱ノイズや1/fノイズのような低周波ノイズが含まれることが知られている(例えば非特許文献2)。
【0010】
これらノイズのうち、特に暗電流ノイズ、光ショットノイズの値は信号レベルに依存するため、これらのノイズの分散値σ2n(x,y)も信号レベルに依存する。さらに近年の画素の微細化に伴い、特にCMOSイメージセンサでは画素の読み出しトランジスタが発生するランダム・テレグラフ・シグナル(RTS)ノイズという低周波ノイズにより、画像に白点状のノイズが発生することが知られている(例えば非特許文献3)。
【0011】
ノイズレベルが大きい場合や、デジタルカメラの熱ノイズのように空間的に広がりのあるノイズの場合には、サイズの大きなカーネル(M×N画素とする)を用いて上述の式(1)及び式(2)に基づくノイズ低減処理を行うことが効果的である。しかし、カーネルサイズを大きくした場合、演算量が増加するという問題がある。この問題に対処する方法として、異なる複数の解像度を有する画像を用いた手法(例えば、特許文献1、特許文献2参照)が提案されている。
【0012】
また、デジタルカメラの生成する画像ファイルの形式は2つに大別できることが一般によく知られている。1つは、デジタルカメラ内でいわゆる現像処理が行われた後に記録される、JPEG、TIFFといった汎用的なファイル形式である。もう1つは、イメージセンサの出力をそのまま記録した、RAW形式と呼ばれる機種依存のファイル形式である。
【0013】
RAW形式の特徴は、画質を劣化させることなく様々なパラメータ(露出値、ホワイトバランス値など)を変更した結果を得ることが可能なことである(例えば、特許文献3を参照)。
【先行技術文献】
【特許文献】
【0014】
【特許文献1】特許第3193806号公報
【特許文献2】特許第3995854号公報
【特許文献3】特開2004−128809号公報
【非特許文献】
【0015】
【非特許文献1】J.S.LEE, "Digital enhancement and noise filtering by use of local statistics", IEEE Transactions on Pattern Analysis and Machine Intelligence, PAMI-2, pp.165-168, 1980
【非特許文献2】H.Tian, B.Fowler, and A.E.Gamal, "Analysis of temporal noisein cmos photodiode active pixel sensor", IEEE J. Solid State Circuits, vol. 36.Jan. pp.92-101, 2001
【非特許文献3】J.Y. Kim, et al., "Characterization and Improvement of Random Noise in 1/3.2" UXGA CMOS Image Sensor with 2.8um Pixel Using 0.13um-technology", IEEE Workshop on CCD and AIS, p.149, 2005
【発明の概要】
【発明が解決しようとする課題】
【0016】
近年、デジタルカメラはイメージセンサの高画素化により画素が微細化し、イメージセンサの高感度化と相まって、センサに起因するノイズが増大する傾向にある。デジタルカメラにおいては様々なノイズの発生原因が存在するため、様々なノイズ特性が反映された信号に対して画像処理を行っている。画素の微細化に伴ってインパルス状のノイズが生じる場合があり、このようなパルス状のノイズを上述した式(1)、(2)を用いた処理で除去しようとした場合、ノイズの除去レベルを上げる必要がある。しかし、除去レベルを上げると画像の高周波成分が失われ、エッジがぼやけてしまうといった問題があった。
【0017】
本発明はこのような従来技術の課題に鑑みなされたものであり、画像全体に存在するノイズのみならず、一部の画素に生じるノイズも存在する画像に対して効率的にノイズを低減する画像処理装置及び画像処理方法を提供する。
【課題を解決するための手段】
【0018】
上述の目的は、入力画像のインパルスノイズを低減したプレノイズ低減画像を生成するノイズ低減手段と、入力画像の、処理対象画素を含む局所的な領域の複数の画素の信号レベルを平滑した値を算出する平滑化手段と、プレノイズ低減画像を用いて、処理対象画素のエッジの程度を示す特徴量を算出する特徴量算出手段と、特徴量に応じた割合で、処理対象画素の信号レベルと平滑化した値とを加重加算し、加重加算の結果を入力画像のノイズ低減処理後の信号レベルとして出力する加算手段とを有し、加算手段は、エッジの程度が高いことを示す特徴量を有する画素ほど、平滑化した値の割合が小さくなるように加重加算することを特徴とする画像処理装置によって達成される。
【発明の効果】
【0019】
このような構成により、本発明によれば、画像全体に存在するノイズのみならず、一部の画素に生じるノイズも存在する画像に対して効率的にノイズを低減することができる。
【図面の簡単な説明】
【0020】
【図1】本発明の第1の実施形態に係る画像処理装置が処理する画像データを生成するデジタルカメラの構成例を示すブロック図である。
【図2】図1の画像処理回路526における画像処理の概要を示すブロック図である。
【図3】カラーフィルタにおけるベイヤー配列の例を示す図である。
【図4】本発明の第1の実施形態に係る画像処理装置の一例としての情報処理装置の構成を示すブロック図である。
【図5】図4の情報処理装置によって実現される画像処理を、模式的に機能ブロックで表した図である。
【図6】図6は図5における画像処理部804が実現する画像処理の流れを模式的に示した図である。
【図7】図6の輝度ノイズ低減処理部191における内部処理フローを示した図である。
【図8】複数のISO感度について、あらかじめプレノイズ低減画像12から画像の平坦部において測定した輝度レベルノイズ標準偏差の例を示す図である。
【図9】画像のエッジ部分における信号レベルの変化をシミュレートした例を示す図である。
【図10】図9に示すエッジ部分の画像に対してエッジ特徴量pを計算した結果を示す図である。
【図11】エッジ特徴量pの値と、ノイズ低減後信号レベルrに寄与する各信号レベル(元の信号レベルg(x,y)、9画素平均値ave9、25画素平均値ave25)の割合の関係を示す図である。
【図12】本発明の第2の実施形態に係る画像処理装置における輝度ノイズ低減処理部の処理内容及び流れを示す図である。
【図13】空間ローパスフィルタの例を示す図である。
【図14】本発明の第2の実施形態に係る画像処理装置における輝度ノイズ低減処理部の別の処理内容及び流れを示す図である。
【図15】本発明の第3の実施形態に係る画像処理装置における画像処理部の処理内容及び流れを示す図である。
【図16】本発明の第3の実施形態に係る画像処理装置における入力画像の構成例を示す図である。
【図17】本発明の第3の実施形態に係る画像処理装置における入力画像の別の構成例を示す図である。
【図18】本発明の第4の実施形態に係る画像処理装置において、TIFF形式の画像データ(RGB画像)に対してノイズ低減処理を行う際の手順の例を示す図である。
【図19】本発明の第4の実施形態に係る画像処理装置において、JPEG形式の画像データ(YC画像)に対してノイズ低減処理を行う際の手順の例を示す図である。
【図20】本発明の第5の実施形態に係る画像処理装置において、画像処理部が行うノイズ特性推定処理の内容を説明するフローチャートである。
【図21】グレー平坦部のRGB階調値とRGB毎のノイズの標準偏差の関係例を示す図である。
【図22】図20のS410で行うグレー平坦部探索処理の詳細を説明するフローチャートである。
【図23】エッジ特徴量p(x,y)と、画像の標準偏差σg(x,y)の関係を示す図である。
【発明を実施するための形態】
【0021】
以下、図面を参照して本発明を好適かつ例示的な実施形態に基づいて詳細に説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態に係る画像処理装置が処理する画像データを生成するデジタルカメラ500の構成例を示すブロック図である。本実施形態においてはレンズ一体型のデジタルカメラに関して説明するが、レンズ交換型のデジタルカメラであってもよい。
【0022】
レンズ501から入射した被写体光は、絞り502、赤外カットフィルタ503及び光学ローパスフィルタ(LPF)504を通過し、撮像素子520の受光面上に結像される。図1において、レンズ501は模式的に1枚のレンズとして図示されているが、レンズ駆動回路506によって駆動可能なフォーカシングレンズを含む、複数枚のレンズを有している。また、絞り502は絞り駆動回路507によって駆動される。なお、メカニカルシャッターを絞り502として用いてもよい。本実施形態において、撮像素子520はCCDイメージセンサやCMOSイメージセンサで構成されており、本実施形態では、CMOSイメージセンサであるものとする。
【0023】
撮像素子520の受光面にはフォトダイオードを用いた光電変換素子(画素)が複数配列されている。また、光電変換素子の光学LPF側の面には、例えば、R(赤)・G(緑)・B(青)から構成されるベイヤー配列の原色カラーフィルタが、1色が1つの光電変換素子に対応するように配置されている。なお、本実施形態のデジタルカメラ500は、撮像素子及びカラーフィルタを1つずつ用いる単板式であるが、R用、G用、B用の3組のカラーフィルタ及び撮像素子を用いる3板式など、複数の撮像素子を用いる構成であってもよい。
【0024】
撮像素子520に結像された被写体像は、各光電変換素子において、入射光量に応じた量の電荷に変換される。タイミングジェネレータ(TG)508が発生する信号は、水平基準パルス生成用ドライバ(X−Dr)521と、垂直基準パルス生成用ドライバ(Y−Dr)522に供給される。そして、水平基準パルス生成用ドライバ521と垂直基準パルス生成用ドライバ522により撮像素子520の読み出し画素が選択され、選択された画素の光電変換素子に蓄積された電荷が電圧信号に変換されて、撮像素子520から出力される。
【0025】
撮像素子520から出力された電圧信号は、相関二重サンプリング回路(CDS)523でサンプリングされ、設定されたISO感度に応じて自動ゲイン制御回路(AGC)524で増幅された後、A/D変換回路(A/D)509でデジタル信号に変換される。
【0026】
A/D509の出力するデジタル信号(RAW画像データ)は、画像処理部525に入力され、WB算出回路529によりホワイトバランスゲインを算出した後、メモリ制御回路514によって制御されるメインメモリ517に格納される。
【0027】
A/D509の出力するRAW画像データはまた、可逆圧縮(ロスレス圧縮)を行う可逆圧縮回路513で可逆圧縮された後、CPUバス528を介してメモリカード制御回路515へ供給され、メモリカード518にRAW形式の画像ファイルとして保存される。
【0028】
また、A/D509の出力するRAW画像データは、画像処理回路526にも入力され、RGB形式からYCbCr形式に変換され、さらにラスタブロック変換された後、JPEG圧縮回路527でJPEG形式に圧縮符号化される。JPEG圧縮回路527から出力されたJPEG形式の画像データは、CPUバス528を介してメモリカード制御回路515に供給され、メモリカード518にJPEG形式のファイルとして保存される。また、このJPEG形式のファイルは、表示制御回路516に読み出され、そのサイズが変換されてディスプレイ519に画像として表示される。
CPU510は内部のメモリに保持されたプログラムを実行することにより、デジタルカメラ500全体を制御する。操作部511はユーザの指示をCPU510に伝えるためのスイッチであり、レリーズボタンや十字キーなどを含んでいる。
【0029】
ここで、画像処理回路526で行わる画像処理についてさらに詳しく説明する。
図2は、画像処理回路526における画像処理の概要を示すブロック図である。メインメモリ517から入力されるRAW画像データ700は、黒補正回路710に入力される。黒補正回路710では暗電流による黒浮きを、撮像素子520の遮光部(OB部)の座標領域における画像データの積算平均値から概算し、画像データから積算平均値を減算する。黒補正回路710で黒補正された画像データは、レンズ補正回路720に入力される。
【0030】
レンズ補正回路720は、レンズ501の光学特性、具体的には、レンズ501で生じる周辺減光及び倍率色収差を補正する。周辺減光は周辺領域画素の信号レベルを増幅することで、倍率色収差は基準となる色に沿うように色毎に像高方向に画像の拡大縮小を行うことでそれぞれ補正することができる。
【0031】
レンズ補正回路720において補正された画像データは、ホワイトバランス補正回路730に入力される。ホワイトバランス補正回路730では、予め画像処理部525のWB算出回路529で算出されたホワイトバランスゲインを画像データに適用する。もしくは、予め設定されている光源(例えばデイライト、タングステン、蛍光灯等)に応じたホワイトバランスゲインを画像データに適用する。ホワイトバランス補正回路730でホワイトバランス補正された画像データは、色補間回路740で色補間される。色補間回路740では、撮像素子520に設けられたカラーフィルタの色配列に応じて、各画素において不足する色情報を補間により求める。
【0032】
例えば、図3に示す様にRGB画素が格子状に配列されたベイヤー配列のカラーフィルタ200を用いているとする。この場合、色補間回路740は、R画素についてはGとBの情報を、G画素についてはRとBの情報を、B画素についてはRとGの情報をそれぞれ周辺画素から補間して求める。
【0033】
これにより、カラー画像を生成するためのR、G、Bの3プレーンが得られる。
次に、RGBの3プレーンが揃った画像データは、色調整回路750において、例えば、式(3)に示すような3×3のマトリクス演算等で色の最適化が行われる。
【0034】
【0035】
ここで、式(3)のm11〜m33は最適化の係数である。
【0036】
色調整後の画像データ(Rc,Gc,Bc)はガンマ(γ)補正回路760によって式(4)のようにガンマ補正される。
【0037】
【0038】
ガンマ変換された画像データ(Rγ,Gγ,Bγ)は、偽色抑圧処理や、エッジ強調処理を行なうため、YC変換回路770により、式(5)に示すようにRGB信号からYCbCrという輝度成分と色差成分の信号に変換される。
【0039】
【0040】
式(5)のk11〜k33は変換係数である。
【0041】
JPEG形式の画像データを作成する場合、YCbCr形式に変換された信号のうち輝度成分Yは、輝度処理回路790でエッジ強調処理される。また、色差成分CbCrは、色処理回路780で偽色抑圧処理される。具体的には、色差成分CbCrに対してメディアンフィルタを適用することにより、孤立点を除去する。エッジ強調処理及び偽色抑圧処理されたYCbCr形式の出力画像データYC799は、JPEG圧縮回路527にてJPEG形式に符号化される。
【0042】
図4は、本発明の第1の実施形態に係る画像処理装置の一例としての情報処理装置の構成を示すブロック図である。
情報処理装置600としては一般的なパーソナルコンピュータを用いることができる。図4において、CPU609はメモリ603に保持されたプログラムを実行することにより、後述する画像処理を始めとする各処理を実現する。
【0043】
ハードディスク604には情報処理装置600における基本ソフト(OS)やアプリケーションプログラム等が格納されており、プログラムはハードディスク604からメモリ603に読み込まれてCPU609に実行される。
【0044】
ディスプレイ607はCPU609の制御下で各種表示を行う。情報処理装置600の利用者はキーボード601やマウス602等の入力デバイスを用いて情報処理装置600を操作する。カードリーダ605はデジタルカメラ500に着脱可能なメモリカード518の読み取りが可能であり、メモリカード518に記録されているRAW形式またはJPEG形式の画像ファイルをメモリ603やハードディスク604に取り込むことができる。
【0045】
以下では、上述のデジタルカメラ500によって生成されたRAW形式の画像ファイルを、情報処理装置600上で動作する画像処理アプリケーションでソフトウェア的に処理するものとして説明する。しかし、以下に述べる画像処理の一部又は全部をハードウェアによって実現してもよい。
【0046】
図5は、情報処理装置600によって実現される画像処理を、模式的に機能ブロックで表した図である。図6は図5における画像処理部804(情報処理装置600が実行する画像処理アプリケーション)が実現する画像処理の流れを模式的に示した図である。
【0047】
RAW画像データ取得部801によってRAW画像ファイル800から取得されたRAW画像データ及び、メタデータ取得部803で取得されたメタデータは、画像処理部804の黒補正処理部110に入力される。黒補正処理部110では撮像素子520の遮光部(OB部)の座標領域における画像データの積算平均値である黒画像データをメタデータから取得し、画像データから積算平均値を減算する。黒補正処理部110で黒補正された画像データは、レンズ補正処理部120に入力される。
【0048】
レンズ補正処理部120は、RAW画像が撮影された際に用いられたレンズ501の光学特性、具体的には、レンズ501で生じる周辺減光及び倍率色収差を補正する。
【0049】
なお、黒補正処理部110及びレンズ補正処理部120の処理に必要な黒画像データ及びレンズ情報(あるいは補正値)は、RAW画像ファイルのヘッダにメタデータとして添付されている。メタデータには、黒画像データやレンズ情報以外にも、撮影条件(ISO感度、絞り、シャッタースピードなど)や、画像処理に関する情報(ホワイトバランス係数、γカーブなど)、撮像装置の固有情報(カラーフィルタの色配列情報など)が含まれている。これらメタデータは、メタデータ取得部803によってRAW画像ファイルから取得され、画像処理部804へ渡される。
【0050】
レンズ補正処理部120において補正された画像データは補間処理部140に入力され色補間される。補間処理部140では、撮像素子520に設けられたカラーフィルタの色配列に応じて、各画素において不足する色情報を補間により求める。カラーフィルタの色配列に関する情報もまたRAW画像ファイルに含まれている。
【0051】
例えば、図3に示す様にRGB画素が格子状に配列されたベイヤー配列のカラーフィルタを用いているとする。補間処理部140は、R画素についてはGとBの情報を、G画素についてはRとBの情報を、B画素についてはRとGの情報をそれぞれ周辺画素から補間して求める。これにより、カラー画像を生成するためのR、G、Bの3プレーンが得られ、次に、RGBの3プレーンが揃った画像データは、中間画像データ145として、一旦メモリ603に保存される。
【0052】
ここまでの処理は、画像処理アプリケーションのユーザ810が指定する画像処理設定値、例えばユーザ指定ホワイトバランス設定値808やユーザ指定明るさ調整設定値807に依存せず行うことができる。ユーザ810が指定する画像処理設定値に依存した処理は、メモリ603に保存した中間画像データ145を元に処理を行うことで、ユーザ設定値を反映するために必要な画像処理の一部を省略できる。
【0053】
メモリ603に保存した中間画像データ145はゲイン補正処理部150に入力される。ゲイン補正処理部150では、ホワイトバランス補正と明るさ調整処理が行われる。
【0054】
ユーザ設定パラメータ変換部809は、ユーザ810が指定したユーザ指定ホワイトバランス設定値808を、ゲイン補正処理部150で用いるための、RGBの色毎のゲイン値(wbR,wbG,wbB)に変換する。また、ユーザ設定パラメータ変換部809は、ユーザ810が指定したユーザ指定明るさ調整設定値807を、ゲイン補正処理部150で用いるための、RGB各色に共通のゲイン値(brightGain)にそれぞれ変換する。式(6)に示すように、RGB色ごとのゲイン(gainR,gainG,gainB)を求める。
【0055】
そして、このゲインを、式(7)に示すように、画像データのR、G、B成分にそれぞれ乗じる。
【0056】
【0057】
ゲイン補正処理されたRwb、Gwb、Bwbからなる画像データは、色調整処理部155において、例えば、式(3)に示したような3画素×3画素のマトリクス演算等で色の最適化が行われ、Rc、Gc、Bcからなる画像データが生成される。色調整後の画像データ(Rc,Gc,Bc)はγ補正処理部160でガンマ変換される。
【0058】
ガンマ変換された画像データは、偽色抑圧処理や、エッジ強調処理を行なうため、YC変換処理部170により、式(5)に示したようにRGB信号からYCbCrという輝度成分と色差成分の信号に変換される。
【0059】
YCbCr変換された信号のうちの輝度成分Yは、輝度ノイズ低減処理部191によってざらざらしたノイズが抑制された後、シャープネス処理部192でエッジ強調される。また、メディアン処理部181はYCbCr変換された信号のうちの色差成分CbCrに対してメディアンフィルタを適用して偽色を抑圧し、さらに色ノイズ低減処理部182は局所的に色バランスがずれた領域を均質化する。エッジ強調処理及び偽色抑圧処理されたYCbCr形式の画像データはユーザ指定出力ファイル形式806に従って出力ファイル形式に合わせた変換処理が行われ、出力画像805として出力される。出力ファイル形式には例えばJPEG形式やTIFF形式がある。
【0060】
ここで、上述の輝度ノイズ低減処理部191の処理について詳細に説明する。
図7は、輝度ノイズ低減処理部191における内部処理フローを示した図である。
輝度ノイズ低減処理は、画像データの輝度成分Yを入力画像10とする。メディアンフィルタ処理部11は、3×3タップのメディアンフィルタを入力画像10の処理対象である座標(x,y)の画素を中心とした領域に適用し、RTSノイズや画素欠損により生じたインパルス状のノイズを除去したプレノイズ低減画像12を作成する。あるいは、処理対象である座標(x,y)の画素の信号レベルg(x,y)と隣接する画素の信号レベルの差分を求め、全ての隣接する画素との差分が閾値を超えた場合に、g(x,y)をこれら隣接する画素の信号レベルの平均値で置換するようにしてもよい。
【0061】
エッジ特徴量算出処理部13は、プレノイズ低減画像12から、処理対象画素を中心とした3画素×3画素の範囲に配置された画素の信号レベルを用いて、その処理対象である座標(x,y)の画素を中心とした局所的なエッジ特徴量p(x,y)を算出する。エッジ特徴量p(x,y)を求める領域は、ここでは処理対象画素を中心とした3画素×3画素の範囲としたが、画像の大きさやノイズ低減の程度の応じて5画素×5画素や、7画素×7画素など、領域の広さを変更してもよい。ただし、この領域の広さに沿うように、メディアンフィルタのタップ数や、後述するノイズの分散値および局所的な信号レベルの分散値を求める領域の広さも変更する必要がある。エッジ特徴量p(x,y)はエッジの程度を表す0から1の値であり、エッジの程度が高いほど大きな値を有する。あらかじめメディアンフィルタによってインパルス状のノイズを抑制した画像からエッジ特徴量p(x,y)を算出することにより、インパルス状のノイズをエッジ領域と判断されやすくなる問題を回避することができる。
【0062】
エッジ特徴量算出処理部13では背景技術で述べたLeeの方法と同様の式(2)を用い、処理対象画素ごとにエッジ特徴量pを算出する。ここで、Leeの方法では、座標(x,y)を中心としたエッジ特徴量p(x,y)の算出と、座標(x,y)の画素を中心とした局所的な領域の平均値E(g(x,y))の算出を、いずれもメディアンフィルタを施していない元の画像に対して行っている。これに対し、本実施形態では、エッジ特徴量算出処理部13では、RTSノイズや画素欠損により生じたインパルス状のノイズを除去したプレノイズ低減画像12を用い、局所平均値算出処理部14ではプレノイズ低減画像12ではなく元の入力画像10を用いる。
【0063】
本実施形態におけるエッジ特徴量p(x,y)の算出は、プレノイズ低減後の画像の座標(x,y)に位置する画素の信号レベルu(x,y)を用いて式(8)のように表すことができる。
【0064】
【0065】
式(8)でσ2n(x,y)はプレノイズ低減画像の座標(x,y)の画素を中心とした局所的な領域における画素の信号レベルに含まれるノイズの分散値である。σ2u(x,y)はプレノイズ低減画像の座標(x,y)の画素を中心とした局所的な領域における画素の信号レベルの分散値である。ノイズの分散値σ2n(x,y)はカメラ機種、ISO感度、輝度レベルに依存した値であり、あらかじめ測定して用意した値を用いることができる。また、ノイズの分散値σ2n(x,y)は座標(x,y)に依存せず、ISO感度、輝度レベルにのみ依存した値としてもよい。
【0066】
図8は、複数のISO感度について、あらかじめプレノイズ低減画像12から画像の平坦部において測定した輝度レベルのノイズ標準偏差(ノイズの分散値を1/2乗した値)の例を示している。このように、ISO感度に応じてノイズの分散値を変更する。
【0067】
プレノイズ低減画像の局所的な分散値σ2u(x,y)は、式(9)で表される、座標(x,y)の画素を中心とした5画素×5画素の局所的な領域における画素の信号レベルの分散値である。また、式(9)におけるm(x,y)は、座標(x,y)の画素を中心とした5画素×5画素の局所的な領域における画素の信号レベルの平均値であり、式(10)のように表すことができる。
【0068】
【0069】
図9は画像のエッジ部分における信号レベルの変化をシミュレートした例を示す図であり、想定したエッジに対してガウス状のノイズとインパルス状のノイズを付加している。インパルス状のノイズは、x座標で20,30,40,90,150,及び190付近に見られる。
【0070】
図10は、図9に示すエッジ部分の画像に対してエッジ特徴量pを計算した結果を示す図である。
エッジ特徴量p(x,y)の算出と局所的な平均値E(g(x,y))の算出をいずれもメディアンフィルタを施していない元の画像に対して行うLeeの方法では、インパルス状のノイズ部分で特徴量p(x,y)の値が1に近づいていることが図10からわかる。式(1)から、特徴量pが1に近い場合には、元の信号レベル、つまりこの場合はノイズを発生させている信号レベルがほぼそのままノイズ除去後の信号レベルとなることがわかる。これに対し、エッジ特徴量をプレノイズ低減画像(メディアン値)から求める本実施形態の方法では、インパルス状のノイズ部分における特徴量p(x,y)は0の値に近く、インパルスノイズを軽減することが可能であることが分かる。
【0071】
図7の局所平均値算出処理部14では、入力画像10から、式(11)に示すように座標(x,y)の画素を中心とした5画素×5画素の画素の信号レベルの平均値ave25を算出する。また、局所平均値算出処理部14は、式(12)に示すように座標(x,y)の画素を中心とした3画素×3画素の画素の信号レベルの平均値ave9を算出する。
【0072】
【0073】
図7の加重平均処理部15では、エッジ特徴量算出処理部13で得たエッジ特徴量p(x,y)の値に応じて、入力画像10の座標(x,y)の画素を中心とした局所的な平均値E(g(x,y))と、入力画像10の座標(x,y)の画素の信号レベルg(x,y)を加重加算する。そして得られた値r(x,y)をノイズ低減後の出力画像16の信号レベルとする。
【0074】
具体的には、加重平均処理部15はまず、入力画像10の座標(x,y)の画素を中心とした局所的な平均値E(g(x,y))を、式(13)に従って求める。
【0075】
【0076】
式(13)において、f(p(x,y))はエッジ特徴量p(x,y)の関数である。そして、エッジ特徴量p(x,y)が大きいほどタップ数の小さな平均値であるave9の重みが大きく、逆にエッジ特徴量p(x,y)が小さいほどタップ数の大きな平均値であるave25の重みが大きくなるようにする。
【0077】
このような重み付けは、f(p(x,y))を例えば式(14)のように計算することにより実現することができる。
【0078】
【0079】
次に、加重平均処理部15は、座標(x,y)の画素のノイズ低減後の信号レベルr(x,y)を、エッジ特徴量p(x,y)を用いて、式(15)に従って求める。
【0080】
【0081】
式(15)から明らかなように、座標(x,y)の画素のノイズ低減後の出力画像16の信号レベルr(x,y)は、エッジ特徴量p(x,y)が大きければ、すなわち、エッジ部分である可能性の高い位置の画素ならば、元の信号レベルg(x,y)に近い値となる。反対に座標(x,y)の画素のノイズ低減後の信号レベルrは、エッジ特徴量p(x,y)が小さければ、すなわち平坦部である可能性の高い位置の画素であれば、局所的な平均値E(g(x,y))に近い値となる。
【0082】
図11は、エッジ特徴量p(x,y)の値と、ノイズ低減後の信号レベルr(x,y)に寄与する各信号レベル(元の信号レベルg(x,y)、9画素平均値ave9、25画素平均値ave25)の割合の関係を示す図である。
【0083】
図11から、式(13)及び式(14)のような加重加算した場合、エッジ特徴量p(x,y)が0から0.1付近までの、より平坦部に近い領域では25画素の平均値ave25の寄与が支配的であり、信号レベルを平坦化している様子がわかる。
【0084】
以上説明したように、本実施形態では、処理対象となる画素の元の信号レベルと、その画素を中心とした局所的な領域の信号レベルの平均値とを、画像のエッジ特徴量に応じて加重加算して画像のノイズを低減している。エッジ特徴量の算出には、インパルス状のノイズを除去した画像を用いているのに対して、局所的な平均値の算出にはインパルス状のノイズを除去する前の元の画像を用いる。これにより、画像全体に存在するノイズのみならず、画素の微細化などに伴って画像に生じるインパルス状のノイズについても、画像の高周波成分の損失を抑制しながら効率的に低減することができる。
【0085】
なお、ノイズ低減後の信号レベルr(x,y)を求める際に、元の信号レベルg(x,y)と局所的な平均値E(g(x,y))を加重加算したが、これに限られるものではない。座標(x,y)の処理対象画素を中心とした局所的な平均値E(g(x,y))に代えて、座標(x,y)の処理対象画素の信号レベルと、その周囲の画素の信号レベルを重み付け加算することで、処理対象画素の信号レベルを平滑化した値を用いてもよい。すなわち、元の信号レベルg(x,y)に対して平滑化が施されることで、元の信号レベルg(x,y)よりも高周波成分が抑制された信号レベルであれば、平均値E(g(x,y))に限らず、ノイズ低減後の信号レベルr(x,y)の算出に用いることができる。
【0086】
(第2の実施形態)
次に本発明の第2の実施形態について説明する。
本実施形態は、第1の実施形態で説明した輝度ノイズ低減処理を、多重解像度処理に適用するものである。本実施形態においても、第1の実施形態と同様、輝度ノイズ低減処理は情報処理装置600のCPU609が画像処理アプリケーションを実行することにより実現されるものとする。本実施形態では、図6に示した輝度ノイズ低減処理部191の処理内容のみが第1の実施形態と異なるため、以下では輝度ノイズ低減処理部191の処理内容のみを説明する。
【0087】
図12は、本実施形態に係る輝度ノイズ低減処理部の処理内容及び流れを示す図である。
輝度ノイズ低減処理部191は、YC変換処理部170が出力する輝度画像データを入力画像20とし、メディアンフィルタ処理31によりRTSノイズや画素欠損により生じたインパルス状のノイズを除去したプレノイズ低減画像21を作成する。第1の実施形態で説明したように、隣接する画素との差分が閾値以上である場合に、処理対象画素の信号レベルを、その画素に隣接する画素の信号レベルから求めた値に置換するようにしてもよい。
【0088】
次に縮小画像生成手段であるピラミッド画像作成処理32によってまず、入力画像20に、図13に示したような空間ローパスフィルタを施したのち、水平1/2、垂直1/2画素にサブサンプリングして、面積が1/4の縮小画像22を作成する。さらにピラミッド画像作成処理32により、縮小画像22をさらに水平1/2、垂直1/2画素にサブサンプリングし、面積1/16の縮小画像24を作成する。
【0089】
また、ピラミッド画像作成処理32では、メディアンフィルタ処理31で生成されたプレノイズ低減画像21に対しても同様のサブサンプリングを適用し、プレノイズ低減画像の面積1/4の縮小画像23、面積1/16の縮小画像25を作成する。
【0090】
ピラミッド画像作成処理32によって縮小画像22〜25を作成したら、適用平均値算出処理33において、入力画像20を用いて2種類の平均値ave9及びave25を式(11)、式(12)から求める。
また、並行してエッジ特徴量算出処理34において、プレノイズ低減画像21に対して式(8)に基づく座標(x,y)の画素のエッジ特徴量p(x,y)を算出する。
【0091】
その後、第1適応的NR(ノイズリダクション)処理35において、式(13)、式(14)、及び式(15)を用い、非縮小画像に対するノイズ低減後の座標(x,y)の画素の信号レベルr(x,y)を計算する。次に判定処理36において、エッジ特徴量算出処理34にて得られたプレノイズ低減画像21の座標(x,y)の画素における局所的な分散値σ2u(x,y)と、プレノイズ低減画像21の1/4縮小画像23のノイズの分散値σ2n4(x,y)を比較する。1/4縮小画像23におけるノイズの分散値は、図8に示したように、あらかじめISO感度毎に測定した値を用いることができる。ノイズの分散値σ2n4(x,y)は座標(x,y)に依存せず、ISO感度にのみ依存した値としてもよい。
【0092】
輝度ノイズ低減処理部191は、プレノイズ低減画像21の局所的な分散値σ2u(x,y)が閾値σ2n4(x,y)以上である場合には、座標(x,y)はエッジ部である可能性が高いと判断する。この場合、輝度ノイズ低減処理部191は1/4縮小画像での処理を行わず、直ちに混合処理44を行う。一方、プレノイズ低減画像21の局所的な分散値σ2u(x,y)が閾値σ2n4(x,y)より小さい場合には、座標(x,y)は平坦部である可能性が高いと判断する。これは、そのプレノイズ低減画像21の局所的な領域の信号レベルは、入力画像20の1/4縮小画像22で残存する周波数のノイズ成分が占める割合が大きいと考えられるためである。この場合、輝度ノイズ低減処理部191は入力画像20の1/4縮小画像22を用いた適用平均値算出処理37と、プレノイズ低減画像21の1/4縮小画像23を用いたエッジ特徴量算出処理38を行う。
【0093】
適用平均値算出処理37において、入力画像20の1/4縮小画像22を用いて2種類の平均値ave9及びave25を式(11)、式(12)から求める。
また、並行してエッジ特徴量算出処理38において、プレノイズ低減画像21の1/4縮小画像23に対して式(8)に基づくエッジ特徴量p(x,y)を算出する。
【0094】
その後、第2適応的NR処理39において、式(13)、式(14)、及び式(15)を用い、1/4縮小画像22に対するノイズ低減後の信号レベルr(x,y)を計算する。第2適応的NR処理39においては、式(15)中の元の信号レベルg(x,y)に代えて、入力画像20のノイズ低減後の信号レベルr(x,y)(第1適応的NR処理35の処理結果)を用いる。
【0095】
次に判定処理40において、エッジ特徴量算出処理38にて得られたプレノイズ低減画像21の1/4縮小画像23の座標(x,y)の画素における局所的な分散値σ2u4(x,y)と、プレノイズ低減画像21の1/16縮小画像25のノイズの分散値σ2n16(x,y)を比較する。1/16縮小画像25におけるノイズの分散値は、図8に示したように、あらかじめISO感度毎に測定した値を用いることができる。ノイズの分散値σ2n16(x,y)は座標(x,y)には依存せず、ISO感度にのみ依存した値としてもよい。
【0096】
プレノイズ低減画像21の1/4縮小画像23の局所的な分散値σ2u4(x,y)が閾値σ2n16(x,y)以上である場合には、座標(x,y)はエッジ部である可能性が高いと判断する。この場合、輝度ノイズ低減処理部191は1/4縮小画像での処理を行わず、混合処理44を行う。一方、プレノイズ低減画像21の1/4縮小画像23の局所的な分散値σ2u4(x,y)が閾値σ2n16(x,y) より小さい場合には、座標(x,y)は平坦部である可能性が高いと判断する。これは、そのプレノイズ低減画像21の1/4縮小画像23の局所的な領域の信号レベルは、入力画像20の1/16縮小画像24で残存する周波数のノイズ成分が占める割合が大きいと考えられるためである。この場合、輝度ノイズ低減処理部191は入力画像20の1/16縮小画像24を用いた適用平均値算出処理41と、プレノイズ低減画像21の1/16縮小画像25を用いたエッジ特徴量算出処理42を行う。
【0097】
適用平均値算出処理41では、入力画像20の1/16縮小画像24を用いて2種類の平均値ave9及びave25を式(11)、式(12)から求める。
また、並行してエッジ特徴量算出処理42において、プレノイズ低減画像21の1/16縮小画像25に対して式(8)に基づくエッジ特徴量p(x,y)を算出する。
【0098】
その後、第3適応的NR処理43において、式(13)、式(14)、及び式(15)を用い、1/16縮小画像24に対するノイズ低減後の信号レベルr(x,y)を計算する。第3適応的NR処理43においては、式(15)中の元の信号レベルg(x,y)に代えて、1/4縮小画像23のノイズ低減後の信号レベルr(x,y)(第2適応的NR処理39の処理結果)を用いる。
【0099】
混合処理44では、式(16)に示すように、入力画像20の信号レベルg(x,y)と、第1適応的NR処理35、第2適応的NR処理39、及び第3適応的NR処理43のいずれかで得られたノイズ低減画像r(x,y)とを、ISO感度に応じて加重平均する。これにより、最終的なノイズ低減後の出力画像26の信号レベルnr(x,y)を得る。
【0100】
式(17)において、Mmaxは所定の係数であり、例えば0.7が設定される。
【0101】
これら式(16)、(17)によれば、画像のISO感度が高いほどip(iso)の値が小さくなり、ノイズ低減後の出力画像の信号レベルr(x,y)に対する入力画像20の信号レベルg(x,y)が小さくなる。すなわち、ISO感度が高くなり、ノイズの信号レベルに対する増幅率が大きくなるほど、ノイズ低減後の出力画像の信号レベルr(x,y)の重み付けを大きくしている。そのため、ノイズ低減後の出力画像の信号レベルr(x,y)のみを用いた場合に平坦部でノイズ除去強度が強すぎるために生じる、ディテール(画像の高周波成分)の消失を抑制することができる。
なお、最終的に得ようとする画像がサイズを小さくした縮小画像である場合には、処理時間を要する等倍画像での処理(33〜36)を行わず、1/4縮小画像22,23を用いた処理(37,38)から行ってもよい。
また、混合処理44を省略し、適応的NR処理35、39および43の各々で式(15)、(16)に代えて式(18)を用いることで、最終的なノイズ低減後の出力画像26の信号レベルnr(x,y)を求めるようにしてもよい。
【0102】
【0103】
この式(18)によれば、エッジ特徴量p(x,y)が大きいほど、あるいは、ISO感度が小さいほど、局所的な平均値E(g(x,y))に対するもとの信号レベルg(x,y)の比率が大きくなり、画像の高周波成分が保持されやすくなる。反対に、エッジ特徴量pが小さいほど、あるいは、ISO感度が大きいほど、もとの信号レベルg(x,y)に対する局所的な平均値E(g(x,y))の比率が大きくなり、ノイズ成分が抑制されやすくなる。
【0104】
なお、本実施形態の変形例として、プレノイズ低減画像21からは縮小画像を生成せず、エッジ特徴量pの算出は縮小しないプレノイズ低減画像21からのみ行うようにしても良い。この場合の輝度ノイズ低減処理部の処理内容及び流れを図14に示す。
【0105】
図14において、図12と同じ構成には同じ参照数字を付し、重複する説明は省略する。
図14と図12との比較から明らかなように、ピラミッド画像作成処理32では入力画像20に対してのみ1/4縮小画像22と1/16縮小画像24を生成し、プレノイズ低減画像21については縮小画像を生成しない。
【0106】
そして、判定処理36においては、入力画像20の1/4縮小画像22におけるノイズの分散値σ2n4(x,y)と、入力画像20の座標(x,y)における局所的な分散値σ2g(x,y)を比較する。
【0107】
輝度ノイズ低減処理部191は、入力画像20の座標(x,y)における局所的な分散値σ2g(x,y)が閾値σ2n4(x,y)以上である場合には、座標(x,y)はエッジ部である可能性が高いと判断する。この場合、輝度ノイズ低減処理部191は1/4縮小画像での処理を行わず、直ちに混合処理44を行う。一方、入力画像20の座標(x,y)における局所的な分散値σ2g(x,y)が閾値σ2n4(x,y)より小さい場合には、座標(x,y)は平坦部である可能性が高いと判断する。入力画像20の局所的な分散値σ2g(x,y)が閾値σ2n4(x,y)より小さいということは、その入力画像20の局所的な領域の信号レベルは、入力画像20の1/4縮小画像22で残存する周波数のノイズ成分が占める割合が大きいと考えられるためである。この場合、輝度ノイズ低減処理部191は入力画像20の1/4縮小画像22を用いた適用平均値算出処理37を行う。
【0108】
判定処理40においては、入力画像20の1/16縮小画像24におけるノイズの分散値σ2n16(x,y)と、入力画像20の1/4縮小画像22の座標(x,y)における局所的な分散値σ2g4(x,y)を比較する。
【0109】
輝度ノイズ低減処理部191は、入力画像20の1/4縮小画像22の座標(x,y)における局所的な分散値σ2g4(x,y)が閾値σ2n16(x,y)以上である場合には、座標(x,y)はエッジ部である可能性が高いと判断する。この場合、輝度ノイズ低減処理部191は1/16縮小画像での処理を行わず、混合処理44を行う。一方、入力画像20の1/4縮小画像22の座標(x,y)における局所的な分散値σ2g4(x,y)が閾値σ2n16(x,y)より小さい場合には、座標(x,y)は平坦部である可能性が高いと判断する。これは、その入力画像20の1/4縮小画像22の局所的な領域の信号レベルは、入力画像20の1/16縮小画像24で残存する周波数のノイズ成分が占める割合が大きいと考えられるためである。この場合、輝度ノイズ低減処理部191は入力画像20の1/16縮小画像24を用いた適用平均値算出処理41を行う。
【0110】
これらのノイズの分散値は、図8に示したように、あらかじめISO感度毎に測定した値を用いることができる。また、入力画像20および1/4縮小画像22の座標(x,y)における局所的な分散値σ2g(x,y)、σ2g4(x,y)は、プレノイズ低減画像の局所的な分散値σ2u(x,y)と同様に式(9)、(10)を用いて求めることができる。
【0111】
また、縮小画像に対する適応的NR処理4(39)、適応的NR処理16(43)で用いる特徴量pは、エッジ特徴量算出処理34がプレノイズ低減画像21に対して求めた特徴量pの中の、対応する画素における値を利用する。
【0112】
このように構成することで、低解像度の縮小画像を生成するための処理や、縮小画像に対してエッジ特徴量を求めるための処理に必要な負荷を無くすことができる。そのため、処理時間の短縮が可能になる。
【0113】
なお、適用平均値処理33、37および41は、画像処理部525内部の1つの適用平均値処理回路に実行させることが可能である。同様に、エッジ特徴量算出処理34、38および42は、画像処理部525内部の1つのエッジ特徴量算出処理回路に実行させることが可能である。同様に、第1適応的NR処理35、第2適応的NR処理39および第3適応的NR処理43は、画像処理部525内部の1つの適応的NR処理回路に実行させることが可能である。さらに、判定処理36および40は、画像処理部525内部の1つの判定処理回路に実行させることが可能である。
【0114】
(第3の実施形態)
次に、本発明の第3の実施形態について説明する。
図6を用いて説明した、画像処理部804(情報処理装置600が実行する画像処理アプリケーション)が実現する画像処理の流れにおいて、色補間処理部140と、輝度ノイズ低減処理部191の処理は比較的長い処理時間を要する。そのため、ユーザビリティの観点から、図6のような画像処理の流れの中でも、できるだけ初めに行うことが好ましい。
【0115】
また一般に、ある特定の画像劣化原因に対する補正処理を、複数の画像劣化要因に対して順次実行する場合、画像劣化原因の発生順に対して逆順に補正処理を適用したり、補正すべき画像劣化原因以外については影響を与えたりしないようにすることが好ましい。
【0116】
例えば画像ノイズの原因は、撮像素子における光電変換過程、アナログ信号の転送、およびアナログ信号の増幅の過程にあり、レンズ補正処理部120が補正対象とする、レンズ501が原因の周辺減光や収差とは無関係である。しかし、画像中のノイズ特性は、周辺減光補正処理の影響を受けて変化する。そのため、周辺減光補正処理をノイズ低減処理の前に行った場合、上述のノイズの分散値に基づくノイズ低減処理において、周辺減光補正された画像の周辺部のノイズをエッジ領域と判断してしまうおそれがある。その場合、実際にはノイズが多いにもかかわらず、ノイズ低減処理の効果が弱くなる。従って、ノイズ低減処理はノイズ特性に影響を与える他の補正処理よりも先に行うことがより好ましいと考えられる。
【0117】
そのため、本実施形態では図15に示すように、ノイズ低減処理部105をレンズ補正処理部120よりも前に配置し、ノイズ低減処理をレンズ補正処理より先に実行するようにしている。
【0118】
図15のノイズ低減処理部105は、撮像素子が備えるカラーフィルタの構成に応じて、同一色の画素で構成される画像毎に第1の実施形態で説明した輝度ノイズ低減処理を適用する。例えばベイヤー配列のカラーフィルタを備えた撮像素子を用いる場合、図16に示すようにR,G1,G2,Bの画素配列の同種の画素から構成される4つの画像(201,202,203,204)に上述した輝度ノイズ低減処理を適用することができる。あるいは、図17に示すように、緑画素についてはG1画素とG2画素を区別せずに3つの画像(201,205,204)に上述した輝度ノイズ低減処理を適用してもよい。なお、図17の場合、G1画素とG2画素との間の画素(ItpG)は、周辺画素から補間により生成する。
【0119】
このように、本実施形態では、ノイズ低減処理をノイズ特性に影響を与える他の補正処理よりも前に行うことで、より効果的なノイズ低減が期待できる。
【0120】
(第4の実施形態)
次に、本発明の第4の実施形態について説明する。
これまで、本発明を、デジタルカメラで撮影したRAW画像データを取り扱う画像処理アプリケーションに適用した例を説明してきた。RAW形式での記録が可能なデジタルカメラでは、他の形式、代表的にはJPEG形式でも並行して記録可能なものがある。あるいは、RAW画像ファイルを生成する際、プレビュー用の画像として、ヘッダ部分にJPEG形式の画像データを埋め込む場合もある。
【0121】
このように、同一の画像についてRAW形式と他の形式(ここではJPEG形式とする)の画像データが存在する場合、画像処理アプリケーションでそれらが同様に処理されることが期待される場合がある。この場合、例えばどちらの形式の画像に対しても同じノイズ低減効果を得たい場合、同じノイズ低減処理を適用することが好ましい。
【0122】
より厳密には、ノイズ低減処理の手法が同じであるだけでなく、第3の実施形態で説明した理由により、複数の画像処理手順におけるどの位置でノイズ低減処理を行うかも同じであることが望ましい。
【0123】
例えば図6、図18、図19に示すような段階で第1の実施形態または第2の実施形態で説明したノイズ低減処理を行うことが考えられる。図6は、第1の実施形態で説明したようにRAW画像データに対してノイズ低減処理を行う場合の処理フローである。また、図18はTIFF形式の画像データ(RGB画像)に対して、図19はJPEG形式の画像データ(YC画像)に対してノイズ低減処理を行う際の手順の例である。ノイズ低減処理はいずれも輝度データに対して適用する。
【0124】
図18において、入力画像300(TIFF形式の画像データ)は信号レベルをRGBで表しているため、RGB/YC変換処理部310において、輝度成分と色差成分とに変換する。そして、輝度成分に対して輝度処理及びノイズ低減処理部330でエッジ強調処理及び上述の輝度ノイズ低減処理を適用する。また、色処理部320では色差成分に対して偽色抑圧処理を行う。そして、YC/RGB変換処理部340で、再度RGB成分への変換を行い、ノイズ低減処理後のTIFF形式の画像データを出力画像350として出力する。
【0125】
図19では、入力画像360(JPEG形式の画像データ)は既に輝度成分と色差成分とに分離されている。そのため、直ちに色処理部320及び輝度処理及びノイズ低減処理部330での処理を行い、ノイズ低減処理後のJPEG形式の画像データを出力画像370として出力する。なお、図19に記載していないが、実際には入力画像の復号化及び、ノイズ低減処理後の再符号化が行われる。
【0126】
この際に用いるノイズの分散値はセンサのノイズ特性が撮影条件(例えばISO感度)と画像処理内容(例えばホワイトバランスゲイン、ガンマカーブ)に依存して以下の式(19)のように変化する。画像ファイルのヘッダに含まれるメタデータなどから撮影条件や画像処理内容が得られる場合、ノイズ低減処理が行われるまでにどのような画像処理が行われたかに応じてノイズの特徴である分散値を決定する。
【0127】
式(19)は図6のようにゲイン補正処理部150でのゲイン補正後にγ補正処理部160でγ補正を行った画像に対して上述の輝度ノイズ低減処理を適用する場合の、ノイズの分散値(標準偏差σn2(x,y))を得る場合の計算例である。
【0128】
式(19)ではRAW画像データ入力時のノイズの標準偏差σn(x,y)にホワイトバランスゲインと明るさ調整ゲインを乗算した値(gain)を掛けた後、ガンマカーブ(γ)を適用した値σn2(x,y)を計算している。
【0129】
【0130】
ノイズの分散は、式(19)で得られる標準偏差σn2(x,y)を二乗した値を用いればよい。
【0131】
このように、本実施形態によれば、異なる形式の画像データに対して同一のノイズ低減処理を適用するので、同じ画像でデータ形式の異なる画像データに対し、同様のノイズ低減処理結果を得ることができる。
【0132】
(第5の実施形態)
次に、本発明の第5の実施形態について説明する。
第4の実施形態では、画像ファイルのヘッダに含まれるメタデータから撮像条件、画像処理内容の情報を取得して、それら情報に応じたノイズ分散値を用いてノイズ低減処理を行うものであった。
【0133】
しかし、このような情報が必ず画像ファイルから取得できるとは限らない。撮影条件や画像処理内容が不明なJPEG画像やTIFF画像に対してノイズ低減処理を行う場合、画像に含まれるノイズ特性をあらかじめ推定することは困難である。そのため、本実施形態においては、画像データそのものからノイズ特性を推定する。
【0134】
デジタルカメラの出力画像におけるノイズ特性はグレー階調値に依存することを利用し、グレーの平坦部分を画像中から探索し、グレー平坦部におけるRGB毎の階調値と標準偏差を得ることでノイズ特性を推定することができる。
【0135】
図20は、本実施形態における画像処理部804が行うノイズ特性推定処理の内容を説明するフローチャートである。
まず、S400で画像処理部804は、入力画像から縮小画像を生成する。これは、細かなテクスチャーやインパルスノイズによる影響を避けて高速に平坦部を得るためである。なお、入力画像はプレノイズ低減画像であってもよい。
【0136】
そして、画像処理部804は、縮小画像からグレー平坦部を探索し(S410)、探索したグレー平坦部から、推定ノイズ特性としてノイズの標準偏差σn(x,y)を求める(S420)。例えば、図21に示すような関係を利用して、グレー平坦部のRGB階調値から、RGB毎のノイズの標準偏差を求める。画像処理部804はノイズの標準偏差σn(x,y)からノイズ分散値を求め、このノイズ分散値を、輝度ノイズ低減処理部191でR画像、G画像及びB画像に対する輝度ノイズ低減処理で用いる。
【0137】
この際、標準偏差は縮小画像から求めているため、縮小前の画像から求めた場合よりも小さい値となる。従って、S400における縮小画像の生成に用いるローパスフィルタの特性と標準偏差の変化の関係を考慮して、標準偏差からノイズの分散値を求める。そのためには、予め、縮小画像の生成に用いるローパスフィルタに対してノイズの分散値がどのように変化するかを実測で調べておけばよい。あるいは、ノイズの空間周波数特性を仮定し、ローパスフィルタによるノイズの変化をローパスフィルタの周波数応答によって推定しておけばよい。
【0138】
図22は、図20のS410で行うグレー平坦部探索処理の詳細を説明するフローチャートである。
画像処理部804は、例えば7x7タップのカーネル内で、RGB各色の平均値を算出する(S411、S412)。そして、画像処理部804は、求めた平均値の分散値(または標準偏差)および尖度を算出し(S413)、RGBの平均値が所定の範囲内にあり、かつ尖度が所定の範囲内にある場合、そのカーネル(領域)がグレー平坦部であると判断する。分散値や尖度を求めるための演算には時間を要するため、ノイズ推定に必要な階調域の情報が得られない領域については演算を行わないようにすることが望ましい。
【0139】
このように、本実施形態によれば、画像からノイズ特定を推定することにより、ノイズ推定に必要な情報が画像ファイルのメタデータ(属性情報)から得られない場合でも、適切なノイズ低減処理を実行することができる。
【0140】
(他の実施形態)
上述の実施形態においては、情報処理装置において本発明のノイズ低減処理を実行するものとして説明したが、撮像装置において同様のノイズ低減処理を適用することも可能である。この場合、図2における輝度処理回路で実行することができる。
【0141】
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【技術分野】
【0001】
本発明は画像処理装置及び画像処理方法に関し、特には画像のノイズを低減するための画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
エッジ保存効果を有する画像のノイズ低減方法として、Leeの方法(例えば、非特許文献1参照)が知られている。この方法では、以下の式(1)、(2)に示すように、画素がXY方向に整列してなる画像の画素の信号レベルの分散を算出し、この分散に基づいてノイズ低減を行う。
【0003】
【0004】
式(1)のg(x,y)は画像の座標(x,y)に位置する画素の信号レベルである。E(g(x,y))は座標(x,y)を中心とした局所的な領域の画素の信号レベルの平均値である。具体的には、座標(x,y)の画素を中心とした5画素×5画素の範囲に配置された画素の信号レベルの平均値である。式(2)のσ2g(x,y)は座標(x,y)を中心とした局所的な領域の画素の信号レベルの分散である。具体的には、座標(x,y)の画素を中心とした5画素×5画素の範囲に配置された画素の信号レベルの分散である。σ2n(x,y)は座標(x,y)の画素を中心とした5画素×5画素の範囲に配置された画素の信号レベルに含まれるノイズレベルの分散である。
【0005】
また、エッジ特徴量p(x,y)は、座標(x,y)の画素のエッジの程度を表す。特徴量p(x,y)は0〜1の値をとり、式(2)から明らかなように、予め測定しておいたノイズの分散値σ2n(x,y)が大きいほど特徴量p(x,y)は小さな値となり、局所的な分散値σ2g(x,y)が大きいほど特徴量p(x,y)は大きな値となる。そのため、式(1)に示すように、ノイズ低減後の信号レベルr(x,y)の、元の信号レベルg(x,y)に対する局所的な平均値E(g(x,y))が占める比率は、ノイズの分散値σ2n(x,y)が大きいほど大きくなる。反対に、ノイズ低減後の信号レベルr(x,y)の、元の信号レベルg(x,y)に対する局所的な平均値E(g(x,y))が占める比率は、局所的な分散値σ2g(x,y)が大きいほど小さくなる。
【0006】
また、画像のエッジ部では、画像の局所的な分散値σ2g(x,y)が大きくなる。そのため、画像のエッジ部では、エッジ特徴量p(x,y)の値が1に近づき、ノイズ低減後の信号レベルr(x,y)に占める元の信号レベルg(x,y)の割合が多くなる。これにより、画像のエッジ部では、局所的な平均値E(g(x,y))によって、元の信号レベルのエッジがなまってしまうことを抑制することができる。
【0007】
一方、画素欠損による輝点ノイズや暗点ノイズ、後述のランダム・テレグラフ・シグナル(RTS)ノイズのような、インパルス状のノイズが存在する画像は、局所的な分散値σ2g(x,y)が大きくなりエッジ部と判断されやすい。そのため、これらのノイズが発生する位置では、特徴量p(x,y)の値が大きくなり、ノイズ低減効果が小さくなる。
【0008】
図23は、エッジ特徴量p(x,y)と、画像の標準偏差σg(x,y)の関係を示す図である。図23は14ビット/画素の画像でのノイズの標準偏差σn(x,y)が250のときの例を示しており、横軸はノイズの標準偏差σn(x,y)、縦軸はエッジ特徴量p(x,y)である。
【0009】
インパルスノイズの除去にはメディアンフィルタが多用されるが、メディアンフィルタの適用は画像の高周波部分に歪みを生じさせ、画像の詳細な情報が失われる原因となる。また、デジタルカメラで撮像素子として用いられる光電変換素子に起因するノイズには、光電変換時の暗電流ノイズ、光ショットノイズの他、増幅回路における熱ノイズや1/fノイズのような低周波ノイズが含まれることが知られている(例えば非特許文献2)。
【0010】
これらノイズのうち、特に暗電流ノイズ、光ショットノイズの値は信号レベルに依存するため、これらのノイズの分散値σ2n(x,y)も信号レベルに依存する。さらに近年の画素の微細化に伴い、特にCMOSイメージセンサでは画素の読み出しトランジスタが発生するランダム・テレグラフ・シグナル(RTS)ノイズという低周波ノイズにより、画像に白点状のノイズが発生することが知られている(例えば非特許文献3)。
【0011】
ノイズレベルが大きい場合や、デジタルカメラの熱ノイズのように空間的に広がりのあるノイズの場合には、サイズの大きなカーネル(M×N画素とする)を用いて上述の式(1)及び式(2)に基づくノイズ低減処理を行うことが効果的である。しかし、カーネルサイズを大きくした場合、演算量が増加するという問題がある。この問題に対処する方法として、異なる複数の解像度を有する画像を用いた手法(例えば、特許文献1、特許文献2参照)が提案されている。
【0012】
また、デジタルカメラの生成する画像ファイルの形式は2つに大別できることが一般によく知られている。1つは、デジタルカメラ内でいわゆる現像処理が行われた後に記録される、JPEG、TIFFといった汎用的なファイル形式である。もう1つは、イメージセンサの出力をそのまま記録した、RAW形式と呼ばれる機種依存のファイル形式である。
【0013】
RAW形式の特徴は、画質を劣化させることなく様々なパラメータ(露出値、ホワイトバランス値など)を変更した結果を得ることが可能なことである(例えば、特許文献3を参照)。
【先行技術文献】
【特許文献】
【0014】
【特許文献1】特許第3193806号公報
【特許文献2】特許第3995854号公報
【特許文献3】特開2004−128809号公報
【非特許文献】
【0015】
【非特許文献1】J.S.LEE, "Digital enhancement and noise filtering by use of local statistics", IEEE Transactions on Pattern Analysis and Machine Intelligence, PAMI-2, pp.165-168, 1980
【非特許文献2】H.Tian, B.Fowler, and A.E.Gamal, "Analysis of temporal noisein cmos photodiode active pixel sensor", IEEE J. Solid State Circuits, vol. 36.Jan. pp.92-101, 2001
【非特許文献3】J.Y. Kim, et al., "Characterization and Improvement of Random Noise in 1/3.2" UXGA CMOS Image Sensor with 2.8um Pixel Using 0.13um-technology", IEEE Workshop on CCD and AIS, p.149, 2005
【発明の概要】
【発明が解決しようとする課題】
【0016】
近年、デジタルカメラはイメージセンサの高画素化により画素が微細化し、イメージセンサの高感度化と相まって、センサに起因するノイズが増大する傾向にある。デジタルカメラにおいては様々なノイズの発生原因が存在するため、様々なノイズ特性が反映された信号に対して画像処理を行っている。画素の微細化に伴ってインパルス状のノイズが生じる場合があり、このようなパルス状のノイズを上述した式(1)、(2)を用いた処理で除去しようとした場合、ノイズの除去レベルを上げる必要がある。しかし、除去レベルを上げると画像の高周波成分が失われ、エッジがぼやけてしまうといった問題があった。
【0017】
本発明はこのような従来技術の課題に鑑みなされたものであり、画像全体に存在するノイズのみならず、一部の画素に生じるノイズも存在する画像に対して効率的にノイズを低減する画像処理装置及び画像処理方法を提供する。
【課題を解決するための手段】
【0018】
上述の目的は、入力画像のインパルスノイズを低減したプレノイズ低減画像を生成するノイズ低減手段と、入力画像の、処理対象画素を含む局所的な領域の複数の画素の信号レベルを平滑した値を算出する平滑化手段と、プレノイズ低減画像を用いて、処理対象画素のエッジの程度を示す特徴量を算出する特徴量算出手段と、特徴量に応じた割合で、処理対象画素の信号レベルと平滑化した値とを加重加算し、加重加算の結果を入力画像のノイズ低減処理後の信号レベルとして出力する加算手段とを有し、加算手段は、エッジの程度が高いことを示す特徴量を有する画素ほど、平滑化した値の割合が小さくなるように加重加算することを特徴とする画像処理装置によって達成される。
【発明の効果】
【0019】
このような構成により、本発明によれば、画像全体に存在するノイズのみならず、一部の画素に生じるノイズも存在する画像に対して効率的にノイズを低減することができる。
【図面の簡単な説明】
【0020】
【図1】本発明の第1の実施形態に係る画像処理装置が処理する画像データを生成するデジタルカメラの構成例を示すブロック図である。
【図2】図1の画像処理回路526における画像処理の概要を示すブロック図である。
【図3】カラーフィルタにおけるベイヤー配列の例を示す図である。
【図4】本発明の第1の実施形態に係る画像処理装置の一例としての情報処理装置の構成を示すブロック図である。
【図5】図4の情報処理装置によって実現される画像処理を、模式的に機能ブロックで表した図である。
【図6】図6は図5における画像処理部804が実現する画像処理の流れを模式的に示した図である。
【図7】図6の輝度ノイズ低減処理部191における内部処理フローを示した図である。
【図8】複数のISO感度について、あらかじめプレノイズ低減画像12から画像の平坦部において測定した輝度レベルノイズ標準偏差の例を示す図である。
【図9】画像のエッジ部分における信号レベルの変化をシミュレートした例を示す図である。
【図10】図9に示すエッジ部分の画像に対してエッジ特徴量pを計算した結果を示す図である。
【図11】エッジ特徴量pの値と、ノイズ低減後信号レベルrに寄与する各信号レベル(元の信号レベルg(x,y)、9画素平均値ave9、25画素平均値ave25)の割合の関係を示す図である。
【図12】本発明の第2の実施形態に係る画像処理装置における輝度ノイズ低減処理部の処理内容及び流れを示す図である。
【図13】空間ローパスフィルタの例を示す図である。
【図14】本発明の第2の実施形態に係る画像処理装置における輝度ノイズ低減処理部の別の処理内容及び流れを示す図である。
【図15】本発明の第3の実施形態に係る画像処理装置における画像処理部の処理内容及び流れを示す図である。
【図16】本発明の第3の実施形態に係る画像処理装置における入力画像の構成例を示す図である。
【図17】本発明の第3の実施形態に係る画像処理装置における入力画像の別の構成例を示す図である。
【図18】本発明の第4の実施形態に係る画像処理装置において、TIFF形式の画像データ(RGB画像)に対してノイズ低減処理を行う際の手順の例を示す図である。
【図19】本発明の第4の実施形態に係る画像処理装置において、JPEG形式の画像データ(YC画像)に対してノイズ低減処理を行う際の手順の例を示す図である。
【図20】本発明の第5の実施形態に係る画像処理装置において、画像処理部が行うノイズ特性推定処理の内容を説明するフローチャートである。
【図21】グレー平坦部のRGB階調値とRGB毎のノイズの標準偏差の関係例を示す図である。
【図22】図20のS410で行うグレー平坦部探索処理の詳細を説明するフローチャートである。
【図23】エッジ特徴量p(x,y)と、画像の標準偏差σg(x,y)の関係を示す図である。
【発明を実施するための形態】
【0021】
以下、図面を参照して本発明を好適かつ例示的な実施形態に基づいて詳細に説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態に係る画像処理装置が処理する画像データを生成するデジタルカメラ500の構成例を示すブロック図である。本実施形態においてはレンズ一体型のデジタルカメラに関して説明するが、レンズ交換型のデジタルカメラであってもよい。
【0022】
レンズ501から入射した被写体光は、絞り502、赤外カットフィルタ503及び光学ローパスフィルタ(LPF)504を通過し、撮像素子520の受光面上に結像される。図1において、レンズ501は模式的に1枚のレンズとして図示されているが、レンズ駆動回路506によって駆動可能なフォーカシングレンズを含む、複数枚のレンズを有している。また、絞り502は絞り駆動回路507によって駆動される。なお、メカニカルシャッターを絞り502として用いてもよい。本実施形態において、撮像素子520はCCDイメージセンサやCMOSイメージセンサで構成されており、本実施形態では、CMOSイメージセンサであるものとする。
【0023】
撮像素子520の受光面にはフォトダイオードを用いた光電変換素子(画素)が複数配列されている。また、光電変換素子の光学LPF側の面には、例えば、R(赤)・G(緑)・B(青)から構成されるベイヤー配列の原色カラーフィルタが、1色が1つの光電変換素子に対応するように配置されている。なお、本実施形態のデジタルカメラ500は、撮像素子及びカラーフィルタを1つずつ用いる単板式であるが、R用、G用、B用の3組のカラーフィルタ及び撮像素子を用いる3板式など、複数の撮像素子を用いる構成であってもよい。
【0024】
撮像素子520に結像された被写体像は、各光電変換素子において、入射光量に応じた量の電荷に変換される。タイミングジェネレータ(TG)508が発生する信号は、水平基準パルス生成用ドライバ(X−Dr)521と、垂直基準パルス生成用ドライバ(Y−Dr)522に供給される。そして、水平基準パルス生成用ドライバ521と垂直基準パルス生成用ドライバ522により撮像素子520の読み出し画素が選択され、選択された画素の光電変換素子に蓄積された電荷が電圧信号に変換されて、撮像素子520から出力される。
【0025】
撮像素子520から出力された電圧信号は、相関二重サンプリング回路(CDS)523でサンプリングされ、設定されたISO感度に応じて自動ゲイン制御回路(AGC)524で増幅された後、A/D変換回路(A/D)509でデジタル信号に変換される。
【0026】
A/D509の出力するデジタル信号(RAW画像データ)は、画像処理部525に入力され、WB算出回路529によりホワイトバランスゲインを算出した後、メモリ制御回路514によって制御されるメインメモリ517に格納される。
【0027】
A/D509の出力するRAW画像データはまた、可逆圧縮(ロスレス圧縮)を行う可逆圧縮回路513で可逆圧縮された後、CPUバス528を介してメモリカード制御回路515へ供給され、メモリカード518にRAW形式の画像ファイルとして保存される。
【0028】
また、A/D509の出力するRAW画像データは、画像処理回路526にも入力され、RGB形式からYCbCr形式に変換され、さらにラスタブロック変換された後、JPEG圧縮回路527でJPEG形式に圧縮符号化される。JPEG圧縮回路527から出力されたJPEG形式の画像データは、CPUバス528を介してメモリカード制御回路515に供給され、メモリカード518にJPEG形式のファイルとして保存される。また、このJPEG形式のファイルは、表示制御回路516に読み出され、そのサイズが変換されてディスプレイ519に画像として表示される。
CPU510は内部のメモリに保持されたプログラムを実行することにより、デジタルカメラ500全体を制御する。操作部511はユーザの指示をCPU510に伝えるためのスイッチであり、レリーズボタンや十字キーなどを含んでいる。
【0029】
ここで、画像処理回路526で行わる画像処理についてさらに詳しく説明する。
図2は、画像処理回路526における画像処理の概要を示すブロック図である。メインメモリ517から入力されるRAW画像データ700は、黒補正回路710に入力される。黒補正回路710では暗電流による黒浮きを、撮像素子520の遮光部(OB部)の座標領域における画像データの積算平均値から概算し、画像データから積算平均値を減算する。黒補正回路710で黒補正された画像データは、レンズ補正回路720に入力される。
【0030】
レンズ補正回路720は、レンズ501の光学特性、具体的には、レンズ501で生じる周辺減光及び倍率色収差を補正する。周辺減光は周辺領域画素の信号レベルを増幅することで、倍率色収差は基準となる色に沿うように色毎に像高方向に画像の拡大縮小を行うことでそれぞれ補正することができる。
【0031】
レンズ補正回路720において補正された画像データは、ホワイトバランス補正回路730に入力される。ホワイトバランス補正回路730では、予め画像処理部525のWB算出回路529で算出されたホワイトバランスゲインを画像データに適用する。もしくは、予め設定されている光源(例えばデイライト、タングステン、蛍光灯等)に応じたホワイトバランスゲインを画像データに適用する。ホワイトバランス補正回路730でホワイトバランス補正された画像データは、色補間回路740で色補間される。色補間回路740では、撮像素子520に設けられたカラーフィルタの色配列に応じて、各画素において不足する色情報を補間により求める。
【0032】
例えば、図3に示す様にRGB画素が格子状に配列されたベイヤー配列のカラーフィルタ200を用いているとする。この場合、色補間回路740は、R画素についてはGとBの情報を、G画素についてはRとBの情報を、B画素についてはRとGの情報をそれぞれ周辺画素から補間して求める。
【0033】
これにより、カラー画像を生成するためのR、G、Bの3プレーンが得られる。
次に、RGBの3プレーンが揃った画像データは、色調整回路750において、例えば、式(3)に示すような3×3のマトリクス演算等で色の最適化が行われる。
【0034】
【0035】
ここで、式(3)のm11〜m33は最適化の係数である。
【0036】
色調整後の画像データ(Rc,Gc,Bc)はガンマ(γ)補正回路760によって式(4)のようにガンマ補正される。
【0037】
【0038】
ガンマ変換された画像データ(Rγ,Gγ,Bγ)は、偽色抑圧処理や、エッジ強調処理を行なうため、YC変換回路770により、式(5)に示すようにRGB信号からYCbCrという輝度成分と色差成分の信号に変換される。
【0039】
【0040】
式(5)のk11〜k33は変換係数である。
【0041】
JPEG形式の画像データを作成する場合、YCbCr形式に変換された信号のうち輝度成分Yは、輝度処理回路790でエッジ強調処理される。また、色差成分CbCrは、色処理回路780で偽色抑圧処理される。具体的には、色差成分CbCrに対してメディアンフィルタを適用することにより、孤立点を除去する。エッジ強調処理及び偽色抑圧処理されたYCbCr形式の出力画像データYC799は、JPEG圧縮回路527にてJPEG形式に符号化される。
【0042】
図4は、本発明の第1の実施形態に係る画像処理装置の一例としての情報処理装置の構成を示すブロック図である。
情報処理装置600としては一般的なパーソナルコンピュータを用いることができる。図4において、CPU609はメモリ603に保持されたプログラムを実行することにより、後述する画像処理を始めとする各処理を実現する。
【0043】
ハードディスク604には情報処理装置600における基本ソフト(OS)やアプリケーションプログラム等が格納されており、プログラムはハードディスク604からメモリ603に読み込まれてCPU609に実行される。
【0044】
ディスプレイ607はCPU609の制御下で各種表示を行う。情報処理装置600の利用者はキーボード601やマウス602等の入力デバイスを用いて情報処理装置600を操作する。カードリーダ605はデジタルカメラ500に着脱可能なメモリカード518の読み取りが可能であり、メモリカード518に記録されているRAW形式またはJPEG形式の画像ファイルをメモリ603やハードディスク604に取り込むことができる。
【0045】
以下では、上述のデジタルカメラ500によって生成されたRAW形式の画像ファイルを、情報処理装置600上で動作する画像処理アプリケーションでソフトウェア的に処理するものとして説明する。しかし、以下に述べる画像処理の一部又は全部をハードウェアによって実現してもよい。
【0046】
図5は、情報処理装置600によって実現される画像処理を、模式的に機能ブロックで表した図である。図6は図5における画像処理部804(情報処理装置600が実行する画像処理アプリケーション)が実現する画像処理の流れを模式的に示した図である。
【0047】
RAW画像データ取得部801によってRAW画像ファイル800から取得されたRAW画像データ及び、メタデータ取得部803で取得されたメタデータは、画像処理部804の黒補正処理部110に入力される。黒補正処理部110では撮像素子520の遮光部(OB部)の座標領域における画像データの積算平均値である黒画像データをメタデータから取得し、画像データから積算平均値を減算する。黒補正処理部110で黒補正された画像データは、レンズ補正処理部120に入力される。
【0048】
レンズ補正処理部120は、RAW画像が撮影された際に用いられたレンズ501の光学特性、具体的には、レンズ501で生じる周辺減光及び倍率色収差を補正する。
【0049】
なお、黒補正処理部110及びレンズ補正処理部120の処理に必要な黒画像データ及びレンズ情報(あるいは補正値)は、RAW画像ファイルのヘッダにメタデータとして添付されている。メタデータには、黒画像データやレンズ情報以外にも、撮影条件(ISO感度、絞り、シャッタースピードなど)や、画像処理に関する情報(ホワイトバランス係数、γカーブなど)、撮像装置の固有情報(カラーフィルタの色配列情報など)が含まれている。これらメタデータは、メタデータ取得部803によってRAW画像ファイルから取得され、画像処理部804へ渡される。
【0050】
レンズ補正処理部120において補正された画像データは補間処理部140に入力され色補間される。補間処理部140では、撮像素子520に設けられたカラーフィルタの色配列に応じて、各画素において不足する色情報を補間により求める。カラーフィルタの色配列に関する情報もまたRAW画像ファイルに含まれている。
【0051】
例えば、図3に示す様にRGB画素が格子状に配列されたベイヤー配列のカラーフィルタを用いているとする。補間処理部140は、R画素についてはGとBの情報を、G画素についてはRとBの情報を、B画素についてはRとGの情報をそれぞれ周辺画素から補間して求める。これにより、カラー画像を生成するためのR、G、Bの3プレーンが得られ、次に、RGBの3プレーンが揃った画像データは、中間画像データ145として、一旦メモリ603に保存される。
【0052】
ここまでの処理は、画像処理アプリケーションのユーザ810が指定する画像処理設定値、例えばユーザ指定ホワイトバランス設定値808やユーザ指定明るさ調整設定値807に依存せず行うことができる。ユーザ810が指定する画像処理設定値に依存した処理は、メモリ603に保存した中間画像データ145を元に処理を行うことで、ユーザ設定値を反映するために必要な画像処理の一部を省略できる。
【0053】
メモリ603に保存した中間画像データ145はゲイン補正処理部150に入力される。ゲイン補正処理部150では、ホワイトバランス補正と明るさ調整処理が行われる。
【0054】
ユーザ設定パラメータ変換部809は、ユーザ810が指定したユーザ指定ホワイトバランス設定値808を、ゲイン補正処理部150で用いるための、RGBの色毎のゲイン値(wbR,wbG,wbB)に変換する。また、ユーザ設定パラメータ変換部809は、ユーザ810が指定したユーザ指定明るさ調整設定値807を、ゲイン補正処理部150で用いるための、RGB各色に共通のゲイン値(brightGain)にそれぞれ変換する。式(6)に示すように、RGB色ごとのゲイン(gainR,gainG,gainB)を求める。
【0055】
そして、このゲインを、式(7)に示すように、画像データのR、G、B成分にそれぞれ乗じる。
【0056】
【0057】
ゲイン補正処理されたRwb、Gwb、Bwbからなる画像データは、色調整処理部155において、例えば、式(3)に示したような3画素×3画素のマトリクス演算等で色の最適化が行われ、Rc、Gc、Bcからなる画像データが生成される。色調整後の画像データ(Rc,Gc,Bc)はγ補正処理部160でガンマ変換される。
【0058】
ガンマ変換された画像データは、偽色抑圧処理や、エッジ強調処理を行なうため、YC変換処理部170により、式(5)に示したようにRGB信号からYCbCrという輝度成分と色差成分の信号に変換される。
【0059】
YCbCr変換された信号のうちの輝度成分Yは、輝度ノイズ低減処理部191によってざらざらしたノイズが抑制された後、シャープネス処理部192でエッジ強調される。また、メディアン処理部181はYCbCr変換された信号のうちの色差成分CbCrに対してメディアンフィルタを適用して偽色を抑圧し、さらに色ノイズ低減処理部182は局所的に色バランスがずれた領域を均質化する。エッジ強調処理及び偽色抑圧処理されたYCbCr形式の画像データはユーザ指定出力ファイル形式806に従って出力ファイル形式に合わせた変換処理が行われ、出力画像805として出力される。出力ファイル形式には例えばJPEG形式やTIFF形式がある。
【0060】
ここで、上述の輝度ノイズ低減処理部191の処理について詳細に説明する。
図7は、輝度ノイズ低減処理部191における内部処理フローを示した図である。
輝度ノイズ低減処理は、画像データの輝度成分Yを入力画像10とする。メディアンフィルタ処理部11は、3×3タップのメディアンフィルタを入力画像10の処理対象である座標(x,y)の画素を中心とした領域に適用し、RTSノイズや画素欠損により生じたインパルス状のノイズを除去したプレノイズ低減画像12を作成する。あるいは、処理対象である座標(x,y)の画素の信号レベルg(x,y)と隣接する画素の信号レベルの差分を求め、全ての隣接する画素との差分が閾値を超えた場合に、g(x,y)をこれら隣接する画素の信号レベルの平均値で置換するようにしてもよい。
【0061】
エッジ特徴量算出処理部13は、プレノイズ低減画像12から、処理対象画素を中心とした3画素×3画素の範囲に配置された画素の信号レベルを用いて、その処理対象である座標(x,y)の画素を中心とした局所的なエッジ特徴量p(x,y)を算出する。エッジ特徴量p(x,y)を求める領域は、ここでは処理対象画素を中心とした3画素×3画素の範囲としたが、画像の大きさやノイズ低減の程度の応じて5画素×5画素や、7画素×7画素など、領域の広さを変更してもよい。ただし、この領域の広さに沿うように、メディアンフィルタのタップ数や、後述するノイズの分散値および局所的な信号レベルの分散値を求める領域の広さも変更する必要がある。エッジ特徴量p(x,y)はエッジの程度を表す0から1の値であり、エッジの程度が高いほど大きな値を有する。あらかじめメディアンフィルタによってインパルス状のノイズを抑制した画像からエッジ特徴量p(x,y)を算出することにより、インパルス状のノイズをエッジ領域と判断されやすくなる問題を回避することができる。
【0062】
エッジ特徴量算出処理部13では背景技術で述べたLeeの方法と同様の式(2)を用い、処理対象画素ごとにエッジ特徴量pを算出する。ここで、Leeの方法では、座標(x,y)を中心としたエッジ特徴量p(x,y)の算出と、座標(x,y)の画素を中心とした局所的な領域の平均値E(g(x,y))の算出を、いずれもメディアンフィルタを施していない元の画像に対して行っている。これに対し、本実施形態では、エッジ特徴量算出処理部13では、RTSノイズや画素欠損により生じたインパルス状のノイズを除去したプレノイズ低減画像12を用い、局所平均値算出処理部14ではプレノイズ低減画像12ではなく元の入力画像10を用いる。
【0063】
本実施形態におけるエッジ特徴量p(x,y)の算出は、プレノイズ低減後の画像の座標(x,y)に位置する画素の信号レベルu(x,y)を用いて式(8)のように表すことができる。
【0064】
【0065】
式(8)でσ2n(x,y)はプレノイズ低減画像の座標(x,y)の画素を中心とした局所的な領域における画素の信号レベルに含まれるノイズの分散値である。σ2u(x,y)はプレノイズ低減画像の座標(x,y)の画素を中心とした局所的な領域における画素の信号レベルの分散値である。ノイズの分散値σ2n(x,y)はカメラ機種、ISO感度、輝度レベルに依存した値であり、あらかじめ測定して用意した値を用いることができる。また、ノイズの分散値σ2n(x,y)は座標(x,y)に依存せず、ISO感度、輝度レベルにのみ依存した値としてもよい。
【0066】
図8は、複数のISO感度について、あらかじめプレノイズ低減画像12から画像の平坦部において測定した輝度レベルのノイズ標準偏差(ノイズの分散値を1/2乗した値)の例を示している。このように、ISO感度に応じてノイズの分散値を変更する。
【0067】
プレノイズ低減画像の局所的な分散値σ2u(x,y)は、式(9)で表される、座標(x,y)の画素を中心とした5画素×5画素の局所的な領域における画素の信号レベルの分散値である。また、式(9)におけるm(x,y)は、座標(x,y)の画素を中心とした5画素×5画素の局所的な領域における画素の信号レベルの平均値であり、式(10)のように表すことができる。
【0068】
【0069】
図9は画像のエッジ部分における信号レベルの変化をシミュレートした例を示す図であり、想定したエッジに対してガウス状のノイズとインパルス状のノイズを付加している。インパルス状のノイズは、x座標で20,30,40,90,150,及び190付近に見られる。
【0070】
図10は、図9に示すエッジ部分の画像に対してエッジ特徴量pを計算した結果を示す図である。
エッジ特徴量p(x,y)の算出と局所的な平均値E(g(x,y))の算出をいずれもメディアンフィルタを施していない元の画像に対して行うLeeの方法では、インパルス状のノイズ部分で特徴量p(x,y)の値が1に近づいていることが図10からわかる。式(1)から、特徴量pが1に近い場合には、元の信号レベル、つまりこの場合はノイズを発生させている信号レベルがほぼそのままノイズ除去後の信号レベルとなることがわかる。これに対し、エッジ特徴量をプレノイズ低減画像(メディアン値)から求める本実施形態の方法では、インパルス状のノイズ部分における特徴量p(x,y)は0の値に近く、インパルスノイズを軽減することが可能であることが分かる。
【0071】
図7の局所平均値算出処理部14では、入力画像10から、式(11)に示すように座標(x,y)の画素を中心とした5画素×5画素の画素の信号レベルの平均値ave25を算出する。また、局所平均値算出処理部14は、式(12)に示すように座標(x,y)の画素を中心とした3画素×3画素の画素の信号レベルの平均値ave9を算出する。
【0072】
【0073】
図7の加重平均処理部15では、エッジ特徴量算出処理部13で得たエッジ特徴量p(x,y)の値に応じて、入力画像10の座標(x,y)の画素を中心とした局所的な平均値E(g(x,y))と、入力画像10の座標(x,y)の画素の信号レベルg(x,y)を加重加算する。そして得られた値r(x,y)をノイズ低減後の出力画像16の信号レベルとする。
【0074】
具体的には、加重平均処理部15はまず、入力画像10の座標(x,y)の画素を中心とした局所的な平均値E(g(x,y))を、式(13)に従って求める。
【0075】
【0076】
式(13)において、f(p(x,y))はエッジ特徴量p(x,y)の関数である。そして、エッジ特徴量p(x,y)が大きいほどタップ数の小さな平均値であるave9の重みが大きく、逆にエッジ特徴量p(x,y)が小さいほどタップ数の大きな平均値であるave25の重みが大きくなるようにする。
【0077】
このような重み付けは、f(p(x,y))を例えば式(14)のように計算することにより実現することができる。
【0078】
【0079】
次に、加重平均処理部15は、座標(x,y)の画素のノイズ低減後の信号レベルr(x,y)を、エッジ特徴量p(x,y)を用いて、式(15)に従って求める。
【0080】
【0081】
式(15)から明らかなように、座標(x,y)の画素のノイズ低減後の出力画像16の信号レベルr(x,y)は、エッジ特徴量p(x,y)が大きければ、すなわち、エッジ部分である可能性の高い位置の画素ならば、元の信号レベルg(x,y)に近い値となる。反対に座標(x,y)の画素のノイズ低減後の信号レベルrは、エッジ特徴量p(x,y)が小さければ、すなわち平坦部である可能性の高い位置の画素であれば、局所的な平均値E(g(x,y))に近い値となる。
【0082】
図11は、エッジ特徴量p(x,y)の値と、ノイズ低減後の信号レベルr(x,y)に寄与する各信号レベル(元の信号レベルg(x,y)、9画素平均値ave9、25画素平均値ave25)の割合の関係を示す図である。
【0083】
図11から、式(13)及び式(14)のような加重加算した場合、エッジ特徴量p(x,y)が0から0.1付近までの、より平坦部に近い領域では25画素の平均値ave25の寄与が支配的であり、信号レベルを平坦化している様子がわかる。
【0084】
以上説明したように、本実施形態では、処理対象となる画素の元の信号レベルと、その画素を中心とした局所的な領域の信号レベルの平均値とを、画像のエッジ特徴量に応じて加重加算して画像のノイズを低減している。エッジ特徴量の算出には、インパルス状のノイズを除去した画像を用いているのに対して、局所的な平均値の算出にはインパルス状のノイズを除去する前の元の画像を用いる。これにより、画像全体に存在するノイズのみならず、画素の微細化などに伴って画像に生じるインパルス状のノイズについても、画像の高周波成分の損失を抑制しながら効率的に低減することができる。
【0085】
なお、ノイズ低減後の信号レベルr(x,y)を求める際に、元の信号レベルg(x,y)と局所的な平均値E(g(x,y))を加重加算したが、これに限られるものではない。座標(x,y)の処理対象画素を中心とした局所的な平均値E(g(x,y))に代えて、座標(x,y)の処理対象画素の信号レベルと、その周囲の画素の信号レベルを重み付け加算することで、処理対象画素の信号レベルを平滑化した値を用いてもよい。すなわち、元の信号レベルg(x,y)に対して平滑化が施されることで、元の信号レベルg(x,y)よりも高周波成分が抑制された信号レベルであれば、平均値E(g(x,y))に限らず、ノイズ低減後の信号レベルr(x,y)の算出に用いることができる。
【0086】
(第2の実施形態)
次に本発明の第2の実施形態について説明する。
本実施形態は、第1の実施形態で説明した輝度ノイズ低減処理を、多重解像度処理に適用するものである。本実施形態においても、第1の実施形態と同様、輝度ノイズ低減処理は情報処理装置600のCPU609が画像処理アプリケーションを実行することにより実現されるものとする。本実施形態では、図6に示した輝度ノイズ低減処理部191の処理内容のみが第1の実施形態と異なるため、以下では輝度ノイズ低減処理部191の処理内容のみを説明する。
【0087】
図12は、本実施形態に係る輝度ノイズ低減処理部の処理内容及び流れを示す図である。
輝度ノイズ低減処理部191は、YC変換処理部170が出力する輝度画像データを入力画像20とし、メディアンフィルタ処理31によりRTSノイズや画素欠損により生じたインパルス状のノイズを除去したプレノイズ低減画像21を作成する。第1の実施形態で説明したように、隣接する画素との差分が閾値以上である場合に、処理対象画素の信号レベルを、その画素に隣接する画素の信号レベルから求めた値に置換するようにしてもよい。
【0088】
次に縮小画像生成手段であるピラミッド画像作成処理32によってまず、入力画像20に、図13に示したような空間ローパスフィルタを施したのち、水平1/2、垂直1/2画素にサブサンプリングして、面積が1/4の縮小画像22を作成する。さらにピラミッド画像作成処理32により、縮小画像22をさらに水平1/2、垂直1/2画素にサブサンプリングし、面積1/16の縮小画像24を作成する。
【0089】
また、ピラミッド画像作成処理32では、メディアンフィルタ処理31で生成されたプレノイズ低減画像21に対しても同様のサブサンプリングを適用し、プレノイズ低減画像の面積1/4の縮小画像23、面積1/16の縮小画像25を作成する。
【0090】
ピラミッド画像作成処理32によって縮小画像22〜25を作成したら、適用平均値算出処理33において、入力画像20を用いて2種類の平均値ave9及びave25を式(11)、式(12)から求める。
また、並行してエッジ特徴量算出処理34において、プレノイズ低減画像21に対して式(8)に基づく座標(x,y)の画素のエッジ特徴量p(x,y)を算出する。
【0091】
その後、第1適応的NR(ノイズリダクション)処理35において、式(13)、式(14)、及び式(15)を用い、非縮小画像に対するノイズ低減後の座標(x,y)の画素の信号レベルr(x,y)を計算する。次に判定処理36において、エッジ特徴量算出処理34にて得られたプレノイズ低減画像21の座標(x,y)の画素における局所的な分散値σ2u(x,y)と、プレノイズ低減画像21の1/4縮小画像23のノイズの分散値σ2n4(x,y)を比較する。1/4縮小画像23におけるノイズの分散値は、図8に示したように、あらかじめISO感度毎に測定した値を用いることができる。ノイズの分散値σ2n4(x,y)は座標(x,y)に依存せず、ISO感度にのみ依存した値としてもよい。
【0092】
輝度ノイズ低減処理部191は、プレノイズ低減画像21の局所的な分散値σ2u(x,y)が閾値σ2n4(x,y)以上である場合には、座標(x,y)はエッジ部である可能性が高いと判断する。この場合、輝度ノイズ低減処理部191は1/4縮小画像での処理を行わず、直ちに混合処理44を行う。一方、プレノイズ低減画像21の局所的な分散値σ2u(x,y)が閾値σ2n4(x,y)より小さい場合には、座標(x,y)は平坦部である可能性が高いと判断する。これは、そのプレノイズ低減画像21の局所的な領域の信号レベルは、入力画像20の1/4縮小画像22で残存する周波数のノイズ成分が占める割合が大きいと考えられるためである。この場合、輝度ノイズ低減処理部191は入力画像20の1/4縮小画像22を用いた適用平均値算出処理37と、プレノイズ低減画像21の1/4縮小画像23を用いたエッジ特徴量算出処理38を行う。
【0093】
適用平均値算出処理37において、入力画像20の1/4縮小画像22を用いて2種類の平均値ave9及びave25を式(11)、式(12)から求める。
また、並行してエッジ特徴量算出処理38において、プレノイズ低減画像21の1/4縮小画像23に対して式(8)に基づくエッジ特徴量p(x,y)を算出する。
【0094】
その後、第2適応的NR処理39において、式(13)、式(14)、及び式(15)を用い、1/4縮小画像22に対するノイズ低減後の信号レベルr(x,y)を計算する。第2適応的NR処理39においては、式(15)中の元の信号レベルg(x,y)に代えて、入力画像20のノイズ低減後の信号レベルr(x,y)(第1適応的NR処理35の処理結果)を用いる。
【0095】
次に判定処理40において、エッジ特徴量算出処理38にて得られたプレノイズ低減画像21の1/4縮小画像23の座標(x,y)の画素における局所的な分散値σ2u4(x,y)と、プレノイズ低減画像21の1/16縮小画像25のノイズの分散値σ2n16(x,y)を比較する。1/16縮小画像25におけるノイズの分散値は、図8に示したように、あらかじめISO感度毎に測定した値を用いることができる。ノイズの分散値σ2n16(x,y)は座標(x,y)には依存せず、ISO感度にのみ依存した値としてもよい。
【0096】
プレノイズ低減画像21の1/4縮小画像23の局所的な分散値σ2u4(x,y)が閾値σ2n16(x,y)以上である場合には、座標(x,y)はエッジ部である可能性が高いと判断する。この場合、輝度ノイズ低減処理部191は1/4縮小画像での処理を行わず、混合処理44を行う。一方、プレノイズ低減画像21の1/4縮小画像23の局所的な分散値σ2u4(x,y)が閾値σ2n16(x,y) より小さい場合には、座標(x,y)は平坦部である可能性が高いと判断する。これは、そのプレノイズ低減画像21の1/4縮小画像23の局所的な領域の信号レベルは、入力画像20の1/16縮小画像24で残存する周波数のノイズ成分が占める割合が大きいと考えられるためである。この場合、輝度ノイズ低減処理部191は入力画像20の1/16縮小画像24を用いた適用平均値算出処理41と、プレノイズ低減画像21の1/16縮小画像25を用いたエッジ特徴量算出処理42を行う。
【0097】
適用平均値算出処理41では、入力画像20の1/16縮小画像24を用いて2種類の平均値ave9及びave25を式(11)、式(12)から求める。
また、並行してエッジ特徴量算出処理42において、プレノイズ低減画像21の1/16縮小画像25に対して式(8)に基づくエッジ特徴量p(x,y)を算出する。
【0098】
その後、第3適応的NR処理43において、式(13)、式(14)、及び式(15)を用い、1/16縮小画像24に対するノイズ低減後の信号レベルr(x,y)を計算する。第3適応的NR処理43においては、式(15)中の元の信号レベルg(x,y)に代えて、1/4縮小画像23のノイズ低減後の信号レベルr(x,y)(第2適応的NR処理39の処理結果)を用いる。
【0099】
混合処理44では、式(16)に示すように、入力画像20の信号レベルg(x,y)と、第1適応的NR処理35、第2適応的NR処理39、及び第3適応的NR処理43のいずれかで得られたノイズ低減画像r(x,y)とを、ISO感度に応じて加重平均する。これにより、最終的なノイズ低減後の出力画像26の信号レベルnr(x,y)を得る。
【0100】
式(17)において、Mmaxは所定の係数であり、例えば0.7が設定される。
【0101】
これら式(16)、(17)によれば、画像のISO感度が高いほどip(iso)の値が小さくなり、ノイズ低減後の出力画像の信号レベルr(x,y)に対する入力画像20の信号レベルg(x,y)が小さくなる。すなわち、ISO感度が高くなり、ノイズの信号レベルに対する増幅率が大きくなるほど、ノイズ低減後の出力画像の信号レベルr(x,y)の重み付けを大きくしている。そのため、ノイズ低減後の出力画像の信号レベルr(x,y)のみを用いた場合に平坦部でノイズ除去強度が強すぎるために生じる、ディテール(画像の高周波成分)の消失を抑制することができる。
なお、最終的に得ようとする画像がサイズを小さくした縮小画像である場合には、処理時間を要する等倍画像での処理(33〜36)を行わず、1/4縮小画像22,23を用いた処理(37,38)から行ってもよい。
また、混合処理44を省略し、適応的NR処理35、39および43の各々で式(15)、(16)に代えて式(18)を用いることで、最終的なノイズ低減後の出力画像26の信号レベルnr(x,y)を求めるようにしてもよい。
【0102】
【0103】
この式(18)によれば、エッジ特徴量p(x,y)が大きいほど、あるいは、ISO感度が小さいほど、局所的な平均値E(g(x,y))に対するもとの信号レベルg(x,y)の比率が大きくなり、画像の高周波成分が保持されやすくなる。反対に、エッジ特徴量pが小さいほど、あるいは、ISO感度が大きいほど、もとの信号レベルg(x,y)に対する局所的な平均値E(g(x,y))の比率が大きくなり、ノイズ成分が抑制されやすくなる。
【0104】
なお、本実施形態の変形例として、プレノイズ低減画像21からは縮小画像を生成せず、エッジ特徴量pの算出は縮小しないプレノイズ低減画像21からのみ行うようにしても良い。この場合の輝度ノイズ低減処理部の処理内容及び流れを図14に示す。
【0105】
図14において、図12と同じ構成には同じ参照数字を付し、重複する説明は省略する。
図14と図12との比較から明らかなように、ピラミッド画像作成処理32では入力画像20に対してのみ1/4縮小画像22と1/16縮小画像24を生成し、プレノイズ低減画像21については縮小画像を生成しない。
【0106】
そして、判定処理36においては、入力画像20の1/4縮小画像22におけるノイズの分散値σ2n4(x,y)と、入力画像20の座標(x,y)における局所的な分散値σ2g(x,y)を比較する。
【0107】
輝度ノイズ低減処理部191は、入力画像20の座標(x,y)における局所的な分散値σ2g(x,y)が閾値σ2n4(x,y)以上である場合には、座標(x,y)はエッジ部である可能性が高いと判断する。この場合、輝度ノイズ低減処理部191は1/4縮小画像での処理を行わず、直ちに混合処理44を行う。一方、入力画像20の座標(x,y)における局所的な分散値σ2g(x,y)が閾値σ2n4(x,y)より小さい場合には、座標(x,y)は平坦部である可能性が高いと判断する。入力画像20の局所的な分散値σ2g(x,y)が閾値σ2n4(x,y)より小さいということは、その入力画像20の局所的な領域の信号レベルは、入力画像20の1/4縮小画像22で残存する周波数のノイズ成分が占める割合が大きいと考えられるためである。この場合、輝度ノイズ低減処理部191は入力画像20の1/4縮小画像22を用いた適用平均値算出処理37を行う。
【0108】
判定処理40においては、入力画像20の1/16縮小画像24におけるノイズの分散値σ2n16(x,y)と、入力画像20の1/4縮小画像22の座標(x,y)における局所的な分散値σ2g4(x,y)を比較する。
【0109】
輝度ノイズ低減処理部191は、入力画像20の1/4縮小画像22の座標(x,y)における局所的な分散値σ2g4(x,y)が閾値σ2n16(x,y)以上である場合には、座標(x,y)はエッジ部である可能性が高いと判断する。この場合、輝度ノイズ低減処理部191は1/16縮小画像での処理を行わず、混合処理44を行う。一方、入力画像20の1/4縮小画像22の座標(x,y)における局所的な分散値σ2g4(x,y)が閾値σ2n16(x,y)より小さい場合には、座標(x,y)は平坦部である可能性が高いと判断する。これは、その入力画像20の1/4縮小画像22の局所的な領域の信号レベルは、入力画像20の1/16縮小画像24で残存する周波数のノイズ成分が占める割合が大きいと考えられるためである。この場合、輝度ノイズ低減処理部191は入力画像20の1/16縮小画像24を用いた適用平均値算出処理41を行う。
【0110】
これらのノイズの分散値は、図8に示したように、あらかじめISO感度毎に測定した値を用いることができる。また、入力画像20および1/4縮小画像22の座標(x,y)における局所的な分散値σ2g(x,y)、σ2g4(x,y)は、プレノイズ低減画像の局所的な分散値σ2u(x,y)と同様に式(9)、(10)を用いて求めることができる。
【0111】
また、縮小画像に対する適応的NR処理4(39)、適応的NR処理16(43)で用いる特徴量pは、エッジ特徴量算出処理34がプレノイズ低減画像21に対して求めた特徴量pの中の、対応する画素における値を利用する。
【0112】
このように構成することで、低解像度の縮小画像を生成するための処理や、縮小画像に対してエッジ特徴量を求めるための処理に必要な負荷を無くすことができる。そのため、処理時間の短縮が可能になる。
【0113】
なお、適用平均値処理33、37および41は、画像処理部525内部の1つの適用平均値処理回路に実行させることが可能である。同様に、エッジ特徴量算出処理34、38および42は、画像処理部525内部の1つのエッジ特徴量算出処理回路に実行させることが可能である。同様に、第1適応的NR処理35、第2適応的NR処理39および第3適応的NR処理43は、画像処理部525内部の1つの適応的NR処理回路に実行させることが可能である。さらに、判定処理36および40は、画像処理部525内部の1つの判定処理回路に実行させることが可能である。
【0114】
(第3の実施形態)
次に、本発明の第3の実施形態について説明する。
図6を用いて説明した、画像処理部804(情報処理装置600が実行する画像処理アプリケーション)が実現する画像処理の流れにおいて、色補間処理部140と、輝度ノイズ低減処理部191の処理は比較的長い処理時間を要する。そのため、ユーザビリティの観点から、図6のような画像処理の流れの中でも、できるだけ初めに行うことが好ましい。
【0115】
また一般に、ある特定の画像劣化原因に対する補正処理を、複数の画像劣化要因に対して順次実行する場合、画像劣化原因の発生順に対して逆順に補正処理を適用したり、補正すべき画像劣化原因以外については影響を与えたりしないようにすることが好ましい。
【0116】
例えば画像ノイズの原因は、撮像素子における光電変換過程、アナログ信号の転送、およびアナログ信号の増幅の過程にあり、レンズ補正処理部120が補正対象とする、レンズ501が原因の周辺減光や収差とは無関係である。しかし、画像中のノイズ特性は、周辺減光補正処理の影響を受けて変化する。そのため、周辺減光補正処理をノイズ低減処理の前に行った場合、上述のノイズの分散値に基づくノイズ低減処理において、周辺減光補正された画像の周辺部のノイズをエッジ領域と判断してしまうおそれがある。その場合、実際にはノイズが多いにもかかわらず、ノイズ低減処理の効果が弱くなる。従って、ノイズ低減処理はノイズ特性に影響を与える他の補正処理よりも先に行うことがより好ましいと考えられる。
【0117】
そのため、本実施形態では図15に示すように、ノイズ低減処理部105をレンズ補正処理部120よりも前に配置し、ノイズ低減処理をレンズ補正処理より先に実行するようにしている。
【0118】
図15のノイズ低減処理部105は、撮像素子が備えるカラーフィルタの構成に応じて、同一色の画素で構成される画像毎に第1の実施形態で説明した輝度ノイズ低減処理を適用する。例えばベイヤー配列のカラーフィルタを備えた撮像素子を用いる場合、図16に示すようにR,G1,G2,Bの画素配列の同種の画素から構成される4つの画像(201,202,203,204)に上述した輝度ノイズ低減処理を適用することができる。あるいは、図17に示すように、緑画素についてはG1画素とG2画素を区別せずに3つの画像(201,205,204)に上述した輝度ノイズ低減処理を適用してもよい。なお、図17の場合、G1画素とG2画素との間の画素(ItpG)は、周辺画素から補間により生成する。
【0119】
このように、本実施形態では、ノイズ低減処理をノイズ特性に影響を与える他の補正処理よりも前に行うことで、より効果的なノイズ低減が期待できる。
【0120】
(第4の実施形態)
次に、本発明の第4の実施形態について説明する。
これまで、本発明を、デジタルカメラで撮影したRAW画像データを取り扱う画像処理アプリケーションに適用した例を説明してきた。RAW形式での記録が可能なデジタルカメラでは、他の形式、代表的にはJPEG形式でも並行して記録可能なものがある。あるいは、RAW画像ファイルを生成する際、プレビュー用の画像として、ヘッダ部分にJPEG形式の画像データを埋め込む場合もある。
【0121】
このように、同一の画像についてRAW形式と他の形式(ここではJPEG形式とする)の画像データが存在する場合、画像処理アプリケーションでそれらが同様に処理されることが期待される場合がある。この場合、例えばどちらの形式の画像に対しても同じノイズ低減効果を得たい場合、同じノイズ低減処理を適用することが好ましい。
【0122】
より厳密には、ノイズ低減処理の手法が同じであるだけでなく、第3の実施形態で説明した理由により、複数の画像処理手順におけるどの位置でノイズ低減処理を行うかも同じであることが望ましい。
【0123】
例えば図6、図18、図19に示すような段階で第1の実施形態または第2の実施形態で説明したノイズ低減処理を行うことが考えられる。図6は、第1の実施形態で説明したようにRAW画像データに対してノイズ低減処理を行う場合の処理フローである。また、図18はTIFF形式の画像データ(RGB画像)に対して、図19はJPEG形式の画像データ(YC画像)に対してノイズ低減処理を行う際の手順の例である。ノイズ低減処理はいずれも輝度データに対して適用する。
【0124】
図18において、入力画像300(TIFF形式の画像データ)は信号レベルをRGBで表しているため、RGB/YC変換処理部310において、輝度成分と色差成分とに変換する。そして、輝度成分に対して輝度処理及びノイズ低減処理部330でエッジ強調処理及び上述の輝度ノイズ低減処理を適用する。また、色処理部320では色差成分に対して偽色抑圧処理を行う。そして、YC/RGB変換処理部340で、再度RGB成分への変換を行い、ノイズ低減処理後のTIFF形式の画像データを出力画像350として出力する。
【0125】
図19では、入力画像360(JPEG形式の画像データ)は既に輝度成分と色差成分とに分離されている。そのため、直ちに色処理部320及び輝度処理及びノイズ低減処理部330での処理を行い、ノイズ低減処理後のJPEG形式の画像データを出力画像370として出力する。なお、図19に記載していないが、実際には入力画像の復号化及び、ノイズ低減処理後の再符号化が行われる。
【0126】
この際に用いるノイズの分散値はセンサのノイズ特性が撮影条件(例えばISO感度)と画像処理内容(例えばホワイトバランスゲイン、ガンマカーブ)に依存して以下の式(19)のように変化する。画像ファイルのヘッダに含まれるメタデータなどから撮影条件や画像処理内容が得られる場合、ノイズ低減処理が行われるまでにどのような画像処理が行われたかに応じてノイズの特徴である分散値を決定する。
【0127】
式(19)は図6のようにゲイン補正処理部150でのゲイン補正後にγ補正処理部160でγ補正を行った画像に対して上述の輝度ノイズ低減処理を適用する場合の、ノイズの分散値(標準偏差σn2(x,y))を得る場合の計算例である。
【0128】
式(19)ではRAW画像データ入力時のノイズの標準偏差σn(x,y)にホワイトバランスゲインと明るさ調整ゲインを乗算した値(gain)を掛けた後、ガンマカーブ(γ)を適用した値σn2(x,y)を計算している。
【0129】
【0130】
ノイズの分散は、式(19)で得られる標準偏差σn2(x,y)を二乗した値を用いればよい。
【0131】
このように、本実施形態によれば、異なる形式の画像データに対して同一のノイズ低減処理を適用するので、同じ画像でデータ形式の異なる画像データに対し、同様のノイズ低減処理結果を得ることができる。
【0132】
(第5の実施形態)
次に、本発明の第5の実施形態について説明する。
第4の実施形態では、画像ファイルのヘッダに含まれるメタデータから撮像条件、画像処理内容の情報を取得して、それら情報に応じたノイズ分散値を用いてノイズ低減処理を行うものであった。
【0133】
しかし、このような情報が必ず画像ファイルから取得できるとは限らない。撮影条件や画像処理内容が不明なJPEG画像やTIFF画像に対してノイズ低減処理を行う場合、画像に含まれるノイズ特性をあらかじめ推定することは困難である。そのため、本実施形態においては、画像データそのものからノイズ特性を推定する。
【0134】
デジタルカメラの出力画像におけるノイズ特性はグレー階調値に依存することを利用し、グレーの平坦部分を画像中から探索し、グレー平坦部におけるRGB毎の階調値と標準偏差を得ることでノイズ特性を推定することができる。
【0135】
図20は、本実施形態における画像処理部804が行うノイズ特性推定処理の内容を説明するフローチャートである。
まず、S400で画像処理部804は、入力画像から縮小画像を生成する。これは、細かなテクスチャーやインパルスノイズによる影響を避けて高速に平坦部を得るためである。なお、入力画像はプレノイズ低減画像であってもよい。
【0136】
そして、画像処理部804は、縮小画像からグレー平坦部を探索し(S410)、探索したグレー平坦部から、推定ノイズ特性としてノイズの標準偏差σn(x,y)を求める(S420)。例えば、図21に示すような関係を利用して、グレー平坦部のRGB階調値から、RGB毎のノイズの標準偏差を求める。画像処理部804はノイズの標準偏差σn(x,y)からノイズ分散値を求め、このノイズ分散値を、輝度ノイズ低減処理部191でR画像、G画像及びB画像に対する輝度ノイズ低減処理で用いる。
【0137】
この際、標準偏差は縮小画像から求めているため、縮小前の画像から求めた場合よりも小さい値となる。従って、S400における縮小画像の生成に用いるローパスフィルタの特性と標準偏差の変化の関係を考慮して、標準偏差からノイズの分散値を求める。そのためには、予め、縮小画像の生成に用いるローパスフィルタに対してノイズの分散値がどのように変化するかを実測で調べておけばよい。あるいは、ノイズの空間周波数特性を仮定し、ローパスフィルタによるノイズの変化をローパスフィルタの周波数応答によって推定しておけばよい。
【0138】
図22は、図20のS410で行うグレー平坦部探索処理の詳細を説明するフローチャートである。
画像処理部804は、例えば7x7タップのカーネル内で、RGB各色の平均値を算出する(S411、S412)。そして、画像処理部804は、求めた平均値の分散値(または標準偏差)および尖度を算出し(S413)、RGBの平均値が所定の範囲内にあり、かつ尖度が所定の範囲内にある場合、そのカーネル(領域)がグレー平坦部であると判断する。分散値や尖度を求めるための演算には時間を要するため、ノイズ推定に必要な階調域の情報が得られない領域については演算を行わないようにすることが望ましい。
【0139】
このように、本実施形態によれば、画像からノイズ特定を推定することにより、ノイズ推定に必要な情報が画像ファイルのメタデータ(属性情報)から得られない場合でも、適切なノイズ低減処理を実行することができる。
【0140】
(他の実施形態)
上述の実施形態においては、情報処理装置において本発明のノイズ低減処理を実行するものとして説明したが、撮像装置において同様のノイズ低減処理を適用することも可能である。この場合、図2における輝度処理回路で実行することができる。
【0141】
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
【特許請求の範囲】
【請求項1】
入力画像のインパルスノイズを低減したプレノイズ低減画像を生成するノイズ低減手段と、
前記入力画像の、処理対象画素を含む局所的な領域の複数の画素の信号レベルを平滑化した値を算出する平滑化手段と、
前記プレノイズ低減画像を用いて、前記処理対象画素のエッジの程度を示す特徴量を算出する特徴量算出手段と、
前記特徴量に応じた割合で、前記処理対象画素の信号レベルと前記平滑化した値とを加重加算し、加重加算の結果を前記入力画像のノイズ低減処理後の信号レベルとして出力する加算手段とを有し、
前記加算手段は、エッジの程度が高いことを示す特徴量を有する画素ほど、前記平滑化した値の割合が小さくなるように加重加算することを特徴とする画像処理装置。
【請求項2】
前記特徴量算出手段は、前記プレノイズ低減画像の前記処理対象画素を含む局所的な領域の複数の画素の信号レベルの分散値と、前記プレノイズ低減画像のノイズの分散値を用いて前記特徴量を算出するものであり、
前記のノイズの分散値に対する前記信号レベルの分散値の割合が大きくなるほど、前記特徴量が示すエッジの程度が高くなることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記入力画像の縮小画像を生成する縮小画像生成手段と、
前記加算手段から出力された複数の信号レベルの中からいずれかを選択する選択手段をさらに有し、
前記ノイズ低減手段は、前記縮小画像のインパルスノイズを低減したプレノイズ低減画像を生成し、
前記平滑化手段は、前記縮小画像の処理対象画素を含む局所的な領域の複数の画素の信号レベルを平滑化した値を算出し、
前記特徴量算出手段は、前記縮小画像のプレノイズ低減画像を用いて、前記処理対象画素のエッジの程度を示す特徴量を算出し、
前記加算手段は、前記縮小画像のプレノイズ低減画像を用いて算出した前記特徴量に応じた割合で、前記縮小画像の処理対象画素の信号レベルと前記縮小画像の前記平滑化した値とを加重加算し、加重加算の結果を前記縮小画像のノイズ低減処理後の信号レベルとして出力し、
前記選択手段は、前記入力画像の信号レベルの分散値が閾値以上であれば、前記入力画像のノイズ低減処理後の信号レベルを選択し、前記入力画像の信号レベルの分散値が前記閾値よりも小さければ、前記縮小画像のノイズ低減処理後の信号レベルを選択して出力するか、あるいは、前記入力画像のプレノイズ低減画像の信号レベルの分散値が閾値以上であれば、前記入力画像のノイズ低減処理後の信号レベルを選択し、前記入力画像のプレノイズ低減画像の信号レベルの分散値が前記閾値よりも小さければ、前記縮小画像のノイズ低減処理後の信号レベルを選択して出力することを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記閾値は、前記縮小画像の信号レベルに含まれるノイズの分散値であることを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記選択手段にて出力された信号レベルと、前記入力画像の信号レベルとを加重加算し、加重加算の結果の信号レベルを前記入力画像のノイズ低減後の信号レベルとして出力する混合処理手段を有することを特徴とする請求項3または4記載の画像処理装置。
【請求項6】
前記混合処理手段は、前記入力画像を撮影した際に撮影装置に設定されていた感度が高いほど、前記選択手段にて出力された信号レベルの割合が大きくなるように加重加算することを特徴とする請求項5に記載の画像処理装置。
【請求項7】
前記加算手段は、前記入力画像を撮影した際に撮影装置に設定されていた感度が高いほど、前記平滑化した値の割合が大きくなるように加重加算することを特徴とする請求項1または2に記載の画像処理装置。
【請求項8】
入力画像のインパルスノイズを低減したプレノイズ低減画像を生成するノイズ低減工程と、
前記入力画像の、処理対象画素を含む局所的な領域の複数の画素の信号レベルを平滑化した値を算出する平滑化工程と、
前記プレノイズ低減画像を用いて、前記処理対象画素のエッジの程度を示す特徴量を算出する特徴量算出工程と、
前記特徴量に応じた割合で、前記処理対象画素の信号レベルと前記平滑化した値とを加重加算し、加重加算の結果を前記入力画像のノイズ低減処理後の信号レベルとして出力する加算工程とを有し、
前記加算工程では、エッジの程度が高いことを示す特徴量を有する画素ほど、前記平滑化した値の割合が小さくなるように加重加算することを特徴とする画像処理方法。
【請求項9】
前記特徴量算出工程は、前記プレノイズ低減画像の処理対象画素を含む局所的な領域の複数の画素の信号レベルの分散値と、前記プレノイズ低減画像のノイズの分散値を用いて前記特徴量を算出するものであり、
前記のノイズの分散値に対する前記信号レベルの分散値の割合が大きくなるほど、前記特徴量が示すエッジの程度が高くなることを特徴とする請求項8に記載の画像処理方法。
【請求項10】
前記入力画像の縮小画像を生成する縮小画像生成工程と、
前記加算工程において出力された複数の信号レベルの中からいずれかを選択する選択工程を有し、
前記ノイズ低減工程において、前記縮小画像のインパルスノイズを低減したプレノイズ低減画像を生成し、
前記平滑化工程において、前記縮小画像の処理対象画素を含む局所的な領域の複数の画素の信号レベルを平滑化した値を算出し、
前記特徴量算出工程において、前記縮小画像のプレノイズ低減画像を用いて、前記処理対象画素のエッジの程度を示す特徴量を算出し、
前記加算工程において、前記縮小画像のプレノイズ低減画像を用いて算出した前記特徴量に応じた割合で、前記縮小画像の処理対象画素の信号レベルと前記縮小画像の前記平滑化した値とを加重加算し、加重加算の結果を前記縮小画像のノイズ低減処理後の信号レベルとして出力し、
前記選択工程において、前記入力画像の信号レベルの分散値が閾値以上であれば、前記入力画像のノイズ低減処理後の信号レベルを選択し、前記入力画像の信号レベルの分散値が前記閾値よりも小さければ、前記縮小画像のノイズ低減処理後の信号レベルを選択して出力するか、あるいは、前記入力画像のプレノイズ低減画像の信号レベルの分散値が閾値以上であれば、前記入力画像のノイズ低減処理後の信号レベルを選択し、前記入力画像のプレノイズ低減画像の信号レベルの分散値が前記閾値よりも小さければ、前記縮小画像のノイズ低減処理後の信号レベルを選択して出力することを特徴とする請求項9に記載の画像処理方法。
【請求項11】
コンピュータを、請求項1乃至請求項7のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
【請求項1】
入力画像のインパルスノイズを低減したプレノイズ低減画像を生成するノイズ低減手段と、
前記入力画像の、処理対象画素を含む局所的な領域の複数の画素の信号レベルを平滑化した値を算出する平滑化手段と、
前記プレノイズ低減画像を用いて、前記処理対象画素のエッジの程度を示す特徴量を算出する特徴量算出手段と、
前記特徴量に応じた割合で、前記処理対象画素の信号レベルと前記平滑化した値とを加重加算し、加重加算の結果を前記入力画像のノイズ低減処理後の信号レベルとして出力する加算手段とを有し、
前記加算手段は、エッジの程度が高いことを示す特徴量を有する画素ほど、前記平滑化した値の割合が小さくなるように加重加算することを特徴とする画像処理装置。
【請求項2】
前記特徴量算出手段は、前記プレノイズ低減画像の前記処理対象画素を含む局所的な領域の複数の画素の信号レベルの分散値と、前記プレノイズ低減画像のノイズの分散値を用いて前記特徴量を算出するものであり、
前記のノイズの分散値に対する前記信号レベルの分散値の割合が大きくなるほど、前記特徴量が示すエッジの程度が高くなることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記入力画像の縮小画像を生成する縮小画像生成手段と、
前記加算手段から出力された複数の信号レベルの中からいずれかを選択する選択手段をさらに有し、
前記ノイズ低減手段は、前記縮小画像のインパルスノイズを低減したプレノイズ低減画像を生成し、
前記平滑化手段は、前記縮小画像の処理対象画素を含む局所的な領域の複数の画素の信号レベルを平滑化した値を算出し、
前記特徴量算出手段は、前記縮小画像のプレノイズ低減画像を用いて、前記処理対象画素のエッジの程度を示す特徴量を算出し、
前記加算手段は、前記縮小画像のプレノイズ低減画像を用いて算出した前記特徴量に応じた割合で、前記縮小画像の処理対象画素の信号レベルと前記縮小画像の前記平滑化した値とを加重加算し、加重加算の結果を前記縮小画像のノイズ低減処理後の信号レベルとして出力し、
前記選択手段は、前記入力画像の信号レベルの分散値が閾値以上であれば、前記入力画像のノイズ低減処理後の信号レベルを選択し、前記入力画像の信号レベルの分散値が前記閾値よりも小さければ、前記縮小画像のノイズ低減処理後の信号レベルを選択して出力するか、あるいは、前記入力画像のプレノイズ低減画像の信号レベルの分散値が閾値以上であれば、前記入力画像のノイズ低減処理後の信号レベルを選択し、前記入力画像のプレノイズ低減画像の信号レベルの分散値が前記閾値よりも小さければ、前記縮小画像のノイズ低減処理後の信号レベルを選択して出力することを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記閾値は、前記縮小画像の信号レベルに含まれるノイズの分散値であることを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記選択手段にて出力された信号レベルと、前記入力画像の信号レベルとを加重加算し、加重加算の結果の信号レベルを前記入力画像のノイズ低減後の信号レベルとして出力する混合処理手段を有することを特徴とする請求項3または4記載の画像処理装置。
【請求項6】
前記混合処理手段は、前記入力画像を撮影した際に撮影装置に設定されていた感度が高いほど、前記選択手段にて出力された信号レベルの割合が大きくなるように加重加算することを特徴とする請求項5に記載の画像処理装置。
【請求項7】
前記加算手段は、前記入力画像を撮影した際に撮影装置に設定されていた感度が高いほど、前記平滑化した値の割合が大きくなるように加重加算することを特徴とする請求項1または2に記載の画像処理装置。
【請求項8】
入力画像のインパルスノイズを低減したプレノイズ低減画像を生成するノイズ低減工程と、
前記入力画像の、処理対象画素を含む局所的な領域の複数の画素の信号レベルを平滑化した値を算出する平滑化工程と、
前記プレノイズ低減画像を用いて、前記処理対象画素のエッジの程度を示す特徴量を算出する特徴量算出工程と、
前記特徴量に応じた割合で、前記処理対象画素の信号レベルと前記平滑化した値とを加重加算し、加重加算の結果を前記入力画像のノイズ低減処理後の信号レベルとして出力する加算工程とを有し、
前記加算工程では、エッジの程度が高いことを示す特徴量を有する画素ほど、前記平滑化した値の割合が小さくなるように加重加算することを特徴とする画像処理方法。
【請求項9】
前記特徴量算出工程は、前記プレノイズ低減画像の処理対象画素を含む局所的な領域の複数の画素の信号レベルの分散値と、前記プレノイズ低減画像のノイズの分散値を用いて前記特徴量を算出するものであり、
前記のノイズの分散値に対する前記信号レベルの分散値の割合が大きくなるほど、前記特徴量が示すエッジの程度が高くなることを特徴とする請求項8に記載の画像処理方法。
【請求項10】
前記入力画像の縮小画像を生成する縮小画像生成工程と、
前記加算工程において出力された複数の信号レベルの中からいずれかを選択する選択工程を有し、
前記ノイズ低減工程において、前記縮小画像のインパルスノイズを低減したプレノイズ低減画像を生成し、
前記平滑化工程において、前記縮小画像の処理対象画素を含む局所的な領域の複数の画素の信号レベルを平滑化した値を算出し、
前記特徴量算出工程において、前記縮小画像のプレノイズ低減画像を用いて、前記処理対象画素のエッジの程度を示す特徴量を算出し、
前記加算工程において、前記縮小画像のプレノイズ低減画像を用いて算出した前記特徴量に応じた割合で、前記縮小画像の処理対象画素の信号レベルと前記縮小画像の前記平滑化した値とを加重加算し、加重加算の結果を前記縮小画像のノイズ低減処理後の信号レベルとして出力し、
前記選択工程において、前記入力画像の信号レベルの分散値が閾値以上であれば、前記入力画像のノイズ低減処理後の信号レベルを選択し、前記入力画像の信号レベルの分散値が前記閾値よりも小さければ、前記縮小画像のノイズ低減処理後の信号レベルを選択して出力するか、あるいは、前記入力画像のプレノイズ低減画像の信号レベルの分散値が閾値以上であれば、前記入力画像のノイズ低減処理後の信号レベルを選択し、前記入力画像のプレノイズ低減画像の信号レベルの分散値が前記閾値よりも小さければ、前記縮小画像のノイズ低減処理後の信号レベルを選択して出力することを特徴とする請求項9に記載の画像処理方法。
【請求項11】
コンピュータを、請求項1乃至請求項7のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【公開番号】特開2010−92461(P2010−92461A)
【公開日】平成22年4月22日(2010.4.22)
【国際特許分類】
【出願番号】特願2009−177031(P2009−177031)
【出願日】平成21年7月29日(2009.7.29)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成22年4月22日(2010.4.22)
【国際特許分類】
【出願日】平成21年7月29日(2009.7.29)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]