説明

画像処理装置、カメラおよび画像処理プログラム

【課題】良好に異物影を検出できる画像処理装置および画像処理プログラムを提供する。
【解決手段】画像処理装置は、処理対象画像における異物影を検出する異物影検出部と、前記異物影検出部により検出された異物影を補正する補正部と、を備え、前記補正部は、前記異物影の内部に位置する補正対象画素100Aを選択し、かつ、前記異物影の外側であって、前記補正対象画素100Aを通る第一直線x上における該補正対象画素100Aを挟んで互いに反対側にある第一画素111と第二画素112とを選択し、前記第一画素111と前記第二画素112の輝度を用いた線形補完により求めた、前記補正対象画素100Aの位置における第一補完輝度を用いて、前記補正対象画素100Aの輝度を補正する補正処理を、前記異物影の画素全体について行う。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、カメラ、および画像処理プログラムに関する。
【背景技術】
【0002】
デジタルカメラなどの撮像装置では撮像光路上にあり撮像素子の近傍に配置された光学フィルタ等の光学部材に異物が付着すると、付着した異物により生じた異物影が撮像画像に現れ、その部分が画像欠陥となる。特にレンズ交換式の撮像装置では、レンズ交換時に塵や埃などの異物が内部に侵入しやすく、画像欠陥を生じやすい。このような問題を解決するため、光学部材に付着した異物影情報としての基準画像を撮影し、基準画像から異物影位置等の情報を得て通常撮影された撮像画像に写り込んだ異物影を検出し、画像欠陥を補正する画像処理装置が知られている。また、1枚の画像から異物影を検出し、その画像欠陥部を補正する方法も提案されている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2004−220553号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、影部分の光の透過率からの検出では、誤検出した場合に異物影かどうかの判別ができない。また、異物影の補正をするために、多くの画素情報を必要とするため、演算に時間がかかる。
本発明の課題は、良好に異物影を検出できる画像処理装置、カメラ及び画像処理プログラムを提供することである。
【課題を解決するための手段】
【0005】
本発明は、以下のような解決手段により前記課題を解決する。なお、理解を容易にするために、本発明の実施形態に対応する符号を付して説明するが、これに限定されるものではない。
【0006】
請求項1に記載の発明は、処理対象画像における異物影を検出する異物影検出部(60)と、前記異物影検出部(60)により検出された異物影を補正する補正部(51)と、を備え、前記補正部(51)は、前記異物影の内部に位置する補正対象画素(100A)を選択し、かつ、前記異物影の外側であって、前記補正対象画素(100A)を通る第一直線(x)上における該補正対象画素(100A)を挟んで互いに反対側にある第一画素(111)と第二画素(112)とを選択し、前記第一画素(111)と前記第二画素(112)の輝度を用いた線形補完により求めた、前記補正対象画素(100A)の位置における第一補完輝度を用いて、前記補正対象画素(100A)の輝度を補正する補正処理を、前記異物影の画素全体について行うこと、を特徴とする画像処理装置(50)である。
請求項2に記載の発明は、請求項1に記載の画像処理装置(50)であって、前記補正部(51)は、前記異物影の外側であって、前記補正対象画素(100A)を通り、且つ前記第一直線(x)と直交する第二直線(y)上における該補正対象画素(100A)を挟んで互いに反対側にある第三画素(113)と第四画素(114)とを選択し、前記第三画素(113)と前記第四画素(114)の輝度を用いた線形補完を用いて前記補正対象画素(100A)の位置における第二補完輝度を求め、前記第一補完輝度と前記第二補完輝度とを平均した平均補完輝度を用いて、前記補正処理を行うこと、を特徴とする画像処理装置(50)である。
請求項3に記載の発明は、請求項2に記載の画像処理装置(50)であって、前記補正部(51)は、前記補正対象画素(100A)を囲む複数の画素の輝度を平均して求めた二次的輝度と前記平均補完輝度との比を計算し、該比に応じて、補正対象画素(100A)の輝度を補正すること、を特徴とする画像処理装置(50)である。
請求項4に記載の発明は、請求項1から3のいずれか1項に記載の画像処理装置(50)であって、前記処理対象画像が、赤、緑及び青のカラーフィルタ(13a)を通して撮像素子(13)により撮影され、非線形補正された画像の場合、前記補正処理を、赤、緑及び青のそれぞれの画像についてについて行うこと、を特徴とする画像処理装置(50)である。
請求項5に記載の発明は、請求項1から4のいずれか1項に記載の画像処理装置(50)を備えるカメラ(1)である。
請求項6に記載の発明は、請求項1から4のいずれか1項に記載の画像処理装置(50)の機能をコンピュータに実行させるための画像処理プログラムである。
【発明の効果】
【0007】
本発明によれば、良好に異物影を検出できる画像処理装置、カメラおよび画像処理プログラムを提供できる。
【図面の簡単な説明】
【0008】
【図1】レンズ交換式のカメラの構成を示す図である。
【図2】カメラと画像処理装置を構成するパーソナルコンピュータ(PC)および周辺装置を示すブロック図である。
【図3】撮像素子を説明する図である。
【図4】異物影検出・補正処理を行う画像処理装置の機能ブロック図である。
【図5】画像処理装置における異物影判定部の機能ブロック図である。
【図6】HSV変換処理の六角錐モデルを表す概念図である。
【図7】異物影の補正方法を説明する図である。
【図8】画像処理装置における異物影検出・補正処理のフローチャートである。
【図9】画像処理装置における補正処理のフローチャートである。
【発明を実施するための形態】
【0009】
(第1実施形態)
以下、図面等を参照して、本発明の第1実施形態について説明する。
図1は、レンズ交換式のカメラ1の構成を示す図である。図2は、カメラ1と画像処理装置を構成するパーソナルコンピュータ(PC)30および周辺装置を示すブロック図である。
カメラ1は、被写体像を電気信号に変換した画像データとして出力する電子スチルカメラである。
【0010】
カメラ1は、カメラ本体2と、カメラ本体2に対して着脱可能な撮像レンズ3とにより構成されている。撮像レンズ3は、複数の光学レンズ群(図1においては1枚のレンズで示す)から成る結像光学系3Lを備えている。
【0011】
カメラ1は、結像光学系3L(撮像レンズ3)とカメラ本体2とを備える。
カメラ本体2は、シャッター11、光学フィルタ12、撮像素子13、画像処理部14、操作部15、表示部16、メモリカード用インターフェース部17、外部インターフェース部18、電源19、制御部20等を備えている。
【0012】
シャッター11は、結像光学系3Lから撮像素子13へ向かう撮影光を遮蔽および通過させることによって、露光時間を調整する。
光学フィルタ12は、撮像に際して偽色(色モアレ)等の発生を防止する光学ローパスフィルタ等によって構成される。なお、符号4は、この光学フィルタ12の表面に付着した塵や埃などの異物を示す。このような撮影光の光路上にあって撮影光を透過する光学フィルタ12に異物4が付着していると、撮像素子13によって取得される画像データのなかに、異物4の影響を受けた画素が含まれる場合がある。
【0013】
撮像素子13は、CCDやCMOS等の光電変換素子であって、複数の画素から構成される矩形形状の撮像領域を有している。図3は撮像素子13の説明図であり、撮像素子13の受光面には、それぞれの画素に対応して赤色(R)フィルタ13R、緑色(G)のフィルタ13G、青色(B)フィルタ13Bを備えるカラーフィルタ13aが、いわゆるベイヤ(Bayer)配列に基づいて配置されている。
そして、撮像素子13は、その結像面に結像された像を電気信号に変換し、被写体像に対応する画像信号(撮像信号)を出力する。撮像素子13から出力された画像信号は、所定のアナログ信号処理の後、A/D変換されて画像処理部14に入力される。
【0014】
画像処理部14は、撮像素子13から入力された画像データに対して、補完,階調変換や輪郭強調などの画像処理を行う。補完処理としては、撮像素子13から出力された未処理画像を、人の目で見た印象に近い画像に補完するガンマ処理等が含まれる。
そして、本実施形態のカメラ1では、撮像素子13において、画像処理部14に供給される画像データはRGB表色系で示される。画像データを構成する各々の画素には、RGBの何れか1つの色成分の色情報が存在する。
なお、撮像素子13を構成する1つの光電変換素子を画素と言うが、この画素に対応した画像データの1単位も画素と言う。また、画像も複数の画素から構成される概念である。画像処理が完了した画像データは、補完処理が完了し、各画素にはRGBのすべての色成分の色情報が存在するものとする。
【0015】
操作部15は、撮影者が撮影タイミング等を決定する信号を入力するレリーズボタンや、モード切り換え用の選択ボタン等を備えている。そして、操作部15は、それらの操作情報を制御部に入力する。
表示部16は、LCD等によって構成され、カメラ1における各種設定メニュー、撮像素子13による撮像画像やメモリカードに格納された画像データに基づく再生画像を表示する。
【0016】
メモリカード用インターフェース部17は、メモリカード(カード状のリムーバブルメモリ)40とのインターフェースをとる。
外部インターフェース部18は、所定のケーブルや無線伝送路を介してPC30等の外部装置とのインターフェースをとる。
電源19は、カメラ1の各機能部に電力を供給する。
【0017】
制御部20は、カメラ1における各機能部を統括制御する。すなわち、制御部20は、操作部15におけるレリーズスイッチから撮影指示信号が入力されると、シャッター11を駆動制御して露光動作等の撮影動作を制御する。また、制御部20は、撮像素子13で取得されて画像処理部14で画像処理が行われて入力された画像データを、メモリカード用インターフェース部17に着脱可能に取り付けられたメモリカード40等に記憶させ、保存する。さらに、制御部20は、メモリカード40等に記憶された画像データを呼び出し、表示部16に表示させる。
【0018】
上記のように構成されたカメラ1は、撮影時において制御部20によって制御されて、下記のように作用する。
操作者によって操作部15のレリーズボタンが押圧操作されると、シャッター11を所定時間開放する。撮像素子13は、結像光学系3Lにより撮像領域に結像された光学像に対応する画像信号を生成する。撮像素子13によって生成された画像信号は、画像データとして画像処理部14に入力され、画像処理部14によってガンマ処理等の画像処理が施される。そして、画像処理部14で画像処理された画像データに基づいて表示部16に撮影画像を表示すると共に、その画像データに必要に応じてJPEG等による圧縮処理を施してメモリカード用インターフェース部17に装着されたメモリカード40に記憶・保存する。また、外部インターフェース部18を介して接続された後述するPC30に、画像データを送出する。
【0019】
また、メモリカード40に記憶・保存され、または、外部インターフェース部18を介してPC30に送出される画像データは、たとえば、Exifファイルに記録される。Exifファイルには、絞り値、カメラ名,カメラメーカー名,シャッター速度および露光補正等の露出条件、撮影時刻などの付加情報が共に記録される。
【0020】
パーソナルコンピュータ(PC)30は、図示しないが、CPU、メモリ、ハードディスク、メモリカード40とのインターフェースをとるメモリカード用インターフェース部、ケーブルや無線伝送路を介してカメラ1等の外部装置とのインターフェースをとる外部インターフェース部等を備えている。また、PC30には、モニタ31やプリンタ32等が接続されており、CD−ROM33に記録された異物影検出・補正処理に係るアプリケーションプログラムが予めインストールされている。
【0021】
つぎに、図4〜図6を参照して、撮影された対象画像データにおける異物影を検出して補正する処理(異物影検出・補正処理)について説明する。
図4は、異物影検出・補正処理を行う画像処理装置50の機能ブロック図である。図5は、画像処理装置50における異物影判定部60の機能ブロック図である。図6は、HSV変換処理の六角錐モデルを表す概念図である。
【0022】
異物影検出・補正処理は、メモリカード30を介して提供された、または、カメラ1の外部インターフェース部18から伝送された画像処理完了後の画像データに対して、PC30によって行われる。前述したように、PC30には、異物影検出・補正処理のアプリケーションプログラムがインストールされており、PC30はこのプログラムを実行することによって、異物影検出・補正処理を行う画像処理装置として機能する。
【0023】
PC30とプログラムとによって機能する画像処理装置50は、図4に示すように、対象画像データが入力される入力部52と、異物影領域を検出する異物影判定部60と、異物影判定部60によって検出された異物影情報に基づいてその異物影を補正する補正部51と、補正画像データが出力された出力部53と、を備えている。
異物影判定部60は、機能ブロック図である図5に示すように、連結領域判定部61と、対象領域抽出部62と、輝度判定部63と、色相判定部64と、彩度判定部65と、顔判定部66と、落込み割合判定部67と、を備えている。
【0024】
異物影は、たとえば光学フィルタ12の前面に付着した異物4(図1参照)による異物影を撮影することで生ずるものである。以下、このような異物4(図1参照)による異物影によって生じた異物影領域を例として説明する。
【0025】
連結領域判定部61は、対象画像における各画素の明るさ(たとえば輝度)情報から、異物影の可能性のある領域を抽出する部分である。連結領域判定部61による異物影の検出は、まず、対象画像データを逆ガンマ補正して、得られたRGBによる各画素の画像データをHSV変換して色相平面、彩度平面を求め、RGBから輝度平面を求め、さらにその輝度勾配を求めて行う。
【0026】
(逆ガンマ補正)
連結領域判定部61は、まず、輝度情報算出に使用する画像のRGB情報を非線形な状態から線形に戻すために逆ガンマ補正を行う。RAW画像の場合は、さまざまな補正処理を加える前のdeBayer配列のカラーフィルタ13a(図3)を通過した直後の画像を用いることで線形なRGB情報を得ることができる。JPEG画像の場合は、すでにガンマ補正されているので、線形のRGB情報を得るために、次のようにして逆ガンマ補正をかける。
R’=(R)γ
G’=(G)γ
B’=(B)γ
例えば、γ=2.2という値で逆ガンマ補正を行う。γテーブルを参照してリニアに変換してもよい。
【0027】
(HSV変換)
連結領域判定部61は、逆ガンマ補正された画像を構成する各画素について、HSV変換処理を行う。
図6は、HSV変換の六角錐モデルの概念図である。明度値Vの座標軸は六角錐の中心軸で表され、彩度Sの座標軸は六角錐の中心軸に直交する軸で表され、色相Hは六角錐の中心軸を回転する回転角で表される。
明度値V(Value)、色相値H(Hue)および彩度値S(Saturation)の各画素の要素は、RGB画像データにおける各画素のRGB要素から、以下の数式(1)〜(10)を用いて変換される。
【0028】
Vmax=max{R,G,B}・・・(1)
Vmin=min{R,G,B}・・・(2)
として、
V= Vmax ・・・(3)
S=(Vmax−Vmin)/Vmax ・・・(4)
H=(π/3)(b−g) (R=Vmaxのとき) ・・・(5)
H=(π/3)(2+r−b) (G=Vmaxのとき) ・・・(6)
H=(π/3)(4+g−r) (B=Vmaxのとき) ・・・(7)
【0029】
ただし、
r=(Vmax−R)/(Vmax−Vmin) ・・・(8)
g=(Vmax−G)/(Vmax−Vmin) ・・・(9)
b=(Vmax−B)/(Vmax−Vmin) ・・・(10)
なお、式(5)〜(7)で変換された結果、H<0の時には、Hに2πを加える。また、Vmax=0の時は、S=0,H=不定となる。
【0030】
(輝度情報取得)
輝度情報(Y)は、逆ガンマ補正したリニアRGB値から算出され、人間の見た目と近い輝度情報を得るためには次のような算式が使用される。

Y=(0.299*R’+0.589*G’+0.114*B’)/255・・(11)

このようにして得られた輝度平面Yに対して、縦方向、横方向の微分フィルタをかけ、それぞれの差分を以下の式(12)
【数1】

で求めてから画素の勾配(grad)を以下の式(13)で計算する。
【数2】

【0031】
輝度勾配平面では、異物影の周縁部では高い画素値を示し、空などの一様な平面では低い画素値を示す。つまり、エッジ部分では高い画素値を示し、これによって異物影のエッジ部分を検出できる。
【0032】
(連結画素領域抽出)
また、連結領域判定部61は、所定の閾値を設定して、輝度勾配平面を2値画像に変換する。すなわち、閾値より高い輝度勾配値を有する画素を「1」、閾値より低い輝度勾配値を有する画素を「0」と置換する。本実施形態では、閾値を0.3とする。
そして、連結領域判定部61は、このようにして得られた2値画像から、「1」の画素が連結した領域(連結画素領域)を抽出する。連結画素領域とは、たとえば、矩形の画素の4辺の内の少なくとも1辺で連続した(4近傍の)画素領域とする。この連結画素領域が、異物影による異物影の可能性のある領域である。
【0033】
(連結画素領域の大きさ判定)
対象領域抽出部62は、連結領域判定部61によって抽出された連結画素領域の中から、異物影のサイズ(大小)に基づいて異物影部の可能性のある領域を抽出する。
ここで、対象領域抽出部62は、連結画素領域から異物影部の可能性のある領域を抽出する際において、異物影を生じさせる異物影の大きさを基準とする。
【0034】
まず、異物影の大きさ判定の基準となる方法について説明する。
ここでは、一般的な異物のサイズである最小100μm×100μm〜最大400μm×400μmの異物によって投影される異物影を検出対象とするように画素数によって規定された閾値を基準とし、連結画素領域の大きさがこの閾値内に含まれるものが補正対象となり得る異物影であるとして異物影部の可能性のある領域と判定し、選択する。
【0035】
(輝度比較)
輝度判定部63は、先の連結領域判定部61において説明したHSV変換によって求められた輝度値Yと画像平面に対応する輝度平面とを用い、連結画素領域における内外の輝度を比較する。ここで、異物影は、内部の輝度が周辺の輝度に比較して低く、輝度比は1よりとても小さい。このため、1より小さい所定の閾値を設定し、連結画素領域の輝度比がこの閾値より小さいに場合にのみ、補正対象となり得る異物影であるとして異物影部の可能性のある領域と判定し、選択する。
【0036】
(色相判定)
色相判定部64は、先の連結領域判定部61において説明したHSV変換によって、各画素の色相値Hを求めて画像平面に対応する色相平面を生成する。色相判定64は、色相値Hと色相平面とを用い、連結画素領域における内外の色相を比較する。ここで、異物影は、輝度には大きく影響するものの色相にはほとんど影響を与えず、連結画素領域の内外における色相比はほとんど1に近い。このため、1に近い所定の範囲を設定し、色相比がこの範囲内にある場合にのみ、補正対象とすべき異物影であるとして異物影部の可能性のある領域と判定し、選択する。
【0037】
(彩度判定)
彩度判定部65は、先の連結領域判定部61において説明したHSV変換によって、各画素の彩度値Sを求めて画像平面に対応する彩度平面を生成する。彩度判定部65は、彩度値Sと彩度平面とを用い、連結画素領域における内外の彩度を比較する。
【0038】
このような彩度比による判定を行う理由は、以下の通りである。
異物部分では、異物周辺の輝度より異物内部の輝度が低く、輝度比は1よりとても小さい。そして、異物影は色相情報にほとんど影響を与えないので、異物内外で色相比はほとんど1に近い。しかし、画像によっては輝度比が1より小さく、色相比がほとんど1に近いような被写体が存在し、この2つの条件だけでは誤検出を起こしてしまうからである。
【0039】
そこで、異物内外の彩度比を判定に組み込む。一般的に異物は影であり、黒っぽい点像として画像に写り込む。したがって、異物部分の彩度値は周辺部に比べて低くなり、異物内外の彩度比は1よりも小さくなる。反対に、異物ではない被写体部分での彩度比は1より大きくなる箇所も存在する。この特徴を使って判別することで、抽出してきたエリアが異物であるか、被写体であるかを区別することができ、誤検出を排除して異物の検出精度を高めることが出来る。
【0040】
この彩度判定における彩度の算出には、本実施形態において上で説明した、HSV変換式中の彩度の式(4)では、Vmaxとの比を取っているため、画像中の暗い部分で低彩度とならないことがあり、すなわち、異物部分でも周辺との彩度比を計算したときに、1よりも大きな値となってしまうことがある。例えば、R=12、G=7、B=3という暗いピクセルがあり、この彩度を上式(4)で求めると、

(12−3)/12=0.75

となり、最大値1の彩度に対して0.75とかなり高い値となってしまう。
【0041】
異物の判別条件として彩度比が1以下であることを用いると、濃い異物が検出されないという問題が生じてしまう。彩度比が1以上を許してしまうと、誤検出が発生してしまう。この問題を解決するために、本実施形態では、彩度判定部においては、上式(4)の代わりに、彩度Sを修正彩度Sとして以下の式(14)により求める。
【0042】
【数3】

上述した、R=12、G=7、B=3という暗いピクセルについて、この修正彩度Sで計算してみると、最大値1の彩度に対して0.03となり、暗い部分で彩度が低い値で算出される。
この修正彩度Sを用いることで、画像全体の暗い部分の彩度を人間の感覚にそった値で算出でき、異物検出パラメータの彩度比パラメータも範囲を限定することで誤検出を排除することができる。
【0043】
(顔検出)
ここまでの対策でも誤検出が発生する場合があり、とくに人の顔にあるホクロ等で誤検出しやすい。人の顔での誤検出は他の誤検出よりも画像の見栄えへの影響が大きく、誤検出部を補正した場合には大きく印象が変わってしまう可能性がある。したがって本実施形態では、顔判定部66を備え、異物影の可能性のある箇所が人の顔にあるか否かを判定する。
【0044】
顔判定部66は、異物影を検出する対象となっている画像中における顔領域を、周知の方法で検出する。そして、顔判定部66に至るまでの連結領域判定部61から彩度判定部65までにおいて異物影と判定された部分が、顔領域に位置するかどうかを判定する。
【0045】
(落込み割合判定)
次に、顔判定部66において顔と判定された領域内に、異物影と判定された部分が存在する場合、それらについて、上記連結領域判定部61において逆ガンマ補正して得られたリニアRGB情報を調べる。
【0046】
異物影と判定された部分が異物影であれば、各リニアRGB情報に対して等しい比率で影響を与える。例えば、異物影の場合、異物周辺部のRGBに対してそれぞれ約20%のゲインの落ち込みが発生する。しかし、異物影でない、例えばホクロの領域では、周辺部に対する落ち込みが、RGBそれぞれに対して均等でない。この特徴より、顔部分にある異物影候補が、実際に異物影であるのかどうか、誤検出を見分けることができる。
【0047】
(補正)
補正部51は、上述の異物影判定部60により異物影と判定された影の補正を行う。
図7は、処理対象画像中における異物影100を示す図であり、補正方法を説明する図である。
【0048】
(画素の選択)
補正部51は、処理対象画像中の異物影100の内部に位置する補正対象画素100Aを選択する。
そして異物影100の外側であって、補正対象画素100Aを通る第一直線x上における、その補正対象画素100Aを挟んで互いに反対側にある第一画素111と第二画素112とを選択する。
さらに、異物影100の外側であって、補正対象画素100Aを通り、且つ第一直線xと直交する第二直線y上における、補正対象画素100Aを挟んで互いに反対側にある第三画素113と第四画素114とを選択する。
なお、本実施形態において、第一画素111、第二画素112、第三画素113及び第四画素114は、異物影100と重ならず、かつ、異物影100の外側に設けられた矩形の枠上の画素を選択するが、これに限定されない。例えば、異物影100と重ならなければ、例えば異物影100の外周に沿った形状の枠上の画素であっても良い。
【0049】
(補完輝度の算出)
まず、第一画素111と第二画素112の輝度を用いた線形補完により、x方向の補正対象画素100Aの位置における第一補完輝度Y_xを、以下の式(15)により求める。
次に第三画素113と第四画素114の輝度を用いた線形補完を用いてy方向の補正対象画素100Aの位置における第二補完輝度Y_yを、以下の式(16)により求める。
そして第一補完輝度と第二補完輝度とを平均した平均補完輝度Y_aveを、以下の式(17)により求める。
【0050】
【数4】

なお、第一画素111について、その輝度をAとして補正対象画素100Aとの距離をx1とする。第二画素112について、その輝度をBとして補正対象画素100Aとの距離をx2とする。第三画素113について、その輝度をCとして補正対象画素100Aとの距離をy1とする。第四画素114について、その輝度をDとして補正対象画素100Aと距離をy2とする。
【0051】
ここで、補正部51は、式(17)の平均補完輝度Y_aveと補正対象画素100Aのオリジナル輝度ori_Yの比を計算して、その処理を異物影全体に行うことで、ゲインマップY_gmap[i、j]を式(18)により作成することができる。
【0052】
しかし、このまま補正してしまうと、補正部分の画像が平坦な感じになり、オリジナル画像の自然さが消えてしまう。そこで、ゲインを計算する補正対象画素100Aのオリジナル輝度ori_Yの値を、その補正対象画素100Aとその周辺8画素の平均値である二次的オリジナル輝度で、以下の式(19)を用いて置き換える。
【数5】

この平均値である二次的オリジナル輝度でゲインマップを式(20)により作成し、オリジナル画像の輝度を補正することで、元から存在する画像のノイズ感の再現が可能となる。
【0053】
RAW画像の場合は輝度、JPEG画像の場合はリニアでないオリジナルのRGB各面で上述のゲインマップを計算する。
JPEG画像に対しては、求めたRGB各面のゲインマップを使って異物影の補正を行う。オリジナル画像のRGB各成分をそれぞれori_r、ori_g、ori_b、RGB各面のゲインマップをそれぞれfinal_rgmap、final_ggmap、final_bgmap、とすると補正後のRGBは次の式(21)のように算出される。
【数6】

【0054】
こうして得られた、final_R、final_G、final_Bは異物影を補正したものであり、これらを一枚のJPEG画像として出力する。RAW画像に対しては上で求めた輝度のゲインマップを使ってリニアRGB各面を補正することができる。リニアRGB各成分をそれぞれori_r、ori_g、ori_b、輝度のゲインマップをfinal_ygmap、とすると補正後のRGBは次の式(22)のように算出される。
【数7】

【0055】
つぎに、図8、図9に示すフローチャートに従って、画像処理装置50における異物影検出・補正処理の流れを説明する。また、図8、図9及び以下の説明中、ステップを「S」とも略記する。
【0056】
画像処理装置50は、メモリカード40を介して、または、カメラ1の外部インターフェース部18を介して入力された補正対象画像データを読み込む(S01)。
【0057】
読み込んだ対象画像データの、RGBデータをそれぞれ逆ガンマ補正する(S02)。
そして逆ガンマ補正したRGBより式(11)を用いて輝度Yを求め、輝度平面Yに平均化フィルタをかけてノイズ処理を行う(S03)。
【0058】
その後、Yの勾配(Ygrad)を計算する(S04)。
輝度勾配Ygradが閾値以上の領域を抽出する(S05)。
【0059】
続いて、連結領域判定部61により連結画素領域を抽出する(S06)。
さらに、抽出された連結画素領域の大きさ判定を行う(S07)。
【0060】
次いで、輝度判定部63によって、連結画素領域における内外の輝度比に基づいて異物影部の可能性のある領域に該当するか否かを判定する(S08)。
さらに、色相判定部64によって、連結画素領域における内外の色相比に基づいて異物影部の可能性のある領域に該当するか否かを判定し(S09)、次に彩度判定を行う(S10)。
【0061】
顔判定部66によって、異物影の可能性のある領域が、顔領域にあるかどうかを判断する(S11)。
顔と検出された位置である場合、リニアRGB情報を調べる。ここで、リニアRGBの落ち込みが等しい場合、異物影の可能性のある領域と判断する(S12)
【0062】
そして、異物情報を保存し(S13)、上記ステップ全てにおいて異物影部の可能性のある領域と判定されたものについて補正部51により異物影の補正を行う(S14)。
【0063】
図9はS14の補正部51による異物影の補正を示すフローチャートである。
まず、補正部51は、処理対象画像中の異物影100の内部に位置する補正対象画素100Aを選択する(S21)。
次に、第一画素111、第二画素112、第三画素113及び第四画素114を選択する(S22)。
【0064】
第一画素111、第二画素112、第三画素113及び第四画素114の輝度を用いたた線形補完を用いて平均補完輝度Y_aveを、式(17)により求める(S23)。
【0065】
補正対象画素100Aのオリジナル輝度ori_Yの値を、その補正対象画素100Aとその周辺8画素の平均値である二次的オリジナル輝度で、式(19)を用いて置き換える(S24)。
【0066】
RAW画像の場合は輝度、JPEG画像の場合はリニアでないオリジナルのRGB各面で上述のゲインマップを計算する(S25)。
JPEG画像に対しては、求めたRGB各面のゲインマップを使って異物影の補正を行う(S26)。
【0067】
以上、本実施形態によると、以下の効果を有する。
例えば、異物影のゲインマップを求める際に、周囲の多数の画素の輝度を計算する場合、演算が複雑であり、演算負荷がかかり、演算時間が長くなる。さらに、異物影周辺部の複数画素を参照するため、異物影付近に被写体などがある場合は正しいゲインマップを作成できないという問題がある。
しかし、本実施形態によると、異物影の一画素の輝度のゲインの変更量を、異物影の外側の4つの画素の輝度を基に演算する。したがって、演算が容易であり、演算負荷の軽減及び演算時間の短縮が可能となる。
【0068】
(2)また、本実施形態では、非線形補正前のオリジナルのRGB各面でゲインマップを作成して補正するので、非線形なRGB画像でも補正痕なく異物影を補正できる。
【0069】
(変形形態)
以上、説明した実施形態に限定されることなく、以下に示すような種々の変形や変更が可能であり、それらも本発明の範囲内である。
【0070】
(1)上記実施形態では、電子スチルカメラであるカメラ1で撮影した画像データを処理する例を説明したが、必ずしもこの内容に限定する必要はない。本発明は、動画を扱うビデオカメラで撮影した画像データにも適用できる。また、カメラつき携帯電話などで撮影した画像データにも適用できる。さらに、コピー機やスキャナー等にも適用できる。すなわち、撮像素子を使用して撮像したあらゆる画像データに対して、本発明を適用することができる。
【0071】
(2)上記実施の形態では、電子スチルカメラであるカメラ1で撮影した画像データをPC(パソコン)31で処理して異物の影響を除去する例を説明したが、この内容に限定するものではない。電子カメラ1にそのようなプログラムを備えてもよい。また、プリンタや投影装置などにそのようなプログラムを備えてもよい。すなわち、画像データを扱うあらゆる装置に、本発明は適用することができる。
【0072】
(3)PC31で実行するプログラムは、CD−ROMなどの記録媒体に限らず、インターネットなどのデータ信号を通じて提供することができる。
なお、実施形態及び変形形態は、適宜組み合わせて用いることもできるが、詳細な説明は省略する。また、本発明は以上説明した実施形態によって限定されることはない。
【符号の説明】
【0073】
1:カメラ、12:光学フィルタ、13:撮像素子、13a:カラーフィルタ、17:メモリカード用インターフェース部、18:外部インターフェース部、30:パーソナルコンピュータ(PC)、33:CD−ROM、40:メモリカード、50:画像処理装置、51:補正部、60:異物影判定部、61:連結領域判定部、62:対象領域抽出部、63:輝度判定部、64:色相判定部、65:彩度判定部、66:顔判定部、67:落込み割合判定部

【特許請求の範囲】
【請求項1】
処理対象画像における異物影を検出する異物影検出部と、
前記異物影検出部により検出された異物影を補正する補正部と、を備え、
前記補正部は、
前記異物影の内部に位置する補正対象画素を選択し、かつ、
前記異物影の外側であって、前記補正対象画素を通る第一直線上における該補正対象画素を挟んで互いに反対側にある第一画素と第二画素とを選択し、
前記第一画素と前記第二画素の輝度を用いた線形補完により求めた、前記補正対象画素の位置における第一補完輝度を用いて、前記補正対象画素の輝度を補正する補正処理を、前記異物影の画素全体について行うこと、
を特徴とする画像処理装置。
【請求項2】
請求項1に記載の画像処理装置であって、
前記補正部は、
前記異物影の外側であって、前記補正対象画素を通り、且つ前記第一直線と直交する第二直線上における該補正対象画素を挟んで互いに反対側にある第三画素と第四画素とを選択し、
前記第三画素と前記第四画素の輝度を用いた線形補完を用いて前記補正対象画素の位置における第二補完輝度を求め、
前記第一補完輝度と前記第二補完輝度とを平均した平均補完輝度を用いて、前記補正処理を行うこと、
を特徴とする画像処理装置。
【請求項3】
請求項2に記載の画像処理装置であって、
前記補正部は、
前記補正対象画素を囲む複数の画素の輝度を平均して求めた二次的輝度と前記平均補完輝度との比を計算し、該比に応じて、補正対象画素の輝度を補正すること、
を特徴とする画像処理装置。
【請求項4】
請求項1から3のいずれか1項に記載の画像処理装置であって、
前記処理対象画像が、赤、緑及び青のカラーフィルタを通して撮像素子により撮影され、非線形補正された画像の場合、
前記補正処理を、赤、緑及び青のそれぞれの画像についてについて行うこと、
を特徴とする画像処理装置。
【請求項5】
請求項1から4のいずれか1項に記載の画像処理装置を備えるカメラ。
【請求項6】
請求項1から4のいずれか1項に記載の画像処理装置の機能をコンピュータに実行させるための画像処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2013−12087(P2013−12087A)
【公開日】平成25年1月17日(2013.1.17)
【国際特許分類】
【出願番号】特願2011−144980(P2011−144980)
【出願日】平成23年6月29日(2011.6.29)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】