画像処理装置、撮像装置、画像処理方法および画像処理プログラム
【課題】色滲みを含むカラー画像において色滲み補正を行う範囲をより適切に特定する。
【解決手段】画像処理装置は、撮像系110〜130により生成されたカラー画像における画素ごとの強度傾斜を算出する傾斜算出手段150と、強度傾斜が第1の閾値を用いた色滲み条件を満足する画素を色滲み候補画素と判定する第1の色滲み判定手段150と、カラー画像における飽和画素を検出し、該飽和画素と色滲み候補画素との間の距離が第2の閾値以下である場合に、該色滲み候補画素を色滲み画素と判定する第2の色滲み判定手段150とを有する。第1および第2の色滲み判定手段はそれぞれ、第1および第2の閾値を、色滲み候補画素の輝度および彩度のうち少なくとも一方に応じて変更する。
【解決手段】画像処理装置は、撮像系110〜130により生成されたカラー画像における画素ごとの強度傾斜を算出する傾斜算出手段150と、強度傾斜が第1の閾値を用いた色滲み条件を満足する画素を色滲み候補画素と判定する第1の色滲み判定手段150と、カラー画像における飽和画素を検出し、該飽和画素と色滲み候補画素との間の距離が第2の閾値以下である場合に、該色滲み候補画素を色滲み画素と判定する第2の色滲み判定手段150とを有する。第1および第2の色滲み判定手段はそれぞれ、第1および第2の閾値を、色滲み候補画素の輝度および彩度のうち少なくとも一方に応じて変更する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ビデオカメラやデジタルスチルカメラ等の撮像系により生成されたカラー画像の色滲みを低減する画像処理技術に関する。
【背景技術】
【0002】
上記のような撮像系により生成されたカラー画像のうち高輝度部分の周囲には、結像光学系(撮影光学系)の色収差に起因して、本来存在しない色が色滲みとして生じる場合がある。色滲みは、結像光学系の中心波長から離れた部分で発生しやすく、可視光カラー画像では、青色や赤色のアーティファクトもしくは双方が混ざった紫色のアーティファクト(パープルフリンジ)が滲み状に生ずる。
【0003】
結像光学系の色収差は、異なる分散を持つレンズを複数組み合わせることにより、ある程度光学的に抑えることができる。ただし、撮像センサの高解像度化と光学系の小型化とに伴い、色収差を光学のみで十分に抑えることは困難となってきている。このため、画像処理による色滲みの低減が求められている。
【0004】
色収差は、例えば可視光域の中心波長を担うGプレーンで合焦した画像において、可視光域の端部となるRプレーンやBプレーンではピントがぼける現象である。その補正方法としては、特許文献1や特許文献2にて開示されているように、輝度飽和領域からの距離や強度傾斜(輝度傾斜)に基づいて色滲み補正範囲を特定する方法がある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−147980号公報
【特許文献2】特開2008−147981号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、輝度飽和領域からの距離のみに基づいて色滲み補正範囲を特定する方法では、飽和画素周辺における設定距離範囲内のすべての画素を色滲み画素として補正する。この場合、該距離範囲が適切に設定されていない場合や被写体の性質によっては
良好な補正結果が得られないおそれがある。また、強度傾斜にのみ基づいて色滲み補正範囲を特定する方法では、設定した強度傾斜条件を満たす画素をすべて色滲み画素として補正する。この場合、強度傾斜条件のみでは区別が不可能な色分布を持つ被写体や、ノイズによって局所的に強度傾斜条件を満たさない色滲みについては適切な補正が行われないおそれがある。
【0007】
本発明は、色滲みを含むカラー画像において色滲み補正を行う範囲をより適切に特定できるようにした画像処理装置、撮像装置、画像処理方法および画像処理プログラムを提供する。
【課題を解決するための手段】
【0008】
本発明の一側面としての画像処理装置は、撮像系により生成されたカラー画像における画素ごとの強度傾斜を算出する傾斜算出手段と、強度傾斜が第1の閾値を用いた色滲み条件を満足する画素を色滲み候補画素と判定する第1の色滲み判定手段と、カラー画像における飽和画素を検出し、該飽和画素と色滲み候補画素との間の距離が第2の閾値以下である場合に、該色滲み候補画素を色滲み画素と判定する第2の色滲み判定手段とを有する。そして、第1および第2の色滲み判定手段はそれぞれ、第1および第2の閾値を、色滲み候補画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする。
【0009】
また、本発明の他の一側面としての画像処理装置は、撮像系により生成されたカラー画像において飽和画素を検出し、該飽和画素からの距離が第1の閾値以下である飽和画素近傍領域に含まれる画素を色滲み画素と判定する色滲み判定手段と、飽和画素近傍領域のうち最も外側の境界画素から該飽和画素近傍領域の内側および外側に所定幅を有する境界近傍領域における画素ごとの強度傾斜を算出する傾斜算出手段とを有する。色滲み判定手段は、強度傾斜と第2の閾値とを比較した結果に応じて第1の閾値を変更し、かつ第2の閾値を、境界近傍領域に含まれる画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする。
【0010】
なお、カラー画像を生成する撮像系と、上記画像処理装置とを有する撮像装置も、本発明の他の一側面を構成する。
【0011】
また、本発明の他の一側面としての画像処理方法(画像処理プログラム)は、撮像系により生成されたカラー画像における画素ごとの強度傾斜を算出するステップと、強度傾斜が第1の閾値を用いた色滲み条件を満足する画素を色滲み候補画素と判定するステップと、カラー画像における飽和画素を検出し、該飽和画素と色滲み候補画素との間の距離が第2の閾値以下である場合に、該色滲み候補画素を色滲み画素と判定するステップとを有する。そして、第1および第2の閾値を、色滲み候補画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする。
【0012】
さらに、本発明の他の一側面としての画像処理方法(画像処理プログラム)は、撮像系により生成されたカラー画像において飽和画素を検出し、該飽和画素からの距離が第1の閾値以下である飽和画素近傍領域に含まれる画素を色滲み画素と判定するステップと、飽和画素近傍領域のうち最も外側の境界画素から該飽和画素近傍領域の内側および外側に所定幅を有する境界近傍領域における画素ごとの強度傾斜を算出するステップとを有する。そして、強度傾斜と第2の閾値とを比較した結果に応じて第1の閾値を変更し、かつ第2の閾値を、境界近傍領域に含まれる画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする。
【発明の効果】
【0013】
本発明によれば、様々な色分布を持つ被写体を含む等、従来の色滲み補正方法では色滲み補正を行う範囲の特定が困難であったカラー画像に対しても、該範囲をより適切に特定することができ、この結果、より良好に色滲みが低減された画像を得ることができる。
【図面の簡単な説明】
【0014】
【図1】本発明の実施例1である画像処理装置を搭載した撮像装置の構成を示すブロック図。
【図2】原色カラーフィルタの説明図。
【図3】カラーフィルタアレイの説明図。
【図4】実施例1における色滲み領域検出部の処理を示すフローチャート。
【図5】輝度差が大きい領域で青滲みが存在する場合のG,Bプレーンの値を説明する図。
【図6】輝度飽和領域からの距離を説明する図。
【図7】実施例1における色滲み強度推定部の構成を示すブロック図。
【図8】輝度差が大きい領域で赤滲みが存在する場合のR,Gプレーンの値を説明する図。
【図9】本発明の実施例2である画像処理装置の色滲み領域検出部の処理を示すフローチャート。
【図10】画像強度傾斜が大きいときの参照領域を示す図。
【図11】画像強度傾斜が小さいときの参照領域を示す図。
【図12】青色滲みおよび各色プレーンでの輝度飽和画素までの距離を定義する図。
【図13】本発明の実施例3である画像処理装置の色滲み領域検出部の処理を示すフローチャート。
【発明を実施するための形態】
【0015】
以下、本発明の実施例について図面を参照しながら説明する。
【実施例1】
【0016】
図1には、本発明の実施例1である画像処理装置を搭載したカラー撮像装置100の構成を示している。
【0017】
撮像装置100は、結像光学系(撮影光学系)110と、イメージセンサ120と、AD変換部130と、デモザイク部140とを有する。これら結像光学系110からデモザイク部140により撮像系が構成される。また、撮像装置100は、色滲み領域検出部150と、色滲み強度推定部160と、色滲み除去部170とを有する。これら色滲み領域検出部150から色滲み除去部170により、画像処理装置が構成される。さらに、撮像装置100は、視覚補正部180と、圧縮部190と、記録部200とを有する。図1中に示した写野(被写体)fとR,G,Bの光線は撮像装置100の構成要素ではないが、説明のために図1中に示している。
【0018】
写野fからの光R,G,Bは、結像光学系110によってイメージセンサ120上に結像する。一般に、カラー撮像装置に装着される結像光学系は、一定の色収差補正が施されている。本実施例の結像光学系110は、RとGの波長域の縦色収差が良好に補正され、Bの波長域の縦色収差が残存している。このようにBの波長域の縦色収差の補正基準を下げることにより、その他の収差補正を改善したり、撮像装置を小型化したりすることが可能となる。
【0019】
イメージセンサ120は、一般的な原色系カラーフィルタを備える単板カラーイメージセンサである。原色系カラーフィルタはそれぞれ、図2に示すように、650nm,550nm,450nmの近傍に透過主波長帯を持つ3種類のカラーフィルタにより構成されており、それぞれR,G,Bの各バンドに対応する色プレーンを撮像する。
【0020】
単板カラーイメージセンサでは、これらのカラーフィルタを図3に示すように画素毎に空間的に配列し、各画素に対しては単一の色プレーンにおける強度(輝度)を得ることしかできない。このためイメージセンサ120からは色モザイク画像が出力される。
【0021】
なお、不図示の色分解プリズムを用いて入射光をR,G,Bの波長域に分け、それぞれの波長の光を別々のイメージセンサで撮像する3板式カラーイメージセンサを用いてもよい。この場合、デモザイク部140は不要となる。
【0022】
AD変換部130は、イメージセンサ120からアナログ電圧として出力される色モザイク画像を、これ以降の画像処理に適したデジタルデータに変換する。
【0023】
デモザイク部140は、色モザイク画像を補間することによって、全ての画素がRGBの色情報を有する入力画像としてのカラー画像を生成する。補間手法には単純な線形補間から複雑な手法まで多くの方式が提案されているが、いずれの補間手法を用いてもよい。
【0024】
ここで生成されたカラー画像は、複数(R,G,Bの3つ)の色プレーンを有するが、結像光学系110の色収差によって、RプレーンやGプレーンに比べてBプレーンの解像度が劣る画像となる。このため、明暗の境界部では青がぼやけ、明部の周囲に青い縁取りのようなアーティファクトが生じる。
【0025】
なお、本実施例では、イメージセンサ120のカラーフィルタをR,G,Bからなる原色系とするが、補色系カラーフィルタとしてもよい。この場合、色変換処理によって、R,G,Bの色プレーンからなるカラー画像が得られる。
【0026】
色滲み領域検出部150、色滲み強度推定部160および色滲み除去部170では、Bプレーンを色滲み検出(色滲み判定)および色滲み除去の対象プレーンとし、基準プレーンとしてGプレーンを用いる。
【0027】
色滲み領域検出部150は、各種空間演算を行うことで色滲み領域に含まれる画素、すなわち色滲み画素を検出する。この色滲み領域検出部150での処理については、後に詳しく説明する。また、色滲み領域検出部150は、傾斜算出手段、第1の色滲み判定手段および第2の色滲み判定手段に相当する。
【0028】
また、色滲み強度推定部160は、色滲み領域検出部150にて検出された色滲み画素に対して空間的な演算を行い、色滲み強度の推定量(以下、色滲み推定量という)を算出する。色滲み強度は、色滲み量ということもできる。色滲み除去部170は、色滲み強度推定部160にて算出された色滲み推定量を入力画像であるカラー画像から減算等の色滲み低減処理(色滲み補正処理)によって低減する。色滲み強度推定部160および色滲み除去部170は、処理手段に相当する。
【0029】
視覚補正部180は、色滲み除去部170から出力された色滲みが低減されたカラー画像に対して、主として画像の見栄えを改善するための処理、例えばトーンカーブ(ガンマ)補正、彩度強調、色相補正、エッジ強調等の補正処理を行う。
【0030】
圧縮部190は、視覚補正部180を経たカラー画像を、JPEG等の圧縮方法で画像圧縮処理を行い、記録のためのデータサイズを小さくする。圧縮された画像データは、記録部200にてフラッシュメモリ等の記録媒体に記録される。
【0031】
イメージセンサ120から記録部200までの各部は、実際にはそれぞれ別々のデバイスによって構成されてもよいし、単一のマイクロプロセッサ上に構成されてもよい。以下の説明では、少なくとも色滲み領域検出部150、色滲み強度推定部160および色滲み除去部170は、撮像装置100に搭載された画像処理用コンピュータにより構成されるものとする。
【0032】
次に、色滲み領域検出部150にて行われる処理(画像処理方法)を、図4のフローチャートを用いて説明する。この色滲み領域検出部150での処理(さらには色滲み強度推定部160および色滲み除去部170での処理)は、上述した画像処理用コンピュータが、コンピュータプログラム(画像処理プログラム)に従って実行する。このことは、後述する他の実施例でも同じである。
【0033】
図4に示すように、色滲み領域検出部150の処理は、色滲み条件算出ステップS151、画像強度傾斜算出ステップS152および距離算出ステップS153により構成される。
【0034】
図5には、高輝度被体に対するBプレーンおよびGプレーンの典型的なプロファイルを示す。図5において横軸は画像上の断面であり、縦軸はB,Gプレーンの強度(輝度)である。図5では、中心部に飽和輝度を超える高輝度被写体が存在する。そして本来明るくない高輝度被写体周囲も、収差やフレアにより高輝度被写体から滲んだ光によってプロファイルの裾が拡がる。この滲みの強さは、高輝度被写体の輝度に依存し、また高輝度被写体から離れるに従って指数的に弱くなる。Gプレーンであっても滲みは全くないわけではなく、ある程度の拡がりが存在するが、それはBプレーンに比べると小さい。また、イメージセンサは一定の飽和レベル以上の強度を測定することはできないので、飽和レベル以上の強度を有する領域のイメージセンサ出力は平坦になる。このため、本来の高輝度被写体より一回り大きくGもBも飽和し、白く飽和した領域(図5中の飽和領域)が形成される。飽和領域から距離が離れるに従ってGは減衰していくが、Bの飽和領域の半径(以下、飽和半径という)はさらに広いため、徐々にGとBの強度差は大きくなり、水色として青みを増していく(図5中の領域(1))。しかし、Bの飽和半径からさらに距離が離れるに従いBも減衰していき、GとBの強度差は小さくなっていく(図5中の領域(2))。そして、Gの裾の端に達すると、その先はBプレーンのみが強度を持ち、真っ青の滲みとなる。
【0035】
このようなプロファイルを考慮し、本実施例は、色滲み画素は比較的輝度と彩度が高く、飽和画素の近傍に位置し、またBプレーン上での強度傾斜(輝度傾斜)∇BとGプレーン上での強度傾斜(輝度傾斜)∇Gの比に特徴を持つことに着目して青滲みを検出する。
【0036】
色滲み条件算出ステップS151には、前述した色滲み画素の特徴をふまえ、強度傾斜に関する色滲み条件と距離に関する色滲み条件とを設定し、これらの色滲み条件を用いて色滲み画素を検出する。その中で、色滲み条件算出ステップS151では、各色滲み条件における閾値を算出する。
【0037】
強度傾斜に関する色滲み条件として、本実施例においては、∇Bと∇Gとの関係(比)が閾値(第1の閾値)α以上である場合に、その強度傾斜を有する注目画素を色滲み候補画素として検出(判定)する。例として、閾値αを、
【0038】
【数1】
【0039】
として計算する。ただし、L1は注目画素における輝度、C1は注目画素における彩度、α0は基準となる輝度における閾値、αL,αCは係数である。
【0040】
このように、従来手法での定数閾値に比べて、輝度および彩度が高いほど閾値αが小さな値となるように変更することで、輝度および彩度が高い画素ほど色滲み候補画素として検出されやすくなる。このため、色滲み候補画素がノイズによって色滲み条件から漏れることを回避し、これに加えて飽和画素から離れたグラデーションを持つ被写体画素が色滲み候補画素として検出されることも抑制することができる。
【0041】
また、距離に関する色滲み条件は、色滲み候補画素のうち注目画素の近傍の飽和画素を探索する際の該注目画素からの距離範囲を指定する。具体的には、注目画素から閾値(第2の閾値)β以下の距離に飽和画素がある場合(すなわち飽和画素からの距離が第2の閾値以下の場合)に該注目画素を色滲み画素として検出(判定)する。例として閾値βは、
【0042】
【数2】
【0043】
として計算する。ただし、β0は基準となる輝度における閾値、βL,βCは係数である。
【0044】
このように従来手法での定数閾値に比べて、輝度および彩度が高いほど閾値βが小さな値となるように変更することで、色滲み画素は、該画素の輝度と彩度が高いほどより近傍に飽和画素が存在するという条件を与える。このため、飽和画素から離れた輝度および彩度の高い被写体色の検出を抑制するほか、輝度および彩度が高い画素ほど計算量が低減される効果を与える。また、色滲みプロファイルの端部における輝度および彩度が小さい色滲み画素の検出漏れを低減することにより、高精度な色滲み検出が可能になる。
【0045】
なお、上述した閾値αと閾値βの算出方法は例に過ぎず、他の算出方法を用いてもよい。例えば、輝度および彩度はそれらの少なくとも一方を用いればよく、例えば以下のように輝度のみを用いて、
【0046】
【数3】
【0047】
と算出してもよい。
【0048】
画像強度傾斜算出ステップS152では、Bプレーン上での強度傾斜マップおよびGプレーン上での強度傾斜マップを計算する。強度傾斜∇B,∇Gは、
【0049】
【数4】
【0050】
として計算する。ただし、
G(x+1,y)とB(x+1,y)はそれぞれ、GおよびBプレーンにおける注目画素の右隣の画素の画素値であり、
G(x−1,y)とB(x−1,y)はそれぞれ、GおよびBプレーンにおける注目画素の左隣の画素の画素値である。
G(x,y+1)とB(x,y+1)はそれぞれ、GおよびBプレーンにおける注目画素の下隣の画素の画素値であり、
G(x,y−1)とB(x,y−1)はそれぞれ、GおよびBプレーンにおける注目画素の上隣の画素の画素値である。
【0051】
なお、上記強度傾斜∇B,∇Gの計算方法は例に過ぎず、他の計算方法を用いてもよい。例えば、より大きな画素範囲での強度傾斜を計算してもよい。
【0052】
そして、画像強度傾斜算出ステップS152では、Bプレーン上での強度傾斜マップとGプレーン上での強度傾斜マップとを用いて、注目画素の強度傾斜が、強度傾斜に関する色滲み条件を満足するか否かを判定する。本実施例においては、強度傾斜に関する色滲み条件を、
【0053】
【数5】
【0054】
とする。すなわち、基準プレーン(Gプレーン)と対象プレーン(Bプレーン)における強度傾斜の比と閾値αとを比較する条件とする。
【0055】
この判定を入力画像の全体にわたって(全画素のそれぞれを注目画素として)行い、強度傾斜に関する色滲み条件を満足する色滲み候補画素群を抽出する。すなわち、強度傾斜が閾値αを用いた色滲み条件を満足する注目画素を色滲み候補画素と判定する。
【0056】
距離算出ステップS153では、基準となるGプレーン上で強度が一定の閾値以上となる飽和画素領域を抽出(検出)する。そして、画像強度傾斜算出ステップS152にて抽出した色滲み候補画素ごとに、飽和画素領域のうち該色滲み候補画素に最も近い飽和画素(最近飽和画素)からの距離dを画素ピッチ単位で算出する。例えば、図6においてハッチングした画素領域を飽和画素領域とし、ハッチングしていない画素をそれぞれ色滲み候補画素とすると、距離dは各色滲み候補画素を示す枠内に記した数値となる。
【0057】
さらに、距離算出ステップS153では、色滲み条件算出ステップS151にて算出された閾値βを用いた距離に関する色滲み条件を、
【0058】
【数6】
【0059】
とする。そして、算出した距離dがこの色滲み条件を満足する色滲み候補画素(群)を色滲み画素(群)として判定する。
【0060】
なお、本実施例にいう飽和画素とは、GおよびBのうちいずれか一方の色プレーンに対して強度がある閾値以上となる画素として定義する。また、画素間の距離としては、正確なユークリッド距離に限らず、準ユークリッド(quansi-Euclidean)距離や、チェスボード距離、シティブロック距離で代用してもよい。
【0061】
飽和画素の有無を探索する方法として、色滲み条件算出ステップS151によって算出された閾値β以内に含まれる画素において飽和画素の有無を検出し、飽和画素が存在した場合に注目画素(色滲み候補画素)を色滲み画素として判定してもよい。この場合も、「飽和画素を検出し、該飽和画素と色滲み候補画素との間の距離が第2の閾値以下である場合」に相当する。
【0062】
色滲み強度推定部160では、色滲み領域検出部150において抽出された色滲み画素(色滲み画素群)に対して色滲み強度を推定する。図7のフローチャートには、色滲み強度推定部160での処理を示す。色滲み強度推定部160での処理は、推定ステップS161および領域判定ステップS162により構成される。
【0063】
推定ステップS161では、カラー画像の各画素に対して、Bプレーンの色滲み強度の推定量(前述した色滲み推定量)を算出する。ここでは、Bが飽和しているかいないかによって異なるが、双方の場合に備えて2種類の色滲み推定量E1,E2を計算する。推定量E1は、距離算出ステップS153で算出した飽和画素からの距離dを使用する。例えば、推定量E1を、
【0064】
【数7】
【0065】
として算出する。ただし、Rbは図5に示した領域(1)と領域(2)の境界上での強度傾斜比
【0066】
【数8】
【0067】
である。また、DGBはGプレーン上での飽和半径とBプレーン上での飽和半径との差の絶対値である。k1は正の値の係数である。
【0068】
なお、Bが飽和している領域では輝度傾斜は0になってしまい、飽和前の輝度傾斜が得られない。そこで、このような領域に対する推定量E2を、Gの強度傾斜∇Gを用いて算出する。例えば、
【0069】
【数9】
【0070】
とする。
【0071】
領域判定ステップS162では、まず、Bプレーンの強度に対する非線形変換を行い、飽和度Sを生成する。この非線形変換はBが飽和しているかどうかを示すものであり、Bの強度が飽和している領域では1を、Bの強度が小さい場合は0となる。そして、この飽和度SによってステップS161で算出したE1又はE2を選択する。すなわち、新たな推定量Eを、
【0072】
【数10】
【0073】
とする。
【0074】
なお、距離算出ステップS153の結果を用いずに推定量Eを算出してもよく、
E1=k1|∇B|
E2=k2|∇G|
としてもよい。k2は正の値の係数である。
【0075】
このようにして算出した推定量Eは、色滲み除去部170に送られる。色滲み除去部170は、前述したように推定量Eを用いて色滲み低減処理を行い、色滲みが良好に補正された出力画像を生成する。
【0076】
このように、本実施例によれば、被写体および青滲みの輝度や彩度といった特徴に応じて色滲み条件を変化させることにより、青滲みと被写体の青いグラデーションとを効果的に分離する。これにより、青滲みが低減された違和感のない出力画像(撮影画像)を得ることができる。また、結像光学系においてはBバンドの縦色収差の制限を緩めることができ、その他の収差補正や、小型化、低コスト化をより高い水準で実現できる。
【実施例2】
【0077】
次に、本発明の実施例2である画像処理装置について説明する。実施例2は、実施例1に対して、色滲み領域検出部150の処理と色滲み強度推定部160の処理が異なる。他の構成および処理については実施例1と同じであるので、本実施例では、実施例1と異なる点を中心として説明する。
【0078】
本実施例では、図1に示した結像光学系110は被写体からの光R,G,Bをイメージセンサ120上に結像させるが、GとBの波長域の縦色収差が良好に補正され、Rの波長域の縦色収差が残存しているものとする。
【0079】
図8には、赤滲みの典型的な強度プロファイルを示す。図8において横軸は画像上の断面であり、縦軸は色滲み検出(色滲み判定)および色滲み除去の対象プレーンであるRプレーンと基準プレーンであるGプレーンの強度(輝度)である。図8では中心部に飽和輝度を超える高輝度被写体が存在する。そして、本来明るくない高輝度被写体周囲も、収差やフレアにより光源から滲んだ光によってプロファイルの裾が拡がる。この滲みの強さは、高輝度被写体の輝度に依存し、また高輝度被写体から離れるに従って指数的に弱くなる。Gプレーンであっても滲みは全くないわけではなく、ある程度の拡がりが存在するが、それはRプレーンに比べると小さい。また、イメージセンサは一定の飽和レベル以上の強度を測定することはできないので、飽和レベル以上の強度を有する領域のイメージセンサ出力は平坦になる。このため、本来の高輝度被写体より一回り大きくGもRも飽和し、白く飽和した領域(図8中の飽和領域)が形成される。飽和領域から距離が離れるに従ってGは減衰していくが、Rの飽和半径はさらに広いため、徐々にGとRの強度差は大きくなり、赤みを増していく(図8中の領域(1))。しかし、Rの飽和半径からさらに距離が離れるに従いRも減衰していき、GとRの強度差は小さくなっていく(図8中の領域(2))。そして、Gの裾の端に達すると、その先はRプレーンのみが強度を持ち、赤滲みとなる。
【0080】
このようなプロファイルを考慮し、本実施例は、色滲み画素は比較的輝度と彩度が高く、飽和画素の近傍に位置し、またRプレーン上での強度傾斜(輝度傾斜)∇RとGプレーン上での強度傾斜(輝度傾斜)∇Gに特徴を持つことに着目して赤滲みを検出する。
【0081】
図9のフローチャートには、本実施例における色滲み領域検出部150の処理を示している。本実施例の色滲み領域検出部150の処理は、距離算出ステップS251、色滲み条件算出ステップS252および画像強度傾斜算出ステップS253により構成されている。ここで、色滲み条件算出ステップS252では、飽和画素からの距離に関する色滲み条件と、強度傾斜に関する色滲み条件とを設定する。
【0082】
距離に関する色滲み条件では、例えば、検出した飽和画素(最近飽和画素)からの距離dが第1の閾値である閾値Δ以下である飽和画素近傍領域に含まれる注目画素を色滲み画素と判定する。飽和画素近傍領域は、閾値Δが適切に設定されれば、色滲み画素(群)が含まれた色滲み領域に相当し、色滲み低減処理(補正処理)の対象となる。
【0083】
飽和画素からの距離dは各色プレーンによって異なるが、色滲み条件はどの色プレーン上で算出してもよい。閾値Δの初期設定値を初期閾値Δ0とし、輝度および強度傾斜を用いた条件により初期閾値Δ0からの変化量を算出して、これらから閾値Δを算出する。なお、本実施例では、初期閾値Δ0を定数として使用するが、飽和半径の大きさによってこれを変化させるようにしてもよい。また、輝度に関する条件の閾値をεとする。
【0084】
一方、強度傾斜に関する色滲み条件は、強度傾斜と閾値(第2の閾値)γとの大小関係を比較した結果に応じて飽和画素近傍領域(つまりは閾値Δ)を適切に設定するための条件である。本実施例においては、閾値γを輝度および彩度を用いて、
【0085】
【数11】
【0086】
として計算する。ただし、L1は注目画素における輝度、C1は注目画素における彩度、γ0,γL,γCは係数である。
【0087】
なお、上述した閾値γの算出方法は例に過ぎず、他の算出方法を用いてもよい。例えば、輝度および彩度はそれらの少なくとも一方を用いればよく、例えば以下のように輝度のみを用いて、
【0088】
【数12】
【0089】
と算出してもよい。
【0090】
本実施例は、閾値Δを輝度と強度傾斜に応じて変化させて、適切な閾値Δを設定する。
【0091】
まず、距離算出ステップS251では、GとRの双方の色プレーンに対して、強度が一定の閾値以上となる飽和画素領域を抽出(検出)する。そして、飽和画素近傍領域に含まれる各注目画素と飽和画素領域におけるその注目画素に対する最近飽和画素との間の距離dG,dRを画素ピッチ単位で算出する。次に、距離dG,dRが最も初期閾値Δ0に近い注目画素を検出し、これを参照画素とする。参照画素は、飽和画素近傍領域のうち最も外側の境界上に位置する境界画素に相当する。
【0092】
次に、色滲み条件算出ステップS252のうち輝度に関する条件算出ステップS252aでは、距離算出ステップS251で抽出された参照画素の輝度Lが、
L>ε
なる条件を満足するか否かを判定する。つまり、その参照画素が、色滲み画素として有するはずの輝度を有しているか否かを判定する。この条件を満足しない場合には、
Δ=Δ0
として、飽和画素近傍領域(つまりは、閾値Δ)を変化させない。また、該条件を満足する参照画素(群)を、画像強度傾斜算出ステップS253に渡す。
【0093】
画像強度傾斜算出ステップS253では、条件算出ステップS252aでの条件を満足した参照画素(群)に対して強度傾斜を算出する。強度傾斜を求める色プレーンは、閾値Δを算出した色プレーンと同じであることが望ましい。本実施例では、Rプレーン上の強度傾斜∇Rを算出し、強度傾斜に関する色滲み条件を、
∇R>γ
とする。この条件を満足した場合には、条件算出ステップS252bに進み、該条件を満たさない場合には条件算出ステップS252cに進む。
条件算出ステップS252bでは、図10にハッチングした領域として示すように、飽和画素から離れる方向に(つまりは飽和画素近傍領域の外側に向かって)距離(Δ0−1)内に含まれる領域を外側参照領域とする。そして、この外側参照領域における画素ごとの強度傾斜を算出し、強度傾斜∇Rが強度傾斜に関する色滲み条件である、
∇R>γ
を満足する画素を検出する。参照画素から外側参照領域内の複数の画素のうち途中の画素まで連続して上記色滲み条件を満足する場合には、該色滲み条件を満足しなくなった画素の最近飽和画素からの距離dmaxを用いて、閾値Δを、
Δ=dmax−1
と変更する。つまり、ΔをΔ0から(dmax−1)に増加させる。
【0094】
一方、条件算出ステップS252cでは、図11にハッチングした領域として示すように、飽和画素に近づく方向に(つまりは飽和画素近傍領域の内側に向かって)距離(Δ0−1)内に含まれる領域を内側参照領域とする。そして、この内側参照領域における画素ごとの強度傾斜を算出し、強度傾斜∇Rが強度傾斜に関する色滲み条件である、
∇R>γ
を満足する画素を検出する。参照画素から内側参照領域内の複数の画素のうち途中の画素ではじめて上記色滲み条件を満足した場合には、該色滲み条件を満足した画素の最近飽和画素からの距離dminを用いて、閾値Δを、
Δ=dmin
と変更する。つまり、ΔをΔ0からdminに減少させる。
【0095】
このように条件算出ステップS252b,S252cにおいて、飽和画素から距離の閾値Δ内(飽和輝度近傍領域内)にある画素(群)を色滲み画素(群)として判定し、これを示した色滲み画素マップを色滲み強度推定部160に送る。なお、本実施例においては外側参照領域および内側参照領域を決定する所定幅(Δ0−1)を同じとして説明したが、互いに異ならせてもよい。
【0096】
色滲み強度推定部160は、本実施例は、色滲み推定量の計算方法において実施例1と異なる。ここでは、Rが飽和しているかいないかによって異なるが、双方の場合に備えて2種類の色滲み推定量E1,E2を計算する。例えば、
【0097】
【数13】
【0098】
と算出する。ただし、k0,k1,k2は定数であり、結像光学系やイメージセンサの画素ピッチによって異なるため、入力画像から滲み量を近似するのに好適な値に設定するのが望ましい。図12には、高輝度被写体に対するR,Gプレーンの典型的なプロファイルと、各色プレーン上での飽和画素からの距離dG,dRとの関係を示す。図12において横軸は画像上の断面であり、縦軸はR,Gプレーンでの強度である。色滲み推定量E1,E2は、図8および図12の領域(1)と領域(2)の境界線上ではE0=(k1dG+k0)と一致するためマッハバンドを生じない。
【0099】
このようにして算出した推定量Eは、色滲み除去部170に送られる。色滲み除去部170は、前述したように推定量Eを用いて色滲み低減処理を行い、色滲みが良好に補正された出力画像を生成する。
【0100】
この後、実施例1で説明した領域判定ステップS162と同様にして、色滲み推定量EがE1,E2から算出され、色滲み除去部S170に送られる。
【0101】
本実施例によれば、各飽和画素の特徴に応じて閾値Δを変化させることで、色滲み低減処理を行う飽和画素近傍領域(色滲み領域)が正確に特定され、色滲みが良好に補正された出力画像を生成することができる。
【実施例3】
【0102】
次に、本発明の実施例3である画像処理装置について説明する。実施例3は、実施例1に対して、色滲み領域検出部150の処理が異なる。他の構成および処理については実施例1と同じであるので、本実施例では、実施例1と異なる点を中心として説明する。
【0103】
本実施例では、飽和画素の周辺の複数の画素をクラスターとして扱い、クラスターごと色滲み判定を行う。言い換えれば、実施例1で説明した色滲み候補画素を、その判定対象領域である色滲み候補クラスターごとに抽出する。
【0104】
図13のフローチャートには、本実施例における色滲み領域検出部150の処理を示す。色滲み領域検出部150の処理は、距離算出ステップS351と、色滲み条件算出ステップS352と、画像強度傾斜算出ステップS353とにより構成される。色滲み領域検出部150は、クラスター判定手段として機能する。
【0105】
距離算出ステップS351では、G,B双方の色プレーンに対して、強度が一定の閾値以上となる飽和画素を抽出し、各飽和画素の任意の色プレーン上における飽和半径を算出する。例えば、本実施例においては、Bプレーン上における飽和半径dBを算出する。飽和半径に関しては、飽和画素からの方向によって異なるため、本実施例においては、最大飽和半径dBmaxを飽和半径dBとして用いる。ただし、飽和半径dBはこれに限られず、複数の方向における飽和半径の平均値を飽和半径dBとして用いてもよい。
【0106】
色滲み条件算出ステップS352では、強度傾斜に関する色滲み条件と飽和画素からの距離に関する色滲み条件と輝度に関する色滲み条件を予め設定する。距離算出ステップS351で算出された飽和半径dBと輝度および彩度とを用いて各条件に対する閾値を算出する。距離に関する色滲み条件で用いる閾値Dは、飽和画素からの距離範囲を特定する閾値であり、色滲みクラスター(色滲み候補クラスター)とする範囲を各飽和画素に対して決定する。例えば、
【0107】
【数14】
【0108】
と設定する。ただし、φ0,φ1は係数である。各飽和画素に対して算出された距離の閾値Dを用いて、飽和画素からの距離rが、
D>r
となる画素を該飽和画素の色滲み候補クラスターとする。
【0109】
次に、輝度に対する閾値κと彩度に対する閾値λとを用いて、
L1<κ
C1<λ
なる条件を満足する画素が、色滲み候補クラスター内に存在するか否かを判定する。閾値κ,λは、使用する撮像系での典型的な色滲みプロファイルから設定するのが望ましい。なお、色滲みクラスターの外縁部(その外側との境界部)のみを参照することにより、計算量を低減するようにしてもよい。上記条件を満足する画素が色滲み候補クラスター内に存在しない場合には、その色滲み候補クラスターは色滲みクラスターではないと判定する。
【0110】
一方、上記条件を満足する画素が色滲み候補クラスター内に存在する場合には、その色滲み候補クラスター内の各注目画素に対して、該注目画素の輝度および彩度から強度傾斜に関する色滲み条件に用いる閾値(第3の閾値)ηを算出する。例えば、
【0111】
【数15】
【0112】
として算出する。ただし、L1は注目画素における輝度、C1は注目画素における彩度、η0,ηL,ηCは係数である。
【0113】
なお、上述した閾値ηの算出方法は例に過ぎず、他の算出方法を用いてもよい。例えば、輝度および彩度はそれらの少なくとも一方を用いればよく、例えば以下のように輝度のみを用いて、
【0114】
【数16】
【0115】
と算出してもよい。また、上述した2つの条件L1<κ,C1<λについても少なくとも一方を用いればよい。
【0116】
画像強度傾斜算出ステップS353では、色滲み条件算出ステップS352で算出された色滲み候補クラスターにおいて、GプレーンおよびBプレーンでの強度傾斜を算出する。そして、算出した強度傾斜dLが、強度傾斜に関する色滲み条件である、
dL>η
を満足する場合に、その色滲み候補クラスターを最終的な色滲みクラスターと判定する。
【0117】
このようにして抽出された色滲みクラスターは、色滲み強度推定部160に送られ、実施例1と同様の処理が行われる。
【0118】
本実施例によれば、飽和画素を含む被写体色を色滲み低減処理の対象領域から除外できる。また、飽和画素の周囲を探索しているので、誤処理を低減できるとともに、複数の飽和画素が互いに近傍に存在する場合にも、良好に色滲みが低減された画像を生成することができる。
【0119】
上記各実施例では、本発明の画像処理方法を使用する(または画像処理装置を搭載した)撮像装置について説明したが、本発明の画像処理方法は、パーソナルコンピュータにインストールされる画像処理プログラムによっても実施することができる。この場合、パーソナルコンピュータが本発明の画像処理装置に相当する。パーソナルコンピュータは、撮像装置により生成された画像回復処理前の画像(入力画像)を取り込み(取得し)、画像処理プログラムによって色滲み低減処理を行って、その結果得られた画像を出力する。
【0120】
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
【産業上の利用可能性】
【0121】
良好に色滲みが低減されたカラー画像を出力可能な画像処理装置や撮像装置を提供できる。
【符号の説明】
【0122】
100 撮像装置
110 結像光学系
120 イメージセンサ
150 色滲み領域検出部
160 色滲み強度推定部
170 色滲み除去部
【技術分野】
【0001】
本発明は、ビデオカメラやデジタルスチルカメラ等の撮像系により生成されたカラー画像の色滲みを低減する画像処理技術に関する。
【背景技術】
【0002】
上記のような撮像系により生成されたカラー画像のうち高輝度部分の周囲には、結像光学系(撮影光学系)の色収差に起因して、本来存在しない色が色滲みとして生じる場合がある。色滲みは、結像光学系の中心波長から離れた部分で発生しやすく、可視光カラー画像では、青色や赤色のアーティファクトもしくは双方が混ざった紫色のアーティファクト(パープルフリンジ)が滲み状に生ずる。
【0003】
結像光学系の色収差は、異なる分散を持つレンズを複数組み合わせることにより、ある程度光学的に抑えることができる。ただし、撮像センサの高解像度化と光学系の小型化とに伴い、色収差を光学のみで十分に抑えることは困難となってきている。このため、画像処理による色滲みの低減が求められている。
【0004】
色収差は、例えば可視光域の中心波長を担うGプレーンで合焦した画像において、可視光域の端部となるRプレーンやBプレーンではピントがぼける現象である。その補正方法としては、特許文献1や特許文献2にて開示されているように、輝度飽和領域からの距離や強度傾斜(輝度傾斜)に基づいて色滲み補正範囲を特定する方法がある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−147980号公報
【特許文献2】特開2008−147981号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、輝度飽和領域からの距離のみに基づいて色滲み補正範囲を特定する方法では、飽和画素周辺における設定距離範囲内のすべての画素を色滲み画素として補正する。この場合、該距離範囲が適切に設定されていない場合や被写体の性質によっては
良好な補正結果が得られないおそれがある。また、強度傾斜にのみ基づいて色滲み補正範囲を特定する方法では、設定した強度傾斜条件を満たす画素をすべて色滲み画素として補正する。この場合、強度傾斜条件のみでは区別が不可能な色分布を持つ被写体や、ノイズによって局所的に強度傾斜条件を満たさない色滲みについては適切な補正が行われないおそれがある。
【0007】
本発明は、色滲みを含むカラー画像において色滲み補正を行う範囲をより適切に特定できるようにした画像処理装置、撮像装置、画像処理方法および画像処理プログラムを提供する。
【課題を解決するための手段】
【0008】
本発明の一側面としての画像処理装置は、撮像系により生成されたカラー画像における画素ごとの強度傾斜を算出する傾斜算出手段と、強度傾斜が第1の閾値を用いた色滲み条件を満足する画素を色滲み候補画素と判定する第1の色滲み判定手段と、カラー画像における飽和画素を検出し、該飽和画素と色滲み候補画素との間の距離が第2の閾値以下である場合に、該色滲み候補画素を色滲み画素と判定する第2の色滲み判定手段とを有する。そして、第1および第2の色滲み判定手段はそれぞれ、第1および第2の閾値を、色滲み候補画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする。
【0009】
また、本発明の他の一側面としての画像処理装置は、撮像系により生成されたカラー画像において飽和画素を検出し、該飽和画素からの距離が第1の閾値以下である飽和画素近傍領域に含まれる画素を色滲み画素と判定する色滲み判定手段と、飽和画素近傍領域のうち最も外側の境界画素から該飽和画素近傍領域の内側および外側に所定幅を有する境界近傍領域における画素ごとの強度傾斜を算出する傾斜算出手段とを有する。色滲み判定手段は、強度傾斜と第2の閾値とを比較した結果に応じて第1の閾値を変更し、かつ第2の閾値を、境界近傍領域に含まれる画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする。
【0010】
なお、カラー画像を生成する撮像系と、上記画像処理装置とを有する撮像装置も、本発明の他の一側面を構成する。
【0011】
また、本発明の他の一側面としての画像処理方法(画像処理プログラム)は、撮像系により生成されたカラー画像における画素ごとの強度傾斜を算出するステップと、強度傾斜が第1の閾値を用いた色滲み条件を満足する画素を色滲み候補画素と判定するステップと、カラー画像における飽和画素を検出し、該飽和画素と色滲み候補画素との間の距離が第2の閾値以下である場合に、該色滲み候補画素を色滲み画素と判定するステップとを有する。そして、第1および第2の閾値を、色滲み候補画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする。
【0012】
さらに、本発明の他の一側面としての画像処理方法(画像処理プログラム)は、撮像系により生成されたカラー画像において飽和画素を検出し、該飽和画素からの距離が第1の閾値以下である飽和画素近傍領域に含まれる画素を色滲み画素と判定するステップと、飽和画素近傍領域のうち最も外側の境界画素から該飽和画素近傍領域の内側および外側に所定幅を有する境界近傍領域における画素ごとの強度傾斜を算出するステップとを有する。そして、強度傾斜と第2の閾値とを比較した結果に応じて第1の閾値を変更し、かつ第2の閾値を、境界近傍領域に含まれる画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする。
【発明の効果】
【0013】
本発明によれば、様々な色分布を持つ被写体を含む等、従来の色滲み補正方法では色滲み補正を行う範囲の特定が困難であったカラー画像に対しても、該範囲をより適切に特定することができ、この結果、より良好に色滲みが低減された画像を得ることができる。
【図面の簡単な説明】
【0014】
【図1】本発明の実施例1である画像処理装置を搭載した撮像装置の構成を示すブロック図。
【図2】原色カラーフィルタの説明図。
【図3】カラーフィルタアレイの説明図。
【図4】実施例1における色滲み領域検出部の処理を示すフローチャート。
【図5】輝度差が大きい領域で青滲みが存在する場合のG,Bプレーンの値を説明する図。
【図6】輝度飽和領域からの距離を説明する図。
【図7】実施例1における色滲み強度推定部の構成を示すブロック図。
【図8】輝度差が大きい領域で赤滲みが存在する場合のR,Gプレーンの値を説明する図。
【図9】本発明の実施例2である画像処理装置の色滲み領域検出部の処理を示すフローチャート。
【図10】画像強度傾斜が大きいときの参照領域を示す図。
【図11】画像強度傾斜が小さいときの参照領域を示す図。
【図12】青色滲みおよび各色プレーンでの輝度飽和画素までの距離を定義する図。
【図13】本発明の実施例3である画像処理装置の色滲み領域検出部の処理を示すフローチャート。
【発明を実施するための形態】
【0015】
以下、本発明の実施例について図面を参照しながら説明する。
【実施例1】
【0016】
図1には、本発明の実施例1である画像処理装置を搭載したカラー撮像装置100の構成を示している。
【0017】
撮像装置100は、結像光学系(撮影光学系)110と、イメージセンサ120と、AD変換部130と、デモザイク部140とを有する。これら結像光学系110からデモザイク部140により撮像系が構成される。また、撮像装置100は、色滲み領域検出部150と、色滲み強度推定部160と、色滲み除去部170とを有する。これら色滲み領域検出部150から色滲み除去部170により、画像処理装置が構成される。さらに、撮像装置100は、視覚補正部180と、圧縮部190と、記録部200とを有する。図1中に示した写野(被写体)fとR,G,Bの光線は撮像装置100の構成要素ではないが、説明のために図1中に示している。
【0018】
写野fからの光R,G,Bは、結像光学系110によってイメージセンサ120上に結像する。一般に、カラー撮像装置に装着される結像光学系は、一定の色収差補正が施されている。本実施例の結像光学系110は、RとGの波長域の縦色収差が良好に補正され、Bの波長域の縦色収差が残存している。このようにBの波長域の縦色収差の補正基準を下げることにより、その他の収差補正を改善したり、撮像装置を小型化したりすることが可能となる。
【0019】
イメージセンサ120は、一般的な原色系カラーフィルタを備える単板カラーイメージセンサである。原色系カラーフィルタはそれぞれ、図2に示すように、650nm,550nm,450nmの近傍に透過主波長帯を持つ3種類のカラーフィルタにより構成されており、それぞれR,G,Bの各バンドに対応する色プレーンを撮像する。
【0020】
単板カラーイメージセンサでは、これらのカラーフィルタを図3に示すように画素毎に空間的に配列し、各画素に対しては単一の色プレーンにおける強度(輝度)を得ることしかできない。このためイメージセンサ120からは色モザイク画像が出力される。
【0021】
なお、不図示の色分解プリズムを用いて入射光をR,G,Bの波長域に分け、それぞれの波長の光を別々のイメージセンサで撮像する3板式カラーイメージセンサを用いてもよい。この場合、デモザイク部140は不要となる。
【0022】
AD変換部130は、イメージセンサ120からアナログ電圧として出力される色モザイク画像を、これ以降の画像処理に適したデジタルデータに変換する。
【0023】
デモザイク部140は、色モザイク画像を補間することによって、全ての画素がRGBの色情報を有する入力画像としてのカラー画像を生成する。補間手法には単純な線形補間から複雑な手法まで多くの方式が提案されているが、いずれの補間手法を用いてもよい。
【0024】
ここで生成されたカラー画像は、複数(R,G,Bの3つ)の色プレーンを有するが、結像光学系110の色収差によって、RプレーンやGプレーンに比べてBプレーンの解像度が劣る画像となる。このため、明暗の境界部では青がぼやけ、明部の周囲に青い縁取りのようなアーティファクトが生じる。
【0025】
なお、本実施例では、イメージセンサ120のカラーフィルタをR,G,Bからなる原色系とするが、補色系カラーフィルタとしてもよい。この場合、色変換処理によって、R,G,Bの色プレーンからなるカラー画像が得られる。
【0026】
色滲み領域検出部150、色滲み強度推定部160および色滲み除去部170では、Bプレーンを色滲み検出(色滲み判定)および色滲み除去の対象プレーンとし、基準プレーンとしてGプレーンを用いる。
【0027】
色滲み領域検出部150は、各種空間演算を行うことで色滲み領域に含まれる画素、すなわち色滲み画素を検出する。この色滲み領域検出部150での処理については、後に詳しく説明する。また、色滲み領域検出部150は、傾斜算出手段、第1の色滲み判定手段および第2の色滲み判定手段に相当する。
【0028】
また、色滲み強度推定部160は、色滲み領域検出部150にて検出された色滲み画素に対して空間的な演算を行い、色滲み強度の推定量(以下、色滲み推定量という)を算出する。色滲み強度は、色滲み量ということもできる。色滲み除去部170は、色滲み強度推定部160にて算出された色滲み推定量を入力画像であるカラー画像から減算等の色滲み低減処理(色滲み補正処理)によって低減する。色滲み強度推定部160および色滲み除去部170は、処理手段に相当する。
【0029】
視覚補正部180は、色滲み除去部170から出力された色滲みが低減されたカラー画像に対して、主として画像の見栄えを改善するための処理、例えばトーンカーブ(ガンマ)補正、彩度強調、色相補正、エッジ強調等の補正処理を行う。
【0030】
圧縮部190は、視覚補正部180を経たカラー画像を、JPEG等の圧縮方法で画像圧縮処理を行い、記録のためのデータサイズを小さくする。圧縮された画像データは、記録部200にてフラッシュメモリ等の記録媒体に記録される。
【0031】
イメージセンサ120から記録部200までの各部は、実際にはそれぞれ別々のデバイスによって構成されてもよいし、単一のマイクロプロセッサ上に構成されてもよい。以下の説明では、少なくとも色滲み領域検出部150、色滲み強度推定部160および色滲み除去部170は、撮像装置100に搭載された画像処理用コンピュータにより構成されるものとする。
【0032】
次に、色滲み領域検出部150にて行われる処理(画像処理方法)を、図4のフローチャートを用いて説明する。この色滲み領域検出部150での処理(さらには色滲み強度推定部160および色滲み除去部170での処理)は、上述した画像処理用コンピュータが、コンピュータプログラム(画像処理プログラム)に従って実行する。このことは、後述する他の実施例でも同じである。
【0033】
図4に示すように、色滲み領域検出部150の処理は、色滲み条件算出ステップS151、画像強度傾斜算出ステップS152および距離算出ステップS153により構成される。
【0034】
図5には、高輝度被体に対するBプレーンおよびGプレーンの典型的なプロファイルを示す。図5において横軸は画像上の断面であり、縦軸はB,Gプレーンの強度(輝度)である。図5では、中心部に飽和輝度を超える高輝度被写体が存在する。そして本来明るくない高輝度被写体周囲も、収差やフレアにより高輝度被写体から滲んだ光によってプロファイルの裾が拡がる。この滲みの強さは、高輝度被写体の輝度に依存し、また高輝度被写体から離れるに従って指数的に弱くなる。Gプレーンであっても滲みは全くないわけではなく、ある程度の拡がりが存在するが、それはBプレーンに比べると小さい。また、イメージセンサは一定の飽和レベル以上の強度を測定することはできないので、飽和レベル以上の強度を有する領域のイメージセンサ出力は平坦になる。このため、本来の高輝度被写体より一回り大きくGもBも飽和し、白く飽和した領域(図5中の飽和領域)が形成される。飽和領域から距離が離れるに従ってGは減衰していくが、Bの飽和領域の半径(以下、飽和半径という)はさらに広いため、徐々にGとBの強度差は大きくなり、水色として青みを増していく(図5中の領域(1))。しかし、Bの飽和半径からさらに距離が離れるに従いBも減衰していき、GとBの強度差は小さくなっていく(図5中の領域(2))。そして、Gの裾の端に達すると、その先はBプレーンのみが強度を持ち、真っ青の滲みとなる。
【0035】
このようなプロファイルを考慮し、本実施例は、色滲み画素は比較的輝度と彩度が高く、飽和画素の近傍に位置し、またBプレーン上での強度傾斜(輝度傾斜)∇BとGプレーン上での強度傾斜(輝度傾斜)∇Gの比に特徴を持つことに着目して青滲みを検出する。
【0036】
色滲み条件算出ステップS151には、前述した色滲み画素の特徴をふまえ、強度傾斜に関する色滲み条件と距離に関する色滲み条件とを設定し、これらの色滲み条件を用いて色滲み画素を検出する。その中で、色滲み条件算出ステップS151では、各色滲み条件における閾値を算出する。
【0037】
強度傾斜に関する色滲み条件として、本実施例においては、∇Bと∇Gとの関係(比)が閾値(第1の閾値)α以上である場合に、その強度傾斜を有する注目画素を色滲み候補画素として検出(判定)する。例として、閾値αを、
【0038】
【数1】
【0039】
として計算する。ただし、L1は注目画素における輝度、C1は注目画素における彩度、α0は基準となる輝度における閾値、αL,αCは係数である。
【0040】
このように、従来手法での定数閾値に比べて、輝度および彩度が高いほど閾値αが小さな値となるように変更することで、輝度および彩度が高い画素ほど色滲み候補画素として検出されやすくなる。このため、色滲み候補画素がノイズによって色滲み条件から漏れることを回避し、これに加えて飽和画素から離れたグラデーションを持つ被写体画素が色滲み候補画素として検出されることも抑制することができる。
【0041】
また、距離に関する色滲み条件は、色滲み候補画素のうち注目画素の近傍の飽和画素を探索する際の該注目画素からの距離範囲を指定する。具体的には、注目画素から閾値(第2の閾値)β以下の距離に飽和画素がある場合(すなわち飽和画素からの距離が第2の閾値以下の場合)に該注目画素を色滲み画素として検出(判定)する。例として閾値βは、
【0042】
【数2】
【0043】
として計算する。ただし、β0は基準となる輝度における閾値、βL,βCは係数である。
【0044】
このように従来手法での定数閾値に比べて、輝度および彩度が高いほど閾値βが小さな値となるように変更することで、色滲み画素は、該画素の輝度と彩度が高いほどより近傍に飽和画素が存在するという条件を与える。このため、飽和画素から離れた輝度および彩度の高い被写体色の検出を抑制するほか、輝度および彩度が高い画素ほど計算量が低減される効果を与える。また、色滲みプロファイルの端部における輝度および彩度が小さい色滲み画素の検出漏れを低減することにより、高精度な色滲み検出が可能になる。
【0045】
なお、上述した閾値αと閾値βの算出方法は例に過ぎず、他の算出方法を用いてもよい。例えば、輝度および彩度はそれらの少なくとも一方を用いればよく、例えば以下のように輝度のみを用いて、
【0046】
【数3】
【0047】
と算出してもよい。
【0048】
画像強度傾斜算出ステップS152では、Bプレーン上での強度傾斜マップおよびGプレーン上での強度傾斜マップを計算する。強度傾斜∇B,∇Gは、
【0049】
【数4】
【0050】
として計算する。ただし、
G(x+1,y)とB(x+1,y)はそれぞれ、GおよびBプレーンにおける注目画素の右隣の画素の画素値であり、
G(x−1,y)とB(x−1,y)はそれぞれ、GおよびBプレーンにおける注目画素の左隣の画素の画素値である。
G(x,y+1)とB(x,y+1)はそれぞれ、GおよびBプレーンにおける注目画素の下隣の画素の画素値であり、
G(x,y−1)とB(x,y−1)はそれぞれ、GおよびBプレーンにおける注目画素の上隣の画素の画素値である。
【0051】
なお、上記強度傾斜∇B,∇Gの計算方法は例に過ぎず、他の計算方法を用いてもよい。例えば、より大きな画素範囲での強度傾斜を計算してもよい。
【0052】
そして、画像強度傾斜算出ステップS152では、Bプレーン上での強度傾斜マップとGプレーン上での強度傾斜マップとを用いて、注目画素の強度傾斜が、強度傾斜に関する色滲み条件を満足するか否かを判定する。本実施例においては、強度傾斜に関する色滲み条件を、
【0053】
【数5】
【0054】
とする。すなわち、基準プレーン(Gプレーン)と対象プレーン(Bプレーン)における強度傾斜の比と閾値αとを比較する条件とする。
【0055】
この判定を入力画像の全体にわたって(全画素のそれぞれを注目画素として)行い、強度傾斜に関する色滲み条件を満足する色滲み候補画素群を抽出する。すなわち、強度傾斜が閾値αを用いた色滲み条件を満足する注目画素を色滲み候補画素と判定する。
【0056】
距離算出ステップS153では、基準となるGプレーン上で強度が一定の閾値以上となる飽和画素領域を抽出(検出)する。そして、画像強度傾斜算出ステップS152にて抽出した色滲み候補画素ごとに、飽和画素領域のうち該色滲み候補画素に最も近い飽和画素(最近飽和画素)からの距離dを画素ピッチ単位で算出する。例えば、図6においてハッチングした画素領域を飽和画素領域とし、ハッチングしていない画素をそれぞれ色滲み候補画素とすると、距離dは各色滲み候補画素を示す枠内に記した数値となる。
【0057】
さらに、距離算出ステップS153では、色滲み条件算出ステップS151にて算出された閾値βを用いた距離に関する色滲み条件を、
【0058】
【数6】
【0059】
とする。そして、算出した距離dがこの色滲み条件を満足する色滲み候補画素(群)を色滲み画素(群)として判定する。
【0060】
なお、本実施例にいう飽和画素とは、GおよびBのうちいずれか一方の色プレーンに対して強度がある閾値以上となる画素として定義する。また、画素間の距離としては、正確なユークリッド距離に限らず、準ユークリッド(quansi-Euclidean)距離や、チェスボード距離、シティブロック距離で代用してもよい。
【0061】
飽和画素の有無を探索する方法として、色滲み条件算出ステップS151によって算出された閾値β以内に含まれる画素において飽和画素の有無を検出し、飽和画素が存在した場合に注目画素(色滲み候補画素)を色滲み画素として判定してもよい。この場合も、「飽和画素を検出し、該飽和画素と色滲み候補画素との間の距離が第2の閾値以下である場合」に相当する。
【0062】
色滲み強度推定部160では、色滲み領域検出部150において抽出された色滲み画素(色滲み画素群)に対して色滲み強度を推定する。図7のフローチャートには、色滲み強度推定部160での処理を示す。色滲み強度推定部160での処理は、推定ステップS161および領域判定ステップS162により構成される。
【0063】
推定ステップS161では、カラー画像の各画素に対して、Bプレーンの色滲み強度の推定量(前述した色滲み推定量)を算出する。ここでは、Bが飽和しているかいないかによって異なるが、双方の場合に備えて2種類の色滲み推定量E1,E2を計算する。推定量E1は、距離算出ステップS153で算出した飽和画素からの距離dを使用する。例えば、推定量E1を、
【0064】
【数7】
【0065】
として算出する。ただし、Rbは図5に示した領域(1)と領域(2)の境界上での強度傾斜比
【0066】
【数8】
【0067】
である。また、DGBはGプレーン上での飽和半径とBプレーン上での飽和半径との差の絶対値である。k1は正の値の係数である。
【0068】
なお、Bが飽和している領域では輝度傾斜は0になってしまい、飽和前の輝度傾斜が得られない。そこで、このような領域に対する推定量E2を、Gの強度傾斜∇Gを用いて算出する。例えば、
【0069】
【数9】
【0070】
とする。
【0071】
領域判定ステップS162では、まず、Bプレーンの強度に対する非線形変換を行い、飽和度Sを生成する。この非線形変換はBが飽和しているかどうかを示すものであり、Bの強度が飽和している領域では1を、Bの強度が小さい場合は0となる。そして、この飽和度SによってステップS161で算出したE1又はE2を選択する。すなわち、新たな推定量Eを、
【0072】
【数10】
【0073】
とする。
【0074】
なお、距離算出ステップS153の結果を用いずに推定量Eを算出してもよく、
E1=k1|∇B|
E2=k2|∇G|
としてもよい。k2は正の値の係数である。
【0075】
このようにして算出した推定量Eは、色滲み除去部170に送られる。色滲み除去部170は、前述したように推定量Eを用いて色滲み低減処理を行い、色滲みが良好に補正された出力画像を生成する。
【0076】
このように、本実施例によれば、被写体および青滲みの輝度や彩度といった特徴に応じて色滲み条件を変化させることにより、青滲みと被写体の青いグラデーションとを効果的に分離する。これにより、青滲みが低減された違和感のない出力画像(撮影画像)を得ることができる。また、結像光学系においてはBバンドの縦色収差の制限を緩めることができ、その他の収差補正や、小型化、低コスト化をより高い水準で実現できる。
【実施例2】
【0077】
次に、本発明の実施例2である画像処理装置について説明する。実施例2は、実施例1に対して、色滲み領域検出部150の処理と色滲み強度推定部160の処理が異なる。他の構成および処理については実施例1と同じであるので、本実施例では、実施例1と異なる点を中心として説明する。
【0078】
本実施例では、図1に示した結像光学系110は被写体からの光R,G,Bをイメージセンサ120上に結像させるが、GとBの波長域の縦色収差が良好に補正され、Rの波長域の縦色収差が残存しているものとする。
【0079】
図8には、赤滲みの典型的な強度プロファイルを示す。図8において横軸は画像上の断面であり、縦軸は色滲み検出(色滲み判定)および色滲み除去の対象プレーンであるRプレーンと基準プレーンであるGプレーンの強度(輝度)である。図8では中心部に飽和輝度を超える高輝度被写体が存在する。そして、本来明るくない高輝度被写体周囲も、収差やフレアにより光源から滲んだ光によってプロファイルの裾が拡がる。この滲みの強さは、高輝度被写体の輝度に依存し、また高輝度被写体から離れるに従って指数的に弱くなる。Gプレーンであっても滲みは全くないわけではなく、ある程度の拡がりが存在するが、それはRプレーンに比べると小さい。また、イメージセンサは一定の飽和レベル以上の強度を測定することはできないので、飽和レベル以上の強度を有する領域のイメージセンサ出力は平坦になる。このため、本来の高輝度被写体より一回り大きくGもRも飽和し、白く飽和した領域(図8中の飽和領域)が形成される。飽和領域から距離が離れるに従ってGは減衰していくが、Rの飽和半径はさらに広いため、徐々にGとRの強度差は大きくなり、赤みを増していく(図8中の領域(1))。しかし、Rの飽和半径からさらに距離が離れるに従いRも減衰していき、GとRの強度差は小さくなっていく(図8中の領域(2))。そして、Gの裾の端に達すると、その先はRプレーンのみが強度を持ち、赤滲みとなる。
【0080】
このようなプロファイルを考慮し、本実施例は、色滲み画素は比較的輝度と彩度が高く、飽和画素の近傍に位置し、またRプレーン上での強度傾斜(輝度傾斜)∇RとGプレーン上での強度傾斜(輝度傾斜)∇Gに特徴を持つことに着目して赤滲みを検出する。
【0081】
図9のフローチャートには、本実施例における色滲み領域検出部150の処理を示している。本実施例の色滲み領域検出部150の処理は、距離算出ステップS251、色滲み条件算出ステップS252および画像強度傾斜算出ステップS253により構成されている。ここで、色滲み条件算出ステップS252では、飽和画素からの距離に関する色滲み条件と、強度傾斜に関する色滲み条件とを設定する。
【0082】
距離に関する色滲み条件では、例えば、検出した飽和画素(最近飽和画素)からの距離dが第1の閾値である閾値Δ以下である飽和画素近傍領域に含まれる注目画素を色滲み画素と判定する。飽和画素近傍領域は、閾値Δが適切に設定されれば、色滲み画素(群)が含まれた色滲み領域に相当し、色滲み低減処理(補正処理)の対象となる。
【0083】
飽和画素からの距離dは各色プレーンによって異なるが、色滲み条件はどの色プレーン上で算出してもよい。閾値Δの初期設定値を初期閾値Δ0とし、輝度および強度傾斜を用いた条件により初期閾値Δ0からの変化量を算出して、これらから閾値Δを算出する。なお、本実施例では、初期閾値Δ0を定数として使用するが、飽和半径の大きさによってこれを変化させるようにしてもよい。また、輝度に関する条件の閾値をεとする。
【0084】
一方、強度傾斜に関する色滲み条件は、強度傾斜と閾値(第2の閾値)γとの大小関係を比較した結果に応じて飽和画素近傍領域(つまりは閾値Δ)を適切に設定するための条件である。本実施例においては、閾値γを輝度および彩度を用いて、
【0085】
【数11】
【0086】
として計算する。ただし、L1は注目画素における輝度、C1は注目画素における彩度、γ0,γL,γCは係数である。
【0087】
なお、上述した閾値γの算出方法は例に過ぎず、他の算出方法を用いてもよい。例えば、輝度および彩度はそれらの少なくとも一方を用いればよく、例えば以下のように輝度のみを用いて、
【0088】
【数12】
【0089】
と算出してもよい。
【0090】
本実施例は、閾値Δを輝度と強度傾斜に応じて変化させて、適切な閾値Δを設定する。
【0091】
まず、距離算出ステップS251では、GとRの双方の色プレーンに対して、強度が一定の閾値以上となる飽和画素領域を抽出(検出)する。そして、飽和画素近傍領域に含まれる各注目画素と飽和画素領域におけるその注目画素に対する最近飽和画素との間の距離dG,dRを画素ピッチ単位で算出する。次に、距離dG,dRが最も初期閾値Δ0に近い注目画素を検出し、これを参照画素とする。参照画素は、飽和画素近傍領域のうち最も外側の境界上に位置する境界画素に相当する。
【0092】
次に、色滲み条件算出ステップS252のうち輝度に関する条件算出ステップS252aでは、距離算出ステップS251で抽出された参照画素の輝度Lが、
L>ε
なる条件を満足するか否かを判定する。つまり、その参照画素が、色滲み画素として有するはずの輝度を有しているか否かを判定する。この条件を満足しない場合には、
Δ=Δ0
として、飽和画素近傍領域(つまりは、閾値Δ)を変化させない。また、該条件を満足する参照画素(群)を、画像強度傾斜算出ステップS253に渡す。
【0093】
画像強度傾斜算出ステップS253では、条件算出ステップS252aでの条件を満足した参照画素(群)に対して強度傾斜を算出する。強度傾斜を求める色プレーンは、閾値Δを算出した色プレーンと同じであることが望ましい。本実施例では、Rプレーン上の強度傾斜∇Rを算出し、強度傾斜に関する色滲み条件を、
∇R>γ
とする。この条件を満足した場合には、条件算出ステップS252bに進み、該条件を満たさない場合には条件算出ステップS252cに進む。
条件算出ステップS252bでは、図10にハッチングした領域として示すように、飽和画素から離れる方向に(つまりは飽和画素近傍領域の外側に向かって)距離(Δ0−1)内に含まれる領域を外側参照領域とする。そして、この外側参照領域における画素ごとの強度傾斜を算出し、強度傾斜∇Rが強度傾斜に関する色滲み条件である、
∇R>γ
を満足する画素を検出する。参照画素から外側参照領域内の複数の画素のうち途中の画素まで連続して上記色滲み条件を満足する場合には、該色滲み条件を満足しなくなった画素の最近飽和画素からの距離dmaxを用いて、閾値Δを、
Δ=dmax−1
と変更する。つまり、ΔをΔ0から(dmax−1)に増加させる。
【0094】
一方、条件算出ステップS252cでは、図11にハッチングした領域として示すように、飽和画素に近づく方向に(つまりは飽和画素近傍領域の内側に向かって)距離(Δ0−1)内に含まれる領域を内側参照領域とする。そして、この内側参照領域における画素ごとの強度傾斜を算出し、強度傾斜∇Rが強度傾斜に関する色滲み条件である、
∇R>γ
を満足する画素を検出する。参照画素から内側参照領域内の複数の画素のうち途中の画素ではじめて上記色滲み条件を満足した場合には、該色滲み条件を満足した画素の最近飽和画素からの距離dminを用いて、閾値Δを、
Δ=dmin
と変更する。つまり、ΔをΔ0からdminに減少させる。
【0095】
このように条件算出ステップS252b,S252cにおいて、飽和画素から距離の閾値Δ内(飽和輝度近傍領域内)にある画素(群)を色滲み画素(群)として判定し、これを示した色滲み画素マップを色滲み強度推定部160に送る。なお、本実施例においては外側参照領域および内側参照領域を決定する所定幅(Δ0−1)を同じとして説明したが、互いに異ならせてもよい。
【0096】
色滲み強度推定部160は、本実施例は、色滲み推定量の計算方法において実施例1と異なる。ここでは、Rが飽和しているかいないかによって異なるが、双方の場合に備えて2種類の色滲み推定量E1,E2を計算する。例えば、
【0097】
【数13】
【0098】
と算出する。ただし、k0,k1,k2は定数であり、結像光学系やイメージセンサの画素ピッチによって異なるため、入力画像から滲み量を近似するのに好適な値に設定するのが望ましい。図12には、高輝度被写体に対するR,Gプレーンの典型的なプロファイルと、各色プレーン上での飽和画素からの距離dG,dRとの関係を示す。図12において横軸は画像上の断面であり、縦軸はR,Gプレーンでの強度である。色滲み推定量E1,E2は、図8および図12の領域(1)と領域(2)の境界線上ではE0=(k1dG+k0)と一致するためマッハバンドを生じない。
【0099】
このようにして算出した推定量Eは、色滲み除去部170に送られる。色滲み除去部170は、前述したように推定量Eを用いて色滲み低減処理を行い、色滲みが良好に補正された出力画像を生成する。
【0100】
この後、実施例1で説明した領域判定ステップS162と同様にして、色滲み推定量EがE1,E2から算出され、色滲み除去部S170に送られる。
【0101】
本実施例によれば、各飽和画素の特徴に応じて閾値Δを変化させることで、色滲み低減処理を行う飽和画素近傍領域(色滲み領域)が正確に特定され、色滲みが良好に補正された出力画像を生成することができる。
【実施例3】
【0102】
次に、本発明の実施例3である画像処理装置について説明する。実施例3は、実施例1に対して、色滲み領域検出部150の処理が異なる。他の構成および処理については実施例1と同じであるので、本実施例では、実施例1と異なる点を中心として説明する。
【0103】
本実施例では、飽和画素の周辺の複数の画素をクラスターとして扱い、クラスターごと色滲み判定を行う。言い換えれば、実施例1で説明した色滲み候補画素を、その判定対象領域である色滲み候補クラスターごとに抽出する。
【0104】
図13のフローチャートには、本実施例における色滲み領域検出部150の処理を示す。色滲み領域検出部150の処理は、距離算出ステップS351と、色滲み条件算出ステップS352と、画像強度傾斜算出ステップS353とにより構成される。色滲み領域検出部150は、クラスター判定手段として機能する。
【0105】
距離算出ステップS351では、G,B双方の色プレーンに対して、強度が一定の閾値以上となる飽和画素を抽出し、各飽和画素の任意の色プレーン上における飽和半径を算出する。例えば、本実施例においては、Bプレーン上における飽和半径dBを算出する。飽和半径に関しては、飽和画素からの方向によって異なるため、本実施例においては、最大飽和半径dBmaxを飽和半径dBとして用いる。ただし、飽和半径dBはこれに限られず、複数の方向における飽和半径の平均値を飽和半径dBとして用いてもよい。
【0106】
色滲み条件算出ステップS352では、強度傾斜に関する色滲み条件と飽和画素からの距離に関する色滲み条件と輝度に関する色滲み条件を予め設定する。距離算出ステップS351で算出された飽和半径dBと輝度および彩度とを用いて各条件に対する閾値を算出する。距離に関する色滲み条件で用いる閾値Dは、飽和画素からの距離範囲を特定する閾値であり、色滲みクラスター(色滲み候補クラスター)とする範囲を各飽和画素に対して決定する。例えば、
【0107】
【数14】
【0108】
と設定する。ただし、φ0,φ1は係数である。各飽和画素に対して算出された距離の閾値Dを用いて、飽和画素からの距離rが、
D>r
となる画素を該飽和画素の色滲み候補クラスターとする。
【0109】
次に、輝度に対する閾値κと彩度に対する閾値λとを用いて、
L1<κ
C1<λ
なる条件を満足する画素が、色滲み候補クラスター内に存在するか否かを判定する。閾値κ,λは、使用する撮像系での典型的な色滲みプロファイルから設定するのが望ましい。なお、色滲みクラスターの外縁部(その外側との境界部)のみを参照することにより、計算量を低減するようにしてもよい。上記条件を満足する画素が色滲み候補クラスター内に存在しない場合には、その色滲み候補クラスターは色滲みクラスターではないと判定する。
【0110】
一方、上記条件を満足する画素が色滲み候補クラスター内に存在する場合には、その色滲み候補クラスター内の各注目画素に対して、該注目画素の輝度および彩度から強度傾斜に関する色滲み条件に用いる閾値(第3の閾値)ηを算出する。例えば、
【0111】
【数15】
【0112】
として算出する。ただし、L1は注目画素における輝度、C1は注目画素における彩度、η0,ηL,ηCは係数である。
【0113】
なお、上述した閾値ηの算出方法は例に過ぎず、他の算出方法を用いてもよい。例えば、輝度および彩度はそれらの少なくとも一方を用いればよく、例えば以下のように輝度のみを用いて、
【0114】
【数16】
【0115】
と算出してもよい。また、上述した2つの条件L1<κ,C1<λについても少なくとも一方を用いればよい。
【0116】
画像強度傾斜算出ステップS353では、色滲み条件算出ステップS352で算出された色滲み候補クラスターにおいて、GプレーンおよびBプレーンでの強度傾斜を算出する。そして、算出した強度傾斜dLが、強度傾斜に関する色滲み条件である、
dL>η
を満足する場合に、その色滲み候補クラスターを最終的な色滲みクラスターと判定する。
【0117】
このようにして抽出された色滲みクラスターは、色滲み強度推定部160に送られ、実施例1と同様の処理が行われる。
【0118】
本実施例によれば、飽和画素を含む被写体色を色滲み低減処理の対象領域から除外できる。また、飽和画素の周囲を探索しているので、誤処理を低減できるとともに、複数の飽和画素が互いに近傍に存在する場合にも、良好に色滲みが低減された画像を生成することができる。
【0119】
上記各実施例では、本発明の画像処理方法を使用する(または画像処理装置を搭載した)撮像装置について説明したが、本発明の画像処理方法は、パーソナルコンピュータにインストールされる画像処理プログラムによっても実施することができる。この場合、パーソナルコンピュータが本発明の画像処理装置に相当する。パーソナルコンピュータは、撮像装置により生成された画像回復処理前の画像(入力画像)を取り込み(取得し)、画像処理プログラムによって色滲み低減処理を行って、その結果得られた画像を出力する。
【0120】
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
【産業上の利用可能性】
【0121】
良好に色滲みが低減されたカラー画像を出力可能な画像処理装置や撮像装置を提供できる。
【符号の説明】
【0122】
100 撮像装置
110 結像光学系
120 イメージセンサ
150 色滲み領域検出部
160 色滲み強度推定部
170 色滲み除去部
【特許請求の範囲】
【請求項1】
撮像系により生成されたカラー画像における画素ごとの強度傾斜を算出する傾斜算出手段と、
前記強度傾斜が第1の閾値を用いた色滲み条件を満足する前記画素を色滲み候補画素と判定する第1の色滲み判定手段と、
前記カラー画像における飽和画素を検出し、該飽和画素と前記色滲み候補画素との間の距離が第2の閾値以下である場合に、該色滲み候補画素を色滲み画素と判定する第2の色滲み判定手段とを有し、
前記第1および第2の色滲み判定手段はそれぞれ、前記第1および第2の閾値を、前記色滲み候補画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする画像処理装置。
【請求項2】
前記第1の閾値を用いた色滲み条件は、前記カラー画像を構成する複数の色プレーンのうち基準プレーンと色滲み判定の対象プレーンにおける強度傾斜の比と前記第1の閾値とを比較する条件であることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記色滲み候補画素の判定対象領域である色滲み候補クラスターを、前記色滲み候補クラスターで算出した前記輝度傾斜が第3の閾値を用いた色滲み条件を満足することにより判定するクラスター判定手段を有し、
該クラスター判定手段は、前記第3の閾値を、前記色滲み候補クラスター内の画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
撮像系により生成されたカラー画像において飽和画素を検出し、該飽和画素からの距離が第1の閾値以下である飽和画素近傍領域に含まれる画素を色滲み画素と判定する色滲み判定手段と、
前記飽和画素近傍領域のうち最も外側の境界画素から該飽和画素近傍領域の内側および外側に所定幅を有する境界近傍領域における画素ごとの強度傾斜を算出する傾斜算出手段とを有し、
前記色滲み判定手段は、前記強度傾斜と第2の閾値とを比較した結果に応じて前記第1の閾値を変更し、かつ前記第2の閾値を、前記境界近傍領域に含まれる画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする画像処理装置。
【請求項5】
前記色滲み画素における色滲み強度の推定量を算出し、該色滲み画素に対して前記推定量を用いた色滲み低減処理を行う処理手段を有することを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
【請求項6】
カラー画像を生成する撮像系と、
請求項1から5のいずれか一項に記載の画像処理装置とを有することを特徴とする撮像装置。
【請求項7】
撮像系により生成されたカラー画像における画素ごとの強度傾斜を算出するステップと、
前記強度傾斜が第1の閾値を用いた色滲み条件を満足する前記画素を色滲み候補画素と判定するステップと、
前記カラー画像における飽和画素を検出し、該飽和画素と前記色滲み候補画素との間の距離が第2の閾値以下である場合に、該色滲み候補画素を色滲み画素と判定するステップとを有し、
前記第1および第2の閾値を、前記色滲み候補画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする画像処理方法。
【請求項8】
撮像系により生成されたカラー画像において飽和画素を検出し、該飽和画素からの距離が第1の閾値以下である飽和画素近傍領域に含まれる画素を色滲み画素と判定するステップと、
前記飽和画素近傍領域のうち最も外側の境界画素から該飽和画素近傍領域の内側および外側に所定幅を有する境界近傍領域における画素ごとの強度傾斜を算出するステップとを有し、
前記強度傾斜と第2の閾値とを比較した結果に応じて前記第1の閾値を変更し、かつ前記第2の閾値を、前記境界近傍領域に含まれる画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする画像処理方法。
【請求項9】
コンピュータに、
撮像系により生成されたカラー画像における画素ごとの強度傾斜を算出するステップと、
前記強度傾斜が第1の閾値を用いた色滲み条件を満足する前記画素を色滲み候補画素と判定するステップと、
前記カラー画像における飽和画素を検出し、該飽和画素と前記色滲み候補画素との間の距離が第2の閾値以下である場合に、該色滲み候補画素を色滲み画素と判定するステップとを含む画像処理を実行させるが画像処理プログラムであって、
前記第1および第2の閾値を、前記色滲み候補画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする画像処理プログラム。
【請求項10】
コンピュータに、
撮像系により生成されたカラー画像において飽和画素を検出し、該飽和画素からの距離が第1の閾値以下である飽和画素近傍領域に含まれる画素を色滲み画素と判定するステップと、
前記飽和画素近傍領域のうち最も外側の境界画素から該飽和画素近傍領域の内側および外側に所定幅を有する境界近傍領域における画素ごとの強度傾斜を算出するステップとを含む画像処理を実行させる画像処理プログラムであって、
前記強度傾斜と第2の閾値とを比較した結果に応じて前記第1の閾値を変更し、かつ前記第2の閾値を、前記境界近傍領域に含まれる画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする画像処理プログラム。
【請求項1】
撮像系により生成されたカラー画像における画素ごとの強度傾斜を算出する傾斜算出手段と、
前記強度傾斜が第1の閾値を用いた色滲み条件を満足する前記画素を色滲み候補画素と判定する第1の色滲み判定手段と、
前記カラー画像における飽和画素を検出し、該飽和画素と前記色滲み候補画素との間の距離が第2の閾値以下である場合に、該色滲み候補画素を色滲み画素と判定する第2の色滲み判定手段とを有し、
前記第1および第2の色滲み判定手段はそれぞれ、前記第1および第2の閾値を、前記色滲み候補画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする画像処理装置。
【請求項2】
前記第1の閾値を用いた色滲み条件は、前記カラー画像を構成する複数の色プレーンのうち基準プレーンと色滲み判定の対象プレーンにおける強度傾斜の比と前記第1の閾値とを比較する条件であることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記色滲み候補画素の判定対象領域である色滲み候補クラスターを、前記色滲み候補クラスターで算出した前記輝度傾斜が第3の閾値を用いた色滲み条件を満足することにより判定するクラスター判定手段を有し、
該クラスター判定手段は、前記第3の閾値を、前記色滲み候補クラスター内の画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
撮像系により生成されたカラー画像において飽和画素を検出し、該飽和画素からの距離が第1の閾値以下である飽和画素近傍領域に含まれる画素を色滲み画素と判定する色滲み判定手段と、
前記飽和画素近傍領域のうち最も外側の境界画素から該飽和画素近傍領域の内側および外側に所定幅を有する境界近傍領域における画素ごとの強度傾斜を算出する傾斜算出手段とを有し、
前記色滲み判定手段は、前記強度傾斜と第2の閾値とを比較した結果に応じて前記第1の閾値を変更し、かつ前記第2の閾値を、前記境界近傍領域に含まれる画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする画像処理装置。
【請求項5】
前記色滲み画素における色滲み強度の推定量を算出し、該色滲み画素に対して前記推定量を用いた色滲み低減処理を行う処理手段を有することを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
【請求項6】
カラー画像を生成する撮像系と、
請求項1から5のいずれか一項に記載の画像処理装置とを有することを特徴とする撮像装置。
【請求項7】
撮像系により生成されたカラー画像における画素ごとの強度傾斜を算出するステップと、
前記強度傾斜が第1の閾値を用いた色滲み条件を満足する前記画素を色滲み候補画素と判定するステップと、
前記カラー画像における飽和画素を検出し、該飽和画素と前記色滲み候補画素との間の距離が第2の閾値以下である場合に、該色滲み候補画素を色滲み画素と判定するステップとを有し、
前記第1および第2の閾値を、前記色滲み候補画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする画像処理方法。
【請求項8】
撮像系により生成されたカラー画像において飽和画素を検出し、該飽和画素からの距離が第1の閾値以下である飽和画素近傍領域に含まれる画素を色滲み画素と判定するステップと、
前記飽和画素近傍領域のうち最も外側の境界画素から該飽和画素近傍領域の内側および外側に所定幅を有する境界近傍領域における画素ごとの強度傾斜を算出するステップとを有し、
前記強度傾斜と第2の閾値とを比較した結果に応じて前記第1の閾値を変更し、かつ前記第2の閾値を、前記境界近傍領域に含まれる画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする画像処理方法。
【請求項9】
コンピュータに、
撮像系により生成されたカラー画像における画素ごとの強度傾斜を算出するステップと、
前記強度傾斜が第1の閾値を用いた色滲み条件を満足する前記画素を色滲み候補画素と判定するステップと、
前記カラー画像における飽和画素を検出し、該飽和画素と前記色滲み候補画素との間の距離が第2の閾値以下である場合に、該色滲み候補画素を色滲み画素と判定するステップとを含む画像処理を実行させるが画像処理プログラムであって、
前記第1および第2の閾値を、前記色滲み候補画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする画像処理プログラム。
【請求項10】
コンピュータに、
撮像系により生成されたカラー画像において飽和画素を検出し、該飽和画素からの距離が第1の閾値以下である飽和画素近傍領域に含まれる画素を色滲み画素と判定するステップと、
前記飽和画素近傍領域のうち最も外側の境界画素から該飽和画素近傍領域の内側および外側に所定幅を有する境界近傍領域における画素ごとの強度傾斜を算出するステップとを含む画像処理を実行させる画像処理プログラムであって、
前記強度傾斜と第2の閾値とを比較した結果に応じて前記第1の閾値を変更し、かつ前記第2の閾値を、前記境界近傍領域に含まれる画素の輝度および彩度のうち少なくとも一方に応じて変更することを特徴とする画像処理プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2013−26755(P2013−26755A)
【公開日】平成25年2月4日(2013.2.4)
【国際特許分類】
【出願番号】特願2011−158511(P2011−158511)
【出願日】平成23年7月20日(2011.7.20)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成25年2月4日(2013.2.4)
【国際特許分類】
【出願日】平成23年7月20日(2011.7.20)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]