画像処理装置
【課題】センサーノイズを含む画像を処理する場合に適した階調空間を提供する。
【解決手段】画像を構成する全ての画素位置において全色成分(RGB)の信号値を得るために、不足する色成分の信号値を補間する処理を以下のように線形階調空間からオフセット付き平方根階調空間に変換して行う。すなわち、線形階調信号xに対して撮像素子に設定されているISO感度に比例するオフセットεを加え、オフセット後の(x+ε)を1/2乗のガンマ空間へ変換する。したがって、誤差伝播則によってガンマ変換後の信号値に含まれる誤差は全階調にわたって均等になる。オフセット付き平方根階調空間を示す曲線23は、単なる平方根階調空間を示す曲線と比べると線形入力信号値が小さい領域(たとえば、0<x<0.1)において傾きが急峻とならない。
【解決手段】画像を構成する全ての画素位置において全色成分(RGB)の信号値を得るために、不足する色成分の信号値を補間する処理を以下のように線形階調空間からオフセット付き平方根階調空間に変換して行う。すなわち、線形階調信号xに対して撮像素子に設定されているISO感度に比例するオフセットεを加え、オフセット後の(x+ε)を1/2乗のガンマ空間へ変換する。したがって、誤差伝播則によってガンマ変換後の信号値に含まれる誤差は全階調にわたって均等になる。オフセット付き平方根階調空間を示す曲線23は、単なる平方根階調空間を示す曲線と比べると線形入力信号値が小さい領域(たとえば、0<x<0.1)において傾きが急峻とならない。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ノイズを含む画像、とくに、撮像素子のノイズを含む画像を処理する場合に適した階調空間を利用する画像処理技術に関する。
【背景技術】
【0002】
例えば、ベイア配列のような色配列を有するカラーフィルタを通して撮像され、その色成分がサブサンプリングされた画像を補間してカラー画像に復元する処理においては、補間処理を行うための階調空間がいくつか提案されている。特許文献1には、G色成分を線形階調で単純平均した後、R色、G色、B色の各色成分を対数階調空間へ変換し、この階調空間でR色成分およびB色成分をG色成分との差分をとることにより色差面で補間する技術が開示されている。また、特許文献2には、補間処理以降の圧縮処理、およびディスプレイ表示等の処理に合わせて、色成分信号をあらかじめΓ=2.4のガンマ空間(R1/
Γ,G1/Γ,B1/Γ)へ変換し、このガンマ空間で補間処理等の画像処理を一本化して行う
ことによって階調変換の繰り返しに伴う量子化誤差を抑える技術が開示されている。特許文献3には、色成分信号を平方根特性のガンマ空間に変換し、このガンマ空間で補間処理を行うことによって画像に含まれているショットノイズの影響を抑えて鮮明な画像を得る技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】米国特許第4642678号明細書
【特許文献2】米国特許第5172227号明細書
【特許文献3】特開2004−7164号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
上述した階調空間はいずれも画像に含まれるダークノイズによる影響を受けやすく、撮像素子で生じる暗電流ノイズに関連したノイズを多く含む画像に対して補間処理を行うと、これらのダークノイズを増幅してしまい、復元後の画質を損ねてしまうおそれがあった。とくに、ISO感度を高めて(たとえば、ISO1600相当以上)撮像された画像に対して補間処理を行う場合には問題となりやすい。画質劣化の例として、補間処理後の画像の赤地領域に黒点が発生することがあげられる。また、補間処理に限らず撮像素子を用いて取得した画像を処理するとき、一般にこれらセンサーノイズの影響を受ける。そこで本件は、センサーノイズを含む画像を処理する場合に適した階調空間を提供する。
【課題を解決するための手段】
【0005】
請求項1に記載の画像処理装置は、入力色空間における画像信号を画像処理空間における画像信号に変換し、変換後の画像信号を用いて所定の画像処理を行い、画像処理後の画像信号を出力色空間の画像信号に変換する画像処理装置は、前記入力色空間から画像処理空間への変換過程において、各画素が受光量に比例した信号で表された線形階調の画像信号の各々を、前記画像処理空間における非線形階調の画像信号に変換する第1の階調変換部と、前記第1の階調変換部による階調変換後の複数画素の画像信号を用いて、前記所定の画像処理を行う画像処理部と、前記画像処理部による画像処理後の画像信号を、前記出力色空間への変換過程において、線形階調の画像信号に変換する第2の階調変換部と、画像の撮像時に撮像素子に設定されていた撮像感度に応じて、前記非線形階調の特性を変化させるように、前記第1の階調変換部を制御する制御部と、を備えることを特徴とする。
請求項2に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記画像
処理空間は、ノイズが均等な均等ノイズ空間であることを特徴とする。
請求項3に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記画像処理部は、前記第1の階調変換部による階調変換後の複数画素の画像信号を用いて、第1の画像を第2の画像に変換する処理を行うことを特徴とする。
請求項4に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記入力色空間における画像信号は、各画素に少なくとも1つの色成分信号を有した複数種類の色成分信号からなり、それぞれが受光量に比例した信号で表される線形階調の画像信号であり、前記画像処理部は、前記第1の階調変換部による階調変換後の複数画素の画像信号を用いて、各画素に少なくとも1つの共通した色成分信号を生成する処理を行うことを特徴とする。
請求項5に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記制御部は、前記撮像感度が低いほど低輝度側の階調特性の曲率を大きくし、前記撮像感度が高いほど低輝度側の階調特性の曲率を小さくするように、前記第1の階調変換部を制御することを特徴とする。
請求項6に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記制御部は、前記撮像感度が低いほど、前記非線形階調特性が平方根階調特性に近づくように、前記第1の階調変換部を制御することを特徴とする。
請求項7に記載の画像処理装置は、請求項4に記載の画像処理装置において、前記画像処理部は、前記各画素に共通した色成分信号を、少なくとも2種類の色成分信号を用いて生成することを特徴とする。
請求項8に記載の画像処理装置は、請求項7に記載の画像処理装置において、前記画像処理部は、前記第1の階調変換部による階調変換後の複数画素の非線形色成分信号を用いて少なくとも2方向について類似度を算出し、各方向についての類似度間の差異を所定の閾値と比較することによって前記各方向についての類似性の強弱を判定し、この判定結果を用いて、前記各画素に共通した色成分信号を生成することを特徴とする。
請求項9に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記第1の階調変換部は、前記入力色空間における画像信号が前記線形階調とは異なる画像信号で表されている場合、一旦、線形階調の画像信号に変換する処理を行ってから、前記非線形階調の画像信号に変換することを特徴とする。
請求項10に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記画像処理部が行う所定の画像処理には、ノイズ除去処理およびエッジ強調処理の少なくとも1つが含まれることを特徴とする。
上記階調変換部は、階調変換手段と置き換えてもよい。
上記制御部は、制御手段と置き換えてもよい。
【発明の効果】
【0006】
本発明によれば、撮像素子に起因するノイズが含まれる画像であっても、当該ノイズの影響を受けにくい階調空間を利用して画像処理を行うことができる。
【図面の簡単な説明】
【0007】
【図1】ベイア配列を示す図である。
【図2】本発明による画像補間処理の流れを説明するフローチャートである。
【図3】プログラムの提供形態を説明する図である。
【図4】G色補間を行う場合の画素位置を説明する図である。
【図5】G色補間を行う場合の画素位置を説明する図である。
【図6】R色補間を行う場合の画素位置を説明する図である。
【図7】R色補間を行う場合の画素位置を説明する図である。
【図8】B色補間を行う場合の画素位置を説明する図である。
【図9】B色補間を行う場合の画素位置を説明する図である。
【図10】撮像素子の信号特性を説明する図である。
【図11】均等ノイズ空間を説明する模式図である。
【図12】各階調空間の入出力特性を示す図である。
【図13】各階調空間の入出力特性を示す図である。
【図14】第二の実施形態による画像処理の流れを説明するフローチャートである。
【図15】ハイパスフィルタ処理を説明する図である。
【図16】ローパスフィルタ処理を説明する図である。
【発明を実施するための形態】
【0008】
以下、本発明を実施するための最良の形態について説明する。
(第一の実施形態)
第一の実施形態では、R(赤)、G(緑)、B(青)がベイア配列されたカラーフィルタを通して撮像された画像に対して補間処理を行う画像処理を例にあげて説明する。この場合の画像の色はRGB表色系で示される。
【0009】
図1は、ベイア配列を示す図である。このようなカラーフィルタを備える撮像素子から出力される画像信号は、1画素当たりRGBのうちいずれか1つの色成分の情報を有する。すなわち、R色フィルタに対応する画素からはR色の情報が出力され、G色フィルタに対応する画素からはG色の情報が出力され、B色フィルタに対応する画素からはB色の情報が出力される。R色フィルタに対応する画素情報を例にとれば、R成分の情報だけでG成分、B成分の情報がない。このため、画像を構成する全ての画素位置においてRGB全色分の情報を得るためには、各画素位置において不足する色成分の情報を補間処理によって算出する必要がある。
【0010】
図2は、本発明による画像補間処理の流れを説明するフローチャートである。本実施形態では、図2による処理を行うプログラムを図3に示すコンピュータ装置100に実行させることにより、画像処理装置を提供する。プログラムをパーソナルコンピュータ100に取込む場合には、パーソナルコンピュータ100のデータストレージ装置にプログラムをローディングした上で当該プログラムを実行させることにより、画像処理装置として使用する。
【0011】
プログラムのローディングは、プログラムを格納したCD−ROMなどの記録媒体104をパーソナルコンピュータ100にセットして行ってもよいし、ネットワークなどの通信回線101を経由する方法でパーソナルコンピュータ100へローディングしてもよい。ネットワーク101を経由する場合は、ネットワーク101に接続されたサーバコンピュータ102のハードディスク装置103などにプログラムを格納しておく。このように、プログラムは記録媒体104や通信回線101を介する提供などの種々の形態のコンピュータプログラム製品として供給される。
【0012】
図2のステップS1において、コンピュータ装置100(図3)のCPUは、線形階調空間で表された画像信号(ベイア信号)を入力してステップS2へ進む。具体的には、補間処理の対象とする画像データをワークエリアに読み出す。このとき、各色成分がガンマ補正された階調空間で表されている場合には、ガンマ補正前の線形階調空間における信号値へ戻す。
【0013】
ステップS2において、CPUは、画像を構成する全画素に対応する画像信号に対してそれぞれオフセット処理を行ってステップS3へ進む。具体的には、次式(1)で示すように、画素位置[i,j]で示される画素に対応する信号値X[i,j]にオフセットΛを加え、オフセット処理後の信号値X'[i,j]を得る。
X'[i,j]=X[i,j]+Λ (1)
ただし、オフセットΛは撮影時に撮像素子に対して設定されていた撮像感度(以後ISO
感度と呼ぶ)に応じて決定する。たとえば、ISO6400相当の場合にはΛ=0.05Xmaxに、ISO1600相当の場合にはΛ=0.02Xmaxに、ISO200相当以下ではΛ=0にする。Xmaxは、入力される画像信号Xの階調数の最大値(すなわち、フルス
ケール値)である。すなわち、線形入力階調信号Xの範囲は0≦X≦Xmaxである。本実
施形態では、R成分、G成分、およびB成分に対して共通のオフセットΛを加える。
【0014】
ステップS3において、CPUは、オフセット処理後の信号値X'[i,j]に対して次式(2)による平方根階調空間へのガンマ補正を行ってステップS4へ進む。ガンマ補正後の平方根階調空間は、補間処理用の空間である。
Y=Ymax×√(X'/Xmax) (2)
ただし、階調変換後の信号Yの範囲は0≦Y≦Ymaxである。
【0015】
ステップS4において、CPUは以下のように補間処理を行う。ここで、R成分の色情報を有する画素をR画素、B成分の色情報を有する画素をB画素、G成分の色情報を有する画素をG画素と呼び、補間処理用の空間における画素位置[i,j]で示される画素に対応
するR成分の信号値をR[i,j]、G成分の信号値をG[i,j]、B成分の信号値をB[i,j]で
表すことにする。
【0016】
(方向判定)
CPUは、画素位置[i,j]で示されるG画素でない画素(R画素もしくはB画素)に関
して、縦方向の類似度CvN[i,j]、および横方向の類似度ChN[i,j]をそれぞれ次式(3)、(4)により算出する。
【0017】
【数1】
ただし、Z[i,j]は画素位置[i,j]で示されるR成分またはB成分の信号値である。
【0018】
上式(3)、(4)における第1項の絶対値は、G色成分同士で比較して大まかな方向性を検出するものである。上式(3)、(4)の第2項および第3項の絶対値は、第1項では検出できない細かな類似性を検出するものである。CPUは、上式(3)、(4)により得られた縦方向の類似度および横方向の類似度を各座標ごとに算出し、対象とする座標[i,j]に
おける縦横の類似度に基づいて次式(5)により類似性の方向を判定する。
【0019】
【数2】
ただし、Thは信号値に含まれるノイズによる誤判定を避けるために用いられる判定閾値であり、上記ISO感度に応じて変化させる。HV[i,j]は画素位置[i,j]に関する類似性の方向を示し、HV[i,j]=0の場合は縦横両方向類似、HV[i,j]=1の場合は縦方向類似、HV[i,j]=-1の場合は横方向類似である。
【0020】
(G補間)
CPUは、判定した類似方向に基づき、R成分もしくはB成分の凸凹情報を利用してG成分の補間を行う。G色補間は、たとえば図4で示される中央のR画素の位置[i,j]に
対して、縦方向類似の場合は次式(6)および(9)により算出し、横方向類似の場合は次式(7)および(10)により算出する。B画素の位置に対してG色補間を行う場合の画素
位置は図5によって示される。
【0021】
【数3】
ただし、Z[i,j]は画素位置[i,j]で示されるR成分またはB成分の信号値である。
【0022】
上式(9)における第1項は、画素位置[i,j]に対して縦に並ぶG成分の信号値G[i,j-1]およびG[i,j+1]から算出される平均値を表す。上式(9)における第2項は、縦に
並ぶR成分の信号値R[i,j]、R[i,j-2]およびR[i,j+2]から算出される変化量を
表す。G成分の信号値の平均値にR成分の信号値の変化量を加えることにより、G成分の補間値G[i,j]が得られる。このような補間をG成分の内分点以外も予測可能なことか
ら、便宜的に外挿補間と呼ぶことにする。
【0023】
上式(10)は、上述した縦方向の外挿補間の場合と同様に、画素位置[i,j]に対して
横に並ぶ画素の信号値を用いて横方向に外挿補間を行うものである。
【0024】
CPUは、類似の方向が縦横両方向と分類されている場合は、上式(9)および(10)によりG色補間値をそれぞれ算出し、算出された2つのG色補間値の平均をとってG色補間値とする。
【0025】
(R補間)
R色補間は、たとえば図6で示されるR画素の位置[i,j]以外の画素位置[i+1,j]、[i,j+1]、[i+1,j+1]に対して、それぞれ次式(11)〜(13)により算出される。このとき、上述したG補間により得られた全ての画素位置に対応するG成分信号値(図7)の凸凹情報が利用される。
【0026】
【数4】
【0027】
上式(11)〜(13)における第1項は、R成分補間の対象とする座標に隣接するR成分信号値から算出される平均値を表し、上式(11)〜(13)における第2項は、R成分補間の対象とする座標およびこの座標に隣接するG成分信号値から算出される変化量を表す。すなわち、G補間で行われた外挿補間と同様に、R成分信号値の平均値にG成分の信号値の変化量を加えてR成分の補間値を得る。これは、R位置で色差Cr=R−Gを生成し、この色差面内で平均補間する方式と等価である。
【0028】
(B補間)
B成分補間についてもR成分と同様に補間処理を行う。たとえば図8で示されるB画素の位置[i,j]以外の画素位置[i+1,j]、[i,j+1]、[i+1,j+1]に対して、それぞれ次式(14)〜(16)により算出される。このとき、上述したG補間により得られた全ての画
素位置に対応するG成分信号値(図9)の凸凹情報が利用される。
【0029】
【数5】
【0030】
上式(14)〜(16)によれば、B成分信号値の平均値にG成分の信号値の変化量を加えてB成分の補間値を得る。これは、B位置で色差Cb=B−Gを生成し、この色差面内で平均補間する方式と等価である。R成分およびB成分は、G成分に比べてサンプル周波数が低いので、色差R−G、色差B−Gを利用してG成分信号値が有する高周波数成分を反映させる。よって、このようなクロマ成分に対する補間を便宜的に色差補間と呼ぶことにする。
【0031】
以上説明した補間処理により、全画素位置に対応したG成分、R成分、およびB成分の3色分の信号値を有する画像が復元される。CPUは、補間処理を終了するとステップS5へ進む。
【0032】
ステップS5において、CPUは、画像復元後の信号値Y=R,G,Bに対して次式(17)による線形階調空間への逆ガンマ補正を行ってステップS6へ進む。
X'=Xmax×(Y/Ymax)2 (17)
ただし、X'=Rout',Gout',Bout'を表す。
【0033】
ステップS6において、CPUは、全画素に対応する画像信号に対してそれぞれ逆オフセット処理を行ってステップS7へ進む。具体的には、次式(18)で示すように、画素位置[i,j]で示される画素に対応する信号値X'[i,j]からオフセットΛを減じ、逆オフセ
ット処理後の信号値X[i,j]を得る。
X[i,j]=X'[i,j]−Λ (18)
ただし、X=Rout,Gout,Boutを表す。
【0034】
ステップS7において、CPUは、復元後の画像、すなわち、線形階調空間で表された画像信号(RGB信号)を出力して図2による処理を終了する。CPUは、このRGB信号に対して最終的なガンマ補正(たとえば、使用する表示モニタに適した補正)や色調整(ユーザーにより指示された調整やデバイスインディペンデントな色空間に変換するための調整)などを必要に応じて行う。
【0035】
(オフセット付き平方根変換による均等ノイズ空間)
上述した補間処理用の空間について、さらに詳細に説明する。一般に、撮像素子から出力される画像信号には種々のノイズが含まれている。ノイズはランダムノイズと固定パターンノイズとに大別され、ランダムノイズはさらに、ショットノイズとダークノイズとに分類される。
【0036】
固定パターンノイズは、撮像素子の製造プロセスにおいて発生する開口ムラなどに起因する素子固有のノイズである。ショットノイズおよびダークノイズは、撮像素子の画素を構成するフォトダイオードなどの光電変換素子の特性に起因するノイズである。ショットノイズはフォトンの揺らぎによって生じするノイズであり、入射光量の平方根に比例して増加する。ダークノイズは暗電流ノイズを含み、入射光量に無関係に生じるとともに、アナログゲインに比例して増加する。アナログゲインは、ISO感度を決定するパラメータ
である。
【0037】
図10は、撮像素子の信号特性を説明する図である。両対数スケールで表された図10において、横軸は撮像面照度を、縦軸は信号の電子数をそれぞれ表す。直線11は光信号を表し、入射光量に比例して光信号(電子数)が増加することを示している。直線12は光ショットノイズを表し、入射光量の1/2乗に比例してノイズ(電子数)が増加することを示している。直線13はダークノイズを表し、入射光量にかかわらずノイズ(電子数)が存在することを示している。
【0038】
階調変換時に影響を及ぼすダークノイズ、ショットノイズに着目すると、トータルノイズδxは次式(19)で表される。
δx=√(Ns2+Nd2) (19)
ただし、Nsはショットノイズ、Ndはダークノイズである。xはA/D変換直後の信号レベルであり、既にアナログゲインによって増幅されている。また、xは便宜上入力される信号の階調数の最大値(すなわち、フルスケール値)で除して規格化されているものとする。
【0039】
ショットノイズおよびダークノイズは、それぞれ次式(20)および(21)のようにモデル化できる。
Ns(g)=ms×√(g×x) (20)
Nd(g)=md×g+nd (21)
ただし、mおよびnはノイズモデルのパラメータ、gはアナログゲイン(すなわち、撮像素子に対して設定されているISO感度)である。
【0040】
上式(20)および(21)によるノイズモデルを式(19)へ代入し、パラメータを簡略な形式に再定義すると次式(22)が得られる。
δx=2α(g)×√(x+β(g)) (22)
【0041】
一方、上述したオフセット処理(ステップS2)後の平方根ガンマ処理(ステップS3)によって変換された補間処理用の空間(オフセット付き平方根階調空間と呼ぶ)は、次式(23)で表される。
y=√(x+ε) (23)
ただし、x=X/Xmax、y=Y/Ymax、εはオフセットΛに対応する(ε=Λ/Xmax
)。
【0042】
式(23)の補間用階調空間におけるノイズδyは、誤差伝播則を用いると次式(24)で表される。
δy=√((dy/dx)2×δx2) (24)
式(24)に上式(22)および(23)を代入するとノイズδyは次式(25)のように求まる。
δy=α(g)×√((x+β(g))/(x+ε)) (25)
【0043】
上式(25)は、ε=β(g)が成立する場合にノイズδyが線形入力階調信号の値xによらず一定値α(g)となることを示す。つまり、オフセット付き平方根階調空間は、ε=β(g)が成立する場合に均等ノイズ空間になる。本発明では、オフセット量ε(ステップS2のΛ)をISO感度に応じて変化させることにより、ε=β(g)を成立させる。この成立条件の例が、上述したΛ=0.05Xmax(ISO6400相当)、Λ=0.02Xmax(ISO1600相当)である。なお、均等ノイズα(g)はISO感度に応じて変化する(ここでは増加)ため、上述した判定閾値Thについて、Th∝α(g)の関係を有するように変化させる。
【0044】
図11は、均等ノイズ空間を説明する模式図である。図11において、横軸は線形階調信号の入力値xを、縦軸は階調変換後の出力値yを示す。曲線23によって表される出力値yには誤差δyが重畳し、この誤差δyは入力値xの値によらず常に一定値α(g)である。つまり、均等ノイズ空間ではノイズの揺らぎ幅が画像の明るさ(入力値の大きさ)によらず常に一定になる。
【0045】
(平方根階調空間との比較)
図12は、線形階調空間、平方根階調空間、およびオフセット付き平方根階調空間におけるそれぞれの入出力特性を示す図である。図12において、横軸は線形階調信号入力値xを、縦軸は階調変換後の出力値yをそれぞれ表す。直線21は線形変換時の入出力特性を、曲線22は平方根空間への入出力特性を、曲線23はオフセット付き平方根空間への入出力特性を、それぞれ示す。曲線22によれば、ダークノイズが支配的となる線形入力値が小さい領域(たとえば、0<x<0.1)、すなわち、低輝度領域において傾きが急峻になる。このため、入力値にノイズによる揺らぎが生じると、入力側で生じた揺らぎより大きく増幅された揺らぎが出力される。
【0046】
平方根階調空間で発生する揺らぎの増幅によって生じる画質劣化について説明する。R成分補間を例にとれば、G補間により得られたG成分信号値の凸凹情報を利用してR成分を補間するので、補間されたR成分信号値はG成分信号値に含まれるノイズ揺らぎの影響を受ける。補間されたR成分信号値に含まれるノイズδRinterpolatedは、誤差伝播則を用いると次式(26)で表される。
【0047】
【数6】
ただし、各誤差項の前につく偏微分係数は1程度の値なので省略している。
【0048】
赤地の画像の場合、R画素で得られる信号値は大きく、補間されるG成分信号値は小さい。上述したように、平方根階調空間(曲線22)では暗い(線形入力値が小さい)ところでノイズが増幅されるので、大きなR成分の信号値に重畳するノイズδRBayerに比べ
て小さなG成分信号値に重畳するノイズδGinterpolatedは非常に大きな値になる。この結果、補間されるR成分信号値のノイズδRinterpolatedがノイズδGinterpolatedによって大きく振られた場合には当該R成分信号値が0付近まで小さく落ち込むので、この信号値は赤地の中の黒点として表現されてしまう。このように、単なる平方根階調空間で補間処理を行うと、R、G、Bそれぞれの明るさに依存してδRBayerとδGinterpolated
とが振れてしまう。
【0049】
これに対して、オフセット付き平方根階調空間(曲線23)では、ダークノイズが支配的となる領域(たとえば、0<x<0.1)でも傾きが急峻にならない。したがって、赤地の画像の場合に小さなG成分信号値に重畳するノイズδGinterpolatedが大きな値にならないため、補間されたR成分信号値に含まれるノイズδRinterpolatedが振られることがなくなり、赤地の中に黒点が生じることがなくなる。
【0050】
以上説明した第一の実施形態によれば、次の作用効果が得られる。
(1)画像を構成する全ての画素位置において全色成分(上記の例ではRGB)の信号値を得るために、不足する色成分の信号値を補間する処理を以下のように線形階調空間からオフセット付き平方根階調空間に変換して行う。すなわち、線形階調信号xに対して撮像素子に設定されているISO感度の関数として表されるオフセットε(ε=β(ISO感
度))を加え、オフセット後の(x+ε)を1/2乗のガンマ空間へ変換する。したがって
、誤差伝播則によってガンマ変換後の信号値に含まれる誤差は、オフセットεを付加してからガンマ補正するので全階調にわたって均等になる。全階調にわたって均等化されたノイズの揺らぎ幅をISO感度毎のノイズプロファイルとして1つの代表値で表し、この代表値に応じて方向判定閾値Th(Th∝(ISO感度))を定める結果、補間処理時の方向判
定精度が高まると同時に、補間後(画像復元後)の画像の色鮮明性が向上するという、平方根特性が有する高画質な画像復元の性質をも継承できる。
【0051】
(2)上記(1)に加えて、オフセット付き平方根階調空間を示す曲線23は、単なる平方根階調空間を示す曲線22と比べると線形入力信号値が小さい領域(たとえば、0<x<0.1)において傾きが急峻とならない。この結果、線形入力値に生じたノイズより大きく増幅されたノイズが出力され、増幅されたノイズで画像復元後の画質が劣化するという平方根階調空間で補間処理を行う場合に生じる問題を解消できる。とくに、ダークノイズが多く含まれる状態(撮像素子の感度をISO1600相当〜6400相当に高めた場合や、撮像素子を構成する光電変換素子の暗電流が大きい場合)において顕著な効果が得られる。
【0052】
(3)上記(1)および(2)により、線形階調空間で生じやすい暗部との色境界での滲みが無く、鮮明で、かつ平方根階調空間より曲がり(曲率)が強いガンマ空間や対数空間で生じやすい色境界での黒筋・黒縁の発生がない高画質な復元画像が得られる。
【0053】
上述した説明では、ベイア配列のカラーフィルタを例に説明したが、デルタ配列をはじめとする他のフィルタ配列の場合にも適用できる。
【0054】
上記の説明で行った補間処理(画像復元)は一例であり、他の補間方式による処理を行ってもよい。たとえば、米国特許出願公開第2002/0001409号明細書に記載されている多色外挿補間、国際公開WO02/071761号パンフレットに記載のY方式補間、米国特許第5552827号明細書に記載の色比補間または色差・外挿補間、特開2003−348608号公報に記載のデルタ配列補間などである。
【0055】
以上の説明では、カラーフィルタを介して単板式撮像素子で撮像される画像について説明したが、2板式撮像素子で撮像される画像に対して適用してもよい。
【0056】
上述したオフセット値Λ=0.05Xmax(ISO6400相当)、Λ=0.02Xmax(ISO1600相当)は一例であり、設定されているアナログゲイン、周囲温度、実際のノイズの状態に応じて適宜変更してよい。
【0057】
上記の説明では、R成分、G成分、およびB成分に対して共通のオフセットΛを加えるようにした。この代わりに、各成分に対してそれぞれ異なるオフセットを加えるようにしてもよい。
【0058】
上述したオフセット処理(ステップS2)および平方根ガンマ補正処理(ステップS3)を補間用ガンマ補正処理として纏めて行うようにしてもよい。
【0059】
上述した逆ガンマ補正処理(ステップS5)および逆オフセット処理(ステップS6)を逆ガンマ補正処理として纏めて行うようにしてもよい。
【0060】
補間用ガンマ補正処理として纏めて行う場合、次式(27)で表される補間処理用空間へ変換してもよい。
【0061】
【数7】
ただし、x=X/Xmax、y=Y/Ymax、εはオフセットΛに対応する(ε=Λ/Xmax
)。
【0062】
式(27)の補間用階調空間におけるノイズδyは、誤差伝播則を用いると次式(28)で表される。上式(28)にε=β(g)を代入するとノイズδyは式(29)で表され、補間用階調空間はε=β(g)が成立する場合に均等ノイズ空間になる。
【0063】
図13は、線形階調空間、平方根階調空間、および式(27)による補間用階調空間におけるそれぞれの入出力特性を示す図である。図13において、横軸は線形階調信号入力値xを、縦軸は階調変換後の出力値yをそれぞれ表す。直線21および曲線22は図12と同一であり、それぞれ線形変換時の入出力特性、および平方根空間への入出力特性を示す。曲線31は補間用階調空間への入出力特性を示す。曲線31は、原点を通る点が図12の曲線23と異なっている。この様な補間用階調空間を用いて画像復元処理を行う場合にも、図12の曲線23が示すオフセット付き平方根階調空間を用いる場合と同様に、高画質な画像復元を行うことができる。
【0064】
オフセット付き平方根階調空間(曲線23)の代わりに、撮像素子に設定されているISO感度に応じて曲率が異なる曲線によって示される階調空間を用いてもよい。この場合には、ISO感度が低いほど曲率を大きく、ISO感度が高いほど曲率を小さくする。曲率を大きくするには平方根特性(曲線)に近づければよく、曲率を小さくするには、線形特性(直線)に近づければよい。このような階調空間は、たとえば、線形特性(直線)+平方根特性(曲線)で構成される入出力特性を有する空間、Γ=1.67のガンマ空間などによって与えられる。
【0065】
(第二の実施形態)
第一の実施形態では均等ノイズ空間(オフセット付き平方根階調空間(もしくは補間処理用空間))で補間処理を行って画像を復元する画像処理装置について説明した。均等ノイズ空間は、補間処理以外の他の処理を行う場合にも有効である。第二の実施形態では、均等ノイズ空間において画像の平坦部(変化がない部分)を検出し、検出した平坦部に対してぼかし処理を行う場合について説明する。
【0066】
図14は、第二の実施形態による画像処理の流れを説明するフローチャートである。図14のステップS11において、コンピュータ装置100(図3)のCPUは、線形階調空間で表された画像信号を入力してステップS2へ進む。画像信号は、たとえば、モノクロ単板画像、3板式カラー画像、および第一の実施形態による補間処理で得られた補間済みカラー画像などである。
【0067】
ステップS2およびステップS3は、図2における同一ステップ番号の処理と同一なので説明を省略する。
【0068】
ステップS14において、CPUは画像処理(この場合は平坦部検出処理およびぼかし処理)を行う。
(平坦部検出)
入力された画像信号がモノクロ画像の場合を例にすると、CPUは次式(30)および図15によって示される高周波数成分の抽出(ハイパスフィルタ処理)を行う。
【0069】
【数8】
ただし、注目画素は図15において中心に位置する画素とし、式(30)におけるΔはラプラシアン演算子を表す。
【0070】
CPUは、上式(30)により得られた高周波数成分に基づいて次式(31)により平坦度を判定する。
【0071】
【数9】
ただし、σThは信号に含まれるノイズによる誤判定を避けるために用いられる判定閾値であり、σTh∝α(g)の関係を有する。CPUは、上式(31)で1が得られる場合に画像が平坦であると判定し、0が得られる場合には平坦でないと判定する。
【0072】
(ぼかし処理)
CPUは、上式(31)により得られた判定結果に基づいて次式(32)および図16によって示されるローパスフィルタ処理を行う。この処理により、高周波数成分が除去されてぼかし効果が得られる。CPUは、ローパスフィルタ処理(ぼかし処理)を終了すると図14のステップS5へ進む。
【0073】
【数10】
【0074】
ステップS5およびステップS6は、図2における同一ステップ番号の処理と同一なので説明を省略する。
【0075】
ステップS17において、CPUは、補正処理後の画像、すなわち、線形階調空間で表された画像信号を出力して図14による処理を終了する。
【0076】
以上説明した第二の実施形態によれば、均等ノイズ空間を利用することにより全階調にわたってISO感度毎のノイズプロファイルを1つの代表値(α(g))で表すことができ、この代表値に応じて平坦部検出時の判定閾値σTh(σTh∝α(g))を定めることが
できるので、画像の平坦部検出を極めて簡略に、かつ正確に抽出することができる。このように抽出した平坦部に対してぼかし処理を行うので、画像の明るさによって特性の異なるノイズの影響を受けてぼかし処理を施したり施さなかったりすることがなくなり、全階調にわたって適切にぼかし処理を行うことができる。
【0077】
上式(32)によるLPF(ローパスフィルタ)処理の代わりにBPF(バンドパスフィルタ)処理を行うことにより、エッジ強調を行う構成にしてもよい。ただし、この場合は平坦部でない領域にかけるのが望ましい。
【0078】
(第三の実施形態)
第三の実施形態では、均等ノイズ空間においてカラー画像の輝度面、色差面のそれぞれにノイズ除去処理を行う場合について説明する。
【0079】
図14のステップS11において、CPUは、線形階調空間で表された補間済みカラー画像信号を入力してステップS2へ進む。ステップS2およびステップS3は、図2における同一ステップ番号の処理と同一なので説明を省略する。
【0080】
ステップS14において、CPUは画像処理(この場合は色空間変換(RGB→YCbCr)処理、ノイズ除去処理および色空間変換(YCbCr→RGB)処理)を行う。CPUは、たとえば、3×3マトリクス係数を用いた周知の色空間変換処理を施すことによって画像信号を色空間(RGB)から色空間(YCbCr)へ変換する。CPUはさらに、変換後の輝度信号Y、色差信号CbおよびCrのそれぞれに対して次式(33)によるノイズ除去処理(この例ではガウスぼかし処理)を行う。
【0081】
【数11】
ただし、xは2次元平面内の注目画素、x'はその近傍画素を示す。平滑化の加重係数を
閾値σTh(σTh∝α(g))に対する画素値差分|A(x)−A(x')|の変化比に応
じて決定するため、YCbCr各面がノイズ揺らぎの大きさに応じてぼかし処理される。すなわち、平坦部では信号はA(x')≒A(x)であってもA(x')=A(x)±σTh程度の揺らぎをもっており、この程度に揺らぐ似たような信号領域は平滑化対象領域となり、エッジ部などの構造が異なる領域は|A(x')−A(x)|≫σThとなるので平滑
化対象領域からはずれることになる。なお、平滑化の積分範囲は7×7画素や15×15画素といったように目的に応じて任意に設定してよい。CPUは、上記ガウスぼかし処理を終了すると色空間(YCbCr)から色空間(RGB)に変換した後、図14のステップS5へ進む。
【0082】
ステップS5およびステップS6は、図2における同一ステップ番号の処理と同一なので説明を省略する。
【0083】
ステップS17において、CPUは画像処理後の画像、すなわち、線形階調空間で表された画像信号を出力して図14による処理を終了する。
【0084】
以上説明した第三の実施形態によれば、均等ノイズ空間を利用することにより全階調に
わたってISO感度毎のノイズプロファイルを1つの代表値で表すことができ、この代表値に応じてガウスぼかし処理における信号差分に基づいた平滑化加重係数の割合を定めるので、画像の明るさによって特性の異なるノイズの影響を受けてガウスぼかし処理の程度が変化することがなくなり、ガウスぼかし処理が非常に行いやすくなる。また、全階調にわたって抜群のノイズ除去効果を得ることができる。
【0085】
上記色差面に対するノイズ除去処理は、色まだらや色モアレの抑制に効果が得られる。また、上記輝度面に対するノイズ除去処理は、ざらつきを抑える効果が得られる。
【0086】
上述した説明では、輝度および色差に対して共通の閾値σThを用いてノイズ除去処理を行うようにしたが、それぞれ異なるパラメータを用いて独立した処理を行うようにしてもよい。また、色差面に対する処理だけを行ってもよいし、輝度面に対する処理だけを行ってもよい。
【0087】
以上の説明では種々の実施形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も、本発明の範囲内に含まれる。
【0088】
次の優先権基礎出願の開示内容は引用文としてここに組み込まれる。
日本国特許出願2004年第200890号(2004年7月7日出願)
【技術分野】
【0001】
本発明は、ノイズを含む画像、とくに、撮像素子のノイズを含む画像を処理する場合に適した階調空間を利用する画像処理技術に関する。
【背景技術】
【0002】
例えば、ベイア配列のような色配列を有するカラーフィルタを通して撮像され、その色成分がサブサンプリングされた画像を補間してカラー画像に復元する処理においては、補間処理を行うための階調空間がいくつか提案されている。特許文献1には、G色成分を線形階調で単純平均した後、R色、G色、B色の各色成分を対数階調空間へ変換し、この階調空間でR色成分およびB色成分をG色成分との差分をとることにより色差面で補間する技術が開示されている。また、特許文献2には、補間処理以降の圧縮処理、およびディスプレイ表示等の処理に合わせて、色成分信号をあらかじめΓ=2.4のガンマ空間(R1/
Γ,G1/Γ,B1/Γ)へ変換し、このガンマ空間で補間処理等の画像処理を一本化して行う
ことによって階調変換の繰り返しに伴う量子化誤差を抑える技術が開示されている。特許文献3には、色成分信号を平方根特性のガンマ空間に変換し、このガンマ空間で補間処理を行うことによって画像に含まれているショットノイズの影響を抑えて鮮明な画像を得る技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】米国特許第4642678号明細書
【特許文献2】米国特許第5172227号明細書
【特許文献3】特開2004−7164号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
上述した階調空間はいずれも画像に含まれるダークノイズによる影響を受けやすく、撮像素子で生じる暗電流ノイズに関連したノイズを多く含む画像に対して補間処理を行うと、これらのダークノイズを増幅してしまい、復元後の画質を損ねてしまうおそれがあった。とくに、ISO感度を高めて(たとえば、ISO1600相当以上)撮像された画像に対して補間処理を行う場合には問題となりやすい。画質劣化の例として、補間処理後の画像の赤地領域に黒点が発生することがあげられる。また、補間処理に限らず撮像素子を用いて取得した画像を処理するとき、一般にこれらセンサーノイズの影響を受ける。そこで本件は、センサーノイズを含む画像を処理する場合に適した階調空間を提供する。
【課題を解決するための手段】
【0005】
請求項1に記載の画像処理装置は、入力色空間における画像信号を画像処理空間における画像信号に変換し、変換後の画像信号を用いて所定の画像処理を行い、画像処理後の画像信号を出力色空間の画像信号に変換する画像処理装置は、前記入力色空間から画像処理空間への変換過程において、各画素が受光量に比例した信号で表された線形階調の画像信号の各々を、前記画像処理空間における非線形階調の画像信号に変換する第1の階調変換部と、前記第1の階調変換部による階調変換後の複数画素の画像信号を用いて、前記所定の画像処理を行う画像処理部と、前記画像処理部による画像処理後の画像信号を、前記出力色空間への変換過程において、線形階調の画像信号に変換する第2の階調変換部と、画像の撮像時に撮像素子に設定されていた撮像感度に応じて、前記非線形階調の特性を変化させるように、前記第1の階調変換部を制御する制御部と、を備えることを特徴とする。
請求項2に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記画像
処理空間は、ノイズが均等な均等ノイズ空間であることを特徴とする。
請求項3に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記画像処理部は、前記第1の階調変換部による階調変換後の複数画素の画像信号を用いて、第1の画像を第2の画像に変換する処理を行うことを特徴とする。
請求項4に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記入力色空間における画像信号は、各画素に少なくとも1つの色成分信号を有した複数種類の色成分信号からなり、それぞれが受光量に比例した信号で表される線形階調の画像信号であり、前記画像処理部は、前記第1の階調変換部による階調変換後の複数画素の画像信号を用いて、各画素に少なくとも1つの共通した色成分信号を生成する処理を行うことを特徴とする。
請求項5に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記制御部は、前記撮像感度が低いほど低輝度側の階調特性の曲率を大きくし、前記撮像感度が高いほど低輝度側の階調特性の曲率を小さくするように、前記第1の階調変換部を制御することを特徴とする。
請求項6に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記制御部は、前記撮像感度が低いほど、前記非線形階調特性が平方根階調特性に近づくように、前記第1の階調変換部を制御することを特徴とする。
請求項7に記載の画像処理装置は、請求項4に記載の画像処理装置において、前記画像処理部は、前記各画素に共通した色成分信号を、少なくとも2種類の色成分信号を用いて生成することを特徴とする。
請求項8に記載の画像処理装置は、請求項7に記載の画像処理装置において、前記画像処理部は、前記第1の階調変換部による階調変換後の複数画素の非線形色成分信号を用いて少なくとも2方向について類似度を算出し、各方向についての類似度間の差異を所定の閾値と比較することによって前記各方向についての類似性の強弱を判定し、この判定結果を用いて、前記各画素に共通した色成分信号を生成することを特徴とする。
請求項9に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記第1の階調変換部は、前記入力色空間における画像信号が前記線形階調とは異なる画像信号で表されている場合、一旦、線形階調の画像信号に変換する処理を行ってから、前記非線形階調の画像信号に変換することを特徴とする。
請求項10に記載の画像処理装置は、請求項1に記載の画像処理装置において、前記画像処理部が行う所定の画像処理には、ノイズ除去処理およびエッジ強調処理の少なくとも1つが含まれることを特徴とする。
上記階調変換部は、階調変換手段と置き換えてもよい。
上記制御部は、制御手段と置き換えてもよい。
【発明の効果】
【0006】
本発明によれば、撮像素子に起因するノイズが含まれる画像であっても、当該ノイズの影響を受けにくい階調空間を利用して画像処理を行うことができる。
【図面の簡単な説明】
【0007】
【図1】ベイア配列を示す図である。
【図2】本発明による画像補間処理の流れを説明するフローチャートである。
【図3】プログラムの提供形態を説明する図である。
【図4】G色補間を行う場合の画素位置を説明する図である。
【図5】G色補間を行う場合の画素位置を説明する図である。
【図6】R色補間を行う場合の画素位置を説明する図である。
【図7】R色補間を行う場合の画素位置を説明する図である。
【図8】B色補間を行う場合の画素位置を説明する図である。
【図9】B色補間を行う場合の画素位置を説明する図である。
【図10】撮像素子の信号特性を説明する図である。
【図11】均等ノイズ空間を説明する模式図である。
【図12】各階調空間の入出力特性を示す図である。
【図13】各階調空間の入出力特性を示す図である。
【図14】第二の実施形態による画像処理の流れを説明するフローチャートである。
【図15】ハイパスフィルタ処理を説明する図である。
【図16】ローパスフィルタ処理を説明する図である。
【発明を実施するための形態】
【0008】
以下、本発明を実施するための最良の形態について説明する。
(第一の実施形態)
第一の実施形態では、R(赤)、G(緑)、B(青)がベイア配列されたカラーフィルタを通して撮像された画像に対して補間処理を行う画像処理を例にあげて説明する。この場合の画像の色はRGB表色系で示される。
【0009】
図1は、ベイア配列を示す図である。このようなカラーフィルタを備える撮像素子から出力される画像信号は、1画素当たりRGBのうちいずれか1つの色成分の情報を有する。すなわち、R色フィルタに対応する画素からはR色の情報が出力され、G色フィルタに対応する画素からはG色の情報が出力され、B色フィルタに対応する画素からはB色の情報が出力される。R色フィルタに対応する画素情報を例にとれば、R成分の情報だけでG成分、B成分の情報がない。このため、画像を構成する全ての画素位置においてRGB全色分の情報を得るためには、各画素位置において不足する色成分の情報を補間処理によって算出する必要がある。
【0010】
図2は、本発明による画像補間処理の流れを説明するフローチャートである。本実施形態では、図2による処理を行うプログラムを図3に示すコンピュータ装置100に実行させることにより、画像処理装置を提供する。プログラムをパーソナルコンピュータ100に取込む場合には、パーソナルコンピュータ100のデータストレージ装置にプログラムをローディングした上で当該プログラムを実行させることにより、画像処理装置として使用する。
【0011】
プログラムのローディングは、プログラムを格納したCD−ROMなどの記録媒体104をパーソナルコンピュータ100にセットして行ってもよいし、ネットワークなどの通信回線101を経由する方法でパーソナルコンピュータ100へローディングしてもよい。ネットワーク101を経由する場合は、ネットワーク101に接続されたサーバコンピュータ102のハードディスク装置103などにプログラムを格納しておく。このように、プログラムは記録媒体104や通信回線101を介する提供などの種々の形態のコンピュータプログラム製品として供給される。
【0012】
図2のステップS1において、コンピュータ装置100(図3)のCPUは、線形階調空間で表された画像信号(ベイア信号)を入力してステップS2へ進む。具体的には、補間処理の対象とする画像データをワークエリアに読み出す。このとき、各色成分がガンマ補正された階調空間で表されている場合には、ガンマ補正前の線形階調空間における信号値へ戻す。
【0013】
ステップS2において、CPUは、画像を構成する全画素に対応する画像信号に対してそれぞれオフセット処理を行ってステップS3へ進む。具体的には、次式(1)で示すように、画素位置[i,j]で示される画素に対応する信号値X[i,j]にオフセットΛを加え、オフセット処理後の信号値X'[i,j]を得る。
X'[i,j]=X[i,j]+Λ (1)
ただし、オフセットΛは撮影時に撮像素子に対して設定されていた撮像感度(以後ISO
感度と呼ぶ)に応じて決定する。たとえば、ISO6400相当の場合にはΛ=0.05Xmaxに、ISO1600相当の場合にはΛ=0.02Xmaxに、ISO200相当以下ではΛ=0にする。Xmaxは、入力される画像信号Xの階調数の最大値(すなわち、フルス
ケール値)である。すなわち、線形入力階調信号Xの範囲は0≦X≦Xmaxである。本実
施形態では、R成分、G成分、およびB成分に対して共通のオフセットΛを加える。
【0014】
ステップS3において、CPUは、オフセット処理後の信号値X'[i,j]に対して次式(2)による平方根階調空間へのガンマ補正を行ってステップS4へ進む。ガンマ補正後の平方根階調空間は、補間処理用の空間である。
Y=Ymax×√(X'/Xmax) (2)
ただし、階調変換後の信号Yの範囲は0≦Y≦Ymaxである。
【0015】
ステップS4において、CPUは以下のように補間処理を行う。ここで、R成分の色情報を有する画素をR画素、B成分の色情報を有する画素をB画素、G成分の色情報を有する画素をG画素と呼び、補間処理用の空間における画素位置[i,j]で示される画素に対応
するR成分の信号値をR[i,j]、G成分の信号値をG[i,j]、B成分の信号値をB[i,j]で
表すことにする。
【0016】
(方向判定)
CPUは、画素位置[i,j]で示されるG画素でない画素(R画素もしくはB画素)に関
して、縦方向の類似度CvN[i,j]、および横方向の類似度ChN[i,j]をそれぞれ次式(3)、(4)により算出する。
【0017】
【数1】
ただし、Z[i,j]は画素位置[i,j]で示されるR成分またはB成分の信号値である。
【0018】
上式(3)、(4)における第1項の絶対値は、G色成分同士で比較して大まかな方向性を検出するものである。上式(3)、(4)の第2項および第3項の絶対値は、第1項では検出できない細かな類似性を検出するものである。CPUは、上式(3)、(4)により得られた縦方向の類似度および横方向の類似度を各座標ごとに算出し、対象とする座標[i,j]に
おける縦横の類似度に基づいて次式(5)により類似性の方向を判定する。
【0019】
【数2】
ただし、Thは信号値に含まれるノイズによる誤判定を避けるために用いられる判定閾値であり、上記ISO感度に応じて変化させる。HV[i,j]は画素位置[i,j]に関する類似性の方向を示し、HV[i,j]=0の場合は縦横両方向類似、HV[i,j]=1の場合は縦方向類似、HV[i,j]=-1の場合は横方向類似である。
【0020】
(G補間)
CPUは、判定した類似方向に基づき、R成分もしくはB成分の凸凹情報を利用してG成分の補間を行う。G色補間は、たとえば図4で示される中央のR画素の位置[i,j]に
対して、縦方向類似の場合は次式(6)および(9)により算出し、横方向類似の場合は次式(7)および(10)により算出する。B画素の位置に対してG色補間を行う場合の画素
位置は図5によって示される。
【0021】
【数3】
ただし、Z[i,j]は画素位置[i,j]で示されるR成分またはB成分の信号値である。
【0022】
上式(9)における第1項は、画素位置[i,j]に対して縦に並ぶG成分の信号値G[i,j-1]およびG[i,j+1]から算出される平均値を表す。上式(9)における第2項は、縦に
並ぶR成分の信号値R[i,j]、R[i,j-2]およびR[i,j+2]から算出される変化量を
表す。G成分の信号値の平均値にR成分の信号値の変化量を加えることにより、G成分の補間値G[i,j]が得られる。このような補間をG成分の内分点以外も予測可能なことか
ら、便宜的に外挿補間と呼ぶことにする。
【0023】
上式(10)は、上述した縦方向の外挿補間の場合と同様に、画素位置[i,j]に対して
横に並ぶ画素の信号値を用いて横方向に外挿補間を行うものである。
【0024】
CPUは、類似の方向が縦横両方向と分類されている場合は、上式(9)および(10)によりG色補間値をそれぞれ算出し、算出された2つのG色補間値の平均をとってG色補間値とする。
【0025】
(R補間)
R色補間は、たとえば図6で示されるR画素の位置[i,j]以外の画素位置[i+1,j]、[i,j+1]、[i+1,j+1]に対して、それぞれ次式(11)〜(13)により算出される。このとき、上述したG補間により得られた全ての画素位置に対応するG成分信号値(図7)の凸凹情報が利用される。
【0026】
【数4】
【0027】
上式(11)〜(13)における第1項は、R成分補間の対象とする座標に隣接するR成分信号値から算出される平均値を表し、上式(11)〜(13)における第2項は、R成分補間の対象とする座標およびこの座標に隣接するG成分信号値から算出される変化量を表す。すなわち、G補間で行われた外挿補間と同様に、R成分信号値の平均値にG成分の信号値の変化量を加えてR成分の補間値を得る。これは、R位置で色差Cr=R−Gを生成し、この色差面内で平均補間する方式と等価である。
【0028】
(B補間)
B成分補間についてもR成分と同様に補間処理を行う。たとえば図8で示されるB画素の位置[i,j]以外の画素位置[i+1,j]、[i,j+1]、[i+1,j+1]に対して、それぞれ次式(14)〜(16)により算出される。このとき、上述したG補間により得られた全ての画
素位置に対応するG成分信号値(図9)の凸凹情報が利用される。
【0029】
【数5】
【0030】
上式(14)〜(16)によれば、B成分信号値の平均値にG成分の信号値の変化量を加えてB成分の補間値を得る。これは、B位置で色差Cb=B−Gを生成し、この色差面内で平均補間する方式と等価である。R成分およびB成分は、G成分に比べてサンプル周波数が低いので、色差R−G、色差B−Gを利用してG成分信号値が有する高周波数成分を反映させる。よって、このようなクロマ成分に対する補間を便宜的に色差補間と呼ぶことにする。
【0031】
以上説明した補間処理により、全画素位置に対応したG成分、R成分、およびB成分の3色分の信号値を有する画像が復元される。CPUは、補間処理を終了するとステップS5へ進む。
【0032】
ステップS5において、CPUは、画像復元後の信号値Y=R,G,Bに対して次式(17)による線形階調空間への逆ガンマ補正を行ってステップS6へ進む。
X'=Xmax×(Y/Ymax)2 (17)
ただし、X'=Rout',Gout',Bout'を表す。
【0033】
ステップS6において、CPUは、全画素に対応する画像信号に対してそれぞれ逆オフセット処理を行ってステップS7へ進む。具体的には、次式(18)で示すように、画素位置[i,j]で示される画素に対応する信号値X'[i,j]からオフセットΛを減じ、逆オフセ
ット処理後の信号値X[i,j]を得る。
X[i,j]=X'[i,j]−Λ (18)
ただし、X=Rout,Gout,Boutを表す。
【0034】
ステップS7において、CPUは、復元後の画像、すなわち、線形階調空間で表された画像信号(RGB信号)を出力して図2による処理を終了する。CPUは、このRGB信号に対して最終的なガンマ補正(たとえば、使用する表示モニタに適した補正)や色調整(ユーザーにより指示された調整やデバイスインディペンデントな色空間に変換するための調整)などを必要に応じて行う。
【0035】
(オフセット付き平方根変換による均等ノイズ空間)
上述した補間処理用の空間について、さらに詳細に説明する。一般に、撮像素子から出力される画像信号には種々のノイズが含まれている。ノイズはランダムノイズと固定パターンノイズとに大別され、ランダムノイズはさらに、ショットノイズとダークノイズとに分類される。
【0036】
固定パターンノイズは、撮像素子の製造プロセスにおいて発生する開口ムラなどに起因する素子固有のノイズである。ショットノイズおよびダークノイズは、撮像素子の画素を構成するフォトダイオードなどの光電変換素子の特性に起因するノイズである。ショットノイズはフォトンの揺らぎによって生じするノイズであり、入射光量の平方根に比例して増加する。ダークノイズは暗電流ノイズを含み、入射光量に無関係に生じるとともに、アナログゲインに比例して増加する。アナログゲインは、ISO感度を決定するパラメータ
である。
【0037】
図10は、撮像素子の信号特性を説明する図である。両対数スケールで表された図10において、横軸は撮像面照度を、縦軸は信号の電子数をそれぞれ表す。直線11は光信号を表し、入射光量に比例して光信号(電子数)が増加することを示している。直線12は光ショットノイズを表し、入射光量の1/2乗に比例してノイズ(電子数)が増加することを示している。直線13はダークノイズを表し、入射光量にかかわらずノイズ(電子数)が存在することを示している。
【0038】
階調変換時に影響を及ぼすダークノイズ、ショットノイズに着目すると、トータルノイズδxは次式(19)で表される。
δx=√(Ns2+Nd2) (19)
ただし、Nsはショットノイズ、Ndはダークノイズである。xはA/D変換直後の信号レベルであり、既にアナログゲインによって増幅されている。また、xは便宜上入力される信号の階調数の最大値(すなわち、フルスケール値)で除して規格化されているものとする。
【0039】
ショットノイズおよびダークノイズは、それぞれ次式(20)および(21)のようにモデル化できる。
Ns(g)=ms×√(g×x) (20)
Nd(g)=md×g+nd (21)
ただし、mおよびnはノイズモデルのパラメータ、gはアナログゲイン(すなわち、撮像素子に対して設定されているISO感度)である。
【0040】
上式(20)および(21)によるノイズモデルを式(19)へ代入し、パラメータを簡略な形式に再定義すると次式(22)が得られる。
δx=2α(g)×√(x+β(g)) (22)
【0041】
一方、上述したオフセット処理(ステップS2)後の平方根ガンマ処理(ステップS3)によって変換された補間処理用の空間(オフセット付き平方根階調空間と呼ぶ)は、次式(23)で表される。
y=√(x+ε) (23)
ただし、x=X/Xmax、y=Y/Ymax、εはオフセットΛに対応する(ε=Λ/Xmax
)。
【0042】
式(23)の補間用階調空間におけるノイズδyは、誤差伝播則を用いると次式(24)で表される。
δy=√((dy/dx)2×δx2) (24)
式(24)に上式(22)および(23)を代入するとノイズδyは次式(25)のように求まる。
δy=α(g)×√((x+β(g))/(x+ε)) (25)
【0043】
上式(25)は、ε=β(g)が成立する場合にノイズδyが線形入力階調信号の値xによらず一定値α(g)となることを示す。つまり、オフセット付き平方根階調空間は、ε=β(g)が成立する場合に均等ノイズ空間になる。本発明では、オフセット量ε(ステップS2のΛ)をISO感度に応じて変化させることにより、ε=β(g)を成立させる。この成立条件の例が、上述したΛ=0.05Xmax(ISO6400相当)、Λ=0.02Xmax(ISO1600相当)である。なお、均等ノイズα(g)はISO感度に応じて変化する(ここでは増加)ため、上述した判定閾値Thについて、Th∝α(g)の関係を有するように変化させる。
【0044】
図11は、均等ノイズ空間を説明する模式図である。図11において、横軸は線形階調信号の入力値xを、縦軸は階調変換後の出力値yを示す。曲線23によって表される出力値yには誤差δyが重畳し、この誤差δyは入力値xの値によらず常に一定値α(g)である。つまり、均等ノイズ空間ではノイズの揺らぎ幅が画像の明るさ(入力値の大きさ)によらず常に一定になる。
【0045】
(平方根階調空間との比較)
図12は、線形階調空間、平方根階調空間、およびオフセット付き平方根階調空間におけるそれぞれの入出力特性を示す図である。図12において、横軸は線形階調信号入力値xを、縦軸は階調変換後の出力値yをそれぞれ表す。直線21は線形変換時の入出力特性を、曲線22は平方根空間への入出力特性を、曲線23はオフセット付き平方根空間への入出力特性を、それぞれ示す。曲線22によれば、ダークノイズが支配的となる線形入力値が小さい領域(たとえば、0<x<0.1)、すなわち、低輝度領域において傾きが急峻になる。このため、入力値にノイズによる揺らぎが生じると、入力側で生じた揺らぎより大きく増幅された揺らぎが出力される。
【0046】
平方根階調空間で発生する揺らぎの増幅によって生じる画質劣化について説明する。R成分補間を例にとれば、G補間により得られたG成分信号値の凸凹情報を利用してR成分を補間するので、補間されたR成分信号値はG成分信号値に含まれるノイズ揺らぎの影響を受ける。補間されたR成分信号値に含まれるノイズδRinterpolatedは、誤差伝播則を用いると次式(26)で表される。
【0047】
【数6】
ただし、各誤差項の前につく偏微分係数は1程度の値なので省略している。
【0048】
赤地の画像の場合、R画素で得られる信号値は大きく、補間されるG成分信号値は小さい。上述したように、平方根階調空間(曲線22)では暗い(線形入力値が小さい)ところでノイズが増幅されるので、大きなR成分の信号値に重畳するノイズδRBayerに比べ
て小さなG成分信号値に重畳するノイズδGinterpolatedは非常に大きな値になる。この結果、補間されるR成分信号値のノイズδRinterpolatedがノイズδGinterpolatedによって大きく振られた場合には当該R成分信号値が0付近まで小さく落ち込むので、この信号値は赤地の中の黒点として表現されてしまう。このように、単なる平方根階調空間で補間処理を行うと、R、G、Bそれぞれの明るさに依存してδRBayerとδGinterpolated
とが振れてしまう。
【0049】
これに対して、オフセット付き平方根階調空間(曲線23)では、ダークノイズが支配的となる領域(たとえば、0<x<0.1)でも傾きが急峻にならない。したがって、赤地の画像の場合に小さなG成分信号値に重畳するノイズδGinterpolatedが大きな値にならないため、補間されたR成分信号値に含まれるノイズδRinterpolatedが振られることがなくなり、赤地の中に黒点が生じることがなくなる。
【0050】
以上説明した第一の実施形態によれば、次の作用効果が得られる。
(1)画像を構成する全ての画素位置において全色成分(上記の例ではRGB)の信号値を得るために、不足する色成分の信号値を補間する処理を以下のように線形階調空間からオフセット付き平方根階調空間に変換して行う。すなわち、線形階調信号xに対して撮像素子に設定されているISO感度の関数として表されるオフセットε(ε=β(ISO感
度))を加え、オフセット後の(x+ε)を1/2乗のガンマ空間へ変換する。したがって
、誤差伝播則によってガンマ変換後の信号値に含まれる誤差は、オフセットεを付加してからガンマ補正するので全階調にわたって均等になる。全階調にわたって均等化されたノイズの揺らぎ幅をISO感度毎のノイズプロファイルとして1つの代表値で表し、この代表値に応じて方向判定閾値Th(Th∝(ISO感度))を定める結果、補間処理時の方向判
定精度が高まると同時に、補間後(画像復元後)の画像の色鮮明性が向上するという、平方根特性が有する高画質な画像復元の性質をも継承できる。
【0051】
(2)上記(1)に加えて、オフセット付き平方根階調空間を示す曲線23は、単なる平方根階調空間を示す曲線22と比べると線形入力信号値が小さい領域(たとえば、0<x<0.1)において傾きが急峻とならない。この結果、線形入力値に生じたノイズより大きく増幅されたノイズが出力され、増幅されたノイズで画像復元後の画質が劣化するという平方根階調空間で補間処理を行う場合に生じる問題を解消できる。とくに、ダークノイズが多く含まれる状態(撮像素子の感度をISO1600相当〜6400相当に高めた場合や、撮像素子を構成する光電変換素子の暗電流が大きい場合)において顕著な効果が得られる。
【0052】
(3)上記(1)および(2)により、線形階調空間で生じやすい暗部との色境界での滲みが無く、鮮明で、かつ平方根階調空間より曲がり(曲率)が強いガンマ空間や対数空間で生じやすい色境界での黒筋・黒縁の発生がない高画質な復元画像が得られる。
【0053】
上述した説明では、ベイア配列のカラーフィルタを例に説明したが、デルタ配列をはじめとする他のフィルタ配列の場合にも適用できる。
【0054】
上記の説明で行った補間処理(画像復元)は一例であり、他の補間方式による処理を行ってもよい。たとえば、米国特許出願公開第2002/0001409号明細書に記載されている多色外挿補間、国際公開WO02/071761号パンフレットに記載のY方式補間、米国特許第5552827号明細書に記載の色比補間または色差・外挿補間、特開2003−348608号公報に記載のデルタ配列補間などである。
【0055】
以上の説明では、カラーフィルタを介して単板式撮像素子で撮像される画像について説明したが、2板式撮像素子で撮像される画像に対して適用してもよい。
【0056】
上述したオフセット値Λ=0.05Xmax(ISO6400相当)、Λ=0.02Xmax(ISO1600相当)は一例であり、設定されているアナログゲイン、周囲温度、実際のノイズの状態に応じて適宜変更してよい。
【0057】
上記の説明では、R成分、G成分、およびB成分に対して共通のオフセットΛを加えるようにした。この代わりに、各成分に対してそれぞれ異なるオフセットを加えるようにしてもよい。
【0058】
上述したオフセット処理(ステップS2)および平方根ガンマ補正処理(ステップS3)を補間用ガンマ補正処理として纏めて行うようにしてもよい。
【0059】
上述した逆ガンマ補正処理(ステップS5)および逆オフセット処理(ステップS6)を逆ガンマ補正処理として纏めて行うようにしてもよい。
【0060】
補間用ガンマ補正処理として纏めて行う場合、次式(27)で表される補間処理用空間へ変換してもよい。
【0061】
【数7】
ただし、x=X/Xmax、y=Y/Ymax、εはオフセットΛに対応する(ε=Λ/Xmax
)。
【0062】
式(27)の補間用階調空間におけるノイズδyは、誤差伝播則を用いると次式(28)で表される。上式(28)にε=β(g)を代入するとノイズδyは式(29)で表され、補間用階調空間はε=β(g)が成立する場合に均等ノイズ空間になる。
【0063】
図13は、線形階調空間、平方根階調空間、および式(27)による補間用階調空間におけるそれぞれの入出力特性を示す図である。図13において、横軸は線形階調信号入力値xを、縦軸は階調変換後の出力値yをそれぞれ表す。直線21および曲線22は図12と同一であり、それぞれ線形変換時の入出力特性、および平方根空間への入出力特性を示す。曲線31は補間用階調空間への入出力特性を示す。曲線31は、原点を通る点が図12の曲線23と異なっている。この様な補間用階調空間を用いて画像復元処理を行う場合にも、図12の曲線23が示すオフセット付き平方根階調空間を用いる場合と同様に、高画質な画像復元を行うことができる。
【0064】
オフセット付き平方根階調空間(曲線23)の代わりに、撮像素子に設定されているISO感度に応じて曲率が異なる曲線によって示される階調空間を用いてもよい。この場合には、ISO感度が低いほど曲率を大きく、ISO感度が高いほど曲率を小さくする。曲率を大きくするには平方根特性(曲線)に近づければよく、曲率を小さくするには、線形特性(直線)に近づければよい。このような階調空間は、たとえば、線形特性(直線)+平方根特性(曲線)で構成される入出力特性を有する空間、Γ=1.67のガンマ空間などによって与えられる。
【0065】
(第二の実施形態)
第一の実施形態では均等ノイズ空間(オフセット付き平方根階調空間(もしくは補間処理用空間))で補間処理を行って画像を復元する画像処理装置について説明した。均等ノイズ空間は、補間処理以外の他の処理を行う場合にも有効である。第二の実施形態では、均等ノイズ空間において画像の平坦部(変化がない部分)を検出し、検出した平坦部に対してぼかし処理を行う場合について説明する。
【0066】
図14は、第二の実施形態による画像処理の流れを説明するフローチャートである。図14のステップS11において、コンピュータ装置100(図3)のCPUは、線形階調空間で表された画像信号を入力してステップS2へ進む。画像信号は、たとえば、モノクロ単板画像、3板式カラー画像、および第一の実施形態による補間処理で得られた補間済みカラー画像などである。
【0067】
ステップS2およびステップS3は、図2における同一ステップ番号の処理と同一なので説明を省略する。
【0068】
ステップS14において、CPUは画像処理(この場合は平坦部検出処理およびぼかし処理)を行う。
(平坦部検出)
入力された画像信号がモノクロ画像の場合を例にすると、CPUは次式(30)および図15によって示される高周波数成分の抽出(ハイパスフィルタ処理)を行う。
【0069】
【数8】
ただし、注目画素は図15において中心に位置する画素とし、式(30)におけるΔはラプラシアン演算子を表す。
【0070】
CPUは、上式(30)により得られた高周波数成分に基づいて次式(31)により平坦度を判定する。
【0071】
【数9】
ただし、σThは信号に含まれるノイズによる誤判定を避けるために用いられる判定閾値であり、σTh∝α(g)の関係を有する。CPUは、上式(31)で1が得られる場合に画像が平坦であると判定し、0が得られる場合には平坦でないと判定する。
【0072】
(ぼかし処理)
CPUは、上式(31)により得られた判定結果に基づいて次式(32)および図16によって示されるローパスフィルタ処理を行う。この処理により、高周波数成分が除去されてぼかし効果が得られる。CPUは、ローパスフィルタ処理(ぼかし処理)を終了すると図14のステップS5へ進む。
【0073】
【数10】
【0074】
ステップS5およびステップS6は、図2における同一ステップ番号の処理と同一なので説明を省略する。
【0075】
ステップS17において、CPUは、補正処理後の画像、すなわち、線形階調空間で表された画像信号を出力して図14による処理を終了する。
【0076】
以上説明した第二の実施形態によれば、均等ノイズ空間を利用することにより全階調にわたってISO感度毎のノイズプロファイルを1つの代表値(α(g))で表すことができ、この代表値に応じて平坦部検出時の判定閾値σTh(σTh∝α(g))を定めることが
できるので、画像の平坦部検出を極めて簡略に、かつ正確に抽出することができる。このように抽出した平坦部に対してぼかし処理を行うので、画像の明るさによって特性の異なるノイズの影響を受けてぼかし処理を施したり施さなかったりすることがなくなり、全階調にわたって適切にぼかし処理を行うことができる。
【0077】
上式(32)によるLPF(ローパスフィルタ)処理の代わりにBPF(バンドパスフィルタ)処理を行うことにより、エッジ強調を行う構成にしてもよい。ただし、この場合は平坦部でない領域にかけるのが望ましい。
【0078】
(第三の実施形態)
第三の実施形態では、均等ノイズ空間においてカラー画像の輝度面、色差面のそれぞれにノイズ除去処理を行う場合について説明する。
【0079】
図14のステップS11において、CPUは、線形階調空間で表された補間済みカラー画像信号を入力してステップS2へ進む。ステップS2およびステップS3は、図2における同一ステップ番号の処理と同一なので説明を省略する。
【0080】
ステップS14において、CPUは画像処理(この場合は色空間変換(RGB→YCbCr)処理、ノイズ除去処理および色空間変換(YCbCr→RGB)処理)を行う。CPUは、たとえば、3×3マトリクス係数を用いた周知の色空間変換処理を施すことによって画像信号を色空間(RGB)から色空間(YCbCr)へ変換する。CPUはさらに、変換後の輝度信号Y、色差信号CbおよびCrのそれぞれに対して次式(33)によるノイズ除去処理(この例ではガウスぼかし処理)を行う。
【0081】
【数11】
ただし、xは2次元平面内の注目画素、x'はその近傍画素を示す。平滑化の加重係数を
閾値σTh(σTh∝α(g))に対する画素値差分|A(x)−A(x')|の変化比に応
じて決定するため、YCbCr各面がノイズ揺らぎの大きさに応じてぼかし処理される。すなわち、平坦部では信号はA(x')≒A(x)であってもA(x')=A(x)±σTh程度の揺らぎをもっており、この程度に揺らぐ似たような信号領域は平滑化対象領域となり、エッジ部などの構造が異なる領域は|A(x')−A(x)|≫σThとなるので平滑
化対象領域からはずれることになる。なお、平滑化の積分範囲は7×7画素や15×15画素といったように目的に応じて任意に設定してよい。CPUは、上記ガウスぼかし処理を終了すると色空間(YCbCr)から色空間(RGB)に変換した後、図14のステップS5へ進む。
【0082】
ステップS5およびステップS6は、図2における同一ステップ番号の処理と同一なので説明を省略する。
【0083】
ステップS17において、CPUは画像処理後の画像、すなわち、線形階調空間で表された画像信号を出力して図14による処理を終了する。
【0084】
以上説明した第三の実施形態によれば、均等ノイズ空間を利用することにより全階調に
わたってISO感度毎のノイズプロファイルを1つの代表値で表すことができ、この代表値に応じてガウスぼかし処理における信号差分に基づいた平滑化加重係数の割合を定めるので、画像の明るさによって特性の異なるノイズの影響を受けてガウスぼかし処理の程度が変化することがなくなり、ガウスぼかし処理が非常に行いやすくなる。また、全階調にわたって抜群のノイズ除去効果を得ることができる。
【0085】
上記色差面に対するノイズ除去処理は、色まだらや色モアレの抑制に効果が得られる。また、上記輝度面に対するノイズ除去処理は、ざらつきを抑える効果が得られる。
【0086】
上述した説明では、輝度および色差に対して共通の閾値σThを用いてノイズ除去処理を行うようにしたが、それぞれ異なるパラメータを用いて独立した処理を行うようにしてもよい。また、色差面に対する処理だけを行ってもよいし、輝度面に対する処理だけを行ってもよい。
【0087】
以上の説明では種々の実施形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も、本発明の範囲内に含まれる。
【0088】
次の優先権基礎出願の開示内容は引用文としてここに組み込まれる。
日本国特許出願2004年第200890号(2004年7月7日出願)
【特許請求の範囲】
【請求項1】
入力色空間における画像信号を画像処理空間における画像信号に変換し、変換後の画像信号を用いて所定の画像処理を行い、画像処理後の画像信号を出力色空間の画像信号に変換する画像処理装置は、
前記入力色空間から画像処理空間への変換過程において、各画素が受光量に比例した信号で表された線形階調の画像信号の各々を、前記画像処理空間における非線形階調の画像信号に変換する第1の階調変換部と、
前記第1の階調変換部による階調変換後の複数画素の画像信号を用いて、前記所定の画像処理を行う画像処理部と、
前記画像処理部による画像処理後の画像信号を、前記出力色空間への変換過程において、線形階調の画像信号に変換する第2の階調変換部と、
画像の撮像時に撮像素子に設定されていた撮像感度に応じて、前記非線形階調の特性を変化させるように、前記第1の階調変換部を制御する制御部と、を備えることを特徴とする画像処理装置。
【請求項2】
請求項1に記載の画像処理装置において、
前記画像処理空間は、ノイズが均等な均等ノイズ空間であることを特徴とする画像処理装置。
【請求項3】
請求項1に記載の画像処理装置において、
前記画像処理部は、前記第1の階調変換部による階調変換後の複数画素の画像信号を用いて、第1の画像を第2の画像に変換する処理を行うことを特徴とする画像処理装置。
【請求項4】
請求項1に記載の画像処理装置において、
前記入力色空間における画像信号は、各画素に少なくとも1つの色成分信号を有した複数種類の色成分信号からなり、それぞれが受光量に比例した信号で表される線形階調の画像信号であり、
前記画像処理部は、前記第1の階調変換部による階調変換後の複数画素の画像信号を用いて、各画素に少なくとも1つの共通した色成分信号を生成する処理を行うことを特徴とする画像処理装置。
【請求項5】
請求項1に記載の画像処理装置において、
前記制御部は、前記撮像感度が低いほど低輝度側の階調特性の曲率を大きくし、前記撮像感度が高いほど低輝度側の階調特性の曲率を小さくするように、前記第1の階調変換部を制御することを特徴とする画像処理装置。
【請求項6】
請求項1に記載の画像処理装置において、
前記制御部は、前記撮像感度が低いほど、前記非線形階調特性が平方根階調特性に近づくように、前記第1の階調変換部を制御することを特徴とする画像処理装置。
【請求項7】
請求項4に記載の画像処理装置において、
前記画像処理部は、前記各画素に共通した色成分信号を、少なくとも2種類の色成分信号を用いて生成することを特徴とする画像処理装置。
【請求項8】
請求項7に記載の画像処理装置において、
前記画像処理部は、前記第1の階調変換部による階調変換後の複数画素の非線形色成分信号を用いて少なくとも2方向について類似度を算出し、各方向についての類似度間の差異を所定の閾値と比較することによって前記各方向についての類似性の強弱を判定し、この判定結果を用いて、前記各画素に共通した色成分信号を生成することを特徴とする画像
処理装置。
【請求項9】
請求項1に記載の画像処理装置において、
前記第1の階調変換部は、前記入力色空間における画像信号が前記線形階調とは異なる画像信号で表されている場合、一旦、線形階調の画像信号に変換する処理を行ってから、前記非線形階調の画像信号に変換することを特徴とする画像処理装置。
【請求項10】
請求項1に記載の画像処理装置において、
前記画像処理部が行う所定の画像処理には、ノイズ除去処理およびエッジ強調処理の少なくとも1つが含まれることを特徴とする画像処理装置。
【請求項1】
入力色空間における画像信号を画像処理空間における画像信号に変換し、変換後の画像信号を用いて所定の画像処理を行い、画像処理後の画像信号を出力色空間の画像信号に変換する画像処理装置は、
前記入力色空間から画像処理空間への変換過程において、各画素が受光量に比例した信号で表された線形階調の画像信号の各々を、前記画像処理空間における非線形階調の画像信号に変換する第1の階調変換部と、
前記第1の階調変換部による階調変換後の複数画素の画像信号を用いて、前記所定の画像処理を行う画像処理部と、
前記画像処理部による画像処理後の画像信号を、前記出力色空間への変換過程において、線形階調の画像信号に変換する第2の階調変換部と、
画像の撮像時に撮像素子に設定されていた撮像感度に応じて、前記非線形階調の特性を変化させるように、前記第1の階調変換部を制御する制御部と、を備えることを特徴とする画像処理装置。
【請求項2】
請求項1に記載の画像処理装置において、
前記画像処理空間は、ノイズが均等な均等ノイズ空間であることを特徴とする画像処理装置。
【請求項3】
請求項1に記載の画像処理装置において、
前記画像処理部は、前記第1の階調変換部による階調変換後の複数画素の画像信号を用いて、第1の画像を第2の画像に変換する処理を行うことを特徴とする画像処理装置。
【請求項4】
請求項1に記載の画像処理装置において、
前記入力色空間における画像信号は、各画素に少なくとも1つの色成分信号を有した複数種類の色成分信号からなり、それぞれが受光量に比例した信号で表される線形階調の画像信号であり、
前記画像処理部は、前記第1の階調変換部による階調変換後の複数画素の画像信号を用いて、各画素に少なくとも1つの共通した色成分信号を生成する処理を行うことを特徴とする画像処理装置。
【請求項5】
請求項1に記載の画像処理装置において、
前記制御部は、前記撮像感度が低いほど低輝度側の階調特性の曲率を大きくし、前記撮像感度が高いほど低輝度側の階調特性の曲率を小さくするように、前記第1の階調変換部を制御することを特徴とする画像処理装置。
【請求項6】
請求項1に記載の画像処理装置において、
前記制御部は、前記撮像感度が低いほど、前記非線形階調特性が平方根階調特性に近づくように、前記第1の階調変換部を制御することを特徴とする画像処理装置。
【請求項7】
請求項4に記載の画像処理装置において、
前記画像処理部は、前記各画素に共通した色成分信号を、少なくとも2種類の色成分信号を用いて生成することを特徴とする画像処理装置。
【請求項8】
請求項7に記載の画像処理装置において、
前記画像処理部は、前記第1の階調変換部による階調変換後の複数画素の非線形色成分信号を用いて少なくとも2方向について類似度を算出し、各方向についての類似度間の差異を所定の閾値と比較することによって前記各方向についての類似性の強弱を判定し、この判定結果を用いて、前記各画素に共通した色成分信号を生成することを特徴とする画像
処理装置。
【請求項9】
請求項1に記載の画像処理装置において、
前記第1の階調変換部は、前記入力色空間における画像信号が前記線形階調とは異なる画像信号で表されている場合、一旦、線形階調の画像信号に変換する処理を行ってから、前記非線形階調の画像信号に変換することを特徴とする画像処理装置。
【請求項10】
請求項1に記載の画像処理装置において、
前記画像処理部が行う所定の画像処理には、ノイズ除去処理およびエッジ強調処理の少なくとも1つが含まれることを特徴とする画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2012−54985(P2012−54985A)
【公開日】平成24年3月15日(2012.3.15)
【国際特許分類】
【出願番号】特願2011−229714(P2011−229714)
【出願日】平成23年10月19日(2011.10.19)
【分割の表示】特願2006−528611(P2006−528611)の分割
【原出願日】平成17年6月24日(2005.6.24)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
【公開日】平成24年3月15日(2012.3.15)
【国際特許分類】
【出願日】平成23年10月19日(2011.10.19)
【分割の表示】特願2006−528611(P2006−528611)の分割
【原出願日】平成17年6月24日(2005.6.24)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
[ Back to top ]