撮像装置
【課題】階調変換による伸張度合いの違いによってノイズが目立つことのないようにするとともにノイズ除去を高精度に行う。
【解決手段】ノイズ除去手段が、画像から低周波成分を抽出する低周波成分抽出手段と、画像から高周波成分を抽出する高周波成分抽出手段と、低周波成分抽出手段により抽出された低周波成分のレベルに応じて、正側のノイズに対するノイズ除去量である正側ノイズ除去量と、負側のノイズに対するノイズ除去量である負側ノイズ除去量とを算出するノイズ除去量算出手段と、高周波成分抽出手段により抽出された高周波成分に対して、ノイズ除去量算出手段により算出された正側ノイズ除去量及び負側ノイズ除去量に基づいてコアリング処理を行うコアリング手段と、コアリング手段によりコアリング処理が行われた高周波成分と、低周波成分抽出手段により抽出された低周波成分とを合成する合成手段とを備える。
【解決手段】ノイズ除去手段が、画像から低周波成分を抽出する低周波成分抽出手段と、画像から高周波成分を抽出する高周波成分抽出手段と、低周波成分抽出手段により抽出された低周波成分のレベルに応じて、正側のノイズに対するノイズ除去量である正側ノイズ除去量と、負側のノイズに対するノイズ除去量である負側ノイズ除去量とを算出するノイズ除去量算出手段と、高周波成分抽出手段により抽出された高周波成分に対して、ノイズ除去量算出手段により算出された正側ノイズ除去量及び負側ノイズ除去量に基づいてコアリング処理を行うコアリング手段と、コアリング手段によりコアリング処理が行われた高周波成分と、低周波成分抽出手段により抽出された低周波成分とを合成する合成手段とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の異なる光電変換特性を有する固体撮像素子を用いた撮像装置であって、特に、この固体撮像素子により得られた撮影画像に対するノイズ除去が可能な撮像装置に関するものである。
【背景技術】
【0002】
従来、デジタルカメラ等の撮像装置は、所定の固体撮像素子(撮像センサ)を備え、この固体撮像素子による撮像によって撮影画像を取得する。一般的に、撮影画像(画像信号)にはノイズ成分が含まれるが、近年における更なる高画質化の要請にも伴い、このノイズ成分を好適に除去することが求められる。ところで、固体撮像素子には、該固体撮像素子の光電変換特性が複数の異なる光電変換特性からなるものがある。例えば、入射光量に対して電気信号が線形的に変換されて出力される線形の光電変換特性(線形特性という)と、入射光量に対して電気信号が対数的に変換されて出力される対数の光電変換特性(対数特性という)とからなる光電変換特性を有する固体撮像素子(リニアログセンサという)が知られている。なお、この線形特性及び対数特性(線形/対数特性という)を有するリニアログセンサによる撮影画像のことを「線形/対数画像」という。
【0003】
この線形/対数特性のように複数の異なる光電変換特性を有する固体撮像素子により撮影する場合、対数特性において、入射光量に対して自然対数的に変換された出力が得られることから、広いダイナミックレンジ(広ダイナミックレンジ)が確保できるという利点がある反面、画像信号が対数圧縮されるためコントラスト性が悪くなる(対数特性の画像が低コントラストとなる)という不都合がある。そのため、画像から照明成分と反射率成分とを抽出し、対数特性の照明成分を線形変換して全体を線形特性に統一した後、これを圧縮することにより局所的なコントラストを保存したまま全体のダイナミックレンジ(DR)を圧縮するDR圧縮などの階調変換を行うことで、当該対数特性における高コントラスト化が図られる。
【特許文献1】特願2005−276299
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、上記階調変換に伴いノイズも増幅されてしまう、すなわち階調変換による画像データの伸張度合い(圧縮度合い)が大きな画素においては、コントラスト成分だけでなくノイズ成分も伸張されてしまい、一律のノイズ除去を行うだけでは伸張度合いの大きな領域でのノイズが目立ってしまっていた。
【0005】
これに関し、例えば特許文献1には、ノイズ除去量を階調変換における伸張度合いに応じて制御することで、すなわち撮影画像における当該伸張度合いに相当する輝度レベルに応じてノイズ除去量に関するコアリング係数を算出し、これを用いたノイズ除去処理を行うことで、全体の残留ノイズ量が一定となるようにする技術が開示されている。しかしながら、この技術では、ノイズ除去量が一律なものとして扱われるため、正確にノイズ除去を行うことができなかった。
【0006】
本発明は、上記事情に鑑みてなされたもので、階調変換による伸張度合いの違いによってノイズが目立つことのないようにすることができるとともに、ノイズ除去を高精度に行うことができ、ひいては高画質な撮影画像を得ることができる撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明に係る撮像装置は、複数の異なる光電変換特性を有する固体撮像素子と、前記固体撮像素子による撮像により得られる画像に対するノイズ除去処理を行うノイズ除去手段と、前記ノイズ除去手段によりノイズ除去処理が行われた画像に対する階調変換処理を行う階調変換手段とを備える撮像装置であって、前記ノイズ除去手段は、前記画像から低周波成分を抽出する低周波成分抽出手段と、前記画像から高周波成分を抽出する高周波成分抽出手段と、前記画像の信号に対して該信号のレベルよりもレベルが高い側を正側、レベルが低い側を負側と定める場合において、前記低周波成分抽出手段により抽出された低周波成分のレベルに応じて、前記正側のノイズに対するノイズ除去量である正側ノイズ除去量と、前記負側のノイズに対するノイズ除去量である負側ノイズ除去量とを算出するノイズ除去量算出手段と、前記高周波成分抽出手段により抽出された高周波成分に対して、前記ノイズ除去量算出手段により算出された前記正側ノイズ除去量及び前記負側ノイズ除去量に基づいてコアリング処理を行うコアリング手段と、前記コアリング手段によりコアリング処理が行われた高周波成分と、前記低周波成分抽出手段により抽出された低周波成分とを合成する合成手段とを備えることを特徴とする。
【0008】
上記構成によれば、固体撮像素子が複数の異なる光電変換特性を有するものとされ、ノイズ除去手段によって、固体撮像素子による撮像により得られる画像に対するノイズ除去処理が行われ、階調変換手段によって、ノイズ除去手段によりノイズ除去処理が行われた画像に対する階調変換処理が行われる。そして、ノイズ除去手段において、低周波成分抽出手段によって、画像から低周波成分が抽出され、高周波成分抽出手段によって、画像から高周波成分が抽出される。また、画像の信号に対して該信号のレベルよりもレベルが高い側を正側、レベルが低い側を負側と定める場合において、ノイズ除去量算出手段によって、低周波成分抽出手段により抽出された低周波成分のレベルに応じて、正側のノイズに対するノイズ除去量である正側ノイズ除去量と、負側のノイズに対するノイズ除去量である負側ノイズ除去量とが算出される。そして、コアリング手段によって、高周波成分抽出手段により抽出された高周波成分に対して、ノイズ除去量算出手段により算出された正側ノイズ除去量及び負側ノイズ除去量に基づいてコアリング処理が行われ、合成手段によって、コアリング手段によりコアリング処理が行われた高周波成分と、低周波成分抽出手段により抽出された低周波成分とが合成される。
【0009】
また、上記構成において、前記正側ノイズ除去量及び負側ノイズ除去量は、前記コアリング処理におけるそれぞれのコアリング係数であって、前記ノイズ除去量算出手段は、前記ノイズ除去手段によりノイズ除去処理が行われた画像に対して前記階調変換手段による階調変換処理を行った後に該画像に残る残留ノイズ量が、前記正側及び負側それぞれにおいて前記低周波成分のレベルに依らず一定となるように前記各コアリング係数を算出することが好ましい。(請求項2)
【0010】
これによれば、正側ノイズ除去量及び負側ノイズ除去量が、コアリング処理におけるそれぞれのコアリング係数とされ、ノイズ除去量算出手段によって、ノイズ除去手段によりノイズ除去処理が行われた画像に対して階調変換手段による階調変換処理を行った後に該画像に残る残留ノイズ量が、正側及び負側それぞれにおいて低周波成分のレベルに依らず一定となるように各コアリング係数が算出される。
【0011】
また、上記構成において、前記固体撮像素子による撮像により得られる画像は、複数の異なる特性を有する複数特性画像であって、前記ノイズ除去手段は、前記複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理を行う特性変換手段をさらに備え、当該特性変換手段による変換処理によって前記複数特性画像を特性が統一された統一特性画像に変換した後、該統一特性画像に対する前記ノイズ除去処理を行うことが好ましい。(請求項3)
【0012】
これによれば、固体撮像素子による撮像により得られる画像が、複数の異なる特性を有する複数特性画像とされ、ノイズ除去手段において、特性変換手段によって、複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理が行われて複数特性画像がその特性が統一された統一特性画像に変換された後、該統一特性画像に対するノイズ除去処理が行われる。
【0013】
また、上記構成において、前記固体撮像素子による撮像により得られる画像は、複数の異なる特性を有する複数特性画像であって、前記ノイズ除去手段は、前記複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理を行う特性変換手段をさらに備え、前記複数特性画像に対する前記ノイズ除去処理を行った後、前記特性変換手段による変換処理によって前記複数特性画像を特性が統一された統一特性画像に変換することが好ましい。(請求項4)
【0014】
これによれば、固体撮像素子による撮像により得られる画像が、複数の異なる特性を有する複数特性画像とされ、ノイズ除去手段において、複数特性画像に対するノイズ除去処理が行われた後、特性変換手段によって、複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理が行われて複数特性画像がその特性が統一された統一特性画像に変換される。
【0015】
また、上記構成において、前記固体撮像素子は、入射光量に対して電気信号が線形的に変換されて出力される線形光電変換特性と、該入射光量に対して電気信号が対数的に変換されて出力される対数光電変換特性とからなる光電変換特性を有するものであって、前記複数特性画像は、線形特性の画像と対数特性の画像とからなる線形/対数画像であることが好ましい。(請求項5)
【0016】
これによれば、固体撮像素子が、入射光量に対して電気信号が線形的に変換されて出力される線形光電変換特性と、該入射光量に対して電気信号が対数的に変換されて出力される対数光電変換特性とからなる光電変換特性を有するものとされ、複数特性画像が、線形特性の画像と対数特性の画像とからなる線形/対数画像とされる。
【0017】
また、上記構成において、前記固体撮像素子は、入射光量に対して電気信号が線形的に変換されて出力される第1の線形光電変換特性と、該第1の線形光電変換特性とグラフ上の傾きが異なる第2の線形光電変換特性とからなる光電変換特性を有するものであって、前記複数特性画像は、2種類の線形特性の画像からなる線形/線形画像であることが好ましい。(請求項6)
【0018】
これによれば、固体撮像素子が、入射光量に対して電気信号が線形的に変換されて出力される第1の線形光電変換特性と、該第1の線形光電変換特性とグラフ上の傾きが異なる第2の線形光電変換特性とからなる光電変換特性を有するものとされ、複数特性画像が、2種類の線形特性の画像からなる線形/線形画像とされる。
【0019】
また、上記構成において、前記特性変換手段は、前記複数特性画像を線形特性の画像に統一する変換処理を行うことが好ましい。(請求項7)
【0020】
これによれば、特性変換手段によって、複数特性画像を線形特性の画像に統一する変換処理が行われる。
【0021】
また、上記構成において、前記ノイズ除去量算出手段は、前記低周波成分のレベルに応じて与えられる、前記階調変換手段による階調変換処理としてのダイナミックレンジ圧縮処理におけるダイナミックレンジ圧縮率(k)と、既定値として与えられる前記画像のノイズ量(n)及び前記残留ノイズ量(r)とから前記各コアリング係数を算出することが好ましい。(請求項8)
【0022】
これによれば、ノイズ除去量算出手段によって、低周波成分のレベルに応じて与えられる階調変換手段による階調変換処理としてのダイナミックレンジ圧縮処理におけるダイナミックレンジ圧縮率(k)と、既定値として与えられる画像のノイズ量(n)及び残留ノイズ量(r)とから各コアリング係数が算出される。
【0023】
また、上記構成において、前記ノイズ除去量算出手段は、前記ダイナミックレンジ圧縮率を「1」としてコアリング係数を算出することが好ましい。(請求項9)
【0024】
これによれば、ノイズ除去量算出手段によって、ダイナミックレンジ圧縮率を「1」としてコアリング係数が算出される。
【0025】
また、上記構成において、前記ノイズ除去手段は、前記固体撮像素子による撮像により得られる画像からエッジ量を検出するエッジ量検出手段と、前記エッジ量検出手段により検出されたエッジ量に基づいて、前記コアリング処理におけるコアリングの度合いを調整する調整手段とをさらに備えることが好ましい。(請求項10)
【0026】
これによれば、ノイズ除去手段において、エッジ量検出手段によって、固体撮像素子による撮像により得られる画像からエッジ量が検出され、調整手段によって、エッジ量検出手段により検出されたエッジ量に基づいて、コアリング処理におけるコアリングの度合いが調整される。
【発明の効果】
【0027】
請求項1に係る撮像装置によれば、抽出された低周波成分のレベルに応じてノイズ除去量が算出されるので、すなわち階調変換処理を行うに際しての階調(輝度)レベル(低周波成分のレベルに対応する)に応じてノイズの除去量を設定することができるので、階調変換による伸張度合いが違うことによってノイズが目立つことのないようにすることができる。さらに、このノイズ除去量が、低周波成分のレベルに応じて、正側のノイズに対する正側ノイズ除去量と、負側のノイズに対する負側ノイズ除去量とに細分化して算出されて、この正側ノイズ除去量及び負側ノイズ除去量に基づいてコアリング処理が行われるので、ノイズ除去を高精度に行うことができる。これらのことにより、ひいては高画質な画像を得ることができる。
【0028】
請求項2に係る撮像装置によれば、ノイズ除去処理が行われた画像に対して階調変換処理を行った後に該画像に残る残留ノイズ量が、正側及び負側それぞれにおいて低周波成分のレベルに依らず一定となるように各コアリング係数が算出されるので、当該コアリング係数の算出方法を用いて、正側ノイズ除去量或いは負側ノイズ除去量であるコアリング係数を、容易に且つ確実に算出することができる。
【0029】
請求項3に係る撮像装置によれば、固体撮像素子により得られた画像(複数特性画像)がその特性が統一された統一特性画像に変換された後、この統一特性画像に対するノイズ除去処理が行われるので、統一特性画像にノイズ除去処理を施すことができる、すなわちノイズ除去処理が行われた時点で、既にその画像が統一特性画像であるようにすることができ、後段の階調変換手段における階調変換処理に、このノイズ除去処理後の画像をそのまま(変換処理動作を必要とせずに)使用可能な構成を実現することができる。
【0030】
請求項4に係る撮像装置によれば、固体撮像素子により得られた画像(複数特性画像)に対するノイズ除去処理が行われた後、特性が統一された統一特性画像に変換される構成であるので、画像に対するノイズ除去処理と、統一特性画像に変換する変換処理とを別々に行うことができ、すなわち例えばノイズ除去処理が施された画像に対して別の処理を施した後に、階調変換処理に供するべく当該変換処理を行うことができ、ひいては画像の取り扱いの自由度が高くなる(取り扱い性が向上する)。
【0031】
請求項5に係る撮像装置によれば、固体撮像素子が線形及び対数特性からなる光電変換特性を有し、この固体撮像素子により線形/対数画像が得られる構成であるので、広いダイナミックレンジを確保しつつ、当該正側及び負側のノイズを考慮した高精度のノイズ除去処理による高画質な画像を得ることが可能となる。
【0032】
請求項6に係る撮像装置によれば、固体撮像素子が傾きの異なる(2種類の)線形特性からなる光電変換特性を有し、この固体撮像素子により線形/線形画像が得られる構成であるので、広いダイナミックレンジを確保しつつ、当該正側及び負側のノイズを考慮した高精度のノイズ除去処理による高画質な画像を得ることが可能となる。
【0033】
請求項7に係る撮像装置によれば、複数特性画像が線形特性の画像に統一される、すなわち画像の特性が線形特性に統一される構成であるので、階調変換手段による階調変換処理を容易に行うことができるようになる。
【0034】
請求項8に係る撮像装置によれば、正側及び負側のコアリング係数が、低周波成分のレベルに応じて与えられるダイナミックレンジ圧縮率(k)と、既定値として与えられる画像のノイズ量(n)及び残留ノイズ量(r)とから算出されるので、すなわち、ノイズ量及び残留ノイズ量は既定値であり且つダイナミックレンジ圧縮率は低周波成分に応じて与えられるものであり、コアリング係数の算出に要する値は全て低周波成分に応じて定まると言うことができるので、正側及び負側のコアリング係数を、1つの評価(変化)パラメータである低周波成分を用いた簡易な演算によって容易に算出することができる。
【0035】
請求項9に係る撮像装置によれば、ダイナミックレンジ圧縮率を「1」としてコアリング係数が算出される構成であるので、ダイナミックレンジ圧縮を行わない(k=1)つまり階調変換を行わない場合における当該正側及び負側のコアリング係数が算出され、階調変換を行う前の段階において正側及び負側の残留ノイズが一定とされた高精度にノイズ除去がなされた画像を得ることができる。
【0036】
請求項10に係る撮像装置によれば、画像から検出されたエッジ量に基づいて、コアリング処理におけるコアリングの度合いが調整されるので、正側ノイズ除去量及び負側ノイズ除去量に基づく高精度なノイズ除去が行われるとともに、エッジ量が考慮されたすなわちエッジ保存がなされた、より高画質な画像を得ることができる。
【発明を実施するための最良の形態】
【0037】
(実施形態1)
図1は、第1の実施形態に係る撮像装置の一例であるデジタルカメラ1の主に撮像処理に関するブロック構成図を示す。図1に示すようにデジタルカメラ1は、レンズ部2、固体撮像素子3、アンプ4、A/D変換部5、ノイズ除去部6、階調変換部7、画像メモリ8、全体制御部9、モニタ部10及び操作部11を備えている。
【0038】
レンズ部2は、被写体光(光像)を取り込むレンズ窓として機能するとともに、この被写体光をカメラ本体の内部に配置されている固体撮像素子3へ導くための光学レンズ系を構成するものであり、例えば被写体光の光軸Lに沿って直列的に配置される例えばズームレンズやフォーカスレンズ、その他の固定レンズブロックからなるレンズ群である。レンズ部2は、当該レンズの透過光量を調節するための絞り(図略)やシャッタ(図略)を備えており、全体制御部9によってこの絞りやシャッタが駆動制御される。
【0039】
固体撮像素子3は、レンズ部2により結像された被写体光像の光量に応じ、R、G、Bの各色成分の画像信号に光電変換して後段のアンプ4へ出力する撮像センサである。本実施形態においては、固体撮像素子3として、図4に示すような入力輝度(センサ入射輝度)が低い場合(暗時)に出力画素信号(光電変換により発生する出力電気信号)が線形的に変換されて出力される線形特性と、輝度が高い場合(明時)に出力画素信号が対数的に変換されて出力される対数特性とからなる光電変換特性、換言すれば、低輝度側が線形の光電変換特性、高輝度側が対数特性の光電変換特性を有するものが用いられる。このような光電変換特性を有する固体撮像素子3(リニアログセンサという)による撮像によって線形/対数画像が得られる。なお、線形特性と対数特性との切り替わり点(変曲点)は、固体撮像素子3の各画素回路に対する所定の制御信号に基づいて任意に変化させることが可能である。また、光電変換特性における上記線形特性に示すような低輝度側の特性を「低輝度側特性」、上記対数特性に示すような高輝度側の特性を「高輝度側特性」と表現するものとする。
【0040】
図2は、固体撮像素子3の一例である二次元のMOS型固体撮像装置(CMOSイメージセンサ)の概略構成図である。同図において、G11〜Gmnは、行列(マトリクス)配列された画素を示している。この画素G11〜Gmnからなる画素部の外周縁部近傍には、垂直走査回路301と水平走査回路302とが配設されている。垂直走査回路301は、行のライン(信号線)304−1、304−2、・・・304−n(これらを纏めて行ライン304という)を順次走査する。水平走査回路302は、各画素から出力信号線306−1、306−2、・・・306−m(これらを纏めて出力信号線306という)に導出された光電変換信号を画素毎に水平方向に順次読み出す。なお、各画素は電源ライン305により電力供給がなされている。
【0041】
出力信号線306−1、306−2、・・・306−mには、それぞれ、後述のトランジスタT12と対になって増幅回路を構成する定電流源307−1、307−2、・・・307−m(これらを纏めて定電流源307という)が設けられている。ただし、この増幅回路として、定電流源307に代えて抵抗やトランジスタを設けてもよい。この出力信号線306を介して出力される各画素の撮像時の画像データ及びリセット時の補正データが、順次、選択回路(サンプルホールド回路)308−1、308−2、・・・308−m(これらを纏めて選択回路308という)に出力される。この選択回路308に対して、行毎に画像データ及び補正データが出力されてサンプルホールドされる。サンプルホールドされた画像データ及び補正データは、列毎に、補正回路309に出力され、補正回路309において、感度バラツキによるノイズ成分が除去されるように、補正データに基づいて画像データの補正が行われる。そして、補正回路309から各画素の感度バラツキが補正された画像データが、各画素毎にシリアルに出力される。
【0042】
図3は、図2に示す各画素G11〜Gmnの構成例を示す回路図である。同図に示すように、固体撮像素子3の各画素は、フォトダイオードPD1、MOSFET(Metal Oxide Semiconductor Field Effect Transistor)としてのトランジスタT10〜T13、及びFD(Floating Diffusion)から構成されている。トランジスタT10〜T13は、ここではNチャンネルMOSFETが採用されている。VDD、φRSB、φRST、φTX及びφVは、各トランジスタに対する信号(電圧)を示し、GNDは接地を示している。
【0043】
フォトダイオードPD1は、感光部(光電変換部)であり、被写体からの入射光量に応じた電気信号(光電流IPD1)を出力する。トランジスタT12は、図2に示す定電流源307と対になってソースフォロワ増幅用の増幅回路(ソースフォロワアンプ)を構成するものであり、後述する電圧V1OUTに対する増幅(電流増幅)を行う。トランジスタT13は、ゲートに印加する電圧(信号φV)に応じてオン、オフされるスイッチとして動作する信号読み出し用のトランジスタ(行選択トランジスタ)である。トランジスタT13のソースは、図2に示す出力信号線306に接続されており、トランジスタT13がオンした場合、トランジスタT12で増幅された電流を出力電流として出力信号線306へ導出する。
【0044】
トランジスタT10は、同トランジスタのゲートに印加される電圧に応じてオン、オフされるスイッチとして動作するものであって、当該ゲート電位の高低によるオン、オフ切り替えに応じて、フォトダイオードPD1で発生した光電流IPD1(電荷)のFDに対する転送、非転送の切り替えを行う所謂転送ゲートとなるものである。フォトダイオードPD1で発生した光電流IPD1はフォトダイオードPD1の寄生容量に流れてその電荷が蓄積され、蓄積電荷量に応じた電圧が発生する。このときトランジスタT10がオン状態であれば、この寄生容量に蓄積された電荷(負電荷)がFDへ向けて移動する。FDは、電荷(信号電荷)を一旦保持しておく電荷保持部であり、この保持した電荷を電圧に変える(電荷電圧変換を行う)所謂キャパシタの役割を担うものである。
【0045】
トランジスタT11(リセットゲートトランジスタ)は、同トランジスタのゲート電圧の高低によるオン、オフ切り替えに応じてFDに対するリセットバイアスの印加、非印加の切り替えを行うものであるとともに(例えばトランジスタT11がオン状態の場合、トランジスタT10もオン状態となっており、トランジスタT11、FD、トランジスタT10及びフォトダイオードPD1を挟んだφRSB及びGND間にリセットバイアスがかけられた状態となる)、ゲート電圧をMid電位(中間レベル)とすることで、フォトダイオードPD1からFDに移動する電荷(FDを流れる電流)のFD及びトランジスタT11による電荷電圧変換によってそれぞれ線形変換及び対数変換を行わせるものである。
【0046】
この場合、トランジスタT11には上記Mid電位に応じた電流(リセット電流)が流れ、トランジスタT11のソースがこのリセット電流に応じた電位となる。そして、フォトダイオードPD1から移動してくる電荷による電位が、Mid電位に応じたトランジスタT11のソース電位より小さい場合には、すなわち撮像する被写体の輝度が低く、つまり被写体が暗く、フォトダイオードPD1に入射される入射光量が少ない場合には、FDにおいて線形変換としての電荷電圧変換が行われ、一方、ソース電位を超える場合には、すなわち撮像する被写体の輝度が高く、つまり被写体が明るく、フォトダイオードPD1に入射される入射光量が多い場合には、トランジスタT11において対数変換としての電荷電圧変換が行われる。
【0047】
これにより、FDとトランジスタT12との接続ノード(出力V1OUT)には、FDにおける光電流IPD1の積分値による線形出力としての電圧、或いはトランジスタT11における光電流IPD1に応じた電流−電圧変換による対数出力としての電圧が現れる。すなわち、光電変換特性における線形特性領域での出力値はFDにおける光電流IPD1の積分値となるが、対数特性領域については、FD部に蓄えられた電荷による電位がトランジスタT11(リセットゲート)のソース電流を超えた領域において、光電流IPD1と等しい電流がトランジスタT11に流れ、トランジスタT11において光電流IPD1が電流−電圧変換された値(電圧)が当該出力値としてFD部に現れる(信号電荷を対数圧縮した電荷が上記寄生容量に蓄積される)。このトランジスタT11での電流−電圧変換が上記対数変換に相当する。そして、トランジスタT13がオンされると、これら各電圧に応じたトランジスタT12による増幅電流が、トランジスタT13を介して出力電流として出力信号線306に導出される。このように固体撮像素子3により、被写体輝度(センサ入射輝度)に応じて線形変換又は対数変換された出力信号が得られる。
【0048】
なお、ここでは、固体撮像素子3の各画素において上記NチャンネルMOSFETを採用しているが、PチャンネルMOSFETを採用してもよい。また、固体撮像素子3として、上述のようにFDを用いて線形変換及び対数変換を行うCMOSイメージセンサに限らず、例えばMOSFET(P型又はN型)の所謂サブスレッショルド特性(ゲート電圧が閾値以下の時にサブスレッショルド電流と呼ばれる微小電流が流れる特性)を利用することで当該線形変換及び対数変換を行うCMOSイメージセンサを採用してもよい。ただし、CMOSイメージセンサに限らず、VMISイメージセンサやCCDイメージセンサ等であってもよい。
【0049】
アンプ4は、例えばAGC(オートゲインコントロール)回路を備え、固体撮像素子3から入力されるアナログ画像信号がA/D変換部5の入力電圧範囲に合うように、適切な増幅率で増幅するものである。アンプ4は、AGC回路の他、画像信号のサンプリングノイズの低減を行うCDS(相関二重サンプリング)回路等を備えていてもよい。なお、AGC回路に対するゲイン値は全体制御部9によって設定される。
【0050】
A/D変換部5は、アンプ4にて増幅(ゲイン調整)されたアナログ画像信号をデジタル画像信号に変換するものであり、固体撮像素子3の各画素で受光して得られる画素信号をそれぞれ例えば12ビットの画素データに変換する。
【0051】
ノイズ除去部6は、A/D変換部5から入力される画像信号のノイズを除去するものである。なお、ノイズ除去部6から出力される画像信号は、後述するように特性が線形特性に統一された状態の画像信号である。このノイズ除去部6の構成及び動作の詳細については後述する。
【0052】
階調変換部7は、ノイズ除去部6から入力される画像信号(線形画像信号)が適切な出力レベルとなるように、画像信号に対して階調変換処理を行い、該画像信号の階調特性を変化させるものである。この階調変換においては、一般的にDR圧縮と呼ばれる技術を利用する。DR圧縮技術の一例として、画像から照明成分と反射率成分とを抽出し(画像を照明成分と反射率成分とに分解し)、照明成分を圧縮した後、これを反射率成分と合成する方法がある。この技術は、広ダイナミックレンジ画像は、照明成分が広ダイナミックレンジであるので、この照明成分のダイナミックレンジを圧縮すればよい、という考えに基づいている。
【0053】
画像(入力画像、基画像)Iは、照明成分Bと反射率成分Dとを用いて、以下の(1)式で表すことができる。
I=B*D ・・・(1)
但し、記号「*」は乗算を示す(以降同じ)。
【0054】
上記照明成分Bは、低周波であるとの仮定に基づき、画像Iをローパスフィルタ(LPF)に通すことで求めることができる。ここで、照明成分Bの高輝度部を適切な出力レベルとなるように処理を施し、すなわちDR圧縮を行い、これにより圧縮後の照明成分B’を得る。この照明成分B’を用いてDR圧縮された画像I’は以下の(2)式により表される。
I’=B’*D ・・・(2)
【0055】
また、上記(1)、(2)式より、画像I’は以下の(3)式で表される。
I’=I*B’/B=k(B)*I ・・・(3)
但し、k(B)(=B’/B)(k(B)を単にkとも表す)は、DR圧縮率又は圧縮特性を示す。
【0056】
画像メモリ8は、ROM(Read Only Memory)やRAM(Random Access Memory)等のメモリからなり、ノイズ除去部6や階調変換部7においてデータ処理される前のRAW画像データ、或いはノイズ除去部6、階調変換部7又は全体制御部9での各種データ処理時又は処理後の画像データ等を格納するものである。
【0057】
全体制御部9は、各制御プログラム等を記憶するROM、一時的に各種データを格納するRAM、及び制御プログラム等をROMから読み出して実行する中央演算処理装置(CPU)等からなり、デジタルカメラ1全体の動作制御を司るものである。全体制御部9は、固体撮像素子3や操作部11等の各処理部から送信されてくる情報(信号)と装置の動作状態とに基づき、各処理部が必要とするパラメータ等の動作情報を算出し、これを送信することで各処理部の動作を制御する。
【0058】
モニタ部10は、例えばカメラ背面に配設されたカラー液晶表示素子からなる液晶表示器(LCD;Liquid Crystal Display)等からなり、固体撮像素子3による撮影画像、すなわちノイズ除去部6や階調変換部7で処理された画像や画像メモリ8に格納されている画像等を表示するものである。モニタ部10は、後述のノイズ除去処理(コアリング処理)等の各種処理結果が反映された画像を表示してもよい。
【0059】
操作部11は、デジタルカメラ1に対するユーザによる操作指示(指示入力)を行うものであり、例えば電源スイッチ、レリーズスイッチ、各種撮影モードを設定するモード設定スイッチ等の各種の操作スイッチ群(操作ボタン群)からなる。例えば、上記レリーズスイッチが押下(オン)されることで、撮像動作すなわち固体撮像素子3により被写体光が撮像され、この撮像により得られた画像データに対して所要の画像処理が施された後、画像メモリ8等に記録されるといった一連の撮影動作が実行される。
【0060】
ここで、ノイズ除去部6の構成及び動作の詳細について説明する。図5は、ノイズ除去部6の一例を示すブロック構成図である。同図に示すようにノイズ除去部6は、LPF部61、線形変換部62A、62B、減算部63、コアリング処理部64、コアリング係数算出部65、エッジ量検出部66、合成係数算出部67、合成部68及び加算部69を備えている。
【0061】
LPF部61は、ノイズ除去部6に入力されてきた画像信号、すなわち固体撮像素子3により得られた線形/対数画像(基画像I)に対して、ガウシアンフィルタ等の線形のLPFによるフィルタ処理(LPF処理)を行い、この基画像Iから低周波成分を抽出するものである。ただし、このLPF処理に用いるLPFは線形フィルタに限らず、メディアンフィルタ等の非線形フィルタであってもよい。
【0062】
線形変換部62Aは、LPF部61によりLPF処理された線形/対数画像の低周波成分l(低周波成分画像)に対して、この線形/対数画像における対数特性の画像を線形特性の画像に変換する変換処理(対数特性を線形特性へ変換する変換処理のことを「ログリニア変換」という)を行うものである。これは、謂わば線形及び対数の2種類の特性からなる画像データを、線形特性1種類の画像データに統一して扱えるようにする処理である。なお、線形特性つまり線形画像に統一された画像のことを「統一線形画像」という。また、線形/対数画像に対してログリニア変換を行って統一線形画像を得ることを、適宜、線形/対数特性(画像)を線形変換するとも表現する。なお、低周波成分lが線形変換部62Aにより線形変換されて出力されたもの(統一線形画像)を低周波成分Lとする。
【0063】
線形変換部62Bは、LPF部61によりLPF処理されていないそのままの基画像I(線形/対数画像)に対して上記と同様に線形変換(ログリニア変換)を行い、統一線形画像として出力するものである。
【0064】
減算部63は、線形変換部62Bから出力された統一線形画像(入力画像信号が線形変換された信号)から、線形変換部62Aから出力された低周波成分Lを減算(或いは低周波成分Lを負の値として加算)することで、当該統一線形画像から高周波成分Hを抽出するものである。
【0065】
コアリング処理部64は、後述するコアリング係数算出部65により算出されたコアリング係数に基づいてコアリング処理を行うものである。コアリング処理は、画像信号における微小振幅信号をノイズと見なして取り除く処理である。コアリング処理部64は、減算部63により抽出された高周波成分Hに対して、図6に示す入出力特性(コアリング特性C1という)に基づくコアリング処理を行う。コアリング特性C1における記号「S」は、コアリング係数算出部65で算出されるコアリング係数Sを示す。このコアリング処理では、入力が−Sより大きくSより小さいときには出力がゼロ(0)となり、入力が−S以下であるときには出力が、入力に対してSを加えた値となり、入力がS以上であるときには出力が、入力に対してSを減じた値となるような変換処理が行われる。本実施形態では、このコアリング係数Sの値を、ノイズ除去精度が高くなるような値に設定する。この場合、コアリング係数Sは、低周波成分やDR圧縮率により変化するだけでなく、低周波成分に対してノイズが正側又は負側のノイズであるということによっても変化する。
【0066】
コアリング係数算出部65は、コアリング係数Sを算出(設定)するものである。コアリング係数算出部65は、線形変換部62Aから出力された低周波成分L及び減算部63から出力された高周波成分H、並びにノイズ量(n)、残留ノイズ量(r)及びDR圧縮率(k)の情報を用いてコアリング係数Sを算出する。コアリング係数算出部65において算出されたコアリング係数Sの情報はコアリング処理部64に入力される。このコアリング係数Sの算出については後に詳述する。
【0067】
ところで、ノイズ量n、残留ノイズ量r及びDR圧縮率kの情報は、全体制御部9において設定される(全体制御部9から与えられる)ものであり、例えば全体制御部9内或いはこれに接続される所定のメモリに記憶されている。ノイズ量n及び残留ノイズ量rは、例えば工場出荷時において、所定の基準画像(平坦な画像;例えば空や壁の画像)をデジタルカメラ1で撮影し、どれくらいのノイズ量nや残留ノイズ量rを与えてやれば高画質な画像が得られるのかを調整によって決める謂わば調整値である。例えばノイズ量nについては、製造された各デジタルカメラ1による撮影画像に固有のノイズ量nはどれくらいの大きさであるのかを測定するなどして定めた値(測定値、既定値)である。残留ノイズ量rは、ノイズ除去処理後にどれくらいのノイズ量rが残っていても許容されるのかつまりノイズの許容量について定めた値(既定値)であり、例えば、この残留ノイズ量rを0(ゼロ)と定めてもよいし、ノイズ量nの何分の1の量と定めてもよい。
【0068】
また、DR圧縮率kは、階調変換部7によるDR圧縮において使用される値として定められる。このDR圧縮率kは、上記(3)式に示すように照明成分B、B’の関数すなわち低周波成分の関数(低周波成分に応じて決定される値)であるので、上記線形変換部62A等により得られる低周波成分Lの値に応じて決定される。この場合例えばメモリ(テーブル)に既定値(固定値)として記憶しておいた各種DR圧縮率kの中から当該低周波成分Lの値に対応するDR圧縮率kの情報を取り出してくる構成としてもよい。なお、本実施形態では、コアリング係数算出部65に低周波成分Lの情報が入力されると、コアリング係数算出部65はこの低周波成分Lの情報を全体制御部9へ送信し、全体制御部9では、この低周波成分Lに対応するDR圧縮率kを該全体制御部9内のメモリに記憶してある上記テーブルから選択するとともに、当該低周波成分Lに応じて選択したDR圧縮率k(k(L))の情報をコアリング係数算出部65へ送信する構成となっている。
【0069】
なお、上述のようにノイズ量n及び残留ノイズ量rは既定値であり、またDR圧縮率kは低周波成分L(後述の第2の実施形態では低周波成分l)によって決まる値である、つまりこれらパラメータは全て低周波成分Lで表せるものである(低周波成分の関数である)ことから、コアリング係数算出部65は、コアリング係数Sを低周波成分のレベルに応じて(低周波成分に基づいて)算出(設定)する、と換言できる。
【0070】
エッジ量検出部66は、線形変換部62Bから出力された統一線形画像(線形/対数画像)に対してエッジ検出処理を行い、この統一線形画像からエッジ量を検出するものである。具体的にはエッジ量検出部66は、エッジ検出処理として、SobelフィルタやPrewittフィルタ等のエッジ強度検出用フィルタを用いたフィルタ処理を行うことで、画像ここでは統一線形画像(第2の実施形態では線形変換されていない画像I)からエッジ量e(エッジ強度)を検出する。
【0071】
合成係数算出部67は、エッジ量検出部66により検出したエッジ量eの情報を用いて合成係数(エッジ保存係数)Eを算出するものである。このエッジ量eの情報を用いた合成係数Eの算出は、例えば図7に示す特性に基づいて行われる。この特性において横軸はエッジ量eであり、縦軸は合成係数Eである。エッジ量eにおけるel、ehの値は予め与えられる閾値である。合成係数Eはこの閾値のエッジ量el、ehを用いた以下に示される値として算出される。
e≦elのとき E=1.0
el<e<ehのとき E=(eh−e)/(eh−el)
e≧ehのとき E=0(ゼロ)
【0072】
なお、エッジ量el、ehの値は全体制御部9において設定或いは算出される(全体制御部9から与えられる)、すなわち例えば全体制御部9内或いはこれに接続されたメモリに既定値として記憶されたものであってもよいし、エッジ量検出部66により検出されたエッジ量に応じて都度、算出されるものであってもよい。
【0073】
合成部68は、高周波成分Hと、上記コアリング処理部64においてこの高周波成分Hにコアリング処理が施されてなる高周波成分Hcとを、合成係数算出部67により算出された合成係数Eを用いて合成するものである。当該合成により得られるものを高周波成分H’とすると、このH’は、例えばH’=E*Hc+(1−E)*Hの式で表される。この式は、謂わば高周波成分Hに対してどのくらいの割合でコアリングを行うか、すなわち、エッジ量eがelより小さいものはコアリング処理した画像(Hc)をそのまま使用され(E=1.0の場合でありH’=Hcとなる)、エッジ量eがエッジ量elより大きくなるにつれて徐々にコアリングされていない画像(H)に置き換えられる(コアリング量を小さくしていくことと同じ)ことを示している。
【0074】
これらエッジ量検出部66、合成係数算出部67及び合成部68によるエッジ量検出、合成係数算出及び合成処理は、コアリングするに際して、画像に必要なエッジ情報の欠落を低減するためのものであると言える。エッジ量が大きいほどノイズ成分除去(コアリング)の程度が抑えられてエッジ成分が保存される、すなわち、画像においてエッジ量eが大きい部分は、合成係数Eを小さくすることで、コアリング処理された高周波成分Hcの合成比が小さくなり、一方、コアリング処理が行われていない高周波成分Hの合成比が大きくなるため、エッジ情報の欠落が低減される。合成された高周波成分H’は、エッジ部の情報は残されたまま、画像平坦部のノイズが除去された信号となっている。
【0075】
加算部69は、合成部68により得られた高周波成分H’と、上記線形変換部62Aからの低周波成分Lとを加算(合成)するものである。この加算処理により、ノイズが除去された出力画像Oが得られる。この出力画像Oは後段の処理部へ出力される。
【0076】
このような構成を備えたノイズ除去部6において、上述したようにコアリング係数Sの値をノイズ除去精度が高くなるような値に設定し、このコアリング係数Sに基づいて上記ノイズ除去処理(コアリング処理)を行う。以下に、このコアリング係数Sをどのような値に設定するか或いはどように算出するか等についてその原理を説明する。先ず、線形/対数特性から線形特性への変換によって、ノイズ量がどのように変化するのか或いはどのような値になるのかについて説明する。
【0077】
[線形/対数特性から線形特性への変換におけるノイズについての説明]
線形/対数特性の光電変換特性は一般的に以下の(4)、(5)式のように表される。
v=a*u+B (u≦Uth) ・・・(4)
v=α*ln(u)+β (u>Uth) ・・・(5)
【0078】
ここで、上記(4)、(5)式におけるx=a*u、y=v−bとおくと(原点を通るようにする)、以下の(6)、(7)式が得られる。
y=x (x≦T、y≦T) ・・・(6)
y=c*ln(x)+d (x>T、y>T) ・・・(7)
但し、c=α、d=−α*ln(a)+β−b、T=a*Uth
以下、この(6)、(7)式を線形/対数特性の光電変換特性として計算する。
【0079】
この線形/対数特性の対数特性を線形特性に変換して全体で1つの線形特性にする(線形特性に統一する)。変換後の線形特性をYとすると、Yは上記(6)、(7)式より以下の(8)、(9)式と表される。
Y=y (y≦T) ・・・(8)
Y=exp((y−d)/c) (y>T) ・・・(9)
但し、記号「/」は除算を示す(以降同じ)。
したがって、yがノイズの無い信号であるとすると、全y(すなわち全x)において、Y=xとなる。
【0080】
ところで、固体撮像素子3により光電変換された後で、信号にのるノイズ(ランダムノイズ)は、線形特性領域、対数特性領域に関係なくその大きさが一定と考えられるので、ノイズを有する信号をyn、ノイズをn(n>0)とすると、yn=y±nと表すことができる。すなわち、信号yn=y±nは、信号yに対してこのyの値よりも大きな値となる(画像の信号yに対して該信号のレベルよりもレベルが高い値となる)つまりyのグラフに対して正側(図における上側に存在する)のノイズと、yの値よりも小さな値となる(画像の信号yに対して該信号のレベルよりもレベルが低い値となる)つまりyのグラフに対して負側(図における下側に存在する)のノイズとが当該信号yを挟んで略同等の振幅を有する波(ランダムな波形ではあるが、信号yを挟んで正側及び負側で略同じ大きさの波の高さを有している)として存在しており、この場合の正側の各ノイズ波の例えば包絡線(各ノイズ波の曲線族と接線を共有する線)に相当するものをyn=y+nとし、負側も同様に各ノイズ波の包絡線に相当するものをyn=y−nとしている。なお、この信号yに対するノイズ±nは、このように包絡線に相当するものに限定されず、例えば正側、負側それぞれにおけるノイズの平均値(正側の平均値が+n、負側の平均値が−n)、最高レベル、ピークtoピーク、或いはRMS(二乗平均粗さ)等、任意に設定可能である。
【0081】
上記(6)、(7)式より、ノイズが正側のノイズ(ノイズ正側)である場合(yn=y+n)、以下の(10)、(11)式のように表される。
ノイズ正側
yn=x+n (x≦T、yn≦T+n) ・・・(10)
yn=c*ln(x)+d+n (x>T、yn>T+n) ・・・(11)
【0082】
また、ノイズが負側のノイズ(ノイズ負側)である場合(yn=y−n)、以下の(10)’、(11)’式のように表される。
ノイズ負側
yn=x−n (x≦T、yn≦T−n) ・・・(10)’
yn=c*ln(x)+d−n (x>T、yn>T−n) ・・・(11)’
【0083】
ynを線形特性に変換したものをYnとすると、このYnは、ノイズ正側の場合、上記(8)〜(11)式より以下の(12)〜(14)式で表される。
ノイズ正側
Yn=yn=x+n (yn≦T、x≦T−n) ・・・(12)
Yn=exp((yn−d)/c)
=exp((x+n−d)/c)
=exp((x−d)/c)*exp(n/c) (T<yn≦T+n、T−n<x≦T) ・・・(13)
Yn=exp((yn−d)/c)
=exp((c*ln(x)+d+n−d)/c)
=x*exp(n/c) (T+n<yn、T<x) ・・・(14)
【0084】
また、Ynは、ノイズ負側の場合、上記(8)、(9)、(10)’及び(11)’式より、以下の(12)’〜(14)’式で表される。
ノイズ負側
Yn=yn=x−n (yn≦T−n、x≦T) ・・・(12)’
Yn=yn=c*ln(x)+d−n (T−n<yn≦T、T<x≦T*exp(n/c)) ・・・(13)’
Yn=exp((yn−d)/c)
=exp((c*ln(x)+d−n−d)/c)
=x*exp(−n/c) (T<yn、T*exp(n/c)<x) ・・・(14)’
【0085】
これら(12)〜(14)式及び(12)’〜(14)’式は、図8に示すグラフとなる。すなわち図8のグラフにおいて、ノイズ正側の場合、(12)式に相当するものが符号401で示す特性(特性401)、(13)式に相当するものが符号402で示す特性(特性402)、(14)式に相当するものが符号403で示す特性(特性403)となる。また、ノイズ負側の場合、(12)’式に相当するものが符号411で示す特性(特性411)、(13)’式に相当するものが符号412で示す特性(特性412)、(14)’式に相当するものが符号413で示す特性(特性413)となる。
【0086】
ここで、図8の符号421で示す特性(特性421)は、上記(6)、(7)式に示す線形/対数特性であり、これが線形変換されてY=x(上記(8)、(9)式におけるノイズのない信号であると仮定した場合)の特性422(統一線形特性になる。一方、特性421の信号に対する正側のノイズは符号431で示す特性(特性431;yn(+))で示され、特性421の信号に対する負側のノイズは符号441で示す特性(特性441;yn(−))で示される。この特性431、441が上記特性421から特性422への線形変換と同様に線形変換される場合に、それぞれ、線形の特性442、432(特性422と平行な特性グラフ)に変換されずに(特性442、432に変換されるのであれば問題がないが)、当該特性401、402及び403に示す正側の特性、及び特性411、412及び413に示す負側の特性に変換されてしまう。
【0087】
なお、値Tを変曲点Tとすると、T−n<x≦Tの範囲4021つまり正側の特性402は、理論的には特性432上の線形特性となる筈であるが、ノイズの各値(画素値)で見た場合、例えばノイズ波上の符号451の点に示すように、変曲点T(y座標)を超えているので、実際には線形特性のデータであるにも拘わらず、当該変曲点Tを超えているノイズデータが対数特性のデータであると誤認識されてしまい(ノイズを対数特性の信号と間違ってしまい)、特性402のように変換される。T<x≦T*exp(n/c)の範囲4121つまり負側の特性412も同様に、ノイズの各値(画素値)で見た場合、例えばノイズ波上の符号461の点に示すように、変曲点T(y座標)より小さい値となっているので、実際には対数特性のデータであるにも拘わらず、当該変曲点T未満のノイズデータが線形特性のデータであると誤認識されてしまい(ノイズを線形特性の信号と間違ってしまい)、特性412のように変換される。特性403、413では、実際の特性と画素値の特性とが同じであるものの、当該信号y(Y)に対する対数領域でのノイズ+n、−nの所謂オフセットの分がそれぞれ上記特性402、412に対する変曲点T、T*exp(n/c)(x座標)からの続きの値として加えられたものとなる。このように、線形変換されることにより、正側、負側のノイズは、特性432、442とならずに、原点を通る直線上の特性403、413のようにx座標の値が大きくなるにつれて広がるような特性に変換されるので、Y=xの特性422に対する正側のノイズ量と負側のノイズ量とが、それぞれ、x>T−nの範囲において一定でなく、異なる値となってしまう。
【0088】
上述においては、線形/対数特性から線形特性への変換により、ノイズ量が正側と負側とで異なるものとなることを示したが、次に、このような正側と負側とで異なる特徴を有するノイズに対してノイズ除去処理を行った後の残留ノイズ量が、どようなコアリング係数Sを設定すれば一定となるのかということについて説明する。
【0089】
[コアリング係数算出についての説明]
ノイズがのった画像信号を低周波成分と高周波成分とに分けると、高周波成分には画像信号の高周波成分とノイズとが含まれるが、ここではコアリング係数を求めるべくノイズ量だけを計算上で求めたいので、このノイズについてだけ考えることとし、ノイズは画像の平坦部(信号波形における緩やか(なだらか)なところ;急峻でない変化の少ないところ)にのっているものと仮定して説明する。この場合、画像信号には高周波成分が存在せず、低周波成分が画像信号に等しいものとなり、ノイズ成分は高周波成分に相当するものとして扱う。
【0090】
線形変換前のノイズを含んだ信号は前述のようにyn=y±nである。このynをLPFに通してなる信号をl(Lの小文字)とすると、上記±nの項は平均化(キャンセル)されて0(ゼロ)となるので、l=LPF(yn)=LPF(y)と表される。但し、LPF(yn)はLPFにynを通す処理(LPF処理)を示している。yは低周波画像であるので、LPF(y)はyと見なすことができ、上記(6)、(7)式を満たす。したがって、lは上記(8)、(9)式により線形変換することができ、以下の(15)式で示すLで表すことができる。
L=Y=x ・・・(15)
但し、Lは線形変換後の画像信号(の低周波成分)となる。
【0091】
なお、仮に、上記ynを線形変換後にLPFに通すとすると、上記(13)、(14)、(13)’及び(14)’式から分かるようにノイズは正側と負側とで等しくないので±nの項は0(ゼロ)にはならず、上記(15)式は成立しない。このことから、LPF処理後に線形変換するようにしている(LPF部61の後段に線形変換部62Aが配置されている)。
【0092】
ここで、線形変換後のノイズを含んだ画像信号Ynは、上記ノイズ正側の(12)〜(14)式及びノイズ負側の(12)’〜(14)’式に対して上記(15)式を用いることで、それぞれ以下の(16)〜(18)式及び(16)’〜(18)’式に示すように低周波成分Lで表すことができる。
ノイズ正側
Yn=L+n (L≦T−n) ・・・(16)
Yn=exp((L−d)/c)*exp(n/c) (T−n<L≦T) ・・・(17)
Yn=L*exp(n/c) (T<L) ・・・(18)
ノイズ負側
Yn=L−n (L≦T) ・・・(16)’
Yn=c*ln(L)+d−n (T<L≦T*exp(n/c))・・・(17)’
Yn=L*exp(−n/c) (T*exp(n/c)<L) ・・・(18)’
【0093】
<ノイズ量の算出>
高周波成分Hは、画像信号Ynから上記(15)式の低周波成分Lを減算したものであるから、H=Yn−Lである。
ところで、これまでノイズ量を正側、負側というように正・負の値として扱ってきたが、説明の都合上(後述のコアリング係数を正、負に依らずに比較したいがため)、このノイズ量Nを“正”(N≧0)として扱いたいので、ノイズ量Nは高周波成分Hであることから、このHを利用して、
H≧0のとき、ノイズ正側でN=H
H<0のとき、ノイズ負側でN=−H
とする。すなわち、ノイズ量の“正・負”を、高周波成分Hの“正・負”に置き換えている(なお、ノイズ量Nが正側のものであるか負側のものであるかは、Hが正の値であるか負の値であるかによって判断できるとも言える)。
【0094】
線形変換後のノイズ量Nは、ノイズ正側(H≧0)の場合、上記(16)〜(18)式より、以下の(19)〜(21)式で表される。
ノイズ正側
N=L+n−L=n (L≦T−n) ・・・(19)
N=exp((L−d)/c)*exp(n/c)−L (T−n<L≦T) ・・・(20)
N=L*(exp(n/c)−1) (T<L) ・・・(21)
【0095】
また、ノイズ負側(H<0)の場合、上記(16)’〜(18)’式より、以下の(19)’〜(21)’式で表される。
ノイズ負側
N=L−(L−n)=n (L≦T) ・・・(19)’
N=L−(c*ln(L)+d−n) (T<L≦T*exp(n/c)) ・・・(20)’
N=L*(1−exp(−n/c)) (T*exp(n/c)<L) ・・・(21)’
すなわち、ノイズ量Nは、これら(19)〜(21)式及び(19)’〜(21)’式に示すように低周波成分Lを用いて表すことができる。
【0096】
なお、このように“線形変換後”のノイズ量Nについて考えるのは、ノイズ除去部6でのノイズ除去処理後における階調変換部7での階調変換処理に際して、一つの特性ここでは線形特性に統一された画像に対して階調変換(DR圧縮)が行われるので、線形変換後のノイズ量における階調変換による影響を考慮して逆算的に当該ノイズ量を評価するためである。
【0097】
<DR圧縮後の残留ノイズ量が一定となる条件>
階調変換部7でのDR圧縮後の残留ノイズ量r(r≧0)が輝度(或いは低周波成分のレベル)に依らず一定となるようにコアリング係数を求める。コアリング係数(コアリング量)をS(S≧0)、コアリング処理後のノイズ量をR(R≧0)とすると、ノイズ量Rは以下の(22)式で表される。ただし、ここでは残留ノイズについて考えているので、N≧Sの場合のみを扱うものとする。すなわち、ノイズ量はコアリング量よりも大きいものであるとし(ノイズがコアリング量より大きな場合だけを考えるものとする)、ノイズ量がコアリング量よりも小さい場合は、図6より、以下の(22)’式に示すように一律にゼロとなる。
R=N−S (N≧S) ・・・(22)
R=0 (N<S) ・・・(22)’
【0098】
コアリング処理後の画像信号をYsとすると、Ysはノイズ正側及び負側において以下の(23)、(23)’式と表される。
ノイズ正側 Ys=L+R ・・・(23)
ノイズ負側 Ys=L−R ・・・(23)’
【0099】
DR圧縮後の画像信号をYs’とすると、上記(3)、(23)、(23)’式より、Ys’はノイズ正側及び負側において以下の式で表される。
ノイズ正側 Ys’=k(B)*(L+R)=k(B)*L+k(B)*R
ノイズ負側 Ys’=k(B)*(L−R)=k(B)*L−k(B)*R
この式における残留ノイズ量は、k(B)*Rであり、これがr(r≧0)一定であるので、k(B)*R=rとなる。
ここで、上記(3)式のDR圧縮率k(B)のBは、照明成分すなわち低周波成分である。画像Iからの照明成分Bと低周波成分Lとの抽出方法は異なる可能性があるが、ここでは前述のように画像平坦部のノイズを考えているため、照明成分Bと低周波成分Lとは等しいものと考えてよい。したがって、k(B)=k(L)として、上記k(B)*R=rは、以下の(24)式で表されることになる。
k(L)*R=r ・・・(24)
【0100】
上記(22)、(24)式より、コアリング係数Sは以下の(25)式で表される。
S=N−r/k(L) ・・・(25)
すなわちこの(25)式を満たすコアリング係数Sを求めればよい。
【0101】
コアリング係数Sは、ノイズ正側の場合、上記(19)〜(21)式及び(25)式により、以下の(26)〜(28)式で表される。
ノイズ正側
S=n−r/k(L) (L≦T−n) ・・・(26)
S=exp((L−d)/c)*exp(n/c)−L−r/k(L) (T−n<L≦T) ・・・(27)
S=L*(exp(n/c)−1)−r/k(L) (T<L) ・・・(28)
【0102】
また、ノイズ負側の場合、上記(19)’〜(21)’式及び(25)式により、以下の(26)’〜(28)’式で表される。
ノイズ負側
S=n−r/k(L) (L≦T) ・・・(26)’
S=L−(c*ln(L)+d−n)−r/k(L) (T<L≦T*exp(n/c)) ・・・(27)’
S=L*(1−exp(−n/c))−r/k(L) (T*exp(n/c)<L) ・・・(28)’
【0103】
これら(26)〜(28)式及び(26)’〜(28)’式に示すように、コアリング係数Sは、DR圧縮率k(低周波成分Lに応じて決定されるDR圧縮率k)、ノイズ量n、残留ノイズ量rを用いて表される。また、コアリング係数Sは、L>T−nの範囲で、ノイズの正側と負側とで異なることが分かる。すなわち、ノイズを一律なものとしてではなく、ノイズを正側のノイズと、負側のノイズとに場合分けすることで、このように正側と負側とでコアリング係数Sが異なる値となる。このような値のコアリング係数Sを上記コアリング係数算出部65により算出し、算出したこのコアリング係数Sを用いて上記コアリング処理部64によるコアリング処理を行うことで、残留ノイズ量rを一定とすることができる。これにより、ノイズ除去を高精度に行うことが可能となる(以下の第2〜第4の実施形態でも同じ)。なお、コアリング係数算出部65でのコアリング係数Sの算出においては、該コアリング係数算出部65へ送信されてきた低周波成分L、ノイズ量n、残留ノイズ量r及びこの低周波成分Lに対応するDR圧縮率k(k(L))の情報に基づいて、すなわち上述のように換言すれば、低周波成分Lのレベルに応じて、ノイズ正側及び負側においてそれぞれ上記(26)〜(28)式及び(26)’〜(28)’式を満たすようなコアリング係数Sが算出される。
【0104】
<階調変換前において残留ノイズ量が一定となる条件>
なお、基画像に対して階調変換を行わない場合、すなわち例えば線形特性(階調変換を行う前の全体が線形特性に統一されてなる線形特性)の状態のまま広DR画像として保存しておきたい場合や、階調変換部でのDR圧縮率を予め決められない場合などには、階調変換前において残留ノイズ量が一定となるようにしてもよい。この場合、上記(26)〜(28)式及び(26)’〜(28)’式におけるk(L)の値を「1」にする、すなわちDR圧縮率を1として(謂わばDR圧縮のパラメータkを除外して)、各コアリング係数Sを算出すればよい。この場合であっても、線形/対数画像を線形変換したときに増幅されるノイズを除去することができるので、ノイズ除去精度を高める効果がある。
【0105】
図9は、第1の実施形態におけるデジタルカメラ1の主にノイズ除去に関する動作の一例を示すフローチャートである。先ず固体撮像素子3による撮影により線形/対数画像が得られる(ステップS1)。この線形/対数画像(基画像I)がノイズ除去部6に入力され、LPF部61によりLPF処理されて低周波成分l(線形/対数画像)が抽出される(ステップS2)。次に、この低周波成分lが線形変換部62Aにより線形変換されて低周波成分L(統一線形画像)が得られるとともに、上記LPF処理されていない基画像Iに対して線形変換部62Aにより線形変換がなされる(この基画像Iの統一線形画像が得られる)(ステップS3)。エッジ量検出部66によって、この線形変換部62Aにより線形変換がなされた基画像Iからエッジ量が検出される(ステップS4)。そして、検出されたこのエッジ量と全体制御部9から与えられるエッジ量の閾値el、ehとの情報に基づいて、合成係数算出部67により合成係数Eが算出される(ステップS5)。
【0106】
一方、減算部63によって、線形変換部62Bからの基画像Iの統一線形画像信号から、線形変換部62Aからの低周波成分Lが減算されることで高周波成分Hが抽出される(ステップS6)。また、コアリング係数算出部65によって、線形変換部62Aからの低周波成分Lと、減算部63からの高周波成分Hと、全体制御部9から与えられるノイズ量n、残留ノイズ量r及びDR圧縮率k(k(L))との情報に基づいて、上記ノイズ正側及び負側のコアリング係数Sが算出される(ステップS7)。この算出されたコアリング係数Sの情報に基づいて、コアリング処理部64によって、減算部63からの高周波成分Hに対するコアリング処理が施されて高周波成分Hcが得られる(ステップS8)。そして、合成部68によって、合成係数算出部67からの合成係数Eの情報に基づいて、当該高周波成分Hcと高周波成分Hとの合成処理が行われ(ステップS9)、加算部69によって、この合成処理により得られた高周波成分H’と線形変換部62Aからの低周波成分Lとが加算されて出力画像Oとして後段の処理部(階調変換部7)へ出力される(ステップS10)。
【0107】
(実施形態2)
第1の実施形態では、線形/対数特性から線形特性へ変換してからコアリング処理を行う構成であったが、第2の実施形態では、線形特性へ変換せずに、線形/対数特性(線形/対数画像)のままコアリング処理を行う構成となっている。図10は、第2の実施形態に係るデジタルカメラ1におけるノイズ除去部6aの一例を示すブロック構成図である。ノイズ除去部6aは、ノイズ除去部6と比べて、線形変換部62Cが異なる。すなわち、ノイズ除去部6では、図5に示すようにコアリング処理を行う機能部(コアリング処理部64や合成部68、加算部69)の前段に線形変換を行う機能部(線形変換部62A、62B)を設けているが、ノイズ除去部6aではこの位置に設けずに、コアリング処理が行われた後の位置すなわち加算部69の後段に線形変換を行う機能部(線形変換部62C)を設けている。これ以外の構成は、ノイズ除去部6と同様でありその説明を省略する。
【0108】
ノイズ除去部6aにおいて、固体撮像素子3により得られた線形/対数画像(基画像I)がLPF部61によりLPF処理されたものが低周波成分l(低周波成分画像)であり、この低周波成分lが減算部63、アリング係数算出部65及び加算部69に入力される。減算部63では、基画像Iから低周波成分lが減算されて高周波成分hが抽出される。コアリング係数算出部65は、これらLPF部61からの低周波成分l及び減算部63からの高周波成分hと、全体制御部9からのノイズ量n、残留ノイズ量r及びDR圧縮率kとに基づいてコアリング係数Sを算出する。コアリング処理部64は、高周波成分hに対してコアリング係数Sを用いてコアリング処理を施し、高周波成分hcとして合成部68へ出力する。合成部68では、高周波成分hcと高周波成分hと合成係数算出部67からの合成係数Eとに基づいて合成処理が行われて、この結果、高周波成分h’を加算部69へ出力する。加算部69による高周波成分h’と低周波成分lとの加算処理により得られた画像(線形/対数画像)は、線形変換部62Cにおいて統一線形画像に線形変換(ログリニア変換)された後、出力画像Oとして後段の処理部へ出力される。なお、このように線形変換部62Cを備えて線形変換を行うのは、後段の階調変換部7において統一線形画像を用いて階調変換処理(DR圧縮処理)を行うことによる。
【0109】
以下に本実施形態の場合について、正側と負側とで異なる特徴を有するノイズに対してノイズ除去処理を行った後の残留ノイズ量が、どのようなコアリング係数Sを設定すれば、一定となるのかということについて説明する。
[コアリング係数算出についての説明]
ノイズがのった画像信号ynは、第1の実施形態と同じであり、(10)、(11)、(10)’及び(11)’式で表される。
ノイズ正側(yn=y+n)
yn=x+n (x≦T、yn≦T+n) ・・・(10)
yn=c*ln(x)+d+n (x>T、yn>T+n) ・・・(11)
ノイズ負側(yn=y−n)
yn=x−n (x≦T、yn≦T−n) ・・・(10)’
yn=c*ln(x)+d−n (x>T、yn>T−n) ・・・(11)’
【0110】
LPFを通った低周波成分l(Lの小文字)は、以下の(29)、(30)式で表される。
l=x (x≦T、l≦T) ・・・(29)
l=c*ln(x)+d (T≦x、T≦l) ・・・(30)
【0111】
上記(10)、(11)式及び(10)’(11)’式を低周波成分lを用いて表すと、それぞれ以下に示す1つの(31)、(31)’式で表される。
ノイズ正側 yn=l+n ・・・(31)
ノイズ負側 yn=l−n ・・・(31)’
【0112】
本実施形態では、線形/対数特性の状態のままでコアリング処理を行うので、ノイズ量はnである。残留ノイズ量R、コアリング係数Sとして、R=n−Sとなるので、コアリング処理後の画像信号ysは、以下の(32)、(32)’式で表される。
ノイズ正側 ys=l+R=l+n−S ・・・(32)
ノイズ負側 ys=l−R=l−n+S ・・・(32)’
【0113】
一方、階調変換部7でのDR圧縮後の画像信号Ys’は、線形変換後の低周波成分LをDR圧縮率k(L)で圧縮したものに残留ノイズ量r(r≧0:一定)がのったものとなるので、上記(3)式を参照して、以下の(33)、(33)’式で表される。なお、k(L)を上記k(B)と同様、単にkとも表す。
ノイズ正側 Ys’=k(L)*L+r ・・・(33)
ノイズ負側 Ys’=k(L)*L−r ・・・(33)’
【0114】
また、DR圧縮前の画像信号Ysは、以下の(34)、(34)’式で表され、
ノイズ正側 Ys=L+r/k(L) ・・・(34)
ノイズ負側 Ys=L−r/k(L) ・・・(34)’
これら画像信号Ysの線形変換前の画像信号ysは、以下の(35)、(36)式で表される。
ys=Ys (Ys≦T、ys≦T) ・・・(35)
ys=c*ln(Ys)+d ・・・(36)
【0115】
したがって、画像信号ysは、ノイズ正側の場合、上記(34)〜(36)式により、以下の(37)、(38)式で表される。
ノイズ正側
ys=L+r/k(L) (ys≦T、L≦Tp) ・・・(37)
ys=c*ln(L+r/k(L))+d (T<ys、Tp<L) ・・・(38)
但し、Tpは、T=Tp+r/k(Tp)を満たす。DR圧縮率(圧縮特性)k(L)は設計上既知であるので、このTpも求まる。また、T−Tp=r/k(Tp)>0であるので、Tp<Tである。
【0116】
また、画像信号ysは、ノイズ負側の場合、上記(34)’及び(35)、(36)式により、以下の(37)’、(38)’式で表される。
ノイズ負側
ys=L−r/k(L) (ys≦T、L≦Tm) ・・・(37)’
ys=c*ln(L−r/k(L))+d (T<ys、Tm<L)・・・(38)’
但し、Tmは、T=Tm−r/k(Tm)を満たす。また、T−Tm=−r/k(Tm)<0であるので、Tm>Tである。
【0117】
ここで、線形/対数特性での低周波成分lと、線形変換後の低周波成分L(上記(29)、(30)式参照)との関係を示す。低周波成分Lは低周波成分lを線形変換したものに等しいので、
L=l (l≦T) ・・・(39)
L=exp((l−d)/c)=l’ (T<l) ・・・(40)
但し、l’はexp((l−d)/c)を簡略表記するものである。
【0118】
画像信号ysを低周波成分lで表すと、ノイズ正側の場合、上記(37)〜(40)式により、以下の(41)〜(43)式となる。
ys=l+r/k(l) (l≦Tp) ・・・(41)
ys=c*ln(l+r/k(l))+d (Tp<l≦T) ・・・(42)
ys=c*ln(l’+r/k(l’))+d (T<l、T<l’) ・・・(43)
【0119】
また、ノイズ負側の場合、上記(37)’、(38)’、(39)及び(40)式により、以下の(41)’〜(43)’式となる。
ys=l−r/k(l) (l≦T) ・・・(41)’
ys=l’−r/k(l’) (T<l≦c*ln(Tm)+d、T<l’≦Tm) ・・・(42)’
ys=c*ln(l’−r/k(l’))+d (c*ln(Tm)+d<l、Tm<l’) ・・・(43)’
【0120】
コアリング係数Sは、ノイズ正側の場合、上記(32)式及び(41)〜(43)式により、以下の(44)〜(46)式で表される。
S=n−r/k(l) (l≦Tp) ・・・(44)
S=n+l−(c*ln(l+r/k(l))+d) (Tp<l≦T) ・・・(45)
S=n+l−(c*ln(l’+r/k(l’))+d) (T<l、T≦l’) ・・・(46)
【0121】
また、ノイズ負側の場合、上記(32)’式及び(41)’〜(43)’式により、以下の(44)’〜(46)’式で表される。
S=n−r/k(l) (l≦T) ・・・(44)’
S=n−l+l’−r/k(l’) (T<l≦c*ln(Tm)+d、T<l’≦Tm) ・・・(45)’
S=n−l+c*ln(l’−r/k(l’))+d (c*ln(Tm)+d<l、Tm<l’) ・・・(46)’
【0122】
これら(44)〜(46)式及び(44)’〜(46)’式から、コアリング係数Sは、DR圧縮率k(低周波成分lに応じて決定されるDR圧縮率k)、ノイズ量n、残留ノイズ量rを用いて表される。また、コアリング係数Sは、L>Tpの範囲で、ノイズの正側と負側とで異なることが分かる。このような値のコアリング係数Sをコアリング係数算出部65により算出し、算出したこのコアリング係数Sを用いてコアリング処理部64によるコアリング処理を行うことで、残留ノイズ量rを一定とすることができる。なお、コアリング係数算出部65でのコアリング係数Sの算出においては、該コアリング係数算出部65へ送信されてきた低周波成分l、ノイズ量n、残留ノイズ量r及びこの低周波成分lに対応するDR圧縮率k(k(l))の情報に基づいて(ただし、l’はexp((l−d)/c)という低周波成分lの関数であるのでk(l’)は低周波成分lの関数と見なしている)、すなわち上記と同様に換言すれば、低周波成分lのレベルに応じて、ノイズ正側及び負側においてそれぞれ上記(44)〜(46)式及び(44)’〜(46)’式を満たすようなコアリング係数Sが算出される。
【0123】
<階調変換前において残留ノイズ量が一定となる条件>
なお、第1の実施形態と同様に、上記(44)〜(46)式及び(44)’〜(46)’式におけるk(l)、k(l’)の値を「1」として、階調変換前において残留ノイズ量が一定となるようにしてもよい。この場合も、線形/対数画像を線形変換したときに増幅されるノイズを除去することができるので、ノイズ除去精度を高める効果がある。
【0124】
図11は、第2の実施形態におけるデジタルカメラ1の主にノイズ除去に関する動作の一例を示すフローチャートである。先ず固体撮像素子3による撮影により線形/対数画像が得られる(ステップS21)。この線形/対数画像(基画像I)がノイズ除去部6aに入力され、LPF部61によりLPF処理されて低周波成分l(線形/対数画像)が抽出される(ステップS22)。次に、エッジ量検出部66によって、LPF処理されていない基画像Iからエッジ量が検出される(ステップS23)。そして、検出されたこのエッジ量と全体制御部9から与えられるエッジ量の閾値el、ehとの情報に基づいて、合成係数算出部67により合成係数Eが算出される(ステップS24)。一方、減算部63によって、基画像Iから、LPF部61からの低周波成分lが減算されることで高周波成分hが抽出される(ステップS25)。
【0125】
また、コアリング係数算出部65によって、LPF部61からの低周波成分lと、減算部63からの高周波成分hと、全体制御部9から与えられるノイズ量n、残留ノイズ量r及びDR圧縮率k(k(l))との情報に基づいて、上記ノイズ正側及び負側のコアリング係数Sが算出される(ステップS26)。この算出されたコアリング係数Sの情報に基づいて、コアリング処理部64によって、減算部63からの高周波成分hに対するコアリング処理が施されて高周波成分hcが得られる(ステップS27)。そして、合成部68によって、合成係数算出部67からの合成係数Eの情報に基づいて、当該高周波成分hcと高周波成分hとの合成処理が行われ(ステップS28)、加算部69によって、この合成処理により得られた高周波成分h’とLPF部61からの低周波成分lとが加算される(ステップS29)。そして、この加算処理により得られた画像信号が線形変換部62Cによって線形変換されて出力画像Oとして後段の処理部(階調変換部7)へ出力される(ステップS30)。
【0126】
(実施形態3)
第1の実施形態では線形/対数特性から1つの線形特性への変換を行う構成であったが、第3の実施形態では、線形/線形特性から1つの線形特性への変換を行う構成となっている。すなわち、第3の実施形態では、ノイズ除去部の構成は第1の実施形態におけるノイズ除去部6(図5参照)と同じであるが、固体撮像素子3が、上記線形/対数特性ではなく線形/線形特性である光電変換特性を有するものとされている(その他の構成は第1の実施形態と同じであり、その説明を省略する)。
【0127】
ところで上記線形/線形特性とは、図12に示すように、低輝度側、高輝度側ともに線形の光電変換特性(低輝度側を第1線形特性、高輝度側を第2線形特性とする)を有しており、輝度レベルに応じてすなわち所定の出力レベル点(変曲点)を境としてこれら光電変換特性の線形の傾きが変化する(異なる)光電変換特性である。この場合の光電変換特性も、上記線形/対数特性の場合と同様、複数の異なる光電変換特性からなるものであると言える。本実施形態では、固体撮像素子3として、このような線形/線形特性を有する例えば可変蓄積時間型撮像センサや可変蓄積容量型撮像センサが採用される。なお、露光量や感度の異なる複数の撮影画像を固体撮像素子外部で合成してなる画像等も、本実施形態に適用することが可能である。なお、本実施形態でも、第1の実施形態での線形/線形特性の場合と同様、線形/線形特性に対して線形変換(この場合をリニアリニア変換という)を行って1つの線形特性に統一するが、これは図12に示すように、高輝度側の線形特性の傾きを低輝度側の線形特性の傾きと一致させるような変換を行うものである。
【0128】
以下、本実施形態において、線形/線形特性から線形特性への変換によって、ノイズ量がどのように変化するのか或いはどのような値になるのかについて説明する。
[線形/線形特性から線形特性への変換におけるノイズについての説明]
線形/線形特性の光電変換特性は、以下の(47)、(48)式のように表される。
y=x (x≦T、y≦T) ・・・(47)
y=c*x+d (x>T、y>T) ・・・(48)
【0129】
これを1つの線形特性に変換すると、変換後の特性Yは、以下の(49)、(50)式で表される。
Y=y (y≦T) ・・・(49)
Y=(y−d)/c (y>T)・・・(50)
したがって、yがノイズの無い信号であるとすると、全y(すなわち全x)において、Y=xとなる。
【0130】
ノイズがのっている信号をyn、このノイズをn(n>0)とすると、yn=y±nと表すことができるので、上記(47)、(48)式より、ノイズ正側の場合(yn=y+n)、以下の(51)、(52)式のように表される。
ノイズ正側
yn=x+n (x≦T、yn≦T+n) ・・・(51)
yn=c*x+d+n (x>T、yn>T+n) ・・・(52)
【0131】
また、ノイズ負側の場合(yn=y−n)、以下の(51)’、(52)’式のように表される。
ノイズ負側
yn=x−n (x≦T、yn≦T−n) ・・・(51)’
yn=c*x+d−n (x>T、yn>T−n) ・・・(52)’
【0132】
ynを線形特性に変換したものをYnとすると、このYnは、ノイズ正側の場合、上記(49)〜(52)式より以下の(53)〜(55)式で表される。
ノイズ正側
Yn=yn=x+n (yn≦T、x≦T−n) ・・・(53)
Yn=(yn−d)/c
=(x+n−d)/c (T<yn≦T+n、T−n<x≦T) ・・・(54)
Yn=(yn−d)/c
=((c*x+d+n)−d)/c
=x+n/c (T+n<yn、T<x) ・・・(55)
【0133】
また、Ynは、ノイズ負側の場合、上記(49)、(50)、(51)’及び(52)’式より、以下の(53)’〜(55)’式で表される。
ノイズ負側
Yn=yn=x−n (yn≦T−n、x≦T) ・・・(53)’
Yn=yn=c*x+d−n (T−n<yn≦T、T<x≦(T−d+n)/c) ・・・(54)’
Yn=(yn−d)/c
=(c*x+d−n−d)/c
=x−n/c (T<yn、(T−d+n)/c<x) ・・・(55)’
【0134】
これら(53)〜(55)式、及び(53)’〜(55)’式は、図13に示すグラフとなる。すなわち図12のグラフにおいて、ノイズ正側の場合、(53)式に相当するものが符号501で示す特性(特性501)、(54)式に相当するものが符号502で示す特性(特性502)、(55)式に相当するものが符号503で示す特性(特性503)となる。また、ノイズ負側の場合、(53)’式に相当するものが符号511で示す特性(特性511)、(54)’式に相当するものが符号512で示す特性(特性512)、(55)’式に相当するものが符号513で示す特性(特性513)となる。
【0135】
この場合も、図8での説明と同様、変曲点T(x座標で考えている)を挟んでT−n<x≦Tの範囲5021とT<x≦(T−d+n)/cの範囲5121とにおいて、(47)、(48)式の異なる方で変換されてしまい、特性502、512となる(ただし、本実施形態では基画像Iが線形/線形特性であるので、この特性502、512は線形となる)。また、T<xの範囲、(T−d+n)/c<xの範囲では、それぞれ、線形変換する前の特性が線形特性であることから、特性503、513のようになる。これら特性503、513はそれぞれ特性501、511と平行な(傾きが同じ)グラフとなっている。この場合も、細部のグラフ形状は異なるものの、全体としては図8に示す場合と同様に、線形変換後、Y=xの特性522に対する正側のノイズ量と負側のノイズ量とが、それぞれ、x全域(低輝度から高輝度にかけて)において一定でなく、異なる値となってしまう。
【0136】
次に、本実施形態の場合について、正側と負側とで異なる特徴を有するノイズに対してノイズ除去処理を行った後の残留ノイズ量が、どようなコアリング係数Sを設定すれば、一定となるのかということについて説明する。
[コアリング係数算出についての説明]
第1の実施形態と同様に、低周波成分Lを用いて、上記(53)〜(55)式及び(53)’〜(55)’式を表すと、以下の(56)〜(58)式及び(56)’〜(58)’式となる。
ノイズ正側
Yn=L+n (L≦T−n) ・・・(56)
Yn=(L−d+n)/c (T−n<L≦T) ・・・(57)
Yn=L+n/c (T<L) ・・・(58)
ノイズ負側
Yn=L−n (L≦T) ・・・(56)’
Yn=c*L+d−n (T<L≦(T−d+n)/c)・・・(57)’
Yn=L−n/c ((T−d+n)/c<L) ・・・(58)’
【0137】
<ノイズ量の算出>
第1の実施形態と同様にノイズ量N(N≧0)を求める。ノイズ量Nは、ノイズ正側の場合、上記(56)〜(58)式から低周波成分Lを減算することにより、以下の(59)〜(61)式で表される。
ノイズ正側
N=n (L≦T−n) ・・・(59)
N=(L−d+n)/c−L=((1−c)*L−d+n)/c (T−n<L≦T) ・・・(60)
N=n/c (T<L) ・・・(61)
【0138】
一方、ノイズ負側の場合、低周波成分Lから上記(56)’〜(58)’式を減算することにより、以下の(59)’〜(61)’式で表される。
ノイズ負側
N=n (L≦T) ・・・(59)’
N=L−(c*L+d−n)=(1−c)*L−d+n (T<L≦(T−d+n)/c) ・・・(60)’
N=n/c ((T−d+n)/c<L) ・・・(61)’
【0139】
<DR圧縮後の残留ノイズ量が一定となる条件>
これは第1の実施形態の場合と同じ条件が成立し、上記(25)式と同じである。すなわち、DR圧縮後の残留ノイズ量r(r≧0:一定)、及びDR圧縮率k(L)を用いて、コアリング係数S(S≧0)を表すと、以下の(25)式となる。
S=N−r/k(L) ・・・(25)
【0140】
コアリング係数Sは、ノイズ正側の場合、上記(25)式及び(59)〜(61)式により、以下の(62)〜(64)式で表される。
ノイズ正側
S=n−r/k(L) (L≦T−n) ・・・(62)
S=((1−c)*L−d+n)/c−r/k(L) (T−n<L≦T) ・・・(63)
S=n/c−r/k(L) (T<L) ・・・(64)
【0141】
また、ノイズ負側の場合、上記(25)式及び(59)’〜(61)’式により、以下の(62)’〜(64)’式で表される。
ノイズ負側
S=n−r/k(L) (L≦T) ・・・(62)’
S=(1−c)*L−d+n−r/k(L) (T<L≦(T−d+n)/c) ・・・(63)’
S=n/c−r/k(L) ((T−d+n)/c<L) ・・・(64)’
【0142】
これら(62)〜(64)式及び(62)’〜(64)’式から、コアリング係数Sは、DR圧縮率k(低周波成分Lに応じて決定されるDR圧縮率k)、ノイズ量n、残留ノイズ量rを用いて表される。コアリング係数Sは、T−n<L≦(T−d+n)/cの範囲で、ノイズの正側と負側とで異なることが分かる。このような値のコアリング係数Sをコアリング係数算出部65により算出し、算出したこのコアリング係数Sを用いてコアリング処理部64によるコアリング処理を行うことで、残留ノイズ量rを一定とすることができる。なお、この場合も同様に、コアリング係数算出部65でのコアリング係数Sの算出においては、該コアリング係数算出部65へ送信されてきた低周波成分L、ノイズ量n、残留ノイズ量r及びこの低周波成分Lに対応するDR圧縮率k(k(L))の情報に基づいて、すなわち上記と同様に換言すれば、低周波成分Lのレベルに応じて、ノイズ正側及び負側においてそれぞれ上記(62)〜(64)式及び(62)’〜(64)’式を満たすようなコアリング係数Sが算出される。
【0143】
<階調変換前において残留ノイズ量が一定となる条件>
なお、第1及び第2の実施形態と同様に、上記(62)〜(64)式及び(62)’〜(64)’式におけるk(L)の値を「1」として、階調変換前において残留ノイズ量が一定となるようにしてもよい。この場合も、線形/線形画像を線形変換したときに増幅されるノイズを除去することができるので、ノイズ除去精度を高める効果がある。
【0144】
なお、本実施形態の場合のフローチャートは、第1の実施形態における図9のフローチャートにおけるステップS1の線形/対数画像を、線形/線形画像に置き換えたものであり、この線形/線形画像に対して以下同様のフローにて処理が実行される。
【0145】
(実施形態4)
第3の実施形態では、線形/線形特性に対して線形変換を行ってから(統一線形画像にしてから)コアリング処理を行う構成であったが、第4の実施形態では、当該線形変換を行わずに、線形/線形特性(線形/線形画像)のままコアリング処理を行う構成となっている。すなわち、第4の実施形態では、ノイズ除去部の構成は第2の実施形態におけるノイズ除去部6a(図10参照)と同じであるが、固体撮像素子3が線形/線形特性である光電変換特性を有するものとされている(その他の構成は第2の実施形態と同じでありその説明を省略する)。
【0146】
本実施形態における線形/線形特性の光電変換特性は、第3の実施形態と同じ上記(47)、(48)式で表され、1つの線形特性に変換するときの変換後の特性Yは第3の実施形態と同じ上記(49)、(50)式で表される。また、ノイズがのっている信号ynは第3の実施形態と同じ上記(51)、(52)式及び(51)’、(52)’式で表される。
【0147】
LPFを通った低周波成分l(Lの小文字)は、以下の(65)、(66)式で表される。
l=x (x≦T、l≦T) ・・・(65)
l=c*x+d (T<x、T<l) ・・・(66)
【0148】
上記(51)、(52)式及び(51)’、(52)’式を低周波成分lを用いて表すと、それぞれ以下に示す1つの(67)、(67)’式で表される。
ノイズ正側 yn=l+n ・・・(67)
ノイズ負側 yn=l−n ・・・(67)’
【0149】
本実施形態では、線形/線形特性の状態のままでコアリング処理を行うので、ノイズ量はnである。残留ノイズ量R、コアリング係数Sとして、R=n−Sとなるので、コアリング処理後の画像信号ysは、以下の(68)、(68)’式で表される。
ノイズ正側 ys=l+R=l+n−S ・・・(68)
ノイズ負側 ys=l−R=l−n+S ・・・(68)’
【0150】
一方、階調変換部7でのDR圧縮後の画像信号Ys’は、線形変換後の低周波成分LをDR圧縮率k(L)で圧縮したものに残留ノイズ量r(r≧0:一定)がのったものとなるので、上記(3)式を参照して、以下の(69)、(69)’式で表される。
ノイズ正側 Ys’=k(L)*L+r ・・・(69)
ノイズ負側 Ys’=k(L)*L−r ・・・(69)’
【0151】
また、DR圧縮前の画像信号Ysは、以下の(70)、(70)’式で表され、
ノイズ正側 Ys=L+r/k(L) ・・・(70)
ノイズ負側 Ys=L−r/k(L) ・・・(70)’
これら画像信号Ysの線形変換前の画像信号ysは、以下の(71)、(72)式で表される。
ys=Ys (Ys≦T、ys≦T) ・・・(71)
ys=c*Ys+d ・・・(72)
【0152】
したがって、画像信号ysは、ノイズ正側の場合、上記(70)〜(72)式により、以下の(73)、(74)式で表される。
ノイズ正側
ys=L+r/k(L) (ys≦T、L≦Tp) ・・・(73)
ys=c*(L+r/k(L))+d
=c*L+d+c*r/k(L) (T<ys、Tp<L) ・・・(74)
但し、Tpは、T=Tp+r/k(Tp)を満たす。DR圧縮率(圧縮特性)k(L)は設計上既知であるので、このTpも求まる。また、T−Tp=r/k(Tp)>0であるので、Tp<Tである。
【0153】
また、画像信号ysは、ノイズ負側の場合、上記(70)’式及び(71)、(72)式により、以下の(73)’、(74)’式で表される。
ノイズ負側
ys=L−r/k(L) (ys≦T、L≦Tm) ・・・(73)’
ys=c*(L−r/k(L))+d
=c*L+d−c*r/k(L) (T<ys、Tm<L)・・・(74)’
但し、Tmは、T=Tm−r/k(Tm)を満たす。また、T−Tm=−r/k(Tm)<0であるので、Tm>Tである。
【0154】
ここで、線形/線形特性での低周波成分lと、線形変換後の低周波成分L(上記(49)、(50)式参照)との関係を示す。低周波成分Lは低周波成分lを線形変換したものに等しいので、
L=l (l≦T) ・・・(75)
L=(l−d)/c=l’ (T<l) ・・・(76)
但し、l’は(l−d)/cを簡略表記するものである。
【0155】
線形/線形特性での画像信号ysを線形/線形特性での低周波成分lで表すと、ノイズ正側の場合、上記(73)〜(76)式により、以下の(77)〜(79)式となる。
ys=l+r/k(l) (l≦Tp) ・・・(77)
ys=c*(l+r/k(l))+d
=c*l+d+c*r/k(l) (Tp<l≦T) ・・・(78)
ys=c*(l’+r/k(l’))+d
=l+c*r/k(l’) (T<l、T<l’) ・・・(79)
【0156】
また、ノイズ負側の場合、上記(73)’、(74)’、(75)及び(76)式により、以下の(77)’〜(79)’式となる。
ys=l−r/k(l) (l≦T) ・・・(77)’
ys=l’−r/k(l’)
=(l−d)/c−r/k(l’) (T<l≦c*Tm+d、T<l’≦Tm) ・・・(78)’
ys=c*l’+d−c*r/k(l’)
=l−c*r/k(l’) (c*Tm+d<l、Tm<l’)・・・(79)’
【0157】
コアリング係数Sは、ノイズ正側の場合、上記(68)式及び(77)〜(79)式により、以下の(80)〜(82)式で表される。
S=n−r/k(l) (l≦Tp) ・・・(80)
S=(l−c)*l−d+n−c*r/k(l) (Tp<l≦T) ・・・(81)
S=n−c*r/k(l’) (T<l、T<l’) ・・・(82)
【0158】
また、ノイズ負側の場合、上記(68)’式及び(77)’〜(79)’式により、以下の(80)’〜(82)’式で表される。
S=n−r/k(l) (l≦T) ・・・(80)’
S=((1−c)*l−d)+n−r/k(l’) (T<l≦c*Tm+d、T<l’≦Tm) ・・・(81)’
S=n−c*r/k(l’) (c*Tm+d<l、Tm<l’) ・・・(82)’
【0159】
これら(80)〜(82)式及び(80)’〜(82)’式から、コアリング係数Sは、DR圧縮率k(低周波成分lに応じて決定されるDR圧縮率k)、ノイズ量n、残留ノイズ量rを用いて表される。また、コアリング係数Sは、Tp<l≦c*Tm+dの範囲で、ノイズの正側と負側とで異なることが分かる。このような値のコアリング係数Sをコアリング係数算出部65により算出し、算出したこのコアリング係数Sを用いてコアリング処理部64によるコアリング処理を行うことで、残留ノイズ量rを一定とすることができる。なお、この場合も同様に、コアリング係数算出部65でのコアリング係数Sの算出においては、該コアリング係数算出部65へ送信されてきた低周波成分l、ノイズ量n、残留ノイズ量r及びこの低周波成分lに対応するDR圧縮率k(k(l))の情報に基づいて、すなわち上記と同様に換言すれば、低周波成分lのレベルに応じて、ノイズ正側及び負側においてそれぞれ上記(80)〜(82)式及び(80)’〜(82)’式を満たすようなコアリング係数Sが算出される。
【0160】
<階調変換前において残留ノイズ量が一定となる条件>
なお、第1〜第3の実施形態と同様に、上記(80)〜(82)式及び(80)’〜(82)’式におけるk(l)、k(l’)の値を「1」として、階調変換前において残留ノイズ量が一定となるようにしてもよい。この場合も線形/線形画像を線形変換したときに増幅されるノイズを除去することができるので、ノイズ除去精度を高める効果がある。
【0161】
なお、本実施形態の場合のフローチャートは、第2の実施形態における図11のフローチャートにおけるステップS21の線形/対数画像を、線形/線形画像に置き換えたものであり、この線形/線形画像に対して以下同様のフローにて処理が実行される。
【0162】
以上のように、上記各実施形態の撮像装置(デジタルカメラ1)によれば、固体撮像素子3が複数の異なる光電変換特性を有するものとされ、ノイズ除去部6(6a)(ノイズ除去手段)によって、固体撮像素子3による撮像により得られる画像(基画像I)に対するノイズ除去処理が行われ、線形変換部62A、62B(62C)(階調変換手段)によって、ノイズ除去手段によりノイズ除去処理が行われた画像に対する階調変換処理が行われる。そして、ノイズ除去手段において、LPF部61(低周波成分抽出手段)によって、画像から低周波成分L(l)が抽出され、減算部63(高周波成分抽出手段)によって、画像から高周波成分H(h)が抽出される。また、画像の信号(y)に対して該信号のレベルよりもレベルが高い側を正側、レベルが低い側を負側と定める(ノイズ信号yn=y±nと定める)場合において、コアリング係数算出部65(ノイズ除去量算出手段)によって、低周波成分抽出手段により抽出された低周波成分のレベルに応じて、正側のノイズ(+n)に対するノイズ除去量である正側ノイズ除去量(例えば(26)〜(28)式参照)と、負側のノイズ(−n)に対するノイズ除去量である負側ノイズ除去量(例えば(26)’〜(28)’式参照)とが算出される。そして、コアリング処理部64(コアリング手段)によって、高周波成分抽出手段により抽出された高周波成分に対して、ノイズ除去量算出手段により算出された正側ノイズ除去量及び負側ノイズ除去量に基づいてコアリング処理が行われ、加算部69(合成手段)によって、コアリング手段によりコアリング処理が行われた高周波成分と、低周波成分抽出手段により抽出された低周波成分とが合成される。
【0163】
このように、抽出された低周波成分L(l)のレベルに応じてノイズ除去量が算出されるので、すなわち階調変換処理を行うに際しての階調(輝度)レベル(低周波成分のレベルに対応する)に応じてノイズの除去量を設定することができるので、階調変換による伸張度合いが違うことによってノイズが目立つことのないようにすることができる。さらに、このノイズ除去量が、低周波成分のレベルに応じて、正側のノイズに対する正側ノイズ除去量と、負側のノイズに対する負側ノイズ除去量とに細分化して算出されて、この正側ノイズ除去量及び負側ノイズ除去量に基づいてコアリング処理が行われるので、ノイズ除去を高精度に行うことができる。これらのことにより、ひいては高画質な画像を得ることができる。
【0164】
また、正側ノイズ除去量及び負側ノイズ除去量が、コアリング処理におけるそれぞれのコアリング係数Sとされ、ノイズ除去量算出手段によって、ノイズ除去手段によりノイズ除去処理が行われた画像に対して階調変換手段による階調変換処理を行った後に該画像に残る残留ノイズ量rが、正側及び負側それぞれにおいて低周波成分L(l)のレベルに依らず(輝度に依らず;)一定となるように((24)式参照)各コアリング係数Sが算出されるので、当該コアリング係数の算出方法を用いて、正側ノイズ除去量或いは負側ノイズ除去量であるコアリング係数を、容易に且つ確実に算出することができる。
【0165】
また、固体撮像素子3により得られる画像が、複数の異なる特性を有する複数特性画像とされ、ノイズ除去手段において、線形変換部62A、62B(特性変換手段)によって、複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理が行われて複数特性画像がその特性が統一された統一特性画像に変換された後、該統一特性画像に対するノイズ除去処理が行われる。
【0166】
このように、固体撮像素子3により得られた画像(複数特性画像)がその特性が統一された統一特性画像に変換された後、この統一特性画像に対するノイズ除去処理が行われるので、統一特性画像にノイズ除去処理を施すことができる、すなわちノイズ除去処理が行われた時点で、既にその画像が統一特性画像であるようにすることができ、後段の階調変換手段における階調変換処理に、このノイズ除去処理後の画像をそのまま(変換処理動作を必要とせずに)使用可能な構成を実現することができる。
【0167】
また、固体撮像素子3により得られる画像が、複数の異なる特性を有する複数特性画像とされ、ノイズ除去手段において、複数特性画像に対するノイズ除去処理が行われた後、線形変換部62C(特性変換手段)によって、複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理が行われて複数特性画像がその特性が統一された統一特性画像に変換される。
【0168】
このように、固体撮像素子3により得られた画像(複数特性画像)に対するノイズ除去処理が行われた後、特性が統一された統一特性画像に変換される構成であるので、画像に対するノイズ除去処理と、統一特性画像に変換する変換処理とを別々に行うことができ、すなわち例えばノイズ除去処理が施された画像に対して別の処理を施した後に、階調変換処理に供するべく当該変換処理を行うことができ、ひいては画像の取り扱いの自由度が高くなる(取り扱い性が向上する)。
【0169】
また、固体撮像素子3が、入射光量に対して電気信号が線形的に変換されて出力される線形光電変換特性と、該入射光量に対して電気信号が対数的に変換されて出力される対数光電変換特性とからなる光電変換特性を有するものとされ(図4参照)、複数特性画像が、線形特性の画像と対数特性の画像とからなる線形/対数画像とされる。このように、固体撮像素子3が線形及び対数特性からなる光電変換特性を有し、この固体撮像素子3により線形/対数画像が得られる構成であるので、広DRを確保しつつ(広DR画像であって且つ)、当該正側及び負側のノイズを考慮した高精度のノイズ除去処理による高画質な画像を得ることが可能となる。
【0170】
また、固体撮像素子3が、入射光量に対して電気信号が線形的に変換されて出力される第1の線形光電変換特性と、該第1の線形光電変換特性とグラフ上の傾きが異なる第2の線形光電変換特性とからなる光電変換特性を有するものとされ(図12参照)、複数特性画像が、2種類の線形特性の画像からなる線形/線形画像とされる。このように、固体撮像素子3が傾きの異なる(2種類の)線形特性からなる光電変換特性を有し、この固体撮像素子3により線形/線形画像が得られる構成であるので、広DRを確保しつつ、当該正側及び負側のノイズを考慮した高精度のノイズ除去処理による高画質な画像を得ることが可能となる。
【0171】
また、特性変換手段によって、複数特性画像を線形特性の画像に統一する変換処理が行われる、すなわち画像の特性が線形特性に統一される構成であるので、階調変換部7(階調変換手段)による階調変換処理を容易に行うことができるようになる。
【0172】
また、ノイズ除去量算出手段によって、低周波成分のレベルに応じて与えられる階調変換手段による階調変換処理としてのダイナミックレンジ圧縮処理におけるダイナミックレンジ圧縮率(k)と、既定値として与えられる画像のノイズ量(n)及び残留ノイズ量(r)とから正側及び負側のコアリング係数が算出されるので、すなわち、ノイズ量及び残留ノイズ量は既定値であり且つダイナミックレンジ圧縮率は低周波成分に応じて与えられるものであり、コアリング係数Sの算出に要する値は全て低周波成分に応じて定まると言うことができるので、正側及び負側のコアリング係数を、1つの評価(変化)パラメータである低周波成分L(l)を用いた簡易な演算によって容易に算出することができる。
【0173】
また、ノイズ除去量算出手段によって、ダイナミックレンジ圧縮率を「1」としてコアリング係数が算出される構成であるので、ダイナミックレンジ圧縮を行わない(圧縮率k=1)つまり階調変換を行わない場合における当該正側及び負側のコアリング係数Sが算出され、階調変換を行う前の段階において正側及び負側の残留ノイズが一定とされた高精度にノイズ除去がなされた画像を得ることができる。
【0174】
また、ノイズ除去手段において、エッジ量検出部66(エッジ量検出手段)によって、固体撮像素子3により得られる画像からエッジ量eが検出され、合成部68及び加算部69(調整手段)によって、エッジ量検出手段により検出されたエッジ量eに基づいて、コアリング処理におけるコアリングの度合い(ノイズ除去の程度)が調整されるので、正側ノイズ除去量及び負側ノイズ除去量に基づく高精度なノイズ除去が行われるとともに、エッジ量が考慮されたすなわちエッジ保存がなされた、より高画質な画像を得ることができる。
【0175】
なお、本発明は、以下の態様をとることができる。
(A)上記各実施形態においては、撮影画像に対するノイズ除去処理をデジタルカメラ1内(ノイズ除去部6、6a)で行う構成としているが、これに限らず、デジタルカメラ1外の所定の処理部において実行する構成としてもよい。具体的には、例えばAD変換後のデータを、メモリカード等の記録メディア、或いは通信手段、すなわちUSBや無線LAN等による有線又は無線接続(ネットワーク接続)により情報伝達可能に構成されたユーザーインターフェイスを介して、PC(Personal Computer)やPDA(Personal Digital Assistant)等の情報処理機器に送信し、この情報処理機器内で当該ノイズ除去処理を行う構成としてもよい。
【0176】
(B)上記各実施形態においては、固体撮像素子3の光電変換特性は、2つの異なる光電変換特性(線形特性及び対数特性、或いは第1線形特性及び第2線形特性)からなるが、3つ以上の異なる光電変換特性からなっていてもよい。この場合も上記と同様に正側及び負側のノイズを設定するノイズ除去手法が適用される(光電変換特性についても3つ以上の異なる光電変換特性からいずれか1種類の光電変換特性に統一される)。
【図面の簡単な説明】
【0177】
【図1】第1の実施形態に係る撮像装置の一例であるデジタルカメラの主に撮像処理に関するブロック構成図である。
【図2】上記固体撮像素子の一例である二次元のMOS型固体撮像装置の概略構成図である。
【図3】図2に示す各画素G11〜Gmnの構成例を示す回路図である。
【図4】上記固体撮像素子の光電変換特性の一例を示すグラフ図である。
【図5】図1に示すノイズ除去部の一例を示すブロック構成図である。
【図6】コアリング処理におけるコアリング特性を示すグラフ図である。
【図7】エッジ量と合成係数との関係を示すグラフ図である。
【図8】第1の実施形態における線形変換後の正側及び負側のノイズの特性について説明するグラフ図である。
【図9】第1の実施形態におけるデジタルカメラの主にノイズ除去に関する動作の一例を示すフローチャートである。
【図10】第2の実施形態に係るデジタルカメラにおけるノイズ除去部の一例を示すブロック構成図である。
【図11】第2の実施形態におけるデジタルカメラの主にノイズ除去に関する動作の一例を示すフローチャートである。
【図12】第3及び第4の実施形態に係る固体撮像素子の光電変換特性の一例を示すグラフ図である。
【図13】第3の実施形態における線形変換後の正側及び負側のノイズの特性について説明するグラフ図である。
【符号の説明】
【0178】
1 デジタルカメラ(撮像装置)
3 固体撮像素子
6、6a ノイズ除去部(ノイズ除去手段)
61 LPF部(低周波成分抽出手段)
62A、62B 線形変換部(請求項3に記載の特性変換手段)
62C 線形変換部(請求項4に記載の特性変換手段)
63 減算部(高周波成分抽出手段)
64 コアリング処理部(コアリング手段)
65 コアリング係数算出部(ノイズ除去量算出手段)
66 エッジ量検出部(エッジ量検出手段)
67 合成係数算出部(調整手段)
68 合成部(調整手段)
69 加算部(合成手段)
7 階調変換部(階調変換手段)
【技術分野】
【0001】
本発明は、複数の異なる光電変換特性を有する固体撮像素子を用いた撮像装置であって、特に、この固体撮像素子により得られた撮影画像に対するノイズ除去が可能な撮像装置に関するものである。
【背景技術】
【0002】
従来、デジタルカメラ等の撮像装置は、所定の固体撮像素子(撮像センサ)を備え、この固体撮像素子による撮像によって撮影画像を取得する。一般的に、撮影画像(画像信号)にはノイズ成分が含まれるが、近年における更なる高画質化の要請にも伴い、このノイズ成分を好適に除去することが求められる。ところで、固体撮像素子には、該固体撮像素子の光電変換特性が複数の異なる光電変換特性からなるものがある。例えば、入射光量に対して電気信号が線形的に変換されて出力される線形の光電変換特性(線形特性という)と、入射光量に対して電気信号が対数的に変換されて出力される対数の光電変換特性(対数特性という)とからなる光電変換特性を有する固体撮像素子(リニアログセンサという)が知られている。なお、この線形特性及び対数特性(線形/対数特性という)を有するリニアログセンサによる撮影画像のことを「線形/対数画像」という。
【0003】
この線形/対数特性のように複数の異なる光電変換特性を有する固体撮像素子により撮影する場合、対数特性において、入射光量に対して自然対数的に変換された出力が得られることから、広いダイナミックレンジ(広ダイナミックレンジ)が確保できるという利点がある反面、画像信号が対数圧縮されるためコントラスト性が悪くなる(対数特性の画像が低コントラストとなる)という不都合がある。そのため、画像から照明成分と反射率成分とを抽出し、対数特性の照明成分を線形変換して全体を線形特性に統一した後、これを圧縮することにより局所的なコントラストを保存したまま全体のダイナミックレンジ(DR)を圧縮するDR圧縮などの階調変換を行うことで、当該対数特性における高コントラスト化が図られる。
【特許文献1】特願2005−276299
【発明の開示】
【発明が解決しようとする課題】
【0004】
しかしながら、上記階調変換に伴いノイズも増幅されてしまう、すなわち階調変換による画像データの伸張度合い(圧縮度合い)が大きな画素においては、コントラスト成分だけでなくノイズ成分も伸張されてしまい、一律のノイズ除去を行うだけでは伸張度合いの大きな領域でのノイズが目立ってしまっていた。
【0005】
これに関し、例えば特許文献1には、ノイズ除去量を階調変換における伸張度合いに応じて制御することで、すなわち撮影画像における当該伸張度合いに相当する輝度レベルに応じてノイズ除去量に関するコアリング係数を算出し、これを用いたノイズ除去処理を行うことで、全体の残留ノイズ量が一定となるようにする技術が開示されている。しかしながら、この技術では、ノイズ除去量が一律なものとして扱われるため、正確にノイズ除去を行うことができなかった。
【0006】
本発明は、上記事情に鑑みてなされたもので、階調変換による伸張度合いの違いによってノイズが目立つことのないようにすることができるとともに、ノイズ除去を高精度に行うことができ、ひいては高画質な撮影画像を得ることができる撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明に係る撮像装置は、複数の異なる光電変換特性を有する固体撮像素子と、前記固体撮像素子による撮像により得られる画像に対するノイズ除去処理を行うノイズ除去手段と、前記ノイズ除去手段によりノイズ除去処理が行われた画像に対する階調変換処理を行う階調変換手段とを備える撮像装置であって、前記ノイズ除去手段は、前記画像から低周波成分を抽出する低周波成分抽出手段と、前記画像から高周波成分を抽出する高周波成分抽出手段と、前記画像の信号に対して該信号のレベルよりもレベルが高い側を正側、レベルが低い側を負側と定める場合において、前記低周波成分抽出手段により抽出された低周波成分のレベルに応じて、前記正側のノイズに対するノイズ除去量である正側ノイズ除去量と、前記負側のノイズに対するノイズ除去量である負側ノイズ除去量とを算出するノイズ除去量算出手段と、前記高周波成分抽出手段により抽出された高周波成分に対して、前記ノイズ除去量算出手段により算出された前記正側ノイズ除去量及び前記負側ノイズ除去量に基づいてコアリング処理を行うコアリング手段と、前記コアリング手段によりコアリング処理が行われた高周波成分と、前記低周波成分抽出手段により抽出された低周波成分とを合成する合成手段とを備えることを特徴とする。
【0008】
上記構成によれば、固体撮像素子が複数の異なる光電変換特性を有するものとされ、ノイズ除去手段によって、固体撮像素子による撮像により得られる画像に対するノイズ除去処理が行われ、階調変換手段によって、ノイズ除去手段によりノイズ除去処理が行われた画像に対する階調変換処理が行われる。そして、ノイズ除去手段において、低周波成分抽出手段によって、画像から低周波成分が抽出され、高周波成分抽出手段によって、画像から高周波成分が抽出される。また、画像の信号に対して該信号のレベルよりもレベルが高い側を正側、レベルが低い側を負側と定める場合において、ノイズ除去量算出手段によって、低周波成分抽出手段により抽出された低周波成分のレベルに応じて、正側のノイズに対するノイズ除去量である正側ノイズ除去量と、負側のノイズに対するノイズ除去量である負側ノイズ除去量とが算出される。そして、コアリング手段によって、高周波成分抽出手段により抽出された高周波成分に対して、ノイズ除去量算出手段により算出された正側ノイズ除去量及び負側ノイズ除去量に基づいてコアリング処理が行われ、合成手段によって、コアリング手段によりコアリング処理が行われた高周波成分と、低周波成分抽出手段により抽出された低周波成分とが合成される。
【0009】
また、上記構成において、前記正側ノイズ除去量及び負側ノイズ除去量は、前記コアリング処理におけるそれぞれのコアリング係数であって、前記ノイズ除去量算出手段は、前記ノイズ除去手段によりノイズ除去処理が行われた画像に対して前記階調変換手段による階調変換処理を行った後に該画像に残る残留ノイズ量が、前記正側及び負側それぞれにおいて前記低周波成分のレベルに依らず一定となるように前記各コアリング係数を算出することが好ましい。(請求項2)
【0010】
これによれば、正側ノイズ除去量及び負側ノイズ除去量が、コアリング処理におけるそれぞれのコアリング係数とされ、ノイズ除去量算出手段によって、ノイズ除去手段によりノイズ除去処理が行われた画像に対して階調変換手段による階調変換処理を行った後に該画像に残る残留ノイズ量が、正側及び負側それぞれにおいて低周波成分のレベルに依らず一定となるように各コアリング係数が算出される。
【0011】
また、上記構成において、前記固体撮像素子による撮像により得られる画像は、複数の異なる特性を有する複数特性画像であって、前記ノイズ除去手段は、前記複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理を行う特性変換手段をさらに備え、当該特性変換手段による変換処理によって前記複数特性画像を特性が統一された統一特性画像に変換した後、該統一特性画像に対する前記ノイズ除去処理を行うことが好ましい。(請求項3)
【0012】
これによれば、固体撮像素子による撮像により得られる画像が、複数の異なる特性を有する複数特性画像とされ、ノイズ除去手段において、特性変換手段によって、複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理が行われて複数特性画像がその特性が統一された統一特性画像に変換された後、該統一特性画像に対するノイズ除去処理が行われる。
【0013】
また、上記構成において、前記固体撮像素子による撮像により得られる画像は、複数の異なる特性を有する複数特性画像であって、前記ノイズ除去手段は、前記複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理を行う特性変換手段をさらに備え、前記複数特性画像に対する前記ノイズ除去処理を行った後、前記特性変換手段による変換処理によって前記複数特性画像を特性が統一された統一特性画像に変換することが好ましい。(請求項4)
【0014】
これによれば、固体撮像素子による撮像により得られる画像が、複数の異なる特性を有する複数特性画像とされ、ノイズ除去手段において、複数特性画像に対するノイズ除去処理が行われた後、特性変換手段によって、複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理が行われて複数特性画像がその特性が統一された統一特性画像に変換される。
【0015】
また、上記構成において、前記固体撮像素子は、入射光量に対して電気信号が線形的に変換されて出力される線形光電変換特性と、該入射光量に対して電気信号が対数的に変換されて出力される対数光電変換特性とからなる光電変換特性を有するものであって、前記複数特性画像は、線形特性の画像と対数特性の画像とからなる線形/対数画像であることが好ましい。(請求項5)
【0016】
これによれば、固体撮像素子が、入射光量に対して電気信号が線形的に変換されて出力される線形光電変換特性と、該入射光量に対して電気信号が対数的に変換されて出力される対数光電変換特性とからなる光電変換特性を有するものとされ、複数特性画像が、線形特性の画像と対数特性の画像とからなる線形/対数画像とされる。
【0017】
また、上記構成において、前記固体撮像素子は、入射光量に対して電気信号が線形的に変換されて出力される第1の線形光電変換特性と、該第1の線形光電変換特性とグラフ上の傾きが異なる第2の線形光電変換特性とからなる光電変換特性を有するものであって、前記複数特性画像は、2種類の線形特性の画像からなる線形/線形画像であることが好ましい。(請求項6)
【0018】
これによれば、固体撮像素子が、入射光量に対して電気信号が線形的に変換されて出力される第1の線形光電変換特性と、該第1の線形光電変換特性とグラフ上の傾きが異なる第2の線形光電変換特性とからなる光電変換特性を有するものとされ、複数特性画像が、2種類の線形特性の画像からなる線形/線形画像とされる。
【0019】
また、上記構成において、前記特性変換手段は、前記複数特性画像を線形特性の画像に統一する変換処理を行うことが好ましい。(請求項7)
【0020】
これによれば、特性変換手段によって、複数特性画像を線形特性の画像に統一する変換処理が行われる。
【0021】
また、上記構成において、前記ノイズ除去量算出手段は、前記低周波成分のレベルに応じて与えられる、前記階調変換手段による階調変換処理としてのダイナミックレンジ圧縮処理におけるダイナミックレンジ圧縮率(k)と、既定値として与えられる前記画像のノイズ量(n)及び前記残留ノイズ量(r)とから前記各コアリング係数を算出することが好ましい。(請求項8)
【0022】
これによれば、ノイズ除去量算出手段によって、低周波成分のレベルに応じて与えられる階調変換手段による階調変換処理としてのダイナミックレンジ圧縮処理におけるダイナミックレンジ圧縮率(k)と、既定値として与えられる画像のノイズ量(n)及び残留ノイズ量(r)とから各コアリング係数が算出される。
【0023】
また、上記構成において、前記ノイズ除去量算出手段は、前記ダイナミックレンジ圧縮率を「1」としてコアリング係数を算出することが好ましい。(請求項9)
【0024】
これによれば、ノイズ除去量算出手段によって、ダイナミックレンジ圧縮率を「1」としてコアリング係数が算出される。
【0025】
また、上記構成において、前記ノイズ除去手段は、前記固体撮像素子による撮像により得られる画像からエッジ量を検出するエッジ量検出手段と、前記エッジ量検出手段により検出されたエッジ量に基づいて、前記コアリング処理におけるコアリングの度合いを調整する調整手段とをさらに備えることが好ましい。(請求項10)
【0026】
これによれば、ノイズ除去手段において、エッジ量検出手段によって、固体撮像素子による撮像により得られる画像からエッジ量が検出され、調整手段によって、エッジ量検出手段により検出されたエッジ量に基づいて、コアリング処理におけるコアリングの度合いが調整される。
【発明の効果】
【0027】
請求項1に係る撮像装置によれば、抽出された低周波成分のレベルに応じてノイズ除去量が算出されるので、すなわち階調変換処理を行うに際しての階調(輝度)レベル(低周波成分のレベルに対応する)に応じてノイズの除去量を設定することができるので、階調変換による伸張度合いが違うことによってノイズが目立つことのないようにすることができる。さらに、このノイズ除去量が、低周波成分のレベルに応じて、正側のノイズに対する正側ノイズ除去量と、負側のノイズに対する負側ノイズ除去量とに細分化して算出されて、この正側ノイズ除去量及び負側ノイズ除去量に基づいてコアリング処理が行われるので、ノイズ除去を高精度に行うことができる。これらのことにより、ひいては高画質な画像を得ることができる。
【0028】
請求項2に係る撮像装置によれば、ノイズ除去処理が行われた画像に対して階調変換処理を行った後に該画像に残る残留ノイズ量が、正側及び負側それぞれにおいて低周波成分のレベルに依らず一定となるように各コアリング係数が算出されるので、当該コアリング係数の算出方法を用いて、正側ノイズ除去量或いは負側ノイズ除去量であるコアリング係数を、容易に且つ確実に算出することができる。
【0029】
請求項3に係る撮像装置によれば、固体撮像素子により得られた画像(複数特性画像)がその特性が統一された統一特性画像に変換された後、この統一特性画像に対するノイズ除去処理が行われるので、統一特性画像にノイズ除去処理を施すことができる、すなわちノイズ除去処理が行われた時点で、既にその画像が統一特性画像であるようにすることができ、後段の階調変換手段における階調変換処理に、このノイズ除去処理後の画像をそのまま(変換処理動作を必要とせずに)使用可能な構成を実現することができる。
【0030】
請求項4に係る撮像装置によれば、固体撮像素子により得られた画像(複数特性画像)に対するノイズ除去処理が行われた後、特性が統一された統一特性画像に変換される構成であるので、画像に対するノイズ除去処理と、統一特性画像に変換する変換処理とを別々に行うことができ、すなわち例えばノイズ除去処理が施された画像に対して別の処理を施した後に、階調変換処理に供するべく当該変換処理を行うことができ、ひいては画像の取り扱いの自由度が高くなる(取り扱い性が向上する)。
【0031】
請求項5に係る撮像装置によれば、固体撮像素子が線形及び対数特性からなる光電変換特性を有し、この固体撮像素子により線形/対数画像が得られる構成であるので、広いダイナミックレンジを確保しつつ、当該正側及び負側のノイズを考慮した高精度のノイズ除去処理による高画質な画像を得ることが可能となる。
【0032】
請求項6に係る撮像装置によれば、固体撮像素子が傾きの異なる(2種類の)線形特性からなる光電変換特性を有し、この固体撮像素子により線形/線形画像が得られる構成であるので、広いダイナミックレンジを確保しつつ、当該正側及び負側のノイズを考慮した高精度のノイズ除去処理による高画質な画像を得ることが可能となる。
【0033】
請求項7に係る撮像装置によれば、複数特性画像が線形特性の画像に統一される、すなわち画像の特性が線形特性に統一される構成であるので、階調変換手段による階調変換処理を容易に行うことができるようになる。
【0034】
請求項8に係る撮像装置によれば、正側及び負側のコアリング係数が、低周波成分のレベルに応じて与えられるダイナミックレンジ圧縮率(k)と、既定値として与えられる画像のノイズ量(n)及び残留ノイズ量(r)とから算出されるので、すなわち、ノイズ量及び残留ノイズ量は既定値であり且つダイナミックレンジ圧縮率は低周波成分に応じて与えられるものであり、コアリング係数の算出に要する値は全て低周波成分に応じて定まると言うことができるので、正側及び負側のコアリング係数を、1つの評価(変化)パラメータである低周波成分を用いた簡易な演算によって容易に算出することができる。
【0035】
請求項9に係る撮像装置によれば、ダイナミックレンジ圧縮率を「1」としてコアリング係数が算出される構成であるので、ダイナミックレンジ圧縮を行わない(k=1)つまり階調変換を行わない場合における当該正側及び負側のコアリング係数が算出され、階調変換を行う前の段階において正側及び負側の残留ノイズが一定とされた高精度にノイズ除去がなされた画像を得ることができる。
【0036】
請求項10に係る撮像装置によれば、画像から検出されたエッジ量に基づいて、コアリング処理におけるコアリングの度合いが調整されるので、正側ノイズ除去量及び負側ノイズ除去量に基づく高精度なノイズ除去が行われるとともに、エッジ量が考慮されたすなわちエッジ保存がなされた、より高画質な画像を得ることができる。
【発明を実施するための最良の形態】
【0037】
(実施形態1)
図1は、第1の実施形態に係る撮像装置の一例であるデジタルカメラ1の主に撮像処理に関するブロック構成図を示す。図1に示すようにデジタルカメラ1は、レンズ部2、固体撮像素子3、アンプ4、A/D変換部5、ノイズ除去部6、階調変換部7、画像メモリ8、全体制御部9、モニタ部10及び操作部11を備えている。
【0038】
レンズ部2は、被写体光(光像)を取り込むレンズ窓として機能するとともに、この被写体光をカメラ本体の内部に配置されている固体撮像素子3へ導くための光学レンズ系を構成するものであり、例えば被写体光の光軸Lに沿って直列的に配置される例えばズームレンズやフォーカスレンズ、その他の固定レンズブロックからなるレンズ群である。レンズ部2は、当該レンズの透過光量を調節するための絞り(図略)やシャッタ(図略)を備えており、全体制御部9によってこの絞りやシャッタが駆動制御される。
【0039】
固体撮像素子3は、レンズ部2により結像された被写体光像の光量に応じ、R、G、Bの各色成分の画像信号に光電変換して後段のアンプ4へ出力する撮像センサである。本実施形態においては、固体撮像素子3として、図4に示すような入力輝度(センサ入射輝度)が低い場合(暗時)に出力画素信号(光電変換により発生する出力電気信号)が線形的に変換されて出力される線形特性と、輝度が高い場合(明時)に出力画素信号が対数的に変換されて出力される対数特性とからなる光電変換特性、換言すれば、低輝度側が線形の光電変換特性、高輝度側が対数特性の光電変換特性を有するものが用いられる。このような光電変換特性を有する固体撮像素子3(リニアログセンサという)による撮像によって線形/対数画像が得られる。なお、線形特性と対数特性との切り替わり点(変曲点)は、固体撮像素子3の各画素回路に対する所定の制御信号に基づいて任意に変化させることが可能である。また、光電変換特性における上記線形特性に示すような低輝度側の特性を「低輝度側特性」、上記対数特性に示すような高輝度側の特性を「高輝度側特性」と表現するものとする。
【0040】
図2は、固体撮像素子3の一例である二次元のMOS型固体撮像装置(CMOSイメージセンサ)の概略構成図である。同図において、G11〜Gmnは、行列(マトリクス)配列された画素を示している。この画素G11〜Gmnからなる画素部の外周縁部近傍には、垂直走査回路301と水平走査回路302とが配設されている。垂直走査回路301は、行のライン(信号線)304−1、304−2、・・・304−n(これらを纏めて行ライン304という)を順次走査する。水平走査回路302は、各画素から出力信号線306−1、306−2、・・・306−m(これらを纏めて出力信号線306という)に導出された光電変換信号を画素毎に水平方向に順次読み出す。なお、各画素は電源ライン305により電力供給がなされている。
【0041】
出力信号線306−1、306−2、・・・306−mには、それぞれ、後述のトランジスタT12と対になって増幅回路を構成する定電流源307−1、307−2、・・・307−m(これらを纏めて定電流源307という)が設けられている。ただし、この増幅回路として、定電流源307に代えて抵抗やトランジスタを設けてもよい。この出力信号線306を介して出力される各画素の撮像時の画像データ及びリセット時の補正データが、順次、選択回路(サンプルホールド回路)308−1、308−2、・・・308−m(これらを纏めて選択回路308という)に出力される。この選択回路308に対して、行毎に画像データ及び補正データが出力されてサンプルホールドされる。サンプルホールドされた画像データ及び補正データは、列毎に、補正回路309に出力され、補正回路309において、感度バラツキによるノイズ成分が除去されるように、補正データに基づいて画像データの補正が行われる。そして、補正回路309から各画素の感度バラツキが補正された画像データが、各画素毎にシリアルに出力される。
【0042】
図3は、図2に示す各画素G11〜Gmnの構成例を示す回路図である。同図に示すように、固体撮像素子3の各画素は、フォトダイオードPD1、MOSFET(Metal Oxide Semiconductor Field Effect Transistor)としてのトランジスタT10〜T13、及びFD(Floating Diffusion)から構成されている。トランジスタT10〜T13は、ここではNチャンネルMOSFETが採用されている。VDD、φRSB、φRST、φTX及びφVは、各トランジスタに対する信号(電圧)を示し、GNDは接地を示している。
【0043】
フォトダイオードPD1は、感光部(光電変換部)であり、被写体からの入射光量に応じた電気信号(光電流IPD1)を出力する。トランジスタT12は、図2に示す定電流源307と対になってソースフォロワ増幅用の増幅回路(ソースフォロワアンプ)を構成するものであり、後述する電圧V1OUTに対する増幅(電流増幅)を行う。トランジスタT13は、ゲートに印加する電圧(信号φV)に応じてオン、オフされるスイッチとして動作する信号読み出し用のトランジスタ(行選択トランジスタ)である。トランジスタT13のソースは、図2に示す出力信号線306に接続されており、トランジスタT13がオンした場合、トランジスタT12で増幅された電流を出力電流として出力信号線306へ導出する。
【0044】
トランジスタT10は、同トランジスタのゲートに印加される電圧に応じてオン、オフされるスイッチとして動作するものであって、当該ゲート電位の高低によるオン、オフ切り替えに応じて、フォトダイオードPD1で発生した光電流IPD1(電荷)のFDに対する転送、非転送の切り替えを行う所謂転送ゲートとなるものである。フォトダイオードPD1で発生した光電流IPD1はフォトダイオードPD1の寄生容量に流れてその電荷が蓄積され、蓄積電荷量に応じた電圧が発生する。このときトランジスタT10がオン状態であれば、この寄生容量に蓄積された電荷(負電荷)がFDへ向けて移動する。FDは、電荷(信号電荷)を一旦保持しておく電荷保持部であり、この保持した電荷を電圧に変える(電荷電圧変換を行う)所謂キャパシタの役割を担うものである。
【0045】
トランジスタT11(リセットゲートトランジスタ)は、同トランジスタのゲート電圧の高低によるオン、オフ切り替えに応じてFDに対するリセットバイアスの印加、非印加の切り替えを行うものであるとともに(例えばトランジスタT11がオン状態の場合、トランジスタT10もオン状態となっており、トランジスタT11、FD、トランジスタT10及びフォトダイオードPD1を挟んだφRSB及びGND間にリセットバイアスがかけられた状態となる)、ゲート電圧をMid電位(中間レベル)とすることで、フォトダイオードPD1からFDに移動する電荷(FDを流れる電流)のFD及びトランジスタT11による電荷電圧変換によってそれぞれ線形変換及び対数変換を行わせるものである。
【0046】
この場合、トランジスタT11には上記Mid電位に応じた電流(リセット電流)が流れ、トランジスタT11のソースがこのリセット電流に応じた電位となる。そして、フォトダイオードPD1から移動してくる電荷による電位が、Mid電位に応じたトランジスタT11のソース電位より小さい場合には、すなわち撮像する被写体の輝度が低く、つまり被写体が暗く、フォトダイオードPD1に入射される入射光量が少ない場合には、FDにおいて線形変換としての電荷電圧変換が行われ、一方、ソース電位を超える場合には、すなわち撮像する被写体の輝度が高く、つまり被写体が明るく、フォトダイオードPD1に入射される入射光量が多い場合には、トランジスタT11において対数変換としての電荷電圧変換が行われる。
【0047】
これにより、FDとトランジスタT12との接続ノード(出力V1OUT)には、FDにおける光電流IPD1の積分値による線形出力としての電圧、或いはトランジスタT11における光電流IPD1に応じた電流−電圧変換による対数出力としての電圧が現れる。すなわち、光電変換特性における線形特性領域での出力値はFDにおける光電流IPD1の積分値となるが、対数特性領域については、FD部に蓄えられた電荷による電位がトランジスタT11(リセットゲート)のソース電流を超えた領域において、光電流IPD1と等しい電流がトランジスタT11に流れ、トランジスタT11において光電流IPD1が電流−電圧変換された値(電圧)が当該出力値としてFD部に現れる(信号電荷を対数圧縮した電荷が上記寄生容量に蓄積される)。このトランジスタT11での電流−電圧変換が上記対数変換に相当する。そして、トランジスタT13がオンされると、これら各電圧に応じたトランジスタT12による増幅電流が、トランジスタT13を介して出力電流として出力信号線306に導出される。このように固体撮像素子3により、被写体輝度(センサ入射輝度)に応じて線形変換又は対数変換された出力信号が得られる。
【0048】
なお、ここでは、固体撮像素子3の各画素において上記NチャンネルMOSFETを採用しているが、PチャンネルMOSFETを採用してもよい。また、固体撮像素子3として、上述のようにFDを用いて線形変換及び対数変換を行うCMOSイメージセンサに限らず、例えばMOSFET(P型又はN型)の所謂サブスレッショルド特性(ゲート電圧が閾値以下の時にサブスレッショルド電流と呼ばれる微小電流が流れる特性)を利用することで当該線形変換及び対数変換を行うCMOSイメージセンサを採用してもよい。ただし、CMOSイメージセンサに限らず、VMISイメージセンサやCCDイメージセンサ等であってもよい。
【0049】
アンプ4は、例えばAGC(オートゲインコントロール)回路を備え、固体撮像素子3から入力されるアナログ画像信号がA/D変換部5の入力電圧範囲に合うように、適切な増幅率で増幅するものである。アンプ4は、AGC回路の他、画像信号のサンプリングノイズの低減を行うCDS(相関二重サンプリング)回路等を備えていてもよい。なお、AGC回路に対するゲイン値は全体制御部9によって設定される。
【0050】
A/D変換部5は、アンプ4にて増幅(ゲイン調整)されたアナログ画像信号をデジタル画像信号に変換するものであり、固体撮像素子3の各画素で受光して得られる画素信号をそれぞれ例えば12ビットの画素データに変換する。
【0051】
ノイズ除去部6は、A/D変換部5から入力される画像信号のノイズを除去するものである。なお、ノイズ除去部6から出力される画像信号は、後述するように特性が線形特性に統一された状態の画像信号である。このノイズ除去部6の構成及び動作の詳細については後述する。
【0052】
階調変換部7は、ノイズ除去部6から入力される画像信号(線形画像信号)が適切な出力レベルとなるように、画像信号に対して階調変換処理を行い、該画像信号の階調特性を変化させるものである。この階調変換においては、一般的にDR圧縮と呼ばれる技術を利用する。DR圧縮技術の一例として、画像から照明成分と反射率成分とを抽出し(画像を照明成分と反射率成分とに分解し)、照明成分を圧縮した後、これを反射率成分と合成する方法がある。この技術は、広ダイナミックレンジ画像は、照明成分が広ダイナミックレンジであるので、この照明成分のダイナミックレンジを圧縮すればよい、という考えに基づいている。
【0053】
画像(入力画像、基画像)Iは、照明成分Bと反射率成分Dとを用いて、以下の(1)式で表すことができる。
I=B*D ・・・(1)
但し、記号「*」は乗算を示す(以降同じ)。
【0054】
上記照明成分Bは、低周波であるとの仮定に基づき、画像Iをローパスフィルタ(LPF)に通すことで求めることができる。ここで、照明成分Bの高輝度部を適切な出力レベルとなるように処理を施し、すなわちDR圧縮を行い、これにより圧縮後の照明成分B’を得る。この照明成分B’を用いてDR圧縮された画像I’は以下の(2)式により表される。
I’=B’*D ・・・(2)
【0055】
また、上記(1)、(2)式より、画像I’は以下の(3)式で表される。
I’=I*B’/B=k(B)*I ・・・(3)
但し、k(B)(=B’/B)(k(B)を単にkとも表す)は、DR圧縮率又は圧縮特性を示す。
【0056】
画像メモリ8は、ROM(Read Only Memory)やRAM(Random Access Memory)等のメモリからなり、ノイズ除去部6や階調変換部7においてデータ処理される前のRAW画像データ、或いはノイズ除去部6、階調変換部7又は全体制御部9での各種データ処理時又は処理後の画像データ等を格納するものである。
【0057】
全体制御部9は、各制御プログラム等を記憶するROM、一時的に各種データを格納するRAM、及び制御プログラム等をROMから読み出して実行する中央演算処理装置(CPU)等からなり、デジタルカメラ1全体の動作制御を司るものである。全体制御部9は、固体撮像素子3や操作部11等の各処理部から送信されてくる情報(信号)と装置の動作状態とに基づき、各処理部が必要とするパラメータ等の動作情報を算出し、これを送信することで各処理部の動作を制御する。
【0058】
モニタ部10は、例えばカメラ背面に配設されたカラー液晶表示素子からなる液晶表示器(LCD;Liquid Crystal Display)等からなり、固体撮像素子3による撮影画像、すなわちノイズ除去部6や階調変換部7で処理された画像や画像メモリ8に格納されている画像等を表示するものである。モニタ部10は、後述のノイズ除去処理(コアリング処理)等の各種処理結果が反映された画像を表示してもよい。
【0059】
操作部11は、デジタルカメラ1に対するユーザによる操作指示(指示入力)を行うものであり、例えば電源スイッチ、レリーズスイッチ、各種撮影モードを設定するモード設定スイッチ等の各種の操作スイッチ群(操作ボタン群)からなる。例えば、上記レリーズスイッチが押下(オン)されることで、撮像動作すなわち固体撮像素子3により被写体光が撮像され、この撮像により得られた画像データに対して所要の画像処理が施された後、画像メモリ8等に記録されるといった一連の撮影動作が実行される。
【0060】
ここで、ノイズ除去部6の構成及び動作の詳細について説明する。図5は、ノイズ除去部6の一例を示すブロック構成図である。同図に示すようにノイズ除去部6は、LPF部61、線形変換部62A、62B、減算部63、コアリング処理部64、コアリング係数算出部65、エッジ量検出部66、合成係数算出部67、合成部68及び加算部69を備えている。
【0061】
LPF部61は、ノイズ除去部6に入力されてきた画像信号、すなわち固体撮像素子3により得られた線形/対数画像(基画像I)に対して、ガウシアンフィルタ等の線形のLPFによるフィルタ処理(LPF処理)を行い、この基画像Iから低周波成分を抽出するものである。ただし、このLPF処理に用いるLPFは線形フィルタに限らず、メディアンフィルタ等の非線形フィルタであってもよい。
【0062】
線形変換部62Aは、LPF部61によりLPF処理された線形/対数画像の低周波成分l(低周波成分画像)に対して、この線形/対数画像における対数特性の画像を線形特性の画像に変換する変換処理(対数特性を線形特性へ変換する変換処理のことを「ログリニア変換」という)を行うものである。これは、謂わば線形及び対数の2種類の特性からなる画像データを、線形特性1種類の画像データに統一して扱えるようにする処理である。なお、線形特性つまり線形画像に統一された画像のことを「統一線形画像」という。また、線形/対数画像に対してログリニア変換を行って統一線形画像を得ることを、適宜、線形/対数特性(画像)を線形変換するとも表現する。なお、低周波成分lが線形変換部62Aにより線形変換されて出力されたもの(統一線形画像)を低周波成分Lとする。
【0063】
線形変換部62Bは、LPF部61によりLPF処理されていないそのままの基画像I(線形/対数画像)に対して上記と同様に線形変換(ログリニア変換)を行い、統一線形画像として出力するものである。
【0064】
減算部63は、線形変換部62Bから出力された統一線形画像(入力画像信号が線形変換された信号)から、線形変換部62Aから出力された低周波成分Lを減算(或いは低周波成分Lを負の値として加算)することで、当該統一線形画像から高周波成分Hを抽出するものである。
【0065】
コアリング処理部64は、後述するコアリング係数算出部65により算出されたコアリング係数に基づいてコアリング処理を行うものである。コアリング処理は、画像信号における微小振幅信号をノイズと見なして取り除く処理である。コアリング処理部64は、減算部63により抽出された高周波成分Hに対して、図6に示す入出力特性(コアリング特性C1という)に基づくコアリング処理を行う。コアリング特性C1における記号「S」は、コアリング係数算出部65で算出されるコアリング係数Sを示す。このコアリング処理では、入力が−Sより大きくSより小さいときには出力がゼロ(0)となり、入力が−S以下であるときには出力が、入力に対してSを加えた値となり、入力がS以上であるときには出力が、入力に対してSを減じた値となるような変換処理が行われる。本実施形態では、このコアリング係数Sの値を、ノイズ除去精度が高くなるような値に設定する。この場合、コアリング係数Sは、低周波成分やDR圧縮率により変化するだけでなく、低周波成分に対してノイズが正側又は負側のノイズであるということによっても変化する。
【0066】
コアリング係数算出部65は、コアリング係数Sを算出(設定)するものである。コアリング係数算出部65は、線形変換部62Aから出力された低周波成分L及び減算部63から出力された高周波成分H、並びにノイズ量(n)、残留ノイズ量(r)及びDR圧縮率(k)の情報を用いてコアリング係数Sを算出する。コアリング係数算出部65において算出されたコアリング係数Sの情報はコアリング処理部64に入力される。このコアリング係数Sの算出については後に詳述する。
【0067】
ところで、ノイズ量n、残留ノイズ量r及びDR圧縮率kの情報は、全体制御部9において設定される(全体制御部9から与えられる)ものであり、例えば全体制御部9内或いはこれに接続される所定のメモリに記憶されている。ノイズ量n及び残留ノイズ量rは、例えば工場出荷時において、所定の基準画像(平坦な画像;例えば空や壁の画像)をデジタルカメラ1で撮影し、どれくらいのノイズ量nや残留ノイズ量rを与えてやれば高画質な画像が得られるのかを調整によって決める謂わば調整値である。例えばノイズ量nについては、製造された各デジタルカメラ1による撮影画像に固有のノイズ量nはどれくらいの大きさであるのかを測定するなどして定めた値(測定値、既定値)である。残留ノイズ量rは、ノイズ除去処理後にどれくらいのノイズ量rが残っていても許容されるのかつまりノイズの許容量について定めた値(既定値)であり、例えば、この残留ノイズ量rを0(ゼロ)と定めてもよいし、ノイズ量nの何分の1の量と定めてもよい。
【0068】
また、DR圧縮率kは、階調変換部7によるDR圧縮において使用される値として定められる。このDR圧縮率kは、上記(3)式に示すように照明成分B、B’の関数すなわち低周波成分の関数(低周波成分に応じて決定される値)であるので、上記線形変換部62A等により得られる低周波成分Lの値に応じて決定される。この場合例えばメモリ(テーブル)に既定値(固定値)として記憶しておいた各種DR圧縮率kの中から当該低周波成分Lの値に対応するDR圧縮率kの情報を取り出してくる構成としてもよい。なお、本実施形態では、コアリング係数算出部65に低周波成分Lの情報が入力されると、コアリング係数算出部65はこの低周波成分Lの情報を全体制御部9へ送信し、全体制御部9では、この低周波成分Lに対応するDR圧縮率kを該全体制御部9内のメモリに記憶してある上記テーブルから選択するとともに、当該低周波成分Lに応じて選択したDR圧縮率k(k(L))の情報をコアリング係数算出部65へ送信する構成となっている。
【0069】
なお、上述のようにノイズ量n及び残留ノイズ量rは既定値であり、またDR圧縮率kは低周波成分L(後述の第2の実施形態では低周波成分l)によって決まる値である、つまりこれらパラメータは全て低周波成分Lで表せるものである(低周波成分の関数である)ことから、コアリング係数算出部65は、コアリング係数Sを低周波成分のレベルに応じて(低周波成分に基づいて)算出(設定)する、と換言できる。
【0070】
エッジ量検出部66は、線形変換部62Bから出力された統一線形画像(線形/対数画像)に対してエッジ検出処理を行い、この統一線形画像からエッジ量を検出するものである。具体的にはエッジ量検出部66は、エッジ検出処理として、SobelフィルタやPrewittフィルタ等のエッジ強度検出用フィルタを用いたフィルタ処理を行うことで、画像ここでは統一線形画像(第2の実施形態では線形変換されていない画像I)からエッジ量e(エッジ強度)を検出する。
【0071】
合成係数算出部67は、エッジ量検出部66により検出したエッジ量eの情報を用いて合成係数(エッジ保存係数)Eを算出するものである。このエッジ量eの情報を用いた合成係数Eの算出は、例えば図7に示す特性に基づいて行われる。この特性において横軸はエッジ量eであり、縦軸は合成係数Eである。エッジ量eにおけるel、ehの値は予め与えられる閾値である。合成係数Eはこの閾値のエッジ量el、ehを用いた以下に示される値として算出される。
e≦elのとき E=1.0
el<e<ehのとき E=(eh−e)/(eh−el)
e≧ehのとき E=0(ゼロ)
【0072】
なお、エッジ量el、ehの値は全体制御部9において設定或いは算出される(全体制御部9から与えられる)、すなわち例えば全体制御部9内或いはこれに接続されたメモリに既定値として記憶されたものであってもよいし、エッジ量検出部66により検出されたエッジ量に応じて都度、算出されるものであってもよい。
【0073】
合成部68は、高周波成分Hと、上記コアリング処理部64においてこの高周波成分Hにコアリング処理が施されてなる高周波成分Hcとを、合成係数算出部67により算出された合成係数Eを用いて合成するものである。当該合成により得られるものを高周波成分H’とすると、このH’は、例えばH’=E*Hc+(1−E)*Hの式で表される。この式は、謂わば高周波成分Hに対してどのくらいの割合でコアリングを行うか、すなわち、エッジ量eがelより小さいものはコアリング処理した画像(Hc)をそのまま使用され(E=1.0の場合でありH’=Hcとなる)、エッジ量eがエッジ量elより大きくなるにつれて徐々にコアリングされていない画像(H)に置き換えられる(コアリング量を小さくしていくことと同じ)ことを示している。
【0074】
これらエッジ量検出部66、合成係数算出部67及び合成部68によるエッジ量検出、合成係数算出及び合成処理は、コアリングするに際して、画像に必要なエッジ情報の欠落を低減するためのものであると言える。エッジ量が大きいほどノイズ成分除去(コアリング)の程度が抑えられてエッジ成分が保存される、すなわち、画像においてエッジ量eが大きい部分は、合成係数Eを小さくすることで、コアリング処理された高周波成分Hcの合成比が小さくなり、一方、コアリング処理が行われていない高周波成分Hの合成比が大きくなるため、エッジ情報の欠落が低減される。合成された高周波成分H’は、エッジ部の情報は残されたまま、画像平坦部のノイズが除去された信号となっている。
【0075】
加算部69は、合成部68により得られた高周波成分H’と、上記線形変換部62Aからの低周波成分Lとを加算(合成)するものである。この加算処理により、ノイズが除去された出力画像Oが得られる。この出力画像Oは後段の処理部へ出力される。
【0076】
このような構成を備えたノイズ除去部6において、上述したようにコアリング係数Sの値をノイズ除去精度が高くなるような値に設定し、このコアリング係数Sに基づいて上記ノイズ除去処理(コアリング処理)を行う。以下に、このコアリング係数Sをどのような値に設定するか或いはどように算出するか等についてその原理を説明する。先ず、線形/対数特性から線形特性への変換によって、ノイズ量がどのように変化するのか或いはどのような値になるのかについて説明する。
【0077】
[線形/対数特性から線形特性への変換におけるノイズについての説明]
線形/対数特性の光電変換特性は一般的に以下の(4)、(5)式のように表される。
v=a*u+B (u≦Uth) ・・・(4)
v=α*ln(u)+β (u>Uth) ・・・(5)
【0078】
ここで、上記(4)、(5)式におけるx=a*u、y=v−bとおくと(原点を通るようにする)、以下の(6)、(7)式が得られる。
y=x (x≦T、y≦T) ・・・(6)
y=c*ln(x)+d (x>T、y>T) ・・・(7)
但し、c=α、d=−α*ln(a)+β−b、T=a*Uth
以下、この(6)、(7)式を線形/対数特性の光電変換特性として計算する。
【0079】
この線形/対数特性の対数特性を線形特性に変換して全体で1つの線形特性にする(線形特性に統一する)。変換後の線形特性をYとすると、Yは上記(6)、(7)式より以下の(8)、(9)式と表される。
Y=y (y≦T) ・・・(8)
Y=exp((y−d)/c) (y>T) ・・・(9)
但し、記号「/」は除算を示す(以降同じ)。
したがって、yがノイズの無い信号であるとすると、全y(すなわち全x)において、Y=xとなる。
【0080】
ところで、固体撮像素子3により光電変換された後で、信号にのるノイズ(ランダムノイズ)は、線形特性領域、対数特性領域に関係なくその大きさが一定と考えられるので、ノイズを有する信号をyn、ノイズをn(n>0)とすると、yn=y±nと表すことができる。すなわち、信号yn=y±nは、信号yに対してこのyの値よりも大きな値となる(画像の信号yに対して該信号のレベルよりもレベルが高い値となる)つまりyのグラフに対して正側(図における上側に存在する)のノイズと、yの値よりも小さな値となる(画像の信号yに対して該信号のレベルよりもレベルが低い値となる)つまりyのグラフに対して負側(図における下側に存在する)のノイズとが当該信号yを挟んで略同等の振幅を有する波(ランダムな波形ではあるが、信号yを挟んで正側及び負側で略同じ大きさの波の高さを有している)として存在しており、この場合の正側の各ノイズ波の例えば包絡線(各ノイズ波の曲線族と接線を共有する線)に相当するものをyn=y+nとし、負側も同様に各ノイズ波の包絡線に相当するものをyn=y−nとしている。なお、この信号yに対するノイズ±nは、このように包絡線に相当するものに限定されず、例えば正側、負側それぞれにおけるノイズの平均値(正側の平均値が+n、負側の平均値が−n)、最高レベル、ピークtoピーク、或いはRMS(二乗平均粗さ)等、任意に設定可能である。
【0081】
上記(6)、(7)式より、ノイズが正側のノイズ(ノイズ正側)である場合(yn=y+n)、以下の(10)、(11)式のように表される。
ノイズ正側
yn=x+n (x≦T、yn≦T+n) ・・・(10)
yn=c*ln(x)+d+n (x>T、yn>T+n) ・・・(11)
【0082】
また、ノイズが負側のノイズ(ノイズ負側)である場合(yn=y−n)、以下の(10)’、(11)’式のように表される。
ノイズ負側
yn=x−n (x≦T、yn≦T−n) ・・・(10)’
yn=c*ln(x)+d−n (x>T、yn>T−n) ・・・(11)’
【0083】
ynを線形特性に変換したものをYnとすると、このYnは、ノイズ正側の場合、上記(8)〜(11)式より以下の(12)〜(14)式で表される。
ノイズ正側
Yn=yn=x+n (yn≦T、x≦T−n) ・・・(12)
Yn=exp((yn−d)/c)
=exp((x+n−d)/c)
=exp((x−d)/c)*exp(n/c) (T<yn≦T+n、T−n<x≦T) ・・・(13)
Yn=exp((yn−d)/c)
=exp((c*ln(x)+d+n−d)/c)
=x*exp(n/c) (T+n<yn、T<x) ・・・(14)
【0084】
また、Ynは、ノイズ負側の場合、上記(8)、(9)、(10)’及び(11)’式より、以下の(12)’〜(14)’式で表される。
ノイズ負側
Yn=yn=x−n (yn≦T−n、x≦T) ・・・(12)’
Yn=yn=c*ln(x)+d−n (T−n<yn≦T、T<x≦T*exp(n/c)) ・・・(13)’
Yn=exp((yn−d)/c)
=exp((c*ln(x)+d−n−d)/c)
=x*exp(−n/c) (T<yn、T*exp(n/c)<x) ・・・(14)’
【0085】
これら(12)〜(14)式及び(12)’〜(14)’式は、図8に示すグラフとなる。すなわち図8のグラフにおいて、ノイズ正側の場合、(12)式に相当するものが符号401で示す特性(特性401)、(13)式に相当するものが符号402で示す特性(特性402)、(14)式に相当するものが符号403で示す特性(特性403)となる。また、ノイズ負側の場合、(12)’式に相当するものが符号411で示す特性(特性411)、(13)’式に相当するものが符号412で示す特性(特性412)、(14)’式に相当するものが符号413で示す特性(特性413)となる。
【0086】
ここで、図8の符号421で示す特性(特性421)は、上記(6)、(7)式に示す線形/対数特性であり、これが線形変換されてY=x(上記(8)、(9)式におけるノイズのない信号であると仮定した場合)の特性422(統一線形特性になる。一方、特性421の信号に対する正側のノイズは符号431で示す特性(特性431;yn(+))で示され、特性421の信号に対する負側のノイズは符号441で示す特性(特性441;yn(−))で示される。この特性431、441が上記特性421から特性422への線形変換と同様に線形変換される場合に、それぞれ、線形の特性442、432(特性422と平行な特性グラフ)に変換されずに(特性442、432に変換されるのであれば問題がないが)、当該特性401、402及び403に示す正側の特性、及び特性411、412及び413に示す負側の特性に変換されてしまう。
【0087】
なお、値Tを変曲点Tとすると、T−n<x≦Tの範囲4021つまり正側の特性402は、理論的には特性432上の線形特性となる筈であるが、ノイズの各値(画素値)で見た場合、例えばノイズ波上の符号451の点に示すように、変曲点T(y座標)を超えているので、実際には線形特性のデータであるにも拘わらず、当該変曲点Tを超えているノイズデータが対数特性のデータであると誤認識されてしまい(ノイズを対数特性の信号と間違ってしまい)、特性402のように変換される。T<x≦T*exp(n/c)の範囲4121つまり負側の特性412も同様に、ノイズの各値(画素値)で見た場合、例えばノイズ波上の符号461の点に示すように、変曲点T(y座標)より小さい値となっているので、実際には対数特性のデータであるにも拘わらず、当該変曲点T未満のノイズデータが線形特性のデータであると誤認識されてしまい(ノイズを線形特性の信号と間違ってしまい)、特性412のように変換される。特性403、413では、実際の特性と画素値の特性とが同じであるものの、当該信号y(Y)に対する対数領域でのノイズ+n、−nの所謂オフセットの分がそれぞれ上記特性402、412に対する変曲点T、T*exp(n/c)(x座標)からの続きの値として加えられたものとなる。このように、線形変換されることにより、正側、負側のノイズは、特性432、442とならずに、原点を通る直線上の特性403、413のようにx座標の値が大きくなるにつれて広がるような特性に変換されるので、Y=xの特性422に対する正側のノイズ量と負側のノイズ量とが、それぞれ、x>T−nの範囲において一定でなく、異なる値となってしまう。
【0088】
上述においては、線形/対数特性から線形特性への変換により、ノイズ量が正側と負側とで異なるものとなることを示したが、次に、このような正側と負側とで異なる特徴を有するノイズに対してノイズ除去処理を行った後の残留ノイズ量が、どようなコアリング係数Sを設定すれば一定となるのかということについて説明する。
【0089】
[コアリング係数算出についての説明]
ノイズがのった画像信号を低周波成分と高周波成分とに分けると、高周波成分には画像信号の高周波成分とノイズとが含まれるが、ここではコアリング係数を求めるべくノイズ量だけを計算上で求めたいので、このノイズについてだけ考えることとし、ノイズは画像の平坦部(信号波形における緩やか(なだらか)なところ;急峻でない変化の少ないところ)にのっているものと仮定して説明する。この場合、画像信号には高周波成分が存在せず、低周波成分が画像信号に等しいものとなり、ノイズ成分は高周波成分に相当するものとして扱う。
【0090】
線形変換前のノイズを含んだ信号は前述のようにyn=y±nである。このynをLPFに通してなる信号をl(Lの小文字)とすると、上記±nの項は平均化(キャンセル)されて0(ゼロ)となるので、l=LPF(yn)=LPF(y)と表される。但し、LPF(yn)はLPFにynを通す処理(LPF処理)を示している。yは低周波画像であるので、LPF(y)はyと見なすことができ、上記(6)、(7)式を満たす。したがって、lは上記(8)、(9)式により線形変換することができ、以下の(15)式で示すLで表すことができる。
L=Y=x ・・・(15)
但し、Lは線形変換後の画像信号(の低周波成分)となる。
【0091】
なお、仮に、上記ynを線形変換後にLPFに通すとすると、上記(13)、(14)、(13)’及び(14)’式から分かるようにノイズは正側と負側とで等しくないので±nの項は0(ゼロ)にはならず、上記(15)式は成立しない。このことから、LPF処理後に線形変換するようにしている(LPF部61の後段に線形変換部62Aが配置されている)。
【0092】
ここで、線形変換後のノイズを含んだ画像信号Ynは、上記ノイズ正側の(12)〜(14)式及びノイズ負側の(12)’〜(14)’式に対して上記(15)式を用いることで、それぞれ以下の(16)〜(18)式及び(16)’〜(18)’式に示すように低周波成分Lで表すことができる。
ノイズ正側
Yn=L+n (L≦T−n) ・・・(16)
Yn=exp((L−d)/c)*exp(n/c) (T−n<L≦T) ・・・(17)
Yn=L*exp(n/c) (T<L) ・・・(18)
ノイズ負側
Yn=L−n (L≦T) ・・・(16)’
Yn=c*ln(L)+d−n (T<L≦T*exp(n/c))・・・(17)’
Yn=L*exp(−n/c) (T*exp(n/c)<L) ・・・(18)’
【0093】
<ノイズ量の算出>
高周波成分Hは、画像信号Ynから上記(15)式の低周波成分Lを減算したものであるから、H=Yn−Lである。
ところで、これまでノイズ量を正側、負側というように正・負の値として扱ってきたが、説明の都合上(後述のコアリング係数を正、負に依らずに比較したいがため)、このノイズ量Nを“正”(N≧0)として扱いたいので、ノイズ量Nは高周波成分Hであることから、このHを利用して、
H≧0のとき、ノイズ正側でN=H
H<0のとき、ノイズ負側でN=−H
とする。すなわち、ノイズ量の“正・負”を、高周波成分Hの“正・負”に置き換えている(なお、ノイズ量Nが正側のものであるか負側のものであるかは、Hが正の値であるか負の値であるかによって判断できるとも言える)。
【0094】
線形変換後のノイズ量Nは、ノイズ正側(H≧0)の場合、上記(16)〜(18)式より、以下の(19)〜(21)式で表される。
ノイズ正側
N=L+n−L=n (L≦T−n) ・・・(19)
N=exp((L−d)/c)*exp(n/c)−L (T−n<L≦T) ・・・(20)
N=L*(exp(n/c)−1) (T<L) ・・・(21)
【0095】
また、ノイズ負側(H<0)の場合、上記(16)’〜(18)’式より、以下の(19)’〜(21)’式で表される。
ノイズ負側
N=L−(L−n)=n (L≦T) ・・・(19)’
N=L−(c*ln(L)+d−n) (T<L≦T*exp(n/c)) ・・・(20)’
N=L*(1−exp(−n/c)) (T*exp(n/c)<L) ・・・(21)’
すなわち、ノイズ量Nは、これら(19)〜(21)式及び(19)’〜(21)’式に示すように低周波成分Lを用いて表すことができる。
【0096】
なお、このように“線形変換後”のノイズ量Nについて考えるのは、ノイズ除去部6でのノイズ除去処理後における階調変換部7での階調変換処理に際して、一つの特性ここでは線形特性に統一された画像に対して階調変換(DR圧縮)が行われるので、線形変換後のノイズ量における階調変換による影響を考慮して逆算的に当該ノイズ量を評価するためである。
【0097】
<DR圧縮後の残留ノイズ量が一定となる条件>
階調変換部7でのDR圧縮後の残留ノイズ量r(r≧0)が輝度(或いは低周波成分のレベル)に依らず一定となるようにコアリング係数を求める。コアリング係数(コアリング量)をS(S≧0)、コアリング処理後のノイズ量をR(R≧0)とすると、ノイズ量Rは以下の(22)式で表される。ただし、ここでは残留ノイズについて考えているので、N≧Sの場合のみを扱うものとする。すなわち、ノイズ量はコアリング量よりも大きいものであるとし(ノイズがコアリング量より大きな場合だけを考えるものとする)、ノイズ量がコアリング量よりも小さい場合は、図6より、以下の(22)’式に示すように一律にゼロとなる。
R=N−S (N≧S) ・・・(22)
R=0 (N<S) ・・・(22)’
【0098】
コアリング処理後の画像信号をYsとすると、Ysはノイズ正側及び負側において以下の(23)、(23)’式と表される。
ノイズ正側 Ys=L+R ・・・(23)
ノイズ負側 Ys=L−R ・・・(23)’
【0099】
DR圧縮後の画像信号をYs’とすると、上記(3)、(23)、(23)’式より、Ys’はノイズ正側及び負側において以下の式で表される。
ノイズ正側 Ys’=k(B)*(L+R)=k(B)*L+k(B)*R
ノイズ負側 Ys’=k(B)*(L−R)=k(B)*L−k(B)*R
この式における残留ノイズ量は、k(B)*Rであり、これがr(r≧0)一定であるので、k(B)*R=rとなる。
ここで、上記(3)式のDR圧縮率k(B)のBは、照明成分すなわち低周波成分である。画像Iからの照明成分Bと低周波成分Lとの抽出方法は異なる可能性があるが、ここでは前述のように画像平坦部のノイズを考えているため、照明成分Bと低周波成分Lとは等しいものと考えてよい。したがって、k(B)=k(L)として、上記k(B)*R=rは、以下の(24)式で表されることになる。
k(L)*R=r ・・・(24)
【0100】
上記(22)、(24)式より、コアリング係数Sは以下の(25)式で表される。
S=N−r/k(L) ・・・(25)
すなわちこの(25)式を満たすコアリング係数Sを求めればよい。
【0101】
コアリング係数Sは、ノイズ正側の場合、上記(19)〜(21)式及び(25)式により、以下の(26)〜(28)式で表される。
ノイズ正側
S=n−r/k(L) (L≦T−n) ・・・(26)
S=exp((L−d)/c)*exp(n/c)−L−r/k(L) (T−n<L≦T) ・・・(27)
S=L*(exp(n/c)−1)−r/k(L) (T<L) ・・・(28)
【0102】
また、ノイズ負側の場合、上記(19)’〜(21)’式及び(25)式により、以下の(26)’〜(28)’式で表される。
ノイズ負側
S=n−r/k(L) (L≦T) ・・・(26)’
S=L−(c*ln(L)+d−n)−r/k(L) (T<L≦T*exp(n/c)) ・・・(27)’
S=L*(1−exp(−n/c))−r/k(L) (T*exp(n/c)<L) ・・・(28)’
【0103】
これら(26)〜(28)式及び(26)’〜(28)’式に示すように、コアリング係数Sは、DR圧縮率k(低周波成分Lに応じて決定されるDR圧縮率k)、ノイズ量n、残留ノイズ量rを用いて表される。また、コアリング係数Sは、L>T−nの範囲で、ノイズの正側と負側とで異なることが分かる。すなわち、ノイズを一律なものとしてではなく、ノイズを正側のノイズと、負側のノイズとに場合分けすることで、このように正側と負側とでコアリング係数Sが異なる値となる。このような値のコアリング係数Sを上記コアリング係数算出部65により算出し、算出したこのコアリング係数Sを用いて上記コアリング処理部64によるコアリング処理を行うことで、残留ノイズ量rを一定とすることができる。これにより、ノイズ除去を高精度に行うことが可能となる(以下の第2〜第4の実施形態でも同じ)。なお、コアリング係数算出部65でのコアリング係数Sの算出においては、該コアリング係数算出部65へ送信されてきた低周波成分L、ノイズ量n、残留ノイズ量r及びこの低周波成分Lに対応するDR圧縮率k(k(L))の情報に基づいて、すなわち上述のように換言すれば、低周波成分Lのレベルに応じて、ノイズ正側及び負側においてそれぞれ上記(26)〜(28)式及び(26)’〜(28)’式を満たすようなコアリング係数Sが算出される。
【0104】
<階調変換前において残留ノイズ量が一定となる条件>
なお、基画像に対して階調変換を行わない場合、すなわち例えば線形特性(階調変換を行う前の全体が線形特性に統一されてなる線形特性)の状態のまま広DR画像として保存しておきたい場合や、階調変換部でのDR圧縮率を予め決められない場合などには、階調変換前において残留ノイズ量が一定となるようにしてもよい。この場合、上記(26)〜(28)式及び(26)’〜(28)’式におけるk(L)の値を「1」にする、すなわちDR圧縮率を1として(謂わばDR圧縮のパラメータkを除外して)、各コアリング係数Sを算出すればよい。この場合であっても、線形/対数画像を線形変換したときに増幅されるノイズを除去することができるので、ノイズ除去精度を高める効果がある。
【0105】
図9は、第1の実施形態におけるデジタルカメラ1の主にノイズ除去に関する動作の一例を示すフローチャートである。先ず固体撮像素子3による撮影により線形/対数画像が得られる(ステップS1)。この線形/対数画像(基画像I)がノイズ除去部6に入力され、LPF部61によりLPF処理されて低周波成分l(線形/対数画像)が抽出される(ステップS2)。次に、この低周波成分lが線形変換部62Aにより線形変換されて低周波成分L(統一線形画像)が得られるとともに、上記LPF処理されていない基画像Iに対して線形変換部62Aにより線形変換がなされる(この基画像Iの統一線形画像が得られる)(ステップS3)。エッジ量検出部66によって、この線形変換部62Aにより線形変換がなされた基画像Iからエッジ量が検出される(ステップS4)。そして、検出されたこのエッジ量と全体制御部9から与えられるエッジ量の閾値el、ehとの情報に基づいて、合成係数算出部67により合成係数Eが算出される(ステップS5)。
【0106】
一方、減算部63によって、線形変換部62Bからの基画像Iの統一線形画像信号から、線形変換部62Aからの低周波成分Lが減算されることで高周波成分Hが抽出される(ステップS6)。また、コアリング係数算出部65によって、線形変換部62Aからの低周波成分Lと、減算部63からの高周波成分Hと、全体制御部9から与えられるノイズ量n、残留ノイズ量r及びDR圧縮率k(k(L))との情報に基づいて、上記ノイズ正側及び負側のコアリング係数Sが算出される(ステップS7)。この算出されたコアリング係数Sの情報に基づいて、コアリング処理部64によって、減算部63からの高周波成分Hに対するコアリング処理が施されて高周波成分Hcが得られる(ステップS8)。そして、合成部68によって、合成係数算出部67からの合成係数Eの情報に基づいて、当該高周波成分Hcと高周波成分Hとの合成処理が行われ(ステップS9)、加算部69によって、この合成処理により得られた高周波成分H’と線形変換部62Aからの低周波成分Lとが加算されて出力画像Oとして後段の処理部(階調変換部7)へ出力される(ステップS10)。
【0107】
(実施形態2)
第1の実施形態では、線形/対数特性から線形特性へ変換してからコアリング処理を行う構成であったが、第2の実施形態では、線形特性へ変換せずに、線形/対数特性(線形/対数画像)のままコアリング処理を行う構成となっている。図10は、第2の実施形態に係るデジタルカメラ1におけるノイズ除去部6aの一例を示すブロック構成図である。ノイズ除去部6aは、ノイズ除去部6と比べて、線形変換部62Cが異なる。すなわち、ノイズ除去部6では、図5に示すようにコアリング処理を行う機能部(コアリング処理部64や合成部68、加算部69)の前段に線形変換を行う機能部(線形変換部62A、62B)を設けているが、ノイズ除去部6aではこの位置に設けずに、コアリング処理が行われた後の位置すなわち加算部69の後段に線形変換を行う機能部(線形変換部62C)を設けている。これ以外の構成は、ノイズ除去部6と同様でありその説明を省略する。
【0108】
ノイズ除去部6aにおいて、固体撮像素子3により得られた線形/対数画像(基画像I)がLPF部61によりLPF処理されたものが低周波成分l(低周波成分画像)であり、この低周波成分lが減算部63、アリング係数算出部65及び加算部69に入力される。減算部63では、基画像Iから低周波成分lが減算されて高周波成分hが抽出される。コアリング係数算出部65は、これらLPF部61からの低周波成分l及び減算部63からの高周波成分hと、全体制御部9からのノイズ量n、残留ノイズ量r及びDR圧縮率kとに基づいてコアリング係数Sを算出する。コアリング処理部64は、高周波成分hに対してコアリング係数Sを用いてコアリング処理を施し、高周波成分hcとして合成部68へ出力する。合成部68では、高周波成分hcと高周波成分hと合成係数算出部67からの合成係数Eとに基づいて合成処理が行われて、この結果、高周波成分h’を加算部69へ出力する。加算部69による高周波成分h’と低周波成分lとの加算処理により得られた画像(線形/対数画像)は、線形変換部62Cにおいて統一線形画像に線形変換(ログリニア変換)された後、出力画像Oとして後段の処理部へ出力される。なお、このように線形変換部62Cを備えて線形変換を行うのは、後段の階調変換部7において統一線形画像を用いて階調変換処理(DR圧縮処理)を行うことによる。
【0109】
以下に本実施形態の場合について、正側と負側とで異なる特徴を有するノイズに対してノイズ除去処理を行った後の残留ノイズ量が、どのようなコアリング係数Sを設定すれば、一定となるのかということについて説明する。
[コアリング係数算出についての説明]
ノイズがのった画像信号ynは、第1の実施形態と同じであり、(10)、(11)、(10)’及び(11)’式で表される。
ノイズ正側(yn=y+n)
yn=x+n (x≦T、yn≦T+n) ・・・(10)
yn=c*ln(x)+d+n (x>T、yn>T+n) ・・・(11)
ノイズ負側(yn=y−n)
yn=x−n (x≦T、yn≦T−n) ・・・(10)’
yn=c*ln(x)+d−n (x>T、yn>T−n) ・・・(11)’
【0110】
LPFを通った低周波成分l(Lの小文字)は、以下の(29)、(30)式で表される。
l=x (x≦T、l≦T) ・・・(29)
l=c*ln(x)+d (T≦x、T≦l) ・・・(30)
【0111】
上記(10)、(11)式及び(10)’(11)’式を低周波成分lを用いて表すと、それぞれ以下に示す1つの(31)、(31)’式で表される。
ノイズ正側 yn=l+n ・・・(31)
ノイズ負側 yn=l−n ・・・(31)’
【0112】
本実施形態では、線形/対数特性の状態のままでコアリング処理を行うので、ノイズ量はnである。残留ノイズ量R、コアリング係数Sとして、R=n−Sとなるので、コアリング処理後の画像信号ysは、以下の(32)、(32)’式で表される。
ノイズ正側 ys=l+R=l+n−S ・・・(32)
ノイズ負側 ys=l−R=l−n+S ・・・(32)’
【0113】
一方、階調変換部7でのDR圧縮後の画像信号Ys’は、線形変換後の低周波成分LをDR圧縮率k(L)で圧縮したものに残留ノイズ量r(r≧0:一定)がのったものとなるので、上記(3)式を参照して、以下の(33)、(33)’式で表される。なお、k(L)を上記k(B)と同様、単にkとも表す。
ノイズ正側 Ys’=k(L)*L+r ・・・(33)
ノイズ負側 Ys’=k(L)*L−r ・・・(33)’
【0114】
また、DR圧縮前の画像信号Ysは、以下の(34)、(34)’式で表され、
ノイズ正側 Ys=L+r/k(L) ・・・(34)
ノイズ負側 Ys=L−r/k(L) ・・・(34)’
これら画像信号Ysの線形変換前の画像信号ysは、以下の(35)、(36)式で表される。
ys=Ys (Ys≦T、ys≦T) ・・・(35)
ys=c*ln(Ys)+d ・・・(36)
【0115】
したがって、画像信号ysは、ノイズ正側の場合、上記(34)〜(36)式により、以下の(37)、(38)式で表される。
ノイズ正側
ys=L+r/k(L) (ys≦T、L≦Tp) ・・・(37)
ys=c*ln(L+r/k(L))+d (T<ys、Tp<L) ・・・(38)
但し、Tpは、T=Tp+r/k(Tp)を満たす。DR圧縮率(圧縮特性)k(L)は設計上既知であるので、このTpも求まる。また、T−Tp=r/k(Tp)>0であるので、Tp<Tである。
【0116】
また、画像信号ysは、ノイズ負側の場合、上記(34)’及び(35)、(36)式により、以下の(37)’、(38)’式で表される。
ノイズ負側
ys=L−r/k(L) (ys≦T、L≦Tm) ・・・(37)’
ys=c*ln(L−r/k(L))+d (T<ys、Tm<L)・・・(38)’
但し、Tmは、T=Tm−r/k(Tm)を満たす。また、T−Tm=−r/k(Tm)<0であるので、Tm>Tである。
【0117】
ここで、線形/対数特性での低周波成分lと、線形変換後の低周波成分L(上記(29)、(30)式参照)との関係を示す。低周波成分Lは低周波成分lを線形変換したものに等しいので、
L=l (l≦T) ・・・(39)
L=exp((l−d)/c)=l’ (T<l) ・・・(40)
但し、l’はexp((l−d)/c)を簡略表記するものである。
【0118】
画像信号ysを低周波成分lで表すと、ノイズ正側の場合、上記(37)〜(40)式により、以下の(41)〜(43)式となる。
ys=l+r/k(l) (l≦Tp) ・・・(41)
ys=c*ln(l+r/k(l))+d (Tp<l≦T) ・・・(42)
ys=c*ln(l’+r/k(l’))+d (T<l、T<l’) ・・・(43)
【0119】
また、ノイズ負側の場合、上記(37)’、(38)’、(39)及び(40)式により、以下の(41)’〜(43)’式となる。
ys=l−r/k(l) (l≦T) ・・・(41)’
ys=l’−r/k(l’) (T<l≦c*ln(Tm)+d、T<l’≦Tm) ・・・(42)’
ys=c*ln(l’−r/k(l’))+d (c*ln(Tm)+d<l、Tm<l’) ・・・(43)’
【0120】
コアリング係数Sは、ノイズ正側の場合、上記(32)式及び(41)〜(43)式により、以下の(44)〜(46)式で表される。
S=n−r/k(l) (l≦Tp) ・・・(44)
S=n+l−(c*ln(l+r/k(l))+d) (Tp<l≦T) ・・・(45)
S=n+l−(c*ln(l’+r/k(l’))+d) (T<l、T≦l’) ・・・(46)
【0121】
また、ノイズ負側の場合、上記(32)’式及び(41)’〜(43)’式により、以下の(44)’〜(46)’式で表される。
S=n−r/k(l) (l≦T) ・・・(44)’
S=n−l+l’−r/k(l’) (T<l≦c*ln(Tm)+d、T<l’≦Tm) ・・・(45)’
S=n−l+c*ln(l’−r/k(l’))+d (c*ln(Tm)+d<l、Tm<l’) ・・・(46)’
【0122】
これら(44)〜(46)式及び(44)’〜(46)’式から、コアリング係数Sは、DR圧縮率k(低周波成分lに応じて決定されるDR圧縮率k)、ノイズ量n、残留ノイズ量rを用いて表される。また、コアリング係数Sは、L>Tpの範囲で、ノイズの正側と負側とで異なることが分かる。このような値のコアリング係数Sをコアリング係数算出部65により算出し、算出したこのコアリング係数Sを用いてコアリング処理部64によるコアリング処理を行うことで、残留ノイズ量rを一定とすることができる。なお、コアリング係数算出部65でのコアリング係数Sの算出においては、該コアリング係数算出部65へ送信されてきた低周波成分l、ノイズ量n、残留ノイズ量r及びこの低周波成分lに対応するDR圧縮率k(k(l))の情報に基づいて(ただし、l’はexp((l−d)/c)という低周波成分lの関数であるのでk(l’)は低周波成分lの関数と見なしている)、すなわち上記と同様に換言すれば、低周波成分lのレベルに応じて、ノイズ正側及び負側においてそれぞれ上記(44)〜(46)式及び(44)’〜(46)’式を満たすようなコアリング係数Sが算出される。
【0123】
<階調変換前において残留ノイズ量が一定となる条件>
なお、第1の実施形態と同様に、上記(44)〜(46)式及び(44)’〜(46)’式におけるk(l)、k(l’)の値を「1」として、階調変換前において残留ノイズ量が一定となるようにしてもよい。この場合も、線形/対数画像を線形変換したときに増幅されるノイズを除去することができるので、ノイズ除去精度を高める効果がある。
【0124】
図11は、第2の実施形態におけるデジタルカメラ1の主にノイズ除去に関する動作の一例を示すフローチャートである。先ず固体撮像素子3による撮影により線形/対数画像が得られる(ステップS21)。この線形/対数画像(基画像I)がノイズ除去部6aに入力され、LPF部61によりLPF処理されて低周波成分l(線形/対数画像)が抽出される(ステップS22)。次に、エッジ量検出部66によって、LPF処理されていない基画像Iからエッジ量が検出される(ステップS23)。そして、検出されたこのエッジ量と全体制御部9から与えられるエッジ量の閾値el、ehとの情報に基づいて、合成係数算出部67により合成係数Eが算出される(ステップS24)。一方、減算部63によって、基画像Iから、LPF部61からの低周波成分lが減算されることで高周波成分hが抽出される(ステップS25)。
【0125】
また、コアリング係数算出部65によって、LPF部61からの低周波成分lと、減算部63からの高周波成分hと、全体制御部9から与えられるノイズ量n、残留ノイズ量r及びDR圧縮率k(k(l))との情報に基づいて、上記ノイズ正側及び負側のコアリング係数Sが算出される(ステップS26)。この算出されたコアリング係数Sの情報に基づいて、コアリング処理部64によって、減算部63からの高周波成分hに対するコアリング処理が施されて高周波成分hcが得られる(ステップS27)。そして、合成部68によって、合成係数算出部67からの合成係数Eの情報に基づいて、当該高周波成分hcと高周波成分hとの合成処理が行われ(ステップS28)、加算部69によって、この合成処理により得られた高周波成分h’とLPF部61からの低周波成分lとが加算される(ステップS29)。そして、この加算処理により得られた画像信号が線形変換部62Cによって線形変換されて出力画像Oとして後段の処理部(階調変換部7)へ出力される(ステップS30)。
【0126】
(実施形態3)
第1の実施形態では線形/対数特性から1つの線形特性への変換を行う構成であったが、第3の実施形態では、線形/線形特性から1つの線形特性への変換を行う構成となっている。すなわち、第3の実施形態では、ノイズ除去部の構成は第1の実施形態におけるノイズ除去部6(図5参照)と同じであるが、固体撮像素子3が、上記線形/対数特性ではなく線形/線形特性である光電変換特性を有するものとされている(その他の構成は第1の実施形態と同じであり、その説明を省略する)。
【0127】
ところで上記線形/線形特性とは、図12に示すように、低輝度側、高輝度側ともに線形の光電変換特性(低輝度側を第1線形特性、高輝度側を第2線形特性とする)を有しており、輝度レベルに応じてすなわち所定の出力レベル点(変曲点)を境としてこれら光電変換特性の線形の傾きが変化する(異なる)光電変換特性である。この場合の光電変換特性も、上記線形/対数特性の場合と同様、複数の異なる光電変換特性からなるものであると言える。本実施形態では、固体撮像素子3として、このような線形/線形特性を有する例えば可変蓄積時間型撮像センサや可変蓄積容量型撮像センサが採用される。なお、露光量や感度の異なる複数の撮影画像を固体撮像素子外部で合成してなる画像等も、本実施形態に適用することが可能である。なお、本実施形態でも、第1の実施形態での線形/線形特性の場合と同様、線形/線形特性に対して線形変換(この場合をリニアリニア変換という)を行って1つの線形特性に統一するが、これは図12に示すように、高輝度側の線形特性の傾きを低輝度側の線形特性の傾きと一致させるような変換を行うものである。
【0128】
以下、本実施形態において、線形/線形特性から線形特性への変換によって、ノイズ量がどのように変化するのか或いはどのような値になるのかについて説明する。
[線形/線形特性から線形特性への変換におけるノイズについての説明]
線形/線形特性の光電変換特性は、以下の(47)、(48)式のように表される。
y=x (x≦T、y≦T) ・・・(47)
y=c*x+d (x>T、y>T) ・・・(48)
【0129】
これを1つの線形特性に変換すると、変換後の特性Yは、以下の(49)、(50)式で表される。
Y=y (y≦T) ・・・(49)
Y=(y−d)/c (y>T)・・・(50)
したがって、yがノイズの無い信号であるとすると、全y(すなわち全x)において、Y=xとなる。
【0130】
ノイズがのっている信号をyn、このノイズをn(n>0)とすると、yn=y±nと表すことができるので、上記(47)、(48)式より、ノイズ正側の場合(yn=y+n)、以下の(51)、(52)式のように表される。
ノイズ正側
yn=x+n (x≦T、yn≦T+n) ・・・(51)
yn=c*x+d+n (x>T、yn>T+n) ・・・(52)
【0131】
また、ノイズ負側の場合(yn=y−n)、以下の(51)’、(52)’式のように表される。
ノイズ負側
yn=x−n (x≦T、yn≦T−n) ・・・(51)’
yn=c*x+d−n (x>T、yn>T−n) ・・・(52)’
【0132】
ynを線形特性に変換したものをYnとすると、このYnは、ノイズ正側の場合、上記(49)〜(52)式より以下の(53)〜(55)式で表される。
ノイズ正側
Yn=yn=x+n (yn≦T、x≦T−n) ・・・(53)
Yn=(yn−d)/c
=(x+n−d)/c (T<yn≦T+n、T−n<x≦T) ・・・(54)
Yn=(yn−d)/c
=((c*x+d+n)−d)/c
=x+n/c (T+n<yn、T<x) ・・・(55)
【0133】
また、Ynは、ノイズ負側の場合、上記(49)、(50)、(51)’及び(52)’式より、以下の(53)’〜(55)’式で表される。
ノイズ負側
Yn=yn=x−n (yn≦T−n、x≦T) ・・・(53)’
Yn=yn=c*x+d−n (T−n<yn≦T、T<x≦(T−d+n)/c) ・・・(54)’
Yn=(yn−d)/c
=(c*x+d−n−d)/c
=x−n/c (T<yn、(T−d+n)/c<x) ・・・(55)’
【0134】
これら(53)〜(55)式、及び(53)’〜(55)’式は、図13に示すグラフとなる。すなわち図12のグラフにおいて、ノイズ正側の場合、(53)式に相当するものが符号501で示す特性(特性501)、(54)式に相当するものが符号502で示す特性(特性502)、(55)式に相当するものが符号503で示す特性(特性503)となる。また、ノイズ負側の場合、(53)’式に相当するものが符号511で示す特性(特性511)、(54)’式に相当するものが符号512で示す特性(特性512)、(55)’式に相当するものが符号513で示す特性(特性513)となる。
【0135】
この場合も、図8での説明と同様、変曲点T(x座標で考えている)を挟んでT−n<x≦Tの範囲5021とT<x≦(T−d+n)/cの範囲5121とにおいて、(47)、(48)式の異なる方で変換されてしまい、特性502、512となる(ただし、本実施形態では基画像Iが線形/線形特性であるので、この特性502、512は線形となる)。また、T<xの範囲、(T−d+n)/c<xの範囲では、それぞれ、線形変換する前の特性が線形特性であることから、特性503、513のようになる。これら特性503、513はそれぞれ特性501、511と平行な(傾きが同じ)グラフとなっている。この場合も、細部のグラフ形状は異なるものの、全体としては図8に示す場合と同様に、線形変換後、Y=xの特性522に対する正側のノイズ量と負側のノイズ量とが、それぞれ、x全域(低輝度から高輝度にかけて)において一定でなく、異なる値となってしまう。
【0136】
次に、本実施形態の場合について、正側と負側とで異なる特徴を有するノイズに対してノイズ除去処理を行った後の残留ノイズ量が、どようなコアリング係数Sを設定すれば、一定となるのかということについて説明する。
[コアリング係数算出についての説明]
第1の実施形態と同様に、低周波成分Lを用いて、上記(53)〜(55)式及び(53)’〜(55)’式を表すと、以下の(56)〜(58)式及び(56)’〜(58)’式となる。
ノイズ正側
Yn=L+n (L≦T−n) ・・・(56)
Yn=(L−d+n)/c (T−n<L≦T) ・・・(57)
Yn=L+n/c (T<L) ・・・(58)
ノイズ負側
Yn=L−n (L≦T) ・・・(56)’
Yn=c*L+d−n (T<L≦(T−d+n)/c)・・・(57)’
Yn=L−n/c ((T−d+n)/c<L) ・・・(58)’
【0137】
<ノイズ量の算出>
第1の実施形態と同様にノイズ量N(N≧0)を求める。ノイズ量Nは、ノイズ正側の場合、上記(56)〜(58)式から低周波成分Lを減算することにより、以下の(59)〜(61)式で表される。
ノイズ正側
N=n (L≦T−n) ・・・(59)
N=(L−d+n)/c−L=((1−c)*L−d+n)/c (T−n<L≦T) ・・・(60)
N=n/c (T<L) ・・・(61)
【0138】
一方、ノイズ負側の場合、低周波成分Lから上記(56)’〜(58)’式を減算することにより、以下の(59)’〜(61)’式で表される。
ノイズ負側
N=n (L≦T) ・・・(59)’
N=L−(c*L+d−n)=(1−c)*L−d+n (T<L≦(T−d+n)/c) ・・・(60)’
N=n/c ((T−d+n)/c<L) ・・・(61)’
【0139】
<DR圧縮後の残留ノイズ量が一定となる条件>
これは第1の実施形態の場合と同じ条件が成立し、上記(25)式と同じである。すなわち、DR圧縮後の残留ノイズ量r(r≧0:一定)、及びDR圧縮率k(L)を用いて、コアリング係数S(S≧0)を表すと、以下の(25)式となる。
S=N−r/k(L) ・・・(25)
【0140】
コアリング係数Sは、ノイズ正側の場合、上記(25)式及び(59)〜(61)式により、以下の(62)〜(64)式で表される。
ノイズ正側
S=n−r/k(L) (L≦T−n) ・・・(62)
S=((1−c)*L−d+n)/c−r/k(L) (T−n<L≦T) ・・・(63)
S=n/c−r/k(L) (T<L) ・・・(64)
【0141】
また、ノイズ負側の場合、上記(25)式及び(59)’〜(61)’式により、以下の(62)’〜(64)’式で表される。
ノイズ負側
S=n−r/k(L) (L≦T) ・・・(62)’
S=(1−c)*L−d+n−r/k(L) (T<L≦(T−d+n)/c) ・・・(63)’
S=n/c−r/k(L) ((T−d+n)/c<L) ・・・(64)’
【0142】
これら(62)〜(64)式及び(62)’〜(64)’式から、コアリング係数Sは、DR圧縮率k(低周波成分Lに応じて決定されるDR圧縮率k)、ノイズ量n、残留ノイズ量rを用いて表される。コアリング係数Sは、T−n<L≦(T−d+n)/cの範囲で、ノイズの正側と負側とで異なることが分かる。このような値のコアリング係数Sをコアリング係数算出部65により算出し、算出したこのコアリング係数Sを用いてコアリング処理部64によるコアリング処理を行うことで、残留ノイズ量rを一定とすることができる。なお、この場合も同様に、コアリング係数算出部65でのコアリング係数Sの算出においては、該コアリング係数算出部65へ送信されてきた低周波成分L、ノイズ量n、残留ノイズ量r及びこの低周波成分Lに対応するDR圧縮率k(k(L))の情報に基づいて、すなわち上記と同様に換言すれば、低周波成分Lのレベルに応じて、ノイズ正側及び負側においてそれぞれ上記(62)〜(64)式及び(62)’〜(64)’式を満たすようなコアリング係数Sが算出される。
【0143】
<階調変換前において残留ノイズ量が一定となる条件>
なお、第1及び第2の実施形態と同様に、上記(62)〜(64)式及び(62)’〜(64)’式におけるk(L)の値を「1」として、階調変換前において残留ノイズ量が一定となるようにしてもよい。この場合も、線形/線形画像を線形変換したときに増幅されるノイズを除去することができるので、ノイズ除去精度を高める効果がある。
【0144】
なお、本実施形態の場合のフローチャートは、第1の実施形態における図9のフローチャートにおけるステップS1の線形/対数画像を、線形/線形画像に置き換えたものであり、この線形/線形画像に対して以下同様のフローにて処理が実行される。
【0145】
(実施形態4)
第3の実施形態では、線形/線形特性に対して線形変換を行ってから(統一線形画像にしてから)コアリング処理を行う構成であったが、第4の実施形態では、当該線形変換を行わずに、線形/線形特性(線形/線形画像)のままコアリング処理を行う構成となっている。すなわち、第4の実施形態では、ノイズ除去部の構成は第2の実施形態におけるノイズ除去部6a(図10参照)と同じであるが、固体撮像素子3が線形/線形特性である光電変換特性を有するものとされている(その他の構成は第2の実施形態と同じでありその説明を省略する)。
【0146】
本実施形態における線形/線形特性の光電変換特性は、第3の実施形態と同じ上記(47)、(48)式で表され、1つの線形特性に変換するときの変換後の特性Yは第3の実施形態と同じ上記(49)、(50)式で表される。また、ノイズがのっている信号ynは第3の実施形態と同じ上記(51)、(52)式及び(51)’、(52)’式で表される。
【0147】
LPFを通った低周波成分l(Lの小文字)は、以下の(65)、(66)式で表される。
l=x (x≦T、l≦T) ・・・(65)
l=c*x+d (T<x、T<l) ・・・(66)
【0148】
上記(51)、(52)式及び(51)’、(52)’式を低周波成分lを用いて表すと、それぞれ以下に示す1つの(67)、(67)’式で表される。
ノイズ正側 yn=l+n ・・・(67)
ノイズ負側 yn=l−n ・・・(67)’
【0149】
本実施形態では、線形/線形特性の状態のままでコアリング処理を行うので、ノイズ量はnである。残留ノイズ量R、コアリング係数Sとして、R=n−Sとなるので、コアリング処理後の画像信号ysは、以下の(68)、(68)’式で表される。
ノイズ正側 ys=l+R=l+n−S ・・・(68)
ノイズ負側 ys=l−R=l−n+S ・・・(68)’
【0150】
一方、階調変換部7でのDR圧縮後の画像信号Ys’は、線形変換後の低周波成分LをDR圧縮率k(L)で圧縮したものに残留ノイズ量r(r≧0:一定)がのったものとなるので、上記(3)式を参照して、以下の(69)、(69)’式で表される。
ノイズ正側 Ys’=k(L)*L+r ・・・(69)
ノイズ負側 Ys’=k(L)*L−r ・・・(69)’
【0151】
また、DR圧縮前の画像信号Ysは、以下の(70)、(70)’式で表され、
ノイズ正側 Ys=L+r/k(L) ・・・(70)
ノイズ負側 Ys=L−r/k(L) ・・・(70)’
これら画像信号Ysの線形変換前の画像信号ysは、以下の(71)、(72)式で表される。
ys=Ys (Ys≦T、ys≦T) ・・・(71)
ys=c*Ys+d ・・・(72)
【0152】
したがって、画像信号ysは、ノイズ正側の場合、上記(70)〜(72)式により、以下の(73)、(74)式で表される。
ノイズ正側
ys=L+r/k(L) (ys≦T、L≦Tp) ・・・(73)
ys=c*(L+r/k(L))+d
=c*L+d+c*r/k(L) (T<ys、Tp<L) ・・・(74)
但し、Tpは、T=Tp+r/k(Tp)を満たす。DR圧縮率(圧縮特性)k(L)は設計上既知であるので、このTpも求まる。また、T−Tp=r/k(Tp)>0であるので、Tp<Tである。
【0153】
また、画像信号ysは、ノイズ負側の場合、上記(70)’式及び(71)、(72)式により、以下の(73)’、(74)’式で表される。
ノイズ負側
ys=L−r/k(L) (ys≦T、L≦Tm) ・・・(73)’
ys=c*(L−r/k(L))+d
=c*L+d−c*r/k(L) (T<ys、Tm<L)・・・(74)’
但し、Tmは、T=Tm−r/k(Tm)を満たす。また、T−Tm=−r/k(Tm)<0であるので、Tm>Tである。
【0154】
ここで、線形/線形特性での低周波成分lと、線形変換後の低周波成分L(上記(49)、(50)式参照)との関係を示す。低周波成分Lは低周波成分lを線形変換したものに等しいので、
L=l (l≦T) ・・・(75)
L=(l−d)/c=l’ (T<l) ・・・(76)
但し、l’は(l−d)/cを簡略表記するものである。
【0155】
線形/線形特性での画像信号ysを線形/線形特性での低周波成分lで表すと、ノイズ正側の場合、上記(73)〜(76)式により、以下の(77)〜(79)式となる。
ys=l+r/k(l) (l≦Tp) ・・・(77)
ys=c*(l+r/k(l))+d
=c*l+d+c*r/k(l) (Tp<l≦T) ・・・(78)
ys=c*(l’+r/k(l’))+d
=l+c*r/k(l’) (T<l、T<l’) ・・・(79)
【0156】
また、ノイズ負側の場合、上記(73)’、(74)’、(75)及び(76)式により、以下の(77)’〜(79)’式となる。
ys=l−r/k(l) (l≦T) ・・・(77)’
ys=l’−r/k(l’)
=(l−d)/c−r/k(l’) (T<l≦c*Tm+d、T<l’≦Tm) ・・・(78)’
ys=c*l’+d−c*r/k(l’)
=l−c*r/k(l’) (c*Tm+d<l、Tm<l’)・・・(79)’
【0157】
コアリング係数Sは、ノイズ正側の場合、上記(68)式及び(77)〜(79)式により、以下の(80)〜(82)式で表される。
S=n−r/k(l) (l≦Tp) ・・・(80)
S=(l−c)*l−d+n−c*r/k(l) (Tp<l≦T) ・・・(81)
S=n−c*r/k(l’) (T<l、T<l’) ・・・(82)
【0158】
また、ノイズ負側の場合、上記(68)’式及び(77)’〜(79)’式により、以下の(80)’〜(82)’式で表される。
S=n−r/k(l) (l≦T) ・・・(80)’
S=((1−c)*l−d)+n−r/k(l’) (T<l≦c*Tm+d、T<l’≦Tm) ・・・(81)’
S=n−c*r/k(l’) (c*Tm+d<l、Tm<l’) ・・・(82)’
【0159】
これら(80)〜(82)式及び(80)’〜(82)’式から、コアリング係数Sは、DR圧縮率k(低周波成分lに応じて決定されるDR圧縮率k)、ノイズ量n、残留ノイズ量rを用いて表される。また、コアリング係数Sは、Tp<l≦c*Tm+dの範囲で、ノイズの正側と負側とで異なることが分かる。このような値のコアリング係数Sをコアリング係数算出部65により算出し、算出したこのコアリング係数Sを用いてコアリング処理部64によるコアリング処理を行うことで、残留ノイズ量rを一定とすることができる。なお、この場合も同様に、コアリング係数算出部65でのコアリング係数Sの算出においては、該コアリング係数算出部65へ送信されてきた低周波成分l、ノイズ量n、残留ノイズ量r及びこの低周波成分lに対応するDR圧縮率k(k(l))の情報に基づいて、すなわち上記と同様に換言すれば、低周波成分lのレベルに応じて、ノイズ正側及び負側においてそれぞれ上記(80)〜(82)式及び(80)’〜(82)’式を満たすようなコアリング係数Sが算出される。
【0160】
<階調変換前において残留ノイズ量が一定となる条件>
なお、第1〜第3の実施形態と同様に、上記(80)〜(82)式及び(80)’〜(82)’式におけるk(l)、k(l’)の値を「1」として、階調変換前において残留ノイズ量が一定となるようにしてもよい。この場合も線形/線形画像を線形変換したときに増幅されるノイズを除去することができるので、ノイズ除去精度を高める効果がある。
【0161】
なお、本実施形態の場合のフローチャートは、第2の実施形態における図11のフローチャートにおけるステップS21の線形/対数画像を、線形/線形画像に置き換えたものであり、この線形/線形画像に対して以下同様のフローにて処理が実行される。
【0162】
以上のように、上記各実施形態の撮像装置(デジタルカメラ1)によれば、固体撮像素子3が複数の異なる光電変換特性を有するものとされ、ノイズ除去部6(6a)(ノイズ除去手段)によって、固体撮像素子3による撮像により得られる画像(基画像I)に対するノイズ除去処理が行われ、線形変換部62A、62B(62C)(階調変換手段)によって、ノイズ除去手段によりノイズ除去処理が行われた画像に対する階調変換処理が行われる。そして、ノイズ除去手段において、LPF部61(低周波成分抽出手段)によって、画像から低周波成分L(l)が抽出され、減算部63(高周波成分抽出手段)によって、画像から高周波成分H(h)が抽出される。また、画像の信号(y)に対して該信号のレベルよりもレベルが高い側を正側、レベルが低い側を負側と定める(ノイズ信号yn=y±nと定める)場合において、コアリング係数算出部65(ノイズ除去量算出手段)によって、低周波成分抽出手段により抽出された低周波成分のレベルに応じて、正側のノイズ(+n)に対するノイズ除去量である正側ノイズ除去量(例えば(26)〜(28)式参照)と、負側のノイズ(−n)に対するノイズ除去量である負側ノイズ除去量(例えば(26)’〜(28)’式参照)とが算出される。そして、コアリング処理部64(コアリング手段)によって、高周波成分抽出手段により抽出された高周波成分に対して、ノイズ除去量算出手段により算出された正側ノイズ除去量及び負側ノイズ除去量に基づいてコアリング処理が行われ、加算部69(合成手段)によって、コアリング手段によりコアリング処理が行われた高周波成分と、低周波成分抽出手段により抽出された低周波成分とが合成される。
【0163】
このように、抽出された低周波成分L(l)のレベルに応じてノイズ除去量が算出されるので、すなわち階調変換処理を行うに際しての階調(輝度)レベル(低周波成分のレベルに対応する)に応じてノイズの除去量を設定することができるので、階調変換による伸張度合いが違うことによってノイズが目立つことのないようにすることができる。さらに、このノイズ除去量が、低周波成分のレベルに応じて、正側のノイズに対する正側ノイズ除去量と、負側のノイズに対する負側ノイズ除去量とに細分化して算出されて、この正側ノイズ除去量及び負側ノイズ除去量に基づいてコアリング処理が行われるので、ノイズ除去を高精度に行うことができる。これらのことにより、ひいては高画質な画像を得ることができる。
【0164】
また、正側ノイズ除去量及び負側ノイズ除去量が、コアリング処理におけるそれぞれのコアリング係数Sとされ、ノイズ除去量算出手段によって、ノイズ除去手段によりノイズ除去処理が行われた画像に対して階調変換手段による階調変換処理を行った後に該画像に残る残留ノイズ量rが、正側及び負側それぞれにおいて低周波成分L(l)のレベルに依らず(輝度に依らず;)一定となるように((24)式参照)各コアリング係数Sが算出されるので、当該コアリング係数の算出方法を用いて、正側ノイズ除去量或いは負側ノイズ除去量であるコアリング係数を、容易に且つ確実に算出することができる。
【0165】
また、固体撮像素子3により得られる画像が、複数の異なる特性を有する複数特性画像とされ、ノイズ除去手段において、線形変換部62A、62B(特性変換手段)によって、複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理が行われて複数特性画像がその特性が統一された統一特性画像に変換された後、該統一特性画像に対するノイズ除去処理が行われる。
【0166】
このように、固体撮像素子3により得られた画像(複数特性画像)がその特性が統一された統一特性画像に変換された後、この統一特性画像に対するノイズ除去処理が行われるので、統一特性画像にノイズ除去処理を施すことができる、すなわちノイズ除去処理が行われた時点で、既にその画像が統一特性画像であるようにすることができ、後段の階調変換手段における階調変換処理に、このノイズ除去処理後の画像をそのまま(変換処理動作を必要とせずに)使用可能な構成を実現することができる。
【0167】
また、固体撮像素子3により得られる画像が、複数の異なる特性を有する複数特性画像とされ、ノイズ除去手段において、複数特性画像に対するノイズ除去処理が行われた後、線形変換部62C(特性変換手段)によって、複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理が行われて複数特性画像がその特性が統一された統一特性画像に変換される。
【0168】
このように、固体撮像素子3により得られた画像(複数特性画像)に対するノイズ除去処理が行われた後、特性が統一された統一特性画像に変換される構成であるので、画像に対するノイズ除去処理と、統一特性画像に変換する変換処理とを別々に行うことができ、すなわち例えばノイズ除去処理が施された画像に対して別の処理を施した後に、階調変換処理に供するべく当該変換処理を行うことができ、ひいては画像の取り扱いの自由度が高くなる(取り扱い性が向上する)。
【0169】
また、固体撮像素子3が、入射光量に対して電気信号が線形的に変換されて出力される線形光電変換特性と、該入射光量に対して電気信号が対数的に変換されて出力される対数光電変換特性とからなる光電変換特性を有するものとされ(図4参照)、複数特性画像が、線形特性の画像と対数特性の画像とからなる線形/対数画像とされる。このように、固体撮像素子3が線形及び対数特性からなる光電変換特性を有し、この固体撮像素子3により線形/対数画像が得られる構成であるので、広DRを確保しつつ(広DR画像であって且つ)、当該正側及び負側のノイズを考慮した高精度のノイズ除去処理による高画質な画像を得ることが可能となる。
【0170】
また、固体撮像素子3が、入射光量に対して電気信号が線形的に変換されて出力される第1の線形光電変換特性と、該第1の線形光電変換特性とグラフ上の傾きが異なる第2の線形光電変換特性とからなる光電変換特性を有するものとされ(図12参照)、複数特性画像が、2種類の線形特性の画像からなる線形/線形画像とされる。このように、固体撮像素子3が傾きの異なる(2種類の)線形特性からなる光電変換特性を有し、この固体撮像素子3により線形/線形画像が得られる構成であるので、広DRを確保しつつ、当該正側及び負側のノイズを考慮した高精度のノイズ除去処理による高画質な画像を得ることが可能となる。
【0171】
また、特性変換手段によって、複数特性画像を線形特性の画像に統一する変換処理が行われる、すなわち画像の特性が線形特性に統一される構成であるので、階調変換部7(階調変換手段)による階調変換処理を容易に行うことができるようになる。
【0172】
また、ノイズ除去量算出手段によって、低周波成分のレベルに応じて与えられる階調変換手段による階調変換処理としてのダイナミックレンジ圧縮処理におけるダイナミックレンジ圧縮率(k)と、既定値として与えられる画像のノイズ量(n)及び残留ノイズ量(r)とから正側及び負側のコアリング係数が算出されるので、すなわち、ノイズ量及び残留ノイズ量は既定値であり且つダイナミックレンジ圧縮率は低周波成分に応じて与えられるものであり、コアリング係数Sの算出に要する値は全て低周波成分に応じて定まると言うことができるので、正側及び負側のコアリング係数を、1つの評価(変化)パラメータである低周波成分L(l)を用いた簡易な演算によって容易に算出することができる。
【0173】
また、ノイズ除去量算出手段によって、ダイナミックレンジ圧縮率を「1」としてコアリング係数が算出される構成であるので、ダイナミックレンジ圧縮を行わない(圧縮率k=1)つまり階調変換を行わない場合における当該正側及び負側のコアリング係数Sが算出され、階調変換を行う前の段階において正側及び負側の残留ノイズが一定とされた高精度にノイズ除去がなされた画像を得ることができる。
【0174】
また、ノイズ除去手段において、エッジ量検出部66(エッジ量検出手段)によって、固体撮像素子3により得られる画像からエッジ量eが検出され、合成部68及び加算部69(調整手段)によって、エッジ量検出手段により検出されたエッジ量eに基づいて、コアリング処理におけるコアリングの度合い(ノイズ除去の程度)が調整されるので、正側ノイズ除去量及び負側ノイズ除去量に基づく高精度なノイズ除去が行われるとともに、エッジ量が考慮されたすなわちエッジ保存がなされた、より高画質な画像を得ることができる。
【0175】
なお、本発明は、以下の態様をとることができる。
(A)上記各実施形態においては、撮影画像に対するノイズ除去処理をデジタルカメラ1内(ノイズ除去部6、6a)で行う構成としているが、これに限らず、デジタルカメラ1外の所定の処理部において実行する構成としてもよい。具体的には、例えばAD変換後のデータを、メモリカード等の記録メディア、或いは通信手段、すなわちUSBや無線LAN等による有線又は無線接続(ネットワーク接続)により情報伝達可能に構成されたユーザーインターフェイスを介して、PC(Personal Computer)やPDA(Personal Digital Assistant)等の情報処理機器に送信し、この情報処理機器内で当該ノイズ除去処理を行う構成としてもよい。
【0176】
(B)上記各実施形態においては、固体撮像素子3の光電変換特性は、2つの異なる光電変換特性(線形特性及び対数特性、或いは第1線形特性及び第2線形特性)からなるが、3つ以上の異なる光電変換特性からなっていてもよい。この場合も上記と同様に正側及び負側のノイズを設定するノイズ除去手法が適用される(光電変換特性についても3つ以上の異なる光電変換特性からいずれか1種類の光電変換特性に統一される)。
【図面の簡単な説明】
【0177】
【図1】第1の実施形態に係る撮像装置の一例であるデジタルカメラの主に撮像処理に関するブロック構成図である。
【図2】上記固体撮像素子の一例である二次元のMOS型固体撮像装置の概略構成図である。
【図3】図2に示す各画素G11〜Gmnの構成例を示す回路図である。
【図4】上記固体撮像素子の光電変換特性の一例を示すグラフ図である。
【図5】図1に示すノイズ除去部の一例を示すブロック構成図である。
【図6】コアリング処理におけるコアリング特性を示すグラフ図である。
【図7】エッジ量と合成係数との関係を示すグラフ図である。
【図8】第1の実施形態における線形変換後の正側及び負側のノイズの特性について説明するグラフ図である。
【図9】第1の実施形態におけるデジタルカメラの主にノイズ除去に関する動作の一例を示すフローチャートである。
【図10】第2の実施形態に係るデジタルカメラにおけるノイズ除去部の一例を示すブロック構成図である。
【図11】第2の実施形態におけるデジタルカメラの主にノイズ除去に関する動作の一例を示すフローチャートである。
【図12】第3及び第4の実施形態に係る固体撮像素子の光電変換特性の一例を示すグラフ図である。
【図13】第3の実施形態における線形変換後の正側及び負側のノイズの特性について説明するグラフ図である。
【符号の説明】
【0178】
1 デジタルカメラ(撮像装置)
3 固体撮像素子
6、6a ノイズ除去部(ノイズ除去手段)
61 LPF部(低周波成分抽出手段)
62A、62B 線形変換部(請求項3に記載の特性変換手段)
62C 線形変換部(請求項4に記載の特性変換手段)
63 減算部(高周波成分抽出手段)
64 コアリング処理部(コアリング手段)
65 コアリング係数算出部(ノイズ除去量算出手段)
66 エッジ量検出部(エッジ量検出手段)
67 合成係数算出部(調整手段)
68 合成部(調整手段)
69 加算部(合成手段)
7 階調変換部(階調変換手段)
【特許請求の範囲】
【請求項1】
複数の異なる光電変換特性を有する固体撮像素子と、
前記固体撮像素子による撮像により得られる画像に対するノイズ除去処理を行うノイズ除去手段と、
前記ノイズ除去手段によりノイズ除去処理が行われた画像に対する階調変換処理を行う階調変換手段とを備える撮像装置であって、
前記ノイズ除去手段は、
前記画像から低周波成分を抽出する低周波成分抽出手段と、
前記画像から高周波成分を抽出する高周波成分抽出手段と、
前記画像の信号に対して該信号のレベルよりもレベルが高い側を正側、レベルが低い側を負側と定める場合において、
前記低周波成分抽出手段により抽出された低周波成分のレベルに応じて、前記正側のノイズに対するノイズ除去量である正側ノイズ除去量と、前記負側のノイズに対するノイズ除去量である負側ノイズ除去量とを算出するノイズ除去量算出手段と、
前記高周波成分抽出手段により抽出された高周波成分に対して、前記ノイズ除去量算出手段により算出された前記正側ノイズ除去量及び前記負側ノイズ除去量に基づいてコアリング処理を行うコアリング手段と、
前記コアリング手段によりコアリング処理が行われた高周波成分と、前記低周波成分抽出手段により抽出された低周波成分とを合成する合成手段とを備えることを特徴とする撮像装置。
【請求項2】
前記正側ノイズ除去量及び負側ノイズ除去量は、前記コアリング処理におけるそれぞれのコアリング係数であって、
前記ノイズ除去量算出手段は、
前記ノイズ除去手段によりノイズ除去処理が行われた画像に対して前記階調変換手段による階調変換処理を行った後に該画像に残る残留ノイズ量が、前記正側及び負側それぞれにおいて前記低周波成分のレベルに依らず一定となるように前記各コアリング係数を算出することを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記固体撮像素子による撮像により得られる画像は、複数の異なる特性を有する複数特性画像であって、
前記ノイズ除去手段は、
前記複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理を行う特性変換手段をさらに備え、
当該特性変換手段による変換処理によって前記複数特性画像を特性が統一された統一特性画像に変換した後、該統一特性画像に対する前記ノイズ除去処理を行うことを特徴とする請求項1又は2に記載の撮像装置。
【請求項4】
前記固体撮像素子による撮像により得られる画像は、複数の異なる特性を有する複数特性画像であって、
前記ノイズ除去手段は、
前記複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理を行う特性変換手段をさらに備え、
前記複数特性画像に対する前記ノイズ除去処理を行った後、前記特性変換手段による変換処理によって前記複数特性画像を特性が統一された統一特性画像に変換することを特徴とする請求項1又は2に記載の撮像装置。
【請求項5】
前記固体撮像素子は、入射光量に対して電気信号が線形的に変換されて出力される線形光電変換特性と、該入射光量に対して電気信号が対数的に変換されて出力される対数光電変換特性とからなる光電変換特性を有するものであって、
前記複数特性画像は、線形特性の画像と対数特性の画像とからなる線形/対数画像であることを特徴とする請求項3又は4に記載の撮像装置。
【請求項6】
前記固体撮像素子は、入射光量に対して電気信号が線形的に変換されて出力される第1の線形光電変換特性と、該第1の線形光電変換特性とグラフ上の傾きが異なる第2の線形光電変換特性とからなる光電変換特性を有するものであって、
前記複数特性画像は、2種類の線形特性の画像からなる線形/線形画像であることを特徴とする請求項3又は4に記載の撮像装置。
【請求項7】
前記特性変換手段は、前記複数特性画像を線形特性の画像に統一する変換処理を行うことを特徴とする請求項5又は6に記載の撮像装置。
【請求項8】
前記ノイズ除去量算出手段は、前記低周波成分のレベルに応じて与えられる、前記階調変換手段による階調変換処理としてのダイナミックレンジ圧縮処理におけるダイナミックレンジ圧縮率(k)と、既定値として与えられる前記画像のノイズ量(n)及び前記残留ノイズ量(r)とから前記各コアリング係数を算出することを特徴とする請求項2に記載の撮像装置。
【請求項9】
前記ノイズ除去量算出手段は、前記ダイナミックレンジ圧縮率を「1」としてコアリング係数を算出することを特徴とする請求項8に記載の撮像装置。
【請求項10】
前記ノイズ除去手段は、
前記固体撮像素子による撮像により得られる画像からエッジ量を検出するエッジ量検出手段と、
前記エッジ量検出手段により検出されたエッジ量に基づいて、前記コアリング処理におけるコアリングの度合いを調整する調整手段とをさらに備えることを特徴とする請求項1〜9のいずれかに記載の撮像装置。
【請求項1】
複数の異なる光電変換特性を有する固体撮像素子と、
前記固体撮像素子による撮像により得られる画像に対するノイズ除去処理を行うノイズ除去手段と、
前記ノイズ除去手段によりノイズ除去処理が行われた画像に対する階調変換処理を行う階調変換手段とを備える撮像装置であって、
前記ノイズ除去手段は、
前記画像から低周波成分を抽出する低周波成分抽出手段と、
前記画像から高周波成分を抽出する高周波成分抽出手段と、
前記画像の信号に対して該信号のレベルよりもレベルが高い側を正側、レベルが低い側を負側と定める場合において、
前記低周波成分抽出手段により抽出された低周波成分のレベルに応じて、前記正側のノイズに対するノイズ除去量である正側ノイズ除去量と、前記負側のノイズに対するノイズ除去量である負側ノイズ除去量とを算出するノイズ除去量算出手段と、
前記高周波成分抽出手段により抽出された高周波成分に対して、前記ノイズ除去量算出手段により算出された前記正側ノイズ除去量及び前記負側ノイズ除去量に基づいてコアリング処理を行うコアリング手段と、
前記コアリング手段によりコアリング処理が行われた高周波成分と、前記低周波成分抽出手段により抽出された低周波成分とを合成する合成手段とを備えることを特徴とする撮像装置。
【請求項2】
前記正側ノイズ除去量及び負側ノイズ除去量は、前記コアリング処理におけるそれぞれのコアリング係数であって、
前記ノイズ除去量算出手段は、
前記ノイズ除去手段によりノイズ除去処理が行われた画像に対して前記階調変換手段による階調変換処理を行った後に該画像に残る残留ノイズ量が、前記正側及び負側それぞれにおいて前記低周波成分のレベルに依らず一定となるように前記各コアリング係数を算出することを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記固体撮像素子による撮像により得られる画像は、複数の異なる特性を有する複数特性画像であって、
前記ノイズ除去手段は、
前記複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理を行う特性変換手段をさらに備え、
当該特性変換手段による変換処理によって前記複数特性画像を特性が統一された統一特性画像に変換した後、該統一特性画像に対する前記ノイズ除去処理を行うことを特徴とする請求項1又は2に記載の撮像装置。
【請求項4】
前記固体撮像素子による撮像により得られる画像は、複数の異なる特性を有する複数特性画像であって、
前記ノイズ除去手段は、
前記複数特性画像における複数の異なる特性の画像を1種類の特性の画像に統一する変換処理を行う特性変換手段をさらに備え、
前記複数特性画像に対する前記ノイズ除去処理を行った後、前記特性変換手段による変換処理によって前記複数特性画像を特性が統一された統一特性画像に変換することを特徴とする請求項1又は2に記載の撮像装置。
【請求項5】
前記固体撮像素子は、入射光量に対して電気信号が線形的に変換されて出力される線形光電変換特性と、該入射光量に対して電気信号が対数的に変換されて出力される対数光電変換特性とからなる光電変換特性を有するものであって、
前記複数特性画像は、線形特性の画像と対数特性の画像とからなる線形/対数画像であることを特徴とする請求項3又は4に記載の撮像装置。
【請求項6】
前記固体撮像素子は、入射光量に対して電気信号が線形的に変換されて出力される第1の線形光電変換特性と、該第1の線形光電変換特性とグラフ上の傾きが異なる第2の線形光電変換特性とからなる光電変換特性を有するものであって、
前記複数特性画像は、2種類の線形特性の画像からなる線形/線形画像であることを特徴とする請求項3又は4に記載の撮像装置。
【請求項7】
前記特性変換手段は、前記複数特性画像を線形特性の画像に統一する変換処理を行うことを特徴とする請求項5又は6に記載の撮像装置。
【請求項8】
前記ノイズ除去量算出手段は、前記低周波成分のレベルに応じて与えられる、前記階調変換手段による階調変換処理としてのダイナミックレンジ圧縮処理におけるダイナミックレンジ圧縮率(k)と、既定値として与えられる前記画像のノイズ量(n)及び前記残留ノイズ量(r)とから前記各コアリング係数を算出することを特徴とする請求項2に記載の撮像装置。
【請求項9】
前記ノイズ除去量算出手段は、前記ダイナミックレンジ圧縮率を「1」としてコアリング係数を算出することを特徴とする請求項8に記載の撮像装置。
【請求項10】
前記ノイズ除去手段は、
前記固体撮像素子による撮像により得られる画像からエッジ量を検出するエッジ量検出手段と、
前記エッジ量検出手段により検出されたエッジ量に基づいて、前記コアリング処理におけるコアリングの度合いを調整する調整手段とをさらに備えることを特徴とする請求項1〜9のいずれかに記載の撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2008−85633(P2008−85633A)
【公開日】平成20年4月10日(2008.4.10)
【国際特許分類】
【出願番号】特願2006−263025(P2006−263025)
【出願日】平成18年9月27日(2006.9.27)
【出願人】(000001270)コニカミノルタホールディングス株式会社 (4,463)
【Fターム(参考)】
【公開日】平成20年4月10日(2008.4.10)
【国際特許分類】
【出願日】平成18年9月27日(2006.9.27)
【出願人】(000001270)コニカミノルタホールディングス株式会社 (4,463)
【Fターム(参考)】
[ Back to top ]