画像処理装置、及び撮像装置
【課題】被写体に照射される光源の分光分布に偏りがある場合であっても、当該被写体が撮像された画像におけるノイズを適切に低減することができる画像処理装置を提供する。
【解決手段】画像処理装置1は、撮像素子22により被写体が撮像されて、撮像素子22の有する色画素毎に生成されたそれぞれの色画素データに対して、ノイズ除去処理をそれぞれ実行するノイズ除去部3と、撮像時において被写体に照射される光源の種類を示す情報に基づいて、ノイズ除去部3における色画素データ毎のノイズ除去処理を変更する制御部10と、を備える。
【解決手段】画像処理装置1は、撮像素子22により被写体が撮像されて、撮像素子22の有する色画素毎に生成されたそれぞれの色画素データに対して、ノイズ除去処理をそれぞれ実行するノイズ除去部3と、撮像時において被写体に照射される光源の種類を示す情報に基づいて、ノイズ除去部3における色画素データ毎のノイズ除去処理を変更する制御部10と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、及び撮像装置に関する。
【背景技術】
【0002】
撮像装置において撮像された画像に発生するノイズに対して、ノイズ除去をする技術が提案されている。例えば、撮像された画像において、ノイズ除去の対象となる画素の周辺画素を含む領域の画像が平坦画像(低周波数成分の画像)領域であるか、またはエッジ画像(高周波数成分の画像)領域であるかに基づいてノイズ除去の除去強度を変更する技術が提案されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2010−92461号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、撮像素子において発生するノイズには、空間周波数が低周波数のノイズがあり、この低周波数のノイズを除去するためには、対象画素を中心とする広い空間フィルタが必要である。広い空間フィルタを用いてノイズ除去処理をする場合、当該広い空間の画素データを処理するために多くのメモリが必要となり、多大なコスト増となる。また、ノイズ除去処理によるノイズ除去の除去強度を強くした場合、撮像された画像の周波数成分の一部がノイズと同様に除去されてしまい、当該画像において解像感の低下やコントラストの低下が生じてしまうことがある。そのため、撮像素子において生成される画素データの信号レベルに対するノイズレベルの比(S/N比)がなるべく小さく、当該画素データにおいてノイズ除去処理により除去するノイズが少ないことが、撮像された画像のノイズを低減することに優位である。
【0005】
しかしながら、撮像される際の条件は様々であり、例えば、撮像時において被写体に照射される光源の分光分布に偏りがある場合、撮像素子のそれぞれの色画素(例えばR画素、G画素、B画素)における色画素データの信号レベルの大きさに差が生じ、特定の色画素における信号レベルのみが著しく小さくなる場合がある。ここで、分光分布に偏りがある光源とは、例えば、ナトリウムランプのように特定の波長の光に限られている光源、または青みを帯びた高い色温度の光源や赤みを帯びた低い色温度の光源等である。そして、撮像素子において発生するノイズは、色画素データの信号レベルに係らず同様に発生して当該色画素データに重畳されるため、信号レベルが小さい程S/N比が大きくなり、相対的にノイズが多くなる。よって、上述のような光源の分光分布に偏りがある撮像条件においては、撮像素子において生成される色画素データのうち特定の色画素データの信号レベルが著しく小さく相対的にノイズが著しく多くなることがある。そのため、撮像された画像のノイズが増加してしまうという問題があった。
【0006】
本発明は、このような事情に鑑みてなされたもので、その目的は、被写体に照射される光源の分光分布に偏りがある場合であっても、当該被写体が撮像された画像におけるノイズを適切に低減することができる画像処理装置、及び撮像装置を提供することにある。
【課題を解決するための手段】
【0007】
上記課題を解決するために、本発明は、撮像素子により被写体が撮像されて、前記撮像素子の有する色画素毎に生成されたそれぞれの色画素データに対して、ノイズ除去処理をそれぞれ実行するノイズ除去部と、撮像時において前記被写体に照射される光源の種類を示す情報に基づいて、前記ノイズ除去部における前記色画素データ毎のノイズ除去処理を変更する制御部と、を備えることを特徴とする画像処理装置である。
この構成により、画像処理装置は、撮像時における光源の種類を示す情報に基づいて、撮像素子の有する色画素毎に生成された色画素データ毎にノイズ除去処理を変更することが可能である。
【発明の効果】
【0008】
この発明によれば、画像処理装置は、被写体に照射される光源の分光分布に偏りがある場合であっても、当該光源の種類を示す情報に基づいて、撮像素子において生成された色画素データ毎にノイズ除去処理を変更することにより、当該被写体が撮像された画像におけるノイズを適切に低減することができる。
【図面の簡単な説明】
【0009】
【図1】本発明の一実施形態による撮像装置の構成を示すブロック図である。
【図2】光源の分光分布の例を示すグラフである。
【図3】被写体の分光反射率の例を示すグラフである。
【図4】撮像素子の分光分布の例を示すグラフである。
【図5】本実施形態におけるノイズ除去処理を示すフローチャートである。
【図6】各種光源の色温度の例を示す図である。
【図7】ノイズ除去処理の制御内容を設定する動作を示すフローチャートである。
【図8】図7において選択されるノイズ除去処理の制御内容を示す表である。
【発明を実施するための形態】
【0010】
以下、図面を参照して、本発明の実施形態について説明する。
図1は、本発明の一実施形態による撮像装置100の構成を示す概略ブロック図である。図1に示す撮像装置100は、画像処理装置1、及び撮像部2を備えている。
【0011】
撮像部2は、レンズ部21、撮像素子22、及びA/D変換部23を備えている。この撮像部2は、設定された撮像条件(例えば絞り値、露出等)に基づいて、レンズ部21を介して入力された被写体の光学像を、撮像素子22の撮像面上に結像させる。また、撮像部2は、撮像素子22の有する色画素それぞれから出力されたアナログ信号をA/D変換部23においてデジタル信号に変換し、それぞれの色画素データを生成して出力する。
なお、上述したレンズ部21は、撮像装置100に取り付けられて一体とされていてもよいし、撮像装置100に着脱可能に取り付けられてもよい。
【0012】
撮像素子22は、R(赤)画素、G(緑)画素、及びB(青)画素の色画素を有しており、撮像面に結像された光学像を光電変換したそれぞれの色画素におけるアナログ信号を、A/D変換部23に出力する。A/D変換部23は、撮像素子22から入力されたアナログ信号をデジタル信号に変換し、この変換したデジタル信号であるR画素データ、G画素データ、及びB画素データを出力する。なお、このデジタル信号であるR画素データ、G画素データ、及びB画素データを、撮像素子22において生成された色画素データとも記述する。また、このR画素データ、G画素データ、及びB画素データは、例えば、各種の画像処理が実行される前のRAW画像データである。
【0013】
画像処理装置1は、ノイズ除去部3、画像処理部4、記録部5、表示部6、操作入力部7、AWB(Auto White Balance)検波部8、及び制御部10を備えている。
ノイズ除去部3は、撮像部2から入力されたR画素データ、G画素データ、及びB画素データに対して、ノイズ除去処理をそれぞれ実行するR画素データ処理部31、G画素データ処理部32、及びB画素データ処理部33を備えており、制御部10の制御によりノイズ除去処理を実行する。
【0014】
画像処理部4は、ノイズ除去部3によりノイズ除去処理がされたR画素データ、G画素データ、及びB画素データに対して、WB(White Balance)調整、色補正、及び階調補正等の各種画像処理を実行した後、当該画像データに圧縮処理を実行して画像データ(例えば、JPEG方式により圧縮された画像データ)を生成する。
【0015】
記録部5は、メモリカード等の着脱可能な記憶媒体が挿入され、当該記憶媒体に画像処理部4により画像処理された画像データを記録する。また、記録部5は、記憶媒体に記録されている画像データの読み出し、または消去も実行可能である。なお、記録部5には、ハードディスク装置や光磁気ディスク装置、フラッシュメモリ等の不揮発性のメモリ、またはこれらの組み合わせにより構成される記憶部が備えられていてもよい。
【0016】
表示部6は、例えば、液晶ディスプレイであり、撮像部2によって撮像された画像データに基づく画像、もしくは記憶媒体から読み出された画像データに基づく画像、または撮像条件等を選択する選択画面、もしくは撮像装置100の動作状態や設定に関する情報等を表示する。
【0017】
操作入力部7は、撮像装置100に対して操作者が操作入力するための操作スイッチを備えている。例えば、操作入力部7は、電源スイッチ、レリーズスイッチ、モードスイッチ、メニュースイッチ、上下左右選択スイッチ、確定スイッチ、取消スイッチ、及びその他の操作スイッチを備えている。操作入力部7が備えている上述のそれぞれのスイッチは、操作されることに応じて、それぞれの操作に対応した操作信号を制御部10に出力する。
【0018】
AWB検波部8は、撮像部2から入力されたR画素データ、G画素データ、及びB画素データに基づいて、R画素、G画素、及びB画素毎に、データの平均値、ヒストグラム、または積算値等のAWB評価値を算出して、算出した結果を制御部10に出力する。
【0019】
制御部10は、撮像装置100が備えている各部を制御する。また、制御部10は、光源を判定する光源判定部11と、ノイズ除去部3にノイズ除去処理の制御内容を設定する設定部12とを備えている。
【0020】
光源判定部11は、撮像部2が出力するR画素データ、G画素データ、及びB画素データに基づいて、撮像時において被写体に照射される光源の種類を判定する。例えば、光源判定部11は、AWB検波部8により算出されたAWB評価値に基づいて、光源の種類を判定する。
【0021】
設定部12は、光源判定部11により判定された光源の種類を示す情報に基づいて、ノイズ除去部3に、撮像部2から入力されるR画素データ、G画素データ、及びB画素データのそれぞれに対して実行させるノイズ除去処理の制御内容を設定する。
【0022】
例えば、設定部12は、光源判定部11により判定された光源の種類を示す情報に基づいて、ノイズ除去部3に実行させるノイズ除去処理の制御内容を、光源の種類を示す情報に対応付けされて予め定められたノイズ除去処理の複数の制御内容の中から選択する。そして、設定部12は、ノイズ除去部3のR画素データ処理部31、G画素データ処理部32、及びB画素データ処理部33のそれぞれに、選択したノイズ除去処理の制御内容を設定するためのノイズ除去制御信号を出力して設定する。
【0023】
これにより、制御部10は、光源判定部11において判定した、撮像時において被写体に照射される光源の種類を示す情報に基づいて、設定部12において、ノイズ除去部3における色画素データ毎のノイズ除去処理を変更する。
【0024】
次に、撮像装置100におけるノイズ除去処理の制御を説明するために、まず、光源の分光分布、及び被写体の分光反射率について説明する。
光源に照射される被写体の色は、その光源の種類によって異なって見える。これは、被写体を照射する光源の光の波長成分が、光源の種類によって異なるためである。なお、光源から照射される光の波長成分の分布を光源の分光分布とする。
【0025】
図2は、光源の分光分布の例を示すグラフである。図2(a)は、光源が太陽光である場合の分光分布の例を示している。また、図2(b)は、光源がナトリウムランプである場合の分光分布の例を示している。光源が太陽光である場合、太陽光から照射される光の分光分布は、広範囲の波長に分布している。一方、光源がナトリウムランプである場合、ナトリウムランプから照射される光の分光分布は、600nm付近の波長に偏って分布している。
【0026】
また、色を識別できるのは、被写体において特定の光の波長成分が反射または吸収されるためである。つまり、反射される光の波長成分が被写体の色として認識される。なお、被写体における光の波長成分の反射特性を分光反射率とする。
【0027】
図3は、被写体の分光反射率の例を示すグラフである。図3(a)は、被写体が観葉植物である場合の分光反射率の例を示している。また、図3(b)は、被写体がりんごである場合の分光反射率の例を示している。被写体が観葉植物である場合、観葉植物の分光反射率は、緑や黄緑の波長の付近(550nm付近)が最も高い。一方、被写体がりんごである場合、りんごの分光反射率は、橙や赤の波長の付近(650nm付近)が最も高い。
【0028】
そして、撮像素子22に入力される被写体の光の波長成分(分光分布)は、上述した光源の分光分布と被写体の分光反射率との積算値により表される(「撮像素子22に入力される被写体の分光分布」=「光源の分光分布」×「被写体の分光反射率」)。
【0029】
例えば、トンネル内の照明、または夜間時の道路の照明に等に一般的に使用されているナトリウムランプの光源下においては、ナトリウムランプの分光分布が600nm付近の波長に偏っていることにより、特に青い被写体(400nm付近)の反射光はほとんど無い。そのため、ナトリウムランプの光源下においては、青い被写体から撮像素子22に入力される光はほとんど無いことになる。
【0030】
しかし、ナトリウムランプから照射される600nm付近の波長成分の光が青い被写体以外の色の被写体において反射されて撮像素子22に入力されることにより、撮像素子22のB画素にもこの600nm付近の波長成分の光が受光される。
【0031】
図4は、撮像素子22の分光分布の例を示すグラフである。この図に示すように、撮像素子22のR画素、G画素、及びB画素のそれぞれの分光分布(撮像素子22のそれぞれの色画素の分光感度と、撮像素子22のそれぞれの色画素におけるカラーフィルターの分光透過率とに基づく分光分布)は、それぞれの色画素の色に対応する光の波長付近で最も高くなるが、その他の波長領域においても零ではない。
【0032】
そのため、例えば、光源がナトリウムランプである場合、青い被写体から撮像素子22に入力される光がほとんど無いにもかかわらず、撮像素子22のB画素には600nm付近の波長成分の光が受光されることになる。よって、この場合、撮像素子22から出力されるB画素データには、画像を生成するために有効なデータ(青い被写体のデータ)がほとんど無く、画像を生成するために必要ではない無効なデータ(600nm付近の波長成分のデータ)が含まれることになる。また、撮像素子22において発生するノイズは、それぞれの色画素に受光される光の量に係らず同様に発生して撮像素子22から出力される色画素データに重畳される。
【0033】
これにより、光源がナトリウムランプである場合、撮像素子22から出力されるB画素データは、画像を生成するために有効データがほとんど無いデータであって、画像を生成するために必要ではない無効なデータと、この無効なデータに重畳されたノイズとによるデータである。なお、有効なデータに対して、無効なデータもノイズである。すなわち、撮像素子22から出力されるB画素データは、画像を生成するために有効データがほとんど無く相対的にノイズが多いため、信号レベル(有効なデータ)に対するノイズレベルの比(S/N比)が大きいデータである。このように、撮像素子22から出力されるB画素データは、ノイズが支配的なデータである。よって、このノイズが支配的なデータであるB画素データを用いて画像処理を実行して画像データを生成した場合、ノイズの多い画像データが生成されることになる。
【0034】
撮像装置100は、上述したように撮像される被写体に照射される光源がナトリウムランプのような光源の分光分布に偏りがある場合、撮像された色画素データ毎のノイズ除去処理を変更することにより、撮像された画像データのノイズを低減するものである。以下に、撮像装置100の画像処理装置1におけるノイズ除去処理の制御について説明する。
【0035】
画像処理装置1の制御部10は、撮像時において被写体に照射される光源の種類を示す情報に基づいて、ノイズ除去部3における色画素データ毎のノイズ除去処理を変更する。例えば、制御部10は、上述のノイズ除去処理として、光源の種類を示す情報に基づいて、それぞれの色画素データのうちから選択された色画素データの値を零にさせる制御をする。
【0036】
具体的には、制御部10の光源判定部11は、AWB検波部8において算出されたAWB評価値に基づいて、光源の種類を判定する。制御部10の設定部12は、光源判定部11により判定された光源の種類を示す情報に基づいて、R画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を零にさせるノイズ除去制御信号をノイズ除去部3に出力する。そして、ノイズ除去部3は、設定部12から入力されたノイズ除去制御信号に基づいて、ノイズ除去処理として、R画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を零にして、画像処理部4に出力する。
【0037】
例えば、制御部10は、光源がナトリウムランプである場合、B画素データの値を零にさせるノイズ除去制御信号をノイズ除去部3に出力する。そして、ノイズ除去部3は、設定部12から入力されたノイズ除去制御信号に基づいて、ノイズ除去処理として、B画素データの値を零にして、画像処理部4に出力する。
【0038】
図5は、本実施形態におけるノイズ除去処理を示すフローチャートである。以下、図5が示すフローチャートを用いて、撮像装置100におけるノイズ除去処理の動作について説明する。
【0039】
撮像装置100の撮像部2は、被写体を撮像して撮像素子22のR画素、G画素、及びB画素それぞれから出力されたアナログ信号をA/D変換部23においてデジタル信号に変換し、R画素データ、G画素データ、及びB画素データを出力する。そして、このR画素データ、G画素データ、及びB画素データが、撮像部2から画像処理装置1に入力される(ステップS1)。
【0040】
画像処理装置1のAWB検波部8は、撮像部2から入力されたR画素データ、G画素データ、及びB画素データに基づいて、R画素、G画素、及びB画素毎に、データの平均値、ヒストグラム、または積算値等のAWB評価値を算出して、算出した結果を制御部10に出力する(ステップS2)。
【0041】
そして、制御部10の光源判定部11は、AWB検波部8により算出されたAWB評価値に基づいて、撮像時において被写体に照射される光源の種類を判定する。例えば、光源判定部11は、撮像時において被写体に照射される光源がナトリウムランプであると判定する(ステップS3)。
【0042】
次に、制御部10の設定部12は、光源判定部11により判定された光源の種類を示す情報に基づいて、ノイズ除去部3に、撮像部2から入力されるR画素データ、G画素データ、及びB画素データのそれぞれに対して実行させるノイズ除去処理の制御内容を設定する。例えば、設定部12は、光源判定部11により判定された光源がナトリウムランプである場合、ノイズが支配的なデータであるB画素データの値を零にさせるノイズ除去制御信号をノイズ除去部3に出力して設定する。また、この場合、設定部12は、R画素データ、及びG画素データに対して通常のノイズ除去処理(画素データに重畳されているノイズを低減させるための予め定められたノイズ除去処理)を実行させるノイズ除去制御信号をノイズ除去部3に出力して設定する(ステップS4)。
【0043】
続いて、ノイズ除去部3は、設定部12から入力されたノイズ除去制御信号に基づいて、ノイズ除去処理として、R画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を零にして、画像処理部4に出力する。例えば、光源がナトリウムランプである場合、ノイズ除去部3は、設定部12から入力されたノイズ除去制御信号に基づいて、通常のノイズ除去処理を実行したR画素データ、及びG画素データと、データの値を零にしたB画素データとを画像処理部4に出力する(ステップS5)。
【0044】
画像処理部4は、ノイズ除去部3によりノイズ除去処理がされて入力されたR画素データ、G画素データ、及びB画素データに対して、WB調整、色補正、及び階調補正等の各種画像処理を実行した後、圧縮処理(例えば、JPEG方式による圧縮処理)を実行して、画像データを生成する(ステップS6)。次に、記録部5は、画像処理部4により画像処理されて生成された画像データを記憶媒体に記録する(ステップS7)。
【0045】
このように、撮像装置100は、撮像時における光源の種類を判定し、判定した光源の種類に基づいて、撮像素子22の有する色画素毎に生成された色画素データ毎にノイズ除去処理を変更して画像データを生成する。例えば、撮像装置100は、撮像時における光源がナトリウムランプである場合、撮像素子22において生成された色画素データのうちから、ノイズが支配的なデータであるB画素データを選択して、選択したB画素データの値を零にして画像データを生成する。
【0046】
これにより、撮像装置100は、ノイズが支配的なデータである色画素データを用いずに画像データを生成するため、生成された画像データのノイズを低減することができる。例えば、光源がナトリウムランプである場合、撮像装置100は、ノイズが支配的なデータであるB画素データの値を用いずに画像データを生成するため、生成された画像データのノイズを低減することができる。
【0047】
よって、本実施形態によれば、撮像装置100は、被写体に照射される光源がナトリウムランプのように分光分布に偏りがある場合であっても、当該光源の種類を示す情報に基づいて、撮像素子22において生成された色画素データのうちから選択された色画素データの値を零にすることにより、当該被写体が撮像された画像データのノイズを適切に低減することができる。
【0048】
なお、上述したノイズ除去処理において、分光分布に偏りがある光源としてナトリウムランプを光源とした場合の例について説明したが、青みを帯びた高い色温度の光源、または赤みを帯びた低い色温度の光源とした場合においても、本実施形態のノイズ除去処理を適用することができる。
【0049】
図6は、各種光源の色温度の例を示す図である。この図が示すように、晴天の屋外の色温度は、5000K〜6000K付近である。また、色温度が高い光源ほど、より青みを帯びた光源であって、色温度が低い光源ほど、より赤みを帯びた光源である。
【0050】
青みを帯びた高い色温度の光源の場合、光源の分光分布においては青系の波長成分に光が偏っており赤系の波長成分の光が少ない。この高い色温度の光源が照射されて被写体の分光反射率により被写体から反射された光を撮像して撮像素子22により生成されたR画素データの値が著しく小さい場合、すなわち画像を生成するために有効な値でない場合、画像処理装置1は、R画素データの値を零にする。ここで、高い色温度の光源は、例えば、色温度が9000K(第1の閾値)以上であって、青空からの光(太陽からの直接光は除く)等である。
【0051】
例えば、制御部10は、光源が、予め定められた第1の閾値(例えば、9000K)以上の色温度の光源である場合、R画素データの値に基づいて、R画素データが画像を生成するために有効な値であるか否かを判定し、R画素データの値が有効な値でないと判定した場合、R画素データの値を零にさせる制御をする。
【0052】
なお、制御部10は、R画素データの値に基づいて、R画素データが画像を生成するために有効な値であるか否かを判定する場合、例えば、R画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるとき、R画素データの値が有効な値でないと判定する。そして、R画素データの値が有効な値でない場合、R画素データは、画像を生成するために有効データがほとんど無いデータであって、ノイズが支配的なデータである。一方、制御部10は、R画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上でないとき、R画素データの値が有効な値であると判定する。
【0053】
また、赤みを帯びた低い色温度の光源の場合、光源の分光分布においては赤系の波長成分に光が偏っており青系の波長成分の光が少ない。この低い色温度の光源が照射されて被写体の分光反射率により被写体から反射された光を撮像して撮像素子22により生成されたB画素データの値が著しく小さい場合、すなわち画像を生成するために有効な値でない場合、画像処理装置1は、B画素データの値を零にする。ここで、低い色温度の光源は、例えば、色温度が2000K(第2の閾値)以下であって、ろうそくの光等である。
【0054】
例えば、制御部10は、光源が、予め定められた第2の閾値(例えば、2000K)以下の色温度の光源である場合、B画素データの値に基づいて、B画素データが画像を生成するために有効な値であるか否かを判定し、B画素データの値が有効な値でないと判定した場合、B画素データの値を低減させる制御をする。
【0055】
なお、制御部10は、B画素データの値に基づいて、B画素データが画像を生成するために有効な値であるか否かを判定する場合、例えば、B画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるとき、B画素データの値が有効な値でないと判定する。そして、B画素データの値が有効な値でない場合、B画素データは、画像を生成するために有効データがほとんど無いデータであって、ノイズが支配的なデータである。一方、制御部10は、B画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上でないとき、B画素データの値が有効な値であると判定する。
【0056】
このように、撮像装置100の画像処理装置1は、撮像時における光源が、色温度の高い光源の場合であって、R画素データの値に基づいて、R画素データが画像を生成するために有効な値でないと判定した場合、R画素データの値を零にする。これにより、画像処理装置1は、画像を生成するために有効な値でないR画素データ、すなわち、ノイズが支配的なデータであるR画素データの値を零にして画像データを生成することができる。
【0057】
また、撮像装置100の画像処理装置1は、撮像時における光源が、色温度の低い光源の場合であって、B画素データの値に基づいて、B画素データが画像を生成するために有効な値でないと判定した場合、B画素データの値を零にする。これにより、画像処理装置1は、画像を生成するために有効な値でないB画素データ、すなわち、ノイズが支配的なデータであるB画素データの値を零にして画像データを生成することができる。
【0058】
よって、本実施形態によれば、撮像装置100の画像処理装置1は、被写体に照射される光源が色温度の高い光源または低い光源のように分光分布に偏りがある場合であっても、当該光源の種類を示す情報に基づいて、撮像素子22において生成された色画素データのうちから選択された色画素データの値を零にすることにより、撮像された当該被写体画像のノイズを適切に低減することができる。
【0059】
なお、R画素データ、またはB画素データが画像を生成するために有効な値であるか否かを判定する場合、それぞれの色画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるか否かを判定する例について説明したが、これは一例であってこれに限られるものではない。例えば、ヒストグラムを算出する際の分割数、デジタル値の範囲、またはこの範囲に含まれる画素の割合等は、他の値としてもよい。また、ヒストグラムによる解析以外の方法により、それぞれの色画素データに含まれるデータの値に基づいて、画像を生成するために有効な値であるか否かを判定してもよい。
【0060】
図7は、ノイズ除去処理の制御内容を設定する動作の詳細を示すフローチャートである。また、図8は、図7が示すフローチャートにおいて選択して設定されるノイズ除去処理の制御内容を示す表である。
以下、判定された光源が、ナトリウムランプ、高い色温度の光源、または低い色温度の光源であるか否かにより、ノイズ除去処理の制御内容を設定する場合の動作(図5のステップS4に相当する動作)の一例を、図7及び図8を用いて説明する。
【0061】
制御部10の光源判定部11は、AWB検波部8により算出されたAWB評価値に基づいて、撮像時において被写体に照射される光源の種類を判定する(ステップS11)。
【0062】
次に、制御部10の設定部12は、光源判定部11により判定された光源がナトリウムランプであるか否かを判定する(ステップS12)。設定部12は、光源判定部11により判定された光源がナトリウムランプでないと判定した場合、ステップS13に処理を進める。一方、設定部12は、光源判定部11により判定された光源がナトリウムランプであると判定した場合、ノイズ除去処理の制御内容として「処理1」を選択して、「処理1」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。
【0063】
すなわち、設定部12は、光源がナトリウムランプであると判定した場合、図8の「処理1」に示すように、R画素データ及びG画素データに対しては、通常のノイズ除去処理を実行し、B画素データに対しては、B画素データの値を零にする処理を実行する制御を選択してノイズ除去部3に設定する。
【0064】
ステップS13において、設定部12は、光源判定部11により判定された光源の色温度が第1の閾値以上(例えば、9000K以上の高い色温度)であるか否かを判定する。設定部12は、光源判定部11により判定された光源の色温度が第1の閾値以上(例えば、9000K以上の高い色温度)でないと判定した場合、ステップS16に処理を進める。一方、設定部12は、光源判定部11により判定された光源の色温度が第1の閾値以上(例えば、9000K以上の高い色温度)であると判定した場合、ステップS14に処理を進めて、AWB検波部8により算出されたR画素データのヒストグラムを解析する。
【0065】
次に、設定部12は、AWB検波部8により算出されたR画素データのヒストグラムを解析した結果に基づいて、画像を生成するために有効なR画素データが存在するか否かを判定する。例えば、設定部12は、R画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるとき、R画素データの値が有効な値でないと判定する。一方、制御部10は、R画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上でないとき、R画素データの値が有効な値であると判定する(ステップS15)。
【0066】
ステップS15において、設定部12は、有効なR画素データが存在しないと判定した場合、ノイズ除去処理の制御内容として「処理2」を選択して、「処理2」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理2」に示すように、設定部12は、G画素データ及びB画素データに対しては、通常のノイズ除去処理を実行し、R画素データに対しては、R画素データの値を零にする処理を実行する制御を選択してノイズ除去部3に設定する。
【0067】
一方、ステップS15において、設定部12は、有効なR画素データが存在すると判定した場合、ノイズ除去処理の制御内容として「処理0」を選択して、「処理0」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理0」に示すように、設定部12は、R画素データ、G画素データ、及びB画素データに対して、通常のノイズ除去処理を実行する制御を選択してノイズ除去部3に設定する。
【0068】
また、ステップS16において、設定部12は、光源判定部11により判定された光源の色温度が第2の閾値以下(例えば、2000K以下の低い色温度)であるか否かを判定する。設定部12は、光源判定部11により判定された光源の色温度が第2の閾値以下(例えば、2000K以下の低い色温度)でないと判定した場合、ノイズ除去処理の制御内容として「処理0」を選択して、「処理0」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理0」に示すように、設定部12は、R画素データ、G画素データ、及びB画素データに対して、通常のノイズ除去処理を実行する制御を選択してノイズ除去部3に設定する。
【0069】
一方、ステップS16において、設定部12は、光源判定部11により判定された光源の色温度が第2の閾値以下(例えば、2000K以下の低い色温度)であると判定した場合、ステップS17に処理を進めて、AWB検波部8により算出されたB画素データのヒストグラムを解析する。
【0070】
次に、設定部12は、AWB検波部8により算出されたB画素データのヒストグラムを解析した結果に基づいて、画像を生成するために有効なB画素データが存在するか否かを判定する。例えば、設定部12は、B画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるとき、B画素データの値が有効な値でないと判定する。一方、制御部10は、B画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上でないとき、B画素データの値が有効な値であると判定する(ステップS18)。
【0071】
ステップS18において、設定部12は、有効なB画素データが存在しないと判定した場合、ノイズ除去処理の制御内容として「処理1」を選択して、「処理1」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理1」に示すように、設定部12は、R画素データ及びG画素データに対しては、通常のノイズ除去処理を実行し、B画素データに対しては、B画素データの値を零にする処理を実行する制御を選択してノイズ除去部3に設定する。
【0072】
一方、ステップS18において、設定部12は、有効なB画素データが存在すると判定した場合、ノイズ除去処理の制御内容として「処理0」を選択して、「処理0」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理0」に示すように、設定部12は、R画素データ、G画素データ、及びB画素データに対して、通常のノイズ除去処理を実行する制御を選択してノイズ除去部3に設定する。
【0073】
以上のように、本実施形態における撮像装置100は、被写体に照射される光源がナトリウムランプ、高い色温度の光源、または低い色温度の光源等のように分光分布に偏りがある場合であっても、当該光源の種類を示す情報に基づいて、撮像素子22において生成された色画素データのうちから選択された色画素データの値を零にすることにより、当該被写体が撮像された画像のノイズを適切に低減することができる。
【0074】
また、光源がナトリウムランプ、または低い色温度の光源である場合の撮像条件は、例えば、トンネル内の照明、夜間時の道路の照明、または、ろうそくの光等、暗い光源下の撮像条件であることが多い。このように暗い光源下の撮像条件である場合であって、撮像装置100が高感度設定により撮像した場合、撮像素子22において発生するノイズはより大きくなる。そのため、撮像装置100は、特に高感度設定により撮像されるような暗い光源下の条件において、撮像された画像のノイズを低減することに、より有効である。
【0075】
なお、上記実施形態によれば、画像処理装置1のノイズ除去部3は、撮像素子22により被写体が撮像されて、撮像素子22の有する色画素毎に生成されたそれぞれの色画素データに対して、ノイズ除去処理をそれぞれ実行する。そして、画像処理装置1の制御部10は、撮像時において当該被写体に照射される光源の種類を示す情報に基づいて、ノイズ除去部3における色画素データ毎のノイズ除去処理を変更する。
【0076】
つまり、画像処理装置1は、光源の種類に基づいて色画素データ毎に異なるノイズ除去処理を実行する。例えば、画像処理装置1は、光源の種類に基づいて、ノイズが支配的なデータである色画素データに対して、データの値を零にするノイズ除去処理を実行する。すなわち、画像処理装置1は、光源の種類に基づいて、ノイズが大きい色画素データに対してデータの値を零にし、ノイズが小さい色画素データに対して通常のノイズ除去をするといったように、色画素データ毎に異なるノイズ除去処理を実行する。また、画像処理装置1は、光源の種類に基づいて、ノイズが大きい色画素データに対するノイズ除去の除去強度を強くし、ノイズが小さい色画素データに対するノイズ除去の除去強度を弱くするといったように、色画素データ毎に異なる除去強度のノイズ除去処理を実行してもよい。これにより、画像処理装置1は、光源の種類に基づいて、それぞれの色画素データに対して適切なノイズ除去処理を実行することできる。よって、画像処理装置1は、光源の種類に基づいて、撮像された画像のノイズを適切に低減することができる。
【0077】
また、画像処理装置1の制御部10は、ノイズ除去処理として、光源の種類を示す情報に基づいて、それぞれの色画素データのうちから選択された色画素データの値を低減させる制御をしてもよい。
つまり、上記実施形態において、ノイズ除去処理として、光源の種類に基づいて選択された色画素データの値を零にさせる制御について説明したが、零にさせる制御に限らず、当該選択された色画素データの値を低減させる制御としてもよい。これにより、画像処理装置1は、ノイズ除去処理として、光源の種類に基づいて選択された色画素データのノイズを低減することができる。
【0078】
また、画像処理装置1のノイズ除去部3は、R画素、G画素、及びB画素の色画素を有する撮像素子22により被写体が撮像されて、当該色画素毎に生成されたR画素データ、G画素データ、及びB画素データに対して、ノイズ除去処理をそれぞれ実行する。そして、制御部10は、ノイズ除去処理として、光源の種類を示す情報に基づいて、R画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を低減させる制御をする。
つまり、ノイズ除去部3は、制御部10の制御により、撮像素子22により生成されたR画素データ、G画素データ、及びB画素データに対してノイズ除去処理をそれぞれ実行する。これにより、画像処理装置1は、光源の種類に応じて、撮像素子22により生成されたR画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を低減させる制御をすることができる。
【0079】
また、上記実施形態によれば、画像処理装置1の制御部10は、光源がナトリウムランプである場合、B画素データの値を低減させる制御をする。
つまり、制御部10は、光源がナトリウムランプである場合、ノイズが支配的なデータであるB画素データの値を低減させる制御をする。これにより、画像処理装置1は、被写体に照射される光源がナトリウムランプのように分光分布に偏りがある場合であっても、撮像された画像のノイズを適切に低減することができる。
【0080】
また、上記実施形態によれば、画像処理装置1の制御部10は、光源が予め定められた第1の閾値以上の色温度(例えば、9000K以上の高い色温度)の光源である場合、R画素データの値に基づいて、R画素データが画像を生成するために有効な値であるか否かを判定する。そして、制御部10は、R画素データの値が有効な値でないと判定した場合、R画素データの値を低減させる制御をする。
つまり、画像処理装置1は、青みを帯びた高い色温度の光源である場合であって、R画素データの値が有効な値でない場合、ノイズが支配的なデータであるR画素データの値を低減させる制御をする。これにより、画像処理装置1は、被写体に照射される光源が青みを帯びた高い色温度の光源のように分光分布に偏りがある場合であっても、撮像された画像のノイズを適切に低減することができる。なお、上記実施形態において、高い色温度の光源であるか否かを判定するために予め定められた第1の閾値を9000Kとした例について説明したが、これに限らず、第1の閾値を9000K以外のその他の色温度としてもよい。
【0081】
なお、上記実施形態によれば、画像処理装置1の制御部10は、光源が、予め定められた第2の閾値以下の色温度(例えば、2000K以下の低い色温度)の光源である場合、B画素データの値に基づいて、B画素データが画像を生成するために有効な値であるか否かを判定する。そして、制御部10は、B画素データの値が有効な値でないと判定した場合、B画素データの値を低減させる制御をする。
つまり、画像処理装置1は、赤みを帯びた低い色温度の光源である場合であって、B画素データの値が有効な値でない場合、ノイズが支配的なデータであるB画素データの値を低減させる制御をする。これにより、画像処理装置1は、被写体に照射される光源が赤みを帯びた低い色温度の光源のように分光分布に偏りがある場合であっても、撮像された画像のノイズを適切に低減することができる。なお、上記実施形態において、低い色温度の光源であるか否かを判定するために予め定められた第2の閾値を2000Kとした例について説明したが、これに限らず、第2の閾値を2000K以外のその他の色温度としてもよい。
【0082】
また、上記実施形態によれば、画像処理装置1の制御部10は、ノイズ除去処理として、光源の種類を示す情報に基づいて、それぞれの色画素データのうちから選択された色画素データの値を低減させる制御をする場合、選択された色画素データの値を零にさせる制御をする。
つまり、制御部10は、光源の種類に基づいて選択された色画素データの値を零にさせる制御をする。これにより、画像処理装置1は、選択された色画素データに重畳されているノイズを零にして、撮像された画像データを生成することができる。
【0083】
また、上記実施形態によれば、画像処理装置1の制御部10は、色画素データに基づいて光源の種類を判定する光源判定部11を備えている。
例えば、画像処理装置1のAWB検波部8は、撮像部2から入力されたR画素データ、G画素データ、及びB画素データに基づいて、R画素、G画素、及びB画素毎に、データの平均値、ヒストグラム、または積算値等のAWB評価値を算出して、算出した結果を制御部10に出力する。そして、光源の種類によって分光分布が異なることを利用して、光源判定部11は、AWB検波部8により算出されたAWB評価値に基づいて、撮像時において被写体に照射される光源の種類を判定する。これにより、画像処理装置1は、撮像時において被写体に照射される光源の種類を、当該被写体が撮像されて生成された色画素データに基づいて判定することができる。
【0084】
なお、画像処理装置1は、撮像時において被写体に照射される光源の種類を判定する場合、当該被写体が撮像されて画像データを生成するための色画素データに基づいて光源の種類を判定してもよいし、画像データを生成するための色画素データとは異なる当該被写体が撮像された色画素データに基づいて光源の種類を判定してもよい。ここで、画像データを生成するための色画素データとは異なる当該被写体が撮像された色画素データとは、例えば、撮像される被写体の画角等を確認するために時系列に繰り返し撮像されて表示部6に表示される当該被写体が撮像された色画素データであって、当該被写体画像を生成するために撮像するタイミングより前に撮像された色画素データである。
【0085】
なお、上記実施形態において、光源判定部11が、色画素データに基づいて光源の種類を判定する場合、AWB検波部8を介して光源の種類を判定する例について説明したが、これに限られるものではない。光源判定部11は、AWB検波部8を介さずに、色画素データに基づいて光源の種類を判定してもよい。
【0086】
また、光源判定部11は、入力された光源の種類に関する撮像条件の情報に基づいて、光源の種類を判定してもよい。
つまり、光源判定部11は、操作者によって操作入力部7から入力された光源の種類に関する撮像条件の情報に基づいて、光源の種類を判定してもよい。例えば、制御部10は、撮像条件として、撮像時において被写体に照射される光源の種類に対応したWB制御を実行するために予め設定されているWB設定条件(例えば、太陽光、蛍光灯、電球、ろうそく、またはナトリウムランプ等、光源の種類)を選択する選択画面を表示部6に表示させ、操作者に操作入力部7において操作させることにより選択させる。そして、光源判定部11は、選択されて入力されたWB設定条件の情報(光源の種類を示す情報)に基づいて、光源の種類を判定してもよい。これにより、制御部10は、入力された撮影条件の情報に基づいて、光源の種類を判定して、上述したノイズ除去処理を実行することができる。
【0087】
また、上記実施形態によれば、撮像装置100は、画像処理装置1を備えている。つまり、撮像装置100により撮像された被写体に照射される光源の分光分布に偏りがある場合、撮像装置100の画像処理装置1は、当該光源の種類に基づいて、撮像素子22において生成した色画素データ毎にノイズ除去処理を変更する。これにより、画像処理装置1は、当該被写体が撮像された画像におけるノイズを適切に低減することができる。
【0088】
なお、上記実施形態において、画像処理装置1を備えている撮像装置100について説明したが、これに限られるものではなく、画像処理装置1は、他の撮像装置により撮像された画像データを処理する画像処理装置であってもよい。例えば、画像処理装置1は、他の撮像装置において撮像されたRAW画像データを記録部5から読み出して、読み出したRAW画像データにおけるR画素データ、G画素データ、及びB画素データに基づいて、上記実施形態におけるノイズ除去処理を実行してもよい。
【0089】
なお、図1における、ノイズ除去部3、画像処理部4、AWB検波部8、及び制御部10は専用のハードウェアにより実現されるものであってもよく、また、メモリおよびCPU(中央演算装置)により構成され、上述の各部の機能を実現するためのプログラムをメモリにロードして実行することによりその機能を実現させるものであってもよい。
【0090】
また、図1における画像処理装置1の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより上述の各部の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
【0091】
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【0092】
以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【0093】
1 画像処理装置、3 ノイズ除去部、10 制御部、11 光源判定部、22 撮像素子、100 撮像装置
【技術分野】
【0001】
本発明は、画像処理装置、及び撮像装置に関する。
【背景技術】
【0002】
撮像装置において撮像された画像に発生するノイズに対して、ノイズ除去をする技術が提案されている。例えば、撮像された画像において、ノイズ除去の対象となる画素の周辺画素を含む領域の画像が平坦画像(低周波数成分の画像)領域であるか、またはエッジ画像(高周波数成分の画像)領域であるかに基づいてノイズ除去の除去強度を変更する技術が提案されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2010−92461号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、撮像素子において発生するノイズには、空間周波数が低周波数のノイズがあり、この低周波数のノイズを除去するためには、対象画素を中心とする広い空間フィルタが必要である。広い空間フィルタを用いてノイズ除去処理をする場合、当該広い空間の画素データを処理するために多くのメモリが必要となり、多大なコスト増となる。また、ノイズ除去処理によるノイズ除去の除去強度を強くした場合、撮像された画像の周波数成分の一部がノイズと同様に除去されてしまい、当該画像において解像感の低下やコントラストの低下が生じてしまうことがある。そのため、撮像素子において生成される画素データの信号レベルに対するノイズレベルの比(S/N比)がなるべく小さく、当該画素データにおいてノイズ除去処理により除去するノイズが少ないことが、撮像された画像のノイズを低減することに優位である。
【0005】
しかしながら、撮像される際の条件は様々であり、例えば、撮像時において被写体に照射される光源の分光分布に偏りがある場合、撮像素子のそれぞれの色画素(例えばR画素、G画素、B画素)における色画素データの信号レベルの大きさに差が生じ、特定の色画素における信号レベルのみが著しく小さくなる場合がある。ここで、分光分布に偏りがある光源とは、例えば、ナトリウムランプのように特定の波長の光に限られている光源、または青みを帯びた高い色温度の光源や赤みを帯びた低い色温度の光源等である。そして、撮像素子において発生するノイズは、色画素データの信号レベルに係らず同様に発生して当該色画素データに重畳されるため、信号レベルが小さい程S/N比が大きくなり、相対的にノイズが多くなる。よって、上述のような光源の分光分布に偏りがある撮像条件においては、撮像素子において生成される色画素データのうち特定の色画素データの信号レベルが著しく小さく相対的にノイズが著しく多くなることがある。そのため、撮像された画像のノイズが増加してしまうという問題があった。
【0006】
本発明は、このような事情に鑑みてなされたもので、その目的は、被写体に照射される光源の分光分布に偏りがある場合であっても、当該被写体が撮像された画像におけるノイズを適切に低減することができる画像処理装置、及び撮像装置を提供することにある。
【課題を解決するための手段】
【0007】
上記課題を解決するために、本発明は、撮像素子により被写体が撮像されて、前記撮像素子の有する色画素毎に生成されたそれぞれの色画素データに対して、ノイズ除去処理をそれぞれ実行するノイズ除去部と、撮像時において前記被写体に照射される光源の種類を示す情報に基づいて、前記ノイズ除去部における前記色画素データ毎のノイズ除去処理を変更する制御部と、を備えることを特徴とする画像処理装置である。
この構成により、画像処理装置は、撮像時における光源の種類を示す情報に基づいて、撮像素子の有する色画素毎に生成された色画素データ毎にノイズ除去処理を変更することが可能である。
【発明の効果】
【0008】
この発明によれば、画像処理装置は、被写体に照射される光源の分光分布に偏りがある場合であっても、当該光源の種類を示す情報に基づいて、撮像素子において生成された色画素データ毎にノイズ除去処理を変更することにより、当該被写体が撮像された画像におけるノイズを適切に低減することができる。
【図面の簡単な説明】
【0009】
【図1】本発明の一実施形態による撮像装置の構成を示すブロック図である。
【図2】光源の分光分布の例を示すグラフである。
【図3】被写体の分光反射率の例を示すグラフである。
【図4】撮像素子の分光分布の例を示すグラフである。
【図5】本実施形態におけるノイズ除去処理を示すフローチャートである。
【図6】各種光源の色温度の例を示す図である。
【図7】ノイズ除去処理の制御内容を設定する動作を示すフローチャートである。
【図8】図7において選択されるノイズ除去処理の制御内容を示す表である。
【発明を実施するための形態】
【0010】
以下、図面を参照して、本発明の実施形態について説明する。
図1は、本発明の一実施形態による撮像装置100の構成を示す概略ブロック図である。図1に示す撮像装置100は、画像処理装置1、及び撮像部2を備えている。
【0011】
撮像部2は、レンズ部21、撮像素子22、及びA/D変換部23を備えている。この撮像部2は、設定された撮像条件(例えば絞り値、露出等)に基づいて、レンズ部21を介して入力された被写体の光学像を、撮像素子22の撮像面上に結像させる。また、撮像部2は、撮像素子22の有する色画素それぞれから出力されたアナログ信号をA/D変換部23においてデジタル信号に変換し、それぞれの色画素データを生成して出力する。
なお、上述したレンズ部21は、撮像装置100に取り付けられて一体とされていてもよいし、撮像装置100に着脱可能に取り付けられてもよい。
【0012】
撮像素子22は、R(赤)画素、G(緑)画素、及びB(青)画素の色画素を有しており、撮像面に結像された光学像を光電変換したそれぞれの色画素におけるアナログ信号を、A/D変換部23に出力する。A/D変換部23は、撮像素子22から入力されたアナログ信号をデジタル信号に変換し、この変換したデジタル信号であるR画素データ、G画素データ、及びB画素データを出力する。なお、このデジタル信号であるR画素データ、G画素データ、及びB画素データを、撮像素子22において生成された色画素データとも記述する。また、このR画素データ、G画素データ、及びB画素データは、例えば、各種の画像処理が実行される前のRAW画像データである。
【0013】
画像処理装置1は、ノイズ除去部3、画像処理部4、記録部5、表示部6、操作入力部7、AWB(Auto White Balance)検波部8、及び制御部10を備えている。
ノイズ除去部3は、撮像部2から入力されたR画素データ、G画素データ、及びB画素データに対して、ノイズ除去処理をそれぞれ実行するR画素データ処理部31、G画素データ処理部32、及びB画素データ処理部33を備えており、制御部10の制御によりノイズ除去処理を実行する。
【0014】
画像処理部4は、ノイズ除去部3によりノイズ除去処理がされたR画素データ、G画素データ、及びB画素データに対して、WB(White Balance)調整、色補正、及び階調補正等の各種画像処理を実行した後、当該画像データに圧縮処理を実行して画像データ(例えば、JPEG方式により圧縮された画像データ)を生成する。
【0015】
記録部5は、メモリカード等の着脱可能な記憶媒体が挿入され、当該記憶媒体に画像処理部4により画像処理された画像データを記録する。また、記録部5は、記憶媒体に記録されている画像データの読み出し、または消去も実行可能である。なお、記録部5には、ハードディスク装置や光磁気ディスク装置、フラッシュメモリ等の不揮発性のメモリ、またはこれらの組み合わせにより構成される記憶部が備えられていてもよい。
【0016】
表示部6は、例えば、液晶ディスプレイであり、撮像部2によって撮像された画像データに基づく画像、もしくは記憶媒体から読み出された画像データに基づく画像、または撮像条件等を選択する選択画面、もしくは撮像装置100の動作状態や設定に関する情報等を表示する。
【0017】
操作入力部7は、撮像装置100に対して操作者が操作入力するための操作スイッチを備えている。例えば、操作入力部7は、電源スイッチ、レリーズスイッチ、モードスイッチ、メニュースイッチ、上下左右選択スイッチ、確定スイッチ、取消スイッチ、及びその他の操作スイッチを備えている。操作入力部7が備えている上述のそれぞれのスイッチは、操作されることに応じて、それぞれの操作に対応した操作信号を制御部10に出力する。
【0018】
AWB検波部8は、撮像部2から入力されたR画素データ、G画素データ、及びB画素データに基づいて、R画素、G画素、及びB画素毎に、データの平均値、ヒストグラム、または積算値等のAWB評価値を算出して、算出した結果を制御部10に出力する。
【0019】
制御部10は、撮像装置100が備えている各部を制御する。また、制御部10は、光源を判定する光源判定部11と、ノイズ除去部3にノイズ除去処理の制御内容を設定する設定部12とを備えている。
【0020】
光源判定部11は、撮像部2が出力するR画素データ、G画素データ、及びB画素データに基づいて、撮像時において被写体に照射される光源の種類を判定する。例えば、光源判定部11は、AWB検波部8により算出されたAWB評価値に基づいて、光源の種類を判定する。
【0021】
設定部12は、光源判定部11により判定された光源の種類を示す情報に基づいて、ノイズ除去部3に、撮像部2から入力されるR画素データ、G画素データ、及びB画素データのそれぞれに対して実行させるノイズ除去処理の制御内容を設定する。
【0022】
例えば、設定部12は、光源判定部11により判定された光源の種類を示す情報に基づいて、ノイズ除去部3に実行させるノイズ除去処理の制御内容を、光源の種類を示す情報に対応付けされて予め定められたノイズ除去処理の複数の制御内容の中から選択する。そして、設定部12は、ノイズ除去部3のR画素データ処理部31、G画素データ処理部32、及びB画素データ処理部33のそれぞれに、選択したノイズ除去処理の制御内容を設定するためのノイズ除去制御信号を出力して設定する。
【0023】
これにより、制御部10は、光源判定部11において判定した、撮像時において被写体に照射される光源の種類を示す情報に基づいて、設定部12において、ノイズ除去部3における色画素データ毎のノイズ除去処理を変更する。
【0024】
次に、撮像装置100におけるノイズ除去処理の制御を説明するために、まず、光源の分光分布、及び被写体の分光反射率について説明する。
光源に照射される被写体の色は、その光源の種類によって異なって見える。これは、被写体を照射する光源の光の波長成分が、光源の種類によって異なるためである。なお、光源から照射される光の波長成分の分布を光源の分光分布とする。
【0025】
図2は、光源の分光分布の例を示すグラフである。図2(a)は、光源が太陽光である場合の分光分布の例を示している。また、図2(b)は、光源がナトリウムランプである場合の分光分布の例を示している。光源が太陽光である場合、太陽光から照射される光の分光分布は、広範囲の波長に分布している。一方、光源がナトリウムランプである場合、ナトリウムランプから照射される光の分光分布は、600nm付近の波長に偏って分布している。
【0026】
また、色を識別できるのは、被写体において特定の光の波長成分が反射または吸収されるためである。つまり、反射される光の波長成分が被写体の色として認識される。なお、被写体における光の波長成分の反射特性を分光反射率とする。
【0027】
図3は、被写体の分光反射率の例を示すグラフである。図3(a)は、被写体が観葉植物である場合の分光反射率の例を示している。また、図3(b)は、被写体がりんごである場合の分光反射率の例を示している。被写体が観葉植物である場合、観葉植物の分光反射率は、緑や黄緑の波長の付近(550nm付近)が最も高い。一方、被写体がりんごである場合、りんごの分光反射率は、橙や赤の波長の付近(650nm付近)が最も高い。
【0028】
そして、撮像素子22に入力される被写体の光の波長成分(分光分布)は、上述した光源の分光分布と被写体の分光反射率との積算値により表される(「撮像素子22に入力される被写体の分光分布」=「光源の分光分布」×「被写体の分光反射率」)。
【0029】
例えば、トンネル内の照明、または夜間時の道路の照明に等に一般的に使用されているナトリウムランプの光源下においては、ナトリウムランプの分光分布が600nm付近の波長に偏っていることにより、特に青い被写体(400nm付近)の反射光はほとんど無い。そのため、ナトリウムランプの光源下においては、青い被写体から撮像素子22に入力される光はほとんど無いことになる。
【0030】
しかし、ナトリウムランプから照射される600nm付近の波長成分の光が青い被写体以外の色の被写体において反射されて撮像素子22に入力されることにより、撮像素子22のB画素にもこの600nm付近の波長成分の光が受光される。
【0031】
図4は、撮像素子22の分光分布の例を示すグラフである。この図に示すように、撮像素子22のR画素、G画素、及びB画素のそれぞれの分光分布(撮像素子22のそれぞれの色画素の分光感度と、撮像素子22のそれぞれの色画素におけるカラーフィルターの分光透過率とに基づく分光分布)は、それぞれの色画素の色に対応する光の波長付近で最も高くなるが、その他の波長領域においても零ではない。
【0032】
そのため、例えば、光源がナトリウムランプである場合、青い被写体から撮像素子22に入力される光がほとんど無いにもかかわらず、撮像素子22のB画素には600nm付近の波長成分の光が受光されることになる。よって、この場合、撮像素子22から出力されるB画素データには、画像を生成するために有効なデータ(青い被写体のデータ)がほとんど無く、画像を生成するために必要ではない無効なデータ(600nm付近の波長成分のデータ)が含まれることになる。また、撮像素子22において発生するノイズは、それぞれの色画素に受光される光の量に係らず同様に発生して撮像素子22から出力される色画素データに重畳される。
【0033】
これにより、光源がナトリウムランプである場合、撮像素子22から出力されるB画素データは、画像を生成するために有効データがほとんど無いデータであって、画像を生成するために必要ではない無効なデータと、この無効なデータに重畳されたノイズとによるデータである。なお、有効なデータに対して、無効なデータもノイズである。すなわち、撮像素子22から出力されるB画素データは、画像を生成するために有効データがほとんど無く相対的にノイズが多いため、信号レベル(有効なデータ)に対するノイズレベルの比(S/N比)が大きいデータである。このように、撮像素子22から出力されるB画素データは、ノイズが支配的なデータである。よって、このノイズが支配的なデータであるB画素データを用いて画像処理を実行して画像データを生成した場合、ノイズの多い画像データが生成されることになる。
【0034】
撮像装置100は、上述したように撮像される被写体に照射される光源がナトリウムランプのような光源の分光分布に偏りがある場合、撮像された色画素データ毎のノイズ除去処理を変更することにより、撮像された画像データのノイズを低減するものである。以下に、撮像装置100の画像処理装置1におけるノイズ除去処理の制御について説明する。
【0035】
画像処理装置1の制御部10は、撮像時において被写体に照射される光源の種類を示す情報に基づいて、ノイズ除去部3における色画素データ毎のノイズ除去処理を変更する。例えば、制御部10は、上述のノイズ除去処理として、光源の種類を示す情報に基づいて、それぞれの色画素データのうちから選択された色画素データの値を零にさせる制御をする。
【0036】
具体的には、制御部10の光源判定部11は、AWB検波部8において算出されたAWB評価値に基づいて、光源の種類を判定する。制御部10の設定部12は、光源判定部11により判定された光源の種類を示す情報に基づいて、R画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を零にさせるノイズ除去制御信号をノイズ除去部3に出力する。そして、ノイズ除去部3は、設定部12から入力されたノイズ除去制御信号に基づいて、ノイズ除去処理として、R画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を零にして、画像処理部4に出力する。
【0037】
例えば、制御部10は、光源がナトリウムランプである場合、B画素データの値を零にさせるノイズ除去制御信号をノイズ除去部3に出力する。そして、ノイズ除去部3は、設定部12から入力されたノイズ除去制御信号に基づいて、ノイズ除去処理として、B画素データの値を零にして、画像処理部4に出力する。
【0038】
図5は、本実施形態におけるノイズ除去処理を示すフローチャートである。以下、図5が示すフローチャートを用いて、撮像装置100におけるノイズ除去処理の動作について説明する。
【0039】
撮像装置100の撮像部2は、被写体を撮像して撮像素子22のR画素、G画素、及びB画素それぞれから出力されたアナログ信号をA/D変換部23においてデジタル信号に変換し、R画素データ、G画素データ、及びB画素データを出力する。そして、このR画素データ、G画素データ、及びB画素データが、撮像部2から画像処理装置1に入力される(ステップS1)。
【0040】
画像処理装置1のAWB検波部8は、撮像部2から入力されたR画素データ、G画素データ、及びB画素データに基づいて、R画素、G画素、及びB画素毎に、データの平均値、ヒストグラム、または積算値等のAWB評価値を算出して、算出した結果を制御部10に出力する(ステップS2)。
【0041】
そして、制御部10の光源判定部11は、AWB検波部8により算出されたAWB評価値に基づいて、撮像時において被写体に照射される光源の種類を判定する。例えば、光源判定部11は、撮像時において被写体に照射される光源がナトリウムランプであると判定する(ステップS3)。
【0042】
次に、制御部10の設定部12は、光源判定部11により判定された光源の種類を示す情報に基づいて、ノイズ除去部3に、撮像部2から入力されるR画素データ、G画素データ、及びB画素データのそれぞれに対して実行させるノイズ除去処理の制御内容を設定する。例えば、設定部12は、光源判定部11により判定された光源がナトリウムランプである場合、ノイズが支配的なデータであるB画素データの値を零にさせるノイズ除去制御信号をノイズ除去部3に出力して設定する。また、この場合、設定部12は、R画素データ、及びG画素データに対して通常のノイズ除去処理(画素データに重畳されているノイズを低減させるための予め定められたノイズ除去処理)を実行させるノイズ除去制御信号をノイズ除去部3に出力して設定する(ステップS4)。
【0043】
続いて、ノイズ除去部3は、設定部12から入力されたノイズ除去制御信号に基づいて、ノイズ除去処理として、R画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を零にして、画像処理部4に出力する。例えば、光源がナトリウムランプである場合、ノイズ除去部3は、設定部12から入力されたノイズ除去制御信号に基づいて、通常のノイズ除去処理を実行したR画素データ、及びG画素データと、データの値を零にしたB画素データとを画像処理部4に出力する(ステップS5)。
【0044】
画像処理部4は、ノイズ除去部3によりノイズ除去処理がされて入力されたR画素データ、G画素データ、及びB画素データに対して、WB調整、色補正、及び階調補正等の各種画像処理を実行した後、圧縮処理(例えば、JPEG方式による圧縮処理)を実行して、画像データを生成する(ステップS6)。次に、記録部5は、画像処理部4により画像処理されて生成された画像データを記憶媒体に記録する(ステップS7)。
【0045】
このように、撮像装置100は、撮像時における光源の種類を判定し、判定した光源の種類に基づいて、撮像素子22の有する色画素毎に生成された色画素データ毎にノイズ除去処理を変更して画像データを生成する。例えば、撮像装置100は、撮像時における光源がナトリウムランプである場合、撮像素子22において生成された色画素データのうちから、ノイズが支配的なデータであるB画素データを選択して、選択したB画素データの値を零にして画像データを生成する。
【0046】
これにより、撮像装置100は、ノイズが支配的なデータである色画素データを用いずに画像データを生成するため、生成された画像データのノイズを低減することができる。例えば、光源がナトリウムランプである場合、撮像装置100は、ノイズが支配的なデータであるB画素データの値を用いずに画像データを生成するため、生成された画像データのノイズを低減することができる。
【0047】
よって、本実施形態によれば、撮像装置100は、被写体に照射される光源がナトリウムランプのように分光分布に偏りがある場合であっても、当該光源の種類を示す情報に基づいて、撮像素子22において生成された色画素データのうちから選択された色画素データの値を零にすることにより、当該被写体が撮像された画像データのノイズを適切に低減することができる。
【0048】
なお、上述したノイズ除去処理において、分光分布に偏りがある光源としてナトリウムランプを光源とした場合の例について説明したが、青みを帯びた高い色温度の光源、または赤みを帯びた低い色温度の光源とした場合においても、本実施形態のノイズ除去処理を適用することができる。
【0049】
図6は、各種光源の色温度の例を示す図である。この図が示すように、晴天の屋外の色温度は、5000K〜6000K付近である。また、色温度が高い光源ほど、より青みを帯びた光源であって、色温度が低い光源ほど、より赤みを帯びた光源である。
【0050】
青みを帯びた高い色温度の光源の場合、光源の分光分布においては青系の波長成分に光が偏っており赤系の波長成分の光が少ない。この高い色温度の光源が照射されて被写体の分光反射率により被写体から反射された光を撮像して撮像素子22により生成されたR画素データの値が著しく小さい場合、すなわち画像を生成するために有効な値でない場合、画像処理装置1は、R画素データの値を零にする。ここで、高い色温度の光源は、例えば、色温度が9000K(第1の閾値)以上であって、青空からの光(太陽からの直接光は除く)等である。
【0051】
例えば、制御部10は、光源が、予め定められた第1の閾値(例えば、9000K)以上の色温度の光源である場合、R画素データの値に基づいて、R画素データが画像を生成するために有効な値であるか否かを判定し、R画素データの値が有効な値でないと判定した場合、R画素データの値を零にさせる制御をする。
【0052】
なお、制御部10は、R画素データの値に基づいて、R画素データが画像を生成するために有効な値であるか否かを判定する場合、例えば、R画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるとき、R画素データの値が有効な値でないと判定する。そして、R画素データの値が有効な値でない場合、R画素データは、画像を生成するために有効データがほとんど無いデータであって、ノイズが支配的なデータである。一方、制御部10は、R画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上でないとき、R画素データの値が有効な値であると判定する。
【0053】
また、赤みを帯びた低い色温度の光源の場合、光源の分光分布においては赤系の波長成分に光が偏っており青系の波長成分の光が少ない。この低い色温度の光源が照射されて被写体の分光反射率により被写体から反射された光を撮像して撮像素子22により生成されたB画素データの値が著しく小さい場合、すなわち画像を生成するために有効な値でない場合、画像処理装置1は、B画素データの値を零にする。ここで、低い色温度の光源は、例えば、色温度が2000K(第2の閾値)以下であって、ろうそくの光等である。
【0054】
例えば、制御部10は、光源が、予め定められた第2の閾値(例えば、2000K)以下の色温度の光源である場合、B画素データの値に基づいて、B画素データが画像を生成するために有効な値であるか否かを判定し、B画素データの値が有効な値でないと判定した場合、B画素データの値を低減させる制御をする。
【0055】
なお、制御部10は、B画素データの値に基づいて、B画素データが画像を生成するために有効な値であるか否かを判定する場合、例えば、B画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるとき、B画素データの値が有効な値でないと判定する。そして、B画素データの値が有効な値でない場合、B画素データは、画像を生成するために有効データがほとんど無いデータであって、ノイズが支配的なデータである。一方、制御部10は、B画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上でないとき、B画素データの値が有効な値であると判定する。
【0056】
このように、撮像装置100の画像処理装置1は、撮像時における光源が、色温度の高い光源の場合であって、R画素データの値に基づいて、R画素データが画像を生成するために有効な値でないと判定した場合、R画素データの値を零にする。これにより、画像処理装置1は、画像を生成するために有効な値でないR画素データ、すなわち、ノイズが支配的なデータであるR画素データの値を零にして画像データを生成することができる。
【0057】
また、撮像装置100の画像処理装置1は、撮像時における光源が、色温度の低い光源の場合であって、B画素データの値に基づいて、B画素データが画像を生成するために有効な値でないと判定した場合、B画素データの値を零にする。これにより、画像処理装置1は、画像を生成するために有効な値でないB画素データ、すなわち、ノイズが支配的なデータであるB画素データの値を零にして画像データを生成することができる。
【0058】
よって、本実施形態によれば、撮像装置100の画像処理装置1は、被写体に照射される光源が色温度の高い光源または低い光源のように分光分布に偏りがある場合であっても、当該光源の種類を示す情報に基づいて、撮像素子22において生成された色画素データのうちから選択された色画素データの値を零にすることにより、撮像された当該被写体画像のノイズを適切に低減することができる。
【0059】
なお、R画素データ、またはB画素データが画像を生成するために有効な値であるか否かを判定する場合、それぞれの色画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるか否かを判定する例について説明したが、これは一例であってこれに限られるものではない。例えば、ヒストグラムを算出する際の分割数、デジタル値の範囲、またはこの範囲に含まれる画素の割合等は、他の値としてもよい。また、ヒストグラムによる解析以外の方法により、それぞれの色画素データに含まれるデータの値に基づいて、画像を生成するために有効な値であるか否かを判定してもよい。
【0060】
図7は、ノイズ除去処理の制御内容を設定する動作の詳細を示すフローチャートである。また、図8は、図7が示すフローチャートにおいて選択して設定されるノイズ除去処理の制御内容を示す表である。
以下、判定された光源が、ナトリウムランプ、高い色温度の光源、または低い色温度の光源であるか否かにより、ノイズ除去処理の制御内容を設定する場合の動作(図5のステップS4に相当する動作)の一例を、図7及び図8を用いて説明する。
【0061】
制御部10の光源判定部11は、AWB検波部8により算出されたAWB評価値に基づいて、撮像時において被写体に照射される光源の種類を判定する(ステップS11)。
【0062】
次に、制御部10の設定部12は、光源判定部11により判定された光源がナトリウムランプであるか否かを判定する(ステップS12)。設定部12は、光源判定部11により判定された光源がナトリウムランプでないと判定した場合、ステップS13に処理を進める。一方、設定部12は、光源判定部11により判定された光源がナトリウムランプであると判定した場合、ノイズ除去処理の制御内容として「処理1」を選択して、「処理1」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。
【0063】
すなわち、設定部12は、光源がナトリウムランプであると判定した場合、図8の「処理1」に示すように、R画素データ及びG画素データに対しては、通常のノイズ除去処理を実行し、B画素データに対しては、B画素データの値を零にする処理を実行する制御を選択してノイズ除去部3に設定する。
【0064】
ステップS13において、設定部12は、光源判定部11により判定された光源の色温度が第1の閾値以上(例えば、9000K以上の高い色温度)であるか否かを判定する。設定部12は、光源判定部11により判定された光源の色温度が第1の閾値以上(例えば、9000K以上の高い色温度)でないと判定した場合、ステップS16に処理を進める。一方、設定部12は、光源判定部11により判定された光源の色温度が第1の閾値以上(例えば、9000K以上の高い色温度)であると判定した場合、ステップS14に処理を進めて、AWB検波部8により算出されたR画素データのヒストグラムを解析する。
【0065】
次に、設定部12は、AWB検波部8により算出されたR画素データのヒストグラムを解析した結果に基づいて、画像を生成するために有効なR画素データが存在するか否かを判定する。例えば、設定部12は、R画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるとき、R画素データの値が有効な値でないと判定する。一方、制御部10は、R画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上でないとき、R画素データの値が有効な値であると判定する(ステップS15)。
【0066】
ステップS15において、設定部12は、有効なR画素データが存在しないと判定した場合、ノイズ除去処理の制御内容として「処理2」を選択して、「処理2」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理2」に示すように、設定部12は、G画素データ及びB画素データに対しては、通常のノイズ除去処理を実行し、R画素データに対しては、R画素データの値を零にする処理を実行する制御を選択してノイズ除去部3に設定する。
【0067】
一方、ステップS15において、設定部12は、有効なR画素データが存在すると判定した場合、ノイズ除去処理の制御内容として「処理0」を選択して、「処理0」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理0」に示すように、設定部12は、R画素データ、G画素データ、及びB画素データに対して、通常のノイズ除去処理を実行する制御を選択してノイズ除去部3に設定する。
【0068】
また、ステップS16において、設定部12は、光源判定部11により判定された光源の色温度が第2の閾値以下(例えば、2000K以下の低い色温度)であるか否かを判定する。設定部12は、光源判定部11により判定された光源の色温度が第2の閾値以下(例えば、2000K以下の低い色温度)でないと判定した場合、ノイズ除去処理の制御内容として「処理0」を選択して、「処理0」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理0」に示すように、設定部12は、R画素データ、G画素データ、及びB画素データに対して、通常のノイズ除去処理を実行する制御を選択してノイズ除去部3に設定する。
【0069】
一方、ステップS16において、設定部12は、光源判定部11により判定された光源の色温度が第2の閾値以下(例えば、2000K以下の低い色温度)であると判定した場合、ステップS17に処理を進めて、AWB検波部8により算出されたB画素データのヒストグラムを解析する。
【0070】
次に、設定部12は、AWB検波部8により算出されたB画素データのヒストグラムを解析した結果に基づいて、画像を生成するために有効なB画素データが存在するか否かを判定する。例えば、設定部12は、B画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上であるとき、B画素データの値が有効な値でないと判定する。一方、制御部10は、B画素データが64分割されたヒストグラムにおいて、デジタル値(0〜15)に含まれる画素の割合が90%以上でないとき、B画素データの値が有効な値であると判定する(ステップS18)。
【0071】
ステップS18において、設定部12は、有効なB画素データが存在しないと判定した場合、ノイズ除去処理の制御内容として「処理1」を選択して、「処理1」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理1」に示すように、設定部12は、R画素データ及びG画素データに対しては、通常のノイズ除去処理を実行し、B画素データに対しては、B画素データの値を零にする処理を実行する制御を選択してノイズ除去部3に設定する。
【0072】
一方、ステップS18において、設定部12は、有効なB画素データが存在すると判定した場合、ノイズ除去処理の制御内容として「処理0」を選択して、「処理0」を示すノイズ除去制御信号をノイズ除去部3に出力して設定する。すなわち、図8の「処理0」に示すように、設定部12は、R画素データ、G画素データ、及びB画素データに対して、通常のノイズ除去処理を実行する制御を選択してノイズ除去部3に設定する。
【0073】
以上のように、本実施形態における撮像装置100は、被写体に照射される光源がナトリウムランプ、高い色温度の光源、または低い色温度の光源等のように分光分布に偏りがある場合であっても、当該光源の種類を示す情報に基づいて、撮像素子22において生成された色画素データのうちから選択された色画素データの値を零にすることにより、当該被写体が撮像された画像のノイズを適切に低減することができる。
【0074】
また、光源がナトリウムランプ、または低い色温度の光源である場合の撮像条件は、例えば、トンネル内の照明、夜間時の道路の照明、または、ろうそくの光等、暗い光源下の撮像条件であることが多い。このように暗い光源下の撮像条件である場合であって、撮像装置100が高感度設定により撮像した場合、撮像素子22において発生するノイズはより大きくなる。そのため、撮像装置100は、特に高感度設定により撮像されるような暗い光源下の条件において、撮像された画像のノイズを低減することに、より有効である。
【0075】
なお、上記実施形態によれば、画像処理装置1のノイズ除去部3は、撮像素子22により被写体が撮像されて、撮像素子22の有する色画素毎に生成されたそれぞれの色画素データに対して、ノイズ除去処理をそれぞれ実行する。そして、画像処理装置1の制御部10は、撮像時において当該被写体に照射される光源の種類を示す情報に基づいて、ノイズ除去部3における色画素データ毎のノイズ除去処理を変更する。
【0076】
つまり、画像処理装置1は、光源の種類に基づいて色画素データ毎に異なるノイズ除去処理を実行する。例えば、画像処理装置1は、光源の種類に基づいて、ノイズが支配的なデータである色画素データに対して、データの値を零にするノイズ除去処理を実行する。すなわち、画像処理装置1は、光源の種類に基づいて、ノイズが大きい色画素データに対してデータの値を零にし、ノイズが小さい色画素データに対して通常のノイズ除去をするといったように、色画素データ毎に異なるノイズ除去処理を実行する。また、画像処理装置1は、光源の種類に基づいて、ノイズが大きい色画素データに対するノイズ除去の除去強度を強くし、ノイズが小さい色画素データに対するノイズ除去の除去強度を弱くするといったように、色画素データ毎に異なる除去強度のノイズ除去処理を実行してもよい。これにより、画像処理装置1は、光源の種類に基づいて、それぞれの色画素データに対して適切なノイズ除去処理を実行することできる。よって、画像処理装置1は、光源の種類に基づいて、撮像された画像のノイズを適切に低減することができる。
【0077】
また、画像処理装置1の制御部10は、ノイズ除去処理として、光源の種類を示す情報に基づいて、それぞれの色画素データのうちから選択された色画素データの値を低減させる制御をしてもよい。
つまり、上記実施形態において、ノイズ除去処理として、光源の種類に基づいて選択された色画素データの値を零にさせる制御について説明したが、零にさせる制御に限らず、当該選択された色画素データの値を低減させる制御としてもよい。これにより、画像処理装置1は、ノイズ除去処理として、光源の種類に基づいて選択された色画素データのノイズを低減することができる。
【0078】
また、画像処理装置1のノイズ除去部3は、R画素、G画素、及びB画素の色画素を有する撮像素子22により被写体が撮像されて、当該色画素毎に生成されたR画素データ、G画素データ、及びB画素データに対して、ノイズ除去処理をそれぞれ実行する。そして、制御部10は、ノイズ除去処理として、光源の種類を示す情報に基づいて、R画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を低減させる制御をする。
つまり、ノイズ除去部3は、制御部10の制御により、撮像素子22により生成されたR画素データ、G画素データ、及びB画素データに対してノイズ除去処理をそれぞれ実行する。これにより、画像処理装置1は、光源の種類に応じて、撮像素子22により生成されたR画素データ、G画素データ、及びB画素データのうちから選択された色画素データの値を低減させる制御をすることができる。
【0079】
また、上記実施形態によれば、画像処理装置1の制御部10は、光源がナトリウムランプである場合、B画素データの値を低減させる制御をする。
つまり、制御部10は、光源がナトリウムランプである場合、ノイズが支配的なデータであるB画素データの値を低減させる制御をする。これにより、画像処理装置1は、被写体に照射される光源がナトリウムランプのように分光分布に偏りがある場合であっても、撮像された画像のノイズを適切に低減することができる。
【0080】
また、上記実施形態によれば、画像処理装置1の制御部10は、光源が予め定められた第1の閾値以上の色温度(例えば、9000K以上の高い色温度)の光源である場合、R画素データの値に基づいて、R画素データが画像を生成するために有効な値であるか否かを判定する。そして、制御部10は、R画素データの値が有効な値でないと判定した場合、R画素データの値を低減させる制御をする。
つまり、画像処理装置1は、青みを帯びた高い色温度の光源である場合であって、R画素データの値が有効な値でない場合、ノイズが支配的なデータであるR画素データの値を低減させる制御をする。これにより、画像処理装置1は、被写体に照射される光源が青みを帯びた高い色温度の光源のように分光分布に偏りがある場合であっても、撮像された画像のノイズを適切に低減することができる。なお、上記実施形態において、高い色温度の光源であるか否かを判定するために予め定められた第1の閾値を9000Kとした例について説明したが、これに限らず、第1の閾値を9000K以外のその他の色温度としてもよい。
【0081】
なお、上記実施形態によれば、画像処理装置1の制御部10は、光源が、予め定められた第2の閾値以下の色温度(例えば、2000K以下の低い色温度)の光源である場合、B画素データの値に基づいて、B画素データが画像を生成するために有効な値であるか否かを判定する。そして、制御部10は、B画素データの値が有効な値でないと判定した場合、B画素データの値を低減させる制御をする。
つまり、画像処理装置1は、赤みを帯びた低い色温度の光源である場合であって、B画素データの値が有効な値でない場合、ノイズが支配的なデータであるB画素データの値を低減させる制御をする。これにより、画像処理装置1は、被写体に照射される光源が赤みを帯びた低い色温度の光源のように分光分布に偏りがある場合であっても、撮像された画像のノイズを適切に低減することができる。なお、上記実施形態において、低い色温度の光源であるか否かを判定するために予め定められた第2の閾値を2000Kとした例について説明したが、これに限らず、第2の閾値を2000K以外のその他の色温度としてもよい。
【0082】
また、上記実施形態によれば、画像処理装置1の制御部10は、ノイズ除去処理として、光源の種類を示す情報に基づいて、それぞれの色画素データのうちから選択された色画素データの値を低減させる制御をする場合、選択された色画素データの値を零にさせる制御をする。
つまり、制御部10は、光源の種類に基づいて選択された色画素データの値を零にさせる制御をする。これにより、画像処理装置1は、選択された色画素データに重畳されているノイズを零にして、撮像された画像データを生成することができる。
【0083】
また、上記実施形態によれば、画像処理装置1の制御部10は、色画素データに基づいて光源の種類を判定する光源判定部11を備えている。
例えば、画像処理装置1のAWB検波部8は、撮像部2から入力されたR画素データ、G画素データ、及びB画素データに基づいて、R画素、G画素、及びB画素毎に、データの平均値、ヒストグラム、または積算値等のAWB評価値を算出して、算出した結果を制御部10に出力する。そして、光源の種類によって分光分布が異なることを利用して、光源判定部11は、AWB検波部8により算出されたAWB評価値に基づいて、撮像時において被写体に照射される光源の種類を判定する。これにより、画像処理装置1は、撮像時において被写体に照射される光源の種類を、当該被写体が撮像されて生成された色画素データに基づいて判定することができる。
【0084】
なお、画像処理装置1は、撮像時において被写体に照射される光源の種類を判定する場合、当該被写体が撮像されて画像データを生成するための色画素データに基づいて光源の種類を判定してもよいし、画像データを生成するための色画素データとは異なる当該被写体が撮像された色画素データに基づいて光源の種類を判定してもよい。ここで、画像データを生成するための色画素データとは異なる当該被写体が撮像された色画素データとは、例えば、撮像される被写体の画角等を確認するために時系列に繰り返し撮像されて表示部6に表示される当該被写体が撮像された色画素データであって、当該被写体画像を生成するために撮像するタイミングより前に撮像された色画素データである。
【0085】
なお、上記実施形態において、光源判定部11が、色画素データに基づいて光源の種類を判定する場合、AWB検波部8を介して光源の種類を判定する例について説明したが、これに限られるものではない。光源判定部11は、AWB検波部8を介さずに、色画素データに基づいて光源の種類を判定してもよい。
【0086】
また、光源判定部11は、入力された光源の種類に関する撮像条件の情報に基づいて、光源の種類を判定してもよい。
つまり、光源判定部11は、操作者によって操作入力部7から入力された光源の種類に関する撮像条件の情報に基づいて、光源の種類を判定してもよい。例えば、制御部10は、撮像条件として、撮像時において被写体に照射される光源の種類に対応したWB制御を実行するために予め設定されているWB設定条件(例えば、太陽光、蛍光灯、電球、ろうそく、またはナトリウムランプ等、光源の種類)を選択する選択画面を表示部6に表示させ、操作者に操作入力部7において操作させることにより選択させる。そして、光源判定部11は、選択されて入力されたWB設定条件の情報(光源の種類を示す情報)に基づいて、光源の種類を判定してもよい。これにより、制御部10は、入力された撮影条件の情報に基づいて、光源の種類を判定して、上述したノイズ除去処理を実行することができる。
【0087】
また、上記実施形態によれば、撮像装置100は、画像処理装置1を備えている。つまり、撮像装置100により撮像された被写体に照射される光源の分光分布に偏りがある場合、撮像装置100の画像処理装置1は、当該光源の種類に基づいて、撮像素子22において生成した色画素データ毎にノイズ除去処理を変更する。これにより、画像処理装置1は、当該被写体が撮像された画像におけるノイズを適切に低減することができる。
【0088】
なお、上記実施形態において、画像処理装置1を備えている撮像装置100について説明したが、これに限られるものではなく、画像処理装置1は、他の撮像装置により撮像された画像データを処理する画像処理装置であってもよい。例えば、画像処理装置1は、他の撮像装置において撮像されたRAW画像データを記録部5から読み出して、読み出したRAW画像データにおけるR画素データ、G画素データ、及びB画素データに基づいて、上記実施形態におけるノイズ除去処理を実行してもよい。
【0089】
なお、図1における、ノイズ除去部3、画像処理部4、AWB検波部8、及び制御部10は専用のハードウェアにより実現されるものであってもよく、また、メモリおよびCPU(中央演算装置)により構成され、上述の各部の機能を実現するためのプログラムをメモリにロードして実行することによりその機能を実現させるものであってもよい。
【0090】
また、図1における画像処理装置1の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより上述の各部の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
【0091】
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【0092】
以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【0093】
1 画像処理装置、3 ノイズ除去部、10 制御部、11 光源判定部、22 撮像素子、100 撮像装置
【特許請求の範囲】
【請求項1】
撮像素子により被写体が撮像されて、前記撮像素子の有する色画素毎に生成されたそれぞれの色画素データに対して、ノイズ除去処理をそれぞれ実行するノイズ除去部と、
撮像時において前記被写体に照射される光源の種類を示す情報に基づいて、前記ノイズ除去部における前記色画素データ毎のノイズ除去処理を変更する制御部と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記制御部は、
前記ノイズ除去処理として、前記光源の種類を示す情報に基づいて、それぞれの前記色画素データのうちから選択された色画素データの値を低減させる制御をする
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記ノイズ除去部は、
R(赤)画素、G(緑)画素、及びB(青)画素の色画素を有する前記撮像素子により被写体が撮像されて、当該色画素毎に生成されたR(赤)画素データ、G(緑)画素データ、及びB(青)画素データに対して、ノイズ除去処理をそれぞれ実行し、
前記制御部は、
前記ノイズ除去処理として、前記光源の種類を示す情報に基づいて、前記R(赤)画素データ、前記G(緑)画素データ、及び前記B(青)画素データのうちから選択された色画素データの値を低減させる制御をする
ことを特徴とする請求項1または請求項2に記載の画像処理装置。
【請求項4】
前記制御部は、
前記光源がナトリウムランプである場合、前記B(青)画素データの値を低減させる制御をする
ことを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記制御部は、
前記光源が、予め定められた第1の閾値以上の色温度の光源である場合、前記R(赤)画素データの値に基づいて、前記R(赤)画素データが画像を生成するために有効な値であるか否かを判定し、
前記R(赤)画素データの値が有効な値でないと判定した場合、
前記R(赤)画素データの値を低減させる制御をする
ことを特徴とする請求項3または請求項4に記載の画像処理装置。
【請求項6】
前記制御部は、
前記光源が、予め定められた第2の閾値以下の色温度の光源である場合、前記B(青)画素データの値に基づいて、前記B(青)画素データが画像を生成するために有効な値であるか否かを判定し、
前記B(青)画素データの値が有効な値でないと判定した場合、
前記B(青)画素データの値を低減させる制御をする
ことを特徴とする請求項3から請求項5の何れか1項に記載の画像処理装置。
【請求項7】
前記制御部は、
前記ノイズ除去処理として、前記光源の種類を示す情報に基づいて、それぞれの前記色画素データのうちから選択された色画素データの値を低減させる制御をする場合、前記選択された色画素データの値を零にさせる制御をする
ことを特徴とする請求項2から請求項6の何れか1項に記載の画像処理装置。
【請求項8】
前記制御部は、
前記色画素データに基づいて、前記光源の種類を判定する光源判定部、
を備えることを特徴とする請求項1から請求項7の何れか1項に記載の画像処理装置。
【請求項9】
前記制御部は、
入力された前記光源の種類に関する撮像条件の情報に基づいて、前記光源の種類を判定する光源判定部、
を備えることを特徴とする請求項1から請求項7の何れか1項に記載の画像処理装置。
【請求項10】
請求項1に記載の画像処理装置、
を備えることを特徴とする撮像装置。
【請求項1】
撮像素子により被写体が撮像されて、前記撮像素子の有する色画素毎に生成されたそれぞれの色画素データに対して、ノイズ除去処理をそれぞれ実行するノイズ除去部と、
撮像時において前記被写体に照射される光源の種類を示す情報に基づいて、前記ノイズ除去部における前記色画素データ毎のノイズ除去処理を変更する制御部と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記制御部は、
前記ノイズ除去処理として、前記光源の種類を示す情報に基づいて、それぞれの前記色画素データのうちから選択された色画素データの値を低減させる制御をする
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記ノイズ除去部は、
R(赤)画素、G(緑)画素、及びB(青)画素の色画素を有する前記撮像素子により被写体が撮像されて、当該色画素毎に生成されたR(赤)画素データ、G(緑)画素データ、及びB(青)画素データに対して、ノイズ除去処理をそれぞれ実行し、
前記制御部は、
前記ノイズ除去処理として、前記光源の種類を示す情報に基づいて、前記R(赤)画素データ、前記G(緑)画素データ、及び前記B(青)画素データのうちから選択された色画素データの値を低減させる制御をする
ことを特徴とする請求項1または請求項2に記載の画像処理装置。
【請求項4】
前記制御部は、
前記光源がナトリウムランプである場合、前記B(青)画素データの値を低減させる制御をする
ことを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記制御部は、
前記光源が、予め定められた第1の閾値以上の色温度の光源である場合、前記R(赤)画素データの値に基づいて、前記R(赤)画素データが画像を生成するために有効な値であるか否かを判定し、
前記R(赤)画素データの値が有効な値でないと判定した場合、
前記R(赤)画素データの値を低減させる制御をする
ことを特徴とする請求項3または請求項4に記載の画像処理装置。
【請求項6】
前記制御部は、
前記光源が、予め定められた第2の閾値以下の色温度の光源である場合、前記B(青)画素データの値に基づいて、前記B(青)画素データが画像を生成するために有効な値であるか否かを判定し、
前記B(青)画素データの値が有効な値でないと判定した場合、
前記B(青)画素データの値を低減させる制御をする
ことを特徴とする請求項3から請求項5の何れか1項に記載の画像処理装置。
【請求項7】
前記制御部は、
前記ノイズ除去処理として、前記光源の種類を示す情報に基づいて、それぞれの前記色画素データのうちから選択された色画素データの値を低減させる制御をする場合、前記選択された色画素データの値を零にさせる制御をする
ことを特徴とする請求項2から請求項6の何れか1項に記載の画像処理装置。
【請求項8】
前記制御部は、
前記色画素データに基づいて、前記光源の種類を判定する光源判定部、
を備えることを特徴とする請求項1から請求項7の何れか1項に記載の画像処理装置。
【請求項9】
前記制御部は、
入力された前記光源の種類に関する撮像条件の情報に基づいて、前記光源の種類を判定する光源判定部、
を備えることを特徴とする請求項1から請求項7の何れか1項に記載の画像処理装置。
【請求項10】
請求項1に記載の画像処理装置、
を備えることを特徴とする撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【公開番号】特開2012−129929(P2012−129929A)
【公開日】平成24年7月5日(2012.7.5)
【国際特許分類】
【出願番号】特願2010−281805(P2010−281805)
【出願日】平成22年12月17日(2010.12.17)
【出願人】(500548884)三星テクウィン株式会社 (156)
【氏名又は名称原語表記】Samsung Techwin Co., Ltd
【住所又は居所原語表記】28 Sungju−dong,Changwon−city,Kyongsangnam−do,Republic of Korea
【Fターム(参考)】
【公開日】平成24年7月5日(2012.7.5)
【国際特許分類】
【出願日】平成22年12月17日(2010.12.17)
【出願人】(500548884)三星テクウィン株式会社 (156)
【氏名又は名称原語表記】Samsung Techwin Co., Ltd
【住所又は居所原語表記】28 Sungju−dong,Changwon−city,Kyongsangnam−do,Republic of Korea
【Fターム(参考)】
[ Back to top ]