ノイズ低減装置、ノイズ低減方法、及び電子機器
【課題】データ量を低減し、処理を簡素化したノイズ低減装置であって、動き量の大きい画素についても十分なノイズ低減効果が得られるノイズ低減装置を提供すること。
【解決手段】ノイズ低減装置30は、3次元ノイズ低減後のRAW画像信号に対して、所定の帯域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第1フィルタ後信号を得る第1のフィルタ及び色分離部37と;3次元ノイズ低減後のRAW画像信号に対して、第1のフィルタ及び色分離部37よりも高域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第2フィルタ後信号を得る第2のフィルタ及び色分離部38と;各色の第1フィルタ後信号と、各色の第2フィルタ後信号とを、各画素の時間軸方向の動き量に応じて算出された重み係数によって色ごとに重み付け加算し、各色の出力信号を得る重み付け加算部40と;を有することを特徴とする。
【解決手段】ノイズ低減装置30は、3次元ノイズ低減後のRAW画像信号に対して、所定の帯域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第1フィルタ後信号を得る第1のフィルタ及び色分離部37と;3次元ノイズ低減後のRAW画像信号に対して、第1のフィルタ及び色分離部37よりも高域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第2フィルタ後信号を得る第2のフィルタ及び色分離部38と;各色の第1フィルタ後信号と、各色の第2フィルタ後信号とを、各画素の時間軸方向の動き量に応じて算出された重み係数によって色ごとに重み付け加算し、各色の出力信号を得る重み付け加算部40と;を有することを特徴とする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数のフレームによって構成される動画像のノイズを低減するノイズ低減装置及びノイズ低減方法に関するもので、特に、データ量を低減し、処理を簡素化したノイズ低減装置及びノイズ低減方法に関する。また、本発明は、このノイズ低減装置を備えた電子機器に関する。
【背景技術】
【0002】
近年、各種デジタル技術の発展に伴い、CCD(Charge Coupled Device)やCMOS(Complimentary Metal Oxide Semiconductor)センサなどの固体撮像素子によってデジタル画像を撮影するデジタルカメラやデジタルビデオなどといった撮像装置や、デジタル画像を表示する液晶ディスプレイやプラズマテレビなどといった表示装置が広く普及しつつある。そして、このような撮像装置や表示装置における、複数のフレームによって構成される動画像のノイズを低減するための、各種のノイズ低減技術が提案されている。
【0003】
このノイズ低減技術の代表的なものとしては、空間的なローパスフィルタ(LPF)を作用させることによってノイズを低減しようとする2次元ノイズ低減処理、及び、時間的に連続する2つのフレームの信号を加算することによって時間的なローパスフィルタ(LPF)を作用させ、ノイズを低減しようとする3次元ノイズ低減処理が挙げられる。
【0004】
また、この3次元ノイズ低減処理を利用したノイズ低減方法として、特許文献1には、撮像素子で生成されたRAW画像データに対して、画素補間による色分離前に3次元ノイズ低減処理を行うことで、データ量を低減し、処理を簡素化したノイズ低減方法が記載されている。なお、特許文献1のノイズ低減方法においては、時間的に連続する2つのフレームの差分によって算出された動き量が小さい画素には3次元ノイズ低減処理の影響が大きくなり、動き量が大きい画素には3次元ノイズ低減処理の影響が小さくなるような重み付けがなされる。
【特許文献1】特開2005−175864号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1のノイズ低減方法においては、データ量の低減及び処理の簡素化は達成されるものの、ノイズ低減のための処理としては3次元ノイズ低減処理を行っているのみであり、動き量の大きい画素については3次元ノイズ低減処理の影響が小さくなるような重み付けがなされることから、動き量の大きい画素についてはノイズ低減効果が殆ど得られないという問題がある。この問題を解決するためには、画素補間による色分離後に2次元ノイズ低減処理を行えばよいが、この場合には、2次元ノイズ低減処理を行うために、色ごとの信号値を複数ライン分記憶するメモリが必要となり、装置の大型化が問題となる。
【0006】
上記の問題を鑑みて、本発明においては、データ量を低減し、処理を簡素化したノイズ低減装置及びノイズ低減方法であって、動き量の大きい画素についても十分なノイズ低減効果が得られるノイズ低減装置及びノイズ低減方法を提供することを目的とする。また、本発明は、このノイズ低減装置を備えた電子機器を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明においては、ノイズ低減装置は、外部より入力されたRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減処理部を有するノイズ低減装置であって、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、ノイズ低減処理及び色分離を同時に行い、各色のフィルタ後信号を得る複数のノイズ低減処理及び色分離部と、複数の前記ノイズ低減処理及び色分離部より入力された各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合部と、を有することを特徴とする。
【0008】
本発明においては、ノイズ低減装置は、外部より入力されたRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減処理部を有するノイズ低減装置であって、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、ローパスフィルタを作用させると同時に色分離を行い、各色のフィルタ後信号を得る複数のフィルタ及び色分離部と、複数の前記フィルタ及び色分離部より入力された各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合部と、を有することを特徴とする。
【0009】
また、本発明においては、上記構成のノイズ低減装置において、複数の前記フィルタ及び色分離部は、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、所定の帯域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第1フィルタ後信号を得る第1のフィルタ及び色分離部と、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、前記所定の帯域よりも高域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第2フィルタ後信号を得る第2のフィルタ及び色分離部と、によって構成され、前記混合部は、前記第1のフィルタ及び色分離部より入力された各色の前記第1フィルタ後信号と、前記第2のフィルタ及び色分離部より入力された各色の前記第2フィルタ後信号とを、色ごとに所定の重み係数によって重み付け加算し、各色の前記出力信号を得るものであって、外部より入力された前記RAW画像信号と、1フレーム前の前記3次元ノイズ低減後信号との差分値を算出することによって各画素の時間軸方向の動き量を得る動き検出部と、前記動き検出部より入力された各画素の時間軸方向の前記動き量に応じて前記所定の重み係数を算出する重み係数検出部と、を有することが望ましい。
【0010】
また、本発明においては、上記構成のノイズ低減装置において、複数の前記フィルタ及び色分離部は、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、空間的なローパスフィルタを作用させると同時に色分離を行い、各色の空間フィルタ後信号を得る空間フィルタ及び色分離部と、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、水平方向のローパスフィルタを作用させると同時に色分離を行い、各色の水平フィルタ後信号を得る水平フィルタ及び色分離部と、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、垂直方向のローパスフィルタを作用させると同時に色分離を行い、各色の垂直フィルタ後信号を得る垂直フィルタ及び色分離部と、によって構成され、前記混合部は、前記空間フィルタ及び色分離部より入力された各色の前記空間フィルタ後信号と、前記水平フィルタ及び色分離部より入力された各色の前記水平フィルタ後信号と、前記垂直フィルタ及び色分離部より入力された各色の前記垂直フィルタ後信号とを、色ごとに所定の重み係数によって重み付け加算し、各色の前記出力信号を得るものであって、外部より入力された前記RAW画像信号と、1フレーム前の前記3次元ノイズ低減後信号との差分値を算出することによって各画素の時間軸方向の動き量を得る動き検出部と、前記動き検出部より入力された各画素の時間軸方向の前記動き量の水平方向相関値及び垂直方向相関値を算出する相関方向検出部と、前記動き検出部より入力された各画素の時間軸方向の前記動き量と、前記相関方向検出部より入力された各画素の時間軸方向の前記動き量の前記水平方向相関値及び前記垂直方向相関値とに応じて前記所定の重み係数を算出する重み係数検出部と、を有することが望ましい。
【0011】
また、本発明においては、上記構成のノイズ低減装置において、前記所定の重み係数は、色ごとに異なることとしてもよい。
【0012】
本発明においては、ノイズ低減方法は、動画を構成するRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減処理ステップを有するノイズ低減方法であって、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、ノイズ低減処理及び色分離を同時に行い、各色のフィルタ後信号を得る複数のノイズ低減処理及び色分離ステップと、複数の前記ノイズ低減処理及び色分離ステップで得られた各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合ステップと、を有することを特徴とする。
【0013】
本発明においては、ノイズ低減方法は、動画を構成するRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減ステップを有するノイズ低減方法であって、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、ローパスフィルタを作用させると同時に色分離を行い、各色のフィルタ後信号を得る複数のフィルタ及び色分離ステップと、複数の前記フィルタ及び色分離部ステップで得られた各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合ステップと、を有することを特徴とする。
【0014】
また、本発明においては、上記構成のノイズ低減方法において、複数の前記フィルタ及び色分離ステップは、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、所定の帯域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第1フィルタ後信号を得る第1のフィルタ及び色分離ステップと、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、前記所定の帯域よりも高域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第2フィルタ後信号を得る第2のフィルタ及び色分離ステップと、によって構成され、前記混合ステップは、前記第1のフィルタ及び色分離ステップで得られた各色の前記第1フィルタ後信号と、前記第2のフィルタ及び色分離ステップで得られた各色の前記第2フィルタ後信号とを、色ごとに所定の重み係数によって重み付け加算し、各色の前記出力信号を得るステップであって、動画を構成する前記RAW画像信号と、1フレーム前の前記3次元ノイズ低減後信号との差分値を算出することによって各画素の時間軸方向の動き量を得る動き検出ステップと、前記動き検出ステップで得られた各画素の時間軸方向の前記動き量に応じて前記所定の重み係数を算出する重み係数検出ステップと、を有することが望ましい。
【0015】
また、本発明においては、上記構成のノイズ低減方法において、複数の前記フィルタ及び色分離ステップは、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、空間的なローパスフィルタを作用させると同時に色分離を行い、各色の空間フィルタ後信号を得る空間フィルタ及び色分離ステップと、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、水平方向のローパスフィルタを作用させると同時に色分離を行い、各色の水平フィルタ後信号を得る水平フィルタ及び色分離ステップと、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、垂直方向のローパスフィルタを作用させると同時に色分離を行い、各色の垂直フィルタ後信号を得る垂直フィルタ及び色分離ステップと、によって構成され、前記混合ステップは、前記空間フィルタ及び色分離ステップで得られた各色の前記空間フィルタ後信号と、前記水平フィルタ及び色分離ステップで得られた各色の前記水平フィルタ後信号と、前記垂直フィルタ及び色分離ステップで得られた各色の前記垂直フィルタ後信号とを、色ごとに所定の重み係数によって重み付け加算し、各色の前記出力信号を得るステップであって、動画を構成する前記RAW画像信号と、1フレーム前の前記3次元ノイズ低減後信号との差分値を算出することによって各画素の時間軸方向の動き量を得る動き検出ステップと、前記動き検出ステップで得られた各画素の時間軸方向の前記動き量の水平方向相関値及び垂直方向相関値を算出する相関方向検出ステップと、前記動き検出ステップで得られた各画素の時間軸方向の前記動き量と、前記相関方向検出ステップで得られた各画素の時間軸方向の前記動き量の前記水平方向相関値及び前記垂直方向相関値とに応じて前記所定の重み係数を算出する重み係数検出ステップと、を有することが望ましい。
【0016】
また、本発明においては、上記構成のノイズ低減方法において、前記所定の重み係数は、色ごとに異なることとしてもよい。
【0017】
本発明においては、電子機器は、動画を構成するRAW画像信号が外部入力又は撮像によって与えられるとともに、該動画のノイズを低減するノイズ低減装置を備えた電子機器であって、前記ノイズ低減装置は、上記構成のノイズ低減装置であることを特徴とする。
【発明の効果】
【0018】
本発明のノイズ低減装置及びノイズ低減方法によると、3次元ノイズ低減後信号に対して、ローパスフィルタを作用させると同時に色分離を行うことによって得られた各色の複数のフィルタ後信号を、所定の重み係数によって色ごとに重み付け加算することによって出力信号を得るので、データ量を低減し、処理を簡素化したノイズ低減装置及びノイズ低減方法であって、更に、3次元ノイズ低減処理によるノイズ低減効果が十分に得られない動き量の大きい画素についても、十分なノイズ低減効果を得ることができる。
【0019】
また、本発明のノイズ低減装置及びノイズ低減方法によると、3次元ノイズ低減後信号に対して所定の帯域の空間的なローパスフィルタを作用させると同時に色分離を行うことによって得られた各色の第1フィルタ後信号と、3次元ノイズ低減後信号に対して所定の帯域よりも高域の空間的なローパスフィルタを作用させると同時に色分離を行うことによって得られた各色の第2フィルタ後信号とを、各画素の時間軸方向の動き量に応じて算出された重み係数によって色ごとに重み付け加算することによって出力信号を得るので、例えば、動き量の小さい画素に対しては、高域の空間的なローパスフィルタの影響を強める一方、低域の空間的なローパスフィルタの影響を弱め、動き量の大きい画素に対しては、低域の空間的なローパスフィルタの影響を強める一方、高域の空間的なローパスフィルタの影響を弱めることとすれば、動き量に応じた適切なノイズ低減処理を行うことができることから、十分なノイズ低減効果を得ることができ、また画像ぼけを抑制することができる。
【0020】
また、本発明のノイズ低減装置及びノイズ低減方法によると、3次元ノイズ低減後信号に対して空間的なローパスフィルタを作用させると同時に色分離を行うことによって得られた各色の空間フィルタ後信号と、3次元ノイズ低減後信号に対して水平方向のローパスフィルタを作用させると同時に色分離を行うことによって得られた各色の水平フィルタ後信号と、3次元ノイズ低減後信号に対して垂直方向のローパスフィルタを作用させると同時に色分離を行うことによって得られた各色の垂直フィルタ後信号とを、各画素の時間軸方向の動き量と、各画素の時間軸方向の動き量の水平方向相関値及び垂直方向相関値とに応じて算出された重み係数によって色ごとに重み付け加算することによって出力信号を得るので、例えば、動き量が大きく、動き量の水平方向相関値が大きい画素に対しては、水平方向のローパスフィルタの影響を強める一方、空間的なローパスフィルタ及び垂直方向のローパスフィルタの影響を弱め、動き量が大きく、動き量の垂直方向相関値が大きい画素に対しては、垂直方向のローパスフィルタの影響を強める一方、空間的なローパスフィルタ及び水平方向のローパスフィルタの影響を弱め、動き量が小さい画素に対しては、空間的なローパスフィルタの影響を強める一方、水平方向のローパスフィルタ及び垂直方向のローパスフィルタの影響を弱めることとすれば、各画素の時間軸方向の動き量と、各画素の時間軸方向の動き量の水平方向及び垂直方向の相関の強さに応じた適切なノイズ低減処理を行うことができることから、十分なノイズ低減効果を得ることができ、また画像ぼけを抑制することができる。
【0021】
また、本発明のノイズ低減装置及びノイズ低減方法によると、所定の重み係数は色ごとに異なるので、例えば、色Gの第1フィルタ後信号の重みを、色R及び色Bの第1フィルタ後信号の重みと比較して小さくすれば、輝度信号への寄与度が高い色Gのぼけを抑制することができる。
【発明を実施するための最良の形態】
【0022】
本発明の実施の形態について、図面を参照して説明する。なお、以下では、本発明におけるノイズ低減方法を行うノイズ低減装置(以下では、「画像処理部」に含まれる)を備えたデジタルカメラやデジタルビデオなどの撮像装置を例に挙げて説明する。また、後述するが、同様のノイズ低減装置を備えるものであれば、液晶ディスプレイやプラズマテレビなどの画像のデジタル処理を行う表示装置であっても構わない。
【0023】
(撮像装置の構成)
まず、撮像装置の内部構成について、図面を参照して説明する。図1は、撮像装置の内部構成を示すブロック図である。
【0024】
図1の撮像装置は、被写体から入射される光を電気信号に変換するCCDまたはCMOSセンサなどの固体撮像素子(イメージセンサ)1と;イメージセンサ1から出力されるアナログ信号である画像信号をデジタル信号に変換するAFE(Analog FrontEnd)2と;外部から入力された音声を電気信号に変換するマイク3と;AFE2からのデジタル信号となる画像信号に対して色分離処理及びノイズ低減処理を含む各種画像処理を施す画像処理部4と;マイク3からのアナログ信号である音声信号をデジタル信号に変換する音声処理部5と;画像処理部4からの画像信号と音声処理部5からの音声信号とに対してMPEG(Moving Picture Experts Group)圧縮方式などの圧縮符号化処理を施す圧縮処理部6と;圧縮処理部6で圧縮符号化された圧縮符号化信号を外部メモリ20に記録するドライバ部7と;ドライバ部7で外部メモリ20から読み出した圧縮符号化信号を伸長して復号する伸長処理部8と;伸長処理部8で復号されて得られた画像信号による画像の表示を行うディスプレイ9と;伸長処理部8からの音声信号をアナログ信号に変換する音声出力回路部10と;音声出力回路部10からの音声信号に基づいて音声を再生出力するスピーカ11と;各ブロックの動作タイミングを一致させるためのタイミング制御信号を出力するTG(Timing Generator)12と;撮像装置内全体の駆動動作を制御するCPU(Central Processing Unit)13と;各動作のための各プログラムを記憶するとともにプログラム実行時のデータの一時保管を行うメモリ14と;ユーザからの指示が入力される操作部15と;メモリ14と各ブロックとの間でデータのやりとりを行うためのバス回線16と;CPU13と各ブロックとの間でデータのやりとりを行うためのバス回線17と;を備える。
【0025】
このような構成の撮像装置において、イメージセンサ1は、透過率の異なる複数種類の色フィルタが各画素の表面に設置された固体撮像素子、即ち、単板式色フィルタを備えた固体撮像素子である。この色フィルタは、隣接する画素毎に異なる種類の色フィルタが設置される。したがって、イメージセンサ1から出力される映像信号は、各画素が単色の色情報しか持たない、いわゆるRAW画像信号となる。このようなイメージセンサ1に設置される単板式色フィルタとして、例えば、図2のようなR(Red)フィルタとG(Green)フィルタとB(Blue)フィルタとからなるベイヤーフィルタが構成される。この図2のベイヤーフィルタは、GフィルタとRフィルタとが水平方向に交互に並ぶラインと、BフィルタとGフィルタとが水平方向に交互に並ぶラインとを、垂直方向に交互に並ぶようにして備える。即ち、GフィルタとBフィルタとが垂直方向に交互に並ぶラインと、RフィルタとGフィルタとが垂直方向に交互に並ぶラインとが、水平方向に交互に並ぶ。このようなベイヤーフィルタを備えたイメージセンサ1において、RGBフィルタそれぞれを備えた画素よりRGB信号それぞれとなる映像信号が出力される。
【0026】
そして、この撮像装置において、撮像動作を行うことが操作部15によって指示されると、イメージセンサ1の光電変換動作によって得られたアナログ信号である画像信号がAFE2に出力される。このとき、イメージセンサ1では、TG12からのタイミング制御信号が与えられることによって、水平走査及び垂直走査が行われて、画素毎のデータとなる画像信号が出力される。そして、AFE2において、アナログ信号である画像信号がデジタル信号に変換されて、画像処理部4に入力されると、ノイズ低減処理や色分離処理などの各種画像処理が施される。なお、画像処理部4の詳細については後述する。
【0027】
そして、画像処理部4で画像処理が施された画像信号が圧縮処理部6に与えられる。このとき、マイク3に音声入力されることで得られたアナログ信号である音声信号が、音声処理部5でデジタル信号に変換されて、圧縮処理部6に与えられる。これにより、圧縮処理部6では、デジタル信号である画像信号及び音声信号に対して、MPEG圧縮符号方式に基づいて、圧縮符号化してドライバ部7に与えて、外部メモリ20に記録させる。また、このとき、外部メモリ20に記録された圧縮信号がドライバ部7によって読み出されて伸長処理部8に与えられて、伸長処理が施されて画像信号が得られる。この画像信号がディスプレイ9に与えられて、現在、イメージセンサ1を通じて撮影されている被写体画像が表示される。
【0028】
なお、上述では、動画撮影時の動作について説明したが、静止画像撮影が指示された場合においても、マイク3による音声信号の取得がなく、画像信号のみの圧縮信号が外部メモリ20に記録されるだけとなるが、その基本動作については動画撮影時の動作と同様である。また、この静止画像撮影の場合、操作部15によって撮影された静止画像に対する圧縮信号が外部メモリ20に記録されるだけでなく、イメージセンサ1によって撮影されている現時点の画像に対する圧縮信号が外部メモリ20に一時的に記録される。これにより、現在撮影されている画像に対する圧縮信号が伸長処理部8で伸長されることで、イメージセンサ1によって撮影されている現時点の画像がディスプレイ9に表示され、ユーザが確認することができる。
【0029】
このように撮像動作を行うとき、TG12によって、AFE2、映像処理部4、音声処理部5、圧縮処理部6、及び伸長処理部8に対してタイミング制御信号が与えられ、イメージセンサ1による1フレームごとの撮像動作に同期した動作が行われる。また、静止画像撮影のときは、操作部15によるシャッタ動作に基づいて、TG12より、イメージセンサ1、AFE2、映像処理部4、及び、圧縮処理部6それぞれに対してタイミング制御信号が与えられ、各部の動作タイミングを同期させる。
【0030】
また、外部メモリ20に記録された動画または画像を再生することが、操作部15を通じて指示されると、外部メモリ20に記録された圧縮信号は、ドライバ部7によって読み出されて伸長処理部8に与えられる。そして、伸長処理部8において、MPEG圧縮符号方式に基づいて、伸長復号されて、画像信号及び音声信号が取得される。そして、画像信号がディスプレイ9に与えられて画像が再生されるとともに、音声信号が音声出力回路部10を介してスピーカ11に与えられて音声が再生される。これにより、外部メモリ20に記録された圧縮信号に基づく動画が音声とともに再生される。また、圧縮信号が画像信号のみより成るときは、ディスプレイ9に画像のみが再生されることとなる。
【0031】
(ノイズ低減装置の第1の実施形態)
次に、画像処理部4に含まれるノイズ低減装置の第1の実施形態について説明する。図3は、本発明の第1の実施形態に係るノイズ低減装置30の概略の構成を示すブロック図である。ノイズ低減装置30は、外部及びフレームメモリ34より信号が入力され、乗算器35に信号を出力するノイズ検出部31と;外部及びフレームメモリ34より信号が入力され、帰還係数検出部33及び重み係数検出部39に信号を出力する動き検出部32と;動き検出部32より信号が入力され、乗算器35に信号を出力する帰還係数検出部33と;減算器36より信号が入力され、ノイズ検出部31及び動き検出部32に信号を出力するフレームメモリ34と;ノイズ検出部31及び帰還係数検出部33より信号が入力され、減算器36に信号を出力する乗算器35と;外部及び乗算器35より信号が入力され、フレームメモリ34、第1のフィルタ及び色分離部37、及び第2のフィルタ及び色分離部38に信号を出力する減算器36と;減算器36より信号が入力され、重み付け加算部40に信号を出力する第1のフィルタ及び色分離部37と;減算器36より信号が入力され、重み付け加算部40に信号を出力する第2のフィルタ及び色分離部38と;動き検出部32より信号が入力され、重み付け加算部40に信号を出力する重み係数検出部39と;第1のフィルタ及び色分離部37、第2のフィルタ及び色分離部38、及び重み係数検出部39より信号が入力され、後段に信号を出力する重み付け加算部40と;を有している。なお、以下では、現フレームの信号は外部から入力されることとするが、この外部とは、図1の撮像装置のAFE2、あるいは画像処理部4のノイズ低減装置30の前段階の画像処理を行う部分のことを指すものである。
【0032】
ここで、ノイズ低減装置30の動作の概略について説明する。まず、外部からの現フレームの信号(ベイヤーデータ)が、ノイズ検出部31、動き検出部32、及び減算器36に入力される。また、フレームメモリ34からの現フレームの1フレーム前の信号が、ノイズ検出部31及び動き検出部32に入力される。すると、ノイズ低減処理部31は、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号とから各画素のノイズ検出値を算出し、これを乗算器35に出力する。
【0033】
そして、次に、動き検出部32が、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号とから各画素の動き量を算出し、これを帰還係数検出部33及び重み係数検出部39に出力する。すると、帰還係数検出部33が、動き検出部32より入力された各画素の動き量から各画素の帰還係数kを算出し、これを乗算器35に出力する。
【0034】
そして、次に、乗算器35が、ノイズ検出部31より入力された各画素のノイズ検出値と、帰還係数検出部33より入力された各画素の帰還係数kとを乗算し、得られた各画素の減算ノイズ値を減算器36へ出力する。すると、減算器36が、外部より入力された現フレームの信号から、乗算器35より入力された各画素の減算ノイズ値を減算し、得られた3次元ノイズ低減後信号をフレームメモリ34、第1のフィルタ及び色分離部37、及び第2のフィルタ及び色分離部38に出力する。
【0035】
そして、次に、第1のフィルタ及び色分離部37が、減算器36より入力された3次元ノイズ低減後信号に対して空間的な(2次元の)ローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第1フィルタ後信号L1(R)、L1(G)、L1(B)を重み付け加算部40に出力する。また、第2のフィルタ及び色分離部38が、減算器36より入力された3次元ノイズ低減後信号に対して、第1のフィルタ及び色分離部37よりも高域の空間的な(2次元の)ローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)を重み付け加算部40に出力する。また、重み係数検出部39が、動き検出部32より入力された各画素の動き量から各画素の重み係数αを算出し、これを重み付け加算部40に出力する。
【0036】
そして、次に、重み付け加算部40が、第1のフィルタ及び色分離部37より入力されたR、G、B各色の第1フィルタ後信号L1(R)、L1(G)、L1(B)と、第2のフィルタ及び色分離部38より入力されたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)とを、重み係数検出部39より入力された各画素の重み係数αによって色ごとに重み付け加算し(つまり、O(R)=L1(R)×α+L2(R)×(1−α)、O(G)=L1(G)×α+L2(G)×(1−α)、O(B)=L1(B)×α+L2(B)×(1−α)である)、得られたR、G、B各色の出力信号O(R)、O(G)、O(B)を後段に出力する。
【0037】
次に、ノイズ検出部31の詳細について説明する。ノイズ検出部31は、外部より入力された現フレームの信号から、フレームメモリ34より入力された1フレーム前の信号を減算することによって得られた各画素の差分信号値xに対してノイズ検出値f(x)を算出し、これを乗算器35に出力する。ここで、関数f(x)としては、例えば、以下の数1式及び図4に示されるようなものが用いられる。
【数1】
【0038】
数1式及び図4に示される関数f(x)は、各画素の差分信号値xの絶対値が閾値thを超える場合にはノイズ検出値f(x)を抑えるものであり、これによって動き部分を誤ってノイズと検出してしまう誤動作を防止できる。
【0039】
次に、動き検出部32の詳細について説明する。図5は、動き検出部32の概略の構成を示すブロック図である。動き検出部32は、外部及びフレームメモリ34より信号が入力され、絶対値化部322に信号を出力する減算器321と;減算器321より信号が入力され、フィルタ部323に信号を出力する絶対値化部322と;絶対値化部322より信号が入力され、帰還係数検出部33に信号を出力するフィルタ部323と;を有している。
【0040】
ここで、動き検出部32の動作の概略について説明する。まず、外部からの現フレームの信号と、フレームメモリ34からの1フレーム前の信号とが減算器321に入力される。すると、減算器321は、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号との差分を計算し、得られた差分信号を絶対値化部322に出力する。
【0041】
そして、次に、絶対値化部322は、入力された差分信号を絶対値化し、得られた絶対値化信号をフィルタ部323に出力する。すると、フィルタ部323は、入力された絶対値化信号に対してローパスフィルタをかけることによって得られた各画素の動き量を帰還係数検出部33に出力する。ここで、フィルタ部323によってローパスフィルタをかけることによって、ノイズ信号と動きを示す信号との分離精度が高められる。
【0042】
次に、帰還係数検出部33の詳細について説明する。帰還係数検出部33は、動き検出部32より入力された各画素の動き量yに対して各画素の帰還係数k=g(y)を算出し、これを乗算器35に出力する。ここで、関数g(y)としては、例えば、以下の数2式及び図6に示されるようなものが用いられる。
【数2】
【0043】
数2式及び図6に示される関数g(y)は、動き量yの増加に伴って一次関数的に帰還係数kが1から減少し、動き量yが閾値thA以上となると、帰還係数kが0となるものであり、これによって、動き量yの小さい画素に対するノイズ検出部31によるノイズ低減効果、つまり、3次元ノイズ低減処理の効果を大きくし、動き量yの大きい画素に対するノイズ検出部31によるノイズ低減効果、つまり、3次元ノイズ低減処理の効果を小さくしている。なお、この閾値thAは、入力信号レベル及びノイズレベルに応じて決定することが望ましい。
【0044】
次に、第1のフィルタ及び色分離部37の詳細について説明する。なお、以下では注目画素の座標を(0、0)、その信号値をS(0、0)とし、注目画素から右にx画素、上にy画素の位置にある画素の座標を(x、y)、その信号値をS(x、y)と表すこととする。つまり、注目画素から右に2画素、上に2画素の位置にある画素の座標を(2、2)、その信号値をS(2、2)と表し、注目画素から左に2画素、下に2画素の位置にある画素の座標を(−2、−2)、その信号値をS(−2、−2)と表すこととする。
【0045】
第1のフィルタ及び色分離部37は、減算器36より入力された3次元ノイズ低減後信号(ベイヤーデータ)に対して空間的なローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第1フィルタ後信号L1(R)、L1(G)、L1(B)を重み付け加算部40に出力するものである。
【0046】
具体的には、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、図7(a)に示されるフィルタを用いて色Gの信号値を取得し、図7(b)に示されるフィルタを用いて色Bの信号値を取得し、色Rについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0047】
つまり、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、L1(G)=1/16×S(−1、2)+1/16×S(1、2)+1/16×S(−2、1)+1/8×S(0、1)+1/16×S(2、1)+1/8×S(−1、0)+1/8×S(1、0)+1/16×S(−2、−1)+1/8×S(0、−1)+1/16×S(2、−1)+1/16×S(−1、−2)+1/16×S(1、−2)によって色Gの信号値が取得される。
【0048】
また、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、L1(B)=1/16×S(−3、3)+1/16×S(−1、3)+1/16×S(1、3)+1/16×S(3、3)+1/16×S(−3、1)+1/16×S(−1、1)+1/16×S(1、1)+1/16×S(3、1)+1/16×S(−3、−1)+1/16×S(−1、−1)+1/16×S(1、−1)+1/16×S(3、−1)+1/16×S(−3、−3)+1/16×S(−1、−3)+1/16×S(1、−3)+1/16×S(3、−3)によって色Bの信号値が取得される。
【0049】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、図8(a)に示されるフィルタを用いて色Rの信号値を取得し、図8(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0050】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、L1(R)=1/8×S(−1、2)+1/8×S(1、2)+1/8×S(−3、0)+1/8×S(−1、0)+1/8×S(1、0)+1/8×S(3、0)+1/8×S(−1、−2)+1/8×S(1、−2)によって色Rの信号値が取得される。
【0051】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、L1(B)=1/8×S(0、3)+1/8×S(−2、1)+1/8×S(0、1)+1/8×S(2、1)+1/8×S(−2、−1)+1/8×S(0、−1)+1/8×S(2、−1)+1/8×S(0、−3)によって色Bの信号値が取得される。
【0052】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、図9(a)に示されるフィルタを用いて色Rの信号値を取得し、図9(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0053】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、L1(R)=1/8×S(0、3)+1/8×S(−2、1)+1/8×S(0、1)+1/8×S(2、1)+1/8×S(−2、−1)+1/8×S(0、−1)+1/8×S(2、−1)+1/8×S(0、−3)によって色Rの信号値が取得される。
【0054】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、L1(B)=1/8×S(−1、2)+1/8×S(1、2)+1/8×S(−3、0)+1/8×S(−1、0)+1/8×S(1、0)+1/8×S(3、0)+1/8×S(−1、−2)+1/8×S(1、−2)によって色Bの信号値が取得される。
【0055】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、図10(a)に示されるフィルタを用いて色Rの信号値を取得し、図10(b)に示されるフィルタを用いて色Gの信号値を取得し、色Bについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0056】
つまり、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、L1(R)=1/16×S(−3、3)+1/16×S(−1、3)+1/16×S(1、3)+1/16×S(3、3)+1/16×S(−3、1)+1/16×S(−1、1)+1/16×S(1、1)+1/16×S(3、1)+1/16×S(−3、−1)+1/16×S(−1、−1)+1/16×S(1、−1)+1/16×S(3、−1)+1/16×S(−3、−3)+1/16×S(−1、−3)+1/16×S(1、−3)+1/16×S(3、−3)によって色Rの信号値が取得される。
【0057】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、L1(G)=1/16×S(−1、2)+1/16×S(1、2)+1/16×S(−2、1)+1/8×S(0、1)+1/16×S(2、1)+1/8×S(−1、0)+1/8×S(1、0)+1/16×S(−2、−1)+1/8×S(0、−1)+1/16×S(2、−1)+1/16×S(−1、−2)+1/16×S(1、−2)によって色Gの信号値が取得される。
【0058】
次に、第2のフィルタ及び色分離部38の詳細について説明する。第2のフィルタ及び色分離部38は、減算器36より入力された3次元ノイズ低減後信号(ベイヤーデータ)に対して、第1のフィルタ及び色分離部37よりも高域の空間的なローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)を重み付け加算部40に出力するものである。
【0059】
具体的には、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、図11(a)に示されるフィルタを用いて色Gの信号値を取得し、図11(b)に示されるフィルタを用いて色Bの信号値を取得し、色Rについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0060】
つまり、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、L2(G)=1/4×S(0、1)+1/4×S(−1、0)+1/4×S(1、0)+1/4×S(0、−1)によって色Gの信号値が取得される。
【0061】
また、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、L2(B)=1/4×S(−1、1)+1/4×S(1、1)+1/4×S(−1、−1)+1/4×S(1、−1)によって色Bの信号値が取得される。
【0062】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、図12(a)に示されるフィルタを用いて色Rの信号値を取得し、図12(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0063】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、L2(R)=1/2×S(−1、0)+1/2×S(1、0)によって色Rの信号値が取得される。
【0064】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、L2(B)=1/2×S(0、1)+1/2×S(0、−1)によって色Bの信号値が取得される。
【0065】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、図13(a)に示されるフィルタを用いて色Rの信号値を取得し、図13(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0066】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、L2(R)=1/2×S(0、1)+1/2×S(0、−1)によって色Rの信号値が取得される。
【0067】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、L2(B)=1/2×S(−1、0)+1/2×S(1、0)によって色Bの信号値が取得される。
【0068】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、図14(a)に示されるフィルタを用いて色Rの信号値を取得し、図14(b)に示されるフィルタを用いて色Gの信号値を取得し、色Bについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0069】
つまり、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、L2(R)=1/4×S(−1、1)+1/4×S(1、1)+1/4×S(−1、−1)+1/4×S(1、−1)によって色Rの信号値が取得される。
【0070】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、L2(G)=1/4×S(0、1)+1/4×S(−1、0)+1/4×S(1、0)+1/4×S(0、−1)によって色Gの信号値が取得される。
【0071】
ここで、第2のフィルタ及び色分離部38の回路構成について説明する。図15は、第2のフィルタ及び色分離部38の回路構成を示すブロック図である。なお、以下では、x及びyは、−1、0、1の各値を取るものとする。
【0072】
第2のフィルタ及び色分離部38は、フィルタ係数a(x、y)を生成し、これを乗算器M(x、y)に出力する係数選択部Aと;S(x、y)を記憶し、これを乗算器M(x、y)に出力するメモリm(x、y)と;a(x、y)×S(x、y)を算出し、これを加算器Pに出力する乗算器M(x、y)と;a(x、y)×S(x、y)を全て加算し、これを重み付け加算部40に出力する加算機Pと;を有している。
【0073】
次に、第2のフィルタ及び色分離部38の動作の概略について説明する。まず、係数選択部Aが、注目画素の水平アドレス及び垂直アドレスから、注目画素がベイヤーデータにおいて色Rの信号値が得られている画素であるか、注目画素がベイヤーデータにおいて色Gの信号値が得られている画素であるか、あるいは、注目画素がベイヤーデータにおいて色Bの信号値が得られている画素であるかを判定する。また、注目画素がベイヤーデータにおいて色Gの信号値が得られている画素である場合には、注目画素の左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるか、あるいは、注目画素の左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるかの判定も行う。
【0074】
そして、次に、係数選択部Aは、注目画素の判定結果に応じて、まず、色Rの信号値を取得するためのフィルタ係数a(x、y)を生成し、これを乗算器M(x、y)に出力する。また、各メモリm(x、y)がS(x、y)を乗算器M(x、y)に出力する。そして、次に、各乗算器M(x、y)が、a(x、y)×S(x、y)を算出し、これを加算器Pに出力する。すると、加算機Pが、各乗算器M(x、y)から入力されたa(x、y)×S(x、y)を全て加算し、得られた色Rの信号値を重み付け加算部40に出力する。
【0075】
そして、次に、係数選択部Aは、注目画素の判定結果に応じて、色Gの信号値を取得するためのフィルタ係数a(x、y)を生成し、これを乗算器M(x、y)に出力する。また、各メモリm(x、y)がS(x、y)を乗算器M(x、y)に出力する。そして、次に、各乗算器M(x、y)が、a(x、y)×S(x、y)を算出し、これを加算器Pに出力する。すると、加算機Pが、各乗算器M(x、y)から入力されたa(x、y)×S(x、y)を全て加算し、得られた色Gの信号値を重み付け加算部40に出力する。
【0076】
そして、次に、係数選択部Aは、注目画素の判定結果に応じて、色Bの信号値を取得するためのフィルタ係数a(x、y)を生成し、これを乗算器M(x、y)に出力する。また、各メモリm(x、y)がS(x、y)を乗算器M(x、y)に出力する。そして、次に、各乗算器M(x、y)が、a(x、y)×S(x、y)を算出し、これを加算器Pに出力する。すると、加算機Pが、各乗算器M(x、y)から入力されたa(x、y)×S(x、y)を全て加算し、得られた色Bの信号値を重み付け加算部40に出力する。
【0077】
次に、第2のフィルタ及び色分離部38の動作について、注目画素がベイヤーデータにおいて色Rの信号値が得られている画素である場合を例として具体的に説明する。この場合、係数選択部Aが、まず、色Rの信号値を取得するためのフィルタ係数として、a(−1、1)=0、a(0、1)=0、a(1、1)=0、a(−1、0)=0、a(0、0)=1、a(1、0)=0、a(−1、−1)=0、a(0、−1)=0、a(1、−1)=0を生成し、これらを対応する乗算器M(x、y)に出力する。また、各メモリm(x、y)がS(x、y)を乗算器M(x、y)に出力する。
【0078】
すると、各乗算器M(x、y)及び加算器Pによって、L2(R)=0×S(−1、1)+0×S(0、1)+0×S(1、1)+0×S(−1、0)+1×S(0、0)+0×S(1、0)+0×S(−1、−1)+0×S(0、−1)+0×S(1、−1)=S(0、0)が算出され、重み付け加算部40に出力される。
【0079】
そして、次に、係数選択部Aは、色Gの信号値を取得するためのフィルタ係数として、a(−1、1)=0、a(0、1)=1/4、a(1、1)=0、a(−1、0)=1/4、a(0、0)=0、a(1、0)=1/4、a(−1、−1)=0、a(0、−1)=1/4、a(1、−1)=0を生成し(図11(a)参照)、これらを対応する乗算器M(x、y)に出力する。また、各メモリm(x、y)がS(x、y)を乗算器M(x、y)に出力する。
【0080】
すると、各乗算器M(x、y)及び加算器Pによって、L2(G)=0×S(−1、1)+1/4×S(0、1)+0×S(1、1)+1/4×S(−1、0)+0×S(0、0)+1/4×S(1、0)+0×S(−1、−1)+1/4×S(0、−1)+0×S(1、−1)=1/4×S(0、1)+1/4×S(−1、0)+1/4×S(1、0)+1/4×S(0、−1)が算出され、重み付け加算部40に出力される。
【0081】
そして、次に、係数選択部Aは、色Bの信号値を取得するためのフィルタ係数として、a(−1、1)=1/4、a(0、1)=0、a(1、1)=1/4、a(−1、0)=0、a(0、0)=0、a(1、0)=0、a(−1、−1)=1/4、a(0、−1)=0、a(1、−1)=1/4を生成し(図11(b)参照)、これらを対応する乗算器M(x、y)に出力する。また、各メモリm(x、y)がS(x、y)を乗算器M(x、y)に出力する。
【0082】
すると、各乗算器M(x、y)及び加算器Pによって、L2(B)=1/4×S(−1、1)+0×S(0、1)+1/4×S(1、1)+0×S(−1、0)+0×S(0、0)+0×S(1、0)+1/4×S(−1、−1)+0×S(0、−1)+1/4×S(1、−1)=1/4×S(−1、1)+1/4×S(1、1)+1/4×S(−1、−1)+1/4×S(1、−1)が算出され、重み付け加算部40に出力される。
【0083】
また、注目画素がベイヤーデータにおいて色Gの信号値が得られている画素であって、注目画素の左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素である場合には、係数選択部Aが、色Rの信号値を取得するためのフィルタ係数として、図12(a)に示されるフィルタ係数を生成し、色Gの信号値を取得するためのフィルタ係数として、a(−1、1)=0、a(0、1)=0、a(1、1)=0、a(−1、0)=0、a(0、0)=1、a(1、0)=0、a(−1、−1)=0、a(0、−1)=0、a(1、−1)=0を生成し、色Bの信号値を取得するためのフィルタ係数として、図12(b)に示されるフィルタ係数を生成する点を除いては、注目画素がベイヤーデータにおいて色Rの信号値が得られている画素である場合と同様である。
【0084】
また、注目画素がベイヤーデータにおいて色Gの信号値が得られている画素であって、注目画素の左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素である場合には、係数選択部Aが、色Rの信号値を取得するためのフィルタ係数として、図13(a)に示されるフィルタ係数を生成し、色Gの信号値を取得するためのフィルタ係数として、a(−1、1)=0、a(0、1)=0、a(1、1)=0、a(−1、0)=0、a(0、0)=1、a(1、0)=0、a(−1、−1)=0、a(0、−1)=0、a(1、−1)=0を生成し、色Bの信号値を取得するためのフィルタ係数として、図13(b)に示されるフィルタ係数を生成する点を除いては、注目画素がベイヤーデータにおいて色Rの信号値が得られている画素である場合と同様である。
【0085】
また、注目画素がベイヤーデータにおいて色Bの信号値が得られている画素である場合には、係数選択部Aが、色Rの信号値を取得するためのフィルタ係数として、図14(a)に示されるフィルタ係数を生成し、色Gの信号値を取得するためのフィルタ係数として、図14(b)に示されるフィルタ係数を生成し、色Bの信号値を取得するためのフィルタ係数として、a(−1、1)=0、a(0、1)=0、a(1、1)=0、a(−1、0)=0、a(0、0)=1、a(1、0)=0、a(−1、−1)=0、a(0、−1)=0、a(1、−1)=0を生成する点を除いては、注目画素がベイヤーデータにおいて色Rの信号値が得られている画素である場合と同様である。
【0086】
なお、以上の説明においては、色R、色G、色Bの信号値を、1組の乗算器M(x、y)及び加算機Pを用いて直列的に取得するものとしたが、色R、色G、色B各々の信号値を、別々の乗算器M(x、y)及び加算機Pを用いて並列的に取得するものとしてもよい。この場合、メモリm(x、y)については、1組のメモリm(x、y)を共用する構成とすればよい。
【0087】
なお、ここでは、説明の簡略化のために、第2のフィルタ及び色分離部38の回路構成及びその動作について説明したが、第1のフィルタ及び色分離部38の回路構成及びその動作についても、x及びyが−3、−2、−1、0、1、2、3の各値を取るものである点が異なるのみであり、その他の点は同一である。
【0088】
次に、重み係数検出部39の詳細について説明する。重み係数検出部39は、動き検出部32より入力された各画素の動き量yに対して各画素の重み係数α=h(y)を算出し、これを重み付け加算部40に出力する。ここで、関数h(y)としては、例えば、以下の数3式及び図16に示されるようなものが用いられる。
【数3】
【0089】
数3式及び図16に示される関数h(y)は、動き量yの増加に伴って一次関数的に重み係数αが0から上昇し、動き量yが閾値tha以上となると、重み係数αが1となるものであり、これによって、動き量yの小さい画素に対しては、低域の空間的なローパスフィルタを作用させる第1のフィルタ及び色分離部37の影響を弱める一方、高域の空間的なローパスフィルタを作用させる第2のフィルタ及び色分離部38の影響を強め、動き量yの大きい画素に対しては、低域の空間的なローパスフィルタを作用させる第1のフィルタ及び色分離部37の影響を強める一方、高域の空間的なローパスフィルタを作用させる第2のフィルタ及び色分離部38の影響を弱めている。なお、この閾値thaは、例えば、数2式及び図6に示される関数g(y)の閾値thAと等しい値とすればよい。
【0090】
上記構成のノイズ低減装置30においては、第1のフィルタ及び色分離部37と、第2のフィルタ及び色分離部38とによって、空間的なローパスフィルタ(LPF)を作用させると同時に色分離している。したがって、3次元ノイズ低減処理によるノイズ低減効果が十分に得られない動き量の大きい画素に対しても、空間的なローパスフィルタ(LPF)を作用させることから、十分なノイズ低減を行うことができる。また、空間的なローパスフィルタ(LPF)を作用させることと、色分離とを同時に行うことから、色ごとに空間的なローパスフィルタ(LPF)を作用させる場合と比べてデータ量を低減し、処理を簡素化することができる。
【0091】
(ノイズ低減装置の第2の実施形態)
次に、画像処理部4に含まれるノイズ低減装置の第2の実施形態について説明する。図17は、本発明の第2の実施形態に係るノイズ低減装置50の概略の構成を示すブロック図である。なお、ノイズ低減装置50においては、第1の実施形態に係るノイズ低減装置30と同一の部分には同一の符号を付し、その詳細な説明は省略する。ノイズ低減装置50は、ノイズ低減装置30と異なる構成として、動き検出部32より入力された各画素の動き量から、色ごとに異なる各画素の重み係数α(R)、α(G)、α(B)を算出し、これを重み付け加算部52に出力する重み係数検出部51と;第1のフィルタ及び色分離部37より入力されたR、G、B各色の第1フィルタ後信号L1(R)、L1(G)、L1(B)と、第2のフィルタ及び色分離部38より入力されたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)とを、重み係数検出部51より入力された、色ごとに異なる各画素の重み係数α(R)、α(G)、α(B)によって色ごとに重み付け加算し、得られたR、G、B各色の出力信号O(R)、O(G)、O(B)を後段に出力する(つまり、O(R)=L1(R)×α(R)+L2(R)×(1−α(R))、O(G)=L1(G)×α(G)+L2(G)×(1−α(G))、O(B)=L1(B)×α(B)+L2(B)×(1−α(B))である)重み付け加算部52と;を有している。
【0092】
次に、重み係数検出部51の詳細について説明する。重み係数検出部51は、動き検出部32より入力された各画素の動き量yに対して、色ごとに閾値thaを変えた、数3式及び図16に示されるh(y)を算出することによって、色ごとに異なる重み係数α(R)、α(G)、α(B)を算出し、これを重み付け加算部52に出力する。
【0093】
具体的には、色Rに対する閾値thaをthRとし、色Gに対する閾値thaをthGとし、色Bに対する閾値thaをthBとした場合には、thR=thB<thGとすることが望ましい。これによると、輝度信号への寄与度が高い色Gのぼけを抑制することができる。
【0094】
(ノイズ低減装置の第3の実施形態)
次に、画像処理部4に含まれるノイズ低減装置の第3の実施形態について説明する。図18は、本発明の第3の実施形態に係るノイズ低減装置60の概略の構成を示すブロック図である。なお、ノイズ低減装置60においては、第1の実施形態に係るノイズ低減装置30と同一の部分には同一の符号を付し、その詳細な説明は省略する。ノイズ低減装置60は、ノイズ低減装置30と異なる構成として、減算器36より信号が入力され、重み付け加算部66に信号を出力する水平フィルタ及び色分離部61と;減算器36より信号が入力され、重み付け加算部66に信号を出力する垂直フィルタ及び色分離部62と;動き検出部32より信号が入力され、第2の重み係数検出部65に信号を出力する相関方向検出部63と;動き検出部32より信号が入力され、第2の重み係数検出部65に信号を出力する第1の重み係数検出部64と;相関方向検出部63及び第1の重み係数検出部64より信号が入力され、重み付け加算部66に信号を出力する第2の重み係数検出部65と;第2のフィルタ及び色分離部38、水平フィルタ及び色分離部61、垂直フィルタ及び色分離部62、及び第2の重み係数検出部65より信号が入力され、後段に信号を出力する重み付け加算部66と;を有している。また、ノイズ低減装置60は、ノイズ低減装置30が有していた第1のフィルタ及び色分離部37を有していない。
【0095】
ここで、ノイズ低減装置60の動作の概略について説明する。まず、外部からの現フレームの信号(ベイヤーデータ)が、ノイズ検出部31、動き検出部32、及び減算器36に入力される。また、フレームメモリ34からの現フレームの1フレーム前の信号が、ノイズ検出部31及び動き検出部32に入力される。すると、ノイズ低減処理部31は、第1の実施形態と同様に、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号とから各画素のノイズ検出値を算出し、これを乗算器35に出力する。
【0096】
そして、次に、動き検出部32が、第1の実施形態と同様に、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号とから各画素の動き量を算出し、これを帰還係数検出部33、相関方向検出部63、及び第1の重み係数検出部64に出力する。すると、帰還係数検出部33が、第1の実施形態と同様に、動き検出部32より入力された各画素の動き量から各画素の帰還係数kを算出し、これを乗算器35に出力する。また、相関方向検出部63が、動き検出部32より入力された各画素の動き量から各画素の水平方向相関値dvと、垂直方向相関値dhを算出し、これを第2の重み係数検出部65に出力する。また、第1の重み係数検出部64が、動き検出部32より入力された各画素の動き量から各画素の重み係数βを算出し、これを第2の重み係数検出部65に出力する。
【0097】
そして、次に、乗算器35が、第1の実施形態と同様に、ノイズ検出部31より入力された各画素のノイズ検出値と、帰還係数検出部33より入力された各画素の帰還係数kとを乗算し、得られた各画素の減算ノイズ値を減算器36へ出力する。すると、減算器36が、第1の実施形態と同様に、外部より入力された現フレームの信号から、乗算器35より入力された各画素の減算ノイズ値を減算し、得られた3次元ノイズ低減後信号をフレームメモリ34、第2のフィルタ及び色分離部38、水平フィルタ及び色分離部61、及び垂直フィルタ及び色分離部62に出力する。
【0098】
そして、次に、第2のフィルタ及び色分離部38が、第1の実施形態と同様に、減算器36より入力された3次元ノイズ低減後信号に対して空間的なローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)を重み付け加算部66に出力する。また、水平フィルタ及び色分離部61が、減算器36より入力された3次元ノイズ低減後信号に対して水平方向のローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の水平フィルタ後信号LH(R)、LH(G)、LH(B)を重み付け加算部66に出力する。また、垂直フィルタ及び色分離部62が、減算器36より入力された3次元ノイズ低減後信号に対して垂直方向のローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の垂直フィルタ後信号LV(R)、LV(G)、LV(B)を重み付け加算部66に出力する。また、第2の重み係数検出部65が、相関方向検出部63より入力された各画素の水平方向相関値dv及び垂直方向相関値dhと、第1の重み係数検出部64より入力された各画素の重み係数βとから、各画素の水平方向重み係数γと、垂直方向重み係数δとを算出し、これを重み付け加算部66に出力する。
【0099】
そして、次に、重み付け加算部66が、第2のフィルタ及び色分離部38より入力されたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)と、水平フィルタ及び色分離部61より入力されたR、G、B各色の水平フィルタ後信号LH(R)、LH(G)、LH(B)と、垂直フィルタ及び色分離部62より入力されたR、G、B各色の垂直フィルタ後信号LV(R)、LV(G)、LV(B)とを、第2の重み係数検出部65より入力された各画素の水平方向重み係数γと、垂直方向重み係数δとによって色ごとに重み付け加算し(つまり、O(R)=L(R)×(1−γ−δ)+LH(R)×γ+LV(R)×δ、O(G)=L(G)×(1−γ−δ)+LH(G)×γ+LV(G)×δ、O(B)=L(B)×(1−γ−δ)+LH(B)×γ+LV(B)×δである)、得られたR、G、B各色の出力信号O(R)、O(G)、O(B)を後段に出力する。
【0100】
次に、水平フィルタ及び色分離部61の詳細について説明する。水平フィルタ及び色分離部61は、減算器36より入力された3次元ノイズ低減後信号(ベイヤーデータ)に対して水平方向のローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の水平フィルタ後信号LH(R)、LH(G)、LH(B)を重み付け加算部66に出力するものである。
【0101】
具体的には、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、図19(a)に示されるフィルタを用いて色Gの信号値を取得し、図19(b)に示されるフィルタを用いて色Bの信号値を取得し、色Rについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0102】
つまり、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、LH(G)=1/8×S(−2、1)+1/8×S(0、1)+1/8×S(2、1)+1/8×S(−1、0)+1/8×S(1、0)+1/8×S(−2、−1)+1/8×S(0、−1)+1/8×S(2、−1)によって色Gの信号値が取得される。
【0103】
また、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、LH(B)=1/8×S(−3、1)+1/8×S(−1、1)+1/8×S(1、1)+1/8×S(3、1)+1/8×S(−3、−1)+1/8×S(−1、−1)+1/8×S(1、−1)+1/8×S(3、−1)によって色Bの信号値が取得される。
【0104】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、図20(a)に示されるフィルタを用いて色Rの信号値を取得し、図20(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0105】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、LH(R)=1/16×S(−1、2)+1/16×S(1、2)+1/8×S(−3、0)+1/4×S(−1、0)+1/4×S(1、0)+1/8×S(3、0)+1/16×S(−1、−2)+1/16×S(1、−2)によって色Rの信号値が取得される。
【0106】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、LH(B)=1/8×S(−2、1)+1/4×S(0、1)+1/8×S(2、1)+1/8×S(−2、−1)+1/4×S(0、−1)+1/8×S(2、−1)によって色Bの信号値が取得される。
【0107】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、図21(a)に示されるフィルタを用いて色Rの信号値を取得し、図21(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0108】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、LH(R)=1/8×S(−2、1)+1/4×S(0、1)+1/8×S(2、1)+1/8×S(−2、−1)+1/4×S(0、−1)+1/8×S(2、−1)によって色Rの信号値が取得される。
【0109】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、LH(B)=1/16×S(−1、2)+1/16×S(1、2)+1/8×S(−3、0)+1/4×S(−1、0)+1/4×S(1、0)+1/8×S(3、0)+1/16×S(−1、−2)+1/16×S(1、−2)によって色Bの信号値が取得される。
【0110】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、図22(a)に示されるフィルタを用いて色Rの信号値を取得し、図22(b)に示されるフィルタを用いて色Gの信号値を取得し、色Bについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0111】
つまり、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、LH(R)=1/8×S(−3、1)+1/8×S(−1、1)+1/8×S(1、1)+1/8×S(3、1)+1/8×S(−3、−1)+1/8×S(−1、−1)+1/8×S(1、−1)+1/8×S(3、−1)によって色Rの信号値が取得される。
【0112】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、LH(G)=1/8×S(−2、1)+1/8×S(0、1)+1/8×S(2、1)+1/8×S(−1、0)+1/8×S(1、0)+1/8×S(−2、−1)+1/8×S(0、−1)+1/8×S(2、−1)によって色Gの信号値が取得される。
【0113】
なお、水平フィルタ及び色分離部61の回路構成及びその動作については、上述した第2のフィルタ及び色分離部38の回路構成及びその動作とほぼ同一であるので(x及びyが−3、−2、−1、0、1、2、3の各値を取るものである点が異なるのみ)、その説明は省略することとする。
【0114】
次に、垂直フィルタ及び色分離部62の詳細について説明する。垂直フィルタ及び色分離部62は、減算器36より入力された3次元ノイズ低減後信号(ベイヤーデータ)に対して垂直方向のローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の垂直フィルタ後信号LV(R)、LV(G)、LV(B)を重み付け加算部66に出力するものである。
【0115】
具体的には、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、図23(a)に示されるフィルタを用いて色Gの信号値を取得し、図23(b)に示されるフィルタを用いて色Bの信号値を取得し、色Rについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0116】
つまり、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、LV(G)=1/8×S(−1、2)+1/8×S(1、2)+1/8×S(0、1)+1/8×S(−1、0)+1/8×S(1、0)+1/8×S(0、−1)+1/8×S(−1、−2)+1/8×S(1、−2)によって色Gの信号値が取得される。
【0117】
また、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、LV(B)=1/8×S(−1、3)+1/8×S(1、3)+1/8×S(−1、1)+1/8×S(1、1)+1/8×S(−1、−1)+1/8×S(1、−1)+1/8×S(−1、−3)+1/8×S(1、−3)によって色Bの信号値が取得される。
【0118】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、図24(a)に示されるフィルタを用いて色Rの信号値を取得し、図24(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0119】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、LV(R)=1/8×S(−1、2)+1/8×S(1、2)+1/4×S(−1、0)+1/4×S(1、0)+1/8×S(−1、−2)+1/8×S(1、−2)によって色Rの信号値が取得される。
【0120】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、LV(B)=1/8×S(0、3)+1/16×S(−2、1)+1/4×S(0、1)+1/16×S(2、1)+1/16×S(−2、−1)+1/4×S(0、−1)+1/16×S(2、−1)+1/8×S(0、−3)によって色Bの信号値が取得される。
【0121】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、図25(a)に示されるフィルタを用いて色Rの信号値を取得し、図25(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0122】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、LV(R)=1/8×S(0、3)+1/16×S(−2、1)+1/4×S(0、1)+1/16×S(2、1)+1/16×S(−2、−1)+1/4×S(0、−1)+1/16×S(2、−1)+1/8×S(0、−3)によって色Rの信号値が取得される。
【0123】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、LV(B)=1/8×S(−1、2)+1/8×S(1、2)+1/4×S(−1、0)+1/4×S(1、0)+1/8×S(−1、−2)+1/8×S(1、−2)によって色Bの信号値が取得される。
【0124】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、図26(a)に示されるフィルタを用いて色Rの信号値を取得し、図26(b)に示されるフィルタを用いて色Gの信号値を取得し、色Bについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0125】
つまり、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、LV(R)=1/8×S(−1、3)+1/8×S(1、3)+1/8×S(−1、1)+1/8×S(1、1)+1/8×S(−1、−1)+1/8×S(1、−1)+1/8×S(−1、−3)+1/8×S(1、−3)によって色Rの信号値が取得される。
【0126】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、LV(G)=1/8×S(−1、2)+1/8×S(1、2)+1/8×S(0、1)+1/8×S(−1、0)+1/8×S(1、0)+1/8×S(0、−1)+1/8×S(−1、−2)+1/8×S(1、−2)によって色Gの信号値が取得される。
【0127】
なお、垂直フィルタ及び色分離部62の回路構成及びその動作については、上述した第2のフィルタ及び色分離部38の回路構成及びその動作とほぼ同一であるので(x及びyが−3、−2、−1、0、1、2、3の各値を取るものである点が異なるのみ)、その説明は省略することとする。
【0128】
次に、相関方向検出部63の詳細について説明する。なお、以下では注目画素の座標を(0、0)、その動き量をV(0、0)とし、注目画素から右にx画素、上にy画素の位置にある画素の座標を(x、y)、その動き量をV(x、y)と表すこととする。つまり、注目画素から右に2画素、上に2画素の位置にある画素の座標を(2、2)、その動き量をV(2、2)と表し、注目画素から左に2画素、下に2画素の位置にある画素の座標を(−2、−2)、その動き量をV(−2、−2)と表すこととする。
【0129】
相関方向検出部63は、動き検出部32より入力された各画素の動き量に対して垂直方向勾配検出フィルタを作用させることによって、各画素の水平方向相関値dvを算出し、また、動き検出部32より入力された各画素の動き量に対して水平方向勾配検出フィルタを作用させることによって、各画素の垂直方向相関値dhを算出し、これを第2の重み係数検出部65に出力するものである。
【0130】
具体的には、各画素の動き量について、図27(a)に示されるフィルタを用いて水平方向相関値dvを算出し、図27(b)に示されるフィルタを用いて垂直方向相関値dhを算出する。つまり、各画素の動き量について、dv=V(−1、1)+V(0、1)+V(1、1)−V(−1、−1)−V(0、−1)−V(1、−1)によって水平方向相関値dvが算出され、dh=V(−1、1)+V(−1、0)+V(−1、−1)−V(1、1)−V(1、0)−V(1、−1)によって垂直方向相関値dhが算出される。
【0131】
なお、相関方向検出部63の回路構成及びその動作については、上述した第2のフィルタ及び色分離部38の回路構成及びその動作とほぼ同一であるので(各メモリm(x、y)が信号値S(x、y)ではなく、動き量V(x、y)を記憶及び出力し、また、係数選択部Aが各色の信号値の取得のためのフィルタ係数を生成するのではなく、水平方向相関値dv及び垂直方向相関値dhの算出のためのフィルタ係数を生成する点が異なるのみ)、その説明は省略することとする。
【0132】
次に、第1の重み係数検出部64の詳細について説明する。第1の重み係数検出部64は、動き検出部32より入力された各画素の動き量yに対して、数3式及び図16に示されるh(y)を算出することによって、各画素の重み係数βを算出し、これを第2の重み係数検出部65に出力する。
【0133】
次に、第2の重み係数検出部65の詳細について説明する。第2の重み係数検出部65は、相関方向検出部63より入力された各画素の水平方向相関値dv及び垂直方向相関値dhと、第1の重み係数検出部64より入力された各画素の重み係数βとに対して、以下の数4式を用いて各画素の水平方向重み係数γと、垂直方向重み係数δとを算出し、これを重み付け加算部66に出力する。
【数4】
【0134】
このとき、水平方向重み係数γは、重み係数βと、水平方向相関値dvとの増加に伴って増加する。そして、重み係数βは動き量の増加に伴って増加し、また、水平方向相関値dvは動き量が水平方向に強い相関を持つ場合に増加することから、動き量が大きく、動き量が水平方向に強い相関を持つ場合には、この場合に適した水平フィルタ及び色分離部61の影響が強められることとなる。
【0135】
また、垂直方向重み係数δは、重み係数βと、垂直方向相関値dhとの増加に伴って増加する。そして、重み係数βは動き量の増加に伴って増加し、また、垂直方向相関値dhは動き量が垂直方向に強い相関を持つ場合に増加することから、動き量が大きく、動き量が垂直方向に強い相関を持つ場合には、この場合に適した垂直フィルタ及び色分離部62の影響が強められることとなる。
【0136】
(ノイズ低減装置の第4の実施形態)
次に、画像処理部4に含まれるノイズ低減装置の第4の実施形態について説明する。図28は、本発明の第4の実施形態に係るノイズ低減装置70の概略の構成を示すブロック図である。なお、ノイズ低減装置70においては、第1の実施形態に係るノイズ低減装置30及び第3の実施形態に係るノイズ低減装置60と同一の部分には同一の符号を付し、その詳細な説明は省略する。ノイズ低減装置70は、ノイズ低減装置30及びノイズ低減装置60と異なる構成として、相関方向検出部63及び第1の重み係数検出部64より信号が入力され、重み付け加算部72に信号を出力する第2の重み係数検出部71と;第1のフィルタ及び色分離部37、第2のフィルタ及び色分離部38、水平フィルタ及び色分離部61、垂直フィルタ及び色分離部62、及び第2の重み係数検出部71より信号が入力され、後段に信号を出力する重み付け加算部72と;を有している。
【0137】
ここで、ノイズ低減装置70の動作の概略について説明する。まず、外部からの現フレームの信号(ベイヤーデータ)が、ノイズ検出部31、動き検出部32、及び減算器36に入力される。また、フレームメモリ34からの現フレームの1フレーム前の信号が、ノイズ検出部31及び動き検出部32に入力される。すると、第1の実施形態と同様に、ノイズ低減処理部31は、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号とから各画素のノイズ検出値を算出し、これを乗算器35に出力する。
【0138】
そして、次に、動き検出部32が、第1の実施形態と同様に、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号とから各画素の動き量を算出し、これを帰還係数検出部33、相関方向検出部63、及び第1の重み係数検出部64に出力する。すると、帰還係数検出部33が、第1の実施形態と同様に、動き検出部32より入力された各画素の動き量から各画素の帰還係数kを算出し、これを乗算器35に出力する。また、相関方向検出部63が、第3の実施形態と同様に、動き検出部32より入力された各画素の動き量から各画素の水平方向相関値dvと、垂直方向相関値dhを算出し、これを第2の重み係数検出部71に出力する。また、第1の重み係数検出部64が、第3の実施形態と同様に、動き検出部32より入力された各画素の動き量から各画素の重み係数βを算出し、これを第2の重み係数検出部71に出力する。
【0139】
そして、次に、乗算器35が、第1の実施形態と同様に、ノイズ検出部31より入力された各画素のノイズ検出値と、帰還係数検出部33より入力された各画素の帰還係数kとを乗算し、得られた各画素の減算ノイズ値を減算器36へ出力する。すると、減算器36が、第1の実施形態と同様に、外部より入力された現フレームの信号から、乗算器35より入力された各画素の減算ノイズ値を減算し、得られた3次元ノイズ低減後信号をフレームメモリ34、第1のフィルタ及び色分離部37、第2のフィルタ及び色分離部38、水平フィルタ及び色分離部61、及び垂直フィルタ及び色分離部62に出力する。
【0140】
そして、次に、第1のフィルタ及び色分離部37が、第1の実施形態と同様に、減算器36より入力された3次元ノイズ低減後信号に対して空間的なローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第1フィルタ後信号L1(R)、L1(G)、L1(B)を重み付け加算部72に出力する。また、第2のフィルタ及び色分離部38が、第1の実施形態と同様に、減算器36より入力された3次元ノイズ低減後信号に対して、第1のフィルタ及び色分離部37よりも高域の空間的なローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)を重み付け加算部72に出力する。
【0141】
また、水平フィルタ及び色分離部61が、第3の実施形態と同様に、減算器36より入力された3次元ノイズ低減後信号に対して水平方向のローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の水平フィルタ後信号LH(R)、LH(G)、LH(B)を重み付け加算部72に出力する。また、垂直フィルタ及び色分離部62が、第3の実施形態と同様に、減算器36より入力された3次元ノイズ低減後信号に対して垂直方向のローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の垂直フィルタ後信号LV(R)、LV(G)、LV(B)を重み付け加算部72に出力する。また、第2の重み係数検出部71が、相関方向検出部63より入力された各画素の水平方向相関値dv及び垂直方向相関値dhと、第1の重み係数検出部64より入力された各画素の重み係数βとから、各画素の第1重み係数εと、水平方向重み係数γと、垂直方向重み係数δとを算出し、これを重み付け加算部72に出力する。
【0142】
そして、次に、重み付け加算部72が、第1のフィルタ及び色分離部37より入力されたR、G、B各色の第1フィルタ後信号L1(R)、L1(G)、L1(B)と、第2のフィルタ及び色分離部38より入力されたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)と、水平フィルタ及び色分離部61より入力されたR、G、B各色の水平フィルタ後信号LH(R)、LH(G)、LH(B)と、垂直フィルタ及び色分離部62より入力されたR、G、B各色の垂直フィルタ後信号LV(R)、LV(G)、LV(B)とを、第2の重み係数検出部71より入力された各画素の第1重み係数εと、水平方向重み係数γと、垂直方向重み係数δとによって色ごとに重み付け加算し(つまり、O(R)=L1(R)×ε+LH(R)×γ+LV(R)×δ+L2(R)×(1−γ−δ−ε)、O(G)=L1(G)×ε+LH(G)×γ+LV(G)×δ+L2(G)×(1−γ−δ−ε)、O(B)=L1(B)×ε+LH(B)×γ+LV(B)×δ+L2(B)×(1−γ−δ−ε)である)得られたR、G、B各色の出力信号O(R)、O(G)、O(B)を後段に出力する。
【0143】
次に、第2の重み係数検出部71の詳細について説明する。第2の重み係数検出部71は、各画素について、水平方向相関値dvと、垂直方向相関値dhとの和が閾値Thξより小さければ、第1重み係数ε=β、水平方向重み係数γ=0、垂直方向重み係数δ=0と算出する一方、水平方向相関値dvと、垂直方向相関値dhとの和が閾値Thξ以上であれば、第1重み係数ε=0とし、水平方向重み係数γと、垂直方向重み係数δとは数4式を用いて算出し、これを重み付け加算部72へ出力する。
【0144】
このとき、水平方向相関値dvと、垂直方向相関値dhとの和が閾値Thξより小さければ、つまり、動き量の水平方向の相関の強さと、動き量の垂直方向の相関の強さとの和が小さい場合には、この場合に適するように、第1のフィルタ及び色分離部37と、第2のフィルタ及び色分離部38との影響が強められる一方、水平フィルタ及び色分離部61と、垂直フィルタ及び色分離部62との影響は無くなることとなる。また、水平方向相関値dvと、垂直方向相関値dhとの和が閾値Thξより大きければ、つまり、動き量の水平方向の相関の強さと、動き量の垂直方向の相関の強さとの和が大きい場合には、この場合に適するように、水平フィルタ及び色分離部61と、垂直フィルタ及び色分離部62との影響が強められる一方、第1のフィルタ及び色分離部37による影響はなくなり、第2のフィルタ及び色分離部38による影響が弱められることとなる。
【0145】
なお、上述の説明において、図1に示すような構成の撮像装置を例に挙げて、本発明におけるノイズ低減方法について説明したが、撮像装置に限らず、液晶ディスプレイやプラズマテレビなどの画像のデジタル処理を行う表示装置においても、本発明におけるノイズ低減方法を利用可能である。図29に、本発明におけるノイズ低減方法を行うノイズ低減装置(以下では、「画像処理部」に含まれる)を備えた表示装置を示す。
【0146】
図29に示す表示装置は、図1に示す撮像装置と同様、画像処理部4、ディスプレイ9、TG12、CPU13、メモリ14、操作部15、及び、バス回線16、17を備える。そして、外部で受信した放送信号を選局するチューナ部21と、チューナ部21で選局した放送信号を復調する復調部22と、外部から入力されたデジタル信号となる圧縮信号が入力されるインターフェース23とを、更に備える。
【0147】
この図29の表示装置は、放送信号を受信する場合は、チューナ部21で所望のチャンネルの放送信号を選局した後、復調部22で放送信号を復調することで、画像信号が得られる。
【0148】
そして、操作部15によって画像の表示が指示されると、復調部22で得られた画像信号が、画像処理部4に与えられ、上述のノイズ低減処理や色分離処理を含む各種画像処理が施された後に、得られた表示信号がディスプレイ9に与えられ、画像の表示がなされる。なお、図29においては省略したが、図1に示す撮像装置と同様に、音声出力回路部10、スピーカ11などを有することによって音声の出力を可能とする構成とすることも可能である。
【0149】
なお、本発明は上記の実施形態に限定されず、本発明の主旨を逸脱しない範囲で種々の変更が可能である。例えば、上記の第3の実施形態及び第4の実施形態においては、各画素の第1重み係数εと、水平方向重み係数γと、垂直方向重み係数δとを各色R、G、Bについて共通としたが、第2の実施形態と同様に、色ごとに異なるものとしてもよい。また、上記の実施形態においては、RAW画像信号は、ベイヤーデータであることとしたが、これに限られるものではない。また、上記の実施形態においては、イメージセンサ1が有する色フィルタは原色系のフィルタであることとしたが、補色系のフィルタであってもよい。
【産業上の利用可能性】
【0150】
本発明は、複数のフレームによって構成される動画像のノイズを低減するノイズ低減方法及びノイズ低減装置として有効である。また、本発明は、このノイズ低減装置を備えた電子機器として有効である。
【図面の簡単な説明】
【0151】
【図1】撮像装置の内部構成を示すブロック図。
【図2】イメージセンサ1に設置されたフィルタの配置を示す説明図。
【図3】ノイズ低減装置30の概略の構成を示すブロック図。
【図4】関数f(x)を示すグラフ。
【図5】動き検出部32の概略の構成を示すブロック図。
【図6】関数g(y)を示すグラフ。
【図7】第1のフィルタ及び色分離部37において、ベイヤーデータにおいて色Rの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図8】第1のフィルタ及び色分離部37において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図9】第1のフィルタ及び色分離部37において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図10】第1のフィルタ及び色分離部37において、ベイヤーデータにおいて色Bの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図11】第2のフィルタ及び色分離部38において、ベイヤーデータにおいて色Rの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図12】第2のフィルタ及び色分離部38において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図13】第2のフィルタ及び色分離部38において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図14】第2のフィルタ及び色分離部38において、ベイヤーデータにおいて色Bの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図15】第2のフィルタ及び色分離部38の回路構成を示すブロック図。
【図16】関数h(y)を示すグラフ。
【図17】ノイズ低減装置50の概略の構成を示すブロック図。
【図18】ノイズ低減装置60の概略の構成を示すブロック図。
【図19】水平フィルタ及び色分離部61において、ベイヤーデータにおいて色Rの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図20】水平フィルタ及び色分離部61において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図21】水平フィルタ及び色分離部61において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図22】水平フィルタ及び色分離部61において、ベイヤーデータにおいて色Bの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図23】垂直フィルタ及び色分離部62において、ベイヤーデータにおいて色Rの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図24】垂直フィルタ及び色分離部62において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図25】垂直フィルタ及び色分離部62において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図26】垂直フィルタ及び色分離部62において、ベイヤーデータにおいて色Bの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図27】垂直方向勾配検出フィルタ及び水平方向勾配検出フィルタを示す説明図。
【図28】ノイズ低減装置70の概略の構成を示すブロック図。
【図29】表示装置の内部構成を示すブロック図。
【符号の説明】
【0152】
30、50、60、70 ノイズ低減装置
32 動き検出部
37 第1のフィルタ及び色分離部(フィルタ及び色分離部)
38 第2のフィルタ及び色分離部(フィルタ及び色分離部、空間フィルタ及び色分離部)
39、51 重み係数検出部
40、52、66、72 重み付け加算部
61 水平フィルタ及び色分離部(フィルタ及び色分離部)
62 垂直フィルタ及び色分離部(フィルタ及び色分離部)
63 相関方向検出部
64 第1の重み係数検出部
65、71 第2の重み係数検出部
【技術分野】
【0001】
本発明は、複数のフレームによって構成される動画像のノイズを低減するノイズ低減装置及びノイズ低減方法に関するもので、特に、データ量を低減し、処理を簡素化したノイズ低減装置及びノイズ低減方法に関する。また、本発明は、このノイズ低減装置を備えた電子機器に関する。
【背景技術】
【0002】
近年、各種デジタル技術の発展に伴い、CCD(Charge Coupled Device)やCMOS(Complimentary Metal Oxide Semiconductor)センサなどの固体撮像素子によってデジタル画像を撮影するデジタルカメラやデジタルビデオなどといった撮像装置や、デジタル画像を表示する液晶ディスプレイやプラズマテレビなどといった表示装置が広く普及しつつある。そして、このような撮像装置や表示装置における、複数のフレームによって構成される動画像のノイズを低減するための、各種のノイズ低減技術が提案されている。
【0003】
このノイズ低減技術の代表的なものとしては、空間的なローパスフィルタ(LPF)を作用させることによってノイズを低減しようとする2次元ノイズ低減処理、及び、時間的に連続する2つのフレームの信号を加算することによって時間的なローパスフィルタ(LPF)を作用させ、ノイズを低減しようとする3次元ノイズ低減処理が挙げられる。
【0004】
また、この3次元ノイズ低減処理を利用したノイズ低減方法として、特許文献1には、撮像素子で生成されたRAW画像データに対して、画素補間による色分離前に3次元ノイズ低減処理を行うことで、データ量を低減し、処理を簡素化したノイズ低減方法が記載されている。なお、特許文献1のノイズ低減方法においては、時間的に連続する2つのフレームの差分によって算出された動き量が小さい画素には3次元ノイズ低減処理の影響が大きくなり、動き量が大きい画素には3次元ノイズ低減処理の影響が小さくなるような重み付けがなされる。
【特許文献1】特開2005−175864号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1のノイズ低減方法においては、データ量の低減及び処理の簡素化は達成されるものの、ノイズ低減のための処理としては3次元ノイズ低減処理を行っているのみであり、動き量の大きい画素については3次元ノイズ低減処理の影響が小さくなるような重み付けがなされることから、動き量の大きい画素についてはノイズ低減効果が殆ど得られないという問題がある。この問題を解決するためには、画素補間による色分離後に2次元ノイズ低減処理を行えばよいが、この場合には、2次元ノイズ低減処理を行うために、色ごとの信号値を複数ライン分記憶するメモリが必要となり、装置の大型化が問題となる。
【0006】
上記の問題を鑑みて、本発明においては、データ量を低減し、処理を簡素化したノイズ低減装置及びノイズ低減方法であって、動き量の大きい画素についても十分なノイズ低減効果が得られるノイズ低減装置及びノイズ低減方法を提供することを目的とする。また、本発明は、このノイズ低減装置を備えた電子機器を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明においては、ノイズ低減装置は、外部より入力されたRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減処理部を有するノイズ低減装置であって、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、ノイズ低減処理及び色分離を同時に行い、各色のフィルタ後信号を得る複数のノイズ低減処理及び色分離部と、複数の前記ノイズ低減処理及び色分離部より入力された各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合部と、を有することを特徴とする。
【0008】
本発明においては、ノイズ低減装置は、外部より入力されたRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減処理部を有するノイズ低減装置であって、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、ローパスフィルタを作用させると同時に色分離を行い、各色のフィルタ後信号を得る複数のフィルタ及び色分離部と、複数の前記フィルタ及び色分離部より入力された各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合部と、を有することを特徴とする。
【0009】
また、本発明においては、上記構成のノイズ低減装置において、複数の前記フィルタ及び色分離部は、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、所定の帯域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第1フィルタ後信号を得る第1のフィルタ及び色分離部と、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、前記所定の帯域よりも高域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第2フィルタ後信号を得る第2のフィルタ及び色分離部と、によって構成され、前記混合部は、前記第1のフィルタ及び色分離部より入力された各色の前記第1フィルタ後信号と、前記第2のフィルタ及び色分離部より入力された各色の前記第2フィルタ後信号とを、色ごとに所定の重み係数によって重み付け加算し、各色の前記出力信号を得るものであって、外部より入力された前記RAW画像信号と、1フレーム前の前記3次元ノイズ低減後信号との差分値を算出することによって各画素の時間軸方向の動き量を得る動き検出部と、前記動き検出部より入力された各画素の時間軸方向の前記動き量に応じて前記所定の重み係数を算出する重み係数検出部と、を有することが望ましい。
【0010】
また、本発明においては、上記構成のノイズ低減装置において、複数の前記フィルタ及び色分離部は、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、空間的なローパスフィルタを作用させると同時に色分離を行い、各色の空間フィルタ後信号を得る空間フィルタ及び色分離部と、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、水平方向のローパスフィルタを作用させると同時に色分離を行い、各色の水平フィルタ後信号を得る水平フィルタ及び色分離部と、前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、垂直方向のローパスフィルタを作用させると同時に色分離を行い、各色の垂直フィルタ後信号を得る垂直フィルタ及び色分離部と、によって構成され、前記混合部は、前記空間フィルタ及び色分離部より入力された各色の前記空間フィルタ後信号と、前記水平フィルタ及び色分離部より入力された各色の前記水平フィルタ後信号と、前記垂直フィルタ及び色分離部より入力された各色の前記垂直フィルタ後信号とを、色ごとに所定の重み係数によって重み付け加算し、各色の前記出力信号を得るものであって、外部より入力された前記RAW画像信号と、1フレーム前の前記3次元ノイズ低減後信号との差分値を算出することによって各画素の時間軸方向の動き量を得る動き検出部と、前記動き検出部より入力された各画素の時間軸方向の前記動き量の水平方向相関値及び垂直方向相関値を算出する相関方向検出部と、前記動き検出部より入力された各画素の時間軸方向の前記動き量と、前記相関方向検出部より入力された各画素の時間軸方向の前記動き量の前記水平方向相関値及び前記垂直方向相関値とに応じて前記所定の重み係数を算出する重み係数検出部と、を有することが望ましい。
【0011】
また、本発明においては、上記構成のノイズ低減装置において、前記所定の重み係数は、色ごとに異なることとしてもよい。
【0012】
本発明においては、ノイズ低減方法は、動画を構成するRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減処理ステップを有するノイズ低減方法であって、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、ノイズ低減処理及び色分離を同時に行い、各色のフィルタ後信号を得る複数のノイズ低減処理及び色分離ステップと、複数の前記ノイズ低減処理及び色分離ステップで得られた各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合ステップと、を有することを特徴とする。
【0013】
本発明においては、ノイズ低減方法は、動画を構成するRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減ステップを有するノイズ低減方法であって、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、ローパスフィルタを作用させると同時に色分離を行い、各色のフィルタ後信号を得る複数のフィルタ及び色分離ステップと、複数の前記フィルタ及び色分離部ステップで得られた各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合ステップと、を有することを特徴とする。
【0014】
また、本発明においては、上記構成のノイズ低減方法において、複数の前記フィルタ及び色分離ステップは、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、所定の帯域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第1フィルタ後信号を得る第1のフィルタ及び色分離ステップと、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、前記所定の帯域よりも高域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第2フィルタ後信号を得る第2のフィルタ及び色分離ステップと、によって構成され、前記混合ステップは、前記第1のフィルタ及び色分離ステップで得られた各色の前記第1フィルタ後信号と、前記第2のフィルタ及び色分離ステップで得られた各色の前記第2フィルタ後信号とを、色ごとに所定の重み係数によって重み付け加算し、各色の前記出力信号を得るステップであって、動画を構成する前記RAW画像信号と、1フレーム前の前記3次元ノイズ低減後信号との差分値を算出することによって各画素の時間軸方向の動き量を得る動き検出ステップと、前記動き検出ステップで得られた各画素の時間軸方向の前記動き量に応じて前記所定の重み係数を算出する重み係数検出ステップと、を有することが望ましい。
【0015】
また、本発明においては、上記構成のノイズ低減方法において、複数の前記フィルタ及び色分離ステップは、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、空間的なローパスフィルタを作用させると同時に色分離を行い、各色の空間フィルタ後信号を得る空間フィルタ及び色分離ステップと、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、水平方向のローパスフィルタを作用させると同時に色分離を行い、各色の水平フィルタ後信号を得る水平フィルタ及び色分離ステップと、前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、垂直方向のローパスフィルタを作用させると同時に色分離を行い、各色の垂直フィルタ後信号を得る垂直フィルタ及び色分離ステップと、によって構成され、前記混合ステップは、前記空間フィルタ及び色分離ステップで得られた各色の前記空間フィルタ後信号と、前記水平フィルタ及び色分離ステップで得られた各色の前記水平フィルタ後信号と、前記垂直フィルタ及び色分離ステップで得られた各色の前記垂直フィルタ後信号とを、色ごとに所定の重み係数によって重み付け加算し、各色の前記出力信号を得るステップであって、動画を構成する前記RAW画像信号と、1フレーム前の前記3次元ノイズ低減後信号との差分値を算出することによって各画素の時間軸方向の動き量を得る動き検出ステップと、前記動き検出ステップで得られた各画素の時間軸方向の前記動き量の水平方向相関値及び垂直方向相関値を算出する相関方向検出ステップと、前記動き検出ステップで得られた各画素の時間軸方向の前記動き量と、前記相関方向検出ステップで得られた各画素の時間軸方向の前記動き量の前記水平方向相関値及び前記垂直方向相関値とに応じて前記所定の重み係数を算出する重み係数検出ステップと、を有することが望ましい。
【0016】
また、本発明においては、上記構成のノイズ低減方法において、前記所定の重み係数は、色ごとに異なることとしてもよい。
【0017】
本発明においては、電子機器は、動画を構成するRAW画像信号が外部入力又は撮像によって与えられるとともに、該動画のノイズを低減するノイズ低減装置を備えた電子機器であって、前記ノイズ低減装置は、上記構成のノイズ低減装置であることを特徴とする。
【発明の効果】
【0018】
本発明のノイズ低減装置及びノイズ低減方法によると、3次元ノイズ低減後信号に対して、ローパスフィルタを作用させると同時に色分離を行うことによって得られた各色の複数のフィルタ後信号を、所定の重み係数によって色ごとに重み付け加算することによって出力信号を得るので、データ量を低減し、処理を簡素化したノイズ低減装置及びノイズ低減方法であって、更に、3次元ノイズ低減処理によるノイズ低減効果が十分に得られない動き量の大きい画素についても、十分なノイズ低減効果を得ることができる。
【0019】
また、本発明のノイズ低減装置及びノイズ低減方法によると、3次元ノイズ低減後信号に対して所定の帯域の空間的なローパスフィルタを作用させると同時に色分離を行うことによって得られた各色の第1フィルタ後信号と、3次元ノイズ低減後信号に対して所定の帯域よりも高域の空間的なローパスフィルタを作用させると同時に色分離を行うことによって得られた各色の第2フィルタ後信号とを、各画素の時間軸方向の動き量に応じて算出された重み係数によって色ごとに重み付け加算することによって出力信号を得るので、例えば、動き量の小さい画素に対しては、高域の空間的なローパスフィルタの影響を強める一方、低域の空間的なローパスフィルタの影響を弱め、動き量の大きい画素に対しては、低域の空間的なローパスフィルタの影響を強める一方、高域の空間的なローパスフィルタの影響を弱めることとすれば、動き量に応じた適切なノイズ低減処理を行うことができることから、十分なノイズ低減効果を得ることができ、また画像ぼけを抑制することができる。
【0020】
また、本発明のノイズ低減装置及びノイズ低減方法によると、3次元ノイズ低減後信号に対して空間的なローパスフィルタを作用させると同時に色分離を行うことによって得られた各色の空間フィルタ後信号と、3次元ノイズ低減後信号に対して水平方向のローパスフィルタを作用させると同時に色分離を行うことによって得られた各色の水平フィルタ後信号と、3次元ノイズ低減後信号に対して垂直方向のローパスフィルタを作用させると同時に色分離を行うことによって得られた各色の垂直フィルタ後信号とを、各画素の時間軸方向の動き量と、各画素の時間軸方向の動き量の水平方向相関値及び垂直方向相関値とに応じて算出された重み係数によって色ごとに重み付け加算することによって出力信号を得るので、例えば、動き量が大きく、動き量の水平方向相関値が大きい画素に対しては、水平方向のローパスフィルタの影響を強める一方、空間的なローパスフィルタ及び垂直方向のローパスフィルタの影響を弱め、動き量が大きく、動き量の垂直方向相関値が大きい画素に対しては、垂直方向のローパスフィルタの影響を強める一方、空間的なローパスフィルタ及び水平方向のローパスフィルタの影響を弱め、動き量が小さい画素に対しては、空間的なローパスフィルタの影響を強める一方、水平方向のローパスフィルタ及び垂直方向のローパスフィルタの影響を弱めることとすれば、各画素の時間軸方向の動き量と、各画素の時間軸方向の動き量の水平方向及び垂直方向の相関の強さに応じた適切なノイズ低減処理を行うことができることから、十分なノイズ低減効果を得ることができ、また画像ぼけを抑制することができる。
【0021】
また、本発明のノイズ低減装置及びノイズ低減方法によると、所定の重み係数は色ごとに異なるので、例えば、色Gの第1フィルタ後信号の重みを、色R及び色Bの第1フィルタ後信号の重みと比較して小さくすれば、輝度信号への寄与度が高い色Gのぼけを抑制することができる。
【発明を実施するための最良の形態】
【0022】
本発明の実施の形態について、図面を参照して説明する。なお、以下では、本発明におけるノイズ低減方法を行うノイズ低減装置(以下では、「画像処理部」に含まれる)を備えたデジタルカメラやデジタルビデオなどの撮像装置を例に挙げて説明する。また、後述するが、同様のノイズ低減装置を備えるものであれば、液晶ディスプレイやプラズマテレビなどの画像のデジタル処理を行う表示装置であっても構わない。
【0023】
(撮像装置の構成)
まず、撮像装置の内部構成について、図面を参照して説明する。図1は、撮像装置の内部構成を示すブロック図である。
【0024】
図1の撮像装置は、被写体から入射される光を電気信号に変換するCCDまたはCMOSセンサなどの固体撮像素子(イメージセンサ)1と;イメージセンサ1から出力されるアナログ信号である画像信号をデジタル信号に変換するAFE(Analog FrontEnd)2と;外部から入力された音声を電気信号に変換するマイク3と;AFE2からのデジタル信号となる画像信号に対して色分離処理及びノイズ低減処理を含む各種画像処理を施す画像処理部4と;マイク3からのアナログ信号である音声信号をデジタル信号に変換する音声処理部5と;画像処理部4からの画像信号と音声処理部5からの音声信号とに対してMPEG(Moving Picture Experts Group)圧縮方式などの圧縮符号化処理を施す圧縮処理部6と;圧縮処理部6で圧縮符号化された圧縮符号化信号を外部メモリ20に記録するドライバ部7と;ドライバ部7で外部メモリ20から読み出した圧縮符号化信号を伸長して復号する伸長処理部8と;伸長処理部8で復号されて得られた画像信号による画像の表示を行うディスプレイ9と;伸長処理部8からの音声信号をアナログ信号に変換する音声出力回路部10と;音声出力回路部10からの音声信号に基づいて音声を再生出力するスピーカ11と;各ブロックの動作タイミングを一致させるためのタイミング制御信号を出力するTG(Timing Generator)12と;撮像装置内全体の駆動動作を制御するCPU(Central Processing Unit)13と;各動作のための各プログラムを記憶するとともにプログラム実行時のデータの一時保管を行うメモリ14と;ユーザからの指示が入力される操作部15と;メモリ14と各ブロックとの間でデータのやりとりを行うためのバス回線16と;CPU13と各ブロックとの間でデータのやりとりを行うためのバス回線17と;を備える。
【0025】
このような構成の撮像装置において、イメージセンサ1は、透過率の異なる複数種類の色フィルタが各画素の表面に設置された固体撮像素子、即ち、単板式色フィルタを備えた固体撮像素子である。この色フィルタは、隣接する画素毎に異なる種類の色フィルタが設置される。したがって、イメージセンサ1から出力される映像信号は、各画素が単色の色情報しか持たない、いわゆるRAW画像信号となる。このようなイメージセンサ1に設置される単板式色フィルタとして、例えば、図2のようなR(Red)フィルタとG(Green)フィルタとB(Blue)フィルタとからなるベイヤーフィルタが構成される。この図2のベイヤーフィルタは、GフィルタとRフィルタとが水平方向に交互に並ぶラインと、BフィルタとGフィルタとが水平方向に交互に並ぶラインとを、垂直方向に交互に並ぶようにして備える。即ち、GフィルタとBフィルタとが垂直方向に交互に並ぶラインと、RフィルタとGフィルタとが垂直方向に交互に並ぶラインとが、水平方向に交互に並ぶ。このようなベイヤーフィルタを備えたイメージセンサ1において、RGBフィルタそれぞれを備えた画素よりRGB信号それぞれとなる映像信号が出力される。
【0026】
そして、この撮像装置において、撮像動作を行うことが操作部15によって指示されると、イメージセンサ1の光電変換動作によって得られたアナログ信号である画像信号がAFE2に出力される。このとき、イメージセンサ1では、TG12からのタイミング制御信号が与えられることによって、水平走査及び垂直走査が行われて、画素毎のデータとなる画像信号が出力される。そして、AFE2において、アナログ信号である画像信号がデジタル信号に変換されて、画像処理部4に入力されると、ノイズ低減処理や色分離処理などの各種画像処理が施される。なお、画像処理部4の詳細については後述する。
【0027】
そして、画像処理部4で画像処理が施された画像信号が圧縮処理部6に与えられる。このとき、マイク3に音声入力されることで得られたアナログ信号である音声信号が、音声処理部5でデジタル信号に変換されて、圧縮処理部6に与えられる。これにより、圧縮処理部6では、デジタル信号である画像信号及び音声信号に対して、MPEG圧縮符号方式に基づいて、圧縮符号化してドライバ部7に与えて、外部メモリ20に記録させる。また、このとき、外部メモリ20に記録された圧縮信号がドライバ部7によって読み出されて伸長処理部8に与えられて、伸長処理が施されて画像信号が得られる。この画像信号がディスプレイ9に与えられて、現在、イメージセンサ1を通じて撮影されている被写体画像が表示される。
【0028】
なお、上述では、動画撮影時の動作について説明したが、静止画像撮影が指示された場合においても、マイク3による音声信号の取得がなく、画像信号のみの圧縮信号が外部メモリ20に記録されるだけとなるが、その基本動作については動画撮影時の動作と同様である。また、この静止画像撮影の場合、操作部15によって撮影された静止画像に対する圧縮信号が外部メモリ20に記録されるだけでなく、イメージセンサ1によって撮影されている現時点の画像に対する圧縮信号が外部メモリ20に一時的に記録される。これにより、現在撮影されている画像に対する圧縮信号が伸長処理部8で伸長されることで、イメージセンサ1によって撮影されている現時点の画像がディスプレイ9に表示され、ユーザが確認することができる。
【0029】
このように撮像動作を行うとき、TG12によって、AFE2、映像処理部4、音声処理部5、圧縮処理部6、及び伸長処理部8に対してタイミング制御信号が与えられ、イメージセンサ1による1フレームごとの撮像動作に同期した動作が行われる。また、静止画像撮影のときは、操作部15によるシャッタ動作に基づいて、TG12より、イメージセンサ1、AFE2、映像処理部4、及び、圧縮処理部6それぞれに対してタイミング制御信号が与えられ、各部の動作タイミングを同期させる。
【0030】
また、外部メモリ20に記録された動画または画像を再生することが、操作部15を通じて指示されると、外部メモリ20に記録された圧縮信号は、ドライバ部7によって読み出されて伸長処理部8に与えられる。そして、伸長処理部8において、MPEG圧縮符号方式に基づいて、伸長復号されて、画像信号及び音声信号が取得される。そして、画像信号がディスプレイ9に与えられて画像が再生されるとともに、音声信号が音声出力回路部10を介してスピーカ11に与えられて音声が再生される。これにより、外部メモリ20に記録された圧縮信号に基づく動画が音声とともに再生される。また、圧縮信号が画像信号のみより成るときは、ディスプレイ9に画像のみが再生されることとなる。
【0031】
(ノイズ低減装置の第1の実施形態)
次に、画像処理部4に含まれるノイズ低減装置の第1の実施形態について説明する。図3は、本発明の第1の実施形態に係るノイズ低減装置30の概略の構成を示すブロック図である。ノイズ低減装置30は、外部及びフレームメモリ34より信号が入力され、乗算器35に信号を出力するノイズ検出部31と;外部及びフレームメモリ34より信号が入力され、帰還係数検出部33及び重み係数検出部39に信号を出力する動き検出部32と;動き検出部32より信号が入力され、乗算器35に信号を出力する帰還係数検出部33と;減算器36より信号が入力され、ノイズ検出部31及び動き検出部32に信号を出力するフレームメモリ34と;ノイズ検出部31及び帰還係数検出部33より信号が入力され、減算器36に信号を出力する乗算器35と;外部及び乗算器35より信号が入力され、フレームメモリ34、第1のフィルタ及び色分離部37、及び第2のフィルタ及び色分離部38に信号を出力する減算器36と;減算器36より信号が入力され、重み付け加算部40に信号を出力する第1のフィルタ及び色分離部37と;減算器36より信号が入力され、重み付け加算部40に信号を出力する第2のフィルタ及び色分離部38と;動き検出部32より信号が入力され、重み付け加算部40に信号を出力する重み係数検出部39と;第1のフィルタ及び色分離部37、第2のフィルタ及び色分離部38、及び重み係数検出部39より信号が入力され、後段に信号を出力する重み付け加算部40と;を有している。なお、以下では、現フレームの信号は外部から入力されることとするが、この外部とは、図1の撮像装置のAFE2、あるいは画像処理部4のノイズ低減装置30の前段階の画像処理を行う部分のことを指すものである。
【0032】
ここで、ノイズ低減装置30の動作の概略について説明する。まず、外部からの現フレームの信号(ベイヤーデータ)が、ノイズ検出部31、動き検出部32、及び減算器36に入力される。また、フレームメモリ34からの現フレームの1フレーム前の信号が、ノイズ検出部31及び動き検出部32に入力される。すると、ノイズ低減処理部31は、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号とから各画素のノイズ検出値を算出し、これを乗算器35に出力する。
【0033】
そして、次に、動き検出部32が、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号とから各画素の動き量を算出し、これを帰還係数検出部33及び重み係数検出部39に出力する。すると、帰還係数検出部33が、動き検出部32より入力された各画素の動き量から各画素の帰還係数kを算出し、これを乗算器35に出力する。
【0034】
そして、次に、乗算器35が、ノイズ検出部31より入力された各画素のノイズ検出値と、帰還係数検出部33より入力された各画素の帰還係数kとを乗算し、得られた各画素の減算ノイズ値を減算器36へ出力する。すると、減算器36が、外部より入力された現フレームの信号から、乗算器35より入力された各画素の減算ノイズ値を減算し、得られた3次元ノイズ低減後信号をフレームメモリ34、第1のフィルタ及び色分離部37、及び第2のフィルタ及び色分離部38に出力する。
【0035】
そして、次に、第1のフィルタ及び色分離部37が、減算器36より入力された3次元ノイズ低減後信号に対して空間的な(2次元の)ローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第1フィルタ後信号L1(R)、L1(G)、L1(B)を重み付け加算部40に出力する。また、第2のフィルタ及び色分離部38が、減算器36より入力された3次元ノイズ低減後信号に対して、第1のフィルタ及び色分離部37よりも高域の空間的な(2次元の)ローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)を重み付け加算部40に出力する。また、重み係数検出部39が、動き検出部32より入力された各画素の動き量から各画素の重み係数αを算出し、これを重み付け加算部40に出力する。
【0036】
そして、次に、重み付け加算部40が、第1のフィルタ及び色分離部37より入力されたR、G、B各色の第1フィルタ後信号L1(R)、L1(G)、L1(B)と、第2のフィルタ及び色分離部38より入力されたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)とを、重み係数検出部39より入力された各画素の重み係数αによって色ごとに重み付け加算し(つまり、O(R)=L1(R)×α+L2(R)×(1−α)、O(G)=L1(G)×α+L2(G)×(1−α)、O(B)=L1(B)×α+L2(B)×(1−α)である)、得られたR、G、B各色の出力信号O(R)、O(G)、O(B)を後段に出力する。
【0037】
次に、ノイズ検出部31の詳細について説明する。ノイズ検出部31は、外部より入力された現フレームの信号から、フレームメモリ34より入力された1フレーム前の信号を減算することによって得られた各画素の差分信号値xに対してノイズ検出値f(x)を算出し、これを乗算器35に出力する。ここで、関数f(x)としては、例えば、以下の数1式及び図4に示されるようなものが用いられる。
【数1】
【0038】
数1式及び図4に示される関数f(x)は、各画素の差分信号値xの絶対値が閾値thを超える場合にはノイズ検出値f(x)を抑えるものであり、これによって動き部分を誤ってノイズと検出してしまう誤動作を防止できる。
【0039】
次に、動き検出部32の詳細について説明する。図5は、動き検出部32の概略の構成を示すブロック図である。動き検出部32は、外部及びフレームメモリ34より信号が入力され、絶対値化部322に信号を出力する減算器321と;減算器321より信号が入力され、フィルタ部323に信号を出力する絶対値化部322と;絶対値化部322より信号が入力され、帰還係数検出部33に信号を出力するフィルタ部323と;を有している。
【0040】
ここで、動き検出部32の動作の概略について説明する。まず、外部からの現フレームの信号と、フレームメモリ34からの1フレーム前の信号とが減算器321に入力される。すると、減算器321は、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号との差分を計算し、得られた差分信号を絶対値化部322に出力する。
【0041】
そして、次に、絶対値化部322は、入力された差分信号を絶対値化し、得られた絶対値化信号をフィルタ部323に出力する。すると、フィルタ部323は、入力された絶対値化信号に対してローパスフィルタをかけることによって得られた各画素の動き量を帰還係数検出部33に出力する。ここで、フィルタ部323によってローパスフィルタをかけることによって、ノイズ信号と動きを示す信号との分離精度が高められる。
【0042】
次に、帰還係数検出部33の詳細について説明する。帰還係数検出部33は、動き検出部32より入力された各画素の動き量yに対して各画素の帰還係数k=g(y)を算出し、これを乗算器35に出力する。ここで、関数g(y)としては、例えば、以下の数2式及び図6に示されるようなものが用いられる。
【数2】
【0043】
数2式及び図6に示される関数g(y)は、動き量yの増加に伴って一次関数的に帰還係数kが1から減少し、動き量yが閾値thA以上となると、帰還係数kが0となるものであり、これによって、動き量yの小さい画素に対するノイズ検出部31によるノイズ低減効果、つまり、3次元ノイズ低減処理の効果を大きくし、動き量yの大きい画素に対するノイズ検出部31によるノイズ低減効果、つまり、3次元ノイズ低減処理の効果を小さくしている。なお、この閾値thAは、入力信号レベル及びノイズレベルに応じて決定することが望ましい。
【0044】
次に、第1のフィルタ及び色分離部37の詳細について説明する。なお、以下では注目画素の座標を(0、0)、その信号値をS(0、0)とし、注目画素から右にx画素、上にy画素の位置にある画素の座標を(x、y)、その信号値をS(x、y)と表すこととする。つまり、注目画素から右に2画素、上に2画素の位置にある画素の座標を(2、2)、その信号値をS(2、2)と表し、注目画素から左に2画素、下に2画素の位置にある画素の座標を(−2、−2)、その信号値をS(−2、−2)と表すこととする。
【0045】
第1のフィルタ及び色分離部37は、減算器36より入力された3次元ノイズ低減後信号(ベイヤーデータ)に対して空間的なローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第1フィルタ後信号L1(R)、L1(G)、L1(B)を重み付け加算部40に出力するものである。
【0046】
具体的には、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、図7(a)に示されるフィルタを用いて色Gの信号値を取得し、図7(b)に示されるフィルタを用いて色Bの信号値を取得し、色Rについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0047】
つまり、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、L1(G)=1/16×S(−1、2)+1/16×S(1、2)+1/16×S(−2、1)+1/8×S(0、1)+1/16×S(2、1)+1/8×S(−1、0)+1/8×S(1、0)+1/16×S(−2、−1)+1/8×S(0、−1)+1/16×S(2、−1)+1/16×S(−1、−2)+1/16×S(1、−2)によって色Gの信号値が取得される。
【0048】
また、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、L1(B)=1/16×S(−3、3)+1/16×S(−1、3)+1/16×S(1、3)+1/16×S(3、3)+1/16×S(−3、1)+1/16×S(−1、1)+1/16×S(1、1)+1/16×S(3、1)+1/16×S(−3、−1)+1/16×S(−1、−1)+1/16×S(1、−1)+1/16×S(3、−1)+1/16×S(−3、−3)+1/16×S(−1、−3)+1/16×S(1、−3)+1/16×S(3、−3)によって色Bの信号値が取得される。
【0049】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、図8(a)に示されるフィルタを用いて色Rの信号値を取得し、図8(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0050】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、L1(R)=1/8×S(−1、2)+1/8×S(1、2)+1/8×S(−3、0)+1/8×S(−1、0)+1/8×S(1、0)+1/8×S(3、0)+1/8×S(−1、−2)+1/8×S(1、−2)によって色Rの信号値が取得される。
【0051】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、L1(B)=1/8×S(0、3)+1/8×S(−2、1)+1/8×S(0、1)+1/8×S(2、1)+1/8×S(−2、−1)+1/8×S(0、−1)+1/8×S(2、−1)+1/8×S(0、−3)によって色Bの信号値が取得される。
【0052】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、図9(a)に示されるフィルタを用いて色Rの信号値を取得し、図9(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0053】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、L1(R)=1/8×S(0、3)+1/8×S(−2、1)+1/8×S(0、1)+1/8×S(2、1)+1/8×S(−2、−1)+1/8×S(0、−1)+1/8×S(2、−1)+1/8×S(0、−3)によって色Rの信号値が取得される。
【0054】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、L1(B)=1/8×S(−1、2)+1/8×S(1、2)+1/8×S(−3、0)+1/8×S(−1、0)+1/8×S(1、0)+1/8×S(3、0)+1/8×S(−1、−2)+1/8×S(1、−2)によって色Bの信号値が取得される。
【0055】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、図10(a)に示されるフィルタを用いて色Rの信号値を取得し、図10(b)に示されるフィルタを用いて色Gの信号値を取得し、色Bについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0056】
つまり、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、L1(R)=1/16×S(−3、3)+1/16×S(−1、3)+1/16×S(1、3)+1/16×S(3、3)+1/16×S(−3、1)+1/16×S(−1、1)+1/16×S(1、1)+1/16×S(3、1)+1/16×S(−3、−1)+1/16×S(−1、−1)+1/16×S(1、−1)+1/16×S(3、−1)+1/16×S(−3、−3)+1/16×S(−1、−3)+1/16×S(1、−3)+1/16×S(3、−3)によって色Rの信号値が取得される。
【0057】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、L1(G)=1/16×S(−1、2)+1/16×S(1、2)+1/16×S(−2、1)+1/8×S(0、1)+1/16×S(2、1)+1/8×S(−1、0)+1/8×S(1、0)+1/16×S(−2、−1)+1/8×S(0、−1)+1/16×S(2、−1)+1/16×S(−1、−2)+1/16×S(1、−2)によって色Gの信号値が取得される。
【0058】
次に、第2のフィルタ及び色分離部38の詳細について説明する。第2のフィルタ及び色分離部38は、減算器36より入力された3次元ノイズ低減後信号(ベイヤーデータ)に対して、第1のフィルタ及び色分離部37よりも高域の空間的なローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)を重み付け加算部40に出力するものである。
【0059】
具体的には、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、図11(a)に示されるフィルタを用いて色Gの信号値を取得し、図11(b)に示されるフィルタを用いて色Bの信号値を取得し、色Rについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0060】
つまり、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、L2(G)=1/4×S(0、1)+1/4×S(−1、0)+1/4×S(1、0)+1/4×S(0、−1)によって色Gの信号値が取得される。
【0061】
また、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、L2(B)=1/4×S(−1、1)+1/4×S(1、1)+1/4×S(−1、−1)+1/4×S(1、−1)によって色Bの信号値が取得される。
【0062】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、図12(a)に示されるフィルタを用いて色Rの信号値を取得し、図12(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0063】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、L2(R)=1/2×S(−1、0)+1/2×S(1、0)によって色Rの信号値が取得される。
【0064】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、L2(B)=1/2×S(0、1)+1/2×S(0、−1)によって色Bの信号値が取得される。
【0065】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、図13(a)に示されるフィルタを用いて色Rの信号値を取得し、図13(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0066】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、L2(R)=1/2×S(0、1)+1/2×S(0、−1)によって色Rの信号値が取得される。
【0067】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、L2(B)=1/2×S(−1、0)+1/2×S(1、0)によって色Bの信号値が取得される。
【0068】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、図14(a)に示されるフィルタを用いて色Rの信号値を取得し、図14(b)に示されるフィルタを用いて色Gの信号値を取得し、色Bについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0069】
つまり、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、L2(R)=1/4×S(−1、1)+1/4×S(1、1)+1/4×S(−1、−1)+1/4×S(1、−1)によって色Rの信号値が取得される。
【0070】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、L2(G)=1/4×S(0、1)+1/4×S(−1、0)+1/4×S(1、0)+1/4×S(0、−1)によって色Gの信号値が取得される。
【0071】
ここで、第2のフィルタ及び色分離部38の回路構成について説明する。図15は、第2のフィルタ及び色分離部38の回路構成を示すブロック図である。なお、以下では、x及びyは、−1、0、1の各値を取るものとする。
【0072】
第2のフィルタ及び色分離部38は、フィルタ係数a(x、y)を生成し、これを乗算器M(x、y)に出力する係数選択部Aと;S(x、y)を記憶し、これを乗算器M(x、y)に出力するメモリm(x、y)と;a(x、y)×S(x、y)を算出し、これを加算器Pに出力する乗算器M(x、y)と;a(x、y)×S(x、y)を全て加算し、これを重み付け加算部40に出力する加算機Pと;を有している。
【0073】
次に、第2のフィルタ及び色分離部38の動作の概略について説明する。まず、係数選択部Aが、注目画素の水平アドレス及び垂直アドレスから、注目画素がベイヤーデータにおいて色Rの信号値が得られている画素であるか、注目画素がベイヤーデータにおいて色Gの信号値が得られている画素であるか、あるいは、注目画素がベイヤーデータにおいて色Bの信号値が得られている画素であるかを判定する。また、注目画素がベイヤーデータにおいて色Gの信号値が得られている画素である場合には、注目画素の左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるか、あるいは、注目画素の左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるかの判定も行う。
【0074】
そして、次に、係数選択部Aは、注目画素の判定結果に応じて、まず、色Rの信号値を取得するためのフィルタ係数a(x、y)を生成し、これを乗算器M(x、y)に出力する。また、各メモリm(x、y)がS(x、y)を乗算器M(x、y)に出力する。そして、次に、各乗算器M(x、y)が、a(x、y)×S(x、y)を算出し、これを加算器Pに出力する。すると、加算機Pが、各乗算器M(x、y)から入力されたa(x、y)×S(x、y)を全て加算し、得られた色Rの信号値を重み付け加算部40に出力する。
【0075】
そして、次に、係数選択部Aは、注目画素の判定結果に応じて、色Gの信号値を取得するためのフィルタ係数a(x、y)を生成し、これを乗算器M(x、y)に出力する。また、各メモリm(x、y)がS(x、y)を乗算器M(x、y)に出力する。そして、次に、各乗算器M(x、y)が、a(x、y)×S(x、y)を算出し、これを加算器Pに出力する。すると、加算機Pが、各乗算器M(x、y)から入力されたa(x、y)×S(x、y)を全て加算し、得られた色Gの信号値を重み付け加算部40に出力する。
【0076】
そして、次に、係数選択部Aは、注目画素の判定結果に応じて、色Bの信号値を取得するためのフィルタ係数a(x、y)を生成し、これを乗算器M(x、y)に出力する。また、各メモリm(x、y)がS(x、y)を乗算器M(x、y)に出力する。そして、次に、各乗算器M(x、y)が、a(x、y)×S(x、y)を算出し、これを加算器Pに出力する。すると、加算機Pが、各乗算器M(x、y)から入力されたa(x、y)×S(x、y)を全て加算し、得られた色Bの信号値を重み付け加算部40に出力する。
【0077】
次に、第2のフィルタ及び色分離部38の動作について、注目画素がベイヤーデータにおいて色Rの信号値が得られている画素である場合を例として具体的に説明する。この場合、係数選択部Aが、まず、色Rの信号値を取得するためのフィルタ係数として、a(−1、1)=0、a(0、1)=0、a(1、1)=0、a(−1、0)=0、a(0、0)=1、a(1、0)=0、a(−1、−1)=0、a(0、−1)=0、a(1、−1)=0を生成し、これらを対応する乗算器M(x、y)に出力する。また、各メモリm(x、y)がS(x、y)を乗算器M(x、y)に出力する。
【0078】
すると、各乗算器M(x、y)及び加算器Pによって、L2(R)=0×S(−1、1)+0×S(0、1)+0×S(1、1)+0×S(−1、0)+1×S(0、0)+0×S(1、0)+0×S(−1、−1)+0×S(0、−1)+0×S(1、−1)=S(0、0)が算出され、重み付け加算部40に出力される。
【0079】
そして、次に、係数選択部Aは、色Gの信号値を取得するためのフィルタ係数として、a(−1、1)=0、a(0、1)=1/4、a(1、1)=0、a(−1、0)=1/4、a(0、0)=0、a(1、0)=1/4、a(−1、−1)=0、a(0、−1)=1/4、a(1、−1)=0を生成し(図11(a)参照)、これらを対応する乗算器M(x、y)に出力する。また、各メモリm(x、y)がS(x、y)を乗算器M(x、y)に出力する。
【0080】
すると、各乗算器M(x、y)及び加算器Pによって、L2(G)=0×S(−1、1)+1/4×S(0、1)+0×S(1、1)+1/4×S(−1、0)+0×S(0、0)+1/4×S(1、0)+0×S(−1、−1)+1/4×S(0、−1)+0×S(1、−1)=1/4×S(0、1)+1/4×S(−1、0)+1/4×S(1、0)+1/4×S(0、−1)が算出され、重み付け加算部40に出力される。
【0081】
そして、次に、係数選択部Aは、色Bの信号値を取得するためのフィルタ係数として、a(−1、1)=1/4、a(0、1)=0、a(1、1)=1/4、a(−1、0)=0、a(0、0)=0、a(1、0)=0、a(−1、−1)=1/4、a(0、−1)=0、a(1、−1)=1/4を生成し(図11(b)参照)、これらを対応する乗算器M(x、y)に出力する。また、各メモリm(x、y)がS(x、y)を乗算器M(x、y)に出力する。
【0082】
すると、各乗算器M(x、y)及び加算器Pによって、L2(B)=1/4×S(−1、1)+0×S(0、1)+1/4×S(1、1)+0×S(−1、0)+0×S(0、0)+0×S(1、0)+1/4×S(−1、−1)+0×S(0、−1)+1/4×S(1、−1)=1/4×S(−1、1)+1/4×S(1、1)+1/4×S(−1、−1)+1/4×S(1、−1)が算出され、重み付け加算部40に出力される。
【0083】
また、注目画素がベイヤーデータにおいて色Gの信号値が得られている画素であって、注目画素の左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素である場合には、係数選択部Aが、色Rの信号値を取得するためのフィルタ係数として、図12(a)に示されるフィルタ係数を生成し、色Gの信号値を取得するためのフィルタ係数として、a(−1、1)=0、a(0、1)=0、a(1、1)=0、a(−1、0)=0、a(0、0)=1、a(1、0)=0、a(−1、−1)=0、a(0、−1)=0、a(1、−1)=0を生成し、色Bの信号値を取得するためのフィルタ係数として、図12(b)に示されるフィルタ係数を生成する点を除いては、注目画素がベイヤーデータにおいて色Rの信号値が得られている画素である場合と同様である。
【0084】
また、注目画素がベイヤーデータにおいて色Gの信号値が得られている画素であって、注目画素の左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素である場合には、係数選択部Aが、色Rの信号値を取得するためのフィルタ係数として、図13(a)に示されるフィルタ係数を生成し、色Gの信号値を取得するためのフィルタ係数として、a(−1、1)=0、a(0、1)=0、a(1、1)=0、a(−1、0)=0、a(0、0)=1、a(1、0)=0、a(−1、−1)=0、a(0、−1)=0、a(1、−1)=0を生成し、色Bの信号値を取得するためのフィルタ係数として、図13(b)に示されるフィルタ係数を生成する点を除いては、注目画素がベイヤーデータにおいて色Rの信号値が得られている画素である場合と同様である。
【0085】
また、注目画素がベイヤーデータにおいて色Bの信号値が得られている画素である場合には、係数選択部Aが、色Rの信号値を取得するためのフィルタ係数として、図14(a)に示されるフィルタ係数を生成し、色Gの信号値を取得するためのフィルタ係数として、図14(b)に示されるフィルタ係数を生成し、色Bの信号値を取得するためのフィルタ係数として、a(−1、1)=0、a(0、1)=0、a(1、1)=0、a(−1、0)=0、a(0、0)=1、a(1、0)=0、a(−1、−1)=0、a(0、−1)=0、a(1、−1)=0を生成する点を除いては、注目画素がベイヤーデータにおいて色Rの信号値が得られている画素である場合と同様である。
【0086】
なお、以上の説明においては、色R、色G、色Bの信号値を、1組の乗算器M(x、y)及び加算機Pを用いて直列的に取得するものとしたが、色R、色G、色B各々の信号値を、別々の乗算器M(x、y)及び加算機Pを用いて並列的に取得するものとしてもよい。この場合、メモリm(x、y)については、1組のメモリm(x、y)を共用する構成とすればよい。
【0087】
なお、ここでは、説明の簡略化のために、第2のフィルタ及び色分離部38の回路構成及びその動作について説明したが、第1のフィルタ及び色分離部38の回路構成及びその動作についても、x及びyが−3、−2、−1、0、1、2、3の各値を取るものである点が異なるのみであり、その他の点は同一である。
【0088】
次に、重み係数検出部39の詳細について説明する。重み係数検出部39は、動き検出部32より入力された各画素の動き量yに対して各画素の重み係数α=h(y)を算出し、これを重み付け加算部40に出力する。ここで、関数h(y)としては、例えば、以下の数3式及び図16に示されるようなものが用いられる。
【数3】
【0089】
数3式及び図16に示される関数h(y)は、動き量yの増加に伴って一次関数的に重み係数αが0から上昇し、動き量yが閾値tha以上となると、重み係数αが1となるものであり、これによって、動き量yの小さい画素に対しては、低域の空間的なローパスフィルタを作用させる第1のフィルタ及び色分離部37の影響を弱める一方、高域の空間的なローパスフィルタを作用させる第2のフィルタ及び色分離部38の影響を強め、動き量yの大きい画素に対しては、低域の空間的なローパスフィルタを作用させる第1のフィルタ及び色分離部37の影響を強める一方、高域の空間的なローパスフィルタを作用させる第2のフィルタ及び色分離部38の影響を弱めている。なお、この閾値thaは、例えば、数2式及び図6に示される関数g(y)の閾値thAと等しい値とすればよい。
【0090】
上記構成のノイズ低減装置30においては、第1のフィルタ及び色分離部37と、第2のフィルタ及び色分離部38とによって、空間的なローパスフィルタ(LPF)を作用させると同時に色分離している。したがって、3次元ノイズ低減処理によるノイズ低減効果が十分に得られない動き量の大きい画素に対しても、空間的なローパスフィルタ(LPF)を作用させることから、十分なノイズ低減を行うことができる。また、空間的なローパスフィルタ(LPF)を作用させることと、色分離とを同時に行うことから、色ごとに空間的なローパスフィルタ(LPF)を作用させる場合と比べてデータ量を低減し、処理を簡素化することができる。
【0091】
(ノイズ低減装置の第2の実施形態)
次に、画像処理部4に含まれるノイズ低減装置の第2の実施形態について説明する。図17は、本発明の第2の実施形態に係るノイズ低減装置50の概略の構成を示すブロック図である。なお、ノイズ低減装置50においては、第1の実施形態に係るノイズ低減装置30と同一の部分には同一の符号を付し、その詳細な説明は省略する。ノイズ低減装置50は、ノイズ低減装置30と異なる構成として、動き検出部32より入力された各画素の動き量から、色ごとに異なる各画素の重み係数α(R)、α(G)、α(B)を算出し、これを重み付け加算部52に出力する重み係数検出部51と;第1のフィルタ及び色分離部37より入力されたR、G、B各色の第1フィルタ後信号L1(R)、L1(G)、L1(B)と、第2のフィルタ及び色分離部38より入力されたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)とを、重み係数検出部51より入力された、色ごとに異なる各画素の重み係数α(R)、α(G)、α(B)によって色ごとに重み付け加算し、得られたR、G、B各色の出力信号O(R)、O(G)、O(B)を後段に出力する(つまり、O(R)=L1(R)×α(R)+L2(R)×(1−α(R))、O(G)=L1(G)×α(G)+L2(G)×(1−α(G))、O(B)=L1(B)×α(B)+L2(B)×(1−α(B))である)重み付け加算部52と;を有している。
【0092】
次に、重み係数検出部51の詳細について説明する。重み係数検出部51は、動き検出部32より入力された各画素の動き量yに対して、色ごとに閾値thaを変えた、数3式及び図16に示されるh(y)を算出することによって、色ごとに異なる重み係数α(R)、α(G)、α(B)を算出し、これを重み付け加算部52に出力する。
【0093】
具体的には、色Rに対する閾値thaをthRとし、色Gに対する閾値thaをthGとし、色Bに対する閾値thaをthBとした場合には、thR=thB<thGとすることが望ましい。これによると、輝度信号への寄与度が高い色Gのぼけを抑制することができる。
【0094】
(ノイズ低減装置の第3の実施形態)
次に、画像処理部4に含まれるノイズ低減装置の第3の実施形態について説明する。図18は、本発明の第3の実施形態に係るノイズ低減装置60の概略の構成を示すブロック図である。なお、ノイズ低減装置60においては、第1の実施形態に係るノイズ低減装置30と同一の部分には同一の符号を付し、その詳細な説明は省略する。ノイズ低減装置60は、ノイズ低減装置30と異なる構成として、減算器36より信号が入力され、重み付け加算部66に信号を出力する水平フィルタ及び色分離部61と;減算器36より信号が入力され、重み付け加算部66に信号を出力する垂直フィルタ及び色分離部62と;動き検出部32より信号が入力され、第2の重み係数検出部65に信号を出力する相関方向検出部63と;動き検出部32より信号が入力され、第2の重み係数検出部65に信号を出力する第1の重み係数検出部64と;相関方向検出部63及び第1の重み係数検出部64より信号が入力され、重み付け加算部66に信号を出力する第2の重み係数検出部65と;第2のフィルタ及び色分離部38、水平フィルタ及び色分離部61、垂直フィルタ及び色分離部62、及び第2の重み係数検出部65より信号が入力され、後段に信号を出力する重み付け加算部66と;を有している。また、ノイズ低減装置60は、ノイズ低減装置30が有していた第1のフィルタ及び色分離部37を有していない。
【0095】
ここで、ノイズ低減装置60の動作の概略について説明する。まず、外部からの現フレームの信号(ベイヤーデータ)が、ノイズ検出部31、動き検出部32、及び減算器36に入力される。また、フレームメモリ34からの現フレームの1フレーム前の信号が、ノイズ検出部31及び動き検出部32に入力される。すると、ノイズ低減処理部31は、第1の実施形態と同様に、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号とから各画素のノイズ検出値を算出し、これを乗算器35に出力する。
【0096】
そして、次に、動き検出部32が、第1の実施形態と同様に、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号とから各画素の動き量を算出し、これを帰還係数検出部33、相関方向検出部63、及び第1の重み係数検出部64に出力する。すると、帰還係数検出部33が、第1の実施形態と同様に、動き検出部32より入力された各画素の動き量から各画素の帰還係数kを算出し、これを乗算器35に出力する。また、相関方向検出部63が、動き検出部32より入力された各画素の動き量から各画素の水平方向相関値dvと、垂直方向相関値dhを算出し、これを第2の重み係数検出部65に出力する。また、第1の重み係数検出部64が、動き検出部32より入力された各画素の動き量から各画素の重み係数βを算出し、これを第2の重み係数検出部65に出力する。
【0097】
そして、次に、乗算器35が、第1の実施形態と同様に、ノイズ検出部31より入力された各画素のノイズ検出値と、帰還係数検出部33より入力された各画素の帰還係数kとを乗算し、得られた各画素の減算ノイズ値を減算器36へ出力する。すると、減算器36が、第1の実施形態と同様に、外部より入力された現フレームの信号から、乗算器35より入力された各画素の減算ノイズ値を減算し、得られた3次元ノイズ低減後信号をフレームメモリ34、第2のフィルタ及び色分離部38、水平フィルタ及び色分離部61、及び垂直フィルタ及び色分離部62に出力する。
【0098】
そして、次に、第2のフィルタ及び色分離部38が、第1の実施形態と同様に、減算器36より入力された3次元ノイズ低減後信号に対して空間的なローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)を重み付け加算部66に出力する。また、水平フィルタ及び色分離部61が、減算器36より入力された3次元ノイズ低減後信号に対して水平方向のローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の水平フィルタ後信号LH(R)、LH(G)、LH(B)を重み付け加算部66に出力する。また、垂直フィルタ及び色分離部62が、減算器36より入力された3次元ノイズ低減後信号に対して垂直方向のローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の垂直フィルタ後信号LV(R)、LV(G)、LV(B)を重み付け加算部66に出力する。また、第2の重み係数検出部65が、相関方向検出部63より入力された各画素の水平方向相関値dv及び垂直方向相関値dhと、第1の重み係数検出部64より入力された各画素の重み係数βとから、各画素の水平方向重み係数γと、垂直方向重み係数δとを算出し、これを重み付け加算部66に出力する。
【0099】
そして、次に、重み付け加算部66が、第2のフィルタ及び色分離部38より入力されたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)と、水平フィルタ及び色分離部61より入力されたR、G、B各色の水平フィルタ後信号LH(R)、LH(G)、LH(B)と、垂直フィルタ及び色分離部62より入力されたR、G、B各色の垂直フィルタ後信号LV(R)、LV(G)、LV(B)とを、第2の重み係数検出部65より入力された各画素の水平方向重み係数γと、垂直方向重み係数δとによって色ごとに重み付け加算し(つまり、O(R)=L(R)×(1−γ−δ)+LH(R)×γ+LV(R)×δ、O(G)=L(G)×(1−γ−δ)+LH(G)×γ+LV(G)×δ、O(B)=L(B)×(1−γ−δ)+LH(B)×γ+LV(B)×δである)、得られたR、G、B各色の出力信号O(R)、O(G)、O(B)を後段に出力する。
【0100】
次に、水平フィルタ及び色分離部61の詳細について説明する。水平フィルタ及び色分離部61は、減算器36より入力された3次元ノイズ低減後信号(ベイヤーデータ)に対して水平方向のローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の水平フィルタ後信号LH(R)、LH(G)、LH(B)を重み付け加算部66に出力するものである。
【0101】
具体的には、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、図19(a)に示されるフィルタを用いて色Gの信号値を取得し、図19(b)に示されるフィルタを用いて色Bの信号値を取得し、色Rについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0102】
つまり、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、LH(G)=1/8×S(−2、1)+1/8×S(0、1)+1/8×S(2、1)+1/8×S(−1、0)+1/8×S(1、0)+1/8×S(−2、−1)+1/8×S(0、−1)+1/8×S(2、−1)によって色Gの信号値が取得される。
【0103】
また、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、LH(B)=1/8×S(−3、1)+1/8×S(−1、1)+1/8×S(1、1)+1/8×S(3、1)+1/8×S(−3、−1)+1/8×S(−1、−1)+1/8×S(1、−1)+1/8×S(3、−1)によって色Bの信号値が取得される。
【0104】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、図20(a)に示されるフィルタを用いて色Rの信号値を取得し、図20(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0105】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、LH(R)=1/16×S(−1、2)+1/16×S(1、2)+1/8×S(−3、0)+1/4×S(−1、0)+1/4×S(1、0)+1/8×S(3、0)+1/16×S(−1、−2)+1/16×S(1、−2)によって色Rの信号値が取得される。
【0106】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、LH(B)=1/8×S(−2、1)+1/4×S(0、1)+1/8×S(2、1)+1/8×S(−2、−1)+1/4×S(0、−1)+1/8×S(2、−1)によって色Bの信号値が取得される。
【0107】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、図21(a)に示されるフィルタを用いて色Rの信号値を取得し、図21(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0108】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、LH(R)=1/8×S(−2、1)+1/4×S(0、1)+1/8×S(2、1)+1/8×S(−2、−1)+1/4×S(0、−1)+1/8×S(2、−1)によって色Rの信号値が取得される。
【0109】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、LH(B)=1/16×S(−1、2)+1/16×S(1、2)+1/8×S(−3、0)+1/4×S(−1、0)+1/4×S(1、0)+1/8×S(3、0)+1/16×S(−1、−2)+1/16×S(1、−2)によって色Bの信号値が取得される。
【0110】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、図22(a)に示されるフィルタを用いて色Rの信号値を取得し、図22(b)に示されるフィルタを用いて色Gの信号値を取得し、色Bについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0111】
つまり、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、LH(R)=1/8×S(−3、1)+1/8×S(−1、1)+1/8×S(1、1)+1/8×S(3、1)+1/8×S(−3、−1)+1/8×S(−1、−1)+1/8×S(1、−1)+1/8×S(3、−1)によって色Rの信号値が取得される。
【0112】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、LH(G)=1/8×S(−2、1)+1/8×S(0、1)+1/8×S(2、1)+1/8×S(−1、0)+1/8×S(1、0)+1/8×S(−2、−1)+1/8×S(0、−1)+1/8×S(2、−1)によって色Gの信号値が取得される。
【0113】
なお、水平フィルタ及び色分離部61の回路構成及びその動作については、上述した第2のフィルタ及び色分離部38の回路構成及びその動作とほぼ同一であるので(x及びyが−3、−2、−1、0、1、2、3の各値を取るものである点が異なるのみ)、その説明は省略することとする。
【0114】
次に、垂直フィルタ及び色分離部62の詳細について説明する。垂直フィルタ及び色分離部62は、減算器36より入力された3次元ノイズ低減後信号(ベイヤーデータ)に対して垂直方向のローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の垂直フィルタ後信号LV(R)、LV(G)、LV(B)を重み付け加算部66に出力するものである。
【0115】
具体的には、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、図23(a)に示されるフィルタを用いて色Gの信号値を取得し、図23(b)に示されるフィルタを用いて色Bの信号値を取得し、色Rについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0116】
つまり、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、LV(G)=1/8×S(−1、2)+1/8×S(1、2)+1/8×S(0、1)+1/8×S(−1、0)+1/8×S(1、0)+1/8×S(0、−1)+1/8×S(−1、−2)+1/8×S(1、−2)によって色Gの信号値が取得される。
【0117】
また、ベイヤーデータにおいて色Rの信号値が得られている注目画素については、LV(B)=1/8×S(−1、3)+1/8×S(1、3)+1/8×S(−1、1)+1/8×S(1、1)+1/8×S(−1、−1)+1/8×S(1、−1)+1/8×S(−1、−3)+1/8×S(1、−3)によって色Bの信号値が取得される。
【0118】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、図24(a)に示されるフィルタを用いて色Rの信号値を取得し、図24(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0119】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、LV(R)=1/8×S(−1、2)+1/8×S(1、2)+1/4×S(−1、0)+1/4×S(1、0)+1/8×S(−1、−2)+1/8×S(1、−2)によって色Rの信号値が取得される。
【0120】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素であるものについては、LV(B)=1/8×S(0、3)+1/16×S(−2、1)+1/4×S(0、1)+1/16×S(2、1)+1/16×S(−2、−1)+1/4×S(0、−1)+1/16×S(2、−1)+1/8×S(0、−3)によって色Bの信号値が取得される。
【0121】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、図25(a)に示されるフィルタを用いて色Rの信号値を取得し、図25(b)に示されるフィルタを用いて色Bの信号値を取得し、色Gについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0122】
つまり、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、LV(R)=1/8×S(0、3)+1/16×S(−2、1)+1/4×S(0、1)+1/16×S(2、1)+1/16×S(−2、−1)+1/4×S(0、−1)+1/16×S(2、−1)+1/8×S(0、−3)によって色Rの信号値が取得される。
【0123】
また、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素であるものについては、LV(B)=1/8×S(−1、2)+1/8×S(1、2)+1/4×S(−1、0)+1/4×S(1、0)+1/8×S(−1、−2)+1/8×S(1、−2)によって色Bの信号値が取得される。
【0124】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、図26(a)に示されるフィルタを用いて色Rの信号値を取得し、図26(b)に示されるフィルタを用いて色Gの信号値を取得し、色Bについてはベイヤーデータにおいて得られている信号値をそのまま用いることとする。
【0125】
つまり、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、LV(R)=1/8×S(−1、3)+1/8×S(1、3)+1/8×S(−1、1)+1/8×S(1、1)+1/8×S(−1、−1)+1/8×S(1、−1)+1/8×S(−1、−3)+1/8×S(1、−3)によって色Rの信号値が取得される。
【0126】
また、ベイヤーデータにおいて色Bの信号値が得られている注目画素については、LV(G)=1/8×S(−1、2)+1/8×S(1、2)+1/8×S(0、1)+1/8×S(−1、0)+1/8×S(1、0)+1/8×S(0、−1)+1/8×S(−1、−2)+1/8×S(1、−2)によって色Gの信号値が取得される。
【0127】
なお、垂直フィルタ及び色分離部62の回路構成及びその動作については、上述した第2のフィルタ及び色分離部38の回路構成及びその動作とほぼ同一であるので(x及びyが−3、−2、−1、0、1、2、3の各値を取るものである点が異なるのみ)、その説明は省略することとする。
【0128】
次に、相関方向検出部63の詳細について説明する。なお、以下では注目画素の座標を(0、0)、その動き量をV(0、0)とし、注目画素から右にx画素、上にy画素の位置にある画素の座標を(x、y)、その動き量をV(x、y)と表すこととする。つまり、注目画素から右に2画素、上に2画素の位置にある画素の座標を(2、2)、その動き量をV(2、2)と表し、注目画素から左に2画素、下に2画素の位置にある画素の座標を(−2、−2)、その動き量をV(−2、−2)と表すこととする。
【0129】
相関方向検出部63は、動き検出部32より入力された各画素の動き量に対して垂直方向勾配検出フィルタを作用させることによって、各画素の水平方向相関値dvを算出し、また、動き検出部32より入力された各画素の動き量に対して水平方向勾配検出フィルタを作用させることによって、各画素の垂直方向相関値dhを算出し、これを第2の重み係数検出部65に出力するものである。
【0130】
具体的には、各画素の動き量について、図27(a)に示されるフィルタを用いて水平方向相関値dvを算出し、図27(b)に示されるフィルタを用いて垂直方向相関値dhを算出する。つまり、各画素の動き量について、dv=V(−1、1)+V(0、1)+V(1、1)−V(−1、−1)−V(0、−1)−V(1、−1)によって水平方向相関値dvが算出され、dh=V(−1、1)+V(−1、0)+V(−1、−1)−V(1、1)−V(1、0)−V(1、−1)によって垂直方向相関値dhが算出される。
【0131】
なお、相関方向検出部63の回路構成及びその動作については、上述した第2のフィルタ及び色分離部38の回路構成及びその動作とほぼ同一であるので(各メモリm(x、y)が信号値S(x、y)ではなく、動き量V(x、y)を記憶及び出力し、また、係数選択部Aが各色の信号値の取得のためのフィルタ係数を生成するのではなく、水平方向相関値dv及び垂直方向相関値dhの算出のためのフィルタ係数を生成する点が異なるのみ)、その説明は省略することとする。
【0132】
次に、第1の重み係数検出部64の詳細について説明する。第1の重み係数検出部64は、動き検出部32より入力された各画素の動き量yに対して、数3式及び図16に示されるh(y)を算出することによって、各画素の重み係数βを算出し、これを第2の重み係数検出部65に出力する。
【0133】
次に、第2の重み係数検出部65の詳細について説明する。第2の重み係数検出部65は、相関方向検出部63より入力された各画素の水平方向相関値dv及び垂直方向相関値dhと、第1の重み係数検出部64より入力された各画素の重み係数βとに対して、以下の数4式を用いて各画素の水平方向重み係数γと、垂直方向重み係数δとを算出し、これを重み付け加算部66に出力する。
【数4】
【0134】
このとき、水平方向重み係数γは、重み係数βと、水平方向相関値dvとの増加に伴って増加する。そして、重み係数βは動き量の増加に伴って増加し、また、水平方向相関値dvは動き量が水平方向に強い相関を持つ場合に増加することから、動き量が大きく、動き量が水平方向に強い相関を持つ場合には、この場合に適した水平フィルタ及び色分離部61の影響が強められることとなる。
【0135】
また、垂直方向重み係数δは、重み係数βと、垂直方向相関値dhとの増加に伴って増加する。そして、重み係数βは動き量の増加に伴って増加し、また、垂直方向相関値dhは動き量が垂直方向に強い相関を持つ場合に増加することから、動き量が大きく、動き量が垂直方向に強い相関を持つ場合には、この場合に適した垂直フィルタ及び色分離部62の影響が強められることとなる。
【0136】
(ノイズ低減装置の第4の実施形態)
次に、画像処理部4に含まれるノイズ低減装置の第4の実施形態について説明する。図28は、本発明の第4の実施形態に係るノイズ低減装置70の概略の構成を示すブロック図である。なお、ノイズ低減装置70においては、第1の実施形態に係るノイズ低減装置30及び第3の実施形態に係るノイズ低減装置60と同一の部分には同一の符号を付し、その詳細な説明は省略する。ノイズ低減装置70は、ノイズ低減装置30及びノイズ低減装置60と異なる構成として、相関方向検出部63及び第1の重み係数検出部64より信号が入力され、重み付け加算部72に信号を出力する第2の重み係数検出部71と;第1のフィルタ及び色分離部37、第2のフィルタ及び色分離部38、水平フィルタ及び色分離部61、垂直フィルタ及び色分離部62、及び第2の重み係数検出部71より信号が入力され、後段に信号を出力する重み付け加算部72と;を有している。
【0137】
ここで、ノイズ低減装置70の動作の概略について説明する。まず、外部からの現フレームの信号(ベイヤーデータ)が、ノイズ検出部31、動き検出部32、及び減算器36に入力される。また、フレームメモリ34からの現フレームの1フレーム前の信号が、ノイズ検出部31及び動き検出部32に入力される。すると、第1の実施形態と同様に、ノイズ低減処理部31は、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号とから各画素のノイズ検出値を算出し、これを乗算器35に出力する。
【0138】
そして、次に、動き検出部32が、第1の実施形態と同様に、外部より入力された現フレームの信号と、フレームメモリ34より入力された1フレーム前の信号とから各画素の動き量を算出し、これを帰還係数検出部33、相関方向検出部63、及び第1の重み係数検出部64に出力する。すると、帰還係数検出部33が、第1の実施形態と同様に、動き検出部32より入力された各画素の動き量から各画素の帰還係数kを算出し、これを乗算器35に出力する。また、相関方向検出部63が、第3の実施形態と同様に、動き検出部32より入力された各画素の動き量から各画素の水平方向相関値dvと、垂直方向相関値dhを算出し、これを第2の重み係数検出部71に出力する。また、第1の重み係数検出部64が、第3の実施形態と同様に、動き検出部32より入力された各画素の動き量から各画素の重み係数βを算出し、これを第2の重み係数検出部71に出力する。
【0139】
そして、次に、乗算器35が、第1の実施形態と同様に、ノイズ検出部31より入力された各画素のノイズ検出値と、帰還係数検出部33より入力された各画素の帰還係数kとを乗算し、得られた各画素の減算ノイズ値を減算器36へ出力する。すると、減算器36が、第1の実施形態と同様に、外部より入力された現フレームの信号から、乗算器35より入力された各画素の減算ノイズ値を減算し、得られた3次元ノイズ低減後信号をフレームメモリ34、第1のフィルタ及び色分離部37、第2のフィルタ及び色分離部38、水平フィルタ及び色分離部61、及び垂直フィルタ及び色分離部62に出力する。
【0140】
そして、次に、第1のフィルタ及び色分離部37が、第1の実施形態と同様に、減算器36より入力された3次元ノイズ低減後信号に対して空間的なローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第1フィルタ後信号L1(R)、L1(G)、L1(B)を重み付け加算部72に出力する。また、第2のフィルタ及び色分離部38が、第1の実施形態と同様に、減算器36より入力された3次元ノイズ低減後信号に対して、第1のフィルタ及び色分離部37よりも高域の空間的なローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)を重み付け加算部72に出力する。
【0141】
また、水平フィルタ及び色分離部61が、第3の実施形態と同様に、減算器36より入力された3次元ノイズ低減後信号に対して水平方向のローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の水平フィルタ後信号LH(R)、LH(G)、LH(B)を重み付け加算部72に出力する。また、垂直フィルタ及び色分離部62が、第3の実施形態と同様に、減算器36より入力された3次元ノイズ低減後信号に対して垂直方向のローパスフィルタ(LPF)を作用させると同時に色分離を行い、得られたR、G、B各色の垂直フィルタ後信号LV(R)、LV(G)、LV(B)を重み付け加算部72に出力する。また、第2の重み係数検出部71が、相関方向検出部63より入力された各画素の水平方向相関値dv及び垂直方向相関値dhと、第1の重み係数検出部64より入力された各画素の重み係数βとから、各画素の第1重み係数εと、水平方向重み係数γと、垂直方向重み係数δとを算出し、これを重み付け加算部72に出力する。
【0142】
そして、次に、重み付け加算部72が、第1のフィルタ及び色分離部37より入力されたR、G、B各色の第1フィルタ後信号L1(R)、L1(G)、L1(B)と、第2のフィルタ及び色分離部38より入力されたR、G、B各色の第2フィルタ後信号L2(R)、L2(G)、L2(B)と、水平フィルタ及び色分離部61より入力されたR、G、B各色の水平フィルタ後信号LH(R)、LH(G)、LH(B)と、垂直フィルタ及び色分離部62より入力されたR、G、B各色の垂直フィルタ後信号LV(R)、LV(G)、LV(B)とを、第2の重み係数検出部71より入力された各画素の第1重み係数εと、水平方向重み係数γと、垂直方向重み係数δとによって色ごとに重み付け加算し(つまり、O(R)=L1(R)×ε+LH(R)×γ+LV(R)×δ+L2(R)×(1−γ−δ−ε)、O(G)=L1(G)×ε+LH(G)×γ+LV(G)×δ+L2(G)×(1−γ−δ−ε)、O(B)=L1(B)×ε+LH(B)×γ+LV(B)×δ+L2(B)×(1−γ−δ−ε)である)得られたR、G、B各色の出力信号O(R)、O(G)、O(B)を後段に出力する。
【0143】
次に、第2の重み係数検出部71の詳細について説明する。第2の重み係数検出部71は、各画素について、水平方向相関値dvと、垂直方向相関値dhとの和が閾値Thξより小さければ、第1重み係数ε=β、水平方向重み係数γ=0、垂直方向重み係数δ=0と算出する一方、水平方向相関値dvと、垂直方向相関値dhとの和が閾値Thξ以上であれば、第1重み係数ε=0とし、水平方向重み係数γと、垂直方向重み係数δとは数4式を用いて算出し、これを重み付け加算部72へ出力する。
【0144】
このとき、水平方向相関値dvと、垂直方向相関値dhとの和が閾値Thξより小さければ、つまり、動き量の水平方向の相関の強さと、動き量の垂直方向の相関の強さとの和が小さい場合には、この場合に適するように、第1のフィルタ及び色分離部37と、第2のフィルタ及び色分離部38との影響が強められる一方、水平フィルタ及び色分離部61と、垂直フィルタ及び色分離部62との影響は無くなることとなる。また、水平方向相関値dvと、垂直方向相関値dhとの和が閾値Thξより大きければ、つまり、動き量の水平方向の相関の強さと、動き量の垂直方向の相関の強さとの和が大きい場合には、この場合に適するように、水平フィルタ及び色分離部61と、垂直フィルタ及び色分離部62との影響が強められる一方、第1のフィルタ及び色分離部37による影響はなくなり、第2のフィルタ及び色分離部38による影響が弱められることとなる。
【0145】
なお、上述の説明において、図1に示すような構成の撮像装置を例に挙げて、本発明におけるノイズ低減方法について説明したが、撮像装置に限らず、液晶ディスプレイやプラズマテレビなどの画像のデジタル処理を行う表示装置においても、本発明におけるノイズ低減方法を利用可能である。図29に、本発明におけるノイズ低減方法を行うノイズ低減装置(以下では、「画像処理部」に含まれる)を備えた表示装置を示す。
【0146】
図29に示す表示装置は、図1に示す撮像装置と同様、画像処理部4、ディスプレイ9、TG12、CPU13、メモリ14、操作部15、及び、バス回線16、17を備える。そして、外部で受信した放送信号を選局するチューナ部21と、チューナ部21で選局した放送信号を復調する復調部22と、外部から入力されたデジタル信号となる圧縮信号が入力されるインターフェース23とを、更に備える。
【0147】
この図29の表示装置は、放送信号を受信する場合は、チューナ部21で所望のチャンネルの放送信号を選局した後、復調部22で放送信号を復調することで、画像信号が得られる。
【0148】
そして、操作部15によって画像の表示が指示されると、復調部22で得られた画像信号が、画像処理部4に与えられ、上述のノイズ低減処理や色分離処理を含む各種画像処理が施された後に、得られた表示信号がディスプレイ9に与えられ、画像の表示がなされる。なお、図29においては省略したが、図1に示す撮像装置と同様に、音声出力回路部10、スピーカ11などを有することによって音声の出力を可能とする構成とすることも可能である。
【0149】
なお、本発明は上記の実施形態に限定されず、本発明の主旨を逸脱しない範囲で種々の変更が可能である。例えば、上記の第3の実施形態及び第4の実施形態においては、各画素の第1重み係数εと、水平方向重み係数γと、垂直方向重み係数δとを各色R、G、Bについて共通としたが、第2の実施形態と同様に、色ごとに異なるものとしてもよい。また、上記の実施形態においては、RAW画像信号は、ベイヤーデータであることとしたが、これに限られるものではない。また、上記の実施形態においては、イメージセンサ1が有する色フィルタは原色系のフィルタであることとしたが、補色系のフィルタであってもよい。
【産業上の利用可能性】
【0150】
本発明は、複数のフレームによって構成される動画像のノイズを低減するノイズ低減方法及びノイズ低減装置として有効である。また、本発明は、このノイズ低減装置を備えた電子機器として有効である。
【図面の簡単な説明】
【0151】
【図1】撮像装置の内部構成を示すブロック図。
【図2】イメージセンサ1に設置されたフィルタの配置を示す説明図。
【図3】ノイズ低減装置30の概略の構成を示すブロック図。
【図4】関数f(x)を示すグラフ。
【図5】動き検出部32の概略の構成を示すブロック図。
【図6】関数g(y)を示すグラフ。
【図7】第1のフィルタ及び色分離部37において、ベイヤーデータにおいて色Rの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図8】第1のフィルタ及び色分離部37において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図9】第1のフィルタ及び色分離部37において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図10】第1のフィルタ及び色分離部37において、ベイヤーデータにおいて色Bの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図11】第2のフィルタ及び色分離部38において、ベイヤーデータにおいて色Rの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図12】第2のフィルタ及び色分離部38において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図13】第2のフィルタ及び色分離部38において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図14】第2のフィルタ及び色分離部38において、ベイヤーデータにおいて色Bの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図15】第2のフィルタ及び色分離部38の回路構成を示すブロック図。
【図16】関数h(y)を示すグラフ。
【図17】ノイズ低減装置50の概略の構成を示すブロック図。
【図18】ノイズ低減装置60の概略の構成を示すブロック図。
【図19】水平フィルタ及び色分離部61において、ベイヤーデータにおいて色Rの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図20】水平フィルタ及び色分離部61において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図21】水平フィルタ及び色分離部61において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図22】水平フィルタ及び色分離部61において、ベイヤーデータにおいて色Bの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図23】垂直フィルタ及び色分離部62において、ベイヤーデータにおいて色Rの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図24】垂直フィルタ及び色分離部62において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Rの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図25】垂直フィルタ及び色分離部62において、ベイヤーデータにおいて色Gの信号値が得られている注目画素のうち、左右の画素がベイヤーデータにおいて色Bの信号値が得られている画素である注目画素に用いられるフィルタを示す説明図。
【図26】垂直フィルタ及び色分離部62において、ベイヤーデータにおいて色Bの信号値が得られている注目画素に用いられるフィルタを示す説明図。
【図27】垂直方向勾配検出フィルタ及び水平方向勾配検出フィルタを示す説明図。
【図28】ノイズ低減装置70の概略の構成を示すブロック図。
【図29】表示装置の内部構成を示すブロック図。
【符号の説明】
【0152】
30、50、60、70 ノイズ低減装置
32 動き検出部
37 第1のフィルタ及び色分離部(フィルタ及び色分離部)
38 第2のフィルタ及び色分離部(フィルタ及び色分離部、空間フィルタ及び色分離部)
39、51 重み係数検出部
40、52、66、72 重み付け加算部
61 水平フィルタ及び色分離部(フィルタ及び色分離部)
62 垂直フィルタ及び色分離部(フィルタ及び色分離部)
63 相関方向検出部
64 第1の重み係数検出部
65、71 第2の重み係数検出部
【特許請求の範囲】
【請求項1】
外部より入力されたRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減処理部を有するノイズ低減装置であって、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、ノイズ低減処理及び色分離を同時に行い、各色のフィルタ後信号を得る複数のノイズ低減処理及び色分離部と、
複数の前記ノイズ低減処理及び色分離部より入力された各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合部と、
を有することを特徴とするノイズ低減装置。
【請求項2】
外部より入力されたRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減処理部を有するノイズ低減装置であって、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、ローパスフィルタを作用させると同時に色分離を行い、各色のフィルタ後信号を得る複数のフィルタ及び色分離部と、
複数の前記フィルタ及び色分離部より入力された各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合部と、
を有することを特徴とするノイズ低減装置。
【請求項3】
複数の前記フィルタ及び色分離部は、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、所定の帯域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第1フィルタ後信号を得る第1のフィルタ及び色分離部と、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、前記所定の帯域よりも高域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第2フィルタ後信号を得る第2のフィルタ及び色分離部と、
によって構成され、
前記混合部は、前記第1のフィルタ及び色分離部より入力された各色の前記第1フィルタ後信号と、前記第2のフィルタ及び色分離部より入力された各色の前記第2フィルタ後信号とを、色ごとに所定の重み係数によって重み付け加算し、各色の前記出力信号を得るものであって、
外部より入力された前記RAW画像信号と、1フレーム前の前記3次元ノイズ低減後信号との差分値を算出することによって各画素の時間軸方向の動き量を得る動き検出部と、
前記動き検出部より入力された各画素の時間軸方向の前記動き量に応じて前記所定の重み係数を算出する重み係数検出部と、
を有することを特徴とする請求項2に記載のノイズ低減装置。
【請求項4】
複数の前記フィルタ及び色分離部は、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、空間的なローパスフィルタを作用させると同時に色分離を行い、各色の空間フィルタ後信号を得る空間フィルタ及び色分離部と、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、水平方向のローパスフィルタを作用させると同時に色分離を行い、各色の水平フィルタ後信号を得る水平フィルタ及び色分離部と、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、垂直方向のローパスフィルタを作用させると同時に色分離を行い、各色の垂直フィルタ後信号を得る垂直フィルタ及び色分離部と、
によって構成され、
前記混合部は、前記空間フィルタ及び色分離部より入力された各色の前記空間フィルタ後信号と、前記水平フィルタ及び色分離部より入力された各色の前記水平フィルタ後信号と、前記垂直フィルタ及び色分離部より入力された各色の前記垂直フィルタ後信号とを、色ごとに所定の重み係数によって重み付け加算し、各色の前記出力信号を得るものであって、
外部より入力された前記RAW画像信号と、1フレーム前の前記3次元ノイズ低減後信号との差分値を算出することによって各画素の時間軸方向の動き量を得る動き検出部と、
前記動き検出部より入力された各画素の時間軸方向の前記動き量の水平方向相関値及び垂直方向相関値を算出する相関方向検出部と、
前記動き検出部より入力された各画素の時間軸方向の前記動き量と、前記相関方向検出部より入力された各画素の時間軸方向の前記動き量の前記水平方向相関値及び前記垂直方向相関値とに応じて前記所定の重み係数を算出する重み係数検出部と、
を有することを特徴とする請求項2に記載のノイズ低減装置。
【請求項5】
前記所定の重み係数は、色ごとに異なることを特徴とする請求項3又は4に記載のノイズ低減装置。
【請求項6】
動画を構成するRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減処理ステップを有するノイズ低減方法であって、
前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、ノイズ低減処理及び色分離を同時に行い、各色のフィルタ後信号を得る複数のノイズ低減処理及び色分離ステップと、
複数の前記ノイズ低減処理及び色分離ステップで得られた各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合ステップと、
を有することを特徴とするノイズ低減方法。
【請求項7】
動画を構成するRAW画像信号が外部入力又は撮像によって与えられるとともに、該動画のノイズを低減するノイズ低減装置を備えた電子機器であって、
前記ノイズ低減装置は、請求項1から5のいずれか1項に記載のノイズ低減装置であることを特徴とする電子機器。
【請求項1】
外部より入力されたRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減処理部を有するノイズ低減装置であって、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、ノイズ低減処理及び色分離を同時に行い、各色のフィルタ後信号を得る複数のノイズ低減処理及び色分離部と、
複数の前記ノイズ低減処理及び色分離部より入力された各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合部と、
を有することを特徴とするノイズ低減装置。
【請求項2】
外部より入力されたRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減処理部を有するノイズ低減装置であって、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、ローパスフィルタを作用させると同時に色分離を行い、各色のフィルタ後信号を得る複数のフィルタ及び色分離部と、
複数の前記フィルタ及び色分離部より入力された各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合部と、
を有することを特徴とするノイズ低減装置。
【請求項3】
複数の前記フィルタ及び色分離部は、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、所定の帯域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第1フィルタ後信号を得る第1のフィルタ及び色分離部と、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、前記所定の帯域よりも高域の空間的なローパスフィルタを作用させると同時に色分離を行い、各色の第2フィルタ後信号を得る第2のフィルタ及び色分離部と、
によって構成され、
前記混合部は、前記第1のフィルタ及び色分離部より入力された各色の前記第1フィルタ後信号と、前記第2のフィルタ及び色分離部より入力された各色の前記第2フィルタ後信号とを、色ごとに所定の重み係数によって重み付け加算し、各色の前記出力信号を得るものであって、
外部より入力された前記RAW画像信号と、1フレーム前の前記3次元ノイズ低減後信号との差分値を算出することによって各画素の時間軸方向の動き量を得る動き検出部と、
前記動き検出部より入力された各画素の時間軸方向の前記動き量に応じて前記所定の重み係数を算出する重み係数検出部と、
を有することを特徴とする請求項2に記載のノイズ低減装置。
【請求項4】
複数の前記フィルタ及び色分離部は、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、空間的なローパスフィルタを作用させると同時に色分離を行い、各色の空間フィルタ後信号を得る空間フィルタ及び色分離部と、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、水平方向のローパスフィルタを作用させると同時に色分離を行い、各色の水平フィルタ後信号を得る水平フィルタ及び色分離部と、
前記3次元ノイズ低減処理部より入力された前記3次元ノイズ低減後信号に対して、垂直方向のローパスフィルタを作用させると同時に色分離を行い、各色の垂直フィルタ後信号を得る垂直フィルタ及び色分離部と、
によって構成され、
前記混合部は、前記空間フィルタ及び色分離部より入力された各色の前記空間フィルタ後信号と、前記水平フィルタ及び色分離部より入力された各色の前記水平フィルタ後信号と、前記垂直フィルタ及び色分離部より入力された各色の前記垂直フィルタ後信号とを、色ごとに所定の重み係数によって重み付け加算し、各色の前記出力信号を得るものであって、
外部より入力された前記RAW画像信号と、1フレーム前の前記3次元ノイズ低減後信号との差分値を算出することによって各画素の時間軸方向の動き量を得る動き検出部と、
前記動き検出部より入力された各画素の時間軸方向の前記動き量の水平方向相関値及び垂直方向相関値を算出する相関方向検出部と、
前記動き検出部より入力された各画素の時間軸方向の前記動き量と、前記相関方向検出部より入力された各画素の時間軸方向の前記動き量の前記水平方向相関値及び前記垂直方向相関値とに応じて前記所定の重み係数を算出する重み係数検出部と、
を有することを特徴とする請求項2に記載のノイズ低減装置。
【請求項5】
前記所定の重み係数は、色ごとに異なることを特徴とする請求項3又は4に記載のノイズ低減装置。
【請求項6】
動画を構成するRAW画像信号に対して3次元ノイズ低減処理を施し、3次元ノイズ低減後信号を得る3次元ノイズ低減処理ステップを有するノイズ低減方法であって、
前記3次元ノイズ低減処理ステップで得られた前記3次元ノイズ低減後信号に対して、ノイズ低減処理及び色分離を同時に行い、各色のフィルタ後信号を得る複数のノイズ低減処理及び色分離ステップと、
複数の前記ノイズ低減処理及び色分離ステップで得られた各色の前記フィルタ後信号を混合し、各色の出力信号を得る混合ステップと、
を有することを特徴とするノイズ低減方法。
【請求項7】
動画を構成するRAW画像信号が外部入力又は撮像によって与えられるとともに、該動画のノイズを低減するノイズ低減装置を備えた電子機器であって、
前記ノイズ低減装置は、請求項1から5のいずれか1項に記載のノイズ低減装置であることを特徴とする電子機器。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【公開番号】特開2008−252767(P2008−252767A)
【公開日】平成20年10月16日(2008.10.16)
【国際特許分類】
【出願番号】特願2007−94481(P2007−94481)
【出願日】平成19年3月30日(2007.3.30)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
【公開日】平成20年10月16日(2008.10.16)
【国際特許分類】
【出願日】平成19年3月30日(2007.3.30)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
[ Back to top ]