説明

ノイズ低減装置及びノイズ低減プログラム

【課題】動画像を構成するフレーム画像内の領域を動きのある動領域か動きのない静領域かに判別した領域判別結果に従って、それぞれの領域に適したノイズ低減処理を施すノイズ低減装置及びそのプログラムを提供する。
【解決手段】 ノイズ低減装置1は、静領域に対して時間軸方向における高周波数成分を低減する高周波数成分低減手段21を備えた静領域用のノイズ低減処理手段である静領域処理手段20と、動領域に対して画像を空間周波数成分に変換するDCT処理手段32と高空間周波数成分を低減するコアリング処理手段33とコアリング処理後の空間周波数成分を画像の変換する逆DCT処理手段34とを備えた動領域用のノイズ低減処理手段である動領域処理手段30と、を備え、領域判別マップR(t)に従って、ノイズ低減処理を切り替える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動画像を構成するフレーム画像内の領域が、動きのある動領域か動きのない静領域かを示す判別結果に基づいて、動領域と静領域とで適応的にノイズ低減処理を切り替えるノイズ低減装置及びノイズ低減プログラムに関する。
【背景技術】
【0002】
動画像に重畳されたノイズの低減処理を効率的にするために、動画像を構成するフレーム画像内の領域が、動きのある動領域か動きのない静領域かを判別し、判別結果に応じて適応的にノイズ低減処理する方法がある。例えば、特許文献1(図1及び図2、段落0039〜段落0062参照)では、MUSE信号をデジタル化し、動き検出の結果、静領域に対して選択的に強いノイズ低減処理を行うノイズリダクション回路が記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平6−165132号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1では、MUSE信号が動領域では元々高空間周波数成分が損なわれている特性を利用しており、特に動領域に対する具体的なノイズ低減処理については記載されていない。
そこで、本発明は、フレーム画像内の領域が、動領域か静領域かを判別した結果に基づいて動領域と静領域に適したノイズ低減処理を行い、動画像に重畳されたノイズを、画像の劣化を抑制しつつ低減するノイズ低減装置及びノイズ低減プログラムを提供することを目的とする。
【課題を解決するための手段】
【0005】
前記した目的を達成するために、請求項1に記載したノイズ低減装置は、動画像を構成するフレーム画像の画像平面内の領域が、当該フレーム画像に対して時間軸方向に前後のフレーム画像に対して変化のある動領域か、変化のない静領域か、の2種類の領域の何れであるかを判別する領域判別信号に従って、動領域と静領域とにそれぞれ異なるノイズ低減処理を施すことにより、動画像に重畳されたノイズを低減させるノイズ低減装置であって、動領域処理手段と、高周波数成分低減手段を備えた静領域処理手段と、を備え、前記動領域処理手段は、動領域処理ブロック分割手段と、動領域処理ブロック直交変換手段と、コアリングレベル設定手段と、コアリング処理手段と、動領域処理ブロック逆直交変換手段と、を備える構成とした。
【0006】
かかる構成によれば、ノイズ低減装置の静領域処理手段は、高周波数成分低減手段によって、領域判別信号が静領域を示すフレーム画像の領域に対して、当該領域中の画素ごとに、当該フレーム画像に対して時間軸方向に前後のフレーム画像の画像平面内の同じ位置の画素を参照して高周波数成分を低減する。
一方、ノイズ低減装置の動領域処理手段は、動領域処理ブロック分割手段によって、領域判別信号が動領域を示すフレーム画像の領域に対して、予め定められた形状の動領域処理の単位ブロックである動領域処理ブロックに分割する。動領域処理手段は、次に、動領域処理ブロック直交変換手段によって、動領域処理ブロック分割手段により分割された動領域処理ブロックごとに直交変換をして、動領域処理ブロックを構成する画素データを空間周波数成分に変換する。また、動領域処理手段は、コアリングレベル設定手段によって、動領域処理ブロック直交変換手段により変換された空間周波数成分に対してコアリング処理をするときのコアリングレベルをコアリング処理手段に予め設定しておく。次に、動領域処理手段は、コアリング処理手段によって、動領域処理ブロック直交変換手段により変換された空間周波数成分中の各交流成分からコアリングレベル設定手段により設定されたコアリングレベルを減じるコアリング処理をする。そして、動領域処理手段は、動領域処理ブロック逆直交変換処理手段によって、動領域処理ブロック直交変換手段により変換された空間周波数成分中の直流成分とコアリング処理手段によりコアリング処理された交流成分とからなる空間周波数成分に逆直交変換処理を施して画素データに変換することで、高空間周波数成分を低減する。
これによって、ノイズ低減装置は、静領域において時間軸方向のノイズを低減し、動領域において画像平面内のノイズを低減する。
【0007】
請求項2に記載のノイズ低減装置は、請求項1に記載のノイズ低減装置において、コアリングレベル設定手段は、設定用ノイズレベル検出手段を備える構成とした。
【0008】
かかる構成によれば、ノイズ低減装置のコアリングレベル設定手段は、設定用ノイズレベル検出手段によって、入力したフレーム画像からノイズレベルを検出し、検出したノイズレベルをコアリングレベルとしてコアリング処理手段に設定する。
これによって、ノイズ低減装置は、ノイズレベルをコアリングレベルとしてコアリング処理を行う。
【0009】
請求項3に記載のノイズ低減装置は、請求項1に記載のノイズ低減装置において、コアリングレベル設定手段は、設定用ノイズレベル検出手段とコアリングレベル調整手段とを備える構成とした。
【0010】
かかる構成によれば、ノイズ低減装置のコアリングレベル設定手段は、まず、設定用ノイズレベル検出手段によって、入力したフレーム画像からノイズレベルを検出する。そして、コアリングレベル設定手段は、コアリングレベル調整手段によって、設定用ノイズレベル検出手段により検出されたノイズレベルに、予め設定された0乃至1の値のノイズレベル調整値を乗じてコアリングレベルを算出して、コアリング処理手段に設定する。
これによって、ノイズ低減装置は、ノイズレベル以下のコアリングレベルに調整してコアリング処理を行う。
【0011】
請求項4に記載のノイズ低減装置は、請求項2又は請求項3に記載のノイズ低減装置において、設定用ノイズレベル検出手段は、ノイズ検出ブロック分割手段とノイズ検出ブロック直交変換手段と交流成分平均算出手段と最小値抽出手段とを備える構成とした。
【0012】
かかる構成によれば、ノイズ低減装置の設定用ノイズレベル検出手段は、ノイズ検出ブロック分割手段によって、フレーム画像を複数の画素からなる複数の予め定められた形状のノイズレベル検出の単位ブロックであるノイズ検出ブロックに分割する。次に、設定用ノイズレベル検出手段は、ノイズ検出ブロック直交変換手段によって、ノイズ検出ブロック分割手段により分割されたノイズ検出ブロックを直交変換して空間周波数成分に変換する。続いて、設定用ノイズレベル検出手段は、交流成分平均算出手段によって、ノイズ検出ブロック直交変換手段により変換された空間周波数成分から予め定められた空間周波数の交流成分の平均である交流成分平均を算出する。そして、設定用ノイズレベル検出手段は、最小値抽出手段によって、交流成分平均算出手段によりノイズ検出ブロックごとに算出された交流成分平均の中から最小値を抽出し、ノイズレベルとして出力する。
これによって、ノイズ低減装置は、フレーム画像の複数の箇所から検出したノイズレベル候補である交流成分平均からノイズレベルを決定する。
【0013】
請求項5に記載のノイズ低減装置は、請求項2又は請求項3に記載のノイズ低減装置において、設定用ノイズレベル検出手段は、ノイズ検出ブロック分割手段と低空間周波数成分抑制手段とノイズ検出ブロック直交変換手段と最小値抽出手段とを備える構成とした。
【0014】
かかる構成によれば、設定用ノイズレベル検出手段は、ノイズ検出ブロック分割手段によって、フレーム画像を複数の画素からなる複数の予め定められた形状のノイズ検出の単位ブロックであるノイズ検出ブロックに分割する。次に、設定用ノイズレベル検出手段は、低空間周波数成分抑制手段によって、ノイズ検出ブロック分割手段により分割されたノイズ検出ブロックの画像データから低空間周波数成分を抑制する。次に、設定用ノイズレベル検出手段は、ノイズ検出ブロック直交変換手段によって、低空間周波成分抑制手段により低空間周波成分が抑制された画像データを直交変換して空間周波数成分に変換する。続いて、設定用ノイズレベル検出手段は、交流成分平均算出手段によって、ノイズ検出ブロック直交変換手段により変換された空間周波数成分から予め定められた空間周波数の交流成分の平均である交流成分平均を算出する。そして、設定用ノイズレベル検出手段は、最小値抽出手段によって、交流成分平均算出手段によりノイズ検出ブロックごとに抽出された複数の前記交流成分平均から最小値を抽出し、ノイズレベルとして出力する。
これによって、ノイズ低減装置は、画像信号成分が主体である低空間周波数を抑制した画像からノイズレベルを検出する。
【0015】
請求項6に記載のノイズ低減装置は、請求項1乃至請求項3の何れか一項に記載のノイズ低減装置において、更に、動領域処理ブロック輝度算出手段を備え、コアリングレベル設定手段は、輝度別コアリングレベルを設定するとともに、コアリング処理手段は輝度別コアリングレベルを用いてコアリング処理をすることとした。
【0016】
かかる構成によれば、ノイズ低減装置は、動領域処理ブロック輝度算出手段によって、動領域処理ブロック分割手段によって分割された動領域処理ブロック内の輝度レベルを算出する。
一方、ノイズ低減装置は、コアリングレベル設定手段によって、輝度レベルに応じてコアリングレベルが定められた輝度別コアリングレベルをコアリング処理手段に設定する。そして、ノイズ低減装置は、コアリング処理手段によって、動領域処理ブロック直交変換手段により変換された空間周波数成分中の各交流成分から、動領域処理ブロック輝度算出手段により算出した輝度レベルに対応するコアリングレベル設定手段により設定された輝度別コアリングレベルを減じるコアリング処理をする。
これによって、ノイズ低減装置は、動領域において、輝度に応じたコアリングレベルでコアリング処理を行う。
【0017】
請求項7に記載のノイズ低減装置は、請求項6に記載のノイズ低減装置において、設定用ノイズ検出手段は、ノイズ検出ブロック分割手段とノイズ検出ブロック直交変換手段と交流成分平均算出手段とノイズ検出ブロック輝度算出手段と輝度別最小値抽出手段とを備える構成とした。
【0018】
かかる構成によれば、ノイズ低減装置の設定用ノイズ検出手段は、ノイズ検出ブロック分割手段によって、フレーム画像を複数の画素からなる複数の予め定められた形状のノイズレベル検出の単位ブロックであるノイズ検出ブロックに分割する。次に、設定用ノイズレベル検出手段は、ノイズ検出ブロック直交変換手段によって、ノイズ検出ブロック分割手段により分割されたノイズ検出ブロックを直交変換して空間周波数成分に変換する。続いて、設定用ノイズレベル検出手段は、交流成分平均算出手段によって、ノイズ検出ブロック直交変換手段により変換された空間周波数成分から予め定められた空間周波数の交流成分の平均である交流成分平均を算出する。
一方、設定用ノイズレベル検出手段は、ノイズ検出ブロック輝度算出手段によって、ノイズ検出ブロック分割手段によって分割されたノイズ検出ブロック内の輝度レベルを算出する。
そして、設定用ノイズレベル検出手段は、輝度別最小値抽出手段によって、交流成分平均算出手段により算出された交流成分平均を、ノイズ検出ブロック輝度算出手段により算出された輝度レベルごとに、フレーム画像中の複数のノイズ検出ブロックに対応する交流成分平均から最小値を抽出して各輝度レベルにおける輝度別ノイズレベルとして出力する。
これによって、ノイズ低減装置は、フレーム画像の複数の箇所から検出した輝度別に分類されたノイズレベル候補である交流成分平均の中から、それぞれの輝度レベルにおけるノイズレベルを決定する。
【0019】
請求項8に記載のノイズ低減装置は、請求項7に記載のノイズ低減装置において、コアリングレベル設定手段は、更に検証用ノイズレベル検出手段を備えるとともに、設定用ノイズレベル検出手段は、更にノイズレベル検証手段と補間処理手段とを備える構成とした。
【0020】
かかる構成によれば、ノイズ低減装置のコアリングレベル設定手段は、検証用ノイズレベル検出手段によって、予め予備撮影(プリスキャン)して得られたフレーム画像から、設定用ノイズレベル検出手段によって検出される輝度別ノイズレベルの有効性を検証するための検証用ノイズレベルを検出しておく。
次に、コアリングレベル設定手段の設定用ノイズレベル検出手段は、ノイズレベル検証手段によって、輝度別最小値抽出手段により抽出された各輝度別ノイズレベルが検証用ノイズレベル検出手段により予め検出しておいた検証用ノイズレベルに対して、予め定められた所定の範囲外にあるときに、当該輝度別ノイズレベルを有効でないとして排除する。そして、設定用ノイズレベル検出手段は、補間処理手段によって、ノイズレベル検証手段により排除された輝度レベルに対応するノイズレベルを、排除されなかった輝度レベルにおけるノイズレベルから補間処理して算出し、1組の輝度別ノイズレベルを完成させる。
これによって、ノイズ低減装置は、動画像を構成するフレーム画像から一旦検出した輝度別ノイズレベルから有効でないデータを排除し、有効なデータから輝度別ノイズレベルを再構成する。そして、ノイズ低減装置は、有効な輝度別のノイズレベルに基づいて算出した輝度別ノイズレベルを用いてコアリングレベルを設定する。
【0021】
請求項9に記載のノイズ低減装置は、請求項1乃至請求項8の何れか一項に記載のノイズ低減装置において、高周波数成分低減手段として平均化フィルタを用いることとした。
【0022】
かかる構成によれば、ノイズ低減装置の静領域処理手段は、平均化フィルタによって、領域判別信号が静領域を示すフレーム画像の領域に対して、処理対象のフレーム画像及び当該フレーム画像に対して時間軸方向に前後のフレーム画像の画像平面内の同じ位置の画素を平均化処理する。
これによって、ノイズ低減装置は、静領域において、時間軸方向に急激な変化を鈍らせた画像に変換する。
【0023】
請求項10に記載のノイズ低減装置は、請求項1乃至請求項8の何れか一項に記載のノイズ低減装置において、高周波数成分低減手段としてメディアンフィルタを用いることとした。
【0024】
かかる構成によれば、ノイズ低減装置の静領域処理手段は、メディアンフィルタによって、領域判別信号が静領域を示すフレーム画像の領域に対して、処理対象のフレーム画像及び当該フレーム画像に対して時間軸方向に前後のフレーム画像の画像平面内の同じ位置の画素から中央値を選択する。
これによって、ノイズ低減装置は、静領域において、時間軸方向に突出した孤立点などを除去した画像に変換する。
【0025】
請求項11に記載のノイズ低減プログラムは、動画像を構成するフレーム画像の画像平面内の領域が、当該フレーム画像に対して時間軸方向に前後のフレーム画像に対して変化のある動領域か、変化のない静領域か、の2種類の領域の何れであるかを判別する領域判別信号に従って、動領域と静領域とにそれぞれ異なるノイズ低減処理を施すことにより、動画像に重畳されたノイズを低減させるために、コンピュータを、高周波数成分低減手段、動領域処理ブロック分割手段、動領域処理ブロック直交変換手段、コアリングレベル設定手段、コアリング処理手段、動領域処理ブロック逆直交変換手段、として機能させることとした。
【0026】
かかる構成によれば、ノイズ低減プログラムは、高周波数成分低減手段によって、領域判別信号が静領域を示すフレーム画像の領域に対して、当該領域中の画素ごとに、当該フレーム画像に対して時間軸方向に前後のフレーム画像の画像平面内の同じ位置の画素を参照して高周波数成分を低減する。
一方、ノイズ低減プログラムは、動領域処理ブロック分割手段によって、領域判別信号が動領域を示すフレーム画像の領域に対して、予め定められた形状の動領域処理の単位ブロックである動領域処理ブロックに分割する。次に、ノイズ低減プログラムは、動領域処理ブロック直交変換手段によって、動領域処理ブロック分割手段により分割された動領域処理ブロックごとに直交変換をして、動領域処理ブロックを構成する画素データを空間周波数成分に変換する。また、ノイズ低減プログラムは、コアリングレベル設定手段によって、動領域処理ブロック直交変換手段により変換された空間周波数成分に対してコアリング処理をするときのコアリングレベルをコアリング処理手段に予め設定しておく。次に、ノイズ低減プログラムは、コアリング処理手段によって、動領域処理ブロック直交変換手段により変換された空間周波数成分中の各交流成分からコアリングレベル設定手段により設定されたコアリングレベルを減じるコアリング処理をする。そして、ノイズ低減プログラムは、動領域処理ブロック逆直交変換処理手段によって、動領域処理ブロック直交変換手段により変換された空間周波数成分中の直流成分とコアリング処理手段によりコアリング処理された交流成分とからなる空間周波数成分に逆直交変換処理を施して画素データに変換することで、高空間周波数成分を低減する。
これによって、ノイズ低減プログラムは、静領域において時間軸方向のノイズを低減し、動領域において画像平面内のノイズを低減する。
【発明の効果】
【0027】
請求項1又は請求項11に記載の発明によれば、静領域においては元々画像信号の変化がない時間軸方向における急峻な変化を鈍らせるため、画像信号を劣化させることなく時間軸方向に変化するノイズを低減することができる。また、動領域においてはコアリング処理によって粒状性のノイズ成分が多く含まれる高空間周波数成分ほど大きく低減するため、粒状性ノイズを効果的に低減することができる一方で、動領域では画像がぼけても認識されにくいという視覚特性のため、動領域の画像信号の劣化を抑えながら画像平面内のノイズを低減することができる。
【0028】
請求項2に記載の発明によれば、フレーム画像から検出したノイズレベルをコアリングレベルとして用いてコアリング処理をするため、動領域においてノイズ成分を適切に低減することができる。
【0029】
請求項3に記載の発明によれば、コアリングレベルがノイズレベルを超えない範囲で調整できるため、動領域においてノイズ低減と画像のボケとのバランスを考慮したノイズ低減処理を行うことができる。
【0030】
請求項4に記載の発明によれば、コアリングレベル設定の基となるノイズレベルを、フレーム画像の複数の箇所から検出したノイズレベル候補である交流成分平均から抽出して決定するため適切なコアリングレベルを設定することができる。そのため、動領域において適切なノイズ低減をすることができる。
【0031】
請求項5に記載の発明によれば、画像信号成分が主体である低空間周波数を抑制した画像からノイズレベルを検出するため、より適切なコアリングレベルを設定することができ、その結果、動領域において、より適切なノイズ低減をすることができる。
【0032】
請求項6に記載の発明によれば、動領域において、輝度に応じたコアリングレベルでコアリング処理を行うため、輝度レベルごとに信号対雑音比が異なる場合であっても、ノイズ低減と画像のボケの程度が一定したノイズ低減をすることができる。
【0033】
請求項7に記載の発明によれば、コアリングレベル設定の基となる輝度別ノイズレベルを、フレーム画像の複数の箇所から検出した輝度別に分類されたノイズレベル候補である交流成分平均の中の最小値を、それぞれの輝度レベルにおけるノイズレベルとして抽出するため、適切に輝度別ノイズレベルを検出することができる。そのため、当該輝度別ノイズレベルに基づいて設定される輝度別のコアリングレベルを用いて、動領域において適切なノイズ低減をすることができる。
【0034】
請求項8に記載の発明によれば、フレーム画像から一旦検出した輝度別ノイズレベルから有効でないデータを排除し、有効なデータから輝度別ノイズレベルを再構成するため、適切に輝度別ノイズレベルを検出することができる。そのため、当該輝度別ノイズレベルに基づいて設定される輝度別のコアリングレベルを用いて、動領域において安定して適切なノイズ低減をすることができる。
【0035】
請求項9に記載の発明によれば、静領域において、時間軸方向に急激な変化を鈍らせた画像に変換するため、時間軸方向に急激に変化するノイズを効果的に低減することができる。
【0036】
請求項10に記載の発明によれば、静領域において、時間軸方向に突出した孤立点などを除去した画像に変換するため、時間軸方向に大きく変化する画像信号を保存しつつ、粒状性ノイズのような時間軸方向に小さく変化するノイズを効果的に低減することができる。
【図面の簡単な説明】
【0037】
【図1】本発明に係る第1実施形態のノイズ低減装置を含むノイズ低減システムの構成を示すブロック図である。
【図2】本発明に係るノイズ低減装置における領域判別の単位を説明するための模式図である。
【図3】本発明に係るノイズ低減装置において時間軸方向における複数の画素を参照する様子を説明するための模式図である。
【図4】本発明に係るノイズ低減装置における離散コサイン変換を説明するための説明図であり、(1)はブロックの画素の配列、(2)は変換後のDCT係数の配列を示す。
【図5】本発明に係るノイズ低減装置におけるコアリング処理の様子を説明するための模式図であり、(1)はコアリング処理前のDCT係数、(2)はコアリング処理後のDCT係数を示す。
【図6】本発明に係る第1実施形態のノイズ低減装置におけるコアリングレベル設定手段の構成を示すブロック図である。
【図7】本発明におけるノイズレベル検出のためにフレーム画像をブロック分割する様子を示す模式図であり、(1)はブロック分割の一例を示す模式図であり、(2)はブロック分割の他の例を示す模式図である。
【図8】本発明における領域判別装置の構成を示すブロック図である。
【図9】本発明における連続するフレーム間のブロックの関係を説明するための模式図である。
【図10】本発明におけるノイズレベル設定手段の構成を示すブロック図である。
【図11】本発明における第1実施形態のノイズ低減装置を含むノイズ低減システムの処理の流れを示すフロー図である。
【図12】本発明に係る第1実施形態のノイズ低減装置における静領域処理手段による静領域処理の流れを示すフロー図である。
【図13】本発明に係る第1実施形態のノイズ低減装置における動領域処理手段による動領域処理の流れを示すフロー図である。
【図14】本発明に係る第1実施形態のノイズ低減装置におけるコアリングレベル設定手段によるコアリングレベル設定処理の流れを示すフロー図である。
【図15】本発明における領域判別装置の処理の流れを示すフロー図である。
【図16】本発明における領域判別装置のノイズレベル設定手段の処理の流れを示すフロー図である。
【図17】本発明に係る第1実施形態の変形例のノイズ低減装置におけるコアリングレベル設定手段の構成を示すブロック図である。
【図18】本発明におけるコアリングレベル設定手段におけるHPF処理を説明するための説明図であり、(1)は画像にHPFを適用する様子を示す説明図であり、(2)はHPF処理における演算を説明するための説明図であり、(3)はHPFの空間周波数に対する応答特性を示すグラフである。
【図19】本発明に係る第1実施形態の変形例のノイズ低減装置におけるコアリングレベル設定手段の処理の流れを示すフロー図である。
【図20】本発明に係る第2実施形態のノイズ低減装置を含むノイズ低減システムの構成を示すブロック図である。
【図21】本発明に係る第2実施形態のノイズ低減装置におけるコアリングレベル設定手段の構成を示すブロック図である。
【図22】本発明における補間処理を説明するための説明図である。
【図23】本発明に係る第2実施形態のノイズ低減装置を含むノイズ低減システムの処理の流れを示すフロー図である。
【図24】本発明に係る第2実施形態のノイズ低減装置における動領域処理手段による動領域処理の流れを示すフロー図である。
【図25】本発明に係る第2実施形態のノイズ低減装置におけるコアリングレベル設定手段によるコアリングレベル設定処理の流れを示すフロー図である。
【発明を実施するための形態】
【0038】
以下、本発明の実施形態について、適宜図面を参照して詳細に説明する。
[第1実施形態のノイズ低減装置を含むノイズ低減システムの構成]
まず、図1を参照して、本発明の第1実施形態のノイズ低減装置を含むノイズ低減システムの構成について説明する。
【0039】
図1に示した第1実施形態のノイズ低減装置1を含むノイズ低減システム100は、ノイズ低減装置1と領域判別装置2とを備えて構成されており、動画像Fを入力して、ノイズ低減した動画像F’を出力するノイズ低減システムである。
また、第1実施形態のノイズ低減装置1は、フレームメモリ10,11,12と、静領域処理手段20と、動領域処理手段30と、処理選択手段50と、フレームメモリ60とを備えて構成されている。
【0040】
第1実施形態のノイズ低減装置1は、領域判別装置2によって動画像Fを構成する各フレーム画像F(t)を、予め定めた形状のブロックごとに動領域か静領域かを判別した結果である領域判別マップ(領域判別信号)R(t)を用いて、フレーム画像F(t)に重畳されているノイズを、当該領域判別マップR(t)に応じて動領域と静領域とでそれぞれ異なる処理を施してフレーム画像F’(t)を順次算出し、ノイズ低減した動画像F’を生成するものである。
【0041】
ここで、図2を参照して領域判別装置2による領域判別の単位について説明する。
図2に示したように、領域判別装置2は、フレーム画像F(t)を、5(画素)×5(ライン)の形状(サイズ)のブロック(領域判別ブロック)BBに分割し、それぞれのブロックBBごとに静領域か動領域かを示す領域判別マップR(t)を出力するものである。なお、ブロックBBの形状は、5×5に限定されるものではなく、4×4や8×8であってもよく、8×4のように水平方向と垂直方向とでサイズが異なるものでもよく、また、画素ごとに領域判別を行うものであってもよい。
領域判別装置2の詳細については後記する。
【0042】
以下、図1を参照(適宜図2参照)して、第1実施形態のノイズ低減装置1の各部の構成について説明する。
[第1実施形態のノイズ低減装置の構成]
フレームメモリ10,11,12は、ノイズ低減装置1に入力される動画像Fを構成する時間軸方向に連続する3つのフレーム画像F(tn−1)、F(t)、F(tn+1)を一時的に記憶する記憶手段である。
【0043】
フレームメモリ10は、ノイズ低減装置1にフレーム画像F(t)が入力されると、既に記憶していた時間軸上で前のフレーム画像(tn−1)をフレームメモリ11に出力するとともに、新しく入力されたフレーム画像F(t)を記憶する。そして、フレームメモリ10は、次のフレーム画像F(tn+1)が入力されるまで、フレーム画像F(t)を記憶保持するとともに、適宜に記憶しているフレーム画像F(t)を静領域処理手段20に出力する。
【0044】
ノイズ低減装置1にフレーム画像F(t)が入力され、フレームメモリ10からフレームメモリ11にフレーム画像F(tn−1)が出力されると、フレームメモリ11は、既に記憶していた時間軸上で更に前のフレーム画像(tn−2)をフレームメモリ12に出力するとともに、フレームメモリ10から入力したフレーム画像F(tn−1)を記憶する。そして、ノイズ低減装置1に、更に次のフレーム画像F(tn+1)が入力されるまで、フレーム画像F(tn−1)を保持するとともに、適宜に記憶しているフレーム画像F(tn−1)を静領域処理手段20及び動領域処理手段30に出力する。
【0045】
ノイズ低減装置1にフレーム画像F(t)が入力され、フレームメモリ11からフレームメモリ12にフレーム画像F(tn−2)が出力されると、フレームメモリ12は、フレーム画像F(tn−2)を入力して記憶する。そして、ノイズ低減装置1に、更に次のフレーム画像F(tn+1)が入力されるまで、フレーム画像F(tn−2)を保持するとともに、適宜に記憶しているフレーム画像F(tn−2)を静領域処理手段20に出力する。
【0046】
以上説明したように、フレームメモリ10,11,12は、それぞれ時間軸上で連続する3つのフレーム画像F(t),F(tn−1),F(tn−2)を記憶している状態において、ノイズ低減装置1に、次のフレーム画像F(tn+1)が入力されると、フレームメモリ10,11,12に記憶されているフレーム画像F(t),F(tn−1),F(tn−2)は順次隣接するフレームメモリにシフトする。その結果、図1に示したように、フレームメモリ10,11,12は、それぞれフレーム画像F(tn+1),F(t),F(tn−1)を記憶した状態となり、静領域処理手段20は、時間軸上で連続する3つのフレーム画像F(tn+1),F(t),F(tn−1)を参照することができるようになる。
同様にして、直列に接続するフレームメモリを増加することにより、更に多数のフレーム画像を参照することができる。
【0047】
静領域処理手段20は、高周波数成分低減手段21を備えて構成されており、高周波数成分低減手段21によって、フレームメモリ10,11及び12から、それぞれフレーム画像F(tn+1)、F(t)及びF(tn−1)を入力し、領域判別装置2から入力した領域判別マップR(t)において静領域であることを示す領域(ブロックBB)に対して、時間軸方向における高周波数成分を低減して、静領域フレーム画像Fs(t)として処理選択手段50に出力する。
高周波数成分低減手段21は、例えば、時間軸方向における複数の画素を参照して平均化フィルタ処理を施す線形フィルタや、時間軸方向における複数の画素を参照してメディアンフィルタ処理を施す非線形フィルタを用いることができる。
【0048】
ここで、図3を参照して時間軸方向における高周波数成分の低減処理について説明する。
高周波数成分低減手段21は、図3に示したように、時間軸方向に連続する3つのフレーム画像F(tn+1)、F(t)及びF(tn−1)の画像平面内の同じ位置(i,j)における画素F(tn+1)(i,j)、F(t)(i,j)及びF(tn−1)(i,j)を参照して、処理対象である注目フレームの注目画素F(t)(i,j)に対する処理を施すものである。ここで、i及びjは、それぞれフレーム画像内の水平方向及び垂直方向の位置を示すインデックスである。
【0049】
時間軸方向における画素の平均化フィルタ処理とは、時間軸方向に連続するフレーム画像F(tn+1)、F(t)及びF(tn−1)などの画像平面内の同じ位置の画素の平均を算出し、処理対象である注目フレームの注目画素の値とするものである。連続する3つのフレームを参照する場合は、式(1−1)のようにして時間軸方向における平均化フィルタ処理を行うことができる。
【0050】
Fs(t)(i,j)=
{ F(tn−1)(i,j)
+ F(t)(i,j)
+ F(tn+1)(i,j) } / 3 …式(1−1)
【0051】
時間軸方向における平均化フィルタ処理では、時間軸方向の画像の変化が抑圧される。すなわち、激しい動きを鈍くするものである。ここで、時間軸方向に変化する粒状ノイズ、例えば、フレームごとにノイズが出現したり消滅したりするノイズは、画像のちらつきとして認識される。時間軸方向に平均化フィルタ処理することにより、このようなちらつきとして認識されるノイズを効果的に低減することができる。一方、静領域とは、画像信号の変化のない領域のことであるから、時間軸方向において平均化フィルタ処理を施しても本来の画質が劣化することはない。そのため、総合的に見ると、ノイズが低減して画質が向上する静領域に適したノイズ低減処理である。
【0052】
また、時間軸方向におけるメディアンフィルタ処理とは、時間軸方向に連続するフレーム画像F(tn+1)、F(t)及びF(tn−1)などの画像平面内の同じ位置の画素の中央値を算出し、処理対象である注目フレームの注目画素の値とするものである。連続する3つのフレームを参照する場合は、式(1−2)のようにして時間軸方向におけるメディアンフィルタ処理を行うことができる。
【0053】
Fs(t)(i,j)=
median(
F(tn−1)(i,j),F(t)(i,j),F(tn+1)(i,j))
…式(1−2)
但し、median(a,b,c)は、a,b,cの内の中央値を出力する関数である。
【0054】
メディアンフィルタ処理は、信号の変化を平坦化する一種のLPF(ローパス・フィルタ)としての機能を有するものであるが、信号の立ち上がり又は立ち下がりエッジを保存する特性を有している。従って、信号振幅の大きい画像信号に、粒状性ノイズのような小振幅のノイズが重畳されている場合、小振幅信号には平坦化作用が働き、画像信号のエッジの急峻な大振幅信号はその急峻さや位置が損なわれることなく出力される。
【0055】
なお、時間軸方向における平均化フィルタ処理やメディアンフィルタ処理において、参照するフレームは3フレームに限定されず、2フレームや5フレームなどとすることもできる。また、例えば、平均化フィルタ処理において、3フレームの平均化処理の場合で5dB、5フレームの平均化処理では7dBのノイズレベルの低減効果を得ることができる。
【0056】
図1に戻って(適宜図2参照)、動領域処理手段30は、ブロック分割手段(動領域処理ブロック分割手段)31と、DCT(離散コサイン変換)処理手段(動領域処理ブロック直交変換手段)32と、コアリング処理手段33と、逆DCT(逆離散コサイン変換)処理手段(動領域処理ブロック逆直交変換手段)34と、コアリングレベル設定手段40とを備えて構成されている。
動領域処理手段30は、フレームメモリ11からフレーム画像F(t)を入力し、領域判別装置2から入力した領域判別マップR(t)において動領域であることを示す領域(ブロックBB)に対して、画像平面内における高空間周波数成分を低減した処理を施して、動領域フレーム画像Fd(t)として処理選択手段50に出力するものである。
【0057】
第1実施形態のノイズ低減装置1における動領域処理手段30は、画像平面内における高空間周波数成分を低減する処理法として、コアリング処理を用いる。
ここで、図4及び図5を参照して、コアリング処理について説明する。
【0058】
第1実施形態のノイズ低減装置1における動領域処理手段30は、図4の(1)に示したように、画素p11〜p55からなる処理対象の5×5の画素配列を、直交変換であるDCT処理をして、図4の(2)に示したように、空間周波数成分を示す係数x11〜x55からなる5×5の係数配列であるDCT係数KDCTに変換する。ここで、係数x11は直流成分を示し、他の係数x12〜x55は交流成分を示す。また、交流成分を示す各係数x12〜x55は、係数配列の右側ほど水平方向の空間周波数が高く、下側ほど垂直方向の空間周波数が高い成分を表す。
【0059】
なお、DCT処理の単位となる画素配列(ブロック(動領域処理ブロック)B)のサイズは5×5に限定されるものではないが、領域判別の単位であるブロックBBの形状と同じとすることで、処理の切り替えを効率的に行うことができる。また、静領域処理と動領域処理を並列に行って、両者の処理結果を処理選択手段50で選択するように構成する場合は、領域判別のブロックBBの形状と動領域処理のブロックBの形状とを独立して設定することができる。
また、画像を空間周波数成分に変換する直交変換の手法としては、DCTのほかに、離散フーリエ変換やアダマール変換などを用いることもできる。
ここでは、直交変換としてDCTを用い、DCT処理の単位であるブロックBは、領域判別の単位であるブロックBBと同じである場合について説明する。
【0060】
コアリング処理とは、図5の(1)に示したように、ノイズのRMS(Root Mean Square:二乗平均平方根)値に相当する振幅分をコアリングレベルECORとして予め設定しておき、交流成分を示す各DCT係数x、x、…、xからコアリングレベルECORを減じることで、図5の(2)に示したように交流成分を一律に低減させる。そして、直流成分とコアリング処理を施した交流成分の係数x’、x’、…、x’からなるDCT係数を逆DCT処理(逆直交変換処理)することにより、高空間周波数成分を低減した画像に変換することができる。
【0061】
図5に示したDCT係数x、x、…、xは、図4の(2)に示したDCT係数KDCTの交流成分を示す係数x12〜x55を空間周波数が低い方から高い方へ模式的に並べたものである。コアリング処理では、一般的に、高空間周波数成分の低減率が高くなるため、特に粒状性ノイズのような高空間周波数成分を多く含むノイズを効果的に低減できる。また、高空間周波数成分が低減されることで画像にボケが生じるが、時間軸方向に画像の変化がある動領域においては、画質劣化として認識されにくいという視覚特性がある。そのため、総合的に見ると、ノイズが低減して画質が向上する動領域に適したノイズ低減処理である。
【0062】
図1に戻って、動領域処理手段30のブロック分割手段(動領域処理ブロック分割手段)31は、処理対象である注目フレームF(t)を、DCT処理の単位である5×5のブロック(動領域処理ブロック)Bに分割し、ブロックBごとに当該ブロックBを構成する画素データをDCT処理手段32に出力する。
【0063】
DCT処理手段(動領域処理ブロック直交変換手段)32は、ブロック分割手段31から入力したブロックBの画素データをDCT処理して、空間周波数成分を示すDCT係数KDCTに変換し、コアリング処理手段33に出力する。
【0064】
コアリング処理手段33は、DCT処理手段32から入力したDCT係数KDCTの交流成分を示す各係数x12〜x55から、コアリングレベル設定手段40のコアリングレベル調整手段42から入力したコアリングレベルECORを減じるコアリング処理を行い、直流成分を示す係数x11とコアリング処理後の交流成分を示す係数x’12〜x’55とからなるDCT係数K’DCTを逆DCT処理手段34に出力する。
【0065】
逆DCT処理手段(動領域処理ブロック逆直交変換手段)34は、コアリング処理手段33から入力したコアリング処理後のDCT係数K’DCTを逆DCT処理して(図4に示したDCT処理の逆方向の変換処理)、高空間周波数成分が低減された5×5のサイズの画像に変換し、ブロックBBに対応する動領域フレーム画像Fd(t)として処理選択手段50に出力する。
【0066】
コアリングレベル設定手段40は、設定用ノイズレベル検出手段41とコアリングレベル調整手段42とを備えて構成されており、フレーム画像F(t)に重畳されている画像平面内のノイズレベルEを検出し、検出したノイズレベルEと外部から入力したコアリングレベル調整値αとに基づいてコアリングレベルECORを調整し、コアリング処理手段33に出力してコアリング処理のために設定するものである。
【0067】
次に、図6及び図7を参照(適宜図1参照)して、第1実施形態におけるコアリングレベル設定手段40の詳細な構成について説明する。
【0068】
図6に示した第1実施形態における設定用ノイズレベル検出手段41は、フレーム画像F(t)を、予め定めた形状のブロック(ノイズ検出ブロック)Cに分割し、ブロックCごとにDCT処理して空間周波数成分を示すDCT係数KDCTに変換し、交流成分の平均である交流成分平均KAVEを算出する。そしてフレーム画像F(t)内の各ブロックCにおける交流成分平均KAVEの中から最小値を抽出し、抽出した交流成分平均KAVEの最小値をノイズレベルEとするものである。
【0069】
設定用ノイズレベル検出手段41は、ブロック分割手段41aと、DCT処理手段41bと、交流成分平均算出手段41cと、最小値抽出手段41dとを備えて構成されている。設定用ノイズレベル検出手段41は、コアリングレベルECORを設定するための基となるノイズレベルを検出するものである。
【0070】
ブロック分割手段(ノイズ検出ブロック分割手段)41aは、プリスキャン(予備撮影)して得たフレーム画像F(t)を、予め定められた形状のブロック(ノイズ検出ブロック)Cに分割し、分割した各ブロックCごとに、ブロックCを構成する画素データをDCT処理手段41bに出力する。第1実施形態における設定用ノイズレベル検出手段41は、図7の(1)に点線で示したように、フレーム画像F(t)を、まず32×32のブロックに分割し、各32×32サイズのブロックの一部にハッチングを施して示した11×11のブロックCを構成する画素データを参照する。例えば、フレーム画像F(t)の画像サイズがフルハイビジョンサイズである1920×1080の場合には、水平方向に1920/32=60ブロック、垂直方向に1080/32≒33ブロックに分割し、フレーム画像F(t)内の60×33=1980箇所の11×11サイズのブロックCを構成する画素データを順次にDCT処理手段41bに出力する。
【0071】
カメラ撮影において画像に重畳される粒状性ノイズは、主として高空間周波数成分を多く含むため、ノイズレベル検出のために用いる画像には、エッジや細密な模様などが含まれない平坦な画像領域、すなわち画像信号として高空間周波数成分を多く含まない画像領域が適している。このような画像領域の高空間周波数成分の大きさによってノイズレベルを評価することができる。そこで、分割した複数のブロックCの中の、少なくとも1個のブロックCが前記したような平坦画像領域に割り当てられればノイズレベルを適切に検出することができる。従って、第1実施形態の設定用ノイズレベル検出手段41は、フレーム画像F(t)の全領域を参照する必要はなく、全領域から一部の領域を間引いて参照するものである。
【0072】
ここで、エッジなどの高空間周波数成分を多く含む画像が、1フレーム内に500箇所程度含まれることが実験的に分かっているため、少なくとも1個のブロックCが、エッジなどを含まない平坦な画像領域に割り当てられるように、ブロックCの参照箇所は500箇所以上とすることが望ましい。そこで、第1実施形態では、フルハイビジョンサイズの画像に適用した場合、前記したように1980箇所のブロックCを参照するように構成されている。
なお、プリスキャン時には、画像の高空間周波数成分を抑制するために、わざとフォーカスをぼかして撮影するようにしてもよい。
【0073】
また、図7の(2)に点線で示したように、フレーム画像F(t)の全領域を11×
11の形状のブロックに分割し、これらのブロック中からハッチングを施して示したブロックCを選択して、ノイズレベル検出のために参照するようにしてもよい。図7の(2)に示した例では、水平方向、垂直方向ともに、3ブロックに1ブロックの割合で抽出しているため、フレーム画像F(t)が、フルハイビジョンサイズの画像の場合では、水平方向に1920/11/3≒58ブロック、垂直方向に1080/11/3≒32ブロックであり、合計で58×32=1856箇所のブロックCを参照することができる。
【0074】
DCT処理手段(ノイズ検出ブロック直交変換手段)41bは、ブロック分割手段41aから入力したブロックCを構成する画素配列を、DCT処理手段32と同様にDCT処理して、空間周波数成分を示すDCT係数KDCTに変換して、交流成分平均算出手段41cに出力する。なお、ブロックCを構成する画素サイズが11×11の場合には、空間周波数成分x11〜x11 11(水平方向に1番目かつ垂直方向に1番目の成分から、水平方向に11番目かつ垂直方向に11番目の成分)までの121個の要素からなるDCT係数KDCTに変換される。図4の(2)と同様にDCT係数KDCTを表すと、何れのサイズの場合でも、配列の左上の要素x11が直流成分であり、右側ほど水平方向の空間周波数が高く、下側ほど垂直方向の空間周波数の高い成分の係数を示す。
【0075】
交流成分平均算出手段41cは、DCT処理手段41bからDCT係数KDCT入力し、DCT係数KDCTの交流成分を示す係数の平均である交流成分平均KAVEを算出して、算出した交流成分平均KAVEを最小値抽出手段41dに出力する。
【0076】
ここで、交流成分平均KAVEは、交流成分を示す各係数x12〜x11 11(水平方向に1番目かつ垂直方向に2番目の成分から、水平方向に11番目かつ垂直方向に11番目の成分までの120個の係数)の単純平均やRMS(Root Mean Square:二乗平均平方根)とすることができる。また、交流成分平均KAVEは、例えば、高空間周波数成分ほど重みを大きくした加重平均や、係数配列において右下の三角領域に配列される高空間周波数成分のみの平均を算出して用いるようにしてもよい。特に粒状性ノイズは高空間周波数成分が主体であるため、高空間周波数成分の量を重点的に評価することで、コアリング処理で除去すべきノイズレベルを適切に検出することができる。
【0077】
最小値抽出手段41dは、交流成分平均算出手段41cからブロックCごとに入力される交流成分平均KAVEの中から内の最小値を抽出し、抽出した最小値をフレーム画像F(t)から検出したノイズレベルEとして、コアリングレベル調整手段42に出力する。
【0078】
コアリングレベル調整手段42は、最小値抽出手段41dから入力したノイズレベルEに、不図示のキーボードやマウス、調整つまみなどの入力手段を介して外部から入力されたコアリングレベル調整値αを乗じてコアリングレベルECORを算出し、コアリング処理手段33に出力する。
【0079】
第1実施形態におけるコアリングレベル設定手段40では、設定用ノイズレベル検出手段41で検出したノイズレベルEにコアリングレベル調整値を乗じて、コアリングレベルECORを調整できるように構成している。これは、ノイズレベルEをコアリングレベルECORとしてコアリング処理した場合に、ノイズが十分に低減される一方で、画像信号の高空間周波数成分が低減され過ぎてノイズ低減処理後の画像の鮮鋭度が低下し過ぎないように調整するためである。
【0080】
コアリングレベル調整値αは、0〜1の任意の実数値とすることができるが、外部からコアリングレベル調整値αを入力せずに、例えば、信号対雑音比が5dB(=10log(1−α))程度改善できるように、常にα=0.7として、ノイズレベルEを調整してコアリングレベルECORとするようにしてもよい。また、固定した調整値としてα=0.7とするか、調整を行わずにα=1とするかを外部から選択可能なように構成してもよい。
なお、常にノイズレベルEをコアリングレベルECORとして用いる場合は、コアリングレベル調整手段42は省略することができる。
【0081】
図1に戻って、ノイズ低減装置1の構成について説明を続ける。
処理選択手段50は、静領域処理手段20及び動領域処理手段30から、それぞれ静領域フレーム画像Fs(t)及び動領域フレーム画像Fd(t)を入力し、領域判別装置2から入力した領域判別マップR(t)に従って、静領域であることを示す領域に対しては、静領域フレーム画像Fs(t)をフレームメモリ60に出力し、動領域であることを示す領域に対しては、動領域フレーム画像Fd(t)をフレームメモリ60に出力する。
【0082】
フレームメモリ60は、処理選択手段50によって領域判別マップR(t)に従って、ブロックBBごとに選択された静領域フレーム画像Fs(t)又は動領域フレーム画像Fd(t)を順次記憶し、1フレーム分蓄積すると、ノイズ低減処理されたフレーム画像F’(t)として外部に出力する記憶手段である。
【0083】
なお、第1実施形態のノイズ低減装置1では、静領域処理手段20及び動領域処理手段30は、領域判別装置2から入力した領域判別マップR(t)に従って、択一的に処理を行うようにしたが、静領域処理手段20及び動領域処理手段30によって、領域判別マップR(t)に関わらず、フレーム画像F(t)の全領域に対して、それぞれ並行して処理を行うようにし、処理選択手段50によって、静領域処理手段20又は動領域処理手段30の処理結果である静領域フレーム画像Fs(t)又は動領域フレーム画像Fd(t)を択一的に選択してフレームメモリ60に出力するようにしてもよい。
【0084】
領域判別装置2は、ノイズ低減システム100に入力される動画像Fを構成するフレーム画像F(t)を順次に入力し、入力したフレーム画像F(t)を予め定めた形状である5×5のサイズのブロックBBごとに、当該ブロックが動領域か静領域かを判別し、その領域判別結果と当該ブロックのフレーム画像F(t)の画像平面における位置とを対応づけた領域判別マップR(t)を作成する。そして、領域判別装置2は、作成した領域判別マップR(t)を静領域処理手段20、動領域処理手段30及び処理選択手段50に出力する。
【0085】
ここで、図8を参照して、領域判別装置2の構成について詳細に説明する。
図8に示した領域判別装置2は、動画像を構成するフレーム画像F(tn―2)、F(tn―1)、F(t)、F(tn+1)、F(tn+2)…、を順次に入力し、フレームごとに、フレーム画像F(t)などをブロックBB(領域判別ブロック)に分割して、各ブロックBBが動きのある動領域か、動きのない静領域かを判別し、各ブロックBBの領域判別結果rとフレーム画像F(t)の画像面内における当該ブロックBBの位置とを対応づけて構成した領域判別マップR(t)を出力する。
なお、F(t)及びR(t)は、それぞれ時間tにおけるフレーム画像及び領域判別マップを示し、後記するように、フレーム画像F(t)の入力に対する領域判別マップR(t)は、1フレーム周期遅れて出力される。
【0086】
図8に示した領域判別装置2は、ブロック分割手段210と、ブロック画素記憶手段211と、差分平均算出手段212と、正規化手段213と、最大値抽出手段214と、領域判別手段215と、領域判別マップ記憶手段216と、差分計算設定手段217と、ノイズレベル設定手段218と、判別閾値設定手段219と、を備えて構成されている。
【0087】
ブロック分割手段210は、フレーム順次で入力される動画像を構成するフレーム画像F(t)を、画像面内で5×5画素の形状のブロック(領域判別ブロック)BBに分割して、ブロックBBごとに、ブロックBBを構成する画素データをブロック画素記憶手段211に出力する。
【0088】
ここで、図2及び図9を参照(適宜図8参照)して、領域判別装置2における領域判別の単位であるブロックBBの分割と、フレーム間のブロックBBの参照の様子について説明する。
【0089】
ブロック分割手段210は、フレーム画像F(t)内を、予め定めた形状として図2に示した5×5画素の形状のブロックBBに分割し、順次に各ブロックBBを構成する画素データをブロック画素記憶手段211の後フレーム画素記憶手段2111に出力する。
また、ブロック分割手段210は、図9に示したように、時間軸方向に連続する各フレーム画像F(tn−1)、F(t)、F(tn+1)を順次にブロック分割する際に、それぞれ画像面内の同じ位置に対応するブロックBBn−1、BB、BBn+1が分割されるようにする。
【0090】
ここで、ブロックBBの形状(サイズ)は、画像信号の高空間周波数成分を十分に検出できる大きさが必要であり、3×3よりも大きいことが好ましい。一方、画像領域をきめ細かく領域判別するためにはブロックBBのサイズは小さい方が好ましく、11×11より小さいことが好ましい。ここでは、ブロックBBの形状を5×5として説明する。
また、ブロックBBの形状は、5×5、4×4、7×7、8×8のように正方形に限定されず、例えば、8×4のように横方向(水平方向)と縦方向(垂直方向)とでサイズを異なるようにしてもよい。
【0091】
図8に戻って(適宜図2及び図9参照)、ブロック画素記憶手段211は、直列に接続された後フレーム画素記憶手段2111、注目フレーム画素記憶手段2112及び前フレーム画素記憶手段2113を備えて構成されている。ブロック画素記憶手段211は、ブロック分割手段210から順次に出力されるブロックBBの画素データを記憶し、連続する3つのフレームにおいて、画像平面内の同じ位置に対応するブロックBB、BB、BBの画素データを読み出して、同時に参照できるようにするための記憶手段である。
なお、ブロックBBは、時間軸方向に連続する3つのフレームの内の、時間軸上で前のフレーム(前フレーム)におけるブロックを示し、ブロックBBは、時間軸上で中央のフレーム(処理対象となる注目フレーム)におけるブロックを示し、ブロックBBは、時間軸上で後のフレーム(後フレーム)におけるブロックを示すものとする。
【0092】
後フレーム画素記憶手段2111は、ブロック分割手段210から入力して記憶したフレーム画像F(t)におけるブロックBBの画素データを、後フレームのブロックBBの画素データとして差分平均算出手段212の差分算出手段2121に出力する。
また、後フレーム画素記憶手段2111は、1フレームの処理が終了すると、不図示のフレーム同期信号に同期して、記憶している画素データを注目フレーム画素記憶手段2112に出力する。そして、ブロック分割手段210から入力される次のフレーム画像、すなわち時間tn+1におけるフレーム画像F(tn+1)のブロックBBn+1の画素データを、次の後フレームのブロックBBの画素データとして記憶する。
【0093】
一方、注目フレーム画素記憶手段2112は、後フレーム画素記憶手段2111がフレーム画像F(t)におけるブロックBBの画素データを後フレームのブロックBBの画素データとして出力している期間に、時間軸上で前のフレーム画像F(tn−1)におけるブロックBBn―1の画素データを、注目フレームのブロックBBの画素データとして差分算出手段2121に出力する。1フレームの処理が終了すると、注目フレーム画素記憶手段2112は、不図示のフレーム同期信号に同期して、記憶している画素データを前フレーム画素記憶手段2113に出力するとともに、後フレーム画素記憶手段2111から入力されるフレーム画像F(t)のブロックBBの画素データを、次の注目フレームにおけるブロックBBの画素データとして記憶する。
【0094】
同様に、前フレーム画素記憶手段2113は、注目フレーム画素記憶手段2112がフレーム画像F(tn−1)におけるブロックBBn―1の画素データを注目フレームのブロックBBの画素データとして出力している期間に、時間軸上で更に前のフレーム画像F(tn−2)におけるブロックBBn―2(不図示)画素データを、前フレームのブロックBBの画素データとして差分算出手段2121に出力する。1フレームの処理が終了すると、前フレーム画素記憶手段2113は、不図示のフレーム同期信号に同期して、注目フレーム画素記憶手段2112から入力されるフレーム画像F(tn―1)のブロックBBn―1の画素データを、次の前フレームにおけるブロックBBの画素データとして記憶する。
【0095】
以上のようにして、ブロック画素記憶手段211は、ブロック分割手段210からフレームごとに入力したブロックBBの画素データを、フレーム同期信号に同期して、後フレーム画素記憶手段2111、注目フレーム画素記憶手段2112及び前フレーム画素記憶手段2113にシフトして記憶する。そして、後フレーム画素記憶手段2111、注目フレーム画素記憶手段2112及び前フレーム画素記憶手段2113は、それぞれブロックBB、BB、BBの画素データとして記憶した連続する3つのフレームの画素データを差分算出手段2121に出力することで、差分算出手段2121は、注目フレームと前後のフレームの、画像平面内の同じ位置から分割された処理対象である注目ブロックBBのデータを同時に参照することができる。
【0096】
差分平均算出手段212は、差分算出手段2121と、平均算出手段2122と、を備えて構成されており、注目ブロックBB内の画素のフレーム間の差分の大きさの平均である差分平均G、G、Gを、注目ブロックBB内の画像の動きの大きさを示す量(動き成分量)として算出して、正規化手段213に出力するものである。
【0097】
差分算出手段2121は、ブロック画素記憶手段211の前フレーム画素記憶手段2113、注目フレーム画素記憶手段2112及び後フレーム画素記憶手段2111から出力されるブロックBB、BB、BBの画素データを入力し、差分計算設定手段217から入力する設定値SELに従って、画素ごとにフレーム間の差分D、D、Dを算出して平均算出手段2122に出力する。
【0098】
ここで、ブロックB、差分Dなどのブロック内の位置(i,j)における画素値及び差分値を、それぞれB(i,j)、D(i,j)のように表すと、式(2−1)〜式(2−3)のような関係となる。
【0099】
(i,j) = BB(i,j) − BB(i,j) …式(2−1)
(i,j) = BB(i,j) − BB(i,j) …式(2−2)
(i,j) = BB(i,j) − BB(i,j) …式(2−3)
【0100】
なお、設定値SELは、前記した3種類の差分D、D、Dから、実際に算出する差分の種別を選択するための選択信号である。
例えば、“0”又は“1”の値をとるものであり、設定値SELが“1”の場合は、差分平均算出手段212におけるフレーム間の差分平均として、前フレームと注目フレームとの間、後フレームと注目フレームとの間、及び前フレームと後フレームとの間の3種類の組み合わせによる差分平均を算出する。また、設定値SELが“0”の場合は、差分平均算出手段212におけるフレーム間の差分平均として、前フレームと後フレームとの間の差分平均のみを算出し、計算の簡略化を選択できるようになっている。
【0101】
平均算出手段2122は、差分算出手段2121から差分D、D、Dを入力し、当該3種類の差分D、D、Dごとに、差分の大きさの平均である差分平均G、G、Gを算出して正規化手段213に出力する。なお、差分計算設定手段217から入力した設定値SELが“0”の場合には、平均算出手段2122は、差分平均Gのみを算出して正規化手段213に出力する。
【0102】
ここで、差分平均Gは、式(3−1)及び式(3−2)に示したように、差分D(i,j)の絶対値の平均やRMS(Root Mean Square:二乗平均平方根)とすることができる。また、式(3−3)に示したように、RMSの平方根の計算を省略して二乗平均を差分平均Gとして用いるようにしてもよい。差分平均G、Gについても同様である。
【0103】
= Σ|D(i,j)|/N …式(3−1)
= √{ΣD(i,j)/N} …式(3−2)
= ΣD(i,j)/N …式(3−3)
【0104】
但し、式(3−1)〜式(3−3)において、NはブロックBB内の画素数を示し、5×5サイズの場合はN=25である。また、i及びjは、それぞれ画素のブロックBB内における水平方向及び垂直方向の位置を示すインデックスであり、Σは、ブロックBB内のすべての画素位置(i,j)についての和を表すものとする。
【0105】
正規化手段213は、差分平均算出手段212から入力した差分平均G、G、Gを、ノイズレベル設定手段218から入力したノイズレベルEEで除することにより正規化して、正規化差分平均G’、G’、G’を算出し、算出した正規化差分平均G’、G’、G’を最大値抽出手段214に出力する。
【0106】
ここで、ノイズレベルか、あるいは誤判別を低減するためノイズレベルを少し超えたレベルかを予め判別閾値として設定しておき、画像の動き成分量として算出した差分平均G、G又はGの何れかが判別閾値を超えた場合に、当該ブロックを画像に動きがある動領域と判別することができる。しかし、一般的に、領域判別する動画像ごとにSNR(信号対雑音比)は異なるため、適切に領域判別を行うためには、動画像ごとに判別閾値をチューニングする必要が生じる。
【0107】
そこで、ここでは、当該動画像に重畳されているノイズレベルEEを検出し、ノイズレベルEEで差分平均G、G、Gを除して正規化した正規化差分平均G’、G’、G’と、予め定めた判別閾値THRを比較することで領域判別を行うものである。
これによって、動画像ごとに判別閾値THRをチューニングする必要がなくなる。また、判別処理対象の動画像に関わらず、各動画像に共通の判別閾値THRを調整して動領域の抽出漏れを低減したり、逆に動領域の検出過多を低減したりすることも可能である。
【0108】
最大値抽出手段214は、ブロックごとに、正規化手段213から入力した3つの正規化差分平均G’、G’、G’の内の最大値である最大正規化差分平均G’maxを抽出し、抽出した最大正規化差分平均G’maxを領域判別手段215に出力する。
【0109】
画像が時々刻々変化する動画像において、注目フレーム及び前後フレームの相互間で最も変化量の大きいフレーム間の正規化差分平均である最大正規化差分平均G’maxを、注目フレームにおける画像の動き成分量とすることで、動き成分量をより適切に検出することができる。
【0110】
なお、差分計算設定手段217によって設定値SELに“0”が設定されている場合は、最大値抽出手段214に、正規化手段213からは正規化差分平均G’のみが入力されるため、最大値の抽出処理をすることなく、正規化差分平均G’を最大正規化差分平均G’maxとして領域判別手段215に出力する。
また、差分平均算出手段212が、常に差分平均Gのみ算出するように構成する場合は、最大値抽出手段214は省略することができる。
【0111】
領域判別手段215は、最大値抽出手段214から入力した正規化差分平均の最大正規化差分平均G’maxと、判別閾値設定手段219から入力した判別閾値THRとを比較し、最大正規化差分平均G’maxが判別閾値THRよりも大きいときに、注目ブロックBBを動領域であると判別し、最大正規化差分平均G’maxが判別閾値THR以下の場合に、注目ブロックBBを静領域と判別し、領域判別結果rを領域判別マップ記憶手段216に出力する。
なお、領域判別結果rは、例えば、動領域と判別したときは“1”の値をとり、静領域と判別したときは“0”の値をとるようにすることができる。
【0112】
領域判別マップ記憶手段216は、領域判別手段215から入力した領域判別結果rを、当該判別対象となった注目ブロックBBのフレーム画像F(t)の画像面内における位置に対応づけた領域判別マップR(t)として記憶する記憶手段である。領域判別マップ記憶手段216に記憶された領域判別マップR(t)は、ノイズ低減装置1によるフレーム画像F(t)の処理に同期してノイズ低減装置1に出力される。
ここで、注目フレーム画像F(t)に対する領域判別結果rは、1フレーム周期後に入力されるフレーム画像F(tn+1)を参照して出力されるため、フレーム画像F(t)を入力する期間に出力される領域判別マップは、1フレーム周期前の、時間tn−1におけるフレーム画像F(tn−1)に対する領域判別マップR(tn−1)である。
【0113】
また、ノイズ低減装置1が、領域判別装置2による領域判別結果rの算出に同期して並行して処理を行うようにして、領域判別装置2は、領域判別マップR(t)を作成せずに、領域判別手段215が判別した領域判別結果rを順次にノイズ低減装置1に出力するように構成してもよい。
【0114】
差分計算設定手段217は、前記したように、差分平均算出手段212において3つの差分平均G、G、Gを算出するか、1つの差分平均Gを算出するかを選択する設定値SELを差分平均算出手段212に出力する。設定値SELは、不図示のスイッチやキーボード、マウスなどの入力手段を介して操作者が設定できるように構成されている。
【0115】
ノイズレベル設定手段218は、フレーム画像F(t)を入力して、入力したフレーム画像F(t)からノイズレベルEEを検出し、検出したノイズレベルEEを正規化手段213に出力して差分平均G、G、Gの正規化のために設定する。
【0116】
ノイズレベル設定手段218は、判別対象となる動画像の入力に先立って、当該動画像を生成するカメラを用いて、濃淡のある通常の風景などをプリスキャン(予備撮影)し、プリスキャンして得たフレーム画像F(t)から、前記したカメラで本スキャン(本番の撮影)したときに動画像に重畳されると推測される画像平面内のノイズレベルEEを検出するものである。
ノイズレベル設定手段218の詳細な構成については後記する。
【0117】
判別閾値設定手段219は、領域判別のために用いる判別閾値THRを設定し、領域判別手段215に出力する。判別閾値THRは、不図示の調整つまみやキーボード、マウスなどの入力手段を介して操作者が設定できるように構成されている。
【0118】
次に、図10を参照(適宜図8参照)して、ノイズレベル設定手段218について詳細に説明する。
【0119】
図10に示したノイズレベル設定手段218は、フレーム画像F(t)を、予め定めた形状のブロックCCに分割し、ブロックCCごとに直流成分を除去した直流成分除去画像CC’を算出して、この直流成分除去画像CC’を構成する各画素データの大きさの平均である画素平均Hに基づいて画像面内のノイズレベルEEを検出し、前記した正規化手段213による正規化処理に用いるために設定するものである。
ノイズレベル設定手段218は、ブロック分割手段2181と、直流成分除去画像算出手段2182と、画素平均算出手段2183と、最小値抽出手段2184とを備えて構成されている。
【0120】
ブロック分割手段2181は、プリスキャンして得たフレーム画像F(t)を、予め定められた形状のブロックCCに分割し、分割したブロックCCごとに、ブロックCCを構成する画素データを直流成分除去画像算出手段2182に出力する。ノイズレベル設定手段218のブロック分割手段2181は、前記したコアリングレベル設定手段40のブロック分割手段41aと同様に、図7の(1)又は(2)に示したブロックCと同形状のブロックCCに分割し、ブロックCCを構成する画素データを順次に直流成分除去画像算出手段2182に出力する。
【0121】
なお、領域判別装置2のノイズレベル設定手段218に入力するプレスキャンして得たフレーム画像は、ノイズ低減装置1のコアリングレベル設定手段40に入力するフレーム画像と同一のフレーム画像を用いることができる。
【0122】
直流成分除去画像算出手段2182は、DCT処理手段2182aと、直流成分除去手段2182bと、逆DCT処理手段2182cとを備えて構成されており、ブロック分割手段2181から入力したブロックCCごとに、少なくとも直流成分を除去した直流成分除去画像CC’を算出して画素平均算出手段2183に出力するものである。
【0123】
DCT処理手段2182aは、ブロック分割手段2181から入力したブロックCCを構成する画素データをDCT処理してDCT係数KDCTに変換し、変換したDCT係数KDCTを直流成分除去手段2182bに出力する。
DCT処理手段2182aは、図6に示したコアリングレベル設定手段40のDCT処理手段41bと同様であるので、詳細な説明は省略する。
【0124】
直流成分除去手段2182bは、DCT処理手段2182aから入力したDCT係数KDCTから、少なくとも直流成分を除去(係数x11(図4の(2)参照)を“0”に置き換える)し、少なくとも直流成分を除去したDCT係数K’DCTを逆DCT処理手段2182cに出力する。
【0125】
なお、直流成分除去手段2182bは、直流成分を示す係数x11のみを除去してもよいが、直流成分及び直流成分近傍、すなわち低い空間周波数側の交流成分も除去するようにしてもよい。これによって、画像信号に比べて高空間周波数成分を多く含む粒状性ノイズを主とするノイズレベルを、より的確に検出することができる。
【0126】
逆DCT処理手段2182cは、直流成分除去手段2182bから入力した直流成分係数x11が除去されたDCT係数K’DCTを逆DCT処理して画素データの配列からなる直流成分除去画像CC’を算出し、画素平均算出手段2183に出力する。
【0127】
画素平均算出手段2183は、逆DCT処理手段2182cから入力した直流成分除去画像CC’を構成する画素データの大きさの平均である画素平均Hを、ブロックごとに算出して、最小値抽出手段2184に出力する。
【0128】
ここで、元のブロックCCの画像が濃淡変化の全くない平坦画像、すなわちブロックCを構成する画素データの値がすべて同値である場合は、DCT係数KDCTの交流成分はすべて“0”であるから、ブロックCの平均輝度(濃淡レベル)を示す直流成分係数x11を除去してから、逆DCT処理して算出した直流成分除去画像CC’を構成する画素データはすべて“0”となる。そして、濃淡変化が大きいほど、直流成分除去画像CC’を構成する画素データは、その大きさである画素データの絶対値が大きな値を持つようになる。
画素平均算出手段2183は、各ブロックCCに対応する直流成分除去画像CC’の画素平均Hを算出し、フレーム画像F(t)におけるノイズレベルEEの候補値として順次に最小値抽出手段2184に出力する。
【0129】
なお、ノイズレベル設定手段218の画素平均算出手段2183は、画素平均Hの算出方法として、直流成分除去画像CC’を構成する画素データのRMS(二乗平均平方根)を算出する。
また、画素平均Hは、画素データのRMSの他、画素データの絶対値の平均としてもよく、計算を簡略化するためにRMSの平方根算出を省略した画素データの二乗平均としてもよい。
【0130】
最小値抽出手段2184は、画素平均算出手段2183からブロックCCごとに入力される画素平均Hの内の最小値を抽出し、抽出した最小値をフレーム画像F(t)から検出したノイズレベルEEとして、正規化手段213に出力する。
【0131】
なお、ノイズレベルEEに替えて、コアリングレベル設定手段40の設定用ノイズレベル検出手段41によって出力されるノイズレベルEを用いることもできる。この場合は、ノイズレベル設定手段218を省略して構成することができる。
【0132】
以上、ノイズ低減装置1を含むノイズ低減システム100の構成について説明したが、本発明はこれに限定されるものではない。例えば、ノイズ低減装置1は、一般的なコンピュータにプログラムを実行させ、コンピュータ内の演算装置や記憶装置を動作させることにより実現することができる。このプログラム(ノイズ低減プログラム)は、通信回線を介して配布することも可能であるし、CD−ROM等の記録媒体に書き込んで配布することも可能である。
【0133】
[第1実施形態のノイズ低減装置を含むノイズ低減システムの動作]
次に、図11を参照(適宜図1、図6及び図8参照)して、第1実施形態のノイズ低減装置1を含むノイズ低減システム100の動作について説明する。
【0134】
図11に示したように、ノイズ低減システム100は、不図示のカメラでプリスキャンして得たフレーム画像F(t)をノイズ低減装置1及び領域判別装置2に入力し(ステップS11)、ノイズ低減装置1のコアリングレベル設定手段40によって、フレーム画像F(t)に重畳されたノイズレベルEを検出し、検出したノイズレベルEにコアリングレベル調整値αを乗じてコアリングレベルECORを算出して、ノイズ低減装置1のコアリング処理手段33に設定する(ステップS12)。
【0135】
ノイズ低減システム100は、ステップS12に続いて、又は並行して、領域判別装置2のノイズレベル設定手段218によって、ステップS11でプリスキャンして得たフレーム画像F(t)に重畳されたノイズレベルEEを検出し、正規化処理のために当該ノイズレベル設定手段218の正規化手段213に出力して設定する(ステップS13)。
なお、領域判別装置2が、ノイズレベルEEに替えて、ノイズレベルEを用いるよう構成する場合は、ステップS13は省略することができる。
【0136】
次に、不図示のカメラによって本スキャンが開始され(ステップS14)、ノイズ低減システム100のノイズ低減装置1及び領域判別装置2にフレーム画像F(t)を入力すると(ステップS15)、領域判別装置2によって、フレーム画像F(t)をブロックBBに分割し(ステップS16)、ブロックBBごとに動領域か静領域かを示す領域判別マップR(t)を作成する(ステップS17)。
【0137】
ノイズ低減システム100は、ノイズ低減装置1によって、ステップS17で領域判別装置2が作成した領域判別マップR(t)を参照してブロックBBごとに領域判別結果rを確認し(ステップS18)、注目ブロックBBが動領域である場合は(ステップS18でYes)、ノイズ低減装置1の動領域処理手段30によって、ステップS16で分割したフレーム画像F(t)の注目ブロックBBに対応する画像をブロックBとして分割して動領域処理を施し、動領域フレーム画像Fd(t)を算出して処理選択手段50に出力する(ステップS19)。一方、注目ブロックBBが静領域である場合は(ステップS18でNo)、ノイズ低減装置1の静領域処理手段20によって、ステップS16で分割したフレーム画像F(t)の注目ブロックBBに対応する画像をブロックBとして分割し、静領域処理を施し、静領域フレーム画像Fs(t)を算出して処理選択手段50に出力する(ステップS20)。
【0138】
ノイズ低減システム100は、ノイズ低減装置1の処理選択手段50によって、ステップS17で領域判別装置2が作成した領域判別マップR(t)を参照して注目ブロックBBが動領域である場合はステップS19で動領域処理手段30から入力した動領域フレーム画像Fd(t)を選択してフレームメモリ60に記憶し、注目ブロックBBが静領域である場合はステップS20で静領域処理手段20から入力した静領域フレーム画像Fs(t)を選択してフレームメモリ60に記憶する(ステップS21)。
【0139】
ノイズ低減システム100は、領域判別装置2によって、注目フレームにおいて未処理のブロックBBがあるか確認し(ステップS22),未処理のブロックBBがある場合は(ステップS22でYes)、ステップS18に戻って、次の注目ブロックBB対する一連のノイズ低減処理を続ける。一方、未処理のブロックBBがない場合は(ステップS22でNo)、ノイズ低減システム100は、ノイズ低減装置1によって、ノイズ低減装置1のフレームメモリ60に蓄積されたノイズ低減したフレーム画像F’(t)を読み出して、外部に出力する(ステップS23)。
【0140】
ノイズ低減システム100は、次のフレーム画像F(tn+1)の入力があるか確認し(ステップS24)、次のフレーム画像F(tn+1)の入力がある場合は(ステップS24でYes)、ステップS15に戻って、次のフレーム画像F(tn+1)に対する一連のノイズ低減処理を続ける。一方、次のフレーム画像F(tn+1)の入力がない場合は(ステップS24でNo)、ノイズ低減システム100は処理を終了する。
【0141】
次に、図12を参照(適宜図8参照)して、ノイズ低減装置1の静領域処理手段20の動作について説明する。なお、図12に示したフロー図の処理は、図11に示したステップS20の処理に相当する。
【0142】
ノイズ低減装置1の静領域処理手段20は、高周波数成分低減手段21によって、注目ブロックBBの位置に対応する注目フレーム及び前後フレームの画素データを、それぞれフレームメモリ11,10及び12から入力する(ステップS31)。
【0143】
静領域処理手段20は、ブロックBBを構成する各画素に対して、時間軸方向におけるノイズ低減処理として、平均化フィルタ処理又はメディアンフィルタ処理を施すことによって高周波数成分を除去し、ブロックBBの位置における静領域フレーム画像Fs(t)として処理選択手段50に出力する(ステップS32)。
【0144】
次に、図13を参照(適宜図8参照)して、ノイズ低減装置1の動領域処理手段30の動作について説明する。なお、図13に示したフロー図の処理は、図11に示したステップS19の処理に相当する。
【0145】
ノイズ低減装置1の動領域処理手段30は、ブロック分割手段31によって、注目ブロックBBの位置に対応する注目フレームの画像をブロックBとしてフレームメモリ11から分割して、当該ブロックBを構成する画素データを入力する(ステップS41)。
【0146】
次に動領域処理手段30は、DCT処理手段32によって、ステップS41で入力したブロックBを構成する画素データをDCT処理して、空間周波数成分を示すDCT係数KDCTに変換し、変換したDCT係数KDCTをコアリング処理手段33に出力する(ステップS42)。
【0147】
動領域処理手段30は、コアリング処理手段33によって、ステップS42でDCT処理手段32から入力したDCT係数KDCTの交流成分を示す各係数から、図11のステップS12でコアリングレベル設定手段40から予め入力して設定しておいたコアリングレベルECORを減じ、未処理の直流成分を示す係数とコアリングレベルECORを減じた交流成分を示す各係数とからなるDCT係数K’DCTを逆DCT処理手段34に出力する(ステップS43)。
【0148】
動領域処理手段30は、ステップS43でコアリング処理手段33から入力したDCT係数K’DCTを逆DCT処理して、高空間周波数成分が低減された画像に変換し、ブロックBBの位置における動領域フレーム画像Fd(t)として処理選択手段50に出力する(ステップS44)。
【0149】
次に、図14を参照(適宜図6及び図1参照)して、ノイズ低減装置1のコアリングレベル設定手段40の動作について説明する。なお、図14に示したフロー図の処理は、図11に示したステップS12の処理に相当する。
【0150】
図14に示したように、コアリングレベル設定手段40は、プリスキャンして得たフレーム画像F(t)を入力すると(ステップS61)、当該フレーム画像F(t)を設定用ノイズレベル検出手段41のブロック分割手段41aによって、全領域を32×32のブロックに分割し、更にブロックごとに11×11のブロックCをノイズレベル検出のための参照領域として分割して(ステップS62)、ブロックCごとに、各ブロックCを構成する画素データをDCT処理手段41bに出力する(ステップS63)。
【0151】
コアリングレベル設定手段40は、DCT処理手段41bによって、ステップS63でブロック分割手段41aから入力したブロックCの画素データをDCT処理し、空間周波数成分を示すDCT係数KDCTに変換して、交流成分平均算出手段41cに出力する(ステップS64)。
【0152】
続いて、コアリングレベル設定手段40は、交流成分平均算出手段41cによって、ステップS64でDCT処理手段41bから入力したDCT係数KDCTの交流成分を示す係数の平均である交流成分平均KAVEを算出し、最小値抽出手段41dに出力する(ステップS65)。
【0153】
そして、コアリングレベル設定手段40は、一つのブロックCの交流成分平均KAVEの算出が終わると、未処理のブロックCが残ってないかを確認し(ステップS66)、未処理のブロックCが残っている場合は(ステップS66でYes)、ステップS63に戻って、次のブロックCについて交流成分平均KAVEを求める一連の処理を行う。
【0154】
一方、未処理のブロックCがない場合は(ステップS66でNo)、コアリングレベル設定手段40は、最小値抽出手段41dによって、交流成分平均算出手段41cから入力した、フレーム画像F(t)内の各ブロックCにおける交流成分平均KAVEから最小値を抽出し、抽出した最小値をノイズレベルEとしてコアリングレベル調整手段42に出力する(ステップS67)。
【0155】
コアリングレベル設定手段40は、コアリングレベル調整手段42によって、ステップS67で最小値抽出手段41dから入力したノイズレベルEに、予め外部から入力したコアリングレベル調整値αを乗じてコアリングレベルECORを算出し、算出したコアリングレベルECORを動領域処理手段30のコアリング処理手段33に出力してコアリング処理のために設定する(ステップS68)。
【0156】
以上、第1実施形態のノイズ低減装置1におけるコアリングレベル設定手段40の動作について説明したが、コアリングレベル設定手段40は、プリスキャンして得たフレーム画像F(t)を解析してノイズレベルEを検出することに限定されるものではない。例えば、本スキャンして得た最初のフレーム画像F(t)を解析してノイズレベルEを検出するように構成してもよく、本スキャンして得たフレーム画像F(t)ごとにノイズレベルEを検出するように構成してもよい。
【0157】
また、ノイズレベルEの検出は、1つのフレーム画像F(t)からだけではなく、複数のフレーム画像からブロックCを分割して、これらのブロックCの交流成分平均KAVEを求め、最小値を抽出してノイズレベルEを検出するようにしてもよい。
【0158】
次に、図15を参照(適宜図8及び図10参照)して、領域判別装置2の動作について説明する。
【0159】
図15に示したように、領域判別装置2は、まず、不図示のカメラで急激な濃淡変化の少ない画像をプリスキャンしたフレーム画像F(t)を入力し(ステップS81)、ノイズレベル設定手段218によってフレーム画像F(t)に重畳されたノイズレベルEEを検出し、正規化処理に用いるために検出したノイズレベルEEを正規化手段213に出力して設定する(ステップS82)。
【0160】
不図示のカメラによって本スキャンが開始されると(ステップS83)、領域判別装置2は、順次に入力されるフレーム画像F(t)を(ステップS84)、ブロック分割手段210によって、5×5の形状のブロックBBに分割し(ステップS85)、ブロックBBごとに、分割したブロックBBを構成する画素データをブロック画素記憶手段211の後フレーム画素記憶手段2111に記憶する(ステップS86)。なお、このとき複数のフレーム画像F(tn−1)、F(tn−2)が領域判別装置2に入力されており、ブロック画素記憶手段211の注目フレーム画素記憶手段2112にはフレーム画像F(tn−1)から分割した各ブロックBBの画素データが記憶され、前フレーム画素記憶手段2113にはフレーム画像F(tn−2)から分割した各ブロックBBの画素データが記憶されているものとする。従って、フレーム画像F(t)を新しく入力する期間は、1フレーム前のフレーム画像F(tn−1)が判別処理の対象となる注目フレームとなる。
【0161】
領域判別装置2は、ブロック画素記憶手段211の前フレーム画素記憶手段2113、注目フレーム画素記憶手段2112及び後フレーム画素記憶手段2111に記憶されている、各フレームにおけるブロックBBを構成する画素データを、それぞれブロックBB、ブロックBB及びブロックBBを構成する画素データとして、ブロックBBごとに順次に読み出し、差分平均算出手段212の差分算出手段2121に出力して、注目フレーム及び前後フレームにおける各ブロックBBの位置の画素データを同時に参照できるようにする(ステップS87)。
【0162】
領域判別装置2は、差分算出手段2121によってステップS87でブロック画素記憶手段211から入力したブロックBB、BB、BBを構成する各画素データの差分(フレーム間差分)D、D、Dを算出し、平均算出手段2122によって各差分D、D、Dごとに、ブロックBBにおける差分平均G、G、Gを算出して正規化手段213に出力する(ステップS88)。
なお、領域判別装置2は、差分計算設定手段217によって予め設定しておいた設定値SELが“0”の場合には、差分算出手段2121によって差分Dのみを算出し、以降の処理においては差分D及び差分Dに関する処理は行わないように制御する。
【0163】
領域判別装置2は、正規化手段213によって、ステップS88で差分平均算出手段212から入力した差分平均G、G、Gを、ステップS82でノイズレベル設定手段218によって設定されたノイズレベルEEで除することによって正規化し、正規化した正規化差分平均G’、G’、G’を最大値抽出手段214に出力する(ステップS89)。
【0164】
領域判別装置2は、最大値抽出手段214によって、ステップS89で正規化手段213から入力した3つの正規化差分平均G’、G’、G’から最大値である最大正規化差分平均G’maxを抽出し、領域判別手段215に出力する(ステップS90)。
【0165】
領域判別装置2は、領域判別手段215によって、ステップS90で最大値抽出手段214から入力した最大正規化差分平均G’maxと、予め判別閾値設定手段219によって設定しておいた判別閾値THRとを比較する。そして、最大正規化差分平均G’maxが判別閾値THRよりも大きい場合は、領域判別処理の対象である注目ブロックBBを動領域であると判別して領域判別結果rに“1”を設定し、最大正規化差分平均G’maxが判別閾値THR以下の場合は、領域判別処理の対象である注目ブロックBBを静領域であると判別して領域判別結果rに“0”を設定し(ステップS91)、領域判別結果rを注目フレーム画像F(tn―1)における当該注目ブロックBBの位置に対応づけて領域判別マップ記憶手段216に記憶する(ステップS92)。
【0166】
領域判別装置2は、1つのブロックBBの領域判別処理が終わると、注目フレーム画像F(tn―1)において未処理のブロックBBがないかを確認し(ステップS93)、未処理のブロックBBがある場合は(ステップS93でYes)、ステップS87に戻り、次のブロックBBの一連の領域判別処理を行う。
また、未処理のブロックBBがない場合は(ステップS93でNo)、領域判別装置2は、ブロック画素記憶手段211によって、注目フレーム画素記憶手段2112に記憶されているフレーム画像F(tn−1)における各ブロックBBの画素データを前フレーム画素記憶手段2113にシフトするとともに、後フレーム画素記憶手段2111に記憶されているフレーム画像F(t)における各ブロックBBの画素データを注目フレーム画素記憶手段2112にシフトする(ステップS94)。
【0167】
領域判別装置2は、次のフレーム画像F(tn+1)の入力があるかどうかを確認し(ステップS95)、入力がある場合は(ステップS95でYes)、ステップS84に戻って、次のフレーム画像F(tn+1)を前フレームとして追加入力し、フレーム画像F(t)に対する領域判別処理を行う。
次のフレーム画像F(tn+1)の入力がない場合は(ステップS95でNo)、領域判別装置2は処理を終了する。
【0168】
次に、図16を参照(適宜図10及び図8参照)して、領域判別装置2のノイズレベル設定手段218の動作について説明する。なお、図16に示した処理は、図15に示した処理のステップS81〜ステップS82に相当する。
【0169】
図16に示したように、ノイズレベル設定手段218は、プリスキャンして得たフレーム画像F(t)を入力すると(ステップS101)、当該フレーム画像F(t)をブロック分割手段2181によって、全領域を32×32のブロックに分割し、更にブロックごとに11×11のブロックCCをノイズレベル検出のための参照領域として分割して(ステップS102)、ブロックCCごとに、各ブロックCCを構成する画素データを直流成分除去画像算出手段2182のDCT処理手段2182aに出力する(ステップS103)。
【0170】
ノイズレベル設定手段218は、DCT処理手段2182aによって、ステップS103でブロック分割手段2181から入力したブロックCCの画素データをDCT処理し、空間周波数成分を示すDCT係数KDCTに変換して、直流成分除去手段2182bに出力する(ステップS104)。続いて、ノイズレベル設定手段218は、直流成分除去手段2182bによって、ステップS104でDCT処理手段2182aから入力したDCT係数KDCTから直流成分を示す係数x11(図4参照)を除去し、係数x11を除去したDCT係数K’DCTを逆DCT処理手段2182cに出力する(ステップS105)。そして、ノイズレベル設定手段218は、逆DCT処理手段2182cによって、ステップS105で直流成分除去手段2182bから入力した直流成分除去後のDCT係数K’DCTを逆DCT処理して直流成分除去画像CC’に変換し、変換した直流成分除去画像CC’を構成する画素データを画素平均算出手段2183に出力する(ステップS106)。
【0171】
ノイズレベル設定手段218は、画素平均算出手段2183によって、ステップS106で逆DCT処理手段2182cから入力した直流成分除去画像CC’を構成する画素データの平均である画素平均Hを算出し、算出した画素平均Hを最小値抽出手段2184に出力する(ステップS107)。
【0172】
ノイズレベル設定手段218は、一つのブロックCCの画素平均Hの算出が終わると、未処理のブロックCCが残ってないかを確認し(ステップS108)、未処理のブロックCCが残っている場合は(ステップS108でYes)、ステップS103に戻って、次のブロックCCについて画素平均Hを求める一連の処理を行う。
【0173】
一方、未処理のブロックCCがない場合は(ステップS108でNo)、ノイズレベル設定手段218は、最小値抽出手段2184によって、画素平均算出手段2183から入力した、フレーム画像F(t)内の各ブロックCCにおける画素平均Hの中から最小値を抽出し、抽出した最小値をノイズレベルEEとして正規化手段213に出力して正規化処理に用いるために設定する(ステップS109)。以上でノイズレベル設定手段218は処理を終了する。
【0174】
以上、ノイズレベル設定手段218の動作について説明したが、ノイズレベル設定手段218は、プリスキャンして得たフレーム画像F(t)を解析してノイズレベルEEを検出することに限定されるものではない。例えば、本スキャンして得た最初のフレーム画像F(t)を解析してノイズレベルEEを検出するように構成してもよく、本スキャンして得たフレーム画像F(t)ごとにノイズレベルEEを検出するように構成してもよい。
【0175】
また、ノイズレベルEEの検出は、1つのフレーム画像F(t)からだけではなく、複数のフレーム画像からブロックCCを分割して、これらのブロックCCの画素平均Hを求め、最小値を抽出してノイズレベルEEを検出するようにしてもよい。
【0176】
[第1実施形態の変形例]
次に、図17を参照して、本発明の第1実施形態の変形例のノイズ低減装置ついて説明する。
【0177】
第1実施形態の変形例のノイズ低減装置は、図6に示した第1実施形態のノイズ低減装置1における動領域処理手段30のコアリングレベル設定手段40に替えて、図17に示したコアリングレベル設定手段40Aを備えるように構成するものである。他の構成要素については第1実施形態と同様であるので説明は省略する。
【0178】
図17に示した第1実施形態の変形例のノイズ低減装置におけるコアリングレベル設定手段40Aは、図6に示した第1実施形態におけるコアリングレベル設定手段40に対して、ブロック分割手段41aとDCT処理手段41bとの間に、HPF(ハイパス・フィルタ)処理手段(低空間周波数成分抑制手段)41eを設けたことである。
なお、図6に示した第1実施形態におけるコアリングレベル設定手段40と同じ構成要素については、同じ符号を付して説明は適宜省略する。
【0179】
コアリングレベル設定手段40Aは、HPF処理手段41eによって、ブロック分割手段41aから入力したブロックCの画像に対して低空間周波数成分を抑制してから、DCT処理手段41bによって、空間周波数成分を示すDCT係数KDCTに変換する。
これによって、ノイズ成分が多く含まれる高空間周波数成分を、画像信号成分が主体である低空間周波数成分に対して相対的に強調することができる。このため、交流成分平均算出手段41cによって算出される交流成分の平均である交流成分平均KAVEに、ノイズ成分の多寡をより適切に反映することができる。
その結果、当該交流成分平均KAVEに基づいて設定されるコアリングレベルECORを用いてコアリング処理を行うことにより、より適切にノイズ成分を低減することができる。
【0180】
次に、図18を参照(適宜図17参照)して、HPF処理手段41eによるHPF処理手段41e処理について説明する。
【0181】
図18の(1)に示したように、HPF処理手段41eは、ブロック分割手段41aから入力したブロックCを構成する各画素C(i,j)に対して、縦方向(垂直方向)に隣接する画素C(i,j−1)及び画素C(i,j+1)を参照し、図18の(2)に示したHPFのフィルタ係数KHPFの各係数と空間的に対応する画素値との積和演算を式(4)のように行う。
【0182】
C’(i,j) =
C(i,j−1)×(−1/2)
+ C(i,j)×1
+ C(i,j+1)×(−1/2) …式(4)
【0183】
また、このHPFの垂直方向の空間周波数に対する応答特性は、図18の(3)に示したように低空間周波数成分ほど伝達率が低く、直流成分(空間周波数=0)に対する伝達率は0である。従って、図18の(2)に示したHPF処理を行うことによりブロックCの画像から低空間周波数成分を抑制した画像を算出することができる。
なお、図18の(3)において、fNyはナイキスト周波数を示す。また、図18の(2)に示したHPFは、水平方向に関してはフィルタ処理をしないため、水平方向の空間周波数成分は変化しない。
【0184】
また、ブロックCのサイズが11画素×11ラインの場合は、上端及び下端のラインの画素は、それぞれ上方に隣接する画素及び下方に隣接する画素を参照できない。そのため、上端及び下端のラインの画素についてはHPF処理をすることができないので、HPF処理後のブロックC’の有効なサイズは11画素×9ラインとなる。従って、HPF処理手段41eは、この有効な11×9のサイズの直流成分除去画像C’を構成する画素データをDCT処理手段41bに出力する。
【0185】
なお、ブロックCのサイズを11画素×13ラインとして、HPF処理後のブロックC’の有効なサイズが11画素×11ラインとなるように構成してもよい。
また、HPF処理手段41eで用いるHPFのフィルタ係数KHPFは、図18の(2)に示したものに限定されず、画像信号成分を多く含む低空間周波数の交流成分の少なくとも一部を抑制するものであれば用いることができる。
【0186】
図17に戻って、DCT処理手段41bは、HPF処理手段41eから入力した低空間周波数成分が抑制された画像C’をDCT処理し、11×9の係数からなるDCT係数KDCTに変換し、変換したDCT係数KDCTを交流成分平均算出手段41cに出力する。
【0187】
交流成分平均算出手段41cは、DCT処理手段41bから入力した11×9の係数配列であるDCT係数KDCTの直流成分を除く、交流成分を示す係数の平均である交流成分平均KAVEを算出して最小値抽出手段41dに出力する。
【0188】
コアリングレベル設定手段40Aの他の構成要素は、図6に示した第1実施形態におけるコアリングレベル設定手段40と同様であるので、説明は省略する。
【0189】
[第1実施形態の変形例のコアリングレベル設定手段の動作]
次に、図19を参照(適宜図17参照)して、第1実施形態の変形例のノイズ低減装置におけるコアリングレベル設定手段40Aの動作について説明する。
【0190】
図19に示した第1実施形態の変形例のコアリングレベル設定手段40Aによる処理において、ステップS121〜ステップS123、及びステップS125〜ステップS129は、それぞれ図14に示した第1実施形態におけるコアリングレベル設定手段40による処理におけるステップS61〜ステップS63、及びステップS64〜ステップS68と同様であるので、説明は適宜省略する。
【0191】
コアリングレベル設定手段40Aは、HPF処理手段41eによって、ステップS123でブロック分割手段41aから入力したブロックCの画素データをHPF処理して、低空間周波数成分を抑制した画像C’をDCT処理手段41bに出力する(ステップS124)。
【0192】
コアリングレベル設定手段40Aは、DCT処理手段41bによって、ステップS124でHPF処理手段41eから入力した低空間周波数成分を抑制した画像C’の画素データをDCT処理し、空間周波数成分を示すDCT係数KDCTに変換して、交流成分平均算出手段41cに出力する(ステップS125)。
【0193】
続いて、コアリングレベル設定手段40Aは、交流成分平均算出手段41cによって、ステップS125でDCT処理手段41bから入力したDCT係数KDCTの交流成分を示す係数の平均である交流成分平均KAVEを算出し、最小値抽出手段41dに出力する(ステップS126)。
【0194】
他のステップは、前記したように、図14に示した第1実施形態におけるコアリングレベル設定手段40による処理と同様であるので説明は省略する。
【0195】
[第2実施形態のノイズ低減装置を含むノイズ低減システムの構成]
次に、図20を参照(適宜図1参照)して、第2実施形態のノイズ低減装置1Aを含むノイズ低減システム100Aの構成について説明する。
【0196】
図20に示したノイズ低減システム100Aは、第2実施形態のノイズ低減装置1Aと領域判別装置2とを備えて構成されている。また、第2実施形態のノイズ低減装置1Aは、フレームメモリ10,11,12と、静領域処理手段20と、動領域処理手段30Aと、処理選択手段50と、フレームメモリ60とを備えて構成されている。
【0197】
第2実施形態のノイズ低減装置1Aは、図1に示した第1実施形態のノイズ低減装置1とは、動領域処理手段30に替えて動領域処理手段30Aを備えたことが異なり、更に詳細には、動領域処理手段30Aは、コアリング処理手段33及びコアリングレベル設定手段40に替えて、それぞれコアリング処理手段33A及びコアリングレベル設定手段40Bを備えるとともに、輝度算出手段(動領域処理ブロック輝度算出手段)35を更に備えることが異なる。
【0198】
第2実施形態のノイズ低減装置1Aは、コアリングレベル設定手段40Bによって、コアリング処理手段33AでDCT係数KDCTの交流成分をコアリング処理するときに、DCT係数KDCTを算出したブロックBの輝度レベルLに応じて輝度別に設定したコアリングレベルである輝度別コアリングレベルECOR0〜ECOR7を用いる。
【0199】
これは、画像によっては輝度レベルごとに信号対雑音比が異なるため、コアリング処理においてコアリングレベルを輝度別に設定して用いることにより、すべての輝度レベルにおいてDCT係数KDCTの交流成分を適切にコアリング処理してノイズ低減することができるようにするものである。
【0200】
以下、第2実施形態のノイズ低減装置1Aの各部の構成について説明する。ここで、図1に示した第1実施形態のノイズ低減装置1と同じ構成要素については、同じ符号を付して説明は適宜省略する。
【0201】
コアリング処理手段33Aは、DCT処理手段32から入力したブロックBのDCT係数KDCTの交流成分から、コアリングレベル設定手段40Bから入力した輝度別コアリングレベルECOR0〜ECOR7の中の何れかを用いて減ずることによってコアリング処理し、未処理の直流成分を示す係数とコアリング処理した交流成分を示す係数とからなるDCT係数K’DCTを逆DCT処理手段34に出力する。
【0202】
ここで、コアリングレベル設定手段40Bから入力する輝度別コアリングレベルECOR0〜輝度別コアリングレベルECOR7は、それぞれ、輝度をL0(暗)〜L7(明)までの7つの輝度ランクに区分したときの輝度ランクL0〜輝度ランクL7に適用するコアリングレベルである。
コアリング処理手段33Aは、輝度算出手段35から入力したブロックBの輝度Lが属する輝度ランクL0〜L7に対応するコアリングレベルを、輝度別コアリングレベルECOR0〜ECOR7の中から選択してコアリング処理に用いる。
【0203】
コアリングレベル設定手段40Bは、フレーム画像F(t)を入力して、フレーム画像F(t)からノイズレベルを輝度別に検出して、検出した輝度別のノイズレベルに基づいて輝度別コアリングレベルECOR0〜ECOR7を算出してコアリング処理手段33Aに出力してコアリング処理のために設定する。
コアリングレベル設定手段40Bの詳細については後記する。
【0204】
輝度算出手段(動領域処理ブロック輝度算出手段)35は、ブロック分割手段31から処理対象である注目ブロックBの画素データを入力して、ブロックBを構成する5×5=25個の画素データの平均を算出し、算出した当該平均を輝度Lとしてコアリング処理手段33Aに出力する。
なお、第2実施形態における輝度算出手段35は、輝度Lとして、ブロックBを構成する5×5=25個の画素データの単純平均を用いるが、これに限定されるものではない。例えば、5×5の中心に位置する画素データを用いてもよいし、5×5の中心ほど加重を大きくする加重平均を算出して用いてもよく、5×5の中央値を抽出して用いるようにしてもよい。
【0205】
次に、図21を参照(適宜図20参照)して、第2実施形態のノイズ低減装置1Aにおけるコアリングレベル設定手段40Bの構成について詳細に説明する。
図21に示したように、第2実施形態におけるコアリングレベル設定手段40Bは、設定用ノイズレベル検出手段41Bと、コアリングレベル調整手段42Bと、検証用ノイズレベル検出手段43とを備えて構成されている。また、設定用ノイズレベル検出手段41Bは、ブロック分割手段41aと、DCT処理手段41bと、交流成分平均算出手段41cと、輝度別最小値抽出手段41fと、ノイズレベル検証手段41gと、補間処理手段41hと、輝度算出手段(ノイズ検出ブロック輝度算出手段)41iとを備えて構成されている。
【0206】
ここで、設定用ノイズレベル検出手段41Bは、本スキャンして順次入力されるフレーム画像F(t)から輝度別ノイズレベルE0〜E7を算出してコアリングレベル調整手段42Bに出力するものである。
そして、コアリングレベル調整手段42Bは、設定用ノイズレベル検出手段41Bから入力した輝度別ノイズレベルE0〜E7に、外部から入力したコアリングレベル調整値αを乗じて輝度別コアリングレベルECOR0〜ECOR7を算出してコアリング処理手段33Aに出力する。
また、検証用ノイズレベル検出手段43は、プリスキャンして得たフレーム画像F(t)からノイズレベルを予め検出し、当該ノイズレベルを、設定用ノイズレベル検出手段41Bによって算出した輝度別ノイズレベルE0〜E7の有効性を検証するための検証値であるSIFT値(検証用ノイズレベル)として設定用ノイズレベル検出手段41Bのノイズレベル検証手段41gに出力するものである。
【0207】
続いて、設定用ノイズレベル検出手段41Bの構成について詳細に説明する。
設定用ノイズレベル検出手段41Bは、図6に示した設定用ノイズレベル検出手段41とは、ブロック分割手段41a及び最小値抽出手段41dに替えて、それぞれブロック分割手段41Ba及び輝度別最小値抽出手段41fを備えことと、ノイズレベル検証手段41gと補間処理手段41hと輝度算出手段41iとを更に備えることとが異なる。
なお、設定用ノイズレベル検出手段41Bにおいて、図6に示した設定用ノイズレベル検出手段41と同じ構成要素については、同じ符号を付して説明は適宜省略する。
【0208】
設定用ノイズレベル検出手段41Bのブロック分割手段(ノイズ検出ブロック分割手段)41Baは、本スキャンして順次入力されるフレーム画像F(t)を、11×11の形状のブロックCに分割し、分割した各ブロックCを構成する画素データをブロックごとにDCT処理手段41b及び輝度算出手段41iに出力する。
設定用ノイズレベル検出手段41Bのブロック分割手段41Baは、図6に示した第1実施形態の設定用ノイズレベル検出手段41のブロック分割手段41aと異なり、入力したフレーム画像F(t)の全領域を隈無く11×11の形状のブロックCに分割し、間引くことなく、すべてのブロックCについて、各ブロックCを構成する画素データをブロックCごとにDCT処理手段41bに出力する。
これは、輝度別にノイズレベルを検出する際に、輝度ランクによってブロックCの割当数が不足するのを防止するためである。
【0209】
設定用ノイズレベル検出手段41Bの交流成分平均算出手段41cは、本スキャンして順次入力されるフレーム画像F(t)から分割したブロックCごとに、交流成分平均KAVEを算出して輝度別最小値抽出手段41fに出力する。
【0210】
輝度別最小値抽出手段41fは、交流成分平均算出手段41cからブロックCごとに交流成分平均KAVEを入力するとともに、当該入力した交流成分平均KAVEを算出したブロックCの平均輝度LAVEを、輝度算出手段41iから交流成分平均KAVEに対応づけて入力する。そして、輝度別最小値抽出手段41fは、交流成分平均KAVEを、各交流成分平均KAVEに対応づけられた平均輝度LAVEに基づいて、予め定めた輝度レンジごとに区分した8つの輝度ランクL0〜L7の何れかに分類し、輝度ランクL0〜L7ごとに、すなわち輝度別に交流成分平均KAVEの最小値を抽出する。輝度別最小値抽出手段41fは、抽出した輝度ランクごとの交流成分平均KAVEの最小値を、輝度別ノイズレベルE0〜E7としてノイズレベル検証手段41gに出力する。
【0211】
なお、交流成分平均KAVEが1個も分類されなかった輝度ランクL0〜L7の輝度別ノイズレベルE0〜E7がある場合は、輝度別最小値抽出手段41fは、その輝度ランクの輝度別ノイズレベルE0〜E7の値として“0”又は有効でないことを示すデータをノイズレベル検証手段41gに出力する。
【0212】
ノイズレベル検証手段41gは、輝度別最小値抽出手段41fから輝度別ノイズレベルE0〜E7を入力し、入力した輝度別ノイズレベルE0〜E7の有効性を検証するものである。
【0213】
フレーム画像F(t)内から複数の輝度ランクL0〜L7に区分して輝度別ノイズレベルE0〜E7を検出する場合、入力したフレーム画像F(t)内に、すべての輝度ランクL0〜L7において、それぞれの輝度ランクL0〜L7に属する平均輝度LAVEを有するブロックCが、十分な数だけ割り当てられるとは限らない。例えば、フレーム画像F(t)がある輝度に偏った明るさの画像であった場合には、当該輝度が属する輝度ランクL0〜L7以外の輝度ランクL0〜L7に属する交流成分平均KAVEは、非常に少ない数しか分類されないことが生じる。そのとき、その非常に少ない交流成分平均KAVEから最小値を抽出しても、当該交流成分平均KAVEを算出した基のブロックCが、エッジや細密な模様を含む画像であった場合、当該交流成分平均KAVEは画像信号成分の影響を大きく受けているためノイズレベルとして採用するのは不適切である。
【0214】
そこで、第2実施形態のノイズ低減装置1Aにおけるコアリングレベル設定手段40Bでは、検証用ノイズレベル検出手段43によって、プリスキャンして得たフレーム画像F(t)から、当該フレーム画像F(t)を生成したカメラによってフレーム画像F(t)に重畳される画像面内のノイズレベルを適切に検出しておき、当該ノイズレベルを検証値であるSIFT値(検証用ノイズレベル)として設定用ノイズレベル検出手段41Bのノイズレベル検証手段41gに出力する。そして、設定用ノイズレベル検出手段41Bは、輝度別最小値抽出手段41fによって、本スキャンして得た各フレーム画像F(t)から算出した各輝度別ノイズレベルE0〜E7をSIFT値と比較して、所定の範囲内にある場合に、その輝度ランクの輝度別ノイズレベルE0〜E7を有効であると判断し、その輝度ランクの輝度別ノイズレベルE0〜E7の値をそのまま補間処理手段41hに出力する。
また、設定用ノイズレベル検出手段41Bは、輝度別最小値抽出手段41fによって、各輝度別ノイズレベルE0〜E7をSIFT値と比較して、所定の範囲内にない場合には、その輝度ランクの輝度別ノイズレベルE0〜E7を有効でないと判断し、その輝度ランクの輝度別ノイズレベルE0〜E7の値に“0”又は有効でないことを示すデータを設定して補間処理手段41hに出力する。これによって、輝度別ノイズレベルE0〜E7から不適切なノイズレベルデータを排除することができる。
【0215】
輝度別最小値抽出手段41fによって出力された輝度別ノイズレベルE0〜E7が、SIFT値と比較して有効であると判断する範囲としては、各輝度別ノイズレベルE0〜E7の値とSIFT値との比が−6(10log0.25)dB〜+3(10log2)dBとすることができる。すなわち、各輝度別ノイズレベルE0〜E7の値が、SIFT値の0.25倍〜2倍の範囲にあるときに、当該輝度ランクの輝度別ノイズレベルE0〜E7を有効であると判断する。
【0216】
なお、有効範囲は、ここで示した範囲に限定されるものではなく、フレーム画像F(t)を生成するカメラなど、第2実施形態のノイズ低減装置1Aを適用するシステムによって適宜に変更してもよい。
【0217】
補間処理手段41hは、ノイズレベル検証手段41gから輝度別ノイズレベルE0〜E7を入力し、未検出又はノイズレベル検証手段41gで有効でないとして排除された輝度別ノイズレベルE0〜E7がある場合に、当該有効でない輝度別ノイズレベルE0〜E7の値を、近傍の輝度ランクL0〜L7の有効な輝度別ノイズレベルE0〜E7を参照して補間処理するものである。補間処理手段41hは、有効でない輝度別ノイズレベルE0〜E7の値を、補間処理して算出した値で置き換えた輝度別ノイズレベルE0〜E7をコアリングレベル調整手段42Bに出力する。
なお、コアリングレベル調整をせずに常に輝度別ノイズレベルE0〜E7を輝度別コアリングレベルECOR0〜ECOR7として用いるよう構成することもでき、この場合は、コアリングレベル調整手段42Bは省略することができる。
【0218】
ここで、図22を参照(適宜図21参照)して、補間処理手段41hによる補間処理の手法について説明する。
図22は、ノイズレベル検証手段41gから補間処理手段41hに出力された輝度別ノイズレベルE0〜E7の様子を模式的に示したものである。横軸は輝度Lを示し、縦軸はノイズレベルの大きさEを示す。
なお、輝度算出手段41iから出力される輝度Lは、0〜255の256階調の値を取るものとし、輝度レンジを32階調ずつ均等に、輝度ランクL0(暗)から輝度ランクL7(明)の8ランクに区分している。また、各輝度ランクL0〜L7の輝度の代表値は、各輝度レンジの中央値としている。そして、図22において、●で示した輝度別ノイズレベルE1,E3,E4,E5,E6は、有効であると判断されたデータであり、○で示した輝度ランクL0,L2,L7は、そのデータが有効でないと判断された(又は未検出の)輝度ランクであり、補間処理によって輝度別ノイズレベルE0,E2,E7を算出する必要があるものとする。
【0219】
そこで、まず高輝度側及び低輝度側に有効なデータがある輝度ランクL2における輝度別ノイズレベルE2の補間処理について説明する。
このように、両側に参照できる有効なデータがある場合は、有効なデータ間を直線補間して内挿によって輝度別ノイズレベルを算出する。すなわち、最寄りの有効なデータである輝度ランクL1及びL3の輝度別ノイズレベルE1及びE3を参照する。また、各輝度ランクL1及びL3における輝度Lは、それぞれの代表値48及び112とし、輝度ランクL2の代表値80におけるノイズレベルを輝度別ノイズレベルE2として算出する。
【0220】
図22に示した例では、2点(48,E1)及び(112,E3)を結ぶ線分A13の中点におけるノイズレベルEがE2の値であるから、式(5−1)で輝度別ノイズレベルE2を算出することができる。
【0221】
E2 = (E1+E3)/2 …式(5−1)
【0222】
次に、低輝度側に参照するデータがない輝度ランクL0における輝度別ノイズレベルE0の補間処理について説明する。
このように、低輝度側に参照できるデータがない場合は、高輝度側の有効な互いに隣接する2点のデータを参照し、外挿により輝度別ノイズレベルを算出する。なお、既に補間処理により輝度別ノイズレベルが算出されている輝度ランクのデータは、他の有効でない輝度別ノイズレベルを補間処理によって算出するときには、有効なデータとして参照することができる。すなわち、高輝度側の互いに隣接する有効なデータとして、輝度ランクL1及びL3を参照しても、輝度ランクL1及び既に補間処理によって輝度別ノイズレベルE2が算出された輝度ランクL2を参照するようにしてもよい。以降の説明は、輝度ランクL1及びL2を参照した場合について説明する。
【0223】
輝度ランクL0における輝度別ノイズレベルE0は、点(48,E1)から低輝度側に延ばした半直線A01の、輝度ランクL0の代表値である輝度L=16におけるノイズレベルEを算出する。
この半直線A01は、点(48,E1)を通り、傾きの大きさが(Emax−Emin)/256であり、傾きの向きが参照する2点(48,E1)及び(80,E2)を結ぶ線分の傾きの向きと同じとする。なお、Emax及びEminは、それぞれ有効な輝度別ノイズレベルE1,E3,E4,E5,E6の内の、最大値及び最小値を示し、図22に示した例では、Emax=E4、Emin=E1である。そして、外挿する際の半直線の傾きの大きさを、有効な輝度別ノイズレベルE1,E3,E4,E5,E6から見積もることができる平均的な勾配とすることで、外挿による補間処理にありがちな異常値の算出を防止することができる。
以上より、輝度ランクL0における輝度別ノイズレベルE0は、式(5−2)のようにして算出することができる。
【0224】
E0 =
E1−Sign(E2−E1)×(Emax−Emin)×(48−16)/256
…式(5−2)
【0225】
なお、Sign( )は、( )内の値が正の場合は+1、負の場合は−1、0の場合は0を返す符号関数である。
【0226】
次に、高輝度側に参照するデータがない輝度ランクL7における輝度別ノイズレベルE7の補間処理について説明する。
このように、高輝度側に参照できるデータがない場合は、前記した低輝度側に算出するデータがない場合と同様に、低輝度側の有効な互いに隣接する2点のデータを参照し、外挿により輝度別ノイズレベルを算出する。
図22に示した例では、輝度ランクL6及びL5における輝度別ノイズレベルE6及びE5を参照して、輝度ランクL7における輝度別ノイズレベルE7を算出する。
【0227】
輝度ランクL7における輝度別ノイズレベルE7は、点(208,E6)から高輝度側にのばした半直線A67の、輝度ランクL7の代表値である輝度L=240におけるノイズレベルEを算出する。
この半直線A67は、点(208,E6)を通り、傾きの大きさが(Emax−Emin)/256であり、傾きの向きが参照する2点(176,E5)及び(208,E6)を結ぶ線分の傾きの向きと同じとする。
輝度ランクL7における輝度別ノイズレベルE7は、式(5−3)のようにして算出することができる。
【0228】
E7 =
E6−Sign(E5−E6)×(Emax−Emin)×(240−208)/256
…式(5−3)
【0229】
なお、補間処理手段41hは、ノイズレベル検証手段41gから入力した輝度別ノイズレベルE0〜E7の内で、有効なデータが1個のみであった場合は、その有効なデータを他の有効でない輝度ランクの輝度別ノイズレベルE0〜E7の値とする。また、ノイズレベル検証手段41gから入力した輝度別ノイズレベルE0〜E7の内で、有効なデータがなかった場合は、検証用ノイズレベル検出手段43から入力したSIFT値を輝度別ノイズレベルE0〜E7の値とするようにしてもよい。
【0230】
図21に戻って、輝度算出手段(ノイズ検出ブロック輝度算出手段)41iは、ブロック分割手段41Baから、フレーム画像F(t)から分割したブロックCを構成する画素データを入力し、当該ブロックCを構成する画素データの平均である平均輝度LAVEを算出して輝度別最小値抽出手段41fに出力する。
【0231】
また、検証用ノイズレベル検出手段43は、図6に示した第1実施形態の設定用ノイズレベル検出手段41と同様の構成とすることができるため、詳細な構成の説明は省略する。検証用ノイズレベル検出手段43は、プリスキャンして得たフレーム画像F(t)から画像平面内のノイズレベルを検出し、検出したノイズレベルをSIFT値(検証用ノイズレベル)として設定用ノイズレベル検出手段41Bのノイズレベル検証手段41gに出力する。
【0232】
[第2実施形態のノイズ低減装置を含むノイズ低減システムの動作]
次に、図23を参照(適宜図20及び図21参照)して、第2実施形態のノイズ低減装置1Aを含むノイズ低減システム100Aの動作について説明する。
【0233】
図23に示したように、ノイズ低減システム100Aは、まず、不図示のカメラで急激な濃淡変化の少ない画像をプリスキャンしたフレーム画像F(t)をノイズ低減装置1A及び領域判別装置2に入力し(ステップS141)、ノイズ低減装置1Aのコアリングレベル設定手段40Bによってフレーム画像F(t)に重畳されたノイズレベルを検出して、コアリングレベル設定手段40B内の設定用ノイズレベル検出手段41Bのノイズレベル検証手段41gに、輝度別ノイズレベルE0〜E7の有効性の検証値であるSIFT値として保持する(ステップS142)。
【0234】
ノイズ低減システム100Aは、ステップS142に続いて、又は並行して、領域判別装置2のノイズレベル設定手段218によって、ステップS141でプリスキャンして得たフレーム画像F(t)に重畳されたノイズレベルEEを検出し、正規化処理のために当該ノイズレベル設定手段218の正規化手段213に出力して設定する(ステップS143)。
なお、領域判別装置2が、ノイズレベルEEに替えて、ノイズ低減装置1Aの検証用ノイズレベル検出手段43によって検出したSIFT値を用いるように構成することもできる。この場合は、ステップS143は省略することができる。
【0235】
次に、不図示のカメラによって本スキャンが開始され(ステップS144)、ノイズ低減システム100Aがフレーム画像F(t)を入力すると(ステップS145)、ノイズ低減システム100Aは、ノイズ低減装置1Aのコアリングレベル設定手段40Bによって、ステップS142で検出して保持しておいたSIFT値を参照しながら、輝度別コアリングレベルECOR0〜ECOR7を算出して、ノイズ低減装置1Aの動領域処理手段30Aのコアリング処理手段33Aに出力してコアリング処理のために設定する(ステップS146)。
【0236】
次に、ノイズ低減システム100Aは、領域判別装置2によって、フレーム画像F(t)をブロックBBに分割し(ステップS147)、ブロックBBごとに動領域か静領域かを示す領域判別マップR(t)を作成する(ステップS148)。
【0237】
ノイズ低減システム100Aは、ノイズ低減装置1Aによって、ステップS148で領域判別装置2が作成した領域判別マップR(t)を参照してブロックBBごとに領域判別結果rを確認し(ステップS149)、注目ブロックBBが動領域である場合は(ステップS149でYes)、ノイズ低減装置1Aの動領域処理手段30Aによって、ステップS147で分割したフレーム画像F(t)の注目ブロックBBに対応する画像をブロックBとして分割して、ステップS146で設定した輝度別コアリングレベルECOR0〜ECOR7を用いて動領域処理を施し、動領域フレーム画像Fd(t)を算出して処理選択手段50に出力する(ステップS150)。
一方、注目ブロックBBが静領域である場合は(ステップS149でNo)、ノイズ低減装置1Aの静領域処理手段20によって、ステップS147で分割したフレーム画像F(t)の注目ブロックBBに対応する画像をブロックBとして分割し、静領域処理を施し、静領域フレーム画像Fs(t)を算出して処理選択手段50に出力する(ステップS151)。
【0238】
ノイズ低減システム100Aは、ノイズ低減装置1Aの処理選択手段50によって、ステップS148で領域判別装置2が作成した領域判別マップR(t)を参照して注目ブロックBBが動領域である場合はステップS150で動領域処理手段30Aから入力した動領域フレーム画像Fd(t)を選択してフレームメモリ60に記憶し、注目ブロックBBが静領域である場合はステップS151で静領域処理手段20から入力した静領域フレーム画像Fs(t)を選択してフレームメモリ60に記憶する(ステップS152)。
【0239】
ノイズ低減システム100Aは、領域判別装置2によって、注目フレームにおいて未処理のブロックBBがあるか確認し(ステップS153),未処理のブロックBBがある場合は(ステップS153でYes)、ステップS149に戻って、次の注目ブロックBB対する一連のノイズ低減処理を続ける。
一方、未処理のブロックBBがない場合は(ステップS153でNo)、ノイズ低減システム100Aは、ノイズ低減装置1Aによって、ノイズ低減装置1のフレームメモリ60に蓄積されたノイズ低減したフレーム画像F’(t)を読み出して、外部に出力する(ステップS154)。
【0240】
ノイズ低減システム100Aは、次のフレーム画像F(tn+1)の入力があるか確認し(ステップS155)、次のフレーム画像F(tn+1)の入力がある場合は(ステップS155でYes)、ステップS145に戻って、次のフレーム画像F(tn+1)に対する一連のノイズ低減処理を続ける。
一方、次のフレーム画像F(tn+1)の入力がない場合は(ステップS155でNo)、ノイズ低減システム100Aは処理を終了する。
【0241】
次に、図24を参照(適宜図20参照)して、第2実施形態のノイズ低減装置1Aにおける動領域処理手段30Aの動作について説明する。なお、図24に示したフロー図の処理は、図23に示したステップS150の処理に相当する。
【0242】
第2実施形態のノイズ低減装置1Aにおける動領域処理手段30Aは、ブロック分割手段31によって、注目ブロックBBの位置に対応する注目フレームの画像をブロックBとしてフレームメモリ11から分割して、当該ブロックBを構成する画素データを入力する(ステップS161)。
【0243】
次に動領域処理手段30Aは、輝度算出手段35によって、ステップS161で入力したブロックBを構成する画素データの平均を算出して当該ブロックBにおける輝度Lとしてコアリング処理手段33Aに出力する(ステップS162)。
【0244】
動領域処理手段30Aは、DCT処理手段32によって、ステップS161で入力したブロックBを構成する画素データをDCT処理して、空間周波数成分を示すDCT係数KDCTに変換し、変換したDCT係数KDCTをコアリング処理手段33Aに出力する(ステップS163)。
なお、ステップS162とステップS163とはどちらを先に処理してもよく、並行して処理を行うようにしてもよい。
また、ステップS162の処理において、ブロックBの輝度Lとして、ブロックBを構成する画素データの単純平均を用いる場合は、DCT処理手段32によって算出するDCT係数KDCTの直流成分を示す係数を流用することができるため、ステップS162を削除することができる。
【0245】
動領域処理手段30Aは、コアリング処理手段33Aによって、図23のステップS146でコアリングレベル設定手段40Bから予め入力して設定しておいた輝度別コアリングレベルECOR0〜ECOR7の中から、ステップS162で輝度算出手段35から入力した輝度Lに対応する輝度別コアリングレベルECOR0〜ECOR7を選択する。そして、ステップS163でDCT処理手段32から入力したDCT係数KDCTの交流成分を示す各係数から選択した輝度別コアリングレベルECOR0〜ECOR7を減じ、未処理の直流成分を示す係数と輝度別コアリングレベルECOR0〜ECOR7を減じた交流成分を示す各係数とからなるDCT係数K’DCTを逆DCT処理手段34に出力する(ステップS164)。
【0246】
動領域処理手段30Aは、ステップS164でコアリング処理手段33Aから入力したDCT係数K’DCTを逆DCT処理して、高空間周波数成分が低減された画像に変換し、ブロックBBの位置における動領域フレーム画像Fd(t)として処理選択手段50に出力する(ステップS165)。
【0247】
次に、図25を参照(適宜図21及び図20参照)して、第2実施形態のノイズ低減装置1Aにおけるコアリングレベル設定手段40Bの動作について説明する。なお、図25に示したフロー図の処理は、図23に示したステップS141〜ステップS142及びステップS146の処理に相当する。
【0248】
図25に示したように、コアリングレベル設定手段40Bは、プリスキャンして得たフレーム画像F(t)を入力して(ステップS171)、検証用ノイズレベル検出手段43によって、設定用ノイズレベル検出手段41Bによって検出される輝度別ノイズレベルE0〜E7の検証のための検証値であるSIFT値を算出し、設定用ノイズレベル検出手段41Bのノイズレベル検証手段41gに出力する(ステップS172)。
【0249】
本スキャンが開始され(ステップS173)、コアリングレベル設定手段40Bにフレーム画像F(t)を入力すると(ステップS174)、コアリングレベル設定手段40Bは、ステップS174で入力したフレーム画像F(t)をブロック分割手段41Baによって、全領域を11×11の形状のノイズレベル検出用のブロックCに分割し(ステップS175)、分割したすべてのブロックCについて、ブロックCごとに11×11のブロックCを構成する画素データをDCT処理手段41b及び輝度算出手段41iに出力する(ステップS176)。
【0250】
コアリングレベル設定手段40Bは、輝度算出手段41iによって、ステップS176でブロック分割手段41Baから入力したブロックCを構成する画素データの平均を算出し、当該ブロックCの平均輝度LAVEとして、輝度別最小値抽出手段41fに出力する(ステップS177)。
【0251】
コアリングレベル設定手段40Bにおける、ステップS178〜ステップS180は、それぞれ図14に示した第1実施形態のコアリングレベル設定手段40の処理におけるステップS64〜ステップS66と同様であるので、説明は省略する。
【0252】
コアリングレベル設定手段40Bは、輝度別最小値抽出手段41fによって、ステップS179で交流成分平均算出手段41cから入力した交流成分平均KAVEを、ステップS177で輝度算出手段41iから入力した当該交流成分平均KAVEを算出したブロックCの平均輝度LAVEを参照して、8つの輝度ランクL0〜L7の何れかに分類し、輝度ランクL0〜L7ごとに分類された交流成分平均KAVEの最小値を抽出し、輝度別ノイズレベルE0〜E7としてノイズレベル検証手段41gに出力する(ステップS181)。
【0253】
コアリングレベル設定手段40Bは、ノイズレベル検証手段41gによって、ステップS172で検証用ノイズレベル検出手段43から入力したSIFT値と、ステップS181で輝度別最小値抽出手段41fから入力した各輝度別ノイズレベルE0〜E7とを比較し、各輝度別ノイズレベルが有効かどうかを検証して、有効でないと判断した輝度ランクの輝度別ノイズレベルE0〜E7を排除し、有効でない輝度ランクの輝度別ノイズレベルE0〜E7を排除した後の輝度別ノイズレベルE0〜E7を補間処理手段41hに出力する(ステップS182)。
【0254】
コアリングレベル設定手段40Bは、補間処理手段41hによって、ステップS182でノイズレベル検証手段41gから入力した輝度別ノイズレベルE0〜E7において、有効でない輝度別ノイズレベルE0〜E7が含まれているかどうかを確認し、有効でない輝度別ノイズレベルが含まれている場合には、当該有効でない輝度ランクの輝度別ノイズレベルE0〜E7を、有効な輝度ランクの輝度別ノイズレベルE0〜E7のデータを参照して補間処理によって算出し、全輝度ランクについて有効な輝度別ノイズレベルE0〜E7としてコアリングレベル調整手段42Bに出力する(ステップS183)。
【0255】
コアリングレベル設定手段40Bは、コアリングレベル調整手段42Bによって、ステップS183で補間処理手段41hから入力した各輝度別ノイズレベルE0〜E7に、予め外部から入力したコアリングレベル調整値αを乗じて輝度別コアリングレベルECOR0〜ECOR7を算出し、算出した輝度別コアリングレベルECOR0〜ECOR7を動領域処理手段30Aのコアリング処理手段33Aに出力してコアリング処理のために設定する(ステップS184)。
【0256】
コアリングレベル設定手段40Bは、次のフレーム画像F(tn+1)の入力があるか確認し(ステップS185)、次のフレーム画像F(tn+1)の入力がある場合は(ステップS185でYes)、ステップS174に戻って、次のフレーム画像F(tn+1)に対する一連のコアリングレベル設定処理を続ける。一方、次のフレーム画像F(tn+1)の入力がない場合は(ステップS185でNo)、コアリングレベル設定手段40Bは処理を終了する。
【符号の説明】
【0257】
1、1A ノイズ低減装置
2 領域判別装置
10、11、12 フレームメモリ
20 静領域処理手段
21 高周波数成分低減手段
30、30A 動領域処理手段
31 ブロック分割手段(動領域処理ブロック分割手段)
32 DCT処理手段(動領域処理ブロック直交変換手段)
33、33A コアリング処理手段
34 逆DCT処理手段(動領域処理ブロック逆直交変換手段)
35 輝度算出手段(動領域処理ブロック輝度算出手段)
40、40A、40B コアリングレベル設定手段
41、41A、41B 設定用ノイズレベル検出手段
41a、41Ba ブロック分割手段(ノイズ検出ブロック分割手段)
41b DCT処理手段(ノイズ検出ブロック直交変換手段)
41c 交流成分平均算出手段
41d 最小値抽出手段
41e HPF処理手段(低空間周波数成分抑制手段)
41f 輝度別最小値抽出手段
41g ノイズレベル検証手段
41h 補間処理手段
41i 輝度算出手段(ノイズ検出ブロック輝度算出手段)
42、42B コアリングレベル調整手段
43 検証用ノイズレベル検出手段
50 処理選択手段
60 フレームメモリ
100、100A ノイズ低減システム
210 ブロック分割手段(領域判別ブロック分割手段)
B ブロック(動領域処理ブロック)
BB ブロック(領域判別ブロック)
C ブロック(ノイズ検出ブロック)
E ノイズレベル
E0〜E7 輝度別ノイズレベル
COR コアリングレベル
COR0〜ECOR7 輝度別コアリングレベル
F(t) フレーム画像
R(t) 領域判別マップ(領域判別信号)


【特許請求の範囲】
【請求項1】
動画像を構成するフレーム画像の画像平面内の領域が、当該フレーム画像に対して時間軸方向に前後のフレーム画像に対して変化のある動領域か、変化のない静領域か、の2種類の領域の何れであるかを判別する領域判別信号に従って、前記動領域と前記静領域とにそれぞれ異なるノイズ低減処理を施すことにより、前記動画像に重畳されたノイズを低減させるノイズ低減装置であって、
前記領域判別信号が動領域であることを示す前記フレーム画像の領域に対して、当該動領域中の画像に重畳された画像平面内のノイズを低減処理する動領域処理手段と、
前記領域判別信号が静領域であることを示す前記フレーム画像の領域に対して、当該静領域中の画素ごとに、当該フレーム画像に対して時間軸方向に前後のフレーム画像の画像平面内の同じ位置の画素を参照して高周波数成分を低減する処理をする高周波数成分低減手段を備えた静領域処理手段と、を備え、
前記動領域処理手段は、予め定められた形状の動領域処理の単位ブロックである動領域処理ブロックに分割する動領域処理ブロック分割手段と、前記動領域処理ブロック分割手段によって分割された動領域処理ブロックごとに直交変換をして、前記動領域処理ブロックを構成する画素データを空間周波数成分に変換する動領域処理ブロック直交変換手段と、前記動領域処理ブロック直交変換手段によって変換された空間周波数成分に対してコアリング処理をするときのコアリングレベルを設定するコアリングレベル設定手段と、前記動領域処理ブロック直交変換手段によって変換された空間周波数成分中の各交流成分から前記コアリングレベル設定手段によって設定されたコアリングレベルを減じるコアリング処理をするコアリング処理手段と、前記動領域処理ブロック直交変換手段によって変換された空間周波数成分中の直流成分と前記コアリング処理手段によってコアリング処理された交流成分とからなる空間周波数成分に逆直交変換処理を施して画素データに変換する動領域処理ブロック逆直交変換手段と、を備えることを特徴とするノイズ低減装置。
【請求項2】
前記コアリングレベル設定手段は、前記フレーム画像からコアリングレベル設定のためのノイズレベルを検出する設定用ノイズレベル検出手段を備え、前記設定用ノイズレベル検出手段によって検出したノイズレベルを前記コアリングレベルとして設定することを特徴とする請求項1に記載のノイズ低減装置。
【請求項3】
前記コアリングレベル設定手段は、前記フレーム画像からコアリングレベル設定のためのノイズレベルを検出する設定用ノイズレベル検出手段と、前記設定用ノイズレベル検出手段によって検出されたノイズレベルに、予め設定された0乃至1の値のノイズレベル調整値を乗じて算出したコアリングレベルを設定するコアリングレベル調整手段とを備えることを特徴とする請求項1に記載のノイズ低減装置。
【請求項4】
前記設定用ノイズレベル検出手段は、前記フレーム画像を複数の画素からなる複数の予め定められた形状のノイズレベル検出の単位ブロックであるノイズ検出ブロックに分割するノイズ検出ブロック分割手段と、前記ノイズ検出ブロック分割手段によって分割されたノイズ検出ブロックを直交変換して空間周波数成分に変換するノイズ検出ブロック直交変換手段と、前記ノイズ検出ブロック直交変換手段によって変換された空間周波数成分から予め定められた空間周波数の交流成分の平均である交流成分平均を算出する交流成分平均算出手段と、前記交流成分平均算出手段によって前記ノイズ検出ブロックごとに算出された交流成分平均から最小値を抽出し、前記ノイズレベルとして出力する最小値抽出手段とを備えることを特徴とする請求項2又は請求項3に記載のノイズ低減装置。
【請求項5】
前記設定用ノイズレベル検出手段は、前記フレーム画像を複数の画素からなる複数の予め定められた形状のノイズ検出の単位ブロックであるノイズ検出ブロックに分割するノイズ検出ブロック分割手段と、前記ノイズ検出ブロック分割手段によって分割されたノイズ検出ブロックの画像データから低空間周波数成分を抑制する低空間周波数成分抑制手段と、前記低空間周波成分抑制手段によって低空間周波成分が抑制された画像データを直交変換して空間周波数成分に変換するノイズ検出ブロック直交変換手段と、前記ノイズ検出ブロック直交変換手段によって変換された空間周波数成分から予め定められた空間周波数の交流成分の平均である交流成分平均を算出する交流成分平均算出手段と、前記交流成分平均算出手段によって前記ノイズ検出ブロックごとに抽出された複数の前記交流成分平均から最小値を抽出し、前記ノイズレベルとして出力する最小値抽出手段とを備えることを特徴とする請求項2又は請求項3に記載のノイズ低減装置。
【請求項6】
更に、前記動領域処理ブロック分割手段によって分割された動領域処理ブロック内の輝度レベルを算出する動領域処理ブロック輝度算出手段を備え、
前記コアリングレベル設定手段は、輝度レベルに応じてコアリングレベルが定められた輝度別コアリングレベルを設定するとともに、前記コアリング処理手段は、前記動領域処理ブロック直交変換手段によって変換された空間周波数成分中の各交流成分から、前記動領域処理ブロック輝度算出手段によって算出した輝度レベルに対応する前記コアリングレベル設定手段によって設定された輝度別コアリングレベルを減じるコアリング処理をすることを特徴とする請求項1乃至請求項3の何れか一項に記載のノイズ低減装置。
【請求項7】
前記設定用ノイズレベル検出手段は、前記フレーム画像を複数の画素からなる複数の予め定められた形状のノイズレベル検出の単位ブロックであるノイズ検出ブロックに分割するノイズ検出ブロック分割手段と、前記ノイズ検出ブロック分割手段によって分割されたノイズ検出ブロックを直交変換して空間周波数成分に変換するノイズ検出ブロック直交変換手段と、前記ノイズ検出ブロック直交変換手段によって変換された空間周波数成分から予め定められた空間周波数の交流成分の平均である交流成分平均を算出する交流成分平均算出手段と、前記ノイズ検出ブロック分割手段によって分割されたノイズ検出ブロック内の輝度レベルを算出するノイズ検出ブロック輝度算出手段と、前記交流成分平均算出手段によって算出された交流成分平均を、前記ノイズ検出ブロック輝度算出手段によって算出された輝度レベルごとに、フレーム画像中の複数のノイズ検出ブロックに対応する交流成分平均から最小値を抽出して各輝度レベルにおける前記輝度別ノイズレベルとして出力する輝度別最小値抽出手段とを備えることを特徴とする請求項6に記載のノイズ低減装置。
【請求項8】
前記コアリングレベル設定手段は、更に、前記設定用ノイズレベル検出手段によって検出された輝度別ノイズレベルの有効性を検証するための検証用ノイズレベルを、予備撮影によって得られたフレーム画像から検出する検証用ノイズレベル検出手段を備え、
前記設定用ノイズレベル検出手段は、前記輝度別最小値抽出手段によって抽出された各輝度別ノイズレベルが前記検証用ノイズレベル検出手段によって検出された検証用ノイズレベルに対して、予め定められた所定の範囲外にあるときに、当該輝度別ノイズレベルを排除するノイズレベル検証手段と、前記ノイズレベル検証手段によって排除された輝度レベルに対応するノイズレベルを、排除されなかった輝度レベルにおけるノイズレベルから補間処理して算出する補間処理手段とを更に備えることを特徴とする請求項7に記載のノイズ低減装置。
【請求項9】
前記高周波数成分低減手段は、前記フレーム画像及び前記フレーム画像に対して時間軸方向に前後のフレーム画像の画像平面内の同じ位置の画素を平均化処理する平均化フィルタであることを特徴とする請求項1乃至請求項8の何れか一項に記載のノイズ低減装置。
【請求項10】
前記高周波数成分低減手段は、前記フレーム画像及び前記フレーム画像に対して時間軸方向に前後の複数のフレーム画像の画像平面内の同じ位置の画素から中央値を選択するメディアンフィルタであることを特徴とする請求項1乃至請求項8の何れか一項に記載のノイズ低減装置。
【請求項11】
動画像を構成するフレーム画像の画像平面内の領域が、当該フレーム画像に対して時間軸方向に前後のフレーム画像に対して変化のある動領域か、変化のない静領域か、の2種類の領域の何れであるかを判別する領域判別信号に従って、前記動領域と前記静領域とにそれぞれ異なるノイズ低減処理を施すことにより、前記動画像に重畳されたノイズを低減させるために、コンピュータを、
前記領域判別信号が静領域であることを示す前記フレーム画像の領域に対して、当該静領域中の画素ごとに、当該フレーム画像に対して時間軸方向に前後のフレーム画像の画像平面内の同じ位置の画素を参照して高周波数成分を低減する処理をする高周波数成分低減手段、
前記領域判別信号が動領域であることを示す前記フレーム画像の領域に対して、予め定められた形状の動領域処理の単位ブロックである動領域処理ブロックに分割する動領域処理ブロック分割手段、
前記動領域処理ブロック分割手段によって分割された動領域処理ブロックごとに直交変換をして、前記動領域処理ブロックを構成する画素データを空間周波数成分に変換する動領域処理ブロック直交変換手段、
前記動領域処理ブロック直交変換手段によって変換された空間周波数成分に対してコアリング処理をするときのコアリングレベルを設定するコアリングレベル設定手段、
前記動領域処理ブロック直交変換手段によって変換された空間周波数成分中の各交流成分から前記コアリングレベル設定手段によって設定されたコアリングレベルを減じるコアリング処理をするコアリング処理手段、
前記動領域処理ブロック直交変換手段によって変換された空間周波数成分中の直流成分と前記コアリング処理手段によってコアリング処理された交流成分とからなる空間周波数成分に逆直交変換処理を施して画素データに変換する動領域処理ブロック逆直交変換手段、として機能させることを特徴とするノイズ低減プログラム。


【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate