成分抽出補正装置、成分抽出補正方法、成分抽出補正プログラム、又は電子機器
【課題】本発明は、原画像信号から高速かつ精度良く骨格成分等の成分を取得する
【解決手段】成分抽出補正装置は、原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解部(105)と、前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出部(301/308)と、前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正部(307)と、前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正部(310、311)と、を備えることを特徴とする。
【解決手段】成分抽出補正装置は、原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解部(105)と、前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出部(301/308)と、前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正部(307)と、前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正部(310、311)と、を備えることを特徴とする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像信号から成分を抽出し補正する成分抽出補正装置、成分抽出補正方法、成分抽出補正プログラム、又は成分抽出補正装置を搭載する電子機器に関する。
【背景技術】
【0002】
従来、原画像信号Fを、骨格成分(幾何学的画像構造)と骨格成分以外の成分とに分解して抽出する方法が開示されている(非特許文献1参照)。骨格成分は、大局的な構造を表す成分であり、平坦成分(緩やかに変化する成分)とエッジ成分を含む。骨格成分以外の成分は、局所的な構造を表す成分であり、テクスチャのような細かい構造成分とノイズから構成される。
【0003】
画像分解の手法には、加算型分離と乗算型分離がある。加算型分離では、原画像信号Fが式(1)で示すように、第1成分Uと第2成分Vの和として表される。
【0004】
【数1】
【0005】
第1成分Uは、骨格成分である。骨格成分以外の第2成分Vは、テクスチャ成分とノイズを含み、原画像信号Fに対する第1成分Uの残差成分として定義される。
【0006】
有界変動関数とノルムを用いた分解方法が使用される。分解を行うために、非特許文献1に記載のA2BC変分モデル(Aujol-Aubert-Blanc- Feraud-Chambolle model)を用いる。最適解として求められる第1成分Uの性質は、不連続境界によって区分された複数の“滑らかな輝度変化の小部分領域”から構成された有界変動関数空間BV(Bounded Variation Function Space)としてモデル化される。第1成分Uのエネルギーは全変動エネルギーとして、式(2)のTV(Total Variation)ノルムJ(U)で定義される。
【0007】
【数2】
【0008】
ただし、式(2)において、xは第1成分Uの横方向の画素位置であり、yは縦方向の画素位置である。
【0009】
一方、式(1)中の第2成分Vの関数空間は、振動関数空間Gとモデル化される。振動関数空間Gは、振動母関数g1、g2によって式(3)のように表現された関数の空間であり、そのエネルギーは式(4)のGノルム‖V‖Gとして定義される。
【0010】
【数3】
【0011】
原画像信号Fの分解問題は、エネルギー汎関数を最小化する式(5)の変分問題として定式化される。この変分問題は、ChambolleのProjection法によって解くことができる。
【0012】
【数4】
【0013】
原画像信号Fから分解される第2成分Vはノイズの影響を受ける。しかし、第1成分Uはノイズの影響をほとんど受けないため、エッジを鈍らせることなく骨格成分(幾何学的画像構造)が抽出される。
【0014】
乗算型分離では、原画像信号Fが第1成分Uと第2成分Vの積によって式(6)のように表されるが、原画像信号Fを対数変換した対数原画像信号をfとすると、式(7)のように加算型分離問題に変換することができる。
【0015】
【数5】
【非特許文献1】Jean-Francois Aujol, Guy Gilboa, Tony Chan & Stanley Osher, "Structure-Texture Image Decomposition--Modeling, Algorithms, and Parameter Selection", International Journal of Computer Vision, Volume 67, Issue 1, (April 2006) Pages: 111 - 136 Year of Publication: 2006
【非特許文献2】相澤,石井,小松,齋藤,“TV-L1非線形画像分解による信号依存性雑音の除去”,映像メディア処理シンポジウム2007,I-4.15,Oct.2007.
【発明の開示】
【発明が解決しようとする課題】
【0016】
しかし、上記の変分問題を解き、骨格成分と骨格成分以外の成分の分離を高速かつ精度良く行う方法は十分に確立されていなかった。
【0017】
本発明は、原画像信号から高速かつ精度良く骨格成分等の成分を取得することを目的とする。
【課題を解決するための手段】
【0018】
本発明のある態様に係る成分抽出補正装置は、原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解部と、前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出部と、前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正部と、前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正部と、を備えることを特徴とする。
【0019】
本発明の別の態様に係る成分抽出補正方法は、原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解ステップと、前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出ステップと、前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正ステップと、前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正ステップと、を含むことを特徴とする。
【0020】
本発明のさらに別の態様に係る成分抽出補正プログラムは、コンピュータに、原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解手順と、前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出手順と、前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正手順と、前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正手順と、を実行させることを特徴とする。
【0021】
これら態様によれば、複数の成分のうち骨格成分以外の一の成分と帯域信号とを用いて、抽出された骨格成分を補正する第1の補正処理を行う。補正された骨格成分と帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う。
【0022】
このような第1の補正処理と第2の補正処理の組み合わせにより、骨格成分以外の一の成分を用いて骨格成分を、骨格成分を用いてこの一の成分を補正する。このため、高速に精度良く骨格成分及び骨格成分以外の一の成分を取得できる。例えば、第1の補正処理と第2の補正処理を繰り返すことにより、逐次近似的にさらに精度良く骨格成分と骨格成分以外の一の成分を計算できる。
【0023】
抽出部は、原画像信号ではなく帯域信号に含まれる骨格成分を抽出する。このため、簡易に骨格成分と骨格成分以外の一の成分の補正が行える。例えば、合成部が帯域信号ごとに補正された骨格成分を複数の周波数帯域にわたって合成することで、原画像信号に対して高速かつ精度良く骨格成分を取得できる。例えば、合成部が帯域信号ごとに前記補正された一の成分を複数の周波数帯域にわたって合成することで、原画像信号に対して高速かつ精度良く骨格成分以外の一の成分を取得できる。
【0024】
本発明のさらに別の態様に係る成分抽出補正装置は、原画像信号のうち大局的な構造を表す骨格成分を抽出する抽出部と、前記抽出された骨格成分を複数の周波数帯域に分解して複数の帯域信号ごとの前記骨格成分を生成する分解部と、前記帯域信号ごとの前記骨格成分を補正する第1の補正処理を行う第1補正部と、前記帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号に対する骨格成分を生成する合成部と、前記原画像信号に対する骨格成分と前記原画像信号とを用いて、前記原画像信号のうち前記原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う第2補正部と、を備えることを特徴とする。
【0025】
本発明のさらに別の態様に係る成分抽出補正方法は、原画像信号のうち大局的な構造を表す骨格成分を抽出する抽出ステップと、前記抽出された骨格成分を複数の周波数帯域に分解して複数の帯域信号ごとの前記骨格成分を生成する分解ステップと、前記帯域信号ごとの前記骨格成分を補正する第1の補正処理を行う第1補正ステップと、前記帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号に対する骨格成分を生成する合成ステップと、前記原画像信号に対する骨格成分と前記原画像信号とを用いて、前記原画像信号のうち前記原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う第2補正ステップと、を含むことを特徴とする。
【0026】
本発明のさらに別の態様に係る成分抽出補正プログラムは、コンピュータに、原画像信号のうち大局的な構造を表す骨格成分を抽出する抽出手順と、前記抽出された骨格成分を複数の周波数帯域に分解して複数の帯域信号ごとの前記骨格成分を生成する分解手順と、前記帯域信号ごとの前記骨格成分を補正する第1の補正処理を行う第1補正手順と、前記帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号に対する骨格成分を生成する合成手順と、前記原画像信号に対する骨格成分と前記原画像信号とを用いて、前記原画像信号のうち前記原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う第2補正手順と、を実行させることを特徴とする。
【0027】
これら態様によれば、帯域信号ごとの骨格成分を補正する第1の補正処理を行う。帯域信号ごとに補正された骨格成分を複数の周波数帯域にわたって合成し、原画像信号に対する骨格成分を生成する。原画像信号に対する骨格成分と原画像信号とを用いて、原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う。
【0028】
このような第1の補正処理と第2の補正処理の組み合わせにより、高速に精度良く骨格成分及び骨格成分以外の一の成分を取得できる。例えば、第1の補正処理と第2の補正処理を繰り返すことにより、逐次近似的に精度良く骨格成分と骨格成分以外の一の成分を計算できる。
【0029】
原画像信号ではなく帯域信号に含まれる骨格成分を補正するため、簡易に骨格成分の補正が行える。帯域信号ごとに補正された骨格成分を複数の周波数帯域にわたって合成することで、原画像信号に対して高速かつ精度良く骨格成分を取得できる。原画像信号に対する骨格成分と原画像信号とを用いて、原画像信号に対する骨格成分以外の一の成分を補正するため、原画像信号に対して骨格成分以外の一の成分を高速かつ精度良く取得できる。この場合、さらに、骨格成分以外の一の成分を記録するバッファの容量を抑えることができる。
【発明の効果】
【0030】
本発明では、原画像信号から高速かつ精度良く骨格成分と骨格成分以外の一の成分を取得することができる。
【発明を実施するための最良の形態】
【0031】
<第1の実施形態>
図1を参照して、本発明の第1の実施形態に係る成分抽出補正装置について説明する。なお、成分抽出補正装置は、デジタルカメラやデジタルビデオカメラ等の撮像装置(撮像用電子機器)に搭載されるものとして第一実施形態を説明する。しかし、本発明はこれに限定されることなく適用可能である。
【0032】
撮像装置は、システムコントローラ100(制御部)、光学系101、撮像素子102、A/D変換部103(以下、単にA/Dと呼ぶ)、補間部104、多重解像度分解部105(単に、分解部とも呼ぶ)を備える。さらに、撮像装置は、バッファ106、成分分離部107、多重解像度合成部108(単に、合成部とも呼ぶ)、第1信号処理部109、第2信号処理部110、成分合成部111、出力部112を備える。上記各部を、論理回路から構成してよいし、CPU(中央演算処理装置)と、演算プログラムを格納するメモリ等から構成してもよい。本実施形態の成分抽出補正装置は、多重解像度分解部105、成分分離部107等から構成される。
【0033】
本実施形態に係る撮像装置において、原画像信号Fが成分分離され、第1成分U、第2成分Vが生成される。ここで、第1成分Uは、平坦成分(緩やかに変化する成分)とエッジ成分を含む原画像信号の骨格成分(幾何学的画像構造)である。第2成分Vは、骨格成分以外の成分であり、原画像信号に対する第1成分Uの残差成分を表している。成分分離後、分離した成分毎に最適な処理を施し合成する。
【0034】
図13(a)に原画像信号Fのラインプロファイルの例と、原画像の例を示す。図13(b)に骨格成分のラインプロファイルの例と、その画像例を示す。図13(c)に骨格成分以外の成分のラインプロファイルの例と、その成分画像の例を示す。図13(b)のように、骨格成分(第1成分U)は、大局的な構造を表す成分である。大局的な構造は信号の特徴の概要部分を表すものであり、エッジ成分と、エッジによって区分された輝度変化の滑らかな領域の平坦成分(緩やかに変化する成分)から構成される。図13(c)のように、骨格成分以外の成分(第2成分V)は、局所的な構造を表す成分である。局所的な構造は信号の特徴の詳細部分を表すものであり、テクスチャのような細かい構造成分とノイズから構成される。
【0035】
成分分離の手法には、加算型分離と乗算型分離がある。加算型分離では、原画像信号Fが前述の式(1)で示すように、第1成分Uと第2成分Vの和として表される(F=U+V)。
【0036】
乗算型分離では、原画像信号Fが前述の式(6)で示すように、第1成分Uと第2成分Vの積によって表される(F=U*V)。しかし、原画像信号Fを対数変換して対数原画像信号fとすると、前述の式(7)のように加算型分離問題に変換することができる。
【0037】
本実施形態においては加算型分離に関して説明を行い、乗算型分離に関する詳細な説明は省略する。なお、乗算型分離の場合、原画像信号の画素毎に対数変換した信号値に対し、加算型分離と同様の処理を施して成分分離した後、分離成分毎に逆対数変換を行えば式(6)に示す乗算型の分離処理が実現できる。
【0038】
撮像素子102は、A/D103を介して補間部104へ接続されている。補間部104は、分解部105に接続されている。分解部105は、バッファ(バッファメモリ)106を介して、成分分離部107と合成部108へ接続されている。成分分離部107は、合成部108へ接続されている。合成部108は、第1信号処理部109、及び第2信号処理部110を介して成分合成部111へ接続されている。成分合成部111は出力部112へ接続されている。各処理部はシステムコントローラ100に接続しており、システムコントローラ100により動作を制御される。
【0039】
撮像素子102は、システムコントローラ100の制御に基づき、光学系101を通して撮像素子102面上に結像した光学像をアナログ画像信号として出力する。なお、本実施形態において、撮像素子102は、色フィルタアレイを前面に配置したカラー用撮像素子である。撮像素子102は、単板方式、多板方式のいずれでも良い。
【0040】
アナログ画像信号は、A/D103へ転送される。A/D103は、アナログ画像信号をデジタル信号に変換し、補間部104へ転送する。
【0041】
補間部104は、デジタル信号に対し、所定のデモザイク処理を施し、カラー三板画像信号(以下、原画像信号Fと呼ぶ)を生成する。本実施形態において、原画像信号Fは、R(赤)、G(緑)、B(青)の色信号により構成されている。以降、R(赤)、G(緑)、B(青)の色信号をそれぞれFr、Fg、Fbと呼ぶこととする。原画像信号Fは、分解部105(多重解像度分解部)へ転送される。
【0042】
分解部105は、各色信号Fr、Fg、Fbに対して所定のI段階(Iは1以上の整数)の多重解像度分解を行い、各色信号を複数の周波数帯域に分解して複数の帯域信号を生成する。分解部105は、分解の段階数i(iは、1以上I以下の整数)ごとの高周波成分、低周波成分を生成し、バッファ106へ記録する。なお、多重解像度分解の詳細については後述する。
【0043】
ここで本実施形態において、Harr基底による直交ウェーブレット変換を行っているが、双直交ウェーブレット基底等も含め、全てのウェーブレット基底が適用可能である。また、サブサンプリングを行わないタイプの(各レベルの各ウェーブレット係数が入力画素と同じ数になるよう)冗長性を持たせたウェーブレット変換(Stationary wavelet transform等)を適用することも可能である。
【0044】
成分分離部107は、各高周波成分を、高周波成分に含まれる第1成分、及び第2成分にそれぞれ分解する。ここで、第1成分は、平坦成分とエッジ成分を含む原画像信号の骨格成分である。第2成分は、テクスチャの様な細かい構造成分とノイズを含む、原画像信号に対する第1成分の残差成分を表している。
【0045】
成分分離部107では、高周波成分に対し2つの異なるノイズ低減処理(多段階コアリング処理、コアリング処理(軟判定閾値処理))と差分算出処理を組合わせた処理が反復的に適用される。反復がなされるたびに第1成分、第2成分の分解精度が向上する。所定回数の反復がなされた後の第1成分、第2成分を合成部108へ転送する。なお、成分分解、多段階コアリング処理、コアリング処理(軟判定閾値処理)の詳細は後述する。
【0046】
ここで、コアリング処理は、典型的には、入力信号がコアリング範囲以内に属する場合に、その信号値を一律ゼロとし、コアリング範囲を外れる場合には、閾値だけ減算、または加算した信号値とする。コアリング範囲は、下限閾値、上限閾値で規定される範囲である。また、多段階コアリング処理は、一般のコアリング処理とは異なり、複数のコアリング範囲により規定された変換関数に基づき、入力信号を所定の値に変換する。各コアリング範囲は、下限閾値、上限閾値、および各コアリング範囲に対応する出力値を有する。
【0047】
合成部108(重解像度合成部)は、バッファ106から低周波成分を取得し、成分分離部107から高周波成分に含まれる第1成分、第2成分を取得する。ここで、合成部108は、低周波成分、及び高周波成分に含まれる第1成分に基づき、原画像信号Fに対する第1成分Uを生成する。同様の手法により、高周波成分に含まれる第2成分に基づき、原画像信号Fに対する第2成分Vを生成する。生成した第1成分Uは、第1信号処理部109へ、第2成分Vは第2信号処理部110へ転送される。なお、多重解像度合成処理の詳細は後述する。
【0048】
第1信号処理部109は、合成部108から原画像信号Fに対する第1成分Uを読み込み、所定の信号処理を実施する。本実施形態では、原画像信号Fに対する第1成分Uに対し、階調変換を実施する。階調変換後の第1成分U'は、成分合成部111へ転送される。例えば、第1信号処理部109は、第1成分Uに対して、信号レベルに基づきヒストグラムを算出し、ヒストグラムに基づき階調変換曲線を設定する。第1信号処理部109は、階調変換曲線から各画素に係る階調変換係数を取得して、第1成分Uに乗算して階調変換後の第1成分U'を得ることができる。第1信号処理部109は、その他、γ補正等の階調変換を行ってもよい。
【0049】
第2信号処理部110は、合成部108から第2成分Vを読み込み、所定の信号処理を実施する。本実施形態では、第2成分Vに対しノイズ低減処理、及びゲインの乗算による鮮鋭化処理を行う。処理後の第2成分V'は成分合成部111へ転送される。ノイズ低減処理として、例えば、コアリング処理やフィルタリング処理が為される。
【0050】
成分合成部111は、第1信号処理部109で処理された第1成分U’、及び第2信号処理部110で処理された第2成分V’とを所定の比率で合成し、合成成分F'を得る。所定の比率は、例えば1:1の比率である。合成成分F'は出力部112へ転送され、フラッシュメモリ等で構成される記憶メディアへ記録される。
【0051】
多重解像度分解部105
次に、図2を参照して、多重解像度分解部105の構成について説明する。分解部105は、各色信号Fr、Fg、Fbを複数の周波数帯域に分解して複数の帯域信号を生成する。
【0052】
この分解部105は、データ読取部200と、バッファ(バッファメモリ)201と、水平ハイパスフィルタ202と、水平ローパスフィルタ203と、サブサンプラ204、205と、を含む。また、分解部105は、垂直ハイパスフィルタ206と、垂直ローパスフィルタ207と、垂直ハイパスフィルタ208と、垂直ローパスフィルタ209と、を含む。さらに、分解部105は、サブサンプラ210、211、212、213と、切換部214と、データ転送制御部215と、基底関数ROM216と、フィルタ係数読取部217とを含んでいる。
【0053】
補間部104は、データ読取部200を介して、バッファ201へ接続されている。バッファ201は、水平ハイパスフィルタ202および水平ローパスフィルタ203へ接続されている。水平ハイパスフィルタ202は、サブサンプラ204を介して、垂直ハイパスフィルタ206および垂直ローパスフィルタ207へ接続されている。水平ローパスフィルタ203は、サブサンプラ205を介して、垂直ハイパスフィルタ208および垂直ローパスフィルタ209へ接続されている。
【0054】
垂直ハイパスフィルタ206は、サブサンプラ210へ、垂直ローパスフィルタ207はサブサンプラ211へ、それぞれ接続されている。垂直ハイパスフィルタ208は、サブサンプラ212へ、垂直ローパスフィルタ209は、サブサンプラ213へ、それぞれ接続されている。サブサンプラ210、211、212、213は、切換部214へそれぞれ接続されている。サブサンプラ213は、さらに、データ転送制御部215へも接続されている。
【0055】
切換部214は、バッファ106へ接続されている。データ転送制御部215は、バッファ201へ接続されている。基底関数ROM216は、フィルタ係数読取部217へ接続されている。フィルタ係数読取部217は、水平ハイパスフィルタ202、水平ローパスフィルタ203,垂直ハイパスフィルタ206、垂直ローパスフィルタ207、垂直ハイパスフィルタ208、垂直ローパスフィルタ209へそれぞれ接続されている。
【0056】
基底関数ROM216には、Harr関数やDaubecies関数などのウェーブレット変換に用いられるフィルタ係数が記録されている。これらの内の、例えばHarr関数におけるハイパスフィルタの係数を式(8)に、ローパスフィルタの係数を式(9)に、それぞれ示す。本実施形態においては、Harrの基底関数を用いている。
【0057】
【数6】
【0058】
なお、これらのフィルタ係数は、水平方向と垂直方向とに共通して用いられる。
【0059】
フィルタ係数読取部217は、基底関数ROM216からフィルタ係数を読み込む。フィルタ係数読取部217は、水平ハイパスフィルタ202、垂直ハイパスフィルタ206、垂直ハイパスフィルタ208へハイパスフィルタ係数を転送する。フィルタ係数読取部217は、水平ローパスフィルタ203、垂直ローパスフィルタ207、垂直ローパスフィルタ209へローパスフィルタ係数を転送する。
【0060】
こうして、各ハイパスフィルタおよび各ローパスフィルタへフィルタ係数が転送された後に、データ読取部200は、補間部104から原画像信号Fを読み込んで、バッファ201へ転送する。
【0061】
バッファ201上の原画像信号Fには、水平および垂直方向のフィルタリング処理がなされる。このフィルタリング処理は、水平ハイパスフィルタ202、水平ローパスフィルタ203、垂直ハイパスフィルタ206、208、垂直ローパスフィルタ207、209によって為される。ここで、サブサンプラ204、205は、入力映像信号に対して、水平方向に1/2にサブサンプリング(ダウンサンプリング)する。サブサンプラ210、211、212、213は入力映像信号を垂直方向に1/2にサブサンプリングする。
【0062】
従って、サブサンプラ210の出力は、水平垂直両方向の高周波成分Hhv1を、サブサンプラ211の出力は、水平方向の高周波成分Hh1を、サブサンプラ212の出力は、垂直方向の高周波成分Hv1をそれぞれ与える。サブサンプラ213の出力は、低周波成分LL1を与える。
【0063】
切換部214は、ウェーブレット係数としての上記3つの高周波成分Hhv1、Hh1、Hv1と低周波成分LL1とを、バッファ106へ順次転送する。また、データ転送制御部215は、サブサンプラ213からの低周波成分LL1をバッファ201へ転送する。
【0064】
こうしてバッファ201上に記憶された低周波成分LL1は、上述と同様のフィルタリング処理により2段階目の分解が行われて、3つの高周波成分Hhv2、Hh2、Hv2と低周波成分LL2とが出力される。
【0065】
上述したような過程は、所定のI段階の分解が行われるまで反復されるように制御される。I段階の分解が終了すると、バッファ106には、帯域信号としてウェーブレット係数としての高周波成分Hhvi、Hhi、Hviおよび低周波成分LLi(i=1〜I)が保存されることになる。こうして、帯域信号(Hhvi、Hhi、HviおよびLLi(i=1〜I))が、生成保存される。
【0066】
成分分離部107
次に、図3を参照して成分分離部107の動作の詳細について説明する。
【0067】
ここで、成分分離部107が行う成分分離について説明しておく。RGBカラー画像を式(5)のようなTV−G非線形画像分解モデルによって成分分離する。この場合、色差(Ur-Ug、Ub-Ug、Ur-Ub)、色和(Ur+Ug、Ub+Ug、Ur+Ub)のTV(Total Variation)を導入することで、カラー歪の発生を抑えることができる。色差と色和のTVを導入したTV−G非線形画像分解モデルは式(10)、式(11a)、式(11b)のような変分問題に定式化される。
【0068】
【数7】
【0069】
【数8】
【0070】
【数9】
【0071】
ここで、Ur、Ug、Ubは、それぞれR信号、G信号、B信号の第1成分である。Vr、Vg、Vbは、それぞれR信号、G信号、B信号の第2成分である。なお、式(11a)は、この式(11a)の変分問題の解
【数10】
を用いて、以下のように定義されたWr、Wg、Wbを導入することで、式(11b)に示す3つの互いに独立な変分問題となる。
【0072】
【数11】
【0073】
上記変分問題におけるTVノルムを全てBesovノルム空間B11(L1)のノルムで置換すれば、直交(近似的には双直交)ウェーブレット変換領域におけるShrinkage処理によって解を求めることが可能である。
【0074】
このとき、式(10)は非特許文献2に記載のL1−L2型最適化問題から導出したShrinkage関数、(具体的には式(15)(16)に示すShirnkage関数)を用いた反復アルゴリズムに帰着する。これは、(Fr-Vr,Fg-Vg,Fb-Vb)をRGB三原色カラー入力画像とみなし、上記、Shrinkage関数を用いたウェーブレット変換領域の雑音除去法でノイズ低減処理を行うことと等価である。このノイズ低減処理は、色信号間の色和、色差を考慮した複数のコアリング範囲を持つ多段階コアリング処理となる。
【0075】
また、式(11b)は閾値をμとした軟判定閾値処理(Soft Thresholding)を用いたWavelet Shrinkage法に帰着する。これは、(Fr-Ur,Fg-Ug, Fb-Ub)をRGB三原色カラー入力画像とみなし、閾値パラメータがμの軟判定閾値処理を用いたWavelet Shrinkage法でノイズ低減処理を行うことと等価である。軟判定閾値処理は、単一のコアリング範囲を持つ通常のコアリング処理である。
【0076】
成分分離部107は、初期化部301、第1バッファ302、第2バッファ303、第1差分算出部304、第1ノイズ低減部307、第1転送制御部308を含んでいる。さらに、成分分離部107は、第2差分算出部309、第2ノイズ低減部310、第3差分算出部311、第2転送制御部312を含んでいる。
【0077】
バッファ106は、初期化部301、第1差分算出部304、第2差分算出部309、第3差分算出部311に接続されている。初期化部301は第1バッファ302(第1記憶部)、第2バッファ303(第2記憶部)に接続されている。
【0078】
第2バッファ303は、第1差分算出部304、合成部108に接続されている。第1差分算出部304は、第1ノイズ低減部307に接続されている。第1ノイズ低減部307は、第1転送制御部308に接続されている。第1転送制御部308は、第1バッファ302に接続されている。第1バッファ302は、第2差分算出部309、第3差分算出部311、合成部108に接続されている。第2差分算出部309は、第2ノイズ低減部310に接続されている。第2ノイズ低減部310は、第3差分算出部311に接続されている。第3差分算出部311は第2転送制御部312に接続されている。第2転送制御部312は第2バッファ303に接続されている。
【0079】
成分分離部107では、バッファ106から各色信号に対する高周波成分(ウェーブレット係数)を取得し、高周波成分毎に第1成分、第2成分への分解を行う。この分解は、所定のノイズ低減処理、差分算出処理の反復処理により行われる。制御部としてのシステムコントローラ100は、ノイズ低減処理、差分算出処理の動作の繰り返しを制御する。
【0080】
本実施形態において、第1バッファ302が第1成分を保持するバッファメモリ、第2バッファ303が第2成分を保持するバッファメモリとなっている。ノイズ低減処理、差分処理を反復する度に、第1バッファ302、第2バッファ303に保持される第1成分、第2成分は随時更新され、分解精度が向上し、最適化がなされる。所定の反復回数Lに達した段階で、第1バッファ302、第2バッファ303にそれぞれ記録された第1成分(後述のUki(L))、第2成分(後述のVki(L))は、合成部108へ転送される。
【0081】
なお、本実施形態において、成分抽出補正装置の抽出部は、第1転送制御部308から構成されるが、これに限定されるものではない。例えば、最初の多段階コアリング処理に対しては、初期化部301が、抽出部として機能する。抽出部は、帯域信号を構成する複数の成分のうち第1成分(骨格成分)を抽出するものである。
【0082】
また、本実施形態において、第1成分(骨格成分)を補正する第1の補正処理を行う第1補正部は、第1ノイズ低減部307から構成される。また、骨格成分以外の一の成分(第2成分)を補正する第2の補正処理を行う第2補正部は、第2ノイズ低減部310と第3差分算出部311から構成される。
【0083】
以下に例として、色信号Fkに関する高周波成分Hki(ウェーブレット係数Hhvi、Hhi、Hvi)に対して、第1成分Uki(l)と第2成分Vki(l)を分離する場合について説明する。ここで、添字k(=r,g,b)は色を表す記号である。k=rはR信号、k=gはG信号、k=bはB信号を表す。添字i(i=0〜I)は多重解像度分解の段階数、l(l=0〜L)は反復回数を表す。
【0084】
初めに、l=0の反復においては、第1成分を保持する第1バッファ302、第2成分を保持する第2バッファ303に対する初期化を行う。初期化部301は、バッファ106から色信号Fr、Fg、Fbに対する帯域信号のうち高周波成分Hri、Hgi、Hbiを取得する。初期化部301は取得した高周波成Hri、Hgi、Hbiを第1バッファ302へ転送し、第1バッファ302にこれを記録する。同時に初期化部301の制御により第2バッファの値を全て零にクリアする。
【0085】
すなわち、初期化部301は、l=0の場合に、第1成分に対し高周波成分Hkiを、第2成分に対し零を初期値として代入し、初期化する機能を持つ。このように初期化することで、適切に第1成分と第2成分が計算できる。なお、l=0の場合に、初期化部301は、帯域信号を構成する複数の成分のうち第1成分(骨格成分)を抽出する抽出部として機能している。
【0086】
次にl回目(l≠0)における成分抽出・補正処理の説明を行う。この処理は色信号毎に対し独立に行われるわけではない。1回の反復処理(例えばl回目の処理)において、全色信号(k=r,g,b)に対する処理が1回なされた後、次の反復処理(l+1回目の処理)が行われる。
【0087】
まず、第1差分算出部304は、バッファ106より色信号Fkの高周波成分Hkiを、第2バッファ303より第2成分Vki(l-1)を取得し、式(12)に基づき第1の差分成分S1ki(l)(第1の差分値)を算出する。なお、l=1の場合、Vki(l-1) =Vki(0)=0である。
【0088】
【数12】
【0089】
算出した第1の差分成分S1ki(l)は、第1ノイズ低減部307へ転送される。
【0090】
第1ノイズ低減部307は、第1の差分成分S1ki(l)に対し、色信号間の色和、色差を考慮した複数のコアリング範囲を持つ多段階コアリング処理を行う。第1ノイズ低減部307の処理の詳細は後述する。なお、後述するように、ここでの多段階コアリングは、M回反復して行ってもよい。
【0091】
多段階コアリング処理後の第1の差分成分S1ki(l)'は、第1転送制御部308の制御により、第1バッファ302へ転送される。この差分成分S1ki(l)'を、第1成分Uki(l)として、第1バッファ302に記録されている第1成分Uki(l-1)に上書きすることにより、第1成分が補正・更新される(Uki(l)= S1ki(l)')。なお、l=1の場合、Uki(l-1)=Uki(0)= Hkiである。
【0092】
次に、第2差分算出部309は、バッファ106より高周波成分Hkiを、第1バッファ302より第1成分Uki(l)を取得し、式(13)に基づき第2の差分成分S2ki(l)(第2の差分値)を算出する。
【0093】
【数13】
【0094】
算出した第2の差分成分S2ki(l)は第2ノイズ低減部310へ転送される。
【0095】
第2ノイズ低減部310では第2の差分成分S2ki(l)に対し、コアリング範囲を1つ持つ一般的なコアリング処理(軟判定閾値処理)を行う。ここで、コアリング処理後の第2の差分成分をS2ki(l)'とする。後述するように、コアリング処理後の第2の差分成分S2ki(l)'を指標値とも呼ぶ。第2ノイズ低減部310の処理の詳細は後述する。
【0096】
次に、第3差分算出部311は、バッファ106より高周波成分Hkiを、第1バッファ302より第1成分Uki(l)を、第2ノイズ低減310よりコアリング処理後の第2の差分成分S2ki(l)'を取得する。第3差分算出部311は、式(14)に基づき第3の差分成分S3ki(l) (第3の差分値)を算出する。
【0097】
【数14】
【0098】
第3の差分成分S3i(l)は、第2ノイズ低減部310がコアリング処理により第2の差分成分S2i(l)から除去したノイズ分に相当する。第3差分算出部311にて算出された第3の差分成分S3ki(l)は、第2転送制御部312の制御により、第2バッファ303へ転送される。この差分成分S3ki(l)を、第2成分Vki(l)として、バッファに記録されている第2成分Vki(l-1)に上書きすることにより、第2成分が補正・更新される(Vki(l)= S3ki(l))。なお、l=1の場合、Vki(l-1)= Vki(0)= 0である。
【0099】
なお、第2の差分成分S2ki(l)'に依存して第2成分Vki(l)(=S3ki(l))が変化するため、第2の差分成分S2ki(l)'を第2成分を定める指標値と呼ぶ。
【0100】
以上の処理は各色信号(k=r,g,b)に関して適用される。l回目の反復において、全色信号に関して処理が完了した時点でl回目の反復が完了する。
【0101】
反復回数がL回目に達した場合、第1バッファ302、及び第2バッファ303に保持される第1成分Uki(L)、第2成分Vki(L)を最終的な出力とし、合成部108へ転送する。
【0102】
なお、本実施形態においては反復回数を所定回数Lに予め設定したが、分解精度に応じて可変とする構成としても良い。例えば、l回目の第1成分Uki(l)とl-1回目のUki(l-1)との差分の絶対値、またはl回目の第1成分Vki(l)とl-1回目のVki(l-1)との差分の絶対値が所定の閾値以下となった場合に、反復処理を停止する構成としてもよい。これにより、反復による第1成分又は第2成分変化がほとんどなくなった場合に、反復処理を停止する。
【0103】
なお、本実施形態においては、反復処理を行っているが、l=0回目の初期化処理以降の反復処理を行わず、l=1回目の処理のみ行う構成としても良い。
【0104】
第1ノイズ低減部307
次に、図4を参照して、第1ノイズ低減部307の動作の詳細について説明する。
【0105】
第1ノイズ低減部307は、バッファ401、初期化部402、変換関数規定部403、範囲特定部404、加算・減算部405、置換部406、データ転送制御部407、バッファ408を含んでいる。
【0106】
第1差分算出部304は、初期化部402を介してバッファ401に接続されている。バッファ401は、初期化部402、範囲特定部404に接続されている。初期化部402はバッファ408に接続されている。変換関数規定部403は範囲特定部404、加算・減算部405、置換部406に接続されている。範囲特定部404は加算・減算部405、置換部406に接続されている。加算・減算部405、置換部406はデータ転送制御部407を介してバッファ408へ接続されている。バッファ408は変換関数規定部403、第1転送制御部308へ接続されている。
【0107】
第1ノイズ低減部307では、第1差分算出部304から転送された前述の差分信号に対する多段階コアリング処理を行う。多段階コアリング処理は、複数のコアリング範囲が設定された変換関数に基づき入力信号を所定の出力値に変換するものである。複数のコアリング範囲は、下限閾値、上限閾値の複数の組により定められ、各コアリング範囲に対応する出力値が定められている。
【0108】
変換関数のコアリング範囲は、処理対象の色信号に関する入力信号のみならず、処理対象外の色信号も用いて設定される。また、成分分解処理と同様に、多段階コアリング処理においても反復処理を行う構成となっている。処理の反復により多段階コアリング(ノイズ低減)の結果は随時更新され、所定の反復回数Mに達した時点で最終的な出力となる。また、1回の反復において、R,G,B信号毎に各1回多段階コアリング処理が行われた後、次の反復処理が行われる構成となっている。
【0109】
以下に例として、各色信号の高周波成分Hri、Hgi、Hbiに関する第1の差分信号Sri、Sgi、Sbiに対し、多段階コアリング処理(ノイズ低減処理)がなされる場合を説明する。ここで、Sri、Sgi、Sbiは、多段階コアリング処理前の第1の差分成分S1ri(l) S1gi(l) S1bi(l)に相当する(Sri=S1ri(l)、Sgi=S1gi(l)、Sbi=S1bi(l))。
【0110】
m回目の多段階コアリング処理により、差分信号Sri(m) 、Sgi(m) 、Sbi(m)が生成する。ここで、添字r、g、bはR信号、G信号、B信号を表しており、添字i(i=0〜I)は多重解像度分解の段階数、m(m=0〜M)は、多段階コアリング処理の反復回数を表す。
【0111】
はじめに、m=0の反復においては、バッファ401、バッファ408の初期化を行う。即ち、第1差分算出部304から初期化部402へ転送された差分信号Sri、Sgi、Sbiを、m=0回目の反復における差分信号Sri(0)、Sgi(0)、Sbi(0)として、バッファ401、バッファ408へ記録する。
【0112】
次に、m回目(m≠0)における処理の説明を行う。ここで1回の反復における色信号の処理の順番に特に制約はないが、本実施形態においては、R→G→B信号の順に各回の多段階コアリングを行うこととする。
【0113】
まず、変換関数規定部403は、バッファ401から取得した処理対象の色信号に関するm=0回目における差分信号Sri(0)、Sgi(0)、Sbi(0)を取得する。また、変換関数規定部403は、バッファ408から取得した処理対象外の色信号に関するm-1回目、あるいはm回目の反復処理により生成された差分信号を取得する。本実施形態においては、R信号に関する多段階コアリング処理の場合、変換関数規定部403は、差分信号Sri(0)、Sgi(m-1)、Sbi(m-1)を取得する。G信号に関する多段階コアリング処理の場合、変換関数規定部403は、差分信号Sgi(0)、Sri(m)、Sbi(m-1)を取得する。B信号に関する多段階コアリング処理の場合、変換関数規定部403は、差分信号Sbi(0)、Sri(m)、Sgi(m)を取得する。
【0114】
上記のように取得した差分信号と予め設定された所定のパラメータα、β、λに基づきコアリングに適用される変換関数を規定する。ここで、αは色信号間の信号値の差分が大きい場合に、ノイズ低減の度合いが大きくなるよう調整するパラメータである。βは色信号間の信号値の加算値が大きい場合に、ノイズ低減の度合いが大きくなるよう調整するパラメータである。
【0115】
以降では、コアリングの処理対象をG信号とし、G信号に対する変換関数を規定する場合についてのみ説明する。コアリングの処理対象がR信号の場合は、{Sgi(0)、Sri(m)、Sbi(m-1)}を{Sri(0)、Sgi(m-1)、Sbi(m-1)}に置換えて変換関数を規定すればよい。コアリングの処理対象がB信号の場合は、{Sgi(0)、Sri(m)、Sbi(m-1)}を{Sbi(0)、Sri(m)、Sgi(m)}に置換えて変換関数を規定すればよい。
【0116】
初めに、Sri(m)とSbi(m-1)を比較する。Sri(m)とSbi(m-1)の符号が一致し、Sri(m)>0、Sbi(m-1)>0、Sri(m)> Sbi(m-1)の場合は、例えば式(15)のような複数の区間Wj(j=0〜10)から構成される折線関数に、変換関数を規定する。図5(a)に式(15)により規定される変換関数を示す。
【0117】
【数15】
【0118】
ここで、区間Wj(j=0〜10)は、Sgi(0)に関する区間である。Tbj、Tujは、区間Wjの下限値、上限値を、Sgi(m)は出力値を表している。下限値、上限値Tbj、Tujと出力値Sgi(m)は、α、β、λ、及びSgi(0)、Sri(m)、Sbi(m-1)に基づいて算出される。区間Wj(j=0〜10)は、反復回数mの値に応じて、変化する。
【0119】
また、区間W1,W3,W5,W7のように、出力が一定値の区間は、コアリング範囲区間と定義される。変換関数内には複数のコアリング範囲区間が設定される。変換関数は連続しており、また、コアリング範囲区間以外の非コアリング範囲区間における関数の傾きは1に固定されている。このため、コアリング範囲区間における下限値、上限値、及び出力値がわかれば、非コアリング範囲区間における出力値も一意に算出することが可能である。また、非コアリング範囲区間において、傾きは1であるため、変換関数と一次関数Sgi(m)= Sgi(0)との差分は一定値となる。
【0120】
Sri(m)>0、Sbi(m-1)>0、Sri(m)< Sbi(m-1)の場合は, 式(15)において、Sbi(m-1)をSri(m)に、 Sri(m)をSbi(m-1)に置換して、コアリング範囲区間、及び出力値を算出できる。
【0121】
Sri(m)<0、Sbi(m-1)<0、|Sri(m)|>|Sbi(m-1)|の場合は, 式(15)において、Sbi(m-1)を-Sbi(m-1)に、Sri(m)を- Sri(m)に、αをβに、βをαに置換することにより、コアリング範囲区間、及び出力値を算出できる。
【0122】
Sri(m)<0、Sbi(m-1)<0, |Sri(m)|<|Sbi(m-1)|の場合は, 式(15)において、Sbi(m-1)を-Sri(m)に、Sri(m)を-Sbi(m-1)に、αをβに、βをαに置換することにより、コアリング範囲区間、及び出力値を算出できる。
【0123】
Sri(m)とSbi(m-1)の符号が一致せず、Sri(m)>0、Sbi(m-1)<0、 |Sri(m)|>|Sbi(m-1)|の場合は、変換関数を、例えば式(16)のように規定する。図5(b)に式(16)により規定される変換関数を示す。
【0124】
【数16】
【0125】
また、Sri(m)>0、Sbi(m-1)<0、|Sri(m)|<|Sbi(m-1)|の場合は, 式(16)において、Sri(m)を-Sbi(m-1)、-Sbi(m-1)をSri(m)に、αをβに、βをαに置換することによりコアリング範囲区間、及び出力値を算出できる。
【0126】
Sri(m)<0、Sbi(m-1)>0、|Sri(m)|>|Sbi(m-1)|の場合は、式(16)において、-Sbi(m-1)をSbi(m-1)に、Sri(m)を-Sri(m)に、αをβに、βをαに置換することによりコアリング範囲区間、及び出力値を算出できる。
【0127】
Sri(m)<0、Sbi(m-1)>0、|Sri(m)|<|Sbi(m-1)|の場合は、式(16)において、Sri(m)をSbi(m-1)に、-Sbi(m-1)を-Sri(m)に置換することによりコアリング範囲区間、及び出力値を算出できる。
【0128】
他のSri(m)、Sbi(m-1)に対するコアリングの変換関数については、Sgi(0)の変換関数に対し、Sri(m)、Sgi(0)、Sbi(m-1)を入れ替えれば容易にSri(m)、またはSbi(m-1)に対する変換関数が算出可能である。
【0129】
本実施形態においては、第1ノイズ低減部307における変換関数規定のため、コアリング範囲区間に関する下限値、上限値、及び出力値が、変換関数規定部403から範囲特定部404へ転送される。また、非コアリング範囲区間における下限値、上限値、及び、非コアリング範囲区間における変換関数と上記一次関数Sgi(m)= Sgi(0)との差分が、変換関数規定部403から範囲特定部404へ転送される。
【0130】
次に、範囲特定部404は、変換関数規定部403にて設定された変換関数(コアリング範囲区間に対する下限値、上限値)、及びバッファ401より差分信号Sgi(0)を取得する。範囲特定部404は、差分信号Sgi(0)の値とコアリング範囲区間の下限値、上限値とを比較する。差分信号Sgi(0)の値がコアリング範囲区間に属する場合は、差分信号Sgi(0)の信号値は、置換部406へ転送される。差分信号Sgi(0)の値がコアリング範囲区間外に属する場合は、差分信号Sgi(0)の信号値は、加算・減算部405へ転送される。
【0131】
置換部406では、差分信号Sgi(0)の信号値が所属するコアリング範囲区間に対応する出力値を変換関数規定部403から取得し、その出力値を差分信号の信号値として置換する。置換された信号値は、データ転送制御部407の制御により、バッファ408へ転送される。上記の出力値は、バッファ408上の差分信号Sgi(m-1)上に差分信号Sgi(m)の信号値として上書きされる。即ち、差分信号Sgi(0)の信号値が所属するコアリング範囲区間に対応する出力値が、差分信号Sgi(m)の信号値になる。
【0132】
加算・減算部405では、変換関数規定部403から上述の非コアリング範囲区間における変換関数と上記一次関数Sgi(m)= Sgi(0)との差分を取得し、その差分を差分信号Sgi(0)の信号値に対し加算する。加算された信号値は、データ転送制御部407の制御により、バッファ408へ転送される。加算された信号値は、バッファ上の差分信号Sgi(m-1)上に差分信号Sgi(m)の信号値として上書きされる。
【0133】
以上の処理を、R→G→B信号に関する差分信号に対し、順番に適用する。各色信号に対し、各1回ずつ多段階コアリング処理を行うことで、1回の反復処理を終了する。
【0134】
反復処理がM回行われた時点で、バッファ408に記録されたSri(M)、Sgi(M)、Sbi(M)は、第1転送制御部308の制御により第1バッファ302へ転送され、第1成分Uri(l)、Ugi(l)、Ubi(l)として記録される。なお、Sri(M)、Sgi(M)、Sbi(M)は、前述の多段階コアリング処理後の第1の差分成分S1ri(l)'、S1gi(l)'、S1bi(l)'に相当する。
【0135】
なお、本実施形態においては、反復処理を行っているが、m=0回目の初期化処理以降の反復処理を行わず、m=1回目の処理のみ行う構成としても良い。
【0136】
第2ノイズ低減部310
次に、図6を参照して、第2ノイズ低減部310の動作の詳細について説明する。
【0137】
第2ノイズ低減部310は、範囲特定部502、加算・減算部503、置換部504を含んでいる。第2差分算出部309は範囲特定部502に接続されている。範囲特定部502は、加算・減算部503、置換部504に接続されている。加算部・減算部503、置換部504は、第3差分算出部311に接続されている。
【0138】
第2ノイズ低減部310では、第2差分算出部309から転送された前述の第2の差分信号S2ki(l)に対するコアリング処理(軟判定閾値処理)を行う。多段階コアリング処理とは異なり、コアリング範囲が一つ設定された変換関数に基づき、第2ノイズ低減部310への入力信号は所定の値に変換される。また、本実施形態において、軟判定閾値処理は反復されず、一回のみ行われるが、これに限定されない。
【0139】
以下に例として、各色信号の高周波成分Hiに関する差分信号Siに対し、ノイズ低減処理がなされた差分信号Si'を生成する場合について説明する。ここで添字i(i=0〜I)は多重解像度分解の段階数を表す。ここで、Siは、前述の多段階コアリング処理前の第2の差分成分S2ki(l)に相当する。Si'は、多段階コアリング処理後の第2の差分成分S2ki(l)'に相当する(Si=S2ki(l)、Si'= S2ki(l)')。
【0140】
はじめに、範囲特定部502は、第2差分算出部309から差分信号Siを取得する。コアリング処理における変換関数は、例えば式(17)のような複数の区間Wj(j=0〜2)で構成される折線関数により規定される。
ここで、Tbj、Tujは区間Wjの下限値、上限値を表し、Si'は出力値を表している。区間W1が-Th〜Thの範囲で設定されたコアリング範囲を表している。図7に式(17)により規定される変換関数を示す。
【0141】
【数17】
【0142】
まず、範囲特定部502は、第2差分算出部309より差分信号Si(= S2ki(l))を取得する。範囲特定部502は、差分信号Siの値とコアリング範囲区間の下限値、上限値と比較する。差分信号Siがコアリング範囲区間に属する場合は、差分信号Siの信号値を置換部504へ転送する。差分信号Siがコアリング範囲区間外に属する場合は、差分信号Siの信号値を加算・減算部503へ転送する。
【0143】
置換部504では、差分信号Siの信号値が所属するコアリング範囲区間に対応する出力値0を、差分信号の信号値として置換する。置換された信号値は、Si'(=S2ki(l)')として、第3差分算出部311へ転送される。
【0144】
加算・減算部503は、式(17)に示す変換関数に基づき、Th < Siの場合、Si-Thを算出し、Si<-Thの場合、Si+Thを算出する。加算・減算部503は、Si-Th又はSi+Thを、Si'(=S2ki(l)')として、第3差分算出部311へ転送する。
【0145】
多重解像度合成部108
次に、図8を参照して、多重解像度合成部108の作用について説明する。
【0146】
合成部108は、データ読取部600と、切換部601と、アップサンプラ602と、アップサンプラ603と、アップサンプラ604と、アップサンプラ605とを含む。また、合成部108は、垂直ハイパスフィルタ606と、垂直ローパスフィルタ607と、垂直ハイパスフィルタ608と、垂直ローパスフィルタ609と、アップサンプラ610と、アップサンプラ611とを含む。さらに、合成部108は、水平ハイパスフィルタ612と、水平ローパスフィルタ613と、バッファ614と、データ転送制御部615と、基底関数ROM616と、フィルタ係数読取部617と、を含む。
【0147】
成分分離部107は、データ読取部600を介して切換部601へ接続されている。切換部601は、アップサンプラ602とアップサンプラ603とアップサンプラ604とアップサンプラ605とへそれぞれ接続されている。アップサンプラ602は、垂直ハイパスフィルタ606へ、アップサンプラ603は、垂直ローパスフィルタ607へそれぞれ接続されている。アップサンプラ604は、垂直ハイパスフィルタ608へ、アップサンプラ605は、垂直ローパスフィルタ609へ、それぞれ接続されている。垂直ハイパスフィルタ606と垂直ローパスフィルタ607とは、アップサンプラ610へそれぞれ接続されている。垂直ハイパスフィルタ608と垂直ローパスフィルタ609とは、アップサンプラ611へそれぞれ接続されている。アップサンプラ610は、水平ハイパスフィルタ612へ、アップサンプラ611は、水平ローパスフィルタ613へ、それぞれ接続されている。水平ハイパスフィルタ612と水平ローパスフィルタ613とは、バッファ614へそれぞれ接続されている。
【0148】
バッファ614は、第1信号処理部109、第2信号処理部110、及びデータ転送制御部615へそれぞれ接続されている。データ転送制御部615は、切換部601へ接続されている。基底関数ROM616は、フィルタ係数読取部617へ接続されている。フィルタ係数読取部617は、垂直ハイパスフィルタ606、608と垂直ローパスフィルタ607、609と水平ハイパスフィルタ612と水平ローパスフィルタ613とへそれぞれ接続されている。
【0149】
基底関数ROM616には、Harr関数やDaubechies関数などの逆ウェーブレット変換に用いられるフィルタ係数が記録されている。本実施形態においては、分解部105に対応してHarrの基底関数を用いる。
【0150】
フィルタ係数読取部617は、基底関数ROM616からフィルタ係数を読み込んで、垂直ハイパスフィルタ606、垂直ハイパスフィルタ608、水平ハイパスフィルタ612へハイパスフィルタ係数を転送する。また、フィルタ係数読取部617は、垂直ローパスフィルタ607、垂直ローパスフィルタ609、水平ローパスフィルタ613へローパスフィルタ係数を、それぞれ転送する。各ハイパスフィルタと各ローパスフィルタに転送されたフィルタ係数が設定される。
【0151】
合成部108は、分解部105からバッファ106を介して低周波成分を読み込み、成分分離部107から各高周波成分Hki(Hhv"i、Hh"i、Hv"i)に含まれる第1成分Uki(L)、第2成分Vki(L)を読み込む。
【0152】
合成部108は、低周波成分、及び各高周波成分に含まれる第1成分Uki(L)に基づき、原画像信号Fに対する第1成分U(=Ur,Ub,Ug)を生成する。また、各高周波成分に含まれる第2成分Vki(L)に基づき、原画像信号Fに対する第2成分V(=Vr,Vb,Vg)を生成する。
【0153】
本実施形態においては、各高周波成分に含まれる各第1成分をHhv"i、Hh"i、Hv"i、低周波成分をLLiと表し、原画像信号Fに対する第1成分Uを生成する場合について説明する。なお、第2成分Vの合成時においてLLiは0に設定する。即ち第2成分Vの合成では、高周波成分のみを用いる。合成した原画像信号Fに対する第1成分U、及び第2成分Vは、それぞれ第1信号処理部109、及び第2信号処理部110へ転送される。
【0154】
切換部601は、高周波成分Hhv"iをアップサンプラ602を介して垂直ハイパスフィルタ606へ、高周波成分Hh"iをアップサンプラ603を介して垂直ローパスフィルタ607へそれぞれ転送する。また、切換部601は、高周波成分Hv"iをアップサンプラ604を介して垂直ハイパスフィルタ608へ、低周波成分LLiをアップサンプラ605を介して垂直ローパスフィルタ609へ、それぞれ転送する。各フィルタ606−609は、垂直方向のフィルタリング処理を実行する。
【0155】
さらに、垂直ハイパスフィルタ606および垂直ローパスフィルタ607からの周波数成分は、アップサンプラ610を介して水平ハイパスフィルタ612へ、それぞれ転送される。垂直ハイパスフィルタ608および垂直ローパスフィルタ609からの周波数成分は、アップサンプラ611を介して水平ローパスフィルタ613へ、それぞれ転送される。各フィルタ612、613は、水平方向のフィルタリング処理を行う。水平ハイパスフィルタ612および水平ローパスフィルタ613からの周波数成分は、バッファ614へ転送されて一つに合成されることにより、補正処理がなされた低周波成分LL"i-1が生成される。
【0156】
ここで、アップサンプラ602、アップサンプラ603、アップサンプラ604、アップサンプラ605は、入力周波数成分を垂直方向に2倍にアップサンプリングする。アップサンプラ610、アップサンプラ611は、入力周波数成分を水平方向に2倍にアップサンプリングする。
【0157】
データ転送制御部615は、バッファ614から低周波成分LL"i-1を読み出して、読み出した低周波成分LL"i-1を切換部601へ転送する。
【0158】
また、データ読取部600は、成分分離部107から補正処理がなされた三種類の高周波成分HHv"i-1,Hh"i-1,Hv"i-1を読み込んで、切換部601へ転送する。
【0159】
その後、分解の段階数i-1の周波数成分に対して、上述と同様のフィルタリング処理がなされ、低周波成分LL"i-2がバッファ614へ出力される。このような過程は、所定のI段階の合成が行われるまで反復される。こうしてバッファ614には、最終的に、補正処理がなされた低周波成分LL”0が出力される。
【0160】
低周波成分LL”0は、低周波成分、及び高周波成分に含まれる第1成分に基づき生成した場合には、原画像信号Fに対する第1成分Uに相当する。低周波成分LL”0は、高周波成分に含まれる第2成分に基づき生成した場合には、原画像信号Fに対する第2成分Vに相当する。
【0161】
なお、本実施形態では、第1ノイズ低減部307、第2ノイズ低減部310において、多段階コアリング処理、軟判定閾値処理によるノイズ低減を行っているが、これに限定されるものではなく、他の所定のノイズ低減処理に代替可能である。例えば線形フィルタ、非線形フィルタ処理(メディアンフィルタ、バイラテラルフィルタ、非線形拡散型フィルタ)や、他の様々な変換関数によるShrinkage処理による、適応的な平滑化処理を行っても良い。
【0162】
また、本実施形態では第2ノイズ低減部310はウェーブレット係数に対する軟判定閾値処理を行い帯域信号別に第2成分Vを求めたが、原空間における軟判定閾値処理により直接原画像信号Fに対する第2成分を求めても良い。すなわち、本実施形態と同様に求めた各帯域信号に対する第1成分Uと、第2の差分成分を逆ウェーブレット変換して、原画像信号Fに対する第1成分Uと、第2の差分成分を算出し、原画像信号に対する第2の差分成分に対して軟判定閾値処理を行い、軟判定閾値処理後の第2の差分信号と原画像信号に対する第1成分Uを原画像信号Fから減算した、原画像信号に対する第3の差分信号を、原画像信号に対する第2成分とする構成としても良い。
【0163】
また、原画像信号に対する第2成分を再度ウェーブレット変換して帯域信号に対する第2成分を算出することで、上記ウェーブレット領域での多段階コアリング処理、原空間での軟判定閾値処理を反復処理する構成としても良い。
【0164】
―作用効果―
次に、第1の実施形態の作用効果について説明する。
【0165】
分解部105は、原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する。成分分離部107は、帯域信号に対して大局的な構造を表す第1成分(骨格成分)と局所的な構造を表す第2成分(骨格成分以外の一の成分)を分離する。成分分離部107において、第1ノイズ低減部307を含む第1補正部は、帯域信号と第2成分とを用いて第1成分を補正する第1の補正処理を行う。成分分離部107において、第2ノイズ低減部310と第3差分算出部311を含む第2補正部は、帯域信号と補正された第1成分を用いて第2成分を補正する第2の補正処理を行う。
【0166】
このような第1の補正処理と第2の補正処理の組み合わせにより、第2成分を用いて第1成分を、第1成分を用いて第2成分を補正するため、高速に精度良く第1成分と第2成分を計算できる。システムコントローラ100(制御部)は、第1の補正処理および第2の補正処理の繰り返し動作を制御する。第1の補正処理と第2の補正処理を繰り返すことにより、第1補正部は、第2の補正処理により得た補正された第2成分を用いて、第1の補正処理を行う。このため、逐次近似的にさらに精度良く第1成分と第2成分を計算できる。
【0167】
また、帯域信号から第2成分を減じて得た第1の差分値(S1ki(l))を用いて第1の補正処理を行うため、帯域信号に対する第2成分の残差に基づいて得られる第1成分を好適に求められる。帯域信号から補正した第1成分を減じて得た第2の差分値(S2ki(l))を用いて第2の補正処理を行うため、帯域信号に対する第1成分の残差に基づいて得られる第2成分を好適に求められる。
【0168】
第2補正部は、第2の差分値(S2ki(l))と所定の閾値(Th)を比較することで得た指標値(S2ki(l)')を算出し、第2の差分値から指標値を減じて得た第3の差分値(S3ki(l))を補正後の第2成分とする。このため、指標値に基づくコアリング処理により、逐次近似的に成分分離のための変分問題の最適解としての第2成分を高速かつ精度良く求められる。
【0169】
抽出部(例えば第1転送制御部308からなる)は、第1成分(骨格成分)を帯域信号ごとに抽出し、第1補正部は、帯域信号ごとに抽出された第1成分を帯域信号ごとに補正する。原画像信号ではなく帯域信号ごとに第1成分を分離する構成としたため、帯域信号ごとに例えばコアリング処理を利用でき、第1成分の成分分離を高速かつ精度良く行える。さらに、多重解像度合成部108は、帯域信号ごとに補正された第1成分を複数の周波数帯域にわたって合成することで、帯域信号からなる原画像信号の大局的な構造を示す第1成分を生成する。これにより、原画像信号の大局的な構造を示す成分を精度よく生成できる。
【0170】
第2補正部は、帯域信号ごとに補正された第1成分を用いて帯域信号ごとに第2成分を補正する。原画像信号ではなく帯域信号ごとに第2成分を分離する構成としたため、例えば、帯域信号ごとのコアリング処理等を利用でき、第2成分の成分分離を高速かつ精度良く行える。多重解像度合成部108は、帯域信号ごとに補正された第2成分を複数の周波数帯域にわたって合成することで、帯域信号からなる原画像信号の局所的な構造を示す成分を生成する。これにより、原画像信号の局所的な構造を示す成分を精度よく生成できる。
【0171】
分解部105は、複数の帯域信号を色信号ごとに生成するため、カラー原画像信号も扱うことができる。第1補正部は、帯域信号から第2成分を減じて得た第1の差分値に対して、複数のコアリング範囲を設定する。さらに、第1補正部は、この第1の差分値に対して複数のコアリング範囲に基づきコアリング処理を行った結果を補正された第1成分(骨格成分)とする。これにより、第1補正部は、多段階コアリング処理により、カラー原画像信号に対して色差色和を考慮した第1成分の補正ができ、精度良く第1成分を求められる。
【0172】
第2補正部は、帯域信号から補正された第1成分を減じて得た第2の差分値に対して、単一のコアリング範囲を設定する。さらに、第2補正部は、この第2の差分値に対して、単一のコアリング範囲に基づきコアリング処理を行った結果に応じて第2成分を補正する。これにより、第2補正部は、コアリング処理により第2成分を補正でき、高速かつ精度良く第2成分を求められる。
【0173】
第1補正部は、補正された第1成分が平坦成分とエッジ成分を含むよう第1成分を補正するため、大局的な構造を示すものとして第1成分を帯域信号から分離できる。
【0174】
<第1の実施形態の変形例>
上述ではハードウェアによる処理を前提としていたが、このような構成に限定されるものでもない。例えば、撮像素子102からの原画像信号を未処理のままのRawデータとしてメモリカード等の記録媒体に記録する。さらに、撮像条件などの付随情報(例えば、ISO感度などの撮像条件など)をRawデータのヘッダ情報として記録媒体に記録しておく。そして、別途のソフトウェアである画像処理プログラムをコンピュータに実行させて、記録媒体の情報をコンピュータに読み取らせ、処理することも可能である。なお、撮像部からコンピュータへの各種情報の伝送は、記録媒体を介して行うに限らず、通信回線等を介して行うようにしても構わない。
【0175】
図9を参照して、画像処理プログラム(成分抽出補正プログラム)による処理のメインルーチンを説明する。
【0176】
最初に、Raw画像や、露光条件、画像処理条件などのヘッダ情報を読み込むとともに、Raw画像に基づき所定の補間処理により、3色の色信号で構成される原画像信号Fを生成する。(ステップS01)。次に、原画像信号Fを分解の段階数iの解像度分解を行い、高周波成分と低周波成分とを取得する(ステップS02)。
【0177】
次に、分解の段階数を示す変数iを0に初期化する(ステップS03)。次に、分解の段階数iを1増分する(ステップS04)。次に、反復処理の繰返し回数を示す変数lを0に初期化する(ステップS05)。
【0178】
次に、第1成分を保持するための第1バッファと、第2成分を保持するための第2バッファの初期化を行う(ステップS06)。次に、繰返し回数lを1増分する(ステップS07)。次に、色信号を表す変数k(k=rの場合R信号、k=gの場合G信号、k=bの場合B信号)をrとし、処理対象の色信号を設定する(ステップS08)。
【0179】
次に、式(12)に基づく第1の差分成分を算出する(ステップS09)。次に、ステップS09にて算出した第1の差分成分に対し、式(15)、式(16)に基づく多段階コアリング処理を行う(ステップS10)。次に、ステップS10の結果を第1バッファに上書き記録することで、第1成分を更新してUki(l)の値を設定する(ステップS11)。
【0180】
次に、式(13)に基づく第2の差分成分を算出する(ステップS12)。次に、ステップS12にて算出した第2の差分成分に対し、式(17)に基づくコアリング処理(軟判定閾値処理)を行う(ステップS13)。次に、式(14)に基づく第3の差分成分を算出する(ステップS14)。次に、ステップS14の結果を第2バッファに上書き記録することで、第2成分を更新してVki(l)の値を設定する(ステップS15)。
【0181】
次に、kを参照し、全ての色信号R、G、Bに対して処理が行われたかを判定する(ステップS16)。全ての色信号R、G、Bに対して処理が完了していない場合、ステップS17で色信号を表す変数kを次のもの(g又はb)に更新し、ステップS09へ戻り、処理を繰り返す。全ての色信号R、G、Bに対して処理が完了した場合、ステップS18へ進む。
【0182】
次に、lを参照し、反復回数を判定する。lが予め設定された所定の反復回数Lに達した場合、ステップS19へ進む。lがL未満の場合、ステップS07へ戻り、処理を繰り返す(ステップS18)。
【0183】
次に、iを参照し、iが予め設定された所定の多重解像度レベルIに達した場合、ステップS20へ進む。iがI以下の場合、ステップS04へ戻り、処理を繰り返す(ステップS19)。
【0184】
次に、低周波成分と高周波成分に含まれる第1成分、及び高周波成分に含まれる第2成分とを用いて、I段階の多重解像度合成を行い、原画像信号に対する第1成分U(=Ur,Ub,Ug)、及び第2成分V(=Vr,Vb,Vg)を生成する(ステップS20)。
【0185】
次に、第1成分U、及び第2成分Vそれぞれに対し、所定の信号処理を行う(ステップS21)。次に、信号処理された第1成分U'と第2成分V'を合成するよう成分合成処理を行う(ステップS22)。最後に公知の圧縮処理などを行った後、出力し、一連の処理を終了する。
【0186】
この第1の実施形態の変形例も、第1の実施形態の前述した作用効果が得られるが、特別なハードウェアを必要とせず簡便に成分抽出補正処理が行える利点がある。
【0187】
<第2の実施形態>
図10を参照して、本発明の第2の実施形態に係る成分抽出補正装置ついて説明する。第2の実施形態に係る成分抽出補正装置は、第1の実施形態と異なり、モノクロ(単色又は白黒)の原画像信号に適した構成を有する。なお、第1の実施形態と同様の構成の部分には、同じ符号を付し、第1の実施形態と異なる構成について主に説明する。
【0188】
第2の実施形態に係る成分抽出補正装置は、デジタルカメラやデジタルビデオカメラ等の撮像装置(撮像用電子機器)に搭載されるものとして第2の実施形態を説明する。しかし、本発明はこれに限定されることなく適用可能である。
【0189】
撮像装置は、システムコントローラ100、光学系101、撮像素子1000、A/D変換部103(以下、単にA/Dと呼ぶ)、多重解像度分解部105(単に、分解部とも呼ぶ)を備える。さらに、撮像装置は、バッファ106、成分分離部1001、多重解像度合成部108(単に、合成部とも呼ぶ)、第1信号処理部109、第2信号処理部110、成分合成部111、出力部112を備える。上記各部を、論理回路から構成してよいし、CPU(中央演算処理装置)と、演算プログラムを格納するメモリ等から構成してもよい。本実施形態の成分抽出補正装置は、分解部105、成分分離部1001等から構成される。
【0190】
撮像素子1000は、A/D103を介して分解部105に接続されている。分解部105は、バッファ106を介して成分分離部1001へ接続されている。成分分離部1001は、合成部108へ接続されている。合成部108は、第1信号処理部109、及び第2信号処理部110を介して成分合成部111へ接続されている。成分合成部111は、出力部112へ接続されている。各処理部はシステムコントローラ100に接続しており、システムコントローラ100により動作を制御される。
【0191】
本実施形態において、撮像素子1000は、モノクロ用撮像素子である。撮像素子1000は、システムコントローラ100の制御に基づき、光学系101を通して撮像素子1000面上に結像した光学像をアナログ画像信号として出力する。アナログ画像信号は、A/D103へ転送される。A/D103は、アナログ画像信号をデジタル信号に変換し、分解部105へ転送する。
【0192】
分解部105は、第1の実施形態と同様の処理により、モノクロ(単色又は白黒)の原画像信号Fに対し所定のI段階の多重解像度分解を行う。分解部105は、分解の段階数iの高周波成分、低周波成分を生成し、バッファ106へ記録する。ここで、Iは1以上の整数であり、iは1以上I以下の整数である。
【0193】
成分分離部1001は、各高周波成分を、各高周波成分に含まれる第1成分と第2成分に分解する。成分分離部1001では、高周波成分に対しコアリング処理(軟判定閾値処理)と差分算出処理により構成される分解アルゴリズムが反復的に適用される。第2の実施形態は、第1の実施形態で行った多段階のコアリング処理を、単一のコアリング範囲を有するコアリング処理(軟判定閾値処理)に置換した構成となっている。所定回数の反復がなされた後の第1成分、第2成分を合成部108へ転送する。成分分解処理の詳細は後述する。
【0194】
以降の処理は、処理対象を色信号から単色又は白黒のモノクロ信号に置換えた第1の実施形態と同様である。即ち、合成部108における多重解像度合成処理は、第1の実施形態と同様に行われる。第1信号処理部109での第1成分に対する信号処理、第2信号処理部110での第2成分に対する信号処理も、第1の実施形態と同様に行われる。成分合成部111における合成処理、出力部112における処理も、第1の実施形態と同様に行われる。
【0195】
成分分離部1001
次に、図11を参照して、成分分離部107の動作の詳細について説明する。
【0196】
成分分離部1001は、初期化部301、第1バッファ302、第2バッファ303、第1差分算出部304、第1転送制御部308を含んでいる。さらに、成分分離部107は、第2差分算出部309、第2ノイズ低減部310、第3差分算出部311、第2転送制御部312を含んでいる。
【0197】
バッファ106は、初期化部301、第1差分算出部304、第2差分算出部309、第3差分算出部311に接続されている。初期化部301は、第1バッファ302、第2バッファ303に接続されている。第2バッファ303は、第1差分算出部304、合成部108に接続されている。第1差分算出部304は、第2ノイズ低減部310に接続されている。第2ノイズ低減部310は、第1転送制御部308に接続されている。
【0198】
第1転送制御部308は、第1バッファ302に接続されている。第1バッファ302は、第2差分算出部309、第3差分算出部311、合成部108に接続されている。第2差分算出部309は、第2ノイズ低減部310に接続されている。第2ノイズ低減部310は、第3差分算出部311に接続されている。第3差分算出部311は、第2転送制御部312に接続されている。第2転送制御部312は、第2バッファ303に接続されている。
【0199】
成分分離部1001は、バッファ106から高周波成分を取得し、高周波成分毎に第1成分、第2成分への分解を行う。第1の実施形態と同様にコアリングによるノイズ低減処理と、差分算出処理の反復により分解精度が最適化される。
【0200】
第1の実施形態では、第1ノイズ低減部307において多段階コアリング処理を行った。しかし、第2の実施形態では、第1ノイズ低減部307における多段階コアリング処理は、第2ノイズ低減部310で行われるコアリング処理(軟判定閾値処理)に置き換えられている。これは、第2の実施形態では、原画像信号Fがモノクロであるためである。このため、第2の実施形態では、第2ノイズ低減部310が、第1成分Ui(l)を補正・更新する第1補正部に相当する。
【0201】
以下に例として、原画像信号Fに関する高周波成分Hiに対し、第1成分Ui(l)、第2成分Vi(l)に分離する場合について説明する。ここで、添字i(i=0〜I)は多重解像度分解の段階数、l(l=0〜L)は反復回数を表す。
【0202】
初めに、l=0の反復においては、第1成分を保持する第1バッファ302、第2成分を保持する第2バッファ303に対する初期化のみ行う。初期化部301はバッファ106から原画像信号Fに対する高周波成分Hiを取得する。初期化部301は取得した高周波成分Hiを第1バッファ302へ転送し、第1バッファ302はこれを記録する。同時に初期化部301の制御により第2バッファの値を全て零にクリアする。
【0203】
次にl回目(l≠0)における処理を行う。まず、第1差分算出部304は、バッファ106より原画像信号Fの高周波成分Hiを、第2バッファ303より、第2成分Vi(l-1)を取得し、式(18)に基づき第1の差分成分S1i(l)(第1の差分値)を算出する。なお、l=1の場合、Vi(l-1) =Vi(0)=0である。
【0204】
【数18】
【0205】
算出した第1の差分成分S1i(l)は、第2ノイズ低減部310へ転送される。
【0206】
第2ノイズ低減部310では第1の差分成分S1i(l)に対し、式(17)に基づくコアリング処理(軟判定閾値処理)を行う。コアリング処理後の第1の差分成分S1i(l)'は、第1転送制御部308の制御により、第1バッファ302へ転送される。コアリング処理後の第1の差分成分S1i(l)'を、第1成分Ui(l)として、バッファに記録されている第1成分Ui(l-1)に上書きすることにより、第1成分が補正・更新される(Ui(l)= S1i(l)')。なお、l=1の場合、Ui(l-1)=Ui(0)= Hiである。
【0207】
次に、第2差分算出部309は、バッファ106より高周波成分Hiを、第1バッファ302より第1成分Ui(l)を取得し、式(19)に基づき第2の差分成分S2i(l)(第2の差分値)を算出する。
【0208】
【数19】
【0209】
算出した第2の差分成分S2i(l)は第2ノイズ低減部310へ転送される。第2ノイズ低減部310は、第2の差分成分S2i(l)に対し、式(17)に基づくコアリング処理(軟判定閾値処理)を行う。
【0210】
次に、第3差分算出部311は、バッファ106より高周波成分Hiを、第1バッファ302より第1成分Ui(l)を、第2ノイズ低減310よりコアリング処理後の第2の差分成分S2i(l)'を取得する。第3差分算出部311は、式(20)に基づき第3の差分成分S3i(l)(第3の差分値)を算出する。
【0211】
【数20】
【0212】
第3の差分成分S3i(l)は、第2ノイズ低減部310がコアリング処理により第2の差分成分S2i(l)から除去したノイズ分に相当する。第3差分算出部311にて算出された第3の差分成分S3i(l)は、第2転送制御部312の制御により、第2バッファ303へ転送される。この第3の差分成分S3i(l)は、第2成分Vi(l)として、第2バッファ303に記録されている第2成分Vi(l-1)に上書きされることにより、第2成分が補正・更新される(Vi(l)= S3i(l))。なお、l=1の場合、Vi(l-1)= Vi(0)= 0である。
【0213】
以上のようにl回目の反復において、高周波成分Hiは第1成分Ui(l)、第2成分Vi(l)に分解される。反復回数がL回目に達した場合、第1バッファ302に保持される第1成分Ui(L)、及び、第2バッファ303に保持される第2成分Vi(L)を最終的な出力とし、合成部108へ転送する。
【0214】
第2の実施形態も、第1の実施形態と同様の作用効果が得られる。ただし、第2の実施形態は、モノクロの原画像信号に適した構成となっており、多段階コアリング処理は、単一のコアリング範囲を有する通常のコアリング処理に置き換えられている。このため、第1の実施形態に比較して、成分分離部の構成が単純化できる。
【0215】
<第2の実施形態の変形例>
上述ではハードウェアによる処理を前提としていたが、このような構成に限定されるものでもない。例えば撮像素子1000からの原画像信号を未処理のままメモリカード等の記録媒体に記録する。さらに、撮像条件などの付随情報(例えば、ISO感度などの撮像条件など)をヘッダ情報として記録媒体に記録しておく。そして、別途のソフトウェアである画像処理プログラムをコンピュータに実行させて、記録媒体の情報をコンピュータに読み取らせ、処理することも可能である。なお、撮像部からコンピュータへの各種情報の伝送は、記録媒体を介して行うに限らず、通信回線等を介して行うようにしても構わない。
【0216】
図12を参照して、画像処理プログラム(成分抽出補正プログラム)による処理のメインルーチンを説明する。
【0217】
最初に、原画像信号Fや、露光条件、画像処理条件などのヘッダ情報を読み込む(ステップS23)。次に、原画像信号を分解の段階数iの解像度分解を行い、高周波成分と低周波成分とを取得する(ステップS02)。
【0218】
次に、分解の段階数を示す変数iを0に初期化する(ステップS03)。次に、分解の段階数iを1増分する(ステップS04)。次に、反復処理の繰返し回数を示す変数lを0に初期化する(ステップS05)。次に、第1成分を保持するための第1バッファと、第2成分を保持するための第2バッファの初期化を行う(ステップS06)。次に、繰返し回数lを1増分する(ステップS07)。
【0219】
次に、式(18)に基づいて、第1の差分成分S1i(l)を算出する(ステップS24)。次に、ステップS24にて算出した第1の差分成分S1i(l)に対し、式(17)に基づいて、単一のコアリング範囲を有するコアリング処理(軟判定閾値処理)を行う(ステップS25)。次に、ステップS25の結果S1i(l)'を第1バッファに上書き記録することで、第1成分を更新する(ステップS11)。
【0220】
次に、式(19)に基づく第2の差分成分S2i(l)を算出する(ステップS26)。次に、ステップS26にて算出した第2の差分成分S2i(l)に対し、式(17)に基づいて、単一のコアリング範囲を有するコアリング処理(軟判定閾値処理)を行う(ステップS13)。
【0221】
次に、式(20)に基づいて第3の差分成分S3i(l)を算出する(ステップS27)。次に、ステップS27の結果S3i(l)を第2バッファに上書き記録することで、第2成分を更新する(ステップS15)。
【0222】
次に、lを参照し、反復回数を判定する。lが予め設定された所定の反復回数Lに達した場合、ステップS19へ進む。lがL未満の場合、ステップS07へ戻り、処理を繰り返す(ステップS18)。
【0223】
次に、iを参照し、iが予め設定された所定の多重解像度レベルIに達した場合、ステップS20へ進む。iがI以下の場合、ステップS04へ戻り、処理を繰り返す(ステップS19)。
【0224】
次に、低周波成分と高周波成分に含まれる第1成分、及び高周波成分に含まれる第2成分とを用いて、I段階の多重解像度合成を行い、原画像信号Fに対する第1成分U、及び第2成分Vを生成する(ステップS20)。次に、第1成分Uと第2成分Vそれぞれに対し、所定の信号処理を行う(ステップS21)。次に、信号処理された第1成分U'と第2成分V'の合成処理を行う(ステップS22)。最後に公知の圧縮処理などを行った後、出力し、一連の処理を終了する。
【0225】
この第2の実施形態の変形例も、第2の実施形態の作用効果が得られるが、さらに特別なハードウェアを必要とせず簡便に成分抽出補正処理が行える利点がある。
【0226】
<第3の実施形態>
図14を参照して、本発明の第3の実施形態に係る成分抽出補正装置ついて説明する。なお、第3の実施形態に係る成分抽出補正装置は、第1の実施形態と同様の構成の部分には、同じ符号を付し、第1の実施形態と異なる構成について主に説明する。
【0227】
第3の実施形態に係る成分抽出補正装置は、デジタルカメラやデジタルビデオカメラ等の撮像装置(撮像用電子機器)に搭載されるものとして第3の実施形態を説明する。しかし、本発明はこれに限定されることなく適用可能である。
【0228】
撮像装置は、システムコントローラ100(制御部)、光学系101、撮像素子102、A/D103、補間部104、成分分離部1501、第1信号処理部109、第2信号処理部110、成分合成部111、出力部112を備える。上記各部を、論理回路から構成してよいし、CPU(中央演算処理装置)と、演算プログラムを格納するメモリ等から構成してもよい。本実施形態の成分抽出補正装置は成分分離部1501から構成される。
【0229】
撮像素子102は、A/D103を介して補間部104へ接続されている。補間部104は、成分分離部1501へ接続されている。成分分離部1501は、第1信号処理部109、及び第2信号処理部110を介して成分合成部111へ接続されている。成分合成部111は出力部112へ接続されている。各処理部はシステムコントローラ100に接続しており、システムコントローラ100により動作を制御される。
【0230】
撮像素子102は、システムコントローラ100の制御に基づき、光学系101を通して撮像素子102面上に結像した光学像をアナログ画像信号として出力する。
【0231】
アナログ画像信号は、A/D103へ転送される。A/D103は、アナログ画像信号をデジタル信号に変換し、補間部104へ転送する。
【0232】
補間部104は、デジタル信号に対し、所定のデモザイク処理を施し、カラー三板画像信号(以下、原画像信号Fと呼ぶ)を生成する。本実施形態において、原画像信号Fは、R(赤)、G(緑)、B(青)の色信号により構成されている。以降、R(赤)、G(緑)、B(青)の色信号をそれぞれFr、Fg、Fbと呼ぶこととする。原画像信号Fは、成分分離部1501へ転送される。
【0233】
成分分離部1501は、原画像信号Fを第1成分、及び第2成分に分解する。第1の実施形態においては、多重解像度分解処理により生成された各高周波成分に対し、第1ノイズ低減部307による第1の補正処理により第1成分、第2ノイズ低減部310と第3差分算出部311による第2の補正処理により第2成分を生成した後、それぞれの成分を各周波数帯域に渡り合成することで、原画像信号Fに対する第1成分、及び第2成分を生成した。
【0234】
本実施形態においては、多重解像度分解処理により生成した各高周波成分に対し、第1ノイズ低減部307による多段階コアリング処理により、各高周波成分に対する第1成分を生成する。この第1成分を各周波数帯域に渡り合成することで原画像信号に対する第1成分を生成した後、原画像信号と原画像信号に対する第1成分との差分信号を算出する。算出した差分信号に対し第2ノイズ低減部310による軟判定閾値処理を行うことで、原画像信号に対する第2成分を生成する。なお、成分分離の詳細は後述する。生成した第1成分Uは、第1信号処理部109へ、第2成分Vは第2信号処理部110へ転送される。
【0235】
第1信号処理部109は、合成部108から原画像信号Fに対する第1成分Uを読み込み、所定の信号処理を実施する。本実施形態では、原画像信号Fに対する第1成分Uに対し、階調変換を実施する。階調変換後の第1成分U'は、成分合成部111へ転送される。第1信号処理部109は、その他、γ補正等の階調変換を行ってもよい。
【0236】
第2信号処理部110は、合成部108から第2成分Vを読み込み、所定の信号処理を実施する。本実施形態では、第2成分Vに対しノイズ低減処理、及びゲインの乗算による鮮鋭化処理を行う。処理後の第2成分V'は成分合成部111へ転送される。
【0237】
成分合成部111は、第1信号処理部109で処理された第1成分U’、及び第2信号処理部110で処理された第2成分V’とを所定の比率で合成し、合成成分F'を得る。所定の比率は、例えば1:1の比率である。合成成分F'は出力部112へ転送され、フラッシュメモリ等で構成される記憶メディアへ記録される。
【0238】
次に、図15を参照して、成分分離部1501の動作の詳細について説明する。
【0239】
成分分離部1501は、バッファ1502、初期化部301、第1バッファ302、第2バッファ303、第1差分算出部1503、多重解像度分解部105、第1ノイズ低減部307、多重解像度合成部108、第1転送制御部308、第1バッファ302、第2差分算出部1504、第2ノイズ低減部310、第2転送制御部312を含んでいる。
【0240】
補間部104はバッファ1502に接続されている。バッファ1502は、初期化部301、第1差分算出部1503、第2差分算出部1504に接続されている。初期化部301は第1バッファ302(第1記憶部)、第2バッファ303(第2記憶部)に接続されている。
【0241】
第2バッファ303は、第1差分算出部1503、第2信号処理部110に接続されている。第1差分算出部1503は、多重解像度分解部105に接続されている。多重解像度分解部105は第1ノイズ低減部307、多重解像度合成部108に接続されている。第1ノイズ低減部307は、多重解像度合成部108に接続されている。多重解像度合成部108は第1転送制御部308に接続されている。第1転送制御部308は、第1バッファ302に接続されている。第1バッファ302は、第2差分算出部1504、第1信号処理部109に接続されている。第2差分算出部1504は、第2ノイズ低減部310に接続されている。第2ノイズ低減部310は第2転送制御部312に接続されている。第2転送制御部312は第2バッファ303に接続されている。
【0242】
成分分離部1501では、補間部104から各色信号に対する原画像信号を取得し、第1成分、第2成分への分解を行う。この分解は、所定のノイズ低減処理、差分算出処理の反復処理により行われる。制御部としてのシステムコントローラ100は、ノイズ低減処理、差分算出処理の動作の繰り返しを制御する。
【0243】
本実施形態において、バッファ1502が原画像信号を保持するバッファメモリ、第1バッファ302が第1成分を保持するバッファメモリ、第2バッファ303が第2成分を保持するバッファメモリとなっている。
【0244】
ノイズ低減処理、差分処理を反復する度に、第1バッファ302、第2バッファ303に保持される第1成分、第2成分は随時更新され、分解精度が向上し、最適化がなされる。所定の反復回数Lに達した段階で、第1バッファ302、第2バッファ303にそれぞれ記録された第1成分(後述のUk(L))、第2成分(後述のVk(L))は、それぞれ第1信号処理部109、第2信号処理部110へ転送される。
【0245】
なお、本実施形態において、成分抽出補正装置の抽出部は、第1差分算出部1503から構成されるが、これに限定されるものではない。例えば、最初の多段階コアリング処理に対しては、初期化部301と第1差分算出部1503が、抽出部として機能する。本実施形態において、抽出部は、原画像信号のうち補正前の第1成分(骨格成分)、即ち原画像信号から第2成分を減算した差分成分を抽出するものである。
【0246】
また、本実施形態において、第1成分(骨格成分)を補正する第1の補正処理を行う第1補正部は、第1ノイズ低減部307から構成される。また、骨格成分以外の一の成分(第2成分)を補正する第2の補正処理を行う第2補正部は、第2ノイズ低減部310から構成される。ただし第1の実施形態において第2ノイズ低減部310は多重解像度分解に基づく帯域信号(高周波成分)に対し処理を行っていたが、本実施形態においては原画像信号から、原画像信号に対する第1成分を減算した差分成分に対する処理となっている。
【0247】
以下に例として、色信号Fkに対して、第1成分Uk(l)と第2成分Vk(l)に分離する場合について説明する。ここで、添字k(=r,g,b)は色を表す記号である。k=rはR信号、k=gはG信号、k=bはB信号を表す。l(l=0〜L)は反復回数を表す。また、補間部104により生成した色信号Fkは予めバッファ1502へ記録される。
【0248】
初めに、l=0の反復においては、第1成分を保持する第1バッファ302、第2成分を保持する第2バッファ303に対する初期化を行う。初期化部301は、バッファ1502から色信号Fr、Fg、Fbを取得し、第1バッファ302にこれを記録する。同時に初期化部301の制御により第2バッファの値を全て零にクリアする。
【0249】
このように初期化することで、適切に第1成分と第2成分が計算できる。なお、l=0の場合に、初期化部301と第1差分算出部1503は、帯域信号を構成する複数の成分のうち第1成分(骨格成分)を抽出する抽出部として機能している。
【0250】
次にl回目(l≠0)における成分抽出・補正処理の説明を行う。この処理は色信号毎に対し独立に行われるわけではない。1回の反復処理(例えばl回目の処理)において、全色信号(k=r,g,b)に対する処理が1回なされた後、次の反復処理(l+1回目の処理)が行われる。
【0251】
まず、第1差分算出部1503は、バッファ1502より色信号Fkを、第2バッファ303より第2成分Vk(l-1)を取得し、式(21)に基づき第1の差分成分S1k(l) (第1の差分値)を算出する。
【0252】
【数21】
【0253】
算出した第1の差分成分S1k(l)は、多重解像度分解部105へ転送される。多重解像度分解部105ではS1k(l)を第1の実施形態と同様に複数の周波数帯域に分解する。分解した第1の差分成分の周波数成分のうち、高周波成分S1ki(l)を第1ノイズ低減部307へ、低周波成分(直流成分)を多重解像度合成部108へ転送する。ここで添字i(i=0〜I)は多重解像度分解の段階数を表す。
【0254】
第1ノイズ低減部307は、第1の差分成分の高周波成分S1ki(l)に対し、第1の実施形態と同様の手法により色信号間の色和、色差を考慮した複数のコアリング範囲を持つ多段階コアリング処理を行う。多段階コアリング処理後の第1の差分成分の高周波成分S1ki(l)'は、多重解像度合成部108へ転送される。多段階コアリング処理は全ての段階i(i=0〜I)における高周波成分S1ki(l)に対して行われる。多重解像度合成部108では、多重解像度分解部105、及び第1ノイズ低減部307からの、第1の差分成分の低周波成分(直流成分)、及び多段階コアリング後の高周波成分S1ki(l)'に基づき、第1の実施形態と同様の処理により多重解像度合成処理を行う。合成した成分は第1転送制御部308の制御により、第1成分Uk(l)として、第1バッファ302に記録されている第1成分Uk(l-1)に上書きすることにより、第1成分が補正・更新される。
【0255】
次に、第2差分算出部1504は、バッファ1502より原画像信号Fkを、第1バッファ302より第1成分Uk(l)を取得し、式(22)に基づき第2の差分成分S2k(l) (第2の差分値)を算出する。
【0256】
【数22】
【0257】
算出した第2の差分成分S2k(l)は第2ノイズ低減部310へ転送される。
【0258】
第2ノイズ低減部310では第2の差分成分S2k(l)に対し、第1の実施形態と同様の手法により、コアリング範囲を1つ持つ一般的なコアリング処理(軟判定閾値処理)を行う。ただし、コアリング対象の信号は第1の実施形態とは異なり、原空間における原画像信号Fと第1成分Uとの差分信号であるため、原画像信号Fの画素と同じ個数分だけ画素毎にコアリング処理を行えば良い。コアリング処理後の差分成分S2k(l)'は第2転送制御部312の制御により、第2バッファ303へ転送される。この差分成分を、第2成分Vk(l)として、バッファに記録されている第2成分Vk(l-1)に上書きすることにより、第2成分が補正・更新される(Vk(l)= S2k(l)')。
【0259】
以上の処理は各色信号(k=r,g,b)に関して適用される。l回目の反復において、全色信号に関して処理が完了した時点でl回目の反復が完了する。
【0260】
反復回数がL回目に達した場合、第1バッファ302、及び第2バッファ303に保持される第1成分Uk(L)、第2成分Vk(L)が、最終的な出力として、それぞれ第1信号処理部109、第2信号処理部110へ転送される。
【0261】
なお、本実施形態においては反復回数を所定回数Lに予め設定したが、分解精度に応じて可変とする構成としても良い。例えば、l回目の第1成分Uki(l)とl-1回目のUki(l-1)との差分の絶対値、またはl回目の第1成分Vk(l)とl-1回目のVk(l-1)との差分の絶対値が所定の閾値以下となった場合に、反復処理を停止する構成としてもよい。これにより、反復による第1成分又は第2成分変化がほとんどなくなった場合に、反復処理を停止する。
【0262】
なお、本実施形態においては、反復処理を行っているが、l=0回目の初期化処理以降の反復処理を行わず、l=1回目の処理のみ行う構成としても良い。
【0263】
第3の実施形態も、第1の実施形態と同様の作用効果が得られる。ただし、第3の実施形態における第1成分の補正処理(第1ノイズ低減部307における多段階コアリング処理)は多重解像度分解に基づく第1の差分成分(S1ki(l))の各高周波成分に対する処理であり、第2成分の補正処理(第2ノイズ低減部310における軟判定閾値処理)は第2の差分成分(S2k(l))に対する処理となっている。第2成分の補正処理は、多重解像度領域ではなく、原空間領域での処理となっており、第1の実施形態と比較し第2成分を記録する第2バッファ303のバッファ容量を抑えることができる。(第1の実施形態では、多重解像度の段階数に応じて、帯域信号に対する第2成分の記録用の第2バッファ303のバッファ容量が増えることになる。)
【0264】
なお、本実施形態では、第1の実施形態と同様に第1ノイズ低減部307、第2ノイズ低減部310において、多段階コアリング処理、軟判定閾値処理によるノイズ低減を行っているが、これに限定されるものではなく、他の所定のノイズ低減処理に代替可能である。例えば線形フィルタ、非線形フィルタ処理(メディアンフィルタ、バイラテラルフィルタ、非線形拡散型フィルタ)や、他の様々な変換関数によるShrinkage処理による、適応的な平滑化処理を行っても良い。
【0265】
例えば、第1ノイズ低減部307における多段階コアリング処理を、第2ノイズ低減部310における軟判定閾値処理と置換える(第2ノイズ低減部310において、第1、第2の差分成分に対する軟判定閾値処理を行う)ことで、処理構成を簡便にすることが可能である。
【0266】
なお、本実施形態では、Harr基底による直交ウェーブレット変換を行っているが、第1の実施形態と同様に、双直交ウェーブレット基底等も含め、全てのウェーブレット基底が適用可能である。また、サブサンプリングを行わないタイプの(各レベルの各ウェーブレット係数が入力画素と同じ数になるよう)冗長性を持たせたウェーブレット変換(Stationary wavelet transform等)を適用することも可能である。
【0267】
<第3の実施形態の変形例>
上述ではハードウェアによる処理を前提としていたが、このような構成に限定されるものでもない。例えば、撮像素子102からの原画像信号を未処理のままのRawデータとしてメモリカード等の記録媒体に記録する。さらに、撮像条件などの付随情報(例えば、ISO感度などの撮像条件など)をRawデータのヘッダ情報として記録媒体に記録しておく。そして、別途のソフトウェアである画像処理プログラムをコンピュータに実行させて、記録媒体の情報をコンピュータに読み取らせ、処理することも可能である。なお、撮像部からコンピュータへの各種情報の伝送は、記録媒体を介して行うに限らず、通信回線等を介して行うようにしても構わない。
【0268】
図16を参照して、画像処理プログラム(成分抽出補正プログラム)による処理のメインルーチンを説明する。
【0269】
最初に、Raw画像や、露光条件、画像処理条件などのヘッダ情報を読み込むとともに、Raw画像に基づき所定の補間処理により、3色の色信号で構成される原画像信号Fを生成する。(ステップS01)。
【0270】
次に、反復処理の繰返し回数を示す変数lを0に初期化する(ステップS05)。次に、第1成分を保持するための第1バッファと、第2成分を保持するための第2バッファの初期化を行う(ステップS06)。次に、繰返し回数lを1増分する(ステップS07)。
【0271】
次に、式(21)に基づいて第1の差分成分を算出する(ステップS28)。次に、第1の差分成分に対し分解の段階数Iの多重解像度度分解を行い、高周波成分と低周波成分とを取得する(ステップS29)。次に、ステップS29にて算出した高周波成分に対し、多段階コアリング処理を行う(ステップS10)。
【0272】
次に、第1の差分成分の低周波成分と多段階コアリング処理後の高周波成分を用いて、I段階の多重解像度合成を行い、原画像信号に対する第1成分Uを生成する(ステップS30)。次に、ステップS30の結果を第1バッファに上書き記録することで、第1成分を更新してUk(l)の値を設定する(ステップS11)。
【0273】
次に、式(22)に基づく第2の差分成分を算出する(ステップS31)。次に、ステップS31にて算出した第2の差分成分に対し、コアリング処理(軟判定閾値処理)を行う(ステップS13)。次に、ステップS13の結果を第2バッファに上書き記録することで、第2成分を更新してVk(l)の値を設定する(ステップS15)。
【0274】
次に、lを参照し、反復回数を判定する。lが予め設定された所定の反復回数Lに達した場合、ステップS21へ進む。lがL未満の場合、ステップS07へ戻り、処理を繰り返す(ステップS18)。
【0275】
次に、第1成分U、及び第2成分Vそれぞれに対し、所定の信号処理を行う(ステップS21)。次に、信号処理された第1成分U'と第2成分V'を合成するよう成分合成処理を行う(ステップS22)。最後に公知の圧縮処理などを行った後、出力し、一連の処理を終了する。
【0276】
この第3の実施形態の変形例も、第3の実施形態と同様の作用効果が得られるが、特別なハードウェアを必要とせず簡便に成分抽出補正処理が行える利点がある。
【0277】
本発明は上記の実施の形態に限定されずに、その技術的な思想の範囲内において種々の変更がなしうることは明白である。
【図面の簡単な説明】
【0278】
【図1】第1の実施形態に係る成分抽出補正装置を搭載した撮像用電子機器の構成図である。
【図2】第1の実施形態に係る多重解像度分解部の構成図である。
【図3】第1の実施形態に係る成分分離部の構成図である。
【図4】第1の実施形態に係る第1ノイズ低減部の構成図である。
【図5】多段階コアリング処理の変換関数を示す図である。
【図6】第1の実施形態に係る第2ノイズ低減部の構成図である。
【図7】コアリング処理(軟判定閾値処理)の変換関数を示す図である。
【図8】第1の実施形態に係る多重解像度合成部の構成図である。
【図9】第1の実施形態の変形例に係る処理を示すフローチャートである。
【図10】第2の実施形態に係る成分抽出補正装置を搭載した撮像用電子機器の構成図である。
【図11】第2の実施形態に係る成分分離部の構成図である。
【図12】第2の実施形態の変形例に係る処理を示すフローチャートである。
【図13】(a)原画像信号の例と原画像の例を示す図である。(b)骨格成分の例と、その画像例を示す図である。(c)骨格成分以外の成分の例と、その成分画像の例を示す図である。
【図14】第3の実施形態に係る成分抽出補正装置を搭載した撮像用電子機器の構成図である。
【図15】第3の実施形態に係る成分分離部の構成図である。
【図16】第3の実施形態の変形例に係る処理を示すフローチャートである。
【符号の説明】
【0279】
105 分解部
301 初期化部
304 第1差分算出部
307 第1ノイズ低減部
308 第1転送制御部
309 第2差分算出部
310 第2ノイズ低減部
311 第3差分算出部
312 第2転送制御部
【技術分野】
【0001】
本発明は、画像信号から成分を抽出し補正する成分抽出補正装置、成分抽出補正方法、成分抽出補正プログラム、又は成分抽出補正装置を搭載する電子機器に関する。
【背景技術】
【0002】
従来、原画像信号Fを、骨格成分(幾何学的画像構造)と骨格成分以外の成分とに分解して抽出する方法が開示されている(非特許文献1参照)。骨格成分は、大局的な構造を表す成分であり、平坦成分(緩やかに変化する成分)とエッジ成分を含む。骨格成分以外の成分は、局所的な構造を表す成分であり、テクスチャのような細かい構造成分とノイズから構成される。
【0003】
画像分解の手法には、加算型分離と乗算型分離がある。加算型分離では、原画像信号Fが式(1)で示すように、第1成分Uと第2成分Vの和として表される。
【0004】
【数1】
【0005】
第1成分Uは、骨格成分である。骨格成分以外の第2成分Vは、テクスチャ成分とノイズを含み、原画像信号Fに対する第1成分Uの残差成分として定義される。
【0006】
有界変動関数とノルムを用いた分解方法が使用される。分解を行うために、非特許文献1に記載のA2BC変分モデル(Aujol-Aubert-Blanc- Feraud-Chambolle model)を用いる。最適解として求められる第1成分Uの性質は、不連続境界によって区分された複数の“滑らかな輝度変化の小部分領域”から構成された有界変動関数空間BV(Bounded Variation Function Space)としてモデル化される。第1成分Uのエネルギーは全変動エネルギーとして、式(2)のTV(Total Variation)ノルムJ(U)で定義される。
【0007】
【数2】
【0008】
ただし、式(2)において、xは第1成分Uの横方向の画素位置であり、yは縦方向の画素位置である。
【0009】
一方、式(1)中の第2成分Vの関数空間は、振動関数空間Gとモデル化される。振動関数空間Gは、振動母関数g1、g2によって式(3)のように表現された関数の空間であり、そのエネルギーは式(4)のGノルム‖V‖Gとして定義される。
【0010】
【数3】
【0011】
原画像信号Fの分解問題は、エネルギー汎関数を最小化する式(5)の変分問題として定式化される。この変分問題は、ChambolleのProjection法によって解くことができる。
【0012】
【数4】
【0013】
原画像信号Fから分解される第2成分Vはノイズの影響を受ける。しかし、第1成分Uはノイズの影響をほとんど受けないため、エッジを鈍らせることなく骨格成分(幾何学的画像構造)が抽出される。
【0014】
乗算型分離では、原画像信号Fが第1成分Uと第2成分Vの積によって式(6)のように表されるが、原画像信号Fを対数変換した対数原画像信号をfとすると、式(7)のように加算型分離問題に変換することができる。
【0015】
【数5】
【非特許文献1】Jean-Francois Aujol, Guy Gilboa, Tony Chan & Stanley Osher, "Structure-Texture Image Decomposition--Modeling, Algorithms, and Parameter Selection", International Journal of Computer Vision, Volume 67, Issue 1, (April 2006) Pages: 111 - 136 Year of Publication: 2006
【非特許文献2】相澤,石井,小松,齋藤,“TV-L1非線形画像分解による信号依存性雑音の除去”,映像メディア処理シンポジウム2007,I-4.15,Oct.2007.
【発明の開示】
【発明が解決しようとする課題】
【0016】
しかし、上記の変分問題を解き、骨格成分と骨格成分以外の成分の分離を高速かつ精度良く行う方法は十分に確立されていなかった。
【0017】
本発明は、原画像信号から高速かつ精度良く骨格成分等の成分を取得することを目的とする。
【課題を解決するための手段】
【0018】
本発明のある態様に係る成分抽出補正装置は、原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解部と、前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出部と、前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正部と、前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正部と、を備えることを特徴とする。
【0019】
本発明の別の態様に係る成分抽出補正方法は、原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解ステップと、前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出ステップと、前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正ステップと、前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正ステップと、を含むことを特徴とする。
【0020】
本発明のさらに別の態様に係る成分抽出補正プログラムは、コンピュータに、原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解手順と、前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出手順と、前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正手順と、前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正手順と、を実行させることを特徴とする。
【0021】
これら態様によれば、複数の成分のうち骨格成分以外の一の成分と帯域信号とを用いて、抽出された骨格成分を補正する第1の補正処理を行う。補正された骨格成分と帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う。
【0022】
このような第1の補正処理と第2の補正処理の組み合わせにより、骨格成分以外の一の成分を用いて骨格成分を、骨格成分を用いてこの一の成分を補正する。このため、高速に精度良く骨格成分及び骨格成分以外の一の成分を取得できる。例えば、第1の補正処理と第2の補正処理を繰り返すことにより、逐次近似的にさらに精度良く骨格成分と骨格成分以外の一の成分を計算できる。
【0023】
抽出部は、原画像信号ではなく帯域信号に含まれる骨格成分を抽出する。このため、簡易に骨格成分と骨格成分以外の一の成分の補正が行える。例えば、合成部が帯域信号ごとに補正された骨格成分を複数の周波数帯域にわたって合成することで、原画像信号に対して高速かつ精度良く骨格成分を取得できる。例えば、合成部が帯域信号ごとに前記補正された一の成分を複数の周波数帯域にわたって合成することで、原画像信号に対して高速かつ精度良く骨格成分以外の一の成分を取得できる。
【0024】
本発明のさらに別の態様に係る成分抽出補正装置は、原画像信号のうち大局的な構造を表す骨格成分を抽出する抽出部と、前記抽出された骨格成分を複数の周波数帯域に分解して複数の帯域信号ごとの前記骨格成分を生成する分解部と、前記帯域信号ごとの前記骨格成分を補正する第1の補正処理を行う第1補正部と、前記帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号に対する骨格成分を生成する合成部と、前記原画像信号に対する骨格成分と前記原画像信号とを用いて、前記原画像信号のうち前記原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う第2補正部と、を備えることを特徴とする。
【0025】
本発明のさらに別の態様に係る成分抽出補正方法は、原画像信号のうち大局的な構造を表す骨格成分を抽出する抽出ステップと、前記抽出された骨格成分を複数の周波数帯域に分解して複数の帯域信号ごとの前記骨格成分を生成する分解ステップと、前記帯域信号ごとの前記骨格成分を補正する第1の補正処理を行う第1補正ステップと、前記帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号に対する骨格成分を生成する合成ステップと、前記原画像信号に対する骨格成分と前記原画像信号とを用いて、前記原画像信号のうち前記原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う第2補正ステップと、を含むことを特徴とする。
【0026】
本発明のさらに別の態様に係る成分抽出補正プログラムは、コンピュータに、原画像信号のうち大局的な構造を表す骨格成分を抽出する抽出手順と、前記抽出された骨格成分を複数の周波数帯域に分解して複数の帯域信号ごとの前記骨格成分を生成する分解手順と、前記帯域信号ごとの前記骨格成分を補正する第1の補正処理を行う第1補正手順と、前記帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号に対する骨格成分を生成する合成手順と、前記原画像信号に対する骨格成分と前記原画像信号とを用いて、前記原画像信号のうち前記原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う第2補正手順と、を実行させることを特徴とする。
【0027】
これら態様によれば、帯域信号ごとの骨格成分を補正する第1の補正処理を行う。帯域信号ごとに補正された骨格成分を複数の周波数帯域にわたって合成し、原画像信号に対する骨格成分を生成する。原画像信号に対する骨格成分と原画像信号とを用いて、原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う。
【0028】
このような第1の補正処理と第2の補正処理の組み合わせにより、高速に精度良く骨格成分及び骨格成分以外の一の成分を取得できる。例えば、第1の補正処理と第2の補正処理を繰り返すことにより、逐次近似的に精度良く骨格成分と骨格成分以外の一の成分を計算できる。
【0029】
原画像信号ではなく帯域信号に含まれる骨格成分を補正するため、簡易に骨格成分の補正が行える。帯域信号ごとに補正された骨格成分を複数の周波数帯域にわたって合成することで、原画像信号に対して高速かつ精度良く骨格成分を取得できる。原画像信号に対する骨格成分と原画像信号とを用いて、原画像信号に対する骨格成分以外の一の成分を補正するため、原画像信号に対して骨格成分以外の一の成分を高速かつ精度良く取得できる。この場合、さらに、骨格成分以外の一の成分を記録するバッファの容量を抑えることができる。
【発明の効果】
【0030】
本発明では、原画像信号から高速かつ精度良く骨格成分と骨格成分以外の一の成分を取得することができる。
【発明を実施するための最良の形態】
【0031】
<第1の実施形態>
図1を参照して、本発明の第1の実施形態に係る成分抽出補正装置について説明する。なお、成分抽出補正装置は、デジタルカメラやデジタルビデオカメラ等の撮像装置(撮像用電子機器)に搭載されるものとして第一実施形態を説明する。しかし、本発明はこれに限定されることなく適用可能である。
【0032】
撮像装置は、システムコントローラ100(制御部)、光学系101、撮像素子102、A/D変換部103(以下、単にA/Dと呼ぶ)、補間部104、多重解像度分解部105(単に、分解部とも呼ぶ)を備える。さらに、撮像装置は、バッファ106、成分分離部107、多重解像度合成部108(単に、合成部とも呼ぶ)、第1信号処理部109、第2信号処理部110、成分合成部111、出力部112を備える。上記各部を、論理回路から構成してよいし、CPU(中央演算処理装置)と、演算プログラムを格納するメモリ等から構成してもよい。本実施形態の成分抽出補正装置は、多重解像度分解部105、成分分離部107等から構成される。
【0033】
本実施形態に係る撮像装置において、原画像信号Fが成分分離され、第1成分U、第2成分Vが生成される。ここで、第1成分Uは、平坦成分(緩やかに変化する成分)とエッジ成分を含む原画像信号の骨格成分(幾何学的画像構造)である。第2成分Vは、骨格成分以外の成分であり、原画像信号に対する第1成分Uの残差成分を表している。成分分離後、分離した成分毎に最適な処理を施し合成する。
【0034】
図13(a)に原画像信号Fのラインプロファイルの例と、原画像の例を示す。図13(b)に骨格成分のラインプロファイルの例と、その画像例を示す。図13(c)に骨格成分以外の成分のラインプロファイルの例と、その成分画像の例を示す。図13(b)のように、骨格成分(第1成分U)は、大局的な構造を表す成分である。大局的な構造は信号の特徴の概要部分を表すものであり、エッジ成分と、エッジによって区分された輝度変化の滑らかな領域の平坦成分(緩やかに変化する成分)から構成される。図13(c)のように、骨格成分以外の成分(第2成分V)は、局所的な構造を表す成分である。局所的な構造は信号の特徴の詳細部分を表すものであり、テクスチャのような細かい構造成分とノイズから構成される。
【0035】
成分分離の手法には、加算型分離と乗算型分離がある。加算型分離では、原画像信号Fが前述の式(1)で示すように、第1成分Uと第2成分Vの和として表される(F=U+V)。
【0036】
乗算型分離では、原画像信号Fが前述の式(6)で示すように、第1成分Uと第2成分Vの積によって表される(F=U*V)。しかし、原画像信号Fを対数変換して対数原画像信号fとすると、前述の式(7)のように加算型分離問題に変換することができる。
【0037】
本実施形態においては加算型分離に関して説明を行い、乗算型分離に関する詳細な説明は省略する。なお、乗算型分離の場合、原画像信号の画素毎に対数変換した信号値に対し、加算型分離と同様の処理を施して成分分離した後、分離成分毎に逆対数変換を行えば式(6)に示す乗算型の分離処理が実現できる。
【0038】
撮像素子102は、A/D103を介して補間部104へ接続されている。補間部104は、分解部105に接続されている。分解部105は、バッファ(バッファメモリ)106を介して、成分分離部107と合成部108へ接続されている。成分分離部107は、合成部108へ接続されている。合成部108は、第1信号処理部109、及び第2信号処理部110を介して成分合成部111へ接続されている。成分合成部111は出力部112へ接続されている。各処理部はシステムコントローラ100に接続しており、システムコントローラ100により動作を制御される。
【0039】
撮像素子102は、システムコントローラ100の制御に基づき、光学系101を通して撮像素子102面上に結像した光学像をアナログ画像信号として出力する。なお、本実施形態において、撮像素子102は、色フィルタアレイを前面に配置したカラー用撮像素子である。撮像素子102は、単板方式、多板方式のいずれでも良い。
【0040】
アナログ画像信号は、A/D103へ転送される。A/D103は、アナログ画像信号をデジタル信号に変換し、補間部104へ転送する。
【0041】
補間部104は、デジタル信号に対し、所定のデモザイク処理を施し、カラー三板画像信号(以下、原画像信号Fと呼ぶ)を生成する。本実施形態において、原画像信号Fは、R(赤)、G(緑)、B(青)の色信号により構成されている。以降、R(赤)、G(緑)、B(青)の色信号をそれぞれFr、Fg、Fbと呼ぶこととする。原画像信号Fは、分解部105(多重解像度分解部)へ転送される。
【0042】
分解部105は、各色信号Fr、Fg、Fbに対して所定のI段階(Iは1以上の整数)の多重解像度分解を行い、各色信号を複数の周波数帯域に分解して複数の帯域信号を生成する。分解部105は、分解の段階数i(iは、1以上I以下の整数)ごとの高周波成分、低周波成分を生成し、バッファ106へ記録する。なお、多重解像度分解の詳細については後述する。
【0043】
ここで本実施形態において、Harr基底による直交ウェーブレット変換を行っているが、双直交ウェーブレット基底等も含め、全てのウェーブレット基底が適用可能である。また、サブサンプリングを行わないタイプの(各レベルの各ウェーブレット係数が入力画素と同じ数になるよう)冗長性を持たせたウェーブレット変換(Stationary wavelet transform等)を適用することも可能である。
【0044】
成分分離部107は、各高周波成分を、高周波成分に含まれる第1成分、及び第2成分にそれぞれ分解する。ここで、第1成分は、平坦成分とエッジ成分を含む原画像信号の骨格成分である。第2成分は、テクスチャの様な細かい構造成分とノイズを含む、原画像信号に対する第1成分の残差成分を表している。
【0045】
成分分離部107では、高周波成分に対し2つの異なるノイズ低減処理(多段階コアリング処理、コアリング処理(軟判定閾値処理))と差分算出処理を組合わせた処理が反復的に適用される。反復がなされるたびに第1成分、第2成分の分解精度が向上する。所定回数の反復がなされた後の第1成分、第2成分を合成部108へ転送する。なお、成分分解、多段階コアリング処理、コアリング処理(軟判定閾値処理)の詳細は後述する。
【0046】
ここで、コアリング処理は、典型的には、入力信号がコアリング範囲以内に属する場合に、その信号値を一律ゼロとし、コアリング範囲を外れる場合には、閾値だけ減算、または加算した信号値とする。コアリング範囲は、下限閾値、上限閾値で規定される範囲である。また、多段階コアリング処理は、一般のコアリング処理とは異なり、複数のコアリング範囲により規定された変換関数に基づき、入力信号を所定の値に変換する。各コアリング範囲は、下限閾値、上限閾値、および各コアリング範囲に対応する出力値を有する。
【0047】
合成部108(重解像度合成部)は、バッファ106から低周波成分を取得し、成分分離部107から高周波成分に含まれる第1成分、第2成分を取得する。ここで、合成部108は、低周波成分、及び高周波成分に含まれる第1成分に基づき、原画像信号Fに対する第1成分Uを生成する。同様の手法により、高周波成分に含まれる第2成分に基づき、原画像信号Fに対する第2成分Vを生成する。生成した第1成分Uは、第1信号処理部109へ、第2成分Vは第2信号処理部110へ転送される。なお、多重解像度合成処理の詳細は後述する。
【0048】
第1信号処理部109は、合成部108から原画像信号Fに対する第1成分Uを読み込み、所定の信号処理を実施する。本実施形態では、原画像信号Fに対する第1成分Uに対し、階調変換を実施する。階調変換後の第1成分U'は、成分合成部111へ転送される。例えば、第1信号処理部109は、第1成分Uに対して、信号レベルに基づきヒストグラムを算出し、ヒストグラムに基づき階調変換曲線を設定する。第1信号処理部109は、階調変換曲線から各画素に係る階調変換係数を取得して、第1成分Uに乗算して階調変換後の第1成分U'を得ることができる。第1信号処理部109は、その他、γ補正等の階調変換を行ってもよい。
【0049】
第2信号処理部110は、合成部108から第2成分Vを読み込み、所定の信号処理を実施する。本実施形態では、第2成分Vに対しノイズ低減処理、及びゲインの乗算による鮮鋭化処理を行う。処理後の第2成分V'は成分合成部111へ転送される。ノイズ低減処理として、例えば、コアリング処理やフィルタリング処理が為される。
【0050】
成分合成部111は、第1信号処理部109で処理された第1成分U’、及び第2信号処理部110で処理された第2成分V’とを所定の比率で合成し、合成成分F'を得る。所定の比率は、例えば1:1の比率である。合成成分F'は出力部112へ転送され、フラッシュメモリ等で構成される記憶メディアへ記録される。
【0051】
多重解像度分解部105
次に、図2を参照して、多重解像度分解部105の構成について説明する。分解部105は、各色信号Fr、Fg、Fbを複数の周波数帯域に分解して複数の帯域信号を生成する。
【0052】
この分解部105は、データ読取部200と、バッファ(バッファメモリ)201と、水平ハイパスフィルタ202と、水平ローパスフィルタ203と、サブサンプラ204、205と、を含む。また、分解部105は、垂直ハイパスフィルタ206と、垂直ローパスフィルタ207と、垂直ハイパスフィルタ208と、垂直ローパスフィルタ209と、を含む。さらに、分解部105は、サブサンプラ210、211、212、213と、切換部214と、データ転送制御部215と、基底関数ROM216と、フィルタ係数読取部217とを含んでいる。
【0053】
補間部104は、データ読取部200を介して、バッファ201へ接続されている。バッファ201は、水平ハイパスフィルタ202および水平ローパスフィルタ203へ接続されている。水平ハイパスフィルタ202は、サブサンプラ204を介して、垂直ハイパスフィルタ206および垂直ローパスフィルタ207へ接続されている。水平ローパスフィルタ203は、サブサンプラ205を介して、垂直ハイパスフィルタ208および垂直ローパスフィルタ209へ接続されている。
【0054】
垂直ハイパスフィルタ206は、サブサンプラ210へ、垂直ローパスフィルタ207はサブサンプラ211へ、それぞれ接続されている。垂直ハイパスフィルタ208は、サブサンプラ212へ、垂直ローパスフィルタ209は、サブサンプラ213へ、それぞれ接続されている。サブサンプラ210、211、212、213は、切換部214へそれぞれ接続されている。サブサンプラ213は、さらに、データ転送制御部215へも接続されている。
【0055】
切換部214は、バッファ106へ接続されている。データ転送制御部215は、バッファ201へ接続されている。基底関数ROM216は、フィルタ係数読取部217へ接続されている。フィルタ係数読取部217は、水平ハイパスフィルタ202、水平ローパスフィルタ203,垂直ハイパスフィルタ206、垂直ローパスフィルタ207、垂直ハイパスフィルタ208、垂直ローパスフィルタ209へそれぞれ接続されている。
【0056】
基底関数ROM216には、Harr関数やDaubecies関数などのウェーブレット変換に用いられるフィルタ係数が記録されている。これらの内の、例えばHarr関数におけるハイパスフィルタの係数を式(8)に、ローパスフィルタの係数を式(9)に、それぞれ示す。本実施形態においては、Harrの基底関数を用いている。
【0057】
【数6】
【0058】
なお、これらのフィルタ係数は、水平方向と垂直方向とに共通して用いられる。
【0059】
フィルタ係数読取部217は、基底関数ROM216からフィルタ係数を読み込む。フィルタ係数読取部217は、水平ハイパスフィルタ202、垂直ハイパスフィルタ206、垂直ハイパスフィルタ208へハイパスフィルタ係数を転送する。フィルタ係数読取部217は、水平ローパスフィルタ203、垂直ローパスフィルタ207、垂直ローパスフィルタ209へローパスフィルタ係数を転送する。
【0060】
こうして、各ハイパスフィルタおよび各ローパスフィルタへフィルタ係数が転送された後に、データ読取部200は、補間部104から原画像信号Fを読み込んで、バッファ201へ転送する。
【0061】
バッファ201上の原画像信号Fには、水平および垂直方向のフィルタリング処理がなされる。このフィルタリング処理は、水平ハイパスフィルタ202、水平ローパスフィルタ203、垂直ハイパスフィルタ206、208、垂直ローパスフィルタ207、209によって為される。ここで、サブサンプラ204、205は、入力映像信号に対して、水平方向に1/2にサブサンプリング(ダウンサンプリング)する。サブサンプラ210、211、212、213は入力映像信号を垂直方向に1/2にサブサンプリングする。
【0062】
従って、サブサンプラ210の出力は、水平垂直両方向の高周波成分Hhv1を、サブサンプラ211の出力は、水平方向の高周波成分Hh1を、サブサンプラ212の出力は、垂直方向の高周波成分Hv1をそれぞれ与える。サブサンプラ213の出力は、低周波成分LL1を与える。
【0063】
切換部214は、ウェーブレット係数としての上記3つの高周波成分Hhv1、Hh1、Hv1と低周波成分LL1とを、バッファ106へ順次転送する。また、データ転送制御部215は、サブサンプラ213からの低周波成分LL1をバッファ201へ転送する。
【0064】
こうしてバッファ201上に記憶された低周波成分LL1は、上述と同様のフィルタリング処理により2段階目の分解が行われて、3つの高周波成分Hhv2、Hh2、Hv2と低周波成分LL2とが出力される。
【0065】
上述したような過程は、所定のI段階の分解が行われるまで反復されるように制御される。I段階の分解が終了すると、バッファ106には、帯域信号としてウェーブレット係数としての高周波成分Hhvi、Hhi、Hviおよび低周波成分LLi(i=1〜I)が保存されることになる。こうして、帯域信号(Hhvi、Hhi、HviおよびLLi(i=1〜I))が、生成保存される。
【0066】
成分分離部107
次に、図3を参照して成分分離部107の動作の詳細について説明する。
【0067】
ここで、成分分離部107が行う成分分離について説明しておく。RGBカラー画像を式(5)のようなTV−G非線形画像分解モデルによって成分分離する。この場合、色差(Ur-Ug、Ub-Ug、Ur-Ub)、色和(Ur+Ug、Ub+Ug、Ur+Ub)のTV(Total Variation)を導入することで、カラー歪の発生を抑えることができる。色差と色和のTVを導入したTV−G非線形画像分解モデルは式(10)、式(11a)、式(11b)のような変分問題に定式化される。
【0068】
【数7】
【0069】
【数8】
【0070】
【数9】
【0071】
ここで、Ur、Ug、Ubは、それぞれR信号、G信号、B信号の第1成分である。Vr、Vg、Vbは、それぞれR信号、G信号、B信号の第2成分である。なお、式(11a)は、この式(11a)の変分問題の解
【数10】
を用いて、以下のように定義されたWr、Wg、Wbを導入することで、式(11b)に示す3つの互いに独立な変分問題となる。
【0072】
【数11】
【0073】
上記変分問題におけるTVノルムを全てBesovノルム空間B11(L1)のノルムで置換すれば、直交(近似的には双直交)ウェーブレット変換領域におけるShrinkage処理によって解を求めることが可能である。
【0074】
このとき、式(10)は非特許文献2に記載のL1−L2型最適化問題から導出したShrinkage関数、(具体的には式(15)(16)に示すShirnkage関数)を用いた反復アルゴリズムに帰着する。これは、(Fr-Vr,Fg-Vg,Fb-Vb)をRGB三原色カラー入力画像とみなし、上記、Shrinkage関数を用いたウェーブレット変換領域の雑音除去法でノイズ低減処理を行うことと等価である。このノイズ低減処理は、色信号間の色和、色差を考慮した複数のコアリング範囲を持つ多段階コアリング処理となる。
【0075】
また、式(11b)は閾値をμとした軟判定閾値処理(Soft Thresholding)を用いたWavelet Shrinkage法に帰着する。これは、(Fr-Ur,Fg-Ug, Fb-Ub)をRGB三原色カラー入力画像とみなし、閾値パラメータがμの軟判定閾値処理を用いたWavelet Shrinkage法でノイズ低減処理を行うことと等価である。軟判定閾値処理は、単一のコアリング範囲を持つ通常のコアリング処理である。
【0076】
成分分離部107は、初期化部301、第1バッファ302、第2バッファ303、第1差分算出部304、第1ノイズ低減部307、第1転送制御部308を含んでいる。さらに、成分分離部107は、第2差分算出部309、第2ノイズ低減部310、第3差分算出部311、第2転送制御部312を含んでいる。
【0077】
バッファ106は、初期化部301、第1差分算出部304、第2差分算出部309、第3差分算出部311に接続されている。初期化部301は第1バッファ302(第1記憶部)、第2バッファ303(第2記憶部)に接続されている。
【0078】
第2バッファ303は、第1差分算出部304、合成部108に接続されている。第1差分算出部304は、第1ノイズ低減部307に接続されている。第1ノイズ低減部307は、第1転送制御部308に接続されている。第1転送制御部308は、第1バッファ302に接続されている。第1バッファ302は、第2差分算出部309、第3差分算出部311、合成部108に接続されている。第2差分算出部309は、第2ノイズ低減部310に接続されている。第2ノイズ低減部310は、第3差分算出部311に接続されている。第3差分算出部311は第2転送制御部312に接続されている。第2転送制御部312は第2バッファ303に接続されている。
【0079】
成分分離部107では、バッファ106から各色信号に対する高周波成分(ウェーブレット係数)を取得し、高周波成分毎に第1成分、第2成分への分解を行う。この分解は、所定のノイズ低減処理、差分算出処理の反復処理により行われる。制御部としてのシステムコントローラ100は、ノイズ低減処理、差分算出処理の動作の繰り返しを制御する。
【0080】
本実施形態において、第1バッファ302が第1成分を保持するバッファメモリ、第2バッファ303が第2成分を保持するバッファメモリとなっている。ノイズ低減処理、差分処理を反復する度に、第1バッファ302、第2バッファ303に保持される第1成分、第2成分は随時更新され、分解精度が向上し、最適化がなされる。所定の反復回数Lに達した段階で、第1バッファ302、第2バッファ303にそれぞれ記録された第1成分(後述のUki(L))、第2成分(後述のVki(L))は、合成部108へ転送される。
【0081】
なお、本実施形態において、成分抽出補正装置の抽出部は、第1転送制御部308から構成されるが、これに限定されるものではない。例えば、最初の多段階コアリング処理に対しては、初期化部301が、抽出部として機能する。抽出部は、帯域信号を構成する複数の成分のうち第1成分(骨格成分)を抽出するものである。
【0082】
また、本実施形態において、第1成分(骨格成分)を補正する第1の補正処理を行う第1補正部は、第1ノイズ低減部307から構成される。また、骨格成分以外の一の成分(第2成分)を補正する第2の補正処理を行う第2補正部は、第2ノイズ低減部310と第3差分算出部311から構成される。
【0083】
以下に例として、色信号Fkに関する高周波成分Hki(ウェーブレット係数Hhvi、Hhi、Hvi)に対して、第1成分Uki(l)と第2成分Vki(l)を分離する場合について説明する。ここで、添字k(=r,g,b)は色を表す記号である。k=rはR信号、k=gはG信号、k=bはB信号を表す。添字i(i=0〜I)は多重解像度分解の段階数、l(l=0〜L)は反復回数を表す。
【0084】
初めに、l=0の反復においては、第1成分を保持する第1バッファ302、第2成分を保持する第2バッファ303に対する初期化を行う。初期化部301は、バッファ106から色信号Fr、Fg、Fbに対する帯域信号のうち高周波成分Hri、Hgi、Hbiを取得する。初期化部301は取得した高周波成Hri、Hgi、Hbiを第1バッファ302へ転送し、第1バッファ302にこれを記録する。同時に初期化部301の制御により第2バッファの値を全て零にクリアする。
【0085】
すなわち、初期化部301は、l=0の場合に、第1成分に対し高周波成分Hkiを、第2成分に対し零を初期値として代入し、初期化する機能を持つ。このように初期化することで、適切に第1成分と第2成分が計算できる。なお、l=0の場合に、初期化部301は、帯域信号を構成する複数の成分のうち第1成分(骨格成分)を抽出する抽出部として機能している。
【0086】
次にl回目(l≠0)における成分抽出・補正処理の説明を行う。この処理は色信号毎に対し独立に行われるわけではない。1回の反復処理(例えばl回目の処理)において、全色信号(k=r,g,b)に対する処理が1回なされた後、次の反復処理(l+1回目の処理)が行われる。
【0087】
まず、第1差分算出部304は、バッファ106より色信号Fkの高周波成分Hkiを、第2バッファ303より第2成分Vki(l-1)を取得し、式(12)に基づき第1の差分成分S1ki(l)(第1の差分値)を算出する。なお、l=1の場合、Vki(l-1) =Vki(0)=0である。
【0088】
【数12】
【0089】
算出した第1の差分成分S1ki(l)は、第1ノイズ低減部307へ転送される。
【0090】
第1ノイズ低減部307は、第1の差分成分S1ki(l)に対し、色信号間の色和、色差を考慮した複数のコアリング範囲を持つ多段階コアリング処理を行う。第1ノイズ低減部307の処理の詳細は後述する。なお、後述するように、ここでの多段階コアリングは、M回反復して行ってもよい。
【0091】
多段階コアリング処理後の第1の差分成分S1ki(l)'は、第1転送制御部308の制御により、第1バッファ302へ転送される。この差分成分S1ki(l)'を、第1成分Uki(l)として、第1バッファ302に記録されている第1成分Uki(l-1)に上書きすることにより、第1成分が補正・更新される(Uki(l)= S1ki(l)')。なお、l=1の場合、Uki(l-1)=Uki(0)= Hkiである。
【0092】
次に、第2差分算出部309は、バッファ106より高周波成分Hkiを、第1バッファ302より第1成分Uki(l)を取得し、式(13)に基づき第2の差分成分S2ki(l)(第2の差分値)を算出する。
【0093】
【数13】
【0094】
算出した第2の差分成分S2ki(l)は第2ノイズ低減部310へ転送される。
【0095】
第2ノイズ低減部310では第2の差分成分S2ki(l)に対し、コアリング範囲を1つ持つ一般的なコアリング処理(軟判定閾値処理)を行う。ここで、コアリング処理後の第2の差分成分をS2ki(l)'とする。後述するように、コアリング処理後の第2の差分成分S2ki(l)'を指標値とも呼ぶ。第2ノイズ低減部310の処理の詳細は後述する。
【0096】
次に、第3差分算出部311は、バッファ106より高周波成分Hkiを、第1バッファ302より第1成分Uki(l)を、第2ノイズ低減310よりコアリング処理後の第2の差分成分S2ki(l)'を取得する。第3差分算出部311は、式(14)に基づき第3の差分成分S3ki(l) (第3の差分値)を算出する。
【0097】
【数14】
【0098】
第3の差分成分S3i(l)は、第2ノイズ低減部310がコアリング処理により第2の差分成分S2i(l)から除去したノイズ分に相当する。第3差分算出部311にて算出された第3の差分成分S3ki(l)は、第2転送制御部312の制御により、第2バッファ303へ転送される。この差分成分S3ki(l)を、第2成分Vki(l)として、バッファに記録されている第2成分Vki(l-1)に上書きすることにより、第2成分が補正・更新される(Vki(l)= S3ki(l))。なお、l=1の場合、Vki(l-1)= Vki(0)= 0である。
【0099】
なお、第2の差分成分S2ki(l)'に依存して第2成分Vki(l)(=S3ki(l))が変化するため、第2の差分成分S2ki(l)'を第2成分を定める指標値と呼ぶ。
【0100】
以上の処理は各色信号(k=r,g,b)に関して適用される。l回目の反復において、全色信号に関して処理が完了した時点でl回目の反復が完了する。
【0101】
反復回数がL回目に達した場合、第1バッファ302、及び第2バッファ303に保持される第1成分Uki(L)、第2成分Vki(L)を最終的な出力とし、合成部108へ転送する。
【0102】
なお、本実施形態においては反復回数を所定回数Lに予め設定したが、分解精度に応じて可変とする構成としても良い。例えば、l回目の第1成分Uki(l)とl-1回目のUki(l-1)との差分の絶対値、またはl回目の第1成分Vki(l)とl-1回目のVki(l-1)との差分の絶対値が所定の閾値以下となった場合に、反復処理を停止する構成としてもよい。これにより、反復による第1成分又は第2成分変化がほとんどなくなった場合に、反復処理を停止する。
【0103】
なお、本実施形態においては、反復処理を行っているが、l=0回目の初期化処理以降の反復処理を行わず、l=1回目の処理のみ行う構成としても良い。
【0104】
第1ノイズ低減部307
次に、図4を参照して、第1ノイズ低減部307の動作の詳細について説明する。
【0105】
第1ノイズ低減部307は、バッファ401、初期化部402、変換関数規定部403、範囲特定部404、加算・減算部405、置換部406、データ転送制御部407、バッファ408を含んでいる。
【0106】
第1差分算出部304は、初期化部402を介してバッファ401に接続されている。バッファ401は、初期化部402、範囲特定部404に接続されている。初期化部402はバッファ408に接続されている。変換関数規定部403は範囲特定部404、加算・減算部405、置換部406に接続されている。範囲特定部404は加算・減算部405、置換部406に接続されている。加算・減算部405、置換部406はデータ転送制御部407を介してバッファ408へ接続されている。バッファ408は変換関数規定部403、第1転送制御部308へ接続されている。
【0107】
第1ノイズ低減部307では、第1差分算出部304から転送された前述の差分信号に対する多段階コアリング処理を行う。多段階コアリング処理は、複数のコアリング範囲が設定された変換関数に基づき入力信号を所定の出力値に変換するものである。複数のコアリング範囲は、下限閾値、上限閾値の複数の組により定められ、各コアリング範囲に対応する出力値が定められている。
【0108】
変換関数のコアリング範囲は、処理対象の色信号に関する入力信号のみならず、処理対象外の色信号も用いて設定される。また、成分分解処理と同様に、多段階コアリング処理においても反復処理を行う構成となっている。処理の反復により多段階コアリング(ノイズ低減)の結果は随時更新され、所定の反復回数Mに達した時点で最終的な出力となる。また、1回の反復において、R,G,B信号毎に各1回多段階コアリング処理が行われた後、次の反復処理が行われる構成となっている。
【0109】
以下に例として、各色信号の高周波成分Hri、Hgi、Hbiに関する第1の差分信号Sri、Sgi、Sbiに対し、多段階コアリング処理(ノイズ低減処理)がなされる場合を説明する。ここで、Sri、Sgi、Sbiは、多段階コアリング処理前の第1の差分成分S1ri(l) S1gi(l) S1bi(l)に相当する(Sri=S1ri(l)、Sgi=S1gi(l)、Sbi=S1bi(l))。
【0110】
m回目の多段階コアリング処理により、差分信号Sri(m) 、Sgi(m) 、Sbi(m)が生成する。ここで、添字r、g、bはR信号、G信号、B信号を表しており、添字i(i=0〜I)は多重解像度分解の段階数、m(m=0〜M)は、多段階コアリング処理の反復回数を表す。
【0111】
はじめに、m=0の反復においては、バッファ401、バッファ408の初期化を行う。即ち、第1差分算出部304から初期化部402へ転送された差分信号Sri、Sgi、Sbiを、m=0回目の反復における差分信号Sri(0)、Sgi(0)、Sbi(0)として、バッファ401、バッファ408へ記録する。
【0112】
次に、m回目(m≠0)における処理の説明を行う。ここで1回の反復における色信号の処理の順番に特に制約はないが、本実施形態においては、R→G→B信号の順に各回の多段階コアリングを行うこととする。
【0113】
まず、変換関数規定部403は、バッファ401から取得した処理対象の色信号に関するm=0回目における差分信号Sri(0)、Sgi(0)、Sbi(0)を取得する。また、変換関数規定部403は、バッファ408から取得した処理対象外の色信号に関するm-1回目、あるいはm回目の反復処理により生成された差分信号を取得する。本実施形態においては、R信号に関する多段階コアリング処理の場合、変換関数規定部403は、差分信号Sri(0)、Sgi(m-1)、Sbi(m-1)を取得する。G信号に関する多段階コアリング処理の場合、変換関数規定部403は、差分信号Sgi(0)、Sri(m)、Sbi(m-1)を取得する。B信号に関する多段階コアリング処理の場合、変換関数規定部403は、差分信号Sbi(0)、Sri(m)、Sgi(m)を取得する。
【0114】
上記のように取得した差分信号と予め設定された所定のパラメータα、β、λに基づきコアリングに適用される変換関数を規定する。ここで、αは色信号間の信号値の差分が大きい場合に、ノイズ低減の度合いが大きくなるよう調整するパラメータである。βは色信号間の信号値の加算値が大きい場合に、ノイズ低減の度合いが大きくなるよう調整するパラメータである。
【0115】
以降では、コアリングの処理対象をG信号とし、G信号に対する変換関数を規定する場合についてのみ説明する。コアリングの処理対象がR信号の場合は、{Sgi(0)、Sri(m)、Sbi(m-1)}を{Sri(0)、Sgi(m-1)、Sbi(m-1)}に置換えて変換関数を規定すればよい。コアリングの処理対象がB信号の場合は、{Sgi(0)、Sri(m)、Sbi(m-1)}を{Sbi(0)、Sri(m)、Sgi(m)}に置換えて変換関数を規定すればよい。
【0116】
初めに、Sri(m)とSbi(m-1)を比較する。Sri(m)とSbi(m-1)の符号が一致し、Sri(m)>0、Sbi(m-1)>0、Sri(m)> Sbi(m-1)の場合は、例えば式(15)のような複数の区間Wj(j=0〜10)から構成される折線関数に、変換関数を規定する。図5(a)に式(15)により規定される変換関数を示す。
【0117】
【数15】
【0118】
ここで、区間Wj(j=0〜10)は、Sgi(0)に関する区間である。Tbj、Tujは、区間Wjの下限値、上限値を、Sgi(m)は出力値を表している。下限値、上限値Tbj、Tujと出力値Sgi(m)は、α、β、λ、及びSgi(0)、Sri(m)、Sbi(m-1)に基づいて算出される。区間Wj(j=0〜10)は、反復回数mの値に応じて、変化する。
【0119】
また、区間W1,W3,W5,W7のように、出力が一定値の区間は、コアリング範囲区間と定義される。変換関数内には複数のコアリング範囲区間が設定される。変換関数は連続しており、また、コアリング範囲区間以外の非コアリング範囲区間における関数の傾きは1に固定されている。このため、コアリング範囲区間における下限値、上限値、及び出力値がわかれば、非コアリング範囲区間における出力値も一意に算出することが可能である。また、非コアリング範囲区間において、傾きは1であるため、変換関数と一次関数Sgi(m)= Sgi(0)との差分は一定値となる。
【0120】
Sri(m)>0、Sbi(m-1)>0、Sri(m)< Sbi(m-1)の場合は, 式(15)において、Sbi(m-1)をSri(m)に、 Sri(m)をSbi(m-1)に置換して、コアリング範囲区間、及び出力値を算出できる。
【0121】
Sri(m)<0、Sbi(m-1)<0、|Sri(m)|>|Sbi(m-1)|の場合は, 式(15)において、Sbi(m-1)を-Sbi(m-1)に、Sri(m)を- Sri(m)に、αをβに、βをαに置換することにより、コアリング範囲区間、及び出力値を算出できる。
【0122】
Sri(m)<0、Sbi(m-1)<0, |Sri(m)|<|Sbi(m-1)|の場合は, 式(15)において、Sbi(m-1)を-Sri(m)に、Sri(m)を-Sbi(m-1)に、αをβに、βをαに置換することにより、コアリング範囲区間、及び出力値を算出できる。
【0123】
Sri(m)とSbi(m-1)の符号が一致せず、Sri(m)>0、Sbi(m-1)<0、 |Sri(m)|>|Sbi(m-1)|の場合は、変換関数を、例えば式(16)のように規定する。図5(b)に式(16)により規定される変換関数を示す。
【0124】
【数16】
【0125】
また、Sri(m)>0、Sbi(m-1)<0、|Sri(m)|<|Sbi(m-1)|の場合は, 式(16)において、Sri(m)を-Sbi(m-1)、-Sbi(m-1)をSri(m)に、αをβに、βをαに置換することによりコアリング範囲区間、及び出力値を算出できる。
【0126】
Sri(m)<0、Sbi(m-1)>0、|Sri(m)|>|Sbi(m-1)|の場合は、式(16)において、-Sbi(m-1)をSbi(m-1)に、Sri(m)を-Sri(m)に、αをβに、βをαに置換することによりコアリング範囲区間、及び出力値を算出できる。
【0127】
Sri(m)<0、Sbi(m-1)>0、|Sri(m)|<|Sbi(m-1)|の場合は、式(16)において、Sri(m)をSbi(m-1)に、-Sbi(m-1)を-Sri(m)に置換することによりコアリング範囲区間、及び出力値を算出できる。
【0128】
他のSri(m)、Sbi(m-1)に対するコアリングの変換関数については、Sgi(0)の変換関数に対し、Sri(m)、Sgi(0)、Sbi(m-1)を入れ替えれば容易にSri(m)、またはSbi(m-1)に対する変換関数が算出可能である。
【0129】
本実施形態においては、第1ノイズ低減部307における変換関数規定のため、コアリング範囲区間に関する下限値、上限値、及び出力値が、変換関数規定部403から範囲特定部404へ転送される。また、非コアリング範囲区間における下限値、上限値、及び、非コアリング範囲区間における変換関数と上記一次関数Sgi(m)= Sgi(0)との差分が、変換関数規定部403から範囲特定部404へ転送される。
【0130】
次に、範囲特定部404は、変換関数規定部403にて設定された変換関数(コアリング範囲区間に対する下限値、上限値)、及びバッファ401より差分信号Sgi(0)を取得する。範囲特定部404は、差分信号Sgi(0)の値とコアリング範囲区間の下限値、上限値とを比較する。差分信号Sgi(0)の値がコアリング範囲区間に属する場合は、差分信号Sgi(0)の信号値は、置換部406へ転送される。差分信号Sgi(0)の値がコアリング範囲区間外に属する場合は、差分信号Sgi(0)の信号値は、加算・減算部405へ転送される。
【0131】
置換部406では、差分信号Sgi(0)の信号値が所属するコアリング範囲区間に対応する出力値を変換関数規定部403から取得し、その出力値を差分信号の信号値として置換する。置換された信号値は、データ転送制御部407の制御により、バッファ408へ転送される。上記の出力値は、バッファ408上の差分信号Sgi(m-1)上に差分信号Sgi(m)の信号値として上書きされる。即ち、差分信号Sgi(0)の信号値が所属するコアリング範囲区間に対応する出力値が、差分信号Sgi(m)の信号値になる。
【0132】
加算・減算部405では、変換関数規定部403から上述の非コアリング範囲区間における変換関数と上記一次関数Sgi(m)= Sgi(0)との差分を取得し、その差分を差分信号Sgi(0)の信号値に対し加算する。加算された信号値は、データ転送制御部407の制御により、バッファ408へ転送される。加算された信号値は、バッファ上の差分信号Sgi(m-1)上に差分信号Sgi(m)の信号値として上書きされる。
【0133】
以上の処理を、R→G→B信号に関する差分信号に対し、順番に適用する。各色信号に対し、各1回ずつ多段階コアリング処理を行うことで、1回の反復処理を終了する。
【0134】
反復処理がM回行われた時点で、バッファ408に記録されたSri(M)、Sgi(M)、Sbi(M)は、第1転送制御部308の制御により第1バッファ302へ転送され、第1成分Uri(l)、Ugi(l)、Ubi(l)として記録される。なお、Sri(M)、Sgi(M)、Sbi(M)は、前述の多段階コアリング処理後の第1の差分成分S1ri(l)'、S1gi(l)'、S1bi(l)'に相当する。
【0135】
なお、本実施形態においては、反復処理を行っているが、m=0回目の初期化処理以降の反復処理を行わず、m=1回目の処理のみ行う構成としても良い。
【0136】
第2ノイズ低減部310
次に、図6を参照して、第2ノイズ低減部310の動作の詳細について説明する。
【0137】
第2ノイズ低減部310は、範囲特定部502、加算・減算部503、置換部504を含んでいる。第2差分算出部309は範囲特定部502に接続されている。範囲特定部502は、加算・減算部503、置換部504に接続されている。加算部・減算部503、置換部504は、第3差分算出部311に接続されている。
【0138】
第2ノイズ低減部310では、第2差分算出部309から転送された前述の第2の差分信号S2ki(l)に対するコアリング処理(軟判定閾値処理)を行う。多段階コアリング処理とは異なり、コアリング範囲が一つ設定された変換関数に基づき、第2ノイズ低減部310への入力信号は所定の値に変換される。また、本実施形態において、軟判定閾値処理は反復されず、一回のみ行われるが、これに限定されない。
【0139】
以下に例として、各色信号の高周波成分Hiに関する差分信号Siに対し、ノイズ低減処理がなされた差分信号Si'を生成する場合について説明する。ここで添字i(i=0〜I)は多重解像度分解の段階数を表す。ここで、Siは、前述の多段階コアリング処理前の第2の差分成分S2ki(l)に相当する。Si'は、多段階コアリング処理後の第2の差分成分S2ki(l)'に相当する(Si=S2ki(l)、Si'= S2ki(l)')。
【0140】
はじめに、範囲特定部502は、第2差分算出部309から差分信号Siを取得する。コアリング処理における変換関数は、例えば式(17)のような複数の区間Wj(j=0〜2)で構成される折線関数により規定される。
ここで、Tbj、Tujは区間Wjの下限値、上限値を表し、Si'は出力値を表している。区間W1が-Th〜Thの範囲で設定されたコアリング範囲を表している。図7に式(17)により規定される変換関数を示す。
【0141】
【数17】
【0142】
まず、範囲特定部502は、第2差分算出部309より差分信号Si(= S2ki(l))を取得する。範囲特定部502は、差分信号Siの値とコアリング範囲区間の下限値、上限値と比較する。差分信号Siがコアリング範囲区間に属する場合は、差分信号Siの信号値を置換部504へ転送する。差分信号Siがコアリング範囲区間外に属する場合は、差分信号Siの信号値を加算・減算部503へ転送する。
【0143】
置換部504では、差分信号Siの信号値が所属するコアリング範囲区間に対応する出力値0を、差分信号の信号値として置換する。置換された信号値は、Si'(=S2ki(l)')として、第3差分算出部311へ転送される。
【0144】
加算・減算部503は、式(17)に示す変換関数に基づき、Th < Siの場合、Si-Thを算出し、Si<-Thの場合、Si+Thを算出する。加算・減算部503は、Si-Th又はSi+Thを、Si'(=S2ki(l)')として、第3差分算出部311へ転送する。
【0145】
多重解像度合成部108
次に、図8を参照して、多重解像度合成部108の作用について説明する。
【0146】
合成部108は、データ読取部600と、切換部601と、アップサンプラ602と、アップサンプラ603と、アップサンプラ604と、アップサンプラ605とを含む。また、合成部108は、垂直ハイパスフィルタ606と、垂直ローパスフィルタ607と、垂直ハイパスフィルタ608と、垂直ローパスフィルタ609と、アップサンプラ610と、アップサンプラ611とを含む。さらに、合成部108は、水平ハイパスフィルタ612と、水平ローパスフィルタ613と、バッファ614と、データ転送制御部615と、基底関数ROM616と、フィルタ係数読取部617と、を含む。
【0147】
成分分離部107は、データ読取部600を介して切換部601へ接続されている。切換部601は、アップサンプラ602とアップサンプラ603とアップサンプラ604とアップサンプラ605とへそれぞれ接続されている。アップサンプラ602は、垂直ハイパスフィルタ606へ、アップサンプラ603は、垂直ローパスフィルタ607へそれぞれ接続されている。アップサンプラ604は、垂直ハイパスフィルタ608へ、アップサンプラ605は、垂直ローパスフィルタ609へ、それぞれ接続されている。垂直ハイパスフィルタ606と垂直ローパスフィルタ607とは、アップサンプラ610へそれぞれ接続されている。垂直ハイパスフィルタ608と垂直ローパスフィルタ609とは、アップサンプラ611へそれぞれ接続されている。アップサンプラ610は、水平ハイパスフィルタ612へ、アップサンプラ611は、水平ローパスフィルタ613へ、それぞれ接続されている。水平ハイパスフィルタ612と水平ローパスフィルタ613とは、バッファ614へそれぞれ接続されている。
【0148】
バッファ614は、第1信号処理部109、第2信号処理部110、及びデータ転送制御部615へそれぞれ接続されている。データ転送制御部615は、切換部601へ接続されている。基底関数ROM616は、フィルタ係数読取部617へ接続されている。フィルタ係数読取部617は、垂直ハイパスフィルタ606、608と垂直ローパスフィルタ607、609と水平ハイパスフィルタ612と水平ローパスフィルタ613とへそれぞれ接続されている。
【0149】
基底関数ROM616には、Harr関数やDaubechies関数などの逆ウェーブレット変換に用いられるフィルタ係数が記録されている。本実施形態においては、分解部105に対応してHarrの基底関数を用いる。
【0150】
フィルタ係数読取部617は、基底関数ROM616からフィルタ係数を読み込んで、垂直ハイパスフィルタ606、垂直ハイパスフィルタ608、水平ハイパスフィルタ612へハイパスフィルタ係数を転送する。また、フィルタ係数読取部617は、垂直ローパスフィルタ607、垂直ローパスフィルタ609、水平ローパスフィルタ613へローパスフィルタ係数を、それぞれ転送する。各ハイパスフィルタと各ローパスフィルタに転送されたフィルタ係数が設定される。
【0151】
合成部108は、分解部105からバッファ106を介して低周波成分を読み込み、成分分離部107から各高周波成分Hki(Hhv"i、Hh"i、Hv"i)に含まれる第1成分Uki(L)、第2成分Vki(L)を読み込む。
【0152】
合成部108は、低周波成分、及び各高周波成分に含まれる第1成分Uki(L)に基づき、原画像信号Fに対する第1成分U(=Ur,Ub,Ug)を生成する。また、各高周波成分に含まれる第2成分Vki(L)に基づき、原画像信号Fに対する第2成分V(=Vr,Vb,Vg)を生成する。
【0153】
本実施形態においては、各高周波成分に含まれる各第1成分をHhv"i、Hh"i、Hv"i、低周波成分をLLiと表し、原画像信号Fに対する第1成分Uを生成する場合について説明する。なお、第2成分Vの合成時においてLLiは0に設定する。即ち第2成分Vの合成では、高周波成分のみを用いる。合成した原画像信号Fに対する第1成分U、及び第2成分Vは、それぞれ第1信号処理部109、及び第2信号処理部110へ転送される。
【0154】
切換部601は、高周波成分Hhv"iをアップサンプラ602を介して垂直ハイパスフィルタ606へ、高周波成分Hh"iをアップサンプラ603を介して垂直ローパスフィルタ607へそれぞれ転送する。また、切換部601は、高周波成分Hv"iをアップサンプラ604を介して垂直ハイパスフィルタ608へ、低周波成分LLiをアップサンプラ605を介して垂直ローパスフィルタ609へ、それぞれ転送する。各フィルタ606−609は、垂直方向のフィルタリング処理を実行する。
【0155】
さらに、垂直ハイパスフィルタ606および垂直ローパスフィルタ607からの周波数成分は、アップサンプラ610を介して水平ハイパスフィルタ612へ、それぞれ転送される。垂直ハイパスフィルタ608および垂直ローパスフィルタ609からの周波数成分は、アップサンプラ611を介して水平ローパスフィルタ613へ、それぞれ転送される。各フィルタ612、613は、水平方向のフィルタリング処理を行う。水平ハイパスフィルタ612および水平ローパスフィルタ613からの周波数成分は、バッファ614へ転送されて一つに合成されることにより、補正処理がなされた低周波成分LL"i-1が生成される。
【0156】
ここで、アップサンプラ602、アップサンプラ603、アップサンプラ604、アップサンプラ605は、入力周波数成分を垂直方向に2倍にアップサンプリングする。アップサンプラ610、アップサンプラ611は、入力周波数成分を水平方向に2倍にアップサンプリングする。
【0157】
データ転送制御部615は、バッファ614から低周波成分LL"i-1を読み出して、読み出した低周波成分LL"i-1を切換部601へ転送する。
【0158】
また、データ読取部600は、成分分離部107から補正処理がなされた三種類の高周波成分HHv"i-1,Hh"i-1,Hv"i-1を読み込んで、切換部601へ転送する。
【0159】
その後、分解の段階数i-1の周波数成分に対して、上述と同様のフィルタリング処理がなされ、低周波成分LL"i-2がバッファ614へ出力される。このような過程は、所定のI段階の合成が行われるまで反復される。こうしてバッファ614には、最終的に、補正処理がなされた低周波成分LL”0が出力される。
【0160】
低周波成分LL”0は、低周波成分、及び高周波成分に含まれる第1成分に基づき生成した場合には、原画像信号Fに対する第1成分Uに相当する。低周波成分LL”0は、高周波成分に含まれる第2成分に基づき生成した場合には、原画像信号Fに対する第2成分Vに相当する。
【0161】
なお、本実施形態では、第1ノイズ低減部307、第2ノイズ低減部310において、多段階コアリング処理、軟判定閾値処理によるノイズ低減を行っているが、これに限定されるものではなく、他の所定のノイズ低減処理に代替可能である。例えば線形フィルタ、非線形フィルタ処理(メディアンフィルタ、バイラテラルフィルタ、非線形拡散型フィルタ)や、他の様々な変換関数によるShrinkage処理による、適応的な平滑化処理を行っても良い。
【0162】
また、本実施形態では第2ノイズ低減部310はウェーブレット係数に対する軟判定閾値処理を行い帯域信号別に第2成分Vを求めたが、原空間における軟判定閾値処理により直接原画像信号Fに対する第2成分を求めても良い。すなわち、本実施形態と同様に求めた各帯域信号に対する第1成分Uと、第2の差分成分を逆ウェーブレット変換して、原画像信号Fに対する第1成分Uと、第2の差分成分を算出し、原画像信号に対する第2の差分成分に対して軟判定閾値処理を行い、軟判定閾値処理後の第2の差分信号と原画像信号に対する第1成分Uを原画像信号Fから減算した、原画像信号に対する第3の差分信号を、原画像信号に対する第2成分とする構成としても良い。
【0163】
また、原画像信号に対する第2成分を再度ウェーブレット変換して帯域信号に対する第2成分を算出することで、上記ウェーブレット領域での多段階コアリング処理、原空間での軟判定閾値処理を反復処理する構成としても良い。
【0164】
―作用効果―
次に、第1の実施形態の作用効果について説明する。
【0165】
分解部105は、原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する。成分分離部107は、帯域信号に対して大局的な構造を表す第1成分(骨格成分)と局所的な構造を表す第2成分(骨格成分以外の一の成分)を分離する。成分分離部107において、第1ノイズ低減部307を含む第1補正部は、帯域信号と第2成分とを用いて第1成分を補正する第1の補正処理を行う。成分分離部107において、第2ノイズ低減部310と第3差分算出部311を含む第2補正部は、帯域信号と補正された第1成分を用いて第2成分を補正する第2の補正処理を行う。
【0166】
このような第1の補正処理と第2の補正処理の組み合わせにより、第2成分を用いて第1成分を、第1成分を用いて第2成分を補正するため、高速に精度良く第1成分と第2成分を計算できる。システムコントローラ100(制御部)は、第1の補正処理および第2の補正処理の繰り返し動作を制御する。第1の補正処理と第2の補正処理を繰り返すことにより、第1補正部は、第2の補正処理により得た補正された第2成分を用いて、第1の補正処理を行う。このため、逐次近似的にさらに精度良く第1成分と第2成分を計算できる。
【0167】
また、帯域信号から第2成分を減じて得た第1の差分値(S1ki(l))を用いて第1の補正処理を行うため、帯域信号に対する第2成分の残差に基づいて得られる第1成分を好適に求められる。帯域信号から補正した第1成分を減じて得た第2の差分値(S2ki(l))を用いて第2の補正処理を行うため、帯域信号に対する第1成分の残差に基づいて得られる第2成分を好適に求められる。
【0168】
第2補正部は、第2の差分値(S2ki(l))と所定の閾値(Th)を比較することで得た指標値(S2ki(l)')を算出し、第2の差分値から指標値を減じて得た第3の差分値(S3ki(l))を補正後の第2成分とする。このため、指標値に基づくコアリング処理により、逐次近似的に成分分離のための変分問題の最適解としての第2成分を高速かつ精度良く求められる。
【0169】
抽出部(例えば第1転送制御部308からなる)は、第1成分(骨格成分)を帯域信号ごとに抽出し、第1補正部は、帯域信号ごとに抽出された第1成分を帯域信号ごとに補正する。原画像信号ではなく帯域信号ごとに第1成分を分離する構成としたため、帯域信号ごとに例えばコアリング処理を利用でき、第1成分の成分分離を高速かつ精度良く行える。さらに、多重解像度合成部108は、帯域信号ごとに補正された第1成分を複数の周波数帯域にわたって合成することで、帯域信号からなる原画像信号の大局的な構造を示す第1成分を生成する。これにより、原画像信号の大局的な構造を示す成分を精度よく生成できる。
【0170】
第2補正部は、帯域信号ごとに補正された第1成分を用いて帯域信号ごとに第2成分を補正する。原画像信号ではなく帯域信号ごとに第2成分を分離する構成としたため、例えば、帯域信号ごとのコアリング処理等を利用でき、第2成分の成分分離を高速かつ精度良く行える。多重解像度合成部108は、帯域信号ごとに補正された第2成分を複数の周波数帯域にわたって合成することで、帯域信号からなる原画像信号の局所的な構造を示す成分を生成する。これにより、原画像信号の局所的な構造を示す成分を精度よく生成できる。
【0171】
分解部105は、複数の帯域信号を色信号ごとに生成するため、カラー原画像信号も扱うことができる。第1補正部は、帯域信号から第2成分を減じて得た第1の差分値に対して、複数のコアリング範囲を設定する。さらに、第1補正部は、この第1の差分値に対して複数のコアリング範囲に基づきコアリング処理を行った結果を補正された第1成分(骨格成分)とする。これにより、第1補正部は、多段階コアリング処理により、カラー原画像信号に対して色差色和を考慮した第1成分の補正ができ、精度良く第1成分を求められる。
【0172】
第2補正部は、帯域信号から補正された第1成分を減じて得た第2の差分値に対して、単一のコアリング範囲を設定する。さらに、第2補正部は、この第2の差分値に対して、単一のコアリング範囲に基づきコアリング処理を行った結果に応じて第2成分を補正する。これにより、第2補正部は、コアリング処理により第2成分を補正でき、高速かつ精度良く第2成分を求められる。
【0173】
第1補正部は、補正された第1成分が平坦成分とエッジ成分を含むよう第1成分を補正するため、大局的な構造を示すものとして第1成分を帯域信号から分離できる。
【0174】
<第1の実施形態の変形例>
上述ではハードウェアによる処理を前提としていたが、このような構成に限定されるものでもない。例えば、撮像素子102からの原画像信号を未処理のままのRawデータとしてメモリカード等の記録媒体に記録する。さらに、撮像条件などの付随情報(例えば、ISO感度などの撮像条件など)をRawデータのヘッダ情報として記録媒体に記録しておく。そして、別途のソフトウェアである画像処理プログラムをコンピュータに実行させて、記録媒体の情報をコンピュータに読み取らせ、処理することも可能である。なお、撮像部からコンピュータへの各種情報の伝送は、記録媒体を介して行うに限らず、通信回線等を介して行うようにしても構わない。
【0175】
図9を参照して、画像処理プログラム(成分抽出補正プログラム)による処理のメインルーチンを説明する。
【0176】
最初に、Raw画像や、露光条件、画像処理条件などのヘッダ情報を読み込むとともに、Raw画像に基づき所定の補間処理により、3色の色信号で構成される原画像信号Fを生成する。(ステップS01)。次に、原画像信号Fを分解の段階数iの解像度分解を行い、高周波成分と低周波成分とを取得する(ステップS02)。
【0177】
次に、分解の段階数を示す変数iを0に初期化する(ステップS03)。次に、分解の段階数iを1増分する(ステップS04)。次に、反復処理の繰返し回数を示す変数lを0に初期化する(ステップS05)。
【0178】
次に、第1成分を保持するための第1バッファと、第2成分を保持するための第2バッファの初期化を行う(ステップS06)。次に、繰返し回数lを1増分する(ステップS07)。次に、色信号を表す変数k(k=rの場合R信号、k=gの場合G信号、k=bの場合B信号)をrとし、処理対象の色信号を設定する(ステップS08)。
【0179】
次に、式(12)に基づく第1の差分成分を算出する(ステップS09)。次に、ステップS09にて算出した第1の差分成分に対し、式(15)、式(16)に基づく多段階コアリング処理を行う(ステップS10)。次に、ステップS10の結果を第1バッファに上書き記録することで、第1成分を更新してUki(l)の値を設定する(ステップS11)。
【0180】
次に、式(13)に基づく第2の差分成分を算出する(ステップS12)。次に、ステップS12にて算出した第2の差分成分に対し、式(17)に基づくコアリング処理(軟判定閾値処理)を行う(ステップS13)。次に、式(14)に基づく第3の差分成分を算出する(ステップS14)。次に、ステップS14の結果を第2バッファに上書き記録することで、第2成分を更新してVki(l)の値を設定する(ステップS15)。
【0181】
次に、kを参照し、全ての色信号R、G、Bに対して処理が行われたかを判定する(ステップS16)。全ての色信号R、G、Bに対して処理が完了していない場合、ステップS17で色信号を表す変数kを次のもの(g又はb)に更新し、ステップS09へ戻り、処理を繰り返す。全ての色信号R、G、Bに対して処理が完了した場合、ステップS18へ進む。
【0182】
次に、lを参照し、反復回数を判定する。lが予め設定された所定の反復回数Lに達した場合、ステップS19へ進む。lがL未満の場合、ステップS07へ戻り、処理を繰り返す(ステップS18)。
【0183】
次に、iを参照し、iが予め設定された所定の多重解像度レベルIに達した場合、ステップS20へ進む。iがI以下の場合、ステップS04へ戻り、処理を繰り返す(ステップS19)。
【0184】
次に、低周波成分と高周波成分に含まれる第1成分、及び高周波成分に含まれる第2成分とを用いて、I段階の多重解像度合成を行い、原画像信号に対する第1成分U(=Ur,Ub,Ug)、及び第2成分V(=Vr,Vb,Vg)を生成する(ステップS20)。
【0185】
次に、第1成分U、及び第2成分Vそれぞれに対し、所定の信号処理を行う(ステップS21)。次に、信号処理された第1成分U'と第2成分V'を合成するよう成分合成処理を行う(ステップS22)。最後に公知の圧縮処理などを行った後、出力し、一連の処理を終了する。
【0186】
この第1の実施形態の変形例も、第1の実施形態の前述した作用効果が得られるが、特別なハードウェアを必要とせず簡便に成分抽出補正処理が行える利点がある。
【0187】
<第2の実施形態>
図10を参照して、本発明の第2の実施形態に係る成分抽出補正装置ついて説明する。第2の実施形態に係る成分抽出補正装置は、第1の実施形態と異なり、モノクロ(単色又は白黒)の原画像信号に適した構成を有する。なお、第1の実施形態と同様の構成の部分には、同じ符号を付し、第1の実施形態と異なる構成について主に説明する。
【0188】
第2の実施形態に係る成分抽出補正装置は、デジタルカメラやデジタルビデオカメラ等の撮像装置(撮像用電子機器)に搭載されるものとして第2の実施形態を説明する。しかし、本発明はこれに限定されることなく適用可能である。
【0189】
撮像装置は、システムコントローラ100、光学系101、撮像素子1000、A/D変換部103(以下、単にA/Dと呼ぶ)、多重解像度分解部105(単に、分解部とも呼ぶ)を備える。さらに、撮像装置は、バッファ106、成分分離部1001、多重解像度合成部108(単に、合成部とも呼ぶ)、第1信号処理部109、第2信号処理部110、成分合成部111、出力部112を備える。上記各部を、論理回路から構成してよいし、CPU(中央演算処理装置)と、演算プログラムを格納するメモリ等から構成してもよい。本実施形態の成分抽出補正装置は、分解部105、成分分離部1001等から構成される。
【0190】
撮像素子1000は、A/D103を介して分解部105に接続されている。分解部105は、バッファ106を介して成分分離部1001へ接続されている。成分分離部1001は、合成部108へ接続されている。合成部108は、第1信号処理部109、及び第2信号処理部110を介して成分合成部111へ接続されている。成分合成部111は、出力部112へ接続されている。各処理部はシステムコントローラ100に接続しており、システムコントローラ100により動作を制御される。
【0191】
本実施形態において、撮像素子1000は、モノクロ用撮像素子である。撮像素子1000は、システムコントローラ100の制御に基づき、光学系101を通して撮像素子1000面上に結像した光学像をアナログ画像信号として出力する。アナログ画像信号は、A/D103へ転送される。A/D103は、アナログ画像信号をデジタル信号に変換し、分解部105へ転送する。
【0192】
分解部105は、第1の実施形態と同様の処理により、モノクロ(単色又は白黒)の原画像信号Fに対し所定のI段階の多重解像度分解を行う。分解部105は、分解の段階数iの高周波成分、低周波成分を生成し、バッファ106へ記録する。ここで、Iは1以上の整数であり、iは1以上I以下の整数である。
【0193】
成分分離部1001は、各高周波成分を、各高周波成分に含まれる第1成分と第2成分に分解する。成分分離部1001では、高周波成分に対しコアリング処理(軟判定閾値処理)と差分算出処理により構成される分解アルゴリズムが反復的に適用される。第2の実施形態は、第1の実施形態で行った多段階のコアリング処理を、単一のコアリング範囲を有するコアリング処理(軟判定閾値処理)に置換した構成となっている。所定回数の反復がなされた後の第1成分、第2成分を合成部108へ転送する。成分分解処理の詳細は後述する。
【0194】
以降の処理は、処理対象を色信号から単色又は白黒のモノクロ信号に置換えた第1の実施形態と同様である。即ち、合成部108における多重解像度合成処理は、第1の実施形態と同様に行われる。第1信号処理部109での第1成分に対する信号処理、第2信号処理部110での第2成分に対する信号処理も、第1の実施形態と同様に行われる。成分合成部111における合成処理、出力部112における処理も、第1の実施形態と同様に行われる。
【0195】
成分分離部1001
次に、図11を参照して、成分分離部107の動作の詳細について説明する。
【0196】
成分分離部1001は、初期化部301、第1バッファ302、第2バッファ303、第1差分算出部304、第1転送制御部308を含んでいる。さらに、成分分離部107は、第2差分算出部309、第2ノイズ低減部310、第3差分算出部311、第2転送制御部312を含んでいる。
【0197】
バッファ106は、初期化部301、第1差分算出部304、第2差分算出部309、第3差分算出部311に接続されている。初期化部301は、第1バッファ302、第2バッファ303に接続されている。第2バッファ303は、第1差分算出部304、合成部108に接続されている。第1差分算出部304は、第2ノイズ低減部310に接続されている。第2ノイズ低減部310は、第1転送制御部308に接続されている。
【0198】
第1転送制御部308は、第1バッファ302に接続されている。第1バッファ302は、第2差分算出部309、第3差分算出部311、合成部108に接続されている。第2差分算出部309は、第2ノイズ低減部310に接続されている。第2ノイズ低減部310は、第3差分算出部311に接続されている。第3差分算出部311は、第2転送制御部312に接続されている。第2転送制御部312は、第2バッファ303に接続されている。
【0199】
成分分離部1001は、バッファ106から高周波成分を取得し、高周波成分毎に第1成分、第2成分への分解を行う。第1の実施形態と同様にコアリングによるノイズ低減処理と、差分算出処理の反復により分解精度が最適化される。
【0200】
第1の実施形態では、第1ノイズ低減部307において多段階コアリング処理を行った。しかし、第2の実施形態では、第1ノイズ低減部307における多段階コアリング処理は、第2ノイズ低減部310で行われるコアリング処理(軟判定閾値処理)に置き換えられている。これは、第2の実施形態では、原画像信号Fがモノクロであるためである。このため、第2の実施形態では、第2ノイズ低減部310が、第1成分Ui(l)を補正・更新する第1補正部に相当する。
【0201】
以下に例として、原画像信号Fに関する高周波成分Hiに対し、第1成分Ui(l)、第2成分Vi(l)に分離する場合について説明する。ここで、添字i(i=0〜I)は多重解像度分解の段階数、l(l=0〜L)は反復回数を表す。
【0202】
初めに、l=0の反復においては、第1成分を保持する第1バッファ302、第2成分を保持する第2バッファ303に対する初期化のみ行う。初期化部301はバッファ106から原画像信号Fに対する高周波成分Hiを取得する。初期化部301は取得した高周波成分Hiを第1バッファ302へ転送し、第1バッファ302はこれを記録する。同時に初期化部301の制御により第2バッファの値を全て零にクリアする。
【0203】
次にl回目(l≠0)における処理を行う。まず、第1差分算出部304は、バッファ106より原画像信号Fの高周波成分Hiを、第2バッファ303より、第2成分Vi(l-1)を取得し、式(18)に基づき第1の差分成分S1i(l)(第1の差分値)を算出する。なお、l=1の場合、Vi(l-1) =Vi(0)=0である。
【0204】
【数18】
【0205】
算出した第1の差分成分S1i(l)は、第2ノイズ低減部310へ転送される。
【0206】
第2ノイズ低減部310では第1の差分成分S1i(l)に対し、式(17)に基づくコアリング処理(軟判定閾値処理)を行う。コアリング処理後の第1の差分成分S1i(l)'は、第1転送制御部308の制御により、第1バッファ302へ転送される。コアリング処理後の第1の差分成分S1i(l)'を、第1成分Ui(l)として、バッファに記録されている第1成分Ui(l-1)に上書きすることにより、第1成分が補正・更新される(Ui(l)= S1i(l)')。なお、l=1の場合、Ui(l-1)=Ui(0)= Hiである。
【0207】
次に、第2差分算出部309は、バッファ106より高周波成分Hiを、第1バッファ302より第1成分Ui(l)を取得し、式(19)に基づき第2の差分成分S2i(l)(第2の差分値)を算出する。
【0208】
【数19】
【0209】
算出した第2の差分成分S2i(l)は第2ノイズ低減部310へ転送される。第2ノイズ低減部310は、第2の差分成分S2i(l)に対し、式(17)に基づくコアリング処理(軟判定閾値処理)を行う。
【0210】
次に、第3差分算出部311は、バッファ106より高周波成分Hiを、第1バッファ302より第1成分Ui(l)を、第2ノイズ低減310よりコアリング処理後の第2の差分成分S2i(l)'を取得する。第3差分算出部311は、式(20)に基づき第3の差分成分S3i(l)(第3の差分値)を算出する。
【0211】
【数20】
【0212】
第3の差分成分S3i(l)は、第2ノイズ低減部310がコアリング処理により第2の差分成分S2i(l)から除去したノイズ分に相当する。第3差分算出部311にて算出された第3の差分成分S3i(l)は、第2転送制御部312の制御により、第2バッファ303へ転送される。この第3の差分成分S3i(l)は、第2成分Vi(l)として、第2バッファ303に記録されている第2成分Vi(l-1)に上書きされることにより、第2成分が補正・更新される(Vi(l)= S3i(l))。なお、l=1の場合、Vi(l-1)= Vi(0)= 0である。
【0213】
以上のようにl回目の反復において、高周波成分Hiは第1成分Ui(l)、第2成分Vi(l)に分解される。反復回数がL回目に達した場合、第1バッファ302に保持される第1成分Ui(L)、及び、第2バッファ303に保持される第2成分Vi(L)を最終的な出力とし、合成部108へ転送する。
【0214】
第2の実施形態も、第1の実施形態と同様の作用効果が得られる。ただし、第2の実施形態は、モノクロの原画像信号に適した構成となっており、多段階コアリング処理は、単一のコアリング範囲を有する通常のコアリング処理に置き換えられている。このため、第1の実施形態に比較して、成分分離部の構成が単純化できる。
【0215】
<第2の実施形態の変形例>
上述ではハードウェアによる処理を前提としていたが、このような構成に限定されるものでもない。例えば撮像素子1000からの原画像信号を未処理のままメモリカード等の記録媒体に記録する。さらに、撮像条件などの付随情報(例えば、ISO感度などの撮像条件など)をヘッダ情報として記録媒体に記録しておく。そして、別途のソフトウェアである画像処理プログラムをコンピュータに実行させて、記録媒体の情報をコンピュータに読み取らせ、処理することも可能である。なお、撮像部からコンピュータへの各種情報の伝送は、記録媒体を介して行うに限らず、通信回線等を介して行うようにしても構わない。
【0216】
図12を参照して、画像処理プログラム(成分抽出補正プログラム)による処理のメインルーチンを説明する。
【0217】
最初に、原画像信号Fや、露光条件、画像処理条件などのヘッダ情報を読み込む(ステップS23)。次に、原画像信号を分解の段階数iの解像度分解を行い、高周波成分と低周波成分とを取得する(ステップS02)。
【0218】
次に、分解の段階数を示す変数iを0に初期化する(ステップS03)。次に、分解の段階数iを1増分する(ステップS04)。次に、反復処理の繰返し回数を示す変数lを0に初期化する(ステップS05)。次に、第1成分を保持するための第1バッファと、第2成分を保持するための第2バッファの初期化を行う(ステップS06)。次に、繰返し回数lを1増分する(ステップS07)。
【0219】
次に、式(18)に基づいて、第1の差分成分S1i(l)を算出する(ステップS24)。次に、ステップS24にて算出した第1の差分成分S1i(l)に対し、式(17)に基づいて、単一のコアリング範囲を有するコアリング処理(軟判定閾値処理)を行う(ステップS25)。次に、ステップS25の結果S1i(l)'を第1バッファに上書き記録することで、第1成分を更新する(ステップS11)。
【0220】
次に、式(19)に基づく第2の差分成分S2i(l)を算出する(ステップS26)。次に、ステップS26にて算出した第2の差分成分S2i(l)に対し、式(17)に基づいて、単一のコアリング範囲を有するコアリング処理(軟判定閾値処理)を行う(ステップS13)。
【0221】
次に、式(20)に基づいて第3の差分成分S3i(l)を算出する(ステップS27)。次に、ステップS27の結果S3i(l)を第2バッファに上書き記録することで、第2成分を更新する(ステップS15)。
【0222】
次に、lを参照し、反復回数を判定する。lが予め設定された所定の反復回数Lに達した場合、ステップS19へ進む。lがL未満の場合、ステップS07へ戻り、処理を繰り返す(ステップS18)。
【0223】
次に、iを参照し、iが予め設定された所定の多重解像度レベルIに達した場合、ステップS20へ進む。iがI以下の場合、ステップS04へ戻り、処理を繰り返す(ステップS19)。
【0224】
次に、低周波成分と高周波成分に含まれる第1成分、及び高周波成分に含まれる第2成分とを用いて、I段階の多重解像度合成を行い、原画像信号Fに対する第1成分U、及び第2成分Vを生成する(ステップS20)。次に、第1成分Uと第2成分Vそれぞれに対し、所定の信号処理を行う(ステップS21)。次に、信号処理された第1成分U'と第2成分V'の合成処理を行う(ステップS22)。最後に公知の圧縮処理などを行った後、出力し、一連の処理を終了する。
【0225】
この第2の実施形態の変形例も、第2の実施形態の作用効果が得られるが、さらに特別なハードウェアを必要とせず簡便に成分抽出補正処理が行える利点がある。
【0226】
<第3の実施形態>
図14を参照して、本発明の第3の実施形態に係る成分抽出補正装置ついて説明する。なお、第3の実施形態に係る成分抽出補正装置は、第1の実施形態と同様の構成の部分には、同じ符号を付し、第1の実施形態と異なる構成について主に説明する。
【0227】
第3の実施形態に係る成分抽出補正装置は、デジタルカメラやデジタルビデオカメラ等の撮像装置(撮像用電子機器)に搭載されるものとして第3の実施形態を説明する。しかし、本発明はこれに限定されることなく適用可能である。
【0228】
撮像装置は、システムコントローラ100(制御部)、光学系101、撮像素子102、A/D103、補間部104、成分分離部1501、第1信号処理部109、第2信号処理部110、成分合成部111、出力部112を備える。上記各部を、論理回路から構成してよいし、CPU(中央演算処理装置)と、演算プログラムを格納するメモリ等から構成してもよい。本実施形態の成分抽出補正装置は成分分離部1501から構成される。
【0229】
撮像素子102は、A/D103を介して補間部104へ接続されている。補間部104は、成分分離部1501へ接続されている。成分分離部1501は、第1信号処理部109、及び第2信号処理部110を介して成分合成部111へ接続されている。成分合成部111は出力部112へ接続されている。各処理部はシステムコントローラ100に接続しており、システムコントローラ100により動作を制御される。
【0230】
撮像素子102は、システムコントローラ100の制御に基づき、光学系101を通して撮像素子102面上に結像した光学像をアナログ画像信号として出力する。
【0231】
アナログ画像信号は、A/D103へ転送される。A/D103は、アナログ画像信号をデジタル信号に変換し、補間部104へ転送する。
【0232】
補間部104は、デジタル信号に対し、所定のデモザイク処理を施し、カラー三板画像信号(以下、原画像信号Fと呼ぶ)を生成する。本実施形態において、原画像信号Fは、R(赤)、G(緑)、B(青)の色信号により構成されている。以降、R(赤)、G(緑)、B(青)の色信号をそれぞれFr、Fg、Fbと呼ぶこととする。原画像信号Fは、成分分離部1501へ転送される。
【0233】
成分分離部1501は、原画像信号Fを第1成分、及び第2成分に分解する。第1の実施形態においては、多重解像度分解処理により生成された各高周波成分に対し、第1ノイズ低減部307による第1の補正処理により第1成分、第2ノイズ低減部310と第3差分算出部311による第2の補正処理により第2成分を生成した後、それぞれの成分を各周波数帯域に渡り合成することで、原画像信号Fに対する第1成分、及び第2成分を生成した。
【0234】
本実施形態においては、多重解像度分解処理により生成した各高周波成分に対し、第1ノイズ低減部307による多段階コアリング処理により、各高周波成分に対する第1成分を生成する。この第1成分を各周波数帯域に渡り合成することで原画像信号に対する第1成分を生成した後、原画像信号と原画像信号に対する第1成分との差分信号を算出する。算出した差分信号に対し第2ノイズ低減部310による軟判定閾値処理を行うことで、原画像信号に対する第2成分を生成する。なお、成分分離の詳細は後述する。生成した第1成分Uは、第1信号処理部109へ、第2成分Vは第2信号処理部110へ転送される。
【0235】
第1信号処理部109は、合成部108から原画像信号Fに対する第1成分Uを読み込み、所定の信号処理を実施する。本実施形態では、原画像信号Fに対する第1成分Uに対し、階調変換を実施する。階調変換後の第1成分U'は、成分合成部111へ転送される。第1信号処理部109は、その他、γ補正等の階調変換を行ってもよい。
【0236】
第2信号処理部110は、合成部108から第2成分Vを読み込み、所定の信号処理を実施する。本実施形態では、第2成分Vに対しノイズ低減処理、及びゲインの乗算による鮮鋭化処理を行う。処理後の第2成分V'は成分合成部111へ転送される。
【0237】
成分合成部111は、第1信号処理部109で処理された第1成分U’、及び第2信号処理部110で処理された第2成分V’とを所定の比率で合成し、合成成分F'を得る。所定の比率は、例えば1:1の比率である。合成成分F'は出力部112へ転送され、フラッシュメモリ等で構成される記憶メディアへ記録される。
【0238】
次に、図15を参照して、成分分離部1501の動作の詳細について説明する。
【0239】
成分分離部1501は、バッファ1502、初期化部301、第1バッファ302、第2バッファ303、第1差分算出部1503、多重解像度分解部105、第1ノイズ低減部307、多重解像度合成部108、第1転送制御部308、第1バッファ302、第2差分算出部1504、第2ノイズ低減部310、第2転送制御部312を含んでいる。
【0240】
補間部104はバッファ1502に接続されている。バッファ1502は、初期化部301、第1差分算出部1503、第2差分算出部1504に接続されている。初期化部301は第1バッファ302(第1記憶部)、第2バッファ303(第2記憶部)に接続されている。
【0241】
第2バッファ303は、第1差分算出部1503、第2信号処理部110に接続されている。第1差分算出部1503は、多重解像度分解部105に接続されている。多重解像度分解部105は第1ノイズ低減部307、多重解像度合成部108に接続されている。第1ノイズ低減部307は、多重解像度合成部108に接続されている。多重解像度合成部108は第1転送制御部308に接続されている。第1転送制御部308は、第1バッファ302に接続されている。第1バッファ302は、第2差分算出部1504、第1信号処理部109に接続されている。第2差分算出部1504は、第2ノイズ低減部310に接続されている。第2ノイズ低減部310は第2転送制御部312に接続されている。第2転送制御部312は第2バッファ303に接続されている。
【0242】
成分分離部1501では、補間部104から各色信号に対する原画像信号を取得し、第1成分、第2成分への分解を行う。この分解は、所定のノイズ低減処理、差分算出処理の反復処理により行われる。制御部としてのシステムコントローラ100は、ノイズ低減処理、差分算出処理の動作の繰り返しを制御する。
【0243】
本実施形態において、バッファ1502が原画像信号を保持するバッファメモリ、第1バッファ302が第1成分を保持するバッファメモリ、第2バッファ303が第2成分を保持するバッファメモリとなっている。
【0244】
ノイズ低減処理、差分処理を反復する度に、第1バッファ302、第2バッファ303に保持される第1成分、第2成分は随時更新され、分解精度が向上し、最適化がなされる。所定の反復回数Lに達した段階で、第1バッファ302、第2バッファ303にそれぞれ記録された第1成分(後述のUk(L))、第2成分(後述のVk(L))は、それぞれ第1信号処理部109、第2信号処理部110へ転送される。
【0245】
なお、本実施形態において、成分抽出補正装置の抽出部は、第1差分算出部1503から構成されるが、これに限定されるものではない。例えば、最初の多段階コアリング処理に対しては、初期化部301と第1差分算出部1503が、抽出部として機能する。本実施形態において、抽出部は、原画像信号のうち補正前の第1成分(骨格成分)、即ち原画像信号から第2成分を減算した差分成分を抽出するものである。
【0246】
また、本実施形態において、第1成分(骨格成分)を補正する第1の補正処理を行う第1補正部は、第1ノイズ低減部307から構成される。また、骨格成分以外の一の成分(第2成分)を補正する第2の補正処理を行う第2補正部は、第2ノイズ低減部310から構成される。ただし第1の実施形態において第2ノイズ低減部310は多重解像度分解に基づく帯域信号(高周波成分)に対し処理を行っていたが、本実施形態においては原画像信号から、原画像信号に対する第1成分を減算した差分成分に対する処理となっている。
【0247】
以下に例として、色信号Fkに対して、第1成分Uk(l)と第2成分Vk(l)に分離する場合について説明する。ここで、添字k(=r,g,b)は色を表す記号である。k=rはR信号、k=gはG信号、k=bはB信号を表す。l(l=0〜L)は反復回数を表す。また、補間部104により生成した色信号Fkは予めバッファ1502へ記録される。
【0248】
初めに、l=0の反復においては、第1成分を保持する第1バッファ302、第2成分を保持する第2バッファ303に対する初期化を行う。初期化部301は、バッファ1502から色信号Fr、Fg、Fbを取得し、第1バッファ302にこれを記録する。同時に初期化部301の制御により第2バッファの値を全て零にクリアする。
【0249】
このように初期化することで、適切に第1成分と第2成分が計算できる。なお、l=0の場合に、初期化部301と第1差分算出部1503は、帯域信号を構成する複数の成分のうち第1成分(骨格成分)を抽出する抽出部として機能している。
【0250】
次にl回目(l≠0)における成分抽出・補正処理の説明を行う。この処理は色信号毎に対し独立に行われるわけではない。1回の反復処理(例えばl回目の処理)において、全色信号(k=r,g,b)に対する処理が1回なされた後、次の反復処理(l+1回目の処理)が行われる。
【0251】
まず、第1差分算出部1503は、バッファ1502より色信号Fkを、第2バッファ303より第2成分Vk(l-1)を取得し、式(21)に基づき第1の差分成分S1k(l) (第1の差分値)を算出する。
【0252】
【数21】
【0253】
算出した第1の差分成分S1k(l)は、多重解像度分解部105へ転送される。多重解像度分解部105ではS1k(l)を第1の実施形態と同様に複数の周波数帯域に分解する。分解した第1の差分成分の周波数成分のうち、高周波成分S1ki(l)を第1ノイズ低減部307へ、低周波成分(直流成分)を多重解像度合成部108へ転送する。ここで添字i(i=0〜I)は多重解像度分解の段階数を表す。
【0254】
第1ノイズ低減部307は、第1の差分成分の高周波成分S1ki(l)に対し、第1の実施形態と同様の手法により色信号間の色和、色差を考慮した複数のコアリング範囲を持つ多段階コアリング処理を行う。多段階コアリング処理後の第1の差分成分の高周波成分S1ki(l)'は、多重解像度合成部108へ転送される。多段階コアリング処理は全ての段階i(i=0〜I)における高周波成分S1ki(l)に対して行われる。多重解像度合成部108では、多重解像度分解部105、及び第1ノイズ低減部307からの、第1の差分成分の低周波成分(直流成分)、及び多段階コアリング後の高周波成分S1ki(l)'に基づき、第1の実施形態と同様の処理により多重解像度合成処理を行う。合成した成分は第1転送制御部308の制御により、第1成分Uk(l)として、第1バッファ302に記録されている第1成分Uk(l-1)に上書きすることにより、第1成分が補正・更新される。
【0255】
次に、第2差分算出部1504は、バッファ1502より原画像信号Fkを、第1バッファ302より第1成分Uk(l)を取得し、式(22)に基づき第2の差分成分S2k(l) (第2の差分値)を算出する。
【0256】
【数22】
【0257】
算出した第2の差分成分S2k(l)は第2ノイズ低減部310へ転送される。
【0258】
第2ノイズ低減部310では第2の差分成分S2k(l)に対し、第1の実施形態と同様の手法により、コアリング範囲を1つ持つ一般的なコアリング処理(軟判定閾値処理)を行う。ただし、コアリング対象の信号は第1の実施形態とは異なり、原空間における原画像信号Fと第1成分Uとの差分信号であるため、原画像信号Fの画素と同じ個数分だけ画素毎にコアリング処理を行えば良い。コアリング処理後の差分成分S2k(l)'は第2転送制御部312の制御により、第2バッファ303へ転送される。この差分成分を、第2成分Vk(l)として、バッファに記録されている第2成分Vk(l-1)に上書きすることにより、第2成分が補正・更新される(Vk(l)= S2k(l)')。
【0259】
以上の処理は各色信号(k=r,g,b)に関して適用される。l回目の反復において、全色信号に関して処理が完了した時点でl回目の反復が完了する。
【0260】
反復回数がL回目に達した場合、第1バッファ302、及び第2バッファ303に保持される第1成分Uk(L)、第2成分Vk(L)が、最終的な出力として、それぞれ第1信号処理部109、第2信号処理部110へ転送される。
【0261】
なお、本実施形態においては反復回数を所定回数Lに予め設定したが、分解精度に応じて可変とする構成としても良い。例えば、l回目の第1成分Uki(l)とl-1回目のUki(l-1)との差分の絶対値、またはl回目の第1成分Vk(l)とl-1回目のVk(l-1)との差分の絶対値が所定の閾値以下となった場合に、反復処理を停止する構成としてもよい。これにより、反復による第1成分又は第2成分変化がほとんどなくなった場合に、反復処理を停止する。
【0262】
なお、本実施形態においては、反復処理を行っているが、l=0回目の初期化処理以降の反復処理を行わず、l=1回目の処理のみ行う構成としても良い。
【0263】
第3の実施形態も、第1の実施形態と同様の作用効果が得られる。ただし、第3の実施形態における第1成分の補正処理(第1ノイズ低減部307における多段階コアリング処理)は多重解像度分解に基づく第1の差分成分(S1ki(l))の各高周波成分に対する処理であり、第2成分の補正処理(第2ノイズ低減部310における軟判定閾値処理)は第2の差分成分(S2k(l))に対する処理となっている。第2成分の補正処理は、多重解像度領域ではなく、原空間領域での処理となっており、第1の実施形態と比較し第2成分を記録する第2バッファ303のバッファ容量を抑えることができる。(第1の実施形態では、多重解像度の段階数に応じて、帯域信号に対する第2成分の記録用の第2バッファ303のバッファ容量が増えることになる。)
【0264】
なお、本実施形態では、第1の実施形態と同様に第1ノイズ低減部307、第2ノイズ低減部310において、多段階コアリング処理、軟判定閾値処理によるノイズ低減を行っているが、これに限定されるものではなく、他の所定のノイズ低減処理に代替可能である。例えば線形フィルタ、非線形フィルタ処理(メディアンフィルタ、バイラテラルフィルタ、非線形拡散型フィルタ)や、他の様々な変換関数によるShrinkage処理による、適応的な平滑化処理を行っても良い。
【0265】
例えば、第1ノイズ低減部307における多段階コアリング処理を、第2ノイズ低減部310における軟判定閾値処理と置換える(第2ノイズ低減部310において、第1、第2の差分成分に対する軟判定閾値処理を行う)ことで、処理構成を簡便にすることが可能である。
【0266】
なお、本実施形態では、Harr基底による直交ウェーブレット変換を行っているが、第1の実施形態と同様に、双直交ウェーブレット基底等も含め、全てのウェーブレット基底が適用可能である。また、サブサンプリングを行わないタイプの(各レベルの各ウェーブレット係数が入力画素と同じ数になるよう)冗長性を持たせたウェーブレット変換(Stationary wavelet transform等)を適用することも可能である。
【0267】
<第3の実施形態の変形例>
上述ではハードウェアによる処理を前提としていたが、このような構成に限定されるものでもない。例えば、撮像素子102からの原画像信号を未処理のままのRawデータとしてメモリカード等の記録媒体に記録する。さらに、撮像条件などの付随情報(例えば、ISO感度などの撮像条件など)をRawデータのヘッダ情報として記録媒体に記録しておく。そして、別途のソフトウェアである画像処理プログラムをコンピュータに実行させて、記録媒体の情報をコンピュータに読み取らせ、処理することも可能である。なお、撮像部からコンピュータへの各種情報の伝送は、記録媒体を介して行うに限らず、通信回線等を介して行うようにしても構わない。
【0268】
図16を参照して、画像処理プログラム(成分抽出補正プログラム)による処理のメインルーチンを説明する。
【0269】
最初に、Raw画像や、露光条件、画像処理条件などのヘッダ情報を読み込むとともに、Raw画像に基づき所定の補間処理により、3色の色信号で構成される原画像信号Fを生成する。(ステップS01)。
【0270】
次に、反復処理の繰返し回数を示す変数lを0に初期化する(ステップS05)。次に、第1成分を保持するための第1バッファと、第2成分を保持するための第2バッファの初期化を行う(ステップS06)。次に、繰返し回数lを1増分する(ステップS07)。
【0271】
次に、式(21)に基づいて第1の差分成分を算出する(ステップS28)。次に、第1の差分成分に対し分解の段階数Iの多重解像度度分解を行い、高周波成分と低周波成分とを取得する(ステップS29)。次に、ステップS29にて算出した高周波成分に対し、多段階コアリング処理を行う(ステップS10)。
【0272】
次に、第1の差分成分の低周波成分と多段階コアリング処理後の高周波成分を用いて、I段階の多重解像度合成を行い、原画像信号に対する第1成分Uを生成する(ステップS30)。次に、ステップS30の結果を第1バッファに上書き記録することで、第1成分を更新してUk(l)の値を設定する(ステップS11)。
【0273】
次に、式(22)に基づく第2の差分成分を算出する(ステップS31)。次に、ステップS31にて算出した第2の差分成分に対し、コアリング処理(軟判定閾値処理)を行う(ステップS13)。次に、ステップS13の結果を第2バッファに上書き記録することで、第2成分を更新してVk(l)の値を設定する(ステップS15)。
【0274】
次に、lを参照し、反復回数を判定する。lが予め設定された所定の反復回数Lに達した場合、ステップS21へ進む。lがL未満の場合、ステップS07へ戻り、処理を繰り返す(ステップS18)。
【0275】
次に、第1成分U、及び第2成分Vそれぞれに対し、所定の信号処理を行う(ステップS21)。次に、信号処理された第1成分U'と第2成分V'を合成するよう成分合成処理を行う(ステップS22)。最後に公知の圧縮処理などを行った後、出力し、一連の処理を終了する。
【0276】
この第3の実施形態の変形例も、第3の実施形態と同様の作用効果が得られるが、特別なハードウェアを必要とせず簡便に成分抽出補正処理が行える利点がある。
【0277】
本発明は上記の実施の形態に限定されずに、その技術的な思想の範囲内において種々の変更がなしうることは明白である。
【図面の簡単な説明】
【0278】
【図1】第1の実施形態に係る成分抽出補正装置を搭載した撮像用電子機器の構成図である。
【図2】第1の実施形態に係る多重解像度分解部の構成図である。
【図3】第1の実施形態に係る成分分離部の構成図である。
【図4】第1の実施形態に係る第1ノイズ低減部の構成図である。
【図5】多段階コアリング処理の変換関数を示す図である。
【図6】第1の実施形態に係る第2ノイズ低減部の構成図である。
【図7】コアリング処理(軟判定閾値処理)の変換関数を示す図である。
【図8】第1の実施形態に係る多重解像度合成部の構成図である。
【図9】第1の実施形態の変形例に係る処理を示すフローチャートである。
【図10】第2の実施形態に係る成分抽出補正装置を搭載した撮像用電子機器の構成図である。
【図11】第2の実施形態に係る成分分離部の構成図である。
【図12】第2の実施形態の変形例に係る処理を示すフローチャートである。
【図13】(a)原画像信号の例と原画像の例を示す図である。(b)骨格成分の例と、その画像例を示す図である。(c)骨格成分以外の成分の例と、その成分画像の例を示す図である。
【図14】第3の実施形態に係る成分抽出補正装置を搭載した撮像用電子機器の構成図である。
【図15】第3の実施形態に係る成分分離部の構成図である。
【図16】第3の実施形態の変形例に係る処理を示すフローチャートである。
【符号の説明】
【0279】
105 分解部
301 初期化部
304 第1差分算出部
307 第1ノイズ低減部
308 第1転送制御部
309 第2差分算出部
310 第2ノイズ低減部
311 第3差分算出部
312 第2転送制御部
【特許請求の範囲】
【請求項1】
原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解部と、
前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出部と、
前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正部と、
前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正部と、
を備えることを特徴とする成分抽出補正装置。
【請求項2】
前記一の成分は、前記帯域信号の局所的な構造を表す成分であることを特徴とする請求項1に記載の成分抽出補正装置。
【請求項3】
前記第1補正部は、前記帯域信号から前記一の成分を減じて得た第1の差分値を用いて、前記第1の補正処理を行うことを特徴とする請求項1または2に記載の成分抽出補正装置。
【請求項4】
前記第2補正部は、前記帯域信号から前記補正された骨格成分を減じて得た第2の差分値を用いて、前記第2の補正処理を行うことを特徴とする請求項1から3のいずれか一つに記載の成分抽出補正装置。
【請求項5】
前記第2補正部は、前記第2の差分値と所定の閾値を比較することで得た指標値を算出し、前記第2の差分値から前記指標値を減じて得た第3の差分値を前記補正した一の成分とすることを特徴とする請求項4に記載の成分抽出補正装置。
【請求項6】
前記分解部は前記複数の帯域信号を色信号ごとに生成し、
前記抽出部は色信号ごとに生成された帯域信号を用いて、前記骨格成分を色信号ごとに抽出し、
前記第1補正部は前記第1の補正処理として、色信号ごとに生成された前記帯域信号を用いて、前記抽出された骨格成分を補正し、
前記第2補正部は前記第2の補正処理として、前記補正された骨格成分を用いて、色信号ごとに前記一の成分を補正することを特徴とする請求項1に記載の成分抽出補正装置。
【請求項7】
前記第1補正部による前記第1の補正処理、および前記第2補正部による前記第2の補正処理の動作の繰り返しを制御する制御部と、
前記制御部により前記第1の補正処理が繰り返される場合、前記第1補正部は、前記第2の補正処理により得た前記補正された一の成分を用いて、前記第1の補正処理を行うことを特徴とする請求項1から6のいずれか一つに記載の成分抽出補正装置。
【請求項8】
前記抽出部は、前記帯域信号の構造を表す骨格成分を帯域信号ごとに抽出するものであり、前記第1補正部は、帯域信号ごとに前記抽出された骨格成分を帯域信号ごとに補正するものであって、
帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号の大局的な構造を示す骨格成分を生成する合成部をさらに備えることを特徴とする請求項1から7のいずれか一つに記載の成分抽出補正装置。
【請求項9】
前記抽出部は、前記帯域信号の構造を表す骨格成分を帯域信号ごとに抽出するものであり、前記第1補正部は、その帯域信号ごとに抽出された骨格成分を帯域信号ごとに補正するものであり、前記第2補正部は、その帯域信号ごとに補正された前記骨格成分を用いて帯域信号ごとに前記一の成分を補正するものであって、
帯域信号ごとに補正された前記一の成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号の局所的な構造を示す成分を生成する合成部をさらに備えることを特徴とする請求項1から7のいずれか一つに記載の成分抽出補正装置。
【請求項10】
前記第1補正部が補正した骨格成分を記憶する第1記憶部と、
前記第2補正部が補正した一の成分を記憶する第2記憶部と、
一回目の前記第1の補正処理の前に、前記第1記憶部が記憶する骨格成分をゼロに設定し、前記第2記憶部が記憶する一の成分を帯域信号に設定する初期化部と、
を備えることを特徴とする請求項1に記載の成分抽出補正装置。
【請求項11】
前記第1補正部は、
前記帯域信号から前記一の成分を減じて得た第1の差分値に対して、複数のコアリング範囲を設定し、
前記第1の差分値に対して前記複数のコアリング範囲に基づきコアリング処理を行った結果を前記補正された骨格成分とすることを特徴とする請求項1に記載の成分抽出補正装置。
【請求項12】
前記第1補正部は、
前記第1の差分値がいずれかのコアリング範囲に属する場合に、前記第1の差分値をそのコアリング範囲に対応した固定値に変換し、
前記第1の差分値がいずれのコアリング範囲にも属さない場合に、前記第1の差分値を変換関数に基づいて変換することを特徴とする請求項11に記載の成分抽出補正装置。
【請求項13】
前記第2補正部は、
前記帯域信号から前記補正された骨格成分を減じて得た第2の差分値に対して、単一のコアリング範囲を設定し、
前記第2の差分値に対して前記単一のコアリング範囲に基づきコアリング処理を行った結果に応じて前記一の成分を補正することを特徴とする請求項1に記載の成分抽出補正装置。
【請求項14】
前記第2補正部は、
前記第2の差分値が前記単一のコアリング範囲に属する場合に、前記第2の差分値を所定の固定値に変換し、
前記第2の差分値がいずれのコアリング範囲にも属さない場合に、前記第2の差分値を変換関数に基づいて変換することを特徴とする請求項13に記載の成分抽出補正装置。
【請求項15】
前記分解部は、ウェーブレット変換により前記原画像信号を前記複数の周波数帯域に分解することを特徴とする請求項1から14のいずれか一つに記載の成分抽出補正装置。
【請求項16】
前記第1補正部は、前記補正された骨格成分が平坦成分とエッジ成分を含むよう前記骨格成分を補正することを特徴とする請求項1から15のいずれか一つに記載の成分抽出補正装置。
【請求項17】
原画像信号のうち大局的な構造を表す骨格成分を抽出する抽出部と、
前記抽出された骨格成分を複数の周波数帯域に分解して複数の帯域信号ごとの前記骨格成分を生成する分解部と、
前記帯域信号ごとの前記骨格成分を補正する第1の補正処理を行う第1補正部と、
前記帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号に対する骨格成分を生成する合成部と、
前記原画像信号に対する骨格成分と前記原画像信号とを用いて、前記原画像信号のうち前記原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う第2補正部と、
を備えることを特徴とする成分抽出補正装置。
【請求項18】
前記成分抽出補正装置は、前記抽出部による抽出処理、前記分解部による分解処理、前記第1補正部による前記第1の補正処理、前記合成部による合成処理、および前記第2補正部による前記第2の補正処理の動作の繰り返しを制御する制御部を備え、
前記制御部により前記抽出部による抽出処理が繰り返される場合、前記抽出部は、前記第2補正部により得た前記一の成分と、前記原画像信号を用いて、前記抽出処理を行うことを特徴とする請求項17に記載の成分抽出補正装置。
【請求項19】
前記抽出部は、前記原画像信号から前記一の成分を減じて得た差分値を用いて、前記原画像信号に対する前記骨格成分の抽出を行うことを特徴とする請求項17または18に記載の成分抽出補正装置。
【請求項20】
前記一の成分は、前記原画像信号の局所的な構造を表す成分であることを特徴とする請求項17から19のいずれか一つに記載の成分抽出補正装置。
【請求項21】
前記分解部は、ウェーブレット変換により前記原画像信号を前記複数の周波数帯域に分解することを特徴とする請求項17から20のいずれか一つに記載の成分抽出補正装置。
【請求項22】
前記第1補正部は、前記補正された骨格成分が平坦成分とエッジ成分を含むよう前記骨格成分を補正することを特徴とする請求項17から21のいずれか一つに記載の成分抽出補正装置。
【請求項23】
請求項1から22のいずれか一つに記載する成分抽出補正装置を備えた電子機器。
【請求項24】
原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解ステップと、
前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出ステップと、
前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正ステップと、
前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正ステップと、
を含むことを特徴とする成分抽出補正方法。
【請求項25】
コンピュータに、
原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解手順と、
前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出手順と、
前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正手順と、
前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正手順と、
を実行させることを特徴とする成分抽出補正プログラム。
【請求項26】
原画像信号のうち大局的な構造を表す骨格成分を抽出する抽出ステップと、
前記抽出された骨格成分を複数の周波数帯域に分解して複数の帯域信号ごとの前記骨格成分を生成する分解ステップと、
前記帯域信号ごとの前記骨格成分を補正する第1の補正処理を行う第1補正ステップと、
前記帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号に対する骨格成分を生成する合成ステップと、
前記原画像信号に対する骨格成分と前記原画像信号とを用いて、前記原画像信号のうち前記原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う第2補正ステップと、
を含むことを特徴とする成分抽出補正方法。
【請求項27】
コンピュータに、
原画像信号のうち大局的な構造を表す骨格成分を抽出する抽出手順と、
前記抽出された骨格成分を複数の周波数帯域に分解して複数の帯域信号ごとの前記骨格成分を生成する分解手順と、
前記帯域信号ごとの前記骨格成分を補正する第1の補正処理を行う第1補正手順と、
前記帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号に対する骨格成分を生成する合成手順と、
前記原画像信号に対する骨格成分と前記原画像信号とを用いて、前記原画像信号のうち前記原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う第2補正手順と、
を実行させることを特徴とする成分抽出補正プログラム。
【請求項1】
原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解部と、
前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出部と、
前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正部と、
前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正部と、
を備えることを特徴とする成分抽出補正装置。
【請求項2】
前記一の成分は、前記帯域信号の局所的な構造を表す成分であることを特徴とする請求項1に記載の成分抽出補正装置。
【請求項3】
前記第1補正部は、前記帯域信号から前記一の成分を減じて得た第1の差分値を用いて、前記第1の補正処理を行うことを特徴とする請求項1または2に記載の成分抽出補正装置。
【請求項4】
前記第2補正部は、前記帯域信号から前記補正された骨格成分を減じて得た第2の差分値を用いて、前記第2の補正処理を行うことを特徴とする請求項1から3のいずれか一つに記載の成分抽出補正装置。
【請求項5】
前記第2補正部は、前記第2の差分値と所定の閾値を比較することで得た指標値を算出し、前記第2の差分値から前記指標値を減じて得た第3の差分値を前記補正した一の成分とすることを特徴とする請求項4に記載の成分抽出補正装置。
【請求項6】
前記分解部は前記複数の帯域信号を色信号ごとに生成し、
前記抽出部は色信号ごとに生成された帯域信号を用いて、前記骨格成分を色信号ごとに抽出し、
前記第1補正部は前記第1の補正処理として、色信号ごとに生成された前記帯域信号を用いて、前記抽出された骨格成分を補正し、
前記第2補正部は前記第2の補正処理として、前記補正された骨格成分を用いて、色信号ごとに前記一の成分を補正することを特徴とする請求項1に記載の成分抽出補正装置。
【請求項7】
前記第1補正部による前記第1の補正処理、および前記第2補正部による前記第2の補正処理の動作の繰り返しを制御する制御部と、
前記制御部により前記第1の補正処理が繰り返される場合、前記第1補正部は、前記第2の補正処理により得た前記補正された一の成分を用いて、前記第1の補正処理を行うことを特徴とする請求項1から6のいずれか一つに記載の成分抽出補正装置。
【請求項8】
前記抽出部は、前記帯域信号の構造を表す骨格成分を帯域信号ごとに抽出するものであり、前記第1補正部は、帯域信号ごとに前記抽出された骨格成分を帯域信号ごとに補正するものであって、
帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号の大局的な構造を示す骨格成分を生成する合成部をさらに備えることを特徴とする請求項1から7のいずれか一つに記載の成分抽出補正装置。
【請求項9】
前記抽出部は、前記帯域信号の構造を表す骨格成分を帯域信号ごとに抽出するものであり、前記第1補正部は、その帯域信号ごとに抽出された骨格成分を帯域信号ごとに補正するものであり、前記第2補正部は、その帯域信号ごとに補正された前記骨格成分を用いて帯域信号ごとに前記一の成分を補正するものであって、
帯域信号ごとに補正された前記一の成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号の局所的な構造を示す成分を生成する合成部をさらに備えることを特徴とする請求項1から7のいずれか一つに記載の成分抽出補正装置。
【請求項10】
前記第1補正部が補正した骨格成分を記憶する第1記憶部と、
前記第2補正部が補正した一の成分を記憶する第2記憶部と、
一回目の前記第1の補正処理の前に、前記第1記憶部が記憶する骨格成分をゼロに設定し、前記第2記憶部が記憶する一の成分を帯域信号に設定する初期化部と、
を備えることを特徴とする請求項1に記載の成分抽出補正装置。
【請求項11】
前記第1補正部は、
前記帯域信号から前記一の成分を減じて得た第1の差分値に対して、複数のコアリング範囲を設定し、
前記第1の差分値に対して前記複数のコアリング範囲に基づきコアリング処理を行った結果を前記補正された骨格成分とすることを特徴とする請求項1に記載の成分抽出補正装置。
【請求項12】
前記第1補正部は、
前記第1の差分値がいずれかのコアリング範囲に属する場合に、前記第1の差分値をそのコアリング範囲に対応した固定値に変換し、
前記第1の差分値がいずれのコアリング範囲にも属さない場合に、前記第1の差分値を変換関数に基づいて変換することを特徴とする請求項11に記載の成分抽出補正装置。
【請求項13】
前記第2補正部は、
前記帯域信号から前記補正された骨格成分を減じて得た第2の差分値に対して、単一のコアリング範囲を設定し、
前記第2の差分値に対して前記単一のコアリング範囲に基づきコアリング処理を行った結果に応じて前記一の成分を補正することを特徴とする請求項1に記載の成分抽出補正装置。
【請求項14】
前記第2補正部は、
前記第2の差分値が前記単一のコアリング範囲に属する場合に、前記第2の差分値を所定の固定値に変換し、
前記第2の差分値がいずれのコアリング範囲にも属さない場合に、前記第2の差分値を変換関数に基づいて変換することを特徴とする請求項13に記載の成分抽出補正装置。
【請求項15】
前記分解部は、ウェーブレット変換により前記原画像信号を前記複数の周波数帯域に分解することを特徴とする請求項1から14のいずれか一つに記載の成分抽出補正装置。
【請求項16】
前記第1補正部は、前記補正された骨格成分が平坦成分とエッジ成分を含むよう前記骨格成分を補正することを特徴とする請求項1から15のいずれか一つに記載の成分抽出補正装置。
【請求項17】
原画像信号のうち大局的な構造を表す骨格成分を抽出する抽出部と、
前記抽出された骨格成分を複数の周波数帯域に分解して複数の帯域信号ごとの前記骨格成分を生成する分解部と、
前記帯域信号ごとの前記骨格成分を補正する第1の補正処理を行う第1補正部と、
前記帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号に対する骨格成分を生成する合成部と、
前記原画像信号に対する骨格成分と前記原画像信号とを用いて、前記原画像信号のうち前記原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う第2補正部と、
を備えることを特徴とする成分抽出補正装置。
【請求項18】
前記成分抽出補正装置は、前記抽出部による抽出処理、前記分解部による分解処理、前記第1補正部による前記第1の補正処理、前記合成部による合成処理、および前記第2補正部による前記第2の補正処理の動作の繰り返しを制御する制御部を備え、
前記制御部により前記抽出部による抽出処理が繰り返される場合、前記抽出部は、前記第2補正部により得た前記一の成分と、前記原画像信号を用いて、前記抽出処理を行うことを特徴とする請求項17に記載の成分抽出補正装置。
【請求項19】
前記抽出部は、前記原画像信号から前記一の成分を減じて得た差分値を用いて、前記原画像信号に対する前記骨格成分の抽出を行うことを特徴とする請求項17または18に記載の成分抽出補正装置。
【請求項20】
前記一の成分は、前記原画像信号の局所的な構造を表す成分であることを特徴とする請求項17から19のいずれか一つに記載の成分抽出補正装置。
【請求項21】
前記分解部は、ウェーブレット変換により前記原画像信号を前記複数の周波数帯域に分解することを特徴とする請求項17から20のいずれか一つに記載の成分抽出補正装置。
【請求項22】
前記第1補正部は、前記補正された骨格成分が平坦成分とエッジ成分を含むよう前記骨格成分を補正することを特徴とする請求項17から21のいずれか一つに記載の成分抽出補正装置。
【請求項23】
請求項1から22のいずれか一つに記載する成分抽出補正装置を備えた電子機器。
【請求項24】
原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解ステップと、
前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出ステップと、
前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正ステップと、
前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正ステップと、
を含むことを特徴とする成分抽出補正方法。
【請求項25】
コンピュータに、
原画像信号を複数の周波数帯域に分解して複数の帯域信号を生成する分解手順と、
前記生成された帯域信号を構成する複数の成分のうち、前記帯域信号の大局的な構造を表す骨格成分を抽出する抽出手順と、
前記複数の成分のうち前記骨格成分以外の一の成分と前記帯域信号とを用いて、前記抽出された骨格成分を補正する第1の補正処理を行う第1補正手順と、
前記補正された骨格成分と前記帯域信号とを用いて、前記一の成分を補正する第2の補正処理を行う第2補正手順と、
を実行させることを特徴とする成分抽出補正プログラム。
【請求項26】
原画像信号のうち大局的な構造を表す骨格成分を抽出する抽出ステップと、
前記抽出された骨格成分を複数の周波数帯域に分解して複数の帯域信号ごとの前記骨格成分を生成する分解ステップと、
前記帯域信号ごとの前記骨格成分を補正する第1の補正処理を行う第1補正ステップと、
前記帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号に対する骨格成分を生成する合成ステップと、
前記原画像信号に対する骨格成分と前記原画像信号とを用いて、前記原画像信号のうち前記原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う第2補正ステップと、
を含むことを特徴とする成分抽出補正方法。
【請求項27】
コンピュータに、
原画像信号のうち大局的な構造を表す骨格成分を抽出する抽出手順と、
前記抽出された骨格成分を複数の周波数帯域に分解して複数の帯域信号ごとの前記骨格成分を生成する分解手順と、
前記帯域信号ごとの前記骨格成分を補正する第1の補正処理を行う第1補正手順と、
前記帯域信号ごとに補正された前記骨格成分を前記複数の周波数帯域にわたって合成することで、前記帯域信号からなる前記原画像信号に対する骨格成分を生成する合成手順と、
前記原画像信号に対する骨格成分と前記原画像信号とを用いて、前記原画像信号のうち前記原画像信号に対する骨格成分以外の一の成分を補正する第2の補正処理を行う第2補正手順と、
を実行させることを特徴とする成分抽出補正プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図14】
【図15】
【図16】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図14】
【図15】
【図16】
【図13】
【公開番号】特開2010−33453(P2010−33453A)
【公開日】平成22年2月12日(2010.2.12)
【国際特許分類】
【出願番号】特願2008−196814(P2008−196814)
【出願日】平成20年7月30日(2008.7.30)
【出願人】(000000376)オリンパス株式会社 (11,466)
【出願人】(592218300)学校法人神奈川大学 (243)
【Fターム(参考)】
【公開日】平成22年2月12日(2010.2.12)
【国際特許分類】
【出願日】平成20年7月30日(2008.7.30)
【出願人】(000000376)オリンパス株式会社 (11,466)
【出願人】(592218300)学校法人神奈川大学 (243)
【Fターム(参考)】
[ Back to top ]