説明

撮像装置および映像信号の補正処理方法

【課題】高品位な映像信号を得ることができる撮像装置11、および高品位な映像信号を得ることができる映像信号の補正処理方法を提供する。
【解決手段】被写体10を撮影し映像画像20の映像信号を出力するCCD102と、撮影距離を取得する距離情報取得部108と、映像画像20の一部を構成する特定の被写体10Aの映像画像である注目領域22の撮影距離と、注目領域22の近傍領域23の撮影距離と、に基づき、ノイズ低減処理を行うノイズ低減部110と、を有する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像して得られた映像信号に対して信号補正処理を行う撮像装置および映像信号の補正処理方法に関し、特に被写体との距離情報をもとにノイズ低減処理を行う撮像装置、および被写体と撮像装置との距離情報をもとにノイズ低減処理を行う映像信号の補正処理方法に関する。
【背景技術】
【0002】
デジタルカメラ等の撮像装置では撮像して得られた映像信号をアナログ信号からデジタル信号に変換するときに映像信号中にノイズが含まれてしまう。またCCD等の撮像素子に欠陥画素があった場合等には映像信号中に固定パターンノイズが含まれてしまう。このため撮像装置では映像信号中のノイズを低減するためにノイズ低減処理が行われている。
【0003】
ノイズ低減処理は映像信号の変化の振幅を軽減する平滑化処理によって行うが、平滑化処理は映像信号のエッジ成分も滑らかにしてしまうため、画質を劣化してしまうという副作用が生じることがある。
【0004】
トマシらは、IEEE国際コンピュータビジョン会議予稿集(1998年、839ページから846ページ)にて、バイラテラルフィルタを用いるノイズ低減処理を開示している。バイラテラルフィルタは注目画素からの距離による重みと信号差による重みとに基づき、加算平均を算出して平滑化処理を行う。このためバイラテラルフィルタを用いることで映像信号のエッジ成分を保存した画質劣化の少ないノイズ低減処理を実現できる。
【先行技術文献】
【非特許文献】
【0005】
【非特許文献1】シー・トマシ、アール・マンデュチ(C. Tomasi and R. Manduchi)著、クレイおよびカラーイメージへのバイラテラルフィルタ処理(Bilateral filtering for gray and color images)、IEEE国際コンピュータビジョン会議予稿集(Proc. IEEE. Conf. Computer Vision)、(インド)、1998年、839ページから846ページ。
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかし、バイラテラルフィルタを用いたノイズ低減処理でも映像信号の差の小さい微小なエッジ成分に対しては十分な効果を奏することができずに、微小なエッジ成分を滑らかにし画質を劣化してしまうという問題が生じることがあった。
【課題を解決するための手段】
【0007】
上記目的を達成すべく、本発明の撮像装置は、被写体を撮影し映像画像の映像信号を出力する撮像手段と、前記映像信号に対応した、前記被写体と前記撮像手段との間の距離である撮影距離を取得する測距手段と、前記映像画像の一部を構成する特定の被写体の前記映像画像である注目領域の前記映像信号の前記撮影距離と、前記注目領域に隣接する隣接領域の前記映像信号の前記撮影距離と、に基づき、前記注目領域の前記映像信号に対する補正処理を行う補正処理手段と、を有することを特徴とする。
【0008】
また、本発明の映像信号の補正処理方法は、撮像手段により被写体を撮影し映像画像の映像信号を出力する撮影ステップと、前記映像信号に対応した前記被写体と前記撮像手段との間の距離である撮影距離を取得する距離情報取得ステップと、前記映像画像の一部を構成する特定の被写体の前記映像画像である注目領域の前記映像信号の前記撮影距離と、前記注目領域の隣接領域の前記映像信号の前記撮影距離と、に基づき、前記注目領域の前記映像信号に対する補正処理を行う補正処理ステップと、を有することを特徴とする映像信号の補正処理方法。
【発明の効果】
【0009】
本発明は、高品位な映像信号を得ることができる撮像装置、および高品位な映像信号を得ることができる映像信号の補正処理方法を提供する。
【図面の簡単な説明】
【0010】
【図1】本発明の第1実施形態の撮像装置の構成図である。
【図2】原色カラーフィルタの構成を示す説明図である。
【図3】本発明の第1実施形態の撮像装置のノイズ低減部の構成図である。
【図4】映像画像を説明するための説明図である。
【図5】本発明の第1実施形態の撮像装置の重み計数算出部の構成図である。
【図6】本発明の第2実施形態の撮像装置の重み計数算出部の構成図である。
【図7】本発明の第3実施形態の撮像装置の構成図である。
【図8】本発明の第3実施形態の撮像装置の重み計数算出部の構成図である。
【図9】本発明の第3実施形態における距離差の絶対値の分散vと分布係数σdとの関係をプロットした図である。
【図10】本発明の第3実施形態の撮像装置のノイズ低減処理の流れについて説明するためのフローチャートである。
【発明を実施するための形態】
【0011】
<第1実施形態>
以下、図面を参照して本発明の第1実施形態の撮像装置11について説明する。
図1は、本発明の第1実施形態の撮像装置11の構成図である。撮像装置11においては、撮像手段であるCCD102は、特定の被写体10Aおよび10B等を含む被写体10を、レンズ系100および絞り101を介して撮影し、アナログ映像信号を出力する。すなわち、映像信号は、CCD102の画素数の画素の信号の集合体であり、以下、画素の信号のことを単に画素と表現する場合もある。
【0012】
なお、本明細書において、単に「被写体10」と言う場合には、CCD102が撮影した画面全体に写っているものを意味し、特定の被写体10A、例えば近くの人物、または特定の被写体10B、例えば遠くの山、等を意味するものではない。CCD102から出力された被写体10のアナログ映像信号は、A/D変換器104にてデジタル映像信号に変換される。A/D変換器104から出力された映像信号は、バッファ105を介して、測光評価部106と、測距手段である距離情報取得部108と、ノイズ低減手段であるノイズ低減部110とへ転送される。
【0013】
測光評価部106は、絞り101およびCCD102と接続され、距離情報取得部108は、レンズ制御部107、および相対距離算出手段である相対距離算出部109と接続されている。レンズ制御部107はAFモータ103と接続されている。ノイズ低減部110は補間部111と接続され、補間部111は信号処理部112と接続されている。信号処理部112は圧縮部113と接続され、圧縮部113は出力部114と接続されている。
【0014】
マイクロコンピュータ等から構成された制御手段である制御部115は、A/D変換器104と、測光評価部106と、レンズ制御部107と、距離情報取得部108と、相対距離算出部109と、ノイズ低減部110と、補間部111と、信号処理部112と、圧縮部113と、出力部114と、双方向に接続されている。さらに、電源スイッチ(不図示)と、シャッターボタン(不図示)と、撮影時のシーンモード等の撮影条件の切り替え等を行うためのインターフェースを備えた外部I/F部116とが、制御部115と、双方向に接続されている。なお、撮像装置11のシャッターボタンは、半押しされることで、プリ撮影モードに入り、全押しされることで本撮影モードに入る、2段階の押しボタンスイッチから構成されている。また、シーンモードとは、種々の撮影シーンに有利なシャッター速度、絞り値、または/かつ特定の被写体等を、撮像装置が自動的に選択し、適正条件で撮影を行うための設定であり、例えば、ポートレートモード、風景モード、クローズアップ(マクロ撮影)モード等があり、撮影開始前に撮影者が外部I/F部116を介して選択することができる。
【0015】
次に、図1を用いて、撮像装置11における信号の流れについて説明する。
撮像装置11は外部I/F部116を介してISO感度およびシャッタースピード等の撮影条件が設定された後、外部I/F部116の一部であるシャッターボタン(不図示)が半押しされることでプリ撮影モードに入る。レンズ系100および絞り101を介してCCD102により撮影された映像信号は、A/D変換器104にてアナログ信号からデジタル信号に変換されてバッファ105に保存される。すなわち撮像手段により被写体を撮影し映像信号を出力する撮影ステップが行われる。
【0016】
なお後述するように、撮像装置11では本撮影モードでも、再度、撮影ステップが行われる。そして、撮像装置11ではプリ撮影モードにおける第1の撮影ステップで出力される第1の映像信号をもとに、本撮影モードにおける第2の撮影ステップで出力される第2の映像信号のノイズ低減処理が行われる。もちろん1回の撮影ステップのみで得られた映像信号を用いて全ての処理を行ってもよい。
【0017】
なお本実施の形態の撮像装置11ではCCD102としてベイヤー型の原色カラーフィルタを有する単板CCDを例に説明する。ここで図2はベイヤー型の原色カラーフィルタの構成を示す説明図であり、多数のCCD素子が2次元に配置された構造を有し、各CCD素子を横方向の位置(座標)を「i」、縦方向の位置(座標)を「j」で示している。ベイヤー型の原色カラーフィルタは2×2素子を基本単位とし、R、G1、G2、またはBの4種類のいずれか1つのカラーフィルタが、それぞれのCCD素子に配置されている。なお、G1とG2とは同一の光学特性を持つフィルタである。そして、2×2素子の基本単位19Aにより1つの映像信号からなる画素19(図4参照)が出力される。
【0018】
バッファ105に保存された映像信号は、測光評価部106と、距離情報取得部108と、ノイズ低減部110とへ転送される。測光評価部106では、映像信号中の輝度レベルを算出し、適正露光になるように絞り101およびCCD102の電子シャッタースピード等を制御する。
【0019】
測距手段である距離情報取得部108は、撮像装置11から被写体10までの距離である撮影距離dを、それぞれの画素に対応した映像信号に対して算出する。すなわち、映像信号に対応した、被写体10と撮像装置11との間の撮影距離dを算出する距離情報取得ステップが実行される。距離情報取得部108は、例えば、焦点ぼけの具合の異なる複数枚の画像から「ぼけ」の状態を表す「ぼけパラメータ」を算出する。ここで、ぼけパラメータとは輝度信号の焦点ぼけ状態を示す指標であり、PSF(Point Spread Function:点分散関数)の分散値と相関のあるパラメータである。
【0020】
PSFの分散値と撮影距離dとの関係は、所定の関係式でモデル化されているため、距離情報取得部108は、ぼけパラメータから、映像信号のそれぞれの画素について、撮像装置11から被写体10までの撮影距離dを算出する。ただし、上記関係式は、レンズの構成、ズーム、および絞り等の条件によって異なるため、それぞれの条件に応じた関係式を用いて算出される。
【0021】
距離情報取得部108は、上記説明のように、映像信号のそれぞれの画素について、それぞれの撮影距離dを算出、すなわち、CCD102の素子数(画素数)と同じ数の撮影距離dを算出しても良いが、撮像装置11では、処理の効率化のために、映像信号を複数の領域に分割し、分割した領域毎にフォーカスポイントを求めることで、任意の位置の映像信号の撮影距離dを表す距離マップを作成することもできる。距離情報取得部108により取得された撮影距離dの情報は、レンズ制御部107および相対距離算出部109へ転送される。
【0022】
特定距離取得手段であるレンズ制御部107は、距離情報取得部108を介して得られた撮影距離情報に基づきAFモータ103を制御し、設定されたシーンモード等に基づいて、特定の被写体10A、例えば人物、に焦点のあった合焦画像を得る。言い換えれば、レンズ制御部107は、合焦画像が得られる合焦距離である特定距離の距離情報を取得する特定距離情報取得ステップを行う。
【0023】
相対距離算出手段である相対距離算出部109は、距離情報取得部108から得られた撮影距離dと、レンズ制御部107によって求められた特定距離とに基づき、それぞれの画素に対応した映像信号全体について、相対距離rを算出する相対距離算出ステップを行う。
【0024】
そして、撮像装置11は、外部I/F部116を介してシャッターボタンが全押しされることで本撮影を行う。すなわち、撮像手段により被写体を撮影し第2の映像信号を出力する第2の撮影ステップが再度繰り返される。以下に説明する、ノイズ低減ステップにおいてノイズ低減処理が行われる映像信号は、第2の映像信号である。本撮影CCD102により撮影された映像信号はプリ撮影モードのときと同様にバッファ105へ転送され、一時的に保存される。本撮影は、測光評価部106にて求められた露光条件とレンズ制御部107によって求められた合焦条件等とに基づき行われ、これらの撮影条件は制御部115へ転送される。
【0025】
撮像装置11の補正処理手段であり、ノイズ低減手段であるノイズ低減部110は、相対距離算出部109から得られる相対距離rに基づき、バッファ105から得られる映像信号に対して適応的なノイズ低減処理を行うノイズ低減ステップが行われる。なお、適応的とは、それぞれの画素の映像信号が、それぞれの状況に応じて適した処理がされていることを意味する。
【0026】
ノイズ低減処理後の映像信号は、補間部111へ転送される。補間部111は、公知の補間処理により三板状態の映像信号を生成し、信号処理部112へ転送する。信号処理部112では、映像信号に対して公知の色変換処理および階調変換処理などが行われ、圧縮部113へ転送される。圧縮部113は、公知のJPEG等の圧縮処理を行い、出力部114へ映像信号を転送する。出力部114は、圧縮後の映像信号をメモリーカード等のメディアに記録保存する。
【0027】
ここで、図3を用いてノイズ低減部110の構成について説明する。図3は、ノイズ低減部110の構成図である。図3に示すように、ノイズ低減部110は、画像バッファ500と、局所領域抽出部501と、距離差算出部502と、上限設定部503と、クリッピング部504と、重み係数算出部505と、加算平均部506とを有する。バッファ105は画像バッファ500に接続している。画像バッファ500は局所領域抽出部501に接続している。局所領域抽出部501は、距離差算出部502および加算平均部506に接続している。距離情報取得部108は距離差算出部502に接続している。距離差算出部502および上限設定部503はクリッピング部504へ接続されている。
【0028】
クリッピング部504は重み係数算出部505へ、重み係数算出部505は加算平均部506へ接続されている。加算平均部506は補間部111に接続している。制御部115は、局所領域抽出部501、距離差算出部502、上限設定部503、クリッピング部504、重み係数算出部505、および加算平均部506と双方向に接続されている。
【0029】
バッファ105からの映像信号は、画像バッファ500に一時的に保存された後、局所領域抽出部501に転送される。局所領域抽出部501は、被写体映像の中の注目領域を構成するそれぞれの注目画素を中心とする所定の画素単位サイズの局所領域、例えば5×5画素単位の局所領域を抽出し、局所領域中に属する画素の映像信号を、距離差算出部502および加算平均部506へ転送する。
【0030】
ここで、図4は、映像画像を説明するための説明図である。注目画素21とは、例えば、合焦位置にある特定の被写体10Aの映像の画素19であり、注目領域22を構成する画素19である。言い換えれば注目領域22とは被写体10の映像画像20全体の中で、合焦位置にある特定の被写体10Aの映像画像の領域である。そして、注目領域22は全て合焦画素から構成されているのに対して、局所領域24は合焦画素である注目画素21を中心としているが合焦画素と非合焦画素とから構成されており、近傍領域23は非合焦画素から構成されている。図4から明らかなように近傍領域23は注目領域22に隣接する領域である。さらに具体的には、近傍領域23は注目領域22の外縁部に沿って、画素数として「(局所領域の画素数―1)/2」の幅を持った領域としてもよい。言い換えれば、近傍領域23は合焦画素からN画素の範囲にある非合焦画素の領域であり、例えば、Nは1以上の整数である。なお、図4は1箇所の注目領域22を含む映像画像20の一部の画像20Aを表示しているが、映像画像20は複数の注目領域22を含んでいても良い。
【0031】
距離情報取得部108で得られた距離は、距離差算出部502へ転送される。
【0032】
距離差算出手段である距離差算出部502は、局所領域内の各画素に対応する距離から注目画素に対応する距離を減算することで各画素に対応する距離差の絶対値を算出し、クリッピング部504へ転送する。
【0033】
上限設定手段である上限設定部503は、外部I/F部116から制御部115を介して得られる合焦条件またはシーンモード等の情報に基づき、距離差絶対値の上限値である距離差上限値を設定する。上限設定部503は、距離差絶対値が無限大となり計算が困難になるのを防ぐために設けられたものであり、制御部115を介して手動で設定することも可能である。例えば、シーンモードがマクロ撮影モードである場合は、注目領域と近傍領域との距離差は全体的に小さくなるので、距離差上限値を小さな値とする。逆に、風景と人物を同時に撮影するような場合は、注目領域と近傍領域との距離差が大きくなるので、距離差上限値を大きな値とする。上限設定部503が設定した距離差上限値は、クリッピング部504へ転送される。
【0034】
クリッピング手段であるクリッピング部504は、距離差算出部502から転送された局所領域内の各画素に対応する距離差の絶対値に対して、距離差上限値に基づき、クリッピング処理を行う。ここで、クリッピング処理とは、距離差上限値を超える距離差絶対値を距離差上限値で置き換える処理である。クリッピング処理後の局所領域内の画素の距離差絶対値は、重み係数算出手段である重み係数算出部505へ転送される。
【0035】
ここで、図5は、撮像装置11の重み係数算出部の構成図である。図5に示すように、重み係数算出部505は、関数演算部600と、分布係数を記録した係数ROM601とを有する。重み係数算出部505は、クリッピング処理後の距離差絶対値に基づき、局所領域内の各画素に対する重み係数を算出する。
【0036】
図5に示すように、クリッピング部504および係数ROM601は関数演算部600に接続している。関数演算部600は加算平均部506に接続している。制御部115は関数演算部600と双方向に接続されている。クリッピング処理後の局所領域内の距離差の絶対値は、関数演算部600に転送される。
【0037】
関数演算部600では、所定の分布係数を係数ROM601から読み出し、局所領域内の各画素に対応する距離差絶対値に基づく重み係数の算出を行う。例えば、重み係数は以下の式1を用いて求める。
【0038】
(式1)

ここで、(i、j)は注目画素の座標を、(j+m、j+n)は注目画素(i、j)から水平方向にm、垂直方向にn画素だけ離れた近傍画素の座標を、Wは局所領域の画素サイズ(例えば、W=5)を、w(j+m、j+n)は座標(j+m、j+n)の画素における重み係数を示している。また、d(i、j)は座標(i、j)の画素における距離情報の値を表し、σdは距離差に対する重み係数を表すガウス分布の標準偏差を表す分布係数である。分布係数σdは予め係数ROM601に記録しておく。
【0039】
式1より明らかなように、重み係数算出部505における演算処理では、注目画素の距離情報と近傍画素の距離差の絶対値が大きくなると、それに応じて近傍画素に対する重み係数が小さくなる。距離差絶対値が小さい近傍画素の映像信号を用いて加算平均を算出するため、距離差絶対値が大きい領域ではエッジ成分を保存する平滑化処理が行われる。
【0040】
重み係数算出部505が算出した重み係数は、加算平均手段である加算平均部506へ転送される。加算平均部506では、重み係数算出部505で算出された重み係数に基づき、局所領域抽出部501で得られた局所領域内の各画素の映像信号に対する加算平均を求める。算出した加算平均は、注目画素の映像信号と置き換えられる。加算平均後の注目画素の映像信号は、補間部111へ転送される。
【0041】
以上の説明の本実施形態の撮像装置11では、距離差絶対値の大きい領域と小さい領域とでノイズ低減処理の強度を変えることで、映像信号の差の小さい微小なエッジ成分に対して過度の処理を行わないため、高品位な映像信号を得ることができる。
【0042】
また、本実施形態の映像信号の補正処理方法では、高品位な映像信号を得ることができる。
【0043】
<第1実施形態の変形例>
以下、図面を参照して本発明の第1実施形態の変形例の撮像装置11Bについて説明する。本変形例の撮像装置11Bは、第1実施形態の撮像装置11と類似しているため、同じ構成要素には同じ符号を付し説明は省略する。
【0044】
第1実施形態の撮像装置11の重み係数算出部505は、関数演算部600が関数を用いて重み係数を算出する構成となっていた。
これに対して、本変形例の撮像装置11Bの重み係数算出部505Bは、予め距離差絶対値と重み係数との対応関係が記録されている係数記録テーブルであるテーブルROMを参照して重み係数を求める。
【0045】
図6に示すように、撮像装置11Bの重み係数算出部505Bは、テーブル演算部602とテーブルROM603とを有する。
【0046】
クリッピング部504およびテーブルROM603はテーブル演算部602に接続している。テーブル演算部602は加算平均部506に接続している。制御部115はテーブル演算部602と双方向に接続されている。テーブル演算手段であるテーブル演算部602は、テーブルROM603を参照し、クリッピング部504から転送される局所領域内の距離差絶対値に対応する重み係数を算出する。テーブルROM603に記録されているテーブル(対応表)は予め定められているものであり、例えば、一定の間隔でサンプリングされた距離差絶対値に対して、式1の関数を用いて重み係数を算出し、距離差絶対値と重み係数との関係を対応付けることで定めることができる。重み係数算出部505Bが算出した重み係数は、加算平均部506へ転送される。
【0047】
以上の説明の本変形例の撮像装置11Bは、第1実施形態の撮像装置11と同様の効果を有するだけでなく、テーブル演算処理は実装化が容易であるために、撮像装置11と比較して、より高速かつ低コストなシステムを構築できる。また、本変形例の映像信号の補正処理方法では、第1実施形態の映像信号の補正処理方法と同様の効果を有するだけでなく、第1実施形態の映像信号の補正処理方法と比較して、より高速かつ低コストなシステムを構築できる。
【0048】
<第2実施形態>
以下、図面を参照して本発明の第2実施形態の撮像装置11Cについて説明する。本実施の形態の撮像装置11Cは、第1実施形態の撮像装置11と類似しているため、同じ構成要素には同じ符号を付し説明は省略する。
【0049】
図7は、本実施の形態の撮像装置11Cのノイズ低減部110Cの構成を示す構成図である。ノイズ低減部110Cは、図3に示した第1実施形態のノイズ低減部110の構成に信号差算出部507および座標差算出部508を追加した構成になっている。
【0050】
図7に示すように、局所領域抽出部501は、信号差算出部507および座標差算出部508に接続している。信号差算出部507および座標差算出部508は、重み係数算出部505に接続している。制御部115は、信号差算出部507および座標差算出部508と双方向に接続されている。局所領域抽出部501で得られた局所領域内の映像信号は、信号差算出部507および座標差算出部508へ転送される。信号差算出手段である信号差算出部507は、局所領域内の各画素の映像信号と注目画素の映像信号との差の絶対値を算出する。信号差算出部507の処理を、式で表すと以下の式2のようになる。
【0051】
(式2)

ここで、f(i、j)は座標(i、j)の画素の映像信号を、dS(j+m、j+n)は座標(j+m、j+n)の画素における注目画素の映像信号との差の絶対値を表す。局所領域内の各画素に対応する映像信号の差の絶対値は、重み係数算出部505へ転送される。
【0052】
座標差算出手段である座標差算出部508は、局所領域内の各画素の2次元座標値と注目画素の2次元座標値の差である画素間の距離を算出する。なお、被写体10と撮像装置11Cの間の距離である撮影距離dと区別するため、画素間の距離を「座標値の差の絶対値」という。座標値の差の絶対値を式で表すと以下の式3のようになる。
【0053】
(式3)

ここで、dC(j+m、j+n)は座標(j+m、j+n)の画素における注目画素の座標値との差の絶対値を表す。算出した座標値の差の絶対値は、重み係数算出部505Cへ転送される。
【0054】
図8は、撮像装置11Cの重み係数算出部の構成図である。撮像装置11Cの重み係数算出手段である重み係数算出部505Cは、クリッピング部504、信号差算出部507および座標差算出部508から転送される距離差絶対値、映像信号の差の絶対値、座標値の差の絶対値に基づき、局所領域内の各画素に対する重み係数を算出する。
【0055】
図8に示すように、重み係数算出部505Cの構成は、図5に示した第1の実施の形態の撮像装置11の重み係数算出部505の構成に分散算出部604と、係数設定部605と、第2係数ROM606とを追加した構成になっている。
【0056】
クリッピング部504は分散算出部604および関数演算部600に接続している。分散算出部604および係数ROM601は、係数設定部605に接続されている。信号差算出部507および座標差算出部508は、関数演算部600に接続している。係数設定部605および第2係数ROM606もまた、関数演算部600に接続している。制御部115は、分散算出部604および係数設定部605と双方向に接続されている。
【0057】
分散算出手段である分散算出部604では、クリッピング部504を介して得られる局所領域内の距離差絶対値の分散vを算出し、係数設定部605に転送する。調整手段である係数設定部605は、係数ROM601から距離差絶対値に対する重み係数を表すガウス分布の標準偏差である分布係数σdを読み込み、分散算出部604で算出した距離差絶対値の分散vに応じて分布係数σdの値を変換する。
【0058】
具体的には、係数設定部605は、距離差の絶対値の分散vが大きい場合は、その局所領域内にエッジ成分となる画素が含まれると判断し、分布係数σdの値を小さくすることでノイズ低減処理の強度を弱める。反対に、分散vが小さい場合は、その局所領域は映像信号の振幅の小さい平坦な領域であると判断し、分布係数σdの値を大きくすることでノイズ低減処理の強度を強くする。
【0059】
図9に、距離差の絶対値の分散vと分布係数σdとの関係をプロットした図を示す。図9に示した係数設定部605の処理では、分散vに対して分布係数σdが線形に減少する変換を行っている。ただし、分散vが所定の値vth以上になった場合には分布係数σdの値を固定化、いわゆる、クリップ、している。これは、分散vが大きくなった場合に分布係数σdが微小な値となり、実質的にノイズ低減処理が行われなくなるのを防ぐためである。
【0060】
係数設定部605で設定された分布係数σdは、関数演算部600に転送される。関数演算部600では、係数設定部605で算出した分布係数σdと、クリッピング部504から転送される距離差絶対値と、信号差算出部507から転送される映像信号の差の絶対値と、座標差算出部508から転送される座標値の差の絶対値、とに基づき、以下の(式4)を用いて局所領域内の各画素に対する重み係数を算出する。
【0061】
(式4)

σ1は座標値の差の絶対値に対する重み係数を表すガウス分布の標準偏差を表す係数を示し、σ2は映像信号の差の絶対値に対する重み係数を表すガウス分布の標準偏差を表す係数を示す。σ1およびσ2は予め決められている所定の値で第2係数ROM606に保存されている。関数演算部600は(式4)の計算のときに第2係数ROM606からσ1およびσ2を読み込む。算出した重み係数は、加算平均部506へ転送される。
【0062】
ここで、図10を用いて、第3実施形態の撮像装置11Cにおけるノイズ低減処理の流れについて説明する。図10は、第3実施形態の撮像装置11Cにおけるノイズ低減処理の流れを説明するためのフローチャートである。
【0063】
以下、図10のフローチャートに従い説明する。
【0064】
<ステップS20> 撮影ステップ
撮像装置11Cでは、シーンモードの設定等に従い、制御部115の制御により特定の被写体10Aに焦点のあった合焦画像を得る撮影ステップが実行される。すなわち、撮像手段であるCCD102により、特定の被写体10Aを含む被写体10の映像画像の映像信号が出力される。
【0065】
<ステップS21> 撮影距離取得ステップ
映像信号を構成する個々の画素の映像信号のぞれぞれに対して、撮像装置11Cと被写体10の間の撮影距離が距離情報取得部108により算出される。
【0066】
<ステップS22> 局所領域抽出ステップ
局所領域抽出部501は、特定の被写体10Aを構成する注目画素を中心とする、例えば5×5画素サイズの局所領域を抽出する。
【0067】
<ステップS23> 撮影距離差算出ステップ
距離差算出部502は局所領域内の各画素に対して、注目画素の撮影距離との差の絶対値を算出する。
【0068】
<ステップS24> 距離差上限値設定ステップ
制御部115は、上限設定部に設定されている距離差の絶対値の上限値を読み込む。
【0069】
<ステップS25> クリッピング処理ステップ
クリッピング部504は、ステップS24で得られた上限値に基づき、局所領域内の各画素に対する距離差の絶対値に対してクリッピング処理を行う。
【0070】
<ステップS26> 映像信号差算出ステップ
信号差算出部507は、局所領域内の各画素に対して、注目画素の映像信号との差の絶対値を算出する。
【0071】
<ステップS27> 座標差算出ステップ
座標差算出部508は、局所領域内の各画素に対して、注目画素の座標値との差の絶対値を算出する。
【0072】
<ステップS28> 重み係数算出ステップ
重み係数算出部505Cは、Step25、Step26およびStep27から得られた距離差の絶対値、映像信号の差の絶対値、および座標値の差の絶対値に基づき、局所領域内の各画素に対する重み係数を算出する。
【0073】
<ステップS29> 加算平均ステップ
加算平均部206は、Step28から得られた重み係数に基づき局所領域内の重み付け加算平均を算出し、算出した加算平均で注目画素の映像信号を置き換える。
【0074】
<ステップS30>
全画素に対する処理が完了したか否かを判断し、完了していない場合(No)はStep22に戻り、全画素に対する処理が完了するまで同様の処理を繰り返す。全画素に対するノイズ低減処理が完了した場合(Yes)には、ノイズ低減部110は、補間部111に処理後の映像信号を転送する。
【0075】
<ステップS31>
公知の補間処理が補間部111において行われ、色変換、階調変換、およびエッジ強調処理などが信号処理部112において行われる。
【0076】
<ステップS32>
公知のJPEG等の圧縮処理が圧縮部113において行われる。
【0077】
<ステップS32>
処理後の映像信号を出力部114に出力し、撮像装置11Cの処理は終了する。
【0078】
第3実施形態の撮像装置11Cは、第1実施形態の撮像装置11と同様に、距離情報に基づき適応的にノイズ低減処理の強度を制御するため、映像信号の領域毎に最適なノイズ低減処理を行うことが可能となり、高品位な映像信号を得ることができる。また、撮像装置11Cは注目画素との距離差の絶対値に応じて加算平均時の重み係数を決定しているため、例えば、局所領域内で距離差の絶対値が大きければ、微小なエッジ成分に対しても劣化の少ないノイズ低減処理を行うことが可能となる。
また、第3実施形態の映像信号の補正処理方法は、第1実施形態の映像信号の補正処理方法が有する効果に加えて、さらに微小なエッジ成分に対しても劣化の少ないノイズ低減処理を行うことが可能となる。
【0079】
撮像装置11Cでは、距離差の絶対値の分散に応じてガウス分布の標準偏差を変換しているが、これに限定されることはなく、例えば図8に示す重み係数算出部505Cにおいて、局所領域抽出部501から得られる局所領域内の距離情報を分散算出部604に転送し、分散算出部604にて距離情報の分散を算出する構成も可能である。この構成の場合、距離情報の分散に基づきガウス分布の標準偏差を変換する。
【0080】
なお、撮像装置11等ではベイヤー型の原色カラーフィルタを前面に配置した単板CCDを対象としているが、これに限定されることはなく、補色のカラーフィルタを前面に配置した単板CCDや、三板CCDに適用することも可能である。
【0081】
また、撮像装置11等ではガウス分布に基づき重み係数を算出しているが、これに限ることはなく、ラプラス分布や有理関数に基づき算出することも可能である。
【0082】
さらに、撮像装置11等ではハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。例えば、CCD102からの映像信号を未処理のままのRawデータとし、制御部115からの撮影時の情報をヘッダ情報として出力し、別途ソフトウェアにて処理する構成も可能である。
【0083】
なお、撮像装置11等では距離情報に基づき映像信号に対するノイズ低減処理を制御する構成となっているが、ノイズ低減処理に限ることはなく、例えば画素欠陥を補間するときに距離情報を用いることも可能である。画素欠陥の補間を行う場合は、映像信号全体に対する距離情報をステレオ測距などで予め求めておき、欠陥のある画素位置と距離情報とを対応付け、画素欠陥部と同等の距離情報を持つ近傍画素の情報を用いて補間を行うこともできる。
【0084】
本発明は、上述した実施の形態および変形例に限定されるものではなく、本発明の要旨を変えない範囲において、種々の変更、改変等が可能である。
【符号の説明】
【0085】
10、10A、10B…被写体、11、11B、11C…撮像装置、20…映像画像、21…注目画素、22…注目領域、23…近傍領域、24…局所領域、100…レンズ系、102…CCD、103…モータ、104…変換器、105…バッファ、106…測光評価部、107…レンズ制御部、108…距離情報取得部、109…相対距離算出部、110…ノイズ低減部、110C…ノイズ低減部、111…補間部、112…信号処理部、113…圧縮部、114…出力部、115…制御部、116…外部I/F部、206…加算平均部、500…画像バッファ、501…局所領域抽出部、502…距離差算出部、503…上限設定部、504…クリッピング部、505…係数算出部、505B…係数算出部、505C…係数算出部、506…加算平均部、507…信号差算出部、508…座標差算出部、600…関数演算部、602…テーブル演算部、604…分散算出部、605…係数設定部

【特許請求の範囲】
【請求項1】
被写体を撮影し映像画像の映像信号を出力する撮像手段と、
前記映像信号に対応した、前記被写体と前記撮像手段との間の距離である撮影距離を取得する測距手段と、
前記映像画像の一部を構成する特定の被写体の前記映像画像である注目領域の前記映像信号の前記撮影距離と、前記注目領域に隣接する隣接領域の前記映像信号の前記撮影距離と、に基づき、前記注目領域の前記映像信号に対する補正処理を行う補正処理手段と、を有することを特徴とする撮像装置。
【請求項2】
前記補正処理はノイズ低減処理であり、前記補正処理手段はノイズ低減手段であることを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記ノイズ低減手段は、
前記注目領域の前記映像信号の前記撮影距離と、前記隣接領域の前記映像信号の前記撮影距離との差である距離差を算出する距離差算出手段と、
前記距離差に基づき、前記注目領域の映像信号および前記隣接領域の映像信号に対する重み係数を算出する重み係数算出手段と、
前記重み係数に基づき、前記注目領域の映像信号と前記隣接領域の映像信号とを重み付け加算平均した加算平均映像信号を算出し、前記加算平均映像信号を前記注目領域の前記映像信号と置き換える加算平均手段と、を有することを特徴とする請求項2に記載の撮像装置。
【請求項4】
前記ノイズ低減手段は、
前記注目領域の前記映像信号と前記隣接領域の前記映像信号との差である映像信号差を算出する信号差算出手段と、
前記注目領域の前記映像画像における座標値と前記隣接領域の前記映像画像における座標値との差である座標値差を算出する座標差算出手段と、
前記距離差と映像信号差と座標値差とに基づき、重み係数を算出する重み係数算出手段と、
前記重み係数に基づき、前記注目領域の前記映像信号と前記隣接領域の前記映像信号とを重み付け加算平均した加算平均映像信号を算出し、前記加算平均映像信号を前記注目領域の前記映像信号に置き換える加算平均手段と、を有することを特徴とする請求項3に記載の撮像装置。
【請求項5】
前記重み係数算出手段は、
前記距離差の分布の標準偏差を表す分布係数を用いて、前記映像信号に対する重み係数を算出する、重み係数算出関数手段を有することを特徴とする請求項3または請求項4に記載の撮像装置。
【請求項6】
前記重み係数算出手段は、
前記距離差の絶対値に対応した前記重み係数を記録する係数記録テーブルと、
前記係数記録テーブルをもとに前記重み係数を算出するテーブル演算手段と、を有することを特徴とする請求項3または請求項4に記載の撮像装置。
【請求項7】
前記距離差算出手段は、
前記距離差の絶対値に対して距離差上限値を設定する距離差上限設定手段と、
前記距離差の絶対値が前記距離差上限値を超える場合に、前記距離差の絶対値を前記距離差上限値に置き換えるクリッピング手段と、を有することを特徴とする請求項3または請求項4に記載の撮像装置。
【請求項8】
前記重み係数算出手段は、
前記注目領域と前記注目領域の隣接領域との映像信号に対応した前記撮影距離の分散を算出する分散算出手段と、
前記撮影距離の前記分散に基づき前記分布係数を調整する調整手段と、を有することを特徴とする請求項5に記載の撮像装置
【請求項9】
前記重み係数算出手段は、前記距離差の絶対値が大きい程、より小さな重み係数を算出することを特徴とする請求項3または請求項4に記載の撮像装置。
【請求項10】
撮像手段により被写体を撮影し映像画像の映像信号を出力する撮影ステップと、
前記映像信号に対応した前記被写体と前記撮像手段との間の距離である撮影距離を取得する距離情報取得ステップと、
前記映像画像の一部を構成する特定の被写体の前記映像画像である注目領域の前記映像信号の前記撮影距離と、前記注目領域の隣接領域の前記映像信号の前記撮影距離と、に基づき、前記注目領域の前記映像信号に対する補正処理を行う補正処理ステップと、を有することを特徴とする映像信号の補正処理方法。
【請求項11】
前記補正処理はノイズ低減処理であることを特徴とする請求項10に記載の映像信号の補正処理方法。
【請求項12】
前記補正処理ステップは、
前記注目領域の前記映像信号の前記撮影距離と、前記隣接領域の前記映像信号の前記撮影距離との差である距離差を算出する距離差算出ステップと、
前記距離差に基づき、前記注目領域の映像信号および前記隣接領域の映像信号に対する重み係数を算出する重み係数算出ステップと、
前記重み係数に基づき、前記注目領域の映像信号と隣接領域の映像信号とを重み付け加算平均した加算平均映像信号を算出し、前記加算平均映像信号を前記注目領域の前記映像信号と置き換える加算平均ステップと、を有することを特徴とする請求項11に記載の映像信号の補正処理方法。
【請求項13】
前記補正処理ステップは、
前記注目領域の前記映像信号と前記隣接領域の前記映像信号との差である映像信号差を算出する信号差算出ステップと、
前記注目領域の前記映像画像における座標値と前記隣接領域の前記映像画像における座標値との差である座標値差を算出する座標差算出ステップと、
前記距離差と映像信号差と座標値差とに基づき、重み係数を算出する重み係数算出ステップと、
前記重み係数に基づき、前記注目領域の前記映像信号と前記隣接領域の前記映像信号とを重み付け加算平均した加算平均映像信号を算出し、前記加算平均映像信号を前記注目領域の前記映像信号に置き換える加算平均ステップと、を有することを特徴とする請求項11に記載の映像信号の補正処理方法。
【請求項14】
前記重み係数算出ステップは、
前記距離差の分布の標準偏差を表す分布係数を用いて、前記映像信号に対する重み係数を算出する、重み係数算出関数ステップを有することを特徴とする請求項12または請求項13に記載の映像信号の補正処理方法。
【請求項15】
前記重み係数算出ステップは、
前記距離差の絶対値に対応した前記重み係数を記録する係数記録テーブルをもとに前記重み係数を算出するテーブル演算ステップ、を有することを特徴とする請求項12または請求項13に記載の映像信号の補正処理方法。
【請求項16】
前記距離差算出ステップは、
前記距離差の絶対値に対して距離差上限値を設定する距離差上限設定ステップと、
前記距離差の絶対値が前記距離差上限値を超える場合に、前記距離差の絶対値を前記距離差上限値に置き換えるクリッピングステップと、を有することを特徴とする請求項12または請求項13に記載の映像信号の補正処理方法。
【請求項17】
前記重み係数算出ステップは、
前記注目領域と前記注目領域の隣接領域との映像信号に対応した前記撮影距離の分散を算出する分散算出ステップと、
前記撮影距離の前記分散に基づき前記分布係数を調整する調整ステップと、を有することを特徴とする請求項14に記載の映像信号の補正処理方法。
【請求項18】
前記重み係数算出ステップは、前記距離差の絶対値が大きい程、より小さな重み係数を算出することを特徴とする請求項12または請求項13に記載の映像信号の補正処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2010−239493(P2010−239493A)
【公開日】平成22年10月21日(2010.10.21)
【国際特許分類】
【出願番号】特願2009−86696(P2009−86696)
【出願日】平成21年3月31日(2009.3.31)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】