説明

画像フィルタ、画像処理装置、撮像装置、画像処理方法およびプログラム

【課題】急峻なピークを持つ出力特性の画像フィルタを簡易な構成で実現する。
【解決手段】周波数特性がそれぞれ異なる第1のフィルタ部20aおよび第2のフィルタ部20bと、第1のフィルタ部20aを通過した入力画像信号の絶対値成分から、第2のフィルタ部20bを通過した入力画像信号の絶対値成分を減算する減算部20cと、減算部20cからの出力信号のうち、負の成分を0に置き換える0クリップ部20dとを備える。第1のフィルタ部20aは、特定の空間周波数を含む周波数帯域の成分を通過させるような出力特性を有し、第2のフィルタ部20bは、これと同じ特定の空間周波数の入力成分について減算部20cからの出力が最大となるように構成される。これにより、上記の特定の空間周波数において急峻なピークが現れるような出力特性が簡易な構成で得られる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入力画像信号から所望の空間周波数の成分を検出する画像フィルタ、この画像フィルタを備えた画像処理装置、撮像装置、画像処理方法およびプログラムに関する。
【背景技術】
【0002】
単板式の撮像素子を用いて撮像した画像では、その画像を再生する際に、実際とは異なる色が表示(再生)される“色偽”と呼ばれる現象が発生することが知られている。この現象は、R(Red),G(Green),B(Blue)などの色成分ごとに空間的なサンプリング周波数が異なることに起因して発生する。
【0003】
例えば、人間の視感度特性上、G信号はR信号やB信号と比較して解像度に影響する度合いが高い。このため、G信号と比較して、R信号およびB信号のサンプリング点数は少なく、サンプリング周波数が低いことが一般的となっている。従って、R信号およびB信号が表現可能な信号の最大周波数(ナイキスト周波数)は、G信号より低い。この場合、ナイキスト周波数以上のR信号およびB信号が入力されると、それらの信号はナイキスト周波数を中心とした折り返り信号となる。このような実際には存在しない折り返り信号が、色偽を発生させる。
【0004】
G信号のサンプリング周波数をfsとすると、R信号およびB信号のサンプリング周波数がともに(1/2)fsまたは(1/4)fsの場合、折り返り信号による色偽が最も強く発生する(すなわち、R信号およびB信号のDC成分が折り返される)のは、R信号およびB信号における空間周波数が(1/2)fsまたは(1/4)fsを中心とした周波数帯域に含まれる部分である。
【0005】
そこで、従来の撮像装置では、このような折り返り信号による色偽発生の影響を軽減するために、(1/2)fs、(1/4)fsをそれぞれ中心とした周囲の周波数帯域の信号成分(エッジ成分)をフィルタを用いて検波し、その信号レベルを抑圧するような処理を施していた(例えば、特許文献1参照)。また、エッジ検出フィルタにより検出された領域の色差データを、ローパスフィルタにより平均化するようにしたものもあった(例えば、特許文献2参照)。さらに、輝度信号に基づく高周波エリア内であって、かつ、色差信号に基づく低彩度エリア内である画素について、色差信号を抑圧するようにしたものもあった(例えば、特許文献3参照)。
【特許文献1】特開平11−285013号公報(段落番号〔0016〕〜〔0022〕、図1)
【特許文献2】特開2002−262299号公報(段落番号〔0029〕〜〔0033〕、図4)
【特許文献3】特開2003−224859号公報(段落番号〔0065〕〜〔0085〕、図5)
【発明の開示】
【発明が解決しようとする課題】
【0006】
ところで、上述したような折り返り信号による色偽発生の影響を軽減するためには、(1/2)fs、(1/4)fsをそれぞれ中心とする周波数帯域の成分を正確に検出できる必要がある。このためには、ターゲットとする周波数帯域を中心とした急峻な出力特性を持つフィルタが必要となる。しかし、急峻な出力特性を得るためにはフィルタのTAP数を大きくする必要があり、このようなフィルタは回路規模が非常に大きく、処理負荷も高くなるため、実際に採用するのは難しいという問題があった。このため、従来の撮像装置や画像処理装置では、(1/2)fsや(1/4)fsを中心とする周波数帯域を検波するフィルタとして、例えば、−1,0,2,0,−1というフィルタ係数を持つものなど、比較的TAP数の小さい、ブロードな出力特性を持つフィルタを採用せざるを得なかった。
【0007】
また、撮像装置や画像処理装置においては、上記のような色偽対策用の検波に限らず、特定の空間周波数帯域の検波などを目的とした各種のデジタルフィルタが搭載されている。しかし、このようなフィルタとして、急峻な出力特性を持つものを採用することは、上記と同様の理由により難しいという問題もあった。
【0008】
本発明はこのような課題に鑑みてなされたものであり、特定の空間周波数に急峻なピークを持つ出力特性を簡易な構成で実現可能な画像フィルタ、このような画像フィルタを備えた画像処理装置、撮像装置、画像処理方法およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明では上記課題を解決するために、入力画像信号から所望の空間周波数の成分を検出する画像フィルタにおいて、それぞれ異なる周波数特性を有する第1のフィルタ部および第2のフィルタ部と、前記第1のフィルタ部を通過した前記入力画像信号の絶対値成分から、前記第2のフィルタ部を通過した前記入力画像信号の絶対値成分を減算する減算部と、を有し、前記第1のフィルタ部は、特定の空間周波数を含む周波数帯域の成分を通過させるように構成され、前記第2のフィルタ部は、前記特定の空間周波数の入力成分について前記減算部からの出力が最大となるように構成されたことを特徴とする画像フィルタが提供される。
【0010】
このような画像フィルタでは、それぞれ異なる周波数特性を有する第1のフィルタ部と第2のフィルタ部とが設けられ、第1のフィルタ部を通過した入力画像信号の絶対値成分から、第2のフィルタ部を通過した入力画像信号の絶対値成分が、減算部によって減算される。また、第1のフィルタ部は、特定の空間周波数を含む周波数帯域の成分を通過させるように構成され、第2のフィルタ部は、これと同じ特定の空間周波数の入力成分について減算部からの出力が最大となるように構成される。
【0011】
また、本発明では、入力画像信号から所望の空間周波数の成分を検出する画像フィルタを備えた画像処理装置において、前記画像フィルタは、それぞれ異なる周波数特性を有する第1のフィルタ部および第2のフィルタ部と、前記第1のフィルタ部を通過した前記入力画像信号の絶対値成分から、前記第2のフィルタ部を通過した前記入力画像信号の絶対値成分を減算する減算部と、を有し、前記第1のフィルタ部は、特定の空間周波数を含む周波数帯域の成分を通過させるように構成され、前記第2のフィルタ部は、前記特定の空間周波数の入力成分について前記減算部からの出力が最大となるように構成されたことを特徴とする画像処理装置が提供される。
【0012】
このような画像処理装置では、画像フィルタにおいて、それぞれ異なる周波数特性を有する第1のフィルタ部と第2のフィルタ部とが設けられ、第1のフィルタ部を通過した入力画像信号の絶対値成分から、第2のフィルタ部を通過した入力画像信号の絶対値成分が、減算部によって減算される。また、第1のフィルタ部は、特定の空間周波数を含む周波数帯域の成分を通過させるように構成され、第2のフィルタ部は、これと同じ特定の空間周波数の入力成分について減算部からの出力が最大となるように構成される。
【0013】
また、第2のフィルタ部の例として、上記の特定の空間周波数またはその近傍の入力成分について出力が最小となるような出力特性を有するものを適用できる。この場合、第1のフィルタ部の出力の絶対値成分では、特定の空間周波数の成分が確実に出力されるが、第2のフィルタ部の出力の絶対値成分では、同じ特定の空間周波数の成分の出力が最小となるため、これらの絶対値成分の差は他の空間周波数の場合と比較して極端に大きくなる。このため、入力画像信号に対する減算部での出力特性においては、上記の特定の空間周波数において急峻なピークが現れるようになる。
【発明の効果】
【0014】
本発明によれば、周波数特性の異なる2つのフィルタ部の出力の絶対値成分の差分を減算部において算出する構成とし、第1のフィルタ部として、単に、特定の空間周波数を含む周波数帯域の成分を通過させるような出力特性を持つ構成とし、第2のフィルタ部として、これと同じ特定の空間周波数の入力成分について減算部からの出力が最大となるような構成とすることで、特定の空間周波数に急峻なピークが現れるような出力特性の画像フィルタを簡易な構成で実現できる。
【0015】
また、第2のフィルタ部を、上記の特定の空間周波数またはその近傍の入力成分について出力が最小となるような出力特性を有するものとした場合には、画像フィルタの減算部での入力画像信号に対する出力特性において、特定の空間周波数において急峻なピークが現れるようになり、このような出力特性を、特定の空間周波数を含む周波数帯域の成分を通過させる第1のフィルタ部と、これと同じ特定の空間周波数の入力成分について出力が最小となるような出力特性を有する第2のフィルタ部という簡易な構成の2つのフィルタ部によって実現することができる。特に、これらの通過域特性の条件を満たしていれば、第1のフィルタ部と第2のフィルタ部のどちらについてもTAP数を大きくする必要がないため、画像フィルタの回路規模や処理負荷を抑制できる。
【発明を実施するための最良の形態】
【0016】
以下、本発明を、デジタルスチルカメラなど、撮像画像をデジタルデータとして記録可能な撮像装置に適用した場合を例に挙げて、本発明の実施の形態を図面を参照して詳細に説明する。
【0017】
図1は、実施の形態に係る撮像装置の構成を示すブロック図である。
図1に示す撮像装置は、光学ブロック11、撮像素子12、AFE(Analog Front End)回路13、カメラ信号処理回路14、画像エンコーダ15、記録装置16、ディスプレイ17、およびマイクロコンピュータ18を具備する。
【0018】
光学ブロック11は、被写体からの光を撮像素子12に集光するためのレンズ、レンズを移動させてフォーカス合わせやズーミングを行うための駆動機構、シャッタ機構、アイリス機構などを具備しており、これらはマイクロコンピュータ18からの制御信号に基づいて駆動される。
【0019】
撮像素子12は、CCD(Charge Coupled Devices)あるいはCMOS(Complementary Metal Oxide Semiconductor)型などの固体撮像素子であり、被写体から光学ブロック11を通じて入射した光を、電気信号に変換する。
【0020】
AFE回路13は、撮像素子12から出力された画像信号に対して、CDS(Correlated Double Sampling)処理によりS/N(Signal/Noise)比を良好に保つようにサンプルホールドを行い、さらにAGC(Auto Gain Control)処理により利得を制御し、A/D変換を行ってデジタル画像信号を出力する。
【0021】
カメラ信号処理回路14は、AFE回路13からの画像信号を基にAF(Auto Focus)処理、AE(Auto Exposure)処理などのための各種検波処理を行う。また、その画像信号に対して、ホワイトバランス調整処理や色補正処理などの信号処理を施す。本実施の形態では、特に、このカメラ信号処理回路14の内部に、後述するフィルタ20が設けられている。
【0022】
画像エンコーダ15は、カメラ信号処理回路14からの画像信号に対して、JPEG(Joint Photographic Coding Experts Group)方式などの所定の画像データフォーマットで圧縮符号化処理を行う。ディスプレイ17は、例えばLCD(Liquid Crystal Display)からなり、カメラ信号処理回路14からの画像信号に基づく撮像画像を表示する。
【0023】
マイクロコンピュータ18は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)などから構成され、ROMなどに記憶されたプログラムを実行することにより、この撮像装置の各部を統括的に制御する。
【0024】
《差分フィルタの構成》
次に、カメラ信号処理回路14に設けられているフィルタ20について説明する。このフィルタ20は、入力画像データから、特定の空間周波数を含む周波数帯域の信号成分を検波するためのものであり、ここでは最初に、例として(1/4)fsを中心とする周波数帯域を検波するためのフィルタの構成について説明する。なお、以下の説明では、フィルタ20が検波のターゲットとする空間周波数(すなわち、出力が最大となる空間周波数)を“検波周波数ft”と呼ぶことにする。
【0025】
なお、以下の説明では、フィルタ係数として、h-i,h-(i-1),h-(i-2),……,h-1,h0,h1,……,hi-2,hi-1,hiを有するデジタルフィルタを、“[h-i,h-(i-1),h-(i-2),……,h-1,h0,h1,……,hi-2,hi-1,hi]フィルタ”と呼び、そのフィルタの出力値を[h-i,h-(i-1),h-(i-2),……,h-1,h0,h1,……,hi-2,hi-1,hi]と表すことにする。例えば、注目画素のデータをx0とし、この注目画素を中心とした連続5画素のデータを、x-2,x-1,x0,x1,x2とすると、注目画素にTAP数が“5”である[−1,0,2,0,−1]フィルタを適用したときの出力値は、次の式(1)によって表される。
[−1,0,2,0,−1]=(−1)×x-2+0×x-1+2×x0+0×x1+(−1)×x2 ……(1)
図2は、実施の形態に係るフィルタの基本構成を示すブロック図である。また、図3は、(1/4)fsを中心とする周波数帯域を検波するフィルタの構成例について説明するための図である。
【0026】
フィルタ20は、周波数特性の異なる2つのフィルタを備えており、ここでは図2に示すように、それらを第1のフィルタ部20a、第2のフィルタ部20bとする。第1のフィルタ部20aおよび第2のフィルタ部20bは、このフィルタ20の検波周波数ftの入力成分がそれぞれに入力されたときに、それぞれの出力の絶対値の差分が最大となるように構成される。
【0027】
このような条件を満たす第1のフィルタ部20aおよび第2のフィルタ部20bの代表的な構成例としては、第1のフィルタ部20aとして、検波周波数ftを含む周波数帯域の成分を通過させるような出力特性を持つものを適用し、第2のフィルタ部20bとして、検波周波数ftを含む周波数帯域の成分の出力が、その周囲の周波数帯域より小さくなるような出力特性を持つものを適用することが可能である。また、そのような第2のフィルタ部20bとして、検波周波数ft(またはその近傍)の入力成分について出力が最小となるような出力特性を持つものを適用可能である。
【0028】
以下の説明では、例として、フィルタ20の検波周波数ftを(1/4)fsとし、第1のフィルタ部20aとして、検波周波数ftの入力成分について出力が最大となるような出力特性を持つバンドパスフィルタを適用する。図3では例として、(1/4)fsを中心とする周波数帯域を検波するための[−1,0,2,0,−1]フィルタを用いており、この第1のフィルタ部20aの出力特性を図中上段のグラフに示している。
【0029】
一方、第2のフィルタ部20bとしては、フィルタ20の検波周波数ftにおいて出力値が0となるような(すなわち、検波周波数ftがNULL点となるような)出力特性を持つものを適用する。最も代表的な構成としては、第2のフィルタ部20bとして、フィルタ20の検波周波数ftの1/2を中心とする周波数帯域を検波するためのバンドパスフィルタを用いることができる。図3では例として、(1/8)fsを中心とする周波数帯域を検波するための[−1,0,0,0,2,0,0,0,−1]フィルタを用いており、この第2のフィルタ部20bの出力特性も図中上段のグラフに示している。
【0030】
図2に示すように、フィルタ20は、基本的に、入力画像信号をそれぞれ受ける第1のフィルタ部20aおよび第2のフィルタ部20bと、第1のフィルタ部20aの出力の絶対値から、第2のフィルタ部20bの出力の絶対値を減算する減算部20cとを備えた差分フィルタとして実現される。また、減算部20cからの出力値のうち、0未満の値は、0クリップ部20dによって0に固定されて出力される。
【0031】
図3の例では、フィルタ20の出力特性y1は、次の式(2)によって表される値の0以上の成分となる。ただし、Kx>0である。また、図2では、係数Kxを乗算するブロックを省略している。
1=Kx|[−1,0,2,0,−1]|−|[−1,0,0,0,2,0,0,0,−1]| ……(2)
このようなフィルタ20の出力成分は、図3上段のグラフにおける斜線領域に相当し、出力特性は下段のグラフのようになる。このフィルタ20では、フィルタ20の検波周波数帯域ftにおいて、第1のフィルタ部20aの出力の絶対値が大きくなり、逆に第2のフィルタ部20bの出力値が0となることで、それらの差分値が極めて大きな値となることから、検波周波数ftにおいて急峻なピークを持つような出力特性となる。このため、検波周波数ftの近傍のみの信号成分を正確に検波することが可能になる。
【0032】
また、このフィルタ20は、第1のフィルタ部20a、第2のフィルタ部20bともに、上記の条件を満たすようなブロードな出力特性を持つものを用いることができるので、簡単な回路構成によって上記の出力特性を得ることが可能になる。特に、図3の例のように、フィルタ20の検波周波数ftと同じ検波周波数を持つ第1のフィルタ部20aと、その1/2の検波周波数を持つ第2のフィルタ部20bとを採用でき、しかも、両方とも比較的TAP数の少ないフィルタ部を用いることができる。このため、フィルタ20の回路構成を簡易化でき、処理負荷を低くすることができる。
【0033】
なお、第1のフィルタ部20aの出力特性においては、フィルタ20の検波周波数ftが必ずしも出力値のピークとなっている必要はない。例えば、この検波周波数ftの周辺帯域で出力特性曲線が凹んだ形状や歪んだ形状となっていてもよい。すなわち、第2のフィルタ部20bの出力特性がフィルタ20の検波周波数ftにNULL点を持っていれば、この検波周波数ftを含む帯域において、第1のフィルタ部20aが周囲の帯域と比較して大きな出力特性を有していることで、それらの差分値は周囲と比較して明らかに大きな値となり、急峻なピークを持つ出力特性を得ることが可能になる。
【0034】
また、上記の式(2)において、係数Kxを変化させると、第1のフィルタ部20aの出力特性曲線が、係数Kxが1となる状態を境に+方向あるいは−方向に変化する。このため、係数Kxに応じて、図3中の領域R1で表される検波帯域の幅を変化させることができる。従って、例えばユーザによる設定操作などに応じて、マイクロコンピュータ18からフィルタ20に対して係数Kxを指定し、フィルタ20の出力特性を任意に設定変更することも可能である。また、式(2)では第1のフィルタ部20aの出力に係数Kxによるゲインを与えているが、その代わりに第2のフィルタ部20bの出力にゲインを与えるようにしてもよい。
【0035】
図4は、(1/4)fsを中心とする周波数帯域を検波するフィルタの別の構成例について説明するための図である。
図4では、フィルタ20を構成する第1のフィルタ部20aおよび第2のフィルタ部20bとして、よりTAP数の少ないフィルタを用いた場合の出力特性例を示している。ここでは、第1のフィルタ部20aとして、(1/4)fsを中心とする周波数帯域を検波するための[−1,0,1]フィルタを、第2のフィルタ部20bとして、(1/8)fsを中心とする周波数帯域を検波するための[−1,0,0,0,1]フィルタをそれぞれ用いており、これらのフィルタ部を用いたフィルタ20の出力特性y2は、次の式(3)によって表される値の0以上の成分となる。
2=Kx|[−1,0,1]|−|[−1,0,0,0,1]| ……(3)
図4に示すように、このような構成のフィルタ20であっても、その出力特性には十分に急峻なピークが現れるようになる。なお、この場合でも、係数Kxを変化させることにより、図中の領域R2で示されるフィルタ20の検波帯域の幅を変化させることができる。
【0036】
一方、図5は、(1/4)fsを中心とする周波数帯域を検波するフィルタを、単独のフィルタ部により実現した場合の出力特性例を示す図である。
この図5では、例として、(1/4)fsを中心とする周波数帯域を検波するための[−3,0,5,0,−5,0,6,0,−5,0,5,0,−3]フィルタの出力特性例を示している。このフィルタは、図4の場合の2つのフィルタ部のTAP数より多くのTAP数を持ち、係数に対して多くのビット数が必要でありながらも、その出力特性には図4の場合ほど急峻なピークが現れていない。一般に、図3あるいは図4に示すような急峻なピークを持つ出力特性のフィルタを実現するには、TAP数を数十以上とする必要がある。
【0037】
従って、図2〜図4で説明したような差分フィルタを用いることで、極めて急峻なピークを持つ出力特性を実現しながらも、TAP数や、係数のビット数などを抑制でき、回路規模を大幅に縮小することができる。また、このような差分フィルタをソフトウェア処理によって実現する場合でも、処理負荷を軽減できる。
【0038】
なお、上記の例では、第2のフィルタ部20bとして、フィルタ20(あるいは第1のフィルタ部)の検波周波数ftの1/2を中心とする周波数帯域を検波するフィルタを用いたが、この他に例えば検波周波数ftの1/4を中心とする周波数帯域を検波するフィルタを適用可能な場合もある。例えば、フィルタ20の検波周波数ftが(1/4)fsであり、第2のフィルタ部20bが(1/16)fsを中心とする周波数帯域を検波する比較的TAP数の少ないものである場合には、この第2のフィルタ部20bの出力特性には、(1/8)fs,(1/4)fs,(3/8)fsにおいてNULL点が現れる。このため、差分フィルタの出力特性においては、(1/4)fsを中心とする周波数帯域だけでなく、(1/8)fsや(3/8)fsをそれぞれ中心とする周波数帯域にも、急峻なピークが現れる可能性がある。
【0039】
しかし、後述するように、色偽の発生部分を検波するためにこの差分フィルタを用いた場合、R信号およびB信号のサンプリング周波数がG信号のサンプリング周波数fsの1/8であれば、色偽は(1/4)fsに加えて、(1/8)fsや(3/8)fsをそれぞれ中心とする周波数帯域に対応する画像領域にも発生し得る。従って、このような目的では、第2のフィルタ部20bとして、フィルタ20の検波周波数ftの1/8を中心とする周波数帯域を検波するものを用いることも可能である。
【0040】
次に、他の検波周波数のフィルタ20の構成例について説明する。図6は、(1/2)fsを中心とする周波数帯域を検波するフィルタの構成例について説明するための図である。
【0041】
他の検波周波数のフィルタ20であっても、上記と同様に、第1のフィルタ部20aと第2のフィルタ部20bとの出力の絶対値の差分を出力とする構成により実現できる。図6の例では、第1のフィルタ部20aとして、(1/2)fsを中心とする周波数帯域を検波するための[−1,2,−1]フィルタを、第2のフィルタ部20bとして、(1/4)fsを中心とする周波数帯域を検波するための[−1,0,2,0,−1]フィルタをそれぞれ用いており、これらのフィルタ部を用いたフィルタ20の出力特性y3は、次の式(4)によって表される値の0以上の成分となる。
3=Kx|[−1,2,1]|−|[−1,0,2,0,−1]| ……(4)
図6の下段に示すように、このような構成のフィルタ20であっても、その出力特性には十分に急峻なピークが現れるようになる。従って、極めて急峻なピークを持つ出力特性でありながらも、TAP数や係数のビット数が少ない、簡易な回路構成のフィルタ20を実現できる。なお、この場合でも、係数Kxを変化させることにより、図中の領域R3で示されるフィルタ20の検波帯域の幅を変化させることができる。
【0042】
図7は、(1/8)fsを中心とする周波数帯域を検波するフィルタの構成例について説明するための図である。
この図7の例では、第1のフィルタ部20aとして、(1/4)fsを中心とする周波数帯域を検波するための[−1,0,0,0,1]フィルタを、第2のフィルタ部20bとして、(1/8)fsを中心とする周波数帯域を検波するための[−1,0,0,0,0,0,0,0,1]フィルタをそれぞれ用いており、これらのフィルタ部を用いたフィルタ20の出力特性y4は、次の式(5)によって表される値の0以上の成分となる。
4=Kx|[−1,0,0,0,1]|−|[−1,0,0,0,0,0,0,0,1]| ……(5)
このような第1のフィルタ部20aおよび第2のフィルタ部20bを用いた場合には、図7の下段に示すように、(1/8)fsおよび(3/8)fsを中心とする周波数帯域において、ともに出力特性上の急峻なピークが現れるようになる。例えば、このようなフィルタ20を原理的に色偽の発生が予測される周波数帯域を検波するために用いた場合、R信号およびB信号のサンプリング周波数がG信号のサンプリング周波数fsの1/8であれば、色偽は(1/8)fsや(3/8)fsを中心とする周波数帯域に対応する画像領域にも発生し得る。従って、このような目的では、図7のような出力特性のフィルタ20を用いることも可能である。
【0043】
ところで、以上のような急峻なピークを持つような出力特性のフィルタ20を、図1のような撮像装置に用いることで、フィルタ20の出力特性が、レンズ光学系の伝達関数(MTF:Modulated Transfer Function)の影響を受けないようにできるという効果も得られる。この点について、次の図8および図9を用いて説明する。
【0044】
図8および図9は、ブロードな出力特性のフィルタ、急峻なピークを持つ出力特性のフィルタをそれぞれ用いたときの出力特性の変化について説明するための図である。
図8および図9のそれぞれの中央に示したグラフのように、レンズMTFは、概ね、空間周波数が高くなるほどコントラスト(信号振幅、明暗の差、解像度など)が低くなるという特性を持つ。このため、図8のようにブロードな出力特性のフィルタ(ここでは例として[−1,0,2,0,−1]フィルタ)を用いた場合、このフィルタの出力特性とレンズMTFの特性とが相乗されて、図中右端のように、全体の出力特性としてはピーク位置がシフトされることになる。従って、検波対象でない帯域の信号成分が強く出力されてしまい、検波精度が劣化する。例えば、このフィルタの検波結果を基に色偽の発生し得る領域を特定し、その画素の信号補正処理を行った場合には、色偽が発生していない領域の画素の色が変化してしまう。
【0045】
これに対して、図2〜図4,図6,図7において説明したような、検波対象の周波数帯域において急峻な出力特性を持つフィルタを用いることで、出力特性がレンズMTFにより変化するという現象を防止することができる。図9に示すように、急峻なピークを持つ出力特性のフィルタを用いた場合、レンズMTFの特性が加味された場合でも、総合的な出力特性上の傾きには変化が生じるものの、ピーク位置がシフトされることはなくなる。従って、所望の検波周波数においてフィルタ出力が確実に最大となって、この検波周波数を中心とした近傍帯域の成分を確実に検波することができ、例えば色偽が発生し得る領域の画素を正確に検出できるようになる。
【0046】
《差分フィルタを色偽の発生し得る領域の検出に用いた場合の実施の形態》
次に、図1の撮像装置において、原理的に色偽が強く発生する領域を、上記のフィルタ20(差分フィルタ)を用いて検波し、色偽発生の影響を軽減する処理(色消し処理)を行う場合の実施の形態について説明する。
【0047】
図10は、カメラ信号処理回路の内部構成例を示すブロック図である。
この図10に示すように、カメラ信号処理回路14は、前処理部21、後処理部22、エッジ検出部23、色抽出部24、および色消し部25を備えている。
【0048】
前処理部21は、AFE回路13から供給された画像信号に対して、撮像素子12における欠陥画素の信号補正処理、レンズの周辺光量落ちを補正するシェーディング処理などを施す。さらに、本実施の形態では、R−G信号およびB−G信号を生成して出力する。後処理部22は、AF、AE、ホワイトバランス制御などのための信号検波処理や、ホワイトバランス調整、ガンマ補正などの画質補正処理などを実行する。そして、画質補正後の画像信号を、輝度信号(Y)と色差信号(Cr,Cb)に変換する。
【0049】
エッジ検出部23、色抽出部24、および色消し部25は、色偽に関する処理を実行するためのブロックである。エッジ検出部23は、前処理部21からのG信号を基に、原理的に色偽が強く発生する周波数帯域に対応する領域(エッジ部)を検出するブロックである。このエッジ検出部23では、上述した差分フィルタがエッジ検出フィルタとして用いられる。色抽出部24は、前処理部21からのR−G信号およびB−G信号を基に、色偽が発生し得る色を持つ画素を抽出する。
【0050】
これらのうち、エッジ検出部23は、エッジ検出の度合いに応じたゲインを出力し、色抽出部24は、色抽出の度合いに応じたゲインを出力する。これらのブロックから出力されるゲインは、ともに“0.0”以上“1.0”以下の値を持つ。なお、エッジ検出部23によるエッジ検出の度合いは、係数Kxの設定値によっても変化し、色抽出部24による色抽出の度合いは、抽出対象とする色領域の設定によっても変化する。
【0051】
色消し部25は、エッジ検出部23および色抽出部24からの各ゲインに応じて、前処理部21からの、色偽が発生し得る画素のR−G信号およびB−G信号の信号レベルを抑制する。
【0052】
以上の構成では、サンプリング周波数の高いG信号を基にエッジ部を検出し、色偽の発生し得る部分を特定するのに加えて、色信号成分を基に色偽が発生し得る色を持つ画素を抽出する。そして、これらの2つの検出結果を基に画素データを補正することで、正確に色偽発生部分の色消し処理を行い、色偽発生の影響を確実に軽減できるようにしている。
【0053】
図11は、色偽に関する処理を実行するブロックの内部構成を示す図である。
エッジ検出部23は、(1/2)fs検波用差分フィルタ31、(1/4)fs検波用差分フィルタ32、最大値選択部33、コアリング・リミッタ部34、およびゲイン調整部35を備えている。色抽出部24は、色抽出処理部41およびゲイン調整部42を備えている。色消し部25は、乗算器51、減算器52、および乗算器53を備えている。
【0054】
(1/2)fs検波用差分フィルタ31は、例えば図6において説明したような差分フィルタである。この場合、(1/2)fs検波用差分フィルタ31は、G信号から(1/2)fsを中心とする周波数帯域を検波する第1のフィルタ部と、第1のフィルタ部の出力の絶対値に係数K1(ただし、K1>0)を乗算する乗算器と、G信号から(1/4)fsを中心とする周波数帯域を検波する第2のフィルタ部と、乗算器の出力値から第2のフィルタ部の出力の絶対値を減算する減算器と、減算器の出力値のうち、0未満の値を0に置き換える0クリップ部とから構成される。なお、係数K1は、ユーザ操作などに応じてマイクロコンピュータ18から任意に設定可能とされてもよい。
【0055】
(1/4)fs検波用差分フィルタ32は、例えば図3あるいは図4において説明したような差分フィルタである。この場合、(1/4)fs検波用差分フィルタ32は、G信号から(1/4)fsを中心とする周波数帯域を検波する第1のフィルタ部と、第1のフィルタ部の出力の絶対値に係数K2(ただし、K2>0)を乗算する乗算器と、G信号から(1/8)fsを中心とする周波数帯域を検波する第2のフィルタ部と、乗算器の出力値から第2のフィルタ部の出力の絶対値を減算する減算器と、減算器の出力値のうち、0未満の値を0に置き換える0クリップ部とから構成される。なお、係数K2は、ユーザ操作などに応じてマイクロコンピュータ18から任意に設定可能とされてもよい。
【0056】
最大値選択部33は、(1/2)fs検波用差分フィルタ31および(1/4)fs検波用差分フィルタ32の各出力値を比較し、値の大きい方を選択して出力する。例えば、G信号のサンプリング周波数fsに対して、R信号およびB信号のサンプリング周波数が(1/4)fsの場合、空間周波数が(1/4)fsおよび(1/2)fsをそれぞれ中心とする周波数帯域に対応する画像領域において、R信号およびB信号の折り返り信号による色偽が発生しやすい。このため、検波対象としている(1/4)fsまたは(1/2)fsのいずれかを中心とした周波数帯域のうち、検波出力がより大きな値の方のフィルタの検波値が、最大値選択部33により選択される。
【0057】
また、最大値選択部33では、マイクロコンピュータ18からの指定により、任意の差分フィルタの出力値を選択できるようにしてもよい。例えば、R信号およびB信号のサンプリング周波数が(1/2)fsの場合、空間周波数が(1/2)fsを中心とする周波数帯域に対応する画像領域において、R信号およびB信号の折り返り信号による色偽が発生しやすい。このため、このような仕様の場合には、最大値選択部33において常に(1/2)fs検波用差分フィルタ31の出力のみが選択されるようにすればよい。
【0058】
このように、エッジ検出部23では、エッジ検出フィルタとして、(1/2)fsを中心とする周波数帯域の検波用と(1/4)fsを中心とする周波数帯域の検波用の2つの差分フィルタが搭載されたことで、R信号およびB信号のサンプリング周波数が(1/2)fsの場合と(1/4)fsの場合の両方に対応できるようになっている。
【0059】
コアリング・リミッタ部34は、最大値選択部33からの出力値の上限や下限を制限するブロックである。出力値の上限を制限するのがリミッタ処理であるが、このリミッタ処理は、上述した構成を有する(1/2)fs検波用差分フィルタ31および(1/4)fs検波用差分フィルタ32の出力特性が、極めて急峻なピークを持つものであることから、そのピークに対応する非常に狭い画像領域に対して極端に強い補正(すなわち色消し処理)が施されて、不自然な画像となることを防止するために行われる。一方、出力値の下限を制限するのがコアリング処理であるが、この処理により、ノイズ成分として無視できる小さな出力値を除去することができる。なお、これらの出力制限の特性を決めるしきい値は、ユーザ操作などに応じてマイクロコンピュータ18から設定可能とされてもよい。
【0060】
ゲイン調整部35は、コアリング・リミッタ部34の出力値(すなわち、エッジ検出の度合いを示すゲイン値)をさらに調整するブロックであり、ここでの調整度合いも、ユーザ操作などに応じてマイクロコンピュータ18から設定可能とされてもよい。
【0061】
ここで、図12は、コアリング・リミッタ部と、その後段のゲイン調整部の各内部構成例を示すブロック図である。また、図13は、図12のコアリング・リミッタ部の内部における入出力特性の変化を示す図である。
【0062】
コアリング・リミッタ部34は、減算器301、セレクタ302、ビットシフタ303、加算器304、減算器305、および0クリップ部306を備えている。
まず、リミッタ処理を実現するためのブロックについて説明する。
【0063】
減算器301は、所定のしきい値th2(ただし、th2≧0)を、最大値選択部33からの入力値から減算する。なお、このしきい値th2については、あらかじめ決められた固定値が入力されてもよいし、あるいは、ユーザによる入力操作などに応じてマイクロコンピュータ18から設定できるようにしてもよい。
【0064】
セレクタ302は、減算器301の出力値におけるMSB(Most Significant Bit)の符号ビットに基づき、減算器301の出力値が負の場合には、ビットシフタ303に対して指示値0を出力し、減算器301の出力値が0以上の場合には、例えばマイクロコンピュータ18から指定される指示値th2_gain(ここでは、th2_gain>0とする)を出力する。なお、この指示値th2_gainは固定値であってもよい。
【0065】
ビットシフタ303は、セレクタ302からの指示値に応じたシフト量だけ、減算器301の出力値を下位にシフトする。ここでは例えば、指示値0の場合、ビットシフタ303はシフトを行わない。また、指示値1,2,3,……の場合、ビットシフタ303はそれぞれ1ビット,2ビット,3ビット,……だけ入力データを下位にシフトする。加算器304は、ビットシフタ303の出力値に対して、しきい値th2を加算する。
【0066】
このような減算、ビットシフト、加算の動作により、加算器304の出力部であるノードN4では、図13に示すように、入力値がしきい値th2を超える領域において、入出力直線の傾きが緩やかにされて、出力値が抑制される。このような前段の入出力変換処理が、リミッタ処理に相当する。
【0067】
なお、この図12では、リミッタ処理をビットシフタを用いて実現した例を示したが、このような構成に限らず、リミッタ処理は、一般的に次のように表すことができる。入力値をx、出力値をyとしたとき、x−th2≦0の場合には、y=x(すなわち入出力変換を行わない)とし、x−th2>0の場合には、y=(x−th2)×a+th2の式に従って入出力変換を行う。なお、aは、0.0<a<1.0の条件を満たす係数であり、この係数aについては、あらかじめ決められた固定値とされてもよいし、あるいは、ユーザの操作入力などに応じてマイクロコンピュータ18から設定できるようにしてもよい。
【0068】
次に、コアリング処理を実現するためのブロックについて説明する。
減算器305は、所定のしきい値th1(ただし、0≦th1≦th2)を、加算器304の出力値から減算する。なお、このしきい値th1については、あらかじめ決められた固定値が入力されてもよいし、あるいは、ユーザによる入力操作などに応じてマイクロコンピュータ18から設定できるようにしてもよい。0クリップ部306は、減算器305の出力値のうち、0未満の値を0に固定して出力する。
【0069】
このような減算および0クリップの処理により、0クリップ部306の出力部であるノードN6では、図13に示すように、しきい値th1までの入力値が0に固定される。なお、コアリング処理を実現するための構成は、このような減算器305および0クリップ部306からなる構成に限ったものではない。
【0070】
以上のコアリング・リミッタ部34では、入力されるエッジ検出信号のうち、出力値が小さい領域(ここでは0以上しきい値th1以下の領域)に対してはコアリング処理が適用され、出力値が大きい領域(ここではしきい値th2以上の領域)に対してはリミッタ処理が適用されることになる。コアリング処理により、検波信号の値が小さい領域では出力を0に変換して、ノイズや誤差に相当する検波信号の成分を除去できる。また、リミッタ処理により、エッジ検出フィルタの出力特性が急峻なピークを持つことにより、周囲の画素と比較して極端に大きな補正がかかってしまうことを防止することができる。これらの処理により、不自然な色補正が行われることが防止される。
【0071】
次に、図12に示すように、ゲイン調整部35は、乗算器311およびOFL(Overflow Limiter)312を備える。乗算器311は、コアリング・リミッタ部34からの出力値と、所定のゲイン値edge_gainとを乗算する。なお、このゲイン値edge_gainについては、あらかじめ決められた固定値が入力されてもよいし、あるいは、ユーザによる操作入力などに応じてマイクロコンピュータ18から設定できるようにしてもよい。OFL312は、乗算器311からの出力値が、ゲイン値“1.0”に対応する値以上となった場合に、これらをゲイン値“1.0”に対応する値に固定して出力する。すなわち、ゲイン調整部35では、ゲイン値edge_gainを変化させてゲイン演算を行うことにより、色消し部25に対する出力ゲイン値を“0,0”から“1.0”の間に抑え込む。
【0072】
次に、色抽出部24の色抽出処理部41における色抽出処理について説明する。まず、図14は、色偽が発生しやすい色の抽出領域を二次元色差平面によって表した図の一例である。また、図15は、色偽が発生しやすい色の抽出領域を三次元空間によって表した図の一例である。
【0073】
図14は、B−G信号およびR−G信号の各レベルを軸とした二次元平面(二次元色差平面)により、色領域を表したものである。色偽が発生しやすい領域としては、青色をほぼ中心としたシアンからマゼンダの色領域(図14中の斜線領域)が考えられ、ここではこの色領域を抽出することを考える。
【0074】
図14のような二次元平面に対して、色領域における出力レベルを示す軸をさらに加えたのが、図15に示す三次元空間である。出力レベルとは、入力されたある色に対して、どれだけの色抽出能力を発生するかを定義したものであり、この出力レベルが、色抽出処理部41から出力されるゲインの値となる。例えば、出力レベルが0となる領域では、色情報の入力に対して何も抽出されず、出力ゲインが0となる。なお、ここでは、出力レベル(ゲイン)の最大値を“1.0”に対応する値とする。
【0075】
R−G信号のレベルをx、B−G信号のレベルをy、出力レベルをzとする三次元空間においては、ax+by+cz=dなる一般的な平面の式によって平面が表される。この式に従い、次の式(6)および(7)により、三次元空間を通る平面Aおよび平面Bをそれぞれ定義する。
平面A=(sig_rg+ofst_rg)×gain_rg1+(sig_bg+ofst_bg)×gain_bg1 ……(6)
平面B=(sig_rg+ofst_rg)×gain_rg2+(sig_bg+ofst_bg)×gain_bg2 ……(7)
ここで、R−G信号のレベルをsig_rg、B−G信号のレベルをsig_bgとしている。なお、上述した平面の一般式では、sig_rgはx、sig_bgはy、平面Aおよび平面Bはzに相当する。また、ofst_rg,ofst_bg,gain_rg1,gain_rg2,gain_bg1,gain_bg2は、平面Aおよび平面Bが通る位置を調整するための係数である。
【0076】
色抽出処理部41で抽出される色領域は、上記の式(6)で表される平面A、および式(7)で表される平面Bのうちの最小値として表される。ただし、負の領域を“0.0”に固定し、“1.0”以上の領域を“1.0”にする。このような色領域は、図15に示すように、平面Aと、平面Bと、z=0の平面(すなわち出力レベルが“0.0”となる平面)とに囲まれた領域となる。
【0077】
なお、図15(B)は、図15(A)の場合に対して、gain_rg1,gain_rg2,gain_bg1,gain_bg2の係数を変えて平面Aおよび平面Bの傾きをきつくしたものであり、このような係数の変更により、より広い領域で、色抽出処理の能力を高める(すなわち、色抽出処理部41の出力レベルを高める)ことができることがわかる。また、ofst_rg,ofst_bgの各係数を変化させることで、平面AおよびBと色差平面とが交差する直線の位置、すなわち色差平面上の色抽出対象領域が変更される。
【0078】
図16は、色抽出処理部と、その後段のゲイン調整部の内部構成例を示すブロック図である。
色抽出処理部41は、上述した動作を実現するための各種演算回路によって構成される。すなわち、加算器401、乗算器402、加算器403、加算器404、および乗算器405により、上記の式(6)の演算が実現される。また、加算器401、乗算器406、加算器404、乗算器407、および加算器408により、上記の式(7)の演算が実現される。なお、ofst_rg,ofst_bg,gain_rg1,gain_rg2,gain_bg1,gain_bg2の各係数は、あらかじめ決められた固定値が入力されてもよいし、あるいは、マイクロコンピュータ18から任意に設定可能とされてもよい。
【0079】
0クリップ部409は、加算器403の出力値(すなわち、式(6)の演算結果)のうち、0未満の値を0に固定して出力する。OFL410は、0クリップ部409の出力値がゲイン値“1.0”に対応する値以上となった場合に、これらをゲイン値“1.0”に対応する値に固定して出力する。
【0080】
同様に、0クリップ部411は、加算器408の出力値(すなわち、式(7)の演算結果)のうち、0未満の値を0に固定して出力する。OFL412は、0クリップ部411の出力値がゲイン値“1.0”に対応する値以上となった場合に、これらをゲイン値“1.0”に対応する値に固定して出力する。最小値選択部413は、OFL410および412の各出力値のうち、値の小さい方をゲインとして出力する。
【0081】
次に、ゲイン調整部42は、色抽出処理部41からの出力ゲインをさらに調整するためのブロックであり、乗算器421およびOFL422を備えている。乗算器421は、色抽出処理部41からの出力値に対して、係数chroma_gainを乗算する。この係数chroma_gainは、マイクロコンピュータ18から設定可能とされてもよい。OFL422は、乗算器421の出力値がゲイン値“1.0”に対応する値以上となった場合に、これらをゲイン値“1.0”に対応する値に固定して出力する。このような動作により、色抽出処理部41からの出力ゲインが“0.0”から“1.0”のレンジに収まるように調整される。
【0082】
以下、図11に戻って説明する。上述したように、色消し部25は、エッジ検出部23からの出力ゲインと、色抽出部24からの出力ゲインとに応じて、前処理部21からのR−G信号およびB−G信号の信号レベルを抑制する。この色消し部25において、乗算器51は、エッジ検出部23からの出力ゲインと、色抽出部24からの出力ゲインとを乗算する。これにより、エッジ検出部23により色偽の発生しやすい周波数帯域の信号である(すなわち、エッジ部である)と強く判定され、かつ、色抽出部24により色偽の発生しやすい色領域の信号であると強く判定された画素に対しては、ゲイン値がより“1.0”に近づくようになる。逆に、双方の検出値がともに低い場合には、ゲイン値は“0.0”に近づくようになる。これにより、エッジ検出ゲインのみ、あるいは色抽出ゲインのみを用いた場合と比較して、色偽発生が予測される画素に対して色消し処理のための補正ゲインを精度よく算出することができる。
【0083】
減算器52は、ゲイン値“1.0”に対応する値から、乗算器51の出力値を減算する。乗算器53は、入力されたR−G信号およびB−G信号に対して、減算器52からの出力ゲインを乗算する。ここで、“0.0”から“1.0”までの値をとる乗算器51の出力値は、色偽が発生する可能性が高い画素ほど大きな値となっている。従って、乗算器51の出力が“1.0”に近いほど(すなわち、エッジ検出ゲインおよび色抽出ゲインが高いほど)、減算器52の出力はより“0.0”に近くなる。乗算器53では、より“0.0”に近い値をR−G信号およびB−G信号に乗算することにより、各信号レベルを強く抑制する。逆に、より“1.0”に近い値をR−G信号およびB−G信号に乗算することで、各信号レベルの抑制度合いは低くなり、“1.0”をR−G信号およびB−G信号に乗算した場合には、各信号レベルは抑制されずにそのまま流れる。すなわち、乗算器53は、R−G信号およびB−G信号のレベルを、色偽が発生する可能性が高いほど大きく低下させる。これにより、対象の画素に対していわゆる色消し処理が施され、その画素の色が目立たないようにされる。
【0084】
以上の構成のカメラ信号処理回路14では、急峻なピークを持つ出力特性の差分フィルタをエッジ検出処理に用いたことで、色偽の発生しやすい帯域の信号を確実に検出でき、色偽の検出精度が高められる。特に、エッジ検出精度に対するレンズMTFの影響を除外し、常に所望の帯域の信号を高精度に検出できるようになる。また、このような検出処理を、TAP数が少ない、小さな規模の回路によって実現できる。
【0085】
また、エッジ検出結果を示すゲインに対してコアリング処理やリミッタ処理を施し、その入出力特性を変更できる構成としたことで、エッジとして検出された画素に対して極端な補正がかかって、不自然な画像が生成されることを防止することができる。
【0086】
さらに、エッジ検出処理とともに、色偽の発生しやすい色領域の信号を抽出する処理を併用し、各処理による検出結果を基に色消し処理を施すようにしたことで、色消し処理の誤動作を防止し、色偽とは関係のない画素に補正がかからないようにすることができる。
【0087】
《第3の実施の形態》
図17は、カメラ信号処理回路の別の内部構成例を示すブロック図である。
この図17に示すカメラ信号処理回路14aにおいて、前処理部21aおよび後処理部22aの機能は、図10に示した前処理部21および後処理部22にそれぞれ対応する。ただし、図17の例では、前処理部21aによって処理された画像信号は、RGB信号のまま出力されて、後処理部22aにおいて処理される。また、後処理部22aでは、各種の処理を施した画像信号が、最終的に輝度信号(Y)と色差信号(Cb,Cr)に変換されて出力される。
【0088】
エッジ検出部23は、後処理部22aからの輝度信号の入力を受け、図10の場合と同様に、入力された輝度信号から色偽検出のためのエッジ検出を行う。一方、色抽出部24aは、図10の色抽出部24とほぼ同様の構成を有するが、R−G信号およびB−G信号からではなく、後処理部22aからの色差信号(Cb,Cr)を基に、色偽検出のための色抽出処理を行う。色消し部25は、図10の場合と同様に、エッジ検出部23および色抽出部24aからのゲインに応じて、色消し処理を実行する。ただし、ここでは、後処理部22aからの色差信号(Cb,Cr)に対して、信号レベルを抑制するような処理を施す。
【0089】
以上の構成のカメラ信号処理回路14aにおいても、図10の構成の場合と同様に、回路規模の小さい差分フィルタによって、原理的に色偽が強く発生し得る周波数帯域の画素を高精度に検出できる。また、エッジ検出処理と色抽出処理とを併用して、色消し処理の精度を向上させることもできる。
【0090】
なお、以上の図10や図17に示した実施の形態では、色抽出処理を色差信号またはCr,Cb信号を用いて行ったが、輝度信号および色差信号を生成する前のRGB信号を用いて色抽出処理を行うようにしてもよい。また、色消し処理においては、色差信号またはCr,Cb信号に対して補正を行ったが、その代わりに色比信号(R/G信号,B/G信号)に対して補正を行うようにしてもよい。
【0091】
また、上記の図10や図17に示した実施の形態では、図2〜図3,図4,図6,図7において説明した差分フィルタを、色偽検出のためのエッジ検出フィルタとして用いた例を示したが、この差分フィルタの用途はこれに限ったことではない。例えば、撮像装置において、フォーカスが合っているか否かを検出するためのエッジ検出フィルタとして、上記の差分フィルタを利用することができる。また、この差分フィルタは、撮像装置に限らず、入力画像信号から特定の空間周波数帯域の成分を検出するためのいかなるバンドパスフィルタにも用いることができる。
【0092】
また、この差分フィルタの処理機能をコンピュータによって実現することもできる。その場合、上記処理機能の内容を記述したプログラムが提供される。そして、そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、磁気記録装置、光ディスク、光磁気ディスク、半導体メモリなどがある。
【0093】
プログラムを流通させる場合には、例えば、そのプログラムが記録された光ディスクや半導体メモリなどの可搬型記録媒体が販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。
【0094】
プログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラムまたはサーバコンピュータから転送されたプログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムに従った処理を実行することもできる。
【図面の簡単な説明】
【0095】
【図1】実施の形態に係る撮像装置の構成を示すブロック図である。
【図2】実施の形態に係るフィルタの基本構成を示すブロック図である。
【図3】(1/4)fsを中心とする周波数帯域を検波するフィルタの構成例について説明するための図である。
【図4】(1/4)fsを中心とする周波数帯域を検波するフィルタの別の構成例について説明するための図である。
【図5】(1/4)fsを中心とする周波数帯域を検波するフィルタを、単独のフィルタ部により実現した場合の出力特性例を示す図である。
【図6】(1/2)fsを中心とする周波数帯域を検波するフィルタの構成例について説明するための図である。
【図7】(1/8)fsを中心とする周波数帯域を検波するフィルタの構成例について説明するための図である。
【図8】ブロードな出力特性のフィルタを用いたときの出力特性の変化について説明するための図である。
【図9】急峻なピークを持つ出力特性のフィルタを用いたときの出力特性の変化について説明するための図である。
【図10】カメラ信号処理回路の内部構成例を示すブロック図である。
【図11】色偽に関する処理を実行するブロックの内部構成を示す図である。
【図12】コアリング・リミッタ部と、その後段のゲイン調整部の各内部構成例を示すブロック図である。
【図13】図12のコアリング・リミッタ部の内部における入出力特性の変化を示す図である。
【図14】色偽が発生しやすい色の抽出領域を二次元色差平面によって表した図の一例である。
【図15】色偽が発生しやすい色の抽出領域を三次元空間によって表した図の一例である。
【図16】色抽出処理部と、その後段のゲイン調整部の内部構成例を示すブロック図である。
【図17】カメラ信号処理回路の別の内部構成例を示すブロック図である。
【符号の説明】
【0096】
11……光学ブロック、12……撮像素子、13……AFE回路、14……カメラ信号処理回路、15……画像エンコーダ、16……記録装置、17……ディスプレイ、18……マイクロコンピュータ、20……フィルタ、20a……第1のフィルタ部、20b……第2のフィルタ部、20c……減算部、20d……0クリップ部

【特許請求の範囲】
【請求項1】
入力画像信号から所望の空間周波数の成分を検出する画像フィルタにおいて、
それぞれ異なる周波数特性を有する第1のフィルタ部および第2のフィルタ部と、
前記第1のフィルタ部を通過した前記入力画像信号の絶対値成分から、前記第2のフィルタ部を通過した前記入力画像信号の絶対値成分を減算する減算部と、
を有し、
前記第1のフィルタ部は、特定の空間周波数を含む周波数帯域の成分を通過させるように構成され、
前記第2のフィルタ部は、前記特定の空間周波数の入力成分について前記減算部からの出力が最大となるように構成されたことを特徴とする画像フィルタ。
【請求項2】
入力画像信号から所望の空間周波数の成分を検出する画像フィルタを備えた画像処理装置において、
前記画像フィルタは、
それぞれ異なる周波数特性を有する第1のフィルタ部および第2のフィルタ部と、
前記第1のフィルタ部を通過した前記入力画像信号の絶対値成分から、前記第2のフィルタ部を通過した前記入力画像信号の絶対値成分を減算する減算部と、
を有し、
前記第1のフィルタ部は、特定の空間周波数を含む周波数帯域の成分を通過させるように構成され、
前記第2のフィルタ部は、前記特定の空間周波数の入力成分について前記減算部からの出力が最大となるように構成されたことを特徴とする画像処理装置。
【請求項3】
前記第2のフィルタ部は、前記特定の空間周波数またはその近傍の入力成分について出力が最小となるような出力特性を有することを特徴とする請求項2記載の画像処理装置。
【請求項4】
前記第1のフィルタ部は、前記特定の空間周波数またはその近傍の入力成分について出力が最大となるような出力特性を有することを特徴とする請求項3記載の画像処理装置。
【請求項5】
前記第2のフィルタ部は、前記特定の空間周波数またはその近傍の入力成分について出力が0となるような出力特性を有することを特徴とする請求項3記載の画像処理装置。
【請求項6】
前記第2のフィルタ部は、前記特定の空間周波数の1/2または1/4の入力成分について出力の絶対値成分が最大となるような出力特性を有することを特徴とする請求項5記載の画像処理装置。
【請求項7】
前記画像フィルタは、前記減算部からの出力信号のうち、負の成分を0に置き換えるクリップ処理部をさらに有することを特徴とする請求項3記載の画像処理装置。
【請求項8】
前記第1のフィルタ部および前記第2のフィルタ部の少なくとも一方は、バンドパスフィルタであることを特徴とする請求項3記載の画像処理装置。
【請求項9】
前記画像フィルタをエッジ検出フィルタとして用いたことを特徴とする請求項3記載の画像処理装置。
【請求項10】
前記画像フィルタによる前記入力画像信号からのエッジの検出度合いに応じて、前記入力画像信号中の対応する画素の信号レベルを抑制する色消し処理部をさらに有することを特徴とする請求項9記載の画像処理装置。
【請求項11】
前記色消し処理部は、前記画像フィルタからの出力レベルが大きいほど、前記入力画像信号中の対応する画素の信号レベルを強く抑制することを特徴とする請求項10記載の画像処理装置。
【請求項12】
前記画像フィルタからの出力レベルを一定の割合で抑制するリミッタ処理部をさらに有し、
前記色消し処理部は、前記リミッタ処理部からの出力レベルに応じて、前記入力画像信号中の対応する画素の信号レベルを抑制することを特徴とする請求項11記載の画像処理装置。
【請求項13】
前記リミッタ処理部は、前記画像フィルタからの出力レベルが所定のしきい値以上の場合に、その出力レベルを抑制することを特徴とする請求項12記載の画像処理装置。
【請求項14】
前記リミッタ処理部では、出力レベルの抑制の割合と、前記しきい値とが、外部からの入力操作に応じて設定可能とされていることを特徴とする請求項13記載の画像処理装置。
【請求項15】
前記画像フィルタからの出力レベルが所定のしきい値未満の場合には、その出力レベルを0とし、前記所定のしきい値以上の場合には、出力0を起点として前記画像フィルタからの出力レベルに応じて出力を増やすように、前記画像フィルタからの出力レベル変換するコアリング処理部をさらに有し、
前記色消し処理部は、前記コアリング処理部からの出力レベルに応じて、前記入力画像信号中の対応する画素の信号レベルを抑制することを特徴とする請求項11記載の画像処理装置。
【請求項16】
前記コアリング処理部では、前記しきい値が、外部からの入力操作に応じて設定可能とされていることを特徴とする請求項15記載の画像処理装置。
【請求項17】
前記入力画像信号の色成分のうち、G(Green)成分の空間的なサンプリング周波数がfsであり、他の色成分の空間的なサンプリング周波数が(1/2)fsである場合、前記画像フィルタにおける前記第1のフィルタ部が通過させる前記特定の空間周波数は(1/2)fsであることを特徴とする請求項10記載の画像処理装置。
【請求項18】
前記入力画像信号の色成分のうち、G(Green)成分の空間的なサンプリング周波数がfsであり、他の色成分の空間的なサンプリング周波数が(1/4)fsである場合、前記画像フィルタにおける前記第1のフィルタ部が通過させる前記特定の空間周波数は(1/4)fsまたは(1/2)fsであることを特徴とする請求項10記載の画像処理装置。
【請求項19】
前記画像フィルタは、前記入力画像信号の輝度成分からエッジを検出し、
前記色消し処理部は、前記入力画像信号の色成分に対して、画素の信号レベルを抑制する処理を施すことを特徴とする請求項10記載の画像処理装置。
【請求項20】
前記入力画像信号から特定の色領域の成分を抽出する色抽出処理部をさらに有し、
前記色消し処理部は、前記画像フィルタからの出力レベルと、前記色抽出処理部からの出力レベルとを基に、前記入力画像信号中の対応する画素の信号レベルを抑制することを特徴とする請求項10記載の画像処理装置。
【請求項21】
前記色消し処理部は、前記画像フィルタからの出力レベルに応じた値と、前記色抽出処理部からの出力レベルに応じた値との乗算値を基に、最終的な信号抑制ゲインを生成して前記入力画像信号に適用することを特徴とする請求項20記載の画像処理装置。
【請求項22】
前記色抽出処理部は、色差信号を2つの軸とした色差平面に対して、色の抽出能力を示す抽出レベルを垂直な軸として加えた三次元空間において、前記色差平面上での色の抽出対象領域と、前記色差平面における色の抽出対象領域の境界となる直線を通る複数の平面とによって囲まれる空間領域を、色抽出領域としたことを特徴とする請求項20記載の画像処理装置。
【請求項23】
前記色抽出処理部では、前記色差平面における色の抽出対象領域の境界位置と、前記色差平面における色の抽出対象領域の境界となる直線を通る複数の平面を定義するパラメータとが、外部からの入力操作に応じて設定可能とされていることを特徴とする請求項22記載の画像処理装置。
【請求項24】
前記第1のフィルタ部を通過した前記入力画像信号の絶対値成分に対して所定の係数を乗算する係数乗算部と、
外部からの入力操作に応じて前記係数乗算部に前記係数を設定する係数設定部と、
をさらに有し、
前記減算部は、前記係数乗算部からの出力成分から、前記第2のフィルタ部を通過した前記入力画像信号の絶対値成分を減算することを特徴とする請求項3記載の画像処理装置。
【請求項25】
前記第2のフィルタ部を通過した前記入力画像信号の絶対値成分に対して所定の係数を乗算する係数乗算部と、
外部からの入力操作に応じて前記係数乗算部に前記係数を設定する係数設定部と、
をさらに有し、
前記減算部は、前記第1のフィルタ部を通過した前記入力画像信号の絶対値成分から、前記係数乗算部からの出力成分を減算することを特徴とする請求項3記載の画像処理装置。
【請求項26】
固体撮像素子により画像を撮像する撮像装置において、
それぞれ異なる周波数特性を有する第1のフィルタ部および第2のフィルタ部と、
前記第1のフィルタ部を通過した撮像画像信号の絶対値成分から、前記第2のフィルタ部を通過した前記撮像画像信号の絶対値成分を減算する減算部と、
を備えた画像フィルタを有し、
前記第1のフィルタ部は、特定の空間周波数を含む周波数帯域の成分を通過させるように構成され、
前記第2のフィルタ部は、前記特定の空間周波数の入力成分について前記減算部からの出力が最大となるように構成されたことを特徴とする撮像装置。
【請求項27】
入力画像信号から所望の空間周波数の成分を検出するための画像処理方法において、
それぞれ異なる周波数特性を有する第1のフィルタ部および第2のフィルタ部のそれぞれに対して、前記入力画像信号を入力させるステップと、
前記第1のフィルタ部を通過した前記入力画像信号の絶対値成分から、前記第2のフィルタ部を通過した前記入力画像信号の絶対値成分を減算するステップと、
を含み、
前記第1のフィルタ部を、特定の空間周波数を含む周波数帯域の成分を通過させるように構成し、
前記第2のフィルタ部を、前記特定の空間周波数の入力成分について前記減算部からの出力が最大となるように構成したことを特徴とする画像処理方法。
【請求項28】
入力画像信号から所望の空間周波数の成分を検出するための画像処理プログラムにおいて、
コンピュータを、
それぞれ異なる周波数特性を有する第1のフィルタ手段および第2のフィルタ手段、
前記第1のフィルタ手段を通過した前記入力画像信号の絶対値成分から、前記第2のフィルタ手段を通過した前記入力画像信号の絶対値成分を減算する減算手段、
として機能させ、
前記第1のフィルタ手段は、特定の空間周波数を含む周波数帯域の成分を通過させるように構成され、
前記第2のフィルタ手段は、前記特定の空間周波数の入力成分について前記減算手段からの出力が最大となるように構成されたことを特徴とする画像処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate


【公開番号】特開2009−33304(P2009−33304A)
【公開日】平成21年2月12日(2009.2.12)
【国際特許分類】
【出願番号】特願2007−193088(P2007−193088)
【出願日】平成19年7月25日(2007.7.25)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】