説明

フィルタ回路

【課題】連続するノイズ画素がイメージセンサから入力された場合でも、ノイズ除去を行う事が可能なフィルタ回路を提供すること。
【解決手段】撮像素子回路2において、二次元配列されたイメージセンサ4により撮像された画像は、フィルタ回路6に入力される。フィルタ回路6のセレクタ部SL1ないしSL8は、画像を構成する25画素の画素データPDを第1フィルタ部FF1ないしFF8へ割り振る。縦1ラインに連続した状態のインパルス性ノイズの画素は、それぞれグループGR5、GR1、GR8、GR4、GR3に属する。フィルタ処理対象の画素群であるグループGR1ないしGR8中に、インパルス性ノイズが2画素以上含まれないようになる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像データの画像処理に関するものであり、特に、画像データに含まれるノイズを除去する処理に関するものである。
【背景技術】
【0002】
特許文献1には、くっきりと境界面を表示できるように、画像データのノイズを除去するスムージング方法が開示されている。また特許文献2には、平滑化処理を実行することで、画像データのノイズを除去する情報処理装置が開示されている。
【0003】
【特許文献1】特開昭63−91783号公報
【特許文献2】特開2006−279709号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
撮像素子より撮像された画像を構成する複数の画素には、ノイズ画素が連続して含まれる場合がある。ノイズ画素が連続する状態としては、例えば、垂直走査方向に縦線状に連続した状態や、縦横に複数画素ずつ固まって連続した状態などがある。これらの連続するノイズ画素は、画像に与える影響が大きいため除去する必要があるが、従来の平滑化処理では連続するノイズ画素を除去することが困難であるため問題である。
【0005】
またこれらの連続するノイズ画素は、撮像素子の欠陥画素の存在や、高感度撮影を行うことなどによって発生する。これらの欠陥画素や高感度撮影によって発生するノイズは、インパルス性ノイズであり、ノイズの発生確率がガウス分布から外れ、またノイズの大きさが不規則である。よって画像に与える影響が大きいため、除去する必要があるが、従来の平滑化処理では除去することが困難であるため問題である。
【0006】
本発明は前記背景技術の課題の少なくとも1つを解消するためになされたものであり、連続するノイズ画素がイメージセンサから入力された場合でも、ノイズ除去を行う事が可能なフィルタ回路を提供することを提案する。
【課題を解決するための手段】
【0007】
前記目的を達成するために、本発明に係るフィルタ回路は、二次元配列された画像撮像素子により撮像された画像からノイズを除去するために該画像中の画素の画素値を平滑化するフィルタ処理を行なうフィルタ回路であって、画像中のマトリクス単位で構成される複数の画素の中から、画素間の距離が予め確認されたインパルスノイズの大きさを越えて離間するように、あるいは、ノイズの影響を受けている可能性がある画素が複数含まれないように、画素をそれぞれ選択する複数の選択手段と、選択手段ごとに設けられ、対応する選択手段により選択された画素をフィルタ処理する複数のフィルタ手段とを有することを特徴とする。
【0008】
本発明に係るフィルタ回路は、二次元配列された画像撮像素子またはイメージセンサにより撮像された画像中のマトリクス単位で構成される複数の画素の中から、画素間の距離が予め確認されたインパルスノイズの大きさを越えて離間するように、あるいは、ノイズの影響を受けている可能性がある画素が複数含まれないように、画素をそれぞれ選択する複数の選択手段ごとに設けられ、対応する選択手段により選択された画素をフィルタ処理するフィルタ手段を複数備える。フィルタ処理は、一種類の処理に限られず、例えばメディアンフィルタ、ローパスフィルタ、ハイパスフィルタ、平均化フィルタなどの各種処理が挙げられる。また複数のフィルタ手段とは、物理的に複数のフィルタ手段を有することに限られない。時分割的にフィルタ手段を用いることで、時間的に複数のフィルタ手段を有することも含む概念である。
【0009】
なお選択手段は、セレクタ等などの選択先を切り替えることができる選択方法に限られず、配線による固定された選択方法を含む概念である。
【0010】
作用を説明する。画像撮像素子またはイメージセンサは二次元配列を有するため、撮像された画像を構成する複数の画素も二次元配列を有している。ノイズ画素は、例えばイメージセンサの欠陥画素により生成される。その原因としてはプロセス的要因により、特定の位置に集中して存在する画素が欠陥となる場合がある。また、一つの列に存在する複数の画素の値を読み出す基準となる参照画素が一つである場合は、この基準となる参照画素自体のずれにより、その列に存在する画素が欠陥となる場合がある。更に、高速読み出しのために、画素の読み出し列ごとに読み出しアンプが設けられている場合には、1つの読み出しアンプが規格外の特性となっているとその列に存在する画素が欠陥となる場合がある。このとき画像を構成する複数の画素から、1つのフィルタがフィルタ処理対象となる複数の画素を選択する場合には、フィルタ処理対象とされた複数の画素にノイズ画素が複数含まれる場合がある。この場合、フィルタ処理対象となる複数の画素にノイズ画素が含まれる割合が多くなるため、フィルタ処理後の画像はノイズの影響を大きく受けることになる。
【0011】
しかし本発明では、選択手段は、フィルタ処理対象となる複数の画素の全てが、画素間の距離が予め確認されたインパルスノイズの大きさを越えて離間するように、あるいは、ノイズの影響を受けている可能性がある画素が複数含まれないように、選択を行う。すると、フィルタ処理対象として選択されないノイズ画素が発生することになる。よってフィルタ処理対象の複数の画素に含まれるノイズ画素の割合を減少させたり、フィルタ処理対象の複数の画素からノイズ画素を除去することができるため、フィルタ処理後の画像へのノイズの影響を抑えることができる。
【0012】
以上により本発明に係るフィルタ回路では、撮像素子より撮像された画像を構成する複数の画素に、連続したノイズ画素が含まれる場合であっても、当該ノイズ画素の影響を抑えることが可能となる。
【発明の効果】
【0013】
本発明によれば、連続するノイズ画素がイメージセンサから入力された場合でも、当該ノイズ画素の影響を抑えることが可能なフィルタ回路を提供することが可能になる。
【発明を実施するための最良の形態】
【0014】
以下、本発明のフィルタ回路、フィルタ処理方法、撮像素子回路およびカメラについて具体化した実施形態を図1乃至図8に基づき図面を参照しつつ詳細に説明する。本発明の第1実施形態を図1ないし図6を用いて説明する。図1に第1実施形態に係るカメラ1を示す。カメラ1は、撮像素子回路2と画像処理部3とを備える。撮像素子回路2は、イメージセンサ4、ディレイラインRAM5、フィルタ回路6、画像処理回路7、レジスタ10を備える。画像処理回路7は、平坦度判定ブロック8とピクセル合成ブロック9を備える。
【0015】
イメージセンサ4は、ベイヤ配列を有するCCD/CMOSセンサである。ベイヤ配列は、R、Gr、Gb、Bの各色画素センサが水平走査方向および垂直走査方向に二次元配列された構成を有する。イメージセンサ4から出力されるベイヤ配列の画像データBDが、ディレイラインRAM5にシリアルに入力される。
【0016】
ディレイラインRAM5は、ノイズ除去可能となるライン分だけ、画像データBDを蓄える。本願ではディレイラインRAM5に、9ライン分の画像データBDが蓄えられる。そして図2に示すように、ベイヤ配列の二次元配列を有するマトリクスMATが得られる。ディレイラインRAM5は、図2に示すように、注目画素P0を中心として、縦方向、横方向、右斜め上方向、左斜め上方向、の4方向の周辺同色画素を抽出することで、5×5画素(合計25画素)の画素データPDを抽出する。画素データPDには、注目画素P0の座標を座標(0、0)として、座標(−2,−2)から(2,2)が割り振られる。ディレイラインRAM5からは、同色25画素の画素データPDがパラレル出力され、フィルタ回路6および画像処理回路7に入力される。
【0017】
図3を用いて、フィルタ回路6の構成を説明する。フィルタ回路6は、セレクタ部SL1ないしSL8、第1フィルタ部FF1ないしFF8、第2フィルタ部SFを備える。セレクタ部SL1ないしSL8の各々には、レジスタ10から出力される設定信号SS、およびディレイラインRAM5から出力される画素データPDが、共通に入力される。
【0018】
図4に、セレクタ部SL1の詳細回路図を示す。セレクタ部SL1は、後段の第1フィルタ部FF1の3つの入力の各々に対応して、3つの内部セレクタIL10ないしIL12を備える。内部セレクタIL10ないしIL12は、25入力1出力のセレクタであり、座標(−2、−2)から(2,2)までの25画素の画素データPDがパラレル入力される。また内部セレクタIL10ないしIL12には、設定信号SSが共通に入力される。そして内部セレクタIL10ないしIL12は、入力される画素データPDの25画素のうちの1画素を、設定信号SSに応じて選択した上で、選択データID10ないしID12として各々出力する。ここで内部セレクタIL10ないしIL12は、設定信号SSに応じて、画素データPDの25画素の何れを選択して出力するかを自由に設定することが可能とされている。そして内部セレクタIL10ないしIL12からは、選択データID10ないしID12が出力され、第1フィルタ部FF1に入力される。ここで、セレクタ部SL1によって、第1フィルタ部FF1に割り振られた選択データID10ないしID12を、グループGR1に属するデータと定義する。
【0019】
また、セレクタ部SL2ないしSL8の構成についてもセレクタ部SL1と同様であるため、詳細な説明は省略する。セレクタ部SL2ないしSL8によって、グループGR2ないしGR8に属するデータが、それぞれ第1フィルタ部FF2ないしFF8へ割り振られる。なおセレクタ部SL8は、後段の第1フィルタ部FF8の4つの入力の各々に対応して、4つの内部セレクタIL80ないしIL83を備えており、それぞれ選択データID80ないしID83を出力する。
【0020】
図3において、セレクタ部SL1ないしSL8の各々からは、グループGR1ないしGR8に属する画素データが出力され、それぞれ第1フィルタ部FF1ないしFF8へ入力される。第1フィルタ部FF1ないしFF8の各々からは、フィルタ処理後のフィルタ出力データFD1ないしFD8が出力され、全て第2フィルタ部SFへ入力される。第2フィルタ部SFからは処理済画素データRDが出力され、画像処理回路7(図1)へ入力される。
【0021】
画像処理回路7には、フィルタ回路6から処理済画素データRDが入力され、ディレイラインRAM5から画素データPDが入力される。画像処理回路7の平坦度判定ブロック8には、25画素分の画素データPDが入力され、係数Aが出力される。画像処理回路7のピクセル合成ブロック9には、係数A、処理済画素データRD、注目画素P0のデータの3つが入力され、出力画素データODが出力される。出力画素データODは画像処理部3に入力され、画像処理部3では当該出力画素データODを用いて各種画像処理が行われる。
【0022】
以後ディレイラインRAM5において、マトリクスMATの領域が、イメージセンサ4で撮像された画像上を走査して処理を行う。画像処理部3は、撮像素子回路2から順次入力される出力画素データODを用いて各種画像処理を行う。これにより1フレーム分のカメラ1の画像が完成する。
【0023】
第1実施形態に係るカメラ1の動作を以下に説明する。ディレイラインRAM5は、マトリクスMATから5×5画素の画素データPDを抽出する。このとき例として、インパルス性ノイズの画素が、図5の斜線部に示すように縦1ラインに連続した状態でマトリクスMAT上に存在する場合を説明する。図5ではマトリクスMAT上において、座標(0,2)(0,1)(0,0)(0,−1)(0,−2)の5点の画素がインパルス性ノイズの画素である。
【0024】
フィルタ回路6の動作を説明する。フィルタ回路6のセレクタ部SL1ないしSL8は、設定信号SSに応じて、入力される画素データPDの25画素のデータをグループGR1ないしGR8へ割り振る動作を行う。セレクタ部SL1ないしSL8による割り振り動作は、1つのグループに含まれる複数の画素の全てが、マトリクスMATの二次元配列の別々の列に属するように行われる。
【0025】
図6に、マトリクスMAT上の25画素を、図5の縦1ラインに連続した状態のインパルス性ノイズに対応して、グループGR1ないしGR8へ割り振った例を示す。グループGR1への画素の割り振りは、設定信号SSに応じて、セレクタ部SL1の内部セレクタIL10が画素(0,1)を選択し、内部セレクタIL11が画素(1,0)を選択し、内部セレクタIL12が画素(−1,−1)を選択することで行われる。ここでグループGR1に属する座標(0,1)(1,0)(−1,−1)の3つの画素は、マトリクスMAT上の縦の列(垂直走査方向)および横の列(水平走査方向)において同じ列に属さないように選択されている。
【0026】
以下同様にしてグループGR2にはセレクタ部SL2によって座標(2,2)(−1,1)(1,−1)の画素が割り振られ、グループGR3にはセレクタ部SL3によって座標(1,2)(−2,1)(0,−2)の画素が割り振られ、グループGR4にはセレクタ部SL4によって座標(1,1)(−2,0)(0,−1)の画素が割り振られ、グループGR5にはセレクタ部SL5によって座標(0,2)(2,0)(−2,−2)の画素が割り振られ、グループGR6にはセレクタ部SL6によって座標(−1,0)(2,−1)(1,−2)の画素が割り振られ、グループGR7にはセレクタ部SL7によって座標(−2,2)(2,1)(−1,−2)の画素が割り振られ、グループGR8にはセレクタ部SL8によって座標(−1,2)(0,0)(−2,−1)(2,−2)の画素が割り振られる。このとき各グループに属する画素は、マトリクスMAT上の縦の列および横の列において、互いに同じ列に属さないように選択されている。
【0027】
よって、マトリクスMAT上のフィルタ処理対象の25画素を、3または4画素より構成されるグループGR1ないしGR8に割り振ることができる。そしてグループGR1ないしGR8の各々に属する画素群は、第1フィルタ部FF1ないしFF8の各々でフィルタ処理される。これにより第1フィルタ部FF1ないしFF8の各々によって、画素データPDに対して部分的にフィルタ処理が行われる。
【0028】
そして座標(0,2)(0,1)(0,0)(0,−1)(0,−2)の5点に含まれるインパルス性ノイズの画素は、それぞれグループGR5、GR1、GR8、GR4、GR3に属する。すなわち部分的にフィルタ処理が行われることで、フィルタ処理対象の画素群であるグループGR1ないしGR8中に、インパルス性ノイズが2画素以上含まれないようになる。
【0029】
第1フィルタ部FF1ないしFF8(図3)の動作を説明する。第1フィルタ部FF1ないしFF7は、グループGR1ないしGR7として入力される3つの画素から最大値および最小値を除去し、得られた中央値をフィルタ出力データFD1ないしFD7として出力する。また第1フィルタ部FF8は、グループGR8として入力される4つの画素から最大値および最小値を除去し、残った2画素の平均値をフィルタ出力データFD8として出力する。よって第1フィルタ部FF1ないしFF7では、中央値を出力するメディアンフィルタの動作が行われる。
【0030】
第1フィルタ部FF1にはグループGR1の3画素が入力されるが、グループGR1の3画素のうちの1画素(座標(0,1))は、インパルス性ノイズの画素である。ここでインパルス性ノイズは、欠陥画素や高感度撮影によって発生することから、グループGR1に含まれる3つの画素のうちの最大値または最小値をとり、中央値となることはない。よって第1フィルタ部FF1から出力される中央値のフィルタ出力データFD1からは、インパルス性ノイズの画素は完全に除去される。以下同様に、インパルス性ノイズを1つ含むグループGR3、GR4、GR5、GR8が第1フィルタ部FF3、FF4、FF5、FF8に各々入力され、インパルス性ノイズが完全に除去されたフィルタ出力データFD3、FD4、FD5、FD8が各々出力される。
【0031】
第2フィルタ部SFの動作を説明する。第2フィルタ部SFは、入力されるフィルタ出力データFD1ないしFD8の8入力画素値で並び替えを行い、最大側から3画素、最小側から3画素を除去する。そして残った2画素で平均をとり、処理済画素データRDとして出力する。
【0032】
これにより、想定外の連続形状を有するインパルス性ノイズ画素が入力された場合など、第1フィルタ部FF1ないしFF8においてインパルス性ノイズが除去しきれなかった場合においても、第2フィルタ部SFにおいて当該インパルス性ノイズを除去することが可能となる。よって、最終的に第2フィルタ部SFから出力される処理済画素データRDからは、インパルス性ノイズを除去することができる。
【0033】
なお第2フィルタ部SFでのフィルタ処理は、メディアンフィルタに限られない。第1フィルタ部FF1ないしFF8は、インパルス性ノイズを除去する能力が高いため、第2フィルタ部SFでインパルス性ノイズを除去する必要がない場合も多い。よって第2フィルタ部SFは、ローパスフィルタ等であってもよいことは言うまでもない。
【0034】
次に、画像処理回路7(図1)の動作を説明する。平坦度判定ブロック8には、ディレイラインRAM5から、画素データPDの25画素が入力される。そして平坦度判定ブロック8は、入力される25画素の画素データPDについての平均偏差の演算を行う。平均偏差により、平均からのバラツキが求められるため、マトリクスMATの空間における画像の凹凸具合を求めることができる。
【0035】
また平坦度判定ブロック8は、画素データPDの25画素のうちの画素最大値を取得する。そして平均偏差を画素最大値で除算することで、平均偏差を正規化し、係数Aを算出する。係数Aの値は0から1の間の値をとり、係数Aが1に近いほどエッジが多く含まれる画像であり、係数Aが0に近いほどエッジが少ない画像であることが推測される。そして係数Aはピクセル合成ブロック9へ入力される。
【0036】
なお平坦度判定ブロック8内における除算は、ビットシフトで実現されることにより、回路規模の増大を防止できる。また、平坦度判定ブロック8で算出されるパラメータは平均偏差に限られない。標準偏差、分散など、平均からのバラツキが求められ、画像の凹凸具合を知ることができるパラメータであれば何れのパラメータであってもよい。なお、平均偏差はハードウェアで算出するには比較的回路規模が小さくできるため、平均偏差を用いることが好ましい。
【0037】
ピクセル合成ブロック9での動作を説明する。ピクセル合成ブロック9には、係数A、処理済画素データRD、および注目画素P0の3つのデータが入力され、αブレンドと呼ばれる下式(1)の演算が行われる。
出力画素データOD=処理済画素データRD×(1.0−係数A)+注目画素P0×係数A ・・・式(1)
式(1)より、係数Aが0に近い時は、出力画素データODにおいて処理済画素データRDの成分が支配的となり、ノイズの除去割合が高くされることが分かる。また式(1)より、係数Aが1に近い時は、出力画素データODにおいて注目画素P0の成分が支配的となり、ノイズの除去割合が低くされることが分かる。ピクセル合成ブロック9から出力される出力画素データODは、画像処理部3に入力される。
【0038】
イメージセンサ4で撮像される実際の画像においては、信号強度の変化が少ない平坦な領域と、信号強度の変化が激しいエッジを有する領域とが混在する場合が多い。このとき、エッジを有する領域にまで強いフィルタ処理を行うと、画像のエッジがぼけ、解像感の低い画像となってしまう。よって画像処理回路7においてαブレンドを行うことにより、エッジを有する領域についてはフィルタ処理を弱めることでノイズ除去前の画素データを出来るだけ保存し、平坦な領域についてはフィルタ処理を強めることでノイズを除去する。これにより、ノイズが除去され、かつエッジがぼけない解像感の高い画像を得ることができる。
【0039】
以上詳細に説明したとおり、第1実施形態に係るカメラ1によれば、画像を構成する複数の画素である画素データPDのうちから、グループGR1ないしGR8に属する複数の画素が、セレクタ部SL1ないしSL8によって選択される。そしてグループGR1ないしGR8に属する複数の画素が、第1フィルタ部FF1ないしFF8の各々においてフィルタ処理される。これにより第1フィルタ部FF1ないしFF8の各々は、画素データPDに対して、部分的にフィルタ処理を行う。
【0040】
そしてセレクタ部SL1ないしSL8の各々は、グループGR1ないしGR8の各々に属する複数の画素を選択する際に、選択する画素の全てがマトリクスMAT上の二次元配列の同じ列に属するものとならないように選択を行う。これにより、二次元配列の同じ列に属して連続するノイズ画素は、グループGR1ないしGR8の各々には、2画素以上含まれないことになる。よってグループGR1ないしGR8に含まれるノイズ画素の割合を減少させたり、ノイズ画素を除去することができるため、処理済画素データRDの画像へのノイズの影響を抑えることができる。
【0041】
また第1実施形態では、グループGR1ないしGR8へ、画素データPDの25画素を3または4画素ずつ割り振り、第1フィルタ部FF1ないしFF8において第1段階目のメディアンフィルタ処理を行う。そして第1フィルタ部FF1ないしFF8から出力されるフィルタ出力データFD1ないしFD8の8画素を、第2フィルタ部SFにおいて第2段階目のメディアンフィルタ処理を行い、処理済画素データRDを取得する。
【0042】
ここでメディアンフィルタ処理は、処理対象の画素を増やすほど強いフィルタ処理を行うことができる。しかしメディアンフィルタ処理では、画素データを画素値の大きさ順に並べるソーティングを行う必要がある。そしてソーティングをハードウェアにより行う際には総当り的な最大値・最小値判定回路が必要となるため、処理対象の画素数が増加するにつれて、回路規模が指数関数的に増大する。しかし第1実施形態のように、第1段階と第2段階とに分けてメディアンフィルタ処理を行うことにより、回路規模の増大を抑えながら、処理対象の画素を増やすことができ、より強力なメディアンフィルタ処理を行うことができる。
【0043】
本発明の第2実施形態を図7および図8を用いて説明する。第2実施形態では、ノイズ画素が連続する形状が推測できる場合や、ノイズ画素が存在する箇所が特定できる場合における、グループGR1ないしGR8への画素の割り振り方法を説明する。例として、マトリクスMAT上の画像に、インパルス性ノイズの画素が縦横4画素ずつの固まり形状で発生することが推測される場合を説明する。なお出荷試験等などにより、イメージセンサ4の欠陥画素の存在や分布等を予め調べておけば、イメージセンサ4によって撮像される画像に表れるノイズ画素の連続形状やノイズ画素が存在する箇所を推定することができる。また、撮像素子回路2の構成等は第1実施形態と同様であるため、ここでは詳細な説明は省略する。
【0044】
まず、第1実施形態の図6に示した画素の割り振り方法を行う場合に、縦横4画素ずつの固まり形状のノイズ画素が発生する場合を説明する。このとき図7に示すように、縦横4画素ずつのノイズ画素の固まりが領域A1に存在する場合には、グループGR1には、座標(0,1)(1,0)の2つのノイズ画素が含まれる。これは、二次元配列のマトリクスMAT上において、グループGR1に割り振られた座標(0,1)の画素と座標(1,0)の画素とが、斜め方向に3画素分しか離れていないためである。また縦横4画素ずつのノイズ画素の固まりが領域A2に存在する場合には、グループGR6には、座標(2,−1)(1,−2)の2つのノイズ画素が含まれる。これは、マトリクスMAT上において、グループGR6に割り振られた座標(2,−1)の画素と座標(1,−2)の画素とが、斜め方向に3画素分しか離れていないためである。よってグループGR1およびGR6に2以上のノイズ画素が含まれるため、第1フィルタ部FF1およびFF6において、メディアン処理によりノイズ画素を除去することができない。
【0045】
次に、図8に示すような、縦横4画素ずつの固まり形状のノイズ画素に対応した画素のグループ割り振り方法を行う場合を説明する。グループ割り振りの変更は、レジスタ10から出力される設定信号SSを変更することで行う。図8に示した画素の割り振り方法では、領域B1に示すように、グループGR1に属する座標(0,2)(1,0)(−1,−1)の画素は、縦、横、斜め方向に互いに5画素以上離れている。また領域B2に示すように、グループGR6に属する座標(−1,0)(2,−1)(−2,−2)の画素も、縦、横、斜め方向に互いに5画素以上離れている。また他のグループにおいても、1つのグループに属する画素は、縦、横、斜め方向に互いに5画素以上離れている。このように、インパルス性ノイズの推測される連続形状(縦横4画素ずつの固まり形状)に応じて、画素の割り振り方法を決定することで、各グループにノイズ画素が2画素以上割り振られることを避けることができる。
【0046】
以上詳細に説明したとおり、第2実施形態に係るカメラ1によれば、インパルス性ノイズの推測される連続形状(縦横4画素ずつの固まり形状)に応じて、画素の割り振り方法を決定することで、各グループにノイズ画素が2画素以上割り振られることを避けることができる。これにより、第1フィルタ部FF1ないしFF8において、インパルス性ノイズを効果的に除去することができる。
【0047】
尚、本発明は前記実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲内で種々の改良、変形が可能であることは言うまでもない。本発明のポイントは、画素データPDに対して、第1フィルタ部FF1ないしFF8の各々によって部分的にフィルタ処理を行うことにより、一つのフィルタ部で処理する画素群に含まれるノイズ画素の割合を減少させる点にある。よって第1フィルタ部FF1ないしFF8、および第2フィルタ部SFのフィルタ処理は、メディアンフィルタ処理に限られず、ローパスフィルタ、ハイパスフィルタ、平均化フィルタなどの各種フィルタ処理であってもよいことは言うまでもない。またノイズ画素もインパルス性ノイズに限られず、ガウス分布ノイズであってもよいことは言うまでもない。
【0048】
また本実施形態では、セレクタ部SL1ないしSL8による割り振り動作は、1つのグループに含まれる複数の画素の全てが、マトリクスMATの二次元配列の別々の列に属するように行われるとしたが、この形態に限られない。1つのグループに含まれる複数の画素の全てが、マトリクスMATの二次元配列の同じ列に属するものとならないように行われてもよい。これによっても、グループGR1ないしGR8の各々の中に、ノイズ画素が2画素以上含まれないように、割り振りを行うことができる場合がある。
【0049】
またセレクタ部SL1ないしSL8の各々によって、マトリクスMAT上のフィルタ処理対象の25画素において互いに隣接しない画素が、グループGR1ないしGR8の各々に割り振られるとしてもよい。これにより、1ラインの連続状態のノイズ画素のみならず、縦横に複数画素ずつ固まった状態のノイズ画素であっても、一つのフィルタ部で処理する画素群に含まれるノイズ画素の割合を減少させることができ、ノイズ画素の画像への影響を抑えることができる。
【0050】
また第1実施形態では、図5に示すように、マトリクスMAT上にインパルス性ノイズの画素が縦1ラインに連続して存在する場合を説明したが、この形態に限られない。図9に示すような4連欠陥配置状にノイズ画素が存在する場合や、横1ラインに連続してノイズ画素が存在する場合にも、第1実施形態の図6に示すグループ分けを用いて当該ノイズを除去することができることは言うまでもない。
【0051】
また本実施形態では、マトリクスMATから25画素の画素データPDを抽出してノイズリダクションを行う形態を説明したが、この形態に限られない。第1フィルタ部FF1ないしFF8の数を増やせば、回路規模の増大を防止しながら、ノイズリダクションに用いる画素データPDの数をさらに増やす事ができる。そして画素データPDの画素数が多くなる程、より強いノイズリダクションをかける事が可能となる。
【0052】
また本実施形態では、第1フィルタ部FF1ないしFF8に割り振られる画素数は3または4画素としたが、この形態に限られない。第1フィルタ部において最大値・最小値判定回路化が実現可能な画素数であれば、これ以上の画素数であってもよいことは言うまでもない。そして例えば第1フィルタ部に5画素入力が可能である場合には、第1フィルタ部でソーティング処理を行い、大きい側の2画素と小さい側の2画素を除去することで、メディアンフィルタ処理を行うことができる。
【0053】
また本実施形態では、フィルタ回路6は、第1フィルタ部FF1ないしFF8の複数のフィルタ部を備えるとしたが、第1フィルタ部は物理的に複数備えられる場合に限られない。1つの第1フィルタ部を時分割的に用いることで、時間的に複数の第1フィルタ部を備えるとしてもよいことは言うまでもない。
【0054】
また本実施形態では、第1フィルタ部FF1ないしFF8へ画素データPDの割り振りは、セレクタ部SL1ないしSL8によって行われるとしたが、この形態に限られない。セレクタ部SL1ないしSL8を有さず、フィルタ回路6へパラレル入力される25画素の画素データPDが、配線により第1フィルタ部FF1ないしFF8へ割り振られるとしてもよい。
【0055】
また第1実施形態では、画像処理回路7ではαブレンド処理が行われるとしたが、画像処理回路7行われる処理はこの形態に限られず、ホワイトバランス調整等のその他の画像処理を行ってもよいことは言うまでもない。
【0056】
また本実施形態では、フィルタ回路6が撮像素子回路2に利用できる点や、カメラ1に利用できる点を示したが、これに限られない。画像を扱う回路や機器であれば、何れの回路や機器にも利用できることは言うまでもない。
【0057】
また本実施形態では、ベイヤ配列の画像データBDの処理について言及したが、この形態に限られず、他の配列方法による画像データについても同様に効果が得られることは言うまでもない。
【0058】
なお、イメージセンサ4は画像撮像素子の一例、第1フィルタ部FF1ないしFF8はフィルタ手段の一例、セレクタ部SL1ないしSL8は選択手段の一例、フィルタ出力データFD1ないしFD8はフィルタ出力の一例、平坦度判定ブロック8は平坦度判定手段の一例、ピクセル合成ブロック9は合成手段のそれぞれ一例である。
【0059】
ここで、本発明の技術思想により、背景技術における課題を解決するための手段を以下に列記する。
(付記1)二次元配列された画像撮像素子により撮像された画像をフィルタ処理するフィルタ回路であって、
前記画像を構成する複数の画素を部分的にフィルタ処理するフィルタ手段が複数設けられ、
一つの前記フィルタ手段のフィルタ処理対象となる複数の画素の全てが前記二次元配列の同じ列に属するものとならない選択をする選択手段と
を有することを特徴とするフィルタ回路。
(付記2)前記選択手段は、
前記一つの前記フィルタ手段の前記フィルタ処理対象となる複数の画素の全てが前記二次元配列の別々の列に属するものとなる選択をする
ことを特徴とする付記1記載のフィルタ回路。
(付記3)前記選択手段は、
前記一つの前記フィルタ手段の前記フィルタ処理対象となる複数の画素は、前記二次元配列において互いに隣接しないものとなる選択をする
ことを特徴とする付記1記載のフィルタ回路。
(付記4)前記選択手段は、
ノイズの影響を受けている可能性がある複数の画素が別々の前記フィルタ手段にてフィルタ処理される選択をする
ことを特徴とする付記1記載のフィルタ回路。
(付記5)前記選択手段が行う選択は、設定に応じて可変に行われる
ことを特徴とする付記1ないし4に記載のフィルタ回路。
(付記6)前記フィルタ手段は、
前記フィルタ処理対象となる複数の画素の画素値の内、最大値、最小値を除いた画素値でフィルタ処理する
ことを特徴とする付記1記載のフィルタ回路。
(付記7)前記フィルタ処理は、
前記最大値、最小値を除いた画素値が複数ある場合には、当該最大値、最小値を除いた画素値の平均値を算出する
ことを特徴とする付記6に記載のフィルタ回路。
(付記8)前記フィルタ処理は、
前記最大値、最小値を除いた画素値が複数ある場合には、当該最大値、最小値を除いた画素値の中央値を算出する
ことを特徴とする付記6に記載のフィルタ回路。
(付記9)複数の前記フィルタ手段からの複数のフィルタ出力は、更に最大値、最小値が取り除かれるフィルタ処理がなされる
ことを特徴とする付記6記載のフィルタ回路。
(付記10)複数の前記フィルタ手段からの複数のフィルタ出力は、更に平均値が算出されるフィルタ処理がなされる
ことを特徴とする付記6記載のフィルタ回路。
(付記11)二次元配列された画像撮像素子により撮像された画像をフィルタ処理するフィルタ処理方法であって、
前記画像を構成する複数の画素を部分的にフィルタ処理する複数のフィルタ手段の各々に対し、フィルタ処理対象となる複数の画素の全てが前記二次元配列の同じ列に属するものとならない選択をし、
前記フィルタ手段は選択された複数の画素をフィルタ処理する
ことを特徴とするフィルタ処理方法。
(付記12)二次元配列されたイメージセンサと、
該イメージセンサの画像出力からノイズを除去するフィルタ回路と、
ノイズが除去された画像を信号処理する画像処理回路とを有する撮像素子回路であって、
前記フィルタ回路は、
前記画像を構成する複数の画素を部分的にフィルタ処理するフィルタ手段が複数設けられ、
一つの前記フィルタ手段のフィルタ処理対象となる複数の画素の全てが前記二次元配列の同じ列に属するものとならない選択をする選択手段と
を有することを特徴とする撮像素子回路。
(付記13)前記画像処理回路は、
前記画像を構成する複数の画素のばらつきを表す平坦度を求める平坦度判定手段と、
前記フィルタ回路から出力されるノイズが除去された画素と前記画像を構成する複数の画素のうちの注目画素とを、前記平坦度に応じて合成する合成手段と
を備えることを特徴とする付記12に記載の撮像素子回路。
(付記14)前記合成手段は、
前記画像を構成する複数の画素間のばらつきが大きくなることに応じて前記画像を構成する複数の画素の合成割合を高くし、
前記画像を構成する複数の画素間のばらつきが小さくなることに応じて前記ノイズが除去された画素の合成割合を高くする
ことを特徴とする付記13に記載の撮像素子回路。
(付記15)カメラであって、
二次元配列されたイメージセンサと、
該イメージセンサの画像出力からノイズを除去する画像処理フィルタと、
ノイズが除去された画像を信号処理する画像処理回路とを有し、
更に前記画像処理フィルタは、
前記画像を構成する複数の画素を部分的にフィルタ処理するフィルタ手段が複数設けられ、
一つの前記フィルタ手段のフィルタ処理対象となる複数の画素の全てが前記二次元配列の同じ列に属するものとならない選択をする選択手段と
を有することを特徴とするカメラ。
【図面の簡単な説明】
【0060】
【図1】第1実施形態に係るカメラを示す図である。
【図2】マトリクスMATを示す図である。
【図3】フィルタ回路6の構成を示す図である。
【図4】セレクタ部SL1の回路図である。
【図5】縦1ラインに連続するノイズ画素を示す図である。
【図6】マトリクス上の画素の割り振り例(その1)を示す図である。
【図7】縦横4画素ずつのノイズ画素を示す図である。
【図8】マトリクス上の画素の割り振り例(その2)を示す図である。
【図9】4連欠陥配置のノイズ画素を示す図である。
【符号の説明】
【0061】
1 カメラ
2 撮像素子回路
3 画像処理部
4 イメージセンサ
5 ディレイラインRAM
6 フィルタ回路
7 画像処理回路
8 平坦度判定ブロック
9 ピクセル合成ブロック
10 レジスタ
GR1ないしGR8 グループ
FF1ないしFF8 第1フィルタ部
SF 第2フィルタ部
SL1ないしSL8 セレクタ部
SS 設定信号
MAT マトリクス
PD 画素データ
RD 処理済画素データ
P0 注目画素
OD 出力画素データ

【特許請求の範囲】
【請求項1】
二次元配列された画像撮像素子により撮像された画像からノイズを除去するために該画像中の画素の画素値を平滑化するフィルタ処理を行なうフィルタ回路であって、
前記画像中のマトリクス単位で構成される複数の画素の中から、画素間の距離が予め確認されたインパルスノイズの大きさを越えて離間するように、画素をそれぞれ選択する複数の選択手段と、
前記選択手段ごとに設けられ、対応する前記選択手段により選択された画素をフィルタ処理する複数のフィルタ手段と
を有することを特徴とするフィルタ回路。
【請求項2】
二次元配列された画像撮像素子により撮像された画像からノイズを除去するために該画像中の画素の画素値を平滑化するフィルタ処理を行なうフィルタ回路であって、
前記画像中のマトリクス単位で構成される複数の画素の中から、ノイズの影響を受けている可能性がある画素が複数含まれないように、画素をそれぞれ選択する複数の選択手段と、
前記選択手段ごとに設けられ、対応する前記選択手段により選択された画素をフィルタ処理する複数のフィルタ手段と
を有することを特徴とするフィルタ回路。
【請求項3】
前記フィルタ手段は、
前記フィルタ処理対象となる複数の画素の画素値の内、最大値、最小値を除いた画素値でフィルタ処理する
ことを特徴とする請求項1または2に記載のフィルタ回路。
【請求項4】
複数の前記フィルタ手段からの複数のフィルタ出力は、更に最大値、最小値が取り除かれるフィルタ処理がなされることを特徴とする請求項3記載のフィルタ回路。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2012−165433(P2012−165433A)
【公開日】平成24年8月30日(2012.8.30)
【国際特許分類】
【出願番号】特願2012−86944(P2012−86944)
【出願日】平成24年4月6日(2012.4.6)
【分割の表示】特願2007−252898(P2007−252898)の分割
【原出願日】平成19年9月28日(2007.9.28)
【出願人】(308014341)富士通セミコンダクター株式会社 (2,507)
【Fターム(参考)】