説明

イメージセンサの不良画素の検出及び補正方法

【課題】不良画素に対する正確な検出及び完全な補正が行われるようにする技術を提供する。
【解決手段】実施例によるイメージセンサの不良画素の検出及び補正方法は、被写体のイメージフレームを多数個生成して保存する第1過程;前記複数のイメージフレーム内の画素をスキャンする第2過程;前記複数のイメージフレームで不良画素が検出される時、該当不良画素の位置を不良ブロック位置としてメモリに保存する第3過程;及び撮影が行われる時前記メモリに保存された不良ブロック位置を呼び出して、該当不良ブロックの輝度値を補正する第4過程を含む。

【発明の詳細な説明】
【技術分野】
【0001】
本発明はイメージセンサでの不良画素の検出及び補正方法に関する。
【背景技術】
【0002】
イメージセンサは数十万乃至数百万個の画素で構成された画素アレイと、画素で感知したアナログデータをデジタルデータに変える装置と、数百乃至数千個の保存装置と、などで構成される。ところが、この時、このような多数の装置によってイメージセンサは常に工程上のエラーの可能性を持つことになる。
【0003】
このようなイメージセンサの品質は不良画素(bad pixel)の個数によって製品の等級が決定され、不良画素の個数が少ないほど良質の製品になる。イメージセンサでこのような不良画素によるエラーは画面上に小さな点の形態に現れる。
【0004】
このような部分的な不良画素が存在するイメージセンサチップをすべて不良チップとして処分する場合は歩留まりが悪くなるため、該当不良画素を補正して使用する。
【0005】
既存の不良画素の補正方式はターゲット画素である不良画素と周辺画素の輝度(luminance)を検出するか、R、G、Bレベルを検出した後、差を確認してから不良画素をリアルタイム(realtime)に補正する方式であった。
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかし、既存の不良画素補正方式はリアルタイムという長所がある一方、不良画素に対する正確な位置検出及び完全な補正が行われることが難しい問題がある。
【0007】
本発明は不良画素に対する正確な検出及び完全な補正が行われるようにする方法に関する。
【課題を解決するための手段】
【0008】
上記課題を解決するために、本発明のある態様はイメージセンサの不良画素の検出及び補正方法である。この方法は、被写体のイメージフレームを複数個生成して保存する第1過程;前記複数のイメージフレーム内の画素をスキャンする第2過程;前記複数のイメージフレームで不良画素が検出される時、該当不良画素の位置を不良ブロック位置としてメモリに保存する第3過程;及び撮影が行われる時前記メモリに保存された不良ブロック位置を呼び出して、該当不良ブロックの輝度値を補正する第4過程を含む。
【0009】
なお、以上の構成要素の任意の組み合わせ、本発明の表現を方法、装置、システム、コンピュータプログラム、データ構造、記録媒体などの間で変換したものもまた、本発明の態様として有効である。
【発明の効果】
【0010】
本発明は既存のリアルタイムによる検出に依存することなく不良画素に対する正確な検出を行うことができる効果がある。また、検出された不良ブロックに対して差比率を用いた補正を行うことで、正確な補正が行われることができる効果がある。
【図面の簡単な説明】
【0011】
【図1】実施例によるイメージセンサの不良画素の検出及び補正過程を示すフローチャートである。
【図2】実施例によって被写体の撮像によって総3枚のイメージフレームを保存して不良ブロックを検出する図である。
【図3】実施例による不良ブロックに対する補正過程を示すフローチャートである。
【図4】補正前の各サブブロック輝度値と補正後の各サブブロックの輝度値を示す図である。
【発明を実施するための形態】
【0012】
以下、添付された図面を参照して実施例の詳細な説明が行われる。以下で、各図面の構成要素に参照符号を付すにあたり同じ構成要素に対しては、他の図面上に表示されている場合もなるべく同じ符号を持つようにしていることに留意すべきである。
【0013】
図1は、実施例によるイメージセンサの不良画素の検出及び補正過程を示すフローチャートである。
【0014】
まず、補正のための複数の被写体環境を構築し、前記構築された複数の被写体環境下で各イメージフレームをキャプチャして保存する。
【0015】
前記被写体環境はイメージセンサの不良画素を補正しようとする時必要とする複数のイメージフレームに対する被写体の輝度明るさである。
【0016】
例えば、イメージセンサでデッドピクセルが発生する場合該当デッドピクセルが黒色系の黒点に現れる場合、前記被写体環境は被写体の色相を明るい系に構築させた環境をいう。
【0017】
したがって、被写体環境を異なるようにして撮像した後、複数のイメージフレームを生成(S21)して保存(S22)する。
【0018】
この時、複数のイメージフレームが3枚である場合、図2(a)に示すように、しきい値以上の輝度値を持つホワイト、イエロー、ブルーという各々の明るい系の被写体の撮像によって総3枚のイメージフレームが生成されて保存されることがわかる。
【0019】
前記しきい値以上の輝度値は200以上の輝度値になることがある。
【0020】
そして、前記3枚のイメージフレームがそれぞれホワイト、イエロー、ブルーの色を持つ必要はなく、3枚のイメージフレームが一つの色相の系だけで撮像されてもよい。
【0021】
また、前記3枚のイメージフレームがしきい値以上の輝度値を持つ場合、同じ明るさ又は互いに異なる明るさで撮像され得る。
【0022】
各イメージフレーム内の画素をスキャン(S23)して不良画素が検出されたかを判定(S24)する。
【0023】
例えば、デッドピクセルの不良画素は常にしきい値以上の黒色輝度値を持つが、このような黒色輝度値が各イメージフレーム内に存在する時、該当画素位置をすべて不良画素として判定する。
【0024】
図2(b)に示すように、各イメージフレーム内で画素をスキャンして、黒い黒点が現れる画素が3枚のイメージフレームで現れる場合該当画素位置を不良画素(デッドピクセル)として判定する。
【0025】
この時、3枚のイメージフレームで黒点が同じ位置に形成されることもあり、互いに異なる位置に黒点が形成されることもあるが、3枚のイメージフレームに形成された全ての黒点はデッドピクセルであると決定されることができる。
【0026】
すなわち、最初のイメージフレームには現れなかったが、2番目のイメージフレームに新しく現れた黒点もデッドピクセルとして決定される。
【0027】
上記のように各イメージフレームごとに不良画素が検出される場合、該当不良画素が入っている該当ブロックを不良ブロック位置としてメモリに保存(S25)する。
【0028】
すなわち、フレームを複数のブロックに分割して、前記不良画素を含むブロックの位置を不良ブロックの位置としてメモリに保存する。
【0029】
上記のように不良ブロック位置をメモリに保存させておいた後に、撮影が行われる時、前記メモリに保存された不良ブロック位置を呼び出して該当不良ブロックに対する補正(S26)を行う。
【0030】
もし、不良ブロックが多数の場合には最初の不良ブロック位置を呼び出して補正を行った後、最後の不良ブロックに到達するまで次の不良ブロック位置を呼び出して順に補正を行う。
【0031】
前記不良ブロックに対する補正過程(S26)を図3とともに詳細に説明する。
【0032】
図3は、実施例による不良ブロックに対する補正過程を示すフローチャートである。
【0033】
以下、システムの演算負荷を軽減するために不良ブロックをサブブロックに分割して補正する例を挙げて説明する。
【0034】
この時、前記サブブロックは画素内のR、G、Bのうちいずれか一つの色に対してのみ比較のために概略的に示したブロックである。
【0035】
R、G、Bのうちいずれか一つの色に対して補正が行われた後、他の色に対しても順に補正が行われることができる。
【0036】
撮影が行われる時メモリに保存された不良ブロック位置を呼び出して、イメージフレーム内に位置する不良ブロックをn×m個の複数のサブブロックに分割(S41)する。
【0037】
不良ブロックを分割して生成した複数のサブブロックのうち最初のサブブロックの輝度値を検出(S42)する。
【0038】
その後、現在のサブブロックに対して前のサブブロックとの差比率を計算して算出(S43)する。
【0039】
ちなみに、最初のサブブロックの差比率を求める場合、現在のサブブロックとは最初のサブブロックsub_B1のことであり、前のサブブロックsub_B(x−1)とは最初のサブブロックsub_B1の左側に位置する他のブロック内のサブブロックのことをいう。
【0040】
前記差比率は前のサブブロックsub_B(x−1)と現在のサブブロックsub_Bxのうちもっとも大きい輝度値(最大輝度値)と前のサブブロックsub_B(x−1)と現在のサブブロックsub_Bxの間の絶対差値の比率を示したもので下記式(1)に記載した。
【0041】
[数1]
サブブロックsub_Bxの差比率
={前のサブブロックsub_B(x−1)と現在のサブブロックsub_Bxの間の絶対差値}÷{前のサブブロックsub_B(x−1)と現在のサブブロックsub_Bxのうち最大輝度値}=|sub_B(x−1)−sub_Bx)|÷Max(sub_B(x−1):sub_Bx) (1)
【0042】
その後、前記現在のサブブロックの差比率が予め設定したしきい比率を超えたかを判定(S44)し、同時に、現在のサブブロックの差比率から前のサブブロックの差比率を引いた値がしきい比率を超えたかを判定(S45)する。
【0043】
前記S44及びS45の判定の結果、しきい比率を超えた場合には、現在のサブブロックの輝度値を前のサブブロックの輝度値に置換して補正(S46)し、超えていない場合にはそのままにしておく。
【0044】
前記補正が行われた後は、次のサブブロックの輝度値を検出(S48)した後、該当サブブロック差比率を前記式(1)によって算出(S43)した後、前記過程S44、S45を繰り返して次のサブブロックの輝度値を補正(S46)する。
【0045】
このようなサブブロックの補正過程は最後のサブブロックであるかを判定(S47)して最後のサブブロックに到達するまで繰り返し行われる。
【0046】
ちなみに、各サブブロックが輝度値が図4(a)のようである場合、前記図3の過程による各サブブロックの差比率の算出例及び各サブブロックの補正例を説明する。図4(b)は図3の過程によって補正が行われた後の各サブブロックの輝度値を示す図である。
【0047】
16個のサブブロックからなる不良ブロックが各サブブロックの輝度値として図4(a)のような値を持つ場合を見てみる。
【0048】
第1、2、3、4、5、8、9、12、13、14、15、16サブブロックの輝度値がそれぞれ200を持ち、第6、7、10、11のサブブロックの輝度値がそれぞれ50を持つとする場合、第1サブブロック乃至第5サブブロックはすべて同じ200の輝度値をそれぞれ持つ。
【0049】
したがって、前のサブブロックの差値がないため、式(1)に代入する時に第1、2、3、4のサブブロック差比率は「0」を持つようになる。
【0050】
しかし、50の輝度値を持つ第6サブブロックsub_B6の場合は200の輝度値を持つ第5サブブロックsub_B5と150の差を持つようになる。
【0051】
したがって、第6サブブロックsub_B6の差比率を式(1)に代入して算出すると次のとおりである。
第6サブブロックsub_B6の差比率
=|sub_B5−sub_B6|÷Max(sub_B5:sub_B6)
=|200−50|÷Max(200:50)
=150÷200
=0.75
【0052】
結局、図4(b)に示すように第6サブブロックは0.75の差比率を持つことがわかる。
【0053】
したがって、しきい比率が0.2であると仮定した場合、このような0.75の差比率はしきい比率0.2より大きい。
【0054】
また、第6サブブロックの差比率0.75から前のサブブロックである第5サブブロックの差比率0を引いた値がしきい比率0.2より大きいため、現在のサブブロックである第6サブブロックの輝度値を第5サブブロックの輝度値である200に置換補正する。
【0055】
前記第6サブブロックsub_B6に対する補正が行われた後、次のサブブロックである第7サブブロックsub_B7に対する補正が行われる。ただし、ここで前のサブブロックである第6サブブロックは既に補正が行われているため補正された200の輝度値を持つ。
【0056】
また、200に補正された状態になるため、第6サブブロックsub_B6の差比率は「0」を持つようになる。
【0057】
上記のように第6サブブロックが200に補正され、第6サブブロックの差比率が「0」を持つようになった状態で、第7サブブロックsub_B7の差比率を式(1)に代入して算出すると次のとおりである。
第7サブブロックsub_B7の差比率
=|sub_B6−sub_B7|÷Max(sub_B6:sub_B7)
=|200−50|÷Max(200:50)
=150÷200
=0.75
【0058】
結局、図4(b)に示すように第7サブブロックは0.75の差比率を持つことがわかる。
【0059】
したがって、同じようにこのような0.75の差比率はしきい比率0.2より大きく、また、第7サブブロックの差比率0.75から前のサブブロックである第6サブブロックの差比率0を引いた値がしきい比率0.2より大きいため、第7サブブロックの輝度値を第6サブブロックの輝度値である200に置換補正する。
【0060】
同様に、前記のような過程を経て第10、第11サブブロックも200に置換補正されることができる。
【0061】
この時、前記図1及び図3の過程の説明ではイメージフレーム内の不良ブロックを検出した後、再び該当不良ブロックのサブブロックに対して差比率を検出してその差に応じて補正の有無が決定されるようにした。
【0062】
上述のように、図1及び図3の過程によってイメージフレームの不良画素を検出して、該当不良画素を含むブロック位置をメモリに不良ブロック位置として保存する。
【0063】
そして、撮影が行われる時イメージフレーム内の不良ブロックに対する位置情報をメモリから読み出して、該当ブロック内のサブブロックに対する補正が行われる。
【0064】
ところが、上述のような図1のステップS26の補正は図3の補正アルゴリズムによって行われてもよいが、各サブブロックの差比率を算出することなく、不良ブロックとして保存されたブロックを前のサブブロックの値にそのまま置き換えてもよい。
【0065】
すなわち、既に不良ブロックに決定されたブロックに対してはしきい比率に関係なく、不良ブロックの値を前のサブブロックの値に置き換えることによって補正が行われることができる。
【0066】
また、この他にも図1のステップS26の他の補正実施例として、イメージセンサ内の補正レジスタに該当不良ブロックの位置を直接指定してセットすることで、撮影が行われる時該当ブロックに対する補正が自動的に行われるように実施できる。
【0067】
一般に補正処理を自ら行うことができるイメージセンサの場合、補正レジスタを持っているが、このような補正レジスタのセット値に応じて特定位置のブロックに対する補正が行われる。
【0068】
したがって、前記過程によって検出した不良ブロックの位置をイメージセンサ内の補正レジスタにセットして書き込んで(writing)おくことによって、撮影が行われる時該当指定された位置のブロックに対する補正が行われる。
【0069】
前記レジスタによる補正は補正レジスタのセット値によって補正対象ブロックが決まる場合、前記図3の補正アルゴリズムによって行われてもよく、他の補正アルゴリズムによって補正が行われてもよい。
【0070】
以上、実施例を中心に説明したが、これはただの例示にすぎず本発明を限定するものでなく、本発明の属する分野の通常の知識を有する者であれば本実施例の本質的な特性から逸脱しない範囲で以上で例示されていない様々な変形や応用が可能であることがわかる。例えば、実施例に具体的に現れた各構成要素は変形して実施できるものである。そして、このような変形や応用に係る相違点は添付された特許請求の範囲で規定する本発明の範囲に含まれるものと解釈されるべきである。

【特許請求の範囲】
【請求項1】
被写体のイメージフレームを複数個生成して保存する第1過程;
前記複数のイメージフレーム内の画素をスキャンする第2過程;
前記複数のイメージフレームで不良画素が検出される時、該当不良画素の位置を不良ブロック位置としてメモリに保存する第3過程;及び
撮影が行われる時前記メモリに保存された不良ブロック位置を呼び出して、該当不良ブロックの輝度値を補正する第4過程を含むイメージセンサの不良画素の検出及び補正方法。
【請求項2】
前記イメージフレームは互いに同じ明るさの環境を持つことを含む請求項1に記載のイメージセンサの不良画素の検出及び補正方法。
【請求項3】
前記イメージフレームは互いに異なる明るさの環境を持つことを含む請求項1に記載のイメージセンサの不良画素の検出及び補正方法。
【請求項4】
前記明るさの環境は、しきい値以上の輝度値を持つ明るい明るさの環境であることを特徴とする請求項1に記載のイメージセンサの不良画素の検出及び補正方法。
【請求項5】
前記しきい値は200以上の輝度値であることを含む請求項4に記載のイメージセンサの不良画素の検出及び補正方法。
【請求項6】
前記第3過程で、前記複数のイメージフレームごとに黒色輝度値が検出された全ての画素を不良画素として判断する請求項1に記載のイメージセンサの不良画素の検出及び補正方法。
【請求項7】
第4過程は、撮影が行われる時イメージセンサ内の補正制御を行う補正レジスタがある場合、前記メモリに保存された不良ブロック位置によるセットを前記補正レジスタに行うことによって不良ブロックの輝度値補正が行われる請求項1に記載のイメージセンサの不良画素の検出及び補正方法。
【請求項8】
第4過程は、
前記メモリに保存された不良ブロック位置を呼び出して、不良ブロックの前のブロックと同じ輝度値に置換する請求項1に記載のイメージセンサの不良画素の検出及び補正方法。
【請求項9】
第4過程は、
前記メモリに保存された不良ブロック位置による該当ブロックを呼び出してイメージフレームを複数のサブブロックに分割する第4−1過程;
最初のサブブロックの輝度値を検出する第4−2過程;
前のサブブロックと現在のサブブロックの間の輝度値の差に対する比率をサブブロックの差比率とする場合、現在のサブブロックの差比率を算出する第4−3過程;
現在のサブブロックの差比率と予め設定したしきい比率とを比べ、その結果に応じて現在のサブブロックの輝度値に対する補正の有無を決定する第4−4過程;及び
最後のサブブロックに到達するまで次のサブブロックの輝度値を検出して前記第4−3過程、第4−4過程を繰り返し行う第4−5過程を含む請求項1に記載のイメージセンサの不良画素の検出及び補正方法。
【請求項10】
しきい比率は0.2であることを特徴とする請求項9に記載のイメージセンサの不良画素の検出及び補正方法。
【請求項11】
前記サブブロックの差比率は、{前のサブブロックsub_B(x−1)と現在のサブブロックsub_Bxの間の絶対差値}÷{前のサブブロックsub_B(x−1)と現在のサブブロックsub_Bxのうち最大輝度値}により求められることを特徴とする請求項9に記載のイメージセンサの不良画素の検出及び補正方法。
【請求項12】
前記第4−4過程は、現在のサブブロックの差比率が予め設定したしきい比率より大きく、現在のサブブロックの差比率から前のサブブロックの差比率を引いた値が前記しきい比率より大きい場合には、現在のサブブロックの輝度値を前のサブブロックの輝度値に置換補正する請求項9に記載のイメージセンサの不良画素の検出及び補正方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4(a)】
image rotate

【図4(b)】
image rotate


【公表番号】特表2012−514371(P2012−514371A)
【公表日】平成24年6月21日(2012.6.21)
【国際特許分類】
【出願番号】特願2011−543384(P2011−543384)
【出願日】平成21年8月28日(2009.8.28)
【国際出願番号】PCT/KR2009/004831
【国際公開番号】WO2010/074386
【国際公開日】平成22年7月1日(2010.7.1)
【出願人】(510039426)エルジー イノテック カンパニー リミテッド (279)
【Fターム(参考)】