説明

画像処理装置、補正方法、並びに、撮像装置

【課題】より正確に黒レベル補正を行うことができるようにする。
【解決手段】本開示の画像処理装置は、撮像素子のOPB領域の異なる画素同士の、前記OPB領域の画素信号の信号値の差分値の変化の程度を示すパラメータを算出する算出部と、前記算出部により算出された前記パラメータのモデルを用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する推定部とを備える。本開示は画像処理装置、補正方法、並びに、撮像装置に適用することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本開示は、画像処理装置、補正方法、並びに、撮像装置に関し、特に、より正確に黒レベル補正を行うことができるようにした画像処理装置、補正方法、並びに、撮像装置に関する。
【背景技術】
【0002】
従来、外部からの入射光が遮光された画素の領域である遮光画素領域を設け、その遮光画素領域に光が漏れる光漏れが発生した場合に、その領域の黒レベルを使用し補正を行う方法がある(例えば、特許文献1参照)。この方法の場合、遮光画素領域全体に光漏れが発生するような強い光が撮像素子に照射された場合、遮光画素領域において検出される基準となる黒レベルが浮いてしまうので、黒レベル補正を正しく行う事が出来なかった。
【0003】
また、遮光画素領域全体に光漏れが発生するのを避ける為、遮光画素領域を有効画素領域から遠ざけるといった手法も考えられるが、有効画素領域と物理的距離が離れる為、さらに行数を増やす事になりチップ面積が増大し、コストが増大する恐れがあった。
【0004】
また、このような遮光画素領域に光漏れがあると判断された場合、予め記録しておいた黒レベルの値を使用する方法が考えられた。この手法の場合、あくまで予め想定される黒レベルが使用されるので、実際の動作時に想定外の条件で光漏れが発生した場合、記憶しておいた黒レベルと実際の黒レベルが異なる恐れがあった。そのため、正確な黒レベル補正を行うことが出来ない恐れがあった。
【0005】
ところで、有効画素領域の暗信号電流と遮光画素領域の暗電流との比率を予め記憶し、その比率を用いて黒レベル補正を行う方法が考えられた(例えば、特許文献2および特許文献3参照)。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2008−048244号公報
【特許文献2】特許4462299号
【特許文献3】特開2009−284424号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献2や特許文献3に記載の方法は、異なる暗電流特性を持った画素領域でも正しく黒レベル補正を行うための方法であり、光漏れに対して正しい黒レベル補正を行うことができない恐れがあった。また、照射される光の色温度が変わった場合も、同様に、正しい黒レベル補正を行うことができない恐れがあった。
【0008】
本開示は、このような状況に鑑みてなされたものであり、より正確に黒レベル補正を行うことを目的とする。
【課題を解決するための手段】
【0009】
本開示の一側面は、撮像素子のOPB領域の異なる画素同士の、前記OPB領域の画素信号の信号値の差分値の変化の程度を示すパラメータを算出する算出部と、前記算出部により算出された前記パラメータのモデルを用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する推定部とを備える画像処理装置である。
【0010】
前記パラメータのモデルを記憶する記憶部をさらに備え、前記推定部は、前記記憶部に記憶されている前記モデルを用いて、前記黒レベルの基準値を推定することができる。
【0011】
前記パラメータのモデルを生成する生成部をさらに備え、前記記憶部は、前記生成部により生成された前記パラメータのモデルを記憶することができる。
【0012】
前記生成部は、所定の条件毎に前記パラメータを生成し、前記記憶部は、前記生成部により生成された前記条件毎の前記パラメータのモデルを記憶することができる。
【0013】
前記記憶部に記憶されている前記モデルの中から、前記算出部により算出された前記パラメータに最も近いモデルを特定する特定部をさらに備え、前記推定部は、前記特定部により特定された前記モデルを用いて、前記黒レベルの基準値を推定することができる。
【0014】
前記OPB領域の画素信号の信号値、または、前記信号値の異なる画素同士の差分値を閾値と比較することにより、前記OPB領域への光漏れを検知する検知部をさらに備え、前記推定部は、前記検知部により前記光漏れが検知された場合のみ、前記黒レベルの基準値を推定することができる。
【0015】
前記推定部により推定された前記黒レベルの基準値を用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正する補正部をさらに備えることができる。
【0016】
前記パラメータは、有効画素領域までの距離毎の、前記差分値の変化率若しくは変化量であることができる。
【0017】
前記撮像素子は、多層構造を有し、前記算出部および前記推定部は、前記多層構造の、前記OPB領域および前記有効画素領域が形成されていない層に設けられることができる。
【0018】
前記撮像素子は、各画素で複数の色信号を検出する縦型分光構造を有し、前記算出部は、前記パラメータを、前記色信号毎に算出し、前記推定部は、前記黒レベルの基準値を、前記色信号毎に推定することができる。
【0019】
前記撮像素子は、赤外光を検知し、前記算出部は、前記撮像素子のOPB領域の異なる画素同士の、前記OPB領域の赤外光の画素信号の信号値の差分値の変化の程度を示すパラメータを算出し、前記推定部は、前記算出部により算出された前記パラメータのモデルを用いて、前記撮像素子の有効画素領域の赤外光の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定することができる。
【0020】
本開示の他の側面は、撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正する補正方法であって、算出部が、前記撮像素子のOPB領域の異なる画素同士の、前記OPB領域の画素信号の信号値の差分値の変化の程度を示すパラメータを算出し、推定部が、算出された前記パラメータのモデルを用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定し、補正部が、推定された前記黒レベルの基準値を用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正する補正方法である。
【0021】
本開示のさらに他の側面は、有効画素領域およびOPB領域を有し、被写体を撮像する撮像素子と、前記撮像素子のOPB領域の異なる画素同士の、前記OPB領域の画素信号の信号値の差分値の変化の程度を示すパラメータを算出する算出部と、前記算出部により算出された前記パラメータのモデルを用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する推定部とを備える撮像装置である。
【0022】
本開示のさらに他の側面は、撮像素子のOPB領域の電荷蓄積時間が互いに異なる複数の画素の信号値を取得する取得部と、前記取得部により取得された、前記電荷蓄積時間が互いに異なる複数の画素の信号値を用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する推定部とを備える画像処理装置である。
【0023】
前記取得部は、前記OPB領域の前記電荷蓄積時間が比較的短い短時間蓄積画素の信号値と、前記OPB領域の前記電荷蓄積時間が比較的長い長時間蓄積画素の信号値とを取得し、前記推定部は、前記取得部により取得された前記短時間蓄積画素の信号値と、前記長時間蓄積画素の信号値とを用いて、前記黒レベルの基準値を推定することができる。
【0024】
前記推定部は、前記短時間蓄積画素の蓄積時間と、前記長時間蓄積画素の蓄積時間との比率、前記短時間蓄積画素の信号値、および、前記長時間蓄積画素の信号値を用いて前記黒レベルの基準値を推定することができる。
【0025】
前記取得部により取得された前記信号値、または、前記信号値の前記OPB領域の蓄積時間が互いに同じ画素同士の差分値を閾値と比較することにより、前記OPB領域への光漏れを検知する検知部をさらに備え、前記推定部は、前記検知部により前記光漏れが検知された場合のみ、前記黒レベルの基準値を推定することができる。
【0026】
前記推定部により推定された前記黒レベルの基準値を用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正する補正部をさらに備えることができる。
【0027】
本開示のさらに他の側面は、撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正する補正方法であって、取得部が、前記撮像素子のOPB領域の電荷蓄積時間が互いに異なる複数の画素の信号値を取得し、推定部が、取得された、前記電荷蓄積時間が互いに異なる複数の画素の信号値を用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定し、補正部が、推定された前記黒レベルの基準値を用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正する補正方法である。
【0028】
本開示のさらに他の側面は、電荷蓄積時間が互いに異なる複数の画素よりなる有効画素領域およびOPB領域を有し、被写体を撮像する撮像素子と、前記OPB領域の電荷蓄積時間が互いに異なる複数の画素の信号値を取得する取得部と、前記取得部により取得された、前記電荷蓄積時間が互いに異なる複数の画素の信号値を用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する推定部とを備える撮像装置である。
【0029】
本開示の一側面においては、撮像素子のOPB領域の異なる画素同士の、OPB領域の画素信号の信号値の差分値の変化の程度を示すパラメータが算出され、算出されたパラメータのモデルを用いて、撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値が推定される。
【0030】
本開示の他の側面においては、撮像素子のOPB領域の異なる画素同士の、OPB領域の画素信号の信号値の差分値の変化の程度を示すパラメータが算出され、算出されたパラメータのモデルを用いて、有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値が推定され、推定された黒レベルの基準値を用いて、有効画素領域の画素信号の信号値の黒レベルが補正される。
【0031】
本開示のさらに他の側面においては、被写体が撮像され、撮像素子のOPB領域の異なる画素同士の、OPB領域の画素信号の信号値の差分値の変化の程度を示すパラメータが算出され、算出されたパラメータのモデルを用いて、撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値が推定される。
【0032】
本開示のさらに他の側面においては、撮像素子のOPB領域の電荷蓄積時間が互いに異なる複数の画素の信号値が取得され、取得された、電荷蓄積時間が互いに異なる複数の画素の信号値を用いて、撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値が推定される。
【0033】
本開示のさらに他の側面においては、撮像素子のOPB領域の電荷蓄積時間が互いに異なる複数の画素の信号値が取得され、取得された、電荷蓄積時間が互いに異なる複数の画素の信号値を用いて、有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値が推定され、推定された黒レベルの基準値を用いて、有効画素領域の画素信号の信号値の黒レベルが補正される。
【0034】
本開示のさらに他の側面においては、被写体が撮像され、OPB領域の電荷蓄積時間が互いに異なる複数の画素の信号値が取得され、取得された、電荷蓄積時間が互いに異なる複数の画素の信号値を用いて、有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値が推定される。
【発明の効果】
【0035】
本開示によれば、画像を処理することができる。特に、より正確に黒レベル補正を行うことができる。
【図面の簡単な説明】
【0036】
【図1】本技術を適用した撮像装置の主な構成例を示すブロック図である。
【図2】モデルを生成する様子を説明する図である。
【図3】モデル生成時に測定された信号値の例を示す図である。
【図4】モデル生成時に測定された信号値の例を示す図である。
【図5】モデル生成時に算出される変化率の例を示す図である。
【図6】モデル記憶処理の流れの例を説明するフローチャートである。
【図7】黒レベルの推定の様子の例を説明する図である。
【図8】実測された信号値を説明する図である。
【図9】実測された信号値を説明する図である。
【図10】撮像処理の流れの例を説明するフローチャートである。
【図11】黒レベル設定処理の流れの例を説明するフローチャートである。
【図12】本技術を適用した撮像装置の他の構成例を示すブロック図である。
【図13】黒レベルの推定の様子の例を説明する図である。
【図14】黒レベル設定処理の流れの例を説明するフローチャートである。
【図15】多層構造を説明する図である。
【図16】縦型分光構造を説明する図である。
【図17】本技術を適用した撮像装置の、さらに他の構成例を示すブロック図である。
【図18】制御部の主な構成例を示すブロック図である。
【発明を実施するための形態】
【0037】
以下、本技術を実施するための形態(以下実施の形態とする)について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態(撮像装置)
2.第2の実施の形態(撮像装置)
3.第3の実施の形態(撮像装置)
【0038】
<1.第1の実施の形態>
[撮像装置]
図1は、本技術を適用した撮像装置の主な構成例を示すブロック図である。図1に示される撮像装置100は、被写体を撮像し、撮像画像データを得る装置である。
【0039】
図1に示されるように、撮像装置100は、制御部101、撮像素子111、A/D変換部112、黒レベル設定部113、クランプ部114、欠陥補正部115、および画像処理部116を有する。
【0040】
制御部101は、撮像装置100の各部を制御し、撮像に関する処理を実行させる。
【0041】
撮像素子111は、外部より入射した光を光電変換し、各画素に蓄積された電荷を画素信号としてA/D変換部112に供給する。撮像素子111は、各画素が構成される領域として、有効画素領域121およびオプティカルブラック(OPB(Optical Black)領域122)を有する。
【0042】
有効画素領域121の画素においては、その画素に入射された光が、フォトダイオード等の光電変換素子により光電変換され、その電荷が画素信号として読み出される。OPB領域122の画素は、基本的に有効画素領域121と同様の構成を有するが、遮光膜等によって遮光されており、外部からその画素に光が入射しないようになされている。OPB領域122の画素の画素信号の信号値は、黒レベルの基準とされ、有効画素領域の画素の信号値の、このような黒レベル補正に用いられる。
【0043】
なお、図1においては、OPB領域122が、有効画素領域121の図中上側に隣接するように設けられているが、OPB領域122は、有効画素領域121の外部であれば、その位置は任意である。例えば、OPB領域122が、有効画素領域121の図中右側、左側、若しくは下側に設けられていても良い。また、OPB領域122が有効画素領域121を囲むように設けられていても良い。さらに、OPB領域122が有効画素領域121に隣接していなくても良い。また、OPB領域122が複数設けられていても良い。さらに、OPB領域122や有効画素領域121の大きさや形状は任意である。
【0044】
A/D変換部112は、撮像素子から出力される有効画素領域121およびOPB領域122の各画素の信号値をデジタルデータ(画像データ)に変換する。
【0045】
黒レベル設定部113は、OPB領域122の信号値の空間的変化に基づいて、クランプ部114において行われる黒レベル補正に用いられる黒レベルを設定する。図1に示されるように、黒レベル設定部113は、制御部131、検出部132、演算部133、および記憶部134を有する。
【0046】
クランプ部114は、黒レベル設定部113により設定された黒レベルを用いて、A/D変換された有効画素領域121の画素の信号値に対する黒レベルの補正を行う。欠陥補正部115は、黒レベル補正された画像データに含まれる欠陥画素の信号値の補正を行う。画像処理部116は、欠陥補正された画像データに対して、例えばホワイトバランス調整等の、任意の画像処理を行う。画像処理部116は、処理後の画像データを撮像装置100の外部に出力する。
【0047】
撮像素子111は、温度などの外的要因により光電変換の特性が変化する。したがって同じ光を光電変換する場合であっても、このような外的要因により出力される信号値が異なる場合がある。そこで、クランプ部114は、信号値の黒レベルを基準値に合わせることにより、このような特性変化を吸収し、安定した撮像結果が得られるようにする。
【0048】
しかしながら、有効画素領域121に非常に強い光が照射された場合、撮像素子111内部において光の回り込みが発生し、OPB領域122にその光が漏れてしまう恐れがあった。このような光の漏れによりOPB領域122の信号値が浮いてしまうので、従来の補正方法の場合、有効画素領域121の信号値の黒レベル補正を正しく行うことができなくなる恐れがあった。
【0049】
ところで、撮像素子111の有効画素領域121に強い光があたりOPB領域122に光が漏れた場合、OPB領域122の信号値は、例えば、図2に示されるグラフのように、有効画素領域121から離れるにつれて減少する。つまり、OPB領域122の各画素の信号値は、有効画素領域121からの距離(つまり、画素位置)に応じて変化する。黒レベル設定部113は、このような信号値の空間的変化に着目し、この信号値の差分値を使用して、本来の黒レベルを推定する。
【0050】
黒レベル設定部113は、被写体を撮像する実撮影の前に、信号値の空間的変化を表す、隣接する信号値同士の差分値の変化率のモデル(図2)を生成する。なお、変化率は、差分値の変化の程度を表すパラメータとして生成される。つまり、ここで生成されるパラメータは、差分値の変化の程度を表すものであればなんでも良い。例えば、変化量であっても良い。なお、以下においては、このような差分値の変化の程度を表すパラメータのことを「変化率」として説明する。つまり、以下に述べる「変化率」には、特に言及しない限り、「変化量」等の、任意の差分値の変化の程度を表すパラメータが含まれる。
【0051】
検出部132は、OPB領域122の、有効画素領域121から離れる方向に隣接する画素同士の信号値の差分値が、予めレジスタ等に記憶しておいた閾値より大きいか否かにより光漏れを検出する。すなわち、検出部132は、差分値が閾値より大きい場合、光漏れを検出したと判定し、その判定結果を制御部131に供給する。
【0052】
なお、このような光漏れの検出の判定は、信号値そのもので行っても良い。つまり、検出部132が、信号値を予め用意された閾値と比較し、信号値が閾値より大きい場合、光漏れを検出したと判定するようにしてもよい。
【0053】
光漏れが検出されると、制御部131は、演算部133を制御し、有効画素領域121から離れる方向に隣接する画素同士の信号値の差分値の変化率を算出させ、モデルを生成させる。
【0054】
より具体的には、演算部133は、OPB領域の、有効画素領域121から離れる方向に隣接する画素間の信号値の差分値を算出し、その差分値の変化率を、有効画素領域121までの距離ごとに算出する。
【0055】
記憶部134は、制御部131に制御され、有効画素領域までの距離毎の信号値と変化率を、モデルとして記憶する。
【0056】
信号値の差分値と前記記憶部に保存されたデータを比較し、最も近い特性を示したデータから黒レベルを算出する。
【0057】
黒レベル設定部113は、このようなモデルを、互いに異なる撮像条件の下で複数生成し、記憶する。図3は、各条件下でのOPB領域122の信号値を示している。このような信号値が得られると、記憶部134は、これらの信号値を、条件毎に(モデル毎に)、図4に示されるように、有効画素領域121までの距離毎に記憶する。
【0058】
演算部133は、上述したように、信号値から差分値の変化率を算出する。記憶部134は、その変化率を、条件毎に(モデル毎に)、図5に示されるように、有効画素領域121までの距離毎に記憶する。
【0059】
このようなモデルの生成タイミングは、実撮影の前であれば任意である。例えば、工場出荷前においてこのようなモデルを生成し、そのモデルを記憶部134に保存した状態で出荷するようにしてもよい。
【0060】
なお、このようなモデルを生成する際、実際の撮像素子111よりもOPB領域を大きくし、光漏れによる信号値がどのように推移していくかを一定値に落ち着くまで測定するようにしてもよい。このように実際よりも広い拡張OPB領域において信号値を測定することにより、仮にOPB領域122全体に光漏れが生じた場合でも、黒レベル設定部113は、より正確に黒レベルの設定を行う事が出来る。なお、黒レベル設定部113が、取得された信号値から、予め予想される値(信号値の収束値)を計算し、記憶するようにしても良い。
【0061】
また、モデルを生成する撮像条件は任意であるが、例えば、色温度毎にモデルが生成されるようにしてもよい。また、例えば、絞りの設定、IRカットフィルタの有無、レンズの種類、入射角などの光学条件毎にモデルが生成されるようにしてもよい。
【0062】
より実使用に近い条件化においてモデルを生成することにより、黒レベル設定部113は、後述するように、黒レベル補正の際により近似するモデルを選択することができるので、クランプ部114は、より正確な黒レベル補正を行うことができる。
【0063】
[モデル記憶処理の流れ]
図6のフローチャートを参照して、このようなモデル記憶処理の流れの例を説明する。
【0064】
モデル記憶処理が開始されると、撮像素子111は、ステップS101において、所定の条件下で強い光が照射された状態で、拡張OPB領域の信号値を取得する。
【0065】
ステップS102において、A/D変換部112は、ステップS101において取得された信号値をA/D変換する。
【0066】
ステップS103において、検出部132は、信号値(若しくは差分値)を閾値と比較し、光漏れを検出したか否かを判定する。信号値(若しくは差分値)が閾値より大きく、光漏れを検出したと判定した場合、制御部131は、処理をステップS104に進める。
【0067】
ステップS104において、記憶部134は、図4に示される表のように、有効画素領域121までの距離毎に信号値を記憶する。
【0068】
ステップS105において、演算部133は、有効画素領域121から遠ざかる方向に隣接する画素間の信号値の差分値を算出する。
【0069】
ステップS106において、演算部133は、有効画素領域121までの距離毎に、差分値の変化率を算出する。
【0070】
ステップS107において、記憶部134は、図5に示される表のように、有効画素領域121までの距離毎に、ステップS106において算出された変化率を記憶する。
【0071】
ステップS107の処理を終了すると、制御部101は、モデル記憶処理を終了する。また、ステップS103において、信号値(若しくは差分値)が閾値以下であり、光漏れが検出されていないと判定された場合、制御部131は、モデル記憶処理を終了する。
【0072】
撮像装置100は、以上のようなモデル記憶処理を条件毎に実行することにより、各条件のモデルを生成し、記憶する。
【0073】
[実撮影における黒レベルの推定]
そして、被写体を撮像する実撮影の際、演算部133は、例えば図7のグラフに示されるように、実際に得られた信号値から、その差分値の変化率を算出する。そして、演算部133は、その算出した変化率と、記憶部134に記憶されたモデル(差分値の変化率)とを比較し、その変化率の推移が最も近いモデルを選択する。そして演算部133は、そのモデルを用いて、有効画素領域の画素信号の信号値の黒レベルの補正(クランプ処理)に用いられる黒レベルの基準値(以下、単に黒レベルとも称する)を推定する。
【0074】
上述したように、モデルにおいては、実際のOPB領域122より広い拡張OPB領域の信号値を用いて生成されるか、若しくは、信号値の収束値が推定される。したがって、例えば、図7に示されるように、OPB領域122全体に光が漏れている場合であっても、演算部133は、モデルを参照することにより、正しい黒レベルの値(信号値の収束値)を求めることができる。
【0075】
より具体的な例を説明する。例えば、記憶部134が、図4および図5に示されるデータをモデルとして予め記憶しているとする。また、実撮影により、OPB領域122において、図8のグラフおよび図9の表に示されるような信号値が取得されたとする。
【0076】
これらの信号値から検出部132が、光漏れを検出したと判定すると、演算部133は、隣接する画素の信号値の差分値を算出する。すなわち、図9の例の場合、各行の差分値は、以下のように算出される。
【0077】
1行目-2行目=600-546=54
2行目-3行目=546-222=324
3行目-4行目=222-128=94
【0078】
次に、演算部133は、算出されたこれらの差分値の変化率を、以下のように行毎に算出する。
【0079】
(2行目-3行目)/(1行目-2行目)=324/54=6.000
(3行目-4行目)/( 2行目-3行目)=94/324= 0.290
【0080】
演算部133は、こうして得られたデータ(変化率)と、記憶部134に保存されているモデルのデータとを比較し、実測値に最も近似するモデルを選択する。図5の例の場合、条件1のモデルのデータが最も実測値に近似している。その誤差は7.14%と、2.13%である。
【0081】
なお、この比較の際、演算部133が、例えば、誤差10%以内に入っていればモデルの値が正しい(実測値に近似する)と判定するようにしてもよい。
【0082】
実測例のデータでは、有効画素領域121から4画素目より遠い画素のデータが存在しない。また、この4画素目において、信号値が収束していない。しかしながら、記憶部134が記憶するモデルのデータは、上述したように黒レベルが収束するまで(推定値も含む)存在する。したがって、演算部133は、このモデルを参照することにより、より正しい黒レベルを求めることができる。
【0083】
より具体的に説明すると、図5の条件1のモデルの場合、(4行目-5行目)において(3行目-4行目)の0.5倍分、値が低下している。したがって、(4行目-5行目)の差分値は、以下のように算出される。
【0084】
(3行目-4行目)* 5ピクセルの記憶データ@条件1=94*0.5=47
【0085】
つまり、5画素目の信号値は、4画素目の信号値より47低い。したがって、5画素目の信号値は、以下のように算出される。
【0086】
128-47=81
【0087】
なお、図5の表によれば、(5行目-6行目)の変化率は0である。つまり、有効画素領域121から5画素目の信号値「81」が信号値の収束値(正しい黒レベル)である。演算部133は、このように黒レベルを推定すると、推定した値をクランプ部114に供給し、黒レベルとしてクランプ処理に利用させる。
【0088】
つまり、この推定された黒レベルが、クランプ部114において、有効画素領域の信号値の黒レベル補正に用いられる。このようにすることにより、クランプ部114は、より正確に黒レベル補正を行うことができる。
【0089】
[撮像処理の流れ]
図10のフローチャートを参照して、実撮影における撮像処理の流れの例を説明する。
【0090】
撮像処理が開始されると、撮像素子111は、ステップS121において、被写体を撮像し、有効画素領域121およびOPB領域122の各画素の信号値を出力する。ステップS122において、A/D変換部112は、ステップS121の撮像により得られた信号値をA/D変換する。
【0091】
ステップS123において、黒レベル設定部113は、ステップS121の撮像により得られたOPB領域122の信号値を用いて、上述したように黒レベルを設定する。
【0092】
ステップS124において、クランプ部114は、ステップS123において設定された黒レベルを用いて、有効画素領域121の各画素の信号値の黒レベルを補正する。
【0093】
ステップS125において、欠陥補正部115は、欠陥画素の信号値を補正する。
【0094】
ステップS126において、画像処理部116は、黒レベル補正や欠陥画素補正が行われた有効画素領域121の信号値からなる画像データに対して、画像処理を行う。
【0095】
ステップS126の処理が終了すると、制御部101は、撮像処理を終了する。
【0096】
[黒レベル設定処理の流れ]
図11のフローチャートを参照して、図10のステップS123において実行される黒レベル設定処理の流れの例を説明する。
【0097】
黒レベル設定処理が開始されると、検出部132は、ステップS141において、OPB領域の各画素の信号値を取得する。ステップS142において、検出部132は、その信号値若しくは差分値を閾値と比較し、その比較結果に従って光漏れを検出したか否かを判定する。
【0098】
信号値(若しくは差分値)が閾値より大きく、光漏れが検出されたと判定された場合、制御部131は、処理をステップS143に進める。
【0099】
ステップS143において、演算部133は、隣接画素間の信号値の差分値を算出する。さらに、ステップS144において、演算部133は、ステップS143において算出された差分値の変化率を、有効画素領域121までの距離毎に算出する。ステップS145において、演算部133は、記憶部134に記憶されている各モデルを参照し、算出した変化率とモデルの変化率を比較し、その変化率が最も近似するモデルを特定する(利用するモデルを選択する)。
【0100】
ステップS146において、演算部133は、選択したモデルの変化率を用いて、実測の信号値に対応する、より正しい黒レベル(信号値の収束値(推定値を含む))を推定する。
【0101】
黒レベルを推定すると、演算部133は、その推定値をクランプ部114に供給し、黒レベル設定処理を終了し、処理を図10に戻す。
【0102】
また、図11のステップS142において、信号値(若しくは差分値)が閾値以下であり、光漏れが検出されていないと判定された場合、制御部131は、処理をステップS147に進める。ステップS147において、演算部133は、モデルを参照せずに、OPB領域122の実測の信号値から黒レベルを算出する。黒レベルを算出すると、演算部133は、その推定値をクランプ部114に供給し、黒レベル設定処理を終了し、処理を図10に戻す。
【0103】
以上のように各処理を実行することにより、黒レベル設定部113は、より正しい黒レベルを推定することができる。したがって、クランプ部114は、より正確に黒レベル補正を行うことができる。すなわち、撮像装置100は、OPB領域122に光漏れが発生する場合であっても、より正確な黒レベル補正を行うことができる。つまり、撮像装置100は、光漏れに対する黒レベル補正の耐性を向上させることができる。
【0104】
なお、以上においては、隣接する信号値同士の差分値の変化率(若しくは変化量等)をパラメータとして求めるように説明したが、このパラメータは、信号値の空間的変化(有効画素領域からの距離に応じた信号値の変化)を表すものであればよい。したがって、信号値の差分値を求める画素は、OPB領域の、有効画素領域から離れる方向に異なる位置の画素同士であればよい(隣接する画素同士でなくてもよい)。
【0105】
<2.第2の実施の形態>
[撮像装置]
図12は、本技術を適用した撮像装置の他の構成例を示すブロック図である。図12に示される撮像装置200は、図1の撮像装置100と基本的に同様の装置である。つまり、撮像装置200は、撮像装置100と基本的に同様の構成を有し、同様の処理を行う。ただし、撮像装置200は、撮像装置100の撮像素子111の代わりに、撮像素子211を有する。
【0106】
撮像素子211には、撮像素子111の場合と同様に、有効画素領域221の外部にOPB領域222が設けられている。ただし、有効画素領域221は、例えば高ダイナミックレンジの画像を得ることができるように、電荷の蓄積時間が互いに異なる複数種類の画素により構成される。このような撮像素子は、例えば、特開2010−213251号公報に記載されている。
【0107】
有効画素領域221の画素の種類(電荷蓄積時間の長さ)は、複数であればよく、2種類であっても良いし、3種類以上であってもよい。以下においては説明の便宜上、有効画素領域221が、蓄積時間の短い画素と長い画素の2種類の画素により構成されるものとする。
【0108】
OPB領域222は、OPB領域122の場合と同様に、遮光されていること以外、有効画素領域221と同様の構成を有する。つまり、OPB領域222も、蓄積時間の短い画素と長い画素の2種類の画素により構成される。OPB領域222の画素の種類は、有効画素領域221と同数である。
【0109】
また、撮像装置200は、撮像装置100の黒レベル設定部113の代わりに、黒レベル設定部213を有する。
【0110】
黒レベル設定部113が、信号値(差分値の変化率)の空間的変化を利用して、より正しい黒レベルを設定したのに対し、黒レベル設定部213は、信号値(差分値の変化率)の時間的変化を利用して、より正しい黒レベルを設定する。つまり、黒レベル設定部213は、蓄積時間の短い画素と長い画素との間の、蓄積時間の差を利用して、より正しい黒レベルを求める。
【0111】
より具体的に説明すると、例えば、短い方の蓄積時間(短時間蓄積)に比べて、長い方の蓄積時間(長時間蓄積)の時間がα倍であるとすると、両者の出力信号値は以下の式で表すことができる。
【0112】
短時間蓄積 : 1x + 黒レベル = y(出力値)
長時間蓄積 : αx + 黒レベル = y'(出力値)
x:短時間蓄積の時の光透過量。
y,y':遮光画素領域の信号値。
α:短時間蓄積画素に対する長時間蓄積画素の蓄積時間の比率
【0113】
各画素の電荷蓄積時間は既知であるので、αの値は既知である。また、短時間・長時間蓄積画素それぞれの出力値y,y'は測定可能である。したがって、黒レベルは両式から求める事が出来る。
【0114】
つまり、黒レベル設定部213は、モデルを利用せずに、黒レベルを求めることができる。すなわち、黒レベル設定部213は、モデルを予め生成し、記憶する必要がない。
【0115】
したがって、図12に示されるように、黒レベル設定部213は、制御部231、検出部232、および演算部233を有するが、記憶部を備えていない。
【0116】
制御部231は、検出部232および演算部233を制御する。検出部232は、検出部132の場合と同様に、光漏れの検出を行い、演算部233は、より正しい黒レベルを算出する。
【0117】
有効画素に強い光があたりOPB領域に光が漏れた場合、光が漏れているOPB領域の画素では、例えば、図13に示されるように、蓄積時間が長い程信号値が増加する。この電荷蓄積時間の短い画素の蓄積量と、電荷蓄積時間の長い画素の蓄積量との差分は、漏れた光によるものである。つまり、図13に示されるように、この蓄積時間の異なる画素の信号値の差分から、より正しい黒レベルを推定することができる。
【0118】
例えば、短時間蓄積の時間に比べて長時間蓄積の時間が16倍であるとすると、両者の出力信号値は以下のように表すことができる。
【0119】
短時間蓄積 : y(出力値) = 1x + 黒レベル
長時間蓄積 : y'(出力値) = 16x + 黒レベル
x:短時間蓄積時の光漏れによって生じた信号値
y,y':OPB画素領域の信号値
【0120】
短時間・長時間蓄積画素それぞれの出力値y,y'は測定可能であるので、黒レベルは両式から求める事が出来る。つまり、上述の式を新たに書き直すと以下のようになる。
【0121】
黒レベル = (16y - y') / 15
【0122】
したがって、演算部133は、短時間・長時間蓄積画素の出力値y,y'を測定する事で、黒レベルを推定する事が出来る。
【0123】
例えば、y=96,y'=576の場合、黒レベル=(16*96-576)/15=64である。また、例えば、短時間蓄積が16.66msec、長時間蓄積が66.66msec、y=96、y'=192である場合、αは4であり、黒レベル=(4*96-192)/(4-1)=64である。
【0124】
演算部233は、このように黒レベルを推定すると、推定した値をクランプ部114に供給し、黒レベルとしてクランプ処理に利用させる。
【0125】
つまり、この推定された黒レベルが、クランプ部114において、有効画素領域の信号値の黒レベル補正に用いられる。このようにすることにより、クランプ部114は、より正確に黒レベル補正を行うことができる。
【0126】
[黒レベル設定処理の流れ]
撮像装置200の場合も、撮像処理は、第1の実施の形態の場合と同様に実行される。図14のフローチャートを参照して、図10のステップS123において実行される黒レベル設定処理の流れの例を説明する。
【0127】
黒レベル設定処理が開始されると、検出部232は、ステップS201において、OPB領域の各画素の信号値を取得する。ステップS202において、検出部232は、その信号値若しくは差分値を閾値と比較し、その比較結果に従って光漏れを検出したか否かを判定する。
【0128】
信号値(若しくは差分値)が閾値より大きく、光漏れが検出されたと判定された場合、制御部231は、処理をステップS203に進める。
【0129】
ステップS203において、演算部233は、短時間蓄積画素の信号値と、長時間蓄積画素の信号値とを用いて、黒レベルを推定する。黒レベルを推定すると、演算部233は、その推定値をクランプ部114に供給し、黒レベル設定処理を終了し、処理を図10に戻す。
【0130】
また、図14のステップS202において、信号値(若しくは差分値)が閾値以下であり、光漏れが検出されていないと判定された場合、制御部231は、処理をステップS204に進める。ステップS204において、演算部233は、モデルを参照せずに、OPB領域222の実測の信号値から黒レベルを算出する。黒レベルを算出すると、演算部233は、その推定値をクランプ部114に供給し、黒レベル設定処理を終了し、処理を図10に戻す。
【0131】
以上のように各処理を実行することにより、黒レベル設定部213は、より正しい黒レベルを推定することができる。したがって、クランプ部114は、より正確に黒レベル補正を行うことができる。すなわち、撮像装置200は、OPB領域222に光漏れが発生する場合であっても、より正確な黒レベル補正を行うことができる。つまり、撮像装置200は、光漏れに対する黒レベル補正の耐性を向上させることができる。
【0132】
[多層構造]
なお、撮像素子は、例えば、図15に示されるように、画素領域(有効画素領域およびOPB領域)とそれ以外の制御回路やロジック回路などを階層毎に分けた多層構造とすることもできる。撮像素子111や撮像素子211をこのような多層構造の撮像素子とする場合、黒レベル設定部113や黒レベル設定部213は、例えば、図15に示されるように、画素領域が形成される層とは異なる層(例えば、ロジック回路が形成される層)に設けることにより、チップ面積の増大を抑制することができる。
【0133】
[撮像素子]
また、撮像素子111および撮像素子211の画素の配列構造は任意である。また、撮像素子111および撮像素子211は、CCDイメージセンサであってもよいし、CMOSイメージセンサであってもよいし、それ以外の種類の撮像素子であってもよい。さらに、撮像素子111および撮像素子211は、表面照射型の構造のイメージセンサであってもよいし、裏面照射型の構造のイメージセンサであってもよい。
【0134】
すなわち、本技術は、有効画素領域とOPB領域を有する撮像素子であれば、どのような撮像素子において得られた画素信号であっても適用することができる。
【0135】
[縦型分光構造]
なお、例えば、特開2011−29453号公報に開示されているような、1つの画素において複数の色信号を感知する縦型分光構造の撮像素子において得られる画素信号に対しても、本技術を適応する事が出来る。
【0136】
例えば、図16に示される縦型分光構造の撮像素子は、1つの画素で3つの色信号R,G,Bを感知する。この撮像素子の場合、各色毎に光漏れによる発生信号量が異なる。そこで、黒レベル設定部113は、各色についてモデルを生成し、用意する。このようにすることにより、黒レベル設定部113は、各色について黒レベルを正しく推定することができる。さらに、各色において推定した黒レベルを比較検討するようにすることにより、黒レベル設定部113は、より正しい黒レベルを設定することができる。つまり、クランプ部114は、より正確に黒レベル補正を行うことができる。
【0137】
[赤外光]
なお、黒レベルを補正する信号値は、可視光の信号値に限らない。本技術は、赤外線を使って撮影を行う撮像装置にも容易に適用することができる。例えば、夜間でも撮影可能な撮像装置では、赤外線などの光を利用して撮影しているが、赤外線の波長が長い為にOPB領域に漏れ込む可能性が高い。
【0138】
黒レベル設定部113は、可視光に限らず、どのような光の信号値であっても同様に黒レベルを補正することができる。つまり、赤外光の信号値において黒レベルを補正する場合、黒レベル設定部113は、予め赤外光のモデルを作成し、記憶部134に保持させておけばよい。
【0139】
つまり、撮像装置100は、赤外光の場合も、より正確に黒レベル補正を行うことができる。
【0140】
<3.第3の実施の形態>
[撮像装置]
図17は、本技術を適用した撮像装置の構成例を示す図である。図17に示される撮像装置600は、被写体を撮像し、その被写体の画像を電気信号として出力する装置である。
【0141】
図17に示されるように撮像装置600は、光学部611、CMOSセンサ612、A/D変換器613、制御部615、画像処理部616、表示部617、コーデック処理部618、および記録部619を有する。
【0142】
光学部611は、被写体までの焦点を調整し、焦点が合った位置からの光を集光するレンズ、露出を調整する絞り、および、撮像のタイミングを制御するシャッタ等よりなる。光学部611は、被写体からの光(入射光)を透過し、CMOSセンサ612に供給する。
【0143】
CMOSセンサ612は、第1の実施の形態および第2の実施の形態において説明した構造を有する撮像素子(撮像素子111若しくは撮像素子211)であり、有効画素領域において、入射光を光電変換して画素毎の信号(画素信号)をA/D変換器613に供給する。また、CMOSセンサ612は、OPB領域の画素信号もA/D変換器613に供給する。つまり、CMOSセンサ612は、撮像装置100の撮像素子111、または、撮像装置200の撮像素子211に対応する。
【0144】
A/D変換器613は、CMOSセンサ612から、所定のタイミングで供給された画素信号を、デジタルデータ(画像データ)に変換し、所定のタイミングで順次、画像処理部616に供給する。
【0145】
制御部615は、ユーザの操作入力等に基づいて、光学部611、CMOSセンサ612、A/D変換器613、画像処理部616、表示部617、コーデック処理部618、および記録部619の駆動を制御し、各部に撮像に関する処理を行わせる。
【0146】
画像処理部616は、A/D変換器613から供給された画像データに対して、第1の実施の形態および第2の実施の形態において説明したように、クランプ処理(黒レベル補正)を行う。
【0147】
また、画像処理部616は、クランプ処理以外の任意の画像処理を行うことができる。例えば、混色補正、ホワイトバランス調整、デモザイク処理、マトリックス処理、ガンマ補正、およびYC変換等が行われるようにしてもよい。
【0148】
つまり、画像処理部616は、撮像装置100の黒レベル設定部113、クランプ部114、欠陥補正部115、および画像処理部116の各部、または、撮像装置200の黒レベル設定部213、クランプ部114、欠陥補正部115、および画像処理部116の各部に対応する。
【0149】
画像処理部616は、画像処理を施した画像データを表示部617およびコーデック処理部618に供給する。
【0150】
表示部617は、例えば、液晶ディスプレイ等として構成され、画像処理部616から供給された画像データに基づいて、被写体の画像を表示する。
【0151】
コーデック処理部618は、画像処理部616から供給された画像データに対して、所定の方式の符号化処理を施し、得られた符号化データを記録部619に供給する。
【0152】
記録部619は、コーデック処理部618からの符号化データを記録する。記録部619に記録された符号化データは、必要に応じて画像処理部616に読み出されて復号される。復号処理により得られた画像データは、表示部617に供給され、対応する画像が表示される。
【0153】
以上のように、撮像装置600は、本技術を適用した方法で黒レベルの推定を行うので、より正確に黒レベル補正を行うことができ、撮像して得られる撮像画像の画質を向上させることができる。
【0154】
なお、本技術を適用した撮像素子を備える撮像装置は、上述した構成に限らず、他の構成であってもよい。
【0155】
以上に説明した各装置は、それぞれ、上述した以外の構成を含むようにしてももちろんよい。また、1つの装置としてだけでなく、複数の装置よりなるシステムとして構成されるようにしてもよい。
【0156】
[制御部]
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な汎用のパーソナルコンピュータ、並びに、図1や図12の制御部101や図17の制御部615などが含まれる。
【0157】
図18は、図17の制御部615の主な構成例を示すブロック図である。図18に示される構成は、図1や図12の制御部101にも適用することができる。
【0158】
図18において、制御部615のCPU(Central Processing Unit)701は、ROM(Read Only Memory)702に記憶されているプログラム、または記憶部713からRAM(Random Access Memory)703にロードされたプログラムに従って各種の処理を実行する。RAM703にはまた、CPU701が各種の処理を実行する上において必要なデータなども適宜記憶される。
【0159】
CPU701、ROM702、およびRAM703は、バス704を介して相互に接続されている。このバス704にはまた、入出力インタフェース710も接続されている。
【0160】
入出力インタフェース710には、キーボード、マウスなどよりなる入力部711、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)などよりなるディスプレイ、並びにスピーカなどよりなる出力部712、ハードディスクなどより構成される記憶部713、モデムなどより構成される通信部714が接続されている。通信部714は、インターネットを含むネットワークを介しての通信処理を行う。
【0161】
入出力インタフェース710にはまた、必要に応じてドライブ715が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア721が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部713にインストールされる。
【0162】
上述した一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、ネットワークや記録媒体からインストールされる。
【0163】
この記録媒体は、例えば、図18に示されるように、装置本体とは別に、ユーザにプログラムを配信するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc - Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini Disc)を含む)、若しくは半導体メモリなどよりなるリムーバブルメディア721により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに配信される、プログラムが記録されているROM702や、記憶部713に含まれるハードディスクなどで構成される。
【0164】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0165】
また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0166】
また、本明細書において、システムとは、複数のデバイス(装置)により構成される装置全体を表すものである。
【0167】
また、以上において、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。つまり、本技術は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【0168】
なお、本技術は以下のような構成も取ることができる。
(1) 撮像素子のOPB領域の異なる画素同士の、前記OPB領域の画素信号の信号値の差分値の変化の程度を示すパラメータを算出する算出部と、
前記算出部により算出された前記パラメータのモデルを用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する推定部と
を備える画像処理装置。
(2) 前記パラメータのモデルを記憶する記憶部をさらに備え、
前記推定部は、前記記憶部に記憶されている前記モデルを用いて、前記黒レベルの基準値を推定する
前記(1)に記載の画像処理装置。
(3) 前記パラメータのモデルを生成する生成部をさらに備え、
前記記憶部は、前記生成部により生成された前記パラメータのモデルを記憶する
前記(2)に記載の画像処理装置。
(4) 前記生成部は、所定の条件毎に前記パラメータを生成し、
前記記憶部は、前記生成部により生成された前記条件毎の前記パラメータのモデルを記憶する
前記(3)に記載の画像処理装置。
(5) 前記記憶部に記憶されている前記モデルの中から、前記算出部により算出された前記パラメータに最も近いモデルを特定する特定部をさらに備え、
前記推定部は、前記特定部により特定された前記モデルを用いて、前記黒レベルの基準値を推定する
前記(2)乃至(4)のいずれかに記載の画像処理装置。
(6) 前記OPB領域の画素信号の信号値、または、前記信号値の異なる画素同士の差分値を閾値と比較することにより、前記OPB領域への光漏れを検知する検知部をさらに備え、
前記推定部は、前記検知部により前記光漏れが検知された場合のみ、前記黒レベルの基準値を推定する
前記(1)乃至(5)のいずれかに記載の画像処理装置。
(7) 前記推定部により推定された前記黒レベルの基準値を用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正する補正部をさらに備える
前記(1)乃至(6)のいずれかに記載の画像処理装置。
(8) 前記パラメータは、有効画素領域までの距離毎の、前記差分値の変化率若しくは変化量である
前記(1)乃至(7)のいずれかに記載の画像処理装置。
(9) 前記撮像素子は、多層構造を有し、
前記算出部および前記推定部は、前記多層構造の、前記OPB領域および前記有効画素領域が形成されていない層に設けられる
前記(1)乃至(8)のいずれかに記載の画像処理装置。
(10) 前記撮像素子は、各画素で複数の色信号を検出する縦型分光構造を有し、
前記算出部は、前記パラメータを、前記色信号毎に算出し、
前記推定部は、前記黒レベルの基準値を、前記色信号毎に推定する
前記(1)乃至(9)のいずれかに記載の画像処理装置。
(11) 前記撮像素子は、赤外光を検知し、
前記算出部は、前記撮像素子のOPB領域の異なる画素同士の、前記OPB領域の赤外光の画素信号の信号値の差分値の変化の程度を示すパラメータを算出し、
前記推定部は、前記算出部により算出された前記パラメータのモデルを用いて、前記撮像素子の有効画素領域の赤外光の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する
前記(1)乃至(10)のいずれかに記載の画像処理装置。
(12) 撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正する補正方法であって、
算出部が、前記撮像素子のOPB領域の異なる画素同士の、前記OPB領域の画素信号の信号値の差分値の変化の程度を示すパラメータを算出し、
推定部が、算出された前記パラメータのモデルを用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定し、
補正部が、推定された前記黒レベルの基準値を用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正する
補正方法。
(13) 有効画素領域およびOPB領域を有し、被写体を撮像する撮像素子と、
前記撮像素子のOPB領域の異なる画素同士の、前記OPB領域の画素信号の信号値の差分値の変化の程度を示すパラメータを算出する算出部と、
前記算出部により算出された前記パラメータのモデルを用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する推定部と
を備える撮像装置。
(14) 撮像素子のOPB領域の電荷蓄積時間が互いに異なる複数の画素の信号値を取得する取得部と、
前記取得部により取得された、前記電荷蓄積時間が互いに異なる複数の画素の信号値を用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する推定部と
を備える画像処理装置。
(15) 前記取得部は、前記OPB領域の前記電荷蓄積時間が比較的短い短時間蓄積画素の信号値と、前記OPB領域の前記電荷蓄積時間が比較的長い長時間蓄積画素の信号値とを取得し、
前記推定部は、前記取得部により取得された前記短時間蓄積画素の信号値と、前記長時間蓄積画素の信号値とを用いて、前記黒レベルの基準値を推定する
前記(14)に記載の画像処理装置。
(16) 前記推定部は、前記短時間蓄積画素の蓄積時間と、前記長時間蓄積画素の蓄積時間との比率、前記短時間蓄積画素の信号値、および、前記長時間蓄積画素の信号値を用いて前記黒レベルの基準値を推定する
前記(15)に記載の画像処理装置。
(17) 前記取得部により取得された前記信号値、または、前記信号値の前記OPB領域の蓄積時間が互いに同じ画素同士の差分値を閾値と比較することにより、前記OPB領域への光漏れを検知する検知部をさらに備え、
前記推定部は、前記検知部により前記光漏れが検知された場合のみ、前記黒レベルの基準値を推定する
前記(14)乃至(16)のいずれかに記載の画像処理装置。
(18) 前記推定部により推定された前記黒レベルの基準値を用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正する補正部をさらに備える
前記(14)乃至(17)のいずれかに記載の画像処理装置。
(19) 撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正する補正方法であって、
取得部が、前記撮像素子のOPB領域の電荷蓄積時間が互いに異なる複数の画素の信号値を取得し、
推定部が、取得された、前記電荷蓄積時間が互いに異なる複数の画素の信号値を用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定し、
補正部が、推定された前記黒レベルの基準値を用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正する
補正方法。
(20) 電荷蓄積時間が互いに異なる複数の画素よりなる有効画素領域およびOPB領域を有し、被写体を撮像する撮像素子と、
前記OPB領域の電荷蓄積時間が互いに異なる複数の画素の信号値を取得する取得部と、
前記取得部により取得された、前記電荷蓄積時間が互いに異なる複数の画素の信号値を用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する推定部と
を備える撮像装置。
【符号の説明】
【0169】
100 撮像装置, 101 制御部, 111 撮像素子, 113 黒レベル設定部, 114 クランプ部, 121 有効画素領域, 122 OPB領域, 131 制御部, 132 検出部, 133 演算部, 134 記憶部, 200 撮像装置, 211 撮像素子, 213 黒レベル設定部, 221 有効画素領域, 231 制御部, 232 検出部, 233 演算部, 600 撮像装置, 612 CMOSセンサ, 616 画像処理部

【特許請求の範囲】
【請求項1】
撮像素子のOPB領域の異なる画素同士の、前記OPB領域の画素信号の信号値の差分値の変化の程度を示すパラメータを算出する算出部と、
前記算出部により算出された前記パラメータのモデルを用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する推定部と
を備える画像処理装置。
【請求項2】
前記パラメータのモデルを記憶する記憶部をさらに備え、
前記推定部は、前記記憶部に記憶されている前記モデルを用いて、前記黒レベルの基準値を推定する
請求項1に記載の画像処理装置。
【請求項3】
前記パラメータのモデルを生成する生成部をさらに備え、
前記記憶部は、前記生成部により生成された前記パラメータのモデルを記憶する
請求項2に記載の画像処理装置。
【請求項4】
前記生成部は、所定の条件毎に前記パラメータを生成し、
前記記憶部は、前記生成部により生成された前記条件毎の前記パラメータのモデルを記憶する
請求項3に記載の画像処理装置。
【請求項5】
前記記憶部に記憶されている前記モデルの中から、前記算出部により算出された前記パラメータに最も近いモデルを特定する特定部をさらに備え、
前記推定部は、前記特定部により特定された前記モデルを用いて、前記黒レベルの基準値を推定する
請求項2に記載の画像処理装置。
【請求項6】
前記OPB領域の画素信号の信号値、または、前記信号値の異なる画素同士の差分値を閾値と比較することにより、前記OPB領域への光漏れを検知する検知部をさらに備え、
前記推定部は、前記検知部により前記光漏れが検知された場合のみ、前記黒レベルの基準値を推定する
請求項1に記載の画像処理装置。
【請求項7】
前記推定部により推定された前記黒レベルの基準値を用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正する補正部をさらに備える
請求項1に記載の画像処理装置。
【請求項8】
前記パラメータは、有効画素領域までの距離毎の、前記差分値の変化率若しくは変化量である
請求項1に記載の画像処理装置。
【請求項9】
前記撮像素子は、多層構造を有し、
前記算出部および前記推定部は、前記多層構造の、前記OPB領域および前記有効画素領域が形成されていない層に設けられる
請求項1に記載の画像処理装置。
【請求項10】
前記撮像素子は、各画素で複数の色信号を検出する縦型分光構造を有し、
前記算出部は、前記パラメータを、前記色信号毎に算出し、
前記推定部は、前記黒レベルの基準値を、前記色信号毎に推定する
請求項1に記載の画像処理装置。
【請求項11】
前記撮像素子は、赤外光を検知し、
前記算出部は、前記撮像素子のOPB領域の異なる画素同士の、前記OPB領域の赤外光の画素信号の信号値の差分値の変化の程度を示すパラメータを算出し、
前記推定部は、前記算出部により算出された前記パラメータのモデルを用いて、前記撮像素子の有効画素領域の赤外光の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する
請求項1に記載の画像処理装置。
【請求項12】
撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正する補正方法であって、
算出部が、前記撮像素子のOPB領域の異なる画素同士の、前記OPB領域の画素信号の信号値の差分値の変化の程度を示すパラメータを算出し、
推定部が、算出された前記パラメータのモデルを用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定し、
補正部が、推定された前記黒レベルの基準値を用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正する
補正方法。
【請求項13】
有効画素領域およびOPB領域を有し、被写体を撮像する撮像素子と、
前記撮像素子のOPB領域の異なる画素同士の、前記OPB領域の画素信号の信号値の差分値の変化の程度を示すパラメータを算出する算出部と、
前記算出部により算出された前記パラメータのモデルを用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する推定部と
を備える撮像装置。
【請求項14】
撮像素子のOPB領域の電荷蓄積時間が互いに異なる複数の画素の信号値を取得する取得部と、
前記取得部により取得された、前記電荷蓄積時間が互いに異なる複数の画素の信号値を用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する推定部と
を備える画像処理装置。
【請求項15】
前記取得部は、前記OPB領域の前記電荷蓄積時間が比較的短い短時間蓄積画素の信号値と、前記OPB領域の前記電荷蓄積時間が比較的長い長時間蓄積画素の信号値とを取得し、
前記推定部は、前記取得部により取得された前記短時間蓄積画素の信号値と、前記長時間蓄積画素の信号値とを用いて、前記黒レベルの基準値を推定する
請求項14に記載の画像処理装置。
【請求項16】
前記推定部は、前記短時間蓄積画素の蓄積時間と、前記長時間蓄積画素の蓄積時間との比率、前記短時間蓄積画素の信号値、および、前記長時間蓄積画素の信号値を用いて前記黒レベルの基準値を推定する
請求項15に記載の画像処理装置。
【請求項17】
前記取得部により取得された前記信号値、または、前記信号値の前記OPB領域の蓄積時間が互いに同じ画素同士の差分値を閾値と比較することにより、前記OPB領域への光漏れを検知する検知部をさらに備え、
前記推定部は、前記検知部により前記光漏れが検知された場合のみ、前記黒レベルの基準値を推定する
請求項14に記載の画像処理装置。
【請求項18】
前記推定部により推定された前記黒レベルの基準値を用いて、前記撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正する補正部をさらに備える
請求項14に記載の画像処理装置。
【請求項19】
撮像素子の有効画素領域の画素信号の信号値の黒レベルを補正する補正方法であって、
取得部が、前記撮像素子のOPB領域の電荷蓄積時間が互いに異なる複数の画素の信号値を取得し、
推定部が、取得された、前記電荷蓄積時間が互いに異なる複数の画素の信号値を用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定し、
補正部が、推定された前記黒レベルの基準値を用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正する
補正方法。
【請求項20】
電荷蓄積時間が互いに異なる複数の画素よりなる有効画素領域およびOPB領域を有し、被写体を撮像する撮像素子と、
前記OPB領域の電荷蓄積時間が互いに異なる複数の画素の信号値を取得する取得部と、
前記取得部により取得された、前記電荷蓄積時間が互いに異なる複数の画素の信号値を用いて、前記有効画素領域の画素信号の信号値の黒レベルを補正するための黒レベルの基準値を推定する推定部と
を備える撮像装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate


【公開番号】特開2013−77945(P2013−77945A)
【公開日】平成25年4月25日(2013.4.25)
【国際特許分類】
【出願番号】特願2011−216201(P2011−216201)
【出願日】平成23年9月30日(2011.9.30)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】