撮像装置
【課題】S/N比の高い輝度信号及び色情報信号を生成する。
【解決手段】撮像素子3は、可視波長領域と赤外波長領域とを有感度波長帯域とするye画素、R画素、Blk画素、及びW画素とを含む単位画素部31がマトリックス状に配列されている。信号生成部44は、色補間部43により補間処理が施されたye画像成分Dyeと、R画像成分DRと、赤外画像成分DBlkと、輝度画像成分DWとを合成して、各画素のR(赤),G(緑),B(青)の色信号dB,dR,dGを生成する。
【解決手段】撮像素子3は、可視波長領域と赤外波長領域とを有感度波長帯域とするye画素、R画素、Blk画素、及びW画素とを含む単位画素部31がマトリックス状に配列されている。信号生成部44は、色補間部43により補間処理が施されたye画像成分Dyeと、R画像成分DRと、赤外画像成分DBlkと、輝度画像成分DWとを合成して、各画素のR(赤),G(緑),B(青)の色信号dB,dR,dGを生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像素子と、その撮像素子により撮像された画像を画像処理する撮像装置に関するものである。
【背景技術】
【0002】
近年、夜間のシーンをカラーで撮像する撮像装置が知られている。特許文献1には、R,G,Bのフィルタを備える画素により撮像された画像からR,G,Bの色成分からなる可視画像データを抽出する可視画像抽出手段と、Irのフィルタを備える画素により撮像された画像から赤外画像データを抽出する赤外画像抽出手段と、可視画像データをHSV変換して第1の輝度情報を抽出し、かつ赤外画像データから第2の輝度情報を抽出する輝度情報抽出手段と、第1の輝度情報を重み係数w1で重み付け、第2の輝度情報を重み係数w2(w1+w2=1)で重み付け、疑似カラー画像を生成する疑似カラー画像生成手段とを備え、晴天の日ではw1=1とし、夜間の暗がりではw1=0とし、その中間的な状況下では1>w1>0とするカラー画像再生装置が開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2007−184805号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1では、晴天や暗がりに応じて重み係数を変更することが開示されているが、晴天や暗がりをどのようにして判別し、それを基に重みw1,w2をどのように決定するかについての開示が全くなされていないため、被写体の明るさに応じて適切な比率で可視画像の輝度成分と赤外画像の輝度成分とを合成することができないという問題がある。
【0005】
また、特許文献1では、赤外成分を含む赤色、緑色、及び青色の受光素子における受光量をHSV色空間に変換することで、輝度成分Vが求められているが、R,G,Bのフィルタは赤外領域における感度がそれぞれ異なることが一般的であるため、輝度成分を精度良く求めることができず、また、色再現性も悪いという問題がある。
【0006】
本発明の目的は、S/N比の高い輝度信号及び色情報を生成することができる撮像装置を提供することである。
【課題を解決するための手段】
【0007】
本発明の一局面による撮像装置は、カラーフィルタを備える画素と、赤外フィルタを備える画素と、少なくとも可視波長領域と赤外波長領域との光を受光する画素とが配列された撮像素子を含む撮像装置であって、前記撮像素子は、可視波長領域と赤外波長領域とを有感度波長帯域とする第1の画素、第2の画素、第3の画素、及び第4の画素とを含む単位画素部がマトリックス状に配列され、前記第1の画素は、前記可視波長領域の青色領域を除く前記有感度波長帯域の光を透過する第1のカラーフィルタを備え、前記第2の画素は、前記可視波長領域の青色領域及び緑色領域を除く前記有感度波長帯域の光を透過する第2のカラーフィルタを備え、前記第3の画素は、前記可視波長領域を除く前記有感度波長帯域の光を透過する赤外フィルタを備え、前記第4の画素は、少なくとも可視波長領域と赤外波長領域との光を受光する画素であり、前記第1〜第4の画素の画素信号から画像の色情報を算出する色情報算出手段と、前記第1〜第4の画素の画素信号から画像の輝度情報を算出する輝度情報算出手段とを備える。
【発明の効果】
【0008】
本発明によれば、S/N比の高い輝度信号及び色情報を生成することができる。
【図面の簡単な説明】
【0009】
【図1】本発明の実施の形態1による撮像装置のブロック図を示している。
【図2】本発明の実施の形態1による撮像素子の画素の配列を示す図である。
【図3】ye,R,Blkフィルタの分光透過特性を示した図である。
【図4】実施の形態1における画像処理部と制御部とのブロック図を示している。
【図5】重み係数k,kwの特性を示すグラフである。
【図6】色空間変換部の処理の説明図である。
【図7】本発明の実施の形態2による画像処理部と制御部とのブロック図を示している。
【図8】評価値eにおけるゲインの特性を示したグラフである。
【図9】評価値eBlkにおけるゲインの特性を示したグラフである。
【図10】実施の形態3における画像処理部と制御部とのブロック図を示している。
【図11】乗算値e・eBlkにおけるゲインの特性を示したグラフである。
【発明を実施するための形態】
【0010】
(実施の形態1)
以下、本発明の実施の形態1による撮像装置1について説明する。図1は、本発明の実施の形態1による撮像装置1のブロック図を示している。図1に示すように撮像装置1は、レンズ2、撮像素子3、画像処理部4、及び制御部5を備えている。
【0011】
レンズ2は、被写体の光像を取り込み、撮像素子3へ導く光学レンズ系から構成される。光学レンズ系としては、被写体の光像の光軸Lに沿って直列的に配置される例えばズームレンズやフォーカスレンズ、その他の固定レンズブロック等を採用することができる。また、レンズ2は、透過光量を調節するための絞り(図略)、シャッタ(図略)等を備え、制御部5の制御の下、絞り及びシャッタの駆動が制御される。
【0012】
撮像素子3は、複数の画素がマトリックス状に配列された画素部と、画素部から画素信号を読み出す読出回路と、撮像素子3を駆動する駆動回路等を含み、光量に応じたレベルを有する画像信号を生成する。ここで、撮像素子3としては、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ、VMIS(Threshold Voltage Modulation Image Sensor)イメージセンサ、及びCCD(Charge Coupled Device Image Sensor)イメージセンサ等の種々の撮像センサを採用することができる。
【0013】
また、画素は、PD(フォトダイオード)からなる受光部と、受光部により蓄積された電荷に応じた画像信号を生成する画素回路とを備える。
【0014】
そして、本実施の形態において、撮像素子3は、カラーフィルタを備える画素により可視カラー画像成分を撮像し、赤外フィルタを備える画素により赤外画像成分を撮像し、少なくとも可視波長領域と赤外波長領域との光を受光する画素により可視輝度画像成分と赤外画像成分とを含む輝度画像成分を撮像する。
【0015】
ここで、カラーフィルタは、少なくとも可視波長領域の一部を透過させるカラーフィルタである。また、少なくとも可視波長領域と赤外波長領域との光を受光する画素は、フィルタを取り付けないことにより容易に実現することができる。
【0016】
画像処理部4は、画像信号に演算を行う演算回路及び画像信号を格納するメモリ等を含み、撮像素子3から出力された画像信号をA/D(アナログ/デジタル)変換してデジタル信号に変換し、後述する画像処理を実行した後、例えば図略のメモリや表示装置に出力する。
【0017】
制御部5は、CPU(Central Processing Unit)及びCPUが実行するプログラムを格納するメモリ等を含み、外部からの制御信号に応答し、撮像素子3及び画像処理部4を制御する制御信号を出力する。また、制御部5は画像処理部4から出力される後述する評価値を受け、評価値を基に後述する各種処理を行う。
【0018】
図2は、撮像素子3の画素の配列を示す図である。図2に示すように撮像素子3は、可視波長領域と赤外波長領域とを有感度波長帯域とするye画素(第1の画素の一例)、R画素(第2の画素の一例)、Blk画素(第3の画素の一例)、及びW画素(第4の画素の一例)とを含む単位画素部31がマトリックス状に配列されている。
【0019】
図2の場合、単位画素部31において、第1行第1列にR画素が配列され、第2行第1列にBlk画素が配列され、第1行第2列にW画素が配列され、第2行第2列にye画素が配列されるというように、R画素、Blk画素、W画素、及びye画素は千鳥状に配列されている。但し、これは一例であり、他のパターンでR画素、Blk画素、W画素、及びye画素を千鳥状に配列してもよい。
【0020】
ye画素はyeフィルタ(第1のカラーフィルタの一例)を備えているため、ye(イエロー)の可視カラー画像成分(以下、「ye画像成分」と呼ぶ。)を撮像し、R画素はRフィルタ(第2のカラーフィルタの一例)を備えているため、R(赤)の可視カラー画像成分(以下、「R画像成分」と呼ぶ)を撮像し、Blk画素はBlkフィルタ(赤外フィルタの一例)を備えているため、赤外画像成分を撮像し、W画素はフィルタを備えていないため、少なくとも可視波長領域と赤外波長領域との光を受光することができ、可視輝度画像成分と赤外画像成分とを含む輝度画像成分を撮像する。
【0021】
図3は、ye,R,Blkフィルタの分光透過特性を示した図であり、縦軸は透過率(感度)を示し、横軸は波長(nm)を示している。なお、点線で示すグラフはフィルタが取り外された状態における画素の分光感度特性を示している。この分光感度特性は、600nm付近でピークを有し、上に凸の曲線を描いて変化していることが分かる。また、図3では、400nm〜640nmが可視波長領域とされ、640nm〜1100nmが赤外波長領域とされ、400nm〜1100nmが有感度波長帯域とされている。
【0022】
図3に示すように、yeフィルタは、可視波長領域の青色領域を除く前記有感度波長帯域の光を透過する特性を有する。よって、yeフィルタは主にイエローの光と赤外光とを透過する。
【0023】
Rフィルタは、可視波長領域の青色領域及び緑色領域を除く有感度波長帯域の光を透過する特性を有する。よって、Rフィルタは主に赤の光と赤外光とを透過する。
【0024】
Blkフィルタは、可視波長領域を除く有感度波長帯域、すなわち赤外波長帯域の光を透過する特性を有する。Wはフィルタを備えていない場合を示し、画素の有感度波長帯域の光が全て透過される。
【0025】
図4は、画像処理部4と制御部5とのブロック図を示している。画像処理部4は、評価値算出部41、露出補正部42、色補間部43、信号生成部44、評価値算出部45、WB(ホワイトバランス)補正部46、及び色空間変換部47を備える。制御部5は、係数決定部51、露出補正値算出部52、及びWB補正値算出部53を備える。
【0026】
評価値算出部41は、被写体の明るさを評価するための評価値を算出する。具体的には、評価値算出部41は、撮像素子3で撮像された1フレームの画像内の所定行×所定列の画素からなる局所領域において、W画素の画素値、すなわち輝度画像成分の画素値を加算して評価値eDWを算出し、かつBlk画素の画素値、すなわち赤外画像成分の画素値を加算して評価値eDBlkを算出し、評価値eDWから評価値eBlkを減じた値を評価値e(=eDW−eDBlk)として制御部5に出力する。
【0027】
係数決定部51は、被写体が明るくなるにつれて増大する予め定められた特性を有する重み係数k(第1の重み係数の一例)と、被写体が明るくなるにつれて減少する予め定められた特性を有する重み係数kw(第2の重み係数の一例)とを、評価値算出部41により算出された評価値eを用いて決定する。
【0028】
図5は、重み係数k,kwの特性を示すグラフであり、縦軸が重み係数k,kwを示し横軸が評価値e(=eDW−eDBlk)を示している。図5に示すように重み係数kは評価値eが増大するにつれて例えば線形に増大する特性を有し、重み係数kwは評価値eが増大するにつれて例えば線形に減少する特性を有していることが分かる。
【0029】
なお、図5において、重み係数k,kwの特性を示す直線の傾きは実験的に得られた予め定められた値が採用されている。具体的には、重み係数k,kwはk+kw=1の関係を有しており、重み係数k,kwの特性を示す直線の傾きは、評価値eが最大値を示すときにk=1、kw=0となり、評価値eが最小値を示すときにk=0、kw=1となるような値を有している。
【0030】
露出補正値算出部52は、係数決定部51により決定された重み係数k,kwを次式に代入することで輝度評価値edYを算出し、輝度評価値edYを所定の値で除すことで露出補正値H1を算出し、露出補正部42に出力する。ここで、所定の値としては、上述の局所領域におけるDBlk画素とDW画素との総画素数を採用することができる。
【0031】
edY=kw×eDW+k×(eDW−eDBlk)
露出補正部42は、露出補正値H1を、撮像素子3により撮像されたye画像成分、R画像成分、赤外画像成分、及び輝度画像成分のそれぞれの各画素に乗ずることで、ye画像成分、R画像成分、赤外画像成分、及び輝度画像成分を露出補正する。
【0032】
色補間部43は、千鳥状に配列されたR画素、Blk画素、W画素、及びye画素の欠落画素を補間するために、R画像成分、赤外画像成分、輝度画像成分、及びye画像成分のそれぞれに補間処理を施し、撮像素子3の画素数と同一画素数からなるR画像成分、赤外画像成分、輝度画像成分、及びye画像成分を生成する。ここで、補間処理としては、例えば線形補間処理を採用することができる。
【0033】
信号生成部44は、色補間部43により補間処理が施された輝度画像成分から赤外画像成分を減じて可視輝度画像成分を生成する。
【0034】
そして、信号生成部44は、係数決定部51により決定された重み係数kにより可視輝度画像成分(DW−DBlk)を重み付け、係数決定部51により決定された重み係数kwを用いて輝度画像成分DWを重み付け、可視輝度画像成分(DW−DBlk)と輝度画像成分DWとを式(1)により合成して、各画素の輝度信号dYを生成する。
【0035】
また、信号生成部44は、色補間部43により補間処理が施されたye画像成分Dyeと、R画像成分DRと、赤外画像成分DBlkと、輝度画像成分DWとを式(2)により合成して、各画素のR(赤),G(緑),B(青)の色信号dB,dR,dG(色情報信号の一例)を生成する。
【0036】
dY=kw×DW+k×(DW−DBlk) (1)
dB=DW−Dye
dR=DR−DBlk (2)
dG=DW−DBlk−dR−dB
なお、信号生成部44は、式(1)に代えて、dY=kw×DBlk+k×(DW−DBlk)により輝度信号dYを算出する、すなわち、輝度画像成分DWに代えて赤外画像成分DBlkを重み係数kwを用いて重み付けることで、輝度信号dYを算出してもよい。
【0037】
いずれにしても、重み係数kは可視輝度画像成分(DW−DBlk)の大きさを示す評価値eが大きいほど大きな値とされ、可視輝度画像成分(DW−DBlk)の大きさを示す評価値eが大きいほど小さな値とされる。
【0038】
そのため、晴天等の被写体が明るい場合、輝度信号dYにおいて、可視輝度画像成分(DW−DBlk)の占める割合が大きくなり、人が目視している被写体と同等の画像を得ることができる。
【0039】
一方、暗がり等の被写体が暗い場合、輝度信号dYにおいて、赤外画像成分DBlkの占める割合が大きくなり、赤外領域の輝度信号を多く用いてS/N比のよい画像を得ることができる。
【0040】
評価値算出部45は、上述した局所領域において、各画素の色信号dR,dG,dBの値を加算し、色信号dRの加算値Raveと、色信号dGの加算値Gaveと、色信号dBの加算値Baveとを算出し、制御部5に出力する。
【0041】
WB補正値算出部53は、加算値Raveと、加算値Gaveと、加算値Baveとから次式によりRの利得RgainとBの利得Bgainとを算出する。
【0042】
Rgain=Gave÷Rave
Bgain=Gave÷Bave
WB補正部46は、WB補正値算出部53により算出された利得Rgainを、信号生成部44により生成された各画素の色信号dRに乗じ、色信号dRを補正する。また、WB補正部46は、WB補正値算出部53により算出された利得Bgainを、信号生成部44により生成された各画素の色信号dBに乗じ、色信号dBを補正する。これにより、色信号dR,dG,dBは色信号dGを基準としてWB補正が施される。
【0043】
なお、WB補正部46は、色信号dGに代えて、色信号dR又は色信号dBを基準としてWB補正を行ってもよい。この場合、WB補正値算出部53は、WB補正部46が基準とする色信号dR又はdBに応じた利得を算出すればよい。
【0044】
色空間変換部47は、可視輝度画像成分が大きくなるにつれて信号生成部44により生成された輝度信号dYにおける可視輝度画像成分の重み付けを大きくするための予め定められた12種類の係数k1〜k12を、評価値e又は重み係数k,kwから決定し、決定した係数k1〜k12を用いて下記の式により輝度信号dY及び色信号dR,dG,dBを、輝度信号Y、色差信号Cb,Cr(色情報信号の一例)で表される色空間に変換する。ここで、色差信号Cbは青の色差信号を示し、色差信号Crは赤の色差信号を示し、輝度信号Yは、色差信号Cb,Crに対応する輝度信号を示す。
【0045】
Y=k1×dY+k2×dR+k3×dG+k4×dB
Cb=k5×dY+k6×dR+k7×dG+k8×dB (3)
Cr=k9×dY+k10×dR+k11×dG+k12×dB
ここで、色空間変換部47は、図6(a)に示すように評価値e(=eDW−eDBlk)に応じて予め定められた12個の係数k1〜k12の値を格納するLUTを用いて係数k1〜k12を決定すればよい。
【0046】
また、色空間変換部47は、評価値eに代えて、重み係数k,kwから係数k1〜k12を決定してもよい。この場合、色空間変換部47は、図6(b)に示すように重み係数k,kwの値に応じて予め定められた12個の係数k1〜k12の値を格納するLUTを用いて係数k1〜k12を決定すればよい。
【0047】
次に、撮像装置1の動作について説明する。まず、制御部5は、撮像素子3に1フレームの画像を撮像させる。ここで、撮像素子3は、ye画素によりye画像成分Dyeを撮像し、R画素によりR画像成分DRを撮像し、Blk画素により赤外画像成分DBlkを撮像し、W画素により輝度画像成分DWを撮像する。なお、撮像装置1が動画像を撮像する場合、制御部5は、1/30s、1/60sといったフレームレートで撮像素子3に画像を撮像させればよい。また、撮像装置1が静止画像を撮像する場合、制御部5は、ユーザによりレリースボタンが押されたときに、撮像素子3に画像を撮像させればよい。
【0048】
次に、評価値算出部41は、局所領域における輝度画像成分DWの画素値を加算して評価値eDWを算出し、赤外画像成分DBlkの画素値を加算して評価値eDBlkを算出し、評価値e(=eDW−eDBlk)を算出する。
【0049】
次に、係数決定部51は、評価値eから重み係数k,kwを決定する。次に、露出補正値算出部52は、重み係数k,kwから露出補正値H1を算出する。
【0050】
次に、露出補正部42は、露出補正値H1を、ye画像成分Dye、R画像成分DR、赤外画像成分DBlk、及び輝度画像成分DWのそれぞれの各画素に乗ずることで、ye画像成分Dye、R画像成分DR、赤外画像成分DBlk、及び輝度画像成分DWを露出補正する。
【0051】
次に、色補間部43は、露出補正されたye画像成分Dye、R画像成分DR、赤外画像成分DBlk、及び輝度画像成分DWを補間処理する。
【0052】
次に、信号生成部44は、式(1)により各画素の輝度信号dYを算出し、かつ、式(2)により色信号dR,dG,dBを算出する。
【0053】
次に、評価値算出部45は、加算値Rave,Gave,Baveを算出する。次に、WB補正値算出部53は、加算値Rave,Gave、Baveを用いて利得Rgain,Bgainを算出する。次に、WB補正部46は、利得Rgain,Bgainを用いて各画素の色信号dR,dG,dBをWB補正する。
【0054】
次に、色空間変換部47は、係数k1〜k12を決定し、式(3)を用いて、輝度信号dY及び色信号dR,dG,dBの色空間を変換し、輝度信号Y、色差信号Cb,Crを求める。
【0055】
このように、撮像装置1によれば、晴天等の被写体が明るい場合、輝度信号における可視輝度画像成分の占める割合が大きくなり、人が目視している被写体と同等の画像を得ることができる。
【0056】
一方、暗がり等の被写体が暗い場合、輝度信号における赤外画像成分の占める割合が大きくなり、赤外領域の輝度信号を多く用いてS/N比のよい画像を得ることができる。
【0057】
また、可視カラー画像成分と赤外画像成分と輝度画像成分とを合成して色信号が生成されているが、輝度画像成分は少なくとも可視波長領域と赤外波長領域との光を受光する画素により撮像されたものであり、カラーフィルタとして、赤外成分に同じ感度特性を有するカラーフィルタが採用されているため、可視カラー画像成分から赤外画像成分を差し引くことで、可視カラー画像成分を正確に求めることができ、この可視カラー画像成分から色信号を生成しているため、色再現性の高い色信号を得ることができる。
【0058】
なお、上記説明では、係数決定部51は、1フレームの画像単位で重み係数k,kwを決定したが、本発明はこれに限定されず、1フレームの画像を構成する各画素における重み係数k,kwを算出してもよい。
【0059】
この場合、色補間部43を評価値算出部41の前段に設け、評価値算出部41は、各画素における輝度画像成分DWから赤外画像成分DBlkを減じて、各画素における評価値eを算出する。そして、係数決定部51は、各画素における評価値eから各画素における重み係数k,kwを決定すればよい。
【0060】
そして、信号生成部44は、各画素における重み係数k,kwを用いて式(1)により輝度信号dYを算出すればよい。
【0061】
また、露出補正値算出部52は、各画素における重み係数k,kwから各画素における輝度評価値edYを算出し、各画素における露出補正値H1を算出すればよい。
【0062】
そして、露出補正部42は、各画素における露出補正値H1を、ye画像成分、R画像成分、赤外画像成分、及び輝度画像成分のそれぞれの各画素に乗ずることで露出補正を行えばよい。
【0063】
また、色空間変換部47は、各画素における重み係数k,kw又は評価値eから各画素における係数k1〜k12を決定し、色空間変換を行えばよい。
【0064】
また、評価値算出部41は、局所領域の赤外画像成分のみを用いて評価値eを算出してもよいし、局所領域の可視輝度画像成分のみを用いて評価値eを算出してもよい。
【0065】
(実施の形態2)
本発明の実施の形態2による撮像装置1は、被写体の明るさ及び暗さの少なくともいずれか一方を基に色差信号(色情報信号の一例)のゲインを設定することを特徴とする。なお、本実施の形態2において、実施の形態1と同一のものは説明を省く。
【0066】
図7は、本実施の形態における画像処理部4と制御部5とのブロック図を示している。図4との相違点は、ゲイン設定部48が設けられている点にある。ゲイン設定部48は、被写体が明るくなるにつれて色差信号のゲインを増大させる。
【0067】
具体的には、ゲイン設定部48は、評価値算出部41により算出された評価値e(=eDW−eDblk)を用いて、色空間変換部47により算出された色差信号Cb,Crに対するゲインαb,αrを求め、求めたゲインαb,αrを色差信号Cb,Crのそれぞれのゲインとして設定する。
【0068】
そして、ゲイン設定部48は、式(4)に示すように、設定したゲインαbを色差信号Cbに乗じ、かつ、設定したゲインαrを色差信号Crに乗じ、色差信号Cb,Crを補正する。
【0069】
Cb´=αb×Cb
Cr´=αr×Cr (4)
図8は、評価値eに対するゲインαb,αrの特性を示すグラフであり、縦軸はゲインを示し、横軸は評価値eを示している。図8に示すように、ゲインαb,αrは同じ特性を有し、評価値eが増大する、つまり、被写体が明るくなるにつれて、増大する特性を有している。具体的には、評価値eが最大値であるemaxの1/4以下においては、ゲインαb,αrは0であり、評価値eがemaxの1/4付近に到達すると、ゲインαb,αrは緩やかに増大した後、急激に1付近まで増大し、再度、緩やかに増大して1になる。
【0070】
したがって、ゲイン設定部48は、予め実験により得られたゲインαb,αrと評価値eとの関係を示すルックアップテーブルを予め記憶し、このルックアップテーブルを用いて、ゲインαb,αrを求めればよい。又は、図8に示すゲインαb,αrと評価値eとの関係を示す関数を予め記憶し、この関数を用いてゲインαb,αrを求めればよい。
【0071】
これにより、被写体が明るく、色差信号Cb,CrのS/N比が高い場合は、色差信号Cb,Crのゲインαb,αrが増大する一方、被写体が暗く色差信号Cb,CrのS/N比が低い場合は、色差信号Cb,Crのゲインαb,αrが減少するため、S/N比の高い色差信号を得ることができる。
【0072】
なお、図8においては、ゲインαb,αrは評価値eがemaxの1/4となる付近で急激に変化したが、これに限定されず、評価値eがemaxの1/4以外のemaxの1/2、emaxの1/3等の他の値となる付近で急激に変化させてもよい。
【0073】
また、ゲインαb,αrとを異なる特性としてもよい。この場合、ゲインαb,αrは、ホワイトバランスが維持されるような特性を持つようにすることが好ましい。
【0074】
また、上記説明では、ゲイン設定部48は、評価値eを用いたがこれに限定されず、評価値算出部41により算出された評価値eBlkを用いて、ゲインαb,αrを求めてもよい。図9は、評価値eBlkに対するゲインαb,αrの特性を示したグラフであり、縦軸はゲインαb,αrを示し、横軸は評価値eBlkを示している。図9に示すようにゲインαb,αrは、評価値eBlkが増大するにつれて、すなわち、被写体が暗くなるにつれて、減少する特性を有していることが分かる。
【0075】
具体的には、評価値eBlkが評価値eBlkの最大値であるeBlk−maxの3/4以下においては、ゲインαb,αrは1であり、評価値eBlkがeBlk−maxの3/4付近に到達すると、ゲインαb,αrは1から緩やかに減少した後、急激に0付近まで減少し、再度、緩やかに減少して0になる。
【0076】
したがって、ゲイン設定部48は、評価値eの場合と同様、図9に示すゲインαb,αrと評価値eBlkとの関係を示す予め作成されたルックアップテーブル又は関数を記憶し、このルックアップテーブル又は関数を用いてゲインαb,αrを求めればよい。
【0077】
また、ゲイン設定部48は、評価値e又は評価値eBlkを用いてゲインαb,αrを求めたが、これに限定されず、被写体の明るさを表すパラメータであれば、評価値e,eBlk以外のパラメータを用いて、ゲインαb,αrを求めても良い。
【0078】
例えば、重み係数k,kwは、評価値eを用いて定められており、被写体の明るさが反映された値を有している。したがって、ゲイン設定部48は、重み係数k又はkwを用いてゲインαb,αrを求めればよい。この場合、ゲイン設定部48は、重み係数k又はkwとゲインαb,αrとの関係を示すルックアップテーブル又は関数を記憶し、このルックアップテーブル又は関数を用いてゲインαb,αrを求めればよい。
【0079】
また、ゲイン設定部48は、被写体の明るさと暗さとの両方に基づいて、ゲインαb,αrを求めてもよい。具体的には、評価値eと評価値eBlkとの乗算値(=e・eBlk)からゲインαb,αrを求めるようにすればよい。図11は、乗算値e・eBlkに対するゲインαb,αrの特性を示したグラフであり、縦軸はゲインαb,αrを示し、横軸は乗算値e・eBlkを示している。
【0080】
図11に示すように、ゲインαb,αrは、図8に示すグラフと図9に示すグラフとを乗じた特性、すなわち、乗算値e・eBlkが乗算値e・eBlkの最大値(e・eBlk−max)の1/2のときに、ゲインαb,αr=1となってピークとなり、e・eBlk−maxの1/2を中心として左右対称な上に凸の特性を有している。
【0081】
こうすることで、評価値eと評価値eBlkとの両方の評価値を加味して、ゲインαb,αrを算出することができる。
【0082】
この場合、ゲイン設定部48は、評価値e又は評価値eBlkの場合と同様、ゲインαb,αrと乗算値e・eBlkとの関係を示す予め作成されたルックアップテーブル又は関数を記憶し、このルックアップテーブル又は関数を用いてゲインαb,αrを求めればよい。
【0083】
(実施の形態3)
図10は、本発明の実施の形態3の撮像装置1の制御部5と画像処理部4とのブロック図を示している。実施の形態3の撮像装置1は、ゲイン設定部48をWB補正部46と色空間変換部47との間に設けたことを特徴とする。
【0084】
本実施の形態において、ゲイン設定部48は、被写体が明るくなるにつれて、WB補正部46により補正された色信号dR,dG,dB(色情報信号の一例)のゲインβr,βg,βbを大きく設定することを特徴とする。
【0085】
この場合、ゲイン設定部48は、評価値算出部41により算出された評価値eを用いて、ゲインβr,βg,βbを求めればよい。具体的には、ゲイン設定部48は、ゲインβr,βg,βbと評価値eとの関係を示すルックアップテーブル又は関数を予め記憶し、このルックアップテーブル又は関数から評価値eに対するゲインβr,βg,βbを求めればよい。そして、ゲイン設定部48は、式(5)に示すように、求めたゲインβr,βg,βbをWB補正部46から出力された色信号dR,dG,dBに乗じて、色信号dR,dG,dBを修正すればよい。
【0086】
dR´=βr×dR
dG´=βg×dG (5)
dB´=βb×dB
このとき、色空間変換部47は、色信号dR´、dG´、dB´を用いて色差信号Cr,Cb及び輝度信号Yを求めればよい。
【0087】
なお、評価値eに対するゲインβr,βg,βbの特性としては、図8に示すゲインαr,αbと同様の特性を採用すればよい。
【0088】
また、ゲイン設定部48は、評価値eに代えて評価値eBlkを用いてゲインβr,βg,βbを求めてもよい。この場合、ゲインβr,βg,βbとしては、図9と同様、評価値eBlkが増大するにつれて、値が小さくなる特性を持たせればよい。そして、ゲイン設定部48は、評価値eBlkとゲインβr,βg,βbとの関係を示すルックアップテーブル又は関数を予め記憶し、この関数又はルックアップテーブルを用いて、評価値eBlkに応じたゲインβr,βg,βbを求めればよい。
【0089】
また、本実施の形態においても実施の形態2と同様、被写体の明るさを示すパラメータであれば、評価値e,eBlk以外のパラメータである例えば重み係数k,kwを用いて、ゲインβr,βg,βbを求めても良い。
【0090】
また、ゲイン設定部48は、評価値eと評価値eBlkとの乗算値e・eBlkを用いてゲインβr,βg,βbを求めてもよい。この場合、ゲインβr,βg,βbとしては、図11と同じ特性を持たせればよい。そして、ゲイン設定部48は、乗算値e・eBlkとゲインβr,βg,βbとの関係を示すルックアップテーブル又は関数を予め記憶し、この関数又はルックアップテーブルを用いて、乗算値e・eBlkに応じたゲインβr,βg,βbを求めればよい。
【0091】
このように本実施の形態の撮像装置1によれば、S/N比の高い色信号dR,dG,dBを得ることができる。
【0092】
また、本実施の形態では、図5に示すように評価値eから重み係数k,kwを求め、重み係数k,kwを用いて、輝度信号dYを算出する手法を示したが、これに限定されず、重み係数k,kwを用いずに、評価値eから輝度信号dYを算出するようにしてもよい。
【0093】
この場合、信号生成部44は、例えば、輝度画像成分DW及び赤外画像成分DBlkと、輝度信号dYとの関係を予め定めるルックアップテーブル又は関数を用いて、輝度信号dYを求めるようにすればよい。すなわち、信号生成部44は、輝度画像成分DW及び赤外画像成分DBlkを入力とし、輝度信号dYを出力とするルックアップテーブル又は関数を用いて、輝度信号dYを算出するようにすればよい。
【0094】
上記撮像装置の技術的特徴を纏めると下記のようになる。
【0095】
(1)上記撮像装置は、カラーフィルタを備える画素により可視カラー画像成分を撮像し、赤外フィルタを備える画素により赤外画像成分を撮像し、少なくとも可視波長領域と赤外波長領域との光を受光する画素により可視輝度画像成分と赤外画像成分とを含む輝度画像成分を撮像する撮像素子と、前記輝度画像成分及び前記赤外画像成分を基に、被写体の明るさを評価するための評価値を算出する評価値算出部と、被写体が明るくなるにつれて増大する予め定められた特性を有する第1の重み係数と、被写体が明るくなるにつれて減少する予め定められた特性を有する第2の重み係数とを、前記評価値を用いて決定する係数決定部と、前記輝度画像成分から前記赤外画像成分を減じて前記可視輝度画像成分を生成し、前記係数決定部により決定された第1の重み係数を用いて重み付けをした前記可視輝度画像成分と、前記係数決定部により決定された第2の重み係数を用いて重み付けをした前記輝度画像成分又は前記赤外画像成分とを合成して輝度信号を生成し、かつ、前記可視カラー画像成分と前記赤外画像成分と前記輝度画像成分とを合成して色情報信号を生成する信号生成部とを備えることを特徴とする。
【0096】
この構成によれば、可視輝度画像成分及び赤外画像成分を基に、被写体の明るさを評価するための評価値が算出され、この評価値を基に第1の重み係数と第2の重み係数とが決定される。ここで、第1の重み係数は、被写体が明るくなるにつれて増大する特性を有し、第2の重み係数は、被写体が明るくなるにつれて減少する特性を有する。そして、第1の重み係数により重み付けされた可視輝度画像成分と第2の重み係数により重み付けされた輝度画像成分とが合成され、輝度信号が生成される。
【0097】
よって、晴天等の被写体が明るい場合は、輝度信号における可視輝度画像成分の占める割合が大きくなり、人が目視している被写体と同等の画像を得ることができる。
【0098】
一方、暗がり等の被写体が暗い場合は、輝度信号における赤外画像成分の占める割合が大きくなり、赤外領域の輝度信号を多く用いてS/N比のよい画像を得ることができる。すなわち、被写体が暗い場合は、可視輝度画像成分は、被写体の情報を多く含んでいない、つまり、ノイズを多く含んでいると考えられる。そこで、被写体が暗い場合、赤外画像成分の割合を多くする一方、可視輝度画像成分の割合が少なくなるようにして両画像成分を合成して輝度信号を生成する。これにより、S/N比の高い輝度信号を得ることができる。
【0099】
また、輝度画像成分は少なくとも可視波長領域と赤外波長領域との光を受光する画素により分光されずに撮像されたものであるため、R,G,B,IRのフィルタを備える画素により分光して撮像された画像成分から輝度信号を求める場合に比べて、S/N比の高い輝度信号を生成することができる。
【0100】
すなわち、R,G,B,IRのフィルタの感度特性を重ね合わせれば分かるように、これらのフィルタのみでは可視領域において取得することができない帯域が発生してしまう。一方、少なくとも可視波長領域と赤外波長領域との光を受光する画素の感度特性は、可視領域及び赤外領域の全域をカバーしている。そのため、少なくとも可視波長領域と赤外波長領域との光を受光する画素により撮像された画像は、R,G,B,IRのフィルタを備える画素により撮像された画像に比べて、可視領域における情報量が多くなり、S/N比の高い輝度信号を生成することができる。
【0101】
また、可視カラー画像成分と赤外画像成分と輝度画像成分とを合成して色情報信号が生成されているが、輝度画像成分は少なくとも可視波長領域と赤外波長領域との光を受光する画素により撮像されたものであるため、S/N比の高い色情報信号を求めることができる。特に、カラーフィルタとして、赤外成分に同じ感度特性を有するカラーフィルタを採用すれば、可視カラー画像成分から赤外画像成分を差し引くことで、可視カラー画像成分を精度良く求めることができ、この可視カラー画像成分から色情報信号を生成することで、S/N比の高い色情報信号を得ることができる。
【0102】
(2)前記撮像素子は、可視波長領域と赤外波長領域とを有感度波長帯域とする第1の画素、第2の画素、第3の画素、及び第4の画素とを含む単位画素部がマトリックス状に配列され、前記第1の画素は、前記可視波長領域の青色領域を除く前記有感度波長帯域の光を透過する第1のカラーフィルタを備え、前記第2の画素は、前記可視波長領域の青色領域及び緑色領域を除く前記有感度波長帯域の光を透過する第2のカラーフィルタを備え、前記第3の画素は、前記可視波長領域を除く前記有感度波長帯域の光を透過する赤外フィルタを備え、前記第4の画素は、少なくとも可視波長領域と赤外波長領域との光を受光する画素であることが好ましい。
【0103】
この構成によれば、第1の画素は、第1のカラーフィルタを備えているため、青色領域を除く有感度波長帯域の画像を可視カラー画像成分として撮像することができ、第2の画素は、第2のカラーフィルタを備えているため、青色領域及び緑色領域を除く有感度波長帯域の画像をカラー画像成分として撮像することができ、第3の画素は、可視波長領域を除く有感度波長帯域の画像を赤外画像成分として撮像することができ、第4の画像は、少なくとも可視波長領域と赤外波長領域との光を受光するため、有感度波長帯域の画像を輝度画像成分として撮像することができる。
【0104】
そして、撮像素子は、第1〜第4の画素を備える単位画素部がマトリックス状に配列されているため、可視カラー画像成分と赤外画像成分と輝度画像成分とを偏りなく撮像することができる。
【0105】
(3)前記係数決定部により決定された第1及び第2の重み係数を基に、露出補正値を算出する露出補正値算出部と、前記露出補正値算出部により算出された露出補正値を用いて、前記撮像素子により撮像された画像の露出補正を行う露出補正部とを更に備えることが好ましい。
【0106】
この構成によれば、係数決定部により決定された第1及び第2の重み係数を用いて、露出補正値が算出され、この露出補正値を用いて露出補正が行われているため、晴天や暗がりといった被写体の明るさに応じた適切な露出補正値を用いて露出補正を行うことができる。
【0107】
(4)前記信号生成部により生成された色情報信号を基にホワイトバランス補正値を算出するホワイトバランス補正値算出部と、前記ホワイトバランス補正値算出部により算出されたホワイトバランス補正値を用いて、前記画像撮像素子により撮像された画像のホワイトバランス補正を行うホワイトバランス補正部とを更に備えることが好ましい。
【0108】
この構成によれば、信号生成部により生成されたS/N比の高い色信号を基にホワイトバランス補正値が算出され、ホワイトバランス補正が行われているため、ホワイトバランス補正を精度良く行うことができる。
【0109】
(5)前記信号生成部は、以下に示す式を用いて輝度信号を生成することが好ましい。
【0110】
dY=kw×DW+k×(DW−DBlk)
但し、dY:輝度信号、k:第1の重み係数、kw:第2の重み係数、DW:輝度画像成分、DBlk:赤外画像成分、DW−DBlk:可視輝度画像成分
【0111】
この構成によれば、第1の重み係数により重み付けされた輝度画像成分と第2の重み係数により重み付けされた可視輝度画像成分とを適切に合成することができる。
【0112】
(6)前記色情報信号は、色信号dR,dG,dB及び色差信号Cb,Crを含み、前記可視輝度画像成分が大きくなるにつれて前記信号生成部により生成された輝度信号dYにおける前記可視輝度画像成分の重み付けを大きくするための予め定められた12種類の係数k1〜k12を、前記評価値又は前記第1及び第2の重み係数k,kwから決定し、決定した係数k1〜k12を用いて下記の式により輝度信号dY及び色信号dR,dG,dBを、輝度信号Y、色差信号Cb,Crで表される色空間に変換する色空間変換部を更に備えることが好ましい。
【0113】
Y=k1×dY+k2×dR+k3×dG+k4×dB
Cb=k5×dY+k6×dR+k7×dG+k8×dB
Cr=k9×dY+k10×dR+k11×dG+k12×dB
この構成によれば、可視輝度画像成分が大きくなるにつれて可視輝度画像成分の重み付けを大きくするための予め定められた12種類の係数k1〜k12を用いて輝度信号dY、色信号dR,dB,dGが輝度信号Y、色差信号Cb,Crの色空間に変換されるため、晴天や暗がりといった被写体の明るさに応じて適切な輝度信号Y,色差信号Cb,Crを得ることができる。
【0114】
(7)前記係数決定部は、各画素における前記評価値を求め、各画素における第1の重み係数と第2の重み係数とを決定することが好ましい。
【0115】
この構成によれば、画素単位で第1の重み係数と第2の重み係数とが決定されるため、画素毎に適切な第1の重み係数と第2の重み係数とを用いて輝度信号を得ることができる。
【0116】
(8)被写体の明るさ及び暗さの少なくともいずれか一方を基に、前記色情報信号のゲインを設定するゲイン設定部を更に備えることが好ましい。
【0117】
暗い被写体の場合、色信号は被写体の情報を多く含んでいない、つまり、ノイズを多く含んでいると考えられる。そこで、被写体の明るさ及び暗さの少なくともいずれか一方に基づいて、色情報信号のゲインを設定することで、S/N比の高い色情報信号を得ることができる。具体的には、被写体が明るくなるにつれて、色情報信号のゲインを増大させる、又は被写体が暗くなるにつれて、色情報信号のゲインを減少させる等すればよい。
【0118】
(9)本発明の別の局面による撮像素子は、カラーフィルタを備える画素と、赤外フィルタを備える画素と、少なくとも可視波長領域と赤外波長領域との光を受光する画素とが配列されたものである。
【0119】
この構成によれば、S/N比の高い輝度信号及び色情報信号を生成することのできる撮像素子を提供することができる。
【符号の説明】
【0120】
1 画像入力装置
3 撮像素子
4 画像処理部
5 制御部
31 単位画素部
41 評価値算出部
42 露出補正部
43 色補間部
44 信号生成部
45 評価値算出部
46 補正部
47 色空間変換部
51 係数決定部
52 露出補正値算出部
53 WB補正値算出部
【技術分野】
【0001】
本発明は、撮像素子と、その撮像素子により撮像された画像を画像処理する撮像装置に関するものである。
【背景技術】
【0002】
近年、夜間のシーンをカラーで撮像する撮像装置が知られている。特許文献1には、R,G,Bのフィルタを備える画素により撮像された画像からR,G,Bの色成分からなる可視画像データを抽出する可視画像抽出手段と、Irのフィルタを備える画素により撮像された画像から赤外画像データを抽出する赤外画像抽出手段と、可視画像データをHSV変換して第1の輝度情報を抽出し、かつ赤外画像データから第2の輝度情報を抽出する輝度情報抽出手段と、第1の輝度情報を重み係数w1で重み付け、第2の輝度情報を重み係数w2(w1+w2=1)で重み付け、疑似カラー画像を生成する疑似カラー画像生成手段とを備え、晴天の日ではw1=1とし、夜間の暗がりではw1=0とし、その中間的な状況下では1>w1>0とするカラー画像再生装置が開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2007−184805号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1では、晴天や暗がりに応じて重み係数を変更することが開示されているが、晴天や暗がりをどのようにして判別し、それを基に重みw1,w2をどのように決定するかについての開示が全くなされていないため、被写体の明るさに応じて適切な比率で可視画像の輝度成分と赤外画像の輝度成分とを合成することができないという問題がある。
【0005】
また、特許文献1では、赤外成分を含む赤色、緑色、及び青色の受光素子における受光量をHSV色空間に変換することで、輝度成分Vが求められているが、R,G,Bのフィルタは赤外領域における感度がそれぞれ異なることが一般的であるため、輝度成分を精度良く求めることができず、また、色再現性も悪いという問題がある。
【0006】
本発明の目的は、S/N比の高い輝度信号及び色情報を生成することができる撮像装置を提供することである。
【課題を解決するための手段】
【0007】
本発明の一局面による撮像装置は、カラーフィルタを備える画素と、赤外フィルタを備える画素と、少なくとも可視波長領域と赤外波長領域との光を受光する画素とが配列された撮像素子を含む撮像装置であって、前記撮像素子は、可視波長領域と赤外波長領域とを有感度波長帯域とする第1の画素、第2の画素、第3の画素、及び第4の画素とを含む単位画素部がマトリックス状に配列され、前記第1の画素は、前記可視波長領域の青色領域を除く前記有感度波長帯域の光を透過する第1のカラーフィルタを備え、前記第2の画素は、前記可視波長領域の青色領域及び緑色領域を除く前記有感度波長帯域の光を透過する第2のカラーフィルタを備え、前記第3の画素は、前記可視波長領域を除く前記有感度波長帯域の光を透過する赤外フィルタを備え、前記第4の画素は、少なくとも可視波長領域と赤外波長領域との光を受光する画素であり、前記第1〜第4の画素の画素信号から画像の色情報を算出する色情報算出手段と、前記第1〜第4の画素の画素信号から画像の輝度情報を算出する輝度情報算出手段とを備える。
【発明の効果】
【0008】
本発明によれば、S/N比の高い輝度信号及び色情報を生成することができる。
【図面の簡単な説明】
【0009】
【図1】本発明の実施の形態1による撮像装置のブロック図を示している。
【図2】本発明の実施の形態1による撮像素子の画素の配列を示す図である。
【図3】ye,R,Blkフィルタの分光透過特性を示した図である。
【図4】実施の形態1における画像処理部と制御部とのブロック図を示している。
【図5】重み係数k,kwの特性を示すグラフである。
【図6】色空間変換部の処理の説明図である。
【図7】本発明の実施の形態2による画像処理部と制御部とのブロック図を示している。
【図8】評価値eにおけるゲインの特性を示したグラフである。
【図9】評価値eBlkにおけるゲインの特性を示したグラフである。
【図10】実施の形態3における画像処理部と制御部とのブロック図を示している。
【図11】乗算値e・eBlkにおけるゲインの特性を示したグラフである。
【発明を実施するための形態】
【0010】
(実施の形態1)
以下、本発明の実施の形態1による撮像装置1について説明する。図1は、本発明の実施の形態1による撮像装置1のブロック図を示している。図1に示すように撮像装置1は、レンズ2、撮像素子3、画像処理部4、及び制御部5を備えている。
【0011】
レンズ2は、被写体の光像を取り込み、撮像素子3へ導く光学レンズ系から構成される。光学レンズ系としては、被写体の光像の光軸Lに沿って直列的に配置される例えばズームレンズやフォーカスレンズ、その他の固定レンズブロック等を採用することができる。また、レンズ2は、透過光量を調節するための絞り(図略)、シャッタ(図略)等を備え、制御部5の制御の下、絞り及びシャッタの駆動が制御される。
【0012】
撮像素子3は、複数の画素がマトリックス状に配列された画素部と、画素部から画素信号を読み出す読出回路と、撮像素子3を駆動する駆動回路等を含み、光量に応じたレベルを有する画像信号を生成する。ここで、撮像素子3としては、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ、VMIS(Threshold Voltage Modulation Image Sensor)イメージセンサ、及びCCD(Charge Coupled Device Image Sensor)イメージセンサ等の種々の撮像センサを採用することができる。
【0013】
また、画素は、PD(フォトダイオード)からなる受光部と、受光部により蓄積された電荷に応じた画像信号を生成する画素回路とを備える。
【0014】
そして、本実施の形態において、撮像素子3は、カラーフィルタを備える画素により可視カラー画像成分を撮像し、赤外フィルタを備える画素により赤外画像成分を撮像し、少なくとも可視波長領域と赤外波長領域との光を受光する画素により可視輝度画像成分と赤外画像成分とを含む輝度画像成分を撮像する。
【0015】
ここで、カラーフィルタは、少なくとも可視波長領域の一部を透過させるカラーフィルタである。また、少なくとも可視波長領域と赤外波長領域との光を受光する画素は、フィルタを取り付けないことにより容易に実現することができる。
【0016】
画像処理部4は、画像信号に演算を行う演算回路及び画像信号を格納するメモリ等を含み、撮像素子3から出力された画像信号をA/D(アナログ/デジタル)変換してデジタル信号に変換し、後述する画像処理を実行した後、例えば図略のメモリや表示装置に出力する。
【0017】
制御部5は、CPU(Central Processing Unit)及びCPUが実行するプログラムを格納するメモリ等を含み、外部からの制御信号に応答し、撮像素子3及び画像処理部4を制御する制御信号を出力する。また、制御部5は画像処理部4から出力される後述する評価値を受け、評価値を基に後述する各種処理を行う。
【0018】
図2は、撮像素子3の画素の配列を示す図である。図2に示すように撮像素子3は、可視波長領域と赤外波長領域とを有感度波長帯域とするye画素(第1の画素の一例)、R画素(第2の画素の一例)、Blk画素(第3の画素の一例)、及びW画素(第4の画素の一例)とを含む単位画素部31がマトリックス状に配列されている。
【0019】
図2の場合、単位画素部31において、第1行第1列にR画素が配列され、第2行第1列にBlk画素が配列され、第1行第2列にW画素が配列され、第2行第2列にye画素が配列されるというように、R画素、Blk画素、W画素、及びye画素は千鳥状に配列されている。但し、これは一例であり、他のパターンでR画素、Blk画素、W画素、及びye画素を千鳥状に配列してもよい。
【0020】
ye画素はyeフィルタ(第1のカラーフィルタの一例)を備えているため、ye(イエロー)の可視カラー画像成分(以下、「ye画像成分」と呼ぶ。)を撮像し、R画素はRフィルタ(第2のカラーフィルタの一例)を備えているため、R(赤)の可視カラー画像成分(以下、「R画像成分」と呼ぶ)を撮像し、Blk画素はBlkフィルタ(赤外フィルタの一例)を備えているため、赤外画像成分を撮像し、W画素はフィルタを備えていないため、少なくとも可視波長領域と赤外波長領域との光を受光することができ、可視輝度画像成分と赤外画像成分とを含む輝度画像成分を撮像する。
【0021】
図3は、ye,R,Blkフィルタの分光透過特性を示した図であり、縦軸は透過率(感度)を示し、横軸は波長(nm)を示している。なお、点線で示すグラフはフィルタが取り外された状態における画素の分光感度特性を示している。この分光感度特性は、600nm付近でピークを有し、上に凸の曲線を描いて変化していることが分かる。また、図3では、400nm〜640nmが可視波長領域とされ、640nm〜1100nmが赤外波長領域とされ、400nm〜1100nmが有感度波長帯域とされている。
【0022】
図3に示すように、yeフィルタは、可視波長領域の青色領域を除く前記有感度波長帯域の光を透過する特性を有する。よって、yeフィルタは主にイエローの光と赤外光とを透過する。
【0023】
Rフィルタは、可視波長領域の青色領域及び緑色領域を除く有感度波長帯域の光を透過する特性を有する。よって、Rフィルタは主に赤の光と赤外光とを透過する。
【0024】
Blkフィルタは、可視波長領域を除く有感度波長帯域、すなわち赤外波長帯域の光を透過する特性を有する。Wはフィルタを備えていない場合を示し、画素の有感度波長帯域の光が全て透過される。
【0025】
図4は、画像処理部4と制御部5とのブロック図を示している。画像処理部4は、評価値算出部41、露出補正部42、色補間部43、信号生成部44、評価値算出部45、WB(ホワイトバランス)補正部46、及び色空間変換部47を備える。制御部5は、係数決定部51、露出補正値算出部52、及びWB補正値算出部53を備える。
【0026】
評価値算出部41は、被写体の明るさを評価するための評価値を算出する。具体的には、評価値算出部41は、撮像素子3で撮像された1フレームの画像内の所定行×所定列の画素からなる局所領域において、W画素の画素値、すなわち輝度画像成分の画素値を加算して評価値eDWを算出し、かつBlk画素の画素値、すなわち赤外画像成分の画素値を加算して評価値eDBlkを算出し、評価値eDWから評価値eBlkを減じた値を評価値e(=eDW−eDBlk)として制御部5に出力する。
【0027】
係数決定部51は、被写体が明るくなるにつれて増大する予め定められた特性を有する重み係数k(第1の重み係数の一例)と、被写体が明るくなるにつれて減少する予め定められた特性を有する重み係数kw(第2の重み係数の一例)とを、評価値算出部41により算出された評価値eを用いて決定する。
【0028】
図5は、重み係数k,kwの特性を示すグラフであり、縦軸が重み係数k,kwを示し横軸が評価値e(=eDW−eDBlk)を示している。図5に示すように重み係数kは評価値eが増大するにつれて例えば線形に増大する特性を有し、重み係数kwは評価値eが増大するにつれて例えば線形に減少する特性を有していることが分かる。
【0029】
なお、図5において、重み係数k,kwの特性を示す直線の傾きは実験的に得られた予め定められた値が採用されている。具体的には、重み係数k,kwはk+kw=1の関係を有しており、重み係数k,kwの特性を示す直線の傾きは、評価値eが最大値を示すときにk=1、kw=0となり、評価値eが最小値を示すときにk=0、kw=1となるような値を有している。
【0030】
露出補正値算出部52は、係数決定部51により決定された重み係数k,kwを次式に代入することで輝度評価値edYを算出し、輝度評価値edYを所定の値で除すことで露出補正値H1を算出し、露出補正部42に出力する。ここで、所定の値としては、上述の局所領域におけるDBlk画素とDW画素との総画素数を採用することができる。
【0031】
edY=kw×eDW+k×(eDW−eDBlk)
露出補正部42は、露出補正値H1を、撮像素子3により撮像されたye画像成分、R画像成分、赤外画像成分、及び輝度画像成分のそれぞれの各画素に乗ずることで、ye画像成分、R画像成分、赤外画像成分、及び輝度画像成分を露出補正する。
【0032】
色補間部43は、千鳥状に配列されたR画素、Blk画素、W画素、及びye画素の欠落画素を補間するために、R画像成分、赤外画像成分、輝度画像成分、及びye画像成分のそれぞれに補間処理を施し、撮像素子3の画素数と同一画素数からなるR画像成分、赤外画像成分、輝度画像成分、及びye画像成分を生成する。ここで、補間処理としては、例えば線形補間処理を採用することができる。
【0033】
信号生成部44は、色補間部43により補間処理が施された輝度画像成分から赤外画像成分を減じて可視輝度画像成分を生成する。
【0034】
そして、信号生成部44は、係数決定部51により決定された重み係数kにより可視輝度画像成分(DW−DBlk)を重み付け、係数決定部51により決定された重み係数kwを用いて輝度画像成分DWを重み付け、可視輝度画像成分(DW−DBlk)と輝度画像成分DWとを式(1)により合成して、各画素の輝度信号dYを生成する。
【0035】
また、信号生成部44は、色補間部43により補間処理が施されたye画像成分Dyeと、R画像成分DRと、赤外画像成分DBlkと、輝度画像成分DWとを式(2)により合成して、各画素のR(赤),G(緑),B(青)の色信号dB,dR,dG(色情報信号の一例)を生成する。
【0036】
dY=kw×DW+k×(DW−DBlk) (1)
dB=DW−Dye
dR=DR−DBlk (2)
dG=DW−DBlk−dR−dB
なお、信号生成部44は、式(1)に代えて、dY=kw×DBlk+k×(DW−DBlk)により輝度信号dYを算出する、すなわち、輝度画像成分DWに代えて赤外画像成分DBlkを重み係数kwを用いて重み付けることで、輝度信号dYを算出してもよい。
【0037】
いずれにしても、重み係数kは可視輝度画像成分(DW−DBlk)の大きさを示す評価値eが大きいほど大きな値とされ、可視輝度画像成分(DW−DBlk)の大きさを示す評価値eが大きいほど小さな値とされる。
【0038】
そのため、晴天等の被写体が明るい場合、輝度信号dYにおいて、可視輝度画像成分(DW−DBlk)の占める割合が大きくなり、人が目視している被写体と同等の画像を得ることができる。
【0039】
一方、暗がり等の被写体が暗い場合、輝度信号dYにおいて、赤外画像成分DBlkの占める割合が大きくなり、赤外領域の輝度信号を多く用いてS/N比のよい画像を得ることができる。
【0040】
評価値算出部45は、上述した局所領域において、各画素の色信号dR,dG,dBの値を加算し、色信号dRの加算値Raveと、色信号dGの加算値Gaveと、色信号dBの加算値Baveとを算出し、制御部5に出力する。
【0041】
WB補正値算出部53は、加算値Raveと、加算値Gaveと、加算値Baveとから次式によりRの利得RgainとBの利得Bgainとを算出する。
【0042】
Rgain=Gave÷Rave
Bgain=Gave÷Bave
WB補正部46は、WB補正値算出部53により算出された利得Rgainを、信号生成部44により生成された各画素の色信号dRに乗じ、色信号dRを補正する。また、WB補正部46は、WB補正値算出部53により算出された利得Bgainを、信号生成部44により生成された各画素の色信号dBに乗じ、色信号dBを補正する。これにより、色信号dR,dG,dBは色信号dGを基準としてWB補正が施される。
【0043】
なお、WB補正部46は、色信号dGに代えて、色信号dR又は色信号dBを基準としてWB補正を行ってもよい。この場合、WB補正値算出部53は、WB補正部46が基準とする色信号dR又はdBに応じた利得を算出すればよい。
【0044】
色空間変換部47は、可視輝度画像成分が大きくなるにつれて信号生成部44により生成された輝度信号dYにおける可視輝度画像成分の重み付けを大きくするための予め定められた12種類の係数k1〜k12を、評価値e又は重み係数k,kwから決定し、決定した係数k1〜k12を用いて下記の式により輝度信号dY及び色信号dR,dG,dBを、輝度信号Y、色差信号Cb,Cr(色情報信号の一例)で表される色空間に変換する。ここで、色差信号Cbは青の色差信号を示し、色差信号Crは赤の色差信号を示し、輝度信号Yは、色差信号Cb,Crに対応する輝度信号を示す。
【0045】
Y=k1×dY+k2×dR+k3×dG+k4×dB
Cb=k5×dY+k6×dR+k7×dG+k8×dB (3)
Cr=k9×dY+k10×dR+k11×dG+k12×dB
ここで、色空間変換部47は、図6(a)に示すように評価値e(=eDW−eDBlk)に応じて予め定められた12個の係数k1〜k12の値を格納するLUTを用いて係数k1〜k12を決定すればよい。
【0046】
また、色空間変換部47は、評価値eに代えて、重み係数k,kwから係数k1〜k12を決定してもよい。この場合、色空間変換部47は、図6(b)に示すように重み係数k,kwの値に応じて予め定められた12個の係数k1〜k12の値を格納するLUTを用いて係数k1〜k12を決定すればよい。
【0047】
次に、撮像装置1の動作について説明する。まず、制御部5は、撮像素子3に1フレームの画像を撮像させる。ここで、撮像素子3は、ye画素によりye画像成分Dyeを撮像し、R画素によりR画像成分DRを撮像し、Blk画素により赤外画像成分DBlkを撮像し、W画素により輝度画像成分DWを撮像する。なお、撮像装置1が動画像を撮像する場合、制御部5は、1/30s、1/60sといったフレームレートで撮像素子3に画像を撮像させればよい。また、撮像装置1が静止画像を撮像する場合、制御部5は、ユーザによりレリースボタンが押されたときに、撮像素子3に画像を撮像させればよい。
【0048】
次に、評価値算出部41は、局所領域における輝度画像成分DWの画素値を加算して評価値eDWを算出し、赤外画像成分DBlkの画素値を加算して評価値eDBlkを算出し、評価値e(=eDW−eDBlk)を算出する。
【0049】
次に、係数決定部51は、評価値eから重み係数k,kwを決定する。次に、露出補正値算出部52は、重み係数k,kwから露出補正値H1を算出する。
【0050】
次に、露出補正部42は、露出補正値H1を、ye画像成分Dye、R画像成分DR、赤外画像成分DBlk、及び輝度画像成分DWのそれぞれの各画素に乗ずることで、ye画像成分Dye、R画像成分DR、赤外画像成分DBlk、及び輝度画像成分DWを露出補正する。
【0051】
次に、色補間部43は、露出補正されたye画像成分Dye、R画像成分DR、赤外画像成分DBlk、及び輝度画像成分DWを補間処理する。
【0052】
次に、信号生成部44は、式(1)により各画素の輝度信号dYを算出し、かつ、式(2)により色信号dR,dG,dBを算出する。
【0053】
次に、評価値算出部45は、加算値Rave,Gave,Baveを算出する。次に、WB補正値算出部53は、加算値Rave,Gave、Baveを用いて利得Rgain,Bgainを算出する。次に、WB補正部46は、利得Rgain,Bgainを用いて各画素の色信号dR,dG,dBをWB補正する。
【0054】
次に、色空間変換部47は、係数k1〜k12を決定し、式(3)を用いて、輝度信号dY及び色信号dR,dG,dBの色空間を変換し、輝度信号Y、色差信号Cb,Crを求める。
【0055】
このように、撮像装置1によれば、晴天等の被写体が明るい場合、輝度信号における可視輝度画像成分の占める割合が大きくなり、人が目視している被写体と同等の画像を得ることができる。
【0056】
一方、暗がり等の被写体が暗い場合、輝度信号における赤外画像成分の占める割合が大きくなり、赤外領域の輝度信号を多く用いてS/N比のよい画像を得ることができる。
【0057】
また、可視カラー画像成分と赤外画像成分と輝度画像成分とを合成して色信号が生成されているが、輝度画像成分は少なくとも可視波長領域と赤外波長領域との光を受光する画素により撮像されたものであり、カラーフィルタとして、赤外成分に同じ感度特性を有するカラーフィルタが採用されているため、可視カラー画像成分から赤外画像成分を差し引くことで、可視カラー画像成分を正確に求めることができ、この可視カラー画像成分から色信号を生成しているため、色再現性の高い色信号を得ることができる。
【0058】
なお、上記説明では、係数決定部51は、1フレームの画像単位で重み係数k,kwを決定したが、本発明はこれに限定されず、1フレームの画像を構成する各画素における重み係数k,kwを算出してもよい。
【0059】
この場合、色補間部43を評価値算出部41の前段に設け、評価値算出部41は、各画素における輝度画像成分DWから赤外画像成分DBlkを減じて、各画素における評価値eを算出する。そして、係数決定部51は、各画素における評価値eから各画素における重み係数k,kwを決定すればよい。
【0060】
そして、信号生成部44は、各画素における重み係数k,kwを用いて式(1)により輝度信号dYを算出すればよい。
【0061】
また、露出補正値算出部52は、各画素における重み係数k,kwから各画素における輝度評価値edYを算出し、各画素における露出補正値H1を算出すればよい。
【0062】
そして、露出補正部42は、各画素における露出補正値H1を、ye画像成分、R画像成分、赤外画像成分、及び輝度画像成分のそれぞれの各画素に乗ずることで露出補正を行えばよい。
【0063】
また、色空間変換部47は、各画素における重み係数k,kw又は評価値eから各画素における係数k1〜k12を決定し、色空間変換を行えばよい。
【0064】
また、評価値算出部41は、局所領域の赤外画像成分のみを用いて評価値eを算出してもよいし、局所領域の可視輝度画像成分のみを用いて評価値eを算出してもよい。
【0065】
(実施の形態2)
本発明の実施の形態2による撮像装置1は、被写体の明るさ及び暗さの少なくともいずれか一方を基に色差信号(色情報信号の一例)のゲインを設定することを特徴とする。なお、本実施の形態2において、実施の形態1と同一のものは説明を省く。
【0066】
図7は、本実施の形態における画像処理部4と制御部5とのブロック図を示している。図4との相違点は、ゲイン設定部48が設けられている点にある。ゲイン設定部48は、被写体が明るくなるにつれて色差信号のゲインを増大させる。
【0067】
具体的には、ゲイン設定部48は、評価値算出部41により算出された評価値e(=eDW−eDblk)を用いて、色空間変換部47により算出された色差信号Cb,Crに対するゲインαb,αrを求め、求めたゲインαb,αrを色差信号Cb,Crのそれぞれのゲインとして設定する。
【0068】
そして、ゲイン設定部48は、式(4)に示すように、設定したゲインαbを色差信号Cbに乗じ、かつ、設定したゲインαrを色差信号Crに乗じ、色差信号Cb,Crを補正する。
【0069】
Cb´=αb×Cb
Cr´=αr×Cr (4)
図8は、評価値eに対するゲインαb,αrの特性を示すグラフであり、縦軸はゲインを示し、横軸は評価値eを示している。図8に示すように、ゲインαb,αrは同じ特性を有し、評価値eが増大する、つまり、被写体が明るくなるにつれて、増大する特性を有している。具体的には、評価値eが最大値であるemaxの1/4以下においては、ゲインαb,αrは0であり、評価値eがemaxの1/4付近に到達すると、ゲインαb,αrは緩やかに増大した後、急激に1付近まで増大し、再度、緩やかに増大して1になる。
【0070】
したがって、ゲイン設定部48は、予め実験により得られたゲインαb,αrと評価値eとの関係を示すルックアップテーブルを予め記憶し、このルックアップテーブルを用いて、ゲインαb,αrを求めればよい。又は、図8に示すゲインαb,αrと評価値eとの関係を示す関数を予め記憶し、この関数を用いてゲインαb,αrを求めればよい。
【0071】
これにより、被写体が明るく、色差信号Cb,CrのS/N比が高い場合は、色差信号Cb,Crのゲインαb,αrが増大する一方、被写体が暗く色差信号Cb,CrのS/N比が低い場合は、色差信号Cb,Crのゲインαb,αrが減少するため、S/N比の高い色差信号を得ることができる。
【0072】
なお、図8においては、ゲインαb,αrは評価値eがemaxの1/4となる付近で急激に変化したが、これに限定されず、評価値eがemaxの1/4以外のemaxの1/2、emaxの1/3等の他の値となる付近で急激に変化させてもよい。
【0073】
また、ゲインαb,αrとを異なる特性としてもよい。この場合、ゲインαb,αrは、ホワイトバランスが維持されるような特性を持つようにすることが好ましい。
【0074】
また、上記説明では、ゲイン設定部48は、評価値eを用いたがこれに限定されず、評価値算出部41により算出された評価値eBlkを用いて、ゲインαb,αrを求めてもよい。図9は、評価値eBlkに対するゲインαb,αrの特性を示したグラフであり、縦軸はゲインαb,αrを示し、横軸は評価値eBlkを示している。図9に示すようにゲインαb,αrは、評価値eBlkが増大するにつれて、すなわち、被写体が暗くなるにつれて、減少する特性を有していることが分かる。
【0075】
具体的には、評価値eBlkが評価値eBlkの最大値であるeBlk−maxの3/4以下においては、ゲインαb,αrは1であり、評価値eBlkがeBlk−maxの3/4付近に到達すると、ゲインαb,αrは1から緩やかに減少した後、急激に0付近まで減少し、再度、緩やかに減少して0になる。
【0076】
したがって、ゲイン設定部48は、評価値eの場合と同様、図9に示すゲインαb,αrと評価値eBlkとの関係を示す予め作成されたルックアップテーブル又は関数を記憶し、このルックアップテーブル又は関数を用いてゲインαb,αrを求めればよい。
【0077】
また、ゲイン設定部48は、評価値e又は評価値eBlkを用いてゲインαb,αrを求めたが、これに限定されず、被写体の明るさを表すパラメータであれば、評価値e,eBlk以外のパラメータを用いて、ゲインαb,αrを求めても良い。
【0078】
例えば、重み係数k,kwは、評価値eを用いて定められており、被写体の明るさが反映された値を有している。したがって、ゲイン設定部48は、重み係数k又はkwを用いてゲインαb,αrを求めればよい。この場合、ゲイン設定部48は、重み係数k又はkwとゲインαb,αrとの関係を示すルックアップテーブル又は関数を記憶し、このルックアップテーブル又は関数を用いてゲインαb,αrを求めればよい。
【0079】
また、ゲイン設定部48は、被写体の明るさと暗さとの両方に基づいて、ゲインαb,αrを求めてもよい。具体的には、評価値eと評価値eBlkとの乗算値(=e・eBlk)からゲインαb,αrを求めるようにすればよい。図11は、乗算値e・eBlkに対するゲインαb,αrの特性を示したグラフであり、縦軸はゲインαb,αrを示し、横軸は乗算値e・eBlkを示している。
【0080】
図11に示すように、ゲインαb,αrは、図8に示すグラフと図9に示すグラフとを乗じた特性、すなわち、乗算値e・eBlkが乗算値e・eBlkの最大値(e・eBlk−max)の1/2のときに、ゲインαb,αr=1となってピークとなり、e・eBlk−maxの1/2を中心として左右対称な上に凸の特性を有している。
【0081】
こうすることで、評価値eと評価値eBlkとの両方の評価値を加味して、ゲインαb,αrを算出することができる。
【0082】
この場合、ゲイン設定部48は、評価値e又は評価値eBlkの場合と同様、ゲインαb,αrと乗算値e・eBlkとの関係を示す予め作成されたルックアップテーブル又は関数を記憶し、このルックアップテーブル又は関数を用いてゲインαb,αrを求めればよい。
【0083】
(実施の形態3)
図10は、本発明の実施の形態3の撮像装置1の制御部5と画像処理部4とのブロック図を示している。実施の形態3の撮像装置1は、ゲイン設定部48をWB補正部46と色空間変換部47との間に設けたことを特徴とする。
【0084】
本実施の形態において、ゲイン設定部48は、被写体が明るくなるにつれて、WB補正部46により補正された色信号dR,dG,dB(色情報信号の一例)のゲインβr,βg,βbを大きく設定することを特徴とする。
【0085】
この場合、ゲイン設定部48は、評価値算出部41により算出された評価値eを用いて、ゲインβr,βg,βbを求めればよい。具体的には、ゲイン設定部48は、ゲインβr,βg,βbと評価値eとの関係を示すルックアップテーブル又は関数を予め記憶し、このルックアップテーブル又は関数から評価値eに対するゲインβr,βg,βbを求めればよい。そして、ゲイン設定部48は、式(5)に示すように、求めたゲインβr,βg,βbをWB補正部46から出力された色信号dR,dG,dBに乗じて、色信号dR,dG,dBを修正すればよい。
【0086】
dR´=βr×dR
dG´=βg×dG (5)
dB´=βb×dB
このとき、色空間変換部47は、色信号dR´、dG´、dB´を用いて色差信号Cr,Cb及び輝度信号Yを求めればよい。
【0087】
なお、評価値eに対するゲインβr,βg,βbの特性としては、図8に示すゲインαr,αbと同様の特性を採用すればよい。
【0088】
また、ゲイン設定部48は、評価値eに代えて評価値eBlkを用いてゲインβr,βg,βbを求めてもよい。この場合、ゲインβr,βg,βbとしては、図9と同様、評価値eBlkが増大するにつれて、値が小さくなる特性を持たせればよい。そして、ゲイン設定部48は、評価値eBlkとゲインβr,βg,βbとの関係を示すルックアップテーブル又は関数を予め記憶し、この関数又はルックアップテーブルを用いて、評価値eBlkに応じたゲインβr,βg,βbを求めればよい。
【0089】
また、本実施の形態においても実施の形態2と同様、被写体の明るさを示すパラメータであれば、評価値e,eBlk以外のパラメータである例えば重み係数k,kwを用いて、ゲインβr,βg,βbを求めても良い。
【0090】
また、ゲイン設定部48は、評価値eと評価値eBlkとの乗算値e・eBlkを用いてゲインβr,βg,βbを求めてもよい。この場合、ゲインβr,βg,βbとしては、図11と同じ特性を持たせればよい。そして、ゲイン設定部48は、乗算値e・eBlkとゲインβr,βg,βbとの関係を示すルックアップテーブル又は関数を予め記憶し、この関数又はルックアップテーブルを用いて、乗算値e・eBlkに応じたゲインβr,βg,βbを求めればよい。
【0091】
このように本実施の形態の撮像装置1によれば、S/N比の高い色信号dR,dG,dBを得ることができる。
【0092】
また、本実施の形態では、図5に示すように評価値eから重み係数k,kwを求め、重み係数k,kwを用いて、輝度信号dYを算出する手法を示したが、これに限定されず、重み係数k,kwを用いずに、評価値eから輝度信号dYを算出するようにしてもよい。
【0093】
この場合、信号生成部44は、例えば、輝度画像成分DW及び赤外画像成分DBlkと、輝度信号dYとの関係を予め定めるルックアップテーブル又は関数を用いて、輝度信号dYを求めるようにすればよい。すなわち、信号生成部44は、輝度画像成分DW及び赤外画像成分DBlkを入力とし、輝度信号dYを出力とするルックアップテーブル又は関数を用いて、輝度信号dYを算出するようにすればよい。
【0094】
上記撮像装置の技術的特徴を纏めると下記のようになる。
【0095】
(1)上記撮像装置は、カラーフィルタを備える画素により可視カラー画像成分を撮像し、赤外フィルタを備える画素により赤外画像成分を撮像し、少なくとも可視波長領域と赤外波長領域との光を受光する画素により可視輝度画像成分と赤外画像成分とを含む輝度画像成分を撮像する撮像素子と、前記輝度画像成分及び前記赤外画像成分を基に、被写体の明るさを評価するための評価値を算出する評価値算出部と、被写体が明るくなるにつれて増大する予め定められた特性を有する第1の重み係数と、被写体が明るくなるにつれて減少する予め定められた特性を有する第2の重み係数とを、前記評価値を用いて決定する係数決定部と、前記輝度画像成分から前記赤外画像成分を減じて前記可視輝度画像成分を生成し、前記係数決定部により決定された第1の重み係数を用いて重み付けをした前記可視輝度画像成分と、前記係数決定部により決定された第2の重み係数を用いて重み付けをした前記輝度画像成分又は前記赤外画像成分とを合成して輝度信号を生成し、かつ、前記可視カラー画像成分と前記赤外画像成分と前記輝度画像成分とを合成して色情報信号を生成する信号生成部とを備えることを特徴とする。
【0096】
この構成によれば、可視輝度画像成分及び赤外画像成分を基に、被写体の明るさを評価するための評価値が算出され、この評価値を基に第1の重み係数と第2の重み係数とが決定される。ここで、第1の重み係数は、被写体が明るくなるにつれて増大する特性を有し、第2の重み係数は、被写体が明るくなるにつれて減少する特性を有する。そして、第1の重み係数により重み付けされた可視輝度画像成分と第2の重み係数により重み付けされた輝度画像成分とが合成され、輝度信号が生成される。
【0097】
よって、晴天等の被写体が明るい場合は、輝度信号における可視輝度画像成分の占める割合が大きくなり、人が目視している被写体と同等の画像を得ることができる。
【0098】
一方、暗がり等の被写体が暗い場合は、輝度信号における赤外画像成分の占める割合が大きくなり、赤外領域の輝度信号を多く用いてS/N比のよい画像を得ることができる。すなわち、被写体が暗い場合は、可視輝度画像成分は、被写体の情報を多く含んでいない、つまり、ノイズを多く含んでいると考えられる。そこで、被写体が暗い場合、赤外画像成分の割合を多くする一方、可視輝度画像成分の割合が少なくなるようにして両画像成分を合成して輝度信号を生成する。これにより、S/N比の高い輝度信号を得ることができる。
【0099】
また、輝度画像成分は少なくとも可視波長領域と赤外波長領域との光を受光する画素により分光されずに撮像されたものであるため、R,G,B,IRのフィルタを備える画素により分光して撮像された画像成分から輝度信号を求める場合に比べて、S/N比の高い輝度信号を生成することができる。
【0100】
すなわち、R,G,B,IRのフィルタの感度特性を重ね合わせれば分かるように、これらのフィルタのみでは可視領域において取得することができない帯域が発生してしまう。一方、少なくとも可視波長領域と赤外波長領域との光を受光する画素の感度特性は、可視領域及び赤外領域の全域をカバーしている。そのため、少なくとも可視波長領域と赤外波長領域との光を受光する画素により撮像された画像は、R,G,B,IRのフィルタを備える画素により撮像された画像に比べて、可視領域における情報量が多くなり、S/N比の高い輝度信号を生成することができる。
【0101】
また、可視カラー画像成分と赤外画像成分と輝度画像成分とを合成して色情報信号が生成されているが、輝度画像成分は少なくとも可視波長領域と赤外波長領域との光を受光する画素により撮像されたものであるため、S/N比の高い色情報信号を求めることができる。特に、カラーフィルタとして、赤外成分に同じ感度特性を有するカラーフィルタを採用すれば、可視カラー画像成分から赤外画像成分を差し引くことで、可視カラー画像成分を精度良く求めることができ、この可視カラー画像成分から色情報信号を生成することで、S/N比の高い色情報信号を得ることができる。
【0102】
(2)前記撮像素子は、可視波長領域と赤外波長領域とを有感度波長帯域とする第1の画素、第2の画素、第3の画素、及び第4の画素とを含む単位画素部がマトリックス状に配列され、前記第1の画素は、前記可視波長領域の青色領域を除く前記有感度波長帯域の光を透過する第1のカラーフィルタを備え、前記第2の画素は、前記可視波長領域の青色領域及び緑色領域を除く前記有感度波長帯域の光を透過する第2のカラーフィルタを備え、前記第3の画素は、前記可視波長領域を除く前記有感度波長帯域の光を透過する赤外フィルタを備え、前記第4の画素は、少なくとも可視波長領域と赤外波長領域との光を受光する画素であることが好ましい。
【0103】
この構成によれば、第1の画素は、第1のカラーフィルタを備えているため、青色領域を除く有感度波長帯域の画像を可視カラー画像成分として撮像することができ、第2の画素は、第2のカラーフィルタを備えているため、青色領域及び緑色領域を除く有感度波長帯域の画像をカラー画像成分として撮像することができ、第3の画素は、可視波長領域を除く有感度波長帯域の画像を赤外画像成分として撮像することができ、第4の画像は、少なくとも可視波長領域と赤外波長領域との光を受光するため、有感度波長帯域の画像を輝度画像成分として撮像することができる。
【0104】
そして、撮像素子は、第1〜第4の画素を備える単位画素部がマトリックス状に配列されているため、可視カラー画像成分と赤外画像成分と輝度画像成分とを偏りなく撮像することができる。
【0105】
(3)前記係数決定部により決定された第1及び第2の重み係数を基に、露出補正値を算出する露出補正値算出部と、前記露出補正値算出部により算出された露出補正値を用いて、前記撮像素子により撮像された画像の露出補正を行う露出補正部とを更に備えることが好ましい。
【0106】
この構成によれば、係数決定部により決定された第1及び第2の重み係数を用いて、露出補正値が算出され、この露出補正値を用いて露出補正が行われているため、晴天や暗がりといった被写体の明るさに応じた適切な露出補正値を用いて露出補正を行うことができる。
【0107】
(4)前記信号生成部により生成された色情報信号を基にホワイトバランス補正値を算出するホワイトバランス補正値算出部と、前記ホワイトバランス補正値算出部により算出されたホワイトバランス補正値を用いて、前記画像撮像素子により撮像された画像のホワイトバランス補正を行うホワイトバランス補正部とを更に備えることが好ましい。
【0108】
この構成によれば、信号生成部により生成されたS/N比の高い色信号を基にホワイトバランス補正値が算出され、ホワイトバランス補正が行われているため、ホワイトバランス補正を精度良く行うことができる。
【0109】
(5)前記信号生成部は、以下に示す式を用いて輝度信号を生成することが好ましい。
【0110】
dY=kw×DW+k×(DW−DBlk)
但し、dY:輝度信号、k:第1の重み係数、kw:第2の重み係数、DW:輝度画像成分、DBlk:赤外画像成分、DW−DBlk:可視輝度画像成分
【0111】
この構成によれば、第1の重み係数により重み付けされた輝度画像成分と第2の重み係数により重み付けされた可視輝度画像成分とを適切に合成することができる。
【0112】
(6)前記色情報信号は、色信号dR,dG,dB及び色差信号Cb,Crを含み、前記可視輝度画像成分が大きくなるにつれて前記信号生成部により生成された輝度信号dYにおける前記可視輝度画像成分の重み付けを大きくするための予め定められた12種類の係数k1〜k12を、前記評価値又は前記第1及び第2の重み係数k,kwから決定し、決定した係数k1〜k12を用いて下記の式により輝度信号dY及び色信号dR,dG,dBを、輝度信号Y、色差信号Cb,Crで表される色空間に変換する色空間変換部を更に備えることが好ましい。
【0113】
Y=k1×dY+k2×dR+k3×dG+k4×dB
Cb=k5×dY+k6×dR+k7×dG+k8×dB
Cr=k9×dY+k10×dR+k11×dG+k12×dB
この構成によれば、可視輝度画像成分が大きくなるにつれて可視輝度画像成分の重み付けを大きくするための予め定められた12種類の係数k1〜k12を用いて輝度信号dY、色信号dR,dB,dGが輝度信号Y、色差信号Cb,Crの色空間に変換されるため、晴天や暗がりといった被写体の明るさに応じて適切な輝度信号Y,色差信号Cb,Crを得ることができる。
【0114】
(7)前記係数決定部は、各画素における前記評価値を求め、各画素における第1の重み係数と第2の重み係数とを決定することが好ましい。
【0115】
この構成によれば、画素単位で第1の重み係数と第2の重み係数とが決定されるため、画素毎に適切な第1の重み係数と第2の重み係数とを用いて輝度信号を得ることができる。
【0116】
(8)被写体の明るさ及び暗さの少なくともいずれか一方を基に、前記色情報信号のゲインを設定するゲイン設定部を更に備えることが好ましい。
【0117】
暗い被写体の場合、色信号は被写体の情報を多く含んでいない、つまり、ノイズを多く含んでいると考えられる。そこで、被写体の明るさ及び暗さの少なくともいずれか一方に基づいて、色情報信号のゲインを設定することで、S/N比の高い色情報信号を得ることができる。具体的には、被写体が明るくなるにつれて、色情報信号のゲインを増大させる、又は被写体が暗くなるにつれて、色情報信号のゲインを減少させる等すればよい。
【0118】
(9)本発明の別の局面による撮像素子は、カラーフィルタを備える画素と、赤外フィルタを備える画素と、少なくとも可視波長領域と赤外波長領域との光を受光する画素とが配列されたものである。
【0119】
この構成によれば、S/N比の高い輝度信号及び色情報信号を生成することのできる撮像素子を提供することができる。
【符号の説明】
【0120】
1 画像入力装置
3 撮像素子
4 画像処理部
5 制御部
31 単位画素部
41 評価値算出部
42 露出補正部
43 色補間部
44 信号生成部
45 評価値算出部
46 補正部
47 色空間変換部
51 係数決定部
52 露出補正値算出部
53 WB補正値算出部
【特許請求の範囲】
【請求項1】
カラーフィルタを備える画素と、赤外フィルタを備える画素と、少なくとも可視波長領域と赤外波長領域との光を受光する画素とが配列された撮像素子を含む撮像装置であって、
前記撮像素子は、可視波長領域と赤外波長領域とを有感度波長帯域とする第1の画素、第2の画素、第3の画素、及び第4の画素とを含む単位画素部がマトリックス状に配列され、
前記第1の画素は、前記可視波長領域の青色領域を除く前記有感度波長帯域の光を透過する第1のカラーフィルタを備え、
前記第2の画素は、前記可視波長領域の青色領域及び緑色領域を除く前記有感度波長帯域の光を透過する第2のカラーフィルタを備え、
前記第3の画素は、前記可視波長領域を除く前記有感度波長帯域の光を透過する赤外フィルタを備え、
前記第4の画素は、少なくとも可視波長領域と赤外波長領域との光を受光する画素であり、
前記第1〜第4の画素の画素信号から画像の色情報を算出する色情報算出手段と、
前記第1〜第4の画素の画素信号から画像の輝度情報を算出する輝度情報算出手段とを備えることを特徴とする撮像装置。
【請求項2】
前記色情報算出手段は、以下の演算により色情報を算出する請求項1記載の撮像装置。
dB=DW−Dye
dR=DR−DBlk
dG=DW−DBlk−dR−dB(=Dye−DR)
但し、dB、dR、dGは色情報、Dyeは第1の画素の画素信号、DRは第2の画素の画素信号、DBlkは第3の画素の画素信号、及びDWは第4の画素の画素信号を示す。
【請求項1】
カラーフィルタを備える画素と、赤外フィルタを備える画素と、少なくとも可視波長領域と赤外波長領域との光を受光する画素とが配列された撮像素子を含む撮像装置であって、
前記撮像素子は、可視波長領域と赤外波長領域とを有感度波長帯域とする第1の画素、第2の画素、第3の画素、及び第4の画素とを含む単位画素部がマトリックス状に配列され、
前記第1の画素は、前記可視波長領域の青色領域を除く前記有感度波長帯域の光を透過する第1のカラーフィルタを備え、
前記第2の画素は、前記可視波長領域の青色領域及び緑色領域を除く前記有感度波長帯域の光を透過する第2のカラーフィルタを備え、
前記第3の画素は、前記可視波長領域を除く前記有感度波長帯域の光を透過する赤外フィルタを備え、
前記第4の画素は、少なくとも可視波長領域と赤外波長領域との光を受光する画素であり、
前記第1〜第4の画素の画素信号から画像の色情報を算出する色情報算出手段と、
前記第1〜第4の画素の画素信号から画像の輝度情報を算出する輝度情報算出手段とを備えることを特徴とする撮像装置。
【請求項2】
前記色情報算出手段は、以下の演算により色情報を算出する請求項1記載の撮像装置。
dB=DW−Dye
dR=DR−DBlk
dG=DW−DBlk−dR−dB(=Dye−DR)
但し、dB、dR、dGは色情報、Dyeは第1の画素の画素信号、DRは第2の画素の画素信号、DBlkは第3の画素の画素信号、及びDWは第4の画素の画素信号を示す。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2013−81245(P2013−81245A)
【公開日】平成25年5月2日(2013.5.2)
【国際特許分類】
【出願番号】特願2012−282981(P2012−282981)
【出願日】平成24年12月26日(2012.12.26)
【分割の表示】特願2010−510165(P2010−510165)の分割
【原出願日】平成21年4月30日(2009.4.30)
【出願人】(303000408)コニカミノルタアドバンストレイヤー株式会社 (3,255)
【Fターム(参考)】
【公開日】平成25年5月2日(2013.5.2)
【国際特許分類】
【出願日】平成24年12月26日(2012.12.26)
【分割の表示】特願2010−510165(P2010−510165)の分割
【原出願日】平成21年4月30日(2009.4.30)
【出願人】(303000408)コニカミノルタアドバンストレイヤー株式会社 (3,255)
【Fターム(参考)】
[ Back to top ]