固体撮像装置、撮像装置、合焦制御方法、及び、プログラム
【課題】画素内位相差オートフォーカスとは異なる新たな方式のオートフォーカスの技術を提供する。
【解決手段】固体撮像装置は、画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている。撮像装置は、このような固体撮像装置と、偏光子が配置された画素から出力された情報に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する合焦情報処理部とを備えている。像装置は、被写体像を撮像部に導く光学系を更に備えている構成とすることもできるし、或いは又、合焦情報処理部により生成された合焦情報に基づいて、光学系のフォーカス制御を行なうフォーカス制御部を更に備えている構成とすることもできる。
【解決手段】固体撮像装置は、画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている。撮像装置は、このような固体撮像装置と、偏光子が配置された画素から出力された情報に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する合焦情報処理部とを備えている。像装置は、被写体像を撮像部に導く光学系を更に備えている構成とすることもできるし、或いは又、合焦情報処理部により生成された合焦情報に基づいて、光学系のフォーカス制御を行なうフォーカス制御部を更に備えている構成とすることもできる。
【発明の詳細な説明】
【技術分野】
【0001】
本明細書で開示する技術は、固体撮像装置、撮像装置、合焦制御方法、及び、プログラムに関する。
【背景技術】
【0002】
ビデオカメラ(ビデオムービー)やデジタルカメラ等の撮像装置において、オートフォーカス(AF:Auto Focus)といった自動焦点(自動合焦)機能を装備したものが知られている。このオートフォーカスについては、例えば、測距のために基準となる信号を自ら出すか出さないかで、アクティブ方式とパッシブ方式に分類される。パッシブ方式の一例として、例えば、特開2011−103335号公報には、固体撮像装置(撮像素子)を利用した位相差オートフォーカス(画素内位相差オートフォーカスと記す)が提案されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2011−103335号公報
【0004】
画素内位相差オートフォーカスは、例えば撮像素子の開口面積を半分にそれぞれ偏らせて各検知用画素に光学像を入射させる。例えば検知用画素は2画素ペアで相互に半開口としている。ピントがジャスピン(perfect focus)からずれると像が分離し、さらに前ピン(被写体よりも前にピントが合っている状態)と後ピン(被写体よりも後ろにピントが合っている状態)とで、像の分離方向が逆になるという特質がある。集光状態と開口のサイドの関係から相対する画素群の輝度分布が逆方向となることに基づく。このことが予め分かっているため、合焦の方向が分かる。そこで、この合焦の方向が予め分かっていることに基づき、ずれ量を検出してオートフォーカスを行なうようにしている。そのため、画素内での情報のみを使用した処理が可能であるという特徴がある。
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、画素内位相差オートフォーカスでは、その手法が撮像素子の開口面積を半分にそれぞれ偏らせての素子利用であるため、各検知用画素の出力が落ちてしまい、両者の信号差が小さくなり、誤検知を起こし易い難点がある。又、2枚の画像の比較が必要なため、それなりに高速処理が必須になる難点もある。
【0006】
従って、本開示の目的は、画素内位相差オートフォーカスとは異なる新たな方式のオートフォーカスの技術を提供することにある。好適には、複数枚の画像を必要とすることなく、誤検知を起こし難いオートフォーカスの技術を提供することを目的とする。
【課題を解決するための手段】
【0007】
本開示の第1の態様に係る撮像装置は、画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置と、偏光子が配置された画素から出力された情報に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する合焦情報処理部とを備えている。本開示の第1の態様に係る撮像装置の従属項に記載された各撮像装置は、本開示の第1の態様に係る撮像装置のさらなる有利な具体例を規定する。
【0008】
本開示の第2の態様に係る固体撮像装置は、画素が配列された撮像部を有し、更に、撮像部の中央領域の所定数の画素を対象として、当該画素に重なるように偏光子が配置されており、撮像部の周辺領域の画素については、偏光子が配置されていないものである。
【0009】
撮像装置や固体撮像装置はワンチップとして形成された形態であってもよいし、撮像部と、信号処理部又は光学系とが纏めてパッケージングされた、撮像機能を有するモジュール状の形態であってもよい。撮像装置は、例えば、カメラ(或いはカメラシステム)や携帯機器等の電子機器において撮像機能を実現するために使用される。また「撮像」は、通常のカメラ撮影時の像の撮り込みだけではなく、広義の意味として、指紋検出や、タッチパネル等の物理量分布検知半導体装置或いは物理情報取得装置(物理量分布検知装置)において物理量分布として圧力を利用して像情報を取得することも含む。
【0010】
本開示の第3の態様に係る撮像装置の合焦制御方法は、画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置の偏光子が配置されている画素から出力された信号に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する工程と、合焦情報を用いて、光学系のオートフォーカス制御を行なう工程とを有する。
【0011】
本開示の第4の態様に係るプログラムは、画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置の偏光子が配置されている画素から出力された信号に基づいて生成された、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報に基づいて、光学系のフォーカス制御を行なうフォーカス制御部としてコンピュータを機能させるプログラムである。プログラムは、コンピュータ読取り可能な記憶媒体に格納されて提供されてもよいし、有線あるいは無線による通信手段を介した配信により提供されてもよい。
【0012】
本開示の第2の態様に係る固体撮像装置、本開示の第3の態様に係る合焦制御方法、本開示の第4の態様に係るプログラムのそれぞれにおいては、本開示の第1の態様に係る撮像装置の従属項に記載された各技術・手法が同様に適用可能であり、それが適用された構成は、本開示の第2の態様に係る固体撮像装置、本開示の第3の態様に係る合焦制御方法、本開示の第4の態様に係るプログラムのさらなる有利な具体例を規定する。
【0013】
要するに、本明細書で開示する技術では、少なくとも撮像部の中央領域の所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置を使用する。そして、偏光子が配置されている画素から出力された信号に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成し、この合焦情報を使用して光学系のフォーカス制御を行なう。一般的な固体撮像装置にあっては、画素(詳しくは光電変換部等)そのものは偏光に対して感度を有していないが、本開示の技術にあっては、偏光子を画素に配置して特定の方向の偏光成分を検知可能に構成し、偏光子が配置された画素(偏光画素)の検知情報をオートフォーカス制御に利用する。偏光画素から出力される検知情報は、従来から知られている種々のオートフォーカス制御(例えば山登り制御方式)用の情報として利用することができる。固体撮像装置に関しては偏光子を特定の画素に配置する必要性はあるが、その製造技術自体は公知の技術を利用することができ、又、オートフォーカス用の制御アルゴリズムを新たに開発しなくても既存の制御技術を利用できるので、本開示の技術の実現は容易である。
【発明の効果】
【0014】
本開示の第1の態様に係る撮像装置、本開示の第2の態様に係る固体撮像装置、本開示の第3の態様に係る合焦制御方法、本開示の第4の態様に係るプログラムによれば、画素内位相差オートフォーカスとは異なる新たな方式のオートフォーカスの技術を提供することができる。これにより、仕様や用途に合わせたオートフォーカス方式の選択の幅を広げることができる。画素内位相差オートフォーカスとは異なり、撮像素子の開口面積を半分にそれぞれ偏らせての素子利用ではないので、出力信号差が小さくなることに起因する誤検知の問題は起きない。
【図面の簡単な説明】
【0015】
【図1】図1は、コントラストオートフォーカスを説明する図である。
【図2】図2は、位相差検知オートフォーカスを説明する図である。
【図3】図3は、画素内位相差オートフォーカスを説明する図である。
【図4】図4は、偏光による反射率の角度依存の挙動を説明する図である。
【図5】図5(A)〜図5(B)は、偏光状態によって反射率が変化することを説明する図である。
【図6】図6(A)〜図6(B)は、電場と磁場の実振幅の違いを説明する図である。
【図7】図7は、偏光画素の出力信号の合焦状態の依存性を説明する図である。
【図8】図8(A)〜図8(B)は、TM波用の偏光子とTE波用の偏光子との対を、「オートフォーカス対象の領域」の4箇所に配置した場合の偏光画素の出力例を示す図である。
【図9】図9(A)〜図9(B)は、オートフォーカス制御用の指標値の算出手法を説明する図(その1)である。
【図10】図10(A)〜図10(B)は、オートフォーカス制御用の指標値の算出手法を説明する図(その2)である。
【図11】図11は、比較例の偏光子の配置例を示す図である。
【図12】図12は、実施例1の偏光子の配置例を示す図である。
【図13】図13(A)〜図13(B)は、偏光子画素の配置位置を説明する図である。
【図14】図14は、感度補正非対象範囲の規定原理を説明する図である。
【図15】図15は、感度補正処理に使用される2種類のパターン化偏光子の特性例を説明する図である。
【図16】図16は、固体撮像装置に偏光子を積層する手法を説明する図である。
【図17】図17は、撮像装置の一実施形態を示す図である。
【図18】図18は、撮像装置及び画像処理装置の信号処理系の構成例を説明する図である。
【図19】図19は、撮像装置におけるオートフォーカス処理の処理手順の一例を示すフローチャートである。
【図20】図20は、実施例2の偏光子の配置例を示す図である。
【図21】図21は、実施例3の偏光子の配置例を示す図である。
【図22】図22は、実施例4の偏光子の配置例を示す図である。
【図23】図23は、本実施形態の画素内偏光オートフォーカスと従前の他のオートフォーカス方式とを対比した図表である。
【図24】図24は、本実施形態の画素内偏光オートフォーカスと感度補正とを対比した図表である。
【発明を実施するための形態】
【0016】
以下、図面を参照して、本明細書で開示する技術の実施形態について詳細に説明する。各機能要素について形態別に区別する際にはアルファベット或いは“_n”(nは数字)或いはこれらの組合せの参照子を付して記載し、特に区別しないで説明する際にはこの参照子を割愛して記載する。図面においても同様である。
【0017】
説明は以下の順序で行なう。
1.全体概要
2.オートフォーカス方式の比較例
3.偏光による反射率の角度依存性について
4.斜め入射、偏光、反射率の関係
5.本実施形態のオートフォーカスの原理
6.実施例1:偏光子の配置位置、偏光子画素の配置位置
偏光子を周辺領域に配置する場合の感度補正、
固体撮像装置に偏光子を積層する手法、
撮像装置:全体概要
撮像装置及び画像処理装置、処理手順
7.実施例2:
8.実施例3
9.実施例4
10.本実施形態の纏め:オートフォーカス、感度補正
【0018】
<全体概要>
先ず、基本的な事項について以下に説明する。本明細書で開示する撮像装置、固体撮像装置、合焦制御方法、プログラムにおいては、先ず、少なくとも撮像部の中央領域の所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置を使用する。偏光子の配置態様が如何様であっても、単純に偏光子を配した画素(偏光画素)から得られる偏光情報(いわゆる輝度情報)をオートフォーカス制御用に利用するので、高速処理が可能である。画素内位相差オートフォーカスでは検出不可能な、例えば全面赤の被写体や全面青の被写体、中央赤、中央青の被写体等でも合焦状態に依存した偏光情報が得られるため、これらの画像においても正確な合焦位置を検出することができる。
【0019】
偏光画素から出力される検知情報を使用した合焦位置の判定には、従来から知られている種々のオートフォーカス制御(例えば山登り制御方式)の技術を利用することができる。例えば、通常の山登りサーボ方式では、映像信号のコントラストが、できるだけ最大になるように光学焦点調整機構を制御して、コントラストのできるだけ高い位置を探索することにより、自動的に焦点調整を行なう。本明細書で開示する技術にあっては、コントラストに代えて、偏光画素から出力される検知情報を使い、その他は既存の山登りサーボ方式(もちろんこの方式には限らないが)の技術をそのまま流用することができる。固体撮像装置に関しては偏光子を特定の画素に配置する必要性はあるが、その他は既存の方式のまあでよく、装置規模をさほど増大させることなく応答の速いオートフォーカスを実現できる。
【0020】
撮像装置の製品形態としては、偏光画素(偏光子が配置されている画素)を撮像部に備える固体撮像装置と、偏光画素から出力された情報に基づいて被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する合焦情報処理部とを備えた構成を最小構成要素とする。そして、製品仕様に合わせて、この最小構成要素に対して、例えば、合焦情報処理部により生成された合焦情報に基づいて光学系のフォーカス制御を行なうフォーカス制御部を備えた構成や、被写体像を撮像部に導く光学系を備えた構成、或いは、光学系及びフォーカス制御部の双方を備えた構成等とすることができる。
【0021】
偏光子は、撮像領域全体に配置する必要はなく、少なくとも「オートフォーカス対象の領域」に配置されていればよく、その領域内の全ての画素に偏光子が配置されていることも必須ではなく、例えば、所定数の画素を一単位とするブロックごとに、ブロック内の総画素数よりも少ない数(例えば1個〜数個)の画素を対象として、当該画素に重なるように偏光子が配置されていればよい。
【0022】
好適には、ブロック内に、それぞれ異なる角度の偏光主軸を有する複数種類の偏光子が配置されているのがよい。つまり、ブロック内の各偏光子の偏光角は異なっているのがよい。例えば、偏光子の偏光主軸の角度の種類をNとしたとき、それぞれの角度差は180/Nであるのがよい。典型的には(最も好適なシンプルな構成では)、2画素ペアで、相互に異なる偏光状態(典型的には偏光角の差が90度)を検出し、その検知情報を使用して予め定められた算術式に基づいて指標値を算出し、算出された指標値に基づいて合焦判定や光学系のフォーカス制御を行なう。もちろんこのことは必須でなく、ブロック相互間の各偏光子の偏光角はランダムに配置されたものであってもよい。
【0023】
本開示に係る技術にあっては、好ましくは、複数種類の偏光子の1つはTE波相当のみを通す偏光子であり、複数種類の偏光子のもう1つはTM波相当のみを通す偏光子であるとよい。例えば、ブロック内にそれぞれ異なる偏光主軸を有する2種類の偏光子が配置されている構成をとることができる。この場合、その一方の偏光子はTE波相当のみを通す偏光子であり、他方の偏光子はTM波相当のみを通す偏光子であるのがよい。もちろん、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子との組合せ(水平垂直の偏光子の組合せ)に限らず、45度の偏光波相当のみを通す偏光子と135度の偏光波相当のみを通す偏光子との組合せ(斜め方向の偏光子の組合せ)にしてもよいし、更には、水平垂直の偏光子及び斜め方向の偏光子の組合せにしてもよい。例えば、一般的な被写体像を考えた場合、横縞模様と縦縞模様の何れかに着目してオートフォーカス制御を行なえば十分であり、この場合、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子との組合せとすればよい。又、斜め縞模様に着目してオートフォーカス制御を行なう必要がある場合であれば、45度の偏光波相当のみを通す偏光子と135度の偏光波相当のみを通す偏光子との組合せにすればよい。
【0024】
本開示に係る技術は、色分離を行なうカラーフィルタを有しているいわゆるカラー画像撮像用の固体撮像装置や撮像装置に適用することができる。この場合、ブロック内のカラーフィルタの一組の同色画素又は同色に準じる画素に重なるように偏光子が配置されているのが好ましい。例えば、カラーフィルタは、緑色又は緑色に準じる色の色フィルタを複数持つ場合、好ましくは、緑色又は緑色に準じる色の色フィルタと重なるように複数の偏光子が配置されているとよい。この場合、複数種類の偏光子の1つはTE波相当のみを通す偏光子であり、複数種類の偏光子のもう1つはTM波相当のみを通す偏光子であるとよい。
【0025】
「同色に準じる画素」或いは「緑色に準じる色」とは、完全に同じ色であることに限定されないことを意味し、実質的に同色と見なせる場合や、同色ではないが、同系統と云える色も含む意味である。例えば、緑に対して黄緑や青緑は「同色」に準じる色の関係にあると見做す。例えば、色再現を改善するために、赤(R)、緑(G)、青(B)の3色だったカラーフィルタに、エメラルド(青緑)を加え4色とする場合における緑とエメラルドとは「同色」に準じる色の関係にあると見做す。
【0026】
本開示に係る技術において、カラーフィルタが例えば、2つの緑色と1つの赤色と1つの青色の各色フィルタがベイヤー配列されている場合は、緑色の色フィルタと重なるように2種類の偏光子が配置されているのがよく、この場合には、一方の偏光子はTE波相当のみを通す偏光子であり、他方の偏光子はTM波相当のみを通す偏光子であるのがよい。
【0027】
本開示に係る技術においては、ブロック内には、1種類の偏光子が1つ配置されていてもよい。この場合、偏光子は、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子の何れかであるとよい。或いは又、45度の偏光波相当のみを通す偏光子と135度の偏光波相当のみを通す偏光子の何れかとしてもよい。例えば、一般的な被写体像を考えた場合、横縞模様と縦縞模様の何れかに着目してオートフォーカス制御を行なえば十分であり、横縞模様に着目する場合であればTE波相当のみを通す偏光子を使用すればよいし、縦縞模様に着目する場合であればTM波相当のみを通す偏光子を使用すればよい。又、斜め縞模様に着目してオートフォーカス制御を行なう必要がある場合であれば、右斜め上方向の縞模様に着目する場合であれば45度の偏光波相当のみを通す偏光子を使用すればよいし、左斜め上方向の縞模様に着目する場合であれば135度の偏光波相当のみを通す偏光子を使用すればよい。
【0028】
例えば、色分離を行なうカラーフィルタを有し、カラーフィルタは、2つの緑色と1つの赤色と1つの青色の各色フィルタがベイヤー配列されている場合であれば、緑色の色フィルタと重なるように、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子の何れかが配置されているとよい。或いは又、45度の偏光波相当のみを通す偏光子と135度の偏光波相当のみを通す偏光子の何れかが配置されていてもよい。
【0029】
本開示に係る技術においては、動画撮像時に信号が読み出されない画素に重なるように偏光子が配置されていてもよい。動画時の信号処理に負荷を掛けることはない。
【0030】
本開示に係る技術においては、撮像部の全領域に亘って偏光子が配置されていることに限らず、一部分に偏光子が配置されていてもよい。特に、オートフォーカス制御という点に着目した場合、主たる被写体(注目被写体)が通常、何処に配置されるかに応じて、偏光子を配置する「オートフォーカス対象の領域」を決めればよい。典型的には、オートフォーカスは通常被写体の中心位置で実現されることが望ましいので、偏光子は、少なくとも撮像部の中央領域に配置されていることが望ましい。
【0031】
本開示に係る技術においては、偏光子は、撮像部の周辺領域にも配置されていてもよい。この場合、周辺領域の偏光子が配置された画素から出力される検知情報は、オートフォーカス制御に利用されてもよいし、周辺領域において発生し得る固体撮像装置上と肉眼上で感じる明るさの大小関係の逆転現象を補正するための感度補正に利用されてもよい。因みに、中央領域と周辺領域の区分けは例えば、TE波成分とTE波成分との差が、画素の信号出力に対して1/50程度未満の差しかつかない領域を中央領域とし、その周辺部を周辺領域とすればよい。
【0032】
<オートフォーカス方式の比較例>
最初に、本開示のオートフォーカスの理解を容易にするべく、比較例のオートフォーカスについて説明する。図23も参照するとよい。
【0033】
[コントラストオートフォーカス]
図1は、コントラストオートフォーカスを説明する図である。ここで、図1(A)は、ピントが合っている状態を示し、図1(C)は、ピントがずれている状態を示し、図1(B)は、それらの中間状態を示す。
【0034】
コントラストオートフォーカスは、画素信号の出力観察を行なって合焦状態を検出するものであり、コントラストオートフォーカスでは、ピントが合っている状態では、図1(A)に示すように、コントラストが高く、逆に、ピントがずれている状態では、図1(C)に示すように、コントラストが低くなる。そこで、全面スキャンをし、輝度コントラストが大となる状態を検出して、合焦検知を行なう、つまり、コントラストが大きければ合焦と判定する。このコントラストオートフォーカスは、画素信号の出力観察で対応可能であるため撮像用のセンサ(固体撮像装置)を活用できるが、焦点をずらして複数枚撮像する必要があるため(何度もスキャンするため)、応答(レスポンス)が遅く、オートフォーカススピードが遅いという欠点がある。つまり、被写体全面の周波数解析を判断材料とするため、かなりの枚数取得が必要でありその分時間を要する。又、周波数の高い画像の場合は、MTF(Modulation Transfer Function)等の関係で合焦状態でも輝度コントラストが小さくなるため、周波数の高い画像の検知が苦手である。つまり、手法が高周波・低周波の分析であることから、元々、高周波の被写体に対しては苦手とする面がある。
【0035】
[位相差検知オートフォーカス]
図2は、位相差検知オートフォーカスを説明する図である。位相差検知オートフォーカスでは、レンズを通して取り込んだ光をセパレートレンズで分離して各別の位相差検出用のセンサ(通常4領域のリニアセンサ)に入射させる。この方式は、近い箇所は大きくずれ遠い箇所はほとんどずれないという視差を利用するものであり、4箇所のリニアセンサで取り込んだ画像を重ね合わせてずれ量を測定(検出)して 距離を算出する。この位相差検知オートフォーカスは、撮像用のセンサ(固体撮像装置)とは別途に位相差検出用のセンサ(4領域のリニアセンサ)を設けるため、オートフォーカススピードを高速化することができる(応答が速い)。しかしながら、そのセンサに像を結ぶためのレンズ系(位相差検出用のセンサへの結像レンズ、位相差を設けるためのセパレートレンズ等)が必要であり、装置の大型化や高コストの点で不利となる。例えば、デジタルスチルカメラへの搭載は、重量や体積等の点から、採用し難い。又、距離誤検知を起こし易い難点もある。
【0036】
[画素内位相差オートフォーカス]
図3は、画素内位相差オートフォーカスを説明する図である。画素内位相差オートフォーカスは、撮像素子の出力そのものを使うオートフォーカス方式の一例である。画素内位相差オートフォーカスは、例えば撮像素子の開口面積を半分にそれぞれ偏らせて各画素(画素A群(Phase Detectin Sensor A)と画素B群(Phase Detectin Sensor B))に像を入射させる。例えば検知用画素は2画素ペアで相互に半開口としている。ピントがずれると像が分離し、さらに前ピン(被写体よりも前にピントが合っている状態)と後ピン(被写体よりも後ろにピントが合っている状態)とで、画素A群と画素B群とでは像の分離方向が逆になるという特質がある。集光状態と開口のサイドの関係から相対する画素群の輝度分布が逆方向となることに基づく。このことが予め分かっているため、合焦の方向が分かる。
【0037】
この画素内位相差オートフォーカスでは、画素A群と画素B群の合焦方向のずれ量を検出してオートフォーカスを行なうため、画素内での情報のみを使用した処理が可能である。しかしながら、画素内位相差オートフォーカスでは、開口面積を半分にそれぞれ偏らせての素子利用であるため、出力が落ちてしまうため、信号差が小さくなり、距離誤検知を起こし易いし、2枚の画像の比較が必要なため、応答が遅く、応答を速くしようとすると、それなりの高速処理が必須になる。
【0038】
[本実施形態のオートフォーカス]
このように、比較例の各オートフォーカスは、装置規模や応答の面で依然として難点がある。そこで、本明細書で開示する技術では、装置規模をさほど増大させることなく応答の速いオートフォーカスを提案する。その基本的な手法は、偏光子を配置した画素(偏光画素)から取得された情報(偏光情報、実態としては輝度情報)を利用するというものである。一般的な固体撮像装置にあっては、画素の電荷検出部(光電変換素子)そのものは、偏光に対して感度を有していない。即ち、光の有する偏光情報は用いられずに捨てられているのが実情である。太陽光は無偏光であるが、その光を反射・散乱した光には反射面の表面状態に起因した偏光成分が含まれており、特定の方向に偏った偏光成分が多く含まれる。そこで、本明細書で開示する技術では、偏光子を画素に配置して特定の方向の偏光成分を検知し、その検知情報をオートフォーカス制御に利用する。
【0039】
偏光子は、詳細には後述するが、撮像領域全体に配置する必要はなく、少なくとも「オートフォーカス対象の領域」に配置されていればよい。更には、「オートフォーカス対象の領域」の全ての画素に偏光子が配置されていることも必須ではなく、所定数の画素を一単位とするブロックごとに、1個〜数個の偏光画素が配置されていればよい。好適には、ブロック内の各偏光子の偏光角は異なっているのがよく、偏光子の偏光主軸の角度の種類をNとしたとき、それぞれの角度差は180/Nであるのがよい。典型的には(最も好適なシンプルな構成では)、2画素ペアで、相互に異なる偏光状態(典型的には偏光角の差が90度)を検出し、その検知情報を使用して予め定められた算術式に基づいて指標値を算出し、算出された指標値に基づいて合焦判定や光学系のフォーカス制御を行なう。もちろんこのことは必須でなく、ブロック相互間の各偏光子の偏光角はランダムに配置されたものであってもよい。
【0040】
偏光子の配置態様が如何様であっても、単純に偏光子を配した画素(偏光画素)から得られる検知情報(偏光情報、実質的にはいわゆる輝度情報である)を利用するので、高速処理が可能である。特に、ブロック内に偏光角の異なる複数種類の偏光子を配置する態様ではそれら偏光画素の出力差を利用することができる。コントラストオートフォーカスや画素内位相差オートフォーカスでは検出不可能な、例えば全面赤の被写体や全面青の被写体、中央赤、中央青の被写体等でも合焦状態に依存した偏光情報が得られるため、これらの画像においても正確な合焦位置を検出することができる。
【0041】
合焦位置の判定には、いわゆる山登り制御の技術(山登りサーボ方式)をそのまま利用することができるので、公知の当該山登り制御の技術の利点を有効に活用できるという特徴がある。通常の山登りサーボ方式では、映像信号の鮮鋭度(コントラスト)、つまり高周波成分が、できるだけ最大になるように光学焦点調整機構を制御して、コントラストのピーク点(できるだけ高い位置)を探索することにより、自動的に焦点調整を行なう。山登りサーボ方式は大別すると、山の傾斜やピークを見つける試行法と、ピエゾ素子等を利用して固体撮像装置を微少変動させながら合焦位置を見つける摂動法(いわゆるピエゾオートフォーカス)の2通りがある。例えば、試行法では、試行動作により山の傾斜を見つけるモード、ピークを見つけるモード、ピークをいったん越えたことを判定し、必要に応じてフィルタを切り替える操作のモード、ピークから行き過ぎた量だけモータを逆回転してピークに戻すモード、合焦状態を示すモードの各モードからなる。摂動法では、大まかには試行法に準じた動作をするが、固体撮像装置を微少変動させるので、前ピン側或いは後ピン側の何れにあっても、そこからの焦点位置の方向をほぼ即時に判断できるため、ピークを見つける(つまり合焦状態にする)動作が試行法よりも高速である利点がある。本実施形態では、試行法・摂動法を問わず、通常の映像信号に基づく鮮鋭度(コントラスト)に代えて偏光子を配した画素から得られる情報を使用する。以下、具体的に説明する。
【0042】
<偏光による反射率の角度依存性について>
図4は、偏光による反射率の角度依存の挙動を説明する図である。完全にパッシブ(受動的)な被写体形状センシング方式として、偏光を利用する技術がある。これは非偏光の自然光を照射された被写体からの反射光(鏡面反射光又は拡散反射光)が、表面の向きや視点という幾何学的要因によって種々の部分偏光を呈することを利用する技術である。この情報の取得のためには、被写体各画素の部分偏光状態を偏光画像として取得する。人工光は通常偏光しているので、偏光画像を取得する場合、偏光の影響で反射率が高く透過率が低くなっている部分や、そうでない部分が現れる。
【0043】
誘電率の異なる一組の材質で形成される界面を3パターン用意する。次にその各々の界面にTM波(Transverse Magnetic Wave)、TE波(Transverse Electric Wave)を照射する。TM波は、p偏光とも呼ばれ、磁場成分が入射面に対して横向きの波であり、磁場の進行方向横(切るという意)の成分が0(ゼロ)である。TE波は、s偏光とも呼ばれ、電場成分が入射面に対して横向きの波であり、電場の進行方向(切るという意)の成分が0(ゼロ)である。そうすると、入射角度の大小によってTM波、TE波がそれぞれ示す反射率の値が大きく異なっていく。尚、TM波、TE波はいわゆる偏光の一種である。
【0044】
その依存を示したものが図4であり、ある界面での偏光の入射角による反射率(縦軸)の違いを示している。詳しくは、図4では、誘電率或いは屈折率の異なるある材料が積層されている際に、TM波、TE波を入射した際の入射角度と反射率の関係が示されている。入射角度0度では、TM波、TE波の別はそもそもつかないことから、界面3パターンともに、TM波、TE波の各反射率は同値を示している。しかしながら、入射角度が大きくなるにつれて、TM波の反射率は下がり、TE波の反射率は上がる。TM波の反射率は界面3パターンともに、入射角度を大きくするにつれ、反射率0まで下がり続ける。その後、急激に反射率が上がり、入射角度90度の時点でTE波の反射率と同値をとる。90度ではもはやTM波、TE波の別は区別できない。一方、TE波は入射角度を大きくするにつれその反射率は一方的に増加する。これらの挙動の違いは、TM波、TE波の電場、磁場の振動方向が90度異なることに由来している。即ち、TM波は入射平面に対して、磁場が平行に振動する波であり、TE波は入射平面に対して、逆に電場が平行に振動する波であり、この両者の違いが入射平面に対する反射率の差を生む。このような関係は、界面での材料特性によって決まるものであり、感度にはよらない。
【0045】
<斜め入射、偏光、反射率の関係>
図5〜図6は、斜め入射と偏光と反射率の関係を説明する図である。ここで、図5は、偏光状態によって反射率が変化することを説明する図である。図6は、電場と磁場の実振幅の違いを説明する図である。
【0046】
一般的に偏光状態によって反射率は変化する。これは、図6(フレネルの公式に基づく)から導くことができる。図6(A)は、p偏光(TM波)の場合であり、その反射率は式(1−1)で表すことができる。図6(B)は、s偏光(TE波)の場合であり、その反射率は式(1−2)で表すことができる。因みに、式(1)(式(1−1)及び式(1−2))において、屈折率nがない理由は、出射角度θ2が入射上下の材質の屈折率と入射角度θ1によって一意に決まるからである。
【0047】
【数1】
【0048】
図6に示すように、電場の実振幅Eと磁場の実振幅Mには大きな違いがある。具体的には、式(2)で示すように、「E:H≒400:1」の関係がある。これより、偏光方向による反射率の差異が起こるか否かを考えるときには、主に電場のみを考えておけばよいことが分かる。
【0049】
【数2】
【0050】
<本実施形態のオートフォーカスの原理>
図7〜図9は、偏光子を配した画素から得られる情報(輝度情報)を利用する本実施形態のオートフォーカスの原理を説明する図である。ここで、図7は、偏光画素の出力信号の合焦状態の依存性を説明する図である。図8は、TM波用の偏光子(パターン化偏光子102TM)とTE波用の偏光子(パターン化偏光子102TE)との対を、「オートフォーカス対象の領域」の4箇所に配置した場合の偏光画素の出力例を示す図である。図9及び図10は、オートフォーカス制御用の指標値の算出手法を説明する図である。
【0051】
本実施形態のオートフォーカスを画素内偏光オートフォーカスと称し、特に、複数種類の偏光角度を利用して、対の各偏光子を配した画素から得られる偏光情報(輝度情報)の差を利用する形態を画素内偏光輝度差オートフォーカスと称する。
【0052】
偏光子を配した画素から得られる情報(輝度情報)は、合焦状態(前ピンか、ジャスピンか後ピンか)によって変わり、更には被写体と偏光角度との関係にも依存する。例えば、図7(図8も参照)に示すように、被写体像が主にp偏光成分となるような(図示のように縦縞模様の)場合には、TM波用の偏光子を配した画素から得られる情報としては、フォーカスが合っていれば輝度情報が高くなり、フォーカスが合っていなければ輝度情報が低くなる。このとき、TE波用の偏光子を配した画素から得られる情報としては、フォーカスが合っているか否かに拘わらず、輝度情報の高低には殆ど変化がなく、輝度情報が低くなる。
【0053】
図示しないが、被写体像が主にs偏光成分となるような(横縞模様の)場合には、TE波用の偏光子を配した画素から得られる情報としては、フォーカスが合っていれば輝度情報が高くなり、フォーカスが合っていなければ輝度情報が低くなる。このとき、TM波用の偏光子を配した画素から得られる情報としては、フォーカスが合っているか否かに拘わらず、輝度情報の高低には殆ど変化がなく、輝度情報が低くなる。図示しないが、被写体像が主に斜め45度の偏光成分となるような(右上がりの縞模様の)場合には、45度偏光波用の偏光子(45度偏光子)から得られる情報としては、フォーカスが合っていれば輝度情報が高くなり、フォーカスが合っていなければ輝度情報が低くなる。このとき、135度偏光波用(或いはTM波用やTE波用)の偏光子を配した画素から得られる情報としては、フォーカスが合っているか否かに拘わらず、輝度情報の高低には殆ど変化がなく、輝度情報が低くなる。図示しないが、被写体像が主に斜め135度の偏光成分となるような(左上がりの縞模様の)場合には、135度偏光波用の偏光子(135度偏光子)から得られる情報としては、フォーカスが合っていれば輝度情報が高くなり、フォーカスが合っていなければ輝度情報が低くなる。このとき、45度偏光波用(或いはTM波用やTE波用)の偏光子を配した画素から得られる情報としては、フォーカスが合っているか否かに拘わらず、輝度情報の高低には殆ど変化がなく、輝度情報が低くなる。このように、偏光角度に関わらず、フォーカスが合っていれば偏光子を配した画素から得られる輝度情報が高くなる。尚、何れの場合も、フォーカスが合っている状態の方が情報量が増える(ヒストグラム上で分布量が増える)。
【0054】
これらの点を踏まえると、偏光子を配した画素から得られる情報を利用することにより、フォーカスが合っているか否かの判定が可能であることが推測される。本明細書で開示する技術は、この点に着目してなされている。更には、必要に応じて(特に撮像領域の周辺部において)、偏光による反射率の角度依存性を考慮した感度補正処理を行なうことで、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止することができることが推測される。本明細書で開示する技術は、これらの点に着目してなされている。
【0055】
原理的には、偏光角度はオートフォーカス対象の全領域において1種類でもよい。この場合、偏光子を配した画素から得られた偏光情報(輝度情報)そのものを使用して予め定められた算術式に基づいて指標値を算出し、算出された指標値に基づいて合焦判定を行なう。そのため、例えば、図9(A)に示すように、オートフォーカス対象の全領域についての複数画素の情報の加算値を判定指標値とする場合には、判定指標値が飽和(オーバーフロー)し易い。
【0056】
しかしながら、この場合でも、ほとんどの被写体は偏光しているため、「(A+B)+(C+D)+…=輝度値の合計」が得られる。輝度値の合計が飽和しない限りは、山登りサーボの技術を適用して、前ピン状態、合焦近傍状態、後ピン状態と、焦点位置を振っていき、輝度値の合計ができるだけ高くなる位置を見つけることにより、合焦させることができる。例えば、図9(B)に示すように、前ピン範囲内でのある位置P1での輝度値の合計値をSUM1、合焦近傍範囲内のある位置P2での輝度値の合計値をSUM2、後ピン範囲内でのある位置P3での輝度値の合計値をSUM3としたときに、「SUM1<SUM3<SUM2」と仮になれば、位置P2と位置P3の間に(図9(B1)参照)、或いは、位置P2よりも少し位置P1より側に(図9(B2)参照)に、焦点位置(合焦点)があると推定することができる。
【0057】
尚、ここでは偏光子の角度が1種類であるので、偏光子を配した画素から得られた偏光情報(輝度情報)そのもののレベルを使用する場合で説明したが、これに限らず、例えば、偏光子を配した画素に隣接する他の色画素との差を利用することもできる。この場合、後述の複数種類の偏光情報を利用する場合と同様の信号処理を行なうことができる。
【0058】
合焦状態と偏光子を配した画素から得られる情報との間には、被写体像がどのような状態であるかが関係するので、判定性能を高めるには、複数種類の偏光情報を利用することが好ましい。例えば、一般的には、縦縞と横縞とに着目した判定で十分と考えられるため、この場合には、TM波相当のみを通す偏光子とTE波相当のみを通す偏光子とを組み合わせて使用する(つまり、水平・垂直の組とする)。好適にはTM波用の偏光子とEM波用の偏光子とを隣接させて配置する。或いは斜め方向の縞模様に着目する場合であれば、45度偏光波相当のみを通す45度偏光波用の偏光子と135度偏光波相当のみを通す135度偏光波用の偏光子とを組み合わせて使用する(つまり、90度の偏光差を持つ斜め方向の組とする)。好適には45度偏光波用の偏光子と135度偏光波用の偏光子とを隣接させて配置する。或いは又、一組は水平・垂直とし、別の一組は斜め方向という置き方にしてもよい。もちろん、オートフォーカス対象の全領域において各組の向きを統一させる必然性はなく、各組の方向が異なるランダム配置にしてもよい。
【0059】
複数種類の偏光角度の情報を利用する場合には、組ごとに各偏光子を配した画素から得られた偏光情報(輝度情報)そのものを使用して予め定められた算術式に基づいて第1の指標値を算出し、更に、オートフォーカス対象の全領域についての各組の第1の指標値を使用して予め定められた算術式に基づいて第2の指標値を算出し、算出された第2の指標値に基づいて合焦判定を行なう。このとき例えば、図10(A)に示すように、組ごとに偏光情報の差分をとり第1の指標値としての差分情報を求め、その差分情報に基づいて、オートフォーカス対象の全領域の複数画素の情報の加算値を第2の指標値として求めるとよい。例えば、TE波とTM波の輝度差の変化を利用してオートフォーカス機能を担わせる。差分情報の加算値であるので、判定指標値は飽和し難くなる利点がある。
【0060】
例えば、輝度A>輝度B、輝度C<輝度D、…とすると、「(A−B)+(D−C)+…=差の合計」が得られる。ほとんどの被写体は偏光しているが、どのように偏光しているかは分からないため、単に出力の大きい方から小さい方をひいて判断してよい。出力値の大小判定を割愛するべく、差分の絶対値を使用してもよい。この場合も、山登りサーボの技術を適用して、前ピン状態、合焦近傍状態、後ピン状態と、焦点位置を振っていき、輝度差の合計ができるだけ高くなる位置を見つけることにより、合焦させることができる。例えば、図10(B)に示すように、前ピン範囲内でのある位置P1での輝度差の合計値をDEF1、合焦近傍範囲内のある位置P2での輝度差の合計値をDEF2、後ピン範囲内でのある位置P3での輝度差の合計値をDEF3としたときに、「DEF1<DEF3<DEF2」と仮になれば、位置P2と位置P3の間に(図10(B1)参照)、或いは、位置P2よりも少し位置P1より側に(図10(B2)参照)に、焦点位置(合焦点)があると推定することができる。
【0061】
ここでは、何れの場合も、オートフォーカス用の判定指標値としては、輝度情報に基づく加算値を利用する場合で説明したが、これには限らない。例えば、平均値や中央値(メジアン)等を利用することもできる。
【0062】
尚、偏光子或いは偏光子の組を所定間隔で撮像領域のオートフォーカス対象の領域に配置する。「所定間隔」とするのは、偏光子を配置する画素のために通常画像の撮像に悪影響を与えることを緩和するためである。通常画像撮像時における偏光子を配置した画素の扱いについては例えば、静止画、動画に関わらず偏光子を配置した画素の情報は無視する手法を適用してもよく、この場合は、「補正」ではなく、偏光子を有する画素と同じ検出波長帯を有し、偏光子を有していない隣接する画素の情報(輝度情報)によって「補間」により、偏光子が配置されている画素から得られる偏光情報(輝度情報)を算出する(見積もる)とよい。例えば、偏光子が配置されている画素から得られる偏光情報を、周辺画素の平均値で置き換える。或いは又、その周辺画素(好ましくは、偏光子を配置した画素は除く)の情報を使って補正により、より的確な画素情報を算出してもよい。例えば、偏光子が配置されている画素から得られる偏光情報(輝度情報)を、偏光子を有する画素と同じ検出波長帯を有し、偏光子を有していない隣接する画素の情報(輝度情報)によって補正する。何れの場合も、カラー撮像の場合には、同色のもの同士で対処するのがよい。
【0063】
又、動画撮像時(ファインダーモード時を含む)には、ビデオレートに近づけるために、表示装置に表示するために必要な信号ライン或いは画素以外を間引くような駆動方法がとられるので、この点を考慮した「所定間隔」とすることが好ましい。即ち、偏光子をオートフォーカス対象の領域の全面に配置するのではなく、一部の画素に周期的に配置することで、偏光子画素は動画時に読み出されないいわゆる間引き画素に選択的に配置することが好ましい。これにより、動画時の信号処理に負荷を掛けることがなく、フレームレートに支障を与えることもない。
【実施例1】
【0064】
[偏光子の配置位置]
図11〜図12は、偏光子の配置例を説明する図である。ここで、図11は比較例の偏光子の配置例を示し、図12は、実施例1の偏光子の配置例を示す。
【0065】
何れの色画素を偏光子画素とするかにおいては、例えば、M×Nブロック内において、カラーフィルタ100の一組の同色画素或いは同色に準じる1対の画素の組合せを選択して、それら選択した1対の画素上に偏光角度が異なる2種類のパターン化偏光子102を配置するのがよい。全画素領域に対してM×Nブロック周期で繰り返すことにより、全体的に偏光子画素を配置することもできるが、本実施形態においては、特に、後述する「オートフォーカス対象の領域」に配置すればよい。
【0066】
図11に示す比較例の場合、カラーフィルタ100及びパターン化偏光子102が、固体撮像装置104(の撮像部)の撮像画素106の前面に重ねて配置されている。固体撮像装置104上にパターン化偏光子102を全面配置した典型例である。カラーフィルタ100とパターン化偏光子102の配置の順番は任意である。入射光は、カラーフィルタ100及びパターン化偏光子102を透過して固体撮像装置104に到達し、その撮像部の撮像画素106によって輝度が観測される。
【0067】
一方、図12に示す実施例1では、カラーフィルタ100のM×Nブロック内において、特定色の部分にそれぞれ異なる偏光主軸を有する複数種類のパターン化偏光子102を各々配置する。パターン化偏光子102が配置される画素を偏光子画素と称する。パターン化偏光子102が配置されない画素を非偏光子画素と称する。複数種類のパターン化偏光子102とは、それぞれ異なる偏光主軸を有すればよいが、好ましくは、両者の偏光主軸の角度差を90度とするとよい。「偏光主軸」とは、パターン化偏光子102を透過する光の偏波面(透過偏波面)に平行な軸である。
【0068】
実施例1では、比較例とは異なり、パターン化偏光子102を全面配置するのではなく、一部の画素に周期的に配置する。この際には好ましくは、図12に示すように、偏光子画素は動画時に読み出されないいわゆる間引き画素に選択的に配置することができる。これにより、動画時の信号処理に負荷を掛けることはない。よって、フレームレートに支障を与えることもない。
【0069】
以下では、ベイヤー配列の固体撮像装置104を例にとって、2種類のパターン化偏光子102を配置する場合で説明する。図12に示す例は、ベイヤー配列のG画素(Gr画素及びGb画素)上に2種類のパターン化偏光子102を配置している。1つはTE波相当のパターン化偏光子102TE、もう1つはTM波相当のパターン化偏光子102TMである。TE波相当のパターン化偏光子102TEとTM波相当のパターン化偏光子102TMとは、それぞれ異なる偏光主軸を有し、両者の偏光主軸の角度差は90度である。その配置の頻度・間隔は、ベイヤー単位のGr、Gbへの配置を単位とし、一例として、横8×縦4を1ブロック(単位)に1つ位の間隔とする。図12は、動画時に読み出されない間引きラインであってGbライン(Gb画素の水平ライン)のGb画素にパターン化偏光子102TEを配置し、動画時に読み出されない間引きラインであってGrライン(Gr画素の水平ライン)のGr画素にパターン化偏光子102TMを配置した例で示している。TE波相当の偏光はTM波相当の偏光に対して反射率が高い。しかし、この差を肉眼では感じることができない。何故なら、肉眼の場合、視細胞の配置の影響でどんな光もほぼ入射角度がゼロで入射されるからである。
【0070】
2つの偏光子画素から得られる輝度情報そのもの或いは感度差(つまり輝度差)を利用してオートフォーカスを実現することができるし、2つの偏光子画素から得られる感度差(つまり輝度差)を利用して画角全体に感度補正を施し、肉眼上と固体撮像装置104上の感度を一致させることもできる。後者の場合、オートフォーカスだけでなく、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止することができることができる。
【0071】
配置間隔は、例えば1400万画素の固体撮像装置を対象として考えた場合には640画素×480画素以上、即ち、VGA相当以上となる。640画素×480画素以上即ちVGA相当以上であれば補正の意味は十分にあり、しかも、解像度の劣化が意識されるレベルでもない。
【0072】
例えば、Gr画素にはTE波相当のみを通すパターン化偏光子102TEを配置し、Gb画素にはTM波相当のみを通すパターン化偏光子102TMを配置する。或いは逆に、Gr画素にはTM波相当のみを通すパターン化偏光子102TMを配置し、Gb画素にはTE波相当のみを通すパターン化偏光子102TEを配置してもよい。パターン化偏光子102TMを配置する画素をTM画素と称し、パターン化偏光子102TEを配置する画素をTE画素と称する。
【0073】
つまり、ベイヤー配列のG画素上に一組の逆方向の偏光子画素を配置する。その配置の頻度・間隔は、ベイヤー単位のGr、Gbへの配置を単位とし、横8×縦4画素のブロックを単位に1つ位の間隔とする。GrにはTE波相当のみを通すパターン化偏光子102TEを配置し、GbにはTM波相当のみを通すパターン化偏光子102TEを配置する。或いは、GrにはTM波相当のみを通すパターン化偏光子102TMを配置し、GbにはTE波相当のみを通すパターン化偏光子102TMを配置する。これらの対の偏光子画素の輝度差の総和が最も最大の位置を合焦位置とする。
【0074】
こうすることにより、TE波とTM波の輝度差の変化を利用してオートフォーカス機能を実現することができる。単純に輝度差を総和するだけのため、高速処理が可能であるし、32画素に一対の配置のため、補完がより精度を保持した状態で可能である。コントラストオートフォーカスや画素内位相差オートフォーカスでは検出不可能な、例えば全面赤の被写体や全面青の被写体、中央赤、中央青の被写体にも合焦位置を検出可能であるし、感度補正等の偏光情報も利用できる。
【0075】
ここでは、ベイヤー配列のG画素(Gr画素及びGb画素)上に2種類のパターン化偏光子102を配置する例で説明したが、これには限定されない。偏光子画素(或いは非偏光子画素)の組合せ色は任意である。例えば、Gr画素及びGb画素の何れか一方とR画素及びB画素の何れか一方との組合せ、或いは、R画素とB画素の組合せとしてもよい。その組合せに応じて、感度補正処理において、色画素の感度の相違を「感度比」で補正すればよい。
【0076】
[偏光子画素の配置位置]
図13は、偏光子画素の配置位置を説明する図である。図14は、感度補正非対象範囲の規定原理を説明する図である。図24も参照するとよい。
【0077】
偏光子画素を配置する「オートフォーカス対象の領域」としては、典型的には、図13(A)に示すように、撮像領域の中央寄りの位置である。例えば、撮像エリアの中心側は斜め入射の影響が少なく、感度補正を必要としないので、全画素領域に対して部分的に(詳しくは撮像エリアの中央側にのみ)偏光子画素を配置するのがよい。これは入射角度が小さい場合、固体撮像装置104上と肉眼上での明るさの大小関係の逆転現象が起こり得ないか若しくはその差が軽微であり、敢えて感度補正する必要がないと考えられるからである。例えば、全画素領域の1/20〜1/30程度の周辺領域を除く領域に偏光子を配置するとよい。画素領域(撮像エリア)の中央位置への配置が優先されることが望ましいのは、オートフォーカスは通常被写体の中心位置で実現されることが望ましいからである。但し、原理的には、その配置位置は画素領域の中央位置には限定されず、周辺領域であってもよいし、図13(B)に示すように全面でもよい。主たる被写体(注目被写体)が通常、何処に配置されるかに応じて、偏光子画素を配置する「オートフォーカス対象の領域」を決めればよい。尚、図13(B)に示す場合において、周辺部の感度補正対象領域は、オートフォーカス対象の領域としないようにしてもよい。つまり、偏光子画素の配置箇所は撮像エリアの全面を対象とするが、「オートフォーカス対象の領域」は図13(A)に示す撮像領域の中央寄りの領域のみであり、周辺部は感度補正対象領域専用とする形態である。図13(B)に示す場合において、周辺部の感度補正対象領域と中央部の感度補正不要領域との間に偏光子を配置しない緩衝領域を設けてもよい。
【0078】
因みに、前述のように、撮像領域の周辺部では、偏光による反射率の角度依存性により感度の逆転現象が見られるため、この点を考慮した感度補正処理を行なうことで、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止する技術を併用することが好ましい。この場合、感度補正用の偏光子を配した画素から得られる情報を合焦用にも使用することができる。つまり、同じ偏光子を感度補正用と合焦用とに兼用することができる。
【0079】
例えば、TE波成分とTE波成分との差が、画素の信号出力に対して1/50程度未満の差しかつかない中央側の領域を感度補正不要領域とし、当該感度補正不要領域の周辺の領域を、感度補正対象領域とする。そして、図13(A)に示すように、「オートフォーカス対象の領域」を撮像領域の中央寄りの位置とする場合には、この感度補正不要領域(全体或いは一部)を「オートフォーカス対象の領域」に割り当てる。こうすることで、当該領域の偏光子画素は専らオートフォーカス用に使用すればよい。或いは、図13(B)に示すように、「オートフォーカス対象の領域」を撮像領域の周辺部にも割り当てる場合は、感度補正対象領域の偏光子画素は、オートフォーカス用と感度補正用とに兼用する。
【0080】
例えば、信号出力が150ミリボルト(mV)に対して3ミリボルト未満の差しかつかない撮像エリア中心側の領域を感度補正不要領域とし、この感度補正不要領域を除いた撮像部の周辺領域を感度補正対象領域とする。前記条件の撮像エリア中心側の領域は、概ね入射角度10度程度以内の領域となるが、この領域は感度補正対象除外可能である。
【0081】
入射角度10度以下の範囲を感度補正非対象範囲(感度補正不要領域)とすることができる理由について、図14を参照して説明する。固体撮像装置104の撮像画素106の検知部(いわゆるフォトダイオードが典型例)は、例えば、シリコン基板(Si:屈折率nは3.8)上にシリコンナイトライドSiN(屈折率nは2.1)が積層され、その上層にオンチップレンズ108及び保護層109が配置されている。
【0082】
図14に示すような簡略化した撮像画素106で算出した場合、大気中からシリコン到達で単純計算では凡そ50パーセント程度の光が透過される。例えば、固体撮像装置104に、ある決まった光学条件を照射する際、“感度”と云われる出力量を比較すると、TM波/TE波の出力差は入射角度30度で、約10〜15ミリボルト程度となる。視感度として、認識できる光量の差異はおよそ10パーセント程度であるので、計算上は150ミリボルトの感度に対しては入射角度30度以下は非補正対象となる。但し、固体撮像装置104はガンマ(γ)カーブやゲイン等、様々な出力補正が可能であることから、差異の認識は範囲をもう少し小さいと仮定する。これを3〜5ミリボルトとした。その差異がつく入射角度は、図14に示す屈折率の積層組合せを例とすると、10度程度となる。これにより、10度程度以下の入射角度範囲を感度補正省略可能対象である理由とする。
【0083】
尚、感度補正対象領域の偏光子の偏光角度(向き)は、統一されていることが望まし。その限りにおいて、斜め方向(45度や135度等)でもよいし、1種類に限らず複数種類の偏光角度の組合せでもよい。複数種類の偏光角度の組合せとすることにより、輝度差を感度補正に利用することができる。又、「偏光角度が統一」という点においては、一組の偏光角度の組合せは、別の一組の偏光角度の組合せと統一がとれていることが望ましい。これに対して、「オートフォーカス対象の領域」の偏光子の偏光角度(向き)は、ランダム配置可能である。ある一組は水平垂直、別の一組は斜め方向という置き方でもよい。換言すると、感度補正対象領域の偏光子により得られる偏光情報(輝度情報)は、必ずオートフォーカス制御用にも使えるのに対して、「オートフォーカス対象の領域」の偏光子により得られる偏光情報(輝度情報)は、必ずしも、感度補正にも使えるとは云えない。
【0084】
[偏光子を周辺領域に配置する場合の感度補正]
図15は、感度補正処理に使用される2種類のパターン化偏光子102TE及びパターン化偏光子102TMの特性例を説明する図である。
【0085】
固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止するための感度補正処理に当たっては、偏光子が配された画素(偏光子画素と記す)から得られる情報に基づいて予め定められた条件に従って補正係数(補正量)を求め、この補正係数を使用して対象画素の輝度情報を補正するとよい。偏光子が配置される画素(偏光子画素と記す)はもちろんのこと、偏光子が配置されない画素(非偏光子画素と記す)も同様に補正する。この際には、入射角度と出力感度から求められる「感度差異による感度補正テーブル」を予め用意しておき、この感度差異による感度補正テーブルに従って1つ或いは1組の偏光子が網羅(担当)する領域の各画素の情報を一律に補正する。例えば、撮像画素106の「上層構造」と、「レンズ・固体撮像装置の位置関係」が決定すれば、画角(レンズ環境を含む)の位置による入射角度θが決定する。この画角位置(換言すると入射角度)と出力感度Sから求められる「感度差異による感度補正テーブル」に従って、どの程度補正するかを決定付ける補正量(補正係数)は、例えば、TE波とTM波の差や、輝度画素(カラー撮像の場合はG画素と対応)とTE波の差に基づく値を使用する。因みに、感度補正テーブルは、どの程度補正するかを決定付ける補正量(補正係数)を持つものであるが、例えば、TE波とTM波の差を単純に上乗せする、若しくは、輝度画素(カラー撮像の場合はG画素と対応)とTE波の差を単純に上乗せするということではなく、所定値の係数を掛けた値を使用する。係数値は0を採ってもよく、その場合は実態としては補正なしと等価である。係数の最大値は例えば0.5程度とすればよい。
【0086】
又、カラー撮像の場合の感度補正に当たっては、色分離フィルタの色による感度の相違も考慮に入れる。例えば、TM画素やTE画素として選択したG画素に対するR画素やB画素の感度の違いを示す指標を感度比とする。R画素の感度比についてはR画素出力値/G画素出力値、B画素の感度比についてはB画素出力値/G画素出力値とする。各画素出力値は、無偏光・無彩色時の出力値である。
【0087】
尚、この感度補正の前提として、偏光子(つまり偏光子画素)の特性を予め知っておく必要がある。この「特性」は、例えば、予め定めた入射角度θにおける予め定めた出力相当光量の場合の出力値を使用することができる。この点について図15を参照して説明する。例えば、図15(A)に示すように、無偏光波をTM画素とTE画素のそれぞれで受光することにより、そのときの感度データが得られる。即ち、例えば、TM画素とTE画素のそれぞれで得られる出力値(TM画素出力値とTE画素出力値)の差分D(=TM画素出力値−TE画素出力値)の情報を、予め定めた入射角度θ(例えば40度)と予め定めた出力相当光量(例えば150ミリボルト相当光量)のそれぞれについて求めることにより、非偏光時の差異値D(=TM画素出力値−TE画素出力値)で構成されるテーブルデータを感度データとして取得することができる。そのデータベースを非偏光値感度データベースと記す。差分(差異値)Dは、入射角度θと、感度Sのパラメータであり、D(θ,S)と表すことができる。
【0088】
又、図15(B)に示すように、100パーセントTM波をTM画素とTE画素のそれぞれで受光することにより、そのときの感度データが得られる。即ち、100パーセントTM波に偏光している際のTM画素出力値とTE画素出力値の差分(=TM画素出力値−TE画素出力値)の情報を、予め定めた入射角度θと予め定めた出力相当光量のそれぞれについて求めることにより、100パーセントTM波に偏光している際の差異値D’(=TM画素出力値−TE画素出力値)で構成されるテーブルデータを感度データとして取得することができる。そのデータベースを100パーセントTM波感度データベースと記す。差分(差異値)D’も、入射角度θと、感度Sのパラメータであり、D’(θ,S)と表すことができる。図の例では、TM波に対してTM画素は十分な感度を持っている。
【0089】
更に、図15(C)に示すように、100パーセントTE波をTE画素とTE画素のそれぞれで受光することにより、そのときの感度データが得られる。即ち、100パーセントTE波に偏光している際のTM画素出力値とTE画素出力値の差分(=TM画素出力値−TE画素出力値)の情報を、予め定めた入射角度θと予め定めた出力相当光量のそれぞれについて求めることにより、100パーセントTE波に偏光している際の差異値D”(=TM画素出力値−TE画素出力値)で構成されるテーブルデータを感度データとして取得することができる。そのデータベースを100パーセントTE波感度データベースと記す。差分(差異値)D”も、入射角度θと、感度Sのパラメータであり、D”(θ,S)と表すことができる。図の例では、TE波に対してTE画素は感度が低下している。これは、TE波に対して余分に反射されたことが要因であり後述のように感度補正を要する。
【0090】
そして、実際の感度補正に当たっては、予め定めた条件で算出される補正量(補正係数)を、各感度データベースと同様にして、入射角度θ及び偏光子を使用しない場合の出力値に対応付けて規定した感度補正テーブルを使用する。例えば、入射角度40度程度の150ミリボルト相当光量の場合の補正係数を例に説明する。先ず、(TM成分+TE成分)=全電磁波100パーセントと定義する。通常状態(非偏光状態)では、TM画素とTE画素の画素出力値は概ね同じである(実際には図15(A)に示すように差分Dが存在する)。ここで、このような感度差のある画素(TE画素とTE画素)を100%補正しようとすると、ほぼ全画素を修正する必要があり、処理負担が大きくなる。その対策として、補正対象画素を減らすべく、どのような状態の画素を補正対象画素とするかに基づき、適度な補正係数を設定するのが好ましい。例えば、“TM成分<TE成分”を満たす際のみ補正することにする。例えば、“TM出力値<TE出力値”を示した際には、その差異値(=TM出力値−TE出力値)の絶対値分の5割程度を補正量としてRawデータに上乗せすることにより、TE波に対して余分に反射された出力の感度補正を行なう。例えば、ベイヤ配列のG画素を偏光子画素に割り当てる場合であれば、隣接G画素(の平均値)に前述の補正量を加えた値を、偏光子画素のGデータとして置き換えて、感度補正後の値とする。残りの通常のG画素やR画素やB画素については、自身のRawデータに前述の補正量を加えた値を、感度補正後の値とする。
【0091】
[固体撮像装置に偏光子を積層する手法]
図16は、固体撮像装置に偏光子を積層する手法を説明する図である。ここでは、被写体の通常画像(輝度画像やカラー画像)と偏光画像を同時に取得する技術を利用する。この技術としては、例えば、「川嶋貴之、佐藤尚、川上彰二郎、長嶋聖、太田晋一、青木孝文:“パターン化偏光子を用いた偏光イメージングデバイスと利用技術の開発”、電子情報通信学会大会講演論文集、特殊号:情報・システム2、2006年03月08日発行、52頁(参考文献1と記す)」や「青山勉、“フォトニック結晶の光通信から光産業への展開”、[online]、[平成23年2月2日検索]、インターネット<URL:http://www.nbci.jp/file/060724-6.pdf>(参考文献2と記す)」には、輝度画像と被写体の部分偏光の画像を同時に取得するため、複数の異なる偏光主軸を有するパターン化偏光子を固体撮像装置に空間的に配置することが開示されている。パターン化偏光子としては、フォトニック結晶や構造複屈折波長板アレイが利用されている。或いは、特開2007−86720号公報(参考文献3と記す)に記載の製造技術を利用することもできる。当該製造技術は企業や大学から発表されており、実用化レベルとなっている。因みに、固体撮像装置104は、CCDのみならず、CMOSセンサでもよいし、その他のイメージデバイスを使用することができ、特に条件等はない。
【0092】
例えば、パターン化偏光子102の偏光子パターンは溝形成技術と積層技術により、所望の領域ごとにあらゆる方向に、形成が可能である。溝形成技術としては、電子ビームリソグラフィ、フォトリソグラフィ、干渉露光法、ナノプリンティング等、従来のエッチング技術を使用でき、積層技術としては自己クローニング法やマルチパターン形成技術を使用する。溝深さは、例えば0.2マイクロメートル(200ナノメートル)程度とする。これは、むら発生を十分に抑制可能とするレベルである。溝幅は、波長の半分程度で効果を発揮することが確認されている。
【0093】
又、材質が透明かつ高屈折率の材料を選択して形成するとよい。溝パターン非形成、全面膜展開も当然許容されることから、本実施形態の構成(特定画素上にのみパターン化偏光子102のパターンを作成)は可能と判断できる。又、CCD等とこのマルチパターンの結合も例えば非特許文献1等おいて実用レベルとしての成功事例が報告されている。
【0094】
例えば、図16(A)に示すように、透明膜120及び透明膜122の2層を交互に積層させることで実現でき、全体の層厚は100nm〜500nm程度の薄膜化が可能である。尚、パターン化偏光子102を作成したくない箇所には、図16(B)に示すように、単に透明膜を施すとよい(溝形成は行なわない)。
【0095】
[撮像装置:全体概要]
図17は、撮像装置の一実施形態を示す図である。撮像装置は、例えば、デジタルスチルカメラとして提供される。このデジタルスチルカメラは、静止画撮像動作時にカラー画像を撮像し得るカメラとして適用されるようになっている。
【0096】
撮像装置200は、固体撮像装置104(CCD固体撮像素子)、撮像レンズ50、及び、固体撮像装置104を駆動制御する駆動装置の一例である駆動制御部296を有する撮像装置モジュール203と、撮像装置モジュール203により得られる撮像信号に基づいて映像信号を生成しモニタ出力したり所定の記憶メディアに画像を格納したりする本体ユニット204とを備えている。
【0097】
撮像装置モジュール203内の駆動制御部296には、固体撮像装置104を駆動するための各種のパルス信号を生成するタイミング信号生成部240と、このタイミング信号生成部240からのパルス信号を受けて、固体撮像装置104を駆動するためのドライブパルスに変換するドライバ242(駆動部)と、固体撮像装置104やドライバ242等に電源供給する駆動電源246とが設けられている。
【0098】
撮像装置200の処理系統は、大別して、光学系205、信号処理系206、記録系207、表示系208、及び、制御系209から構成されている。撮像装置モジュール203と本体ユニット204が、図示しない外装ケースに収容されて、実際の製品(完成品)が仕上がる。
【0099】
光学系205は、固体撮像装置104のセンサ部(電荷生成部)における信号電荷の蓄積を停止させる機能を持つ機構的なシャッタ252(メッカシャッタ)、撮像レンズ250と、集光された光画像を光電変換して電気信号に変換する固体撮像装置104とから構成されている。撮像レンズ250は、被写体の光画像を集光するレンズユニット(フォーカスレンズ253とズームレンズ254)、フォーカスレンズ253を駆動するフォーカスモータFMT、ズームレンズ254を駆動するズームモータZMT、光画像の光量を調整する絞り256を有する。
【0100】
信号処理系206は、プリアンプ部262とAD(Analog/Digital)変換部264と画像処理部266とから構成されている。プリアンプ部262とAD変換部264とを纏めてアナログフロントエンドとも称する。図示しないが、必要に応じて、固体撮像装置104とプリアンプ部262との間にバッファ部を設ける。バッファ部は、固体撮像装置104から出力されたCCD出力信号を、劣化することなく、アナログフロントエンドに供給するための受渡し機能を持つ部分であり、固体撮像装置104とは別の集積回路(IC)とされる。
【0101】
プリアンプ部262は、例えば、固体撮像装置104からの撮像信号をサンプリングすることによってノイズを低減させるCDS(Correlated Double Sampling:相関2重サンプリング)回路や、撮像信号を増幅するゲインコントロール処理用の増幅アンプや、撮像信号をクランプ(CLAMP)するクランプ回路等を有する。AD変換部264プリアンプ部262が出力するアナログ信号をデジタル信号に変換する。
【0102】
画像処理部266は、DSP(Digital Signal Processor)で構成されており、AD変換部264から入力されるデジタル信号に所定の画像処理を施す。例えば、画像処理部266は、黒レベル補正処理部、画素欠陥補正部、ホワイトバランス処理部、補間処理部、信号分離部、色信号処理部(C-proc)、輝度信号処理部(Y-proc)等を有する。信号分離部は、例えばリニアマトリクス処理を利用して、色フィルタとして原色フィルタ以外のものが使用されているときにAD変換部264から供給されるデジタル撮像信号をR(赤)信号、G(緑)信号、B(青)信号(纏めて原色信号RGBとも記す)に分離する原色分離機能を具備する。色信号処理部は、信号分離部によって分離されたて原色信号RGBに基づいて色信号Cに関しての信号処理を行なう。例えば、ホワイトバランス補正、ガンマ補正、色差マトリクス処理等を行なう。輝度信号処理部は、信号分離部によって分離された原色信号RGBに基づいて輝度信号Yに関しての信号処理を行なう。例えば、高周波輝度信号生成処理と、低周波輝度信号生成処理と、輝度信号生成処理等を行なう。高周波輝度信号生成処理では、信号分離部から供給される原色信号RGBに基づいて比較的周波数が高い成分までをも含む輝度信号YHを生成する。低周波輝度信号生成処理では、ホワイトバランスが調整された原色信号RGBに基づいて比較的周波数が低い成分のみを含む輝度信号YLを生成する。輝度信号生成処理では、2種類の輝度信号YH及び輝度信号YLに基づいて輝度信号Yを生成する。輝度信号YLは露光制御にも利用される。
【0103】
記録系207は、画像信号を記憶するフラッシュメモリ等のメモリ272(記録媒体)と、画像処理部266が処理した画像信号を符号化してメモリ272に記録し、又、読み出して復号し画像処理部266に供給するCODEC274(Code/Decode あるいはCompression/Decompression)とから構成されている。
【0104】
表示系208は、DA(Digital/Analog)変換部282とビデオエンコーダ284とビデオモニタ286とから構成されている。DA変換部282は、画像処理部266が処理した画像信号をアナログ化する。ビデオエンコーダ284は、アナログ化された画像信号を後段のビデオモニタ286に適合する形式のビデオ信号にエンコードする。ビデオモニタ286は、液晶(LCD;Liquid Crystal Display)や有機EL等の表示デバイスを具備し、入力されるビデオ信号に対応する画像を表示することにより電子ファインダとしても機能する。
【0105】
制御系209は、カメラ制御部292と、露出コントローラ294(露出制御部)と、駆動制御部296と、操作部298とを備える。カメラ制御部292は、CPU(Central Processing Unit)やマイクロプロセッサ(microprocessor)で構成された中央制御部292aと、読出専用の記憶部であるROM(Read Only Memory)、或いは随時読出し・書込みが可能なメモリであるRAM(Random Access Memory)等を具備する記憶部292bや、図示を割愛したその他の周辺部材を有している。中央制御部292aは、コンピュータが行なう演算と制御の機能を超小型の集積回路に集約させたCPUを代表例とする電子計算機の中枢をなすものと同様である。
【0106】
制御系209は、露出コントローラ294(露出制御部)、タイミング信号生成部240(タイミングジェネレータ;TG)を具備した駆動制御部296、操作部298を有する。中央制御部292aは、撮像装置200のバス299に接続された画像処理部266、CODEC274、メモリ272、露出コントローラ294(露出制御部)、タイミング信号生成部240を制御する。
【0107】
カメラ制御部292は、システム全体を制御するものであり、例えば、撮像装置200のバス299に接続された画像処理部266、CODEC274、メモリ272、露出コントローラ294、及び、タイミング信号生成部240を制御する。ROMにはカメラ制御部292の制御プログラム等が格納されている。RAMにはカメラ制御部292が各種処理を行なうためのデータ等が格納される。カメラ制御部292は、メモリカード等の記録媒体を挿脱可能に構成し、或いは又、インターネット等の通信網との接続が可能に構成するとよい。このためには、図示しないが例えば、カメラ制御部292は、中央制御部292aや記憶部292bの他に、メモリ読出部や通信I/F(インタフェース)を備えるようにする。
【0108】
露出コントローラ294は、画像処理部266に送られた画像の明るさが適度な明るさを保つようにシャッタ252や絞り256を制御する。駆動制御部296は、固体撮像装置10から画像処理部66までの各機能部の動作タイミングを制御するタイミング信号生成部240(タイミングジェネレータ;TG)、ドライバ242、駆動電源246を有する。アナログフロントエンド(プリアンプ部262とAD変換部264)、タイミング信号生成部240、ドライバ242を纏めて、CCDカメラフロントエンドとも称する。
【0109】
操作部298は、ユーザがシャッタタイミングやその他のコマンドを入力するためのユーザインタフェースであり、ユーザによる操作の下に撮像装置200が持つ様々な機能について操作指令を発する。ビデオモニタ286は、撮像装置200のファインダの役割も担っている。ユーザが操作部298に含まれるシャッタボタンを押下した場合、カメラ制御部292は、タイミング信号生成部240に対し、シャッタボタンが押下された直後の画像信号を取り込み、その後は画像処理部266の図示しない画像メモリに画像信号が上書きされないように信号処理系206を制御させる。その後、画像処理部266の画像メモリに書き込まれた画像データは、CODEC274によって符号化されてメモリ272に記録される。以上のような撮像装置200の動作によって、1枚の画像データの取り込みが完了する。
【0110】
撮像装置200では、オートフォーカス(AF)、オートホワイトバランス(AWB)、自動露光(AE)等の自動制御装置を備えている。これらの制御は、固体撮像装置104から得られる出力信号を使用して処理する。例えば、被写体からの光は、シャッタ252とレンズユニット(フォーカスレンズ253とズームレンズ254)を透過し、絞り256により調整されて、適度な明るさで固体撮像装置104に入射する。このとき、フォーカスレンズ253は中央制御部292aからの制御情報に基づいてフォーカスモータFMTにより駆動され、被写体からの光からなる映像が、固体撮像装置104上で結像されるように、試行法の山登りサーボ方式により焦点位置が調整される。摂動法の山登りサーボ方式によるオートフォーカスとする場合には、図中に破線で示すように、固体撮像装置104を光軸方向に微少変動させるピエゾ素子(PIEZO)等の摂動部材及びこれを駆動する駆動部PDRVを設け、この摂動部材を中央制御部292aからの制御情報に基づいて駆動部PDRVにより駆動する。露出コントローラ294は、画像処理部266に送られた画像の明るさが適度な明るさを保つようにその制御値が中央制御部292aにより設定され、その制御値に従って絞り256を制御する。具体的には、中央制御部292aが画像処理部266に保持されている画像から適当な個数の輝度値のサンプルを獲得し、その平均値が予め定められた適当とされる輝度の範囲に収まるように絞り256の制御値を設定する。
【0111】
タイミング信号生成部240は、中央制御部292aにより制御され、固体撮像装置104、プリアンプ部262、AD変換部264、画像処理部266の動作に必要とされるタイミングパルスを発生し、各部に供給する。操作部298は、ユーザが、撮像装置200を動作させるとき操作される。
【0112】
図示した例は、信号処理系206のプリアンプ部262とAD変換部264を撮像装置モジュール203に内蔵しているが、このような構成に限らず、撮像装置モジュール203をどのような形態にするかは、販売形態や製品仕様に基づいて決めればよい。撮像装置モジュール203をどのような形態にするかに拘わらず、撮像装置モジュール203と本体ユニット204とは着脱可能な構成にするのがよい。例えば、プリアンプ部262やAD変換部264を本体ユニット204内に設ける構成を採ることもできる。D/A変換部を画像処理部266内に設ける構成を採ることもできる。又、画像処理部266の一部(或いは全部)の機能部を撮像装置モジュール203側に設ける構成を採ることもできる。更には、撮像装置モジュール203は、撮像レンズ250を備えない形態としてもよい。この場合、撮像装置モジュール203は、撮像レンズ250を着脱可能な構成にする。
【0113】
タイミング信号生成部240を撮像装置モジュール203に内蔵しているが、このような構成に限らず、タイミング信号生成部240を本体ユニット204内に設ける構成を採ることもできる。タイミング信号生成部240とドライバ242とが別体のものとしているが、このような構成に限らず、両者を一体化させたもの(ドライバ内蔵のタイミングジェネレータ)としてもよい。こうすることで、よりコンパクトな(小型の)撮像装置200を構成できる。
【0114】
タイミング信号生成部240やドライバ242は、それぞれ個別のディスクリート部材で回路構成されたものでもよいが、1つの半導体基板上に回路形成されたIC(Integrated Circuit)として提供されるものであるのがよい。こうすることで、コンパクトにできるだけなく、部材の取扱いが容易になるし、両者を低コストで実現できる。撮像装置200の製造が容易になる。
【0115】
使用する固体撮像装置104との関わりの強い部分であるタイミング信号生成部240やドライバ242を固体撮像装置104と共通の基板に搭載することで一体化させる、或いは、撮像装置モジュール203内に搭載することで一体化させると、部材の取扱いや管理が簡易になる。これらがモジュールとして一体となっているので、撮像装置200(の完成品)の製造も容易になる。撮像装置モジュール203は、光学系205からのみ構成されていてもよい。
【0116】
[撮像装置及び画像処理装置]
図18は、撮像装置及び画像処理装置の信号処理系の構成例を説明する図である。
【0117】
撮像装置200は、固体撮像装置104及びAD変換部264や図示しないプリアンプ部262で成るフロントエンド部302と、信号処理部304と、中央制御部292aとを備える。
【0118】
固体撮像装置104(ここではCCDとする)は、図示しないカラーフィルタ100として、ベイヤー配列の4色カラーフィルタが設けられている。カラーフィルタ100は、赤色(R)の光のみを透過するRフィルタと、青色(B)の光のみを透過するBフィルタと、第1の波長帯域の緑色(G)の光のみを透過するGrフィルタと、第2の波長帯域の緑色(G)の光のみを透過するGbフィルタとの合計4個を最小単位とする構成を有する。固体撮像装置104からAD変換部264には、カラーフィルタ100の4色カラーフィルタの色と対応した4種類の色信号(R信号、Gr信号、Gb信号、B信号)が入力される。AD変換部264は、4種類の色信号をデジタルデータに変換する。
【0119】
信号処理部304は、フロントエンド部302の後段に設けられ、図示しないカラーフィルタ100及びパターン化偏光子102を有する固体撮像装置104により得られた撮像信号(画素からの偏光成分及び無偏光成分の各信号)に対して信号処理を施す。信号処理部304は、例えば、LSI(Large Scale Integrated Circuit:大規模集積回路)や信号処理用のプロセッサ(例えば、DSP:Digital Signal Processor)の構成とされている。信号処理部304は、フロントエンド部302と着脱可能な構成であってもよい。
【0120】
信号処理部304内の各機能部は、図示しないマイクロコンピュータインタフェースを介して、CPU(Central Processing Unit)或いはマイコン等で構成された中央制御部292aとバス接続されている。信号処理部304と中央制御部292aとで画像処理装置300が構成される。
【0121】
中央制御部292aは、所定のプログラムにしたがって、例えば撮像装置200や画像処理装置300の全体の動作を制御する。更には、信号処理部304を構成する各機能部がマイクロコンピュータインタフェースを介して中央制御部292aによって制御される。中央制御部292aは、図示しないが、CPU等のプロセッサ及び各種設定値等のデータを保持するメモリからなる機能部である。画像データの輝度情報の解析や明るさ判別、各種の設定処理等、撮像装置200や画像処理装置300の全体の処理を制御する。又、本実施形態の特徴点として、オートフォーカス制御や、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止するための感度補正処理をソフトウェア処理で行なうこともできる。
【0122】
中央制御部292aは、プログラムの更新或いは新規インストールを、記憶媒体やネットワークを通じて行なうことを可能にする。例えば、メモリカード等の記録媒体を挿脱可能に構成し、又、インターネット等の通信網との接続が可能に構成する。記録媒体は、例えば、中央制御部292a(のマイクロプロセッサ)にソフトウェア処理をさせるためのプログラムデータや、信号処理部304からの輝度系信号に基づく測光データの収束範囲や露光制御処理(電子シャッタ制御を含む)等のための各種の制御情報の設定値等の様々なデータを登録する等のために利用される。通信網を介しての場合も同様である。
【0123】
信号処理部304は、フロントエンド部302から入力される4種類の色信号に対して、補間処理、フィルタリング処理、マトリクス演算処理、輝度信号生成処理、色差信号生成処理等を行なう。信号処理部304によって生成された画像信号が図示しないデスプレイに供給され、撮像画像が表示される。或いは又、信号処理部304からの画像データが圧縮されて内部記憶媒体や外部記憶媒体等に記憶される。以下、信号処理部304の各機能部について説明する。
【0124】
信号処理部304は、黒レベル処理部312、画素欠陥補正部314、ホワイトバランス処理部316、補間処理部322、リニアマトリクス処理部324、ガンマ処理部326、感度補正処理部330、合焦情報処理部332、輝度信号処理部342、エッジ強調処理部344、色信号処理部352(色差信号処理部)、色差マトリクス処理部354、画像圧縮処理部360を備える。
【0125】
黒レベル処理部312は、フロントエンド部302から供給されてきた4種類の色信号の基準レベルをクランプするとともに、必要に応じて、その信号に含まれるノイズ成分(オフセット成分)を除去する。黒レベル処理部312からの画像信号が画素欠陥補正部314を経由して画素欠陥が補正された後にホワイトバランス処理部316に出力され、ホワイトバランス補正がなされる。即ち、被写体の色温度環境の違いや固体撮像装置104上のカラーフィルタ100(R、Gr、Gb、B)による感度の違いによる各色間のアンバランスが補正される。例えば、ホワイトバランス処理部316は、RGB画像の各画素値に適切な係数をかけることにより、被写体の無彩色の部分の色バランスが実際に無彩色となるように、RGB画像のホワイトバランスを調整する。
【0126】
感度補正処理部330は、必要に応じて、画素欠陥補正部314とホワイトバランス処理部316の間の信号パスに介在して、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止するための感度補正処理を行なう。つまり、感度補正処理部330は、パターン化偏光子102が配置された画素の信号に基づいて、ブロック内の各画素の信号強度を補正することにより、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止する。
【0127】
合焦情報処理部332は、オートフォーカス対象の全領域の偏光子を配した画素から得られた偏光情報(実質的には輝度情報)に基づいて、オートフォーカス用の指標値(光学系のフォーカス制御用の合焦情報)を算出する。例えば、合焦情報処理部332は、オートフォーカス対象の全領域において偏光角度を1種類とする場合、偏光子を配した画素から得られた偏光情報のレベルそのものを使用して予め定められた算術式に基づいてオートフォーカス用の指標値(光学系のフォーカス制御用の合焦情報)を算出する。例えば、合焦情報処理部332は、オートフォーカス対象の全領域に配置された各偏光子により取得される偏光情報(つまり輝度情報)を合計し、この合計値を判定指標値として中央制御部292aに通知する。或いは、合焦情報処理部332は、オートフォーカス対象の全領域において偏光角度差が90度の2種類とする場合(例えば、TE偏光子とTM偏光子の組合せや、45度偏光子と135度偏光子との組合せ等)、先ず、オートフォーカス対象の全領域について、対の各偏光子を配した画素から得られる偏光情報(輝度情報)そのものを使用して予め定められた算術式に基づいて第1の指標値を算出する。例えば、合焦情報処理部332は、組ごとに、対の各偏光子により取得される偏光情報(つまり輝度情報)の差分の絶対値を第1の指標値として算出する。合焦情報処理部332は更に、オートフォーカス対象の全領域についての各組の第1の指標値を使用して予め定められた算術式に基づいて第2の指標値(判定指標値)を算出する。例えば、合焦情報処理部332は、オートフォーカス対象の全領域に配置された各偏光子の対ごとに算出された第2の指標値(つまり輝度差の絶対値)を合計し、この合計値(第2の指標値)を判定指標値として中央制御部292aに通知する。
【0128】
何れの場合も、中央制御部292aは、合焦情報処理部332から通知されたオートフォーカス用の判定指標値に基づき、山登りサーボ方式を利用して、光学焦点調整機構を制御して、自動的に焦点調整を行なう。例えば、試行動作で(フォーカス位置を動かしながら)、通知された判定指標値の山の傾斜を見つけ、更に、ピークを見つける。そして、ピークをいったん越えたことを判定し、ピークから行き過ぎた量だけフォーカスモータFMTを逆回転してピークに戻す。
【0129】
図示した感度補正処理部330や合焦情報処理部332の信号パス上の配置は一例であり、これには限定されない。例えば、黒レベル処理部312と画素欠陥補正部314との間の信号パスに介在して感度補正処理を行なってもよい。更には、ホワイトバランス処理部316より後段の何れかの信号パスに介在して感度補正処理を行なってもよい。また、この例では、感度補正処理部330と合焦情報処理部332は、何れも、画素欠陥補正部314の出力を使用しているが、互いに異なる機能部の出力信号を使用する構成にしてもよい。例えば、感度補正処理部330は、図示の通り黒レベル処理部312と画素欠陥補正部314との間の信号パスに介在する構成にし、一方、合焦情報処理部332は、例えば補間処理部322の出力信号を使用する構成にしてもよい。この場合、合焦情報処理部332は、感度補正処理がなされた情報を使うことができるため、より高精度のオートフォーカス制御用の判定指標値を算出することができる。
【0130】
或いは又、合焦情報処理部332は、感度補正処理部330より前段に配置してもよい。例えば、感度補正処理部330は、図示の通り黒レベル処理部312と画素欠陥補正部314との間の信号パスに介在する構成にし、一方、合焦情報処理部332は、例えばAD変換部264の出力信号を使用する構成にしてもよい。この場合、合焦情報処理部332を、撮像装置モジュール側に配置した製品形態で撮像装置200のモジュール(撮像装置モジュール203)を提供することができる。
【0131】
ホワイトバランス処理部316の出力が補間処理部322に供給される。補間処理部322は、垂直方向の補間処理やフィルタリング処理のために、遅延素子例えば小規模なメモリを使用して時間的に異なる垂直方向の画像データを同時化する。補間処理部322は、又、同時化された複数の画像信号を、補間処理、フィルタ処理、高域周波数補正処理、及び、ノイズ処理部等も行なう。例えば、補間処理部322は、色フィルタ(R、Gr、Gb、B)の最小単位の2×2画素の色信号を同一空間の位相に補間する補間処理と、適切に信号帯域を制限するフィルタ処理と、信号帯域の高域成分を補正する高域周波数補正処理と、信号のノイズ成分を除去するノイズ処理等を行なう。
【0132】
補間処理部322で得られた画像信号(RGrGbBの4色の信号)がリニアマトリクス処理部324に供給される。リニアマトリクス処理部324では、4入力3出力のマトリクス演算がなされる。3×4の行列のマトリクス係数を与えると、入力されたRGrGbBの4色の画像情報からRGB色出力を求めることができる。この際には、色再現性を高めるようなマトリクス係数を用いてリニアマトリクス変換を施す。リニアマトリクス処理部324からのRGB出力がガンマ補正処理部326R、ガンマ補正処理部326G、ガンマ補正処理部326Bにそれぞれ色別に供給される。階調変換部によって、表示装置が有する非線形特性の逆補正を予め行なうことで、最終的にリニアな特性が実現される。
【0133】
ガンマ補正処理部326R、ガンマ処理部326G、ガンマ処理部326Bの出力信号が輝度信号処理部342及び色信号処理部352にそれぞれ供給される。輝度信号処理部342は、ガンマ補正されたRGB信号を所定の合成比で合成することによって輝度信号を生成し、エッジ強調処理部344に供給する。エッジ強調処理部344は、必要に応じてエッジ強調処理を行なうことで、画像をシャープにする。色信号処理部352は、ガンマ補正されたRGB信号を所定の合成比で合成することにより色差信号を生成し色差マトリクス処理部354に供給する。色差マトリクス処理部354は、色差画像の画素値に適切なゲイン係数を乗じて色相及び/又は彩度の調整処理(色相・彩度調整)を行なう。これにより、色差信号Cb及び色差信号Crが時分割多重化された色差信号が形成される。
【0134】
画像圧縮処理部360は、エッジ強調処理部344や色差マトリクス処理部354から出力される画像データを、JPEG(Joint Photographic Experts Group)やMPEG(Moving Picture Experts Group)等所定の方式により符号化し、符号化した画像データを保存先の記録デバイスに保存する。符号化した画像データの保存先として、例えば、フラッシュメモリ等の半導体メモリ、ハードディスク、磁気記録媒体、光磁気記録媒体、光記録媒体等が利用される。
【0135】
図示しないが、エッジ強調処理部344や色差マトリクス処理部354から出力される画像データは、画像表示部にも供給され、画像データに基づいて、例えばLCD(Liquid Crystal Display)等の表示デバイスの画面に表示される。
【0136】
[処理手順]
図19は、撮像装置200におけるオートフォーカス処理の処理手順の一例を示すフローチャートである。ここでは、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止するための感度補正処理との併用も考慮して、撮像エリア全体を「オートフォーカス対象の領域」とする場合で説明する。又、オートフォーカス制御用の判定指標値としては、一例として、TE画素出力値とTM画素出力値の差分(大小関係を不問とするべく、詳しくはその絶対値)を利用する形態で説明する。
【0137】
中央制御部292aは、被写体撮像(撮像モード)前のオートフォーカス時であるのか否かを判定する(S310)。オートフォーカス時であれば、中央制御部292aは先ず、合焦情報処理部332に対して、オートフォーカス用の判定指標値の取得を指示する。
【0138】
合焦情報処理部332は、偏光子配置画素座標が登録されているデータベースを参照して、オートフォーカス対象領域内の処理対象の対のTM偏光子とTE偏光子を特定する(S312)。そして、オートフォーカス対象の全領域について、対のTE偏光子とTM偏光子のそれぞれから得られる偏光情報(輝度情報)そのものを使用して、組ごとに、差分値=|TM画素出力値−TE画素出力値|を算出する(S314)。合焦情報処理部332は更に、オートフォーカス対象の全領域についての各組の差分値を合計し、この合計値を判定指標値として中央制御部292aに通知する(S316)。中央制御部292aは、フォーカスモータFMTを駆動しながら、通知された判定指標値を使って山登り方式によるオートフォーカス制御を行ない、判定指標値のピーク点(できるだけ高い位置)を探索する(ピークサーチ)(S318)。判定指標値がほぼピーク点であると判断するとオートフォーカス制御を完了させる。
【0139】
撮像モード時であれば、中央制御部292aは先ず、感度補正処理部330に対して、感度補正用の情報取得を指示する。ここで、本実施形態の感度補正処理は、静止画モードのときに機能し、動画モードのときには機能しない。即ち、動画モードのときには(S350−動画モード)、間引き対象の画素に偏光子を配置しているため、感度補正処理部330は、偏光子画素のデータを読み出さない(S360)。
【0140】
静止画モードのとき(S350−静止画モード)、感度補正処理部330は、予め偏光子配置画素座標が登録されているデータベース(入射角度情報データベースと記す)に基づいて、対のTM偏光出力値とTE偏光出力値を比較する(S370、S372)。比較結果(TM画素出力値−TE画素出力値)が「負」の場合、感度補正処理部330は、その画素の入射角度情報データベースと隣接G画素の出力量(例えば周辺領域のG画素の平均値)から、所望の補正値を感度補正量データベースから抽出する(S372−負、S380)。そして、感度補正処理部330は、偏光子画素のGデータを、隣接G画素に補正値を加えた値で置き換えて、感度補正後の値とする(S382)。残りの通常の(非偏光子画素である)G画素やR画素やB画素については、自身のRawデータに所望の補正値を加えた値を、感度補正後の値とする。但し、R画素やB画素については、G画素に対する補正値に対してG画素との感度比分の修正を行なう。
【0141】
比較結果(TM画素出力値−TE画素出力値)が「負」でない、つまり「正」の場合或いは「等しい」場合、感度補正処理部330は、偏光子画素のGデータを隣接G画素の平均値で置き換える(S372≠「負」、S390)。
【実施例2】
【0142】
図20は、実施例2の偏光子の配置例を示す図である。実施例1では、カラーフィルタ100のM×Nブロック(横8×縦4の32画素のブロック)内において、特定色の部分に複数種類(具体的には2種類)のパターン化偏光子102を配置し、且つ、同様の偏光子の組合せのブロックを周期的に配置していたが、実施例3では、更に、隣接ブロック間では、偏光子の組合せを異ならせる点に特徴がある。例えば、45度の偏光波相当のみを通すパターン化偏光子102_45と135度の偏光波相当のみを通すパターン化偏光子102_135の組合せを更に併用する。そして、このようなブロックを「オートフォーカス対象の領域」に鏤める。その際には、それぞれ異なる偏光角のパターン化偏光子102が周期的に配置されるようにしてもよいしランダムに配置されるようにしてもよい。図は、前者の場合であって、Gbラインにパターン化偏光子102TEとパターン化偏光子102_45とを周期的に(7画素おきに)配置し、Grラインにパターン化偏光子102TMとパターン化偏光子102_135とを周期的に(7画素おきに)配置した場合で示している。
【0143】
このような実施例2によれば、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135が、「オートフォーカス対象の領域」に鏤められる。したがって、縦縞、横縞、斜め縞の全てに着目してオートフォーカス制御を行なうことができる。一般的な被写体であれば、あらゆる種類の偏光成分(偏光角)をほぼ網羅することができる。
【実施例3】
【0144】
図21は、実施例3の偏光子の配置例を示す図である。実施例1では、カラーフィルタ100のM×Nブロック(横8×縦4の32画素のブロック)内において、特定色の部分に複数種類(具体的には2種類)のパターン化偏光子102を配置したが、実施例3では、1種類のパターン化偏光子102を配置する。パターン化偏光子102としては、例えば、パターン化偏光子102TMとパターン化偏光子102TEの何れか、或いは、45度の偏光波相当のみを通すパターン化偏光子102_45と135度の偏光波相当のみを通すパターン化偏光子102_135の何れかを使用する。カラーフィルタ100がベイヤー配列の場合、パターン化偏光子102を配置し得る色画素は4種類であり、何れを偏光子画素としてもよいし、原理的には、パターン化偏光子102に関してはパターン化偏光子102TMとパターン化偏光子102TEとパターン化偏光子102_45とパターン化偏光子102_135の何れを使用してもよい。したがって、選択し得る組合せとしては、4×4通りある。そして、このようなブロックを「オートフォーカス対象の領域」に鏤める。その際には、それぞれ異なる偏光角のパターン化偏光子102が周期的に配置されるようにしてもよいしランダムに配置されるようにしてもよい。図は、前者の場合であって、Gbラインにはパターン化偏光子102TEのみ或いはパターン化偏光子102_45のみを配置し、Grラインにはパターン化偏光子102TMのみ或いはパターン化偏光子102_135のみを配置した場合で示している。
【0145】
このような実施例3によっても、実施例2と同様に、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135が、「オートフォーカス対象の領域」に鏤められる。したがって、縦縞、横縞、斜め縞の全てに着目してオートフォーカス制御を行なうことができる。一般的な被写体であれば、あらゆる種類の偏光成分(偏光角)をほぼ網羅することができる。
【実施例4】
【0146】
図22は、実施例4の偏光子の配置例を示す図である。実施例2や実施例3では、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135の配置されるラインを特定のラインに決めていた。これに対して、実施例4は、偏光子が配置される対象ライン(行)及び対象カラム(列)のそれぞれに、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135を隈無く配置する点に点に特徴がある。図は、実施例3に対する変形例で示している。先ず、ライン方向において、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135を交互且つGbラインとGrラインで交互に配置している。更に、カラム方向においても、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135を交互且つGbカラムとGrカラムで交互に配置している。近傍の4ブロックに着目したとき、どのような組合せにおいても、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135が配置されている。
【0147】
このような実施例4によっても、実施例2や実施例3と同様に、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135が、「オートフォーカス対象の領域」に鏤められる。したがって、縦縞、横縞、斜め縞の全てに着目してオートフォーカス制御を行なうことができる。一般的な被写体であれば、あらゆる種類の偏光成分(偏光角)をほぼ網羅することができる。
【0148】
<本実施形態の纏め>
図23は、本実施形態の画素内偏光オートフォーカスと従前の他のオートフォーカス方式とを対比した図表である。画素内偏光オートフォーカスに関しては、特に、画素内偏光輝度差オートフォーカスの場合で示す。又、偏光子としては、パターン化偏光子102TE(TE画素)とパターン化偏光子102TM(TM画素)の対を使用する場合で示す。図24は、本実施形態の画素内偏光オートフォーカスと感度補正とを対比した図表である。ここでは、32画素(横8×縦4)に一組のTE画素とTM画素をベイヤー配列のGr画素とGb画素に配置する場合をベース配置として示している。
【0149】
[オートフォーカス]
コントラストオートフォーカス、位相差検知オートフォーカス、及び、画素内位相差オートフォーカスのそれぞれの特徴、長所、短所については、図1〜図3を参照して説明した通りであり、図23には、それを纏めて記載してある。本実施形態の画素内偏光輝度差オートフォーカスは、偏光子を配した偏光画素を必要とする点で、他の方式とは全く異なった方式であるが、偏光画素から出力される情報(事実上の輝度情報)の確認のみでよく、単純かつ高速のオートフォーカス制御ができる。但し、偏光画素から出力される情報だけでは合焦の方向は不明であるので、山登りサーボ方式等を適用して合焦点をサーチすることが必要となる。
【0150】
[感度補正]
本実施形態の画素内偏光オートフォーカスと感度補正のそれぞれの特徴や偏光子の角度配置等については、既に説明した通りであり、図24には、それを纏めて記載してある。ところで、従来技術は偏光による反射率の角度依存を考慮していない。そのため、極端な場合は、固体撮像装置上と肉眼上で感じる明るさの間に大小関係の逆転現象が有り得た。これに対して、本実施形態では、ブロックごとに、ベイヤー配列の色画素の一部に2種類の偏光子を配置し、これらの信号出力差に基づいて反射成分が多い領域を抽出し、感度補正により、ブロック内の各画素の信号レベルを補正する。肉眼で感じる感度と固体撮像装置上の感度が補正により一致する。これにより、感度の逆転現象が是正され、遠近感も同時に向上する。当該技術は、例えば広角レンズを用いる場合やその必要性が増す状況下で益々その有効性が高まっていくことが予想される。
【0151】
又、例えば、特開2010−163158号公報には、「偏光を利用」した撮像装置、及び偏光光データ処理方法の発明が開示されている。「偏光を利用」するという点では、本実施形態と共通する部分があるが、その利用形態は全く異なる。例えば、同公報(段落番号[0008]には、「偏光成分と無偏光成分とを分離することで、画像のコントラストを改善することができるし、不要な情報を削除することもできる。」と記載されており、同公報に開示の発明も基本的にはこのような思想を前提としたものである。これに対して、本実施形態の感度補正において「偏光を利用」する際には、「偏光成分と無偏光成分とを分離する」というものではなく、「偏光成分から得られる情報に基づいて感度補正を行なうことにより、広義のコントラストを改善すると云うものである。両者の偏光の利形態は全く異なる。「感度補正」を要するのは、主に撮像エリアの周辺部である点に着目して、感度補正用の偏光子は主に撮像エリアの周辺部にのみ存在してればよい。これに対して、同公報に記載の発明は、撮像エリアの全面に亘って所定間隔で配置するものであり、偏光子の配置形態においても相違がある。又、偏光角度に関しては、同公報の発明では、少なくとも3種類の偏光角度の組を必要としている(段落番号[0027]参照)。これに対して、本実施形態では、1種類でも構わない点において相違がある。
【0152】
以上、本明細書で開示する技術について実施形態を用いて説明したが、請求項の記載内容の技術的範囲は前記実施形態に記載の範囲には限定されない。本明細書で開示する技術の要旨を逸脱しない範囲で前記実施形態に多様な変更又は改良を加えることができ、そのような変更又は改良を加えた形態も本明細書で開示する技術の技術的範囲に含まれる。前記の実施形態は、請求項に係る技術を限定するものではなく、実施形態の中で説明されている特徴の組合せの全てが、本明細書で開示する技術が対象とする課題の解決手段に必須であるとは限らない。前述した実施形態には種々の段階の技術が含まれており、開示される複数の構成要件における適宜の組合せにより種々の技術を抽出できる。実施形態に示される全構成要件から幾つかの構成要件が削除されても、本明細書で開示する技術が対象とする課題と対応した効果が得られる限りにおいて、この幾つかの構成要件が削除された構成も、本明細書で開示する技術として抽出され得る。
【0153】
前記実施形態の記載を踏まえれば、特許請求の範囲に記載の請求項に係る技術は一例であり、例えば、以下の技術が抽出される。以下列記する。
[付記1]
画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置と、
偏光子が配置された画素から出力された情報に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する合焦情報処理部、
とを備えている撮像装置。
[付記2]
合焦情報処理部により生成された合焦情報に基づいて、光学系のフォーカス制御を行なうフォーカス制御部を備えた付記1に記載の撮像装置。
[付記3]
被写体像を撮像部に導く光学系を備えている付記1又は付記2に記載の撮像装置。
[付記4]
固体撮像装置は、所定数の画素を1単位とするブロックごとに、ブロック内の総画素数よりも少ない数の画素を対象として、当該画素に重なるように偏光子が配置されている付記1乃至付記3の何れか1項に記載の撮像装置。
[付記5]
ブロック内に、それぞれ異なる角度の偏光主軸を有する複数種類の偏光子が配置されている付記4に記載の撮像装置。
[付記6]
偏光子の偏光主軸の角度の種類をNとしたとき、それぞれの角度差は、180/Nである付記5に記載の撮像装置。
[付記7]
複数種類の偏光子の1つはTE波相当のみを通す偏光子であり、
複数種類の偏光子のもう1つはTM波相当のみを通す偏光子である付記5又は付記6に記載の撮像装置。
[付記8]
色分離を行なうカラーフィルタを有し、
ブロック内のカラーフィルタの一組の同色画素又は同色に準じる画素に重なるように偏光子が配置されている付記5乃至付記7の何れか1項に記載の撮像装置。
[付記9]
カラーフィルタは、緑色又は緑色に準じる色の色フィルタを複数持ち、
緑色又は緑色に準じる色の色フィルタと重なるように複数の偏光子が配置されており、
複数種類の偏光子の1つはTE波相当のみを通す偏光子であり、
複数種類の偏光子のもう1つはTM波相当のみを通す偏光子である付記8に記載の撮像装置。
[付記10]
カラーフィルタは、2つの緑色と1つの赤色と1つの青色の各色フィルタがベイヤー配列されており、
緑色の色フィルタと重なるように2種類の偏光子が配置されており、
一方の偏光子はTE波相当のみを通す偏光子であり、
他方の偏光子はTM波相当のみを通す偏光子である付記9に記載の撮像装置。
[付記11]
ブロック内には、1種類の偏光子が1つ配置されている付記1乃至付記4の何れか1項に記載の撮像装置。
[付記12]
偏光子は、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子の何れかである付記11に記載の撮像装置。
[付記13]
色分離を行なうカラーフィルタを有し、
カラーフィルタは、2つの緑色と1つの赤色と1つの青色の各色フィルタがベイヤー配列されており、
緑色の色フィルタと重なるように、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子の何れかが配置されている付記12に記載の撮像装置。
[付記14]
動画撮像時に信号が読み出されない画素に重なるように偏光子が配置されている付記1乃至付記13の何れか1項に記載の撮像装置。
[付記15]
偏光子は、少なくとも撮像部の中央領域に配置されている付記1乃至付記14の何れか1項に記載の撮像装置。
[付記16]
偏光子は、撮像部の周辺領域にも配置されている付記15に記載の撮像装置。
[付記17]
画素が配列された撮像部を有し、
更に、撮像部の中央領域の所定数の画素を対象として、当該画素に重なるように偏光子が配置されており、
撮像部の周辺領域の画素については、偏光子が配置されていない固体撮像装置。
[付記18]
画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置の偏光子が配置されている画素から出力された信号に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する工程と、
合焦情報を用いて、光学系のオートフォーカス制御を行なう工程、
とを有する撮像装置の合焦制御方法。
[付記19]
オートフォーカス制御を行なう工程では、山登り方式のオートフォーカス制御を行なう付記18に記載の合焦制御方法。
[付記20]
画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置の偏光子が配置されている画素から出力された信号に基づいて生成された、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報に基づいて、光学系のフォーカス制御を行なうフォーカス制御部としてコンピュータを機能させるプログラム。
【符号の説明】
【0154】
100…カラーフィルタ、102…パターン化偏光子、104…固体撮像装置、200…撮像装置、203…撮像装置モジュール、204…本体ユニット、250…撮像レンズ、253…フォーカスレンズ、254…ズームレンズ、292a…中央制御部、300…画像処理装置、302…フロントエンド部、304…信号処理部、330…感度補正処理部、332…合焦情報処理部、FMT…フォーカスモータ、ZMT…ズームモータ
【技術分野】
【0001】
本明細書で開示する技術は、固体撮像装置、撮像装置、合焦制御方法、及び、プログラムに関する。
【背景技術】
【0002】
ビデオカメラ(ビデオムービー)やデジタルカメラ等の撮像装置において、オートフォーカス(AF:Auto Focus)といった自動焦点(自動合焦)機能を装備したものが知られている。このオートフォーカスについては、例えば、測距のために基準となる信号を自ら出すか出さないかで、アクティブ方式とパッシブ方式に分類される。パッシブ方式の一例として、例えば、特開2011−103335号公報には、固体撮像装置(撮像素子)を利用した位相差オートフォーカス(画素内位相差オートフォーカスと記す)が提案されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2011−103335号公報
【0004】
画素内位相差オートフォーカスは、例えば撮像素子の開口面積を半分にそれぞれ偏らせて各検知用画素に光学像を入射させる。例えば検知用画素は2画素ペアで相互に半開口としている。ピントがジャスピン(perfect focus)からずれると像が分離し、さらに前ピン(被写体よりも前にピントが合っている状態)と後ピン(被写体よりも後ろにピントが合っている状態)とで、像の分離方向が逆になるという特質がある。集光状態と開口のサイドの関係から相対する画素群の輝度分布が逆方向となることに基づく。このことが予め分かっているため、合焦の方向が分かる。そこで、この合焦の方向が予め分かっていることに基づき、ずれ量を検出してオートフォーカスを行なうようにしている。そのため、画素内での情報のみを使用した処理が可能であるという特徴がある。
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、画素内位相差オートフォーカスでは、その手法が撮像素子の開口面積を半分にそれぞれ偏らせての素子利用であるため、各検知用画素の出力が落ちてしまい、両者の信号差が小さくなり、誤検知を起こし易い難点がある。又、2枚の画像の比較が必要なため、それなりに高速処理が必須になる難点もある。
【0006】
従って、本開示の目的は、画素内位相差オートフォーカスとは異なる新たな方式のオートフォーカスの技術を提供することにある。好適には、複数枚の画像を必要とすることなく、誤検知を起こし難いオートフォーカスの技術を提供することを目的とする。
【課題を解決するための手段】
【0007】
本開示の第1の態様に係る撮像装置は、画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置と、偏光子が配置された画素から出力された情報に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する合焦情報処理部とを備えている。本開示の第1の態様に係る撮像装置の従属項に記載された各撮像装置は、本開示の第1の態様に係る撮像装置のさらなる有利な具体例を規定する。
【0008】
本開示の第2の態様に係る固体撮像装置は、画素が配列された撮像部を有し、更に、撮像部の中央領域の所定数の画素を対象として、当該画素に重なるように偏光子が配置されており、撮像部の周辺領域の画素については、偏光子が配置されていないものである。
【0009】
撮像装置や固体撮像装置はワンチップとして形成された形態であってもよいし、撮像部と、信号処理部又は光学系とが纏めてパッケージングされた、撮像機能を有するモジュール状の形態であってもよい。撮像装置は、例えば、カメラ(或いはカメラシステム)や携帯機器等の電子機器において撮像機能を実現するために使用される。また「撮像」は、通常のカメラ撮影時の像の撮り込みだけではなく、広義の意味として、指紋検出や、タッチパネル等の物理量分布検知半導体装置或いは物理情報取得装置(物理量分布検知装置)において物理量分布として圧力を利用して像情報を取得することも含む。
【0010】
本開示の第3の態様に係る撮像装置の合焦制御方法は、画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置の偏光子が配置されている画素から出力された信号に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する工程と、合焦情報を用いて、光学系のオートフォーカス制御を行なう工程とを有する。
【0011】
本開示の第4の態様に係るプログラムは、画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置の偏光子が配置されている画素から出力された信号に基づいて生成された、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報に基づいて、光学系のフォーカス制御を行なうフォーカス制御部としてコンピュータを機能させるプログラムである。プログラムは、コンピュータ読取り可能な記憶媒体に格納されて提供されてもよいし、有線あるいは無線による通信手段を介した配信により提供されてもよい。
【0012】
本開示の第2の態様に係る固体撮像装置、本開示の第3の態様に係る合焦制御方法、本開示の第4の態様に係るプログラムのそれぞれにおいては、本開示の第1の態様に係る撮像装置の従属項に記載された各技術・手法が同様に適用可能であり、それが適用された構成は、本開示の第2の態様に係る固体撮像装置、本開示の第3の態様に係る合焦制御方法、本開示の第4の態様に係るプログラムのさらなる有利な具体例を規定する。
【0013】
要するに、本明細書で開示する技術では、少なくとも撮像部の中央領域の所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置を使用する。そして、偏光子が配置されている画素から出力された信号に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成し、この合焦情報を使用して光学系のフォーカス制御を行なう。一般的な固体撮像装置にあっては、画素(詳しくは光電変換部等)そのものは偏光に対して感度を有していないが、本開示の技術にあっては、偏光子を画素に配置して特定の方向の偏光成分を検知可能に構成し、偏光子が配置された画素(偏光画素)の検知情報をオートフォーカス制御に利用する。偏光画素から出力される検知情報は、従来から知られている種々のオートフォーカス制御(例えば山登り制御方式)用の情報として利用することができる。固体撮像装置に関しては偏光子を特定の画素に配置する必要性はあるが、その製造技術自体は公知の技術を利用することができ、又、オートフォーカス用の制御アルゴリズムを新たに開発しなくても既存の制御技術を利用できるので、本開示の技術の実現は容易である。
【発明の効果】
【0014】
本開示の第1の態様に係る撮像装置、本開示の第2の態様に係る固体撮像装置、本開示の第3の態様に係る合焦制御方法、本開示の第4の態様に係るプログラムによれば、画素内位相差オートフォーカスとは異なる新たな方式のオートフォーカスの技術を提供することができる。これにより、仕様や用途に合わせたオートフォーカス方式の選択の幅を広げることができる。画素内位相差オートフォーカスとは異なり、撮像素子の開口面積を半分にそれぞれ偏らせての素子利用ではないので、出力信号差が小さくなることに起因する誤検知の問題は起きない。
【図面の簡単な説明】
【0015】
【図1】図1は、コントラストオートフォーカスを説明する図である。
【図2】図2は、位相差検知オートフォーカスを説明する図である。
【図3】図3は、画素内位相差オートフォーカスを説明する図である。
【図4】図4は、偏光による反射率の角度依存の挙動を説明する図である。
【図5】図5(A)〜図5(B)は、偏光状態によって反射率が変化することを説明する図である。
【図6】図6(A)〜図6(B)は、電場と磁場の実振幅の違いを説明する図である。
【図7】図7は、偏光画素の出力信号の合焦状態の依存性を説明する図である。
【図8】図8(A)〜図8(B)は、TM波用の偏光子とTE波用の偏光子との対を、「オートフォーカス対象の領域」の4箇所に配置した場合の偏光画素の出力例を示す図である。
【図9】図9(A)〜図9(B)は、オートフォーカス制御用の指標値の算出手法を説明する図(その1)である。
【図10】図10(A)〜図10(B)は、オートフォーカス制御用の指標値の算出手法を説明する図(その2)である。
【図11】図11は、比較例の偏光子の配置例を示す図である。
【図12】図12は、実施例1の偏光子の配置例を示す図である。
【図13】図13(A)〜図13(B)は、偏光子画素の配置位置を説明する図である。
【図14】図14は、感度補正非対象範囲の規定原理を説明する図である。
【図15】図15は、感度補正処理に使用される2種類のパターン化偏光子の特性例を説明する図である。
【図16】図16は、固体撮像装置に偏光子を積層する手法を説明する図である。
【図17】図17は、撮像装置の一実施形態を示す図である。
【図18】図18は、撮像装置及び画像処理装置の信号処理系の構成例を説明する図である。
【図19】図19は、撮像装置におけるオートフォーカス処理の処理手順の一例を示すフローチャートである。
【図20】図20は、実施例2の偏光子の配置例を示す図である。
【図21】図21は、実施例3の偏光子の配置例を示す図である。
【図22】図22は、実施例4の偏光子の配置例を示す図である。
【図23】図23は、本実施形態の画素内偏光オートフォーカスと従前の他のオートフォーカス方式とを対比した図表である。
【図24】図24は、本実施形態の画素内偏光オートフォーカスと感度補正とを対比した図表である。
【発明を実施するための形態】
【0016】
以下、図面を参照して、本明細書で開示する技術の実施形態について詳細に説明する。各機能要素について形態別に区別する際にはアルファベット或いは“_n”(nは数字)或いはこれらの組合せの参照子を付して記載し、特に区別しないで説明する際にはこの参照子を割愛して記載する。図面においても同様である。
【0017】
説明は以下の順序で行なう。
1.全体概要
2.オートフォーカス方式の比較例
3.偏光による反射率の角度依存性について
4.斜め入射、偏光、反射率の関係
5.本実施形態のオートフォーカスの原理
6.実施例1:偏光子の配置位置、偏光子画素の配置位置
偏光子を周辺領域に配置する場合の感度補正、
固体撮像装置に偏光子を積層する手法、
撮像装置:全体概要
撮像装置及び画像処理装置、処理手順
7.実施例2:
8.実施例3
9.実施例4
10.本実施形態の纏め:オートフォーカス、感度補正
【0018】
<全体概要>
先ず、基本的な事項について以下に説明する。本明細書で開示する撮像装置、固体撮像装置、合焦制御方法、プログラムにおいては、先ず、少なくとも撮像部の中央領域の所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置を使用する。偏光子の配置態様が如何様であっても、単純に偏光子を配した画素(偏光画素)から得られる偏光情報(いわゆる輝度情報)をオートフォーカス制御用に利用するので、高速処理が可能である。画素内位相差オートフォーカスでは検出不可能な、例えば全面赤の被写体や全面青の被写体、中央赤、中央青の被写体等でも合焦状態に依存した偏光情報が得られるため、これらの画像においても正確な合焦位置を検出することができる。
【0019】
偏光画素から出力される検知情報を使用した合焦位置の判定には、従来から知られている種々のオートフォーカス制御(例えば山登り制御方式)の技術を利用することができる。例えば、通常の山登りサーボ方式では、映像信号のコントラストが、できるだけ最大になるように光学焦点調整機構を制御して、コントラストのできるだけ高い位置を探索することにより、自動的に焦点調整を行なう。本明細書で開示する技術にあっては、コントラストに代えて、偏光画素から出力される検知情報を使い、その他は既存の山登りサーボ方式(もちろんこの方式には限らないが)の技術をそのまま流用することができる。固体撮像装置に関しては偏光子を特定の画素に配置する必要性はあるが、その他は既存の方式のまあでよく、装置規模をさほど増大させることなく応答の速いオートフォーカスを実現できる。
【0020】
撮像装置の製品形態としては、偏光画素(偏光子が配置されている画素)を撮像部に備える固体撮像装置と、偏光画素から出力された情報に基づいて被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する合焦情報処理部とを備えた構成を最小構成要素とする。そして、製品仕様に合わせて、この最小構成要素に対して、例えば、合焦情報処理部により生成された合焦情報に基づいて光学系のフォーカス制御を行なうフォーカス制御部を備えた構成や、被写体像を撮像部に導く光学系を備えた構成、或いは、光学系及びフォーカス制御部の双方を備えた構成等とすることができる。
【0021】
偏光子は、撮像領域全体に配置する必要はなく、少なくとも「オートフォーカス対象の領域」に配置されていればよく、その領域内の全ての画素に偏光子が配置されていることも必須ではなく、例えば、所定数の画素を一単位とするブロックごとに、ブロック内の総画素数よりも少ない数(例えば1個〜数個)の画素を対象として、当該画素に重なるように偏光子が配置されていればよい。
【0022】
好適には、ブロック内に、それぞれ異なる角度の偏光主軸を有する複数種類の偏光子が配置されているのがよい。つまり、ブロック内の各偏光子の偏光角は異なっているのがよい。例えば、偏光子の偏光主軸の角度の種類をNとしたとき、それぞれの角度差は180/Nであるのがよい。典型的には(最も好適なシンプルな構成では)、2画素ペアで、相互に異なる偏光状態(典型的には偏光角の差が90度)を検出し、その検知情報を使用して予め定められた算術式に基づいて指標値を算出し、算出された指標値に基づいて合焦判定や光学系のフォーカス制御を行なう。もちろんこのことは必須でなく、ブロック相互間の各偏光子の偏光角はランダムに配置されたものであってもよい。
【0023】
本開示に係る技術にあっては、好ましくは、複数種類の偏光子の1つはTE波相当のみを通す偏光子であり、複数種類の偏光子のもう1つはTM波相当のみを通す偏光子であるとよい。例えば、ブロック内にそれぞれ異なる偏光主軸を有する2種類の偏光子が配置されている構成をとることができる。この場合、その一方の偏光子はTE波相当のみを通す偏光子であり、他方の偏光子はTM波相当のみを通す偏光子であるのがよい。もちろん、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子との組合せ(水平垂直の偏光子の組合せ)に限らず、45度の偏光波相当のみを通す偏光子と135度の偏光波相当のみを通す偏光子との組合せ(斜め方向の偏光子の組合せ)にしてもよいし、更には、水平垂直の偏光子及び斜め方向の偏光子の組合せにしてもよい。例えば、一般的な被写体像を考えた場合、横縞模様と縦縞模様の何れかに着目してオートフォーカス制御を行なえば十分であり、この場合、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子との組合せとすればよい。又、斜め縞模様に着目してオートフォーカス制御を行なう必要がある場合であれば、45度の偏光波相当のみを通す偏光子と135度の偏光波相当のみを通す偏光子との組合せにすればよい。
【0024】
本開示に係る技術は、色分離を行なうカラーフィルタを有しているいわゆるカラー画像撮像用の固体撮像装置や撮像装置に適用することができる。この場合、ブロック内のカラーフィルタの一組の同色画素又は同色に準じる画素に重なるように偏光子が配置されているのが好ましい。例えば、カラーフィルタは、緑色又は緑色に準じる色の色フィルタを複数持つ場合、好ましくは、緑色又は緑色に準じる色の色フィルタと重なるように複数の偏光子が配置されているとよい。この場合、複数種類の偏光子の1つはTE波相当のみを通す偏光子であり、複数種類の偏光子のもう1つはTM波相当のみを通す偏光子であるとよい。
【0025】
「同色に準じる画素」或いは「緑色に準じる色」とは、完全に同じ色であることに限定されないことを意味し、実質的に同色と見なせる場合や、同色ではないが、同系統と云える色も含む意味である。例えば、緑に対して黄緑や青緑は「同色」に準じる色の関係にあると見做す。例えば、色再現を改善するために、赤(R)、緑(G)、青(B)の3色だったカラーフィルタに、エメラルド(青緑)を加え4色とする場合における緑とエメラルドとは「同色」に準じる色の関係にあると見做す。
【0026】
本開示に係る技術において、カラーフィルタが例えば、2つの緑色と1つの赤色と1つの青色の各色フィルタがベイヤー配列されている場合は、緑色の色フィルタと重なるように2種類の偏光子が配置されているのがよく、この場合には、一方の偏光子はTE波相当のみを通す偏光子であり、他方の偏光子はTM波相当のみを通す偏光子であるのがよい。
【0027】
本開示に係る技術においては、ブロック内には、1種類の偏光子が1つ配置されていてもよい。この場合、偏光子は、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子の何れかであるとよい。或いは又、45度の偏光波相当のみを通す偏光子と135度の偏光波相当のみを通す偏光子の何れかとしてもよい。例えば、一般的な被写体像を考えた場合、横縞模様と縦縞模様の何れかに着目してオートフォーカス制御を行なえば十分であり、横縞模様に着目する場合であればTE波相当のみを通す偏光子を使用すればよいし、縦縞模様に着目する場合であればTM波相当のみを通す偏光子を使用すればよい。又、斜め縞模様に着目してオートフォーカス制御を行なう必要がある場合であれば、右斜め上方向の縞模様に着目する場合であれば45度の偏光波相当のみを通す偏光子を使用すればよいし、左斜め上方向の縞模様に着目する場合であれば135度の偏光波相当のみを通す偏光子を使用すればよい。
【0028】
例えば、色分離を行なうカラーフィルタを有し、カラーフィルタは、2つの緑色と1つの赤色と1つの青色の各色フィルタがベイヤー配列されている場合であれば、緑色の色フィルタと重なるように、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子の何れかが配置されているとよい。或いは又、45度の偏光波相当のみを通す偏光子と135度の偏光波相当のみを通す偏光子の何れかが配置されていてもよい。
【0029】
本開示に係る技術においては、動画撮像時に信号が読み出されない画素に重なるように偏光子が配置されていてもよい。動画時の信号処理に負荷を掛けることはない。
【0030】
本開示に係る技術においては、撮像部の全領域に亘って偏光子が配置されていることに限らず、一部分に偏光子が配置されていてもよい。特に、オートフォーカス制御という点に着目した場合、主たる被写体(注目被写体)が通常、何処に配置されるかに応じて、偏光子を配置する「オートフォーカス対象の領域」を決めればよい。典型的には、オートフォーカスは通常被写体の中心位置で実現されることが望ましいので、偏光子は、少なくとも撮像部の中央領域に配置されていることが望ましい。
【0031】
本開示に係る技術においては、偏光子は、撮像部の周辺領域にも配置されていてもよい。この場合、周辺領域の偏光子が配置された画素から出力される検知情報は、オートフォーカス制御に利用されてもよいし、周辺領域において発生し得る固体撮像装置上と肉眼上で感じる明るさの大小関係の逆転現象を補正するための感度補正に利用されてもよい。因みに、中央領域と周辺領域の区分けは例えば、TE波成分とTE波成分との差が、画素の信号出力に対して1/50程度未満の差しかつかない領域を中央領域とし、その周辺部を周辺領域とすればよい。
【0032】
<オートフォーカス方式の比較例>
最初に、本開示のオートフォーカスの理解を容易にするべく、比較例のオートフォーカスについて説明する。図23も参照するとよい。
【0033】
[コントラストオートフォーカス]
図1は、コントラストオートフォーカスを説明する図である。ここで、図1(A)は、ピントが合っている状態を示し、図1(C)は、ピントがずれている状態を示し、図1(B)は、それらの中間状態を示す。
【0034】
コントラストオートフォーカスは、画素信号の出力観察を行なって合焦状態を検出するものであり、コントラストオートフォーカスでは、ピントが合っている状態では、図1(A)に示すように、コントラストが高く、逆に、ピントがずれている状態では、図1(C)に示すように、コントラストが低くなる。そこで、全面スキャンをし、輝度コントラストが大となる状態を検出して、合焦検知を行なう、つまり、コントラストが大きければ合焦と判定する。このコントラストオートフォーカスは、画素信号の出力観察で対応可能であるため撮像用のセンサ(固体撮像装置)を活用できるが、焦点をずらして複数枚撮像する必要があるため(何度もスキャンするため)、応答(レスポンス)が遅く、オートフォーカススピードが遅いという欠点がある。つまり、被写体全面の周波数解析を判断材料とするため、かなりの枚数取得が必要でありその分時間を要する。又、周波数の高い画像の場合は、MTF(Modulation Transfer Function)等の関係で合焦状態でも輝度コントラストが小さくなるため、周波数の高い画像の検知が苦手である。つまり、手法が高周波・低周波の分析であることから、元々、高周波の被写体に対しては苦手とする面がある。
【0035】
[位相差検知オートフォーカス]
図2は、位相差検知オートフォーカスを説明する図である。位相差検知オートフォーカスでは、レンズを通して取り込んだ光をセパレートレンズで分離して各別の位相差検出用のセンサ(通常4領域のリニアセンサ)に入射させる。この方式は、近い箇所は大きくずれ遠い箇所はほとんどずれないという視差を利用するものであり、4箇所のリニアセンサで取り込んだ画像を重ね合わせてずれ量を測定(検出)して 距離を算出する。この位相差検知オートフォーカスは、撮像用のセンサ(固体撮像装置)とは別途に位相差検出用のセンサ(4領域のリニアセンサ)を設けるため、オートフォーカススピードを高速化することができる(応答が速い)。しかしながら、そのセンサに像を結ぶためのレンズ系(位相差検出用のセンサへの結像レンズ、位相差を設けるためのセパレートレンズ等)が必要であり、装置の大型化や高コストの点で不利となる。例えば、デジタルスチルカメラへの搭載は、重量や体積等の点から、採用し難い。又、距離誤検知を起こし易い難点もある。
【0036】
[画素内位相差オートフォーカス]
図3は、画素内位相差オートフォーカスを説明する図である。画素内位相差オートフォーカスは、撮像素子の出力そのものを使うオートフォーカス方式の一例である。画素内位相差オートフォーカスは、例えば撮像素子の開口面積を半分にそれぞれ偏らせて各画素(画素A群(Phase Detectin Sensor A)と画素B群(Phase Detectin Sensor B))に像を入射させる。例えば検知用画素は2画素ペアで相互に半開口としている。ピントがずれると像が分離し、さらに前ピン(被写体よりも前にピントが合っている状態)と後ピン(被写体よりも後ろにピントが合っている状態)とで、画素A群と画素B群とでは像の分離方向が逆になるという特質がある。集光状態と開口のサイドの関係から相対する画素群の輝度分布が逆方向となることに基づく。このことが予め分かっているため、合焦の方向が分かる。
【0037】
この画素内位相差オートフォーカスでは、画素A群と画素B群の合焦方向のずれ量を検出してオートフォーカスを行なうため、画素内での情報のみを使用した処理が可能である。しかしながら、画素内位相差オートフォーカスでは、開口面積を半分にそれぞれ偏らせての素子利用であるため、出力が落ちてしまうため、信号差が小さくなり、距離誤検知を起こし易いし、2枚の画像の比較が必要なため、応答が遅く、応答を速くしようとすると、それなりの高速処理が必須になる。
【0038】
[本実施形態のオートフォーカス]
このように、比較例の各オートフォーカスは、装置規模や応答の面で依然として難点がある。そこで、本明細書で開示する技術では、装置規模をさほど増大させることなく応答の速いオートフォーカスを提案する。その基本的な手法は、偏光子を配置した画素(偏光画素)から取得された情報(偏光情報、実態としては輝度情報)を利用するというものである。一般的な固体撮像装置にあっては、画素の電荷検出部(光電変換素子)そのものは、偏光に対して感度を有していない。即ち、光の有する偏光情報は用いられずに捨てられているのが実情である。太陽光は無偏光であるが、その光を反射・散乱した光には反射面の表面状態に起因した偏光成分が含まれており、特定の方向に偏った偏光成分が多く含まれる。そこで、本明細書で開示する技術では、偏光子を画素に配置して特定の方向の偏光成分を検知し、その検知情報をオートフォーカス制御に利用する。
【0039】
偏光子は、詳細には後述するが、撮像領域全体に配置する必要はなく、少なくとも「オートフォーカス対象の領域」に配置されていればよい。更には、「オートフォーカス対象の領域」の全ての画素に偏光子が配置されていることも必須ではなく、所定数の画素を一単位とするブロックごとに、1個〜数個の偏光画素が配置されていればよい。好適には、ブロック内の各偏光子の偏光角は異なっているのがよく、偏光子の偏光主軸の角度の種類をNとしたとき、それぞれの角度差は180/Nであるのがよい。典型的には(最も好適なシンプルな構成では)、2画素ペアで、相互に異なる偏光状態(典型的には偏光角の差が90度)を検出し、その検知情報を使用して予め定められた算術式に基づいて指標値を算出し、算出された指標値に基づいて合焦判定や光学系のフォーカス制御を行なう。もちろんこのことは必須でなく、ブロック相互間の各偏光子の偏光角はランダムに配置されたものであってもよい。
【0040】
偏光子の配置態様が如何様であっても、単純に偏光子を配した画素(偏光画素)から得られる検知情報(偏光情報、実質的にはいわゆる輝度情報である)を利用するので、高速処理が可能である。特に、ブロック内に偏光角の異なる複数種類の偏光子を配置する態様ではそれら偏光画素の出力差を利用することができる。コントラストオートフォーカスや画素内位相差オートフォーカスでは検出不可能な、例えば全面赤の被写体や全面青の被写体、中央赤、中央青の被写体等でも合焦状態に依存した偏光情報が得られるため、これらの画像においても正確な合焦位置を検出することができる。
【0041】
合焦位置の判定には、いわゆる山登り制御の技術(山登りサーボ方式)をそのまま利用することができるので、公知の当該山登り制御の技術の利点を有効に活用できるという特徴がある。通常の山登りサーボ方式では、映像信号の鮮鋭度(コントラスト)、つまり高周波成分が、できるだけ最大になるように光学焦点調整機構を制御して、コントラストのピーク点(できるだけ高い位置)を探索することにより、自動的に焦点調整を行なう。山登りサーボ方式は大別すると、山の傾斜やピークを見つける試行法と、ピエゾ素子等を利用して固体撮像装置を微少変動させながら合焦位置を見つける摂動法(いわゆるピエゾオートフォーカス)の2通りがある。例えば、試行法では、試行動作により山の傾斜を見つけるモード、ピークを見つけるモード、ピークをいったん越えたことを判定し、必要に応じてフィルタを切り替える操作のモード、ピークから行き過ぎた量だけモータを逆回転してピークに戻すモード、合焦状態を示すモードの各モードからなる。摂動法では、大まかには試行法に準じた動作をするが、固体撮像装置を微少変動させるので、前ピン側或いは後ピン側の何れにあっても、そこからの焦点位置の方向をほぼ即時に判断できるため、ピークを見つける(つまり合焦状態にする)動作が試行法よりも高速である利点がある。本実施形態では、試行法・摂動法を問わず、通常の映像信号に基づく鮮鋭度(コントラスト)に代えて偏光子を配した画素から得られる情報を使用する。以下、具体的に説明する。
【0042】
<偏光による反射率の角度依存性について>
図4は、偏光による反射率の角度依存の挙動を説明する図である。完全にパッシブ(受動的)な被写体形状センシング方式として、偏光を利用する技術がある。これは非偏光の自然光を照射された被写体からの反射光(鏡面反射光又は拡散反射光)が、表面の向きや視点という幾何学的要因によって種々の部分偏光を呈することを利用する技術である。この情報の取得のためには、被写体各画素の部分偏光状態を偏光画像として取得する。人工光は通常偏光しているので、偏光画像を取得する場合、偏光の影響で反射率が高く透過率が低くなっている部分や、そうでない部分が現れる。
【0043】
誘電率の異なる一組の材質で形成される界面を3パターン用意する。次にその各々の界面にTM波(Transverse Magnetic Wave)、TE波(Transverse Electric Wave)を照射する。TM波は、p偏光とも呼ばれ、磁場成分が入射面に対して横向きの波であり、磁場の進行方向横(切るという意)の成分が0(ゼロ)である。TE波は、s偏光とも呼ばれ、電場成分が入射面に対して横向きの波であり、電場の進行方向(切るという意)の成分が0(ゼロ)である。そうすると、入射角度の大小によってTM波、TE波がそれぞれ示す反射率の値が大きく異なっていく。尚、TM波、TE波はいわゆる偏光の一種である。
【0044】
その依存を示したものが図4であり、ある界面での偏光の入射角による反射率(縦軸)の違いを示している。詳しくは、図4では、誘電率或いは屈折率の異なるある材料が積層されている際に、TM波、TE波を入射した際の入射角度と反射率の関係が示されている。入射角度0度では、TM波、TE波の別はそもそもつかないことから、界面3パターンともに、TM波、TE波の各反射率は同値を示している。しかしながら、入射角度が大きくなるにつれて、TM波の反射率は下がり、TE波の反射率は上がる。TM波の反射率は界面3パターンともに、入射角度を大きくするにつれ、反射率0まで下がり続ける。その後、急激に反射率が上がり、入射角度90度の時点でTE波の反射率と同値をとる。90度ではもはやTM波、TE波の別は区別できない。一方、TE波は入射角度を大きくするにつれその反射率は一方的に増加する。これらの挙動の違いは、TM波、TE波の電場、磁場の振動方向が90度異なることに由来している。即ち、TM波は入射平面に対して、磁場が平行に振動する波であり、TE波は入射平面に対して、逆に電場が平行に振動する波であり、この両者の違いが入射平面に対する反射率の差を生む。このような関係は、界面での材料特性によって決まるものであり、感度にはよらない。
【0045】
<斜め入射、偏光、反射率の関係>
図5〜図6は、斜め入射と偏光と反射率の関係を説明する図である。ここで、図5は、偏光状態によって反射率が変化することを説明する図である。図6は、電場と磁場の実振幅の違いを説明する図である。
【0046】
一般的に偏光状態によって反射率は変化する。これは、図6(フレネルの公式に基づく)から導くことができる。図6(A)は、p偏光(TM波)の場合であり、その反射率は式(1−1)で表すことができる。図6(B)は、s偏光(TE波)の場合であり、その反射率は式(1−2)で表すことができる。因みに、式(1)(式(1−1)及び式(1−2))において、屈折率nがない理由は、出射角度θ2が入射上下の材質の屈折率と入射角度θ1によって一意に決まるからである。
【0047】
【数1】
【0048】
図6に示すように、電場の実振幅Eと磁場の実振幅Mには大きな違いがある。具体的には、式(2)で示すように、「E:H≒400:1」の関係がある。これより、偏光方向による反射率の差異が起こるか否かを考えるときには、主に電場のみを考えておけばよいことが分かる。
【0049】
【数2】
【0050】
<本実施形態のオートフォーカスの原理>
図7〜図9は、偏光子を配した画素から得られる情報(輝度情報)を利用する本実施形態のオートフォーカスの原理を説明する図である。ここで、図7は、偏光画素の出力信号の合焦状態の依存性を説明する図である。図8は、TM波用の偏光子(パターン化偏光子102TM)とTE波用の偏光子(パターン化偏光子102TE)との対を、「オートフォーカス対象の領域」の4箇所に配置した場合の偏光画素の出力例を示す図である。図9及び図10は、オートフォーカス制御用の指標値の算出手法を説明する図である。
【0051】
本実施形態のオートフォーカスを画素内偏光オートフォーカスと称し、特に、複数種類の偏光角度を利用して、対の各偏光子を配した画素から得られる偏光情報(輝度情報)の差を利用する形態を画素内偏光輝度差オートフォーカスと称する。
【0052】
偏光子を配した画素から得られる情報(輝度情報)は、合焦状態(前ピンか、ジャスピンか後ピンか)によって変わり、更には被写体と偏光角度との関係にも依存する。例えば、図7(図8も参照)に示すように、被写体像が主にp偏光成分となるような(図示のように縦縞模様の)場合には、TM波用の偏光子を配した画素から得られる情報としては、フォーカスが合っていれば輝度情報が高くなり、フォーカスが合っていなければ輝度情報が低くなる。このとき、TE波用の偏光子を配した画素から得られる情報としては、フォーカスが合っているか否かに拘わらず、輝度情報の高低には殆ど変化がなく、輝度情報が低くなる。
【0053】
図示しないが、被写体像が主にs偏光成分となるような(横縞模様の)場合には、TE波用の偏光子を配した画素から得られる情報としては、フォーカスが合っていれば輝度情報が高くなり、フォーカスが合っていなければ輝度情報が低くなる。このとき、TM波用の偏光子を配した画素から得られる情報としては、フォーカスが合っているか否かに拘わらず、輝度情報の高低には殆ど変化がなく、輝度情報が低くなる。図示しないが、被写体像が主に斜め45度の偏光成分となるような(右上がりの縞模様の)場合には、45度偏光波用の偏光子(45度偏光子)から得られる情報としては、フォーカスが合っていれば輝度情報が高くなり、フォーカスが合っていなければ輝度情報が低くなる。このとき、135度偏光波用(或いはTM波用やTE波用)の偏光子を配した画素から得られる情報としては、フォーカスが合っているか否かに拘わらず、輝度情報の高低には殆ど変化がなく、輝度情報が低くなる。図示しないが、被写体像が主に斜め135度の偏光成分となるような(左上がりの縞模様の)場合には、135度偏光波用の偏光子(135度偏光子)から得られる情報としては、フォーカスが合っていれば輝度情報が高くなり、フォーカスが合っていなければ輝度情報が低くなる。このとき、45度偏光波用(或いはTM波用やTE波用)の偏光子を配した画素から得られる情報としては、フォーカスが合っているか否かに拘わらず、輝度情報の高低には殆ど変化がなく、輝度情報が低くなる。このように、偏光角度に関わらず、フォーカスが合っていれば偏光子を配した画素から得られる輝度情報が高くなる。尚、何れの場合も、フォーカスが合っている状態の方が情報量が増える(ヒストグラム上で分布量が増える)。
【0054】
これらの点を踏まえると、偏光子を配した画素から得られる情報を利用することにより、フォーカスが合っているか否かの判定が可能であることが推測される。本明細書で開示する技術は、この点に着目してなされている。更には、必要に応じて(特に撮像領域の周辺部において)、偏光による反射率の角度依存性を考慮した感度補正処理を行なうことで、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止することができることが推測される。本明細書で開示する技術は、これらの点に着目してなされている。
【0055】
原理的には、偏光角度はオートフォーカス対象の全領域において1種類でもよい。この場合、偏光子を配した画素から得られた偏光情報(輝度情報)そのものを使用して予め定められた算術式に基づいて指標値を算出し、算出された指標値に基づいて合焦判定を行なう。そのため、例えば、図9(A)に示すように、オートフォーカス対象の全領域についての複数画素の情報の加算値を判定指標値とする場合には、判定指標値が飽和(オーバーフロー)し易い。
【0056】
しかしながら、この場合でも、ほとんどの被写体は偏光しているため、「(A+B)+(C+D)+…=輝度値の合計」が得られる。輝度値の合計が飽和しない限りは、山登りサーボの技術を適用して、前ピン状態、合焦近傍状態、後ピン状態と、焦点位置を振っていき、輝度値の合計ができるだけ高くなる位置を見つけることにより、合焦させることができる。例えば、図9(B)に示すように、前ピン範囲内でのある位置P1での輝度値の合計値をSUM1、合焦近傍範囲内のある位置P2での輝度値の合計値をSUM2、後ピン範囲内でのある位置P3での輝度値の合計値をSUM3としたときに、「SUM1<SUM3<SUM2」と仮になれば、位置P2と位置P3の間に(図9(B1)参照)、或いは、位置P2よりも少し位置P1より側に(図9(B2)参照)に、焦点位置(合焦点)があると推定することができる。
【0057】
尚、ここでは偏光子の角度が1種類であるので、偏光子を配した画素から得られた偏光情報(輝度情報)そのもののレベルを使用する場合で説明したが、これに限らず、例えば、偏光子を配した画素に隣接する他の色画素との差を利用することもできる。この場合、後述の複数種類の偏光情報を利用する場合と同様の信号処理を行なうことができる。
【0058】
合焦状態と偏光子を配した画素から得られる情報との間には、被写体像がどのような状態であるかが関係するので、判定性能を高めるには、複数種類の偏光情報を利用することが好ましい。例えば、一般的には、縦縞と横縞とに着目した判定で十分と考えられるため、この場合には、TM波相当のみを通す偏光子とTE波相当のみを通す偏光子とを組み合わせて使用する(つまり、水平・垂直の組とする)。好適にはTM波用の偏光子とEM波用の偏光子とを隣接させて配置する。或いは斜め方向の縞模様に着目する場合であれば、45度偏光波相当のみを通す45度偏光波用の偏光子と135度偏光波相当のみを通す135度偏光波用の偏光子とを組み合わせて使用する(つまり、90度の偏光差を持つ斜め方向の組とする)。好適には45度偏光波用の偏光子と135度偏光波用の偏光子とを隣接させて配置する。或いは又、一組は水平・垂直とし、別の一組は斜め方向という置き方にしてもよい。もちろん、オートフォーカス対象の全領域において各組の向きを統一させる必然性はなく、各組の方向が異なるランダム配置にしてもよい。
【0059】
複数種類の偏光角度の情報を利用する場合には、組ごとに各偏光子を配した画素から得られた偏光情報(輝度情報)そのものを使用して予め定められた算術式に基づいて第1の指標値を算出し、更に、オートフォーカス対象の全領域についての各組の第1の指標値を使用して予め定められた算術式に基づいて第2の指標値を算出し、算出された第2の指標値に基づいて合焦判定を行なう。このとき例えば、図10(A)に示すように、組ごとに偏光情報の差分をとり第1の指標値としての差分情報を求め、その差分情報に基づいて、オートフォーカス対象の全領域の複数画素の情報の加算値を第2の指標値として求めるとよい。例えば、TE波とTM波の輝度差の変化を利用してオートフォーカス機能を担わせる。差分情報の加算値であるので、判定指標値は飽和し難くなる利点がある。
【0060】
例えば、輝度A>輝度B、輝度C<輝度D、…とすると、「(A−B)+(D−C)+…=差の合計」が得られる。ほとんどの被写体は偏光しているが、どのように偏光しているかは分からないため、単に出力の大きい方から小さい方をひいて判断してよい。出力値の大小判定を割愛するべく、差分の絶対値を使用してもよい。この場合も、山登りサーボの技術を適用して、前ピン状態、合焦近傍状態、後ピン状態と、焦点位置を振っていき、輝度差の合計ができるだけ高くなる位置を見つけることにより、合焦させることができる。例えば、図10(B)に示すように、前ピン範囲内でのある位置P1での輝度差の合計値をDEF1、合焦近傍範囲内のある位置P2での輝度差の合計値をDEF2、後ピン範囲内でのある位置P3での輝度差の合計値をDEF3としたときに、「DEF1<DEF3<DEF2」と仮になれば、位置P2と位置P3の間に(図10(B1)参照)、或いは、位置P2よりも少し位置P1より側に(図10(B2)参照)に、焦点位置(合焦点)があると推定することができる。
【0061】
ここでは、何れの場合も、オートフォーカス用の判定指標値としては、輝度情報に基づく加算値を利用する場合で説明したが、これには限らない。例えば、平均値や中央値(メジアン)等を利用することもできる。
【0062】
尚、偏光子或いは偏光子の組を所定間隔で撮像領域のオートフォーカス対象の領域に配置する。「所定間隔」とするのは、偏光子を配置する画素のために通常画像の撮像に悪影響を与えることを緩和するためである。通常画像撮像時における偏光子を配置した画素の扱いについては例えば、静止画、動画に関わらず偏光子を配置した画素の情報は無視する手法を適用してもよく、この場合は、「補正」ではなく、偏光子を有する画素と同じ検出波長帯を有し、偏光子を有していない隣接する画素の情報(輝度情報)によって「補間」により、偏光子が配置されている画素から得られる偏光情報(輝度情報)を算出する(見積もる)とよい。例えば、偏光子が配置されている画素から得られる偏光情報を、周辺画素の平均値で置き換える。或いは又、その周辺画素(好ましくは、偏光子を配置した画素は除く)の情報を使って補正により、より的確な画素情報を算出してもよい。例えば、偏光子が配置されている画素から得られる偏光情報(輝度情報)を、偏光子を有する画素と同じ検出波長帯を有し、偏光子を有していない隣接する画素の情報(輝度情報)によって補正する。何れの場合も、カラー撮像の場合には、同色のもの同士で対処するのがよい。
【0063】
又、動画撮像時(ファインダーモード時を含む)には、ビデオレートに近づけるために、表示装置に表示するために必要な信号ライン或いは画素以外を間引くような駆動方法がとられるので、この点を考慮した「所定間隔」とすることが好ましい。即ち、偏光子をオートフォーカス対象の領域の全面に配置するのではなく、一部の画素に周期的に配置することで、偏光子画素は動画時に読み出されないいわゆる間引き画素に選択的に配置することが好ましい。これにより、動画時の信号処理に負荷を掛けることがなく、フレームレートに支障を与えることもない。
【実施例1】
【0064】
[偏光子の配置位置]
図11〜図12は、偏光子の配置例を説明する図である。ここで、図11は比較例の偏光子の配置例を示し、図12は、実施例1の偏光子の配置例を示す。
【0065】
何れの色画素を偏光子画素とするかにおいては、例えば、M×Nブロック内において、カラーフィルタ100の一組の同色画素或いは同色に準じる1対の画素の組合せを選択して、それら選択した1対の画素上に偏光角度が異なる2種類のパターン化偏光子102を配置するのがよい。全画素領域に対してM×Nブロック周期で繰り返すことにより、全体的に偏光子画素を配置することもできるが、本実施形態においては、特に、後述する「オートフォーカス対象の領域」に配置すればよい。
【0066】
図11に示す比較例の場合、カラーフィルタ100及びパターン化偏光子102が、固体撮像装置104(の撮像部)の撮像画素106の前面に重ねて配置されている。固体撮像装置104上にパターン化偏光子102を全面配置した典型例である。カラーフィルタ100とパターン化偏光子102の配置の順番は任意である。入射光は、カラーフィルタ100及びパターン化偏光子102を透過して固体撮像装置104に到達し、その撮像部の撮像画素106によって輝度が観測される。
【0067】
一方、図12に示す実施例1では、カラーフィルタ100のM×Nブロック内において、特定色の部分にそれぞれ異なる偏光主軸を有する複数種類のパターン化偏光子102を各々配置する。パターン化偏光子102が配置される画素を偏光子画素と称する。パターン化偏光子102が配置されない画素を非偏光子画素と称する。複数種類のパターン化偏光子102とは、それぞれ異なる偏光主軸を有すればよいが、好ましくは、両者の偏光主軸の角度差を90度とするとよい。「偏光主軸」とは、パターン化偏光子102を透過する光の偏波面(透過偏波面)に平行な軸である。
【0068】
実施例1では、比較例とは異なり、パターン化偏光子102を全面配置するのではなく、一部の画素に周期的に配置する。この際には好ましくは、図12に示すように、偏光子画素は動画時に読み出されないいわゆる間引き画素に選択的に配置することができる。これにより、動画時の信号処理に負荷を掛けることはない。よって、フレームレートに支障を与えることもない。
【0069】
以下では、ベイヤー配列の固体撮像装置104を例にとって、2種類のパターン化偏光子102を配置する場合で説明する。図12に示す例は、ベイヤー配列のG画素(Gr画素及びGb画素)上に2種類のパターン化偏光子102を配置している。1つはTE波相当のパターン化偏光子102TE、もう1つはTM波相当のパターン化偏光子102TMである。TE波相当のパターン化偏光子102TEとTM波相当のパターン化偏光子102TMとは、それぞれ異なる偏光主軸を有し、両者の偏光主軸の角度差は90度である。その配置の頻度・間隔は、ベイヤー単位のGr、Gbへの配置を単位とし、一例として、横8×縦4を1ブロック(単位)に1つ位の間隔とする。図12は、動画時に読み出されない間引きラインであってGbライン(Gb画素の水平ライン)のGb画素にパターン化偏光子102TEを配置し、動画時に読み出されない間引きラインであってGrライン(Gr画素の水平ライン)のGr画素にパターン化偏光子102TMを配置した例で示している。TE波相当の偏光はTM波相当の偏光に対して反射率が高い。しかし、この差を肉眼では感じることができない。何故なら、肉眼の場合、視細胞の配置の影響でどんな光もほぼ入射角度がゼロで入射されるからである。
【0070】
2つの偏光子画素から得られる輝度情報そのもの或いは感度差(つまり輝度差)を利用してオートフォーカスを実現することができるし、2つの偏光子画素から得られる感度差(つまり輝度差)を利用して画角全体に感度補正を施し、肉眼上と固体撮像装置104上の感度を一致させることもできる。後者の場合、オートフォーカスだけでなく、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止することができることができる。
【0071】
配置間隔は、例えば1400万画素の固体撮像装置を対象として考えた場合には640画素×480画素以上、即ち、VGA相当以上となる。640画素×480画素以上即ちVGA相当以上であれば補正の意味は十分にあり、しかも、解像度の劣化が意識されるレベルでもない。
【0072】
例えば、Gr画素にはTE波相当のみを通すパターン化偏光子102TEを配置し、Gb画素にはTM波相当のみを通すパターン化偏光子102TMを配置する。或いは逆に、Gr画素にはTM波相当のみを通すパターン化偏光子102TMを配置し、Gb画素にはTE波相当のみを通すパターン化偏光子102TEを配置してもよい。パターン化偏光子102TMを配置する画素をTM画素と称し、パターン化偏光子102TEを配置する画素をTE画素と称する。
【0073】
つまり、ベイヤー配列のG画素上に一組の逆方向の偏光子画素を配置する。その配置の頻度・間隔は、ベイヤー単位のGr、Gbへの配置を単位とし、横8×縦4画素のブロックを単位に1つ位の間隔とする。GrにはTE波相当のみを通すパターン化偏光子102TEを配置し、GbにはTM波相当のみを通すパターン化偏光子102TEを配置する。或いは、GrにはTM波相当のみを通すパターン化偏光子102TMを配置し、GbにはTE波相当のみを通すパターン化偏光子102TMを配置する。これらの対の偏光子画素の輝度差の総和が最も最大の位置を合焦位置とする。
【0074】
こうすることにより、TE波とTM波の輝度差の変化を利用してオートフォーカス機能を実現することができる。単純に輝度差を総和するだけのため、高速処理が可能であるし、32画素に一対の配置のため、補完がより精度を保持した状態で可能である。コントラストオートフォーカスや画素内位相差オートフォーカスでは検出不可能な、例えば全面赤の被写体や全面青の被写体、中央赤、中央青の被写体にも合焦位置を検出可能であるし、感度補正等の偏光情報も利用できる。
【0075】
ここでは、ベイヤー配列のG画素(Gr画素及びGb画素)上に2種類のパターン化偏光子102を配置する例で説明したが、これには限定されない。偏光子画素(或いは非偏光子画素)の組合せ色は任意である。例えば、Gr画素及びGb画素の何れか一方とR画素及びB画素の何れか一方との組合せ、或いは、R画素とB画素の組合せとしてもよい。その組合せに応じて、感度補正処理において、色画素の感度の相違を「感度比」で補正すればよい。
【0076】
[偏光子画素の配置位置]
図13は、偏光子画素の配置位置を説明する図である。図14は、感度補正非対象範囲の規定原理を説明する図である。図24も参照するとよい。
【0077】
偏光子画素を配置する「オートフォーカス対象の領域」としては、典型的には、図13(A)に示すように、撮像領域の中央寄りの位置である。例えば、撮像エリアの中心側は斜め入射の影響が少なく、感度補正を必要としないので、全画素領域に対して部分的に(詳しくは撮像エリアの中央側にのみ)偏光子画素を配置するのがよい。これは入射角度が小さい場合、固体撮像装置104上と肉眼上での明るさの大小関係の逆転現象が起こり得ないか若しくはその差が軽微であり、敢えて感度補正する必要がないと考えられるからである。例えば、全画素領域の1/20〜1/30程度の周辺領域を除く領域に偏光子を配置するとよい。画素領域(撮像エリア)の中央位置への配置が優先されることが望ましいのは、オートフォーカスは通常被写体の中心位置で実現されることが望ましいからである。但し、原理的には、その配置位置は画素領域の中央位置には限定されず、周辺領域であってもよいし、図13(B)に示すように全面でもよい。主たる被写体(注目被写体)が通常、何処に配置されるかに応じて、偏光子画素を配置する「オートフォーカス対象の領域」を決めればよい。尚、図13(B)に示す場合において、周辺部の感度補正対象領域は、オートフォーカス対象の領域としないようにしてもよい。つまり、偏光子画素の配置箇所は撮像エリアの全面を対象とするが、「オートフォーカス対象の領域」は図13(A)に示す撮像領域の中央寄りの領域のみであり、周辺部は感度補正対象領域専用とする形態である。図13(B)に示す場合において、周辺部の感度補正対象領域と中央部の感度補正不要領域との間に偏光子を配置しない緩衝領域を設けてもよい。
【0078】
因みに、前述のように、撮像領域の周辺部では、偏光による反射率の角度依存性により感度の逆転現象が見られるため、この点を考慮した感度補正処理を行なうことで、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止する技術を併用することが好ましい。この場合、感度補正用の偏光子を配した画素から得られる情報を合焦用にも使用することができる。つまり、同じ偏光子を感度補正用と合焦用とに兼用することができる。
【0079】
例えば、TE波成分とTE波成分との差が、画素の信号出力に対して1/50程度未満の差しかつかない中央側の領域を感度補正不要領域とし、当該感度補正不要領域の周辺の領域を、感度補正対象領域とする。そして、図13(A)に示すように、「オートフォーカス対象の領域」を撮像領域の中央寄りの位置とする場合には、この感度補正不要領域(全体或いは一部)を「オートフォーカス対象の領域」に割り当てる。こうすることで、当該領域の偏光子画素は専らオートフォーカス用に使用すればよい。或いは、図13(B)に示すように、「オートフォーカス対象の領域」を撮像領域の周辺部にも割り当てる場合は、感度補正対象領域の偏光子画素は、オートフォーカス用と感度補正用とに兼用する。
【0080】
例えば、信号出力が150ミリボルト(mV)に対して3ミリボルト未満の差しかつかない撮像エリア中心側の領域を感度補正不要領域とし、この感度補正不要領域を除いた撮像部の周辺領域を感度補正対象領域とする。前記条件の撮像エリア中心側の領域は、概ね入射角度10度程度以内の領域となるが、この領域は感度補正対象除外可能である。
【0081】
入射角度10度以下の範囲を感度補正非対象範囲(感度補正不要領域)とすることができる理由について、図14を参照して説明する。固体撮像装置104の撮像画素106の検知部(いわゆるフォトダイオードが典型例)は、例えば、シリコン基板(Si:屈折率nは3.8)上にシリコンナイトライドSiN(屈折率nは2.1)が積層され、その上層にオンチップレンズ108及び保護層109が配置されている。
【0082】
図14に示すような簡略化した撮像画素106で算出した場合、大気中からシリコン到達で単純計算では凡そ50パーセント程度の光が透過される。例えば、固体撮像装置104に、ある決まった光学条件を照射する際、“感度”と云われる出力量を比較すると、TM波/TE波の出力差は入射角度30度で、約10〜15ミリボルト程度となる。視感度として、認識できる光量の差異はおよそ10パーセント程度であるので、計算上は150ミリボルトの感度に対しては入射角度30度以下は非補正対象となる。但し、固体撮像装置104はガンマ(γ)カーブやゲイン等、様々な出力補正が可能であることから、差異の認識は範囲をもう少し小さいと仮定する。これを3〜5ミリボルトとした。その差異がつく入射角度は、図14に示す屈折率の積層組合せを例とすると、10度程度となる。これにより、10度程度以下の入射角度範囲を感度補正省略可能対象である理由とする。
【0083】
尚、感度補正対象領域の偏光子の偏光角度(向き)は、統一されていることが望まし。その限りにおいて、斜め方向(45度や135度等)でもよいし、1種類に限らず複数種類の偏光角度の組合せでもよい。複数種類の偏光角度の組合せとすることにより、輝度差を感度補正に利用することができる。又、「偏光角度が統一」という点においては、一組の偏光角度の組合せは、別の一組の偏光角度の組合せと統一がとれていることが望ましい。これに対して、「オートフォーカス対象の領域」の偏光子の偏光角度(向き)は、ランダム配置可能である。ある一組は水平垂直、別の一組は斜め方向という置き方でもよい。換言すると、感度補正対象領域の偏光子により得られる偏光情報(輝度情報)は、必ずオートフォーカス制御用にも使えるのに対して、「オートフォーカス対象の領域」の偏光子により得られる偏光情報(輝度情報)は、必ずしも、感度補正にも使えるとは云えない。
【0084】
[偏光子を周辺領域に配置する場合の感度補正]
図15は、感度補正処理に使用される2種類のパターン化偏光子102TE及びパターン化偏光子102TMの特性例を説明する図である。
【0085】
固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止するための感度補正処理に当たっては、偏光子が配された画素(偏光子画素と記す)から得られる情報に基づいて予め定められた条件に従って補正係数(補正量)を求め、この補正係数を使用して対象画素の輝度情報を補正するとよい。偏光子が配置される画素(偏光子画素と記す)はもちろんのこと、偏光子が配置されない画素(非偏光子画素と記す)も同様に補正する。この際には、入射角度と出力感度から求められる「感度差異による感度補正テーブル」を予め用意しておき、この感度差異による感度補正テーブルに従って1つ或いは1組の偏光子が網羅(担当)する領域の各画素の情報を一律に補正する。例えば、撮像画素106の「上層構造」と、「レンズ・固体撮像装置の位置関係」が決定すれば、画角(レンズ環境を含む)の位置による入射角度θが決定する。この画角位置(換言すると入射角度)と出力感度Sから求められる「感度差異による感度補正テーブル」に従って、どの程度補正するかを決定付ける補正量(補正係数)は、例えば、TE波とTM波の差や、輝度画素(カラー撮像の場合はG画素と対応)とTE波の差に基づく値を使用する。因みに、感度補正テーブルは、どの程度補正するかを決定付ける補正量(補正係数)を持つものであるが、例えば、TE波とTM波の差を単純に上乗せする、若しくは、輝度画素(カラー撮像の場合はG画素と対応)とTE波の差を単純に上乗せするということではなく、所定値の係数を掛けた値を使用する。係数値は0を採ってもよく、その場合は実態としては補正なしと等価である。係数の最大値は例えば0.5程度とすればよい。
【0086】
又、カラー撮像の場合の感度補正に当たっては、色分離フィルタの色による感度の相違も考慮に入れる。例えば、TM画素やTE画素として選択したG画素に対するR画素やB画素の感度の違いを示す指標を感度比とする。R画素の感度比についてはR画素出力値/G画素出力値、B画素の感度比についてはB画素出力値/G画素出力値とする。各画素出力値は、無偏光・無彩色時の出力値である。
【0087】
尚、この感度補正の前提として、偏光子(つまり偏光子画素)の特性を予め知っておく必要がある。この「特性」は、例えば、予め定めた入射角度θにおける予め定めた出力相当光量の場合の出力値を使用することができる。この点について図15を参照して説明する。例えば、図15(A)に示すように、無偏光波をTM画素とTE画素のそれぞれで受光することにより、そのときの感度データが得られる。即ち、例えば、TM画素とTE画素のそれぞれで得られる出力値(TM画素出力値とTE画素出力値)の差分D(=TM画素出力値−TE画素出力値)の情報を、予め定めた入射角度θ(例えば40度)と予め定めた出力相当光量(例えば150ミリボルト相当光量)のそれぞれについて求めることにより、非偏光時の差異値D(=TM画素出力値−TE画素出力値)で構成されるテーブルデータを感度データとして取得することができる。そのデータベースを非偏光値感度データベースと記す。差分(差異値)Dは、入射角度θと、感度Sのパラメータであり、D(θ,S)と表すことができる。
【0088】
又、図15(B)に示すように、100パーセントTM波をTM画素とTE画素のそれぞれで受光することにより、そのときの感度データが得られる。即ち、100パーセントTM波に偏光している際のTM画素出力値とTE画素出力値の差分(=TM画素出力値−TE画素出力値)の情報を、予め定めた入射角度θと予め定めた出力相当光量のそれぞれについて求めることにより、100パーセントTM波に偏光している際の差異値D’(=TM画素出力値−TE画素出力値)で構成されるテーブルデータを感度データとして取得することができる。そのデータベースを100パーセントTM波感度データベースと記す。差分(差異値)D’も、入射角度θと、感度Sのパラメータであり、D’(θ,S)と表すことができる。図の例では、TM波に対してTM画素は十分な感度を持っている。
【0089】
更に、図15(C)に示すように、100パーセントTE波をTE画素とTE画素のそれぞれで受光することにより、そのときの感度データが得られる。即ち、100パーセントTE波に偏光している際のTM画素出力値とTE画素出力値の差分(=TM画素出力値−TE画素出力値)の情報を、予め定めた入射角度θと予め定めた出力相当光量のそれぞれについて求めることにより、100パーセントTE波に偏光している際の差異値D”(=TM画素出力値−TE画素出力値)で構成されるテーブルデータを感度データとして取得することができる。そのデータベースを100パーセントTE波感度データベースと記す。差分(差異値)D”も、入射角度θと、感度Sのパラメータであり、D”(θ,S)と表すことができる。図の例では、TE波に対してTE画素は感度が低下している。これは、TE波に対して余分に反射されたことが要因であり後述のように感度補正を要する。
【0090】
そして、実際の感度補正に当たっては、予め定めた条件で算出される補正量(補正係数)を、各感度データベースと同様にして、入射角度θ及び偏光子を使用しない場合の出力値に対応付けて規定した感度補正テーブルを使用する。例えば、入射角度40度程度の150ミリボルト相当光量の場合の補正係数を例に説明する。先ず、(TM成分+TE成分)=全電磁波100パーセントと定義する。通常状態(非偏光状態)では、TM画素とTE画素の画素出力値は概ね同じである(実際には図15(A)に示すように差分Dが存在する)。ここで、このような感度差のある画素(TE画素とTE画素)を100%補正しようとすると、ほぼ全画素を修正する必要があり、処理負担が大きくなる。その対策として、補正対象画素を減らすべく、どのような状態の画素を補正対象画素とするかに基づき、適度な補正係数を設定するのが好ましい。例えば、“TM成分<TE成分”を満たす際のみ補正することにする。例えば、“TM出力値<TE出力値”を示した際には、その差異値(=TM出力値−TE出力値)の絶対値分の5割程度を補正量としてRawデータに上乗せすることにより、TE波に対して余分に反射された出力の感度補正を行なう。例えば、ベイヤ配列のG画素を偏光子画素に割り当てる場合であれば、隣接G画素(の平均値)に前述の補正量を加えた値を、偏光子画素のGデータとして置き換えて、感度補正後の値とする。残りの通常のG画素やR画素やB画素については、自身のRawデータに前述の補正量を加えた値を、感度補正後の値とする。
【0091】
[固体撮像装置に偏光子を積層する手法]
図16は、固体撮像装置に偏光子を積層する手法を説明する図である。ここでは、被写体の通常画像(輝度画像やカラー画像)と偏光画像を同時に取得する技術を利用する。この技術としては、例えば、「川嶋貴之、佐藤尚、川上彰二郎、長嶋聖、太田晋一、青木孝文:“パターン化偏光子を用いた偏光イメージングデバイスと利用技術の開発”、電子情報通信学会大会講演論文集、特殊号:情報・システム2、2006年03月08日発行、52頁(参考文献1と記す)」や「青山勉、“フォトニック結晶の光通信から光産業への展開”、[online]、[平成23年2月2日検索]、インターネット<URL:http://www.nbci.jp/file/060724-6.pdf>(参考文献2と記す)」には、輝度画像と被写体の部分偏光の画像を同時に取得するため、複数の異なる偏光主軸を有するパターン化偏光子を固体撮像装置に空間的に配置することが開示されている。パターン化偏光子としては、フォトニック結晶や構造複屈折波長板アレイが利用されている。或いは、特開2007−86720号公報(参考文献3と記す)に記載の製造技術を利用することもできる。当該製造技術は企業や大学から発表されており、実用化レベルとなっている。因みに、固体撮像装置104は、CCDのみならず、CMOSセンサでもよいし、その他のイメージデバイスを使用することができ、特に条件等はない。
【0092】
例えば、パターン化偏光子102の偏光子パターンは溝形成技術と積層技術により、所望の領域ごとにあらゆる方向に、形成が可能である。溝形成技術としては、電子ビームリソグラフィ、フォトリソグラフィ、干渉露光法、ナノプリンティング等、従来のエッチング技術を使用でき、積層技術としては自己クローニング法やマルチパターン形成技術を使用する。溝深さは、例えば0.2マイクロメートル(200ナノメートル)程度とする。これは、むら発生を十分に抑制可能とするレベルである。溝幅は、波長の半分程度で効果を発揮することが確認されている。
【0093】
又、材質が透明かつ高屈折率の材料を選択して形成するとよい。溝パターン非形成、全面膜展開も当然許容されることから、本実施形態の構成(特定画素上にのみパターン化偏光子102のパターンを作成)は可能と判断できる。又、CCD等とこのマルチパターンの結合も例えば非特許文献1等おいて実用レベルとしての成功事例が報告されている。
【0094】
例えば、図16(A)に示すように、透明膜120及び透明膜122の2層を交互に積層させることで実現でき、全体の層厚は100nm〜500nm程度の薄膜化が可能である。尚、パターン化偏光子102を作成したくない箇所には、図16(B)に示すように、単に透明膜を施すとよい(溝形成は行なわない)。
【0095】
[撮像装置:全体概要]
図17は、撮像装置の一実施形態を示す図である。撮像装置は、例えば、デジタルスチルカメラとして提供される。このデジタルスチルカメラは、静止画撮像動作時にカラー画像を撮像し得るカメラとして適用されるようになっている。
【0096】
撮像装置200は、固体撮像装置104(CCD固体撮像素子)、撮像レンズ50、及び、固体撮像装置104を駆動制御する駆動装置の一例である駆動制御部296を有する撮像装置モジュール203と、撮像装置モジュール203により得られる撮像信号に基づいて映像信号を生成しモニタ出力したり所定の記憶メディアに画像を格納したりする本体ユニット204とを備えている。
【0097】
撮像装置モジュール203内の駆動制御部296には、固体撮像装置104を駆動するための各種のパルス信号を生成するタイミング信号生成部240と、このタイミング信号生成部240からのパルス信号を受けて、固体撮像装置104を駆動するためのドライブパルスに変換するドライバ242(駆動部)と、固体撮像装置104やドライバ242等に電源供給する駆動電源246とが設けられている。
【0098】
撮像装置200の処理系統は、大別して、光学系205、信号処理系206、記録系207、表示系208、及び、制御系209から構成されている。撮像装置モジュール203と本体ユニット204が、図示しない外装ケースに収容されて、実際の製品(完成品)が仕上がる。
【0099】
光学系205は、固体撮像装置104のセンサ部(電荷生成部)における信号電荷の蓄積を停止させる機能を持つ機構的なシャッタ252(メッカシャッタ)、撮像レンズ250と、集光された光画像を光電変換して電気信号に変換する固体撮像装置104とから構成されている。撮像レンズ250は、被写体の光画像を集光するレンズユニット(フォーカスレンズ253とズームレンズ254)、フォーカスレンズ253を駆動するフォーカスモータFMT、ズームレンズ254を駆動するズームモータZMT、光画像の光量を調整する絞り256を有する。
【0100】
信号処理系206は、プリアンプ部262とAD(Analog/Digital)変換部264と画像処理部266とから構成されている。プリアンプ部262とAD変換部264とを纏めてアナログフロントエンドとも称する。図示しないが、必要に応じて、固体撮像装置104とプリアンプ部262との間にバッファ部を設ける。バッファ部は、固体撮像装置104から出力されたCCD出力信号を、劣化することなく、アナログフロントエンドに供給するための受渡し機能を持つ部分であり、固体撮像装置104とは別の集積回路(IC)とされる。
【0101】
プリアンプ部262は、例えば、固体撮像装置104からの撮像信号をサンプリングすることによってノイズを低減させるCDS(Correlated Double Sampling:相関2重サンプリング)回路や、撮像信号を増幅するゲインコントロール処理用の増幅アンプや、撮像信号をクランプ(CLAMP)するクランプ回路等を有する。AD変換部264プリアンプ部262が出力するアナログ信号をデジタル信号に変換する。
【0102】
画像処理部266は、DSP(Digital Signal Processor)で構成されており、AD変換部264から入力されるデジタル信号に所定の画像処理を施す。例えば、画像処理部266は、黒レベル補正処理部、画素欠陥補正部、ホワイトバランス処理部、補間処理部、信号分離部、色信号処理部(C-proc)、輝度信号処理部(Y-proc)等を有する。信号分離部は、例えばリニアマトリクス処理を利用して、色フィルタとして原色フィルタ以外のものが使用されているときにAD変換部264から供給されるデジタル撮像信号をR(赤)信号、G(緑)信号、B(青)信号(纏めて原色信号RGBとも記す)に分離する原色分離機能を具備する。色信号処理部は、信号分離部によって分離されたて原色信号RGBに基づいて色信号Cに関しての信号処理を行なう。例えば、ホワイトバランス補正、ガンマ補正、色差マトリクス処理等を行なう。輝度信号処理部は、信号分離部によって分離された原色信号RGBに基づいて輝度信号Yに関しての信号処理を行なう。例えば、高周波輝度信号生成処理と、低周波輝度信号生成処理と、輝度信号生成処理等を行なう。高周波輝度信号生成処理では、信号分離部から供給される原色信号RGBに基づいて比較的周波数が高い成分までをも含む輝度信号YHを生成する。低周波輝度信号生成処理では、ホワイトバランスが調整された原色信号RGBに基づいて比較的周波数が低い成分のみを含む輝度信号YLを生成する。輝度信号生成処理では、2種類の輝度信号YH及び輝度信号YLに基づいて輝度信号Yを生成する。輝度信号YLは露光制御にも利用される。
【0103】
記録系207は、画像信号を記憶するフラッシュメモリ等のメモリ272(記録媒体)と、画像処理部266が処理した画像信号を符号化してメモリ272に記録し、又、読み出して復号し画像処理部266に供給するCODEC274(Code/Decode あるいはCompression/Decompression)とから構成されている。
【0104】
表示系208は、DA(Digital/Analog)変換部282とビデオエンコーダ284とビデオモニタ286とから構成されている。DA変換部282は、画像処理部266が処理した画像信号をアナログ化する。ビデオエンコーダ284は、アナログ化された画像信号を後段のビデオモニタ286に適合する形式のビデオ信号にエンコードする。ビデオモニタ286は、液晶(LCD;Liquid Crystal Display)や有機EL等の表示デバイスを具備し、入力されるビデオ信号に対応する画像を表示することにより電子ファインダとしても機能する。
【0105】
制御系209は、カメラ制御部292と、露出コントローラ294(露出制御部)と、駆動制御部296と、操作部298とを備える。カメラ制御部292は、CPU(Central Processing Unit)やマイクロプロセッサ(microprocessor)で構成された中央制御部292aと、読出専用の記憶部であるROM(Read Only Memory)、或いは随時読出し・書込みが可能なメモリであるRAM(Random Access Memory)等を具備する記憶部292bや、図示を割愛したその他の周辺部材を有している。中央制御部292aは、コンピュータが行なう演算と制御の機能を超小型の集積回路に集約させたCPUを代表例とする電子計算機の中枢をなすものと同様である。
【0106】
制御系209は、露出コントローラ294(露出制御部)、タイミング信号生成部240(タイミングジェネレータ;TG)を具備した駆動制御部296、操作部298を有する。中央制御部292aは、撮像装置200のバス299に接続された画像処理部266、CODEC274、メモリ272、露出コントローラ294(露出制御部)、タイミング信号生成部240を制御する。
【0107】
カメラ制御部292は、システム全体を制御するものであり、例えば、撮像装置200のバス299に接続された画像処理部266、CODEC274、メモリ272、露出コントローラ294、及び、タイミング信号生成部240を制御する。ROMにはカメラ制御部292の制御プログラム等が格納されている。RAMにはカメラ制御部292が各種処理を行なうためのデータ等が格納される。カメラ制御部292は、メモリカード等の記録媒体を挿脱可能に構成し、或いは又、インターネット等の通信網との接続が可能に構成するとよい。このためには、図示しないが例えば、カメラ制御部292は、中央制御部292aや記憶部292bの他に、メモリ読出部や通信I/F(インタフェース)を備えるようにする。
【0108】
露出コントローラ294は、画像処理部266に送られた画像の明るさが適度な明るさを保つようにシャッタ252や絞り256を制御する。駆動制御部296は、固体撮像装置10から画像処理部66までの各機能部の動作タイミングを制御するタイミング信号生成部240(タイミングジェネレータ;TG)、ドライバ242、駆動電源246を有する。アナログフロントエンド(プリアンプ部262とAD変換部264)、タイミング信号生成部240、ドライバ242を纏めて、CCDカメラフロントエンドとも称する。
【0109】
操作部298は、ユーザがシャッタタイミングやその他のコマンドを入力するためのユーザインタフェースであり、ユーザによる操作の下に撮像装置200が持つ様々な機能について操作指令を発する。ビデオモニタ286は、撮像装置200のファインダの役割も担っている。ユーザが操作部298に含まれるシャッタボタンを押下した場合、カメラ制御部292は、タイミング信号生成部240に対し、シャッタボタンが押下された直後の画像信号を取り込み、その後は画像処理部266の図示しない画像メモリに画像信号が上書きされないように信号処理系206を制御させる。その後、画像処理部266の画像メモリに書き込まれた画像データは、CODEC274によって符号化されてメモリ272に記録される。以上のような撮像装置200の動作によって、1枚の画像データの取り込みが完了する。
【0110】
撮像装置200では、オートフォーカス(AF)、オートホワイトバランス(AWB)、自動露光(AE)等の自動制御装置を備えている。これらの制御は、固体撮像装置104から得られる出力信号を使用して処理する。例えば、被写体からの光は、シャッタ252とレンズユニット(フォーカスレンズ253とズームレンズ254)を透過し、絞り256により調整されて、適度な明るさで固体撮像装置104に入射する。このとき、フォーカスレンズ253は中央制御部292aからの制御情報に基づいてフォーカスモータFMTにより駆動され、被写体からの光からなる映像が、固体撮像装置104上で結像されるように、試行法の山登りサーボ方式により焦点位置が調整される。摂動法の山登りサーボ方式によるオートフォーカスとする場合には、図中に破線で示すように、固体撮像装置104を光軸方向に微少変動させるピエゾ素子(PIEZO)等の摂動部材及びこれを駆動する駆動部PDRVを設け、この摂動部材を中央制御部292aからの制御情報に基づいて駆動部PDRVにより駆動する。露出コントローラ294は、画像処理部266に送られた画像の明るさが適度な明るさを保つようにその制御値が中央制御部292aにより設定され、その制御値に従って絞り256を制御する。具体的には、中央制御部292aが画像処理部266に保持されている画像から適当な個数の輝度値のサンプルを獲得し、その平均値が予め定められた適当とされる輝度の範囲に収まるように絞り256の制御値を設定する。
【0111】
タイミング信号生成部240は、中央制御部292aにより制御され、固体撮像装置104、プリアンプ部262、AD変換部264、画像処理部266の動作に必要とされるタイミングパルスを発生し、各部に供給する。操作部298は、ユーザが、撮像装置200を動作させるとき操作される。
【0112】
図示した例は、信号処理系206のプリアンプ部262とAD変換部264を撮像装置モジュール203に内蔵しているが、このような構成に限らず、撮像装置モジュール203をどのような形態にするかは、販売形態や製品仕様に基づいて決めればよい。撮像装置モジュール203をどのような形態にするかに拘わらず、撮像装置モジュール203と本体ユニット204とは着脱可能な構成にするのがよい。例えば、プリアンプ部262やAD変換部264を本体ユニット204内に設ける構成を採ることもできる。D/A変換部を画像処理部266内に設ける構成を採ることもできる。又、画像処理部266の一部(或いは全部)の機能部を撮像装置モジュール203側に設ける構成を採ることもできる。更には、撮像装置モジュール203は、撮像レンズ250を備えない形態としてもよい。この場合、撮像装置モジュール203は、撮像レンズ250を着脱可能な構成にする。
【0113】
タイミング信号生成部240を撮像装置モジュール203に内蔵しているが、このような構成に限らず、タイミング信号生成部240を本体ユニット204内に設ける構成を採ることもできる。タイミング信号生成部240とドライバ242とが別体のものとしているが、このような構成に限らず、両者を一体化させたもの(ドライバ内蔵のタイミングジェネレータ)としてもよい。こうすることで、よりコンパクトな(小型の)撮像装置200を構成できる。
【0114】
タイミング信号生成部240やドライバ242は、それぞれ個別のディスクリート部材で回路構成されたものでもよいが、1つの半導体基板上に回路形成されたIC(Integrated Circuit)として提供されるものであるのがよい。こうすることで、コンパクトにできるだけなく、部材の取扱いが容易になるし、両者を低コストで実現できる。撮像装置200の製造が容易になる。
【0115】
使用する固体撮像装置104との関わりの強い部分であるタイミング信号生成部240やドライバ242を固体撮像装置104と共通の基板に搭載することで一体化させる、或いは、撮像装置モジュール203内に搭載することで一体化させると、部材の取扱いや管理が簡易になる。これらがモジュールとして一体となっているので、撮像装置200(の完成品)の製造も容易になる。撮像装置モジュール203は、光学系205からのみ構成されていてもよい。
【0116】
[撮像装置及び画像処理装置]
図18は、撮像装置及び画像処理装置の信号処理系の構成例を説明する図である。
【0117】
撮像装置200は、固体撮像装置104及びAD変換部264や図示しないプリアンプ部262で成るフロントエンド部302と、信号処理部304と、中央制御部292aとを備える。
【0118】
固体撮像装置104(ここではCCDとする)は、図示しないカラーフィルタ100として、ベイヤー配列の4色カラーフィルタが設けられている。カラーフィルタ100は、赤色(R)の光のみを透過するRフィルタと、青色(B)の光のみを透過するBフィルタと、第1の波長帯域の緑色(G)の光のみを透過するGrフィルタと、第2の波長帯域の緑色(G)の光のみを透過するGbフィルタとの合計4個を最小単位とする構成を有する。固体撮像装置104からAD変換部264には、カラーフィルタ100の4色カラーフィルタの色と対応した4種類の色信号(R信号、Gr信号、Gb信号、B信号)が入力される。AD変換部264は、4種類の色信号をデジタルデータに変換する。
【0119】
信号処理部304は、フロントエンド部302の後段に設けられ、図示しないカラーフィルタ100及びパターン化偏光子102を有する固体撮像装置104により得られた撮像信号(画素からの偏光成分及び無偏光成分の各信号)に対して信号処理を施す。信号処理部304は、例えば、LSI(Large Scale Integrated Circuit:大規模集積回路)や信号処理用のプロセッサ(例えば、DSP:Digital Signal Processor)の構成とされている。信号処理部304は、フロントエンド部302と着脱可能な構成であってもよい。
【0120】
信号処理部304内の各機能部は、図示しないマイクロコンピュータインタフェースを介して、CPU(Central Processing Unit)或いはマイコン等で構成された中央制御部292aとバス接続されている。信号処理部304と中央制御部292aとで画像処理装置300が構成される。
【0121】
中央制御部292aは、所定のプログラムにしたがって、例えば撮像装置200や画像処理装置300の全体の動作を制御する。更には、信号処理部304を構成する各機能部がマイクロコンピュータインタフェースを介して中央制御部292aによって制御される。中央制御部292aは、図示しないが、CPU等のプロセッサ及び各種設定値等のデータを保持するメモリからなる機能部である。画像データの輝度情報の解析や明るさ判別、各種の設定処理等、撮像装置200や画像処理装置300の全体の処理を制御する。又、本実施形態の特徴点として、オートフォーカス制御や、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止するための感度補正処理をソフトウェア処理で行なうこともできる。
【0122】
中央制御部292aは、プログラムの更新或いは新規インストールを、記憶媒体やネットワークを通じて行なうことを可能にする。例えば、メモリカード等の記録媒体を挿脱可能に構成し、又、インターネット等の通信網との接続が可能に構成する。記録媒体は、例えば、中央制御部292a(のマイクロプロセッサ)にソフトウェア処理をさせるためのプログラムデータや、信号処理部304からの輝度系信号に基づく測光データの収束範囲や露光制御処理(電子シャッタ制御を含む)等のための各種の制御情報の設定値等の様々なデータを登録する等のために利用される。通信網を介しての場合も同様である。
【0123】
信号処理部304は、フロントエンド部302から入力される4種類の色信号に対して、補間処理、フィルタリング処理、マトリクス演算処理、輝度信号生成処理、色差信号生成処理等を行なう。信号処理部304によって生成された画像信号が図示しないデスプレイに供給され、撮像画像が表示される。或いは又、信号処理部304からの画像データが圧縮されて内部記憶媒体や外部記憶媒体等に記憶される。以下、信号処理部304の各機能部について説明する。
【0124】
信号処理部304は、黒レベル処理部312、画素欠陥補正部314、ホワイトバランス処理部316、補間処理部322、リニアマトリクス処理部324、ガンマ処理部326、感度補正処理部330、合焦情報処理部332、輝度信号処理部342、エッジ強調処理部344、色信号処理部352(色差信号処理部)、色差マトリクス処理部354、画像圧縮処理部360を備える。
【0125】
黒レベル処理部312は、フロントエンド部302から供給されてきた4種類の色信号の基準レベルをクランプするとともに、必要に応じて、その信号に含まれるノイズ成分(オフセット成分)を除去する。黒レベル処理部312からの画像信号が画素欠陥補正部314を経由して画素欠陥が補正された後にホワイトバランス処理部316に出力され、ホワイトバランス補正がなされる。即ち、被写体の色温度環境の違いや固体撮像装置104上のカラーフィルタ100(R、Gr、Gb、B)による感度の違いによる各色間のアンバランスが補正される。例えば、ホワイトバランス処理部316は、RGB画像の各画素値に適切な係数をかけることにより、被写体の無彩色の部分の色バランスが実際に無彩色となるように、RGB画像のホワイトバランスを調整する。
【0126】
感度補正処理部330は、必要に応じて、画素欠陥補正部314とホワイトバランス処理部316の間の信号パスに介在して、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止するための感度補正処理を行なう。つまり、感度補正処理部330は、パターン化偏光子102が配置された画素の信号に基づいて、ブロック内の各画素の信号強度を補正することにより、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止する。
【0127】
合焦情報処理部332は、オートフォーカス対象の全領域の偏光子を配した画素から得られた偏光情報(実質的には輝度情報)に基づいて、オートフォーカス用の指標値(光学系のフォーカス制御用の合焦情報)を算出する。例えば、合焦情報処理部332は、オートフォーカス対象の全領域において偏光角度を1種類とする場合、偏光子を配した画素から得られた偏光情報のレベルそのものを使用して予め定められた算術式に基づいてオートフォーカス用の指標値(光学系のフォーカス制御用の合焦情報)を算出する。例えば、合焦情報処理部332は、オートフォーカス対象の全領域に配置された各偏光子により取得される偏光情報(つまり輝度情報)を合計し、この合計値を判定指標値として中央制御部292aに通知する。或いは、合焦情報処理部332は、オートフォーカス対象の全領域において偏光角度差が90度の2種類とする場合(例えば、TE偏光子とTM偏光子の組合せや、45度偏光子と135度偏光子との組合せ等)、先ず、オートフォーカス対象の全領域について、対の各偏光子を配した画素から得られる偏光情報(輝度情報)そのものを使用して予め定められた算術式に基づいて第1の指標値を算出する。例えば、合焦情報処理部332は、組ごとに、対の各偏光子により取得される偏光情報(つまり輝度情報)の差分の絶対値を第1の指標値として算出する。合焦情報処理部332は更に、オートフォーカス対象の全領域についての各組の第1の指標値を使用して予め定められた算術式に基づいて第2の指標値(判定指標値)を算出する。例えば、合焦情報処理部332は、オートフォーカス対象の全領域に配置された各偏光子の対ごとに算出された第2の指標値(つまり輝度差の絶対値)を合計し、この合計値(第2の指標値)を判定指標値として中央制御部292aに通知する。
【0128】
何れの場合も、中央制御部292aは、合焦情報処理部332から通知されたオートフォーカス用の判定指標値に基づき、山登りサーボ方式を利用して、光学焦点調整機構を制御して、自動的に焦点調整を行なう。例えば、試行動作で(フォーカス位置を動かしながら)、通知された判定指標値の山の傾斜を見つけ、更に、ピークを見つける。そして、ピークをいったん越えたことを判定し、ピークから行き過ぎた量だけフォーカスモータFMTを逆回転してピークに戻す。
【0129】
図示した感度補正処理部330や合焦情報処理部332の信号パス上の配置は一例であり、これには限定されない。例えば、黒レベル処理部312と画素欠陥補正部314との間の信号パスに介在して感度補正処理を行なってもよい。更には、ホワイトバランス処理部316より後段の何れかの信号パスに介在して感度補正処理を行なってもよい。また、この例では、感度補正処理部330と合焦情報処理部332は、何れも、画素欠陥補正部314の出力を使用しているが、互いに異なる機能部の出力信号を使用する構成にしてもよい。例えば、感度補正処理部330は、図示の通り黒レベル処理部312と画素欠陥補正部314との間の信号パスに介在する構成にし、一方、合焦情報処理部332は、例えば補間処理部322の出力信号を使用する構成にしてもよい。この場合、合焦情報処理部332は、感度補正処理がなされた情報を使うことができるため、より高精度のオートフォーカス制御用の判定指標値を算出することができる。
【0130】
或いは又、合焦情報処理部332は、感度補正処理部330より前段に配置してもよい。例えば、感度補正処理部330は、図示の通り黒レベル処理部312と画素欠陥補正部314との間の信号パスに介在する構成にし、一方、合焦情報処理部332は、例えばAD変換部264の出力信号を使用する構成にしてもよい。この場合、合焦情報処理部332を、撮像装置モジュール側に配置した製品形態で撮像装置200のモジュール(撮像装置モジュール203)を提供することができる。
【0131】
ホワイトバランス処理部316の出力が補間処理部322に供給される。補間処理部322は、垂直方向の補間処理やフィルタリング処理のために、遅延素子例えば小規模なメモリを使用して時間的に異なる垂直方向の画像データを同時化する。補間処理部322は、又、同時化された複数の画像信号を、補間処理、フィルタ処理、高域周波数補正処理、及び、ノイズ処理部等も行なう。例えば、補間処理部322は、色フィルタ(R、Gr、Gb、B)の最小単位の2×2画素の色信号を同一空間の位相に補間する補間処理と、適切に信号帯域を制限するフィルタ処理と、信号帯域の高域成分を補正する高域周波数補正処理と、信号のノイズ成分を除去するノイズ処理等を行なう。
【0132】
補間処理部322で得られた画像信号(RGrGbBの4色の信号)がリニアマトリクス処理部324に供給される。リニアマトリクス処理部324では、4入力3出力のマトリクス演算がなされる。3×4の行列のマトリクス係数を与えると、入力されたRGrGbBの4色の画像情報からRGB色出力を求めることができる。この際には、色再現性を高めるようなマトリクス係数を用いてリニアマトリクス変換を施す。リニアマトリクス処理部324からのRGB出力がガンマ補正処理部326R、ガンマ補正処理部326G、ガンマ補正処理部326Bにそれぞれ色別に供給される。階調変換部によって、表示装置が有する非線形特性の逆補正を予め行なうことで、最終的にリニアな特性が実現される。
【0133】
ガンマ補正処理部326R、ガンマ処理部326G、ガンマ処理部326Bの出力信号が輝度信号処理部342及び色信号処理部352にそれぞれ供給される。輝度信号処理部342は、ガンマ補正されたRGB信号を所定の合成比で合成することによって輝度信号を生成し、エッジ強調処理部344に供給する。エッジ強調処理部344は、必要に応じてエッジ強調処理を行なうことで、画像をシャープにする。色信号処理部352は、ガンマ補正されたRGB信号を所定の合成比で合成することにより色差信号を生成し色差マトリクス処理部354に供給する。色差マトリクス処理部354は、色差画像の画素値に適切なゲイン係数を乗じて色相及び/又は彩度の調整処理(色相・彩度調整)を行なう。これにより、色差信号Cb及び色差信号Crが時分割多重化された色差信号が形成される。
【0134】
画像圧縮処理部360は、エッジ強調処理部344や色差マトリクス処理部354から出力される画像データを、JPEG(Joint Photographic Experts Group)やMPEG(Moving Picture Experts Group)等所定の方式により符号化し、符号化した画像データを保存先の記録デバイスに保存する。符号化した画像データの保存先として、例えば、フラッシュメモリ等の半導体メモリ、ハードディスク、磁気記録媒体、光磁気記録媒体、光記録媒体等が利用される。
【0135】
図示しないが、エッジ強調処理部344や色差マトリクス処理部354から出力される画像データは、画像表示部にも供給され、画像データに基づいて、例えばLCD(Liquid Crystal Display)等の表示デバイスの画面に表示される。
【0136】
[処理手順]
図19は、撮像装置200におけるオートフォーカス処理の処理手順の一例を示すフローチャートである。ここでは、固体撮像装置上と肉眼上での明るさの大小関係の逆転現象を防止するための感度補正処理との併用も考慮して、撮像エリア全体を「オートフォーカス対象の領域」とする場合で説明する。又、オートフォーカス制御用の判定指標値としては、一例として、TE画素出力値とTM画素出力値の差分(大小関係を不問とするべく、詳しくはその絶対値)を利用する形態で説明する。
【0137】
中央制御部292aは、被写体撮像(撮像モード)前のオートフォーカス時であるのか否かを判定する(S310)。オートフォーカス時であれば、中央制御部292aは先ず、合焦情報処理部332に対して、オートフォーカス用の判定指標値の取得を指示する。
【0138】
合焦情報処理部332は、偏光子配置画素座標が登録されているデータベースを参照して、オートフォーカス対象領域内の処理対象の対のTM偏光子とTE偏光子を特定する(S312)。そして、オートフォーカス対象の全領域について、対のTE偏光子とTM偏光子のそれぞれから得られる偏光情報(輝度情報)そのものを使用して、組ごとに、差分値=|TM画素出力値−TE画素出力値|を算出する(S314)。合焦情報処理部332は更に、オートフォーカス対象の全領域についての各組の差分値を合計し、この合計値を判定指標値として中央制御部292aに通知する(S316)。中央制御部292aは、フォーカスモータFMTを駆動しながら、通知された判定指標値を使って山登り方式によるオートフォーカス制御を行ない、判定指標値のピーク点(できるだけ高い位置)を探索する(ピークサーチ)(S318)。判定指標値がほぼピーク点であると判断するとオートフォーカス制御を完了させる。
【0139】
撮像モード時であれば、中央制御部292aは先ず、感度補正処理部330に対して、感度補正用の情報取得を指示する。ここで、本実施形態の感度補正処理は、静止画モードのときに機能し、動画モードのときには機能しない。即ち、動画モードのときには(S350−動画モード)、間引き対象の画素に偏光子を配置しているため、感度補正処理部330は、偏光子画素のデータを読み出さない(S360)。
【0140】
静止画モードのとき(S350−静止画モード)、感度補正処理部330は、予め偏光子配置画素座標が登録されているデータベース(入射角度情報データベースと記す)に基づいて、対のTM偏光出力値とTE偏光出力値を比較する(S370、S372)。比較結果(TM画素出力値−TE画素出力値)が「負」の場合、感度補正処理部330は、その画素の入射角度情報データベースと隣接G画素の出力量(例えば周辺領域のG画素の平均値)から、所望の補正値を感度補正量データベースから抽出する(S372−負、S380)。そして、感度補正処理部330は、偏光子画素のGデータを、隣接G画素に補正値を加えた値で置き換えて、感度補正後の値とする(S382)。残りの通常の(非偏光子画素である)G画素やR画素やB画素については、自身のRawデータに所望の補正値を加えた値を、感度補正後の値とする。但し、R画素やB画素については、G画素に対する補正値に対してG画素との感度比分の修正を行なう。
【0141】
比較結果(TM画素出力値−TE画素出力値)が「負」でない、つまり「正」の場合或いは「等しい」場合、感度補正処理部330は、偏光子画素のGデータを隣接G画素の平均値で置き換える(S372≠「負」、S390)。
【実施例2】
【0142】
図20は、実施例2の偏光子の配置例を示す図である。実施例1では、カラーフィルタ100のM×Nブロック(横8×縦4の32画素のブロック)内において、特定色の部分に複数種類(具体的には2種類)のパターン化偏光子102を配置し、且つ、同様の偏光子の組合せのブロックを周期的に配置していたが、実施例3では、更に、隣接ブロック間では、偏光子の組合せを異ならせる点に特徴がある。例えば、45度の偏光波相当のみを通すパターン化偏光子102_45と135度の偏光波相当のみを通すパターン化偏光子102_135の組合せを更に併用する。そして、このようなブロックを「オートフォーカス対象の領域」に鏤める。その際には、それぞれ異なる偏光角のパターン化偏光子102が周期的に配置されるようにしてもよいしランダムに配置されるようにしてもよい。図は、前者の場合であって、Gbラインにパターン化偏光子102TEとパターン化偏光子102_45とを周期的に(7画素おきに)配置し、Grラインにパターン化偏光子102TMとパターン化偏光子102_135とを周期的に(7画素おきに)配置した場合で示している。
【0143】
このような実施例2によれば、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135が、「オートフォーカス対象の領域」に鏤められる。したがって、縦縞、横縞、斜め縞の全てに着目してオートフォーカス制御を行なうことができる。一般的な被写体であれば、あらゆる種類の偏光成分(偏光角)をほぼ網羅することができる。
【実施例3】
【0144】
図21は、実施例3の偏光子の配置例を示す図である。実施例1では、カラーフィルタ100のM×Nブロック(横8×縦4の32画素のブロック)内において、特定色の部分に複数種類(具体的には2種類)のパターン化偏光子102を配置したが、実施例3では、1種類のパターン化偏光子102を配置する。パターン化偏光子102としては、例えば、パターン化偏光子102TMとパターン化偏光子102TEの何れか、或いは、45度の偏光波相当のみを通すパターン化偏光子102_45と135度の偏光波相当のみを通すパターン化偏光子102_135の何れかを使用する。カラーフィルタ100がベイヤー配列の場合、パターン化偏光子102を配置し得る色画素は4種類であり、何れを偏光子画素としてもよいし、原理的には、パターン化偏光子102に関してはパターン化偏光子102TMとパターン化偏光子102TEとパターン化偏光子102_45とパターン化偏光子102_135の何れを使用してもよい。したがって、選択し得る組合せとしては、4×4通りある。そして、このようなブロックを「オートフォーカス対象の領域」に鏤める。その際には、それぞれ異なる偏光角のパターン化偏光子102が周期的に配置されるようにしてもよいしランダムに配置されるようにしてもよい。図は、前者の場合であって、Gbラインにはパターン化偏光子102TEのみ或いはパターン化偏光子102_45のみを配置し、Grラインにはパターン化偏光子102TMのみ或いはパターン化偏光子102_135のみを配置した場合で示している。
【0145】
このような実施例3によっても、実施例2と同様に、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135が、「オートフォーカス対象の領域」に鏤められる。したがって、縦縞、横縞、斜め縞の全てに着目してオートフォーカス制御を行なうことができる。一般的な被写体であれば、あらゆる種類の偏光成分(偏光角)をほぼ網羅することができる。
【実施例4】
【0146】
図22は、実施例4の偏光子の配置例を示す図である。実施例2や実施例3では、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135の配置されるラインを特定のラインに決めていた。これに対して、実施例4は、偏光子が配置される対象ライン(行)及び対象カラム(列)のそれぞれに、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135を隈無く配置する点に点に特徴がある。図は、実施例3に対する変形例で示している。先ず、ライン方向において、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135を交互且つGbラインとGrラインで交互に配置している。更に、カラム方向においても、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135を交互且つGbカラムとGrカラムで交互に配置している。近傍の4ブロックに着目したとき、どのような組合せにおいても、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135が配置されている。
【0147】
このような実施例4によっても、実施例2や実施例3と同様に、パターン化偏光子102TE、パターン化偏光子102TM、パターン化偏光子102_45、パターン化偏光子102_135が、「オートフォーカス対象の領域」に鏤められる。したがって、縦縞、横縞、斜め縞の全てに着目してオートフォーカス制御を行なうことができる。一般的な被写体であれば、あらゆる種類の偏光成分(偏光角)をほぼ網羅することができる。
【0148】
<本実施形態の纏め>
図23は、本実施形態の画素内偏光オートフォーカスと従前の他のオートフォーカス方式とを対比した図表である。画素内偏光オートフォーカスに関しては、特に、画素内偏光輝度差オートフォーカスの場合で示す。又、偏光子としては、パターン化偏光子102TE(TE画素)とパターン化偏光子102TM(TM画素)の対を使用する場合で示す。図24は、本実施形態の画素内偏光オートフォーカスと感度補正とを対比した図表である。ここでは、32画素(横8×縦4)に一組のTE画素とTM画素をベイヤー配列のGr画素とGb画素に配置する場合をベース配置として示している。
【0149】
[オートフォーカス]
コントラストオートフォーカス、位相差検知オートフォーカス、及び、画素内位相差オートフォーカスのそれぞれの特徴、長所、短所については、図1〜図3を参照して説明した通りであり、図23には、それを纏めて記載してある。本実施形態の画素内偏光輝度差オートフォーカスは、偏光子を配した偏光画素を必要とする点で、他の方式とは全く異なった方式であるが、偏光画素から出力される情報(事実上の輝度情報)の確認のみでよく、単純かつ高速のオートフォーカス制御ができる。但し、偏光画素から出力される情報だけでは合焦の方向は不明であるので、山登りサーボ方式等を適用して合焦点をサーチすることが必要となる。
【0150】
[感度補正]
本実施形態の画素内偏光オートフォーカスと感度補正のそれぞれの特徴や偏光子の角度配置等については、既に説明した通りであり、図24には、それを纏めて記載してある。ところで、従来技術は偏光による反射率の角度依存を考慮していない。そのため、極端な場合は、固体撮像装置上と肉眼上で感じる明るさの間に大小関係の逆転現象が有り得た。これに対して、本実施形態では、ブロックごとに、ベイヤー配列の色画素の一部に2種類の偏光子を配置し、これらの信号出力差に基づいて反射成分が多い領域を抽出し、感度補正により、ブロック内の各画素の信号レベルを補正する。肉眼で感じる感度と固体撮像装置上の感度が補正により一致する。これにより、感度の逆転現象が是正され、遠近感も同時に向上する。当該技術は、例えば広角レンズを用いる場合やその必要性が増す状況下で益々その有効性が高まっていくことが予想される。
【0151】
又、例えば、特開2010−163158号公報には、「偏光を利用」した撮像装置、及び偏光光データ処理方法の発明が開示されている。「偏光を利用」するという点では、本実施形態と共通する部分があるが、その利用形態は全く異なる。例えば、同公報(段落番号[0008]には、「偏光成分と無偏光成分とを分離することで、画像のコントラストを改善することができるし、不要な情報を削除することもできる。」と記載されており、同公報に開示の発明も基本的にはこのような思想を前提としたものである。これに対して、本実施形態の感度補正において「偏光を利用」する際には、「偏光成分と無偏光成分とを分離する」というものではなく、「偏光成分から得られる情報に基づいて感度補正を行なうことにより、広義のコントラストを改善すると云うものである。両者の偏光の利形態は全く異なる。「感度補正」を要するのは、主に撮像エリアの周辺部である点に着目して、感度補正用の偏光子は主に撮像エリアの周辺部にのみ存在してればよい。これに対して、同公報に記載の発明は、撮像エリアの全面に亘って所定間隔で配置するものであり、偏光子の配置形態においても相違がある。又、偏光角度に関しては、同公報の発明では、少なくとも3種類の偏光角度の組を必要としている(段落番号[0027]参照)。これに対して、本実施形態では、1種類でも構わない点において相違がある。
【0152】
以上、本明細書で開示する技術について実施形態を用いて説明したが、請求項の記載内容の技術的範囲は前記実施形態に記載の範囲には限定されない。本明細書で開示する技術の要旨を逸脱しない範囲で前記実施形態に多様な変更又は改良を加えることができ、そのような変更又は改良を加えた形態も本明細書で開示する技術の技術的範囲に含まれる。前記の実施形態は、請求項に係る技術を限定するものではなく、実施形態の中で説明されている特徴の組合せの全てが、本明細書で開示する技術が対象とする課題の解決手段に必須であるとは限らない。前述した実施形態には種々の段階の技術が含まれており、開示される複数の構成要件における適宜の組合せにより種々の技術を抽出できる。実施形態に示される全構成要件から幾つかの構成要件が削除されても、本明細書で開示する技術が対象とする課題と対応した効果が得られる限りにおいて、この幾つかの構成要件が削除された構成も、本明細書で開示する技術として抽出され得る。
【0153】
前記実施形態の記載を踏まえれば、特許請求の範囲に記載の請求項に係る技術は一例であり、例えば、以下の技術が抽出される。以下列記する。
[付記1]
画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置と、
偏光子が配置された画素から出力された情報に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する合焦情報処理部、
とを備えている撮像装置。
[付記2]
合焦情報処理部により生成された合焦情報に基づいて、光学系のフォーカス制御を行なうフォーカス制御部を備えた付記1に記載の撮像装置。
[付記3]
被写体像を撮像部に導く光学系を備えている付記1又は付記2に記載の撮像装置。
[付記4]
固体撮像装置は、所定数の画素を1単位とするブロックごとに、ブロック内の総画素数よりも少ない数の画素を対象として、当該画素に重なるように偏光子が配置されている付記1乃至付記3の何れか1項に記載の撮像装置。
[付記5]
ブロック内に、それぞれ異なる角度の偏光主軸を有する複数種類の偏光子が配置されている付記4に記載の撮像装置。
[付記6]
偏光子の偏光主軸の角度の種類をNとしたとき、それぞれの角度差は、180/Nである付記5に記載の撮像装置。
[付記7]
複数種類の偏光子の1つはTE波相当のみを通す偏光子であり、
複数種類の偏光子のもう1つはTM波相当のみを通す偏光子である付記5又は付記6に記載の撮像装置。
[付記8]
色分離を行なうカラーフィルタを有し、
ブロック内のカラーフィルタの一組の同色画素又は同色に準じる画素に重なるように偏光子が配置されている付記5乃至付記7の何れか1項に記載の撮像装置。
[付記9]
カラーフィルタは、緑色又は緑色に準じる色の色フィルタを複数持ち、
緑色又は緑色に準じる色の色フィルタと重なるように複数の偏光子が配置されており、
複数種類の偏光子の1つはTE波相当のみを通す偏光子であり、
複数種類の偏光子のもう1つはTM波相当のみを通す偏光子である付記8に記載の撮像装置。
[付記10]
カラーフィルタは、2つの緑色と1つの赤色と1つの青色の各色フィルタがベイヤー配列されており、
緑色の色フィルタと重なるように2種類の偏光子が配置されており、
一方の偏光子はTE波相当のみを通す偏光子であり、
他方の偏光子はTM波相当のみを通す偏光子である付記9に記載の撮像装置。
[付記11]
ブロック内には、1種類の偏光子が1つ配置されている付記1乃至付記4の何れか1項に記載の撮像装置。
[付記12]
偏光子は、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子の何れかである付記11に記載の撮像装置。
[付記13]
色分離を行なうカラーフィルタを有し、
カラーフィルタは、2つの緑色と1つの赤色と1つの青色の各色フィルタがベイヤー配列されており、
緑色の色フィルタと重なるように、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子の何れかが配置されている付記12に記載の撮像装置。
[付記14]
動画撮像時に信号が読み出されない画素に重なるように偏光子が配置されている付記1乃至付記13の何れか1項に記載の撮像装置。
[付記15]
偏光子は、少なくとも撮像部の中央領域に配置されている付記1乃至付記14の何れか1項に記載の撮像装置。
[付記16]
偏光子は、撮像部の周辺領域にも配置されている付記15に記載の撮像装置。
[付記17]
画素が配列された撮像部を有し、
更に、撮像部の中央領域の所定数の画素を対象として、当該画素に重なるように偏光子が配置されており、
撮像部の周辺領域の画素については、偏光子が配置されていない固体撮像装置。
[付記18]
画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置の偏光子が配置されている画素から出力された信号に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する工程と、
合焦情報を用いて、光学系のオートフォーカス制御を行なう工程、
とを有する撮像装置の合焦制御方法。
[付記19]
オートフォーカス制御を行なう工程では、山登り方式のオートフォーカス制御を行なう付記18に記載の合焦制御方法。
[付記20]
画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置の偏光子が配置されている画素から出力された信号に基づいて生成された、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報に基づいて、光学系のフォーカス制御を行なうフォーカス制御部としてコンピュータを機能させるプログラム。
【符号の説明】
【0154】
100…カラーフィルタ、102…パターン化偏光子、104…固体撮像装置、200…撮像装置、203…撮像装置モジュール、204…本体ユニット、250…撮像レンズ、253…フォーカスレンズ、254…ズームレンズ、292a…中央制御部、300…画像処理装置、302…フロントエンド部、304…信号処理部、330…感度補正処理部、332…合焦情報処理部、FMT…フォーカスモータ、ZMT…ズームモータ
【特許請求の範囲】
【請求項1】
画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置と、
偏光子が配置された画素から出力された情報に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する合焦情報処理部、
とを備えている撮像装置。
【請求項2】
合焦情報処理部により生成された合焦情報に基づいて、光学系のフォーカス制御を行なうフォーカス制御部を備えた請求項1に記載の撮像装置。
【請求項3】
被写体像を撮像部に導く光学系を備えている請求項1に記載の撮像装置。
【請求項4】
固体撮像装置は、所定数の画素を1単位とするブロックごとに、ブロック内の総画素数よりも少ない数の画素を対象として、当該画素に重なるように偏光子が配置されている請求項1に記載の撮像装置。
【請求項5】
ブロック内に、それぞれ異なる角度の偏光主軸を有する複数種類の偏光子が配置されている請求項4に記載の撮像装置。
【請求項6】
偏光子の偏光主軸の角度の種類をNとしたとき、それぞれの角度差は、180/Nである請求項5に記載の撮像装置。
【請求項7】
複数種類の偏光子の1つはTE波相当のみを通す偏光子であり、
複数種類の偏光子のもう1つはTM波相当のみを通す偏光子である請求項5に記載の撮像装置。
【請求項8】
色分離を行なうカラーフィルタを有し、
ブロック内のカラーフィルタの一組の同色画素又は同色に準じる画素に重なるように偏光子が配置されている請求項5に記載の撮像装置。
【請求項9】
カラーフィルタは、緑色又は緑色に準じる色の色フィルタを複数持ち、
緑色又は緑色に準じる色の色フィルタと重なるように複数の偏光子が配置されており、
複数種類の偏光子の1つはTE波相当のみを通す偏光子であり、
複数種類の偏光子のもう1つはTM波相当のみを通す偏光子である請求項8に記載の撮像装置。
【請求項10】
カラーフィルタは、2つの緑色と1つの赤色と1つの青色の各色フィルタがベイヤー配列されており、
緑色の色フィルタと重なるように2種類の偏光子が配置されており、
一方の偏光子はTE波相当のみを通す偏光子であり、
他方の偏光子はTM波相当のみを通す偏光子である請求項9に記載の撮像装置。
【請求項11】
ブロック内には、1種類の偏光子が1つ配置されている請求項1に記載の撮像装置。
【請求項12】
偏光子は、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子の何れかである請求項11に記載の撮像装置。
【請求項13】
色分離を行なうカラーフィルタを有し、
カラーフィルタは、2つの緑色と1つの赤色と1つの青色の各色フィルタがベイヤー配列されており、
緑色の色フィルタと重なるように、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子の何れかが配置されている請求項12に記載の撮像装置。
【請求項14】
動画撮像時に信号が読み出されない画素に重なるように偏光子が配置されている請求項1に記載の撮像装置。
【請求項15】
偏光子は、少なくとも撮像部の中央領域に配置されている請求項1に記載の撮像装置。
【請求項16】
偏光子は、撮像部の周辺領域にも配置されている請求項15に記載の撮像装置。
【請求項17】
画素が配列された撮像部を有し、
更に、撮像部の中央領域の所定数の画素を対象として、当該画素に重なるように偏光子が配置されており、
撮像部の周辺領域の画素については、偏光子が配置されていない固体撮像装置。
【請求項18】
画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置の偏光子が配置されている画素から出力された信号に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する工程と、
合焦情報を用いて、光学系のオートフォーカス制御を行なう工程、
とを有する撮像装置の合焦制御方法。
【請求項19】
オートフォーカス制御を行なう工程では、山登り方式のオートフォーカス制御を行なう請求項18に記載の合焦制御方法。
【請求項20】
画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置の偏光子が配置されている画素から出力された信号に基づいて生成された、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報に基づいて、光学系のフォーカス制御を行なうフォーカス制御部としてコンピュータを機能させるプログラム。
【請求項1】
画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置と、
偏光子が配置された画素から出力された情報に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する合焦情報処理部、
とを備えている撮像装置。
【請求項2】
合焦情報処理部により生成された合焦情報に基づいて、光学系のフォーカス制御を行なうフォーカス制御部を備えた請求項1に記載の撮像装置。
【請求項3】
被写体像を撮像部に導く光学系を備えている請求項1に記載の撮像装置。
【請求項4】
固体撮像装置は、所定数の画素を1単位とするブロックごとに、ブロック内の総画素数よりも少ない数の画素を対象として、当該画素に重なるように偏光子が配置されている請求項1に記載の撮像装置。
【請求項5】
ブロック内に、それぞれ異なる角度の偏光主軸を有する複数種類の偏光子が配置されている請求項4に記載の撮像装置。
【請求項6】
偏光子の偏光主軸の角度の種類をNとしたとき、それぞれの角度差は、180/Nである請求項5に記載の撮像装置。
【請求項7】
複数種類の偏光子の1つはTE波相当のみを通す偏光子であり、
複数種類の偏光子のもう1つはTM波相当のみを通す偏光子である請求項5に記載の撮像装置。
【請求項8】
色分離を行なうカラーフィルタを有し、
ブロック内のカラーフィルタの一組の同色画素又は同色に準じる画素に重なるように偏光子が配置されている請求項5に記載の撮像装置。
【請求項9】
カラーフィルタは、緑色又は緑色に準じる色の色フィルタを複数持ち、
緑色又は緑色に準じる色の色フィルタと重なるように複数の偏光子が配置されており、
複数種類の偏光子の1つはTE波相当のみを通す偏光子であり、
複数種類の偏光子のもう1つはTM波相当のみを通す偏光子である請求項8に記載の撮像装置。
【請求項10】
カラーフィルタは、2つの緑色と1つの赤色と1つの青色の各色フィルタがベイヤー配列されており、
緑色の色フィルタと重なるように2種類の偏光子が配置されており、
一方の偏光子はTE波相当のみを通す偏光子であり、
他方の偏光子はTM波相当のみを通す偏光子である請求項9に記載の撮像装置。
【請求項11】
ブロック内には、1種類の偏光子が1つ配置されている請求項1に記載の撮像装置。
【請求項12】
偏光子は、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子の何れかである請求項11に記載の撮像装置。
【請求項13】
色分離を行なうカラーフィルタを有し、
カラーフィルタは、2つの緑色と1つの赤色と1つの青色の各色フィルタがベイヤー配列されており、
緑色の色フィルタと重なるように、TE波相当のみを通す偏光子とTM波相当のみを通す偏光子の何れかが配置されている請求項12に記載の撮像装置。
【請求項14】
動画撮像時に信号が読み出されない画素に重なるように偏光子が配置されている請求項1に記載の撮像装置。
【請求項15】
偏光子は、少なくとも撮像部の中央領域に配置されている請求項1に記載の撮像装置。
【請求項16】
偏光子は、撮像部の周辺領域にも配置されている請求項15に記載の撮像装置。
【請求項17】
画素が配列された撮像部を有し、
更に、撮像部の中央領域の所定数の画素を対象として、当該画素に重なるように偏光子が配置されており、
撮像部の周辺領域の画素については、偏光子が配置されていない固体撮像装置。
【請求項18】
画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置の偏光子が配置されている画素から出力された信号に基づいて、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報を生成する工程と、
合焦情報を用いて、光学系のオートフォーカス制御を行なう工程、
とを有する撮像装置の合焦制御方法。
【請求項19】
オートフォーカス制御を行なう工程では、山登り方式のオートフォーカス制御を行なう請求項18に記載の合焦制御方法。
【請求項20】
画素が配列された撮像部を有し、更に、所定数の画素を対象として、当該画素に重なるように偏光子が配置されている固体撮像装置の偏光子が配置されている画素から出力された信号に基づいて生成された、被写体像を撮像部に導く光学系のフォーカス制御用の合焦情報に基づいて、光学系のフォーカス制御を行なうフォーカス制御部としてコンピュータを機能させるプログラム。
【図4】
【図5】
【図6】
【図11】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図23】
【図24】
【図1】
【図2】
【図3】
【図7】
【図8】
【図9】
【図10】
【図12】
【図20】
【図21】
【図22】
【図5】
【図6】
【図11】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図23】
【図24】
【図1】
【図2】
【図3】
【図7】
【図8】
【図9】
【図10】
【図12】
【図20】
【図21】
【図22】
【公開番号】特開2013−57769(P2013−57769A)
【公開日】平成25年3月28日(2013.3.28)
【国際特許分類】
【出願番号】特願2011−195590(P2011−195590)
【出願日】平成23年9月8日(2011.9.8)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成25年3月28日(2013.3.28)
【国際特許分類】
【出願日】平成23年9月8日(2011.9.8)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]