撮像装置及び画像処理方法
【課題】 焦点検出用画素の配置領域を撮像領域の一部領域に限定した場合に、焦点検出用画素の配置領域と非配置領域の境界で、焦点検出用画素の補間処理による画質劣化をより目立たなくすること。
【解決手段】 撮像画面を構成する画素領域において、光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた第1の混入比率で混入された第1の領域と、前記第1の混入比率よりも低い第2の混入比率で前記焦点検出用画素が混入された第2の領域と、を有する撮像素子(107)と、前記第1の領域に含まれる前記焦点検出用画素から得られた画像信号を画像用に補間する補間パターンを用いて、前記第1の領域及び前記第2の領域から得られる画像信号を補間する画像処理回路(125)とを有する。
【解決手段】 撮像画面を構成する画素領域において、光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた第1の混入比率で混入された第1の領域と、前記第1の混入比率よりも低い第2の混入比率で前記焦点検出用画素が混入された第2の領域と、を有する撮像素子(107)と、前記第1の領域に含まれる前記焦点検出用画素から得られた画像信号を画像用に補間する補間パターンを用いて、前記第1の領域及び前記第2の領域から得られる画像信号を補間する画像処理回路(125)とを有する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、一部に焦点検出用画素を有する撮像装置及び画像処理方法に関する。
【背景技術】
【0002】
現在、CCDやCMOSセンサ等の固体撮像素子を有する撮像装置において、撮像素子から連続的に読み出された画像信号を順次記録することが可能な、いわゆる動画記録機能を有する撮像装置がある。
【0003】
また、撮像装置の自動焦点検出・調節方法で撮影レンズを通過した光束を用いる一般的な方式として、コントラスト検出方式(所謂「ぼけ方式」)と位相差検出方式(所謂「ずれ方式」)とがある。
【0004】
コントラスト検出方式は動画撮影用ビデオムービー機器(カムコーダー)や電子スチルカメラで多く用いられる方式で、撮像素子が焦点検出用センサとして用いられるものである。撮像素子の出力信号、特に高周波成分の情報(コントラスト情報)に着目し、その評価値が最も大きくなる撮影レンズの位置を合焦位置とする方式である。しかし山登り方式とも言われるように、撮影レンズを微少量動かしながら評価値を求め、その評価値が最大となる位置をスキャンする必要があるため、高速な焦点調節動作には不向きとされている。
【0005】
一方の位相差検出方式は、銀塩フィルムによる一眼レフカメラに多く用いられ、自動焦点検出(Auto Focus:AF)一眼レフカメラの実用化に最も貢献した技術である。位相差検出方式では、撮影レンズの射出瞳を通過した光束を2分割し、2分割した光束を一対の焦点検出用センサによりそれぞれ受光する。そして、その受光量に応じて出力される信号のずれ量、すなわち、光束の分割方向の相対的位置ずれ量を検出することで撮影レンズのピント方向のずれ量を直接求めるものである。従って、焦点検出用センサにより一度蓄積動作を行えばピントずれ量と方向が得られ、高速な焦点調節動作が可能となっている。但し、撮影レンズの射出瞳を通過した光束を2分割し、それぞれの光束に対応する信号を得るためには、撮像光路中にクイックリターンミラーやハーフミラー等の光路分割手段を設け、その先に焦点検出用光学系とAFセンサを設けるのが一般的である。そのため、装置が大型、かつ高価となる欠点がある。また、ライブビューを行う際は、クイックリターンミラーが退避しているため、動作させることができないといった欠点もあった。
【0006】
上記の欠点を克服するため、一部の受光素子(画素)に、オンチップマイクロレンズの光軸に対して受光部の感度領域を偏心させることで瞳分割機能を付与した、撮像素子がある。そして、これらの画素を焦点検出用画素とし、撮像用画素群の間に所定の間隔で配置することで、電子ビューファインダーの使用時や動画撮影時でも、高速な位相差方式によるAFを実現するための技術が開示されている(例えば、特許文献1参照)。
【0007】
また、電子ビューファインダーの使用時や動画撮影時で、モアレなどによる画質劣化を防止するために、次の方法が開示されている。すなわち、撮像素子の画素を加算しながら読み出す加算読み出しモードにおいて、加算対象に焦点検出用画素が含まれる場合に、撮像用画素の信号と、焦点検出用画素の信号が混合しないように読み出す(例えば、特許文献2参照)。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2000−156823号公報
【特許文献2】特開2010−20055号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、特許文献1及び特許文献2において、撮像用画素の欠損部となる焦点検出用画素が配置された個所は周辺の撮像画素から補間して画像情報を創生しているため、被写体によっては正しく補間することができない場合がある。そのため、焦点検出用画素が通常の撮像用画素に対して、十分に少ない場合には画質の劣化が小さくて済むが、焦点検出用画素の割合が増大するにしたがって、画質の劣化が大きくなるという問題がある。
【0010】
そのため、電子ビューファインダーモードや動画撮影モードが設定された場合に、撮像素子からの画素信号の読み出しを高速に行う必要があるため、撮像素子内の一部の画素を間引いて高速に読み出すことが知られている。しかしながら、その際に、読み出した画素信号に焦点検出用画素が含まれるように画素配置を行うと、全画素読み出しの場合と比較して、撮像用画素に対する焦点検出用画素の割合が増大するため、画質への影響も大きくなってしまうという問題があった。
【0011】
また、焦点検出用画素の配置領域を、光学的に条件が良く、比較的高い焦点検出精度が得られる撮像領域の中央部付近などに限定し、均一面被写体を撮影した場合に、次のような課題があった。すなわち、焦点検出用画素の配置領域と非配置領域との境界で焦点検出用画素の周辺に配置された撮像用画素の補正誤差による画質劣化が認識しやすいという課題があった。
【0012】
本発明は上記問題点を鑑みてなされたものであり、焦点検出用画素の配置領域を撮像領域の一部領域に限定した場合に、焦点検出用画素の配置領域と非配置領域の境界で、焦点検出用画素の補間処理による画質劣化をより目立たなくすることを目的とする。
【課題を解決するための手段】
【0013】
上記目的を達成するために、本発明の撮像装置は、撮像画面を構成する画素領域において、光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた第1の混入比率で混入された第1の領域と、前記第1の混入比率よりも低い第2の混入比率で前記焦点検出用画素が混入された第2の領域と、を有する撮像素子と、前記第1の領域に含まれる前記焦点検出用画素から得られた画像信号を画像用に補間する補間パターンを用いて、前記第1の領域及び前記第2の領域から得られる画像信号を補間する補間手段とを有する。
【発明の効果】
【0014】
本発明によれば、焦点検出用画素の配置領域を撮像領域の一部領域に限定した場合に、焦点検出用画素の配置領域と非配置領域の境界で、焦点検出用画素の補間処理による画質劣化をより目立たなくすることが可能になる。
【図面の簡単な説明】
【0015】
【図1】本発明の好適な実施の形態に係る撮像装置の概略構成図。
【図2】実施の形態における撮像素子の構成例を示すブロック図。
【図3】実施の形態における全画素読み出しの説明図。
【図4】実施の形態における間引き読み出しの説明図。
【図5】実施の形態における撮像素子の撮像用画素の平面図と断面図。
【図6】実施の形態における撮像素子の焦点検出用画素の平面図と断面図。
【図7】実施の形態における撮像用画素及び焦点検出用画素の画素配置図。
【図8】実施の形態における焦点検出領域の配置図。
【図9】実施の形態における補間対象領域の説明図。
【図10】変形例における複数の焦点検出用画素の画素配置図及び補間パターンを示す図。
【図11】変形例における異なる焦点検出用画素の混入比率を有する複数の領域の説明図。
【発明を実施するための形態】
【0016】
以下、添付図面を参照して本発明を実施するための最良の形態を詳細に説明する。
【0017】
図1は本発明の好適な実施の形態に係る撮像装置の構成図であり、撮像素子を有したカメラ本体と撮影光学系とが一体となった電子カメラを示している。図1において、第1レンズ群101は撮影光学系(結像光学系)の先端に配置され、光軸方向に進退可能に保持される。絞り兼用シャッタ102は、その開口径を調節することで撮影時の光量調節を行うほか、静止画撮影時には露光秒時を調節する機能も備える。絞り兼用シャッタ102及び第2レンズ群103は、一体となって光軸方向に進退し、第1レンズ群101の進退動作との連動により、変倍作用(ズーム機能)をなす。
【0018】
第3レンズ群105は、光軸方向の進退により、焦点調節を行う。光学的ローパスフィルタ106は、撮影画像の偽色やモアレを軽減するための光学素子である。撮像素子107はCMOSイメージセンサとその周辺回路で構成されている。また、撮像素子107は、水平方向m画素、垂直方向n画素に配列された受光画素を複数有し、当該受光画素上に、ベイヤー配列の原色カラーモザイクフィルタがオンチップで形成された、2次元単板カラーセンサが用いられる。
【0019】
ズームアクチュエータ111は、不図示のカム筒を回動することで、第1レンズ群101〜第2レンズ群103を光軸方向に進退駆動し、変倍操作を行う。絞りシャッタアクチュエータ112は、絞り兼用シャッタ102の開口径を制御して撮影光量を調節すると共に、静止画撮影時の露光時間制御を行う。フォーカスアクチュエータ114は、第3レンズ群105を光軸方向に進退駆動して焦点調節を行う。
【0020】
被写体照明用電子フラッシュ115は撮影時に用いられ、キセノン管を用いた閃光照明装置が好適であるが、連続発光するLEDを備えた照明装置を用いても良い。AF補助光発光部116は、所定の開口パターンを有したマスクの像を、投光レンズを介して被写界に投影し、暗い被写体や低コントラスト被写体に対する焦点検出能力を向上させる。
【0021】
CPU121は、撮像装置内でカメラ本体の種々の制御を司る。CPU121は、例えば、演算部、ROM、RAM、A/Dコンバータ、D/Aコンバータ、通信インターフェイス回路等を有する。そして、CPU121は、ROMに記憶された所定のプログラムに基づいて、撮像装置が有する各種回路を駆動し、AF、撮影、画像処理及び記録等の一連の動作を実行する。
【0022】
電子フラッシュ制御回路122は、撮影動作に同期して電子フラッシュ115を点灯制御する。補助光駆動回路123は、焦点検出動作に同期してAF補助光発光部116を点灯制御する。撮像素子駆動回路124は、撮像素子107の撮像動作を制御すると共に、取得した画像信号をA/D変換してCPU121に送信する。画像処理回路125は、撮像素子107が取得した画像のγ変換、カラー補間及び後述する補間処理、JPEG圧縮等の処理を行う。
【0023】
フォーカス駆動回路126は、焦点検出結果に基づいてフォーカスアクチュエータ114を駆動制御し、第3レンズ群105を光軸方向に進退駆動して焦点調節を行う。絞りシャッタ駆動回路128は、絞りシャッタアクチュエータ112を駆動制御して絞り兼用シャッタ102の開口を制御する。ズーム駆動回路129は、撮影者のズーム操作に応じてズームアクチュエータ111を駆動する。
【0024】
LCD等の表示器131は、撮像装置の撮影モードに関する情報、撮影前のプレビュー画像と撮影後の確認用画像、焦点検出時の合焦状態表示画像等を表示する。操作スイッチ群132は、電源スイッチ、レリーズ(撮影トリガ)スイッチ、ズーム操作スイッチ、撮影モード選択スイッチ等で構成される。着脱可能なフラッシュメモリ133は、撮影済み画像を記録する。
【0025】
図2は、本発明の実施の形態における撮像素子107の構成を示すブロック図である。なお、図2は、後述の読み出し動作が説明できる最低限の構成を示しており、画素リセット信号などが省略されている。図2において、光電変換部201は、フォトダイオード、画素アンプ、リセット用のスイッチなどで構成されており、m列×n行の光電変換部が2次元上に配置されている。
【0026】
スイッチ202は、光電変換部201の出力を選択するためのスイッチであり、後述の垂直走査回路208により、行単位で選択される。ラインメモリ203は、光電変換部201の出力を一時的に記憶するために設けられており、垂直走査回路208により選択された行の光電変換部201の出力を、信号MEMがHレベルとなったときに、垂直出力線VLを介して記憶する。ラインメモリ203としては、通常は、コンデンサが使用される。スイッチ204は、水平出力線HLを所定の電位VHRSTにリセットするための水平出力線HLに接続されたスイッチであり、信号HRSTにより制御される。スイッチ205は、ラインメモリ203に記憶された光電変換部201の出力を水平出力線HLに順次出力するためのスイッチである。
【0027】
水平走査回路206は、信号H0からHm-1を用いてスイッチ205を順次走査することにより、ラインメモリ203に記憶された光電変換部201の出力を順次、水平出力線HLに出力させる。信号PHSTは水平走査回路206のデータ入力、信号PH1、PH2はシフトクロック入力であり、PH1がHレベルの時にデータがセットされ、PH2がHレベルの時にデータがラッチされる構成となっている。信号PH1、PH2にシフトクロックを入力することにより、PHSTを順次シフトさせて、信号H0からHm-1を順次Hレベルにし、スイッチ205を順次オンさせることができる。SKIPは、後述の一部の画素から信号を読み出す間引き読み出し時に設定を行わせる信号である。SKIP端子をHレベルに設定することにより、水平走査回路206を所定間隔でスキップさせることが可能になる。なお、読み出し動作に関する詳細は後述する。
【0028】
アンプ207は、ラインメモリ203から水平出力線HLを介して出力された画素信号を所定の割合で増幅し、VOUTとして出力する。
【0029】
垂直走査回路208は、信号V0からVn-1をHレベルにすることにより、選択スイッチ202を行単位で選択することができる。垂直走査回路208は、水平走査回路206と同様に、データ入力PVST、シフトクロックPV1、PV2、間引き読み設定信号SKIPにより制御される。動作に関しては、水平走査回路206と同様であるので詳細説明は省略する。
【0030】
図3は、図2に示す構成を有する撮像素子107の全画素を読み出す場合の説明図である。図3(a)において、R、G、Bの記号は、各画素を覆うカラーフィルタの色を表している。本実施の形態の説明においては、2行×2列の4画素のうち、対角2画素にG(緑色)の分光感度を有する画素を配置し、他の2画素にR(赤色)とB(青色)の分光感度を有する画素を各1個配置したベイヤー配列として説明する。また、図3(a)の画素配列の上および左側に付記された番号は、X及びY方向の番号である。また、斜線の引かれた画素が、読み出し対象である。ここでは、全画素読み出しなので、図3(a)のすべての画素に斜線が引かれている。なお、撮像素子107には、通常、黒レベルを検出するために遮光されたOB(オプティカルブラック)画素なども配置され、OB画素からも読み出しを行うが、本実施の形態では、説明が煩雑になるため省略する。
【0031】
図3(b)は、撮像素子107の全画素を読み出す場合のタイミングチャートを示しており、CPU121が撮像素子駆動回路124を制御して、撮像素子107にパルスを送ることにより、読み出しが行われる。ここで図3(b)を参照して、全画素読み出し動作を説明する。
【0032】
まず、垂直走査回路208を駆動して、V0をアクティブにする。このとき、0行目の画素の出力が、垂直出力線VLにそれぞれ出力される。この状態で、信号MEMをアクティブにして、各画素のデータをラインメモリ203にホールドする。次に、PHSTをアクティブにして、PH1、PH2にシフトクロックを入力して、順次H0からHm-1をアクティブにすることで、水平出力線HLに画素出力を出力する。出力された画素出力は、アンプ207を介して、VOUTとして出力され、不図示のA/D変換器でデジタルデータに変換され、画像処理回路125で所定の画像処理が施される。
【0033】
次に、垂直走査回路208がV1をアクティブにすることで、1行目の画素出力が垂直出力線VLに出力され、この状態で同様に信号MEMをアクティブにすることによりラインメモリ203に画素出力がホールドされる。次に、PHSTをアクティブにして、PH1、PH2にシフトクロックを入力して、順次H0からHm-1をアクティブにすることで、水平出力線HLに画素出力を出力する動作は同じである。同様にして、Vn-1まで順にアクティブにしていくことで、n-1行目までの読み出しを順次行う。
【0034】
図4は、図2に示す構成を有する撮像素子107から一部の画素を読み出す間引き読み出しの一例を説明する図である。図4(a)では、図3(a)と同様に、斜線の引かれた画素が、間引き読み出し時の読み出し対象画素である。ここでは、X、Y方向ともに1/3の間引きの読み出しの場合を示している。
【0035】
図4(b)は、間引き読み出し時のタイミングチャートを示しており、図4(b)のタイミングチャートを参照して、間引き読み出しの動作説明を行う。間引き読み出しの設定は、水平走査回路206の制御端子であるSKIP端子をアクティブにすることで行う。SKIP端子をアクティブにすることで、垂直走査回路208、水平走査回路206は、1画素ごとの順次走査から3画素ごとの順次走査に動作が変更される。具体的方法に関しては、公知の技術なので詳細は省略する。
【0036】
間引き読み出し時は、まず、垂直走査回路208を駆動して、V0をアクティブにする。このとき、0行目の画素の出力が、垂直出力線VLにそれぞれ出力される。この状態で、信号MEMをアクティブにして、各画素のデータをラインメモリ203にホールドする。次に、PHSTをアクティブして、PH1、PH2にシフトクロックを入力する。このとき、SKIP端子をアクティブ設定にすることにより、シフトレジスタの経路が変更され、順次H0、H3、H6・・・Hm-3のように、3画素ごとに水平出力線HLに画素出力を出力する。出力された画素出力は、アンプ207を介してVOUTとして出力され、不図示のA/D変換器でデジタルデータに変換され、画像処理回路125で所定の画像処理が施される。
【0037】
次に、垂直走査回路208は、水平走査回路206と同様に、V1、V2をスキップさせて、V3をアクティブにして、3行目の画素出力を垂直出力線VLに出力する。その後、信号MEMによりラインメモリ203に画素出力がホールドされる。PHSTをアクティブにして、PH1、PH2にシフトクロックを入力して、順次H0、H3、H6・・・Hm-3をアクティブにして、水平出力線HLに画素出力を出力する動作は0行目と同じである。以上のように、n-3行目までの読み出しを順次行う。以上のように、水平、垂直ともに1/3の間引き読み出しが行われる。
【0038】
図5、図6は、撮像用画素と焦点検出用画素の構造を説明する図である。本実施の形態においては、上述したベイヤー配列の間に、後述する構造の焦点検出用画素が所定の規則にて分散配置される。
【0039】
図5に撮像用画素の配置と構造を示す。図5(a)は2行×2列の撮像用画素の平面図である。周知のように、ベイヤー配列では対角方向にG画素が、他の2画素にRとBの画素が配置される。そして2行×2列の構造が繰り返し配置される。
【0040】
図5(a)におけるA−A断面図を図5(b)に示す。MLは各画素の最前面に配置されたオンチップマイクロレンズ、CFRはR(赤色)のカラーフィルタ、CFGはG(緑色)のカラーフィルタである。PD(PhotoDiode)は図2で説明した撮像素子107の光電変換部201を模式的に示したものである。CL(Contact Layer)は、CMOSイメージセンサ内の各種信号を伝達する信号線を形成するための配線層である。TLは撮影光学系を模式的に示したものである。
【0041】
ここで、撮像用画素のオンチップマイクロレンズMLと光電変換素子PDは、撮影光学系TL(Taking Lens)を通過した光束を可能な限り有効に取り込むように構成されている。換言すると、撮影光学系TLの射出瞳EP(ExitPupil)と光電変換素子PDは、マイクロレンズMLにより共役関係にあり、かつ光電変換素子PDの有効面積は大面積に設計される。また、図5(b)ではR画素の入射光束について説明したが、G画素及びB(青色)画素も同一の構造となっている。従って、撮像用のRGB各画素に対応した射出瞳EPは大径となり、被写体からの光束(光量子)を効率よく取り込んで画像信号のS/Nを向上させている。
【0042】
図6は、撮影光学系の水平方向に瞳分割を行うための焦点検出用画素の配置と構造を示す。水平方向に瞳分割を行うことにより、水平方向に輝度分布を有した被写体、例えば縦線に対して焦点検出が可能になる。図6(a)は、焦点検出用画素を含む2行×2列の画素の平面図である。記録又は観賞のための画像信号を得る場合、G画素で輝度情報の主成分を取得する。これは、人間の画像認識特性は輝度情報に敏感であるためで、G画素が欠損すると画質劣化が認知されやすい。一方でR画素又はB画素は、色情報(色差情報)を取得する画素であるが、人間の視覚特性は、輝度情報と比較して色情報には鈍感であるため、色情報を取得する画素は多少の欠損が生じても画質劣化は認識され難い。そこで、本実施形態においては、2行×2列の画素のうち、G画素は撮像用画素として残し、R画素とB画素を焦点検出用画素に置き換える。この焦点検出用画素を、図6(a)においてSA及びSBと示す。
【0043】
図6(a)におけるA−A断面図を図6(b)に示す。マイクロレンズMLと、光電変換素子PDは図5(b)に示した撮像用画素と同一構造である。本実施の形態においては、焦点検出用画素の信号は画像生成には用いないため、色分離用カラーフィルタの代わりに透明膜CFW(白色)が配置される。また、光電変換部201単位で瞳分割を行うため、配線層CLの開口部はマイクロレンズMLの中心線に対して一方向に偏倚している。具体的には、画素SAの開口部OPHAは水平方向(図6では、右側)に偏倚しているため、撮影光学系TLの左側の射出瞳EPHAを通過した光束を受光する。同様に、画素SBの開口部OPHBは、画素SAとは逆方向の左側に偏倚し、撮影光学系TLの右側の射出瞳EPHBを通過した光束を受光する。上述した構成を有する画素SAを水平方向に規則的に配列し、これらの画素群で取得した被写体像をA像とし、上述した構成を有する画素Bも同様に水平方向に規則的に配列し、これらの画素群で取得した被写体像をB像とする。そして、得られたA像とB像の相対位置(位相差)を検出することで、被写体像のピントずれ量(デフォーカス量)を検出することができる。
【0044】
なお、垂直方向に輝度分布を有する被写体、例えば横線のピントずれ量を検出したい場合には、画素SAの開口部OPHAを下側に、画素SBの開口OPHBを上側に偏倚させるように90度回転させて構成すればよい。あるいは、開口部OPHAを上側に、画素SBの開口OPHBを下側に偏倚させるように構成してもよい。
【0045】
図7は、図5及び図6を参照して説明した撮像用画素及び焦点検出用画素SA、SBの配置の一例を示す画素配置図である。なお、本実施の形態では、撮像素子107の全画素の内、上述したように、水平方向に1/3、垂直方向に1/3の画素数となるように間引き読み出しすることが可能であるものとする。図7において、斜線の引かれた画素が読み出される画素であり、焦点検出用画素は、間引き読み出し時に読み出される行及び列に配置する。
【0046】
また、焦点検出用の画素が撮像用に使用できないことを考慮して、本実施の形態では、焦点検出用画素が、水平方向及び垂直方向にある程度の間隔をおいて、離散的に配置されるように構成されている。また、画像の劣化が目立ちにくくなるように、上述したようにG画素部分には焦点検出用の画素を配置しないことが好ましい。本実施の形態では、図7に示すように、12×24画素のブロック内に、2組の画素SA及び画素SBが配置され、それぞれ1ブロックで画素配置パターンが完結するように構成されている。
【0047】
図8は、本実施の形態における、全撮像画面に対する焦点検出用画素を含むブロックの配置を示す領域配置図である。図8において、撮像素子107における有効画素領域801は、記録される画像を生成するための画像信号を得る撮像用画素が配置されている領域を示している。図8の中央部に示した領域802は、焦点検出領域(第1の領域)を示しており、図7に示した、焦点検出用画素を所定の混入比率(第1の混入比率)で含む画素ブロックが、水平及び垂直方向に連続的に配置されている。一方、有効画素領域801中の焦点検出領域802以外の領域(第2の領域)には、焦点検出用画素は配置されていない(第2の混入比率)。
【0048】
なお、本実施の形態では、焦点検出用画素を含む領域を画面中央部に配置しているが、これは、光学条件が良く、比較的高い焦点検出精度が得られる領域に限定しているためである。
【0049】
図9は、静止画撮影及び動画撮影時の画像を生成する際の画素補間処理において、処理の対象となる領域を示す図である。
【0050】
前述したとおり、焦点検出用画素は、色分離用カラーフィルタの代わりに透明膜CFW(白色)で覆われていると共に、瞳分割を行うため、配線層CLの開口部はマイクロレンズMLの中心線に対して一方向に偏倚されている。そのため、焦点検出用画素は、撮像に用いる画素としては欠陥画素となり、焦点検出画素の配置されている位置の画像用の信号は、周辺の撮像信号から補間して生成する必要がある。
【0051】
なお、ここで用いることのできる補間方法としては様々な手法が知られており、本発明は補間方法によって限定されるものではないため説明は省略するが、特定の被写体においては、補間ミスにより画像劣化が目立ってしまうことがある。特に、補間画素の割合が非補間画素に対して大きくなると、画質劣化の影響も大きくなってしまう。そのため、本発明では補間処理を行う対象領域を補間画素の割合に応じて変更することで、画像劣化の影響を目立ちにくくしている。以下に具体的に説明する。
【0052】
図9(a)は、静止画撮影時の補間処理の対象領域803を示している。静止画撮影時には、全画素が読み出されるため、補間処理を必要とする焦点検出用画素(補間画素)の割合が撮像用画素(非補間画素)に対して低くなり、画質劣化の影響が小さくなる。そのため、対象領域を焦点検出領域802に設定して、焦点検出用画素の配置パターンに合わせて補間処理を行う。
【0053】
図9(b)は、電子ビューファインダー使用時及び動画撮影時の補間処理の対象領域804を示している。電子ビューファインダー使用時及び動画撮影時には、図4を参照して説明したような画素間引き読み出しを行っているため、補間処理を必要とする焦点検出用画素の割合が撮像用画素に対して大きくなり、画像劣化の影響が大きくなる。そのため、補間処理の対象領域を有効画素領域801に設定して、焦点検出用画素の配置パターンに合わせて(すなわち、焦点検出領域802の補間パターンを用いて)補間処理を行う。
【0054】
このように、非補間画素に対する補間画素の割合に応じて、補間処理を行う対象領域を変更することで、特に画像劣化が目立つ補間領域と非補間領域との境界における画像劣化をより目立ちにくくすることが可能となる。
【0055】
なお、本実施の形態では、焦点検出領域802を撮像画面の中央部の矩形領域に配置したが、本発明の適用範囲はこれに限定されない。例えば、焦点検出領域を複数の領域に離散的に配置した場合や、円形、十字等の形で焦点検出領域を構成してもよい。このように構成した場合も、焦点検出用画素の混入比率に応じて補正対象領域を変更することは可能である。
【0056】
また、本実施の形態では、焦点検出用画素SA及びSBを1組として、位相差を求めるための画像信号を取得する場合について説明したが、焦点検出用画素の構成は、これに限るものではない。例えば、1つの焦点検出用画素が複数の光電変換領域を有し、それぞれの光電変換領域から独立に読み出しできるように構成することにより、撮影光学系の異なる瞳領域を通過した被写体光に基づく、位相差を有する複数の画像を取得することができる。
【0057】
<変形例>
上述した実施の形態では、焦点検出用画素のブロック配置パターンが1種類であるものとして説明したが、本発明は、複数種類のブロック配置パターンで構成した場合にも適用可能である。ここで、複数種類のブロック配置パターンで構成した場合について説明する。
【0058】
図10は、図5及び図6を参照して説明した撮像用画素及び焦点検出用画素SA、SBの配置例を示す2種類の画素配置図を示す。図10(a)は、焦点検出用画素を含む第1の配置パターンであり、12×24画素のブロック中に、2組の画素SA及び画素SBが配置されている(第1の混入比率)。また、図10(b)は、焦点検出用画素を含む第2の配置パターンであり、12×24画素のブロック中に、1組の画素SA及び画素SBが配置されている(第2の混入比率)。図10(c)は、補間パターンであり、塗りつぶして示した画素が補間対象画素である。
【0059】
そして、撮像素子107の撮影画面内に、第1の配置パターンのブロックと第2の配置パターンのブロックとが混在している場合に、図10(c)の補間パターンを用いて、補間処理を行う。このように、図10(c)の補間画素配置パターンで補間処理の対象領域を補間処理し、焦点検出用画素の配置が異なる第1の配置パターンと第2の配置パターンの領域の画像劣化の度合いを合わせて、画像劣化が目立たなくすることも可能である。
【0060】
また、上述した実施の形態では、間引き読み出し時の補間処理の対象領域を有効画素領域に合わせて説明したが、本発明はこれに限定されない。例えば、図11に示すように、焦点検出用画素の配置パターンを3種類設定する。そして、外周に向けて焦点検出用画素の混入比率を段階的に低下させることで、焦点検出領域802(第1の領域)と焦点検出画素を含まない領域(第2の領域)との境界(第3の領域)における画質劣化をより目立ちにくくすることも可能である。なお、配置パターンを4種類以上用いてもよいことは言うまでもない。
【0061】
また、静止画用の全画素読み出し時に補間対象領域を焦点検出領域よりも広げて補間処理した場合も同様の効果が得られることは明らかなため、本発明の適用範囲は間引き読み出しに限定されない。
【0062】
また、上述した実施の形態では、全画素読み出し時と、水平、垂直方向共に1/3間引きの間引き読み出し時との場合の例を示し、より補間画素の割合が非補間画素に対して大きくなる間引き読み出し時に、補間対象領域を広げる方法について説明した。これにより、補間対象領域と非補間対象領域との境界の画質劣化をより目立ちにくくしたが、読み出しモードの種類はこれに限定されない。つまり、補間画素の割合に応じて、補間対象領域を広げることも本発明の適用範囲である。
【0063】
例えば、撮像素子から水平、垂直方向のうち、少なくともいずれか一方を加算して読み出す加算読み出しにより、間引き読み出し時と同じ画素数を読み出した場合に、加算読み出し時の補間対象領域を広げた場合も同一の効果が得られる。より詳しくは、加算読み出しでは、画像信号に含まれる有効画素数が間引き読み出しよりも高くなるため、補間処理を行った際の画質劣化の影響が小さい。そのため、間引き読み出し時にのみ補間対象領域を広げて、補間対象領域と非補間対象領域の境界の画質劣化をより目立ちにくくすることも可能である。
【0064】
また、例えば、撮像素子から水平及び垂直方向のうち少なくともいずれか一方を所定の間引き率(例えば、垂直1/3画素間引き)で読み出す間引き読み出しと、より高い間引き率(例えば、垂直1/5画素間引き)で間引いて読み出す間引き読み出しを行う。そして得られる画像を比較した場合、より高い間引き率(例えば、垂直1/5画素間引き)で読み出した画像の方が、補間処理による画質劣化の影響が大きくなる。そこで、間引き率の高い(1/5画素間引き)間引き読み出し時のみ補間対象領域を広げて、補間対象領域と非補間対象領域の境界の画質劣化の目立ちを抑制するようにしてもよい。
【技術分野】
【0001】
本発明は、一部に焦点検出用画素を有する撮像装置及び画像処理方法に関する。
【背景技術】
【0002】
現在、CCDやCMOSセンサ等の固体撮像素子を有する撮像装置において、撮像素子から連続的に読み出された画像信号を順次記録することが可能な、いわゆる動画記録機能を有する撮像装置がある。
【0003】
また、撮像装置の自動焦点検出・調節方法で撮影レンズを通過した光束を用いる一般的な方式として、コントラスト検出方式(所謂「ぼけ方式」)と位相差検出方式(所謂「ずれ方式」)とがある。
【0004】
コントラスト検出方式は動画撮影用ビデオムービー機器(カムコーダー)や電子スチルカメラで多く用いられる方式で、撮像素子が焦点検出用センサとして用いられるものである。撮像素子の出力信号、特に高周波成分の情報(コントラスト情報)に着目し、その評価値が最も大きくなる撮影レンズの位置を合焦位置とする方式である。しかし山登り方式とも言われるように、撮影レンズを微少量動かしながら評価値を求め、その評価値が最大となる位置をスキャンする必要があるため、高速な焦点調節動作には不向きとされている。
【0005】
一方の位相差検出方式は、銀塩フィルムによる一眼レフカメラに多く用いられ、自動焦点検出(Auto Focus:AF)一眼レフカメラの実用化に最も貢献した技術である。位相差検出方式では、撮影レンズの射出瞳を通過した光束を2分割し、2分割した光束を一対の焦点検出用センサによりそれぞれ受光する。そして、その受光量に応じて出力される信号のずれ量、すなわち、光束の分割方向の相対的位置ずれ量を検出することで撮影レンズのピント方向のずれ量を直接求めるものである。従って、焦点検出用センサにより一度蓄積動作を行えばピントずれ量と方向が得られ、高速な焦点調節動作が可能となっている。但し、撮影レンズの射出瞳を通過した光束を2分割し、それぞれの光束に対応する信号を得るためには、撮像光路中にクイックリターンミラーやハーフミラー等の光路分割手段を設け、その先に焦点検出用光学系とAFセンサを設けるのが一般的である。そのため、装置が大型、かつ高価となる欠点がある。また、ライブビューを行う際は、クイックリターンミラーが退避しているため、動作させることができないといった欠点もあった。
【0006】
上記の欠点を克服するため、一部の受光素子(画素)に、オンチップマイクロレンズの光軸に対して受光部の感度領域を偏心させることで瞳分割機能を付与した、撮像素子がある。そして、これらの画素を焦点検出用画素とし、撮像用画素群の間に所定の間隔で配置することで、電子ビューファインダーの使用時や動画撮影時でも、高速な位相差方式によるAFを実現するための技術が開示されている(例えば、特許文献1参照)。
【0007】
また、電子ビューファインダーの使用時や動画撮影時で、モアレなどによる画質劣化を防止するために、次の方法が開示されている。すなわち、撮像素子の画素を加算しながら読み出す加算読み出しモードにおいて、加算対象に焦点検出用画素が含まれる場合に、撮像用画素の信号と、焦点検出用画素の信号が混合しないように読み出す(例えば、特許文献2参照)。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2000−156823号公報
【特許文献2】特開2010−20055号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、特許文献1及び特許文献2において、撮像用画素の欠損部となる焦点検出用画素が配置された個所は周辺の撮像画素から補間して画像情報を創生しているため、被写体によっては正しく補間することができない場合がある。そのため、焦点検出用画素が通常の撮像用画素に対して、十分に少ない場合には画質の劣化が小さくて済むが、焦点検出用画素の割合が増大するにしたがって、画質の劣化が大きくなるという問題がある。
【0010】
そのため、電子ビューファインダーモードや動画撮影モードが設定された場合に、撮像素子からの画素信号の読み出しを高速に行う必要があるため、撮像素子内の一部の画素を間引いて高速に読み出すことが知られている。しかしながら、その際に、読み出した画素信号に焦点検出用画素が含まれるように画素配置を行うと、全画素読み出しの場合と比較して、撮像用画素に対する焦点検出用画素の割合が増大するため、画質への影響も大きくなってしまうという問題があった。
【0011】
また、焦点検出用画素の配置領域を、光学的に条件が良く、比較的高い焦点検出精度が得られる撮像領域の中央部付近などに限定し、均一面被写体を撮影した場合に、次のような課題があった。すなわち、焦点検出用画素の配置領域と非配置領域との境界で焦点検出用画素の周辺に配置された撮像用画素の補正誤差による画質劣化が認識しやすいという課題があった。
【0012】
本発明は上記問題点を鑑みてなされたものであり、焦点検出用画素の配置領域を撮像領域の一部領域に限定した場合に、焦点検出用画素の配置領域と非配置領域の境界で、焦点検出用画素の補間処理による画質劣化をより目立たなくすることを目的とする。
【課題を解決するための手段】
【0013】
上記目的を達成するために、本発明の撮像装置は、撮像画面を構成する画素領域において、光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた第1の混入比率で混入された第1の領域と、前記第1の混入比率よりも低い第2の混入比率で前記焦点検出用画素が混入された第2の領域と、を有する撮像素子と、前記第1の領域に含まれる前記焦点検出用画素から得られた画像信号を画像用に補間する補間パターンを用いて、前記第1の領域及び前記第2の領域から得られる画像信号を補間する補間手段とを有する。
【発明の効果】
【0014】
本発明によれば、焦点検出用画素の配置領域を撮像領域の一部領域に限定した場合に、焦点検出用画素の配置領域と非配置領域の境界で、焦点検出用画素の補間処理による画質劣化をより目立たなくすることが可能になる。
【図面の簡単な説明】
【0015】
【図1】本発明の好適な実施の形態に係る撮像装置の概略構成図。
【図2】実施の形態における撮像素子の構成例を示すブロック図。
【図3】実施の形態における全画素読み出しの説明図。
【図4】実施の形態における間引き読み出しの説明図。
【図5】実施の形態における撮像素子の撮像用画素の平面図と断面図。
【図6】実施の形態における撮像素子の焦点検出用画素の平面図と断面図。
【図7】実施の形態における撮像用画素及び焦点検出用画素の画素配置図。
【図8】実施の形態における焦点検出領域の配置図。
【図9】実施の形態における補間対象領域の説明図。
【図10】変形例における複数の焦点検出用画素の画素配置図及び補間パターンを示す図。
【図11】変形例における異なる焦点検出用画素の混入比率を有する複数の領域の説明図。
【発明を実施するための形態】
【0016】
以下、添付図面を参照して本発明を実施するための最良の形態を詳細に説明する。
【0017】
図1は本発明の好適な実施の形態に係る撮像装置の構成図であり、撮像素子を有したカメラ本体と撮影光学系とが一体となった電子カメラを示している。図1において、第1レンズ群101は撮影光学系(結像光学系)の先端に配置され、光軸方向に進退可能に保持される。絞り兼用シャッタ102は、その開口径を調節することで撮影時の光量調節を行うほか、静止画撮影時には露光秒時を調節する機能も備える。絞り兼用シャッタ102及び第2レンズ群103は、一体となって光軸方向に進退し、第1レンズ群101の進退動作との連動により、変倍作用(ズーム機能)をなす。
【0018】
第3レンズ群105は、光軸方向の進退により、焦点調節を行う。光学的ローパスフィルタ106は、撮影画像の偽色やモアレを軽減するための光学素子である。撮像素子107はCMOSイメージセンサとその周辺回路で構成されている。また、撮像素子107は、水平方向m画素、垂直方向n画素に配列された受光画素を複数有し、当該受光画素上に、ベイヤー配列の原色カラーモザイクフィルタがオンチップで形成された、2次元単板カラーセンサが用いられる。
【0019】
ズームアクチュエータ111は、不図示のカム筒を回動することで、第1レンズ群101〜第2レンズ群103を光軸方向に進退駆動し、変倍操作を行う。絞りシャッタアクチュエータ112は、絞り兼用シャッタ102の開口径を制御して撮影光量を調節すると共に、静止画撮影時の露光時間制御を行う。フォーカスアクチュエータ114は、第3レンズ群105を光軸方向に進退駆動して焦点調節を行う。
【0020】
被写体照明用電子フラッシュ115は撮影時に用いられ、キセノン管を用いた閃光照明装置が好適であるが、連続発光するLEDを備えた照明装置を用いても良い。AF補助光発光部116は、所定の開口パターンを有したマスクの像を、投光レンズを介して被写界に投影し、暗い被写体や低コントラスト被写体に対する焦点検出能力を向上させる。
【0021】
CPU121は、撮像装置内でカメラ本体の種々の制御を司る。CPU121は、例えば、演算部、ROM、RAM、A/Dコンバータ、D/Aコンバータ、通信インターフェイス回路等を有する。そして、CPU121は、ROMに記憶された所定のプログラムに基づいて、撮像装置が有する各種回路を駆動し、AF、撮影、画像処理及び記録等の一連の動作を実行する。
【0022】
電子フラッシュ制御回路122は、撮影動作に同期して電子フラッシュ115を点灯制御する。補助光駆動回路123は、焦点検出動作に同期してAF補助光発光部116を点灯制御する。撮像素子駆動回路124は、撮像素子107の撮像動作を制御すると共に、取得した画像信号をA/D変換してCPU121に送信する。画像処理回路125は、撮像素子107が取得した画像のγ変換、カラー補間及び後述する補間処理、JPEG圧縮等の処理を行う。
【0023】
フォーカス駆動回路126は、焦点検出結果に基づいてフォーカスアクチュエータ114を駆動制御し、第3レンズ群105を光軸方向に進退駆動して焦点調節を行う。絞りシャッタ駆動回路128は、絞りシャッタアクチュエータ112を駆動制御して絞り兼用シャッタ102の開口を制御する。ズーム駆動回路129は、撮影者のズーム操作に応じてズームアクチュエータ111を駆動する。
【0024】
LCD等の表示器131は、撮像装置の撮影モードに関する情報、撮影前のプレビュー画像と撮影後の確認用画像、焦点検出時の合焦状態表示画像等を表示する。操作スイッチ群132は、電源スイッチ、レリーズ(撮影トリガ)スイッチ、ズーム操作スイッチ、撮影モード選択スイッチ等で構成される。着脱可能なフラッシュメモリ133は、撮影済み画像を記録する。
【0025】
図2は、本発明の実施の形態における撮像素子107の構成を示すブロック図である。なお、図2は、後述の読み出し動作が説明できる最低限の構成を示しており、画素リセット信号などが省略されている。図2において、光電変換部201は、フォトダイオード、画素アンプ、リセット用のスイッチなどで構成されており、m列×n行の光電変換部が2次元上に配置されている。
【0026】
スイッチ202は、光電変換部201の出力を選択するためのスイッチであり、後述の垂直走査回路208により、行単位で選択される。ラインメモリ203は、光電変換部201の出力を一時的に記憶するために設けられており、垂直走査回路208により選択された行の光電変換部201の出力を、信号MEMがHレベルとなったときに、垂直出力線VLを介して記憶する。ラインメモリ203としては、通常は、コンデンサが使用される。スイッチ204は、水平出力線HLを所定の電位VHRSTにリセットするための水平出力線HLに接続されたスイッチであり、信号HRSTにより制御される。スイッチ205は、ラインメモリ203に記憶された光電変換部201の出力を水平出力線HLに順次出力するためのスイッチである。
【0027】
水平走査回路206は、信号H0からHm-1を用いてスイッチ205を順次走査することにより、ラインメモリ203に記憶された光電変換部201の出力を順次、水平出力線HLに出力させる。信号PHSTは水平走査回路206のデータ入力、信号PH1、PH2はシフトクロック入力であり、PH1がHレベルの時にデータがセットされ、PH2がHレベルの時にデータがラッチされる構成となっている。信号PH1、PH2にシフトクロックを入力することにより、PHSTを順次シフトさせて、信号H0からHm-1を順次Hレベルにし、スイッチ205を順次オンさせることができる。SKIPは、後述の一部の画素から信号を読み出す間引き読み出し時に設定を行わせる信号である。SKIP端子をHレベルに設定することにより、水平走査回路206を所定間隔でスキップさせることが可能になる。なお、読み出し動作に関する詳細は後述する。
【0028】
アンプ207は、ラインメモリ203から水平出力線HLを介して出力された画素信号を所定の割合で増幅し、VOUTとして出力する。
【0029】
垂直走査回路208は、信号V0からVn-1をHレベルにすることにより、選択スイッチ202を行単位で選択することができる。垂直走査回路208は、水平走査回路206と同様に、データ入力PVST、シフトクロックPV1、PV2、間引き読み設定信号SKIPにより制御される。動作に関しては、水平走査回路206と同様であるので詳細説明は省略する。
【0030】
図3は、図2に示す構成を有する撮像素子107の全画素を読み出す場合の説明図である。図3(a)において、R、G、Bの記号は、各画素を覆うカラーフィルタの色を表している。本実施の形態の説明においては、2行×2列の4画素のうち、対角2画素にG(緑色)の分光感度を有する画素を配置し、他の2画素にR(赤色)とB(青色)の分光感度を有する画素を各1個配置したベイヤー配列として説明する。また、図3(a)の画素配列の上および左側に付記された番号は、X及びY方向の番号である。また、斜線の引かれた画素が、読み出し対象である。ここでは、全画素読み出しなので、図3(a)のすべての画素に斜線が引かれている。なお、撮像素子107には、通常、黒レベルを検出するために遮光されたOB(オプティカルブラック)画素なども配置され、OB画素からも読み出しを行うが、本実施の形態では、説明が煩雑になるため省略する。
【0031】
図3(b)は、撮像素子107の全画素を読み出す場合のタイミングチャートを示しており、CPU121が撮像素子駆動回路124を制御して、撮像素子107にパルスを送ることにより、読み出しが行われる。ここで図3(b)を参照して、全画素読み出し動作を説明する。
【0032】
まず、垂直走査回路208を駆動して、V0をアクティブにする。このとき、0行目の画素の出力が、垂直出力線VLにそれぞれ出力される。この状態で、信号MEMをアクティブにして、各画素のデータをラインメモリ203にホールドする。次に、PHSTをアクティブにして、PH1、PH2にシフトクロックを入力して、順次H0からHm-1をアクティブにすることで、水平出力線HLに画素出力を出力する。出力された画素出力は、アンプ207を介して、VOUTとして出力され、不図示のA/D変換器でデジタルデータに変換され、画像処理回路125で所定の画像処理が施される。
【0033】
次に、垂直走査回路208がV1をアクティブにすることで、1行目の画素出力が垂直出力線VLに出力され、この状態で同様に信号MEMをアクティブにすることによりラインメモリ203に画素出力がホールドされる。次に、PHSTをアクティブにして、PH1、PH2にシフトクロックを入力して、順次H0からHm-1をアクティブにすることで、水平出力線HLに画素出力を出力する動作は同じである。同様にして、Vn-1まで順にアクティブにしていくことで、n-1行目までの読み出しを順次行う。
【0034】
図4は、図2に示す構成を有する撮像素子107から一部の画素を読み出す間引き読み出しの一例を説明する図である。図4(a)では、図3(a)と同様に、斜線の引かれた画素が、間引き読み出し時の読み出し対象画素である。ここでは、X、Y方向ともに1/3の間引きの読み出しの場合を示している。
【0035】
図4(b)は、間引き読み出し時のタイミングチャートを示しており、図4(b)のタイミングチャートを参照して、間引き読み出しの動作説明を行う。間引き読み出しの設定は、水平走査回路206の制御端子であるSKIP端子をアクティブにすることで行う。SKIP端子をアクティブにすることで、垂直走査回路208、水平走査回路206は、1画素ごとの順次走査から3画素ごとの順次走査に動作が変更される。具体的方法に関しては、公知の技術なので詳細は省略する。
【0036】
間引き読み出し時は、まず、垂直走査回路208を駆動して、V0をアクティブにする。このとき、0行目の画素の出力が、垂直出力線VLにそれぞれ出力される。この状態で、信号MEMをアクティブにして、各画素のデータをラインメモリ203にホールドする。次に、PHSTをアクティブして、PH1、PH2にシフトクロックを入力する。このとき、SKIP端子をアクティブ設定にすることにより、シフトレジスタの経路が変更され、順次H0、H3、H6・・・Hm-3のように、3画素ごとに水平出力線HLに画素出力を出力する。出力された画素出力は、アンプ207を介してVOUTとして出力され、不図示のA/D変換器でデジタルデータに変換され、画像処理回路125で所定の画像処理が施される。
【0037】
次に、垂直走査回路208は、水平走査回路206と同様に、V1、V2をスキップさせて、V3をアクティブにして、3行目の画素出力を垂直出力線VLに出力する。その後、信号MEMによりラインメモリ203に画素出力がホールドされる。PHSTをアクティブにして、PH1、PH2にシフトクロックを入力して、順次H0、H3、H6・・・Hm-3をアクティブにして、水平出力線HLに画素出力を出力する動作は0行目と同じである。以上のように、n-3行目までの読み出しを順次行う。以上のように、水平、垂直ともに1/3の間引き読み出しが行われる。
【0038】
図5、図6は、撮像用画素と焦点検出用画素の構造を説明する図である。本実施の形態においては、上述したベイヤー配列の間に、後述する構造の焦点検出用画素が所定の規則にて分散配置される。
【0039】
図5に撮像用画素の配置と構造を示す。図5(a)は2行×2列の撮像用画素の平面図である。周知のように、ベイヤー配列では対角方向にG画素が、他の2画素にRとBの画素が配置される。そして2行×2列の構造が繰り返し配置される。
【0040】
図5(a)におけるA−A断面図を図5(b)に示す。MLは各画素の最前面に配置されたオンチップマイクロレンズ、CFRはR(赤色)のカラーフィルタ、CFGはG(緑色)のカラーフィルタである。PD(PhotoDiode)は図2で説明した撮像素子107の光電変換部201を模式的に示したものである。CL(Contact Layer)は、CMOSイメージセンサ内の各種信号を伝達する信号線を形成するための配線層である。TLは撮影光学系を模式的に示したものである。
【0041】
ここで、撮像用画素のオンチップマイクロレンズMLと光電変換素子PDは、撮影光学系TL(Taking Lens)を通過した光束を可能な限り有効に取り込むように構成されている。換言すると、撮影光学系TLの射出瞳EP(ExitPupil)と光電変換素子PDは、マイクロレンズMLにより共役関係にあり、かつ光電変換素子PDの有効面積は大面積に設計される。また、図5(b)ではR画素の入射光束について説明したが、G画素及びB(青色)画素も同一の構造となっている。従って、撮像用のRGB各画素に対応した射出瞳EPは大径となり、被写体からの光束(光量子)を効率よく取り込んで画像信号のS/Nを向上させている。
【0042】
図6は、撮影光学系の水平方向に瞳分割を行うための焦点検出用画素の配置と構造を示す。水平方向に瞳分割を行うことにより、水平方向に輝度分布を有した被写体、例えば縦線に対して焦点検出が可能になる。図6(a)は、焦点検出用画素を含む2行×2列の画素の平面図である。記録又は観賞のための画像信号を得る場合、G画素で輝度情報の主成分を取得する。これは、人間の画像認識特性は輝度情報に敏感であるためで、G画素が欠損すると画質劣化が認知されやすい。一方でR画素又はB画素は、色情報(色差情報)を取得する画素であるが、人間の視覚特性は、輝度情報と比較して色情報には鈍感であるため、色情報を取得する画素は多少の欠損が生じても画質劣化は認識され難い。そこで、本実施形態においては、2行×2列の画素のうち、G画素は撮像用画素として残し、R画素とB画素を焦点検出用画素に置き換える。この焦点検出用画素を、図6(a)においてSA及びSBと示す。
【0043】
図6(a)におけるA−A断面図を図6(b)に示す。マイクロレンズMLと、光電変換素子PDは図5(b)に示した撮像用画素と同一構造である。本実施の形態においては、焦点検出用画素の信号は画像生成には用いないため、色分離用カラーフィルタの代わりに透明膜CFW(白色)が配置される。また、光電変換部201単位で瞳分割を行うため、配線層CLの開口部はマイクロレンズMLの中心線に対して一方向に偏倚している。具体的には、画素SAの開口部OPHAは水平方向(図6では、右側)に偏倚しているため、撮影光学系TLの左側の射出瞳EPHAを通過した光束を受光する。同様に、画素SBの開口部OPHBは、画素SAとは逆方向の左側に偏倚し、撮影光学系TLの右側の射出瞳EPHBを通過した光束を受光する。上述した構成を有する画素SAを水平方向に規則的に配列し、これらの画素群で取得した被写体像をA像とし、上述した構成を有する画素Bも同様に水平方向に規則的に配列し、これらの画素群で取得した被写体像をB像とする。そして、得られたA像とB像の相対位置(位相差)を検出することで、被写体像のピントずれ量(デフォーカス量)を検出することができる。
【0044】
なお、垂直方向に輝度分布を有する被写体、例えば横線のピントずれ量を検出したい場合には、画素SAの開口部OPHAを下側に、画素SBの開口OPHBを上側に偏倚させるように90度回転させて構成すればよい。あるいは、開口部OPHAを上側に、画素SBの開口OPHBを下側に偏倚させるように構成してもよい。
【0045】
図7は、図5及び図6を参照して説明した撮像用画素及び焦点検出用画素SA、SBの配置の一例を示す画素配置図である。なお、本実施の形態では、撮像素子107の全画素の内、上述したように、水平方向に1/3、垂直方向に1/3の画素数となるように間引き読み出しすることが可能であるものとする。図7において、斜線の引かれた画素が読み出される画素であり、焦点検出用画素は、間引き読み出し時に読み出される行及び列に配置する。
【0046】
また、焦点検出用の画素が撮像用に使用できないことを考慮して、本実施の形態では、焦点検出用画素が、水平方向及び垂直方向にある程度の間隔をおいて、離散的に配置されるように構成されている。また、画像の劣化が目立ちにくくなるように、上述したようにG画素部分には焦点検出用の画素を配置しないことが好ましい。本実施の形態では、図7に示すように、12×24画素のブロック内に、2組の画素SA及び画素SBが配置され、それぞれ1ブロックで画素配置パターンが完結するように構成されている。
【0047】
図8は、本実施の形態における、全撮像画面に対する焦点検出用画素を含むブロックの配置を示す領域配置図である。図8において、撮像素子107における有効画素領域801は、記録される画像を生成するための画像信号を得る撮像用画素が配置されている領域を示している。図8の中央部に示した領域802は、焦点検出領域(第1の領域)を示しており、図7に示した、焦点検出用画素を所定の混入比率(第1の混入比率)で含む画素ブロックが、水平及び垂直方向に連続的に配置されている。一方、有効画素領域801中の焦点検出領域802以外の領域(第2の領域)には、焦点検出用画素は配置されていない(第2の混入比率)。
【0048】
なお、本実施の形態では、焦点検出用画素を含む領域を画面中央部に配置しているが、これは、光学条件が良く、比較的高い焦点検出精度が得られる領域に限定しているためである。
【0049】
図9は、静止画撮影及び動画撮影時の画像を生成する際の画素補間処理において、処理の対象となる領域を示す図である。
【0050】
前述したとおり、焦点検出用画素は、色分離用カラーフィルタの代わりに透明膜CFW(白色)で覆われていると共に、瞳分割を行うため、配線層CLの開口部はマイクロレンズMLの中心線に対して一方向に偏倚されている。そのため、焦点検出用画素は、撮像に用いる画素としては欠陥画素となり、焦点検出画素の配置されている位置の画像用の信号は、周辺の撮像信号から補間して生成する必要がある。
【0051】
なお、ここで用いることのできる補間方法としては様々な手法が知られており、本発明は補間方法によって限定されるものではないため説明は省略するが、特定の被写体においては、補間ミスにより画像劣化が目立ってしまうことがある。特に、補間画素の割合が非補間画素に対して大きくなると、画質劣化の影響も大きくなってしまう。そのため、本発明では補間処理を行う対象領域を補間画素の割合に応じて変更することで、画像劣化の影響を目立ちにくくしている。以下に具体的に説明する。
【0052】
図9(a)は、静止画撮影時の補間処理の対象領域803を示している。静止画撮影時には、全画素が読み出されるため、補間処理を必要とする焦点検出用画素(補間画素)の割合が撮像用画素(非補間画素)に対して低くなり、画質劣化の影響が小さくなる。そのため、対象領域を焦点検出領域802に設定して、焦点検出用画素の配置パターンに合わせて補間処理を行う。
【0053】
図9(b)は、電子ビューファインダー使用時及び動画撮影時の補間処理の対象領域804を示している。電子ビューファインダー使用時及び動画撮影時には、図4を参照して説明したような画素間引き読み出しを行っているため、補間処理を必要とする焦点検出用画素の割合が撮像用画素に対して大きくなり、画像劣化の影響が大きくなる。そのため、補間処理の対象領域を有効画素領域801に設定して、焦点検出用画素の配置パターンに合わせて(すなわち、焦点検出領域802の補間パターンを用いて)補間処理を行う。
【0054】
このように、非補間画素に対する補間画素の割合に応じて、補間処理を行う対象領域を変更することで、特に画像劣化が目立つ補間領域と非補間領域との境界における画像劣化をより目立ちにくくすることが可能となる。
【0055】
なお、本実施の形態では、焦点検出領域802を撮像画面の中央部の矩形領域に配置したが、本発明の適用範囲はこれに限定されない。例えば、焦点検出領域を複数の領域に離散的に配置した場合や、円形、十字等の形で焦点検出領域を構成してもよい。このように構成した場合も、焦点検出用画素の混入比率に応じて補正対象領域を変更することは可能である。
【0056】
また、本実施の形態では、焦点検出用画素SA及びSBを1組として、位相差を求めるための画像信号を取得する場合について説明したが、焦点検出用画素の構成は、これに限るものではない。例えば、1つの焦点検出用画素が複数の光電変換領域を有し、それぞれの光電変換領域から独立に読み出しできるように構成することにより、撮影光学系の異なる瞳領域を通過した被写体光に基づく、位相差を有する複数の画像を取得することができる。
【0057】
<変形例>
上述した実施の形態では、焦点検出用画素のブロック配置パターンが1種類であるものとして説明したが、本発明は、複数種類のブロック配置パターンで構成した場合にも適用可能である。ここで、複数種類のブロック配置パターンで構成した場合について説明する。
【0058】
図10は、図5及び図6を参照して説明した撮像用画素及び焦点検出用画素SA、SBの配置例を示す2種類の画素配置図を示す。図10(a)は、焦点検出用画素を含む第1の配置パターンであり、12×24画素のブロック中に、2組の画素SA及び画素SBが配置されている(第1の混入比率)。また、図10(b)は、焦点検出用画素を含む第2の配置パターンであり、12×24画素のブロック中に、1組の画素SA及び画素SBが配置されている(第2の混入比率)。図10(c)は、補間パターンであり、塗りつぶして示した画素が補間対象画素である。
【0059】
そして、撮像素子107の撮影画面内に、第1の配置パターンのブロックと第2の配置パターンのブロックとが混在している場合に、図10(c)の補間パターンを用いて、補間処理を行う。このように、図10(c)の補間画素配置パターンで補間処理の対象領域を補間処理し、焦点検出用画素の配置が異なる第1の配置パターンと第2の配置パターンの領域の画像劣化の度合いを合わせて、画像劣化が目立たなくすることも可能である。
【0060】
また、上述した実施の形態では、間引き読み出し時の補間処理の対象領域を有効画素領域に合わせて説明したが、本発明はこれに限定されない。例えば、図11に示すように、焦点検出用画素の配置パターンを3種類設定する。そして、外周に向けて焦点検出用画素の混入比率を段階的に低下させることで、焦点検出領域802(第1の領域)と焦点検出画素を含まない領域(第2の領域)との境界(第3の領域)における画質劣化をより目立ちにくくすることも可能である。なお、配置パターンを4種類以上用いてもよいことは言うまでもない。
【0061】
また、静止画用の全画素読み出し時に補間対象領域を焦点検出領域よりも広げて補間処理した場合も同様の効果が得られることは明らかなため、本発明の適用範囲は間引き読み出しに限定されない。
【0062】
また、上述した実施の形態では、全画素読み出し時と、水平、垂直方向共に1/3間引きの間引き読み出し時との場合の例を示し、より補間画素の割合が非補間画素に対して大きくなる間引き読み出し時に、補間対象領域を広げる方法について説明した。これにより、補間対象領域と非補間対象領域との境界の画質劣化をより目立ちにくくしたが、読み出しモードの種類はこれに限定されない。つまり、補間画素の割合に応じて、補間対象領域を広げることも本発明の適用範囲である。
【0063】
例えば、撮像素子から水平、垂直方向のうち、少なくともいずれか一方を加算して読み出す加算読み出しにより、間引き読み出し時と同じ画素数を読み出した場合に、加算読み出し時の補間対象領域を広げた場合も同一の効果が得られる。より詳しくは、加算読み出しでは、画像信号に含まれる有効画素数が間引き読み出しよりも高くなるため、補間処理を行った際の画質劣化の影響が小さい。そのため、間引き読み出し時にのみ補間対象領域を広げて、補間対象領域と非補間対象領域の境界の画質劣化をより目立ちにくくすることも可能である。
【0064】
また、例えば、撮像素子から水平及び垂直方向のうち少なくともいずれか一方を所定の間引き率(例えば、垂直1/3画素間引き)で読み出す間引き読み出しと、より高い間引き率(例えば、垂直1/5画素間引き)で間引いて読み出す間引き読み出しを行う。そして得られる画像を比較した場合、より高い間引き率(例えば、垂直1/5画素間引き)で読み出した画像の方が、補間処理による画質劣化の影響が大きくなる。そこで、間引き率の高い(1/5画素間引き)間引き読み出し時のみ補間対象領域を広げて、補間対象領域と非補間対象領域の境界の画質劣化の目立ちを抑制するようにしてもよい。
【特許請求の範囲】
【請求項1】
撮像画面を構成する画素領域において、光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた第1の混入比率で混入された第1の領域と、前記第1の混入比率よりも低い第2の混入比率で前記焦点検出用画素が混入された第2の領域と、を有する撮像素子と、
前記第1の領域に含まれる前記焦点検出用画素から得られた画像信号を画像用に補間する補間パターンを用いて、前記第1の領域及び前記第2の領域から得られる画像信号を補間する補間手段と
を有することを特徴とする撮像装置。
【請求項2】
前記第2の混入比率は、前記焦点検出用画素が混入されていないことを示すことを特徴とする請求項1に記載の撮像装置。
【請求項3】
撮像画面を構成する画素領域において、光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた混入比率で混入された第1の領域と、前記焦点検出用画素が混入されていない第2の領域と、を有する撮像素子と、
前記第1の領域に含まれる前記焦点検出用画素から得られた画像信号を画像用に補間する補間パターンを用いて、前記撮像素子から得られた画像信号を補間する補間手段とを有し、
前記補間手段は、前記混入比率が高くなるにつれて、前記第1の領域よりもより広い領域の画像信号に対して前記補間を行うことを特徴とする撮像装置。
【請求項4】
前記撮像素子は、前記画素領域から全画素の信号を読み出す全画素読み出しと、一部の画素からの信号を読み出す間引き読み出しとにより画像信号を読み出し可能であって、
前記補間手段は、前記間引き読み出し時に前記補間を行い、前記全画素読み出し時には、前記焦点検出用画素から得られた画像信号のみに対して補間を行うことを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
【請求項5】
撮像画面を構成する画素領域において、
光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた第1の混入比率で混入された第1の領域と、
前記焦点検出用画素が混入されていない第2の領域と、
前記第1の領域と前記第2の領域との間の領域であって、前記第1の領域から前記第2の領域に向けて、前記第1の混入比率から段階的に混入比率が低下するように複数の前記焦点検出用画素が混入された第3の領域と
を有する撮像素子と、
前記焦点検出用画素から得られた画像信号を画像用に補間する補間手段と
を有することを特徴とする撮像装置。
【請求項6】
前記第1の領域が、前記撮像素子の撮像画面の中央部に配置されていることを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
【請求項7】
前記撮像素子は、間引き読み出しが可能であって、前記焦点検出用画素は、間引き読み出し時に読み出される画素の位置に配置されていることを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
【請求項8】
前記撮像素子の各画素はカラーフィルタにより覆われており、前記焦点検出用画素は、前記カラーフィルタの配列により色情報を取得するための画素と置き換えられて配置されていることを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
【請求項9】
光学系と、
前記撮像素子の焦点検出用画素から得られた、前記光学系の異なる瞳領域を通った光束それぞれに対応する画像信号の位相差に基づいて、デフォーカス量を検出する焦点検出手段と、
前記焦点検出手段により得られた前記デフォーカス量に基づいて、前記光学系を制御することにより、焦点を調節する制御手段と
を更に有することを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
【請求項10】
撮像画面を構成する画素領域において、光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた第1の混入比率で混入された第1の領域と、前記第1の混入比率よりも低い第2の混入比率で前記焦点検出用画素が混入された第2の領域と、を有する撮像素子から得られた画像信号を処理する画像処理方法であって、
補間手段が、前記第1の領域に含まれる前記焦点検出用画素から得られた画像信号を画像用に補間する補間パターンを用いて、前記第1の領域及び前記第2の領域から得られる画像信号を補間する補間工程を有することを特徴とする画像処理方法。
【請求項11】
撮像画面を構成する画素領域において、光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた混入比率で混入された第1の領域と、前記焦点検出用画素が混入されていない第2の領域と、を有する撮像素子から得られた画像信号を処理する画像処理方法であって、
補間手段が、前記第1の領域に含まれる前記焦点検出用画素から得られた画像信号を画像用に補間する補間パターンを用いて、前記撮像素子から得られた画像信号を補間する補間工程を有し、
前記補間工程で、前記混入比率が高くなるにつれて、前記第1の領域よりもより広い領域の画像信号に対して前記補間を行うことを特徴とする画像処理方法。
【請求項1】
撮像画面を構成する画素領域において、光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた第1の混入比率で混入された第1の領域と、前記第1の混入比率よりも低い第2の混入比率で前記焦点検出用画素が混入された第2の領域と、を有する撮像素子と、
前記第1の領域に含まれる前記焦点検出用画素から得られた画像信号を画像用に補間する補間パターンを用いて、前記第1の領域及び前記第2の領域から得られる画像信号を補間する補間手段と
を有することを特徴とする撮像装置。
【請求項2】
前記第2の混入比率は、前記焦点検出用画素が混入されていないことを示すことを特徴とする請求項1に記載の撮像装置。
【請求項3】
撮像画面を構成する画素領域において、光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた混入比率で混入された第1の領域と、前記焦点検出用画素が混入されていない第2の領域と、を有する撮像素子と、
前記第1の領域に含まれる前記焦点検出用画素から得られた画像信号を画像用に補間する補間パターンを用いて、前記撮像素子から得られた画像信号を補間する補間手段とを有し、
前記補間手段は、前記混入比率が高くなるにつれて、前記第1の領域よりもより広い領域の画像信号に対して前記補間を行うことを特徴とする撮像装置。
【請求項4】
前記撮像素子は、前記画素領域から全画素の信号を読み出す全画素読み出しと、一部の画素からの信号を読み出す間引き読み出しとにより画像信号を読み出し可能であって、
前記補間手段は、前記間引き読み出し時に前記補間を行い、前記全画素読み出し時には、前記焦点検出用画素から得られた画像信号のみに対して補間を行うことを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
【請求項5】
撮像画面を構成する画素領域において、
光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた第1の混入比率で混入された第1の領域と、
前記焦点検出用画素が混入されていない第2の領域と、
前記第1の領域と前記第2の領域との間の領域であって、前記第1の領域から前記第2の領域に向けて、前記第1の混入比率から段階的に混入比率が低下するように複数の前記焦点検出用画素が混入された第3の領域と
を有する撮像素子と、
前記焦点検出用画素から得られた画像信号を画像用に補間する補間手段と
を有することを特徴とする撮像装置。
【請求項6】
前記第1の領域が、前記撮像素子の撮像画面の中央部に配置されていることを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
【請求項7】
前記撮像素子は、間引き読み出しが可能であって、前記焦点検出用画素は、間引き読み出し時に読み出される画素の位置に配置されていることを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
【請求項8】
前記撮像素子の各画素はカラーフィルタにより覆われており、前記焦点検出用画素は、前記カラーフィルタの配列により色情報を取得するための画素と置き換えられて配置されていることを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
【請求項9】
光学系と、
前記撮像素子の焦点検出用画素から得られた、前記光学系の異なる瞳領域を通った光束それぞれに対応する画像信号の位相差に基づいて、デフォーカス量を検出する焦点検出手段と、
前記焦点検出手段により得られた前記デフォーカス量に基づいて、前記光学系を制御することにより、焦点を調節する制御手段と
を更に有することを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
【請求項10】
撮像画面を構成する画素領域において、光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた第1の混入比率で混入された第1の領域と、前記第1の混入比率よりも低い第2の混入比率で前記焦点検出用画素が混入された第2の領域と、を有する撮像素子から得られた画像信号を処理する画像処理方法であって、
補間手段が、前記第1の領域に含まれる前記焦点検出用画素から得られた画像信号を画像用に補間する補間パターンを用いて、前記第1の領域及び前記第2の領域から得られる画像信号を補間する補間工程を有することを特徴とする画像処理方法。
【請求項11】
撮像画面を構成する画素領域において、光学系の異なる瞳領域を通った光束をそれぞれ独立に受光して得られた画像信号をそれぞれ出力することのできる複数の焦点検出用画素が、予め決められた混入比率で混入された第1の領域と、前記焦点検出用画素が混入されていない第2の領域と、を有する撮像素子から得られた画像信号を処理する画像処理方法であって、
補間手段が、前記第1の領域に含まれる前記焦点検出用画素から得られた画像信号を画像用に補間する補間パターンを用いて、前記撮像素子から得られた画像信号を補間する補間工程を有し、
前記補間工程で、前記混入比率が高くなるにつれて、前記第1の領域よりもより広い領域の画像信号に対して前記補間を行うことを特徴とする画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2013−78085(P2013−78085A)
【公開日】平成25年4月25日(2013.4.25)
【国際特許分類】
【出願番号】特願2011−218321(P2011−218321)
【出願日】平成23年9月30日(2011.9.30)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成25年4月25日(2013.4.25)
【国際特許分類】
【出願日】平成23年9月30日(2011.9.30)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]