撮像装置及び撮像プログラム
【課題】位相差AFにより被写体に合焦するときに、被写体に対して忠実に合焦することができる撮像装置及び撮像プログラムを提供する。
【解決手段】被写体であるオブジェクトを認識してAF処理の被写体エリアを定め(120〜124)、被写体を全て含む大エリアと被写体内領域の小エリアを設定し、各空間周波数分布を求め(124〜132)、被写体のみによる空間周波数帯域を通過させるフィルタによるフィルタ演算により(134,136)、背景を含むエリアを被写体エリアとして定めても精度良く被写体に合焦させることができる(138〜144)。
【解決手段】被写体であるオブジェクトを認識してAF処理の被写体エリアを定め(120〜124)、被写体を全て含む大エリアと被写体内領域の小エリアを設定し、各空間周波数分布を求め(124〜132)、被写体のみによる空間周波数帯域を通過させるフィルタによるフィルタ演算により(134,136)、背景を含むエリアを被写体エリアとして定めても精度良く被写体に合焦させることができる(138〜144)。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置及び撮像プログラムに係り、特に、被写体までの距離を検出し撮像レンズの焦点位置制御を行う撮像装置及び撮像プログラムに関する。
【背景技術】
【0002】
主要な被写体までの距離を検出する合焦位置検出には、コントラスト方式や位相差オートフォーカス(以下、位相差AFという)方式が知られている。位相差AF方式は、コントラスト方式に比べて合焦位置の検出を高速,高精度に行うことができるため、一眼レフカメラで多く採用されている。
【0003】
特許文献1には、撮影画像の輝度分布から、撮影シーンを判定し、判定したシーンに応じたフィルタ処理を行った後、位相差AFの評価値の演算を行う技術が開示されている。
【0004】
また、特許文献2には、撮影画像の周波数分布に応じて、位相差AF方式とコントラスト方式とを切り替える技術が開示されている。
【0005】
さらに、特許文献3には、顔特徴量抽出処理によって撮影画像から被写体を検出し、合焦動作前に予め検出された被写体の種類等に応じてAF評価値演算阻害領域を決定し、マルチエリアAFの各AFエリアからその領域を除外した後の残存領域を用いてAF評価値の演算を行う技術が開示されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2003―215434号公報
【特許文献2】特開2009―63921号公報
【特許文献3】特開2010―160297号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、被写体に対する合焦位置を検出するためにはある程度の領域(画角)が必要であり、被写体のみならず、その背景を含む領域を、検出対象の領域とする場合がある。例えば、顔などの主要被写体に合焦を希望する場合、顔の背景を含む一定の領域を合焦の検出対象としたときには、その背景に対して合焦される場合がある。
【0008】
本発明は上記事実を考慮してなされたものであり、位相差AFにより被写体に合焦するときに、被写体に対して忠実に合焦することができる撮像装置及び撮像プログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
上記目的を達成するため、請求項1記載の発明の撮像装置は、被写体の画像を撮像する受光面に設けられた位相差検出エリア内に、瞳分割した第1の位相差検出画素及び第2の位相差検出画素で構成されるペア画素が配列形成された撮像素子と、前記撮像素子の前段に置かれ、前記被写体の合焦した光学像を前記受光面に結像させる撮像レンズと、前記合焦する被写体を特定し、該合焦する被写体の領域を全て含む包含エリアと、該合焦する被写体の領域の一部からなる内包エリアの各々を設定するエリア設定手段と、前記設定した包含エリア及び内包エリアの各々の空間周波数分布を演算し、演算した空間周波数分布の各々に基づいて前記被写体の領域に対応する空間周波数を通過させるフィルタを作成するフィルタ作成手段と、前記作成したフィルタを用いて前記被写体の領域に対応する空間周波数に該当する前記第1の位相差検出画素の第1検出情報と前記第2の位相差検出画素の第2検出情報とを生成する生成手段と、前記生成した第1検出情報と第2検出情報との相関関係を示す被写体の相関演算曲線を求め、該相関演算曲線から前記撮像レンズを前記合焦位置に制御する位相差を求める位相差演算手段と、前記求めた位相差に基づき前記撮像レンズを前記合焦する位置に制御する位置制御手段と、を備えている。
【0010】
本発明によれば、合焦する被写体を全て含む包含エリアと、被写体の一部領域からなる内包エリアとを設定し、これらの包含エリア及び内包エリアの空間周波数分布に基づいて、被写体の空間周波数を通過させるフィルタを作成する。このフィルタを用いて被写体の領域に対応する第1検出情報と第2検出情報を生成して、これらの相関関係から撮像レンズを合焦位置に制御する位相差を求めて撮像レンズを合焦する。これにより、被写体のみによる空間周波数(帯域)を得るフィルタ作成が可能となり、この被写体のみによる空間周波数帯域を通過させるフィルタを用いて位相差検出画素の検出情報をフィルタ演算することで、背景を含む包含エリアであっても精度良く被写体に合焦させることができる。
【0011】
なお、前記撮像素子は、水平方向及び垂直方向に配列された複数の光電変換素子を含むことができる。また、撮像素子は、半導体基板に二次元アレイ状に配列形成された複数の画素を備えかつ、前記複数画素のうち一部の画素が位相差検出画素として形成された固体撮像素子を採用することができる。
【0012】
請求項2の発明では、前記フィルタ作成手段は、前記包含エリア及び内包エリアの空間周波数分布のうち類似した空間周波数分布の周波帯域に対応する前記包含エリアの周波帯域を、前記被写体の領域としてフィルタを作成する。作成したフィルタ、例えば、空間周波数分布のうち低周波帯域を通過させるフィルタにより、被写体のみの空間周波数による演算が可能となり、合焦精度が向上する。
【0013】
請求項3の発明では、前記フィルタ作成手段は、前記包含エリア及び内包エリアの空間周波数分布に基づいて、前記包含エリアの空間周波数分布について前記被写体の領域と背景領域との各々に対応する周波帯域に分離し、分離した前記被写体の領域に対応する周波帯域を、前記被写体の領域としてフィルタを作成する。例えば、空間周波数の低周波帯域側で変曲点を分離ポイントとすることで、被写体と背景との空間周波数に分離することができ、合焦精度が向上する。
【0014】
請求項4の発明では、前記エリア設定手段は、前記被写体領域の周囲を少なくとも含みかつ前記被写体領域の外周に外接する外接エリアを包含エリアに設定し、前記被写体領域のみからなり前記被写体領域の外周に内接する内接エリアを内包エリアに設定する。このように、内接エリアと外接エリアを設定することで、合焦演算するための画素数を増加でき、合焦精度が向上する。
【0015】
請求項5の発明では、前記エリア設定手段は、前記包含エリア及び内包エリアを四角形とし、前記合焦する被写体の中心から四角形を徐々に拡大して前記被写体領域の外周に内接した内包エリアを設定すると共に、前記被写体領域の周囲から四角形を徐々に縮小して前記被写体領域の外周に外接した包含エリアを設定する。このように、四角形例えば、長方形によってエリア設定が容易となる。
【0016】
請求項6の発明では、前記エリア設定手段は、前記四角形を徐々に拡大して前記内包エリアを設定する場合、前記被写体領域の外周に内接した内包エリアから予め定めた拡大設定量だけ拡大した拡大エリアを内包エリアとして設定する。例えば、エリアが極小の場合、そのエリアを拡大できるので、合焦演算するための画素数を増加でき、合焦精度が向上する。
【0017】
請求項7の発明では、前記撮像レンズは、絞りを具備し、前記エリア設定手段は、前記撮像レンズの焦点距離及び絞り値に基づいて焦点深度を求め、求めた焦点深度に基づいて前記拡大設定量を設定する。焦点深度等の撮影条件に応じてエリアを拡大でき、合焦精度が向上する。
【0018】
請求項8の発明では、前記エリア設定手段は、前記包含エリア及び内包エリアを四角形とし、前記四角形を徐々に拡大して前記内包エリアを設定する場合、前記四角形に含まれる画素数による面積及び前記四角形の縦横比について、予め定めた閾値を超える面積及び縦横比の拡大エリアを内包エリアとして設定する。従って、画素面積や縦横比(アスペクト比)でエリアを正弦できるので、合焦処理に必要な画素数を確保できる。
【0019】
請求項9の発明では、前記エリア設定手段は、前記被写体領域の重心を求め、求めた被写体の重心から四角形を徐々に拡大して内包エリアを設定する。これにより、被写体に忠実なエリア設定のための起点を設定できる。
【0020】
請求項10の発明は、被写体の画像を撮像する受光面に設けられた位相差検出エリア内に、瞳分割した第1の位相差検出画素及び第2の位相差検出画素で構成されるペア画素が配列形成された撮像素子と、前記撮像素子の前段に置かれ、前記被写体の合焦した光学像を前記受光面に結像させる撮像レンズと、を備えた撮像装置において実行させる撮像プログラムであって、前記合焦する被写体を特定し、該合焦する被写体の領域を全て含む包含エリアと、該合焦する被写体の領域の一部からなる内包エリアの各々を設定するエリア設定ステップと、前記設定した包含エリア及び内包エリアの各々の空間周波数分布を演算し、演算した空間周波数分布の各々に基づいて前記被写体の領域に対応する空間周波数を通過させるフィルタを作成するフィルタ作成ステップと、前記作成したフィルタを用いて前記被写体の領域に対応する空間周波数に該当する前記第1の位相差検出画素の第1検出情報と前記第2の位相差検出画素の第2検出情報とを生成する生成ステップと、前記生成した第1検出情報と第2検出情報との相関関係を示す被写体の相関演算曲線を求め、該相関演算曲線から前記撮像レンズを前記合焦位置に制御する位相差を求める位相差演算ステップと、前記求めた位相差に基づき前記撮像レンズを前記合焦する位置に制御する位置制御ステップと、の各ステップをコンピュータによって実行させる。
【発明の効果】
【0021】
本発明によれば、被写体のみによる空間周波数を得るフィルタを用いて位相差検出画素の検出情報をフィルタ演算することで、背景を含む包含エリアであっても精度良く被写体に合焦させることができる、という効果を有する。
【図面の簡単な説明】
【0022】
【図1】撮像装置の概略ブロック図である。
【図2】位相差検出エリア40内の一部分の表面拡大模式図である。
【図3】位相差検出画素1x,1yの模式図である。
【図4】第1実施形態に係る撮像処理の流れを示すフローチャートである。
【図5】合焦処理の流れを示すフローチャートである。
【図6】エリアの模式図であり、(A)は被写体内エリア、(B)は被写体包含エリアを示す。
【図7】被写体エリアの空間周波数分布を示す線図である。
【図8】第2実施形態に係る外接エリア設定処理の流れを示すフローチャートである。
【図9】第2実施形態に係る内接エリア設定処理の流れを示すフローチャートである。
【図10】内接エリアの設定処理の流れについての説明図である。
【図11】外接エリアの設定処理の流れについての説明図である。
【図12】第3実施形態に係る内接エリア設定処理の流れを示すフローチャートである。
【図13】内接エリアの設定処理の流れについての説明図である。
【図14】撮影条件で定まる焦点深度に対する拡大設定値の関係を示す線図である。
【図15】第4実施形態に係る形状判定処理の流れを示すフローチャートである。
【図16】被写体エリアの形状に関する閾値を設定処理の説明図である。
【図17】第5実施形態に係る重心設定処理の流れを示すフローチャートである。
【図18】重心設定処理の流れについての説明図である。
【図19】第6実施形態に係る被写体内エリアの設定処理の流れを示すフローチャートである。
【発明を実施するための形態】
【0023】
以下、図面を参照して本発明の実施形態について説明する。
【0024】
(第1実施形態)
図1には、本発明の一実施形態に係る撮像装置10の概略ブロック図を示した。撮像装置10は、被写体の静止画像或いは動画像を撮影し撮像装置10内で撮像画像信号をデジタル処理する機能を有し、望遠レンズ及びフォーカスレンズを備える撮像レンズ20と、撮像レンズ20の背部に置かれその結像面に配置された固体撮像素子21と、固体撮像素子21の各画素から出力されるアナログの画像データを自動利得調整(AGC)や相関二重サンプリング処理等のアナログ処理するアナログ信号処理部22と、アナログ信号処理部22から出力されるアナログ画像データをデジタル画像データに変換するアナログデジタル変換部(A/D)23と、後述のシステム制御部(CPU)29からの指示によってA/D23,アナログ信号処理部22,固体撮像素子21,撮像レンズ20の駆動制御を行う駆動制御部24と、CPU29からの指示によって発光するフラッシュ25とを含んで構成されている。
【0025】
また、撮像装置10は、A/D23から出力されるデジタル画像データを取り込み補間処理やホワイトバランス補正,RGB/YC変換処理等を行うデジタル信号処理部26と、画像データをJPEG形式などの画像データに圧縮したり逆に伸長したりする圧縮/伸長処理部27と、メニューなどを表示したりスルー画像や撮像画像を表示する表示部28と、撮像装置全体を統括制御するシステム制御部(CPU)29と、フレームメモリ等の内部メモリ30と、JPEG画像データ等を格納する記録メディア32との間のインタフェース処理を行うメディアインタフェース(I/F)部31と、これらを相互に接続するバス40とを備えており、また、システム制御部29には、ユーザからの指示入力を行う操作部33が接続されている。
【0026】
システム制御部29は、固体撮像素子21から動画状態で出力されデジタル信号処理部26で処理された撮像画像データ(スルー画像)を配下のデジタル信号処理部26等を用いて後述するように解析して評価曲線(相関演算曲線)を求め、主要被写体までの距離を検出する。そして、システム制御部29は、駆動部24を介し、撮像レンズ20のうちのフォーカスレンズの位置制御を行い、被写体に合焦した光学像が固体撮像素子21の受光面に結像するようにする。
【0027】
固体撮像素子21は、本実施形態ではCMOS(Complementary Metal Oxide Semiconductor)型であり、固体撮像素子21の出力信号をアナログ信号処理部(AFE:アナログフロントエンド)22で処理するが、このAFE部分(相関二重サンプリング処理やクランプを行う回路、利得制御を行う信号増幅回路等)は固体撮像素子チップ上に周辺回路として設けられるのが普通である。また、固体撮像素子21のチップ上には、その他にも、水平走査回路や垂直走査回路、雑音低減回路,同期信号発生回路等が周辺回路として受光部周りに形成され、A/D変換部23も形成される場合がある。なお、固体撮像素子21は、CCD(Charge Coupled Device)型でも、以下の実施形態に適用可能である。
【0028】
固体撮像素子21の受光面には、図示しない多数の画素(受光素子:フォトダイオード)が二次元アレイ状に配列形成されている。本実施形態では、複数の画素が正方格子状に配列形成されている。なお、画素配列は正方格子配列に限るものではなく、奇数行の画素行に対して偶数行の画素行が1/2画素ピッチづつずらして配列された、所謂、ハニカム画素配列でも良い。
【0029】
受光面の任意の一部領域位置(例えば中央位置)に、矩形の位相差検出エリア40が設けられている。この例では、位相差検出エリア40は受光面に対して1箇所だけ設けているが、撮影画面内のどこでも合焦できるよう複数箇所に設けても良い。受光面の全領域を位相差検出エリアとすることでも良い。この位相差検出エリア40により、位相差検出方向(この例では左右方向つまりx方向を位相差検出方向としている。)で被写体までの合焦位置を検出する。
【0030】
図2は、位相差検出エリア40内の一部分の表面拡大模式図である。固体撮像素子21の受光面には、多数の画素が正方格子配列されており、位相差検出エリア40内でも同様である。
【0031】
図示する例では、各画素をR(赤),G(緑),B(青)で示している。R,G,Bは各画素上に積層したカラーフィルタの色を表し、カラーフィルタ配列は、この例ではベイヤ配列となっているが、ベイヤ配列に限るものではなく、ストライプ等の他のカラーフィルタ配列でも良い。
【0032】
位相差検出エリア40内の画素配列,カラーフィルタ配列は、位相差検出エリア40外の受光面の画素配列,カラーフィルタ配列と同じであるが、位相差検出エリア40内では、ペアを構成する斜めに隣接する同色画素を、位相差検出画素1x,1yとしている。位相差検出用のペア画素は、本実施形態では、エリア40内の離散的,周期的な位置、図示する例では市松位置に設けられている。
【0033】
なお、図示する例では、カラーフィルタ配列がベイヤ配列のため同色画素が斜めに隣接するのであって、横ストライプ配列の場合には同色画素は水平方向に並ぶため、ペアを構成する2画素は横に隣接することになる。あるいは、横ストライプ配列で同じ色フィルタ行内にペアを構成する2画素を設けるのではなく、縦方向に最近接する同色のフィルタ行の夫々にペアを構成する各画素を離して設けることでも良い。縦ストライプ配列の場合も同様である。
【0034】
本実施形態では、位相差検出画素1x,1yを、R,G,Bのうち最も多いGフィルタ搭載画素に設けており、水平方向(x方向)に8画素置き、垂直方向(y方向)に8画素置き、かつ全体的に市松位置となるように配置されている。従って、位相差検出方向(左右方向)で見たとき、位相差検出画素1xは4画素置きに配置されることになる。
【0035】
図3は、図2の位相差検出画素1x,1yだけを抜き出して模式的に表示した図である。ペア画素を構成する位相差検出画素1x,1yは、例えば、その遮光膜開口2x,2yが他の画素(位相差検出画素以外の画素)より小さく形成され、かつ、画素1xの遮光膜開口2xは左方向に偏心して設けられ、画素1yの遮光膜開口2yは右方向(位相差検出方向)に偏心して設けられている。
【0036】
図3の下段に示す曲線Xは、横一行に並ぶ位相差検出画素1xの検出信号量をプロットしたグラフであり、曲線Yは、これら画素1xとペアを構成する位相差検出画素1yの検出信号量をプロットしたグラフである。
【0037】
ペア画素1x,1yは隣接画素であり極めて近接しているため、同一被写体からの光を受光していると考えられる。このため、曲線Xと曲線Yとは同一形状になると考えられ、その左右方向(位相差検出方向)のずれが、瞳分割したペア画素の一方の画素1xで見た画像と、他方の画素1yで見た画像との位相差量となる。
【0038】
この曲線Xと曲線Yの相関演算を行うことで、位相差量(横ズレ量)を求めることができ、この位相差量から被写体までの距離を算出することが可能となる。曲線Xと曲線Yの相関量の評価値を求める方法は、公知の方法(例えば、特開2010―8443号公報
特開2010―91991号公報参照)を用いることができる。例えば、曲線Xを構成する各点X(i)と、曲線Yを構成する各点Y(i+j)の差分の絶対値の積算値を評価値とし、最大評価値を与えるj値を、位相差量(横ズレ量)とする。
【0039】
ところで、1画素1画素の受光面積が小さい場合、個々の信号量は小さくなってノイズの割合が増えるため、相関演算を行っても精度良く位相差量を検出することが困難となる。そこで、位相差検出エリア40内の画素数を増加させたり、位相差検出エリア40それ自体を,拡大したりすることで、ノイズの影響を低減して合焦位置の検出精度(AF精度)を向上させることが可能となる。
【0040】
ところが、位相差検出エリア40内の画素数を増加させたり、位相差検出エリア40それ自体を拡大したりすると、位相差検出画素の配置領域が上下方向(垂直方向)や左右方向(水平方向)に延びることになる。これによって、本来合焦すべき被写体に対する位相差検出をする領域(実際の位相差検出エリア)には、本来合焦すべき被写体パターンに加え、背景などの周囲パターンを含んだものとなり、位相差を求める評価値が下がってしまう場合がある。例えば、背景などの周囲パターンに合焦される、所謂後ピン状態が生じる場合がある。
【0041】
そこで、本実施形態では、合焦すべき被写体に対する位相差検出をする領域について、被写体の一部エリア(内包エリア)と、被写体の周囲を含む全部エリア(包含エリア)とを定めて、各々のエリアについて空間周波数分布を求めて、合焦すべき被写体に関係性が希薄な検出信号、例えば背景を除去した検出信号によって合焦させることで、合焦位置の検出精度(AF精度)を向上させる。
【0042】
すなわち、被写体と、その被写体の背景とでは、各々の空間周波数分布が相違することが一般的である。このため、内包エリアでは被写体の空間周波数が顕著に表れた空間周波数分布となり、包含エリアでは、被写体とその背景等の被写体に関係性が希薄な物品との双方についての空間周波数が含まれる空間周波数分布となる。この包含エリアの空間周波数から背景等の被写体に関係性が希薄な物品の空間周波数を除去すれば、実際の位相差検出エリアとして被写体に忠実な空間周波数分布を採用できる。
【0043】
次に、本実施形態に係る撮像装置10の作用を説明する。まず、撮影時における撮像装置10の全体的な動作について簡単に説明する。
【0044】
まず、固体撮像素子21により撮像レンズ20を介した撮像を行い、被写体像を示すR(赤)、G(緑)、B(青)の信号をアナログ信号処理部22に順次出力する。アナログ信号処理部22は、固体撮像素子21から入力された信号に対して相関二重サンプリング処理等のアナログ信号処理を施した後にA/D変換部23に順次出力する。A/D変換部23は、アナログ信号処理部22から入力されたR,G,Bの信号を例えば各々12ビットのR,G,Bの信号(デジタル画像データ)に変換してデジタル信号処理部26に順次出力する。デジタル信号処理部26は、内蔵しているラインバッファにA/D変換部23から順次出力されるデジタル画像データを蓄積して一旦内部メモリ30の所定領域に格納する。
【0045】
内部メモリ30の所定領域に格納されたデジタル画像データは、システム制御部29による制御によりデジタル信号処理部26によって読み出され、これらに所定の物理量に応じたデジタルゲインをかけることでホワイトバランス調整を行なうと共に、ガンマ処理及びシャープネス処理を行なって例えば8ビットのデジタル画像データを生成し、更にYC信号処理を施して輝度信号Yとクロマ信号Cr,Cb(以下、「YC信号」という。)を生成し、YC信号を内部メモリ30の上記所定領域とは異なる領域に格納する。
【0046】
なお、表示部28は、固体撮像素子21による連続的な撮像によって得られた動画像(スルー画像)を表示してファインダとして使用可能に構成されている。この場合には、生成したYC信号が順次表示部28に出力される。これによって表示部28にスルー画像が表示されることになる。
【0047】
次に、図4に示す撮像処理ルーチンを参照してシステム制御部29の処理概要を説明する。
【0048】
撮影者は、表示部28に表示されるスルー画像で被写体を確認しつつ構図を決定する。このとき、システム制御部29は、操作部33のレリーズボタンが撮影者によって半押し状態S1とされた場合に、スルー画像を確認できる程度に、AE(Automatic Exposure、自動露出)機能による露出状態(シャッタースピード、絞りの状態)の設定、及びAF(Auto Focus、自動合焦)機能による合焦制御を行わせ、そのスルー画像で被写体を認識する(ステップ100)。その後に、レリーズボタンが全押し状態S2とされた場合(ステップ102)、AE機能が働き最終的な露出状態が設定された後(ステップ104)、詳細を後述するAF機能が働いて合焦制御され(ステップ106)、引き続き撮像レンズ20による固体撮像素子21への露光がなされ(ステップ108)、固体撮像素子21からアナログ信号が読み出される(ステップ110)。次に、アナログ信号をデジタル画像データに変換させ(ステップ112)、ホワイトバランス調整やガンマ処理及びシャープネス処理等の画像処理を行わせ(ステップ114)、圧縮伸長処理部27によって所定の圧縮形式(例えばJPEG形式)で圧縮させた後に(ステップ116)、メディアインタフェース部31を介して記録メディア32に記録させる(ステップ118)。
【0049】
次に、図4のステップ106における合焦処理について、図5に示すフローチャートを参照して詳細に説明する。
【0050】
AF処理が開始されると、ステップ120においてオブジェクト認識処理が実行される。このオブジェクト認識処理は、上記ステップ100において実行された、スルー画像で被写体を認識する処理の結果、撮影対象として判別された被写体を特定する処理である。このオブジェクトの一例には、人物の顔があり、ここでの処理は顔検出処理を実行させることができる。次のステップ122では、オブジェクト、例えば顔が検出されたか否かを判定する。なお、オブジェクト認識処理は、公知の方法(例えば、特開2006―270137号公報、特開2007―142525号公報等参照)を用いることができる。
【0051】
オブジェクトが検出されなかった場合には、ステップ138へ進み、従来の位相差AFと同様に、位相差検出エリア40について、位相差検出画素1xから求めた曲線Xと位相差検出画素1yから求めた曲線Yとの相関演算を行う。そして、相関演算の結果として得られたエリア評価曲線に基づき、デフォーカス量を算出し(ステップ140)、次のステップ142においてAF判定する。このAF判定は、相関演算の結果が許容できる範囲内であるか否かを判定することや算出されたデフォーカス量が許容できる範囲内であるか否かを判定すること等により判断される。ステップ142で肯定判断されると、ステップ144において撮像レンズの合焦制御を行い、この処理を終了する。ステップ142で否定判断されると、ステップ146において予め定めたエラー処理が実行される。
【0052】
一方、オブジェクトが検出された場合(ステップ122で肯定)、ステップ124へ進み、AF処理するための被写体エリアの数量(本実施形態では大小2個)を決定する。この被写体エリアの数量は、2個に限定されるものではなく、大中小の3個、またはそれ以上でもよい。
【0053】
次のステップ126では、ステップ124で決定した被写体エリアのうち一方の被写体エリアとして、ステップ120で認識したオブジェクトの被写体を少なくとも全て含む被写体包含エリア(大エリア)を設定し、次のステップ128で被写体包含エリアの空間周波数分布を算出する。そして、次のステップ130では、他方の被写体エリアとして、オブジェクトである被写体内の領域となる被写体内エリア(小エリア)を設定し、次のステップ132で被写体内エリアの空間周波数分布を算出する。
【0054】
図6には、ステップ126および130で設定する大小エリアを模式的に示し、(A)は被写体内エリア、(B)は被写体包含エリアを示す。図6では、被写体エリアに四角形状を採用した場合を示している。被写体エリアを四角形状に限定するものではない。図6(A)に示すように、被写体内エリア60は、被写体である顔50の内部の閉領域が設定され、被写体のみのエリア64内部になっている。図6(B)に示すように、被写体包含エリア62は、被写体である顔50の全領域が包含された閉領域が設定され、被写体のみのエリア64と背景エリア66から構成されることになる。被写体エリアを四角形状とした場合、面積確保の観点から、被写体内エリア60は顔50の輪郭に内接する内接エリアを設定することが好ましい。また、被写体包含エリア62は顔50の輪郭に外接する外接エリアを設定することが好ましい。
【0055】
図7には、被写体エリアの空間周波数分布を示した。曲線70は、被写体内エリア60の空間周波数分布を示し、曲線72は、被写体包含エリア62の空間周波数分布を示している。曲線70は、低周波数側にピーク74を有する特性であり、曲線72は、低周波数側及び高周波数側の双方にピーク76,78を有する特性である。一方、被写体包含エリア62は、被写体のみのエリア64と背景エリア66から構成され、両方の空間周波数分布が重畳されたものである。一方、被写体内エリア60は、被写体の空間周波数分布である。このことから、低周波数側のピーク74とピーク76を含む周波数域は被写体に対応するもので、ピーク78を含む周波数域は背景エリア66によるものと推定できる。従って、曲線72についてピーク78を含む一定の周波数域を除去すれば、被写体のみによる空間周波数(帯域)を得ることができる。これによって、被写体のみによる空間周波数帯域を通過させるフィルタを用いて位相差検出信号をフィルタ演算すれば、背景を含むエリアを被写体エリアとして定めても精度良く被写体に合焦させることができる。
【0056】
そこで、ステップ134では、ステップ128および132で算出した空間周波数からフィルタを作成する。ここでは、曲線72についてピーク78を含む一定の周波数域を定めるために、曲線72の変曲点すなわちピーク76からピーク78に至るまでの最低度数分布となる点80を求め、その空間周波数fxを境界空間周波数に設定する。そして、ピーク76の空間周波数を含む空間周波数fxまでの周波数域Fをバンドパスするフィルタを作成する。
【0057】
次のステップ136では、ステップ134で作成したフィルタを用いて、位相差検出信号を信号処理する。この信号処理された信号は、背景エリアが除去されたものとなる。そして、上述のように、相関演算を行い、得られたエリア評価曲線に基づきデフォーカス量を算出して、撮像レンズの合焦制御を行うことで(ステップ138〜144)、背景を含むエリアを被写体エリアとして定めても精度良く被写体に合焦させることができる。
【0058】
(第2実施形態)
次に、本発明の第2実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
【0059】
本実施形態は、被写体エリアの設定の一例を示すものであり、その他は第1実施形態と同様である。
【0060】
本実施形態では、図5のステップ126の処理について、図8に示す外接エリア設定処理が実行される。また、図5のステップ130の処理では、図9に示す内接エリア設定処理が実行される。以下、図8及び図9のフローチャートを参照して詳細に説明する。
【0061】
被写体包含エリアの設定処理が実行されると(図5のステップ126)、図8のステップ150へ進み、前記認識したオブジェクトの被写体52の境界線(輪郭)54を求める。次に、境界線(輪郭)54について、横座標の最大値Xmaxと最小値Xminを求め(ステップ152)、縦座標の最大値Ymaxと最小値Yminを求める(ステップ154)。これらの座標から次のステップ156において被写体包含エリア(大エリア)として外接エリア63を設定する。外接エリア63の設定は、まず、対角座標点63A(Xmin,Ymin)と対角座標点63B(Xmax,Ymax)を求める。この対角座標点63A,63Bの線分対角線とする四角形を外接エリア63に設定する(図11参照)。
【0062】
また、被写体内エリアの設定処理が実行されると(図5のステップ130)、図9のステップ158へ進み、前記認識したオブジェクトの被写体52の中心点61Pを求める。この中心点61Pは、オブジェクト認識時に求めた中心でもよく、ステップ156で求めた外接エリア63の対角線の交点を求めることでも良い。次のステップ160では、上記ステップ150と同様に被写体52の境界線(輪郭)54を設定する。次に、中心点61Pを中心とした所定の大きさ(例えば周囲8画素)を拡張エリア61Aとして設定する。そして拡張エリアの辺または角が境界線(輪郭)54に接触するまで拡張エリアを拡張する(図10参照。拡張エリア61A、61B、61Cの順序)。この辺または角が接触した拡張エリア(四角形)を内接エリア63に設定する(図10参照)。
【0063】
なお、拡張エリアの拡張は、例えば1画素づつ周囲画素を増殖してもよいし、辺または角が接触していない方向の画素を増殖するようにしてもよい。
【0064】
本実施形態では、被写体が複雑な輪郭であっても外接エリア及び内接エリアの各々について、迅速かつ最大面積となるように設定することができる。
【0065】
(第3実施形態)
次に、本発明の第3実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
【0066】
本実施形態は、被写体内エリアの設定について許容範囲を設けたものであり、構成は上記実施形態と同様である。
【0067】
被写体内エリアを設定した場合、その設定した被写体エリアたとえば内接エリアが極小である場合、その極小の内接エリアは合焦するために十分な画素数でないことがある。そこで本実施形態では、内接エリアが極小である場合に、予め定めた許容範囲まで内接エリアを拡大して設定することを可能にしたものである。この許容範囲の最大値は、設定済みの外接エリアである。すなわち、内接エリア61から外接エリア63までの間で、拡大した拡大エリア65を内接エリア61として設定することができるようにしたものである(図13参照)。
【0068】
本実施形態は、図9のステップ168の処理で設定された内接エリアが、極小である場合に、図12に示す内接エリア設定処理が実行される。以下、図12のフローチャートを参照して詳細に説明する。
【0069】
被写体内エリア(内接エリア)の設定が終了すると(図9)、図12のステップ170へ進み、設定された内接エリアが極小か否かを判断し、否定された場合には、内接エリアは合焦するために十分な画素数を確保できるため、そのまま処理を終了する。内接エリアが極小か否かの判断基準は、合焦するために十分な画素数として予め定めた画素数やその画素数による面積を用いることができる。
【0070】
ステップ170で肯定されると、ステップ172へ進み、拡大可能な内接エリアの許容範囲(拡大設定値)を設定する。次のステップ174では、拡張エリアを拡張、例えば1画素分だけ拡張し、拡大設定値になるまで(ステップ176で肯定されるまで)繰り返し実行する。そして、最終的な拡張エリアを(ステップ176で肯定)、被写体内エリアとして設定する(ステップ178)。
【0071】
この拡大設定値は、上述のように、許容範囲(拡大設定値)の最大値として、設定済みの外接エリアが可能であるが(図13参照)、合焦するために必要とされる所定画素数となるエリアになれば十分である。また、外接エリア近傍まで拡張エリアを拡大したのでは、背景を多く含むことになり、合焦精度に支障を来す場合がある。そこで、この拡大設定値は、既に設定済みの外接エリアまでの値(例えば画素数や面積)を設定してもよいが、予め定めた指定値(例えば、合焦するために必要とされる予め定められた画素数)を設定することが好ましい。
【0072】
ところで、実際の撮影時は、撮影シーンに応じて撮影条件が異なるものである。例えば、マクロ撮影などの近距離撮影時では焦点距離及び絞り値等による撮影条件によって焦点深度(被写界深度)が浅くなる。一方、風景や集合写真のような近距離撮影時の撮影条件では比較的焦点深度が深くなる。このように、撮影条件によって焦点深度が変動するので、一律に拡大設定値を定めて拡張エリアを拡大可能としたのでは、被写体に合焦されず、背景に合焦され(所謂後ピン)、合焦精度が悪化する。
【0073】
そこで、ステップ172では、撮影条件に応じて拡大可能な内接エリアの許容範囲(拡大設定値)を設定することが好ましい。
【0074】
図14には、焦点距離及び絞り値による撮影条件で定まる焦点深度(被写界深度)に対する拡大設定値の関係を示した。焦点深度(被写界深度)と拡大設定値は対応関係がある。すなわち、焦点深度が深ければ撮影軸方向の合焦距離が長くなるので、拡張エリアに多少背景を含んだとしても合焦に対する影響が少なくなり、拡大設定値を大きくすることができる。一方、焦点深度が浅ければ撮影軸方向の合焦距離が短くなるので、拡大設定値は小さくする必要がある。そこで、撮影時の焦点深度(被写界深度)を得れば、撮影条件に応じて拡大可能な内接エリアの許容範囲(拡大設定値)を設定することができる。図14では、一例として、撮像装置10に具備された、焦点距離に直接影響するズーム位置に応じて拡大可能な内接エリアの許容範囲(拡大設定値)を設定することができる特性曲線hを示した。すなわち、テレ側では焦点距離が短くなり、ワイド側では焦点距離が長くなる。この特性曲線hに、絞り等の撮影条件をさらに付加して許容範囲(拡大設定値)を設定するようにしてもよい。
【0075】
また、撮影条件に応じて拡大可能な内接エリアの許容範囲を定めるために、上述の空間周波数分布を利用することができる。図7に示したように、背景を含む被写体エリアの空間周波数分布の曲線72では、上述の処理によりピーク78を含む周波数域が背景エリア66と推定できる。一方、拡張エリアを拡大することは、その背景エリア66をより多く含むことになる。つまり、空間周波数fxが高周波側へシフトすることになる。そこで、拡張エリアを拡大したことにより空間周波数fxが高周波側へシフトしたときに、背景エリア66がどの程度影響するのかを、空間周波数fxからピーク78を含む空間周波数域の変動比率等を求めて、上記焦点距離(撮影条件)との予め定めた関係から許容範囲(拡大設定値)を設定するようにしてもよい。
【0076】
本実施形態では、極小な被写体エリア(内接エリア)であっても、焦点距離や絞り値等による撮影条件で定めた値(例えば画素数や面積)により、その大きさを拡張できるので、合焦演算の画素数を増加でき、合焦精度を向上させることができる。
【0077】
なお、上記処理は、ステップ168の後に実行するとしたが、閾値を変更するようにしてもよい。すなわち、図9では拡張エリアが被写体の境界線(輪郭)に接触するときを閾値としているが、その閾値判断に、エリアの極小判断をするようにしてもよい。具体的には上述のステップ164の接触可否判断後に図12の処理を実行するようにしてもよい。
【0078】
(第4実施形態)
次に、本発明の第4実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
【0079】
本実施形態は、合焦演算精度を維持するために、被写体エリアの形状に閾値を設けて被写体エリアを設定するものである。すなわち、本実施形態は、図9のステップ166の処理後に、図15に示す形状判定処理が実行される。以下、図15のフローチャートを参照して詳細に説明する。
【0080】
拡張エリアを拡張すると(図9のステップ166)、図15のステップ180へ進み、合焦演算精度を維持するための被写体エリアの形状に関する閾値を設定する。この閾値は、画素数による面積の閾値と、エリアのアスペクト比(縦横比)の閾値である。次のステップ182では、上記ステップ166で設定された拡張エリアについての面積及びアスペクト比を算出し、設定された閾値以上であるか否かを判断する(ステップ184,186)。
【0081】
ステップ184または186で否定された場合には、合焦演算精度が不充分として、継続処理する。すなわち、ステップ166へ戻り拡張エリアを再設定する。ここでは、拡張エリアの面積が閾値未満のとき、拡張エリアを拡張する処理を指示する。また、アスペクト比が閾値未満のとき、拡張エリアのアスペクト比が閾値以上となるよう拡張する処理を指示する。
【0082】
一方、ステップ184及び186で肯定された場合には、合焦するために十分な面積(画素数)及びエリア形状を確保できるため、本形状判定処理を終了しステップ164へ戻る。なお、この場合、ステップ164へ戻ることに限定されない。例えば、合焦するために十分な面積及びエリア形状を確保できる拡張エリアであるため、そのままステップ168へ進んでも良い。
【0083】
これにより、本実施形態では、被写体52の大きさに拘わらず、合焦するために十分な面積及びエリア形状を確保できる(図16参照)。
【0084】
(第5実施形態)
次に、本発明の第5実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
【0085】
本実施形態は、被写体内エリアの設定時に基礎となる点を求める一例として被写体の重心を求めるものを示すものであり、その他は上記実施形態と同様である。
【0086】
本実施形態では、図9のステップ158の処理に代えて、図17に示す重心設定処理が実行される。以下、図17のフローチャートを参照して詳細に説明する。
【0087】
被写体内エリアの設定処理が実行されると(図5のステップ130)、ステップ158(図9)の処理に代えて図17のステップ190へ進み、被写体エリアの面積(画素数)を算出する。この処理では、被写体の境界線を用いて、その境界線による閉領域内の画素数を求める。次のステップ192では、被写体の水平方向の一端から画素を敷き詰めて、ステップ190で求めた画素数の1/2の画素数になる画素位置を通過する垂直方向の直線を縦分割線52Vとする(図18参照)。次のステップ194では、被写体の垂直方向の一端から画素を敷き詰めて、ステップ190で求めた画素数の1/2の画素数になる画素位置を通過する水平方向の直線を横分割線52Hとする(図18参照)。そして、次のステップ196において、上記求めた縦分割線52Vと横分割線52Hとの交点52Gを重心として、上述の中心点に代えて設定する(図18参照)。
【0088】
本実施形態では、被写体の重心を求めているので、被写体が複雑な輪郭であっても被写体内エリアの基点となる点がずれて、内接エリアの設定が偏ることを抑制できる。
【0089】
(第6実施形態)
次に、本発明の第6実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
【0090】
本実施形態は、第2実施形態と第5実施形態とを組み合わせたものである。本実施形態では、図9のステップ158の処理に代えて、図19に示す処理が実行される。以下、図19のフローチャートを参照して詳細に説明する。
【0091】
まず、被写体内エリアの設定処理が実行されると(図5のステップ130)、ステップ158(図9)の処理に代えて図19のステップ200へ進み、図9のステップ158と同様に、被写体の中心を算出する。次のステップ202では、被写体の重心を算出する(図17)。次のステップ204では、被写体中心による内接エリアを算出し、ステップ206において被写体重心による内接エリアを算出する。次のステップ208では、上記求めた被写体重心による内接エリアの面積が被写体中心による内接エリアの面積より大きいか否かを判断する。ステップ208で肯定された場合、被写体重心による内接エリアを採用し、否定された場合は被写体中心による内接エリアを採用する。
【0092】
本実施形態では、被写体の重心または中心で定まる内接エリアについて面積が大きいエリアを採用するので、画素数増加によって合焦精度を向上させることができる。
【0093】
以上説明したように、本実施形態によれば、合焦時に、被写体の一部からなるエリアと全てを含んで背景をも含むエリアの空間周波数分布を各々求めて、被写体のみによる空間周波数帯域を通過させるフィルタを用いて位相差検出信号をフィルタ演算することで、背景を含むエリアを被写体エリアとして定めても精度良く被写体に合焦させることができる。
【0094】
なお、上記各実施形態では、位相差検出画素を構成する瞳分割したペア画素として、小さくした遮光膜開口を互いに反対方向にずらした例を用いて説明したが、瞳分割して位相差検出画素を構成する方法はこれに限るものではなく、例えばペア画素に一つのマイクロレンズを搭載して瞳分割することでも良い。
【0095】
なお、上記各実施形態では、位相差を検出するペア画素を位相差検出エリア内の離散的,周期的な位置に設けた例について述べたが、必ずしも周期的,離散的位置に設ける必要はなく、ランダムな位置であっても良く、あるいは全画素を位相差検出画素とすることでも良い。
【0096】
また、上記各実施形態では、RGBの3原色のカラーフィルタのカラーフィルタ配列について説明したが、カラーフィルタの種類は、これに限定されるものではない。
【0097】
また、上記各実施形態では、フィルタを作成する際、被写体内エリア及び被写体包含エリアの空間周波数を比較するが、この比較をするときに被写体と背景の空間周波数が同一であると判定される場合がある。この場合には、被写体内エリアを用いて相関演算を行えばよい。
【符号の説明】
【0098】
10 撮像装置
20 撮像レンズ
21 固体撮像素子
28 表示部
29 システム制御部
40 位相差検出エリア
60 被写体内エリア
62 被写体包含エリア
70 曲線
72 曲線
【技術分野】
【0001】
本発明は、撮像装置及び撮像プログラムに係り、特に、被写体までの距離を検出し撮像レンズの焦点位置制御を行う撮像装置及び撮像プログラムに関する。
【背景技術】
【0002】
主要な被写体までの距離を検出する合焦位置検出には、コントラスト方式や位相差オートフォーカス(以下、位相差AFという)方式が知られている。位相差AF方式は、コントラスト方式に比べて合焦位置の検出を高速,高精度に行うことができるため、一眼レフカメラで多く採用されている。
【0003】
特許文献1には、撮影画像の輝度分布から、撮影シーンを判定し、判定したシーンに応じたフィルタ処理を行った後、位相差AFの評価値の演算を行う技術が開示されている。
【0004】
また、特許文献2には、撮影画像の周波数分布に応じて、位相差AF方式とコントラスト方式とを切り替える技術が開示されている。
【0005】
さらに、特許文献3には、顔特徴量抽出処理によって撮影画像から被写体を検出し、合焦動作前に予め検出された被写体の種類等に応じてAF評価値演算阻害領域を決定し、マルチエリアAFの各AFエリアからその領域を除外した後の残存領域を用いてAF評価値の演算を行う技術が開示されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2003―215434号公報
【特許文献2】特開2009―63921号公報
【特許文献3】特開2010―160297号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、被写体に対する合焦位置を検出するためにはある程度の領域(画角)が必要であり、被写体のみならず、その背景を含む領域を、検出対象の領域とする場合がある。例えば、顔などの主要被写体に合焦を希望する場合、顔の背景を含む一定の領域を合焦の検出対象としたときには、その背景に対して合焦される場合がある。
【0008】
本発明は上記事実を考慮してなされたものであり、位相差AFにより被写体に合焦するときに、被写体に対して忠実に合焦することができる撮像装置及び撮像プログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
上記目的を達成するため、請求項1記載の発明の撮像装置は、被写体の画像を撮像する受光面に設けられた位相差検出エリア内に、瞳分割した第1の位相差検出画素及び第2の位相差検出画素で構成されるペア画素が配列形成された撮像素子と、前記撮像素子の前段に置かれ、前記被写体の合焦した光学像を前記受光面に結像させる撮像レンズと、前記合焦する被写体を特定し、該合焦する被写体の領域を全て含む包含エリアと、該合焦する被写体の領域の一部からなる内包エリアの各々を設定するエリア設定手段と、前記設定した包含エリア及び内包エリアの各々の空間周波数分布を演算し、演算した空間周波数分布の各々に基づいて前記被写体の領域に対応する空間周波数を通過させるフィルタを作成するフィルタ作成手段と、前記作成したフィルタを用いて前記被写体の領域に対応する空間周波数に該当する前記第1の位相差検出画素の第1検出情報と前記第2の位相差検出画素の第2検出情報とを生成する生成手段と、前記生成した第1検出情報と第2検出情報との相関関係を示す被写体の相関演算曲線を求め、該相関演算曲線から前記撮像レンズを前記合焦位置に制御する位相差を求める位相差演算手段と、前記求めた位相差に基づき前記撮像レンズを前記合焦する位置に制御する位置制御手段と、を備えている。
【0010】
本発明によれば、合焦する被写体を全て含む包含エリアと、被写体の一部領域からなる内包エリアとを設定し、これらの包含エリア及び内包エリアの空間周波数分布に基づいて、被写体の空間周波数を通過させるフィルタを作成する。このフィルタを用いて被写体の領域に対応する第1検出情報と第2検出情報を生成して、これらの相関関係から撮像レンズを合焦位置に制御する位相差を求めて撮像レンズを合焦する。これにより、被写体のみによる空間周波数(帯域)を得るフィルタ作成が可能となり、この被写体のみによる空間周波数帯域を通過させるフィルタを用いて位相差検出画素の検出情報をフィルタ演算することで、背景を含む包含エリアであっても精度良く被写体に合焦させることができる。
【0011】
なお、前記撮像素子は、水平方向及び垂直方向に配列された複数の光電変換素子を含むことができる。また、撮像素子は、半導体基板に二次元アレイ状に配列形成された複数の画素を備えかつ、前記複数画素のうち一部の画素が位相差検出画素として形成された固体撮像素子を採用することができる。
【0012】
請求項2の発明では、前記フィルタ作成手段は、前記包含エリア及び内包エリアの空間周波数分布のうち類似した空間周波数分布の周波帯域に対応する前記包含エリアの周波帯域を、前記被写体の領域としてフィルタを作成する。作成したフィルタ、例えば、空間周波数分布のうち低周波帯域を通過させるフィルタにより、被写体のみの空間周波数による演算が可能となり、合焦精度が向上する。
【0013】
請求項3の発明では、前記フィルタ作成手段は、前記包含エリア及び内包エリアの空間周波数分布に基づいて、前記包含エリアの空間周波数分布について前記被写体の領域と背景領域との各々に対応する周波帯域に分離し、分離した前記被写体の領域に対応する周波帯域を、前記被写体の領域としてフィルタを作成する。例えば、空間周波数の低周波帯域側で変曲点を分離ポイントとすることで、被写体と背景との空間周波数に分離することができ、合焦精度が向上する。
【0014】
請求項4の発明では、前記エリア設定手段は、前記被写体領域の周囲を少なくとも含みかつ前記被写体領域の外周に外接する外接エリアを包含エリアに設定し、前記被写体領域のみからなり前記被写体領域の外周に内接する内接エリアを内包エリアに設定する。このように、内接エリアと外接エリアを設定することで、合焦演算するための画素数を増加でき、合焦精度が向上する。
【0015】
請求項5の発明では、前記エリア設定手段は、前記包含エリア及び内包エリアを四角形とし、前記合焦する被写体の中心から四角形を徐々に拡大して前記被写体領域の外周に内接した内包エリアを設定すると共に、前記被写体領域の周囲から四角形を徐々に縮小して前記被写体領域の外周に外接した包含エリアを設定する。このように、四角形例えば、長方形によってエリア設定が容易となる。
【0016】
請求項6の発明では、前記エリア設定手段は、前記四角形を徐々に拡大して前記内包エリアを設定する場合、前記被写体領域の外周に内接した内包エリアから予め定めた拡大設定量だけ拡大した拡大エリアを内包エリアとして設定する。例えば、エリアが極小の場合、そのエリアを拡大できるので、合焦演算するための画素数を増加でき、合焦精度が向上する。
【0017】
請求項7の発明では、前記撮像レンズは、絞りを具備し、前記エリア設定手段は、前記撮像レンズの焦点距離及び絞り値に基づいて焦点深度を求め、求めた焦点深度に基づいて前記拡大設定量を設定する。焦点深度等の撮影条件に応じてエリアを拡大でき、合焦精度が向上する。
【0018】
請求項8の発明では、前記エリア設定手段は、前記包含エリア及び内包エリアを四角形とし、前記四角形を徐々に拡大して前記内包エリアを設定する場合、前記四角形に含まれる画素数による面積及び前記四角形の縦横比について、予め定めた閾値を超える面積及び縦横比の拡大エリアを内包エリアとして設定する。従って、画素面積や縦横比(アスペクト比)でエリアを正弦できるので、合焦処理に必要な画素数を確保できる。
【0019】
請求項9の発明では、前記エリア設定手段は、前記被写体領域の重心を求め、求めた被写体の重心から四角形を徐々に拡大して内包エリアを設定する。これにより、被写体に忠実なエリア設定のための起点を設定できる。
【0020】
請求項10の発明は、被写体の画像を撮像する受光面に設けられた位相差検出エリア内に、瞳分割した第1の位相差検出画素及び第2の位相差検出画素で構成されるペア画素が配列形成された撮像素子と、前記撮像素子の前段に置かれ、前記被写体の合焦した光学像を前記受光面に結像させる撮像レンズと、を備えた撮像装置において実行させる撮像プログラムであって、前記合焦する被写体を特定し、該合焦する被写体の領域を全て含む包含エリアと、該合焦する被写体の領域の一部からなる内包エリアの各々を設定するエリア設定ステップと、前記設定した包含エリア及び内包エリアの各々の空間周波数分布を演算し、演算した空間周波数分布の各々に基づいて前記被写体の領域に対応する空間周波数を通過させるフィルタを作成するフィルタ作成ステップと、前記作成したフィルタを用いて前記被写体の領域に対応する空間周波数に該当する前記第1の位相差検出画素の第1検出情報と前記第2の位相差検出画素の第2検出情報とを生成する生成ステップと、前記生成した第1検出情報と第2検出情報との相関関係を示す被写体の相関演算曲線を求め、該相関演算曲線から前記撮像レンズを前記合焦位置に制御する位相差を求める位相差演算ステップと、前記求めた位相差に基づき前記撮像レンズを前記合焦する位置に制御する位置制御ステップと、の各ステップをコンピュータによって実行させる。
【発明の効果】
【0021】
本発明によれば、被写体のみによる空間周波数を得るフィルタを用いて位相差検出画素の検出情報をフィルタ演算することで、背景を含む包含エリアであっても精度良く被写体に合焦させることができる、という効果を有する。
【図面の簡単な説明】
【0022】
【図1】撮像装置の概略ブロック図である。
【図2】位相差検出エリア40内の一部分の表面拡大模式図である。
【図3】位相差検出画素1x,1yの模式図である。
【図4】第1実施形態に係る撮像処理の流れを示すフローチャートである。
【図5】合焦処理の流れを示すフローチャートである。
【図6】エリアの模式図であり、(A)は被写体内エリア、(B)は被写体包含エリアを示す。
【図7】被写体エリアの空間周波数分布を示す線図である。
【図8】第2実施形態に係る外接エリア設定処理の流れを示すフローチャートである。
【図9】第2実施形態に係る内接エリア設定処理の流れを示すフローチャートである。
【図10】内接エリアの設定処理の流れについての説明図である。
【図11】外接エリアの設定処理の流れについての説明図である。
【図12】第3実施形態に係る内接エリア設定処理の流れを示すフローチャートである。
【図13】内接エリアの設定処理の流れについての説明図である。
【図14】撮影条件で定まる焦点深度に対する拡大設定値の関係を示す線図である。
【図15】第4実施形態に係る形状判定処理の流れを示すフローチャートである。
【図16】被写体エリアの形状に関する閾値を設定処理の説明図である。
【図17】第5実施形態に係る重心設定処理の流れを示すフローチャートである。
【図18】重心設定処理の流れについての説明図である。
【図19】第6実施形態に係る被写体内エリアの設定処理の流れを示すフローチャートである。
【発明を実施するための形態】
【0023】
以下、図面を参照して本発明の実施形態について説明する。
【0024】
(第1実施形態)
図1には、本発明の一実施形態に係る撮像装置10の概略ブロック図を示した。撮像装置10は、被写体の静止画像或いは動画像を撮影し撮像装置10内で撮像画像信号をデジタル処理する機能を有し、望遠レンズ及びフォーカスレンズを備える撮像レンズ20と、撮像レンズ20の背部に置かれその結像面に配置された固体撮像素子21と、固体撮像素子21の各画素から出力されるアナログの画像データを自動利得調整(AGC)や相関二重サンプリング処理等のアナログ処理するアナログ信号処理部22と、アナログ信号処理部22から出力されるアナログ画像データをデジタル画像データに変換するアナログデジタル変換部(A/D)23と、後述のシステム制御部(CPU)29からの指示によってA/D23,アナログ信号処理部22,固体撮像素子21,撮像レンズ20の駆動制御を行う駆動制御部24と、CPU29からの指示によって発光するフラッシュ25とを含んで構成されている。
【0025】
また、撮像装置10は、A/D23から出力されるデジタル画像データを取り込み補間処理やホワイトバランス補正,RGB/YC変換処理等を行うデジタル信号処理部26と、画像データをJPEG形式などの画像データに圧縮したり逆に伸長したりする圧縮/伸長処理部27と、メニューなどを表示したりスルー画像や撮像画像を表示する表示部28と、撮像装置全体を統括制御するシステム制御部(CPU)29と、フレームメモリ等の内部メモリ30と、JPEG画像データ等を格納する記録メディア32との間のインタフェース処理を行うメディアインタフェース(I/F)部31と、これらを相互に接続するバス40とを備えており、また、システム制御部29には、ユーザからの指示入力を行う操作部33が接続されている。
【0026】
システム制御部29は、固体撮像素子21から動画状態で出力されデジタル信号処理部26で処理された撮像画像データ(スルー画像)を配下のデジタル信号処理部26等を用いて後述するように解析して評価曲線(相関演算曲線)を求め、主要被写体までの距離を検出する。そして、システム制御部29は、駆動部24を介し、撮像レンズ20のうちのフォーカスレンズの位置制御を行い、被写体に合焦した光学像が固体撮像素子21の受光面に結像するようにする。
【0027】
固体撮像素子21は、本実施形態ではCMOS(Complementary Metal Oxide Semiconductor)型であり、固体撮像素子21の出力信号をアナログ信号処理部(AFE:アナログフロントエンド)22で処理するが、このAFE部分(相関二重サンプリング処理やクランプを行う回路、利得制御を行う信号増幅回路等)は固体撮像素子チップ上に周辺回路として設けられるのが普通である。また、固体撮像素子21のチップ上には、その他にも、水平走査回路や垂直走査回路、雑音低減回路,同期信号発生回路等が周辺回路として受光部周りに形成され、A/D変換部23も形成される場合がある。なお、固体撮像素子21は、CCD(Charge Coupled Device)型でも、以下の実施形態に適用可能である。
【0028】
固体撮像素子21の受光面には、図示しない多数の画素(受光素子:フォトダイオード)が二次元アレイ状に配列形成されている。本実施形態では、複数の画素が正方格子状に配列形成されている。なお、画素配列は正方格子配列に限るものではなく、奇数行の画素行に対して偶数行の画素行が1/2画素ピッチづつずらして配列された、所謂、ハニカム画素配列でも良い。
【0029】
受光面の任意の一部領域位置(例えば中央位置)に、矩形の位相差検出エリア40が設けられている。この例では、位相差検出エリア40は受光面に対して1箇所だけ設けているが、撮影画面内のどこでも合焦できるよう複数箇所に設けても良い。受光面の全領域を位相差検出エリアとすることでも良い。この位相差検出エリア40により、位相差検出方向(この例では左右方向つまりx方向を位相差検出方向としている。)で被写体までの合焦位置を検出する。
【0030】
図2は、位相差検出エリア40内の一部分の表面拡大模式図である。固体撮像素子21の受光面には、多数の画素が正方格子配列されており、位相差検出エリア40内でも同様である。
【0031】
図示する例では、各画素をR(赤),G(緑),B(青)で示している。R,G,Bは各画素上に積層したカラーフィルタの色を表し、カラーフィルタ配列は、この例ではベイヤ配列となっているが、ベイヤ配列に限るものではなく、ストライプ等の他のカラーフィルタ配列でも良い。
【0032】
位相差検出エリア40内の画素配列,カラーフィルタ配列は、位相差検出エリア40外の受光面の画素配列,カラーフィルタ配列と同じであるが、位相差検出エリア40内では、ペアを構成する斜めに隣接する同色画素を、位相差検出画素1x,1yとしている。位相差検出用のペア画素は、本実施形態では、エリア40内の離散的,周期的な位置、図示する例では市松位置に設けられている。
【0033】
なお、図示する例では、カラーフィルタ配列がベイヤ配列のため同色画素が斜めに隣接するのであって、横ストライプ配列の場合には同色画素は水平方向に並ぶため、ペアを構成する2画素は横に隣接することになる。あるいは、横ストライプ配列で同じ色フィルタ行内にペアを構成する2画素を設けるのではなく、縦方向に最近接する同色のフィルタ行の夫々にペアを構成する各画素を離して設けることでも良い。縦ストライプ配列の場合も同様である。
【0034】
本実施形態では、位相差検出画素1x,1yを、R,G,Bのうち最も多いGフィルタ搭載画素に設けており、水平方向(x方向)に8画素置き、垂直方向(y方向)に8画素置き、かつ全体的に市松位置となるように配置されている。従って、位相差検出方向(左右方向)で見たとき、位相差検出画素1xは4画素置きに配置されることになる。
【0035】
図3は、図2の位相差検出画素1x,1yだけを抜き出して模式的に表示した図である。ペア画素を構成する位相差検出画素1x,1yは、例えば、その遮光膜開口2x,2yが他の画素(位相差検出画素以外の画素)より小さく形成され、かつ、画素1xの遮光膜開口2xは左方向に偏心して設けられ、画素1yの遮光膜開口2yは右方向(位相差検出方向)に偏心して設けられている。
【0036】
図3の下段に示す曲線Xは、横一行に並ぶ位相差検出画素1xの検出信号量をプロットしたグラフであり、曲線Yは、これら画素1xとペアを構成する位相差検出画素1yの検出信号量をプロットしたグラフである。
【0037】
ペア画素1x,1yは隣接画素であり極めて近接しているため、同一被写体からの光を受光していると考えられる。このため、曲線Xと曲線Yとは同一形状になると考えられ、その左右方向(位相差検出方向)のずれが、瞳分割したペア画素の一方の画素1xで見た画像と、他方の画素1yで見た画像との位相差量となる。
【0038】
この曲線Xと曲線Yの相関演算を行うことで、位相差量(横ズレ量)を求めることができ、この位相差量から被写体までの距離を算出することが可能となる。曲線Xと曲線Yの相関量の評価値を求める方法は、公知の方法(例えば、特開2010―8443号公報
特開2010―91991号公報参照)を用いることができる。例えば、曲線Xを構成する各点X(i)と、曲線Yを構成する各点Y(i+j)の差分の絶対値の積算値を評価値とし、最大評価値を与えるj値を、位相差量(横ズレ量)とする。
【0039】
ところで、1画素1画素の受光面積が小さい場合、個々の信号量は小さくなってノイズの割合が増えるため、相関演算を行っても精度良く位相差量を検出することが困難となる。そこで、位相差検出エリア40内の画素数を増加させたり、位相差検出エリア40それ自体を,拡大したりすることで、ノイズの影響を低減して合焦位置の検出精度(AF精度)を向上させることが可能となる。
【0040】
ところが、位相差検出エリア40内の画素数を増加させたり、位相差検出エリア40それ自体を拡大したりすると、位相差検出画素の配置領域が上下方向(垂直方向)や左右方向(水平方向)に延びることになる。これによって、本来合焦すべき被写体に対する位相差検出をする領域(実際の位相差検出エリア)には、本来合焦すべき被写体パターンに加え、背景などの周囲パターンを含んだものとなり、位相差を求める評価値が下がってしまう場合がある。例えば、背景などの周囲パターンに合焦される、所謂後ピン状態が生じる場合がある。
【0041】
そこで、本実施形態では、合焦すべき被写体に対する位相差検出をする領域について、被写体の一部エリア(内包エリア)と、被写体の周囲を含む全部エリア(包含エリア)とを定めて、各々のエリアについて空間周波数分布を求めて、合焦すべき被写体に関係性が希薄な検出信号、例えば背景を除去した検出信号によって合焦させることで、合焦位置の検出精度(AF精度)を向上させる。
【0042】
すなわち、被写体と、その被写体の背景とでは、各々の空間周波数分布が相違することが一般的である。このため、内包エリアでは被写体の空間周波数が顕著に表れた空間周波数分布となり、包含エリアでは、被写体とその背景等の被写体に関係性が希薄な物品との双方についての空間周波数が含まれる空間周波数分布となる。この包含エリアの空間周波数から背景等の被写体に関係性が希薄な物品の空間周波数を除去すれば、実際の位相差検出エリアとして被写体に忠実な空間周波数分布を採用できる。
【0043】
次に、本実施形態に係る撮像装置10の作用を説明する。まず、撮影時における撮像装置10の全体的な動作について簡単に説明する。
【0044】
まず、固体撮像素子21により撮像レンズ20を介した撮像を行い、被写体像を示すR(赤)、G(緑)、B(青)の信号をアナログ信号処理部22に順次出力する。アナログ信号処理部22は、固体撮像素子21から入力された信号に対して相関二重サンプリング処理等のアナログ信号処理を施した後にA/D変換部23に順次出力する。A/D変換部23は、アナログ信号処理部22から入力されたR,G,Bの信号を例えば各々12ビットのR,G,Bの信号(デジタル画像データ)に変換してデジタル信号処理部26に順次出力する。デジタル信号処理部26は、内蔵しているラインバッファにA/D変換部23から順次出力されるデジタル画像データを蓄積して一旦内部メモリ30の所定領域に格納する。
【0045】
内部メモリ30の所定領域に格納されたデジタル画像データは、システム制御部29による制御によりデジタル信号処理部26によって読み出され、これらに所定の物理量に応じたデジタルゲインをかけることでホワイトバランス調整を行なうと共に、ガンマ処理及びシャープネス処理を行なって例えば8ビットのデジタル画像データを生成し、更にYC信号処理を施して輝度信号Yとクロマ信号Cr,Cb(以下、「YC信号」という。)を生成し、YC信号を内部メモリ30の上記所定領域とは異なる領域に格納する。
【0046】
なお、表示部28は、固体撮像素子21による連続的な撮像によって得られた動画像(スルー画像)を表示してファインダとして使用可能に構成されている。この場合には、生成したYC信号が順次表示部28に出力される。これによって表示部28にスルー画像が表示されることになる。
【0047】
次に、図4に示す撮像処理ルーチンを参照してシステム制御部29の処理概要を説明する。
【0048】
撮影者は、表示部28に表示されるスルー画像で被写体を確認しつつ構図を決定する。このとき、システム制御部29は、操作部33のレリーズボタンが撮影者によって半押し状態S1とされた場合に、スルー画像を確認できる程度に、AE(Automatic Exposure、自動露出)機能による露出状態(シャッタースピード、絞りの状態)の設定、及びAF(Auto Focus、自動合焦)機能による合焦制御を行わせ、そのスルー画像で被写体を認識する(ステップ100)。その後に、レリーズボタンが全押し状態S2とされた場合(ステップ102)、AE機能が働き最終的な露出状態が設定された後(ステップ104)、詳細を後述するAF機能が働いて合焦制御され(ステップ106)、引き続き撮像レンズ20による固体撮像素子21への露光がなされ(ステップ108)、固体撮像素子21からアナログ信号が読み出される(ステップ110)。次に、アナログ信号をデジタル画像データに変換させ(ステップ112)、ホワイトバランス調整やガンマ処理及びシャープネス処理等の画像処理を行わせ(ステップ114)、圧縮伸長処理部27によって所定の圧縮形式(例えばJPEG形式)で圧縮させた後に(ステップ116)、メディアインタフェース部31を介して記録メディア32に記録させる(ステップ118)。
【0049】
次に、図4のステップ106における合焦処理について、図5に示すフローチャートを参照して詳細に説明する。
【0050】
AF処理が開始されると、ステップ120においてオブジェクト認識処理が実行される。このオブジェクト認識処理は、上記ステップ100において実行された、スルー画像で被写体を認識する処理の結果、撮影対象として判別された被写体を特定する処理である。このオブジェクトの一例には、人物の顔があり、ここでの処理は顔検出処理を実行させることができる。次のステップ122では、オブジェクト、例えば顔が検出されたか否かを判定する。なお、オブジェクト認識処理は、公知の方法(例えば、特開2006―270137号公報、特開2007―142525号公報等参照)を用いることができる。
【0051】
オブジェクトが検出されなかった場合には、ステップ138へ進み、従来の位相差AFと同様に、位相差検出エリア40について、位相差検出画素1xから求めた曲線Xと位相差検出画素1yから求めた曲線Yとの相関演算を行う。そして、相関演算の結果として得られたエリア評価曲線に基づき、デフォーカス量を算出し(ステップ140)、次のステップ142においてAF判定する。このAF判定は、相関演算の結果が許容できる範囲内であるか否かを判定することや算出されたデフォーカス量が許容できる範囲内であるか否かを判定すること等により判断される。ステップ142で肯定判断されると、ステップ144において撮像レンズの合焦制御を行い、この処理を終了する。ステップ142で否定判断されると、ステップ146において予め定めたエラー処理が実行される。
【0052】
一方、オブジェクトが検出された場合(ステップ122で肯定)、ステップ124へ進み、AF処理するための被写体エリアの数量(本実施形態では大小2個)を決定する。この被写体エリアの数量は、2個に限定されるものではなく、大中小の3個、またはそれ以上でもよい。
【0053】
次のステップ126では、ステップ124で決定した被写体エリアのうち一方の被写体エリアとして、ステップ120で認識したオブジェクトの被写体を少なくとも全て含む被写体包含エリア(大エリア)を設定し、次のステップ128で被写体包含エリアの空間周波数分布を算出する。そして、次のステップ130では、他方の被写体エリアとして、オブジェクトである被写体内の領域となる被写体内エリア(小エリア)を設定し、次のステップ132で被写体内エリアの空間周波数分布を算出する。
【0054】
図6には、ステップ126および130で設定する大小エリアを模式的に示し、(A)は被写体内エリア、(B)は被写体包含エリアを示す。図6では、被写体エリアに四角形状を採用した場合を示している。被写体エリアを四角形状に限定するものではない。図6(A)に示すように、被写体内エリア60は、被写体である顔50の内部の閉領域が設定され、被写体のみのエリア64内部になっている。図6(B)に示すように、被写体包含エリア62は、被写体である顔50の全領域が包含された閉領域が設定され、被写体のみのエリア64と背景エリア66から構成されることになる。被写体エリアを四角形状とした場合、面積確保の観点から、被写体内エリア60は顔50の輪郭に内接する内接エリアを設定することが好ましい。また、被写体包含エリア62は顔50の輪郭に外接する外接エリアを設定することが好ましい。
【0055】
図7には、被写体エリアの空間周波数分布を示した。曲線70は、被写体内エリア60の空間周波数分布を示し、曲線72は、被写体包含エリア62の空間周波数分布を示している。曲線70は、低周波数側にピーク74を有する特性であり、曲線72は、低周波数側及び高周波数側の双方にピーク76,78を有する特性である。一方、被写体包含エリア62は、被写体のみのエリア64と背景エリア66から構成され、両方の空間周波数分布が重畳されたものである。一方、被写体内エリア60は、被写体の空間周波数分布である。このことから、低周波数側のピーク74とピーク76を含む周波数域は被写体に対応するもので、ピーク78を含む周波数域は背景エリア66によるものと推定できる。従って、曲線72についてピーク78を含む一定の周波数域を除去すれば、被写体のみによる空間周波数(帯域)を得ることができる。これによって、被写体のみによる空間周波数帯域を通過させるフィルタを用いて位相差検出信号をフィルタ演算すれば、背景を含むエリアを被写体エリアとして定めても精度良く被写体に合焦させることができる。
【0056】
そこで、ステップ134では、ステップ128および132で算出した空間周波数からフィルタを作成する。ここでは、曲線72についてピーク78を含む一定の周波数域を定めるために、曲線72の変曲点すなわちピーク76からピーク78に至るまでの最低度数分布となる点80を求め、その空間周波数fxを境界空間周波数に設定する。そして、ピーク76の空間周波数を含む空間周波数fxまでの周波数域Fをバンドパスするフィルタを作成する。
【0057】
次のステップ136では、ステップ134で作成したフィルタを用いて、位相差検出信号を信号処理する。この信号処理された信号は、背景エリアが除去されたものとなる。そして、上述のように、相関演算を行い、得られたエリア評価曲線に基づきデフォーカス量を算出して、撮像レンズの合焦制御を行うことで(ステップ138〜144)、背景を含むエリアを被写体エリアとして定めても精度良く被写体に合焦させることができる。
【0058】
(第2実施形態)
次に、本発明の第2実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
【0059】
本実施形態は、被写体エリアの設定の一例を示すものであり、その他は第1実施形態と同様である。
【0060】
本実施形態では、図5のステップ126の処理について、図8に示す外接エリア設定処理が実行される。また、図5のステップ130の処理では、図9に示す内接エリア設定処理が実行される。以下、図8及び図9のフローチャートを参照して詳細に説明する。
【0061】
被写体包含エリアの設定処理が実行されると(図5のステップ126)、図8のステップ150へ進み、前記認識したオブジェクトの被写体52の境界線(輪郭)54を求める。次に、境界線(輪郭)54について、横座標の最大値Xmaxと最小値Xminを求め(ステップ152)、縦座標の最大値Ymaxと最小値Yminを求める(ステップ154)。これらの座標から次のステップ156において被写体包含エリア(大エリア)として外接エリア63を設定する。外接エリア63の設定は、まず、対角座標点63A(Xmin,Ymin)と対角座標点63B(Xmax,Ymax)を求める。この対角座標点63A,63Bの線分対角線とする四角形を外接エリア63に設定する(図11参照)。
【0062】
また、被写体内エリアの設定処理が実行されると(図5のステップ130)、図9のステップ158へ進み、前記認識したオブジェクトの被写体52の中心点61Pを求める。この中心点61Pは、オブジェクト認識時に求めた中心でもよく、ステップ156で求めた外接エリア63の対角線の交点を求めることでも良い。次のステップ160では、上記ステップ150と同様に被写体52の境界線(輪郭)54を設定する。次に、中心点61Pを中心とした所定の大きさ(例えば周囲8画素)を拡張エリア61Aとして設定する。そして拡張エリアの辺または角が境界線(輪郭)54に接触するまで拡張エリアを拡張する(図10参照。拡張エリア61A、61B、61Cの順序)。この辺または角が接触した拡張エリア(四角形)を内接エリア63に設定する(図10参照)。
【0063】
なお、拡張エリアの拡張は、例えば1画素づつ周囲画素を増殖してもよいし、辺または角が接触していない方向の画素を増殖するようにしてもよい。
【0064】
本実施形態では、被写体が複雑な輪郭であっても外接エリア及び内接エリアの各々について、迅速かつ最大面積となるように設定することができる。
【0065】
(第3実施形態)
次に、本発明の第3実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
【0066】
本実施形態は、被写体内エリアの設定について許容範囲を設けたものであり、構成は上記実施形態と同様である。
【0067】
被写体内エリアを設定した場合、その設定した被写体エリアたとえば内接エリアが極小である場合、その極小の内接エリアは合焦するために十分な画素数でないことがある。そこで本実施形態では、内接エリアが極小である場合に、予め定めた許容範囲まで内接エリアを拡大して設定することを可能にしたものである。この許容範囲の最大値は、設定済みの外接エリアである。すなわち、内接エリア61から外接エリア63までの間で、拡大した拡大エリア65を内接エリア61として設定することができるようにしたものである(図13参照)。
【0068】
本実施形態は、図9のステップ168の処理で設定された内接エリアが、極小である場合に、図12に示す内接エリア設定処理が実行される。以下、図12のフローチャートを参照して詳細に説明する。
【0069】
被写体内エリア(内接エリア)の設定が終了すると(図9)、図12のステップ170へ進み、設定された内接エリアが極小か否かを判断し、否定された場合には、内接エリアは合焦するために十分な画素数を確保できるため、そのまま処理を終了する。内接エリアが極小か否かの判断基準は、合焦するために十分な画素数として予め定めた画素数やその画素数による面積を用いることができる。
【0070】
ステップ170で肯定されると、ステップ172へ進み、拡大可能な内接エリアの許容範囲(拡大設定値)を設定する。次のステップ174では、拡張エリアを拡張、例えば1画素分だけ拡張し、拡大設定値になるまで(ステップ176で肯定されるまで)繰り返し実行する。そして、最終的な拡張エリアを(ステップ176で肯定)、被写体内エリアとして設定する(ステップ178)。
【0071】
この拡大設定値は、上述のように、許容範囲(拡大設定値)の最大値として、設定済みの外接エリアが可能であるが(図13参照)、合焦するために必要とされる所定画素数となるエリアになれば十分である。また、外接エリア近傍まで拡張エリアを拡大したのでは、背景を多く含むことになり、合焦精度に支障を来す場合がある。そこで、この拡大設定値は、既に設定済みの外接エリアまでの値(例えば画素数や面積)を設定してもよいが、予め定めた指定値(例えば、合焦するために必要とされる予め定められた画素数)を設定することが好ましい。
【0072】
ところで、実際の撮影時は、撮影シーンに応じて撮影条件が異なるものである。例えば、マクロ撮影などの近距離撮影時では焦点距離及び絞り値等による撮影条件によって焦点深度(被写界深度)が浅くなる。一方、風景や集合写真のような近距離撮影時の撮影条件では比較的焦点深度が深くなる。このように、撮影条件によって焦点深度が変動するので、一律に拡大設定値を定めて拡張エリアを拡大可能としたのでは、被写体に合焦されず、背景に合焦され(所謂後ピン)、合焦精度が悪化する。
【0073】
そこで、ステップ172では、撮影条件に応じて拡大可能な内接エリアの許容範囲(拡大設定値)を設定することが好ましい。
【0074】
図14には、焦点距離及び絞り値による撮影条件で定まる焦点深度(被写界深度)に対する拡大設定値の関係を示した。焦点深度(被写界深度)と拡大設定値は対応関係がある。すなわち、焦点深度が深ければ撮影軸方向の合焦距離が長くなるので、拡張エリアに多少背景を含んだとしても合焦に対する影響が少なくなり、拡大設定値を大きくすることができる。一方、焦点深度が浅ければ撮影軸方向の合焦距離が短くなるので、拡大設定値は小さくする必要がある。そこで、撮影時の焦点深度(被写界深度)を得れば、撮影条件に応じて拡大可能な内接エリアの許容範囲(拡大設定値)を設定することができる。図14では、一例として、撮像装置10に具備された、焦点距離に直接影響するズーム位置に応じて拡大可能な内接エリアの許容範囲(拡大設定値)を設定することができる特性曲線hを示した。すなわち、テレ側では焦点距離が短くなり、ワイド側では焦点距離が長くなる。この特性曲線hに、絞り等の撮影条件をさらに付加して許容範囲(拡大設定値)を設定するようにしてもよい。
【0075】
また、撮影条件に応じて拡大可能な内接エリアの許容範囲を定めるために、上述の空間周波数分布を利用することができる。図7に示したように、背景を含む被写体エリアの空間周波数分布の曲線72では、上述の処理によりピーク78を含む周波数域が背景エリア66と推定できる。一方、拡張エリアを拡大することは、その背景エリア66をより多く含むことになる。つまり、空間周波数fxが高周波側へシフトすることになる。そこで、拡張エリアを拡大したことにより空間周波数fxが高周波側へシフトしたときに、背景エリア66がどの程度影響するのかを、空間周波数fxからピーク78を含む空間周波数域の変動比率等を求めて、上記焦点距離(撮影条件)との予め定めた関係から許容範囲(拡大設定値)を設定するようにしてもよい。
【0076】
本実施形態では、極小な被写体エリア(内接エリア)であっても、焦点距離や絞り値等による撮影条件で定めた値(例えば画素数や面積)により、その大きさを拡張できるので、合焦演算の画素数を増加でき、合焦精度を向上させることができる。
【0077】
なお、上記処理は、ステップ168の後に実行するとしたが、閾値を変更するようにしてもよい。すなわち、図9では拡張エリアが被写体の境界線(輪郭)に接触するときを閾値としているが、その閾値判断に、エリアの極小判断をするようにしてもよい。具体的には上述のステップ164の接触可否判断後に図12の処理を実行するようにしてもよい。
【0078】
(第4実施形態)
次に、本発明の第4実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
【0079】
本実施形態は、合焦演算精度を維持するために、被写体エリアの形状に閾値を設けて被写体エリアを設定するものである。すなわち、本実施形態は、図9のステップ166の処理後に、図15に示す形状判定処理が実行される。以下、図15のフローチャートを参照して詳細に説明する。
【0080】
拡張エリアを拡張すると(図9のステップ166)、図15のステップ180へ進み、合焦演算精度を維持するための被写体エリアの形状に関する閾値を設定する。この閾値は、画素数による面積の閾値と、エリアのアスペクト比(縦横比)の閾値である。次のステップ182では、上記ステップ166で設定された拡張エリアについての面積及びアスペクト比を算出し、設定された閾値以上であるか否かを判断する(ステップ184,186)。
【0081】
ステップ184または186で否定された場合には、合焦演算精度が不充分として、継続処理する。すなわち、ステップ166へ戻り拡張エリアを再設定する。ここでは、拡張エリアの面積が閾値未満のとき、拡張エリアを拡張する処理を指示する。また、アスペクト比が閾値未満のとき、拡張エリアのアスペクト比が閾値以上となるよう拡張する処理を指示する。
【0082】
一方、ステップ184及び186で肯定された場合には、合焦するために十分な面積(画素数)及びエリア形状を確保できるため、本形状判定処理を終了しステップ164へ戻る。なお、この場合、ステップ164へ戻ることに限定されない。例えば、合焦するために十分な面積及びエリア形状を確保できる拡張エリアであるため、そのままステップ168へ進んでも良い。
【0083】
これにより、本実施形態では、被写体52の大きさに拘わらず、合焦するために十分な面積及びエリア形状を確保できる(図16参照)。
【0084】
(第5実施形態)
次に、本発明の第5実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
【0085】
本実施形態は、被写体内エリアの設定時に基礎となる点を求める一例として被写体の重心を求めるものを示すものであり、その他は上記実施形態と同様である。
【0086】
本実施形態では、図9のステップ158の処理に代えて、図17に示す重心設定処理が実行される。以下、図17のフローチャートを参照して詳細に説明する。
【0087】
被写体内エリアの設定処理が実行されると(図5のステップ130)、ステップ158(図9)の処理に代えて図17のステップ190へ進み、被写体エリアの面積(画素数)を算出する。この処理では、被写体の境界線を用いて、その境界線による閉領域内の画素数を求める。次のステップ192では、被写体の水平方向の一端から画素を敷き詰めて、ステップ190で求めた画素数の1/2の画素数になる画素位置を通過する垂直方向の直線を縦分割線52Vとする(図18参照)。次のステップ194では、被写体の垂直方向の一端から画素を敷き詰めて、ステップ190で求めた画素数の1/2の画素数になる画素位置を通過する水平方向の直線を横分割線52Hとする(図18参照)。そして、次のステップ196において、上記求めた縦分割線52Vと横分割線52Hとの交点52Gを重心として、上述の中心点に代えて設定する(図18参照)。
【0088】
本実施形態では、被写体の重心を求めているので、被写体が複雑な輪郭であっても被写体内エリアの基点となる点がずれて、内接エリアの設定が偏ることを抑制できる。
【0089】
(第6実施形態)
次に、本発明の第6実施形態について説明する。なお、上記実施形態と同一部分には同一符号を付し、その詳細な説明は省略する。
【0090】
本実施形態は、第2実施形態と第5実施形態とを組み合わせたものである。本実施形態では、図9のステップ158の処理に代えて、図19に示す処理が実行される。以下、図19のフローチャートを参照して詳細に説明する。
【0091】
まず、被写体内エリアの設定処理が実行されると(図5のステップ130)、ステップ158(図9)の処理に代えて図19のステップ200へ進み、図9のステップ158と同様に、被写体の中心を算出する。次のステップ202では、被写体の重心を算出する(図17)。次のステップ204では、被写体中心による内接エリアを算出し、ステップ206において被写体重心による内接エリアを算出する。次のステップ208では、上記求めた被写体重心による内接エリアの面積が被写体中心による内接エリアの面積より大きいか否かを判断する。ステップ208で肯定された場合、被写体重心による内接エリアを採用し、否定された場合は被写体中心による内接エリアを採用する。
【0092】
本実施形態では、被写体の重心または中心で定まる内接エリアについて面積が大きいエリアを採用するので、画素数増加によって合焦精度を向上させることができる。
【0093】
以上説明したように、本実施形態によれば、合焦時に、被写体の一部からなるエリアと全てを含んで背景をも含むエリアの空間周波数分布を各々求めて、被写体のみによる空間周波数帯域を通過させるフィルタを用いて位相差検出信号をフィルタ演算することで、背景を含むエリアを被写体エリアとして定めても精度良く被写体に合焦させることができる。
【0094】
なお、上記各実施形態では、位相差検出画素を構成する瞳分割したペア画素として、小さくした遮光膜開口を互いに反対方向にずらした例を用いて説明したが、瞳分割して位相差検出画素を構成する方法はこれに限るものではなく、例えばペア画素に一つのマイクロレンズを搭載して瞳分割することでも良い。
【0095】
なお、上記各実施形態では、位相差を検出するペア画素を位相差検出エリア内の離散的,周期的な位置に設けた例について述べたが、必ずしも周期的,離散的位置に設ける必要はなく、ランダムな位置であっても良く、あるいは全画素を位相差検出画素とすることでも良い。
【0096】
また、上記各実施形態では、RGBの3原色のカラーフィルタのカラーフィルタ配列について説明したが、カラーフィルタの種類は、これに限定されるものではない。
【0097】
また、上記各実施形態では、フィルタを作成する際、被写体内エリア及び被写体包含エリアの空間周波数を比較するが、この比較をするときに被写体と背景の空間周波数が同一であると判定される場合がある。この場合には、被写体内エリアを用いて相関演算を行えばよい。
【符号の説明】
【0098】
10 撮像装置
20 撮像レンズ
21 固体撮像素子
28 表示部
29 システム制御部
40 位相差検出エリア
60 被写体内エリア
62 被写体包含エリア
70 曲線
72 曲線
【特許請求の範囲】
【請求項1】
被写体の画像を撮像する受光面に設けられた位相差検出エリア内に、瞳分割した第1の位相差検出画素及び第2の位相差検出画素で構成されるペア画素が配列形成された撮像素子と、
前記撮像素子の前段に置かれ、前記被写体の合焦した光学像を前記受光面に結像させる撮像レンズと、
前記合焦する被写体を特定し、該合焦する被写体の領域を全て含む包含エリアと、該合焦する被写体の領域の一部からなる内包エリアの各々を設定するエリア設定手段と、
前記設定した包含エリア及び内包エリアの各々の空間周波数分布を演算し、演算した空間周波数分布の各々に基づいて前記被写体の領域に対応する空間周波数を通過させるフィルタを作成するフィルタ作成手段と、
前記作成したフィルタを用いて前記被写体の領域に対応する空間周波数に該当する前記第1の位相差検出画素の第1検出情報と前記第2の位相差検出画素の第2検出情報とを生成する生成手段と、
前記生成した第1検出情報と第2検出情報との相関関係を示す被写体の相関演算曲線を求め、該相関演算曲線から前記撮像レンズを前記合焦位置に制御する位相差を求める位相差演算手段と、
前記求めた位相差に基づき前記撮像レンズを前記合焦する位置に制御する位置制御手段と、
を備えた撮像装置。
【請求項2】
前記フィルタ作成手段は、前記包含エリア及び内包エリアの空間周波数分布のうち類似した空間周波数分布の周波帯域に対応する前記包含エリアの周波帯域を、前記被写体の領域としてフィルタを作成する
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記フィルタ作成手段は、前記包含エリア及び内包エリアの空間周波数分布に基づいて、前記包含エリアの空間周波数分布について前記被写体の領域と背景領域との各々に対応する周波帯域に分離し、分離した前記被写体の領域に対応する周波帯域を、前記被写体の領域としてフィルタを作成する
ことを特徴とする請求項1または請求項2に記載の撮像装置。
【請求項4】
前記エリア設定手段は、前記被写体領域の周囲を少なくとも含みかつ前記被写体領域の外周に外接する外接エリアを包含エリアに設定し、前記被写体領域のみからなり前記被写体領域の外周に内接する内接エリアを内包エリアに設定する
ことを特徴とする請求項1〜請求項3の何れか1項に記載の撮像装置。
【請求項5】
前記エリア設定手段は、前記包含エリア及び内包エリアを四角形とし、前記合焦する被写体の中心から四角形を徐々に拡大して前記被写体領域の外周に内接した内包エリアを設定すると共に、前記被写体領域の周囲から四角形を徐々に縮小して前記被写体領域の外周に外接した包含エリアを設定する
ことを特徴とする請求項4に記載の撮像装置。
【請求項6】
前記エリア設定手段は、前記四角形を徐々に拡大して前記内包エリアを設定する場合、前記被写体領域の外周に内接した内包エリアから予め定めた拡大設定量だけ拡大した拡大エリアを内包エリアとして設定する
ことを特徴とする請求項5に記載の撮像装置。
【請求項7】
前記撮像レンズは、絞りを具備し、
前記エリア設定手段は、前記撮像レンズの焦点距離及び絞り値に基づいて焦点深度を求め、求めた焦点深度に基づいて前記拡大設定量を設定する
ことを特徴とする請求項6に記載の撮像装置。
【請求項8】
前記エリア設定手段は、前記包含エリア及び内包エリアを四角形とし、前記四角形を徐々に拡大して前記内包エリアを設定する場合、前記四角形に含まれる画素数による面積及び前記四角形の縦横比について、予め定めた閾値を超える面積及び縦横比の拡大エリアを内包エリアとして設定する
ことを特徴とする請求項5〜請求項7の何れか1項に記載の撮像装置。
【請求項9】
前記エリア設定手段は、前記被写体領域の重心を求め、求めた被写体の重心から四角形を徐々に拡大して内包エリアを設定する
ことを特徴とする請求項5〜請求項8の何れか1項に記載の撮像装置。
【請求項10】
被写体の画像を撮像する受光面に設けられた位相差検出エリア内に、瞳分割した第1の位相差検出画素及び第2の位相差検出画素で構成されるペア画素が配列形成された撮像素子と、前記撮像素子の前段に置かれ、前記被写体の合焦した光学像を前記受光面に結像させる撮像レンズと、を備えた撮像装置において実行させる撮像プログラムであって、
前記合焦する被写体を特定し、該合焦する被写体の領域を全て含む包含エリアと、該合焦する被写体の領域の一部からなる内包エリアの各々を設定するエリア設定ステップと、
前記設定した包含エリア及び内包エリアの各々の空間周波数分布を演算し、演算した空間周波数分布の各々に基づいて前記被写体の領域に対応する空間周波数を通過させるフィルタを作成するフィルタ作成ステップと、
前記作成したフィルタを用いて前記被写体の領域に対応する空間周波数に該当する前記第1の位相差検出画素の第1検出情報と前記第2の位相差検出画素の第2検出情報とを生成する生成ステップと、
前記生成した第1検出情報と第2検出情報との相関関係を示す被写体の相関演算曲線を求め、該相関演算曲線から前記撮像レンズを前記合焦位置に制御する位相差を求める位相差演算ステップと、
前記求めた位相差に基づき前記撮像レンズを前記合焦する位置に制御する位置制御ステップと、
の各ステップをコンピュータによって実行させる撮像プログラム。
【請求項1】
被写体の画像を撮像する受光面に設けられた位相差検出エリア内に、瞳分割した第1の位相差検出画素及び第2の位相差検出画素で構成されるペア画素が配列形成された撮像素子と、
前記撮像素子の前段に置かれ、前記被写体の合焦した光学像を前記受光面に結像させる撮像レンズと、
前記合焦する被写体を特定し、該合焦する被写体の領域を全て含む包含エリアと、該合焦する被写体の領域の一部からなる内包エリアの各々を設定するエリア設定手段と、
前記設定した包含エリア及び内包エリアの各々の空間周波数分布を演算し、演算した空間周波数分布の各々に基づいて前記被写体の領域に対応する空間周波数を通過させるフィルタを作成するフィルタ作成手段と、
前記作成したフィルタを用いて前記被写体の領域に対応する空間周波数に該当する前記第1の位相差検出画素の第1検出情報と前記第2の位相差検出画素の第2検出情報とを生成する生成手段と、
前記生成した第1検出情報と第2検出情報との相関関係を示す被写体の相関演算曲線を求め、該相関演算曲線から前記撮像レンズを前記合焦位置に制御する位相差を求める位相差演算手段と、
前記求めた位相差に基づき前記撮像レンズを前記合焦する位置に制御する位置制御手段と、
を備えた撮像装置。
【請求項2】
前記フィルタ作成手段は、前記包含エリア及び内包エリアの空間周波数分布のうち類似した空間周波数分布の周波帯域に対応する前記包含エリアの周波帯域を、前記被写体の領域としてフィルタを作成する
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記フィルタ作成手段は、前記包含エリア及び内包エリアの空間周波数分布に基づいて、前記包含エリアの空間周波数分布について前記被写体の領域と背景領域との各々に対応する周波帯域に分離し、分離した前記被写体の領域に対応する周波帯域を、前記被写体の領域としてフィルタを作成する
ことを特徴とする請求項1または請求項2に記載の撮像装置。
【請求項4】
前記エリア設定手段は、前記被写体領域の周囲を少なくとも含みかつ前記被写体領域の外周に外接する外接エリアを包含エリアに設定し、前記被写体領域のみからなり前記被写体領域の外周に内接する内接エリアを内包エリアに設定する
ことを特徴とする請求項1〜請求項3の何れか1項に記載の撮像装置。
【請求項5】
前記エリア設定手段は、前記包含エリア及び内包エリアを四角形とし、前記合焦する被写体の中心から四角形を徐々に拡大して前記被写体領域の外周に内接した内包エリアを設定すると共に、前記被写体領域の周囲から四角形を徐々に縮小して前記被写体領域の外周に外接した包含エリアを設定する
ことを特徴とする請求項4に記載の撮像装置。
【請求項6】
前記エリア設定手段は、前記四角形を徐々に拡大して前記内包エリアを設定する場合、前記被写体領域の外周に内接した内包エリアから予め定めた拡大設定量だけ拡大した拡大エリアを内包エリアとして設定する
ことを特徴とする請求項5に記載の撮像装置。
【請求項7】
前記撮像レンズは、絞りを具備し、
前記エリア設定手段は、前記撮像レンズの焦点距離及び絞り値に基づいて焦点深度を求め、求めた焦点深度に基づいて前記拡大設定量を設定する
ことを特徴とする請求項6に記載の撮像装置。
【請求項8】
前記エリア設定手段は、前記包含エリア及び内包エリアを四角形とし、前記四角形を徐々に拡大して前記内包エリアを設定する場合、前記四角形に含まれる画素数による面積及び前記四角形の縦横比について、予め定めた閾値を超える面積及び縦横比の拡大エリアを内包エリアとして設定する
ことを特徴とする請求項5〜請求項7の何れか1項に記載の撮像装置。
【請求項9】
前記エリア設定手段は、前記被写体領域の重心を求め、求めた被写体の重心から四角形を徐々に拡大して内包エリアを設定する
ことを特徴とする請求項5〜請求項8の何れか1項に記載の撮像装置。
【請求項10】
被写体の画像を撮像する受光面に設けられた位相差検出エリア内に、瞳分割した第1の位相差検出画素及び第2の位相差検出画素で構成されるペア画素が配列形成された撮像素子と、前記撮像素子の前段に置かれ、前記被写体の合焦した光学像を前記受光面に結像させる撮像レンズと、を備えた撮像装置において実行させる撮像プログラムであって、
前記合焦する被写体を特定し、該合焦する被写体の領域を全て含む包含エリアと、該合焦する被写体の領域の一部からなる内包エリアの各々を設定するエリア設定ステップと、
前記設定した包含エリア及び内包エリアの各々の空間周波数分布を演算し、演算した空間周波数分布の各々に基づいて前記被写体の領域に対応する空間周波数を通過させるフィルタを作成するフィルタ作成ステップと、
前記作成したフィルタを用いて前記被写体の領域に対応する空間周波数に該当する前記第1の位相差検出画素の第1検出情報と前記第2の位相差検出画素の第2検出情報とを生成する生成ステップと、
前記生成した第1検出情報と第2検出情報との相関関係を示す被写体の相関演算曲線を求め、該相関演算曲線から前記撮像レンズを前記合焦位置に制御する位相差を求める位相差演算ステップと、
前記求めた位相差に基づき前記撮像レンズを前記合焦する位置に制御する位置制御ステップと、
の各ステップをコンピュータによって実行させる撮像プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【公開番号】特開2012−215700(P2012−215700A)
【公開日】平成24年11月8日(2012.11.8)
【国際特許分類】
【出願番号】特願2011−80968(P2011−80968)
【出願日】平成23年3月31日(2011.3.31)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
【公開日】平成24年11月8日(2012.11.8)
【国際特許分類】
【出願日】平成23年3月31日(2011.3.31)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
[ Back to top ]