説明

カメラおよび画像処理プログラム

【課題】撮像画素と焦点検出画素を混載する撮像素子を備えたカメラにおいて、画像信号の品質を向上させる。
【解決手段】撮像画素があるべき画素位置に焦点検出用画素を配置し、焦点検出画素位置における画像信号を形成する場合、該焦点検出画素位置が合焦しているか否かを判定し(S210)する。肯定判定の場合は、該焦点検出画素位置の像高と、光学系の絞り開口径と、射出瞳距離とに応じて光量比を算出し(S220)、算出した該光量比と該焦点検出画素位置の焦点検出画素のデータとに基づき、該焦点検出画素位置の画像信号を算出する(S230)。否定判定の場合は、該焦点検出画素位置の焦点検出画素のデータと、該焦点検出画素位置の焦点検出画素を挟む2つの焦点検出画素のデータとに基づき、該焦点検出画素位置の画像信号を算出する(S240)。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像画素と焦点検出画素を混載する撮像素子を備えたカメラおよび撮影画像データに対して画像処理を行う画像処理プログラムに関する。
【背景技術】
【0002】
特許文献1には撮像画素と焦点検出画素を混載する撮像素子を備えた固体撮像装置が開示されている。この固体撮像装置では、隣接して1列に並んだ緑色の色フィルタを有する画素のマイクロレンズ中心を通る直線上に並び、隣接画素同士でマイクロレンズ中心に対して逆向きにずれた焦点検出画素で、撮影レンズの瞳の特定領域を透過する光束を受光する。そして、これら互いに逆向きにずれた焦点検出画素から得られる第一の像信号と第二の像信号の位相差に基づいて撮影レンズの焦点状態を検出している。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2005−303409号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上述した従来の固体撮像装置においては、以下のような問題があった。すなわち、撮像画素があるべき画素位置に焦点検出用画素が配置されている。したがって、焦点検出画素位置における画像信号を形成する場合には、該焦点検出画素位置が合焦しているか否かに関わらず、一律に、焦点検出用画素の受光した信号をそのまま画像信号として用いて画像を生成しているので、生成された画像信号の品質が良くなかった。
【課題を解決するための手段】
【0005】
(1)請求項1に記載のカメラは、所定の色配列に対応する分光感度を有する複数の撮像画素と、複数の焦点検出画素とが2次元的に配列され、複数の焦点検出画素が、一対の焦点検出光束を受光する第1の焦点検出画素列と第2の焦点検出画素列とを形成する撮像素子と、撮像素子上に被写体像を形成する光学系と、第1の焦点検出画素列に含まれる複数の第1の焦点検出画素が出力する画素信号と、第2の焦点検出画素列に含まれる複数の第2の焦点検出画素が出力する画素信号とに基づき、被写体像についての焦点状態を検出し、第1の検出出力または第2の検出出力を出力する焦点検出手段と、焦点検出手段が第1の検出出力を出力したとき、所定の演算処理により、複数の焦点検出画素の各々が配置された焦点検出画素位置の撮像信号を算出する第1の演算処理手段と、焦点検出手段が第2の検出出力を出力したとき、第1の演算処理手段とは異なる演算処理により、複数の焦点検出画素の各々が配置された焦点検出画素位置の撮像信号を算出する第2の演算処理手段と、複数の撮像画素が出力する撮像信号と、第1の演算処理手段または第2の演算処理手段が算出する焦点検出画素位置の撮像信号とに基づき画像データを生成する画像生成手段とを備えることを特徴とする。
(2)請求項12に記載の画像処理プログラムは、複数の撮像画素の撮像信号データと、一対の焦点検出画素列の焦点検出信号列データを構成する複数の焦点検出画素の焦点検出信号データとを含むRAW画像データから被写体画像データを生成する処理をコンピュータに実行させる画像処理プログラムであって、RAW画像データを読み込む読み込み手順と、焦点検出信号列データに基づき、被写体画像の焦点検出位置における被写体画像についての焦点状態を検出し、第1の検出出力または第2の検出出力を出力する焦点検出手順と、焦点検出手順により第1の検出出力が出力されたとき、所定の演算処理により、焦点検出位置の撮像信号データを算出する第1の演算処理手順と、焦点検出手順により第2の検出出力が出力されたとき、第1の演算処理手順とは異なる演算処理により、焦点検出位置の撮像信号データを算出する第2の演算処理手順と、複数の撮像画素の撮像信号データと、第1の演算処理手順または第2の演算処理手手順により算出される焦点検出位置の撮像信号データとに基づき被写体画像データを生成する画像生成手順とをコンピュータに実行させることを特徴とする。
【発明の効果】
【0006】
本発明によれば、撮像画素と焦点検出画素を混載する撮像素子を備えたカメラにおいて、画像信号の品質を向上させることができる。
【図面の簡単な説明】
【0007】
【図1】第1の実施の形態のデジタルスチルカメラの構成を示す横断面図である。
【図2】交換レンズの撮影画面上における焦点検出位置を示す図である。
【図3】撮像素子の詳細な構成を示す正面図である。
【図4】撮像画素が受光する撮影光束の様子を説明するための図である。
【図5】焦点検出画素が受光する撮影光束の様子を説明するための図である。
【図6】デジタルスチルカメラの撮像動作を示すフローチャートである。
【図7】色収差情報を像高(光軸からの距離)の関数として示した図である。
【図8】焦点検出画素位置の画像データ算出処理の詳細を示すフローチャートである。
【図9】予定焦点面を示す側面図および正面図である。
【図10】一対の焦点検出光束と光学系の絞り開口の関係を示した図である。
【図11】一対の焦点検出光束と光学系の絞り開口の関係を示した図である。
【図12】一対の焦点検出光束と光学系の絞り開口の関係を示した図である。
【図13】所定の射出瞳距離および絞り開口径における光量比を像高の関数として示した図である。
【図14】撮影画面上において光軸と焦点検出画素位置の角度と像高とを定めた図である。
【図15】撮像素子の詳細な構成を示す正面図における4画素×4画素の領域を示した拡大図である。
【図16】撮像素子の詳細な構成を示す正面図である。
【図17】撮像素子の詳細な構成を示す正面図における8画素×8画素の領域を示した拡大図である。
【図18】撮像素子の詳細な構成を示す正面図である。
【図19】撮像素子の詳細な構成を示す正面図である。
【図20】撮像素子の詳細な構成を示す正面図である。
【図21】焦点検出画素の正面図である。
【図22】画像処理装置における画像処理プログラムを用いた焦点検出画素位置の画像データ算出処理を説明するための図である。
【発明を実施するための形態】
【0008】
−−−第1の実施の形態−−−
第1の実施の形態のカメラとして、レンズ交換式のデジタルスチルカメラを例に挙げて説明する。図1は第1の実施の形態のデジタルスチルカメラの構成を示す横断面図である。本実施の形態のデジタルスチルカメラ201は、交換レンズ202とカメラボディ203とから構成され、交換レンズ202がマウント部204を介してカメラボディ203に装着される。カメラボディ203にはマウント部204を介して種々の撮影光学系を有する交換レンズ202が装着可能である。
【0009】
交換レンズ202は、レンズ209、ズーミング用レンズ208、フォーカシング用レンズ210、絞り211、レンズ駆動制御装置206などを備えている。レンズ駆動制御装置206は、不図示のマイクロコンピューター、メモリ、駆動制御回路などから構成される。レンズ駆動制御装置206は、フォーカシング用レンズ210の焦点調節と絞り211の開口径調節のための駆動制御や、ズーミング用レンズ208、フォーカシング用レンズ210および絞り211の状態検出などを行う。また、後述するボディ駆動制御装置214との通信によりレンズ情報の送信とカメラ情報(デフォーカス量や絞り値など)の受信を行う。絞り211は、光量およびボケ量調整のために光軸中心に開口径が可変な開口を形成する。
【0010】
カメラボディ203は、撮像素子212、ボディ駆動制御装置214、液晶表示素子駆動回路215、液晶表示素子216、接眼レンズ217、メモリカード219などを備えている。撮像素子212には、撮像画素が二次元状に配置されるとともに、焦点検出位置(焦点検出エリア)に対応した部分に焦点検出画素が組み込まれている。この撮像素子212については詳細を後述する。
【0011】
ボディ駆動制御装置214は、マイクロコンピューター、メモリ、駆動制御回路などから構成される。ボディ駆動制御装置214は、撮像素子212の駆動制御と、撮像画素および焦点検出画素からの画素信号の読み出しと、焦点検出画素からの画素信号に基づく焦点検出演算と、交換レンズ202の焦点調節とを繰り返し行う。また、焦点検出画素位置の画像信号の生成を含む画像処理、画像情報の記録、デジタルスチルカメラ201の動作制御なども行う。また、ボディ駆動制御装置214は電気接点213を介してレンズ駆動制御装置206と通信を行い、レンズ情報の受信とカメラ情報の送信を行う。
【0012】
液晶表示素子216は電気的なビューファインダー(EVF:Electronic View Finder)として機能する。液晶表示素子駆動回路215は撮像素子212から出力される画像データに基づき、画像を液晶表示素子216に表示し、撮影者は接眼レンズ217を介してその画像を観察することができる。メモリカード219は、撮像素子212により撮像された画像データを記憶する画像ストレージである。内蔵メモリ220は、焦点検出画素位置の画像信号の生成の際に使用する焦点検出画素の光量比に関する情報が記憶格納されている。
【0013】
交換レンズ202を通過した光束により、撮像素子212の受光面上に被写体像が形成される。この被写体像は撮像素子212により光電変換され、撮像画素と焦点検出画素の画素信号としてボディ駆動制御装置214へ送られる。
【0014】
ボディ駆動制御装置214は、撮像素子212の焦点検出画素からの画素信号に基づいてデフォーカス量を算出するとともに、該デフォーカス量に色収差補正を加えてレンズ駆動制御装置206へ送る。また、ボディ駆動制御装置214は、撮像素子212の撮像画素および焦点検出画素からの画素信号を処理して画像データを生成し、メモリカード219に格納するとともに、撮像素子212が出力する画像データを液晶表示素子駆動回路215へ送り、画像を液晶表示素子216に表示させる。さらに、ボディ駆動制御装置214は、レンズ駆動制御装置206へ絞り制御情報を送って絞り211の開口制御を行う。
【0015】
レンズ駆動制御装置206は、フォーカシング状態、ズーミング状態、絞り設定状態、絞り開放F値などに応じてレンズ情報を更新する。具体的には、ズーミング用レンズ208とフォーカシング用レンズ210の位置と絞り211の絞り値を検出し、これらのレンズ位置と絞り値に応じてレンズ情報を演算したり、あるいは予め用意されたルックアップテーブルからレンズ位置と絞り値に応じたレンズ情報を選択する。なおレンズ情報には射出瞳距離の情報も含まれる。
【0016】
レンズ駆動制御装置206は、受信したデフォーカス量に基づいてレンズ駆動量を算出し、レンズ駆動量に応じてフォーカシング用レンズ210を合焦位置へ駆動する。また、レンズ駆動制御装置206は受信した絞り値に応じて絞り211を駆動する。
【0017】
図2は、交換レンズ202の撮影画面上における焦点検出位置(焦点検出エリア)を示す図であり、後述する撮像素子212上の焦点検出画素列が焦点検出の際に撮影画面上で像をサンプリングする領域(焦点検出エリア、焦点検出位置)の一例を示す。この例では、矩形の撮影画面100上の中央および上下左右の9箇所に焦点検出エリア101〜109が配置される。長方形で示す焦点検出エリアの長手方向に、焦点検出画素が右上がり斜め45度方向に直線的に配列される。
【0018】
図3は撮像素子212の詳細な構成を示す正面図であり、撮像素子212上の焦点検出エリア101の近傍を拡大して示す。撮像素子212には撮像画素310が二次元正方格子状に稠密に配列される。撮像画素310は赤画素(R)、緑画素(G)、青画素(B)からなり、ベイヤー配列の配置規則によって配置されている。焦点検出エリア101に対応する位置には撮像画素310と同一の画素サイズを有し、緑画素と同じ分光感度を備えた焦点検出用の焦点検出画素313と314とが、交互に、本来緑画素が連続的に配置されるべき斜め右上がり45度方向の直線上に連続して配列される。
【0019】
撮像画素310は、図3に示すように矩形のマイクロレンズ10、後述の遮光マスクで受光領域を正方形に制限された光電変換部11、および色フィルタ(不図示)から構成される。色フィルタは赤(R)、緑(G)、青(B)の3種類からなり、それぞれの色に対応する分光感度特性を有している。撮像素子212には、各色フィルタを備えた撮像画素310がベイヤー配列されている。
【0020】
焦点検出画素313は、図3に示すように矩形のマイクロレンズと遮光マスクで受光領域を正方形の半分(正方形を左上がり45度方向の対角線で2等分した場合の右上半分)に制限された光電変換部、および緑(G)の色フィルタから構成される。
【0021】
また、焦点検出画素314は、図3に示すように矩形のマイクロレンズと遮光マスクで受光領域を正方形の半分(正方形を左上がり45度方向の対角線で2等分した場合の左下半分)に制限された光電変換部、および緑(G)の色フィルタから構成される。
【0022】
焦点検出画素313と焦点検出画素314とをマイクロレンズを重ね合わせて表示すると、遮光マスクで受光領域を正方形の半分に制限された光電変換部が右上がり斜め45度方向に並んでいる。
【0023】
また、上述した正方形を半分にした受光領域の部分に正方形を半分にした残りの部分(破線部分)を加えると、撮像画素の受光領域と同じサイズの正方形となる。
【0024】
図4は、図3に示す撮像画素310が受光する撮影光束の様子を説明するための図であって、右上がり斜め45度方向の直線で撮像画素配列の断面をとっている。
【0025】
撮像素子上に配列された全ての撮像画素の光電変換部11は、光電変換部11に近接して配置された遮光マスク開口を通過した光束を受光する。遮光マスク開口の形状は、各撮像画素のマイクロレンズ10により、マイクロレンズ10から測距瞳距離dだけ離間した射出瞳90上の全撮像画素共通な領域95に投影される。
【0026】
従って各撮像画素の光電変換部11は、領域95と各撮像画素のマイクロレンズ10を通過する光束71を受光し、領域95を通過して各撮像画素のマイクロレンズ10へ向う光束71によって各マイクロレンズ10上に形成される像の強度に対応した信号を出力する。
【0027】
図5は、図3に示す焦点検出画素313,314が受光する撮影光束の様子を図4と比較して説明するための図であって、右上がり斜め45度方向の直線で焦点検出画素配列の断面をとっている。
【0028】
撮像素子上に配列された全ての焦点検出画素の光電変換部13,14は、光電変換部13,14に近接して配置された遮光マスク開口を通過した光束を受光する。遮光マスク開口の形状は、各焦点検出画素313のマイクロレンズ10によりマイクロレンズ10から測距瞳距離dだけ離間した射出瞳90上の焦点検出画素313に全てに共通した領域93に投影される。同じく、遮光マスク開口30cの形状は、各焦点検出画素314のマイクロレンズ10によりマイクロレンズ10から測距瞳距離dだけ離間した射出瞳90上の焦点検出画素314に全てに共通した領域94に投影される。一対の領域93,94を測距瞳と呼ぶ。
【0029】
従って、各焦点検出画素313の光電変換部13は、領域93と各撮像画素のマイクロレンズ10を通過する光束73を受光し、領域93を通過して各撮像画素のマイクロレンズ10へ向う光束73によって各マイクロレンズ10上に形成される像の強度に対応した信号を出力する。また、各焦点検出画素314の光電変換部14は、領域94と各撮像画素のマイクロレンズ10とを通過する光束74を受光し、領域94を通過して各撮像画素のマイクロレンズ10へ向う光束74によって各マイクロレンズ10上に形成される像の強度に対応した信号を出力する。
【0030】
一対の焦点検出画素313,314が受光する光束73,74が通過する射出瞳90上の領域93と94を統合した領域は、撮像画素310が受光する光束71が通過する射出瞳90上の領域95と一致する。射出瞳90上において光束73,74は光束71に対して相補的な関係になっている。
【0031】
ある焦点検出画素の位置に仮想的な撮像画素があると仮定した場合には、該仮想的な撮像画素が受光する光束71に対してその焦点検出画素が受光する光束73(74)とその焦点検出画素に隣接する焦点検出画素が受光する光束74(73)は相補的な関係となる。
【0032】
すなわち、撮像画素と焦点検出画素の構成を同一にするとともに、撮像画素の光電変換部の受光領域に対して、一対の焦点検出画素の光電変換部の受光領域を相補的にすることにより、隣接した一対の焦点検出画素の出力を加算した出力と仮想的な撮像画素の出力とは等しい関係となり、隣接した一対の焦点検出画素の出力を加算することで仮想的な撮像画素の出力を高精度に再現することができることになる。
【0033】
上述した一対の焦点検出画素を交互にかつ直線状に多数配置する。各焦点検出画素の光電変換部の出力を測距瞳93および測距瞳94に対応した一対の出力グループにまとめることによって、測距瞳93と測距瞳94をそれぞれ通過する一対の光束が焦点検出画素配列上に形成する一対の像の強度分布に関する情報が得られる。この情報に対して後述する像ズレ検出演算処理(相関演算処理、位相差検出処理)を施すことによって、いわゆる瞳分割型位相差検出方式で一対の像の像ズレ量が検出される。さらに、像ズレ量に一対の測距瞳の重心間隔と測距瞳距離の比例関係に応じた変換演算を行うことによって、予定結像面(マイクロレンズアレイの位置)に対する現在の結像面(撮影画面100上で定められる焦点検出位置における実際の結像面)の偏差(デフォーカス量)が算出される。
【0034】
図6は、一実施の形態のデジタルスチルカメラ201の撮像動作を示すフローチャートである。ボディ駆動制御装置214は、ステップS100でデジタルスチルカメラ201の電源がオンされると、ステップS110以降の撮像動作を開始する。ステップS110において、撮像画素310のデータの一部を間引きして読み出し、液晶表示素子216に表示させる。続くステップS120では、焦点検出画素配列から一対の像に対応した一対の像データを読み出すとともに、焦点検出画素配列の周囲の撮像画素310のデータを読み出す。なお、焦点検出エリアは、撮影者が焦点検出エリア選択部材(不図示)を用いて焦点検出エリア101〜109の内のいずれかを予め選択しているものとする。
【0035】
ステップS130では、読み出された一対の像データに基づいて後述する像ズレ検出演算処理(相関演算処理、位相差検出処理)を行って像ズレ量を演算し、さらに像ズレ量をデフォーカス量に変換する。
【0036】
ステップS135では、焦点検出画素配列の周囲の撮像画素310から読み出されたデータに基づき、焦点検出画素配列を含む領域の色を検出するとともに、該検出された色と焦点検出画素313、314の色(緑)との差によって生じる色収差に応じた補正量をレンズ駆動制御装置206から読み出した撮影光学系の色収差情報に基づいて決定し、該補正量によりデフォーカス量を補正する。
【0037】
ステップS140で、合焦近傍か否か、すなわち補正デフォーカス量の絶対値が所定値以内であるか否かを調べる。合焦近傍でないと判定された場合は、ステップS150へ進み、補正デフォーカス量をレンズ駆動制御装置206へ送信し、交換レンズ202のフォーカシング用レンズ210を合焦位置に駆動させる。その後、ステップS110へ戻って上述した動作を繰り返す。
【0038】
なお、焦点検出不能な場合もこのステップに分岐し、レンズ駆動制御装置206へスキャン駆動命令を送信し、交換レンズ202のフォーカシングレンズ用210を無限から至近までの間でスキャン駆動させる。その後、ステップS110へ戻って上述した動作を繰り返す。
【0039】
ステップS140で合焦近傍であると判定された場合はステップS160へ進み、シャッターボタン(不図示)の操作によりシャッターレリーズがなされたか否かを判別する。シャッターレリーズがなされていないと判定された場合はステップS110へ戻り、上述した動作を繰り返す。一方、シャッターレリーズがなされたと判定された場合はステップS170へ進み、レンズ駆動制御装置206へ絞り調整命令を送信し、交換レンズ202の絞り値を制御F値(撮影者または自動により設定されたF値)にする。絞り制御が終了した時点で、撮像素子212に撮像動作を行わせ、撮像素子212の撮像画素310および全ての焦点検出画素313、314から画像データを読み出す。
【0040】
ステップS175において、読み出された一対の像データに基づいて後述する像ズレ検出演算処理(相関演算処理、位相差検出処理)を行い、全ての焦点検出エリア101〜109における像ズレ量を演算する。
【0041】
ステップS180では、全ての焦点検出エリア101〜109において焦点検出画素列の各焦点検出画素位置の画像データをステップS170で求めた像ズレ量に応じた算出方法で、焦点検出画素位置の焦点検出画素313、314のデータおよび該焦点検出画素313、314の周囲の焦点検出画素313、314のデータに基づき算出する。なおこの演算処理については後述する。続くステップS190では、撮像画素310の画素データおよびステップS180で求めた画素データからなる画像データをメモリカード219に記憶し、ステップS110へ戻って上述した動作を繰り返す。
【0042】
図6のステップS130およびステップS170における像ズレ検出演算処理(相関演算処理、位相差検出処理)の詳細について以下説明する。
【0043】
焦点検出画素313、314が検出する一対の像は、測距瞳93、94がレンズの絞り開口によりけられて光量バランスが崩れている可能性があるので、光量バランス崩れに対して像ズレ検出精度を維持できるタイプの相関演算を施す。
【0044】
焦点検出画素列から読み出された一対のデータ列(A1〜A1、A2〜A2:Mはデータ数)に対し、特開2007−333720号公報に開示された相関演算式(1)を行い、相関量C(k)を演算する。
C(k)=Σ|A1・A2n+1+k−A2n+k・A1n+1| (1)
【0045】
特開2009−141791号公報に開示された算出方法により、相関量C(k)の極小値C(x)を与えるずらしxを用いて像ズレ量shftを算出することができる。こうして算出された像ズレ量に所定の変換係数Kdを乗じてデフォーカス量defへ変換する。なお、変換係数Kdは、測距瞳距離dを一対の測距瞳93、94の重心間隔で除算した値である。
def=Kd・shft (2)
【0046】
式(2)で求めたデフォーカス量は緑フィルタを有する焦点検出画素配列の焦点検出画素313、314のデータに基づいて求められたものであり、従って、緑フィルタの分光感度特性を有する光の合焦面と撮像面の間の偏差を示している。本来は、焦点検出画素配列近傍の像の色(分光感度特性)についての合焦面と撮像面との間のデフォーカス量を求めたいので、式(2)で求めたデフォーカス量に色収差に関する補正量を加える。
【0047】
レンズ駆動制御装置206には、絞り開口径、ズーミング、フォーカシングに応じた色収差情報が記憶されている。焦点検出画素313、314から画素信号を読み出した時点での交換レンズ202の絞り開口径、ズーミング、フォーカシングに応じた色収差情報がボディ駆動制御装置214に送られる。
【0048】
図7に示すように、色収差情報は、緑フィルタの分光感度特性を有する光の合焦面位置を基準とした場合の赤フィルタおよび青フィルタの分光感度特性を有する光の合焦面位置の偏差(ΔR、ΔB)を像高h(光軸からの距離)の関数として示したものである。
【0049】
ボディ駆動制御装置214は、焦点検出画素配列の周囲の赤画素、緑画素、青画素それぞれの画素データの平均値Rs、Gs、Bsを算出するとともに、焦点検出画素配列の平均的な像高h1に応じて色収差情報より赤色収差ΔR(h1)と青色収差ΔB(h1)を算出する。
【0050】
補正量Eは、赤色収差ΔR(h1)および青色収差ΔB(h1)の各々に、白色に対する赤色の成分比Rs/(Rs+Gs+Bs)および白色に対する青色の成分比Bs/(Rs+Gs+Bs)の各々を乗じた次式(3)で算出される。
E=ΔR(h1)・Rs/(Rs+Gs+Bs)+ΔB(h1)・Bs/(Rs+Gs+Bs) (3)
【0051】
最終的に色収差が補正されたデフォーカス量def’は次式(4)により求められる。
def’=def+E (4)
【0052】
図6のステップS180における焦点検出画素位置の画像データ算出処理の詳細なフローチャートを図8に示す。なお、図8のフローチャートは、1つの焦点検出エリアにおける1つの焦点検出画素に対する処理であり、この処理が全ての焦点検出エリア101〜109の全ての焦点検出画素313、314に適用される。
【0053】
ここで、焦点検出画素位置に仮想的に配置された撮像画素の画素データ(画像データ)の基本的な算出方法について述べる。
【0054】
上述したように、図8のフローチャートに従った処理が開始される際には、焦点検出エリア101〜109のうち、撮影者が焦点検出エリア選択部材を用いて予め選択した焦点検出エリアにおいては既に像が合焦近傍にある。しかし、他の焦点検出エリアにおいては、像が合焦近傍にある場合もあるとともに、像が合焦近傍に無い場合もある。
【0055】
一対の焦点検出画素313、314が受光する一対の光束は撮像画素310が受光する光束に対して相補的な関係になっている。したがって、同一の焦点検出画素位置に同時に一対の焦点検出画素が存在したと仮定すれば、一対の焦点検出画素の画素データを加算することにより、焦点検出画素位置に仮想的に配置された撮像画素の画素データを求めることができる。しかし1つの焦点検出画素位置には一対の焦点検出画素313、314の一方しか配置できないので、一対の焦点検出画素313、314のうちの一方の焦点検出画素の画素データは、該焦点検出画素を挟むもう一方の2つの焦点検出画素の画素データを平均することにより求める。
【0056】
しかしながら、像が合焦近傍の場合には、上述した一方の焦点検出画素の画素データを求める際に、該焦点検出画素を挟むもう一方の2つの焦点検出画素の画素データを平均することが3画素にわたる画素データを平均することと同等となる。したがって、結果的に像の高周波成分が低減され、像の細密な構造が失われてしまう。
【0057】
そこで、光学系により形成された像が合焦近傍の場合には、焦点検出画素位置の焦点検出画素の画素データのみから、焦点検出画素位置に仮想的に配置された撮像画素の画素データを算出することにより、像の高周波成分が低減を防止し、像の細密な構造を保存する。
【0058】
焦点検出画素位置の画像データ算出処理が開始されると、ステップS210において、図6のステップS175で算出された像ズレ量の絶対値が所定閾値以下か否かを判定し、判定結果に応じて画像データの算出方法を変更する。具体的には、像ズレ量の絶対値が所定閾値以下、すなわち合焦近傍の場合は、像の空間周波数成分のうち、高周波成分が相対的に増加してコントラストの高い像となる。そこで、像の細密構造を高品質に再現するために、焦点検出画素位置の画像データの算出にあたって、焦点検出画素位置の焦点検出画素の画素データのみを用いる。合焦近傍においては、一対の焦点検出画素313、314の受光特性の同一性が高く(像の同じ部分を受光している)、一方の焦点検出画素の画素データを単に所定倍することで緑の撮像画素の画素データを再現できるため、焦点検出画素位置の画素データの再現品質を維持することができる。
【0059】
また、像ズレ量の絶対値が所定閾値以上、すなわち合焦近傍でない場合は、像の空間周波数成分のうち、高周波成分が相対的に減少して像がぼける。したがって、像の細密構造を再現する必要がないとともに、合焦近傍でない場合は、一対の焦点検出画素の受光特性の同一性が崩れ(像の異なる部分を受光している)、一方の焦点検出画素の画素データを単に所定倍することだけでは焦点検出画素位置の画素データの再現品質が低下する。そこで、焦点検出画素位置の画像データの算出にあたって、焦点検出画素位置の焦点検出画素の画素データと、受光する光束に関して、該焦点検出画素位置の焦点検出画素と相補的な関係を有する該焦点検出画素の周囲の焦点検出画素の画素データを用いる。相補的な関係については後述する。
【0060】
また、像ズレ量の絶対値を判定する閾値は、一対の焦点検出画素313、314の受光特性の同一性による高周波成分の再現効果を考慮して、画素ピッチ換算で1〜2画素ピッチ以内とするのが適当である。
【0061】
ステップS210において合焦近傍と判定された場合は、ステップS220に進み、焦点検出画素位置の像高と、レンズ駆動制御装置206から読み出した絞り開口径および射出瞳距離とに応じ、内蔵メモリ220に記憶された光量比情報に基づき、焦点検出画素位置の光量比を算出する。
【0062】
合焦近傍においても、交換レンズの射出瞳距離が図5に示す測距瞳距離dから離れている場合には、焦点検出画素位置の像高が高くなると、焦点検出画素に入射する光束がシェーディングによりけられる。このため、焦点検出画素の画素データを単に2倍しただけでは焦点検出画素位置の画素データ(仮想的な緑色の撮像画素の画素データ)を再現できない。したがって、シェーディングに応じた光量比(焦点検出画素位置に仮想的に一対の焦点検出画素が配置された場合の一対の焦点検出画素の画素データの出力比)を算出する必要がある。
【0063】
図9は、予定焦点面92を示す側面図および正面図である。図9(a)は、シェーディングに応じた光量比の変化(焦点検出光束のケラレ(口径蝕))を説明するための図である。図において、位置x0(像高0、すなわち撮影画面100の中心x0に対応)と位置x1(像高h、すなわち撮影画面100の外周近傍のx1に対応)とに位置する一対の焦点検出画素は、それぞれ予定焦点面92の前方dにある測距瞳面97において測距瞳領域93、94を通過する一対の焦点検出光束53、54および63、64を受光するように構成されている。予定焦点面92の前方d1(<d)の面98に光学系の絞り開口96がある場合には、位置x0(像高0)にある一対の焦点検出画素が受光する一対の焦点検出光束53、54は、絞り開口96により光軸91に対して対称に口径蝕が発生する。そのため、一対の焦点検出画素が受光する光量のバランスは崩れず、光量の比は1である。
【0064】
これに対し、位置x1(像高h)にある一対の焦点検出画素が受光する一対の焦点検出光束63、64は、絞り開口96によって光軸91に対して非対称に口径蝕が発生するために、焦点検出画素の配列方向によっては一対の焦点検出画素が受光する光量のバランスが崩れ、光量の比は1以外の値になる。
【0065】
図10、図11、図12は、焦点検出画素が撮影画面100の外周近傍に対応する位置に配置された場合の一対の焦点検出光束63、64と光学系の絞り開口96の関係を面98上で示した図である。
【0066】
図10は、焦点検出画素が光軸に対して右上がり45度対角方向の撮影画面100の外周近傍であって右上に対応する位置に配置された場合の図であって、一対の焦点検出光束63、64は光学系の絞り開口96によって不均等にけられている。
【0067】
図11は、焦点検出画素が光軸に対して垂直方向の撮影画面100の外周近傍であって上方に対応する位置に配置された場合の図であって、一対の焦点検出光束63、64は光学系の絞り開口96によって不均等にけられているが、図10の状態よりも不均等性は減少している。
【0068】
図12は、焦点検出画素が光軸に対して左上がり45度対角方向の撮影画面100の外周近傍であって左上に対応する位置に配置された場合の図であって、一対の焦点検出光束63、64は光学系の絞り開口96によって均等にけられている。
【0069】
図13は、所定の射出瞳距離および絞り開口径における光量比を像高hの関数として表した場合の図である。光量比とは、一対の焦点検出光束63、64を受光する一対の焦点検出画素の画素信号の出力比(図10〜図12の一対の焦点検出光束63,64の開口96によってけられていない部分の面積の比)をいう。図13は、光量比が1以下になるように出力(小)/出力(大)の値で示されている。また、Gは、一対の測距瞳の並び方向(右上がり45度方向)の直線から焦点検出画素位置と光軸とを結ぶ直線までの反時計方向で測った交差角度が0度の場合(図10に対応)の光量比を示す。交差角度を説明するための図である図9(b)において、一番右側に位置する右上がり45度方向の破線で示した測距瞳の並び方向と、像高hの位置x1と像高0の位置x0とを結んだ直線とが形成する交差角度が0度であることが表されている。
【0070】
同じくG45は、一対の測距瞳の並び方向(右上がり45度方向)の直線から焦点検出画素位置と光軸とを結ぶ直線までの反時計方向で測った交差角度が45度の場合(図11に対応)の光量比を示す。図9(b)において、中央に位置する右上がり45度方向の破線で示した測距瞳の並び方向と、像高hの位置x1と像高0の位置x0とを結んだ直線とが形成する交差角度が45度であることが表されている。
【0071】
同じくG90は、一対の測距瞳の並び方向(右上がり45度方向)の直線から焦点検出画素位置と光軸とを結ぶ直線までの反時計方向で測った交差角度が90度の場合(図12に対応)の光量比を示す。図9(b)において、一番左側に位置する右上がり45度方向の破線で示した測距瞳の並び方向と、像高hの位置x1と像高0の位置x0とを結んだ直線とが形成する交差角度が90度であることが表されている。この場合は、一対の焦点検出光束63,64が開口96によって均等にけられるので、光量比は像高によらず常に1になる。また、一対の測距瞳の並び方向(右上がり45度方向)の直線と、焦点検出画素位置の光軸からの方向の直線との交差角度が135度の場合の光量比は、G45と等しい。
【0072】
上述した光量比情報は、射出瞳距離および絞り開口径のすべての組み合わせに対して内蔵メモリ220に記憶されており、レンズ駆動制御装置206から読み出した絞り開口径および射出瞳距離と、焦点検出画素位置の像高h1とに応じて、光量比G(h1)、G45(h1)、G90(h1)が定められる。
【0073】
図14のように、撮影画面100上において光軸400、焦点検出画素位置401を定め、焦点検出画素位置の角度θと像高h1を定める。このようにして定めた焦点検出画素位置における光量比を、光量比G(h1)、G45(h1)、G90(h1)の重み付け加算平均で求める。なお、上述したように、一対の焦点検出画素の画素信号のいずれの出力が光量比の分母または分子に該当するかについては、該一対の焦点検出画素の画素信号の出力の大小関係で定まるため、焦点検出画素の種類と光軸に対する位置に応じて、光量比として1以下の値を用いるか、逆数を用いるかを決定することができる。
【0074】
例えば、焦点検出画素位置の角度θが45度から90度の間にあり、一対の焦点検出画素の画素信号の出力のうち、小さい出力を出力する焦点検出画素(焦点検出光束64を受光する焦点検出画素)の場合には、該一対の焦点検出画素の画素信号の出力のうち、大きい出力を出力する焦点検出画素に対する光量比の値G(θ、h1)は次式(5)となる。具体的な一例としては、G(h1)とG45(h1)とを角度θに応じた比例配分計算により、G(θ、h1)を求めることができる。
G(θ、h1)=G(h1)・(90−θ)/45+G45(h1)・(θ−45)/45 (5)
【0075】
また、例えば、角度θが90度から135度の間にあり、一対の焦点検出画素の画素信号の出力のうち、大きい出力を出力する焦点検出画素(焦点検出光束63を受光する焦点検出画素)の場合には、該一対の焦点検出画素の画素信号の出力のうち、小さい出力を出力する焦点検出画素に対する光量比の値G(θ、h1)は次式(6)となる。具体的な一例としては、G45(h1)の逆数とG90(h1)の逆数とを角度θに応じた比例配分計算により、G(θ、h1)を求めることができる。
G(θ、h1)=(1/G45(h1))・(135−θ)/45+(1/G90(h1))・(θ−90)/45 (6)
【0076】
以上のようにして、ステップS220において焦点検出画素位置の光量比G(θ、h1)が算出されると、次に、ステップS230において、算出された光量比G(θ、h1)と焦点検出画素の画素データに基づき焦点検出画素位置の画像データ(仮想的な緑の撮像画素の画素データ)が求められる。
【0077】
図15は、右上がり斜め45度方向に焦点検出画素313、314を配列した場合の4画素×4画素の領域を示した拡大図であって、各焦点検出画素313、314の画素データを、図のようにA41、A32、A23、A14で示している。画像データを算出すべき焦点検出画素位置にある焦点検出画素の画素データをA23とすると、該焦点検出画素位置の画像データG23は以下に示す式(7)により求められる。
G23=A23・(1+1/G(θ、h1)) (7)
【0078】
一方、ステップS210において合焦近傍で無いと判定された場合は、ステップS240で焦点検出画素の画素データと該焦点検出画素を挟む2つの焦点検出画素の画素データに基づき、焦点検出画素位置の画像データ(仮想的な緑の撮像画素の画素データ)を算出する。
【0079】
前述したように、一対の焦点検出画素313、314が受光する一対の光束は、撮像画素310が受光する光束に対して相補的な関係にある。よって、焦点検出画素位置にある仮想的な撮像画素の出力は、その位置にある焦点検出画素の出力とそれと一対となる隣接した焦点検出画素の出力を加算することにより得られる。ただし、隣接する同等な焦点検出画素は2つあるので、この2つの焦点検出画素の出力が平均されて隣接する焦点検出画素の出力とされる。
【0080】
図15において、画像データを算出すべき焦点検出画素位置にある焦点検出画素の画素データをA23とすると、該焦点検出画素位置の画像データG23は、以下に示す式(8)により求められる。
G23=A23+(A14+A32)/2 (8)
【0081】
同じく、画像データを算出すべき焦点検出画素位置にある焦点検出画素の画素データをA32とすると、該焦点検出画素位置の画像データG32は、以下に示す式(9)により求められる。
G32=A32+(A23+A41)/2 (9)
【0082】
ステップS230またはステップS240において、焦点検出画素位置の画像データ(仮想的な緑の撮像画素の画素データ)が算出されると、ステップS250では、すべての焦点検出エリアにおいて、画像データの算出を終了したか否かを判定する。否定判定の場合は、画像データの算出が未了の焦点検出エリアにおいて、ステップS210以降の処理を繰り返す。肯定判定の場合は、図6に示すフローチャートへ処理を戻す。
【0083】
上記実施形態において、撮像素子は、複数色の撮像画素310が所定の色配列規則に従って2次元的に配列されている。焦点検出画素313、314は、撮像画素310と同一の光学的構成、かつ撮像画素310と同一の分光感度を備える。さらに、撮像画素310と同色の焦点検出画素313、314は、同色の撮像画素310が配置される色配列規則に従って配列される。一対の焦点検出画素313、314(第1および第2の種類の焦点検出画素)が受光する光束は、撮像画素310が受光する光束に対して相補的になっている構成を有している。
【0084】
そして、焦点検出画素位置における仮想的な撮像画素の画素信号を算出する際に、焦点検出画素位置における焦点調節状態を考慮する。焦点検出画素位置における焦点調節状態がほぼ合焦(像ズレ量の絶対値が所定閾値以内)の場合には、同一の焦点検出画素位置において、仮に一対の焦点検出画素がともに設けられていたならば、該一対の焦点検出画素は、互いに像の同一部分を受光していることとなる。すなわち、該焦点検出画素位置に配置された焦点検出画素の画素信号値と仮想的な撮像画素の画素信号値との間に光量比に応じた比例関係があることとなる。この場合、該焦点検出画素位置に配置された焦点検出画素の画素信号値のみに基づいて仮想的な撮像画素の画素信号値を求めることにより、合焦時の高周波成分を多く含んだ像の画像データを再現することができる。
【0085】
また、焦点検出画素位置における焦点調節状態が非合焦(像ズレ量の絶対値が所定閾値以上)の場合には、上述した焦点検出画素列から読み出された一対のデータ列は、互いに偏位している。したがって、同一の焦点検出画素位置において、一対の焦点検出画素が像の異なる部分を受光しているので、焦点検出画素位置に配置された焦点検出画素の画素信号値と仮想的な撮像画素の画素信号値との間の比例関係が崩れる。この場合、焦点検出画素位置に配置された仮想的な撮像画素の画素信号は、該焦点検出画素位置に一対の焦点検出画素がともに配置されたと仮定すれば、該一対の焦点検出画素の画素信号を加算したものとなる。すなわち、該焦点検出画素位置に配置された第1の種類の焦点検出画素の画素信号値と、撮像画素が受光する撮像光束に対し、該第1の種類の焦点検出画素が受光する光束と相補的な関係となる光束を受光する第2の種類の焦点検出画素であり、かつ該第1の種類の焦点検出画素の近傍に存在する第2の種類の焦点検出画素の画素信号値と基づいて、仮想的な撮像画素の画素信号値を求める。これにより、非合焦時の高周波成分が減少した像の画像データを良好に再現することができる。
【0086】
また、焦点検出画素位置における仮想的な撮像画素の画素信号を算出する際に、焦点検出画素の画素信号のみで算出できるので、焦点検出画素の周囲に存在する撮像画素の出力を用いるような複雑な画素補間演算を行う必要がなくなる。
【0087】
また、撮像画素と同じ構造かつ同じ分光感度を備えた焦点検出画素を、撮像画素と同じ色配列規則に従って配置しているので、焦点検出画素用の遮光マスクの変更を除いて撮像素子の製造上において特別な工程が不要となる。
【0088】
また、焦点検出画素は、撮像画素と同様に、1つの画素に1つの光電変換部を備えた構成となっているので、撮像画素のみで構成される撮像素子と同一の回路構成、信号線の配線を適用でき、撮像素子の製造上において特別な工程が不要となる。
【0089】
また、上記のように焦点検出画素が色フィルタを有している場合には、焦点検出画素の周囲に配置された撮像画素の画素信号に基づいて像の色情報を検出し、該色情報に基づいて色収差補正を行うことにより、より正確な合焦を達成することができる。
【0090】
−発明の他の実施の形態−
上述の実施形態の撮像素子212においては、緑の分光感度を備えた一対の焦点検出画素313、314を、ベイヤー配列された撮像画素配列の緑画素の位置に右上がり斜め45度方向に配列しているが、これ以外のパターンで焦点検出画素313、314を配列するようにしても構わない。
【0091】
図16は、別実施形態の撮像素子212の詳細な構成を示す正面図であり、撮像素子212上の焦点検出エリアの近傍を拡大して示す。撮像素子212には、撮像画素310が二次元正方格子状に稠密に配列される。焦点検出エリアに対応する位置には、撮像画素と同一の画素サイズを有し、かつ青画素と同じ分光感度を備えた焦点検出用の焦点検出画素513、514のペアが、図に示すように本来青画素が配置されるべき斜め右上がり45度方向の直線上に連続して配列される。
【0092】
図17は、上記実施形態の8画素×8画素の領域を示した図であって、青色の分光感度を有する焦点検出画素の画素信号をA72、A54、A36、A18で示している。
【0093】
画素信号A36、A54を生成する焦点検出画素の位置に、仮想的に青画素が配置されているとした場合の画素信号をB36、B54とすれば、これらは、以下の式(10)〜(13)により求められる。
【0094】
すなわち、画素信号A36、A54を生成する焦点検出画素の位置における焦点調節状態が合焦近傍である場合は、画素信号A36、A54を生成する焦点検出画素の位置(角度θ、像高h)の光量比をGa(θ、h)、Gb(θ、h)とすると、式(7)と同様にして、以下に示す式(10)、(11)が得られる。
B36=A36・(1+1/Ga(θ、h)) (10)
B54=A54・(1+1/Gb(θ、h)) (11)
【0095】
画素信号A36、A54を生成する焦点検出画素の位置における焦点調節状態が合焦近傍でない場合は、式(8)、(9)と同様にして、以下に示す式(12)、(13)が得られる。
B36=A36+(A54+A18)/2 (12)
B54=A54+(A72+A36)/2 (13)
【0096】
上記実施形態においては、第1の実施の形態と比して、焦点検出画素の配置密度が低くなるので、より高画質な画像が得られる。
【0097】
図18は、別実施形態の撮像素子212の詳細な構成を示す正面図であって、焦点検出画素配列の近傍を拡大して示す。撮像素子212には、撮像画素310が二次元正方格子状に稠密に配列される。撮像画素310の色配列規則はRGB順次ストライプ配列となっており、赤、緑、青の撮像画素310がこの順に列方向に配列している。撮像画素310と同一の画素サイズを備え、かつ緑画素と同じ分光感度を備えた焦点検出用の焦点検出画素323と324が、緑の撮像画素310が配列されるべき列に直線上に連続して交互に配列される。
【0098】
焦点検出画素323は、矩形のマイクロレンズと遮光マスクで受光領域を正方形の半分(正方形を水平線で2等分した場合の上半分)に制限された光電変換部、および緑(G)の色フィルタとから構成される。
【0099】
また、焦点検出画素324は、矩形のマイクロレンズと遮光マスクで受光領域を正方形の半分(正方形を水平線で2等分した場合の下半分)に制限された光電変換部、および緑(G)の色フィルタとから構成される。
【0100】
焦点検出画素323と焦点検出画素324とをマイクロレンズを重ね合わせて表示すると、遮光マスクで受光領域を制限された2つの光電変換部が垂直方向に並んでいる。
【0101】
また、上述した正方形を半分にした受光領域の部分に正方形を半分にした残りの部分(破線部分)を加えると、撮像画素310の受光領域と同じサイズの正方形となる。
【0102】
上記のような構成の撮像素子212においても本発明を適用することが可能であり、第1の実施の形態と比して、焦点検出画素323、324のサンプリングピッチが短くなるので、焦点検出精度が向上する。
【0103】
図19は、別実施形態の撮像素子212の詳細な構成を示す正面図であって、焦点検出画素配列の近傍を拡大して示す。撮像素子212には、撮像画素310が二次元正方格子状に稠密に配列される。撮像画素310の色配列規則はGストライプRB市松配列となっている。撮像画素310と同一の画素サイズを備え、かつ緑画素と同じ分光感度を備えた焦点検出用の焦点検出画素323、324が、緑の撮像画素310の配列されるべき位置に直線上に連続して一対のペアとなって交互に配列される。
【0104】
上記のような構成の撮像素子においても本発明を適用することが可能であり、第1の実施の形態と比して、焦点検出画素のサンプリングピッチが短くなるので、焦点検出精度が向上する。
【0105】
図20は、別実施形態の撮像素子212の詳細な構成を示す正面図であり、焦点検出画素配列の近傍を拡大して示す。撮像素子212には、撮像画素310がベイヤー配列で二次元正方格子状に稠密に配列される。撮像画素310と同一の画素サイズを有し、かつ緑画素と同じ分光感度を備えた焦点検出用の焦点検出画素333、334が、水平方向の隣接する2行の本来緑画素が配置されるべき位置に、1画素おきに交互かつ直線上に配列される。
【0106】
焦点検出画素333、334の構成は基本的に焦点検出画素323、324の構成を90度回転した構成になっている。
【0107】
上記実施形態においては、第1の実施の形態と比して、焦点検出画素333、334の配置密度が低くなるので、より高画質な画像が得られる。
【0108】
また撮像画素310の光電変換部の受光領域は必ずしも図3、16、18〜20に示すような正方形である必要はない。
【0109】
例えば、撮像画素310の光電変換部11の受光領域の形状が図21(c)に示すように円形である場合には、焦点検出画素313、314の光電変換部の受光領域13、14は、図21(a)、(b)に示すように撮像画素310の受光領域11を左上がり45度の直線で2等分した半円領域とすることができる。
【0110】
上述した実施形態においては、焦点検出画素位置における像ズレ量の絶対値が所定閾値以内の場合には、該焦点検出画素位置に配置された焦点検出画素の画素信号値にのみに基づいて仮想的な撮像画素の画素信号値を式(5)、(6)のようにして求めた。像ズレ量の絶対値が所定閾値以上の場合には、該焦点検出画素位置に配置された第1の種類の焦点検出画素の画素信号値と、撮像画素が受光する撮像光束に対し、該第1の種類の焦点検出画素が受光する光束と相補的な関係となる光束を受光する第2の種類の焦点検出画素であり、かつ該第1の種類の焦点検出画素の近傍に存在する第2の種類の焦点検出画素の画素信号値を用いて、仮想的な撮像画素の画素信号値を、式(8)、(9)のように求めている。しかし、所定閾値を境に2つの算出方式を変更するのではなく、像ズレ量の絶対値が所定閾値を中心とする所定範囲に含まれる場合には、2つの算出方式で算出した結果を平均するようにしてもよい。
【0111】
上述した実施形態においては、図6に示すように、撮影者が焦点検出エリア選択部材を用いて予め選択した焦点検出エリアにおいて、像が合焦近傍にある場合に、シャッターレリーズが行われることとした。したがって、該焦点検出エリアに対応する焦点検出画素位置に配置された焦点検出画素の画素信号値のみに基づき、仮想的な撮像画素の画素信号値を算出することとした。しかし、該焦点検出エリアにおいて像が合焦近傍に無い場合に、シャッターレリーズが行われることも考えられる。この場合、該焦点検出エリアに対応する焦点検出画素位置にある仮想的な撮像画素の出力は、隣接する相補的な焦点検出画素2つの出力を平均して算出することとしても良い。
【0112】
上述した実施形態においては、焦点検出画素位置における仮想的な撮像画素の画素データを求める演算処理が、ボディ駆動制御装置214内で行われ、生成された画像データがメモリカード219に格納されている。しかし、図22に示すように、デジタルスチルカメラ201とは別のパーソナルコンピュータなどの画像処理装置900において、画像処理プログラムを用いて、焦点検出画素位置における仮想的な撮像画素の画素データを求める演算処理を行っても良い。図22(a)に示すように、その画像処理プログラムは、媒体950から画像処理装置900にインストールされても良いし、サーバ700からネットワーク800を介して画像処理装置900にダウンロードされても良い。
【0113】
また、図22(a)に示すように、画像処理装置900はデジタルスチルカメラ201と直接接続されることにより、撮像時の撮像画素の画素データおよび焦点検出画素の画素データ等を読み出すこととしても良いし、メモリカード219を介してそれらのデータ等を読み出しても良い。後者の場合には、ボディ駆動制御装置214は、撮像時の撮像画素の画素データおよび焦点検出画素の画素データをRAWデータとして一旦メモリカード219に格納する。該RAWデータに付随して、撮像時のレンズ情報(射出瞳距離、絞り開口径)をメモリカード219に格納しておく。
【0114】
図22(b)に、上述した画像処理プログラムに従って動作する画像処理装置900の動作フローを示す。画像処理装置900は、ステップS310において、メモリカード219に格納されたRAWデータ、レンズ情報、および焦点検出画素位置情報を読み込む。ステップS320において、RAWデータに含まれる焦点検出画素の画素データに基づき、焦点検出画素位置における焦点状態を検出し、像ズレ量を算出する。ステップS330において、像ズレ量の絶対値が所定閾値以内の場合は、略合焦していると判定し、ステップS340において、予め画像処理装置900に記憶された光量比情報、およびメモリカード219から読み出したレンズ情報と焦点検出画素位置情報とに基づいて焦点検出画素位置の光量比を算出する。算出した光量比と焦点検出画素位置の焦点検出画素の画素データとに基づいて、焦点検出画素位置における仮想的な撮像画素の画素データを演算する。また、ステップS330において、像ズレ量の絶対値が所定閾値以上の場合は、合焦していないと判定し、ステップS350において、焦点検出画素位置の焦点検出画素の画素データと、それを挟む2つの焦点検出画素の画素データとに基づいて、焦点検出画素位置における仮想的な撮像画素の画素データを演算する。ステップS360において、ステップS340またはステップS350において演算された焦点検出画素位置における仮想的な撮像画素の画素データと、ステップS310において読み込んだRAWデータとに基づき、画像データを生成する。
【0115】
このようにすれば、ユーザが、画像処理された画像をモニターなどで表示した結果を、各種パラメータ(像ズレ量の閾値、光量比など)を調整しながら視認するといったフィードバック処理を行うことにより、最適な画像処理結果を得ることができる。
【0116】
上述した実施形態における撮像素子では、撮像画素がベイヤー配列等に従った色フィルタを備えた例を示したが、色フィルタの構成や配列はこれに限定されることはなく、補色フィルタ(緑:G、イエロー:Ye、マゼンタ:Mg,シアン:Cy)の配列等、ベイヤー配列以外の配列にも本発明を適用することができる。
【0117】
上述した実施形態においては、撮像素子としてCCDイメージセンサやCMOSイメージセンサなどを適用することができる。
【0118】
なお、カメラとしては、上述したようなカメラボディに交換レンズが装着される構成のデジタルスチルカメラやフィルムスチルカメラに限定されない。例えばレンズ一体型のデジタルスチルカメラ、フィルムスチルカメラ、あるいはビデオカメラにも本発明を適用することができる。さらには、携帯電話などに内蔵される小型カメラモジュール、監視カメラやロボット用の視覚認識装置、車載カメラなどにも適用できる。
【符号の説明】
【0119】
10 マイクロレンズ、
11、13、14 光電変換部、
53、54、63、64、73、74 焦点検出光束、71 撮影光束、
90 射出瞳、 91、400 光軸、 92 予定焦点面、
93、94 測距瞳、 95 領域、
96 絞り開口、 97 測距瞳面、 98 面、
100 撮影画面、
101、102、103、104、105、106、107、108、109 焦点検出エリア、
201 デジタルスチルカメラ、 202 交換レンズ、 203 カメラボディ、
204 マウント部、 206 レンズ駆動制御装置、
208 ズーミング用レンズ、 209 レンズ、 210 フォーカシング用レンズ、
211 絞り、 212 撮像素子、 213 電気接点、
214 ボディ駆動制御装置、
215 液晶表示素子駆動回路、 216 液晶表示素子、 217 接眼レンズ、
219 メモリカード、 220 内蔵メモリ、
310 撮像画素、
313、314、323、324、333、334、513、514 焦点検出画素、
401 焦点検出画素位置、
700 サーバ、 800 ネットワーク、 900 画像処理装置、 950 媒体

【特許請求の範囲】
【請求項1】
所定の色配列に対応する分光感度を有する複数の撮像画素と、複数の焦点検出画素とが2次元的に配列され、前記複数の焦点検出画素が、一対の焦点検出光束を受光する第1の焦点検出画素列と第2の焦点検出画素列とを形成する撮像素子と、
前記撮像素子上に被写体像を形成する光学系と、
前記第1の焦点検出画素列に含まれる複数の第1の焦点検出画素が出力する画素信号と、前記第2の焦点検出画素列に含まれる複数の第2の焦点検出画素が出力する画素信号とに基づき、前記被写体像についての焦点状態を検出し、第1の検出出力または第2の検出出力を出力する焦点検出手段と、
前記焦点検出手段が前記第1の検出出力を出力したとき、所定の演算処理により、前記複数の焦点検出画素の各々が配置された焦点検出画素位置の撮像信号を算出する第1の演算処理手段と、
前記焦点検出手段が前記第2の検出出力を出力したとき、前記第1の演算処理手段とは異なる演算処理により、前記複数の焦点検出画素の各々が配置された焦点検出画素位置の撮像信号を算出する第2の演算処理手段と、
前記複数の撮像画素が出力する撮像信号と、前記第1の演算処理手段または前記第2の演算処理手段が算出する前記焦点検出画素位置の撮像信号とに基づき画像データを生成する画像生成手段とを備えることを特徴とするカメラ。
【請求項2】
請求項1に記載のカメラにおいて、
前記複数の第1の焦点検出画素の各々と前記複数の第2の焦点検出画素の各々とは、同一の方向に交互に配置され、
前記焦点検出手段は、前記焦点状態が合焦状態または略合焦状態であるときは前記第1の検出出力を出力し、前記焦点状態が非合焦状態であるときは第2の検出出力を出力し、
前記第1の算出部は、前記焦点検出画素位置に配置される焦点検出画素が出力する画素信号に基づき、前記焦点検出画素位置の撮像信号を算出し、
前記第2の算出部は、前記焦点検出画素位置の周囲に配置された前記複数の撮像画素と前記焦点検出画素位置の周囲に配置された前記複数の焦点検出画素とが出力する画素信号と、前記焦点検出画素位置に配置される焦点検出画素が出力する画素信号とに基づき、前記焦点検出画素位置の撮像信号を算出することを特徴とするカメラ。
【請求項3】
請求項2に記載のカメラにおいて、
前記複数の第1の焦点検出画素および前記複数の第2の焦点検出画素のうち、前記第1の焦点検出画素列と前記第2の焦点検出画素列との間で位置的に対応する一対の焦点検出画素の受光量の光量比を算出する算出手段をさらに備え、
前記第1の算出部は、前記焦点検出画素位置に配置される焦点検出画素が出力する画素信号と前記光量比とに基づき、前記焦点検出画素位置の撮像信号を算出することを特徴とするカメラ。
【請求項4】
請求項2または3に記載のカメラにおいて、
前記第2の算出部は、前記焦点検出画素位置に配置される焦点検出画素が出力する画素信号と、前記焦点検出画素位置に配置される焦点検出画素を挟む2つの焦点検出画素が出力する2つの画素信号の平均との和に基づき、前記焦点検出画素位置の撮像信号を算出し、
前記2つの焦点検出画素は、前記第1の焦点検出画素列および前記第2の焦点検出画素列のうち、前記焦点検出画素位置に配置される焦点検出画素が含まれる焦点検出画素列とは異なる焦点検出画素列に含まれることを特徴とするカメラ。
【請求項5】
請求項2〜4のいずれか1項に記載のカメラにおいて、
前記焦点状態は、前記第1焦点検出画素列に含まれる複数の焦点検出画素が出力する画素信号と、前記第2焦点検出画素列に含まれる複数の焦点検出画素が出力する画素信号とに基づく一対の信号列間の位相の相対的なズレ量であり、
前記演算処理手段は、前記ズレ量の絶対値の大きさに基づき、前記焦点状態が合焦状態または略合焦状態であるか非合焦状態であるかを判断することを特徴とするカメラ。
【請求項6】
請求項3に記載のカメラにおいて、
前記光学系の絞り開口径および射出瞳距離の組合せと、前記焦点検出画素位置との関数としての前記光量比を光量比情報として記憶する記憶手段をさらに備え、
前記算出手段は、前記光量比情報と、撮像時の前記絞り開口径および前記射出瞳距離と、前記焦点検出画素位置とに基づき、前記焦点検出画素位置における前記光量比を算出することを特徴とするカメラ。
【請求項7】
請求項1〜6のいずれか1項に記載のカメラにおいて、
前記複数の焦点検出画素は、前記所定の色配列に対応する分光感度を有し、
前記複数の撮像画素と前記複数の焦点検出画素とが全体として前記所定の色配列に従って前記撮像素子に配置され、
前記複数の撮像画素および前記複数の焦点検出画素のうち、同一の分光感度を有する撮像画素および焦点検出画素の各々の画素に含まれるマイクロレンズと色フィルタとは同一であり、前記各々の画素に含まれる光電変換部が受光する光束の範囲が異なることを特徴とするカメラ。
【請求項8】
請求項7に記載のカメラにおいて、
前記複数の第1の焦点検出画素および前記複数の第2の焦点検出画素のうち、前記第1の焦点検出画素列と前記第2の焦点検出画素列との間で位置的に対応する一対の焦点検出画素の各々の光電変換部の受光領域の形状は、前記複数の撮像画素の各々の光電変換部の受光領域の形状に関して互いに相補的であることを特徴とするカメラ。
【請求項9】
請求項1〜8のいずれか1項に記載のカメラにおいて、
前記所定の色配列は、赤、緑および青の各色が正方格子配列に従って配列されることにより構成されるベイヤー配列であるとともに、前記複数の焦点検出画素は、緑の分光感度を有し、前記正方格子配列を構成する単位格子の対角方向に配列されることを特徴とするカメラ。
【請求項10】
請求項1〜9のいずれか1項に記載のカメラにおいて、
前記複数の焦点検出画素の各々の有する分光感度と、前記複数の焦点検出画素の各々の周囲に配置された前記複数の撮像画素の各々が出力する撮像信号とに基づいて算出された前記被写体像の色相と、前記光学系の色収差情報とに基づき、前記焦点検出手段により検出された前記焦点状態を補正する補正手段をさらに備えることを特徴とするカメラ。
【請求項11】
請求項1〜10のいずれか1項に記載のカメラにおいて、
前記複数の焦点検出画素は、前記一対の焦点検出光束を受光する第1の焦点検出画素列と第2の焦点検出画素列とをさらに複数列形成することを特徴とするカメラ。
【請求項12】
複数の撮像画素の撮像信号データと、一対の焦点検出画素列の焦点検出信号列データを構成する複数の焦点検出画素の焦点検出信号データとを含むRAW画像データから被写体画像データを生成する処理をコンピュータに実行させる画像処理プログラムにおいて、
前記RAW画像データを読み込む読み込み手順と、
前記焦点検出信号列データに基づき、被写体画像の焦点検出位置における前記被写体画像についての焦点状態を検出し、第1の検出出力または第2の検出出力を出力する焦点検出手順と、
前記焦点検出手順により前記第1の検出出力が出力されたとき、所定の演算処理により、前記焦点検出位置の撮像信号データを算出する第1の演算処理手順と、
前記焦点検出手順により前記第2の検出出力が出力されたとき、前記第1の演算処理手順とは異なる演算処理により、前記焦点検出位置の撮像信号データを算出する第2の演算処理手順と、
前記複数の撮像画素の撮像信号データと、前記第1の演算処理手順または前記第2の演算処理手手順により算出される前記焦点検出位置の撮像信号データとに基づき被写体画像データを生成する画像生成手順とをコンピュータに実行させることを特徴とする画像処理プログラム。




【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate


【公開番号】特開2011−176714(P2011−176714A)
【公開日】平成23年9月8日(2011.9.8)
【国際特許分類】
【出願番号】特願2010−40376(P2010−40376)
【出願日】平成22年2月25日(2010.2.25)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】