撮像装置、撮像方法及び撮像プログラム
【課題】 AF動作として採用される追尾領域がフレーム間で切り替わっても、AF合焦迄の遅延や偽合焦を生じることがない。
【解決手段】 撮像装置は、被写体の像を撮像部により撮像して画像データを出力し、撮像部から出力された画像データ中から顔部検出部により被写体の顔部を検出し、この顔部と被写体における顔部以外の周辺部位とに基づいて被写体を追尾し、顔部に対応する領域の第1の画像データ、又は顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行い、顔部の検出が有効な場合、顔部に対応する領域の第1の画像データに基づいてAF動作を行い、顔部が有効に検出されなくなった場合、周辺部位に対応する領域の第2の画像データに基づいてAF動作を行う。
【解決手段】 撮像装置は、被写体の像を撮像部により撮像して画像データを出力し、撮像部から出力された画像データ中から顔部検出部により被写体の顔部を検出し、この顔部と被写体における顔部以外の周辺部位とに基づいて被写体を追尾し、顔部に対応する領域の第1の画像データ、又は顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行い、顔部の検出が有効な場合、顔部に対応する領域の第1の画像データに基づいてAF動作を行い、顔部が有効に検出されなくなった場合、周辺部位に対応する領域の第2の画像データに基づいてAF動作を行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、人物等の被写体を追尾しながら撮像を行う撮像装置、撮像方法及び撮像プログラムに関する。
【背景技術】
【0002】
人物等の被写体を追尾する技術としては、被写体を追尾するための少なくとも2つの領域を用いて被写体を追尾する技術として例えば特許文献1がある。この特許文献1は、被写体を撮像して取得された画像データ上に被写体を追尾するための第1領域と第2領域とを有し、第1領域を常に基準領域として被写体の追尾を行い、第2領域を第1領域と独立して被写体の追尾を行うことを開示する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2009−268086号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
被写体を追尾するために第1と第2の追尾領域を用いる場合、撮像装置から第1と第2の追尾領域までの間に距離差がある場合、すなわち撮像装置から第1と第2の追尾領域に向かう奥行方向に距離差がある場合がある。このように第1と第2の追尾領域までに距離差がある状態で被写体の追尾を行う場合、通常、第1の追尾領域に対応する画像データに基づいてAF動作を行う。
ところが、第1の追尾領域を用いて被写体の追尾が不能になると、被写体の追尾は、第1の追尾領域から第2の追尾領域に切り替え、当該第2の追尾領域に対応する画像データに基づくAF動作に切り替わる。第1の追尾領域から第2の追尾領域への切り替えのタイミングは、画像データ上であればフレーム間で切り替わるものとなる。AF動作では、AF高速化のために過去のAF結果を参照しているために、AF合焦迄の遅延や偽合焦が生じることがある。この結果、ユーザは、被写体に合焦していないボケ画像を撮影してしまったり、撮影タンミングを逃してしまうことがある。
【0005】
本発明の目的は、AF動作として採用される追尾領域がフレーム間で切り替わっても、AF合焦迄の遅延や偽合焦を生じることがない撮像装置、撮像方法及び撮像プログラムを提供することにある。
【課題を解決するための手段】
【0006】
本発明の主要な局面に係る撮像装置は、被写体の像を撮像して画像データを出力する撮像部と、前記撮像部から出力された前記画像データ中から前記被写体の顔部を検出する顔部検出部と、前記顔部検出部により検出された前記顔部又は前記被写体における前記顔部以外の周辺部位に基づいて前記被写体を追尾する被写体追尾部と、前記画像データにおける前記顔部検出部により検出された前記顔部に対応する領域の第1の画像データ、又は前記顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行うAF制御部とを具備し、前記AF制御部は、前記顔部検出部による前記顔部の検出が有効な場合、前記顔部に対応する領域の前記第1の画像データに基づいてAF動作を行い、前記顔部が有効に検出されなくなった場合、前記周辺部位に対応する領域の前記第2の画像データに基づいてAF動作を行う。
【0007】
本発明の主要な局面に係る撮像方法は、被写体の像を撮像部により撮像して画像データを出力し、前記撮像部から出力された前記画像データ中から顔部検出部により前記被写体の顔部を検出し、前記検出された前記顔部又は前記被写体における前記顔部以外の周辺部位に基づいて被写体追尾部により前記被写体を追尾し、前記画像データにおける前記顔部に対応する領域の第1の画像データ、又は前記顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF制御部によりAF動作を行い、前記顔部の検出が有効な場合、前記顔部に対応する領域の前記第1の画像データに基づいてAF動作を行い、前記顔部が有効に検出されなくなった場合、前記周辺部位に対応する領域の前記第2の画像データに基づいてAF動作を行う。
【0008】
本発明の主要な局面に係る撮像プログラムは、被写体の像を撮像して画像データを出力させる画像データ出力機能と、前記画像データ中から前記被写体の顔部を検出させる顔部検出機能と、前記顔部又は前記被写体における前記顔部以外の周辺部位に基づいて被写体追尾部により前記被写体を追尾させる被写体追尾機能と、前記画像データにおける前記顔部に対応する領域の第1の画像データ、又は前記顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行わせるAF制御機能とを有し、前記AF制御機能は、前記顔部の検出が有効な場合、前記顔部に対応する領域の前記第1の画像データに基づいてAF動作を行い、前記顔部が有効に検出されなくなった場合、前記周辺部位に対応する領域の前記第2の画像データに基づいてAF動作を行う。
【発明の効果】
【0009】
本発明によれば、AF動作として採用される追尾領域がフレーム間で切り替わっても、AF合焦迄の遅延や偽合焦を生じることがない撮像装置、撮像方法及び撮像プログラムを提供できる。
【図面の簡単な説明】
【0010】
【図1】本発明に係る撮像装置の第1の実施の形態を示すブロック構成図。
【図2】同装置における顔部検出回路による画像デ―タ中からの被写体の顔部の検出を説明するための図。
【図3】同装置における第1の追尾回路による輝度情報を用いて顏部の追尾の作用を説明するための図。
【図4】同装置における第1の追尾回路による色情報を用いての顏部の追尾の作用を説明するための図。
【図5】同装置における被検体に対する顔部検出位置と顔部追尾位置と周辺部追尾位置とを示す図。
【図6】同装置における顔部の正面の顔に対して設定された顔部追尾枠を示す図。
【図7】同装置における顔部の横顔に対して設定された顔部追尾枠を示す図。
【図8】同装置における第2の追尾回路により胸部を追尾するための胸部追尾枠を示す図。
【図9】同装置における撮影動作フローチャート。
【図10】同装置における追尾処理フローチャート。
【図11】同装置における図11に示すAF処理フローチャート。
【図12】同装置と対比する一般的な背景技術におけるウォブリング動作を続けて顔部の追尾から例えば胸部の追尾に切り替わり、再び顔部の追尾に戻るときのAF合焦状態の時間的変化を示す図。
【図13】同装置においてウォブリング動作を続けて顔部の追尾から例えば胸部の追尾に切り替わると共にスキャン駆動(山登りAF動作)に切り替わり、再び顔部の追尾に戻ってウォブリング動作を行うときのAF合焦状態の時間的変化を示す図。
【発明を実施するための形態】
【0011】
以下、本発明の一実施の形態について図面を参照して説明する。
図1は追尾機能を備えた撮像装置の一例としてのブロック構成図を示す。撮像装置100は、撮影光学系102と、焦点調整機構104と、絞り106と、絞り駆動機構108と、シャッタ110と、シャッタ駆動機構112と、撮像素子114と、撮像素子インターフェイス(IF)回路116と、RAM118と、表示素子120と、表示素子駆動回路122と、タッチパネル124と、タッチパネル駆動回路126と、記録メディア128と、システムコントローラ130と、操作部132と、ROM134とを有する。
【0012】
撮影光学系102は、被写体からの光束Fを、撮像素子114の受光面上に集光する。この撮影光学系102は、フォーカスレンズ等の複数のレンズを有する。焦点調整機構104は、モータ及びその駆動回路等を有し、システムコントローラ130内のコンピュータとしてのCPU1301の制御に従って撮影光学系102内のフォーカスレンズをその光軸方向(図示一点鎖線方向)に駆動する。
絞り106は、開閉自在に構成され、撮影光学系102を介して撮像素子114に入射する光束Fの量を調整する。絞り駆動機構108は、絞り106を駆動するための駆動機構を有し、システムコントローラ130内のCPU1301の制御に従って絞り106を駆動する。
【0013】
シャッタ110は、撮像素子114の受光面を遮光状態又は露光状態とすることにより撮像素子114の露光時間を調整する。シャッタ駆動機構112は、シャッタ110を駆動させるための駆動機構を有し、システムコントローラ130内のCPU1301の制御に従ってシャッタ110を駆動する。
【0014】
撮像素子114は、撮影光学系102を介して集光された例えば人物等の被写体及びその背景からの光束Fが結像される受光面を有する。この撮像素子114の受光面は、複数の画素を2次元状に配置して構成されており、この受光面の光入射側には、カラーフィルタが設けられている。このような撮像素子114は、受光面に結像された光束Fに対応した像(被写体像)を、その光量に応じた電気信号(以下、画像信号という)に変換する。ここで、撮像素子114は、CCD方式やCMOS方式等の種々の構成の撮像素子が知られている。また、カラーフィルタの色配列もベイヤ配列等の種々の配列が知られている。本実施形態は、撮像素子114の構成が特定の構成に限定されるものではなく、種々の構成の撮像素子を用いることが可能である。
【0015】
撮像素子IF回路116は、システムコントローラ130内のCPU1301の制御に従って撮像素子114を駆動する。また、撮像素子IF回路116は、システムコントローラ130内のCPU1301の制御に従って撮像素子114で得られた画像信号を読み出し、読み出した画像信号に対してCDS(相関二重サンプリング)処理やAGC(自動利得制御)処理等のアナログ処理を施す。さらに、撮像素子IF回路116は、アナログ処理した画像信号をデジタル信号(以下、画像データという)に変換する。
【0016】
RAM118は、例えばSDRAMであり、ワークエリア、評価画像エリア、参照画像エリア、追尾位置ログエリア、追尾色領域ログエリアをそれぞれ記憶エリアとして有する。
ワークエリアは、撮像素子IF回路116で得られた画像データ等を含む各データ、例えば撮像装置100の各部で発生した各データを一時記憶する。
評価画像エリアは、評価画像データを一時記憶する。この評価画像データは、追尾処理における追尾対象の被写体を含むフレームの画像データである。追尾処理においては、追尾対象を追尾するように処理が行われる。
参照画像エリアは、参照画像データを一時記憶する。この参照画像データは、追尾処理において、追尾対象の探索の対象となるフレームの画像データである。追尾処理においては、参照画像データ中で探索が行われる。
追尾位置ログエリアは、追尾位置ログを一時記憶する。この追尾位置ログは、追尾処理の結果として得られた追尾位置を記録したログである。本実施の形態では、複数の追尾処理を併用して追尾対象を追尾する。したがって、追尾位置ログには、それぞれの追尾処理によって得られた追尾位置を例えば過去10フレーム分個別に記録する。また、追尾位置ログには、後述の優先追尾位置判定処理によって採用された最終的な追尾位置も記録する。
追尾色領域ログエリアは、追尾色領域ログを一時記憶する。この追尾色領域ログは、追尾処理によって得られた追尾色領域を記録したログである。本実施の形態では、追尾色領域を例えば過去10フレーム分個別に記録する。
【0017】
表示素子120は、例えば液晶ディスプレイ(LCD)であり、ライブビュー用の画像及び記録メディア128に記録される画像等の各種画像を表示する。表示素子駆動回路122は、システムコントローラ130のCPU1301から入力された画像データに基づいて表示素子120を駆動し、この表示素子120に画像を表示する。
タッチパネル124は、表示素子120の表示画面上に一体的に形成されており、表示画面上へのユーザの指等の接触位置等を検出する。タッチパネル駆動回路126は、タッチパネル124を駆動すると共に、タッチパネル124からの接触検出信号をシステムコントローラ130のCPU1301に出力する。CPU1301は、接触検出信号から、ユーザの表示画面上への接触操作を検出し、その接触操作に応じた処理を実行する。
【0018】
記録メディア128は、例えばメモリカードであり、撮影動作によって得られた画像ファイルが記録される。この画像ファイルは、画像データに所定のヘッダを付与して構成される。ヘッダには、撮影条件を示すデータ及び追尾位置を示すデータ等が、タグデータとして記録される。
【0019】
システムコントローラ130は、撮像装置100の動作を制御するもので、CPU1301と、AF制御回路1302と、AE制御回路1303と、画像処理回路1304と、顔部検出回路1305と、第1の追尾回路1306と、第2の追尾回路1307と、輝度検出回路1308と、色情報検出回路1309と、追尾切替回路1310と、メモリ制御回路1311とを有する。
CPU1301は、焦点調整機構104と、絞り駆動機構108と、シャッタ駆動機構112と、表示素子駆動回路122と、タッチパネル駆動回路126等のシステムコントローラ130の外部の各機能ブロック、及びシステムコントローラ130内部の各回路の動作を制御する。
【0020】
AF制御回路1302は、コントラストAF処理を制御する。具体的にAF制御回路1302は、撮像素子IF回路116で得られた画像データの高周波成分を抽出し、この抽出した高周波成分を積算することにより、AF用の合焦評価値を取得する。CPU1301は、この合焦評価値に従って画像データのコントラストを評価しつつ、焦点調整機構104を制御してフォーカスレンズを合焦状態とする。このAF制御回路1302は、スキャン駆動(山登りAF動作)又はウォブリング駆動によって、撮影光学系102のフォーカスレンズを合焦位置まで駆動させる。
【0021】
スキャン駆動(山登りAF動作)は、フォーカスレンズを山登り動作させて当該フォーカスレンズ位置情報を取得するとともに、AF用の合焦評価値を受けてAF評価値カーブ、すなわちフォーカスレンズ位置とAF用合焦評価値との関係を示すカーブを取得し、このカーブにおけるAF用合焦評価値が最大となる位置に従ってフォーカスレンズをフォーカス目標位置に移動させる。
ウォブリング駆動での焦点調節は、コントラスト検出方式であって、被写体の動きに対して継続的に焦点検出を行うもので、フォーカスレンズを光軸方向に沿って微小振動(往復動)させる、すなわちフォーカスレンズの焦点調節位置を基準となる焦点調節位置に対して前後方向にずらしては戻す動作を繰り返してフォーカスレンズを合焦位置まで駆動させる。
【0022】
AE制御回路1303は、AE動作を制御する。具体的にAE制御回路1303は、撮像素子IF回路116で得られた画像データを用いて被写体輝度を算出する。CPU1301は、この被写体輝度に従って、露光時の絞り106の開口量(絞り値)、シャッタ110の開放時間(シャッタ速度値)、撮像素子感度やISO感度等を算出する。
【0023】
画像処理回路1304は、撮像素子IF回路116で得られた画像データに対する各種の画像処理を行う。この画像処理は、例えば色補正処理、ガンマ(γ)補正処理、圧縮処理等を含む。また、画像処理回路1304は、圧縮されている画像データに対する伸張処理も施す。
【0024】
顔部検出回路1305は、撮像素子IF回路116で得られた画像データ、例えば人物等の被写体が撮像された画像デ―タ中から被写体の顔部を検出する。この顔部検出回路1305は、各フレームで得られる画像データと、図2(a)に示すような各顔パーツ402、404、406との相関量を求める。顔パーツ402は、人物の鼻部周辺の陰影のパターンに対応した画像データであり、顔パーツ404は、人物の目部周辺の陰影のパターンに対応した画像データであり、顔パーツ406は、人物の口部周辺の陰影のパターンに対応した画像データである。画像データと各顏パーツ402、404、406との相関量は、図2(b)に示すような、人物の顔部を示す所定の配置となったときに最大となる。このとき、各顏パーツ402、404、406を含む領域408に人物の顏部が存在しているとする。なお、各顏パーツ402、404、406は、予め設定した検索顔の大きさに応じて大きさを変えてもよい。ここで、図2(b)では、顏領域を矩形領域としているが、円形領域としても良い。
【0025】
第1の追尾回路1306、第2の追尾回路1307、色情報検出回路13089及び輝度検出回路13098は、被写体追尾部を構成する。この被写体追尾部は、顔部検出回路1305により検出された顔部又は人物等の被写体における顔部以外の周辺部位、例えば胸部(背部を有する胴体部を含む)に基づいて被写体を追尾する。
第1の追尾回路1306は、例えば人物等の被写体が撮像された画像デ―タにおいて、顔部検出回路1305により検出された顔部に対応する第1の画像データに基づいて被写体を追尾する。この第1の追尾回路1306は、例えば人物等の被写体が撮像された画像データ中における顔部に対応する領域の輝度情報又は例えば肌色の色情報に基づいて被写体を追尾する。
【0026】
第2の追尾回路1307は、例えば人物等の被写体が撮像された画像デ―タにおいて、顔部検出回路1305により検出される顔部の位置から推定される位置の周辺部位、例えば被写体として人物であれば、人物の胸部に対応する第2の画像データに基づいて被写体を追尾する。この第2の追尾回路1307は、例えば人物等の被写体が撮像された画像データ中における胸部に対応する領域の輝度情報又は例えば肌色の色情報に基づいて被写体を追尾する。
【0027】
従って、これら第1及び第2の追尾回路1306、1307は、それぞれ輝度検出回路1308から輝度情報を取得すると共に、色情報検出回路1309から色情報を取得し、これら輝度情報と例えば肌色の色情報とに基づいて被写体を追尾する。
なお、輝度検出回路1308は、画像データ中における顔部又は胸部等の周辺部位に対応する領域の輝度情報の検出を行う。
色情報検出回路1309は、画像データ中における顔部又は胸部等の周辺部位に対応する領域の色情報、例えば肌色の色情報を検出する。
【0028】
ここで、顏部の追尾について説明する。
第1の追尾回路1306は、画像データの輝度情報を用いて顏部の追尾処理を行う。この輝度情報を用いた顏部の追尾処理は、例えば図3(a)に示す(N−1)フレームにおいて追尾対象である被写体が設定された場合、この(N−1)フレームの画像データを評価画像データとしてRAM118の評価画像エリアに記憶する。この評価画像データの追尾対象を含む所定範囲202の画像データが基準画像データに設定される。この後、追尾処理では、同図(b)に示すNフレームとなる参照画像データ中において基準画像データ202と対応する部分を探索する。
Nフレームの追尾処理を例に示すと、顏部追尾回路1307は、Nフレームの画像データを参照画像データとしてRAM118の参照画像エリアに記憶する。第1の追尾回路1306は、この参照画像データのうちの所定の探索範囲204の画像データと基準画像データ202との相関量を求めることにより、参照画像データの基準画像データ202と対応する部分を探索する。相関量は、例えば基準画像データと参照画像データとの差分絶対値和から判定する。なお、差分絶対値和は、画素毎に輝度差の絶対値を求めてそれを積算したものである。
【0029】
例えば、図3(b)に示す参照画像データの領域206の参照画像データと基準画像データ202との差分絶対値和を求めたとすると、参照画像データの領域206と基準画像データ202とは明らかに異なる画像データであり、差分絶対値和が大きくなる。これに対し、参照画像データの領域208と基準画像データ202との差分絶対値和を求めたとすると、差分絶対値和が小さくなる。このように、基準画像データ202との相関量が大きくなるに従って差分絶対値和が小さくなる。輝度情報を用いた追尾処理では、相関量が最大の、即ち差分絶対値和が最小の領域を参照画像データから探索する。図2(b)の例では、領域208が基準画像データ202と対応する部分として探索される。なお、追尾位置ログエリアには、領域208の中で最も一致度の高い位置を追尾位置として記録する。このような一致度の高い位置が複数ある場合、例えば領域208の中心に近い位置を追尾位置とする。次回の追尾処理時には、この追尾位置を追尾処理の開始位置とすることが望ましい。これにより、追尾処理にかかる時間を軽減することが可能である。
【0030】
又、第1の追尾回路1306は、画像データの肌色の色情報を用いて顔部の追尾処理を行う。肌色の色情報を用いた追尾処理は、評価画像データ内で設定された色と同色であると判定できる領域を追尾色領域として探索する。第1の追尾回路1306は、図4(a)に示すように、(N−1)フレームにおいて、被写体のある位置302が指定された場合、評価画像データ中の位置302の色情報を取得する。そして、第1の追尾回路1306は、位置302を追尾処理の開始位置として、位置302と同じ色情報を有する領域を探索する。具体的に第1の追尾回路1306は、位置302を開始位置から周辺に向かうように順次肌色の色情報を取得し、取得した色情報が位置302の色情報と同一であると判定できる場合には領域に含め、取得した色情報が位置302の色情報と同一であると判定できない場合には領域に含めない。このようにして追尾色領域を探索すると、例えば、図4(a)に示すような単色の被写体の場合、被写体に内接する矩形領域304が追尾色領域となる。また、追尾位置ログエリアに記録する追尾位置は、例えば追尾色領域304の重心位置(図4(a)の例では、位置302と同じ)とする。次回の追尾処理においては、この追尾位置を追尾処理の開始位置とする。
【0031】
Nフレームの追尾処理を例に示すと、第1の追尾回路1306は、図4(b)に示す参照画像データとして記憶したNフレームの画像データの所定の探索範囲の中で、(N−1)フレームの追尾位置302を追尾処理の開始位置とし、追尾位置302の周辺から順次、追尾色領域304の色と同色であると判定できる領域を追尾色領域として探索する。図4(b)の例では、領域306が追尾色領域となる。また、図4(b)の例では、重心位置308を追尾位置とし、この追尾位置308を、追尾位置ログエリアに記録する。また、追尾色領域ログエリアには、追尾色領域306の範囲を示す情報(例えば、四隅の位置)を記録する。
【0032】
第2の追尾回路1307は、被検体中の顔部以外の周辺部位を追尾する。この第2の追尾回路1307は、上記第1の追尾回路1306と同様に、画像データの輝度情報及び肌色の色情報を用いて周辺部位の追尾処理を行う。この第2の追尾回路1307は、顔部から予め設定された位置関係を有する例えば被検体の胴体部、具体的には胴体部に存在する胸部を顔部以外の部位として追尾する。この顔部と胸部との位置関係は、画像データ上において被検体の顔部から予め設定された距離だけ下方、すなわち人物の顔部よりも下方を首部、胸部、腹部、脚部とすると、顔部から予め設定された距離だけ下方の位置が胸部であるとの関係に設定されている。第2の追尾回路1307は、なお、周辺部位は、被検体中の顔部に限らず、例えば首部、腹部、脚部、腕部であってもよい。
【0033】
図5は被検体に対する顔部検出位置Aと顔部追尾位置Bと周辺部追尾位置Cとを示す。顔部検出位置Aは、顔部検出回路1305により検出された顔部を示し、例えば図2に示す矩形の領域408に対応する。
顔部追尾位置Bは、色情報検出回路1309により検出された顔部に対応する肌色の色情報の領域に基づいて顔部を追尾するための位置を示し、例えば図4(a)(b)に示す追尾色領域304の重心位置302又は308に対応する。この顔部追尾位置Bは、上記の通り追尾位置ログエリアに記録される。
周辺部追尾位置Cは、第2の追尾回路1307により追尾する被検体中の顔部以外の周辺部位、例えば胸部を示す。この周辺部追尾位置Cは、例えば矩形の枠により被検体中の胸部を示す。この周辺部追尾位置Cは、矩形の枠に限らず、円形の枠であってもよい。
【0034】
なお、第1の追尾回路1306は、顔部検出回路1305により検出された顔部、又は色情報検出回路1309により検出された顔部に対応する肌色の色情報の領域に基づいて顔部を追尾するとき例えば図6又は図7に示すように矩形の顔部追尾枠D1を例えばLCDである表示素子120に表示する。図6は顔部の正面の顔に対して設定された顔部追尾枠D1を示し、図7は顔部の横顔に対して設定された顔部追尾枠D1を示す。この顔部追尾枠D1は、矩形の枠に限らず、円形の枠であってもよい。なお、顔部は、正面の顔又は横顔であっても顔部として追尾される。
【0035】
又、第2の追尾回路1307は、被検体中の顔部以外の周辺部位として例えば胸部を追尾するとき例えば図8に示すように矩形の胸部追尾枠D2を例えばLCDである表示素子120に表示する。この胸部追尾枠D2は、矩形の枠に限らず、円形の枠であってもよい。
【0036】
追尾切替回路1310は、第1の追尾回路1306による顔部の追尾が出来ない場合、例えば図6又は図7に示すような顔部追尾枠D1の表示による顔部の追尾から第2の追尾回路1307による顔部以外の部位、例えば図8に示すような胸部の追尾に切り替え、同図に示すように胸部上に矩形の胸部追尾枠D2を例えばLCDである表示素子120に表示する。
この追尾切替回路1310は、顔部以外の部位、例えば胸部の位置から顔部として推定される位置で、顔部が検出される、又は顔部に対応する肌色の色情報が検出されると、図8に示すような第2の追尾回路1307による胸部の追尾(胸部追尾枠D2の表示)から図6又は図7に示すような第1の追尾回路1306による顔部の追尾(顔部追尾枠D1の表示)に戻る。
なお、顔部と胸部との位置関係は、画像データ上において被検体の顔部から予め設定された距離だけ下方、すなわち人物の顔部よりも下方を首部、胸部、腹部、脚部とすると、顔部から予め設定された距離だけ下方の位置が胸部であるとの関係に設定されているので、人物の胸部よりも予め設定された距離だけ上方に顔部が存在することを推定できる。
【0037】
追尾切替回路1310は、顔部に対応する肌色の色情報を予め記憶し、第2の追尾回路1307により胸部の追尾を行っている状態に、顔部として推定される位置における色情報が予め記憶されている色情報と一致したときに、顔部に対応する肌色の色情報が検出されたとして第1の追尾回路1306による顔部の追尾に戻る。
追尾切替回路1310は、少なくとも顔部検出回路1305により顔部が検出されず、かつ色情報検出回路1306により肌色の色情報の領域が検出されない場合、第1の追尾回路1306による顔部の追尾が出来ないと判定する。
追尾切替回路1310は、画像デ―タ中に顔部のデータが無く、画像デ―タ中の顔部のデータ量が顔部を検出することができない信頼性の低いデータ量であり、かつ肌色の色情報の領域に基づいて顔部を追尾できず当該追尾の性能が悪化すれば、第1の追尾回路1306による顔部の追尾が出来ないと判定する。
【0038】
追尾切替回路1310は、第1の追尾回路1306による顔部の追尾に切り替える旨、第2の追尾回路1307による胸部の追尾に切り替える旨などをCPU1301に通知する。このCPU1301は、顔部の追尾に切り替える旨や、胸部の追尾に切り替える旨の通知を受けると、ウォブリング動作によるAF動作から山登りAF動作に切り替える旨、山登りAF動作からウォブリング動作によるAF動作に切り替える旨の通知をAF制御部回路1302に送る。
【0039】
上記AF制御部回路1302は、例えば人物等の被写体が撮像された画像データにおける顔部検出回路1305により検出された顔部に対応する領域の第1の画像データ、及び顔部以外の周辺部位、例えば胸部に対応する領域の第2の画像データに基づいてAF動作を行う。
このAF制御部回路1302は、顔部検出回路1305による顔部の検出が有効な場合、この顔部に対応する領域の第1の画像データに基づいてAF動作を行い、顔部が有効に検出されなくなった場合、胸部等の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行う。
AF制御部回路1302は、画像データのフレーム間で、顔部検出回路1305による顔部の検出が有効でない状態から有効な状態に変わると、第1の追尾回路1306により追尾される胸部等の周辺部位に対応する領域の第2の画像データに基づくAF動作から顔部に対応する第1の画像データに基づくAF動作に変わる。
AF制御部回路1302は、画像データのフレーム間で、顔部検出回路1305による顔部の検出が有効でなくなって第1の追尾回路1306による被写体の追尾が不能になった場合、第2の追尾回路1307の追尾に用いる胸部等の周辺部位に対応する第2の画像データに基づいてAF動作を行う。
【0040】
AF制御部回路1302は、顔部検出回路1305による顔部の検出が有効な場合、顔部に対応する第1の画像データに基づいてウォブリング動作によりAF動作を行い、顔部の検出が有効でない場合、胸部等の周辺部位に対応する第2の画像データに基づいて山登りAF動作を行う。
具体的に、AF制御部回路1302は、顔部検出回路1305による顔部の検出が有効、又は第1の追尾回路1306による被検体の追尾が可能で、顔部に対応する第1の画像データに基づくウォブリング動作によりAF動作を行っている状態に、顔部検出回路1305による顔部の検出が有効でなくなりかつ第1の追尾回路1306による被検体の追尾が不能になると、第2の追尾回路1307による胸部等の周辺部位に対応する第2の画像データに基づいて山登りAF動作を行う。
AF制御部回路1302は、第2の追尾回路1307による被検体の追尾が有効で、胸部等の周辺部位に対応する第2の画像データに基づくウォブリング動作によりAF動作を行っている場合に、画像データのフレーム間で、顔部検出回路1305による顔部の検出が有効でない状態から有効に変化すると、顔部に対応する第1の画像データに基づいて山登りAF動作を行う。
【0041】
メモリ制御回路1311は、CPU1301等がRAM118、記録メディア128、ROM134に対してアクセスするための制御を行うインターフェイスである。
操作部132は、ユーザによって操作される各種の操作部材である。この操作部132は、例えば、レリーズ釦、動画釦、モードダイヤル、選択キー、電源釦等を含む。
レリーズ釦は、1stレリーズスイッチと、2ndレリーズスイッチとを有する。1stレリーズスイッチは、ユーザがレリーズ釦を半押しするとオンするスイッチである。この1stレリーズスイッチがオンすることにより、AF処理等の撮影準備動作が行われる。2ndレリーズスイッチは、ユーザがレリーズ釦を全押しするとオンするスイッチである。この2ndレリーズスイッチがオンすることにより、静止画撮影用の露光動作が行われる。
動画釦は、動画撮影の開始又は終了を指示するための操作部材である。ユーザによって動画釦が押されると動画撮影処理が開始される。また、動画撮影処理の実行中に動画釦が押されると、動画撮影処理が終了される。
モードダイヤルは、撮像装置の撮影設定を選択するための操作部材である。本実施形態では、撮像装置の撮影設定として、例えば、静止画撮影モードと動画撮影モードを選択できる。静止画撮影モードは、静止画像を撮影するための撮影設定である。また、動画撮影モードは、動画像を撮影するための撮影設定である。
選択キーは、例えばメニュー画面上での項目の選択や決定をするための操作部材である。ユーザによって選択キーが操作されるとメニュー画面上での項目の選択や決定が行われる。
電源釦は、撮像装置の電源をオン又はオフするための操作部材である。ユーザによって電源釦が操作されると、本装置100が起動して動作可能な状態となる。撮像装置が起動している間に電源釦が操作されると、本装置100が省電力待機状態となる。
【0042】
ROM134は、CPU1301が種々の処理を実行するためのプログラムコードを記憶する。プログラムコードは、被写体を撮像するための撮像プログラムを含む。この撮像プログラムは、コンピュータとしてのCPU1301に、被写体の像を撮像して画像データを出力させる画像データ出力機能と、画像データ中から被写体の顔部を検出させる顔部検出機能と、顔部又は被写体における顔部以外の周辺部位に基づいて被写体を追尾させる被写体追尾機能と、画像データにおける顔部に対応する領域の第1の画像データ、又は顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行わせるAF制御機能とを有し、AF制御機能は、顔部の検出が有効な場合、顔部に対応する領域の第1の画像データに基づいてAF動作を行い、顔部が有効に検出されなくなった場合、周辺部位に対応する領域の第2の画像データに基づいてAF動作を行うことを実現させる。
AF制御機能は、顔部の検出が有効でない状態から有効な状態に変わると、周辺部位に対応する領域の第2の画像データに基づくAF動作から顔部に対応する第1の画像データに基づくAF動作に変わることを実現させる。
【0043】
また、ROM134は、撮影光学系102、絞り106及び撮像素子114等の動作に必要な制御パラメータ、並びに画像処理回路1304での画像処理に必要な制御パラメータ等の各種の制御パラメータを記憶している。さらにROM134は、顏部検出回路1305における顏検出に用いられる顏パーツのデータや追尾枠を表示するためのデータ等も記憶している。
【0044】
次に、上記の如く構成された本装置の動作について図9に示す撮影動作フローチャートを参照して説明する。
CPU1301は、ROM134から必要なプログラムコードを読み込んで本装置100の動作を制御する。
CPU1301は、ステップS100において、現在の本装置100の撮影設定が静止画撮影モードであるか否かを判定する。この撮影設定は、モードダイヤルによって設定される。
判定の結果、撮影設定が静止画撮影モードであると、CPU1301は、ステップS102において、ライブビュー動作を開始させる。ライブビュー動作として、CPU1301は、シャッタ駆動機構112を制御してシャッタ110を開放した後、撮像素子IF回路116を制御して撮像素子114による撮像を開始させる。その後、CPU1301は、撮像素子114による撮像の結果としてRAM118のワークエリアに記憶された画像データを画像処理回路1304に入力してライブビュー表示用の画像処理を施す。続いて、CPU1301は、ライブビュー表示用の画像処理がされた画像データを表示素子駆動回路122に入力し、表示素子120に画像を表示させる。このような表示動作を繰り返し実行することにより、被写体の画像を動画表示する。この動画表示により、ユーザは、被写体を観察することが可能である。
【0045】
CPU1301は、ステップS104において、1stレリーズスイッチがオンされたか否かを判定する。この判定の結果、1stレリーズスイッチがオンされたと判定するまでCPU1301は、ライブビュー動作を継続する。
1stレリーズスイッチがオンされると、CPU1301は、ステップS106において、レリーズAF処理を行う。このレリーズAFでは、スキャン駆動(山登りAF動作)によって、フォーカスレンズを合焦位置まで駆動させる。スキャン駆動(山登りAF動作)では、CPU1301は、焦点調整機構104を制御してフォーカスレンズを所定のスキャン範囲内で一方向に駆動させつつ、AF制御回路1302で順次算出される合焦評価値を評価する。CPU1301は、合焦評価値の評価の結果、コントラストが最大となるレンズ位置において、フォーカスレンズの駆動を停止させる。このようなスキャン駆動は、AF前のフォーカスレンズの位置と合焦位置との差が大きい場合に行われる。
【0046】
CPU1301は、ステップS108において、表示素子駆動回路122を制御して、表示素子120に追尾枠を表示させる。ここで、追尾枠は、表示素子120の画面上の追尾対象の位置に表示させる。例えば、レリーズAFで合焦した被写体を追尾対象とし、その被写体に追尾枠を表示させるようしても良い。顏検出回路1307によって人物の顏部が検出された場合には、例えば図6又は図7に示すように顔部に追尾枠D1を表示させるようにしても良い。さらに、タッチパネル124により、表示素子120の画面上に表示された被写体が指定された場合には、その被写体上に追尾枠を表示させるようにしても良い。このように、本実施形態においては、CPU1301、AF制御回路1302、顏検出回路1307、タッチパネル124等が追尾対象設定部の一例として機能する。
【0047】
CPU1301は、ステップS110において、被写体を追尾する追尾処理を行う。この追尾処理は、後述する。
CPU1301は、ステップS112において、追尾位置の被写体に合焦するようにAF処理を行うと共に、追尾位置の被写体の露光が適正となるようにAE処理を行う。
追尾処理後のAF処理においては、スキャン駆動(山登りAF動作)又はウォブリング駆動によって、フォーカスレンズを合焦位置まで駆動させる。ウォブリング駆動では、CPU1301は、フォーカスレンズを駆動したときにAF制御回路1302で算出された合焦評価値が、前回のレンズ位置での合焦評価値に対して増加したかを判定する。そして、CPU1301は、合焦評価値が増加した場合には前回と同方向にフォーカスレンズを微小駆動させ、合焦評価値が減少した場合には前回と逆方向にフォーカスレンズを微小駆動させる。このような動作を高速で繰り返してフォーカスレンズを徐々に合焦位置まで駆動させる。
また、AE処理において、CPU1301は、AE制御回路1303で算出された追尾位置の被写体の輝度を予め定められた適正な量(適正露光量)とする、本露光時の絞り106の開口量(絞り値)、シャッタ110の開放時間(シャッタ速度値)を算出する。
【0048】
CPU1301は、ステップS114において、2ndレリーズスイッチがオンされたか否かを判定する。2ndレリーズスイッチがオンされていないと判定されると、CPU1301は、ステップS110の追尾処理以後の処理を実行する。このように、静止画撮影モード時には、2ndレリーズスイッチがオンされるまでは、追尾処理が継続される。
【0049】
また、2ndレリーズスイッチがオンされると、CPU1301は、ステップS116において、表示素子駆動回路122を制御して、追尾枠D1を非表示とする。
CPU1301は、ステップS118において、静止画像データを記録メディア128に記録する処理を行う。この際、CPU1301は、シャッタ駆動機構112を制御して、シャッタ110を閉じる。その後、CPU1301は、絞り駆動機構108を制御して、絞り106を先に算出した絞り値まで絞り込む。続いて、CPU1301は、シャッタ駆動機構112を制御して、シャッタ110を先に算出した開放時間だけ開放しつつ、撮像素子114による撮像(露光)を行う。その後、CPU1301は、撮像素子114を介して得られた静止画像データを画像処理回路1304において処理する。そして、CPU1301は、画像処理回路1304において処理された静止画像データにヘッダを付与して静止画像ファイルを生成し、生成した静止画像ファイルを記録メディア128に記録する。
CPU1301は、ステップS120において、上記ステップS110の追尾処理の結果として得られた追尾位置を示すデータを、先に記録メディア128に記録した静止画像ファイルに追記する。その後に、CPU1301は、図9に示す撮影動作を示すフローチャートに従った動作を終了する。
【0050】
一方、上記ステップS100において、撮影設定が動画撮影モードであると判定されると、CPU1301は、ステップS122において、ライブビュー動作を開始する。
CPU1301は、ステップS124において、動画釦がオンされたか否かを判定する。この動画釦がオンされたと判定するまでCPU1301は、ライブビュー動作を継続する。
【0051】
動画釦がオンされたと判定されると、CPU1301は、ステップS126において、表示素子駆動回路122を制御して表示素子120に例えば図6又は図7に示すように顔部に追尾枠D1を表示させる。
CPU1301は、ステップS128において、追尾処理を行う。この追尾処理は、後述する。
CPU1301は、ステップS130において、追尾位置の被写体に合焦するようにAF処理を行うと共に、追尾位置の被写体の露光が適正となるようにAE処理を行う。このときのAF処理では、ウォブリング駆動によって撮影光学系102のフォーカスレンズを合焦位置まで駆動させる。
【0052】
CPU1301は、ステップS132において、動画像データを記録メディア128に記録する処理を行う。この際、CPU1301は、絞り駆動機構108を制御し、絞り106をAE処理において算出した絞り値まで絞り込む。続いて、CPU1301は、AE処理において算出したシャッタ速度値に対応した時間だけ撮像素子114による撮像(露光)を実行させる。露光の終了後、CPU1301は、動画像ファイルを生成して記録メディア128に記録する。また、CPU1301は、撮像素子114を介して得られた動画像データを画像処理回路1304において処理し、画像処理回路1304において処理された動画像データを動画像ファイルに記録する。
【0053】
CPU1301は、ステップS134において、上記ステップS128の追尾処理の結果として得られた追尾位置を示すデータを、先に記録メディア128に記録した動画像ファイルと同時記録する。
CPU1301は、ステップS136において、動画釦がオフされたか否かを判定する。この判定の結果、動画釦がオフされていないと判定されると、CPU1301は、ステップS128の追尾処理以後の処理を実行する。このように、動画撮影モード時では、動画釦がオフされるまでは、追尾処理と動画像データの記録が継続される。
【0054】
また、動画釦がオフされたと判定されると、CPU1301は、ステップS138において、表示素子駆動回路122を制御し、追尾枠D1を非表示とする。その後、CPU1301は、図9に示す撮影動作を示すフローチャートに従った動作を終了する。
次に、本実施の形態に係る追尾処理について図10に示す追尾処理フローチャートに従って説明する。
CPU1301は、ステップS200において、撮像素子IF回路116を制御して撮像素子114による撮像を実行する。
CPU1301は、ステップS201において、撮像素子114による撮像により、撮像素子IF回路116において得られた画像データをRAM118に取り込む。CPU1301は、初回の追尾処理で得られた画像データを評価画像データとし、この画像データをRAM118の評価画像エリアに取り込む。また、CPU1301は、2回目以後の追尾処理で得られた画像データを参照画像データとし、これら2回目以後の追尾処理で得られた画像データをそれぞれRAM118の参照画像エリアに取り込む。
【0055】
CPU1301は、ステップS202において、顔部検出回路1305により、例えば人物等の被写体が撮像された画像デ―タ中から被写体の顔部を検出する。この顔部検出回路1305は、上記図2(a)(b)を参照して説明したように各フレームで得られる画像データと各顔パーツ402、404、406との相関量を求め、この相関量が人物の顔部を示す所定の配置となったときに最大となることを利用して人物の顏部が存在している領域を検出する。
【0056】
CPU1301は、ステップS203において、第2の追尾回路1307により、被検体中の顔部以外の周辺部位、例えば顔部検出回路1305により検出された顔部から予め設定された距離だけ下方の胸部を周辺部位として設定する。
CPU1301は、ステップS204において、第1の追尾回路1306により画像データの輝度情報を用いて顔部の追尾処理を行うと共に、第2の追尾回路1307により画像データの輝度情報を用いて胸部の追尾処理を行う。輝度情報を用いた追尾処理は、顔部と胸部とに対し、上記図3(a)(b)を参照して説明と同様に、(N−1)フレームにおいて追尾対象である被写体が設定された場合、この(N−1)フレームの画像データを評価画像データとしてRAM118の評価画像エリアに記憶する。この評価画像データの追尾対象を含む所定範囲202の画像データが基準画像データに設定される。この後、追尾処理では、同図(b)に示すNフレームとなる参照画像データ中において基準画像データ202と対応する部分を探索する。
【0057】
なお、初回の追尾処理においては、評価画像データのみが取得された状態であるので、ステップS204以後の処理は省略される。以後の説明においては、評価画像データと参照画像データの両方が取得されているものとして説明を続ける。
CPU1301は、ステップS205において、輝度情報を用いた顔部と胸部との各追尾処理の結果として得られた各追尾位置を、それぞれRAM118の追尾ログエリアに記憶する。
【0058】
CPU1301は、ステップS206において、第1の追尾回路1306により画像データの色情報を用いて顔部の追尾処理を行うと共に、第2の追尾回路1307により画像データの色情報を用いて胸部の追尾処理を行う。色情報を用いた追尾処理は、顔部と胸部とに対し、評価画像データ内で設定された色と同色であると判定できる領域を追尾色領域として探索する。この顏部追尾回路1307は、上記図4(a)に示すように、(N−1)フレームにおいて、被写体のある位置302が指定された場合、評価画像データ中の位置302の色情報を取得し、この位置302を追尾処理の開始位置として、位置302と同じ色情報を有する領域を探索する。
【0059】
CPU1301は、ステップS207において、色情報を用いた追尾処理の結果として得られた顔部と胸部との各追尾位置をRAM118の追尾ログエリアに記憶する。CPU1301は、色情報を用いた追尾処理の結果として得られた追尾色領域をRAM118の追尾色領域ログエリアに記憶する。
【0060】
CPU1301は、ステップS208において、追尾切替回路1310により、顔部の追尾が出来るか否かを判定する。具体的に、追尾切替回路1310は、画像デ―タ中に顔部のデータが無く、画像デ―タ中の顔部のデータ量が顔部を検出することができない信頼性の低いデータ量であり、かつ肌色の色情報の領域に基づいて顔部を追尾できず当該追尾の性能が悪化しているか否かを判定する。
なお、顔部のデータの有無は、例えばRAM118の追尾ログエリアに記憶されている輝度情報を用いた顔部と胸部との各追尾処理の結果として得られた各追尾位置の有無により判定される。又、顔部のデータの有無は、例えばRAM118の追尾色領域ログエリアに記憶されている色情報を用いた追尾処理の結果として得られた追尾色領域の有無により判定される。顔部のデータ量が信頼性の低いデータ量であることの判定は、例えば画像データにおける顔部に対応する領域に顔部に相当する輝度情報及び色情報が存在するものの顔部として判定するに至らないデータ量であることにより判定される。肌色の色情報の領域に基づいて顔部を追尾できないのは、例えば画像データにおける顔部に対応する領域に肌色の色情報のデータ量が少なかったり、顔部の形状に対応して肌色の色情報が分布していない等により判定される。
【0061】
この判定の結果、画像デ―タ中に顔部のデータが有り、画像デ―タ中の顔部のデータ量が顔部を検出することができ、かつ肌色の色情報の領域に基づいて顔部を追尾できれば、CPU1301は、ステップS209において、優先追尾位置判定処理を行う。この優先追尾位置判定処理は、顔部の追尾において、輝度情報を用いた追尾処理の結果と色情報を用いた追尾処理の結果との何れを採用するかを判定するための処理であり、ここでは、上記の通り輝度情報及び色情報を用いてそれぞれ顔部の追尾が出来るので、例えば色情報を用いた追尾処理の結果を優先する。
【0062】
CPU1301は、ステップS210において、優先追尾位置判定処理の結果として採用された追尾位置の信頼性を判断する。輝度情報を用いた追尾処理の結果が採用された場合には、例えば参照画像データのコントラストから信頼性を判断する。具体的には、参照画像データにおける追尾対象の領域の隣接画素間の差分和が所定値以上である場合には、信頼性があると判断する。また、色情報を用いた追尾処理の結果が採用された場合には、例えば参照画像データの彩度から信頼性を判断する。具体的には、参照画像データの追尾位置の彩度が所定値以上である場合には、信頼性があると判断する。これらの信頼性を判定するための閾値は適宜設定可能である。
【0063】
CPU1301は、ステップS211において、参照画像データの最終的な追尾位置を、RAM118の追尾ログエリアに記録する。次回の追尾処理においては、輝度情報を用いた追尾処理と色情報を用いた追尾処理の両方で、この最終的な追尾位置を追尾処理の開始位置とする。ただし、ステップS216の信頼性判断において、信頼性がないと判断された場合には、追尾位置を記録しないようにしても良い。
CPU1301は、ステップS212において、表示素子駆動回路122を制御し、例えば図6又は図7に示すように顔部追尾枠D1の表示位置をステップS211で記憶させた追尾位置に対応した位置に更新して追尾処理を終了する。
【0064】
一方、上記ステップS208での判定の結果、画像デ―タ中に顔部のデータが無く、画像デ―タ中の顔部のデータ量が顔部を検出することができない信頼性の低いデータ量であり、かつ肌色の色情報の領域に基づいて顔部を追尾できず当該追尾の性能が悪化していれば、CPU1301は、顔部の追尾が出来ないと判定する。
CPU1301は、ステップS213に移り、追尾切替回路1310により、顔部の追尾から第2の追尾回路1307による顔部以外の部位、例えば胸部の追尾に切り替える。この第2の追尾回路1307は、上記の通り、画像データの輝度情報及び色情報を用いて胸部の追尾処理を行う。なお、胸部は、顔部から予め設定された距離だけ下方の位置に存在することが設定されている。
【0065】
CPU1301は、ステップS214において、優先追尾位置判定処理を行う。この優先追尾位置判定処理は、胸部の追尾において、輝度情報を用いた追尾処理の結果と色情報を用いた追尾処理の結果との何れを採用するかを判定するための処理であり、ここでは、肌色の色情報の領域に基づく顔部の追尾処理ができないことから輝度情報を用いた追尾処理の結果を優先する。
【0066】
CPU1301は、ステップS215において、優先追尾位置判定処理の結果として採用された追尾位置の信頼性を判断する。輝度情報を用いた追尾処理の結果が採用された場合には、例えば参照画像データのコントラストから信頼性を判断する。具体的には、参照画像データにおける追尾対象の領域の隣接画素間の差分和が所定値以上である場合には、信頼性があると判断する。
【0067】
CPU1301は、ステップS216において、参照画像データの最終的な追尾位置を、RAM118の追尾ログエリアに記録する。次回の追尾処理においては、輝度情報を用いた追尾処理で、この最終的な追尾位置を追尾処理の開始位置とする。ただし、ステップS215の信頼性判断において、信頼性がないと判断された場合には、追尾位置を記録しないようにしても良い。
CPU1301は、ステップS217において、表示素子駆動回路122を制御し、例えば図6又は図8に示すように胸部追尾枠D2の表示位置をステップS216で記憶させた追尾位置に対応した位置に更新して追尾処理を終了する。
【0068】
また、図9に示すように、静止画撮影モード時は1stレリーズオンかつ2ndレリーズオフ中に、また動画撮影モード時は動画釦がオフされるまで、図10に示す追尾処理フローチャートに従った追尾処理が繰り返し実行されるので、前回の追尾処理で顔部の追尾ができず、周辺部位(胸部)の追尾がなされた場合には、その次の追尾処理では以下のような動作になる。
CPU1301は、上記ステップS201〜S207を実行し、ステップS208において、追尾切替回路1310により、顔部の追尾が出来るか否か、すなわち、顔部以外の部位、例えば胸部の位置から顔部として推定される位置で、顔部が検出される、又は顔部に対応する肌色の色情報が検出されるか否かを判定する。
この判定の結果、例えば胸部の位置から顔部として推定される位置で、顔部が検出されず、又は顔部に対応する肌色の色情報が検出されなければ、CPU1301は、上記ステップS213に移り、追尾切替回路1310により、胸部の追尾を継続する。第2の追尾回路1307は、上記の通り、画像データの輝度情報及び色情報を用いて胸部の追尾処理を行う。
【0069】
一方、上記判定の結果、胸部の位置から顔部として推定される位置で、顔部が検出され、又は顔部に対応する肌色の色情報が検出されると、CPU1301は、第2の追尾回路1307による胸部の追尾から第1の追尾回路1306による顔部の追尾に戻る。なお、追尾切替回路1310は、顔部に対応する肌色の色情報を予め記憶し、顔部として推定される位置における色情報が予め記憶されている色情報と一致したときに、顔部に対応する肌色の色情報が検出されたとする。
CPU1301は、上記ステップS209〜S211を実行し、ステップS212において、図8に示すような第2の追尾回路1307による図8に示すような胸部の追尾(胸部追尾枠D2の表示)から図6又は図7に示すような第1の追尾回路1306による顔部の追尾(顔部追尾枠D1の表示)に戻る。
その後、CPU1301は、上記図10に示す追尾処理フローチャートに従った追尾処理を終了する。
【0070】
以上の追尾処理において、CPU1301は、顔部の追尾が出来ないと判定すると、上記ステップS213において、追尾切替回路1310により、顔部の追尾から第2の追尾回路1307による顔部以外の部位、例えば胸部の追尾に切り替えている。この追尾の対象の切替に応じてAF制御部回路1302は、以下のAF制御を行う。
例えば、AF制御部回路1302は、上記ステップS112又は上記ステップS130において、顔部検出回路1305による顔部の検出が有効な場合、顔部に対応する第1の画像データに基づいてウォブリング動作によりAF動作を行っているが、顔部の検出が有効から無効に変化した場合、胸部等の周辺部位に対応する第2の画像データに基づいて山登りAF動作を行う。
具体的に、AF制御部回路1302は、顔部検出回路1305による顔部の検出が有効、又は第1の追尾回路1306による被検体の追尾が可能で、顔部に対応する第1の画像データに基づくウォブリング動作によりAF動作を行っている状態に、画像データのフレーム間で、顔部検出回路1305による顔部の検出が有効でなくなりかつ第1の追尾回路1306による被検体の追尾が不能になると、第2の追尾回路1307による胸部等の周辺部位に対応する第2の画像データに基づいて山登りAF動作を行う。
【0071】
又、AF制御部回路1302は、第2の追尾回路1307による被検体の胸部の追尾が有効で、胸部等の周辺部位に対応する第2の画像データに基づくウォブリング動作によりAF動作を行っている場合に、画像データのフレーム間で、顔部検出回路1305による顔部の検出が有効でない状態から有効に変化すると、顔部に対応する第1の画像データに基づいて山登りAF動作を行う。
【0072】
ここで、図11に示すAF処理フローチャートに従ってCPU1301のAF制御部回路1302によるウォブリング動作又は山登りAF動作によるAF制御の一例を説明する。
AF制御部回路1302は、ステップS300において、例えば被写体として人物の顔部に対応する第1の画像データに基づいてウォブリング動作によりAF動作を行っている。
AF制御部回路1302は、ステップS301において、スキャン駆動(山登りAF動作)が必要であるか否かを判定する。
これは、例えば撮影者が撮像装置のパン動作やチルト動作を行って被写体が大きく変化した時に、AF動作をやり直すためにスキャン動作(山登りAF)を実行するものである。上記判定によりスキャン動作(山登りAF)が必要な場合はステップS303に移行し、必要ない場合はステップS302に移行する。
追尾切替回路1310により画像データのあるフレーム間で、顔部の追尾から当該顔部以外の周辺部位、例えば胸部の追尾に切り替わると、AF制御部回路1302は、ステップS302において、スキャン駆動(山登りAF動作)が必要であると判定し、ステップS303に移行する。
【0073】
AF制御部回路1302は、第2の追尾回路1307による顔部以外の周辺部位、例えば胸部の追尾に切り替わると、ステップS303において、例えば被写体として人物の胸部に対応する第2の画像データに基づくスキャン駆動(山登りAF動作)によりAF動作を行う。
AF制御部回路1302は、ステップS304において、胸部に対応する第2の画像データから合焦評価値を求め、この合焦評価値から合焦方向を判断し、ステップS304において、合焦になったか否かを判定する。AF制御部回路1302は、胸部に対して合焦するまで、画像データからAF用の合焦評価値を取得し、この合焦評価値に従って画像データのコントラストを評価しつつ、焦点調整機構104を制御し、スキャン駆動(山登りAF動作)を行ってフォーカスレンズを合焦状態とする。
【0074】
一方、スキャン駆動(山登りAF動作)が必要でなく、顔部以外の周辺部位、例えば胸部の追尾に切り替わることがなければ、AF制御部回路1302は、ステップS306において、顔部に対して合焦するまで、画像データからAF用の合焦評価値を取得し、この合焦評価値に従って画像データのコントラストを評価しつつ、焦点調整機構104を制御し、ウォブリング動作を行ってフォーカスレンズを合焦状態になる位置に移動させる。
【0075】
AF制御部回路1302は、ステップS307において、待機し、次のステップS308において、画像データから取得されるAF用の合焦評価値が変化したか否かを判断する。AF用の合焦評価値に変化がなければ、AF制御部回路1302は、待機し続ける。AF用の合焦評価値に変化があると、AF制御部回路1302は、ステップS300に戻る。
なお、上記ステップS302においては、追尾切替回路1310により画像データのあるフレーム間で、顔部以外の周辺部位、例えば胸部の追尾から顔部の追尾に切り替わった場合も、AF制御部回路1302は、スキャン駆動(山登りAF動作)が必要であると判定し、ステップS303に移行する。
AF制御部回路1302は、ステップS303において、例えば被写体として顔部に対応する第1の画像データに基づくスキャン駆動(山登りAF動作)によりAF動作を行う。
【0076】
ここで、本装置と一般的な背景技術とを対比すると、図12は一般的な背景技術におけるウォブリング動作を続けて顔部の追尾から例えば胸部の追尾に切り替わり、再び顔部の追尾に戻るときのAF合焦状態の時間的変化を示す。このウォブリング動作でのAF制御では、フォーカスレンズの焦点調節位置を基準となる焦点調節位置に対して前後方向にずらしては戻す動作を繰り返してフォーカスレンズを合焦位置まで駆動させるために、顔部の追尾から胸部の追尾に切り替わってから胸部に合焦するまでに時間を要している。
これに対して図13は本装置のようにウォブリング動作を続けて顔部の追尾から例えば胸部の追尾に切り替わると共にスキャン駆動(山登りAF動作)に切り替わり、再び顔部の追尾に戻ってウォブリング動作を行うときのAF合焦状態の時間的変化を示す。スキャン駆動(山登りAF動作)は、ウォブリング動作によるAF制御と比べて合焦に要する時間が短い。これにより、顔部の追尾から胸部の追尾に切り替わってから直ぐに胸部に合焦することができる。胸部の追尾に切り替わった後は、ウォブリング動作により胸部に合焦する。
【0077】
このように上記一実施の形態によれば、顔部の検出が有効な場合、顔部に対応する領域の第1の画像データに基づいてAF動作、例えばウォブリング動作によりAF動作を行い、顔部が有効に検出されなくなった場合、例えば胸部等の周辺部位に対応する領域の第2の画像データに基づいてAF動作、例えば山登りAF動作を行うので、顔部の追尾から胸部の追尾に切り替わったとき、画像データ上であれば、フレーム間で顔部の追尾から胸部の追尾に切り替わったときに、顔部に対するAFから胸部に対するAFに直ぐに切り替えることができる。
【0078】
例えば、ポートレート撮影により顔部と胸部とを追尾している場合、これら顔部と胸部とでは本装置からの各距離(奥行方向の各距離)に差が生じるために、顔部の追尾から胸部の追尾に切り替わったときにウォブリング動作によるAF動作を続けていると、AF合焦までに時間を要してAF合焦に遅れを生じたり、又は偽合焦を生じるおそれがある。
これに対して本装置では、ポートレート撮影により顔部と胸部とを追尾している場合、顔部の追尾から胸部の追尾に切り替わったときにウォブリング動作からスキャン駆動(山登りAF動作)に切り替わるので、AF合焦までに時間が掛からず、偽合焦を生じるおそれも低減できる。
【0079】
なお、上記一実施の形態では、顔部の追尾と胸部の追尾とを切り替えているが、これに限らず、顔部の追尾を主の追尾とし、周辺部位の追尾として例えば首部の追尾、腹部の追尾、脚部の追尾、腕部の追尾のいずれかを追加してもよい。
さらに、上記した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適当な組合せにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、上述したような課題を解決でき、上述したような効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。
【符号の説明】
【0080】
100:撮像装置、102:撮影光学系、104:焦点調整機構、106:絞り、108:絞り駆動機構、110:シャッタ、112:シャッタ駆動機構、114:撮像素子、116:撮像素子インターフェイス(IF)回路、118:RAM、120:表示素子、122:表示素子駆動回路、124:タッチパネル、126:タッチパネル駆動回路、128:記録メディア、130:システムコントローラ、132:操作部、134:ROM、1301:CPU、1302:AF制御回路、1303:AE制御回路、1304:画像処理回路、1305:顔部検出回路、1306:第1の追尾回路、1307:第2の追尾回路、1308:輝度検出回路、1309:色情報検出回路、1310:追尾切替回路、1311:メモリ制御回路、402,404,406:顔パーツ、308:重心位置、A:顔部検出位置、B:顔部追尾位置、C:周辺部追尾位置、D1:矩形の追尾枠。
【技術分野】
【0001】
本発明は、人物等の被写体を追尾しながら撮像を行う撮像装置、撮像方法及び撮像プログラムに関する。
【背景技術】
【0002】
人物等の被写体を追尾する技術としては、被写体を追尾するための少なくとも2つの領域を用いて被写体を追尾する技術として例えば特許文献1がある。この特許文献1は、被写体を撮像して取得された画像データ上に被写体を追尾するための第1領域と第2領域とを有し、第1領域を常に基準領域として被写体の追尾を行い、第2領域を第1領域と独立して被写体の追尾を行うことを開示する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2009−268086号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
被写体を追尾するために第1と第2の追尾領域を用いる場合、撮像装置から第1と第2の追尾領域までの間に距離差がある場合、すなわち撮像装置から第1と第2の追尾領域に向かう奥行方向に距離差がある場合がある。このように第1と第2の追尾領域までに距離差がある状態で被写体の追尾を行う場合、通常、第1の追尾領域に対応する画像データに基づいてAF動作を行う。
ところが、第1の追尾領域を用いて被写体の追尾が不能になると、被写体の追尾は、第1の追尾領域から第2の追尾領域に切り替え、当該第2の追尾領域に対応する画像データに基づくAF動作に切り替わる。第1の追尾領域から第2の追尾領域への切り替えのタイミングは、画像データ上であればフレーム間で切り替わるものとなる。AF動作では、AF高速化のために過去のAF結果を参照しているために、AF合焦迄の遅延や偽合焦が生じることがある。この結果、ユーザは、被写体に合焦していないボケ画像を撮影してしまったり、撮影タンミングを逃してしまうことがある。
【0005】
本発明の目的は、AF動作として採用される追尾領域がフレーム間で切り替わっても、AF合焦迄の遅延や偽合焦を生じることがない撮像装置、撮像方法及び撮像プログラムを提供することにある。
【課題を解決するための手段】
【0006】
本発明の主要な局面に係る撮像装置は、被写体の像を撮像して画像データを出力する撮像部と、前記撮像部から出力された前記画像データ中から前記被写体の顔部を検出する顔部検出部と、前記顔部検出部により検出された前記顔部又は前記被写体における前記顔部以外の周辺部位に基づいて前記被写体を追尾する被写体追尾部と、前記画像データにおける前記顔部検出部により検出された前記顔部に対応する領域の第1の画像データ、又は前記顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行うAF制御部とを具備し、前記AF制御部は、前記顔部検出部による前記顔部の検出が有効な場合、前記顔部に対応する領域の前記第1の画像データに基づいてAF動作を行い、前記顔部が有効に検出されなくなった場合、前記周辺部位に対応する領域の前記第2の画像データに基づいてAF動作を行う。
【0007】
本発明の主要な局面に係る撮像方法は、被写体の像を撮像部により撮像して画像データを出力し、前記撮像部から出力された前記画像データ中から顔部検出部により前記被写体の顔部を検出し、前記検出された前記顔部又は前記被写体における前記顔部以外の周辺部位に基づいて被写体追尾部により前記被写体を追尾し、前記画像データにおける前記顔部に対応する領域の第1の画像データ、又は前記顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF制御部によりAF動作を行い、前記顔部の検出が有効な場合、前記顔部に対応する領域の前記第1の画像データに基づいてAF動作を行い、前記顔部が有効に検出されなくなった場合、前記周辺部位に対応する領域の前記第2の画像データに基づいてAF動作を行う。
【0008】
本発明の主要な局面に係る撮像プログラムは、被写体の像を撮像して画像データを出力させる画像データ出力機能と、前記画像データ中から前記被写体の顔部を検出させる顔部検出機能と、前記顔部又は前記被写体における前記顔部以外の周辺部位に基づいて被写体追尾部により前記被写体を追尾させる被写体追尾機能と、前記画像データにおける前記顔部に対応する領域の第1の画像データ、又は前記顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行わせるAF制御機能とを有し、前記AF制御機能は、前記顔部の検出が有効な場合、前記顔部に対応する領域の前記第1の画像データに基づいてAF動作を行い、前記顔部が有効に検出されなくなった場合、前記周辺部位に対応する領域の前記第2の画像データに基づいてAF動作を行う。
【発明の効果】
【0009】
本発明によれば、AF動作として採用される追尾領域がフレーム間で切り替わっても、AF合焦迄の遅延や偽合焦を生じることがない撮像装置、撮像方法及び撮像プログラムを提供できる。
【図面の簡単な説明】
【0010】
【図1】本発明に係る撮像装置の第1の実施の形態を示すブロック構成図。
【図2】同装置における顔部検出回路による画像デ―タ中からの被写体の顔部の検出を説明するための図。
【図3】同装置における第1の追尾回路による輝度情報を用いて顏部の追尾の作用を説明するための図。
【図4】同装置における第1の追尾回路による色情報を用いての顏部の追尾の作用を説明するための図。
【図5】同装置における被検体に対する顔部検出位置と顔部追尾位置と周辺部追尾位置とを示す図。
【図6】同装置における顔部の正面の顔に対して設定された顔部追尾枠を示す図。
【図7】同装置における顔部の横顔に対して設定された顔部追尾枠を示す図。
【図8】同装置における第2の追尾回路により胸部を追尾するための胸部追尾枠を示す図。
【図9】同装置における撮影動作フローチャート。
【図10】同装置における追尾処理フローチャート。
【図11】同装置における図11に示すAF処理フローチャート。
【図12】同装置と対比する一般的な背景技術におけるウォブリング動作を続けて顔部の追尾から例えば胸部の追尾に切り替わり、再び顔部の追尾に戻るときのAF合焦状態の時間的変化を示す図。
【図13】同装置においてウォブリング動作を続けて顔部の追尾から例えば胸部の追尾に切り替わると共にスキャン駆動(山登りAF動作)に切り替わり、再び顔部の追尾に戻ってウォブリング動作を行うときのAF合焦状態の時間的変化を示す図。
【発明を実施するための形態】
【0011】
以下、本発明の一実施の形態について図面を参照して説明する。
図1は追尾機能を備えた撮像装置の一例としてのブロック構成図を示す。撮像装置100は、撮影光学系102と、焦点調整機構104と、絞り106と、絞り駆動機構108と、シャッタ110と、シャッタ駆動機構112と、撮像素子114と、撮像素子インターフェイス(IF)回路116と、RAM118と、表示素子120と、表示素子駆動回路122と、タッチパネル124と、タッチパネル駆動回路126と、記録メディア128と、システムコントローラ130と、操作部132と、ROM134とを有する。
【0012】
撮影光学系102は、被写体からの光束Fを、撮像素子114の受光面上に集光する。この撮影光学系102は、フォーカスレンズ等の複数のレンズを有する。焦点調整機構104は、モータ及びその駆動回路等を有し、システムコントローラ130内のコンピュータとしてのCPU1301の制御に従って撮影光学系102内のフォーカスレンズをその光軸方向(図示一点鎖線方向)に駆動する。
絞り106は、開閉自在に構成され、撮影光学系102を介して撮像素子114に入射する光束Fの量を調整する。絞り駆動機構108は、絞り106を駆動するための駆動機構を有し、システムコントローラ130内のCPU1301の制御に従って絞り106を駆動する。
【0013】
シャッタ110は、撮像素子114の受光面を遮光状態又は露光状態とすることにより撮像素子114の露光時間を調整する。シャッタ駆動機構112は、シャッタ110を駆動させるための駆動機構を有し、システムコントローラ130内のCPU1301の制御に従ってシャッタ110を駆動する。
【0014】
撮像素子114は、撮影光学系102を介して集光された例えば人物等の被写体及びその背景からの光束Fが結像される受光面を有する。この撮像素子114の受光面は、複数の画素を2次元状に配置して構成されており、この受光面の光入射側には、カラーフィルタが設けられている。このような撮像素子114は、受光面に結像された光束Fに対応した像(被写体像)を、その光量に応じた電気信号(以下、画像信号という)に変換する。ここで、撮像素子114は、CCD方式やCMOS方式等の種々の構成の撮像素子が知られている。また、カラーフィルタの色配列もベイヤ配列等の種々の配列が知られている。本実施形態は、撮像素子114の構成が特定の構成に限定されるものではなく、種々の構成の撮像素子を用いることが可能である。
【0015】
撮像素子IF回路116は、システムコントローラ130内のCPU1301の制御に従って撮像素子114を駆動する。また、撮像素子IF回路116は、システムコントローラ130内のCPU1301の制御に従って撮像素子114で得られた画像信号を読み出し、読み出した画像信号に対してCDS(相関二重サンプリング)処理やAGC(自動利得制御)処理等のアナログ処理を施す。さらに、撮像素子IF回路116は、アナログ処理した画像信号をデジタル信号(以下、画像データという)に変換する。
【0016】
RAM118は、例えばSDRAMであり、ワークエリア、評価画像エリア、参照画像エリア、追尾位置ログエリア、追尾色領域ログエリアをそれぞれ記憶エリアとして有する。
ワークエリアは、撮像素子IF回路116で得られた画像データ等を含む各データ、例えば撮像装置100の各部で発生した各データを一時記憶する。
評価画像エリアは、評価画像データを一時記憶する。この評価画像データは、追尾処理における追尾対象の被写体を含むフレームの画像データである。追尾処理においては、追尾対象を追尾するように処理が行われる。
参照画像エリアは、参照画像データを一時記憶する。この参照画像データは、追尾処理において、追尾対象の探索の対象となるフレームの画像データである。追尾処理においては、参照画像データ中で探索が行われる。
追尾位置ログエリアは、追尾位置ログを一時記憶する。この追尾位置ログは、追尾処理の結果として得られた追尾位置を記録したログである。本実施の形態では、複数の追尾処理を併用して追尾対象を追尾する。したがって、追尾位置ログには、それぞれの追尾処理によって得られた追尾位置を例えば過去10フレーム分個別に記録する。また、追尾位置ログには、後述の優先追尾位置判定処理によって採用された最終的な追尾位置も記録する。
追尾色領域ログエリアは、追尾色領域ログを一時記憶する。この追尾色領域ログは、追尾処理によって得られた追尾色領域を記録したログである。本実施の形態では、追尾色領域を例えば過去10フレーム分個別に記録する。
【0017】
表示素子120は、例えば液晶ディスプレイ(LCD)であり、ライブビュー用の画像及び記録メディア128に記録される画像等の各種画像を表示する。表示素子駆動回路122は、システムコントローラ130のCPU1301から入力された画像データに基づいて表示素子120を駆動し、この表示素子120に画像を表示する。
タッチパネル124は、表示素子120の表示画面上に一体的に形成されており、表示画面上へのユーザの指等の接触位置等を検出する。タッチパネル駆動回路126は、タッチパネル124を駆動すると共に、タッチパネル124からの接触検出信号をシステムコントローラ130のCPU1301に出力する。CPU1301は、接触検出信号から、ユーザの表示画面上への接触操作を検出し、その接触操作に応じた処理を実行する。
【0018】
記録メディア128は、例えばメモリカードであり、撮影動作によって得られた画像ファイルが記録される。この画像ファイルは、画像データに所定のヘッダを付与して構成される。ヘッダには、撮影条件を示すデータ及び追尾位置を示すデータ等が、タグデータとして記録される。
【0019】
システムコントローラ130は、撮像装置100の動作を制御するもので、CPU1301と、AF制御回路1302と、AE制御回路1303と、画像処理回路1304と、顔部検出回路1305と、第1の追尾回路1306と、第2の追尾回路1307と、輝度検出回路1308と、色情報検出回路1309と、追尾切替回路1310と、メモリ制御回路1311とを有する。
CPU1301は、焦点調整機構104と、絞り駆動機構108と、シャッタ駆動機構112と、表示素子駆動回路122と、タッチパネル駆動回路126等のシステムコントローラ130の外部の各機能ブロック、及びシステムコントローラ130内部の各回路の動作を制御する。
【0020】
AF制御回路1302は、コントラストAF処理を制御する。具体的にAF制御回路1302は、撮像素子IF回路116で得られた画像データの高周波成分を抽出し、この抽出した高周波成分を積算することにより、AF用の合焦評価値を取得する。CPU1301は、この合焦評価値に従って画像データのコントラストを評価しつつ、焦点調整機構104を制御してフォーカスレンズを合焦状態とする。このAF制御回路1302は、スキャン駆動(山登りAF動作)又はウォブリング駆動によって、撮影光学系102のフォーカスレンズを合焦位置まで駆動させる。
【0021】
スキャン駆動(山登りAF動作)は、フォーカスレンズを山登り動作させて当該フォーカスレンズ位置情報を取得するとともに、AF用の合焦評価値を受けてAF評価値カーブ、すなわちフォーカスレンズ位置とAF用合焦評価値との関係を示すカーブを取得し、このカーブにおけるAF用合焦評価値が最大となる位置に従ってフォーカスレンズをフォーカス目標位置に移動させる。
ウォブリング駆動での焦点調節は、コントラスト検出方式であって、被写体の動きに対して継続的に焦点検出を行うもので、フォーカスレンズを光軸方向に沿って微小振動(往復動)させる、すなわちフォーカスレンズの焦点調節位置を基準となる焦点調節位置に対して前後方向にずらしては戻す動作を繰り返してフォーカスレンズを合焦位置まで駆動させる。
【0022】
AE制御回路1303は、AE動作を制御する。具体的にAE制御回路1303は、撮像素子IF回路116で得られた画像データを用いて被写体輝度を算出する。CPU1301は、この被写体輝度に従って、露光時の絞り106の開口量(絞り値)、シャッタ110の開放時間(シャッタ速度値)、撮像素子感度やISO感度等を算出する。
【0023】
画像処理回路1304は、撮像素子IF回路116で得られた画像データに対する各種の画像処理を行う。この画像処理は、例えば色補正処理、ガンマ(γ)補正処理、圧縮処理等を含む。また、画像処理回路1304は、圧縮されている画像データに対する伸張処理も施す。
【0024】
顔部検出回路1305は、撮像素子IF回路116で得られた画像データ、例えば人物等の被写体が撮像された画像デ―タ中から被写体の顔部を検出する。この顔部検出回路1305は、各フレームで得られる画像データと、図2(a)に示すような各顔パーツ402、404、406との相関量を求める。顔パーツ402は、人物の鼻部周辺の陰影のパターンに対応した画像データであり、顔パーツ404は、人物の目部周辺の陰影のパターンに対応した画像データであり、顔パーツ406は、人物の口部周辺の陰影のパターンに対応した画像データである。画像データと各顏パーツ402、404、406との相関量は、図2(b)に示すような、人物の顔部を示す所定の配置となったときに最大となる。このとき、各顏パーツ402、404、406を含む領域408に人物の顏部が存在しているとする。なお、各顏パーツ402、404、406は、予め設定した検索顔の大きさに応じて大きさを変えてもよい。ここで、図2(b)では、顏領域を矩形領域としているが、円形領域としても良い。
【0025】
第1の追尾回路1306、第2の追尾回路1307、色情報検出回路13089及び輝度検出回路13098は、被写体追尾部を構成する。この被写体追尾部は、顔部検出回路1305により検出された顔部又は人物等の被写体における顔部以外の周辺部位、例えば胸部(背部を有する胴体部を含む)に基づいて被写体を追尾する。
第1の追尾回路1306は、例えば人物等の被写体が撮像された画像デ―タにおいて、顔部検出回路1305により検出された顔部に対応する第1の画像データに基づいて被写体を追尾する。この第1の追尾回路1306は、例えば人物等の被写体が撮像された画像データ中における顔部に対応する領域の輝度情報又は例えば肌色の色情報に基づいて被写体を追尾する。
【0026】
第2の追尾回路1307は、例えば人物等の被写体が撮像された画像デ―タにおいて、顔部検出回路1305により検出される顔部の位置から推定される位置の周辺部位、例えば被写体として人物であれば、人物の胸部に対応する第2の画像データに基づいて被写体を追尾する。この第2の追尾回路1307は、例えば人物等の被写体が撮像された画像データ中における胸部に対応する領域の輝度情報又は例えば肌色の色情報に基づいて被写体を追尾する。
【0027】
従って、これら第1及び第2の追尾回路1306、1307は、それぞれ輝度検出回路1308から輝度情報を取得すると共に、色情報検出回路1309から色情報を取得し、これら輝度情報と例えば肌色の色情報とに基づいて被写体を追尾する。
なお、輝度検出回路1308は、画像データ中における顔部又は胸部等の周辺部位に対応する領域の輝度情報の検出を行う。
色情報検出回路1309は、画像データ中における顔部又は胸部等の周辺部位に対応する領域の色情報、例えば肌色の色情報を検出する。
【0028】
ここで、顏部の追尾について説明する。
第1の追尾回路1306は、画像データの輝度情報を用いて顏部の追尾処理を行う。この輝度情報を用いた顏部の追尾処理は、例えば図3(a)に示す(N−1)フレームにおいて追尾対象である被写体が設定された場合、この(N−1)フレームの画像データを評価画像データとしてRAM118の評価画像エリアに記憶する。この評価画像データの追尾対象を含む所定範囲202の画像データが基準画像データに設定される。この後、追尾処理では、同図(b)に示すNフレームとなる参照画像データ中において基準画像データ202と対応する部分を探索する。
Nフレームの追尾処理を例に示すと、顏部追尾回路1307は、Nフレームの画像データを参照画像データとしてRAM118の参照画像エリアに記憶する。第1の追尾回路1306は、この参照画像データのうちの所定の探索範囲204の画像データと基準画像データ202との相関量を求めることにより、参照画像データの基準画像データ202と対応する部分を探索する。相関量は、例えば基準画像データと参照画像データとの差分絶対値和から判定する。なお、差分絶対値和は、画素毎に輝度差の絶対値を求めてそれを積算したものである。
【0029】
例えば、図3(b)に示す参照画像データの領域206の参照画像データと基準画像データ202との差分絶対値和を求めたとすると、参照画像データの領域206と基準画像データ202とは明らかに異なる画像データであり、差分絶対値和が大きくなる。これに対し、参照画像データの領域208と基準画像データ202との差分絶対値和を求めたとすると、差分絶対値和が小さくなる。このように、基準画像データ202との相関量が大きくなるに従って差分絶対値和が小さくなる。輝度情報を用いた追尾処理では、相関量が最大の、即ち差分絶対値和が最小の領域を参照画像データから探索する。図2(b)の例では、領域208が基準画像データ202と対応する部分として探索される。なお、追尾位置ログエリアには、領域208の中で最も一致度の高い位置を追尾位置として記録する。このような一致度の高い位置が複数ある場合、例えば領域208の中心に近い位置を追尾位置とする。次回の追尾処理時には、この追尾位置を追尾処理の開始位置とすることが望ましい。これにより、追尾処理にかかる時間を軽減することが可能である。
【0030】
又、第1の追尾回路1306は、画像データの肌色の色情報を用いて顔部の追尾処理を行う。肌色の色情報を用いた追尾処理は、評価画像データ内で設定された色と同色であると判定できる領域を追尾色領域として探索する。第1の追尾回路1306は、図4(a)に示すように、(N−1)フレームにおいて、被写体のある位置302が指定された場合、評価画像データ中の位置302の色情報を取得する。そして、第1の追尾回路1306は、位置302を追尾処理の開始位置として、位置302と同じ色情報を有する領域を探索する。具体的に第1の追尾回路1306は、位置302を開始位置から周辺に向かうように順次肌色の色情報を取得し、取得した色情報が位置302の色情報と同一であると判定できる場合には領域に含め、取得した色情報が位置302の色情報と同一であると判定できない場合には領域に含めない。このようにして追尾色領域を探索すると、例えば、図4(a)に示すような単色の被写体の場合、被写体に内接する矩形領域304が追尾色領域となる。また、追尾位置ログエリアに記録する追尾位置は、例えば追尾色領域304の重心位置(図4(a)の例では、位置302と同じ)とする。次回の追尾処理においては、この追尾位置を追尾処理の開始位置とする。
【0031】
Nフレームの追尾処理を例に示すと、第1の追尾回路1306は、図4(b)に示す参照画像データとして記憶したNフレームの画像データの所定の探索範囲の中で、(N−1)フレームの追尾位置302を追尾処理の開始位置とし、追尾位置302の周辺から順次、追尾色領域304の色と同色であると判定できる領域を追尾色領域として探索する。図4(b)の例では、領域306が追尾色領域となる。また、図4(b)の例では、重心位置308を追尾位置とし、この追尾位置308を、追尾位置ログエリアに記録する。また、追尾色領域ログエリアには、追尾色領域306の範囲を示す情報(例えば、四隅の位置)を記録する。
【0032】
第2の追尾回路1307は、被検体中の顔部以外の周辺部位を追尾する。この第2の追尾回路1307は、上記第1の追尾回路1306と同様に、画像データの輝度情報及び肌色の色情報を用いて周辺部位の追尾処理を行う。この第2の追尾回路1307は、顔部から予め設定された位置関係を有する例えば被検体の胴体部、具体的には胴体部に存在する胸部を顔部以外の部位として追尾する。この顔部と胸部との位置関係は、画像データ上において被検体の顔部から予め設定された距離だけ下方、すなわち人物の顔部よりも下方を首部、胸部、腹部、脚部とすると、顔部から予め設定された距離だけ下方の位置が胸部であるとの関係に設定されている。第2の追尾回路1307は、なお、周辺部位は、被検体中の顔部に限らず、例えば首部、腹部、脚部、腕部であってもよい。
【0033】
図5は被検体に対する顔部検出位置Aと顔部追尾位置Bと周辺部追尾位置Cとを示す。顔部検出位置Aは、顔部検出回路1305により検出された顔部を示し、例えば図2に示す矩形の領域408に対応する。
顔部追尾位置Bは、色情報検出回路1309により検出された顔部に対応する肌色の色情報の領域に基づいて顔部を追尾するための位置を示し、例えば図4(a)(b)に示す追尾色領域304の重心位置302又は308に対応する。この顔部追尾位置Bは、上記の通り追尾位置ログエリアに記録される。
周辺部追尾位置Cは、第2の追尾回路1307により追尾する被検体中の顔部以外の周辺部位、例えば胸部を示す。この周辺部追尾位置Cは、例えば矩形の枠により被検体中の胸部を示す。この周辺部追尾位置Cは、矩形の枠に限らず、円形の枠であってもよい。
【0034】
なお、第1の追尾回路1306は、顔部検出回路1305により検出された顔部、又は色情報検出回路1309により検出された顔部に対応する肌色の色情報の領域に基づいて顔部を追尾するとき例えば図6又は図7に示すように矩形の顔部追尾枠D1を例えばLCDである表示素子120に表示する。図6は顔部の正面の顔に対して設定された顔部追尾枠D1を示し、図7は顔部の横顔に対して設定された顔部追尾枠D1を示す。この顔部追尾枠D1は、矩形の枠に限らず、円形の枠であってもよい。なお、顔部は、正面の顔又は横顔であっても顔部として追尾される。
【0035】
又、第2の追尾回路1307は、被検体中の顔部以外の周辺部位として例えば胸部を追尾するとき例えば図8に示すように矩形の胸部追尾枠D2を例えばLCDである表示素子120に表示する。この胸部追尾枠D2は、矩形の枠に限らず、円形の枠であってもよい。
【0036】
追尾切替回路1310は、第1の追尾回路1306による顔部の追尾が出来ない場合、例えば図6又は図7に示すような顔部追尾枠D1の表示による顔部の追尾から第2の追尾回路1307による顔部以外の部位、例えば図8に示すような胸部の追尾に切り替え、同図に示すように胸部上に矩形の胸部追尾枠D2を例えばLCDである表示素子120に表示する。
この追尾切替回路1310は、顔部以外の部位、例えば胸部の位置から顔部として推定される位置で、顔部が検出される、又は顔部に対応する肌色の色情報が検出されると、図8に示すような第2の追尾回路1307による胸部の追尾(胸部追尾枠D2の表示)から図6又は図7に示すような第1の追尾回路1306による顔部の追尾(顔部追尾枠D1の表示)に戻る。
なお、顔部と胸部との位置関係は、画像データ上において被検体の顔部から予め設定された距離だけ下方、すなわち人物の顔部よりも下方を首部、胸部、腹部、脚部とすると、顔部から予め設定された距離だけ下方の位置が胸部であるとの関係に設定されているので、人物の胸部よりも予め設定された距離だけ上方に顔部が存在することを推定できる。
【0037】
追尾切替回路1310は、顔部に対応する肌色の色情報を予め記憶し、第2の追尾回路1307により胸部の追尾を行っている状態に、顔部として推定される位置における色情報が予め記憶されている色情報と一致したときに、顔部に対応する肌色の色情報が検出されたとして第1の追尾回路1306による顔部の追尾に戻る。
追尾切替回路1310は、少なくとも顔部検出回路1305により顔部が検出されず、かつ色情報検出回路1306により肌色の色情報の領域が検出されない場合、第1の追尾回路1306による顔部の追尾が出来ないと判定する。
追尾切替回路1310は、画像デ―タ中に顔部のデータが無く、画像デ―タ中の顔部のデータ量が顔部を検出することができない信頼性の低いデータ量であり、かつ肌色の色情報の領域に基づいて顔部を追尾できず当該追尾の性能が悪化すれば、第1の追尾回路1306による顔部の追尾が出来ないと判定する。
【0038】
追尾切替回路1310は、第1の追尾回路1306による顔部の追尾に切り替える旨、第2の追尾回路1307による胸部の追尾に切り替える旨などをCPU1301に通知する。このCPU1301は、顔部の追尾に切り替える旨や、胸部の追尾に切り替える旨の通知を受けると、ウォブリング動作によるAF動作から山登りAF動作に切り替える旨、山登りAF動作からウォブリング動作によるAF動作に切り替える旨の通知をAF制御部回路1302に送る。
【0039】
上記AF制御部回路1302は、例えば人物等の被写体が撮像された画像データにおける顔部検出回路1305により検出された顔部に対応する領域の第1の画像データ、及び顔部以外の周辺部位、例えば胸部に対応する領域の第2の画像データに基づいてAF動作を行う。
このAF制御部回路1302は、顔部検出回路1305による顔部の検出が有効な場合、この顔部に対応する領域の第1の画像データに基づいてAF動作を行い、顔部が有効に検出されなくなった場合、胸部等の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行う。
AF制御部回路1302は、画像データのフレーム間で、顔部検出回路1305による顔部の検出が有効でない状態から有効な状態に変わると、第1の追尾回路1306により追尾される胸部等の周辺部位に対応する領域の第2の画像データに基づくAF動作から顔部に対応する第1の画像データに基づくAF動作に変わる。
AF制御部回路1302は、画像データのフレーム間で、顔部検出回路1305による顔部の検出が有効でなくなって第1の追尾回路1306による被写体の追尾が不能になった場合、第2の追尾回路1307の追尾に用いる胸部等の周辺部位に対応する第2の画像データに基づいてAF動作を行う。
【0040】
AF制御部回路1302は、顔部検出回路1305による顔部の検出が有効な場合、顔部に対応する第1の画像データに基づいてウォブリング動作によりAF動作を行い、顔部の検出が有効でない場合、胸部等の周辺部位に対応する第2の画像データに基づいて山登りAF動作を行う。
具体的に、AF制御部回路1302は、顔部検出回路1305による顔部の検出が有効、又は第1の追尾回路1306による被検体の追尾が可能で、顔部に対応する第1の画像データに基づくウォブリング動作によりAF動作を行っている状態に、顔部検出回路1305による顔部の検出が有効でなくなりかつ第1の追尾回路1306による被検体の追尾が不能になると、第2の追尾回路1307による胸部等の周辺部位に対応する第2の画像データに基づいて山登りAF動作を行う。
AF制御部回路1302は、第2の追尾回路1307による被検体の追尾が有効で、胸部等の周辺部位に対応する第2の画像データに基づくウォブリング動作によりAF動作を行っている場合に、画像データのフレーム間で、顔部検出回路1305による顔部の検出が有効でない状態から有効に変化すると、顔部に対応する第1の画像データに基づいて山登りAF動作を行う。
【0041】
メモリ制御回路1311は、CPU1301等がRAM118、記録メディア128、ROM134に対してアクセスするための制御を行うインターフェイスである。
操作部132は、ユーザによって操作される各種の操作部材である。この操作部132は、例えば、レリーズ釦、動画釦、モードダイヤル、選択キー、電源釦等を含む。
レリーズ釦は、1stレリーズスイッチと、2ndレリーズスイッチとを有する。1stレリーズスイッチは、ユーザがレリーズ釦を半押しするとオンするスイッチである。この1stレリーズスイッチがオンすることにより、AF処理等の撮影準備動作が行われる。2ndレリーズスイッチは、ユーザがレリーズ釦を全押しするとオンするスイッチである。この2ndレリーズスイッチがオンすることにより、静止画撮影用の露光動作が行われる。
動画釦は、動画撮影の開始又は終了を指示するための操作部材である。ユーザによって動画釦が押されると動画撮影処理が開始される。また、動画撮影処理の実行中に動画釦が押されると、動画撮影処理が終了される。
モードダイヤルは、撮像装置の撮影設定を選択するための操作部材である。本実施形態では、撮像装置の撮影設定として、例えば、静止画撮影モードと動画撮影モードを選択できる。静止画撮影モードは、静止画像を撮影するための撮影設定である。また、動画撮影モードは、動画像を撮影するための撮影設定である。
選択キーは、例えばメニュー画面上での項目の選択や決定をするための操作部材である。ユーザによって選択キーが操作されるとメニュー画面上での項目の選択や決定が行われる。
電源釦は、撮像装置の電源をオン又はオフするための操作部材である。ユーザによって電源釦が操作されると、本装置100が起動して動作可能な状態となる。撮像装置が起動している間に電源釦が操作されると、本装置100が省電力待機状態となる。
【0042】
ROM134は、CPU1301が種々の処理を実行するためのプログラムコードを記憶する。プログラムコードは、被写体を撮像するための撮像プログラムを含む。この撮像プログラムは、コンピュータとしてのCPU1301に、被写体の像を撮像して画像データを出力させる画像データ出力機能と、画像データ中から被写体の顔部を検出させる顔部検出機能と、顔部又は被写体における顔部以外の周辺部位に基づいて被写体を追尾させる被写体追尾機能と、画像データにおける顔部に対応する領域の第1の画像データ、又は顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行わせるAF制御機能とを有し、AF制御機能は、顔部の検出が有効な場合、顔部に対応する領域の第1の画像データに基づいてAF動作を行い、顔部が有効に検出されなくなった場合、周辺部位に対応する領域の第2の画像データに基づいてAF動作を行うことを実現させる。
AF制御機能は、顔部の検出が有効でない状態から有効な状態に変わると、周辺部位に対応する領域の第2の画像データに基づくAF動作から顔部に対応する第1の画像データに基づくAF動作に変わることを実現させる。
【0043】
また、ROM134は、撮影光学系102、絞り106及び撮像素子114等の動作に必要な制御パラメータ、並びに画像処理回路1304での画像処理に必要な制御パラメータ等の各種の制御パラメータを記憶している。さらにROM134は、顏部検出回路1305における顏検出に用いられる顏パーツのデータや追尾枠を表示するためのデータ等も記憶している。
【0044】
次に、上記の如く構成された本装置の動作について図9に示す撮影動作フローチャートを参照して説明する。
CPU1301は、ROM134から必要なプログラムコードを読み込んで本装置100の動作を制御する。
CPU1301は、ステップS100において、現在の本装置100の撮影設定が静止画撮影モードであるか否かを判定する。この撮影設定は、モードダイヤルによって設定される。
判定の結果、撮影設定が静止画撮影モードであると、CPU1301は、ステップS102において、ライブビュー動作を開始させる。ライブビュー動作として、CPU1301は、シャッタ駆動機構112を制御してシャッタ110を開放した後、撮像素子IF回路116を制御して撮像素子114による撮像を開始させる。その後、CPU1301は、撮像素子114による撮像の結果としてRAM118のワークエリアに記憶された画像データを画像処理回路1304に入力してライブビュー表示用の画像処理を施す。続いて、CPU1301は、ライブビュー表示用の画像処理がされた画像データを表示素子駆動回路122に入力し、表示素子120に画像を表示させる。このような表示動作を繰り返し実行することにより、被写体の画像を動画表示する。この動画表示により、ユーザは、被写体を観察することが可能である。
【0045】
CPU1301は、ステップS104において、1stレリーズスイッチがオンされたか否かを判定する。この判定の結果、1stレリーズスイッチがオンされたと判定するまでCPU1301は、ライブビュー動作を継続する。
1stレリーズスイッチがオンされると、CPU1301は、ステップS106において、レリーズAF処理を行う。このレリーズAFでは、スキャン駆動(山登りAF動作)によって、フォーカスレンズを合焦位置まで駆動させる。スキャン駆動(山登りAF動作)では、CPU1301は、焦点調整機構104を制御してフォーカスレンズを所定のスキャン範囲内で一方向に駆動させつつ、AF制御回路1302で順次算出される合焦評価値を評価する。CPU1301は、合焦評価値の評価の結果、コントラストが最大となるレンズ位置において、フォーカスレンズの駆動を停止させる。このようなスキャン駆動は、AF前のフォーカスレンズの位置と合焦位置との差が大きい場合に行われる。
【0046】
CPU1301は、ステップS108において、表示素子駆動回路122を制御して、表示素子120に追尾枠を表示させる。ここで、追尾枠は、表示素子120の画面上の追尾対象の位置に表示させる。例えば、レリーズAFで合焦した被写体を追尾対象とし、その被写体に追尾枠を表示させるようしても良い。顏検出回路1307によって人物の顏部が検出された場合には、例えば図6又は図7に示すように顔部に追尾枠D1を表示させるようにしても良い。さらに、タッチパネル124により、表示素子120の画面上に表示された被写体が指定された場合には、その被写体上に追尾枠を表示させるようにしても良い。このように、本実施形態においては、CPU1301、AF制御回路1302、顏検出回路1307、タッチパネル124等が追尾対象設定部の一例として機能する。
【0047】
CPU1301は、ステップS110において、被写体を追尾する追尾処理を行う。この追尾処理は、後述する。
CPU1301は、ステップS112において、追尾位置の被写体に合焦するようにAF処理を行うと共に、追尾位置の被写体の露光が適正となるようにAE処理を行う。
追尾処理後のAF処理においては、スキャン駆動(山登りAF動作)又はウォブリング駆動によって、フォーカスレンズを合焦位置まで駆動させる。ウォブリング駆動では、CPU1301は、フォーカスレンズを駆動したときにAF制御回路1302で算出された合焦評価値が、前回のレンズ位置での合焦評価値に対して増加したかを判定する。そして、CPU1301は、合焦評価値が増加した場合には前回と同方向にフォーカスレンズを微小駆動させ、合焦評価値が減少した場合には前回と逆方向にフォーカスレンズを微小駆動させる。このような動作を高速で繰り返してフォーカスレンズを徐々に合焦位置まで駆動させる。
また、AE処理において、CPU1301は、AE制御回路1303で算出された追尾位置の被写体の輝度を予め定められた適正な量(適正露光量)とする、本露光時の絞り106の開口量(絞り値)、シャッタ110の開放時間(シャッタ速度値)を算出する。
【0048】
CPU1301は、ステップS114において、2ndレリーズスイッチがオンされたか否かを判定する。2ndレリーズスイッチがオンされていないと判定されると、CPU1301は、ステップS110の追尾処理以後の処理を実行する。このように、静止画撮影モード時には、2ndレリーズスイッチがオンされるまでは、追尾処理が継続される。
【0049】
また、2ndレリーズスイッチがオンされると、CPU1301は、ステップS116において、表示素子駆動回路122を制御して、追尾枠D1を非表示とする。
CPU1301は、ステップS118において、静止画像データを記録メディア128に記録する処理を行う。この際、CPU1301は、シャッタ駆動機構112を制御して、シャッタ110を閉じる。その後、CPU1301は、絞り駆動機構108を制御して、絞り106を先に算出した絞り値まで絞り込む。続いて、CPU1301は、シャッタ駆動機構112を制御して、シャッタ110を先に算出した開放時間だけ開放しつつ、撮像素子114による撮像(露光)を行う。その後、CPU1301は、撮像素子114を介して得られた静止画像データを画像処理回路1304において処理する。そして、CPU1301は、画像処理回路1304において処理された静止画像データにヘッダを付与して静止画像ファイルを生成し、生成した静止画像ファイルを記録メディア128に記録する。
CPU1301は、ステップS120において、上記ステップS110の追尾処理の結果として得られた追尾位置を示すデータを、先に記録メディア128に記録した静止画像ファイルに追記する。その後に、CPU1301は、図9に示す撮影動作を示すフローチャートに従った動作を終了する。
【0050】
一方、上記ステップS100において、撮影設定が動画撮影モードであると判定されると、CPU1301は、ステップS122において、ライブビュー動作を開始する。
CPU1301は、ステップS124において、動画釦がオンされたか否かを判定する。この動画釦がオンされたと判定するまでCPU1301は、ライブビュー動作を継続する。
【0051】
動画釦がオンされたと判定されると、CPU1301は、ステップS126において、表示素子駆動回路122を制御して表示素子120に例えば図6又は図7に示すように顔部に追尾枠D1を表示させる。
CPU1301は、ステップS128において、追尾処理を行う。この追尾処理は、後述する。
CPU1301は、ステップS130において、追尾位置の被写体に合焦するようにAF処理を行うと共に、追尾位置の被写体の露光が適正となるようにAE処理を行う。このときのAF処理では、ウォブリング駆動によって撮影光学系102のフォーカスレンズを合焦位置まで駆動させる。
【0052】
CPU1301は、ステップS132において、動画像データを記録メディア128に記録する処理を行う。この際、CPU1301は、絞り駆動機構108を制御し、絞り106をAE処理において算出した絞り値まで絞り込む。続いて、CPU1301は、AE処理において算出したシャッタ速度値に対応した時間だけ撮像素子114による撮像(露光)を実行させる。露光の終了後、CPU1301は、動画像ファイルを生成して記録メディア128に記録する。また、CPU1301は、撮像素子114を介して得られた動画像データを画像処理回路1304において処理し、画像処理回路1304において処理された動画像データを動画像ファイルに記録する。
【0053】
CPU1301は、ステップS134において、上記ステップS128の追尾処理の結果として得られた追尾位置を示すデータを、先に記録メディア128に記録した動画像ファイルと同時記録する。
CPU1301は、ステップS136において、動画釦がオフされたか否かを判定する。この判定の結果、動画釦がオフされていないと判定されると、CPU1301は、ステップS128の追尾処理以後の処理を実行する。このように、動画撮影モード時では、動画釦がオフされるまでは、追尾処理と動画像データの記録が継続される。
【0054】
また、動画釦がオフされたと判定されると、CPU1301は、ステップS138において、表示素子駆動回路122を制御し、追尾枠D1を非表示とする。その後、CPU1301は、図9に示す撮影動作を示すフローチャートに従った動作を終了する。
次に、本実施の形態に係る追尾処理について図10に示す追尾処理フローチャートに従って説明する。
CPU1301は、ステップS200において、撮像素子IF回路116を制御して撮像素子114による撮像を実行する。
CPU1301は、ステップS201において、撮像素子114による撮像により、撮像素子IF回路116において得られた画像データをRAM118に取り込む。CPU1301は、初回の追尾処理で得られた画像データを評価画像データとし、この画像データをRAM118の評価画像エリアに取り込む。また、CPU1301は、2回目以後の追尾処理で得られた画像データを参照画像データとし、これら2回目以後の追尾処理で得られた画像データをそれぞれRAM118の参照画像エリアに取り込む。
【0055】
CPU1301は、ステップS202において、顔部検出回路1305により、例えば人物等の被写体が撮像された画像デ―タ中から被写体の顔部を検出する。この顔部検出回路1305は、上記図2(a)(b)を参照して説明したように各フレームで得られる画像データと各顔パーツ402、404、406との相関量を求め、この相関量が人物の顔部を示す所定の配置となったときに最大となることを利用して人物の顏部が存在している領域を検出する。
【0056】
CPU1301は、ステップS203において、第2の追尾回路1307により、被検体中の顔部以外の周辺部位、例えば顔部検出回路1305により検出された顔部から予め設定された距離だけ下方の胸部を周辺部位として設定する。
CPU1301は、ステップS204において、第1の追尾回路1306により画像データの輝度情報を用いて顔部の追尾処理を行うと共に、第2の追尾回路1307により画像データの輝度情報を用いて胸部の追尾処理を行う。輝度情報を用いた追尾処理は、顔部と胸部とに対し、上記図3(a)(b)を参照して説明と同様に、(N−1)フレームにおいて追尾対象である被写体が設定された場合、この(N−1)フレームの画像データを評価画像データとしてRAM118の評価画像エリアに記憶する。この評価画像データの追尾対象を含む所定範囲202の画像データが基準画像データに設定される。この後、追尾処理では、同図(b)に示すNフレームとなる参照画像データ中において基準画像データ202と対応する部分を探索する。
【0057】
なお、初回の追尾処理においては、評価画像データのみが取得された状態であるので、ステップS204以後の処理は省略される。以後の説明においては、評価画像データと参照画像データの両方が取得されているものとして説明を続ける。
CPU1301は、ステップS205において、輝度情報を用いた顔部と胸部との各追尾処理の結果として得られた各追尾位置を、それぞれRAM118の追尾ログエリアに記憶する。
【0058】
CPU1301は、ステップS206において、第1の追尾回路1306により画像データの色情報を用いて顔部の追尾処理を行うと共に、第2の追尾回路1307により画像データの色情報を用いて胸部の追尾処理を行う。色情報を用いた追尾処理は、顔部と胸部とに対し、評価画像データ内で設定された色と同色であると判定できる領域を追尾色領域として探索する。この顏部追尾回路1307は、上記図4(a)に示すように、(N−1)フレームにおいて、被写体のある位置302が指定された場合、評価画像データ中の位置302の色情報を取得し、この位置302を追尾処理の開始位置として、位置302と同じ色情報を有する領域を探索する。
【0059】
CPU1301は、ステップS207において、色情報を用いた追尾処理の結果として得られた顔部と胸部との各追尾位置をRAM118の追尾ログエリアに記憶する。CPU1301は、色情報を用いた追尾処理の結果として得られた追尾色領域をRAM118の追尾色領域ログエリアに記憶する。
【0060】
CPU1301は、ステップS208において、追尾切替回路1310により、顔部の追尾が出来るか否かを判定する。具体的に、追尾切替回路1310は、画像デ―タ中に顔部のデータが無く、画像デ―タ中の顔部のデータ量が顔部を検出することができない信頼性の低いデータ量であり、かつ肌色の色情報の領域に基づいて顔部を追尾できず当該追尾の性能が悪化しているか否かを判定する。
なお、顔部のデータの有無は、例えばRAM118の追尾ログエリアに記憶されている輝度情報を用いた顔部と胸部との各追尾処理の結果として得られた各追尾位置の有無により判定される。又、顔部のデータの有無は、例えばRAM118の追尾色領域ログエリアに記憶されている色情報を用いた追尾処理の結果として得られた追尾色領域の有無により判定される。顔部のデータ量が信頼性の低いデータ量であることの判定は、例えば画像データにおける顔部に対応する領域に顔部に相当する輝度情報及び色情報が存在するものの顔部として判定するに至らないデータ量であることにより判定される。肌色の色情報の領域に基づいて顔部を追尾できないのは、例えば画像データにおける顔部に対応する領域に肌色の色情報のデータ量が少なかったり、顔部の形状に対応して肌色の色情報が分布していない等により判定される。
【0061】
この判定の結果、画像デ―タ中に顔部のデータが有り、画像デ―タ中の顔部のデータ量が顔部を検出することができ、かつ肌色の色情報の領域に基づいて顔部を追尾できれば、CPU1301は、ステップS209において、優先追尾位置判定処理を行う。この優先追尾位置判定処理は、顔部の追尾において、輝度情報を用いた追尾処理の結果と色情報を用いた追尾処理の結果との何れを採用するかを判定するための処理であり、ここでは、上記の通り輝度情報及び色情報を用いてそれぞれ顔部の追尾が出来るので、例えば色情報を用いた追尾処理の結果を優先する。
【0062】
CPU1301は、ステップS210において、優先追尾位置判定処理の結果として採用された追尾位置の信頼性を判断する。輝度情報を用いた追尾処理の結果が採用された場合には、例えば参照画像データのコントラストから信頼性を判断する。具体的には、参照画像データにおける追尾対象の領域の隣接画素間の差分和が所定値以上である場合には、信頼性があると判断する。また、色情報を用いた追尾処理の結果が採用された場合には、例えば参照画像データの彩度から信頼性を判断する。具体的には、参照画像データの追尾位置の彩度が所定値以上である場合には、信頼性があると判断する。これらの信頼性を判定するための閾値は適宜設定可能である。
【0063】
CPU1301は、ステップS211において、参照画像データの最終的な追尾位置を、RAM118の追尾ログエリアに記録する。次回の追尾処理においては、輝度情報を用いた追尾処理と色情報を用いた追尾処理の両方で、この最終的な追尾位置を追尾処理の開始位置とする。ただし、ステップS216の信頼性判断において、信頼性がないと判断された場合には、追尾位置を記録しないようにしても良い。
CPU1301は、ステップS212において、表示素子駆動回路122を制御し、例えば図6又は図7に示すように顔部追尾枠D1の表示位置をステップS211で記憶させた追尾位置に対応した位置に更新して追尾処理を終了する。
【0064】
一方、上記ステップS208での判定の結果、画像デ―タ中に顔部のデータが無く、画像デ―タ中の顔部のデータ量が顔部を検出することができない信頼性の低いデータ量であり、かつ肌色の色情報の領域に基づいて顔部を追尾できず当該追尾の性能が悪化していれば、CPU1301は、顔部の追尾が出来ないと判定する。
CPU1301は、ステップS213に移り、追尾切替回路1310により、顔部の追尾から第2の追尾回路1307による顔部以外の部位、例えば胸部の追尾に切り替える。この第2の追尾回路1307は、上記の通り、画像データの輝度情報及び色情報を用いて胸部の追尾処理を行う。なお、胸部は、顔部から予め設定された距離だけ下方の位置に存在することが設定されている。
【0065】
CPU1301は、ステップS214において、優先追尾位置判定処理を行う。この優先追尾位置判定処理は、胸部の追尾において、輝度情報を用いた追尾処理の結果と色情報を用いた追尾処理の結果との何れを採用するかを判定するための処理であり、ここでは、肌色の色情報の領域に基づく顔部の追尾処理ができないことから輝度情報を用いた追尾処理の結果を優先する。
【0066】
CPU1301は、ステップS215において、優先追尾位置判定処理の結果として採用された追尾位置の信頼性を判断する。輝度情報を用いた追尾処理の結果が採用された場合には、例えば参照画像データのコントラストから信頼性を判断する。具体的には、参照画像データにおける追尾対象の領域の隣接画素間の差分和が所定値以上である場合には、信頼性があると判断する。
【0067】
CPU1301は、ステップS216において、参照画像データの最終的な追尾位置を、RAM118の追尾ログエリアに記録する。次回の追尾処理においては、輝度情報を用いた追尾処理で、この最終的な追尾位置を追尾処理の開始位置とする。ただし、ステップS215の信頼性判断において、信頼性がないと判断された場合には、追尾位置を記録しないようにしても良い。
CPU1301は、ステップS217において、表示素子駆動回路122を制御し、例えば図6又は図8に示すように胸部追尾枠D2の表示位置をステップS216で記憶させた追尾位置に対応した位置に更新して追尾処理を終了する。
【0068】
また、図9に示すように、静止画撮影モード時は1stレリーズオンかつ2ndレリーズオフ中に、また動画撮影モード時は動画釦がオフされるまで、図10に示す追尾処理フローチャートに従った追尾処理が繰り返し実行されるので、前回の追尾処理で顔部の追尾ができず、周辺部位(胸部)の追尾がなされた場合には、その次の追尾処理では以下のような動作になる。
CPU1301は、上記ステップS201〜S207を実行し、ステップS208において、追尾切替回路1310により、顔部の追尾が出来るか否か、すなわち、顔部以外の部位、例えば胸部の位置から顔部として推定される位置で、顔部が検出される、又は顔部に対応する肌色の色情報が検出されるか否かを判定する。
この判定の結果、例えば胸部の位置から顔部として推定される位置で、顔部が検出されず、又は顔部に対応する肌色の色情報が検出されなければ、CPU1301は、上記ステップS213に移り、追尾切替回路1310により、胸部の追尾を継続する。第2の追尾回路1307は、上記の通り、画像データの輝度情報及び色情報を用いて胸部の追尾処理を行う。
【0069】
一方、上記判定の結果、胸部の位置から顔部として推定される位置で、顔部が検出され、又は顔部に対応する肌色の色情報が検出されると、CPU1301は、第2の追尾回路1307による胸部の追尾から第1の追尾回路1306による顔部の追尾に戻る。なお、追尾切替回路1310は、顔部に対応する肌色の色情報を予め記憶し、顔部として推定される位置における色情報が予め記憶されている色情報と一致したときに、顔部に対応する肌色の色情報が検出されたとする。
CPU1301は、上記ステップS209〜S211を実行し、ステップS212において、図8に示すような第2の追尾回路1307による図8に示すような胸部の追尾(胸部追尾枠D2の表示)から図6又は図7に示すような第1の追尾回路1306による顔部の追尾(顔部追尾枠D1の表示)に戻る。
その後、CPU1301は、上記図10に示す追尾処理フローチャートに従った追尾処理を終了する。
【0070】
以上の追尾処理において、CPU1301は、顔部の追尾が出来ないと判定すると、上記ステップS213において、追尾切替回路1310により、顔部の追尾から第2の追尾回路1307による顔部以外の部位、例えば胸部の追尾に切り替えている。この追尾の対象の切替に応じてAF制御部回路1302は、以下のAF制御を行う。
例えば、AF制御部回路1302は、上記ステップS112又は上記ステップS130において、顔部検出回路1305による顔部の検出が有効な場合、顔部に対応する第1の画像データに基づいてウォブリング動作によりAF動作を行っているが、顔部の検出が有効から無効に変化した場合、胸部等の周辺部位に対応する第2の画像データに基づいて山登りAF動作を行う。
具体的に、AF制御部回路1302は、顔部検出回路1305による顔部の検出が有効、又は第1の追尾回路1306による被検体の追尾が可能で、顔部に対応する第1の画像データに基づくウォブリング動作によりAF動作を行っている状態に、画像データのフレーム間で、顔部検出回路1305による顔部の検出が有効でなくなりかつ第1の追尾回路1306による被検体の追尾が不能になると、第2の追尾回路1307による胸部等の周辺部位に対応する第2の画像データに基づいて山登りAF動作を行う。
【0071】
又、AF制御部回路1302は、第2の追尾回路1307による被検体の胸部の追尾が有効で、胸部等の周辺部位に対応する第2の画像データに基づくウォブリング動作によりAF動作を行っている場合に、画像データのフレーム間で、顔部検出回路1305による顔部の検出が有効でない状態から有効に変化すると、顔部に対応する第1の画像データに基づいて山登りAF動作を行う。
【0072】
ここで、図11に示すAF処理フローチャートに従ってCPU1301のAF制御部回路1302によるウォブリング動作又は山登りAF動作によるAF制御の一例を説明する。
AF制御部回路1302は、ステップS300において、例えば被写体として人物の顔部に対応する第1の画像データに基づいてウォブリング動作によりAF動作を行っている。
AF制御部回路1302は、ステップS301において、スキャン駆動(山登りAF動作)が必要であるか否かを判定する。
これは、例えば撮影者が撮像装置のパン動作やチルト動作を行って被写体が大きく変化した時に、AF動作をやり直すためにスキャン動作(山登りAF)を実行するものである。上記判定によりスキャン動作(山登りAF)が必要な場合はステップS303に移行し、必要ない場合はステップS302に移行する。
追尾切替回路1310により画像データのあるフレーム間で、顔部の追尾から当該顔部以外の周辺部位、例えば胸部の追尾に切り替わると、AF制御部回路1302は、ステップS302において、スキャン駆動(山登りAF動作)が必要であると判定し、ステップS303に移行する。
【0073】
AF制御部回路1302は、第2の追尾回路1307による顔部以外の周辺部位、例えば胸部の追尾に切り替わると、ステップS303において、例えば被写体として人物の胸部に対応する第2の画像データに基づくスキャン駆動(山登りAF動作)によりAF動作を行う。
AF制御部回路1302は、ステップS304において、胸部に対応する第2の画像データから合焦評価値を求め、この合焦評価値から合焦方向を判断し、ステップS304において、合焦になったか否かを判定する。AF制御部回路1302は、胸部に対して合焦するまで、画像データからAF用の合焦評価値を取得し、この合焦評価値に従って画像データのコントラストを評価しつつ、焦点調整機構104を制御し、スキャン駆動(山登りAF動作)を行ってフォーカスレンズを合焦状態とする。
【0074】
一方、スキャン駆動(山登りAF動作)が必要でなく、顔部以外の周辺部位、例えば胸部の追尾に切り替わることがなければ、AF制御部回路1302は、ステップS306において、顔部に対して合焦するまで、画像データからAF用の合焦評価値を取得し、この合焦評価値に従って画像データのコントラストを評価しつつ、焦点調整機構104を制御し、ウォブリング動作を行ってフォーカスレンズを合焦状態になる位置に移動させる。
【0075】
AF制御部回路1302は、ステップS307において、待機し、次のステップS308において、画像データから取得されるAF用の合焦評価値が変化したか否かを判断する。AF用の合焦評価値に変化がなければ、AF制御部回路1302は、待機し続ける。AF用の合焦評価値に変化があると、AF制御部回路1302は、ステップS300に戻る。
なお、上記ステップS302においては、追尾切替回路1310により画像データのあるフレーム間で、顔部以外の周辺部位、例えば胸部の追尾から顔部の追尾に切り替わった場合も、AF制御部回路1302は、スキャン駆動(山登りAF動作)が必要であると判定し、ステップS303に移行する。
AF制御部回路1302は、ステップS303において、例えば被写体として顔部に対応する第1の画像データに基づくスキャン駆動(山登りAF動作)によりAF動作を行う。
【0076】
ここで、本装置と一般的な背景技術とを対比すると、図12は一般的な背景技術におけるウォブリング動作を続けて顔部の追尾から例えば胸部の追尾に切り替わり、再び顔部の追尾に戻るときのAF合焦状態の時間的変化を示す。このウォブリング動作でのAF制御では、フォーカスレンズの焦点調節位置を基準となる焦点調節位置に対して前後方向にずらしては戻す動作を繰り返してフォーカスレンズを合焦位置まで駆動させるために、顔部の追尾から胸部の追尾に切り替わってから胸部に合焦するまでに時間を要している。
これに対して図13は本装置のようにウォブリング動作を続けて顔部の追尾から例えば胸部の追尾に切り替わると共にスキャン駆動(山登りAF動作)に切り替わり、再び顔部の追尾に戻ってウォブリング動作を行うときのAF合焦状態の時間的変化を示す。スキャン駆動(山登りAF動作)は、ウォブリング動作によるAF制御と比べて合焦に要する時間が短い。これにより、顔部の追尾から胸部の追尾に切り替わってから直ぐに胸部に合焦することができる。胸部の追尾に切り替わった後は、ウォブリング動作により胸部に合焦する。
【0077】
このように上記一実施の形態によれば、顔部の検出が有効な場合、顔部に対応する領域の第1の画像データに基づいてAF動作、例えばウォブリング動作によりAF動作を行い、顔部が有効に検出されなくなった場合、例えば胸部等の周辺部位に対応する領域の第2の画像データに基づいてAF動作、例えば山登りAF動作を行うので、顔部の追尾から胸部の追尾に切り替わったとき、画像データ上であれば、フレーム間で顔部の追尾から胸部の追尾に切り替わったときに、顔部に対するAFから胸部に対するAFに直ぐに切り替えることができる。
【0078】
例えば、ポートレート撮影により顔部と胸部とを追尾している場合、これら顔部と胸部とでは本装置からの各距離(奥行方向の各距離)に差が生じるために、顔部の追尾から胸部の追尾に切り替わったときにウォブリング動作によるAF動作を続けていると、AF合焦までに時間を要してAF合焦に遅れを生じたり、又は偽合焦を生じるおそれがある。
これに対して本装置では、ポートレート撮影により顔部と胸部とを追尾している場合、顔部の追尾から胸部の追尾に切り替わったときにウォブリング動作からスキャン駆動(山登りAF動作)に切り替わるので、AF合焦までに時間が掛からず、偽合焦を生じるおそれも低減できる。
【0079】
なお、上記一実施の形態では、顔部の追尾と胸部の追尾とを切り替えているが、これに限らず、顔部の追尾を主の追尾とし、周辺部位の追尾として例えば首部の追尾、腹部の追尾、脚部の追尾、腕部の追尾のいずれかを追加してもよい。
さらに、上記した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適当な組合せにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、上述したような課題を解決でき、上述したような効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。
【符号の説明】
【0080】
100:撮像装置、102:撮影光学系、104:焦点調整機構、106:絞り、108:絞り駆動機構、110:シャッタ、112:シャッタ駆動機構、114:撮像素子、116:撮像素子インターフェイス(IF)回路、118:RAM、120:表示素子、122:表示素子駆動回路、124:タッチパネル、126:タッチパネル駆動回路、128:記録メディア、130:システムコントローラ、132:操作部、134:ROM、1301:CPU、1302:AF制御回路、1303:AE制御回路、1304:画像処理回路、1305:顔部検出回路、1306:第1の追尾回路、1307:第2の追尾回路、1308:輝度検出回路、1309:色情報検出回路、1310:追尾切替回路、1311:メモリ制御回路、402,404,406:顔パーツ、308:重心位置、A:顔部検出位置、B:顔部追尾位置、C:周辺部追尾位置、D1:矩形の追尾枠。
【特許請求の範囲】
【請求項1】
被写体の像を撮像して画像データを出力する撮像部と、
前記撮像部から出力された前記画像データ中から前記被写体の顔部を検出する顔部検出部と、
前記顔部検出部により検出された前記顔部と前記被写体における前記顔部以外の周辺部位とに基づいて前記被写体を追尾する被写体追尾部と、
前記画像データにおける前記顔部検出部により検出された前記顔部に対応する領域の第1の画像データ、又は前記顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行うAF制御部と、
を具備し、
前記AF制御部は、前記顔部検出部による前記顔部の検出が有効な場合、前記顔部に対応する領域の前記第1の画像データに基づいてAF動作を行い、前記顔部が有効に検出されなくなった場合、前記周辺部位に対応する領域の前記第2の画像データに基づいてAF動作を行う、
ことを特徴とする撮像装置。
【請求項2】
前記AF制御部は、前記顔部検出部による前記顔部の検出が有効でない状態から有効な状態に変わると、前記周辺部位に対応する領域の前記第2の画像データに基づくAF動作から前記顔部に対応する前記第1の画像データに基づくAF動作に変わることを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記被写体追尾部は、前記顔部検出部により検出された前記顔部に対応する前記第1の画像データに基づいて前記被写体を追尾する第1の追尾部と、
前記顔部検出部により検出される前記顔部の位置から推定される位置の前記周辺部位に対応する前記第2の画像データに基づいて前記被写体を追尾する第2の追尾部と、
を有し、
前記AF制御部は、前記顔部検出部による前記顔部の検出が有効でなく、前記第1の追尾部による前記被写体の追尾が不能になった場合、前記第2の追尾部の追尾に用いる前記周辺部位に対応する前記第2の画像データに基づいてAF動作を行う、
ことを特徴とする請求項1に記載の撮像装置。
【請求項4】
前記AF制御部は、前記顔部検出部による前記顔部の検出が有効な場合、前記顔部に対応する前記第1の画像データに基づいてウォブリング動作によりAF動作を行い、前記顔部の検出が有効でなくなった場合、前記周辺部位に対応する前記第2の画像データに基づいて山登りAF動作を行うことを特徴とする請求項1に記載の撮像装置。
【請求項5】
前記AF制御部は、前記顔部検出部による前記顔部の検出が有効、又は前記第1の追尾部による前記被検体の追尾が可能で、前記顔部に対応する前記第1の画像データに基づくウォブリング動作によりAF動作を行っている状態に、前記顔部検出部による前記顔部の検出が有効でなくなりかつ前記第1の追尾部による前記被検体の追尾が不能になると、前記第2の追尾部による前記周辺部位に対応する前記第2の画像データに基づいて山登りAF動作を行うことを特徴とする請求項3に記載の撮像装置。
【請求項6】
前記AF制御部は、前記第2の追尾部による前記被検体の追尾が有効で、前記周辺部位に対応する前記第2の画像データに基づくウォブリング動作によりAF動作を行っている場合に、前記顔部検出部による前記顔部の検出が有効でない状態から有効に変化すると、前記顔部に対応する前記第1の画像データに基づいて山登りAF動作を行うことを特徴とする請求項3に記載の撮像装置。
【請求項7】
前記被写体追尾部は、前記画像データ中における前記顔部又は前記周辺部位に対応する色情報を検出する色情報検出部と、
前記画像データ中における前記顔部又は前記周辺部位に対応する輝度情報の検出を行う輝度検出部と、
を有し、
前記色情報検出部により検出された前記色情報と前記輝度検出部により検出さたれた前記輝度情報とに基づいて前記被写体を追尾する、
ことを特徴とする請求項1乃至6のうちいずれか1項に記載の撮像装置。
【請求項8】
被写体の像を撮像部により撮像して画像データを出力し、
前記撮像部から出力された前記画像データ中から顔部検出部により前記被写体の顔部を検出し、
前記検出された前記顔部と前記被写体における前記顔部以外の周辺部位とに基づいて被写体追尾部により前記被写体を追尾し、
前記画像データにおける前記顔部に対応する領域の第1の画像データ、又は前記顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF制御部によりAF動作を行い、
前記顔部の検出が有効な場合、前記顔部に対応する領域の前記第1の画像データに基づいてAF動作を行い、前記顔部が有効に検出されなくなった場合、前記周辺部位に対応する領域の前記第2の画像データに基づいてAF動作を行う、
ことを特徴とする撮像方法。
【請求項9】
前記AF制御は、前記顔部の検出が有効でない状態から有効な状態に変わると、前記周辺部位に対応する領域の前記第2の画像データに基づくAF動作から前記顔部に対応する前記第1の画像データに基づくAF動作に変わることを特徴とする請求項8に記載の撮像方法。
【請求項10】
コンピュータに、
被写体の像を撮像して画像データを出力させる画像データ出力機能と、
前記画像データ中から前記被写体の顔部を検出させる顔部検出機能と、
前記顔部と前記被写体における前記顔部以外の周辺部位とに基づいて被写体追尾部により前記被写体を追尾させる被写体追尾機能と、
前記画像データにおける前記顔部に対応する領域の第1の画像データ、又は前記顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行わせるAF制御機能と、
を有し、
前記AF制御機能は、前記顔部の検出が有効な場合、前記顔部に対応する領域の前記第1の画像データに基づいてAF動作を行い、前記顔部が有効に検出されなくなった場合、前記周辺部位に対応する領域の前記第2の画像データに基づいてAF動作を行う、
ことを実現させる撮像プログラム。
【請求項11】
前記AF制御機能は、前記顔部の検出が有効でない状態から有効な状態に変わると、前記周辺部位に対応する領域の前記第2の画像データに基づくAF動作から前記顔部に対応する前記第1の画像データに基づくAF動作に変わることを実現させる請求項10に記載の撮像プログラム。
【請求項1】
被写体の像を撮像して画像データを出力する撮像部と、
前記撮像部から出力された前記画像データ中から前記被写体の顔部を検出する顔部検出部と、
前記顔部検出部により検出された前記顔部と前記被写体における前記顔部以外の周辺部位とに基づいて前記被写体を追尾する被写体追尾部と、
前記画像データにおける前記顔部検出部により検出された前記顔部に対応する領域の第1の画像データ、又は前記顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行うAF制御部と、
を具備し、
前記AF制御部は、前記顔部検出部による前記顔部の検出が有効な場合、前記顔部に対応する領域の前記第1の画像データに基づいてAF動作を行い、前記顔部が有効に検出されなくなった場合、前記周辺部位に対応する領域の前記第2の画像データに基づいてAF動作を行う、
ことを特徴とする撮像装置。
【請求項2】
前記AF制御部は、前記顔部検出部による前記顔部の検出が有効でない状態から有効な状態に変わると、前記周辺部位に対応する領域の前記第2の画像データに基づくAF動作から前記顔部に対応する前記第1の画像データに基づくAF動作に変わることを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記被写体追尾部は、前記顔部検出部により検出された前記顔部に対応する前記第1の画像データに基づいて前記被写体を追尾する第1の追尾部と、
前記顔部検出部により検出される前記顔部の位置から推定される位置の前記周辺部位に対応する前記第2の画像データに基づいて前記被写体を追尾する第2の追尾部と、
を有し、
前記AF制御部は、前記顔部検出部による前記顔部の検出が有効でなく、前記第1の追尾部による前記被写体の追尾が不能になった場合、前記第2の追尾部の追尾に用いる前記周辺部位に対応する前記第2の画像データに基づいてAF動作を行う、
ことを特徴とする請求項1に記載の撮像装置。
【請求項4】
前記AF制御部は、前記顔部検出部による前記顔部の検出が有効な場合、前記顔部に対応する前記第1の画像データに基づいてウォブリング動作によりAF動作を行い、前記顔部の検出が有効でなくなった場合、前記周辺部位に対応する前記第2の画像データに基づいて山登りAF動作を行うことを特徴とする請求項1に記載の撮像装置。
【請求項5】
前記AF制御部は、前記顔部検出部による前記顔部の検出が有効、又は前記第1の追尾部による前記被検体の追尾が可能で、前記顔部に対応する前記第1の画像データに基づくウォブリング動作によりAF動作を行っている状態に、前記顔部検出部による前記顔部の検出が有効でなくなりかつ前記第1の追尾部による前記被検体の追尾が不能になると、前記第2の追尾部による前記周辺部位に対応する前記第2の画像データに基づいて山登りAF動作を行うことを特徴とする請求項3に記載の撮像装置。
【請求項6】
前記AF制御部は、前記第2の追尾部による前記被検体の追尾が有効で、前記周辺部位に対応する前記第2の画像データに基づくウォブリング動作によりAF動作を行っている場合に、前記顔部検出部による前記顔部の検出が有効でない状態から有効に変化すると、前記顔部に対応する前記第1の画像データに基づいて山登りAF動作を行うことを特徴とする請求項3に記載の撮像装置。
【請求項7】
前記被写体追尾部は、前記画像データ中における前記顔部又は前記周辺部位に対応する色情報を検出する色情報検出部と、
前記画像データ中における前記顔部又は前記周辺部位に対応する輝度情報の検出を行う輝度検出部と、
を有し、
前記色情報検出部により検出された前記色情報と前記輝度検出部により検出さたれた前記輝度情報とに基づいて前記被写体を追尾する、
ことを特徴とする請求項1乃至6のうちいずれか1項に記載の撮像装置。
【請求項8】
被写体の像を撮像部により撮像して画像データを出力し、
前記撮像部から出力された前記画像データ中から顔部検出部により前記被写体の顔部を検出し、
前記検出された前記顔部と前記被写体における前記顔部以外の周辺部位とに基づいて被写体追尾部により前記被写体を追尾し、
前記画像データにおける前記顔部に対応する領域の第1の画像データ、又は前記顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF制御部によりAF動作を行い、
前記顔部の検出が有効な場合、前記顔部に対応する領域の前記第1の画像データに基づいてAF動作を行い、前記顔部が有効に検出されなくなった場合、前記周辺部位に対応する領域の前記第2の画像データに基づいてAF動作を行う、
ことを特徴とする撮像方法。
【請求項9】
前記AF制御は、前記顔部の検出が有効でない状態から有効な状態に変わると、前記周辺部位に対応する領域の前記第2の画像データに基づくAF動作から前記顔部に対応する前記第1の画像データに基づくAF動作に変わることを特徴とする請求項8に記載の撮像方法。
【請求項10】
コンピュータに、
被写体の像を撮像して画像データを出力させる画像データ出力機能と、
前記画像データ中から前記被写体の顔部を検出させる顔部検出機能と、
前記顔部と前記被写体における前記顔部以外の周辺部位とに基づいて被写体追尾部により前記被写体を追尾させる被写体追尾機能と、
前記画像データにおける前記顔部に対応する領域の第1の画像データ、又は前記顔部以外の周辺部位に対応する領域の第2の画像データに基づいてAF動作を行わせるAF制御機能と、
を有し、
前記AF制御機能は、前記顔部の検出が有効な場合、前記顔部に対応する領域の前記第1の画像データに基づいてAF動作を行い、前記顔部が有効に検出されなくなった場合、前記周辺部位に対応する領域の前記第2の画像データに基づいてAF動作を行う、
ことを実現させる撮像プログラム。
【請求項11】
前記AF制御機能は、前記顔部の検出が有効でない状態から有効な状態に変わると、前記周辺部位に対応する領域の前記第2の画像データに基づくAF動作から前記顔部に対応する前記第1の画像データに基づくAF動作に変わることを実現させる請求項10に記載の撮像プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2013−11766(P2013−11766A)
【公開日】平成25年1月17日(2013.1.17)
【国際特許分類】
【出願番号】特願2011−144773(P2011−144773)
【出願日】平成23年6月29日(2011.6.29)
【出願人】(504371974)オリンパスイメージング株式会社 (2,647)
【Fターム(参考)】
【公開日】平成25年1月17日(2013.1.17)
【国際特許分類】
【出願日】平成23年6月29日(2011.6.29)
【出願人】(504371974)オリンパスイメージング株式会社 (2,647)
【Fターム(参考)】
[ Back to top ]