追尾装置及び追尾方法
【課題】例えば特殊な画像処理を行う場合等の、追尾性能の劣化が生じ得る場合であっても、適切な追尾処理を行うことができる追尾装置及び追尾方法を提供すること。
【解決手段】撮影して得た画像データである第１の画像データを生成する第１の画像生成モードと、前記第１の画像データを生成すると共に前記第１の画像データに所定の処理を施した第２の画像データを生成する第２の画像生成モードと、のうち何れかの画像生成モードに設定し、画像データについて特徴情報を検出し且つ被写体の顔部位を検出するシステムコントローラ130を追尾装置に具備させる。前記システムコントローラ130は、画像データから検出した特徴情報または顔部位に基づいて、追尾対象の移動位置を演算する。前記システムコントローラ130は、第２の画像生成モードを設定した場合には、第１の画像生成モードを設定した場合に実行する演算とは異なる演算に切り換える。
【解決手段】撮影して得た画像データである第１の画像データを生成する第１の画像生成モードと、前記第１の画像データを生成すると共に前記第１の画像データに所定の処理を施した第２の画像データを生成する第２の画像生成モードと、のうち何れかの画像生成モードに設定し、画像データについて特徴情報を検出し且つ被写体の顔部位を検出するシステムコントローラ130を追尾装置に具備させる。前記システムコントローラ130は、画像データから検出した特徴情報または顔部位に基づいて、追尾対象の移動位置を演算する。前記システムコントローラ130は、第２の画像生成モードを設定した場合には、第１の画像生成モードを設定した場合に実行する演算とは異なる演算に切り換える。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、被写体を追尾する追尾装置及び追尾方法に関する。
【背景技術】
【０００２】
従来、動体を撮影する際や動画像を撮影する際に、特定の被写体に追従するように自動合焦制御（ＡＦ）や自動露光制御（ＡＥ）を行う技術が知られている。このような特定の被写体を追従するために追尾処理が用いられている。追尾処理には、輝度情報を利用するものや、色情報を利用するもの、顏検出を利用するもの等、種々のものがある。特許文献１には、撮像手段より出力された撮像信号に基づいて、被写体像に対する追尾動作を行う自動追尾装置が開示されている。
【０００３】
特許文献１に開示されている自動追尾装置では、被写体の特徴を表わすパラメータ（例えば被写体及び背景の色等）を、予め設定された追尾視野について抽出し、この抽出した特徴と、新たに抽出した被写体の特徴とに基づいて、被写体の移動の有無、及び被写体が移動した場合にはその移動方向又は移動位置を検出する。そして、追尾視野を、被写体の移動に追尾して移動させる。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特許第２６０５００４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、１種類のみの追尾処理を用いた場合、追尾処理に失敗してしまうと、それ以降は正しい追尾処理が不能となる可能性がある。このような事情を鑑みて、複数種類の追尾処理を行う技術が提案されているが、これには下記のような課題が存在する。
例えば、特殊な画像処理（例えば、複数枚の画像を合成して１枚の画像を生成する処理）を行う場合には、画像処理の負荷が増大する。このとき、当該画像処理を一部に含む追尾処理にも当然に影響が生じ、通常の追尾処理では生じなかった追尾性能の劣化をきたすことがある。
【０００６】
さらには、例えば複数の特徴を組み合わせて追尾処理をする際には、追尾処理に用いる入力画像データが特徴毎に異なり(例えばＲＡＷデータとＹＣデータ等)、それぞれの入力画像データの生成フレームレートに差がある場合には、例えば“第１の特徴”についてはn-1フレーム目の追尾処理が完了しているときに“第２の特徴”についてはn-4フレーム目までしか追尾処理が完了していないという現象が起きうる。
【０００７】
このとき、第１の特徴と第２の特徴とで同期をとろうとしても、n-4フレーム同士では現在の被写体からのずれが生じており、またn-1フレームとn-4フレームとではそもそもフレームが異なるため同期しても正しい追尾結果は得られない。つまり、何れにしても追尾性能の劣化が生じてしまう。
【０００８】
本発明は、上述の事情に鑑みてなされたもので、例えば特殊な画像処理を行う場合等の、追尾性能の劣化が生じ得る場合であっても、適切な追尾処理を行うことができる追尾装置及び追尾方法を提供することを目的とする。
【課題を解決するための手段】
【０００９】
前記の目的を達成するために、本発明の第１の態様の追尾装置は、
撮影して得た画像データである第１の画像データを生成する第１の画像生成モードと、前記第１の画像データを生成すると共に前記第１の画像データに所定の処理を施した第２の画像データを生成する第２の画像生成モードと、のうち何れかの画像生成モードを設定する作画モード設定部と、
当該追尾装置に入力された画像データを、前記作画モード設定部の設定に応じて処理する画像処理部と、
前記画像処理部により処理された画像データについて特徴情報を検出し、且つ、被写体の顔部位を検出する追尾検出部と、
前記特徴情報または前記顔部位に基づいて、追尾対象の移動位置を演算する追尾演算部と、
前記第２の画像生成モードが設定された場合には、前記追尾演算部による演算を、前記第１の画像生成モードが設定された場合に実行する演算とは異なる演算に切り換える演算切換部と、
を具備することを特徴とする。
【００１０】
前記の目的を達成するために、本発明の第２の態様の追尾方法は、
撮影して得た画像データである第１の画像データを生成する第１の画像生成モードと、前記第１の画像データを生成すると共に前記第１の画像データに所定の処理を施した第２の画像データを生成する第２の画像生成モードと、のうち何れかの画像生成モードを設定し、
入力された画像データを、前記作画モード設定部の設定に応じて処理し、
前記処理された画像データについて特徴情報を検出し、且つ、被写体の顔部位を検出し、
前記特徴情報または前記顔部位に基づいて、追尾対象の移動位置を演算し、
前記第２の画像生成モードが設定された場合には、前記追尾演算部による演算を、前記第１の画像生成モードが設定された場合に実行する演算とは異なる演算に切り換える、
ことを特徴とする。
【発明の効果】
【００１１】
本発明によれば、例えば特殊な画像処理を行う場合等の、追尾性能の劣化が生じ得る場合であっても、適切な追尾処理を行うことができる追尾装置及び追尾方法を提供することができる。
【図面の簡単な説明】
【００１２】
【図１】図１は、本発明の一実施形態に係る追尾装置を備えた撮像装置の一例としての構成を示す図である。
【図２】図２は、輝度情報を用いた追尾処理について説明するための図である。
【図３】図３は、色情報を用いた追尾処理について説明するための図である。
【図４】図４は、顏検出処理について説明するための図である。
【図５】図５は、撮像装置の撮影動作を示すフローチャートである。
【図６】図６は、本発明の一実施形態に係る追尾方法としての追尾処理について示すフローチャートである。
【図７】図７は、本発明の一実施形態に係る追尾方法としての追尾処理について示すタイミングチャートである。
【図８】図８は、本発明の一実施形態に係る追尾方法としての追尾処理について示すタイミングチャートである。
【発明を実施するための形態】
【００１３】
以下、図面を参照して本発明の実施形態を説明する。
図１は、本発明の一実施形態に係る追尾装置を備えた撮像装置の一例としての構成を示す図である。図１に示す撮像装置１００は、撮影光学系１０２と、焦点調整機構１０４と、絞り１０６と、絞り駆動機構１０８と、シャッタ１１０と、シャッタ駆動機構１１２と、撮像素子１１４と、撮像素子インターフェイス（ＩＦ）回路１１６と、ＲＡＭ１１８と、表示素子１２０と、表示素子駆動回路１２２と、タッチパネル１２４と、タッチパネル駆動回路１２６と、記録メディア１２８と、システムコントローラ１３０と、操作部１３２と、ＲＯＭ１３４と、を有している。
【００１４】
撮影光学系１０２は、図示しない被写体からの光束Ｆを、撮像素子１１４の受光面上に集光するための光学系である。この撮影光学系１０２は、フォーカスレンズ等の複数のレンズを有している。焦点調整機構１０４は、モータ及びその駆動回路等を有している。この焦点調整機構１０４は、システムコントローラ１３０内のＣＰＵ１３０１の制御に従って、撮影光学系１０２内のフォーカスレンズをその光軸方向（図示一点鎖線方向）に駆動させる。
【００１５】
絞り１０６は、開閉自在に構成され、撮影光学系１０２を介して撮像素子１１４に入射する光束Ｆの量を調整する。絞り駆動機構１０８は、絞り１０６を駆動するための駆動機構を有している。この絞り駆動機構１０８は、システムコントローラ１３０内のＣＰＵ１３０１の制御に従って、絞り１０６を駆動させる。
【００１６】
シャッタ１１０は、撮像素子１１４の受光面を遮光状態又は露光状態とするように構成されている。このシャッタ１１０により、撮像素子１１４の露光時間が調整される。シャッタ駆動機構１１２は、シャッタ１１０を駆動させるための駆動機構を有し、システムコントローラ１３０内のＣＰＵ１３０１の制御に従って、シャッタ１１０を駆動させる。
【００１７】
撮像素子１１４は、撮影光学系１０２を介して集光された被写体からの光束Ｆが結像される受光面を有している。撮像素子１１４の受光面は、複数の画素が２次元状に配置されて構成されており、また、受光面の光入射側には、カラーフィルタが設けられている。このような撮像素子１１４は、受光面に結像された光束Ｆに対応した像（被写体像）を、その光量に応じた電気信号（以下、画像信号という）に変換する。ここで、撮像素子１１４は、ＣＣＤ方式やＣＭＯＳ方式等の種々の構成の撮像素子が知られている。また、カラーフィルタの色配列もベイヤ配列等の種々の配列が知られている。本実施形態は、撮像素子１１４の構成が特定の構成に限定されるものではなく、種々の構成の撮像素子を用いることが可能である。この撮像素子１１４は、ＣＰＵ１３０１によって生成された垂直同期信号ＶＤのパルスの立ち上がりタイミング（立ち下がりタイミングでもよい）で、１フレームを撮像する露光動作を開始する。
【００１８】
撮像素子ＩＦ回路１１６は、システムコントローラ１３０内のＣＰＵ１３０１の制御に従って、撮像素子１１４を駆動させる。また、撮像素子ＩＦ回路１１６は、システムコントローラ１３０内のＣＰＵ１３０１の制御に従って、撮像素子１１４で得られた画像信号を読み出し、読み出した画像信号に対してＣＤＳ（相関二重サンプリング）処理やＡＧＣ（自動利得制御）処理等のアナログ処理を施す。さらに、撮像素子ＩＦ回路１１６は、アナログ処理した画像信号をデジタル信号に変換し、画像データ（ＲＡＷデータ）を生成する。
【００１９】
ＲＡＭ１１８は、例えばＳＤＲＡＭであり、ワークエリア、評価画像エリア、参照画像エリア、追尾位置ログエリア、追尾色領域ログエリア、を記憶エリアとして有している。
ワークエリアは、撮像素子ＩＦ回路１１６で得られた画像データ（ＲＡＷデータ）等の、撮像装置１００の各部で発生したデータを一時記憶しておくためにＲＡＭ１１８に設けられた記憶エリアである。
【００２０】
評価画像エリアは、評価画像データを一時記憶しておくためにＲＡＭ１１８に設けられた記憶エリアである。評価画像データは、後述する追尾処理における追尾対象の被写体を含むフレームの画像データである。追尾処理においては、この追尾対象を追尾するように処理が行われる。
【００２１】
参照画像エリアは、参照画像データを一時記憶しておくためにＲＡＭ１１８に設けられた記憶エリアである。参照画像データは、後述する追尾処理において、追尾対象の探索の対象となるフレームの画像データである。追尾処理においては、参照画像データ中で探索が行われる。
【００２２】
追尾位置ログエリアは、追尾位置ログを一時記憶しておくためにＲＡＭ１１８に設けられた記憶エリアである。追尾位置ログは、追尾処理の結果として得られた追尾位置を記録したログである。本実施形態では、複数の追尾処理を併用して追尾対象を追尾する。したがって、追尾位置ログには、それぞれの追尾処理によって得られた追尾位置（候補追尾位置）を過去１０フレーム分個別に記録する。また、追尾位置ログには、後述の優先追尾位置判定処理によって採用された最終的な追尾位置も記録する。
【００２３】
追尾色領域ログエリアは、追尾色領域ログを一時記憶しておくためにＲＡＭ１１８に設けられた記憶エリアである。追尾色領域ログは、追尾処理によって得られた追尾色領域を記録したログである。本実施形態では、追尾色領域を過去１０フレーム分記録する。追尾色領域の詳細については後述する。
【００２４】
表示素子１２０は、例えば液晶ディスプレイ（ＬＣＤ）であり、ライブビュー用の画像及び記録メディア１２８に記録された画像等の各種の画像を表示する。表示素子駆動回路１２２は、システムコントローラ１３０のＣＰＵ１３０１から入力された画像データに基づいて表示素子１２０を駆動させ、表示素子１２０に画像を表示させる。
【００２５】
タッチパネル１２４は、表示素子１２０の表示画面上に一体的に形成されており、表示画面上へのユーザの指等の接触位置等を検出する。タッチパネル駆動回路１２６は、タッチパネル１２４を駆動するとともに、タッチパネル１２４からの接触検出信号をシステムコントローラ１３０のＣＰＵ１３０１に出力する。ＣＰＵ１３０１は、接触検出信号から、ユーザの表示画面上への接触操作を検出し、その接触操作に応じた処理を実行する。
【００２６】
記録メディア１２８は、例えばメモリカードであり、撮影動作によって得られた画像ファイルが記録される。画像ファイルは、画像データに所定のヘッダを付与して構成されるファイルである。ヘッダには、撮影条件を示すデータ及び追尾位置を示すデータ等が、タグデータとして記録される。
【００２７】
システムコントローラ１３０は、撮像装置１００の動作を制御するための制御回路として、ＣＰＵ１３０１と、ＡＦ制御回路１３０２と、ＡＥ制御回路１３０３と、画像処理回路１３０４と、追尾処理回路１３０５、１３０６と、顏検出回路１３０７と、色情報取得回路１３０８と、メモリ制御回路１３０９と、を有している。
【００２８】
ＣＰＵ１３０１は、焦点調整機構１０４、絞り駆動機構１０８、シャッタ駆動機構１１２、表示素子駆動回路１２２、タッチパネル駆動回路１２６等のシステムコントローラ１３０の外部の各ブロック、及びシステムコントローラ１３０の内部の各制御回路の動作を制御する。このＣＰＵ１３０１は、制御部としての機能も有し、後述の優先追尾判定処理において最終的な追尾位置を決定することも行う。また、ＣＰＵ１３０１は、撮像素子１１４を制御する垂直同期信号ＶＤを生成する。さらに、ＣＰＵ１３０１は、当該撮像装置１００を、後述する画像処理回路１３０４による“特殊な画像処理（処理時間が所定の閾値以上の画像処理）”を実行しない“第１の画像生成モード”、または“特殊な画像処理”を実行する“第２の画像生成モード”に設定する。この設定は、例えばユーザによる操作部１３２やタッチパネル１２４の操作に基づいて行われる。これらの各“画像生成モード”の設定は、それぞれ対応する“画像生成処理”を当該撮像装置に実行させる為の操作が為されたことを意味する。
【００２９】
ＡＦ制御回路１３０２は、コントラストＡＦ処理を制御する。具体的には、ＡＦ制御回路１３０２は、撮像素子ＩＦ回路１１６で得られた画像データ（ＲＡＷデータ）の高周波成分を抽出し、この抽出した高周波成分を積算することにより、ＡＦ用の合焦評価値を取得する。ＣＰＵ１３０１は、この合焦評価値に従って画像データのコントラストを評価しつつ、焦点調整機構１０４を制御してフォーカスレンズを合焦状態とする。
【００３０】
ＡＥ制御回路１３０３は、ＡＥ動作を制御する。具体的には、ＡＥ制御回路１３０３は、撮像素子ＩＦ回路１１６で得られた画像データ（ＲＡＷデータ）を用いて被写体輝度を算出する。ＣＰＵ１３０１は、この被写体輝度に従って、露光時の絞り１０６の開口量（絞り値）、シャッタ１１０の開放時間（シャッタ速度値）、撮像素子感度やＩＳＯ感度等を算出する。
【００３１】
画像処理回路１３０４は、画像データに対する各種の画像処理を行う。この画像処理としては、圧縮処理、ＲＡＷデータからＹＣデータ（輝度信号と色差信号からなる画像データ)への変換処理、複数フレームの画像データを合成して１つのフレームの画像データを生成する処理、１フレームの画像データに対して行う光学的処理または現像に類する処理、及び１フレームの画像データの一部を切り出して複数の画像データを生成する処理等が含まれる。なお、画像処理回路１３０４は、圧縮された画像データに対する伸張処理も施す。
【００３２】
第１の追尾位置検出部としての追尾処理回路１３０５は、第１の特徴情報としての画像データの輝度情報を用いた追尾処理を行う。この輝度情報を用いた追尾処理について簡単に説明する。輝度情報を用いた追尾処理では、例えば、図２（ａ）に示す（Ｎ−１）フレームにおいて追尾対象が設定された場合、この（Ｎ−１）フレームの画像データを、評価画像データとしてＲＡＭ１１８の評価画像エリアに記憶する。この評価画像データの追尾対象を含む所定範囲２０２の画像データを、基準画像データに設定する。この後の追尾処理では、参照画像データの基準画像データ２０２と対応する部分を探索する。
Ｎフレームの追尾処理を例に示すと、まず、Ｎフレームの画像データを、参照画像データとしてＲＡＭ１１８の参照画像エリアに記憶する。この参照画像データのうちの所定の探索範囲２０４の画像データと基準画像データ２０２との相関量を求めることにより、参照画像データの基準画像データ２０２と対応する部分を探索する。相関量は、例えば基準画像データと参照画像データとの差分絶対値和（画素毎に輝度差の絶対値を求めてそれを積算したもの）から判定する。例えば、図２（ｂ）に示す参照画像データの領域２０６の参照画像データと基準画像データ２０２との差分絶対値和を求めたとすると、参照画像データの領域２０６と基準画像データ２０２とは明らかに異なる画像データであり、差分絶対値和が大きくなる。これに対し、参照画像データの領域２０８と基準画像データ２０２との差分絶対値和を求めたとすると、差分絶対値和が小さくなる。このように、基準画像データ２０２との相関量が大きくなるに従って差分絶対値和が小さくなる。輝度情報を用いた追尾処理では、相関量が最大の、即ち差分絶対値和が最小の領域を参照画像データから探索する。図２（ｂ）の例では、領域２０８となる。なお、追尾位置ログエリアには、領域２０８の中で最も一致度の高い位置を追尾位置として記録する。なお、このような位置が複数ある場合には、例えば、領域２０８の中心に近い位置を追尾位置とする。次回の追尾処理時には、この追尾位置を追尾処理の開始位置とすることが望ましい。これにより、追尾処理にかかる時間を軽減することが可能である。
【００３３】
第２の追尾位置検出部としての追尾処理回路１３０６は、第２の特徴情報としての画像データの色情報を用いた追尾処理を行う。この色情報を用いた追尾処理について簡単に説明する。色情報を用いた追尾処理では、評価画像データ内で設定された色と同色であると判定できる領域である追尾色領域を探索する。図３（ａ）に示すように、（Ｎ−１）フレームにおいて、被写体のある位置３０２が指定された場合、評価画像データ中の位置３０２の色情報を取得する。そして、位置３０２を追尾処理の開始位置として、位置３０２と同じ色情報を有する領域を探索する。具体的には、位置３０２を開始位置から周辺に向かうように順次色情報を取得し、取得した色情報が位置３０２の色情報と同一であると判定できる場合には領域に含め、取得した色情報が位置３０２の色情報と同一であると判定できない場合には領域に含めない。このようにして追尾色領域を探索すると、例えば、図３（ａ）に示すような単色の被写体の場合、被写体に内接する矩形領域３０４が追尾色領域となる。また、追尾位置ログエリアに記録する追尾位置は、例えば追尾色領域３０４の重心位置（図３（ａ）の例では、位置３０２と同じ）とする。次回の追尾処理においては、この追尾位置を追尾処理の開始位置とする。
【００３４】
Ｎフレームの追尾処理を例に示すと、図３（ｂ）に示す参照画像データとして記憶したＮフレームの画像データの所定の探索範囲の中で、（Ｎ−１）フレームの追尾位置３０２を追尾処理の開始位置とし、追尾位置３０２の周辺から順次、追尾色領域３０４の色と同色であると判定できる領域を追尾色領域として探索する。図３（ｂ）の例では、領域３０６が追尾色領域となる。また、図３（ｂ）の例では、重心位置３０８を追尾位置とし、この追尾位置３０８を、追尾位置ログエリアに記録する。また、追尾色領域ログエリアには、追尾色領域３０６の範囲を示す情報（例えば、四隅の位置）を記録する。
【００３５】
顏検出回路１３０７は、画像データにおける被写体（人物）の顏を検出する。ここで、顏検出処理について簡単に説明する。顏検出処理においては、各フレームで得られる画像データと、図４（ａ）に示すような顔パーツ４０２、４０４、４０６との相関量を求める。顔パーツ４０２は、人物の鼻部周辺の陰影のパターンに対応した画像データであり、顔パーツ４０４は、人物の目部周辺の陰影のパターンに対応した画像データであり、顔パーツ４０６は、人物の口部周辺の陰影のパターンに対応した画像データである。画像処理データと顏パーツ４０２、４０４、４０６との相関量は、図４（ｂ）に示すような、人物の顔を示す所定の配置となったときに最大となる。このとき、顏パーツ４０２、４０４、４０６を含む領域４０８に顏が存在しているとする。なお、顔パーツ４０２、４０４、４０６は予め設定した検索顔の大きさに応じて、大きさを変えても良い。ここで、図４（ｂ）では、顏領域を矩形領域としているが、円形領域としても良い。
【００３６】
特徴情報取得部の一例としての色情報取得回路１３０８は、追尾処理回路１３０５で得られた追尾位置の色情報を取得する。
メモリ制御回路１３０９は、ＣＰＵ１３０１等が、ＲＡＭ１１８、記録メディア１２８、ＲＯＭ１３４にアクセスするための制御を行うインターフェイスである。
【００３７】
操作部１３２は、ユーザによって操作される各種の操作部材である。操作部１３２としては、例えば、レリーズ釦、動画釦、モードダイヤル、選択キー、電源釦等が含まれる。
レリーズボタン釦は、１ｓｔレリーズスイッチと、２ｎｄレリーズスイッチと、を有している。１ｓｔレリーズスイッチは、ユーザがレリーズ釦を半押しするとオンするスイッチである。１ｓｔレリーズスイッチがオンすることにより、ＡＦ処理等の撮影準備動作が行われる。また、２ｎｄレリーズスイッチは、ユーザがレリーズ釦を全押しするとオンするスイッチである。２ｎｄレリーズスイッチがオンすることにより、静止画撮影用の露光動作が行われる。
動画釦は、動画撮影の開始又は終了を指示するための操作部材である。ユーザによって動画釦が押されると動画撮影処理が開始される。また、動画撮影処理の実行中に動画釦が押されると、動画撮影処理が終了される。
モードダイヤルは、撮像装置の撮影設定を選択するための操作部材である。本実施形態では、撮像装置の撮影設定として、例えば、静止画撮影モードと動画撮影モードを選択できる。静止画撮影モードは、静止画像を撮影するための撮影設定である。また、動画撮影モードは、動画像を撮影するための撮影設定である。
選択キーは、例えばメニュー画面上での項目の選択や決定をするための操作部材である。ユーザによって選択キーが操作されるとメニュー画面上での項目の選択や決定が行われる。
電源釦は、撮像装置の電源をオン又はオフするための操作部材である。ユーザによって電源釦が操作されると、撮像装置１００が起動して動作可能な状態となる。撮像装置が起動している間に電源釦が操作されると、撮像装置１００が省電力待機状態となる。
【００３８】
ＲＯＭ１３４は、ＣＰＵ１３０１が種々の処理を実行するためのプログラムコードを記憶している。また、ＲＯＭ１３４は、撮影光学系１０２、絞り１０６、及び撮像素子１１４等の動作に必要な制御パラメータ、並びに画像処理回路１３０４での画像処理に必要な制御パラメータ等の、各種の制御パラメータを記憶している。さらには、ＲＯＭ１３４は、顏検出回路１３０７における顏検出に用いられる顏パーツのデータや追尾枠を表示するためのデータ等も記憶している。
【００３９】
次に、本実施形態に係る撮像装置の動作について説明する。図５は、撮像装置１００の撮影動作を示すフローチャートである。ＣＰＵ１３０１は、ＲＯＭ１３４から必要なプログラムコードを読み込んで図５の動作を制御する。
Ｓ１００において、ＣＰＵ１３０１は、現在の撮像装置１００の撮影設定が静止画撮影モードであるかを判定する。前述したように、撮影設定は、モードダイヤルによって設定される。
【００４０】
Ｓ１００において、撮影設定が静止画撮影モードであると判定した場合に、Ｓ１０２において、ＣＰＵ１３０１は、ライブビュー動作を開始させる。ライブビュー動作として、ＣＰＵ１３０１は、シャッタ駆動機構１１２を制御してシャッタ１１０を開放した後、ＣＰＵ１３０１は、撮像素子ＩＦ回路１１６を制御して撮像素子１１４による撮像を開始させる。その後、ＣＰＵ１３０１は、撮像素子１１４による撮像の結果としてＲＡＭ１１８のワークエリアに記憶された画像データを画像処理回路１３０４に入力してライブビュー表示用の画像処理を施す。続いて、ＣＰＵ１３０１は、ライブビュー表示用の画像処理がされた画像データを表示素子駆動回路１２２に入力し、表示素子１２０に画像を表示させる。このような表示動作を繰り返し実行することにより、被写体の画像を動画表示する。この動画表示により、ユーザは、被写体を観察することが可能である。
【００４１】
Ｓ１０４において、ＣＰＵ１３０１は、１ｓｔレリーズスイッチがオンされたかを判定する。Ｓ１０４において、１ｓｔレリーズスイッチがオンされたと判定するまでは、ＣＰＵ１３０１は、ライブビュー動作を継続する。
また、Ｓ１０４において、１ｓｔレリーズスイッチがオンされたと判定した場合に、Ｓ１０６において、ＣＰＵ１３０１は、レリーズＡＦ処理を行う。レリーズＡＦにおいては、スキャン駆動によって、フォーカスレンズを合焦位置まで駆動させる。スキャン駆動では、ＣＰＵ１３０１は、焦点調整機構１０４を制御して、フォーカスレンズを所定のスキャン範囲内で一方向に駆動させつつ、ＡＦ制御回路１３０２で順次算出される合焦評価値を評価する。そして、ＣＰＵ１３０１は、合焦評価値の評価の結果、コントラストが最大となるレンズ位置において、フォーカスレンズの駆動を停止させる。このようなスキャン駆動は、ＡＦ前のフォーカスレンズの位置と合焦位置との差が大きい場合に行われる。
【００４２】
Ｓ１０８において、ＣＰＵ１３０１は、表示素子駆動回路１２２を制御して、表示素子１２０に追尾枠を表示させる。ここで、追尾枠は、表示素子１２０の画面上の追尾対象の位置に表示させる。例えば、レリーズＡＦで合焦した被写体を追尾対象とし、その被写体に追尾枠を表示させるようにしても良いし、顏検出回路１３０７によって顏が検出された場合には、その顔に追尾枠を表示させるようにしても良い。さらに、タッチパネル１２４により、表示素子１２０の画面上に表示された被写体が指定された場合には、その被写体上に追尾枠を表示させるようにしても良い。このように、本実施形態においては、ＣＰＵ１３０１、ＡＦ制御回路１３０２、顏検出回路１３０７、タッチパネル１２４等が追尾対象設定部の一例として機能する。
【００４３】
Ｓ１１０において、ＣＰＵ１３０１は、追尾処理を行う。この追尾処理の詳細については後述する。
Ｓ１１２において、ＣＰＵ１３０１は、追尾位置の被写体に合焦するようにＡＦ処理を行うとともに、追尾位置の被写体の露光が適正となるようにＡＥ処理を行う。
追尾処理後のＡＦ処理においては、スキャン駆動、またはウォブリング駆動によって、フォーカスレンズを合焦位置まで駆動させる。ウォブリング駆動では、ＣＰＵ１３０１は、フォーカスレンズを駆動したときにＡＦ制御回路１３０２で算出された合焦評価値が、前回のレンズ位置での合焦評価値に対して増加したかを判定する。そして、ＣＰＵ１３０１は、合焦評価値が増加した場合には前回と同方向にフォーカスレンズを微小駆動させ、合焦評価値が減少した場合には前回と逆方向にフォーカスレンズを微小駆動させる。このような動作を高速で繰り返してフォーカスレンズを徐々に合焦位置まで駆動させる。
【００４４】
また、ＡＥ処理において、ＣＰＵ１３０１は、ＡＥ制御回路１３０３で算出された追尾位置の被写体の輝度を予め定められた適正な量（適正露光量）とする、本露光時の絞り１０６の開口量（絞り値）、シャッタ１１０の開放時間（シャッタ速度値）を算出する。
【００４５】
Ｓ１１４において、ＣＰＵ１３０１は、２ｎｄレリーズスイッチがオンされたかを判定する。Ｓ１１４において、２ｎｄレリーズスイッチがオンされていないと判定した場合に、ＣＰＵ１３０１は、Ｓ１１０の追尾処理以後の処理を実行する。このように、静止画撮影モード時には、２ｎｄレリーズスイッチがオンされるまでは、追尾処理が継続される。
【００４６】
また、Ｓ１１４において、２ｎｄレリーズスイッチがオンされたと判定した場合に、Ｓ１１６において、ＣＰＵ１３０１は、表示素子駆動回路１２２を制御して、追尾枠を非表示とする。
Ｓ１１８において、ＣＰＵ１３０１は、静止画像データを記録メディア１２８に記録する処理を行う。この際、ＣＰＵ１３０１は、シャッタ駆動機構１１２を制御して、シャッタ１１０を閉じる。その後、ＣＰＵ１３０１は、絞り駆動機構１０８を制御して、絞り１０６を先に算出した絞り値まで絞り込む。続いて、ＣＰＵ１３０１は、シャッタ駆動機構１１２を制御して、シャッタ１１０を先に算出した開放時間だけ開放しつつ、撮像素子１１４による撮像（露光）を行う。その後、ＣＰＵ１３０１は、撮像素子１１４を介して得られた静止画像データを画像処理回路１３０４において処理する。そして、ＣＰＵ１３０１は、画像処理回路１３０４において処理された静止画像データにヘッダを付与して静止画像ファイルを生成し、生成した静止画像ファイルを記録メディア１２８に記録する。
Ｓ１２０において、ＣＰＵ１３０１は、Ｓ１１０の追尾処理の結果として得られた追尾位置を示すデータを、先に記録メディア１２８に記録した静止画像ファイルに追記する。その後に、ＣＰＵ１３０１は、図５に示す動作を終了させる。
【００４７】
また、Ｓ１００において、撮影設定が動画撮影モードであると判定した場合に、Ｓ１２２において、ＣＰＵ１３０１は、ライブビュー動作を開始させる。
Ｓ１２４において、ＣＰＵ１３０１は、動画釦がオンされたかを判定する。Ｓ１２４において、動画釦がオンされたと判定するまでは、ＣＰＵ１３０１は、ライブビュー動作を継続する。
【００４８】
また、Ｓ１２４において、動画釦がオンされたと判定した場合に、Ｓ１２６において、ＣＰＵ１３０１は、表示素子駆動回路１２２を制御して、表示素子１２０に追尾枠を表示させる。
Ｓ１２８において、ＣＰＵ１３０１は、追尾処理を行う。この追尾処理の詳細については、後述する。
【００４９】
Ｓ１３０において、ＣＰＵ１３０１は、追尾位置の被写体に合焦するようにＡＦ処理を行うともに、追尾位置の被写体の露光が適正となるようにＡＥ処理を行う。Ｓ１３０におけるＡＦ処理おいては、ウォブリング駆動によって、フォーカスレンズを合焦位置まで駆動させる。
【００５０】
Ｓ１３２において、ＣＰＵ１３０１は、動画像データを記録メディア１２８に記録する処理を行う。この際、ＣＰＵ１３０１は、絞り駆動機構１０８を制御して、絞り１０６をＡＥ処理において算出した絞り値まで絞り込む。続いて、ＣＰＵ１３０１は、ＡＥ処理において算出したシャッタ速度値に対応した時間だけ撮像素子１１４による撮像（露光）を実行させる。露光の終了後、ＣＰＵ１３０１は、動画像ファイルを生成して記録メディア１２８に記録する。また、ＣＰＵ１３０１は、撮像素子１１４を介して得られた動画像データを画像処理回路１３０４において処理し、画像処理回路１３０４において処理された動画像データを動画像ファイルに記録する。
【００５１】
Ｓ１３４において、ＣＰＵ１３０１は、Ｓ１２８の追尾処理の結果として得られた追尾位置を示すデータを、先に記録メディア１２８に記録した動画像ファイルと同時記録する。
Ｓ１３６において、ＣＰＵ１３０１は、動画釦がオフされたかを判定する。Ｓ１３６において、動画釦がオフされていないと判定した場合に、ＣＰＵ１３０１は、Ｓ１２８の追尾処理以後の処理を実行する。このように、動画撮影モード時では、動画釦がオフされるまでは、追尾処理と動画像データの記録が継続される。
【００５２】
また、Ｓ１３６において、動画釦がオフされたと判定した場合に、Ｓ１３８において、ＣＰＵ１３０１は、表示素子駆動回路１２２を制御して、追尾枠を非表示とする。その後、ＣＰＵ１３０１は、図５に示す動作を終了させる。
以下、本一実施形態に係る追尾方法としての追尾処理について図６乃至図８を参照して説明する。本実施形態においては、複数の追尾処理を併用して追尾対象の追尾を行う。図６は、本発明の一実施形態に係る追尾方法としての追尾処理について示すフローチャートである。図７及び図８は、本発明の一実施形態に係る追尾方法としての追尾処理について示すタイミングチャートである。
【００５３】
図７及び図８に記載の“画像データ”は“ＲＡＷデータ”を示しており、“画像処理データ”は“ＲＡＷデータに対して上述の“特殊な処理”を施して生成したデータ（例えばＹＣデータや複数フレームを一つのフレームに合成した画像データ）“を示している。また、図７及び図８に示されている各グラフは、それぞれ上から順に“垂直同期信号ＶＤのＯＮ／ＯＦＦ期間”、“撮像素子１１４の露光期間”、“ＲＡＷデータの生成期間”、“画像処理データの生成期間”、“第１の特徴情報（輝度情報）を利用する追尾処理期間”、“第２の特徴情報（色情報）を利用する追尾処理期間”、“被写体の顔部位を利用する追尾処理期間”、“何れの追尾処理を利用するかの判定及び追尾位置の信頼性の判定期間”、“追尾枠の表示位置の更新期間”を示している。
【００５４】
図７及び図８に示すように、ＣＰＵ１３０１からの垂直同期信号ＶＤに同期して、撮像素子１１４は露光を開始し、予め設定された期間（１フレーム分）だけ露光する。すなわち、ＣＰＵ１３０１は、垂直同期信号ＶＤにより撮像素子ＩＦ回路１１６を制御して撮像素子１１４による撮像を実行する。そして、ＣＰＵ１３０１は、撮像素子１１４による撮像により、撮像素子ＩＦ回路１１６において得られた画像データをＲＡＭ１１８に取り込む。
【００５５】
なお、初回の追尾処理で得られた画像データは、評価画像データとする。このため、ＣＰＵ１３０１は、初回の追尾処理で得られた画像データをＲＡＭ１１８の評価画像エリアに取り込む。また、２回目以後の追尾処理で得られた画像データは、参照画像データとする。このため、ＣＰＵ１３０１は、２回目以後の追尾処理で得られた画像データをＲＡＭ１１８の参照画像エリアに取り込む。
【００５６】
また、初回の追尾処理においては、評価画像データのみが取得された状態であるので、Ｓ２０３乃至Ｓ２１９の処理、及びＳ２２２乃至Ｓ２３２の処理は省略される。以後の説明においては、評価画像データと参照画像データの両方が取得されているものとして説明を続ける。
【００５７】
Ｓ２０１において、ＣＰＵ１３０１は、画像処理回路１３０４による画像処理に要する時間が、所定の閾値以上であるか否かを判定する。つまり、“画像処理時間≧閾値”であるか否かを判定する。例えば、当該撮像装置１００が“第２の画像生成モード”に設定されている場合であって“特殊な処理”を行う場合等の、追尾性能の劣化が生じる可能性がある場合には“画像処理時間≧閾値”となる。当該撮像装置１００が“第１の画像生成モード”に設定されている場合には、画像処理回路１３０４による“特殊な処理”を行わないため“画像処理時間＜閾値”となる。
【００５８】
このＳ２０１における判定結果に基づいて、以降の追尾処理工程を切り換えることによって、ＣＰＵ１３０１は、例えば当該撮像装置１００が“第２の画像生成モード”に設定されている場合等の、追尾性能の劣化が生じる可能性がある場合であっても、適切な追尾処理を実行することができる。
【００５９】
“画像処理時間≧閾値”の場合には、図８に示すように、顔検出による追尾処理の結果を含めると“追尾結果判断（図６のフローチャートにおける追尾位置設定ステップ）”で決定された当該最終的な追尾位置を、輝度情報／色情報を利用した次回の追尾処理における開始位置とすることができない。このことを鑑み、被写体の顔部位が検出された場合には、Ｓ２０１乃至Ｓ２０６の一連の処理によって顔部位のみを利用した追尾処理を実行し、他方、被写体の顔部位が検出されない場合には、Ｓ２１１乃至Ｓ２１９の一連の処理によって、輝度情報／色情報のみを利用した追尾処理を実行する。以下、詳細に説明する。
【００６０】
Ｓ２０１において、画像処理回路１３０４による画像処理時間が所定の閾値以上であると判定した場合、ＣＰＵ１３０１は、Ｓ２０２において“画像処理データ”を取得する。この“画像処理データ”は、当該フレームの直前フレーム生成中に撮像素子１１４が垂直同期信号ＶＤに同期して露光した信号に基づく画像データ（ＲＡＷデータ）に、画像処理回路１３０４によって所定の画像処理を施して生成した画像データである。
【００６１】
Ｓ２０３において、ＣＰＵ１３０１は顏検出回路１３０７によって被写体の顏部位の検出処理を実行し、Ｓ２０４において、顔部位が検出されたか否かを判定する。
Ｓ２０４において、顔部位を検出したと判定した場合、ＣＰＵ１３０１はＳ２０５において顔部位の中から追尾位置（例えば顔部位領域の重心位置）を演算し、顔部位を用いた追尾処理を行う。顔部位を用いた追尾処理については、前述したので説明を省略する。
【００６２】
Ｓ２０６において、ＣＰＵ１３０１は、Ｓ２０５で演算した参照画像データの最終的な追尾位置を、ＲＡＭ１１８の追尾ログエリアに記録する。
【００６３】
Ｓ２１０において、ＣＰＵ１３０１は、表示素子駆動回路１２２を制御して、追尾枠の表示位置をＳ２０６で記憶させた追尾位置に対応した位置に更新する。その後、ＣＰＵ１３０１は、図６の追尾処理を終了させる。
ところで、Ｓ２０４において顔部位が検出されていないと判定した場合、ＣＰＵ１３０１は、Ｓ２１１において“画像データ（ＲＡＷデータ）”を取得する。この“画像データ”は、当該フレームの直前フレーム生成中に撮像素子１１４が垂直同期信号ＶＤに同期して露光した信号に基づく画像データ（ＲＡＷデータ）である。
【００６４】
Ｓ２１２及びＳ２１３において、ＣＰＵ１３０１は、追尾処理回路１３０５により、第１の追尾処理としての輝度情報を用いた追尾処理を行う（輝度情報の検出と追尾位置の演算）。輝度情報を用いた追尾処理については、前述したので説明を省略する。なお、ＣＰＵ１３０１は、Ｓ２１２及びＳ２１３の処理（輝度情報を用いた追尾処理）の結果として得られた追尾位置を、第１の候補追尾位置としてＲＡＭ１１８の追尾ログエリアに記憶させる。
【００６５】
Ｓ２１４において、ＣＰＵ１３０１は、Ｓ２１３で得られた追尾位置の信頼性を判断する。例えば参照画像データのコントラストから信頼性を判断する。具体的には、参照画像データにおける追尾対象の領域の隣接画素間の差分和が所定値以下である場合には、信頼性があると判断する。信頼性を判定するための閾値は適宜設定可能である。
【００６６】
Ｓ２１５及びＳ２１６において、ＣＰＵ１３０１は、追尾処理回路１３０６により、第２の追尾処理としての色情報を用いた追尾処理を行う（色情報の検出と追尾位置の演算）。色情報を用いた追尾処理については、前述したので説明を省略する。なお、ＣＰＵ１３０１は、Ｓ２１５及びＳ２１６の処理（色情報を用いた追尾処理）の結果として得られた追尾位置を、第２の候補追尾位置としてＲＡＭ１１８の追尾ログエリアに記憶させる。
【００６７】
Ｓ２１７において、ＣＰＵ１３０１は、Ｓ２１６で得られた追尾位置の信頼性を判断する。例えば参照画像データの彩度から信頼性を判断する。具体的には、参照画像データの追尾位置の彩度が所定値以上である場合には、信頼性があると判断する。信頼性を判定するための閾値は適宜設定可能である。
【００６８】
Ｓ２１８において、ＣＰＵ１３０１は、追尾位置の判定処理を行う。この追尾位置の判定処理は、輝度情報を用いた追尾処理の結果と色情報を用いた追尾処理の結果との何れを採用するかを判定する処理である。この追尾位置の判定処理は、例えば各特徴情報に基づいて演算した追尾位置の信頼性に基づく判定処理とすればよい。
【００６９】
Ｓ２１９において、ＣＰＵ１３０１は、Ｓ２１８の判定結果に基づいて採用した最終的な追尾位置のみを、ＲＡＭ１１８の追尾ログエリアに記録する。次回の追尾処理においては、輝度情報を用いた追尾処理と色情報を用いた追尾処理の両方で、この最終的な追尾位置を追尾処理の開始位置とする。
【００７０】
そして、Ｓ２１０において、ＣＰＵ１３０１は、表示素子駆動回路１２２を制御して、追尾枠の表示位置をＳ２１９で記憶させた追尾位置に対応した位置に更新する。その後、ＣＰＵ１３０１は、図６の追尾処理を終了させる。
ところで、“画像処理時間＜閾値”の場合には、図７に示すように、顔検出による追尾処理の結果を含めても“追尾結果判断（図６のフローチャートにおける追尾位置設定ステップ）”で決定された当該最終的な追尾位置を、輝度情報／色情報を利用した次回の追尾処理における開始位置とすることができる。従って、被写体の顔部位を利用した追尾処理と、輝度情報／色情報を利用した追尾処理との双方を実行する。以下、詳細に説明する。
【００７１】
Ｓ２０１において、画像処理回路１３０４による画像処理時間が所定の閾値以上ではないと判定した場合、ＣＰＵ１３０１は、Ｓ２２１において“画像データ（ＲＡＷデータ）”を取得する。この“画像データ”は、当該フレームの直前フレーム生成中に撮像素子１１４が垂直同期信号ＶＤに同期して露光した信号に基づく画像データ（ＲＡＷデータ）である。
【００７２】
Ｓ２２２及びＳ２２３において、ＣＰＵ１３０１は、追尾処理回路１３０５により、第１の追尾処理としての輝度情報を用いた追尾処理を行う（輝度情報の検出と追尾位置の演算）。輝度情報を用いた追尾処理については、前述したので説明を省略する。なお、ＣＰＵ１３０１は、Ｓ２２２及びＳ２２３の処理（輝度情報を用いた追尾処理）の結果として得られた追尾位置を、第１の候補追尾位置としてＲＡＭ１１８の追尾ログエリアに記憶させる。
【００７３】
Ｓ２２４において、ＣＰＵ１３０１は、Ｓ２１３で得られた追尾位置の信頼性を判断する。例えば参照画像データのコントラストから信頼性を判断する。具体的な判断方法については、前述したので説明を省略する。
Ｓ２２５及びＳ２２６において、ＣＰＵ１３０１は、追尾処理回路１３０６により、第２の追尾処理としての色情報を用いた追尾処理を行う（色情報の検出と追尾位置の演算）。色情報を用いた追尾処理については、前述したので説明を省略する。なお、ＣＰＵ１３０１は、Ｓ２２５及びＳ２２６の処理（色情報を用いた追尾処理）の結果として得られた追尾位置を、第２の候補追尾位置としてＲＡＭ１１８の追尾ログエリアに記憶させる。
【００７４】
Ｓ２２７において、ＣＰＵ１３０１は、Ｓ２１６で得られた追尾位置の信頼性を判断する。例えば参照画像データの彩度から信頼性を判断する。具体的な判断方法については、前述したので説明を省略する。
Ｓ２２８において、ＣＰＵ１３０１は“画像処理データ”を取得する。この“画像処理データ”は、当該フレームの直前フレーム生成中に撮像素子１１４が垂直同期信号ＶＤに同期して露光した信号に基づく画像データ（ＲＡＷデータ）に、画像処理回路１３０４によって所定の画像処理を施して生成した画像データである。
【００７５】
Ｓ２２９において、ＣＰＵ１３０１は顏検出回路１３０７によって被写体の顏部位の検出処理を実行する。
Ｓ２３０において、ＣＰＵ１３０１は顔部位の中から追尾位置（例えば顔部位領域の重心位置）を演算し、顔部位を用いた追尾処理を行う。顔部位を用いた追尾処理については、前述したので説明を省略する。
【００７６】
Ｓ２３１において、ＣＰＵ１３０１は、追尾位置の判定処理を行う。この追尾位置の判定処理は、輝度情報を用いた追尾処理の結果と、色情報を用いた追尾処理の結果と、顔部位を用いた追尾処理の結果とのうち何れを採用するかを判定する処理である。この追尾位置の判定処理は、例えば各特徴情報に基づいて演算した追尾位置の信頼性に基づく判定処理としたり、条件に応じて顔部位を用いた追尾処理を優先したりすればよい。
【００７７】
Ｓ２３２において、ＣＰＵ１３０１は、Ｓ２３１の判定結果に基づいて採用した最終的な追尾位置のみを、ＲＡＭ１１８の追尾ログエリアに記録する。次回の追尾処理においては、輝度情報を用いた追尾処理と色情報を用いた追尾処理の両方で、この最終的な追尾位置を追尾処理の開始位置とする。
【００７８】
以上説明したように、本一実施形態によれば、例えば特殊な画像処理を行う場合等の、追尾性能の劣化が生じ得る場合であっても、適切な追尾処理を行うことができる追尾装置及び追尾方法を提供することができる。
なお、上述の例では、追尾処理に用いる特徴情報として色情報、輝度情報、及び被写体顔部位を挙げているが、その他にも例えば輪郭情報を所謂シルエット検出により検出し、これを用いて追尾処理を行っても勿論よい。
【００７９】
ところで、ライブビュー表示における表示フレームレートは、画像処理回路１３０４による画像処理時間に応じて変化する為、第１の画像生成モードが設定された場合の画像表示に係るフレームレートと、第２の画像生成モードが設定された場合の画像表示に係るフレームレートとを互いに異なるフレームレートとすることが好ましい。
【００８０】
以上実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。また、前述の動作の説明において、便宜上「まず」、「次に」等を用いて動作を説明しているが、この順で動作を実施することが必須であることを意味するものではない。
以上説明した実施形態においては、画像処理時間と閾値とに応じて処理を切り替えているが、追尾演算の処理を切り替える為の判断基準はこれに限らない。以下、応用例として前記判断基準のバリエーションを説明する。
第１の応用例として、処理に時間がかかる画像処理モードと、時間がかからない画像処理モードとで追尾処理を切替えるといったように、設定されている画像処理モードを追尾演算切換えの判断基準にしてもよい。
第２の応用例として、画像処理を優先する場合には追尾処理を簡略化し、追尾処理を優先する場合には画像処理を簡略化するといったように、処理毎の優先順位を追尾演算切換えの判断基準にしてもよい。
第３の応用例として、例えば輝度で追尾するのに適した被写体の場合には輝度追尾処理を優先して他の追尾処理を簡略化し、色で追尾するのに適した被写体の場合には色追尾処理を優先して他の追尾処理を簡略化するといったように、被写体の特徴を追尾演算切換えの判断基準にしてもよい。
第４の応用例として、例えば連写中に追尾を行う場合、低速度の連写選択時には精度を優先し通常の追尾処理を行い、高速度の連写選択時には速度を優先し追尾処理を簡略化するといったように、カメラの設定を追尾演算切換えの判断基準にしてもよい。
第５の応用例として、撮影レンズの焦点距離が短い(画角が広い)場合には精度を優先し通常の追尾処理を行い、焦点距離が長い(画角が狭い)場合は速度を優先し追尾処理を簡略化するといったように、レンズの焦点距離を追尾演算切換えの判断基準にしてもよい。
【００８１】
さらに、上記した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適当な組合せにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、上述したような課題を解決でき、上述したような効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。
【符号の説明】
【００８２】
１００…撮像装置、１０２…撮影光学系、１０４…焦点調整機構、１０６…絞り、１０８…絞り駆動機構、１１０…シャッタ、１１２…シャッタ駆動機構、１１４…撮像素子、１１６…撮像素子インターフェイス（ＩＦ）回路、１１８…ＲＡＭ、１２０…表示素子、１２２…表示素子駆動回路、１２４…タッチパネル、１２６…タッチパネル駆動回路、１２８…記録メディア、１３０…システムコントローラ、１３２…操作部、１３４…ＲＯＭ、１３０１…ＣＰＵ、１３０２…ＡＦ制御回路、１３０３…ＡＥ制御回路、１３０４…画像処理回路、１３０５，１３０６…追尾処理回路、１３０７…顏検出回路、１３０８…色情報取得回路、１３０９…メモリ制御回路
【技術分野】
【０００１】
本発明は、被写体を追尾する追尾装置及び追尾方法に関する。
【背景技術】
【０００２】
従来、動体を撮影する際や動画像を撮影する際に、特定の被写体に追従するように自動合焦制御（ＡＦ）や自動露光制御（ＡＥ）を行う技術が知られている。このような特定の被写体を追従するために追尾処理が用いられている。追尾処理には、輝度情報を利用するものや、色情報を利用するもの、顏検出を利用するもの等、種々のものがある。特許文献１には、撮像手段より出力された撮像信号に基づいて、被写体像に対する追尾動作を行う自動追尾装置が開示されている。
【０００３】
特許文献１に開示されている自動追尾装置では、被写体の特徴を表わすパラメータ（例えば被写体及び背景の色等）を、予め設定された追尾視野について抽出し、この抽出した特徴と、新たに抽出した被写体の特徴とに基づいて、被写体の移動の有無、及び被写体が移動した場合にはその移動方向又は移動位置を検出する。そして、追尾視野を、被写体の移動に追尾して移動させる。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特許第２６０５００４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、１種類のみの追尾処理を用いた場合、追尾処理に失敗してしまうと、それ以降は正しい追尾処理が不能となる可能性がある。このような事情を鑑みて、複数種類の追尾処理を行う技術が提案されているが、これには下記のような課題が存在する。
例えば、特殊な画像処理（例えば、複数枚の画像を合成して１枚の画像を生成する処理）を行う場合には、画像処理の負荷が増大する。このとき、当該画像処理を一部に含む追尾処理にも当然に影響が生じ、通常の追尾処理では生じなかった追尾性能の劣化をきたすことがある。
【０００６】
さらには、例えば複数の特徴を組み合わせて追尾処理をする際には、追尾処理に用いる入力画像データが特徴毎に異なり(例えばＲＡＷデータとＹＣデータ等)、それぞれの入力画像データの生成フレームレートに差がある場合には、例えば“第１の特徴”についてはn-1フレーム目の追尾処理が完了しているときに“第２の特徴”についてはn-4フレーム目までしか追尾処理が完了していないという現象が起きうる。
【０００７】
このとき、第１の特徴と第２の特徴とで同期をとろうとしても、n-4フレーム同士では現在の被写体からのずれが生じており、またn-1フレームとn-4フレームとではそもそもフレームが異なるため同期しても正しい追尾結果は得られない。つまり、何れにしても追尾性能の劣化が生じてしまう。
【０００８】
本発明は、上述の事情に鑑みてなされたもので、例えば特殊な画像処理を行う場合等の、追尾性能の劣化が生じ得る場合であっても、適切な追尾処理を行うことができる追尾装置及び追尾方法を提供することを目的とする。
【課題を解決するための手段】
【０００９】
前記の目的を達成するために、本発明の第１の態様の追尾装置は、
撮影して得た画像データである第１の画像データを生成する第１の画像生成モードと、前記第１の画像データを生成すると共に前記第１の画像データに所定の処理を施した第２の画像データを生成する第２の画像生成モードと、のうち何れかの画像生成モードを設定する作画モード設定部と、
当該追尾装置に入力された画像データを、前記作画モード設定部の設定に応じて処理する画像処理部と、
前記画像処理部により処理された画像データについて特徴情報を検出し、且つ、被写体の顔部位を検出する追尾検出部と、
前記特徴情報または前記顔部位に基づいて、追尾対象の移動位置を演算する追尾演算部と、
前記第２の画像生成モードが設定された場合には、前記追尾演算部による演算を、前記第１の画像生成モードが設定された場合に実行する演算とは異なる演算に切り換える演算切換部と、
を具備することを特徴とする。
【００１０】
前記の目的を達成するために、本発明の第２の態様の追尾方法は、
撮影して得た画像データである第１の画像データを生成する第１の画像生成モードと、前記第１の画像データを生成すると共に前記第１の画像データに所定の処理を施した第２の画像データを生成する第２の画像生成モードと、のうち何れかの画像生成モードを設定し、
入力された画像データを、前記作画モード設定部の設定に応じて処理し、
前記処理された画像データについて特徴情報を検出し、且つ、被写体の顔部位を検出し、
前記特徴情報または前記顔部位に基づいて、追尾対象の移動位置を演算し、
前記第２の画像生成モードが設定された場合には、前記追尾演算部による演算を、前記第１の画像生成モードが設定された場合に実行する演算とは異なる演算に切り換える、
ことを特徴とする。
【発明の効果】
【００１１】
本発明によれば、例えば特殊な画像処理を行う場合等の、追尾性能の劣化が生じ得る場合であっても、適切な追尾処理を行うことができる追尾装置及び追尾方法を提供することができる。
【図面の簡単な説明】
【００１２】
【図１】図１は、本発明の一実施形態に係る追尾装置を備えた撮像装置の一例としての構成を示す図である。
【図２】図２は、輝度情報を用いた追尾処理について説明するための図である。
【図３】図３は、色情報を用いた追尾処理について説明するための図である。
【図４】図４は、顏検出処理について説明するための図である。
【図５】図５は、撮像装置の撮影動作を示すフローチャートである。
【図６】図６は、本発明の一実施形態に係る追尾方法としての追尾処理について示すフローチャートである。
【図７】図７は、本発明の一実施形態に係る追尾方法としての追尾処理について示すタイミングチャートである。
【図８】図８は、本発明の一実施形態に係る追尾方法としての追尾処理について示すタイミングチャートである。
【発明を実施するための形態】
【００１３】
以下、図面を参照して本発明の実施形態を説明する。
図１は、本発明の一実施形態に係る追尾装置を備えた撮像装置の一例としての構成を示す図である。図１に示す撮像装置１００は、撮影光学系１０２と、焦点調整機構１０４と、絞り１０６と、絞り駆動機構１０８と、シャッタ１１０と、シャッタ駆動機構１１２と、撮像素子１１４と、撮像素子インターフェイス（ＩＦ）回路１１６と、ＲＡＭ１１８と、表示素子１２０と、表示素子駆動回路１２２と、タッチパネル１２４と、タッチパネル駆動回路１２６と、記録メディア１２８と、システムコントローラ１３０と、操作部１３２と、ＲＯＭ１３４と、を有している。
【００１４】
撮影光学系１０２は、図示しない被写体からの光束Ｆを、撮像素子１１４の受光面上に集光するための光学系である。この撮影光学系１０２は、フォーカスレンズ等の複数のレンズを有している。焦点調整機構１０４は、モータ及びその駆動回路等を有している。この焦点調整機構１０４は、システムコントローラ１３０内のＣＰＵ１３０１の制御に従って、撮影光学系１０２内のフォーカスレンズをその光軸方向（図示一点鎖線方向）に駆動させる。
【００１５】
絞り１０６は、開閉自在に構成され、撮影光学系１０２を介して撮像素子１１４に入射する光束Ｆの量を調整する。絞り駆動機構１０８は、絞り１０６を駆動するための駆動機構を有している。この絞り駆動機構１０８は、システムコントローラ１３０内のＣＰＵ１３０１の制御に従って、絞り１０６を駆動させる。
【００１６】
シャッタ１１０は、撮像素子１１４の受光面を遮光状態又は露光状態とするように構成されている。このシャッタ１１０により、撮像素子１１４の露光時間が調整される。シャッタ駆動機構１１２は、シャッタ１１０を駆動させるための駆動機構を有し、システムコントローラ１３０内のＣＰＵ１３０１の制御に従って、シャッタ１１０を駆動させる。
【００１７】
撮像素子１１４は、撮影光学系１０２を介して集光された被写体からの光束Ｆが結像される受光面を有している。撮像素子１１４の受光面は、複数の画素が２次元状に配置されて構成されており、また、受光面の光入射側には、カラーフィルタが設けられている。このような撮像素子１１４は、受光面に結像された光束Ｆに対応した像（被写体像）を、その光量に応じた電気信号（以下、画像信号という）に変換する。ここで、撮像素子１１４は、ＣＣＤ方式やＣＭＯＳ方式等の種々の構成の撮像素子が知られている。また、カラーフィルタの色配列もベイヤ配列等の種々の配列が知られている。本実施形態は、撮像素子１１４の構成が特定の構成に限定されるものではなく、種々の構成の撮像素子を用いることが可能である。この撮像素子１１４は、ＣＰＵ１３０１によって生成された垂直同期信号ＶＤのパルスの立ち上がりタイミング（立ち下がりタイミングでもよい）で、１フレームを撮像する露光動作を開始する。
【００１８】
撮像素子ＩＦ回路１１６は、システムコントローラ１３０内のＣＰＵ１３０１の制御に従って、撮像素子１１４を駆動させる。また、撮像素子ＩＦ回路１１６は、システムコントローラ１３０内のＣＰＵ１３０１の制御に従って、撮像素子１１４で得られた画像信号を読み出し、読み出した画像信号に対してＣＤＳ（相関二重サンプリング）処理やＡＧＣ（自動利得制御）処理等のアナログ処理を施す。さらに、撮像素子ＩＦ回路１１６は、アナログ処理した画像信号をデジタル信号に変換し、画像データ（ＲＡＷデータ）を生成する。
【００１９】
ＲＡＭ１１８は、例えばＳＤＲＡＭであり、ワークエリア、評価画像エリア、参照画像エリア、追尾位置ログエリア、追尾色領域ログエリア、を記憶エリアとして有している。
ワークエリアは、撮像素子ＩＦ回路１１６で得られた画像データ（ＲＡＷデータ）等の、撮像装置１００の各部で発生したデータを一時記憶しておくためにＲＡＭ１１８に設けられた記憶エリアである。
【００２０】
評価画像エリアは、評価画像データを一時記憶しておくためにＲＡＭ１１８に設けられた記憶エリアである。評価画像データは、後述する追尾処理における追尾対象の被写体を含むフレームの画像データである。追尾処理においては、この追尾対象を追尾するように処理が行われる。
【００２１】
参照画像エリアは、参照画像データを一時記憶しておくためにＲＡＭ１１８に設けられた記憶エリアである。参照画像データは、後述する追尾処理において、追尾対象の探索の対象となるフレームの画像データである。追尾処理においては、参照画像データ中で探索が行われる。
【００２２】
追尾位置ログエリアは、追尾位置ログを一時記憶しておくためにＲＡＭ１１８に設けられた記憶エリアである。追尾位置ログは、追尾処理の結果として得られた追尾位置を記録したログである。本実施形態では、複数の追尾処理を併用して追尾対象を追尾する。したがって、追尾位置ログには、それぞれの追尾処理によって得られた追尾位置（候補追尾位置）を過去１０フレーム分個別に記録する。また、追尾位置ログには、後述の優先追尾位置判定処理によって採用された最終的な追尾位置も記録する。
【００２３】
追尾色領域ログエリアは、追尾色領域ログを一時記憶しておくためにＲＡＭ１１８に設けられた記憶エリアである。追尾色領域ログは、追尾処理によって得られた追尾色領域を記録したログである。本実施形態では、追尾色領域を過去１０フレーム分記録する。追尾色領域の詳細については後述する。
【００２４】
表示素子１２０は、例えば液晶ディスプレイ（ＬＣＤ）であり、ライブビュー用の画像及び記録メディア１２８に記録された画像等の各種の画像を表示する。表示素子駆動回路１２２は、システムコントローラ１３０のＣＰＵ１３０１から入力された画像データに基づいて表示素子１２０を駆動させ、表示素子１２０に画像を表示させる。
【００２５】
タッチパネル１２４は、表示素子１２０の表示画面上に一体的に形成されており、表示画面上へのユーザの指等の接触位置等を検出する。タッチパネル駆動回路１２６は、タッチパネル１２４を駆動するとともに、タッチパネル１２４からの接触検出信号をシステムコントローラ１３０のＣＰＵ１３０１に出力する。ＣＰＵ１３０１は、接触検出信号から、ユーザの表示画面上への接触操作を検出し、その接触操作に応じた処理を実行する。
【００２６】
記録メディア１２８は、例えばメモリカードであり、撮影動作によって得られた画像ファイルが記録される。画像ファイルは、画像データに所定のヘッダを付与して構成されるファイルである。ヘッダには、撮影条件を示すデータ及び追尾位置を示すデータ等が、タグデータとして記録される。
【００２７】
システムコントローラ１３０は、撮像装置１００の動作を制御するための制御回路として、ＣＰＵ１３０１と、ＡＦ制御回路１３０２と、ＡＥ制御回路１３０３と、画像処理回路１３０４と、追尾処理回路１３０５、１３０６と、顏検出回路１３０７と、色情報取得回路１３０８と、メモリ制御回路１３０９と、を有している。
【００２８】
ＣＰＵ１３０１は、焦点調整機構１０４、絞り駆動機構１０８、シャッタ駆動機構１１２、表示素子駆動回路１２２、タッチパネル駆動回路１２６等のシステムコントローラ１３０の外部の各ブロック、及びシステムコントローラ１３０の内部の各制御回路の動作を制御する。このＣＰＵ１３０１は、制御部としての機能も有し、後述の優先追尾判定処理において最終的な追尾位置を決定することも行う。また、ＣＰＵ１３０１は、撮像素子１１４を制御する垂直同期信号ＶＤを生成する。さらに、ＣＰＵ１３０１は、当該撮像装置１００を、後述する画像処理回路１３０４による“特殊な画像処理（処理時間が所定の閾値以上の画像処理）”を実行しない“第１の画像生成モード”、または“特殊な画像処理”を実行する“第２の画像生成モード”に設定する。この設定は、例えばユーザによる操作部１３２やタッチパネル１２４の操作に基づいて行われる。これらの各“画像生成モード”の設定は、それぞれ対応する“画像生成処理”を当該撮像装置に実行させる為の操作が為されたことを意味する。
【００２９】
ＡＦ制御回路１３０２は、コントラストＡＦ処理を制御する。具体的には、ＡＦ制御回路１３０２は、撮像素子ＩＦ回路１１６で得られた画像データ（ＲＡＷデータ）の高周波成分を抽出し、この抽出した高周波成分を積算することにより、ＡＦ用の合焦評価値を取得する。ＣＰＵ１３０１は、この合焦評価値に従って画像データのコントラストを評価しつつ、焦点調整機構１０４を制御してフォーカスレンズを合焦状態とする。
【００３０】
ＡＥ制御回路１３０３は、ＡＥ動作を制御する。具体的には、ＡＥ制御回路１３０３は、撮像素子ＩＦ回路１１６で得られた画像データ（ＲＡＷデータ）を用いて被写体輝度を算出する。ＣＰＵ１３０１は、この被写体輝度に従って、露光時の絞り１０６の開口量（絞り値）、シャッタ１１０の開放時間（シャッタ速度値）、撮像素子感度やＩＳＯ感度等を算出する。
【００３１】
画像処理回路１３０４は、画像データに対する各種の画像処理を行う。この画像処理としては、圧縮処理、ＲＡＷデータからＹＣデータ（輝度信号と色差信号からなる画像データ)への変換処理、複数フレームの画像データを合成して１つのフレームの画像データを生成する処理、１フレームの画像データに対して行う光学的処理または現像に類する処理、及び１フレームの画像データの一部を切り出して複数の画像データを生成する処理等が含まれる。なお、画像処理回路１３０４は、圧縮された画像データに対する伸張処理も施す。
【００３２】
第１の追尾位置検出部としての追尾処理回路１３０５は、第１の特徴情報としての画像データの輝度情報を用いた追尾処理を行う。この輝度情報を用いた追尾処理について簡単に説明する。輝度情報を用いた追尾処理では、例えば、図２（ａ）に示す（Ｎ−１）フレームにおいて追尾対象が設定された場合、この（Ｎ−１）フレームの画像データを、評価画像データとしてＲＡＭ１１８の評価画像エリアに記憶する。この評価画像データの追尾対象を含む所定範囲２０２の画像データを、基準画像データに設定する。この後の追尾処理では、参照画像データの基準画像データ２０２と対応する部分を探索する。
Ｎフレームの追尾処理を例に示すと、まず、Ｎフレームの画像データを、参照画像データとしてＲＡＭ１１８の参照画像エリアに記憶する。この参照画像データのうちの所定の探索範囲２０４の画像データと基準画像データ２０２との相関量を求めることにより、参照画像データの基準画像データ２０２と対応する部分を探索する。相関量は、例えば基準画像データと参照画像データとの差分絶対値和（画素毎に輝度差の絶対値を求めてそれを積算したもの）から判定する。例えば、図２（ｂ）に示す参照画像データの領域２０６の参照画像データと基準画像データ２０２との差分絶対値和を求めたとすると、参照画像データの領域２０６と基準画像データ２０２とは明らかに異なる画像データであり、差分絶対値和が大きくなる。これに対し、参照画像データの領域２０８と基準画像データ２０２との差分絶対値和を求めたとすると、差分絶対値和が小さくなる。このように、基準画像データ２０２との相関量が大きくなるに従って差分絶対値和が小さくなる。輝度情報を用いた追尾処理では、相関量が最大の、即ち差分絶対値和が最小の領域を参照画像データから探索する。図２（ｂ）の例では、領域２０８となる。なお、追尾位置ログエリアには、領域２０８の中で最も一致度の高い位置を追尾位置として記録する。なお、このような位置が複数ある場合には、例えば、領域２０８の中心に近い位置を追尾位置とする。次回の追尾処理時には、この追尾位置を追尾処理の開始位置とすることが望ましい。これにより、追尾処理にかかる時間を軽減することが可能である。
【００３３】
第２の追尾位置検出部としての追尾処理回路１３０６は、第２の特徴情報としての画像データの色情報を用いた追尾処理を行う。この色情報を用いた追尾処理について簡単に説明する。色情報を用いた追尾処理では、評価画像データ内で設定された色と同色であると判定できる領域である追尾色領域を探索する。図３（ａ）に示すように、（Ｎ−１）フレームにおいて、被写体のある位置３０２が指定された場合、評価画像データ中の位置３０２の色情報を取得する。そして、位置３０２を追尾処理の開始位置として、位置３０２と同じ色情報を有する領域を探索する。具体的には、位置３０２を開始位置から周辺に向かうように順次色情報を取得し、取得した色情報が位置３０２の色情報と同一であると判定できる場合には領域に含め、取得した色情報が位置３０２の色情報と同一であると判定できない場合には領域に含めない。このようにして追尾色領域を探索すると、例えば、図３（ａ）に示すような単色の被写体の場合、被写体に内接する矩形領域３０４が追尾色領域となる。また、追尾位置ログエリアに記録する追尾位置は、例えば追尾色領域３０４の重心位置（図３（ａ）の例では、位置３０２と同じ）とする。次回の追尾処理においては、この追尾位置を追尾処理の開始位置とする。
【００３４】
Ｎフレームの追尾処理を例に示すと、図３（ｂ）に示す参照画像データとして記憶したＮフレームの画像データの所定の探索範囲の中で、（Ｎ−１）フレームの追尾位置３０２を追尾処理の開始位置とし、追尾位置３０２の周辺から順次、追尾色領域３０４の色と同色であると判定できる領域を追尾色領域として探索する。図３（ｂ）の例では、領域３０６が追尾色領域となる。また、図３（ｂ）の例では、重心位置３０８を追尾位置とし、この追尾位置３０８を、追尾位置ログエリアに記録する。また、追尾色領域ログエリアには、追尾色領域３０６の範囲を示す情報（例えば、四隅の位置）を記録する。
【００３５】
顏検出回路１３０７は、画像データにおける被写体（人物）の顏を検出する。ここで、顏検出処理について簡単に説明する。顏検出処理においては、各フレームで得られる画像データと、図４（ａ）に示すような顔パーツ４０２、４０４、４０６との相関量を求める。顔パーツ４０２は、人物の鼻部周辺の陰影のパターンに対応した画像データであり、顔パーツ４０４は、人物の目部周辺の陰影のパターンに対応した画像データであり、顔パーツ４０６は、人物の口部周辺の陰影のパターンに対応した画像データである。画像処理データと顏パーツ４０２、４０４、４０６との相関量は、図４（ｂ）に示すような、人物の顔を示す所定の配置となったときに最大となる。このとき、顏パーツ４０２、４０４、４０６を含む領域４０８に顏が存在しているとする。なお、顔パーツ４０２、４０４、４０６は予め設定した検索顔の大きさに応じて、大きさを変えても良い。ここで、図４（ｂ）では、顏領域を矩形領域としているが、円形領域としても良い。
【００３６】
特徴情報取得部の一例としての色情報取得回路１３０８は、追尾処理回路１３０５で得られた追尾位置の色情報を取得する。
メモリ制御回路１３０９は、ＣＰＵ１３０１等が、ＲＡＭ１１８、記録メディア１２８、ＲＯＭ１３４にアクセスするための制御を行うインターフェイスである。
【００３７】
操作部１３２は、ユーザによって操作される各種の操作部材である。操作部１３２としては、例えば、レリーズ釦、動画釦、モードダイヤル、選択キー、電源釦等が含まれる。
レリーズボタン釦は、１ｓｔレリーズスイッチと、２ｎｄレリーズスイッチと、を有している。１ｓｔレリーズスイッチは、ユーザがレリーズ釦を半押しするとオンするスイッチである。１ｓｔレリーズスイッチがオンすることにより、ＡＦ処理等の撮影準備動作が行われる。また、２ｎｄレリーズスイッチは、ユーザがレリーズ釦を全押しするとオンするスイッチである。２ｎｄレリーズスイッチがオンすることにより、静止画撮影用の露光動作が行われる。
動画釦は、動画撮影の開始又は終了を指示するための操作部材である。ユーザによって動画釦が押されると動画撮影処理が開始される。また、動画撮影処理の実行中に動画釦が押されると、動画撮影処理が終了される。
モードダイヤルは、撮像装置の撮影設定を選択するための操作部材である。本実施形態では、撮像装置の撮影設定として、例えば、静止画撮影モードと動画撮影モードを選択できる。静止画撮影モードは、静止画像を撮影するための撮影設定である。また、動画撮影モードは、動画像を撮影するための撮影設定である。
選択キーは、例えばメニュー画面上での項目の選択や決定をするための操作部材である。ユーザによって選択キーが操作されるとメニュー画面上での項目の選択や決定が行われる。
電源釦は、撮像装置の電源をオン又はオフするための操作部材である。ユーザによって電源釦が操作されると、撮像装置１００が起動して動作可能な状態となる。撮像装置が起動している間に電源釦が操作されると、撮像装置１００が省電力待機状態となる。
【００３８】
ＲＯＭ１３４は、ＣＰＵ１３０１が種々の処理を実行するためのプログラムコードを記憶している。また、ＲＯＭ１３４は、撮影光学系１０２、絞り１０６、及び撮像素子１１４等の動作に必要な制御パラメータ、並びに画像処理回路１３０４での画像処理に必要な制御パラメータ等の、各種の制御パラメータを記憶している。さらには、ＲＯＭ１３４は、顏検出回路１３０７における顏検出に用いられる顏パーツのデータや追尾枠を表示するためのデータ等も記憶している。
【００３９】
次に、本実施形態に係る撮像装置の動作について説明する。図５は、撮像装置１００の撮影動作を示すフローチャートである。ＣＰＵ１３０１は、ＲＯＭ１３４から必要なプログラムコードを読み込んで図５の動作を制御する。
Ｓ１００において、ＣＰＵ１３０１は、現在の撮像装置１００の撮影設定が静止画撮影モードであるかを判定する。前述したように、撮影設定は、モードダイヤルによって設定される。
【００４０】
Ｓ１００において、撮影設定が静止画撮影モードであると判定した場合に、Ｓ１０２において、ＣＰＵ１３０１は、ライブビュー動作を開始させる。ライブビュー動作として、ＣＰＵ１３０１は、シャッタ駆動機構１１２を制御してシャッタ１１０を開放した後、ＣＰＵ１３０１は、撮像素子ＩＦ回路１１６を制御して撮像素子１１４による撮像を開始させる。その後、ＣＰＵ１３０１は、撮像素子１１４による撮像の結果としてＲＡＭ１１８のワークエリアに記憶された画像データを画像処理回路１３０４に入力してライブビュー表示用の画像処理を施す。続いて、ＣＰＵ１３０１は、ライブビュー表示用の画像処理がされた画像データを表示素子駆動回路１２２に入力し、表示素子１２０に画像を表示させる。このような表示動作を繰り返し実行することにより、被写体の画像を動画表示する。この動画表示により、ユーザは、被写体を観察することが可能である。
【００４１】
Ｓ１０４において、ＣＰＵ１３０１は、１ｓｔレリーズスイッチがオンされたかを判定する。Ｓ１０４において、１ｓｔレリーズスイッチがオンされたと判定するまでは、ＣＰＵ１３０１は、ライブビュー動作を継続する。
また、Ｓ１０４において、１ｓｔレリーズスイッチがオンされたと判定した場合に、Ｓ１０６において、ＣＰＵ１３０１は、レリーズＡＦ処理を行う。レリーズＡＦにおいては、スキャン駆動によって、フォーカスレンズを合焦位置まで駆動させる。スキャン駆動では、ＣＰＵ１３０１は、焦点調整機構１０４を制御して、フォーカスレンズを所定のスキャン範囲内で一方向に駆動させつつ、ＡＦ制御回路１３０２で順次算出される合焦評価値を評価する。そして、ＣＰＵ１３０１は、合焦評価値の評価の結果、コントラストが最大となるレンズ位置において、フォーカスレンズの駆動を停止させる。このようなスキャン駆動は、ＡＦ前のフォーカスレンズの位置と合焦位置との差が大きい場合に行われる。
【００４２】
Ｓ１０８において、ＣＰＵ１３０１は、表示素子駆動回路１２２を制御して、表示素子１２０に追尾枠を表示させる。ここで、追尾枠は、表示素子１２０の画面上の追尾対象の位置に表示させる。例えば、レリーズＡＦで合焦した被写体を追尾対象とし、その被写体に追尾枠を表示させるようにしても良いし、顏検出回路１３０７によって顏が検出された場合には、その顔に追尾枠を表示させるようにしても良い。さらに、タッチパネル１２４により、表示素子１２０の画面上に表示された被写体が指定された場合には、その被写体上に追尾枠を表示させるようにしても良い。このように、本実施形態においては、ＣＰＵ１３０１、ＡＦ制御回路１３０２、顏検出回路１３０７、タッチパネル１２４等が追尾対象設定部の一例として機能する。
【００４３】
Ｓ１１０において、ＣＰＵ１３０１は、追尾処理を行う。この追尾処理の詳細については後述する。
Ｓ１１２において、ＣＰＵ１３０１は、追尾位置の被写体に合焦するようにＡＦ処理を行うとともに、追尾位置の被写体の露光が適正となるようにＡＥ処理を行う。
追尾処理後のＡＦ処理においては、スキャン駆動、またはウォブリング駆動によって、フォーカスレンズを合焦位置まで駆動させる。ウォブリング駆動では、ＣＰＵ１３０１は、フォーカスレンズを駆動したときにＡＦ制御回路１３０２で算出された合焦評価値が、前回のレンズ位置での合焦評価値に対して増加したかを判定する。そして、ＣＰＵ１３０１は、合焦評価値が増加した場合には前回と同方向にフォーカスレンズを微小駆動させ、合焦評価値が減少した場合には前回と逆方向にフォーカスレンズを微小駆動させる。このような動作を高速で繰り返してフォーカスレンズを徐々に合焦位置まで駆動させる。
【００４４】
また、ＡＥ処理において、ＣＰＵ１３０１は、ＡＥ制御回路１３０３で算出された追尾位置の被写体の輝度を予め定められた適正な量（適正露光量）とする、本露光時の絞り１０６の開口量（絞り値）、シャッタ１１０の開放時間（シャッタ速度値）を算出する。
【００４５】
Ｓ１１４において、ＣＰＵ１３０１は、２ｎｄレリーズスイッチがオンされたかを判定する。Ｓ１１４において、２ｎｄレリーズスイッチがオンされていないと判定した場合に、ＣＰＵ１３０１は、Ｓ１１０の追尾処理以後の処理を実行する。このように、静止画撮影モード時には、２ｎｄレリーズスイッチがオンされるまでは、追尾処理が継続される。
【００４６】
また、Ｓ１１４において、２ｎｄレリーズスイッチがオンされたと判定した場合に、Ｓ１１６において、ＣＰＵ１３０１は、表示素子駆動回路１２２を制御して、追尾枠を非表示とする。
Ｓ１１８において、ＣＰＵ１３０１は、静止画像データを記録メディア１２８に記録する処理を行う。この際、ＣＰＵ１３０１は、シャッタ駆動機構１１２を制御して、シャッタ１１０を閉じる。その後、ＣＰＵ１３０１は、絞り駆動機構１０８を制御して、絞り１０６を先に算出した絞り値まで絞り込む。続いて、ＣＰＵ１３０１は、シャッタ駆動機構１１２を制御して、シャッタ１１０を先に算出した開放時間だけ開放しつつ、撮像素子１１４による撮像（露光）を行う。その後、ＣＰＵ１３０１は、撮像素子１１４を介して得られた静止画像データを画像処理回路１３０４において処理する。そして、ＣＰＵ１３０１は、画像処理回路１３０４において処理された静止画像データにヘッダを付与して静止画像ファイルを生成し、生成した静止画像ファイルを記録メディア１２８に記録する。
Ｓ１２０において、ＣＰＵ１３０１は、Ｓ１１０の追尾処理の結果として得られた追尾位置を示すデータを、先に記録メディア１２８に記録した静止画像ファイルに追記する。その後に、ＣＰＵ１３０１は、図５に示す動作を終了させる。
【００４７】
また、Ｓ１００において、撮影設定が動画撮影モードであると判定した場合に、Ｓ１２２において、ＣＰＵ１３０１は、ライブビュー動作を開始させる。
Ｓ１２４において、ＣＰＵ１３０１は、動画釦がオンされたかを判定する。Ｓ１２４において、動画釦がオンされたと判定するまでは、ＣＰＵ１３０１は、ライブビュー動作を継続する。
【００４８】
また、Ｓ１２４において、動画釦がオンされたと判定した場合に、Ｓ１２６において、ＣＰＵ１３０１は、表示素子駆動回路１２２を制御して、表示素子１２０に追尾枠を表示させる。
Ｓ１２８において、ＣＰＵ１３０１は、追尾処理を行う。この追尾処理の詳細については、後述する。
【００４９】
Ｓ１３０において、ＣＰＵ１３０１は、追尾位置の被写体に合焦するようにＡＦ処理を行うともに、追尾位置の被写体の露光が適正となるようにＡＥ処理を行う。Ｓ１３０におけるＡＦ処理おいては、ウォブリング駆動によって、フォーカスレンズを合焦位置まで駆動させる。
【００５０】
Ｓ１３２において、ＣＰＵ１３０１は、動画像データを記録メディア１２８に記録する処理を行う。この際、ＣＰＵ１３０１は、絞り駆動機構１０８を制御して、絞り１０６をＡＥ処理において算出した絞り値まで絞り込む。続いて、ＣＰＵ１３０１は、ＡＥ処理において算出したシャッタ速度値に対応した時間だけ撮像素子１１４による撮像（露光）を実行させる。露光の終了後、ＣＰＵ１３０１は、動画像ファイルを生成して記録メディア１２８に記録する。また、ＣＰＵ１３０１は、撮像素子１１４を介して得られた動画像データを画像処理回路１３０４において処理し、画像処理回路１３０４において処理された動画像データを動画像ファイルに記録する。
【００５１】
Ｓ１３４において、ＣＰＵ１３０１は、Ｓ１２８の追尾処理の結果として得られた追尾位置を示すデータを、先に記録メディア１２８に記録した動画像ファイルと同時記録する。
Ｓ１３６において、ＣＰＵ１３０１は、動画釦がオフされたかを判定する。Ｓ１３６において、動画釦がオフされていないと判定した場合に、ＣＰＵ１３０１は、Ｓ１２８の追尾処理以後の処理を実行する。このように、動画撮影モード時では、動画釦がオフされるまでは、追尾処理と動画像データの記録が継続される。
【００５２】
また、Ｓ１３６において、動画釦がオフされたと判定した場合に、Ｓ１３８において、ＣＰＵ１３０１は、表示素子駆動回路１２２を制御して、追尾枠を非表示とする。その後、ＣＰＵ１３０１は、図５に示す動作を終了させる。
以下、本一実施形態に係る追尾方法としての追尾処理について図６乃至図８を参照して説明する。本実施形態においては、複数の追尾処理を併用して追尾対象の追尾を行う。図６は、本発明の一実施形態に係る追尾方法としての追尾処理について示すフローチャートである。図７及び図８は、本発明の一実施形態に係る追尾方法としての追尾処理について示すタイミングチャートである。
【００５３】
図７及び図８に記載の“画像データ”は“ＲＡＷデータ”を示しており、“画像処理データ”は“ＲＡＷデータに対して上述の“特殊な処理”を施して生成したデータ（例えばＹＣデータや複数フレームを一つのフレームに合成した画像データ）“を示している。また、図７及び図８に示されている各グラフは、それぞれ上から順に“垂直同期信号ＶＤのＯＮ／ＯＦＦ期間”、“撮像素子１１４の露光期間”、“ＲＡＷデータの生成期間”、“画像処理データの生成期間”、“第１の特徴情報（輝度情報）を利用する追尾処理期間”、“第２の特徴情報（色情報）を利用する追尾処理期間”、“被写体の顔部位を利用する追尾処理期間”、“何れの追尾処理を利用するかの判定及び追尾位置の信頼性の判定期間”、“追尾枠の表示位置の更新期間”を示している。
【００５４】
図７及び図８に示すように、ＣＰＵ１３０１からの垂直同期信号ＶＤに同期して、撮像素子１１４は露光を開始し、予め設定された期間（１フレーム分）だけ露光する。すなわち、ＣＰＵ１３０１は、垂直同期信号ＶＤにより撮像素子ＩＦ回路１１６を制御して撮像素子１１４による撮像を実行する。そして、ＣＰＵ１３０１は、撮像素子１１４による撮像により、撮像素子ＩＦ回路１１６において得られた画像データをＲＡＭ１１８に取り込む。
【００５５】
なお、初回の追尾処理で得られた画像データは、評価画像データとする。このため、ＣＰＵ１３０１は、初回の追尾処理で得られた画像データをＲＡＭ１１８の評価画像エリアに取り込む。また、２回目以後の追尾処理で得られた画像データは、参照画像データとする。このため、ＣＰＵ１３０１は、２回目以後の追尾処理で得られた画像データをＲＡＭ１１８の参照画像エリアに取り込む。
【００５６】
また、初回の追尾処理においては、評価画像データのみが取得された状態であるので、Ｓ２０３乃至Ｓ２１９の処理、及びＳ２２２乃至Ｓ２３２の処理は省略される。以後の説明においては、評価画像データと参照画像データの両方が取得されているものとして説明を続ける。
【００５７】
Ｓ２０１において、ＣＰＵ１３０１は、画像処理回路１３０４による画像処理に要する時間が、所定の閾値以上であるか否かを判定する。つまり、“画像処理時間≧閾値”であるか否かを判定する。例えば、当該撮像装置１００が“第２の画像生成モード”に設定されている場合であって“特殊な処理”を行う場合等の、追尾性能の劣化が生じる可能性がある場合には“画像処理時間≧閾値”となる。当該撮像装置１００が“第１の画像生成モード”に設定されている場合には、画像処理回路１３０４による“特殊な処理”を行わないため“画像処理時間＜閾値”となる。
【００５８】
このＳ２０１における判定結果に基づいて、以降の追尾処理工程を切り換えることによって、ＣＰＵ１３０１は、例えば当該撮像装置１００が“第２の画像生成モード”に設定されている場合等の、追尾性能の劣化が生じる可能性がある場合であっても、適切な追尾処理を実行することができる。
【００５９】
“画像処理時間≧閾値”の場合には、図８に示すように、顔検出による追尾処理の結果を含めると“追尾結果判断（図６のフローチャートにおける追尾位置設定ステップ）”で決定された当該最終的な追尾位置を、輝度情報／色情報を利用した次回の追尾処理における開始位置とすることができない。このことを鑑み、被写体の顔部位が検出された場合には、Ｓ２０１乃至Ｓ２０６の一連の処理によって顔部位のみを利用した追尾処理を実行し、他方、被写体の顔部位が検出されない場合には、Ｓ２１１乃至Ｓ２１９の一連の処理によって、輝度情報／色情報のみを利用した追尾処理を実行する。以下、詳細に説明する。
【００６０】
Ｓ２０１において、画像処理回路１３０４による画像処理時間が所定の閾値以上であると判定した場合、ＣＰＵ１３０１は、Ｓ２０２において“画像処理データ”を取得する。この“画像処理データ”は、当該フレームの直前フレーム生成中に撮像素子１１４が垂直同期信号ＶＤに同期して露光した信号に基づく画像データ（ＲＡＷデータ）に、画像処理回路１３０４によって所定の画像処理を施して生成した画像データである。
【００６１】
Ｓ２０３において、ＣＰＵ１３０１は顏検出回路１３０７によって被写体の顏部位の検出処理を実行し、Ｓ２０４において、顔部位が検出されたか否かを判定する。
Ｓ２０４において、顔部位を検出したと判定した場合、ＣＰＵ１３０１はＳ２０５において顔部位の中から追尾位置（例えば顔部位領域の重心位置）を演算し、顔部位を用いた追尾処理を行う。顔部位を用いた追尾処理については、前述したので説明を省略する。
【００６２】
Ｓ２０６において、ＣＰＵ１３０１は、Ｓ２０５で演算した参照画像データの最終的な追尾位置を、ＲＡＭ１１８の追尾ログエリアに記録する。
【００６３】
Ｓ２１０において、ＣＰＵ１３０１は、表示素子駆動回路１２２を制御して、追尾枠の表示位置をＳ２０６で記憶させた追尾位置に対応した位置に更新する。その後、ＣＰＵ１３０１は、図６の追尾処理を終了させる。
ところで、Ｓ２０４において顔部位が検出されていないと判定した場合、ＣＰＵ１３０１は、Ｓ２１１において“画像データ（ＲＡＷデータ）”を取得する。この“画像データ”は、当該フレームの直前フレーム生成中に撮像素子１１４が垂直同期信号ＶＤに同期して露光した信号に基づく画像データ（ＲＡＷデータ）である。
【００６４】
Ｓ２１２及びＳ２１３において、ＣＰＵ１３０１は、追尾処理回路１３０５により、第１の追尾処理としての輝度情報を用いた追尾処理を行う（輝度情報の検出と追尾位置の演算）。輝度情報を用いた追尾処理については、前述したので説明を省略する。なお、ＣＰＵ１３０１は、Ｓ２１２及びＳ２１３の処理（輝度情報を用いた追尾処理）の結果として得られた追尾位置を、第１の候補追尾位置としてＲＡＭ１１８の追尾ログエリアに記憶させる。
【００６５】
Ｓ２１４において、ＣＰＵ１３０１は、Ｓ２１３で得られた追尾位置の信頼性を判断する。例えば参照画像データのコントラストから信頼性を判断する。具体的には、参照画像データにおける追尾対象の領域の隣接画素間の差分和が所定値以下である場合には、信頼性があると判断する。信頼性を判定するための閾値は適宜設定可能である。
【００６６】
Ｓ２１５及びＳ２１６において、ＣＰＵ１３０１は、追尾処理回路１３０６により、第２の追尾処理としての色情報を用いた追尾処理を行う（色情報の検出と追尾位置の演算）。色情報を用いた追尾処理については、前述したので説明を省略する。なお、ＣＰＵ１３０１は、Ｓ２１５及びＳ２１６の処理（色情報を用いた追尾処理）の結果として得られた追尾位置を、第２の候補追尾位置としてＲＡＭ１１８の追尾ログエリアに記憶させる。
【００６７】
Ｓ２１７において、ＣＰＵ１３０１は、Ｓ２１６で得られた追尾位置の信頼性を判断する。例えば参照画像データの彩度から信頼性を判断する。具体的には、参照画像データの追尾位置の彩度が所定値以上である場合には、信頼性があると判断する。信頼性を判定するための閾値は適宜設定可能である。
【００６８】
Ｓ２１８において、ＣＰＵ１３０１は、追尾位置の判定処理を行う。この追尾位置の判定処理は、輝度情報を用いた追尾処理の結果と色情報を用いた追尾処理の結果との何れを採用するかを判定する処理である。この追尾位置の判定処理は、例えば各特徴情報に基づいて演算した追尾位置の信頼性に基づく判定処理とすればよい。
【００６９】
Ｓ２１９において、ＣＰＵ１３０１は、Ｓ２１８の判定結果に基づいて採用した最終的な追尾位置のみを、ＲＡＭ１１８の追尾ログエリアに記録する。次回の追尾処理においては、輝度情報を用いた追尾処理と色情報を用いた追尾処理の両方で、この最終的な追尾位置を追尾処理の開始位置とする。
【００７０】
そして、Ｓ２１０において、ＣＰＵ１３０１は、表示素子駆動回路１２２を制御して、追尾枠の表示位置をＳ２１９で記憶させた追尾位置に対応した位置に更新する。その後、ＣＰＵ１３０１は、図６の追尾処理を終了させる。
ところで、“画像処理時間＜閾値”の場合には、図７に示すように、顔検出による追尾処理の結果を含めても“追尾結果判断（図６のフローチャートにおける追尾位置設定ステップ）”で決定された当該最終的な追尾位置を、輝度情報／色情報を利用した次回の追尾処理における開始位置とすることができる。従って、被写体の顔部位を利用した追尾処理と、輝度情報／色情報を利用した追尾処理との双方を実行する。以下、詳細に説明する。
【００７１】
Ｓ２０１において、画像処理回路１３０４による画像処理時間が所定の閾値以上ではないと判定した場合、ＣＰＵ１３０１は、Ｓ２２１において“画像データ（ＲＡＷデータ）”を取得する。この“画像データ”は、当該フレームの直前フレーム生成中に撮像素子１１４が垂直同期信号ＶＤに同期して露光した信号に基づく画像データ（ＲＡＷデータ）である。
【００７２】
Ｓ２２２及びＳ２２３において、ＣＰＵ１３０１は、追尾処理回路１３０５により、第１の追尾処理としての輝度情報を用いた追尾処理を行う（輝度情報の検出と追尾位置の演算）。輝度情報を用いた追尾処理については、前述したので説明を省略する。なお、ＣＰＵ１３０１は、Ｓ２２２及びＳ２２３の処理（輝度情報を用いた追尾処理）の結果として得られた追尾位置を、第１の候補追尾位置としてＲＡＭ１１８の追尾ログエリアに記憶させる。
【００７３】
Ｓ２２４において、ＣＰＵ１３０１は、Ｓ２１３で得られた追尾位置の信頼性を判断する。例えば参照画像データのコントラストから信頼性を判断する。具体的な判断方法については、前述したので説明を省略する。
Ｓ２２５及びＳ２２６において、ＣＰＵ１３０１は、追尾処理回路１３０６により、第２の追尾処理としての色情報を用いた追尾処理を行う（色情報の検出と追尾位置の演算）。色情報を用いた追尾処理については、前述したので説明を省略する。なお、ＣＰＵ１３０１は、Ｓ２２５及びＳ２２６の処理（色情報を用いた追尾処理）の結果として得られた追尾位置を、第２の候補追尾位置としてＲＡＭ１１８の追尾ログエリアに記憶させる。
【００７４】
Ｓ２２７において、ＣＰＵ１３０１は、Ｓ２１６で得られた追尾位置の信頼性を判断する。例えば参照画像データの彩度から信頼性を判断する。具体的な判断方法については、前述したので説明を省略する。
Ｓ２２８において、ＣＰＵ１３０１は“画像処理データ”を取得する。この“画像処理データ”は、当該フレームの直前フレーム生成中に撮像素子１１４が垂直同期信号ＶＤに同期して露光した信号に基づく画像データ（ＲＡＷデータ）に、画像処理回路１３０４によって所定の画像処理を施して生成した画像データである。
【００７５】
Ｓ２２９において、ＣＰＵ１３０１は顏検出回路１３０７によって被写体の顏部位の検出処理を実行する。
Ｓ２３０において、ＣＰＵ１３０１は顔部位の中から追尾位置（例えば顔部位領域の重心位置）を演算し、顔部位を用いた追尾処理を行う。顔部位を用いた追尾処理については、前述したので説明を省略する。
【００７６】
Ｓ２３１において、ＣＰＵ１３０１は、追尾位置の判定処理を行う。この追尾位置の判定処理は、輝度情報を用いた追尾処理の結果と、色情報を用いた追尾処理の結果と、顔部位を用いた追尾処理の結果とのうち何れを採用するかを判定する処理である。この追尾位置の判定処理は、例えば各特徴情報に基づいて演算した追尾位置の信頼性に基づく判定処理としたり、条件に応じて顔部位を用いた追尾処理を優先したりすればよい。
【００７７】
Ｓ２３２において、ＣＰＵ１３０１は、Ｓ２３１の判定結果に基づいて採用した最終的な追尾位置のみを、ＲＡＭ１１８の追尾ログエリアに記録する。次回の追尾処理においては、輝度情報を用いた追尾処理と色情報を用いた追尾処理の両方で、この最終的な追尾位置を追尾処理の開始位置とする。
【００７８】
以上説明したように、本一実施形態によれば、例えば特殊な画像処理を行う場合等の、追尾性能の劣化が生じ得る場合であっても、適切な追尾処理を行うことができる追尾装置及び追尾方法を提供することができる。
なお、上述の例では、追尾処理に用いる特徴情報として色情報、輝度情報、及び被写体顔部位を挙げているが、その他にも例えば輪郭情報を所謂シルエット検出により検出し、これを用いて追尾処理を行っても勿論よい。
【００７９】
ところで、ライブビュー表示における表示フレームレートは、画像処理回路１３０４による画像処理時間に応じて変化する為、第１の画像生成モードが設定された場合の画像表示に係るフレームレートと、第２の画像生成モードが設定された場合の画像表示に係るフレームレートとを互いに異なるフレームレートとすることが好ましい。
【００８０】
以上実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。また、前述の動作の説明において、便宜上「まず」、「次に」等を用いて動作を説明しているが、この順で動作を実施することが必須であることを意味するものではない。
以上説明した実施形態においては、画像処理時間と閾値とに応じて処理を切り替えているが、追尾演算の処理を切り替える為の判断基準はこれに限らない。以下、応用例として前記判断基準のバリエーションを説明する。
第１の応用例として、処理に時間がかかる画像処理モードと、時間がかからない画像処理モードとで追尾処理を切替えるといったように、設定されている画像処理モードを追尾演算切換えの判断基準にしてもよい。
第２の応用例として、画像処理を優先する場合には追尾処理を簡略化し、追尾処理を優先する場合には画像処理を簡略化するといったように、処理毎の優先順位を追尾演算切換えの判断基準にしてもよい。
第３の応用例として、例えば輝度で追尾するのに適した被写体の場合には輝度追尾処理を優先して他の追尾処理を簡略化し、色で追尾するのに適した被写体の場合には色追尾処理を優先して他の追尾処理を簡略化するといったように、被写体の特徴を追尾演算切換えの判断基準にしてもよい。
第４の応用例として、例えば連写中に追尾を行う場合、低速度の連写選択時には精度を優先し通常の追尾処理を行い、高速度の連写選択時には速度を優先し追尾処理を簡略化するといったように、カメラの設定を追尾演算切換えの判断基準にしてもよい。
第５の応用例として、撮影レンズの焦点距離が短い(画角が広い)場合には精度を優先し通常の追尾処理を行い、焦点距離が長い(画角が狭い)場合は速度を優先し追尾処理を簡略化するといったように、レンズの焦点距離を追尾演算切換えの判断基準にしてもよい。
【００８１】
さらに、上記した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適当な組合せにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、上述したような課題を解決でき、上述したような効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。
【符号の説明】
【００８２】
１００…撮像装置、１０２…撮影光学系、１０４…焦点調整機構、１０６…絞り、１０８…絞り駆動機構、１１０…シャッタ、１１２…シャッタ駆動機構、１１４…撮像素子、１１６…撮像素子インターフェイス（ＩＦ）回路、１１８…ＲＡＭ、１２０…表示素子、１２２…表示素子駆動回路、１２４…タッチパネル、１２６…タッチパネル駆動回路、１２８…記録メディア、１３０…システムコントローラ、１３２…操作部、１３４…ＲＯＭ、１３０１…ＣＰＵ、１３０２…ＡＦ制御回路、１３０３…ＡＥ制御回路、１３０４…画像処理回路、１３０５，１３０６…追尾処理回路、１３０７…顏検出回路、１３０８…色情報取得回路、１３０９…メモリ制御回路
【特許請求の範囲】
【請求項１】
撮影して得た画像データである第１の画像データを生成する第１の画像生成モードと、前記第１の画像データを生成すると共に前記第１の画像データに所定の処理を施した第２の画像データを生成する第２の画像生成モードと、のうち何れかの画像生成モードを設定する作画モード設定部と、
当該追尾装置に入力された画像データを、前記作画モード設定部の設定に応じて処理する画像処理部と、
前記画像処理部により処理された画像データについて特徴情報を検出し、且つ、被写体の顔部位を検出する追尾検出部と、
前記特徴情報または前記顔部位に基づいて、追尾対象の移動位置を演算する追尾演算部と、
前記第２の画像生成モードが設定された場合には、前記追尾演算部による演算を、前記第１の画像生成モードが設定された場合に実行する演算とは異なる演算に切り換える演算切換部と、
を具備することを特徴とする追尾装置。
【請求項２】
前記演算切換部は、前記第２の画像生成モードが設定された場合には、前記追尾検出部による前記被写体の顔部位の検出の有無に応じて、前記追尾演算部による演算を切り換える
ことを特徴とする請求項１に記載の追尾装置。
【請求項３】
前記演算切換部は、前記追尾検出部により前記被写体の顔部位が検出された場合には、前記追尾演算部による演算を前記被写体の顔部位の検出結果に基づいた演算に切り換え、前記被写体の顔部位が検出されなかった場合には、前記追尾演算部による演算を前記特徴情報に基づいた演算に切り換える
ことを特徴とする請求項１に記載の追尾装置。
【請求項４】
前記特徴情報は、色情報、輝度情報、輪郭情報のうち少なくとも何れかひとつの情報である
ことを特徴とする請求項１に記載の追尾装置。
【請求項５】
前記所定の処理は、複数フレームの画像データを合成して１つのフレームの前記第２の画像データを生成する処理、１フレームの画像データに対して行う光学的処理または現像に類する処理、及び１フレームの画像データの一部を切り出して複数の前記第２の画像データを生成する処理、のうち少なくとも何れか一つの処理である
ことを特徴とする請求項１に記載の追尾装置。
【請求項６】
前記第１の画像生成モードが設定された場合の画像表示に係るフレームレートと、前記第２の画像生成モードが設定された場合の画像表示に係るフレームレートとは異なる
ことを特徴とする請求項１に記載の追尾装置。
【請求項７】
前記第２の画像生成モードが設定された場合には、前記所定の画像処理に対して前記追尾演算を優先して処理する
ことを特徴とする請求項１に記載の追尾装置。
【請求項８】
前記第２の画像生成モードが設定された場合には、前記追尾演算に対して前記所定の画像処理を優先して処理する場合には、前記追尾演算の処理のうち一部の処理を実行しない
ことを特徴とする請求項１に記載の追尾装置。
【請求項９】
撮影して得た画像データである第１の画像データを生成する第１の画像生成モードと、前記第１の画像データを生成すると共に前記第１の画像データに所定の処理を施した第２の画像データを生成する第２の画像生成モードと、のうち何れかの画像生成モードを設定し、
入力された画像データを、前記作画モード設定部の設定に応じて処理し、
前記処理された画像データについて特徴情報を検出し、且つ、被写体の顔部位を検出し、
前記特徴情報または前記顔部位に基づいて、追尾対象の移動位置を演算し、
前記第２の画像生成モードが設定された場合には、前記追尾演算部による演算を、前記第１の画像生成モードが設定された場合に実効する演算とは異なる演算に切り換える、
ことを特徴とする追尾方法。
【請求項１】
撮影して得た画像データである第１の画像データを生成する第１の画像生成モードと、前記第１の画像データを生成すると共に前記第１の画像データに所定の処理を施した第２の画像データを生成する第２の画像生成モードと、のうち何れかの画像生成モードを設定する作画モード設定部と、
当該追尾装置に入力された画像データを、前記作画モード設定部の設定に応じて処理する画像処理部と、
前記画像処理部により処理された画像データについて特徴情報を検出し、且つ、被写体の顔部位を検出する追尾検出部と、
前記特徴情報または前記顔部位に基づいて、追尾対象の移動位置を演算する追尾演算部と、
前記第２の画像生成モードが設定された場合には、前記追尾演算部による演算を、前記第１の画像生成モードが設定された場合に実行する演算とは異なる演算に切り換える演算切換部と、
を具備することを特徴とする追尾装置。
【請求項２】
前記演算切換部は、前記第２の画像生成モードが設定された場合には、前記追尾検出部による前記被写体の顔部位の検出の有無に応じて、前記追尾演算部による演算を切り換える
ことを特徴とする請求項１に記載の追尾装置。
【請求項３】
前記演算切換部は、前記追尾検出部により前記被写体の顔部位が検出された場合には、前記追尾演算部による演算を前記被写体の顔部位の検出結果に基づいた演算に切り換え、前記被写体の顔部位が検出されなかった場合には、前記追尾演算部による演算を前記特徴情報に基づいた演算に切り換える
ことを特徴とする請求項１に記載の追尾装置。
【請求項４】
前記特徴情報は、色情報、輝度情報、輪郭情報のうち少なくとも何れかひとつの情報である
ことを特徴とする請求項１に記載の追尾装置。
【請求項５】
前記所定の処理は、複数フレームの画像データを合成して１つのフレームの前記第２の画像データを生成する処理、１フレームの画像データに対して行う光学的処理または現像に類する処理、及び１フレームの画像データの一部を切り出して複数の前記第２の画像データを生成する処理、のうち少なくとも何れか一つの処理である
ことを特徴とする請求項１に記載の追尾装置。
【請求項６】
前記第１の画像生成モードが設定された場合の画像表示に係るフレームレートと、前記第２の画像生成モードが設定された場合の画像表示に係るフレームレートとは異なる
ことを特徴とする請求項１に記載の追尾装置。
【請求項７】
前記第２の画像生成モードが設定された場合には、前記所定の画像処理に対して前記追尾演算を優先して処理する
ことを特徴とする請求項１に記載の追尾装置。
【請求項８】
前記第２の画像生成モードが設定された場合には、前記追尾演算に対して前記所定の画像処理を優先して処理する場合には、前記追尾演算の処理のうち一部の処理を実行しない
ことを特徴とする請求項１に記載の追尾装置。
【請求項９】
撮影して得た画像データである第１の画像データを生成する第１の画像生成モードと、前記第１の画像データを生成すると共に前記第１の画像データに所定の処理を施した第２の画像データを生成する第２の画像生成モードと、のうち何れかの画像生成モードを設定し、
入力された画像データを、前記作画モード設定部の設定に応じて処理し、
前記処理された画像データについて特徴情報を検出し、且つ、被写体の顔部位を検出し、
前記特徴情報または前記顔部位に基づいて、追尾対象の移動位置を演算し、
前記第２の画像生成モードが設定された場合には、前記追尾演算部による演算を、前記第１の画像生成モードが設定された場合に実効する演算とは異なる演算に切り換える、
ことを特徴とする追尾方法。
【図１】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【図２】
【図３】
【図４】
【図５】
【図６】
【図７】
【図８】
【公開番号】特開２０１３−１２９４４（Ｐ２０１３−１２９４４Ａ）
【公開日】平成２５年１月１７日（２０１３．１．１７）
【国際特許分類】
【出願番号】特願２０１１−１４４７７５（Ｐ２０１１−１４４７７５）
【出願日】平成２３年６月２９日（２０１１．６．２９）
【出願人】（５０４３７１９７４）オリンパスイメージング株式会社 (2,647)
【Ｆターム（参考）】
【公開日】平成２５年１月１７日（２０１３．１．１７）
【国際特許分類】
【出願日】平成２３年６月２９日（２０１１．６．２９）
【出願人】（５０４３７１９７４）オリンパスイメージング株式会社 (2,647)
【Ｆターム（参考）】
[ Back to top ]