追尾枠の初期位置設定装置およびその動作制御方法
【目的】ターゲット画像の自動追尾を比較的容易にする。
【構成】被写体を撮像して得られる画像を表示画面に表示し,追尾枠を表示画面の中央部分の基準位置に表示する(ステップ31)。追尾枠の周りに追尾枠初期位置設定対象領域を設定し(ステップ32),その領域内の画像の高周波数成分を表す高周波数成分画像を生成する(ステップ33)。高周波数成分画像内において移動枠を移動させながら,高周波数成分量を算出する(ステップ34)。算出された高周波数成分量が最大となる移動枠の位置を追尾枠の初期位置と決定する(ステップ35)。
【構成】被写体を撮像して得られる画像を表示画面に表示し,追尾枠を表示画面の中央部分の基準位置に表示する(ステップ31)。追尾枠の周りに追尾枠初期位置設定対象領域を設定し(ステップ32),その領域内の画像の高周波数成分を表す高周波数成分画像を生成する(ステップ33)。高周波数成分画像内において移動枠を移動させながら,高周波数成分量を算出する(ステップ34)。算出された高周波数成分量が最大となる移動枠の位置を追尾枠の初期位置と決定する(ステップ35)。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は,ターゲット画像の自動追尾装置における追尾枠の初期位置設定装置およびその動作制御方法に関する。
【背景技術】
【0002】
ディジタル・カメラ(ディジタル・スチル・カメラ,ディジタル・ムービ・ビデオ・カメラ,ディジタル・カメラを備えた携帯電話を含む)には,ターゲット画像を追尾するものがある(特許文献1,2)。人物を撮像し,特定の人物の顔画像をターゲット画像(顔画像に限らず,人物,自動車など,どのような画像でもよい。)として,その顔画像を追尾することにより,動画のように多数フレームの画像から構成される画像において,特定の人物の顔画像の部分に枠を表示しつづけることができる。特定の人物を見失うことなく,撮像できる。
【0003】
ターゲット画像を追尾する場合,ターゲット画像を設定する必要がある。ターゲット画像の設定はユーザがターゲット画像を指定することにより行うことが多い。しかしながら,特徴がなく追尾しづらいターゲット画像を指定してしまうと,追尾が難しくなる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平5-6434号公報
【特許文献2】特開平10-123229号公報
【発明の概要】
【0005】
この発明は,ターゲット画像を追尾しやすいように追尾枠の初期位置を決定することを目的とする。
【0006】
この発明は,多数のフレームの画像を表す画像データを1フレームずつ順に入力し,入力した画像データによって表される画像に含まれる追尾対象のターゲット画像を囲む追尾枠を,表示装置の表示画面に表示するターゲット画像の自動追尾装置における追尾枠の初期位置設定装置において,ターゲット画像の自動追尾装置に入力した画像データによって表される一の画像を上記表示画面に表示し,かつ追尾枠を上記表示画面の基準位置に表示するように上記表示装置を制御する表示制御手段,上記表示制御手段の制御のもとに基準位置に表示された追尾枠よりも大きく,かつ上記一の画像以下の大きさであって,上記表示制御手段の制御のもとに基準位置に表示された追尾枠を含む追尾枠初期位置設定対象領域を,上記一の画像に設定する対象領域設定手段,上記対象領域設定手段によって設定された初期位置設定対象領域内の画像において,移動枠を移動し,移動したごとに移動枠内の画像の高周波数成分の量を算出する特定周波数成分量算出手段,および上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上または最大となる移動枠の位置を追尾枠の初期位置と決定する決定手段を備えていることを特徴とする。
【0007】
この発明は,上記追尾枠の初期位置設定装置に適した動作制御方法も提供している。すなわち,この方法は,多数のフレームの画像を表す画像データを1フレームずつ順に入力し,入力した画像データによって表される画像に含まれる追尾対象のターゲット画像を囲む追尾枠を,表示装置の表示画面に表示するターゲット画像の自動追尾装置における追尾枠の初期位置設定装置の動作制御方法において,表示制御手段が,ターゲット画像の自動追尾装置に入力した画像データによって表される一の画像を上記表示画面に表示し,かつ追尾枠を上記表示画面の基準位置に表示するように上記表示装置を制御し,対象領域設定手段が,上記表示制御手段の制御のもとに基準位置に表示された追尾枠よりも大きく,かつ上記一の画像以下の大きさであって,上記表示制御手段の制御のもとに基準位置に表示された追尾枠を含む追尾枠初期位置設定対象領域を,上記一の画像に設定し,特定周波数成分量算出手段が,上記対象領域設定手段によって設定された初期位置設定対象領域内の画像において,移動枠を移動し,移動したごとに移動枠内の画像の高周波数成分の量を算出し,決定手段が,上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上または最大となる移動枠の位置を追尾枠の初期位置と決定するものである。
【0008】
この発明によると,自動追尾装置には多数のフレームの画像を表す画像データが1フレームずつ順に入力し,自動追尾装置に入力した画像データによって表される一の画像が表示装置の表示画面に表示される。また,追尾枠が表示画面の基準位置(例えば,表示画面の中央であるが中央に限らない)に表示される。追尾枠の初期位置決定処理の開始指令が与えられると,追尾枠よりも大きく,かつ一の画像(表示画面)以下の大きさであって,追尾枠を含む追尾枠初期位置設定対象領域が一の画像に設定される。設定された領域内において,移動枠が移動し,移動したごとに移動枠内の画像の高周波数成分量が算出される。算出された高周波数成分量が所定のしきい値以上または最大となるような移動枠の位置が追尾枠の初期位置として決定される。高周波数成分量がしきい値以上または最大となるような移動枠の位置の画像はエッジ成分が多く追尾しやすい。そのような位置が追尾枠の初期位置となるので,一の画像以降に入力する画像についてターゲット画像(追尾枠内の画像)の追尾が比較的容易となる。
【0009】
上記ターゲット画像の自動追尾装置に入力する画像データはカラー画像データの場合には,上記対象領域設定手段によって設定された初期位置設定対象領域内の画像内において,移動枠を移動し,移動したごとに移動枠内の画像の所定の色成分(たとえば,赤色成分,緑色成分,青色成分など)成分量を算出する色成分量算出手段を備えてもよい。この場合,上記決定手段は,たとえば,上記色成分量算出手段によって算出された成分量が所定のしきい値以上または最大となる移動枠の位置を初期位置と決定するものである。
【0010】
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御する第1の制御手段をさらに備えてもよい。
【0011】
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記色成分量算出処理を行うように上記色成分量算出手段を制御する第1の制御手段をさらに備えてもよい。
【0012】
移動枠の拡大指令を与える拡大指令手段をさらに備えてもよい。この場合,上記第1の制御手段は,たとえば,上記拡大指令手段から拡大指令が与えられており,かつ上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御するものである。また,上記第2の制御手段は,たとえば,上記拡大指令手段から拡大指令が与えられており,かつ上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記色成分量算出処理を行うように上記色周波数成分量算出手段を制御するものである。
【0013】
移動枠の拡大率を設定する拡大率設定手段をさらに備えてもよい。この場合,上記第1の制御手段は,たとえば,上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,上記拡大率設定手段によって設定された拡大率にしたがって移動枠を大きくして,上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御するものである。また,上記第2の制御手段は,たとえば,上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,上記拡大率設定手段によって設定された拡大率にしたがって移動枠を大きくして,上記色成分量算出処理を行うように上記色成分量算出手段を制御するものである。
【0014】
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,上記一の画像を小さくして,上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御する第3の制御手段をさらに備えてもよい。
【0015】
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,上記一の画像を小さくして,上記色成分量算出処理を行うように上記色成分量算出手段を制御する第4の制御手段をさらに備えてもよい。
【0016】
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,追尾処理ができないことを報知する第1の報知手段をさらに備えてもよい。
【0017】
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,追尾処理ができないことを報知する第2の報知手段をさらに備えてもよい。
【0018】
上記第1の報知手段は,たとえば,音声出力または移動枠の表示形態の変更により追尾処理ができないことを報知するものでもよいし,移動枠の色,線の種類もしくは形状または移動枠の点灯もしくは点滅手法の変更により追尾処理ができないことを報知するものでもよい。
【0019】
上記第2の報知手段も,音声出力または移動枠の表示形態の変更により追尾処理ができないことを報知するものでもよいし,移動枠の色,線の種類もしくは形状または移動枠の点灯もしくは点滅手法の変更により追尾処理ができないことを報知するものでもよい。
【0020】
上記対象領域設定手段は,たとえば,上記基準位置が中心となるように追尾枠初期位置設定領域を上記一の画像に設定するものである。この場合,上記特定周波数成分量算出手段は,たとえば,上記移動枠を上記基準位置から外側に移動し,移動したごとに移動枠内の画像の高周波数成分量を算出するものである。
【0021】
上記対象領域設定手段は,上記基準位置が中心となるように追尾枠初期位置設定領域を上記一の画像に設定するものでもよい。この場合,上記色成分量算出手段は,たとえば,上記移動枠を上記基準位置から外側に移動し,移動したごとに移動枠内の画像の所定の色成分の成分量を算出するものである。
【0022】
上記特定周波数成分量算出手段は,上記移動枠を移動し,移動したごとに移動枠内の画像の低周波数成分量または高周波数成分を除いた中間周波数成分量を算出するものであり,上記決定手段は,上記特定周波数成分量算出手段によって算出された低周波数成分量または中間周波数成分量が所定のしきい値以上となる移動枠の位置を追尾枠の初期位置と決定するものである。
【0023】
上記一の画像を表す画像データにノイズ低減処理を行うノイズ低減処理手段をさらに備えてもよい。この場合,上記ノイズ低減処理手段によってノイズ低減処理された画像データによって表される上記一の画像について上記対象領域設定手段による処理,上記特定周波数成分量算出手段による処理,および上記決定手段による処理を行うものとなろう。たとえば,明るさが100ルクス以下の画像についてはノイズが多いと考えられるので,ノイズ低減処理が行なわれよう。
【0024】
上記一の画像を表す画像データに偽色または偽信号低減処理を行う信号処理手段をさらに備えてもよい。この場合,上記信号処理手段によって偽色または偽信号低減処理された画像データによって表される上記一の画像について上記対象領域設定手段による処理,上記特定周波数成分量算出手段による処理,および上記決定手段による処理を行うものとなろう。
【0025】
追尾枠の初期位置の決定処理を停止する指令を与える停止指令手段をさらに備えてもよい。この場合,上記停止指令手段から停止する指令が与えられたことに応じて,上記対象領域設定手段による処理,上記特定周波数成分量算出手段による処理,および上記決定手段による処理を停止して,上記基準位置を追尾枠の初期位置と決定するものとなろう。
【図面の簡単な説明】
【0026】
【図1】ディジタル・スチル・カメラの電気的構成を示すブロック図である。
【図2】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図3】被写体像の一例である。
【図4】被写体像の一例である。
【図5】被写体像の一例である。
【図6】被写体像の一例である。
【図7】被写体像の一例である。
【図8】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図9】色成分ヒストグラムの一例である。
【図10】色成分ヒストグラムの一例である。
【図11】色成分ヒストグラムの一例である。
【図12】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図13】追尾枠の初期位置設定メニュー画像の一例である。
【図14】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図15】被写体像の一例である。
【図16】被写体像の一例である。
【図17】被写体像の一例である。
【図18】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図19】追尾枠の初期位置設定方法メニュー画像の一例である。
【図20】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図21】追尾枠拡大メニュー画像の一例である。
【図22】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図23】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図24】被写体像の一例である。
【図25】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図26】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図27】被写体像の一例である。
【図28】高周波数成分量算出処理手順を示すフローチャートである。
【図29】(A)から(C)は,移動枠が移動する様子を示している。
【図30】RGB色空間を示している。
【図31】画素の分布の様子を示している。
【実施例】
【0027】
図1は,この発明の実施例を示すもので,ディジタル・スチル・カメラの電気的構成を示すブロック図である。ディジタル・スチル・カメラに限らず,ディジタル・ムービ・ビデオ・カメラにも,この発明の実施例を適用できるのはいうまでもない。
【0028】
ディジタル・スチル・カメラの全体の動作は,CPU1によって統括される。
【0029】
ディジタル・スチル・カメラには,操作器2が含まれている。この操作器2には,電源ボタン,モード設定ダイアル,二段ストローク・タイプのシャッタ・レリーズ・ボタンなどが含まれている。操作器2から出力される操作信号は,CPU1に入力する。モード設定ダイアルによって設定されるモードには撮像モード,再生モードなどがある。
【0030】
ディジタル・スチル・カメラには,ストロボ撮像のための発光装置6および発光装置6からの出射光の反射光を受光するための受光装置7が設けられている。
【0031】
CCD15の前方には,撮像レンズ11,絞り12,赤外線カット・フィルタ13および光学的ロウ・パス・フィルタ14が設けられている。レンズ駆動回路5によって撮像レンズ5が位置決めされ,絞り駆動回路4によって絞り12の開口が制御される。
【0032】
撮像モードが設定されると,被写体像を表す光線束は,撮像レンズ11によって集光され,絞り12,赤外線カット・フィルタ13および光学的ロウ・パス・フィルタ15を介してCCD15の受光面上に入射する。CCD15の受光面上に被写体像が結像し,被写体像を表すアナログ映像信号がCCD15から出力する。このように,CCD15によって一定周期で被写体が撮像され,一定周期で被写体像を表す映像信号が1フレーム分ずつCCD15から出力される。
【0033】
アナログ信号処理装置16には,相関二重サンプリング回路,信号増幅回路などが含まれている。CCD15から出力されたアナログ映像信号は,アナログ信号処理装置16に入力し,相関二重サンプリング,信号増幅などが行われる。アナログ信号処理回路16から出力されたアナログ映像信号は,アナログ/ディジタル変換回路18に入力し,ディジタル画像データに変換される。変換されたディジタル画像データは,メモリ制御回路19の制御のもとにメイン・メモリ20に一時的に記憶される。
【0034】
画像データは,メイン・メモリ20から読み出されてディジタル信号処理回路21に入力する。ディジタル信号処理回路21おいて白バランス調整,ガンマ補正などの所定のディジタル信号処理が行われる。ディジタル信号処理回路21においてディジタル信号処理が行われた画像データは,表示制御回路26に与えられる。表示制御回路26によって表示装置27が制御されることにより,表示装置27の表示画面上に撮像により得られた被写体像が表示される。
【0035】
シャッタ・レリーズ・ボタンの第一段階の押下があると,上述のようにして表示/記録用アナログ/ディジタル変換回路18から出力された画像データは,メイン・メモリ20に記録される。メイン・メモリ20から読み出された画像データは,ディジタル信号処理回路21において輝度データに変換される。変換された輝度データが積算回路23に入力し,積算される。積算値を表すデータがCPU1に与えられ,露出量が算出される。算出された露出量となるように,絞り12の開口およびCCD15のシャッタ速度が制御される。
【0036】
シャッタ・レリーズ・ボタンの第二段階の押下があると,同様にして表示/記録用アナログ/ディジタル変換回路18から出力された画像データは,メイン・メモリ20に記録される。メイン・メモリ20から読み出された画像データは,上述したのと同様に,ディジタル信号処理回路21において所定のディジタル信号処理が行われる。ディジタル信号処理回路21から出力された画像データは,圧縮伸長処理回路22においてデータ圧縮が行われる。データ圧縮された画像データが外部メモリ制御回路24の制御によりメモリ・カード25に記録される。
【0037】
さらに,この実施例では,被写体像に含まれるターゲット画像について自動追尾することができる。自動追尾により,撮像により連続して得られる被写体像(動画)に含まれるターゲット画像に枠(追尾枠)を表示しつづけることができる。特定の人物を見失うことなく,撮像を繰り返すことができる。また,そのターゲット画像が適正な明るさとなるように露光調整,そのターゲット画像が合焦するような焦点調整ができる。
【0038】
ターゲット画像を追尾する場合,ターゲット画像を設定する必要がある(初期ターゲット設定)。この実施例では,ユーザによってターゲット画像の部分が指定されると,その指定された部分近傍のうち,追尾しやすい部分をターゲット画像として追尾枠が決定される。追尾が比較的容易となる。
【0039】
追尾枠の初期位置を決定するために,ディジタル・スチル・カメラには初期ターゲット設定装置28が含まれている。初期ターゲット設定装置28において設定された追尾枠は表示装置27の表示画面に表示される。初期ターゲット設定装置28において設定された追尾枠内の画像がターゲット画像とされて,そのターゲット画像が自動追尾装置29によって追尾される。
【0040】
再生モードが設定されると,メモリ・カード25に記録されている圧縮画像データが読み取られる。読み取られた圧縮画像データは,圧縮伸長処理回路22において伸長される。伸長された画像データが表示制御回路26に与えられることにより,表示装置27の表示画面上に,再生画像が表示される。上述した自動追尾は記録時だけでなく,再生時に行われるようにしてもよい。
【0041】
図2は,追尾枠の初期位置設定の処理手順を示すフローチャートである。図3から図7は表示装置27の表示画面に表示される画像の一例である。図3から図7に示す画像40は,上述のように,撮像モードが設定されることにより被写体が一定周期で連続して撮像されて得られる多数フレームの画像のうちの一の画像40である。
【0042】
撮像モードが設定されると,上述のようにして被写体が一定周期で撮像され,表示装置27の表示画面には被写体像が動画(いわゆるスルー画像)で表示される。表示装置27の表示画面の中央部分である基準位置に追尾枠41が表示される(必ずしも中央でなくともよいし,複数でもよい)(ステップ31)。
【0043】
図3は,追尾枠41が基準位置に表示されている様子を示している。
【0044】
被写体を撮像することにより得られた画像(一の画像)40が表示装置27の表示画面に表示されている。その表示画面の中央部分の基準位置に所定の大きさの矩形の追尾枠41が表示されている。追尾枠41の形状は矩形に限らず,他の形状でもよい。また,人物,顔などを認識し,認識した人物の形状,顔の形状を追尾枠としてもよい。
【0045】
カメラマンは追尾枠41内に追尾したいターゲット画像が含まれるようにカメラ・アングルを決定する。ターゲット画像の少なくとも一部分が追尾枠41内に入ると,カメラマンによってシャッタ・レリーズ・ボタンの第1段階の押し下げ(初期位置決定処理の開始指令)が行われる。すると,追尾枠41の外側に追尾枠初期位置設定対象領域が設定される(図2ステップ32)。もっとも,シャッタ・レリーズ・ボタンの第1段階の押し下げが行われたことにより,追尾枠を表示する図2ステップ31の処理を行うようにしてもよい。また,初期位置決定処理の開始指令はシャッタ・レリーズ・ボタンの第1段階の押し下げではなく,他の専用のボタン,スイッチからディジタル・スチル・カメラに与えられるようにしてもよい。
【0046】
図4は追尾枠初期位置設定対象領域が画像40に設定された様子を示している。
【0047】
追尾枠処理位置設定対象領域42は,追尾枠41よりも大きく,かつ画像(表示画面)40の大きさ以下の大きさであり,追尾枠41を含むものである。図4においては,追尾枠処理位置設定対象領域42がわかるように鎖線で示されているが,追尾枠処理位置設定対象領域42は必ずしも表示画面に表示されなくともよい。
【0048】
追尾枠処理位置設定対象領域42が設定されると,その領域42内に含まれるターゲット画像の高周波数成分が抽出されることにより高周波数成分画像が生成される(図2ステップ33)。
【0049】
図5は,追尾枠処理位置設定対象領域42内に含まれる画像から高周波数成分が抽出されて高周波数成分画像が生成された様子を示している。
【0050】
領域42内の画像から高周波数成分が抽出されることにより生成された高周波数成分画像43が領域42内に表示される。領域42内の画像が高周波数成分から構成されている画像43であることを示すために画像43にハッチングが付されている。
【0051】
生成された高周波数成分画像43内において,追尾枠41と同じ形状,同じ大きさの移動枠が設定される。その移動枠が高周波数成分画像43内において1画素分ずつ水平方向および垂直方向に移動させられながら,高周波数成分量が算出される(図2ステップ34)。
【0052】
図6は,移動枠が表示されている様子を示している。
【0053】
上述のように,高周波数成分画像43内において,追尾枠41と同じ形状(同じ形状でなくともよい),同じ大きさ(同じ大きさでなくともよい)の移動枠44が設定される。移動枠44は表示されても表示されなくともよい。移動枠44が高周波数成分画像43内において1画素分ずつ水平方向および垂直方向に移動させられ,その移動した位置ごとに,移動枠内に含まれる画素のうち所定のしきい値以上の高周波数成分以上の高周波数成分をもつ画素の数がカウントされることにより,高周波数成分量(カウント値)が算出される。
【0054】
高周波数成分量が最大となる移動枠44の位置が追尾枠41の初期位置と決定される(図2ステップ35)。
【0055】
図7は追尾枠41の初期位置を決定する様子を示している。
【0056】
上述のように,移動枠44が領域42内を移動しながら高周波数成分量が算出された場合に,図7に示す移動枠44の位置にあるときが,高周波数成分量が最大であったとする。すると,そのときの移動枠44の位置が追尾枠41の初期位置と決定される。
【0057】
このようにして追尾枠41の初期位置が決定されると,その初期位置から,追尾枠41内の画像がターゲット画像として,一の画像後に入力する画像について追尾処理が開始される。初期位置として決定した追尾枠41内の画像は領域42内において高周波数成分量が最大であり,画像に含まれるエッジが多いので追尾処理が比較的容易となる。追尾処理に用いられる追尾枠41内の画像は抽出された高周波数成分の画像でもよいし,高周波数成分が抽出される前の画像40についてのものでもよい。
【0058】
上述の高周波数成分画像の生成は初期ターゲット設定装置内にハイ・パス・フィルタが含まれており,そのハイ・パス・フィルタを用いて行われるのはいうまでもない。もっとも,上述の処理の一部またはすべてをハードウェアを用いて行なってもよいし,上述した処理の一部またはすべてをソフトウェアを用いて行なってもよい。
【0059】
図8は,他の実施例を示すもので,追尾枠の初期位置設定の処理手順を示すフローチャートである。図8は,図2に対応するもので,図8に示す処理と同一の処理については同一符号を付して説明を省略する。
【0060】
上述の実施例においては,追尾枠初期位置設定対象領域内において,高周波数成分量が最大となる移動枠44の位置が追尾枠41の初期位置とされているが,図8に示す処理では,色成分量が最大となる移動枠44の位置が追尾枠41の初期位置とされる。
【0061】
上述のように,追尾枠初期位置設定対象領域42が設定され(ステップ32),移動枠44が領域42内を1画素ずつ上下左右に移動させられる(ステップ36)。それぞれの移動位置ごとに移動枠44内に存在する画像を構成する画素の色成分(赤色成分,緑色成分および青色成分。シアン,マゼンタ,イエローなどの他の三原色,Cr,Cbなどのような色差その他の色成分でもよい)のがしきい値以上となる画素の数(色成分量)が算出される(ステップ36)。算出された色成分量が最大となる移動枠44の位置が追尾枠41の初期位置となる(ステップ37)。
【0062】
図9から図11は色成分ヒストグラムの一例である。図9は赤色成分の色成分ヒストグラム,図10は緑色成分の色成分ヒストグラム,図11は青色成分の色成分ヒストグラムである。
【0063】
図9を参照して,移動枠41が移動させられて,領域1から領域5の5つの移動箇所ごとに赤色成分量Q1〜Q5が算出されたものとする(実際には移動枠44は1画素ずつ移動するからもっと多くの移動箇所ごとの赤色成分量が得られるが,ここでは便宜的に5箇所の領域についての成分量が得られたものとする)。
【0064】
同様に,図10を参照して移動枠41が移動させられて,領域1から領域5の5つの移動箇所ごとに緑色成分量Q6〜Q10が算出され,図11を参照して移動枠41が移動させられて,領域1〜5の5つの移動箇所ごとに青色成分量Q11〜Q15が算出されたものとする。
【0065】
これらの赤色成分量Q1〜Q5,緑色成分量Q6〜Q10および青色成分量Q11〜Q15のうち,最大の色成分量となる移動枠44の位置が追尾枠41の初期位置となる。たとえば,赤色成分量Q3が最大の場合には領域3の位置が追尾枠41の初期位置となる。もっとも,これらの赤色成分量Q1〜Q5,緑色成分量Q6〜Q10および青色成分量Q11〜Q15のうち,最大の色成分量となる移動枠44の位置を追尾枠41の初期位置とするのではなく,カメラマンが指定したターゲット画像の色成分を解析して,そのターゲット画像に含まれる色成分のうち多い色成分と同じまたは近似の色成分の成分量が最大となる移動枠44の位置を追尾枠41の初期位置としてもよい。
【0066】
図12は,変形例を示すもので,追尾枠の初期位置設定処理手順を示すフローチャートである。この図において,図8に示す処理と同一の処理については同一符号を付して説明を省略する。
【0067】
図8に示す処理では,色成分量が最大となる移動枠41の位置が追尾枠44の初期位置とされているが,図12に示す処理では高周波数成分量と色成分量との両方を用いて追尾枠44の初期位置が決定される。
【0068】
上述のように,追尾枠初期位置設定対象領域42内の画像から高周波数成分画像が生成されて(ステップ33),移動枠41を移動しながら,移動位置ごとに高周波数成分量および色成分量が算出される(ステップ34A)。算出された高周波数成分量および色成分量とから追尾枠の初期位置が決定される(ステップ35A)。
【0069】
たとえば,移動枠41の移動位置ごとに式1にしたがって,総合成分量が算出される。この総合成分量が最大となる移動枠41の位置が追尾枠の初期位置となる。但し,wは重み付け係数であり,たとえば,0.5である。
【0070】
総合成分量=w×高周波数成分量+(1−w)色成分量・・・式1
【0071】
図13は,追尾枠の初期位置設定メニュー画像の一例である。
【0072】
ディジタル・スチル・カメラのモード設定ボタンにおいてメニュー・モードが設定され,そのメニュー・モードの中から追尾枠の初期位置設定メニューが選択されると,図13に示す追尾枠の初期位置設定メニュー画像50が,表示装置27の表示画面に表示される。
【0073】
追尾枠の初期位置設定メニュー画像50には,ほぼ中央に「追尾枠の初期位置設定」の文字列が表示されている。この文字列の右側に第1のチェック・ボックス51および第2のチェック・ボックス52が表示されている。第1のチェック・ボックス51の右側には「オン」の文字が表示され,第2のチェック・ボックス52の右側には「オフ」の文字が表示されている。操作装置2にはカーソルを上下左右に移動させるための上下左右ボタンが含まれている。上下左右ボタンから上指令が入力されることにより,第1のチェック・ボックス51がチェックされ,上下左右ボタンから下指令が入力されることにより,第2のチェック・ボックス52がチェックされる。
【0074】
第1のチェック・ボックス51がチェックされると,上述のように追尾枠の初期位置設定が行われるようにディジタル・スチル・カメラが設定される。第2のチェック・ボックス52がチェックされると,上述の追尾枠の初期位置設定が行われないようにディジタル・スチル・カメラが設定される。追尾枠の初期位置設定が行われない場合には,上述したように表示画面の中央部分である基準位置が追尾枠の初期位置となって,自動追尾処理が行われる。
【0075】
図14から図16は,他の実施例を示すものである。図14は追尾枠44の初期位置設定処理手順を示すフローチャートである。図14において,図2と同じ処理には同じ符号を付して説明を省略する。
【0076】
上述のように,追尾枠初期位置設定対象領域42内において移動枠41が移動させられて移動位置ごとに高周波数成分量が算出される(ステップ34)。得られた高周波数成分量の最大値が所定のしきい値以上かどうかが判定される(ステップ61)。しきい値以上であれば(ステップ61でYES),高周波数成分量の最大となる移動枠41の位置が追尾枠44の初期位置決定される(ステップ35)。しきい値以上でなければ(ステップ61でNO),エラー報知される(ステップ62)。
【0077】
エラーの報知は,エラー音の出力,エラーの旨の表示でもよいし,追尾枠44の色をかえるなど,追尾枠44の表示を初期位置が決定した場合と異なる表示とすることにより行っても良い。また,追尾枠の点灯,点滅を追尾枠44の初期位置が決定した場合と異なるようにしてエラー報知をしてもよい。
【0078】
図15および図16は,エラー報知の場合に表示画面に表示される画像の一例である。
【0079】
図15を参照して,画像40の中央部分にはエラー表示のための枠63が表示されている。この枠は追尾枠44が実線であるのに対して,破線とされている。破線の枠63が表示されることによりカメラマンはエラーが起きたことがわかる。
【0080】
図16を参照して,画像40の中央部分にはエラー表示のためのばつ印64が表示されている。ばつ印64が表示されることによりカメラマンはエラーが起きたことがわかる。
【0081】
図17および図18は,他の実施例を示している。
【0082】
図17は,移動枠41の移動の仕方を示している。
【0083】
上述した実施例においては,移動枠41の移動は任意であったが(通常は,テレビジョンの走査と同様に,左上から右方向に移動して順に下方向に移動することとなろう。),この実施例では,画像40の中央部分の基準位置から外側に向かって移動する。
【0084】
まず,基準位置にある移動枠41内において高周波数成分量が算出される。算出された高周波数成分量が所定のしきい値を越えなければ,移動枠41が左上に1画素分(移動距離b=1)移動させられる(符号81で示す位置)。符号81で示される位置において移動枠41内における高周波数成分量が算出される。算出された高周波数成分量が所定のしきい値を越えなければ,符号81で示される位置から右側に移動枠41が1画素分移動させられ,高周波数成分量が算出される。同様に,画像40の中央部分である基準位置に移動枠41が存在する場合における移動枠41の上下左右に1画素分外側に広げた領域82において高周波数成分量が所定のしきい値を越えるまで,移動枠41の移動および移動位置での高周波数成分量の算出が繰り返される。
【0085】
上下左右に1画素分外側に広げた領域82において高周波数成分量が所定のしきい値を越えなければ,さらに,移動枠41が左上に1画素分(移動距離bは合計2)移動させられて,符号83で示す位置に移動枠41の移動が移動させられ,移動位置での高周波数成分量が算出される。同様に,高周波数成分量がしきい値を超えるまで移動枠41が上下左右に1画素分ずつ移動させられて,画像40の中央部分である基準位置に移動枠41が存在する場合における移動枠41の上下左右に2画素分外側に広げた領域84において高周波数成分量が所定のしきい値を越えるまで,移動枠41の移動および移動位置での高周波数成分量の算出が繰り返される。
【0086】
このように,画像40の中央部分から外側に向かって移動枠41が移動させられて高周波数成分量が算出される。
【0087】
図18は追尾枠の初期位置設定処理手順を示すフローチャートである。図18において,図4に示す処理と同一の処理については同一符号を付して説明を省略する。
【0088】
上述のように,高周波数成分画像が生成され,移動距離bが0にセットされる(ステップ71)。セットされた移動距離bが最大移動距離S1以下かどうかが判定される(ステップ72)。最大移動距離S1は,画像40(表示画面)の長辺または短辺のいずれかの辺の1/2の長さである。最大移動距離S1は,画像40の対角線の長さの1/2の長さから移動枠41の対角線の長さの1/2の長さを減算したものでもよい。
【0089】
移動距離bが最大移動距離S1以上となると(ステップ72でNO),エラーが報知される(ステップ78)。移動距離bが最大移動距離S1未満であれば(ステップ72でYES),上述のように,基準位置での移動枠41内の高周波数成分量が算出される(ステップ73)。算出された高周波数成分量が所定のしきい値を越えていなければ(ステップ74でNO),移動距離b内の算出処理が終了したかどうかが確認される(ステップ76)。移動距離bが0の場合には,移動枠41は移動しないこととなるので,移動距離bが1だけインクレメントされる(ステップ76でYES,ステップ77)。
【0090】
移動距離bが1となると,上述したように,高周波数成分量がしきい値を越えるまで領域82内の高周波数成分量が算出されることとなる。領域82内において算出された高周波数成分量が所定のしきい値を越えなければ,さらに移動距離bがインクレメントされ,領域84内の高周波数成分量が算出される。しきい値を越えたときの高周波数成分量が得られたときの移動枠41の位置が追尾枠の初期位置として決定する(ステップ75)。
【0091】
追尾枠初期位置設定対象領域42内のすべてについて高周波数成分量の算出処理を行う必要が必ずしも無いので,追尾枠を決定するまでの時間を短縮できる。
【0092】
図19は,追尾枠の初期位置設定方法のメニュー画像の一例である。
【0093】
ディジタル・スチル・カメラのモード設定ボタンにおいてメニュー・モードが設定され,そのメニュー・モードの中から追尾枠の初期位置設定方法のメニューが選択されると,図19に示す追尾枠の初期位置設定方法のメニュー画像90が,表示装置27の表示画面に表示される。
【0094】
追尾枠の初期位置設定方法のメニュー画像90には,ほぼ中央に「追尾枠の初期位置設定方法」の文字列が表示されている。この文字列の右側に第1のチェック・ボックス91および第2のチェック・ボックス92が表示されている。第1のチェック・ボックス91の右側には「最大評価値位置」の文字が表示され,第2のチェック・ボックス92の右側には「中央重点位置」の文字が表示されている。上下左右ボタンから上指令が入力されることにより,第1のチェック・ボックス91がチェックされ,上下左右ボタンから下指令が入力されることにより,第2のチェック・ボックス92がチェックされる。
【0095】
第1のチェック・ボックス91がチェックされると,追尾枠初期位置設定対象領域42内のすべてにおいて上述した高周波数成分量の算出処理が行われ,最大の高周波数成分量が得られる位置が追尾枠の初期位置として決定される。これに対して,第2のチェック・ボックス92がチェックされると,上述したように移動枠41が基準位置から順に外側に移動させられ,移動ごとに得られる高周波数成分量が所定のしきい値を最初に越えたときの移動枠41の位置が追尾枠の初期位置として決定される。
【0096】
図20は,追尾枠の初期位置設定手順を示すフローチャートである。この図において,図20に示す処理と同一の処理については同一符号を付して説明を省略する。
【0097】
上述のようにして移動枠41が移動し,移動後の位置で高周波数成分量が算出されると,算出された高周波数成分量がしきい値を越えたかどうかが判定される(ステップ74)。しきい値を越えると(ステップ74でYES),算出された高周波数成分量が,それまで算出された高周波数成分量の最大値よりも大きければ最大値が更新される(ステップ79)。
【0098】
上述のように,追尾枠の初期位置設定方法において中央重点位置が設定されていると(中央重点が設定されていると)(ステップ80でYES),最初にしきい値を越えた高周波数成分量が得られる移動枠41の位置が追尾枠の初期位置として決定される(ステップ75)。中央重点位置が設定されている場合には,画像40の中央に近い位置が初期位置と決定する。カメラマンがターゲット画像として想定している部分は画像の中央と考えられ,追尾枠44の初期位置として決定される位置も中央に近くなるので,カメラマンに違和感を与えることを未然に防止できる。追尾枠の初期位置設定方法において中央重点位置が設定されていなければ(中央重点が設定されてなければ)(ステップ80でNO),高周波数成分量がしきい値を越えても追尾枠初期位置設定対象領域42内のすべての位置において高周波数成分量の算出処理が繰り返される(ステップ76)。
【0099】
図21から図24は,他の実施例を示している。
【0100】
図21は,追尾枠拡大のメニュー画像の一例である。
【0101】
ディジタル・スチル・カメラのモード設定ボタンにおいてメニュー・モードが設定され,そのメニュー・モードの中から追尾枠拡大のメニューが選択されると,図21に示す追尾枠拡大のメニュー画像100が,表示装置27の表示画面に表示される。
【0102】
追尾枠拡大のメニュー画像100には,ほぼ中央に「追尾枠拡大」の文字列が表示されている。この文字列の右側に第1のチェック・ボックス101および第2のチェック・ボックス102が表示されている。第1のチェック・ボックス101の右側には「オン」の文字が表示され,第2のチェック・ボックス102の右側には「オフ」の文字が表示されている。第1のチェック・ボックス101の右側にある「オン」の文字のさらに右側には拡大率設定領域103が表示されている。拡大率設定領域103には数字が表示され,その数字が追尾枠41の拡大率を示すこととなる。
【0103】
上下左右ボタンから上指令が入力されることにより,第1のチェック・ボックス91がチェックされ,上下左右ボタンから下指令が入力されることにより,第2のチェック・ボックス92がチェックされる。第1のチェック・ボックス91がチェックされているときに,上下左右ボタンから右指令が入力されると,拡大率設定領域103の設定が可能となる。第1のチェック・ボックス91がチェックされているときに上下左右ボタンの上指令入力に応じて拡大率が上がり,下指令入力に応じて拡大率が下がる。
【0104】
図22および図23は,追尾枠の初期位置設定処理手順を示すフローチャートである。これらの図において図20と同じ処理については同一符号を付して説明を省略する。図25は画像の一例である。
【0105】
この実施例は,移動枠41のサイズを上述したように設定された拡大率に応じて拡大するものである。移動枠41のサイズがリセットされて上述のように追尾枠が基準位置に表示される(ステップ31A)。上述のようにして高周波数成分画像が生成されると(ステップ33),移動枠41のサイズ(一辺)aが,最大枠サイズS2以下かどうかが判定される(ステップ111)。最大枠サイズS2は,画像40の長辺または短辺以下に予め定められており,たとえば,S2=4aである。
【0106】
移動枠サイズaが最大枠サイズS2より大きくなると(ステップ111でNO),エラーが報知される(ステップ78)。移動枠サイズaが最大枠サイズS2以下であれば(ステップ111でYES),移動枠位置がリセットされて移動枠41が基準位置に表示される(ステップ113)。また,移動距離bも0にセットされ(ステップ113),かつ高周波数成分量の最大値も0にセットされる(ステップ114)。図17,図18などを参照して説明したように,移動距離bが最大移動距離S2以下であれば(ステップ72でYES),移動距離bが徐々に大きくされて中央から外側に向かって移動枠41が移動させられながら,高周波数成分量の算出処理が繰り返される(ステップ72から80)。移動距離bが最大移動距離S1より大きくなると(ステップ72でNO),図25に示すように移動枠41のサイズが設定されている大きさに拡大される(拡大された移動枠120)(ステップ81)。拡大された移動枠120が再び移動されながら,移動位置ごとで高周波数成分量の算出処理が繰り返される。
【0107】
高周波数成分量が所定のしきい値を越えない場合には,移動枠41が大きくされるので,高周波数成分量の値が大きくなる。高周波数成分量の値が所定のしきい値を超えるようになり,追尾枠44の初期位置を決定できる。
【0108】
図25から図27は,さらに他の実施例を示すものである。
【0109】
図25および図26は追尾枠の初期位置設定処理手順を示すフローチャートである。これらの図において図22および図23に示す処理と同一の処理については同一符号を付して説明を省略する。図27は,画像の一例である。
【0110】
上述の実施例では移動枠41の大きさを大きくしているが,この実施例では一の画像40の大きさを小さくしている。移動枠41の大きくした場合と同様に高周波数成分量がしきい値を越えやすくなる。
【0111】
図27の上の図に示すように,一の画像40のサイズが所定の大きさに初期化される(ステップ131)。つづいて,画像40がリサイズされる(ステップ132)。このリサイズ処理は最初は必要無いのでスキップしてもよい。画像が1/8以下となるようなリサイズが行われる場合には,偽色,偽信号低減処理が行なわれるようにしても良い。
【0112】
画像サイズが最小サイズよりも大きくなければ(ステップ133でNO),エラーが報知される(ステップ134)。画像サイズが最小サイズよりも大きければ(ステップ133でYES),移動枠41内の高周波数成分量の算出処理が行われる(ステップ31〜33,ステップ112〜114,ステップ72〜80など)。
【0113】
上述した処理では,追尾枠44の初期位置が決定せずに移動距離bが最大移動距離S1より大きくなると(ステップ72でNO),エラー報知とされていたが,この実施例では,画像サイズ(画像40の長辺または短辺)cが1/2とされる(ステップ135)。これにより図28の下の図に示すように,画像40が小さくなり,小さくなった画像40Aを用いて高周波数成分量の算出処理が繰り返される。移動枠41内の画像にもとづいて算出される高周波数成分量は多くなるので,高周波数成分量がしきい値を越え,追尾枠の初期位置を決定できるのは理解できよう。
【0114】
上述の実施例においては,追尾枠初期位置設定対象領域内の画像から高周波数成分を抽出して得られる高周波数成分画像内において移動枠を移動させながら高周波数成分量を算出し,しきい値以上の高周波数成分量または最大の高周波数成分量が得られる移動枠の位置が追尾枠の初期位置と決定されている。しかしながら,高周波数成分量が多すぎる場合には(上記のしきい値を第1のしきい値とすると第1のしきい値より多い第2のしきい値以上の高周波数成分量をもつ場合など),高周波数成分画像を生成する前に一の画像についてロウ・パス・フィルタを用いて平滑化を行った後で高周波数成分画像を生成して,高周波数成分量の算出処理を行うようにしてもよい。初期位置決定処理において決定した追尾枠内のターゲット画像にエッジ成分が多く含まれすぎると,そのターゲット画像とテンプレート・マッチングなどを利用して,一の画像の後に入力する被写体像に含まれるターゲット画像を追尾する場合に,追尾枠が少しずれただけで追尾できなくなる可能性がある。平滑化を行った後で高周波数成分画像を生成して,高周波数成分量の算出処理を行うことにより,追尾枠が少しずれただけで追尾できなくなってしまうことを未然に防止できる。
【0115】
上述の実施例において,追尾枠初期位置設定対象領域内の画像の高周波数成分画像を生成せずにロウ・パス・フィルタまたはバンド・パス・フィルタを用いて追尾枠初期位置設定対象領域内の画像の低周波数成分画像または中間周波数成分画像を生成して,上述したのと同様に低周波数成分量または中間周波数成分量が多くなる移動枠の位置を追尾枠の初期位置としてもよい。また,ターゲット画像の周波数帯域がわかっている場合には,その周波数帯域の成分量を抽出するようなバンド・パス・フィルタを用いて中間周波数成分量が多くなる移動枠の位置を追尾枠の初期位置とすることにより,ターゲット画像の追尾がより正確なる。
【0116】
さらに上述の処理において,追尾枠初期位置設定対象領域内の画像から特定の周波数成分をもつ画像を生成するのではなく,設定の色成分(ターゲット画像の色成分)の成分量が多くなるような移動枠の位置を追尾枠の初期位置としてもよい。
【0117】
上述の実施例では,追尾枠初期位置設定対象領域が設定され,その設定された領域内において高周波数成分画像を生成し,生成した高周波数成分画像内において移動枠を移動させながら,移動位置ごとに高周波数成分量を算出している。しかしながら,高周波数成分画像を生成せずに設定された領域内において移動枠を移動させて,その移動位置ごとに移動枠内の画像の高周波数成分量を算出するようにしてもよい。
【0118】
また,追尾枠と移動枠とは同じ大きさ,形状でもよいし,異なる大きさ,形状でもよい。たとえば,移動枠を1辺aの矩形枠とした場合追尾枠を1辺(0.8×a)の矩形枠としてもよい。
【0119】
図28は,変形例を示すもので,移動枠を移動させながら高周波数成分量を算出する処理手順(たとえば,図2ステップ34の処理手順)を示すフローチャートである。
【0120】
この処理手順は,移動枠44内の高周波数成分量が所定のしきい値よりも小さい場合には,移動枠44をそれまでの移動距離よりも2画素増えるようにし,しきい値以上の場合には,移動枠44をそれまでの移動距離よりも1画素増えるようにするものである。
【0121】
まず,最大高周波数成分量が0にリセットされる(ステップ141)。移動枠の垂直位置jが0にリセットされる(ステップ142)。
【0122】
図29(A)は,移動枠44と追尾枠初期位置設定領域42との関係を示している。追尾枠初期位置設定領域42の左上の座標(0,0)が原点であり,その原点の位置に移動枠44が位置決めされている場合が垂直位置j=0であり,後述するように水平位置i=0である。垂直位置jおよび水平位置iによって移動枠44の位置が決定される。
【0123】
図28に戻って,領域42の高さによって規定される領域42の垂直方向の高さ(長さ)よりも垂直位置jが小さいかどうかが確認される(ステップ143)。領域42の垂直方向の長さよりも垂直位置jが小さければ(ステップ143でYES),移動枠44の少なくとも一部が領域42内に含まれていることとなる。すると,水平位置iが0にリセットされ(ステップ144),領域42の水平方向の幅(長さ)よりも水平位置iが小さいかどうかが確認される(ステップ145)。領域42の水平方向の長さよりも水平位置iが小さければ(ステップ145でYES),移動枠44の少なくとも一部が領域42内に含まれていることとなる。すると,移動枠44の左上の位置が垂直位置jおよび水平位置iで規定される位置で,移動枠44内の画像の高周波数成分量が算出される(ステップ146)。
【0124】
算出された高周波数成分量が最大高周波数成分量より大きければ,その算出された高周波数成分量が最大高周波数成分量に更新される(ステップ148)。
【0125】
算出された高周波数成分量が所定のしきい値よりも小さいかどうかが確認され(ステップ149),算出された高周波数成分量が所定のしきい値以上であれば(ステップ150でNO),移動枠44内の画像は精細なものであり,図29(B)に示すように,移動枠44の移動距離は水平移動位置iに1画素加算したものとされる(ステップ150)。算出された高周波数成分量が所定のしきい値よりも小さければ(ステップ150でYES),移動枠44内の画像は精細なものとは言えず,図29(C)に示すように,移動枠44の移動距離は水平移動位置iに2画素加算したものとされる(ステップ151)。移動枠44が移動した後の位置でも,その位置で算出された高周波数成分量と最大高周波数成分量との比較が行われ,その比較結果に応じて移動枠44の移動距離が決定される(ステップ145から151)。
【0126】
水平位置iの値が領域の水平方向の長さ以上となると(ステップ145でNO),移動枠44は領域42の水平方向から外れ,移動枠44の一部も領域42に含まれなくなる。移動枠44を垂直方向に移動させるべく移動位置jがインクレメントされる(ステップ152)。移動位置jが領域42の高さ以上となると処理が終了する(ステップ143でNO)。
【0127】
図30および図31は,変形例を示すものである。この変形例は,色成分を利用して追尾枠41の初期位置を決定する場合に,色空間上における色成分の分布状態を利用するものである。
【0128】
図30は,RGB色空間を示している(CrCb色空間など他の色空間でもよい)。
【0129】
(0,0,0),(0,255,0),(0,0,255),(0,255,255),(255,0,0),(255,0,255),および(255,255,255)で囲まれる空間160を考える。その空間160が各座標軸方向において3等分され(3等分でなくともよい),合計27個の小ブロックb1〜b27が形成されている。
【0130】
上述したように,追尾枠初期位置設定対象領域32内において,移動枠44が移動させられ,その移動位置ごとに,移動枠44内の画素が図30に示す色空間上にプロットされる。図31に示すように,小ブロックb1〜b27のそれぞれにおいてプロットされた画素の数S1〜S27が算出される。算出された画素の数S1〜S27のうちのもっとも大きな画素の数が,その移動位置での最大画素数Smaxとして検出される。
【0131】
上記のような最大画素数Smaxの算出処理が,移動枠44が移動した位置ごとに算出され,移動位置ごとの最大画素数Smaxのうち,もっとも大きな値が得られる移動位置が追尾枠44の初期位置として決定される。
【符号の説明】
【0132】
1 CPU
26 表示制御装置
27 表示装置
28 初期ターゲット設定装置
29 自動追尾装置
【技術分野】
【0001】
この発明は,ターゲット画像の自動追尾装置における追尾枠の初期位置設定装置およびその動作制御方法に関する。
【背景技術】
【0002】
ディジタル・カメラ(ディジタル・スチル・カメラ,ディジタル・ムービ・ビデオ・カメラ,ディジタル・カメラを備えた携帯電話を含む)には,ターゲット画像を追尾するものがある(特許文献1,2)。人物を撮像し,特定の人物の顔画像をターゲット画像(顔画像に限らず,人物,自動車など,どのような画像でもよい。)として,その顔画像を追尾することにより,動画のように多数フレームの画像から構成される画像において,特定の人物の顔画像の部分に枠を表示しつづけることができる。特定の人物を見失うことなく,撮像できる。
【0003】
ターゲット画像を追尾する場合,ターゲット画像を設定する必要がある。ターゲット画像の設定はユーザがターゲット画像を指定することにより行うことが多い。しかしながら,特徴がなく追尾しづらいターゲット画像を指定してしまうと,追尾が難しくなる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平5-6434号公報
【特許文献2】特開平10-123229号公報
【発明の概要】
【0005】
この発明は,ターゲット画像を追尾しやすいように追尾枠の初期位置を決定することを目的とする。
【0006】
この発明は,多数のフレームの画像を表す画像データを1フレームずつ順に入力し,入力した画像データによって表される画像に含まれる追尾対象のターゲット画像を囲む追尾枠を,表示装置の表示画面に表示するターゲット画像の自動追尾装置における追尾枠の初期位置設定装置において,ターゲット画像の自動追尾装置に入力した画像データによって表される一の画像を上記表示画面に表示し,かつ追尾枠を上記表示画面の基準位置に表示するように上記表示装置を制御する表示制御手段,上記表示制御手段の制御のもとに基準位置に表示された追尾枠よりも大きく,かつ上記一の画像以下の大きさであって,上記表示制御手段の制御のもとに基準位置に表示された追尾枠を含む追尾枠初期位置設定対象領域を,上記一の画像に設定する対象領域設定手段,上記対象領域設定手段によって設定された初期位置設定対象領域内の画像において,移動枠を移動し,移動したごとに移動枠内の画像の高周波数成分の量を算出する特定周波数成分量算出手段,および上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上または最大となる移動枠の位置を追尾枠の初期位置と決定する決定手段を備えていることを特徴とする。
【0007】
この発明は,上記追尾枠の初期位置設定装置に適した動作制御方法も提供している。すなわち,この方法は,多数のフレームの画像を表す画像データを1フレームずつ順に入力し,入力した画像データによって表される画像に含まれる追尾対象のターゲット画像を囲む追尾枠を,表示装置の表示画面に表示するターゲット画像の自動追尾装置における追尾枠の初期位置設定装置の動作制御方法において,表示制御手段が,ターゲット画像の自動追尾装置に入力した画像データによって表される一の画像を上記表示画面に表示し,かつ追尾枠を上記表示画面の基準位置に表示するように上記表示装置を制御し,対象領域設定手段が,上記表示制御手段の制御のもとに基準位置に表示された追尾枠よりも大きく,かつ上記一の画像以下の大きさであって,上記表示制御手段の制御のもとに基準位置に表示された追尾枠を含む追尾枠初期位置設定対象領域を,上記一の画像に設定し,特定周波数成分量算出手段が,上記対象領域設定手段によって設定された初期位置設定対象領域内の画像において,移動枠を移動し,移動したごとに移動枠内の画像の高周波数成分の量を算出し,決定手段が,上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上または最大となる移動枠の位置を追尾枠の初期位置と決定するものである。
【0008】
この発明によると,自動追尾装置には多数のフレームの画像を表す画像データが1フレームずつ順に入力し,自動追尾装置に入力した画像データによって表される一の画像が表示装置の表示画面に表示される。また,追尾枠が表示画面の基準位置(例えば,表示画面の中央であるが中央に限らない)に表示される。追尾枠の初期位置決定処理の開始指令が与えられると,追尾枠よりも大きく,かつ一の画像(表示画面)以下の大きさであって,追尾枠を含む追尾枠初期位置設定対象領域が一の画像に設定される。設定された領域内において,移動枠が移動し,移動したごとに移動枠内の画像の高周波数成分量が算出される。算出された高周波数成分量が所定のしきい値以上または最大となるような移動枠の位置が追尾枠の初期位置として決定される。高周波数成分量がしきい値以上または最大となるような移動枠の位置の画像はエッジ成分が多く追尾しやすい。そのような位置が追尾枠の初期位置となるので,一の画像以降に入力する画像についてターゲット画像(追尾枠内の画像)の追尾が比較的容易となる。
【0009】
上記ターゲット画像の自動追尾装置に入力する画像データはカラー画像データの場合には,上記対象領域設定手段によって設定された初期位置設定対象領域内の画像内において,移動枠を移動し,移動したごとに移動枠内の画像の所定の色成分(たとえば,赤色成分,緑色成分,青色成分など)成分量を算出する色成分量算出手段を備えてもよい。この場合,上記決定手段は,たとえば,上記色成分量算出手段によって算出された成分量が所定のしきい値以上または最大となる移動枠の位置を初期位置と決定するものである。
【0010】
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御する第1の制御手段をさらに備えてもよい。
【0011】
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記色成分量算出処理を行うように上記色成分量算出手段を制御する第1の制御手段をさらに備えてもよい。
【0012】
移動枠の拡大指令を与える拡大指令手段をさらに備えてもよい。この場合,上記第1の制御手段は,たとえば,上記拡大指令手段から拡大指令が与えられており,かつ上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御するものである。また,上記第2の制御手段は,たとえば,上記拡大指令手段から拡大指令が与えられており,かつ上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記色成分量算出処理を行うように上記色周波数成分量算出手段を制御するものである。
【0013】
移動枠の拡大率を設定する拡大率設定手段をさらに備えてもよい。この場合,上記第1の制御手段は,たとえば,上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,上記拡大率設定手段によって設定された拡大率にしたがって移動枠を大きくして,上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御するものである。また,上記第2の制御手段は,たとえば,上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,上記拡大率設定手段によって設定された拡大率にしたがって移動枠を大きくして,上記色成分量算出処理を行うように上記色成分量算出手段を制御するものである。
【0014】
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,上記一の画像を小さくして,上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御する第3の制御手段をさらに備えてもよい。
【0015】
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,上記一の画像を小さくして,上記色成分量算出処理を行うように上記色成分量算出手段を制御する第4の制御手段をさらに備えてもよい。
【0016】
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,追尾処理ができないことを報知する第1の報知手段をさらに備えてもよい。
【0017】
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,追尾処理ができないことを報知する第2の報知手段をさらに備えてもよい。
【0018】
上記第1の報知手段は,たとえば,音声出力または移動枠の表示形態の変更により追尾処理ができないことを報知するものでもよいし,移動枠の色,線の種類もしくは形状または移動枠の点灯もしくは点滅手法の変更により追尾処理ができないことを報知するものでもよい。
【0019】
上記第2の報知手段も,音声出力または移動枠の表示形態の変更により追尾処理ができないことを報知するものでもよいし,移動枠の色,線の種類もしくは形状または移動枠の点灯もしくは点滅手法の変更により追尾処理ができないことを報知するものでもよい。
【0020】
上記対象領域設定手段は,たとえば,上記基準位置が中心となるように追尾枠初期位置設定領域を上記一の画像に設定するものである。この場合,上記特定周波数成分量算出手段は,たとえば,上記移動枠を上記基準位置から外側に移動し,移動したごとに移動枠内の画像の高周波数成分量を算出するものである。
【0021】
上記対象領域設定手段は,上記基準位置が中心となるように追尾枠初期位置設定領域を上記一の画像に設定するものでもよい。この場合,上記色成分量算出手段は,たとえば,上記移動枠を上記基準位置から外側に移動し,移動したごとに移動枠内の画像の所定の色成分の成分量を算出するものである。
【0022】
上記特定周波数成分量算出手段は,上記移動枠を移動し,移動したごとに移動枠内の画像の低周波数成分量または高周波数成分を除いた中間周波数成分量を算出するものであり,上記決定手段は,上記特定周波数成分量算出手段によって算出された低周波数成分量または中間周波数成分量が所定のしきい値以上となる移動枠の位置を追尾枠の初期位置と決定するものである。
【0023】
上記一の画像を表す画像データにノイズ低減処理を行うノイズ低減処理手段をさらに備えてもよい。この場合,上記ノイズ低減処理手段によってノイズ低減処理された画像データによって表される上記一の画像について上記対象領域設定手段による処理,上記特定周波数成分量算出手段による処理,および上記決定手段による処理を行うものとなろう。たとえば,明るさが100ルクス以下の画像についてはノイズが多いと考えられるので,ノイズ低減処理が行なわれよう。
【0024】
上記一の画像を表す画像データに偽色または偽信号低減処理を行う信号処理手段をさらに備えてもよい。この場合,上記信号処理手段によって偽色または偽信号低減処理された画像データによって表される上記一の画像について上記対象領域設定手段による処理,上記特定周波数成分量算出手段による処理,および上記決定手段による処理を行うものとなろう。
【0025】
追尾枠の初期位置の決定処理を停止する指令を与える停止指令手段をさらに備えてもよい。この場合,上記停止指令手段から停止する指令が与えられたことに応じて,上記対象領域設定手段による処理,上記特定周波数成分量算出手段による処理,および上記決定手段による処理を停止して,上記基準位置を追尾枠の初期位置と決定するものとなろう。
【図面の簡単な説明】
【0026】
【図1】ディジタル・スチル・カメラの電気的構成を示すブロック図である。
【図2】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図3】被写体像の一例である。
【図4】被写体像の一例である。
【図5】被写体像の一例である。
【図6】被写体像の一例である。
【図7】被写体像の一例である。
【図8】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図9】色成分ヒストグラムの一例である。
【図10】色成分ヒストグラムの一例である。
【図11】色成分ヒストグラムの一例である。
【図12】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図13】追尾枠の初期位置設定メニュー画像の一例である。
【図14】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図15】被写体像の一例である。
【図16】被写体像の一例である。
【図17】被写体像の一例である。
【図18】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図19】追尾枠の初期位置設定方法メニュー画像の一例である。
【図20】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図21】追尾枠拡大メニュー画像の一例である。
【図22】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図23】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図24】被写体像の一例である。
【図25】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図26】追尾枠の初期位置設定処理手順を示すフローチャートである。
【図27】被写体像の一例である。
【図28】高周波数成分量算出処理手順を示すフローチャートである。
【図29】(A)から(C)は,移動枠が移動する様子を示している。
【図30】RGB色空間を示している。
【図31】画素の分布の様子を示している。
【実施例】
【0027】
図1は,この発明の実施例を示すもので,ディジタル・スチル・カメラの電気的構成を示すブロック図である。ディジタル・スチル・カメラに限らず,ディジタル・ムービ・ビデオ・カメラにも,この発明の実施例を適用できるのはいうまでもない。
【0028】
ディジタル・スチル・カメラの全体の動作は,CPU1によって統括される。
【0029】
ディジタル・スチル・カメラには,操作器2が含まれている。この操作器2には,電源ボタン,モード設定ダイアル,二段ストローク・タイプのシャッタ・レリーズ・ボタンなどが含まれている。操作器2から出力される操作信号は,CPU1に入力する。モード設定ダイアルによって設定されるモードには撮像モード,再生モードなどがある。
【0030】
ディジタル・スチル・カメラには,ストロボ撮像のための発光装置6および発光装置6からの出射光の反射光を受光するための受光装置7が設けられている。
【0031】
CCD15の前方には,撮像レンズ11,絞り12,赤外線カット・フィルタ13および光学的ロウ・パス・フィルタ14が設けられている。レンズ駆動回路5によって撮像レンズ5が位置決めされ,絞り駆動回路4によって絞り12の開口が制御される。
【0032】
撮像モードが設定されると,被写体像を表す光線束は,撮像レンズ11によって集光され,絞り12,赤外線カット・フィルタ13および光学的ロウ・パス・フィルタ15を介してCCD15の受光面上に入射する。CCD15の受光面上に被写体像が結像し,被写体像を表すアナログ映像信号がCCD15から出力する。このように,CCD15によって一定周期で被写体が撮像され,一定周期で被写体像を表す映像信号が1フレーム分ずつCCD15から出力される。
【0033】
アナログ信号処理装置16には,相関二重サンプリング回路,信号増幅回路などが含まれている。CCD15から出力されたアナログ映像信号は,アナログ信号処理装置16に入力し,相関二重サンプリング,信号増幅などが行われる。アナログ信号処理回路16から出力されたアナログ映像信号は,アナログ/ディジタル変換回路18に入力し,ディジタル画像データに変換される。変換されたディジタル画像データは,メモリ制御回路19の制御のもとにメイン・メモリ20に一時的に記憶される。
【0034】
画像データは,メイン・メモリ20から読み出されてディジタル信号処理回路21に入力する。ディジタル信号処理回路21おいて白バランス調整,ガンマ補正などの所定のディジタル信号処理が行われる。ディジタル信号処理回路21においてディジタル信号処理が行われた画像データは,表示制御回路26に与えられる。表示制御回路26によって表示装置27が制御されることにより,表示装置27の表示画面上に撮像により得られた被写体像が表示される。
【0035】
シャッタ・レリーズ・ボタンの第一段階の押下があると,上述のようにして表示/記録用アナログ/ディジタル変換回路18から出力された画像データは,メイン・メモリ20に記録される。メイン・メモリ20から読み出された画像データは,ディジタル信号処理回路21において輝度データに変換される。変換された輝度データが積算回路23に入力し,積算される。積算値を表すデータがCPU1に与えられ,露出量が算出される。算出された露出量となるように,絞り12の開口およびCCD15のシャッタ速度が制御される。
【0036】
シャッタ・レリーズ・ボタンの第二段階の押下があると,同様にして表示/記録用アナログ/ディジタル変換回路18から出力された画像データは,メイン・メモリ20に記録される。メイン・メモリ20から読み出された画像データは,上述したのと同様に,ディジタル信号処理回路21において所定のディジタル信号処理が行われる。ディジタル信号処理回路21から出力された画像データは,圧縮伸長処理回路22においてデータ圧縮が行われる。データ圧縮された画像データが外部メモリ制御回路24の制御によりメモリ・カード25に記録される。
【0037】
さらに,この実施例では,被写体像に含まれるターゲット画像について自動追尾することができる。自動追尾により,撮像により連続して得られる被写体像(動画)に含まれるターゲット画像に枠(追尾枠)を表示しつづけることができる。特定の人物を見失うことなく,撮像を繰り返すことができる。また,そのターゲット画像が適正な明るさとなるように露光調整,そのターゲット画像が合焦するような焦点調整ができる。
【0038】
ターゲット画像を追尾する場合,ターゲット画像を設定する必要がある(初期ターゲット設定)。この実施例では,ユーザによってターゲット画像の部分が指定されると,その指定された部分近傍のうち,追尾しやすい部分をターゲット画像として追尾枠が決定される。追尾が比較的容易となる。
【0039】
追尾枠の初期位置を決定するために,ディジタル・スチル・カメラには初期ターゲット設定装置28が含まれている。初期ターゲット設定装置28において設定された追尾枠は表示装置27の表示画面に表示される。初期ターゲット設定装置28において設定された追尾枠内の画像がターゲット画像とされて,そのターゲット画像が自動追尾装置29によって追尾される。
【0040】
再生モードが設定されると,メモリ・カード25に記録されている圧縮画像データが読み取られる。読み取られた圧縮画像データは,圧縮伸長処理回路22において伸長される。伸長された画像データが表示制御回路26に与えられることにより,表示装置27の表示画面上に,再生画像が表示される。上述した自動追尾は記録時だけでなく,再生時に行われるようにしてもよい。
【0041】
図2は,追尾枠の初期位置設定の処理手順を示すフローチャートである。図3から図7は表示装置27の表示画面に表示される画像の一例である。図3から図7に示す画像40は,上述のように,撮像モードが設定されることにより被写体が一定周期で連続して撮像されて得られる多数フレームの画像のうちの一の画像40である。
【0042】
撮像モードが設定されると,上述のようにして被写体が一定周期で撮像され,表示装置27の表示画面には被写体像が動画(いわゆるスルー画像)で表示される。表示装置27の表示画面の中央部分である基準位置に追尾枠41が表示される(必ずしも中央でなくともよいし,複数でもよい)(ステップ31)。
【0043】
図3は,追尾枠41が基準位置に表示されている様子を示している。
【0044】
被写体を撮像することにより得られた画像(一の画像)40が表示装置27の表示画面に表示されている。その表示画面の中央部分の基準位置に所定の大きさの矩形の追尾枠41が表示されている。追尾枠41の形状は矩形に限らず,他の形状でもよい。また,人物,顔などを認識し,認識した人物の形状,顔の形状を追尾枠としてもよい。
【0045】
カメラマンは追尾枠41内に追尾したいターゲット画像が含まれるようにカメラ・アングルを決定する。ターゲット画像の少なくとも一部分が追尾枠41内に入ると,カメラマンによってシャッタ・レリーズ・ボタンの第1段階の押し下げ(初期位置決定処理の開始指令)が行われる。すると,追尾枠41の外側に追尾枠初期位置設定対象領域が設定される(図2ステップ32)。もっとも,シャッタ・レリーズ・ボタンの第1段階の押し下げが行われたことにより,追尾枠を表示する図2ステップ31の処理を行うようにしてもよい。また,初期位置決定処理の開始指令はシャッタ・レリーズ・ボタンの第1段階の押し下げではなく,他の専用のボタン,スイッチからディジタル・スチル・カメラに与えられるようにしてもよい。
【0046】
図4は追尾枠初期位置設定対象領域が画像40に設定された様子を示している。
【0047】
追尾枠処理位置設定対象領域42は,追尾枠41よりも大きく,かつ画像(表示画面)40の大きさ以下の大きさであり,追尾枠41を含むものである。図4においては,追尾枠処理位置設定対象領域42がわかるように鎖線で示されているが,追尾枠処理位置設定対象領域42は必ずしも表示画面に表示されなくともよい。
【0048】
追尾枠処理位置設定対象領域42が設定されると,その領域42内に含まれるターゲット画像の高周波数成分が抽出されることにより高周波数成分画像が生成される(図2ステップ33)。
【0049】
図5は,追尾枠処理位置設定対象領域42内に含まれる画像から高周波数成分が抽出されて高周波数成分画像が生成された様子を示している。
【0050】
領域42内の画像から高周波数成分が抽出されることにより生成された高周波数成分画像43が領域42内に表示される。領域42内の画像が高周波数成分から構成されている画像43であることを示すために画像43にハッチングが付されている。
【0051】
生成された高周波数成分画像43内において,追尾枠41と同じ形状,同じ大きさの移動枠が設定される。その移動枠が高周波数成分画像43内において1画素分ずつ水平方向および垂直方向に移動させられながら,高周波数成分量が算出される(図2ステップ34)。
【0052】
図6は,移動枠が表示されている様子を示している。
【0053】
上述のように,高周波数成分画像43内において,追尾枠41と同じ形状(同じ形状でなくともよい),同じ大きさ(同じ大きさでなくともよい)の移動枠44が設定される。移動枠44は表示されても表示されなくともよい。移動枠44が高周波数成分画像43内において1画素分ずつ水平方向および垂直方向に移動させられ,その移動した位置ごとに,移動枠内に含まれる画素のうち所定のしきい値以上の高周波数成分以上の高周波数成分をもつ画素の数がカウントされることにより,高周波数成分量(カウント値)が算出される。
【0054】
高周波数成分量が最大となる移動枠44の位置が追尾枠41の初期位置と決定される(図2ステップ35)。
【0055】
図7は追尾枠41の初期位置を決定する様子を示している。
【0056】
上述のように,移動枠44が領域42内を移動しながら高周波数成分量が算出された場合に,図7に示す移動枠44の位置にあるときが,高周波数成分量が最大であったとする。すると,そのときの移動枠44の位置が追尾枠41の初期位置と決定される。
【0057】
このようにして追尾枠41の初期位置が決定されると,その初期位置から,追尾枠41内の画像がターゲット画像として,一の画像後に入力する画像について追尾処理が開始される。初期位置として決定した追尾枠41内の画像は領域42内において高周波数成分量が最大であり,画像に含まれるエッジが多いので追尾処理が比較的容易となる。追尾処理に用いられる追尾枠41内の画像は抽出された高周波数成分の画像でもよいし,高周波数成分が抽出される前の画像40についてのものでもよい。
【0058】
上述の高周波数成分画像の生成は初期ターゲット設定装置内にハイ・パス・フィルタが含まれており,そのハイ・パス・フィルタを用いて行われるのはいうまでもない。もっとも,上述の処理の一部またはすべてをハードウェアを用いて行なってもよいし,上述した処理の一部またはすべてをソフトウェアを用いて行なってもよい。
【0059】
図8は,他の実施例を示すもので,追尾枠の初期位置設定の処理手順を示すフローチャートである。図8は,図2に対応するもので,図8に示す処理と同一の処理については同一符号を付して説明を省略する。
【0060】
上述の実施例においては,追尾枠初期位置設定対象領域内において,高周波数成分量が最大となる移動枠44の位置が追尾枠41の初期位置とされているが,図8に示す処理では,色成分量が最大となる移動枠44の位置が追尾枠41の初期位置とされる。
【0061】
上述のように,追尾枠初期位置設定対象領域42が設定され(ステップ32),移動枠44が領域42内を1画素ずつ上下左右に移動させられる(ステップ36)。それぞれの移動位置ごとに移動枠44内に存在する画像を構成する画素の色成分(赤色成分,緑色成分および青色成分。シアン,マゼンタ,イエローなどの他の三原色,Cr,Cbなどのような色差その他の色成分でもよい)のがしきい値以上となる画素の数(色成分量)が算出される(ステップ36)。算出された色成分量が最大となる移動枠44の位置が追尾枠41の初期位置となる(ステップ37)。
【0062】
図9から図11は色成分ヒストグラムの一例である。図9は赤色成分の色成分ヒストグラム,図10は緑色成分の色成分ヒストグラム,図11は青色成分の色成分ヒストグラムである。
【0063】
図9を参照して,移動枠41が移動させられて,領域1から領域5の5つの移動箇所ごとに赤色成分量Q1〜Q5が算出されたものとする(実際には移動枠44は1画素ずつ移動するからもっと多くの移動箇所ごとの赤色成分量が得られるが,ここでは便宜的に5箇所の領域についての成分量が得られたものとする)。
【0064】
同様に,図10を参照して移動枠41が移動させられて,領域1から領域5の5つの移動箇所ごとに緑色成分量Q6〜Q10が算出され,図11を参照して移動枠41が移動させられて,領域1〜5の5つの移動箇所ごとに青色成分量Q11〜Q15が算出されたものとする。
【0065】
これらの赤色成分量Q1〜Q5,緑色成分量Q6〜Q10および青色成分量Q11〜Q15のうち,最大の色成分量となる移動枠44の位置が追尾枠41の初期位置となる。たとえば,赤色成分量Q3が最大の場合には領域3の位置が追尾枠41の初期位置となる。もっとも,これらの赤色成分量Q1〜Q5,緑色成分量Q6〜Q10および青色成分量Q11〜Q15のうち,最大の色成分量となる移動枠44の位置を追尾枠41の初期位置とするのではなく,カメラマンが指定したターゲット画像の色成分を解析して,そのターゲット画像に含まれる色成分のうち多い色成分と同じまたは近似の色成分の成分量が最大となる移動枠44の位置を追尾枠41の初期位置としてもよい。
【0066】
図12は,変形例を示すもので,追尾枠の初期位置設定処理手順を示すフローチャートである。この図において,図8に示す処理と同一の処理については同一符号を付して説明を省略する。
【0067】
図8に示す処理では,色成分量が最大となる移動枠41の位置が追尾枠44の初期位置とされているが,図12に示す処理では高周波数成分量と色成分量との両方を用いて追尾枠44の初期位置が決定される。
【0068】
上述のように,追尾枠初期位置設定対象領域42内の画像から高周波数成分画像が生成されて(ステップ33),移動枠41を移動しながら,移動位置ごとに高周波数成分量および色成分量が算出される(ステップ34A)。算出された高周波数成分量および色成分量とから追尾枠の初期位置が決定される(ステップ35A)。
【0069】
たとえば,移動枠41の移動位置ごとに式1にしたがって,総合成分量が算出される。この総合成分量が最大となる移動枠41の位置が追尾枠の初期位置となる。但し,wは重み付け係数であり,たとえば,0.5である。
【0070】
総合成分量=w×高周波数成分量+(1−w)色成分量・・・式1
【0071】
図13は,追尾枠の初期位置設定メニュー画像の一例である。
【0072】
ディジタル・スチル・カメラのモード設定ボタンにおいてメニュー・モードが設定され,そのメニュー・モードの中から追尾枠の初期位置設定メニューが選択されると,図13に示す追尾枠の初期位置設定メニュー画像50が,表示装置27の表示画面に表示される。
【0073】
追尾枠の初期位置設定メニュー画像50には,ほぼ中央に「追尾枠の初期位置設定」の文字列が表示されている。この文字列の右側に第1のチェック・ボックス51および第2のチェック・ボックス52が表示されている。第1のチェック・ボックス51の右側には「オン」の文字が表示され,第2のチェック・ボックス52の右側には「オフ」の文字が表示されている。操作装置2にはカーソルを上下左右に移動させるための上下左右ボタンが含まれている。上下左右ボタンから上指令が入力されることにより,第1のチェック・ボックス51がチェックされ,上下左右ボタンから下指令が入力されることにより,第2のチェック・ボックス52がチェックされる。
【0074】
第1のチェック・ボックス51がチェックされると,上述のように追尾枠の初期位置設定が行われるようにディジタル・スチル・カメラが設定される。第2のチェック・ボックス52がチェックされると,上述の追尾枠の初期位置設定が行われないようにディジタル・スチル・カメラが設定される。追尾枠の初期位置設定が行われない場合には,上述したように表示画面の中央部分である基準位置が追尾枠の初期位置となって,自動追尾処理が行われる。
【0075】
図14から図16は,他の実施例を示すものである。図14は追尾枠44の初期位置設定処理手順を示すフローチャートである。図14において,図2と同じ処理には同じ符号を付して説明を省略する。
【0076】
上述のように,追尾枠初期位置設定対象領域42内において移動枠41が移動させられて移動位置ごとに高周波数成分量が算出される(ステップ34)。得られた高周波数成分量の最大値が所定のしきい値以上かどうかが判定される(ステップ61)。しきい値以上であれば(ステップ61でYES),高周波数成分量の最大となる移動枠41の位置が追尾枠44の初期位置決定される(ステップ35)。しきい値以上でなければ(ステップ61でNO),エラー報知される(ステップ62)。
【0077】
エラーの報知は,エラー音の出力,エラーの旨の表示でもよいし,追尾枠44の色をかえるなど,追尾枠44の表示を初期位置が決定した場合と異なる表示とすることにより行っても良い。また,追尾枠の点灯,点滅を追尾枠44の初期位置が決定した場合と異なるようにしてエラー報知をしてもよい。
【0078】
図15および図16は,エラー報知の場合に表示画面に表示される画像の一例である。
【0079】
図15を参照して,画像40の中央部分にはエラー表示のための枠63が表示されている。この枠は追尾枠44が実線であるのに対して,破線とされている。破線の枠63が表示されることによりカメラマンはエラーが起きたことがわかる。
【0080】
図16を参照して,画像40の中央部分にはエラー表示のためのばつ印64が表示されている。ばつ印64が表示されることによりカメラマンはエラーが起きたことがわかる。
【0081】
図17および図18は,他の実施例を示している。
【0082】
図17は,移動枠41の移動の仕方を示している。
【0083】
上述した実施例においては,移動枠41の移動は任意であったが(通常は,テレビジョンの走査と同様に,左上から右方向に移動して順に下方向に移動することとなろう。),この実施例では,画像40の中央部分の基準位置から外側に向かって移動する。
【0084】
まず,基準位置にある移動枠41内において高周波数成分量が算出される。算出された高周波数成分量が所定のしきい値を越えなければ,移動枠41が左上に1画素分(移動距離b=1)移動させられる(符号81で示す位置)。符号81で示される位置において移動枠41内における高周波数成分量が算出される。算出された高周波数成分量が所定のしきい値を越えなければ,符号81で示される位置から右側に移動枠41が1画素分移動させられ,高周波数成分量が算出される。同様に,画像40の中央部分である基準位置に移動枠41が存在する場合における移動枠41の上下左右に1画素分外側に広げた領域82において高周波数成分量が所定のしきい値を越えるまで,移動枠41の移動および移動位置での高周波数成分量の算出が繰り返される。
【0085】
上下左右に1画素分外側に広げた領域82において高周波数成分量が所定のしきい値を越えなければ,さらに,移動枠41が左上に1画素分(移動距離bは合計2)移動させられて,符号83で示す位置に移動枠41の移動が移動させられ,移動位置での高周波数成分量が算出される。同様に,高周波数成分量がしきい値を超えるまで移動枠41が上下左右に1画素分ずつ移動させられて,画像40の中央部分である基準位置に移動枠41が存在する場合における移動枠41の上下左右に2画素分外側に広げた領域84において高周波数成分量が所定のしきい値を越えるまで,移動枠41の移動および移動位置での高周波数成分量の算出が繰り返される。
【0086】
このように,画像40の中央部分から外側に向かって移動枠41が移動させられて高周波数成分量が算出される。
【0087】
図18は追尾枠の初期位置設定処理手順を示すフローチャートである。図18において,図4に示す処理と同一の処理については同一符号を付して説明を省略する。
【0088】
上述のように,高周波数成分画像が生成され,移動距離bが0にセットされる(ステップ71)。セットされた移動距離bが最大移動距離S1以下かどうかが判定される(ステップ72)。最大移動距離S1は,画像40(表示画面)の長辺または短辺のいずれかの辺の1/2の長さである。最大移動距離S1は,画像40の対角線の長さの1/2の長さから移動枠41の対角線の長さの1/2の長さを減算したものでもよい。
【0089】
移動距離bが最大移動距離S1以上となると(ステップ72でNO),エラーが報知される(ステップ78)。移動距離bが最大移動距離S1未満であれば(ステップ72でYES),上述のように,基準位置での移動枠41内の高周波数成分量が算出される(ステップ73)。算出された高周波数成分量が所定のしきい値を越えていなければ(ステップ74でNO),移動距離b内の算出処理が終了したかどうかが確認される(ステップ76)。移動距離bが0の場合には,移動枠41は移動しないこととなるので,移動距離bが1だけインクレメントされる(ステップ76でYES,ステップ77)。
【0090】
移動距離bが1となると,上述したように,高周波数成分量がしきい値を越えるまで領域82内の高周波数成分量が算出されることとなる。領域82内において算出された高周波数成分量が所定のしきい値を越えなければ,さらに移動距離bがインクレメントされ,領域84内の高周波数成分量が算出される。しきい値を越えたときの高周波数成分量が得られたときの移動枠41の位置が追尾枠の初期位置として決定する(ステップ75)。
【0091】
追尾枠初期位置設定対象領域42内のすべてについて高周波数成分量の算出処理を行う必要が必ずしも無いので,追尾枠を決定するまでの時間を短縮できる。
【0092】
図19は,追尾枠の初期位置設定方法のメニュー画像の一例である。
【0093】
ディジタル・スチル・カメラのモード設定ボタンにおいてメニュー・モードが設定され,そのメニュー・モードの中から追尾枠の初期位置設定方法のメニューが選択されると,図19に示す追尾枠の初期位置設定方法のメニュー画像90が,表示装置27の表示画面に表示される。
【0094】
追尾枠の初期位置設定方法のメニュー画像90には,ほぼ中央に「追尾枠の初期位置設定方法」の文字列が表示されている。この文字列の右側に第1のチェック・ボックス91および第2のチェック・ボックス92が表示されている。第1のチェック・ボックス91の右側には「最大評価値位置」の文字が表示され,第2のチェック・ボックス92の右側には「中央重点位置」の文字が表示されている。上下左右ボタンから上指令が入力されることにより,第1のチェック・ボックス91がチェックされ,上下左右ボタンから下指令が入力されることにより,第2のチェック・ボックス92がチェックされる。
【0095】
第1のチェック・ボックス91がチェックされると,追尾枠初期位置設定対象領域42内のすべてにおいて上述した高周波数成分量の算出処理が行われ,最大の高周波数成分量が得られる位置が追尾枠の初期位置として決定される。これに対して,第2のチェック・ボックス92がチェックされると,上述したように移動枠41が基準位置から順に外側に移動させられ,移動ごとに得られる高周波数成分量が所定のしきい値を最初に越えたときの移動枠41の位置が追尾枠の初期位置として決定される。
【0096】
図20は,追尾枠の初期位置設定手順を示すフローチャートである。この図において,図20に示す処理と同一の処理については同一符号を付して説明を省略する。
【0097】
上述のようにして移動枠41が移動し,移動後の位置で高周波数成分量が算出されると,算出された高周波数成分量がしきい値を越えたかどうかが判定される(ステップ74)。しきい値を越えると(ステップ74でYES),算出された高周波数成分量が,それまで算出された高周波数成分量の最大値よりも大きければ最大値が更新される(ステップ79)。
【0098】
上述のように,追尾枠の初期位置設定方法において中央重点位置が設定されていると(中央重点が設定されていると)(ステップ80でYES),最初にしきい値を越えた高周波数成分量が得られる移動枠41の位置が追尾枠の初期位置として決定される(ステップ75)。中央重点位置が設定されている場合には,画像40の中央に近い位置が初期位置と決定する。カメラマンがターゲット画像として想定している部分は画像の中央と考えられ,追尾枠44の初期位置として決定される位置も中央に近くなるので,カメラマンに違和感を与えることを未然に防止できる。追尾枠の初期位置設定方法において中央重点位置が設定されていなければ(中央重点が設定されてなければ)(ステップ80でNO),高周波数成分量がしきい値を越えても追尾枠初期位置設定対象領域42内のすべての位置において高周波数成分量の算出処理が繰り返される(ステップ76)。
【0099】
図21から図24は,他の実施例を示している。
【0100】
図21は,追尾枠拡大のメニュー画像の一例である。
【0101】
ディジタル・スチル・カメラのモード設定ボタンにおいてメニュー・モードが設定され,そのメニュー・モードの中から追尾枠拡大のメニューが選択されると,図21に示す追尾枠拡大のメニュー画像100が,表示装置27の表示画面に表示される。
【0102】
追尾枠拡大のメニュー画像100には,ほぼ中央に「追尾枠拡大」の文字列が表示されている。この文字列の右側に第1のチェック・ボックス101および第2のチェック・ボックス102が表示されている。第1のチェック・ボックス101の右側には「オン」の文字が表示され,第2のチェック・ボックス102の右側には「オフ」の文字が表示されている。第1のチェック・ボックス101の右側にある「オン」の文字のさらに右側には拡大率設定領域103が表示されている。拡大率設定領域103には数字が表示され,その数字が追尾枠41の拡大率を示すこととなる。
【0103】
上下左右ボタンから上指令が入力されることにより,第1のチェック・ボックス91がチェックされ,上下左右ボタンから下指令が入力されることにより,第2のチェック・ボックス92がチェックされる。第1のチェック・ボックス91がチェックされているときに,上下左右ボタンから右指令が入力されると,拡大率設定領域103の設定が可能となる。第1のチェック・ボックス91がチェックされているときに上下左右ボタンの上指令入力に応じて拡大率が上がり,下指令入力に応じて拡大率が下がる。
【0104】
図22および図23は,追尾枠の初期位置設定処理手順を示すフローチャートである。これらの図において図20と同じ処理については同一符号を付して説明を省略する。図25は画像の一例である。
【0105】
この実施例は,移動枠41のサイズを上述したように設定された拡大率に応じて拡大するものである。移動枠41のサイズがリセットされて上述のように追尾枠が基準位置に表示される(ステップ31A)。上述のようにして高周波数成分画像が生成されると(ステップ33),移動枠41のサイズ(一辺)aが,最大枠サイズS2以下かどうかが判定される(ステップ111)。最大枠サイズS2は,画像40の長辺または短辺以下に予め定められており,たとえば,S2=4aである。
【0106】
移動枠サイズaが最大枠サイズS2より大きくなると(ステップ111でNO),エラーが報知される(ステップ78)。移動枠サイズaが最大枠サイズS2以下であれば(ステップ111でYES),移動枠位置がリセットされて移動枠41が基準位置に表示される(ステップ113)。また,移動距離bも0にセットされ(ステップ113),かつ高周波数成分量の最大値も0にセットされる(ステップ114)。図17,図18などを参照して説明したように,移動距離bが最大移動距離S2以下であれば(ステップ72でYES),移動距離bが徐々に大きくされて中央から外側に向かって移動枠41が移動させられながら,高周波数成分量の算出処理が繰り返される(ステップ72から80)。移動距離bが最大移動距離S1より大きくなると(ステップ72でNO),図25に示すように移動枠41のサイズが設定されている大きさに拡大される(拡大された移動枠120)(ステップ81)。拡大された移動枠120が再び移動されながら,移動位置ごとで高周波数成分量の算出処理が繰り返される。
【0107】
高周波数成分量が所定のしきい値を越えない場合には,移動枠41が大きくされるので,高周波数成分量の値が大きくなる。高周波数成分量の値が所定のしきい値を超えるようになり,追尾枠44の初期位置を決定できる。
【0108】
図25から図27は,さらに他の実施例を示すものである。
【0109】
図25および図26は追尾枠の初期位置設定処理手順を示すフローチャートである。これらの図において図22および図23に示す処理と同一の処理については同一符号を付して説明を省略する。図27は,画像の一例である。
【0110】
上述の実施例では移動枠41の大きさを大きくしているが,この実施例では一の画像40の大きさを小さくしている。移動枠41の大きくした場合と同様に高周波数成分量がしきい値を越えやすくなる。
【0111】
図27の上の図に示すように,一の画像40のサイズが所定の大きさに初期化される(ステップ131)。つづいて,画像40がリサイズされる(ステップ132)。このリサイズ処理は最初は必要無いのでスキップしてもよい。画像が1/8以下となるようなリサイズが行われる場合には,偽色,偽信号低減処理が行なわれるようにしても良い。
【0112】
画像サイズが最小サイズよりも大きくなければ(ステップ133でNO),エラーが報知される(ステップ134)。画像サイズが最小サイズよりも大きければ(ステップ133でYES),移動枠41内の高周波数成分量の算出処理が行われる(ステップ31〜33,ステップ112〜114,ステップ72〜80など)。
【0113】
上述した処理では,追尾枠44の初期位置が決定せずに移動距離bが最大移動距離S1より大きくなると(ステップ72でNO),エラー報知とされていたが,この実施例では,画像サイズ(画像40の長辺または短辺)cが1/2とされる(ステップ135)。これにより図28の下の図に示すように,画像40が小さくなり,小さくなった画像40Aを用いて高周波数成分量の算出処理が繰り返される。移動枠41内の画像にもとづいて算出される高周波数成分量は多くなるので,高周波数成分量がしきい値を越え,追尾枠の初期位置を決定できるのは理解できよう。
【0114】
上述の実施例においては,追尾枠初期位置設定対象領域内の画像から高周波数成分を抽出して得られる高周波数成分画像内において移動枠を移動させながら高周波数成分量を算出し,しきい値以上の高周波数成分量または最大の高周波数成分量が得られる移動枠の位置が追尾枠の初期位置と決定されている。しかしながら,高周波数成分量が多すぎる場合には(上記のしきい値を第1のしきい値とすると第1のしきい値より多い第2のしきい値以上の高周波数成分量をもつ場合など),高周波数成分画像を生成する前に一の画像についてロウ・パス・フィルタを用いて平滑化を行った後で高周波数成分画像を生成して,高周波数成分量の算出処理を行うようにしてもよい。初期位置決定処理において決定した追尾枠内のターゲット画像にエッジ成分が多く含まれすぎると,そのターゲット画像とテンプレート・マッチングなどを利用して,一の画像の後に入力する被写体像に含まれるターゲット画像を追尾する場合に,追尾枠が少しずれただけで追尾できなくなる可能性がある。平滑化を行った後で高周波数成分画像を生成して,高周波数成分量の算出処理を行うことにより,追尾枠が少しずれただけで追尾できなくなってしまうことを未然に防止できる。
【0115】
上述の実施例において,追尾枠初期位置設定対象領域内の画像の高周波数成分画像を生成せずにロウ・パス・フィルタまたはバンド・パス・フィルタを用いて追尾枠初期位置設定対象領域内の画像の低周波数成分画像または中間周波数成分画像を生成して,上述したのと同様に低周波数成分量または中間周波数成分量が多くなる移動枠の位置を追尾枠の初期位置としてもよい。また,ターゲット画像の周波数帯域がわかっている場合には,その周波数帯域の成分量を抽出するようなバンド・パス・フィルタを用いて中間周波数成分量が多くなる移動枠の位置を追尾枠の初期位置とすることにより,ターゲット画像の追尾がより正確なる。
【0116】
さらに上述の処理において,追尾枠初期位置設定対象領域内の画像から特定の周波数成分をもつ画像を生成するのではなく,設定の色成分(ターゲット画像の色成分)の成分量が多くなるような移動枠の位置を追尾枠の初期位置としてもよい。
【0117】
上述の実施例では,追尾枠初期位置設定対象領域が設定され,その設定された領域内において高周波数成分画像を生成し,生成した高周波数成分画像内において移動枠を移動させながら,移動位置ごとに高周波数成分量を算出している。しかしながら,高周波数成分画像を生成せずに設定された領域内において移動枠を移動させて,その移動位置ごとに移動枠内の画像の高周波数成分量を算出するようにしてもよい。
【0118】
また,追尾枠と移動枠とは同じ大きさ,形状でもよいし,異なる大きさ,形状でもよい。たとえば,移動枠を1辺aの矩形枠とした場合追尾枠を1辺(0.8×a)の矩形枠としてもよい。
【0119】
図28は,変形例を示すもので,移動枠を移動させながら高周波数成分量を算出する処理手順(たとえば,図2ステップ34の処理手順)を示すフローチャートである。
【0120】
この処理手順は,移動枠44内の高周波数成分量が所定のしきい値よりも小さい場合には,移動枠44をそれまでの移動距離よりも2画素増えるようにし,しきい値以上の場合には,移動枠44をそれまでの移動距離よりも1画素増えるようにするものである。
【0121】
まず,最大高周波数成分量が0にリセットされる(ステップ141)。移動枠の垂直位置jが0にリセットされる(ステップ142)。
【0122】
図29(A)は,移動枠44と追尾枠初期位置設定領域42との関係を示している。追尾枠初期位置設定領域42の左上の座標(0,0)が原点であり,その原点の位置に移動枠44が位置決めされている場合が垂直位置j=0であり,後述するように水平位置i=0である。垂直位置jおよび水平位置iによって移動枠44の位置が決定される。
【0123】
図28に戻って,領域42の高さによって規定される領域42の垂直方向の高さ(長さ)よりも垂直位置jが小さいかどうかが確認される(ステップ143)。領域42の垂直方向の長さよりも垂直位置jが小さければ(ステップ143でYES),移動枠44の少なくとも一部が領域42内に含まれていることとなる。すると,水平位置iが0にリセットされ(ステップ144),領域42の水平方向の幅(長さ)よりも水平位置iが小さいかどうかが確認される(ステップ145)。領域42の水平方向の長さよりも水平位置iが小さければ(ステップ145でYES),移動枠44の少なくとも一部が領域42内に含まれていることとなる。すると,移動枠44の左上の位置が垂直位置jおよび水平位置iで規定される位置で,移動枠44内の画像の高周波数成分量が算出される(ステップ146)。
【0124】
算出された高周波数成分量が最大高周波数成分量より大きければ,その算出された高周波数成分量が最大高周波数成分量に更新される(ステップ148)。
【0125】
算出された高周波数成分量が所定のしきい値よりも小さいかどうかが確認され(ステップ149),算出された高周波数成分量が所定のしきい値以上であれば(ステップ150でNO),移動枠44内の画像は精細なものであり,図29(B)に示すように,移動枠44の移動距離は水平移動位置iに1画素加算したものとされる(ステップ150)。算出された高周波数成分量が所定のしきい値よりも小さければ(ステップ150でYES),移動枠44内の画像は精細なものとは言えず,図29(C)に示すように,移動枠44の移動距離は水平移動位置iに2画素加算したものとされる(ステップ151)。移動枠44が移動した後の位置でも,その位置で算出された高周波数成分量と最大高周波数成分量との比較が行われ,その比較結果に応じて移動枠44の移動距離が決定される(ステップ145から151)。
【0126】
水平位置iの値が領域の水平方向の長さ以上となると(ステップ145でNO),移動枠44は領域42の水平方向から外れ,移動枠44の一部も領域42に含まれなくなる。移動枠44を垂直方向に移動させるべく移動位置jがインクレメントされる(ステップ152)。移動位置jが領域42の高さ以上となると処理が終了する(ステップ143でNO)。
【0127】
図30および図31は,変形例を示すものである。この変形例は,色成分を利用して追尾枠41の初期位置を決定する場合に,色空間上における色成分の分布状態を利用するものである。
【0128】
図30は,RGB色空間を示している(CrCb色空間など他の色空間でもよい)。
【0129】
(0,0,0),(0,255,0),(0,0,255),(0,255,255),(255,0,0),(255,0,255),および(255,255,255)で囲まれる空間160を考える。その空間160が各座標軸方向において3等分され(3等分でなくともよい),合計27個の小ブロックb1〜b27が形成されている。
【0130】
上述したように,追尾枠初期位置設定対象領域32内において,移動枠44が移動させられ,その移動位置ごとに,移動枠44内の画素が図30に示す色空間上にプロットされる。図31に示すように,小ブロックb1〜b27のそれぞれにおいてプロットされた画素の数S1〜S27が算出される。算出された画素の数S1〜S27のうちのもっとも大きな画素の数が,その移動位置での最大画素数Smaxとして検出される。
【0131】
上記のような最大画素数Smaxの算出処理が,移動枠44が移動した位置ごとに算出され,移動位置ごとの最大画素数Smaxのうち,もっとも大きな値が得られる移動位置が追尾枠44の初期位置として決定される。
【符号の説明】
【0132】
1 CPU
26 表示制御装置
27 表示装置
28 初期ターゲット設定装置
29 自動追尾装置
【特許請求の範囲】
【請求項1】
多数のフレームの画像を表す画像データを1フレームずつ順に入力し,入力した画像データによって表される画像に含まれる追尾対象のターゲット画像を囲む追尾枠を,表示装置の表示画面に表示するターゲット画像の自動追尾装置における追尾枠の初期位置設定装置において,
ターゲット画像の自動追尾装置に入力した画像データによって表される一の画像を上記表示画面に表示し,かつ追尾枠を上記表示画面の基準位置に表示するように上記表示装置を制御する表示制御手段,
上記表示制御手段の制御のもとに基準位置に表示された追尾枠よりも大きく,かつ上記一の画像以下の大きさであって,上記表示制御手段の制御のもとに基準位置に表示された追尾枠を含む追尾枠初期位置設定対象領域を,上記一の画像に設定する対象領域設定手段,
上記対象領域設定手段によって設定された初期位置設定対象領域内の画像において,移動枠を移動し,移動したごとに移動枠内の画像の高周波数成分の量を算出する特定周波数成分量算出手段,および
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上または最大となる移動枠の位置を追尾枠の初期位置と決定する決定手段,
を備えた追尾枠の初期位置設定装置。
【請求項2】
上記ターゲット画像の自動追尾装置に入力する画像データはカラー画像データであり,
上記対象領域設定手段によって設定された初期位置設定対象領域内の画像内において,移動枠を移動し,移動したごとに移動枠内の画像の所定の色成分の成分量を算出する色成分量算出手段を備え,
上記決定手段は,
上記色成分量算出手段によって算出された成分量が所定のしきい値以上または最大となる移動枠の位置を初期位置と決定するものである,
請求項1に記載の追尾枠の初期位置設定装置。
【請求項3】
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御する第1の制御手段,
をさらに備えた請求項1または2に記載の追尾枠の初期位置設定装置。
【請求項4】
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記色成分量算出処理を行うように上記色成分量算出手段を制御する第1の制御手段,
をさらに備えた請求項1から3のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項5】
移動枠の拡大指令を与える拡大指令手段をさらに備え,
上記第1の制御手段は,
上記拡大指令手段から拡大指令が与えられており,かつ上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御するものである,
請求項1から4のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項6】
移動枠の拡大指令を与える拡大指令手段をさらに備え,
上記第2の制御手段は,
上記拡大指令手段から拡大指令が与えられており,かつ上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記色成分量算出処理を行うように上記色周波数成分量算出手段を制御するものである,
請求項1から5のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項7】
移動枠の拡大率を設定する拡大率設定手段をさらに備え,
上記第1の制御手段は,
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,上記拡大率設定手段によって設定された拡大率にしたがって移動枠を大きくして,上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御するものである,
請求項1から6のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項8】
移動枠の拡大率を設定する拡大率設定手段をさらに備え,
上記第2の制御手段は,
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,上記拡大率設定手段によって設定された拡大率にしたがって移動枠を大きくして,上記色成分量算出処理を行うように上記色成分量算出手段を制御するものである,
請求項1から7のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項9】
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,上記一の画像を小さくして,上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御する第3の制御手段,
をさらに備えた請求項1から8のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項10】
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,上記一の画像を小さくして,上記色成分量算出処理を行うように上記色成分量算出手段を制御する第4の制御手段,
をさらに備えた請求項1から9のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項11】
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,追尾処理ができないことを報知する第1の報知手段,
をさらに備えた請求項1から10のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項12】
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,追尾処理ができないことを報知する第2の報知手段,
をさらに備えた請求項1から11のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項13】
上記第1の報知手段は,
音声出力または移動枠の表示形態の変更により追尾処理ができないことを報知するものである,
請求項1から12のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項14】
上記第1の報知手段は,
移動枠の色,線の種類もしくは形状または移動枠の点灯もしくは点滅手法の変更により追尾処理ができないことを報知するものである,
請求項1から13のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項15】
上記第2の報知手段は,
音声出力または移動枠の表示形態の変更により追尾処理ができないことを報知するものである,
請求項1から14のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項16】
上記第2の報知手段は,
移動枠の色,線の種類もしくは形状または移動枠の点灯もしくは点滅手法の変更により追尾処理ができないことを報知するものである,
請求項1から15のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項17】
上記対象領域設定手段は,
上記基準位置が中心となるように追尾枠初期位置設定領域を上記一の画像に設定するものであり,
上記特定周波数成分量算出手段は,
上記移動枠を上記基準位置から外側に移動し,移動したごとに移動枠内の画像の高周波数成分量を算出するものである,
請求項1から16のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項18】
上記対象領域設定手段は,
上記基準位置が中心となるように追尾枠初期位置設定領域を上記一の画像に設定するものであり,
上記色成分量算出手段は,
上記移動枠を上記基準位置から外側に移動し,移動したごとに移動枠内の画像の所定の色成分の成分量を算出するものである,
請求項1から17のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項19】
上記特定周波数成分量算出手段は,
上記移動枠を移動し,移動したごとに移動枠内の画像の低周波数成分量または高周波数成分を除いた中間周波数成分量を算出するものであり,
上記決定手段は,
上記特定周波数成分量算出手段によって算出された低周波数成分量または中間周波数成分量が所定のしきい値以上となる移動枠の位置を追尾枠の初期位置と決定するものである,
請求項1から18のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項20】
上記一の画像を表す画像データにノイズ低減処理を行うノイズ低減処理手段をさらに備え,
上記ノイズ低減処理手段によってノイズ低減処理された画像データによって表される上記一の画像について上記対象領域設定手段による処理,上記特定周波数成分量算出手段による処理,および上記決定手段による処理を行うものである,
請求項1から19のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項21】
上記一の画像を表す画像データに偽色または偽信号低減処理を行う信号処理手段をさらに備え,
上記信号処理手段によって偽色または偽信号低減処理された画像データによって表される上記一の画像について上記対象領域設定手段による処理,上記特定周波数成分量算出手段による処理,および上記決定手段による処理を行うものである,
請求項1から20のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項22】
追尾枠の初期位置の決定処理を停止する指令を与える停止指令手段をさらに備え,
上記停止指令手段から停止する指令が与えられたことに応じて,上記対象領域設定手段による処理,上記特定周波数成分量算出手段による処理,および上記決定手段による処理を停止して,上記基準位置を追尾枠の初期位置と決定するものである,
請求項1から21のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項23】
多数のフレームの画像を表す画像データを1フレームずつ順に入力し,入力した画像データによって表される画像に含まれる追尾対象のターゲット画像を囲む追尾枠を,表示装置の表示画面に表示するターゲット画像の自動追尾装置における追尾枠の初期位置設定装置の動作制御方法において,
表示制御手段が,ターゲット画像の自動追尾装置に入力した画像データによって表される一の画像を上記表示画面に表示し,かつ追尾枠を上記表示画面の基準位置に表示するように上記表示装置を制御し,
対象領域設定手段が,上記表示制御手段の制御のもとに基準位置に表示された追尾枠よりも大きく,かつ上記一の画像以下の大きさであって,上記表示制御手段の制御のもとに基準位置に表示された追尾枠を含む追尾枠初期位置設定対象領域を,上記一の画像に設定し,
特定周波数成分量算出手段が,上記対象領域設定手段によって設定された初期位置設定対象領域内の画像において,移動枠を移動し,移動したごとに移動枠内の画像の高周波数成分の量を算出し,
決定手段が,上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上または最大となる移動枠の位置を追尾枠の初期位置と決定する,
追尾枠の初期位置設定装置の動作制御方法。
【請求項1】
多数のフレームの画像を表す画像データを1フレームずつ順に入力し,入力した画像データによって表される画像に含まれる追尾対象のターゲット画像を囲む追尾枠を,表示装置の表示画面に表示するターゲット画像の自動追尾装置における追尾枠の初期位置設定装置において,
ターゲット画像の自動追尾装置に入力した画像データによって表される一の画像を上記表示画面に表示し,かつ追尾枠を上記表示画面の基準位置に表示するように上記表示装置を制御する表示制御手段,
上記表示制御手段の制御のもとに基準位置に表示された追尾枠よりも大きく,かつ上記一の画像以下の大きさであって,上記表示制御手段の制御のもとに基準位置に表示された追尾枠を含む追尾枠初期位置設定対象領域を,上記一の画像に設定する対象領域設定手段,
上記対象領域設定手段によって設定された初期位置設定対象領域内の画像において,移動枠を移動し,移動したごとに移動枠内の画像の高周波数成分の量を算出する特定周波数成分量算出手段,および
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上または最大となる移動枠の位置を追尾枠の初期位置と決定する決定手段,
を備えた追尾枠の初期位置設定装置。
【請求項2】
上記ターゲット画像の自動追尾装置に入力する画像データはカラー画像データであり,
上記対象領域設定手段によって設定された初期位置設定対象領域内の画像内において,移動枠を移動し,移動したごとに移動枠内の画像の所定の色成分の成分量を算出する色成分量算出手段を備え,
上記決定手段は,
上記色成分量算出手段によって算出された成分量が所定のしきい値以上または最大となる移動枠の位置を初期位置と決定するものである,
請求項1に記載の追尾枠の初期位置設定装置。
【請求項3】
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御する第1の制御手段,
をさらに備えた請求項1または2に記載の追尾枠の初期位置設定装置。
【請求項4】
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記色成分量算出処理を行うように上記色成分量算出手段を制御する第1の制御手段,
をさらに備えた請求項1から3のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項5】
移動枠の拡大指令を与える拡大指令手段をさらに備え,
上記第1の制御手段は,
上記拡大指令手段から拡大指令が与えられており,かつ上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御するものである,
請求項1から4のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項6】
移動枠の拡大指令を与える拡大指令手段をさらに備え,
上記第2の制御手段は,
上記拡大指令手段から拡大指令が与えられており,かつ上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,移動枠を大きくして上記色成分量算出処理を行うように上記色周波数成分量算出手段を制御するものである,
請求項1から5のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項7】
移動枠の拡大率を設定する拡大率設定手段をさらに備え,
上記第1の制御手段は,
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,上記拡大率設定手段によって設定された拡大率にしたがって移動枠を大きくして,上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御するものである,
請求項1から6のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項8】
移動枠の拡大率を設定する拡大率設定手段をさらに備え,
上記第2の制御手段は,
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,上記拡大率設定手段によって設定された拡大率にしたがって移動枠を大きくして,上記色成分量算出処理を行うように上記色成分量算出手段を制御するものである,
請求項1から7のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項9】
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,上記一の画像を小さくして,上記高周波数成分量算出処理を行うように上記特定周波数成分量算出手段を制御する第3の制御手段,
をさらに備えた請求項1から8のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項10】
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,上記一の画像を小さくして,上記色成分量算出処理を行うように上記色成分量算出手段を制御する第4の制御手段,
をさらに備えた請求項1から9のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項11】
上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,追尾処理ができないことを報知する第1の報知手段,
をさらに備えた請求項1から10のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項12】
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,追尾処理ができないことを報知する第2の報知手段,
をさらに備えた請求項1から11のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項13】
上記第1の報知手段は,
音声出力または移動枠の表示形態の変更により追尾処理ができないことを報知するものである,
請求項1から12のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項14】
上記第1の報知手段は,
移動枠の色,線の種類もしくは形状または移動枠の点灯もしくは点滅手法の変更により追尾処理ができないことを報知するものである,
請求項1から13のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項15】
上記第2の報知手段は,
音声出力または移動枠の表示形態の変更により追尾処理ができないことを報知するものである,
請求項1から14のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項16】
上記第2の報知手段は,
移動枠の色,線の種類もしくは形状または移動枠の点灯もしくは点滅手法の変更により追尾処理ができないことを報知するものである,
請求項1から15のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項17】
上記対象領域設定手段は,
上記基準位置が中心となるように追尾枠初期位置設定領域を上記一の画像に設定するものであり,
上記特定周波数成分量算出手段は,
上記移動枠を上記基準位置から外側に移動し,移動したごとに移動枠内の画像の高周波数成分量を算出するものである,
請求項1から16のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項18】
上記対象領域設定手段は,
上記基準位置が中心となるように追尾枠初期位置設定領域を上記一の画像に設定するものであり,
上記色成分量算出手段は,
上記移動枠を上記基準位置から外側に移動し,移動したごとに移動枠内の画像の所定の色成分の成分量を算出するものである,
請求項1から17のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項19】
上記特定周波数成分量算出手段は,
上記移動枠を移動し,移動したごとに移動枠内の画像の低周波数成分量または高周波数成分を除いた中間周波数成分量を算出するものであり,
上記決定手段は,
上記特定周波数成分量算出手段によって算出された低周波数成分量または中間周波数成分量が所定のしきい値以上となる移動枠の位置を追尾枠の初期位置と決定するものである,
請求項1から18のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項20】
上記一の画像を表す画像データにノイズ低減処理を行うノイズ低減処理手段をさらに備え,
上記ノイズ低減処理手段によってノイズ低減処理された画像データによって表される上記一の画像について上記対象領域設定手段による処理,上記特定周波数成分量算出手段による処理,および上記決定手段による処理を行うものである,
請求項1から19のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項21】
上記一の画像を表す画像データに偽色または偽信号低減処理を行う信号処理手段をさらに備え,
上記信号処理手段によって偽色または偽信号低減処理された画像データによって表される上記一の画像について上記対象領域設定手段による処理,上記特定周波数成分量算出手段による処理,および上記決定手段による処理を行うものである,
請求項1から20のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項22】
追尾枠の初期位置の決定処理を停止する指令を与える停止指令手段をさらに備え,
上記停止指令手段から停止する指令が与えられたことに応じて,上記対象領域設定手段による処理,上記特定周波数成分量算出手段による処理,および上記決定手段による処理を停止して,上記基準位置を追尾枠の初期位置と決定するものである,
請求項1から21のうちいずれか一項に記載の追尾枠の初期位置設定装置。
【請求項23】
多数のフレームの画像を表す画像データを1フレームずつ順に入力し,入力した画像データによって表される画像に含まれる追尾対象のターゲット画像を囲む追尾枠を,表示装置の表示画面に表示するターゲット画像の自動追尾装置における追尾枠の初期位置設定装置の動作制御方法において,
表示制御手段が,ターゲット画像の自動追尾装置に入力した画像データによって表される一の画像を上記表示画面に表示し,かつ追尾枠を上記表示画面の基準位置に表示するように上記表示装置を制御し,
対象領域設定手段が,上記表示制御手段の制御のもとに基準位置に表示された追尾枠よりも大きく,かつ上記一の画像以下の大きさであって,上記表示制御手段の制御のもとに基準位置に表示された追尾枠を含む追尾枠初期位置設定対象領域を,上記一の画像に設定し,
特定周波数成分量算出手段が,上記対象領域設定手段によって設定された初期位置設定対象領域内の画像において,移動枠を移動し,移動したごとに移動枠内の画像の高周波数成分の量を算出し,
決定手段が,上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上または最大となる移動枠の位置を追尾枠の初期位置と決定する,
追尾枠の初期位置設定装置の動作制御方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【公開番号】特開2011−160062(P2011−160062A)
【公開日】平成23年8月18日(2011.8.18)
【国際特許分類】
【出願番号】特願2010−18136(P2010−18136)
【出願日】平成22年1月29日(2010.1.29)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
【公開日】平成23年8月18日(2011.8.18)
【国際特許分類】
【出願日】平成22年1月29日(2010.1.29)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
[ Back to top ]