画像処理装置
【構成】フラッシュメモリ40は複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持し、CPU30は、複数の変形態様の各々に対応して指定画像を変形し、変形処理に係る変形態様に対応する辞書画像を保持された複数の辞書画像の中から選択する。CPU30はまた、選択された辞書画像に符合する部分画像を作成された変形画像から探索し、発見された部分画像に注目して既定処理を実行する。
【効果】探索性能が向上する。
【効果】探索性能が向上する。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、画像処理装置に関し、特に、辞書画像に符合する画像を指定画像から探索する、画像処理装置に関する。
【背景技術】
【0002】
この種の装置の一例が、特許文献1に開示されている。この背景技術によれば、Target画像認識部20は、カメラ21で撮像された画像をフレームメモリ22に蓄積し、フレームメモリ22に蓄積した画像を元にEdge画像生成部23でEdge画像を生成する。Target特徴量抽出部24では、Edge点を元に局所特徴量が抽出される。最後にマッチング部25で、Target特徴量抽出部24にて抽出された特徴量とすでにModel辞書15に登録してあるModelの特徴量とを比較することで、モデルModelとターゲットTargetのマッチングペアが取得され、物体同定部26で取得されたマッチングペア数をもとに、Target画像内の物体が同定される。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2008−077626号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、背景技術では、複数のモデルを辞書に登録して複数の物体を認識しようとした場合に、複数の物体間での形状の相違は考慮されない。形状の相違に対応してアスペクト比が異なる複数のモデルを辞書に登録した場合は、モデル毎に異なる手法で探索処理を実行する必要がある。よって、探索処理の負荷が大きくなり、この点で性能に限界がある。
【0005】
それゆえに、この発明の主たる目的は、探索性能を向上することができる、画像処理装置を提供することである。
【課題を解決するための手段】
【0006】
この発明に従う画像処理装置(10:実施例で相当する参照符号。以下同じ)は、複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持手段(40)、複数の変形態様の各々に対応して指定画像を変形する変形手段(S39~S45, S79~S81)、変形手段の変形態様に対応する辞書画像を保持手段によって保持された複数の辞書画像の中から選択する選択手段(S57, S65~S67)、選択手段によって選択された辞書画像に符合する部分画像を変形手段によって作成された変形画像から探索する探索手段(S47~S55, S59, S69~S77)、および探索手段によって発見された部分画像に注目して既定処理を実行する処理手段(S87~S91, S13~S19)を備える。
【0007】
好ましくは、保持手段によって保持された複数の辞書画像の一部を複数の変形態様の各々に割り当てる割り当て手段(TBL)をさらに備え、選択手段は割り当て手段の割り当てを参照して選択処理を実行する。
【0008】
好ましくは、指定画像を再現する再現手段(S1)をさらに備え、既定処理は、部分画像の属性を指定画像に対応して変換する変換処理(S87~S91)、および変換処理によって変換された属性を参照して報知を出力する報知処理(S13)を含む。
【0009】
好ましくは、被写界を捉える撮像面を有して被写界像を出力する撮像手段(16)をさらに備え、指定画像は撮像手段から出力された被写界像に相当し、既定処理は撮像条件を調整する調整処理(S15~S19)を含む。
【0010】
好ましくは、複数の物体の各々は人物を含む複数の種別の動物のいずれかに相当する。
【0011】
この発明に従う画像処理プログラムは、画像処理装置(10)のプロセッサ(30)に、複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ(40)、複数の変形態様の各々に対応して指定画像を変形する変形ステップ(S39~S45, S79~S81)、変形ステップの変形態様に対応する辞書画像を保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ(S57, S65~S67)、選択ステップによって選択された辞書画像に符合する部分画像を変形ステップによって作成された変形画像から探索する探索ステップ(S47~S55, S59, S69~S77)、および探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップ(S87~S91, S13~S19)を実行させるための、画像処理プログラムである。
【0012】
この発明に従う画像処理方法は、画像処理装置(10)によって実行される画像処理方法であって、複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ(40)、複数の変形態様の各々に対応して指定画像を変形する変形ステップ(S39~S45, S79~S81)、変形ステップの変形態様に対応する辞書画像を保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ(S57, S65~S67)、選択ステップによって選択された辞書画像に符合する部分画像を変形ステップによって作成された変形画像から探索する探索ステップ(S47~S55, S59, S69~S77)、および探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップ(S87~S91, S13~S19)を備える。
【0013】
この発明に従う外部制御プログラムは、メモリ(40)に保存された内部制御プログラムに従う処理を実行するプロセッサ(30)を備える画像処理装置(10)に供給される外部制御プログラムであって、複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ(40)、複数の変形態様の各々に対応して指定画像を変形する変形ステップ(S39~S45, S79~S81)、変形ステップの変形態様に対応する辞書画像を保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ(S57, S65~S67)、選択ステップによって選択された辞書画像に符合する部分画像を変形ステップによって作成された変形画像から探索する探索ステップ(S47~S55, S59, S69~S77)、および探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップ(S87~S91, S13~S19)を内部制御プログラムと協働してプロセッサに実行させるための、外部制御プログラムである。
【0014】
この発明に従う画像処理装置(10)は、外部制御プログラムを受信する受信手段(44)、および受信手段によって受信された外部制御プログラムとメモリ(40)に保存された内部制御プログラムとに従う処理を実行するプロセッサ(30)を備える画像処理装置であって、外部制御プログラムは、複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ(40)、複数の変形態様の各々に対応して指定画像を変形する変形ステップ(S39~S45, S79~S81)、変形ステップの変形態様に対応する辞書画像を保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ(S57, S65~S67)、選択ステップによって選択された辞書画像に符合する部分画像を変形ステップによって作成された変形画像から探索する探索ステップ(S47~S55, S59, S69~S77)、および探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップ(S87~S91, S13~S19)を内部制御プログラムと協働して実行するプログラムに相当する。
【発明の効果】
【0015】
複数の辞書画像は互いに異なる態様で変形され、指定画像は複数の変形態様の各々に対応して変形される。探索処理は、指定画像の変形態様に対応する一部の辞書画像を参照して実行される。
【0016】
ここで、複数の辞書画像は、複数の物体をそれぞれ表す。このため、或る物体を表す辞書画像を参照した探索処理に用いられる指定画像の変形態様は、他の物体を表す辞書画像を参照した探索処理に用いられる指定画像の変形態様と相違する。
【0017】
これによって、変形前の辞書画像のアスペクト比が物体によって異なったとしても共通の手法で探索処理を実行することができる。こうして、性能の向上が図られる。
【0018】
この発明の上述の目的,その他の目的,特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
【図面の簡単な説明】
【0019】
【図1】この発明の一実施例の基本的構成を示すブロック図である。
【図2】この発明の一実施例の構成を示すブロック図である。
【図3】人物&動物検出タスクにおいて参照されるレジスタの一例を示す図解図である。
【図4】撮像タスクにおいて参照されるレジスタの一例を示す図解図である。
【図5】変形辞書の構成の一例を示す図解図である。
【図6】変形対応テーブルの構成の一例を示す図解図である。
【図7】人物&動物検出タスクにおいて用いられる検出枠の一例を示す図解図である。
【図8】変形辞書に収められる特徴量の作成方法の一例を示す図解図である。
【図9】(A)は撮像面によって捉えられた画像の一例を示す図解図であり、(B)は画像の変形態様の一例を示す図解図である。
【図10】人物&動物検出タスクにおける検出処理の一部を示す図解図である。
【図11】人物&動物検出タスクにおいて検出された人物を表す画像の一例を示す図解図である。
【図12】人物&動物検出タスクにおいて検出された人物を表す画像および動物を表す画像の一例を示す図解図である。
【図13】処理対象枠キャラクタの一例を示す図解図である。
【図14】図2実施例に適用されるCPUの動作の一部を示すフロー図である。
【図15】図2実施例に適用されるCPUの動作の他の一部を示すフロー図である。
【図16】図2実施例に適用されるCPUの動作のその他の一部を示すフロー図である。
【図17】図2実施例に適用されるCPUの動作のさらにその他の一部を示すフロー図である。
【図18】図2実施例に適用されるCPUの動作の他の一部を示すフロー図である。
【図19】図2実施例に適用されるCPUの動作のその他の一部を示すフロー図である。
【図20】この発明の他の実施例の構成を示すブロック図である。
【発明を実施するための形態】
【0020】
以下、この発明の実施の形態を図面を参照しながら説明する。
[基本的構成]
【0021】
図1を参照して、この実施例の画像処理装置は、基本的に次のように構成される。保持手段1は、複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する。変形手段2は、複数の変形態様の各々に対応して指定画像を変形する。選択手段3は、変形手段2の変形態様に対応する辞書画像を保持手段1によって保持された複数の辞書画像の中から選択する。探索手段4は、選択手段3によって選択された辞書画像に符合する部分画像を変形手段2によって作成された変形画像から探索する。処理手段5は、探索手段4によって発見された部分画像に注目して既定処理を実行する。
[実施例]
【0022】
図2を参照して、この実施例のディジタルカメラ10は、ドライバ18によって駆動されるフォーカスレンズ12を含む。これらの部材を経た被写界の光学像は、イメージセンサ16の撮像面に照射され、光電変換を施される。これによって、被写界像を表す電荷が生成される。
【0023】
電源が投入されると、CPU30は、撮像タスクの下で動画取り込み処理を開始するべく、ドライバ18に露光動作および電荷読み出し動作の繰り返しを命令する。ドライバ18は、図示しないSG(SignalGenerator)から周期的に発生する垂直同期信号Vsyncに応答して、撮像面を露光し、かつ撮像面で生成された電荷をラスタ走査態様で読み出す。イメージセンサ16からは、読み出された電荷に基づく生画像データが周期的に出力される。
【0024】
信号処理回路20は、イメージセンサ16から出力された生画像データに白バランス調整,色分離,YUV変換などの処理を施し、これによって生成されたYUV形式の画像データをメモリ制御回路22を通してSDRAM24に書き込む。LCDドライバ26は、SDRAM24に格納された画像データをメモリ制御回路22を通して繰り返し読み出し、読み出された画像データに基づいてLCDモニタ28を駆動する。この結果、被写界を表す動画像がモニタ画面に表示される。
【0025】
信号処理回路20によって生成された画像データのうち、YデータはCPU30にも与えられる。CPU30は、後述するフラグFLG_Fが0である限り、与えられたYデータに簡易AE処理を施して適正EV値を算出する。算出された適正EV値を定義する絞り量および露光時間はドライバ18に設定され、これによって動画像の明るさが適度に調整される。また、フラグFLG_Fが0である限りCPU30は、信号処理回路20から与えられたYデータのうち被写界中央に属する高周波成分にAF処理を施す。これによってフォーカスレンズ12が被写界中央に注目した合焦点に配置される。
【0026】
シャッタボタン32shが半押しされると、シャッタボタン32shが解除されるまでは、フォーカスレンズ12の位置および露光量が半押し時点の位置および露光量にそれぞれ固定される。
【0027】
シャッタボタン32shが全押しされると、静止画取り込み処理および記録処理が実行される。シャッタボタン32shが全押しされた時点の1フレームの画像データは、静止画取り込み処理によってSDRAM24に取り込まれる。取り込まれた1フレームの画像データは、記録処理に関連して起動したI/F34によってSDRAM24から読み出され、ファイル形式で記録媒体36に記録される。
【0028】
CPU30は、撮像タスクと並列して実行される人物&動物検出タスクの下で、SDARM24に格納された画像データから人物または動物の画像を探索する。このような人物&動物検出タスクのために、図3に示す検出ワークレジスタRGST1,図4に示す検出結果レジスタRGST2,図5に示す変形辞書CHDC,図6に示す変形対応テーブルTBL,および図7に示す複数の検出枠FD,FD,FD,…が準備される。
【0029】
検出ワークレジスタRGST1は、人物または動物の画像情報を一時的に保持するためのレジスタに相当し、後述する変形画像上における人物または動物の画像の検出位置(画像が検出された時点の検出枠FDの位置)を記述するカラム,検出された画像のサイズ(画像が検出された時点の検出枠FDのサイズ),後述する特徴量番号を記述するカラム,および変形対応テーブルTBLのカラム番号を記述するカラムによって形成される。検出結果レジスタRGST2は、人物または動物の画像情報を保持するためのレジスタに相当し、元画像上における検出位置を記述するカラム,検出された画像のサイズ,および特徴量番号を記述するカラムによって形成される。
【0030】
変形辞書CHDCにおいては、人物または動物の画像の特徴量が複数収められる。変形辞書CHDCに収められる特徴量は、以下のようにして求められる。まず、共通の種別の動物の顔部を各々が示す複数の画像,人物の顔部を各々が示す複数の画像,および人物の全身を各々が示す複数の画像が準備され、これらの画像の各々が正方形の枠に収まるように変形される。次に、変形された複数の画像から複数の特徴量がそれぞれ抽出され、共通の種別の動物の顔部に対応する特徴量の平均,人物の顔部に対応する特徴量の平均,および人物の全身に対応する特徴量の平均が、平均特徴量として算出される。このようにして算出された複数の平均特徴量が変形辞書CHDCに収められる。収められた各々の平均特徴量には、固有の識別番号(=特徴量番号)が割り当てられる。
【0031】
例えば図5および図8に示すように、特徴量番号“1”には、縦方向のサイズが1/2となるように変形されたキリンの顔画像の平均特徴量が割り当てられる。
【0032】
変形対応テーブルTBLは、探索処理の対象となる画像データの変形態様と変形された画像データ上での探索処理のために参照される平均特徴量とを対応付けるテーブルに相当する。変形対応テーブルTBLは、具体的には、変形方向が記述されたカラム,変形係数が記述されたカラム,探索処理に用いる平均特徴量の数が記述されたカラム,および探索処理に用いる平均特徴量を識別する特徴量番号が記述されたカラムによって形成される。
【0033】
人物&動物検出タスクの下ではまず、フラグFLG_Fが“0”に設定される。ここで、フラグFLG_Fは、人物または動物の画像が発見されたか否かを識別するためのフラグである。“0”が非発見を示す一方、“1”が発見を示す。また、検出結果レジスタRGST2の登録内容がクリアされる。
【0034】
CPU30は次に、変数Nを“1”に設定する。また、変数Nの可変範囲を定義するべく、最大値Nmaxが変形対応テーブルTBLのカラム数に設定される。図6の例によると、Nmaxは“13”に設定される。続いて、変数Nが“1”〜“Nmax”の各々に設定され、変形対応テーブルTBLのN番目のカラムが参照される。
【0035】
間引き回路38は、SDRAM24に格納された画像データに基づく画像を、参照されたカラムの変形方向および変形係数に基づき画素を間引くことによって変形する。例えば図6を参照して、変数Nが“1”を示す場合は、変形方向は“縦”であり、変形係数は“1/4”である。この場合、図9(A)に示す画像は、縦の長さが1/4となるように画素が間引かれる。この結果、図9(A)に示す画像は図9(B)に示すように変形される。
【0036】
図7に示す検出枠FDは、変形後の画像に割り当てられた探索エリア上をラスタ走査態様で移動する。検出枠FDのサイズは、ラスタ走査が終了する毎に最大サイズSZmaxから最小サイズSZminまで“5”刻みで縮小される。
【0037】
探索エリアはまず、変形後の画像全域を覆うように設定される。また、最大サイズSZmaxは“200”に設定され、最小サイズSZminは“20”に設定される。したがって、検出枠FDは、“200”〜“20”の範囲で変化するサイズを有して、図10に示す要領で探索エリア上を走査される。
【0038】
CPU30は、検出枠FDに属する画像データを変形画像データから読み出し、読み出された画像データの特徴量を算出する。
【0039】
次に、変数Mが“1”に設定される。続いて変数Mが、“1”から参照カラムの“特徴量数”に記述された数値までの各々に設定され、変形辞書CHDCに登録された平均特徴量と算出された特徴量とが照合される。照合される平均特徴量は、参照カラムの“特徴量番号”のM番目に記述された番号に対応する平均特徴量である。
【0040】
照合度が基準値REFを上回ると、検出枠FDから人物または動物の画像が発見されたとみなされ、現時点の検出枠FDの変形画像上での位置およびサイズが、発見された画像を囲う検出枠の位置およびサイズとして、検出ワークレジスタRGST1に登録される。また、“特徴量番号”のM番目に記述された番号および現時点の変数Nの値(=変形対応テーブルTBLのカラム番号)も登録される。
【0041】
したがって、図9(B)に示す変形画像上において探索処理が実行された場合は、変形対応テーブルTBLの1番目のカラムが参照され、“特徴量番号”に記述された特徴量番号3の人物の全身像が、検出される(図11参照)。また、検出された人物の全身像を囲う検出枠FDの位置とサイズ,特徴量番号を示す“3”,およびカラム番号を示す“1”が、検出ワークレジスタRGST1に登録される。
【0042】
また、変数Nに“7”が設定された場合は、変形対応テーブルTBLの7番目のカラムの変形方向および変形係数はともに“なし”なので、変形画像上ではなくSDRAM24に格納された画像上において探索処理が実行される。
【0043】
図9(A)に示す画像上において探索処理が実行された場合は、変形対応テーブルTBLの7番目のカラムが参照され、“特徴量番号”の1番目に記述された特徴量番号4の人物の顔画像が、検出される(図12参照)。そして、検出された人物の顔画像を囲う検出枠FDの位置とサイズ,特徴量番号を示す“4”およびカラム番号を示す“7”が、検出ワークレジスタRGST1に登録される。
【0044】
また、“特徴量番号”の2番目に記述された特徴量番号5の犬の顔画像が、検出される。そして、検出された犬の顔画像を囲う検出枠FDの位置とサイズ,特徴量番号を示す“5”およびカラム番号を示す“7”が、検出ワークレジスタRGST1に登録される。
【0045】
N=“Nmax”での探索処理が完了すると、検出ワークレジスタRGST1に登録がある場合は、検出ワークレジスタRGST1に登録されたカラム番号に対応する変形方向および変形係数が、変形対応テーブルTBLから読み出される。CPU30は、読み出された変形方向および変形係数、ならびに検出ワークレジスタRGST1に登録された変形画像上の検出位置およびサイズに基づいて、元画像上の検出位置および検出された画像のサイズを算出する。
【0046】
算出された元画像上の検出位置および検出された画像のサイズ,ならびに検出ワークレジスタRGST1に登録された特徴量番号に基づいて、検出結果レジスタRGST2の登録内容が更新される。更新が完了すると、人物または動物の画像が発見されたことを表明するべく、フラグFLG_Fが“1”に設定される。
【0047】
また、検出ワークレジスタRGST1に登録がない場合は、人物または動物の画像が発見されなかったことを表明するべく、フラグFLG_Fが“0”に設定される。
【0048】
フラグFLG_Fが“1”に設定されると、撮像タスクの下でCPU26は、人物または動物の画像が発見されたとみなし、検出結果レジスタRGST2に登録された検出位置およびサイズに対応する処理対象枠キャラクタ表示命令をグラフィックジェネレータ42に向けて発行する。
【0049】
グラフィックジェネレータ42は、与えられた処理対象枠キャラクタ表示命令に基づいて処理対象枠を表すグラフィック画像データを作成し、作成されたグラフィック画像データをLCDドライバ26に与える。LCDドライバ26は、与えられたグラフィック画像データに基づいてLCDモニタ28に処理対象枠キャラクタPFを表示する(図13参照)。
【0050】
CPU30は次に、信号処理回路20から与えられたYデータのうち検出結果レジスタRGST2に登録された検出位置およびサイズに属するYデータに厳格なAE処理を施して、最適EV値を算出する。算出された最適EV値を定義する絞り量および露光時間は、上述と同様、ドライバ18に設定される。この結果、動画像の明るさが厳格に調整される。また、検出結果レジスタRGST2に登録された特徴量番号が“4”であって人物の顔画像を示す場合は、露光量が高輝度寄りに補正される。
【0051】
CPU30はまた、信号処理回路20から与えられたYデータのうち検出結果レジスタRGST2に登録された検出位置およびサイズに属する高周波成分にAF処理を施す。これによって、発見された人物または動物に注目した合焦点にフォーカスレンズ12が配置され、動画像の鮮鋭度が向上する。また、複数の人物または動物の画像が発見された場合は、検出結果レジスタRGST2に登録された特徴量番号が“3”または“4”であって人物を示す画像を優先したAF処理が実行される。
【0052】
CPU26は、図14に示す撮像タスクおよび図16〜図19に示す人物&動物検出タスクを含む複数のタスクをマルチタスクOSの制御の下で実行する。なお、これらのタスクに対応する制御プログラムは、フラッシュメモリ40に記憶される。
【0053】
図14を参照して、ステップS1では動画取り込み処理を実行する。この結果、被写界を表すスルー画像がLCDモニタ28に表示される。ステップS3では、人物&動物検出タスクを起動する。
【0054】
フラグFLG_Fは、人物&動物検出タスクの下で“0”に初期設定され、照合度が基準値REFを上回る人物または動物の画像が発見されたときに“1”に更新される。ステップS5では、このようなフラグFLG_Fが“1”を示すか否かを判別し、判別結果がNOであれば、ステップS7で処理対象枠キャラクタ非表示命令をグラフィックジェネレータ42に向けて発行する。この結果、LCDモニタ28に表示されていた処理対象枠キャラクタPFは、非表示とされる。
【0055】
ステップS9では簡易AE処理を実行し、これによってスルー画像の明るさが適度に調整される。ステップS11では、信号処理回路20から与えられたYデータのうち被写界中央に属する高周波成分にAF処理を施す。これによってフォーカスレンズ12が被写界中央に注目した合焦点に配置される。
【0056】
フラグFLG_Fが“0”から“1”に更新されると、ステップS13で検出結果レジスタRGST2に登録された検出位置およびサイズに対応する処理対象枠キャラクタ表示命令をグラフィックジェネレータ42に向けて発行する。この結果、LCDモニタ28の処理対象枠キャラクタPFの表示が更新される。
【0057】
ステップS15では、検出結果レジスタRGST2に登録された検出位置およびサイズに基づいて厳格なAE処理を実行する。この結果、発見された人物または動物の画像に注目して、動画像の明るさが厳格に調整される。
【0058】
ステップS17では、信号処理回路20から与えられたYデータのうち検出結果レジスタRGST2に登録された検出位置およびサイズに属する高周波成分を抽出し、抽出された高周波成分にステップS19でAF処理を施す。この結果、発見された人物または動物に注目した合焦点にフォーカスレンズ12が配置され、動画像の鮮鋭度が向上する。
【0059】
ステップS21ではシャッタボタン32shが半押しされたか否かを判別し、判別結果がNOであればステップS5に戻る一方、判別結果がYESであればステップS23に進む。ステップS23ではシャッタボタン32shが全押しされたか否かを繰り返し判別し、判別結果がNOであれば、ステップS25でシャッタボタン32shが解除されたか否かを判別する。ステップS25の判別結果がNOであればステップS23に戻る一方、ステップS25の判別結果がYESであればステップS5に戻る。
【0060】
ステップS23の判別結果がYESであれば、ステップS27で静止画取り込み処理を実行する。これによって、シャッタボタン32shが全押しされた直後の1フレームの画像データがSDRAM24に取り込まれる。
【0061】
ステップS29では記録処理を実行する。ステップS27で取り込まれた1フレームの画像データは、記録処理によって記録媒体36に記録される。記録処理が完了すると、その後にステップS5に戻る。
【0062】
図16を参照して、ステップS31ではフラグFLG_Fを“0”に設定し、ステップS33では検出結果レジスタRGST2の登録内容をクリアする。ステップS35では垂直同期信号Vsyncが発生したか否かを判別し、判別結果がNOからYESに更新されるとステップS37に進む。
【0063】
ステップS37では検出ワークレジスタRGST1の登録内容をクリアし、ステップS39では変数Nを“1”に設定し、ステップS41では変数Nの可変範囲を定義するべく最大値Nmaxを“13”に設定する。
【0064】
ステップS43では変形対応テーブルTBLのN番目のカラムを参照し、SDRAM24に格納された画像を参照カラムの変形方向および変形係数に基づきステップS45で変形する。
【0065】
ステップS47では変形画像の全域を探索エリアとして設定する。ステップS49では、検出枠FDのサイズの可変範囲を定義するべく、最大サイズSZmaxを“200”に設定し、最小SZminを“20”に設定する。ステップS51では検出枠FDのサイズを“SZmax”に設定し、ステップS53で検出枠FDを探索エリアの左上位置に配置する。ステップS55では検出枠FDに属する一部の画像データを読み出し、読み出された画像データの特徴量を算出する。
【0066】
ステップS57では変数Mを“1”に設定し、ステップS59では、ステップS55で算出された特徴量を変形辞書CHDCに登録された人物または動物の画像の平均特徴量と照合する。照合される平均特徴量は、参照カラムの“特徴量番号”のM番目に記述された番号に対応する平均特徴量である。
【0067】
ステップS61では照合度が基準値REFを上回るか否かを判別し、判別結果がNOであればステップS65に進み、判別結果がYESであればステップS63の処理を経てステップS65に進む。ステップS63では、現時点の検出枠FDの変形画像上での位置およびサイズ,“特徴量番号”のM番目に記述された番号,ならびに現時点の変数Nの値を、検出ワークレジスタRGST1に登録する。
【0068】
ステップS65では変数Mをインクリメントし、ステップS67では、参照カラムの“特徴量数”に記述された数値を変数Mが超えるか否かを判別する。判別結果がNOであればステップS59に戻り、判別結果がYESであればステップS69に進む。
【0069】
ステップS69では検出枠FDが探索エリアの右下位置に到達したか否かを判別し、判別結果がNOであれば、ステップS71で検出枠FDを既定量だけラスタ方向に移動させ、その後にステップS55に戻る。判別結果がYESであれば、検出枠FDのサイズが“SZmin”以下であるか否かをステップS73で判別する。判別結果がNOであれば、ステップS75で検出枠FDのサイズを“5”だけ縮小させ、ステップS77で検出枠FDを探索エリアの左上位置に配置し、その後にステップS55に戻る。ステップS73の判別結果がYESであれば、ステップS79に進む。
【0070】
ステップS79では変数Nをインクリメントし、ステップS81では変数NがNmaxを超えたか否かを判別する。判別結果がNOであればステップS43に戻り、判別結果がYESであればステップS83に進む。
【0071】
ステップS83では検出ワークレジスタRGST1に登録があるか否かを判別し、判別結果がNOであればステップS85でフラグFLG_Fを“0”に設定した後にステップS35に戻る。判別結果がYESであればステップS87〜ステップS93の処理を経た後にステップS35に戻る。
【0072】
ステップS87では、検出ワークレジスタRGST1に登録されたカラム番号に対応する変形方向および変形係数を、変形対応テーブルTBLから読み出す。ステップS89では、ステップS87で読み出された変形方向および変形係数、ならびに検出ワークレジスタRGST1に登録された変形画像上の検出位置およびサイズに基づいて、元画像上の検出位置および検出された画像のサイズを算出する。
【0073】
ステップS91では、ステップS89で算出された元画像上の検出位置および検出された画像のサイズ,ならびに検出ワークレジスタRGST1に登録された特徴量番号に基づいて、検出結果レジスタRGST2の登録内容を更新する。更新が完了すると、人物または動物の画像が発見されたことを表明するべく、ステップS93でフラグFLG_Fを“1”に設定する。
【0074】
以上の説明から分かるように、フラッシュメモリ40は複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持し、CPU30は、複数の変形態様の各々に対応して指定画像を変形し(S39~S45, S79~S81)、変形処理に係る変形態様に対応する辞書画像を保持された複数の辞書画像の中から選択する(S57, S65~S67)。CPU30はまた、選択された辞書画像に符合する部分画像を作成された変形画像から探索し(S47~S55, S59, S69~S77)、発見された部分画像に注目して既定処理を実行する(S87~S91, S13~S19)。
【0075】
複数の辞書画像は互いに異なる態様で変形され、指定画像は複数の変形態様の各々に対応して変形される。探索処理は、指定画像の変形態様に対応する一部の辞書画像を参照して実行される。
【0076】
ここで、複数の辞書画像は、複数の物体をそれぞれ表す。このため、或る物体を表す辞書画像を参照した探索処理に用いられる指定画像の変形態様は、他の物体を表す辞書画像を参照した探索処理に用いられる指定画像の変形態様と相違する。
【0077】
これによって、変形前の辞書画像のアスペクト比が物体によって異なったとしても共通の手法で探索処理を実行することができる。こうして、性能の向上が図られる。
【0078】
なお、この実施例では、マルチタスクOSおよびこれによって実行される複数のタスクに相当する制御プログラムは、フラッシュメモリ40に予め記憶される。しかし、外部サーバに接続するための通信I/F44を図20に示す要領でディジタルカメラ10に設け、一部の制御プログラムを内部制御プログラムとしてフラッシュメモリ40に当初から準備する一方、他の一部の制御プログラムを外部制御プログラムとして外部サーバから取得するようにしてもよい。この場合、上述の動作は、内部制御プログラムおよび外部制御プログラムの協働によって実現される。
【0079】
また、この実施例では、CPU30によって実行される処理を、図14〜図15に示す撮像タスクおよび図16〜図19に示す人物&動物検出タスクに区分するようにしている。しかし、これらのタスクをさらに複数の小タスクに区分してもよく、さらには区分された複数の小タスクの一部をメインタスクに統合するようにしてもよい。また、転送タスクを複数の小タスクに区分する場合、その全部または一部を外部サーバから取得するようにしてもよい。
【0080】
また、この実施例では、画素を間引くことによって画像を変形し、このように変形された画像上で探索処理を実行している。しかし、画素を補間することによって画像を変形するようにしてもよい。
【0081】
また、この実施例では、検出された人物または動物の画像に注目して、AE処理およびAF処理を実行している。しかし、人物または動物の画像の検出に基づいて、AE処理およびAF処理以外の他の処理を実行するようにしてもよい。
【0082】
また、この実施例では、ディジタルスチルカメラを用いて説明したが、本発明は、携帯電話端末,スマートフォン,ディジタルビデオカメラ,またはパーソナルコンピュータなどにも適用することができる。
【符号の説明】
【0083】
10 … ディジタルカメラ
30 … CPU
38 … 間引き回路
42 … グラフィックジェネレータ
【技術分野】
【0001】
この発明は、画像処理装置に関し、特に、辞書画像に符合する画像を指定画像から探索する、画像処理装置に関する。
【背景技術】
【0002】
この種の装置の一例が、特許文献1に開示されている。この背景技術によれば、Target画像認識部20は、カメラ21で撮像された画像をフレームメモリ22に蓄積し、フレームメモリ22に蓄積した画像を元にEdge画像生成部23でEdge画像を生成する。Target特徴量抽出部24では、Edge点を元に局所特徴量が抽出される。最後にマッチング部25で、Target特徴量抽出部24にて抽出された特徴量とすでにModel辞書15に登録してあるModelの特徴量とを比較することで、モデルModelとターゲットTargetのマッチングペアが取得され、物体同定部26で取得されたマッチングペア数をもとに、Target画像内の物体が同定される。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2008−077626号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、背景技術では、複数のモデルを辞書に登録して複数の物体を認識しようとした場合に、複数の物体間での形状の相違は考慮されない。形状の相違に対応してアスペクト比が異なる複数のモデルを辞書に登録した場合は、モデル毎に異なる手法で探索処理を実行する必要がある。よって、探索処理の負荷が大きくなり、この点で性能に限界がある。
【0005】
それゆえに、この発明の主たる目的は、探索性能を向上することができる、画像処理装置を提供することである。
【課題を解決するための手段】
【0006】
この発明に従う画像処理装置(10:実施例で相当する参照符号。以下同じ)は、複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持手段(40)、複数の変形態様の各々に対応して指定画像を変形する変形手段(S39~S45, S79~S81)、変形手段の変形態様に対応する辞書画像を保持手段によって保持された複数の辞書画像の中から選択する選択手段(S57, S65~S67)、選択手段によって選択された辞書画像に符合する部分画像を変形手段によって作成された変形画像から探索する探索手段(S47~S55, S59, S69~S77)、および探索手段によって発見された部分画像に注目して既定処理を実行する処理手段(S87~S91, S13~S19)を備える。
【0007】
好ましくは、保持手段によって保持された複数の辞書画像の一部を複数の変形態様の各々に割り当てる割り当て手段(TBL)をさらに備え、選択手段は割り当て手段の割り当てを参照して選択処理を実行する。
【0008】
好ましくは、指定画像を再現する再現手段(S1)をさらに備え、既定処理は、部分画像の属性を指定画像に対応して変換する変換処理(S87~S91)、および変換処理によって変換された属性を参照して報知を出力する報知処理(S13)を含む。
【0009】
好ましくは、被写界を捉える撮像面を有して被写界像を出力する撮像手段(16)をさらに備え、指定画像は撮像手段から出力された被写界像に相当し、既定処理は撮像条件を調整する調整処理(S15~S19)を含む。
【0010】
好ましくは、複数の物体の各々は人物を含む複数の種別の動物のいずれかに相当する。
【0011】
この発明に従う画像処理プログラムは、画像処理装置(10)のプロセッサ(30)に、複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ(40)、複数の変形態様の各々に対応して指定画像を変形する変形ステップ(S39~S45, S79~S81)、変形ステップの変形態様に対応する辞書画像を保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ(S57, S65~S67)、選択ステップによって選択された辞書画像に符合する部分画像を変形ステップによって作成された変形画像から探索する探索ステップ(S47~S55, S59, S69~S77)、および探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップ(S87~S91, S13~S19)を実行させるための、画像処理プログラムである。
【0012】
この発明に従う画像処理方法は、画像処理装置(10)によって実行される画像処理方法であって、複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ(40)、複数の変形態様の各々に対応して指定画像を変形する変形ステップ(S39~S45, S79~S81)、変形ステップの変形態様に対応する辞書画像を保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ(S57, S65~S67)、選択ステップによって選択された辞書画像に符合する部分画像を変形ステップによって作成された変形画像から探索する探索ステップ(S47~S55, S59, S69~S77)、および探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップ(S87~S91, S13~S19)を備える。
【0013】
この発明に従う外部制御プログラムは、メモリ(40)に保存された内部制御プログラムに従う処理を実行するプロセッサ(30)を備える画像処理装置(10)に供給される外部制御プログラムであって、複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ(40)、複数の変形態様の各々に対応して指定画像を変形する変形ステップ(S39~S45, S79~S81)、変形ステップの変形態様に対応する辞書画像を保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ(S57, S65~S67)、選択ステップによって選択された辞書画像に符合する部分画像を変形ステップによって作成された変形画像から探索する探索ステップ(S47~S55, S59, S69~S77)、および探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップ(S87~S91, S13~S19)を内部制御プログラムと協働してプロセッサに実行させるための、外部制御プログラムである。
【0014】
この発明に従う画像処理装置(10)は、外部制御プログラムを受信する受信手段(44)、および受信手段によって受信された外部制御プログラムとメモリ(40)に保存された内部制御プログラムとに従う処理を実行するプロセッサ(30)を備える画像処理装置であって、外部制御プログラムは、複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ(40)、複数の変形態様の各々に対応して指定画像を変形する変形ステップ(S39~S45, S79~S81)、変形ステップの変形態様に対応する辞書画像を保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ(S57, S65~S67)、選択ステップによって選択された辞書画像に符合する部分画像を変形ステップによって作成された変形画像から探索する探索ステップ(S47~S55, S59, S69~S77)、および探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップ(S87~S91, S13~S19)を内部制御プログラムと協働して実行するプログラムに相当する。
【発明の効果】
【0015】
複数の辞書画像は互いに異なる態様で変形され、指定画像は複数の変形態様の各々に対応して変形される。探索処理は、指定画像の変形態様に対応する一部の辞書画像を参照して実行される。
【0016】
ここで、複数の辞書画像は、複数の物体をそれぞれ表す。このため、或る物体を表す辞書画像を参照した探索処理に用いられる指定画像の変形態様は、他の物体を表す辞書画像を参照した探索処理に用いられる指定画像の変形態様と相違する。
【0017】
これによって、変形前の辞書画像のアスペクト比が物体によって異なったとしても共通の手法で探索処理を実行することができる。こうして、性能の向上が図られる。
【0018】
この発明の上述の目的,その他の目的,特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
【図面の簡単な説明】
【0019】
【図1】この発明の一実施例の基本的構成を示すブロック図である。
【図2】この発明の一実施例の構成を示すブロック図である。
【図3】人物&動物検出タスクにおいて参照されるレジスタの一例を示す図解図である。
【図4】撮像タスクにおいて参照されるレジスタの一例を示す図解図である。
【図5】変形辞書の構成の一例を示す図解図である。
【図6】変形対応テーブルの構成の一例を示す図解図である。
【図7】人物&動物検出タスクにおいて用いられる検出枠の一例を示す図解図である。
【図8】変形辞書に収められる特徴量の作成方法の一例を示す図解図である。
【図9】(A)は撮像面によって捉えられた画像の一例を示す図解図であり、(B)は画像の変形態様の一例を示す図解図である。
【図10】人物&動物検出タスクにおける検出処理の一部を示す図解図である。
【図11】人物&動物検出タスクにおいて検出された人物を表す画像の一例を示す図解図である。
【図12】人物&動物検出タスクにおいて検出された人物を表す画像および動物を表す画像の一例を示す図解図である。
【図13】処理対象枠キャラクタの一例を示す図解図である。
【図14】図2実施例に適用されるCPUの動作の一部を示すフロー図である。
【図15】図2実施例に適用されるCPUの動作の他の一部を示すフロー図である。
【図16】図2実施例に適用されるCPUの動作のその他の一部を示すフロー図である。
【図17】図2実施例に適用されるCPUの動作のさらにその他の一部を示すフロー図である。
【図18】図2実施例に適用されるCPUの動作の他の一部を示すフロー図である。
【図19】図2実施例に適用されるCPUの動作のその他の一部を示すフロー図である。
【図20】この発明の他の実施例の構成を示すブロック図である。
【発明を実施するための形態】
【0020】
以下、この発明の実施の形態を図面を参照しながら説明する。
[基本的構成]
【0021】
図1を参照して、この実施例の画像処理装置は、基本的に次のように構成される。保持手段1は、複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する。変形手段2は、複数の変形態様の各々に対応して指定画像を変形する。選択手段3は、変形手段2の変形態様に対応する辞書画像を保持手段1によって保持された複数の辞書画像の中から選択する。探索手段4は、選択手段3によって選択された辞書画像に符合する部分画像を変形手段2によって作成された変形画像から探索する。処理手段5は、探索手段4によって発見された部分画像に注目して既定処理を実行する。
[実施例]
【0022】
図2を参照して、この実施例のディジタルカメラ10は、ドライバ18によって駆動されるフォーカスレンズ12を含む。これらの部材を経た被写界の光学像は、イメージセンサ16の撮像面に照射され、光電変換を施される。これによって、被写界像を表す電荷が生成される。
【0023】
電源が投入されると、CPU30は、撮像タスクの下で動画取り込み処理を開始するべく、ドライバ18に露光動作および電荷読み出し動作の繰り返しを命令する。ドライバ18は、図示しないSG(SignalGenerator)から周期的に発生する垂直同期信号Vsyncに応答して、撮像面を露光し、かつ撮像面で生成された電荷をラスタ走査態様で読み出す。イメージセンサ16からは、読み出された電荷に基づく生画像データが周期的に出力される。
【0024】
信号処理回路20は、イメージセンサ16から出力された生画像データに白バランス調整,色分離,YUV変換などの処理を施し、これによって生成されたYUV形式の画像データをメモリ制御回路22を通してSDRAM24に書き込む。LCDドライバ26は、SDRAM24に格納された画像データをメモリ制御回路22を通して繰り返し読み出し、読み出された画像データに基づいてLCDモニタ28を駆動する。この結果、被写界を表す動画像がモニタ画面に表示される。
【0025】
信号処理回路20によって生成された画像データのうち、YデータはCPU30にも与えられる。CPU30は、後述するフラグFLG_Fが0である限り、与えられたYデータに簡易AE処理を施して適正EV値を算出する。算出された適正EV値を定義する絞り量および露光時間はドライバ18に設定され、これによって動画像の明るさが適度に調整される。また、フラグFLG_Fが0である限りCPU30は、信号処理回路20から与えられたYデータのうち被写界中央に属する高周波成分にAF処理を施す。これによってフォーカスレンズ12が被写界中央に注目した合焦点に配置される。
【0026】
シャッタボタン32shが半押しされると、シャッタボタン32shが解除されるまでは、フォーカスレンズ12の位置および露光量が半押し時点の位置および露光量にそれぞれ固定される。
【0027】
シャッタボタン32shが全押しされると、静止画取り込み処理および記録処理が実行される。シャッタボタン32shが全押しされた時点の1フレームの画像データは、静止画取り込み処理によってSDRAM24に取り込まれる。取り込まれた1フレームの画像データは、記録処理に関連して起動したI/F34によってSDRAM24から読み出され、ファイル形式で記録媒体36に記録される。
【0028】
CPU30は、撮像タスクと並列して実行される人物&動物検出タスクの下で、SDARM24に格納された画像データから人物または動物の画像を探索する。このような人物&動物検出タスクのために、図3に示す検出ワークレジスタRGST1,図4に示す検出結果レジスタRGST2,図5に示す変形辞書CHDC,図6に示す変形対応テーブルTBL,および図7に示す複数の検出枠FD,FD,FD,…が準備される。
【0029】
検出ワークレジスタRGST1は、人物または動物の画像情報を一時的に保持するためのレジスタに相当し、後述する変形画像上における人物または動物の画像の検出位置(画像が検出された時点の検出枠FDの位置)を記述するカラム,検出された画像のサイズ(画像が検出された時点の検出枠FDのサイズ),後述する特徴量番号を記述するカラム,および変形対応テーブルTBLのカラム番号を記述するカラムによって形成される。検出結果レジスタRGST2は、人物または動物の画像情報を保持するためのレジスタに相当し、元画像上における検出位置を記述するカラム,検出された画像のサイズ,および特徴量番号を記述するカラムによって形成される。
【0030】
変形辞書CHDCにおいては、人物または動物の画像の特徴量が複数収められる。変形辞書CHDCに収められる特徴量は、以下のようにして求められる。まず、共通の種別の動物の顔部を各々が示す複数の画像,人物の顔部を各々が示す複数の画像,および人物の全身を各々が示す複数の画像が準備され、これらの画像の各々が正方形の枠に収まるように変形される。次に、変形された複数の画像から複数の特徴量がそれぞれ抽出され、共通の種別の動物の顔部に対応する特徴量の平均,人物の顔部に対応する特徴量の平均,および人物の全身に対応する特徴量の平均が、平均特徴量として算出される。このようにして算出された複数の平均特徴量が変形辞書CHDCに収められる。収められた各々の平均特徴量には、固有の識別番号(=特徴量番号)が割り当てられる。
【0031】
例えば図5および図8に示すように、特徴量番号“1”には、縦方向のサイズが1/2となるように変形されたキリンの顔画像の平均特徴量が割り当てられる。
【0032】
変形対応テーブルTBLは、探索処理の対象となる画像データの変形態様と変形された画像データ上での探索処理のために参照される平均特徴量とを対応付けるテーブルに相当する。変形対応テーブルTBLは、具体的には、変形方向が記述されたカラム,変形係数が記述されたカラム,探索処理に用いる平均特徴量の数が記述されたカラム,および探索処理に用いる平均特徴量を識別する特徴量番号が記述されたカラムによって形成される。
【0033】
人物&動物検出タスクの下ではまず、フラグFLG_Fが“0”に設定される。ここで、フラグFLG_Fは、人物または動物の画像が発見されたか否かを識別するためのフラグである。“0”が非発見を示す一方、“1”が発見を示す。また、検出結果レジスタRGST2の登録内容がクリアされる。
【0034】
CPU30は次に、変数Nを“1”に設定する。また、変数Nの可変範囲を定義するべく、最大値Nmaxが変形対応テーブルTBLのカラム数に設定される。図6の例によると、Nmaxは“13”に設定される。続いて、変数Nが“1”〜“Nmax”の各々に設定され、変形対応テーブルTBLのN番目のカラムが参照される。
【0035】
間引き回路38は、SDRAM24に格納された画像データに基づく画像を、参照されたカラムの変形方向および変形係数に基づき画素を間引くことによって変形する。例えば図6を参照して、変数Nが“1”を示す場合は、変形方向は“縦”であり、変形係数は“1/4”である。この場合、図9(A)に示す画像は、縦の長さが1/4となるように画素が間引かれる。この結果、図9(A)に示す画像は図9(B)に示すように変形される。
【0036】
図7に示す検出枠FDは、変形後の画像に割り当てられた探索エリア上をラスタ走査態様で移動する。検出枠FDのサイズは、ラスタ走査が終了する毎に最大サイズSZmaxから最小サイズSZminまで“5”刻みで縮小される。
【0037】
探索エリアはまず、変形後の画像全域を覆うように設定される。また、最大サイズSZmaxは“200”に設定され、最小サイズSZminは“20”に設定される。したがって、検出枠FDは、“200”〜“20”の範囲で変化するサイズを有して、図10に示す要領で探索エリア上を走査される。
【0038】
CPU30は、検出枠FDに属する画像データを変形画像データから読み出し、読み出された画像データの特徴量を算出する。
【0039】
次に、変数Mが“1”に設定される。続いて変数Mが、“1”から参照カラムの“特徴量数”に記述された数値までの各々に設定され、変形辞書CHDCに登録された平均特徴量と算出された特徴量とが照合される。照合される平均特徴量は、参照カラムの“特徴量番号”のM番目に記述された番号に対応する平均特徴量である。
【0040】
照合度が基準値REFを上回ると、検出枠FDから人物または動物の画像が発見されたとみなされ、現時点の検出枠FDの変形画像上での位置およびサイズが、発見された画像を囲う検出枠の位置およびサイズとして、検出ワークレジスタRGST1に登録される。また、“特徴量番号”のM番目に記述された番号および現時点の変数Nの値(=変形対応テーブルTBLのカラム番号)も登録される。
【0041】
したがって、図9(B)に示す変形画像上において探索処理が実行された場合は、変形対応テーブルTBLの1番目のカラムが参照され、“特徴量番号”に記述された特徴量番号3の人物の全身像が、検出される(図11参照)。また、検出された人物の全身像を囲う検出枠FDの位置とサイズ,特徴量番号を示す“3”,およびカラム番号を示す“1”が、検出ワークレジスタRGST1に登録される。
【0042】
また、変数Nに“7”が設定された場合は、変形対応テーブルTBLの7番目のカラムの変形方向および変形係数はともに“なし”なので、変形画像上ではなくSDRAM24に格納された画像上において探索処理が実行される。
【0043】
図9(A)に示す画像上において探索処理が実行された場合は、変形対応テーブルTBLの7番目のカラムが参照され、“特徴量番号”の1番目に記述された特徴量番号4の人物の顔画像が、検出される(図12参照)。そして、検出された人物の顔画像を囲う検出枠FDの位置とサイズ,特徴量番号を示す“4”およびカラム番号を示す“7”が、検出ワークレジスタRGST1に登録される。
【0044】
また、“特徴量番号”の2番目に記述された特徴量番号5の犬の顔画像が、検出される。そして、検出された犬の顔画像を囲う検出枠FDの位置とサイズ,特徴量番号を示す“5”およびカラム番号を示す“7”が、検出ワークレジスタRGST1に登録される。
【0045】
N=“Nmax”での探索処理が完了すると、検出ワークレジスタRGST1に登録がある場合は、検出ワークレジスタRGST1に登録されたカラム番号に対応する変形方向および変形係数が、変形対応テーブルTBLから読み出される。CPU30は、読み出された変形方向および変形係数、ならびに検出ワークレジスタRGST1に登録された変形画像上の検出位置およびサイズに基づいて、元画像上の検出位置および検出された画像のサイズを算出する。
【0046】
算出された元画像上の検出位置および検出された画像のサイズ,ならびに検出ワークレジスタRGST1に登録された特徴量番号に基づいて、検出結果レジスタRGST2の登録内容が更新される。更新が完了すると、人物または動物の画像が発見されたことを表明するべく、フラグFLG_Fが“1”に設定される。
【0047】
また、検出ワークレジスタRGST1に登録がない場合は、人物または動物の画像が発見されなかったことを表明するべく、フラグFLG_Fが“0”に設定される。
【0048】
フラグFLG_Fが“1”に設定されると、撮像タスクの下でCPU26は、人物または動物の画像が発見されたとみなし、検出結果レジスタRGST2に登録された検出位置およびサイズに対応する処理対象枠キャラクタ表示命令をグラフィックジェネレータ42に向けて発行する。
【0049】
グラフィックジェネレータ42は、与えられた処理対象枠キャラクタ表示命令に基づいて処理対象枠を表すグラフィック画像データを作成し、作成されたグラフィック画像データをLCDドライバ26に与える。LCDドライバ26は、与えられたグラフィック画像データに基づいてLCDモニタ28に処理対象枠キャラクタPFを表示する(図13参照)。
【0050】
CPU30は次に、信号処理回路20から与えられたYデータのうち検出結果レジスタRGST2に登録された検出位置およびサイズに属するYデータに厳格なAE処理を施して、最適EV値を算出する。算出された最適EV値を定義する絞り量および露光時間は、上述と同様、ドライバ18に設定される。この結果、動画像の明るさが厳格に調整される。また、検出結果レジスタRGST2に登録された特徴量番号が“4”であって人物の顔画像を示す場合は、露光量が高輝度寄りに補正される。
【0051】
CPU30はまた、信号処理回路20から与えられたYデータのうち検出結果レジスタRGST2に登録された検出位置およびサイズに属する高周波成分にAF処理を施す。これによって、発見された人物または動物に注目した合焦点にフォーカスレンズ12が配置され、動画像の鮮鋭度が向上する。また、複数の人物または動物の画像が発見された場合は、検出結果レジスタRGST2に登録された特徴量番号が“3”または“4”であって人物を示す画像を優先したAF処理が実行される。
【0052】
CPU26は、図14に示す撮像タスクおよび図16〜図19に示す人物&動物検出タスクを含む複数のタスクをマルチタスクOSの制御の下で実行する。なお、これらのタスクに対応する制御プログラムは、フラッシュメモリ40に記憶される。
【0053】
図14を参照して、ステップS1では動画取り込み処理を実行する。この結果、被写界を表すスルー画像がLCDモニタ28に表示される。ステップS3では、人物&動物検出タスクを起動する。
【0054】
フラグFLG_Fは、人物&動物検出タスクの下で“0”に初期設定され、照合度が基準値REFを上回る人物または動物の画像が発見されたときに“1”に更新される。ステップS5では、このようなフラグFLG_Fが“1”を示すか否かを判別し、判別結果がNOであれば、ステップS7で処理対象枠キャラクタ非表示命令をグラフィックジェネレータ42に向けて発行する。この結果、LCDモニタ28に表示されていた処理対象枠キャラクタPFは、非表示とされる。
【0055】
ステップS9では簡易AE処理を実行し、これによってスルー画像の明るさが適度に調整される。ステップS11では、信号処理回路20から与えられたYデータのうち被写界中央に属する高周波成分にAF処理を施す。これによってフォーカスレンズ12が被写界中央に注目した合焦点に配置される。
【0056】
フラグFLG_Fが“0”から“1”に更新されると、ステップS13で検出結果レジスタRGST2に登録された検出位置およびサイズに対応する処理対象枠キャラクタ表示命令をグラフィックジェネレータ42に向けて発行する。この結果、LCDモニタ28の処理対象枠キャラクタPFの表示が更新される。
【0057】
ステップS15では、検出結果レジスタRGST2に登録された検出位置およびサイズに基づいて厳格なAE処理を実行する。この結果、発見された人物または動物の画像に注目して、動画像の明るさが厳格に調整される。
【0058】
ステップS17では、信号処理回路20から与えられたYデータのうち検出結果レジスタRGST2に登録された検出位置およびサイズに属する高周波成分を抽出し、抽出された高周波成分にステップS19でAF処理を施す。この結果、発見された人物または動物に注目した合焦点にフォーカスレンズ12が配置され、動画像の鮮鋭度が向上する。
【0059】
ステップS21ではシャッタボタン32shが半押しされたか否かを判別し、判別結果がNOであればステップS5に戻る一方、判別結果がYESであればステップS23に進む。ステップS23ではシャッタボタン32shが全押しされたか否かを繰り返し判別し、判別結果がNOであれば、ステップS25でシャッタボタン32shが解除されたか否かを判別する。ステップS25の判別結果がNOであればステップS23に戻る一方、ステップS25の判別結果がYESであればステップS5に戻る。
【0060】
ステップS23の判別結果がYESであれば、ステップS27で静止画取り込み処理を実行する。これによって、シャッタボタン32shが全押しされた直後の1フレームの画像データがSDRAM24に取り込まれる。
【0061】
ステップS29では記録処理を実行する。ステップS27で取り込まれた1フレームの画像データは、記録処理によって記録媒体36に記録される。記録処理が完了すると、その後にステップS5に戻る。
【0062】
図16を参照して、ステップS31ではフラグFLG_Fを“0”に設定し、ステップS33では検出結果レジスタRGST2の登録内容をクリアする。ステップS35では垂直同期信号Vsyncが発生したか否かを判別し、判別結果がNOからYESに更新されるとステップS37に進む。
【0063】
ステップS37では検出ワークレジスタRGST1の登録内容をクリアし、ステップS39では変数Nを“1”に設定し、ステップS41では変数Nの可変範囲を定義するべく最大値Nmaxを“13”に設定する。
【0064】
ステップS43では変形対応テーブルTBLのN番目のカラムを参照し、SDRAM24に格納された画像を参照カラムの変形方向および変形係数に基づきステップS45で変形する。
【0065】
ステップS47では変形画像の全域を探索エリアとして設定する。ステップS49では、検出枠FDのサイズの可変範囲を定義するべく、最大サイズSZmaxを“200”に設定し、最小SZminを“20”に設定する。ステップS51では検出枠FDのサイズを“SZmax”に設定し、ステップS53で検出枠FDを探索エリアの左上位置に配置する。ステップS55では検出枠FDに属する一部の画像データを読み出し、読み出された画像データの特徴量を算出する。
【0066】
ステップS57では変数Mを“1”に設定し、ステップS59では、ステップS55で算出された特徴量を変形辞書CHDCに登録された人物または動物の画像の平均特徴量と照合する。照合される平均特徴量は、参照カラムの“特徴量番号”のM番目に記述された番号に対応する平均特徴量である。
【0067】
ステップS61では照合度が基準値REFを上回るか否かを判別し、判別結果がNOであればステップS65に進み、判別結果がYESであればステップS63の処理を経てステップS65に進む。ステップS63では、現時点の検出枠FDの変形画像上での位置およびサイズ,“特徴量番号”のM番目に記述された番号,ならびに現時点の変数Nの値を、検出ワークレジスタRGST1に登録する。
【0068】
ステップS65では変数Mをインクリメントし、ステップS67では、参照カラムの“特徴量数”に記述された数値を変数Mが超えるか否かを判別する。判別結果がNOであればステップS59に戻り、判別結果がYESであればステップS69に進む。
【0069】
ステップS69では検出枠FDが探索エリアの右下位置に到達したか否かを判別し、判別結果がNOであれば、ステップS71で検出枠FDを既定量だけラスタ方向に移動させ、その後にステップS55に戻る。判別結果がYESであれば、検出枠FDのサイズが“SZmin”以下であるか否かをステップS73で判別する。判別結果がNOであれば、ステップS75で検出枠FDのサイズを“5”だけ縮小させ、ステップS77で検出枠FDを探索エリアの左上位置に配置し、その後にステップS55に戻る。ステップS73の判別結果がYESであれば、ステップS79に進む。
【0070】
ステップS79では変数Nをインクリメントし、ステップS81では変数NがNmaxを超えたか否かを判別する。判別結果がNOであればステップS43に戻り、判別結果がYESであればステップS83に進む。
【0071】
ステップS83では検出ワークレジスタRGST1に登録があるか否かを判別し、判別結果がNOであればステップS85でフラグFLG_Fを“0”に設定した後にステップS35に戻る。判別結果がYESであればステップS87〜ステップS93の処理を経た後にステップS35に戻る。
【0072】
ステップS87では、検出ワークレジスタRGST1に登録されたカラム番号に対応する変形方向および変形係数を、変形対応テーブルTBLから読み出す。ステップS89では、ステップS87で読み出された変形方向および変形係数、ならびに検出ワークレジスタRGST1に登録された変形画像上の検出位置およびサイズに基づいて、元画像上の検出位置および検出された画像のサイズを算出する。
【0073】
ステップS91では、ステップS89で算出された元画像上の検出位置および検出された画像のサイズ,ならびに検出ワークレジスタRGST1に登録された特徴量番号に基づいて、検出結果レジスタRGST2の登録内容を更新する。更新が完了すると、人物または動物の画像が発見されたことを表明するべく、ステップS93でフラグFLG_Fを“1”に設定する。
【0074】
以上の説明から分かるように、フラッシュメモリ40は複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持し、CPU30は、複数の変形態様の各々に対応して指定画像を変形し(S39~S45, S79~S81)、変形処理に係る変形態様に対応する辞書画像を保持された複数の辞書画像の中から選択する(S57, S65~S67)。CPU30はまた、選択された辞書画像に符合する部分画像を作成された変形画像から探索し(S47~S55, S59, S69~S77)、発見された部分画像に注目して既定処理を実行する(S87~S91, S13~S19)。
【0075】
複数の辞書画像は互いに異なる態様で変形され、指定画像は複数の変形態様の各々に対応して変形される。探索処理は、指定画像の変形態様に対応する一部の辞書画像を参照して実行される。
【0076】
ここで、複数の辞書画像は、複数の物体をそれぞれ表す。このため、或る物体を表す辞書画像を参照した探索処理に用いられる指定画像の変形態様は、他の物体を表す辞書画像を参照した探索処理に用いられる指定画像の変形態様と相違する。
【0077】
これによって、変形前の辞書画像のアスペクト比が物体によって異なったとしても共通の手法で探索処理を実行することができる。こうして、性能の向上が図られる。
【0078】
なお、この実施例では、マルチタスクOSおよびこれによって実行される複数のタスクに相当する制御プログラムは、フラッシュメモリ40に予め記憶される。しかし、外部サーバに接続するための通信I/F44を図20に示す要領でディジタルカメラ10に設け、一部の制御プログラムを内部制御プログラムとしてフラッシュメモリ40に当初から準備する一方、他の一部の制御プログラムを外部制御プログラムとして外部サーバから取得するようにしてもよい。この場合、上述の動作は、内部制御プログラムおよび外部制御プログラムの協働によって実現される。
【0079】
また、この実施例では、CPU30によって実行される処理を、図14〜図15に示す撮像タスクおよび図16〜図19に示す人物&動物検出タスクに区分するようにしている。しかし、これらのタスクをさらに複数の小タスクに区分してもよく、さらには区分された複数の小タスクの一部をメインタスクに統合するようにしてもよい。また、転送タスクを複数の小タスクに区分する場合、その全部または一部を外部サーバから取得するようにしてもよい。
【0080】
また、この実施例では、画素を間引くことによって画像を変形し、このように変形された画像上で探索処理を実行している。しかし、画素を補間することによって画像を変形するようにしてもよい。
【0081】
また、この実施例では、検出された人物または動物の画像に注目して、AE処理およびAF処理を実行している。しかし、人物または動物の画像の検出に基づいて、AE処理およびAF処理以外の他の処理を実行するようにしてもよい。
【0082】
また、この実施例では、ディジタルスチルカメラを用いて説明したが、本発明は、携帯電話端末,スマートフォン,ディジタルビデオカメラ,またはパーソナルコンピュータなどにも適用することができる。
【符号の説明】
【0083】
10 … ディジタルカメラ
30 … CPU
38 … 間引き回路
42 … グラフィックジェネレータ
【特許請求の範囲】
【請求項1】
複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持手段、
複数の変形態様の各々に対応して指定画像を変形する変形手段、
前記変形手段の変形態様に対応する辞書画像を前記保持手段によって保持された複数の辞書画像の中から選択する選択手段、
前記選択手段によって選択された辞書画像に符合する部分画像を前記変形手段によって作成された変形画像から探索する探索手段、および
前記探索手段によって発見された部分画像に注目して既定処理を実行する処理手段を備える、画像処理装置。
【請求項2】
前記保持手段によって保持された複数の辞書画像の一部を前記複数の変形態様の各々に割り当てる割り当て手段をさらに備え、
前記選択手段は前記割り当て手段の割り当てを参照して選択処理を実行する、請求項1記載の画像処理装置。
【請求項3】
前記指定画像を再現する再現手段をさらに備え、
前記既定処理は、前記部分画像の属性を前記指定画像に対応して変換する変換処理、および前記変換処理によって変換された属性を参照して報知を出力する報知処理を含む、請求項1または2記載の画像処理装置。
【請求項4】
被写界を捉える撮像面を有して被写界像を出力する撮像手段をさらに備え、
前記指定画像は前記撮像手段から出力された被写界像に相当し、
前記既定処理は撮像条件を調整する調整処理を含む、請求項1ないし3のいずれかに記載の画像処理装置。
【請求項5】
前記複数の物体はそれぞれ人物を含む複数の種別の動物に相当する、請求項1ないし4のいずれかに記載の画像処理装置。
【請求項6】
画像処理装置のプロセッサに、
複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ、
複数の変形態様の各々に対応して指定画像を変形する変形ステップ、
前記変形ステップの変形態様に対応する辞書画像を前記保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ、
前記選択ステップによって選択された辞書画像に符合する部分画像を前記変形ステップによって作成された変形画像から探索する探索ステップ、および
前記探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップを実行させるための、画像処理プログラム。
【請求項7】
画像処理装置によって実行される画像処理方法であって、
複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ、
複数の変形態様の各々に対応して指定画像を変形する変形ステップ、
前記変形ステップの変形態様に対応する辞書画像を前記保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ、
前記選択ステップによって選択された辞書画像に符合する部分画像を前記変形ステップによって作成された変形画像から探索する探索ステップ、および
前記探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップを備える、画像処理方法。
【請求項8】
メモリに保存された内部制御プログラムに従う処理を実行するプロセッサを備える画像処理装置に供給される外部制御プログラムであって、
複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ、
複数の変形態様の各々に対応して指定画像を変形する変形ステップ、
前記変形ステップの変形態様に対応する辞書画像を前記保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ、
前記選択ステップによって選択された辞書画像に符合する部分画像を前記変形ステップによって作成された変形画像から探索する探索ステップ、および
前記探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップを前記内部制御プログラムと協働して前記プロセッサに実行させるための、外部制御プログラム。
【請求項9】
外部制御プログラムを受信する受信手段、および
前記受信手段によって受信された外部制御プログラムとメモリに保存された内部制御プログラムとに従う処理を実行するプロセッサを備える画像処理装置であって、
前記外部制御プログラムは、
複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ、
複数の変形態様の各々に対応して指定画像を変形する変形ステップ、
前記変形ステップの変形態様に対応する辞書画像を前記保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ、
前記選択ステップによって選択された辞書画像に符合する部分画像を前記変形ステップによって作成された変形画像から探索する探索ステップ、および
前記探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップを前記内部制御プログラムと協働して実行するプログラムに相当する、画像処理装置。
【請求項1】
複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持手段、
複数の変形態様の各々に対応して指定画像を変形する変形手段、
前記変形手段の変形態様に対応する辞書画像を前記保持手段によって保持された複数の辞書画像の中から選択する選択手段、
前記選択手段によって選択された辞書画像に符合する部分画像を前記変形手段によって作成された変形画像から探索する探索手段、および
前記探索手段によって発見された部分画像に注目して既定処理を実行する処理手段を備える、画像処理装置。
【請求項2】
前記保持手段によって保持された複数の辞書画像の一部を前記複数の変形態様の各々に割り当てる割り当て手段をさらに備え、
前記選択手段は前記割り当て手段の割り当てを参照して選択処理を実行する、請求項1記載の画像処理装置。
【請求項3】
前記指定画像を再現する再現手段をさらに備え、
前記既定処理は、前記部分画像の属性を前記指定画像に対応して変換する変換処理、および前記変換処理によって変換された属性を参照して報知を出力する報知処理を含む、請求項1または2記載の画像処理装置。
【請求項4】
被写界を捉える撮像面を有して被写界像を出力する撮像手段をさらに備え、
前記指定画像は前記撮像手段から出力された被写界像に相当し、
前記既定処理は撮像条件を調整する調整処理を含む、請求項1ないし3のいずれかに記載の画像処理装置。
【請求項5】
前記複数の物体はそれぞれ人物を含む複数の種別の動物に相当する、請求項1ないし4のいずれかに記載の画像処理装置。
【請求項6】
画像処理装置のプロセッサに、
複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ、
複数の変形態様の各々に対応して指定画像を変形する変形ステップ、
前記変形ステップの変形態様に対応する辞書画像を前記保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ、
前記選択ステップによって選択された辞書画像に符合する部分画像を前記変形ステップによって作成された変形画像から探索する探索ステップ、および
前記探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップを実行させるための、画像処理プログラム。
【請求項7】
画像処理装置によって実行される画像処理方法であって、
複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ、
複数の変形態様の各々に対応して指定画像を変形する変形ステップ、
前記変形ステップの変形態様に対応する辞書画像を前記保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ、
前記選択ステップによって選択された辞書画像に符合する部分画像を前記変形ステップによって作成された変形画像から探索する探索ステップ、および
前記探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップを備える、画像処理方法。
【請求項8】
メモリに保存された内部制御プログラムに従う処理を実行するプロセッサを備える画像処理装置に供給される外部制御プログラムであって、
複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ、
複数の変形態様の各々に対応して指定画像を変形する変形ステップ、
前記変形ステップの変形態様に対応する辞書画像を前記保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ、
前記選択ステップによって選択された辞書画像に符合する部分画像を前記変形ステップによって作成された変形画像から探索する探索ステップ、および
前記探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップを前記内部制御プログラムと協働して前記プロセッサに実行させるための、外部制御プログラム。
【請求項9】
外部制御プログラムを受信する受信手段、および
前記受信手段によって受信された外部制御プログラムとメモリに保存された内部制御プログラムとに従う処理を実行するプロセッサを備える画像処理装置であって、
前記外部制御プログラムは、
複数の物体をそれぞれ表しかつ互いに異なる態様で変形された複数の辞書画像を保持する保持ステップ、
複数の変形態様の各々に対応して指定画像を変形する変形ステップ、
前記変形ステップの変形態様に対応する辞書画像を前記保持ステップによって保持された複数の辞書画像の中から選択する選択ステップ、
前記選択ステップによって選択された辞書画像に符合する部分画像を前記変形ステップによって作成された変形画像から探索する探索ステップ、および
前記探索ステップによって発見された部分画像に注目して既定処理を実行する処理ステップを前記内部制御プログラムと協働して実行するプログラムに相当する、画像処理装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【公開番号】特開2012−53727(P2012−53727A)
【公開日】平成24年3月15日(2012.3.15)
【国際特許分類】
【出願番号】特願2010−196426(P2010−196426)
【出願日】平成22年9月2日(2010.9.2)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
【公開日】平成24年3月15日(2012.3.15)
【国際特許分類】
【出願日】平成22年9月2日(2010.9.2)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
[ Back to top ]