説明

領域抽出装置、撮像装置、及び領域抽出プログラム

【課題】主要被写体の領域に合焦させるための処理時間を短くすることができる領域抽出装置、撮像装置、及び領域抽出プログラムを提供する。
【解決手段】領域抽出装置140は、撮像された画像から、特徴量に基づいて被写体領域を抽出する領域抽出部142と、領域抽出部142により抽出された前記被写体領域の位置関係に基づいて、前記被写体領域を選択する領域処理部143と、を備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像から領域を抽出する領域抽出装置、撮像装置、及び領域抽出プログラムに関する。
【背景技術】
【0002】
画像の特徴量のヒストグラムに基づいて、撮像された画像から領域を抽出し、抽出した領域を識別する画像処理装置が開示されている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平4−10079号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に開示された画像処理装置は、主要被写体の領域に合焦させるための処理時間が長いという問題がある。
【0005】
本発明は、前記の点に鑑みてなされたものであり、主要被写体の領域に合焦させるための処理時間が短い領域抽出装置、撮像装置、及び領域抽出プログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明は、上記の課題を解決するためになされたものであり、撮像された画像から、特徴量に基づいて被写体領域を抽出する領域抽出部と、前記領域抽出部により抽出された前記被写体領域の位置関係に基づいて、前記被写体領域を選択する領域処理部と、を備えることを特徴とする領域抽出装置である。
【0007】
また、本発明は、領域抽出装置と、前記領域抽出装置により抽出された被写体領域のうち、優先度が高い領域に合焦させるよう焦点を調節する焦点調節部と、前記優先度が高い領域に合焦した状態の画像を撮像する撮像部と、を備えることを特徴とする撮像装置である。
【0008】
また、本発明は、コンピュータに、撮像された画像から特徴量に基づいて被写体領域を抽出する手順と、抽出された前記被写体領域の位置関係に基づいて、前記被写体領域を選択する手順と、を実行させるための領域抽出プログラムである。
【発明の効果】
【0009】
本発明によれば、領域抽出装置は、主要被写体の領域に合焦させるための処理時間を短くすることができる。
【図面の簡単な説明】
【0010】
【図1】本発明の第1実施形態における、レンズ鏡筒と、領域抽出装置を備える撮像装置と、記憶媒体との構成を表すブロック図である。
【図2】本発明の第1実施形態における、被写体領域を統合する方法を説明するための図である。
【図3】本発明の第1実施形態における、輝度に基づく被写体領域を、色差に基づく被写体領域に統合する方法を説明するための図である。
【図4】本発明の第1実施形態における、輝度に基づく被写体領域と色差に基づく被写体領域とが重複する部分を、輝度に基づく被写体領域から分割する方法を説明するための図である。
【図5】本発明の第1実施形態における、被写体領域を統合及び分割する方法を説明するための図である。
【図6】本発明の第1実施形態における、被写体領域を統合及び分割する手順を表すフローチャートである。
【図7】本発明の第1実施形態における、領域に合焦させるまでの処理の手順を表すフローチャートである。
【図8】本発明の第2実施形態における、統合により残った被写体領域を優先的に選択する処理の例を説明するための図である。
【発明を実施するための形態】
【0011】
[第1実施形態]
本発明の第1実施形態について図面を参照して詳細に説明する。図1には、レンズ鏡筒と、領域抽出装置を備える撮像装置と、記憶媒体との構成が、ブロック図により表されている。撮像装置100は、レンズ鏡筒111から入射される光学像を撮像し、静止画形式又は動画形式の画像を、記憶媒体200に記憶させる。
【0012】
まず、レンズ鏡筒111の構成を説明する。
レンズ鏡筒111は、焦点調整レンズ(以下、「AF(Auto Focus)レンズ」という)112と、レンズ駆動部116と、AFエンコーダ117と、鏡筒制御部118を備える。なお、レンズ鏡筒111は、撮像装置100に着脱可能に接続されてもよいし、撮像装置100と一体であってもよい。
【0013】
AFレンズ112は、レンズ駆動部116により駆動され、後述する撮像部110の撮像素子119の受光面(光電変換面)に、光学像を導く。
【0014】
AFエンコーダ117は、AFレンズ112の移動を検出し、AFレンズ112の移動量に応じた信号を、鏡筒制御部118に出力する。ここで、AFレンズ112の移動量に応じた信号とは、例えば、AFレンズ112の移動量に応じて位相が変化するサイン(sin)波信号であってもよい。
【0015】
鏡筒制御部118は、撮像装置100のCPU190から入力される駆動制御信号に応じて、レンズ駆動部116を制御する。ここで、駆動制御信号とは、AFレンズ112を光軸方向に駆動させる制御信号である。鏡筒制御部118は、駆動制御信号に応じて、例えば、レンズ駆動部116に出力するパルス電圧のステップ数を変更する。
【0016】
また、鏡筒制御部118は、AFレンズ112の移動量に応じた信号に基づいて、レンズ鏡筒111におけるAFレンズ112の位置(フォーカスポジション)を、CPU190に出力する。ここで、鏡筒制御部118は、例えば、AFレンズ112の移動量に応じた信号を、AFレンズ112の移動方向に応じて積算することで、レンズ鏡筒111におけるAFレンズ112の移動量(位置)を算出してもよい。
【0017】
レンズ駆動部116は、鏡筒制御部118の制御に応じてAFレンズ112を駆動し、AFレンズ112をレンズ鏡筒111内で光軸方向に移動させる。
【0018】
次に、撮像装置100の構成を説明する。
撮像装置100は、撮像部110と、領域抽出装置140と、表示部150と、バッファメモリ部130と、操作部180と、記憶部160と、CPU190と、通信部170とを備える。
【0019】
撮像部110は、撮像素子119と、A/D(Analog/Digital)変換部120とを備える。撮像部110は、設定された撮像条件(例えば絞り値、露出値等)に従って、CPU190により制御される。
【0020】
撮像素子119は、光電変換面を備え、レンズ鏡筒111(光学系)により光電変換面に結像された光学像を電気信号に変換して、A/D変換部120に出力する。撮像素子119は、例えば、CMOS(Complementary Metal Oxide Semiconductor)で構成されていてもよい。また、撮像素子119は、光電変換面の一部の領域について、光学像を電気信号に変換するようにしてもよい(画像切り出し)。
【0021】
また、撮像素子119は、操作部180を介してユーザからの撮影指示を受け付けた際に得られる画像を、A/D変換部120を介して記憶媒体200に記憶させる。一方、撮像素子119は、操作部180を介してユーザからの撮影指示を受け付けていない状態において、連続的に得られる画像をスルー画像として、バッファメモリ部130及び表示部150に、A/D変換部120を介して出力する。
【0022】
A/D変換部120は、撮像素子119によって変換された電気信号をデジタル化して、デジタル信号である画像をバッファメモリ部130に出力する。
【0023】
操作部180は、例えば、電源スイッチ、シャッタボタン、マルチセレクタ(十字キー)、又はその他の操作キーを備え、ユーザによって操作されることでユーザの操作入力を受け付け、受け付けた操作入力に応じた信号をCPU190に出力する。
【0024】
領域抽出装置140は、記憶部160に記憶されている画像処理条件に基づいて、バッファメモリ部130に一時的に記憶されている画像を画像処理する。画像処理された画像は、通信部170を介して記憶媒体200に記憶される。また、領域抽出装置140は、バッファメモリ部130に一時的に記憶されている画像から、画像の特徴量により定まる領域を抽出する。また、領域抽出装置140は、抽出した領域を示す情報を記憶部160などに記憶させる。ここで、領域を示す情報とは、例えば、領域の分布を表す情報、及び領域の特徴量を表す情報などである。また、領域抽出装置140は、バッファメモリ部130に一時的に記憶されている画像から抽出した被写体領域に、被写体領域に合焦させるための優先度を設定する。
【0025】
表示部150は、撮像部110によって得られた画像、及び操作画面等を表示する。表示部150は、例えば、液晶ディスプレイである。
【0026】
バッファメモリ部130は、撮像部110によって撮像された画像を、一時的に記憶する。
【0027】
記憶部160は、シーン判定の際にCPU190によって参照される判定条件と、シーン判定によって判断されたシーン毎に対応付けられた撮像条件と、領域を示す情報等とを記憶する。
【0028】
CPU190は、設定された撮像条件(例えば、絞り値、露出値)に従って、撮像部110を制御する。また、CPU190は、領域を示す情報を、領域抽出装置140から取得する。また、CPU190(焦点調節部)は、領域を示す情報に基づいてレンズ鏡筒111の鏡筒制御部118に駆動制御信号を出力することで、画像から抽出された領域のうち、領域抽出装置140が設定した優先度が高い領域に合焦させるよう焦点を調節する。
【0029】
また、CPU190は、領域を示す情報に基づいて、画像処理のプレ処理又はポスト処理として、焦点調整(AF)の設定、露出調整(AE)の設定、ホワイトバランス調整(AWB)の設定、被写体像(オブジェクト)の追尾の設定、夜景か否かの判定の設定、色補正処理の設定、被写体像の拡大表示の設定、パンニング表示の設定、ズーム倍率に連動した明るさの最適化の設定、などを制御する。また、CPU190は、領域を示す情報に基づいて、トーンカーブ(階調カーブ)の設定、静止画及び動画の同時撮影を実行するか否かの設定などを制御する。
【0030】
また、CPU190は、領域を示す情報に基づいて、プレ処理又はポスト処理として、連写するか否かの設定、及び、連写において、合焦させる被写体像の切り替えの設定、焦点距離の連続変更の設定、撮像装置100の発光部(不図示)が発光する閃光の発光量の変更の設定、露光量の変更の設定、又はシャッタスピードの変更を実行するか否かの設定などを制御する。また、CPU190は、操作部180から入力された「操作入力に応じた信号」に基づいて、静止画形式又は動画形式の画像を、領域抽出装置140に画像処理させる。
【0031】
通信部170は、カードメモリ等の取り外しが可能な記憶媒体200と接続され、この記憶媒体200への情報(画像データ、領域を示す情報など)の書込み、読み出し、あるいは消去を行う。
【0032】
記憶媒体200は、撮像装置100に対して着脱可能に接続される記憶部であって、情報(画像データ、領域を示す情報など)を記憶する。なお、記憶媒体200は、撮像装置100と一体であってもよい。
【0033】
次に、領域抽出装置140の詳細について説明する。
領域抽出装置140は、特徴量算出部141と、領域抽出部142と、領域処理部143と、優先度設定部144とを備える。
【0034】
特徴量算出部141は、撮像部110が撮像した画像を、バッファメモリ部130から取得する。また、特徴量算出部141は、バッファメモリ部130から取得した画像における複数の特徴(例えば、色相、彩度、明度、テクスチャ、エッジ)毎に、その特徴量(例えば、輝度情報に基づく特徴量、色情報に基づく特徴量)を算出し、算出した特徴量を領域抽出部142に出力する。
【0035】
領域抽出部142は、特徴量算出部141が算出した特徴量を取得する。また、領域抽出部142は、撮像部110が撮像した画像を、バッファメモリ部130から取得する。また、領域抽出部142は、取得した画像に含まれる領域であって特徴量毎に定まる被写体領域を、画像から抽出する。ここで、領域抽出部142が抽出する被写体領域は、例えば、撮像部110が撮像した画像に含まれる被写体像の領域である。
【0036】
領域抽出部142は、取得した特徴量(例えば、輝度(Y)、色情報(Cr,Cb、RGB))に基づいて、被写体領域を画像から抽出する。例えば、領域抽出部142は、一定範囲内の画像特徴量と、その範囲外の画像特徴量とに2値化された画像から、被写体領域を抽出する。また、領域抽出部142は、被写体領域にラベルを割り当てる(ラベリング)。
【0037】
また、領域抽出部142は、第1の画像特徴量に基づく被写体領域に外接する第1矩形領域と、第2の画像特徴量に基づく被写体領域に外接する矩形領域とを生成する。以下では、第1の画像特徴量は、色情報に応じた特徴量であるとする。また、色差に基づく被写体領域に外接する矩形領域を、以下、「色差領域」という。また、第2の画像特徴量は、輝度に応じた特徴量であるとする。また、輝度に基づく被写体領域に外接する矩形領域を、以下、「輝度矩形領域」という。なお、被写体領域に外接する領域(外接領域)の形状は、矩形に限らなくてもよい。
【0038】
領域処理部143は、予め定められた条件を被写体領域が満たすか否かを判定する。例えば、領域処理部143は、ノイズと推定される領域(例えば、所定閾値よりも面積が小さい領域)が画像にある場合、それらの領域を画像から除去(足きり)する。また、例えば、領域処理部143は、背景と推定される領域(例えば、所定閾値よりも面積が大きい領域)が画像にある場合、その領域を画像から除去する。領域処理部143は、除去されずに残っている被写体領域の分布を表す情報を、記憶部160に記憶させる。
【0039】
領域処理部143は、領域抽出部142により抽出された被写体領域の位置関係に基づいて、被写体領域を選択し、選択した被写体領域を統合又は分割する。すなわち、領域処理部143は、位置が近い被写体領域を選択し、選択した被写体領域を統合又は分割する。また、領域処理部143は、被写体領域の形状に基づいて、被写体領域を選択し、選択した被写体領域を統合又は分割する。すなわち、領域処理部143は、形状が近似する被写体領域を選択し、選択した被写体領域を統合又は分割する。
【0040】
領域処理部143は、輝度に基づいて画像から抽出した被写体領域の面積を分子とし、この被写体領域に外接する輝度矩形領域の面積を分母とする面積比(充填率)を、輝度矩形領域毎に算出する。また、領域処理部143は、面積比が予め定められた閾値未満である被写体領域及び輝度矩形領域を、分割又は統合する対象から除外する。同様に、領域処理部143は、色差に基づいて画像から抽出した被写体領域の面積を分子とし、この被写体領域に外接する色差矩形領域の面積を分母とする面積比(充填率)を、色差矩形領域毎に算出する。また、領域処理部143は、面積比が予め定められた閾値未満である被写体領域及び色差矩形領域を、分割又は統合する対象から除外する。
【0041】
領域処理部143は、色差矩形領域の隅の座標に基づいて、色差に基づく被写体領域を統合する。また、領域処理部143は、輝度矩形領域の隅の座標に基づいて、輝度に基づく被写体領域を統合する。図2には、被写体領域を統合する方法を説明するための図が表されている。ここで、矩形領域にそれぞれ内接している被写体領域は、図示が省略されている。
【0042】
図2(A)では、色差矩形領域610が色差矩形領域600に包含されており、且つ、色差矩形領域600及び色差矩形領域610の隅の座標差が、予め定められた画素数M(Mは、1以上の整数)以下であるとする。この場合、領域処理部143は、面積が大きい色差矩形領域600に色差矩形領域610を統合する。同様に、領域処理部143は、輝度に基づいて画像から抽出した被写体領域(不図示)を統合する。
【0043】
なお、領域処理部143は、色差矩形領域600及び色差矩形領域610を統合する場合、色差矩形領域600及び色差矩形領域610において最も長い縦横の辺を有するように領域を統合してもよい。輝度矩形領域についても同様である。
【0044】
図2(B)では、色差矩形領域710及び色差矩形領域710の一部が重複し、且つ、色差矩形領域700及び色差矩形領域710の隅の座標差が、予め定められた画素数M以下であるとする。この場合、領域処理部143は、面積が大きい色差矩形領域700に色差矩形領域710を統合する。同様に、領域処理部143は、輝度に基づいて画像から抽出した被写体領域(不図示)を統合する。
【0045】
領域処理部143は、色差矩形領域の隅の座標と、輝度矩形領域の隅の座標とに基づいて、輝度に基づく被写体領域を、色差に基づく被写体領域に統合する。例えば、領域処理部143は、色差矩形領域の隅の座標と、輝度矩形領域の隅の座標との差が、N(Nは、1以上の整数)画素以内である場合、輝度に基づく被写体領域を、色差に基づく被写体領域に統合する。
【0046】
また、図3には、輝度に基づく被写体領域を、色差に基づく被写体領域に統合する方法を説明するための図が表されている。ここで、矩形領域にそれぞれ内接している被写体領域は、図示が省略されている。領域処理部143は、色差矩形領域400に輝度矩形領域410が包含されており、且つ、色差矩形領域400及び輝度矩形領域410の隅の座標差が、予め定められた画素数L(Lは、1以上の整数)以上であるか否かを判定する。
【0047】
図3では、色差矩形領域400に輝度矩形領域410が包含されており、且つ、色差矩形領域400及び輝度矩形領域410の隅の座標差が、予め定められた画素数L以上であるとする。この場合、領域処理部143は、色差矩形領域400に輝度矩形領域410を統合する。同様に、領域処理部143は、輝度に基づいて画像から抽出した被写体領域(不図示)を統合する。同様に、領域処理部143は、輝度矩形領域410に内接する被写体領域(不図示)を、色差矩形領域400に内接する被写体領域(不図示)に統合する。
【0048】
領域処理部143は、輝度矩形領域に色差矩形領域が包含されており、且つ、輝度矩形領域及び色差矩形領域の隅の座標差が、予め定められた画素数L以上である場合、輝度に基づく被写体領域と色差に基づく被写体領域とが重複する部分を、輝度に基づく被写体領域から分割する。
【0049】
図4には、輝度に基づく被写体領域と色差に基づく被写体領域とが重複する部分を、輝度に基づく被写体領域から分割する方法を説明するための図が表されている。ここで、矩形領域にそれぞれ内接している被写体領域は、図示が省略されている。
【0050】
領域処理部143は、輝度に基づく被写体領域(不図示)に外接する輝度矩形領域500に、色差に基づく被写体領域(不図示)に外接する色差矩形領域510が包含されており、且つ、色差矩形領域及び輝度矩形領域の隅の座標の差が、予め定められた画素数L以上であるか否かを判定する。
【0051】
領域処理部143は、輝度に基づく被写体領域と色差に基づく被写体領域とが重複する部分を、輝度に基づく被写体領域から分割する。これにより、領域処理部143は、輝度矩形領域500から色差矩形領域510を分割し、輝度矩形領域500を輝度矩形領域500−1に変形させる。輝度矩形領域500−2〜輝度矩形領域500−4についても同様である。ここで、領域処理部143は、その処理能力に応じて、輝度矩形領域500から色差矩形領域540を中抜きする処理を実行してもよい。
【0052】
図1に戻り、領域抽出装置140の説明を続ける。優先度設定部144は、予め定められた条件を満たす被写体領域に、画像における「領域の優先度」を定める。この「領域の優先度」とは、人がより注目しているであろう領域の優先度である。優先度設定部144は、設定した「領域の優先度」を、領域を示す情報として、記憶部145、記憶部160及び記憶媒体200に、領域毎に記憶させる。
【0053】
領域の優先度は、次のように定められてもよい。以下では、優先度を示す数字が小さいほど、領域の優先度が高いものとする。また、以下に示す優先度は、一例である。
【0054】
優先度1.
動いている領域(動いている領域が画像に複数ある場合、画角からはみ出していない領域、又は画角の中央に分布する領域)。また、パンニングしたことにより、動いている領域が画像に広く分布している場合は、動いていない領域。
これらの領域は、優先度「1」に設定される。
人は、動いている領域及びパンニングした際に変化量の少ない領域に注目するためである。
【0055】
優先度2.
画角(構図)、奥行(パースペクト)、被写体距離(デプス、深度)に関する領域。画角の中央付近に分布する領域。画像に奥行がある場合、至近側に分布する領域のうち、画角からはみ出していない領域であって、面積が所定の範囲内である(極端に大きくない)領域。
これらの領域は、優先度「2」に設定される。
主要な被写体像の領域が、至近から無限までの広い範囲に存在する可能性があるためである。
【0056】
優先度3.
人の顔検出、動物(ペット)の顔検出、顔が検出された領域における肌色検出、動物の毛並みのテクスチャ(模様)、又は植物のテクスチャに基づいて抽出された領域。
これらの領域は、優先度「3」に設定される。
人または動物が撮像されている場合、人は、その顔に注目するためである。
【0057】
優先度4.
特異である特徴量(例えば、色相環において不連続である色相)がある領域。背景の領域とそれ以外の領域とに分割された領域。彩度が高い領域。周囲と比較して明度が著しく異なる領域。周囲と比較して色相(色合い)が著しく異なる領域。テクスチャ(模様)が周囲と異なる領域。周囲と比較して空間周波数(画像周波数)が高い領域。ある特徴量において不連続な分布が一定量あり、その特徴量に基づいてラベリングされた結果、領域が形成された場合に、画像において違和感がある領域。
これらの領域は、優先度「4」に設定される。
【0058】
優先度5.
特定の色相又は彩度に基づいて抽出された領域。ここで、特定の色相とは、例えば、黄色、紫色、赤色及び肌色など、彩度の高い色である。
これらの領域は、優先度「5」に設定される。
人は、赤色、黄色、肌色の領域に注目するためである。
【0059】
優先度6.
明度(明暗)に基づいて抽出された領域。
これらの領域は、優先度「6」に設定される。
【0060】
優先度7.
テクスチャ(模様)に基づいて抽出された領域。
これらの領域は、優先度「7」に設定される。
【0061】
優先度8.
空間周波数(画像周波数)に基づいて抽出された領域。
これらの領域は、優先度「8」に設定される。
【0062】
優先度9.
縦又は横に延びたエッジで囲まれた領域であって、一定以上の太さがある領域。
これらの領域は、優先度「9」に設定される。
【0063】
次に、領域抽出装置の処理の手順を説明する。
図5には、被写体領域を統合及び分割する方法を説明するための図が表されている。また、図6は、被写体領域を統合及び分割する手順を表すフローチャートである。
【0064】
領域抽出部142は、撮像された画像がリサイズされたクロップ画像(2値化画像)300Y、クロップ画像300Cr、及びクロップ画像300Cbを、バッファメモリ部130を介して画像特徴量毎に読み込む。
【0065】
領域抽出部142は、色差(Cr)に基づく複数の被写体領域を画像300Crから抽出し、抽出した被写体領域に外接する色差矩形領域を画像に生成する。また、領域処理部143は、色差矩形領域の面積と、この色差矩形領域に包含されている被写体領域の面積との比を、色差矩形領域毎に算出する。色差(Cb)についても同様である。
【0066】
また、領域抽出部142は、輝度(Y)に基づく被写体領域を画像300Yから抽出し、抽出した被写体領域に外接する輝度矩形領域を生成する。また、領域処理部143は、輝度矩形領域の面積と、この輝度矩形領域に包含されている被写体領域の面積との比を、輝度矩形領域毎に算出する。
【0067】
領域抽出部142は、輝度の階調範囲における一定範囲毎に、クロップ画像を生成する。図5では、1番目に高い輝度の階調範囲から成る2値化画像300Y−1が、クロップ画像300Yから生成されたとする。また、2番目に高い輝度の階調範囲から成る2値化画像300Y−2が、クロップ画像300Yから生成されたとする。また、3番目に高い輝度の階調範囲から成る2値化画像300Y−3が、クロップ画像300Yから生成されたとする。また、4番目に高い輝度の階調範囲から成る2値化画像300Y−4が、クロップ画像300Yから生成されたとする。
【0068】
ここで、輝度に基づく被写体領域310が、2値化画像300Y−1から抽出されたとする。また、輝度に基づく被写体領域320が、2値化画像300Y−2から抽出されたとする。領域抽出部142は、被写体領域310に外接する輝度矩形領域を、2値化画像300Y−1に生成する。また、領域抽出部142は、被写体領域320に外接する輝度矩形領域を、2値化画像300Y−2に生成する。
【0069】
色差(Cr)についても同様に、図5では、2値化画像300Cr−1〜300Cr−4が、クロップ画像300Crから生成されたとする。ここで、色差(Cr)に基づく被写体領域330が、2値化画像300Cr−2から抽出されたとする。また、色差(Cr)に基づく被写体領域340が、2値化画像300Cr−3から抽出されたとする。領域抽出部142は、被写体領域330に外接する色差矩形領域を、2値化画像300Cr−2に生成する。また、領域抽出部142は、被写体領域340に外接する色差矩形領域を、2値化画像300Cr−3に生成する。
【0070】
色差(Cb)についても同様に、図5では、2値化画像300Cb−1〜300Cb−4が、クロップ画像300Cbから生成されたとする。ここで、色差(Cb)に基づく被写体領域350が、2値化画像300Cb−1から抽出されたとする。領域抽出部142は、被写体領域350に外接する色差矩形領域を、2値化画像300Cb−1に生成する
【0071】
領域処理部143は、面積比が予め定められた閾値未満である被写体領域及び輝度矩形領域を、分割又は統合する対象から除外するため、除外する対象を示す情報を記憶する。同様に、領域処理部143は、面積比が予め定められた閾値未満である被写体領域及び色差矩形領域を、分割又は統合する対象から除外するため、除外する対象を示す情報を記憶する(ステップS1)。
【0072】
領域処理部143は、被写体領域340に外接する色差矩形領域の隅の座標と、被写体領域350に外接する色差矩形領域の隅の座標とに基づいて(図2を参照)、被写体領域340及び被写体領域350を統合した被写体領域370を、2値化画像300Cr−3及び2値化画像300Cb−1から抽出する(ステップS2)。
【0073】
領域処理部143は、被写体領域に外接する輝度矩形領域の隅の座標と、他の被写体領域に外接する輝度矩形領域の隅の座標とに基づいて(図2を参照)、被写体領域及び被写体領域を統合した被写体領域310を、2値化画像300Y−1から抽出する(ステップS3)。
【0074】
領域処理部143は、色差(図5では、Cr)に基づく被写体領域330に外接する色差矩形領域の隅の座標と、輝度(Y)に基づく被写体領域320に外接する輝度矩形領域の隅の座標とに基づいて、輝度に基づく被写体領域320を、色差に基づく被写体領域330に統合し、2値化画像300Y−2及び2値化画像300Cr−2から被写体領域360を抽出する(ステップS4)。
【0075】
領域処理部143は、色差に基づく被写体領域に外接する色差矩形領域に、輝度に基づく被写体領域に外接する輝度矩形領域が包含されており、且つ、色差矩形領域及び輝度矩形領域の隅の座標差が、予め定められた画素数以上であるか否かを、被写体領域毎に判定する(ステップS5)。
【0076】
ステップS5において判定条件が成立しない場合(ステップS5−No)、領域処理部143は、輝度に基づく被写体領域310に外接する輝度矩形領域に、色差に基づく被写体領域370に外接する色差矩形領域が包含されており、且つ、色差矩形領域及び輝度矩形領域の隅の座標の差が、予め定められた画素数以上であるか否かを、被写体領域毎に判定する(ステップS6)。
【0077】
一方、ステップS5において判定条件が成立した場合(ステップS5−Yes)、領域処理部143は、輝度に基づく被写体領域のうち、隅の座標差が予め定められた画素数以上である輝度矩形領域に内接する被写体領域を、色差に基づく被写体領域に統合する(図3を参照)(ステップS7)。
【0078】
ステップS6において判定条件が成立した場合(ステップS6−Yes)、領域処理部143は、輝度に基づく被写体領域310と色差に基づく被写体領域370とが重複する部分を、輝度に基づく被写体領域310から分割する(ステップS8)。
【0079】
ここで、領域処理部143は、被写体領域310及び被写体領域370のうち、例えば、画角中心に分布する被写体領域370を主要被写体の領域と定める。
【0080】
図7は、領域に合焦させるまでの処理の手順を表すフローチャートである。特徴量算出部141は、撮像された画像(スルー画像、又はスルー画像列)を、バッファメモリ部130から取り込み(ステップSa1)、取り込んだ画像に対して、基本的な画像処理を実行する(ステップSa2)。
【0081】
領域抽出部142は、撮像された画像がリサイズされたクロップ画像(64×40画素)を、バッファメモリ部130を介して色差毎に読み込む(ステップSa3)。領域抽出部142は、クロップ画像における複数の画像特徴量に基づいて、2値化画像を生成する(ステップSa4)。また、領域抽出部142は、2値化画像から被写体領域を抽出し、抽出した領域にラベルを割り当てる(ステップSa5)。
【0082】
領域処理部143は、ノイズと推定される領域が画像にある場合、それらの領域を画像から除去する(ステップSa6)。また、領域処理部143は、背景と推定される領域が画像にある場合、その領域を画像から除去する(ステップSa7)。
【0083】
優先度設定部144は、画像における「領域の優先度」を被写体領域毎に定める。また、優先度設定部144は、予め定められた条件に基づいて、被写体領域を分割する(ステップSa8)。また、優先度設定部144は、予め定められた条件に基づいて、被写体領域を統合する(ステップSa9)。また、領域抽出部142は、優先度設定部144が優先度を定めた被写体領域を、AF評価領域に合うよう矩形に整形する(ステップSa10)。CPU190は、AF評価領域のコントラスト値に基づいて、コントラスト・スキャン(焦点調整処理)を実行する(ステップSa11)。また、CPU190は、コントラスト・スキャンの結果に基づいて、至近に在る被写体が撮像されている被写体領域を優先し、その被写体領域に合焦させる(ステップSa12)。
【0084】
以上のように、領域抽出装置140は、撮像された画像から、特徴量(例えば、色情報(色差、色相)、輝度)に基づいて被写体領域(例えば、被写体領域310〜被写体領域350)を抽出する領域抽出部142と、領域抽出部142により抽出された前記被写体領域の位置関係(例えば、図2〜図4を参照)に基づいて、前記被写体領域を選択する(例えば、図5を参照)領域処理部143と、を備える。
この構成により、領域抽出装置140は、領域抽出部142により抽出された被写体領域の位置関係に基づいて、被写体領域を選択する。これにより、領域抽出装置140は、主要被写体の領域に合焦させるための処理時間を短くすることができる。なお、選択された被写体領域、又は、その位置を示す枠は、例えば、表示部150に表示されてもよい。
【0085】
また、領域処理部143は、選択した前記被写体領域を、前記位置関係(例えば、図2〜図4を参照)に基づいて統合又は分割する(例えば、図5を参照)。
この構成により、領域抽出装置140は、領域抽出部142により抽出された被写体領域の位置関係に基づいて、被写体領域を統合又は分割する。これにより、領域抽出装置140は、主要被写体の領域を特定して、主要被写体の領域に合焦させるための処理時間を短くすることができる。
【0086】
また、領域処理部143は、前記被写体領域の形状に基づいて、前記被写体領域を統合又は分割する(例えば、図5を参照)。
この構成により、領域抽出装置140は、被写体領域の形状に基づいて、被写体領域を統合又は分割する。これにより、領域抽出装置140は、主要被写体の領域に合焦させるための処理時間を短くすることができる。
【0087】
また、領域抽出部142は、前記被写体領域に外接する領域である外接領域を生成し、領域処理部143は、前記外接領域の隅の座標に基づいて、前記被写体領域を統合又は分割する(例えば、図2〜図5を参照)。
この構成により、領域処理部143は、前記外接領域の隅の座標に基づいて、前記被写体領域を統合又は分割する。これにより、領域抽出装置140は、主要被写体の領域に合焦させるための処理時間を短くすることができる。
【0088】
また、領域処理部143は、前記外接領域の隅の座標差が予め定められた画素数M以下である場合、前記被写体領域を統合する(例えば、図2を参照)。
この構成により、領域処理部143は、前記外接領域の隅の座標差が予め定められた画素数以下である場合、前記被写体領域を統合する。これにより、領域抽出装置140は、主要被写体の領域に合焦させるための処理時間を短くすることができる。
【0089】
また、領域処理部143は、第1特徴量(例えば、色情報(色差、色相))に基づいて抽出された前記被写体領域に外接する第1外接領域(例えば、色差矩形領域400)の隅の座標と、第2特徴量(例えば、輝度)に基づいて抽出された前記被写体領域に外接する第2外接領域(例えば、輝度矩形領域410)の隅の座標とに基づいて、前記第2特徴量に基づいて抽出された前記被写体領域を、前記第1特徴量に基づいて抽出された前記被写体領域に統合する(例えば、図3を参照)。
この構成により、領域処理部143は、第1外接領域の隅の座標と、第2外接領域の隅の座標とに基づいて、前記第2特徴量に基づいて抽出された前記被写体領域を、前記第1特徴量に基づいて抽出された前記被写体領域に統合する。これにより、領域抽出装置140は、主要被写体の領域に合焦させるための処理にかかる時間を短くすることができる。
【0090】
また、領域処理部143は、前記第1外接領域(例えば、色差矩形領域400)に前記第2外接領域(例えば、輝度矩形領域410)が包含されており、且つ、前記第1外接領域及び前記第2外接領域の隅の座標差が、予め定められた画素数L以上である場合、前記第2特徴量に基づいて抽出された被写体領域のうち、前記隅の座標差が予め定められた画素数L以上である前記第2外接領域に内接する前記第2特徴量に基づいて抽出された被写体領域を、前記第1外接領域に内接する前記第1特徴量に基づいて抽出された被写体領域に統合する(例えば、図3を参照)。
この構成により、領域処理部143は、前記第1外接領域に前記第2外接領域が包含されており、且つ、前記第1外接領域及び前記第2外接領域の隅の座標差が、予め定められた画素数L以上である場合、被写体領域を統合する。これにより、領域抽出装置140は、主要被写体の領域に合焦させるための処理にかかる時間を短くすることができる。
【0091】
また、領域処理部143は、前記第2外接領域(例えば、輝度矩形領域500)に前記第1外接領域(例えば、色差矩形領域510、色差矩形領域520、色差矩形領域530、色差矩形領域540)が包含されており、且つ、前記第2外接領域及び前記第1外接領域の隅の座標差が、予め定められた画素数L以上である場合、前記第2特徴量に基づいて抽出された被写体領域(例えば、被写体領域310)と前記第1特徴量に基づいて抽出された被写体領域(例えば、被写体領域370)とが重複する部分を、前記第2特徴量に基づいて抽出された被写体領域から分割する(例えば、図4及び図5を参照)。
この構成により、領域抽出装置140は、前記第2外接領域に前記第1外接領域が包含されており、且つ、前記第2外接領域及び前記第1外接領域の隅の座標差が、予め定められた画素数L以上である場合、被写体領域を分割する。これにより、領域抽出装置140は、主要被写体の領域を画像から抽出し、主要被写体の領域に合焦させるための処理時間を短くすることができる。
【0092】
また、撮像装置100は、領域抽出装置140と、前記領域抽出装置により抽出された被写体領域のうち、優先度が高い領域に合焦させるよう焦点を調節するCPU190と、前記優先度が高い領域に合焦した状態の前記画像を撮像する撮像部110と、を備える。
この構成により、領域抽出装置140は、主要被写体の領域に合焦させるための処理時間を短くする。これにより、撮像装置100は、領域抽出装置140が短時間で合焦させた主要被写体の領域を撮像することができる。
【0093】
[第2実施形態]
第2実施形態では、統合により残った被写体領域が主要被写体の領域の候補として優先的に選択される点が、第1実施形態と相違する。以下では、第1実施形態との相違点についてのみ説明する。
【0094】
異なる特徴量に基づいて抽出された被写体領域同士が統合される(例えば、図7のステップSa9を参照)ということは、それら統合された被写体領域同士が、同様の位置及び形状(例えば、図2を参照)になっているということである。したがって、統合により残った被写体領域は、主要被写体の領域である可能性が高い。一方、他の被写体領域と統合されない被写体領域は、主要被写体以外の領域である可能性が高い。したがって、他の被写体領域と統合されない被写体領域を、主要被写体の領域の候補とすることは、主要被写体以外の領域に合焦させてしまう可能性を高くしてしまうことになる。
【0095】
以下、主要被写体の領域の候補数Nrdは、一例として、値3に予め定められているものとして説明を続ける。なお、主要被写体の領域の候補数Nrdを示す情報は、例えば、記憶部160(図1を参照)に予め記憶されていてもよい。
【0096】
領域処理部143は、抽出された被写体領域を統合した場合、主要被写体の領域の候補数Nrdを、他の被写体領域に統合された被写体領域の数Nに応じて削減する。例えば、領域処理部143は、主要被写体の領域の候補数Nrdを、他の被写体領域に統合された被写体領域の数Nに応じて、値「Nrd−(N−1)」まで削減する。具体的な例については、図8を用いて後述する。なお、「Nrd−(N−1)」は、主要被写体の領域の候補数Nrdの削減を示す式の一例である。
【0097】
領域抽出部142は、領域処理部143が選択した、優先度が上位Nrd個の被写体領域を、AF評価領域に合うよう矩形に整形する(例えば、図7のステップSa10を参照)。主要被写体の領域の候補数Nrdが削減されているので、領域抽出部142は、優先度が上位Nrd個の被写体領域を、短時間で整形することができる。また、主要被写体の領域の候補数Nrdが削減されているので、CPU190は、削減されたNrd個の被写体領域のうち、至近に在る被写体が撮像されている被写体領域を優先して、その被写体領域に短時間に合焦させることができる(例えば、図7のステップSa12を参照)。
【0098】
また、領域処理部143は、統合して残った被写体領域の優先度(順位)を、その残った被写体領域に統合された他の被写体領域の数Nに応じて上げてもよい。ここで、領域処理部143は、統合して残った被写体領域の優先度の評価点に、その残った被写体領域に統合された他の被写体領域の数Nに応じた点数を加点する。統合して残った被写体領域は、その優先度の評価点に加点されることにより、例えば、優先度4から優先度3に優先度が上げられるので、他の被写体領域と比較して、優先度が上位の被写体領域となることもある。
【0099】
図8は、統合により残った被写体領域を優先的に選択する処理の例を説明するための図である。図8では、輝度に基づいて、一例として、被写体領域310が2値化画像300Y−1から抽出され、被写体領域320が2値化画像300Y−2から抽出され、被写体領域383が2値化画像300Y−3から抽出されたとする。
【0100】
また、図8では、色差(Cr)に基づいて、一例として、被写体領域381が2値化画像300Cr−1から抽出され、被写体領域340が2値化画像300Cr−3から抽出されたとする。また、図8では、色差(Cb)に基づいて、一例として、被写体領域382が2値化画像300Cr−1から抽出されたとする。
【0101】
以下、各被写体領域が抽出された初期状態では、一例として、被写体領域340は優先度1(順位1)、被写体領域310は優先度2(順位2)、被写体領域381は優先度3(順位3)、被写体領域382は優先度4(順位4)、被写体領域320は優先度5(順位5)、被写体領域383は優先度6(順位6)であるものとして説明を続ける。
【0102】
また、領域処理部143は、抽出された被写体領域のうち、一例として、被写体領域381及び被写体領域382を、被写体領域310に統合したとする。以下、被写体領域381及び被写体領域382を統合して残った被写体領域310を、「被写体領域310a」という。ここで、被写体領域310aの優先度は、被写体領域310の優先度2のままでもよい。
【0103】
領域処理部143は、予め定められた個数(例えば、3個)以上の被写体領域が統合された被写体領域を、優先度にかかわらず選択する。図8では、領域処理部143は、統合して残った被写体領域310aを、優先度にかかわらず選択する。
【0104】
また、領域処理部143は、主要被写体の領域の候補数Nrd=3を、被写体領域310aに統合された被写体領域の数N=2に応じて、値2(=Nrd−(N−1))まで削減する。領域処理部143は、被写体領域310aを含めて合計数がNrd=2個となるまで、他の被写体領域を、優先度の上位順に選択する。図8では、領域処理部143は、優先度にかかわらず選択した被写体領域310aと、優先度に応じて選択した被写体領域340(優先度1)との合計2個の被写体領域を選択する。このようにして、領域処理部143は、領域抽出部142により抽出された被写体領域の位置関係に基づいて、被写体領域を選択する。
【0105】
なお、領域処理部143は、全ての被写体領域を対象に、被写体領域の合計数がNrd=2個となるまで、優先度の上位順に被写体領域を選択してもよい。また、領域処理部143は、統合して残った被写体領域310a(優先度2)のみを、主要被写体の領域の候補として選択してもよい。
【0106】
また、領域処理部143は、統合して残った被写体領域310aの優先度を、被写体領域310aに統合された被写体領域(図8では、被写体領域381及び被写体領域382)の数に応じて上げてもよい。領域処理部143は、被写体領域310aの優先度の評価点に、被写体領域310aに統合された被写体領域の数(=2)に応じた点数、例えば、2点を加点する。
【0107】
領域処理部143は、被写体領域310aの優先度の評価点に、2点を加点したことにより、被写体領域310aの優先度2を、優先度1に上げる。これに伴い、領域処理部143は、被写体領域340の優先度1を、例えば、優先度2に下げる。また、領域処理部143は、他の被写体領域についても同様に優先度を下げてもよい。
【0108】
領域処理部143は、優先度が変更された被写体領域を、優先度の上位順にNrd=2個まで選択する。図8では、領域処理部143は、被写体領域310a(新たな優先度1)と、被写体領域340(新たな優先度2)とを選択する。このようにして、領域処理部143は、領域抽出部142により抽出された被写体領域の位置関係に基づいて、被写体領域を選択する。
【0109】
以上のように、領域処理部143は、前記被写体領域を統合した場合、予め定められた数(例えば、3個)以上の被写体領域が統合された前記被写体領域(例えば、被写体領域310a)を、主要被写体の領域の候補として選択する。これにより、領域抽出装置140は、主要被写体の領域を確実に選択して、その主要被写体の領域に合焦させるための処理時間を短くすることができる。
【0110】
領域処理部143は、前記被写体領域を統合した場合、主要被写体の領域の候補数Nrdを、他の被写体領域に統合された前記被写体領域の数Nに応じて削減する。これにより、領域抽出装置140は、AF評価領域に合うよう矩形に整形する(図7のステップSa10を参照)被写体領域の数を少なくして、主要被写体の領域に合焦させるための処理時間を短くすることができる。
【0111】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【0112】
また、上記に説明した領域抽出装置、撮像装置を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、実行処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。
【0113】
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
【0114】
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
【符号の説明】
【0115】
100…撮像装置、110…撮像部、111…レンズ鏡筒、140…領域抽出装置、141…特徴量算出部、142…領域抽出部、143…領域処理部、144…優先度設定部

【特許請求の範囲】
【請求項1】
撮像された画像から、特徴量に基づいて被写体領域を抽出する領域抽出部と、
前記領域抽出部により抽出された前記被写体領域の位置関係に基づいて、前記被写体領域を選択する領域処理部と、
を備えることを特徴とする領域抽出装置。
【請求項2】
前記領域処理部は、選択した前記被写体領域を、前記位置関係に基づいて統合又は分割することを特徴とする請求項1に記載の領域抽出装置。
【請求項3】
前記領域処理部は、前記被写体領域の形状に基づいて、前記被写体領域を統合又は分割することを特徴とする請求項2に記載の領域抽出装置。
【請求項4】
前記領域抽出部は、前記被写体領域に外接する領域である外接領域を生成し、
前記領域処理部は、前記外接領域の隅の座標に基づいて、前記被写体領域を統合又は分割することを特徴とする請求項2又は請求項3に記載の領域抽出装置。
【請求項5】
前記領域処理部は、前記外接領域の隅の座標差が予め定められた画素数以下である場合、前記被写体領域を統合することを特徴とする請求項4に記載の領域抽出装置。
【請求項6】
前記領域処理部は、第1特徴量に基づいて抽出された前記被写体領域に外接する第1外接領域の隅の座標と、第2特徴量に基づいて抽出された前記被写体領域に外接する第2外接領域の隅の座標とに基づいて、前記第2特徴量に基づいて抽出された前記被写体領域を、前記第1特徴量に基づいて抽出された前記被写体領域に統合することを特徴とする請求項4又は請求項5に記載の領域抽出装置。
【請求項7】
前記領域処理部は、前記第1外接領域に前記第2外接領域が包含されており、且つ、前記第1外接領域及び前記第2外接領域の隅の座標差が、予め定められた画素数以上である場合、前記第2特徴量に基づいて抽出された被写体領域のうち、前記隅の座標差が予め定められた画素数以上である前記第2外接領域に内接する前記第2特徴量に基づいて抽出された被写体領域を、前記第1外接領域に内接する前記第1特徴量に基づいて抽出された被写体領域に統合することを特徴とする請求項4から請求項6のいずれか一項に記載の領域抽出装置。
【請求項8】
前記領域処理部は、前記第2外接領域に前記第1外接領域が包含されており、且つ、前記第2外接領域及び前記第1外接領域の隅の座標差が、予め定められた画素数以上である場合、前記第2特徴量に基づいて抽出された被写体領域と前記第1特徴量に基づいて抽出された被写体領域とが重複する部分を、前記第2特徴量に基づいて抽出された被写体領域から分割することを特徴とする請求項4から請求項7のいずれか一項に記載の領域抽出装置。
【請求項9】
前記領域処理部は、前記被写体領域を統合した場合、予め定められた数以上の被写体領域が統合された前記被写体領域を、主要被写体の領域の候補として選択することを特徴とする請求項2から請求項8のいずれか一項に記載の領域抽出装置。
【請求項10】
前記領域処理部は、前記被写体領域を統合した場合、主要被写体の領域の候補数を、他の被写体領域に統合された前記被写体領域の数に応じて削減することを特徴とする請求項2から請求項9のいずれか一項に記載の領域抽出装置。
【請求項11】
請求項1から請求項10のいずれか一項に記載の領域抽出装置と、
前記領域抽出装置により抽出された被写体領域のうち、優先度が高い領域に合焦させるよう焦点を調節する焦点調節部と、
前記優先度が高い領域に合焦した状態の画像を撮像する撮像部と、
を備えることを特徴とする撮像装置。
【請求項12】
コンピュータに、
撮像された画像から特徴量に基づいて被写体領域を抽出する手順と、
抽出された前記被写体領域の位置関係に基づいて、前記被写体領域を選択する手順と、
を実行させるための領域抽出プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2013−48405(P2013−48405A)
【公開日】平成25年3月7日(2013.3.7)
【国際特許分類】
【出願番号】特願2012−160494(P2012−160494)
【出願日】平成24年7月19日(2012.7.19)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】