領域抽出装置、撮像装置、及び領域抽出プログラム
【課題】撮像された画像から主要被写体の領域を抽出することができる領域抽出装置、撮像装置、及び領域抽出プログラムを提供する。
【解決手段】領域抽出装置140は、撮像された画像から画像特徴量に基づいて第1領域を抽出し、且つ、画像に定められた位置から画像特徴量に基づいて第2領域を抽出する領域抽出部142と、予め定められた条件を第1領域及び第2領域の少なくとも一方が満たすか否かを判定し、第1領域及び第2領域のうち、予め定められた条件を満たす第1領域及び第2領域を選択する判定部143と、判定部143が選択した第1領域及び第2領域の分布を記憶する記憶部145と、を備える。
【解決手段】領域抽出装置140は、撮像された画像から画像特徴量に基づいて第1領域を抽出し、且つ、画像に定められた位置から画像特徴量に基づいて第2領域を抽出する領域抽出部142と、予め定められた条件を第1領域及び第2領域の少なくとも一方が満たすか否かを判定し、第1領域及び第2領域のうち、予め定められた条件を満たす第1領域及び第2領域を選択する判定部143と、判定部143が選択した第1領域及び第2領域の分布を記憶する記憶部145と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像から領域を抽出する領域抽出装置、撮像装置、及び領域抽出プログラムに関する。
【背景技術】
【0002】
画像の特徴量のヒストグラムに基づいて、撮像された画像から領域を抽出し、抽出した領域を識別する画像処理装置が開示されている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平4−10079号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に開示された画像処理装置は、撮像された画像から人が注目する領域を抽出すること、すなわち、主要被写体の領域を抽出することができなかった。
【0005】
本発明は、前記の点に鑑みてなされたものであり、撮像された画像から主要被写体の領域を抽出することができる領域抽出装置、撮像装置、及び領域抽出プログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明は、上記の課題を解決するためになされたものであり、撮像された画像から画像特徴量に基づいて第1領域を抽出し、且つ、前記画像に定められた位置から画像特徴量に基づいて第2領域を抽出する領域抽出部と、予め定められた条件を前記第1領域及び前記第2領域の少なくとも一方が満たすか否かを判定し、前記第1領域及び前記第2領域のうち、前記予め定められた条件を満たす前記第1領域及び前記第2領域を選択する判定部と、 前記判定部が選択した前記第1領域及び前記第2領域の分布を記憶する記憶部と、を備えることを特徴とする領域抽出装置である。
【0007】
また、本発明は、前記第1領域及び前記第2領域に優先度を定める優先度設定部を有する領域抽出装置と、前記第1領域及び前記第2領域のうち、前記優先度設定部が定めた優先度が高い領域に合焦させるよう、焦点を調節する焦点調節部と、前記優先度が高い領域に合焦した状態の前記画像を撮像する撮像部と、を備えることを特徴とする撮像装置である。
【0008】
また、本発明は、コンピュータに、撮像された画像から画像特徴量に基づいて第1領域を抽出し、且つ、前記画像に定められた位置から画像特徴量に基づいて第2領域を抽出する手順と、予め定められた条件を前記第1領域及び前記第2領域の少なくとも一方が満たすか否かを判定し、前記第1領域及び前記第2領域のうち、前記予め定められた条件を満たす前記第1領域及び前記第2領域を選択する手順と、選択した前記第1領域及び前記第2領域の分布を記憶する手順と、を実行させるための領域抽出プログラムである。
【発明の効果】
【0009】
本発明によれば、領域抽出装置は、撮像された画像から主要被写体の領域を抽出することができる。
【図面の簡単な説明】
【0010】
【図1】本発明の一実施形態における、レンズ鏡筒111と、領域抽出装置140を備える撮像装置100と、記憶媒体200との構成を表すブロック図である。
【図2】本発明の一実施形態における、画像から領域を抽出する方法を説明するための図である。
【図3】本発明の一実施形態における、画角中心から領域を抽出する方法を説明するための図である。
【図4】本発明の一実施形態における、画角中心の近傍から領域を抽出する方法を説明するための図である。
【図5】本発明の一実施形態における、彩度S(C)のヒストグラムと、その部分拡大図である。
【図6】本発明の一実施形態における、画角中心の近傍の色相ヒストグラムの一例が表された図である。
【図7】本発明の一実施形態における、画角中心の近傍から抽出した領域の一例が表された図である。
【図8】本発明の一実施形態における、指定された位置から抽出した領域の一例が表された図である。
【図9】本発明の一実施形態における、指定された位置から抽出した領域に合焦させる場合の撮像装置100の操作例を表す図である。
【図10】本発明の一実施形態における、被写体を検出した位置に基づいて、抽出した領域の一例が表された図である。
【図11】本発明の一実施形態における、人及び動物が撮像された画像から領域を抽出する処理の手順を表すフローチャートである。
【図12】本発明の一実施形態における、領域に合焦させるまでの処理の手順を表すフローチャートである。
【発明を実施するための形態】
【0011】
本発明の一実施形態について図面を参照して詳細に説明する。図1には、レンズ鏡筒111と、領域抽出装置140を備える撮像装置100と、記憶媒体200との構成が、ブロック図により表されている。撮像装置100は、レンズ鏡筒111から入射される光学像を撮像し、得られた画像を静止画又は動画の画像として、記憶媒体200に記憶させる。
【0012】
まず、レンズ鏡筒111の構成を説明する。
レンズ鏡筒111は、焦点調整レンズ(以下、「AF(Auto Focus)レンズ」という)112と、レンズ駆動部116と、AFエンコーダ117と、鏡筒制御部118を備える。なお、レンズ鏡筒111は、撮像装置100に着脱可能に接続されてもよいし、撮像装置100と一体であってもよい。
【0013】
AFレンズ112は、レンズ駆動部116により駆動され、後述する撮像部110の撮像素子119の受光面(光電変換面)に、光学像を導く。
【0014】
AFエンコーダ117は、AFレンズ112の移動を検出し、AFレンズ112の移動量に応じた信号を、鏡筒制御部118に出力する。ここで、AFレンズ112の移動量に応じた信号とは、例えば、AFレンズ112の移動量に応じて位相が変化するサイン(sin)波信号であってもよい。
【0015】
鏡筒制御部118は、撮像装置100のCPU190から入力される駆動制御信号に応じて、レンズ駆動部116を制御する。ここで、駆動制御信号とは、AFレンズ112を光軸方向に駆動させる制御信号である。鏡筒制御部118は、駆動制御信号に応じて、例えば、レンズ駆動部116に出力するパルス電圧のステップ数を変更する。
【0016】
また、鏡筒制御部118は、AFレンズ112の移動量に応じた信号に基づいて、レンズ鏡筒111におけるAFレンズ112の位置(フォーカスポジション)を、CPU190に出力する。ここで、鏡筒制御部118は、例えば、AFレンズ112の移動量に応じた信号を、AFレンズ112の移動方向に応じて積算することで、レンズ鏡筒111におけるAFレンズ112の移動量(位置)を算出してもよい。
【0017】
レンズ駆動部116は、鏡筒制御部118の制御に応じてAFレンズ112を駆動し、AFレンズ112をレンズ鏡筒111内で光軸方向に移動させる。
【0018】
次に、撮像装置100の構成を説明する。
撮像装置100は、撮像部110と、領域抽出装置140と、表示部150と、バッファメモリ部130と、操作部180と、記憶部160と、CPU190と、通信部170とを備える。
【0019】
撮像部110は、撮像素子119と、A/D(Analog/Digital)変換部120とを備える。撮像部110は、設定された撮像条件(例えば絞り値、露出値等)に従って、CPU190により制御される。
【0020】
撮像素子119は、光電変換面を備え、レンズ鏡筒111(光学系)により光電変換面に結像された光学像を電気信号に変換して、A/D変換部120に出力する。撮像素子119は、例えば、CMOS(Complementary Metal Oxide Semiconductor)で構成されていてもよい。また、撮像素子119は、光電変換面の一部の領域について、光学像を電気信号に変換するようにしてもよい(画像切り出し)。
【0021】
また、撮像素子119は、操作部180を介してユーザからの撮影指示を受け付けた際に得られる画像を、A/D変換部120を介して記憶媒体200に記憶させる。一方、撮像素子119は、操作部180を介してユーザからの撮影指示を受け付けていない状態において、連続的に得られる画像をスルー画像として、バッファメモリ部130及び表示部150に、A/D変換部120を介して出力する。
【0022】
A/D変換部120は、撮像素子119によって変換された電気信号をデジタル化して、デジタル信号である画像をバッファメモリ部130に出力する。
【0023】
操作部180は、例えば、電源スイッチ、シャッタボタン、マルチセレクタ(十字キー)、又はその他の操作キーを備え、ユーザによって操作されることでユーザの操作入力を受け付け、受け付けた操作入力に応じた信号をCPU190に出力する。また、操作部180は、画像内の所定位置をユーザが指定するための操作入力を受け付け、受け付けた操作入力に応じた信号を領域抽出装置140に出力する。なお、操作部180は、領域抽出装置140に備えられていてもよい。
【0024】
領域抽出装置140は、記憶部160に記憶されている画像処理条件に基づいて、バッファメモリ部130に一時的に記憶されている画像を画像処理する。画像処理された画像は、通信部170を介して記憶媒体200に記憶される。また、領域抽出装置140は、画像の特徴量により定まる領域を、バッファメモリ部130に一時的に記憶されている画像から抽出する。また、領域抽出装置140は、抽出した領域を示す情報を記憶部160などに記憶させる。ここで、領域を示す情報とは、例えば、領域の分布を表す情報、及び領域の特徴量を表す情報などである。また、領域抽出装置140は、画像から抽出した領域に優先度を設定する。領域抽出装置140の詳細については、後述する。
【0025】
表示部150は、撮像部110によって得られた画像、及び操作画面等を表示する。表示部150は、例えば、液晶ディスプレイである。
【0026】
バッファメモリ部130は、撮像部110によって撮像された画像を、一時的に記憶する。
【0027】
記憶部160は、シーン判定の際にCPU190によって参照される判定条件と、シーン判定によって判断されたシーン毎に対応付けられた撮像条件と、領域を示す情報等とを記憶する。
【0028】
CPU190は、設定された撮像条件(例えば、絞り値、露出値)に従って、撮像部110を制御する。また、CPU190は、領域を示す情報を、領域抽出装置140から取得する。また、CPU190は、領域を示す情報に基づいてレンズ鏡筒111の鏡筒制御部118に駆動制御信号を出力することで、画像から抽出された領域のうち、領域抽出装置140が設定した優先度が高い領域に合焦させるよう焦点を調節する。
【0029】
また、CPU190は、領域を示す情報に基づいて、画像処理のプレ処理又はポスト処理として、焦点調整(AF)の設定、露出調整(AE)の設定、ホワイトバランス調整(AWB)の設定、被写体像(オブジェクト)の追尾の設定、夜景か否かの判定の設定、色補正処理の設定、被写体像の拡大表示の設定、パンニング表示の設定、ズーム倍率に連動した明るさの最適化の設定、などを制御する。
【0030】
また、CPU190は、領域を示す情報に基づいて、トーンカーブ(階調カーブ)の設定、静止画及び動画の同時撮影を実行するか否かの設定などを制御する。
【0031】
また、CPU190は、領域を示す情報に基づいて、プレ処理又はポスト処理として、連写するか否かの設定、及び、連写において、合焦させる被写体像の切り替えの設定、焦点距離の連続変更の設定、撮像装置100の発光部(不図示)が発光する閃光の発光量の変更の設定、露光量の変更の設定、又はシャッタスピードの変更を実行するか否かの設定などを制御する。
【0032】
また、CPU190は、操作部180から入力された「操作入力に応じた信号」に基づいて、静止画形式又は動画形式の画像を、領域抽出装置140に画像処理させる。
【0033】
通信部170は、カードメモリ等の取り外しが可能な記憶媒体200と接続され、この記憶媒体200への情報(画像データ、領域を示す情報など)の書込み、読み出し、あるいは消去を行う。
【0034】
記憶媒体200は、撮像装置100に対して着脱可能に接続される記憶部であって、情報(画像データ、領域を示す情報など)を記憶する。なお、記憶媒体200は、撮像装置100と一体であってもよい。
【0035】
次に、領域抽出装置140の詳細について説明する。
領域抽出装置140は、特徴量算出部141と、領域抽出部142と、判定部143と、優先度設定部144と、記憶部145とを備える。
【0036】
特徴量算出部141は、撮像部110が撮像した画像を、バッファメモリ部130から取得する。また、特徴量算出部141は、バッファメモリ部130から取得した画像における複数の特徴(例えば、色相、彩度、明度、テクスチャ、エッジ)毎に、その特徴量を算出し、算出した特徴量を領域抽出部142に出力する。
【0037】
領域抽出部142は、特徴量算出部141が算出した特徴量を取得する。また、領域抽出部142は、撮像部110が撮像した画像を、バッファメモリ部130から取得する。また、領域抽出部142は、取得した画像に含まれる領域であって特徴量毎に定まる領域を、画像から抽出する。ここで、領域抽出部142が抽出する領域は、例えば、撮像部110が撮像した画像に含まれる被写体像の領域である。
【0038】
領域抽出部142は、特徴量算出部141が算出した画像特徴量を取得する。また、領域抽出部142は、撮像部110が撮像した画像を、バッファメモリ部130から取得する。領域抽出部142は、撮像部110により撮像された画像から、画像特徴量(例えば、色情報(色相、色差)、彩度、輝度)に基づいて領域を抽出する。
【0039】
また、領域抽出部142は、画像特徴量に定められた一定範囲(区分)と、その範囲外とに2値化された画像(以下、「2値画像」という)から領域(以下、「第1領域」という)を抽出し、抽出した第1領域にラベルを割り当てる(ラベリング)。また、領域抽出部142は、抽出した第1領域の位置にAF評価領域を定める。ここで、AF評価領域とは、コントラスト・オートフォーカス(AF)により、コントラスト値が評価される領域である。
【0040】
領域抽出部142は、撮像された画像内の所定位置から領域(以下、「第2領域」という)を抽出する(特例的マスク)。例えば、領域抽出部142は、画角中心又は画角中心の近傍における画像特徴量に基づいて、画角中心又は画角中心の近傍から第2領域を抽出する。また、領域抽出部142は、固有種別の被写体が撮像された領域を検出する処理(例えば、顔検出処理)により検出された領域の位置に基づいて、第2領域を抽出し、抽出した第2領域にラベルを割り当てる(ラベリング)。また、領域抽出部142は、操作入力により操作部180を介して指定された画像内の位置から、第2領域を抽出する。領域抽出部142の動作の詳細ついては、後述する。
【0041】
判定部143は、各領域の分布に基づいて、複数の第1領域及び第2領域のうちから、優先度を設定する対象として、1つ以上の領域を選択する(最終マスク)。
【0042】
より具体的には、判定部143は、予め定められた条件(例えば、領域の分布条件)を、第1領域又は第2領域が満たすか否かを判定する。例えば、判定部143は、ノイズと推定される領域(例えば、所定閾値よりも面積が小さい領域)が画像にある場合、それらの領域を、画像から除去(足きり)する。また、例えば、判定部143は、背景と推定される領域(例えば、所定閾値よりも面積が大きい領域)が画像にある場合、その領域を画像から除去する。また、例えば、判定部143は、例えば、固まりの度合いが大きい領域、すなわち、重心からの慣性モーメントが小さい領域を選択し、他の領域(慣性モーメントが小さくない領域)を足きりする。判定部143は、除去されていない第1領域及び第2領域の分布を表す情報を、記憶部145、記憶部160及び記憶媒体200のうち少なくとも1つに記憶させる。
【0043】
優先度設定部144は、予め定められた条件を満たす第1領域及び第2領域に、画像における「領域の優先度」を定める。この「領域の優先度」とは、人がより注目しているであろう領域の優先度である。優先度設定部144は、設定した「領域の優先度」を、領域を示す情報として、記憶部145、記憶部160及び記憶媒体200に、領域毎に記憶させる。
【0044】
領域の優先度は、次のように定められてもよい。以下では、優先度を示す数字が小さいほど、領域の優先度が高いものとする。また、以下に示す優先度は、一例である。
【0045】
優先度1.
動いている領域(動いている領域が画像に複数ある場合、画角からはみ出していない領域、又は画角の中央に分布する領域)。また、パンニングしたことにより、動いている領域が画像に広く分布している場合は、動いていない領域。
これらの領域は、優先度「1」に設定される。
人は、動いている領域及びパンニングした際に変化量の少ない領域に注目するためである。
【0046】
優先度2.
画角(構図)、奥行(パースペクト)、被写体距離(デプス、深度)に関する領域。画角の中央付近に分布する領域。画像に奥行がある場合、至近側に分布する領域のうち、画角からはみ出していない領域であって、面積が所定の範囲内である(極端に大きくない)領域。
これらの領域は、優先度「2」に設定される。
主要な被写体像の領域が、至近から無限までの広い範囲に存在する可能性があるためである。
【0047】
優先度3.
人の顔検出、動物(ペット)の顔検出、顔が検出された領域における肌色検出、動物の毛並みのテクスチャ(模様)、又は植物のテクスチャに基づいて抽出された領域。
これらの領域は、優先度「3」に設定される。
人または動物が撮像されている場合、人は、その顔に注目するためである。
【0048】
優先度4.
特異である特徴量(例えば、色相環において不連続である色相)がある領域。背景の領域とそれ以外の領域とに分割された領域。彩度が高い領域。周囲と比較して明度が著しく異なる領域。周囲と比較して色相(色合い)が著しく異なる領域。テクスチャ(模様)が周囲と異なる領域。周囲と比較して空間周波数(画像周波数)が高い領域。ある特徴量において不連続な分布が一定量あり、その特徴量に基づいてラベリングされた結果、領域が形成された場合に、画像において違和感がある領域。
これらの領域は、優先度「4」に設定される。
【0049】
優先度5.
特定の色相又は彩度に基づいて抽出された領域。
これらの領域は、優先度「5」に設定される。
人は、赤色、黄色、肌色の領域に注目するためである。
【0050】
優先度6.
明度(明暗)に基づいて抽出された領域。
これらの領域は、優先度「6」に設定される。
【0051】
優先度7.
テクスチャ(模様)に基づいて抽出された領域。
これらの領域は、優先度「7」に設定される。
【0052】
優先度8.
空間周波数(画像周波数)に基づいて抽出された領域。
これらの領域は、優先度「8」に設定される。
【0053】
優先度9.
縦又は横に延びたエッジで囲まれた領域であって、一定以上の太さがある領域。
これらの領域は、優先度「9」に設定される。
【0054】
次に、領域抽出部142及び判定部143の動作の詳細を説明する。
領域抽出部142は、特徴量算出部141が算出した画像特徴量を取得する。また、領域抽出部142は、撮像部110が撮像した画像を、バッファメモリ部130から取得する。領域抽出部142は、撮像部110により撮像された画像から、画像特徴量(例えば、色情報(色相、色差)、彩度、輝度)に基づいて領域を抽出する。ここで、領域抽出部142が抽出する領域は、バッファメモリ部130から取得した画像に含まれる、被写体の領域である。
【0055】
また、領域抽出部142は、2値画像から第1領域を抽出し、抽出した第1領域にラベルを割り当てる(ラベリング)。ここで、2値画像は、画像特徴量が閾値(上限及び下限)により区分されることで生成された画像である。また、この閾値は、画像における画像特徴量のヒストグラムの平均値(Ave)及び標準偏差(σ)に基づいて、例えば、「平均値+係数×標準偏差」と定められてもよい。
【0056】
図2には、画像から領域を抽出する方法を説明するための図が表されている。領域抽出部142は、撮像部110が撮像した画像から、輝度に基づく画像(以下、「Y画像」という)300Yを抽出する。領域抽出部142は、撮像部110が撮像した画像の輝度(入力値)を補正(例えば、ガンマ補正)し、補正した輝度(出力値)を算出する。
【0057】
領域抽出部142は、補正した輝度(出力値)を、複数の範囲に区分する。図2では、一例として、補正した輝度は、区分1〜4に区分されたとする。領域抽出部142は、区分毎に2値画像を生成する。区分1の上限が「平均値+K1×標準偏差」であり、区分1の下限が「平均値+K2×標準偏差」である場合、区分1の2値画像には、高輝度領域が含まれる。
【0058】
領域抽出部142は、区分1の2値画像に含まれている高輝度領域の分布を探索することにより、この探索結果を表す領域画像に、高輝度領域を抽出する。同様に、領域抽出部142は、区分2の2値画像に含まれている中輝度領域を探索することにより、領域画像に中輝度領域を抽出する。また、領域抽出部142は、区分4の2値画像に含まれている低輝度領域を探索することにより、領域画像に低輝度領域を抽出する。
【0059】
同様に、領域抽出部142は、補正した色情報Crを、複数の範囲に区分する。図2では、一例として、補正した色情報Crは、区分5〜8に区分されたとする。領域抽出部142は、区分毎に2値画像を生成する。区分5の上限が「平均値+K3×標準偏差」であり、区分5の下限が「平均値+K4×標準偏差」である場合、区分5の2値画像には、赤色系領域が含まれる。
【0060】
領域抽出部142は、区分5の2値画像に含まれる赤色系領域の分布を探索することにより、この探索結果を表す領域画像に、赤色系領域(不図示)を抽出する。同様に、領域抽出部142は、区分6の2値画像に含まれる桃色系領域を探索することにより、この探索結果を表す領域画像に、桃色系領域(不図示)を抽出する。また、領域抽出部142は、区分8の2値画像に含まれる緑色系領域を探索することにより、領域画像に緑色系領域(不図示)を抽出する。
【0061】
同様に、領域抽出部142は、補正した色情報Cbを、複数の範囲に区分する。図2では、一例として、補正した色情報Cbは、区分9〜12に区分されたとする。領域抽出部142は、区分毎に2値画像を生成する。区分9の上限が「平均値+K5×標準偏差」であり、区分9の下限が「平均値+K6×標準偏差」である場合、区分9の2値画像には、青色系領域が含まれる。
【0062】
領域抽出部142は、区分9の2値画像に含まれる青色系領域の分布を探索することにより、この探索結果を表す領域画像に、青色系領域(不図示)を抽出する。同様に、領域抽出部142は、区分10の2値画像に含まれる水色系領域を探索することにより、この探索結果を表す領域画像に、水色系領域(不図示)抽出する。また、領域抽出部142は、区分12の2値画像に含まれる黄色系領域を探索することにより、この探索結果を表す領域画像に、黄色系領域(不図示)を抽出する。
【0063】
判定部143は、各領域の分布に基づいて、複数の第1領域及び第2領域のうちから、優先度を設定する対象として、1つ以上の領域を選択する。図2では、領域画像に抽出された複数の第1領域のうち、一例として、第1領域340Y及び第1領域350Yが、優先度を設定する対象として、判定部143により選択されたとする。領域抽出部142は、AF評価領域360を第1領域340Yの位置に定め、AF評価領域370を第1領域350Yの位置に定める。
【0064】
さらに、領域抽出部142及び判定部143は、以下に説明する1つ以上の場合の領域抽出処理を実行する。
<画像の画角中心から領域を抽出する場合>
図3には、画角中心から領域を抽出する方法を説明するための図が表されている。領域抽出部142は、Y(輝度)画像300Yの画角中心310Yから、輝度分布における一定範囲の輝度(Y±K・α)を有する画素により構成される第2領域320Yを抽出する。また、領域抽出部142は、Cr(色差)画像300Crの画角中心310Crから、色差分布における一定範囲の色差(Cr±K・β)を有する画素により構成される第2領域330Crを抽出する。また、領域抽出部142は、Cb(色差)画像300Cbの画角中心310Cbから、色差分布における一定範囲の色差(Cb±K・γ)を有する画素により構成される第2領域を抽出する。ここで、輝度(Y)又は色差(Cr,Cb)などの特徴量を有する画素が画像に無いなどの理由により、いずかの特徴量による第2領域が抽出されないことがあってもよい。
【0065】
なお、画像の特徴量は、Y・Cr・Cbに限る必要はなく、例えば、RGB、テクスチャ(模様)、又は画像における空間周波数など、領域を抽出することができる特徴量であればよい。
【0066】
判定部143は、複数の第2領域のうち、固まりの度合いが大きい第2領域、すなわち、重心からの慣性モーメントが小さい第2領域を選択する。ここで、図3では、判定部143は、画像300Yから抽出した第2領域320Yの固まりの度合いと、画像300Crから抽出した第2領域330Crの固まりの度合いとを比較し、固まりの度合いがより大きい第2領域320Yを選択したとする。
【0067】
また、領域抽出部142は、判定部143が選択した第2領域を抽出した際に用いた特徴量と同じ特徴量に基づいて、選択した第2領域の近傍から、更に精度良く第2領域を抽出してもよい。例えば、図3では、輝度に基づいて第2領域320Yが抽出されているので、領域抽出部142は、判定部143が選択した第2領域320Yの近傍から、強調された輝度に基づいて更に精度良く第2領域を抽出してもよい。
【0068】
また、判定部143は、第1領域及び第2領域のうち評価が高い領域(例えば、面積が大きい領域)を、画像特徴量の種別毎に選択する。
【0069】
<画像の画角中心の近傍から領域を抽出する場合>
領域抽出部142は、画角中心の近傍(例えば、画角中心から、予め定められた距離までの範囲)から第2領域を抽出する。図4には、画角中心の近傍から領域を抽出する方法を説明するための図が表されている。領域抽出部142は、画角中心の近傍に定められた領域410内に複数の位置を定める。図4では、一例として、5つの位置が予め定められている。
【0070】
領域抽出部142は、予め定められた各位置におけるY(輝度)に基づいて、各位置から領域をそれぞれ抽出する。また、領域抽出部142は、各位置におけるCr(色差)に基づいて、各位置から領域を抽出する。また、領域抽出部142は、各位置におけるCb(色差)に基づいて、各位置から領域を抽出する。ここで、輝度又は色差などの画像特徴量を有する画素が無いなどの理由により、いずかの画像特徴量による第2領域が抽出されないことがあってもよい。
【0071】
判定部143は、領域410内の位置470aにおける画像の各特徴量に基づいて抽出した各第2領域のうち、最も評価が高い(例えば、最も密度が高い)第2領域を選択する。位置470b〜位置470eについても同様である。図4では、輝度に基づいて抽出された第2領域420Y及び第2領域430Yが、領域抽出部142により選択されたとする。
【0072】
また、領域抽出部142は、判定部143が選択した第2領域の近傍から、その第2領域を抽出した際に用いた特徴量と同じ画像特徴量に基づいて、更に精度良く第2領域を抽出してもよい。例えば、図4では、輝度に基づいて第2領域420Yが抽出されているので、領域抽出部142は、選択した第2領域420Y及び第2領域430Yの近傍から、強調された輝度に基づいて更に精度良く第2領域を抽出してもよい。
【0073】
また、判定部143は、第1領域及び第2領域のうち評価が高い領域(例えば、至近側に分布する領域)を、画像特徴量の種別毎に選択する。
【0074】
<ヒストグラムに基づいて領域を抽出する場合>
領域抽出部142は、画角中心の近傍における画像の特徴量について、ヒストグラムを生成する。図5には、彩度S(C)のヒストグラムと、その部分拡大図とが表されている。横軸は彩度S(C)を表す。また、横軸は頻度を表す。また、領域抽出部142は、画像の特徴量のヒストグラムに基づいて、第2領域を抽出する。
【0075】
領域抽出部142は、彩度Sのヒストグラムを走査することにより、相対的に頻度が高い彩度ピークS1をヒストグラムから検出し、検出した彩度ピークS1を部分拡大する。領域抽出部142は、部分拡大した彩度ピークS1を更に走査することにより、彩度ピークS1の偏差σを算出する。また、領域抽出部142は、彩度ピークS1を中心とする3σ範囲に含まれる彩度を有する隣接画素からなる第2領域を、画像から抽出する。
【0076】
図6には、画角中心の近傍の色相ヒストグラムの一例が表されている。横軸は色相hを表す。また、横軸は頻度を表す。領域抽出部142は、色相ヒストグラムを走査することにより、相対的に頻度が高い(特異な色相と予測される)色相ピークh1を、ヒストグラムから検出する。また、領域抽出部142は、色相ピークh1の偏差σを算出し、色相ピークh1を中心とする3σ範囲に含まれる色相を有する隣接画素からなる第2領域を、画像から抽出する。
【0077】
また、領域抽出部142は、色相ヒストグラムを更に走査することにより、不連続となっているヒストグラム領域(不連続領域)に含まれる色相h2を検出する。また、領域抽出部142は、色相h2の偏差σを算出し、色相h2を中心とする「h2±Δ/2」範囲に含まれる色相を有する隣接画素からなる第2領域を、画像から抽出する。
【0078】
図7には、画角中心の近傍から抽出した領域の一例が表されている。第2領域520は、画像500の画角中心の近傍に定められた領域510における画像の特徴量のヒストグラムに基づいて、領域抽出部142により抽出される。
【0079】
<指定された位置から領域を抽出する場合>
領域抽出部142は、操作入力により指定された画像内の所定位置に在る領域から、第2領域を抽出する。領域抽出部142には、操作入力に応じた操作入力信号が、例えば、操作部180から入力される。ここで、所定位置とは、例えば、ユーザが表示部150を押下した画面内の位置、又は、ユーザの視線入力により指定された画面内の位置である。
【0080】
図8には、指定された位置から抽出した領域の一例が表されている。図8では、操作入力により指定された画像600内の位置に、領域610が定められている。領域抽出部142は、階調が細分化された画像特徴量、例えば、階調が細分化された輝度(Y)及び色差(Cr、Cb)に基づいて、領域610の近傍から第2領域620を抽出する。また、領域抽出部142は、領域610を含むAF評価領域630を画像に定める。
【0081】
また、領域抽出部142は、第2領域620の輪郭線を全て含むように、AF評価領域630を拡大する。これにより、領域抽出部142は、コントラスト・オートフォーカスに用いられるコントラスト値(信号対雑音比)を高くすることができる。
【0082】
図9には、指定された位置から抽出した領域に合焦させる場合の撮像装置100の操作例が表されている。図9(A)に示す一例では、ユーザが、カメラアングルを変更し、撮りたい被写体を画角中心に合わせたとする。領域抽出部142は、その被写体にAF評価領域640を定める。そして、ユーザが操作部180を押下操作した場合、領域抽出部142は、合焦させる対象の領域を定める。例えば、領域抽出部142は、合焦させる対象の領域として、AF評価領域640内の被写体の領域を定めたとする。以降、領域抽出部142は、ユーザがカメラアングルを変更した場合でも、AF評価領域640内の被写体の領域に合焦させる。
【0083】
また、図9(B)に示す一例では、画像内に複数の被写体が撮像されていることにより、AF評価領域650〜AF評価領域670が、各被写体の領域に定められているとする。ユーザが操作部180をダイヤル操作した場合、領域抽出部142は、合焦させる対象の領域を定める。例えば、領域抽出部142は、合焦させる対象の領域として、AF評価領域660内の被写体の領域を定めたとする。以降、領域抽出部142は、ユーザがカメラアングルを変更した場合でも、AF評価領域660内の被写体の領域に合焦させる。
【0084】
<被写体を検出した位置に基づいて、領域を抽出する場合>
領域抽出部142は、顔検出処理の結果が示す画像内の位置に基づいて、第2領域を抽出する。ここで、顔検出処理には、人の顔の位置及び向き等を検出するための処理のほか、動物の顔の位置及び向き等を検出するための処理が含まれている。
【0085】
図10には、被写体を検出した位置に基づいて、抽出した領域の一例が表されている。撮像された画面800に対する顔検出処理により、被写体の顔の位置840及び向きが検出されたとする。領域抽出部142は、位置840から第2領域830を抽出し、抽出した第2領域830にラベルを割り当てる(ラベリング)。
【0086】
また、領域抽出部142は、被写体の顔の向きと、被写体の顔の位置840とに基づいて、被写体の胴体が撮像されていると推測される位置850〜位置870を定める。ここで、被写体の顔の位置と、被写体の顔の向きと、被写体の胴体が撮像されていると推測される位置との対応関係を表す情報は、記憶部145に予め記憶されているとする。また、領域抽出部142は、位置850〜位置870から、被写体の胴体が撮像されていると推測される第2領域880を抽出し、抽出した第2領域880にラベルを割り当てる。
【0087】
<人及び動物が撮像された画像から領域を抽出する場合>
図11は、人及び動物が撮像された画像から領域を抽出する処理の手順を表すフローチャートである。領域抽出部142は、領域を抽出する処理に用いる変数などを初期化する(ステップS1)。特徴量算出部141は、撮像された画像がリサイズされたクロップ画像(64×40画素)を、バッファメモリ部130を介して画像特徴量毎に読み込む(ステップS2)。
【0088】
特徴量算出部141は、クロップ画像に対して顔検出処理を実行し、処理結果を領域抽出部142に出力する。領域抽出部142は、クロップ画像に人の顔が検出されたか否かを、処理結果に基づいて判定する(ステップS3)。
【0089】
クロップ画像に人の顔が検出された場合(ステップS3−Yes)、領域抽出部142は、人の顔を含む枠画像を表示し、表示した枠の内側の面積が一定値(例えば、クロップ画像の面積に対して、16分の1の面積)以上あるか否かを判定する(ステップS4)。
【0090】
表示した枠の内側の面積が一定値未満である場合(ステップS4−No)、領域抽出部142は、人の顔が撮像されている領域と、胴体が撮像されていると推測される領域とを、人の顔が検出された位置に基づいて抽出する(ステップS5)。また、領域抽出部142は、輝度及び色差(YUV,YCrCb)等に基づいて、クロップ画像の例えば画角中心の近傍から、第2領域を抽出する(ステップS6)。
【0091】
判定部143は、予め定められた条件に基づいて、領域抽出部142が抽出した第1領域及び第2領域に対して、足きり及び統合を実行する。例えば、判定部143は、所定閾値よりも面積が小さい複数の領域が画像内で近接している場合、それらの領域を統合する(ステップS7)。また、判定部143は、第1領域及び第2領域のうち評価が高い順に領域(例えば、1位〜4位の領域)を、画像特徴量の種別毎に選択する(ステップS8)。
【0092】
また、優先度設定部144は、判定部143が選択した第1領域及び第2領域に、優先度を設定する。また、領域抽出部142は、優先度設定部144が設定した優先度が最も高い領域に、AF評価領域を設定する(ステップS9)。CPU190は、AF評価領域のコントラスト値に基づいて、焦点調整(AF)処理を実行する。
【0093】
なお、CPU190は、領域抽出部142が選択した領域の画像特徴量に基づいて、領域を画像から切り出す処理、被写体を分類する処理、ダイナミックレンジを調整する処理、画像を強調する処理、露出調整(AE)、ホワイトバランス調整(AWB)、被写体像(オブジェクト)の追尾、夜景か否かの判定、色補正処理、被写体像の拡大表示、パンニング表示、ズーム倍率に連動した明るさの最適化などを制御する。
【0094】
一方、ステップS3において、クロップ画像に人の顔が検出されていない場合(ステップS3−No)、領域抽出部142は、クロップ画像に動物(ペット)の顔が検出されているか否かを判定する(ステップS10)。クロップ画像に動物の顔が検出されている場合(ステップS10−Yes)、領域抽出部142は、胴体が撮像されていると推測される第2領域を、動物の顔の周辺から抽出する(ステップS11)。
【0095】
また、領域抽出部142は、動物の顔を含む枠画像を表示し、表示した枠の内側の面積が一定値(例えば、クロップ画像の面積に対して、16分の1の面積)以上あるか否かを判定する(ステップS12)。表示した枠の内側の面積が一定値以上ある場合(ステップS12−Yes)、領域抽出部142は、処理をステップS9に進める。
【0096】
一方、ステップS4において、表示した枠の内側の面積が一定値以上ある場合(ステップS4−Yes)、領域抽出部142は、上半身が撮像されていると推測される領域を、人の顔の周辺から抽出する(ステップS13)。領域抽出部142は、処理をステップS9に進める。
【0097】
また、ステップS10において、クロップ画像に動物の顔が検出されていない場合(ステップS10−No)、領域抽出部142は、処理をステップS6に進める。また、ステップS12において、表示した枠の内側の面積が一定値未満である場合(ステップS12−No)、領域抽出部142は、処理をステップS6に進める。
【0098】
次に、領域抽出装置の処理の手順を説明する。
図12は、領域に合焦させるまでの処理の手順を表すフローチャートである。特徴量算出部141は、撮像された画像(スルー画像、又はスルー画像列)を、バッファメモリ部130から取り込み(ステップSa1)、取り込んだ画像に対して、基本的な画像処理を実行する(ステップSa2)。
【0099】
領域抽出部142は、撮像された画像がリサイズされたクロップ画像(64×40画素)を、バッファメモリ部130を介して画像特徴量毎に読み込む(ステップSa3)。領域抽出部142は、クロップ画像における複数の画像特徴量に基づいて、2値化画像を作成する(ステップSa4)。また、領域抽出部142は、2値化画像から第1領域及び第2領域を抽出し、抽出した領域にラベルを割り当てる(ステップSa5)。
【0100】
判定部143は、ノイズと推定される領域が画像にある場合、それらの領域を画像から除去(足きり)する(ステップSa6)。また、判定部143は、背景と推定される領域が画像にある場合、その領域を画像から除去する(ステップSa7)。
【0101】
優先度設定部144は、予め定められた条件を満たす第1領域及び第2領域に、画像における「領域の優先度」を定める(ステップSa8)。また、領域抽出部142は、優先度設定部144が優先度を定めた領域を、AF評価領域に合うよう矩形に整形する(ステップSa9)。CPU190は、AF評価領域のコントラスト値に基づいて、コントラスト・スキャン(焦点調整処理)を実行する(ステップSa10)。また、CPU190は、コントラスト・スキャンの結果に基づいて、至近に在る被写体が撮像されている領域を優先し、その領域に合焦させる(ステップSa11)。
【0102】
以上のように、領域抽出装置140は、撮像された画像から画像特徴量(例えば、色情報(色相、色差)、彩度、輝度)に基づいて第1領域(例えば、第1領域340Y、第1領域350Y)を抽出し、且つ、前記画像に定められた位置から画像特徴量に基づいて第2領域(例えば、第2領域320Y、第2領域420Y、第2領域430Y)(特例的マスク)を抽出する領域抽出部142と、予め定められた条件(例えば、領域の分布条件)を前記第1領域及び前記第2領域の少なくとも一方が満たすか否かを判定し、前記第1領域及び前記第2領域のうち、前記予め定められた条件を満たす前記第1領域及び前記第2領域(最終マスク)を選択する判定部143と、判定部143が選択した前記第1領域及び前記第2領域の分布を記憶する記憶部145と、を備える。
この構成により、領域抽出部142は、撮像された画像から画像特徴量に基づいて第1領域を抽出し、前記画像に定められた位置から画像特徴量に基づいて第2領域を抽出する。また、判定部143は、予め定められた条件を満たす前記第1領域及び前記第2領域を選択する。これにより、領域抽出装置は、撮像された画像から主要被写体の領域を抽出することができる。
【0103】
また、領域抽出部142は、画角中心(例えば、画角中心310Y)又は前記画角中心の近傍(例えば、位置470a)における画像特徴量に基づいて、前記画角中心の近傍から前記第2領域を抽出する。
これにより、領域抽出装置は、画角中心又は前記画角中心の近傍に撮像された画像から、主要被写体の領域を抽出することができる。
【0104】
また、領域抽出部142は、検出された顔の位置(例えば、位置840)に基づいて、前記第2領域(例えば、第2領域830、第2領域880)を抽出する。
これにより、領域抽出装置は、検出された顔の位置に基づいて、撮像された画像から主要被写体の領域を抽出することができる。
【0105】
また、領域抽出装置140は、前記画像に定められた位置を指定するための操作入力を受け付ける操作部180を備え、領域抽出部142は、前記操作入力により指定された前記画像に定められた位置に基づいて、前記第2領域を抽出する。
これにより、領域抽出装置は、前記操作入力により指定された前記画像に定められた位置に撮像された画像から、主要被写体の領域を抽出することができる。
【0106】
また、判定部143は、前記第1領域及び前記第2領域に予め定められた分布条件(例えば、固まりの度合い)に基づいて、前記分布条件を満たす前記第1領域及び前記第2領域を選択する。
これにより、領域抽出装置は、撮像された画像から主要被写体の領域を、予め定められた分布条件に基づいて抽出することができる。
【0107】
また、領域抽出部142は、画像特徴量のヒストグラムに基づいて、前記第2領域を抽出する。
これにより、領域抽出装置は、撮像された画像から主要被写体の領域を、画像特徴量のヒストグラムに基づいて抽出することができる。
【0108】
また、撮像装置100は、前記第1領域及び前記第2領域に優先度を定める優先度設定部144を有する領域抽出装置140と、前記第1領域及び前記第2領域のうち、前記優先度設定部が定めた優先度が高い領域に合焦させるよう、焦点を調節するCPU190と、前記優先度が高い領域に合焦した状態の前記画像を撮像する撮像部110と、を備える。
この構成により、撮像装置は、優先度が高い領域に合焦させるよう焦点を調節する。これにより、撮像装置は、撮像された画像から抽出した主要被写体の領域に合焦した状態の画像を、撮像することができる。
【0109】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【0110】
例えば、領域抽出装置140は、記憶媒体200に記憶されていた画像に含まれる被写体像の領域の分布を表す情報、及びその領域の特徴量を表す情報を、記憶媒体200に記憶させてもよい。
【0111】
また、上記に説明した領域抽出装置、撮像装置を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、実行処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。
【0112】
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
【0113】
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
【符号の説明】
【0114】
100…撮像装置、110…撮像部、111…レンズ鏡筒、140…領域抽出装置、141…特徴量算出部、142…領域抽出部、143…判定部、144…優先度設定部、145…記憶部
【技術分野】
【0001】
本発明は、画像から領域を抽出する領域抽出装置、撮像装置、及び領域抽出プログラムに関する。
【背景技術】
【0002】
画像の特徴量のヒストグラムに基づいて、撮像された画像から領域を抽出し、抽出した領域を識別する画像処理装置が開示されている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平4−10079号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に開示された画像処理装置は、撮像された画像から人が注目する領域を抽出すること、すなわち、主要被写体の領域を抽出することができなかった。
【0005】
本発明は、前記の点に鑑みてなされたものであり、撮像された画像から主要被写体の領域を抽出することができる領域抽出装置、撮像装置、及び領域抽出プログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明は、上記の課題を解決するためになされたものであり、撮像された画像から画像特徴量に基づいて第1領域を抽出し、且つ、前記画像に定められた位置から画像特徴量に基づいて第2領域を抽出する領域抽出部と、予め定められた条件を前記第1領域及び前記第2領域の少なくとも一方が満たすか否かを判定し、前記第1領域及び前記第2領域のうち、前記予め定められた条件を満たす前記第1領域及び前記第2領域を選択する判定部と、 前記判定部が選択した前記第1領域及び前記第2領域の分布を記憶する記憶部と、を備えることを特徴とする領域抽出装置である。
【0007】
また、本発明は、前記第1領域及び前記第2領域に優先度を定める優先度設定部を有する領域抽出装置と、前記第1領域及び前記第2領域のうち、前記優先度設定部が定めた優先度が高い領域に合焦させるよう、焦点を調節する焦点調節部と、前記優先度が高い領域に合焦した状態の前記画像を撮像する撮像部と、を備えることを特徴とする撮像装置である。
【0008】
また、本発明は、コンピュータに、撮像された画像から画像特徴量に基づいて第1領域を抽出し、且つ、前記画像に定められた位置から画像特徴量に基づいて第2領域を抽出する手順と、予め定められた条件を前記第1領域及び前記第2領域の少なくとも一方が満たすか否かを判定し、前記第1領域及び前記第2領域のうち、前記予め定められた条件を満たす前記第1領域及び前記第2領域を選択する手順と、選択した前記第1領域及び前記第2領域の分布を記憶する手順と、を実行させるための領域抽出プログラムである。
【発明の効果】
【0009】
本発明によれば、領域抽出装置は、撮像された画像から主要被写体の領域を抽出することができる。
【図面の簡単な説明】
【0010】
【図1】本発明の一実施形態における、レンズ鏡筒111と、領域抽出装置140を備える撮像装置100と、記憶媒体200との構成を表すブロック図である。
【図2】本発明の一実施形態における、画像から領域を抽出する方法を説明するための図である。
【図3】本発明の一実施形態における、画角中心から領域を抽出する方法を説明するための図である。
【図4】本発明の一実施形態における、画角中心の近傍から領域を抽出する方法を説明するための図である。
【図5】本発明の一実施形態における、彩度S(C)のヒストグラムと、その部分拡大図である。
【図6】本発明の一実施形態における、画角中心の近傍の色相ヒストグラムの一例が表された図である。
【図7】本発明の一実施形態における、画角中心の近傍から抽出した領域の一例が表された図である。
【図8】本発明の一実施形態における、指定された位置から抽出した領域の一例が表された図である。
【図9】本発明の一実施形態における、指定された位置から抽出した領域に合焦させる場合の撮像装置100の操作例を表す図である。
【図10】本発明の一実施形態における、被写体を検出した位置に基づいて、抽出した領域の一例が表された図である。
【図11】本発明の一実施形態における、人及び動物が撮像された画像から領域を抽出する処理の手順を表すフローチャートである。
【図12】本発明の一実施形態における、領域に合焦させるまでの処理の手順を表すフローチャートである。
【発明を実施するための形態】
【0011】
本発明の一実施形態について図面を参照して詳細に説明する。図1には、レンズ鏡筒111と、領域抽出装置140を備える撮像装置100と、記憶媒体200との構成が、ブロック図により表されている。撮像装置100は、レンズ鏡筒111から入射される光学像を撮像し、得られた画像を静止画又は動画の画像として、記憶媒体200に記憶させる。
【0012】
まず、レンズ鏡筒111の構成を説明する。
レンズ鏡筒111は、焦点調整レンズ(以下、「AF(Auto Focus)レンズ」という)112と、レンズ駆動部116と、AFエンコーダ117と、鏡筒制御部118を備える。なお、レンズ鏡筒111は、撮像装置100に着脱可能に接続されてもよいし、撮像装置100と一体であってもよい。
【0013】
AFレンズ112は、レンズ駆動部116により駆動され、後述する撮像部110の撮像素子119の受光面(光電変換面)に、光学像を導く。
【0014】
AFエンコーダ117は、AFレンズ112の移動を検出し、AFレンズ112の移動量に応じた信号を、鏡筒制御部118に出力する。ここで、AFレンズ112の移動量に応じた信号とは、例えば、AFレンズ112の移動量に応じて位相が変化するサイン(sin)波信号であってもよい。
【0015】
鏡筒制御部118は、撮像装置100のCPU190から入力される駆動制御信号に応じて、レンズ駆動部116を制御する。ここで、駆動制御信号とは、AFレンズ112を光軸方向に駆動させる制御信号である。鏡筒制御部118は、駆動制御信号に応じて、例えば、レンズ駆動部116に出力するパルス電圧のステップ数を変更する。
【0016】
また、鏡筒制御部118は、AFレンズ112の移動量に応じた信号に基づいて、レンズ鏡筒111におけるAFレンズ112の位置(フォーカスポジション)を、CPU190に出力する。ここで、鏡筒制御部118は、例えば、AFレンズ112の移動量に応じた信号を、AFレンズ112の移動方向に応じて積算することで、レンズ鏡筒111におけるAFレンズ112の移動量(位置)を算出してもよい。
【0017】
レンズ駆動部116は、鏡筒制御部118の制御に応じてAFレンズ112を駆動し、AFレンズ112をレンズ鏡筒111内で光軸方向に移動させる。
【0018】
次に、撮像装置100の構成を説明する。
撮像装置100は、撮像部110と、領域抽出装置140と、表示部150と、バッファメモリ部130と、操作部180と、記憶部160と、CPU190と、通信部170とを備える。
【0019】
撮像部110は、撮像素子119と、A/D(Analog/Digital)変換部120とを備える。撮像部110は、設定された撮像条件(例えば絞り値、露出値等)に従って、CPU190により制御される。
【0020】
撮像素子119は、光電変換面を備え、レンズ鏡筒111(光学系)により光電変換面に結像された光学像を電気信号に変換して、A/D変換部120に出力する。撮像素子119は、例えば、CMOS(Complementary Metal Oxide Semiconductor)で構成されていてもよい。また、撮像素子119は、光電変換面の一部の領域について、光学像を電気信号に変換するようにしてもよい(画像切り出し)。
【0021】
また、撮像素子119は、操作部180を介してユーザからの撮影指示を受け付けた際に得られる画像を、A/D変換部120を介して記憶媒体200に記憶させる。一方、撮像素子119は、操作部180を介してユーザからの撮影指示を受け付けていない状態において、連続的に得られる画像をスルー画像として、バッファメモリ部130及び表示部150に、A/D変換部120を介して出力する。
【0022】
A/D変換部120は、撮像素子119によって変換された電気信号をデジタル化して、デジタル信号である画像をバッファメモリ部130に出力する。
【0023】
操作部180は、例えば、電源スイッチ、シャッタボタン、マルチセレクタ(十字キー)、又はその他の操作キーを備え、ユーザによって操作されることでユーザの操作入力を受け付け、受け付けた操作入力に応じた信号をCPU190に出力する。また、操作部180は、画像内の所定位置をユーザが指定するための操作入力を受け付け、受け付けた操作入力に応じた信号を領域抽出装置140に出力する。なお、操作部180は、領域抽出装置140に備えられていてもよい。
【0024】
領域抽出装置140は、記憶部160に記憶されている画像処理条件に基づいて、バッファメモリ部130に一時的に記憶されている画像を画像処理する。画像処理された画像は、通信部170を介して記憶媒体200に記憶される。また、領域抽出装置140は、画像の特徴量により定まる領域を、バッファメモリ部130に一時的に記憶されている画像から抽出する。また、領域抽出装置140は、抽出した領域を示す情報を記憶部160などに記憶させる。ここで、領域を示す情報とは、例えば、領域の分布を表す情報、及び領域の特徴量を表す情報などである。また、領域抽出装置140は、画像から抽出した領域に優先度を設定する。領域抽出装置140の詳細については、後述する。
【0025】
表示部150は、撮像部110によって得られた画像、及び操作画面等を表示する。表示部150は、例えば、液晶ディスプレイである。
【0026】
バッファメモリ部130は、撮像部110によって撮像された画像を、一時的に記憶する。
【0027】
記憶部160は、シーン判定の際にCPU190によって参照される判定条件と、シーン判定によって判断されたシーン毎に対応付けられた撮像条件と、領域を示す情報等とを記憶する。
【0028】
CPU190は、設定された撮像条件(例えば、絞り値、露出値)に従って、撮像部110を制御する。また、CPU190は、領域を示す情報を、領域抽出装置140から取得する。また、CPU190は、領域を示す情報に基づいてレンズ鏡筒111の鏡筒制御部118に駆動制御信号を出力することで、画像から抽出された領域のうち、領域抽出装置140が設定した優先度が高い領域に合焦させるよう焦点を調節する。
【0029】
また、CPU190は、領域を示す情報に基づいて、画像処理のプレ処理又はポスト処理として、焦点調整(AF)の設定、露出調整(AE)の設定、ホワイトバランス調整(AWB)の設定、被写体像(オブジェクト)の追尾の設定、夜景か否かの判定の設定、色補正処理の設定、被写体像の拡大表示の設定、パンニング表示の設定、ズーム倍率に連動した明るさの最適化の設定、などを制御する。
【0030】
また、CPU190は、領域を示す情報に基づいて、トーンカーブ(階調カーブ)の設定、静止画及び動画の同時撮影を実行するか否かの設定などを制御する。
【0031】
また、CPU190は、領域を示す情報に基づいて、プレ処理又はポスト処理として、連写するか否かの設定、及び、連写において、合焦させる被写体像の切り替えの設定、焦点距離の連続変更の設定、撮像装置100の発光部(不図示)が発光する閃光の発光量の変更の設定、露光量の変更の設定、又はシャッタスピードの変更を実行するか否かの設定などを制御する。
【0032】
また、CPU190は、操作部180から入力された「操作入力に応じた信号」に基づいて、静止画形式又は動画形式の画像を、領域抽出装置140に画像処理させる。
【0033】
通信部170は、カードメモリ等の取り外しが可能な記憶媒体200と接続され、この記憶媒体200への情報(画像データ、領域を示す情報など)の書込み、読み出し、あるいは消去を行う。
【0034】
記憶媒体200は、撮像装置100に対して着脱可能に接続される記憶部であって、情報(画像データ、領域を示す情報など)を記憶する。なお、記憶媒体200は、撮像装置100と一体であってもよい。
【0035】
次に、領域抽出装置140の詳細について説明する。
領域抽出装置140は、特徴量算出部141と、領域抽出部142と、判定部143と、優先度設定部144と、記憶部145とを備える。
【0036】
特徴量算出部141は、撮像部110が撮像した画像を、バッファメモリ部130から取得する。また、特徴量算出部141は、バッファメモリ部130から取得した画像における複数の特徴(例えば、色相、彩度、明度、テクスチャ、エッジ)毎に、その特徴量を算出し、算出した特徴量を領域抽出部142に出力する。
【0037】
領域抽出部142は、特徴量算出部141が算出した特徴量を取得する。また、領域抽出部142は、撮像部110が撮像した画像を、バッファメモリ部130から取得する。また、領域抽出部142は、取得した画像に含まれる領域であって特徴量毎に定まる領域を、画像から抽出する。ここで、領域抽出部142が抽出する領域は、例えば、撮像部110が撮像した画像に含まれる被写体像の領域である。
【0038】
領域抽出部142は、特徴量算出部141が算出した画像特徴量を取得する。また、領域抽出部142は、撮像部110が撮像した画像を、バッファメモリ部130から取得する。領域抽出部142は、撮像部110により撮像された画像から、画像特徴量(例えば、色情報(色相、色差)、彩度、輝度)に基づいて領域を抽出する。
【0039】
また、領域抽出部142は、画像特徴量に定められた一定範囲(区分)と、その範囲外とに2値化された画像(以下、「2値画像」という)から領域(以下、「第1領域」という)を抽出し、抽出した第1領域にラベルを割り当てる(ラベリング)。また、領域抽出部142は、抽出した第1領域の位置にAF評価領域を定める。ここで、AF評価領域とは、コントラスト・オートフォーカス(AF)により、コントラスト値が評価される領域である。
【0040】
領域抽出部142は、撮像された画像内の所定位置から領域(以下、「第2領域」という)を抽出する(特例的マスク)。例えば、領域抽出部142は、画角中心又は画角中心の近傍における画像特徴量に基づいて、画角中心又は画角中心の近傍から第2領域を抽出する。また、領域抽出部142は、固有種別の被写体が撮像された領域を検出する処理(例えば、顔検出処理)により検出された領域の位置に基づいて、第2領域を抽出し、抽出した第2領域にラベルを割り当てる(ラベリング)。また、領域抽出部142は、操作入力により操作部180を介して指定された画像内の位置から、第2領域を抽出する。領域抽出部142の動作の詳細ついては、後述する。
【0041】
判定部143は、各領域の分布に基づいて、複数の第1領域及び第2領域のうちから、優先度を設定する対象として、1つ以上の領域を選択する(最終マスク)。
【0042】
より具体的には、判定部143は、予め定められた条件(例えば、領域の分布条件)を、第1領域又は第2領域が満たすか否かを判定する。例えば、判定部143は、ノイズと推定される領域(例えば、所定閾値よりも面積が小さい領域)が画像にある場合、それらの領域を、画像から除去(足きり)する。また、例えば、判定部143は、背景と推定される領域(例えば、所定閾値よりも面積が大きい領域)が画像にある場合、その領域を画像から除去する。また、例えば、判定部143は、例えば、固まりの度合いが大きい領域、すなわち、重心からの慣性モーメントが小さい領域を選択し、他の領域(慣性モーメントが小さくない領域)を足きりする。判定部143は、除去されていない第1領域及び第2領域の分布を表す情報を、記憶部145、記憶部160及び記憶媒体200のうち少なくとも1つに記憶させる。
【0043】
優先度設定部144は、予め定められた条件を満たす第1領域及び第2領域に、画像における「領域の優先度」を定める。この「領域の優先度」とは、人がより注目しているであろう領域の優先度である。優先度設定部144は、設定した「領域の優先度」を、領域を示す情報として、記憶部145、記憶部160及び記憶媒体200に、領域毎に記憶させる。
【0044】
領域の優先度は、次のように定められてもよい。以下では、優先度を示す数字が小さいほど、領域の優先度が高いものとする。また、以下に示す優先度は、一例である。
【0045】
優先度1.
動いている領域(動いている領域が画像に複数ある場合、画角からはみ出していない領域、又は画角の中央に分布する領域)。また、パンニングしたことにより、動いている領域が画像に広く分布している場合は、動いていない領域。
これらの領域は、優先度「1」に設定される。
人は、動いている領域及びパンニングした際に変化量の少ない領域に注目するためである。
【0046】
優先度2.
画角(構図)、奥行(パースペクト)、被写体距離(デプス、深度)に関する領域。画角の中央付近に分布する領域。画像に奥行がある場合、至近側に分布する領域のうち、画角からはみ出していない領域であって、面積が所定の範囲内である(極端に大きくない)領域。
これらの領域は、優先度「2」に設定される。
主要な被写体像の領域が、至近から無限までの広い範囲に存在する可能性があるためである。
【0047】
優先度3.
人の顔検出、動物(ペット)の顔検出、顔が検出された領域における肌色検出、動物の毛並みのテクスチャ(模様)、又は植物のテクスチャに基づいて抽出された領域。
これらの領域は、優先度「3」に設定される。
人または動物が撮像されている場合、人は、その顔に注目するためである。
【0048】
優先度4.
特異である特徴量(例えば、色相環において不連続である色相)がある領域。背景の領域とそれ以外の領域とに分割された領域。彩度が高い領域。周囲と比較して明度が著しく異なる領域。周囲と比較して色相(色合い)が著しく異なる領域。テクスチャ(模様)が周囲と異なる領域。周囲と比較して空間周波数(画像周波数)が高い領域。ある特徴量において不連続な分布が一定量あり、その特徴量に基づいてラベリングされた結果、領域が形成された場合に、画像において違和感がある領域。
これらの領域は、優先度「4」に設定される。
【0049】
優先度5.
特定の色相又は彩度に基づいて抽出された領域。
これらの領域は、優先度「5」に設定される。
人は、赤色、黄色、肌色の領域に注目するためである。
【0050】
優先度6.
明度(明暗)に基づいて抽出された領域。
これらの領域は、優先度「6」に設定される。
【0051】
優先度7.
テクスチャ(模様)に基づいて抽出された領域。
これらの領域は、優先度「7」に設定される。
【0052】
優先度8.
空間周波数(画像周波数)に基づいて抽出された領域。
これらの領域は、優先度「8」に設定される。
【0053】
優先度9.
縦又は横に延びたエッジで囲まれた領域であって、一定以上の太さがある領域。
これらの領域は、優先度「9」に設定される。
【0054】
次に、領域抽出部142及び判定部143の動作の詳細を説明する。
領域抽出部142は、特徴量算出部141が算出した画像特徴量を取得する。また、領域抽出部142は、撮像部110が撮像した画像を、バッファメモリ部130から取得する。領域抽出部142は、撮像部110により撮像された画像から、画像特徴量(例えば、色情報(色相、色差)、彩度、輝度)に基づいて領域を抽出する。ここで、領域抽出部142が抽出する領域は、バッファメモリ部130から取得した画像に含まれる、被写体の領域である。
【0055】
また、領域抽出部142は、2値画像から第1領域を抽出し、抽出した第1領域にラベルを割り当てる(ラベリング)。ここで、2値画像は、画像特徴量が閾値(上限及び下限)により区分されることで生成された画像である。また、この閾値は、画像における画像特徴量のヒストグラムの平均値(Ave)及び標準偏差(σ)に基づいて、例えば、「平均値+係数×標準偏差」と定められてもよい。
【0056】
図2には、画像から領域を抽出する方法を説明するための図が表されている。領域抽出部142は、撮像部110が撮像した画像から、輝度に基づく画像(以下、「Y画像」という)300Yを抽出する。領域抽出部142は、撮像部110が撮像した画像の輝度(入力値)を補正(例えば、ガンマ補正)し、補正した輝度(出力値)を算出する。
【0057】
領域抽出部142は、補正した輝度(出力値)を、複数の範囲に区分する。図2では、一例として、補正した輝度は、区分1〜4に区分されたとする。領域抽出部142は、区分毎に2値画像を生成する。区分1の上限が「平均値+K1×標準偏差」であり、区分1の下限が「平均値+K2×標準偏差」である場合、区分1の2値画像には、高輝度領域が含まれる。
【0058】
領域抽出部142は、区分1の2値画像に含まれている高輝度領域の分布を探索することにより、この探索結果を表す領域画像に、高輝度領域を抽出する。同様に、領域抽出部142は、区分2の2値画像に含まれている中輝度領域を探索することにより、領域画像に中輝度領域を抽出する。また、領域抽出部142は、区分4の2値画像に含まれている低輝度領域を探索することにより、領域画像に低輝度領域を抽出する。
【0059】
同様に、領域抽出部142は、補正した色情報Crを、複数の範囲に区分する。図2では、一例として、補正した色情報Crは、区分5〜8に区分されたとする。領域抽出部142は、区分毎に2値画像を生成する。区分5の上限が「平均値+K3×標準偏差」であり、区分5の下限が「平均値+K4×標準偏差」である場合、区分5の2値画像には、赤色系領域が含まれる。
【0060】
領域抽出部142は、区分5の2値画像に含まれる赤色系領域の分布を探索することにより、この探索結果を表す領域画像に、赤色系領域(不図示)を抽出する。同様に、領域抽出部142は、区分6の2値画像に含まれる桃色系領域を探索することにより、この探索結果を表す領域画像に、桃色系領域(不図示)を抽出する。また、領域抽出部142は、区分8の2値画像に含まれる緑色系領域を探索することにより、領域画像に緑色系領域(不図示)を抽出する。
【0061】
同様に、領域抽出部142は、補正した色情報Cbを、複数の範囲に区分する。図2では、一例として、補正した色情報Cbは、区分9〜12に区分されたとする。領域抽出部142は、区分毎に2値画像を生成する。区分9の上限が「平均値+K5×標準偏差」であり、区分9の下限が「平均値+K6×標準偏差」である場合、区分9の2値画像には、青色系領域が含まれる。
【0062】
領域抽出部142は、区分9の2値画像に含まれる青色系領域の分布を探索することにより、この探索結果を表す領域画像に、青色系領域(不図示)を抽出する。同様に、領域抽出部142は、区分10の2値画像に含まれる水色系領域を探索することにより、この探索結果を表す領域画像に、水色系領域(不図示)抽出する。また、領域抽出部142は、区分12の2値画像に含まれる黄色系領域を探索することにより、この探索結果を表す領域画像に、黄色系領域(不図示)を抽出する。
【0063】
判定部143は、各領域の分布に基づいて、複数の第1領域及び第2領域のうちから、優先度を設定する対象として、1つ以上の領域を選択する。図2では、領域画像に抽出された複数の第1領域のうち、一例として、第1領域340Y及び第1領域350Yが、優先度を設定する対象として、判定部143により選択されたとする。領域抽出部142は、AF評価領域360を第1領域340Yの位置に定め、AF評価領域370を第1領域350Yの位置に定める。
【0064】
さらに、領域抽出部142及び判定部143は、以下に説明する1つ以上の場合の領域抽出処理を実行する。
<画像の画角中心から領域を抽出する場合>
図3には、画角中心から領域を抽出する方法を説明するための図が表されている。領域抽出部142は、Y(輝度)画像300Yの画角中心310Yから、輝度分布における一定範囲の輝度(Y±K・α)を有する画素により構成される第2領域320Yを抽出する。また、領域抽出部142は、Cr(色差)画像300Crの画角中心310Crから、色差分布における一定範囲の色差(Cr±K・β)を有する画素により構成される第2領域330Crを抽出する。また、領域抽出部142は、Cb(色差)画像300Cbの画角中心310Cbから、色差分布における一定範囲の色差(Cb±K・γ)を有する画素により構成される第2領域を抽出する。ここで、輝度(Y)又は色差(Cr,Cb)などの特徴量を有する画素が画像に無いなどの理由により、いずかの特徴量による第2領域が抽出されないことがあってもよい。
【0065】
なお、画像の特徴量は、Y・Cr・Cbに限る必要はなく、例えば、RGB、テクスチャ(模様)、又は画像における空間周波数など、領域を抽出することができる特徴量であればよい。
【0066】
判定部143は、複数の第2領域のうち、固まりの度合いが大きい第2領域、すなわち、重心からの慣性モーメントが小さい第2領域を選択する。ここで、図3では、判定部143は、画像300Yから抽出した第2領域320Yの固まりの度合いと、画像300Crから抽出した第2領域330Crの固まりの度合いとを比較し、固まりの度合いがより大きい第2領域320Yを選択したとする。
【0067】
また、領域抽出部142は、判定部143が選択した第2領域を抽出した際に用いた特徴量と同じ特徴量に基づいて、選択した第2領域の近傍から、更に精度良く第2領域を抽出してもよい。例えば、図3では、輝度に基づいて第2領域320Yが抽出されているので、領域抽出部142は、判定部143が選択した第2領域320Yの近傍から、強調された輝度に基づいて更に精度良く第2領域を抽出してもよい。
【0068】
また、判定部143は、第1領域及び第2領域のうち評価が高い領域(例えば、面積が大きい領域)を、画像特徴量の種別毎に選択する。
【0069】
<画像の画角中心の近傍から領域を抽出する場合>
領域抽出部142は、画角中心の近傍(例えば、画角中心から、予め定められた距離までの範囲)から第2領域を抽出する。図4には、画角中心の近傍から領域を抽出する方法を説明するための図が表されている。領域抽出部142は、画角中心の近傍に定められた領域410内に複数の位置を定める。図4では、一例として、5つの位置が予め定められている。
【0070】
領域抽出部142は、予め定められた各位置におけるY(輝度)に基づいて、各位置から領域をそれぞれ抽出する。また、領域抽出部142は、各位置におけるCr(色差)に基づいて、各位置から領域を抽出する。また、領域抽出部142は、各位置におけるCb(色差)に基づいて、各位置から領域を抽出する。ここで、輝度又は色差などの画像特徴量を有する画素が無いなどの理由により、いずかの画像特徴量による第2領域が抽出されないことがあってもよい。
【0071】
判定部143は、領域410内の位置470aにおける画像の各特徴量に基づいて抽出した各第2領域のうち、最も評価が高い(例えば、最も密度が高い)第2領域を選択する。位置470b〜位置470eについても同様である。図4では、輝度に基づいて抽出された第2領域420Y及び第2領域430Yが、領域抽出部142により選択されたとする。
【0072】
また、領域抽出部142は、判定部143が選択した第2領域の近傍から、その第2領域を抽出した際に用いた特徴量と同じ画像特徴量に基づいて、更に精度良く第2領域を抽出してもよい。例えば、図4では、輝度に基づいて第2領域420Yが抽出されているので、領域抽出部142は、選択した第2領域420Y及び第2領域430Yの近傍から、強調された輝度に基づいて更に精度良く第2領域を抽出してもよい。
【0073】
また、判定部143は、第1領域及び第2領域のうち評価が高い領域(例えば、至近側に分布する領域)を、画像特徴量の種別毎に選択する。
【0074】
<ヒストグラムに基づいて領域を抽出する場合>
領域抽出部142は、画角中心の近傍における画像の特徴量について、ヒストグラムを生成する。図5には、彩度S(C)のヒストグラムと、その部分拡大図とが表されている。横軸は彩度S(C)を表す。また、横軸は頻度を表す。また、領域抽出部142は、画像の特徴量のヒストグラムに基づいて、第2領域を抽出する。
【0075】
領域抽出部142は、彩度Sのヒストグラムを走査することにより、相対的に頻度が高い彩度ピークS1をヒストグラムから検出し、検出した彩度ピークS1を部分拡大する。領域抽出部142は、部分拡大した彩度ピークS1を更に走査することにより、彩度ピークS1の偏差σを算出する。また、領域抽出部142は、彩度ピークS1を中心とする3σ範囲に含まれる彩度を有する隣接画素からなる第2領域を、画像から抽出する。
【0076】
図6には、画角中心の近傍の色相ヒストグラムの一例が表されている。横軸は色相hを表す。また、横軸は頻度を表す。領域抽出部142は、色相ヒストグラムを走査することにより、相対的に頻度が高い(特異な色相と予測される)色相ピークh1を、ヒストグラムから検出する。また、領域抽出部142は、色相ピークh1の偏差σを算出し、色相ピークh1を中心とする3σ範囲に含まれる色相を有する隣接画素からなる第2領域を、画像から抽出する。
【0077】
また、領域抽出部142は、色相ヒストグラムを更に走査することにより、不連続となっているヒストグラム領域(不連続領域)に含まれる色相h2を検出する。また、領域抽出部142は、色相h2の偏差σを算出し、色相h2を中心とする「h2±Δ/2」範囲に含まれる色相を有する隣接画素からなる第2領域を、画像から抽出する。
【0078】
図7には、画角中心の近傍から抽出した領域の一例が表されている。第2領域520は、画像500の画角中心の近傍に定められた領域510における画像の特徴量のヒストグラムに基づいて、領域抽出部142により抽出される。
【0079】
<指定された位置から領域を抽出する場合>
領域抽出部142は、操作入力により指定された画像内の所定位置に在る領域から、第2領域を抽出する。領域抽出部142には、操作入力に応じた操作入力信号が、例えば、操作部180から入力される。ここで、所定位置とは、例えば、ユーザが表示部150を押下した画面内の位置、又は、ユーザの視線入力により指定された画面内の位置である。
【0080】
図8には、指定された位置から抽出した領域の一例が表されている。図8では、操作入力により指定された画像600内の位置に、領域610が定められている。領域抽出部142は、階調が細分化された画像特徴量、例えば、階調が細分化された輝度(Y)及び色差(Cr、Cb)に基づいて、領域610の近傍から第2領域620を抽出する。また、領域抽出部142は、領域610を含むAF評価領域630を画像に定める。
【0081】
また、領域抽出部142は、第2領域620の輪郭線を全て含むように、AF評価領域630を拡大する。これにより、領域抽出部142は、コントラスト・オートフォーカスに用いられるコントラスト値(信号対雑音比)を高くすることができる。
【0082】
図9には、指定された位置から抽出した領域に合焦させる場合の撮像装置100の操作例が表されている。図9(A)に示す一例では、ユーザが、カメラアングルを変更し、撮りたい被写体を画角中心に合わせたとする。領域抽出部142は、その被写体にAF評価領域640を定める。そして、ユーザが操作部180を押下操作した場合、領域抽出部142は、合焦させる対象の領域を定める。例えば、領域抽出部142は、合焦させる対象の領域として、AF評価領域640内の被写体の領域を定めたとする。以降、領域抽出部142は、ユーザがカメラアングルを変更した場合でも、AF評価領域640内の被写体の領域に合焦させる。
【0083】
また、図9(B)に示す一例では、画像内に複数の被写体が撮像されていることにより、AF評価領域650〜AF評価領域670が、各被写体の領域に定められているとする。ユーザが操作部180をダイヤル操作した場合、領域抽出部142は、合焦させる対象の領域を定める。例えば、領域抽出部142は、合焦させる対象の領域として、AF評価領域660内の被写体の領域を定めたとする。以降、領域抽出部142は、ユーザがカメラアングルを変更した場合でも、AF評価領域660内の被写体の領域に合焦させる。
【0084】
<被写体を検出した位置に基づいて、領域を抽出する場合>
領域抽出部142は、顔検出処理の結果が示す画像内の位置に基づいて、第2領域を抽出する。ここで、顔検出処理には、人の顔の位置及び向き等を検出するための処理のほか、動物の顔の位置及び向き等を検出するための処理が含まれている。
【0085】
図10には、被写体を検出した位置に基づいて、抽出した領域の一例が表されている。撮像された画面800に対する顔検出処理により、被写体の顔の位置840及び向きが検出されたとする。領域抽出部142は、位置840から第2領域830を抽出し、抽出した第2領域830にラベルを割り当てる(ラベリング)。
【0086】
また、領域抽出部142は、被写体の顔の向きと、被写体の顔の位置840とに基づいて、被写体の胴体が撮像されていると推測される位置850〜位置870を定める。ここで、被写体の顔の位置と、被写体の顔の向きと、被写体の胴体が撮像されていると推測される位置との対応関係を表す情報は、記憶部145に予め記憶されているとする。また、領域抽出部142は、位置850〜位置870から、被写体の胴体が撮像されていると推測される第2領域880を抽出し、抽出した第2領域880にラベルを割り当てる。
【0087】
<人及び動物が撮像された画像から領域を抽出する場合>
図11は、人及び動物が撮像された画像から領域を抽出する処理の手順を表すフローチャートである。領域抽出部142は、領域を抽出する処理に用いる変数などを初期化する(ステップS1)。特徴量算出部141は、撮像された画像がリサイズされたクロップ画像(64×40画素)を、バッファメモリ部130を介して画像特徴量毎に読み込む(ステップS2)。
【0088】
特徴量算出部141は、クロップ画像に対して顔検出処理を実行し、処理結果を領域抽出部142に出力する。領域抽出部142は、クロップ画像に人の顔が検出されたか否かを、処理結果に基づいて判定する(ステップS3)。
【0089】
クロップ画像に人の顔が検出された場合(ステップS3−Yes)、領域抽出部142は、人の顔を含む枠画像を表示し、表示した枠の内側の面積が一定値(例えば、クロップ画像の面積に対して、16分の1の面積)以上あるか否かを判定する(ステップS4)。
【0090】
表示した枠の内側の面積が一定値未満である場合(ステップS4−No)、領域抽出部142は、人の顔が撮像されている領域と、胴体が撮像されていると推測される領域とを、人の顔が検出された位置に基づいて抽出する(ステップS5)。また、領域抽出部142は、輝度及び色差(YUV,YCrCb)等に基づいて、クロップ画像の例えば画角中心の近傍から、第2領域を抽出する(ステップS6)。
【0091】
判定部143は、予め定められた条件に基づいて、領域抽出部142が抽出した第1領域及び第2領域に対して、足きり及び統合を実行する。例えば、判定部143は、所定閾値よりも面積が小さい複数の領域が画像内で近接している場合、それらの領域を統合する(ステップS7)。また、判定部143は、第1領域及び第2領域のうち評価が高い順に領域(例えば、1位〜4位の領域)を、画像特徴量の種別毎に選択する(ステップS8)。
【0092】
また、優先度設定部144は、判定部143が選択した第1領域及び第2領域に、優先度を設定する。また、領域抽出部142は、優先度設定部144が設定した優先度が最も高い領域に、AF評価領域を設定する(ステップS9)。CPU190は、AF評価領域のコントラスト値に基づいて、焦点調整(AF)処理を実行する。
【0093】
なお、CPU190は、領域抽出部142が選択した領域の画像特徴量に基づいて、領域を画像から切り出す処理、被写体を分類する処理、ダイナミックレンジを調整する処理、画像を強調する処理、露出調整(AE)、ホワイトバランス調整(AWB)、被写体像(オブジェクト)の追尾、夜景か否かの判定、色補正処理、被写体像の拡大表示、パンニング表示、ズーム倍率に連動した明るさの最適化などを制御する。
【0094】
一方、ステップS3において、クロップ画像に人の顔が検出されていない場合(ステップS3−No)、領域抽出部142は、クロップ画像に動物(ペット)の顔が検出されているか否かを判定する(ステップS10)。クロップ画像に動物の顔が検出されている場合(ステップS10−Yes)、領域抽出部142は、胴体が撮像されていると推測される第2領域を、動物の顔の周辺から抽出する(ステップS11)。
【0095】
また、領域抽出部142は、動物の顔を含む枠画像を表示し、表示した枠の内側の面積が一定値(例えば、クロップ画像の面積に対して、16分の1の面積)以上あるか否かを判定する(ステップS12)。表示した枠の内側の面積が一定値以上ある場合(ステップS12−Yes)、領域抽出部142は、処理をステップS9に進める。
【0096】
一方、ステップS4において、表示した枠の内側の面積が一定値以上ある場合(ステップS4−Yes)、領域抽出部142は、上半身が撮像されていると推測される領域を、人の顔の周辺から抽出する(ステップS13)。領域抽出部142は、処理をステップS9に進める。
【0097】
また、ステップS10において、クロップ画像に動物の顔が検出されていない場合(ステップS10−No)、領域抽出部142は、処理をステップS6に進める。また、ステップS12において、表示した枠の内側の面積が一定値未満である場合(ステップS12−No)、領域抽出部142は、処理をステップS6に進める。
【0098】
次に、領域抽出装置の処理の手順を説明する。
図12は、領域に合焦させるまでの処理の手順を表すフローチャートである。特徴量算出部141は、撮像された画像(スルー画像、又はスルー画像列)を、バッファメモリ部130から取り込み(ステップSa1)、取り込んだ画像に対して、基本的な画像処理を実行する(ステップSa2)。
【0099】
領域抽出部142は、撮像された画像がリサイズされたクロップ画像(64×40画素)を、バッファメモリ部130を介して画像特徴量毎に読み込む(ステップSa3)。領域抽出部142は、クロップ画像における複数の画像特徴量に基づいて、2値化画像を作成する(ステップSa4)。また、領域抽出部142は、2値化画像から第1領域及び第2領域を抽出し、抽出した領域にラベルを割り当てる(ステップSa5)。
【0100】
判定部143は、ノイズと推定される領域が画像にある場合、それらの領域を画像から除去(足きり)する(ステップSa6)。また、判定部143は、背景と推定される領域が画像にある場合、その領域を画像から除去する(ステップSa7)。
【0101】
優先度設定部144は、予め定められた条件を満たす第1領域及び第2領域に、画像における「領域の優先度」を定める(ステップSa8)。また、領域抽出部142は、優先度設定部144が優先度を定めた領域を、AF評価領域に合うよう矩形に整形する(ステップSa9)。CPU190は、AF評価領域のコントラスト値に基づいて、コントラスト・スキャン(焦点調整処理)を実行する(ステップSa10)。また、CPU190は、コントラスト・スキャンの結果に基づいて、至近に在る被写体が撮像されている領域を優先し、その領域に合焦させる(ステップSa11)。
【0102】
以上のように、領域抽出装置140は、撮像された画像から画像特徴量(例えば、色情報(色相、色差)、彩度、輝度)に基づいて第1領域(例えば、第1領域340Y、第1領域350Y)を抽出し、且つ、前記画像に定められた位置から画像特徴量に基づいて第2領域(例えば、第2領域320Y、第2領域420Y、第2領域430Y)(特例的マスク)を抽出する領域抽出部142と、予め定められた条件(例えば、領域の分布条件)を前記第1領域及び前記第2領域の少なくとも一方が満たすか否かを判定し、前記第1領域及び前記第2領域のうち、前記予め定められた条件を満たす前記第1領域及び前記第2領域(最終マスク)を選択する判定部143と、判定部143が選択した前記第1領域及び前記第2領域の分布を記憶する記憶部145と、を備える。
この構成により、領域抽出部142は、撮像された画像から画像特徴量に基づいて第1領域を抽出し、前記画像に定められた位置から画像特徴量に基づいて第2領域を抽出する。また、判定部143は、予め定められた条件を満たす前記第1領域及び前記第2領域を選択する。これにより、領域抽出装置は、撮像された画像から主要被写体の領域を抽出することができる。
【0103】
また、領域抽出部142は、画角中心(例えば、画角中心310Y)又は前記画角中心の近傍(例えば、位置470a)における画像特徴量に基づいて、前記画角中心の近傍から前記第2領域を抽出する。
これにより、領域抽出装置は、画角中心又は前記画角中心の近傍に撮像された画像から、主要被写体の領域を抽出することができる。
【0104】
また、領域抽出部142は、検出された顔の位置(例えば、位置840)に基づいて、前記第2領域(例えば、第2領域830、第2領域880)を抽出する。
これにより、領域抽出装置は、検出された顔の位置に基づいて、撮像された画像から主要被写体の領域を抽出することができる。
【0105】
また、領域抽出装置140は、前記画像に定められた位置を指定するための操作入力を受け付ける操作部180を備え、領域抽出部142は、前記操作入力により指定された前記画像に定められた位置に基づいて、前記第2領域を抽出する。
これにより、領域抽出装置は、前記操作入力により指定された前記画像に定められた位置に撮像された画像から、主要被写体の領域を抽出することができる。
【0106】
また、判定部143は、前記第1領域及び前記第2領域に予め定められた分布条件(例えば、固まりの度合い)に基づいて、前記分布条件を満たす前記第1領域及び前記第2領域を選択する。
これにより、領域抽出装置は、撮像された画像から主要被写体の領域を、予め定められた分布条件に基づいて抽出することができる。
【0107】
また、領域抽出部142は、画像特徴量のヒストグラムに基づいて、前記第2領域を抽出する。
これにより、領域抽出装置は、撮像された画像から主要被写体の領域を、画像特徴量のヒストグラムに基づいて抽出することができる。
【0108】
また、撮像装置100は、前記第1領域及び前記第2領域に優先度を定める優先度設定部144を有する領域抽出装置140と、前記第1領域及び前記第2領域のうち、前記優先度設定部が定めた優先度が高い領域に合焦させるよう、焦点を調節するCPU190と、前記優先度が高い領域に合焦した状態の前記画像を撮像する撮像部110と、を備える。
この構成により、撮像装置は、優先度が高い領域に合焦させるよう焦点を調節する。これにより、撮像装置は、撮像された画像から抽出した主要被写体の領域に合焦した状態の画像を、撮像することができる。
【0109】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【0110】
例えば、領域抽出装置140は、記憶媒体200に記憶されていた画像に含まれる被写体像の領域の分布を表す情報、及びその領域の特徴量を表す情報を、記憶媒体200に記憶させてもよい。
【0111】
また、上記に説明した領域抽出装置、撮像装置を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、実行処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。
【0112】
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
【0113】
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
【符号の説明】
【0114】
100…撮像装置、110…撮像部、111…レンズ鏡筒、140…領域抽出装置、141…特徴量算出部、142…領域抽出部、143…判定部、144…優先度設定部、145…記憶部
【特許請求の範囲】
【請求項1】
撮像された画像から画像特徴量に基づいて第1領域を抽出し、且つ、前記画像に定められた位置から画像特徴量に基づいて第2領域を抽出する領域抽出部と、
予め定められた条件を前記第1領域及び前記第2領域の少なくとも一方が満たすか否かを判定し、前記第1領域及び前記第2領域のうち、前記予め定められた条件を満たす前記第1領域及び前記第2領域を選択する判定部と、
前記判定部が選択した前記第1領域及び前記第2領域の分布を記憶する記憶部と、
を備えることを特徴とする領域抽出装置。
【請求項2】
前記領域抽出部は、画角中心又は前記画角中心の近傍における画像特徴量に基づいて、前記画角中心の近傍から前記第2領域を抽出することを特徴とする請求項1に記載の領域抽出装置。
【請求項3】
前記領域抽出部は、検出された顔の位置に基づいて、前記第2領域を抽出することを特徴とする請求項1又は請求項2に記載の領域抽出装置。
【請求項4】
前記画像に定められた位置を指定するための操作入力を受け付ける操作部
を備え、
前記領域抽出部は、前記操作入力により指定された前記画像に定められた位置に基づいて、前記第2領域を抽出することを特徴とする請求項1から請求項3のいずれか一項に記載の領域抽出装置。
【請求項5】
前記判定部は、前記第1領域及び前記第2領域に予め定められた分布条件に基づいて、前記分布条件を満たす前記第1領域及び前記第2領域を選択することを特徴とする請求項1から請求項4のいずれか一項に記載の領域抽出装置。
【請求項6】
前記領域抽出部は、画像特徴量のヒストグラムに基づいて、前記第2領域を抽出することを特徴とする請求項1から請求項5のいずれか1項に記載の領域抽出装置。
【請求項7】
前記第1領域及び前記第2領域に優先度を定める優先度設定部を有する、請求項1から請求項6のいずれか一項に記載の領域抽出装置と、
前記第1領域及び前記第2領域のうち、前記優先度設定部が定めた優先度が高い領域に合焦させるよう、焦点を調節する焦点調節部と、
前記優先度が高い領域に合焦した状態の前記画像を撮像する撮像部と、
を備えることを特徴とする撮像装置。
【請求項8】
コンピュータに、
撮像された画像から画像特徴量に基づいて第1領域を抽出し、且つ、前記画像に定められた位置から画像特徴量に基づいて第2領域を抽出する手順と、
予め定められた条件を前記第1領域及び前記第2領域の少なくとも一方が満たすか否かを判定し、前記第1領域及び前記第2領域のうち、前記予め定められた条件を満たす前記第1領域及び前記第2領域を選択する手順と、
選択した前記第1領域及び前記第2領域の分布を記憶する手順と、
を実行させるための領域抽出プログラム。
【請求項1】
撮像された画像から画像特徴量に基づいて第1領域を抽出し、且つ、前記画像に定められた位置から画像特徴量に基づいて第2領域を抽出する領域抽出部と、
予め定められた条件を前記第1領域及び前記第2領域の少なくとも一方が満たすか否かを判定し、前記第1領域及び前記第2領域のうち、前記予め定められた条件を満たす前記第1領域及び前記第2領域を選択する判定部と、
前記判定部が選択した前記第1領域及び前記第2領域の分布を記憶する記憶部と、
を備えることを特徴とする領域抽出装置。
【請求項2】
前記領域抽出部は、画角中心又は前記画角中心の近傍における画像特徴量に基づいて、前記画角中心の近傍から前記第2領域を抽出することを特徴とする請求項1に記載の領域抽出装置。
【請求項3】
前記領域抽出部は、検出された顔の位置に基づいて、前記第2領域を抽出することを特徴とする請求項1又は請求項2に記載の領域抽出装置。
【請求項4】
前記画像に定められた位置を指定するための操作入力を受け付ける操作部
を備え、
前記領域抽出部は、前記操作入力により指定された前記画像に定められた位置に基づいて、前記第2領域を抽出することを特徴とする請求項1から請求項3のいずれか一項に記載の領域抽出装置。
【請求項5】
前記判定部は、前記第1領域及び前記第2領域に予め定められた分布条件に基づいて、前記分布条件を満たす前記第1領域及び前記第2領域を選択することを特徴とする請求項1から請求項4のいずれか一項に記載の領域抽出装置。
【請求項6】
前記領域抽出部は、画像特徴量のヒストグラムに基づいて、前記第2領域を抽出することを特徴とする請求項1から請求項5のいずれか1項に記載の領域抽出装置。
【請求項7】
前記第1領域及び前記第2領域に優先度を定める優先度設定部を有する、請求項1から請求項6のいずれか一項に記載の領域抽出装置と、
前記第1領域及び前記第2領域のうち、前記優先度設定部が定めた優先度が高い領域に合焦させるよう、焦点を調節する焦点調節部と、
前記優先度が高い領域に合焦した状態の前記画像を撮像する撮像部と、
を備えることを特徴とする撮像装置。
【請求項8】
コンピュータに、
撮像された画像から画像特徴量に基づいて第1領域を抽出し、且つ、前記画像に定められた位置から画像特徴量に基づいて第2領域を抽出する手順と、
予め定められた条件を前記第1領域及び前記第2領域の少なくとも一方が満たすか否かを判定し、前記第1領域及び前記第2領域のうち、前記予め定められた条件を満たす前記第1領域及び前記第2領域を選択する手順と、
選択した前記第1領域及び前記第2領域の分布を記憶する手順と、
を実行させるための領域抽出プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2013−25614(P2013−25614A)
【公開日】平成25年2月4日(2013.2.4)
【国際特許分類】
【出願番号】特願2011−160754(P2011−160754)
【出願日】平成23年7月22日(2011.7.22)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
【公開日】平成25年2月4日(2013.2.4)
【国際特許分類】
【出願日】平成23年7月22日(2011.7.22)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】
[ Back to top ]