画像処理装置及び画像処理装置の制御方法
【課題】 シーン検出による演算負荷を軽減しつつ効果的にシーンの検出を行うことを可能にした画像処理装置を提供すること。
【解決手段】 動画撮影中に複数シーンの中から2つ以上のシーンを自動で検出する手段と検出したシーンに応じて少なくとも色、ホワイトバランス、明るさのいずれかを含む1つ以上の画像処理機能をシーンに応じて適応的に制御するモードと固定するモードを選択する手段(115)と、検出シーンは少なくとも色とホワイトバランス、又は色と明るさを適応的に制御する第1のシーンと少なくとも色を適応的に制御するのに使用する第2のシーンを含み、
色を固定にするモードが選択されている場合は、第1のシーンの検出処理を所定のサイクルで実行し、
色を適応的に制御するモードが選択されている場合は、第1と第2のシーンの検出処理を色を固定するモードが選択されている場合よりも長いサイクルで実行することを特徴とする構成とした。
【解決手段】 動画撮影中に複数シーンの中から2つ以上のシーンを自動で検出する手段と検出したシーンに応じて少なくとも色、ホワイトバランス、明るさのいずれかを含む1つ以上の画像処理機能をシーンに応じて適応的に制御するモードと固定するモードを選択する手段(115)と、検出シーンは少なくとも色とホワイトバランス、又は色と明るさを適応的に制御する第1のシーンと少なくとも色を適応的に制御するのに使用する第2のシーンを含み、
色を固定にするモードが選択されている場合は、第1のシーンの検出処理を所定のサイクルで実行し、
色を適応的に制御するモードが選択されている場合は、第1と第2のシーンの検出処理を色を固定するモードが選択されている場合よりも長いサイクルで実行することを特徴とする構成とした。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮影シーンを判定する画像処理装置及び画像処理装置の制御方法に関するものである。
【背景技術】
【0002】
例えばビデオカメラのような撮像装置において撮影されるシーンには、ポートレート、風景、夜景など様々なシーンがある。従来、これらの撮影シーンで最適な映像を得る為に、撮影時の被写体情報をカメラが解析することで、どのようなシーンで撮影されたかを自動的に判別し、その判別したシーンに応じて最適な画像処理を施すものがある。
このようなシステムでは、例えば撮影時の情報から「青空シーン」、「自然の緑が多いシーン」、「夕景シーン」等を判定し、判定結果に応じて青空の青、自然の緑、夕景のオレンジの彩度を強調するといった処理が行われる。
【0003】
しかしながらこれらのシーン判定処理を精度良く行うためには高度な演算処理が必要となり、複数のシーン判定処理を同時に行うと演算負荷が非常に重くなってしまう。
【0004】
例えば、特許文献1では、夕焼け判定、色被り判定、コントラスト判定等の補正の要否判定を行い、補正が必要と判定されたときにのみ対応する項目の補正を行うという技術が開示されている。この技術によれば、所定の補正の要否判定を行い必要なときのみ補正を行うため、補正処理の負荷が削減される。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平11−298736号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上述の特許文献1では、補正の要否判定(即ちシーン検出処理)を行い必要な補正のみを行うようにしても、複数のシーン検出処理は同時に毎回行う必要があり、前述したような動画撮影中の演算負荷がかかるという問題は残ってしまう。
そこで、本発明の目的は、シーン検出による演算負荷を軽減しつつ効果的にシーンの検出を行うことを可能にした画像処理装置を提供することである。
【課題を解決するための手段】
【0007】
上記課題に鑑み、本発明の画像処理装置は、請求項1に記載のとおり、複数フレームの画像データを取得する画像取得手段と、予め設定された複数のシーンの中から、前記画像データに該当するシーンを検出するシーン検出手段と、前記シーン検出手段による検出結果に応じて複数の画像取得条件または複数の画像処理条件の設定を自動で行う条件設定手段と、前記条件設定手段によって設定を自動で行う画像取得条件または画像処理条件を指定する指定手段と、を有し、前記条件設定手段によって設定される条件は、前記予め設定された複数のシーンの中の第1のシーン、第2のシーン、第3のシーンそれぞれで固有の設定がなされる第1の条件と、前記第1のシーンでは他のシーンとは異なる固有の設定がなされ、前記第2のシーン及び第3のシーンでは同じ設定がなされる第2の条件と、を含み、前記シーン検出手段は、前記指定手段によって前記第1の条件が指定される場合、前記第1のシーンを所定の周期で検出し、前記指定手段によって前記第1の条件が指定されず、かつ前記第2の条件が指定される場合、前記第1のシーンを検出する周期を前記所定の周期よりも短くすることを特徴とする。
【0008】
また、本発明の画像処理装置の制御方法は、請求項11に記載のとおり、複数フレームの画像データを取得する画像取得ステップと、予め設定された複数のシーンの中から、前記画像データに該当するシーンを検出するシーン検出ステップと、前記シーン検出ステップによる検出結果に応じて複数の画像取得条件または複数の画像処理条件の設定を自動で行う条件設定ステップと、前記条件設定ステップにて設定が自動で行われる画像取得条件または画像処理条件を指定する指定ステップと、を有し、前記条件設定ステップにて設定される条件は、前記予め設定された複数のシーンの中の第1のシーン、第2のシーン、第3のシーンそれぞれで固有の設定がなされる第1の条件と、前記第1のシーンでは他のシーンとは異なる固有の設定がなされ、前記第2のシーン及び第3のシーンでは同じ設定がなされる第2の条件と、を含み、前記シーン検出ステップでは、前記指定ステップにて前記第1の条件が指定される場合、前記第1のシーンを所定の周期で検出し、前記指定ステップによって前記第1の条件が指定されず、かつ前記第2の条件が指定される場合、前記第1のシーンを検出する周期を前記所定の周期よりも短くすることを特徴とする。
【発明の効果】
【0009】
本発明によれば、撮影条件に応じてシーン検出の検出速度を優先した処理と検出シーン数を優先した処理を行うことで、シーン検出による演算負荷を軽減しつつ、シーン検出に対応した効果的な補正処理及び撮影制御を可能にする。
【図面の簡単な説明】
【0010】
【図1】第1の実施形態におけるデジタルカメラ114の全体構成を示したブロック図である。第1の実施形態における検出シーンサイクルを示した図である。
【図2】背景技術による各シーンの検出サイクルの概念図を示した図である。
【図3】第1の実施形態における各シーンの検出サイクルの表を示した図である。
【図4】第1の実施形態における各機能における自動/固定のモードの選択肢をまとめた表を示した図である。
【図5】第1の実施形態における各検出シーンと各シーンに対応した処理が行われる機能の対応関係を示した図である。
【図6】第1の実施形態における明るさ補正処理に用いるヒストグラムの例を示した図である。
【図7】第1の実施形態における明るさ補正処理に用いるコントラスト補正カーブを示した図である。
【図8】第1の実施形態における青空シーン検出処理のフローを示した図である。
【図9】第1の実施形態における自然の緑シーン検出処理のフローを示した図である。
【図10】第1の実施形態における夕景シーン検出処理のフローを示した図である。
【図11】第1の実施形態における人物シーン検出処理のフローを示した図である。
【図12】第1の実施形態におけるシーン検出処理全体の動作フローを示した図である。
【図13】第1の実施形態におけるUV色空間上の青空判定領域を示した図である。
【図14】第1の実施形態におけるUV色空間上の自然の緑判定領域を示した図である。
【図15】第1の実施形態におけるUV色空間上の夕景判定領域を示した図である。
【図16】他の実施形態における人物シーンの検出を行わないときの、検出シーンサイクルを示した図である。
【発明を実施するための形態】
【0011】
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。
【0012】
図1は、本発明の実施形態にかかわる画像処理装置の1例としてのデジタルカメラ114の全体構成を示すブロック図である。
図1において、100は撮影レンズ、101は絞り、102はシャッター、103は光学像を電気信号に変換する撮像素子、104は撮像素子103のアナログ信号出力をデジタル信号に変換するアナログ/デジタル(以下A/D)変換器である。100〜104をもって画像取得手段とする。タイミング発生部105は、撮像素子103、A/D変換器104にクロック信号や制御信号を供給して、それらの動作を制御している。このタイミング発生部105はメモリ制御部106及びシステム制御部113により制御されている。
【0013】
画像処理部108ではA/D変換器104或いはメモリ制御部106からの12ビットRGBベイヤー配列画像データ(一般的に知られているRAWデータ)に対して、現像処理を施す。この現像処理はホワイトバランス(以下WB)補正処理、RGBベイヤー配列の信号をRGB3プレーン信号に変換するための色補間処理、ガンマ補正処理、色変換マトリックス処理、明るさ補正処理、色補正処理などで構成されている。この現像処理の詳細については後に詳述する。
【0014】
尚、この画像処理部108(シーン検出手段)では、画像データを解析することで、青空シーン、自然の緑シーン、夕景シーン、人物シーン等のシーンの検出も行っている。そしてこのシーン検出結果は、システム制御部113(条件設定手段)によりWB補正、明るさ補正、色補正のそれぞれの処理に用いられる補正値に反映され、画像処理部108での上記補正処理に用いられる。このシーン検出処理の詳細については後に詳述する。
また、WB補正、色補正、明るさ補正処理機能はそれぞれ、検出された撮影シーンに最適な補正を行う自動制御のモードと、撮影シーンによらず固定の補正を行うモードの2種類のモードが設けられている。この自動と固定の2つのモードは操作部115(指定手段)をユーザが操作することでそれぞれの補正機能毎に切り替えることが出来る。この自動/固定モードの詳細については後に詳述する。
【0015】
メモリ制御部106は、A/D変換器104、タイミング発生部105、画像処理部108、メモリ107を制御する。これにより、A/D変換器104でA/D変換されたデジタルデータは画像処理部108、メモリ制御部106を介して、或いは直接メモリ制御部106を介して、メモリ107に書き込まれる。
メモリ107は撮影した動画を格納する為のメモリである。また、このメモリ107はシステム制御部113や画像処理部108の作業領域としても使用される。
外部記憶装置109はCFカードやSDカードといった着脱可能な外付けの記録媒体である。メモリ107に一時的に記録された動画データは最終的にこの外部記憶装置109に記録される。
【0016】
露光制御部110は絞り101やシャッター102を制御する。露光制御部110の露光制御は、デジタルカメラ114が自動的に最適な補正を行う自動制御のモードとユーザが任意に露出を決定する固定モードの2種類のモードが設けられている。この自動と固定の2つのモードは操作部115をユーザが操作することで切り替えることが出来る。この自動/固定モードの詳細については後に詳述する。
測距制御部111はレンズ100のフォーカシングを制御する。
測距制御部111のフォーカス制御は、フォーカシングをデジタルカメラ114が自動制御するモードと、ユーザが任意のフォーカス位置を設定する固定モードの2種類のモードが設けられている。この自動と固定の2つのモードは操作部115をユーザが操作することで切り替えることが出来る。この自動/固定モードの詳細については後に詳述する。
【0017】
また、システム制御部113はこのデジタルカメラ114全体の動作の制御している。
撮影開始/終了釦112は撮影動作を開始/終了するスイッチとなる。
以上が本発明の実施形態にかかわるデジタルカメラ114の全体構成の概要である。
【0018】
以下、本実施形態におけるデジタルカメラ114の動作について説明する。
まず前述した、現像処理、シーン検出処理、各機能の自動/固定モード、のそれぞれの詳細について順に説明する。
【0019】
(現像処理の詳細説明)
最初に画像処理部108で行われる現像処理の詳細について説明する。
現像処理ではWB補正処理、RGBベイヤー配列の信号をRGB3プレーン信号に変換するための色補間処理、ガンマ補正処理、色変換マトリックス処理、明るさ補正処理、色補正処理が順に行われる。
まず、WB処理では12ビットRGBベイヤー配列画像のR,G,Bの画素毎に下記式1に従って補正が行われる。
【0020】
【数1】
ここでWBgainR, WBgainG, WbgainBはWB補正値である。このWB補正値の算出方法については別途後述する。
【0021】
次に既知の手法による色補間処理により、WB補正後のRGBベイヤー配列信号がRGB3プレーン信号に変換される。
そして色補間後の信号に対してガンマ補正処理が行われる。ここで使用されるガンマ補正カーブは事前に求めておき、メモリ107に格納されている。
【0022】
次にガンマ補正処理後のRGB信号は下記式2の色変換マトリックス処理により8ビットY(輝度)、U、V(色差)信号に変換される。
【0023】
【数2】
ここで、γR, γG, γBはそれぞれガンマ補正後のR,G,B、 a〜iは任意の浮動小数点。
【0024】
次にこのYUV信号のY値に対して明るさ補正処理が施される。この明るさ補正処理の詳細については別途後述する。
最後に色補正処理により色補正が行われ全ての現像処理が完了する。尚この色補正処理は一般的に知られている3次元ルックアップテーブル(3DLUT)処理により行われる。この色補正処理の詳細については別途後述する。
【0025】
(シーン検出処理の詳細説明)
次に画像処理部108で行われるシーン検出処理の詳細について説明する。本実施形態では、青空シーン、自然の緑シーン、夕景シーン、人物シーンの検出が行われる。
尚以下に説明するシーン検出処理はいずれも動画撮影された複数フレームのうち任意の1フレームの画像を解析することで行われる。
【0026】
<青空シーン検出方法>
以下、図8のフローチャートを参照して、青空シーン検出処理の動作について説明する。
ステップS801では、動画撮影された1フレームの12ビットRAWデータを画像処理部108でn×m(n、mは整数)の領域(ブロック)にブロック分割し、分割された各領域内のR,G,B各色の画素の平均値を算出する。本実施形態ではn、mは8とする。
【0027】
次にステップS802で、各ブロックのR,G,B平均値に対して、前述したホワイトバランス補正処理、ガンマ補正処理、色変換マトリックス処理による仮現像処理を行う。ここで仮現像処理された結果として8×8各ブロックのYUV値が算出される。
【0028】
次にステップS803で、画面内全ブロックに占める青空ブロックの割合を算出する。青空ブロックかどうかの判定はUV色空間上で青空判定領域(第3の領域)を定義し、その領域内に入ったブロックの数をカウントすることで行われる。
図13の1301にUV色空間上の青空判定領域の例を示した。本実施形態ではY値によらず、UV色空間上の青空判定領域は同じとしているが、Y値毎にUV色空間上の青空判定領域を異ならせるような構成としても良い。
尚、UV色空間上の青空判定領域は、ステップS802の仮現像処理を施した様々な場所、季節、時刻に撮影した青空画像の青空部のUV値が含まれるような領域を事前に算出しておき、メモリ107に記録しておく。
【0029】
次に総ブロック個数(本実施形態では8×8=64個)に占めるUV色空間上の青空判定領域に入ったブロック個数の割合(以下青空ブロック割合)に応じて、青空シーンの検出を行う。本実施形態では青空ブロック割合が50%以上で青空シーンと判定する。
【0030】
<自然の緑シーン検出方法>
以下、図9のフローチャートを参照して、草木といった自然の緑シーン検出処理の動作について説明する。
ステップS901では、動画撮影された1フレームの12ビットRAWデータを画像処理部108でn×m(n、mは整数)の領域(ブロック)に分割し、分割された各領域内のR,G,B各色の画素の平均値を算出する。ステップS801と同じく本実施形態ではn、mは8とする。
【0031】
次にステップS902で、各ブロックのR,G,B平均値に対して、前述したホワイトバランス補正処理、ガンマ補正処理、色変換マトリックス処理による仮現像処理を行う。ここで仮現像処理された結果として8×8各ブロックのYUV値が算出される。
【0032】
次にステップS903で、画面内全ブロックに占める自然の緑ブロックの割合を算出する。自然の緑ブロックかどうかの判定はUV色空間上で自然の緑判定領域(第2の領域)を定義し、その領域内に入ったブロックの数をカウントすることで行われる。
図14の1401にUV色空間上の自然の緑判定領域の例を示した。本実施形態ではY値によらず、UV色空間上の自然の緑判定領域は同じとしているが、Y値毎にUV色空間上の自然の緑判定領域を異ならせるような構成としても良い。
尚、UV色空間上の自然の緑判定領域は、ステップS902の仮現像処理を施した様々な草木の画像の緑部のUV値が含まれるような領域を事前に算出しておき、メモリ107に記録しておく。
【0033】
次に総ブロック個数(本実施形態では8×8=64個)に占めるUV色空間上の自然の緑判定領域に入ったブロック個数の割合(以下自然の緑ブロック割合)に応じて、自然の緑シーンの検出を行う。本実施形態では自然の緑ブロック割合が50%以上で自然の緑シーンと判定する。
【0034】
<夕景シーン検出方法>
以下、図10のフローチャートを参照して、夕焼け空が写った夕景シーン検出処理の動作について説明する。
ステップS1001では、動画撮影された1フレームの12ビットRAWデータを画像処理部108でn×m(n、mは整数)の領域(ブロック)に分割し、分割された各領域内のR,G,B各色の画素の平均値を算出する。ステップS801と同じく本実施形態ではn、mは8とする。
【0035】
次にステップS1002で、各ブロックのR,G,B平均値に対して、前述したホワイトバランス補正処理、ガンマ補正処理、色変換マトリックス処理による仮現像処理を行う。ここで仮現像処理された結果として8×8各ブロックのYUV値が算出される。
【0036】
次にステップS1003で、画面内に占める夕景ブロックの割合を算出する。夕景ブロックかどうかの判定はUV色空間上で夕景判定領域(第1の領域)を定義し、その領域内に入ったブロックの数をカウントすることで行われる。
図15の1501にUV色空間上の夕景判定領域の例を示した。本実施形態ではY値によらず、UV色空間上の夕景判定領域は同じとしているが、Y値毎にUV色空間上の夕景判定領域を異ならせるような構成としても良い。
尚、UV色空間上の夕景判定領域は、ステップS1002の仮現像処理を施した様々な夕景(夕焼け空)のオレンジ部のUV値が含まれるような領域を事前に算出しておき、メモリ107に記録しておく。
【0037】
次に全ブロック個数(本実施形態では8×8=64個)に占めるUV色空間上の夕景判定領域に入ったブロック個数の割合(以下自然の緑ブロック割合)を算出する。
また、夕景検出の確度を高めるために、ステップS1004で、夕焼けのオレンジや空の青色以外の夕景に存在しない色が含まれていないかどうかを判定し、夕景に存在しない色が含まれていた場合には夕景シーンと判定されにくくする。
具体的には、図15のUV色空間上の1502と1503の緑や赤色の領域を夕景に存在しない色領域と定義する。そして、8×8ブロックYUVデータに対して夕景に存在しない色領域内に入ったブロック個数をカウントする。
【0038】
次に8×8ブロックYUVデータ総ブロック個数(本実施形態では8×8=64個)に占めるUV色空間上の夕景に存在しない色領域に入ったブロック個数の割合(以下夕景以外ブロック割合)を算出する。
そして最後にステップS1005で、夕景ブロック割合が50%以上、且つ夕景以外ブロック割合10%以下の場合に夕景シーンと判定する。
【0039】
<人物シーン検出方法>
以下、図11のフローチャートを参照して、人物の顔が写った人物シーン検出処理の動作について説明する。
ステップS1101では、動画撮影された1フレームの12ビットRAWデータに対して
一般的に知られているパターンマッチング処理により、画像内に顔があるかどうかを検出する。尚顔パターンデータは事前にメモリ107に記録されているものとする。
また本実施形態では人物の顔のパターンを検出するようにしているが、人物以外にも動物、建造物、乗り物、などを検出するような構成としても良い。いずれの場合も検出する被写体のパターンデータをメモリ107に記録しておき、パターンマッチング処理により実施される。
【0040】
次にステップS1102で、人物検出されたかどうかの判定を行う。ステップS1101で人物検出されていなければ、人物シーンではないと判断し処理は終了となる。
ステップS1101で人物検出されていた場合、以下に説明するステップS1103〜S1106にて詳細な情報を取得する。
ステップS1103ではまず、検出された顔の大きさと画面内の顔位置座標を算出する。
【0041】
次にステップS1104で12ビットRAWの顔領域に対応した領域内の平均RGB値を算出する。そして、青空検出のステップS802などで行った仮現像処理と同様の手法で、仮現像を実施し顔領域内のYUV値を算出する。
そしてステップS1105で、ステップS1104で算出したYUV値のY値で顔領域の明るさを取得する。
最後にステップS1106で、ステップS1104で算出したYUV値のUV値で顔領域の色を取得する。
以上が画像処理部108で行われる各シーンの検出処理方法である。
尚、例えば青空シーン且つ人物シーンというように、それぞれのシーンは重複して検出される場合もある。
【0042】
(各機能の自動/固定モードの詳細説明)
次に前述した各機能における自動/固定の2つのモードに関する詳細について説明する。
図4に前述した各機能における自動/固定の2つのモードの選択肢をまとめた表を示した。また、図5に各検出シーンと、各機能が「自動」であった場合に各シーンに特化した処理が行われる機能との対応関係を示した。
図4において明るさ補正(画像処理条件、第2の条件)のユーザ選択肢として「自動」、「しない」がある。
ここで明るさ補正「自動」に設定された場合、撮影された画像に適した明るさやコントラストの補正が画像処理部108で行われる。
明るさやコントラストの補正値は下記の方法で算出される。
【0043】
まず撮影された画像に対して画像処理部108で輝度ヒストグラムを算出する。このヒストグラムは画像処理部108で現像処理された8ビットYUV画像の各画素に対して、Y値を0〜255の各値毎にカウントして算出する。図6の601に暗めに撮影された画像のヒストグラムの例を示した。このようにヒストグラムが暗い側に偏っていた場合には図7の701に示すコントラスト補正曲線を用いて明るく補正する。尚図7は水平軸に入力Y値、垂直軸に出力Y値を示している。
このようなコントラスト補正曲線を画像に適用することで、画像が明るく補正される。参考までに図6の602に明るさ補正後のヒストグラム形状を示した。
尚本実施形態ではコントラスト補正により明るさを補正する方法を示したが、RGB信号に一律のゲインをかけることで明るさを補正する構成としてもよい。
【0044】
また、このようにして算出された明るさやコントラストの補正値に対して、画像処理部108のシーン検出結果に応じて下記の処理を実施する。
例えば夕景シーン(第1のシーン)が検出された場合、夕景の雰囲気を残す為に、明るさ補正量を弱める又は補正しないようにする。また人物が検出された場合、ヒストグラムから算出した補正に対して、人物の顔領域に対応した明るさが適切になるように更に明るさ補正量を調整する。具体的には、事前に適切な顔のY値の目標値を決定しておき、顔領域に対応したY値がその目標値になるように明るさ補正量を調整する。
青空、自然の緑シーン(第2のシーン、第3のシーン)が検出された場合については、特にシーンに対応した処理は行わず、ヒストグラムを用いて算出された明るさ、コントラスト補正量をそのまま使用する。
【0045】
これらの関係は図5の明るさ補正の欄に示している。図5において「○」の項目、即ち「夕景シーン」、「人物シーン」は、明るさ補正が「自動」であった場合、明るさ補正値の算出が、全シーン共通で行われるヒストグラムを用いた方法以外にシーンに特化した処理で行われることを示している。
一方図5の明るさ補正「しない」に設定された場合は画像の明るさやコントラストの補正は行わない。
【0046】
次に図4においてWB(画像処理条件、第2の条件)のユーザ選択肢として「自動」、「マニュアル」がある。
ここでWB「自動」に設定された場合、例えば撮影画像の画面全体の平均RGBデータから式3で補正値が算出される。
【0047】
【数3】
【0048】
また、このようにして算出されたWB補正値に対して、画像処理部108のシーン検出結果に応じて下記の処理を実施する。
例えば夕景シーン(第1のシーン)が検出された場合には、夕陽の赤味がより強調されるように、式3の結果に対してさらに式4の補正が行われる。
【0049】
【数4】
ここで、Kr=1.0以上の浮動小数点、Kb=1.0以下の浮動小数点である。
式4によればR画素がより大きく、B画素がより小さくなることで、式3で算出したWB補正値を適用するよりも赤味の強い画像が得られる。
【0050】
また、人物が検出された場合には、人物の顔領域に対応した色を検出し、人物の顔色が適切な肌色になるように式1で算出したWB補正値をさらに補正する。
青空、自然の緑シーン(第2のシーン、第3のシーン)が検出された場合については、特にシーンに対応した処理は行わず、式1で算出されたWB補正量をそのまま使用する。
これらの関係は図5のWBの欄に示している。図5において「○」の項目、即ち「夕景シーン」、「人物シーン」が、全シーン共通で行われる式3を用いた方法以外にシーンに特化した方法で行われることを示している。
【0051】
一方、図5のWB「マニュアル」に設定された場合には、ユーザが設定した(例えば「太陽光」ならば色温度約5200K)光源下で適切なホワイトバランスが得られるような固定の補正値が適用される。尚、ユーザが設定する固定のWB補正値は事前に算出されてメモリ107に記録されている。
次に図4において色補正(画像処理条件、第1の条件)のユーザ選択肢として「自動」、「標準」がある。
ここで色補正「標準」が設定された場合にはシーンによらず固定の色再現となる。具体的には、画像処理部108の色補正処理部で適用される3DLUT処理に固定の3DLUTが適用される。この固定の3DLUTは例えば、入出力が同じ(即ち色変換処理がされない)LUTであってもよい。
ここで色補正「自動」に設定された場合、3DLUTを用いて画像処理部108で検出されたシーンに適した色に補正する。
【0052】
例えば青空シーン(第2のシーン)が検出された場合、「標準」設定時よりも青の彩度が高くなるような3DLUTを適用し、青空をより鮮やかに強調する。
自然の緑シーン(第2のシーン)が検出された場合、「標準」設定時よりも緑の彩度が高くなるような3DLUTを適用し、自然の緑をより鮮やかに強調する。
夕景シーン(第1のシーン)が検出された場合、「標準」設定時よりもオレンジの彩度が高くなるような3DLUTを適用し、夕陽のオレンジをより鮮やかに強調する。
人物シーンが検出された場合、「標準」設定時よりも肌色の色相を赤寄りに、明度を高めに、彩度低めになるような3DLUTを適用することで透明感のある肌色に補正する。
これらの関係は図5の色補正の欄に示している。色補正では全項目で「○」が付いているように、色補正「自動」に設定された場合、それぞれのシーンで標準とは異なる固有の処理が行われる。尚、各シーンに適した3DLUTは事前に作成しておきメモリ107に記録しておく。もちろん、シーンが検出された際にその都度生成してもよいが、その分演算負荷が増えてしまうことになる。
【0053】
次に図4において露出制御(画像取得条件)のユーザ選択肢として「自動」、「マニュアル」がある。
ここで露出制御「マニュアル」が設定された場合には、ユーザが任意に設定した絞り101、シャッター102の速度で撮影が行われる。
露出制御「自動」が設定された場合には、システム制御部113は画像処理部108で処理された画像の明るさに応じて、画像中央部の明るさが適切になるような露光制御量を決定する。露光制御部110はこの露光制御量に従って絞り101やシャッター102の速度を制御し、撮像素子103に入射する光の露光量を制御する。
尚、シーン検出処理により人物の顔等の検出情報が得られた場合、画像中央部の明るさではなく、検出された顔領域の明るさが適切になるように露光制御量の算出が行われる。
青空、自然の緑、夕景シーンが検出された場合については、特にシーンに対応した処理は行わず、前述したように画像中央部の明るさが適切になるような露出を設定する。
これらの関係は図5の露出の欄に示している。図5において「○」の項目、即ち「人物シーン」では、露出制御「自動」が設定された場合、前述した画像中央部の明るさが適切になるような露出制御ではなくシーンに特化した露出制御となることを示している。
【0054】
次に図4においてフォーカス制御(画像取得条件)のユーザ選択肢として「自動」、「マニュアル」がある。
ここでフォーカス制御「マニュアル」が設定された場合には、ユーザが任意に設定したフォーカス位置で撮影が行われる。
フォーカス制御「自動」が設定された場合には、例えば画面中央部の被写体に自動的にピントがあうように、コントラストオートフォーカス(以下コントラストAF)処理によりフォーカスが制御される。
このコントラストAF処理では、画像の着目部分のコントラストが最も高くなるように、測距制御部111によるフォーカス制御が行われる。具体的には、システム制御部113の指示に従い測距制御部111がフォーカスを徐々に変更しながら、画像処理部108で処理された画像のコントラストを解析することで行われる。
尚、シーン検出処理により人物の顔等の検出情報が得られた場合、その顔位置にピントを合わせるようにコントラストAF処理が行われる。
青空、自然の緑、夕景シーンが検出された場合については、特にシーンに対応した処理は行わず、前述したように画像中央部の被写体にピントが合うように制御される。
これらの関係は図5の「フォーカス」の欄に示している。図5において「○」の項目、即ち「人物シーン」では、フォーカス制御「自動」が設定された場合、前述した画像中央部の被写体にピントを合わせる制御ではなくシーンに特化したフォーカス制御となることを示している。
以上が、各機能の自動/固定モードの詳細説明である。
【0055】
ここで、本実施形態の特徴である、動画撮影時のシーン検出処理全体について説明する。
前述したように、例えばフレームレート30フレーム/秒の動画において、図2に示すように、2フレームに1回「青空シーン」、「自然の緑シーン」、「夕景シーン」の3つのシーンの検出処理を全て行うようにした場合、非常に演算負荷が重くなる。その結果、12フレームの期間内に全ての検出処理が完了できず、最悪の場合動画撮影が強制終了されてしまう。仮に、12フレームにて検出処理が終わるとしても、シーン検出に演算負荷を大きくとられ、他の処理が並行して行えないなどの弊害が出てしまうことが考えられる。
そこで、本実施形態では、明るさ補正、WB、色補正、露出制御、フォーカス制御のそれぞれの機能が自動モード、固定モードのいずれで設定されるかに応じて、シーン検出のシーン検出数を優先するかシーン検出速度を優先するかを選択する。すなわち、検出されるシーン特有の補正処理や制御などが発生する機能が自動設定の場合は、シーン検出数を優先し、そうでない場合は、シーン検出速度を優先する。
図12のフローチャートを参照して、本実施形態における動画撮影時のデジタルカメラ114のシーン検出処理全体の動作フローについて説明する。
尚、各機能の自動/固定処理の設定において、自動設定されている機能については、所定時間の周期(サイクル)で図12のフローチャートの動作とは別タスクとして並列処理されているものとする。具体的には明るさ補正、WB、色補正、露出、フォーカス各機能が自動モードで設定されている時は、各機能が別のタスクで並列処理される。例えばフレームレート30フレーム/秒で動画撮影されている場合、本実施形態では下記のサイクルで補正値の演算が行われるものとする。
【0056】
明るさ補正 ・・・12フレームに1回
ホワイトバランス ・・・12フレームに1回
色補正 ・・・12フレームに1回
露出 ・・・4フレームに1回
フォーカス ・・・2フレームに1回
尚、これらの機能の補正値演算は上記サイクルにて実施されるが、撮影時に各フレームに適用される補正量は1フレーム刻みで段階的に変化するように制御される。
例えば明るさ補正を例にあげると、補正する量の目標値は12フレームに1回演算されるが、1回の演算で次の演算までの12フレーム分の補正量が算出されるため、補正量は1フレーム刻みで段階的に変化する。その他の機能についても同様である。ただし、実施の形態としてはこの限りではなく、1フレーム当たりの補正量は適宜調整可能である。
【0057】
以上のような前提において、図12のシーン検出全体の動作フローを説明する。
まず撮影開始釦112が押下され撮影が開始されると、画像処理部108のシーン検出処理が開始される。
ステップS1201〜S1205は、まず各機能が自動/固定モードのいずれに設定されているかを判定し、その結果に応じてシーン検出処理を異ならせるステップである。ステップS1201で色補正の設定が自動であると判定された場合は、人物検出、青空検出、自然の緑検出、夕景検出全てのシーン検出を行うフローAへ進み、自動でない、すなわち固定であると判定された場合にはステップS1202へ進む。ステップS1202で明るさ補正の設定が自動であると判定された場合は、人物検出、夕景検出に絞ってシーン検出を行うフローBへ進み、自動でないと判定された場合はステップS1203へ進む。ステップS1203でWBの補正の設定が自動であると判定された場合はフローBへ進み、自動でないと判定された場合はステップS1204へ進む。ステップS1204で露出の制御の設定が自動であると判定された場合は、人物検出に絞ってシーン検出を行うフローCへ進み、自動でないと判定された場合は、ステップS1205へ進む。ステップS1205では、フォーカスの制御の設定が自動であると判定された場合はフローCへ進み、自動でないと判定された場合、すなわち5つの機能全てが固定モードであったときには、シーン検出の必要なしとしてシーン検出処理を終了する。
【0058】
人物検出、青空検出、自然の緑検出、夕景検出全てのシーン検出を行うフローAのフローについて説明する。ステップS1206でシーンフラグSに1がセットされる。次にステップS1207でフレーム数が12の倍数かどうかの判定が行われ、12の倍数の場合に次のステップに進む。この処理は12フレームに1回のサイクルで1つのシーンの検出処理を行うことを意味する。
【0059】
次にステップS1208でシーンフラグSの判定が行われる。ここでS=1であった場合、ステップS1209に進み人物検出処理を実行する。この人物検出処理方法については既に説明済みであるため、ここでの説明は割愛する。
【0060】
次にステップS1213に進み、シーンフラグSが6かどうかの判定を行う。今回は6ではないのでステップS1214に進み、シーンフラグSに1を加算する。次にステップS1215で撮影終了かどうかの判定が行われる。撮影が終了していなかった場合、再びステップS1207に戻り、フレーム数が12の倍数となるまで待機する。次にステップS1208でシーンフラグSを判定する。今回はシーンフラグSは2となっているので、ステップS1210に進み青空シーンの検出を行う。この青空シーン検出処理方法については既に説明済みであるため、ここでの説明は割愛する。
【0061】
次に再度ステップS1213でシーンフラグSが6かどうかの判定が行われる。ここでシーンフラグSが6となると再びステップS1206に戻りシーンフラグが1にセットされる。このようにステップS1206〜S1215の処理はステップS1215で撮影終了と判定されるまで繰り返される。
尚ステップS1208のシーンフラグ判定処理のみ繰り返される毎に処理が異なるのでステップS1208について詳細に説明する。
ステップS1208ではシーンフラグSが12フレームおきに1加算された数値が判定されることになる。下記にシーンフラグ毎の検出シーンを示した。
【0062】
シーンフラグS=1 ・・・人物検出(ステップS1209)
シーンフラグS=2 ・・・青空検出(ステップS1210)
シーンフラグS=3 ・・・人物検出(ステップS1209)
シーンフラグS=4 ・・・自然の緑検出(ステップS1211)
シーンフラグS=5 ・・・人物検出(ステップS1209)
シーンフラグS=6 ・・・夕景検出(ステップS1212)
尚、ステップS1209〜ステップS1212の各シーン検出方法の詳細については既に説明済みであるため、ここでは説明を割愛する。
本フローに従うと、人物シーンについては24フレームに1回、その他のシーンについては72フレームに1回の周期で検出されるようになっている。
【0063】
次に人物検出、夕景検出に絞ってシーン検出を行うフローBのフローを説明する。ステップS1216でシーンフラグSに1がセットされる。次にステップS1217でフレーム数が12の倍数かどうかの判定が行われ、12の倍数の場合に次のステップに進む。
【0064】
次にステップS1218でシーンフラグSの判定が行われる。ここでS=1であった場合、ステップS1209に進み人物検出処理を実行する。この人物検出処理方法については既に説明済みであるため、ここでの説明は割愛する。
【0065】
次にステップS1219でシーンフラグが2かどうかの判定を行う。この時点では1であるので、ステップS1220に進む。ステップS1220ではシーンフラグSに1を加算する。即ちシーンフラグSは2となる。次にステップS1221で撮影終了釦112が押下され撮影が終了したかどうかの判定が行われる。撮影が終了していなかった場合、再びステップS1217に戻り、フレーム数が12の倍数となるまで待機する。そして再度ステップS1218でシーンフラグSの判定が行われる。今回はシーンフラグが2となっているのでステップS1212の夕景検出処理が実施される。この夕景検出処理方法については既に説明済みであるため、ここでの説明は割愛する。次にステップS1219でシーンフラグが2かどうかの判定が行われる。今回はシーンフラグ2となっているため、ステップS1216に戻る。そして再度ステップS1216でシーンフラグSは1になる。このステップS1216から進んだS1221までの処理がステップS1221で撮影終了と判定されるまで繰り返し実施される。
即ちステップS1216から進んだS1221までの処理によれば、前期色補正の設定が固定であった場合には、人物検出処理と夕景検出処理をそれぞれ24フレームに1回のサイクルで実施する。
【0066】
次に人物検出に絞ってシーン検出を行うフローCのフローを説明する。フローCでは、ステップS1222でフレーム数が12の倍数かどうかの判定が行われ、12の倍数の場合に次のステップS1209に進む。ステップS1209では人物シーンの検出が行われ、次にステップS1223で撮影終了釦112が押下され撮影が終了したかどうかの判定が行われる。撮影が終了していなかった場合、再びステップS1222に戻り、フレーム数が12の倍数となるまで待機する。ステップS1223で撮影終了と判定された場合、シーン検出処理を終了する。
尚、前述したように、ここで説明した図12のフローと並行して、明るさ補正、ホワイトバランス、色補正、露出、フォーカス、の各機能の制御が別タスクとして行われており、図12のフローのシーン検出結果は随時最新の結果が各機能に反映される。
図3に第1の実施形態における図12に示したフローによる検出シーンサイクルをまとめた表を示した。
図3(a)の検出シーンサイクルの表がフローAの処理に対応している。
また、図3(b)の検出シーンサイクルの表がフローBの処理に対応している。
また、図3(c)の検出シーンサイクルの表がフローCの処理に対応している。
図3から分かるように、フローAの場合は、検出速度よりも検出シーン数を優先し、人物、青空、自然の緑、夕景の4つのシーンをそれぞれ72フレームに1回のサイクルで検出している。但し、人物シーンについては、図5に示すように特に応答速度が要求される露出やフォーカスの制御に用いられる為、他のシーンよりも短い24フレームに1回のサイクルで検出するようにしている。
フローBの場合は、検出速度を優先し、人物シーンと夕景シーンのみをそれぞれ24フレームに1回のサイクルで検出している。これは図5に示したように青空と自然の緑シーン検出結果は色補正処理のみで使用されるのでこのような処理が可能となっている。フローBの夕景シーンの検出サイクルは、24フレームに1回と、フローAよりも短くなっている(検出速度が速くなっている)ことがわかる。
フローCの場合も、フローBと同様に検出速度を優先し、人物シーンのみを12フレームに1回のサイクルで検出している。これは図5に示したように人物シーン以外のシーン検出結果は露出制御及びフォーカス制御に使用されないのでこのような処理が可能となっている。フローCの人物シーンの検出サイクルは、12フレームに1回と、フローA、Bよりも短くなっている(検出速度が速くなっている)ことがわかる。
【0067】
以上のように、本実施形態では、撮影条件に応じてシーン検出の検出速度を優先した処理と検出シーン数を優先した処理を効果的に行うことで、シーン検出による演算負荷を軽減しつつ、より正確なシーン検出に対応した補正処理及び撮影制御を可能にする。
本実施形態では、人物、青空、自然の緑、夕景の4つのシーンを検出候補としているが、本発明はこれに限らず、検出候補とするシーンは本実施形態より多くても少なくても良い。例えば、本実施形態に比べて人物シーンの検出を行わないときの、各シーンの検出シーンサイクルの表を示した。図16に示すように色補正処理が自動設定の場合、検出シーン数を優先し、各シーンが36フレームに1回のサイクルで検出処理される。一方、色補正処理が固定設定の場合、検出速度を優先し、夕景シーンのみが12フレームに1回のサイクルで検出処理される。
【0068】
(他の実施形態)
本発明の目的は以下のようにしても達成できる。すなわち、前述した各実施形態の機能を実現するための手順が記述されたソフトウェアのプログラムコードを記録した記憶媒体を、システムまたは装置に供給する。そしてそのシステムまたは装置のコンピュータ(またはCPU、MPU等)が記憶媒体に格納されたプログラムコードを読み出して実行するのである。
この場合、記憶媒体から読み出されたプログラムコード自体が本発明の新規な機能を実現することになり、そのプログラムコードを記憶した記憶媒体およびプログラムは本発明を構成することになる。
【0069】
また、プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスクなどが挙げられる。また、CD−ROM、CD−R、CD−RW、DVD−ROM、DVD−RAM、DVD−RW、DVD−R、磁気テープ、不揮発性のメモリカード、ROM等も用いることができる。
また、コンピュータが読み出したプログラムコードを実行可能とすることにより、前述した各実施形態の機能が実現される。さらに、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した各実施形態の機能が実現される場合も含まれる。
【0070】
更に、以下の場合も含まれる。まず記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行う。
【符号の説明】
【0071】
100 レンズ
101 絞り
102 シャッター
103 撮像素子
104 A/D変換器
105 タイミング発生部
106 メモリ制御部
107 メモリ
108 画像処理部
109 外部記憶装置
110 露光制御部
111 測距制御部
112 撮影開始釦
113 システム制御部
114 画像処理装置
114 操作部
【技術分野】
【0001】
本発明は、撮影シーンを判定する画像処理装置及び画像処理装置の制御方法に関するものである。
【背景技術】
【0002】
例えばビデオカメラのような撮像装置において撮影されるシーンには、ポートレート、風景、夜景など様々なシーンがある。従来、これらの撮影シーンで最適な映像を得る為に、撮影時の被写体情報をカメラが解析することで、どのようなシーンで撮影されたかを自動的に判別し、その判別したシーンに応じて最適な画像処理を施すものがある。
このようなシステムでは、例えば撮影時の情報から「青空シーン」、「自然の緑が多いシーン」、「夕景シーン」等を判定し、判定結果に応じて青空の青、自然の緑、夕景のオレンジの彩度を強調するといった処理が行われる。
【0003】
しかしながらこれらのシーン判定処理を精度良く行うためには高度な演算処理が必要となり、複数のシーン判定処理を同時に行うと演算負荷が非常に重くなってしまう。
【0004】
例えば、特許文献1では、夕焼け判定、色被り判定、コントラスト判定等の補正の要否判定を行い、補正が必要と判定されたときにのみ対応する項目の補正を行うという技術が開示されている。この技術によれば、所定の補正の要否判定を行い必要なときのみ補正を行うため、補正処理の負荷が削減される。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平11−298736号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上述の特許文献1では、補正の要否判定(即ちシーン検出処理)を行い必要な補正のみを行うようにしても、複数のシーン検出処理は同時に毎回行う必要があり、前述したような動画撮影中の演算負荷がかかるという問題は残ってしまう。
そこで、本発明の目的は、シーン検出による演算負荷を軽減しつつ効果的にシーンの検出を行うことを可能にした画像処理装置を提供することである。
【課題を解決するための手段】
【0007】
上記課題に鑑み、本発明の画像処理装置は、請求項1に記載のとおり、複数フレームの画像データを取得する画像取得手段と、予め設定された複数のシーンの中から、前記画像データに該当するシーンを検出するシーン検出手段と、前記シーン検出手段による検出結果に応じて複数の画像取得条件または複数の画像処理条件の設定を自動で行う条件設定手段と、前記条件設定手段によって設定を自動で行う画像取得条件または画像処理条件を指定する指定手段と、を有し、前記条件設定手段によって設定される条件は、前記予め設定された複数のシーンの中の第1のシーン、第2のシーン、第3のシーンそれぞれで固有の設定がなされる第1の条件と、前記第1のシーンでは他のシーンとは異なる固有の設定がなされ、前記第2のシーン及び第3のシーンでは同じ設定がなされる第2の条件と、を含み、前記シーン検出手段は、前記指定手段によって前記第1の条件が指定される場合、前記第1のシーンを所定の周期で検出し、前記指定手段によって前記第1の条件が指定されず、かつ前記第2の条件が指定される場合、前記第1のシーンを検出する周期を前記所定の周期よりも短くすることを特徴とする。
【0008】
また、本発明の画像処理装置の制御方法は、請求項11に記載のとおり、複数フレームの画像データを取得する画像取得ステップと、予め設定された複数のシーンの中から、前記画像データに該当するシーンを検出するシーン検出ステップと、前記シーン検出ステップによる検出結果に応じて複数の画像取得条件または複数の画像処理条件の設定を自動で行う条件設定ステップと、前記条件設定ステップにて設定が自動で行われる画像取得条件または画像処理条件を指定する指定ステップと、を有し、前記条件設定ステップにて設定される条件は、前記予め設定された複数のシーンの中の第1のシーン、第2のシーン、第3のシーンそれぞれで固有の設定がなされる第1の条件と、前記第1のシーンでは他のシーンとは異なる固有の設定がなされ、前記第2のシーン及び第3のシーンでは同じ設定がなされる第2の条件と、を含み、前記シーン検出ステップでは、前記指定ステップにて前記第1の条件が指定される場合、前記第1のシーンを所定の周期で検出し、前記指定ステップによって前記第1の条件が指定されず、かつ前記第2の条件が指定される場合、前記第1のシーンを検出する周期を前記所定の周期よりも短くすることを特徴とする。
【発明の効果】
【0009】
本発明によれば、撮影条件に応じてシーン検出の検出速度を優先した処理と検出シーン数を優先した処理を行うことで、シーン検出による演算負荷を軽減しつつ、シーン検出に対応した効果的な補正処理及び撮影制御を可能にする。
【図面の簡単な説明】
【0010】
【図1】第1の実施形態におけるデジタルカメラ114の全体構成を示したブロック図である。第1の実施形態における検出シーンサイクルを示した図である。
【図2】背景技術による各シーンの検出サイクルの概念図を示した図である。
【図3】第1の実施形態における各シーンの検出サイクルの表を示した図である。
【図4】第1の実施形態における各機能における自動/固定のモードの選択肢をまとめた表を示した図である。
【図5】第1の実施形態における各検出シーンと各シーンに対応した処理が行われる機能の対応関係を示した図である。
【図6】第1の実施形態における明るさ補正処理に用いるヒストグラムの例を示した図である。
【図7】第1の実施形態における明るさ補正処理に用いるコントラスト補正カーブを示した図である。
【図8】第1の実施形態における青空シーン検出処理のフローを示した図である。
【図9】第1の実施形態における自然の緑シーン検出処理のフローを示した図である。
【図10】第1の実施形態における夕景シーン検出処理のフローを示した図である。
【図11】第1の実施形態における人物シーン検出処理のフローを示した図である。
【図12】第1の実施形態におけるシーン検出処理全体の動作フローを示した図である。
【図13】第1の実施形態におけるUV色空間上の青空判定領域を示した図である。
【図14】第1の実施形態におけるUV色空間上の自然の緑判定領域を示した図である。
【図15】第1の実施形態におけるUV色空間上の夕景判定領域を示した図である。
【図16】他の実施形態における人物シーンの検出を行わないときの、検出シーンサイクルを示した図である。
【発明を実施するための形態】
【0011】
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。
【0012】
図1は、本発明の実施形態にかかわる画像処理装置の1例としてのデジタルカメラ114の全体構成を示すブロック図である。
図1において、100は撮影レンズ、101は絞り、102はシャッター、103は光学像を電気信号に変換する撮像素子、104は撮像素子103のアナログ信号出力をデジタル信号に変換するアナログ/デジタル(以下A/D)変換器である。100〜104をもって画像取得手段とする。タイミング発生部105は、撮像素子103、A/D変換器104にクロック信号や制御信号を供給して、それらの動作を制御している。このタイミング発生部105はメモリ制御部106及びシステム制御部113により制御されている。
【0013】
画像処理部108ではA/D変換器104或いはメモリ制御部106からの12ビットRGBベイヤー配列画像データ(一般的に知られているRAWデータ)に対して、現像処理を施す。この現像処理はホワイトバランス(以下WB)補正処理、RGBベイヤー配列の信号をRGB3プレーン信号に変換するための色補間処理、ガンマ補正処理、色変換マトリックス処理、明るさ補正処理、色補正処理などで構成されている。この現像処理の詳細については後に詳述する。
【0014】
尚、この画像処理部108(シーン検出手段)では、画像データを解析することで、青空シーン、自然の緑シーン、夕景シーン、人物シーン等のシーンの検出も行っている。そしてこのシーン検出結果は、システム制御部113(条件設定手段)によりWB補正、明るさ補正、色補正のそれぞれの処理に用いられる補正値に反映され、画像処理部108での上記補正処理に用いられる。このシーン検出処理の詳細については後に詳述する。
また、WB補正、色補正、明るさ補正処理機能はそれぞれ、検出された撮影シーンに最適な補正を行う自動制御のモードと、撮影シーンによらず固定の補正を行うモードの2種類のモードが設けられている。この自動と固定の2つのモードは操作部115(指定手段)をユーザが操作することでそれぞれの補正機能毎に切り替えることが出来る。この自動/固定モードの詳細については後に詳述する。
【0015】
メモリ制御部106は、A/D変換器104、タイミング発生部105、画像処理部108、メモリ107を制御する。これにより、A/D変換器104でA/D変換されたデジタルデータは画像処理部108、メモリ制御部106を介して、或いは直接メモリ制御部106を介して、メモリ107に書き込まれる。
メモリ107は撮影した動画を格納する為のメモリである。また、このメモリ107はシステム制御部113や画像処理部108の作業領域としても使用される。
外部記憶装置109はCFカードやSDカードといった着脱可能な外付けの記録媒体である。メモリ107に一時的に記録された動画データは最終的にこの外部記憶装置109に記録される。
【0016】
露光制御部110は絞り101やシャッター102を制御する。露光制御部110の露光制御は、デジタルカメラ114が自動的に最適な補正を行う自動制御のモードとユーザが任意に露出を決定する固定モードの2種類のモードが設けられている。この自動と固定の2つのモードは操作部115をユーザが操作することで切り替えることが出来る。この自動/固定モードの詳細については後に詳述する。
測距制御部111はレンズ100のフォーカシングを制御する。
測距制御部111のフォーカス制御は、フォーカシングをデジタルカメラ114が自動制御するモードと、ユーザが任意のフォーカス位置を設定する固定モードの2種類のモードが設けられている。この自動と固定の2つのモードは操作部115をユーザが操作することで切り替えることが出来る。この自動/固定モードの詳細については後に詳述する。
【0017】
また、システム制御部113はこのデジタルカメラ114全体の動作の制御している。
撮影開始/終了釦112は撮影動作を開始/終了するスイッチとなる。
以上が本発明の実施形態にかかわるデジタルカメラ114の全体構成の概要である。
【0018】
以下、本実施形態におけるデジタルカメラ114の動作について説明する。
まず前述した、現像処理、シーン検出処理、各機能の自動/固定モード、のそれぞれの詳細について順に説明する。
【0019】
(現像処理の詳細説明)
最初に画像処理部108で行われる現像処理の詳細について説明する。
現像処理ではWB補正処理、RGBベイヤー配列の信号をRGB3プレーン信号に変換するための色補間処理、ガンマ補正処理、色変換マトリックス処理、明るさ補正処理、色補正処理が順に行われる。
まず、WB処理では12ビットRGBベイヤー配列画像のR,G,Bの画素毎に下記式1に従って補正が行われる。
【0020】
【数1】
ここでWBgainR, WBgainG, WbgainBはWB補正値である。このWB補正値の算出方法については別途後述する。
【0021】
次に既知の手法による色補間処理により、WB補正後のRGBベイヤー配列信号がRGB3プレーン信号に変換される。
そして色補間後の信号に対してガンマ補正処理が行われる。ここで使用されるガンマ補正カーブは事前に求めておき、メモリ107に格納されている。
【0022】
次にガンマ補正処理後のRGB信号は下記式2の色変換マトリックス処理により8ビットY(輝度)、U、V(色差)信号に変換される。
【0023】
【数2】
ここで、γR, γG, γBはそれぞれガンマ補正後のR,G,B、 a〜iは任意の浮動小数点。
【0024】
次にこのYUV信号のY値に対して明るさ補正処理が施される。この明るさ補正処理の詳細については別途後述する。
最後に色補正処理により色補正が行われ全ての現像処理が完了する。尚この色補正処理は一般的に知られている3次元ルックアップテーブル(3DLUT)処理により行われる。この色補正処理の詳細については別途後述する。
【0025】
(シーン検出処理の詳細説明)
次に画像処理部108で行われるシーン検出処理の詳細について説明する。本実施形態では、青空シーン、自然の緑シーン、夕景シーン、人物シーンの検出が行われる。
尚以下に説明するシーン検出処理はいずれも動画撮影された複数フレームのうち任意の1フレームの画像を解析することで行われる。
【0026】
<青空シーン検出方法>
以下、図8のフローチャートを参照して、青空シーン検出処理の動作について説明する。
ステップS801では、動画撮影された1フレームの12ビットRAWデータを画像処理部108でn×m(n、mは整数)の領域(ブロック)にブロック分割し、分割された各領域内のR,G,B各色の画素の平均値を算出する。本実施形態ではn、mは8とする。
【0027】
次にステップS802で、各ブロックのR,G,B平均値に対して、前述したホワイトバランス補正処理、ガンマ補正処理、色変換マトリックス処理による仮現像処理を行う。ここで仮現像処理された結果として8×8各ブロックのYUV値が算出される。
【0028】
次にステップS803で、画面内全ブロックに占める青空ブロックの割合を算出する。青空ブロックかどうかの判定はUV色空間上で青空判定領域(第3の領域)を定義し、その領域内に入ったブロックの数をカウントすることで行われる。
図13の1301にUV色空間上の青空判定領域の例を示した。本実施形態ではY値によらず、UV色空間上の青空判定領域は同じとしているが、Y値毎にUV色空間上の青空判定領域を異ならせるような構成としても良い。
尚、UV色空間上の青空判定領域は、ステップS802の仮現像処理を施した様々な場所、季節、時刻に撮影した青空画像の青空部のUV値が含まれるような領域を事前に算出しておき、メモリ107に記録しておく。
【0029】
次に総ブロック個数(本実施形態では8×8=64個)に占めるUV色空間上の青空判定領域に入ったブロック個数の割合(以下青空ブロック割合)に応じて、青空シーンの検出を行う。本実施形態では青空ブロック割合が50%以上で青空シーンと判定する。
【0030】
<自然の緑シーン検出方法>
以下、図9のフローチャートを参照して、草木といった自然の緑シーン検出処理の動作について説明する。
ステップS901では、動画撮影された1フレームの12ビットRAWデータを画像処理部108でn×m(n、mは整数)の領域(ブロック)に分割し、分割された各領域内のR,G,B各色の画素の平均値を算出する。ステップS801と同じく本実施形態ではn、mは8とする。
【0031】
次にステップS902で、各ブロックのR,G,B平均値に対して、前述したホワイトバランス補正処理、ガンマ補正処理、色変換マトリックス処理による仮現像処理を行う。ここで仮現像処理された結果として8×8各ブロックのYUV値が算出される。
【0032】
次にステップS903で、画面内全ブロックに占める自然の緑ブロックの割合を算出する。自然の緑ブロックかどうかの判定はUV色空間上で自然の緑判定領域(第2の領域)を定義し、その領域内に入ったブロックの数をカウントすることで行われる。
図14の1401にUV色空間上の自然の緑判定領域の例を示した。本実施形態ではY値によらず、UV色空間上の自然の緑判定領域は同じとしているが、Y値毎にUV色空間上の自然の緑判定領域を異ならせるような構成としても良い。
尚、UV色空間上の自然の緑判定領域は、ステップS902の仮現像処理を施した様々な草木の画像の緑部のUV値が含まれるような領域を事前に算出しておき、メモリ107に記録しておく。
【0033】
次に総ブロック個数(本実施形態では8×8=64個)に占めるUV色空間上の自然の緑判定領域に入ったブロック個数の割合(以下自然の緑ブロック割合)に応じて、自然の緑シーンの検出を行う。本実施形態では自然の緑ブロック割合が50%以上で自然の緑シーンと判定する。
【0034】
<夕景シーン検出方法>
以下、図10のフローチャートを参照して、夕焼け空が写った夕景シーン検出処理の動作について説明する。
ステップS1001では、動画撮影された1フレームの12ビットRAWデータを画像処理部108でn×m(n、mは整数)の領域(ブロック)に分割し、分割された各領域内のR,G,B各色の画素の平均値を算出する。ステップS801と同じく本実施形態ではn、mは8とする。
【0035】
次にステップS1002で、各ブロックのR,G,B平均値に対して、前述したホワイトバランス補正処理、ガンマ補正処理、色変換マトリックス処理による仮現像処理を行う。ここで仮現像処理された結果として8×8各ブロックのYUV値が算出される。
【0036】
次にステップS1003で、画面内に占める夕景ブロックの割合を算出する。夕景ブロックかどうかの判定はUV色空間上で夕景判定領域(第1の領域)を定義し、その領域内に入ったブロックの数をカウントすることで行われる。
図15の1501にUV色空間上の夕景判定領域の例を示した。本実施形態ではY値によらず、UV色空間上の夕景判定領域は同じとしているが、Y値毎にUV色空間上の夕景判定領域を異ならせるような構成としても良い。
尚、UV色空間上の夕景判定領域は、ステップS1002の仮現像処理を施した様々な夕景(夕焼け空)のオレンジ部のUV値が含まれるような領域を事前に算出しておき、メモリ107に記録しておく。
【0037】
次に全ブロック個数(本実施形態では8×8=64個)に占めるUV色空間上の夕景判定領域に入ったブロック個数の割合(以下自然の緑ブロック割合)を算出する。
また、夕景検出の確度を高めるために、ステップS1004で、夕焼けのオレンジや空の青色以外の夕景に存在しない色が含まれていないかどうかを判定し、夕景に存在しない色が含まれていた場合には夕景シーンと判定されにくくする。
具体的には、図15のUV色空間上の1502と1503の緑や赤色の領域を夕景に存在しない色領域と定義する。そして、8×8ブロックYUVデータに対して夕景に存在しない色領域内に入ったブロック個数をカウントする。
【0038】
次に8×8ブロックYUVデータ総ブロック個数(本実施形態では8×8=64個)に占めるUV色空間上の夕景に存在しない色領域に入ったブロック個数の割合(以下夕景以外ブロック割合)を算出する。
そして最後にステップS1005で、夕景ブロック割合が50%以上、且つ夕景以外ブロック割合10%以下の場合に夕景シーンと判定する。
【0039】
<人物シーン検出方法>
以下、図11のフローチャートを参照して、人物の顔が写った人物シーン検出処理の動作について説明する。
ステップS1101では、動画撮影された1フレームの12ビットRAWデータに対して
一般的に知られているパターンマッチング処理により、画像内に顔があるかどうかを検出する。尚顔パターンデータは事前にメモリ107に記録されているものとする。
また本実施形態では人物の顔のパターンを検出するようにしているが、人物以外にも動物、建造物、乗り物、などを検出するような構成としても良い。いずれの場合も検出する被写体のパターンデータをメモリ107に記録しておき、パターンマッチング処理により実施される。
【0040】
次にステップS1102で、人物検出されたかどうかの判定を行う。ステップS1101で人物検出されていなければ、人物シーンではないと判断し処理は終了となる。
ステップS1101で人物検出されていた場合、以下に説明するステップS1103〜S1106にて詳細な情報を取得する。
ステップS1103ではまず、検出された顔の大きさと画面内の顔位置座標を算出する。
【0041】
次にステップS1104で12ビットRAWの顔領域に対応した領域内の平均RGB値を算出する。そして、青空検出のステップS802などで行った仮現像処理と同様の手法で、仮現像を実施し顔領域内のYUV値を算出する。
そしてステップS1105で、ステップS1104で算出したYUV値のY値で顔領域の明るさを取得する。
最後にステップS1106で、ステップS1104で算出したYUV値のUV値で顔領域の色を取得する。
以上が画像処理部108で行われる各シーンの検出処理方法である。
尚、例えば青空シーン且つ人物シーンというように、それぞれのシーンは重複して検出される場合もある。
【0042】
(各機能の自動/固定モードの詳細説明)
次に前述した各機能における自動/固定の2つのモードに関する詳細について説明する。
図4に前述した各機能における自動/固定の2つのモードの選択肢をまとめた表を示した。また、図5に各検出シーンと、各機能が「自動」であった場合に各シーンに特化した処理が行われる機能との対応関係を示した。
図4において明るさ補正(画像処理条件、第2の条件)のユーザ選択肢として「自動」、「しない」がある。
ここで明るさ補正「自動」に設定された場合、撮影された画像に適した明るさやコントラストの補正が画像処理部108で行われる。
明るさやコントラストの補正値は下記の方法で算出される。
【0043】
まず撮影された画像に対して画像処理部108で輝度ヒストグラムを算出する。このヒストグラムは画像処理部108で現像処理された8ビットYUV画像の各画素に対して、Y値を0〜255の各値毎にカウントして算出する。図6の601に暗めに撮影された画像のヒストグラムの例を示した。このようにヒストグラムが暗い側に偏っていた場合には図7の701に示すコントラスト補正曲線を用いて明るく補正する。尚図7は水平軸に入力Y値、垂直軸に出力Y値を示している。
このようなコントラスト補正曲線を画像に適用することで、画像が明るく補正される。参考までに図6の602に明るさ補正後のヒストグラム形状を示した。
尚本実施形態ではコントラスト補正により明るさを補正する方法を示したが、RGB信号に一律のゲインをかけることで明るさを補正する構成としてもよい。
【0044】
また、このようにして算出された明るさやコントラストの補正値に対して、画像処理部108のシーン検出結果に応じて下記の処理を実施する。
例えば夕景シーン(第1のシーン)が検出された場合、夕景の雰囲気を残す為に、明るさ補正量を弱める又は補正しないようにする。また人物が検出された場合、ヒストグラムから算出した補正に対して、人物の顔領域に対応した明るさが適切になるように更に明るさ補正量を調整する。具体的には、事前に適切な顔のY値の目標値を決定しておき、顔領域に対応したY値がその目標値になるように明るさ補正量を調整する。
青空、自然の緑シーン(第2のシーン、第3のシーン)が検出された場合については、特にシーンに対応した処理は行わず、ヒストグラムを用いて算出された明るさ、コントラスト補正量をそのまま使用する。
【0045】
これらの関係は図5の明るさ補正の欄に示している。図5において「○」の項目、即ち「夕景シーン」、「人物シーン」は、明るさ補正が「自動」であった場合、明るさ補正値の算出が、全シーン共通で行われるヒストグラムを用いた方法以外にシーンに特化した処理で行われることを示している。
一方図5の明るさ補正「しない」に設定された場合は画像の明るさやコントラストの補正は行わない。
【0046】
次に図4においてWB(画像処理条件、第2の条件)のユーザ選択肢として「自動」、「マニュアル」がある。
ここでWB「自動」に設定された場合、例えば撮影画像の画面全体の平均RGBデータから式3で補正値が算出される。
【0047】
【数3】
【0048】
また、このようにして算出されたWB補正値に対して、画像処理部108のシーン検出結果に応じて下記の処理を実施する。
例えば夕景シーン(第1のシーン)が検出された場合には、夕陽の赤味がより強調されるように、式3の結果に対してさらに式4の補正が行われる。
【0049】
【数4】
ここで、Kr=1.0以上の浮動小数点、Kb=1.0以下の浮動小数点である。
式4によればR画素がより大きく、B画素がより小さくなることで、式3で算出したWB補正値を適用するよりも赤味の強い画像が得られる。
【0050】
また、人物が検出された場合には、人物の顔領域に対応した色を検出し、人物の顔色が適切な肌色になるように式1で算出したWB補正値をさらに補正する。
青空、自然の緑シーン(第2のシーン、第3のシーン)が検出された場合については、特にシーンに対応した処理は行わず、式1で算出されたWB補正量をそのまま使用する。
これらの関係は図5のWBの欄に示している。図5において「○」の項目、即ち「夕景シーン」、「人物シーン」が、全シーン共通で行われる式3を用いた方法以外にシーンに特化した方法で行われることを示している。
【0051】
一方、図5のWB「マニュアル」に設定された場合には、ユーザが設定した(例えば「太陽光」ならば色温度約5200K)光源下で適切なホワイトバランスが得られるような固定の補正値が適用される。尚、ユーザが設定する固定のWB補正値は事前に算出されてメモリ107に記録されている。
次に図4において色補正(画像処理条件、第1の条件)のユーザ選択肢として「自動」、「標準」がある。
ここで色補正「標準」が設定された場合にはシーンによらず固定の色再現となる。具体的には、画像処理部108の色補正処理部で適用される3DLUT処理に固定の3DLUTが適用される。この固定の3DLUTは例えば、入出力が同じ(即ち色変換処理がされない)LUTであってもよい。
ここで色補正「自動」に設定された場合、3DLUTを用いて画像処理部108で検出されたシーンに適した色に補正する。
【0052】
例えば青空シーン(第2のシーン)が検出された場合、「標準」設定時よりも青の彩度が高くなるような3DLUTを適用し、青空をより鮮やかに強調する。
自然の緑シーン(第2のシーン)が検出された場合、「標準」設定時よりも緑の彩度が高くなるような3DLUTを適用し、自然の緑をより鮮やかに強調する。
夕景シーン(第1のシーン)が検出された場合、「標準」設定時よりもオレンジの彩度が高くなるような3DLUTを適用し、夕陽のオレンジをより鮮やかに強調する。
人物シーンが検出された場合、「標準」設定時よりも肌色の色相を赤寄りに、明度を高めに、彩度低めになるような3DLUTを適用することで透明感のある肌色に補正する。
これらの関係は図5の色補正の欄に示している。色補正では全項目で「○」が付いているように、色補正「自動」に設定された場合、それぞれのシーンで標準とは異なる固有の処理が行われる。尚、各シーンに適した3DLUTは事前に作成しておきメモリ107に記録しておく。もちろん、シーンが検出された際にその都度生成してもよいが、その分演算負荷が増えてしまうことになる。
【0053】
次に図4において露出制御(画像取得条件)のユーザ選択肢として「自動」、「マニュアル」がある。
ここで露出制御「マニュアル」が設定された場合には、ユーザが任意に設定した絞り101、シャッター102の速度で撮影が行われる。
露出制御「自動」が設定された場合には、システム制御部113は画像処理部108で処理された画像の明るさに応じて、画像中央部の明るさが適切になるような露光制御量を決定する。露光制御部110はこの露光制御量に従って絞り101やシャッター102の速度を制御し、撮像素子103に入射する光の露光量を制御する。
尚、シーン検出処理により人物の顔等の検出情報が得られた場合、画像中央部の明るさではなく、検出された顔領域の明るさが適切になるように露光制御量の算出が行われる。
青空、自然の緑、夕景シーンが検出された場合については、特にシーンに対応した処理は行わず、前述したように画像中央部の明るさが適切になるような露出を設定する。
これらの関係は図5の露出の欄に示している。図5において「○」の項目、即ち「人物シーン」では、露出制御「自動」が設定された場合、前述した画像中央部の明るさが適切になるような露出制御ではなくシーンに特化した露出制御となることを示している。
【0054】
次に図4においてフォーカス制御(画像取得条件)のユーザ選択肢として「自動」、「マニュアル」がある。
ここでフォーカス制御「マニュアル」が設定された場合には、ユーザが任意に設定したフォーカス位置で撮影が行われる。
フォーカス制御「自動」が設定された場合には、例えば画面中央部の被写体に自動的にピントがあうように、コントラストオートフォーカス(以下コントラストAF)処理によりフォーカスが制御される。
このコントラストAF処理では、画像の着目部分のコントラストが最も高くなるように、測距制御部111によるフォーカス制御が行われる。具体的には、システム制御部113の指示に従い測距制御部111がフォーカスを徐々に変更しながら、画像処理部108で処理された画像のコントラストを解析することで行われる。
尚、シーン検出処理により人物の顔等の検出情報が得られた場合、その顔位置にピントを合わせるようにコントラストAF処理が行われる。
青空、自然の緑、夕景シーンが検出された場合については、特にシーンに対応した処理は行わず、前述したように画像中央部の被写体にピントが合うように制御される。
これらの関係は図5の「フォーカス」の欄に示している。図5において「○」の項目、即ち「人物シーン」では、フォーカス制御「自動」が設定された場合、前述した画像中央部の被写体にピントを合わせる制御ではなくシーンに特化したフォーカス制御となることを示している。
以上が、各機能の自動/固定モードの詳細説明である。
【0055】
ここで、本実施形態の特徴である、動画撮影時のシーン検出処理全体について説明する。
前述したように、例えばフレームレート30フレーム/秒の動画において、図2に示すように、2フレームに1回「青空シーン」、「自然の緑シーン」、「夕景シーン」の3つのシーンの検出処理を全て行うようにした場合、非常に演算負荷が重くなる。その結果、12フレームの期間内に全ての検出処理が完了できず、最悪の場合動画撮影が強制終了されてしまう。仮に、12フレームにて検出処理が終わるとしても、シーン検出に演算負荷を大きくとられ、他の処理が並行して行えないなどの弊害が出てしまうことが考えられる。
そこで、本実施形態では、明るさ補正、WB、色補正、露出制御、フォーカス制御のそれぞれの機能が自動モード、固定モードのいずれで設定されるかに応じて、シーン検出のシーン検出数を優先するかシーン検出速度を優先するかを選択する。すなわち、検出されるシーン特有の補正処理や制御などが発生する機能が自動設定の場合は、シーン検出数を優先し、そうでない場合は、シーン検出速度を優先する。
図12のフローチャートを参照して、本実施形態における動画撮影時のデジタルカメラ114のシーン検出処理全体の動作フローについて説明する。
尚、各機能の自動/固定処理の設定において、自動設定されている機能については、所定時間の周期(サイクル)で図12のフローチャートの動作とは別タスクとして並列処理されているものとする。具体的には明るさ補正、WB、色補正、露出、フォーカス各機能が自動モードで設定されている時は、各機能が別のタスクで並列処理される。例えばフレームレート30フレーム/秒で動画撮影されている場合、本実施形態では下記のサイクルで補正値の演算が行われるものとする。
【0056】
明るさ補正 ・・・12フレームに1回
ホワイトバランス ・・・12フレームに1回
色補正 ・・・12フレームに1回
露出 ・・・4フレームに1回
フォーカス ・・・2フレームに1回
尚、これらの機能の補正値演算は上記サイクルにて実施されるが、撮影時に各フレームに適用される補正量は1フレーム刻みで段階的に変化するように制御される。
例えば明るさ補正を例にあげると、補正する量の目標値は12フレームに1回演算されるが、1回の演算で次の演算までの12フレーム分の補正量が算出されるため、補正量は1フレーム刻みで段階的に変化する。その他の機能についても同様である。ただし、実施の形態としてはこの限りではなく、1フレーム当たりの補正量は適宜調整可能である。
【0057】
以上のような前提において、図12のシーン検出全体の動作フローを説明する。
まず撮影開始釦112が押下され撮影が開始されると、画像処理部108のシーン検出処理が開始される。
ステップS1201〜S1205は、まず各機能が自動/固定モードのいずれに設定されているかを判定し、その結果に応じてシーン検出処理を異ならせるステップである。ステップS1201で色補正の設定が自動であると判定された場合は、人物検出、青空検出、自然の緑検出、夕景検出全てのシーン検出を行うフローAへ進み、自動でない、すなわち固定であると判定された場合にはステップS1202へ進む。ステップS1202で明るさ補正の設定が自動であると判定された場合は、人物検出、夕景検出に絞ってシーン検出を行うフローBへ進み、自動でないと判定された場合はステップS1203へ進む。ステップS1203でWBの補正の設定が自動であると判定された場合はフローBへ進み、自動でないと判定された場合はステップS1204へ進む。ステップS1204で露出の制御の設定が自動であると判定された場合は、人物検出に絞ってシーン検出を行うフローCへ進み、自動でないと判定された場合は、ステップS1205へ進む。ステップS1205では、フォーカスの制御の設定が自動であると判定された場合はフローCへ進み、自動でないと判定された場合、すなわち5つの機能全てが固定モードであったときには、シーン検出の必要なしとしてシーン検出処理を終了する。
【0058】
人物検出、青空検出、自然の緑検出、夕景検出全てのシーン検出を行うフローAのフローについて説明する。ステップS1206でシーンフラグSに1がセットされる。次にステップS1207でフレーム数が12の倍数かどうかの判定が行われ、12の倍数の場合に次のステップに進む。この処理は12フレームに1回のサイクルで1つのシーンの検出処理を行うことを意味する。
【0059】
次にステップS1208でシーンフラグSの判定が行われる。ここでS=1であった場合、ステップS1209に進み人物検出処理を実行する。この人物検出処理方法については既に説明済みであるため、ここでの説明は割愛する。
【0060】
次にステップS1213に進み、シーンフラグSが6かどうかの判定を行う。今回は6ではないのでステップS1214に進み、シーンフラグSに1を加算する。次にステップS1215で撮影終了かどうかの判定が行われる。撮影が終了していなかった場合、再びステップS1207に戻り、フレーム数が12の倍数となるまで待機する。次にステップS1208でシーンフラグSを判定する。今回はシーンフラグSは2となっているので、ステップS1210に進み青空シーンの検出を行う。この青空シーン検出処理方法については既に説明済みであるため、ここでの説明は割愛する。
【0061】
次に再度ステップS1213でシーンフラグSが6かどうかの判定が行われる。ここでシーンフラグSが6となると再びステップS1206に戻りシーンフラグが1にセットされる。このようにステップS1206〜S1215の処理はステップS1215で撮影終了と判定されるまで繰り返される。
尚ステップS1208のシーンフラグ判定処理のみ繰り返される毎に処理が異なるのでステップS1208について詳細に説明する。
ステップS1208ではシーンフラグSが12フレームおきに1加算された数値が判定されることになる。下記にシーンフラグ毎の検出シーンを示した。
【0062】
シーンフラグS=1 ・・・人物検出(ステップS1209)
シーンフラグS=2 ・・・青空検出(ステップS1210)
シーンフラグS=3 ・・・人物検出(ステップS1209)
シーンフラグS=4 ・・・自然の緑検出(ステップS1211)
シーンフラグS=5 ・・・人物検出(ステップS1209)
シーンフラグS=6 ・・・夕景検出(ステップS1212)
尚、ステップS1209〜ステップS1212の各シーン検出方法の詳細については既に説明済みであるため、ここでは説明を割愛する。
本フローに従うと、人物シーンについては24フレームに1回、その他のシーンについては72フレームに1回の周期で検出されるようになっている。
【0063】
次に人物検出、夕景検出に絞ってシーン検出を行うフローBのフローを説明する。ステップS1216でシーンフラグSに1がセットされる。次にステップS1217でフレーム数が12の倍数かどうかの判定が行われ、12の倍数の場合に次のステップに進む。
【0064】
次にステップS1218でシーンフラグSの判定が行われる。ここでS=1であった場合、ステップS1209に進み人物検出処理を実行する。この人物検出処理方法については既に説明済みであるため、ここでの説明は割愛する。
【0065】
次にステップS1219でシーンフラグが2かどうかの判定を行う。この時点では1であるので、ステップS1220に進む。ステップS1220ではシーンフラグSに1を加算する。即ちシーンフラグSは2となる。次にステップS1221で撮影終了釦112が押下され撮影が終了したかどうかの判定が行われる。撮影が終了していなかった場合、再びステップS1217に戻り、フレーム数が12の倍数となるまで待機する。そして再度ステップS1218でシーンフラグSの判定が行われる。今回はシーンフラグが2となっているのでステップS1212の夕景検出処理が実施される。この夕景検出処理方法については既に説明済みであるため、ここでの説明は割愛する。次にステップS1219でシーンフラグが2かどうかの判定が行われる。今回はシーンフラグ2となっているため、ステップS1216に戻る。そして再度ステップS1216でシーンフラグSは1になる。このステップS1216から進んだS1221までの処理がステップS1221で撮影終了と判定されるまで繰り返し実施される。
即ちステップS1216から進んだS1221までの処理によれば、前期色補正の設定が固定であった場合には、人物検出処理と夕景検出処理をそれぞれ24フレームに1回のサイクルで実施する。
【0066】
次に人物検出に絞ってシーン検出を行うフローCのフローを説明する。フローCでは、ステップS1222でフレーム数が12の倍数かどうかの判定が行われ、12の倍数の場合に次のステップS1209に進む。ステップS1209では人物シーンの検出が行われ、次にステップS1223で撮影終了釦112が押下され撮影が終了したかどうかの判定が行われる。撮影が終了していなかった場合、再びステップS1222に戻り、フレーム数が12の倍数となるまで待機する。ステップS1223で撮影終了と判定された場合、シーン検出処理を終了する。
尚、前述したように、ここで説明した図12のフローと並行して、明るさ補正、ホワイトバランス、色補正、露出、フォーカス、の各機能の制御が別タスクとして行われており、図12のフローのシーン検出結果は随時最新の結果が各機能に反映される。
図3に第1の実施形態における図12に示したフローによる検出シーンサイクルをまとめた表を示した。
図3(a)の検出シーンサイクルの表がフローAの処理に対応している。
また、図3(b)の検出シーンサイクルの表がフローBの処理に対応している。
また、図3(c)の検出シーンサイクルの表がフローCの処理に対応している。
図3から分かるように、フローAの場合は、検出速度よりも検出シーン数を優先し、人物、青空、自然の緑、夕景の4つのシーンをそれぞれ72フレームに1回のサイクルで検出している。但し、人物シーンについては、図5に示すように特に応答速度が要求される露出やフォーカスの制御に用いられる為、他のシーンよりも短い24フレームに1回のサイクルで検出するようにしている。
フローBの場合は、検出速度を優先し、人物シーンと夕景シーンのみをそれぞれ24フレームに1回のサイクルで検出している。これは図5に示したように青空と自然の緑シーン検出結果は色補正処理のみで使用されるのでこのような処理が可能となっている。フローBの夕景シーンの検出サイクルは、24フレームに1回と、フローAよりも短くなっている(検出速度が速くなっている)ことがわかる。
フローCの場合も、フローBと同様に検出速度を優先し、人物シーンのみを12フレームに1回のサイクルで検出している。これは図5に示したように人物シーン以外のシーン検出結果は露出制御及びフォーカス制御に使用されないのでこのような処理が可能となっている。フローCの人物シーンの検出サイクルは、12フレームに1回と、フローA、Bよりも短くなっている(検出速度が速くなっている)ことがわかる。
【0067】
以上のように、本実施形態では、撮影条件に応じてシーン検出の検出速度を優先した処理と検出シーン数を優先した処理を効果的に行うことで、シーン検出による演算負荷を軽減しつつ、より正確なシーン検出に対応した補正処理及び撮影制御を可能にする。
本実施形態では、人物、青空、自然の緑、夕景の4つのシーンを検出候補としているが、本発明はこれに限らず、検出候補とするシーンは本実施形態より多くても少なくても良い。例えば、本実施形態に比べて人物シーンの検出を行わないときの、各シーンの検出シーンサイクルの表を示した。図16に示すように色補正処理が自動設定の場合、検出シーン数を優先し、各シーンが36フレームに1回のサイクルで検出処理される。一方、色補正処理が固定設定の場合、検出速度を優先し、夕景シーンのみが12フレームに1回のサイクルで検出処理される。
【0068】
(他の実施形態)
本発明の目的は以下のようにしても達成できる。すなわち、前述した各実施形態の機能を実現するための手順が記述されたソフトウェアのプログラムコードを記録した記憶媒体を、システムまたは装置に供給する。そしてそのシステムまたは装置のコンピュータ(またはCPU、MPU等)が記憶媒体に格納されたプログラムコードを読み出して実行するのである。
この場合、記憶媒体から読み出されたプログラムコード自体が本発明の新規な機能を実現することになり、そのプログラムコードを記憶した記憶媒体およびプログラムは本発明を構成することになる。
【0069】
また、プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスクなどが挙げられる。また、CD−ROM、CD−R、CD−RW、DVD−ROM、DVD−RAM、DVD−RW、DVD−R、磁気テープ、不揮発性のメモリカード、ROM等も用いることができる。
また、コンピュータが読み出したプログラムコードを実行可能とすることにより、前述した各実施形態の機能が実現される。さらに、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した各実施形態の機能が実現される場合も含まれる。
【0070】
更に、以下の場合も含まれる。まず記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行う。
【符号の説明】
【0071】
100 レンズ
101 絞り
102 シャッター
103 撮像素子
104 A/D変換器
105 タイミング発生部
106 メモリ制御部
107 メモリ
108 画像処理部
109 外部記憶装置
110 露光制御部
111 測距制御部
112 撮影開始釦
113 システム制御部
114 画像処理装置
114 操作部
【特許請求の範囲】
【請求項1】
複数フレームの画像データを取得する画像取得手段と、
予め設定された複数のシーンの中から、前記画像データに該当するシーンを検出するシーン検出手段と、
前記シーン検出手段による検出結果に応じて複数の画像取得条件または複数の画像処理条件の設定を自動で行う条件設定手段と、
前記条件設定手段によって設定を自動で行う画像取得条件または画像処理条件を指定する指定手段と、を有し、
前記条件設定手段によって設定される条件は、前記予め設定された複数のシーンの中の第1のシーン、第2のシーン、第3のシーンそれぞれで固有の設定がなされる第1の条件と、
前記第1のシーンでは他のシーンとは異なる固有の設定がなされ、前記第2のシーン及び第3のシーンでは同じ設定がなされる第2の条件と、を含み、
前記シーン検出手段は、前記指定手段によって前記第1の条件が指定される場合、前記第1のシーンを所定の周期で検出し、
前記指定手段によって前記第1の条件が指定されず、かつ前記第2の条件が指定される場合、前記第1のシーンを検出する周期を前記所定の周期よりも短くすることを特徴とする画像処理装置。
【請求項2】
前記シーン検出手段は、
前記指定手段によって前記第1の条件が指定される場合、前記第2のシーン及び第3のシーンを検出し、
前記指定手段によって前記第1の条件が指定されず、かつ前記第2の条件が指定される場合、前記第2のシーン及び第3のシーンを検出しないことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記複数の画像取得条件は、露出制御の条件、フォーカス制御の条件のうち少なくとも1つを含むことを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記複数の画像処理条件は、ゲインまたはコントラスト補正曲線による明るさ補正の条件、ホワイトバランス処理の条件、色補正の条件の少なくとも1つを含むことを特徴とする請求項1乃至3のいずれか1つに記載の画像処理装置。
【請求項5】
前記第1の条件は色補正の条件であり、
前記第1のシーンは夕景シーン、前記第2のシーンは自然の緑のシーンあるいは青空シーンであることを特徴とする請求項1乃至4のいずれか1つに記載の画像処理装置。
【請求項6】
前記色補正の条件は、前記画像データに対して3次元ルックアップテーブルにより色補正が行われる色補正処理において用いられる前記3次元ルックアップテーブルを設定することであることを特徴とする請求項5に記載の画像処理装置。
【請求項7】
前記シーン検出手段は、前記夕景シーンを、前記画像データをブロック分割し、色空間上で第1の領域の中にあるブロックの、前記画像データの全ブロックに占める割合に基づいて判定することを特徴とする請求項5または6に記載の画像処理装置。
【請求項8】
前記シーン検出手段は、前記自然の緑のシーンを、前記画像データをブロック分割し、色空間上で第2の領域の中にあるブロックの、前記画像データの全ブロックに占める割合に基づいて判定することを特徴とする請求項5乃至7のいずれか1つに記載の画像処理装置。
【請求項9】
前記シーン検出手段は、前記青空シーンを、前記画像データをブロック分割し、色空間上で第3の領域の中にあるブロックの、前記画像データの全ブロックに占める割合に基づいて判定することを特徴とする請求項5乃至8のいずれか1つに記載の画像処理装置。
【請求項10】
前記第2の条件はゲインまたはコントラスト補正曲線による明るさ補正、あるいはホワイトバランスの処理の設定であることを特徴とする請求項5に記載の画像処理装置。
【請求項11】
複数フレームの画像データを取得する画像取得ステップと、
予め設定された複数のシーンの中から、前記画像データに該当するシーンを検出するシーン検出ステップと、
前記シーン検出ステップによる検出結果に応じて複数の画像取得条件または複数の画像処理条件の設定を自動で行う条件設定ステップと、
前記条件設定ステップにて設定が自動で行われる画像取得条件または画像処理条件を指定する指定ステップと、を有し、
前記条件設定ステップにて設定される条件は、前記予め設定された複数のシーンの中の第1のシーン、第2のシーン、第3のシーンそれぞれで固有の設定がなされる第1の条件と、
前記第1のシーンでは他のシーンとは異なる固有の設定がなされ、前記第2のシーン及び第3のシーンでは同じ設定がなされる第2の条件と、を含み、
前記シーン検出ステップでは、前記指定ステップにて前記第1の条件が指定される場合、前記第1のシーンを所定の周期で検出し、
前記指定ステップによって前記第1の条件が指定されず、かつ前記第2の条件が指定される場合、前記第1のシーンを検出する周期を前記所定の周期よりも短くすることを特徴とする画像処理装置の制御方法。
【請求項12】
請求項11に記載の画像処理装置の制御方法の手順が記述されたコンピュータで実行可能なプログラム。
【請求項13】
請求項11に記載の画像処理装置の制御方法の手順が記述されたプログラムが記憶されたコンピュータが読み取り可能な記憶媒体。
【請求項1】
複数フレームの画像データを取得する画像取得手段と、
予め設定された複数のシーンの中から、前記画像データに該当するシーンを検出するシーン検出手段と、
前記シーン検出手段による検出結果に応じて複数の画像取得条件または複数の画像処理条件の設定を自動で行う条件設定手段と、
前記条件設定手段によって設定を自動で行う画像取得条件または画像処理条件を指定する指定手段と、を有し、
前記条件設定手段によって設定される条件は、前記予め設定された複数のシーンの中の第1のシーン、第2のシーン、第3のシーンそれぞれで固有の設定がなされる第1の条件と、
前記第1のシーンでは他のシーンとは異なる固有の設定がなされ、前記第2のシーン及び第3のシーンでは同じ設定がなされる第2の条件と、を含み、
前記シーン検出手段は、前記指定手段によって前記第1の条件が指定される場合、前記第1のシーンを所定の周期で検出し、
前記指定手段によって前記第1の条件が指定されず、かつ前記第2の条件が指定される場合、前記第1のシーンを検出する周期を前記所定の周期よりも短くすることを特徴とする画像処理装置。
【請求項2】
前記シーン検出手段は、
前記指定手段によって前記第1の条件が指定される場合、前記第2のシーン及び第3のシーンを検出し、
前記指定手段によって前記第1の条件が指定されず、かつ前記第2の条件が指定される場合、前記第2のシーン及び第3のシーンを検出しないことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記複数の画像取得条件は、露出制御の条件、フォーカス制御の条件のうち少なくとも1つを含むことを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記複数の画像処理条件は、ゲインまたはコントラスト補正曲線による明るさ補正の条件、ホワイトバランス処理の条件、色補正の条件の少なくとも1つを含むことを特徴とする請求項1乃至3のいずれか1つに記載の画像処理装置。
【請求項5】
前記第1の条件は色補正の条件であり、
前記第1のシーンは夕景シーン、前記第2のシーンは自然の緑のシーンあるいは青空シーンであることを特徴とする請求項1乃至4のいずれか1つに記載の画像処理装置。
【請求項6】
前記色補正の条件は、前記画像データに対して3次元ルックアップテーブルにより色補正が行われる色補正処理において用いられる前記3次元ルックアップテーブルを設定することであることを特徴とする請求項5に記載の画像処理装置。
【請求項7】
前記シーン検出手段は、前記夕景シーンを、前記画像データをブロック分割し、色空間上で第1の領域の中にあるブロックの、前記画像データの全ブロックに占める割合に基づいて判定することを特徴とする請求項5または6に記載の画像処理装置。
【請求項8】
前記シーン検出手段は、前記自然の緑のシーンを、前記画像データをブロック分割し、色空間上で第2の領域の中にあるブロックの、前記画像データの全ブロックに占める割合に基づいて判定することを特徴とする請求項5乃至7のいずれか1つに記載の画像処理装置。
【請求項9】
前記シーン検出手段は、前記青空シーンを、前記画像データをブロック分割し、色空間上で第3の領域の中にあるブロックの、前記画像データの全ブロックに占める割合に基づいて判定することを特徴とする請求項5乃至8のいずれか1つに記載の画像処理装置。
【請求項10】
前記第2の条件はゲインまたはコントラスト補正曲線による明るさ補正、あるいはホワイトバランスの処理の設定であることを特徴とする請求項5に記載の画像処理装置。
【請求項11】
複数フレームの画像データを取得する画像取得ステップと、
予め設定された複数のシーンの中から、前記画像データに該当するシーンを検出するシーン検出ステップと、
前記シーン検出ステップによる検出結果に応じて複数の画像取得条件または複数の画像処理条件の設定を自動で行う条件設定ステップと、
前記条件設定ステップにて設定が自動で行われる画像取得条件または画像処理条件を指定する指定ステップと、を有し、
前記条件設定ステップにて設定される条件は、前記予め設定された複数のシーンの中の第1のシーン、第2のシーン、第3のシーンそれぞれで固有の設定がなされる第1の条件と、
前記第1のシーンでは他のシーンとは異なる固有の設定がなされ、前記第2のシーン及び第3のシーンでは同じ設定がなされる第2の条件と、を含み、
前記シーン検出ステップでは、前記指定ステップにて前記第1の条件が指定される場合、前記第1のシーンを所定の周期で検出し、
前記指定ステップによって前記第1の条件が指定されず、かつ前記第2の条件が指定される場合、前記第1のシーンを検出する周期を前記所定の周期よりも短くすることを特徴とする画像処理装置の制御方法。
【請求項12】
請求項11に記載の画像処理装置の制御方法の手順が記述されたコンピュータで実行可能なプログラム。
【請求項13】
請求項11に記載の画像処理装置の制御方法の手順が記述されたプログラムが記憶されたコンピュータが読み取り可能な記憶媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2012−165049(P2012−165049A)
【公開日】平成24年8月30日(2012.8.30)
【国際特許分類】
【出願番号】特願2011−21697(P2011−21697)
【出願日】平成23年2月3日(2011.2.3)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成24年8月30日(2012.8.30)
【国際特許分類】
【出願日】平成23年2月3日(2011.2.3)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]