説明

画像処理装置と画像処理方法およびプログラム

【課題】特定色の色領域を正しく容易に抽出できるようにする。
【解決手段】色温度推定部21は、撮像時における光源の色温度を推定する。ホワイトバランス調整部22は、推定された色温度が所定の色温度範囲内である場合に、推定された色温度に基づいてホワイトバランスを調整する第1のホワイトバランス調整と、推定された色温度が所定の色温度範囲内でない場合であっても、推定された色温度に基づいてホワイトバランスを調整する第2のホワイトバランス調整を行う。色領域抽出部23は、第2のホワイトバランス調整が行われた画像信号を用いて、特定色の色領域を抽出する。第2のホワイトバランス調整が行われた画像信号を用いて特定色の色領域の抽出を行うことから、色温度毎に所定色を検出する際の輝度信号及び色信号の閾値を予め用意しなくとも、光源の色温度にかかわらず特定色の色領域を正しく容易に抽出できる。

【発明の詳細な説明】
【技術分野】
【0001】
この発明は、画像処理装置と画像処理方法およびプログラムに関する。詳しくは、特定色の色領域を正しく容易に抽出できるようにする。
【背景技術】
【0002】
従来、撮像画像から特定色の色領域を抽出する場合、光源の影響を受けて特定色の色領域を正しく抽出できないことがある。例えば、タングステン灯などの低色温度光源下で撮像を行うことにより得られた撮像画像から黄色や赤色の色領域を抽出する場合、無彩色な領域が光源の影響を受けて抽出対象となってしまう。このため、特許文献1では、特定色の色領域を検出する際に、色温度情報に応じて、特定色を検出する際の輝度信号と色信号の閾値を変更することが行われている。
【0003】
また、光源の影響を補正するため、撮像装置等ではホワイトバランス調整機能が設けられている。このため、特許文献2では、特定色の色領域に対して画像処理を施す際に、ホワイトバランスによる白色点の変化に応じて、外部からの指定に応じた色領域を変化させることが行われている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−170966号公報
【特許文献2】特開2005−333433号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、色温度情報に応じて、特定色を検出する際の輝度信号と色信号の閾値を変更する場合、色温度情報に基づき閾値をどのように変更するかを示す変更情報、または色温度毎の閾値を予め用意しておかなければならない。また、ホワイトバランスによる白色点の変化に応じて色領域を変化させる場合でも、白色点の変化に応じて色領域をどのように変化させるかを示す変更情報を予め用意しておく必要がある。すなわち、色領域を抽出するためには多くの情報を予め用意しておく必要があり、光源の色温度によらず特定色の色領域を抽出することは容易でない。
【0006】
そこで、本技術では、特定色の色領域を正しく容易に抽出できる画像処理装置と画像処理方法およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
本技術の第1の側面は、撮像時における光源の色温度を推定する色温度推定部と、前記推定された色温度が所定の色温度範囲内である場合に、前記推定された色温度に基づいて画像信号のホワイトバランスを調整する第1のホワイトバランス調整と、前記推定された色温度が前記所定の色温度範囲内でないであっても、前記推定された色温度に基づいて前記画像信号のホワイトバランスを調整する第2のホワイトバランス調整を行うホワイトバランス調整部と、前記第2のホワイトバランス調整が行われた画像信号を用いて、特定色の色領域を抽出する色領域抽出部とを有する画像処理装置にある。
【0008】
本技術においては、撮像時における光源の色温度が推定される。例えば、撮像画像の画像信号に基づいて、あるいは色温度センサ等を用いて色温度が推定される。第1のホワイトバランス調整では、推定された色温度が所定の色温度範囲内である場合に、推定された色温度に基づいて画像信号のホワイトバランスの調整が行われる。また、第2のホワイトバランス調整では、推定された色温度が所定の色温度範囲内でない場合であっても、推定された色温度に基づいて前記画像信号のホワイトバランスの調整が行われる。この第2のホワイトバランス調整が行われた画像信号を用いて、特定色の色領域の抽出が行われる。また、ホワイトバランスの調整が行われた画像信号を用いて、色領域の抽出結果に基づき画像調整、例えば抽出された色領域または抽出された色領域を除く他の領域に対して、輝度と彩度と鮮鋭度の少なくとも何れかの調整が行われる。ホワイトバランスの調整が行われた画像信号としては、例えば第1のホワイトバランス調整が行われた画像信号が用いられる。さらに、抽出する領域の特定色は、ユーザ操作に応じて設定される。
【0009】
本技術の第2の側面は、撮像時における光源の色温度を推定する工程と、前記推定された色温度が所定の色温度範囲内である場合に、前記推定された色温度に基づいて画像信号のホワイトバランスを調整する第1のホワイトバランス調整と、前記推定された色温度が前記所定の色温度範囲内でない場合であっても、前記推定された色温度に基づいて前記画像信号のホワイトバランスを調整する第2のホワイトバランス調整を行う工程と、前記第2のホワイトバランス調整が行われた画像信号を用いて、特定色の色領域を抽出する工程とを有する画像処理装置にある。
【0010】
本技術の第3の側面は、画像処理をコンピュータで実行させるプログラムであって、撮像時における光源の色温度が所定の色温度範囲内である場合に、前記色温度に基づいて画像信号のホワイトバランスを調整する第1のホワイトバランス調整と、前記色温度が前記所定の色温度範囲内でない場合であっても、前記色温度に基づいて前記画像信号のホワイトバランスを調整する第2のホワイトバランス調整を行う手順と、前記第2のホワイトバランス調整が行われた画像信号を用いて、特定色の色領域を抽出する手順とを前記コンピュータで実行させるプログラムにある。
【0011】
なお、本技術のプログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、光ディスクや磁気ディスク、半導体メモリなどの記憶媒体、あるいは、ネットワークなどの通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ・システム上でプログラムに応じた処理が実現される。
【発明の効果】
【0012】
本技術によれば、撮像時における光源の色温度が推定される。この推定された色温度が所定の色温度範囲内である場合に、推定された色温度に基づいて画像信号のホワイトバランスを調整する第1のホワイトバランス調整が行われる。また、推定された色温度が所定の色温度範囲内でない場合であっても、推定された色温度に基づいて画像信号のホワイトバランスを調整する第2のホワイトバランス調整が行われる。さらに、第2のホワイトバランス調整が行われた画像信号を用いて、特定色の色領域の抽出が行われる。このように、第2のホワイトバランス調整が行われた画像信号を用いて特定色の色領域の抽出が行われることから、色温度情報に基づき閾値をどのように変更するかを示す変更情報または色温度毎の閾値等を予め用意しなくとも、光源の色温度にかかわらず特定色の色領域を正しく容易に抽出できる。
【図面の簡単な説明】
【0013】
【図1】撮像装置の構成を例示した図である。
【図2】第1の実施の形態の動作を示すフローチャートである。
【図3】所定の色温度範囲を示す図である。
【図4】色差信号Cb,Crを用いたときの色判定基準を例示した図である。
【図5】画像調整動作を説明するための図である。
【図6】第2の実施の形態の動作を示すフローチャートである。
【図7】第2の実施の形態の動作を説明するための図である。
【発明を実施するための形態】
【0014】
以下、発明を実施するための形態について説明する。なお、説明は以下の順序で行う。
1.撮像装置の構成
2.第1の実施の形態の動作
3.第2の実施の形態の動作
【0015】
<1.撮像装置の構成>
図1は、本技術の画像処理装置を用いた撮像装置の構成を例示している。撮像装置10は、撮像光学系11、撮像部12、前処理部13、色温度推定部21、ホワイトバランス調整部22、色領域抽出部23、画像調整部24、後処理部31、エンコード部32、出力部33、制御部40、ユーザインタフェース部41を有している。なお、色温度推定部21、ホワイトバランス調整部22、色領域抽出部23、画像調整部24は、本技術の画像処理装置を構成する。
【0016】
撮像光学系11は、レンズを主体として構成されており、図示しない被写体の光学像を撮像部12の受光面に結像させる。
【0017】
撮像部12は、CMOS(Complementary Metal-Oxide Semiconductor )やCCD(Charge Coupled Device)等の固体撮像素子を用いて構成されている。撮像部12は、撮像光学系11によって受光面に結像された光学像に応じた撮像信号を生成して前処理部13に出力する
前処理部13は、撮像部12から供給された撮像信号に対して相関二重サンプリング処理(CDS:Correlated Double Sampling)やアナログ増幅処理、A/D変換処理等を行って色温度推定部21に出力する。
【0018】
色温度推定部21は、前処理部13から供給された撮像信号を用いてホワイトバランス制御のための信号成分検出を行い、その検波結果に基づいて撮像画像生成時における光源の色温度を推定する。また、色温度推定部21は、撮像信号を用いて撮像画像生成時における光源の色温度を推定する場合に限らず、例えば色温度センサを用いて撮像画像生成時における光源の色温度を推定してもよい。
【0019】
ホワイトバランス調整部22は、色温度推定部21で推定された色温度に基づきホワイトバランスゲインを設定して、設定したホワイトバランスゲインで各色信号の信号レベルを調整することでホワイトバランス調整を行う。また、ホワイトバランス調整部22は、推定された色温度が所定の色温度範囲内である場合に、推定された色温度にホワイトバランスを追従させる第1のホワイトバランス調整を行う。さらに、ホワイトバランス調整部22は、推定された色温度が所定の色温度範囲内だけでなく色温度範囲内でない場合にも、推定された色温度にホワイトバランスを追従させる第2のホワイトバランス調整を行う。ホワイトバランス調整部22は、第2のホワイトバランス調整後の画像信号を色領域抽出部23に出力する。また、ホワイトバランス調整部22は、第1のホワイトバランス調整後の画像信号または第2のホワイトバランス調整後の画像信号を画像調整部24に出力する。なお、ホワイトバランス調整部22は、色領域抽出部23で特定色の色領域を抽出する場合に、第2のホワイトバランス調整を行うようにしてもよい。
【0020】
色領域抽出部23は、第2のホワイトバランス調整後の画像信号を用いて、撮像画像における特定色の色領域を抽出して抽出結果を画像調整部24に出力する。
【0021】
画像調整部24は、ホワイトバランス調整が行われた画像信号に対して、色領域の抽出結果に基づいた画像調整を行う。例えば色領域の抽出結果に基づき、抽出された色領域または抽出された色領域を除く他の色領域に対して、彩度と輝度および鮮鋭度の少なくとも何れかの調整を行う。画像調整部24は、画像調整後の画像信号を後処理部31に出力する。また、画像調整部24は、彩度と輝度および鮮鋭度の少なくとも何れかの調整に限らず、他の画像調整を行うようにしてもよい。
【0022】
後処理部31は、画像調整部24から出力された画像信号を用いて後処理を行う。後処理部31は、後処理として例えば撮像画像のサイズ変更を行うリサイズ処理、撮像画像の向きを変える回転処理、撮像画像の反転処理等を行う。後処理部31は、後処理後の画像信号をエンコード部32に出力する。
【0023】
エンコード部32は、後処理部31から供給された画像信号を圧縮符号化して、所定形式の符号化データを生成する。例えば、エンコード部32は、JPEGやMPEG等の方式を用いて圧縮符号化を行い、符号化データを生成して出力部33に出力する。
【0024】
出力部33は、エンコード部32から供給された符号化データを外部に出力する処理を行う。例えば符号化データを外部機器に供給したり、記憶媒体に記録する処理を行う。
【0025】
制御部40にはユーザインタフェース(I/F)部41が接続されている。ユーザインタフェース部41は、ユーザからの操作入力を受け付けるものであり、電源スイッチやシャッターキー、ズームキー等の各種の操作キー、メニュー表示やメニュー項目の選択および各種設定を行うための操作キー等が設けられている。さらに、ユーザインタフェース部41では、色領域抽出部23で抽出する色領域の特定色を指定する操作や、画像調整部24でどのような画像調整を行うか指定する操作、後処理部31でどのような後処理を行うか指定する操作等が行われる。ユーザインタフェース部41は、ユーザ操作に応じた操作信号を制御部40に出力する。
【0026】
制御部40は、マイクロコンピュータ等を用いて構成されており、記憶しているプログラムを実行して、撮像装置10の動作がユーザ操作に応じた動作となるように操作信号に基づいて各部を制御する。
【0027】
<2.第1の実施の形態の動作>
図2は、画像処理装置の第1の実施の形態の動作を示すフローチャートである。ステップST1で色温度推定部21は、色温度推定を行う。色温度推定部21は、撮像画像生成時における光源の色温度を推定してステップST2に進む。
【0028】
ステップST2でホワイトバランス調整部22は、推定した色温度が所定の色温度範囲内であるか判別する。ホワイトバランス調整部22は、推定した色温度が所定の色温度範囲内にある場合、ステップST3に進む。また、ホワイトバランス調整部22は、推定した色温度が所定の色温度範囲内にない場合、すなわち、推定した色温度が所定の色温度範囲よりも低い温度または高い温度である場合、ステップST4に進む。
【0029】
ステップST3でホワイトバランス調整部22は、推定した色温度を第1色温度と第2色温度に設定してステップST7に進む。なお、第1色温度は、第1のホワイトバランス調整を行う場合に用いられる撮像画像生成時の光源の色温度とする。また、第2色温度は、第2のホワイトバランス調整を行う場合に用いられる撮像画像生成時における光源の色温度とする。なお、第1色温度と第2色温度は、同じ推定値である。
【0030】
ステップST4でホワイトバランス調整部22は、推定した色温度が所定の色温度範囲よりも低い色温度か判別する。ホワイトバランス調整部22は、推定した色温度が所定の色温度範囲よりも低い色温度である場合、ステップST5に進む。また、ホワイトバランス調整部22は、推定した色温度が所定の色温度範囲よりも高い色温度である場合、ステップST6に進む。
【0031】
ステップST5でホワイトバランス調整部22は、範囲下限色温度を第1色温度、推定した色温度を第2色温度に設定してステップST7に進む。なお、範囲下限色温度は、図3に示すように、所定の色温度範囲の下限を示す色温度である。
【0032】
ステップST6でホワイトバランス調整部22は、範囲上限色温度を第1色温度、推定した色温度を第2色温度に設定してステップST7に進む。なお、図3に示すように、範囲上限色温度は、所定の色温度範囲の上限を示す色温度である。
【0033】
ステップST7でホワイトバランス調整部22は、色領域の抽出を行うか判別する。ホワイトバランス調整部22は、色領域抽出部23が特定色の色領域を抽出するように設定されている場合、ステップST8に進み、色領域を抽出するように設定されていない場合、ステップST12に進む。
【0034】
ステップST8でホワイトバランス調整部22は、第2のホワイトバランス調整を行う。ホワイトバランス調整部22は、撮像画像生成時における光源の色温度が第2色温度であるとして、ホワイトバランスゲインを設定して各色信号の信号レベルを調整することで第2のホワイトバランス調整を行いステップST9に進む。
【0035】
ステップST9でホワイトバランス調整部22は、信号変換を行う。ホワイトバランス調整部22は、例えば三原色の画像信号を用いてホワイトバランス調整を行った場合、ホワイトバランス調整後の三原色の画像信号を輝度信号と色差信号に変換してステップST10に進む。なお、ステップST9の信号変換は、ホワイトバランス調整部22から出力される画像信号と、色領域抽出部23で特定色の色領域を抽出する場合に用いる画像信号の信号方式が異なる場合に設けられる処理である。したがって、ホワイトバランス調整部22から出力される画像信号と、色領域抽出部23で特定色の色領域を抽出する場合に用いる画像信号の信号方式が等しい場合、ステップST9の処理を設ける必要はない。例えばホワイトバランス調整が行われた三原色の画像信号を用いて色領域を抽出する場合、または輝度信号と色差信号を用いてホワイトバランス調整を行う場合、ステップST9の信号変換は不要となる。
【0036】
ステップST10で色領域抽出部23は、色領域の抽出を行う。色領域抽出部23は第2のホワイトバランス調整が行われた画像信号を用いて、撮像画像における特定色の色領域を抽出してステップST11に進む。ここで、色領域抽出部23で用いる画像信号は、第2のホワイトバランス調整が行われた画像信号、すなわち、推定した色温度が所定の色温度範囲内でない場合でも、正しくホワイトバランス調整が行われた画像信号、すなわち推定した色温度に応じてホワイトバランス調整が行われた画像信号である。したがって、色領域抽出部23は、第2のホワイトバランス調整が行われた画像信号と、予め設定されている特定色の色判定基準を比較して正しく特定色の色領域を抽出できる。図4は、色差信号Cb,Crを用いたときの色判定基準を例示している。色領域抽出部23は、特定色を切り替え可能として、例えばユーザが特定色として「青」を選択した場合、色差信号Cb,Crが「青」の範囲となる画像の領域を抽出する。また、例えばユーザが特定色として「黄」を選択した場合、色差信号Cb,Crが「黄」の範囲となる画像の領域を抽出する。さらに、図示せずも肌色の色判定基準を設けて、人物の顔や手等の領域を自動的に抽出するようにしてもよい。また、第2のホワイトバランス調整が行われた画像信号を用いていることから、色判定基準を色温度毎に設ける必要がなく、特定色の色領域の抽出を容易に行うことができる。
【0037】
ステップST11で画像調整部24は、画像調整を行う。画像調整部24は、色領域の抽出結果に基づき、抽出された色領域または抽出された色領域を除く他の色領域に対して調整を行う。例えば、画像調整部24は、抽出された色領域を除く他の領域に対して、彩度と低下させて無彩色とすれば、いわゆるパーシャルカラーの画像を生成できる。また、抽出された色領域の輝度を調整してコントラストを高めることで、図5の(A)に示す撮像画像から、図5の(B)に示すように、偏光フィルタを利用したような撮像画像を生成できる。さらに、輝度や彩度に限らず、鮮鋭度を調整してもよい、例えば抽出された色領域を除く他の領域に対して、鮮鋭度を低下させる処理を行えば、特定色の色領域の被写体にフォーカスを合わせたような撮像画像を生成することができる。
【0038】
ステップST7で色領域の抽出を行わないと判別されてステップST12に進むと、ホワイトバランス調整部22は、第1のホワイトバランス調整を行う。ホワイトバランス調整部22は、撮像画像生成時における光源の色温度が第1色温度であるとして、ホワイトバランスゲインを設定して各色信号の信号レベルを調整することで第1のホワイトバランス調整を行いステップST13に進む。すなわち、第1のホワイトバランス調整では、推定した色温度が所定の色温度範囲内である場合、色温度に追従してホワイトバランス調整が行われる。また、第1のホワイトバランス調整では、推定した色温度が所定の色温度範囲よりも低い温度である場合、色温度を範囲下限色温度としてホワイトバランス調整が行われる。さらに、第1のホワイトバランス調整では、推定した色温度が所定の色温度範囲よりも高い温度である場合、色温度を範囲上限色温度としてホワイトバランス調整が行われる。したがって、推定した色温度が所定の色温度範囲内でない場合、第1のホワイトバランス調整が行われた画像信号に基づく画像は、光源の雰囲気を残した画像となる。
【0039】
ステップST13でホワイトバランス調整部22は、信号変換を行う。ホワイトバランス調整部22は、例えば三原色の画像信号を用いてホワイトバランス調整を行った場合、ホワイトバランス調整後の三原色の画像信号を輝度信号と色差信号に変換する。なお、ステップST13の信号変換は、ホワイトバランス調整部22から出力される画像信号と、後処理部31で後処理に用いる画像信号の信号方式が異なる場合に設けられる処理である。したがって、ホワイトバランス調整部22から出力される画像信号と、後処理部31で後処理に用いる画像信号の信号方式が等しい場合、ステップST13の処理を設ける必要はない。
【0040】
このように、色領域抽出部23は、第2のホワイトバランス調整が行われた画像信号を用いて色領域の抽出を行う。すなわち、推定された色温度が所定の色温度範囲内にない場合でも、推定された色温度に応じてホワイトバランス調整が行われて、ホワイトバランス調整が行われた画像信号を用いて色領域の抽出が行われる。したがって、色温度情報に基づき閾値をどのように変更するかを示す変更情報または色温度毎の閾値等を予め用意しなくとも、光源の色温度にかかわらず特定色の色領域を正しく容易に抽出できる。
【0041】
また、第2のホワイトバランス調整が行われた画像信号に対して、特定色の色領域の判別結果に応じて画像調整を行うことで、推定した色温度に応じてホワイトバランスが調整された画像で画像調整の処理結果を確認することが可能となる。
【0042】
なお、色領域の抽出を行わない場合、第1のホワイトバランス調整が行われるので、推定された色温度が所定の色温度範囲よりも低い場合や高い場合、光源の色味を残した画像を生成できる。
【0043】
<3.第2の実施の形態の動作>
ところで、第1の実施の形態の動作では、第2のホワイトバランス調整が行われた画像信号に対して、色領域の判別結果に基づき画像調整を行っている。しかし、色領域の判別結果に基づいて、第1のホワイトバランス調整が行われた画像信号に対して画像調整を行えば、光源の雰囲気を残した画像に対して、特定色の色領域の判別結果に応じて画像調整が行われた画像を生成できる。以下、第2の実施の形態では、色領域の判別結果に基づいて、第1のホワイトバランス調整が行われた画像信号に対して画像調整を行う場合について説明する。
【0044】
図6は、画像処理装置の第2の実施の形態の動作を示すフローチャートである。ステップST21で色温度推定部21は、色温度推定を行う。色温度推定部21は、撮像画像生成時における光源の色温度を推定してステップST22に進む。
【0045】
ステップST22でホワイトバランス調整部22は、推定した色温度が所定の色温度範囲内であるか判別する。ホワイトバランス調整部22は、推定した色温度が所定の色温度範囲内にある場合、ステップST23に進む。また、ホワイトバランス調整部22は、推定した色温度が所定の色温度範囲内にない場合、すなわち、推定した色温度が所定の色温度範囲よりも低い温度または高い温度である場合、ステップST24に進む。
【0046】
ステップST23でホワイトバランス調整部22は、推定した色温度を第1色温度と第2色温度に設定してステップST27に進む。第1色温度は、第1のホワイトバランス調整を行う場合に用いられる撮像画像生成時の光源の色温度とする。また、第2色温度は、第2のホワイトバランス調整を行う場合に用いられる撮像画像生成時における光源の色温度とする。なお、第1色温度と第2色温度は、同じ推定値である。
【0047】
ステップST24でホワイトバランス調整部22は、推定した色温度が所定の色温度範囲よりも低い色温度か判別する。ホワイトバランス調整部22は、推定した色温度が所定の色温度範囲よりも低い色温度である場合、ステップST25に進む。また、ホワイトバランス調整部22は、推定した色温度が所定の色温度範囲よりも高い色温度である場合、ステップST26に進む。
【0048】
ステップST25でホワイトバランス調整部22は、範囲下限色温度を第1色温度、推定した色温度を第2色温度に設定してステップST27に進む。範囲下限色温度は、所定の色温度範囲の下限を示す色温度である。
【0049】
ステップST26でホワイトバランス調整部22は、範囲上限色温度を第1色温度、推定した色温度を第2色温度に設定してステップST27に進む。範囲上限色温度は、所定の色温度範囲の上限を示す色温度である。
【0050】
ステップST27でホワイトバランス調整部22は、色領域の抽出を行うか判別する。ホワイトバランス調整部22は、色領域抽出部23が特定色の色領域を抽出するように設定されている場合、ステップST28に進み、色領域を抽出するように設定されていない場合、ステップST34に進む。
【0051】
ステップST28でホワイトバランス調整部22は、第2のホワイトバランス調整を行う。ホワイトバランス調整部22は、撮像画像生成時における光源の色温度が第2色温度であるとして、ホワイトバランスゲインを設定して各色信号の信号レベルを調整することで第2のホワイトバランス調整を行いステップST29に進む。
【0052】
ステップST29でホワイトバランス調整部22は、信号変換を行う。ホワイトバランス調整部22は、例えば三原色の画像信号を用いてホワイトバランス調整を行った場合、ホワイトバランス調整後の三原色の画像信号を輝度信号と色差信号に変換してステップST30に進む。なお、ホワイトバランス調整部22から出力される画像信号と、色領域抽出部23で特定色の色領域を抽出する場合に用いる画像信号の信号方式が等しい場合、上述したようにステップST29の処理を設ける必要はない。
【0053】
ステップST30で色領域抽出部23は、色領域の抽出を行う。色領域抽出部23は第2のホワイトバランス調整が行われた画像信号を用いて、撮像画像における特定色の色領域を抽出してステップST31に進む。ここで、色領域抽出部23で用いる画像信号は、第2のホワイトバランス調整が行われた画像信号、すなわち、推定した色温度が追従設定範囲を超えている場合でも、正しくホワイトバランス調整が行われた画像信号、すなわち推定した色温度に応じてホワイトバランス調整が行われた画像信号である。したがって、色領域抽出部23は、第2のホワイトバランス調整が行われた画像信号を用いることで、正しく特定色の色領域を抽出できる。
【0054】
ステップST31でホワイトバランス調整部22は、第1のホワイトバランス調整を行う。ホワイトバランス調整部22は、撮像画像生成時における光源の色温度が第1色温度であるとして、ホワイトバランスゲインを設定して各色信号の信号レベルを調整することで第1のホワイトバランス調整を行いステップST32に進む。
【0055】
ステップST32でホワイトバランス調整部22は、信号変換を行う。ホワイトバランス調整部22は、例えばホワイトバランス調整部22から、三原色の画像信号が供給された場合、三原色の画像信号を輝度信号と色差信号に変換してステップST33に進む。なお、ステップST32の信号変換は、ホワイトバランス調整部22から出力される画像信号と、画像調整部24で画像調整に用いる画像信号の信号方式が異なる場合に設けられる処理である。したがって、ホワイトバランス調整部22から出力される画像信号と、画像調整部24で画像調整に用いる画像信号の信号方式が等しい場合、ステップST32の処理を設ける必要はない。
【0056】
ステップST33で画像調整部24は、画像調整を行う。画像調整部24は、色領域の抽出結果に基づき、抽出された色領域または抽出された色領域を除く他の色領域に対して、第1のホワイトバランス調整が行われた画像信号の調整を行う。画像調整部24は、上述のように彩度や輝度,鮮鋭度等の調整を行う。
【0057】
ステップST27で色領域の抽出を行わないと判別されてステップST34に進むと、ホワイトバランス調整部22は、第1のホワイトバランス調整を行う。ホワイトバランス調整部22は、撮像画像生成時における光源の色温度が第1色温度であるとして、ホワイトバランスゲインを設定して各色信号の信号レベルを調整することで第1のホワイトバランス調整を行いステップST35に進む。
【0058】
ステップST35でホワイトバランス調整部22は、信号変換を行う。ホワイトバランス調整部22は、例えば三原色の画像信号を用いてホワイトバランス調整を行った場合、ホワイトバランス調整後の三原色の画像信号を輝度信号と色差信号に変換する。なお、ステップST35の信号変換は、ホワイトバランス調整部22から出力される画像信号と、後処理部31で後処理に用いる画像信号の信号方式が異なる場合に設けられる処理である。したがって、ホワイトバランス調整部22から出力される画像信号と、後処理部31で後処理に用いる画像信号の信号方式が等しい場合、ステップST35の処理を設ける必要はない。
【0059】
このように、色領域抽出部23は、第2のホワイトバランス調整が行われた画像信号を用いて色領域の抽出を行う。したがって、色領域抽出部23は、色温度情報に基づき閾値をどのように変更するかを示す変更情報または色温度毎の閾値を予め用意しなくとも、光源の色温度にかかわらず特定色の色領域を正しく容易に抽出できる。
【0060】
さらに、色領域の抽出を行う場合、第1のホワイトバランス調整が行われた画像信号に対して、色抽出結果に基づき画像調整が行われる。したがって、撮影光源の雰囲気を残した画像に対して、特定色の色領域の判別結果に応じて画像調整を行った画像を生成できる。
【0061】
図7は、第2の実施の形態の動作を説明するための図である。図7の(A)は撮像画像を例示しており、被写体として例えば手前側の花PAと奥側の花PBが含まれている。ここで、手前側の花PAは特定色とする。また、奥側の花PBは、正しくホワイトバランス調整が行われた画像上では特定色と異なる色であり、光源の色温度が下限色温度よりも低いため光源の色温度に追従したホワイトバランス調整が行われていない画像上では、特定色に類似した色になるとする。
【0062】
この場合、光源の色温度が下限色温度よりも低いため光源の色温度に追従したホワイトバランス調整が行われていない画像信号を用いて特定色の色領域を抽出すると、図7の(B)に示すように、特定色である手前の花と奥側の花が特定色の色領域と誤判別されてしまう。なお、特定色の色領域でない領域は縞模様で示している。
【0063】
このため、パーシャルカラー処理を行い特定色の色領域以外の部分の彩度を無彩色としたり、特定色の色領域以外の部分の鮮鋭度を低下させて、特定色の色領域を強調する場合、図7の(C)に示すように特定色でない奥側の花も強調されてしまう。
【0064】
しかし、本技術では、撮像時における光源の色温度が下限色温度よりも低い場合でも、光源の色温度に基づいてホワイトバランス調整が行われた画像信号を用いて特定色の色領域が抽出される。したがって、図7の(D)に示すように、特定色である手前の花のみが特定色の色領域と判別されて、図7の(E)に示すように、手前の花のみを強調して表示できるようになる。
【0065】
さらに、第1のホワイトバランス調整が行われた画像信号に対して、色抽出結果に基づき画像調整が行われることから、画像調整後の画像は光源の雰囲気を残した画像に対して、特定色の色領域の判別結果に応じて画像調整が行われた画像となる。
【0066】
なお、色領域の抽出を行わない場合、第1のホワイトバランス調整が行われるので、推定された色温度が所定の色温度範囲よりも低い場合または高い場合、光源の色味を残した画像を生成できる。
【0067】
明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
【0068】
例えば、プログラムは記録媒体としてのハードディスクやROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
【0069】
また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからLAN(Local Area Network)やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
【0070】
なお、本技術は、上述した実施の形態に限定して解釈されるべきではない。この実施の形態は、例示という形態で本技術を開示しており、例えば図4に示すように色差信号Cb,Crを用いて「青」「赤」「黄」「緑」の何れかを特定色として色領域を抽出する場合に限られるものではない。例えば三原色の画像信号を用いた色領域の抽出や、他の色を特定色として色領域の抽出を行うようにしてもよく、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。
【産業上の利用可能性】
【0071】
本技術の画像処理装置と画像処理方法およびプログラムでは、撮像時における光源の色温度が所定の色温度範囲内である場合に、色温度に基づいて画像信号のホワイトバランスを調整する第1のホワイトバランス調整が行われる。また、色温度が所定の色温度範囲内でない場合であっても、色温度に基づいて画像信号のホワイトバランスを調整する第2のホワイトバランス調整が行われる。さらに、第2のホワイトバランス調整が行われた画像信号を用いて、特定色の色領域の抽出が行われる。このように、第2のホワイトバランス調整が行われた画像信号を用いて特定色の色領域の抽出が行われることから、色温度情報に基づき閾値をどのように変更するかを示す変更情報または色温度毎の閾値等を予め用意しなくとも、光源の色温度にかかわらず特定色の色領域を正しく容易に抽出できる。
【符号の説明】
【0072】
10・・・撮像装置、11・・・撮像光学系、12・・・撮像部、13・・・前処理部、21・・・色温度推定部、22・・・ホワイトバランス調整部、23・・・色領域抽出部、24・・・画像調整部、31・・・後処理部、32・・・エンコード部、33・・・出力部、40・・・制御部、41・・・ユーザインタフェース(I/F)部

【特許請求の範囲】
【請求項1】
撮像時における光源の色温度を推定する色温度推定部と、
前記推定された色温度が所定の色温度範囲内である場合に、前記推定された色温度に基づいて画像信号のホワイトバランスを調整する第1のホワイトバランス調整と、前記推定された色温度が前記所定の色温度範囲内でない場合であっても、前記推定された色温度に基づいて前記画像信号のホワイトバランスを調整する第2のホワイトバランス調整を行うホワイトバランス調整部と、
前記第2のホワイトバランス調整が行われた画像信号を用いて、特定色の色領域を抽出する色領域抽出部と
を有する画像処理装置。
【請求項2】
前記ホワイトバランス調整部でホワイトバランスの調整が行われた画像信号を用いて、前記色領域の抽出結果に基づき画像調整を行う画像調整部をさらに有する請求項1記載の画像処理装置。
【請求項3】
前記画像調整部は、前記ホワイトバランス調整部で前記第1のホワイトバランス調整が行われた画像信号に対して前記画像調整を行う請求項2記載の画像処理装置。
【請求項4】
前記画像調整部は、前記色領域の抽出結果に基づき、前記画像信号の少なくとも抽出された色領域または抽出された色領域を除く他の領域に対して、輝度と彩度と鮮鋭度の少なくとも何れかの調整を行う請求項2記載の画像処理装置。
【請求項5】
前記色抽出部は、前記第2のホワイトバランス調整が行われた画像信号と、色温度によらず特定色毎に予め設定されている色判定基準を比較して色領域の抽出を行う請求項1記載の画像処理装置。
【請求項6】
前記色抽出部は、前記特定色を切り替え可能とする請求項1記載の画像処理装置。
【請求項7】
前記ホワイトバランス調整部は、前記色領域抽出部で色領域の抽出を行わない場合、前記第1のホワイトバランス調整を行う請求項1記載の画像処理装置。
【請求項8】
撮像時における光源の色温度を推定する工程と、
前記推定された色温度が所定の色温度範囲内である場合に、前記推定された色温度に基づいて画像信号のホワイトバランスを調整する第1のホワイトバランス調整と、前記推定された色温度が前記所定の色温度範囲内でない場合であっても、前記推定された色温度に基づいて前記画像信号のホワイトバランスを調整する第2のホワイトバランス調整を行う工程と、
前記第2のホワイトバランス調整が行われた画像信号を用いて、特定色の色領域を抽出する工程と
を有する画像処理装置。
【請求項9】
画像処理をコンピュータで実行させるプログラムであって、
撮像時における光源の色温度が所定の色温度範囲内である場合に、前記色温度に基づいて画像信号のホワイトバランスを調整する第1のホワイトバランス調整と、前記色温度が前記所定の色温度範囲内でない場合であっても、前記色温度に基づいて前記画像信号のホワイトバランスを調整する第2のホワイトバランス調整を行う手順と、
前記第2のホワイトバランス調整が行われた画像信号を用いて、特定色の色領域を抽出する手順と
を前記コンピュータで実行させるプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図6】
image rotate

【図5】
image rotate

【図7】
image rotate


【公開番号】特開2012−178788(P2012−178788A)
【公開日】平成24年9月13日(2012.9.13)
【国際特許分類】
【出願番号】特願2011−41725(P2011−41725)
【出願日】平成23年2月28日(2011.2.28)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】