説明

撮像装置

【課題】 前景領域と背景領域とを容易に且つ精度良く分割した上で、分割された前景領域に対して適切な画像処理を施す。
【解決手段】 撮影範囲の撮影画像を取得する第1の画像取得部と、不可視光を照射する光源と、光源から不可視光を照射したときの撮影範囲における不可視光の反射光分布に基づいて、撮影画像に対する画像処理を行う画像処理部と、を備えたことを特徴とする。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像を取得する撮像装置に関する。
【背景技術】
【0002】
撮影時の被写体には様々な光源からの光が照射されていることから、デジタルカメラに代表される撮像装置を用いて取得される画像は、必ずしも理想的な照明状態下で取得されるものではない。このため、撮影時に取得される画像に対しては、撮影時の状況や設定される撮影モードに応じたホワイトバランス処理、輝度補正などの画像処理が施されている。また、適切な露光条件を用いて撮影を行うために、閃光をプレ発光させない状態での画像データと該閃光をプレ発光させた状態での画像データの比較と周知の顔検出処理とを組み合わせることで測光領域を決定し、決定された測光領域に基づいた本発光時の発光制御を行うことが提案されている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2008−197531号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
例えば閃光撮影では閃光を被写体に向けて照射するため、被写体本来の色は、照射される閃光の影響を受けた色に変化してしまう。これに対処する方法として、撮影で得られた画像に対して顔検出処理等を用いて被写体などの前景となる領域(前景領域)を求め、求めた前景領域に対して輝度補正や色補正などの画像処理を行うことが考えられる。しかしながら、顔検出処理は、画像に含まれる情報を取得した上で実行される複雑な処理であることから、簡単な処理で前景領域と背景領域とを精度良く分離するものではない。
【0005】
本発明は、前景領域と背景領域とを容易に且つ精度良く分割した上で、分割された前景領域に対して適切な画像処理を施すことができるようにした撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上述した課題を解決するために、本発明の撮像装置は、撮影範囲の撮影画像を取得する第1の画像取得部と、非可視光を照射する光源と、前記光源から前記非可視光を照射したときの前記撮影範囲における前記非可視光の反射光分布に基づいて、前記撮影画像に対する画像処理を行う画像処理回路と、を備えたことを特徴とする。
【0007】
また、前記光源から前記非可視光が照射されていないときの前記撮影範囲の第1画像と、前記光源から前記非可視光が照射されたときの前記撮影範囲の第2画像とを、それぞれ取得する第2の画像取得部を備え、前記画像処理回路は、前記第2の画像取得部により取得された前記第1画像と前記第2画像との差分に基づいて、前記撮影画像における前景領域と背景領域とを分割し、分割された前記撮影画像の前記前景領域及び前記背景領域のそれぞれに対して異なる画像処理を実行することが好ましい。
【0008】
また、前記光源から前記非可視光が照射されていないときの前記撮影範囲の第1画像と、前記光源から前記非可視光が照射されたときの前記撮影範囲の第2画像とを、それぞれ取得する第2の画像取得部を備え、前記画像処理回路は、前記第2の画像取得部により取得された前記第1画像と前記第2画像との比率に基づいて、前記撮影画像における前景領域と背景領域とを分割し、分割された前記撮影画像の前記前景領域及び前記背景領域のそれぞれに対して異なる画像処理を実行することが好ましい。
【0009】
また、前記光源から第1の非可視光と該第1の非可視光に時間変調を与えた第2の非可視光がそれぞれ照射されたときの前記撮影範囲の画像を、第1画像及び前記第2画像として取得する第2の画像取得部を備え、前記画像処理回路は、前記第2の画像取得部により取得された前記第1画像及び前記第2画像に基づいて、前記撮影画像における前景領域と背景領域とを分割し、分割された前記撮影画像の前記前景領域及び前記背景領域のそれぞれに対して異なる画像処理を実行することが好ましい。
【0010】
また、前記光源及び前記第2の画像取得部は、前記撮影範囲内に含まれる被写体までの距離を測定する測距部の機能を兼ねることが好ましい。
【0011】
また、前記画像処理は、ホワイトバランス処理及び色補正処理の少なくともいずれか一方の処理からなることが好ましい。
【発明の効果】
【0012】
本発明によれば、前景領域と背景領域とを容易に且つ精度良く分割した上で、分割された前景領域に対して適切な画像処理を施すことができる。
【図面の簡単な説明】
【0013】
【図1】本発明を用いた撮像装置の電気的構成を示す機能ブロック図である。
【図2】撮影時の処理の流れを示すフローチャートである。
【図3】領域分割及び画像処理の流れを示す説明図である。
【図4】時間変調を与えないIR光と時間変調を与えたIR光とを順次照射する場合の、撮影時の処理の流れを示すフローチャートである。
【図5】他の実施形態の撮像装置の電気的構成を示す機能ブロック図である。
【発明を実施するための形態】
【0014】
図1は、撮像装置の一例としたデジタルカメラ10の構成を示している。このデジタルカメラ10は、撮像光学系15、波長分離ミラー16、撮像素子17,18、A/D変換部19,20を備えている。
【0015】
撮像光学系15は、図示を省略したズームレンズやフォーカスレンズなどを含むレンズ群から構成される。これらズームレンズやフォーカスレンズは図示を省略したレンズ駆動機構によって光軸L方向に移動する。波長分離ミラー16は、撮像光学系15により取り込まれた光のうち、可視光(例えば380〜780nmの波長域の光)を透過させ、それ以外の波長域の光を反射させる。以下、可視光を除いた波長域の光(380nm未満の波長域の光及び780を超える波長域の光)を非可視光と称して説明する。この波長分離ミラー16を透過した可視光は撮像素子17に入射される。
【0016】
撮像素子17は、可視光のみを透過させるフィルタを備えたCCDイメージセンサやCMOSイメージセンサが用いられる。A/D変換部19は、撮像素子17から出力された画像信号をアナログ信号からデジタル信号に変換する。このデジタル信号に変換された画像信号は、バッファメモリ25に書き込まれる。上述したように、撮像素子17により受光される光は可視光であることから、この撮像素子17から出力される画像信号(画像データ)は、スルー画像や撮影画像の元になる画像信号となる。なお、上述した撮像素子17やA/D変換部19の動作は、図示を省略したタイミングジェネレータによって制御される。
【0017】
一方、撮像光学系15により取り込まれる光のうち、非可視光は波長分離ミラー16にて反射された後、撮像素子18に入射する。この撮像素子18は、赤外光(以下、IR光と称する)のみを透過させるフィルタを備えたイメージセンサからなる。また、撮像素子18は、撮像素子17と同一の画素数のイメージセンサからなる。A/D変換部20は、撮像素子18から出力された画像信号をアナログ信号からデジタル信号に変換する。このデジタル信号に変換された画像信号はバッファメモリ25に書き込まれる。なお、撮像素子18にて受光される光はIR光であることから、以下、撮像素子18から出力される画像信号については、IR画像信号と称して説明する。このIR画像信号は、後述する領域分割処理にて使用される。なお、上述した撮像素子18やA/D変換部20の動作は、図示を省略したタイミングジェネレータによって制御される。
【0018】
このデジタルカメラ10では、撮像光学系15、撮像素子17、A/D変換部19が第1画像取得部21を構成し、撮像光学系15、撮像素子18、A/D変換部20が第2画像取得部22を構成する。このように、各画像取得部に用いる撮像光学系を共通の撮像光学系15とすることで、各画像取得部により得られる画像の撮影範囲(画角)は同一となる。
【0019】
ところで、第1画像取得部21は、撮影待機状態において一定間隔を空けてスルー画像データを取得する他、レリーズボタン51の全押し操作に基づいて撮影画像データを取得する。一方、第2画像取得部22は、第1画像取得部21による撮影画像データを取得するタイミングや、撮影画像データの取得後に発光する光源26からIR光が照射されたタイミングで、IR画像データを取得する。以下、第1画像取得部21による撮影画像データを取得するタイミングで取得されるIR画像データを第1IR画像データと称し、光源26からIR光が照射されたタイミングで取得されるIR画像データを第2IR画像データと称して説明する。
【0020】
光源26は、その発光時にIR光を照射するIR光源が用いられる。なお、本実施形態では、非可視光としてIR光を挙げて説明するが、これに限定される必要はなく、被写体に対して影響を及ぼさない光、言い換えれば、照射時に被写体本来の色を変化させない光であればよい。なお、この光源26は、発光制御回路27により発光制御される。
【0021】
画像処理回路30は、取得された撮影画像データに対して、後述する領域分割処理を行った後、ホワイトバランス処理、色補間処理、輪郭補償処理、ガンマ処理、輝度補正処理、彩度強調処理などの画像処理を施す。さらに、画像処理回路30は、画像サイズを変更するリサイズ処理、画像データに対する符号化処理、符号化された画像データに対する復号化処理などを実行する。
【0022】
この画像処理回路30は、領域分割処理を実行するにあたり、領域分割部31の機能を有している。この領域分割部31は、上述した第1IR画像データ、第2IR画像データを用いて、撮影画像データに対する領域分割を行う。
【0023】
上述したように、第1IR画像データは、第1画像取得部21による撮影画像データの取得タイミングに合わせて取得される。この第1IR画像データは、撮影範囲中の物体表面にて散乱する環境光に含まれるIR光に基づいた画像データからなる。一方、第2IR画像データは、光源26からIR光が照射されたタイミングで取得される。この第2IR画像データは、撮影範囲中の物体表面にて散乱する環境光に含まれるIR光の他に、光源26から照射されたIR光のうち、被写体表面で反射したIR光に基づいた画像データとなる。
【0024】
そこで、領域分割部31は、第1IR画像データ及び第2IR画像データにおける同一のアドレスとなる画素の画素値の差分を画素毎に算出する。なお、IR画像データにおける各画素の画素値とは輝度値である。同一のアドレスとなる画素の輝度値の差分を画素毎に求めることで、撮影範囲中の物体表面にて散乱する環境光に含まれるIR光の影響を除去する。つまり、同一のアドレスとなる画素の輝度値の差分が0又は0に近い値であれば、そのアドレスの画素は撮影範囲中の物体表面にて散乱する環境光に含まれるIR光の影響を受けた画素であると判定できる。このような画素は、背景の領域(以下、背景領域と称する)を構成する画素として特定される。一方、同一のアドレスとなる画素の輝度値の差分が、背景領域を構成する画素の差分(0又は0に近い値)よりも大きい値となる場合には、その画素は、光源26から照射されたIR光のうち、被写体表面で反射したIR光の影響を受けている画素であると判定できる。このような画素は、被写体などの前景の領域(以下、背景領域と称する)を構成する画素として特定される。
【0025】
なお、第1及び第2IR画像データの撮影範囲と、撮影画像データの撮影範囲とは同一の撮影範囲となることから、これら領域を特定することで、撮影画像データを背景領域と前景領域とに領域分割することが可能となる。なお、これら領域を特定した後、領域分割部31は、前景領域となる画素のアドレスデータ、又は背景領域となる画素のアドレスデータの少なくともいずれか一方のデータを内蔵メモリ43に書き込む。
【0026】
記録用I/F35は、メモリカードや光学ディスク、或いは磁気ディスクなどの記憶媒体36と電気的に接続可能となっている。LCD37は、表示装置の一形態であって、スルー画像、撮影画像やデジタルカメラ10の設定を行う際の設定用の画像を表示する。なお、符号38は、LCD37の表示制御を行う表示制御回路である。
【0027】
CPU41は、バス42を介して、バッファメモリ25、発光制御回路27、画像処理回路30、記録用I/F35、表示制御回路38、内蔵メモリ43などと電気的に接続される。また、このCPU41には、レリーズボタン45、設定操作部46などが接続されており、CPU41は、これら操作部材における操作要求や内蔵メモリ43に記憶された制御プログラムに基づいて、デジタルカメラ10の各部を制御する。
【0028】
次に、デジタルカメラにおける撮影時の処理の流れを、図2に示すフローチャートに基づいて説明する。なお、図2のフローチャートは撮影待機状態であることを契機に実行される。
【0029】
ステップS101は、レリーズボタンの半押し操作があるか否かを判定する処理である。レリーズボタン45には、その半押し操作時にオンとなるスイッチSW1と、全押し操作時にオンとなるスイッチSW2との2つのスイッチが設けられている。これらスイッチはオンになると、その旨を示す信号(以下、オン信号)をCPU41に出力する。このステップS101では、CPU41により、スイッチSW1からオン信号が出力されたか否かを判定する。例えばスイッチSW1からのオン信号を受けると、CPU41は、レリーズボタン45の半押し操作があると判定する。この場合、ステップS101の処理はYesとなり、ステップS102に進む。一方、スイッチSW1からのオン信号が入力されない場合には、CPU41は、レリーズボタン45の半押し操作はないと判定する。この場合、ステップS101の処理はNoとなり、レリーズボタン45の半押し操作があると判定されるまで、このステップS101の処理が繰り返し実行される。
【0030】
ステップS102は、AE処理である。なお、このAE処理については、周知であることから、ここではAE処理については、その詳細を省略する。なお、このAE処理が実行されることで、撮影時の露光条件が決定される。
【0031】
ステップS103は、AF処理である。このAF処理は、撮像素子18にて得られる画像信号を用いたAF処理を行う。このAF処理では、光源26を発光した状態で、撮像光学系15のフォーカスレンズを光軸L方向に微小移動させる。CPU41は、フォーカスレンズの微小移動時に撮像素子18にて得られる画像信号から焦点評価値を求め、この焦点評価値が最も高くなる位置にフォーカスレンズを停止させる。これにより、AF処理が終了する。なお、このステップS103の処理を行うことで、撮像素子18及び光源26は、測距センサの機能を兼用している。なお、撮像素子18及び光源26を用いてAF処理を行う必要はなく、撮像素子17により得られる画像信号を用いてAF処理を実行することも可能である。
【0032】
ステップS104は、レリーズボタンの全押し操作があるか否かを判定する処理である。上述したように、レリーズボタン45には、全押し操作時にオンとなるスイッチSW2が設けられている。このステップS104では、スイッチSW2からオン信号が出力されたか否かをCPU41が判定することで実行される。例えばスイッチSW2からのオン信号を受けると、CPU41は、レリーズボタン45の全押し操作があると判定する。この場合、ステップS104の処理はYesとなり、ステップS105に進む。一方、スイッチSW2からのオン信号が入力されない場合には、CPU41は、レリーズボタン45の全押し操作はないと判定する。この場合、ステップS104の処理はNoとなり、レリーズボタン45の全押し操作があると判定されるまで、このステップS104の処理が繰り返し実行される。
【0033】
ステップS105は、撮影画像データ及び第1IR画像データを取得する処理である。撮像光学系15から入射される光のうち、可視光は波長分離ミラー16を透過した後、撮像素子17に受光される。ステップS105の処理が実行されると、ステップS102にて決定された露出条件に基づいて、撮像素子17、A/D変換部19が動作される。これにより、撮影画像データが取得される。
【0034】
一方、撮像光学系15から入射される光のうち、IR光は波長分離ミラー16にて反射した後、撮像素子18にて受光される。このステップS105の処理が実行されると、撮像素子18、A/D変換部20が動作される。これにより、第1IR画像データが取得される。なお、第1IR画像データを取得する際の撮像素子18における電荷蓄積時間は、撮像素子17における電荷蓄積時間と同一であっても、異なる電荷蓄積時間であってもよい。なお、取得される撮影画像データと第1IR画像データとは、それぞれバッファメモリ25に記録される。
【0035】
ステップS106は、IR光を照射する処理である。CPU41は、発光制御回路27に発光開始信号を出力する。この発光開始信号を受けて、発光制御回路27は光源26を発光させる。これにより、光源26からIR光が被写体に向けて照射される。
【0036】
ステップS107は、第2IR画像データを取得する処理である。ステップS105にて説明したように、撮像光学系15から入射される光のうち、IR光は波長分離ミラー16を反射し、撮像素子18に受光される。このステップS107の処理が実行されると、撮像素子18及びA/D変換部20が作動する。これにより、第2IR画像データが取得される。このステップS107における電荷蓄積時間は、ステップS105の処理で第1IR画像データを取得したときの電荷蓄積時間と同一の時間に設定される。なお、このステップS107の処理が実行されるときには、撮像光学系15から入射される光のうち、可視光は波長分離ミラー16を透過し撮像素子17に入射されるが、このステップS107においては、撮像素子17、A/D変換部19は作動されない。このため、このステップS107では、撮像画像データは取得されない。なお、ステップS106とステップS107を別個のステップにて説明しているが、これに限定される必要はなく、1つのステップで処理してもよい。
【0037】
ステップS108は、第1IR画像データ及び第2IR画像データに基づいて、撮影画像データを領域分割する処理である。上述したステップS105及びステップS107の処理を実行することで、バッファメモリ25には、撮影画像データ、第1IR画像データ及び第2IR画像データがそれぞれ記録される。画像処理回路30は、まず、第1IR画像データ及び第2IR画像データを読み出し、同一の画素における輝度値の差分を算出する。
【0038】
図3に示すように、人物を被写体とした撮影画像を取得した場合について説明する。画像処理回路30は、第2IR画像53の各画素の輝度値から第1IR画像52の各画素の輝度値を差分する。これにより、差分画像54が取得される。なお、第1IR画像52は撮影範囲中の物体表面にて散乱する環境光に含まれるIR光に基づく画像であり、第2IR画像53は撮影範囲中の物体表面にて散乱する環境光に含まれるIR光及び光源26から照射されたIR光のうち、被写体である人物表面にて反射されたIR光に基づく画像である。このため、求めた差分画像54は、撮影範囲中の物体表面にて散乱する環境光に含まれるIR光の影響が除去され、被写体である人物表面にて反射されたIR光の成分が残留した画像となる。つまり、画像処理回路30は、画素の輝度値が0又は0に近い値をとる画素を、背景領域を構成する画素であると特定する。同時に、画像処理回路30は、背景領域を構成する画素の差分よりも大きい値となる画素を、前景領域を構成する画素であると特定する。これら領域の特定の後、画像処理回路30は、背景領域55に含まれる画素のアドレスデータ又は前景領域56に含まれる画素のアドレスデータの少なくともいずれか一方のデータを内蔵メモリ43に記録する。
【0039】
上述したように、第2IR画像53及び第1IR画像52の撮影範囲は、撮影画像51の撮影範囲と同一であることから、差分画像54から特定される前景領域56及び背景領域55のそれぞれの領域を構成する画素のアドレスデータをそのまま撮影画像に反映させることができる。これにより、撮影画像51に対する領域分割処理が終了する。
【0040】
ステップS109は、撮影画像データの背景領域及び前景領域のそれぞれに対する画像処理である。ステップS108により、撮影画像データが背景領域と前景領域とに分割されている。画像処理回路30は、撮像画像データの背景領域と前景領域とのそれぞれの領域に対して画像処理を実行する。
【0041】
例えば夕焼け時に外灯の下にいる人物を撮影した場合や、室内の人物を室外から撮影した場合など、背景領域を照射する光源と被写体部分を照射する光源とが異なる環境下で撮影を行う場合には、背景領域に対するホワイトバランス処理の補正値と、被写体領域に対するホワイトバランス処理の補正値とを異なる補正値、言い換えれば被写体領域に対する補正値を、背景領域に対する補正値よりも大きい補正値にて処理することができる。また、この他に、前景領域に対する輝度調整時や色補正時の補正値を、背景領域に対する輝度調整時や色補正時の補正値よりも高く設定してもよい。例えば輝度補正処理を行う場合には、前景領域の輝度を高くすることができるので、画像処理後の撮影画像においては、被写体本来の色を変化させずに、閃光撮影を行ったときと同様の効果を画像処理によって実現することが可能となる。
【0042】
ステップS110は、画像処理された撮影画像データを記録する処理である。このステップS110の処理が実行されると、画像処理回路30は、ステップS109にて画像処理が施された撮影画像データに対して符号化処理を行う。この符号化処理の後、CPU41は、符号化処理された撮影画像データと、撮影時の情報やデジタルカメラに基づく情報などとを画像ファイルとしてまとめ、記憶媒体36に書き込む。このステップS110の処理が実行されることで、撮影における一連の処理が終了する。なお、このステップS110の処理を実行する前に、画像処理された撮影画像データに基づく撮影画像をLCD38に表示させ、該撮影画像を記録させるか否かをユーザによる設定操作部46の操作によって決定させてもよい。
【0043】
このように、被写体本来の色に影響を与えない非可視光であるIR光を照射したときの画像と、該IR光を照射していないときの画像とをそれぞれ取得し、これら画像の差分に基づいて、撮影画像を前景領域と背景領域とに分割している。これによれば、顔検出処理を用いなくとも簡単な構成で、撮影画像を前景領域と背景領域とに精度良く分割することができる。また、IR光を照射することで、閃光発光時に生じる被写体本来の色を変化させずに済み、また、閃光を発光しないことで生じる輝度の低下分を画像処理にて補正するだけで、閃光を発光したときと同様の効果を得ることが可能となる。
【0044】
本実施形態では、前景領域と背景領域との領域分割を行う場合に、撮影範囲中の物体表面にて散乱する環境光に含まれるIR光に基づくIR画像(第1IR画像)と、撮影範囲中の物体表面にて散乱する環境光に含まれるIR光及び光源26から照射されるIR光のうち、被写体表面を反射するIR光に基づくIR画像(第2IR画像)とを取得し、これらIR画像の差分を算出しているが、これに限定される必要はなく、例えば第1IR画像と第2IR画像とにおける同一画素の輝度値の比率を算出し、この比率に基づいて、前景領域と背景領域とに分割することも可能である。
【0045】
上述したように、背景領域を構成する画素の輝度値は、光源26からIR光が照射されたか否かに関係なく、撮影範囲中の物体表面にて散乱する環境光に含まれるIR光に基づいた輝度値となる。つまり、背景領域であれば、第1IR画像における画素の輝度値と、第2IR画像における画素の輝度値との比率は一定の値となる。一方、前景領域を構成する画素の輝度値は、光源26から照射されたIR光のうち、被写体である人物表面にて反射されたIR光の分だけ、その比率が異なる値となる。つまり、前景領域における輝度値の比率は、背景領域における輝度値の比率とは異なる値となる。各画素の輝度値の比率を算出する場合、輝度値の比率が一定の値とならない画素の領域を前景領域とし、輝度値の比率が一定の値となる画素の領域を背景領域として特定する。これにより、撮影画像の領域分割を実行することが可能となる。
【0046】
また、この他に、光源26を発光制御することで、時間変調を与えていないIR光と、時間変調を与えたIR光とをそれぞれ照射し、これらIR光に基づく画像を取得することも可能である。この場合、時間変調を与えていないIR光を照射したときに得られる第1IR画像とし、時間変調を与えたIR光を照射したときに得られる第2IR画像とする。
【0047】
以下、撮影時の処理について、図4のフローチャートを用いて説明する。なお、本実施形態のデジタルカメラの構成と同一の構成で達成できるので、本実施形態と同一の箇所については、同一の符号を付して説明する。
【0048】
図4のフローチャートは、本実施形態と同様に、デジタルカメラが撮影待機状態となる場合を契機にして実行される。
【0049】
ステップS201は、レリーズボタンの半押し操作があるか否かを判定する処理である。なお、このステップS201の処理はステップS101の処理と同一の処理である。
【0050】
ステップS202は、AE処理である。このステップS202の処理もステップS102と同一の処理である。これにより、撮影時の露光条件が決定される。
【0051】
ステップS203は、AF処理である。このステップS203の処理もステップS103と同一の処理である。これにより、焦点が合うときのフォーカスレンズの位置が決定される。
【0052】
ステップS204は、レリーズボタンの全押し操作があるか否かを判定する処理である。なお、このステップS204の処理はステップS104の処理と同一の処理である。
【0053】
ステップS205は、撮影画像データを取得する処理である。CPU41は、図示を省略したタイミングジェネレータを介して、ステップS202により決定された露出条件となるように、撮像素子17及びA/D変換部19を制御する。これにより、撮影画像データが取得される。なお、撮像光学系15を介して取り込まれた光は波長分離ミラー16によりIR光が反射され、撮像素子18に入射している。このとき、撮像素子18及びA/D変換部20は作動されないので、このステップS205の処理においては、IR画像データは取得されない。
【0054】
ステップS206は、IR光を照射する処理である。CPU41は、表示制御回路27に発光開始信号を出力する。これを受けて、表示制御回路27は光源26を発光させる。このとき、光源26を発光させることで照射されるIR光は、時間変調を加えていないIR光である。
【0055】
ステップS207は、第1IR画像データを取得する処理である。ステップS206で光源26が発光することで、時間変調を与えていないIR光が被写体に照射される。このIR光は被写体表面にて反射され、環境光とともに撮像光学系15を介して取り込まれる。撮像光学系15を介して取り込まれる光のうち、可視光は波長分離ミラー16を透過し、撮像素子17に入射される。一方、非可視光は波長分離ミラー16を反射した後、撮像素子18に入射される。このステップS207においては、撮像素子17及びA/D変換部18は作動されないので、撮像画像データは取得されない。一方、撮像素子18及びA/D変換部20は、図示を省略したタイミングジェネレータにより作動されるこれにより、第1IR画像データが取得される。この処理が終了すると、CPU41は、表示制御回路27に発光停止信号を出力する。これを受けて、表示制御回路27は、光源26の発光を停止させる。
【0056】
ステップS208は、時間変調を与えたIR光を照射する処理である。CPU41は、表示制御回路27に発光開始信号を出力する。これを受けて、表示制御回路27は光源26を発光させる。このとき、光源26を発光させることで照射されるIR光は、時間変調を与えたIR光である。なお、ステップS207の処理を終了させるときに、光源26の発光を停止させた後、このステップS208にて光源26を再度発光させているが、これに限定する必要はなく、ステップS207の処理が終了しても光源26をそのまま発光させておき、このステップS208の処理時に、光源216の発光により照射されるIR光に対して時間変調を与えることも可能である。
【0057】
ステップS209は、第2IR画像データを取得する処理である。ステップS208で光源26が発光することで、時間変調されているIR光が被写体に照射される。このIR光は被写体表面にて反射され、環境光とともに撮像光学系15を介して取り込まれる。撮像光学系15を介して取り込まれる光のうち、可視光は波長分離ミラー16を透過し、撮像素子17に入射される。一方、非可視光は波長分離ミラー16を反射した後、撮像素子18に入射される。このステップS209においては、撮像素子17及びA/D変換部18は作動されないので、撮像画像データは取得されない。一方、撮像素子18及びA/D変換部20は、図示を省略したタイミングジェネレータにより作動される。これにより、第2IR画像データが取得される。この処理が終了すると、CPU41は、表示制御回路27に発光停止信号を出力する。これを受けて、表示制御回路27は、光源26の発光を停止させる。
【0058】
ステップS210は、第1IR画像データ及び第2IR画像データに基づいて撮影画像データを領域分割する処理である。画像処理回路30は、取得された第1IR画像データ及び第2IR画像データの同一のアドレスとなる画素の輝度値の差分を算出する。
【0059】
上述したように、背景領域は撮影範囲中の物体表面にて散乱する環境光に含まれるIR光の影響を受ける領域であり、前景領域は撮影範囲中の物体表面にて散乱する環境光に含まれるIR光の他に、光源26から照射されるIR光のうち、被写体表面にて反射されたIR光の影響を受ける領域である。つまり、前景領域を構成する画素の輝度値は、背景領域を構成する画素の輝度値よりも高い値となる。画像処理回路30は、取得された第1IR画像データ及び第2IR画像データの差分を算出し、その差分となる輝度値が0又は0に近い画素については背景領域を構成する画素として特定する。また、その他の画素については前景領域を構成する画素として特定する。なお、撮影画像データとこれらIR画像データとは、同一の撮影範囲の画像データであることから、これら領域の特定により、撮影画像データが背景領域と前景領域とに分割される。なお、この場合、同一のアドレスの画素の差分を算出する代わりに、比率を算出してもよい。また、この他に、これらIR画像データを加算し、閾値以上となる輝度値の画素を前景領域、それ以外の領域を背景領域として特定してもよい。
【0060】
ステップS211は、撮影画像データの前景領域と背景領域とのそれぞれの領域に対して画像処理を行う処理である。このステップS211の処理は、ステップS209と同一の処理であることから、ここでは省略する。
【0061】
ステップS212は、撮影画像データを記録する処理である。このステップS211の処理は、ステップS110と同一の処理であることから、ここでは、詳細を省略する。
【0062】
この場合も、本実施形態と同様の効果を得ることができる。
【0063】
さらに、空間変調を与えたIR光を照射した結果に基づいて撮影画像を領域分割することも可能である。なお、この場合も、デジタルカメラの構成は同一の構成で実行することが可能であることから、以下、同一の構成については、同一の符号を付して説明する。この場合、撮影画像データの取得後に、光源26から、例えば明暗の縞状のパターン光からなるIR光を照射する。なお、この場合、光源26の前方に明暗の縞状のパターンからなるマスクを配置すればよい。このIR光は、その一部が被写体表面で反射するが、その反射時に変調される。この変調されたIR光は撮像素子18にて受光されることから、画像処理回路30は、撮像素子18にて受光されるIR画像データから、変調された領域を特定する。画像処理回路30は、特定された変調領域を前景領域として、それ以外の領域を背景領域としてそれぞれ特定する。これら領域を特定することで、撮影画像を前景領域と背景領域とに領域分割することが可能となる。
【0064】
本実施形態では、第1画像取得部21及び第2画像取得部22のそれぞれに用いる撮像光学系を1つの撮像光学系15から構成し、各画像取得部に兼用させているが、これに限定される必要はなく、画像取得部のそれぞれに個別の撮像光学系を備えることも可能である。なお、この場合、各画像取得部において同一の撮影範囲となる画像を取得できるように、各画像取得部の撮像光学系を構成する必要がある。また、それぞれの画像取得部に撮像光学系を設ける場合、画像データを取得する順番は、撮影画像データ、第1IR画像データ、第2IR画像データの順番でもよいし、第1IR画像データ、撮影画像データ、第2IR画像データの順番、或いは、第1IR画像データと撮影画像データとを同時に取得した後、第2IR画像データを取得してもよい。
【0065】
本実施形態では、第1画像取得部21、第2画像取得部22の2つの画像取得部を備えたデジタルカメラ10の例を取り上げているが、これに限定される必要はなく、1つの画像取得部にて、本実施形態の第1画像取得部21及び第2画像取得部22の機能を兼用することも可能である。
【0066】
図5に示すように、IR光のみを透過させるIR光透過フィルタ61と可視光のみを透過させる可視光透過フィルタ62とを備えたフィルタアレイ63を撮像光学系64と撮像素子65との間に設ける。また、フィルタアレイ63を移動させて、光軸L上に位置するフィルタを切り替える切替機構66を設ける。なお、フィルタアレイ63を移動させるとは、光軸L方向と直交する平面上でフィルタアレイ63をスライドさせる他に、光軸L方向に平行な直線を回転中心としてフィルタアレイ63を回転させることが挙げられる。また、撮像素子65は、上述したいずれのフィルタを備えていないイメージセンサが用いられる。
【0067】
この実施形態では、まず、可視光透過フィルタ62を光軸L上に配置した状態で、撮影画像データを取得する。その後、切替機構66により、光軸L上に位置するフィルタを可視光透過フィルタ62からIR光透過フィルタ61に切り替える。この状態で、光源26を発光させずに、第1IR画像データを取得する。この第1IR画像データを取得した後、光源26を発光させてIR光を被写体に向けて照射する。この状態で、第2IR画像データを取得する。これら画像データを取得した後、第1IR画像データと第2画像データとを用いて、撮像画像データの領域分割を実行する。この場合、領域分割については上述しているいずれかの方法を用いればよい。なお、この場合、光源26及び撮像素子65は、測距センサの機能を有していてもよい。
【0068】
本実施形態では、撮像画像の前景領域及び背景領域に対して実行される画像処理については、前景領域に対する補正値と、背景領域に対する補正値とを異なる補正値にて実行するとしか述べていないが、前景領域に対しては、例えば被写体までの距離に応じた補正値を求めることも可能である。
【符号の説明】
【0069】
10…デジタルカメラ、15…撮像光学系、17,18…撮像素子、19,20…A/D変換部、21…第1画像取得部、22…第2画像取得部、25…バッファメモリ、26…光源、27…表示制御回路、30…画像処理回路、31…領域分割部

【特許請求の範囲】
【請求項1】
撮影範囲の撮影画像を取得する第1の画像取得部と、
非可視光を照射する光源と、
前記光源から前記非可視光を照射したときの前記撮影範囲における前記非可視光の反射光分布に基づいて、前記撮影画像に対する画像処理を行う画像処理部と、
を備えたことを特徴とする撮像装置。
【請求項2】
請求項1に記載の撮像装置において、
前記光源から前記非可視光が照射されていないときの前記撮影範囲の第1画像と、前記光源から前記非可視光が照射されたときの前記撮影範囲の第2画像とを、それぞれ取得する第2の画像取得部を備え、
前記画像処理部は、前記第2の画像取得部により取得された前記第1画像と前記第2画像との差分に基づいて、前記撮影画像における前景領域と背景領域とを分割し、分割された前記撮影画像の前記前景領域及び前記背景領域のそれぞれに対して異なる画像処理を実行することを特徴とする撮像装置。
【請求項3】
請求項1に記載の撮像装置において、
前記光源から前記非可視光が照射されていないときの前記撮影範囲の第1画像と、前記光源から前記非可視光が照射されたときの前記撮影範囲の第2画像とを、それぞれ取得する第2の画像取得部を備え、
前記画像処理部は、前記第2の画像取得部により取得された前記第1画像と前記第2画像との比率に基づいて、前記撮影画像における前景領域と背景領域とを分割し、分割された前記撮影画像の前記前景領域及び前記背景領域のそれぞれに対して異なる画像処理を実行することを特徴とする撮像装置。
【請求項4】
請求項1に記載の撮像装置において、
前記光源から第1の非可視光と該第1の非可視光に時間変調を加えた第2の非可視光がそれぞれ照射されたときの前記撮影範囲の画像を、第1画像及び前記第2画像として取得する第2の画像取得部を備え、
前記画像処理部は、前記第2の画像取得部により取得された前記第1画像及び前記第2画像に基づいて、前記撮影画像における前景領域と背景領域とを分割し、分割された前記撮影画像の前記前景領域及び前記背景領域のそれぞれに対して異なる画像処理を実行することを特徴とする撮像装置。
【請求項5】
請求項2から請求項4のいずれか1項に記載の撮像装置において、
前記光源及び前記第2の画像取得部は、前記撮影範囲内に含まれる被写体までの距離を測定する測距部の機能を兼ねることを特徴とする撮像装置。
【請求項6】
請求項1から請求項5のいずれか1項に記載の撮像装置において、
前記画像処理は、ホワイトバランス処理及び色補正処理の少なくともいずれか一方の処理からなることを特徴とする撮像装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate


【公開番号】特開2012−74962(P2012−74962A)
【公開日】平成24年4月12日(2012.4.12)
【国際特許分類】
【出願番号】特願2010−218949(P2010−218949)
【出願日】平成22年9月29日(2010.9.29)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】