撮像装置
【課題】 非可視光の情報に基づいて被写体認識を行う。
【解決手段】 紫外線量に応じて被写体が雲か雪かを判別する。あるいは、赤外線量に応じて葉か無彩色物体かを判別する。あるいは、テクスチャにより花か否かを判別する。あるいは特定の偏光方向の量に応じて被写体が雲か雪かを判別する。紫外線、赤外線、特定方向の偏光、あるいは可視光を選別して固体撮像素子へ結像するには、各種の光学フィルタを光路に挿抜することで行う。
【解決手段】 紫外線量に応じて被写体が雲か雪かを判別する。あるいは、赤外線量に応じて葉か無彩色物体かを判別する。あるいは、テクスチャにより花か否かを判別する。あるいは特定の偏光方向の量に応じて被写体が雲か雪かを判別する。紫外線、赤外線、特定方向の偏光、あるいは可視光を選別して固体撮像素子へ結像するには、各種の光学フィルタを光路に挿抜することで行う。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、被写体に応じて各種設定をする撮像装置に関する。
【背景技術】
【0002】
特許文献1では、被写体に向け所定の輻射光線を照射し、所定の輻射光線の反射光のみを撮像するとともに、この撮像情報から被写体の輪郭を識別する。特許文献2では、撮像部と記録部と表示部を備えた撮像装置において、撮像された被写体像を画像認識部でその被写体の種類を識別するとともに、表示部へ識別された被写体の説明データを表示することによって持ち歩きができ、かつ瞬時に被写体の種別が特定できるとともにその説明を見ることができる。
【特許文献1】特開平10−243387号公報
【特許文献2】特開2006−270137号公報
【発明の開示】
【発明が解決しようとする課題】
【0003】
自然界に存在する物体の多くは、可視光領域だけでなく非可視光領域にも渡る形で特有の分光反射率を持つから、可視光情報だけで物体を区別するが難しい場合がある。この点、特許文献1や2では、非可視光領域の分光反射率を用いた被写体認識については言及されていない。特に特許文献2では、主として可視光情報を利用して被写体を識別するため、人間が見て色が似ているが異なる物体を同じものと誤認識する可能性がある。
【0004】
本発明の目的は、非可視光の情報に基づいて被写体認識を行うことにある。
【課題を解決するための手段】
【0005】
本発明に係る撮像装置は、撮像レンズを介して撮像素子の受光面に結像された被写体光の非可視光成分および可視光成分を、撮像素子により光電変換することで得られた電気信号を画像データに変換して出力する撮像部と、撮像部の出力した画像データの画素の各々における被写体光の非可視光成分の強度を検出する強度検出部と、強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する被写体種類判別部と、を備える。
【0006】
被写体光の非可視光成分は、波長10nmないし400nmの紫外線を含む。
【0007】
被写体種類判別部は、紫外線の強度に基づいて被写体が雪であるかまたは雲であるかを判別する。
【0008】
被写体光の非可視光成分は、波長700nmないし1400nmの赤外線を含む。
【0009】
被写体種類判別部は、赤外線の強度に基づいて被写体が葉であるか否かを判別する。
被写体種類判別部は、強度検出部の検出した各画素ごとの色成分に基づいて被写体の種類を判別し、強度検出部の検出した各画素ごとの色成分に基づいて被写体の種類を判別できなかった場合、強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する。
【0010】
被写体種類判別部は、撮像部から継続的に出力された画像データに基づいて画像データ間の動きベクトルを決定し、決定された動きベクトルに応じて被写体の種類を判別し、動きベクトルに応じて被写体の種類が判別できなかった場合、強度検出部の検出した各画素ごとの可視光成分の強度に基づいて被写体の種類を判別する。
【0011】
被写体種類判別部は、撮像部から出力された画像データから所定の波長域にある可視光成分を検出することで被写体の種類を判別し、所定の波長域にある可視光成分を所定の時間内に検出できなかった場合、強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する。
【0012】
撮像部から出力された画像データから特定の周波数成分の強度を検出する特定周波数成分強度検出部を備え、被写体種類判別部は、特定周波数成分強度検出部の検出した特定の周波数成分の強度に応じて被写体の種類を判別する。
【0013】
特定の周波数成分の強度はテクスチャ信号を含む。
【0014】
被写体種類判別部は、特定周波数成分強度検出部の検出した特定の周波数成分の強度に応じて被写体が花弁であるか否かを判別する。
【0015】
撮像部は、被写体光の非可視光成分または可視光成分の一方を、撮像素子により選択的に光電変換する。
【0016】
撮像部は、赤外線カットフィルタおよび紫外線カットフィルタのうち少なくとも一方を撮像レンズから撮像素子までの光路に進退自在に挿入する機構を備える。
【0017】
撮像部は、非可視光成分を光電変換する非可視光用撮像素子と、可視光成分を光電変換する可視光用撮像素子とを備える請求項13に記載の撮像装置。
【0018】
撮像部は、撮像レンズを介して受光した被写体光を非可視光用撮像素子および可視光用撮像素子の各々の受光面に導光して結像可能な機構を備える。
【0019】
本発明に係る撮像装置は、撮像レンズを介して撮像素子の受光面に結像された被写体光を、撮像素子により光電変換することで得られた電気信号を画像データに変換して出力する撮像部と、撮像レンズから撮像素子までの光路に進退自在に偏光子を挿入する機構と、光路に偏光子が挿入された状態で出力された画像データと光路に偏光子が挿入されない状態で出力された画像データとの比較に応じて被写体の種類を判別する被写体種類判別部と、を備える。
【0020】
被写体種類判別部は、光路に偏光子が挿入された状態で出力された画像データと光路に偏光子が挿入されない状態で出力された画像データとの比較に応じて被写体の種類を判別できなかった場合、強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する。
【0021】
偏光子は偏光フィルタを含む。
【発明の効果】
【0022】
本発明によると、被写体光の可視光領域での波長が似ており、画像データの輝度、色相、彩度などを用いても区別がつかないような雪あるいは雲を被写体とした画像でも、紫外線量の違いで被写体の区別ができ、適切な撮影条件(シャッタスピードや絞り値)を設定でき、例えば空は暗めに、雪は明るめに撮れるような設定ができる。
【0023】
また、被写体光の可視光領域での波長が似ており、画像データの輝度、色相、彩度などを用いても区別がつかないような葉を被写体とした画像あるいは他物体を被写体とした緑色かぶりの画像でも、赤外線量の違いで被写体の区別ができ、適切な撮影条件(ホワイトバランス)を設定できる。
【0024】
また、偏光フィルタのある/ない状態で取得した画像データの画素値の差異に基づいて各画素ごとに被写体を判別することで、色情報だけでは区別がつかないような雲と雪を正確に判別できる。
【発明を実施するための最良の形態】
【0025】
<第1実施形態>
図1は本発明の好ましい実施形態に係るデジタルカメラ10の機能ブロック図である。まず、同図のデジタルカメラ10において、中央処理装置(CPU)112は、レリーズスイッチ22、モードダイヤル150等を含む操作部113の各種のボタンやキーからの入力に基づいてデジタルカメラ10内の各回路を統括制御する。CPU112の実行するプログラムはEEPROM119に記憶される。
【0026】
いま、モードダイヤル150によって静止画撮影モードが設定されると、CPU112は、撮像回路102bから順次得られるコマ画像(スルー画)を表示部110に表示させ、撮影画角を確認可能にする。即ち、撮像レンズ14を通過した光は、固体撮像素子102aに入射する。固体撮像素子102aの受光面には、フォトセンサが平面的に配列されており、該受光面に結像された被写体像(被写体に太陽、蛍光灯その他の光源から発せられた光が反射して受光面に形成される像および/または被写体自身が発光することで受光面に形成される像)は、各フォトセンサによって入射光量に応じた量の信号電荷に変換される。こうして蓄積された信号電荷は、図示せぬドライバ回路から与えられるパルス信号に基づいて信号電荷に応じた電圧信号(画像信号)として順次読み出され、それぞれ撮像回路102bに加えられる。
【0027】
また、固体撮像素子102aの受光面前方には、被写体光の入射光路に対して挿入および退避自在に支持された所定の特性を持つ1または複数のフィルタ86が配置されている。フィルタ86の光路への挿入/退避動作は、モータ191によって駆動され、かつモータ5の動作は,CPU112によって制御される。
【0028】
本実施形態では、フィルタ86は、紫外線の透過は許容するが可視光線の透過を阻止する紫外線透過フィルタ86aであるとする。
【0029】
撮像回路102bは、ゲイン調整回路を含み、得られた画像データは、それぞれ画像処理回路108及びハイパスフィルタ(HPF)125へ送られる。画像処理回路108は、A/D変換部108a、ホワイトバランス補正回路108b、ガンマ補正回路108c、YC処理回路108d、輝度・色差信号生成回路、シャープネス補正回路、コントラスト補正回路、撮影画像に対する輪郭補正を含む画像処理を行う輪郭処理部、画像のノイズ低減処理を行うノイズ低減処理部等を含む画像処理手段であり、CPU112からのコマンドに従って画像信号を処理する。
【0030】
画像処理回路108に入力された画像データは、輝度信号(Y信号)及び色差信号(Cr、Cl信号)に変換されるとともに、ガンマ補正等の所定の処理が施された後、VRAM132に格納される。
【0031】
一方、画像処理回路108のA/D変換部108aでデジタル信号に変換された画像データは、ハイパスフィルタ(HPF)125でG画素成分のみ抽出される。そして、積算処理部126で抽出されたG画素成分に積算処理が施されてCPU112に送られる。CPU112は、積算処理部126から送られた1画面分の64分割の画像データの内、十字キー81で任意に設定された被写体中心付近の4エリアの平均値を算出し、これをオートフォーカス(AF)評価値とする。AF評価値は、所定周期の経過毎に算出され、算出の度にメモリ127に更新記憶される。CPU112は、AF評価値に従って被写体の合焦を判定する。その判断方法は任意であるが、例えばAF評価値が極大点の近傍に略到達しているか否かを判断し、極大点に略達している場合は合焦していると判断し、その他の場合は合焦していないと判断する。あるいは、AF評価値が所定の閾値を超えていれば合焦していると判断することもできる。
【0032】
撮影画像を表示部110にモニタ出力する場合、VRAM132からYC信号が読み出され、ビデオエンコーダ134に送られる。ビデオエンコーダ134は、入力されたYC信号を表示用の所定方式の信号(例えば、NTSC方式のカラー複合映像信号)に変換して表示部110に出力する。表示部110の駆動はドライバ111を介して行われる。
【0033】
所定のフレームレートで処理された各フレームのYC信号は、VRAM132のA領域とB領域とに交互に書き込まれ、VRAM132のA領域及びB領域のうち、YC信号が書き込まれている方の領域以外の領域から、書き込まれているYC信号が読み出される。このようにしてVRAM132内のYC信号が定期的に書き換えられ、そのYC信号から生成される映像信号が表示部110に供給されることにより、撮像中の映像がリアルタイムに表示部110に表示される。ユーザは、表示部110に表示される映像(スルー)によって撮影画角を確認できる。
【0034】
ここで、レリーズスイッチ22が半押しされると、AE及びAF処理が開始される。AE/AF処理が行われ、レリーズスイッチ22が全押しされることによって記録用の撮影動作がスタートする。レリーズスイッチ22の全押しに応動して取得された画像データは画像処理回路108において輝度/色差信号(Y/C信号)に変換され、ガンマ補正等の所定の処理が施された後、VRAM132に格納される。
【0035】
VRAM132に格納されたY/C信号は、圧縮伸長処理回路144によって所定のフォーマットに従って圧縮された後、メディアコントローラ146を介して記録媒体40にExif(Exchangeable Image File Format)ファイルとして記録される。画像はExifファイルのデータ部分に記録される。CPU112は上記Exifファイルのヘッダ部分の所定のタグ(Imagedescriptionタグなど)に撮影日時情報などを記録する。記録された画像は、通信インターフェース76を介して接続されたプリンタ200に送信することもできる。プリンタ200は、受信した画像をプリントする。
【0036】
CPU112には、キセノン管からなるストロボ18の発光を制御するストロボ制御回路115も接続されており、静止画撮影において、低照度であることが検出された場合や、ストロボボタンによって発光が指示された場合や、強制発光モードが設定された場合にタイミングジェネレータ120によって発生されたタイミング信号に同期したタイミングで短時間(例えば1秒以上の短時間)発光するようにストロボ18を制御する。
【0037】
モードダイヤル150によって動画撮影モードが設定されたときには、レリーズスイッチ22の全押し操作に連動して動画記録動作がスタートし、もう一度レリーズスイッチ22を押下すると動画記録動作が停止する。レリーズスイッチ22を押下継続している期間、録画動作を行い、押下解除によって録画を停止するようにしてもよい。動画データは、例えばモーションJPEG(MPEG)形式によって記録媒体40に記録される。
【0038】
モードダイヤル150により再生モードが選択されると、記録媒体40に記録されている最終の画像ファイル(最後に記録されたファイル)の圧縮データが読み出される。最後の記録に係るファイルが静止画ファイルの場合、この読み出された画像圧縮データは、圧縮伸長処理回路144を介して非圧縮のYC信号に伸長され、VRAM132に保存される。VRAM132に保存されたYC信号は、ビデオエンコーダ134に加えられる。ビデオエンコーダ134は、入力するYC信号からNTSC方式のRGBカラー複合映像信号を作成し、これを表示部110に出力する。これにより、表示部110には記録媒体40に記録されている最終コマのコマ画像が表示される。
【0039】
その後、十字キー81の右キーが押されると、順方向にコマ送りされ、十字キー81の左キーが押されると、逆方向にコマ送りされる。そして、コマ送りされたコマ位置の画像ファイルが記録媒体40から読み出され、上記と同様にしてコマ画像が表示部110に再生される。尚、最終コマのコマ画像が表示されている状態で順方向にコマ送りされると、記録媒体40に記録されている1コマ目の画像ファイルが読み出され、1コマ目のコマ画像が表示部110に再生される。
【0040】
表示部110は、カメラ10に内蔵されたLCD114、ファインダー又は映像出力端子等に接続された外部の表示装置に相当する。なお、CPU112は、OSD信号発生回路を含み、OSD信号発生回路はシャッター速度や絞り値、撮影可能枚数、撮影日時、警告指示等の文字及びアイコン等の記号を表示するための信号を発生させる。このOSD信号発生回路から出力される信号は、必要に応じて画像信号に混合されて、LCD114に供給される。これにより、スルー画像や再生画像に文字やアイコン等が合成された合成画像が表示される。
【0041】
記録媒体40は、撮影で得た画像データを保持する手段であり、例えばスマートメディアと呼ばれるメモリカードが使用される。記録メディアの形態はこれに限定されず、PCカード、コンパクトフラッシュ(登録商標)、磁気ディスク、光ディスク、光磁気ディスク、メモリスティックなどでもよく、電子的、磁気的、もしくは光学的、又はこれらの組み合わせによる方式などに従って読み書き可能な媒体を用いることができる。異種・同種の記録メディアを問わず、複数の媒体を装着可能な構成にしてもよい。また、画像ファイルを保存する手段は、カメラ本体に着脱可能なリムーバブルメディアに限らず、カメラに内蔵された記録媒体(内蔵メモリ)であってもよい。
【0042】
CPU112は、カメラ10の各回路を統括制御する制御回路であり、レリーズスイッチ22、十字キー81、電源スイッチ82、モードダイヤル150、情報位置指定キー83あるいは図示しないストロボボタン、ズームキー、メニュー/実行ボタンその他を含む操作部113から受信する信号に基づき、対応する回路の動作を制御するとともに、表示部110における表示制御、ストロボ発光制御、AF補助光の発光制御、オートフォーカス(AF)制御及び自動露出(AE)制御等を行う。
【0043】
カメラ10の電源が電源スイッチ82でオンされる度に、カメラボディ内部に装着される電池からなる主要電源164から、デジタルカメラ10の各回路に電源が供給される。
【0044】
画像処理回路108からの画像データは、測光処理部157にも送られる。この測光処理部157は、外光の光量を測定する手段の一例である。測光処理部157は、入力される各画像データと、固体撮像素子102aの電荷蓄積時間、すなわち電子シャッタのシャッタ秒時とに基づいて被写体輝度の測光値(EV値)を算出する測光値算出部により構成できる。これにより、固体撮像素子102aの駆動が調節される。なお、電子シャッタのシャッタ秒時とともに絞り値を変化させてもよい。絞り値を変化させる場合には、絞り値を加味して被写体輝度に応じた測光値を算出する。このように、測光処理部157は、固体撮像素子102aを受光センサとしてTTL(Through The Lens) 測光方式によって被写体の明るさ(被写体輝度)を検出する。測光処理部157は、フォトトランジスタで構成された測光センサであってもよく、測光が可能な手段であれば特に限定されない。
【0045】
通信インターフェース76は、プリンタ200と接続可能であり、CPU112からのコマンドに従い、プリントデータの送信を行う。
【0046】
なお、デジタルカメラ10とは、要するに被写体光を画像データに変換可能な機器であれば何でもよく、カメラ付き携帯電話、カメラ付きパソコン、デジタルビデオカメラ、デジタルスチルカメラなども含みうる。
【0047】
図2は、雪、雲という2つの被写体に対応する画像データの輝度・色相・彩度の確率分布域をYCrCb(Y=0.29891×R+0.58661×G+0.11448×B、Cb=-0.16874×R-0.33126×G+0.50000×B、Cr=0.50000×R-0.41869×G-0.08131×B)空間で示している。雪、空ともにほぼ一様に白く、雪、雲の分布域は白(R=255,G=255,B=255)の近傍領域となり、相当な部分が重なり合う。よって、画像データの輝度、色相、彩度を用いても、雪・雲という2つの被写体を区別するのは難しい。
【0048】
図3は本実施形態で用いるフィルタ86である紫外線透過フィルタ86aの透過率と光波長との関係を示す。紫外線透過フィルタ86aの透過する波長成分は10〜400nmの紫外線である。長波長域(波長1-10nmの極紫外線)から中波長域(波長200-10nmの遠紫外線)にかけて透過率が増加し、波長200nm付近で透過率は65%程度のピークに達する。さらに、そこから長波長側(波長200-380nmの近紫外線波長域)にかけて透過率が低減していき、近紫外線寄り(青色寄り)の400nm付近で透過率は0になる。
【0049】
なお、太陽光の中には、UVA (波長400〜315nm)、UVB (波長315〜280nm)、UVC(波長280nm未満)の波長の紫外線が含まれているが、そのうちUVA、UVBはオゾン層を通過して地表に到達する。UVCは、物質による吸収が著しく、通常は大気を通過することができない。地表に到達する紫外線の99%がUVAである。紫外線透過フィルタ86aの透過率のグラフは図3に示したものに限らず、UVAの波長域で分光感度が高まってもよい。
【0050】
なお、必要であれば、フィルタ86として、緑色光の波長域に透過波長域を有するGのカラーフィルタ、青色光の波長域に透過波長域を有するBのカラーフィルタ、および赤色光の波長域に透過波長域を有するRのカラーフィルタを用いることもできる。例えば、Bのカラーフィルタであれば青色領域(波長420nm付近)、Gのカラーフィルタであれば青色領域(510nm付近)、Rのカラーフィルタであれば赤色領域(波長605nm付近)における透過率が高くなる。
【0051】
固体撮像素子102aは、フィルタ86の透過率がピークに達する波長域において感度を有しているものとする。例えば、少なくともUVA、R,G,Bの波長域では感度があるものとする。固体撮像素子102aを用いて紫外線受光量を測定する方法は公知のものが利用でき、例えば、特許公開2004−198288号に記載されるようにすればよい。
【0052】
図4は第1実施形態に係る撮影準備処理のフローチャートである。この処理をCPU112に指令させるプログラムはEEPROM119に記憶されている。この処理は静止画撮影モードが設定されたことに応じて開始する。
【0053】
S1では、CPU112は、測光処理部157に対し、撮像回路102bから入力された画像データに基づいてAE制御に必要な物理量を算出するよう指令する。例えば、測光処理部157は、AE制御に必要な物理量として、1画面を複数のエリア(例えば、8×8)に分割し、分割したエリアごとにR、G、Bの画像信号の積算値を算出する。CPU112は、この積算値および画像信号取得時の絞り値、シャッタ速度に基づいて被写体の明るさを検出してEV値を求め、求めたEV値に基づいて撮影時の露出を設定する。
【0054】
S2では、レリーズスイッチ22の半押しがあったか否かを判断する。Yesの場合はS3に進み、Noの場合はS1に戻る。
【0055】
S3では、レリーズスイッチ22の半押しに応じて撮像回路102bから入力された画像データの中から、所定の輝度、色相および彩度(例えばRGB換算でR=255,G=255,B=255)を有する画素を探索し、その画素に「被写体が雲か雪いずれか一方である」旨を示すフラグを立てる。
【0056】
S4では、CPU112は、測光処理部157に対し、フラグの立った各画素に対応する位置における受光紫外線量を測定するよう指令する。
【0057】
S5では、予め規定された関数fを用いて、EV値に対応する予測受光紫外線量f(EV)を算出する。そして、ある特定の画素において測定した紫外線量が、予め規定された関数fを用いて、f(EV)以上であるか否かを判断する。Yesの場合はS6、Noの場合はS7に進む。
【0058】
ここでEV値と紫外線量との関係を規定するfは次のようなものが挙げられる。例えば、ある特定の場所(屋外)において、順光、正午、曇り空直視の撮影環境下でのEV値が10(ISO100)であれば、f(10)=1.40W/m2であるとする。あるいは、当該特定の場所(屋外)において、順光、午前7:00、曇り空直視の撮影環境下でのEV値=5(ISO100)であれば、f(5)=1.00W/m2であるとする。つまり、特定の撮影環境下での照度(EV値)と紫外線強度との関係を経験的に把握しておき、これをfとする。撮影環境に応じて紫外線量と明るさとは大きく変わりうるから、fは撮影環境に応じて複数用意しておくとよい。例えば、撮影場所の緯度が0に近くなるほど(赤道に近くなるほど)紫外線量は増加する傾向にあるから、fを撮影場所の緯度に応じて変える。なお、UVAは雲を透過する傾向があるが、それでも曇っているとUVAの紫外線量は晴れの日に比べて20%程度減少することが知られており、照度と紫外線量とは相関関係があり、この関係を規定する関数fを用いて、EV値から紫外線量をある程度正確に推測できるといえる。
【0059】
また、測定紫外線量が予測受光紫外線量以上とは、雪による太陽光の照り返しによって紫外線量が太陽光の直射のみを受けるよりも増加していることを意味する。雪面での紫外線の反射率は80−90%といわれているから、空からの紫外線と照り返しの紫外線を合わせると太陽から直射された紫外線を受けるよりも2倍近く紫外線量が増加することになる。
【0060】
S6では、当該画素は雪を被写体とした画像データの一部であると判断する。
【0061】
S7では、当該画素は雲の被写体とした画像データの一部であると判断する。
【0062】
S8では、フラグの立っている全ての画素についてS5〜S7を実施したか否かを判断する。Yesの場合はS10、Noの場合はS9に進む。
【0063】
S9では、S5の実施対象となる画素を、未だ判断対象としていないものの中から1つ選び、それについてS5〜S7を実施する。
【0064】
S10では、S5〜S7によって雲または雪と判断された結果を画素ごとに示したマップを作成する。このマップを基に、本撮像の絞り値、シャッタスピードを調整する。例えば、マップにおいて、「雪」の総画素数よりも「雲」の総画素数が多ければ、雪が被写体とされており、雪は暗く写りやすいため、シャッタスピードを遅くし、絞り径を大きくして、受光量を増加させる。逆に、マップにおいて、「雲」の総画素数よりも「雪」の総画素数が多ければ、雪が被写体とされており、雲は露光量過剰で写りやすいため、シャッタスピードを速くし、絞り径を小さくして、受光量を減少させる。なお、そのマップを表示データとして表示部110に出力してもよい。この後、レリーズスイッチ22の全押しに応じて記録用の画像取得動作を行う。
【0065】
以上のように、特定の紫外線波長域のみを紫外線透過フィルタ86aで透過して、これを固体撮像素子102aで受光して画素ごとの紫外線量を測定し、画素ごとの紫外線量に応じて、当該画素が雲か雪の被写体の一部を構成するものであるかの判断を行う。こうすると、被写体光の可視光領域での波長が似ており、画像データの輝度、色相、彩度などの色情報を用いても区別がつかないような雪あるいは雲を被写体とした画像でも、紫外線量の違いで被写体の区別ができ、適切な撮影条件(シャッタスピードや絞り値)を設定でき、例えば雲は暗めに、雪は明るめに撮れるような設定ができる。よって、本当は雲を撮影しようとしているのに、受光量が高めに設定されて白飛びのひどい画像が得られたり、雪を撮影しようとしているのに、受光量が低めに設定されて暗い画像が得られるのを防げ、高画質の画像を撮影できる。
【0066】
<第2実施形態>
図5は、太陽光下における葉と、水銀灯照明下における葉以外の無彩色物体という2つの被写体に対応する画像データの輝度・色相・彩度の確率分布域をYCrCb空間で示している。水銀灯や蛍光灯下で被写体を撮像すると、画像全体が緑がかったいわゆる「緑色かぶり」という現象が生じることが知られている。極端な場合、太陽光下における葉、水銀灯照明下における葉以外の無彩色物体ともにほぼ一様に緑色になり、それらの輝度・色相・彩度の分布域は、ともに緑色(R=0,G=255,B=0)の近傍領域となり、相当な部分が重なり合う。よって、「緑色かぶり」が発生した場合、画像データの輝度、色相、彩度を用いても、葉とそれ以外の物体という2つの被写体を区別するのは難しい。
【0067】
そこで本実施形態では、画像データの画素ごとに赤外線量を測定し、それに応じて葉と「緑色かぶり」が発生した物体との区別をつける。
【0068】
図6は本実施形態で用いるフィルタ86である赤外線透過フィルタ86bの透過率と光波長との関係を示す。赤外線透過フィルタ86bの透過する波長成分は0.7〜400μmの赤外線である。
【0069】
固体撮像素子102aは、赤外線透過フィルタ86bの透過率がピークに達する波長域において感度を有しており、赤外線を光電変換し、その強度に対応する電荷を発生し、蓄積するものとする。すなわち、赤外線の波長域では感度があるものとする。なお、固体撮像素子を用いた赤外線検知は公知のものを利用できる(例えば特開平6−205297号公報)。
【0070】
図7は第2実施形態に係る撮影処理のフローチャートである。この処理をCPU112に指令させるプログラムはEEPROM119に記憶されている。この処理は静止画撮影モードが設定されたことに応じて開始する。
【0071】
S11では、レリーズスイッチ22の半押しがあったか否かを判断する。Yesの場合はS12に進み、Noの場合はS11に戻る。
【0072】
S12では、レリーズスイッチ22の半押しに応じて撮像回路102bから入力された画像データの中から、所定の輝度、色相および彩度(例えばRGB換算でR=0,G=255,B=0)を有する画素を探索し、その画素に「被写体が葉の可能性あり」を示すフラグを立てる。すなわちここでは、色情報を用いて大まかに葉の可能性のある画素を特定する。
【0073】
S13では、CPU112は、測光処理部157に対し、フラグの立った各画素に対応する位置における受光赤外線量を測定するよう指令する。
【0074】
S14では、特定の画素において測定した赤外線量が、予め規定された閾値(例えば1W/m2)以上であるか否かを判断する。Yesの場合はS15、Noの場合はS16に進む。
【0075】
S15では、当該画素は葉を被写体とした画像データの一部であると判断する。
【0076】
S16では、当該画素は葉以外の物体を被写体とした画像データの一部であると判断する。すなわち、「緑かぶり」では、葉による赤外線の反射が受光されないし、また、蛍光灯はほどんど赤外線を発しないから、赤外線量が多ければ被写体が赤外線を多く反射するものであり、少なければ葉がないといえる。なお、白熱灯は蛍光灯に比して赤外線を多く発する傾向があるが、白熱灯下では「緑かぶり」は生じないため、葉の判断には影響しない。
【0077】
S17では、フラグの立っている全ての画素についてS14〜S16を実施したか否かを判断する。Yesの場合はS19、Noの場合はS18に進む。
【0078】
S18では、S14の実施対象となる画素を、未だ判断対象としていないものの中から1つ選び、それについてS14〜S16を実施する。
【0079】
S19では、S14〜S16によって葉または葉以外と判断された結果を画素ごとに示したマップを作成する。このマップを基に、本撮像のホワイトバランスを調整する。例えば、マップにおいて、「葉」の総画素数が「葉以外」の総画素数よりも多ければ、太陽光下での葉が被写体とされており、光源種を太陽光(D55)としてホワイトバランスを合わせる。また、当然ながらシャッタ速度や絞り値、合焦位置の検出も行う。この後、レリーズスイッチ22の全押しに応じて記録用の画像取得動作を行う。
【0080】
以上のように、特定の赤外線波長域のみを赤外線透過フィルタ86bで透過して、これを固体撮像素子102aで受光して画素ごとの赤外線量を測定し、画素ごとの赤外線量に応じて半押し後の画像データの画素ごとに葉の一部かそれ以外かの判断を行う。こうすると、画像データの輝度、色相、彩度などの色情報を用いても区別がつかないような葉を被写体とした画像あるいは他物体を被写体とした緑色かぶりの画像でも、赤外線量の違いで被写体の区別ができ、適切な撮影条件(ホワイトバランス)を設定できる。よって、本当は太陽光下で葉を撮影しようとしているのに、ホワイトバランスが水銀灯や蛍光灯を光源としたものに設定されてしまうのを防げ、高画質の画像を撮影できる。
【0081】
<第3実施形態>
第1実施形態では、紫外線量のみを用いて雲と雪を判別していたが、色情報のみで雲と雪を判別できる場合はこれにより判別し、色情報で判別できない場合は、紫外線量で判別してもよい。
【0082】
図8は第3実施形態に係る撮影準備処理のフローチャートである。この処理をCPU112に指令させるプログラムはEEPROM119に記憶されている。この処理は静止画撮影モードが設定されたことに応じて開始する。
【0083】
S21−22はS1−2と同様である。
【0084】
S23では、レリーズスイッチ22の半押しに応じて撮像回路102bから入力された画像データの各画素について、輝度・色相・彩度が所定の閾値(1)以上である画素にのみ「雲」のフラグを立てる。
【0085】
S24では、当該画像データの各画素について、輝度・色相・彩度が所定の閾値(2)以上である画素にのみ「雲」のフラグを立てる。
【0086】
ここで、閾値(1)および(2)は、特定の撮影条件下(例えば、3月上旬、正午、光源は太陽)における雲との輝度・色相・彩度の確率分布域を、予めYCrCb空間上に経験的に定めておき、かつ、これらの確率分布域を区切る線分もしくは平面あるいはこれらの組み合わせ(直方体や円筒など)を閾値とする。つまり、閾値とは必ずしも1次元の値に限らない。
【0087】
図9はある特定の撮影条件下での雲および輝度・色相・彩度の確率分布域と、雲と判別するための閾値th1、雪と判別するための閾値th2を例示している。一般的には、雲は雪に比べ、色の偏りが少なく、また輝度は高いであろう。従って、閾値th1は、閾値th2よりも低い色相域・彩度域に設定され、かつ、高い輝度域に設定される。th1は、例えばYCrCb空間において、100≦Y、120°≦tan-1 Cb/Cr≦140°、Cr^2 + Cb^2≦5 とする。th2は、例えばYCrCb空間において、80≦Y、120°≦tan-1 Cb/Cr≦140°、Cr^2 + Cb^2≦15 とする。
【0088】
S25では、当該画像データの各画素について、輝度・色相・彩度が所定の値(例えばR=128、G=128、B=128の灰色)を持つ画素にのみ「雲または雪」のフラグを立てる。なお、画像データの取得から輝度・色相・彩度が所定の閾値(1)あるいは閾値(2)以上である画素の特定に至るまでの時間がある一定時間以上かかった場合は、「雲」や「雪」のフラグは立てず、「雲または雪」のフラグを立ててもよい。これは、色情報に基づいた種類の判別が不明あるいは困難な画素について色情報による不正確な判別の続行に時間をかけ過ぎるよりも、速やかに紫外線量で判別したほうが効率的だからである。
【0089】
S26では、CPU112は、測光処理部157に対し、「雲または雪」のフラグの立った各画素に対応する位置における受光紫外線量を測定するよう指令する。
【0090】
S27では、予め規定された関数fを用いて、EV値に対応する予測受光紫外線量f(EV)を算出する。そして、ある特定の画素において測定した紫外線量が、予め規定された関数fを用いて、f(EV)以上であるか否かを判断する。Yesの場合はS28、Noの場合はS29に進む。
【0091】
S28では、当該画素は雪を被写体とした画像データの一部であると判断する。
【0092】
S29では、当該画素は雲の被写体とした画像データの一部であると判断する。
【0093】
S30では、「雲または雪」フラグの立っている全ての画素についてS27〜S30を実施したか否かを判断する。Yesの場合はS32、Noの場合はS31に進む。
【0094】
S31では、S27の実施対象となる画素を、未だ判断対象としていないものの中から1つ選び、それについてS27〜S30を実施する。
【0095】
S32では、S27〜S30によって雲または雪と判断された結果を画素ごとに示したマップを作成する。このマップを基に、本撮像の絞り値、シャッタスピードを調整する。例えば、マップにおいて、「雪」の総画素数よりも「雲」の総画素数が多ければ、雪が被写体とされており、雪は暗く写りやすいため、シャッタスピードを遅くし、絞り径を大きくして、受光量を増加させる。逆に、マップにおいて、「雲」の総画素数よりも「雪」の総画素数が多ければ、雪が被写体とされており、雲は露光量過剰で写りやすいため、シャッタスピードを速くし、絞り径を小さくして、受光量を減少させる。なお、そのマップを表示データとして表示部110に出力してもよい。この後、レリーズスイッチ22の全押しに応じて記録用の画像取得動作を行う。
【0096】
このように、まず、色情報に応じて被写体判別を行い、それで判別ができなかった画素についてのみ紫外線量を用いて被写体判別を行うから、全ての画素につき紫外線量のみで被写体判別をするよりも被写体判別に要する時間が短縮され、かつ、仮に色情報による判別ができなくても紫外線量で判別を行うから、判別の正確性が担保される。
【0097】
<第4実施形態>
判別された被写体の種類を示す画像や音声などの情報を出力してユーザが認識できてもよい。
【0098】
図10は第4実施形態に係る撮影準備処理のフローチャートである。この処理をCPU112に指令させるプログラムはEEPROM119に記憶されている。この処理は静止画撮影モードが設定されたことに応じて開始する。また、フィルタ86は、赤外線透過フィルタ86bおよび可視光領域の波長のみを透過する可視光透過フィルタ86cであるとする。
【0099】
S41はS2と同様である。
【0100】
S42では、赤外線透過フィルタ86bのみを光路に挿入して赤外線領域の被写体光に相当する画像データ(以下「赤外線画像データ」という)を取得する。また、可視光透過フィルタ86のみcを光路に挿入して可視光線領域の被写体光に相当する画像データ(以下「可視光画像データ」という)を取得する。
【0101】
S43では、可視光画像データにおける任意の1つの画素の彩度が、所定の閾値s1以上であるか否かを判断する。Yesの場合はS44、Noの場合はS48に進む。閾値s1は、例えばYCrCb空間において、400≦Cr^2 + Cb^2 とする。
【0102】
S44−S45では、S43で彩度と閾値s1とを比較した画素に対応する赤外線画像データの画素(以下「対応画素」とする)とその周辺画素に対して、所定のフィルタリング処理を施すことでテクスチャ信号を抽出する。例えば、本出願人による特開2004-258751号公報に示すように、原画像データから生成された輝度信号に対して、図11に示すようなマスクサイズが3×3の1次微分フィルタを用いて、対応画素とその周辺画素を含む6近傍画素群についてフィルタ処理を施し、その絶対値を求める。そして、x方向の1次微分フィルタを用いてフィルタ処理を施した絶対値とy方向の1次微分フィルタを用いてフィルタ処理を施した絶対値とを求めて、これらを加算する。この加算値からなる信号が輝度信号から生成された高周波信号(テクスチャ信号)である。なお、フィルタは1次微分フィルタに限らず、2次微分フィルタやラプラシアンピラミッド、Wavelet変換、ラプラシアンフィルタなどの公知のエッジ検出に用いられる演算であれば何でもよい。
【0103】
S46では、上記加算値の個数を示すパラメータnumを1だけインクリメントする。numの初期値は0である。
【0104】
S47では、可視光画像データに対応する赤外線画像データの全画素についてテクスチャ信号の生成が終了したか否かを判断する。Yesの場合はS49、Noの場合はS48に進む。
【0105】
S48では、未だテクスチャ信号の生成対象としていない画素を赤外線画像データの中から1つ選び、それについてS43〜S46を実施する。
【0106】
S49では、各画素について生成したテクスチャ信号を加算し、これをnumで除算することでテクスチャ信号の平均値Tを算出する。
【0107】
S50では、平均値Tが所定の閾値s2以上であるか否かを判断する。Yesの場合はS51、Noの場合はS52に進む。
【0108】
S51では、被写体が花であると判別する。これは例えば、ヒマワリからの赤外線の照り返しによって、画像データからは花弁や葉脈などのテクスチャ(エッジの分布つまり筋模様)が検出されるから、このテクスチャがある程度以上の強度で現れていれば、花と判断する。
【0109】
S52では、被写体が花ではないと判別する。つまり、ヒマワリと同じような黄色でもテクスチャがない物体は、花でないと判断する。
【0110】
S53では、可視光線画像についての彩度がs1以上の画素群のR平均値、G平均値、B平均値および赤外線画像についてのテクスチャ平均値Tからなる座標値Mを、これらの4つのパラメータを軸とする4次元空間にプロットする。この4次元空間における座標値Mと、予め当該4次元空間に規定された各花の種類ごとの確率分布域とに基づいて、花の種類を認識する。
【0111】
例えば、チューリップ、ヒマワリ、コスモスなど花の種類ごとのRGB各平均値およびテクスチャ平均値の確率分布域のサンプルが予めROMなどに記憶されており、図12に示すように、チューリップの確率分布域R1、ヒマワリの確率分布域R2、コスモスの確率分布域R3などが配置されている。なお図12では都合上3次元空間が示されている。上記プロットされた座標値とこの確率分布域とをマッチングし、そのうち一致率の最も高い花の種類を最終的に認識された花の種類とする。花の種類ごとの確率分布域は、経験的に定めればよい。図12では、一例としてヒマワリの確率分布域R2にパラメータMが属しており、被写体はヒマワリと認識できる。
【0112】
昆虫の可視波長域(つまり、昆虫が見える光の波長域)は、約300〜650nmで、特に近紫外線寄り(青色寄り)の感度が高い。従って例えば、赤外線フィルタ86bの透過する波長成分を約300〜650nmより長波長としておき、またテクスチャパターンもこれに合わせて昆虫の可視波長域で得られたものにすると、昆虫の視点から見たようなテクスチャパターンで花や葉の種類を認識できる。
【0113】
図13に例示するように、この最終的に認識された花の種類を示す情報は、操作部113に設けられた「種類認識ボタン」を押下することで、表示部110に出力されてもよい。
【0114】
このように、可視光だけでなくテクスチャ解析結果を合わせて花の種類を認識することで、単に色だけで被写体の種類を判別し、彩度の高い壁を花弁領域などと誤認識することが防げ、正確な被写体種類の特定が可能となる。
【0115】
<第5実施形態>
上記第1−4実施形態において、被写体光の異なる波長域を選択的に撮像素子102aに結像する機構は何でもよいが、例えば次のようにすることができる。
【0116】
図14−図16は上記第1−4実施形態のデジタルカメラ10に適用可能な撮像系の詳細を示す。
【0117】
図14では、撮像レンズ14後の光路に挿抜可能に配置された1または複数のフィルタ86、例えば紫外線カットフィルタおよび赤外線カットフィルタは、モータ191によってフィルタ86の光路への挿入/退避動作が駆動される。撮像レンズ14を介して固体撮像素子102aに結像される被写体光は、フィルタ86により所定の波長成分のみがカットされるかあるいは透過される。フィルタ86の透過特性は何でもよく、紫外線波長域をカットしその他の波長域は透過する紫外線カットフィルタ、紫外線波長域のみを透過する紫外線透過フィルタ、赤外線波長域をカットしその他の波長域は透過する赤外線カットフィルタ、赤外線波長域のみを透過する赤外線透過フィルタ、可視光波長域のみを透過するRGBフィルタなどが挙げられる。
【0118】
図14のように紫外線カットフィルタと赤外線カットフィルタの双方を光路に挿入すれば、可視光域のみが結像される。赤外線カットフィルタのみを挿入すれば、可視光および紫外線光が結像される。紫外線カットフィルタのみを挿入すれば、可視光および赤外線が結像される。
【0119】
あるいは、図15に例示するように、固体撮像素子105aのベイヤ配列のRGBカラーフィルタのうちRGの部分を、紫外線透過フィルタや赤外線透過フィルタに入れ換え、画素によってR、G、B、紫外線あるいは赤外線を受光するようにしてもよい。この際、紫外線あるいは赤外線を受光する画素については、通常のRGBの画像を記録するのであれば、同時化処理の際に周囲のR、G、Bデータで紫外線あるいは赤外線しか受光しない画素のR、G、Bデータを作ってもよい。また同様にして、赤外線画像データや紫外線画像データを記録することもできる。
【0120】
あるいは、図16に例示するように、撮像レンズ14から3つの固体撮像素子105a−1、105a−2、105a−3までの間に、光軸に対してそれぞれ略−45度および45度の傾きを保った平面ハーフミラー1および平面ハーフミラー2を設け、平面ハーフミラー1の受光面1−1の反射光は固体撮像素子105a−1、平面ハーフミラー2の受光面2−1の反射光は固体撮像素子105a−2、平面ハーフミラー1および平面ハーフミラー2の透過光は固体撮像素子105a−3に結像させる。
【0121】
固体撮像素子105a−1の結像面には、赤外線透過フィルタのみを配置し、固体撮像素子105a−2の結像面には、紫外線透過フィルタのみを配置し、固体撮像素子105a−3の結像面には、通常のRGBカラーフィルタのみを配置する。固体撮像素子105a−1・2・3の出力した画像データはそれぞれ別個にA/D変換、ホワイトバランス補正、ガンマ補正、YC処理などの各種画像処理が施され、別々の画像データとしてVRAM132に出力される。
【0122】
後は、用途に応じて各固体撮像素子から得られた画像を使い分ければよい。例えば、紫外線量を取得したい場合は固体撮像素子105a−2からの画像データを、赤外線量を取得したい場合は固体撮像素子105a−1からの画像データを用いる。また、通常のカラー画像を記録したい場合は、固体撮像素子105a−3からの画像データを記録する。
【0123】
なお、各ハーフミラーの反射面に、スリットパターンなどの形成された光学フィルタを積層させて、各ハーフミラーの光の透過率を自在に変化させてもよい。例えば、記録用画像データの取得の際には、平面ハーフミラー1の反射面1−1および平面ハーフミラー2の反射面2−1に設けられた光学フィルタ双方の透過率を上げて、固体撮像素子105a−3に多くの光が結像するようにする。
【0124】
あるいは、赤外線による被写体判別(第2実施形態の撮像準備処理)を実施する場合は、平面ハーフミラー1に設けられた光学フィルタの透過率を下げ(反射率を上げ)かつ平面ハーフミラー2に設けられた光学フィルタの透過率を上げて(反射率を下げて)、固体撮像素子105a−1の結像面に多くの光が結像するようにする。
【0125】
あるいは、紫外線による被写体判別(第1実施形態の撮像準備処理)を実施する場合は、平面ハーフミラー1に設けられた光学フィルタの透過率を上げ(反射率を下げ)かつ平面ハーフミラー2に設けられた光学フィルタの透過率を下げて(反射率を上げて)、固体撮像素子105a−2の結像面に多くの光が結像するようにする。
【0126】
また、ハーフミラーを用いず、プリズムや回折格子などで赤外線、紫外線、可視光を分光し、分光された紫外線、赤外線、可視光をそれぞれ撮像素子105a−1・2・3に入射させてもよい。
【0127】
<第6実施形態>
フィルタ86として偏光フィルタ86cを用い、偏光フィルタの挿入状態または非挿入状態で得られた画像データを比較して、被写体を判別することもできる。
【0128】
図17は第6実施形態に係る撮影準備処理のフローチャートである。この処理をCPU112に指令させるプログラムはEEPROM119に記憶されている。この処理は静止画撮影モードが設定されたことに応じて開始する。
【0129】
S61はS2と同様である。
【0130】
S62では、偏光フィルタ86cを光路から退避して1枚分の画像データを取得し、VRAM132に記憶する。そして、取得した画像データについて、所定の輝度・色相・彩度を持つ画素にのみ、「雲または雪」というフラグを立てる。つまり、色情報上では被写体が雲か雪かどちらか一方であるのは確からしいが、そのいずれかまでは判別のつかない画素に「雲または雪」フラグが立つ。
【0131】
S63では、偏光フィルタ86cを光路に挿入して1枚分の画像データを取得し、VRAM132に記憶する。
【0132】
S64では、偏光フィルタ86cによる特定の偏光方向の透過によって画素値の変化があるか否か、すなわち、L=|偏光フィルタなしの画像データの画素値−k×偏光フィルタありの画像データの画素値|≧所定の閾値Xであるか否かを判断する。Yesの場合はS66に進み、Noの場合はS67に進む。
【0133】
なお、偏光フィルタがあると画像全体が暗くなるため、偏光フィルタありの画像データの画素値を補正係数kで補正している。閾値Xと補正係数kは、例えばX=20、k=2.0とする。
【0134】
S66では、当該画素は雪を被写体とした画像データの一部であると判断する。すなわち、雪を被写体とすると、雪面での反射(偏光)により偏光方向が揃うため、Lの値が一定閾値Xよりも大きくなり、被写体は雪と判断できる。
【0135】
S67では、当該画素は雲の被写体とした画像データの一部であると判断する。すなわち、雲を被写体とすると、自然光の乱反射がそのまま入射し、偏光方向が揃うこともないため、Lの値が閾値Xよりも小さくなり、被写体は雲と判断する。
【0136】
S68−70は、S8−10と同様である。
【0137】
このように、偏光フィルタのある/ない状態で取得した画像データの画素値の差異に基づいて各画素ごとに被写体を判別することで、RGBの情報だけでは区別がつかないような雲と雪を正確に判別できる。
【0138】
なお、偏光フィルタとは要するに直線偏光が可能な偏光子(ポラライザー)であれば何でもよく、フィルム偏光子の他、方解石やフレネルロムなどを用いてもよい。
【0139】
また、特定の偏光方向を検知したか否かに応じて被写体を判別してもよい。例えば、水の反射光は横方向(振動方向に垂直な方向)に最も多く光を放出するから、横方向の光を検知した画素の被写体は水であると判別してもよい。なお、カゲロウは 人間の見えないこの横方向の偏光を頼りに水に集まることが知られている。
【0140】
また、水面やガラス越しの被写体を撮るなど、反射光で被写体が判別しにくくなる場合に本実施形態のような判別を用いても有効であろう。
【0141】
<第7実施形態>
第6実施形態では、画素値の差分値のみに基づいて被写体判別を行っていた。しかし、第3実施形態と同様、色情報のみで雲と雪を判別できる場合はこれにより判別し、色情報で判別できない場合は、画素値の差分値で判別してもよい。
【0142】
図18は第7実施形態に係る撮影準備処理のフローチャートである。この処理をCPU112に指令させるプログラムはEEPROM119に記憶されている。この処理は静止画撮影モードが設定されたことに応じて開始する。
【0143】
S71−S75は、S21−S25と同様である。
【0144】
S76−82は、S63−S70と同様である。
【0145】
このように、まず、可視光域で生じた色に応じて被写体判別を行い、それで判別ができなかった画素についてのみ、画素値の差分値を用いて被写体判別を行うから、画素値の差分値のみで被写体判別をするよりも被写体判別に要する時間が短縮され、かつ、仮に色による判別ができなくても、特定の偏光方向の画素値の大きさで判別を行うから、判別の正確性が担保される。
【図面の簡単な説明】
【0146】
【図1】デジタルカメラの機能ブロック図
【図2】雪、雲という2つの被写体に対応する画像データの輝度・色相・彩度の確率分布域をYCrCb空間上で示した図
【図3】紫外線透過フィルタの透過率と光波長との関係を示す図
【図4】第1実施形態に係る撮影準備処理のフローチャート
【図5】太陽光下における葉と、水銀灯照明下における葉以外の無彩色物体という2つの被写体に対応する画像データの輝度・色相・彩度の確率分布域をYCrCb空間で示した図
【図6】赤外線透過フィルタ86bの透過率と光波長との関係を示す図
【図7】第2実施形態に係る撮影処理のフローチャート
【図8】第3実施形態に係る撮影処理のフローチャート
【図9】ある特定の撮影条件下での雲および輝度・色相・彩度の確率分布域と、雲と判別するための閾値th1、雪と判別するための閾値th2を例示した図
【図10】第4実施形態に係る撮影準備処理のフローチャート
【図11】マスクサイズが3×3の1次微分フィルタを例示した図
【図12】画素群のR平均値、G平均値、B平均値および赤外線画像についての平均値Tを、これらの4つのパラメータを軸とする4次元空間にプロットした様子を模式的に示した図
【図13】認識された花の種類を示す情報を表示部に出力した様子を示す図
【図14】撮像レンズ後の光路に挿抜可能に配置された1または複数のフィルタの一例を示す図
【図15】一部が紫外線透過フィルタや赤外線透過フィルタに置換されたカラーフィルタの一例を示す図
【図16】2枚の平面ハーフミラーで分光された3系統の被写体光を結像する複数の固体撮像素子の配置例を示す図
【図17】第6実施形態に係る撮影準備処理のフローチャート
【図18】第7実施形態に係る撮影準備処理のフローチャート
【符号の説明】
【0147】
14:撮像レンズ、102a:固体撮像素子、86:フィルタ、191:モータ
【技術分野】
【0001】
本発明は、被写体に応じて各種設定をする撮像装置に関する。
【背景技術】
【0002】
特許文献1では、被写体に向け所定の輻射光線を照射し、所定の輻射光線の反射光のみを撮像するとともに、この撮像情報から被写体の輪郭を識別する。特許文献2では、撮像部と記録部と表示部を備えた撮像装置において、撮像された被写体像を画像認識部でその被写体の種類を識別するとともに、表示部へ識別された被写体の説明データを表示することによって持ち歩きができ、かつ瞬時に被写体の種別が特定できるとともにその説明を見ることができる。
【特許文献1】特開平10−243387号公報
【特許文献2】特開2006−270137号公報
【発明の開示】
【発明が解決しようとする課題】
【0003】
自然界に存在する物体の多くは、可視光領域だけでなく非可視光領域にも渡る形で特有の分光反射率を持つから、可視光情報だけで物体を区別するが難しい場合がある。この点、特許文献1や2では、非可視光領域の分光反射率を用いた被写体認識については言及されていない。特に特許文献2では、主として可視光情報を利用して被写体を識別するため、人間が見て色が似ているが異なる物体を同じものと誤認識する可能性がある。
【0004】
本発明の目的は、非可視光の情報に基づいて被写体認識を行うことにある。
【課題を解決するための手段】
【0005】
本発明に係る撮像装置は、撮像レンズを介して撮像素子の受光面に結像された被写体光の非可視光成分および可視光成分を、撮像素子により光電変換することで得られた電気信号を画像データに変換して出力する撮像部と、撮像部の出力した画像データの画素の各々における被写体光の非可視光成分の強度を検出する強度検出部と、強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する被写体種類判別部と、を備える。
【0006】
被写体光の非可視光成分は、波長10nmないし400nmの紫外線を含む。
【0007】
被写体種類判別部は、紫外線の強度に基づいて被写体が雪であるかまたは雲であるかを判別する。
【0008】
被写体光の非可視光成分は、波長700nmないし1400nmの赤外線を含む。
【0009】
被写体種類判別部は、赤外線の強度に基づいて被写体が葉であるか否かを判別する。
被写体種類判別部は、強度検出部の検出した各画素ごとの色成分に基づいて被写体の種類を判別し、強度検出部の検出した各画素ごとの色成分に基づいて被写体の種類を判別できなかった場合、強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する。
【0010】
被写体種類判別部は、撮像部から継続的に出力された画像データに基づいて画像データ間の動きベクトルを決定し、決定された動きベクトルに応じて被写体の種類を判別し、動きベクトルに応じて被写体の種類が判別できなかった場合、強度検出部の検出した各画素ごとの可視光成分の強度に基づいて被写体の種類を判別する。
【0011】
被写体種類判別部は、撮像部から出力された画像データから所定の波長域にある可視光成分を検出することで被写体の種類を判別し、所定の波長域にある可視光成分を所定の時間内に検出できなかった場合、強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する。
【0012】
撮像部から出力された画像データから特定の周波数成分の強度を検出する特定周波数成分強度検出部を備え、被写体種類判別部は、特定周波数成分強度検出部の検出した特定の周波数成分の強度に応じて被写体の種類を判別する。
【0013】
特定の周波数成分の強度はテクスチャ信号を含む。
【0014】
被写体種類判別部は、特定周波数成分強度検出部の検出した特定の周波数成分の強度に応じて被写体が花弁であるか否かを判別する。
【0015】
撮像部は、被写体光の非可視光成分または可視光成分の一方を、撮像素子により選択的に光電変換する。
【0016】
撮像部は、赤外線カットフィルタおよび紫外線カットフィルタのうち少なくとも一方を撮像レンズから撮像素子までの光路に進退自在に挿入する機構を備える。
【0017】
撮像部は、非可視光成分を光電変換する非可視光用撮像素子と、可視光成分を光電変換する可視光用撮像素子とを備える請求項13に記載の撮像装置。
【0018】
撮像部は、撮像レンズを介して受光した被写体光を非可視光用撮像素子および可視光用撮像素子の各々の受光面に導光して結像可能な機構を備える。
【0019】
本発明に係る撮像装置は、撮像レンズを介して撮像素子の受光面に結像された被写体光を、撮像素子により光電変換することで得られた電気信号を画像データに変換して出力する撮像部と、撮像レンズから撮像素子までの光路に進退自在に偏光子を挿入する機構と、光路に偏光子が挿入された状態で出力された画像データと光路に偏光子が挿入されない状態で出力された画像データとの比較に応じて被写体の種類を判別する被写体種類判別部と、を備える。
【0020】
被写体種類判別部は、光路に偏光子が挿入された状態で出力された画像データと光路に偏光子が挿入されない状態で出力された画像データとの比較に応じて被写体の種類を判別できなかった場合、強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する。
【0021】
偏光子は偏光フィルタを含む。
【発明の効果】
【0022】
本発明によると、被写体光の可視光領域での波長が似ており、画像データの輝度、色相、彩度などを用いても区別がつかないような雪あるいは雲を被写体とした画像でも、紫外線量の違いで被写体の区別ができ、適切な撮影条件(シャッタスピードや絞り値)を設定でき、例えば空は暗めに、雪は明るめに撮れるような設定ができる。
【0023】
また、被写体光の可視光領域での波長が似ており、画像データの輝度、色相、彩度などを用いても区別がつかないような葉を被写体とした画像あるいは他物体を被写体とした緑色かぶりの画像でも、赤外線量の違いで被写体の区別ができ、適切な撮影条件(ホワイトバランス)を設定できる。
【0024】
また、偏光フィルタのある/ない状態で取得した画像データの画素値の差異に基づいて各画素ごとに被写体を判別することで、色情報だけでは区別がつかないような雲と雪を正確に判別できる。
【発明を実施するための最良の形態】
【0025】
<第1実施形態>
図1は本発明の好ましい実施形態に係るデジタルカメラ10の機能ブロック図である。まず、同図のデジタルカメラ10において、中央処理装置(CPU)112は、レリーズスイッチ22、モードダイヤル150等を含む操作部113の各種のボタンやキーからの入力に基づいてデジタルカメラ10内の各回路を統括制御する。CPU112の実行するプログラムはEEPROM119に記憶される。
【0026】
いま、モードダイヤル150によって静止画撮影モードが設定されると、CPU112は、撮像回路102bから順次得られるコマ画像(スルー画)を表示部110に表示させ、撮影画角を確認可能にする。即ち、撮像レンズ14を通過した光は、固体撮像素子102aに入射する。固体撮像素子102aの受光面には、フォトセンサが平面的に配列されており、該受光面に結像された被写体像(被写体に太陽、蛍光灯その他の光源から発せられた光が反射して受光面に形成される像および/または被写体自身が発光することで受光面に形成される像)は、各フォトセンサによって入射光量に応じた量の信号電荷に変換される。こうして蓄積された信号電荷は、図示せぬドライバ回路から与えられるパルス信号に基づいて信号電荷に応じた電圧信号(画像信号)として順次読み出され、それぞれ撮像回路102bに加えられる。
【0027】
また、固体撮像素子102aの受光面前方には、被写体光の入射光路に対して挿入および退避自在に支持された所定の特性を持つ1または複数のフィルタ86が配置されている。フィルタ86の光路への挿入/退避動作は、モータ191によって駆動され、かつモータ5の動作は,CPU112によって制御される。
【0028】
本実施形態では、フィルタ86は、紫外線の透過は許容するが可視光線の透過を阻止する紫外線透過フィルタ86aであるとする。
【0029】
撮像回路102bは、ゲイン調整回路を含み、得られた画像データは、それぞれ画像処理回路108及びハイパスフィルタ(HPF)125へ送られる。画像処理回路108は、A/D変換部108a、ホワイトバランス補正回路108b、ガンマ補正回路108c、YC処理回路108d、輝度・色差信号生成回路、シャープネス補正回路、コントラスト補正回路、撮影画像に対する輪郭補正を含む画像処理を行う輪郭処理部、画像のノイズ低減処理を行うノイズ低減処理部等を含む画像処理手段であり、CPU112からのコマンドに従って画像信号を処理する。
【0030】
画像処理回路108に入力された画像データは、輝度信号(Y信号)及び色差信号(Cr、Cl信号)に変換されるとともに、ガンマ補正等の所定の処理が施された後、VRAM132に格納される。
【0031】
一方、画像処理回路108のA/D変換部108aでデジタル信号に変換された画像データは、ハイパスフィルタ(HPF)125でG画素成分のみ抽出される。そして、積算処理部126で抽出されたG画素成分に積算処理が施されてCPU112に送られる。CPU112は、積算処理部126から送られた1画面分の64分割の画像データの内、十字キー81で任意に設定された被写体中心付近の4エリアの平均値を算出し、これをオートフォーカス(AF)評価値とする。AF評価値は、所定周期の経過毎に算出され、算出の度にメモリ127に更新記憶される。CPU112は、AF評価値に従って被写体の合焦を判定する。その判断方法は任意であるが、例えばAF評価値が極大点の近傍に略到達しているか否かを判断し、極大点に略達している場合は合焦していると判断し、その他の場合は合焦していないと判断する。あるいは、AF評価値が所定の閾値を超えていれば合焦していると判断することもできる。
【0032】
撮影画像を表示部110にモニタ出力する場合、VRAM132からYC信号が読み出され、ビデオエンコーダ134に送られる。ビデオエンコーダ134は、入力されたYC信号を表示用の所定方式の信号(例えば、NTSC方式のカラー複合映像信号)に変換して表示部110に出力する。表示部110の駆動はドライバ111を介して行われる。
【0033】
所定のフレームレートで処理された各フレームのYC信号は、VRAM132のA領域とB領域とに交互に書き込まれ、VRAM132のA領域及びB領域のうち、YC信号が書き込まれている方の領域以外の領域から、書き込まれているYC信号が読み出される。このようにしてVRAM132内のYC信号が定期的に書き換えられ、そのYC信号から生成される映像信号が表示部110に供給されることにより、撮像中の映像がリアルタイムに表示部110に表示される。ユーザは、表示部110に表示される映像(スルー)によって撮影画角を確認できる。
【0034】
ここで、レリーズスイッチ22が半押しされると、AE及びAF処理が開始される。AE/AF処理が行われ、レリーズスイッチ22が全押しされることによって記録用の撮影動作がスタートする。レリーズスイッチ22の全押しに応動して取得された画像データは画像処理回路108において輝度/色差信号(Y/C信号)に変換され、ガンマ補正等の所定の処理が施された後、VRAM132に格納される。
【0035】
VRAM132に格納されたY/C信号は、圧縮伸長処理回路144によって所定のフォーマットに従って圧縮された後、メディアコントローラ146を介して記録媒体40にExif(Exchangeable Image File Format)ファイルとして記録される。画像はExifファイルのデータ部分に記録される。CPU112は上記Exifファイルのヘッダ部分の所定のタグ(Imagedescriptionタグなど)に撮影日時情報などを記録する。記録された画像は、通信インターフェース76を介して接続されたプリンタ200に送信することもできる。プリンタ200は、受信した画像をプリントする。
【0036】
CPU112には、キセノン管からなるストロボ18の発光を制御するストロボ制御回路115も接続されており、静止画撮影において、低照度であることが検出された場合や、ストロボボタンによって発光が指示された場合や、強制発光モードが設定された場合にタイミングジェネレータ120によって発生されたタイミング信号に同期したタイミングで短時間(例えば1秒以上の短時間)発光するようにストロボ18を制御する。
【0037】
モードダイヤル150によって動画撮影モードが設定されたときには、レリーズスイッチ22の全押し操作に連動して動画記録動作がスタートし、もう一度レリーズスイッチ22を押下すると動画記録動作が停止する。レリーズスイッチ22を押下継続している期間、録画動作を行い、押下解除によって録画を停止するようにしてもよい。動画データは、例えばモーションJPEG(MPEG)形式によって記録媒体40に記録される。
【0038】
モードダイヤル150により再生モードが選択されると、記録媒体40に記録されている最終の画像ファイル(最後に記録されたファイル)の圧縮データが読み出される。最後の記録に係るファイルが静止画ファイルの場合、この読み出された画像圧縮データは、圧縮伸長処理回路144を介して非圧縮のYC信号に伸長され、VRAM132に保存される。VRAM132に保存されたYC信号は、ビデオエンコーダ134に加えられる。ビデオエンコーダ134は、入力するYC信号からNTSC方式のRGBカラー複合映像信号を作成し、これを表示部110に出力する。これにより、表示部110には記録媒体40に記録されている最終コマのコマ画像が表示される。
【0039】
その後、十字キー81の右キーが押されると、順方向にコマ送りされ、十字キー81の左キーが押されると、逆方向にコマ送りされる。そして、コマ送りされたコマ位置の画像ファイルが記録媒体40から読み出され、上記と同様にしてコマ画像が表示部110に再生される。尚、最終コマのコマ画像が表示されている状態で順方向にコマ送りされると、記録媒体40に記録されている1コマ目の画像ファイルが読み出され、1コマ目のコマ画像が表示部110に再生される。
【0040】
表示部110は、カメラ10に内蔵されたLCD114、ファインダー又は映像出力端子等に接続された外部の表示装置に相当する。なお、CPU112は、OSD信号発生回路を含み、OSD信号発生回路はシャッター速度や絞り値、撮影可能枚数、撮影日時、警告指示等の文字及びアイコン等の記号を表示するための信号を発生させる。このOSD信号発生回路から出力される信号は、必要に応じて画像信号に混合されて、LCD114に供給される。これにより、スルー画像や再生画像に文字やアイコン等が合成された合成画像が表示される。
【0041】
記録媒体40は、撮影で得た画像データを保持する手段であり、例えばスマートメディアと呼ばれるメモリカードが使用される。記録メディアの形態はこれに限定されず、PCカード、コンパクトフラッシュ(登録商標)、磁気ディスク、光ディスク、光磁気ディスク、メモリスティックなどでもよく、電子的、磁気的、もしくは光学的、又はこれらの組み合わせによる方式などに従って読み書き可能な媒体を用いることができる。異種・同種の記録メディアを問わず、複数の媒体を装着可能な構成にしてもよい。また、画像ファイルを保存する手段は、カメラ本体に着脱可能なリムーバブルメディアに限らず、カメラに内蔵された記録媒体(内蔵メモリ)であってもよい。
【0042】
CPU112は、カメラ10の各回路を統括制御する制御回路であり、レリーズスイッチ22、十字キー81、電源スイッチ82、モードダイヤル150、情報位置指定キー83あるいは図示しないストロボボタン、ズームキー、メニュー/実行ボタンその他を含む操作部113から受信する信号に基づき、対応する回路の動作を制御するとともに、表示部110における表示制御、ストロボ発光制御、AF補助光の発光制御、オートフォーカス(AF)制御及び自動露出(AE)制御等を行う。
【0043】
カメラ10の電源が電源スイッチ82でオンされる度に、カメラボディ内部に装着される電池からなる主要電源164から、デジタルカメラ10の各回路に電源が供給される。
【0044】
画像処理回路108からの画像データは、測光処理部157にも送られる。この測光処理部157は、外光の光量を測定する手段の一例である。測光処理部157は、入力される各画像データと、固体撮像素子102aの電荷蓄積時間、すなわち電子シャッタのシャッタ秒時とに基づいて被写体輝度の測光値(EV値)を算出する測光値算出部により構成できる。これにより、固体撮像素子102aの駆動が調節される。なお、電子シャッタのシャッタ秒時とともに絞り値を変化させてもよい。絞り値を変化させる場合には、絞り値を加味して被写体輝度に応じた測光値を算出する。このように、測光処理部157は、固体撮像素子102aを受光センサとしてTTL(Through The Lens) 測光方式によって被写体の明るさ(被写体輝度)を検出する。測光処理部157は、フォトトランジスタで構成された測光センサであってもよく、測光が可能な手段であれば特に限定されない。
【0045】
通信インターフェース76は、プリンタ200と接続可能であり、CPU112からのコマンドに従い、プリントデータの送信を行う。
【0046】
なお、デジタルカメラ10とは、要するに被写体光を画像データに変換可能な機器であれば何でもよく、カメラ付き携帯電話、カメラ付きパソコン、デジタルビデオカメラ、デジタルスチルカメラなども含みうる。
【0047】
図2は、雪、雲という2つの被写体に対応する画像データの輝度・色相・彩度の確率分布域をYCrCb(Y=0.29891×R+0.58661×G+0.11448×B、Cb=-0.16874×R-0.33126×G+0.50000×B、Cr=0.50000×R-0.41869×G-0.08131×B)空間で示している。雪、空ともにほぼ一様に白く、雪、雲の分布域は白(R=255,G=255,B=255)の近傍領域となり、相当な部分が重なり合う。よって、画像データの輝度、色相、彩度を用いても、雪・雲という2つの被写体を区別するのは難しい。
【0048】
図3は本実施形態で用いるフィルタ86である紫外線透過フィルタ86aの透過率と光波長との関係を示す。紫外線透過フィルタ86aの透過する波長成分は10〜400nmの紫外線である。長波長域(波長1-10nmの極紫外線)から中波長域(波長200-10nmの遠紫外線)にかけて透過率が増加し、波長200nm付近で透過率は65%程度のピークに達する。さらに、そこから長波長側(波長200-380nmの近紫外線波長域)にかけて透過率が低減していき、近紫外線寄り(青色寄り)の400nm付近で透過率は0になる。
【0049】
なお、太陽光の中には、UVA (波長400〜315nm)、UVB (波長315〜280nm)、UVC(波長280nm未満)の波長の紫外線が含まれているが、そのうちUVA、UVBはオゾン層を通過して地表に到達する。UVCは、物質による吸収が著しく、通常は大気を通過することができない。地表に到達する紫外線の99%がUVAである。紫外線透過フィルタ86aの透過率のグラフは図3に示したものに限らず、UVAの波長域で分光感度が高まってもよい。
【0050】
なお、必要であれば、フィルタ86として、緑色光の波長域に透過波長域を有するGのカラーフィルタ、青色光の波長域に透過波長域を有するBのカラーフィルタ、および赤色光の波長域に透過波長域を有するRのカラーフィルタを用いることもできる。例えば、Bのカラーフィルタであれば青色領域(波長420nm付近)、Gのカラーフィルタであれば青色領域(510nm付近)、Rのカラーフィルタであれば赤色領域(波長605nm付近)における透過率が高くなる。
【0051】
固体撮像素子102aは、フィルタ86の透過率がピークに達する波長域において感度を有しているものとする。例えば、少なくともUVA、R,G,Bの波長域では感度があるものとする。固体撮像素子102aを用いて紫外線受光量を測定する方法は公知のものが利用でき、例えば、特許公開2004−198288号に記載されるようにすればよい。
【0052】
図4は第1実施形態に係る撮影準備処理のフローチャートである。この処理をCPU112に指令させるプログラムはEEPROM119に記憶されている。この処理は静止画撮影モードが設定されたことに応じて開始する。
【0053】
S1では、CPU112は、測光処理部157に対し、撮像回路102bから入力された画像データに基づいてAE制御に必要な物理量を算出するよう指令する。例えば、測光処理部157は、AE制御に必要な物理量として、1画面を複数のエリア(例えば、8×8)に分割し、分割したエリアごとにR、G、Bの画像信号の積算値を算出する。CPU112は、この積算値および画像信号取得時の絞り値、シャッタ速度に基づいて被写体の明るさを検出してEV値を求め、求めたEV値に基づいて撮影時の露出を設定する。
【0054】
S2では、レリーズスイッチ22の半押しがあったか否かを判断する。Yesの場合はS3に進み、Noの場合はS1に戻る。
【0055】
S3では、レリーズスイッチ22の半押しに応じて撮像回路102bから入力された画像データの中から、所定の輝度、色相および彩度(例えばRGB換算でR=255,G=255,B=255)を有する画素を探索し、その画素に「被写体が雲か雪いずれか一方である」旨を示すフラグを立てる。
【0056】
S4では、CPU112は、測光処理部157に対し、フラグの立った各画素に対応する位置における受光紫外線量を測定するよう指令する。
【0057】
S5では、予め規定された関数fを用いて、EV値に対応する予測受光紫外線量f(EV)を算出する。そして、ある特定の画素において測定した紫外線量が、予め規定された関数fを用いて、f(EV)以上であるか否かを判断する。Yesの場合はS6、Noの場合はS7に進む。
【0058】
ここでEV値と紫外線量との関係を規定するfは次のようなものが挙げられる。例えば、ある特定の場所(屋外)において、順光、正午、曇り空直視の撮影環境下でのEV値が10(ISO100)であれば、f(10)=1.40W/m2であるとする。あるいは、当該特定の場所(屋外)において、順光、午前7:00、曇り空直視の撮影環境下でのEV値=5(ISO100)であれば、f(5)=1.00W/m2であるとする。つまり、特定の撮影環境下での照度(EV値)と紫外線強度との関係を経験的に把握しておき、これをfとする。撮影環境に応じて紫外線量と明るさとは大きく変わりうるから、fは撮影環境に応じて複数用意しておくとよい。例えば、撮影場所の緯度が0に近くなるほど(赤道に近くなるほど)紫外線量は増加する傾向にあるから、fを撮影場所の緯度に応じて変える。なお、UVAは雲を透過する傾向があるが、それでも曇っているとUVAの紫外線量は晴れの日に比べて20%程度減少することが知られており、照度と紫外線量とは相関関係があり、この関係を規定する関数fを用いて、EV値から紫外線量をある程度正確に推測できるといえる。
【0059】
また、測定紫外線量が予測受光紫外線量以上とは、雪による太陽光の照り返しによって紫外線量が太陽光の直射のみを受けるよりも増加していることを意味する。雪面での紫外線の反射率は80−90%といわれているから、空からの紫外線と照り返しの紫外線を合わせると太陽から直射された紫外線を受けるよりも2倍近く紫外線量が増加することになる。
【0060】
S6では、当該画素は雪を被写体とした画像データの一部であると判断する。
【0061】
S7では、当該画素は雲の被写体とした画像データの一部であると判断する。
【0062】
S8では、フラグの立っている全ての画素についてS5〜S7を実施したか否かを判断する。Yesの場合はS10、Noの場合はS9に進む。
【0063】
S9では、S5の実施対象となる画素を、未だ判断対象としていないものの中から1つ選び、それについてS5〜S7を実施する。
【0064】
S10では、S5〜S7によって雲または雪と判断された結果を画素ごとに示したマップを作成する。このマップを基に、本撮像の絞り値、シャッタスピードを調整する。例えば、マップにおいて、「雪」の総画素数よりも「雲」の総画素数が多ければ、雪が被写体とされており、雪は暗く写りやすいため、シャッタスピードを遅くし、絞り径を大きくして、受光量を増加させる。逆に、マップにおいて、「雲」の総画素数よりも「雪」の総画素数が多ければ、雪が被写体とされており、雲は露光量過剰で写りやすいため、シャッタスピードを速くし、絞り径を小さくして、受光量を減少させる。なお、そのマップを表示データとして表示部110に出力してもよい。この後、レリーズスイッチ22の全押しに応じて記録用の画像取得動作を行う。
【0065】
以上のように、特定の紫外線波長域のみを紫外線透過フィルタ86aで透過して、これを固体撮像素子102aで受光して画素ごとの紫外線量を測定し、画素ごとの紫外線量に応じて、当該画素が雲か雪の被写体の一部を構成するものであるかの判断を行う。こうすると、被写体光の可視光領域での波長が似ており、画像データの輝度、色相、彩度などの色情報を用いても区別がつかないような雪あるいは雲を被写体とした画像でも、紫外線量の違いで被写体の区別ができ、適切な撮影条件(シャッタスピードや絞り値)を設定でき、例えば雲は暗めに、雪は明るめに撮れるような設定ができる。よって、本当は雲を撮影しようとしているのに、受光量が高めに設定されて白飛びのひどい画像が得られたり、雪を撮影しようとしているのに、受光量が低めに設定されて暗い画像が得られるのを防げ、高画質の画像を撮影できる。
【0066】
<第2実施形態>
図5は、太陽光下における葉と、水銀灯照明下における葉以外の無彩色物体という2つの被写体に対応する画像データの輝度・色相・彩度の確率分布域をYCrCb空間で示している。水銀灯や蛍光灯下で被写体を撮像すると、画像全体が緑がかったいわゆる「緑色かぶり」という現象が生じることが知られている。極端な場合、太陽光下における葉、水銀灯照明下における葉以外の無彩色物体ともにほぼ一様に緑色になり、それらの輝度・色相・彩度の分布域は、ともに緑色(R=0,G=255,B=0)の近傍領域となり、相当な部分が重なり合う。よって、「緑色かぶり」が発生した場合、画像データの輝度、色相、彩度を用いても、葉とそれ以外の物体という2つの被写体を区別するのは難しい。
【0067】
そこで本実施形態では、画像データの画素ごとに赤外線量を測定し、それに応じて葉と「緑色かぶり」が発生した物体との区別をつける。
【0068】
図6は本実施形態で用いるフィルタ86である赤外線透過フィルタ86bの透過率と光波長との関係を示す。赤外線透過フィルタ86bの透過する波長成分は0.7〜400μmの赤外線である。
【0069】
固体撮像素子102aは、赤外線透過フィルタ86bの透過率がピークに達する波長域において感度を有しており、赤外線を光電変換し、その強度に対応する電荷を発生し、蓄積するものとする。すなわち、赤外線の波長域では感度があるものとする。なお、固体撮像素子を用いた赤外線検知は公知のものを利用できる(例えば特開平6−205297号公報)。
【0070】
図7は第2実施形態に係る撮影処理のフローチャートである。この処理をCPU112に指令させるプログラムはEEPROM119に記憶されている。この処理は静止画撮影モードが設定されたことに応じて開始する。
【0071】
S11では、レリーズスイッチ22の半押しがあったか否かを判断する。Yesの場合はS12に進み、Noの場合はS11に戻る。
【0072】
S12では、レリーズスイッチ22の半押しに応じて撮像回路102bから入力された画像データの中から、所定の輝度、色相および彩度(例えばRGB換算でR=0,G=255,B=0)を有する画素を探索し、その画素に「被写体が葉の可能性あり」を示すフラグを立てる。すなわちここでは、色情報を用いて大まかに葉の可能性のある画素を特定する。
【0073】
S13では、CPU112は、測光処理部157に対し、フラグの立った各画素に対応する位置における受光赤外線量を測定するよう指令する。
【0074】
S14では、特定の画素において測定した赤外線量が、予め規定された閾値(例えば1W/m2)以上であるか否かを判断する。Yesの場合はS15、Noの場合はS16に進む。
【0075】
S15では、当該画素は葉を被写体とした画像データの一部であると判断する。
【0076】
S16では、当該画素は葉以外の物体を被写体とした画像データの一部であると判断する。すなわち、「緑かぶり」では、葉による赤外線の反射が受光されないし、また、蛍光灯はほどんど赤外線を発しないから、赤外線量が多ければ被写体が赤外線を多く反射するものであり、少なければ葉がないといえる。なお、白熱灯は蛍光灯に比して赤外線を多く発する傾向があるが、白熱灯下では「緑かぶり」は生じないため、葉の判断には影響しない。
【0077】
S17では、フラグの立っている全ての画素についてS14〜S16を実施したか否かを判断する。Yesの場合はS19、Noの場合はS18に進む。
【0078】
S18では、S14の実施対象となる画素を、未だ判断対象としていないものの中から1つ選び、それについてS14〜S16を実施する。
【0079】
S19では、S14〜S16によって葉または葉以外と判断された結果を画素ごとに示したマップを作成する。このマップを基に、本撮像のホワイトバランスを調整する。例えば、マップにおいて、「葉」の総画素数が「葉以外」の総画素数よりも多ければ、太陽光下での葉が被写体とされており、光源種を太陽光(D55)としてホワイトバランスを合わせる。また、当然ながらシャッタ速度や絞り値、合焦位置の検出も行う。この後、レリーズスイッチ22の全押しに応じて記録用の画像取得動作を行う。
【0080】
以上のように、特定の赤外線波長域のみを赤外線透過フィルタ86bで透過して、これを固体撮像素子102aで受光して画素ごとの赤外線量を測定し、画素ごとの赤外線量に応じて半押し後の画像データの画素ごとに葉の一部かそれ以外かの判断を行う。こうすると、画像データの輝度、色相、彩度などの色情報を用いても区別がつかないような葉を被写体とした画像あるいは他物体を被写体とした緑色かぶりの画像でも、赤外線量の違いで被写体の区別ができ、適切な撮影条件(ホワイトバランス)を設定できる。よって、本当は太陽光下で葉を撮影しようとしているのに、ホワイトバランスが水銀灯や蛍光灯を光源としたものに設定されてしまうのを防げ、高画質の画像を撮影できる。
【0081】
<第3実施形態>
第1実施形態では、紫外線量のみを用いて雲と雪を判別していたが、色情報のみで雲と雪を判別できる場合はこれにより判別し、色情報で判別できない場合は、紫外線量で判別してもよい。
【0082】
図8は第3実施形態に係る撮影準備処理のフローチャートである。この処理をCPU112に指令させるプログラムはEEPROM119に記憶されている。この処理は静止画撮影モードが設定されたことに応じて開始する。
【0083】
S21−22はS1−2と同様である。
【0084】
S23では、レリーズスイッチ22の半押しに応じて撮像回路102bから入力された画像データの各画素について、輝度・色相・彩度が所定の閾値(1)以上である画素にのみ「雲」のフラグを立てる。
【0085】
S24では、当該画像データの各画素について、輝度・色相・彩度が所定の閾値(2)以上である画素にのみ「雲」のフラグを立てる。
【0086】
ここで、閾値(1)および(2)は、特定の撮影条件下(例えば、3月上旬、正午、光源は太陽)における雲との輝度・色相・彩度の確率分布域を、予めYCrCb空間上に経験的に定めておき、かつ、これらの確率分布域を区切る線分もしくは平面あるいはこれらの組み合わせ(直方体や円筒など)を閾値とする。つまり、閾値とは必ずしも1次元の値に限らない。
【0087】
図9はある特定の撮影条件下での雲および輝度・色相・彩度の確率分布域と、雲と判別するための閾値th1、雪と判別するための閾値th2を例示している。一般的には、雲は雪に比べ、色の偏りが少なく、また輝度は高いであろう。従って、閾値th1は、閾値th2よりも低い色相域・彩度域に設定され、かつ、高い輝度域に設定される。th1は、例えばYCrCb空間において、100≦Y、120°≦tan-1 Cb/Cr≦140°、Cr^2 + Cb^2≦5 とする。th2は、例えばYCrCb空間において、80≦Y、120°≦tan-1 Cb/Cr≦140°、Cr^2 + Cb^2≦15 とする。
【0088】
S25では、当該画像データの各画素について、輝度・色相・彩度が所定の値(例えばR=128、G=128、B=128の灰色)を持つ画素にのみ「雲または雪」のフラグを立てる。なお、画像データの取得から輝度・色相・彩度が所定の閾値(1)あるいは閾値(2)以上である画素の特定に至るまでの時間がある一定時間以上かかった場合は、「雲」や「雪」のフラグは立てず、「雲または雪」のフラグを立ててもよい。これは、色情報に基づいた種類の判別が不明あるいは困難な画素について色情報による不正確な判別の続行に時間をかけ過ぎるよりも、速やかに紫外線量で判別したほうが効率的だからである。
【0089】
S26では、CPU112は、測光処理部157に対し、「雲または雪」のフラグの立った各画素に対応する位置における受光紫外線量を測定するよう指令する。
【0090】
S27では、予め規定された関数fを用いて、EV値に対応する予測受光紫外線量f(EV)を算出する。そして、ある特定の画素において測定した紫外線量が、予め規定された関数fを用いて、f(EV)以上であるか否かを判断する。Yesの場合はS28、Noの場合はS29に進む。
【0091】
S28では、当該画素は雪を被写体とした画像データの一部であると判断する。
【0092】
S29では、当該画素は雲の被写体とした画像データの一部であると判断する。
【0093】
S30では、「雲または雪」フラグの立っている全ての画素についてS27〜S30を実施したか否かを判断する。Yesの場合はS32、Noの場合はS31に進む。
【0094】
S31では、S27の実施対象となる画素を、未だ判断対象としていないものの中から1つ選び、それについてS27〜S30を実施する。
【0095】
S32では、S27〜S30によって雲または雪と判断された結果を画素ごとに示したマップを作成する。このマップを基に、本撮像の絞り値、シャッタスピードを調整する。例えば、マップにおいて、「雪」の総画素数よりも「雲」の総画素数が多ければ、雪が被写体とされており、雪は暗く写りやすいため、シャッタスピードを遅くし、絞り径を大きくして、受光量を増加させる。逆に、マップにおいて、「雲」の総画素数よりも「雪」の総画素数が多ければ、雪が被写体とされており、雲は露光量過剰で写りやすいため、シャッタスピードを速くし、絞り径を小さくして、受光量を減少させる。なお、そのマップを表示データとして表示部110に出力してもよい。この後、レリーズスイッチ22の全押しに応じて記録用の画像取得動作を行う。
【0096】
このように、まず、色情報に応じて被写体判別を行い、それで判別ができなかった画素についてのみ紫外線量を用いて被写体判別を行うから、全ての画素につき紫外線量のみで被写体判別をするよりも被写体判別に要する時間が短縮され、かつ、仮に色情報による判別ができなくても紫外線量で判別を行うから、判別の正確性が担保される。
【0097】
<第4実施形態>
判別された被写体の種類を示す画像や音声などの情報を出力してユーザが認識できてもよい。
【0098】
図10は第4実施形態に係る撮影準備処理のフローチャートである。この処理をCPU112に指令させるプログラムはEEPROM119に記憶されている。この処理は静止画撮影モードが設定されたことに応じて開始する。また、フィルタ86は、赤外線透過フィルタ86bおよび可視光領域の波長のみを透過する可視光透過フィルタ86cであるとする。
【0099】
S41はS2と同様である。
【0100】
S42では、赤外線透過フィルタ86bのみを光路に挿入して赤外線領域の被写体光に相当する画像データ(以下「赤外線画像データ」という)を取得する。また、可視光透過フィルタ86のみcを光路に挿入して可視光線領域の被写体光に相当する画像データ(以下「可視光画像データ」という)を取得する。
【0101】
S43では、可視光画像データにおける任意の1つの画素の彩度が、所定の閾値s1以上であるか否かを判断する。Yesの場合はS44、Noの場合はS48に進む。閾値s1は、例えばYCrCb空間において、400≦Cr^2 + Cb^2 とする。
【0102】
S44−S45では、S43で彩度と閾値s1とを比較した画素に対応する赤外線画像データの画素(以下「対応画素」とする)とその周辺画素に対して、所定のフィルタリング処理を施すことでテクスチャ信号を抽出する。例えば、本出願人による特開2004-258751号公報に示すように、原画像データから生成された輝度信号に対して、図11に示すようなマスクサイズが3×3の1次微分フィルタを用いて、対応画素とその周辺画素を含む6近傍画素群についてフィルタ処理を施し、その絶対値を求める。そして、x方向の1次微分フィルタを用いてフィルタ処理を施した絶対値とy方向の1次微分フィルタを用いてフィルタ処理を施した絶対値とを求めて、これらを加算する。この加算値からなる信号が輝度信号から生成された高周波信号(テクスチャ信号)である。なお、フィルタは1次微分フィルタに限らず、2次微分フィルタやラプラシアンピラミッド、Wavelet変換、ラプラシアンフィルタなどの公知のエッジ検出に用いられる演算であれば何でもよい。
【0103】
S46では、上記加算値の個数を示すパラメータnumを1だけインクリメントする。numの初期値は0である。
【0104】
S47では、可視光画像データに対応する赤外線画像データの全画素についてテクスチャ信号の生成が終了したか否かを判断する。Yesの場合はS49、Noの場合はS48に進む。
【0105】
S48では、未だテクスチャ信号の生成対象としていない画素を赤外線画像データの中から1つ選び、それについてS43〜S46を実施する。
【0106】
S49では、各画素について生成したテクスチャ信号を加算し、これをnumで除算することでテクスチャ信号の平均値Tを算出する。
【0107】
S50では、平均値Tが所定の閾値s2以上であるか否かを判断する。Yesの場合はS51、Noの場合はS52に進む。
【0108】
S51では、被写体が花であると判別する。これは例えば、ヒマワリからの赤外線の照り返しによって、画像データからは花弁や葉脈などのテクスチャ(エッジの分布つまり筋模様)が検出されるから、このテクスチャがある程度以上の強度で現れていれば、花と判断する。
【0109】
S52では、被写体が花ではないと判別する。つまり、ヒマワリと同じような黄色でもテクスチャがない物体は、花でないと判断する。
【0110】
S53では、可視光線画像についての彩度がs1以上の画素群のR平均値、G平均値、B平均値および赤外線画像についてのテクスチャ平均値Tからなる座標値Mを、これらの4つのパラメータを軸とする4次元空間にプロットする。この4次元空間における座標値Mと、予め当該4次元空間に規定された各花の種類ごとの確率分布域とに基づいて、花の種類を認識する。
【0111】
例えば、チューリップ、ヒマワリ、コスモスなど花の種類ごとのRGB各平均値およびテクスチャ平均値の確率分布域のサンプルが予めROMなどに記憶されており、図12に示すように、チューリップの確率分布域R1、ヒマワリの確率分布域R2、コスモスの確率分布域R3などが配置されている。なお図12では都合上3次元空間が示されている。上記プロットされた座標値とこの確率分布域とをマッチングし、そのうち一致率の最も高い花の種類を最終的に認識された花の種類とする。花の種類ごとの確率分布域は、経験的に定めればよい。図12では、一例としてヒマワリの確率分布域R2にパラメータMが属しており、被写体はヒマワリと認識できる。
【0112】
昆虫の可視波長域(つまり、昆虫が見える光の波長域)は、約300〜650nmで、特に近紫外線寄り(青色寄り)の感度が高い。従って例えば、赤外線フィルタ86bの透過する波長成分を約300〜650nmより長波長としておき、またテクスチャパターンもこれに合わせて昆虫の可視波長域で得られたものにすると、昆虫の視点から見たようなテクスチャパターンで花や葉の種類を認識できる。
【0113】
図13に例示するように、この最終的に認識された花の種類を示す情報は、操作部113に設けられた「種類認識ボタン」を押下することで、表示部110に出力されてもよい。
【0114】
このように、可視光だけでなくテクスチャ解析結果を合わせて花の種類を認識することで、単に色だけで被写体の種類を判別し、彩度の高い壁を花弁領域などと誤認識することが防げ、正確な被写体種類の特定が可能となる。
【0115】
<第5実施形態>
上記第1−4実施形態において、被写体光の異なる波長域を選択的に撮像素子102aに結像する機構は何でもよいが、例えば次のようにすることができる。
【0116】
図14−図16は上記第1−4実施形態のデジタルカメラ10に適用可能な撮像系の詳細を示す。
【0117】
図14では、撮像レンズ14後の光路に挿抜可能に配置された1または複数のフィルタ86、例えば紫外線カットフィルタおよび赤外線カットフィルタは、モータ191によってフィルタ86の光路への挿入/退避動作が駆動される。撮像レンズ14を介して固体撮像素子102aに結像される被写体光は、フィルタ86により所定の波長成分のみがカットされるかあるいは透過される。フィルタ86の透過特性は何でもよく、紫外線波長域をカットしその他の波長域は透過する紫外線カットフィルタ、紫外線波長域のみを透過する紫外線透過フィルタ、赤外線波長域をカットしその他の波長域は透過する赤外線カットフィルタ、赤外線波長域のみを透過する赤外線透過フィルタ、可視光波長域のみを透過するRGBフィルタなどが挙げられる。
【0118】
図14のように紫外線カットフィルタと赤外線カットフィルタの双方を光路に挿入すれば、可視光域のみが結像される。赤外線カットフィルタのみを挿入すれば、可視光および紫外線光が結像される。紫外線カットフィルタのみを挿入すれば、可視光および赤外線が結像される。
【0119】
あるいは、図15に例示するように、固体撮像素子105aのベイヤ配列のRGBカラーフィルタのうちRGの部分を、紫外線透過フィルタや赤外線透過フィルタに入れ換え、画素によってR、G、B、紫外線あるいは赤外線を受光するようにしてもよい。この際、紫外線あるいは赤外線を受光する画素については、通常のRGBの画像を記録するのであれば、同時化処理の際に周囲のR、G、Bデータで紫外線あるいは赤外線しか受光しない画素のR、G、Bデータを作ってもよい。また同様にして、赤外線画像データや紫外線画像データを記録することもできる。
【0120】
あるいは、図16に例示するように、撮像レンズ14から3つの固体撮像素子105a−1、105a−2、105a−3までの間に、光軸に対してそれぞれ略−45度および45度の傾きを保った平面ハーフミラー1および平面ハーフミラー2を設け、平面ハーフミラー1の受光面1−1の反射光は固体撮像素子105a−1、平面ハーフミラー2の受光面2−1の反射光は固体撮像素子105a−2、平面ハーフミラー1および平面ハーフミラー2の透過光は固体撮像素子105a−3に結像させる。
【0121】
固体撮像素子105a−1の結像面には、赤外線透過フィルタのみを配置し、固体撮像素子105a−2の結像面には、紫外線透過フィルタのみを配置し、固体撮像素子105a−3の結像面には、通常のRGBカラーフィルタのみを配置する。固体撮像素子105a−1・2・3の出力した画像データはそれぞれ別個にA/D変換、ホワイトバランス補正、ガンマ補正、YC処理などの各種画像処理が施され、別々の画像データとしてVRAM132に出力される。
【0122】
後は、用途に応じて各固体撮像素子から得られた画像を使い分ければよい。例えば、紫外線量を取得したい場合は固体撮像素子105a−2からの画像データを、赤外線量を取得したい場合は固体撮像素子105a−1からの画像データを用いる。また、通常のカラー画像を記録したい場合は、固体撮像素子105a−3からの画像データを記録する。
【0123】
なお、各ハーフミラーの反射面に、スリットパターンなどの形成された光学フィルタを積層させて、各ハーフミラーの光の透過率を自在に変化させてもよい。例えば、記録用画像データの取得の際には、平面ハーフミラー1の反射面1−1および平面ハーフミラー2の反射面2−1に設けられた光学フィルタ双方の透過率を上げて、固体撮像素子105a−3に多くの光が結像するようにする。
【0124】
あるいは、赤外線による被写体判別(第2実施形態の撮像準備処理)を実施する場合は、平面ハーフミラー1に設けられた光学フィルタの透過率を下げ(反射率を上げ)かつ平面ハーフミラー2に設けられた光学フィルタの透過率を上げて(反射率を下げて)、固体撮像素子105a−1の結像面に多くの光が結像するようにする。
【0125】
あるいは、紫外線による被写体判別(第1実施形態の撮像準備処理)を実施する場合は、平面ハーフミラー1に設けられた光学フィルタの透過率を上げ(反射率を下げ)かつ平面ハーフミラー2に設けられた光学フィルタの透過率を下げて(反射率を上げて)、固体撮像素子105a−2の結像面に多くの光が結像するようにする。
【0126】
また、ハーフミラーを用いず、プリズムや回折格子などで赤外線、紫外線、可視光を分光し、分光された紫外線、赤外線、可視光をそれぞれ撮像素子105a−1・2・3に入射させてもよい。
【0127】
<第6実施形態>
フィルタ86として偏光フィルタ86cを用い、偏光フィルタの挿入状態または非挿入状態で得られた画像データを比較して、被写体を判別することもできる。
【0128】
図17は第6実施形態に係る撮影準備処理のフローチャートである。この処理をCPU112に指令させるプログラムはEEPROM119に記憶されている。この処理は静止画撮影モードが設定されたことに応じて開始する。
【0129】
S61はS2と同様である。
【0130】
S62では、偏光フィルタ86cを光路から退避して1枚分の画像データを取得し、VRAM132に記憶する。そして、取得した画像データについて、所定の輝度・色相・彩度を持つ画素にのみ、「雲または雪」というフラグを立てる。つまり、色情報上では被写体が雲か雪かどちらか一方であるのは確からしいが、そのいずれかまでは判別のつかない画素に「雲または雪」フラグが立つ。
【0131】
S63では、偏光フィルタ86cを光路に挿入して1枚分の画像データを取得し、VRAM132に記憶する。
【0132】
S64では、偏光フィルタ86cによる特定の偏光方向の透過によって画素値の変化があるか否か、すなわち、L=|偏光フィルタなしの画像データの画素値−k×偏光フィルタありの画像データの画素値|≧所定の閾値Xであるか否かを判断する。Yesの場合はS66に進み、Noの場合はS67に進む。
【0133】
なお、偏光フィルタがあると画像全体が暗くなるため、偏光フィルタありの画像データの画素値を補正係数kで補正している。閾値Xと補正係数kは、例えばX=20、k=2.0とする。
【0134】
S66では、当該画素は雪を被写体とした画像データの一部であると判断する。すなわち、雪を被写体とすると、雪面での反射(偏光)により偏光方向が揃うため、Lの値が一定閾値Xよりも大きくなり、被写体は雪と判断できる。
【0135】
S67では、当該画素は雲の被写体とした画像データの一部であると判断する。すなわち、雲を被写体とすると、自然光の乱反射がそのまま入射し、偏光方向が揃うこともないため、Lの値が閾値Xよりも小さくなり、被写体は雲と判断する。
【0136】
S68−70は、S8−10と同様である。
【0137】
このように、偏光フィルタのある/ない状態で取得した画像データの画素値の差異に基づいて各画素ごとに被写体を判別することで、RGBの情報だけでは区別がつかないような雲と雪を正確に判別できる。
【0138】
なお、偏光フィルタとは要するに直線偏光が可能な偏光子(ポラライザー)であれば何でもよく、フィルム偏光子の他、方解石やフレネルロムなどを用いてもよい。
【0139】
また、特定の偏光方向を検知したか否かに応じて被写体を判別してもよい。例えば、水の反射光は横方向(振動方向に垂直な方向)に最も多く光を放出するから、横方向の光を検知した画素の被写体は水であると判別してもよい。なお、カゲロウは 人間の見えないこの横方向の偏光を頼りに水に集まることが知られている。
【0140】
また、水面やガラス越しの被写体を撮るなど、反射光で被写体が判別しにくくなる場合に本実施形態のような判別を用いても有効であろう。
【0141】
<第7実施形態>
第6実施形態では、画素値の差分値のみに基づいて被写体判別を行っていた。しかし、第3実施形態と同様、色情報のみで雲と雪を判別できる場合はこれにより判別し、色情報で判別できない場合は、画素値の差分値で判別してもよい。
【0142】
図18は第7実施形態に係る撮影準備処理のフローチャートである。この処理をCPU112に指令させるプログラムはEEPROM119に記憶されている。この処理は静止画撮影モードが設定されたことに応じて開始する。
【0143】
S71−S75は、S21−S25と同様である。
【0144】
S76−82は、S63−S70と同様である。
【0145】
このように、まず、可視光域で生じた色に応じて被写体判別を行い、それで判別ができなかった画素についてのみ、画素値の差分値を用いて被写体判別を行うから、画素値の差分値のみで被写体判別をするよりも被写体判別に要する時間が短縮され、かつ、仮に色による判別ができなくても、特定の偏光方向の画素値の大きさで判別を行うから、判別の正確性が担保される。
【図面の簡単な説明】
【0146】
【図1】デジタルカメラの機能ブロック図
【図2】雪、雲という2つの被写体に対応する画像データの輝度・色相・彩度の確率分布域をYCrCb空間上で示した図
【図3】紫外線透過フィルタの透過率と光波長との関係を示す図
【図4】第1実施形態に係る撮影準備処理のフローチャート
【図5】太陽光下における葉と、水銀灯照明下における葉以外の無彩色物体という2つの被写体に対応する画像データの輝度・色相・彩度の確率分布域をYCrCb空間で示した図
【図6】赤外線透過フィルタ86bの透過率と光波長との関係を示す図
【図7】第2実施形態に係る撮影処理のフローチャート
【図8】第3実施形態に係る撮影処理のフローチャート
【図9】ある特定の撮影条件下での雲および輝度・色相・彩度の確率分布域と、雲と判別するための閾値th1、雪と判別するための閾値th2を例示した図
【図10】第4実施形態に係る撮影準備処理のフローチャート
【図11】マスクサイズが3×3の1次微分フィルタを例示した図
【図12】画素群のR平均値、G平均値、B平均値および赤外線画像についての平均値Tを、これらの4つのパラメータを軸とする4次元空間にプロットした様子を模式的に示した図
【図13】認識された花の種類を示す情報を表示部に出力した様子を示す図
【図14】撮像レンズ後の光路に挿抜可能に配置された1または複数のフィルタの一例を示す図
【図15】一部が紫外線透過フィルタや赤外線透過フィルタに置換されたカラーフィルタの一例を示す図
【図16】2枚の平面ハーフミラーで分光された3系統の被写体光を結像する複数の固体撮像素子の配置例を示す図
【図17】第6実施形態に係る撮影準備処理のフローチャート
【図18】第7実施形態に係る撮影準備処理のフローチャート
【符号の説明】
【0147】
14:撮像レンズ、102a:固体撮像素子、86:フィルタ、191:モータ
【特許請求の範囲】
【請求項1】
撮像レンズを介して撮像素子の受光面に結像された被写体光の非可視光成分および可視光成分を、前記撮像素子により光電変換することで得られた電気信号を画像データに変換して出力する撮像部と、
前記撮像部の出力した画像データの画素の各々における前記被写体光の非可視光成分の強度を検出する強度検出部と、
前記強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する被写体種類判別部と、
を備える撮像装置。
【請求項2】
前記被写体光の非可視光成分は、波長10nmないし400nmの紫外線を含む請求項1に記載の撮像装置。
【請求項3】
前記被写体種類判別部は、前記紫外線の強度に基づいて被写体が雪であるかまたは雲であるかを判別する請求項2に記載の撮像装置。
【請求項4】
前記被写体光の非可視光成分は、波長700nmないし1400nmの赤外線を含む請求項1〜3のいずれかに記載の撮像装置。
【請求項5】
前記被写体種類判別部は、前記赤外線の強度に基づいて被写体が葉であるか否かを判別する請求項4に記載の撮像装置。
【請求項6】
前記被写体種類判別部は、前記強度検出部の検出した各画素ごとの色成分に基づいて被写体の種類を判別し、前記強度検出部の検出した各画素ごとの色成分に基づいて被写体の種類を判別できなかった場合、前記強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する請求項1〜5のいずれかに記載の撮像装置。
【請求項7】
前記被写体種類判別部は、前記撮像部から継続的に出力された画像データに基づいて画像データ間の動きベクトルを決定し、前記決定された動きベクトルに応じて被写体の種類を判別し、前記動きベクトルに応じて被写体の種類が判別できなかった場合、前記強度検出部の検出した各画素ごとの可視光成分の強度に基づいて被写体の種類を判別する請求項6に記載の撮像装置。
【請求項8】
前記被写体種類判別部は、前記撮像部から出力された画像データから所定の波長域にある可視光成分を検出することで被写体の種類を判別し、前記所定の波長域にある可視光成分を所定の時間内に検出できなかった場合、前記強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する請求項6または7に記載の撮像装置。
【請求項9】
前記撮像部から出力された画像データから特定の周波数成分の強度を検出する特定周波数成分強度検出部を備え、
前記被写体種類判別部は、特定周波数成分強度検出部の検出した特定の周波数成分の強度に応じて被写体の種類を判別する請求項1〜8のいずれかに記載の撮像装置。
【請求項10】
前記特定の周波数成分の強度はテクスチャ信号を含む請求項9に記載の撮像装置。
【請求項11】
前記被写体種類判別部は、特定周波数成分強度検出部の検出した特定の周波数成分の強度に応じて被写体が花弁であるか否かを判別する請求項10に記載の撮像装置。
【請求項12】
前記撮像部は、被写体光の非可視光成分または可視光成分の一方を、前記撮像素子により選択的に光電変換する請求項1〜11のいずれかに記載の撮像装置。
【請求項13】
前記撮像部は、赤外線カットフィルタおよび紫外線カットフィルタのうち少なくとも一方を前記撮像レンズから前記撮像素子までの光路に進退自在に挿入する機構を備える請求項12に記載の撮像装置。
【請求項14】
前記撮像部は、非可視光成分を光電変換する非可視光用撮像素子と、可視光成分を光電変換する可視光用撮像素子とを備える請求項12に記載の撮像装置。
【請求項15】
前記撮像部は、前記撮像レンズを介して受光した被写体光を前記非可視光用撮像素子および前記可視光用撮像素子の各々の受光面に導光して結像可能な機構を備える請求項14に記載の撮像装置。
【請求項16】
撮像レンズを介して撮像素子の受光面に結像された被写体光を、前記撮像素子により光電変換することで得られた電気信号を画像データに変換して出力する撮像部と、
前記撮像レンズから前記撮像素子までの光路に進退自在に偏光子を挿入する機構と、
前記光路に偏光子が挿入された状態で出力された画像データと前記光路に偏光子が挿入されない状態で出力された画像データとの比較に応じて被写体の種類を判別する被写体種類判別部と、
を備える撮像装置。
【請求項17】
前記被写体種類判別部は、前記光路に偏光子が挿入された状態で出力された画像データと前記光路に偏光子が挿入されない状態で出力された画像データとの比較に応じて被写体の種類を判別できなかった場合、前記強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する請求項16に記載の撮像装置。
【請求項18】
前記偏光子は偏光フィルタを含む請求項16または17に記載の撮像装置。
【請求項1】
撮像レンズを介して撮像素子の受光面に結像された被写体光の非可視光成分および可視光成分を、前記撮像素子により光電変換することで得られた電気信号を画像データに変換して出力する撮像部と、
前記撮像部の出力した画像データの画素の各々における前記被写体光の非可視光成分の強度を検出する強度検出部と、
前記強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する被写体種類判別部と、
を備える撮像装置。
【請求項2】
前記被写体光の非可視光成分は、波長10nmないし400nmの紫外線を含む請求項1に記載の撮像装置。
【請求項3】
前記被写体種類判別部は、前記紫外線の強度に基づいて被写体が雪であるかまたは雲であるかを判別する請求項2に記載の撮像装置。
【請求項4】
前記被写体光の非可視光成分は、波長700nmないし1400nmの赤外線を含む請求項1〜3のいずれかに記載の撮像装置。
【請求項5】
前記被写体種類判別部は、前記赤外線の強度に基づいて被写体が葉であるか否かを判別する請求項4に記載の撮像装置。
【請求項6】
前記被写体種類判別部は、前記強度検出部の検出した各画素ごとの色成分に基づいて被写体の種類を判別し、前記強度検出部の検出した各画素ごとの色成分に基づいて被写体の種類を判別できなかった場合、前記強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する請求項1〜5のいずれかに記載の撮像装置。
【請求項7】
前記被写体種類判別部は、前記撮像部から継続的に出力された画像データに基づいて画像データ間の動きベクトルを決定し、前記決定された動きベクトルに応じて被写体の種類を判別し、前記動きベクトルに応じて被写体の種類が判別できなかった場合、前記強度検出部の検出した各画素ごとの可視光成分の強度に基づいて被写体の種類を判別する請求項6に記載の撮像装置。
【請求項8】
前記被写体種類判別部は、前記撮像部から出力された画像データから所定の波長域にある可視光成分を検出することで被写体の種類を判別し、前記所定の波長域にある可視光成分を所定の時間内に検出できなかった場合、前記強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する請求項6または7に記載の撮像装置。
【請求項9】
前記撮像部から出力された画像データから特定の周波数成分の強度を検出する特定周波数成分強度検出部を備え、
前記被写体種類判別部は、特定周波数成分強度検出部の検出した特定の周波数成分の強度に応じて被写体の種類を判別する請求項1〜8のいずれかに記載の撮像装置。
【請求項10】
前記特定の周波数成分の強度はテクスチャ信号を含む請求項9に記載の撮像装置。
【請求項11】
前記被写体種類判別部は、特定周波数成分強度検出部の検出した特定の周波数成分の強度に応じて被写体が花弁であるか否かを判別する請求項10に記載の撮像装置。
【請求項12】
前記撮像部は、被写体光の非可視光成分または可視光成分の一方を、前記撮像素子により選択的に光電変換する請求項1〜11のいずれかに記載の撮像装置。
【請求項13】
前記撮像部は、赤外線カットフィルタおよび紫外線カットフィルタのうち少なくとも一方を前記撮像レンズから前記撮像素子までの光路に進退自在に挿入する機構を備える請求項12に記載の撮像装置。
【請求項14】
前記撮像部は、非可視光成分を光電変換する非可視光用撮像素子と、可視光成分を光電変換する可視光用撮像素子とを備える請求項12に記載の撮像装置。
【請求項15】
前記撮像部は、前記撮像レンズを介して受光した被写体光を前記非可視光用撮像素子および前記可視光用撮像素子の各々の受光面に導光して結像可能な機構を備える請求項14に記載の撮像装置。
【請求項16】
撮像レンズを介して撮像素子の受光面に結像された被写体光を、前記撮像素子により光電変換することで得られた電気信号を画像データに変換して出力する撮像部と、
前記撮像レンズから前記撮像素子までの光路に進退自在に偏光子を挿入する機構と、
前記光路に偏光子が挿入された状態で出力された画像データと前記光路に偏光子が挿入されない状態で出力された画像データとの比較に応じて被写体の種類を判別する被写体種類判別部と、
を備える撮像装置。
【請求項17】
前記被写体種類判別部は、前記光路に偏光子が挿入された状態で出力された画像データと前記光路に偏光子が挿入されない状態で出力された画像データとの比較に応じて被写体の種類を判別できなかった場合、前記強度検出部の検出した各画素ごとの非可視光成分の強度に基づいて被写体の種類を判別する請求項16に記載の撮像装置。
【請求項18】
前記偏光子は偏光フィルタを含む請求項16または17に記載の撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図14】
【図15】
【図16】
【図17】
【図18】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図14】
【図15】
【図16】
【図17】
【図18】
【図13】
【公開番号】特開2009−290694(P2009−290694A)
【公開日】平成21年12月10日(2009.12.10)
【国際特許分類】
【出願番号】特願2008−142777(P2008−142777)
【出願日】平成20年5月30日(2008.5.30)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
【公開日】平成21年12月10日(2009.12.10)
【国際特許分類】
【出願日】平成20年5月30日(2008.5.30)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
[ Back to top ]