撮像装置
【課題】合成式ぶれ補正方法において、高いぶれ補正を得る。
【解決手段】撮像装置は、比較的広い撮影画角で撮影を行う第1撮像部と、比較的狭い撮影画角で撮影を行う第2撮像部とを備える。第1撮像部(広角カメラ)にて、比較的長い露光時間を用いて広角長露光画像を撮影し、これと同時に、第2撮像部(望遠カメラ)にて、比較的短い露光時間を用いて望遠短露光画像TSを撮影する。広角長露光画像から望遠短露光画像TSに対応する画角の画像を切り出し、切り出し画像の画像サイズを拡大して得た画像WL’と、望遠短露光画像TSを画像合成部50に入力する。画像合成部50は、画像WL’及びTSを合成することで出力結果画像350を生成する。
【解決手段】撮像装置は、比較的広い撮影画角で撮影を行う第1撮像部と、比較的狭い撮影画角で撮影を行う第2撮像部とを備える。第1撮像部(広角カメラ)にて、比較的長い露光時間を用いて広角長露光画像を撮影し、これと同時に、第2撮像部(望遠カメラ)にて、比較的短い露光時間を用いて望遠短露光画像TSを撮影する。広角長露光画像から望遠短露光画像TSに対応する画角の画像を切り出し、切り出し画像の画像サイズを拡大して得た画像WL’と、望遠短露光画像TSを画像合成部50に入力する。画像合成部50は、画像WL’及びTSを合成することで出力結果画像350を生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、デジタルビデオカメラ又はデジタルスチルカメラ等の撮像装置に関する。
【背景技術】
【0002】
比較的短い露光時間での撮影と比較的長い露光時間での撮影を連続的に行って短露光画像及び長露光画像を取得し、短露光画像及び長露光画像を合成することによってぶれ補正の成された出力結果画像を得る合成式ぶれ補正方法が提案されている(例えば、下記特許文献1参照)。
【0003】
一方、ステレオカメラを有する撮像装置では、比較的広い画角を有する広角画像と比較的狭い画角を有する望遠画像を同時に撮影することができる。単眼のカメラと同様、ステレオカメラにも手ぶれが作用するが、手ぶれは望遠画像に対して相対的に強く影響し、望遠画像上で大きく被写体がぶれることがある。
【0004】
尚、第1カメラ部と第2カメラ部を備えた撮像装置において、第1カメラ部にて1枚の長露光画像の撮影を行う一方で第2カメラ部にて複数の短露光画像の撮影を行い、複数の短露光画像に基づく推定手ぶれ軌跡情報を用いて長露光画像のぶれを補正する方法も提案されている(例えば、下記特許文献2参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2010−141653号公報
【特許文献2】特開2004−312583号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
上述の合成式ぶれ補正方法などにより、適正なぶれ補正を行うことができる。しかしながら、比較的狭い画角にて(高ズーム倍率にて)短露光画像及び長露光画像の撮影が成された場合、短露光画像及び長露光画像に(特に長露光画像に)多くのぶれが混入し、短露光画像及び長露光画像に基づくぶれ補正効果が十分に得られないこともある。これは、特許文献2の方法においても同様である。
【0007】
そこで本発明は、高いぶれ補正効果を期待することのできる撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0008】
本発明に係る第1の撮像装置は、第1露光時間を用いた撮影により第1入力画像を得る第1撮像部と、前記第1撮像部よりも狭い撮影画角及び第1露光時間よりも短い第2露光時間を用いた撮影により第2入力画像を得る第2撮像部と、前記第1及び第2入力画像に基づき出力結果画像を生成する画像処理部と、を備えたことを特徴とする。
【0009】
第2撮像部が第1及び第2露光画像を用いて長露光画像及び短露光画像を撮影し、それらの画像から出力結果画像を得る場合と比べて、上記構成によれば、高いぶれ補正効果を期待することができる。第2撮像部を用いて得ることのできる長露光画像よりも、第1撮像部にて得た第1入力画像の方がぶれの影響が少ないと考えられるからである。
【0010】
具体的には例えば、第1の撮像装置において、前記画像処理部は、前記第2入力画像の画角に対応する、前記第1入力画像内の画像を切り出す切り出し処理部と、切り出された画像の画像サイズを、前記第2入力画像の画像サイズまで拡大する画像拡大部と、前記拡大によって得られた画像の画像信号と前記第2入力画像の画像信号とを混合することにより、前記出力結果画像の画像信号を生成する画像合成部と、を備えている。
【0011】
また例えば、第1の撮像装置において、前記画像処理部は、前記第2撮像部にて観測される領域の内、前記第1撮像部にて観測できない領域については、前記第2入力画像の画像信号のみを用いて前記出力結果画像の画像信号を生成する。
【0012】
本発明に係る第2の撮像装置は、第1露光時間を用いた撮影により第1入力画像を得る第1撮像部と、前記第1撮像部よりも狭い撮影画角及び第1露光時間よりも長い第2露光時間を用いた撮影により第2入力画像を得る第2撮像部と、前記第1及び第2入力画像に基づき出力結果画像を生成する画像処理部と、を備えたことを特徴とする。
【0013】
第2撮像部が第1及び第2露光画像を用いて長露光画像及び短露光画像を撮影し、それらの画像から出力結果画像を得る場合と比べて、上記構成によれば、高いぶれ補正効果を期待することができる。第2撮像部を用いて得ることのできる短露光画像よりも、第1撮像部にて得た第1入力画像の方がぶれの影響が少ないと考えられるからである。
【0014】
具体的には例えば、第2の撮像装置において、前記画像処理部は、前記第2入力画像の画角に対応する、前記第1入力画像内の画像を切り出す切り出し処理部と、切り出された画像の画像サイズを、前記第2入力画像の画像サイズまで拡大する画像拡大部と、前記拡大によって得られた画像の画像信号と前記第2入力画像の画像信号とを混合することにより、前記出力結果画像の画像信号を生成する画像合成部と、を備える。
【0015】
また例えば、第2の撮像装置において、前記画像処理部は、前記第2撮像部にて観測される領域の内、前記第1撮像部にて観測できない領域については、前記第2入力画像の画像信号と第3入力画像の画像信号を用いて前記出力結果画像の画像信号を生成し、前記第3入力画像は、前記第2撮像部の撮影によって得られ、前記第2及び第3入力画像の画角は互いに同じであって且つ前記第3入力画像の露光時間は前記第2露光時間よりも短い。
【発明の効果】
【0016】
本発明によれば、高いぶれ補正効果を期待することのできる撮像装置を提供することが可能である。
【図面の簡単な説明】
【0017】
【図1】本発明の実施形態に係る撮像装置の概略全体ブロック図である。
【図2】図1の一方の撮像部(11W)にて得られる撮影画像の例(a)と、図1の他方の撮像部(11T)にて得られる撮影画像の例(b)を示す図である。
【図3】図1の一方の撮像部(11W)にて得られる広角短露光画像及び広角長露光画像の例と、図1の他方の撮像部(11T)にて得られる望遠短露光画像及び望遠長露光画像の例を示す図である。
【図4】本発明の実施形態に係る画像合成部のブロック図である。
【図5】本発明の第1実施例に係り、広角長露光画像に対する処理内容を説明するための図である。
【図6】本発明の第1実施例に係る画像合成部の内部ブロック図である。
【図7】本発明の第1実施例に係る撮像装置の動作フローチャートである。
【図8】本発明の第2実施例に係り、オクルージョン領域を説明するための図である。
【図9】本発明の第2実施例に係り、オクルージョン領域に対する画像合成部の動作を説明するための図である。
【図10】本発明の第3実施例に係り、広角短露光画像に対する処理内容を説明するための図である。
【図11】本発明の第3実施例に係る画像合成部の内部ブロック図である。
【図12】本発明の第3実施例に係る撮像装置の動作フローチャートである。
【図13】本発明の第4実施例に係り、オクルージョン領域に対する画像合成部の動作を説明するための図である。
【発明を実施するための形態】
【0018】
以下、本発明の実施形態の例を、図面を参照して具体的に説明する。参照される各図において、同一の部分には同一の符号を付し、同一の部分に関する重複する説明を原則として省略する。尚、本明細書では、記述の簡略化上、情報、物理量、状態量又は部材等を参照する記号又は符号を記すことによって該記号又は符号に対応する情報、物理量、状態量又は部材等の名称を省略又は略記することがある。
【0019】
図1は、本発明の実施形態に係る撮像装置1の概略全体ブロック図である。撮像装置1は、静止画像及び動画像を撮影及び記録可能なデジタルビデオカメラである。但し、撮像装置1は、静止画像のみを撮影及び記録可能なデジタルスチルカメラであっても良い。また、撮像装置1は、携帯電話機などの携帯端末に搭載されるものであっても良い。
【0020】
撮像装置1は、撮像部11W、画像処理部12W、圧縮処理部13W及び伸張処理部14Wから成る第1処理ユニットと、撮像部11T、画像処理部12T、圧縮処理部13T及び伸張処理部14Tから成る第2処理ユニットと、を有し、更に、符号15〜19によって参照される各部位を備える。第1処理ユニットと第2処理ユニットは互いに同じ機能を有する。
【0021】
撮像部11Wと撮像部11Tは同じ構造を有する。即ち、撮像部11W及び11Tの夫々は、被写体の光学像を撮像素子22上に結像させるためのレンズ部21と、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどから成る撮像素子(固体撮像素子)22と、AFE(Analog Front End)23とを、有する。撮像部11W及び11Tの夫々のレンズ部21は、CPU(Central Processing Unit)15の制御の下で駆動される。撮像部11W及び11Tの夫々において、撮像素子22は、レンズ部21を介して入射した撮影領域内の被写体の光学像を光電変換して該光電変換により得られた電気信号を出力し、AFE23は、撮像素子22の出力信号のデジタル化及び増幅を行ってデジタル化及び増幅後の撮像素子22の出力信号を出力する。
【0022】
画像処理部12Wは、撮像部11WのAFE23の出力信号に対して様々な画像処理を行い、圧縮処理部13Wは、画像処理部12Wの画像処理を経て得られた画像信号に対して所定の圧縮処理を施す。同様に、画像処理部12Tは、撮像部11TのAFE23の出力信号に対して様々な画像処理を行い、圧縮処理部13Tは、画像処理部12Tの画像処理を経て得られた画像信号に対して所定の圧縮処理を施す。外部メモリ17は、半導体メモリ又は磁気ディスク等の不揮発性メモリから成り、撮像装置1にて得られた任意の信号(圧縮処理部13W及び13Tによる圧縮処理後の画像信号を含む)を記録することができる。
【0023】
伸張処理部14W及び14Tは、外部メモリ17等を介して与えられた圧縮された画像信号を伸張する。伸張後の画像信号或いは画像処理部12W又は12Tからの画像信号をビデオ出力部18に与えることで、撮像装置1に設けられた表示部(不図示)又は撮像装置1に接続された表示装置上で、画像信号に基づく画像を表示させることができる。CPU15は、撮像装置1内の各部位の動作を統括的に制御する。内部メモリ16は、SDRAM(Synchronous Dynamic Random Access Memory)等にて形成され、撮像装置1内で生成された各種情報(画像信号を含む)を一時的に記録する。操作部19は、機械式ボタン及びタッチパネル等から成り、ユーザからの各種操作及び指示を受け付ける。
【0024】
上述したように、撮像部11Wと撮像部11Tは同じ構造を有するが、撮像部11Wの撮影画角(撮像部11Wによる撮影の画角)は、撮像部11Tの撮影画角(撮像部11Tによる撮影の画角)よりも広い。また、撮像部11Tの撮影領域は撮像部11Wの撮影領域に内包される。図2(a)及び(b)の画像311及び312は、夫々、撮像部11W及び11Tの撮影画像の例を表している。撮像部11W及び11Tをステレオカメラとして機能させることができ、撮像装置1は撮像部11W及び11Tを用いることで広角画像と望遠画像を同時に撮影することができる。
【0025】
また、CPU15の制御の下、撮像部11Wは、露光時間PS1にて被写体の撮影を行うことで撮影画像WSを得ることができると共、露光時間PS1よりも長い露光時間PL1にて被写体の撮影を行うことで撮影画像WLを得ることができる。同様に、CPU15の制御の下、撮像部11Tは、露光時間PS2にて被写体の撮影を行うことで撮影画像TSを得ることができると共、露光時間PS2よりも長い露光時間PL2にて被写体の撮影を行うことで撮影画像TLを得ることができる。露光時間とは、露光期間の時間長さを指す。露光時間PS1と露光時間PS2は互いに一致していても良いし、互いに異なっていても良い。露光時間PL1と露光時間PL2は互いに一致していても良いし、互いに異なっていても良い。以下では、PS1=PS2<PL1=PL2、であるとする。
【0026】
撮影画像WS及びWLの画角は互いに同じであって且つ撮影画像TS及TLの画角は互いに同じである。以下、
撮影画像WS及びWLを、それぞれ広角短露光画像及び広角長露光画像と呼び、
撮影画像TS及びTLを、それぞれ望遠短露光画像及び望遠長露光画像と呼ぶ。
広角短露光画像及び望遠短露光画像を総称して短露光画像と呼び、
広角長露光画像及び望遠長露光画像を総称して長露光画像と呼ぶ。
尚、本明細書では、ある画像の画像信号を単に画像と呼ぶことがある。
【0027】
図3(a)〜(d)に、画像WS、WL、TS及びTLの例を示す。露光時間の相違により、通常、短露光画像よりも長露光画像の方が多くぶれ(手ぶれ又は被写体ぶれによるぶれ)が混入する。特に、狭い撮影画角(高ズーム倍率)での撮影には手ぶれ等が強く影響するため、望遠長露光画像TLには、かなり大きなぶれが混入しやすい。
【0028】
撮像装置1は、短露光画像と長露光画像とを合成することでぶれ補正を実現することができる。ぶれの補正とぶれの低減は同義である。図4に、画像合成式のぶれ補正を実現する画像合成部50を示す。画像合成部50は、符号51〜56によって参照される各部位を備える。画像合成部50には、短露光画像及び長露光画像の画像信号が入力される。画像合成部50に入力される短露光画像及び長露光画像を、夫々、特に対象短露光画像及び対象長露光画像と呼ぶ。
【0029】
対象短露光画像及び対象長露光画像を合成することでぶれ補正の成された出力結果画像を得る画像合成部50の構成及び動作は公知である。例えば、特開2010−141653号公報又は特開2009−284001号公報に記載された画像合成方法を、画像合成部50に適用することができる。画像合成部50の各部位の動作を簡単に説明する。
【0030】
位置合わせ部51は、対象短露光画像及び対象長露光画像の画像信号に基づいて対象短露光画像と対象長露光画像との間の位置ずれを検出し、検出した位置ずれに基づいて対象短露光画像及び対象長露光画像間の位置合わせを行う。ノイズ低減部52は、ローパスフィルタ等を用いて対象短露光画像に含まれるノイズを低減する。差分値算出部53は、位置合わせ後の対象長露光画像(以下、第1中間生成画像と呼ぶ)とノイズ低減後の対象短露光画像(以下、第2中間生成画像と呼ぶ)との間における、画素位置ごとの差分値を算出する。但し、ここにおける差分値とは、第1中間生成画像の画像信号と第2中間生成画像の画像信号との差の絶対値である。
【0031】
第1合成部54は、差分値算出部53にて求められた差分値に基づく合成比率(混合比率)にて第1中間生成画像と第2中間生成画像との合成を行い、得られた合成画像を第3中間生成画像として出力する。この合成は、画素位置ごとに、対応する差分値に応じた混合比率にて第1及び第2中間生成画像の対応画素の画像信号を混合(加重加算)することで実現される。
【0032】
エッジ強度値算出部55は、対象短露光画像に対してエッジ抽出処理を行い、エッジの強さを表す、各画素位置におけるエッジ強度値を算出する。但し、エッジ強度値算出部55は、第2中間生成画像に対してエッジ抽出処理を行うことで各画素位置におけるエッジ強度値を算出しても良い。
【0033】
第2合成部56は、算出部55にて求められエッジ強度値に基づく合成比率(混合比率)にて対象短露光画像と第3中間生成画像との合成を行い、得られた合成画像を出力結果画像として出力する。この合成は、画素位置ごとに、対応するエッジ強度値に応じた混合比率にて対象短露光画像及び第3中間生成画像の対応画素の画像信号を混合(加重加算)することで実現される。出力結果画像は、手ぶれ又は被写体ぶれに起因する、対象長露光画像のぶれが補正(低減)された画像に相当する。出力結果画像を外部メモリ17に記録することができる。第1合成部54の合成処理により、手ぶれ又は被写体ぶれに起因する対象長露光画像のぶれは低減され、第2合成部56の合成処理により、エッジの鮮明さが補償される。
【0034】
画像合成部50を、画像処理部12W及び12Tの夫々に設けておくことができる。画像処理部12Wに設けられた画像合成部50には、広角短露光画像WS及び広角長露光画像WLが、夫々、対象短露光画像及び対象長露光画像として入力される。
【0035】
以下、画像処理部12Tに設けられた画像合成部50に注目した第1〜第4実施例を説明する。以下に述べる画像合成部50は、特に記述なき限り、画像処理部12Tに設けられた画像合成部50を指す。
【0036】
<<第1実施例>>
第1実施例を説明する。画像処理部12Tに設けられた画像合成部50に対し、望遠短露光画像TS及び望遠長露光画像TLを対象短露光画像及び対象長露光画像として入力することも可能であるが、画像TLにはぶれが多く含まれていることが多いため、十分なぶれ補正効果を得ることができないこともある。これを考慮し、第1実施例では、望遠長露光画像TLの代わりに広角長露光画像WLを用い、広角長露光画像WL及び望遠短露光画像TSから出力結果画像を得る。
【0037】
より具体的に説明する。CPU15は、操作部19に対するユーザ操作に従って、撮像部11Wの撮影画角を定めるズーム倍率ZFW及び撮像部11Tの撮影画角を定めるズーム倍率ZFTを個別に設定することができ、ズーム倍率ZFWに従って撮像部11Wのレンズ部21内のズームレンズ(不図示)を駆動制御すると共にズーム倍率ZFTに従って撮像部11Tのレンズ部21内のズームレンズ(不図示)を駆動制御する。
【0038】
図1の画像処理部12Wは、図5の切り出し処理部61及び画像拡大部62を備える。尚、切り出し処理部61及び画像拡大部62を画像処理部12Tに設けておくことも可能である。切り出し処理部61は、広角長露光画像WL内にズーム倍率ZFTに応じた大きさを有する切り出し領域330を設定し、切り出し領域330内の画像を画像WLから切り出す。画像WLから切り出された画像は、望遠短露光画像TS又は望遠長露光画像TLの画角に対応する、一部画像(画像WLの一部画像)である。即ち、切り出し領域330は、広角長露光画像WLの全体画像領域の一部であり、撮像部11Tの撮影領域に相当する。
【0039】
画像拡大部62は、切り出し処理部61にて切り出された画像の画像サイズを、拡大処理(解像度変換)によって拡大することで画像WL’を生成する。この際、画像拡大部62は、画像WL’の画像サイズ(水平及び垂直方向の画素数)が望遠短露光画像TSの画像サイズと一致するように、ズーム倍率ZFTに応じた画像拡大率にて画像の拡大を行う。画像WL’の画角は望遠短露光画像TSの画角と同じであって、画像WL’及び画像TSは、共通の画角で共通の被写体を表した2枚の画像に相当する。
【0040】
図6は、第1実施例に係る画像合成部50の内部ブロック図である。図6に示される画像合成部50の構成及び動作自体は、図4のそれらと同じである。但し、図6の画像合成部50には、望遠短露光画像TS及び画像WL’が、夫々、対象短露光画像及び対象長露光画像として入力され、結果、画像TS及び画像WL’に基づく出力結果画像350が第2合成部56から得られる。図6からは明らかではないが、出力結果画像350では、短露光画像TSに含まれるノイズが低減されていると共に長露光画像WL’に含まれるぶれが低減されている(特開2010−141653号公報を参照)。
【0041】
図7に、第1実施例に係る撮像装置1の動作手順を示す。ステップS11〜S15の処理が、この順番で実行される。まず、ステップS11において、ユーザが操作部19に対して所定のシャッタ操作を成すと、ステップS12において、撮像部11W及び11Tにより長短露光撮影が成される。ステップS12における長短露光撮影は、撮像部11Wによる広角長露光画像WLの撮影と撮像部11Tによる望遠短露光画像TSの撮影を少なくとも含む。画像WL及びTSの撮影を同時に又は互いに近接した時刻にて行うことが望ましい。ステップS12において、撮像部11Wは画像WL及びWSを連続撮影しても良く、画像WL及びWSの連続撮影と同時に、撮像部11Tは画像TL及びTSを連続撮影しても良い。
【0042】
撮像部11Tのズーム倍率ZFTはCPU15を介して切り出し処理部61及び画像拡大部62に伝達され、ステップS13において、切り出し処理部61及び画像拡大部62は、ズーム倍率ZFTに応じた切り出し処理及び拡大処理を画像WLに行うことで画像WL’を生成する。画像WL’の画像信号は内部メモリ16を介して図6の画像合成部50(画像処理部12Tの画像合成部50)に入力され、一方で、画像TSの画像信号も図6の画像合成部50に入力される。ステップS14において、図6の画像合成部50は、画像WL’及びTSを合成することで出力結果画像350を得る。ステップS15において、出力結果画像350の画像信号は、必要に応じて圧縮されてから外部メモリ17に記録される。
【0043】
画像WL’のぶれは画像TLのぶれよりも小さいことが期待される。このため、第1実施例によれば、画像TS及びTLに基づいて出力結果画像を得るよりも、より適切にぶれ補正が成された出力結果画像を得ることができる。
【0044】
<<第2実施例>>
第2実施例を説明する。第2実施例は、第1実施例を基礎とした実施例であり、特に記述しない事項に関しては第1実施例の記載が第2実施例にも適用される(後述の第3及び第4実施例についても同様)。
【0045】
撮像部11W及び11Tは別個の撮像部であるため、撮像部11W及び11Tの視点は互いに異なると共に、撮像部11W及び11Tの光軸は互いに異なる。故に、撮像部11Tにて観測される領域の一部は、撮像部11Wにて観測されない。撮像部11Tにて観測される領域の内、撮像部11Wにて観測できない領域をオクルージョン領域という。図8(a)及び(b)の夫々において、符号370が付された黒塗領域(黒の太線領域)はオクルージョン領域に相当する。尚、図8(a)及び(b)では、図示の便宜上、オクルージョン領域370を、実際のそれによりも大きく示している。撮像部11Tを人間の左目に対応させ且つ撮像部11Wを人間の右目に対応させて考えた場合、オクルージョン領域370は、左目(撮像部11T)からは見えるが、右目(撮像部11W)からは見えない。
【0046】
撮像部11Wは、オクルージョン領域370についての画像情報を得ることができないため、画像WL’には、オクルージョン領域370についての画像情報は含まれない。故に、オクルージョン領域370が存在する場合、第1実施例で述べた動作を若干修正する必要がある。具体的な動作を説明する。
【0047】
まず、画像処理部12W又は12Tに設けられたオクルージョン検出部(不図示)にて、オクルージョン領域370の検出を行う。オクルージョン領域370の検出方法は公知である。オクルージョン検出部は、三角測量法の原理(ステレオ視の原理)に基づき、撮像部11W及び11Tの出力信号を用いて画像TS又はTL上の各画素位置の被写体の被写体距離を算出することができるが、オクルージョン領域370については、原理的に、被写体距離を算出することができない。従って、オクルージョン検出部は、撮像部11W及び11Tの出力信号から被写体距離を算出できない画像領域をオクルージョン領域370として検出することができる。或る被写体の被写体距離とは、実空間上における当該被写体及び撮像装置1間の距離を指す。
【0048】
オクルージョン検出部は、短露光画像WS及びTSの画像信号に基づいて、オクルージョン領域370の検出を行うことが望ましい。短露光画像WS及びTSのぶれは比較的少ないため、精度良くオクルージョン領域370を検出することができるからである。より具体的には、オクルージョン検出部は、短露光画像WSに対して切り出し処理部61及び画像拡大部62による切り出し処理及び拡大処理を施して得られる画像WS’(図10参照)の画像信号と、望遠短露光画像TSの画像信号と、に基づいてオクルージョン領域370の検出を行うと良い。但し、オクルージョン検出部は、長露光画像WL及びTLの画像信号に基づいて、又は、画像WL及びTSの画像信号に基づいて、又は、画像WS及びTLの画像信号に基づいて、オクルージョン領域370の検出を行ってもよい。
【0049】
第2実施例に係る画像合成部50は、オクルージョン領域370以外の画像領域の画像信号に対しては、図6に示す如く、画像WL’及びTSの画像信号に基づいて出力結果画像の画像信号を生成する。一方、第2実施例に係る画像合成部50は、オクルージョン領域370内の画像信号に対しては、図9に示す如く、画像WL’を用いずに、ローパスフィルタ57にて望遠短露光画像TSを平滑化することで第1中間生成画像を生成する。従って、第2実施例に係る画像合成部50にはローパスフィルタ57も設けられている。
【0050】
第1中間生成画像の生成方法が異なる以外、出力結果画像の画像信号の生成方法は、オクルージョン領域370内とオクルージョン領域370外で同じである。結果、オクルージョン領域370については、望遠短露光画像TSの画像信号のみを用いて出力結果画像の画像信号が生成される。尚、オクルージョン領域370内とオクルージョン領域370外の間の境界部分に対しては、出力結果画像の画像信号を生成する過程において、境界を目立ち難くする境界処理を行うと良い。
【0051】
第2実施例によれば、オクルージョン領域に対して適切な合成処理を成すことができる。
【0052】
<<第3実施例>>
第3実施例を説明する。第3実施例に係る画像合成部50は、広角短露光画像WS及び望遠長露光画像TLから出力結果画像を得る。
【0053】
図10に示す如く、第3実施例において、切り出し処理部61は、広角短露光画像WS内にズーム倍率ZFTに応じた大きさを有する切り出し領域330を設定し、切り出し領域330内の画像を画像WSから切り出す。画像WSから切り出された画像は、望遠短露光画像TS又は望遠長露光画像TLの画角に対応する、一部画像(画像WSの一部画像)である。即ち、切り出し領域330は、広角短露光画像WSの全体画像領域の一部であり、撮像部11Tの撮影領域に相当する。
【0054】
画像拡大部62は、切り出し処理部61にて切り出された画像の画像サイズを、拡大処理(解像度変換)によって拡大することで画像WS’を生成する。この際、画像拡大部62は、画像WS’の画像サイズ(水平及び垂直方向の画素数)が望遠長露光画像TLの画像サイズと一致するように、ズーム倍率ZFTに応じた画像拡大率にて画像の拡大を行う。画像WS’の画角は望遠長露光画像TLの画角と同じであって、画像WS’及び画像TLは、共通の画角で共通の被写体を表した2枚の画像に相当する。
【0055】
図11は、第3実施例に係る画像合成部50の内部ブロック図である。図11に示される画像合成部50の構成及び動作自体は、図4のそれらと同じである。但し、図11の画像合成部50には、画像WS’及び望遠長露光画像TLが、夫々、対象短露光画像及び対象長露光画像として入力され、結果、画像WS’及び画像TLに基づく出力結果画像355が第2合成部56から得られる。
【0056】
図12に、第3実施例に係る撮像装置1の動作手順を示す。ステップS21〜S25の処理が、この順番で実行される。まず、ステップS21において、ユーザが操作部19に対して所定のシャッタ操作を成すと、ステップS22において、撮像部11W及び11Tにより長短露光撮影が成される。ステップS22における長短露光撮影は、撮像部11Wによる広角短露光画像WSの撮影と撮像部11Tによる望遠長露光画像TLの撮影を少なくとも含む。画像WS及びTLの撮影を同時に又は互いに近接した時刻にて行うことが望ましい。ステップS22において、撮像部11Wは画像WL及びWSを連続撮影しても良く、画像WL及びWSの連続撮影と同時に、撮像部11Tは画像TL及びTSを連続撮影しても良い。
【0057】
撮像部11Tのズーム倍率ZFTはCPU15を介して切り出し処理部61及び画像拡大部62に伝達され、ステップS23において、切り出し処理部61及び画像拡大部62は、ズーム倍率ZFTに応じた切り出し処理及び拡大処理を画像WSに行うことで画像WS’を生成する。画像WS’の画像信号は内部メモリ16を介して図11の画像合成部50(画像処理部12Tの画像合成部50)に入力され、一方で、画像TLの画像信号も図11の画像合成部50に入力される。ステップS24において、図11の画像合成部50は、画像WS’及びTLを合成することで出力結果画像355を得る。ステップS25において、出力結果画像355の画像信号は、必要に応じて圧縮されてから外部メモリ17に記録される。
【0058】
画像WS’のぶれは画像TSのぶれよりも小さいことが期待される。このため、第3実施例によれば、画像TS及びTLに基づいて出力結果画像を得るよりも、より適切にぶれ補正が成された出力結果画像を得ることができる。
【0059】
但し、通常は、画像WS、WL、TS及びTLの内、望遠長露光画像TLのぶれが最も大きいため、画像TLを使用しない第1実施例(図6参照)の方が第3実施例(図11参照)よりも、優れたぶれ補正を実現しやすい。従って例えば、通常は、第1実施例又は第2実施例で述べた方法にて出力結果画像を生成し、特定状況下においてのみ、第3実施例又は後述の第4実施例で述べた方法にて出力結果画像を生成するようにしても良い。
【0060】
特定状況とは、例えば、望遠短露光画像TSのぶれの大きさが望遠長露光画像TLのぶれの大きさよりも大きい状況である。このような状況は、望遠短露光画像TSの画像信号を撮像部11Tから得るための露光期間中に比較的大きな手ぶれが作用したときなどに発生しうる。画像TS及びTLの夫々に含まれるぶれの大きさを公知の方法で検出するぶれ量検出部(不図示)を撮像装置1に設けておき、ぶれ量検出部の検出結果に基づいて、画像合成部50は、第1又は第2実施例の方法で出力結果画像を得るのか或いは第3又は第4実施例の方法で出力結果画像を得るのかを切り換えるようにしても良い。
【0061】
<<第4実施例>>
第4実施例を説明する。第4実施例は、第3実施例を基礎とした実施例であり、特に記述しない事項に関しては第3実施例の記載が第4実施例にも適用される。第2実施例において、第1実施例に適用することのできるオクルージョン領域への対応方法を説明したが、第4実施例では、第3実施例に適用することのできるオクルージョン領域への対応方法を説明する。
【0062】
オクルージョン領域370(図8(a)及び(b)参照)の検出方法は、第2実施例で述べた通りである。
【0063】
第4実施例に係る画像合成部50は、オクルージョン領域370以外の画像領域の画像信号に対しては、図11に示す如く、画像WS’及びTLの画像信号に基づいて出力結果画像の画像信号を生成する。一方、第4実施例に係る画像合成部50は、オクルージョン領域370内の画像信号に対しては、図13に示す如く、画像WS’を用いることなく、望遠短露光画像TS及び望遠長露光画像TLの画像信号をそれぞれ対象短露光画像及び対象長露光画像の画像信号として画像合成部50に入力する。
【0064】
このように、オクルージョン領域370については、画像TS及びTLの画像信号を用いて出力結果画像の画像信号が生成される。尚、オクルージョン領域370内とオクルージョン領域370外の間の境界部分に対しては、出力結果画像の画像信号を生成する過程において、境界を目立ち難くする境界処理を行うと良い。
【0065】
第4実施例によれば、オクルージョン領域に対して適切な合成処理を成すことができる。
【0066】
<<変形等>>
本発明の実施形態は、特許請求の範囲に示された技術的思想の範囲内において、適宜、種々の変更が可能である。以上の実施形態は、あくまでも、本発明の実施形態の例であって、本発明ないし各構成要件の用語の意義は、以上の実施形態に記載されたものに制限されるものではない。上述の説明文中に示した具体的な数値は、単なる例示であって、当然の如く、それらを様々な数値に変更することができる。上述の実施形態に適用可能な注釈事項として、以下に、注釈1〜注釈3を記す。各注釈に記載した内容は、矛盾なき限り、任意に組み合わせることが可能である。
【0067】
[注釈1]
入力された短露光画像及び長露光画像に基づきぶれ補正の成された出力結果画像を生成する構成として、画像合成部50の構成を例示したが、画像処理部12Tは、画像合成部50で採用された方法以外の方法(例えば、フーリエ反復法を利用する、特開2009−135561号公報に記載された方法)を用いて、短露光画像及び長露光画像からぶれ補正の成された出力結果画像を生成しても良い。
【0068】
[注釈2]
上述の説明では、撮像部11Wに接続された画像処理部12Wと撮像部11Tに接続された画像処理部12Tが別個に存在しているが、画像処理部12W及び12Tから成る1つの画像処理部(不図示)が撮像装置1に設けられていると考えても良い。
【0069】
[注釈3]
図1の撮像装置1を、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって構成することができる。ソフトウェアを用いて撮像装置1を構成する場合、ソフトウェアにて実現される部位についてのブロック図は、その部位の機能ブロック図を表すことになる。ソフトウェアを用いて実現される機能をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能を実現するようにしてもよい。
【符号の説明】
【0070】
1 撮像装置
11W、11T 撮像部
12W、12T 画像処理部
50 画像合成部
61 切り出し処理部
62 画像拡大部
【技術分野】
【0001】
本発明は、デジタルビデオカメラ又はデジタルスチルカメラ等の撮像装置に関する。
【背景技術】
【0002】
比較的短い露光時間での撮影と比較的長い露光時間での撮影を連続的に行って短露光画像及び長露光画像を取得し、短露光画像及び長露光画像を合成することによってぶれ補正の成された出力結果画像を得る合成式ぶれ補正方法が提案されている(例えば、下記特許文献1参照)。
【0003】
一方、ステレオカメラを有する撮像装置では、比較的広い画角を有する広角画像と比較的狭い画角を有する望遠画像を同時に撮影することができる。単眼のカメラと同様、ステレオカメラにも手ぶれが作用するが、手ぶれは望遠画像に対して相対的に強く影響し、望遠画像上で大きく被写体がぶれることがある。
【0004】
尚、第1カメラ部と第2カメラ部を備えた撮像装置において、第1カメラ部にて1枚の長露光画像の撮影を行う一方で第2カメラ部にて複数の短露光画像の撮影を行い、複数の短露光画像に基づく推定手ぶれ軌跡情報を用いて長露光画像のぶれを補正する方法も提案されている(例えば、下記特許文献2参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2010−141653号公報
【特許文献2】特開2004−312583号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
上述の合成式ぶれ補正方法などにより、適正なぶれ補正を行うことができる。しかしながら、比較的狭い画角にて(高ズーム倍率にて)短露光画像及び長露光画像の撮影が成された場合、短露光画像及び長露光画像に(特に長露光画像に)多くのぶれが混入し、短露光画像及び長露光画像に基づくぶれ補正効果が十分に得られないこともある。これは、特許文献2の方法においても同様である。
【0007】
そこで本発明は、高いぶれ補正効果を期待することのできる撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0008】
本発明に係る第1の撮像装置は、第1露光時間を用いた撮影により第1入力画像を得る第1撮像部と、前記第1撮像部よりも狭い撮影画角及び第1露光時間よりも短い第2露光時間を用いた撮影により第2入力画像を得る第2撮像部と、前記第1及び第2入力画像に基づき出力結果画像を生成する画像処理部と、を備えたことを特徴とする。
【0009】
第2撮像部が第1及び第2露光画像を用いて長露光画像及び短露光画像を撮影し、それらの画像から出力結果画像を得る場合と比べて、上記構成によれば、高いぶれ補正効果を期待することができる。第2撮像部を用いて得ることのできる長露光画像よりも、第1撮像部にて得た第1入力画像の方がぶれの影響が少ないと考えられるからである。
【0010】
具体的には例えば、第1の撮像装置において、前記画像処理部は、前記第2入力画像の画角に対応する、前記第1入力画像内の画像を切り出す切り出し処理部と、切り出された画像の画像サイズを、前記第2入力画像の画像サイズまで拡大する画像拡大部と、前記拡大によって得られた画像の画像信号と前記第2入力画像の画像信号とを混合することにより、前記出力結果画像の画像信号を生成する画像合成部と、を備えている。
【0011】
また例えば、第1の撮像装置において、前記画像処理部は、前記第2撮像部にて観測される領域の内、前記第1撮像部にて観測できない領域については、前記第2入力画像の画像信号のみを用いて前記出力結果画像の画像信号を生成する。
【0012】
本発明に係る第2の撮像装置は、第1露光時間を用いた撮影により第1入力画像を得る第1撮像部と、前記第1撮像部よりも狭い撮影画角及び第1露光時間よりも長い第2露光時間を用いた撮影により第2入力画像を得る第2撮像部と、前記第1及び第2入力画像に基づき出力結果画像を生成する画像処理部と、を備えたことを特徴とする。
【0013】
第2撮像部が第1及び第2露光画像を用いて長露光画像及び短露光画像を撮影し、それらの画像から出力結果画像を得る場合と比べて、上記構成によれば、高いぶれ補正効果を期待することができる。第2撮像部を用いて得ることのできる短露光画像よりも、第1撮像部にて得た第1入力画像の方がぶれの影響が少ないと考えられるからである。
【0014】
具体的には例えば、第2の撮像装置において、前記画像処理部は、前記第2入力画像の画角に対応する、前記第1入力画像内の画像を切り出す切り出し処理部と、切り出された画像の画像サイズを、前記第2入力画像の画像サイズまで拡大する画像拡大部と、前記拡大によって得られた画像の画像信号と前記第2入力画像の画像信号とを混合することにより、前記出力結果画像の画像信号を生成する画像合成部と、を備える。
【0015】
また例えば、第2の撮像装置において、前記画像処理部は、前記第2撮像部にて観測される領域の内、前記第1撮像部にて観測できない領域については、前記第2入力画像の画像信号と第3入力画像の画像信号を用いて前記出力結果画像の画像信号を生成し、前記第3入力画像は、前記第2撮像部の撮影によって得られ、前記第2及び第3入力画像の画角は互いに同じであって且つ前記第3入力画像の露光時間は前記第2露光時間よりも短い。
【発明の効果】
【0016】
本発明によれば、高いぶれ補正効果を期待することのできる撮像装置を提供することが可能である。
【図面の簡単な説明】
【0017】
【図1】本発明の実施形態に係る撮像装置の概略全体ブロック図である。
【図2】図1の一方の撮像部(11W)にて得られる撮影画像の例(a)と、図1の他方の撮像部(11T)にて得られる撮影画像の例(b)を示す図である。
【図3】図1の一方の撮像部(11W)にて得られる広角短露光画像及び広角長露光画像の例と、図1の他方の撮像部(11T)にて得られる望遠短露光画像及び望遠長露光画像の例を示す図である。
【図4】本発明の実施形態に係る画像合成部のブロック図である。
【図5】本発明の第1実施例に係り、広角長露光画像に対する処理内容を説明するための図である。
【図6】本発明の第1実施例に係る画像合成部の内部ブロック図である。
【図7】本発明の第1実施例に係る撮像装置の動作フローチャートである。
【図8】本発明の第2実施例に係り、オクルージョン領域を説明するための図である。
【図9】本発明の第2実施例に係り、オクルージョン領域に対する画像合成部の動作を説明するための図である。
【図10】本発明の第3実施例に係り、広角短露光画像に対する処理内容を説明するための図である。
【図11】本発明の第3実施例に係る画像合成部の内部ブロック図である。
【図12】本発明の第3実施例に係る撮像装置の動作フローチャートである。
【図13】本発明の第4実施例に係り、オクルージョン領域に対する画像合成部の動作を説明するための図である。
【発明を実施するための形態】
【0018】
以下、本発明の実施形態の例を、図面を参照して具体的に説明する。参照される各図において、同一の部分には同一の符号を付し、同一の部分に関する重複する説明を原則として省略する。尚、本明細書では、記述の簡略化上、情報、物理量、状態量又は部材等を参照する記号又は符号を記すことによって該記号又は符号に対応する情報、物理量、状態量又は部材等の名称を省略又は略記することがある。
【0019】
図1は、本発明の実施形態に係る撮像装置1の概略全体ブロック図である。撮像装置1は、静止画像及び動画像を撮影及び記録可能なデジタルビデオカメラである。但し、撮像装置1は、静止画像のみを撮影及び記録可能なデジタルスチルカメラであっても良い。また、撮像装置1は、携帯電話機などの携帯端末に搭載されるものであっても良い。
【0020】
撮像装置1は、撮像部11W、画像処理部12W、圧縮処理部13W及び伸張処理部14Wから成る第1処理ユニットと、撮像部11T、画像処理部12T、圧縮処理部13T及び伸張処理部14Tから成る第2処理ユニットと、を有し、更に、符号15〜19によって参照される各部位を備える。第1処理ユニットと第2処理ユニットは互いに同じ機能を有する。
【0021】
撮像部11Wと撮像部11Tは同じ構造を有する。即ち、撮像部11W及び11Tの夫々は、被写体の光学像を撮像素子22上に結像させるためのレンズ部21と、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどから成る撮像素子(固体撮像素子)22と、AFE(Analog Front End)23とを、有する。撮像部11W及び11Tの夫々のレンズ部21は、CPU(Central Processing Unit)15の制御の下で駆動される。撮像部11W及び11Tの夫々において、撮像素子22は、レンズ部21を介して入射した撮影領域内の被写体の光学像を光電変換して該光電変換により得られた電気信号を出力し、AFE23は、撮像素子22の出力信号のデジタル化及び増幅を行ってデジタル化及び増幅後の撮像素子22の出力信号を出力する。
【0022】
画像処理部12Wは、撮像部11WのAFE23の出力信号に対して様々な画像処理を行い、圧縮処理部13Wは、画像処理部12Wの画像処理を経て得られた画像信号に対して所定の圧縮処理を施す。同様に、画像処理部12Tは、撮像部11TのAFE23の出力信号に対して様々な画像処理を行い、圧縮処理部13Tは、画像処理部12Tの画像処理を経て得られた画像信号に対して所定の圧縮処理を施す。外部メモリ17は、半導体メモリ又は磁気ディスク等の不揮発性メモリから成り、撮像装置1にて得られた任意の信号(圧縮処理部13W及び13Tによる圧縮処理後の画像信号を含む)を記録することができる。
【0023】
伸張処理部14W及び14Tは、外部メモリ17等を介して与えられた圧縮された画像信号を伸張する。伸張後の画像信号或いは画像処理部12W又は12Tからの画像信号をビデオ出力部18に与えることで、撮像装置1に設けられた表示部(不図示)又は撮像装置1に接続された表示装置上で、画像信号に基づく画像を表示させることができる。CPU15は、撮像装置1内の各部位の動作を統括的に制御する。内部メモリ16は、SDRAM(Synchronous Dynamic Random Access Memory)等にて形成され、撮像装置1内で生成された各種情報(画像信号を含む)を一時的に記録する。操作部19は、機械式ボタン及びタッチパネル等から成り、ユーザからの各種操作及び指示を受け付ける。
【0024】
上述したように、撮像部11Wと撮像部11Tは同じ構造を有するが、撮像部11Wの撮影画角(撮像部11Wによる撮影の画角)は、撮像部11Tの撮影画角(撮像部11Tによる撮影の画角)よりも広い。また、撮像部11Tの撮影領域は撮像部11Wの撮影領域に内包される。図2(a)及び(b)の画像311及び312は、夫々、撮像部11W及び11Tの撮影画像の例を表している。撮像部11W及び11Tをステレオカメラとして機能させることができ、撮像装置1は撮像部11W及び11Tを用いることで広角画像と望遠画像を同時に撮影することができる。
【0025】
また、CPU15の制御の下、撮像部11Wは、露光時間PS1にて被写体の撮影を行うことで撮影画像WSを得ることができると共、露光時間PS1よりも長い露光時間PL1にて被写体の撮影を行うことで撮影画像WLを得ることができる。同様に、CPU15の制御の下、撮像部11Tは、露光時間PS2にて被写体の撮影を行うことで撮影画像TSを得ることができると共、露光時間PS2よりも長い露光時間PL2にて被写体の撮影を行うことで撮影画像TLを得ることができる。露光時間とは、露光期間の時間長さを指す。露光時間PS1と露光時間PS2は互いに一致していても良いし、互いに異なっていても良い。露光時間PL1と露光時間PL2は互いに一致していても良いし、互いに異なっていても良い。以下では、PS1=PS2<PL1=PL2、であるとする。
【0026】
撮影画像WS及びWLの画角は互いに同じであって且つ撮影画像TS及TLの画角は互いに同じである。以下、
撮影画像WS及びWLを、それぞれ広角短露光画像及び広角長露光画像と呼び、
撮影画像TS及びTLを、それぞれ望遠短露光画像及び望遠長露光画像と呼ぶ。
広角短露光画像及び望遠短露光画像を総称して短露光画像と呼び、
広角長露光画像及び望遠長露光画像を総称して長露光画像と呼ぶ。
尚、本明細書では、ある画像の画像信号を単に画像と呼ぶことがある。
【0027】
図3(a)〜(d)に、画像WS、WL、TS及びTLの例を示す。露光時間の相違により、通常、短露光画像よりも長露光画像の方が多くぶれ(手ぶれ又は被写体ぶれによるぶれ)が混入する。特に、狭い撮影画角(高ズーム倍率)での撮影には手ぶれ等が強く影響するため、望遠長露光画像TLには、かなり大きなぶれが混入しやすい。
【0028】
撮像装置1は、短露光画像と長露光画像とを合成することでぶれ補正を実現することができる。ぶれの補正とぶれの低減は同義である。図4に、画像合成式のぶれ補正を実現する画像合成部50を示す。画像合成部50は、符号51〜56によって参照される各部位を備える。画像合成部50には、短露光画像及び長露光画像の画像信号が入力される。画像合成部50に入力される短露光画像及び長露光画像を、夫々、特に対象短露光画像及び対象長露光画像と呼ぶ。
【0029】
対象短露光画像及び対象長露光画像を合成することでぶれ補正の成された出力結果画像を得る画像合成部50の構成及び動作は公知である。例えば、特開2010−141653号公報又は特開2009−284001号公報に記載された画像合成方法を、画像合成部50に適用することができる。画像合成部50の各部位の動作を簡単に説明する。
【0030】
位置合わせ部51は、対象短露光画像及び対象長露光画像の画像信号に基づいて対象短露光画像と対象長露光画像との間の位置ずれを検出し、検出した位置ずれに基づいて対象短露光画像及び対象長露光画像間の位置合わせを行う。ノイズ低減部52は、ローパスフィルタ等を用いて対象短露光画像に含まれるノイズを低減する。差分値算出部53は、位置合わせ後の対象長露光画像(以下、第1中間生成画像と呼ぶ)とノイズ低減後の対象短露光画像(以下、第2中間生成画像と呼ぶ)との間における、画素位置ごとの差分値を算出する。但し、ここにおける差分値とは、第1中間生成画像の画像信号と第2中間生成画像の画像信号との差の絶対値である。
【0031】
第1合成部54は、差分値算出部53にて求められた差分値に基づく合成比率(混合比率)にて第1中間生成画像と第2中間生成画像との合成を行い、得られた合成画像を第3中間生成画像として出力する。この合成は、画素位置ごとに、対応する差分値に応じた混合比率にて第1及び第2中間生成画像の対応画素の画像信号を混合(加重加算)することで実現される。
【0032】
エッジ強度値算出部55は、対象短露光画像に対してエッジ抽出処理を行い、エッジの強さを表す、各画素位置におけるエッジ強度値を算出する。但し、エッジ強度値算出部55は、第2中間生成画像に対してエッジ抽出処理を行うことで各画素位置におけるエッジ強度値を算出しても良い。
【0033】
第2合成部56は、算出部55にて求められエッジ強度値に基づく合成比率(混合比率)にて対象短露光画像と第3中間生成画像との合成を行い、得られた合成画像を出力結果画像として出力する。この合成は、画素位置ごとに、対応するエッジ強度値に応じた混合比率にて対象短露光画像及び第3中間生成画像の対応画素の画像信号を混合(加重加算)することで実現される。出力結果画像は、手ぶれ又は被写体ぶれに起因する、対象長露光画像のぶれが補正(低減)された画像に相当する。出力結果画像を外部メモリ17に記録することができる。第1合成部54の合成処理により、手ぶれ又は被写体ぶれに起因する対象長露光画像のぶれは低減され、第2合成部56の合成処理により、エッジの鮮明さが補償される。
【0034】
画像合成部50を、画像処理部12W及び12Tの夫々に設けておくことができる。画像処理部12Wに設けられた画像合成部50には、広角短露光画像WS及び広角長露光画像WLが、夫々、対象短露光画像及び対象長露光画像として入力される。
【0035】
以下、画像処理部12Tに設けられた画像合成部50に注目した第1〜第4実施例を説明する。以下に述べる画像合成部50は、特に記述なき限り、画像処理部12Tに設けられた画像合成部50を指す。
【0036】
<<第1実施例>>
第1実施例を説明する。画像処理部12Tに設けられた画像合成部50に対し、望遠短露光画像TS及び望遠長露光画像TLを対象短露光画像及び対象長露光画像として入力することも可能であるが、画像TLにはぶれが多く含まれていることが多いため、十分なぶれ補正効果を得ることができないこともある。これを考慮し、第1実施例では、望遠長露光画像TLの代わりに広角長露光画像WLを用い、広角長露光画像WL及び望遠短露光画像TSから出力結果画像を得る。
【0037】
より具体的に説明する。CPU15は、操作部19に対するユーザ操作に従って、撮像部11Wの撮影画角を定めるズーム倍率ZFW及び撮像部11Tの撮影画角を定めるズーム倍率ZFTを個別に設定することができ、ズーム倍率ZFWに従って撮像部11Wのレンズ部21内のズームレンズ(不図示)を駆動制御すると共にズーム倍率ZFTに従って撮像部11Tのレンズ部21内のズームレンズ(不図示)を駆動制御する。
【0038】
図1の画像処理部12Wは、図5の切り出し処理部61及び画像拡大部62を備える。尚、切り出し処理部61及び画像拡大部62を画像処理部12Tに設けておくことも可能である。切り出し処理部61は、広角長露光画像WL内にズーム倍率ZFTに応じた大きさを有する切り出し領域330を設定し、切り出し領域330内の画像を画像WLから切り出す。画像WLから切り出された画像は、望遠短露光画像TS又は望遠長露光画像TLの画角に対応する、一部画像(画像WLの一部画像)である。即ち、切り出し領域330は、広角長露光画像WLの全体画像領域の一部であり、撮像部11Tの撮影領域に相当する。
【0039】
画像拡大部62は、切り出し処理部61にて切り出された画像の画像サイズを、拡大処理(解像度変換)によって拡大することで画像WL’を生成する。この際、画像拡大部62は、画像WL’の画像サイズ(水平及び垂直方向の画素数)が望遠短露光画像TSの画像サイズと一致するように、ズーム倍率ZFTに応じた画像拡大率にて画像の拡大を行う。画像WL’の画角は望遠短露光画像TSの画角と同じであって、画像WL’及び画像TSは、共通の画角で共通の被写体を表した2枚の画像に相当する。
【0040】
図6は、第1実施例に係る画像合成部50の内部ブロック図である。図6に示される画像合成部50の構成及び動作自体は、図4のそれらと同じである。但し、図6の画像合成部50には、望遠短露光画像TS及び画像WL’が、夫々、対象短露光画像及び対象長露光画像として入力され、結果、画像TS及び画像WL’に基づく出力結果画像350が第2合成部56から得られる。図6からは明らかではないが、出力結果画像350では、短露光画像TSに含まれるノイズが低減されていると共に長露光画像WL’に含まれるぶれが低減されている(特開2010−141653号公報を参照)。
【0041】
図7に、第1実施例に係る撮像装置1の動作手順を示す。ステップS11〜S15の処理が、この順番で実行される。まず、ステップS11において、ユーザが操作部19に対して所定のシャッタ操作を成すと、ステップS12において、撮像部11W及び11Tにより長短露光撮影が成される。ステップS12における長短露光撮影は、撮像部11Wによる広角長露光画像WLの撮影と撮像部11Tによる望遠短露光画像TSの撮影を少なくとも含む。画像WL及びTSの撮影を同時に又は互いに近接した時刻にて行うことが望ましい。ステップS12において、撮像部11Wは画像WL及びWSを連続撮影しても良く、画像WL及びWSの連続撮影と同時に、撮像部11Tは画像TL及びTSを連続撮影しても良い。
【0042】
撮像部11Tのズーム倍率ZFTはCPU15を介して切り出し処理部61及び画像拡大部62に伝達され、ステップS13において、切り出し処理部61及び画像拡大部62は、ズーム倍率ZFTに応じた切り出し処理及び拡大処理を画像WLに行うことで画像WL’を生成する。画像WL’の画像信号は内部メモリ16を介して図6の画像合成部50(画像処理部12Tの画像合成部50)に入力され、一方で、画像TSの画像信号も図6の画像合成部50に入力される。ステップS14において、図6の画像合成部50は、画像WL’及びTSを合成することで出力結果画像350を得る。ステップS15において、出力結果画像350の画像信号は、必要に応じて圧縮されてから外部メモリ17に記録される。
【0043】
画像WL’のぶれは画像TLのぶれよりも小さいことが期待される。このため、第1実施例によれば、画像TS及びTLに基づいて出力結果画像を得るよりも、より適切にぶれ補正が成された出力結果画像を得ることができる。
【0044】
<<第2実施例>>
第2実施例を説明する。第2実施例は、第1実施例を基礎とした実施例であり、特に記述しない事項に関しては第1実施例の記載が第2実施例にも適用される(後述の第3及び第4実施例についても同様)。
【0045】
撮像部11W及び11Tは別個の撮像部であるため、撮像部11W及び11Tの視点は互いに異なると共に、撮像部11W及び11Tの光軸は互いに異なる。故に、撮像部11Tにて観測される領域の一部は、撮像部11Wにて観測されない。撮像部11Tにて観測される領域の内、撮像部11Wにて観測できない領域をオクルージョン領域という。図8(a)及び(b)の夫々において、符号370が付された黒塗領域(黒の太線領域)はオクルージョン領域に相当する。尚、図8(a)及び(b)では、図示の便宜上、オクルージョン領域370を、実際のそれによりも大きく示している。撮像部11Tを人間の左目に対応させ且つ撮像部11Wを人間の右目に対応させて考えた場合、オクルージョン領域370は、左目(撮像部11T)からは見えるが、右目(撮像部11W)からは見えない。
【0046】
撮像部11Wは、オクルージョン領域370についての画像情報を得ることができないため、画像WL’には、オクルージョン領域370についての画像情報は含まれない。故に、オクルージョン領域370が存在する場合、第1実施例で述べた動作を若干修正する必要がある。具体的な動作を説明する。
【0047】
まず、画像処理部12W又は12Tに設けられたオクルージョン検出部(不図示)にて、オクルージョン領域370の検出を行う。オクルージョン領域370の検出方法は公知である。オクルージョン検出部は、三角測量法の原理(ステレオ視の原理)に基づき、撮像部11W及び11Tの出力信号を用いて画像TS又はTL上の各画素位置の被写体の被写体距離を算出することができるが、オクルージョン領域370については、原理的に、被写体距離を算出することができない。従って、オクルージョン検出部は、撮像部11W及び11Tの出力信号から被写体距離を算出できない画像領域をオクルージョン領域370として検出することができる。或る被写体の被写体距離とは、実空間上における当該被写体及び撮像装置1間の距離を指す。
【0048】
オクルージョン検出部は、短露光画像WS及びTSの画像信号に基づいて、オクルージョン領域370の検出を行うことが望ましい。短露光画像WS及びTSのぶれは比較的少ないため、精度良くオクルージョン領域370を検出することができるからである。より具体的には、オクルージョン検出部は、短露光画像WSに対して切り出し処理部61及び画像拡大部62による切り出し処理及び拡大処理を施して得られる画像WS’(図10参照)の画像信号と、望遠短露光画像TSの画像信号と、に基づいてオクルージョン領域370の検出を行うと良い。但し、オクルージョン検出部は、長露光画像WL及びTLの画像信号に基づいて、又は、画像WL及びTSの画像信号に基づいて、又は、画像WS及びTLの画像信号に基づいて、オクルージョン領域370の検出を行ってもよい。
【0049】
第2実施例に係る画像合成部50は、オクルージョン領域370以外の画像領域の画像信号に対しては、図6に示す如く、画像WL’及びTSの画像信号に基づいて出力結果画像の画像信号を生成する。一方、第2実施例に係る画像合成部50は、オクルージョン領域370内の画像信号に対しては、図9に示す如く、画像WL’を用いずに、ローパスフィルタ57にて望遠短露光画像TSを平滑化することで第1中間生成画像を生成する。従って、第2実施例に係る画像合成部50にはローパスフィルタ57も設けられている。
【0050】
第1中間生成画像の生成方法が異なる以外、出力結果画像の画像信号の生成方法は、オクルージョン領域370内とオクルージョン領域370外で同じである。結果、オクルージョン領域370については、望遠短露光画像TSの画像信号のみを用いて出力結果画像の画像信号が生成される。尚、オクルージョン領域370内とオクルージョン領域370外の間の境界部分に対しては、出力結果画像の画像信号を生成する過程において、境界を目立ち難くする境界処理を行うと良い。
【0051】
第2実施例によれば、オクルージョン領域に対して適切な合成処理を成すことができる。
【0052】
<<第3実施例>>
第3実施例を説明する。第3実施例に係る画像合成部50は、広角短露光画像WS及び望遠長露光画像TLから出力結果画像を得る。
【0053】
図10に示す如く、第3実施例において、切り出し処理部61は、広角短露光画像WS内にズーム倍率ZFTに応じた大きさを有する切り出し領域330を設定し、切り出し領域330内の画像を画像WSから切り出す。画像WSから切り出された画像は、望遠短露光画像TS又は望遠長露光画像TLの画角に対応する、一部画像(画像WSの一部画像)である。即ち、切り出し領域330は、広角短露光画像WSの全体画像領域の一部であり、撮像部11Tの撮影領域に相当する。
【0054】
画像拡大部62は、切り出し処理部61にて切り出された画像の画像サイズを、拡大処理(解像度変換)によって拡大することで画像WS’を生成する。この際、画像拡大部62は、画像WS’の画像サイズ(水平及び垂直方向の画素数)が望遠長露光画像TLの画像サイズと一致するように、ズーム倍率ZFTに応じた画像拡大率にて画像の拡大を行う。画像WS’の画角は望遠長露光画像TLの画角と同じであって、画像WS’及び画像TLは、共通の画角で共通の被写体を表した2枚の画像に相当する。
【0055】
図11は、第3実施例に係る画像合成部50の内部ブロック図である。図11に示される画像合成部50の構成及び動作自体は、図4のそれらと同じである。但し、図11の画像合成部50には、画像WS’及び望遠長露光画像TLが、夫々、対象短露光画像及び対象長露光画像として入力され、結果、画像WS’及び画像TLに基づく出力結果画像355が第2合成部56から得られる。
【0056】
図12に、第3実施例に係る撮像装置1の動作手順を示す。ステップS21〜S25の処理が、この順番で実行される。まず、ステップS21において、ユーザが操作部19に対して所定のシャッタ操作を成すと、ステップS22において、撮像部11W及び11Tにより長短露光撮影が成される。ステップS22における長短露光撮影は、撮像部11Wによる広角短露光画像WSの撮影と撮像部11Tによる望遠長露光画像TLの撮影を少なくとも含む。画像WS及びTLの撮影を同時に又は互いに近接した時刻にて行うことが望ましい。ステップS22において、撮像部11Wは画像WL及びWSを連続撮影しても良く、画像WL及びWSの連続撮影と同時に、撮像部11Tは画像TL及びTSを連続撮影しても良い。
【0057】
撮像部11Tのズーム倍率ZFTはCPU15を介して切り出し処理部61及び画像拡大部62に伝達され、ステップS23において、切り出し処理部61及び画像拡大部62は、ズーム倍率ZFTに応じた切り出し処理及び拡大処理を画像WSに行うことで画像WS’を生成する。画像WS’の画像信号は内部メモリ16を介して図11の画像合成部50(画像処理部12Tの画像合成部50)に入力され、一方で、画像TLの画像信号も図11の画像合成部50に入力される。ステップS24において、図11の画像合成部50は、画像WS’及びTLを合成することで出力結果画像355を得る。ステップS25において、出力結果画像355の画像信号は、必要に応じて圧縮されてから外部メモリ17に記録される。
【0058】
画像WS’のぶれは画像TSのぶれよりも小さいことが期待される。このため、第3実施例によれば、画像TS及びTLに基づいて出力結果画像を得るよりも、より適切にぶれ補正が成された出力結果画像を得ることができる。
【0059】
但し、通常は、画像WS、WL、TS及びTLの内、望遠長露光画像TLのぶれが最も大きいため、画像TLを使用しない第1実施例(図6参照)の方が第3実施例(図11参照)よりも、優れたぶれ補正を実現しやすい。従って例えば、通常は、第1実施例又は第2実施例で述べた方法にて出力結果画像を生成し、特定状況下においてのみ、第3実施例又は後述の第4実施例で述べた方法にて出力結果画像を生成するようにしても良い。
【0060】
特定状況とは、例えば、望遠短露光画像TSのぶれの大きさが望遠長露光画像TLのぶれの大きさよりも大きい状況である。このような状況は、望遠短露光画像TSの画像信号を撮像部11Tから得るための露光期間中に比較的大きな手ぶれが作用したときなどに発生しうる。画像TS及びTLの夫々に含まれるぶれの大きさを公知の方法で検出するぶれ量検出部(不図示)を撮像装置1に設けておき、ぶれ量検出部の検出結果に基づいて、画像合成部50は、第1又は第2実施例の方法で出力結果画像を得るのか或いは第3又は第4実施例の方法で出力結果画像を得るのかを切り換えるようにしても良い。
【0061】
<<第4実施例>>
第4実施例を説明する。第4実施例は、第3実施例を基礎とした実施例であり、特に記述しない事項に関しては第3実施例の記載が第4実施例にも適用される。第2実施例において、第1実施例に適用することのできるオクルージョン領域への対応方法を説明したが、第4実施例では、第3実施例に適用することのできるオクルージョン領域への対応方法を説明する。
【0062】
オクルージョン領域370(図8(a)及び(b)参照)の検出方法は、第2実施例で述べた通りである。
【0063】
第4実施例に係る画像合成部50は、オクルージョン領域370以外の画像領域の画像信号に対しては、図11に示す如く、画像WS’及びTLの画像信号に基づいて出力結果画像の画像信号を生成する。一方、第4実施例に係る画像合成部50は、オクルージョン領域370内の画像信号に対しては、図13に示す如く、画像WS’を用いることなく、望遠短露光画像TS及び望遠長露光画像TLの画像信号をそれぞれ対象短露光画像及び対象長露光画像の画像信号として画像合成部50に入力する。
【0064】
このように、オクルージョン領域370については、画像TS及びTLの画像信号を用いて出力結果画像の画像信号が生成される。尚、オクルージョン領域370内とオクルージョン領域370外の間の境界部分に対しては、出力結果画像の画像信号を生成する過程において、境界を目立ち難くする境界処理を行うと良い。
【0065】
第4実施例によれば、オクルージョン領域に対して適切な合成処理を成すことができる。
【0066】
<<変形等>>
本発明の実施形態は、特許請求の範囲に示された技術的思想の範囲内において、適宜、種々の変更が可能である。以上の実施形態は、あくまでも、本発明の実施形態の例であって、本発明ないし各構成要件の用語の意義は、以上の実施形態に記載されたものに制限されるものではない。上述の説明文中に示した具体的な数値は、単なる例示であって、当然の如く、それらを様々な数値に変更することができる。上述の実施形態に適用可能な注釈事項として、以下に、注釈1〜注釈3を記す。各注釈に記載した内容は、矛盾なき限り、任意に組み合わせることが可能である。
【0067】
[注釈1]
入力された短露光画像及び長露光画像に基づきぶれ補正の成された出力結果画像を生成する構成として、画像合成部50の構成を例示したが、画像処理部12Tは、画像合成部50で採用された方法以外の方法(例えば、フーリエ反復法を利用する、特開2009−135561号公報に記載された方法)を用いて、短露光画像及び長露光画像からぶれ補正の成された出力結果画像を生成しても良い。
【0068】
[注釈2]
上述の説明では、撮像部11Wに接続された画像処理部12Wと撮像部11Tに接続された画像処理部12Tが別個に存在しているが、画像処理部12W及び12Tから成る1つの画像処理部(不図示)が撮像装置1に設けられていると考えても良い。
【0069】
[注釈3]
図1の撮像装置1を、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって構成することができる。ソフトウェアを用いて撮像装置1を構成する場合、ソフトウェアにて実現される部位についてのブロック図は、その部位の機能ブロック図を表すことになる。ソフトウェアを用いて実現される機能をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能を実現するようにしてもよい。
【符号の説明】
【0070】
1 撮像装置
11W、11T 撮像部
12W、12T 画像処理部
50 画像合成部
61 切り出し処理部
62 画像拡大部
【特許請求の範囲】
【請求項1】
第1露光時間を用いた撮影により第1入力画像を得る第1撮像部と、
前記第1撮像部よりも狭い撮影画角及び第1露光時間よりも短い第2露光時間を用いた撮影により第2入力画像を得る第2撮像部と、
前記第1及び第2入力画像に基づき出力結果画像を生成する画像処理部と、を備えた
ことを特徴とする撮像装置。
【請求項2】
前記画像処理部は、
前記第2入力画像の画角に対応する、前記第1入力画像内の画像を切り出す切り出し処理部と、
切り出された画像の画像サイズを、前記第2入力画像の画像サイズまで拡大する画像拡大部と、
前記拡大によって得られた画像の画像信号と前記第2入力画像の画像信号とを混合することにより、前記出力結果画像の画像信号を生成する画像合成部と、を備える
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記画像処理部は、前記第2撮像部にて観測される領域の内、前記第1撮像部にて観測できない領域については、前記第2入力画像の画像信号のみを用いて前記出力結果画像の画像信号を生成する
ことを特徴とする請求項1又は請求項2に記載の撮像装置。
【請求項4】
第1露光時間を用いた撮影により第1入力画像を得る第1撮像部と、
前記第1撮像部よりも狭い撮影画角及び第1露光時間よりも長い第2露光時間を用いた撮影により第2入力画像を得る第2撮像部と、
前記第1及び第2入力画像に基づき出力結果画像を生成する画像処理部と、を備えた
ことを特徴とする撮像装置。
【請求項5】
前記画像処理部は、
前記第2入力画像の画角に対応する、前記第1入力画像内の画像を切り出す切り出し処理部と、
切り出された画像の画像サイズを、前記第2入力画像の画像サイズまで拡大する画像拡大部と、
前記拡大によって得られた画像の画像信号と前記第2入力画像の画像信号とを混合することにより、前記出力結果画像の画像信号を生成する画像合成部と、を備える
ことを特徴とする請求項5に記載の撮像装置。
【請求項6】
前記画像処理部は、前記第2撮像部にて観測される領域の内、前記第1撮像部にて観測できない領域については、前記第2入力画像の画像信号と第3入力画像の画像信号を用いて前記出力結果画像の画像信号を生成し、
前記第3入力画像は、前記第2撮像部の撮影によって得られ、
前記第2及び第3入力画像の画角は互いに同じであって且つ前記第3入力画像の露光時間は前記第2露光時間よりも短い
ことを特徴とする請求項4又は請求項5に記載の撮像装置。
【請求項1】
第1露光時間を用いた撮影により第1入力画像を得る第1撮像部と、
前記第1撮像部よりも狭い撮影画角及び第1露光時間よりも短い第2露光時間を用いた撮影により第2入力画像を得る第2撮像部と、
前記第1及び第2入力画像に基づき出力結果画像を生成する画像処理部と、を備えた
ことを特徴とする撮像装置。
【請求項2】
前記画像処理部は、
前記第2入力画像の画角に対応する、前記第1入力画像内の画像を切り出す切り出し処理部と、
切り出された画像の画像サイズを、前記第2入力画像の画像サイズまで拡大する画像拡大部と、
前記拡大によって得られた画像の画像信号と前記第2入力画像の画像信号とを混合することにより、前記出力結果画像の画像信号を生成する画像合成部と、を備える
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記画像処理部は、前記第2撮像部にて観測される領域の内、前記第1撮像部にて観測できない領域については、前記第2入力画像の画像信号のみを用いて前記出力結果画像の画像信号を生成する
ことを特徴とする請求項1又は請求項2に記載の撮像装置。
【請求項4】
第1露光時間を用いた撮影により第1入力画像を得る第1撮像部と、
前記第1撮像部よりも狭い撮影画角及び第1露光時間よりも長い第2露光時間を用いた撮影により第2入力画像を得る第2撮像部と、
前記第1及び第2入力画像に基づき出力結果画像を生成する画像処理部と、を備えた
ことを特徴とする撮像装置。
【請求項5】
前記画像処理部は、
前記第2入力画像の画角に対応する、前記第1入力画像内の画像を切り出す切り出し処理部と、
切り出された画像の画像サイズを、前記第2入力画像の画像サイズまで拡大する画像拡大部と、
前記拡大によって得られた画像の画像信号と前記第2入力画像の画像信号とを混合することにより、前記出力結果画像の画像信号を生成する画像合成部と、を備える
ことを特徴とする請求項5に記載の撮像装置。
【請求項6】
前記画像処理部は、前記第2撮像部にて観測される領域の内、前記第1撮像部にて観測できない領域については、前記第2入力画像の画像信号と第3入力画像の画像信号を用いて前記出力結果画像の画像信号を生成し、
前記第3入力画像は、前記第2撮像部の撮影によって得られ、
前記第2及び第3入力画像の画角は互いに同じであって且つ前記第3入力画像の露光時間は前記第2露光時間よりも短い
ことを特徴とする請求項4又は請求項5に記載の撮像装置。
【図1】
【図4】
【図6】
【図7】
【図9】
【図10】
【図12】
【図2】
【図3】
【図5】
【図8】
【図11】
【図13】
【図4】
【図6】
【図7】
【図9】
【図10】
【図12】
【図2】
【図3】
【図5】
【図8】
【図11】
【図13】
【公開番号】特開2012−235198(P2012−235198A)
【公開日】平成24年11月29日(2012.11.29)
【国際特許分類】
【出願番号】特願2011−100750(P2011−100750)
【出願日】平成23年4月28日(2011.4.28)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
【公開日】平成24年11月29日(2012.11.29)
【国際特許分類】
【出願日】平成23年4月28日(2011.4.28)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
[ Back to top ]