撮像装置
【課題】距離情報を用いた画像処理の結果を短時間で取得する。
【解決手段】撮像装置は、共通の被写体の撮影を行う2つの撮像部を備える。メイン撮像部における撮影構図の確定後、サブ撮像部においてフォーカスレンズの位置を所定量ずつずらしながら高フレームレートにて連続撮影を行うことで焦点位置の異なる複数のサブ画像を取得し、複数のサブ画像の画像信号に基づき各被写体の被写体距離を表す距離情報を生成する。距離情報の生成後又は距離情報の生成と並行して、メイン撮像部においてパンフォーカスを用い、メイン画像を撮影する。画像処理部は、距離情報を用いてメイン画像の合焦状態を調整することにより目標結果画像を生成する。
【解決手段】撮像装置は、共通の被写体の撮影を行う2つの撮像部を備える。メイン撮像部における撮影構図の確定後、サブ撮像部においてフォーカスレンズの位置を所定量ずつずらしながら高フレームレートにて連続撮影を行うことで焦点位置の異なる複数のサブ画像を取得し、複数のサブ画像の画像信号に基づき各被写体の被写体距離を表す距離情報を生成する。距離情報の生成後又は距離情報の生成と並行して、メイン撮像部においてパンフォーカスを用い、メイン画像を撮影する。画像処理部は、距離情報を用いてメイン画像の合焦状態を調整することにより目標結果画像を生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、デジタルスチルカメラ、デジタルビデオカメラ等の撮像装置に関する。
【背景技術】
【0002】
撮影画像の合焦状態を画像処理によって調整することで、画像の撮影後に任意の被写体に合焦した画像を生成する方法(例えば特許文献1参照)が提案されており、この方法を実現する処理の一種はデジタルフォーカスとも呼ばれている。
【0003】
上記の画像処理の一種では、各被写体の被写体距離を表す距離情報が利用され、距離情報を元に、主要被写体(合焦せしめられるべき被写体)から離れた部分をぼかす処理が行われる。通常、画像に基づいて距離情報を生成するには、異なる視点から撮影された複数の画像が必要となる。撮像装置に設けられた撮像部(撮像系)が1つである場合、主画像の撮影前又は撮影後において視点をずらした副画像を別途撮影し、主画像及び副画像を用いて距離情報を生成することも可能であるが、このような方法はユーザ負担(時間的拘束など)が重くなりがちである。これに対し、2つの撮像部(撮像系)を撮像装置に設けておけば、2つの撮像部による2枚の撮影画像に基づき、三角測量の原理を用いて距離情報を生成することができる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2010−252293号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、2つの撮像部による2枚の撮影画像に基づく、三角測量の原理を用いた距離情報の生成処理は、必要計算量が相応に多く、距離情報が得られるまでに必要な待ち時間も相応に長くなる。少ない待ち時間で合焦状態調整後の画像(例えば、任意の被写体に合焦した画像)を生成することができれば、当然に有益である。これは、合焦状態調整用の画像処理に限らず、距離情報を用いた画像処理を実行する任意の撮像装置において当てはまる。
【0006】
そこで本発明は、距離情報を用いた画像処理の結果が得られるまでの待ち時間短縮に寄与する撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明に係る撮像装置は、第1画像を撮影する第1撮像部と、焦点位置が互いに異なる状態で複数の第2画像を連続的に撮影する第2撮像部と、前記複数の第2画像に基づき前記第1画像上の被写体の距離情報を生成する距離情報生成部と、前記距離情報を用いた画像処理を前記第1画像に行う画像処理部と、を備えたことを特徴とする。
【0008】
当該撮像装置によれば、第1画像の撮影を待たずとも複数の第2画像から距離情報を生成することができる。従って、第1画像の撮影完了後、距離情報を用いた画像処理を直ちに行うことが可能となり、画像処理の結果が得られるまでの待ち時間が短縮される。
【0009】
具体的に例えば、前記被写体は、主要被写体及び非主要被写体を含んでいても良く、前記画像処理は、前記距離情報を用いて前記第1画像上の前記非主要被写体をぼかす処理を含んでいてもよい。
【0010】
また例えば、前記第1撮像部若しくは前記第2撮像部の撮影結果に基づく画像信号に基づいて、又は、操作部に対して与えられた主要被写体指定操作に基づいて、前記主要被写体を設定する主要被写体設定部を、当該撮像装置に更に設けておいてもよい。
【0011】
また例えば、当該撮像装置において、各第2画像の全体画像領域に複数の小ブロックが設定され、前記距離情報生成部は、各第2画像において前記小ブロックごとに当該小ブロックの画像信号に基づく評価値を導出し、前記複数の第2画像間において、互いに対応する小ブロックの評価値を比較することにより前記距離情報を生成してもよい。
【0012】
また例えば、前記第2撮像部による前記被写体の撮影画像には第3画像が含まれ、前記画像処理部は、前記第3画像に対しても前記距離情報を用いた前記画像処理を行いうる。
【発明の効果】
【0013】
本発明によれば、距離情報を用いた画像処理の結果が得られるまでの待ち時間短縮に寄与する撮像装置を提供することが可能である。
【図面の簡単な説明】
【0014】
【図1】本発明の第1実施形態に係る撮像装置の概略全体ブロック図である。
【図2】図1に示される1つの撮像部の内部構成図である。
【図3】本発明の第1実施形態に係り、1枚のメイン画像とn枚のサブ画像から目標結果画像が得られる様子を示す図である。
【図4】1枚のメイン画像とn枚のサブ画像から目標結果画像を生成する動作のフローチャートである。
【図5】撮像装置と各被写体との距離関係を示す図である。
【図6】メイン画像上に主要被写体領域が設定される様子を示す図である。
【図7】高域評価部の内部ブロック図である。
【図8】各サブ画像の全体画像領域が複数の小ブロックに分割される様子を示す図である。
【図9】本発明の第2実施形態に係り、目標結果画像を得る動作に特に関与する部位のブロック図である。
【図10】本発明の第2実施形態に係り、左眼画像及び右眼画像から2枚の目標結果画像が得られる様子を示す図である。
【図11】本発明の第2実施形態に係り、目標結果画像を生成する動作のフローチャートである。
【発明を実施するための形態】
【0015】
以下、本発明の実施形態の例を、図面を参照して具体的に説明する。参照される各図において、同一の部分には同一の符号を付し、同一の部分に関する重複する説明を原則として省略する。尚、本明細書では、記述の簡略化上、情報、物理量、状態量又は部材等を参照する記号又は符号を記すことによって該記号又は符号に対応する情報、物理量、状態量又は部材等の名称を省略又は略記することがある。
【0016】
<<第1実施形態>>
本発明の第1実施形態を説明する。図1は、本発明の第1実施形態に係る撮像装置1の概略全体ブロック図である。撮像装置1は、静止画像及び動画像を撮影及び記録可能なデジタルビデオカメラである。但し、撮像装置1は、静止画像のみを撮影及び記録可能なデジタルスチルカメラであっても良い。また、撮像装置1は、携帯電話機などの携帯端末に搭載されるものであっても良い。
【0017】
撮像装置1は、撮像部11A及び信号処理部12Aから成る第1処理ユニットと、撮像部11B及び信号処理部12Bから成る第2処理ユニットとを有し、更に、符号13〜20によって参照される各部位を備える。第1処理ユニットと第2処理ユニットに、互いに同じ機能を持たせることができる。
【0018】
図2は、撮像部11Aの内部構成図である。撮像部11Aは、ズームレンズ30及びフォーカスレンズ31を含む複数枚のレンズから成る光学系35と、絞り32と、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどから成る撮像素子(固体撮像素子)33と、光学系35や絞り32を駆動制御するためのドライバ34と、を有している。撮像素子33は、光学系35及び絞り32を介して入射した撮影領域内の被写体の光学像を光電変換し、該光電変換により得られた電気信号(画像信号)を出力する。撮影領域とは、撮像装置1の撮影領域(視野)を指す。レンズ30及び31の位置並びに絞り32の開度は、主制御部13によって制御される。撮像部11Bの内部構成及び機能は、撮像部11Aのそれらと同じである。但し、撮像部11Aが後述のパンフォーカスしか利用しない場合には、撮像部11Aのフォーカスレンズ31の位置は固定されていても良い。
【0019】
信号処理部12Aは、撮像部11Aの撮像素子33の出力信号に対して所定の信号処理(デジタル化、信号増幅、ノイズ低減処理、デモザイキング処理など)を行い、信号処理後の画像信号を出力する。信号処理部12Bは、撮像部11Bの撮像素子33の出力信号に対して所定の信号処理(デジタル化、信号増幅、ノイズ低減処理、デモザイキング処理など)を行い、信号処理後の画像信号を出力する。本明細書において、任意の画像を表す信号を画像信号と呼ぶ。撮像素子33の出力信号も画像信号の一種である。本明細書では、或る画像の画像信号(画像データ)のことを、単に画像とも言う。また、撮像部11A又は11Bの撮像素子33の出力信号を、撮像部11A又は11Bの出力信号(出力画像信号)とも言う。
【0020】
主制御部13は、撮像装置1内の各部位の動作を統括的に制御する。内部メモリ14は、SDRAM(Synchronous Dynamic Random Access Memory)等にて形成され、撮像装置1内で生成された各種信号(データ)を一時的に記憶する。表示部15は、液晶ディスプレイパネル等から成り、主制御部13による制御の下、撮影画像や記録媒体16に記録されている画像などを表示する。記録媒体16は、カード状半導体メモリや磁気ディスク等の不揮発性メモリであり、主制御部13による制御の下、撮影画像等を記録する。撮影画像とは、撮像部11A又は11Bの撮像素子33の出力信号に基づく、撮影領域の画像である。操作部17は、ユーザからの各種操作を受け付ける。操作部17に対するユーザの操作内容は、主制御部13に伝達され、主制御部13の制御の下、撮像装置1内の各部位は操作内容に応じた動作を行う。操作部17にタッチパネルが含まれていても良い。
【0021】
信号処理部12Aからの画像信号に基づく画像又は信号処理部12Bからの画像信号に基づく画像を、主制御部13による制御の下、出力選択部20を介して表示部15に出力することで当該画像を表示部15上で表示することができる、或いは、主制御部13による制御の下、出力選択部20を介して記録媒体16に出力することで当該画像を記録媒体16に記録することができる。
【0022】
撮像装置1は、撮像部11A及び11Bの出力信号を用いて三角測量の原理に基づき被写体の距離情報を生成する機能、及び、撮像部11A及び11Bによる撮影画像を用いて被写体の三次元情報を復元する機能を有していても良い。但し、以下では、撮像部11Aを主たる撮像部として用いる一方で撮像部11Bを従たる撮像部として用いた特徴的動作αを説明する。
【0023】
図3に、特徴的動作αの概念図を示す。特徴的動作αでは、撮像部11Aによって1枚のメイン画像IAが撮影され、一方で、撮像部11Bにより複数のサブ画像IBが連続的に撮影される。この際、撮像部11Bのフォーカスレンズ31の位置を所定量ずつずらしながら複数のサブ画像IBを連続的に撮影することで、サブ画像IBの合焦状態を複数のサブ画像IB間で互いに異ならせる。複数のサブ画像IBを、記号IB[1]、IB[2]、・・・IB[n]によって表す。nは2以上の整数である。p及びqが互いに異なる整数である場合、撮像部11Bの焦点位置はサブ画像IB[p]の撮影時とサブ画像IB[q]の撮影時との間で異なる。即ち、サブ画像IB[1]〜IB[n]は、撮像部11Bの焦点位置が互いに異なる状態で連続的に撮影される。撮像部11Bの焦点位置は、撮像部11Bの光学系35内の複数のレンズを単一の撮像レンズに見立てたときの、当該撮像レンズの焦点の位置である、と解釈しても良い。
【0024】
メイン画像IA及びサブ画像IB[1]〜IB[n]は共通の被写体の撮影画像であり、メイン画像IAに含まれる各被写体は、サブ画像IB[1]〜IB[n]の夫々にも含まれている。例えば、サブ画像IB[1]〜IB[n]の夫々の画角は、メイン画像IAの画角と略同じとされる。但し、サブ画像IB[1]〜IB[n]の夫々の画角は、メイン画像IAの画角よりも大きくても構わない。
【0025】
本実施形態では、メイン画像IA及びサブ画像IB[1]〜IB[n]の撮影時における撮像部11A及び11Bの撮影領域内に、犬である被写体SUB1、人物である被写体SUB2及び車である被写体SUB3が存在していたとする。
【0026】
図1の距離情報生成部18は、サブ画像IB[1]〜IB[n]の画像信号に基づき、メイン画像IA上の各被写体の被写体距離を表す距離情報を生成する。或る被写体の被写体距離とは、当該被写体と撮像装置1との間における、実空間上の距離を指す。距離情報は、自身を形成する各画素値が被写体距離の検出値を持つ距離画像であるとも言える。距離情報によって、メイン画像IAの任意の画素位置における被写体の被写体距離が特定されると共にサブ画像IB[i]の任意の画素位置における被写体の被写体距離も特定される(iは整数)。図3に示す距離情報(距離画像)では、被写体距離が大きい部分ほど黒く示している。
【0027】
図1の合焦状態調整部19は、メイン画像IAに対して距離情報に基づく合焦状態調整処理を施し、合焦状態調整処理後のメイン画像IAを目標結果画像ICとして出力する。合焦状態調整処理は、メイン画像IAの一部をぼかすぼかし処理を含む(詳細は後述)。
【0028】
特徴的動作αにおいて、撮像部11Aは所謂パンフォーカス(ディープフォーカス)を用いて撮影を行うことができ、これによって、メイン画像IAを含む撮像部11Aの撮影画像を、理想的な又は擬似的な全合焦画像とすることができる。全合焦画像とは、全合焦画像上に画像信号が存在する全ての被写体に対して合焦している画像を指す。パンフォーカスを用いて得られた撮像部11Aの撮影画像(メイン画像IAを含む)は十分に深い被写界深度を有し、撮像部11Aの撮影画像(メイン画像IAを含む)の被写界深度は、サブ画像IB[1]〜IB[n]の夫々の被写界深度よりも深い。ここでは、説明の簡略化上、撮像部11A及び11Bの撮影領域に収まる全被写体が、撮像部11Aの撮影画像(メイン画像IAを含む)の被写界深度内に収まっているものとする。
【0029】
図4は、特徴的動作αの動作手順を表すフローチャートである。図4に沿って、特徴的動作αの手順を説明する。
【0030】
まず、ステップS11において、メイン撮像部である撮像部11Aがパンフォーカスにて撮影画像列を取得する。得られた撮影画像列は、動画像として表示部15に表示される。撮影画像列とは、時系列で並ぶ撮影画像の集まりを指す。例えば、ステップS11において、パンフォーカスを用い撮像部11Aが所定のフレームレートで撮影画像を順次取得することで、表示部15に表示されるべき撮影画像列が取得される。ユーザは、表示部15の表示内容を確認することで、撮像部11Aの画角及び被写体の様子を確認することができる。ステップS11における撮影画像列の取得及び表示は、少なくとも後述のシャッタ操作が成されるまで継続される。
【0031】
ステップS11における撮影画像列の取得及び表示が行われている状態で、主制御部13(主制御部13に含まれる構図確定判断部)は、ステップS12において撮影構図が確定したか否かを判断する。撮影構図が確定したと判断した場合にのみ、ステップS12からステップS13への移行が発生する。
【0032】
例えば、撮像装置1の筐体の角加速度又は加速度を検出する動きセンサ(不図示)を撮像装置1に設けておくことができる。この場合、主制御部13は、当該動きセンサの検出結果を用いて撮像装置1の動きを監視することができる。或いは、主制御部13は、撮像部11A又は11Bの出力信号からオプティカルフローを導出し、そのオプティカルフローに基づいて撮像装置1の動きを監視することができる。そして、撮像装置1の動きの監視結果に基づき、撮像装置1が静止したと判断される場合に、主制御部13は、撮影構図が確定したと判断することができる。
【0033】
ユーザが操作部17に対して所定のズーム操作を成した際、主制御部13の制御の下、撮像部11A及び11Bにおいてズームレンズ30が光学系35内で移動せしめられて、撮像部11A及び11Bの画角(即ち、光学ズーム倍率)が変更される。ズーム操作に従って撮像部11A及び11Bの画角が変更された後、一定時間継続して、更なるズーム操作が成さなかったとき(即ち、撮像部11A及び11Bの画角が固定されたとき)、主制御部13は、撮影構図が確定したと判断してもよい。或いは、操作部17に対して所定の画角確定操作(例えば、専用ボタンを押す操作)が成された場合に、主制御部13は、撮影構図が確定したと判断してもよい。また、撮像装置1が静止しているか否かの第1判断と、撮像部11A及び11Bの画角が固定されたか否かの第2判断(或いは操作部17に対して所定の画角確定操作が成されたか否かの第2判断)とを組み合わせて用いて、主制御部13は、撮影構図が確定したか否かを判断するようにしてもよい。
【0034】
ステップS13において、主制御部13は、サブ撮像部である撮像部11Bにてサブ画像IB[1]〜IB[n]が連続的に撮影されるように撮像部11Bを制御する。上述の如く、撮像部11Bは、フォーカスレンズ31の位置を所定量ずつずらしながらサブ画像IB[1]〜IB[n]を連続的に撮影し、結果、サブ画像IBの合焦位置(換言すれば、サブ画像IBの合焦状態)は複数のサブ画像IB間で互いに異なる。また、短時間でサブ画像IB[1]〜IB[n]の撮影を完了させるべく、比較的高いフレームレート(例えば、300fps(frame per second))にてサブ画像IB[1]〜IB[n]を撮影すると良い。
【0035】
その後、ステップS14において、距離情報生成部18は、サブ画像IB[1]〜IB[n]に基づき距離情報を生成する(距離情報の生成方法例は後述)。
【0036】
一方、ステップS15において、主制御部13内の主要被写体設定部25(図1参照)は、主要被写体を設定し、その設定結果を含む主要被写体情報を生成する。ステップS15において、メイン画像IAに存在する何れかの被写体が主要被写体に設定される。
【0037】
主要被写体設定部25は、ユーザ操作によることなく、撮像部11A又は11Bの撮影結果を表す撮像部11A又は11Bの出力画像信号に基づき、主要被写体を設定することができる。例えば、撮像部11Aの出力画像信号に基づき、主要被写体設定部25は、撮像部11Aの撮影画像上に存在する特定種類の物体を検出し、検出した特定種類の物体を主要被写体に設定することができる(撮像部11Bの出力画像信号を用いる場合も同様)。特定種類の物体は、例えば、任意の人物、予め登録された特定の人物、任意の動物、又は、動物体である。撮像部11Aの撮影画像上に存在する動物体とは、撮像部11Aの撮影画像列上で動く物体を指す。撮像部11A又は11Bの出力画像信号に基づいて主要被写体を設定する際、構図に関する情報を更に利用することもできる。例えば、主要被写体は撮影画像の中央部分又は中央周辺に存在している確率が高いという知識を利用して、主要被写体を設定してもよい。設定された主要被写体を取り囲む枠を、表示部15に表示された撮影画像上に重畳表示するとよい。
【0038】
撮影者であるユーザは、操作部17に対し、主要被写体を指定するための主要被写体指定操作を成すことができ、主要被写体指定操作が成された場合、主要被写体設定部25は、主要被写体指定操作に従って主要被写体を設定してもよい。例えば、操作部17にタッチパネル(不図示)を設けておき、撮像部11Aの撮影画像が表示部15に表示されている状態において、操作部17は、表示部15に表示された撮影画像上の何れかの被写体を指定する主要被写体指定操作を、タッチパネル操作(タッチパネルを触れる操作)にて受け付ける。この場合、タッチパネル操作にて指定された被写体を主要被写体に設定すれば良い。
【0039】
主要被写体設定部25は、撮像部11A又は11Bの出力画像信号に基づき主要被写体の候補を複数設定して複数の候補を表示部15に表示させてもよい。この場合、ユーザが複数の候補の中から主要被写体を選択するタッチパネル操作又はタッチパネル操作以外の操作(ボタン操作など)を操作部17に成すことで、主要被写体を設定することができる。
【0040】
図4のステップS15にて生成される主要被写体情報は、撮像部11Aの撮影画像(メイン画像IAを含む)上において主要被写体の画像信号が存在する画像領域(以下、主要被写体領域と呼ぶ)を特定する。
【0041】
ステップS12における撮影構図の確定後、ユーザは、操作部17に対して所定のシャッタ操作を成す。シャッタ操作が成されると、ステップS16において、撮像部11Aはパンフォーカスにてメイン画像IAを撮影する。ステップS13の連続撮影処理及びステップS14の距離情報生成処理を、又は、少なくともステップS13の連続撮影処理を、メイン画像IAの撮影完了前に完了しておくことが望ましい。これを実現すべく、サブ画像IB[1]〜IB[n]の撮影時における撮像部11Bのフレームレートを、撮像部11Aのフレームレートよりも高く設定すると良い。ステップS14の距離情報生成処理は、メイン画像IAの撮影動作と並行して成されうる。図4の動作手順例では、ステップS13及びS14の処理後にステップS16の撮影処理が成される。周知の如く、撮像部11Aのフレームレートは、単位時間当たりに撮像部11Aにて撮影される画像(フレーム)の枚数を表す。撮像部11Bのフレームレートも同様である。また、図4では、ステップS13及びS14の処理後であって且つステップS16の処理前に、ステップS15における処理が成されているが、ステップS15における主要被写体設定用の処理は、撮影構図が確定したと判断された後であって且つ後述のステップS17の処理が成されるまでの任意のタイミングで成されてもよい。
【0042】
メイン画像IAの撮影後、ステップS17において、合焦状態調整部19は、主要被写体情報及び距離情報を用いた合焦状態調整処理をメイン画像IAに対して施し、合焦状態調整処理後のメイン画像IAを目標結果画像ICとして出力する。続くステップS18において、目標結果画像ICの画像信号が出力選択部20を介して表示部15及び記録媒体16に出力されることで、目標結果画像ICが表示部15で表示されると共に記録媒体16に記録される。目標結果画像ICと共に、メイン画像IA又はサブ画像IB[1]〜IB[n]を記録媒体16に記録させておくことも可能である。或いは、メイン画像IAと距離情報(距離画像)を記録媒体16に記録させておくことも可能である。
【0043】
合焦状態調整処理には、主要被写体の被写体距離と異なる被写体距離を有する被写体をぼかすぼかし処理が含まれる。合焦状態調整処理に、主要被写体領域内の画像のエッジを強調するエッジ強調処理などを、更に含めておいても良い。
【0044】
図5及び図6を参照して、ぼかし処理の内容を説明する。図5に示す如く、被写体SUB1、SUB2及びSUB3の被写体距離を夫々記号d1、d2及びd3にて表し、不等式「0<d1<d2<d3」が成立することを想定する。また、被写体SUB1、SUB2及びSUB3の内、被写体SUB2が主要被写体に設定されたことを想定する。この場合、図6の斜線領域に相当する、被写体SUB2の画像信号が存在する画像領域が、主要被写体領域としてメイン画像IAに設定される。
【0045】
合焦状態調整部19は、ぼかし処理において、主要被写体SUB2の被写体距離d2と異なる被写体距離を有する被写体(以下、非主要被写体という)をぼかす。より厳密には、距離(d2−ΔdA)以下の被写体距離を有する被写体、及び、距離(d2+ΔdB)以上の被写体距離を有する被写体が、非主要被写体である。ΔdA及びΔdBは、目標結果画像ICの被写界深度の大きさ(深さ)に応じて定まる正の距離値である。ユーザは、操作部17に対する操作を介して、目標結果画像ICの被写界深度の大きさ(深さ)を指定することもできる。
【0046】
ここでは、被写体SUB2以外の全ての被写体(SUB1及びSUB3並びに背景を含む)が、非主要被写体であったとする。そうすると、メイン画像IAの全体画像領域の内、主要被写体領域以外の画像領域がぼかし対象領域に設定され、ぼかし対象領域内の画像がぼかし処理によってぼかされる。ぼかし処理は、ぼかし対象領域内の画像の空間周波数成分の内、比較的高い空間周波数成分を低減させるローパスフィルタ処理であっても良い。ぼかし処理を、空間フィルタリング又は周波数フィルタリングによって実現することができる。
【0047】
合焦状態調整部19は、ぼかし処理において、距離情報に基づき非主要被写体SUB1をぼかす際、非主要被写体SUB1の被写体距離d1と主要被写体SUB2の被写体距離d2との差分距離d12が大きくなればなるほど、非主要被写体SUB1に対するぼかし強度を増大させる(d12=|d1−d2|)。非主要被写体SUB1以外の非主要被写体についても同様である。非主要被写体SUB1に対するぼかし強度が大きいほど、目標結果画像ICにおいて、非主要被写体SUB1の像はより大きくぼける。例えば、ガウシアンフィルタを用いた空間フィルタリングにてぼかし処理を実現する場合、差分距離d12が増大するにつれてガウシアンフィルタのフィルタサイズを増大させることにより、非主要被写体SUB1に対するぼかし強度を増大させることができる。
【0048】
図3に示される目標結果画像ICは、上述の想定下で得られた目標結果画像ICの例である。図3では、画像のぼけを被写体の輪郭線の太さによって表現している。
【0049】
尚、上述の説明とは異なるが、主要被写体SUB2の被写体距離d2と同じ被写体距離を有する被写体SUB4(不図示)を、非主要被写体に含めることも可能である。ここで、被写体SUB4は、被写体SUB1〜SUB3と共にメイン画像IA及びサブ画像IB[1]〜IB[n]上に現われる、被写体SUB1〜SUB3以外の被写体である。例えば、主要被写体設定部25は、上述した方法によって、被写体SUB1〜SUB4の内、被写体SUB2のみを主要被写体に設定することができ、主要被写体SUB2以外の全ての被写体(被写体SUB1、SUB3及びSUB4を含む)を非主要被写体に設定することができる。この場合、被写体SUB1及びSUB3の画像信号が存在する画像領域だけでなく被写体SUB4の画像信号が存在する画像領域も、ぼかし対象領域に含められてぼかし処理によりぼかされる。
【0050】
次に、サブ画像IB[1]〜IB[n]に基づく距離情報の生成方法例を説明する。図7及び図8を参照する。図7は、距離情報の生成に利用される高域評価部60の内部ブロック図である。高域評価部60を、距離情報生成部18に設けておくことができる。
【0051】
高域評価部60は、図8に示す如く、サブ画像IB[1]〜IB[n]の夫々の全体画像領域をm個に分割することにより、サブ画像IB[1]〜IB[n]の夫々にm個の小ブロックを設定する(mは2以上の整数)。サブ画像IB[i]におけるj番目の小ブロックを記号BL[i,j]にて表す(i及びjは整数であって、1≦i≦n、1≦j≦m)。各サブ画像において、m個の小ブロックの大きさは互いに同じであるとする。サブ画像IB[1]上における小ブロックBL[1,j]の位置、サブ画像IB[2]上における小ブロックBL[2,j]の位置、・・・及び、サブ画像IB[n]上における小ブロックBL[n,j]の位置は互いに同じであり、結果、小ブロックBL[1,j]、BL[2,j]、・・・及びBL[n,j]は互いに対応している。
【0052】
図7に示す如く、高域評価部60は、抽出部61、HPF(ハイパスフィルタ)62及び積算部63を備える。高域評価部60は、サブ画像ごとに且つ小ブロックごとにブロック評価値(高周波成分値)を算出する。従って、1枚のサブ画像に対してm個のブロック評価値が算出される。
【0053】
抽出部61には、サブ画像の画像信号が入力される。抽出部61は、入力された画像信号の中から輝度信号を抽出する。HPF62は、抽出部61によって抽出された輝度信号中から高周波成分を抽出する。HPF62にて抽出される高周波成分は、比較的高い周波数を有する特定の空間周波数成分であり、特定の空間周波数成分は、所定範囲内の周波数を有する空間周波数成分であるとも言え、所定周波数以上の周波数を有する空間周波数成分であるとも言える。例えば、HPF62を所定のフィルタサイズを有するラプラシアンフィルタにて形成し、そのラプラシアンフィルタをサブ画像の各画素に作用させる空間フィルタリングを行う。そうすると、HPF62からは、そのラプラシアンフィルタのフィルタ特性に応じた出力値が順次得られる。積算部63は、HPF62によって抽出された高周波成分の大きさ(即ち、HPF62の出力値の絶対値)を積算する。1枚のサブ画像に対し、この積算は小ブロックごとに行われ、或る小ブロック内における高周波成分の大きさの積算値を、その小ブロックのブロック評価値とする。小ブロックごとにブロック評価値を求める演算処理をサブ画像ごとに行うことで、サブ画像ごとにm個のブロック評価値が求められる。
【0054】
距離情報生成部18は、サブ画像IB[1]〜IB[n]間において、互いに対応する小ブロックのブロック評価値を比較することで距離情報を生成する。
【0055】
生成される距離情報は、小ブロックごとの距離情報にて形成される。1番目の小ブロックBL[i,1]に対応する距離情報の生成方法を説明する。距離情報生成部18は、小ブロックBL[1,1]〜BL[n,1]に対して求められたn個のブロック評価値VAL[1,1]〜VAL[n,1]の内、最大値を特定し、最大値に対応するサブ画像を合焦サブ画像として特定する。例えば、ブロック評価値VAL[1,1]〜VAL[n,1]の内、ブロック評価値VAL[2,1]が最大であるならば、ブロック評価値VAL[2,1]に対応するサブ画像IB[2]が合焦サブ画像として特定される。この場合、サブ画像IB[2]の撮影時における、撮像部11B内のフォーカスレズ31の位置に基づき、1番目の小ブロックBL[i,1]に対応する距離情報を求める。他の小ブロックに対応する距離情報も同様にして求められる。
【0056】
サブ画像と同様にして、メイン画像IAの夫々にもm個の小ブロックを設定することができ、j番目の小ブロックBL[i,j]に対応する距離情報は、メイン画像IAにおけるj番目の小ブロックの距離情報として機能する。サブ画像IB[i]におけるj番目の小ブロックBL[i,j]内の被写体と、メイン画像IAにおけるj番目の小ブロック内の被写体は、互いに共通である。小ブロックBL[i,j]に対応する距離情報は、メイン画像IAにおけるj番目の小ブロック内の各被写体の被写体距離を指し示す。
【0057】
2つの撮像部を備えた撮像装置において、2つの撮像部にて同時撮影した第1及び第2画像に基づき三角測量の原理を用いて距離情報を生成し、その後、距離情報を用いて第1画像に対する合焦状態調整処理を行う、といった方法も考えられる。但し、この方法では、第1画像の撮影後、距離情報の演算処理が完了するまで合焦状態調整処理を行うことができず、目標結果画像を得るまでの待ち時間が長くなる。これに対し、本実施形態では、メイン画像の撮影完了時に距離情報の生成が完了しているため、メイン画像の撮影完了後、直ちに合焦状態調整処理を行うことができ、目標結果画像を得るまでの待ち時間が短縮される。
【0058】
<<第2実施形態>>
本発明の第2実施形態を説明する。第2実施形態は、第1実施形態を基礎とする実施形態であり、第1実施形態にて述べた事項は、矛盾なき限り、第2実施形態にも適用される。第2実施形態では、上記撮像装置1にて実行可能な他の画像処理を説明する。
【0059】
図9は、第2実施形態の画像処理動作に特に関与する部位のブロック図である。図9の合焦状態調整部19は、図1のそれと同じものである。
【0060】
撮像部11A及び11Bは、互いに視差を有するステレオカメラを形成している。ステレオカメラの構成要素としての撮像部11A及び11Bによる撮影画像を夫々左眼画像及び右眼画像と呼ぶ。左眼画像及び右眼画像は、共通の被写体の撮影画像である。図10において、画像310及び320は左眼画像及び右眼画像の例である。画像310及び320の夫々には、共通の被写体として被写体SUB1〜SUB3が存在している。左眼画像310は撮像部11Aの視点から見た被写体(SUB1〜SUB3を含む)の撮影画像であり、右眼画像320は撮像部11Bの視点から見た被写体(SUB1〜SUB3を含む)の撮影画像である。撮像部11A及び11Bの視点は互いに異なる。画像310及び320は、通常、共通の画角を有するが、画像310及び320の内、一方の画角が他方の画角に内包されていても良い。
【0061】
第2実施形態に係る合焦状態調整部19は、左眼画像310及び右眼画像320の夫々に対して距離情報に基づく合焦状態調整処理を施すことで、第1及び第2目標結果画像330及び340を生成する。目標結果画像330は、合焦状態調整処理が施された後の左眼画像310であり、目標結果画像340は、合焦状態調整処理が施された後の右眼画像320である。図9の合焦状態調整部19にて利用される距離情報は、第1実施形態で述べた方法に従い、距離情報生成部18(図1参照)にて生成される。左眼画像310及び右眼画像320の夫々に対する合焦状態調整処理は、第1実施形態で述べたメイン画像IAに対する合焦状態調整処理と同じである。故に、左眼画像310に対する合焦状態調整処理は、左眼画像310上の非主要被写体をぼかすためのぼかし処理を含み、右眼画像320に対する合焦状態調整処理は、右眼画像320上の非主要被写体をぼかすためのぼかし処理を含む。主要被写体の設定方法は、第1実施形態で述べたとおりである。
【0062】
図11は、第2実施形態に係る撮像装置1の動作フローチャートである。第2実施形態に係る撮像装置1の動作においても、第1実施形態(図4参照)で説明したステップS11〜S15の処理が順次実行される。第2実施形態では、ステップS11〜S15の処理後、シャッタ操作に応答してステップS21〜S23の処理が実行される。但し、ステップS14における距離情報の生成処理及びステップS15における主要被写体情報の生成処理の実行タイミングは、ステップS22における合焦状態調整処理の実行前の任意のタイミングであって良い。
【0063】
撮影構図の確定後、ユーザは操作部17に対して所定のシャッタ操作を成す。シャッタ操作が成されると、ステップS21において、メイン撮像部としての撮像部11Aはパンフォーカスにて左眼画像310を撮影し、これと同時に、サブ撮像部としての撮像部11Bはパンフォーカスにて右眼画像320を撮影する。尚、第1実施形態の説明に関連して“メイン”及び“サブ”という表現を用いたが、画像310及び320の撮影時において撮像部11A及び11B間に主従関係は無い。パンフォーカス(ディープフォーカス)を用いて撮影された左眼画像310及び右眼画像320の夫々は、第1実施形態のメイン画像IAと同様、十分に深い被写界深度を有する理想的な又は擬似的な全合焦画像である。左眼画像310は、メイン画像IAと同じものであって良い。ここでは、撮像部11A及び11Bの撮影領域に収まる全被写体が、左眼画像310及び右眼画像320の夫々の被写界深度内に収まっているものとする。
【0064】
画像310及び320の撮影後、ステップS22において、合焦状態調整部19は、主要被写体情報及び距離情報を用いた合焦状態調整処理を左眼画像310及び右眼画像320の夫々に対して施し、これによって第1及び第2目標結果画像330及び340を生成する。その後、ステップS23において、目標結果画像330及び340の画像信号が出力選択部20(図1参照)を介して記録媒体16に出力されることで、目標結果画像330及び340が記録媒体16に記録される。この際、撮像装置1は、目標結果画像330及び340と共に画像310及び320を記録媒体16に記録させておくことも可能である。或いは、撮像装置1は、画像310及び320と距離情報を記録媒体16に記録させておくことも可能であるし、メイン画像IAとしての左眼画像310とサブ画像IB[1]〜IB[n]と右眼画像320とを記録媒体16に記録させておくことも可能である。
【0065】
目標結果画像330及び340は、夫々、画像310及び320よりも浅い被写界深度を有する二次元画像である。三次元映像に対応する表示装置に目標結果画像330及び340の画像信号を供給したとき、表示装置の視聴者の左眼にのみ目標結果画像330が見えるように且つ表示装置の視聴者の右眼にのみ目標結果画像340が見えるように、当該表示装置は、目標結果画像330及び340を表示する。これにより、視聴者は、合焦状態調整処理に応じた被写界深度を持った、被写体の三次元映像を認識することができる。上記表示装置は、表示部15であっても良い。
【0066】
<<変形等>>
本発明の実施形態は、特許請求の範囲に示された技術的思想の範囲内において、適宜、種々の変更が可能である。以上の実施形態は、あくまでも、本発明の実施形態の例であって、本発明ないし各構成要件の用語の意義は、以上の実施形態に記載されたものに制限されるものではない。上述の説明文中に示した具体的な数値は、単なる例示であって、当然の如く、それらを様々な数値に変更することができる。上述の実施形態に適用可能な注釈事項として、以下に、注釈1及び注釈2を記す。各注釈に記載した内容は、矛盾なき限り、任意に組み合わせることが可能である。
【0067】
[注釈1]
図1の撮像装置1を、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって構成することができる。ソフトウェアを用いて撮像装置1を構成する場合、ソフトウェアにて実現される部位についてのブロック図は、その部位の機能ブロック図を表すことになる。ソフトウェアを用いて実現される機能をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能を実現するようにしてもよい。
【0068】
[注釈2]
例えば、以下のように考えることができる。合焦状態調整部19は、距離情報を用いた画像処理をメイン画像IA、左眼画像及び右眼画像に対して行う画像処理部の例であり、当該画像処理の例が上述の合焦状態調整処理である。画像処理部がメイン画像IA、左眼画像及び右眼画像に対して行う、距離情報を用いた画像処理は、合焦状態調整処理以外の画像処理であっても良い。
【符号の説明】
【0069】
1 撮像装置
11A、11B 撮像部
18 距離情報生成部
19 合焦状態調整部
【技術分野】
【0001】
本発明は、デジタルスチルカメラ、デジタルビデオカメラ等の撮像装置に関する。
【背景技術】
【0002】
撮影画像の合焦状態を画像処理によって調整することで、画像の撮影後に任意の被写体に合焦した画像を生成する方法(例えば特許文献1参照)が提案されており、この方法を実現する処理の一種はデジタルフォーカスとも呼ばれている。
【0003】
上記の画像処理の一種では、各被写体の被写体距離を表す距離情報が利用され、距離情報を元に、主要被写体(合焦せしめられるべき被写体)から離れた部分をぼかす処理が行われる。通常、画像に基づいて距離情報を生成するには、異なる視点から撮影された複数の画像が必要となる。撮像装置に設けられた撮像部(撮像系)が1つである場合、主画像の撮影前又は撮影後において視点をずらした副画像を別途撮影し、主画像及び副画像を用いて距離情報を生成することも可能であるが、このような方法はユーザ負担(時間的拘束など)が重くなりがちである。これに対し、2つの撮像部(撮像系)を撮像装置に設けておけば、2つの撮像部による2枚の撮影画像に基づき、三角測量の原理を用いて距離情報を生成することができる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2010−252293号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、2つの撮像部による2枚の撮影画像に基づく、三角測量の原理を用いた距離情報の生成処理は、必要計算量が相応に多く、距離情報が得られるまでに必要な待ち時間も相応に長くなる。少ない待ち時間で合焦状態調整後の画像(例えば、任意の被写体に合焦した画像)を生成することができれば、当然に有益である。これは、合焦状態調整用の画像処理に限らず、距離情報を用いた画像処理を実行する任意の撮像装置において当てはまる。
【0006】
そこで本発明は、距離情報を用いた画像処理の結果が得られるまでの待ち時間短縮に寄与する撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明に係る撮像装置は、第1画像を撮影する第1撮像部と、焦点位置が互いに異なる状態で複数の第2画像を連続的に撮影する第2撮像部と、前記複数の第2画像に基づき前記第1画像上の被写体の距離情報を生成する距離情報生成部と、前記距離情報を用いた画像処理を前記第1画像に行う画像処理部と、を備えたことを特徴とする。
【0008】
当該撮像装置によれば、第1画像の撮影を待たずとも複数の第2画像から距離情報を生成することができる。従って、第1画像の撮影完了後、距離情報を用いた画像処理を直ちに行うことが可能となり、画像処理の結果が得られるまでの待ち時間が短縮される。
【0009】
具体的に例えば、前記被写体は、主要被写体及び非主要被写体を含んでいても良く、前記画像処理は、前記距離情報を用いて前記第1画像上の前記非主要被写体をぼかす処理を含んでいてもよい。
【0010】
また例えば、前記第1撮像部若しくは前記第2撮像部の撮影結果に基づく画像信号に基づいて、又は、操作部に対して与えられた主要被写体指定操作に基づいて、前記主要被写体を設定する主要被写体設定部を、当該撮像装置に更に設けておいてもよい。
【0011】
また例えば、当該撮像装置において、各第2画像の全体画像領域に複数の小ブロックが設定され、前記距離情報生成部は、各第2画像において前記小ブロックごとに当該小ブロックの画像信号に基づく評価値を導出し、前記複数の第2画像間において、互いに対応する小ブロックの評価値を比較することにより前記距離情報を生成してもよい。
【0012】
また例えば、前記第2撮像部による前記被写体の撮影画像には第3画像が含まれ、前記画像処理部は、前記第3画像に対しても前記距離情報を用いた前記画像処理を行いうる。
【発明の効果】
【0013】
本発明によれば、距離情報を用いた画像処理の結果が得られるまでの待ち時間短縮に寄与する撮像装置を提供することが可能である。
【図面の簡単な説明】
【0014】
【図1】本発明の第1実施形態に係る撮像装置の概略全体ブロック図である。
【図2】図1に示される1つの撮像部の内部構成図である。
【図3】本発明の第1実施形態に係り、1枚のメイン画像とn枚のサブ画像から目標結果画像が得られる様子を示す図である。
【図4】1枚のメイン画像とn枚のサブ画像から目標結果画像を生成する動作のフローチャートである。
【図5】撮像装置と各被写体との距離関係を示す図である。
【図6】メイン画像上に主要被写体領域が設定される様子を示す図である。
【図7】高域評価部の内部ブロック図である。
【図8】各サブ画像の全体画像領域が複数の小ブロックに分割される様子を示す図である。
【図9】本発明の第2実施形態に係り、目標結果画像を得る動作に特に関与する部位のブロック図である。
【図10】本発明の第2実施形態に係り、左眼画像及び右眼画像から2枚の目標結果画像が得られる様子を示す図である。
【図11】本発明の第2実施形態に係り、目標結果画像を生成する動作のフローチャートである。
【発明を実施するための形態】
【0015】
以下、本発明の実施形態の例を、図面を参照して具体的に説明する。参照される各図において、同一の部分には同一の符号を付し、同一の部分に関する重複する説明を原則として省略する。尚、本明細書では、記述の簡略化上、情報、物理量、状態量又は部材等を参照する記号又は符号を記すことによって該記号又は符号に対応する情報、物理量、状態量又は部材等の名称を省略又は略記することがある。
【0016】
<<第1実施形態>>
本発明の第1実施形態を説明する。図1は、本発明の第1実施形態に係る撮像装置1の概略全体ブロック図である。撮像装置1は、静止画像及び動画像を撮影及び記録可能なデジタルビデオカメラである。但し、撮像装置1は、静止画像のみを撮影及び記録可能なデジタルスチルカメラであっても良い。また、撮像装置1は、携帯電話機などの携帯端末に搭載されるものであっても良い。
【0017】
撮像装置1は、撮像部11A及び信号処理部12Aから成る第1処理ユニットと、撮像部11B及び信号処理部12Bから成る第2処理ユニットとを有し、更に、符号13〜20によって参照される各部位を備える。第1処理ユニットと第2処理ユニットに、互いに同じ機能を持たせることができる。
【0018】
図2は、撮像部11Aの内部構成図である。撮像部11Aは、ズームレンズ30及びフォーカスレンズ31を含む複数枚のレンズから成る光学系35と、絞り32と、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどから成る撮像素子(固体撮像素子)33と、光学系35や絞り32を駆動制御するためのドライバ34と、を有している。撮像素子33は、光学系35及び絞り32を介して入射した撮影領域内の被写体の光学像を光電変換し、該光電変換により得られた電気信号(画像信号)を出力する。撮影領域とは、撮像装置1の撮影領域(視野)を指す。レンズ30及び31の位置並びに絞り32の開度は、主制御部13によって制御される。撮像部11Bの内部構成及び機能は、撮像部11Aのそれらと同じである。但し、撮像部11Aが後述のパンフォーカスしか利用しない場合には、撮像部11Aのフォーカスレンズ31の位置は固定されていても良い。
【0019】
信号処理部12Aは、撮像部11Aの撮像素子33の出力信号に対して所定の信号処理(デジタル化、信号増幅、ノイズ低減処理、デモザイキング処理など)を行い、信号処理後の画像信号を出力する。信号処理部12Bは、撮像部11Bの撮像素子33の出力信号に対して所定の信号処理(デジタル化、信号増幅、ノイズ低減処理、デモザイキング処理など)を行い、信号処理後の画像信号を出力する。本明細書において、任意の画像を表す信号を画像信号と呼ぶ。撮像素子33の出力信号も画像信号の一種である。本明細書では、或る画像の画像信号(画像データ)のことを、単に画像とも言う。また、撮像部11A又は11Bの撮像素子33の出力信号を、撮像部11A又は11Bの出力信号(出力画像信号)とも言う。
【0020】
主制御部13は、撮像装置1内の各部位の動作を統括的に制御する。内部メモリ14は、SDRAM(Synchronous Dynamic Random Access Memory)等にて形成され、撮像装置1内で生成された各種信号(データ)を一時的に記憶する。表示部15は、液晶ディスプレイパネル等から成り、主制御部13による制御の下、撮影画像や記録媒体16に記録されている画像などを表示する。記録媒体16は、カード状半導体メモリや磁気ディスク等の不揮発性メモリであり、主制御部13による制御の下、撮影画像等を記録する。撮影画像とは、撮像部11A又は11Bの撮像素子33の出力信号に基づく、撮影領域の画像である。操作部17は、ユーザからの各種操作を受け付ける。操作部17に対するユーザの操作内容は、主制御部13に伝達され、主制御部13の制御の下、撮像装置1内の各部位は操作内容に応じた動作を行う。操作部17にタッチパネルが含まれていても良い。
【0021】
信号処理部12Aからの画像信号に基づく画像又は信号処理部12Bからの画像信号に基づく画像を、主制御部13による制御の下、出力選択部20を介して表示部15に出力することで当該画像を表示部15上で表示することができる、或いは、主制御部13による制御の下、出力選択部20を介して記録媒体16に出力することで当該画像を記録媒体16に記録することができる。
【0022】
撮像装置1は、撮像部11A及び11Bの出力信号を用いて三角測量の原理に基づき被写体の距離情報を生成する機能、及び、撮像部11A及び11Bによる撮影画像を用いて被写体の三次元情報を復元する機能を有していても良い。但し、以下では、撮像部11Aを主たる撮像部として用いる一方で撮像部11Bを従たる撮像部として用いた特徴的動作αを説明する。
【0023】
図3に、特徴的動作αの概念図を示す。特徴的動作αでは、撮像部11Aによって1枚のメイン画像IAが撮影され、一方で、撮像部11Bにより複数のサブ画像IBが連続的に撮影される。この際、撮像部11Bのフォーカスレンズ31の位置を所定量ずつずらしながら複数のサブ画像IBを連続的に撮影することで、サブ画像IBの合焦状態を複数のサブ画像IB間で互いに異ならせる。複数のサブ画像IBを、記号IB[1]、IB[2]、・・・IB[n]によって表す。nは2以上の整数である。p及びqが互いに異なる整数である場合、撮像部11Bの焦点位置はサブ画像IB[p]の撮影時とサブ画像IB[q]の撮影時との間で異なる。即ち、サブ画像IB[1]〜IB[n]は、撮像部11Bの焦点位置が互いに異なる状態で連続的に撮影される。撮像部11Bの焦点位置は、撮像部11Bの光学系35内の複数のレンズを単一の撮像レンズに見立てたときの、当該撮像レンズの焦点の位置である、と解釈しても良い。
【0024】
メイン画像IA及びサブ画像IB[1]〜IB[n]は共通の被写体の撮影画像であり、メイン画像IAに含まれる各被写体は、サブ画像IB[1]〜IB[n]の夫々にも含まれている。例えば、サブ画像IB[1]〜IB[n]の夫々の画角は、メイン画像IAの画角と略同じとされる。但し、サブ画像IB[1]〜IB[n]の夫々の画角は、メイン画像IAの画角よりも大きくても構わない。
【0025】
本実施形態では、メイン画像IA及びサブ画像IB[1]〜IB[n]の撮影時における撮像部11A及び11Bの撮影領域内に、犬である被写体SUB1、人物である被写体SUB2及び車である被写体SUB3が存在していたとする。
【0026】
図1の距離情報生成部18は、サブ画像IB[1]〜IB[n]の画像信号に基づき、メイン画像IA上の各被写体の被写体距離を表す距離情報を生成する。或る被写体の被写体距離とは、当該被写体と撮像装置1との間における、実空間上の距離を指す。距離情報は、自身を形成する各画素値が被写体距離の検出値を持つ距離画像であるとも言える。距離情報によって、メイン画像IAの任意の画素位置における被写体の被写体距離が特定されると共にサブ画像IB[i]の任意の画素位置における被写体の被写体距離も特定される(iは整数)。図3に示す距離情報(距離画像)では、被写体距離が大きい部分ほど黒く示している。
【0027】
図1の合焦状態調整部19は、メイン画像IAに対して距離情報に基づく合焦状態調整処理を施し、合焦状態調整処理後のメイン画像IAを目標結果画像ICとして出力する。合焦状態調整処理は、メイン画像IAの一部をぼかすぼかし処理を含む(詳細は後述)。
【0028】
特徴的動作αにおいて、撮像部11Aは所謂パンフォーカス(ディープフォーカス)を用いて撮影を行うことができ、これによって、メイン画像IAを含む撮像部11Aの撮影画像を、理想的な又は擬似的な全合焦画像とすることができる。全合焦画像とは、全合焦画像上に画像信号が存在する全ての被写体に対して合焦している画像を指す。パンフォーカスを用いて得られた撮像部11Aの撮影画像(メイン画像IAを含む)は十分に深い被写界深度を有し、撮像部11Aの撮影画像(メイン画像IAを含む)の被写界深度は、サブ画像IB[1]〜IB[n]の夫々の被写界深度よりも深い。ここでは、説明の簡略化上、撮像部11A及び11Bの撮影領域に収まる全被写体が、撮像部11Aの撮影画像(メイン画像IAを含む)の被写界深度内に収まっているものとする。
【0029】
図4は、特徴的動作αの動作手順を表すフローチャートである。図4に沿って、特徴的動作αの手順を説明する。
【0030】
まず、ステップS11において、メイン撮像部である撮像部11Aがパンフォーカスにて撮影画像列を取得する。得られた撮影画像列は、動画像として表示部15に表示される。撮影画像列とは、時系列で並ぶ撮影画像の集まりを指す。例えば、ステップS11において、パンフォーカスを用い撮像部11Aが所定のフレームレートで撮影画像を順次取得することで、表示部15に表示されるべき撮影画像列が取得される。ユーザは、表示部15の表示内容を確認することで、撮像部11Aの画角及び被写体の様子を確認することができる。ステップS11における撮影画像列の取得及び表示は、少なくとも後述のシャッタ操作が成されるまで継続される。
【0031】
ステップS11における撮影画像列の取得及び表示が行われている状態で、主制御部13(主制御部13に含まれる構図確定判断部)は、ステップS12において撮影構図が確定したか否かを判断する。撮影構図が確定したと判断した場合にのみ、ステップS12からステップS13への移行が発生する。
【0032】
例えば、撮像装置1の筐体の角加速度又は加速度を検出する動きセンサ(不図示)を撮像装置1に設けておくことができる。この場合、主制御部13は、当該動きセンサの検出結果を用いて撮像装置1の動きを監視することができる。或いは、主制御部13は、撮像部11A又は11Bの出力信号からオプティカルフローを導出し、そのオプティカルフローに基づいて撮像装置1の動きを監視することができる。そして、撮像装置1の動きの監視結果に基づき、撮像装置1が静止したと判断される場合に、主制御部13は、撮影構図が確定したと判断することができる。
【0033】
ユーザが操作部17に対して所定のズーム操作を成した際、主制御部13の制御の下、撮像部11A及び11Bにおいてズームレンズ30が光学系35内で移動せしめられて、撮像部11A及び11Bの画角(即ち、光学ズーム倍率)が変更される。ズーム操作に従って撮像部11A及び11Bの画角が変更された後、一定時間継続して、更なるズーム操作が成さなかったとき(即ち、撮像部11A及び11Bの画角が固定されたとき)、主制御部13は、撮影構図が確定したと判断してもよい。或いは、操作部17に対して所定の画角確定操作(例えば、専用ボタンを押す操作)が成された場合に、主制御部13は、撮影構図が確定したと判断してもよい。また、撮像装置1が静止しているか否かの第1判断と、撮像部11A及び11Bの画角が固定されたか否かの第2判断(或いは操作部17に対して所定の画角確定操作が成されたか否かの第2判断)とを組み合わせて用いて、主制御部13は、撮影構図が確定したか否かを判断するようにしてもよい。
【0034】
ステップS13において、主制御部13は、サブ撮像部である撮像部11Bにてサブ画像IB[1]〜IB[n]が連続的に撮影されるように撮像部11Bを制御する。上述の如く、撮像部11Bは、フォーカスレンズ31の位置を所定量ずつずらしながらサブ画像IB[1]〜IB[n]を連続的に撮影し、結果、サブ画像IBの合焦位置(換言すれば、サブ画像IBの合焦状態)は複数のサブ画像IB間で互いに異なる。また、短時間でサブ画像IB[1]〜IB[n]の撮影を完了させるべく、比較的高いフレームレート(例えば、300fps(frame per second))にてサブ画像IB[1]〜IB[n]を撮影すると良い。
【0035】
その後、ステップS14において、距離情報生成部18は、サブ画像IB[1]〜IB[n]に基づき距離情報を生成する(距離情報の生成方法例は後述)。
【0036】
一方、ステップS15において、主制御部13内の主要被写体設定部25(図1参照)は、主要被写体を設定し、その設定結果を含む主要被写体情報を生成する。ステップS15において、メイン画像IAに存在する何れかの被写体が主要被写体に設定される。
【0037】
主要被写体設定部25は、ユーザ操作によることなく、撮像部11A又は11Bの撮影結果を表す撮像部11A又は11Bの出力画像信号に基づき、主要被写体を設定することができる。例えば、撮像部11Aの出力画像信号に基づき、主要被写体設定部25は、撮像部11Aの撮影画像上に存在する特定種類の物体を検出し、検出した特定種類の物体を主要被写体に設定することができる(撮像部11Bの出力画像信号を用いる場合も同様)。特定種類の物体は、例えば、任意の人物、予め登録された特定の人物、任意の動物、又は、動物体である。撮像部11Aの撮影画像上に存在する動物体とは、撮像部11Aの撮影画像列上で動く物体を指す。撮像部11A又は11Bの出力画像信号に基づいて主要被写体を設定する際、構図に関する情報を更に利用することもできる。例えば、主要被写体は撮影画像の中央部分又は中央周辺に存在している確率が高いという知識を利用して、主要被写体を設定してもよい。設定された主要被写体を取り囲む枠を、表示部15に表示された撮影画像上に重畳表示するとよい。
【0038】
撮影者であるユーザは、操作部17に対し、主要被写体を指定するための主要被写体指定操作を成すことができ、主要被写体指定操作が成された場合、主要被写体設定部25は、主要被写体指定操作に従って主要被写体を設定してもよい。例えば、操作部17にタッチパネル(不図示)を設けておき、撮像部11Aの撮影画像が表示部15に表示されている状態において、操作部17は、表示部15に表示された撮影画像上の何れかの被写体を指定する主要被写体指定操作を、タッチパネル操作(タッチパネルを触れる操作)にて受け付ける。この場合、タッチパネル操作にて指定された被写体を主要被写体に設定すれば良い。
【0039】
主要被写体設定部25は、撮像部11A又は11Bの出力画像信号に基づき主要被写体の候補を複数設定して複数の候補を表示部15に表示させてもよい。この場合、ユーザが複数の候補の中から主要被写体を選択するタッチパネル操作又はタッチパネル操作以外の操作(ボタン操作など)を操作部17に成すことで、主要被写体を設定することができる。
【0040】
図4のステップS15にて生成される主要被写体情報は、撮像部11Aの撮影画像(メイン画像IAを含む)上において主要被写体の画像信号が存在する画像領域(以下、主要被写体領域と呼ぶ)を特定する。
【0041】
ステップS12における撮影構図の確定後、ユーザは、操作部17に対して所定のシャッタ操作を成す。シャッタ操作が成されると、ステップS16において、撮像部11Aはパンフォーカスにてメイン画像IAを撮影する。ステップS13の連続撮影処理及びステップS14の距離情報生成処理を、又は、少なくともステップS13の連続撮影処理を、メイン画像IAの撮影完了前に完了しておくことが望ましい。これを実現すべく、サブ画像IB[1]〜IB[n]の撮影時における撮像部11Bのフレームレートを、撮像部11Aのフレームレートよりも高く設定すると良い。ステップS14の距離情報生成処理は、メイン画像IAの撮影動作と並行して成されうる。図4の動作手順例では、ステップS13及びS14の処理後にステップS16の撮影処理が成される。周知の如く、撮像部11Aのフレームレートは、単位時間当たりに撮像部11Aにて撮影される画像(フレーム)の枚数を表す。撮像部11Bのフレームレートも同様である。また、図4では、ステップS13及びS14の処理後であって且つステップS16の処理前に、ステップS15における処理が成されているが、ステップS15における主要被写体設定用の処理は、撮影構図が確定したと判断された後であって且つ後述のステップS17の処理が成されるまでの任意のタイミングで成されてもよい。
【0042】
メイン画像IAの撮影後、ステップS17において、合焦状態調整部19は、主要被写体情報及び距離情報を用いた合焦状態調整処理をメイン画像IAに対して施し、合焦状態調整処理後のメイン画像IAを目標結果画像ICとして出力する。続くステップS18において、目標結果画像ICの画像信号が出力選択部20を介して表示部15及び記録媒体16に出力されることで、目標結果画像ICが表示部15で表示されると共に記録媒体16に記録される。目標結果画像ICと共に、メイン画像IA又はサブ画像IB[1]〜IB[n]を記録媒体16に記録させておくことも可能である。或いは、メイン画像IAと距離情報(距離画像)を記録媒体16に記録させておくことも可能である。
【0043】
合焦状態調整処理には、主要被写体の被写体距離と異なる被写体距離を有する被写体をぼかすぼかし処理が含まれる。合焦状態調整処理に、主要被写体領域内の画像のエッジを強調するエッジ強調処理などを、更に含めておいても良い。
【0044】
図5及び図6を参照して、ぼかし処理の内容を説明する。図5に示す如く、被写体SUB1、SUB2及びSUB3の被写体距離を夫々記号d1、d2及びd3にて表し、不等式「0<d1<d2<d3」が成立することを想定する。また、被写体SUB1、SUB2及びSUB3の内、被写体SUB2が主要被写体に設定されたことを想定する。この場合、図6の斜線領域に相当する、被写体SUB2の画像信号が存在する画像領域が、主要被写体領域としてメイン画像IAに設定される。
【0045】
合焦状態調整部19は、ぼかし処理において、主要被写体SUB2の被写体距離d2と異なる被写体距離を有する被写体(以下、非主要被写体という)をぼかす。より厳密には、距離(d2−ΔdA)以下の被写体距離を有する被写体、及び、距離(d2+ΔdB)以上の被写体距離を有する被写体が、非主要被写体である。ΔdA及びΔdBは、目標結果画像ICの被写界深度の大きさ(深さ)に応じて定まる正の距離値である。ユーザは、操作部17に対する操作を介して、目標結果画像ICの被写界深度の大きさ(深さ)を指定することもできる。
【0046】
ここでは、被写体SUB2以外の全ての被写体(SUB1及びSUB3並びに背景を含む)が、非主要被写体であったとする。そうすると、メイン画像IAの全体画像領域の内、主要被写体領域以外の画像領域がぼかし対象領域に設定され、ぼかし対象領域内の画像がぼかし処理によってぼかされる。ぼかし処理は、ぼかし対象領域内の画像の空間周波数成分の内、比較的高い空間周波数成分を低減させるローパスフィルタ処理であっても良い。ぼかし処理を、空間フィルタリング又は周波数フィルタリングによって実現することができる。
【0047】
合焦状態調整部19は、ぼかし処理において、距離情報に基づき非主要被写体SUB1をぼかす際、非主要被写体SUB1の被写体距離d1と主要被写体SUB2の被写体距離d2との差分距離d12が大きくなればなるほど、非主要被写体SUB1に対するぼかし強度を増大させる(d12=|d1−d2|)。非主要被写体SUB1以外の非主要被写体についても同様である。非主要被写体SUB1に対するぼかし強度が大きいほど、目標結果画像ICにおいて、非主要被写体SUB1の像はより大きくぼける。例えば、ガウシアンフィルタを用いた空間フィルタリングにてぼかし処理を実現する場合、差分距離d12が増大するにつれてガウシアンフィルタのフィルタサイズを増大させることにより、非主要被写体SUB1に対するぼかし強度を増大させることができる。
【0048】
図3に示される目標結果画像ICは、上述の想定下で得られた目標結果画像ICの例である。図3では、画像のぼけを被写体の輪郭線の太さによって表現している。
【0049】
尚、上述の説明とは異なるが、主要被写体SUB2の被写体距離d2と同じ被写体距離を有する被写体SUB4(不図示)を、非主要被写体に含めることも可能である。ここで、被写体SUB4は、被写体SUB1〜SUB3と共にメイン画像IA及びサブ画像IB[1]〜IB[n]上に現われる、被写体SUB1〜SUB3以外の被写体である。例えば、主要被写体設定部25は、上述した方法によって、被写体SUB1〜SUB4の内、被写体SUB2のみを主要被写体に設定することができ、主要被写体SUB2以外の全ての被写体(被写体SUB1、SUB3及びSUB4を含む)を非主要被写体に設定することができる。この場合、被写体SUB1及びSUB3の画像信号が存在する画像領域だけでなく被写体SUB4の画像信号が存在する画像領域も、ぼかし対象領域に含められてぼかし処理によりぼかされる。
【0050】
次に、サブ画像IB[1]〜IB[n]に基づく距離情報の生成方法例を説明する。図7及び図8を参照する。図7は、距離情報の生成に利用される高域評価部60の内部ブロック図である。高域評価部60を、距離情報生成部18に設けておくことができる。
【0051】
高域評価部60は、図8に示す如く、サブ画像IB[1]〜IB[n]の夫々の全体画像領域をm個に分割することにより、サブ画像IB[1]〜IB[n]の夫々にm個の小ブロックを設定する(mは2以上の整数)。サブ画像IB[i]におけるj番目の小ブロックを記号BL[i,j]にて表す(i及びjは整数であって、1≦i≦n、1≦j≦m)。各サブ画像において、m個の小ブロックの大きさは互いに同じであるとする。サブ画像IB[1]上における小ブロックBL[1,j]の位置、サブ画像IB[2]上における小ブロックBL[2,j]の位置、・・・及び、サブ画像IB[n]上における小ブロックBL[n,j]の位置は互いに同じであり、結果、小ブロックBL[1,j]、BL[2,j]、・・・及びBL[n,j]は互いに対応している。
【0052】
図7に示す如く、高域評価部60は、抽出部61、HPF(ハイパスフィルタ)62及び積算部63を備える。高域評価部60は、サブ画像ごとに且つ小ブロックごとにブロック評価値(高周波成分値)を算出する。従って、1枚のサブ画像に対してm個のブロック評価値が算出される。
【0053】
抽出部61には、サブ画像の画像信号が入力される。抽出部61は、入力された画像信号の中から輝度信号を抽出する。HPF62は、抽出部61によって抽出された輝度信号中から高周波成分を抽出する。HPF62にて抽出される高周波成分は、比較的高い周波数を有する特定の空間周波数成分であり、特定の空間周波数成分は、所定範囲内の周波数を有する空間周波数成分であるとも言え、所定周波数以上の周波数を有する空間周波数成分であるとも言える。例えば、HPF62を所定のフィルタサイズを有するラプラシアンフィルタにて形成し、そのラプラシアンフィルタをサブ画像の各画素に作用させる空間フィルタリングを行う。そうすると、HPF62からは、そのラプラシアンフィルタのフィルタ特性に応じた出力値が順次得られる。積算部63は、HPF62によって抽出された高周波成分の大きさ(即ち、HPF62の出力値の絶対値)を積算する。1枚のサブ画像に対し、この積算は小ブロックごとに行われ、或る小ブロック内における高周波成分の大きさの積算値を、その小ブロックのブロック評価値とする。小ブロックごとにブロック評価値を求める演算処理をサブ画像ごとに行うことで、サブ画像ごとにm個のブロック評価値が求められる。
【0054】
距離情報生成部18は、サブ画像IB[1]〜IB[n]間において、互いに対応する小ブロックのブロック評価値を比較することで距離情報を生成する。
【0055】
生成される距離情報は、小ブロックごとの距離情報にて形成される。1番目の小ブロックBL[i,1]に対応する距離情報の生成方法を説明する。距離情報生成部18は、小ブロックBL[1,1]〜BL[n,1]に対して求められたn個のブロック評価値VAL[1,1]〜VAL[n,1]の内、最大値を特定し、最大値に対応するサブ画像を合焦サブ画像として特定する。例えば、ブロック評価値VAL[1,1]〜VAL[n,1]の内、ブロック評価値VAL[2,1]が最大であるならば、ブロック評価値VAL[2,1]に対応するサブ画像IB[2]が合焦サブ画像として特定される。この場合、サブ画像IB[2]の撮影時における、撮像部11B内のフォーカスレズ31の位置に基づき、1番目の小ブロックBL[i,1]に対応する距離情報を求める。他の小ブロックに対応する距離情報も同様にして求められる。
【0056】
サブ画像と同様にして、メイン画像IAの夫々にもm個の小ブロックを設定することができ、j番目の小ブロックBL[i,j]に対応する距離情報は、メイン画像IAにおけるj番目の小ブロックの距離情報として機能する。サブ画像IB[i]におけるj番目の小ブロックBL[i,j]内の被写体と、メイン画像IAにおけるj番目の小ブロック内の被写体は、互いに共通である。小ブロックBL[i,j]に対応する距離情報は、メイン画像IAにおけるj番目の小ブロック内の各被写体の被写体距離を指し示す。
【0057】
2つの撮像部を備えた撮像装置において、2つの撮像部にて同時撮影した第1及び第2画像に基づき三角測量の原理を用いて距離情報を生成し、その後、距離情報を用いて第1画像に対する合焦状態調整処理を行う、といった方法も考えられる。但し、この方法では、第1画像の撮影後、距離情報の演算処理が完了するまで合焦状態調整処理を行うことができず、目標結果画像を得るまでの待ち時間が長くなる。これに対し、本実施形態では、メイン画像の撮影完了時に距離情報の生成が完了しているため、メイン画像の撮影完了後、直ちに合焦状態調整処理を行うことができ、目標結果画像を得るまでの待ち時間が短縮される。
【0058】
<<第2実施形態>>
本発明の第2実施形態を説明する。第2実施形態は、第1実施形態を基礎とする実施形態であり、第1実施形態にて述べた事項は、矛盾なき限り、第2実施形態にも適用される。第2実施形態では、上記撮像装置1にて実行可能な他の画像処理を説明する。
【0059】
図9は、第2実施形態の画像処理動作に特に関与する部位のブロック図である。図9の合焦状態調整部19は、図1のそれと同じものである。
【0060】
撮像部11A及び11Bは、互いに視差を有するステレオカメラを形成している。ステレオカメラの構成要素としての撮像部11A及び11Bによる撮影画像を夫々左眼画像及び右眼画像と呼ぶ。左眼画像及び右眼画像は、共通の被写体の撮影画像である。図10において、画像310及び320は左眼画像及び右眼画像の例である。画像310及び320の夫々には、共通の被写体として被写体SUB1〜SUB3が存在している。左眼画像310は撮像部11Aの視点から見た被写体(SUB1〜SUB3を含む)の撮影画像であり、右眼画像320は撮像部11Bの視点から見た被写体(SUB1〜SUB3を含む)の撮影画像である。撮像部11A及び11Bの視点は互いに異なる。画像310及び320は、通常、共通の画角を有するが、画像310及び320の内、一方の画角が他方の画角に内包されていても良い。
【0061】
第2実施形態に係る合焦状態調整部19は、左眼画像310及び右眼画像320の夫々に対して距離情報に基づく合焦状態調整処理を施すことで、第1及び第2目標結果画像330及び340を生成する。目標結果画像330は、合焦状態調整処理が施された後の左眼画像310であり、目標結果画像340は、合焦状態調整処理が施された後の右眼画像320である。図9の合焦状態調整部19にて利用される距離情報は、第1実施形態で述べた方法に従い、距離情報生成部18(図1参照)にて生成される。左眼画像310及び右眼画像320の夫々に対する合焦状態調整処理は、第1実施形態で述べたメイン画像IAに対する合焦状態調整処理と同じである。故に、左眼画像310に対する合焦状態調整処理は、左眼画像310上の非主要被写体をぼかすためのぼかし処理を含み、右眼画像320に対する合焦状態調整処理は、右眼画像320上の非主要被写体をぼかすためのぼかし処理を含む。主要被写体の設定方法は、第1実施形態で述べたとおりである。
【0062】
図11は、第2実施形態に係る撮像装置1の動作フローチャートである。第2実施形態に係る撮像装置1の動作においても、第1実施形態(図4参照)で説明したステップS11〜S15の処理が順次実行される。第2実施形態では、ステップS11〜S15の処理後、シャッタ操作に応答してステップS21〜S23の処理が実行される。但し、ステップS14における距離情報の生成処理及びステップS15における主要被写体情報の生成処理の実行タイミングは、ステップS22における合焦状態調整処理の実行前の任意のタイミングであって良い。
【0063】
撮影構図の確定後、ユーザは操作部17に対して所定のシャッタ操作を成す。シャッタ操作が成されると、ステップS21において、メイン撮像部としての撮像部11Aはパンフォーカスにて左眼画像310を撮影し、これと同時に、サブ撮像部としての撮像部11Bはパンフォーカスにて右眼画像320を撮影する。尚、第1実施形態の説明に関連して“メイン”及び“サブ”という表現を用いたが、画像310及び320の撮影時において撮像部11A及び11B間に主従関係は無い。パンフォーカス(ディープフォーカス)を用いて撮影された左眼画像310及び右眼画像320の夫々は、第1実施形態のメイン画像IAと同様、十分に深い被写界深度を有する理想的な又は擬似的な全合焦画像である。左眼画像310は、メイン画像IAと同じものであって良い。ここでは、撮像部11A及び11Bの撮影領域に収まる全被写体が、左眼画像310及び右眼画像320の夫々の被写界深度内に収まっているものとする。
【0064】
画像310及び320の撮影後、ステップS22において、合焦状態調整部19は、主要被写体情報及び距離情報を用いた合焦状態調整処理を左眼画像310及び右眼画像320の夫々に対して施し、これによって第1及び第2目標結果画像330及び340を生成する。その後、ステップS23において、目標結果画像330及び340の画像信号が出力選択部20(図1参照)を介して記録媒体16に出力されることで、目標結果画像330及び340が記録媒体16に記録される。この際、撮像装置1は、目標結果画像330及び340と共に画像310及び320を記録媒体16に記録させておくことも可能である。或いは、撮像装置1は、画像310及び320と距離情報を記録媒体16に記録させておくことも可能であるし、メイン画像IAとしての左眼画像310とサブ画像IB[1]〜IB[n]と右眼画像320とを記録媒体16に記録させておくことも可能である。
【0065】
目標結果画像330及び340は、夫々、画像310及び320よりも浅い被写界深度を有する二次元画像である。三次元映像に対応する表示装置に目標結果画像330及び340の画像信号を供給したとき、表示装置の視聴者の左眼にのみ目標結果画像330が見えるように且つ表示装置の視聴者の右眼にのみ目標結果画像340が見えるように、当該表示装置は、目標結果画像330及び340を表示する。これにより、視聴者は、合焦状態調整処理に応じた被写界深度を持った、被写体の三次元映像を認識することができる。上記表示装置は、表示部15であっても良い。
【0066】
<<変形等>>
本発明の実施形態は、特許請求の範囲に示された技術的思想の範囲内において、適宜、種々の変更が可能である。以上の実施形態は、あくまでも、本発明の実施形態の例であって、本発明ないし各構成要件の用語の意義は、以上の実施形態に記載されたものに制限されるものではない。上述の説明文中に示した具体的な数値は、単なる例示であって、当然の如く、それらを様々な数値に変更することができる。上述の実施形態に適用可能な注釈事項として、以下に、注釈1及び注釈2を記す。各注釈に記載した内容は、矛盾なき限り、任意に組み合わせることが可能である。
【0067】
[注釈1]
図1の撮像装置1を、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって構成することができる。ソフトウェアを用いて撮像装置1を構成する場合、ソフトウェアにて実現される部位についてのブロック図は、その部位の機能ブロック図を表すことになる。ソフトウェアを用いて実現される機能をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能を実現するようにしてもよい。
【0068】
[注釈2]
例えば、以下のように考えることができる。合焦状態調整部19は、距離情報を用いた画像処理をメイン画像IA、左眼画像及び右眼画像に対して行う画像処理部の例であり、当該画像処理の例が上述の合焦状態調整処理である。画像処理部がメイン画像IA、左眼画像及び右眼画像に対して行う、距離情報を用いた画像処理は、合焦状態調整処理以外の画像処理であっても良い。
【符号の説明】
【0069】
1 撮像装置
11A、11B 撮像部
18 距離情報生成部
19 合焦状態調整部
【特許請求の範囲】
【請求項1】
第1画像を撮影する第1撮像部と、
焦点位置が互いに異なる状態で複数の第2画像を連続的に撮影する第2撮像部と、
前記複数の第2画像に基づき前記第1画像上の被写体の距離情報を生成する距離情報生成部と、
前記距離情報を用いた画像処理を前記第1画像に行う画像処理部と、を備えた
ことを特徴とする撮像装置。
【請求項2】
前記被写体は、主要被写体及び非主要被写体を含み、
前記画像処理は、前記距離情報を用いて前記第1画像上の前記非主要被写体をぼかす処理を含む
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記第1撮像部若しくは前記第2撮像部の撮影結果に基づく画像信号に基づいて、又は、操作部に対して与えられた主要被写体指定操作に基づいて、前記主要被写体を設定する主要被写体設定部を更に備えた
ことを特徴とする請求項2に記載の撮像装置。
【請求項4】
各第2画像の全体画像領域に複数の小ブロックが設定され、
前記距離情報生成部は、
各第2画像において前記小ブロックごとに当該小ブロックの画像信号に基づく評価値を導出し、
前記複数の第2画像間において、互いに対応する小ブロックの評価値を比較することにより前記距離情報を生成する
ことを特徴とする請求項1〜請求項3の何れかに記載の撮像装置。
【請求項5】
前記第2撮像部による前記被写体の撮影画像には第3画像が含まれ、
前記画像処理部は、前記第3画像に対しても前記距離情報を用いた前記画像処理を行う
ことを特徴とする請求項1〜請求項4の何れかに記載の撮像装置。
【請求項1】
第1画像を撮影する第1撮像部と、
焦点位置が互いに異なる状態で複数の第2画像を連続的に撮影する第2撮像部と、
前記複数の第2画像に基づき前記第1画像上の被写体の距離情報を生成する距離情報生成部と、
前記距離情報を用いた画像処理を前記第1画像に行う画像処理部と、を備えた
ことを特徴とする撮像装置。
【請求項2】
前記被写体は、主要被写体及び非主要被写体を含み、
前記画像処理は、前記距離情報を用いて前記第1画像上の前記非主要被写体をぼかす処理を含む
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記第1撮像部若しくは前記第2撮像部の撮影結果に基づく画像信号に基づいて、又は、操作部に対して与えられた主要被写体指定操作に基づいて、前記主要被写体を設定する主要被写体設定部を更に備えた
ことを特徴とする請求項2に記載の撮像装置。
【請求項4】
各第2画像の全体画像領域に複数の小ブロックが設定され、
前記距離情報生成部は、
各第2画像において前記小ブロックごとに当該小ブロックの画像信号に基づく評価値を導出し、
前記複数の第2画像間において、互いに対応する小ブロックの評価値を比較することにより前記距離情報を生成する
ことを特徴とする請求項1〜請求項3の何れかに記載の撮像装置。
【請求項5】
前記第2撮像部による前記被写体の撮影画像には第3画像が含まれ、
前記画像処理部は、前記第3画像に対しても前記距離情報を用いた前記画像処理を行う
ことを特徴とする請求項1〜請求項4の何れかに記載の撮像装置。
【図1】
【図2】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図11】
【図3】
【図10】
【図2】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図11】
【図3】
【図10】
【公開番号】特開2013−13061(P2013−13061A)
【公開日】平成25年1月17日(2013.1.17)
【国際特許分類】
【出願番号】特願2012−93143(P2012−93143)
【出願日】平成24年4月16日(2012.4.16)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
【公開日】平成25年1月17日(2013.1.17)
【国際特許分類】
【出願日】平成24年4月16日(2012.4.16)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
[ Back to top ]