立体画像撮影装置
【課題】立体画像を観視するユーザの疲労感を軽減可能としつつ、より的確に被写体を捉えることを可能とする技術を提供する。
【解決手段】デジタルカメラ100は、撮像部130R、130Lで生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部120と、立体画像を表示可能な表示部152と、撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部116と、注目被写体の視差量を導出する視差量導出部104と、表示部152に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部108とを備え、表示視差量調節部108は、注目被写体の視差量の時間経過に伴う変化の大きさが閾値を越す場合に、表示部152に表示される注目被写体の表示視差量の時間経過に伴う変化の大きさが減じられるように調節する。
【解決手段】デジタルカメラ100は、撮像部130R、130Lで生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部120と、立体画像を表示可能な表示部152と、撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部116と、注目被写体の視差量を導出する視差量導出部104と、表示部152に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部108とを備え、表示視差量調節部108は、注目被写体の視差量の時間経過に伴う変化の大きさが閾値を越す場合に、表示部152に表示される注目被写体の表示視差量の時間経過に伴う変化の大きさが減じられるように調節する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、立体画像撮影装置に関し、さらに詳しくは、ライブビュー画像を立体表示可能な立体画像撮影装置に関する。
【背景技術】
【0002】
所定の基線長(ステレオベース)で配置された複数の撮影レンズおよび撮像部を備えて、視差のある一組の画像(以下では視差画像と称する)を得ることの可能なデジタルステレオカメラがある。このデジタルステレオカメラは立体表示可能な表示部を備えていて、視差画像を表示部に表示することにより、ユーザは立体的な画像を観視することができる。
【0003】
立体表示が可能な表示部としては、様々なものが提案されてきている。例えば、右眼用画像、左眼用画像をそれぞれ細かい線状に分割し、それらを表示部上で空間的に交互に表示するものがある。左眼用画像は左眼のみに、右眼用画像は右眼のみに導く必要があるので、左眼用画像表示領域、右眼用画像表示領域の上に、異なる偏光特性を有する線状の偏光フィルタが設けられる。それに対応して左眼用、右眼用で異なる偏光特性を有する眼鏡状のアダプタを通して観ることにより、左眼用画像が左眼のみに、右眼用画像右眼のみに導かれる。右眼用画像、左眼用画像中の視差(画像内に存在する様々な被写体像の相対位置関係の変化)に基づき、その画像を観視したユーザは立体感を知覚する。
【0004】
また、右眼用画像、左眼用画像を表示部に時間的に交互に表示し、その表示切り替えタイミングと同期して眼鏡状のアダプタに内蔵される液晶シャッタを切り換え、右眼用画像が表示されているときにはその画像が右眼に導かれるように、左眼用画像が表示されているときにはその画像が左眼に導かれるようにするものがある。画像の表示切り替えおよび液晶シャッタの切り替えは、例えば1/60秒といった比較的短時間の周期で行われるので、立体画像を観視するユーザは右眼用画像、左眼用画像に基づいて立体感を知覚することができる。
【0005】
あるいは、上述した眼鏡状のアダプタを必要としない、いわゆる裸眼タイプの表示部もある。その例としては、表示部上で、右眼用画像、左眼用画像を細かい縦ストライプ状に分割して空間的に交互に配列して表示し、それらの右眼用画像、左眼用画像をレンチキュラーレンズやパララックスバリア等を用いて右眼、左眼に導くようにしたものがある。上述したいずれの方式においても、ユーザは右眼用画像、左眼用画像を脳内で合成して立体感を知覚する。デジタルステレオカメラ用としては、上述したもののうち、裸眼タイプのものが一般的に用いられる。
【0006】
ところで、眼前に存在する対象物に人が注目するとき、焦点調節と輻輳角の調節とをほぼ無意識に行う。輻輳角は、左右の眼球をカメラユニットに例えて説明すると、両カメラユニットの撮影光学系の光軸が水平面内で交わる角度に相当する。対象物が遠くにあるときには輻輳角は小さくなり(両カメラの撮影光学系の光軸が平行に近くなり)、近くにあるときには輻輳角は大きくなる。人は、自分からある距離の位置に存在する物体を観たときに、水晶体の焦点調節状態、輻輳角の調節結果、見える対象物の大きさや明瞭度等から、生理学的知覚、心理学的知覚に基づいて立体感を感じると云われている。
【0007】
一方、表示部に表示される立体画像を観視する場合、その立体画像を観る眼の焦点調節位置は表示部の表面に固定されたままである。表示部に表示された右眼用画像および左眼用画像を観視したとき、左右両眼の網膜上に像(網膜像)が形成され、人は左眼および右眼の網膜像の差(網膜像差)に基づいて立体画像の奥行きを感じる。従って、実世界ではあり得ない感覚の組み合わせで立体感を感じる。つまり、実在の物を観るときとは異なり、眼の焦点は一定の距離に合わせたままで、網膜像差をよりどころとして脳内で画像の合成が行われ、立体感を感じる。これが立体画像を観視する際に生じる違和感のもととなっていることが知られている。時間の経過とともに視差が逐次変化する立体動画像を観視し続けると、脳は次々と変化する網膜像差に対応して画像を合成する必要があり、視差の変化する立体画像を長時間にわたり観視し続けると疲労感を覚えることが知られている。
【0008】
特許文献1には、その従来技術として、二次元表示から三次元表示、または三次元表示から二次元表示に切り換える際に、トランジション処理(画像を徐々に切り換える処理)によって上述した違和感を減じることができることが開示されている。しかし、トランジション処理を用いて表示を切り換えると、特に二次元表示から三次元表示に切り換えられたときに、現在の表示が三次元表示であるという観察者の認識が欠如する点が問題点として挙げられている。
【0009】
この問題点を解決するため、特許文献1では、三次元画像を表示する際に、三次元画像のうち視差量が小さい部分から視差量が大きい部分に向かって順に、モニタに与える三次元画像の情報を追加してゆく技術が開示されている。この技術によれば、モニタに表示される三次元画像を徐々に完成させてゆくことが可能となる。
【0010】
特許文献2には、立体動画像の撮影シーンが切り換えられる際に奥行き感が変化し、立体視を行うユーザに疲労感が残るのを抑制可能が技術として、以下のようなものが開示される。すなわち、立体画像処理装置が、入力される立体動画像のシーンの切り替わり位置を検出するシーン検出手段を備える。検出されたシーンの切り替わり位置(タイミング)において、奥行き感が徐々に変更されるように、立体動画像の奥行き感を調節する奥行き感調節処理が立体画像に施される。その結果、シーンの切り替わり位置における立体感が徐々に変化するようになり、違和感が減じられる、というものである。
【先行技術文献】
【特許文献】
【0011】
【特許文献1】特開2010−139885号公報
【特許文献2】特開2009−239388号公報
【発明の概要】
【発明が解決しようとする課題】
【0012】
ところで、立体画像を撮影可能な撮影装置の表示部には、ライブビュー画像が表示され、ユーザはこのライブビュー画像を観ながら構図調節や撮影の操作を行う。撮影装置の使用形態は様々であり、動画像撮影を行う場合もあれば静止画像撮影を行う場合もある。同じ静止画の撮影であっても、比較的動きの少ない被写体をじっくりと捉えて撮影することもあれば、頻繁に動き回る被写体を追いながら撮影することもある。
【0013】
撮影装置の使用状況によっては、特許文献1、特許文献2に開示される技術を用いることが必ずしも好結果にはつながらない。そもそも、特許文献1、特許文献2では、表示部をビューファインダとして用いる場合の課題には触れられていない。
【0014】
本発明は、上記の課題に鑑みてなされたものであり、撮影装置の表示部に表示される立体画像を観視するユーザの疲労感を軽減可能としつつ、より的確に被写体を捉えることを可能とする技術を提供することを目的とする。
【課題を解決するための手段】
【0015】
(1) 本発明のある態様によれば、立体画像撮影装置は、
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記表示部に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部であって、前記視差量導出部で導出される前記注目被写体の視差量の時間経過に伴う変化の大きさが閾値を越す場合に、前記表示部に表示される前記注目被写体の表示視差量の時間経過に伴う変化の大きさである表示視差量変化速度が減じられるように調節する、表示視差量調節部と
を備える。
(2) 本発明のある態様によれば、立体画像撮影装置は、
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記撮影光学系の焦点調節状態を検出する焦点検出部と、
前記注目被写体に合焦するように、前記撮影光学系の焦点調節制御を行うフォーカシング制御部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記フォーカシング制御部による焦点調節の速度を変化させるフォーカシング速度調節部であって、前記デフォーカス量の大きさが第1の閾値を下回り、かつ、前記注目被写体の視差量の時間経過に伴う変化の大きさが第2の閾値を上回るときに、焦点調節の速度が減じられるように調節するフォーカシング速度調節部と
を備える。
(3) 本発明のある態様によれば、立体画像撮影装置は、
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記撮影光学系の焦点調節状態を検出する焦点検出部と、
前記注目被写体に合焦するように、前記撮影光学系の焦点調節制御を行うフォーカシング制御部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記表示部に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部であって、前記デフォーカス量の大きさが第1の閾値を下回り、かつ、前記注目被写体の視差量の時間経過に伴う変化の大きさが第2の閾値を上回るときに、前記表示部に表示される前記注目被写体の表示視差量の時間経過に伴う変化の大きさである表示視差量変化速度が減じられるように調節する、表示視差量調節部と
を備える。
(4) 本発明のある態様によれば、立体画像撮影装置は、
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記撮影光学系の焦点調節状態を検出する焦点検出部と、
前記注目被写体に合焦するように、前記撮影光学系の焦点調節制御を行うフォーカシング制御部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記フォーカシング制御部による焦点調節の速度を変化させるフォーカシング速度調節部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記表示部に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部と
を備え、
前記デフォーカス量の大きさが第1の閾値を下回り、かつ、前記注目被写体の視差量の時間経過に伴う変化の大きさが第2の閾値を上回るときに、前記フォーカシング速度調節部は焦点調節の速度を減じるように調節し、かつ、前記表示視差量調節部は前記表示部に表示される前記注目被写体の表示視差量の時間経過に伴う変化の大きさである表示視差量変化速度を減じるように調節する。
【発明の効果】
【0016】
本発明によれば、撮影装置の表示部に表示される立体画像を観視するユーザの疲労感を軽減可能としつつ、より的確に被写体を捉えることを可能となる。
【図面の簡単な説明】
【0017】
【図1】立体画像を撮影、表示可能なデジタルカメラの概略的構成を説明するブロック図である。
【図2】表示部に表示される右眼用の画像が右眼に、左眼用の画像が左眼に、それぞれ導かれて、ユーザが立体画像を観視可能となる構成の一例を説明する図である。
【図3】注目被写体の表示視差量変化速度が調節される様子を概念的に示す図であり、図3(a)は表示視差量変化速度の調節が行われない場合の例を、図3(b)は表示視差量変化速度の調節がより少なめに行われる場合の例を、図3(c)は表示視差量変化速度の調節がより多めに行われる場合の例を、それぞれ示す図である。
【図4】表示視差量変化速度の調節が行われる様子を説明する図であり、図4(a)は撮影して得られた画像に表示視差量変化速度の調節が行われていない、実視差量の変化例を示し、図4(b)は調節が行われた場合の表示視差量の変化例を示す。
【図5】第1の実施の形態に係るデジタルカメラ内のシステム制御部で実行されるライブビュー立体画像表示処理の手順を概略的に示すフローチャートである。
【図6】第2の実施の形態に係るデジタルカメラの概略的構成を説明するブロック図である。
【図7】撮影光学系によって画定される撮影範囲内にデフォーカス量を検出可能なフォーカスポイントが複数配列される例を説明する図である。
【図8】第2の実施の形態に係るデジタルカメラ内のシステム制御部で実行されるライブビュー立体画像表示処理の手順を概略的に示すフローチャートである。
【図9】第3の実施の形態に係るデジタルカメラ内のシステム制御部で実行されるライブビュー立体画像表示処理の手順を概略的に示すフローチャートである。
【図10】第4の実施の形態に係るデジタルカメラ内のシステム制御部で実行されるライブビュー立体画像表示処理の手順を概略的に示すフローチャートである。
【図11】第4の実施の形態に係るデジタルカメラにおいて、撮影光学系の注目被写体に対する焦点調節状態と注目被写体の表示視差量との関係を説明する図であり、図11(a)は、時間経過に伴い、注目被写体に対する焦点調節状態が変化する様子を示し、図11(b)は、時間経過に伴い、注目被写体の表示視差量が変化する様子を示す。
【図12】第5の実施の形態に係るデジタルカメラの概略的構成を説明するブロック図である。
【図13】第5の実施の形態に係るデジタルカメラ内のシステム制御部で実行されるライブビュー立体画像表示処理の手順を概略的に示すフローチャートである。
【図14】第5の実施の形態に係るデジタルカメラにおいて、撮影光学系の注目被写体に対する焦点調節状態と注目被写体の表示視差量との関係を説明する図であり、図14(a)は、時間経過に伴い、注目被写体に対する焦点調節状態が変化する様子を示し、図14(b)は、時間経過に伴い、注目被写体の表示視差量が変化する様子を示す。
【図15】第6の実施の形態に係るデジタルカメラ内のシステム制御部で実行されるライブビュー立体画像表示処理の手順を概略的に示すフローチャートである。
【図16】第6の実施の形態に係るデジタルカメラにおいて、撮影光学系の注目被写体に対する焦点調節状態と注目被写体の表示視差量との関係を説明する図であり、図16(a)は、時間経過に伴い、注目被写体に対する焦点調節状態が変化する様子を示し、図16(b)は、時間経過に伴い、注目被写体の表示視差量が変化する様子を示す。
【発明を実施するための形態】
【0018】
− 第1の実施の形態 −
図1は、本発明の第1の実施の形態に係る立体画像撮影装置100の概略的構成を説明するブロックである。以下では立体画像撮影装置100をデジタルカメラ100と称する。本実施の形態においてデジタルカメラ100は、立体画像の撮影が可能に構成され、静止画像撮影モードおよび動画像撮影モードで動作可能に構成される。ユーザは、これら二つの撮影モードのうち、いずれかの撮影モードに切り換えてデジタルカメラ100を使用する。このとき、切り換えられた静止画像撮影モードおよび動画像撮影モードのいずれにおいても、立体画像を撮影・記録・表示可能に構成される。
【0019】
デジタルカメラ100は、信号処理部102と、二つの撮像部130Rおよび130Lと、二つの撮像制御部132Rおよび132Lと、撮影光学系制御部134と、フォーカシング制御部136と、システム制御部140と、操作部142とを備える。デジタルカメラ100はさらに、表示制御部150と、表示部152と、記録制御部154と、記録部156と、メモリ158とを備える。信号処理部102、システム制御部140、操作部142、表示制御部150、記録制御部154、メモリ158は、システムバス160を介して互いに電気的に接続されている。
【0020】
撮影光学系138R、138Lは、変倍光学系を備えて焦点距離を変更可能に構成されていても、単焦点レンズとして構成されていてもよい。これら二つの撮影光学系138R、138Lの光軸は、所定の距離(ステレオベース)を隔てて平行、または所定の輻輳角が与えられてデジタルカメラ100内に配置される。撮影光学系138R、138Lが焦点距離を変更可能に構成される場合、二つの光学系140R、138Lの焦点距離が常に同じとなるように構成される。撮影光学系138R、138Lは、焦点調節機構、絞り調節機構等を備えており、撮影光学系制御部134によって制御される。このうち、焦点調節機構は、撮影光学系制御部134内のフォーカシング制御部136によって制御される。すなわち、フォーカシング制御部136は、撮影光学系138R、138L内の焦点調節機構を駆動して合焦動作を行う。撮影光学系138R、138Lが電動式のアクチュエータによって焦点距離を変更可能に構成される場合、撮影光学系制御部134によって焦点距離が制御される。撮影光学系138R、138Lは、デジタルカメラ100に対して着脱可能に構成されていても、固定されていてもよい。
【0021】
撮像部130R、130Lはそれぞれ、撮影光学系138R、138Lによって形成される被写体像を光電変換して画像信号を生成する撮像素子と、撮像素子から出力される画像信号を増幅した後、デジタル画像信号に変換するアナログ・フロントエンドとを備えて構成される。撮像制御部132R、132Lはそれぞれ、撮像部130R、130Lにおける撮像および信号読み出しの動作タイミング等を制御する。これらの撮影光学系138R、138Lおよび撮像部130R、130Lによって、視差画像を得ることができる。
【0022】
信号処理部102は、デジタル・シグナル・プロセッサ(DSP)などにより構成され、撮像部130R、130Lから出力されるデジタル画像信号に対してデモザイク、階調変換、色バランス補正、シェーディング補正、ノイズ低減、表示視差量調節処理等のさまざまなデジタル信号処理を施し、立体画像データを生成する。以下では、撮像部130R、130Lのそれぞれから出力される信号を右画像信号、左画像信号と称する。また、信号処理部102で生成される画像データを右画像データ、左画像データと称する。さらに、右画像データ、左画像データによって形成される画像をそれぞれ右画像、左画像と称する。
【0023】
信号処理部102は、視差量導出部104と、視差量パラメータ記憶部106と、表示視差量調節部108と、焦点検出部110と、露光制御部112と、ホワイトバランス調整部114と、注目被写体検出部116と、立体画像データ生成部120とを備える。
【0024】
視差量導出部104は、入力された右画像信号、左画像信号を処理し、左右両画像間の視差量を導出する。視差量の導出に際しては、例えば右画像および左画像のうち、いずれか一方の画像を複数の領域に分割し、分割された領域内の画像(部分画像)をテンプレートとして、他方の画像中で一致する部分を探索する。上記探索の結果、左画像、右画像内において同じ被写体の画像が存在する左右方向の位置の差を視差量として検出することが可能となる。視差量の尺度としては、ピクセル数を用いることが可能である。
【0025】
視差量パラメータ記憶部106には、デジタルカメラ100で設定されている動作モード等に応じて変更可能な視差量パラメータが記憶される。視差量パラメータは、表示部152に立体画像を表示する際の、表示される被写体の像を観たユーザが感じる立体感(奥行き感)を調節する際に参照されるパラメータである。視差量パラメータ記憶部106は、後述するメモリ158内に設けられていても良い。
【0026】
表示視差量調節部108は、表示部152に立体画像を表示する際の、右画像と左画像との間の視差量を調節する処理を行う。表示視差量調節部108における処理についても、その詳細を後で説明する。以下では、視差量導出部104で導出される視差量を実視差量と称し、表示部152に立体画像を表示する際の、右画像と左画像との間の視差量を表示視差量と称する。
【0027】
本実施の形態において、デジタルカメラ100はコントラストAFの方式で自動焦点調節を行うものとする。すなわち、焦点検出部110は、所定のフレームレートで撮像部130R、130Lから出力される右画像信号、左画像信号を処理し、フレームごとに画面内の所定の位置におけるコントラスト値を導出して、いわゆる山登りAFの方式でコントラストの極大値が得られる焦点位置を探索するものとする。フォーカシング制御部136は、焦点検出部110で焦点位置探索結果に基づいて撮影光学系138R、138L内の焦点調節機構を駆動する。なお、焦点検出部110は、撮像部130R、130Lのうち、いずれか一方のみからの画像信号を入力するようにしてもよい。
【0028】
露光制御部112は、露光量の制御を行う。デジタルカメラ100が静止画像撮影モードで動作しているとき、信号処理部102に入力される画像信号の信号値をもとに撮影光学系138R、138Lの絞り値とシャッタ速度とを決定する。一方、デジタルカメラ100が動画像撮影モードで動作しているとき、信号処理部102に入力される画像信号の信号値をもとに撮影光学系138R、138Lの絞り値と、撮像部130R、138Lにおける蓄積時間、すなわち電子シャッタの速度とを決定する。
【0029】
ホワイトバランス調整部114は、信号処理部102に入力された画像信号に対して、ユーザにより設定されたホワイトバランスモードに対応して色変換の処理を行う。また、ユーザにより設定されたホワイトバランスモードが自動ホワイトバランスモードである場合、ホワイトバランス調整部114は、信号処理部102に入力された画像信号を解析し、推定される光源の種類に対応して色変換の処理を行う。あるいは、デジタルカメラ100に光源センサ等が設けられる場合、ホワイトバランス調整部114は、光源センサからの信号を解析して光源の種類を特定し、特定された光源の種類に対応して色変換の処理を行ってもよい。
【0030】
注目被写体検出部116は、画像中に存在する注目被写体を検出する処理を行う。注目被写体を検出する方法は、以下に説明する被写体認識処理、AFエリア内被写体認識処理、ユーザ選択被写体認識処理のうちのいずれかとすることが可能である。
【0031】
被写体認識処理は、信号処理部102に入力される画像信号を解析して、画像中で人や動物の顔、花等の存在を検出し、それを画像内における注目被写体とする方法である。
【0032】
AFエリア内被写体認識処理は、自動焦点調節の処理結果と連動して行われる処理方法である。すなわち、焦点検出部110が、撮影範囲(画面)内において画定された複数のエリアで焦点調節状態を検出可能に構成されている場合に、次のようにして被写体認識処理をすることができる。撮影範囲内における複数のエリアのうち、いずれかのエリアがユーザによって選択された場合、選択されたエリアで検出された焦点調節状態に基づいて焦点調節が行われる。あるいは、上記複数のエリアのうち、所定のアルゴリズムに従っていずれかのエリアが自動選択された場合、自動選択されたエリアで検出された焦点調節状態に基づいて焦点調節が行われる。注目被写体検出部116は、上述のように手動、あるいは自動で選択されたエリアに写っている(捕捉される)被写体を注目被写体とすることが可能である。
【0033】
複数のエリアの中から焦点調節を行う対象のエリアを自動的に選択するアルゴリズムとしては、最も近距離に位置する被写体が存在するエリア、最も遠距離に位置する被写体が存在するエリア、中間の距離に位置する被写体が存在するエリアを選択する方法などがある。あるいは、コントラストの最も高い被写体が存在するエリア、彩度の最も高い被写体が存在するエリア等を選択する方法であってもよい。
【0034】
デジタルカメラ100が、操作部142の一つとして、表示部152の表面に設けられたタッチパネルスイッチを備える場合、表示部152上に表示される画像中、ユーザがタッチパネルを押圧した位置に写っている被写体に優先順位が与えられて焦点調節、露光制御、ホワイトバランス等の処理が行われるようにすることが可能である。このとき、注目被写体検出部116は、表示部152に表示される画像中、ユーザがタッチパネルスイッチを押圧した位置に写っている被写体を注目被写体とすることが可能である。これが、上述したユーザ選択被写体認識処理である。
【0035】
立体画像データ生成部120は、表示視差量調節部108で視差量が調節された左画像データ、右画像データに基づき、立体画像データを生成する。この立体画像データに基づいて、表示部152に立体画像が表示される。この立体画像データは、必要に応じてデジタルカメラ100内に保存する処理が行われる。
【0036】
システム制御部140は、デジタルカメラ100の動作を統括的に制御する。操作部142は、スライドスイッチ、プッシュスイッチ、ダイヤルスイッチ等のうち、いずれか一種または複数種類のスイッチを備え、ユーザの操作を受け付ける。操作部142はまた、上述したタッチパネルスイッチを備えていても良い。ユーザによる操作部142の操作は、システム制御部140によって検出される。システム制御部140は、ユーザによる操作部142の操作に応じてデジタルカメラ100の動作を制御する。
【0037】
ユーザによる操作部142の操作としては、電源スイッチのオン/オフ、動画像撮影モード/静止画像撮影モードの動作モード切替、静止画像記録のためのレリーズスイッチの操作、動画像記録開始/停止のための動画像記録スイッチの操作などがある。また、操作部142を操作することにより、視差量パラメータの設定を変更可能に構成されていてもよい。
【0038】
デジタルカメラ100が静止画像記録モード、あるいは動画像記録モードに設定されている状態で、ユーザは操作部142を操作し、シーンモードやシーン判別モードを選択することも可能である。シーンモードは、風景、花火、ポートレート、スポーツ、子ども、そしてクローズアップといった様々な撮影シーンの中から、ユーザが所望の撮影シーンを選ぶことができ、ユーザの目的とする撮影シーンに対応してより適した撮影設定が自動的になされる動作モードである。
【0039】
シーン判別モードは、撮影シーンを、撮影光学系138R、138Lの設定焦点距離、デジタルカメラ100の動き、ライブビュー表示用画像の解析結果等に基づいて撮影シーンやデジタルカメラ100の使用状況を自動的に判別し、判別されたシーンに対応してより適した撮影設定が自動的になされる動作モードである。自動的になされる動作設定としては、絞り値およびシャッタ速度の組み合わせ、撮像素子の感度、ホワイトバランス、色補正、階調補正などがある。
【0040】
デジタルカメラ100の動作モードが、静止画像撮影モード、動画像撮影モードに切り替えられるのに応じて、視差量パラメータは自動的に変更される。シーンモードが設定された場合にも、ユーザによって選択された撮影シーンに対応して視差量パラメータは自動的に変更される。また、シーン判別モードが設定された場合、判別された撮影シーンに対応して視差量パラメータが自動的に変更される。
【0041】
表示部152は、ユーザが立体画像を観視することが可能に構成される。表示部152は一例として、図2に示されるように、カラー液晶表示パネル152bと、バックライト装置152aと、カラー液晶表示パネル152bの表面に設けられたレンチキュラーシート152c等とを備えて構成される。なお、表示部152がレンチキュラーシート152c等を用いたものである場合、右画像および左画像を縦ストライプ状に分割し、レンチキュラーシート上に形成されるレンチキュラーレンズの配設ピッチに従って、縦ストライプ状に分割した右画像及び左画像を空間的に交互に配列した画像をカラー液晶表示パネル上に表示するべく、表示用画像データが立体画像データ生成部120で生成される。図2には、カラー液晶表示パネル152b上に空間的に交互に表示される右画像Rおよび左画像Lがそれぞれ、立体画像を観視するユーザの右眼RY、左眼LYに、レンチキュラーシート152c上に形成されたレンチキュラーレンズによって導かれる様子が描かれている。
【0042】
表示部152が他の方式によって立体画像を観視可能に構成される場合、その方式に従って表示用画像データが立体画像データ生成部120で生成される。表示制御部150は、信号処理部102で生成された表示用画像データに基づく画像を表示部152に表示する処理を行う。
【0043】
記録部156は、デジタルカメラ100に着脱可能な、不揮発性のフラッシュメモリ等で構成されるメモリカードとすることが可能である。あるいは、デジタルカメラ100に内蔵される不揮発性のメモリとすることが可能である。デジタルカメラ100で撮影され、生成された静止画像データや動画像データは記録部156に所定のファイル形式で記録される。デジタルカメラ100が再生モードに設定されているときには、記録部156に記録された画像ファイルが読み出され、信号処理部102で表示用画像データが生成され、表示部152、あるいはデジタルカメラ100に接続された外部表示装置に画像が表示される。記録制御部154は、記録部156への画像データの書き込み、記録部156からの画像データの読み出しの処理を行う。
【0044】
メモリ158は、SDRAM等の、比較的高速のアクセス速度を有してデータの読み書きが可能なランダム・アクセス・メモリ(RAM)と、フラッシュメモリ等の不揮発性メモリとを備えて構成される。不揮発性メモリには、ファームウェアやデジタルカメラ100に電源が供給されない状態でも保持する必要のある情報が記憶される。ファームウェアは、システム制御部140で実行されるカメラ制御プログラムを含む。メモリ158は、信号処理部102およびシステム制御部140の双方からアクセス可能に構成される。
【0045】
以上では、図1を参照してデジタルカメラ100が双眼タイプの立体画像撮影装置である例を説明したが、これと異なる方式で右画像および左画像が得られるものであってもよい。例えば、三つ以上の撮影光学系を備えるものであってもよいし、一つの撮影光学系内の異なる瞳位置を通過した被写体光を二つの撮像素子に導くものであってもよい。あるいは、単眼の撮影光学系の前面にステレオアダプタを装着する方式であってもよい。ステレオアダプタは、潜望鏡を横に倒したような、光路を水平面上でクランク状に折り曲げる構成の反射光学系を二組備えて、それらを左右に面対称に配列し、被写体の側から左右異なる光路を経てデジタルカメラの単眼の撮影光学系に入射する被写体光を撮像素子の右半分および左半分に導くように構成される装置である。
【0046】
図3は、表示視差量調節部108で行われる処理を概念的に示す図である。図3(a)は、表示視差量の調節が行われない場合の例を、図3(b)は、表示視差量の調節が行われるものの、その調節量が比較的少なめに設定される場合の例を、図3(c)は、表示視差量の調節が行われて、その調節量が比較的多めに設定される場合の例を示す図である。図3(a)、図3(b)、および図3(c)それぞれの一番左に示される図は、ある瞬間(タイミングt0)において撮影されて得られた画像をもとに視差量導出部104で導出された実視差量が示されている。そして、これらの一番左に示される各図の右側には、表示部152に表示される立体画像の表示視差量が時間の経過(タイミングt1、t2、…)に伴って変化する様子が描かれている。
【0047】
図3を参照しての説明の前提として、被写体A、Bは当初(タイミングt0よりも前のタイミングにおいて)、同じ撮影距離の位置に位置していて、その後タイミングt0にかけて被写体Bがデジタルカメラ100に向かって急に近づき、タイミングt0以降、同じ位置にとどまっているものとする。そして、図3(a)、図3(b)、図3(c)それぞれの一番左の図に示されるように、視差量導出部104での処理により、タイミングt0における被写体Aの実視差量はX、被写体Bの実視差量はY(X<Y)と導出されたものとする。また、タイミングt0で得られた画像データに基づき、それに後続するタイミングt1において表示部152に立体画像が表示され、タイミングt1で得られた画像データに基づき、タイミングt2において表示部152に立体画像が表示され、以降、同様の処理が繰り返し行われるものとする。このとき表示部152に表示される立体画像はライブビュー画像であるものとする。なお、図3(a)、図3(b)、図3(c)において、タイミングt0の位置示されているのは、被写体A、Bの実視差量である。つまり、図3(a)、図3(b)、図3(c)のいずれにおいても、タイミングt0において表示部152に表示される立体画像中、被写体A、Bの表示視差量は共にXである。
【0048】
表示視差量の調節が行われない例を示す図3(a)を参照して説明する。タイミングt0において視差量導出部104によって導出された被写体Bの実視差量はXからYに増加している。タイミングt0で表示部152に立体表示されている被写体A、Bの表示視差量は上述のとおり共にXである。そして、タイミングt0で得られた画像データに基づき、タイミングt1で立体画像が表示される。
【0049】
このとき、タイミングt0で得られた画像データに対して表示視差量の調節処理をすることなく表示画像データが生成され、タイミングt1において表示部152に立体画像が表示される。タイミングt0において表示部152に表示されていた立体画像中、被写体Bの表示視差量はXであったので、タイミングt0からt1にかけての被写体Bの表示視差量はXからYへと変化(増加)する。表示部152に表示される立体画像を観視するユーザは、被写体Bの像が画面手前側に向かって急に突出したと感じる。
【0050】
表示視差量の調節が行われるものの、表示視差量の時間変化(表示視差量変化速度)の調節がより少なめに行われる例を示す図3(b)を参照して説明する。図3(a)と同様、タイミングt0において視差量導出部104によって導出された被写体Bの実視差量はYとなっている。
【0051】
表示視差量調節部108で表示視差量変化速度の調節処理が行われ、タイミングt1で表示部152に立体画像が表示される。すなわち、タイミングt0における被写体Bの表示視差量Xに表示視差量の変化量の上限値γaを加算して得られた表示視差量となるように表示画像データが生成されて立体画像が表示される。このタイミングt1では、次の撮影動作が行われて、視差量導出部104で実視差量が導出される。このとき、上述のように、被写体Bはタイミングt0以降、同じ位置にとどまっているものとする。
【0052】
以上の説明からも分かるように、タイミングt1で表示される立体画像は、被写体Bの実際の撮影距離(距離感)を反映したものではない。信号処理部102では、タイミングt0で撮影して得られた右画像データ、左画像データを処理して被写体Bの部分の画像の切り出しや合成等の処理を行い、必要とする表示視差量が得られる表示画像データを生成する。このとき、被写体Aの部分や背景部分等における画像には、表示視差量の調節は行われない。
【0053】
続いてタイミングt2で表示される立体画像について説明する。タイミングt1において視差量導出部104で被写体Bの実視差量がYと導出される。そして、タイミングt1で得られた画像データをもとにタイミングt2で表示をした場合に生じる被写体Bの表示視差量の変化量は依然として上限値γaを超すと判定される。この判定を受けて、表示視差量調節部108で表示視差量変化速度を調節する処理が行われる。その結果、タイミングt2において表示部152に表示される被写体Bの表示視差量は、タイミングt1における表示視差量X+γaにさらにγaを加算して得られた、X+2×γaとなる。
【0054】
タイミングt2で表示される立体画像は、タイミングt1で撮影して得られた右画像データおよび左画像データに、切り出しや合成の処理をして被写体Bの部分の表示視差量がX+2×γaとなるように生成された表示画像データに基づく。このタイミングt2においては、タイミングt3でのライブビュー画像表示のための撮影動作が行われる。
【0055】
タイミングt3で表示される立体画像について説明する。タイミングt2において視差量導出部104で被写体Bの実視差量がYと導出される。そして、タイミングt2で得られた画像データをもとのタイミングt3で表示をした場合に生じる被写体Bの表示視差量の変化量は、上限値γa以下であると判定される。この判定を受けて、表示視差量の調節処理をすることなく表示画像データが生成され、表示部152に立体画像が表示される。タイミングt3において表示される立体画像中、被写体Bの表示視差量はYとなる。つまり、図3(b)に示される例では、表示視差量の変化速度は実視差量の変化速度の略三分の一に調節される。
【0056】
表示視差量の調節が行われて、表示視差量の時間変化の上限が比較的低めに設定される場合の例を示す図3(c)を参照して説明する。基本的には図3(b)に示されるのと同様の処理が行われる。図3(b)との違いは、表示視差量の変化量の上限値がγaよりも小さいγbに設定される点である。その結果、図3(b)の例では被写体Bの表示視差量がタイミングt3において実視差量Y(視差量導出部104で導出された視差量)に追いついているのに対し、図3(c)の例ではタイミングt5で追いついている。つまり、図3(b)に示される例では、表示視差量の変化速度は実視差量の変化速度の略五分の一に調節される。
【0057】
以上、図3を参照しての説明では、被写体Bが急に近づき、立体画像中で被写体Bの像が手前側に突出する場合を例にとり、表示視差量変化速度を必要に応じて抑制する例について説明した。しかし、表示視差量変化速度の抑制は、被写体が急に近づく(視差量が増加する)場合、遠ざかる(視差量が減少する)場合の双方で行うものであってもよい。
【0058】
ところで、以上では、被写体がデジタルカメラ100に向かって近づく、あるいはデジタルカメラ100から遠ざかるのに伴って視差量が変化することについて説明したが、撮影光学系138R、138Lの変倍操作をすることによっても視差量は変化する。このとき、焦点距離を長焦点側に変化させると撮影倍率が増加し、それに伴って視差量も増加する。逆に、焦点距離を短焦点側に変化させると撮影倍率が減少し、それに伴って視差量も減少する。また、撮影光学系138R、138Lの焦点距離を変化させずに、画面の一部を切り取る、いわゆるデジタルズーム、あるいは電子ズームと称される方式で撮影倍率を変化させた場合も同様である。このように、撮影倍率を変化させた場合に生じる視差量の変化にも対応して表示視差量の調節を行うことが可能である。
【0059】
以下、図4を参照して被写体が近づく場合および遠ざかる場合の双方に対応して表示視差量の時間変化が必要に応じて抑制される例について説明する。以下で用いられる「被写体の動き」に関しては、デジタルカメラ100に対して近づく、あるいは遠ざかる方向の動きを意味する。なお、先に説明したように、撮影光学系138R、138Lの変倍動作等によって撮影倍率が増減する場合も同様であるが、ここでは被写体がデジタルカメラ100に対して近づく、あるいは遠ざかるのに対応して視差量が変化する例について説明する。
【0060】
図4(a)は、時間の経過に伴う実視差量の変化例を示すグラフであり、横軸には時間、縦軸には各タイミングで視差量導出部104によって導出された実視差量がとられている。図4(b)は、表示部152に表示される立体画像の表示視差量の変化例を説明するグラフであり、横軸には時間、縦軸には表示視差量調節部108で調節された後の表示視差量がとられている。図4(a)、図4(b)は、同じ時間軸での事象が示されている。以下では、ある数字の付されたタイミングを参照する際には「タイミング10」などと称する。タイミングの時間間隔は、撮影フレームレート、表示フレームレートに一致しているものとする。
【0061】
タイミング1からタイミング4にかけては、被写体の動きが少なく、表示視差量調節部108による表示視差量の調節は行われない。タイミング5からタイミング10にかけては、被写体が急に近づいて来たため、実視差量が急増している。図4中、符号LMT1、LMT2の付された斜めの線は、表示視差量の時間変化の上限(閾値)を概念的に示している。タイミング5からタイミング10においては、実視差量の時間変化、つまり実視差量変化速度が速く、このまま立体画像を表示すると表示視差量変化速度が閾値LMT1以上になると判定される。その結果、表示視差量調節部108において、図3を参照して説明した表示視差量調節の処理が行われる。図4(b)のグラフ中、タイミング5からタイミング10において、調節された表示視差量で立体画像が表示される様子が示されている。図4(b)中、破線で示される棒グラフは、表示視差量が調節されていることを示している。
【0062】
タイミング9からタイミング11にかけては被写体の動きが少ないため、表示視差量がやがて実視差量に追いつく。その結果、タイミング11においては表示視差量の調節が行われずに立体画像が表示される。その様子が図4(b)のタイミング11における実線の棒グラフとして示されている。
【0063】
次にタイミング11からタイミング12の間で被写体が急に遠ざかり、その後タイミング17にかけて、被写体は略同じ距離の位置に存在し続けている。この場合、実視差量の変化速度が速く、このまま立体画像を表示すると表示視差量変化速度が閾値LMT2以上になると判定される(この場合、立体画像は画面手前側から奥側に遠ざかるように奥行き感が変化する)。その結果、表示視差量調節部108において、表示視差量調節の処理が行われて、図4(b)のグラフ中、タイミング12からタイミング17において、調節された表示視差量で立体画像が表示される。つまり、被写体があたかも徐々に遠ざかるかのような奥行き感の変化で立体画像が表示される。なお、本例において表示視差量変化速度は、絶対値で扱われるものとする。すなわち、視差量が増加するか減少するかは考慮しないものとする。無論、視差量が増加するか/減少するかで表示視差量調節の処理内容を変えてもよい。
【0064】
タイミング18からタイミング24にかけて、被写体は傾向として近づいてきており、それに伴って実視差量が傾向として増加している。しかし、実視差量の変化速度がそれほど速くはなく、このまま立体画像を表示しても表示視差量変化速度は閾値LMT1未満であると判定される。その結果、タイミング18から24において、表示視差量の調節は行われない。
【0065】
タイミング24からタイミング25の間で被写体が急に近づき、その後タイミング33まで略同じ距離の位置に被写体がとどまっている。その結果、タイミング25からタイミング28にかけて表示視差量の調節が行われる。やがて、表示視差量が実視差量に追いつき、タイミング29からタイミング33にかけては表示視差量の調節は行われない。
【0066】
タイミング33とタイミング34との間で被写体が急に遠ざかり、その後タイミング43まで略同じ距離の位置に被写体がとどまっている。その結果、タイミング34からタイミング40にかけて表示視差量の調節が行われる。やがて、表示視差量が実視差量に追いつき、タイミング41からタイミング43にかけては表示視差量の調節が行われない。
【0067】
図4では、被写体の近づく方向(視差量の増す方向)、遠ざかる方向(視差量の減少する方向)に対して設定される閾値LMT1、LMT2の傾きの絶対値が略同一であるように描かれているが、異なる値とすることが可能である。立体画像を観視する際、画面の手前側に突出してくる画像を観視する際の眼の疲れよりも、画面の奥側に引っ込んでゆく画像を観視する際の眼の疲れの方が少ないことが知られている。したがって、被写体が遠ざかる場合には閾値を設けないとすることが可能である。あるいは、閾値を高めに設定する(図4に示される符号LMT2が付される線の傾きを増す)ことも可能である。
【0068】
また、表示視差量変化速度の上限は、図4に示すように、時間の経過によらず一定の値であってもよいし、時間の経過に伴って変化するものであってもよい。例えば、時間の経過とともにLMT1(LMT2)が非線形に変化するようにし、表示視差量変化速度を、現状の表示視差量と実視差量との差が大きいうちは早くなるようにして、表示視差量と実視差量との差が小さくなるにつれて遅くなるように(あるいはその逆になるように)してもよい。
【0069】
また、デジタルカメラ100の動作モードが静止画像撮影モード、あるいは動画像撮影モードに切り換えられるのに応じて上記の閾値や表示視差量変化速度の上限を変更可能に構成されていてもよい。さらに、デジタルカメラ100でシーンモードやシーン判別モードが設定されている場合、選択されている撮影シーン、あるいは自動判別されたシーンに応じて上記の閾値や表示視差量変化速度の上限を変更可能に構成されていてもよい。
【0070】
例えば、動画像撮影モード時、ユーザは比較的長い時間にわたり、表示部152に表示される画像を観視し続けることになる。そのような場合には、上記の閾値や表示視差量変化速度の上限を低めに設定することが可能である。そうすることにより、立体画像の奥行き感の変化がより穏やかとなり、ユーザの疲労感を抑制することが可能となる。このとき、記録画像データについては、表示視差量の調節をしないものを生成してもよいし、調節したものを生成してもよい。また、記録画像データの表示視差量の調節をする/しないをユーザが選択可能に構成されていてもよい。
【0071】
一方、静止画像撮影モード時には、表示部152に表示されるライブビュー画像を観視する時間は、動画像撮影モード時に比して短めとなることが予想される。そのような場合には、表示視差量の調節をしないで(表示視差量変化速度の上限を高めに設定して)表示部152に立体画像を表示し、記録画像データを生成することが可能である。そうすることにより、より立体感のある画像を得ることが可能となり、ライブビュー画像を観たユーザはどのような立体画像を得ることができるかを直観的に把握することが可能となる。また、実視差量により近い表示視差量で被写体の像が表示されるので、特に動いている被写体のライブビュー画像を観ながら撮影をする際に、より実際に近い状態で被写体を捉えることが可能となり、シャッタチャンスを捉えやすくなる。
【0072】
設定されたシーンモードの種類によって、あるいはシーン判別モードでのシーン判別結果により、ユーザがどのような被写体を撮影しようとしているのかを知ることができる。例えば、シーンモードとして風景や花火、あるいはポートレートの撮影を想定したモードが選択されている場合、撮影距離が目まぐるしく変化する可能性は少ないので、立体画像の奥行き感も大きく変化する可能性は少ない。このような場合、上記の閾値や表示視差量変化速度の上限を高めに設定、あるいは閾値を設定しないようにすることが可能である。逆に、スポーツシーン、あるいは子ども等を撮影することを想定したモードが選択されている場合、被写体が動き回って撮影距離が目まぐるしく変化する可能性がある。そのような被写体を撮影するモードが選択された場合、上記の閾値や表示視差量変化速度の上限を低めに設定することにより、立体画像の奥行き感の変化を抑制してユーザの疲労感を抑制することが可能となる。
【0073】
上記の閾値や表示視差量変化速度の上限に関しては、ユーザの好みに応じてマニュアル設定可能に構成されていてもよい。立体画像を観視しているユーザが感じる疲労の度合いには個人差があり、また、ユーザの体調にも左右される場合があるので、ユーザによるマニュアル設定を可能とすることによりデジタルカメラ100の使い勝手を向上させることが可能となる。上記の閾値や表示視差量変化速度の上限に関する情報は、視差量パラメータとして視差量パラメータ記憶部106に記憶される。
【0074】
ところで、実際の撮影シーンを想定した場合に、撮影シーン中には様々な動きをする多数の被写体が存在している場合がある。また、ユーザが撮影しようとしている被写体とデジタルカメラ100との間に通行人や自動車等が割って入ることもある。本実施の形態においては、デジタルカメラ100が注目被写体検出部116を備えていて、上述した表示視差量調節部108による表示視差量調節の処理は、注目被写体検出部116で検出された被写体に対して行われる。本明細書中では、注目被写体検出部116で検出された被写体を「注目被写体」と称する。
【0075】
ユーザがライブビュー表示される立体画像を観ながら被写体を追う場合を想定すると、ユーザは注目被写体を注視している可能性が高い。そこで、上述した表示視差量調節の処理は、注目被写体のみに対して行う。一方、背景や前景等、注目被写体以外の被写体については、表示視差量調節の処理を行わない。このようにして画像を処理することにより、信号処理部102での処理負荷を低減することが可能となる。その結果、信号処理部102のハードウェア規模の縮小や消費電力の抑制と云った効果を得ることが可能となる。
【0076】
図5は、撮影動作時にデジタルカメラ100内で実行されるライブビュー立体画像表示の処理手順を概略的に説明するフローチャートである。図5のフローチャートに示される処理は、デジタルカメラ100が撮影モードに切り替えられたときにシステム制御部140によって実行される。
【0077】
S500においてシステム制御部140は、デジタルカメラ100の動作モードの変更の有無を判定する。S500での判定が肯定された場合には、変更された動作モードに応じて視差量パラメータを設定する処理がS502で行われ、S504に進む。一方、S500での処理が否定された場合、処理はS504に進む。ここで、視差量パラメータは、先に図3や図4を参照して説明した閾値や表示視差量変化速度の上限に関する情報を含む。
【0078】
S504においてシステム制御部140は、1フレーム分の右画像データおよび左画像データを取得する処理を行うよう、信号処理部102に制御信号を出力する。システム制御部140はS506において、注目被写体検出処理を行うよう、信号処理部102に制御信号を出力する。注目被写体検出処理は、注目被写体検出部116で行われる。
【0079】
S508においてシステム制御部140は、注目被写体の実視差量を導出する処理を行うよう、信号処理部102に制御信号を出力する。そしてシステム制御部140は、信号処理部102から出力された実視差量の情報をメモリ158に一時的に記録する。
【0080】
システム制御部140はS510において、S508の処理で得られた現フレームの実視差量と、一つ前のフレームの表示視差量とを比較する。すなわち、メモリ158に記録されているこれら現フレームの実視差量および一つ前のフレームの表示視差量を読み出して比較する。S510で比較されるのは、現フレームの注目被写体の実視差量と、一つ前のフレームにおける注目被写体の表示視差量である。
【0081】
S512においてシステム制御部140は、注目被写体の視差量の変化量、すなわちS510で比較した、現フレームにおける注目被写体の実視差量と一つ前のフレームにおける注目被写体の表示視差量との差が閾値を超すか否かを判定する。S512での判定が肯定されるとS514の処理に進む一方、S512での判定が否定されるとS526の処理に進む。
【0082】
S512での判定が肯定された場合の分岐先であるS514において、システム制御部140は注目被写体の画像の表示視差量を調節する決定をする。そしてS516において、視差量パラメータ記憶部106に記憶された視差量パラメータ中、現状の動作モードに対応する視差量パラメータに基づいて、注目被写体の画像の表示視差量を調節した右画像データおよび左画像データを生成するように信号処理部102に制御信号を出力する。
【0083】
一方、S512での判定が否定された場合の分岐先であるS526では、表示視差量を調節する処理をしない決定がなされ、S516の処理がスキップされてS518に進む。
【0084】
S518においてシステム制御部140は、焦点調節を行うようにフォーカシング制御部136に制御信号を出力する。すなわち、システム制御部140は、撮像部130R、130Lから出力される右画像信号および左画像信号で生成される画像のコントラストが増す方向に焦点調節動作が行われるよう、フォーカシング制御部136に制御信号を出力する。
【0085】
S520においてシステム制御部140は、立体画像を表示部152に表示するように信号処理部102に制御信号を出力する。信号処理部102は、表示部152における立体画像の表示方式に従って表示画像データを生成し、表示制御部150に出力する。この処理の結果、1フレーム分のライブビュー画像(立体画像)が表示部152に表示される。
【0086】
上述した表示画像データを信号処理部102で生成するにあたり、S514で表示視差量を調節する(表示視差量変化速度を抑制する)決定がなされた場合には、S516で生成された、注目被写体の画像の表示視差量を調節した右画像データおよび左画像データが用いられる。一方、S526で表示視差量を調節しない決定がなされた場合には、S504の処理で取得された右画像データおよび左画像データが用いられる。
【0087】
S522においてシステム制御部140は、S520の処理で表示部152に表示された立体画像の表示視差量をメモリ158に記録する。S524では、ライブビュー表示動作(動画像撮影が行われているときには動画像撮影動作)を継続するか否かの判定がなされ、この判定が肯定される間は上述した処理が継続して行われて表示部152に表示されるライブビュー画像が更新される。S524の判定が否定されると、システム制御部140は図5に示す一連の処理を完了し、ライブビュー表示動作を停止する。
【0088】
以上のように、第1の実施の形態に係る立体画像撮影装置によれば、ライブビュー表示される立体画像中で、注目被写体の部分の表示視差量が必要に応じて調節される(表示視差量変化速度が抑制される)ので、ライブビュー画像を観視するユーザの疲労感を抑制可能となる。また、動画像撮影モード、静止画像撮影モードや、シーンモードで選択されている撮影シーン、あるいはシーン判別モードで自動判別された撮影シーン等に応じて、ライブビュー表示される立体画像中の注目被写体の表示視差量を調節する際の視差量パラメータが変更されるので、使用状況に適した奥行き感の立体画像を表示することが可能となる。
【0089】
− 第2の実施の形態 −
図6は、本発明の第2の実施の形態に係る立体画像撮影装置としてのデジタルカメラ100Aの概略的構成を説明するブロック図である。図1に示される第1の実施の形態のデジタルカメラ100と同様の構成要素には同じ符号を付してその説明を省略し、第1の実施の形態との差異を中心に説明をする。
【0090】
図1に示されるデジタルカメラ100が双眼タイプの撮影光学系138R、138Lを備えるのに対して、デジタルカメラ100Aは単眼タイプの撮影光学系138を備える点が大きな違いである。デジタルカメラ100Aでは、1フレーム分の撮影動作に対応して一つの画像データのみが得られる。そして、後で詳述するように、撮影シーン中に写る様々な被写体の、デジタルカメラ100Aからの距離の分布(これをデプスマップと称する)を得て、得られた距離の分布に対応して被写体ごとに異なる表示視差量を付与した立体画像データを合成によって生成する。
【0091】
測距部200は、撮影光学系138によって捉えられる画角内(撮影範囲内)において、各被写体とデジタルカメラ100Aとの間の距離の分布を検出可能に構成される。本実施の形態において、測距部200がTTL式の位相差検出装置を用いるものである例について説明する。TTL式の位相差検出装置は、撮影光学系138内の異なる瞳位置を透過した被写体光を、反射光学系、コンデンサレンズ、セパレータレンズ等を介してAF素子上に導き、AF素子上に形成される像のずれ(位相差)をもとに、予定焦点面に対するピントずれ量(デフォーカス量)を検出する装置である。あるいは、撮像素子上の受光エリア内に位相差検出画素を埋め込んだものを用い、上述した反射光学系、コンデンサレンズ、セパレータレンズ等を省略したものとすることも可能である。
【0092】
TTL式の位相差検出装置で検出された上記デフォーカス量と、撮影光学系138の焦点距離情報と、撮影光学系138のレンズ位置情報とから、被写体がデジタルカメラ100Aからどれくらいの距離に位置するかを導出可能である。ここで、レンズ位置情報とは、撮影光学系138内のフォーカシングレンズの、無限遠に焦点が合う位置からの移動量に関する情報である。このレンズ位置情報は、焦点距離情報とともに撮影光学系138から得ることができるものとする。
【0093】
例えば、撮影光学系138の焦点距離が50mmで、現状で撮影光学系138は2mの撮影距離にピントが合う位置にフォーカシングレンズが位置し、このときのデフォーカス量が後ピン側に0.2mmである、といった情報が得られれば、画面内のデフォーカス検出エリア内に位置する被写体とデジタルカメラ100Aとの間の実際の距離を導出することが可能である。このとき、上記セパレータレンズやAF素子を、撮影範囲内の複数の点でデフォーカス量を検出可能に構成することにより、撮影光学系138によって捉えられる画角内における各被写体とデジタルカメラ100Aとの間の距離(以下では「各被写体までの距離」と表現する)の分布を導出することができる。
【0094】
図7には、撮影光学系138によって画定される撮影範囲F内においてデフォーカス量を検出可能なフォーカスポイントDの配置例を示す。図7では、31個のフォーカスポイントでデフォーカス量を検出可能な例が示されるが、一つのフォーカスポイントのみに符号Dが付されている。つまり、図7の例では撮影光学系138によって捉えられる撮影範囲内の31個のフォーカスポイントで各被写体までの距離の分布を得ることができる。無論、デフォーカス量を検出可能なフォーカスポイントの数およびその配置については、様々に変更可能である。デプスマップを生成する際、フォーカスポイントDの存在しない領域では補間や外挿の処理等によって被写体までの距離を推定することが可能である。
【0095】
測距部200は、外部測距装置として構成されていてもよい。例えば、撮影光学系138によって捉えられる撮影範囲に対応する被写界を赤外ビーム等で面状にスキャンし、そのときに反射光を検出して、撮影範囲内における各被写体までの距離の分布、すなわちデプスマップを得ることができる。また、光を用いずに、超音波を出射し、その反射波をセンサで検出することにより、あるいはミリ波レーダ等によって、各被写体までの距離の分布を得ることも可能である。
【0096】
撮影光学系138は、変倍光学系を備えて焦点距離を変更可能に構成されていても、単焦点レンズとして構成されていてもよい。撮影光学系138はまた、デジタルカメラ100Aに対して着脱可能に構成されていても、固定されていてもよい。撮像部130は、図1を参照して説明した撮像部130Rまたは130Lと同様の構成を有する。同じく、撮像制御部132も撮像制御部132Rまたは132Lと同様の構成を有する。撮影光学系制御部134Aは、一つの撮影光学系138の焦点調節動作、絞り調節動作、焦点距離変更動作を制御する以外は第1の実施の形態の撮影光学系制御部134と同様である。フォーカシング制御部136Aも、一つの撮影光学系138の焦点調節機構を駆動する以外、第1の実施の形態のフォーカシング制御部136と同様である。
【0097】
信号処理部102Aは、第1の実施の形態で説明した信号処理部102の視差量導出部104が視差量導出部104Aに、焦点検出部110が焦点検出部110Aに置き換えられ、視差画像生成部202をさらに備える点が信号処理部102と異なる。
【0098】
第1の実施の形態において視差量導出部104は、撮像部130R、130Lから出力される右画像信号、左画像信号をもとに生成された右画像データおよび左画像データをもとに視差量を導出するものとして説明した。これに対し、第2の実施の形態における視差量導出部104Aは、図7に示す撮影範囲F内の複数のフォーカスポイントDに対応して測距部200から得られる各被写体までの距離の情報に基づき、各フォーカスポイントに対応する視差量(実視差量)を導出する。
【0099】
焦点検出部110Aは、測距部200において各フォーカスポイントDに対応して検出されたデフォーカス量をもとに撮影光学系138の焦点調節状態を検出する。
【0100】
視差画像生成部202は、撮像部130から出力された画像信号を処理して得られた画像データを、視差量導出部104において各フォーカスポイントDに対応して(あるいはデプスマップに対応して)導出された実視差量をもとに、視差画像を生成する。すなわち、視差画像生成部202は、画像内の各被写体像に対して、視差量導出部104で導出された視差量が付与されるように右画像データおよび左画像データを生成する。
【0101】
以上が第1の実施の形態のデジタルカメラ100との違いである。すなわち、デジタルカメラ100が双眼タイプの撮影光学系によって右画像、左画像を得ているのに対して、第2の実施の形態のデジタルカメラ100Aは、単眼の撮影光学系によって得られた、いわば2Dの画像データから合成によって右画像データおよび左画像データ、すなわち3Dの画像データを生成する。
【0102】
図8は、撮影動作時にデジタルカメラ100A内で実行されるライブビュー立体画像表示の処理手順を概略的に説明するフローチャートである。図8のフローチャート中、第1の実施の形態のデジタルカメラ100内で実行される、図5のフローチャート中の処理と同様の処理ステップには図5に示すものと同じステップ符号を付してその詳細な説明を省略する。そして、第1の実施の形態との違いを中心に説明をする。
【0103】
図5に示すフローチャート中、1フレーム分の右画像データおよび左画像データを取得する処理を信号処理部102に行わせる処理ステップであるS504の処理ステップが、図8のフローチャートではS800の処理ステップに置き換えられている。また、図5に示すフローチャート中、撮影して得られた右画像、左画像をもとに注目被写体の実視差量を導出する処理を信号処理部102に行わせるS508の処理ステップが図8のフローチャートではS802の処理ステップに置き換えられている。
【0104】
システム制御部140はS800において、1フレーム分の2D画像データを取得する処理を行うように信号処理部102Aに制御信号を出力する。システム制御部140はまた、測距部200から得られた各被写体までの距離の情報をもとに、画面内の各被写体までの距離に対応した視差が付与された右画像データおよび左画像データを生成する処理を行うように、信号処理部102に制御信号を出力する。
【0105】
S506の注目被写体検出処理は、例えば、図7に示される31個のフォーカスポイントD中、所定の焦点調節アルゴリズムに従って選択されたフォーカスポイントおよびその周辺に写る被写体を注目被写体とする処理とすることが可能である。複数のフォーカスポイントの中からいずれかを自動選択するアルゴリズムとしては、最も近距離に位置する被写体が存在するエリア、最も遠距離に位置する被写体が存在するエリア、中間の距離に位置する被写体が存在するエリアを選択する方法等がある。あるいは、複数のフォーカスポイントの中からユーザが操作部122を操作して選択した一または複数のフォーカスポイントおよびその周辺に写る被写体を注目被写体とする処理とすることも可能である。
【0106】
システム制御部140はS802において、視差量導出部104Aで導出された、各フォーカスポイントDに対応する実視差量中、注目被写体の実視差量を抽出してメモリ158に一時的に記録する。
【0107】
S512での判定が肯定されてS514において表示視差量を調節するとの決定がなされた場合には、S502で設定された視差量パラメータに基づいて注目被写体の部分の表示視差量を調節した(注目被写体の表示視差量変化速度を抑制した)右画像データおよび左画像データがS516で生成される。そしてS520において、この右画像データおよび左画像データを用いて立体画像表示処理が行われる。
【0108】
あるいは、S512での判定が否定された場合の分岐先であるS526において表示視差量を調節しないとの決定がなされた場合には、S800で生成された右画像データおよび左画像データを用いての立体画像表示処理がS520で行われる。
【0109】
以上では、S514において表示視差量を調節するとの決定がなされた場合に、S800で一旦生成された右画像データおよび左画像データに処理が加えられる例について説明した。これに関して、S800における右画像データおよび左画像データを生成する処理を省いてもよい。そして、S514、S526での決定の後に右画像データおよび左画像データを生成する処理を行うようにしてもよい。
【0110】
すなわち、S514で表示視差量を調節するとの決定がなされた場合には、S800で取得した2D画像データと、視差量導出部104Aで導出された各フォーカスポイントDに対応する実視差量、そしてS502で設定された視差量パラメータに基づいて右画像データおよび左画像データを生成すればよい。この場合、注目被写体の部分の表示視差量を調節した右画像データおよび左画像データが得られる。一方、S526で表示視差量を調節しないとの決定がなされた場合には、S800で取得した2D画像データと、視差量導出部104Aで導出された各フォーカスポイントDに対応する実視差量とに基づいて右画像データおよび左画像データを生成すればよい。
【0111】
ところで、第2の実施の形態においては、測距部200から得られた各被写体までの距離の情報に基づいて視差量を求める例について説明した。このとき、第1の実施の形態でも説明したように、撮影光学系138の変倍動作や、いわゆる電子ズーム等を行って撮影倍率を変化させた場合にも視差量は変化する。したがって、第2の実施の形態においては、撮影光学系138の焦点距離情報(電子ズーム等が行われる場合には等価の焦点距離情報)と、測距部200から得られる各被写体までの距離の情報とに基づいて実視差を導出することが望ましい。
【0112】
以上に説明した第2の実施の形態によれば、測距部200から得られる各被写体までの距離の情報(デプスマップ)に基づいて実視差量を得ることが可能であるので、単眼の撮影光学系によって得られた2D画像データから立体画像データを得ることが可能となる。この場合、画像ファイルを生成して保存する際に、各被写体までの距離の情報をメタデータとして画像データに付加することも可能である。そして、この画像データファイルをもとにパーソナルコンピュータ(PC)等で再生表示を行う場合、以下のように再生表示をすることが可能である。
【0113】
3D表示に対応していないPCで画像を再生表示する場合、メタデータ中の上記距離の情報は無視されて通常の2D表示が行われる。3D表示に対応しているPC上で再生表示を行う場合、画像ファイルに付加されるメタデータをもとにして右画像データ、左画像データを生成することが可能である。これらの右画像データ、左画像データに基づき、PCの表示装置の立体画像表示方式に対応した立体画像データが生成され、3D表示が行われる。PC上で再生表示される画像は静止画であっても動画であってもよい。動画が生成表示される場合には図8のフローチャートを参照して説明した処理と同様の処理を行い、表示視差量変化速度を調節することも可能である。
【0114】
以上に説明したように、第2の実施の形態に係るデジタルカメラ100Aにおいても、ライブビュー画像を観視するユーザの疲労感を抑制可能となる。また、動画像撮影モード、静止画像撮影モードや、シーンモードで選択されている撮影シーン、あるいはシーン判別モードで自動判別された撮影シーン等に応じて、ライブビュー表示される立体画像中の注目被写体の表示視差量を調節する際の視差量パラメータが変更されるので、使用状況に適した奥行き感の立体画像を表示することが可能となる。
【0115】
− 第3の実施の形態 −
第1の実施の形態でも説明したが、表示視差量が増加する場合に比して減少する場合の方がユーザの疲労感は少ないことが知られている。そこで、第3の実施の形態においては、図1に示される構成を有するデジタルカメラ100において、表示されている立体画像の表示視差量の増加速度が所定の閾値を越す場合にのみ、視差量を調節する例を説明する。
【0116】
図9は、撮影動作時にデジタルカメラ100内で実行されるライブビュー立体画像表示の処理手順を概略的に説明するフローチャートである。図9のフローチャート中、第1の実施の形態のデジタルカメラ100内で実行される、図5のフローチャート中の処理と同様の処理ステップには図5に示すものと同じステップ符号を付してその詳細な説明を省略する。そして、第1の実施の形態との違いを中心に説明をする。
【0117】
図5および図9に示されるフローチャートの相違点は、図9のフローチャート中、S510とS512との間にS900の処理が挿入される点である。S504で取得した1フレーム分の右画像データおよび左画像データをもとに、S508の処理により、注目被写体の実視差量が導出、記録される。
【0118】
S510では、現フレームの実視差量と一つ前のフレームの表示視差量との比較が行われる。現フレームの実視差量は、S508で導出された、注目被写体の実視差量である。一つ前のフレームの表示視差量は、一つ前のフレームにおける注目被写体の表示視差量である。S900では、S510での比較結果に基づき、現フレームの注目被写体の実視差量が、一つ前のフレームにおける注目被写体の表示視差量を超しているか否かが判定される。すなわち、現フレームの実視差量で立体画像を表示した場合に、注目被写体の像が一つ前のフレームでの表示状態に比して、画面手前側により突出して見えるか否かの判定がS900で行われる。
【0119】
S900の判定が肯定された場合、すなわち現フレームの実視差量で立体画像を表示した場合に、一つ前のフレームでの表示状態に比して、注目被写体の表示視差量が増加し、画面手前側に、より突出して見えるようになると判定された場合には、処理はS512に進む。一方、S900の判定が否定された場合、すなわち、現フレームの実視差量で立体画像を表示した場合に、表示視差量は変化しない、もしくは、減少すると判定された場合、処理はS526に分岐する。
【0120】
S510とS512との間に上述したS900の処理が挿入されることにより、注目被写体の表示視差量が減少する(立体画像中で注目被写体が画面奥側に向かって遠ざかるように見える)ときには、表示視差量変化速度によらず表示視差量を調節する処理(表示視差量変化速度を抑制する処理)がスキップされる。一方、注目被写体の表示視差量が増加(立体画像中で注目被写体が近寄ってきて突出感が増す)ときには、第1の実施の形態で説明したのと同様の処理が行われる。その結果、注目被写体表示視差量が増す(注目被写体が近づいてくる)場合において、その表示視差量変化速度が所定の閾値を越す場合には、注目被写体の画像の表示視差量が調節されて表示視差量変化速度が抑制される。その結果、立体画像を観視するユーザの疲労感を抑制することが可能となる。
【0121】
S900の判定処理により、注目被写体の表示視差量が一つ前のフレームと同じ、もしくは減少する場合に表示視差量を調節する処理がスキップされることにより、以下の効果を得ることが可能となる。一つは、信号処理部102の処理負荷の低減が可能となり、それに伴い、電力の消費量を抑制可能となる点である。もう一つは、注目被写体が急に遠ざかる場合には立体表示される画像中の注目被写体の像も急に遠ざかる(画面奥側に向かって後退する)ように見えるので、表示される立体画像の奥行き感を強調できる点である。
【0122】
以上、第3の実施の形態で説明した処理、すなわち、表示視差量が減少する場合には表示視差量の変化量によらず、表示視差量を調節するのをスキップすることは、他の実施の形態のデジタルカメラでも行うことが可能である。
【0123】
− 第4の実施の形態 −
第4の実施の形態においては、図1に示される構成を有するデジタルカメラ100と同様、時間の経過とともに注目被写体の表示視差量が増加する場合、減少する場合の双方において、表示視差量変化速度が閾値を越す場合に注目被写体の表示視差量を調節する。第1の実施の形態との違いは、第4の実施の形態において、撮影光学系138R、138Lの注目被写体に対するデフォーカス量が予め定められた閾値以上である場合に、注目被写体の表示視差量の変化量の大きさによらず、表示視差量の調節を行わない点である。
【0124】
第4の実施の形態において、デジタルカメラ100は位相差AFの方式で自動焦点調節を行うものとする。このとき、図7に例示されるような、撮影範囲F内の複数のフォーカスポイントDで位相差を検出可能に構成されるものとする。また、注目被写体検出部116は、第1の実施の形態で説明したAFエリア内被写体認識処理、またはユーザ選択被写体認識処理によって注目被写体を検出するものとする。
【0125】
図10は、撮影動作時にデジタルカメラ100内で実行されるライブビュー立体画像表示の処理手順を概略的に説明するフローチャートである。図10のフローチャート中、第1の実施の形態のデジタルカメラ100内で実行される、図5のフローチャート中の処理と同様の処理ステップには図5に示すものと同じステップ符号を付してその詳細な説明を省略する。そして、第1の実施の形態との違いを中心に説明をする。
【0126】
図5および図10に示されるフローチャートの相違点は、S512の処理が削除されてS1000、S1002の判定処理がS510の後に追加されている点である。
【0127】
システム制御部140はS1000において、注目被写体のデフォーカス量の大きさが閾値1以上であるか否かの判定を行う。すなわち、注目被写体の写る位置にあるフォーカスポイントDにおいて検出されたデフォーカス量が閾値1以上であるか否かの判定を行う。S1000での判定が肯定されるとS526に進む一方、否定されるとS1002に進む。S1000での判定が否定される、すなわち注目被写体のデフォーカス量が閾値1を下回ると判定された場合の分岐先であるS1002においてシステム制御部140は、注目被写体の視差量の変化量、すなわちS510で比較した、現フレームにおける注目被写体の実視差量と一つ前のフレームにおける注目被写体の表示視差量との差が閾値2を超すか否かを判定する。この判定が肯定されると処理はS514に進む一方、否定されるとS526に進む。
【0128】
以上のS1000、S1002の判定処理により、注目被写体のデフォーカス量の大きさが閾値1を下回り(注目被写体の像は比較的鮮鋭であり)、かつ、注目被写体の表示視差量の変化量が閾値2を上回る(注目被写体の表示視差量の変化速度が比較的大きい)ときに、S514において表示視差量を調節する処理(表示視差量変化速度を抑制する処理)が行われる。また、注目被写体のデフォーカス量が閾値1以上である(注目被写体の像は比較的ぼけている)と判定されるときには、注目被写体の表示視差量の大小によらず、表示視差量の調節は行われない。
【0129】
上記閾値1、閾値2の値は、デジタルカメラ100で設定されたモードに応じてS502で適宜設定することが可能である。閾値1については、撮影光学系138R、138Lの設定絞り値と、許容錯乱円径との積で求められる焦点深度に基づいて設定することが可能である。
【0130】
なお、S1000においては、デフォーカス量の絶対値がとられて閾値1と比較されるものとする。すなわち、撮影光学系138R、138Lの注目被写体に対する焦点調節状態は、いわゆる前ピンである場合も、後ピンである場合もある。S1000では、前ピンであるか後ピンであるかによらず、注目被写体のデフォーカス量の絶対値がとられて閾値1と比較される。この点、前ピンであるか、後ピンであるかに応じて異なる閾値が設定されてもよい。
【0131】
図11は、図10に示されるフローチャートの処理が行われているときの、撮影光学系138R、138Lの注目被写体に対する焦点調節状態と注目被写体の表示視差量との関係を説明する図である。図11(a)が注目被写体に対する焦点調節状態の時間経過に伴う変化の様子を、図11(b)が注目被写体の表示視差量の時間経過に伴う変化の様子を示す。図11(b)には、表示視差量の変化が比較的大きい場合(曲線p1)と、比較的小さい場合(曲線p2)とが示されている。
【0132】
説明の前提として、タイミングt0で撮影シーンが急に変わったものとする。そして、撮影シーンの変化に伴い、注目被写体は別のものに切り替わって、デフォーカス量がd1に増加したものとする。
【0133】
まず、図11(a)と、図11(b)の曲線p1とを参照して説明をする。曲線p1で示される注目被写体の表示視差量の変化速度は、表示視差量の調整をする前の状態では閾値2を上回っているものとする。タイミングt0以降、焦点調節と立体画像の表示更新が繰り返し行われる。タイミングt1に達するまでは、デフォーカス量は閾値1以上であるため、表示視差量の変化量の大小によらず、表示視差量の調節は行われない。タイミングt1を過ぎると、デフォーカス量は閾値1を下回るようになる。この時点における表示視差量の変化量は閾値2を上回っているので、表示視差量の調節(表示視差量変化速度の抑制)が行われるようになる。その後、タイミングt2で合焦動作は完了する。その後も表示視差量の調節を伴う表示更新が行われ、タイミングt3で注目被写体の表示視差量が注目被写体の実視差量と一致するようになる。
【0134】
次に、図11(a)と図11(b)の曲線p2とを参照して説明をする。曲線p2で示される注目被写体の表示視差量の変化速度は閾値2以下であるものとする。タイミングt0以降、焦点調節と立体画像の表示更新が繰り返し行われる。タイミングt1に達するまでは、デフォーカス量は閾値1以上であるため、表示視差量の変化量の大小によらず、表示視差量の調節は行われない。タイミングt1を過ぎると、デフォーカス量は閾値1を下回るようになる。しかし、表示視差量の変化量は閾値2以下であるので、表示視差量の調節は行われない。その後、タイミングt2で合焦動作は完了する。また、このタイミングt2で注目被写体の表示視差量が注目被写体の実視差量と一致するようになる。なお、注目被写体の表示視差量が注目被写体の実視差量と一致するようになるタイミングと、注目被写体に対する合焦動作が完了するタイミングとは必ずしも同時である必要はない。
【0135】
以上に説明した第4の実施の形態によれば、注目被写体がデジタルカメラ100に対して急に近づき、あるいは急に遠ざかって表示視差量の変化量が比較的大きくなる状況であっても、注目被写体のデフォーカス量が閾値1以上である(注目被写体の像は比較的ぼけている)ときには、注目被写体の表示視差量の大小によらず、表示視差量の調節は行われない。被写体像が比較的大きくぼけている状況では、表示視差量の変化量が比較的大きくても、それを観視する人の眼は疲れにくいからである。一方、注目被写体のデフォーカス量が閾値1を下回り(注目被写体の像は比較的鮮鋭である)、かつ注目被写体の表示視差量の変化量が閾値2を超す状況では表示視差量の調節(表示視差量変化速度の抑制)が行われ、立体画像を観視する人の眼の疲れが抑制される。
【0136】
なお、第1の実施の形態でも説明したように、デジタルカメラ100と注目被写体との間の距離が変わらない状態で撮影光学系138R、138Lの変倍操作(電子ズーム操作)が行われたときにも、表示視差量の変化を生じる。また、注目被写体に合焦していない状態で変倍操作が行われると、注目被写体に対するデフォーカス量は設定焦点距離の二乗に略比例するかたちで変化する。そのような状況においても、図10に示される処理は有効に作用する。
【0137】
注目被写体の像が比較的大きくぼけているときに表示視差量の調節をしないようにすることにより、信号処理部102の処理負荷を減じて消費電力を低減することが可能となる。
【0138】
− 第5の実施の形態 −
図12は、本発明の第5の実施の形態に係るデジタルカメラ100Bの構成を説明するブロック図である。図1に示される第1の実施の形態のデジタルカメラ100との比較において、図12に示されるデジタルカメラ100Bの信号処理部がフォーカシング速度調節部118をさらに備える点が相違する。図12において、図1に示される第1の実施の形態のデジタルカメラ100と同様の構成要素には同じ符号を付してその説明を省略し、第1の実施の形態との差異を中心に説明をする。
【0139】
デジタルカメラ100Bは、第2の実施の形態で図6を参照して説明したような、単眼タイプの撮影光学系138と測距部200とを備えるものであってもよいが、ここでは第1の実施の形態と同様、双眼タイプの撮影光学系138R、138Lを備えるものとして説明する。
【0140】
デジタルカメラ100Bは、位相差AFの方式で自動焦点調節を行うものとする。そして、図7に例示されるような、撮影範囲F内の複数のフォーカスポイントDで位相差を検出可能に構成されるものとする。また、注目被写体検出部116は、第1の実施の形態で説明したAFエリア内被写体認識処理、またはユーザ選択被写体認識処理によって注目被写体を検出するものとする。
【0141】
フォーカシング速度調節部118は、フォーカシング制御部136が撮影光学系138R、138L内の焦点調節機構を駆動して合焦動作を行う際の合焦速度を必要に応じて調節する。フォーカシング速度調節部118は、以下の説明で明らかになるように、注目被写体に対するデフォーカス量の大きさと、注目被写体の表示視差量の変化量の大きさとに基づいて合焦速度を調節する。
【0142】
図13は、撮影動作時にデジタルカメラ100内で実行されるライブビュー立体画像表示の処理手順を概略的に説明するフローチャートである。図13のフローチャート中、第1の実施の形態のデジタルカメラ100内で実行される、図5のフローチャート中の処理と同様の処理ステップには図5に示すものと同じステップ符号を付してその詳細な説明を省略する。そして、第1の実施の形態との違いを中心に説明をする。
【0143】
図5および図13に示されるフローチャートの相違点は、図5のフローチャートにおけるS512、S514、S526の処理が省かれて、S1300、S1302、S1304、S1306の処理がS510の後に追加されている点と、図5のフローチャートにおけるS502の処理がS1310の処理に置き換えられている点である。
【0144】
S500の判定が肯定された場合の分岐先であるS1310においてシステム制御部140は、変更されたモードに応じて焦点調節パラメータを設定する。この焦点調節パラメータには、以下で説明する閾値1や閾値2、そして注目被写体に対して焦点調節を行う際に焦点調節速度を調節して減速する際の調節量等に関するものを含む。
【0145】
システム制御部140はS1300において、注目被写体のデフォーカス量の大きさが閾値1以上であるか否かの判定を行う。すなわち、注目被写体の写る位置にあるフォーカスポイントDにおいて検出されたデフォーカス量が閾値1以上であるか否かの判定を行う。S1300での判定が肯定されるとS1306に進む一方、否定されるとS1302に進む。S1300での判定が否定される、すなわち注目被写体のデフォーカス量が閾値1を下回ると判定された場合の分岐先であるS1302においてシステム制御部140は、注目被写体の視差量の変化量、すなわちS510で比較した、現フレームにおける注目被写体の実視差量と一つ前のフレームにおける注目被写体の表示視差量との差が閾値2を超すか否かを判定する。この判定が肯定されると処理はS1304に進む一方、否定されるとS1306に進む。
【0146】
以上のS1300、S1302、S1304、S1306の処理により、注目被写体のデフォーカス量の大きさが閾値1を下回り(注目被写体の像は比較的鮮鋭であり)、かつ、注目被写体の表示視差量の変化量が閾値2を上回る(注目被写体の表示視差量の変化速度が比較的大きい)ときに、S1304において注目被写体に対する焦点調節の速度を調節する(焦点調節速度を減じる)決定がなされる。注目被写体のデフォーカス量の大きさが閾値1を下回っていても、注目被写体の表示視差量の変化量が閾値2以下(S1302:いいえ)の場合には、S1306において注目被写体に対する焦点調節の速度を調節しない決定がなされる。また、注目被写体のデフォーカス量が閾値1以上である(注目被写体の像は比較的ぼけている)と判定されるときには、注目被写体の表示視差量の大小によらず、S1306で注目被写体に対する焦点調節の速度を調節しない決定がなされる。
【0147】
上記閾値1、閾値2の値は、デジタルカメラ100で設定されたモードに応じてS1310で設定することが可能である。閾値1については、デジタルカメラ100Bで設定されているモードだけではなく、撮影光学系138R、138Lの設定絞り値と、許容錯乱円径との積で求められる焦点深度に基づいて設定することも可能である。
【0148】
S1300においては、デフォーカス量の絶対値がとられて閾値1と比較されるものとする。すなわち、撮影光学系138R、138Lの注目被写体に対する焦点調節状態は、いわゆる前ピンである場合も、後ピンである場合もある。S1300では、前ピンであるか後ピンであるかによらず、注目被写体のデフォーカス量の絶対値がとられて閾値1と比較される。この点、前ピンであるか、後ピンであるかに応じて異なる閾値が設定されてもよい。
【0149】
図14は、図13に示されるフローチャートの処理が行われているときの、撮影光学系138R、138Lの注目被写体に対する焦点調節状態と注目被写体の表示視差量との関係を説明する図である。図14(a)が注目被写体に対する焦点調節状態の時間経過に伴う変化の様子を、図14(b)が注目被写体の表示視差量の時間経過に伴う変化の様子を示す。図14(a)には、焦点調節速度の調節が行われる場合(曲線d1)と、行われない場合(曲線d2)とが示されている。図14(b)には、表示視差量の変化が比較的大きい場合(曲線p3)と、比較的小さい場合(曲線p4)とが示されている。
【0150】
説明の前提として、タイミングt0で撮影シーンが急に変わったものとする。そして、撮影シーンの変化に伴い、注目被写体は別のものに切り替わって、デフォーカス量がd1に増加したものとする。
【0151】
まず、図14(a)の曲線d1と、図14(b)の曲線p3とを参照して説明をする。曲線p3で示される注目被写体の表示視差量の変化速度は閾値2を上回っているものとする。タイミングt0以降、焦点調節と立体画像の表示更新が繰り返し行われる。タイミングt1に達するまでは、デフォーカス量は閾値1以上であるため、表示視差量の変化量の大小によらず、焦点調節速度の調節は行われない。タイミングt1を過ぎると、デフォーカス量は閾値1を下回るようになる。このとき、表示視差量の変化量は閾値2を上回っているので、焦点調節速度の調節(焦点調節速度を減じること)が行われるようになる。その後、タイミングt2で注目被写体の表示視差量が注目被写体の実視差量と一致するようになる。そして、タイミングt3で合焦動作は完了する。
【0152】
次に、図14(a)の曲線d2と図14(b)の曲線p4とを参照して説明をする。曲線p4で示される注目被写体の表示視差量の変化速度は閾値2以下であるものとする。タイミングt0以降、焦点調節と立体画像の表示更新が繰り返し行われる。タイミングt1に達するまでは、デフォーカス量は閾値1以上であるため、表示視差量の変化量の大小によらず、表示視差量の調節は行われない。タイミングt1を過ぎると、デフォーカス量は閾値1を下回るようになる。しかし、表示視差量の変化量は閾値2以下であるので、焦点調節速度の調節は行われない。その後、タイミングt2で合焦動作が完了する。また、このタイミングt2で注目被写体の表示視差量が注目被写体の実視差量と一致するようになる。なお、注目被写体の表示視差量が注目被写体の実視差量と一致するようになるタイミングと、注目被写体に対する合焦動作が完了するタイミングとは必ずしも同時である必要はない。
【0153】
以上に説明した第5の実施の形態によれば、注目被写体がデジタルカメラ100Bに対して急に近づき、あるいは急に遠ざかって表示視差量の変化量が比較的大きくなる状況であっても、注目被写体のデフォーカス量が閾値1以上である(注目被写体の像は比較的ぼけている)ときには、注目被写体の表示視差量の大小によらず、焦点調節速度の調節(減速)は行われない。したがって、比較的高速の合焦動作を行うことが可能となる。被写体像が比較的大きくぼけている状況では、表示視差量の変化量が比較的大きくても、それを観視する人の眼は疲れにくいので、上述したような焦点調節動作を行うことが可能となる。
【0154】
一方、注目被写体のデフォーカス量が閾値1を下回り(注目被写体の像は比較的鮮鋭である)、かつ注目被写体の表示視差量の変化量が閾値2を超す状況では、焦点調節速度の調節(減速)が行われる。その結果、表示視差量の変化の大きさが比較的大きいものの、像のぼけが比較的大きい状態で立体画像の表示更新が行われることになる。表示視差量変化速度が比較的大きくても、表示される像がぼけていれば、立体画像を観視する人は眼の疲れを感じにくくなる。その後、表示される立体画像は、デフォーカス量が徐々に減少するのにつれて鮮鋭なものへと徐々に変化するので、立体画像を観視する人は眼の疲れを感じにくくなる。
【0155】
第5の実施の形態においても、第4の実施の形態で説明したのと同様に、デジタルカメラ100と注目被写体との間の距離が変わらない状態で撮影光学系138R、138Lの変倍操作(電子ズーム操作)が行われたときにも、表示視差量の変化を生じる。また、注目被写体に合焦していない状態で変倍操作が行われても、注目被写体に対するデフォーカス量は設定焦点距離の二乗に略比例するかたちで変化する。そのような状況においても、図13に示される処理は有効に作用する。
【0156】
第5の実施の形態によれば、以上に説明した効果を得ることができるのに加えて、以下の効果も得ることができる。すなわち、立体画像を観視する人の眼の疲れを抑制するために、焦点調節速度を調節する処理のみが行われ、画像処理による表示視差量の変化量を抑制する処理は行われないので、信号処理部102Bの処理負荷を減じることが可能となる。したがって、ハードウェアの規模の縮小や、消費電力を抑制することが可能となる。
【0157】
− 第6の実施の形態 −
第6の実施の形態においては、図12に示される構成を有するデジタルカメラ100Bにおいて、注目被写体に対する現状のデフォーカス量が第1の閾値を下回り、かつ、注目被写体の表示視差量の変化の大きさが第2の閾値を超す場合に焦点調節速度および表示視差量の双方を調節する例を説明する。
【0158】
第6の実施の形態においても、デジタルカメラ100Bは、位相差AFの方式で自動焦点調節を行うものとする。そして、図7に例示されるような、撮影範囲F内の複数のフォーカスポイントDで位相差を検出可能に構成されるものとする。また、注目被写体検出部116は、第1の実施の形態で説明したAFエリア内被写体認識処理、またはユーザ選択被写体認識処理によって注目被写体を検出するものとする。
【0159】
図15は、撮影動作時にデジタルカメラ100内で実行されるライブビュー立体画像表示の処理手順を概略的に説明するフローチャートである。図15のフローチャート中、第1の実施の形態のデジタルカメラ100内で実行される、図5のフローチャート中の処理と同様の処理ステップには図5に示すものと同じステップ符号を付してその詳細な説明を省略する。そして、第1の実施の形態との違いを中心に説明をする。
【0160】
図5および図15に示されるフローチャートの相違点は、図5のフローチャートにおけるS512の処理が省かれて、S1500、S1502、S1504、S1506の処理がS510の後に追加されている点と、図5のフローチャートにおけるS502の処理がS1510の処理に置き換えられている点である。
【0161】
S500の判定が肯定された場合の分岐先であるS1510においてシステム制御部140は、変更されたモードに応じて焦点調節パラメータおよび視差量パラメータを設定する。この焦点調節パラメータおよび視差量パラメータには、以下で説明する閾値1や閾値2、そして注目被写体に対して焦点調節を行う際に焦点調節速度を調節して減速する際の調節量、注目被写体表示視差量変化速度を調節して抑制する際の調節量等に関するものを含む。
【0162】
システム制御部140はS1500において、注目被写体のデフォーカス量の大きさが閾値1以上であるか否かの判定を行う。すなわち、注目被写体の写る位置にあるフォーカスポイントDにおいて検出されたデフォーカス量が閾値1以上であるか否かの判定を行う。S1500での判定が肯定されるとS1506に進む一方、否定されるとS1502に進む。S1500での判定が否定される、すなわち注目被写体のデフォーカス量が閾値1を下回ると判定された場合の分岐先であるS1502においてシステム制御部140は、注目被写体の視差量の変化量、すなわちS510で比較した、現フレームにおける注目被写体の実視差量と一つ前のフレームにおける注目被写体の表示視差量との差が閾値2を超すか否かを判定する。この判定が肯定されると処理はS1504に進む一方、否定されるとS1506に進む。
【0163】
以上のS1500、S1502、S1504、S1506の処理により、注目被写体のデフォーカス量の大きさが閾値1を下回り(注目被写体の像は比較的鮮鋭であり)、かつ、注目被写体の表示視差量の変化量が閾値2を上回る(注目被写体の表示視差量の変化速度が比較的大きい)ときに、S1504において注目被写体に対する焦点調節の速度を調節する(減じる)決定がなされ、続くS514で注目被写体の表示視差量を調節する決定がなされる。注目被写体のデフォーカス量の大きさが閾値1を下回っていても、注目被写体の表示視差量の変化量が閾値2以下(S1502:いいえ)の場合には、S1506において注目被写体に対する焦点調節の速度を調節しない決定がなされ、続くS524において注目被写体の表示視差量を調節しない決定がなされる。また、注目被写体のデフォーカス量が閾値1以上である(注目被写体の像は比較的ぼけている)と判定されるときには、注目被写体の表示視差量の大小によらず、S1506で注目被写体に対する焦点調節の速度を調節しない決定がなされ、続くS524において注目被写体の表示視差量を調節しない決定がなされる。
【0164】
上記閾値1、閾値2の値は、デジタルカメラ100で設定されたモードに応じてS1510で適宜設定することが可能である。閾値1については、デジタルカメラ100Bで設定されているモードだけではなく、撮影光学系138R、138Lの設定絞り値と、許容錯乱円径との積で求められる焦点深度に基づいて設定することも可能である。
【0165】
S1500においては、第5の実施の形態で説明したのと同様、デフォーカス量の絶対値がとられて閾値1と比較されるものとする。また、前ピンであるか、後ピンであるかに応じて異なる閾値が設定されてもよいのも、第5の実施の形態で説明したのと同様である。
【0166】
図16は、図15に示されるフローチャートの処理が行われているときの、撮影光学系138R、138Lの注目被写体に対する焦点調節状態と注目被写体の表示視差量との関係を説明する図である。図16(a)が注目被写体に対する焦点調節状態の時間経過に伴う変化の様子を、図16(b)が注目被写体の表示視差量の時間経過に伴う変化の様子を示す。図16(a)には、焦点調節速度の調節が行われる場合(曲線d3)と、行われない場合(曲線d4)とが示されている。図16(b)には、注目被写体の表示視差量の変化が比較的大きく、注目被写体の表示視差量の調節が行われる場合(曲線p5)と、注目被写体の表示視差量が比較的小さく、注目被写体の表示視差量の調節が行われない場合(曲線p6)とが示されている。
【0167】
説明の前提として、タイミングt0で撮影シーンが急に変わったものとする。そして、撮影シーンの変化に伴い、注目被写体は別のものに切り替わって、デフォーカス量がd1に増加したものとする。
【0168】
まず、図16(a)の曲線d3と、図16(b)の曲線p5とを参照して説明をする。曲線p5で示される注目被写体の表示視差量の変化速度は、調節をしない状態では閾値2を上回っているものとする。タイミングt0以降、焦点調節と立体画像の表示更新が繰り返し行われる。タイミングt1に達するまでは、デフォーカス量は閾値1以上であるため、表示視差量の変化量の大小によらず、焦点調節速度の調節は行われない。タイミングt1を過ぎると、デフォーカス量は閾値1を下回るようになる。このとき、表示視差量の変化量は閾値2を上回っているので、注目被写体に対する焦点調節の速度の調節(焦点調節速度の減速)が行われるようになる。このとき、注目被写体の表示視差量の調節も併せて行われる。その後、タイミングt3で注目被写体の表示視差量が注目被写体の実視差量と一致するようになる。そして、同じタイミングt3で合焦動作は完了する。なお、注目被写体の表示視差量が注目被写体の実視差量と一致するようになるタイミングと、注目被写体に対する合焦動作が完了するタイミングとは必ずしも同時である必要はない。
【0169】
次に、図16(a)の曲線d4と図16(b)の曲線p6とを参照して説明をする。曲線p6で示される注目被写体の表示視差量の変化速度は閾値2以下であるものとする。タイミングt0以降、焦点調節と立体画像の表示更新が繰り返し行われる。タイミングt1に達するまでは、デフォーカス量は閾値1以上であるため、表示視差量の変化量の大小によらず、表示視差量の調節は行われない。タイミングt1を過ぎると、デフォーカス量は閾値1を下回るようになる。しかし、表示視差量の変化量は閾値2以下であるので、焦点調節速度の調節は行われない。その後、タイミングt2で注目被写体に対する合焦動作が完了する。また、このタイミングt2で注目被写体の表示視差量が注目被写体の実視差量と一致するようになる。この場合も、注目被写体の表示視差量が注目被写体の実視差量と一致するようになるタイミングと、注目被写体に対する合焦動作が完了するタイミングとは必ずしも同時である必要はない。
【0170】
以上に説明した第6の実施の形態によれば、注目被写体がデジタルカメラ100Bに対して急に近づき、あるいは急に遠ざかって表示視差量の変化量が比較的大きくなる状況であっても、注目被写体のデフォーカス量が閾値1以上である(注目被写体の像は比較的ぼけている)ときには、注目被写体の表示視差量の大小によらず、注目被写体の表示視差量の調節や注目被写体に対する焦点調節の速度の調節(減速)は行われない。したがって、より短時間のうちに合焦動作を完了することが可能となる。
【0171】
被写体像が比較的大きくぼけている状況では、表示視差量の変化量が比較的大きくても、それを観視する人の眼は疲れにくいので、上述したような焦点調節動作や立体画像の表示更新を行うことが可能となる。一方、注目被写体のデフォーカス量が閾値1を下回り(注目被写体の像は比較的鮮鋭である)、かつ注目被写体の表示視差量の変化量が閾値2を超す状況では注目被写体に対する焦点調節の速度の調節(減速)と、注目被写体の表示視差量の調節(表示視差量変化速度の抑制)とが併行して行われる。その結果、注目被写体の表示視差量の変化の大きさが抑制され、かつ、像の鮮鋭度が比較的ゆっくりと増すように立体画像の表示更新が行われる。そのため、注目被写体とデジタルカメラ100Bとの間の距離が急に変化するような状況であっても、立体画像を観視する人は眼の疲れを感じにくくなる。
【0172】
第6の実施の形態においても、第4あるいは第5の実施の形態で説明したのと同様に、デジタルカメラ100Bと注目被写体との間の距離が変わらない状態で撮影光学系138R、138Lの変倍操作(電子ズーム操作)が行われたときにも、表示視差量の変化を生じる。また、注目被写体に合焦していない状態で変倍操作が行われても、注目被写体に対するデフォーカス量は設定焦点距離の二乗に略比例するかたちで変化する。そのような状況においても、図15に示される処理は有効に作用する。
【0173】
第6の実施の形態によれば、以上に説明した効果を得ることができるのに加えて、以下の効果も得ることができる。すなわち、焦点調節速度を調節する処理と、表示視差量変化速度の抑制処理とが合わせて行われるので、表示される画像の変化をより緩やかにすることが可能となる。そのため、立体画像を観視する人は眼の疲れをより感じにくくなる。例えば、長時間の動画像を撮影する際などに効果を発揮する。
【0174】
以上、第1から第6の実施の形態において注目被写体の表示視差量変化速度や注目被写体に対する焦点調節状態(デフォーカス量)が所定の閾値を超す/超さない場合に基づいて、表示視差量変化速度や焦点調節速度を調節する/しないが決定される例について説明した。これらの例において、閾値を多段に設定し、注目被写体の表示視差量変化速度や注目被写体に対する焦点調節速度の調整がきめ細かく設定されるようにしてもよい。さらに、これらの表示視差量変化速度や焦点調節速度を、注目被写体の表示視差量変化速度や注目被写体に対する焦点調節状態に基づいて無段階に(連続的に)、あるいは無段階に近い状態で調節することも可能である。
【0175】
第1から第6の実施の形態で説明した立体画像撮影装置は、スチルカメラであってもムービーカメラであってもよい。これらの立体画像撮影装置は、携帯電話や他の可搬型の情報処理装置等に内蔵されるものであってもよい。
【符号の説明】
【0176】
100、100A、100B … デジタルカメラ
102、102A、102B … 信号処理部
104、104A … 視差量導出部
106 … 視差量パラメータ記憶部
108 … 表示視差量調節部
110、110A … 焦点検出部
112 … 露光制御部
116 … 注目被写体検出部
118 … フォーカシング速度調節部
120 … 立体画像データ生成部
130、130R、130L … 撮像部
132、132R、132L … 撮像制御部
134、134A … 撮影光学系制御部
136、136A … フォーカシング制御部
138、138R、138L … 撮影光学系
140 … システム制御部
142 … 操作部
150 … 表示制御部
152 … 表示部
154 … 記録制御部
156 … 記録部
200 … 測距部
202 … 視差画像生成部
【技術分野】
【0001】
本発明は、立体画像撮影装置に関し、さらに詳しくは、ライブビュー画像を立体表示可能な立体画像撮影装置に関する。
【背景技術】
【0002】
所定の基線長(ステレオベース)で配置された複数の撮影レンズおよび撮像部を備えて、視差のある一組の画像(以下では視差画像と称する)を得ることの可能なデジタルステレオカメラがある。このデジタルステレオカメラは立体表示可能な表示部を備えていて、視差画像を表示部に表示することにより、ユーザは立体的な画像を観視することができる。
【0003】
立体表示が可能な表示部としては、様々なものが提案されてきている。例えば、右眼用画像、左眼用画像をそれぞれ細かい線状に分割し、それらを表示部上で空間的に交互に表示するものがある。左眼用画像は左眼のみに、右眼用画像は右眼のみに導く必要があるので、左眼用画像表示領域、右眼用画像表示領域の上に、異なる偏光特性を有する線状の偏光フィルタが設けられる。それに対応して左眼用、右眼用で異なる偏光特性を有する眼鏡状のアダプタを通して観ることにより、左眼用画像が左眼のみに、右眼用画像右眼のみに導かれる。右眼用画像、左眼用画像中の視差(画像内に存在する様々な被写体像の相対位置関係の変化)に基づき、その画像を観視したユーザは立体感を知覚する。
【0004】
また、右眼用画像、左眼用画像を表示部に時間的に交互に表示し、その表示切り替えタイミングと同期して眼鏡状のアダプタに内蔵される液晶シャッタを切り換え、右眼用画像が表示されているときにはその画像が右眼に導かれるように、左眼用画像が表示されているときにはその画像が左眼に導かれるようにするものがある。画像の表示切り替えおよび液晶シャッタの切り替えは、例えば1/60秒といった比較的短時間の周期で行われるので、立体画像を観視するユーザは右眼用画像、左眼用画像に基づいて立体感を知覚することができる。
【0005】
あるいは、上述した眼鏡状のアダプタを必要としない、いわゆる裸眼タイプの表示部もある。その例としては、表示部上で、右眼用画像、左眼用画像を細かい縦ストライプ状に分割して空間的に交互に配列して表示し、それらの右眼用画像、左眼用画像をレンチキュラーレンズやパララックスバリア等を用いて右眼、左眼に導くようにしたものがある。上述したいずれの方式においても、ユーザは右眼用画像、左眼用画像を脳内で合成して立体感を知覚する。デジタルステレオカメラ用としては、上述したもののうち、裸眼タイプのものが一般的に用いられる。
【0006】
ところで、眼前に存在する対象物に人が注目するとき、焦点調節と輻輳角の調節とをほぼ無意識に行う。輻輳角は、左右の眼球をカメラユニットに例えて説明すると、両カメラユニットの撮影光学系の光軸が水平面内で交わる角度に相当する。対象物が遠くにあるときには輻輳角は小さくなり(両カメラの撮影光学系の光軸が平行に近くなり)、近くにあるときには輻輳角は大きくなる。人は、自分からある距離の位置に存在する物体を観たときに、水晶体の焦点調節状態、輻輳角の調節結果、見える対象物の大きさや明瞭度等から、生理学的知覚、心理学的知覚に基づいて立体感を感じると云われている。
【0007】
一方、表示部に表示される立体画像を観視する場合、その立体画像を観る眼の焦点調節位置は表示部の表面に固定されたままである。表示部に表示された右眼用画像および左眼用画像を観視したとき、左右両眼の網膜上に像(網膜像)が形成され、人は左眼および右眼の網膜像の差(網膜像差)に基づいて立体画像の奥行きを感じる。従って、実世界ではあり得ない感覚の組み合わせで立体感を感じる。つまり、実在の物を観るときとは異なり、眼の焦点は一定の距離に合わせたままで、網膜像差をよりどころとして脳内で画像の合成が行われ、立体感を感じる。これが立体画像を観視する際に生じる違和感のもととなっていることが知られている。時間の経過とともに視差が逐次変化する立体動画像を観視し続けると、脳は次々と変化する網膜像差に対応して画像を合成する必要があり、視差の変化する立体画像を長時間にわたり観視し続けると疲労感を覚えることが知られている。
【0008】
特許文献1には、その従来技術として、二次元表示から三次元表示、または三次元表示から二次元表示に切り換える際に、トランジション処理(画像を徐々に切り換える処理)によって上述した違和感を減じることができることが開示されている。しかし、トランジション処理を用いて表示を切り換えると、特に二次元表示から三次元表示に切り換えられたときに、現在の表示が三次元表示であるという観察者の認識が欠如する点が問題点として挙げられている。
【0009】
この問題点を解決するため、特許文献1では、三次元画像を表示する際に、三次元画像のうち視差量が小さい部分から視差量が大きい部分に向かって順に、モニタに与える三次元画像の情報を追加してゆく技術が開示されている。この技術によれば、モニタに表示される三次元画像を徐々に完成させてゆくことが可能となる。
【0010】
特許文献2には、立体動画像の撮影シーンが切り換えられる際に奥行き感が変化し、立体視を行うユーザに疲労感が残るのを抑制可能が技術として、以下のようなものが開示される。すなわち、立体画像処理装置が、入力される立体動画像のシーンの切り替わり位置を検出するシーン検出手段を備える。検出されたシーンの切り替わり位置(タイミング)において、奥行き感が徐々に変更されるように、立体動画像の奥行き感を調節する奥行き感調節処理が立体画像に施される。その結果、シーンの切り替わり位置における立体感が徐々に変化するようになり、違和感が減じられる、というものである。
【先行技術文献】
【特許文献】
【0011】
【特許文献1】特開2010−139885号公報
【特許文献2】特開2009−239388号公報
【発明の概要】
【発明が解決しようとする課題】
【0012】
ところで、立体画像を撮影可能な撮影装置の表示部には、ライブビュー画像が表示され、ユーザはこのライブビュー画像を観ながら構図調節や撮影の操作を行う。撮影装置の使用形態は様々であり、動画像撮影を行う場合もあれば静止画像撮影を行う場合もある。同じ静止画の撮影であっても、比較的動きの少ない被写体をじっくりと捉えて撮影することもあれば、頻繁に動き回る被写体を追いながら撮影することもある。
【0013】
撮影装置の使用状況によっては、特許文献1、特許文献2に開示される技術を用いることが必ずしも好結果にはつながらない。そもそも、特許文献1、特許文献2では、表示部をビューファインダとして用いる場合の課題には触れられていない。
【0014】
本発明は、上記の課題に鑑みてなされたものであり、撮影装置の表示部に表示される立体画像を観視するユーザの疲労感を軽減可能としつつ、より的確に被写体を捉えることを可能とする技術を提供することを目的とする。
【課題を解決するための手段】
【0015】
(1) 本発明のある態様によれば、立体画像撮影装置は、
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記表示部に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部であって、前記視差量導出部で導出される前記注目被写体の視差量の時間経過に伴う変化の大きさが閾値を越す場合に、前記表示部に表示される前記注目被写体の表示視差量の時間経過に伴う変化の大きさである表示視差量変化速度が減じられるように調節する、表示視差量調節部と
を備える。
(2) 本発明のある態様によれば、立体画像撮影装置は、
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記撮影光学系の焦点調節状態を検出する焦点検出部と、
前記注目被写体に合焦するように、前記撮影光学系の焦点調節制御を行うフォーカシング制御部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記フォーカシング制御部による焦点調節の速度を変化させるフォーカシング速度調節部であって、前記デフォーカス量の大きさが第1の閾値を下回り、かつ、前記注目被写体の視差量の時間経過に伴う変化の大きさが第2の閾値を上回るときに、焦点調節の速度が減じられるように調節するフォーカシング速度調節部と
を備える。
(3) 本発明のある態様によれば、立体画像撮影装置は、
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記撮影光学系の焦点調節状態を検出する焦点検出部と、
前記注目被写体に合焦するように、前記撮影光学系の焦点調節制御を行うフォーカシング制御部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記表示部に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部であって、前記デフォーカス量の大きさが第1の閾値を下回り、かつ、前記注目被写体の視差量の時間経過に伴う変化の大きさが第2の閾値を上回るときに、前記表示部に表示される前記注目被写体の表示視差量の時間経過に伴う変化の大きさである表示視差量変化速度が減じられるように調節する、表示視差量調節部と
を備える。
(4) 本発明のある態様によれば、立体画像撮影装置は、
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記撮影光学系の焦点調節状態を検出する焦点検出部と、
前記注目被写体に合焦するように、前記撮影光学系の焦点調節制御を行うフォーカシング制御部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記フォーカシング制御部による焦点調節の速度を変化させるフォーカシング速度調節部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記表示部に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部と
を備え、
前記デフォーカス量の大きさが第1の閾値を下回り、かつ、前記注目被写体の視差量の時間経過に伴う変化の大きさが第2の閾値を上回るときに、前記フォーカシング速度調節部は焦点調節の速度を減じるように調節し、かつ、前記表示視差量調節部は前記表示部に表示される前記注目被写体の表示視差量の時間経過に伴う変化の大きさである表示視差量変化速度を減じるように調節する。
【発明の効果】
【0016】
本発明によれば、撮影装置の表示部に表示される立体画像を観視するユーザの疲労感を軽減可能としつつ、より的確に被写体を捉えることを可能となる。
【図面の簡単な説明】
【0017】
【図1】立体画像を撮影、表示可能なデジタルカメラの概略的構成を説明するブロック図である。
【図2】表示部に表示される右眼用の画像が右眼に、左眼用の画像が左眼に、それぞれ導かれて、ユーザが立体画像を観視可能となる構成の一例を説明する図である。
【図3】注目被写体の表示視差量変化速度が調節される様子を概念的に示す図であり、図3(a)は表示視差量変化速度の調節が行われない場合の例を、図3(b)は表示視差量変化速度の調節がより少なめに行われる場合の例を、図3(c)は表示視差量変化速度の調節がより多めに行われる場合の例を、それぞれ示す図である。
【図4】表示視差量変化速度の調節が行われる様子を説明する図であり、図4(a)は撮影して得られた画像に表示視差量変化速度の調節が行われていない、実視差量の変化例を示し、図4(b)は調節が行われた場合の表示視差量の変化例を示す。
【図5】第1の実施の形態に係るデジタルカメラ内のシステム制御部で実行されるライブビュー立体画像表示処理の手順を概略的に示すフローチャートである。
【図6】第2の実施の形態に係るデジタルカメラの概略的構成を説明するブロック図である。
【図7】撮影光学系によって画定される撮影範囲内にデフォーカス量を検出可能なフォーカスポイントが複数配列される例を説明する図である。
【図8】第2の実施の形態に係るデジタルカメラ内のシステム制御部で実行されるライブビュー立体画像表示処理の手順を概略的に示すフローチャートである。
【図9】第3の実施の形態に係るデジタルカメラ内のシステム制御部で実行されるライブビュー立体画像表示処理の手順を概略的に示すフローチャートである。
【図10】第4の実施の形態に係るデジタルカメラ内のシステム制御部で実行されるライブビュー立体画像表示処理の手順を概略的に示すフローチャートである。
【図11】第4の実施の形態に係るデジタルカメラにおいて、撮影光学系の注目被写体に対する焦点調節状態と注目被写体の表示視差量との関係を説明する図であり、図11(a)は、時間経過に伴い、注目被写体に対する焦点調節状態が変化する様子を示し、図11(b)は、時間経過に伴い、注目被写体の表示視差量が変化する様子を示す。
【図12】第5の実施の形態に係るデジタルカメラの概略的構成を説明するブロック図である。
【図13】第5の実施の形態に係るデジタルカメラ内のシステム制御部で実行されるライブビュー立体画像表示処理の手順を概略的に示すフローチャートである。
【図14】第5の実施の形態に係るデジタルカメラにおいて、撮影光学系の注目被写体に対する焦点調節状態と注目被写体の表示視差量との関係を説明する図であり、図14(a)は、時間経過に伴い、注目被写体に対する焦点調節状態が変化する様子を示し、図14(b)は、時間経過に伴い、注目被写体の表示視差量が変化する様子を示す。
【図15】第6の実施の形態に係るデジタルカメラ内のシステム制御部で実行されるライブビュー立体画像表示処理の手順を概略的に示すフローチャートである。
【図16】第6の実施の形態に係るデジタルカメラにおいて、撮影光学系の注目被写体に対する焦点調節状態と注目被写体の表示視差量との関係を説明する図であり、図16(a)は、時間経過に伴い、注目被写体に対する焦点調節状態が変化する様子を示し、図16(b)は、時間経過に伴い、注目被写体の表示視差量が変化する様子を示す。
【発明を実施するための形態】
【0018】
− 第1の実施の形態 −
図1は、本発明の第1の実施の形態に係る立体画像撮影装置100の概略的構成を説明するブロックである。以下では立体画像撮影装置100をデジタルカメラ100と称する。本実施の形態においてデジタルカメラ100は、立体画像の撮影が可能に構成され、静止画像撮影モードおよび動画像撮影モードで動作可能に構成される。ユーザは、これら二つの撮影モードのうち、いずれかの撮影モードに切り換えてデジタルカメラ100を使用する。このとき、切り換えられた静止画像撮影モードおよび動画像撮影モードのいずれにおいても、立体画像を撮影・記録・表示可能に構成される。
【0019】
デジタルカメラ100は、信号処理部102と、二つの撮像部130Rおよび130Lと、二つの撮像制御部132Rおよび132Lと、撮影光学系制御部134と、フォーカシング制御部136と、システム制御部140と、操作部142とを備える。デジタルカメラ100はさらに、表示制御部150と、表示部152と、記録制御部154と、記録部156と、メモリ158とを備える。信号処理部102、システム制御部140、操作部142、表示制御部150、記録制御部154、メモリ158は、システムバス160を介して互いに電気的に接続されている。
【0020】
撮影光学系138R、138Lは、変倍光学系を備えて焦点距離を変更可能に構成されていても、単焦点レンズとして構成されていてもよい。これら二つの撮影光学系138R、138Lの光軸は、所定の距離(ステレオベース)を隔てて平行、または所定の輻輳角が与えられてデジタルカメラ100内に配置される。撮影光学系138R、138Lが焦点距離を変更可能に構成される場合、二つの光学系140R、138Lの焦点距離が常に同じとなるように構成される。撮影光学系138R、138Lは、焦点調節機構、絞り調節機構等を備えており、撮影光学系制御部134によって制御される。このうち、焦点調節機構は、撮影光学系制御部134内のフォーカシング制御部136によって制御される。すなわち、フォーカシング制御部136は、撮影光学系138R、138L内の焦点調節機構を駆動して合焦動作を行う。撮影光学系138R、138Lが電動式のアクチュエータによって焦点距離を変更可能に構成される場合、撮影光学系制御部134によって焦点距離が制御される。撮影光学系138R、138Lは、デジタルカメラ100に対して着脱可能に構成されていても、固定されていてもよい。
【0021】
撮像部130R、130Lはそれぞれ、撮影光学系138R、138Lによって形成される被写体像を光電変換して画像信号を生成する撮像素子と、撮像素子から出力される画像信号を増幅した後、デジタル画像信号に変換するアナログ・フロントエンドとを備えて構成される。撮像制御部132R、132Lはそれぞれ、撮像部130R、130Lにおける撮像および信号読み出しの動作タイミング等を制御する。これらの撮影光学系138R、138Lおよび撮像部130R、130Lによって、視差画像を得ることができる。
【0022】
信号処理部102は、デジタル・シグナル・プロセッサ(DSP)などにより構成され、撮像部130R、130Lから出力されるデジタル画像信号に対してデモザイク、階調変換、色バランス補正、シェーディング補正、ノイズ低減、表示視差量調節処理等のさまざまなデジタル信号処理を施し、立体画像データを生成する。以下では、撮像部130R、130Lのそれぞれから出力される信号を右画像信号、左画像信号と称する。また、信号処理部102で生成される画像データを右画像データ、左画像データと称する。さらに、右画像データ、左画像データによって形成される画像をそれぞれ右画像、左画像と称する。
【0023】
信号処理部102は、視差量導出部104と、視差量パラメータ記憶部106と、表示視差量調節部108と、焦点検出部110と、露光制御部112と、ホワイトバランス調整部114と、注目被写体検出部116と、立体画像データ生成部120とを備える。
【0024】
視差量導出部104は、入力された右画像信号、左画像信号を処理し、左右両画像間の視差量を導出する。視差量の導出に際しては、例えば右画像および左画像のうち、いずれか一方の画像を複数の領域に分割し、分割された領域内の画像(部分画像)をテンプレートとして、他方の画像中で一致する部分を探索する。上記探索の結果、左画像、右画像内において同じ被写体の画像が存在する左右方向の位置の差を視差量として検出することが可能となる。視差量の尺度としては、ピクセル数を用いることが可能である。
【0025】
視差量パラメータ記憶部106には、デジタルカメラ100で設定されている動作モード等に応じて変更可能な視差量パラメータが記憶される。視差量パラメータは、表示部152に立体画像を表示する際の、表示される被写体の像を観たユーザが感じる立体感(奥行き感)を調節する際に参照されるパラメータである。視差量パラメータ記憶部106は、後述するメモリ158内に設けられていても良い。
【0026】
表示視差量調節部108は、表示部152に立体画像を表示する際の、右画像と左画像との間の視差量を調節する処理を行う。表示視差量調節部108における処理についても、その詳細を後で説明する。以下では、視差量導出部104で導出される視差量を実視差量と称し、表示部152に立体画像を表示する際の、右画像と左画像との間の視差量を表示視差量と称する。
【0027】
本実施の形態において、デジタルカメラ100はコントラストAFの方式で自動焦点調節を行うものとする。すなわち、焦点検出部110は、所定のフレームレートで撮像部130R、130Lから出力される右画像信号、左画像信号を処理し、フレームごとに画面内の所定の位置におけるコントラスト値を導出して、いわゆる山登りAFの方式でコントラストの極大値が得られる焦点位置を探索するものとする。フォーカシング制御部136は、焦点検出部110で焦点位置探索結果に基づいて撮影光学系138R、138L内の焦点調節機構を駆動する。なお、焦点検出部110は、撮像部130R、130Lのうち、いずれか一方のみからの画像信号を入力するようにしてもよい。
【0028】
露光制御部112は、露光量の制御を行う。デジタルカメラ100が静止画像撮影モードで動作しているとき、信号処理部102に入力される画像信号の信号値をもとに撮影光学系138R、138Lの絞り値とシャッタ速度とを決定する。一方、デジタルカメラ100が動画像撮影モードで動作しているとき、信号処理部102に入力される画像信号の信号値をもとに撮影光学系138R、138Lの絞り値と、撮像部130R、138Lにおける蓄積時間、すなわち電子シャッタの速度とを決定する。
【0029】
ホワイトバランス調整部114は、信号処理部102に入力された画像信号に対して、ユーザにより設定されたホワイトバランスモードに対応して色変換の処理を行う。また、ユーザにより設定されたホワイトバランスモードが自動ホワイトバランスモードである場合、ホワイトバランス調整部114は、信号処理部102に入力された画像信号を解析し、推定される光源の種類に対応して色変換の処理を行う。あるいは、デジタルカメラ100に光源センサ等が設けられる場合、ホワイトバランス調整部114は、光源センサからの信号を解析して光源の種類を特定し、特定された光源の種類に対応して色変換の処理を行ってもよい。
【0030】
注目被写体検出部116は、画像中に存在する注目被写体を検出する処理を行う。注目被写体を検出する方法は、以下に説明する被写体認識処理、AFエリア内被写体認識処理、ユーザ選択被写体認識処理のうちのいずれかとすることが可能である。
【0031】
被写体認識処理は、信号処理部102に入力される画像信号を解析して、画像中で人や動物の顔、花等の存在を検出し、それを画像内における注目被写体とする方法である。
【0032】
AFエリア内被写体認識処理は、自動焦点調節の処理結果と連動して行われる処理方法である。すなわち、焦点検出部110が、撮影範囲(画面)内において画定された複数のエリアで焦点調節状態を検出可能に構成されている場合に、次のようにして被写体認識処理をすることができる。撮影範囲内における複数のエリアのうち、いずれかのエリアがユーザによって選択された場合、選択されたエリアで検出された焦点調節状態に基づいて焦点調節が行われる。あるいは、上記複数のエリアのうち、所定のアルゴリズムに従っていずれかのエリアが自動選択された場合、自動選択されたエリアで検出された焦点調節状態に基づいて焦点調節が行われる。注目被写体検出部116は、上述のように手動、あるいは自動で選択されたエリアに写っている(捕捉される)被写体を注目被写体とすることが可能である。
【0033】
複数のエリアの中から焦点調節を行う対象のエリアを自動的に選択するアルゴリズムとしては、最も近距離に位置する被写体が存在するエリア、最も遠距離に位置する被写体が存在するエリア、中間の距離に位置する被写体が存在するエリアを選択する方法などがある。あるいは、コントラストの最も高い被写体が存在するエリア、彩度の最も高い被写体が存在するエリア等を選択する方法であってもよい。
【0034】
デジタルカメラ100が、操作部142の一つとして、表示部152の表面に設けられたタッチパネルスイッチを備える場合、表示部152上に表示される画像中、ユーザがタッチパネルを押圧した位置に写っている被写体に優先順位が与えられて焦点調節、露光制御、ホワイトバランス等の処理が行われるようにすることが可能である。このとき、注目被写体検出部116は、表示部152に表示される画像中、ユーザがタッチパネルスイッチを押圧した位置に写っている被写体を注目被写体とすることが可能である。これが、上述したユーザ選択被写体認識処理である。
【0035】
立体画像データ生成部120は、表示視差量調節部108で視差量が調節された左画像データ、右画像データに基づき、立体画像データを生成する。この立体画像データに基づいて、表示部152に立体画像が表示される。この立体画像データは、必要に応じてデジタルカメラ100内に保存する処理が行われる。
【0036】
システム制御部140は、デジタルカメラ100の動作を統括的に制御する。操作部142は、スライドスイッチ、プッシュスイッチ、ダイヤルスイッチ等のうち、いずれか一種または複数種類のスイッチを備え、ユーザの操作を受け付ける。操作部142はまた、上述したタッチパネルスイッチを備えていても良い。ユーザによる操作部142の操作は、システム制御部140によって検出される。システム制御部140は、ユーザによる操作部142の操作に応じてデジタルカメラ100の動作を制御する。
【0037】
ユーザによる操作部142の操作としては、電源スイッチのオン/オフ、動画像撮影モード/静止画像撮影モードの動作モード切替、静止画像記録のためのレリーズスイッチの操作、動画像記録開始/停止のための動画像記録スイッチの操作などがある。また、操作部142を操作することにより、視差量パラメータの設定を変更可能に構成されていてもよい。
【0038】
デジタルカメラ100が静止画像記録モード、あるいは動画像記録モードに設定されている状態で、ユーザは操作部142を操作し、シーンモードやシーン判別モードを選択することも可能である。シーンモードは、風景、花火、ポートレート、スポーツ、子ども、そしてクローズアップといった様々な撮影シーンの中から、ユーザが所望の撮影シーンを選ぶことができ、ユーザの目的とする撮影シーンに対応してより適した撮影設定が自動的になされる動作モードである。
【0039】
シーン判別モードは、撮影シーンを、撮影光学系138R、138Lの設定焦点距離、デジタルカメラ100の動き、ライブビュー表示用画像の解析結果等に基づいて撮影シーンやデジタルカメラ100の使用状況を自動的に判別し、判別されたシーンに対応してより適した撮影設定が自動的になされる動作モードである。自動的になされる動作設定としては、絞り値およびシャッタ速度の組み合わせ、撮像素子の感度、ホワイトバランス、色補正、階調補正などがある。
【0040】
デジタルカメラ100の動作モードが、静止画像撮影モード、動画像撮影モードに切り替えられるのに応じて、視差量パラメータは自動的に変更される。シーンモードが設定された場合にも、ユーザによって選択された撮影シーンに対応して視差量パラメータは自動的に変更される。また、シーン判別モードが設定された場合、判別された撮影シーンに対応して視差量パラメータが自動的に変更される。
【0041】
表示部152は、ユーザが立体画像を観視することが可能に構成される。表示部152は一例として、図2に示されるように、カラー液晶表示パネル152bと、バックライト装置152aと、カラー液晶表示パネル152bの表面に設けられたレンチキュラーシート152c等とを備えて構成される。なお、表示部152がレンチキュラーシート152c等を用いたものである場合、右画像および左画像を縦ストライプ状に分割し、レンチキュラーシート上に形成されるレンチキュラーレンズの配設ピッチに従って、縦ストライプ状に分割した右画像及び左画像を空間的に交互に配列した画像をカラー液晶表示パネル上に表示するべく、表示用画像データが立体画像データ生成部120で生成される。図2には、カラー液晶表示パネル152b上に空間的に交互に表示される右画像Rおよび左画像Lがそれぞれ、立体画像を観視するユーザの右眼RY、左眼LYに、レンチキュラーシート152c上に形成されたレンチキュラーレンズによって導かれる様子が描かれている。
【0042】
表示部152が他の方式によって立体画像を観視可能に構成される場合、その方式に従って表示用画像データが立体画像データ生成部120で生成される。表示制御部150は、信号処理部102で生成された表示用画像データに基づく画像を表示部152に表示する処理を行う。
【0043】
記録部156は、デジタルカメラ100に着脱可能な、不揮発性のフラッシュメモリ等で構成されるメモリカードとすることが可能である。あるいは、デジタルカメラ100に内蔵される不揮発性のメモリとすることが可能である。デジタルカメラ100で撮影され、生成された静止画像データや動画像データは記録部156に所定のファイル形式で記録される。デジタルカメラ100が再生モードに設定されているときには、記録部156に記録された画像ファイルが読み出され、信号処理部102で表示用画像データが生成され、表示部152、あるいはデジタルカメラ100に接続された外部表示装置に画像が表示される。記録制御部154は、記録部156への画像データの書き込み、記録部156からの画像データの読み出しの処理を行う。
【0044】
メモリ158は、SDRAM等の、比較的高速のアクセス速度を有してデータの読み書きが可能なランダム・アクセス・メモリ(RAM)と、フラッシュメモリ等の不揮発性メモリとを備えて構成される。不揮発性メモリには、ファームウェアやデジタルカメラ100に電源が供給されない状態でも保持する必要のある情報が記憶される。ファームウェアは、システム制御部140で実行されるカメラ制御プログラムを含む。メモリ158は、信号処理部102およびシステム制御部140の双方からアクセス可能に構成される。
【0045】
以上では、図1を参照してデジタルカメラ100が双眼タイプの立体画像撮影装置である例を説明したが、これと異なる方式で右画像および左画像が得られるものであってもよい。例えば、三つ以上の撮影光学系を備えるものであってもよいし、一つの撮影光学系内の異なる瞳位置を通過した被写体光を二つの撮像素子に導くものであってもよい。あるいは、単眼の撮影光学系の前面にステレオアダプタを装着する方式であってもよい。ステレオアダプタは、潜望鏡を横に倒したような、光路を水平面上でクランク状に折り曲げる構成の反射光学系を二組備えて、それらを左右に面対称に配列し、被写体の側から左右異なる光路を経てデジタルカメラの単眼の撮影光学系に入射する被写体光を撮像素子の右半分および左半分に導くように構成される装置である。
【0046】
図3は、表示視差量調節部108で行われる処理を概念的に示す図である。図3(a)は、表示視差量の調節が行われない場合の例を、図3(b)は、表示視差量の調節が行われるものの、その調節量が比較的少なめに設定される場合の例を、図3(c)は、表示視差量の調節が行われて、その調節量が比較的多めに設定される場合の例を示す図である。図3(a)、図3(b)、および図3(c)それぞれの一番左に示される図は、ある瞬間(タイミングt0)において撮影されて得られた画像をもとに視差量導出部104で導出された実視差量が示されている。そして、これらの一番左に示される各図の右側には、表示部152に表示される立体画像の表示視差量が時間の経過(タイミングt1、t2、…)に伴って変化する様子が描かれている。
【0047】
図3を参照しての説明の前提として、被写体A、Bは当初(タイミングt0よりも前のタイミングにおいて)、同じ撮影距離の位置に位置していて、その後タイミングt0にかけて被写体Bがデジタルカメラ100に向かって急に近づき、タイミングt0以降、同じ位置にとどまっているものとする。そして、図3(a)、図3(b)、図3(c)それぞれの一番左の図に示されるように、視差量導出部104での処理により、タイミングt0における被写体Aの実視差量はX、被写体Bの実視差量はY(X<Y)と導出されたものとする。また、タイミングt0で得られた画像データに基づき、それに後続するタイミングt1において表示部152に立体画像が表示され、タイミングt1で得られた画像データに基づき、タイミングt2において表示部152に立体画像が表示され、以降、同様の処理が繰り返し行われるものとする。このとき表示部152に表示される立体画像はライブビュー画像であるものとする。なお、図3(a)、図3(b)、図3(c)において、タイミングt0の位置示されているのは、被写体A、Bの実視差量である。つまり、図3(a)、図3(b)、図3(c)のいずれにおいても、タイミングt0において表示部152に表示される立体画像中、被写体A、Bの表示視差量は共にXである。
【0048】
表示視差量の調節が行われない例を示す図3(a)を参照して説明する。タイミングt0において視差量導出部104によって導出された被写体Bの実視差量はXからYに増加している。タイミングt0で表示部152に立体表示されている被写体A、Bの表示視差量は上述のとおり共にXである。そして、タイミングt0で得られた画像データに基づき、タイミングt1で立体画像が表示される。
【0049】
このとき、タイミングt0で得られた画像データに対して表示視差量の調節処理をすることなく表示画像データが生成され、タイミングt1において表示部152に立体画像が表示される。タイミングt0において表示部152に表示されていた立体画像中、被写体Bの表示視差量はXであったので、タイミングt0からt1にかけての被写体Bの表示視差量はXからYへと変化(増加)する。表示部152に表示される立体画像を観視するユーザは、被写体Bの像が画面手前側に向かって急に突出したと感じる。
【0050】
表示視差量の調節が行われるものの、表示視差量の時間変化(表示視差量変化速度)の調節がより少なめに行われる例を示す図3(b)を参照して説明する。図3(a)と同様、タイミングt0において視差量導出部104によって導出された被写体Bの実視差量はYとなっている。
【0051】
表示視差量調節部108で表示視差量変化速度の調節処理が行われ、タイミングt1で表示部152に立体画像が表示される。すなわち、タイミングt0における被写体Bの表示視差量Xに表示視差量の変化量の上限値γaを加算して得られた表示視差量となるように表示画像データが生成されて立体画像が表示される。このタイミングt1では、次の撮影動作が行われて、視差量導出部104で実視差量が導出される。このとき、上述のように、被写体Bはタイミングt0以降、同じ位置にとどまっているものとする。
【0052】
以上の説明からも分かるように、タイミングt1で表示される立体画像は、被写体Bの実際の撮影距離(距離感)を反映したものではない。信号処理部102では、タイミングt0で撮影して得られた右画像データ、左画像データを処理して被写体Bの部分の画像の切り出しや合成等の処理を行い、必要とする表示視差量が得られる表示画像データを生成する。このとき、被写体Aの部分や背景部分等における画像には、表示視差量の調節は行われない。
【0053】
続いてタイミングt2で表示される立体画像について説明する。タイミングt1において視差量導出部104で被写体Bの実視差量がYと導出される。そして、タイミングt1で得られた画像データをもとにタイミングt2で表示をした場合に生じる被写体Bの表示視差量の変化量は依然として上限値γaを超すと判定される。この判定を受けて、表示視差量調節部108で表示視差量変化速度を調節する処理が行われる。その結果、タイミングt2において表示部152に表示される被写体Bの表示視差量は、タイミングt1における表示視差量X+γaにさらにγaを加算して得られた、X+2×γaとなる。
【0054】
タイミングt2で表示される立体画像は、タイミングt1で撮影して得られた右画像データおよび左画像データに、切り出しや合成の処理をして被写体Bの部分の表示視差量がX+2×γaとなるように生成された表示画像データに基づく。このタイミングt2においては、タイミングt3でのライブビュー画像表示のための撮影動作が行われる。
【0055】
タイミングt3で表示される立体画像について説明する。タイミングt2において視差量導出部104で被写体Bの実視差量がYと導出される。そして、タイミングt2で得られた画像データをもとのタイミングt3で表示をした場合に生じる被写体Bの表示視差量の変化量は、上限値γa以下であると判定される。この判定を受けて、表示視差量の調節処理をすることなく表示画像データが生成され、表示部152に立体画像が表示される。タイミングt3において表示される立体画像中、被写体Bの表示視差量はYとなる。つまり、図3(b)に示される例では、表示視差量の変化速度は実視差量の変化速度の略三分の一に調節される。
【0056】
表示視差量の調節が行われて、表示視差量の時間変化の上限が比較的低めに設定される場合の例を示す図3(c)を参照して説明する。基本的には図3(b)に示されるのと同様の処理が行われる。図3(b)との違いは、表示視差量の変化量の上限値がγaよりも小さいγbに設定される点である。その結果、図3(b)の例では被写体Bの表示視差量がタイミングt3において実視差量Y(視差量導出部104で導出された視差量)に追いついているのに対し、図3(c)の例ではタイミングt5で追いついている。つまり、図3(b)に示される例では、表示視差量の変化速度は実視差量の変化速度の略五分の一に調節される。
【0057】
以上、図3を参照しての説明では、被写体Bが急に近づき、立体画像中で被写体Bの像が手前側に突出する場合を例にとり、表示視差量変化速度を必要に応じて抑制する例について説明した。しかし、表示視差量変化速度の抑制は、被写体が急に近づく(視差量が増加する)場合、遠ざかる(視差量が減少する)場合の双方で行うものであってもよい。
【0058】
ところで、以上では、被写体がデジタルカメラ100に向かって近づく、あるいはデジタルカメラ100から遠ざかるのに伴って視差量が変化することについて説明したが、撮影光学系138R、138Lの変倍操作をすることによっても視差量は変化する。このとき、焦点距離を長焦点側に変化させると撮影倍率が増加し、それに伴って視差量も増加する。逆に、焦点距離を短焦点側に変化させると撮影倍率が減少し、それに伴って視差量も減少する。また、撮影光学系138R、138Lの焦点距離を変化させずに、画面の一部を切り取る、いわゆるデジタルズーム、あるいは電子ズームと称される方式で撮影倍率を変化させた場合も同様である。このように、撮影倍率を変化させた場合に生じる視差量の変化にも対応して表示視差量の調節を行うことが可能である。
【0059】
以下、図4を参照して被写体が近づく場合および遠ざかる場合の双方に対応して表示視差量の時間変化が必要に応じて抑制される例について説明する。以下で用いられる「被写体の動き」に関しては、デジタルカメラ100に対して近づく、あるいは遠ざかる方向の動きを意味する。なお、先に説明したように、撮影光学系138R、138Lの変倍動作等によって撮影倍率が増減する場合も同様であるが、ここでは被写体がデジタルカメラ100に対して近づく、あるいは遠ざかるのに対応して視差量が変化する例について説明する。
【0060】
図4(a)は、時間の経過に伴う実視差量の変化例を示すグラフであり、横軸には時間、縦軸には各タイミングで視差量導出部104によって導出された実視差量がとられている。図4(b)は、表示部152に表示される立体画像の表示視差量の変化例を説明するグラフであり、横軸には時間、縦軸には表示視差量調節部108で調節された後の表示視差量がとられている。図4(a)、図4(b)は、同じ時間軸での事象が示されている。以下では、ある数字の付されたタイミングを参照する際には「タイミング10」などと称する。タイミングの時間間隔は、撮影フレームレート、表示フレームレートに一致しているものとする。
【0061】
タイミング1からタイミング4にかけては、被写体の動きが少なく、表示視差量調節部108による表示視差量の調節は行われない。タイミング5からタイミング10にかけては、被写体が急に近づいて来たため、実視差量が急増している。図4中、符号LMT1、LMT2の付された斜めの線は、表示視差量の時間変化の上限(閾値)を概念的に示している。タイミング5からタイミング10においては、実視差量の時間変化、つまり実視差量変化速度が速く、このまま立体画像を表示すると表示視差量変化速度が閾値LMT1以上になると判定される。その結果、表示視差量調節部108において、図3を参照して説明した表示視差量調節の処理が行われる。図4(b)のグラフ中、タイミング5からタイミング10において、調節された表示視差量で立体画像が表示される様子が示されている。図4(b)中、破線で示される棒グラフは、表示視差量が調節されていることを示している。
【0062】
タイミング9からタイミング11にかけては被写体の動きが少ないため、表示視差量がやがて実視差量に追いつく。その結果、タイミング11においては表示視差量の調節が行われずに立体画像が表示される。その様子が図4(b)のタイミング11における実線の棒グラフとして示されている。
【0063】
次にタイミング11からタイミング12の間で被写体が急に遠ざかり、その後タイミング17にかけて、被写体は略同じ距離の位置に存在し続けている。この場合、実視差量の変化速度が速く、このまま立体画像を表示すると表示視差量変化速度が閾値LMT2以上になると判定される(この場合、立体画像は画面手前側から奥側に遠ざかるように奥行き感が変化する)。その結果、表示視差量調節部108において、表示視差量調節の処理が行われて、図4(b)のグラフ中、タイミング12からタイミング17において、調節された表示視差量で立体画像が表示される。つまり、被写体があたかも徐々に遠ざかるかのような奥行き感の変化で立体画像が表示される。なお、本例において表示視差量変化速度は、絶対値で扱われるものとする。すなわち、視差量が増加するか減少するかは考慮しないものとする。無論、視差量が増加するか/減少するかで表示視差量調節の処理内容を変えてもよい。
【0064】
タイミング18からタイミング24にかけて、被写体は傾向として近づいてきており、それに伴って実視差量が傾向として増加している。しかし、実視差量の変化速度がそれほど速くはなく、このまま立体画像を表示しても表示視差量変化速度は閾値LMT1未満であると判定される。その結果、タイミング18から24において、表示視差量の調節は行われない。
【0065】
タイミング24からタイミング25の間で被写体が急に近づき、その後タイミング33まで略同じ距離の位置に被写体がとどまっている。その結果、タイミング25からタイミング28にかけて表示視差量の調節が行われる。やがて、表示視差量が実視差量に追いつき、タイミング29からタイミング33にかけては表示視差量の調節は行われない。
【0066】
タイミング33とタイミング34との間で被写体が急に遠ざかり、その後タイミング43まで略同じ距離の位置に被写体がとどまっている。その結果、タイミング34からタイミング40にかけて表示視差量の調節が行われる。やがて、表示視差量が実視差量に追いつき、タイミング41からタイミング43にかけては表示視差量の調節が行われない。
【0067】
図4では、被写体の近づく方向(視差量の増す方向)、遠ざかる方向(視差量の減少する方向)に対して設定される閾値LMT1、LMT2の傾きの絶対値が略同一であるように描かれているが、異なる値とすることが可能である。立体画像を観視する際、画面の手前側に突出してくる画像を観視する際の眼の疲れよりも、画面の奥側に引っ込んでゆく画像を観視する際の眼の疲れの方が少ないことが知られている。したがって、被写体が遠ざかる場合には閾値を設けないとすることが可能である。あるいは、閾値を高めに設定する(図4に示される符号LMT2が付される線の傾きを増す)ことも可能である。
【0068】
また、表示視差量変化速度の上限は、図4に示すように、時間の経過によらず一定の値であってもよいし、時間の経過に伴って変化するものであってもよい。例えば、時間の経過とともにLMT1(LMT2)が非線形に変化するようにし、表示視差量変化速度を、現状の表示視差量と実視差量との差が大きいうちは早くなるようにして、表示視差量と実視差量との差が小さくなるにつれて遅くなるように(あるいはその逆になるように)してもよい。
【0069】
また、デジタルカメラ100の動作モードが静止画像撮影モード、あるいは動画像撮影モードに切り換えられるのに応じて上記の閾値や表示視差量変化速度の上限を変更可能に構成されていてもよい。さらに、デジタルカメラ100でシーンモードやシーン判別モードが設定されている場合、選択されている撮影シーン、あるいは自動判別されたシーンに応じて上記の閾値や表示視差量変化速度の上限を変更可能に構成されていてもよい。
【0070】
例えば、動画像撮影モード時、ユーザは比較的長い時間にわたり、表示部152に表示される画像を観視し続けることになる。そのような場合には、上記の閾値や表示視差量変化速度の上限を低めに設定することが可能である。そうすることにより、立体画像の奥行き感の変化がより穏やかとなり、ユーザの疲労感を抑制することが可能となる。このとき、記録画像データについては、表示視差量の調節をしないものを生成してもよいし、調節したものを生成してもよい。また、記録画像データの表示視差量の調節をする/しないをユーザが選択可能に構成されていてもよい。
【0071】
一方、静止画像撮影モード時には、表示部152に表示されるライブビュー画像を観視する時間は、動画像撮影モード時に比して短めとなることが予想される。そのような場合には、表示視差量の調節をしないで(表示視差量変化速度の上限を高めに設定して)表示部152に立体画像を表示し、記録画像データを生成することが可能である。そうすることにより、より立体感のある画像を得ることが可能となり、ライブビュー画像を観たユーザはどのような立体画像を得ることができるかを直観的に把握することが可能となる。また、実視差量により近い表示視差量で被写体の像が表示されるので、特に動いている被写体のライブビュー画像を観ながら撮影をする際に、より実際に近い状態で被写体を捉えることが可能となり、シャッタチャンスを捉えやすくなる。
【0072】
設定されたシーンモードの種類によって、あるいはシーン判別モードでのシーン判別結果により、ユーザがどのような被写体を撮影しようとしているのかを知ることができる。例えば、シーンモードとして風景や花火、あるいはポートレートの撮影を想定したモードが選択されている場合、撮影距離が目まぐるしく変化する可能性は少ないので、立体画像の奥行き感も大きく変化する可能性は少ない。このような場合、上記の閾値や表示視差量変化速度の上限を高めに設定、あるいは閾値を設定しないようにすることが可能である。逆に、スポーツシーン、あるいは子ども等を撮影することを想定したモードが選択されている場合、被写体が動き回って撮影距離が目まぐるしく変化する可能性がある。そのような被写体を撮影するモードが選択された場合、上記の閾値や表示視差量変化速度の上限を低めに設定することにより、立体画像の奥行き感の変化を抑制してユーザの疲労感を抑制することが可能となる。
【0073】
上記の閾値や表示視差量変化速度の上限に関しては、ユーザの好みに応じてマニュアル設定可能に構成されていてもよい。立体画像を観視しているユーザが感じる疲労の度合いには個人差があり、また、ユーザの体調にも左右される場合があるので、ユーザによるマニュアル設定を可能とすることによりデジタルカメラ100の使い勝手を向上させることが可能となる。上記の閾値や表示視差量変化速度の上限に関する情報は、視差量パラメータとして視差量パラメータ記憶部106に記憶される。
【0074】
ところで、実際の撮影シーンを想定した場合に、撮影シーン中には様々な動きをする多数の被写体が存在している場合がある。また、ユーザが撮影しようとしている被写体とデジタルカメラ100との間に通行人や自動車等が割って入ることもある。本実施の形態においては、デジタルカメラ100が注目被写体検出部116を備えていて、上述した表示視差量調節部108による表示視差量調節の処理は、注目被写体検出部116で検出された被写体に対して行われる。本明細書中では、注目被写体検出部116で検出された被写体を「注目被写体」と称する。
【0075】
ユーザがライブビュー表示される立体画像を観ながら被写体を追う場合を想定すると、ユーザは注目被写体を注視している可能性が高い。そこで、上述した表示視差量調節の処理は、注目被写体のみに対して行う。一方、背景や前景等、注目被写体以外の被写体については、表示視差量調節の処理を行わない。このようにして画像を処理することにより、信号処理部102での処理負荷を低減することが可能となる。その結果、信号処理部102のハードウェア規模の縮小や消費電力の抑制と云った効果を得ることが可能となる。
【0076】
図5は、撮影動作時にデジタルカメラ100内で実行されるライブビュー立体画像表示の処理手順を概略的に説明するフローチャートである。図5のフローチャートに示される処理は、デジタルカメラ100が撮影モードに切り替えられたときにシステム制御部140によって実行される。
【0077】
S500においてシステム制御部140は、デジタルカメラ100の動作モードの変更の有無を判定する。S500での判定が肯定された場合には、変更された動作モードに応じて視差量パラメータを設定する処理がS502で行われ、S504に進む。一方、S500での処理が否定された場合、処理はS504に進む。ここで、視差量パラメータは、先に図3や図4を参照して説明した閾値や表示視差量変化速度の上限に関する情報を含む。
【0078】
S504においてシステム制御部140は、1フレーム分の右画像データおよび左画像データを取得する処理を行うよう、信号処理部102に制御信号を出力する。システム制御部140はS506において、注目被写体検出処理を行うよう、信号処理部102に制御信号を出力する。注目被写体検出処理は、注目被写体検出部116で行われる。
【0079】
S508においてシステム制御部140は、注目被写体の実視差量を導出する処理を行うよう、信号処理部102に制御信号を出力する。そしてシステム制御部140は、信号処理部102から出力された実視差量の情報をメモリ158に一時的に記録する。
【0080】
システム制御部140はS510において、S508の処理で得られた現フレームの実視差量と、一つ前のフレームの表示視差量とを比較する。すなわち、メモリ158に記録されているこれら現フレームの実視差量および一つ前のフレームの表示視差量を読み出して比較する。S510で比較されるのは、現フレームの注目被写体の実視差量と、一つ前のフレームにおける注目被写体の表示視差量である。
【0081】
S512においてシステム制御部140は、注目被写体の視差量の変化量、すなわちS510で比較した、現フレームにおける注目被写体の実視差量と一つ前のフレームにおける注目被写体の表示視差量との差が閾値を超すか否かを判定する。S512での判定が肯定されるとS514の処理に進む一方、S512での判定が否定されるとS526の処理に進む。
【0082】
S512での判定が肯定された場合の分岐先であるS514において、システム制御部140は注目被写体の画像の表示視差量を調節する決定をする。そしてS516において、視差量パラメータ記憶部106に記憶された視差量パラメータ中、現状の動作モードに対応する視差量パラメータに基づいて、注目被写体の画像の表示視差量を調節した右画像データおよび左画像データを生成するように信号処理部102に制御信号を出力する。
【0083】
一方、S512での判定が否定された場合の分岐先であるS526では、表示視差量を調節する処理をしない決定がなされ、S516の処理がスキップされてS518に進む。
【0084】
S518においてシステム制御部140は、焦点調節を行うようにフォーカシング制御部136に制御信号を出力する。すなわち、システム制御部140は、撮像部130R、130Lから出力される右画像信号および左画像信号で生成される画像のコントラストが増す方向に焦点調節動作が行われるよう、フォーカシング制御部136に制御信号を出力する。
【0085】
S520においてシステム制御部140は、立体画像を表示部152に表示するように信号処理部102に制御信号を出力する。信号処理部102は、表示部152における立体画像の表示方式に従って表示画像データを生成し、表示制御部150に出力する。この処理の結果、1フレーム分のライブビュー画像(立体画像)が表示部152に表示される。
【0086】
上述した表示画像データを信号処理部102で生成するにあたり、S514で表示視差量を調節する(表示視差量変化速度を抑制する)決定がなされた場合には、S516で生成された、注目被写体の画像の表示視差量を調節した右画像データおよび左画像データが用いられる。一方、S526で表示視差量を調節しない決定がなされた場合には、S504の処理で取得された右画像データおよび左画像データが用いられる。
【0087】
S522においてシステム制御部140は、S520の処理で表示部152に表示された立体画像の表示視差量をメモリ158に記録する。S524では、ライブビュー表示動作(動画像撮影が行われているときには動画像撮影動作)を継続するか否かの判定がなされ、この判定が肯定される間は上述した処理が継続して行われて表示部152に表示されるライブビュー画像が更新される。S524の判定が否定されると、システム制御部140は図5に示す一連の処理を完了し、ライブビュー表示動作を停止する。
【0088】
以上のように、第1の実施の形態に係る立体画像撮影装置によれば、ライブビュー表示される立体画像中で、注目被写体の部分の表示視差量が必要に応じて調節される(表示視差量変化速度が抑制される)ので、ライブビュー画像を観視するユーザの疲労感を抑制可能となる。また、動画像撮影モード、静止画像撮影モードや、シーンモードで選択されている撮影シーン、あるいはシーン判別モードで自動判別された撮影シーン等に応じて、ライブビュー表示される立体画像中の注目被写体の表示視差量を調節する際の視差量パラメータが変更されるので、使用状況に適した奥行き感の立体画像を表示することが可能となる。
【0089】
− 第2の実施の形態 −
図6は、本発明の第2の実施の形態に係る立体画像撮影装置としてのデジタルカメラ100Aの概略的構成を説明するブロック図である。図1に示される第1の実施の形態のデジタルカメラ100と同様の構成要素には同じ符号を付してその説明を省略し、第1の実施の形態との差異を中心に説明をする。
【0090】
図1に示されるデジタルカメラ100が双眼タイプの撮影光学系138R、138Lを備えるのに対して、デジタルカメラ100Aは単眼タイプの撮影光学系138を備える点が大きな違いである。デジタルカメラ100Aでは、1フレーム分の撮影動作に対応して一つの画像データのみが得られる。そして、後で詳述するように、撮影シーン中に写る様々な被写体の、デジタルカメラ100Aからの距離の分布(これをデプスマップと称する)を得て、得られた距離の分布に対応して被写体ごとに異なる表示視差量を付与した立体画像データを合成によって生成する。
【0091】
測距部200は、撮影光学系138によって捉えられる画角内(撮影範囲内)において、各被写体とデジタルカメラ100Aとの間の距離の分布を検出可能に構成される。本実施の形態において、測距部200がTTL式の位相差検出装置を用いるものである例について説明する。TTL式の位相差検出装置は、撮影光学系138内の異なる瞳位置を透過した被写体光を、反射光学系、コンデンサレンズ、セパレータレンズ等を介してAF素子上に導き、AF素子上に形成される像のずれ(位相差)をもとに、予定焦点面に対するピントずれ量(デフォーカス量)を検出する装置である。あるいは、撮像素子上の受光エリア内に位相差検出画素を埋め込んだものを用い、上述した反射光学系、コンデンサレンズ、セパレータレンズ等を省略したものとすることも可能である。
【0092】
TTL式の位相差検出装置で検出された上記デフォーカス量と、撮影光学系138の焦点距離情報と、撮影光学系138のレンズ位置情報とから、被写体がデジタルカメラ100Aからどれくらいの距離に位置するかを導出可能である。ここで、レンズ位置情報とは、撮影光学系138内のフォーカシングレンズの、無限遠に焦点が合う位置からの移動量に関する情報である。このレンズ位置情報は、焦点距離情報とともに撮影光学系138から得ることができるものとする。
【0093】
例えば、撮影光学系138の焦点距離が50mmで、現状で撮影光学系138は2mの撮影距離にピントが合う位置にフォーカシングレンズが位置し、このときのデフォーカス量が後ピン側に0.2mmである、といった情報が得られれば、画面内のデフォーカス検出エリア内に位置する被写体とデジタルカメラ100Aとの間の実際の距離を導出することが可能である。このとき、上記セパレータレンズやAF素子を、撮影範囲内の複数の点でデフォーカス量を検出可能に構成することにより、撮影光学系138によって捉えられる画角内における各被写体とデジタルカメラ100Aとの間の距離(以下では「各被写体までの距離」と表現する)の分布を導出することができる。
【0094】
図7には、撮影光学系138によって画定される撮影範囲F内においてデフォーカス量を検出可能なフォーカスポイントDの配置例を示す。図7では、31個のフォーカスポイントでデフォーカス量を検出可能な例が示されるが、一つのフォーカスポイントのみに符号Dが付されている。つまり、図7の例では撮影光学系138によって捉えられる撮影範囲内の31個のフォーカスポイントで各被写体までの距離の分布を得ることができる。無論、デフォーカス量を検出可能なフォーカスポイントの数およびその配置については、様々に変更可能である。デプスマップを生成する際、フォーカスポイントDの存在しない領域では補間や外挿の処理等によって被写体までの距離を推定することが可能である。
【0095】
測距部200は、外部測距装置として構成されていてもよい。例えば、撮影光学系138によって捉えられる撮影範囲に対応する被写界を赤外ビーム等で面状にスキャンし、そのときに反射光を検出して、撮影範囲内における各被写体までの距離の分布、すなわちデプスマップを得ることができる。また、光を用いずに、超音波を出射し、その反射波をセンサで検出することにより、あるいはミリ波レーダ等によって、各被写体までの距離の分布を得ることも可能である。
【0096】
撮影光学系138は、変倍光学系を備えて焦点距離を変更可能に構成されていても、単焦点レンズとして構成されていてもよい。撮影光学系138はまた、デジタルカメラ100Aに対して着脱可能に構成されていても、固定されていてもよい。撮像部130は、図1を参照して説明した撮像部130Rまたは130Lと同様の構成を有する。同じく、撮像制御部132も撮像制御部132Rまたは132Lと同様の構成を有する。撮影光学系制御部134Aは、一つの撮影光学系138の焦点調節動作、絞り調節動作、焦点距離変更動作を制御する以外は第1の実施の形態の撮影光学系制御部134と同様である。フォーカシング制御部136Aも、一つの撮影光学系138の焦点調節機構を駆動する以外、第1の実施の形態のフォーカシング制御部136と同様である。
【0097】
信号処理部102Aは、第1の実施の形態で説明した信号処理部102の視差量導出部104が視差量導出部104Aに、焦点検出部110が焦点検出部110Aに置き換えられ、視差画像生成部202をさらに備える点が信号処理部102と異なる。
【0098】
第1の実施の形態において視差量導出部104は、撮像部130R、130Lから出力される右画像信号、左画像信号をもとに生成された右画像データおよび左画像データをもとに視差量を導出するものとして説明した。これに対し、第2の実施の形態における視差量導出部104Aは、図7に示す撮影範囲F内の複数のフォーカスポイントDに対応して測距部200から得られる各被写体までの距離の情報に基づき、各フォーカスポイントに対応する視差量(実視差量)を導出する。
【0099】
焦点検出部110Aは、測距部200において各フォーカスポイントDに対応して検出されたデフォーカス量をもとに撮影光学系138の焦点調節状態を検出する。
【0100】
視差画像生成部202は、撮像部130から出力された画像信号を処理して得られた画像データを、視差量導出部104において各フォーカスポイントDに対応して(あるいはデプスマップに対応して)導出された実視差量をもとに、視差画像を生成する。すなわち、視差画像生成部202は、画像内の各被写体像に対して、視差量導出部104で導出された視差量が付与されるように右画像データおよび左画像データを生成する。
【0101】
以上が第1の実施の形態のデジタルカメラ100との違いである。すなわち、デジタルカメラ100が双眼タイプの撮影光学系によって右画像、左画像を得ているのに対して、第2の実施の形態のデジタルカメラ100Aは、単眼の撮影光学系によって得られた、いわば2Dの画像データから合成によって右画像データおよび左画像データ、すなわち3Dの画像データを生成する。
【0102】
図8は、撮影動作時にデジタルカメラ100A内で実行されるライブビュー立体画像表示の処理手順を概略的に説明するフローチャートである。図8のフローチャート中、第1の実施の形態のデジタルカメラ100内で実行される、図5のフローチャート中の処理と同様の処理ステップには図5に示すものと同じステップ符号を付してその詳細な説明を省略する。そして、第1の実施の形態との違いを中心に説明をする。
【0103】
図5に示すフローチャート中、1フレーム分の右画像データおよび左画像データを取得する処理を信号処理部102に行わせる処理ステップであるS504の処理ステップが、図8のフローチャートではS800の処理ステップに置き換えられている。また、図5に示すフローチャート中、撮影して得られた右画像、左画像をもとに注目被写体の実視差量を導出する処理を信号処理部102に行わせるS508の処理ステップが図8のフローチャートではS802の処理ステップに置き換えられている。
【0104】
システム制御部140はS800において、1フレーム分の2D画像データを取得する処理を行うように信号処理部102Aに制御信号を出力する。システム制御部140はまた、測距部200から得られた各被写体までの距離の情報をもとに、画面内の各被写体までの距離に対応した視差が付与された右画像データおよび左画像データを生成する処理を行うように、信号処理部102に制御信号を出力する。
【0105】
S506の注目被写体検出処理は、例えば、図7に示される31個のフォーカスポイントD中、所定の焦点調節アルゴリズムに従って選択されたフォーカスポイントおよびその周辺に写る被写体を注目被写体とする処理とすることが可能である。複数のフォーカスポイントの中からいずれかを自動選択するアルゴリズムとしては、最も近距離に位置する被写体が存在するエリア、最も遠距離に位置する被写体が存在するエリア、中間の距離に位置する被写体が存在するエリアを選択する方法等がある。あるいは、複数のフォーカスポイントの中からユーザが操作部122を操作して選択した一または複数のフォーカスポイントおよびその周辺に写る被写体を注目被写体とする処理とすることも可能である。
【0106】
システム制御部140はS802において、視差量導出部104Aで導出された、各フォーカスポイントDに対応する実視差量中、注目被写体の実視差量を抽出してメモリ158に一時的に記録する。
【0107】
S512での判定が肯定されてS514において表示視差量を調節するとの決定がなされた場合には、S502で設定された視差量パラメータに基づいて注目被写体の部分の表示視差量を調節した(注目被写体の表示視差量変化速度を抑制した)右画像データおよび左画像データがS516で生成される。そしてS520において、この右画像データおよび左画像データを用いて立体画像表示処理が行われる。
【0108】
あるいは、S512での判定が否定された場合の分岐先であるS526において表示視差量を調節しないとの決定がなされた場合には、S800で生成された右画像データおよび左画像データを用いての立体画像表示処理がS520で行われる。
【0109】
以上では、S514において表示視差量を調節するとの決定がなされた場合に、S800で一旦生成された右画像データおよび左画像データに処理が加えられる例について説明した。これに関して、S800における右画像データおよび左画像データを生成する処理を省いてもよい。そして、S514、S526での決定の後に右画像データおよび左画像データを生成する処理を行うようにしてもよい。
【0110】
すなわち、S514で表示視差量を調節するとの決定がなされた場合には、S800で取得した2D画像データと、視差量導出部104Aで導出された各フォーカスポイントDに対応する実視差量、そしてS502で設定された視差量パラメータに基づいて右画像データおよび左画像データを生成すればよい。この場合、注目被写体の部分の表示視差量を調節した右画像データおよび左画像データが得られる。一方、S526で表示視差量を調節しないとの決定がなされた場合には、S800で取得した2D画像データと、視差量導出部104Aで導出された各フォーカスポイントDに対応する実視差量とに基づいて右画像データおよび左画像データを生成すればよい。
【0111】
ところで、第2の実施の形態においては、測距部200から得られた各被写体までの距離の情報に基づいて視差量を求める例について説明した。このとき、第1の実施の形態でも説明したように、撮影光学系138の変倍動作や、いわゆる電子ズーム等を行って撮影倍率を変化させた場合にも視差量は変化する。したがって、第2の実施の形態においては、撮影光学系138の焦点距離情報(電子ズーム等が行われる場合には等価の焦点距離情報)と、測距部200から得られる各被写体までの距離の情報とに基づいて実視差を導出することが望ましい。
【0112】
以上に説明した第2の実施の形態によれば、測距部200から得られる各被写体までの距離の情報(デプスマップ)に基づいて実視差量を得ることが可能であるので、単眼の撮影光学系によって得られた2D画像データから立体画像データを得ることが可能となる。この場合、画像ファイルを生成して保存する際に、各被写体までの距離の情報をメタデータとして画像データに付加することも可能である。そして、この画像データファイルをもとにパーソナルコンピュータ(PC)等で再生表示を行う場合、以下のように再生表示をすることが可能である。
【0113】
3D表示に対応していないPCで画像を再生表示する場合、メタデータ中の上記距離の情報は無視されて通常の2D表示が行われる。3D表示に対応しているPC上で再生表示を行う場合、画像ファイルに付加されるメタデータをもとにして右画像データ、左画像データを生成することが可能である。これらの右画像データ、左画像データに基づき、PCの表示装置の立体画像表示方式に対応した立体画像データが生成され、3D表示が行われる。PC上で再生表示される画像は静止画であっても動画であってもよい。動画が生成表示される場合には図8のフローチャートを参照して説明した処理と同様の処理を行い、表示視差量変化速度を調節することも可能である。
【0114】
以上に説明したように、第2の実施の形態に係るデジタルカメラ100Aにおいても、ライブビュー画像を観視するユーザの疲労感を抑制可能となる。また、動画像撮影モード、静止画像撮影モードや、シーンモードで選択されている撮影シーン、あるいはシーン判別モードで自動判別された撮影シーン等に応じて、ライブビュー表示される立体画像中の注目被写体の表示視差量を調節する際の視差量パラメータが変更されるので、使用状況に適した奥行き感の立体画像を表示することが可能となる。
【0115】
− 第3の実施の形態 −
第1の実施の形態でも説明したが、表示視差量が増加する場合に比して減少する場合の方がユーザの疲労感は少ないことが知られている。そこで、第3の実施の形態においては、図1に示される構成を有するデジタルカメラ100において、表示されている立体画像の表示視差量の増加速度が所定の閾値を越す場合にのみ、視差量を調節する例を説明する。
【0116】
図9は、撮影動作時にデジタルカメラ100内で実行されるライブビュー立体画像表示の処理手順を概略的に説明するフローチャートである。図9のフローチャート中、第1の実施の形態のデジタルカメラ100内で実行される、図5のフローチャート中の処理と同様の処理ステップには図5に示すものと同じステップ符号を付してその詳細な説明を省略する。そして、第1の実施の形態との違いを中心に説明をする。
【0117】
図5および図9に示されるフローチャートの相違点は、図9のフローチャート中、S510とS512との間にS900の処理が挿入される点である。S504で取得した1フレーム分の右画像データおよび左画像データをもとに、S508の処理により、注目被写体の実視差量が導出、記録される。
【0118】
S510では、現フレームの実視差量と一つ前のフレームの表示視差量との比較が行われる。現フレームの実視差量は、S508で導出された、注目被写体の実視差量である。一つ前のフレームの表示視差量は、一つ前のフレームにおける注目被写体の表示視差量である。S900では、S510での比較結果に基づき、現フレームの注目被写体の実視差量が、一つ前のフレームにおける注目被写体の表示視差量を超しているか否かが判定される。すなわち、現フレームの実視差量で立体画像を表示した場合に、注目被写体の像が一つ前のフレームでの表示状態に比して、画面手前側により突出して見えるか否かの判定がS900で行われる。
【0119】
S900の判定が肯定された場合、すなわち現フレームの実視差量で立体画像を表示した場合に、一つ前のフレームでの表示状態に比して、注目被写体の表示視差量が増加し、画面手前側に、より突出して見えるようになると判定された場合には、処理はS512に進む。一方、S900の判定が否定された場合、すなわち、現フレームの実視差量で立体画像を表示した場合に、表示視差量は変化しない、もしくは、減少すると判定された場合、処理はS526に分岐する。
【0120】
S510とS512との間に上述したS900の処理が挿入されることにより、注目被写体の表示視差量が減少する(立体画像中で注目被写体が画面奥側に向かって遠ざかるように見える)ときには、表示視差量変化速度によらず表示視差量を調節する処理(表示視差量変化速度を抑制する処理)がスキップされる。一方、注目被写体の表示視差量が増加(立体画像中で注目被写体が近寄ってきて突出感が増す)ときには、第1の実施の形態で説明したのと同様の処理が行われる。その結果、注目被写体表示視差量が増す(注目被写体が近づいてくる)場合において、その表示視差量変化速度が所定の閾値を越す場合には、注目被写体の画像の表示視差量が調節されて表示視差量変化速度が抑制される。その結果、立体画像を観視するユーザの疲労感を抑制することが可能となる。
【0121】
S900の判定処理により、注目被写体の表示視差量が一つ前のフレームと同じ、もしくは減少する場合に表示視差量を調節する処理がスキップされることにより、以下の効果を得ることが可能となる。一つは、信号処理部102の処理負荷の低減が可能となり、それに伴い、電力の消費量を抑制可能となる点である。もう一つは、注目被写体が急に遠ざかる場合には立体表示される画像中の注目被写体の像も急に遠ざかる(画面奥側に向かって後退する)ように見えるので、表示される立体画像の奥行き感を強調できる点である。
【0122】
以上、第3の実施の形態で説明した処理、すなわち、表示視差量が減少する場合には表示視差量の変化量によらず、表示視差量を調節するのをスキップすることは、他の実施の形態のデジタルカメラでも行うことが可能である。
【0123】
− 第4の実施の形態 −
第4の実施の形態においては、図1に示される構成を有するデジタルカメラ100と同様、時間の経過とともに注目被写体の表示視差量が増加する場合、減少する場合の双方において、表示視差量変化速度が閾値を越す場合に注目被写体の表示視差量を調節する。第1の実施の形態との違いは、第4の実施の形態において、撮影光学系138R、138Lの注目被写体に対するデフォーカス量が予め定められた閾値以上である場合に、注目被写体の表示視差量の変化量の大きさによらず、表示視差量の調節を行わない点である。
【0124】
第4の実施の形態において、デジタルカメラ100は位相差AFの方式で自動焦点調節を行うものとする。このとき、図7に例示されるような、撮影範囲F内の複数のフォーカスポイントDで位相差を検出可能に構成されるものとする。また、注目被写体検出部116は、第1の実施の形態で説明したAFエリア内被写体認識処理、またはユーザ選択被写体認識処理によって注目被写体を検出するものとする。
【0125】
図10は、撮影動作時にデジタルカメラ100内で実行されるライブビュー立体画像表示の処理手順を概略的に説明するフローチャートである。図10のフローチャート中、第1の実施の形態のデジタルカメラ100内で実行される、図5のフローチャート中の処理と同様の処理ステップには図5に示すものと同じステップ符号を付してその詳細な説明を省略する。そして、第1の実施の形態との違いを中心に説明をする。
【0126】
図5および図10に示されるフローチャートの相違点は、S512の処理が削除されてS1000、S1002の判定処理がS510の後に追加されている点である。
【0127】
システム制御部140はS1000において、注目被写体のデフォーカス量の大きさが閾値1以上であるか否かの判定を行う。すなわち、注目被写体の写る位置にあるフォーカスポイントDにおいて検出されたデフォーカス量が閾値1以上であるか否かの判定を行う。S1000での判定が肯定されるとS526に進む一方、否定されるとS1002に進む。S1000での判定が否定される、すなわち注目被写体のデフォーカス量が閾値1を下回ると判定された場合の分岐先であるS1002においてシステム制御部140は、注目被写体の視差量の変化量、すなわちS510で比較した、現フレームにおける注目被写体の実視差量と一つ前のフレームにおける注目被写体の表示視差量との差が閾値2を超すか否かを判定する。この判定が肯定されると処理はS514に進む一方、否定されるとS526に進む。
【0128】
以上のS1000、S1002の判定処理により、注目被写体のデフォーカス量の大きさが閾値1を下回り(注目被写体の像は比較的鮮鋭であり)、かつ、注目被写体の表示視差量の変化量が閾値2を上回る(注目被写体の表示視差量の変化速度が比較的大きい)ときに、S514において表示視差量を調節する処理(表示視差量変化速度を抑制する処理)が行われる。また、注目被写体のデフォーカス量が閾値1以上である(注目被写体の像は比較的ぼけている)と判定されるときには、注目被写体の表示視差量の大小によらず、表示視差量の調節は行われない。
【0129】
上記閾値1、閾値2の値は、デジタルカメラ100で設定されたモードに応じてS502で適宜設定することが可能である。閾値1については、撮影光学系138R、138Lの設定絞り値と、許容錯乱円径との積で求められる焦点深度に基づいて設定することが可能である。
【0130】
なお、S1000においては、デフォーカス量の絶対値がとられて閾値1と比較されるものとする。すなわち、撮影光学系138R、138Lの注目被写体に対する焦点調節状態は、いわゆる前ピンである場合も、後ピンである場合もある。S1000では、前ピンであるか後ピンであるかによらず、注目被写体のデフォーカス量の絶対値がとられて閾値1と比較される。この点、前ピンであるか、後ピンであるかに応じて異なる閾値が設定されてもよい。
【0131】
図11は、図10に示されるフローチャートの処理が行われているときの、撮影光学系138R、138Lの注目被写体に対する焦点調節状態と注目被写体の表示視差量との関係を説明する図である。図11(a)が注目被写体に対する焦点調節状態の時間経過に伴う変化の様子を、図11(b)が注目被写体の表示視差量の時間経過に伴う変化の様子を示す。図11(b)には、表示視差量の変化が比較的大きい場合(曲線p1)と、比較的小さい場合(曲線p2)とが示されている。
【0132】
説明の前提として、タイミングt0で撮影シーンが急に変わったものとする。そして、撮影シーンの変化に伴い、注目被写体は別のものに切り替わって、デフォーカス量がd1に増加したものとする。
【0133】
まず、図11(a)と、図11(b)の曲線p1とを参照して説明をする。曲線p1で示される注目被写体の表示視差量の変化速度は、表示視差量の調整をする前の状態では閾値2を上回っているものとする。タイミングt0以降、焦点調節と立体画像の表示更新が繰り返し行われる。タイミングt1に達するまでは、デフォーカス量は閾値1以上であるため、表示視差量の変化量の大小によらず、表示視差量の調節は行われない。タイミングt1を過ぎると、デフォーカス量は閾値1を下回るようになる。この時点における表示視差量の変化量は閾値2を上回っているので、表示視差量の調節(表示視差量変化速度の抑制)が行われるようになる。その後、タイミングt2で合焦動作は完了する。その後も表示視差量の調節を伴う表示更新が行われ、タイミングt3で注目被写体の表示視差量が注目被写体の実視差量と一致するようになる。
【0134】
次に、図11(a)と図11(b)の曲線p2とを参照して説明をする。曲線p2で示される注目被写体の表示視差量の変化速度は閾値2以下であるものとする。タイミングt0以降、焦点調節と立体画像の表示更新が繰り返し行われる。タイミングt1に達するまでは、デフォーカス量は閾値1以上であるため、表示視差量の変化量の大小によらず、表示視差量の調節は行われない。タイミングt1を過ぎると、デフォーカス量は閾値1を下回るようになる。しかし、表示視差量の変化量は閾値2以下であるので、表示視差量の調節は行われない。その後、タイミングt2で合焦動作は完了する。また、このタイミングt2で注目被写体の表示視差量が注目被写体の実視差量と一致するようになる。なお、注目被写体の表示視差量が注目被写体の実視差量と一致するようになるタイミングと、注目被写体に対する合焦動作が完了するタイミングとは必ずしも同時である必要はない。
【0135】
以上に説明した第4の実施の形態によれば、注目被写体がデジタルカメラ100に対して急に近づき、あるいは急に遠ざかって表示視差量の変化量が比較的大きくなる状況であっても、注目被写体のデフォーカス量が閾値1以上である(注目被写体の像は比較的ぼけている)ときには、注目被写体の表示視差量の大小によらず、表示視差量の調節は行われない。被写体像が比較的大きくぼけている状況では、表示視差量の変化量が比較的大きくても、それを観視する人の眼は疲れにくいからである。一方、注目被写体のデフォーカス量が閾値1を下回り(注目被写体の像は比較的鮮鋭である)、かつ注目被写体の表示視差量の変化量が閾値2を超す状況では表示視差量の調節(表示視差量変化速度の抑制)が行われ、立体画像を観視する人の眼の疲れが抑制される。
【0136】
なお、第1の実施の形態でも説明したように、デジタルカメラ100と注目被写体との間の距離が変わらない状態で撮影光学系138R、138Lの変倍操作(電子ズーム操作)が行われたときにも、表示視差量の変化を生じる。また、注目被写体に合焦していない状態で変倍操作が行われると、注目被写体に対するデフォーカス量は設定焦点距離の二乗に略比例するかたちで変化する。そのような状況においても、図10に示される処理は有効に作用する。
【0137】
注目被写体の像が比較的大きくぼけているときに表示視差量の調節をしないようにすることにより、信号処理部102の処理負荷を減じて消費電力を低減することが可能となる。
【0138】
− 第5の実施の形態 −
図12は、本発明の第5の実施の形態に係るデジタルカメラ100Bの構成を説明するブロック図である。図1に示される第1の実施の形態のデジタルカメラ100との比較において、図12に示されるデジタルカメラ100Bの信号処理部がフォーカシング速度調節部118をさらに備える点が相違する。図12において、図1に示される第1の実施の形態のデジタルカメラ100と同様の構成要素には同じ符号を付してその説明を省略し、第1の実施の形態との差異を中心に説明をする。
【0139】
デジタルカメラ100Bは、第2の実施の形態で図6を参照して説明したような、単眼タイプの撮影光学系138と測距部200とを備えるものであってもよいが、ここでは第1の実施の形態と同様、双眼タイプの撮影光学系138R、138Lを備えるものとして説明する。
【0140】
デジタルカメラ100Bは、位相差AFの方式で自動焦点調節を行うものとする。そして、図7に例示されるような、撮影範囲F内の複数のフォーカスポイントDで位相差を検出可能に構成されるものとする。また、注目被写体検出部116は、第1の実施の形態で説明したAFエリア内被写体認識処理、またはユーザ選択被写体認識処理によって注目被写体を検出するものとする。
【0141】
フォーカシング速度調節部118は、フォーカシング制御部136が撮影光学系138R、138L内の焦点調節機構を駆動して合焦動作を行う際の合焦速度を必要に応じて調節する。フォーカシング速度調節部118は、以下の説明で明らかになるように、注目被写体に対するデフォーカス量の大きさと、注目被写体の表示視差量の変化量の大きさとに基づいて合焦速度を調節する。
【0142】
図13は、撮影動作時にデジタルカメラ100内で実行されるライブビュー立体画像表示の処理手順を概略的に説明するフローチャートである。図13のフローチャート中、第1の実施の形態のデジタルカメラ100内で実行される、図5のフローチャート中の処理と同様の処理ステップには図5に示すものと同じステップ符号を付してその詳細な説明を省略する。そして、第1の実施の形態との違いを中心に説明をする。
【0143】
図5および図13に示されるフローチャートの相違点は、図5のフローチャートにおけるS512、S514、S526の処理が省かれて、S1300、S1302、S1304、S1306の処理がS510の後に追加されている点と、図5のフローチャートにおけるS502の処理がS1310の処理に置き換えられている点である。
【0144】
S500の判定が肯定された場合の分岐先であるS1310においてシステム制御部140は、変更されたモードに応じて焦点調節パラメータを設定する。この焦点調節パラメータには、以下で説明する閾値1や閾値2、そして注目被写体に対して焦点調節を行う際に焦点調節速度を調節して減速する際の調節量等に関するものを含む。
【0145】
システム制御部140はS1300において、注目被写体のデフォーカス量の大きさが閾値1以上であるか否かの判定を行う。すなわち、注目被写体の写る位置にあるフォーカスポイントDにおいて検出されたデフォーカス量が閾値1以上であるか否かの判定を行う。S1300での判定が肯定されるとS1306に進む一方、否定されるとS1302に進む。S1300での判定が否定される、すなわち注目被写体のデフォーカス量が閾値1を下回ると判定された場合の分岐先であるS1302においてシステム制御部140は、注目被写体の視差量の変化量、すなわちS510で比較した、現フレームにおける注目被写体の実視差量と一つ前のフレームにおける注目被写体の表示視差量との差が閾値2を超すか否かを判定する。この判定が肯定されると処理はS1304に進む一方、否定されるとS1306に進む。
【0146】
以上のS1300、S1302、S1304、S1306の処理により、注目被写体のデフォーカス量の大きさが閾値1を下回り(注目被写体の像は比較的鮮鋭であり)、かつ、注目被写体の表示視差量の変化量が閾値2を上回る(注目被写体の表示視差量の変化速度が比較的大きい)ときに、S1304において注目被写体に対する焦点調節の速度を調節する(焦点調節速度を減じる)決定がなされる。注目被写体のデフォーカス量の大きさが閾値1を下回っていても、注目被写体の表示視差量の変化量が閾値2以下(S1302:いいえ)の場合には、S1306において注目被写体に対する焦点調節の速度を調節しない決定がなされる。また、注目被写体のデフォーカス量が閾値1以上である(注目被写体の像は比較的ぼけている)と判定されるときには、注目被写体の表示視差量の大小によらず、S1306で注目被写体に対する焦点調節の速度を調節しない決定がなされる。
【0147】
上記閾値1、閾値2の値は、デジタルカメラ100で設定されたモードに応じてS1310で設定することが可能である。閾値1については、デジタルカメラ100Bで設定されているモードだけではなく、撮影光学系138R、138Lの設定絞り値と、許容錯乱円径との積で求められる焦点深度に基づいて設定することも可能である。
【0148】
S1300においては、デフォーカス量の絶対値がとられて閾値1と比較されるものとする。すなわち、撮影光学系138R、138Lの注目被写体に対する焦点調節状態は、いわゆる前ピンである場合も、後ピンである場合もある。S1300では、前ピンであるか後ピンであるかによらず、注目被写体のデフォーカス量の絶対値がとられて閾値1と比較される。この点、前ピンであるか、後ピンであるかに応じて異なる閾値が設定されてもよい。
【0149】
図14は、図13に示されるフローチャートの処理が行われているときの、撮影光学系138R、138Lの注目被写体に対する焦点調節状態と注目被写体の表示視差量との関係を説明する図である。図14(a)が注目被写体に対する焦点調節状態の時間経過に伴う変化の様子を、図14(b)が注目被写体の表示視差量の時間経過に伴う変化の様子を示す。図14(a)には、焦点調節速度の調節が行われる場合(曲線d1)と、行われない場合(曲線d2)とが示されている。図14(b)には、表示視差量の変化が比較的大きい場合(曲線p3)と、比較的小さい場合(曲線p4)とが示されている。
【0150】
説明の前提として、タイミングt0で撮影シーンが急に変わったものとする。そして、撮影シーンの変化に伴い、注目被写体は別のものに切り替わって、デフォーカス量がd1に増加したものとする。
【0151】
まず、図14(a)の曲線d1と、図14(b)の曲線p3とを参照して説明をする。曲線p3で示される注目被写体の表示視差量の変化速度は閾値2を上回っているものとする。タイミングt0以降、焦点調節と立体画像の表示更新が繰り返し行われる。タイミングt1に達するまでは、デフォーカス量は閾値1以上であるため、表示視差量の変化量の大小によらず、焦点調節速度の調節は行われない。タイミングt1を過ぎると、デフォーカス量は閾値1を下回るようになる。このとき、表示視差量の変化量は閾値2を上回っているので、焦点調節速度の調節(焦点調節速度を減じること)が行われるようになる。その後、タイミングt2で注目被写体の表示視差量が注目被写体の実視差量と一致するようになる。そして、タイミングt3で合焦動作は完了する。
【0152】
次に、図14(a)の曲線d2と図14(b)の曲線p4とを参照して説明をする。曲線p4で示される注目被写体の表示視差量の変化速度は閾値2以下であるものとする。タイミングt0以降、焦点調節と立体画像の表示更新が繰り返し行われる。タイミングt1に達するまでは、デフォーカス量は閾値1以上であるため、表示視差量の変化量の大小によらず、表示視差量の調節は行われない。タイミングt1を過ぎると、デフォーカス量は閾値1を下回るようになる。しかし、表示視差量の変化量は閾値2以下であるので、焦点調節速度の調節は行われない。その後、タイミングt2で合焦動作が完了する。また、このタイミングt2で注目被写体の表示視差量が注目被写体の実視差量と一致するようになる。なお、注目被写体の表示視差量が注目被写体の実視差量と一致するようになるタイミングと、注目被写体に対する合焦動作が完了するタイミングとは必ずしも同時である必要はない。
【0153】
以上に説明した第5の実施の形態によれば、注目被写体がデジタルカメラ100Bに対して急に近づき、あるいは急に遠ざかって表示視差量の変化量が比較的大きくなる状況であっても、注目被写体のデフォーカス量が閾値1以上である(注目被写体の像は比較的ぼけている)ときには、注目被写体の表示視差量の大小によらず、焦点調節速度の調節(減速)は行われない。したがって、比較的高速の合焦動作を行うことが可能となる。被写体像が比較的大きくぼけている状況では、表示視差量の変化量が比較的大きくても、それを観視する人の眼は疲れにくいので、上述したような焦点調節動作を行うことが可能となる。
【0154】
一方、注目被写体のデフォーカス量が閾値1を下回り(注目被写体の像は比較的鮮鋭である)、かつ注目被写体の表示視差量の変化量が閾値2を超す状況では、焦点調節速度の調節(減速)が行われる。その結果、表示視差量の変化の大きさが比較的大きいものの、像のぼけが比較的大きい状態で立体画像の表示更新が行われることになる。表示視差量変化速度が比較的大きくても、表示される像がぼけていれば、立体画像を観視する人は眼の疲れを感じにくくなる。その後、表示される立体画像は、デフォーカス量が徐々に減少するのにつれて鮮鋭なものへと徐々に変化するので、立体画像を観視する人は眼の疲れを感じにくくなる。
【0155】
第5の実施の形態においても、第4の実施の形態で説明したのと同様に、デジタルカメラ100と注目被写体との間の距離が変わらない状態で撮影光学系138R、138Lの変倍操作(電子ズーム操作)が行われたときにも、表示視差量の変化を生じる。また、注目被写体に合焦していない状態で変倍操作が行われても、注目被写体に対するデフォーカス量は設定焦点距離の二乗に略比例するかたちで変化する。そのような状況においても、図13に示される処理は有効に作用する。
【0156】
第5の実施の形態によれば、以上に説明した効果を得ることができるのに加えて、以下の効果も得ることができる。すなわち、立体画像を観視する人の眼の疲れを抑制するために、焦点調節速度を調節する処理のみが行われ、画像処理による表示視差量の変化量を抑制する処理は行われないので、信号処理部102Bの処理負荷を減じることが可能となる。したがって、ハードウェアの規模の縮小や、消費電力を抑制することが可能となる。
【0157】
− 第6の実施の形態 −
第6の実施の形態においては、図12に示される構成を有するデジタルカメラ100Bにおいて、注目被写体に対する現状のデフォーカス量が第1の閾値を下回り、かつ、注目被写体の表示視差量の変化の大きさが第2の閾値を超す場合に焦点調節速度および表示視差量の双方を調節する例を説明する。
【0158】
第6の実施の形態においても、デジタルカメラ100Bは、位相差AFの方式で自動焦点調節を行うものとする。そして、図7に例示されるような、撮影範囲F内の複数のフォーカスポイントDで位相差を検出可能に構成されるものとする。また、注目被写体検出部116は、第1の実施の形態で説明したAFエリア内被写体認識処理、またはユーザ選択被写体認識処理によって注目被写体を検出するものとする。
【0159】
図15は、撮影動作時にデジタルカメラ100内で実行されるライブビュー立体画像表示の処理手順を概略的に説明するフローチャートである。図15のフローチャート中、第1の実施の形態のデジタルカメラ100内で実行される、図5のフローチャート中の処理と同様の処理ステップには図5に示すものと同じステップ符号を付してその詳細な説明を省略する。そして、第1の実施の形態との違いを中心に説明をする。
【0160】
図5および図15に示されるフローチャートの相違点は、図5のフローチャートにおけるS512の処理が省かれて、S1500、S1502、S1504、S1506の処理がS510の後に追加されている点と、図5のフローチャートにおけるS502の処理がS1510の処理に置き換えられている点である。
【0161】
S500の判定が肯定された場合の分岐先であるS1510においてシステム制御部140は、変更されたモードに応じて焦点調節パラメータおよび視差量パラメータを設定する。この焦点調節パラメータおよび視差量パラメータには、以下で説明する閾値1や閾値2、そして注目被写体に対して焦点調節を行う際に焦点調節速度を調節して減速する際の調節量、注目被写体表示視差量変化速度を調節して抑制する際の調節量等に関するものを含む。
【0162】
システム制御部140はS1500において、注目被写体のデフォーカス量の大きさが閾値1以上であるか否かの判定を行う。すなわち、注目被写体の写る位置にあるフォーカスポイントDにおいて検出されたデフォーカス量が閾値1以上であるか否かの判定を行う。S1500での判定が肯定されるとS1506に進む一方、否定されるとS1502に進む。S1500での判定が否定される、すなわち注目被写体のデフォーカス量が閾値1を下回ると判定された場合の分岐先であるS1502においてシステム制御部140は、注目被写体の視差量の変化量、すなわちS510で比較した、現フレームにおける注目被写体の実視差量と一つ前のフレームにおける注目被写体の表示視差量との差が閾値2を超すか否かを判定する。この判定が肯定されると処理はS1504に進む一方、否定されるとS1506に進む。
【0163】
以上のS1500、S1502、S1504、S1506の処理により、注目被写体のデフォーカス量の大きさが閾値1を下回り(注目被写体の像は比較的鮮鋭であり)、かつ、注目被写体の表示視差量の変化量が閾値2を上回る(注目被写体の表示視差量の変化速度が比較的大きい)ときに、S1504において注目被写体に対する焦点調節の速度を調節する(減じる)決定がなされ、続くS514で注目被写体の表示視差量を調節する決定がなされる。注目被写体のデフォーカス量の大きさが閾値1を下回っていても、注目被写体の表示視差量の変化量が閾値2以下(S1502:いいえ)の場合には、S1506において注目被写体に対する焦点調節の速度を調節しない決定がなされ、続くS524において注目被写体の表示視差量を調節しない決定がなされる。また、注目被写体のデフォーカス量が閾値1以上である(注目被写体の像は比較的ぼけている)と判定されるときには、注目被写体の表示視差量の大小によらず、S1506で注目被写体に対する焦点調節の速度を調節しない決定がなされ、続くS524において注目被写体の表示視差量を調節しない決定がなされる。
【0164】
上記閾値1、閾値2の値は、デジタルカメラ100で設定されたモードに応じてS1510で適宜設定することが可能である。閾値1については、デジタルカメラ100Bで設定されているモードだけではなく、撮影光学系138R、138Lの設定絞り値と、許容錯乱円径との積で求められる焦点深度に基づいて設定することも可能である。
【0165】
S1500においては、第5の実施の形態で説明したのと同様、デフォーカス量の絶対値がとられて閾値1と比較されるものとする。また、前ピンであるか、後ピンであるかに応じて異なる閾値が設定されてもよいのも、第5の実施の形態で説明したのと同様である。
【0166】
図16は、図15に示されるフローチャートの処理が行われているときの、撮影光学系138R、138Lの注目被写体に対する焦点調節状態と注目被写体の表示視差量との関係を説明する図である。図16(a)が注目被写体に対する焦点調節状態の時間経過に伴う変化の様子を、図16(b)が注目被写体の表示視差量の時間経過に伴う変化の様子を示す。図16(a)には、焦点調節速度の調節が行われる場合(曲線d3)と、行われない場合(曲線d4)とが示されている。図16(b)には、注目被写体の表示視差量の変化が比較的大きく、注目被写体の表示視差量の調節が行われる場合(曲線p5)と、注目被写体の表示視差量が比較的小さく、注目被写体の表示視差量の調節が行われない場合(曲線p6)とが示されている。
【0167】
説明の前提として、タイミングt0で撮影シーンが急に変わったものとする。そして、撮影シーンの変化に伴い、注目被写体は別のものに切り替わって、デフォーカス量がd1に増加したものとする。
【0168】
まず、図16(a)の曲線d3と、図16(b)の曲線p5とを参照して説明をする。曲線p5で示される注目被写体の表示視差量の変化速度は、調節をしない状態では閾値2を上回っているものとする。タイミングt0以降、焦点調節と立体画像の表示更新が繰り返し行われる。タイミングt1に達するまでは、デフォーカス量は閾値1以上であるため、表示視差量の変化量の大小によらず、焦点調節速度の調節は行われない。タイミングt1を過ぎると、デフォーカス量は閾値1を下回るようになる。このとき、表示視差量の変化量は閾値2を上回っているので、注目被写体に対する焦点調節の速度の調節(焦点調節速度の減速)が行われるようになる。このとき、注目被写体の表示視差量の調節も併せて行われる。その後、タイミングt3で注目被写体の表示視差量が注目被写体の実視差量と一致するようになる。そして、同じタイミングt3で合焦動作は完了する。なお、注目被写体の表示視差量が注目被写体の実視差量と一致するようになるタイミングと、注目被写体に対する合焦動作が完了するタイミングとは必ずしも同時である必要はない。
【0169】
次に、図16(a)の曲線d4と図16(b)の曲線p6とを参照して説明をする。曲線p6で示される注目被写体の表示視差量の変化速度は閾値2以下であるものとする。タイミングt0以降、焦点調節と立体画像の表示更新が繰り返し行われる。タイミングt1に達するまでは、デフォーカス量は閾値1以上であるため、表示視差量の変化量の大小によらず、表示視差量の調節は行われない。タイミングt1を過ぎると、デフォーカス量は閾値1を下回るようになる。しかし、表示視差量の変化量は閾値2以下であるので、焦点調節速度の調節は行われない。その後、タイミングt2で注目被写体に対する合焦動作が完了する。また、このタイミングt2で注目被写体の表示視差量が注目被写体の実視差量と一致するようになる。この場合も、注目被写体の表示視差量が注目被写体の実視差量と一致するようになるタイミングと、注目被写体に対する合焦動作が完了するタイミングとは必ずしも同時である必要はない。
【0170】
以上に説明した第6の実施の形態によれば、注目被写体がデジタルカメラ100Bに対して急に近づき、あるいは急に遠ざかって表示視差量の変化量が比較的大きくなる状況であっても、注目被写体のデフォーカス量が閾値1以上である(注目被写体の像は比較的ぼけている)ときには、注目被写体の表示視差量の大小によらず、注目被写体の表示視差量の調節や注目被写体に対する焦点調節の速度の調節(減速)は行われない。したがって、より短時間のうちに合焦動作を完了することが可能となる。
【0171】
被写体像が比較的大きくぼけている状況では、表示視差量の変化量が比較的大きくても、それを観視する人の眼は疲れにくいので、上述したような焦点調節動作や立体画像の表示更新を行うことが可能となる。一方、注目被写体のデフォーカス量が閾値1を下回り(注目被写体の像は比較的鮮鋭である)、かつ注目被写体の表示視差量の変化量が閾値2を超す状況では注目被写体に対する焦点調節の速度の調節(減速)と、注目被写体の表示視差量の調節(表示視差量変化速度の抑制)とが併行して行われる。その結果、注目被写体の表示視差量の変化の大きさが抑制され、かつ、像の鮮鋭度が比較的ゆっくりと増すように立体画像の表示更新が行われる。そのため、注目被写体とデジタルカメラ100Bとの間の距離が急に変化するような状況であっても、立体画像を観視する人は眼の疲れを感じにくくなる。
【0172】
第6の実施の形態においても、第4あるいは第5の実施の形態で説明したのと同様に、デジタルカメラ100Bと注目被写体との間の距離が変わらない状態で撮影光学系138R、138Lの変倍操作(電子ズーム操作)が行われたときにも、表示視差量の変化を生じる。また、注目被写体に合焦していない状態で変倍操作が行われても、注目被写体に対するデフォーカス量は設定焦点距離の二乗に略比例するかたちで変化する。そのような状況においても、図15に示される処理は有効に作用する。
【0173】
第6の実施の形態によれば、以上に説明した効果を得ることができるのに加えて、以下の効果も得ることができる。すなわち、焦点調節速度を調節する処理と、表示視差量変化速度の抑制処理とが合わせて行われるので、表示される画像の変化をより緩やかにすることが可能となる。そのため、立体画像を観視する人は眼の疲れをより感じにくくなる。例えば、長時間の動画像を撮影する際などに効果を発揮する。
【0174】
以上、第1から第6の実施の形態において注目被写体の表示視差量変化速度や注目被写体に対する焦点調節状態(デフォーカス量)が所定の閾値を超す/超さない場合に基づいて、表示視差量変化速度や焦点調節速度を調節する/しないが決定される例について説明した。これらの例において、閾値を多段に設定し、注目被写体の表示視差量変化速度や注目被写体に対する焦点調節速度の調整がきめ細かく設定されるようにしてもよい。さらに、これらの表示視差量変化速度や焦点調節速度を、注目被写体の表示視差量変化速度や注目被写体に対する焦点調節状態に基づいて無段階に(連続的に)、あるいは無段階に近い状態で調節することも可能である。
【0175】
第1から第6の実施の形態で説明した立体画像撮影装置は、スチルカメラであってもムービーカメラであってもよい。これらの立体画像撮影装置は、携帯電話や他の可搬型の情報処理装置等に内蔵されるものであってもよい。
【符号の説明】
【0176】
100、100A、100B … デジタルカメラ
102、102A、102B … 信号処理部
104、104A … 視差量導出部
106 … 視差量パラメータ記憶部
108 … 表示視差量調節部
110、110A … 焦点検出部
112 … 露光制御部
116 … 注目被写体検出部
118 … フォーカシング速度調節部
120 … 立体画像データ生成部
130、130R、130L … 撮像部
132、132R、132L … 撮像制御部
134、134A … 撮影光学系制御部
136、136A … フォーカシング制御部
138、138R、138L … 撮影光学系
140 … システム制御部
142 … 操作部
150 … 表示制御部
152 … 表示部
154 … 記録制御部
156 … 記録部
200 … 測距部
202 … 視差画像生成部
【特許請求の範囲】
【請求項1】
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記表示部に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部であって、前記視差量導出部で導出される前記注目被写体の視差量の時間経過に伴う変化の大きさが閾値を越す場合に、前記表示部に表示される前記注目被写体の表示視差量の時間経過に伴う変化の大きさである表示視差量変化速度が減じられるように調節する、表示視差量調節部と
を備えることを特徴とする立体画像撮影装置。
【請求項2】
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記撮影光学系の焦点調節状態を検出する焦点検出部と、
前記注目被写体に合焦するように、前記撮影光学系の焦点調節制御を行うフォーカシング制御部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記フォーカシング制御部による焦点調節の速度を変化させるフォーカシング速度調節部であって、前記デフォーカス量の大きさが第1の閾値を下回り、かつ、前記注目被写体の視差量の時間経過に伴う変化の大きさが第2の閾値を上回るときに、焦点調節の速度が減じられるように調節するフォーカシング速度調節部と
を備えることを特徴とする立体画像撮影装置。
【請求項3】
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記撮影光学系の焦点調節状態を検出する焦点検出部と、
前記注目被写体に合焦するように、前記撮影光学系の焦点調節制御を行うフォーカシング制御部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記表示部に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部であって、前記デフォーカス量の大きさが第1の閾値を下回り、かつ、前記注目被写体の視差量の時間経過に伴う変化の大きさが第2の閾値を上回るときに、前記表示部に表示される前記注目被写体の表示視差量の時間経過に伴う変化の大きさである表示視差量変化速度が減じられるように調節する、表示視差量調節部と
を備えることを特徴とする立体画像撮影装置。
【請求項4】
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記撮影光学系の焦点調節状態を検出する焦点検出部と、
前記注目被写体に合焦するように、前記撮影光学系の焦点調節制御を行うフォーカシング制御部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記フォーカシング制御部による焦点調節の速度を変化させるフォーカシング速度調節部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記表示部に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部と
を備え、
前記デフォーカス量の大きさが第1の閾値を下回り、かつ、前記注目被写体の視差量の時間経過に伴う変化の大きさが第2の閾値を上回るときに、前記フォーカシング速度調節部は焦点調節の速度を減じるように調節し、かつ、前記表示視差量調節部は前記表示部に表示される前記注目被写体の表示視差量の時間経過に伴う変化の大きさである表示視差量変化速度を減じるように調節する
ことを特徴とする立体画像撮影装置。
【請求項5】
前記立体画像撮影装置は、動画像撮影モードと静止画像撮影モードとに撮影動作モードを切り替え可能に構成され、
前記フォーカシング速度調節部は、前記立体画像撮影装置が、前記静止画像撮影モードに切り替えられているときの焦点調節の速度に比して、前記動画像撮影モードに切り替えられているときの焦点調節の速度がより低くなるように調節することを特徴とする請求項2または4に記載の立体画像撮影装置。
【請求項6】
前記立体画像撮影装置は、動画像撮影モードと静止画像撮影モードとに撮影動作モードを切り替え可能に構成され、
前記表示視差量調節部は、前記静止画像撮影モードに切り替えられているときの前記表示視差量変化速度に比して、前記動画像撮影モードに切り替えられているときの前記表示視差量変化速度がより低くなるように調節することを特徴とする請求項1、3、および4のうち、いずれか一つに記載の立体画像撮影装置。
【請求項7】
前記注目被写体検出部は、
前記撮像部によって生成された画像データを解析してパターン認識処理を行い、画像中で特定のパターンを有する領域として抽出された部分に写る被写体を前記注目被写体として検出する第1の注目被写体検出処理部と、
撮影画面内に複数設定されるフォーカスフレーム中、ユーザにより選択されたフォーカスフレームの位置に写る被写体を前記注目被写体として検出する第2の注目被写体検出処理部と
のうち、少なくともいずれかを備えることを特徴とする請求項1から6のいずれか一つに記載の立体画像撮影装置。
【請求項8】
前記表示部上に設けられるタッチパネルスイッチをさらに備え、
前記注目被写体検出部は、前記表示部に表示される画像中、ユーザにより前記タッチパネルスイッチが操作された位置に表示されている被写体を前記注目被写体として検出する第3の注目被写体検出処理部をさらに備える
ことを特徴とする請求項1から7のいずれか一つに記載の立体画像撮影装置。
【請求項9】
前記立体画像撮影装置はさらに、
撮影目的に応じてユーザが選択可能に構成されるシーンモードであって、
ユーザにより選択された特定の撮影シーンに対応してより好ましい撮影結果が得られるように撮影パラメータが自動設定されるシーンモードと、
撮影準備動作中に前記撮像部で生成された画像データを解析して撮影シーンを自動判別し、判別された撮影シーンに対応してより好ましい撮影結果が得られるように撮影パラメータが設定されるシーン判別モードと
のうち、少なくともいずれかのモードでの動作が可能に構成され、
前記選択された特定の撮影シーン、または前記自動判別された撮影シーンに対応して前記閾値が決定される
ことを特徴とする請求項1から8のいずれか一つに記載の立体画像撮影装置。
【請求項10】
前記フォーカシング速度調節部または前記表示視差量調節部による調節が行われる場合の調節量と、前記閾値とは、前記ユーザにより設定可能に構成されることを特徴とする請求項1から9のいずれか一つに記載の立体画像撮影装置。
【請求項11】
前記フォーカシング速度調節部または前記表示視差量調節部による調節は、前記視差量導出部で導出される前記注目被写体の視差量が時間経過に伴って増加する場合に行われることを特徴とする請求項1から10のいずれか一つに記載の立体画像撮影装置。
【請求項1】
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記表示部に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部であって、前記視差量導出部で導出される前記注目被写体の視差量の時間経過に伴う変化の大きさが閾値を越す場合に、前記表示部に表示される前記注目被写体の表示視差量の時間経過に伴う変化の大きさである表示視差量変化速度が減じられるように調節する、表示視差量調節部と
を備えることを特徴とする立体画像撮影装置。
【請求項2】
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記撮影光学系の焦点調節状態を検出する焦点検出部と、
前記注目被写体に合焦するように、前記撮影光学系の焦点調節制御を行うフォーカシング制御部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記フォーカシング制御部による焦点調節の速度を変化させるフォーカシング速度調節部であって、前記デフォーカス量の大きさが第1の閾値を下回り、かつ、前記注目被写体の視差量の時間経過に伴う変化の大きさが第2の閾値を上回るときに、焦点調節の速度が減じられるように調節するフォーカシング速度調節部と
を備えることを特徴とする立体画像撮影装置。
【請求項3】
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記撮影光学系の焦点調節状態を検出する焦点検出部と、
前記注目被写体に合焦するように、前記撮影光学系の焦点調節制御を行うフォーカシング制御部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記表示部に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部であって、前記デフォーカス量の大きさが第1の閾値を下回り、かつ、前記注目被写体の視差量の時間経過に伴う変化の大きさが第2の閾値を上回るときに、前記表示部に表示される前記注目被写体の表示視差量の時間経過に伴う変化の大きさである表示視差量変化速度が減じられるように調節する、表示視差量調節部と
を備えることを特徴とする立体画像撮影装置。
【請求項4】
撮影光学系により形成された被写体像を光電変換して画像データを生成する撮像部と、
前記撮像部で生成された画像データに基づき、視差を有する右眼用画像および左眼用画像を形成可能な立体画像データを生成する立体画像データ生成部と、
前記立体画像データに基づく画像を表示し、ユーザが立体画像を観視可能に構成される表示部と、
撮影対象の被写体中に存在する注目被写体を検出する注目被写体検出部と、
前記注目被写体の視差量を導出する視差量導出部と、
前記撮影光学系の焦点調節状態を検出する焦点検出部と、
前記注目被写体に合焦するように、前記撮影光学系の焦点調節制御を行うフォーカシング制御部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記フォーカシング制御部による焦点調節の速度を変化させるフォーカシング速度調節部と、
前記焦点検出部によって検出された、前記注目被写体に対する現状のデフォーカス量の大きさと、前記視差量検出部で導出された前記注目被写体の視差量の時間経過に伴う変化の大きさとに基づき、前記表示部に表示される画像に立体感を与えるための表示視差量を調節する表示視差量調節部と
を備え、
前記デフォーカス量の大きさが第1の閾値を下回り、かつ、前記注目被写体の視差量の時間経過に伴う変化の大きさが第2の閾値を上回るときに、前記フォーカシング速度調節部は焦点調節の速度を減じるように調節し、かつ、前記表示視差量調節部は前記表示部に表示される前記注目被写体の表示視差量の時間経過に伴う変化の大きさである表示視差量変化速度を減じるように調節する
ことを特徴とする立体画像撮影装置。
【請求項5】
前記立体画像撮影装置は、動画像撮影モードと静止画像撮影モードとに撮影動作モードを切り替え可能に構成され、
前記フォーカシング速度調節部は、前記立体画像撮影装置が、前記静止画像撮影モードに切り替えられているときの焦点調節の速度に比して、前記動画像撮影モードに切り替えられているときの焦点調節の速度がより低くなるように調節することを特徴とする請求項2または4に記載の立体画像撮影装置。
【請求項6】
前記立体画像撮影装置は、動画像撮影モードと静止画像撮影モードとに撮影動作モードを切り替え可能に構成され、
前記表示視差量調節部は、前記静止画像撮影モードに切り替えられているときの前記表示視差量変化速度に比して、前記動画像撮影モードに切り替えられているときの前記表示視差量変化速度がより低くなるように調節することを特徴とする請求項1、3、および4のうち、いずれか一つに記載の立体画像撮影装置。
【請求項7】
前記注目被写体検出部は、
前記撮像部によって生成された画像データを解析してパターン認識処理を行い、画像中で特定のパターンを有する領域として抽出された部分に写る被写体を前記注目被写体として検出する第1の注目被写体検出処理部と、
撮影画面内に複数設定されるフォーカスフレーム中、ユーザにより選択されたフォーカスフレームの位置に写る被写体を前記注目被写体として検出する第2の注目被写体検出処理部と
のうち、少なくともいずれかを備えることを特徴とする請求項1から6のいずれか一つに記載の立体画像撮影装置。
【請求項8】
前記表示部上に設けられるタッチパネルスイッチをさらに備え、
前記注目被写体検出部は、前記表示部に表示される画像中、ユーザにより前記タッチパネルスイッチが操作された位置に表示されている被写体を前記注目被写体として検出する第3の注目被写体検出処理部をさらに備える
ことを特徴とする請求項1から7のいずれか一つに記載の立体画像撮影装置。
【請求項9】
前記立体画像撮影装置はさらに、
撮影目的に応じてユーザが選択可能に構成されるシーンモードであって、
ユーザにより選択された特定の撮影シーンに対応してより好ましい撮影結果が得られるように撮影パラメータが自動設定されるシーンモードと、
撮影準備動作中に前記撮像部で生成された画像データを解析して撮影シーンを自動判別し、判別された撮影シーンに対応してより好ましい撮影結果が得られるように撮影パラメータが設定されるシーン判別モードと
のうち、少なくともいずれかのモードでの動作が可能に構成され、
前記選択された特定の撮影シーン、または前記自動判別された撮影シーンに対応して前記閾値が決定される
ことを特徴とする請求項1から8のいずれか一つに記載の立体画像撮影装置。
【請求項10】
前記フォーカシング速度調節部または前記表示視差量調節部による調節が行われる場合の調節量と、前記閾値とは、前記ユーザにより設定可能に構成されることを特徴とする請求項1から9のいずれか一つに記載の立体画像撮影装置。
【請求項11】
前記フォーカシング速度調節部または前記表示視差量調節部による調節は、前記視差量導出部で導出される前記注目被写体の視差量が時間経過に伴って増加する場合に行われることを特徴とする請求項1から10のいずれか一つに記載の立体画像撮影装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2012−178688(P2012−178688A)
【公開日】平成24年9月13日(2012.9.13)
【国際特許分類】
【出願番号】特願2011−40195(P2011−40195)
【出願日】平成23年2月25日(2011.2.25)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
【公開日】平成24年9月13日(2012.9.13)
【国際特許分類】
【出願日】平成23年2月25日(2011.2.25)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
[ Back to top ]