撮像装置、画像処理装置およびその方法
【課題】横方向にしか視差のない表示方式の場合の立体視には利用しないカメラユニットの情報を利用して、画像処理を施した多視点画像を生成すること。
【解決手段】ステップS801では、表示する視差の関連情報を取得する。ステップS802では、視差関連情報に基づき視差の方向が「横方向のみ」であるか否かを判定する。「横方向のみ」の場合はステップS803へ、そうでない場合はステップS807に進む。ステップS803では、撮像部の配置情報を取得する。次に、ステップS804では、垂直方向の撮像部を選択する。次に、ステップS805では、選択画像を用いてハイダイナミックレンジ(HDR)合成する。
【解決手段】ステップS801では、表示する視差の関連情報を取得する。ステップS802では、視差関連情報に基づき視差の方向が「横方向のみ」であるか否かを判定する。「横方向のみ」の場合はステップS803へ、そうでない場合はステップS807に進む。ステップS803では、撮像部の配置情報を取得する。次に、ステップS804では、垂直方向の撮像部を選択する。次に、ステップS805では、選択画像を用いてハイダイナミックレンジ(HDR)合成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置、画像処理装置およびその方法に関し、特に少なくとも二次元に配置された複数の撮像装置で構成される多視点撮像装置を用いた撮像装置、画像処理装置およびその方法に関する。
【背景技術】
【0002】
従来、被写体を複数の視点から撮影した画像(以下、多視点画像)を用いて、被写体を立体視する表示装置が知られている。また一般に、多視点画像は、種々の撮影方法で取得することができるが、多眼方式の撮像装置や、近年ではPlenoptic方式の撮像装置を用いて取得することもできる。多眼方式の撮像装置では、複数のカメラユニットを備えることにより、同時に多視点画像を取得することができる(例えば、特許文献1)。また、Plenoptic方式の撮像装置では、撮像素子の前に細かいレンズアレイを備えることにより、同時に多方向からの光を記録することができ、画像処理により多視点画像を生成することができる。
【0003】
また、立体視する表示装置には種々の表示方式が知られているが、視差の方向で分類すれば、水平方向にしか視差(水平視差)を有しない方式と、水平方向と垂直方向両方に視差(水平垂直視差)を有する方式がある。水平視差の表示方式には、表示面の前に垂直スリットを備えるパララックスバリア方式や、レンチキュラレンズを備えるレンチキュラ方式などがある。また、水平垂直視差の表示方式には、表示面の前に2次元レンズアレイを備えるレンズアレイ方式や、視点位置を検出して左右の視点画像を生成するCG(コンピュータグラフィックス)方式などがある。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2011−109484号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
一般に、水平方向にしか視差のない表示方式の場合、垂直方向に視差のある多視点画像を使用する必要はない。しかし、特許文献1のような複数台のカメラユニットを二次元に配置した多眼方式の撮像装置では、不要な垂直方向に配置されたカメラユニットの情報も処理するという問題がある。
【0006】
そこで本発明では、横にしか視差のない表示方式の場合の立体視には利用しないカメラユニットの情報を利用して、画像処理を施した多視点画像を生成することを目的とする。
【課題を解決するための手段】
【0007】
本発明の撮像装置は、二次元に配置された複数の撮像手段を備え、複数の撮像手段で撮像した画像の視差により立体表示画像を生成する撮像装置であって、撮像手段の各々の位置を示す配置情報を取得する配置情報取得手段と、画像の水平方向の視差による立体表示の場合、配置情報に基づいて縦方向に構成された撮像手段のそれぞれの撮影条件を変更する撮影条件手段と、縦方向に構成された撮像装置の各々について、変更された撮影条件で撮像された画像に画像処理を施して合成する画像合成手段とを備えたことを特徴とする。
【発明の効果】
【0008】
本発明は、二次元に配置された複数台のカメラユニットで構成された多眼方式の撮影装置において、配置情報に基づいて撮影条件を変更することにより、立体視には利用しないカメラユニットの情報を有効活用することができる。また、ダイナミックレンジの広い多視点画像やノイズ量を低減した多視点画像を取得することができる。
【図面の簡単な説明】
【0009】
【図1】本発明の一実施例の複数の撮像部を備えた多眼方式の撮像装置の一例を示す図である。
【図2】多眼方式の撮像装置の内部構成の一例を示すブロック図である。
【図3】撮像部の内部構成の一例を示す図である。
【図4】実施例1における撮像制御部の動作を示すフローチャートである。
【図5】視差関連情報を入力する表示部の一例を示す図である。
【図6】撮像部の配置情報の一例を示す図である。
【図7】配置情報に基づく撮影条件の変更量の一例を示す図である。
【図8】実施例1における画像処理部の動作を示すフローチャートである。
【図9】本実施例のHDR合成処理を説明する概念図である。
【図10】本発明の実施例2における撮像制御部の動作を示すフローチャートである。
【図11】本発明の実施例2における画像処理部の動作を示すフローチャートである。
【図12】本実施例のNR処理を説明する概念図である。
【図13】配置情報に基づく撮影条件の変更量の一例を示す図である。
【図14】本発明の実施例3における画像処理部の動作を示すフローチャートである。
【図15】本実施例の距離マップ算出処理の動作を示すフローチャートである。
【図16】本実施例における水平方向の撮影位置と被写体との関係を示す概念図である。
【図17】本実施例のHDR合成処理の動作を示すフローチャートである。
【図18】本実施例における垂直方向の撮影位置と被写体との関係を示す概念図である。
【図19】本実施例の視点変更処理の動作を示すフローチャートである。
【図20】本実施例における水平方向の視点位置と被写体との関係を示す概念図である。
【発明を実施するための形態】
【0010】
[実施例1]
図1は、複数の撮像部を備えた多眼方式による多視点撮像装置の一例を示す図である。撮像装置の筐体100は、カラー画像を取得する9個の撮像部101〜109及び撮影ボタン110を備えている。図1に示すように9個の撮像部は、二次元に均等に配置されている。ユーザが撮影ボタン110を押下すると、撮像部101〜109が被写体の光情報をセンサ(撮像素子)で受光し、受光した信号がA/D変換され、複数のカラー画像データ(デジタルデータ)が同時に取得される。
【0011】
このような多眼方式の撮像装置により、同一の被写体を複数の視点位置から撮像したカラー画像群を得ることができる。なお、ここでは撮像部の数を9個としたが撮像部の数は9個に限定されず、撮像装置が複数の撮像部を有する限りにおいてその数によらず本発明は適用可能である。
【0012】
図2は、撮像装置100の内部構成を示すブロック図である。中央処理装置(CPU)201は、以下に述べる各部を統括的に制御する。RAM202は、CPU201の主メモリ、ワークエリア等として機能する。ROM203は、CPU201で実行される制御プラグラム等を格納している。
【0013】
バス204は、各種データの転送経路となる。例えば、撮像部101〜109によって取得されたデジタルデータは、このバス204を介して所定の処理部に送られる。操作部205はユーザの指示を受け取り、具体的にはボタンやモードダイヤルなどが含まれる。表示部206は撮影画像や文字の表示を行い、例えば、液晶ディスプレイが用いられる。表示部206はタッチスクリーン機能を有していても良く、その場合はタッチスクリーンを用いたユーザ指示を操作部205の入力として扱うことも可能である。
【0014】
表示制御部207は、表示部206に表示される撮影画像や文字の表示制御を行う。撮像制御部208は、フォーカスを合わせる、シャッターを開く・閉じる、絞りを調節するなどの、CPU201からの指示に基づいた撮像部の制御を行う。また、撮像制御部208は、撮像装置の配置情報に基づいて撮像部の制御パラメータを調整するが、撮像制御部208の詳細については後述する。デジタル信号処理部209は、バス204を介して受け取ったデジタルデータに対し、ホワイトバランス処理、ガンマ処理、ノイズ低減処理などの各種処理を行う。
【0015】
エンコード部210は、デジタルデータをJPEGやMPEGなどのファイルフォーマットに変換する処理を行う。外部メモリ制御部211は、撮像装置100を、PCやその他のメディア(例えば、ハードディスク、メモリーカード、CFカード、SDカード、USBメモリ)に結合するためのインターフェースである。画像処理部212は、撮像部101〜109で取得されたカラー画像群或いは、デジタル信号処理部209から出力されるカラー画像群から、画像合成などの画像処理を行う。画像処理部212の詳細については後述する。なお、撮像装置の構成要素は上記以外にも存在するが、本件発明の主眼ではないので、説明を省略する。
【0016】
図3は、撮像部101〜109の内部構成を示す図である。撮像部101〜109は、レンズ301〜303、絞り304、シャッター305、光学ローパスフィルタ306、iRカットフィルタ307、カラーフィルタ308、センサ309及びA/D変換部310で構成される。レンズ301〜303は夫々、ズームレンズ301、フォーカスレンズ302、ぶれ補正レンズ303である。センサ309は、例えばCMOSやCCDなどのセンサであり、上記の各レンズでフォーカスされた被写体の光量を検知する。検知された光量はアナログ値としてセンサ309から出力され、A/D変換部310によってデジタル値に変換されて、デジタルデータとなってバス204に出力される。
【0017】
(撮像制御部)
次に、撮像制御部208の詳細について説明する。図4は、撮像制御部208の動作を示すフローチャートである。本実施例では、画像の横方向の視差すなわち水平視差のみの表示方式の場合、各撮像部から取得した画像データのうち、視差にかかわる処理を実行するのは水平方向のみとなる。すなわち、この場合、立体表示するためには垂直視差の計算は不要なので、すべての撮像部から取得した画像データではなく、例えば図1に示す撮像部104、105および106から取得した画像データのみを立体視表示画像を算出する処理に使用すればよい。したがって、通常各撮像部はそれぞれ個別に基準値を設定し制御されるが、本実施例では水平視差のみの表示方式の場合、垂直方向に並んだ撮像部は、視差に関する処理は行わない。
【0018】
まず、ステップS401では、撮影条件の基準値を取得する。撮影条件とは、シャッタースピードやF値(絞り)、ISO感度など、撮影時の撮像部を制御するために必要なパラメータである。ここで、撮影条件は、上記以外にも、ホワイトバランス設定、NDフィルタの有無、フォーカス距離やズーム設定などが含まれてもよい。また、撮影条件の基準値の一部又は全ては、表示部206に表示された指示に基づいて、ユーザが操作部205を通じて設定することができる。基準値の設定は、上記以外にも、ROM203に予め記録された基準値を呼び出したり、撮影時の周囲の環境から自動的に設定されるようにプログラムされていたりしてもよい。
【0019】
ステップS402では、表示する視差の関連情報を取得する。表示する視差関連情報とは、立体視する表示装置の視差の方向を含む情報である。本実施例で、視差関連情報は具体的には水平視差及び水平垂直視差であるが、これに限られない。表示する視差の関連情報は、表示部206に表示された指示に基づいて、ユーザが操作部205を通じて設定することができる。図5は、視差関連情報を入力する表示部の一例を示す図である。図5では、表示部501には視差の方向を設定するためのGUIが表示されており、「水平方向のみ」または「水平方向と垂直方向」の何れかを操作部502、503、504を操作して設定できる。これ以外にも、立体視する表示装置の方式を選択的に入力あるいは設定させることにより、視差の方向を決定しても構わない。例えば、パララックスバリア方式やレンチキュラ方式が選択された場合は、視差の方向は「水平方向のみ」であり、レンズアレイ方式やCG方式が選択された場合は、視差の方向は「水平方向と垂直方向」であるとしても構わない。
【0020】
ステップS403では、視差の方向が「水平方向のみ」であるか否かを判定する。「水平方向のみ」の場合はステップS404へ、そうでない場合はステップS407に進む。ステップS404では、撮像部の配置情報を取得する。ここで、撮像部の配置情報とは、すべての撮像装置の相対的な位置関係を示す情報である。本実施例では、撮像部の配置情報はROM203に予め記録されているものとするが、ユーザの指示等で個々の撮像部の配置を変更可能な撮像装置の場合には、撮像部の配置情報はユーザの指示に基づいて決定してもよい。
【0021】
図6は、撮像部の配置情報の一例を示す図である。図6では、撮像部ごとに相対的な座標値が記録されており、例えば撮像部101のX座標は1、Y座標は1となる。
【0022】
ステップS405では、垂直方向の撮像部を選択する。垂直方向の撮像部とは、撮像装置を構えた際に、垂直方向に並んで配置される撮像部の集まりである。本実施例では、垂直方向の撮像部の情報も、配置情報と共にROM203に予め記録されているものとする。この垂直方向の撮像部の情報も図6に示す配置情報に予め設定されている。具体的には、横構え1は、撮像装置を横構え、すなわち水平に構えて撮影するときの、向かって左端の垂直方向の集まりに含まれる撮像部が○で示されている。図6を参照すると、左端の集まり(横構え1)は撮像部101、104および107となり、真ん中の集まり(横構え2)が撮像部102、105および108となる。また右側の集まり(横構え3)は、撮像部103、106および109となる。
【0023】
一方、縦に構えて撮影する場合、垂直方向に構成された撮像部の最もシャッター110よりの集まり(縦構え1)は、撮像部101、102および103の組み合わせとなる。同様に、縦構え2は撮像部104、105および106の組み合わせとなり、縦構え3は撮像部107、108および109の組み合わせとなる。ここで、撮像装置の構えについては、図示しない重力センサを備えるなどにより判定すればよいが、重力センサを備えない場合には、配置情報の縦方向を垂直方向であるとしても構わない。
【0024】
ステップS406では、水平視差のみの表示方式の場合なので、配置情報に基づいて撮影条件を変更する。本実施例では、配置情報に基づいて、シャッタースピードやF値など露出時間等の露出の撮影条件を変更する。すなわち、上述のように水平視差のみの表示方式の場合、立体表示するためには垂直視差の計算は不要であることから、垂直方向に並んだ撮像部から取得した画像データは立体表示以外の処理のために使用する。本実施例では、後述するように選択画像の画像データを用いてハイダイナミックレンジ(HDR)合成するので、垂直方向の撮像部は各々本処理に合わせた撮影条件に変更される。例えば、横構え1の組み合わせである撮像部101、104および107の場合、各々ハイダイナミックレンジ(HDR)合成するのに最適なように設定される。配置情報に基づく撮影条件の変更量は、ROM203に予め記録された設定値を呼び出したり、ユーザが操作部205を通じて設定したりしてもよい。
【0025】
本実施例では、撮影条件の変更量はROM203に予め記録されているものとし、図7にその一例を示す。図7では、横構え、すなわち垂直方向の座標値に基づいて、露出の変更量を決定している。例えば、上段の撮像部101、102および103(Y座標1)では、露出が基準値に対して1段下がるように設定されており、シャッタースピードを2倍にするか、F値を0.7倍に変更するように設定されている。また、下段の撮像部107、108および109(Y座標3)では、露出が基準値に対して1段上がるように設定されており、シャッタースピードを半分にするか、F値を1.4倍に変更するように設定されている。また、シャッタースピードやF値の撮影条件の他にも、例えばNDフィルタを切り替えることにより露出を変更しても構わないことは言うまでもない。なお、縦構えで撮影する場合には、図13に示すように撮影条件を変更すればよい。
【0026】
ステップS407では、水平垂直視差の表示方式の場合なので、各撮像部は垂直、水平に拘わらず個々に設定する必要があり、すべての撮像部を選択する。次に、ステップS408では、選択したすべての撮像部に対して基準値の撮影条件を設定する。すなわち、ステップS403において、視差の方向が「水平方向のみ」でないと判定された場合には、その後立体表示処理に各撮像部からの画像データを使用するので、すべての撮像部の撮影条件を基準値に設定することを意味する。
【0027】
(画像処理部)
次に、画像処理部212の詳細について説明する。通常、多眼方式の撮像装置で得られた複数の画像データを使用して立体表示の画像処理を行う場合は、垂直、水平を問わず画像間の視差と、それぞれの撮像部の配置情報とを用いて立体表示を行う。本実施例では、特に水平視差のみの表示方式の場合、垂直に並んだ撮像部からの画像データは立体表示処理に使用しないため、別の画像処理に使用して有効活用する。ここで、本実施例では、ハイダイナミックレンジ(HDR)合成処理を実行するが、これに限られず種々の処理を採用することができる。なお、本実施例では、立体表示処理は、垂直方向に並んだ撮像部からの画像の処理、すなわち本実施例ではHDR合成処理の後得られた水平方向の画像データを用いて実行するが、これに限られず任意のタイミングおよび任意の画像データで実行可能である。また、立体表示処理はここでは詳述しないが、本技術分野で知られたいずれの方法も使用することができ、例えば水平方向のいずれか2つの画像の視差から各画素で被写体までの距離を算出することによって立体表示を実行することができる。
【0028】
図8は、画像処理部212の動作を示すフローチャートである。まず、ステップS801では、表示する視差の関連情報を取得する。表示する視差の関連情報は、ステップS402と同一であるため説明を省略する。次に、ステップS802では、視差関連情報に基づき視差の方向が「水平方向のみ」であるか否かを判定する。「水平方向のみ」の場合はステップS803へ、そうでない場合はステップS807に進む。
【0029】
ステップS803では、撮像部の配置情報を取得する。撮像部の配置情報は、ステップS404と同一であるため説明を省略する。次に、ステップS804では、垂直方向の撮像部を選択する。垂直方向の撮像部は、ステップS405と同一であるため説明を省略する。次に、ステップS805では、選択画像を用いてハイダイナミックレンジ(HDR)合成する。ここで、選択画像は、撮像部101、104および107からそれぞれ取得した3画像、撮像部102、105および108からそれぞれ取得した3画像並びに撮像部103、106および109からそれぞれ取得した3画像となる。すなわち各3画像を選択画像として、本実施例では3回HDR合成処理が行われる。
【0030】
図9は、HDR合成処理を説明する概念図である。図9に示す画像901ないし909は、それぞれ撮像部101ないし109で取得された画像であり、各々露出の撮影条件が異なっている。本実施例では、まず、選択画像の位置合せを行う。選択画像の位置合せは、パターンマッチングやブロックマッチングによる方法が一般的に知られているが、その他本技術分野で知られたいずれの方法も用いることができる。また、本実施例では、位置合せの対象となる画像データが垂直方向の撮像部から取得されたものであるため、マッチング探索する方向を垂直方向に限定することにより高速化することができる。次に、位置合せした選択画像を用いて、HDR合成処理を行う。HDR合成処理は、トーンマッピングによる方法が一般的に知られているが、別の方法も採用することができる。トーンマッピングは、異なる露出の画像データから潰れていない階調領域を抽出して重ね合わせる技法であるが、詳細は省略する。
【0031】
ステップS806では、合成画像を保存する。本実施例では、垂直方向に構成された撮像部の組合せの数である3つの合成画像が保存される。すなわち、画像901、904および907を合成した合成画像、画像902、905および908を合成した合成画像並びに画像903、906および909を合成した合成画像の3つの合成画像が保存される。また、合成画像は、RAM202、または外部メモリ制御部211を通じてPCその他のメディア213に保存される。また、合成画像だけでなく、合成前のすべての画像を保存しても構わないことは言うまでもない。
【0032】
ステップS807では、水平垂直視差の表示方式の場合なので、画像901ないし909はすべて立体表示に使用することから、HDR合成処理等立体表示以外の処理は実行せず、立体表示に使用する画像データとしてすべての撮像部を選択する。次に、ステップS808では、すべての画像を保存する。
【0033】
結局、ステップS802において、視差の方向が「水平方向のみ」でないと判定された場合には、従来技術のようにすべての撮像部の画像を保存する。一方、視差の方向が「水平方向のみ」であると判定された場合には、垂直方向にあるすべての撮像部の画像を利用して、画像処理した結果を保存する。
【0034】
以上により、立体視には利用しない撮像装置の情報を利用して、ダイナミックレンジの広い多視点画像を取得することができる。なお、立体表示処理については、保存された多視点画像の中から表示装置の表示方式に合わせて適切な画像を選択すればよい。例えば、左右2つの視差を有する表示方式の場合、左目用に画像906またはその合成画像、右目用に画像904またはその合成画像を選択すればよい。また、表示装置や観察者の視差の大きさに合わせて、選択する画像を変更してもよいことは言うまでもない。
【0035】
また、本実施形態では、撮像部101〜109で撮像される画像がすべてカラー画像であることを前提に各部の構成や処理を説明した。しかし、撮像部101〜109で撮像される画像の一部或いは全部をモノクロ画像に変更しても構わない。その場合には、図3のカラーフィルタ308は省略される。
【0036】
[実施例2]
実施例1では、垂直方向の撮像装置の露出を変更することにより、ダイナミックレンジの広い多視点画像を取得する方法について説明した。本実施例においては、垂直方向に並んだ撮像部により取得される画像データに立体表示以外の処理を施して、撮影装置のISO感度の数値を高く変更しても、ノイズ量を低減した多視点画像を取得する方法について説明する。
【0037】
本実施例では、撮像制御部208および画像処理部212の一部の動作が実施例1と異なるが、その他の処理については、実施例1と同一であるため、説明を省略する。
【0038】
(撮像制御部)
ここでは、撮像制御部208の詳細について説明する。図10は、撮像制御部208の動作を示すフローチャートである。まず、ステップS1001では、撮影条件の基準値を取得する。撮影条件の基準値は、実施例1のステップS401と同一であるため説明を省略する。
【0039】
ステップS1002では、表示する視差の関連情報を取得する。表示する視差の関連情報は、実施例1のステップS402と同一であるため説明を省略する。次に、ステップS1003では、視差の方向が「水平方向のみ」であるか否かを判定する。「水平方向のみ」の場合はステップS1004へ、そうでない場合はステップS1008に進む。
【0040】
ステップS1004では、ISO感度が低いか否かを判定する。ISO感度が低い場合はステップS1005へ、そうでない場合はステップS1008に進む。ISO感度は、ステップS1001で取得する撮影条件の一部であり、撮像センサの感度特性を示す値である。一般に、ISO感度が低いほど多くの光を必要するがノイズが少なくなる。一方、ISO感度が高いほど少ない光でも撮影することができるがノイズが多くなる傾向がある。本実施例では、設定されたISO感度の高低は、ROM203に予め記録された値(例えば、800)とISO感度と比較して判定する。したがって、ISO感度が400と設定されていた場合、実施例1HDR合成処理を行い、ISO感度が低くても広いダイナミックレンジの画像を得るようにする。一方、ISO感度が800より高い値の場合は、ノイズリダクション処理を実行してノイズを低減させるようにする。
【0041】
ステップS1005では、撮像部の配置情報を取得する。撮像部の配置情報は、実施例1のステップS404と同一であるため説明を省略する。次に、ステップS1006では、垂直方向の撮像部を取得する。垂直方向の撮像部は、実施例1のステップS405と同一であるため説明を省略する。次に、ステップS1007では、配置情報に基づいて撮影条件を変更する。撮影条件の変更は、実施例1のステップS406と同一であるため説明を省略する。
【0042】
ステップS1008では、図8のS407と同様にすべての撮像部を選択する。次に、ステップS1009では、選択したすべての撮像部に対して基準値の撮影条件を設定する。すなわち、ISO感度が高い場合でも設定されたISO感度を使用する。
【0043】
以上により、撮像制御部208では、視差の方向が「水平方向のみ」であっても、ISO感度が高い場合、本実施例ではHDR処理を実行しないので、すべての撮像部の撮影条件を同一にする。すなわち、高いISO感度ではノイズが多く含まれるため、後述する画像処理部ではノイズ低減処理を優先させる。しかしながら、ノイズ低減処理を優先させるか否かを、ユーザの指示に基づき判断しても構わないことは言うまでもない。
【0044】
(画像処理部)
図11を参照して、画像処理部212の詳細について説明する。図11は、画像処理部212の動作を示すフローチャートである。まず、ステップS1101では、表示する視差関連情報を取得する。表示する視差関連情報は、実施例1のステップS801と同一であるため説明を省略する。次に、ステップS1102では、視差の方向が「水平方向のみ」であるか否かを判定する。「水平方向のみ」の場合はステップS1103へ、そうでない場合はステップS1109に進む。
【0045】
ステップS1103では、撮像部の配置情報を取得する。撮像部の配置情報は、実施例1のステップS803と同一であるため説明を省略する。次に、ステップS1104では、垂直方向の撮像部を選択する。垂直方向の撮像部は、実施例1のステップS804と同一であるため説明を省略する。次に、ステップS1105では、ISO感度が低いか否かを判定する。ISO感度が低い場合はステップS1106へ、そうでない場合はステップS1107に進む。
【0046】
ステップS1106では、選択画像を用いてHDR合成を行う。HDR合成は、実施例1のステップS805と同一であるため説明を省略する。次に、ステップS1107では、合成画像を保存する。合成画像の保存は、実施例1のステップS806と同一であるため説明を省略する。
【0047】
ステップS1108では、高ISO感度のため、選択画像を用いてノイズリダクション(NR)処理を行う。図12は、NR処理を説明する概念図である。図12に示す画像1201ないし1209は、それぞれ撮像部101ないし109で取得された画像データであり、高いISO感度で撮影したものである。本実施例では、実施例1と同様に、まず、選択画像の位置合せを行う。次に、位置合せした画像データを用いて、NR処理を行う。NR処理では、ローパスフィルタ等によるフィルタ処理が一般的であるが、エッジが鈍るなどの問題がある。このため、本実施例では、位置合せ後の画像データを平均化することにより、NR処理を行っているがこれに限られず、本技術分野で知られたいずれの手法も用いることができる。NR処理終了後は、ステップS1107に進み、処理画像を保存する。
【0048】
ステップS1109では、すべての撮像部を選択する。次に、ステップS1110では、すべての画像を保存する。画像の保存は、実施例1のステップS808と同一であるため説明を省略する。
【0049】
以上により、画像処理部212では、視差の方向が「水平方向のみ」であり、かつISO感度が高い場合には、垂直方向に並んだ撮像部により取得される画像データに立体表示以外のノイズ低減処理を実行し、ISO感度に最適な処理を実行することができる。
【0050】
以上により、立体視には利用しない撮像装置の情報を利用して、ノイズ量を低減した多視点画像を取得することができる。
【0051】
なお、本実施形態では、ノイズ低減処理について述べたが、位置合せした画像データを用いて、解像感を向上させる超解像処理などを行っても構わないことは言うまでもない。さらに、本実施形態では、配置情報に基づいて露出やISO感度の撮影条件を変更することについて述べたが、これに限定されないことは言うまでもない。例えば、カラーフィルタやフォーカス位置などの撮影条件を変更しても構わない。
【0052】
[実施例3]
実施例1では、垂直方向の撮像装置の露出を変更することにより、ダイナミックレンジの広い多視点画像を取得する方法について説明した。また、立体表示画像を生成する処理については、取得した多視点画像の中から表示装置の表示形式に合わせて適切な画像を選択する方法について説明した。本実施例においては、表示装置の特性、視聴者との位置関係や観察者の視差の大きさに合わせて、多視点画像から補間した仮想的な視点からの画像を生成する方法について説明する。また、水平方向の撮像装置から被写体までの距離マップを算出し、距離マップを用いてHDR合成処理と立体表示処理とを行う方法について説明する。これにより、本技術分野で知られたHDR合成処理や立体表示処理と比較して、処理時間を短縮することができる。
【0053】
本実施例では、画像処理部212の一部の動作が実施例1と異なるが、その他の処理については、実施例1と同一であるため、説明を省略する。
【0054】
(画像処理部)
ここでは、画像処理部212の詳細について説明する。図14は、画像処理部212の動作を示すフローチャートである。なお、図8に示した実施例1における画像処理部のフローチャートと処理内容が同じステップに関しては、同じ符号を付与して説明を省略する。
【0055】
ステップS1401では、撮影した画像データを用いて距離マップを算出する。距離マップとは、画像データ内における被写体までの距離を含む二次元情報であり、所謂デプスマップである。なお、距離マップ算出の詳細については後述する。ステップS1402では、算出した距離マップを用いてHDR合成処理を実行する。ここでは、HDR合成処理における画像位置合わせを、ステップS1401で算出した距離マップを用いて行う。なお、HDR合成処理の詳細については後述する。
【0056】
ステップS1403では、算出した距離マップを用いて視点位置を変更した、所望の視差を持つ画像を合成する。ここでは、視点変更処理における視差補間処理を、ステップS1401で算出した距離マップを用いて行う。なお、視点変更処理の詳細については後述する。すなわち、本実施例では、予め算出した距離マップを、HDR合成処理および視点変更処理の両方で用いることにより、画像位置合わせの計算を共通化している。その結果、本技術分野で知られた従来の処理と比較して、処理時間を短縮することができる。
【0057】
(距離マップ算出処理)
ここでは、図14に示すフローチャートのステップS1401で行う距離マップ算出処理の詳細について説明する。距離マップ算出処理では、位置の異なる複数の撮影画像を基に、撮像したシーンの距離を推定することにより距離マップを算出する。この距離マップ算出処理には公知の方法を用いればよい。例えば、ステレオ法やマルチベースラインステレオ法などが適用可能である。本実施例では、ステレオ法によって距離マップを算出する。以下、図15に示すフローチャートを用いて、距離マップ算出処理の詳細を説明する。
【0058】
まず、ステップS1501では、距離マップの算出に使用する画像データを選択する。本実施例では、撮像装置100の中央に配置された撮像部105で撮像された画像データと、水平方向に隣接する撮像部104で撮像された画像データとを選択するものとする。以下では、前者を基準画像、後者を対象画像と呼ぶ。なお、選択する画像データはこれに限るものではなく、位置の異なる2枚の画像データであればよい。
【0059】
ステップS1502では、以後の処理を行う注目画素を初期化する。ステップS1503では、全画素で距離情報が算出されているか否かを判定する。全画素で距離情報が算出されている場合はステップS1507へ、そうでない場合はステップS1504に進む。ステップS1504では、基準画像の注目画素とその周囲の画素からなる領域を選択し、選択領域であるブロックを用いて対象画像とパターンマッチングを行うことにより、対象画像の中から注目画素に対応する画素(対応画素)を算出する。
【0060】
ステップS1505では、撮像装置の配置情報と、注目画素及びその対応画素とから距離情報pを算出する。距離情報pは、図16に示すα、β、sを用いて以下の式で表される。
【0061】
【数1】
【0062】
ここで、αは撮像装置105の水平画角と、基準画像の撮像位置及び注目画素の座標とから算出される。βは撮像部104の水平画角と、対象画像の撮像位置及び対象画素の座標とから算出される。sは撮像部間の水平距離であり、基準画像及び対象画像の撮像位置から算出される。
【0063】
ステップS1506では、注目画素を更新し、ステップS1503に戻る。ステップS1507では、各画素値を基準画像の距離情報とする距離マップを保存する。
【0064】
(HDR合成処理)
ここでは、図14に示すフローチャートのステップS1402で行うHDR合成処理の詳細について説明する。HDR合成処理では、距離マップを用いて画像位置合わせを行い、トーンマッピングによるHDR合成を行う。以下、図17に示すフローチャートを用いて、HDR合成処理の詳細を説明する。
【0065】
まず、ステップS1701では、ステップS1501で算出した距離マップを取得する。ステップS1702では、HDR合成に使用する画像データを選択する。画像データは、ステップS804において選択された画像データ、すなわち垂直方向に配置されている撮像部から取得された画像データの中から選択される。本実施例では、撮像装置100の中央に配置された撮像部105で撮像された画像データと、垂直方向に隣接する撮像部102で撮像された画像データとを選択するものとする。以下では、前者を基準画像、後者を対象画像と呼ぶ。なお、選択する画像データはこれに限るものではなく、垂直方向の異なる位置に配置された撮像部により各々撮像された2枚以上の画像データであればよい。
【0066】
ステップS1703では、以後の処理の対象となる注目画素を初期化する。ステップS1704では、全画素で画像シフトが行われているか否かを判定する。画像シフトが行われている場合はステップS1708へ、そうでない場合はステップS1705に進む。
【0067】
ステップS1705では、画像位置合せのシフト量を算出する。画像位置合せとは、対象画像における被写体の位置を、対応する基準画像内の被写体の位置に合わせることである。また、シフト量とは、位置合せを行った場合の、対象画像の注目画素を基準画像内の対応する画素へ移動する画素数である。シフト量mは、図18に示すp、t、θを用いて以下の式で表される。
【0068】
【数2】
【0069】
ここで、pは注目画素の距離情報であり、距離マップから取得される。tは撮像部間の垂直距離であり、θは撮像部の垂直視野角である。また、Hは画像データの垂直方向の画素数である。
【0070】
ステップS1706では、算出したシフト量に基づいて注目画素を移動させる。ステップS1707では、注目画素を更新し、ステップS1704に戻る。ステップS1708では、画像シフトにより位置合せを行った対象画像と基準画像とを用いてトーンマッピングによる画像合成を行う。トーンマッピングは、異なる露出の画像データから潰れていない階調領域を抽出して重ね合わせる技法であるが、詳細は省略する。
【0071】
(視点変更処理)
ここでは、図14に示すフローチャートのステップS1403で行う視点位置の変更処理の詳細について説明する。視点変更処理では、距離マップを用いて視点位置への画像シフト量を算出し、視点位置を変更した画像を合成する。以下、図19に示すフローチャートを用いて、視点変更処理の詳細を説明する。なお、図17に示したHDR合成処理のフローチャートと処理内容が同じステップに関しては、同じ記号を付与して説明を省略する。
【0072】
ステップS1901では、画像合成する視点位置の情報を取得する。視点位置の情報とは、その視点位置に撮像部があるとした場合の仮想撮像部の位置であり、撮像装置100の撮像部101乃至109を内挿する範囲内に設定することができる。また、視点位置の情報は表示装置の表示形式に合わせて適切に設定される。例えば、表示装置の表示形式が水平方向に5つの視差を有するレンチキュラ方式である場合、仮想撮像部の視点位置は撮像部104と撮像部105の中間の位置、および撮像部105と撮像部106の中間の位置に設定することができる。このように視点位置の情報は、表示装置の特性やシステムに合わせて適切な値を設定することができるほか、観察者の情報により、あるいは観察者の指示により、所望の情報を設定することができる。本実施例では、仮想撮像部の視点位置が撮像部104と撮像部105の中間の位置である場合について説明する。
【0073】
ステップS1902では、視点変更の画像合成で使用する画像データを選択する。本実施例では、視点位置の情報に基づき、撮像部105で撮像された画像データおよび撮像部104で撮像された画像データが選択される。
【0074】
ステップS1903では、対象画像の視点位置をステップS1901で取得した視点位置へ変更するためのシフト量を算出する。シフト量nは、図20に示すp、u、θを用いて以下の式で表される。
【0075】
【数3】
【0076】
ここで、pは注目画素の距離情報であり、距離マップから取得される。uは対象画像の視点位置と画像合成する視点位置との水平距離であり、θは撮像部の水平視野角である。また、Wは画像データの水平方向の画素数である。ステップS1904では、画像シフトした対象画像をすべて重ね合わせて画像合成を行う。なお、本実施例では、視点位置の変更処理を画像シフトにより算出する方法について述べたが、これに限定されないことは言うまでもない。例えば、2つ以上の画像から抽出した特徴点を対応付け、各特徴点の対応関係を基にモーフィング処理を行うことで視点位置の変更処理を行っても構わない。
【0077】
以上により、表示装置の特性、視聴者との位置関係や観察者の視差の大きさに合わせて、多視点画像から補間した視点のHDR画像を生成することができる。さらに、水平方向の撮像装置から被写体までの距離マップを算出し、距離マップを用いてHDR合成処理と立体表示処理とを行うことにより、処理時間を短縮することができる。
【0078】
なお、本実施例では、距離マップを用いてHDR合成処理と立体表示処理を行う方法について説明したが、距離マップを用いた処理はこれに限定されるものではない。例えば、実施例2におけるNR処理にも適用可能であることは言うまでもない。
【0079】
[その他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。すなわち、上述した実施例の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。また、本発明は、複数のプロセッサが連携して処理を行うことによっても実現できるものである。
【技術分野】
【0001】
本発明は、撮像装置、画像処理装置およびその方法に関し、特に少なくとも二次元に配置された複数の撮像装置で構成される多視点撮像装置を用いた撮像装置、画像処理装置およびその方法に関する。
【背景技術】
【0002】
従来、被写体を複数の視点から撮影した画像(以下、多視点画像)を用いて、被写体を立体視する表示装置が知られている。また一般に、多視点画像は、種々の撮影方法で取得することができるが、多眼方式の撮像装置や、近年ではPlenoptic方式の撮像装置を用いて取得することもできる。多眼方式の撮像装置では、複数のカメラユニットを備えることにより、同時に多視点画像を取得することができる(例えば、特許文献1)。また、Plenoptic方式の撮像装置では、撮像素子の前に細かいレンズアレイを備えることにより、同時に多方向からの光を記録することができ、画像処理により多視点画像を生成することができる。
【0003】
また、立体視する表示装置には種々の表示方式が知られているが、視差の方向で分類すれば、水平方向にしか視差(水平視差)を有しない方式と、水平方向と垂直方向両方に視差(水平垂直視差)を有する方式がある。水平視差の表示方式には、表示面の前に垂直スリットを備えるパララックスバリア方式や、レンチキュラレンズを備えるレンチキュラ方式などがある。また、水平垂直視差の表示方式には、表示面の前に2次元レンズアレイを備えるレンズアレイ方式や、視点位置を検出して左右の視点画像を生成するCG(コンピュータグラフィックス)方式などがある。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2011−109484号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
一般に、水平方向にしか視差のない表示方式の場合、垂直方向に視差のある多視点画像を使用する必要はない。しかし、特許文献1のような複数台のカメラユニットを二次元に配置した多眼方式の撮像装置では、不要な垂直方向に配置されたカメラユニットの情報も処理するという問題がある。
【0006】
そこで本発明では、横にしか視差のない表示方式の場合の立体視には利用しないカメラユニットの情報を利用して、画像処理を施した多視点画像を生成することを目的とする。
【課題を解決するための手段】
【0007】
本発明の撮像装置は、二次元に配置された複数の撮像手段を備え、複数の撮像手段で撮像した画像の視差により立体表示画像を生成する撮像装置であって、撮像手段の各々の位置を示す配置情報を取得する配置情報取得手段と、画像の水平方向の視差による立体表示の場合、配置情報に基づいて縦方向に構成された撮像手段のそれぞれの撮影条件を変更する撮影条件手段と、縦方向に構成された撮像装置の各々について、変更された撮影条件で撮像された画像に画像処理を施して合成する画像合成手段とを備えたことを特徴とする。
【発明の効果】
【0008】
本発明は、二次元に配置された複数台のカメラユニットで構成された多眼方式の撮影装置において、配置情報に基づいて撮影条件を変更することにより、立体視には利用しないカメラユニットの情報を有効活用することができる。また、ダイナミックレンジの広い多視点画像やノイズ量を低減した多視点画像を取得することができる。
【図面の簡単な説明】
【0009】
【図1】本発明の一実施例の複数の撮像部を備えた多眼方式の撮像装置の一例を示す図である。
【図2】多眼方式の撮像装置の内部構成の一例を示すブロック図である。
【図3】撮像部の内部構成の一例を示す図である。
【図4】実施例1における撮像制御部の動作を示すフローチャートである。
【図5】視差関連情報を入力する表示部の一例を示す図である。
【図6】撮像部の配置情報の一例を示す図である。
【図7】配置情報に基づく撮影条件の変更量の一例を示す図である。
【図8】実施例1における画像処理部の動作を示すフローチャートである。
【図9】本実施例のHDR合成処理を説明する概念図である。
【図10】本発明の実施例2における撮像制御部の動作を示すフローチャートである。
【図11】本発明の実施例2における画像処理部の動作を示すフローチャートである。
【図12】本実施例のNR処理を説明する概念図である。
【図13】配置情報に基づく撮影条件の変更量の一例を示す図である。
【図14】本発明の実施例3における画像処理部の動作を示すフローチャートである。
【図15】本実施例の距離マップ算出処理の動作を示すフローチャートである。
【図16】本実施例における水平方向の撮影位置と被写体との関係を示す概念図である。
【図17】本実施例のHDR合成処理の動作を示すフローチャートである。
【図18】本実施例における垂直方向の撮影位置と被写体との関係を示す概念図である。
【図19】本実施例の視点変更処理の動作を示すフローチャートである。
【図20】本実施例における水平方向の視点位置と被写体との関係を示す概念図である。
【発明を実施するための形態】
【0010】
[実施例1]
図1は、複数の撮像部を備えた多眼方式による多視点撮像装置の一例を示す図である。撮像装置の筐体100は、カラー画像を取得する9個の撮像部101〜109及び撮影ボタン110を備えている。図1に示すように9個の撮像部は、二次元に均等に配置されている。ユーザが撮影ボタン110を押下すると、撮像部101〜109が被写体の光情報をセンサ(撮像素子)で受光し、受光した信号がA/D変換され、複数のカラー画像データ(デジタルデータ)が同時に取得される。
【0011】
このような多眼方式の撮像装置により、同一の被写体を複数の視点位置から撮像したカラー画像群を得ることができる。なお、ここでは撮像部の数を9個としたが撮像部の数は9個に限定されず、撮像装置が複数の撮像部を有する限りにおいてその数によらず本発明は適用可能である。
【0012】
図2は、撮像装置100の内部構成を示すブロック図である。中央処理装置(CPU)201は、以下に述べる各部を統括的に制御する。RAM202は、CPU201の主メモリ、ワークエリア等として機能する。ROM203は、CPU201で実行される制御プラグラム等を格納している。
【0013】
バス204は、各種データの転送経路となる。例えば、撮像部101〜109によって取得されたデジタルデータは、このバス204を介して所定の処理部に送られる。操作部205はユーザの指示を受け取り、具体的にはボタンやモードダイヤルなどが含まれる。表示部206は撮影画像や文字の表示を行い、例えば、液晶ディスプレイが用いられる。表示部206はタッチスクリーン機能を有していても良く、その場合はタッチスクリーンを用いたユーザ指示を操作部205の入力として扱うことも可能である。
【0014】
表示制御部207は、表示部206に表示される撮影画像や文字の表示制御を行う。撮像制御部208は、フォーカスを合わせる、シャッターを開く・閉じる、絞りを調節するなどの、CPU201からの指示に基づいた撮像部の制御を行う。また、撮像制御部208は、撮像装置の配置情報に基づいて撮像部の制御パラメータを調整するが、撮像制御部208の詳細については後述する。デジタル信号処理部209は、バス204を介して受け取ったデジタルデータに対し、ホワイトバランス処理、ガンマ処理、ノイズ低減処理などの各種処理を行う。
【0015】
エンコード部210は、デジタルデータをJPEGやMPEGなどのファイルフォーマットに変換する処理を行う。外部メモリ制御部211は、撮像装置100を、PCやその他のメディア(例えば、ハードディスク、メモリーカード、CFカード、SDカード、USBメモリ)に結合するためのインターフェースである。画像処理部212は、撮像部101〜109で取得されたカラー画像群或いは、デジタル信号処理部209から出力されるカラー画像群から、画像合成などの画像処理を行う。画像処理部212の詳細については後述する。なお、撮像装置の構成要素は上記以外にも存在するが、本件発明の主眼ではないので、説明を省略する。
【0016】
図3は、撮像部101〜109の内部構成を示す図である。撮像部101〜109は、レンズ301〜303、絞り304、シャッター305、光学ローパスフィルタ306、iRカットフィルタ307、カラーフィルタ308、センサ309及びA/D変換部310で構成される。レンズ301〜303は夫々、ズームレンズ301、フォーカスレンズ302、ぶれ補正レンズ303である。センサ309は、例えばCMOSやCCDなどのセンサであり、上記の各レンズでフォーカスされた被写体の光量を検知する。検知された光量はアナログ値としてセンサ309から出力され、A/D変換部310によってデジタル値に変換されて、デジタルデータとなってバス204に出力される。
【0017】
(撮像制御部)
次に、撮像制御部208の詳細について説明する。図4は、撮像制御部208の動作を示すフローチャートである。本実施例では、画像の横方向の視差すなわち水平視差のみの表示方式の場合、各撮像部から取得した画像データのうち、視差にかかわる処理を実行するのは水平方向のみとなる。すなわち、この場合、立体表示するためには垂直視差の計算は不要なので、すべての撮像部から取得した画像データではなく、例えば図1に示す撮像部104、105および106から取得した画像データのみを立体視表示画像を算出する処理に使用すればよい。したがって、通常各撮像部はそれぞれ個別に基準値を設定し制御されるが、本実施例では水平視差のみの表示方式の場合、垂直方向に並んだ撮像部は、視差に関する処理は行わない。
【0018】
まず、ステップS401では、撮影条件の基準値を取得する。撮影条件とは、シャッタースピードやF値(絞り)、ISO感度など、撮影時の撮像部を制御するために必要なパラメータである。ここで、撮影条件は、上記以外にも、ホワイトバランス設定、NDフィルタの有無、フォーカス距離やズーム設定などが含まれてもよい。また、撮影条件の基準値の一部又は全ては、表示部206に表示された指示に基づいて、ユーザが操作部205を通じて設定することができる。基準値の設定は、上記以外にも、ROM203に予め記録された基準値を呼び出したり、撮影時の周囲の環境から自動的に設定されるようにプログラムされていたりしてもよい。
【0019】
ステップS402では、表示する視差の関連情報を取得する。表示する視差関連情報とは、立体視する表示装置の視差の方向を含む情報である。本実施例で、視差関連情報は具体的には水平視差及び水平垂直視差であるが、これに限られない。表示する視差の関連情報は、表示部206に表示された指示に基づいて、ユーザが操作部205を通じて設定することができる。図5は、視差関連情報を入力する表示部の一例を示す図である。図5では、表示部501には視差の方向を設定するためのGUIが表示されており、「水平方向のみ」または「水平方向と垂直方向」の何れかを操作部502、503、504を操作して設定できる。これ以外にも、立体視する表示装置の方式を選択的に入力あるいは設定させることにより、視差の方向を決定しても構わない。例えば、パララックスバリア方式やレンチキュラ方式が選択された場合は、視差の方向は「水平方向のみ」であり、レンズアレイ方式やCG方式が選択された場合は、視差の方向は「水平方向と垂直方向」であるとしても構わない。
【0020】
ステップS403では、視差の方向が「水平方向のみ」であるか否かを判定する。「水平方向のみ」の場合はステップS404へ、そうでない場合はステップS407に進む。ステップS404では、撮像部の配置情報を取得する。ここで、撮像部の配置情報とは、すべての撮像装置の相対的な位置関係を示す情報である。本実施例では、撮像部の配置情報はROM203に予め記録されているものとするが、ユーザの指示等で個々の撮像部の配置を変更可能な撮像装置の場合には、撮像部の配置情報はユーザの指示に基づいて決定してもよい。
【0021】
図6は、撮像部の配置情報の一例を示す図である。図6では、撮像部ごとに相対的な座標値が記録されており、例えば撮像部101のX座標は1、Y座標は1となる。
【0022】
ステップS405では、垂直方向の撮像部を選択する。垂直方向の撮像部とは、撮像装置を構えた際に、垂直方向に並んで配置される撮像部の集まりである。本実施例では、垂直方向の撮像部の情報も、配置情報と共にROM203に予め記録されているものとする。この垂直方向の撮像部の情報も図6に示す配置情報に予め設定されている。具体的には、横構え1は、撮像装置を横構え、すなわち水平に構えて撮影するときの、向かって左端の垂直方向の集まりに含まれる撮像部が○で示されている。図6を参照すると、左端の集まり(横構え1)は撮像部101、104および107となり、真ん中の集まり(横構え2)が撮像部102、105および108となる。また右側の集まり(横構え3)は、撮像部103、106および109となる。
【0023】
一方、縦に構えて撮影する場合、垂直方向に構成された撮像部の最もシャッター110よりの集まり(縦構え1)は、撮像部101、102および103の組み合わせとなる。同様に、縦構え2は撮像部104、105および106の組み合わせとなり、縦構え3は撮像部107、108および109の組み合わせとなる。ここで、撮像装置の構えについては、図示しない重力センサを備えるなどにより判定すればよいが、重力センサを備えない場合には、配置情報の縦方向を垂直方向であるとしても構わない。
【0024】
ステップS406では、水平視差のみの表示方式の場合なので、配置情報に基づいて撮影条件を変更する。本実施例では、配置情報に基づいて、シャッタースピードやF値など露出時間等の露出の撮影条件を変更する。すなわち、上述のように水平視差のみの表示方式の場合、立体表示するためには垂直視差の計算は不要であることから、垂直方向に並んだ撮像部から取得した画像データは立体表示以外の処理のために使用する。本実施例では、後述するように選択画像の画像データを用いてハイダイナミックレンジ(HDR)合成するので、垂直方向の撮像部は各々本処理に合わせた撮影条件に変更される。例えば、横構え1の組み合わせである撮像部101、104および107の場合、各々ハイダイナミックレンジ(HDR)合成するのに最適なように設定される。配置情報に基づく撮影条件の変更量は、ROM203に予め記録された設定値を呼び出したり、ユーザが操作部205を通じて設定したりしてもよい。
【0025】
本実施例では、撮影条件の変更量はROM203に予め記録されているものとし、図7にその一例を示す。図7では、横構え、すなわち垂直方向の座標値に基づいて、露出の変更量を決定している。例えば、上段の撮像部101、102および103(Y座標1)では、露出が基準値に対して1段下がるように設定されており、シャッタースピードを2倍にするか、F値を0.7倍に変更するように設定されている。また、下段の撮像部107、108および109(Y座標3)では、露出が基準値に対して1段上がるように設定されており、シャッタースピードを半分にするか、F値を1.4倍に変更するように設定されている。また、シャッタースピードやF値の撮影条件の他にも、例えばNDフィルタを切り替えることにより露出を変更しても構わないことは言うまでもない。なお、縦構えで撮影する場合には、図13に示すように撮影条件を変更すればよい。
【0026】
ステップS407では、水平垂直視差の表示方式の場合なので、各撮像部は垂直、水平に拘わらず個々に設定する必要があり、すべての撮像部を選択する。次に、ステップS408では、選択したすべての撮像部に対して基準値の撮影条件を設定する。すなわち、ステップS403において、視差の方向が「水平方向のみ」でないと判定された場合には、その後立体表示処理に各撮像部からの画像データを使用するので、すべての撮像部の撮影条件を基準値に設定することを意味する。
【0027】
(画像処理部)
次に、画像処理部212の詳細について説明する。通常、多眼方式の撮像装置で得られた複数の画像データを使用して立体表示の画像処理を行う場合は、垂直、水平を問わず画像間の視差と、それぞれの撮像部の配置情報とを用いて立体表示を行う。本実施例では、特に水平視差のみの表示方式の場合、垂直に並んだ撮像部からの画像データは立体表示処理に使用しないため、別の画像処理に使用して有効活用する。ここで、本実施例では、ハイダイナミックレンジ(HDR)合成処理を実行するが、これに限られず種々の処理を採用することができる。なお、本実施例では、立体表示処理は、垂直方向に並んだ撮像部からの画像の処理、すなわち本実施例ではHDR合成処理の後得られた水平方向の画像データを用いて実行するが、これに限られず任意のタイミングおよび任意の画像データで実行可能である。また、立体表示処理はここでは詳述しないが、本技術分野で知られたいずれの方法も使用することができ、例えば水平方向のいずれか2つの画像の視差から各画素で被写体までの距離を算出することによって立体表示を実行することができる。
【0028】
図8は、画像処理部212の動作を示すフローチャートである。まず、ステップS801では、表示する視差の関連情報を取得する。表示する視差の関連情報は、ステップS402と同一であるため説明を省略する。次に、ステップS802では、視差関連情報に基づき視差の方向が「水平方向のみ」であるか否かを判定する。「水平方向のみ」の場合はステップS803へ、そうでない場合はステップS807に進む。
【0029】
ステップS803では、撮像部の配置情報を取得する。撮像部の配置情報は、ステップS404と同一であるため説明を省略する。次に、ステップS804では、垂直方向の撮像部を選択する。垂直方向の撮像部は、ステップS405と同一であるため説明を省略する。次に、ステップS805では、選択画像を用いてハイダイナミックレンジ(HDR)合成する。ここで、選択画像は、撮像部101、104および107からそれぞれ取得した3画像、撮像部102、105および108からそれぞれ取得した3画像並びに撮像部103、106および109からそれぞれ取得した3画像となる。すなわち各3画像を選択画像として、本実施例では3回HDR合成処理が行われる。
【0030】
図9は、HDR合成処理を説明する概念図である。図9に示す画像901ないし909は、それぞれ撮像部101ないし109で取得された画像であり、各々露出の撮影条件が異なっている。本実施例では、まず、選択画像の位置合せを行う。選択画像の位置合せは、パターンマッチングやブロックマッチングによる方法が一般的に知られているが、その他本技術分野で知られたいずれの方法も用いることができる。また、本実施例では、位置合せの対象となる画像データが垂直方向の撮像部から取得されたものであるため、マッチング探索する方向を垂直方向に限定することにより高速化することができる。次に、位置合せした選択画像を用いて、HDR合成処理を行う。HDR合成処理は、トーンマッピングによる方法が一般的に知られているが、別の方法も採用することができる。トーンマッピングは、異なる露出の画像データから潰れていない階調領域を抽出して重ね合わせる技法であるが、詳細は省略する。
【0031】
ステップS806では、合成画像を保存する。本実施例では、垂直方向に構成された撮像部の組合せの数である3つの合成画像が保存される。すなわち、画像901、904および907を合成した合成画像、画像902、905および908を合成した合成画像並びに画像903、906および909を合成した合成画像の3つの合成画像が保存される。また、合成画像は、RAM202、または外部メモリ制御部211を通じてPCその他のメディア213に保存される。また、合成画像だけでなく、合成前のすべての画像を保存しても構わないことは言うまでもない。
【0032】
ステップS807では、水平垂直視差の表示方式の場合なので、画像901ないし909はすべて立体表示に使用することから、HDR合成処理等立体表示以外の処理は実行せず、立体表示に使用する画像データとしてすべての撮像部を選択する。次に、ステップS808では、すべての画像を保存する。
【0033】
結局、ステップS802において、視差の方向が「水平方向のみ」でないと判定された場合には、従来技術のようにすべての撮像部の画像を保存する。一方、視差の方向が「水平方向のみ」であると判定された場合には、垂直方向にあるすべての撮像部の画像を利用して、画像処理した結果を保存する。
【0034】
以上により、立体視には利用しない撮像装置の情報を利用して、ダイナミックレンジの広い多視点画像を取得することができる。なお、立体表示処理については、保存された多視点画像の中から表示装置の表示方式に合わせて適切な画像を選択すればよい。例えば、左右2つの視差を有する表示方式の場合、左目用に画像906またはその合成画像、右目用に画像904またはその合成画像を選択すればよい。また、表示装置や観察者の視差の大きさに合わせて、選択する画像を変更してもよいことは言うまでもない。
【0035】
また、本実施形態では、撮像部101〜109で撮像される画像がすべてカラー画像であることを前提に各部の構成や処理を説明した。しかし、撮像部101〜109で撮像される画像の一部或いは全部をモノクロ画像に変更しても構わない。その場合には、図3のカラーフィルタ308は省略される。
【0036】
[実施例2]
実施例1では、垂直方向の撮像装置の露出を変更することにより、ダイナミックレンジの広い多視点画像を取得する方法について説明した。本実施例においては、垂直方向に並んだ撮像部により取得される画像データに立体表示以外の処理を施して、撮影装置のISO感度の数値を高く変更しても、ノイズ量を低減した多視点画像を取得する方法について説明する。
【0037】
本実施例では、撮像制御部208および画像処理部212の一部の動作が実施例1と異なるが、その他の処理については、実施例1と同一であるため、説明を省略する。
【0038】
(撮像制御部)
ここでは、撮像制御部208の詳細について説明する。図10は、撮像制御部208の動作を示すフローチャートである。まず、ステップS1001では、撮影条件の基準値を取得する。撮影条件の基準値は、実施例1のステップS401と同一であるため説明を省略する。
【0039】
ステップS1002では、表示する視差の関連情報を取得する。表示する視差の関連情報は、実施例1のステップS402と同一であるため説明を省略する。次に、ステップS1003では、視差の方向が「水平方向のみ」であるか否かを判定する。「水平方向のみ」の場合はステップS1004へ、そうでない場合はステップS1008に進む。
【0040】
ステップS1004では、ISO感度が低いか否かを判定する。ISO感度が低い場合はステップS1005へ、そうでない場合はステップS1008に進む。ISO感度は、ステップS1001で取得する撮影条件の一部であり、撮像センサの感度特性を示す値である。一般に、ISO感度が低いほど多くの光を必要するがノイズが少なくなる。一方、ISO感度が高いほど少ない光でも撮影することができるがノイズが多くなる傾向がある。本実施例では、設定されたISO感度の高低は、ROM203に予め記録された値(例えば、800)とISO感度と比較して判定する。したがって、ISO感度が400と設定されていた場合、実施例1HDR合成処理を行い、ISO感度が低くても広いダイナミックレンジの画像を得るようにする。一方、ISO感度が800より高い値の場合は、ノイズリダクション処理を実行してノイズを低減させるようにする。
【0041】
ステップS1005では、撮像部の配置情報を取得する。撮像部の配置情報は、実施例1のステップS404と同一であるため説明を省略する。次に、ステップS1006では、垂直方向の撮像部を取得する。垂直方向の撮像部は、実施例1のステップS405と同一であるため説明を省略する。次に、ステップS1007では、配置情報に基づいて撮影条件を変更する。撮影条件の変更は、実施例1のステップS406と同一であるため説明を省略する。
【0042】
ステップS1008では、図8のS407と同様にすべての撮像部を選択する。次に、ステップS1009では、選択したすべての撮像部に対して基準値の撮影条件を設定する。すなわち、ISO感度が高い場合でも設定されたISO感度を使用する。
【0043】
以上により、撮像制御部208では、視差の方向が「水平方向のみ」であっても、ISO感度が高い場合、本実施例ではHDR処理を実行しないので、すべての撮像部の撮影条件を同一にする。すなわち、高いISO感度ではノイズが多く含まれるため、後述する画像処理部ではノイズ低減処理を優先させる。しかしながら、ノイズ低減処理を優先させるか否かを、ユーザの指示に基づき判断しても構わないことは言うまでもない。
【0044】
(画像処理部)
図11を参照して、画像処理部212の詳細について説明する。図11は、画像処理部212の動作を示すフローチャートである。まず、ステップS1101では、表示する視差関連情報を取得する。表示する視差関連情報は、実施例1のステップS801と同一であるため説明を省略する。次に、ステップS1102では、視差の方向が「水平方向のみ」であるか否かを判定する。「水平方向のみ」の場合はステップS1103へ、そうでない場合はステップS1109に進む。
【0045】
ステップS1103では、撮像部の配置情報を取得する。撮像部の配置情報は、実施例1のステップS803と同一であるため説明を省略する。次に、ステップS1104では、垂直方向の撮像部を選択する。垂直方向の撮像部は、実施例1のステップS804と同一であるため説明を省略する。次に、ステップS1105では、ISO感度が低いか否かを判定する。ISO感度が低い場合はステップS1106へ、そうでない場合はステップS1107に進む。
【0046】
ステップS1106では、選択画像を用いてHDR合成を行う。HDR合成は、実施例1のステップS805と同一であるため説明を省略する。次に、ステップS1107では、合成画像を保存する。合成画像の保存は、実施例1のステップS806と同一であるため説明を省略する。
【0047】
ステップS1108では、高ISO感度のため、選択画像を用いてノイズリダクション(NR)処理を行う。図12は、NR処理を説明する概念図である。図12に示す画像1201ないし1209は、それぞれ撮像部101ないし109で取得された画像データであり、高いISO感度で撮影したものである。本実施例では、実施例1と同様に、まず、選択画像の位置合せを行う。次に、位置合せした画像データを用いて、NR処理を行う。NR処理では、ローパスフィルタ等によるフィルタ処理が一般的であるが、エッジが鈍るなどの問題がある。このため、本実施例では、位置合せ後の画像データを平均化することにより、NR処理を行っているがこれに限られず、本技術分野で知られたいずれの手法も用いることができる。NR処理終了後は、ステップS1107に進み、処理画像を保存する。
【0048】
ステップS1109では、すべての撮像部を選択する。次に、ステップS1110では、すべての画像を保存する。画像の保存は、実施例1のステップS808と同一であるため説明を省略する。
【0049】
以上により、画像処理部212では、視差の方向が「水平方向のみ」であり、かつISO感度が高い場合には、垂直方向に並んだ撮像部により取得される画像データに立体表示以外のノイズ低減処理を実行し、ISO感度に最適な処理を実行することができる。
【0050】
以上により、立体視には利用しない撮像装置の情報を利用して、ノイズ量を低減した多視点画像を取得することができる。
【0051】
なお、本実施形態では、ノイズ低減処理について述べたが、位置合せした画像データを用いて、解像感を向上させる超解像処理などを行っても構わないことは言うまでもない。さらに、本実施形態では、配置情報に基づいて露出やISO感度の撮影条件を変更することについて述べたが、これに限定されないことは言うまでもない。例えば、カラーフィルタやフォーカス位置などの撮影条件を変更しても構わない。
【0052】
[実施例3]
実施例1では、垂直方向の撮像装置の露出を変更することにより、ダイナミックレンジの広い多視点画像を取得する方法について説明した。また、立体表示画像を生成する処理については、取得した多視点画像の中から表示装置の表示形式に合わせて適切な画像を選択する方法について説明した。本実施例においては、表示装置の特性、視聴者との位置関係や観察者の視差の大きさに合わせて、多視点画像から補間した仮想的な視点からの画像を生成する方法について説明する。また、水平方向の撮像装置から被写体までの距離マップを算出し、距離マップを用いてHDR合成処理と立体表示処理とを行う方法について説明する。これにより、本技術分野で知られたHDR合成処理や立体表示処理と比較して、処理時間を短縮することができる。
【0053】
本実施例では、画像処理部212の一部の動作が実施例1と異なるが、その他の処理については、実施例1と同一であるため、説明を省略する。
【0054】
(画像処理部)
ここでは、画像処理部212の詳細について説明する。図14は、画像処理部212の動作を示すフローチャートである。なお、図8に示した実施例1における画像処理部のフローチャートと処理内容が同じステップに関しては、同じ符号を付与して説明を省略する。
【0055】
ステップS1401では、撮影した画像データを用いて距離マップを算出する。距離マップとは、画像データ内における被写体までの距離を含む二次元情報であり、所謂デプスマップである。なお、距離マップ算出の詳細については後述する。ステップS1402では、算出した距離マップを用いてHDR合成処理を実行する。ここでは、HDR合成処理における画像位置合わせを、ステップS1401で算出した距離マップを用いて行う。なお、HDR合成処理の詳細については後述する。
【0056】
ステップS1403では、算出した距離マップを用いて視点位置を変更した、所望の視差を持つ画像を合成する。ここでは、視点変更処理における視差補間処理を、ステップS1401で算出した距離マップを用いて行う。なお、視点変更処理の詳細については後述する。すなわち、本実施例では、予め算出した距離マップを、HDR合成処理および視点変更処理の両方で用いることにより、画像位置合わせの計算を共通化している。その結果、本技術分野で知られた従来の処理と比較して、処理時間を短縮することができる。
【0057】
(距離マップ算出処理)
ここでは、図14に示すフローチャートのステップS1401で行う距離マップ算出処理の詳細について説明する。距離マップ算出処理では、位置の異なる複数の撮影画像を基に、撮像したシーンの距離を推定することにより距離マップを算出する。この距離マップ算出処理には公知の方法を用いればよい。例えば、ステレオ法やマルチベースラインステレオ法などが適用可能である。本実施例では、ステレオ法によって距離マップを算出する。以下、図15に示すフローチャートを用いて、距離マップ算出処理の詳細を説明する。
【0058】
まず、ステップS1501では、距離マップの算出に使用する画像データを選択する。本実施例では、撮像装置100の中央に配置された撮像部105で撮像された画像データと、水平方向に隣接する撮像部104で撮像された画像データとを選択するものとする。以下では、前者を基準画像、後者を対象画像と呼ぶ。なお、選択する画像データはこれに限るものではなく、位置の異なる2枚の画像データであればよい。
【0059】
ステップS1502では、以後の処理を行う注目画素を初期化する。ステップS1503では、全画素で距離情報が算出されているか否かを判定する。全画素で距離情報が算出されている場合はステップS1507へ、そうでない場合はステップS1504に進む。ステップS1504では、基準画像の注目画素とその周囲の画素からなる領域を選択し、選択領域であるブロックを用いて対象画像とパターンマッチングを行うことにより、対象画像の中から注目画素に対応する画素(対応画素)を算出する。
【0060】
ステップS1505では、撮像装置の配置情報と、注目画素及びその対応画素とから距離情報pを算出する。距離情報pは、図16に示すα、β、sを用いて以下の式で表される。
【0061】
【数1】
【0062】
ここで、αは撮像装置105の水平画角と、基準画像の撮像位置及び注目画素の座標とから算出される。βは撮像部104の水平画角と、対象画像の撮像位置及び対象画素の座標とから算出される。sは撮像部間の水平距離であり、基準画像及び対象画像の撮像位置から算出される。
【0063】
ステップS1506では、注目画素を更新し、ステップS1503に戻る。ステップS1507では、各画素値を基準画像の距離情報とする距離マップを保存する。
【0064】
(HDR合成処理)
ここでは、図14に示すフローチャートのステップS1402で行うHDR合成処理の詳細について説明する。HDR合成処理では、距離マップを用いて画像位置合わせを行い、トーンマッピングによるHDR合成を行う。以下、図17に示すフローチャートを用いて、HDR合成処理の詳細を説明する。
【0065】
まず、ステップS1701では、ステップS1501で算出した距離マップを取得する。ステップS1702では、HDR合成に使用する画像データを選択する。画像データは、ステップS804において選択された画像データ、すなわち垂直方向に配置されている撮像部から取得された画像データの中から選択される。本実施例では、撮像装置100の中央に配置された撮像部105で撮像された画像データと、垂直方向に隣接する撮像部102で撮像された画像データとを選択するものとする。以下では、前者を基準画像、後者を対象画像と呼ぶ。なお、選択する画像データはこれに限るものではなく、垂直方向の異なる位置に配置された撮像部により各々撮像された2枚以上の画像データであればよい。
【0066】
ステップS1703では、以後の処理の対象となる注目画素を初期化する。ステップS1704では、全画素で画像シフトが行われているか否かを判定する。画像シフトが行われている場合はステップS1708へ、そうでない場合はステップS1705に進む。
【0067】
ステップS1705では、画像位置合せのシフト量を算出する。画像位置合せとは、対象画像における被写体の位置を、対応する基準画像内の被写体の位置に合わせることである。また、シフト量とは、位置合せを行った場合の、対象画像の注目画素を基準画像内の対応する画素へ移動する画素数である。シフト量mは、図18に示すp、t、θを用いて以下の式で表される。
【0068】
【数2】
【0069】
ここで、pは注目画素の距離情報であり、距離マップから取得される。tは撮像部間の垂直距離であり、θは撮像部の垂直視野角である。また、Hは画像データの垂直方向の画素数である。
【0070】
ステップS1706では、算出したシフト量に基づいて注目画素を移動させる。ステップS1707では、注目画素を更新し、ステップS1704に戻る。ステップS1708では、画像シフトにより位置合せを行った対象画像と基準画像とを用いてトーンマッピングによる画像合成を行う。トーンマッピングは、異なる露出の画像データから潰れていない階調領域を抽出して重ね合わせる技法であるが、詳細は省略する。
【0071】
(視点変更処理)
ここでは、図14に示すフローチャートのステップS1403で行う視点位置の変更処理の詳細について説明する。視点変更処理では、距離マップを用いて視点位置への画像シフト量を算出し、視点位置を変更した画像を合成する。以下、図19に示すフローチャートを用いて、視点変更処理の詳細を説明する。なお、図17に示したHDR合成処理のフローチャートと処理内容が同じステップに関しては、同じ記号を付与して説明を省略する。
【0072】
ステップS1901では、画像合成する視点位置の情報を取得する。視点位置の情報とは、その視点位置に撮像部があるとした場合の仮想撮像部の位置であり、撮像装置100の撮像部101乃至109を内挿する範囲内に設定することができる。また、視点位置の情報は表示装置の表示形式に合わせて適切に設定される。例えば、表示装置の表示形式が水平方向に5つの視差を有するレンチキュラ方式である場合、仮想撮像部の視点位置は撮像部104と撮像部105の中間の位置、および撮像部105と撮像部106の中間の位置に設定することができる。このように視点位置の情報は、表示装置の特性やシステムに合わせて適切な値を設定することができるほか、観察者の情報により、あるいは観察者の指示により、所望の情報を設定することができる。本実施例では、仮想撮像部の視点位置が撮像部104と撮像部105の中間の位置である場合について説明する。
【0073】
ステップS1902では、視点変更の画像合成で使用する画像データを選択する。本実施例では、視点位置の情報に基づき、撮像部105で撮像された画像データおよび撮像部104で撮像された画像データが選択される。
【0074】
ステップS1903では、対象画像の視点位置をステップS1901で取得した視点位置へ変更するためのシフト量を算出する。シフト量nは、図20に示すp、u、θを用いて以下の式で表される。
【0075】
【数3】
【0076】
ここで、pは注目画素の距離情報であり、距離マップから取得される。uは対象画像の視点位置と画像合成する視点位置との水平距離であり、θは撮像部の水平視野角である。また、Wは画像データの水平方向の画素数である。ステップS1904では、画像シフトした対象画像をすべて重ね合わせて画像合成を行う。なお、本実施例では、視点位置の変更処理を画像シフトにより算出する方法について述べたが、これに限定されないことは言うまでもない。例えば、2つ以上の画像から抽出した特徴点を対応付け、各特徴点の対応関係を基にモーフィング処理を行うことで視点位置の変更処理を行っても構わない。
【0077】
以上により、表示装置の特性、視聴者との位置関係や観察者の視差の大きさに合わせて、多視点画像から補間した視点のHDR画像を生成することができる。さらに、水平方向の撮像装置から被写体までの距離マップを算出し、距離マップを用いてHDR合成処理と立体表示処理とを行うことにより、処理時間を短縮することができる。
【0078】
なお、本実施例では、距離マップを用いてHDR合成処理と立体表示処理を行う方法について説明したが、距離マップを用いた処理はこれに限定されるものではない。例えば、実施例2におけるNR処理にも適用可能であることは言うまでもない。
【0079】
[その他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。すなわち、上述した実施例の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。また、本発明は、複数のプロセッサが連携して処理を行うことによっても実現できるものである。
【特許請求の範囲】
【請求項1】
二次元に配置された複数の撮像手段を備え、前記複数の撮像手段で撮像した画像の視差により立体表示画像を生成する撮像装置であって、
前記撮像手段の各々の位置を示す配置情報を取得する配置情報手段と、
前記画像の横方向の視差による立体表示の場合、前記配置情報に基づいて縦方向に構成された撮像手段のそれぞれの撮影条件を変更する撮影条件手段と、
前記縦方向に構成された撮像装置の各々について、前記変更された撮影条件で撮像された画像に画像処理を施して合成する画像合成手段と
を備えたことを特徴とする撮像装置。
【請求項2】
前記縦方向に構成された撮像手段は、重力センサにより垂直方向に構成されていることが検出された撮像手段であることを特徴とする請求項1に記載の撮像装置。
【請求項3】
立体視する表示装置の視差関連情報を取得する視差関連情報手段を更に備え、前記撮影条件手段は、視差関連情報により撮影条件を変更するか否かを判定することを特徴とする請求項1又は2に記載の撮像装置。
【請求項4】
前記視差関連情報は、立体視する表示装置の視差の方向であることを特徴とする請求項3に記載の撮像装置。
【請求項5】
前記撮影条件手段は、前記撮像手段の露出時間を変更することを特徴とする請求項1ないし4のいずれかに記載の撮像装置。
【請求項6】
前記画像合成手段は、前記縦方向に構成された撮像手段で取得した画像データを選択画像としてハイダイナミックレンジ(HDR)合成処理することを特徴とする請求項1ないし5のいずれかに記載の撮像装置。
【請求項7】
前記撮影条件手段は、前記撮像手段のISO感度を変更することを特徴とする請求項1ないし6のいずれかに記載の撮像装置。
【請求項8】
前記画像合成手段は、前記縦方向に構成された撮像手段で取得した画像データを用いてノイズを低減することを特徴とする請求項1ないし7のいずれかに記載の撮像装置。
【請求項9】
二次元に配置された複数の撮像手段を備え、前記複数の撮像手段で撮像した画像の視差により立体表示画像を生成する撮像方法であって、
前記撮像手段の各々の位置を示す配置情報を取得する配置情報ステップと、
前記画像の横方向の視差による立体表示の場合、前記配置情報に基づいて縦方向に構成された撮像手段のそれぞれの撮影条件を変更する撮影条件ステップと、
前記縦方向に構成された撮像装置の各々について、前記変更された撮影条件で撮像された画像に画像処理を施して合成する画像合成ステップと
を備えたことを特徴とする撮像装置。
【請求項10】
二次元に配置された複数の撮像手段を備えた撮像装置の前記複数の撮像手段で撮像した画像の視差により立体表示画像を生成する画像処理装置であって、
前記撮像手段の各々の位置を示す配置情報を取得する配置情報手段と、
前記画像の横方向の視差による立体表示の場合、前記配置情報に基づいて縦方向に構成された撮像手段のそれぞれの撮影条件を変更する撮影条件手段と、
前記縦方向に構成された撮像装置の各々について、前記変更された撮影条件で撮像された画像に画像処理を施して合成する画像合成手段と
を備えたことを特徴とする画像処理装置。
【請求項11】
二次元に配置された複数の撮像手段を備え、前記複数の撮像手段で撮像した画像の視差により立体表示画像を生成する撮像装置であって、
前記撮像手段の各々の位置を示す配置情報を取得する配置情報手段と、
前記複数の撮像手段のうち横方向に配置された2つ以上の撮像手段により撮像された画像に基づいて、被写体までの距離を示す距離マップを算出する距離マップ算出手段と、
縦方向に配置された撮像手段の各々について撮影条件を変更し、前記距離マップを用いて画像処理を施して合成する画像合成手段と、
前記距離マップを用いて、予め設定された視差となる前記撮像手段の仮想的な位置を視点として撮像した立体表示の合成画像を生成する視点変更手段と
を備えたことを特徴とする撮像装置。
【請求項12】
前記画像合成手段は、前記縦方向に構成された撮像手段で取得した画像データを選択画像としてハイダイナミックレンジ(HDR)合成処理することを特徴とする請求項11に記載の撮像装置。
【請求項13】
前記画像合成手段は、前記縦方向に構成された撮像手段で取得した画像データを用いてノイズを低減することを特徴とする請求項11又は12に記載の撮像装置。
【請求項1】
二次元に配置された複数の撮像手段を備え、前記複数の撮像手段で撮像した画像の視差により立体表示画像を生成する撮像装置であって、
前記撮像手段の各々の位置を示す配置情報を取得する配置情報手段と、
前記画像の横方向の視差による立体表示の場合、前記配置情報に基づいて縦方向に構成された撮像手段のそれぞれの撮影条件を変更する撮影条件手段と、
前記縦方向に構成された撮像装置の各々について、前記変更された撮影条件で撮像された画像に画像処理を施して合成する画像合成手段と
を備えたことを特徴とする撮像装置。
【請求項2】
前記縦方向に構成された撮像手段は、重力センサにより垂直方向に構成されていることが検出された撮像手段であることを特徴とする請求項1に記載の撮像装置。
【請求項3】
立体視する表示装置の視差関連情報を取得する視差関連情報手段を更に備え、前記撮影条件手段は、視差関連情報により撮影条件を変更するか否かを判定することを特徴とする請求項1又は2に記載の撮像装置。
【請求項4】
前記視差関連情報は、立体視する表示装置の視差の方向であることを特徴とする請求項3に記載の撮像装置。
【請求項5】
前記撮影条件手段は、前記撮像手段の露出時間を変更することを特徴とする請求項1ないし4のいずれかに記載の撮像装置。
【請求項6】
前記画像合成手段は、前記縦方向に構成された撮像手段で取得した画像データを選択画像としてハイダイナミックレンジ(HDR)合成処理することを特徴とする請求項1ないし5のいずれかに記載の撮像装置。
【請求項7】
前記撮影条件手段は、前記撮像手段のISO感度を変更することを特徴とする請求項1ないし6のいずれかに記載の撮像装置。
【請求項8】
前記画像合成手段は、前記縦方向に構成された撮像手段で取得した画像データを用いてノイズを低減することを特徴とする請求項1ないし7のいずれかに記載の撮像装置。
【請求項9】
二次元に配置された複数の撮像手段を備え、前記複数の撮像手段で撮像した画像の視差により立体表示画像を生成する撮像方法であって、
前記撮像手段の各々の位置を示す配置情報を取得する配置情報ステップと、
前記画像の横方向の視差による立体表示の場合、前記配置情報に基づいて縦方向に構成された撮像手段のそれぞれの撮影条件を変更する撮影条件ステップと、
前記縦方向に構成された撮像装置の各々について、前記変更された撮影条件で撮像された画像に画像処理を施して合成する画像合成ステップと
を備えたことを特徴とする撮像装置。
【請求項10】
二次元に配置された複数の撮像手段を備えた撮像装置の前記複数の撮像手段で撮像した画像の視差により立体表示画像を生成する画像処理装置であって、
前記撮像手段の各々の位置を示す配置情報を取得する配置情報手段と、
前記画像の横方向の視差による立体表示の場合、前記配置情報に基づいて縦方向に構成された撮像手段のそれぞれの撮影条件を変更する撮影条件手段と、
前記縦方向に構成された撮像装置の各々について、前記変更された撮影条件で撮像された画像に画像処理を施して合成する画像合成手段と
を備えたことを特徴とする画像処理装置。
【請求項11】
二次元に配置された複数の撮像手段を備え、前記複数の撮像手段で撮像した画像の視差により立体表示画像を生成する撮像装置であって、
前記撮像手段の各々の位置を示す配置情報を取得する配置情報手段と、
前記複数の撮像手段のうち横方向に配置された2つ以上の撮像手段により撮像された画像に基づいて、被写体までの距離を示す距離マップを算出する距離マップ算出手段と、
縦方向に配置された撮像手段の各々について撮影条件を変更し、前記距離マップを用いて画像処理を施して合成する画像合成手段と、
前記距離マップを用いて、予め設定された視差となる前記撮像手段の仮想的な位置を視点として撮像した立体表示の合成画像を生成する視点変更手段と
を備えたことを特徴とする撮像装置。
【請求項12】
前記画像合成手段は、前記縦方向に構成された撮像手段で取得した画像データを選択画像としてハイダイナミックレンジ(HDR)合成処理することを特徴とする請求項11に記載の撮像装置。
【請求項13】
前記画像合成手段は、前記縦方向に構成された撮像手段で取得した画像データを用いてノイズを低減することを特徴とする請求項11又は12に記載の撮像装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図10】
【図11】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図9】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図10】
【図11】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図9】
【図12】
【公開番号】特開2013−93836(P2013−93836A)
【公開日】平成25年5月16日(2013.5.16)
【国際特許分類】
【出願番号】特願2012−160689(P2012−160689)
【出願日】平成24年7月19日(2012.7.19)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成25年5月16日(2013.5.16)
【国際特許分類】
【出願日】平成24年7月19日(2012.7.19)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]