距離マップ生成型マルチレンズカメラ
撮像出力信号に基づき光景についての出力画像を生成する電子カメラであって、第1センサ出力をもたらす第1イメージセンサ及びその上に視野内光景の第1画像を発現させる第1レンズを有する第1撮像部と、第2センサ出力をもたらす第2イメージセンサ及びその上に視野内光景の第2画像を発現させる第2レンズを有する第2撮像部と、を備える。第1及び第2イメージセンサの焦点距離を違える。処理部で、第1及び第2センサ出力のうち一方を撮像出力信号として選定する一方、光景内諸点までの距離を指し示す距離マップを第1及び第2センサ出力双方に基づき生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明はディジタル画像ファイルを生成するディジタルカメラ、特にレンズ及びイメージセンサを複数使用し測距能力を高めたディジタルカメラに関する。
【背景技術】
【0002】
現在使用されている多くのディジタルカメラはズームトラッキングレンズ及び単色イメージセンサを用い静止画や動画を撮影する構成である。撮影した画像はカメラ内で処理されディジタル画像ファイルとしてディジタルメモリ上に保存される。それらのファイルについては、コンピュータに転送すること、表示すること、印刷すること、インターネット上で共有すること等が可能である。
【0003】
動きのある被写体を鮮明に捉えるには、そのディジタルカメラ上にオートフォーカスシステム、即ちそのカメラのレンズを被写体に対し精密且つ自動的に合焦させるシステムを設ける必要がある。その種のシステムに対しては、被写体に対しレンズを迅速且つ正確に合焦させうること、即ちシャッタボタン押下から静止画撮影までの遅延時間であるシャッタ遅延が短いことが求められる。更に、動画撮影に使用される連続撮像モードでも機能すること、例えば動画モードで動画の撮影を続けている間中焦点をリアルタイムに調整できることも求められる。
【0004】
一般に、ディジタルカメラやスキャナの多くでは、イメージセンサと併せ、可調焦点レンズ付の撮像レンズ系を用いて画像を撮影する。通常、そうした可調焦点レンズ付撮像レンズ系の焦点距離(レンズポジション)では、複数通りある設定値のうちいずれかを検知系、制御系及び駆動系の動作で自動的に選択する。それらの設定値は、光景内の被写体エリアと覚しきエリアに好適に合焦するよう定めるのが普通である。本願中でオートフォーカスシステムと呼んでいるのは、合焦状態計測結果に基づき且つ可調焦点レンズを用いその焦点設定を自動調整しうるレンズシステムのことである。ディジタルカメラで用いられるオートフォーカスシステムには、大別してレンジファインダ(測距器式)オートフォーカスシステムとスルーザレンズ(レンズ越し式)オートフォーカスシステムとがある。
【0005】
そのうちレンジファインダオートフォーカスシステムでは、カメラから自システムの視野内にある1個又は複数個の点までの距離を、ソニックレンジファインダ(音響測距器)、デュアルレンズレンジファインダ(複レンズ測距器)等の測距センサを用いて導出する。ソニックレンジファインダは、投射した音響信号と反射してくる音響信号との間の位相差を計測し、その結果に基づき視野内物体までの距離を推定する。デュアルレンズレンジファインダは、間隔配設されている2個のレンズ及びそれらに対応して設けられた2個のセンサ領域を備え、それらのセンサ領域で画像の対を撮影する。ディジタルカメラに搭載されるデュアルレンズレンジファインダは、間隔配設された2個のレンズ及び対応するレンズを介し低解像度画像を撮影する2個のセンサ領域を有するデュアルレンズレンジモジュールとなっていることが多い。
【0006】
デュアルレンズレンジファインダを用いるオートフォーカスシステムには大別して能動型と受動型がある。能動型のシステムは視野内領域に向けて自分から光を投射するが、受動型のシステムは視野内領域から到来する光だけを利用する。また、デュアルレンズレンジファインダモジュールの例としては、富士電機株式会社が販売しているFM6260W(商品名)等何種類かの機種がある。特許文献1(発明者:Haruki et al.、譲受人:富士電機株式会社他、発行日:1986年8月19日)には光学機器(例えばカメラ)用デュアルレンズレンジファインダモジュールが記載されている。この文献の記載によれば、対をなして得られる低解像度画像を解析して二画像間の相関を調べることで、レンズ間隔による画像間オフセットを求めることができる。
【0007】
図27に、従来技術に係るレンジファインダの動作原理を模式的に示す。この図のレンジファインダは、被写体151からの光が入射する2個の小さなレンズ152,153を備えている。被写体151からの光は互いに異なる光路154,155を辿ってレンズ152,153に入射し、レンズ152,153に共通の合焦面156上に像157,158を発現させる(符号同順;以下同様)。レンズ152,153の焦点距離fは十分に短いので、像157,158間には光路154,155の違いに応じた間隔が発生する。その被写体151が無限遠といえるほど遠くにあれば、像157,158それぞれの中心位置は図中の基準位置170,180になるが、被写体151がより近い位置にある場合は、像157,158の中心位置は位置170,180からシフトした別の位置171,181になる。ここに、位置170を基準とした像157のシフト幅をx1、位置180を基準とした像158のシフト幅をx2とすると、合計のシフト幅xは
x=x1+x2=b・f/d
と表すことができる。なお、bはレンズ152,153間の光軸間距離即ち基線長である。この式から判るように、合計シフト幅xが判ればd=b・f/xの演算で被写体151までの距離dも判る。図示の装置で合焦面156上に2個の光学センサアレイ190,191が設けられているのは、それら個別又は合計のシフト幅x1,x2又はxを検出するためである。これらのアレイ190,191はいずれも光学センサ例えばCCD(電荷結合素子)デバイスを複数個有しており、それらのセンサは画像のうちそのセンサに入射した部分の光強度を表すアナログの光起電信号を出力する。特許文献1には、その特徴たる高速測距回路のほか、左側の光学センサアレイに発するディジタル画像信号からなる画像信号列と、右側の光学センサアレイに発するディジタル画像信号からなる画像信号列とを対比することにより、それらの間の合計シフト幅xを求める従来回路が示されている。
【0008】
基本的には、この合計シフト幅xが判れば、レンズ間距離b及び焦点距離fを参照し三角測量の原理で被写体151までの距離dを求めることができ、その結果に基づき可調焦点レンズの焦点ポジションを調整することで最良画質に近づけることができる。本件技術分野で既知の如く、この調整には、デュアルレンズレンジファインダモジュールにおける被写体距離計測値と、スルーザレンズオートフォーカスシステムで調べた最良合焦時の焦点ポジションと、を関連付ける校正曲線が使用される。使用する校正曲線は、数式又はルックアップテーブルの形態でカメラ又はそのマイクロプロセッサに実装される。
【0009】
こうしたレンジファインダオートフォーカスシステムには、例えばその応答時間が0.01〜0.05秒のものもある等、非常に高速であるという長所がある。反面、一部のレンジファインダオートフォーカスシステムでは、その稼働条件の変化に応じ合焦品質が変化する。例えば、ソニックレンジファインダオートフォーカスシステムでは、投射した音響信号がガラス窓を透過できずにガラス面上に合焦してしまう。デュアルレンズレンジファインダオートフォーカスシステムでは、温度、湿度等の環境条件における変化でその測距精度が左右されることが多い。即ち、デュアルレンズレンジファインダモジュールを使用する上で問題になるのは、そのモジュールと可調焦点レンズのポジションとの間の校正関係が、通常のディジタルカメラ稼働環境の範囲内で安定とはいえないことである。デュアルレンズレンジファインダモジュールで得られる光景内被写体距離計測値は、温度、湿度等の環境条件が変化すると10%以上も変化することがある。加えて、撮像用レンズ系を構成する可調焦点レンズのポジションについての計測値にも環境性の計測値変動が生じやすいので、レンズ制御系でも環境性の誤差が発生する。そのため、ディジタルカメラ内オートフォーカス動作をデュアルレンズレンジファインダモジュールだけに担わせることは少ない。デュアルレンズレンジファインダモジュールで焦点を粗調整しスルーザレンズオートフォーカスシステムでそれを補う構成の方が多い。
【0010】
そのスルーザレンズオートフォーカスシステムでは、可調焦点レンズの焦点距離を複数通りに変化させつつ撮影を行い、それによって得られた一群のオートフォーカス用画像を解析することによって、合焦状態を判別する。例えば、一般的なスルーザレンズオートフォーカスシステムでは、可調焦点レンズのポジションをいわゆるヒルクライム法に従い複数通りに変化させつつ複数枚例えば5〜10枚のオートフォーカス用画像を撮影する。ヒルクライム法と呼ばれる所以は、この手法で使用する合焦状態評価値が、あるところで丘(ヒル)のピークを迎えるまで増加し続けることにある。言い換えれば、レンズ焦点ポジションを自動調整し、その画像のエッジディテール乃至特定領域のコントラスト値が最大になるように導くからである。例えば、個々のオートフォーカス用画像におけるコントラスト値を調べ、それらのなかで最大のコントラスト値を呈したオートフォーカス用画像を以て、最良合焦条件で撮影された画像であると見なすようにする。このとき、オートフォーカス用画像間のコントラスト値補間によって、最良合焦になるレンズポジションをより精細に求めることもある。
【0011】
また、合焦精度を犠牲にすることなく合焦動作の応答時間を短縮するため、一般に、動画信号中の高周波成分を分離するフィルタだけでなく低周波成分を分離するフィルタも用いられている。例えば、まず最良合焦からかけ離れているときは低周波域内粗調整用ステップ幅でレンズを素早く動かし、最良合焦に近づいたら高周波域内精密調整用ステップ幅でレンズを動かすようにする。図28に、コントラスト値比較による従来のヒルクライムオートフォーカスアルゴリズムの流れを示す。このアルゴリズムでは、コントラスト値を用い且つ図29に示す要領に従い上述のヒルクライムオートフォーカスを実行する。図29は、諸フィルタから得られる合焦状態評価値とレンズポジションとの関係を示す図である。その横軸は可調焦点レンズの距離方向沿い合焦ポジションを、縦軸は合焦状態評価値をそれぞれ表している。曲線Aは最良合焦ポジションPを基準とした高周波成分用合焦状態評価値、曲線Bは同じく低周波成分用合焦状態評価値である。
【0012】
このアルゴリズムを実行する際には、例えば、その可調焦点レンズの現在の焦点距離とfナンバに従い現設定下での過焦点距離を決め、その距離を開始点として図28に示す流れによる手順を実行すればよい。開始点は、通常は2m程度の距離となる。次いで、低域通過フィルタをロードして(ステップ197)合焦状態評価値を取得しその値を比較する(ステップ198)。更に、合焦状態評価値が増加するよう比較の結果に基づき焦点距離調整方向を設定し、レンズがいつ“丘”を越えるかを判別する。更に、現在の焦点距離及びfナンバにより決まる視界深さに基づきステップ数を決め、そのステップ数だけ手前の焦点ポジションにて、低域通過フィルタを用い次のフレームを撮影する。この動作を続けると、いずれは図29中に曲線Bで示した“丘”のピークを越える。そうしたら、高域通過フィルタをロードし(ステップ199)、図29中に曲線Aで示した更に高い“丘”のピークに達するまで、そのレンズの焦点距離を逆方向に変化させるようにする。そのピーク値としては、多数の画素から合焦状態評価値の加重平均値を求めてもよいし、それらの合焦状態評価値の最頻値を求めてもよい。
【0013】
こうしたスルーザレンズオートフォーカスシステムは、高品質な撮像用レンズで撮影したオートフォーカス用画像から直に合焦品質を求めるため非常に高精度であるが、残念なことに、多数のオートフォーカス用画像を撮影して比較しなければならないため焦点設定の画定がやや遅くなる。例えば、合焦条件決定に0.5〜2.0秒もかかるスルーザレンズオートフォーカスシステムもある。
【0014】
そのため、一部のディジタルカメラでは、これら二種類のオートフォーカスシステムを併用するハイブリッドシステムが使用されている。例えば、レンジファインダオートフォーカスシステムを用い可調焦点レンズの焦点ポジションを粗決定し、次いでスルーザレンズオートフォーカスシステムを用いそれを精密決定する、といったシステムである。例えば特許文献2(名称:光学機器焦点調整用合焦装置(Focusing Apparatus for Adjusting Focus of an Optical Instrument)、発明者:Misawa、発行日:2005年3月8日)に記載の装置では、レンジファインダオートフォーカスシステムとスルーザレンズオートフォーカスシステムが併用されている。即ち、この文献に記載の装置では、まず、撮像に使用する可調焦点レンズの焦点ポジションをレンジファインダオートフォーカスシステム及びスルーザレンズオートフォーカスシステムの双方で導出し、両者の差分を求めて後刻使用に備えその情報を保存する。後に画像を撮影する際には、その可調焦点レンズが被写体に対し最良合焦する焦点距離を決定するのに何枚のオートフォーカス用画像を撮影すべきか、即ち何枚のオートフォーカス用画像をスルーザレンズオートフォーカスシステムでヒルクライム法に従い処理すべきかを、保存しておいた差分情報に基づき決定する。従って、オートフォーカス用画像の撮影及び処理枚数を、レンジファインダが正確になるケースな状況で減らし不正確になるケースで増やすことができる。ただ、この文献に記載の手法では、時間が経過しまた環境条件が変化してもレンジファインダ、撮像用可調焦点レンズ系及び制御系の性能に変化、ばらつき、変転等が生じないものと仮定している。
【0015】
また、ヒルクライム法では、通常、被写体への合焦後も、その付近を前後するよう焦点距離をステッピングさせる動作を続ける。離焦した場合、ヒルクライム法では、どちらの方向にレンズのポジションを動かせば“丘”を登る(下る)こととなるのかを判別し、合焦状態評価値の新たなピーク値を見つけてレンズポジションを再設定するのが普通である。実際には、このようにしてしまうと、レンズポジションのステッピングで“丘”を下ることとなったときに、レンズポジションの変化方向が直ちに反転して既存被写体に係る新たなピーク値のサーチが始まってしまう。そうした挙動は特に動画撮影時に問題になる。例えば、既存の被写体からある程度離れた場所に新たな被写体が登場しその被写体が視野内に入ってきたときでも、またその新たな被写体がコントラスト値上でより高い“丘”を呈していても、ヒルクライム法ではその被写体を検出することができない。この問題に対する措置方法の一つとして、その撮像用レンズ系で捉えうる限りの全距離範囲をオートフォーカスモジュールで眺めた後に焦点距離を決定する、というホールウェイ(全行程式)オートフォーカス法が知られている。
【0016】
例えば特許文献3(譲受人:本願出願人と同一)では、ホールウェイオートフォーカス法を実行するため、焦点距離可調域全域に亘りそのポジションを変化させうる可調焦点レンズ、そのレンズ越しに入射してくる光を信号に変換する変換素子、並びにそのレンズのポジションを動かすレンズ駆動機構を備える合焦装置を使用している。また、この合焦装置は、変換素子から得られる信号に基づき且つ可調焦点レンズが採りうる焦点距離毎に合焦状態評価値を算出する合焦状態評価値算出ユニットも備えている。その合焦状態評価値算出ユニットでは、まずその視野の中央部等、特定の合焦対象域に属する画素に係る信号のみを取り出し例えば9個のタイルに分割する。タイルとは、少数の行、少数の列を形成するよう合焦対象域の分割で複数個得られるブロックのことであり、合焦状態評価値の算出は個々のタイル毎に行われる。
【0017】
その合焦状態評価値算出に当たっては、まず、合焦状態評価値算出の焦点距離別繰返し実行回数が所定回数例えば10回を超えたか否かを判別する。超えたとの結果が得られるまでは、可調焦点レンズのポジションを所定のステップ幅単位で変化させつつ算出を繰り返す。即ち、可調焦点レンズのポジションを無限遠相当から至近距離まで常にある刻みで変化させステップ毎に各タイルの合焦状態評価値を算出する、という動作を繰り返す。この繰返し算出をタイル毎に実行することで、10通りのレンズポジションについて9個あるタイルそれぞれの合焦状態評価値を得ることができる。そのなかには、その距離域に現れるピークが全て含まれているはずである。次いで、レンズポジション毎に合焦状態評価値を総和して10通りの総和値を算出し、最大のピークを呈するポジションを以て最良合焦ポジションと推定する。そして、レンズ駆動機構にレンズ駆動信号を供給することで、レンズポジションをその最良合焦ポジションへと変化させる。
【0018】
また、その光学ズーム域が広く且つ小型なディジタルカメラを実現するため、複数個のイメージセンサ及びその焦点距離が異なる複数個のレンズをカメラ上に搭載する、という手法が、米国特許出願第11/062174号(名称:レンズ及びイメージセンサを複数個有する広ズーム域ディジタルカメラ(Digital Camera Using Multiple Lenses and Image Sensors to Provide an Improved Zoom Range)、発明者:Labaziewicz et al.、譲受人:本願と同一、出願日:2005年2月18日、この参照を以てその内容を本願に繰り入れる)にて提案されている。更に、例えばKodak(登録商標)Easyshare(登録商標)V610型のデュアルレンズディジタルカメラでは、38〜114mm(35mm判換算値)の焦点距離乃至画角及びf/3.9〜f/4.4のfナンバを有するレンズと、130〜380mm(35mm判換算値)の焦点距離乃至画角及びf/4.8のfナンバを有するレンズとを使用することで、10倍の光学ズーム域を提供している。しかしながら、上記出願に記載のカメラでもこの製品でも、いちどきには1個しかイメージセンサを使用しない。即ち、2個のイメージセンサでの同時撮像は行わない。
【0019】
特許文献7(発行日:2003年1月30日)にも、撮像用光学系及びそれに結合するCCD型イメージセンサを各複数個備え、撮像用光学系間に焦点距離の長短がある撮像装置が記載されている。例えば、固定焦点距離レンズとズームレンズを併用する構成や、その焦点距離に違いのある2個の固定焦点距離レンズを使用する構成等、その焦点距離が異なる2個のレンズを使用する構成である。いずれにせよ、この文献に記載されている種々の装置では、撮影条件取得ユニットが距離、光量等の撮影条件を調べ、その結果に基づき選定ユニットがいずれか1個の撮像用光学系の出力を自動で(即ちユーザからの入力に拠らず)選択する。この方式によるオートフォーカスの実行には別体の距離センサが必要になる。2個あるCCD型イメージセンサのどちらも、このオートフォーカス動作には関与していない。
【0020】
特許文献8(発行日:2003年8月23日)にも、互いに独立に稼働する2個の撮像系を備えたディジタルカメラが幾例か記載されている。そのうちのある例では、2個ある撮像系のうち1個に固定焦点距離レンズを組み込み通常モード用撮像系とする一方、もう1個の撮像系にズームレンズを組み込み望遠モード用撮像系としている。どちらの撮像系でも画像を得ることができ、ユーザは、どちらの撮像系を撮像に使用するかを切替スイッチ操作で選ぶことができる。更に、オートフォーカスもそれらの撮像系で実行されている。即ち、一方の撮像系についてコントラスト値比較ヒルクライムオートフォーカス法を適用し、その結果を他方の撮像系に援用する、という仕組みで行われている。例えば、ユーザから望遠モード用撮像系による撮像が指示されたら、まず、ステッピングモータを数ステップ飛ばしで駆動しつつ、その視界深さが深めな通常モード用撮像系を用い粗オートフォーカスサーチを実行する。この粗オートフォーカスサーチによって、最良合焦ポジションを取りこぼさずに合焦対象域を狭めることができる。次いで、通常モード用撮像系で取得した合焦対象域情報に基づき望遠モード用撮像系を駆動することにより、先の動作で狭まった合焦対象域の一端を、精密オートフォーカスサーチの始点に設定する。更に、その視界深さが浅めな望遠モード用撮像系を用い、且つ通常モード用撮像系によるサーチで既に狭められている合焦対象域に的を絞って、その精密オートフォーカスサーチを実行する。なお、ユーザから通常モード用撮像系による撮像が指示された場合は、通常モード用撮像系のみでオートフォーカスサーチを行う。望遠モード用撮像系はこの動作に与しない。
【0021】
また、特許文献8に記載されている別の例では、このように大まかなサーチと精細なサーチの併用に頼るのではなく、第1撮像系内可調焦点レンズのポジションを無限遠相当から至近距離へとステップ的に変化させることで、コントラスト値比較ヒルクライム法による第1のサーチを実行する一方、第2撮像系内可調焦点レンズのポジションを至近距離から無限遠相当へとステップ的に変化させることで、コントラスト値比較ヒルクライム法による第2のサーチを実行する。この動作はコントラスト値がピーク値になった時点で終了することができ、どちらの撮像系でもその全域に亘りレンズポジションを動かしきる必要がないので、多くの場合、最良合焦ポジションを割合に短時間で見つけることができる。また、この例では、個々の撮像系に撮像及び焦点調整の双方を行わせることが可能であるほか、一方の撮像系にだけ撮像及び焦点調整の双方を行わせ、他方の撮像系には当該一方の撮像系向けの焦点調整を支援させることも可能である。更に、撮像を行わせない方の撮像系でまず焦点ポジションを選定し、撮像を担う方の撮像系のポジションをそのポジションに変化させ、更に後者の撮像系で精細な調整を行う、といったことも可能である。
【先行技術文献】
【特許文献】
【0022】
【特許文献1】米国特許第4606630号明細書
【特許文献2】米国特許第6864474号明細書
【特許文献3】米国特許第6441855号明細書
【特許文献4】米国特許第5874994号明細書
【特許文献5】米国特許第5668597号明細書
【特許文献6】米国特許出願公開第2006/0187312号明細書
【特許文献7】米国特許出願公開第2003/0020814号明細書
【特許文献8】米国特許出願公開第2003/0160886号明細書
【特許文献9】米国特許出願公開第2006/0193509号明細書
【特許文献10】米国特許第6697573号明細書
【特許文献11】米国特許出願公開第2006/0001757号明細書
【特許文献12】米国特許出願公開第2006/0204034号明細書
【特許文献13】国際公開第WO02/08685号パンフレット
【発明の概要】
【発明が解決しようとする課題】
【0023】
このように、従来技術に係る諸オートフォーカスシステムは、オートフォーカス用センサを別途設けねばならずコストが嵩むという問題を抱えている。さもなければ、撮像用センサと同じセンサを用いオートフォーカスを実行するためシャッタ遅延が長くなりやすいという問題を抱えている。更に、その別体のオートフォーカス用センサとしてはレンジファインダが使用されることが多いが、前述の通り、デュアルレンズレンジファインダモジュール・可調焦点レンズポジション間の校正時の関係は、通常のディジタルカメラ稼働環境内でも安定に保たれるわけではない。また、スルーザレンズオートフォーカス法を実行する撮像システムでは、多数のオートフォーカス用画像を撮影して比較しなければならないため、最良合焦ポジションを見つけるのに結構時間がかかることがある。この問題は前掲の特許文献8に記載の手法で僅かに緩和されるが、その構成でも、被写体が切り替わったり移動したりしたときに焦点ポジションを迅速に決定するのはやはり難しく、また一方の撮像系から他方の撮像系へと撮像の役目を交代させるようユーザから指示を受けたときに撮像系間で合焦状態を迅速に交換するのも難しい。
【0024】
動画撮影時には次のような問題も生じる。即ち、動画を構成する複数個のフレームからオートフォーカス用画像となる静止画を採取してオートフォーカスを実行するので、光景変化のたびにその動画中の5〜20フレーム分又はそれ以上が離焦した動画となってしまう。例えば、カメラをパンさせながら動画を撮影すると、視野内に映る光景が絶え間なく変化するのでオートフォーカスシステムによるサーチに時間が食われ、その動画のうちのかなりの部分が離焦状態になってしまうことがある。動画撮影時には、更に、ヒルクライムオートフォーカスシステムを使用すると多くのフレームが離焦状態になるという問題も発生しうる。
【0025】
「レンズ及びイメージセンサを複数個有する高合焦能力カメラ」(Camera Using Multiple Lenses and Image Sensors to Provide Improved Focusing Capability)と題する米国特許出願(未付番、出願人側整理番号:93231、発明者:John Border et al.、出願人:本願と同一、出願日:本願と同日)では、上掲の諸問題に対処するため、一方の撮像部でオートフォーカス動作を実行しつつ他方の撮像部で静止画又は動画の撮影を行えるよう、同じ光景の画像を個別に撮影できる複数個の撮像部を備えたマルチレンズディジタルカメラを提案している。この手法であれば、静止画モード及び動画モードのいずれでも精密且つ迅速なオートフォーカスを実行することができる。それでいて、無闇に大型又は高価なディジタルカメラになるようなこともない。
【0026】
例えば、この米国特許出願に記載されている例では、カメラ上に互いに別体に設けられている2個の撮像部で一種のレンジファインダを形成し、そのうちの本撮影用撮像部を自オートフォーカスさせている。また、オートフォーカスに限らず、この手法によれば、光景内諸点までの距離を画像から識別してマッピングする等、諸画像を利用した様々な処理を実行することができる。そのため、複数個の撮像部を備えるディジタルカメラにおいて、それらの撮像部からの出力を併用し距離マップを作成する機能を実現することによって、測距能力が向上且つ拡張されたカメラを実現することが求められている。
【0027】
本発明の目的の一つは、撮影対象となる光景内の諸点までの距離を計測できる高性能なマルチレンズディジタルカメラを提供することにある。
【0028】
本発明の目的の一つは、撮影対象光景内諸点までの距離に基づき距離マップを生成する機能を提供することにある。
【0029】
本発明の目的の一つは、その距離マップを参照し光景内諸点のGPS(Global Positioning System)座標値を求める機能を提供することにある。
【課題を解決するための手段】
【0030】
上述した諸課題のうち1個又は複数個を解決するため、本発明の一実施形態に係る電子カメラは、撮像出力信号に基づき視野内光景についての出力画像を生成する手段として、概略、
第1センサ出力をもたらす第1イメージセンサ及びその第1イメージセンサ上に視野内光景の第1画像を発現させる第1レンズを有する第1撮像部と、
第2センサ出力をもたらす第2イメージセンサ及びその第2イメージセンサ上に視野内光景の第2画像を発現させる第2レンズを有する第2撮像部と、
第1及び第2センサ出力のうち一方を撮像出力信号として選定する一方、光景内諸点までの距離を指し示す距離マップを第1及び第2センサ出力双方に基づき生成する処理部と、
を備える。
【0031】
距離マップは、例えば、第1及び第2画像を互いに関連付けることにより光景内諸点について画素オフセットを導出し、それらの画素オフセットを本カメラからの距離に換算し、そして光景内諸点までの距離を指し示す距離マップを生成する、という処理を、その処理部で実行することで生成することができる。更に、第1,第2レンズ間でその焦点距離に違いがある場合、その焦点距離が短い方のレンズからもたらされる画像を処理部でクロッピング及びアップサンプリングすることで、同じ事物が第1及び第2画像のいずれでもほぼ同じ画素数を占めるようにすることができる。加えて、処理部では、光景内諸点についての画素オフセットを本カメラからの距離へと換算する処理を、レンジファインダ校正曲線に従い実行することができる。
【0032】
本発明の他の実施形態に係る電子カメラは、更に、本カメラの位置を示すGPS座標値を出力するGPSユニットと、本カメラの指向方向を求める電子コンパスと、を備える。処理部では、本カメラのGPS座標値及び指向方向、並びに距離マップから得られる距離オフセットに基づき、光景内諸点のGPS座標値を導出することができる。更に、撮影した画像をその距離マップに基づき修正することもできる。
【発明の効果】
【0033】
このように、本発明によれば、例えばセンサ、レンズ及びレンズ焦点調整器を有する撮像部を複数個備えるマルチレンズディジタルカメラにて、一種のレンジファインダを形成するようそれらの撮像部で同じ光景中の諸部位を個別に撮影させ、それらの撮像部で撮影された画像を互いに比較することで、光景内諸点までの距離を計測してオートフォーカス制御や距離マップ生成を行うことができる。加えて、その距離マップを参照し光景内諸点をGPS測位することができる。
【0034】
そのため、本発明が適用されたディジタルカメラでは、好適にも、顕著な大型化及び高価格化を伴うことなく、静止画モード及び動画モードのいずれでも精密且つ迅速なオートフォーカスを実行することができる。更に、それらの撮像部で形成されるレンジファインダを使用し距離マップを生成することができ、その距離マップを参照し光景内諸点のGPS座標値を求めることができる。GPS座標値が判れば、その光景に映っている被写体の素性を識別して目録化することができる。
【図面の簡単な説明】
【0035】
【図1】本発明の一実施形態に係りズームレンズ及びイメージセンサを二組備えるディジタルカメラを示すブロック図である。
【図2A】図1に示したカメラの斜視外観を示す図である。
【図2B】その背面を示す図である。
【図3】図1に示したカメラで実行されるオートフォーカス及びディジタル静止画像撮影手順の例を示すフローチャートである。
【図4】2個の撮像部を用いたレンジファインダオートフォーカス手順の例を示すフローチャートである。
【図5】2個の撮像部を用いたヒルクライムオートフォーカス手順の例を示すフローチャートである。
【図6】オートフォーカス用レンジファインダ校正曲線生成手順の例を示すフローチャートである。
【図7】オートフォーカス用ヒルクライム法校正曲線生成手順の例を示すフローチャートである。
【図8】図1に示したカメラで実行されるオートフォーカス及びディジタル動画像撮影手順の例を示すフローチャートである。
【図9】2個の撮像部を用いたレンジファインダオートフォーカス手順の例を示すフローチャートである。
【図10】2個の撮像部を用いたヒルクライムオートフォーカス手順の例を示すフローチャートである。
【図11】2個ある撮像部を使用し距離マップを生成する手順の例を示すフローチャートである。
【図12】本発明の他の実施形態に係り固定焦点距離レンズ、(ズーム)レンズ及び2個のイメージセンサを有するディジタルカメラを示すブロック図である。
【図13】本発明の更に他の実施形態に係り固定焦点距離レンズ、2個の(ズーム)レンズ及び3個のイメージセンサを有するディジタルカメラを示すブロック図である。
【図14】2個の撮像部から得られる画像を併用した画像視界深さ拡張手順の例を示すフローチャートである。
【図15A】本発明の更なる実施形態に係り2個の撮像部を備えるディジタルカメラ付携帯電話の外観を示す斜視図である。
【図15B】同じく別方向からの外観を示す斜視図である。
【図16A】その携帯電話に搭載される2個の撮像部とそれらの撮像部が搭載される単一の基板を上から見た断面図である。
【図16B】同じくその側面図である。
【図17A】光景内諸点までの距離を調べるため双方の撮像部で画像を撮影する実施形態にて、一方の撮像部で得られる画像の外観例を示す図である。
【図17B】他方の撮像部で得られ図17Aに示した画像に対しオフセットを呈している画像の外観例を示す図である。
【図18】本発明の一実施形態における撮影対象光景内諸点GPS測位手順の例を示すフローチャートである。
【図19】デュアルレンズカメラシステムに備わる2個の撮像部のうち一方を一次画像用に選定し他方を非一次画像用(例えばシーン解析対象画像用)として選定する手順の例を示すフローチャートである。
【図20】非一次画像用撮像部でシーン解析を実行する手順の例を示すフローチャートである。
【図21】シーン状態変化がしきい値を上回ったときに非一次画像用撮像部でシーン解析を実行する手順の例を示すフローチャートである。
【図22】一次画像用撮像部及び非一次画像用撮像部双方でシーン解析を実行する手順の例を示すフローチャートである。
【図23】それまで一次画像用であった撮像部がシーン解析対象画像用になりシーン解析対象画像用であった撮像部が一次画像用になるよう撮像部の用途乃至役割を入れ替える手順の例を示すフローチャートである。
【図24】特に撮影中に、一次画像用撮像部で撮影されるプリビュー用画像に基づき一次画像用撮像部向け撮影パラメタを設定する手順の例を示すフローチャートである。
【図25】特に撮影中に、一次画像用撮像部で撮影されるプリビュー用画像及び非一次画像用撮像部で撮影されるシーン解析対象画像に基づき一次画像用撮像部向け撮影パラメタを設定する手順の例を示すフローチャートである。
【図26】一次画像用撮像部で撮影される一次画像及び非一次画像用撮像部で撮影される補強用画像を用いた拡張画像生成手順の例を示すフローチャートである。
【図27】従来技術に係るデュアルレンズレンジファインダの動作を示す図である。
【図28】従来技術に係るコントラスト値比較ヒルクライムオートフォーカス法のアルゴリズムを示すフローチャートである。
【図29】画像組成成分分離用フィルタから得られる合焦状態評価値とコントラスト値比較ヒルクライムオートフォーカス法実行時レンズポジションとの関係を示す図である。
【発明を実施するための形態】
【0036】
以下、本発明の実施形態、目的、構成及び効果を上記以外のものも含めより明晰にご理解及びご評価頂くため、別紙特許請求の範囲に基づき且つ別紙図面を参照し、本発明の好適な実施形態に関し詳細に説明する。なお、撮像装置及びそれに関連する信号処理回路からなるディジタルカメラについては既に周知となっているので、以下の説明では、専ら本発明に係る装置の一部を構成し又はそれと密接に連携する部材をとりあげる。本願中に具体的な図示及び説明のない部材については、本件技術分野で既知な部材から適当なものを選んで使用すればよい。また、これから説明する部材のうち幾つかはソフトウェアで実現することができる。更に、本願中に図示や説明や示唆はなくても、本発明を実施する際に活用できる部材やソフトウェアもある。どういったものを活用できるかについては、本発明に係るシステムについての図示及び下記説明を参照することで理解でき、また本件技術分野における常識に従い判断することができる。
【0037】
これから説明する諸実施形態では、ディジタルスチルカメラ、ディジタルビデオカメラ、ディジタルスキャナ等の撮像アセンブリに、それぞれレンズ及びイメージセンサを有する撮像部を複数個設け、更にそれら撮像部間でレンズの焦点距離を違えることで、その光学ズーム域が広い撮像アセンブリを実現している。本発明によれば、複数個の撮像部を活用して測距能力を高めることができる。撮像だけでなくオートフォーカスにも撮像部を活用できるのでオートフォーカス専用のモジュールは不要で、安価且つ小型な撮像モジュールで足りる。それでいて、撮像で得られる静止画や動画は従来より鮮明に、オートフォーカスシステムの応答は従来より高速になる。加えて、オートフォーカスに使用した画像と同じ画像を、本発明に係る手順による距離マップ生成にも使用することができる。
【0038】
それらの実施形態のうち幾つかでは、撮像部のうち1個で静止画や動画のディジタル撮影を行いながら、他の1個で高度なオートフォーカス、二次画像生成、距離マップ生成等といった他種動作を実行する。例えば、ユーザが設定したズームポジションが第1光学ズーム域に属しているとき、第1光学ズーム域をカバーしている第1(ズーム)レンズ付第1撮像部で静止画又は動画を本撮影する一方、その第1撮像部向けのオートフォーカス用画像を第2撮像部で撮影する。本撮影の役目を負わない第2撮像部は広範囲に亘りその合焦条件を変化させることができる。例えば、ヒルクライムオートフォーカス法に従いコントラスト値がピークになる焦点距離付近でレンズの焦点距離を変化させることや、ホールウェイオートフォーカス法に従い至近距離から無限遠相当までレンズの焦点距離を変化させることができる。これによって、第1撮像部内第1レンズが最良合焦する設定を、第1撮像部で撮影される画像の合焦品質に悪影響を及ぼすことなく逐次検出することができる。最良合焦条件に変化が生じたことが第2撮像部で察知されたら、第1撮像部の合焦条件をそれまでの最良合焦条件から新たな最良合焦条件へと変化させる。
【0039】
ユーザがこの撮像アセンブリに対するズームポジションの設定を調整し第2光学ズーム域内のポジションに変化させたときには、カメラ内で自動的に、第2(ズーム)レンズ付第2撮像部を本撮影用に切り替え、またその第2撮像部向けのオートフォーカス用画像を第1撮像部で撮影する動作を開始させる。両者のレンズはその焦点距離ひいては倍率が違うので、その違いに応じオートフォーカス判別用ディジタルフィルタに調整を施すことで、それらレンズ間の倍率差を補償する。
【0040】
この構成の変形例としては、撮像部2個の連携で、デュアルレンズレンジファインダに似ているが更に高分解能なレンジファインダを形成する構成がある。高解像度の撮像部を2個使用し、互いに別の撮像部に属するレンズ同士の間隔を大きめにとることで、そうした高分解能を実現することができる。この構成では、コントラスト値比較ヒルクライム法による精密なオートフォーカス動作をどちらかの撮像部により行った上で、両撮像部を差分モードの高分解能レンジファインダとして稼働させることで、静止画若しくは動画のディジタル撮影を開始する前又は動画のディジタル撮影を実行している最中に、視野内被写体までの距離に生じた変化のうち再合焦を要する変化を検出することができる。こうしてレンジファインダを差分モードで稼働させることで、先に合焦させたポジションから最近の変化後のポジションへの距離変化を吸収し、レンジファインダの測距精度に対する環境変動の影響を打ち消すことができる。
【0041】
また、コントラスト値比較ヒルクライム法によるオートフォーカス動作を複数個の撮像部で同時に実行した後、それらの撮像部のうち1個例えば第1撮像部で静止画又は動画のディジタル撮影を行いつつ、別の1個例えば第2撮像部で画像内コントラスト計測により継続的に合焦状態チェックを行う、という構成にすることもできる。この構成では、コントラスト計測値に変化が生じたとき第2撮像部でコントラスト値比較ヒルクライム法に従いオートフォーカス動作を再実行し、このオートフォーカス動作で判明する合焦状態変化に比例するよう第1撮像部焦点を変化させる。即ち、この構成でも、差分モードによる合焦状態変化検出をヒルクライムオートフォーカス動作で得られる被写体距離に基づき実行し、そのオートフォーカス動作の精度を高めることができる。
【0042】
また、従来技術の欄で述べた通り、動画を撮影する際には、動画を構成する複数個のフレーム乃至静止画からオートフォーカス用画像を採取してオートフォーカスを実行するため、また特別な問題が発生する。例えば、カメラをパンさせながら動画を撮影すると視野内光景が絶え間なく変化するので、オートフォーカスシステムによるサーチに時間がかかり、その動画のうちのかなりの部分が離焦状態になってしまう。更に、ヒルクライムオートフォーカスシステムを使用すると多くのフレームが離焦状態になる。これは、前述の通り、ある種の状況下での合焦条件変化、例えば光景内で注目被写体が急峻に横移動したこと等を、ヒルクライム法ではうまく認識できないためである。
【0043】
この問題に対しては、前述した構成を変形して得られる次の構成で対処することができる。この構成では、第1ズームレンズ及び第1イメージセンサを有し第1光学ズーム域を担当する第1撮像部と、第2ズームレンズ及び第2イメージセンサを有し第2光学ズーム域を担当する第2撮像部と、を使用する。更に、ユーザが設定したズームポジションが第1光学ズーム域に属しているときに、第1撮像部の焦点距離を初期値に設定して画像例えば動画の本撮影を行わせるのと同時に、第2撮像部をホールウェイオートフォーカス法に従い稼働させて継続的に画像を取得し、第2撮像部で取得した画像に基づき被写体移動に関する判別を行い必要なら第1ズームレンズの焦点距離を調整する。第2ズームレンズ及び第2イメージセンサは画像撮影を担当していないので、その焦点距離を至近距離から無限遠相当まで変化させることで、最良合焦となる焦点設定を、本撮影で得られる動画に影響を及ぼすことなく求めることができる。また、ユーザがズームポジションを調整し第1光学ズーム域外にしたとき、カメラ内で自動的に、第2撮像部の動作を第2ズームレンズ及び第2イメージセンサを用いた動画撮影に切り替え、また第1撮像部が第1レンズ及び第1イメージセンサで画像を撮影して被写体移動に関する判別を行い必要なら第2ズームレンズの焦点を調整する、という動作を開始する。
【0044】
更に、撮像部を2個連携させて高分解能レンジファインダを形成し、そのレンジファインダで光景内諸点までの距離を調べ、その結果から距離マップを生成することもできる。生成した距離マップは、撮像出力信号乃至出力画像の修正(拡張)に利用することができる。例えば、画像処理性能向上による画質の向上、画像内被写体の識別、画像からの被写体抽出、複数画像に亘る被写体モーションの追跡、所望視界深さ外部分のぼかしによる画像視界深さ変更、画像のダイナミックレンジの拡大、フラッシュ使用由来の露出問題の抑制、画像内シーンバランスの改善等を距離マップで実現することができる。
【0045】
こうして2個の撮像部からの画像に基づき生成された距離マップは、光景内諸点までの距離を識別するのに使用することができる。例えば、そのカメラの位置を示すGPS座標値を出力するGPSユニット、並びにそのカメラの指向方向を検出する電子コンパスを備えるカメラ上で、そのカメラのGPS座標値及び指向方向に加え、距離マップから得られる距離オフセットを利用することで、光景内諸点のGPS座標値を導出することができる。
【0046】
そして、第1ズームレンズ及び第1イメージセンサを備える第1撮像部をある焦点距離(一次焦点距離)にセットして静止画たる一次画像を撮影する動作と、第2ズームレンズ及び第2イメージセンサを備える第2撮像部を別の焦点距離(二次焦点距離)にセットして静止画たる二次画像を撮影する動作とを同時に実行し、第1撮像部から得られる一次画像出力を第2撮像部から得られる二次画像出力に基づき修正して拡張版の一次画像を生成する、といった構成にすることもできる。こうして二次画像を利用することにより、例えば、一次画像のうち二次焦点距離近傍部分を鮮明化した画像、一次画像のダイナミックレンジを修正した画像等、様々な拡張画像を生成することができる。
【0047】
図1に、本発明の一実施形態に係る撮像アセンブリ10Aのブロック構成を示す。このアセンブリ10Aは、撮影時や画像表示時にユーザが容易に取り扱えるよう十分小さく構成されていてバッテリで稼働する携帯型の装置、具体的にはディジタルカメラであり、静止画及び動画を撮影する機能やその画像をリムーバブルメモリカード54上に保存する機能を備えている。但し、静止画だけ或いは動画だけしか撮影・保存できないディジタルカメラで、或いはディジタルカメラ以外の装置で本発明を実施することもできる。
【0048】
この撮像アセンブリ10Aは、まず2個のズームレンズ付撮像部1,2を備えている。これらの撮像部1,2のうち画像の本撮影に使用されるもの、即ちその出力が画像としてリムーバブルメモリカード54上に保存されうるものは、大抵の場合はいちどきに1個だけである。第1撮像部1内の第1ズームレンズ3は視野内光景を捉え第1イメージセンサ12上に像を発現させるためのレンズであり、第1レンズ焦点調整器例えばズーム/フォーカスモータ5aによる制御を受けている。第2撮像部2内の第2ズームレンズ4は視野内光景を捉え第2イメージセンサ14上に像を発現させるためのレンズであり、第2レンズ焦点調整器例えばズーム/フォーカスモータ5bによる制御を受けている。図示しないが、どちらのレンズ3,4にも可調絞り/シャッタアセンブリが設けられており、そのアセンブリでセンサ12,14の露出レベルを制御することができる。
【0049】
図2A及び図2Bにこの撮像アセンブリ10Aの斜視外観を示す。図2Aはこのカメラ10Aを斜め前から見た図であり、ズームレンズ3,4及びフラッシュ48が手前に見えている。図2Bはこのカメラ10Aを斜め後ろから見た図であり、カラー液晶型画像表示部70に加えて複数個のユーザ操作子42が手前に見えている。操作子42のうちシャッタボタン42aを操作すると画像撮影手順が実行され、ズームボタン42cを操作することでズーム設定を選択することができ、またマルチポジションセレクタ42dを操作することで画像による操作ガイドやメニュー型の選択肢を表示部70の画面上に表示させることができる。
【0050】
撮像部1,2は図1に示した通りズームレンズ3,4及び対応するイメージセンサ12,14から構成されており、そのレンズ3,4の位置は図2Aに示した通り互いに上下方向にずらされている。但し、この構成は一例であり、レンズ3,4の位置を他方向例えば横方向に沿ってずらすことも、レンズ3,4のうち一方又は双方を固定焦点距離レンズに置き換えることもできる。いずれにせよ、レンズ3及びセンサ12の光軸とレンズ4及びセンサ14の光軸とが概ね揃っていれば、撮像部1,2間にしばしば視野相違が生じるものの、その点を除けばほぼ同一光景の像をセンサ12,14上に発現させることができる。なお、光学部品の構成については、前掲の米国特許出願第11/062174号(譲受人:本願出願人と同一、この参照を以てその内容を本願に繰り入れる)中にも、複数個の撮像部を用いる構成が何例か示されている。更に、撮像部1,2内のレンズ3,4を通る光路に屈曲をつけ、撮像部1,2全体の寸法乃至形状を変化させることも可能である。但し、これは本発明の実施に当たり必須のことではない。
【0051】
イメージセンサ12,14は、周知のベイヤカラーフィルタパターンを配した単一チップカラーメガピクセルCCDセンサである。但し、CMOSセンサ等の他種センサでも、またストライプフィルタ等の他種カラーフィルタアレイでも、本発明を実施する上で支障はない。また、センサ12,14としては様々なアスペクト比のセンサを使用することができる。例えば、撮像領域のアスペクト比が4:3のものを使用するとよい。更に、センサ12,14としては様々な解像度のセンサを使用することができる。例えば、アクティブ画素カラム2848本×アクティブ画素ロー2144本、総実効画素数6.1メガピクセルのものを使用するとよい(1メガピクセル=百万画素)。しかも、センサ12,14を互いに同一の仕様にする必要もない。例えば前掲の米国特許出願第11/062174号(譲受人:本願出願人と同一)に例示されている構成に倣い、センサ12,14間でサイズ、解像度、色フィルタアレイ、スペクトル感度、アスペクト比等を違えてもよい。
【0052】
これらのイメージセンサ12,14は、制御プロセッサ/タイミング発生器40から対応するクロックドライバ13,15への信号供給によって制御されている。制御プロセッサ/タイミング発生器40は、このほか、ズーム/フォーカスモータ5a,5b、自動露出検出器46、ユーザ操作子42、ディジタルマルチプレクサ型制御素子(ディジタルMUX)34,36、並びにフラッシュ48の発光による光景照明動作も制御する。操作子42は、先に図2Bを参照して説明した通り、このディジタルカメラ10Aの動作を操作する際に使用される。
【0053】
第1イメージセンサ12からの出力12eは、第1アナログ信号プロセッサ(ASP)22によって増幅及びアナログ/ディジタル(A/D)変換される。それにより得られたディジタルの第1センサ出力12eは、ディジタルMUX34,36双方の第1入力端に供給される。同様に、第2イメージセンサ14からの出力14eは、第2ASP24によって増幅及びA/D変換される。それにより得られたディジタルの第2センサ出力14eは、ディジタルMUX34,36双方の第2入力端に供給される。第1ディジタルMUX34は、センサ12,14の出力12e,14eのうちいずれかを撮像出力信号として選定するための部材である。第2ディジタルMUX36は、センサ12,14の出力12e,14eのうちいずれかをオートフォーカス用画像信号として選定し、イメージプロセッサ50に供給するための部材である。
【0054】
制御プロセッサ/タイミング発生器40は、それらディジタルMUX34,36を制御することによって、ディジタルのセンサ出力12e,14eのうち一方を撮像出力信号、他方をオートフォーカス用画像信号に選定する。MUX34で選定された方のセンサ出力は、一時的にDRAM型バッファメモリ38上に保存された後イメージプロセッサ50によって処理される。この処理によって、静止画又は動画を表すディジタルデータを含むディジタル画像ファイルが生成される。また、MUX36で選定された方のセンサ出力は、そのプロセッサ50にて、後に図4〜図7を参照して後述するオートフォーカス計算に使用される。
【0055】
そのイメージプロセッサ50は、あらまし、相応の焦点検出信号を発生させて第1及び第2レンズ焦点調整器即ちズーム/フォーカスモータ5a,5bを駆動する。即ち、このプロセッサ50は、制御プロセッサ/タイミング発生器40と協働し、(a)第1撮像部1からのセンサ出力12eを撮像出力信号として選定する一方第2撮像部2からのセンサ出力14eに基づき撮像部1向けの第1焦点検出信号を生成する動作か、或いは(b)撮像部2からのセンサ出力14eを撮像出力信号として選定する一方撮像部1からのセンサ出力12eに基づき撮像部2向けの第2焦点検出信号を生成する動作か、そのいずれかを実行する。更に、モータ5a,5bのうち撮像出力信号取得用に選定された方の撮像部に係るモータをその焦点検出信号に基づき駆動することによって、その撮像部の焦点を調整し撮像出力信号となるセンサ出力を発生させる。
【0056】
イメージプロセッサ50は、フラッシュ型EPROM等のファームウェアメモリ58上に存するファームウェアの管理下で、またRAM型メモリ56を中間処理結果保存用のメモリとして使用しつつ、DRAM型バッファメモリ38上に存するディジタルの撮像出力信号を処理し、その処理で生成した出力画像に係るディジタルファイルをメモリカードインタフェース52経由でリムーバブルメモリカード54上に保存する。このメモリカード54としては、その物理的形態が異なる様々なリムーバブルディジタル画像記憶媒体を使用することができる。例えば、CompactFlash(登録商標)、SmartMedia(登録商標)、MemoryStick(登録商標)、MultimediaCard(登録商標)、SD(登録商標)、xD(登録商標)等の周知メモリカードフォーマットによるものをはじめとして、様々なメモリカードを使用することができる。更に他のリムーバブルディジタル画像記録媒体、例えば磁気ハードディスク、磁気テープ、光ディスク等に、静止画や動画を保存してもよい。そして、そのディジタルカメラ10Aに図示しない内蔵型不揮発性メモリ例えばフラッシュ型EPROMを搭載しておき、生成したディジタル画像ファイルをそのメモリ上に保存するようにしてもよい。この構成では、メモリカード54やそれ向けのインタフェース52は不要になる。
【0057】
イメージプロセッサ50は、更に、GPSユニット57から供給される信号に基づき任意時点におけるカメラ10AのGPS測位結果、例えば撮影時点でのGPS座標値を識別する。プロセッサ50は、また、電子コンパス59から供給される信号に基づき任意時点、例えば画像撮影時におけるそのカメラ10Aの指向方向を識別する。プロセッサ50は、更に様々な画像処理機能を担っている。その一つは、色補間及びそれに続く色/階調補正によってsRGBフォーマットの画像データを生成するレンダリング機能である。生成されたsRGBフォーマットの画像データは、JPEG圧縮後にJPEG画像ファイルとしリムーバブルメモリカード54上に保存することや、ホストインタフェース62に供給しSCSI接続、USB(商標)接続、Firewire(登録商標)接続等相応の接続手段64を経由してホストPC66へと伝送することができる。JPEG圧縮する場合は、日本国東京都所在の社団法人電子情報技術産業協会が制定した「デジタルスチルカメラ用画像ファイルフォーマット規格(Exif) Ver 2.2」に則った画像フォーマットにするのが望ましい。このフォーマットはExif(登録商標)フォーマットと呼ばれており、その画像に関するメタデータをセット可能なExifアプリケーションセグメントを含んでいる。このセグメントを利用することで、その画像の撮影日時や、レンズのfナンバ、GPS測位結果、撮影時カメラ指向方向等のカメラ設定情報を、メタデータとして保存することができる。
【0058】
なお、イメージプロセッサ50としてはプログラマブルなプロセッサを使用するのが望ましいが他の構成にすることもできる。例えば、ハードワイヤドカスタム集積回路プロセッサ、汎用マイクロプロセッサ、或いはハードワイヤドカスタム集積回路プロセッサとプログラマブルプロセッサの組合せにしてもよい。更に、図1中で別ブロックとして示した部材のうち何個か、例えばディジタルMUX34,36やメモリ38,58をプロセッサ50と共に単一の集積回路に組み込んでもよい。また、その使途に応じ、制御プロセッサ/タイミング発生器40の(一部)機能とイメージプロセッサ50の(一部)機能とを一体化することもできる。以下の説明や別紙特許請求の範囲の一部、例えばプロセッサ40によるセンサ出力選定やプロセッサ50による合焦検出信号生成に言及している部分では、その記述の目的に鑑み、両者の機能を「処理部」に帰属させている。言い換えれば、この「処理部」なる表現は、その「処理部」の機能として記載されている諸機能が実際には1個又は複数個の処理部材、回路等々によって担われうることを意味する包括的な表現である。
【0059】
また、カメラ付携帯電話に本実施形態のディジタルカメラ10Aを搭載することもできる。そうした構成では、セルラプロセッサ90経由でイメージプロセッサ50をセルラモデム92に接続し、アンテナ94を用い無線周波数での通信を行うことによって、図示しないセルラ網へディジタル画像を送信することができる。また、撮像部1,2とズーム/フォーカスモータ5a,5bを一体のアセンブリにした形態や、クロックドライバ13,15、ASP22,24及びその一部たるA/Dコンバータを一体のアセンブリにした形態でも、本発明を実施することができる。
【0060】
図3に、図1に示した撮像アセンブリ10Aで画像をディジタル撮影する手順の流れを示す。この手順では、図示しない電源スイッチの操作でこのディジタルカメラ10Aに電源が投入されたらズームレンズ3,4のポジションをデフォルトポジションに設定する(ステップ100)。このデフォルトポジションは画角が広くなるよう定めておくのが望ましい。そのようにすれば、例えば第1イメージセンサ12で撮影したプリビュー用画像をカラー液晶型画像表示部70の画面上に表示させ、それに基づきユーザに撮影用の構図を決定させることができる。その構図決定の一環として、ユーザは、ズームボタン42cを押下しカメラ10Aの視野を所望の視野にすることができる(ステップ101)。
【0061】
ズームポジションが設定されたら、そのポジションをある値Xと比較する(ステップ102)。この値Xは、撮像部1,2のどちらを本撮影に使用するかの境目になる。まず、この比較でX未満とされた場合(ステップ102:“NO”)、第1撮像部1に本撮影、第2撮像部2にオートフォーカス用画像撮影の役目を負わせる(ステップ104)。本撮影用撮像部1はプリビュー用画像の撮影を継続的に行い、表示部70はその画面上にその画像を表示する(ステップ110)。他方、撮像部2は撮像部1のオートフォーカス用にオートフォーカス用画像を撮影し(ステップ106)、イメージプロセッサ50はその画像を処理して撮像部1を合焦させる(ステップ108)。
【0062】
この状態で、ズームボタン42c未押下のまま(ステップ112)シャッタボタン42aが押下された場合(ステップ114)、第1撮像部1がディジタル画像を本撮影する(ステップ116)。これに対し、ズームボタン42cが押下された場合は(ステップ112)ステップ102に戻り、シャッタボタン42aが押下されなかった場合は(ステップ114)ステップ106に戻る。
【0063】
逆に、設定されたズームポジションがX超であるとされた場合(ステップ102:“YES”)、第2撮像部2に本撮影、第1撮像部1にオートフォーカス用画像撮影の役目を負わせる(ステップ124)。本撮影用撮像部2はプリビュー用画像の撮影を継続的に行い、表示部70はその画像を表示する(ステップ130)。他方、撮像部1は撮像部2のオートフォーカス用にオートフォーカス用画像を撮影し(ステップ126)、イメージプロセッサ50はその画像を処理して焦点検知信号を発生させそれに基づき撮像部2を合焦させる(ステップ128)。
【0064】
この状態で、ズームボタン42c未押下のまま(ステップ132)シャッタボタン42aが押下された場合(ステップ134)、第2撮像部2がディジタル画像を本撮影する(ステップ136)。これに対し、ズームボタン42cが押下された場合は(ステップ132)ステップ102に戻り、シャッタボタン42aが押下されなかった場合は(ステップ134)ステップ126に戻る。
【0065】
図4に、2個の撮像部1,2を一種のレンジファインダとして用いるオートフォーカス手順の流れを示す。この手順は、図3中のステップ108,128にて撮像部1,2をオートフォーカスさせる手順として使用することができる。この手順では、ユーザがカメラ10A上のズームボタン42cを操作しズームポジションを設定すると(ステップ250)、撮像部1,2のどちらを本撮影用としどちらをオートフォーカス用画像専用とするかを前述の如く決定する(ステップ252)。次いで、非本撮影用撮像部を、撮像部1内ズームレンズ3でカバーする光学ズーム域と、撮像部2内ズームレンズ4でカバーする光学ズーム域と、の境目に最も近いポジションまでズーミングする(ステップ254)。更に、可調焦点レンズたる撮像部1,2内レンズ3,4のポジションをその過焦点ポジションまで変化させることで焦点可調域を最大限に拡げる(ステップ256)。この後、ユーザがシャッタボタン42aをニュートラル位置S0から半押し位置S1まで押下したら、オートフォーカス動作及びそれに続く自動露出動作を開始する(ステップ258)。なお、シャッタボタン42aが採りうる位置は三通りある。ユーザがボタン42aに触れていないときのニュートラル位置S0、カメラ10Aにオートフォーカス動作及び自動露出動作の実行を指令するための半押し位置S1、カメラ10Aに対し最終的な自動露出及び画像の本撮影を指令するための全押し位置S2である。
【0066】
そのオートフォーカス動作では、まず、そのズームレンズ3,4のズームポジションをそのままにして各撮像部1,2でオートフォーカス用画像を撮影する(ステップ260)。次いで、低ズームな方の撮像部、即ちそのズームポジションがX未満の撮像部で撮影したオートフォーカス用画像を(図3:ステップ102)、同じ事物がどちらのオートフォーカス用画像上でも同じ画素数を占めることとなるようクロッピング及びアップサンプリングする(ステップ262)。更に、クロッピング及びアップサンプリングを経たオートフォーカス用画像を他方のオートフォーカス用画像と関連付けることで両画像間の画素間オフセット即ちずれを求め(ステップ264)、その結果に基づき焦点検出信号を生成する。ここに、高ズームな方の撮像部で捉えたオートフォーカス用画像は例えば図17Aに示すような外観350となり、低ズームな方の撮像部で捉えたオートフォーカス用画像をクリッピング及びアップサンプリングしたものは例えば図17Bに示すような外観352になるので、それらの画像間で画素オフセットひいては光景内諸点までの距離を求めることができる。次いで、校正曲線をその焦点検出信号に適用することで、本撮影用撮像部を最良合焦させるのに必要な可調焦点レンズ調整量を表す信号にし(ステップ266)、その信号を対応するズーム/フォーカスモータに供給してその撮像部内の可調焦点レンズのポジションを変化させることで(ステップ268)、そのレンズのポジションを最良合焦状態で本撮影を行えるポジションに設定する。この状態でユーザがシャッタボタン42aを位置S1から位置S2まで押下すると、その撮像部が画像を本撮影する。
【0067】
図5に、2個の撮像部1,2を用い周知のコントラスト値比較ヒルクライム法によるオートフォーカスを実行する手順の流れを示す。この手順は図3中のステップ108,128にて撮像部1,2をオートフォーカスさせる手順として使用することができる。この手順では、ユーザがズームポジションを設定したら(ステップ250)そのズームポジションに基づき本撮影用撮像部を選定する(ステップ252)。次いで、非本撮影用撮像部を、ステップ250でユーザが指定したズームポジションに最寄りの点までズーミングする(ステップ254)。更に、ユーザがシャッタボタン42aを位置S0から位置S1まで押下したらオートフォーカス動作を開始し(ステップ258)、撮像部1,2双方のオートフォーカスをヒルクライム法に従い実行する(ステップ272)。その後、ユーザがボタン42aをS1からS2まで押下したら(ステップ274)、本撮影用撮像部による継続的な動画撮影を開始する(ステップ276)。
【0068】
更に、焦点距離サーチ幅を最小限に抑えるため、非本撮影用撮像部でコントラスト値比較ヒルクライム法に従い合焦状態をチェックし(ステップ278)、その合焦状態を判別する(ステップ280)、という動作を継続的に実行する。良好な場合はステップ276に戻り、本撮影用撮像部による動画撮影を続ける。良好でない場合は、非本撮影用撮像部を最良合焦させるのに必要な可調焦点レンズ調整量を導出する(ステップ282)。更に、その可調焦点レンズ調整量と、オートフォーカス用ヒルクライム法校正曲線とに基づき、本撮影用撮像部を最良合焦させるのに必要な可調焦点レンズ調整量を導出し(ステップ284)、それに基づき焦点変化検出信号を生成する。そして、その焦点変化検出信号をズーム/フォーカスモータ5a,5bのうち本撮影用撮像部に対応する方のモータに供給することにより、新たな最良合焦ポジションまでその撮像部の可調焦点レンズのポジションを変化させる(ステップ286)。この再調整の後はステップ276に戻り本撮影用撮像部による動画撮影を続ける。
【0069】
また、焦点距離サーチ幅を最小限に抑えるためであれば、ステップ278におけるチェック、即ち非本撮影用撮像部による合焦状態チェックをホールウェイオートフォーカス法に従い繰り返すようにしてもよい。この場合、ステップ284では、導出した可調焦点レンズ調整量と、ホールウェイオートフォーカス法用校正曲線とに基づき、本撮影用撮像部を最良合焦させるのに必要な可調焦点レンズ調整量を導出し、それに基づき焦点変化検出信号を生成する。また、ステップ286では、その焦点変化検出信号をズーム/フォーカスモータ5a,5bのうち本撮影用撮像部に対応する方のモータに供給することにより、新たな最良合焦ポジションまでその撮像部の可調焦点レンズのポジションを変化させる。この再調整の後はステップ276に戻り本撮影用撮像部による動画撮影を続ける。
【0070】
これら、図4及び図5に示した手順では、本撮影用撮像部の最良合焦に要する可調焦点レンズ調整量を求めるのに校正曲線が必要である。図6及び図7に校正曲線算出手順の例を示す。そのうち図6には、図4中のステップ266で使用されるオートフォーカス用レンジファインダ校正曲線の算出手順を示してある。この手順では、まず、その焦点距離が短い第1撮像部とその焦点距離が長い第2撮像部を用い、可調焦点レンズのポジションを様々に変えつつ既知距離被写体の画像を何組か撮影する(ステップ300)。次いで、図17A及び図17Bに示す通り、同じ事物がどちらのオートフォーカス用画像上でも同じ画素数を占めることとなるよう、短焦点距離の第1撮像部で撮影した方のオートフォーカス用画像をクロッピング及びアップサンプリングする(ステップ302)。更に、第2撮像部で撮影した方の画像を、第1撮像部由来のクロッピング及びアップサンプリング済画像上の対応部分と関連付けることにより、各組画像における画像間画素オフセットを導出する(ステップ304)。そして、この各組内画像間画素オフセットを被写体までの既知距離に対応付けたデータを保存し(ステップ306)、図4中のステップ266でオートフォーカス用レンジファインダ校正曲線として使用する。
【0071】
図7には、図5中のステップ284で使用されるオートフォーカス用ヒルクライム法校正曲線の算出手順を示してある。この手順では、まず、第1及び第2撮像部を使用し既知距離被写体の画像を何組か撮影する(ステップ400)。オートフォーカスは画像毎にヒルクライム法で実行する。次いで、可調焦点レンズのポジションを、2個ある撮像部毎に各組内合焦先被写体までの距離と比較する(ステップ402)。そして、画像内同一距離合焦先被写体毎に第1撮像部・第2撮像部間で可調焦点レンズポジション同士を関連付けるデータを保存し(ステップ404)、図5中のステップ284でオートフォーカス用ヒルクライム法校正曲線として使用する。
【0072】
図8に、図1に示した撮像アセンブリ10Aで動画を撮影する手順の流れを示す。この手順を構成するステップの多くは図3に示したものと同じであるので、重複する説明を避け、図上でも同一の参照符号を付すこととする。この手順では、選択されたズームポジションがX未満である場合(ステップ102:“NO”)、第1撮像部1を動画撮影用、第2撮像部2をオートフォーカス用画像撮影用に選定する。撮像部1についての合焦動作は、対象が動画である点を除き図3に示したものと同様である。その後、ズームボタン42c未押下のまま(ステップ112)シャッタボタン42aが押下されたら(ステップ114)撮像部1が動画を撮影する(ステップ118)。更に、その動画の合焦品質をチェックし(ステップ119)、再合焦が必要なら(ステップ120)焦点変化検出信号を生成し(ステップ106)、撮像部1用のフォーカスモータ5aをその焦点変化検出信号に基づき駆動する(ステップ108)。再合焦が不要ならステップ112に戻る。
【0073】
逆に、選択されたズームポジションがX超である場合(ステップ102:“YES”)、第2撮像部2を動画撮影用、第1撮像部1をオートフォーカス用画像撮影用に選定する。撮像部2の合焦動作は、その対象が動画である点を除き図3に示したものと同様である。その後、ズームボタン42c未押下のまま(ステップ132)シャッタボタン42aが押下されたら(ステップ134)撮像部2が動画を撮影する(ステップ138)。更に、その動画の合焦品質をチェックし(ステップ139)、再合焦が必要なら(ステップ140)焦点変化検出信号を生成し(ステップ126)、撮像部2用のフォーカスモータ5bをその焦点変化検出信号に基づき駆動する(ステップ128)。再合焦が不要ならステップ132に戻る。
【0074】
図9に、2個の撮像部1,2を一種のレンジファインダとして用いるオートフォーカス手順の流れを示す。この手順は、図8中のステップ108,128にて撮像部1,2をオートフォーカスさせる手順として使用することができる。この手順では、その焦点距離が短い方の撮像部で第1オートフォーカス用画像を撮影し(ステップ440)、その第1オートフォーカス用画像を、同じ事物がどちらのオートフォーカス用画像上でも同じ画素数を占めることとなるようクロッピング及びアップサンプリングする(ステップ442)。それと並行して、その焦点距離が長い方の撮像部で第2オートフォーカス用画像を撮影する(ステップ448)。更に、その第2オートフォーカス用画像を、クロッピング及びアップサンプリング済第1オートフォーカス用画像と関連付けることにより、諸画像の様々な部分について画像間画素オフセットを導出する(ステップ444)。そして、そのオフセットと、図6の手順で算出したオートフォーカス用レンジファインダ校正曲線とに基づき、必要な焦点補正量を導出する(ステップ446)。
【0075】
図10に、コントラスト値比較ヒルクライム法によるオートフォーカス手順の流れを示す。この手順は2個の撮像部1,2を使用して実行されるものであり、図8中のステップ108,128にて撮像部1,2をオートフォーカスさせる手順として使用することができる。この手順では、ヒルクライム法でオートフォーカスさせつつ第1撮像部で第1画像を撮影し(ステップ460)、その画像をプリビュー用画像として表示部の画面上に表示させる(ステップ462)。それと並行して、ヒルクライム法でオートフォーカスさせつつ第2撮像部で第2画像を撮影し(ステップ466)、次いで同じくヒルクライム法でオートフォーカスさせつつ第2撮像部で更なる画像を撮影し(ステップ468)、更に第2画像とその後に撮影した更なる画像とで合焦状態を比較する(ステップ470)。もし合焦状態が変化していたら(ステップ472:“YES”)、第2撮像部における合焦状態変化と、図7に示した手順で算出したオートフォーカス用ヒルクライム法校正曲線とに基づき、第1撮像部の合焦条件を変更する(ステップ464)。合焦状態が変化していなかったら(ステプ472:“NO”)、ステップ468に戻って第2撮像部で更なる画像を撮影する。
【0076】
また、焦点距離サーチ幅を最小限に抑えるため、その合焦状態がステップ470で繰返しチェックされる第2撮像部をホールウェイオートフォーカス法に動作させてもよい。この場合、第2撮像部における合焦状態変化が検出されたら(ステップ472:“YES”)その合焦状態変化及びホールウェイオートフォーカス法用校正曲線に基づき第1撮像部の合焦条件を変更する。合焦状態変化が検出されなかったら(ステプ472:“NO”)、ステップ468に戻って第2撮像部で更なる画像を撮影する。
【0077】
図11に、図3又は図8に示した手順で撮影した画像を処理する手順の流れを示す。図示手順は本発明の一実施形態に係る距離マップ生成手順である。図中、図9に示したものと同様のステップには同一の符号を付してある。距離マップを生成する手法自体は、本件技術分野にて習熟を積まれた方々(いわゆる当業者)にとり周知である。例えば特許文献9(名称:ステレオベース画像処理(Stereo-based Image Processing)、発明者:Antonio Criminisi et al.、発行日:2006年8月31日、この参照を以てその内容を本願中に繰り入れる)には、その視野を同じくする複数個のカメラで撮影した一組の画像から画素オフセット情報を導出し、その情報に基づき生成したディスパリティマップから距離マップ乃至奥行きマップを生成する、という手順が記載されている。これに対し、本願記載の発明では、その焦点距離に違いのある複数個の撮像部を単一の電子カメラに収めている。本願記載の発明では、更に、その焦点距離差を克服するため、複数個ある撮像部のうち少なくとも1個の撮像出力に修正を施し、撮像部間でその撮像出力同士を比較することで、それらの間の画素オフセットを導出するようにしている。例えば図11に示す手順では、まずその焦点距離が短い方の撮像部で第1オートフォーカス用画像を撮影する(ステップ440)。更に、その第1オートフォーカス用画像を、同じ事物がどちらのオートフォーカス用画像上でも同じ画素数を占めることとなるようクロッピング及びアップサンプリングする(ステップ442)。それと並行して、その焦点距離が長い方の撮像部で第2オートフォーカス用画像を撮影する(ステップ448)。そして、第2オートフォーカス用画像をクロッピング及びアップサンプリング済画像と関連付けることにより、画像内諸部分について画像間画素オフセットを導出する(ステップ480)。次いで、オートフォーカス用レンジファインダ校正曲線に基づきその画素オフセットを撮像部からの距離に換算し(ステップ482)、画像内諸部分までの距離を示すマップを生成する(ステップ484)。
【0078】
撮像部から光景内諸点までの距離は、第1・第2オートフォーカス用画像内対応諸点間画素オフセット計測値から算出することができる。即ち、ステップ442で得られるクロッピング及びアップサンプリング済第1オートフォーカス用画像中の諸点と、ステップ448で得られる第2オートフォーカス用画像内の対応する諸点と、の間の画素オフセットの計測値から算出することができる。例えば、イメージセンサ上に現れる画素オフセットp、画素サイズm、レンズ間隔s、レンズの有効焦点距離f、並びに光景内諸点までの距離dの間に存する次の式
d=s・f/(p・m)
の関係を使用すればよい。表1に、ある撮像部における典型的な画素オフセット値を示す。本発明の好適な実施形態では、画素オフセットと光景内諸点までの距離との間に存するこうした関係を、既知距離にある視野内被写体に関し校正することで、複数個あるレンズ間に生じる不要な寸法ばらつき及び角度傾斜を補償することができる。
【表1】
【0079】
こうして生成される距離マップには、前述した通り、撮像出力信号乃至出力画像の修正に役立てることができる。例えば、
a)被写体の閉じた輪郭を識別してその形状を画定することにより、出力画像中の被写体を好適に識別すること
b)被写体の閉じた輪郭を識別してその画像を細分することにより、出力画像から被写体を抽出すること
c)被写体を検出し同一の被写体を複数枚の出力画像に亘り追跡することにより、それら複数枚の出力画像に亘る被写体の動きを追跡すること
d)出力画像のうち所望視界深さ外の光景領域に相応する部分をぼかすことにより、画像の視界深さを動的に変化させること
e)出力画像内の被写体に被写体単位で利得調整を施すことにより、その出力画像のダイナミックレンジを拡げること
f)出力画像のうち前景領域内諸被写体に相応する部分については利得を低下させ背景領域内諸被写体に相応する部分については増大させることにより、フラッシュ使用がもとで生じる露出上の問題を抑えること
g)前景領域内諸被写体を強調することにより、出力画像におけるシーンバランスを改善すること
等を、その距離マップに基づき実現することができる。
【0080】
距離マップがこのように重宝なものであることを理解するには何か具体的な例を考えるとよい。例えば、あるユーザが偉大なるアラスカ山脈の写真を撮ろうとしたとする。雲々が流れる美しい空と白く冠雪した山々が遙か彼方に見え、その手前には花々で埋まった野原が見え、そして自分から5フィートほどの近場には黒い犬が座っている(1フィート=約0.30m)。こうした風景を撮ると、雲々や山々の冠雪は露出過剰で白飛びし、黒い犬は露出不足で黒潰れする。その際、普通はカメラを風景モードにセットして撮るので黒い犬には合焦さえしない。距離データを使用すればそうした問題のうち幾つかは克服することができる。まず、各部位の露出については、画像中の所要被写体部位毎に利得調整を実施することで適正化することができる。例えば雲の襞、雪の肌、黒い犬の毛皮等の部位毎に適正化可能である。総じて、距離マップを用い出力画像内の被写体単位で且つその距離マップ上でのその被写体の位置とは無関係に利得調整を施すことで、その出力画像のダイナミックレンジを拡げることができる。更に、その視界深さを調整し、犬にも山々にも更には美しい花々にも合焦させることができる。また、あるユーザが美しい景色よりも犬を強調したいと切に望んでいる場合に、距離データを利用して山々や花々を特定しそれをぼかすことと、犬を特定してそれを鮮明化することで、意に適う鮮明な画像を得ることができる。更に、本発明に係る距離マップには、他にも画像の美的外観向上に資する様々な利用形態があることが明らかである。例えば、ユーザからの指示でその視界深さを動的に変化させること、即ちその距離が異なる様々な点に合焦させることができる。これは、より広義な表現でいえば、出力画像のうち所望視界深さ外の光景領域に相応する部分を、距離マップに基づき且つその距離マップ上でのその部分の位置とは無関係にぼかすことにより、画像の視界深さを動的に変化させることができる、ということである。例えば、犬と山々を撮りたいときには、その中間の距離域にある花々を滑らかにぼかすことで、距離的には両極端に位置する犬と山々の双方に対し、好適に合焦させることができる。
【0081】
図12及び図13に、前述のものとはその撮像部の光学的構成が異なるディジタルカメラのブロック構成を示す。撮像部より下流に位置する部材の多くは、先に図1を参照して説明済のものと同様の部材であるので、重複を避けその説明を省略することとする。まず、図12にそのブロック構成を示したディジタルカメラでは、その第1撮像部71に第1固定焦点距離レンズ73及び第1イメージセンサ12が、またその第2撮像部2に第2(ズーム)レンズ4及び第2イメージセンサ14がそれぞれ設けられている。オートフォーカスは撮像部71に対する撮像部2の焦点距離差を調整することで実行する。
【0082】
固定焦点距離レンズ73は、例えば22mm(35mm判換算値)といった非常に広い画角が得られる焦点距離で固定されているので、その過焦点距離(例えば8フィート)付近の距離域(例えば4フィート〜無限遠)に存する被写体を捉えることができる。従って、このレンズ73に焦点距離調整機能を持たせる必要はない。なお、図示しないが、このレンズ73には可調絞り/シャッタアセンブリが設けられているので、それを使用しイメージセンサ12への露出を制御することができる。
【0083】
次に、図13にそのブロック構成を示したディジタルカメラは、第1撮像部71、第2撮像部2及び第3撮像部74を備えている。撮像部71は第1固定焦点距離レンズ73及び第1イメージセンサ12を、撮像部2は第2(ズーム)レンズ4及び第2イメージセンサ14を、そして撮像部74は第3(ズーム)レンズ75及び第3イメージセンサ16を備えている。レンズ73,4,5は、順に、例えば超広画角レンズ、広画角ズームレンズ、望遠ズームレンズである。この前の段落で説明した通り、超広画角レンズたるレンズ73の焦点距離は調整できないので、オートフォーカスは撮像部2,74の焦点距離調整で実行した方がよい。
【0084】
図14に、図1に示した2個の撮像部1,2で得られる画像を併用し画像の視界深さを拡張する手順の流れを示す。この手順では、まず、カメラへの電源投入に応じズームポジションをデフォルトポジションに設定し(ステップ500)、次いでそのズームポジションをある値Xと比較する(ステップ502)。この値Xは、撮像部1,2のどちらに本撮影の役割を持たせるかの境目になる。この比較でズームポジションがX未満であるとされた場合には(ステップ502:“NO”)、第1撮像部をプリビュー用画像撮影用、第2撮像部をオートフォーカス用画像撮影用に選定した上で(ステップ504)、撮像部1を用いプリビュー用画像を継続的に撮影して表示部70の画面上に表示させる動作と、撮像部1をオートフォーカスさせるためのオートフォーカス用画像を撮像部2で撮影しイメージプロセッサ50でそれを処理して撮像部1を合焦させる動作とを、互いに並行して実行する(ステップ506)。この状態で、ズームボタン42c未押下のまま(ステップ508:“NO”)シャッタボタン42aが押下された場合、そのときの焦点ポジションを用い第1撮像部で一次画像(静止画)を撮影し(ステップ510)、そのときの焦点ポジションを用い第2撮像部で二次画像(静止画)を撮影し(ステップ512)、そしてその二次画像に基づき一次画像の視界深度を拡張する(ステップ514)。例えば、二次画像を用いて拡張信号を発生させ、一次画像のうち二次画像撮像時焦点ポジション相当の距離近傍に存する部分をその拡張信号に従い鮮明化する。
【0085】
逆に、ズームポジションがX超である場合(ステップ502:“YES”)、第2撮像部をプリビュー用画像撮影用、第1撮像部をオートフォーカス用に選定した上で(ステップ524)、撮像部2を用いプリビュー用画像を継続的に撮影して表示部70の画面上に表示させる動作と、撮像部2をオートフォーカスさせるためのオートフォーカス用画像を撮像部1で撮影しイメージプロセッサ50でそれを処理して撮像部2を合焦させる動作とを、互いに並行して開始する(ステップ526)。この状態で、ズームボタン42cが押下され(ステップ528:“YES”)シャッタボタン42aも押下された場合、そのときの焦点ポジションを用い第2撮像部で一次画像(静止画)を撮影し(ステップ530)、更にそのときの焦点ポジションを用い第1撮像部で二次画像(静止画)を撮影し(ステップ532)、そしてその二次画像に基づき一次画像の視界深度を拡張する(ステップ534)。例えば、その二次画像を用い、一次画像のうち二次画像撮像時焦点ポジション近傍に存する部分を鮮明化する。
【0086】
なお、上の説明では、カメラ内で拡張信号を発生させ、一次画像のうち二次画像撮影時焦点ポジション近傍に存する部分をその拡張信号に基づき鮮明化する例を示したが、一次画像及び二次画像(静止画)を外部プロセッサ例えば図1中のホストPC66に送信し、一次画像のうち二次画像撮影時焦点ポジション近傍に存する部分が鮮明になるよう、その外部プロセッサで拡張信号を発生させるようにしてもよい。
【0087】
各複数個のレンズ及びセンサを使用し統合的な撮像アセンブリを形成するという考え方は、画像撮影機能を有する携帯電話にも適用することができる。図15Aにその例を示す。この図の携帯電話600は、話者音声を捉えるためのマイクロホン602、話者音声及び通話相手音声の信号を処理する図示しない関連電子回路、通話相手音声に従い鳴音するスピーカ604等を有する通話部を備えている。キーパッド606は電話番号や画像撮影用のコマンドの入力に、また(液晶)表示部608は通話関連情報やこの携帯電話600で撮影した又はセルラ網経由で受信した画像の表示に、それぞれ使用されている。図15Bにこの携帯電話600の背面を示す。この図には内蔵部材のうち幾つか、即ち携帯電話用撮像アセンブリ610や、図1に示したイメージプロセッサ50を介しそれに接続されているセルラ処理部も示されている。そのセルラ処理部はセルラプロセッサ90及びモデム92から構成されている。セルラプロセッサ90は、イメージプロセッサ50から送られてくる画像データやマイクロホン602で捉えた音声のデータを受け取って処理し、それらのデータをセルラモデム92へと送る。セルラモデム92は、それらのディジタルデータを適当なフォーマットに変換しアンテナ94を用いセルラ網上に送出する。
【0088】
図16A及び図16Bに携帯電話用撮像アセンブリ610の構成を示す。図16Aは、このアセンブリ610の線24B−24B沿い断面(図16B参照)を上から見た図である。図示の通り、このアセンブリ610は、共通の基板620上に複数個の光学系・撮像系部品、具体的には第1固定焦点距離レンズ612、第1イメージセンサ614、第2固定焦点距離レンズ616及び第2イメージセンサ618を一体実装した構成を有している。センサ614上に像を発現させるレンズ612は例えばその焦点距離が40mm(35mm判換算値)で固定の広角レンズであり、センサ618上に像を発現させるレンズ616は例えばその焦点距離が100mm(35mm判換算値)で固定の望遠レンズである。レンズ612,616は互いに同じ方向を向いているので、その視野の広さに違いはあれ、前方に広がる光景中の同一部分を捉えて像を発現させることができる。
【0089】
これらのレンズ612,616は、対応するイメージセンサ614,618と共に基板620上に実装されている。レンズ612,616とセンサ614,618の間に赤外線遮断フィルタ622があるのでセンサ614,618上の諸画素への赤外光入射は少ない。その基板620上には、抵抗器、コンデンサ、電源系部品等の電子部品624や、基板620から画像信号を取り出すためのフレキシブルコネクタ626も実装されている。このコネクタ626を介しこの携帯電話用撮像アセンブリ610から取り出される画像信号は例えば生の画像データである。図示しないが、適当なプロセッサを基板620上に実装しておき、そのプロセッサによる処理でYUV又はJPEGフォーマットに変換した画像データを取り出すようにしてもよい。更に、イメージプロセッサ50によるディジタルズームで、広角レンズ612や望遠レンズ61でカバーできない距離域をカバーすることができる。ユーザは、(液晶)表示部608の画面上に表示されるユーザインタフェースを見ながらキーパッド606上の相応なボタンを操作することで、そのディジタルズーム機能を発動させることができる。広角側のセンサ614が高解像度、例えば望遠側のセンサ618よりも高い解像度であれば、そのディジタルズーム用のソース画像が高画質になる。
【0090】
また、レンズ612,616を共に可調焦点レンズにすることもできる。この変形例では、イメージプロセッサ50では、(a)広角レンズ612に係るセンサ出力を撮像出力信号に選定する一方望遠レンズ616に係るセンサ出力を用いレンズ612向けの焦点検出信号を生成する動作か、(b)レンズ616に係るセンサ出力を撮像出力信号に選定する一方レンズ612に係るセンサ出力を用いレンズ616向けの焦点検出信号を生成する動作か、そのいずれかを実行する。例えば後者では、その焦点検出信号をレンズ616のオートフォーカスサブシステム628に供給することで、撮像出力信号となるセンサ出力をもたらす方のレンズの焦点距離を調整することができる。また、この例におけるレンズ612はズームレンズ、例えばその画角を広角から通常角まで変化させうるレンズにするとよい。
【0091】
或いは、広角レンズ612の焦点距離をその過焦点距離に設定してもよい。過焦点距離にすると数フィートから無限遠までの距離域で合焦するので、このレンズ612についてはユーザによる焦点距離調整が不要になる。望遠レンズ616はそのオートフォーカスサブシステム628によってオートフォーカスさせる。こうするのは、焦点距離が増すにつれ過焦点距離が増すので、4〜12フィート等といった典型的な距離に存する被写体に対し適正に合焦させるには焦点距離を調整しなければならないからである。オートフォーカスサブシステムが望遠レンズ616用のもの(628)だけである分は安価及び小型な構成になる。
【0092】
更に、本実施形態ではz寸法630が重要な制約条件となる。即ち、携帯電話600内回路の配置及び構成と調和するようz寸法630を非常に小さな値にしなければならない。この条件は、望遠レンズ615の焦点距離及びセンササイズを注意深く設定することで、クリアすることができる。例えば、第1イメージセンサ616のサイズを、割合に小さな画像でもその受光部が埋まってしまうよう十分に小さくすることで、その焦点距離を抑えz寸法630を許容範囲内の値にすることができる。
【0093】
また、その焦点距離がほぼ等しい2個のレンズと、そのサイズが異なるイメージセンサアレイとを有する構成にしてもよい。センサアレイ間にサイズ差があっても、そのセンサアレイの受光部が対応するレンズからの画像で埋まるよう設計されていれば、それら2個あるレンズ・センサアレイ対同士で、実際の焦点距離即ちレンズセンサ間距離がほぼ同一になる。但し、各レンズの35mm判換算焦点距離は異なる値になるので、その視野は互いに異なる広さになる。
【0094】
そして、図16A及び図16Bでは詳示を省いたが、先に図1を参照して説明した構成と同じく、第1イメージセンサ614からのアナログ出力信号は第1ASPでの増幅後、また第2イメージセンサ618からのアナログ出力信号は第2ASPでの増幅後、ある種の制御素子、例えば基板620上に電子部品624の一つとして設けられているアナログMUXに、その第1,第2入力端を介し供給される。ユーザがキーパッド606を操作しズームポジションを設定すると、その値に基づき、センサ614から得られる信号(第1センサ出力)及びセンサ618から得られる信号(第2センサ出力)のいずれかがこの制御素子で選定され、選定された方のセンサ出力が携帯電話用撮像アセンブリ600からイメージプロセッサ50に供給されることとなる。
【0095】
次に、距離マップ使用方法の具体例について説明する。先に図11を参照して概説した通り、カメラ内のGPSユニット57からGPS測位結果が、またそのカメラ内の電子コンパス59からカメラ指向方向の計測結果が得られれば、それらをそのカメラから光景内諸点までの距離及び方向と組み合わせることで、光景内諸点のGPS測位を行うことができる。図18に、光景内諸点をGPS測位する手順の流れの一例を示す。この手順では、まずそのカメラ内のGPSユニットを使用しそのカメラをGPS測位し(ステップ750)、またそのカメラ内のコンパスを使用しカメラ指向方向を計測する(ステップ752)。次いで、そのカメラから光景内諸点までの距離を示す距離オフセットを、図11に示した手順等で得られている距離マップを参照して導出し(ステップ754)、またコンパス59から取得したカメラ指向方向を基準とする光景内諸点の方向を示す角度オフセットをその点の視野内位置から導出する(ステップ756)。更に、導出した距離オフセット及び角度オフセットを、GPS測位及びカメラ指向方向計測の結果に加味することで、光景内諸点をGPS測位する(ステップ758)。そして、視野内諸被写体のGPS測位結果をメタデータ中に保存し又はGPS測位マップの形態を採り画像上にラベルとして表示させる(ステップ760)。その点のGPS測位結果をその画像と共に電子カメラの画面上に表示させてもよい。
【0096】
なお、いわゆる当業者ならば、光景内諸点についてのGPS測位結果には様々な用途があることを理解できよう。例えば、被写体の個体識別、光景内諸点の方向を案内する表示の実行、地図その他の地理データベースに比したカメラ視野の拡がりの特定等である。
【0097】
図19に、2個ある撮像部のうち一方を一次画像用、他方の撮像部を非一次画像用(例えばシーン解析対象画像用)として選定する手順の流れの例を示す。この手順では、まず、カメラ電源投入に応じ初期化処理を開始する(ステップ1100)。初期化処理が終了したら、撮像部1,2のズームポジションをそれぞれそのデフォルトポジション即ち所定の初期ポジションに設定する(ステップ1102)。それらのデフォルトポジションによって最初に撮影及び表示される画像の内容が決まる。次いで、第1及び第2プリビュー用画像を撮像部1,2で撮影し表示部70の画面上に表示させる(ステップ1104)。それらの画像は、表示部70の画面上に様々な形態で表示させることができる。例えば、それらの画像をサムネイル等の形態にして横並び表示させてもよいし、一方の画像内に他方の画像を小さく表示させてもよいし、それらの画像を順繰りに表示させてもよい。更に、そのカメラのユーザに対し、第1及び第2プリビュー用画像のなかに一次画像即ち撮影及び保存の対象画像となりうるものがあるか否かを尋ね(ステップ1106)、それらの画像を表示させつつユーザによる決定を待つ状態を、最大で所定長Xの表示期間に亘り続ける(ステップ1110)。その期間中にシャッタボタンが押下された場合や(ステップ1108)同期間中にユーザから決定が示されなかった場合は(ステップ1110:“YES”)、撮像部1,2のうち所定の一方即ちデフォルト撮像部を自動的に一次画像用として選定する(ステップ1112)。デフォルト撮像部を予め定めておく理由は幾つかある。そのうち一つは、光景を包括的に広い視野で捉えた画像を初期画像にするためである。逆に、ユーザが第1及び第2プリビュー用画像のうちどちらかを一次画像に採用した場合は(ステップ1106:“YES”)、採用された方のプリビュー用画像に係る撮像部を一次画像用に選定する(ステップ1124)。そして、どちらの撮像部が一次画像用に選定された場合でも、一次画像用撮像部でない方の撮像部(非一次画像用撮像部)をシーン解析対象画像用に選定する(ステップ1114)。その後は、これから図20〜図22を参照して説明する通り、一次画像用撮像部をプリビューモードで稼働させる。
【0098】
図20〜図22及び図24〜図26に、マルチレンズカメラシステム内の撮像部のうちある1個で撮影した画像を利用又は解析し、別の1個で撮影した画像にその結果に基づく修正、例えば拡張、解析、補強その他の改変を施す手順について、その流れの例を示す。そのうち図20に示す手順は、図19に示した手順に従い一次画像用撮像部がプリビューモードで稼働しているときに実行される。この手順では、まずシーン解析対象画像用撮像部がシーン解析を実行し(ステップ1200)、その撮像部におけるシーン解析の結果を示すデータに基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを設定する(ステップ1202)。シーン解析で得られるのは、例えば露出、ダイナミックレンジ、視界深さ、色バランス、被写体性状識別結果(顔、草、夕日、雪等の別)等に関するデータであり、一次画像用撮像部のパラメタとは、絞り、露出時間、焦点距離、白バランス、ISO設定等のパラメタである。次いで、一次画像用撮像部でプリビュー用画像を撮影して表示部70の画面上に表示させ(ステップ1204)、シーン解析対象画像用撮像部がシーン解析の続きを実行する(ステップ1206)。その解析でシーン状態変化が見つからなかった場合は(ステップ1208:“NO”)ステップ1204に戻り、一次画像用撮像部でプリビュー用画像を再び撮影して表示部70の画面上に表示させる。その際、一次画像用撮像部の諸パラメタは変更しない。逆に、シーン状態変化が見つかった場合は(ステップ1208:“YES”)ステップ1202に戻り、その撮像部におけるシーン解析の結果を示すデータに基づきプロセッサ50が一次画像用撮像部の諸パラメタを再設定して、前述の処理を再実行する。
【0099】
図21に示す手順では、一次画像用撮像部の諸パラメタが変更されるのはシーン状態変化があるしきい値Xを上回ったときだけである。即ち、このしきい値付プリビューモードでは、まずシーン解析対象画像用撮像部で画像の撮影及びシーン解析を実行し(ステップ1300)、その撮像部におけるシーン解析の結果を示すデータに基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを設定する(ステップ1302)。次いで、一次画像用撮像部でプリビュー用画像を撮影して表示部70の画面上に表示させ(ステップ1304)、シーン解析対象画像用撮像部で更に画像を撮影する(ステップ1306)。ステップ1306で撮影した画像におけるシーン状態変化がしきい値Xに達していない場合(ステップ1308:“NO”)、即ち画像間で光景条件が安定していると見なせる場合はステップ1304に戻り、一次画像用撮像部でプリビュー用画像を再撮影して表示部70の画面上に表示させる。その際、一次画像用撮像部の諸パラメタは変更しない。その上で、シーン解析対象画像用撮像部で更に画像を撮影する(ステップ1306)。逆に、ステップ1306で撮影した画像におけるシーン状態変化がしきい値X超であり不安定な状況であると見なせる場合は(ステップ1308:“YES”)ステップ1302に戻り、その撮像部におけるシーン解析の結果を示すデータに基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを再設定する。その後は、前述の処理を再実行する。
【0100】
図22に示す手順では、撮像部間に存するズームポジションの違いと、各撮像部で撮影された画像についてのシーン解析結果とに基づき、しきい値を用いた光景条件判別を補強している。即ち、この拡張プリビューモードでは、まず一次画像用撮像部のズームポジションを基準にシーン解析対象画像用撮像部のズームポジションを設定し(ステップ1400)、そのシーン解析対象画像用撮像部で画像を撮影し(ステップ1402)、更にその撮像部におけるシーン解析の結果を示すデータに基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを設定する(ステップ1404)。次いで、一次画像用撮像部でプリビュー用画像を撮影し(ステップ1406)、撮影したプリビュー画像及び取得済のシーン解析結果データに基づきシーン解析を実行し(ステップ1408)、イメージプロセッサ50が両シーン解析の結果、即ち撮像部それぞれで得られた画像に対する解析の結果に基づき一次画像用撮像部の諸パラメタを設定する(ステップ1410)。その次は、一次画像用撮像部でプリビュー用画像を撮影して表示部70の画面上に表示させ(ステップ1412)、シーン解析対象画像用撮像部で更なる画像を撮影し(ステップ1414)、更に撮影したプリビュー画像及び取得済のシーン解析結果データに基づきシーン解析を実行する(ステップ1416)。シーン状態変化がしきい値Xに達していない場合(ステップ1418:“NO”)、即ち光景条件が安定していると見なせる場合はステップ1412に戻り、一次画像用撮像部でプリビュー用画像をまたシーン解析対象画像用撮像部でシーン解析対象画像をそれぞれ再撮影する(ステップ1412及び1414)。その後は前述の処理を再実行する。逆に、シーン状態変化がしきい値X超であり不安定な状況であると見なせる場合は(ステップ1400:“YES”)ステップ1410に戻り、イメージプロセッサ50が新たなシーン解析結果データ、即ちステップ1416でシーン解析対象画像用撮像部により導出された解析結果に基づき一次画像用撮像部の諸パラメタを再設定する。その後は前述の処理を再実行する。
【0101】
これら、図19〜図22に示した手順によるプリビュー動作は、シャッタボタン42aかズームボタン42cが押下されるまでは継続的に実行される。これに対し、ズームボタン42cが押下された場合、図23に示すように、ズームボタン42c押下(ステップ1500:“YES”)時のズームポジション設定が一次画像用撮像部のズーム域外であるなら(ステップ1502:“YES”)、それまで一次画像用であった撮像部がシーン解析対象画像用になりシーン解析対象画像用であった撮像部が一次画像用になるよう、撮像部の用途乃至役割を互いに入れ替える(ステップ1504)。次いで、一次画像用撮像部のズームポジションを指定された距離に設定し(ステップ1506)、図20〜図22に示したプリビューモードでの動作に戻る。逆に、ズームボタン42c押下(ステップ1500:“YES”)時のズームポジション設定が一次画像用撮像部のズーム域内であるなら(ステップ1502:“NO”)、各撮像部の用途乃至役割はそのままにして、一次画像用撮像部のズームポジションを指定されたポジションに設定し(ステップ1506)プリビューモードでの動作に戻る。
【0102】
図24〜図26に、マルチレンズカメラシステム内の撮像部のうちある1個で撮影した画像を利用又は解析し、別の1個で撮影した画像にその結果に基づく修正、例えば拡張、解析、補強その他の改変を施す手順について、その流れの更なる例を示す。これらの図に示した例は撮影時に実行される手順の例である。まず、図24に示す第1の手順では、シャッタボタン42aが半押し位置S1まで押下されたときに撮影モードでの動作が開始され、それ以外の場合はプリビューモードでの動作に戻る(ステップ1600)。撮影モードでは、まず一次画像用撮像部でプリビュー用画像を撮影し(ステップ1602)、更にそのプリビュー画像に基づくシーン解析を実行する(ステップ1604)。解析が終了したら(ステップ1606:“YES”)、そのシーン解析の結果に基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを設定し(ステップ1608)、更にその一次画像用撮像部でプリビュー用画像を撮影して表示部70の画面上に表示させる(ステップ1610)。この状態からシャッタボタン42aが全押し位置S2まで押下されたら(ステップ1612:“YES”)、画像の撮影が指令されたということであるので、設定されたパラメタに従い一次画像用撮像部で一次画像を撮影する(ステップ1614)。その後はプリビューモードでの動作に戻る。シャッタボタン42aが全押しされないときは(ステップ1612:“NO”)、このカメラに焦点/露出ロックが設定されているか否かをチェックする(ステップ1616)。どちらかのロックが設定されている場合は(ステップ1616:“YES”)ステップ1610に戻り、一次画像用撮像部でプリビュー用画像を再撮影して表示部70の画面上に表示させてから、シャッタボタン42aの状態チェック(ステップ1612)以降の動作を上記同様に実行する。焦点/露出ロックがどちらも設定されていない場合は(ステップ1616:“NO”)ステップ1602に戻り、一次画像用撮像部でプリビュー用画像を再撮影してから、そのプリビュー画像に基づくシーン解析を実行する(ステップ1604)。以降の動作は前記同様である。
【0103】
図25に示す第2の手順では、シャッタボタン42aが半押し位置S1まで押下されたときに撮影モードでの動作が開始される(ステップ1700)。次いで、一次画像用撮像部でプリビュー用画像を撮影し(ステップ1702)、シーン解析対象画像用撮像部でも画像を撮影し(ステップ1704)、そして撮影したプリビュー用画像及びシーン解析対象画像双方に基づきシーン解析を実行する(ステップ1706)。更に、そのシーン解析の結果に基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを設定し(ステップ1708)、それらのパラメタに従い一次画像用撮像部でプリビュー用画像を撮影して表示する(ステップ1710)。次いで、図24に示した手順と同様、この状態でシャッタボタン42aが全押し位置S2まで押下されたら(ステップ1712:“YES”)、設定済のパラメタに従い一次画像用撮像部で一次画像を撮影して(ステップ1714)プリビューモードでの動作に戻る。逆に、シャッタボタン42aが全押しされなかったらそのカメラに焦点/露出ロックが設定されているか否かをチェックし(ステップ1716)、設定されていたらステップ1710に戻って一次画像用撮像部でプリビュー用画像を再撮影して表示した上で、シャッタボタン42aの状態チェック(ステップ1712)以降の動作を上記同様に実行する。焦点/露出ロックがどちらも設定されていない場合は(ステップ1716:“NO”)ステップ1702に戻り、一次画像用撮像部でプリビュー用画像を再撮影してから(ステップ1702)、そのプリビュー画像に基づくシーン解析を実行する(ステップ1704)。以降の動作は前記同様である。
【0104】
図26に示す第3の手順では、シャッタボタン42aが半押し位置S1まで押下されたときに撮影モードでの動作が開始される(ステップ1800)。次いで、一次画像用撮像部でプリビュー用画像を撮影し(ステップ1802)、シーン解析対象画像用撮像部でも画像を撮影する(ステップ1804)。更に、撮影したプリビュー画像及びシーン解析対象画像双方に基づきシーン解析を実行し(ステップ1806)、そのシーン解析の結果に基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを設定する(ステップ1808)。次に、シーン解析対象画像用撮像部を二次画像用撮像部に選定した上で(ステップ1810)、先の両シーン解析の結果に基づきイメージプロセッサ50が二次画像用撮像部の諸パラメタを設定する(ステップ1812)。更に、この状態でシャッタボタン42aが全押し位置S2まで押下されたら(ステップ1814:“YES”)、設定済のパラメタに従い一次画像用撮像部で一次画像を撮影し(ステップ1816)、二次画像用撮像部に選定されているシーン解析対象画像用撮像部で二次画像たる補強用画像を撮影し(ステップ1818)、更に一次画像及び補強用画像に基づきイメージプロセッサ50が拡張画像を生成する(ステップ1820)。その後はプリビューモードでの動作に戻る。逆に、シャッタボタン42aが全押しされなかった場合は(ステップ1814)ステップ1802に戻り、一次画像用撮像部及びシーン解析対象画像用撮像部による撮影(ステップ1802及び1804)から動作を再開する。
【0105】
図26に示した手順で施せるこの補強及び拡張の種類は多様である。第1に、先に図14に関して述べた通り、一次画像用撮像部をある焦点ポジションにして一次画像を撮影し、シーン解析対象画像用撮像部(二次画像用撮像部)を別の焦点ポジションにして二次画像(補強用画像)を撮影し、それら2枚の画像を組み合わせてより視界深さに富んだ画像(拡張画像)を生成することができる。このタイプの補強及び拡張には、一次画像の撮影に使用するレンズを絞ることなく視界深さを大きくすることができる、という長所がある。これは、撮影環境が暗く絞りを開けたい場合に特に有益である。
【0106】
第2に、イメージプロセッサ50で画像のダイナミックレンジを調べ、そのダイナミックレンジが所定のしきい値を上回っていたら、シーン解析対象画像用撮像部を用い、そのダイナミックレンジが一次画像のそれとは異なるダイナミックレンジになるよう二次画像を撮影する、というタイプの補強及び拡張がある。例えば、まず一次画像を通常の露出、二次画像を不足気味又は過剰気味といったより極端な露出で撮影する。このとき、例えば一次画像では白飛びしている明るい部分も、それより露出レベルの低い二次画像なら、その細部まで捉えることができる。逆に、一次画像では黒潰れしている陰の部分も、それより露出レベルの高い二次画像なら、その細部まで捉えることができる。従って、一次画像中の諸部分を二次画像中の対応部分で置き換えることにより、そのダイナミックレンジが広い拡張画像を得ることができる。
【0107】
また、ご理解頂けるように、一次画像用撮像部や二次画像用撮像部で撮影する画像は静止画及び動画のいずれでもよい。動画の場合は一連の静止画として扱えるので、静止画の場合はその静止画を、動画の場合は動画信号を組成する一連の静止画を、例えば上述した形態で拡張すればよい。例えば、その電子カメラに動画信号が得られる撮像部が搭載されている場合、二次画像用撮像部の撮像出力を用い、その動画信号を組成している一連の静止画の視界深さ、ダイナミックレンジ等々を拡張することができる。
【0108】
更に、図14に示した手順を変形し、広いダイナミックレンジを有する一次画像が得られるようにすることもできる。例えば、図14に示したものと似た手順にて、シャッタボタン42aの押下に応じ第1撮像部又は第2撮像部(ステップ510又は530相当)で一次画像(静止画)を撮影し、第2撮像部又は第1撮像部(ステップ512又は532相当)で二次画像(静止画)を撮影し、更に二次画像を用いて一次画像のダイナミックレンジを拡張する(ステップ514又は534相当)ことができる。即ち、一次画像撮影時の露出レベルと異なる露出レベル、例えばより低い露出レベルで二次画像を撮影するようにすれば、その二次画像には明るい部分の細部までしっかりと写る。その上で、その二次画像を一次画像と組み合わせることにより、その一次画像のダイナミックレンジを拡げることができる。
【0109】
更に、拡張画像を好適に生成できる手法の一つとして摺動スケールを使用する手法がある。この手法では、米国特許出願第11/460364号(名称:大ダイナミックレンジディジタル画像の生成(Producing an Extended Dynamic Range Digital Image)、発明者:John Border and Efrain Morales、譲受人:本願出願人と同一、出願日:2006年7月27日、この参照を以てその内容を本願に繰り入れる)に記載の通り、一次画像及び二次画像双方の画素値を勘案して拡張画像の画素値を決定することができる。また、フラッシュ使用時には露出過剰状態がしばしば発生する。ダイナミックレンジ補正を行えるよう二種類の露出レベルを設定することでそれに対処することができる。例えば、撮像部のうち1個の露出時間を非常に短い時間としてもよいし、露出タイミングをずらしフラッシュの直前又は直後にしてもよい。
【0110】
また、上述の補強手順はその解像度が大きく異なる画像間にも適用することができる。例えば、米個許特許出願第11/461574号(名称:異解像度部分込みディジタル画像の生成(Producing Digital Image with Different Resolution Portions)、発明者:John Border、Scott Cahall and John Griffith、譲受人:本願出願人と同一、出願日:2006年8月1日、この参照を以てその内容を本願に繰り入れる)では、第1画像を第1撮像部で広角ディジタル撮影する一方、その第1画像に写っている光景とほぼ同じ光景の一部が写るよう第2画像を第2撮像部で望遠ディジタル撮影している。こうした場合でも、広角撮影した第1画像の一部と、望遠撮影した第2画像中の一部とを組み合わせることで、それらの合成画像を生成することができ、その合成画像をディジタルズームすることで、より解像度が高いディジタル画像を生成することができる。具体的には、合成画像をディジタルズームすることで、ズーム域全域を通じて解像度が高くその画質も良好なズーム画像を得ることができる。
【0111】
補強手順の更なる変形例としては、一次画像用撮像部の露出時間と二次画像用撮像部のそれとを異なる長さにすることで、各画像に発現するノイズ及びモーションブラーのレベルに差を付ける、というものがある。例えば、一次画像用撮像部の露出時間を長めに、二次画像用撮像部を短めに設定して撮影を行う。すると、ディジタルノイズが低レベルでモーションブラーが高レベルな一次画像と、ディジタルノイズが高レベルでモーションブラーが低レベルな二次画像とが得られる。一次画像でモーションブラーが高レベルになるのは、カメラの動きも視野内被写体の動きもモーションブラーをもたらすからである。次いで、それら一次画像及び二次画像を互いに比較してモーションブラーを識別し、更に二次画像内平均画素値が一次画像内平均画素値と整合する値になるよう二次画像の利得を増大させる。そして、一次画像の一部を二次画像の一部で置き換えることにより、拡張画像を生成することができる。具体的には、一次画像のうちそのノイズは低レベルだがモーションブラーは高レベルの部分を、二次画像中の対応部分、即ちそのノイズレベルは高レベルだがモーションブラーは低レベル又は0の部分で置き換えることにより、ノイズが割合に低レベルで先鋭さが良好な拡張画像を得ることができる。
【0112】
以上、本発明に関しその好適な実施形態を例にして具体的な説明を行ったが、それらに更に変形乃至改良を施せること、またそうしたものも本発明の基本的着想及び技術的範囲内に包括されうることを理解されたい。
【符号の説明】
【0113】
1,2,71,74 第1〜第3撮像部、3,4 第1又は第2ズームレンズ、5a,5b ズーム/フォーカスモータ、10A,610 ディジタルカメラ、カメラ付携帯電話等の撮像アセンブリ、12,14,16,78,614,618 第1〜第3イメージセンサ、12e,14e 第1又は第2センサ出力、13,15,17 クロックドライバ、22,24,25 第1〜第3アナログ信号プロセッサ、34,36,37 第1〜第3ディジタルマルチプレクサ型制御素子、38 DRAM型バッファメモリ、40 制御プロセッサ/タイミング発生器、42 ユーザ操作子、42a シャッタボタン、42c ズームボタン、42d マルチポジションセレクタ、46自動露出検出器、48 電子フラッシュ、50 イメージプロセッサ、52 メモリカードインタフェース、54 リムーバブルメモリカード、56 RAM型メモリ、57 GPSユニット、58 ファームウェアメモリ、59 電子コンパス、62 ホストインタフェース、64 接続手段、66 ホストPC、70 カラー液晶型画像表示部、73,612 第1固定焦点距離レンズ、90 セルラプロセッサ、92 セルラモデム、94 アンテナ、100,500,1102 ズームポジションをデフォルト設定するステップ、101,250 ズームポジションを選択するステップ、102,502,1502 ズームポジションを判別するステップ、104,124,252,504,524 本撮影用撮像部を選定するステップ、106,126,260 第1又は第2撮像部を使用してオートフォーカス用画像を撮影するステップ、108,128 第1又は第2撮像部を合焦させるステップ、110,130,1104,1204,1304,1412,1610,1710 第1又は第2撮像部を使用してプリビュー用画像を撮影し表示させるステップ、112,132,508,528,1500 ズームボタンが押下されたか判別するステップ、114,134,1108,1600,1612,1700,1712,1800,1814 シャッタボタンが押下されたか判別するステップ、116,136,270 第1又は第2撮像部を使用して本撮影するステップ、118,138,276 第1又は第2撮像部を使用して動画を撮影するステップ、119,139 合焦品質をチェックするステップ、120,140 再合焦要否を判別するステップ、151 被写体、152,153 第1又は第2レンズ、154,155 第1又は第2光路、156 合焦面、157,158 第1又は第2像、170,180 第1又は第2基準位置、171,181 シフト後第1又は第2位置、190,191 第1又は第2光学センサアレイ、197 低域通過フィルタをロードするステップ、198 合焦状態評価値を比較するステップ、199 高域通過フィルタをロードするステップ、254 非本撮影用撮像部でズーミングするステップ、256 過焦点距離に設定するステップ、258 オートフォーカス手順を開始するステップ、262,302,442 短焦点距離で撮影した画像等をクロッピング及びアップサンプリングするステップ、264,304,444,480 画像の関連付け後に画素オフセットを導出するステップ、266,282,284 最良合焦に必要な可調焦点レンズ調整量を導出するステップ、268,286 合焦用レンズを調整するステップ、272 ヒルクライムオートフォーカスを実行するステップ、274 シャッタボタンの押下を待つステップ、278 ヒルクライム合焦状態を継続チェックするステップ、280,472 合焦状態を判別するステップ、300,400 画像群を撮影するステップ、306,404 オートフォーカス用レンジファインダ又はヒルクライム法校正曲線を生成するステップ、350 オートフォーカス用画像の外観、352 ズーミング及びクロッピングを経たオートフォーカス用画像の外観、402 ポジションと距離を比較するステップ、440,448 短又は長焦点距離で撮影するステップ、446 焦点補正量を導出するステップ、460,466 第1又は第2撮像部を使用しヒルクライム法で第1又は第2画像を撮影するステップ、462 第1撮像部で撮影した画像をプリビュー表示させるステップ、464 第1撮像部の合焦条件を変更するステップ、468 第2撮像部を使用し別画像を撮影するステップ、470 第2画像と別画像の合焦状態を比較するステップ、482 レンジファインダ校正曲線を使用し画素オフセットを換算するステップ、484 距離マップを生成するステップ、506,526 第1又は第2撮像部を使用しプリビュー画像を撮影して表示させオートフォーカスするステップ、510,530,1614,1714,1816 一次画像撮影時の焦点ポジション下等で第1又は第2撮像部を使用し一次画像を撮影するステップ、512,532 二次画像撮影時焦点ポジション下で第1又は第2撮像部を使用し二次画像を撮影するステップ、514,534 二次画像を使用し一次画像を拡張するステップ、600 携帯電話、602 マイクロホン、604 スピーカ、606 キーパッド、608 (液晶)表示部、 616 第2固定焦点距離レンズ、620 基板、622 赤外線遮断フィルタ、624 電子部品、626 フレキシブルコネクタ、628 オートフォーカスサブシステム、630 z寸法、750 GPSを使用しカメラを測位するステップ、752 カメラ指向方向を計測するステップ、754 距離オフセットを導出するステップ、756 角度オフセットを導出するステップ、758 シーン内をGPS測位するステップ、760 GPS測位結果を保存するステップ、1100 電源投入後に初期化するステップ、1106 プリビュー用画像撮影用撮像部を選択するステップ、1110 表示時間を判別するステップ、1112 デフォルト撮像部を採用するステップ、1114 シーン解析対象画像用撮像部を決定するステップ、1124 判断に従い一次画像用撮像部を決定するステップ、1200,1206,1408,1416,1706,1806,1604 プリビュー用画像及びシーン解析対象画像の一方又は双方等を使用してシーン解析するステップ、1202,1302,1404,1410,1608,1708,1808,1812 一次又は二次画像の撮影パラメタを設定するステップ、1208,1308,1418 しきい値等を使用し光景条件を判別するステップ、1300,1306 シーン解析対象画像を撮影して解析するステップ、1400 シーン解析対象画像用撮像部のズームポジションを設定するステップ、1402,1414,1704,1804 シーン解析対象画像を撮影するステップ、1406,1602,1702,1802 プリビュー用画像を撮影するステップ、1504 撮像部の用途を入れ替えるステップ、1506 一次画像用撮像部のズームポジションを設定するステップ、1606 シーン解析完了を判別するステップ、1616,1716 焦点/露出ロックをチェックするステップ、1810 シーン解析対象画像用撮像部を二次画像用撮像部にするステップ、1818 補強用画像を撮影するステップ、1820 拡張画像を生成するステップ。
【技術分野】
【0001】
本発明はディジタル画像ファイルを生成するディジタルカメラ、特にレンズ及びイメージセンサを複数使用し測距能力を高めたディジタルカメラに関する。
【背景技術】
【0002】
現在使用されている多くのディジタルカメラはズームトラッキングレンズ及び単色イメージセンサを用い静止画や動画を撮影する構成である。撮影した画像はカメラ内で処理されディジタル画像ファイルとしてディジタルメモリ上に保存される。それらのファイルについては、コンピュータに転送すること、表示すること、印刷すること、インターネット上で共有すること等が可能である。
【0003】
動きのある被写体を鮮明に捉えるには、そのディジタルカメラ上にオートフォーカスシステム、即ちそのカメラのレンズを被写体に対し精密且つ自動的に合焦させるシステムを設ける必要がある。その種のシステムに対しては、被写体に対しレンズを迅速且つ正確に合焦させうること、即ちシャッタボタン押下から静止画撮影までの遅延時間であるシャッタ遅延が短いことが求められる。更に、動画撮影に使用される連続撮像モードでも機能すること、例えば動画モードで動画の撮影を続けている間中焦点をリアルタイムに調整できることも求められる。
【0004】
一般に、ディジタルカメラやスキャナの多くでは、イメージセンサと併せ、可調焦点レンズ付の撮像レンズ系を用いて画像を撮影する。通常、そうした可調焦点レンズ付撮像レンズ系の焦点距離(レンズポジション)では、複数通りある設定値のうちいずれかを検知系、制御系及び駆動系の動作で自動的に選択する。それらの設定値は、光景内の被写体エリアと覚しきエリアに好適に合焦するよう定めるのが普通である。本願中でオートフォーカスシステムと呼んでいるのは、合焦状態計測結果に基づき且つ可調焦点レンズを用いその焦点設定を自動調整しうるレンズシステムのことである。ディジタルカメラで用いられるオートフォーカスシステムには、大別してレンジファインダ(測距器式)オートフォーカスシステムとスルーザレンズ(レンズ越し式)オートフォーカスシステムとがある。
【0005】
そのうちレンジファインダオートフォーカスシステムでは、カメラから自システムの視野内にある1個又は複数個の点までの距離を、ソニックレンジファインダ(音響測距器)、デュアルレンズレンジファインダ(複レンズ測距器)等の測距センサを用いて導出する。ソニックレンジファインダは、投射した音響信号と反射してくる音響信号との間の位相差を計測し、その結果に基づき視野内物体までの距離を推定する。デュアルレンズレンジファインダは、間隔配設されている2個のレンズ及びそれらに対応して設けられた2個のセンサ領域を備え、それらのセンサ領域で画像の対を撮影する。ディジタルカメラに搭載されるデュアルレンズレンジファインダは、間隔配設された2個のレンズ及び対応するレンズを介し低解像度画像を撮影する2個のセンサ領域を有するデュアルレンズレンジモジュールとなっていることが多い。
【0006】
デュアルレンズレンジファインダを用いるオートフォーカスシステムには大別して能動型と受動型がある。能動型のシステムは視野内領域に向けて自分から光を投射するが、受動型のシステムは視野内領域から到来する光だけを利用する。また、デュアルレンズレンジファインダモジュールの例としては、富士電機株式会社が販売しているFM6260W(商品名)等何種類かの機種がある。特許文献1(発明者:Haruki et al.、譲受人:富士電機株式会社他、発行日:1986年8月19日)には光学機器(例えばカメラ)用デュアルレンズレンジファインダモジュールが記載されている。この文献の記載によれば、対をなして得られる低解像度画像を解析して二画像間の相関を調べることで、レンズ間隔による画像間オフセットを求めることができる。
【0007】
図27に、従来技術に係るレンジファインダの動作原理を模式的に示す。この図のレンジファインダは、被写体151からの光が入射する2個の小さなレンズ152,153を備えている。被写体151からの光は互いに異なる光路154,155を辿ってレンズ152,153に入射し、レンズ152,153に共通の合焦面156上に像157,158を発現させる(符号同順;以下同様)。レンズ152,153の焦点距離fは十分に短いので、像157,158間には光路154,155の違いに応じた間隔が発生する。その被写体151が無限遠といえるほど遠くにあれば、像157,158それぞれの中心位置は図中の基準位置170,180になるが、被写体151がより近い位置にある場合は、像157,158の中心位置は位置170,180からシフトした別の位置171,181になる。ここに、位置170を基準とした像157のシフト幅をx1、位置180を基準とした像158のシフト幅をx2とすると、合計のシフト幅xは
x=x1+x2=b・f/d
と表すことができる。なお、bはレンズ152,153間の光軸間距離即ち基線長である。この式から判るように、合計シフト幅xが判ればd=b・f/xの演算で被写体151までの距離dも判る。図示の装置で合焦面156上に2個の光学センサアレイ190,191が設けられているのは、それら個別又は合計のシフト幅x1,x2又はxを検出するためである。これらのアレイ190,191はいずれも光学センサ例えばCCD(電荷結合素子)デバイスを複数個有しており、それらのセンサは画像のうちそのセンサに入射した部分の光強度を表すアナログの光起電信号を出力する。特許文献1には、その特徴たる高速測距回路のほか、左側の光学センサアレイに発するディジタル画像信号からなる画像信号列と、右側の光学センサアレイに発するディジタル画像信号からなる画像信号列とを対比することにより、それらの間の合計シフト幅xを求める従来回路が示されている。
【0008】
基本的には、この合計シフト幅xが判れば、レンズ間距離b及び焦点距離fを参照し三角測量の原理で被写体151までの距離dを求めることができ、その結果に基づき可調焦点レンズの焦点ポジションを調整することで最良画質に近づけることができる。本件技術分野で既知の如く、この調整には、デュアルレンズレンジファインダモジュールにおける被写体距離計測値と、スルーザレンズオートフォーカスシステムで調べた最良合焦時の焦点ポジションと、を関連付ける校正曲線が使用される。使用する校正曲線は、数式又はルックアップテーブルの形態でカメラ又はそのマイクロプロセッサに実装される。
【0009】
こうしたレンジファインダオートフォーカスシステムには、例えばその応答時間が0.01〜0.05秒のものもある等、非常に高速であるという長所がある。反面、一部のレンジファインダオートフォーカスシステムでは、その稼働条件の変化に応じ合焦品質が変化する。例えば、ソニックレンジファインダオートフォーカスシステムでは、投射した音響信号がガラス窓を透過できずにガラス面上に合焦してしまう。デュアルレンズレンジファインダオートフォーカスシステムでは、温度、湿度等の環境条件における変化でその測距精度が左右されることが多い。即ち、デュアルレンズレンジファインダモジュールを使用する上で問題になるのは、そのモジュールと可調焦点レンズのポジションとの間の校正関係が、通常のディジタルカメラ稼働環境の範囲内で安定とはいえないことである。デュアルレンズレンジファインダモジュールで得られる光景内被写体距離計測値は、温度、湿度等の環境条件が変化すると10%以上も変化することがある。加えて、撮像用レンズ系を構成する可調焦点レンズのポジションについての計測値にも環境性の計測値変動が生じやすいので、レンズ制御系でも環境性の誤差が発生する。そのため、ディジタルカメラ内オートフォーカス動作をデュアルレンズレンジファインダモジュールだけに担わせることは少ない。デュアルレンズレンジファインダモジュールで焦点を粗調整しスルーザレンズオートフォーカスシステムでそれを補う構成の方が多い。
【0010】
そのスルーザレンズオートフォーカスシステムでは、可調焦点レンズの焦点距離を複数通りに変化させつつ撮影を行い、それによって得られた一群のオートフォーカス用画像を解析することによって、合焦状態を判別する。例えば、一般的なスルーザレンズオートフォーカスシステムでは、可調焦点レンズのポジションをいわゆるヒルクライム法に従い複数通りに変化させつつ複数枚例えば5〜10枚のオートフォーカス用画像を撮影する。ヒルクライム法と呼ばれる所以は、この手法で使用する合焦状態評価値が、あるところで丘(ヒル)のピークを迎えるまで増加し続けることにある。言い換えれば、レンズ焦点ポジションを自動調整し、その画像のエッジディテール乃至特定領域のコントラスト値が最大になるように導くからである。例えば、個々のオートフォーカス用画像におけるコントラスト値を調べ、それらのなかで最大のコントラスト値を呈したオートフォーカス用画像を以て、最良合焦条件で撮影された画像であると見なすようにする。このとき、オートフォーカス用画像間のコントラスト値補間によって、最良合焦になるレンズポジションをより精細に求めることもある。
【0011】
また、合焦精度を犠牲にすることなく合焦動作の応答時間を短縮するため、一般に、動画信号中の高周波成分を分離するフィルタだけでなく低周波成分を分離するフィルタも用いられている。例えば、まず最良合焦からかけ離れているときは低周波域内粗調整用ステップ幅でレンズを素早く動かし、最良合焦に近づいたら高周波域内精密調整用ステップ幅でレンズを動かすようにする。図28に、コントラスト値比較による従来のヒルクライムオートフォーカスアルゴリズムの流れを示す。このアルゴリズムでは、コントラスト値を用い且つ図29に示す要領に従い上述のヒルクライムオートフォーカスを実行する。図29は、諸フィルタから得られる合焦状態評価値とレンズポジションとの関係を示す図である。その横軸は可調焦点レンズの距離方向沿い合焦ポジションを、縦軸は合焦状態評価値をそれぞれ表している。曲線Aは最良合焦ポジションPを基準とした高周波成分用合焦状態評価値、曲線Bは同じく低周波成分用合焦状態評価値である。
【0012】
このアルゴリズムを実行する際には、例えば、その可調焦点レンズの現在の焦点距離とfナンバに従い現設定下での過焦点距離を決め、その距離を開始点として図28に示す流れによる手順を実行すればよい。開始点は、通常は2m程度の距離となる。次いで、低域通過フィルタをロードして(ステップ197)合焦状態評価値を取得しその値を比較する(ステップ198)。更に、合焦状態評価値が増加するよう比較の結果に基づき焦点距離調整方向を設定し、レンズがいつ“丘”を越えるかを判別する。更に、現在の焦点距離及びfナンバにより決まる視界深さに基づきステップ数を決め、そのステップ数だけ手前の焦点ポジションにて、低域通過フィルタを用い次のフレームを撮影する。この動作を続けると、いずれは図29中に曲線Bで示した“丘”のピークを越える。そうしたら、高域通過フィルタをロードし(ステップ199)、図29中に曲線Aで示した更に高い“丘”のピークに達するまで、そのレンズの焦点距離を逆方向に変化させるようにする。そのピーク値としては、多数の画素から合焦状態評価値の加重平均値を求めてもよいし、それらの合焦状態評価値の最頻値を求めてもよい。
【0013】
こうしたスルーザレンズオートフォーカスシステムは、高品質な撮像用レンズで撮影したオートフォーカス用画像から直に合焦品質を求めるため非常に高精度であるが、残念なことに、多数のオートフォーカス用画像を撮影して比較しなければならないため焦点設定の画定がやや遅くなる。例えば、合焦条件決定に0.5〜2.0秒もかかるスルーザレンズオートフォーカスシステムもある。
【0014】
そのため、一部のディジタルカメラでは、これら二種類のオートフォーカスシステムを併用するハイブリッドシステムが使用されている。例えば、レンジファインダオートフォーカスシステムを用い可調焦点レンズの焦点ポジションを粗決定し、次いでスルーザレンズオートフォーカスシステムを用いそれを精密決定する、といったシステムである。例えば特許文献2(名称:光学機器焦点調整用合焦装置(Focusing Apparatus for Adjusting Focus of an Optical Instrument)、発明者:Misawa、発行日:2005年3月8日)に記載の装置では、レンジファインダオートフォーカスシステムとスルーザレンズオートフォーカスシステムが併用されている。即ち、この文献に記載の装置では、まず、撮像に使用する可調焦点レンズの焦点ポジションをレンジファインダオートフォーカスシステム及びスルーザレンズオートフォーカスシステムの双方で導出し、両者の差分を求めて後刻使用に備えその情報を保存する。後に画像を撮影する際には、その可調焦点レンズが被写体に対し最良合焦する焦点距離を決定するのに何枚のオートフォーカス用画像を撮影すべきか、即ち何枚のオートフォーカス用画像をスルーザレンズオートフォーカスシステムでヒルクライム法に従い処理すべきかを、保存しておいた差分情報に基づき決定する。従って、オートフォーカス用画像の撮影及び処理枚数を、レンジファインダが正確になるケースな状況で減らし不正確になるケースで増やすことができる。ただ、この文献に記載の手法では、時間が経過しまた環境条件が変化してもレンジファインダ、撮像用可調焦点レンズ系及び制御系の性能に変化、ばらつき、変転等が生じないものと仮定している。
【0015】
また、ヒルクライム法では、通常、被写体への合焦後も、その付近を前後するよう焦点距離をステッピングさせる動作を続ける。離焦した場合、ヒルクライム法では、どちらの方向にレンズのポジションを動かせば“丘”を登る(下る)こととなるのかを判別し、合焦状態評価値の新たなピーク値を見つけてレンズポジションを再設定するのが普通である。実際には、このようにしてしまうと、レンズポジションのステッピングで“丘”を下ることとなったときに、レンズポジションの変化方向が直ちに反転して既存被写体に係る新たなピーク値のサーチが始まってしまう。そうした挙動は特に動画撮影時に問題になる。例えば、既存の被写体からある程度離れた場所に新たな被写体が登場しその被写体が視野内に入ってきたときでも、またその新たな被写体がコントラスト値上でより高い“丘”を呈していても、ヒルクライム法ではその被写体を検出することができない。この問題に対する措置方法の一つとして、その撮像用レンズ系で捉えうる限りの全距離範囲をオートフォーカスモジュールで眺めた後に焦点距離を決定する、というホールウェイ(全行程式)オートフォーカス法が知られている。
【0016】
例えば特許文献3(譲受人:本願出願人と同一)では、ホールウェイオートフォーカス法を実行するため、焦点距離可調域全域に亘りそのポジションを変化させうる可調焦点レンズ、そのレンズ越しに入射してくる光を信号に変換する変換素子、並びにそのレンズのポジションを動かすレンズ駆動機構を備える合焦装置を使用している。また、この合焦装置は、変換素子から得られる信号に基づき且つ可調焦点レンズが採りうる焦点距離毎に合焦状態評価値を算出する合焦状態評価値算出ユニットも備えている。その合焦状態評価値算出ユニットでは、まずその視野の中央部等、特定の合焦対象域に属する画素に係る信号のみを取り出し例えば9個のタイルに分割する。タイルとは、少数の行、少数の列を形成するよう合焦対象域の分割で複数個得られるブロックのことであり、合焦状態評価値の算出は個々のタイル毎に行われる。
【0017】
その合焦状態評価値算出に当たっては、まず、合焦状態評価値算出の焦点距離別繰返し実行回数が所定回数例えば10回を超えたか否かを判別する。超えたとの結果が得られるまでは、可調焦点レンズのポジションを所定のステップ幅単位で変化させつつ算出を繰り返す。即ち、可調焦点レンズのポジションを無限遠相当から至近距離まで常にある刻みで変化させステップ毎に各タイルの合焦状態評価値を算出する、という動作を繰り返す。この繰返し算出をタイル毎に実行することで、10通りのレンズポジションについて9個あるタイルそれぞれの合焦状態評価値を得ることができる。そのなかには、その距離域に現れるピークが全て含まれているはずである。次いで、レンズポジション毎に合焦状態評価値を総和して10通りの総和値を算出し、最大のピークを呈するポジションを以て最良合焦ポジションと推定する。そして、レンズ駆動機構にレンズ駆動信号を供給することで、レンズポジションをその最良合焦ポジションへと変化させる。
【0018】
また、その光学ズーム域が広く且つ小型なディジタルカメラを実現するため、複数個のイメージセンサ及びその焦点距離が異なる複数個のレンズをカメラ上に搭載する、という手法が、米国特許出願第11/062174号(名称:レンズ及びイメージセンサを複数個有する広ズーム域ディジタルカメラ(Digital Camera Using Multiple Lenses and Image Sensors to Provide an Improved Zoom Range)、発明者:Labaziewicz et al.、譲受人:本願と同一、出願日:2005年2月18日、この参照を以てその内容を本願に繰り入れる)にて提案されている。更に、例えばKodak(登録商標)Easyshare(登録商標)V610型のデュアルレンズディジタルカメラでは、38〜114mm(35mm判換算値)の焦点距離乃至画角及びf/3.9〜f/4.4のfナンバを有するレンズと、130〜380mm(35mm判換算値)の焦点距離乃至画角及びf/4.8のfナンバを有するレンズとを使用することで、10倍の光学ズーム域を提供している。しかしながら、上記出願に記載のカメラでもこの製品でも、いちどきには1個しかイメージセンサを使用しない。即ち、2個のイメージセンサでの同時撮像は行わない。
【0019】
特許文献7(発行日:2003年1月30日)にも、撮像用光学系及びそれに結合するCCD型イメージセンサを各複数個備え、撮像用光学系間に焦点距離の長短がある撮像装置が記載されている。例えば、固定焦点距離レンズとズームレンズを併用する構成や、その焦点距離に違いのある2個の固定焦点距離レンズを使用する構成等、その焦点距離が異なる2個のレンズを使用する構成である。いずれにせよ、この文献に記載されている種々の装置では、撮影条件取得ユニットが距離、光量等の撮影条件を調べ、その結果に基づき選定ユニットがいずれか1個の撮像用光学系の出力を自動で(即ちユーザからの入力に拠らず)選択する。この方式によるオートフォーカスの実行には別体の距離センサが必要になる。2個あるCCD型イメージセンサのどちらも、このオートフォーカス動作には関与していない。
【0020】
特許文献8(発行日:2003年8月23日)にも、互いに独立に稼働する2個の撮像系を備えたディジタルカメラが幾例か記載されている。そのうちのある例では、2個ある撮像系のうち1個に固定焦点距離レンズを組み込み通常モード用撮像系とする一方、もう1個の撮像系にズームレンズを組み込み望遠モード用撮像系としている。どちらの撮像系でも画像を得ることができ、ユーザは、どちらの撮像系を撮像に使用するかを切替スイッチ操作で選ぶことができる。更に、オートフォーカスもそれらの撮像系で実行されている。即ち、一方の撮像系についてコントラスト値比較ヒルクライムオートフォーカス法を適用し、その結果を他方の撮像系に援用する、という仕組みで行われている。例えば、ユーザから望遠モード用撮像系による撮像が指示されたら、まず、ステッピングモータを数ステップ飛ばしで駆動しつつ、その視界深さが深めな通常モード用撮像系を用い粗オートフォーカスサーチを実行する。この粗オートフォーカスサーチによって、最良合焦ポジションを取りこぼさずに合焦対象域を狭めることができる。次いで、通常モード用撮像系で取得した合焦対象域情報に基づき望遠モード用撮像系を駆動することにより、先の動作で狭まった合焦対象域の一端を、精密オートフォーカスサーチの始点に設定する。更に、その視界深さが浅めな望遠モード用撮像系を用い、且つ通常モード用撮像系によるサーチで既に狭められている合焦対象域に的を絞って、その精密オートフォーカスサーチを実行する。なお、ユーザから通常モード用撮像系による撮像が指示された場合は、通常モード用撮像系のみでオートフォーカスサーチを行う。望遠モード用撮像系はこの動作に与しない。
【0021】
また、特許文献8に記載されている別の例では、このように大まかなサーチと精細なサーチの併用に頼るのではなく、第1撮像系内可調焦点レンズのポジションを無限遠相当から至近距離へとステップ的に変化させることで、コントラスト値比較ヒルクライム法による第1のサーチを実行する一方、第2撮像系内可調焦点レンズのポジションを至近距離から無限遠相当へとステップ的に変化させることで、コントラスト値比較ヒルクライム法による第2のサーチを実行する。この動作はコントラスト値がピーク値になった時点で終了することができ、どちらの撮像系でもその全域に亘りレンズポジションを動かしきる必要がないので、多くの場合、最良合焦ポジションを割合に短時間で見つけることができる。また、この例では、個々の撮像系に撮像及び焦点調整の双方を行わせることが可能であるほか、一方の撮像系にだけ撮像及び焦点調整の双方を行わせ、他方の撮像系には当該一方の撮像系向けの焦点調整を支援させることも可能である。更に、撮像を行わせない方の撮像系でまず焦点ポジションを選定し、撮像を担う方の撮像系のポジションをそのポジションに変化させ、更に後者の撮像系で精細な調整を行う、といったことも可能である。
【先行技術文献】
【特許文献】
【0022】
【特許文献1】米国特許第4606630号明細書
【特許文献2】米国特許第6864474号明細書
【特許文献3】米国特許第6441855号明細書
【特許文献4】米国特許第5874994号明細書
【特許文献5】米国特許第5668597号明細書
【特許文献6】米国特許出願公開第2006/0187312号明細書
【特許文献7】米国特許出願公開第2003/0020814号明細書
【特許文献8】米国特許出願公開第2003/0160886号明細書
【特許文献9】米国特許出願公開第2006/0193509号明細書
【特許文献10】米国特許第6697573号明細書
【特許文献11】米国特許出願公開第2006/0001757号明細書
【特許文献12】米国特許出願公開第2006/0204034号明細書
【特許文献13】国際公開第WO02/08685号パンフレット
【発明の概要】
【発明が解決しようとする課題】
【0023】
このように、従来技術に係る諸オートフォーカスシステムは、オートフォーカス用センサを別途設けねばならずコストが嵩むという問題を抱えている。さもなければ、撮像用センサと同じセンサを用いオートフォーカスを実行するためシャッタ遅延が長くなりやすいという問題を抱えている。更に、その別体のオートフォーカス用センサとしてはレンジファインダが使用されることが多いが、前述の通り、デュアルレンズレンジファインダモジュール・可調焦点レンズポジション間の校正時の関係は、通常のディジタルカメラ稼働環境内でも安定に保たれるわけではない。また、スルーザレンズオートフォーカス法を実行する撮像システムでは、多数のオートフォーカス用画像を撮影して比較しなければならないため、最良合焦ポジションを見つけるのに結構時間がかかることがある。この問題は前掲の特許文献8に記載の手法で僅かに緩和されるが、その構成でも、被写体が切り替わったり移動したりしたときに焦点ポジションを迅速に決定するのはやはり難しく、また一方の撮像系から他方の撮像系へと撮像の役目を交代させるようユーザから指示を受けたときに撮像系間で合焦状態を迅速に交換するのも難しい。
【0024】
動画撮影時には次のような問題も生じる。即ち、動画を構成する複数個のフレームからオートフォーカス用画像となる静止画を採取してオートフォーカスを実行するので、光景変化のたびにその動画中の5〜20フレーム分又はそれ以上が離焦した動画となってしまう。例えば、カメラをパンさせながら動画を撮影すると、視野内に映る光景が絶え間なく変化するのでオートフォーカスシステムによるサーチに時間が食われ、その動画のうちのかなりの部分が離焦状態になってしまうことがある。動画撮影時には、更に、ヒルクライムオートフォーカスシステムを使用すると多くのフレームが離焦状態になるという問題も発生しうる。
【0025】
「レンズ及びイメージセンサを複数個有する高合焦能力カメラ」(Camera Using Multiple Lenses and Image Sensors to Provide Improved Focusing Capability)と題する米国特許出願(未付番、出願人側整理番号:93231、発明者:John Border et al.、出願人:本願と同一、出願日:本願と同日)では、上掲の諸問題に対処するため、一方の撮像部でオートフォーカス動作を実行しつつ他方の撮像部で静止画又は動画の撮影を行えるよう、同じ光景の画像を個別に撮影できる複数個の撮像部を備えたマルチレンズディジタルカメラを提案している。この手法であれば、静止画モード及び動画モードのいずれでも精密且つ迅速なオートフォーカスを実行することができる。それでいて、無闇に大型又は高価なディジタルカメラになるようなこともない。
【0026】
例えば、この米国特許出願に記載されている例では、カメラ上に互いに別体に設けられている2個の撮像部で一種のレンジファインダを形成し、そのうちの本撮影用撮像部を自オートフォーカスさせている。また、オートフォーカスに限らず、この手法によれば、光景内諸点までの距離を画像から識別してマッピングする等、諸画像を利用した様々な処理を実行することができる。そのため、複数個の撮像部を備えるディジタルカメラにおいて、それらの撮像部からの出力を併用し距離マップを作成する機能を実現することによって、測距能力が向上且つ拡張されたカメラを実現することが求められている。
【0027】
本発明の目的の一つは、撮影対象となる光景内の諸点までの距離を計測できる高性能なマルチレンズディジタルカメラを提供することにある。
【0028】
本発明の目的の一つは、撮影対象光景内諸点までの距離に基づき距離マップを生成する機能を提供することにある。
【0029】
本発明の目的の一つは、その距離マップを参照し光景内諸点のGPS(Global Positioning System)座標値を求める機能を提供することにある。
【課題を解決するための手段】
【0030】
上述した諸課題のうち1個又は複数個を解決するため、本発明の一実施形態に係る電子カメラは、撮像出力信号に基づき視野内光景についての出力画像を生成する手段として、概略、
第1センサ出力をもたらす第1イメージセンサ及びその第1イメージセンサ上に視野内光景の第1画像を発現させる第1レンズを有する第1撮像部と、
第2センサ出力をもたらす第2イメージセンサ及びその第2イメージセンサ上に視野内光景の第2画像を発現させる第2レンズを有する第2撮像部と、
第1及び第2センサ出力のうち一方を撮像出力信号として選定する一方、光景内諸点までの距離を指し示す距離マップを第1及び第2センサ出力双方に基づき生成する処理部と、
を備える。
【0031】
距離マップは、例えば、第1及び第2画像を互いに関連付けることにより光景内諸点について画素オフセットを導出し、それらの画素オフセットを本カメラからの距離に換算し、そして光景内諸点までの距離を指し示す距離マップを生成する、という処理を、その処理部で実行することで生成することができる。更に、第1,第2レンズ間でその焦点距離に違いがある場合、その焦点距離が短い方のレンズからもたらされる画像を処理部でクロッピング及びアップサンプリングすることで、同じ事物が第1及び第2画像のいずれでもほぼ同じ画素数を占めるようにすることができる。加えて、処理部では、光景内諸点についての画素オフセットを本カメラからの距離へと換算する処理を、レンジファインダ校正曲線に従い実行することができる。
【0032】
本発明の他の実施形態に係る電子カメラは、更に、本カメラの位置を示すGPS座標値を出力するGPSユニットと、本カメラの指向方向を求める電子コンパスと、を備える。処理部では、本カメラのGPS座標値及び指向方向、並びに距離マップから得られる距離オフセットに基づき、光景内諸点のGPS座標値を導出することができる。更に、撮影した画像をその距離マップに基づき修正することもできる。
【発明の効果】
【0033】
このように、本発明によれば、例えばセンサ、レンズ及びレンズ焦点調整器を有する撮像部を複数個備えるマルチレンズディジタルカメラにて、一種のレンジファインダを形成するようそれらの撮像部で同じ光景中の諸部位を個別に撮影させ、それらの撮像部で撮影された画像を互いに比較することで、光景内諸点までの距離を計測してオートフォーカス制御や距離マップ生成を行うことができる。加えて、その距離マップを参照し光景内諸点をGPS測位することができる。
【0034】
そのため、本発明が適用されたディジタルカメラでは、好適にも、顕著な大型化及び高価格化を伴うことなく、静止画モード及び動画モードのいずれでも精密且つ迅速なオートフォーカスを実行することができる。更に、それらの撮像部で形成されるレンジファインダを使用し距離マップを生成することができ、その距離マップを参照し光景内諸点のGPS座標値を求めることができる。GPS座標値が判れば、その光景に映っている被写体の素性を識別して目録化することができる。
【図面の簡単な説明】
【0035】
【図1】本発明の一実施形態に係りズームレンズ及びイメージセンサを二組備えるディジタルカメラを示すブロック図である。
【図2A】図1に示したカメラの斜視外観を示す図である。
【図2B】その背面を示す図である。
【図3】図1に示したカメラで実行されるオートフォーカス及びディジタル静止画像撮影手順の例を示すフローチャートである。
【図4】2個の撮像部を用いたレンジファインダオートフォーカス手順の例を示すフローチャートである。
【図5】2個の撮像部を用いたヒルクライムオートフォーカス手順の例を示すフローチャートである。
【図6】オートフォーカス用レンジファインダ校正曲線生成手順の例を示すフローチャートである。
【図7】オートフォーカス用ヒルクライム法校正曲線生成手順の例を示すフローチャートである。
【図8】図1に示したカメラで実行されるオートフォーカス及びディジタル動画像撮影手順の例を示すフローチャートである。
【図9】2個の撮像部を用いたレンジファインダオートフォーカス手順の例を示すフローチャートである。
【図10】2個の撮像部を用いたヒルクライムオートフォーカス手順の例を示すフローチャートである。
【図11】2個ある撮像部を使用し距離マップを生成する手順の例を示すフローチャートである。
【図12】本発明の他の実施形態に係り固定焦点距離レンズ、(ズーム)レンズ及び2個のイメージセンサを有するディジタルカメラを示すブロック図である。
【図13】本発明の更に他の実施形態に係り固定焦点距離レンズ、2個の(ズーム)レンズ及び3個のイメージセンサを有するディジタルカメラを示すブロック図である。
【図14】2個の撮像部から得られる画像を併用した画像視界深さ拡張手順の例を示すフローチャートである。
【図15A】本発明の更なる実施形態に係り2個の撮像部を備えるディジタルカメラ付携帯電話の外観を示す斜視図である。
【図15B】同じく別方向からの外観を示す斜視図である。
【図16A】その携帯電話に搭載される2個の撮像部とそれらの撮像部が搭載される単一の基板を上から見た断面図である。
【図16B】同じくその側面図である。
【図17A】光景内諸点までの距離を調べるため双方の撮像部で画像を撮影する実施形態にて、一方の撮像部で得られる画像の外観例を示す図である。
【図17B】他方の撮像部で得られ図17Aに示した画像に対しオフセットを呈している画像の外観例を示す図である。
【図18】本発明の一実施形態における撮影対象光景内諸点GPS測位手順の例を示すフローチャートである。
【図19】デュアルレンズカメラシステムに備わる2個の撮像部のうち一方を一次画像用に選定し他方を非一次画像用(例えばシーン解析対象画像用)として選定する手順の例を示すフローチャートである。
【図20】非一次画像用撮像部でシーン解析を実行する手順の例を示すフローチャートである。
【図21】シーン状態変化がしきい値を上回ったときに非一次画像用撮像部でシーン解析を実行する手順の例を示すフローチャートである。
【図22】一次画像用撮像部及び非一次画像用撮像部双方でシーン解析を実行する手順の例を示すフローチャートである。
【図23】それまで一次画像用であった撮像部がシーン解析対象画像用になりシーン解析対象画像用であった撮像部が一次画像用になるよう撮像部の用途乃至役割を入れ替える手順の例を示すフローチャートである。
【図24】特に撮影中に、一次画像用撮像部で撮影されるプリビュー用画像に基づき一次画像用撮像部向け撮影パラメタを設定する手順の例を示すフローチャートである。
【図25】特に撮影中に、一次画像用撮像部で撮影されるプリビュー用画像及び非一次画像用撮像部で撮影されるシーン解析対象画像に基づき一次画像用撮像部向け撮影パラメタを設定する手順の例を示すフローチャートである。
【図26】一次画像用撮像部で撮影される一次画像及び非一次画像用撮像部で撮影される補強用画像を用いた拡張画像生成手順の例を示すフローチャートである。
【図27】従来技術に係るデュアルレンズレンジファインダの動作を示す図である。
【図28】従来技術に係るコントラスト値比較ヒルクライムオートフォーカス法のアルゴリズムを示すフローチャートである。
【図29】画像組成成分分離用フィルタから得られる合焦状態評価値とコントラスト値比較ヒルクライムオートフォーカス法実行時レンズポジションとの関係を示す図である。
【発明を実施するための形態】
【0036】
以下、本発明の実施形態、目的、構成及び効果を上記以外のものも含めより明晰にご理解及びご評価頂くため、別紙特許請求の範囲に基づき且つ別紙図面を参照し、本発明の好適な実施形態に関し詳細に説明する。なお、撮像装置及びそれに関連する信号処理回路からなるディジタルカメラについては既に周知となっているので、以下の説明では、専ら本発明に係る装置の一部を構成し又はそれと密接に連携する部材をとりあげる。本願中に具体的な図示及び説明のない部材については、本件技術分野で既知な部材から適当なものを選んで使用すればよい。また、これから説明する部材のうち幾つかはソフトウェアで実現することができる。更に、本願中に図示や説明や示唆はなくても、本発明を実施する際に活用できる部材やソフトウェアもある。どういったものを活用できるかについては、本発明に係るシステムについての図示及び下記説明を参照することで理解でき、また本件技術分野における常識に従い判断することができる。
【0037】
これから説明する諸実施形態では、ディジタルスチルカメラ、ディジタルビデオカメラ、ディジタルスキャナ等の撮像アセンブリに、それぞれレンズ及びイメージセンサを有する撮像部を複数個設け、更にそれら撮像部間でレンズの焦点距離を違えることで、その光学ズーム域が広い撮像アセンブリを実現している。本発明によれば、複数個の撮像部を活用して測距能力を高めることができる。撮像だけでなくオートフォーカスにも撮像部を活用できるのでオートフォーカス専用のモジュールは不要で、安価且つ小型な撮像モジュールで足りる。それでいて、撮像で得られる静止画や動画は従来より鮮明に、オートフォーカスシステムの応答は従来より高速になる。加えて、オートフォーカスに使用した画像と同じ画像を、本発明に係る手順による距離マップ生成にも使用することができる。
【0038】
それらの実施形態のうち幾つかでは、撮像部のうち1個で静止画や動画のディジタル撮影を行いながら、他の1個で高度なオートフォーカス、二次画像生成、距離マップ生成等といった他種動作を実行する。例えば、ユーザが設定したズームポジションが第1光学ズーム域に属しているとき、第1光学ズーム域をカバーしている第1(ズーム)レンズ付第1撮像部で静止画又は動画を本撮影する一方、その第1撮像部向けのオートフォーカス用画像を第2撮像部で撮影する。本撮影の役目を負わない第2撮像部は広範囲に亘りその合焦条件を変化させることができる。例えば、ヒルクライムオートフォーカス法に従いコントラスト値がピークになる焦点距離付近でレンズの焦点距離を変化させることや、ホールウェイオートフォーカス法に従い至近距離から無限遠相当までレンズの焦点距離を変化させることができる。これによって、第1撮像部内第1レンズが最良合焦する設定を、第1撮像部で撮影される画像の合焦品質に悪影響を及ぼすことなく逐次検出することができる。最良合焦条件に変化が生じたことが第2撮像部で察知されたら、第1撮像部の合焦条件をそれまでの最良合焦条件から新たな最良合焦条件へと変化させる。
【0039】
ユーザがこの撮像アセンブリに対するズームポジションの設定を調整し第2光学ズーム域内のポジションに変化させたときには、カメラ内で自動的に、第2(ズーム)レンズ付第2撮像部を本撮影用に切り替え、またその第2撮像部向けのオートフォーカス用画像を第1撮像部で撮影する動作を開始させる。両者のレンズはその焦点距離ひいては倍率が違うので、その違いに応じオートフォーカス判別用ディジタルフィルタに調整を施すことで、それらレンズ間の倍率差を補償する。
【0040】
この構成の変形例としては、撮像部2個の連携で、デュアルレンズレンジファインダに似ているが更に高分解能なレンジファインダを形成する構成がある。高解像度の撮像部を2個使用し、互いに別の撮像部に属するレンズ同士の間隔を大きめにとることで、そうした高分解能を実現することができる。この構成では、コントラスト値比較ヒルクライム法による精密なオートフォーカス動作をどちらかの撮像部により行った上で、両撮像部を差分モードの高分解能レンジファインダとして稼働させることで、静止画若しくは動画のディジタル撮影を開始する前又は動画のディジタル撮影を実行している最中に、視野内被写体までの距離に生じた変化のうち再合焦を要する変化を検出することができる。こうしてレンジファインダを差分モードで稼働させることで、先に合焦させたポジションから最近の変化後のポジションへの距離変化を吸収し、レンジファインダの測距精度に対する環境変動の影響を打ち消すことができる。
【0041】
また、コントラスト値比較ヒルクライム法によるオートフォーカス動作を複数個の撮像部で同時に実行した後、それらの撮像部のうち1個例えば第1撮像部で静止画又は動画のディジタル撮影を行いつつ、別の1個例えば第2撮像部で画像内コントラスト計測により継続的に合焦状態チェックを行う、という構成にすることもできる。この構成では、コントラスト計測値に変化が生じたとき第2撮像部でコントラスト値比較ヒルクライム法に従いオートフォーカス動作を再実行し、このオートフォーカス動作で判明する合焦状態変化に比例するよう第1撮像部焦点を変化させる。即ち、この構成でも、差分モードによる合焦状態変化検出をヒルクライムオートフォーカス動作で得られる被写体距離に基づき実行し、そのオートフォーカス動作の精度を高めることができる。
【0042】
また、従来技術の欄で述べた通り、動画を撮影する際には、動画を構成する複数個のフレーム乃至静止画からオートフォーカス用画像を採取してオートフォーカスを実行するため、また特別な問題が発生する。例えば、カメラをパンさせながら動画を撮影すると視野内光景が絶え間なく変化するので、オートフォーカスシステムによるサーチに時間がかかり、その動画のうちのかなりの部分が離焦状態になってしまう。更に、ヒルクライムオートフォーカスシステムを使用すると多くのフレームが離焦状態になる。これは、前述の通り、ある種の状況下での合焦条件変化、例えば光景内で注目被写体が急峻に横移動したこと等を、ヒルクライム法ではうまく認識できないためである。
【0043】
この問題に対しては、前述した構成を変形して得られる次の構成で対処することができる。この構成では、第1ズームレンズ及び第1イメージセンサを有し第1光学ズーム域を担当する第1撮像部と、第2ズームレンズ及び第2イメージセンサを有し第2光学ズーム域を担当する第2撮像部と、を使用する。更に、ユーザが設定したズームポジションが第1光学ズーム域に属しているときに、第1撮像部の焦点距離を初期値に設定して画像例えば動画の本撮影を行わせるのと同時に、第2撮像部をホールウェイオートフォーカス法に従い稼働させて継続的に画像を取得し、第2撮像部で取得した画像に基づき被写体移動に関する判別を行い必要なら第1ズームレンズの焦点距離を調整する。第2ズームレンズ及び第2イメージセンサは画像撮影を担当していないので、その焦点距離を至近距離から無限遠相当まで変化させることで、最良合焦となる焦点設定を、本撮影で得られる動画に影響を及ぼすことなく求めることができる。また、ユーザがズームポジションを調整し第1光学ズーム域外にしたとき、カメラ内で自動的に、第2撮像部の動作を第2ズームレンズ及び第2イメージセンサを用いた動画撮影に切り替え、また第1撮像部が第1レンズ及び第1イメージセンサで画像を撮影して被写体移動に関する判別を行い必要なら第2ズームレンズの焦点を調整する、という動作を開始する。
【0044】
更に、撮像部を2個連携させて高分解能レンジファインダを形成し、そのレンジファインダで光景内諸点までの距離を調べ、その結果から距離マップを生成することもできる。生成した距離マップは、撮像出力信号乃至出力画像の修正(拡張)に利用することができる。例えば、画像処理性能向上による画質の向上、画像内被写体の識別、画像からの被写体抽出、複数画像に亘る被写体モーションの追跡、所望視界深さ外部分のぼかしによる画像視界深さ変更、画像のダイナミックレンジの拡大、フラッシュ使用由来の露出問題の抑制、画像内シーンバランスの改善等を距離マップで実現することができる。
【0045】
こうして2個の撮像部からの画像に基づき生成された距離マップは、光景内諸点までの距離を識別するのに使用することができる。例えば、そのカメラの位置を示すGPS座標値を出力するGPSユニット、並びにそのカメラの指向方向を検出する電子コンパスを備えるカメラ上で、そのカメラのGPS座標値及び指向方向に加え、距離マップから得られる距離オフセットを利用することで、光景内諸点のGPS座標値を導出することができる。
【0046】
そして、第1ズームレンズ及び第1イメージセンサを備える第1撮像部をある焦点距離(一次焦点距離)にセットして静止画たる一次画像を撮影する動作と、第2ズームレンズ及び第2イメージセンサを備える第2撮像部を別の焦点距離(二次焦点距離)にセットして静止画たる二次画像を撮影する動作とを同時に実行し、第1撮像部から得られる一次画像出力を第2撮像部から得られる二次画像出力に基づき修正して拡張版の一次画像を生成する、といった構成にすることもできる。こうして二次画像を利用することにより、例えば、一次画像のうち二次焦点距離近傍部分を鮮明化した画像、一次画像のダイナミックレンジを修正した画像等、様々な拡張画像を生成することができる。
【0047】
図1に、本発明の一実施形態に係る撮像アセンブリ10Aのブロック構成を示す。このアセンブリ10Aは、撮影時や画像表示時にユーザが容易に取り扱えるよう十分小さく構成されていてバッテリで稼働する携帯型の装置、具体的にはディジタルカメラであり、静止画及び動画を撮影する機能やその画像をリムーバブルメモリカード54上に保存する機能を備えている。但し、静止画だけ或いは動画だけしか撮影・保存できないディジタルカメラで、或いはディジタルカメラ以外の装置で本発明を実施することもできる。
【0048】
この撮像アセンブリ10Aは、まず2個のズームレンズ付撮像部1,2を備えている。これらの撮像部1,2のうち画像の本撮影に使用されるもの、即ちその出力が画像としてリムーバブルメモリカード54上に保存されうるものは、大抵の場合はいちどきに1個だけである。第1撮像部1内の第1ズームレンズ3は視野内光景を捉え第1イメージセンサ12上に像を発現させるためのレンズであり、第1レンズ焦点調整器例えばズーム/フォーカスモータ5aによる制御を受けている。第2撮像部2内の第2ズームレンズ4は視野内光景を捉え第2イメージセンサ14上に像を発現させるためのレンズであり、第2レンズ焦点調整器例えばズーム/フォーカスモータ5bによる制御を受けている。図示しないが、どちらのレンズ3,4にも可調絞り/シャッタアセンブリが設けられており、そのアセンブリでセンサ12,14の露出レベルを制御することができる。
【0049】
図2A及び図2Bにこの撮像アセンブリ10Aの斜視外観を示す。図2Aはこのカメラ10Aを斜め前から見た図であり、ズームレンズ3,4及びフラッシュ48が手前に見えている。図2Bはこのカメラ10Aを斜め後ろから見た図であり、カラー液晶型画像表示部70に加えて複数個のユーザ操作子42が手前に見えている。操作子42のうちシャッタボタン42aを操作すると画像撮影手順が実行され、ズームボタン42cを操作することでズーム設定を選択することができ、またマルチポジションセレクタ42dを操作することで画像による操作ガイドやメニュー型の選択肢を表示部70の画面上に表示させることができる。
【0050】
撮像部1,2は図1に示した通りズームレンズ3,4及び対応するイメージセンサ12,14から構成されており、そのレンズ3,4の位置は図2Aに示した通り互いに上下方向にずらされている。但し、この構成は一例であり、レンズ3,4の位置を他方向例えば横方向に沿ってずらすことも、レンズ3,4のうち一方又は双方を固定焦点距離レンズに置き換えることもできる。いずれにせよ、レンズ3及びセンサ12の光軸とレンズ4及びセンサ14の光軸とが概ね揃っていれば、撮像部1,2間にしばしば視野相違が生じるものの、その点を除けばほぼ同一光景の像をセンサ12,14上に発現させることができる。なお、光学部品の構成については、前掲の米国特許出願第11/062174号(譲受人:本願出願人と同一、この参照を以てその内容を本願に繰り入れる)中にも、複数個の撮像部を用いる構成が何例か示されている。更に、撮像部1,2内のレンズ3,4を通る光路に屈曲をつけ、撮像部1,2全体の寸法乃至形状を変化させることも可能である。但し、これは本発明の実施に当たり必須のことではない。
【0051】
イメージセンサ12,14は、周知のベイヤカラーフィルタパターンを配した単一チップカラーメガピクセルCCDセンサである。但し、CMOSセンサ等の他種センサでも、またストライプフィルタ等の他種カラーフィルタアレイでも、本発明を実施する上で支障はない。また、センサ12,14としては様々なアスペクト比のセンサを使用することができる。例えば、撮像領域のアスペクト比が4:3のものを使用するとよい。更に、センサ12,14としては様々な解像度のセンサを使用することができる。例えば、アクティブ画素カラム2848本×アクティブ画素ロー2144本、総実効画素数6.1メガピクセルのものを使用するとよい(1メガピクセル=百万画素)。しかも、センサ12,14を互いに同一の仕様にする必要もない。例えば前掲の米国特許出願第11/062174号(譲受人:本願出願人と同一)に例示されている構成に倣い、センサ12,14間でサイズ、解像度、色フィルタアレイ、スペクトル感度、アスペクト比等を違えてもよい。
【0052】
これらのイメージセンサ12,14は、制御プロセッサ/タイミング発生器40から対応するクロックドライバ13,15への信号供給によって制御されている。制御プロセッサ/タイミング発生器40は、このほか、ズーム/フォーカスモータ5a,5b、自動露出検出器46、ユーザ操作子42、ディジタルマルチプレクサ型制御素子(ディジタルMUX)34,36、並びにフラッシュ48の発光による光景照明動作も制御する。操作子42は、先に図2Bを参照して説明した通り、このディジタルカメラ10Aの動作を操作する際に使用される。
【0053】
第1イメージセンサ12からの出力12eは、第1アナログ信号プロセッサ(ASP)22によって増幅及びアナログ/ディジタル(A/D)変換される。それにより得られたディジタルの第1センサ出力12eは、ディジタルMUX34,36双方の第1入力端に供給される。同様に、第2イメージセンサ14からの出力14eは、第2ASP24によって増幅及びA/D変換される。それにより得られたディジタルの第2センサ出力14eは、ディジタルMUX34,36双方の第2入力端に供給される。第1ディジタルMUX34は、センサ12,14の出力12e,14eのうちいずれかを撮像出力信号として選定するための部材である。第2ディジタルMUX36は、センサ12,14の出力12e,14eのうちいずれかをオートフォーカス用画像信号として選定し、イメージプロセッサ50に供給するための部材である。
【0054】
制御プロセッサ/タイミング発生器40は、それらディジタルMUX34,36を制御することによって、ディジタルのセンサ出力12e,14eのうち一方を撮像出力信号、他方をオートフォーカス用画像信号に選定する。MUX34で選定された方のセンサ出力は、一時的にDRAM型バッファメモリ38上に保存された後イメージプロセッサ50によって処理される。この処理によって、静止画又は動画を表すディジタルデータを含むディジタル画像ファイルが生成される。また、MUX36で選定された方のセンサ出力は、そのプロセッサ50にて、後に図4〜図7を参照して後述するオートフォーカス計算に使用される。
【0055】
そのイメージプロセッサ50は、あらまし、相応の焦点検出信号を発生させて第1及び第2レンズ焦点調整器即ちズーム/フォーカスモータ5a,5bを駆動する。即ち、このプロセッサ50は、制御プロセッサ/タイミング発生器40と協働し、(a)第1撮像部1からのセンサ出力12eを撮像出力信号として選定する一方第2撮像部2からのセンサ出力14eに基づき撮像部1向けの第1焦点検出信号を生成する動作か、或いは(b)撮像部2からのセンサ出力14eを撮像出力信号として選定する一方撮像部1からのセンサ出力12eに基づき撮像部2向けの第2焦点検出信号を生成する動作か、そのいずれかを実行する。更に、モータ5a,5bのうち撮像出力信号取得用に選定された方の撮像部に係るモータをその焦点検出信号に基づき駆動することによって、その撮像部の焦点を調整し撮像出力信号となるセンサ出力を発生させる。
【0056】
イメージプロセッサ50は、フラッシュ型EPROM等のファームウェアメモリ58上に存するファームウェアの管理下で、またRAM型メモリ56を中間処理結果保存用のメモリとして使用しつつ、DRAM型バッファメモリ38上に存するディジタルの撮像出力信号を処理し、その処理で生成した出力画像に係るディジタルファイルをメモリカードインタフェース52経由でリムーバブルメモリカード54上に保存する。このメモリカード54としては、その物理的形態が異なる様々なリムーバブルディジタル画像記憶媒体を使用することができる。例えば、CompactFlash(登録商標)、SmartMedia(登録商標)、MemoryStick(登録商標)、MultimediaCard(登録商標)、SD(登録商標)、xD(登録商標)等の周知メモリカードフォーマットによるものをはじめとして、様々なメモリカードを使用することができる。更に他のリムーバブルディジタル画像記録媒体、例えば磁気ハードディスク、磁気テープ、光ディスク等に、静止画や動画を保存してもよい。そして、そのディジタルカメラ10Aに図示しない内蔵型不揮発性メモリ例えばフラッシュ型EPROMを搭載しておき、生成したディジタル画像ファイルをそのメモリ上に保存するようにしてもよい。この構成では、メモリカード54やそれ向けのインタフェース52は不要になる。
【0057】
イメージプロセッサ50は、更に、GPSユニット57から供給される信号に基づき任意時点におけるカメラ10AのGPS測位結果、例えば撮影時点でのGPS座標値を識別する。プロセッサ50は、また、電子コンパス59から供給される信号に基づき任意時点、例えば画像撮影時におけるそのカメラ10Aの指向方向を識別する。プロセッサ50は、更に様々な画像処理機能を担っている。その一つは、色補間及びそれに続く色/階調補正によってsRGBフォーマットの画像データを生成するレンダリング機能である。生成されたsRGBフォーマットの画像データは、JPEG圧縮後にJPEG画像ファイルとしリムーバブルメモリカード54上に保存することや、ホストインタフェース62に供給しSCSI接続、USB(商標)接続、Firewire(登録商標)接続等相応の接続手段64を経由してホストPC66へと伝送することができる。JPEG圧縮する場合は、日本国東京都所在の社団法人電子情報技術産業協会が制定した「デジタルスチルカメラ用画像ファイルフォーマット規格(Exif) Ver 2.2」に則った画像フォーマットにするのが望ましい。このフォーマットはExif(登録商標)フォーマットと呼ばれており、その画像に関するメタデータをセット可能なExifアプリケーションセグメントを含んでいる。このセグメントを利用することで、その画像の撮影日時や、レンズのfナンバ、GPS測位結果、撮影時カメラ指向方向等のカメラ設定情報を、メタデータとして保存することができる。
【0058】
なお、イメージプロセッサ50としてはプログラマブルなプロセッサを使用するのが望ましいが他の構成にすることもできる。例えば、ハードワイヤドカスタム集積回路プロセッサ、汎用マイクロプロセッサ、或いはハードワイヤドカスタム集積回路プロセッサとプログラマブルプロセッサの組合せにしてもよい。更に、図1中で別ブロックとして示した部材のうち何個か、例えばディジタルMUX34,36やメモリ38,58をプロセッサ50と共に単一の集積回路に組み込んでもよい。また、その使途に応じ、制御プロセッサ/タイミング発生器40の(一部)機能とイメージプロセッサ50の(一部)機能とを一体化することもできる。以下の説明や別紙特許請求の範囲の一部、例えばプロセッサ40によるセンサ出力選定やプロセッサ50による合焦検出信号生成に言及している部分では、その記述の目的に鑑み、両者の機能を「処理部」に帰属させている。言い換えれば、この「処理部」なる表現は、その「処理部」の機能として記載されている諸機能が実際には1個又は複数個の処理部材、回路等々によって担われうることを意味する包括的な表現である。
【0059】
また、カメラ付携帯電話に本実施形態のディジタルカメラ10Aを搭載することもできる。そうした構成では、セルラプロセッサ90経由でイメージプロセッサ50をセルラモデム92に接続し、アンテナ94を用い無線周波数での通信を行うことによって、図示しないセルラ網へディジタル画像を送信することができる。また、撮像部1,2とズーム/フォーカスモータ5a,5bを一体のアセンブリにした形態や、クロックドライバ13,15、ASP22,24及びその一部たるA/Dコンバータを一体のアセンブリにした形態でも、本発明を実施することができる。
【0060】
図3に、図1に示した撮像アセンブリ10Aで画像をディジタル撮影する手順の流れを示す。この手順では、図示しない電源スイッチの操作でこのディジタルカメラ10Aに電源が投入されたらズームレンズ3,4のポジションをデフォルトポジションに設定する(ステップ100)。このデフォルトポジションは画角が広くなるよう定めておくのが望ましい。そのようにすれば、例えば第1イメージセンサ12で撮影したプリビュー用画像をカラー液晶型画像表示部70の画面上に表示させ、それに基づきユーザに撮影用の構図を決定させることができる。その構図決定の一環として、ユーザは、ズームボタン42cを押下しカメラ10Aの視野を所望の視野にすることができる(ステップ101)。
【0061】
ズームポジションが設定されたら、そのポジションをある値Xと比較する(ステップ102)。この値Xは、撮像部1,2のどちらを本撮影に使用するかの境目になる。まず、この比較でX未満とされた場合(ステップ102:“NO”)、第1撮像部1に本撮影、第2撮像部2にオートフォーカス用画像撮影の役目を負わせる(ステップ104)。本撮影用撮像部1はプリビュー用画像の撮影を継続的に行い、表示部70はその画面上にその画像を表示する(ステップ110)。他方、撮像部2は撮像部1のオートフォーカス用にオートフォーカス用画像を撮影し(ステップ106)、イメージプロセッサ50はその画像を処理して撮像部1を合焦させる(ステップ108)。
【0062】
この状態で、ズームボタン42c未押下のまま(ステップ112)シャッタボタン42aが押下された場合(ステップ114)、第1撮像部1がディジタル画像を本撮影する(ステップ116)。これに対し、ズームボタン42cが押下された場合は(ステップ112)ステップ102に戻り、シャッタボタン42aが押下されなかった場合は(ステップ114)ステップ106に戻る。
【0063】
逆に、設定されたズームポジションがX超であるとされた場合(ステップ102:“YES”)、第2撮像部2に本撮影、第1撮像部1にオートフォーカス用画像撮影の役目を負わせる(ステップ124)。本撮影用撮像部2はプリビュー用画像の撮影を継続的に行い、表示部70はその画像を表示する(ステップ130)。他方、撮像部1は撮像部2のオートフォーカス用にオートフォーカス用画像を撮影し(ステップ126)、イメージプロセッサ50はその画像を処理して焦点検知信号を発生させそれに基づき撮像部2を合焦させる(ステップ128)。
【0064】
この状態で、ズームボタン42c未押下のまま(ステップ132)シャッタボタン42aが押下された場合(ステップ134)、第2撮像部2がディジタル画像を本撮影する(ステップ136)。これに対し、ズームボタン42cが押下された場合は(ステップ132)ステップ102に戻り、シャッタボタン42aが押下されなかった場合は(ステップ134)ステップ126に戻る。
【0065】
図4に、2個の撮像部1,2を一種のレンジファインダとして用いるオートフォーカス手順の流れを示す。この手順は、図3中のステップ108,128にて撮像部1,2をオートフォーカスさせる手順として使用することができる。この手順では、ユーザがカメラ10A上のズームボタン42cを操作しズームポジションを設定すると(ステップ250)、撮像部1,2のどちらを本撮影用としどちらをオートフォーカス用画像専用とするかを前述の如く決定する(ステップ252)。次いで、非本撮影用撮像部を、撮像部1内ズームレンズ3でカバーする光学ズーム域と、撮像部2内ズームレンズ4でカバーする光学ズーム域と、の境目に最も近いポジションまでズーミングする(ステップ254)。更に、可調焦点レンズたる撮像部1,2内レンズ3,4のポジションをその過焦点ポジションまで変化させることで焦点可調域を最大限に拡げる(ステップ256)。この後、ユーザがシャッタボタン42aをニュートラル位置S0から半押し位置S1まで押下したら、オートフォーカス動作及びそれに続く自動露出動作を開始する(ステップ258)。なお、シャッタボタン42aが採りうる位置は三通りある。ユーザがボタン42aに触れていないときのニュートラル位置S0、カメラ10Aにオートフォーカス動作及び自動露出動作の実行を指令するための半押し位置S1、カメラ10Aに対し最終的な自動露出及び画像の本撮影を指令するための全押し位置S2である。
【0066】
そのオートフォーカス動作では、まず、そのズームレンズ3,4のズームポジションをそのままにして各撮像部1,2でオートフォーカス用画像を撮影する(ステップ260)。次いで、低ズームな方の撮像部、即ちそのズームポジションがX未満の撮像部で撮影したオートフォーカス用画像を(図3:ステップ102)、同じ事物がどちらのオートフォーカス用画像上でも同じ画素数を占めることとなるようクロッピング及びアップサンプリングする(ステップ262)。更に、クロッピング及びアップサンプリングを経たオートフォーカス用画像を他方のオートフォーカス用画像と関連付けることで両画像間の画素間オフセット即ちずれを求め(ステップ264)、その結果に基づき焦点検出信号を生成する。ここに、高ズームな方の撮像部で捉えたオートフォーカス用画像は例えば図17Aに示すような外観350となり、低ズームな方の撮像部で捉えたオートフォーカス用画像をクリッピング及びアップサンプリングしたものは例えば図17Bに示すような外観352になるので、それらの画像間で画素オフセットひいては光景内諸点までの距離を求めることができる。次いで、校正曲線をその焦点検出信号に適用することで、本撮影用撮像部を最良合焦させるのに必要な可調焦点レンズ調整量を表す信号にし(ステップ266)、その信号を対応するズーム/フォーカスモータに供給してその撮像部内の可調焦点レンズのポジションを変化させることで(ステップ268)、そのレンズのポジションを最良合焦状態で本撮影を行えるポジションに設定する。この状態でユーザがシャッタボタン42aを位置S1から位置S2まで押下すると、その撮像部が画像を本撮影する。
【0067】
図5に、2個の撮像部1,2を用い周知のコントラスト値比較ヒルクライム法によるオートフォーカスを実行する手順の流れを示す。この手順は図3中のステップ108,128にて撮像部1,2をオートフォーカスさせる手順として使用することができる。この手順では、ユーザがズームポジションを設定したら(ステップ250)そのズームポジションに基づき本撮影用撮像部を選定する(ステップ252)。次いで、非本撮影用撮像部を、ステップ250でユーザが指定したズームポジションに最寄りの点までズーミングする(ステップ254)。更に、ユーザがシャッタボタン42aを位置S0から位置S1まで押下したらオートフォーカス動作を開始し(ステップ258)、撮像部1,2双方のオートフォーカスをヒルクライム法に従い実行する(ステップ272)。その後、ユーザがボタン42aをS1からS2まで押下したら(ステップ274)、本撮影用撮像部による継続的な動画撮影を開始する(ステップ276)。
【0068】
更に、焦点距離サーチ幅を最小限に抑えるため、非本撮影用撮像部でコントラスト値比較ヒルクライム法に従い合焦状態をチェックし(ステップ278)、その合焦状態を判別する(ステップ280)、という動作を継続的に実行する。良好な場合はステップ276に戻り、本撮影用撮像部による動画撮影を続ける。良好でない場合は、非本撮影用撮像部を最良合焦させるのに必要な可調焦点レンズ調整量を導出する(ステップ282)。更に、その可調焦点レンズ調整量と、オートフォーカス用ヒルクライム法校正曲線とに基づき、本撮影用撮像部を最良合焦させるのに必要な可調焦点レンズ調整量を導出し(ステップ284)、それに基づき焦点変化検出信号を生成する。そして、その焦点変化検出信号をズーム/フォーカスモータ5a,5bのうち本撮影用撮像部に対応する方のモータに供給することにより、新たな最良合焦ポジションまでその撮像部の可調焦点レンズのポジションを変化させる(ステップ286)。この再調整の後はステップ276に戻り本撮影用撮像部による動画撮影を続ける。
【0069】
また、焦点距離サーチ幅を最小限に抑えるためであれば、ステップ278におけるチェック、即ち非本撮影用撮像部による合焦状態チェックをホールウェイオートフォーカス法に従い繰り返すようにしてもよい。この場合、ステップ284では、導出した可調焦点レンズ調整量と、ホールウェイオートフォーカス法用校正曲線とに基づき、本撮影用撮像部を最良合焦させるのに必要な可調焦点レンズ調整量を導出し、それに基づき焦点変化検出信号を生成する。また、ステップ286では、その焦点変化検出信号をズーム/フォーカスモータ5a,5bのうち本撮影用撮像部に対応する方のモータに供給することにより、新たな最良合焦ポジションまでその撮像部の可調焦点レンズのポジションを変化させる。この再調整の後はステップ276に戻り本撮影用撮像部による動画撮影を続ける。
【0070】
これら、図4及び図5に示した手順では、本撮影用撮像部の最良合焦に要する可調焦点レンズ調整量を求めるのに校正曲線が必要である。図6及び図7に校正曲線算出手順の例を示す。そのうち図6には、図4中のステップ266で使用されるオートフォーカス用レンジファインダ校正曲線の算出手順を示してある。この手順では、まず、その焦点距離が短い第1撮像部とその焦点距離が長い第2撮像部を用い、可調焦点レンズのポジションを様々に変えつつ既知距離被写体の画像を何組か撮影する(ステップ300)。次いで、図17A及び図17Bに示す通り、同じ事物がどちらのオートフォーカス用画像上でも同じ画素数を占めることとなるよう、短焦点距離の第1撮像部で撮影した方のオートフォーカス用画像をクロッピング及びアップサンプリングする(ステップ302)。更に、第2撮像部で撮影した方の画像を、第1撮像部由来のクロッピング及びアップサンプリング済画像上の対応部分と関連付けることにより、各組画像における画像間画素オフセットを導出する(ステップ304)。そして、この各組内画像間画素オフセットを被写体までの既知距離に対応付けたデータを保存し(ステップ306)、図4中のステップ266でオートフォーカス用レンジファインダ校正曲線として使用する。
【0071】
図7には、図5中のステップ284で使用されるオートフォーカス用ヒルクライム法校正曲線の算出手順を示してある。この手順では、まず、第1及び第2撮像部を使用し既知距離被写体の画像を何組か撮影する(ステップ400)。オートフォーカスは画像毎にヒルクライム法で実行する。次いで、可調焦点レンズのポジションを、2個ある撮像部毎に各組内合焦先被写体までの距離と比較する(ステップ402)。そして、画像内同一距離合焦先被写体毎に第1撮像部・第2撮像部間で可調焦点レンズポジション同士を関連付けるデータを保存し(ステップ404)、図5中のステップ284でオートフォーカス用ヒルクライム法校正曲線として使用する。
【0072】
図8に、図1に示した撮像アセンブリ10Aで動画を撮影する手順の流れを示す。この手順を構成するステップの多くは図3に示したものと同じであるので、重複する説明を避け、図上でも同一の参照符号を付すこととする。この手順では、選択されたズームポジションがX未満である場合(ステップ102:“NO”)、第1撮像部1を動画撮影用、第2撮像部2をオートフォーカス用画像撮影用に選定する。撮像部1についての合焦動作は、対象が動画である点を除き図3に示したものと同様である。その後、ズームボタン42c未押下のまま(ステップ112)シャッタボタン42aが押下されたら(ステップ114)撮像部1が動画を撮影する(ステップ118)。更に、その動画の合焦品質をチェックし(ステップ119)、再合焦が必要なら(ステップ120)焦点変化検出信号を生成し(ステップ106)、撮像部1用のフォーカスモータ5aをその焦点変化検出信号に基づき駆動する(ステップ108)。再合焦が不要ならステップ112に戻る。
【0073】
逆に、選択されたズームポジションがX超である場合(ステップ102:“YES”)、第2撮像部2を動画撮影用、第1撮像部1をオートフォーカス用画像撮影用に選定する。撮像部2の合焦動作は、その対象が動画である点を除き図3に示したものと同様である。その後、ズームボタン42c未押下のまま(ステップ132)シャッタボタン42aが押下されたら(ステップ134)撮像部2が動画を撮影する(ステップ138)。更に、その動画の合焦品質をチェックし(ステップ139)、再合焦が必要なら(ステップ140)焦点変化検出信号を生成し(ステップ126)、撮像部2用のフォーカスモータ5bをその焦点変化検出信号に基づき駆動する(ステップ128)。再合焦が不要ならステップ132に戻る。
【0074】
図9に、2個の撮像部1,2を一種のレンジファインダとして用いるオートフォーカス手順の流れを示す。この手順は、図8中のステップ108,128にて撮像部1,2をオートフォーカスさせる手順として使用することができる。この手順では、その焦点距離が短い方の撮像部で第1オートフォーカス用画像を撮影し(ステップ440)、その第1オートフォーカス用画像を、同じ事物がどちらのオートフォーカス用画像上でも同じ画素数を占めることとなるようクロッピング及びアップサンプリングする(ステップ442)。それと並行して、その焦点距離が長い方の撮像部で第2オートフォーカス用画像を撮影する(ステップ448)。更に、その第2オートフォーカス用画像を、クロッピング及びアップサンプリング済第1オートフォーカス用画像と関連付けることにより、諸画像の様々な部分について画像間画素オフセットを導出する(ステップ444)。そして、そのオフセットと、図6の手順で算出したオートフォーカス用レンジファインダ校正曲線とに基づき、必要な焦点補正量を導出する(ステップ446)。
【0075】
図10に、コントラスト値比較ヒルクライム法によるオートフォーカス手順の流れを示す。この手順は2個の撮像部1,2を使用して実行されるものであり、図8中のステップ108,128にて撮像部1,2をオートフォーカスさせる手順として使用することができる。この手順では、ヒルクライム法でオートフォーカスさせつつ第1撮像部で第1画像を撮影し(ステップ460)、その画像をプリビュー用画像として表示部の画面上に表示させる(ステップ462)。それと並行して、ヒルクライム法でオートフォーカスさせつつ第2撮像部で第2画像を撮影し(ステップ466)、次いで同じくヒルクライム法でオートフォーカスさせつつ第2撮像部で更なる画像を撮影し(ステップ468)、更に第2画像とその後に撮影した更なる画像とで合焦状態を比較する(ステップ470)。もし合焦状態が変化していたら(ステップ472:“YES”)、第2撮像部における合焦状態変化と、図7に示した手順で算出したオートフォーカス用ヒルクライム法校正曲線とに基づき、第1撮像部の合焦条件を変更する(ステップ464)。合焦状態が変化していなかったら(ステプ472:“NO”)、ステップ468に戻って第2撮像部で更なる画像を撮影する。
【0076】
また、焦点距離サーチ幅を最小限に抑えるため、その合焦状態がステップ470で繰返しチェックされる第2撮像部をホールウェイオートフォーカス法に動作させてもよい。この場合、第2撮像部における合焦状態変化が検出されたら(ステップ472:“YES”)その合焦状態変化及びホールウェイオートフォーカス法用校正曲線に基づき第1撮像部の合焦条件を変更する。合焦状態変化が検出されなかったら(ステプ472:“NO”)、ステップ468に戻って第2撮像部で更なる画像を撮影する。
【0077】
図11に、図3又は図8に示した手順で撮影した画像を処理する手順の流れを示す。図示手順は本発明の一実施形態に係る距離マップ生成手順である。図中、図9に示したものと同様のステップには同一の符号を付してある。距離マップを生成する手法自体は、本件技術分野にて習熟を積まれた方々(いわゆる当業者)にとり周知である。例えば特許文献9(名称:ステレオベース画像処理(Stereo-based Image Processing)、発明者:Antonio Criminisi et al.、発行日:2006年8月31日、この参照を以てその内容を本願中に繰り入れる)には、その視野を同じくする複数個のカメラで撮影した一組の画像から画素オフセット情報を導出し、その情報に基づき生成したディスパリティマップから距離マップ乃至奥行きマップを生成する、という手順が記載されている。これに対し、本願記載の発明では、その焦点距離に違いのある複数個の撮像部を単一の電子カメラに収めている。本願記載の発明では、更に、その焦点距離差を克服するため、複数個ある撮像部のうち少なくとも1個の撮像出力に修正を施し、撮像部間でその撮像出力同士を比較することで、それらの間の画素オフセットを導出するようにしている。例えば図11に示す手順では、まずその焦点距離が短い方の撮像部で第1オートフォーカス用画像を撮影する(ステップ440)。更に、その第1オートフォーカス用画像を、同じ事物がどちらのオートフォーカス用画像上でも同じ画素数を占めることとなるようクロッピング及びアップサンプリングする(ステップ442)。それと並行して、その焦点距離が長い方の撮像部で第2オートフォーカス用画像を撮影する(ステップ448)。そして、第2オートフォーカス用画像をクロッピング及びアップサンプリング済画像と関連付けることにより、画像内諸部分について画像間画素オフセットを導出する(ステップ480)。次いで、オートフォーカス用レンジファインダ校正曲線に基づきその画素オフセットを撮像部からの距離に換算し(ステップ482)、画像内諸部分までの距離を示すマップを生成する(ステップ484)。
【0078】
撮像部から光景内諸点までの距離は、第1・第2オートフォーカス用画像内対応諸点間画素オフセット計測値から算出することができる。即ち、ステップ442で得られるクロッピング及びアップサンプリング済第1オートフォーカス用画像中の諸点と、ステップ448で得られる第2オートフォーカス用画像内の対応する諸点と、の間の画素オフセットの計測値から算出することができる。例えば、イメージセンサ上に現れる画素オフセットp、画素サイズm、レンズ間隔s、レンズの有効焦点距離f、並びに光景内諸点までの距離dの間に存する次の式
d=s・f/(p・m)
の関係を使用すればよい。表1に、ある撮像部における典型的な画素オフセット値を示す。本発明の好適な実施形態では、画素オフセットと光景内諸点までの距離との間に存するこうした関係を、既知距離にある視野内被写体に関し校正することで、複数個あるレンズ間に生じる不要な寸法ばらつき及び角度傾斜を補償することができる。
【表1】
【0079】
こうして生成される距離マップには、前述した通り、撮像出力信号乃至出力画像の修正に役立てることができる。例えば、
a)被写体の閉じた輪郭を識別してその形状を画定することにより、出力画像中の被写体を好適に識別すること
b)被写体の閉じた輪郭を識別してその画像を細分することにより、出力画像から被写体を抽出すること
c)被写体を検出し同一の被写体を複数枚の出力画像に亘り追跡することにより、それら複数枚の出力画像に亘る被写体の動きを追跡すること
d)出力画像のうち所望視界深さ外の光景領域に相応する部分をぼかすことにより、画像の視界深さを動的に変化させること
e)出力画像内の被写体に被写体単位で利得調整を施すことにより、その出力画像のダイナミックレンジを拡げること
f)出力画像のうち前景領域内諸被写体に相応する部分については利得を低下させ背景領域内諸被写体に相応する部分については増大させることにより、フラッシュ使用がもとで生じる露出上の問題を抑えること
g)前景領域内諸被写体を強調することにより、出力画像におけるシーンバランスを改善すること
等を、その距離マップに基づき実現することができる。
【0080】
距離マップがこのように重宝なものであることを理解するには何か具体的な例を考えるとよい。例えば、あるユーザが偉大なるアラスカ山脈の写真を撮ろうとしたとする。雲々が流れる美しい空と白く冠雪した山々が遙か彼方に見え、その手前には花々で埋まった野原が見え、そして自分から5フィートほどの近場には黒い犬が座っている(1フィート=約0.30m)。こうした風景を撮ると、雲々や山々の冠雪は露出過剰で白飛びし、黒い犬は露出不足で黒潰れする。その際、普通はカメラを風景モードにセットして撮るので黒い犬には合焦さえしない。距離データを使用すればそうした問題のうち幾つかは克服することができる。まず、各部位の露出については、画像中の所要被写体部位毎に利得調整を実施することで適正化することができる。例えば雲の襞、雪の肌、黒い犬の毛皮等の部位毎に適正化可能である。総じて、距離マップを用い出力画像内の被写体単位で且つその距離マップ上でのその被写体の位置とは無関係に利得調整を施すことで、その出力画像のダイナミックレンジを拡げることができる。更に、その視界深さを調整し、犬にも山々にも更には美しい花々にも合焦させることができる。また、あるユーザが美しい景色よりも犬を強調したいと切に望んでいる場合に、距離データを利用して山々や花々を特定しそれをぼかすことと、犬を特定してそれを鮮明化することで、意に適う鮮明な画像を得ることができる。更に、本発明に係る距離マップには、他にも画像の美的外観向上に資する様々な利用形態があることが明らかである。例えば、ユーザからの指示でその視界深さを動的に変化させること、即ちその距離が異なる様々な点に合焦させることができる。これは、より広義な表現でいえば、出力画像のうち所望視界深さ外の光景領域に相応する部分を、距離マップに基づき且つその距離マップ上でのその部分の位置とは無関係にぼかすことにより、画像の視界深さを動的に変化させることができる、ということである。例えば、犬と山々を撮りたいときには、その中間の距離域にある花々を滑らかにぼかすことで、距離的には両極端に位置する犬と山々の双方に対し、好適に合焦させることができる。
【0081】
図12及び図13に、前述のものとはその撮像部の光学的構成が異なるディジタルカメラのブロック構成を示す。撮像部より下流に位置する部材の多くは、先に図1を参照して説明済のものと同様の部材であるので、重複を避けその説明を省略することとする。まず、図12にそのブロック構成を示したディジタルカメラでは、その第1撮像部71に第1固定焦点距離レンズ73及び第1イメージセンサ12が、またその第2撮像部2に第2(ズーム)レンズ4及び第2イメージセンサ14がそれぞれ設けられている。オートフォーカスは撮像部71に対する撮像部2の焦点距離差を調整することで実行する。
【0082】
固定焦点距離レンズ73は、例えば22mm(35mm判換算値)といった非常に広い画角が得られる焦点距離で固定されているので、その過焦点距離(例えば8フィート)付近の距離域(例えば4フィート〜無限遠)に存する被写体を捉えることができる。従って、このレンズ73に焦点距離調整機能を持たせる必要はない。なお、図示しないが、このレンズ73には可調絞り/シャッタアセンブリが設けられているので、それを使用しイメージセンサ12への露出を制御することができる。
【0083】
次に、図13にそのブロック構成を示したディジタルカメラは、第1撮像部71、第2撮像部2及び第3撮像部74を備えている。撮像部71は第1固定焦点距離レンズ73及び第1イメージセンサ12を、撮像部2は第2(ズーム)レンズ4及び第2イメージセンサ14を、そして撮像部74は第3(ズーム)レンズ75及び第3イメージセンサ16を備えている。レンズ73,4,5は、順に、例えば超広画角レンズ、広画角ズームレンズ、望遠ズームレンズである。この前の段落で説明した通り、超広画角レンズたるレンズ73の焦点距離は調整できないので、オートフォーカスは撮像部2,74の焦点距離調整で実行した方がよい。
【0084】
図14に、図1に示した2個の撮像部1,2で得られる画像を併用し画像の視界深さを拡張する手順の流れを示す。この手順では、まず、カメラへの電源投入に応じズームポジションをデフォルトポジションに設定し(ステップ500)、次いでそのズームポジションをある値Xと比較する(ステップ502)。この値Xは、撮像部1,2のどちらに本撮影の役割を持たせるかの境目になる。この比較でズームポジションがX未満であるとされた場合には(ステップ502:“NO”)、第1撮像部をプリビュー用画像撮影用、第2撮像部をオートフォーカス用画像撮影用に選定した上で(ステップ504)、撮像部1を用いプリビュー用画像を継続的に撮影して表示部70の画面上に表示させる動作と、撮像部1をオートフォーカスさせるためのオートフォーカス用画像を撮像部2で撮影しイメージプロセッサ50でそれを処理して撮像部1を合焦させる動作とを、互いに並行して実行する(ステップ506)。この状態で、ズームボタン42c未押下のまま(ステップ508:“NO”)シャッタボタン42aが押下された場合、そのときの焦点ポジションを用い第1撮像部で一次画像(静止画)を撮影し(ステップ510)、そのときの焦点ポジションを用い第2撮像部で二次画像(静止画)を撮影し(ステップ512)、そしてその二次画像に基づき一次画像の視界深度を拡張する(ステップ514)。例えば、二次画像を用いて拡張信号を発生させ、一次画像のうち二次画像撮像時焦点ポジション相当の距離近傍に存する部分をその拡張信号に従い鮮明化する。
【0085】
逆に、ズームポジションがX超である場合(ステップ502:“YES”)、第2撮像部をプリビュー用画像撮影用、第1撮像部をオートフォーカス用に選定した上で(ステップ524)、撮像部2を用いプリビュー用画像を継続的に撮影して表示部70の画面上に表示させる動作と、撮像部2をオートフォーカスさせるためのオートフォーカス用画像を撮像部1で撮影しイメージプロセッサ50でそれを処理して撮像部2を合焦させる動作とを、互いに並行して開始する(ステップ526)。この状態で、ズームボタン42cが押下され(ステップ528:“YES”)シャッタボタン42aも押下された場合、そのときの焦点ポジションを用い第2撮像部で一次画像(静止画)を撮影し(ステップ530)、更にそのときの焦点ポジションを用い第1撮像部で二次画像(静止画)を撮影し(ステップ532)、そしてその二次画像に基づき一次画像の視界深度を拡張する(ステップ534)。例えば、その二次画像を用い、一次画像のうち二次画像撮像時焦点ポジション近傍に存する部分を鮮明化する。
【0086】
なお、上の説明では、カメラ内で拡張信号を発生させ、一次画像のうち二次画像撮影時焦点ポジション近傍に存する部分をその拡張信号に基づき鮮明化する例を示したが、一次画像及び二次画像(静止画)を外部プロセッサ例えば図1中のホストPC66に送信し、一次画像のうち二次画像撮影時焦点ポジション近傍に存する部分が鮮明になるよう、その外部プロセッサで拡張信号を発生させるようにしてもよい。
【0087】
各複数個のレンズ及びセンサを使用し統合的な撮像アセンブリを形成するという考え方は、画像撮影機能を有する携帯電話にも適用することができる。図15Aにその例を示す。この図の携帯電話600は、話者音声を捉えるためのマイクロホン602、話者音声及び通話相手音声の信号を処理する図示しない関連電子回路、通話相手音声に従い鳴音するスピーカ604等を有する通話部を備えている。キーパッド606は電話番号や画像撮影用のコマンドの入力に、また(液晶)表示部608は通話関連情報やこの携帯電話600で撮影した又はセルラ網経由で受信した画像の表示に、それぞれ使用されている。図15Bにこの携帯電話600の背面を示す。この図には内蔵部材のうち幾つか、即ち携帯電話用撮像アセンブリ610や、図1に示したイメージプロセッサ50を介しそれに接続されているセルラ処理部も示されている。そのセルラ処理部はセルラプロセッサ90及びモデム92から構成されている。セルラプロセッサ90は、イメージプロセッサ50から送られてくる画像データやマイクロホン602で捉えた音声のデータを受け取って処理し、それらのデータをセルラモデム92へと送る。セルラモデム92は、それらのディジタルデータを適当なフォーマットに変換しアンテナ94を用いセルラ網上に送出する。
【0088】
図16A及び図16Bに携帯電話用撮像アセンブリ610の構成を示す。図16Aは、このアセンブリ610の線24B−24B沿い断面(図16B参照)を上から見た図である。図示の通り、このアセンブリ610は、共通の基板620上に複数個の光学系・撮像系部品、具体的には第1固定焦点距離レンズ612、第1イメージセンサ614、第2固定焦点距離レンズ616及び第2イメージセンサ618を一体実装した構成を有している。センサ614上に像を発現させるレンズ612は例えばその焦点距離が40mm(35mm判換算値)で固定の広角レンズであり、センサ618上に像を発現させるレンズ616は例えばその焦点距離が100mm(35mm判換算値)で固定の望遠レンズである。レンズ612,616は互いに同じ方向を向いているので、その視野の広さに違いはあれ、前方に広がる光景中の同一部分を捉えて像を発現させることができる。
【0089】
これらのレンズ612,616は、対応するイメージセンサ614,618と共に基板620上に実装されている。レンズ612,616とセンサ614,618の間に赤外線遮断フィルタ622があるのでセンサ614,618上の諸画素への赤外光入射は少ない。その基板620上には、抵抗器、コンデンサ、電源系部品等の電子部品624や、基板620から画像信号を取り出すためのフレキシブルコネクタ626も実装されている。このコネクタ626を介しこの携帯電話用撮像アセンブリ610から取り出される画像信号は例えば生の画像データである。図示しないが、適当なプロセッサを基板620上に実装しておき、そのプロセッサによる処理でYUV又はJPEGフォーマットに変換した画像データを取り出すようにしてもよい。更に、イメージプロセッサ50によるディジタルズームで、広角レンズ612や望遠レンズ61でカバーできない距離域をカバーすることができる。ユーザは、(液晶)表示部608の画面上に表示されるユーザインタフェースを見ながらキーパッド606上の相応なボタンを操作することで、そのディジタルズーム機能を発動させることができる。広角側のセンサ614が高解像度、例えば望遠側のセンサ618よりも高い解像度であれば、そのディジタルズーム用のソース画像が高画質になる。
【0090】
また、レンズ612,616を共に可調焦点レンズにすることもできる。この変形例では、イメージプロセッサ50では、(a)広角レンズ612に係るセンサ出力を撮像出力信号に選定する一方望遠レンズ616に係るセンサ出力を用いレンズ612向けの焦点検出信号を生成する動作か、(b)レンズ616に係るセンサ出力を撮像出力信号に選定する一方レンズ612に係るセンサ出力を用いレンズ616向けの焦点検出信号を生成する動作か、そのいずれかを実行する。例えば後者では、その焦点検出信号をレンズ616のオートフォーカスサブシステム628に供給することで、撮像出力信号となるセンサ出力をもたらす方のレンズの焦点距離を調整することができる。また、この例におけるレンズ612はズームレンズ、例えばその画角を広角から通常角まで変化させうるレンズにするとよい。
【0091】
或いは、広角レンズ612の焦点距離をその過焦点距離に設定してもよい。過焦点距離にすると数フィートから無限遠までの距離域で合焦するので、このレンズ612についてはユーザによる焦点距離調整が不要になる。望遠レンズ616はそのオートフォーカスサブシステム628によってオートフォーカスさせる。こうするのは、焦点距離が増すにつれ過焦点距離が増すので、4〜12フィート等といった典型的な距離に存する被写体に対し適正に合焦させるには焦点距離を調整しなければならないからである。オートフォーカスサブシステムが望遠レンズ616用のもの(628)だけである分は安価及び小型な構成になる。
【0092】
更に、本実施形態ではz寸法630が重要な制約条件となる。即ち、携帯電話600内回路の配置及び構成と調和するようz寸法630を非常に小さな値にしなければならない。この条件は、望遠レンズ615の焦点距離及びセンササイズを注意深く設定することで、クリアすることができる。例えば、第1イメージセンサ616のサイズを、割合に小さな画像でもその受光部が埋まってしまうよう十分に小さくすることで、その焦点距離を抑えz寸法630を許容範囲内の値にすることができる。
【0093】
また、その焦点距離がほぼ等しい2個のレンズと、そのサイズが異なるイメージセンサアレイとを有する構成にしてもよい。センサアレイ間にサイズ差があっても、そのセンサアレイの受光部が対応するレンズからの画像で埋まるよう設計されていれば、それら2個あるレンズ・センサアレイ対同士で、実際の焦点距離即ちレンズセンサ間距離がほぼ同一になる。但し、各レンズの35mm判換算焦点距離は異なる値になるので、その視野は互いに異なる広さになる。
【0094】
そして、図16A及び図16Bでは詳示を省いたが、先に図1を参照して説明した構成と同じく、第1イメージセンサ614からのアナログ出力信号は第1ASPでの増幅後、また第2イメージセンサ618からのアナログ出力信号は第2ASPでの増幅後、ある種の制御素子、例えば基板620上に電子部品624の一つとして設けられているアナログMUXに、その第1,第2入力端を介し供給される。ユーザがキーパッド606を操作しズームポジションを設定すると、その値に基づき、センサ614から得られる信号(第1センサ出力)及びセンサ618から得られる信号(第2センサ出力)のいずれかがこの制御素子で選定され、選定された方のセンサ出力が携帯電話用撮像アセンブリ600からイメージプロセッサ50に供給されることとなる。
【0095】
次に、距離マップ使用方法の具体例について説明する。先に図11を参照して概説した通り、カメラ内のGPSユニット57からGPS測位結果が、またそのカメラ内の電子コンパス59からカメラ指向方向の計測結果が得られれば、それらをそのカメラから光景内諸点までの距離及び方向と組み合わせることで、光景内諸点のGPS測位を行うことができる。図18に、光景内諸点をGPS測位する手順の流れの一例を示す。この手順では、まずそのカメラ内のGPSユニットを使用しそのカメラをGPS測位し(ステップ750)、またそのカメラ内のコンパスを使用しカメラ指向方向を計測する(ステップ752)。次いで、そのカメラから光景内諸点までの距離を示す距離オフセットを、図11に示した手順等で得られている距離マップを参照して導出し(ステップ754)、またコンパス59から取得したカメラ指向方向を基準とする光景内諸点の方向を示す角度オフセットをその点の視野内位置から導出する(ステップ756)。更に、導出した距離オフセット及び角度オフセットを、GPS測位及びカメラ指向方向計測の結果に加味することで、光景内諸点をGPS測位する(ステップ758)。そして、視野内諸被写体のGPS測位結果をメタデータ中に保存し又はGPS測位マップの形態を採り画像上にラベルとして表示させる(ステップ760)。その点のGPS測位結果をその画像と共に電子カメラの画面上に表示させてもよい。
【0096】
なお、いわゆる当業者ならば、光景内諸点についてのGPS測位結果には様々な用途があることを理解できよう。例えば、被写体の個体識別、光景内諸点の方向を案内する表示の実行、地図その他の地理データベースに比したカメラ視野の拡がりの特定等である。
【0097】
図19に、2個ある撮像部のうち一方を一次画像用、他方の撮像部を非一次画像用(例えばシーン解析対象画像用)として選定する手順の流れの例を示す。この手順では、まず、カメラ電源投入に応じ初期化処理を開始する(ステップ1100)。初期化処理が終了したら、撮像部1,2のズームポジションをそれぞれそのデフォルトポジション即ち所定の初期ポジションに設定する(ステップ1102)。それらのデフォルトポジションによって最初に撮影及び表示される画像の内容が決まる。次いで、第1及び第2プリビュー用画像を撮像部1,2で撮影し表示部70の画面上に表示させる(ステップ1104)。それらの画像は、表示部70の画面上に様々な形態で表示させることができる。例えば、それらの画像をサムネイル等の形態にして横並び表示させてもよいし、一方の画像内に他方の画像を小さく表示させてもよいし、それらの画像を順繰りに表示させてもよい。更に、そのカメラのユーザに対し、第1及び第2プリビュー用画像のなかに一次画像即ち撮影及び保存の対象画像となりうるものがあるか否かを尋ね(ステップ1106)、それらの画像を表示させつつユーザによる決定を待つ状態を、最大で所定長Xの表示期間に亘り続ける(ステップ1110)。その期間中にシャッタボタンが押下された場合や(ステップ1108)同期間中にユーザから決定が示されなかった場合は(ステップ1110:“YES”)、撮像部1,2のうち所定の一方即ちデフォルト撮像部を自動的に一次画像用として選定する(ステップ1112)。デフォルト撮像部を予め定めておく理由は幾つかある。そのうち一つは、光景を包括的に広い視野で捉えた画像を初期画像にするためである。逆に、ユーザが第1及び第2プリビュー用画像のうちどちらかを一次画像に採用した場合は(ステップ1106:“YES”)、採用された方のプリビュー用画像に係る撮像部を一次画像用に選定する(ステップ1124)。そして、どちらの撮像部が一次画像用に選定された場合でも、一次画像用撮像部でない方の撮像部(非一次画像用撮像部)をシーン解析対象画像用に選定する(ステップ1114)。その後は、これから図20〜図22を参照して説明する通り、一次画像用撮像部をプリビューモードで稼働させる。
【0098】
図20〜図22及び図24〜図26に、マルチレンズカメラシステム内の撮像部のうちある1個で撮影した画像を利用又は解析し、別の1個で撮影した画像にその結果に基づく修正、例えば拡張、解析、補強その他の改変を施す手順について、その流れの例を示す。そのうち図20に示す手順は、図19に示した手順に従い一次画像用撮像部がプリビューモードで稼働しているときに実行される。この手順では、まずシーン解析対象画像用撮像部がシーン解析を実行し(ステップ1200)、その撮像部におけるシーン解析の結果を示すデータに基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを設定する(ステップ1202)。シーン解析で得られるのは、例えば露出、ダイナミックレンジ、視界深さ、色バランス、被写体性状識別結果(顔、草、夕日、雪等の別)等に関するデータであり、一次画像用撮像部のパラメタとは、絞り、露出時間、焦点距離、白バランス、ISO設定等のパラメタである。次いで、一次画像用撮像部でプリビュー用画像を撮影して表示部70の画面上に表示させ(ステップ1204)、シーン解析対象画像用撮像部がシーン解析の続きを実行する(ステップ1206)。その解析でシーン状態変化が見つからなかった場合は(ステップ1208:“NO”)ステップ1204に戻り、一次画像用撮像部でプリビュー用画像を再び撮影して表示部70の画面上に表示させる。その際、一次画像用撮像部の諸パラメタは変更しない。逆に、シーン状態変化が見つかった場合は(ステップ1208:“YES”)ステップ1202に戻り、その撮像部におけるシーン解析の結果を示すデータに基づきプロセッサ50が一次画像用撮像部の諸パラメタを再設定して、前述の処理を再実行する。
【0099】
図21に示す手順では、一次画像用撮像部の諸パラメタが変更されるのはシーン状態変化があるしきい値Xを上回ったときだけである。即ち、このしきい値付プリビューモードでは、まずシーン解析対象画像用撮像部で画像の撮影及びシーン解析を実行し(ステップ1300)、その撮像部におけるシーン解析の結果を示すデータに基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを設定する(ステップ1302)。次いで、一次画像用撮像部でプリビュー用画像を撮影して表示部70の画面上に表示させ(ステップ1304)、シーン解析対象画像用撮像部で更に画像を撮影する(ステップ1306)。ステップ1306で撮影した画像におけるシーン状態変化がしきい値Xに達していない場合(ステップ1308:“NO”)、即ち画像間で光景条件が安定していると見なせる場合はステップ1304に戻り、一次画像用撮像部でプリビュー用画像を再撮影して表示部70の画面上に表示させる。その際、一次画像用撮像部の諸パラメタは変更しない。その上で、シーン解析対象画像用撮像部で更に画像を撮影する(ステップ1306)。逆に、ステップ1306で撮影した画像におけるシーン状態変化がしきい値X超であり不安定な状況であると見なせる場合は(ステップ1308:“YES”)ステップ1302に戻り、その撮像部におけるシーン解析の結果を示すデータに基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを再設定する。その後は、前述の処理を再実行する。
【0100】
図22に示す手順では、撮像部間に存するズームポジションの違いと、各撮像部で撮影された画像についてのシーン解析結果とに基づき、しきい値を用いた光景条件判別を補強している。即ち、この拡張プリビューモードでは、まず一次画像用撮像部のズームポジションを基準にシーン解析対象画像用撮像部のズームポジションを設定し(ステップ1400)、そのシーン解析対象画像用撮像部で画像を撮影し(ステップ1402)、更にその撮像部におけるシーン解析の結果を示すデータに基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを設定する(ステップ1404)。次いで、一次画像用撮像部でプリビュー用画像を撮影し(ステップ1406)、撮影したプリビュー画像及び取得済のシーン解析結果データに基づきシーン解析を実行し(ステップ1408)、イメージプロセッサ50が両シーン解析の結果、即ち撮像部それぞれで得られた画像に対する解析の結果に基づき一次画像用撮像部の諸パラメタを設定する(ステップ1410)。その次は、一次画像用撮像部でプリビュー用画像を撮影して表示部70の画面上に表示させ(ステップ1412)、シーン解析対象画像用撮像部で更なる画像を撮影し(ステップ1414)、更に撮影したプリビュー画像及び取得済のシーン解析結果データに基づきシーン解析を実行する(ステップ1416)。シーン状態変化がしきい値Xに達していない場合(ステップ1418:“NO”)、即ち光景条件が安定していると見なせる場合はステップ1412に戻り、一次画像用撮像部でプリビュー用画像をまたシーン解析対象画像用撮像部でシーン解析対象画像をそれぞれ再撮影する(ステップ1412及び1414)。その後は前述の処理を再実行する。逆に、シーン状態変化がしきい値X超であり不安定な状況であると見なせる場合は(ステップ1400:“YES”)ステップ1410に戻り、イメージプロセッサ50が新たなシーン解析結果データ、即ちステップ1416でシーン解析対象画像用撮像部により導出された解析結果に基づき一次画像用撮像部の諸パラメタを再設定する。その後は前述の処理を再実行する。
【0101】
これら、図19〜図22に示した手順によるプリビュー動作は、シャッタボタン42aかズームボタン42cが押下されるまでは継続的に実行される。これに対し、ズームボタン42cが押下された場合、図23に示すように、ズームボタン42c押下(ステップ1500:“YES”)時のズームポジション設定が一次画像用撮像部のズーム域外であるなら(ステップ1502:“YES”)、それまで一次画像用であった撮像部がシーン解析対象画像用になりシーン解析対象画像用であった撮像部が一次画像用になるよう、撮像部の用途乃至役割を互いに入れ替える(ステップ1504)。次いで、一次画像用撮像部のズームポジションを指定された距離に設定し(ステップ1506)、図20〜図22に示したプリビューモードでの動作に戻る。逆に、ズームボタン42c押下(ステップ1500:“YES”)時のズームポジション設定が一次画像用撮像部のズーム域内であるなら(ステップ1502:“NO”)、各撮像部の用途乃至役割はそのままにして、一次画像用撮像部のズームポジションを指定されたポジションに設定し(ステップ1506)プリビューモードでの動作に戻る。
【0102】
図24〜図26に、マルチレンズカメラシステム内の撮像部のうちある1個で撮影した画像を利用又は解析し、別の1個で撮影した画像にその結果に基づく修正、例えば拡張、解析、補強その他の改変を施す手順について、その流れの更なる例を示す。これらの図に示した例は撮影時に実行される手順の例である。まず、図24に示す第1の手順では、シャッタボタン42aが半押し位置S1まで押下されたときに撮影モードでの動作が開始され、それ以外の場合はプリビューモードでの動作に戻る(ステップ1600)。撮影モードでは、まず一次画像用撮像部でプリビュー用画像を撮影し(ステップ1602)、更にそのプリビュー画像に基づくシーン解析を実行する(ステップ1604)。解析が終了したら(ステップ1606:“YES”)、そのシーン解析の結果に基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを設定し(ステップ1608)、更にその一次画像用撮像部でプリビュー用画像を撮影して表示部70の画面上に表示させる(ステップ1610)。この状態からシャッタボタン42aが全押し位置S2まで押下されたら(ステップ1612:“YES”)、画像の撮影が指令されたということであるので、設定されたパラメタに従い一次画像用撮像部で一次画像を撮影する(ステップ1614)。その後はプリビューモードでの動作に戻る。シャッタボタン42aが全押しされないときは(ステップ1612:“NO”)、このカメラに焦点/露出ロックが設定されているか否かをチェックする(ステップ1616)。どちらかのロックが設定されている場合は(ステップ1616:“YES”)ステップ1610に戻り、一次画像用撮像部でプリビュー用画像を再撮影して表示部70の画面上に表示させてから、シャッタボタン42aの状態チェック(ステップ1612)以降の動作を上記同様に実行する。焦点/露出ロックがどちらも設定されていない場合は(ステップ1616:“NO”)ステップ1602に戻り、一次画像用撮像部でプリビュー用画像を再撮影してから、そのプリビュー画像に基づくシーン解析を実行する(ステップ1604)。以降の動作は前記同様である。
【0103】
図25に示す第2の手順では、シャッタボタン42aが半押し位置S1まで押下されたときに撮影モードでの動作が開始される(ステップ1700)。次いで、一次画像用撮像部でプリビュー用画像を撮影し(ステップ1702)、シーン解析対象画像用撮像部でも画像を撮影し(ステップ1704)、そして撮影したプリビュー用画像及びシーン解析対象画像双方に基づきシーン解析を実行する(ステップ1706)。更に、そのシーン解析の結果に基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを設定し(ステップ1708)、それらのパラメタに従い一次画像用撮像部でプリビュー用画像を撮影して表示する(ステップ1710)。次いで、図24に示した手順と同様、この状態でシャッタボタン42aが全押し位置S2まで押下されたら(ステップ1712:“YES”)、設定済のパラメタに従い一次画像用撮像部で一次画像を撮影して(ステップ1714)プリビューモードでの動作に戻る。逆に、シャッタボタン42aが全押しされなかったらそのカメラに焦点/露出ロックが設定されているか否かをチェックし(ステップ1716)、設定されていたらステップ1710に戻って一次画像用撮像部でプリビュー用画像を再撮影して表示した上で、シャッタボタン42aの状態チェック(ステップ1712)以降の動作を上記同様に実行する。焦点/露出ロックがどちらも設定されていない場合は(ステップ1716:“NO”)ステップ1702に戻り、一次画像用撮像部でプリビュー用画像を再撮影してから(ステップ1702)、そのプリビュー画像に基づくシーン解析を実行する(ステップ1704)。以降の動作は前記同様である。
【0104】
図26に示す第3の手順では、シャッタボタン42aが半押し位置S1まで押下されたときに撮影モードでの動作が開始される(ステップ1800)。次いで、一次画像用撮像部でプリビュー用画像を撮影し(ステップ1802)、シーン解析対象画像用撮像部でも画像を撮影する(ステップ1804)。更に、撮影したプリビュー画像及びシーン解析対象画像双方に基づきシーン解析を実行し(ステップ1806)、そのシーン解析の結果に基づきイメージプロセッサ50が一次画像用撮像部の諸パラメタを設定する(ステップ1808)。次に、シーン解析対象画像用撮像部を二次画像用撮像部に選定した上で(ステップ1810)、先の両シーン解析の結果に基づきイメージプロセッサ50が二次画像用撮像部の諸パラメタを設定する(ステップ1812)。更に、この状態でシャッタボタン42aが全押し位置S2まで押下されたら(ステップ1814:“YES”)、設定済のパラメタに従い一次画像用撮像部で一次画像を撮影し(ステップ1816)、二次画像用撮像部に選定されているシーン解析対象画像用撮像部で二次画像たる補強用画像を撮影し(ステップ1818)、更に一次画像及び補強用画像に基づきイメージプロセッサ50が拡張画像を生成する(ステップ1820)。その後はプリビューモードでの動作に戻る。逆に、シャッタボタン42aが全押しされなかった場合は(ステップ1814)ステップ1802に戻り、一次画像用撮像部及びシーン解析対象画像用撮像部による撮影(ステップ1802及び1804)から動作を再開する。
【0105】
図26に示した手順で施せるこの補強及び拡張の種類は多様である。第1に、先に図14に関して述べた通り、一次画像用撮像部をある焦点ポジションにして一次画像を撮影し、シーン解析対象画像用撮像部(二次画像用撮像部)を別の焦点ポジションにして二次画像(補強用画像)を撮影し、それら2枚の画像を組み合わせてより視界深さに富んだ画像(拡張画像)を生成することができる。このタイプの補強及び拡張には、一次画像の撮影に使用するレンズを絞ることなく視界深さを大きくすることができる、という長所がある。これは、撮影環境が暗く絞りを開けたい場合に特に有益である。
【0106】
第2に、イメージプロセッサ50で画像のダイナミックレンジを調べ、そのダイナミックレンジが所定のしきい値を上回っていたら、シーン解析対象画像用撮像部を用い、そのダイナミックレンジが一次画像のそれとは異なるダイナミックレンジになるよう二次画像を撮影する、というタイプの補強及び拡張がある。例えば、まず一次画像を通常の露出、二次画像を不足気味又は過剰気味といったより極端な露出で撮影する。このとき、例えば一次画像では白飛びしている明るい部分も、それより露出レベルの低い二次画像なら、その細部まで捉えることができる。逆に、一次画像では黒潰れしている陰の部分も、それより露出レベルの高い二次画像なら、その細部まで捉えることができる。従って、一次画像中の諸部分を二次画像中の対応部分で置き換えることにより、そのダイナミックレンジが広い拡張画像を得ることができる。
【0107】
また、ご理解頂けるように、一次画像用撮像部や二次画像用撮像部で撮影する画像は静止画及び動画のいずれでもよい。動画の場合は一連の静止画として扱えるので、静止画の場合はその静止画を、動画の場合は動画信号を組成する一連の静止画を、例えば上述した形態で拡張すればよい。例えば、その電子カメラに動画信号が得られる撮像部が搭載されている場合、二次画像用撮像部の撮像出力を用い、その動画信号を組成している一連の静止画の視界深さ、ダイナミックレンジ等々を拡張することができる。
【0108】
更に、図14に示した手順を変形し、広いダイナミックレンジを有する一次画像が得られるようにすることもできる。例えば、図14に示したものと似た手順にて、シャッタボタン42aの押下に応じ第1撮像部又は第2撮像部(ステップ510又は530相当)で一次画像(静止画)を撮影し、第2撮像部又は第1撮像部(ステップ512又は532相当)で二次画像(静止画)を撮影し、更に二次画像を用いて一次画像のダイナミックレンジを拡張する(ステップ514又は534相当)ことができる。即ち、一次画像撮影時の露出レベルと異なる露出レベル、例えばより低い露出レベルで二次画像を撮影するようにすれば、その二次画像には明るい部分の細部までしっかりと写る。その上で、その二次画像を一次画像と組み合わせることにより、その一次画像のダイナミックレンジを拡げることができる。
【0109】
更に、拡張画像を好適に生成できる手法の一つとして摺動スケールを使用する手法がある。この手法では、米国特許出願第11/460364号(名称:大ダイナミックレンジディジタル画像の生成(Producing an Extended Dynamic Range Digital Image)、発明者:John Border and Efrain Morales、譲受人:本願出願人と同一、出願日:2006年7月27日、この参照を以てその内容を本願に繰り入れる)に記載の通り、一次画像及び二次画像双方の画素値を勘案して拡張画像の画素値を決定することができる。また、フラッシュ使用時には露出過剰状態がしばしば発生する。ダイナミックレンジ補正を行えるよう二種類の露出レベルを設定することでそれに対処することができる。例えば、撮像部のうち1個の露出時間を非常に短い時間としてもよいし、露出タイミングをずらしフラッシュの直前又は直後にしてもよい。
【0110】
また、上述の補強手順はその解像度が大きく異なる画像間にも適用することができる。例えば、米個許特許出願第11/461574号(名称:異解像度部分込みディジタル画像の生成(Producing Digital Image with Different Resolution Portions)、発明者:John Border、Scott Cahall and John Griffith、譲受人:本願出願人と同一、出願日:2006年8月1日、この参照を以てその内容を本願に繰り入れる)では、第1画像を第1撮像部で広角ディジタル撮影する一方、その第1画像に写っている光景とほぼ同じ光景の一部が写るよう第2画像を第2撮像部で望遠ディジタル撮影している。こうした場合でも、広角撮影した第1画像の一部と、望遠撮影した第2画像中の一部とを組み合わせることで、それらの合成画像を生成することができ、その合成画像をディジタルズームすることで、より解像度が高いディジタル画像を生成することができる。具体的には、合成画像をディジタルズームすることで、ズーム域全域を通じて解像度が高くその画質も良好なズーム画像を得ることができる。
【0111】
補強手順の更なる変形例としては、一次画像用撮像部の露出時間と二次画像用撮像部のそれとを異なる長さにすることで、各画像に発現するノイズ及びモーションブラーのレベルに差を付ける、というものがある。例えば、一次画像用撮像部の露出時間を長めに、二次画像用撮像部を短めに設定して撮影を行う。すると、ディジタルノイズが低レベルでモーションブラーが高レベルな一次画像と、ディジタルノイズが高レベルでモーションブラーが低レベルな二次画像とが得られる。一次画像でモーションブラーが高レベルになるのは、カメラの動きも視野内被写体の動きもモーションブラーをもたらすからである。次いで、それら一次画像及び二次画像を互いに比較してモーションブラーを識別し、更に二次画像内平均画素値が一次画像内平均画素値と整合する値になるよう二次画像の利得を増大させる。そして、一次画像の一部を二次画像の一部で置き換えることにより、拡張画像を生成することができる。具体的には、一次画像のうちそのノイズは低レベルだがモーションブラーは高レベルの部分を、二次画像中の対応部分、即ちそのノイズレベルは高レベルだがモーションブラーは低レベル又は0の部分で置き換えることにより、ノイズが割合に低レベルで先鋭さが良好な拡張画像を得ることができる。
【0112】
以上、本発明に関しその好適な実施形態を例にして具体的な説明を行ったが、それらに更に変形乃至改良を施せること、またそうしたものも本発明の基本的着想及び技術的範囲内に包括されうることを理解されたい。
【符号の説明】
【0113】
1,2,71,74 第1〜第3撮像部、3,4 第1又は第2ズームレンズ、5a,5b ズーム/フォーカスモータ、10A,610 ディジタルカメラ、カメラ付携帯電話等の撮像アセンブリ、12,14,16,78,614,618 第1〜第3イメージセンサ、12e,14e 第1又は第2センサ出力、13,15,17 クロックドライバ、22,24,25 第1〜第3アナログ信号プロセッサ、34,36,37 第1〜第3ディジタルマルチプレクサ型制御素子、38 DRAM型バッファメモリ、40 制御プロセッサ/タイミング発生器、42 ユーザ操作子、42a シャッタボタン、42c ズームボタン、42d マルチポジションセレクタ、46自動露出検出器、48 電子フラッシュ、50 イメージプロセッサ、52 メモリカードインタフェース、54 リムーバブルメモリカード、56 RAM型メモリ、57 GPSユニット、58 ファームウェアメモリ、59 電子コンパス、62 ホストインタフェース、64 接続手段、66 ホストPC、70 カラー液晶型画像表示部、73,612 第1固定焦点距離レンズ、90 セルラプロセッサ、92 セルラモデム、94 アンテナ、100,500,1102 ズームポジションをデフォルト設定するステップ、101,250 ズームポジションを選択するステップ、102,502,1502 ズームポジションを判別するステップ、104,124,252,504,524 本撮影用撮像部を選定するステップ、106,126,260 第1又は第2撮像部を使用してオートフォーカス用画像を撮影するステップ、108,128 第1又は第2撮像部を合焦させるステップ、110,130,1104,1204,1304,1412,1610,1710 第1又は第2撮像部を使用してプリビュー用画像を撮影し表示させるステップ、112,132,508,528,1500 ズームボタンが押下されたか判別するステップ、114,134,1108,1600,1612,1700,1712,1800,1814 シャッタボタンが押下されたか判別するステップ、116,136,270 第1又は第2撮像部を使用して本撮影するステップ、118,138,276 第1又は第2撮像部を使用して動画を撮影するステップ、119,139 合焦品質をチェックするステップ、120,140 再合焦要否を判別するステップ、151 被写体、152,153 第1又は第2レンズ、154,155 第1又は第2光路、156 合焦面、157,158 第1又は第2像、170,180 第1又は第2基準位置、171,181 シフト後第1又は第2位置、190,191 第1又は第2光学センサアレイ、197 低域通過フィルタをロードするステップ、198 合焦状態評価値を比較するステップ、199 高域通過フィルタをロードするステップ、254 非本撮影用撮像部でズーミングするステップ、256 過焦点距離に設定するステップ、258 オートフォーカス手順を開始するステップ、262,302,442 短焦点距離で撮影した画像等をクロッピング及びアップサンプリングするステップ、264,304,444,480 画像の関連付け後に画素オフセットを導出するステップ、266,282,284 最良合焦に必要な可調焦点レンズ調整量を導出するステップ、268,286 合焦用レンズを調整するステップ、272 ヒルクライムオートフォーカスを実行するステップ、274 シャッタボタンの押下を待つステップ、278 ヒルクライム合焦状態を継続チェックするステップ、280,472 合焦状態を判別するステップ、300,400 画像群を撮影するステップ、306,404 オートフォーカス用レンジファインダ又はヒルクライム法校正曲線を生成するステップ、350 オートフォーカス用画像の外観、352 ズーミング及びクロッピングを経たオートフォーカス用画像の外観、402 ポジションと距離を比較するステップ、440,448 短又は長焦点距離で撮影するステップ、446 焦点補正量を導出するステップ、460,466 第1又は第2撮像部を使用しヒルクライム法で第1又は第2画像を撮影するステップ、462 第1撮像部で撮影した画像をプリビュー表示させるステップ、464 第1撮像部の合焦条件を変更するステップ、468 第2撮像部を使用し別画像を撮影するステップ、470 第2画像と別画像の合焦状態を比較するステップ、482 レンジファインダ校正曲線を使用し画素オフセットを換算するステップ、484 距離マップを生成するステップ、506,526 第1又は第2撮像部を使用しプリビュー画像を撮影して表示させオートフォーカスするステップ、510,530,1614,1714,1816 一次画像撮影時の焦点ポジション下等で第1又は第2撮像部を使用し一次画像を撮影するステップ、512,532 二次画像撮影時焦点ポジション下で第1又は第2撮像部を使用し二次画像を撮影するステップ、514,534 二次画像を使用し一次画像を拡張するステップ、600 携帯電話、602 マイクロホン、604 スピーカ、606 キーパッド、608 (液晶)表示部、 616 第2固定焦点距離レンズ、620 基板、622 赤外線遮断フィルタ、624 電子部品、626 フレキシブルコネクタ、628 オートフォーカスサブシステム、630 z寸法、750 GPSを使用しカメラを測位するステップ、752 カメラ指向方向を計測するステップ、754 距離オフセットを導出するステップ、756 角度オフセットを導出するステップ、758 シーン内をGPS測位するステップ、760 GPS測位結果を保存するステップ、1100 電源投入後に初期化するステップ、1106 プリビュー用画像撮影用撮像部を選択するステップ、1110 表示時間を判別するステップ、1112 デフォルト撮像部を採用するステップ、1114 シーン解析対象画像用撮像部を決定するステップ、1124 判断に従い一次画像用撮像部を決定するステップ、1200,1206,1408,1416,1706,1806,1604 プリビュー用画像及びシーン解析対象画像の一方又は双方等を使用してシーン解析するステップ、1202,1302,1404,1410,1608,1708,1808,1812 一次又は二次画像の撮影パラメタを設定するステップ、1208,1308,1418 しきい値等を使用し光景条件を判別するステップ、1300,1306 シーン解析対象画像を撮影して解析するステップ、1400 シーン解析対象画像用撮像部のズームポジションを設定するステップ、1402,1414,1704,1804 シーン解析対象画像を撮影するステップ、1406,1602,1702,1802 プリビュー用画像を撮影するステップ、1504 撮像部の用途を入れ替えるステップ、1506 一次画像用撮像部のズームポジションを設定するステップ、1606 シーン解析完了を判別するステップ、1616,1716 焦点/露出ロックをチェックするステップ、1810 シーン解析対象画像用撮像部を二次画像用撮像部にするステップ、1818 補強用画像を撮影するステップ、1820 拡張画像を生成するステップ。
【特許請求の範囲】
【請求項1】
撮像出力信号に基づき視野内光景についての出力画像を生成する電子カメラであって、
第1センサ出力をもたらす第1イメージセンサ及びその第1イメージセンサ上に視野内光景の第1画像を発現させる第1レンズを有する第1撮像部と、
第2センサ出力をもたらす第2イメージセンサ、並びに第1レンズとは異なる焦点距離で視野内光景を捉え第2イメージセンサ上に視野内光景の第2画像を発現させる第2レンズを有する第2撮像部と、
第1及び第2センサ出力のうち一方を撮像出力信号として選定する一方、光景内諸点までの距離を指し示す距離マップを第1及び第2センサ出力双方に基づき生成する処理部と、
を備える電子カメラ。
【請求項2】
請求項1記載の電子カメラであって、その処理部が、第1及び第2画像を互いに関連付けることで光景内諸点について画素オフセットを導出し、それらの画素オフセットを本カメラから対応する点までの距離へと換算し、そして本カメラから光景内諸点までの距離を指し示す距離マップを生成する電子カメラ。
【請求項3】
請求項2記載の電子カメラであって、その処理部が、同じ事物が第1及び第2画像のいずれでもほぼ同じ画素数を占めることとなるよう、その焦点距離が短い方のレンズでもたらされる画像をクロッピング及びアップサンプリングする電子カメラ。
【請求項4】
請求項1記載の電子カメラであって、その処理部が、光景内諸点についての画素オフセットを本カメラからその点までの距離へと換算する処理を、レンジファインダ校正曲線に従い実行する電子カメラ。
【請求項5】
請求項1記載の電子カメラであって、更に、本カメラの位置を示すGPS座標値を出力するGPSユニットと、本カメラの指向方向を求める電子コンパスと、を備える電子カメラ。
【請求項6】
請求項5記載の電子カメラであって、その処理部が、本カメラのGPS座標値及び指向方向、並びに距離マップから得られる距離オフセットに基づき、光景内諸点のGPS座標値を導出する電子カメラ。
【請求項7】
請求項1記載の電子カメラであって、撮影した画像を距離マップに従い修正する電子カメラ。
【請求項8】
撮像出力信号に基づき視野内光景についての出力画像を生成する電子カメラであって、
第1センサ出力をもたらす第1イメージセンサ、第1イメージセンサ上に視野内光景の第1画像を発現させる第1レンズ、並びに第1焦点検出信号に応じ第1レンズの焦点を調整する第1レンズ焦点調整器を有する第1撮像部と、
第2センサ出力をもたらす第2イメージセンサ、第2イメージセンサ上に視野内光景の第2画像を発現させる第2レンズ、並びに第2焦点検出信号に応じ第2レンズの焦点を調整する第2レンズ焦点調整器を有する第2撮像部と、
(a)第1センサ出力を撮像出力信号として選定する一方第2センサ出力に基づき第1撮像部向けの第1焦点検出信号を生成する動作又は(b)第2センサ出力を撮像出力信号として選定する一方第1センサ出力に基づき第2撮像部向けの第2焦点検出信号を生成する動作を実行し、生成した焦点検出信号を第1及び第2撮像部のうち対応する方の撮像部内のレンズ焦点調整器に供給することで、第1及び第2レンズのうち撮像出力信号となる画像をもたらす方のレンズの焦点を調整する処理部と、
を備え、その処理部が、更に、一種のレンジファインダを形成している第1及び第2撮像部のセンサ出力に基づき、光景内諸点までの距離を指し示す距離マップを生成する電子カメラ。
【請求項9】
請求項8記載の電子カメラであって、更に、本カメラの位置を示すGPS座標値を出力するGPSユニットと、本カメラの指向方向を求める電子コンパスと、を備える電子カメラ。
【請求項10】
請求項9記載の電子カメラであって、その処理部が、本カメラのGPS座標値及び指向方向、並びに距離マップから得られる距離オフセットに基づき、光景内諸点のGPS座標値を導出する電子カメラ。
【請求項11】
請求項8記載の電子カメラであって、撮影した画像を距離マップに基づき修正する電子カメラ。
【請求項12】
撮像出力信号に基づき視野内光景についての出力画像を生成する電子カメラであって、
第1センサ出力をもたらす第1イメージセンサ、第1イメージセンサ上に視野内光景の第1画像を発現させる第1レンズ、並びに焦点変化検出信号に応じ第1レンズの焦点を継続的に再調整する第1レンズ焦点調整器を有する第1撮像部と、
第2センサ出力をもたらす第2イメージセンサ、並びに第2イメージセンサ上に視野内光景の第2画像を発現させる第2レンズを有する第2撮像部と、
第1センサ出力を撮像出力信号として選定する一方、一種のレンジファインダを形成している第1及び第2撮像部のセンサ出力に基づきその光景の画像の焦点を検出し、その画像に合焦させるため第1撮像部向けの焦点変化検出信号を生成し、その焦点変化検出信号を第1レンズ焦点調整器に供給することにより、撮像出力信号のもととなる第1画像の合焦状態を調整する処理部と、
を備え、その処理部が、更に、一種のレンジファインダを形成している第1及び第2撮像部のセンサ出力に基づき、光景内諸点までの距離を指し示す距離マップを生成する電子カメラ。
【請求項13】
請求項12記載の電子カメラであって、更に、本カメラの位置を示すGPS座標値を出力するGPSユニットと、本カメラの指向方向を求める電子コンパスと、を備える電子カメラ。
【請求項14】
請求項13記載の電子カメラであって、その処理部が、本カメラのGPS座標値及び指向方向、並びに距離マップから得られる距離オフセットに基づき、光景内諸点のGPS座標値を導出する電子カメラ。
【請求項15】
請求項12記載の電子カメラであって、撮影した画像を距離マップに基づき修正する電子カメラ。
【請求項16】
第1撮像部内の第1イメージセンサから光景の第1画像を示す出力を得るステップと、
第2撮像部内の第2イメージセンサからその光景を別の画角で捉えた第2画像を示す出力を得るステップと、
第1及び第2画像のうち一方を出力画像として選定するステップと、
光景内諸点までの距離を指し示す距離マップを第1及び第2撮像部双方の出力に基づき生成するステップと、
を有し、撮像部を2個備えるディジタルカメラを使用し出力画像を得る一方でそのセンサ出力からその光景についての距離マップを生成する方法。
【請求項17】
請求項16記載の方法であって、更に、
第1及び第2画像を互いに関連付けることにより光景内諸点について画素オフセットを導出するステップと、
それらの画素オフセットをそのカメラからの距離に換算するステップと、
光景内諸点までの距離を指し示す距離マップを生成するステップと、
を有する方法。
【請求項18】
請求項17記載の方法であって、更に、同じ事物が第1及び第2画像のいずれでもほぼ同じ画素数を占めることとなるよう、第1及び第2撮像部のうちその画角が広い方の撮像部で捉えた画像をクロッピング及びアップサンプリングするステップを有する方法。
【請求項19】
請求項16記載の方法であって、その距離マップに基づき被写体の閉じた輪郭を識別してその形状を画定することにより、出力画像中の被写体を識別する方法。
【請求項20】
請求項16記載の方法であって、その距離マップに基づき被写体の閉じた輪郭を識別して出力画像を細分することにより、その出力画像から被写体を抽出する方法。
【請求項21】
請求項16記載の方法であって、その距離マップに基づき被写体を識別し同一の被写体を複数枚の出力画像に亘り追跡することにより、それら複数枚の出力画像に亘る被写体の動きを追跡する方法。
【請求項22】
請求項16記載の方法であって、その距離マップに基づき出力画像のうち所望視界深さ外の光景領域に相応する部分をぼかすことにより、その画像の視界深さを動的に変化させる方法。
【請求項23】
請求項16記載の方法であって、その距離マップに基づき出力画像内の被写体に被写体単位で利得調整を施すことにより、その出力画像のダイナミックレンジを拡げる方法。
【請求項24】
請求項16記載の方法であって、その距離マップに基づき、出力画像のうち前景領域内諸被写体に相応する部分については利得を低下させ背景領域内諸被写体に相応する部分については増大させることにより、フラッシュ使用がもとで生じる露出上の問題を抑える方法。
【請求項25】
請求項16記載の方法であって、その距離マップに基づき前景領域内諸被写体を強調することにより、出力画像におけるシーンバランスを改善する方法。
【請求項1】
撮像出力信号に基づき視野内光景についての出力画像を生成する電子カメラであって、
第1センサ出力をもたらす第1イメージセンサ及びその第1イメージセンサ上に視野内光景の第1画像を発現させる第1レンズを有する第1撮像部と、
第2センサ出力をもたらす第2イメージセンサ、並びに第1レンズとは異なる焦点距離で視野内光景を捉え第2イメージセンサ上に視野内光景の第2画像を発現させる第2レンズを有する第2撮像部と、
第1及び第2センサ出力のうち一方を撮像出力信号として選定する一方、光景内諸点までの距離を指し示す距離マップを第1及び第2センサ出力双方に基づき生成する処理部と、
を備える電子カメラ。
【請求項2】
請求項1記載の電子カメラであって、その処理部が、第1及び第2画像を互いに関連付けることで光景内諸点について画素オフセットを導出し、それらの画素オフセットを本カメラから対応する点までの距離へと換算し、そして本カメラから光景内諸点までの距離を指し示す距離マップを生成する電子カメラ。
【請求項3】
請求項2記載の電子カメラであって、その処理部が、同じ事物が第1及び第2画像のいずれでもほぼ同じ画素数を占めることとなるよう、その焦点距離が短い方のレンズでもたらされる画像をクロッピング及びアップサンプリングする電子カメラ。
【請求項4】
請求項1記載の電子カメラであって、その処理部が、光景内諸点についての画素オフセットを本カメラからその点までの距離へと換算する処理を、レンジファインダ校正曲線に従い実行する電子カメラ。
【請求項5】
請求項1記載の電子カメラであって、更に、本カメラの位置を示すGPS座標値を出力するGPSユニットと、本カメラの指向方向を求める電子コンパスと、を備える電子カメラ。
【請求項6】
請求項5記載の電子カメラであって、その処理部が、本カメラのGPS座標値及び指向方向、並びに距離マップから得られる距離オフセットに基づき、光景内諸点のGPS座標値を導出する電子カメラ。
【請求項7】
請求項1記載の電子カメラであって、撮影した画像を距離マップに従い修正する電子カメラ。
【請求項8】
撮像出力信号に基づき視野内光景についての出力画像を生成する電子カメラであって、
第1センサ出力をもたらす第1イメージセンサ、第1イメージセンサ上に視野内光景の第1画像を発現させる第1レンズ、並びに第1焦点検出信号に応じ第1レンズの焦点を調整する第1レンズ焦点調整器を有する第1撮像部と、
第2センサ出力をもたらす第2イメージセンサ、第2イメージセンサ上に視野内光景の第2画像を発現させる第2レンズ、並びに第2焦点検出信号に応じ第2レンズの焦点を調整する第2レンズ焦点調整器を有する第2撮像部と、
(a)第1センサ出力を撮像出力信号として選定する一方第2センサ出力に基づき第1撮像部向けの第1焦点検出信号を生成する動作又は(b)第2センサ出力を撮像出力信号として選定する一方第1センサ出力に基づき第2撮像部向けの第2焦点検出信号を生成する動作を実行し、生成した焦点検出信号を第1及び第2撮像部のうち対応する方の撮像部内のレンズ焦点調整器に供給することで、第1及び第2レンズのうち撮像出力信号となる画像をもたらす方のレンズの焦点を調整する処理部と、
を備え、その処理部が、更に、一種のレンジファインダを形成している第1及び第2撮像部のセンサ出力に基づき、光景内諸点までの距離を指し示す距離マップを生成する電子カメラ。
【請求項9】
請求項8記載の電子カメラであって、更に、本カメラの位置を示すGPS座標値を出力するGPSユニットと、本カメラの指向方向を求める電子コンパスと、を備える電子カメラ。
【請求項10】
請求項9記載の電子カメラであって、その処理部が、本カメラのGPS座標値及び指向方向、並びに距離マップから得られる距離オフセットに基づき、光景内諸点のGPS座標値を導出する電子カメラ。
【請求項11】
請求項8記載の電子カメラであって、撮影した画像を距離マップに基づき修正する電子カメラ。
【請求項12】
撮像出力信号に基づき視野内光景についての出力画像を生成する電子カメラであって、
第1センサ出力をもたらす第1イメージセンサ、第1イメージセンサ上に視野内光景の第1画像を発現させる第1レンズ、並びに焦点変化検出信号に応じ第1レンズの焦点を継続的に再調整する第1レンズ焦点調整器を有する第1撮像部と、
第2センサ出力をもたらす第2イメージセンサ、並びに第2イメージセンサ上に視野内光景の第2画像を発現させる第2レンズを有する第2撮像部と、
第1センサ出力を撮像出力信号として選定する一方、一種のレンジファインダを形成している第1及び第2撮像部のセンサ出力に基づきその光景の画像の焦点を検出し、その画像に合焦させるため第1撮像部向けの焦点変化検出信号を生成し、その焦点変化検出信号を第1レンズ焦点調整器に供給することにより、撮像出力信号のもととなる第1画像の合焦状態を調整する処理部と、
を備え、その処理部が、更に、一種のレンジファインダを形成している第1及び第2撮像部のセンサ出力に基づき、光景内諸点までの距離を指し示す距離マップを生成する電子カメラ。
【請求項13】
請求項12記載の電子カメラであって、更に、本カメラの位置を示すGPS座標値を出力するGPSユニットと、本カメラの指向方向を求める電子コンパスと、を備える電子カメラ。
【請求項14】
請求項13記載の電子カメラであって、その処理部が、本カメラのGPS座標値及び指向方向、並びに距離マップから得られる距離オフセットに基づき、光景内諸点のGPS座標値を導出する電子カメラ。
【請求項15】
請求項12記載の電子カメラであって、撮影した画像を距離マップに基づき修正する電子カメラ。
【請求項16】
第1撮像部内の第1イメージセンサから光景の第1画像を示す出力を得るステップと、
第2撮像部内の第2イメージセンサからその光景を別の画角で捉えた第2画像を示す出力を得るステップと、
第1及び第2画像のうち一方を出力画像として選定するステップと、
光景内諸点までの距離を指し示す距離マップを第1及び第2撮像部双方の出力に基づき生成するステップと、
を有し、撮像部を2個備えるディジタルカメラを使用し出力画像を得る一方でそのセンサ出力からその光景についての距離マップを生成する方法。
【請求項17】
請求項16記載の方法であって、更に、
第1及び第2画像を互いに関連付けることにより光景内諸点について画素オフセットを導出するステップと、
それらの画素オフセットをそのカメラからの距離に換算するステップと、
光景内諸点までの距離を指し示す距離マップを生成するステップと、
を有する方法。
【請求項18】
請求項17記載の方法であって、更に、同じ事物が第1及び第2画像のいずれでもほぼ同じ画素数を占めることとなるよう、第1及び第2撮像部のうちその画角が広い方の撮像部で捉えた画像をクロッピング及びアップサンプリングするステップを有する方法。
【請求項19】
請求項16記載の方法であって、その距離マップに基づき被写体の閉じた輪郭を識別してその形状を画定することにより、出力画像中の被写体を識別する方法。
【請求項20】
請求項16記載の方法であって、その距離マップに基づき被写体の閉じた輪郭を識別して出力画像を細分することにより、その出力画像から被写体を抽出する方法。
【請求項21】
請求項16記載の方法であって、その距離マップに基づき被写体を識別し同一の被写体を複数枚の出力画像に亘り追跡することにより、それら複数枚の出力画像に亘る被写体の動きを追跡する方法。
【請求項22】
請求項16記載の方法であって、その距離マップに基づき出力画像のうち所望視界深さ外の光景領域に相応する部分をぼかすことにより、その画像の視界深さを動的に変化させる方法。
【請求項23】
請求項16記載の方法であって、その距離マップに基づき出力画像内の被写体に被写体単位で利得調整を施すことにより、その出力画像のダイナミックレンジを拡げる方法。
【請求項24】
請求項16記載の方法であって、その距離マップに基づき、出力画像のうち前景領域内諸被写体に相応する部分については利得を低下させ背景領域内諸被写体に相応する部分については増大させることにより、フラッシュ使用がもとで生じる露出上の問題を抑える方法。
【請求項25】
請求項16記載の方法であって、その距離マップに基づき前景領域内諸被写体を強調することにより、出力画像におけるシーンバランスを改善する方法。
【図1】
【図2A】
【図2B】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15A】
【図15B】
【図16A】
【図16B】
【図17A】
【図17B】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図2A】
【図2B】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15A】
【図15B】
【図16A】
【図16B】
【図17A】
【図17B】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【公表番号】特表2010−524279(P2010−524279A)
【公表日】平成22年7月15日(2010.7.15)
【国際特許分類】
【出願番号】特願2009−553574(P2009−553574)
【出願日】平成20年2月8日(2008.2.8)
【国際出願番号】PCT/US2008/001710
【国際公開番号】WO2008/112054
【国際公開日】平成20年9月18日(2008.9.18)
【出願人】(590000846)イーストマン コダック カンパニー (1,594)
【Fターム(参考)】
【公表日】平成22年7月15日(2010.7.15)
【国際特許分類】
【出願日】平成20年2月8日(2008.2.8)
【国際出願番号】PCT/US2008/001710
【国際公開番号】WO2008/112054
【国際公開日】平成20年9月18日(2008.9.18)
【出願人】(590000846)イーストマン コダック カンパニー (1,594)
【Fターム(参考)】
[ Back to top ]