説明

撮像装置

【課題】被写体の急激な明るさ変化に加えて、被写体及び撮像装置の相対的な動き量の急峻な変化にも対応でき、振れや明るさ変動の少ない映像を取得する。
【解決手段】撮像装置は、被写体像を光電変換する撮像素子103と、該撮像素子から出力される撮像信号に基づいて映像を生成する映像生成手段105と、撮像信号に対するゲイン調整を行うゲイン調整手段104と、映像における複数の単位画像及び該撮像装置の動きを検出するセンサのうち少なくとも一方を用いて動き情報を生成する動き情報生成手段107,108,601,602と、明るさ情報及び動き情報に基づいて、撮像素子が受ける光量を調節する絞り102の絞り値、撮像素子のシャッタ速度及びゲイン調整手段におけるゲインを制御する露出制御手段113,114とを有する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置又は被写体の動きによる撮像映像の振れを抑制する防振機能を有する撮像装置に関する。
【背景技術】
【0002】
ビデオカメラ等の撮像装置には、いわゆるAE(Auto Expusure:自動露出)機能が搭載されているものが多い。AE機能は、測光センサや映像信号を用いて被写体の明るさ(輝度)情報を測定し、該明るさ情報に基づいて露出値を自動的に決定する機能である。
【0003】
そして、AE機能を搭載した撮像装置では、決定された露出値に応じてアイリス(絞り)機構やゲイン回路を制御する。これにより、被写体の輝度に時間変動が生じても素早く反応し、取得される映像の明るさ変動を小さくすることができる。
【0004】
ただし、著しく低輝度の被写体を撮像する場合には、アイリスが開放状態となり、シャッタ速度が大きく低下する。このように通常のAE範囲を超えるような場合には、上記要素の調節だけでなく、撮像素子又はその後段の信号処理部においてゲインの増幅が行われる。逆に、被写体輝度が高すぎる場合には、ND(Neutral Density)フィルタが挿入される(特許文献1参照)。
【0005】
また、完全に自動化されたAE機能に加えて、絞り優先動作やシャッタ優先動作を含むプログラムAEもある。さらに、利用シーンを選択することで露出モードを切り替え、好ましい露出プリセット値が設定される、いわゆるモードセレクト機能(シーンセレクト又はイメージセレクト機能とも称される)もある(特許文献2参照)。
【0006】
撮像装置に対して速い速度で移動する被写体を捉える機能としては、シャッタ優先AEモードや、モードセレクト機能により選択可能なスポーツモードがある。
【0007】
シャッタ優先AEモードでは、ユーザーが、被写体の動きから、映像の振れを起こさないシャッタ速度を推定する必要がある。シャッタ速度を入力すると、該入力シャッタ速度と測光値とに応じて絞り量が調節され、被写体の輝度変動があっても映像の明るさ変動が抑えられる。
【0008】
また、スポーツモードでは、被写体の速い動きを想定した映像の振れを起こさないシャッタ速度が自動設定される。そして、測光値に応じて、設定されたシャッタ速度を維持しつつ、明るさ変動が少ない映像が得られるように定義されたプログラム線図に従って絞り量が調節される。プログラム線図は、測光値に対して選択されるべき絞り量とシャッタ速度の組み合わせを示したパラメータテーブルである。
【特許文献1】特開2001−145017号公報
【特許文献2】特許第3658361号公報
【特許文献3】特開2001−330882号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
一方、被写体だけでなく、撮像装置が移動する場合には、急激な明るさ情報の変化に加え、急峻な動き量の変化が発生する。従来の測光値のみを基準とした露出制御機能では、明るさ情報の変化には対応するが、急峻な動き量の変化には十分対応しきれず、映像に振れを生じやすくなる。
【0010】
シャッタ優先モードやスポーツモードといった一定のシャッタ速度を設定する露光モードでは、急峻な動き量の変化に対応するためには、シャッタ速度を非常に高速に設定しなければならない。この場合、実際には撮像装置と被写体の相対移動が緩やかで通常のスポーツモード等でのシャッタ速度に設定すれば十分な明るさの映像が得られる状況であっても、光量不足に陥ることがある。または、ゲイン増幅のためにノイズの多い映像が得られてしまうおそれもある。
【0011】
振れやノイズが多い映像や光量不足の映像といった低品質映像は、特に高精細で大型の表示デバイスに表示されて鑑賞される場合にその品質の低さが目立つ。また、取得映像に基づいて防振処理、ダイナミックレンジ処理、超解像処理、フレームレートアップコンバージョン処理、顔認識処理(特開2001−330882号公報参照)等の高度な画像処理を行う場合に、映像品質が低いと該処理を良好に行うことが難しい。
【0012】
本発明は、被写体の急激な明るさ変化に加えて、被写体及び撮像装置の相対的な動き量の急峻な変化にも対応でき、振れや明るさ変動の少ない映像を取得するための露出制御を行う撮像装置を提供する。
【課題を解決するための手段】
【0013】
本発明の一側面としての撮像装置は、被写体像を光電変換する撮像素子と、該撮像素子から出力される撮像信号に基づいて映像を生成する映像生成手段と、撮像信号に対するゲイン調整を行うゲイン調整手段と、映像における複数の単位画像及び該撮像装置の動きを検出するセンサのうち少なくとも一方を用いて動き情報を生成する動き情報生成手段と、明るさ情報及び動き情報に基づいて、撮像素子が受ける光量を調節する絞りの絞り値、撮像素子のシャッタ速度及びゲイン調整手段におけるゲインを制御する露出制御手段とを有することを特徴とする。
【発明の効果】
【0014】
本発明によれば、被写体の明るさや被写体及び撮像装置の相対的な動き量が急激に変化するような場合でも、振れや明るさ変動が少ない高品質な映像を取得することができる。
【発明を実施するための最良の形態】
【0015】
以下、本発明の好ましい実施例について図面を参照しながら説明する。
【実施例1】
【0016】
図1には、本発明の実施例1である撮像装置としてのビデオカメラの構成を示す。
【0017】
101はレンズ光学系である。レンズ光学系101は、複数のレンズにより構成され、被写体の光学像を形成する。102はアイリス(絞り)である。アイリス102は、撮像素子103がその受光面にて受ける光量を機械的に調節する光量調節ユニットである。レンズ光学系101及びアイリス102は、撮像光学系を構成する。
【0018】
103は撮像素子である。撮像素子103は、CCDセンサやCMOSセンサにより構成され、レンズ光学系101により形成され、アイリス102によって光量が調節された被写体像を光電変換して撮像信号を生成する。
【0019】
114は露出制御手段の一部を構成するシステム制御部である。システム制御部114は、マイクロコンピュータにより構成され、撮像装置全体を総合的に制御する。
【0020】
104はゲイン調整手段としてのAGC(オートゲインコントロール)部である。AGC部104は、システム制御部114からのゲイン制御信号に応じて、撮像素子103及び後述するカメラ信号処理部のうち少なくとも一方に含まれる増幅器のゲインを変化させることで、撮像素子103で生成される撮像信号に対するゲイン調整を行う。
【0021】
105は映像生成手段としてのカメラ信号処理部である。カメラ信号処理部105は、AGC部104からのゲイン調整された撮像信号に対して各種映像処理を行い、映像信号を生成する。映像処理には、例えば、色差/輝度分離、鮮鋭化、ホワイトバランス調整、黒レベル調整及び符号/複合化処理がある。また、上述したように、カメラ信号処理部105が増幅器を有する場合もあり、この場合、カメラ信号処理部105のうち増幅器よりも後段の部分が、映像生成手段に相当する。
【0022】
106はワークメモリである。ワークメモリ106は、後述する動きベクトルを演算するために、カメラ信号処理部105により生成された映像のうち任意のフレーム画像を保存する。
【0023】
なお、本実施例では、映像を構成する単位画像をフレーム画像として説明するが、単位画像はフレーム画像を構成するフィールド画像であってもよい。フィールド画像を単位画像とする場合は、基本的には以下の説明中のフレームをフィールド画像と読み替えればよい。
【0024】
107は画像動き検出部である。画像動き検出部107は、ワークメモリ106に保存されたフレーム画像(以下、単にフレームという)と他のフレーム、例えば最新フレーム(カレントフレーム)との間で動きベクトルを算出する。
【0025】
108は画像動き検出部107とともに動き情報生成手段を構成する動き量算出部である。動き量算出部108は、画像動き検出部107で算出された動きベクトルに基づいて、動き量(動き情報)を算出する。
【0026】
109はズーム・フォーカス調整部である。ズーム・フォーカス調整部109は、システム制御部114から供給されるズーム制御信号及びフォーカス制御信号に応じて、それぞれレンズ光学系101に含まれるズームレンズ及びフォーカスレンズを移動させる。また、ズーム・フォーカス調整部109は、レンズ光学系101に内蔵されたズーム及びフォーカスエンコーダ(図示せず)の出力値からズーム量(ズームレンズ位置)やフォーカスレンズ位置を求めてシステム制御部114に送る。
【0027】
110はアイリス調整部である。アイリス調整部110は、システム制御部114から供給されるアイリス制御信号に応じてアイリス102を駆動し、絞り開口を通過する光量を調節する。
【0028】
111は撮像素子制御部である。撮像素子制御部111は、撮像素子103に対して電荷の蓄積、読み出し及びリセットのタイミングパルスを出力し、撮像素子103の基本的な動作を制御する。また、システム制御部114からのシャッタ速度制御信号に従い、タイミングパルスの出力間隔を制御し、撮像素子103の電荷蓄積時間、すなわち電子シャッタ速度の制御を行う。
【0029】
112は測光手段としての測光部である。測光部112は、AGC部104から出力された信号を積分してその平均光量を求めることにより、露出演算のための明るさ情報としての測光値を出力する。すなわち、明るさ情報を生成する。測光部112は、積分時に画像領域に対してマスク処理や重み付け処理を行って、画像全体のうち記録領域を指定したり、画像全体を複数領域に分割して各領域に重み付け積分を行ったりする。
【0030】
本実施例では、撮像光学系を通った光を用いて測光を行うTTL(Through The Lens)方式での測光を行うが、撮像光学系を通らない光を用いて測光を行う外部測光方式を採用してもよい。
【0031】
113はシステム制御部114とともに露出制御手段を構成するAE算出部である。AE算出部113には、動き量算出部108で算出された動き量と測光部112から出力された測光値が入力される。AE算出部113は、該動き量及び測光値に基づいて、アイリス102の絞り値、撮像素子103の電子シャッタ速度(以下、単にシャッタ速度という)及びAGC部104(又はカメラ信号処理部105)でのゲインを制御する。そして、これらの露出制御値をシステム制御部114に出力する。
【0032】
115は操作信号入力部である。操作信号入力部115は、ユーザーが撮像装置の機能選択や各種設定を行うために操作されるボタン類を含む。また、撮像開始/終了ボタンも含む。なお、操作信号入力部115として、タッチパネル式表示素子を用いて、後述する表示部116と統合してもよい。
【0033】
システム制御部114は、操作信号入力部115において選択された露出モードに応じて、後述する不揮発メモリ118から読み込まれたパラメータテーブルに従い、各処理部及び各制御部に対し、それぞれに関連する制御信号や情報を送信する。具体的には、カメラ信号処理部105に対するその特性を制御する制御信号や、画像動き検出部107に対する動き量検出エリアの情報や、AE算出部113に対する測光エリアの情報を送信する。また、システム制御部114は、ズーム・フォーカス調整部109、アイリス調整部110及び撮像素子制御部111に制御信号を出力する。
【0034】
116は表示部である。表示部116は、LCD,LED,EL等により構成され、各種動作モードの設定表示や、各種警告表示や、撮像により取得された映像データや、伸長処理された記録済み映像データ等を表示する。
【0035】
117は記録部である。記録部117は、半導体メモリ、磁気テープ、光ディスク等の記録媒体に対して映像データ(圧縮データ)を記録したり、該記録媒体から映像データを読み出したりする。
【0036】
118は不揮発メモリである。不揮発メモリ118は、撮像モード項目、及びそれに対応する露出制御用の測光エリア情報等の各種データを記憶する。また、コード線図からなる露出制御要素の基本的な制御指針を表したデータテーブルも記憶する。
【0037】
操作信号入力部115においてある撮像モードが選択された場合には、対応する各種データ及び制御指針テーブルが不揮発メモリ118からシステム制御部114により読み込まれる。一般的には、シャッタ優先モード、絞り優先モード、スポーツモードや、風景モードと呼ばれるプログラム露出モードに対応するパラメータテーブルが読み込まれる。
【0038】
119は外部I/Fである。システム制御部114は、測光値に基づく露出制御において絞り値、シャッタ速度及びゲインのうち少なくとも1つのパラメータが調整範囲外(制御可能範囲外)である場合に、外部I/F119を介してその旨を通知する情報を外部に出力する。
【0039】
なお、図1には、レンズ一体型のビデオカメラの構成を示したが、レンズ交換型のビデオカメラも本発明の実施例に含まれる。レンズ交換型ビデオカメラの場合には、図1中のレンズ光学系101、アイリス102、ズーム・フォーカス調整部109及びアイリス調整部110が交換レンズに搭載される。
【0040】
図2には、本実施例における露出制御の処理手順を示す。この処理は、不図示のメモリに格納されたコンピュータプログラム(撮像処理プログラム)に従って実行される。以下の説明において、「S」はステップを示す。
【0041】
S201では、システム制御部114は、処理の開始指示(ON)の確認を行う。処理の開始指示が出されていない(OFF)場合には、本処理を終了する。
【0042】
S202では、システム制御部114は、露出モードを確認する。そして、不揮発メモリ118から露出モードに対応した測光値又は動き情報の算出に関連する各種データ、例えば測光エリア情報や動き量算出エリア情報を読み込む。また、上述した制御指針テーブル情報を読み込む。
【0043】
図11には、撮像領域(全画面)内での動き量算出エリアの設定例を示す。この図では、撮像領域IAの中央部分に動き量算出エリアMAを設定し、このエリアMA内の動きベクトルを重点的に検出して動き量算出に用いる。このような設定を、「中央部分重点エリア設定」という。なお、この動き量算出エリアMAと測光エリアとを同じに設定してもよい。
【0044】
S203では、システム制御部114は、画像動き検出部107及び動き量算出部108に動きベクトル及び動き量の算出を行わせる。具体的には、ワークメモリ106に保存されたフレーム(保存のフレーム)とカメラ信号処理部105から最も新しく出力されたカレントフレーム(保存フレームの直後の隣接フレーム)との間で動きベクトルの算出を行わせる。動きベクトルの算出には、ブロックマッチング、相互相関演算、勾配法等に基づくマッチング処理が用いられる。なお、動きベクトルを算出するために用いられる複数のフレームは、上記のような隣接する2つのフレームではなくてもよい。
【0045】
図10には、ブロックマッチングの例を示す。ここでは、左側の画像1001を基準画像とし、右側の画像1002を探索画像とする。まず、基準画像1001内でグリッド状に配置された注目点1004のうちいずれかを中心として、所定サイズの部分領域としてのテンプレート1003を設定する。
【0046】
次に、探索画像1002中で任意の探索領域1007を設定し、探索領域1007を順次移動させながらテンプレート1003と最も合致する位置を探索する。具体的には、探索画像1002中の注目画素1005を基準とした領域1006におけるテンプレート1003との類似度を計算する。類似度の指標としては、SSD(Sum of Square Difference)、SAD(Sum of Absolute Difference)、正規相互相関等が用いられる。探索領域1007での各領域1006の類似度を計算した結果、最も類似度の高い領域1006を対応領域とみなす。そして、テンプレート1003と対応領域間で動きベクトルを算出する。オクルージョンがなければ、基準画像1001上で設定した注目点1004の数だけ動きベクトルが算出される。
【0047】
上記マッチング処理によって動き量算出エリアMA内の複数の領域における動きベクトルが算出され、該動きベクトルから動き量が算出される。
【0048】
動き量は、ビデオカメラと被写体との間の相対的な動きによって生じる振れとシャッタ速度との関係を表す指標となる。したがって、動き量としては、該関係に対応する値ならばどのような値を用いてもよいが、本実施例では、例として、露出モードによって設定された動き量算出エリアにおけるフレーム間での最大移動量[pixel/frame]とする。フレーム間での像の移動が大きければ大きなほど、動き量の値が増加する。
【0049】
S204では、システム制御部114は、測光部112に明るさ情報としての測光値を算出させる。測光部112は、AGC部104からの出力信号を取り込み、該出力信号(輝度レベル)を積分する。そして、その積分結果に対応した露出値(測光値)Evを出力する。
【0050】
測光値に基づく絞り値、シャッタ速度及びゲインの関係の決定には、露出値Evが用いられる。露出値Evは、アペックスシステムとも呼ばれる。Ev=0は、絞り値がF1で、シャッタ速度が1秒で、ゲインが標準(例えば、0dB)のときの適正露出値として定義される。
【0051】
計算を簡単にするために、絞り値及びシャッタ速度に対してAv及びTvを、ゲインに対してSvを対応させる。Fを絞り値(F値)、Tをシャッタ速度(秒)とすると、以下の関係が成り立つ。
【0052】
【数1】

【0053】
ISOはISO感度を表し、SvはISO感度100を基準とした感度の指標を示す。Svには、Ev=0を定義したときの感度を基準とする増幅率の2を底とするlogを対応させる。この結果、Av値とTv値の和がEv値となる。
【0054】
【数2】

【0055】
また、Av値とFとの関係及びTv値とシャッタ速度Tとの関係をそれぞれ、表1及び表2に示す。
【0056】
【表1】

【0057】
【表2】

【0058】
露出値と、絞り及びシャッタ速度の関係を示す方法として、図6に示すようなコード線図が用いられる。
【0059】
図の左側の縦軸が絞り値F、下側の横軸がシャッタ速度Tを表す。各軸上のパラメータ「−」は設定不可能な値である。上側から右側にかけての軸がEv値を表す。
【0060】
コード線図中の太線グラフは、パラメータテーブルによって設定された露出モードに基づく制御方針に対応し、前述したように露出モードの確認時(S202)に読み込まれる。絞り値及びシャッタ速度は、なるべくグラフ上の値になるように設定される。
【0061】
図6には、動画撮像における基本露出モードでのグラフを表している。丸囲みの1のポイントで示すように、絞り値が設定可能な最大値(F=22)となるまでは、シャッタ速度T=1/60を可能限り維持する。そして、絞り値が設定可能な最大値となった後はシャッタ速度を上げていく。ゲインについてはグラフ上には現れない。
【0062】
Svを+1することは、AvとTvをそれぞれ+1とすることと等価である。例えば、S204において算出された測光値がEv=10であった場合、このコード線図に従うと、F=4、T=1/60となる。ゲインは0dBである。
【0063】
図2に戻り、S205では、システム制御部114は、AE算出部113に、Tv,Av,Svを設定させる。AE算出部113は、動き量及び測光値に基づいて、絞り値、シャッタ速度及びゲインに対応するTv,Av,Svの値を算出する。
【0064】
図3には、露出モードに応じて、動き量及び測光値に基づいてTv,Av,Svの値を算出する手順を示す。
【0065】
S301では、AE算出部113は、動き量に基づいてTvminを算出する。Tvminには、映像信号の1フレームの露出時間(1/シャッタ速度)内の動き量が最大動き量の閾値MVmax超えない最大のシャッタ速度Tが割り当てられる。MVmaxには、1/10ピクセル等の値が設定される。MVmaxは、操作信号入力部115における操作によって変更可能である。
【0066】
これにより、例えば図7Aに示すように、露出制御要素のパラメータ空間にシャッタ速度についての利用が不可なパラメータ領域が設定される。図7Aにおいて、左側半分の矩形のハッチング領域が、利用不可なパラメータ領域である。
【0067】
S302では、AE算出部113は、次のS303での露出制御パラメータの算出に対応する露出モードの確認を行う。そして、露出モードに対応したパラメータテーブルが読み込まれていることを確認する。露出モードに対応したパラメータテーブルではない場合は、不揮発メモリ118からパラメータテーブルが読み込まれる。
【0068】
S303では、露出値EvからTv,Av,Svの値を算出する。制御パラメータの決定は、不揮発メモリ118より読み込まれた制御方針に従う。
【0069】
S304では、AE算出部113は、シャッタ速度(Tv)が振れを発生させない最低シャッタ速度Tvminを下回らないことを確認する。
【0070】
制御パラメータTv,Av,Svは、最低シャッタ速度Tvminとは独立に設定される。このため、図7Bに示すように、TvがTvminを上回る場合もあるが、図7Cに示すように、TvがTvminを下回る場合もある。
【0071】
TvがTvminを上回る場合には、算出された制御パラメータセットをそのまま利用し、下回る場合には、振れを生じさせない最低シャッタ速度Tvminを採用し、他の制御パラメータを調整する。
【0072】
S305では、TvがTvminを下回る場合に、Tv=Tvminとし、シャッタ速度を振れを生じさせないシャッタ速度に設定する。
【0073】
S306では、Tvの置き換えに伴い、AvとSvの補正を行う。例えば、Tvmin=9(1/500秒)の場合には、図7Cに矢印で示すようにAvを調整する。また、絞り優先で絞り値を変更できない場合は、図7Dに矢印で示すようにTvを変化させる。いずれの場合も、ゲイン(Sv)の2段分の増加に相当する。
【0074】
Tv値の変化に伴うAv,Sv補正については、コード線図よりも、図8に示すような3次元グラフのほうが分かりやすい。図6、図7C及び図7Dに示したプログラム線図を図8に示す。図8には、測光値が低輝度を示す場合においては、まずゲイン(Sv)を制御し、次に絞り値(Av)を制御し、最後にシャッタ速度(Tv)を制御するという制御方針を示している。
【0075】
図9には、最低シャッタ速度Tvminの変動によるAv値及びSv値の再計算方法を示している。
【0076】
図中の(0)は、Tvminがより低い、初期状態のパラメータセットが設定されている状態を示す。また、(1)はS301での最低シャッタ速度の計算により、Tvmin=8となり、S304にてシャッタ速度が最低シャッタ速度を下回ることが確認され、S305にてTv=Tvminとして設定された状態である。このままでは露出の式を満たさないため、S306でAv,Svの補正を行う。
【0077】
Av,Sv補正においては、(2)に示すように絞り値(Av)を補正する方法と、(3)に示すようにゲイン(Sv)を補正する方法と、(4)に示すように絞り(Av)とゲイン(Sv)の両方を補正する場合との3つの選択肢がある。基本的には、上記3つの選択肢のうち露出モードに応じた制御方針に従った補正方法を選択する。
【0078】
図3に戻って、S307では、AE算出部113は、以上の処理により設定されたTv,Av,Svの値を確定する。
【0079】
図2に戻って、S206では、システム制御部114は、S205にて算出(設定)されたTv,Av,Svの値が調整範囲(制御可能範囲)内であるか否かを確認する。
【0080】
また、S2061では、動き量及び測光値に対して、露出制御要素が調整範囲を超えること(制御可能範囲外となること)を通知する情報を表示部116に表示したり、外部I/F119を通して外部に出力したりする。
【0081】
例えば、本実施例のビデオカメラが車載されている場合に、外部に上記通知情報を出力することで、車の走行速度の低下を促したり、照明の発光を促したりすることが可能となる。これにより、動き量及び測光値の条件が緩和され、露光制御における制御パラメータが調整範囲内となり、良好な露出制御を行えるようになる場合がある。
【0082】
S2062では、Tv,Av,Svの再設定を行う。すなわち、上記調整範囲を超えた設定値を調整範囲内の値に設定し直し、露出制御可能な状態にする。
【0083】
S207では、シャッタ速度、絞り値及びゲインを制御する。すなわち、設定されたTv,Av,Svに応じて、システム制御部114からシャッタ速度制御信号、絞り制御信号及びゲイン制御信号を出力し、露出制御を行う。
【0084】
S208では、処理の継続を確認する。継続する際には、S201に戻る。
【0085】
以上のように、本実施例では、動き量と測光値とに基づいて露出制御要素であるシャッタ速度、絞り値及びゲインを逐次制御することにより、振れや明るさの変動が少ない高品質な映像を取得することができる。
【実施例2】
【0086】
以下、本発明の実施例2であるビデオカメラについて、図4を用いて説明する。
【0087】
本実施例では、実施例1における画像動き検出部による画像からの動き量算出の代わりに、動きセンサ(振れセンサ)601及び動きセンサ制御部602を用いて動き量を求める。すなわち、実施例1(図1)では、画像動き検出部107により任意のフレーム間の動きベクトルが抽出され、動き量算出部108にて映像信号の1フレームの露出時間(1/シャッタ速度)内の動きの指標として動き量を算出した。これに対し、本実施例では、該動き量を、動きセンサ601及び動きセンサ制御部602により求める。
【0088】
なお、図4において、実施例1と共通する構成要素には、実施例1と同符号を付して説明に代える。また、本実施例での処理の手順は、実施例1で図2及び図3を用いて説明した処理と同じである。
【0089】
動きセンサ601は、加速度センサや角加速度センサにより構成される。動きセンサ601は、図5A及び図5Bに示すように、ビデオカメラの位置及び姿勢の変化を出力する。動きセンサ601から出力される加速度信号又は角速度信号を動きセンサ制御部602にて積分することにより、単位時間当たりの移動量又は角度変化量が算出される。
【0090】
例えば、図5Aに示すように、ビデオカメラのX,Y,Z軸方向の移動量を、
【0091】
【数3】

【0092】
(mm/frame)
で表し、図5Bに示すようにX,Y,Z軸回りでの角度変化量をα,β,γ(rad/frame)とする。この場合、撮像素子103上での動き量x”,y”(mm)は、フォーカスレンズ位置等から得られる被写体までの距離d[mm]を用いて、
【0093】
【数4】

【0094】
で表される。ただし、nは被写体を面近似した際の外向き法線であり、本実施例では、
【0095】
【数5】

【0096】
とする。
【0097】
回転行列Rは、
【0098】
【数6】

【0099】
である。べき乗のTは転置を表す。動き量x”,y”を、画素サイズ(mm)で割ることによりピクセル座標単位での動き量が算出できる。
【0100】
実施例1にて説明した単位画像(フレーム)からの動き量算出を行う場合は、被写体とビデオカメラ間の相対的な動きが動き量として検出されるため、手振れ等のカメラの動きによる画像の振れに加えて、被写体の動きによる画像の振れも抑制することができる。
【0101】
一方、本実施例のように、動きセンサ601を用いる場合には、ビデオカメラの動きのみが検出される。したがって、カメラの動きに起因する画像の振れは抑制することが可能であるが、被写体の動きに起因する画像の振れは抑制することができない。
【0102】
しかし、動きセンサ601を用いると、映像のサンプリングレートに比べてはるかに高い周波数で動きを検出することができるため、より正確なカメラの位置及び姿勢の変動を逐次モニタリングできるという利点がある。
【0103】
また、低輝度被写体の画像から動きベクトルを抽出することが困難な場合でも、本実施例では動き量を求めることができる。
【実施例3】
【0104】
次に、本発明の実施例3であるビデオカメラについて、図12を用いて説明する。
【0105】
本実施例では、実施例2のように動きセンサ601及び動きセンサ制御部1302により大まかな動き量を求め、さらに実施例1のように画像からも動き量を算出する。これにより、より高精度でロバストな動き量を求めることができる。
【0106】
なお、図12において、実施例1と共通する構成要素には、実施例1と同符号を付して説明に代える。本実施例での処理の内容は、実施例1で図2及び図3を用いて説明した処理と同じである。
【0107】
本実施例では、動きセンサ601及び動きセンサ制御部1302に加えて、ワークメモリ106と画像動き検出部1301が動きベクトル算出のために搭載されている。動きセンサ601および動きセンサ制御部1302により出力される動き量を、探索画像における注目点の初期位置として探索領域を設定することで、動きベクトルさらには動き量の算出を、高速かつ高い信頼性で行うことができる。
【0108】
また、動きセンサ601による動き検出と画像動き検出部1301による動き検出とを組み合わせることにより、カメラの動きに起因した画像の振れだけでなく、被写体の動きに起因した画像の振れも抑制することができる。
【0109】
また、被写体が低輝度の場合には、画像動き検出部1301による検出結果を用いずに、動きセンサ601による検出結果を用いて動き量を求めることもできる。これにより、被写体が低輝度の場合でも、良好な映像を得ることができる。
【実施例4】
【0110】
次に、本発明の実施例4であるビデオカメラについて、図13A及び図13Bを用いて説明する。図13Aは、時間の経過とともに図2のS205で設定されるTv,Av,Svの値の例を示す。左からフレーム番号、Tv値、Av値、Sv値、Ev値を示す。フレーム番号112〜113の遷移(すなわち、時間経過)に伴って、シャッタ速度(Tv)が急激に変化しており、これに対応するために、絞り値(Av)が急激に変化している。
【0111】
このような制御を実際に行うと、アイリス102は機械的に駆動されるものであるために追従性が低い。このため、一瞬、画像が暗くなったり明るくなったりするというように短時間で明るさが変動するという現象が起きる。一方、もう1つの露出制御要素であるゲインは、電気的に制御されるため、追従性は高い。
【0112】
そこで、本実施例では、シャッタ速度の急激な変化に伴って絞り値を急激に変化させる必要がある場合には、ゲインも一時的に変動させる。言い換えれば、連続する特定数のフレーム間(単位画像間)、例えば、隣接2フレーム間や連続3フレーム間でシャッタ速度を特定値以上変化させる(例えば、Tv値で2段以上変化させる)場合は、絞り値とともにゲインも変化させる。
【0113】
図13Bには、ゲイン(Sv)の調整による明るさ変動を平滑化したときのAv値の変化を示す。図13Bの全体としては、左からフレーム番号、Tv値、Av値、Sv値、Ev値を示す。この図から、ゲイン(Sv)を変化させることによって絞り値(Av)の変化が緩やかになっていることが分かる。
【0114】
このように、Avの急激な変化の一部をSvの変化に置き換えることにより、アイリス102の追従性の低さに起因する画像の明るさ変動を抑えることができる。しかも、アイリス102の機械的駆動によるAvの変化をSvの電気的変化に置き換えることにより、ビデオカメラでの音の発生やバッテリの消耗を抑えることができる。
【実施例5】
【0115】
次に、本発明の実施例5について説明する。本実施例でも、図2のS203で求められた動き情報とS204で求められた明るさ情報(測光値)とに基づいて、S205でシャッタ速度、絞り値及びゲインを調節する。
【0116】
ただし、絞り値は、光量だけでなく、被写界深度にも関係する。絞り値を小さくする(絞りを開く)と被写界深度が浅くなり、絞り値を大きくする(絞りを閉じる)と被写界深度が深くなる。つまり、絞り値を変化させると、ピントが合う深さ方向の範囲までも変化し、撮像視野の奥行き方向の特定の範囲にピントを合わせたいというユーザーの意図とは異なった映像が得られてしまう場合がある。
【0117】
従来の露出制御においても、絞り優先モードやシャッタ優先モードと呼ばれる、絞り値及びシャッタ速度のうち一方の指定しかできなかった。つまり、被写界深度の指定又は動きを抑制するための一定のシャッタ速度の指定しかできなかった。
【0118】
本実施例では、いわゆる絞り優先・振れ抑制モードと呼べる機能を実現する。実施例1,2,3では露出調整において絞り(アイリス102)を用いたのに対して、本実施例では絞りを固定して露出調整を行う。
【0119】
具体的には、操作信号入力部115を通じて、制御方針テーブルとして絞り値を固定したテーブルを指示できるようにする。そして、固定絞り値が入力されると、S205のTv,Av,Svの設定における絞り値が固定される。絞り値を固定した以外は、実施例1〜3における露出制御を行う。
【0120】
さらに、図3を用いて説明すると、まずS303(露出モード確認)においてパラメータテーブルとして絞り値固定のテーブルを読み込む。そして、S306(Av,Sv補正)では、Av(絞り値)を固定してTv(シャッタ速度)のTvmin(振れを生じさせない最低シャッタ速度)への補正分を、Sv(ゲイン)の制御により補償する。言い換えれば、図9に示した最低シャッタ速度の変動に伴うAv,Svの再計算の選択を、(3)で示すゲイン(Sv)の補正に限定する。
【0121】
このように、絞り値を固定することにより、撮像者の意図した被写界深度の設定を維持したまま、振れ及び急激な明るさ変動を抑制した映像を得ることできる。
【0122】
図14A及び図14Bには、絞り優先・振れ抑制モードにおける露出制御要素の変化を示す。
【0123】
図14Aには、図2のS204で算出されたEv値と、それに合わせてプログラム線図より算出されたTv,Av,Svの値をフレームごとに示している。ここでは、S303で算出されるAvが3で、絞り優先であるためにそのAv=3が固定されている場合を示す。
【0124】
一方、図14Bには、シャッタ速度をTvminに変更し、その補正を行った結果を示す。シャッタ速度がTvmin以上であり、絞り優先であるため、ゲイン(Sv)のみを用いて補正を行っている。
【0125】
以上説明したように、上記各実施例によれば、映像信号における複数のフレーム及びビデオカメラの動きを検出する動きセンサのうち少なくとも一方を用いて動き量を表す動き情報を生成する。そして、被写体の明るさ情報と上記動き情報とに基づいて、絞り値、シャッタ速度及びゲインを制御する。このため、急激な明るさ情報の変化に加えて、急峻な動き量の変化にも対応した、振れ及び急激な明るさ変動が少ない高品質な映像を取得可能な撮像装置を実現することができる。
【0126】
なお、上記各実施例は例にすぎず、本発明の実施例はこれらに限定されない。各実施例の様々な変更や変形も可能である。
【図面の簡単な説明】
【0127】
【図1】本発明の実施例1である撮像装置(ビデオカメラ)の構成を示すブロック図。
【図2】実施例1における露出制御の処理手順を示すフローチャート。
【図3】実施例1におけるTv,Av,Svの算出手順を示すフローチャート。
【図4】実施例2の撮像装置の構成を示すブロック図。
【図5A】本発明の実施例2である撮像装置の動きセンサによる動き検出を示す図。
【図5B】上記動きセンサによる角変位検出を示す図。
【図6】実施例1におけるプログラム線図の例を示す図。
【図7A】実施例1におけるパラメータ制御の例を示す図。
【図7B】実施例1におけるパラメータ制御の例を示す図。
【図7C】実施例1におけるパラメータ制御の例を示す図。
【図7D】実施例1におけるパラメータ制御の例を示す図。
【図8】実施例1における露出制御要素のパラメータ空間を示す図。
【図9】実施例1における動き量に基づく露出制御要素の決定方法を示す図。
【図10】実施例1におけるブロックマッチング処理を説明する図。
【図11】実施例1における動き量算出エリアを示す図。
【図12】本発明の実施例3である撮像装置の構成を示すブロック図。
【図13A】露出制御要素の変化を示す図。
【図13B】本発明の実施例4である撮像装置における露出制御要素の変化を示す図。
【図14A】本発明の実施例5である撮像装置における絞り優先・振れ抑制モードでの露出制御要素の変化を示す図。
【図14B】本発明の実施例5である撮像装置における絞り優先・振れ抑制モードでの露出制御要素の変化を示す図。
【符号の説明】
【0128】
101 レンズ光学系
102 アイリス
103 撮像素子
104 AGC部
105 カメラ信号処理部
106 ワークメモリ
107 画像動き検出部
108 動き量算出部
109ズーム・フォーカス調整部
110 アイリス調整部
111 撮像素子制御部
112 測光部
113 AE算出部
114 システム制御部
115 操作信号入力部
116 表示部
118 不揮発メモリ
119 外部I/F


【特許請求の範囲】
【請求項1】
被写体像を光電変換する撮像素子と、
該撮像素子から出力される撮像信号に基づいて映像を生成する映像生成手段と、
前記撮像信号に対するゲイン調整を行うゲイン調整手段と、
前記映像を構成する複数の単位画像及び該撮像装置の動きを検出するセンサのうち少なくとも一方を用いて動き情報を生成する動き情報生成手段と、
前記明るさ情報及び前記動き情報に基づいて、前記撮像素子が受ける光量を調節する絞りの絞り値、前記撮像素子のシャッタ速度及び前記ゲイン調整手段におけるゲインを制御する露出制御手段とを有することを特徴とする撮像装置。
【請求項2】
前記露出制御手段は、連続する特定数の単位画像間で前記シャッタ速度を特定値以上変化させる場合は、前記絞り値とともに前記ゲインも変化させることを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記露出制御手段は、前記絞り値を固定して、前記シャッタ速度及び前記ゲインを変更するモードを有することを特徴とする請求項1に記載の撮像装置。
【請求項4】
前記露出制御手段は、前記シャッタ速度、絞り、ゲインのうち少なくとも1つが制御可能範囲外となる場合に、これを通知する情報を出力することを特徴とする請求項1から3のいずれか1つに記載の撮像装置。


【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5A】
image rotate

【図5B】
image rotate

【図6】
image rotate

【図7A】
image rotate

【図7B】
image rotate

【図7C】
image rotate

【図7D】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13A】
image rotate

【図13B】
image rotate

【図14A】
image rotate

【図14B】
image rotate


【公開番号】特開2008−289032(P2008−289032A)
【公開日】平成20年11月27日(2008.11.27)
【国際特許分類】
【出願番号】特願2007−133796(P2007−133796)
【出願日】平成19年5月21日(2007.5.21)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】