説明

撮像装置及び撮像装置の制御方法

【課題】 動画像を記録する際の画質を向上させる。
【解決手段】 全てのフレームで画像信号(本撮影画像)を得る駆動モードAと、本撮影画像を得た後の1又は複数フレームでは信号を空転送してダミー信号を得る駆動モードBを、撮像素子306での動画像の撮像時の駆動モードとして設定する。そして、撮像素子306における動画記録駆動を行うに際し、撮像素子306の温度に依存して発生するノイズ成分に対して、当該ノイズ成分が目立つ温度では駆動モードBで撮像素子306を駆動してダークノイズ補正処理を行う。一方、ノイズ成分が目立たない温度では駆動モードAで撮像素子306を駆動してダークノイズ補正を行わない。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置及び撮像装置の制御方法に関し、特に、動画像を撮像するために用いて好適なものである。
【背景技術】
【0002】
デジタルカメラにおいて画像を撮影する際、暗電流ノイズ(ランダムノイズ)やキズ以外にも様々なダークノイズが画質を劣化させる要因として問題となる。例えば、キズ以外のダークノイズとして、図13(a)〜(c)に挙げるような現象がある。
【0003】
図13(a)は、ダーク画像に縦線キズが発生している様子を示す図である。CCD撮像素子においては、VCCD上にキズが存在し、そこから暗電流が漏れ出すことで縦線キズが発生する。
図13(b)は、ダーク画像に高温縦スジが発生している様子を示す図である。CCD撮像素子においては、VCCD毎に発生する暗電流量が異なることで高温縦スジが発生する。
【0004】
図13(c)は、水平シェーディングの水平方向での出力レベルを表す図である。図13(c)の縦軸が出力レベルを表し、横軸が画像の水平方向の位置を表している。CCD撮像素子においては、VCCD毎に発生する暗電流量が異なることで水平シェーディングが発生する。
図13(a)〜(c)に示すダークノイズは、いずれも温度依存性(温度が高いほど目立つ)、フレームレート(駆動周波数)依存性(フレームレートが低いほど目立つ)があり、高ゲイン時に目立つ傾向にある。
【0005】
従来、静止画像を記録する際には、露光した状態で電荷蓄積を行った撮像素子から本撮影画像を得た後に、撮像素子を露光しない状態で電荷蓄積を行った撮像素子からダーク画像を得て、これらに基づく演算処理を行うことで、ダークノイズの補正処理を行っている。更に、特許文献1に記載の発明では、連続撮影する際に、露光時間が以前の撮影条件よりも長くならない場合には、以前に撮影したダーク画像を用いてダークノイズ補正処理を行っている。これによりダーク画像を撮影することによるレリーズタイムラグの延長を防ぎ、撮像装置の消費電力の増大を低減させ、且つ、撮影のコマ間隔のバラツキを防ぐことができる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特許第3332897号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
一方で、動画像を記録する際にも、前述したダークノイズが発生するものの、従来、静止画像に比べ動画像には高い画質が求められなかった。このため、動画像を記録する際には、静止画像を記録するときに行われるダークノイズの補正処理を行う必要がなかった。
ところが、近年、ハイビジョン画質等で動画像を記録することが行われており、動画記録モードにおいても、高画質が求められる様になってきている。また、撮像素子の画素素子サイズの縮小化により、ダークノイズ特性が悪化する傾向にあり、ダークノイズ補正の必要性が高まっている。
しかしながら、動画像を記録する際には、撮像素子は常に露光している状態である。よって、前述したようなダークノイズの補正処理を行うことはできない。
本発明は、このような問題点に鑑みてなされたものであり、動画像を記録する際の画質を向上させることを目的とする。
【課題を解決するための手段】
【0008】
本発明の撮像装置は、2次元に配列された複数の画素と、前記画素にて露光された電荷に基づく信号を含む信号を転送する転送部と、を含む撮像素子を用いて少なくとも動画像を撮像する撮像装置であって、前記画素に露光された電荷を読み出して前記転送部から転送することで撮像信号を得る第1の撮像動作と、前記画素に露光された電荷を読み出さずに前記転送部を空転送することでダミー信号を得る第2の撮像動作とが交互に行われるように、前記撮像素子を駆動する制御手段と、前記第1の撮像動作により得られた撮像信号に含まれるノイズ成分を、前記第2の撮像動作により得られた、前記撮像信号に対応するダミー信号を用いて除去することによりダークノイズ補正を行う撮像信号処理手段と、を有することを特徴とする。
【発明の効果】
【0009】
本発明によれば、画素に露光された電荷から撮像信号を得る第1の撮像動作と、転送部を空転送することでダミー信号を得る第2の撮像動作とを交互に行う。そして、第1の撮像動作により得られた撮像信号に含まれるノイズ成分を、当該撮像信号に対応するダミー信号を用いて除去する。よって、動画像に含まれるダークノイズを補正して動画像を記録する際の画質を向上させることができる。
【図面の簡単な説明】
【0010】
【図1】固体撮像素子の構成の概略を示す図である。
【図2】色フィルタアレイの一部を示す図である。
【図3】撮像装置のシステムの概要を示す図である。
【図4】撮像シーケンスの第1の例を説明するフローチャートである。
【図5】本撮影画像の領域を示す図である。
【図6】駆動モードAにおける撮像素子の垂直転送駆動タイミングを示す図である。
【図7】駆動モードBにおける撮像素子の垂直転送駆動タイミングを示す図である。
【図8】ダークノイズ補正処理を説明するフローチャートである。
【図9】本撮影フレーム及びダミー信号フレームを示す図である。
【図10】撮像シーケンスの第2の例を説明するフローチャートである。
【図11】ガンマカーブ(ガンマ特性)の一例を示す図である。
【図12】撮像シーケンスの第3の例を説明するフローチャートである。
【図13】ダークノイズを示す図である。
【発明を実施するための形態】
【0011】
(第1の実施形態)
以下、本発明の第1の実施形態について、図1〜図8を用いて説明する。
図1は、本実施形態の固体撮像素子の構成の概略を示す図である。図1において、101はフォトダイオードであり、102は垂直電荷転送路であり、103は水平電荷転送路である。104は出力部であり、105はバッファストレージセルであり、106はトランスファゲートである。
【0012】
垂直電荷転送路102は、それぞれ、駆動パルスφV1、φV2、φV3、φV4が加わる転送電極V1、V2、V3、V4にて構成される転送部である。垂直電荷転送路102の最終段のバッファストレージセル105及びトランスファゲート106は、それぞれ、駆動パルスφBS、φTSが加わる転送電極BS、TSにて構成されている。水平電荷転送路103は、それぞれ、2相駆動パルスφH1及びφH2が加わる転送電極である電極H1及びH2にて構成される転送部である。
【0013】
2次元に配列された複数の画素となるフォトダイオード101で露光されて光電変換された信号電荷は、読み出しパルスにより垂直電荷転送路102に送られる。垂直電荷転送路102に送られた信号電荷は、駆動パルスφV1、φV2、φV3、φV4、φBS、φTSにより水平電荷転送路103の方向へ順に転送される。水平電荷転送路103は、垂直電荷転送路102から転送されて来た1行分の信号電荷を2相駆動パルスφH1及びφH2により出力部104に転送する。出力部104は、水平電荷転送路103から転送された信号電荷を電圧に変換して出力する。
【0014】
図2は、図1に示す固体撮像素子で使用される色フィルタアレイの一部を示す図である。
図2では、第1の色フィルタを赤(R)、第2の色フィルタを緑(G)、第3の色フィルタを緑(G)、第4の色フィルタを青(B)とした場合を例に挙げて示している。この色フィルタアレイの配列は、原色の色フィルタ配列のうち、ベイヤ配列と呼ばれるものである。ベイヤ配列は、高い解像度と優れた色再現性とを備えた色フィルタ配列である。
【0015】
図3は、撮像素子を用いた撮像装置のシステムの概要の一例を示す図である。
図3において、301はレンズ部(レンズと表記)である。302はレンズ駆動部である。303はメカニカルシャッタ(メカシャッタと表記)である。304はメカニカルシャッタ・絞り駆動部(シャッタ・絞り駆動部と表記)である。305は絞りである。306は、図1に示す構成を有する撮像素子である。307は、相関2重サンプリング、ゲイン調整、及びA/D変換を行う回路(CDS・A/Dと表記)である。308は撮像信号処理回路である。309はタイミング発生部である。310はメモリ部(メモリ部Iと表記)である。311は全体制御演算部である。312は記録媒体制御インターフェース部(記録媒体制御I/F部と表記)である。313は表示部である。314は記録媒体である。315は外部インターフェース部(外部I/F部と表記)である。316はメモリ(メモリ部IIと表記)である。317は操作部である。318は温度センサである。
【0016】
レンズ部301を通った被写体像は、絞り305にて適切な光量に調整され、撮像素子306に結像される。CDS・A/D307は、撮像素子306に結合した被写体像に対して、相関2重サンプリングと、ゲイン調整と、アナログ信号からデジタル信号への変換を行うA/D変換とが行い、R、G1、G2、Bの信号として、撮像信号処理回路308に送る。撮像信号処理回路308は、各種の画像信号処理、さらに各種の補正、画像データの圧縮等を行う。
【0017】
レンズ駆動部302は、ズーム、フォーカス等の駆動制御をレンズ部301に対して行う。メカシャッタ303は、一眼レフカメラに使用されるフォーカルプレーン型のシャッタの後幕に相当する幕のみを有するシャッタ機構である。これらのメカシャッタ303、絞り305の駆動は、シャッタ・絞り駆動部304によって制御される。タイミング発生部309は、撮像素子306、撮像信号処理回路308に、各種タイミング信号を出力する。
【0018】
全体制御演算部311は、撮像装置全体の制御と各種演算を行う。メモリ部310は、画像データを一時的に記憶する。記録媒体制御インターフェース部312は、記録媒体314との間で、画像データ等のデータの記録及び読み出しを行う。表示部313は、画像データ等のデータの表示を行う。記録媒体314は、半導体メモリ等の着脱可能な記録媒体であり、画像データ等のデータの記録を行う。外部インターフェース部315は、外部コンピュータ等と通信を行うために為のインターフェースである。
【0019】
メモリ部316は、全体制御演算部311で行われた演算の結果等を記憶する。操作部317にてユーザが設定した撮像装置の駆動条件に関する情報は、全体制御演算部311に送られ、これらの情報に基づいて撮像装置全体の制御が行われる。温度センサ318は撮像素子306の近くに取り付けられ、撮像素子306の表面温度を検出する。
尚、フォーカス、絞り値、露出時間を決める露出制御は、撮像装置に搭載された、シャッタスイッチ(図示せず)のONをトリガーとして行われる。シャッタスイッチは、2段階にON、OFFを行うことができ、1段目のシャッタスイッチをSW1、2段目のシャッタスイッチをSW2とする。
【0020】
次に、図4のフローチャートを参照しながら、本実施形態の撮像装置の撮像シーケンスの一例を説明する。ここでは、動画記録モードでの撮像装置の動作の一例を示す。
まず、ステップS401において、全体制御演算部311は、フラグや制御変数等を初期化し、撮像信号処理回路308の各部において必要な所定の初期設定を行う。このときの駆動モード(動画記録モード)は、駆動モードA(第1の動画記録モード)である。
次に、ステップS402において、全体制御演算部311は、シャッタスイッチSW1がON及びOFFの何れであるかを判定する。この判定の結果、シャッタスイッチSW1がOFFであるならば、再びステップS402に戻る。一方、シャッタスイッチSW1がONであるならば、ステップS403に進む。
【0021】
ステップS403に進むと、全体制御演算部311は、測距処理を行うことにより、レンズ駆動部302を制御して、レンズ部301のレンズの焦点を被写体に合わせる。また、全体制御演算部311は、絞り値及びシャッタ時間を決定するために測光処理を行い、全体制御演算部311の内部メモリであるメモリ部316に、測光データ或いは設定パラメータを記憶する。
次に、ステップS404において、全体制御演算部311は、メモリ部316に記憶した測光データ或いは設定パラメータと、撮像装置に設定されている撮影モードとに基づいて、絞り値(Av値)及びシャッタ速度(Tv値)を決定する。そして、全体制御演算部311は、そのシャッタ速度に応じて、電荷の蓄積時間を決定し、決定した蓄積時間を、全体制御演算部311の内部メモリであるメモリ部316に記憶する。
【0022】
次に、ステップS405において、全体制御演算部311は、シャッタスイッチSW2がON及びOFFの何れであるかを判定する。この判定の結果、シャッタスイッチSW2がOFFであるならば、再びステップS402に戻る。一方、シャッタスイッチSW2がONであるならば、ステップS407に進む。
ステップS407に進むと、全体制御演算部311は、タイミング発生部309に対して、撮像素子306に蓄積した信号電荷の読み出しを指示する。撮影に対応する所定時間蓄積した信号電荷(撮像信号)は、撮像素子306から読み出され、CDS・A/D307を経て、撮像信号処理回路308に送られる。
【0023】
次に、ステップS408において、撮像信号処理回路308及び全体制御演算部311は、本撮影画像に対して、信号処理を行う。信号処理には、ダークノイズ補正処理、シェーディング補正処理、点キズ補正処理、ホワイトバランス積分演算処理、オプティカルブラック積分演算処理、及びスミア補正処理が含まれる。スミア補正は、駆動モードA(第1の動画記録モード)にて撮像素子306を駆動しているときに行われる。一方、駆動モードB(第2の動画記録モード)にて撮像素子306を駆動しているときにはスミア補正は行われない。
【0024】
ここで、スミア補正の方法の一例を、図5を用いて説明する。図5は、本撮影画像の領域の一例を示す図である。
図5において、501は画像信号領域である。502はOB(オプティカルブラック)信号領域である。503はスミア量検出領域である。基本的に、撮像素子306の駆動方法から、画像信号領域501上であろうとOB信号領域502上であろうと、スミアの発生量は、垂直方向の位置によらず同じになる。そこで、図5に示すように、画面下部のOB信号領域502に、例えば10ライン(10行)のスミア量検出領域503を設ける。上からN番目のスミア検出ラインの水平方向のj番目データ出力をlNjとすると、水平方向のj列目のスミア量sMjは以下の(1)式のように表される。
【0025】
Mj=1/10・(Σj=110Nj) ・・・(1)
このとき、スミア補正された信号s(i,j)は元の信号s0(i,j)から以下の(2)式ように求められる。
s(i,j)=s0(i,j)−sMj ・・・(2)
【0026】
全体制御演算部311は、以上のような演算の結果を、全体制御演算部311の内部メモリであるメモリ部316に格納する。各種処理が行われた画像データは、メモリ部310に書き込まれる。ステップS408で行われるダークノイズ補正処理については後ほど詳述する。
【0027】
さらに、ステップS409において、全体制御演算部311は、メモリ部310に書き込まれた画像信号を読み出して、圧縮・伸張処理を行いメモリ部310に格納する。
次に、ステップS410において、全体制御演算部311は、メモリ部310に書き込まれた画像信号を読み出して、記録媒体314への書き込みを行う記録処理を開始する。 そして、ステップS411において、全体制御演算部311は、記録処理を終了するか否かを判定する。この判定の結果、記録処理を終了する場合には、図4のフローチャートによる処理を終了する。
【0028】
一方、記録処理を終了しない場合には、ステップS412に進む。ステップS412に進むと、全体制御演算部311は、温度センサ318から、撮像素子306の温度情報を入手する。
次に、ステップS413において、全体制御演算部311は、ステップS412で入手した撮像素子306の温度Tが、全体制御演算部311の内部メモリであるメモリ部316から読み出した閾値TThを超えているか否かを判定する。この判定の結果、撮像素子306の温度Tが、閾値TThを超えていれば、ステップS414へ進む。一方、撮像素子306の温度Tが、閾値TThを超えていなければ、ステップS415に進む。
【0029】
ステップS414に進むと、全体制御演算部311は、現状の駆動モードが駆動モードBであればそのままの駆動モードとし、現状の駆動モードが駆動モードAであれば駆動モードBへと駆動モードを切り替える。一方、ステップS415に進むと、全体制御演算部311は、現状の駆動モードが駆動モードAであればそのままの駆動モードとし、現状の駆動モードが駆動モードBであれば駆動モードAへと駆動モードを切り替える。以上のようにステップS414、415にて駆動モードを切り換えた後、ステップS406へ進む。
ステップS406に進むと、全体制御演算部311は、絞り値(Av値)、シャッタ速度(Tv値)を決定する。これらは、直前のステップS406〜S415の処理中に、操作部317のユーザによる操作により変更された撮像システムの設定パラメータや撮影モードと、直前のステップS407で撮影された本撮影画像とを元に決定される。そして、全体制御演算部311は、そのシャッタ速度に応じて、電荷の蓄積時間を決定し、決定した蓄積時間を、全体制御演算部311の内部メモリであるメモリ部316に記憶する。そして、前述したステップS407へ進む。
【0030】
図6は、駆動モードAにおける撮像素子306の垂直転送駆動タイミングの一例を示すタイミングチャートである。また、図7は、駆動モードBにおける撮像素子306の垂直転送駆動タイミングの一例を示すタイミングチャートである。
図6及び図7では、上からVD、HD、V系駆動パルス、出力信号を示している。601、701は読み出しパルスである。602、702はOB信号出力である、603、703は信号出力である。604、704はダミー信号出力である。
図6に示すように、駆動モードAでは、全てのフレームで読み出しパルス601を印加して、常に垂直電荷転送路102に、OB信号出力602や信号出力603を送り出す第1の撮像動作を行い、本撮影画像を得る。
【0031】
一方、図7に示す駆動モードBでは、まず、読み出しパルス701により、垂直電荷転送路102に、OB信号出力702や信号出力703を1フレーム分送り出す第1の撮像動作を行う。その後、フォトダイオード101から信号出力を読み出さずに、1フレーム分又は複数フレーム分、垂直電荷転送路102を空転送してダミー信号704のみを送り出す第2の撮像動作を行う。つまり、駆動モードBでは、本撮影画像の後に常にダミー画像を読み出している。
【0032】
図8のフローチャートを参照しながら、図4のステップS408で行われるダークノイズ補正処理の一例について説明する。
まず、ステップS801において、全体制御演算部311は、現在の駆動モードに関する情報を、全体制御演算部311の内部メモリであるメモリ部316から読み出す。そして、全体制御演算部311は、現在の駆動モードが駆動モードA、Bの何れであるかを判定する。
【0033】
この判定の結果、現在の駆動モードが駆動モードAであれば、図8のフローチャートによる処理を終了する。一方、現在の駆動モードが駆動モードBであれば、ステップS802に進む。ステップS802に進むと、全体制御演算部311は、1フレーム分又は複数フレーム分のダミー信号を読み出す。そして、全体制御演算部311は、読み出したダミー信号が1フレーム分のダミー信号である場合には、そのフレームからダミー画像を生成する。一方、読み出したダミー信号が複数フレームにわたるダミー信号である場合には、全体制御演算部311は、それら複数のフレーム(の出力レベル)を加算平均したダミー画像を生成する。さらに、全体制御演算部311は、メモリ部310から、その前のフレームで生成された黒引き画像を読み出し、この黒引き画像とダミー画像とを一定の割合で加算し、黒引き画像を生成する。そして、ステップS803において、撮像信号処理回路308は、この黒引き画像を用いて、本撮影画像のノイズ成分を除去するダークノイズ補正処理を行う。
【0034】
図9は、駆動モードBで撮像素子306を駆動させる際に、撮像素子306から読み出される本撮影フレーム、ダミー信号フレームを、それらが読み出される順に時系列的に並べて示す図である。図9(a)は、本撮影フレームと、ダミー信号フレームとを1フレームずつ交互に読み出す場合を示す。図9(b)は、本撮影フレームの1フレームに対し、ダミー信号フレームを複数フレーム読み出す場合を示す。
【0035】
図9に示すように、交互に出力される「本撮影画像、ダミー画像」のn番目の画像(の出力レベル)をそれぞれ「Sn、Dn」とする。本撮影フレームの1フレームに対しダミー信号フレームを複数フレーム読み出す場合には、それら複数読み出されたダミー信号フレーム(の出力レベル)を加算したものをダミー画像Dnとする。図9(b)に示す例では、Dn=dnA+dnB+dnCとなる。このとき、メモリ部310に格納されている黒引き画像をBn-1とすると、本撮影画像Snのダークノイズ補正処理に用いられる黒引き画像Bnは以下の(3)式で表される。
【0036】
n=K・Dn+(1−K)・Bn-1 (0.5<K<1) ・・・(3)
(3)式において、Kは重み係数である。(3)式に示すように、全体制御演算部311は、以前のフレームで使用された黒引き画像Bn-1よりも、直前に複数のダミー画素Dnから算出されたダミー画像Dnの重みが大きくなるように、黒引き画像Bnを算出する。
本撮影画像Snに対してダークノイズ補正処理が施された後の画像をSn'とすると、以下の(4)式が成立する。
n'=Sn−Bn+α (αは、オフセット成分) ・・・(4)
【0037】
尚、本実施形態では、スミア補正処理を本撮影画像に対してのみ行っているが、ダミー画像にもスミア補正処理を行うことも可能である。このようにする場合、ダークノイズ補正処理を行う前にスミア補正処理を行う必要がある。
【0038】
以上のように本実施形態では、全てのフレームで画像信号(本撮影画像)を得る駆動モードAと、本撮影画像を得た後の1又は複数フレームでは信号を空転送してダミー信号を得る駆動モードBを、撮像素子306での動画像の撮像時の駆動モードとして選択する。そして、撮像素子306における動画記録駆動を行うに際し、撮像素子306の温度に依存して発生するノイズ成分に対して、当該ノイズ成分が目立つ温度では駆動モードBで撮像素子306を駆動してダークノイズ補正処理を行う。一方、ノイズ成分が目立たない温度では駆動モードAで撮像素子306を駆動してダークノイズ補正を行わない。したがって、撮像装置の動作環境に応じて発生するノイズを補正することができ、優れた画質の動画像を得ることができる。
【0039】
(第2の実施形態)
以下、本発明の第2の実施形態について説明する。第1の実施形態では、撮像素子306の温度Tが閾値TThを超えている場合に駆動モードBで撮像素子306を駆動し、そうでない場合に駆動モードAで撮像素子306を駆動するようにした。これに対し、本実施形態では、ISO感度としてのゲイン設定値が閾値を超えている場合に駆動モードBで撮像素子306を駆動し、そうでない場合に駆動モードAで撮像素子306を駆動する。このように本実施形態と第1の実施形態とでは、駆動モードを切り替える判断基準が主として異なる。よって、本実施形態の説明において、第1の実施形態と同一の部分については図1〜図10に付した符号と同一の符号を付す等して詳細な説明を省略する。例えば、本実施形態における固体撮像素子の構成、撮像素子を用いた撮像装置のシステムの概要は、図1〜図3に示したものと同じである。また、使用する駆動モード、ダークノイズ補正処理についても、図6〜図9に示したものと同じである。更に、スミア補正処理についても第1の実施形態で説明したものと同じである。よって、これらの詳細な説明を省略する。
【0040】
図10のフローチャートを参照しながら、本実施形態の撮像装置の撮像シーケンスの一例を説明する。ここでは、動画記録モードでの撮像装置の動作の一例を示す。
図10のステップS1001〜S1005、S1007〜S1011は、図4のステップS401〜S405、S407〜S411と同じである。
すなわち、ステップS1001において、全体制御演算部311は、初期設定を行う。このときの駆動モードは駆動モードAである。次に、全体制御演算部311は、ステップS1002において、シャッタスイッチSW1がONであると判定すると、ステップS1003において、測距処理と測光処理を行い、ステップS1004において、電荷の蓄積時間を決定する。
【0041】
次に、全体制御演算部311は、ステップS1005において、シャッタスイッチSW2がONであると判定すると、ステップS1007において、撮像素子306に蓄積した信号電荷の読み出しを指示する。これにより、撮像素子306に所定時間蓄積した信号電荷(撮像信号)が撮像信号処理回路308に送られる。次に、ステップS1008において、撮像信号処理回路308及び全体制御演算部311は、本撮影画像に対して、信号処理を行う。第1の実施形態と同様に、信号処理には、ダークノイズ補正処理、シェーディング補正処理、点キズ補正処理、ホワイトバランス積分演算処理、オプティカルブラック積分演算処理、及びスミア補正処理が含まれる。スミア補正の方法は第1の実施形態で説明したのと同じである。
【0042】
次に、全体制御演算部311は、ステップS1009において、信号処理が行われた画像信号に対して圧縮・伸張処理を行い、ステップS1010において、圧縮・伸張処理を行った画像信号の記録媒体314への書き込みを行う記録処理を開始する。
そして、ステップS1011において、全体制御演算部311は、記録処理を終了するか否かを判定する。この判定の結果、記録処理を終了する場合には、図10のフローチャートによる処理を終了する。
【0043】
一方、記録処理を終了しない場合には、ステップS1012に進む。ステップS1012に進むと、全体制御演算部311は、全体制御演算部311の内部メモリであるメモリ部316に格納されているゲイン設定値Gが、同じくメモリ部316に格納されている閾値GThを超えているか否かを判定する。この判定の結果、ゲイン設定値Gが閾値GThを超えていれば、ステップS1013へ進む。一方、ゲイン設定値Gが閾値GThを超えていなければ、ステップS1014に進む。
【0044】
ステップS1013に進むと、全体制御演算部311は、現状の駆動モードが駆動モードBであればそのままの駆動モードとし、現状の駆動モードが駆動モードAであれば駆動モードBへと駆動モードを切り替える。一方、ステップS1014に進むと、全体制御演算部311は、現状の駆動モードが駆動モードAであればそのままの駆動モードとし、現状の駆動モードが駆動モードBであれば駆動モードAへと駆動モードを切り替える。以上のようにステップS1013、1014にて駆動モードを切り換えた後、ステップS1006へ進む。
ステップS1006に進むと、全体制御演算部311は、図4のステップS406と同様にして、絞り値(Av値)、シャッタ速度(Tv値)を決定する。そして、全体制御演算部311は、そのシャッタ速度に応じて、電荷の蓄積時間を決定し、決定した蓄積時間を、全体制御演算部311の内部メモリであるメモリ部316に記憶する。そして、前述したステップS1007へ進む。
【0045】
以上のように本実施形態では、撮像素子306における動画記録駆動を行うに際し、特にノイズ成分の目立つ高ゲイン設定時に、駆動モードBで撮像素子306を駆動してダークノイズ補正処理を行う。一方、低ゲイン設定時には駆動モードAで撮像素子306を駆動してダークノイズ補正を行わない。したがって、撮像装置の動作条件(動作設定)に応じて発生するノイズを補正することができ、高ゲイン設定時においても高い画質の動画像を得ることができる。また、撮像装置の消費電力の削減を実現することができる。
【0046】
本実施形態では、カメラのISO感度としてのゲイン設定値Gに応じて、駆動モードを切り換える場合を例に挙げて説明した。ゲイン設定値の代わりに、ガンマ設定に応じて駆動モードを切り換えるようにしてもよい。
図11は、ガンマカーブ(ガンマ特性)の一例を示す図である。
図11において、1101は、通常の明るさの被写体を撮影するモードにおいて画像処理の際に使用するガンマカーブである。一方、1102は、通常よりも暗い被写体を撮影するモードにおいて画像処理の際に使用するガンマカーブである。ガンマカーブ1102を使用する場合には、ガンマカーブ1101を使用する場合に比べ、画像処理時に付加されるゲインが大きくなるためノイズ特性が悪化する。そこでガンマカーブ1101を使用する場合には、駆動モードを駆動モードAとし、ガンマカーブ1102を使用する場合には駆動モードを駆動モードBとする。以上のように、ガンマ設定に応じて駆動モードを切り換えることで、相対的にノイズ特性が悪化するガンマカーブ1102を使用するような場合であっても、その後のダークノイズ補正処理を行うことで高い画質の動画像を実現することができる。このように、ガンマ値γが閾値を超えている場合には、駆動モードを駆動モードBとし、そうでない場合には駆動モードを駆動モードAとすることができる。
【0047】
(第3の実施形態)
以下、本発明の第3の実施形態について説明する。本実施形態では、撮像素子306の駆動周波数設定値fが閾値fThを超えている場合に駆動モードAで撮像素子306を駆動し、そうでない場合に駆動モードBで撮像素子306を駆動する。このように本実施形態と、第1、第2の実施形態とでは、駆動モードを切り替える判断基準が主として異なる。よって、本実施形態の説明において、第1、第2の実施形態と同一の部分については図1〜図12に付した符号と同一の符号を付す等して詳細な説明を省略する。
【0048】
図12のフローチャートを参照しながら、本実施形態の撮像装置の撮像シーケンスの一例を説明する。ここでは、動画記録モードでの撮像装置の動作の一例を示す。
図12のステップS1201〜S1205、S1209〜S1213は、図4のステップS401〜S405、S407〜S411及び図10のステップS1001〜S1005、S1007〜S1011と同じである。
すなわち、ステップS1201において、全体制御演算部311は、初期設定を行う。このときの駆動モードは駆動モードAである。次に、全体制御演算部311は、ステップS1202において、シャッタスイッチSW1がONであると判定すると、ステップS1203において、測距処理と測光処理を行い、ステップS1204において、電荷の蓄積時間を決定する。
【0049】
次に、全体制御演算部311は、ステップS1205において、シャッタスイッチSW2がONであると判定すると、ステップS1209において、撮像素子306に蓄積した信号電荷の読み出しを指示する。これにより、撮像素子306に所定時間蓄積した信号電荷(撮像信号)が撮像信号処理回路308に送られる。次に、ステップS1210において、撮像信号処理回路308及び全体制御演算部311は、本撮影画像に対して、信号処理を行う。第1の実施形態と同様に、信号処理には、ダークノイズ補正処理、シェーディング補正処理、点キズ補正処理、ホワイトバランス積分演算処理、オプティカルブラック積分演算処理、及びスミア補正処理が含まれる。スミア補正の方法は第1の実施形態で説明したのと同じである。
【0050】
次に、全体制御演算部311は、ステップS1211において、信号処理が行われた画像信号に対して圧縮・伸張処理を行い、ステップS1212において、圧縮・伸張処理を行った画像信号の記録媒体314への書き込みを行う記録処理を開始する。
そして、ステップS1213において、全体制御演算部311は、記録処理を終了するか否かを判定する。この判定の結果、記録処理を終了する場合には、図12のフローチャートによる処理を終了する。
【0051】
一方、記録処理を終了しない場合には、ステップS1214に進む。ステップS1214に進むと、全体制御演算部311は、全体制御演算部311の内部メモリであるメモリ部316に格納されている駆動周波数設定値f(撮像素子306の駆動周波数の設定値)が閾値fThを下回っているか否かを判定する。この判定の結果、駆動周波数設定値fが閾値fThを下回っていれば、ステップS1215に進む。一方、駆動周波数設定値fが閾値fThを下回っていなければ、ステップS1216に進む。
【0052】
ステップS1215に進むと、全体制御演算部311は、現状の駆動モードが駆動モードBであればそのままの駆動モードとし、現状の駆動モードが駆動モードAであれば駆動モードBへと駆動モードを切り替える。一方、ステップS1216に進むと、全体制御演算部311は、現状の駆動モードが駆動モードAであればそのままの駆動モードとし、現状の駆動モードが駆動モードBであれば駆動モードAへと駆動モードを切り替える。以上のようにステップS1215、S1216にて駆動モードを切り換えた後、ステップS1206へ進む。
【0053】
ステップS1206に進むと、全体制御演算部311は、図4のステップS406と同様にして、絞り値(Av値)、シャッタ速度(Tv値)を決定する。そして、全体制御演算部311は、そのシャッタ速度に応じて、電荷の蓄積時間を決定し、決定した蓄積時間を、全体制御演算部311の内部メモリであるメモリ部316に記憶する。
【0054】
次に、ステップS1207において、全体制御演算部311は、過去の複数フレームの画像と、直前に撮影された画像とを比較して動き検出を行う。すなわち、全体制御演算部311は、直前に撮影された画像の出力レベルの、過去の複数フレームの画像の出力レベルとの差分ΔHを計算する。この差分ΔHは、例えば、過去の4フレームの画像の出力レベルと、直前に撮影された画像の出力レベルのそれぞれとの差分の二乗の和として以下の(5)式により計算される。
【0055】
ΔH=Σ(IN(x,y)−IN-1(x,y))2+Σ(IN(x,y)−IN-2(x,y))2+Σ(IN(x,y)−IN-3(x,y))2+Σ(IN(x,y)−IN-4(x,y))2 ・・・(5)
【0056】
次に、ステップS1208において、全体制御演算部311は、ステップS1207で計算した値(差分ΔH)が所定の閾値HH以上であれば、被写体に大きな動きが有ると認識し、駆動周波数設定値fをfH(f=fH)とする。また、差分ΔHが、所定の閾値HH未満であり、且つ所定の閾値HL以上であれば、全体制御演算部311は、被写体に僅かに動きがあると認識し、駆動周波数設定値fをfM(f=fM)とする。また、差分ΔHが、所定の閾値HL未満であれば、全体制御演算部311は、被写体にほとんど動きがないと判断し、駆動周波数設定値fをfL(f=fL)とする。ただし、HH>HL、fH>fM>fLとする。以上のようにして駆動周波数設定値fを設定し直した後、前述したステップS1209へ進む。
【0057】
以上のように本実施形態では、撮像素子306における動画記録駆動を行うに際し、特にノイズ成分の目立つ撮像素子306の駆動周波数が低い(フレームレートの低い)ときに、駆動モードBで撮像素子306を駆動してダークノイズ補正処理を行う。一方、撮像素子306の駆動周波数が高い(フレームレートの高い)ときには駆動モードAで撮像素子306を駆動してダークノイズ補正を行わない。したがって、撮像装置の動作条件(動作設定)に応じて発生するノイズを補正することができ、撮像素子306の駆動周波数によらずに、高い画質の動画像を得ることができる。
【0058】
尚、前述した実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
【0059】
(その他の実施例)
本発明は、以下の処理を実行することによっても実現される。即ち、まず、以上の実施形態の機能を実現するソフトウェア(コンピュータプログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)が当該コンピュータプログラムを読み出して実行する。
【符号の説明】
【0060】
306 撮像素子、308 撮像信号処理回路、311 全体制御演算部

【特許請求の範囲】
【請求項1】
2次元に配列された複数の画素と、前記画素にて露光された電荷に基づく信号を含む信号を転送する転送部と、を含む撮像素子を用いて少なくとも動画像を撮像する撮像装置であって、
前記画素に露光された電荷を読み出して前記転送部から転送することで撮像信号を得る第1の撮像動作と、前記画素に露光された電荷を読み出さずに前記転送部を空転送することでダミー信号を得る第2の撮像動作とが交互に行われるように、前記撮像素子を駆動する制御手段と、
前記第1の撮像動作により得られた撮像信号に含まれるノイズ成分を、前記第2の撮像動作により得られた、前記撮像信号に対応するダミー信号を用いて除去することによりダークノイズ補正を行う撮像信号処理手段と、を有することを特徴とする撮像装置。
【請求項2】
前記制御手段は、前記第1の撮像動作を繰り返し行って動画像の撮像を行う第1の動画記録モードと、前記第1の撮像動作と第2の撮像動作とを交互に行う第2の動画記録モードとの何れかを、前記撮像素子の動作条件または動作環境に応じて選択し、選択した動画記録モードで前記撮像素子を駆動し、
前記撮像信号処理手段は、前記第2の動画記録モードで前記撮像素子が駆動されると、前記第1の撮像動作により得られた撮像信号に含まれるノイズ成分を、前記第2の撮像動作により得られた、前記撮像信号に対応するダミー信号を用いて除去することによりダークノイズ補正を行うことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記制御手段は、前記第1の動画記録モードと前記第2の動画記録モードとの何れかを、前記撮像素子の温度、前記撮像素子の駆動周波数、フレームレート、前記撮像素子のゲイン設定、又はガンマ値に応じて選択することを特徴とする請求項2に記載の撮像装置。
【請求項4】
前記撮像信号処理手段は、前記第2の動画記録モードで前記撮像素子が駆動されるときには、前記撮像信号に対しスミア補正を行わず、前記第1の動画記録モードで前記撮像素子が駆動されるときに、前記撮像信号に対しスミア補正を行うことを特徴とする請求項2又は3に記載の撮像装置。
【請求項5】
前記撮像信号処理手段は、前記第1の撮像動作により得られた撮像信号と、前記第2の撮像動作により得られたダミー信号とのそれぞれに対しスミア補正を行った後、当該スミア補正を行ったダミー信号を用いて、当該スミア補正を行った撮像信号からノイズ成分を除去することを特徴とする請求項2又は3に記載の撮像装置。
【請求項6】
前記撮像信号処理手段は、前記第1の撮像動作により得られた撮像信号に含まれるノイズ成分を、前記第2の撮像動作により得られた複数のダミー信号であって、当該撮像信号に対応するダミー信号と、当該ダミー信号よりも前に得られたダミー信号とを含む複数のダミー信号を加算したものを用いて除去することを特徴とする請求項1〜5の何れか1項に記載の撮像装置。
【請求項7】
前記撮像信号処理手段は、前記第1の撮像動作により得られた撮像信号に含まれるノイズ成分を、前記第2の撮像動作により得られた複数のダミー信号であって、当該撮像信号に対応するダミー信号と、当該ダミー信号よりも前に得られたダミー信号とを含む複数のダミー信号を、新しく得られたものほど重み付けを重くして加算したものを用いて除去することを特徴とする請求項1〜6の何れか1項に記載の撮像装置。
【請求項8】
前記撮像信号処理手段は、前記撮像信号の1フレームに対して、複数フレームの前記ダミー信号を用いる場合、当該撮像信号に対応するダミー信号を、当該複数フレームのダミー信号を加算する処理を行うことにより生成して、前記第1の撮像動作により得られた撮像信号に含まれるノイズ成分を除去することを特徴とする請求項1〜7の何れか1項に記載の撮像装置。
【請求項9】
2次元に配列された複数の画素と、前記画素にて露光された電荷に基づく信号を含む信号を転送する転送部と、を含む撮像素子を用いて少なくとも動画像を撮像する撮像装置の制御方法であって、
前記画素に露光された電荷を読み出して前記転送部から転送することで撮像信号を得る第1の撮像動作と、前記画素に露光された電荷を読み出さずに前記転送部を空転送することでダミー信号を得る第2の撮像動作とが交互に行われるように、前記撮像素子を駆動する制御工程と、
前記第1の撮像動作により得られた撮像信号に含まれるノイズ成分を、前記第2の撮像動作により得られた、前記撮像信号に対応するダミー信号を用いて除去することによりダークノイズ補正を行う撮像信号処理工程と、を有することを特徴とする撮像装置の制御方法。
【請求項10】
前記制御工程は、前記第1の撮像動作を繰り返し行って動画像の撮像を行う第1の動画記録モードと、前記第1の撮像動作と第2の撮像動作とを交互に行う第2の動画記録モードとの何れかを、前記撮像素子の動作条件または動作環境に応じて選択し、選択した動画記録モードで前記撮像素子を駆動し、
前記撮像信号処理工程は、前記第2の動画記録モードで前記撮像素子が駆動されると、前記第1の撮像動作により得られた撮像信号に含まれるノイズ成分を、前記第2の撮像動作により得られた、前記撮像信号に対応するダミー信号を用いて除去することによりダークノイズ補正を行うことを特徴とする請求項9に記載の撮像装置の制御方法。
【請求項11】
前記制御工程は、前記第1の動画記録モードと前記第2の動画記録モードとの何れかを、前記撮像素子の温度、前記撮像素子の駆動周波数、フレームレート、前記撮像素子のゲイン設定、又はガンマ値に応じて選択することを特徴とする請求項10に記載の撮像装置の制御方法。
【請求項12】
前記撮像信号処理工程は、前記第2の動画記録モードで前記撮像素子が駆動されるときには、前記撮像信号に対しスミア補正を行わず、前記第1の動画記録モードで前記撮像素子が駆動されるときに、前記撮像信号に対しスミア補正を行うことを特徴とする請求項10又は11に記載の撮像装置の制御方法。
【請求項13】
前記撮像信号処理工程は、前記第1の撮像動作により得られた撮像信号と、前記第2の撮像動作により得られたダミー信号とのそれぞれに対しスミア補正を行った後、当該スミア補正を行ったダミー信号を用いて、当該スミア補正を行った撮像信号からノイズ成分を除去することを特徴とする請求項10又は11に記載の撮像装置の制御方法。
【請求項14】
前記撮像信号処理工程は、前記第1の撮像動作により得られた撮像信号に含まれるノイズ成分を、前記第2の撮像動作により得られた複数のダミー信号であって、当該撮像信号に対応するダミー信号と、当該ダミー信号よりも前に得られたダミー信号とを含む複数のダミー信号を加算したものを用いて除去することを特徴とする請求項9〜13の何れか1項に記載の撮像装置の制御方法。
【請求項15】
前記撮像信号処理工程は、前記第1の撮像動作により得られた撮像信号に含まれるノイズ成分を、前記第2の撮像動作により得られた複数のダミー信号であって、当該撮像信号に対応するダミー信号と、当該ダミー信号よりも前に得られたダミー信号とを含む複数のダミー信号を、新しく得られたものほど重み付けを重くして加算したものを用いて除去することを特徴とする請求項9〜14の何れか1項に記載の撮像装置の制御方法。
【請求項16】
前記撮像信号処理工程は、前記撮像信号の1フレームに対して、複数フレームの前記ダミー信号を用いる場合、当該撮像信号に対応するダミー信号を、当該複数フレームのダミー信号を加算する処理を行うことにより生成して、前記第1の撮像動作により得られた撮像信号に含まれるノイズ成分を除去することを特徴とする請求項9〜15の何れか1項に記載の撮像装置の制御方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate


【公開番号】特開2013−90106(P2013−90106A)
【公開日】平成25年5月13日(2013.5.13)
【国際特許分類】
【出願番号】特願2011−228125(P2011−228125)
【出願日】平成23年10月17日(2011.10.17)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】