説明

撮像装置

【課題】特殊な機構装置を用いることなく手ぶれ補正を実施することにより、小型かつ低コストの撮像装置を提供する。
【解決手段】撮像素子のフォトダイオードに蓄積された画像電荷を、一定の電荷蓄積時間の間に第1から第Nまで少なくとも2回以上読み出す読み出し手段34と、読み出された画像電荷を一時保持する画像保持手段35と、保持された画像電荷をシフトする画像シフト手段36と、これらを制御する制御手段37とを有する。制御手段37は、画像保持手段35に保持された画像電荷を画像シフト手段36により第1の移動量(色フィルタの繰り返しパターンの周期に対応する最小画素数)だけシフトさせ、シフトした画像電荷に対して、画像読み出し手段34から読み出した次の画像電荷を加算し、加算した画像電荷を再び第nの移動量だけシフトさせて次の画像電荷を加算する動作を、第Nの画像電荷を加算するまで繰り返す。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、CCDイメージセンサなどの固体撮像素子を用いた撮像装置に関し、より詳細には、静止画におけるぶれ補正機能を有する静止画撮像装置に関する。
【背景技術】
【0002】
被写体を撮像しようとするとき、被写体が静止していても、撮影者がシャッタボタンを押す際に撮像装置を動かしてしまうことで撮像画像がぶれてしまうことは良く知られた現象であり、これは一般に「手ぶれ」と表現される。「手ぶれ」の再現頻度は被写体が撮像される環境の照度が低く、シャッタスピードが遅くなる(電荷蓄積時間が長くなる)ほど高くなる。
【0003】
この「手ぶれ」による撮像画像に対し、機構的に、あるいは画像処理により補正を加え、「手ぶれ」による画像の劣化を減少させ、撮像画像の品質を向上しようとする技術が広く検討されている。例えば、角速度や角加速度を検出するセンサを用いて撮像装置の変位(角度)を検出し、この変位を打ち消す方向に、光学レンズや固体撮像素子を移動させることにより「手ぶれ」を補正する技術がある。
【0004】
例えば、角速度センサによる手ぶれ検出手段を設け、手ぶれ検出結果ならびに補正光学系の位置検出結果に応じて、像のぶれを低減または消滅させる方向に前記補正光学系を駆動制御する手段を設けた像ぶれ補正装置を備えた撮像装置が知られている(例えば、特許文献1参照)。
【0005】
従来の別の撮像装置では、画像処理による手ぶれ補正処理を行っている。例えば、電荷蓄積時間を制御して複数回の連続した露光を与え、得られた複数の撮像画像を加算して一つの画像を生成することとし、加算に際しては各露光において得られる画像間で相対的な動き補償を行い、画像間の被写体ずれを補正した後に行う画像処理手段を備えた撮像装置が知られている(例えば、特許文献2参照)。
【0006】
また、同じ画像処理による手ぶれ補正処理手段を有する撮像装置であるが、手ぶれによって発生した連続するフィールド間画像の動きベクトルをもとに動き予測ならびに動き検出を行い、画像の切り出し位置(画像メモリからの読み出し位置)を変えることで手ぶれの補正を行なうものも知られている(例えば、非特許文献1参照)。
【0007】
【特許文献1】特開平7−98466号公報(第1−8頁、第1図)
【特許文献2】特開2001−86398号公報(第1−9頁、第1図)
【非特許文献1】日下博也、岸靖典、“高解像度純電子手振れ補正システム”、映像情報メディア学会誌、2002年、Vol.56、No.10、p.1663−1668
【発明の開示】
【発明が解決しようとする課題】
【0008】
しかしながら、上記特許文献1に記載された従来の撮像装置では、手ぶれによる振動を相殺するための機構部品が必要であり、またその装置を駆動するためのアクチュエータやモーターが必要であり、撮像装置が大型化するとともに消費電力、コストも増大するという問題がある。さらに機構部品が落下衝撃の影響を受けるために、対衝撃設計を行う必要がある。
【0009】
また、上記特許文献2に記載された従来の別の撮像装置では、複数回の連続した露光を与えることによって得られた複数の撮像画像を加算するため、これら複数の撮像画像数すべてを記憶するための別途フレームメモリが必要となる。
【0010】
さらに、上記非特許文献1に記載されたように、連続するフィールド間画像の動きベクトルをもとに手ぶれ補正を実施した場合、動画には有効であるが、1枚の画像内に発生している手ぶれについては補正できないため、静止画の手ぶれ補正には使用できない。また、画像メモリから画像を切り出すため、必要なメモリ容量も増大する。
【0011】
なお、手ぶれ以外の理由で発生する画像のぶれ、例えば撮像装置が車両などの移動体に搭載され、移動しながら撮像を行う場合の、被写体に対する撮像装置の相対的な動きによって生じる画像のぶれについても同じような問題がある。
【0012】
本発明は上述したような課題を解決するためになされたもので、特殊な機構部品や大容量のメモリを必要とせず、固体撮像素子内でぶれ補正を実施することにより、小型で低コストの撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0013】
本発明は、被写体からの光を受けて光電変換を行う光電変換部を備えた撮像素子と、
前記撮像素子の動きを検出する動き検出手段と、
前記撮像素子の前記光電変換部に蓄積される画像電荷を、電荷蓄積時間の間にN回(Nは2以上の整数)に分けて読み出す読み出し手段と、
前記読み出し手段によって読み出された画像電荷を一時保持する画像保持手段と、前記画像保持手段に保持された画像電荷をシフトする画像シフト手段と、
前記動き検出手段により検出された動き量に基づき、前記読み出し手段による前記電荷蓄積時間の間の読み出し回数Nを決定し、
前記読み出し手段によって第1回目に読み出され、前記画像保持手段に保持された画像電荷を、固定値である第1の移動量だけシフトし、該シフトされ画像電荷に、前記画像読み出し手段によって第2回目に読み出された画像電荷を前記画像保持手段で加算する処理を行わせ、
Nが2よりも大きい場合には、さらに、前記読み出し手段によって第n回目(nは2乃至(N−1)の整数)に読み出された画像電荷の加算の結果得られる画像電荷を、固定値である第nの移動量だけシフトし、該シフトされた画像電荷に、前記画像読み出し手段によって第(n+1)回目に読み出された画像電荷を前記画像保持手段で加算する処理を、nが2から(N−1)まで順に繰り返し行わせる制御手段を具備することを特徴とする撮像装置を提供する。
【発明の効果】
【0014】
本発明によれば、特殊な機構装置やメモリを必要とせずに固体撮像素子内でぶれ補正を実施することにより小型で低コストの撮像装置を提供することが可能となる。
【発明を実施するための最良の形態】
【0015】
以下、画像のぶれが手ぶれによるものである場合について説明するが、本発明は、手ぶれ以外の理由で発生する画像のぶれにも適用可能である。例えば、自動車やその他の移動体に搭載され、移動しながら撮影を行うカメラであって、あらかじめ主たる動きの方向が分っている場合に適用できる。
【0016】
実施の形態1.
図1は、本発明の実施の形態1における撮像装置の基本構成を示す図である。図1に示すように、この撮像装置は、レンズ1と、固体撮像素子2と、アナログ信号処理部3と、画素信号A/D変換部4と、信号処理部5と、表示手段6と、CPU7と、タイミングジェネレータ8と、手ぶれセンサ9と、動き信号A/D変換部10と、積算部11と、レンズ駆動部12とを有する。
【0017】
レンズ1を通して入射した被写体像を固体撮像素子2で光電変換する。このレンズ1は焦点距離が可変なズームレンズとして機能する。レンズ駆動部12からの制御信号によって、レンズ1は光軸上で前後へ移動し、焦点距離を連続的に変えることができる。この制御信号はCPU7から出力される。
【0018】
固体撮像素子2は、図2に示すように、複数の光電変換素子列20を有する光電変換部19と、それぞれ光電変換素子列20に対応し、隣接して設けられた複数の垂直転送部22と、光電変換素子列20と垂直転送部22の間に位置する読み出しゲート部24と、水平転送部27と、出力増幅器28とを有する。
各光電変換素子列20は、撮像画面上の第1の方向、例えば垂直方向に列をなす複数の画素位置に配置され、被写体(図示しない)からの光をレンズ1を介して受けて光電変換を行なう複数の光電変換素子21を有する。
各垂直転送部22は、対応する光電変換素子列20の光電変換素子21にそれぞれ対応して設けられ、対応する光電変換素子21で蓄積された電荷が、読み出しゲート部24のそれぞれの読み出しゲート25を介して転送され、かつ相互間で垂直方向に電荷の転送を行う複数の転送素子23から成る。
水平転送部27は、垂直転送部22で転送され、垂直転送部22から出力された電荷を受けて、第1の方向と直交する第2の方向、例えば水平方向に転送する。
出力増幅器28は、水平転送部27を転送され、水平転送部27から出力された電荷を増幅して出力する。
【0019】
光電変換部19の光電変換素子21における光電変換によって、光の強さに応じた量の電荷が蓄積され、読み出しパルスTGによって、電荷が読み出しゲート部24を介して垂直転送部22に取り出され、4相のパルスφV1、φV2、φV3、φV4から成る垂直転送パルスVDPによって水平転送部27方向へ逐次転送される。水平転送部27では1ライン分の画素が入るたびに2相のパルスφH1、φH2から成る水平転送パルスHDPによって水平方向に電荷の転送を行ない、出力増幅器28で信号電圧に変換して信号を出力する。
【0020】
本願では簡単のため、垂直転送部22内の転送を単に「垂直転送」と言い、水平転送部27内の転送を単に「水平転送」と言うことがある。
【0021】
上記の垂直転送パルスVDPによって、垂直転送部22内の電荷を水平転送部27の方向(図2の垂直転送部22内の矢印FWの方向。以下「順方向」と呼ぶことがある)へ転送するだけではなく、水平転送部27から離れる方向(図2の垂直転送部22内の矢印FWと反対方向。以下「逆方向」と呼ぶことがある)へ転送することも可能である。また、垂直転送パルスVDPを印加しない時は、垂直転送部22は画像保持手段としての働きを有し、読み出しゲート部24を介して垂直転送部22に取り出された電荷を、垂直転送部22内で順方向にも逆方向にも移動させず、取り出された位置に保持することができる。
垂直転送部22の各転送素子23は、内部に保持されている電荷と、対応する光電変換素子21から転送される電荷とを加算する画像加算手段乃至画像合成手段としても機能する。
【0022】
図3は、図2における縦方向に並んだ4画素を拡大して示す図である。符号PXは一つの画素を示す。各画素は、光電変換素子21、読み出しゲート25ならびに転送素子23を備える。本実施の形態では4相の垂直転送パルスVDPを用いており、1画素あたり4個の電極26a〜26dが存在する。光電変換素子21にて光電変換されて蓄積された電荷は、読み出しゲート25を介して転送素子23に読み出される。以下に述べるように、4相の垂直転送パルスVDPの電圧を所定の時系列で変化させることにより、垂直転送部22内の電荷を所望の画素数分だけ順方向にも、逆方向にも転送することができる。
【0023】
固体撮像素子の光電変換部19の光電変換素子21は、それぞれ異なる色の色フィルタで覆われ、該色フィルタが所定の繰り返しパターンで周期的に配列されている。この周期的配列は、図4に示すようにベイヤ型であっても良い。色フィルタは、例えば赤(R)、緑(G)、青(B)の色フィルタであり、R、G、Bの色フィルタで覆われた光電変換素子からは、R、G、Bの画素信号が得られる。図4で、符号Hは、撮像画面上の横軸、即ち水平方向軸を示し、水平方向軸に沿う1、2、…mは水平方向軸上の座標値を表し、符号Vは、撮像画面上の縦軸、即ち垂直方向軸を示し、垂直方向軸に沿う1、2、…nは垂直方向軸上の座標値を表す。
【0024】
なおまた、図4に示すベイヤ配列の代わりに、図5に示すハニカム配列のものを用いても良い。ハニカム配列は、ベイヤ配列を45度回転させたものであり、ハニカム配列においては、撮像素子は各々略正八角形の各画素の光電変換素子を有し、垂直転送部22は画素列に沿って(隣接する画素列間を)蛇行する形状をしている。
【0025】
再び図1を参照し、固体撮像素子2から得られるR、G、Bの出力信号(画素信号)は、アナログ信号処理部3において、相関二重サンプリング処理(CDS)ならびに自動利得制御増幅処理(AGC)が施される。
固体撮像素子2に供給される、読み出しパルスTG、垂直転送パルスVDP、及び水平転送パルスHDP、並びに後述のオーバーフロードレインパルスOFD(これらを総称して「固体撮像素子の駆動用パルス」と呼ぶことがある)、並びにアナログ信号処理部3に供給されるCDSのためのサンプリングパルスDSPは、タイミングジェネレータ8によって供給される。これらのパルスの発生のタイミングは、CPU7によって制御される。また、アナログ信号処理部3におけるAGCも、CPU7からの制御信号によって行われる。
【0026】
アナログ信号処理部3の出力信号は、画素信号A/D変換部4にてデジタル信号に変換された後、信号処理部5にて映像信号処理され、表示手段6において表示可能な映像信号になる。信号処理部5では、RGB信号から輝度色差信号(YCbCr)への変換、ホワイトバランス補正、γ(ガンマ)補正、色補間処理および輪郭強調補正等の画像処理が行われる。LCDなどで構成された表示手段6は、信号処理部5から出力された映像信号を表示する。静止画を撮影する際、撮影者は表示手段6に映る被写体の画像を見ながら構図を決める。
【0027】
手ぶれセンサ9は、撮影者が被写体を撮像する際の撮像装置本体、特にその固体撮像素子2の上記第1の方向(垂直方向)の動きを感知する動き検出手段として用いられている。なお、ここで「第1の方向の動きを感知する」とは、第1の方向の動きのみを感知するものであっても良く、他の方向の動きをも感知するが、第1の方向の動きの成分を表す信号を取り出し得るものであっても良い。手ぶれセンサ9は例えば角速度を検知する素子であり、得られた角速度を時間積分することで、振動による変位量および変位方向を得ることができる。この手ぶれセンサ9によって検出した角速度信号は動き信号A/D変換部10にてデジタル信号に変換された後、CPU7に出力される。なお、手ぶれセンサ9としては、角速度センサに限られず、代わりに角加速度センサ、加速度センサまたは地磁気センサ等を用いることも可能であり、それぞれのセンサ信号に応じた適正な信号処理を行なうことで、角速度センサを用いた場合と同様の効果を得ることができる。
【0028】
CPU7は本撮像システムを総括して制御を行うとともに、各種演算を実施する手段として機能している。信号処理部5からの映像信号データに基づき、自動露光制御(AE)/自動ホワイトバランス制御(AWB)を行うとともに、アナログ信号処理部3に対する増幅利得の設定、タイミングジェネレータ8で生成される固体撮像素子2の駆動用パルスの発生の制御、ならびにレンズ駆動部12の制御信号の生成を行う。
積算部11は、信号処理部5から入力される1画面分の映像信号の積算を行う。積算結果は、撮像画像の明るさを表すものであり、CPU7はこれに基づいて、オーバーフロードレインパルスOFDの生成を制御し、これにより電荷蓄積時間の制御を行う。
【0029】
さらにCPU7は、動き信号A/D変換部10にてデジタル信号に変換された角速度信号を積分し、撮像装置に生じたぶれの角度と方向を計算し、さらにこの計算値をもとに手ぶれ量を画像のぶれの画素数に換算する機能も有する。
【0030】
また、後に詳しく述べるように、垂直転送部22(図2参照)内で電荷を移動させるための垂直転送パルスVDPの波形、ならびにこの垂直転送パルスVDPの発生タイミングを決定する。この決定された垂直転送パルスVDPの波形及び発生タイミングに基づいてタイミングジェネレータ8へ制御信号を出力し、この制御信号に基づいて、タイミングジェネレータ8は固体撮像素子2の駆動用パルス信号の発生を行う。このように、CPU7が生成する制御信号を受け取ったタイミングジェネレータ8は、後述する垂直転送部22内で電荷を移動させる垂直転送信号発生手段として機能する。
【0031】
さらに、CPU7とタイミングジェネレータ8は、手ぶれセンサ9で動きが検出されたときに、光電変換素子から転送素子への転送(読み出し)のための読み出しパルスのタイミングを制御し、所定のフレーム期間の間に複数回画像を読み出すための制御も行う。
【0032】
図6は、本実施の形態において手ぶれ補正を行うための構成要素を機能ブロック図で表したものである。レンズ1を通して入射する光像は電荷蓄積手段31にて光電変換され、電荷が蓄積される。
電荷蓄積手段31は、本実施の形態では図2における、光電変換部19で構成される。動き検出手段32は撮像装置の動きを検出する手段であり、図1の手ぶれセンサ9で構成される。
合成手段33は、動き検出手段32で検出された、所定の時間当たりの動きの量(BL)が所定値以上のときに、レンズ1を介して固体撮像素子2上に結像した光像に対応する、所定のフレーム期間の中の第1乃至第N(Nは2以上の整数)の画像信号を読み出して、該読み出された第1乃至第Nの画像信号のうち、第1乃至第(N−1)の画像信号を、固定値である画素数分(すなわち、色フィルタの繰り返しパターンの周期に対応する最小画素数だけ)シフトさせて合成する。
合成手段33は、図示のように、読み出し手段34と、画像保持手段35と、画像シフト手段36とを有する。
実施の形態1では、画像読み出し手段34は、読み出しゲート部24で構成され、画像保持手段35及び画像シフト手段36はともに垂直転送部22で構成され、制御手段37は、CPU7とタイミングジェネレータ8で構成される。
【0033】
読み出し手段34は電荷蓄積手段31で蓄積される画像電荷を、電荷蓄積時間の間にN回(Nは2以上の整数)に分けて読み出す。
画像保持手段35は読み出し手段34によって読み出された画像電荷を一時保持する。
画像シフト手段36は画像保持手段35によって保持された画像電荷をシフトする。
上記した画像保持手段35は、シフトされた画像電荷と、読み出し手段34で読み出された画像電荷とを加算する機能をも有する。
【0034】
制御手段37は、第1回目に読み出され、画像保持手段35に保持された画像電荷を、色フィルタの繰り返しパターンの周期に対応する最小画素数だけシフトし、シフトされた画像電荷に、画像読み出し手段34によって第2回目に読み出された画像電荷を、画像保持手段35で加算する。移動量は、例えば画素数で表される。
Nが2よりも大きい場合には、制御手段37は、さらに、第n回目(nは2乃至(N−1)の整数)に読み出された画像電荷の加算の結果得られる画像電荷を、色フィルタの繰り返しパターンの周期に対応する最小画素数だけシフトし、シフトされた画像電荷に、画像読み出し手段34によって第(n+1)回目に読み出された画像電荷を、画像保持手段35で加算する処理を2から(N−1)まで順に繰り返し行わせる。即ち、Nが2よりも大きい場合、制御手段37は、読み出し手段34によって、第1回目に読み出され、画像保持手段35に保持された画像電荷を、色フィルタの繰り返しパターンの周期に対応する最小画素数だけシフトし、該シフトされた画像電荷(第1回目に読み出され、シフトされた画像電荷)に、画像読み出し手段34によって第2回目に読み出された画像電荷を画像保持手段35で加算し、同様に第2回目に読み出された画像電荷と、第1回目に読み出された画像電荷の加算の結果得られた画像電荷を、色フィルタの繰り返しパターンの周期に対応する最小画素数だけシフトし、該シフトされた画像電荷に、画像読み出し手段34によって第3回目に読み出された画像電荷を画像保持手段35で加算し、以下第N回目の読み出し、加算が終わるまで、同様の処理を繰り返す。
【0035】
例えば、電荷蓄積の開始から第1回目の読み出しまでの期間(この期間を「第1の画像生成期間」と呼ぶことがある)と、各回の読み出しから次の読み出しまでの期間(第n回目の読み出しから第(n+1)回目の読み出しまでの期間を「第nの画像生成期間」と呼ぶことがある)が互いに略同じ長さを有し、動きの量が、該動きの量に対応する撮像素子の画素の数で表され、動きの量に応じた上記第1の移動量及び第nの移動量が、色フィルタの繰り返しパターンの周期に対応する最小画素数に設定される。
【0036】
本実施の形態の固体撮像素子2は、例えばインターライン型のCCD撮像素子であって、線順次走査により水平方向に1ラインずつ順番にすべての画素信号を読み出す「全画素読み出し」方式に対応している。
【0037】
図7は、合成手段33の動作を経時的に示した模式図である。所定のフレーム期間の電荷蓄積期間をN分割した第1乃至第Nの画像生成期間の各々に生成された画像を表す画像信号に、本実施の形態の手ぶれ補正のため、シフトを行なった後加算することで合成を行う動作を示している。第1の画像生成期間GC1は、1番目の画像(第1の画像)を得るために光電変換部19にて電荷蓄積を行う期間を示しており、以下第2の画像生成期間GC2乃至第Nの画像生成期間GCNは同様の意味をもつ。第1の画像生成期間GC1における電荷蓄積で形成された第1の画像を表す画像信号を垂直転送部22に読み出し(RD1)た後、第2の画像の表す画像信号を得るために光電変換部19にて電荷蓄積(GC2)を行う間に、該第1画像を表す画像信号を画像シフト手段36により色フィルタの繰り返しパターンの周期に対応する最小画素数だけシフトし(SH1)、第2画像の読み出しまで画像保持手段35によりシフト後の画素位置に保持する(HL1)。
【0038】
その後、該画像保持手段35により画素位置に保持した状態の画像信号を、第2の画像を表す画像信号と画像加算手段34により加算し(AD1)、該加算した画像を画像シフト手段36により、色フィルタの繰り返しパターンの周期に対応する最小画素数だけシフトし(SH2)、第3の画像の読み出しまで画像保持手段35によりシフト後の画素位置に保持する(HL2)。その後、該画像保持手段35により画素位置に保持した状態の画像信号を、第3の画像を表す画像信号と画像加算手段34により加算する(AD2)。以下、第Nの画像を表す画像信号を加算するまで同様の動作繰り返して、合成された画像信号を得る。
【0039】
なお、固体撮像素子2の光電変換部19の光電変換素子21が、それぞれ異なる色の色フィルタで覆われ、該色フィルタが所定の繰り返しパターンで周期的に配列されている場合、各画像生成期間に対応する、垂直転送の量(画素数)は、色フィルタの繰り返しパターンの周期に対応する画素数の整数倍とするのが望ましい。
この点につき色フィルタの周期的配列がベイヤ型である場合について図4を参照して説明する。
ベイヤ型配列の場合には、図4に示すように、緑Gが市松状に配置され、その他の部分に赤R及び青Bが線順次に配置されている。例えば図4の3列目(H=3)に注目すると、その画素の並びは上から下に向かってR、G、R、G、・・・、Gのようになっており、R画素、G画素ともに1画素おきに並んでいる。
【0040】
そのため、画像生成期間ごとに垂直転送部22内で電荷を移動する際の移動量が順方向または逆方向に奇数画素分である場合、例えば移動させたR画素にG画素を加算することになったり、移動させたG画素にR画素を加算することになり、適切ではない。同じ色の画素の信号電荷同士を加算するためには、電荷の移動量を偶数画素分とする必要がある。そのため、本発明では上記したように、分割した電荷蓄積期間ごとの電荷移動量を色フィルタの繰り返しパターンの周期に対応する最小画素数としている。「最小」とする理由については後述することとする。
【0041】
図2及び図3に示される、固体撮像素子2の垂直転送部22内の電荷を順方向に転送する具体的な手法を、垂直転送パルスVDPの電位変化のタイミングチャートである図8および図9を用いて説明する。図8は、各電極の垂直転送パルスVDPの4相のパルスφVi(i=1、2、3、4)のタイミングチャートであり、横軸に時刻を、縦軸に4つの電極26a〜26dに与えられる電位を並べて示している。図9は、図8に示す垂直転送パルスVDPを各電極に与えた時の、電荷移動の様子を示す図である。図9において、横軸は垂直転送部22の転送素子23の電極26a〜26dの位置を示し、縦軸には各電極の電子のポテンシャルエネルギーφi(=−eφVi)と電荷QCの分布の経時変化(異なる時刻t=a1乃至a9における電荷分布)が示してある。
【0042】
次に動作を説明する。図8において、時刻a1では電極26bの電位φV2と電極26cの電位φV3が+Vであり、電極26aの電位φV1と電極26dの電位φV4が0Vであるため、図9に示すように、電極26bと電極26cに電位井戸が形成されて電荷QCが蓄積される。次に時刻a2にて電極26dにバイアス電圧+Vを印加すると、電極26bと電極26cにあった電荷QCは、電極26bから電極26dに拡散する。次に時刻a3にて電極26bを無バイアスにすると、電荷QCは電極26cから電極26dに収束し、結果として、時刻a1からa3において、電荷QCは順方向(図9において右方向)へ1電極分だけ移動したことになる。
【0043】
時刻a4では電極26aにバイアス電圧+Vを印加し、時刻a5で電極26cを無バイアスにすることにより、電荷QCはさらに1つの電極分だけ順方向に移動する。時刻a6では電極26bにバイアス電圧+Vを印加し、時刻a7で電極26dを無バイアスにすることにより、電荷QCはさらに1つの電極分だけ順方向へ移動する。時刻a8では電極26cにバイアス電圧+Vを印加し、時刻a9で電極26aを無バイアスにすることにより時刻a1の状態と同じになる。すなわち、時刻a1から時刻a9において、1画素分電荷QCを順方向へ移動したことになる。
【0044】
他方、垂直転送部内の電荷QCを逆方向に転送する場合に関して、図10および図11を用いて説明する。電荷QCを順方向に転送する場合の説明に用いた図8が図10に、図9が図11にそれぞれ対応している。また、時刻a1からa9は、b1からb9にそれぞれ対応している。
【0045】
次に動作を説明する。図10において、時刻b1では電極26bと電極26cにバイアス電圧+Vが掛かり、電極26aと電極26dは無バイアスで0Vであるため、図11に示すように、電極26bと電極26cに電位井戸が形成されて電荷QCが蓄積されている。次に時刻b2にて電極26aにバイアス電圧+Vを印加すると、電極26bと電極26cにあった電荷QCは、電極26aから電極26cに拡散する。次に時刻b3にて電極26cを無バイアスにすると、電荷QCは電極26aから電極26bに収束し、結果として、時刻b1からb3において、電荷QCは逆方向(図11において左方向)へ1電極分だけ移動したことになる。
【0046】
時刻b4では電極26dにバイアス電圧+Vを印加し、時刻b5で電極26bを無バイアスにすることにより、電荷QCはさらに1つの電極分だけ逆方向に移動する。時刻b6では電極26cにバイアス電圧+Vを印加し、時刻b7で電極26aを無バイアスにすることにより、電荷QCはさらに1つの電極分だけ逆方向へ移動する。時刻b8では電極26bにバイアス電圧+Vを印加し、時刻b9で電極26dを無バイアスにすることにより時刻b1の状態と同じになる。すなわち、時刻b1から時刻b9において、1画素分電荷を逆方向へ移動したことになる。
【0047】
本実施の形態においては、上述したように、電荷の拡散ステップ後に収束ステップを行ない、これを繰り返すことで電荷の転送を実現しているが、拡散と収束のステップを同時に行なっても電荷の転送は可能である。例えば、図9の時刻a2の拡散と時刻a3の収束を同時に行なう、すなわち電極26dへのバイアス電圧印加と電極26bの無バイアス化を同時に行なうことによっても同様の電荷の転送は達成できる。あるいは、図9において時刻a3の収束と時刻a4の拡散を同時に行なっても、同様に電荷の転送が可能である。
【0048】
さらに、本実施の形態では4相の垂直転送パルスVDPによって電荷を転送しているが、4相に限るものではなく、3相以上であれば、同様の方法により電荷の転送は可能である。同様に水平転送パルスHDPについても2相のものを用いているがこれに限るものではない。
【0049】
また、本実施の形態では撮像素子としてCCD撮像素子を用いたが、これに限るものではなく、例えば前述の合成手段33と同等の手段を備えたCMOS(Complementary metal oxide semiconductor)型撮像素子であっても構わない。
【0050】
次に本発明で補正の対象となる「手ぶれ」の概念について説明する。図12(a)は撮像者が被写体を撮像する際に、上下(ピッチング)方向に手ぶれをしたときの手ぶれ方向と撮像画像との関係を示した図である。ここで被写体は円形の光源LSであり、手ぶれをおこさずに撮像したときの撮像画像を図12(c)に示す。丸い被写体形状を保持した画像LSbが撮像される。
【0051】
撮像者HYは、最初に光軸が地面GLと線HLに一致するように撮像装置PGを構え、シャッタボタンSBを押す。手ぶれはこのときに生じ、手ぶれによって撮像装置PGの光軸OXが上向きになる方向((+)方向)に動いた場合、図12(b)に示すように撮像画像Laには、符号TRaで示すように下方向に尾引きが生じ、一方撮像装置PGの光軸OXが下向きになる方向((−)方向)に動いた場合、図12(d)に示すように撮像画像Lcには、符号TRcで示すように上方向に尾引きが生じる。
【0052】
本発明は図12(b)、(d)に再現される被写体像LSa、LScの尾引きTRa、TRcを低減した高品質な撮像画像を実現することを目的としている。なお、手ぶれによる画質劣化はほとんどの場合、撮像者HYがシャッタボタンSBを押す動作に起因した撮像装置の回転等により生じる。この回転方向はシャッタボタンSBの押し下げ方向とほぼ一致するため、押し下げ方向に対応する一次元的な補正により、実用上十分な補正が可能である。本実施の形態においては、垂直転送部22において電荷を転送する方向(撮像画面上の垂直方向)を、上記した手ぶれが生じ易い方向を対応させる(撮像画面が垂直に設けられている場合には、垂直転送部22において電荷を転送する方向(撮像画面上の垂直方向)を、手ぶれが生じ易い方向に略平行とする)ことで良好な手ぶれ動作を達成している。
【0053】
図13(a)〜(g)は本実施の形態における撮像装置の動作を示すタイミングチャートであり、読み出し回数(電荷蓄積期間の分割数)Nが4である場合を示している。
図13(a)は、シャッタ信号BPであり、シャッタの押下が検出された時点Tonで高レベルから低レベルへの遷移が起きる。図13(b)は垂直同期信号VDである。
【0054】
図13(c)のオーバーフロードレインパルスは水平同期信号に同期してタイミングジェネレータ8から固体撮像素子2のオーバーフロードレイン電極に印加されるものであり、AE制御において電荷蓄積期間を調整するために光電変換素子21に蓄積された電荷を固体撮像素子2内の基板上に排出することにより電子シャッタ機能を実現するものである。なお、図13(c)のオーバーフロードレインパルスOFDのうち、最初のパルスOFD1(垂直同期信号VDの立ち上がりと同時又はその直後に(立ち上がりの後最初に)発生されるもの)以外のパルスを、電子シャッタパルスと呼ぶこともある。
【0055】
図13(d)は光電変換素子21において光電変換ならびに電荷蓄積を行う期間PDを示している。この期間PD(それぞれ符号SS1、SS2などで示されている)は、各フレーム期間において、オーバーフロードレインパルスOFDの発生が終わった後に開始され、次の垂直同期信号VDの立ち上がりまで続く。言い換えると、電荷蓄積期間が与えられた長さとなるように、オーバーフロードレインパルスOFDの列の発生を終了する時点が決められる。
【0056】
図13(e)は読み出しパルスTGであり、光電変換素子21で蓄積した電荷を垂直転送部22の対応する転送素子23へ読み出す(転送する)ため、読み出しゲート25を制御する。
図13(f)は垂直転送パルスVDP(φV1〜φV4)、図13(g)は水平転送パルスHDP(φH1、φH2)を示している。
【0057】
シャッタボタンSBを押す前は、被写体の明るさに基づいて、露出条件の一つとして定められる電荷蓄積期間SSi(i=1、2、…)を設定して、撮像を行う。例えばある垂直同期信号VDが発生される第1の垂直ブランキング期間VB(1)で始まるフレーム(第1のフレームFP(1))内の電荷蓄積期間SS1で蓄積した電荷は、当該第1のフレームFP(1)の次のフレーム(第2のフレームFP(2))の先頭の垂直ブランキング期間VB(2)内に発生される読み出しパルスTG10によって垂直転送部22へ読み出され、上記第2のフレームFP(2)内の期間100bに垂直転送部22内で水平転送部27に向けて転送される。複数の垂直転送部22内で同時に水平転送部27に向けた転送が行われる。同時に転送される画素信号は、撮像面上の水平方向に整列した複数の画素、即ち同じライン上の複数の画素をそれぞれ構成する複数の光電変換素子21から読み出された信号電荷が同時に、それぞれの垂直転送部22により転送される。言換えると、光電変換部20のそれぞれの光電変換素子列21から垂直転送部22に転送された信号電荷は水平転送部27へ向けて1ラインずつ順々に転送される。そして、同じ第2のフレーム期間FP(2)内の期間101bにおいて、垂直転送部22から水平転送部27に転送された電荷が、水平転送部27内を出力増幅器28に向けて転送され、出力増幅器28で増幅されて出力される。
【0058】
第2のフレーム期間FP(2)内の電荷蓄積期間SS2内のある時点TonにシャッタボタンSBが押され、シャッタ信号BPが高レベルから低レベルに遷移したとすると、第2のフレームFP(2)内の電荷蓄積期間SS2に蓄積された電荷は、次の垂直ブランキング期間VB(3)の最初(垂直同期信号VDの立ち上がりと略同時)にオーバーフロードレインパルスOFD1を固体撮像素子2へ印加することにより垂直転送部22へ転送されることなく基板上に排出される。なお、垂直ブランキング期間内において、AE制御により電子シャッタパルス(OFD1以外のオーバーフロードレインパルスOFD)が発生される場合は、オーバーフロードレインパルスOFD1は必ずしも必要ではない。読み出しパルス(VB(2)内のTG10のごときもの)の発生を禁止すれば垂直転送部22への信号電荷の読み出しが禁止されるので、AE制御による電子シャッタパルスの発生の時点で、蓄積された電荷が基板上に排出されるためである。
【0059】
シャッタボタンSBの押下が検知された時点Tonの次のフレーム期間FP(3)は、静止画像として記録する画像用の映像信号を得るための電荷蓄積を行う期間である。このフレーム期間FP(3)において電荷蓄積期間を複数個(N個)の画像生成期間(図7参照)に分割して画像生成期間ごとに垂直転送部22への電荷読み出しを行うことにより複数(N枚)の画像を得る。
【0060】
該複数の画像は最終的に1枚の画像に合成されて固体撮像素子から出力されるが、それまでは前記複数の画像を構成する画像のうち、第1の画像生成期間に読み出した画像(1画像分の全電荷であり、以下「第1の画像」と呼ぶことがある)を垂直転送部22内に一時保持した後、第2の画像生成期間に読み出した画像(第2の画像)を垂直転送部22に読み出すまでの間に、前記第1の画像を色フィルタの繰り返しパターンの周期に対応する最小画素数だけ移動させ(転送させ)、その後該画像に前記第2の画像生成期間に読み出した画像(第2の画像)と加算した後一時保持する。それ以降同様の処理を繰り返し、最後に読み出す画像(第Nの画像)を加算するまで繰り返す。
【0061】
読み出し回数Nは制御手段37(CPU7及びタイミングジェネレータ8で構成される)により決定される。制御手段37は、動き検出手段32で検出された動きの量に応じて読み出し回数Nを決定するものであり、画素数を単位として、動き検出手段32で検出された動きの量をBL、電荷蓄積期間ごとに垂直転送部22内で電荷を転送する量をPTとすると、N=BL/PTと表わされる。
動き検出手段32で検出された動きの量BLが大きいほど、また電荷蓄積期間ごとの電荷転送量PTが小さいほど、読み出し回数Nの値は大きくなる。例えば、BLが一定であれば、分割した電荷蓄積期間ごとの電荷転送量を「色フィルタの繰り返しパターンの周期に対応する最小画素数(以後、PT(m)ということもある)」とすることにより、読み出し回数Nは最大となる。
例えば、色フィルタとして図4に示すベイヤ型のものを使用した場合、PT(m)は2(画素)である。この場合、動き検出手段32で検出された動きの量BLが8画素に相当するときには、読み出し回数N(=BL/PT)は4となる。
【0062】
図13(d)に示されるように、読み出し回数(電荷蓄積期間の分割数)N=4である場合において、1つの電荷蓄積期間を等分に分割した後の画像生成期間(分割後の電荷蓄積期間)をそれぞれS1〜S4とする。この場合、画像生成期間S1〜S4で蓄積した電荷をそれぞれ読み出しパルスTG1〜TG4(図13(e))にて垂直転送部22へ読み出している。図14(f)の符号102a〜102cは、それぞれ読み出しパルスTG1〜TG3にて読み出した電荷をそれぞれ垂直転送部22内で順方向または逆方向へ所定の画素数分(例えば2画素分)だけ転送する期間を示す。
【0063】
図13(f)のように符号102a〜102cで表される3つの電荷転送期間がある場合、それぞれの期間において全手ぶれ量の1/4に比例して電荷転送を行うため、該3つの電荷転送期間の合計として全手ぶれ量の3/4を補正する。ただし全手ぶれ量の1/4はそのまま残るため、結果として手ぶれが1/4に軽減されたことになる。一般的に、電荷蓄積期間の分割数をNとすれば、手ぶれを1/Nに軽減することができる。
【0064】
即ち、読み出し回数(電荷蓄積期間の分割数)Nが大きいほど、手ぶれ補正効果も大きくなる。動き検出手段32で検出された一定の動き量BLに対して、Nを最大とするためには、分割した電荷蓄積期間ごとの電荷転送量PTが最小であればよい。そのため本実施の形態では、垂直転送部22内で電荷を転送する画素数(分割した電荷蓄積期間ごとの電荷転送量)は、色フィルタの繰り返しパターンの周期に対応する画素数の最小値PT(m)とする。
【0065】
通常、本実施の形態のような手ぶれ補正によらずに記録画像の手ぶれによる像ぶれを1/2に軽減するためには、露光の絞りを1段開く(F値を1段階大きな値に設定する)、言い換えれば固体撮像素子に取り込む光量を2倍にして電荷蓄積期間(シャッタースピード)を1/2にすることで可能となるが、本実施の形態では露光の絞りを1段開くことなしに手ぶれを1/2に軽減できる。
一般的に、電荷蓄積期間の分割数をNとした場合は、N回の画像の読み出しを行い、N枚の画像合成を行うことにより、露光の絞りをlog2N段大きくしたのと同等の補正効果を期待できる。
【0066】
なお、手ぶれがまったくない(所定の閾値以下である)場合は、画像生成期間Sが終わるごとに垂直転送を行う必要がないため、垂直転送パルスVDPは印加されず、図13(f)に示した垂直転送のための期間102a〜102cは存在しない。この場合は例えば読み出したN枚の画像をそれぞれ移動することなく、読み出した状態のまま加算して最終的に一枚の画像を得る。
【0067】
図13(g)において、符号110は、垂直転送期間102a〜102cにおいて垂直転送部22内の電荷を水平転送部27方向に転送することによって水平転送部27に押し出された後、水平転送部27に蓄積された余分な電荷を掃き捨てる、即ち、水平転送部27内の蓄積電荷を(次の垂直転送に先立って)ゼロにするための期間である。
【0068】
なお、図13では、垂直ブランキング期間VB(3)に読み出しパルスTGを読み出しゲート25に印加することにより、電荷蓄積期間SS2で蓄積された全電荷を垂直転送部22に読み出した後、水平転送部27への高速転送し、さらに水平転送部27で高速転送することによって掃き捨てを行うこととし、これによりオーバーフロードレインパルスOFD1を不要とすることも可能である。
また、フレーム期間FP(4)における水平転送期間101cで電荷転送を行う際の最初の1ライン分を破棄するようにすれば、ブランキング期間VB(4)の水平転送期間110を不要とすることができる。
さらに本実施の形態では電子シャッタパルスによる電荷蓄積期間調節を行っているが、機構式のシャッタを設けることにより、シャッタが開いている間だけ電荷蓄積を行うようにすることもできる。
【0069】
レンズ1の位置と角速度の積分値から手ぶれ量BLを画素数に換算する(画素数で表された手ぶれ量を得る)方法は、レンズ1の位置と角速度の積分値を変数としたテーブルを用いても良いし、予め与えておいた計算式より算出しても良い。
【0070】
図14は電荷蓄積期間ごとの電荷転送量PTの設定値別に、手ぶれ量BLに対する分割数Nの値を示した図である。例えば、手ぶれ量BLが一定値αのとき、PT=1のときは分割数Nも1である。手ぶれ量αに対して、PT=2である場合の分割数Nはα/2、PT=3である場合の分割数Nはα/3となり、一般にPT=mである場合、手ぶれ量αに対する分割数Nはα/mとなる。
【0071】
撮像時に手ぶれをおこしたときの撮像画像、ならびに固体撮像素子2の撮像面上における被写体像の詳細を図15(a)乃至(i)に示す。本例では撮像者が撮像装置のシャッタボタンSBを押す瞬間に上方向に手ぶれをおこした(撮像装置が上方向に動き、そのため撮像画像が次第に下方向に移動した)場合であり、画像生成期間数が4、垂直方向の手ぶれの画素換算数が4・PTである場合を示している。図15(a)は手ぶれが全くない場合の撮像画像である。図15(b)は、図13における符号SS1、SS2で示す場合と同様に、電荷蓄積期間を分割せず、且つ手ぶれ補正を行なわない場合の撮像画像であり、垂直方向に4・PT画素分の手ぶれが発生している。
【0072】
図15(c)〜(f)は、図15(b)の画像を4つの画像生成期間に分割して取得したそれぞれの画像であり、それぞれ画像生成期間S1、S2、S3、S4において電荷蓄積を行うとともに、画像生成期間ごとに全画素を読み出すと仮定した場合に得られる撮像画像を示している(実際には、画像生成期間ごとの画像が固体撮像素子から外部に読み出されるわけではなく、垂直加算部で加算された後外部に読み出される)。画像生成期間S1〜S4は互いに同じ長さであり、図15(c)〜(f)の撮像画像の輝度は、いずれも図15(b)の撮像画像の輝度の1/4となる。
【0073】
図15(c)〜(f)の各々において、点線と実線の差は各画像生成期間中のぶれを表す。本実施の形態1は、相前後して得られる画像間に存在するPT画素分のずれを逐次補正して加算(合成)するものであり、即ち、図15(c)の画像をPT画素分だけシフトして図15(d)の画像と合成して第1の合成画像を形成し、この第1の合成画像をさらにPT画素分だけシフトして図15(e)の画像と合成して第2の合成画像を形成し、この第2の合成画像をさらにPT画素分だけシフトして図15(f)の画像と合成して第3の合成画像(最終的な合成画像)を形成するものであり、これにより、図15(f)の撮像画像と略同位置に被写体像が位置する画像(図15(f)の被写体像に、図15(c)〜(e)の被写体像をそれぞれシフトした上で合成した(重ね合わせた)のと同じ画像)を最終的な撮像画像として固体撮像素子2から出力するものである。
【0074】
図15(g)〜(j)はレンズを通して被写体を固体撮像素子2の撮像面上に投影したときの像を示しており、それぞれ対応する図15(c)〜(f)の画像とは、上下左右が反対の関係にある。
【0075】
図15(g)〜(j)の被写体像について、便宜上手ぶれによる尾引き部分を描画していないが、実際には図15(c)〜(f)の被写体像と同様の手ぶれによる尾引き部分が存在する。画像生成期間数が4であれば、総手ぶれ量の1/4の手ぶれが各画像生成期間の画像ごとに発生する。
なお、画像生成期間数が8であれば各画像生成期間の画像には総動き量の1/8の手ぶれが発生することになる。
【0076】
図12(a)に示すように、手ぶれにより撮像装置の向きが上方に変化した場合、図15(g)、(h)、(i)、(j)の、上下左右反転した撮像面上の被写体像は上方向に移動する。図15(g)、(h)、(i)、(j)中の符号d1、d2、d3、d4で示す「*」印は被写体(人物の顔)上の同じ箇所における1画素を示しており、以下この画素に注目して垂直転送部22内における電荷転送の詳細を図16および図17を用いて説明する。
【0077】
図16は、図13において電荷蓄積期間の分割を行った期間を時間軸方向に拡大した図であり、それぞれの動作に対し、時系列に、符号TSaからTSkを割り当てる。これら動作TSa〜TSkが行われる時点における垂直転送部22内の電荷転送の様子を、図17(a)〜(h)を参照して説明する。
【0078】
図17(a)〜(h)は、図15(g)〜(j)に示すように、固体撮像素子2の撮像面上で被写体が上方向に移動した際の垂直転送部22内における電荷転送による手ぶれ補正の方法を示している。図2および図3と同様に、図17(a)〜(j)において、各光電変換素子列20は複数の光電変換素子21を含み、垂直転送部22は複数の転送素子23を含む。各転送素子23は画素に対応するものであり、4つの転送電極を備えているが、図17(a)〜(h)ではこの点の図示を省略している。
読み出しゲート部24の読み出しゲート25の各々は、各光電変換素子21と対応する転送素子23の間に設けられている。
まず図17(a)に示すように、最初の画像生成期間S1(TSa)において、注目画素(図15(g)のd1)に対応する光電変換素子21(1)で光電変換を行って電荷d1を蓄積する。
【0079】
次に図17(b)に示すように、読み出しパルスTG1により画像生成期間S1中に光電変換素子21(1)に蓄積された電荷d1を垂直転送部22の対応する転送素子23(1)に読み出す(TSb)。
この電荷読み出しが終了した直後から図17(c)に示すように、2番目の画像生成期間S2において注目画素の光電変換素子21(2)における電荷d2の蓄積(TSc)を開始し、この電荷蓄積(TSc)中に、動作TSbにより垂直転送部22に読み出され電荷を転送素子23(1)からPT画素分上方向に、即ち転送素子23(2)に移動させる(TSd)。
次に図17(d)に示すように、読み出しパルスTG2により光電変換素子21(2)の電荷d2(画像生成期間S2中に光電変換素子21(2)に蓄積された電荷d2)を垂直転送部22の対応する転送素子23(2)に読み出し、垂直転送部22内で、転送素子23(1)から転送素子23(2)に移動した電荷d1と加算する(TSe)。
【0080】
この電荷読み出し及び加算が終了した直後から図17(e)に示すように、3番目の画像生成期間S3において注目画素の光電変換素子21(3)における電荷d3の蓄積(TSf)を開始し、この電荷蓄積(TSf)中に、動作TSeにおいて垂直転送部22の転送素子23(2)内で加算した電荷(d1+d2)を転送素子23(2)からPT画素分上方向に、即ち転送素子23(3)に移動させる(TSg)。
次に図17(f)に示すように、読み出しパルスTG3により光電変換素子21(3)の電荷d3(画像生成期間S3中に光電変換素子21(3)に蓄積された電荷d3)を垂直転送部22の対応する転送素子23(3)に読み出し、垂直転送部22内で、転送素子23(2)から転送素子23(3)に移動した電荷(d1+d2)と加算する(TSh)。
【0081】
この電荷の読み出し及び加算が終了した直後から図17(g)に示すように、4番目の画像生成期間S4において注目画素の光電変換素子21(4)における電荷d4の蓄積(TSi)を開始し、この電荷蓄積(TSi)中に、動作TShにおいて垂直転送部22の転送素子23(3)内で加算した電荷(d1+d2+d3)を転送素子23(3)からPT画素分上方向に、即ち転送素子23(4)に移動させる(TSj)。
次に図17(h)に示すように、読み出しパルスTG4により光電変換素子21(4)の電荷d4(画像生成期間S4中に光電変換素子21(4)に蓄積された電荷d4)を垂直転送部22の対応する転送素子23(4)に読み出し、垂直転送部22内で、転送素子23(3)から転送素子23(4)に移動した電荷(d1+d2+d3)と加算する(TSk)。
その後全画素のデータを矢印Ymで示すように、水平転送部27へ転送する(図13、図16の100c)と同時に、水平転送部27内で出力増幅器部28へ向けて、信号電荷の転送を行う(図13、図16の101c)。
以上の動作により、像ぶれの低減された画像データを得ることが可能となる。
【0082】
図18は、実施の形態1における手ぶれ補正の動作を示すフローチャートである。まずシャッタボタンSBが押されたかどうかを監視し(ステップSt0)、シャッタボタンSBが押された場合は、動き検出手段32により手ぶれ量BLを算出する(St1)。
本実施の形態では、手ぶれセンサ9として角速度センサを用いており、撮像者がシャッタボタンSBを押した際の撮像装置に発生する振動の角速度を検出するとともに、CPU7によってズーム倍率を決めるレンズ1の位置と角速度の積分値から、ぶれ量を対応する画素数BLに換算することで、画素数で表したぶれ量を得る。
次に、算出した手ぶれ量BLと、電荷蓄積期間ごとに垂直転送部22内で電荷を転送する量PTより電荷蓄積期間の分割数N、すなわち読み出す画像数Nを決定する(ステップSt2)。
【0083】
次に分割数Nが1か否かを判定する(ステップSt3)。N=1であれば画像を読み出し、光電変換素子列20の電荷を垂直転送部22に転送し(ステップSt4)、次のフレーム期間に垂直転送部22内の全電荷を水平転送部27へ転送して(ステップSt13)、終了する。
【0084】
ステップSt3においてN=1でない場合は、ステップSt5に進み、分割したN画像のうち第1番目の画像から読み出す目的にてn=1を与える(ステップSt5)。次に第n番目の画像を読み出す(ステップSt6)。初期状態(ステップSt6を最初に実行するとき)ではステップSt5によりn=1であるため、第1の画像を読み出すことになる。
【0085】
次に、色フィルタの繰り返しパターンの周期に対応して決まる固定値PTに応じた画像位置(画素数)だけ画像をシフトさせた後(ステップSt7)、垂直転送部22内に保持する(ステップSt8)。このとき保持した画像を画像(A)とする。次に第(n+1)番目の画像を読み出し、該読み出した画像を画像(B)とする(ステップSt9)。初期状態では(即ち、ステップSt9を最初に実行するときは)該第(n+1)番目の画像とは第2の画像のことを指す。
【0086】
そして画像(A)と画像(B)とを加算する(ステップSt10)。画像(A)と画像(B)との加算は、画像(A)に対応する電荷を保持している垂直転送部22のそれぞれの転送素子23に、光電変換素子列20のそれぞれの光電変換素子21から画像(B)に対応する電荷を読み出すことにより、行われる。
【0087】
次にn=N−1か否かを判定する(ステップSt11)。n=N−1でない場合は、nに1を足して(ステップSt12)、ステップSt7に戻り、ステップSt7からステップSt11の処理を繰り返す。この繰り返しは、ステップSt11でn=N−1となるまで続けられる。n=N−1となれば次のフレーム期間に垂直転送部22内の全電荷を水平転送部27へ転送して(ステップSt13)、終了する。
【0088】
以上説明したように本発明の実施の形態1によれば、アクチュエータ等の複雑な機構部品を必要とせず、固体撮像素子内部の電荷移動のみで手ぶれを低減、補正する撮像装置を提供できる。また、電荷蓄積期間の分割を行なうことでぶれを補正するにもかかわらず、フレームメモリ等も不要であり、携帯機器用のカメラのように構成上の制約がある場合にも高精度の手ぶれ補正が可能である。
【0089】
特に、実施の形態1によれば、電荷転送量PTを固定値(具体的には、色フィルタの繰り返しパターンの周期に対応する最小画素数)とし、手ぶれ量BLに応じて分割数Nを増減させるようにしたので、分割数Nを最大にして、大きな手ぶれ補正効果を得ることができる。また、手ぶれ量BLを電荷転送量PTで除算することで分割数Nを決定しているので、均等に手ぶれの補正を行うことができる。
【0090】
また、動き検出手段32(手ぶれセンサ9)が垂直転送部22の転送方向に対応する動き(ここでは上下方向の動き)を検出するようになっているため、当該方向をシャッタボタンSBの押下方向と一致させることで、実用上十分な手ぶれ補正が可能となる。
【0091】
以上実施の形態1では、シャッタボタンSBの押下が検出(Ton)された後、動きの量が直ちに、即ちTonから次のVD信号の立ち上がりまでの間に、検出される場合について説明した。この場合、シャッタボタンSBの押下が検出されたフレーム期間FP(1)の次のフレーム期間FP(2)で手ぶれ補正が行われるため、高い応答性が得られる。
【0092】
これに対し、動きの量が検出(Ton)された後の最初のVD信号の立ち上がりまでの間に終わらない場合について説明する。具体的には、シャッタボタンSBの押下が検出されたフレーム期間FP(1)の次のフレーム期間FP(2)に動きの量を検出し、その次のフレーム期間FP(3)に手ぶれ補正を行う。以下、この点についてより詳しく説明する。
【0093】
図19(a)〜(i)は、その場合のタイムチャートを示す。図19では、読み出し回数が4であるものとしており、このタイムチャートは図13に対応する。
図19(a)〜(e)、(h)、(i)は、それぞれ図13(a)〜(g)と同様のものを示す。図19(a)では、シャッタボタンの押下の検出による信号BPの高レベルから低レベルへの遷移(Ton)が第1のフレーム期間FP(1)で発生している。
図19(f)は、手ぶれセンサ(角速度センサ)9の出力GYを示す。図示の例では、信号BPの立ち下がりと略同時に出力GYが立ち上がり、その後略一定の値を保つ場合を示している。
図19(g)は、CPU7における動作のタイミング、即ち、手ぶれセンサ9の出力GY(を動き信号A/D変換部10で変換したもの)をCPU7で積算する期間SGb及び積算値に基づいて動きの量を計算する期間SKbを示す。
【0094】
図示の例では、シャッタボタンSBの押下が検出されたフレーム期間FP(1)の次のフレーム期間FP(2)に、動きの量を検出し、その次のフレーム期間FP(3)に、電荷蓄積時間SS3を4分割して手ぶれ補正撮像を行うこととしている。以下この点についてより詳しく説明する。
【0095】
手ぶれセンサ9は、撮像装置の動きに応じて信号を出力するものであり、例えば、シャッタボタンSBが押されて撮像装置が動くと、その動きに応じて出力を開始する。手ぶれセンサ9の出力の開始は、シャッタボタン押下の検出のタイミングTonと一致するとは限らず、それより少し前である可能性もあり、逆に少し後である可能性もある。手ぶれセンサの出力の開始後、撮像装置の動きは、通常はすぐには止まらず、数フレーム間動きが続く。
図示の例では、シャッタボタン押下の検出Tonの次のフレーム期間FP(2)の垂直同期信号VDが立ち上がった後、オーバーフロードレインパルスOFDの列の発生が終了した時点から手ぶれセンサ9の出力GYの積算が開始される。この積算は、被写体の明るさに基づいて定められる電荷蓄積時間SS2と同じ長さの時間SGb続けられる。第2のフレームFP(2)の電荷蓄積時間SS2と第3のフレームの電荷蓄積時間SS3(=S1+S2+S3+S4)はともに、第1のフレームFP(1)或いはそれよりも一つ前のフレームの撮像結果(積算部11による積算の結果)に基づいて定められるものであり、互いに同じである。
積算が終わると、そのときから、積算結果に基づいて、同じくCPU7で、動きの量が計算される。この計算のための期間が符号SKbで示されている。
第3のフレームFP(3)において、電荷蓄積時間SS3を4分割した画像生成を行って手ぶれ補正撮像を行うに当たり、第2のフレームFP(2)に計算された動きの量が用いられる。従って、第2フレームFP(2)と第3フレームFP(3)とで、撮像装置の動きの速さが変わらないとすれば、積算時間SGbにおける積算によって求められた動きの量と電荷蓄積時間SS3における動きの量が全く同じで、補正を正確に行うことができる。手ぶれによる撮像装置の動きは通常数フレームにわたって続き、第2のフレームにおける動きの速さと第3のフレームにおける動きの速さの差は小さい。
【0096】
なお、図19に示すように、シャッタボタン押下の検出Tonの次のフレーム期間FP(2)の垂直同期信号VDが立ち上がった後に、オーバーフロードレインパルスOFDの列の発生が終了した時点から、手ぶれセンサ9の出力の積算を開始する代わりに、シャッタボタンの押下の検出Tonの次のフレーム期間FP(2)の垂直同期信号VDの立ち上がりと同時に手ぶれセンサ9の出力の積算を開始することとしても良い。また、シャッタボタンの押下の検出Tonと同時に手ぶれセンサ9の出力の積算を開始することとして、シャッタボタン押下が検出されたフレームの前のフレームにおける撮像結果(被写体の明るさ、即ち積算部11の出力)に基づいて積算時間SGb及び手ぶれ補正撮像のための電荷蓄積時間を決めることとしても良い。
【0097】
代わりに、シャッタボタン押下の検出されたフレームの前のフレームにおける撮像結果(被写体の明るさ、即ち積算部11の出力)に基づいて決められる手ぶれ補正撮像のための電荷蓄積時間よりも短い時間の間、積算することとしても良い。この場合、積算により求めた動きの量に対し、積算時間SGに対する電荷蓄積時間の比(SS/SG)を掛けることにより、電荷蓄積時間当たりの動きの量を求める(動きの量と推定する)ことができる。
【0098】
シャッタボタンの押下の検出Tonと同時に手ぶれセンサの出力の積算を開始し、電荷蓄積時間よりも短い時間を掛けて積算することとすれば、シャッタボタンの押下が検出されたフレーム(FP(1))の次のフレーム(FP(2))で、手ぶれ補正撮像を行うことができる。
【0099】
上述した動作TSd、TSg、TSj(図16)では、垂直転送部内で電荷を移動させる際、電荷をPT画素分移動させることで同色画素同士を加算するようにしている。一定値の手ぶれ量BLが算出された際に手ぶれの補正効果を最大とするためには、画像読み出し回数Nを最大にする必要があり、そのためには電荷転送量PTとしては最小値(PT(m))を採用する必要があることは前述したとおりである。このとき例えば色フィルタとしてベイヤ型を用いた場合はPT(m)=2である。画像読み出し回数Nの算出に際しては、CPU7にて手ぶれ量BLの算出値をもとに、BL/2を越えない最大の自然数n1と該自然数に1を加えたn2を求め、n1、n2のうち、よりBL/2の値に近い方をNとする。
例えば、BL=5.8のときは、BL/2=2.9であるためn1=2、n2=3となる。BL/2はn1、n2のうち、n2により近い数値となるため、N=3を採用する。
【0100】
また、画像生成期間ごとに垂直転送部22内で電荷を移動する際、順方向すなわち水平転送部27の方向に電荷を移動させる場合は、最下位ラインの垂直転送部22内に電荷が蓄積されずに水平転送部27内に排出される。一方、垂直転送部22内で電荷を逆方向に移動する場合は、固体撮像素子2の構造上、最上位ラインより上部に水平転送部27がないため、図20のごとく電荷排出溝(ドレイン)40を設ける。これにより垂直転送部22内で電荷を上方向に移動する際にも、最上位ラインにて電荷が溢れずに電荷排出溝40内に排出することができる。
【0101】
また、図20のように固体撮像素子2の上部に電荷排出溝40を設けるのではなく、撮像面上部の光電変換可能な領域を一部遮光することにより垂直転送部22内で電荷を上方向に移動する際に最上位ラインにて電荷が溢れないようにすることも可能である。この場合の模式図を図21に示す。斜線で示す部分が遮光領域42である。遮光領域42の大きさについては手ぶれ補正時に必要な電荷移動量にもよるが、図20に示した電荷排出溝40に排出される電荷量と、遮光領域42(図21)で光電変換したと想定した場合の蓄積電荷量とが略等しくなるように、手ぶれ補正により補正したい手ぶれ量に比例した大きさの領域を確保する必要がある。
【0102】
上記した実施の形態では、レンズ1が光軸方向に駆動可能なズーム機構を用いているが、単焦点レンズでも同様の効果を得ることが出来る。また、垂直転送パルスVDPについては4相の場合を説明したが、3相でも同様の動作が可能であり、5相、6相等でももちろん同様の動作が可能である。
【0103】
上記した実施の形態では、動き検出手段32にて前記撮像素子上における前記垂直転送部の転送方向に対応する第1の方向の動きのみを検出するとともに手ぶれ量を軽減させるべく動作させたが、前記垂直転送部の転送方向に対応する方向の動きのみでなく、例えば該方向と直行する第2の方向の手ぶれについても合わせて軽減させる必要がある場合は、該第2の方向の手ぶれについては、[背景技術]で述べた他の手ぶれ補正技術を用いるように構成することも可能である。
【図面の簡単な説明】
【0104】
【図1】本発明の実施の形態1における撮像装置の構成を示すブロック図である。
【図2】実施の形態1で用いる固体撮像素子の構成を示す図である。
【図3】図2における縦方向に並んだ4画素を拡大して示す図である。
【図4】ベイヤ型色フィルタ配列を示す図である。
【図5】ハニカム型色フィルタ配列を示す図である。
【図6】実施の形態1において手ぶれ補正を行うための構成要素を示す機能ブロック図である。
【図7】実施の形態1における合成手段を構成する固体撮像素子の動作を示す図である。
【図8】垂直転送部内で順方向に電荷を転送する場合に印加される垂直転送パルスVDPを示すタイミングチャートである。
【図9】垂直転送部内で順方向に電荷を転送する場合の固体撮像素子の転送素子の電極の電位分布を示す図である。
【図10】垂直転送部内で逆方向に電荷を転送する場合に印加される垂直転送パルスVDPを示すタイミングチャートである。
【図11】垂直転送部内で逆方向に電荷を転送する場合の固体撮像素子の転送素子の電極の電位分布を示す図である。
【図12】(a)〜(d)は、撮像装置の手ぶれの方向及び角度とぶれを含む撮像画像の例を示す図(a)である。
【図13】(a)〜(i)は、実施の形態1における撮像装置の動作を示すタイミングチャートである。
【図14】手ぶれ量と分割数の関係を示す図である。
【図15】実施の形態1における撮像画像と固体撮像素子の撮像面の被写体像の変位を示す図である。
【図16】(a)〜(f)は、図13において電荷蓄積期間の分割を行った期間を時間軸方向に拡大した図である。
【図17】実施の形態1における垂直転送部内の電荷転送ならびに電荷加算方法を示す図である。
【図18】実施の形態1における手ぶれ補正動作を示すフローチャートである。
【図19】(a)〜(i)は、実施の形態1の変形例における撮像装置の動作を示すタイミングチャートである。
【図20】電荷排出溝を備えた固体撮像素子を示す図である。
【図21】遮光領域を備えた固体撮像素子を示す図である。
【符号の説明】
【0105】
1 レンズ、 2 固体撮像素子、 3 アナログ信号処理部、 4 画素信号A/D変換部、 5 信号処理部、 6 表示手段、 7 CPU、 8 タイミングジェネレータ、 9 手ぶれセンサ、 10 動き信号A/D変換部、 11 積算部、 12 レンズ駆動部、 21 光電変換素子(PD)、 22 垂直転送部、 24 読み出しゲート部、 27 水平転送部、 28 出力増幅器、 31 電荷蓄積手段、 32 動き検出手段、 33 合成手段、 36 画像シフト手段、 35 画像保持手段、 34 読み出し手段、 37 制御手段、 40 電荷排出溝、 42 遮光領域、 PX 画素。


【特許請求の範囲】
【請求項1】
被写体からの光を受けて光電変換を行う光電変換部を備えた撮像素子と、
前記撮像素子の動きを検出する動き検出手段と、
前記撮像素子の前記光電変換部に蓄積される画像電荷を、電荷蓄積時間の間にN回(Nは2以上の整数)に分けて読み出す読み出し手段と、
前記読み出し手段によって読み出された画像電荷を一時保持する画像保持手段と、
前記画像保持手段に保持された画像電荷をシフトする画像シフト手段と、
前記動き検出手段により検出された動き量に基づき、前記読み出し手段による前記電荷蓄積時間の間の読み出し回数Nを決定し、
前記読み出し手段によって第1回目に読み出され、前記画像保持手段に保持された画像電荷を、固定値である第1の移動量だけシフトし、該シフトされた画像電荷に、前記画像読み出し手段によって第2回目に読み出された画像電荷を前記画像保持手段で加算する処理を行わせ、
Nが2よりも大きい場合には、さらに、前記読み出し手段によって第n回目(nは2乃至(N−1)の整数)に読み出された画像電荷の加算の結果得られる画像電荷を、固定値である第nの移動量だけシフトし、該シフトされた画像電荷に、前記画像読み出し手段によって第(n+1)回目に読み出された画像電荷を前記画像保持手段で加算する処理を、nが2から(N−1)まで順に繰り返し行わせる制御手段を具備する
ことを特徴とする撮像装置。
【請求項2】
前記光電変換部が、それぞれ異なる色の色フィルタで覆われた光電変換素子を含み、前記色フィルタが所定の繰り返しパターンで周期的に配列され、
前記第1の移動量及び前記第nの移動量が、色フィルタの繰り返しパターンの周期に対応し、かつ最小となる画素数である
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記読み出し手段による画像電荷の読み出し回数Nが、前記動き検出手段によって検出された動き量と、前記第1の移動量及び前記第nの移動量とから算出される数値である
ことを特徴とする請求項1に記載の撮像装置。
【請求項4】
前記動きの量が、当該動きの量に対応する撮像素子の画素の数で表され、
前記第1の移動量及び前記第nの移動量が同一量であり、
前記読み出し手段による画像電荷の読み出し回数Nが、前記動き検出手段によって検出された動き量を前記同一量で除算することにより与えられる数値である
ことを特徴とする請求項3に記載の撮像装置。
【請求項5】
前記撮像素子が、前記光電変換部で蓄積された画像電荷を転送する垂直転送部と、前記光電変換部で蓄積された画像電荷を前記垂直転送部に読み出す読み出しゲート部とを備えるCCD撮像素子であり、
前記読み出し手段が、前記読み出しゲート部で構成され、
前記画像保持手段及び前記画像シフト手段がともに前記垂直転送部で構成される
ことを特徴とする請求項1に記載の撮像装置。
【請求項6】
前記動き検出手段が、前記撮像素子上における前記垂直転送部の転送方向に対応する方向の動きを検出するものであることを特徴とする請求項5に記載の撮像装置。
【請求項7】
前記電荷蓄積の開始から前記第1回目の読み出しまでの期間と、各回の読み出しから次の読み出しまでの期間が互いに略同じ長さを有することを特徴とする請求項1に記載の撮像装置。
【請求項8】
シャッタボタンを備え、
前記制御手段が、前記シャッタボタンの押下を検知した時点を含むフレーム期間、又は次のフレーム期間において、前記動き検出手段による動き検出を行わせる
ことを特徴とする請求項1に記載の撮像装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate