説明

撮像装置

【課題】CCD読出し信号に現れる周期的なレベル低下を補正する。
【解決手段】
画素周辺記録型CCD撮像素子を有し、1垂直ラインもしくは水平ライン分の画素を不連続なタイミングで読出す撮像装置において、不連続箇所に相当する初段読出し画素のタイミングに応じてパルスを出力するタイミングジェネレータと、デジタル化された前記初段読出し画素の値を入力され、テーブルを用いて補正した画素の値を出力する補正手段と、前記パルスが無いときは前記補正手段で補正する前の画素の値を選択し、前記パルスが出力されたときに、前記補正した画素の値を選択して出力するセレクタと、を備えた。なお、前記補正手段は、入力された画素の値を右ビットシフトした値をアドレスとしてテーブルから読み出したゲインを、前記入力された画素の値に乗算することで、前記補正した値を得るようにしてもよい。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は撮影装置に係り、特に1画面を分割して並列読み出しを行うCCD(Charge Coupled Device)撮像素子を用いた場合に好適な撮影装置に関する。
【背景技術】
【0002】
一般的なCCD撮像素子は、垂直及び水平方向に周期的に配置されたフォトダイオード(PD)と、水平方向のPD数と同数の垂直転送路と、各垂直転送路から受け取った電荷を転送する1〜2本の水平転送路と、を有している。水平転送路を2本用いる場合、水平転送路を垂直転送路と交互に接続し、水平転送路が1本のときの半分の速度で水平転送を行い、その出力を再び1本に纏めれば、通常のラスタスキャンの映像信号が得られる。
【0003】
1画面(1フレーム)を構成する全てのPD(画素)の電荷を取り出すためには、各水平転送路において、1フレーム時間内に水平PD数/水平転送路数に相当する回数の転送を行う必要がある。転送速度を下げるために、図1に示すように画面を水平方向に16分割してそれぞれにおいて水平転送を行い、その出力を並列に出力する手法が知られる。この場合、並列出力された信号はそれぞれA/D変換されて記録される。少なくとも再生時までに1画面に合成されればよい。
【0004】
更に高速(例えば100万枚/秒)の連続撮影を行う場合、垂直転送速度自体が制約になる。そのような用途のために、1画素毎にCCDやキャパシタ等のメモリ手段を設けた画素周辺記録型撮像素子が知られる(例えば特許文献1乃至2参照。)。そのような画素周辺記録型撮像素子では一例として、あるPDから伸びる60段のCCDの先が、一列隣で6つ下のPDのCCDの入力端に接続されている。すなわちこの60段CCDは、周辺記録素子と垂直転送手段とを兼ねており、PDからの電荷が下斜め方向に転送される。そして画素エリアの下端では6本の60段CCDの出力端が6段の垂直転送CCDに接続され、更にその出力が水平転送CCDに接続される。あるいは、60段CCDを縦続接続する替わりに、通常の垂直転送路を備えたものもある。
【0005】
画素周辺記録型撮像素子では、超高速の連続撮影が可能なものの、連続撮影枚数は画素周辺記録の容量で制限され、例えば60フレーム程度である。そのため、上述の16分割並列読み出しと組み合わせ、連続144枚の超高速連続撮影と、永続的な1000枚/秒程度の高速度撮影の両方を可能にしたカメラが知られる(例えば非特許文献1参照。)。
【0006】
上記の他、本発明に関連する技術として、単板カメラにおいてA/D変換前の可変利得増幅器に画素の色に応じて時分割にゲイン調整をするものが知られる。切替えられるピクセルゲインは固定値であり、補正される画素値に応じて変化するものではない。
【0007】
【特許文献1】米国特許第5355165号明細書
【特許文献2】特開2000−165750号公報
【非特許文献1】北村和也、外10名,「30万画素超高速度高感度カメラ」,高速度撮影とフォトニクスに関する総合シンポジウム2005,2-1(2005)、インターネット<URL:http://mars.rist.u-tokai.ac.jp/2-1.pdf>
【発明の開示】
【発明が解決しようとする課題】
【0008】
しかしながら、非特許文献1のような分割並列読み出しを行うと、合成後の画像には、図8に示すような水平または垂直方向に分割数に応じた周期的な黒点(レベルが低い点)が現れるという問題がある。これは画面分割により水平転送が不連続になり、各水平転送の最初の転送において、CCD駆動波形不良による電荷転送漏れ等が起こることが原因の一つと考えられる。分割並列読み出しを行わない通常のCCD撮像素子であれば、所望の画素数より若干多い画素を備えておき、最初の水平転送電荷を捨ててしまえば済むが、その方法は、分割並列読み出しでは画面合成が不連続になってしまうため採用できない。
【課題を解決するための手段】
【0009】
本発明の撮像装置は、撮像素子を有し、1垂直ラインもしくは水平ライン分の画素を不連続に読出す撮像装置において、
撮像素子から読み出した信号をデジタル化するA/D変換器と、
前記撮像素子が有する所定の複数画素の読出しタイミングに応じてパルスを出力するタイミングジェネレータと、
デジタル化された前記所定の複数画素の値を入力され、テーブルを用いて補正した画素の値を出力する補正手段と、
前記パルスが無いときは前記補正手段で補正する前の画素の値を選択し、前記パルスが出力されたときに、前記補正した画素の値を選択して出力するセレクタと、を備えた。
【0010】
また上記の撮像装置において、前記撮像素子は、画素周辺記録型CCD撮像素子であって、
前記既知の複数画素は、前記不連続な読み出しの先頭に当る画素であり、
前記補正手段は、入力された画素の値を右ビットシフトした値をアドレスとしてテーブルから読み出したゲインを、前記入力された画素の値に乗算することで、前記補正した値とする。
【発明の効果】
【0011】
本発明によれば、リアルタイム処理で、黒点の補正を行うことができるので、1000枚/秒程度の高速撮影後直ちに補正された映像を利用することができる。
【発明を実施するための最良の形態】
【0012】
発明の実施例に係る高速撮影装置は、要約すれば、黒点のレベル低下を補正するための共通のテーブルを1つあるいは並列読み出しの分割数だけ設け、既知の位置に発生する黒点の画素信号に対してテーブルに基づく補正を行うものである。テーブルは、レベル低下した画素の輝度値(全て)と、補正後の輝度値とを対応付けるもの(実施例1)と、レベル低下した画素の輝度値(代表値)と、当該輝度値に乗算すべきゲイン値とを対応付けるもの(実施例2)とがあるが、後者の方がテーブルサイズを小さくできる点では望ましい。
【実施例1】
【0013】
図1は、本例が前提とするCCD撮像素子の分割並列読出しの模式図である。すなわち分割並列読出しに関しては従来と同様、水平方向に16分割された水平転送CCDが、それぞれ別個に水平転送を行う。分割されるのは水平転送だけで、画素エリアの構造は基本的には連続している。
水平(若しくは垂直)転送が断続的に行われるために、連続して出力される単位は450画素となっており、その先頭の初段読出し画素だけ、他の画素とゲインが異なっている。取り出された電荷は電荷電圧変換増幅器により電圧に変換され、ch1〜16の信号として出力される。その後フロントエンド部(図示せず)においてCDS(Correlation Double Sampling)、可変利得増幅、A/D変換される。
【0014】
図2は、本例の高速撮影装置に用いるテーブル(LUT:ルックアップテーブル)を作成する際のセットアップ図である。シェーディング補正を行うときと同様、撮像部にレンズを装着した状態で均一光源を撮影し、RAWデータ(ブラックシェーディング以外の補正がかかっていないA/D変換した直後のデータ)をパソコンに取り込む。本例の場合、後述するように光源の照度を細かく変えながらRAWデータを取り込みを繰り返えす。
【0015】
図3は、LUTの生成方法を示す概念図である。仮にシェーディングが残っていたり、光源の照度が時間的に変化していたとしても、同時刻に露光された隣接画素同士ではその輝度値はほぼ同じになるはずである。また、黒点におけるレベル低下は、垂直方向に並ぶ黒点に対しては同様に起こるはずであるから、補正テーブルは共通にできる。
したがって、初段読出し画素(1)の値をアドレスとし、隣接する画素(2)の値を書き込んで、順次テーブルを埋めていくことで補正テーブルを作成できる。同じアドレスに対し複数回データ得られた場合は、それらの平均を用いるとよい。光源の照度を変化させながらデータを取得しても、テーブルには空きが生じるので、その部分は直線近似により生成する。あるいはテーブル値が滑らかになるように全体的にフィッティングしなおしても良い。
【0016】
上述の補正は、現画素の値のみを参照する(引き数とする)LUTである。そのほか、現画素及び前画素の値を参照する方法や、現画素とその前後の画素の値を参照する方法があり、それぞれ以下の式で表される。
【0017】
現画素のみ参照するLUT
式1: 出力データ=LUT_1[現画素値]

前、現画素のみ参照するLUT
式2: 出力データ=LUT_2[前画素値,現画素値]

前、現、後画素のみ参照するLUT
式3: 出力データ=LUT_3[前画素値,現画素値,後画素値]
【0018】
前画素の値を参照することで、黒点の発生原因に前画素のレベルの影響を受ける要素(電荷の転送漏れ等)が含まれていても正確に補正できる。更に後画素の値も参照することで、シェーディング、グルーミング等があっても補正できるようになる。このような多次元のLUTを作成する方法として、まず均一光源時のデータを取得し、それを元に所定のモデルで出力データを拡張生成する方法がある。あるいは、照度Lを変えながら点光源をスキャン撮影し、点光源が黒点に入射したときに得られる黒点および前後の3画素の値のセット[IB,Ipre_B,Ipost_B]LBを測定し、同様に黒点の前、後画素に入射したときの3画素の値のセット[IB,Ipre_B,Ipost_B]Lpre_B、[IB,Ipre_B,Ipost_B]Lpost_Bを測定しておく(LBは黒点入射照度を意味する)。そして、LUT_3の任意のアドレス値[IB,Ipre_B,Ipost_B]に対し、そのアドレスに最も近い値を与える[IB,Ipre_B,Ipost_B]LB+[IB,Ipre_B,Ipost_B]Lpost_B+[IB,Ipre_B,Ipost_B]Lpost_Bの組み合わせを探し、そのときの黒点入射照度LBをテーブルの出力データとするようにしてもよい。
【0019】
図4は、本例の高速撮影装置の黒点補正回路のブロック図である。
A/D変換器1は、フロントエンド部で処理されたアナログ信号をA/D変換してRAWデータを出力する。
TG(タイミングジェネレータ)2は、基準クロック(図示せず)を入力され、水平カウンタや垂直カウンタを所定のタイミングで動作させることで、水平クロック、垂直クロックなどのCCD駆動パルスや、リセットゲート信号、その他必要な信号(電子シャッタ信号等)をCCD撮像素子に出力する。また、黒点の生じる画素の水平及び垂直カウント値を記憶もしくは生成する黒点アドレス生成手段と、水平カウンタや垂直カウンタの値を黒点アドレス生成手段と比較して一致したときにパルスを出力する比較器を有する。
【0020】
LUT3は、上述したようにRawデータの現画素値(及び前、後画素値)に対応する出力データを記憶しており、Rawデータを入力されて、対応する出力データを出力する。
SEL(セレクタ)4は、TG2からのパルスが無い時は、LUT3に入力されるものと同じRawデータをそのまま出力し、パルスがあるときは、LUT3からの出力データを出力する。すなわち、パルスがあるときだけ、RawデータがLUT3からの出力データに差し替えられることによって、黒点のレベルは補正されたものになる。
これらTG2からSEL4はFPGA(Field Programmable Gate Array)などのハードウェアロジックにより実現され、リアルタイムに(撮像素子の読出し速度と同じ速さで)処理される。
【0021】
その後、必要に応じて白キズ(白点)、ゲインシェーディング、スミア、ガンマなどの補正が為され、高速撮影装置内部若しくは外部のメモリに記録される。なおガンマ補正後、ビット数が(A/D変換時より)削減されたり、画像圧縮されて記録されることもある。
これらの補正処理は、黒点補正も含め、順番を入れ替えてもよい。また、高速処理のために16分割した画面毎に別体のハードウェアで並列に行ってもよい。その際、LUT3を分割画面数だけ設け、その内容も個々に生成する(出力データは異なりうる)ようにしてもよい。
【0022】
黒点におけるレベル低下は、読出し速度などの諸環境に依存すると考えられるので、インターフェース手段を設けて、LUT3の内容をパソコンから書き換えられるようにすれば、LUT3の大容量化を防ぐことができる。
【0023】
本例に拠れば、LUT3と簡単な回路の追加だけで、黒点のレベルを正常値に補正することができる。また、LUT3を多次元にすれば、より正確な補正ができ、画面を合成したときの繋ぎ目をより目立たなくすることができる。
【実施例2】
【0024】
図5は、本例の高速撮影装置の黒点補正回路のブロック図である。本例の黒点補正回路は、LUTが記憶する補正ゲインをRawデータに乗算して出力する乗算器23を備えた点などで実施例1(図4)と異なる。
ビットシフト21は、入力されたRawデータを右ビットシフトして下位ビットを除去することで、ビット数を減らしたアドレスをLUT22に出力する。
【0025】
LUT22は、補正後のデータそのものの替わりに、補正に用いるゲインをアドレスに対応付けて記憶している。LUT22はLUT3に比べ少ないアドレス空間で実現できる。
【0026】
乗算器23は、入力されたRawデータと、LUT22が出力する補正ゲインとを乗算して、SEL4に出力する。乗算器23の出力するデータは以下の式で表される。
式4: 出力データ=現画素値 × LUT_4[現画素値/T]
ただしTはテーブルの区切り数であり、2n(nはビットシフト21における右ビットシフト数)に相当する。
TG2、SEL4は先の実施例1と同一である。
【0027】
図6は、本例の高速撮影装置のLUT22の生成方法を示す概念図である。初段読出し画素(1)の値をアドレスとし、画素(1)に隣接する画素(2)を画素(1)で除算した値を書き込んで、順次テーブルを埋めていく。ビットシフトによりアドレス空間が縮小しているので、全てのアドレスに対するデータを直接得ることも可能である。複数回データ得られた場合は、それらの平均を用いるとよい。また実施例1同様、多次元LUTにすることもできる。すなわち、LUT3が格納していた出力データをそのアドレスで除算した値を格納すればよい。
【0028】
本例に拠れば、LUT22はLUT3に比べ少ないアドレス空間で実現できる。
【実施例3】
【0029】
図7は、本例の高速撮影装置の黒点補正回路のブロック図である。本例の黒点補正回路は、CCD撮像素子の読出し速度(クロック周波数)に応じた係数を更に乗算するようにした点で実施例1と異なる。すなわち、読出し速度を変更すると黒点におけるレベル低下の度合いも変化するので、例えば代表的な画素値における読出し速度依存性を測定してテーブル化しておき、黒点の画素値全範囲に共通に適用する。なお読出し速度に限らず、複数の読出しモード(加算読出しの有無なども含む)がある撮像素子であれば、それらのモードついてテーブル化することもできる。
【0030】
以上説明した実施例1乃至3は、1垂直ラインもしくは水平ライン分の画素の読出し(タイミング)に不連続性を伴う、あるいはその他の原因で間欠的な画素のレベル低下が生じるような各種の撮像素子(CMOS等、CCD以外も含む)に適用することができる。なお画素周辺記録型撮像素子の種類によっては、出現する黒点の並びが周期的に1列ずつずれて水平、垂直から僅かに傾く場合がある。また、水平転送路から連続的に読み出せる画素の並びが単純に水平方向でなく、時間方向、垂直方向が組み合わさっている場合がある。その場合、黒点が水平転送に起因するものであれば、あくまでも読出し時の隣接画素をLUTの参照に使えばよく、垂直転送に起因するものであれば、そのときの隣接画素を使う必要がある。
【産業上の利用可能性】
【0031】
高速カメラに限らず、複数の出力を持つ撮像素子、複数の撮像素子を併設して画素数を増した所謂貼り合わせ撮像装置に利用することができる。例えば産業用高速度カメラ、スーパHDカメラ(高精細カメラ)などに好適である。
【図面の簡単な説明】
【0032】
【図1】従来及び本発明の各実施例に係るCCD撮像素子の分割並列読出しの模式図
【図2】各実施例の高速撮影装置に用いるLUTを作成する際のセットアップ図
【図3】実施例1の高速撮影装置のLUT3の生成方法を示す概念図
【図4】実施例1の高速撮影装置の黒点補正回路のブロック図
【図5】実施例2の高速撮影装置の黒点補正回路のブロック図
【図6】実施例2の高速撮影装置のLUT22の生成方法
【図7】実施例2の高速撮影装置の黒点補正回路のブロック図
【図8】従来の分割並列読出しに伴う周期的な黒点が現れた映像出力例
【符号の説明】
【0033】
1…A/D変換器
2…TG(タイミングジェネレータ)
3、22、24…LUT(ルックアップテーブル)
4…SEL(セレクタ)
21…ビットシフト
23、25…乗算器

【特許請求の範囲】
【請求項1】
撮像素子を有し、1垂直ラインもしくは水平ライン分の画素を不連続に読出す撮像装置において、
撮像素子から読み出した信号をデジタル化するA/D変換器と、
前記撮像素子が有する所定の複数画素の読出しタイミングに応じてパルスを出力するタイミングジェネレータと、
デジタル化された前記所定の複数画素の値を入力され、テーブルを用いて補正した画素の値を出力する補正手段と、
前記パルスが無いときは前記補正手段で補正する前の画素の値を選択し、前記パルスが出力されたときに、前記補正した画素の値を選択して出力するセレクタと、を備えた撮像装置。
【請求項2】
前記撮像素子は、画素周辺記録型CCD撮像素子であって、
前記既知の複数画素は、前記不連続な読み出しの先頭に当る画素であり、
前記補正手段は、入力された画素の値を右ビットシフトした値をアドレスとしてテーブルから読み出したゲインを、前記入力された画素の値に乗算することで、前記補正した値とすることを特徴とする、請求項1記載の撮像装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate