撮像装置
【課題】太陽光が直接照射される地表付近や海上付近において、遠距離被写体の撮像位置が短時間に不規則に変化することを補正する撮像装置を提供する。
【解決手段】水平走査に同期した水平走査より短い時間、LEDまたはLDを用いた光源から出力された所定の波長帯の光を目標物体に照射し、照射された所定の波長帯の光による目標物体からの反射光を、画面一斉の水平走査に同期した電子シャッタ露光で撮像し、撮像された映像について、前記近赤外光の画面の輪郭成分と可視光画面の輪郭成分との相関を検出し、画面各部の往復分と片道分の差から片道分の地表大気の揺らぎ成分の移動ベクトルを検出し、可視光映像の画面各部ごとに片道分の地表大気の揺らぎの移動ベクトルを補正する。
【解決手段】水平走査に同期した水平走査より短い時間、LEDまたはLDを用いた光源から出力された所定の波長帯の光を目標物体に照射し、照射された所定の波長帯の光による目標物体からの反射光を、画面一斉の水平走査に同期した電子シャッタ露光で撮像し、撮像された映像について、前記近赤外光の画面の輪郭成分と可視光画面の輪郭成分との相関を検出し、画面各部の往復分と片道分の差から片道分の地表大気の揺らぎ成分の移動ベクトルを検出し、可視光映像の画面各部ごとに片道分の地表大気の揺らぎの移動ベクトルを補正する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、地表や海上等、遠距離に存在する物体を撮像する技術に関するものである。
【背景技術】
【0002】
従来から、天体望遠鏡では、山頂の大気の揺らぎを検出し、所定の補正をかけて光学的に大気の揺らぎを補正している。例えば、天体望遠鏡では、589[nm]のナトリウムD2波長のレーザー光を大気圏上層部のナトリウム高濃度層にスポット照射し、ナトリウム原子を589[nm]の波長で発光させる。このナトリウム原子から発光された589[nm]の波長の光を、大気の揺らぎによる波面の乱れ(地表大気揺らぎ成分)として検出し、大気の揺らぎ(地表大気揺らぎ成分)が打ち消されるように可変形状反射鏡面を変形させて波面の乱れを打ち消す。この結果、光学的に大気の揺らぎを補正している。ただし、大気の乱れが変わらないうちに補正する必要がある(非特許文献1参照)。
【0003】
また、太陽光が直接照射される地表や海上では、照射された太陽光で暖められた大気が不規則に上昇し、陽炎と呼ばれる、時間的に不規則に振動する光の屈折現象(例えば、もや状やしま模様の影、即ち、地表大気の揺らぎ)が発生することがある。このような現象が発生したときには、特に遠距離の場合に、撮像装置が撮像した映像の撮像位置は、肉眼では観測できなくても、不規則に振動する。さらに、標高が低い地表や海上では、太陽光が水蒸気等に吸収されて減衰し、970[nm]付近と、1130[nm]付近の近赤外光の大気中の透過率は、可視光に比較して1/20以下と小さい。また、波長の短い青色成分の可視光は、霞や霧などのもや、及び土埃等で乱反射される。これらの乱反射の影響を受け難いのは、赤色成分の可視光とされている。
さらにまた、撮像装置においては、霞や霧などが発生した大気中で撮像する場合のもや等の乱反射の除去方法として、可視光短時間パルスLED( Light Emitting Diode )を目標物体に照射し、電子シャッタ露光により、所定距離以外の乱反射光を除去して、所定距離の目標物体の反射光のみ撮影することが提案されている(特許文献1参照)。
【0004】
さて、大気中の光の透過率が高い波長域のことを大気の窓と呼ぶことがある。可視光についても同様で、大気の窓の波長域の太陽光(当該色成分の太陽光)は、特に地表付近や海上付近(標高が低い地表や海上)で、あまり減衰せずに照射される。しかし、近赤外光の波長域は、大気中の分子に吸収され、太陽光が地表に届く前に減衰する。特に、970[nm]付近、1130[nm]付近、1350[nm]〜1430[nm]付近、及び、1820[nm]〜1950[nm]付近の波長帯の近赤外光は、9割以上が水蒸気に吸収されほとんど地表に届かない。また、約760[nm]の輝線スペクトラムも、酸素に吸収されほとんど地表に届かない(非特許文献2参照)。
【0005】
なお、1400[nm]以上の波長の赤外光は、人間の眼の硝子体の液体によって伝達されない。このため、その波長帯の赤外光が照射されても、網膜に送られる可能性は低い。この場合、角膜の表面が損傷する可能性はあるが、目の焦点合わせ機能によって出力密度が拡大されることはない。従って、非常に大きな出力でない限り、損傷が発生することはない。
また、放送用テレビカメラのレンズ絞りの調整確認用として、ビューファインダや確認用映像に基準輝度レベルのゼブラを重畳している。
【0006】
また、デジタル信号処理回路の集積化が進み、複数ラインの出力信号を記憶し算術処理することが、映像専用のメモリ集積DSP( Digital Signal Processor )だけでなく、安価な汎用のFPGA( Field Programmable Gate Array )でも容易に実現できるようになった。ただし、信号処理の諧調数をなるべく減らさないと回路規模が増大する。
さらに、CCD( Charge Coupled Device )から出力された信号から雑音を除去するCDS( Correlated Double Sampling )、暗電流補正と利得可変増幅回路( Automatic Gain Control 、以下、AGCと称する)、及び、デジタル映像信号Viに変換するADC( Analog Digital Converter )を内蔵したAFE( Analog Front End )が普及してきた。AFEのADCの階調は、従来10ビットだったが、12ビットや14ビットが一般化し、16ビットも製品化された。その上さらに、フレームメモリを内蔵したDNR( Digital Noise Reduction )専用IC( Integrated Circuit )も低価格で発売された。
また、手ぶれ電子補正では、動き検出信号を元に画像メモリに書き込まれている映像信号を水平と垂直方向に手ぶれによって移動した後の位置から読み出し、元の被写体の同一の点が重ね合わされるように合成している。(特許文献2参照)。
【0007】
また、有効信号の一部を繰り返すガードバンド付き直交周波数分割多重( Orthogonal Frequency Division Multiplexing 、以下、OFDMと称する)映像伝送方式では、FPGAを用い、受信したOFDM信号と該OFDM信号を有効シンボル遅延した信号と複素乗算し加算して、ガード相関のI成分の絶対値とQ成分の絶対値を加算し、ピーク値の二乗値または二乗値の平方根値の平均値から上記受信信号のレベルを算出している(特許文献3参照)。
また、OFDM伝送方式では、受信信号を離散フーリエ変換し、周波数の大きさの順に連続的に並べ替えて算出した複素ベクトル信号の列からなる全キャリア信号を、所定の周波数でキャリア方向に変調、周波数シフト後、キャリア方向内挿演算を実施し、基準信号を再生していた(特許文献4参照)。
【0008】
さらに、電子増倍型CCD撮像素子(例えば、Electron Multiplying-CCD:EM−CCD)は、電子冷却部と組み合わせて感度を高くできる。このため、該撮像素子を用いた撮像装置(電子増倍型CCD撮像装置)では、可視光と近赤外光による撮影によって、夜間や暗い場所において、照明なしの準動画の取得が可能となり、特に監視用途で使用している。
電子増倍型CCDは、電子冷却と組み合わせて感度を高くできる。例えば、EM−CCDの電子増倍電極(以下、CMGと称する)の振幅電圧が0.1V高くなると1.4倍増幅率が高くなり、EM−CCDの温度が11℃低くなると1.8倍電子増倍率が高くなる。このため、駆動波形の電圧振幅確保と高安定性と発熱低減、つまり消費電力の低減が求められる。
さらに電子増倍率は、CMGの振幅電圧に強く相関して、CMG一段当たり0〜2%の確率で発生し、例えば、一段当たり1%とすると、CMGが640段では、EM−CCDとしては、“1.01”の649乗で、約583倍の電子増倍率となる。そのため、CMGの振幅電圧が0.1V高くなると、EM−CCDの電子増倍率が約1.4倍高くなる。従って、非常に低い周波数で、電子増倍率の変動が不規則に揺らぎ、画像信号が不規則に変調され、偽信号が発生する。また、電子増倍の低入射光量レベル側の増倍感度を高くすると、画面の目視上でも非常に目立つ雑音となり、実効感度が大幅劣化する。さらに高電子増倍時は、高電子増倍率と入射光量との積の累積で電子増倍率が低下する。そのため、EM−CCDを特に強く電子冷却してCMG電圧の振幅を最小限にする必要がある(非特許文献1と非特許文献2参照)。しかし、EM−CCDは、密閉状態で使用する必要があり、熱発生部を電子冷却し、撮像装置自体を密閉された空間内に収納し、冷却ファンで空気を対流循環させている。このため、放熱が困難で、電子冷却の冷却効果が小さい。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開2008−109639号公報
【特許文献2】特開2003−189318号公報
【特許文献3】特開2003−115787号公報
【特許文献4】特開2002−232382号公報
【非特許文献】
【0010】
【非特許文献1】竹本宗一郎、「すばる望遠鏡のレーザーガイド星補償光学系の実用化」、誠文堂新光社、天文ガイド、2009 No.10 October P19-P23
【非特許文献2】土田聡、「可視・近赤外域における大気補正」、資源・環境リモートセンシング実用シリーズ2:地球観測データの処理、p.124-139,2002
【非特許文献3】TI製品カタログ、TC246RGB-B0 680 x 500 PIXEL IMPACTRONTM PRIMARY COLOR CCD IMAGE SENSOR 、SOCS087 - DECEMBER 2004 - REVISED MARCH 2005
【非特許文献4】浜松ホトニクス、「高感度カメラの原理と技術」 Cat No.SCAS0020J01 、DEC/2006
【非特許文献5】「 Longevity in EMCCD and ICCD Part I−EMCCD 」、ANDOR Technical Note 、14−Mar−06
【発明の概要】
【発明が解決しようとする課題】
【0011】
上述の従来技術では、太陽光が直接照射される地表付近や海上付近では、陽炎により遠距離被写体の撮像位置が短時間に不規則に変化する。このような変化は、山頂の大気の揺らぎと異なり、遠距離照射の基準可視光が太陽光より弱い。このため、従来の撮像装置では、撮像位置の変化を検出することが困難であった。
本発明は、上記の問題に鑑み、太陽光が直接照射される地表付近や海上付近において、遠距離被写体の撮像位置が短時間に不規則に変化することを補正する撮像装置を提供することが目的である。
【課題を解決するための手段】
【0012】
上記課題を解決するため、本発明は、水平走査に同期した水平走査より短い時間、LED( Light Emitting Diode )またはLD( Laser Diode )を用いた光源から出力された所定の波長帯の光を目標物体に照射し、照射された所定の波長帯の光による目標物体からの反射光を、画面一斉の水平走査に同期した電子シャッタ露光で撮像し、撮像された映像について、前記近赤外光の画面の輪郭成分と可視光画面の輪郭成分との相関を検出し、画面各部の往復分と片道分の差から片道分の地表大気の揺らぎ成分の移動ベクトルを検出し、可視光映像の画面各部ごとに片道分の地表大気の揺らぎの移動ベクトルを補正することを特徴とする撮像装置である。
前記所定の波長帯の光は、大気中の気体分子で吸収される近赤外光の光である。
また、前記可視光画面は、前記近赤外光の画面と別に、カラー映像を撮像する色分解系のCCD撮像素子で構成される。
若しくは、前記可視光画面は、前記近赤外光の画面と別に、カラー映像を撮像する色分離フィルタ付きのCCD撮像素子で構成される。
また、前記近赤外光画面の輪郭成分は、往復で2倍の地表大気の揺らぎを検出することであり、前記可視光画面の輪郭成分は、片道での地表大気の揺らぎである。
さらに、前記近赤外光画面の輪郭成分は、LEDまたはLDから照射される近赤外光の往路と、該LEDまたはLDから照射された所定の波長帯の光による目標物体からの反射光の復路を通った往復分の映像である。
【0013】
また、上記本発明の撮像装置は、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を用い、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系と、色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子と有するか、光軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差を電子的に補正するか、の少なくともいずれか一方を特徴とする撮像装置である。
さらに、上記本発明の撮像装置は、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を用い、近赤外光分解光学系と可視光と高速電子シャッタを有するシリコン近赤外光撮像素子と有するか、光軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差を電子的に補正するか、の少なくとも一方を特徴とする撮像装置である。
また、上記本発明の撮像装置は、1350[nm]〜1430[nm]付近と1820[nm]〜1950[nm]付近の近赤外光を用い、可視光と近赤外光とを透過する光学系と、近赤外光分解光学系とシリコン可視光撮像素子と高速電子シャッタを有するInGaAs(インジウムガリウム砒素)製近赤外光撮像素子またはフレームトランスファーCCDや横型オーバーフロードレインCCDで深くフォトダイオードを形成したシリコン製撮像素子とを有し、光軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差を電子的に補正するか、の少なくとも一方を特徴とする。
【0014】
また、上記本発明の撮像装置は、目標物体設定時には、LEDから出力され、画面ごとに可変させた基準近赤外光パルスであって、水平走査に同期し、水平走査期間より短い時間の基準近赤外光パルスを目標物体に照射し、該目標物体から反射した基準近赤外光パルスを電子シャッタ露光し、目標物体までの基準近赤外光パルスの往復時間を検出し、目標物体までの基準近赤外光パルスの往復時間に合わせて、照射し電子シャッタ露光することを特徴とする。
【0015】
また、上記本発明の撮像装置は、赤の輪郭成分と近赤外光の輪郭成分との相関を検出し、画面各部の片道分の地表大気の揺らぎ成分の移動ベクトルを検出し、検出した移動ベクトルに基づいて赤緑青の画面各部ごとに片道分の地表大気の揺らぎの移動ベクトルを補正することを特徴とする。
【0016】
また、上記本発明の撮像装置は、少なくとも調整時の本線の輪郭成分との相関を検出し補正している画面部分に、特定の色を重畳することを特徴とする。
好ましくは、上記特定の色は黄色である。
【0017】
また、上記本発明の撮像装置は、近赤外光と赤緑青とに分光する色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子とを有する撮像装置を含む監視装置であり、970[nm]付近または1130[nm]付近の近赤外光を水平走査に同期した水平走査より短い時間LEDまたはLDを目標物体に照射し反射光を電子シャッタ露光での前記近赤外光画面の輪郭成分(往復で2倍地表大気の揺らぎ)と可視光画面の輪郭成分(片道地表大気の揺らぎ)との相関を検出し、画面各部の往復分と片道分の差から片道分の地表大気の揺らぎ成分の移動ベクトルを検出し、可視光映像の画面各部ごとに片道分の地表大気の揺らぎの移動ベクトルを補正し、(霞や土埃の影響を受けにくい)赤の映像の(霞や土埃の影響で浮きあがった)暗部を沈めた映像信号で侵入者を検知することを特徴とする監視装置である。
【発明の効果】
【0018】
本発明によれば、大気の窓の外で地表太陽光が弱い近赤外光の水平走査に同期したパルス発光と水平走査に同期した高速電子シャッタにより、リアルタイムで画面の目標物体の可視光に隣接の近赤外光の大気の揺らぎを検出し可視光の映像の大気の揺らぎを補正する。
【図面の簡単な説明】
【0019】
【図1A】近赤外反射鏡と単板EM−CCDと色分離フィルタ付きEM−CCDを用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1B】色分解光学系と4ケのEM−CCDを用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1C】近赤外反射鏡と単板IT−CCDと色分離フィルタ付きEM−CCDを用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1D】近赤外反射鏡と単板FIT−CCDと色分離フィルタ付きEM−CCDを用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1E】色分解光学系と4ケのFIT−CCDを用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1F】色分解光学系と4ケのIT−CCDを用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1G】色分解光学系と単板のCMOS撮像素子を用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1H】色分解光学系と4ケのCMOS撮像素子を用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図2A】本発明のCCD撮像装置の一実施例における光源の発光と撮像とのタイミングチャートを示す図である。
【図2B】本発明のCCD撮像装置の一実施例における光源の発光と撮像とのタイミングチャートを示す図である。
【図3A】本発明の一実施例や従来技術での画面片道の大気の揺らぎの模式図。
【図3B】本発明の一実施例での画面の往復の大気の揺らぎを示す模式図。
【図3C】本発明の一実施例の画面片道の大気の揺らぎの補正後の模式図。
【図4】本発明のCCD撮像装置の陽炎補正部一実施例の構成を示すブロック図である。
【図5】本発明のCCD撮像装置の陽炎補正部の相関をとる一実施例を説明するための模式図である。
【発明を実施するための形態】
【0020】
以下に本発明の一実施形態を図面等を用いて説明する。なお、以下の説明は、本発明の一実施形態を説明するためのものであり、本願発明の範囲を制限するものではない。従って、当業者であればこれらの各要素若しくは全要素をこれと均等なものに置換した実施形態を採用することが可能であり、これらの実施形態も本願発明の範囲に含まれる。
【0021】
まず、図3A、図3B、及び図3Cによって、本発明の陽炎補正について簡単に説明する。図3A、図3B、及び図3Cは、地表上の電信柱を撮像装置が撮像した映像を示す図である。図3Aは、陽炎と呼ばれる現象が発生した時に、撮像装置が撮像した場合の映像を示す図である。図3Bは、LED( Light Emitting Diode )またはLD( Laser Diode )等の光源から出力された光が電信柱に照射され、照射された光が電信柱から反射して戻ってきた被写体像(反射光)を撮像装置が撮像した場合の映像を示す図である。図3Cは、本発明によって陽炎補正した場合に撮像装置が撮像した場合の映像の一実施例を示す図である。301a、301b、301cは、それぞれ、CCD撮像装置が撮像した視野内全体(画角全体)の表示映像出力( Video Out )画像である。302aは画像301a内の電信柱の被写体像、302bは画像301b内の電信柱の被写体像、302cは画像301c内の電信柱の被写体像である。
【0022】
通常、陽炎等、大気の揺らぎがない時には、電信柱の被写体像は、肉眼による視認や撮像装置が監視視野内を撮像した全体画像中では、図3Cの画像302bのように見える。しかし、陽炎等、大気の揺らぎが発生した時には、電信柱の被写体像は、肉眼による視認や撮像装置が撮像した画像では、図3aの画像302bのように見える。この画像は、被写体から、その可視光の反射光が、被写体像としてCCD撮像装置の撮像部まで到達することによる。この場合、太陽光が被写体に照射され、その反射光が被写体像として観察される。被写体像は、時間的に不規則に振動する大気中を通過するため、光の屈折現象が発生し、図3aのように、陽炎現象として見える。この場合は、大気中を通過する光は片道分の屈折現象は、片道分でしか影響を受けない。大気は上空方向から入射するので、揺らぎの影響がないとする。
また、この光の道筋は、被写体像からCCD撮像素子まで間だけの片道(復路)だけである。さらに、大気は、地表上付近や海上付近は、可視光の大半の波長帯が乱反射し、赤色成分(赤の波長帯)だけが通過する。このため、CCD撮像装置が撮像した映像は、画像全体が赤色に見える。
【0023】
本発明の図3A、Bの実施例では、CCD撮像装置側のLED、LD等の光源から、可視光より長い波長帯の光(例えば、近赤外光)を出力し、目標物体(被写体)に照射する。この光は、図3Aに示したように、大気の揺らぎが発生している時において、目標物体(被写体)に到達するまでの道筋(往路)で、陽炎等の大気の揺らぎによる、時間的に不規則に振動する大気中を通過する。このため、目標物体に到達した近赤外光は、すでに、屈折した光となっている。
そして、この屈折した光が目標物体に照射され、反射光が出力光源から出力された場合には、さらに復路(被写体からCCD撮像装置の撮像面に至る道筋)で光の屈折現象が発生する。この結果、図3Bの画像301bの被写体像302bのように、2倍に屈折した陽炎現象が見える。即ち、時間的に不規則に振動する大気中を、2回通過するため、光の屈折現象を2重に発生し、図3bのように、陽炎現象として見える。
そして、図3Aの可視光による画像と、図3Bの近赤外光による画像について、それぞれ、目標物体の輪郭成分抽出し、抽出された近赤外光による画像の輪郭成分と、可視光による画像の輪郭成分との相関演算を検出する。そして、検出された輪郭の各部(画素ごと)の往復分と片道分との差から、片道分の大気の揺らぎ成分の移動ベクトルを検出し、可視光による画像の画面各部(例えば、画素ごとまたは、画素ブロックごと)に検出した移動ベクトルにより画面の補正を行う。即ち、画素ごとまたは画素ブロックごとに検出した移動ベクトル量分を逆方向に画像を移動する。
なお、好ましくは、相関を採るための可視光の画像は、CCD撮像装置の撮像視野内全体(画角全体)を撮像した画像の映像信号である。また好ましくは、相関を採るための可視光の画像は、可視光の赤(R)成分の映像信号である。
【0024】
具体的には、本発明の撮像装置の一実施形態は、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を用い、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系と、色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子と有するか、光軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差を電子的に補正するか、の少なくともいずれかを備える。
さらに、本発明の撮像装置の一実施形態は、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を用い、近赤外光分解光学系と可視光と高速電子シャッタを有するシリコン近赤外光撮像素子と有するか、光軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差を電子的に補正するか、の少なくともいずれかを備える。
【0025】
また、本発明の撮像装置の一実施形態は、1350[nm]〜1430[nm]付近と1820[nm]〜1950[nm]付近の近赤外光を用い、可視光と近赤外光とを透過する光学系と、近赤外光分解光学系とシリコン可視光撮像素子と高速電子シャッタを有するInGaAs(インジウムガリウム砒素)製近赤外光撮像素子またはフレームトランスファーCCDや横型オーバーフロードレインCCDで深くフォトダイオードを形成したシリコン製撮像素子とを有し、光軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差(近赤外光の可視光に対する倍率色収差)を電子的に補正するか、の少なくともいずれかを備える。
【0026】
また、本発明の一実施例の出力回路含む陽炎補正部の内部構成を示すブロック図の図4(後述)のように、赤の輪郭成分と近赤外光の輪郭成分との相関を検出し、画面各部の片道分の地表大気の揺らぎ成分の移動ベクトルを検出し、赤緑青の画面各部ごとに片道分の地表大気の揺らぎの移動ベクトルを補正する。
また、後述の図2Aによって説明するEM−CCDまたはFIT−CCDを用いた場合の本発明の一実施例の発光と撮像とのタイミングチャートのように、あるいは、後述の図2Bによって説明するIT−CCDを用いた場合の本発明の一実施例の発光と撮像とのタイミングチャートのように、目標物体を設定した時には、高原より出力された基準近赤外光パルスを目標物体に照射し電子シャッタ露光し、目標物体までの光の往復時を検出し、目標物体までの光の往復時に合わせて照射し電子シャッタ露光する。好ましくは、上記において、LED若しくはLDを光源とする。また好ましくは、上記基準近赤外光パルスは、画面ごとに可変させたものである。また好ましくは、上記基準近赤外光パルスは、水平走査パルスに同期した、水平走査パルスより短い期間のパルスである。
さらに、好ましくは、本発明の撮像装置の一実施例の全体構成の図1A〜図1H(後述する)で説明するように、調整時の本線(可視光)の輪郭成分との相関を検出し補正している画面部分に、特定色を重畳する。好ましくは、本線(可視光)の輪郭成分のうち、赤(R)成分を用いる。
また好ましくは、上記電子シャッタ露光は、画面一斉の水平走査に同期した露光である。即ち、好ましくは、上記電子シャッタ露光は、汎用CMOS撮像素子のローリングシャッタ方式の露光ではない。
【0027】
図3A、図3B、図3Cで説明した実施例について、さらに図2Aと図2Bを用いて説明する。図2Aと図2Bは、それぞれ、本発明の一実施例のCCD撮像装置における光源の発光と撮像とのタイミングチャートを示す図である。
なお、図2Aは、本発明の一実施例のEM−CCD撮像装置を含むFIT( Frame Interline Transfer )方式を説明するタイミングチャートであり、図2Bは、本発明の一実施例のEM−CCD撮像装置を含むIT( Interline Transfer )方式を説明するタイミングチャートである。
【0028】
図2Aにおいて、(1)は、映像信号期間を、映像信号201a、202a、・・・、211a、212a、213a、214a、215a、・・・として示す。また(2)は、LEDの発光駆動パルス220a、・・・、221a、222a、223a、224a、225a、226a、・・・を示す。図2Aに示すように、LEDの発光駆動パルス長は、それぞれの映像信号期間より短い。好ましくは、LEDの発光駆動パルスは、映像信号期間それぞれと同期して立上がる。
また(3)は、CCDの掃き捨てタイミングクロック(φSub)230a、・・・、231a、232a、233a、234a、235a、236a、・・・を示す。
【0029】
(4)と(6)は、受光部のそれぞれの素子から、信号電荷をそれぞれ読出すための1対の垂直転送パルスV1AとV3Aの読出パルス240aと260A、・・・、241a、242aと262A、243aと263A、244aと264A、245aと265A、246aと266A、・・・、転送パルス240cと260C、244cと266C、・・・、及び、映像信号転送区間241cと261C、245cと265C、・・・を示す。
また(5)と(7)は、読出した信号電荷を蓄積部に高速転送するための転送パルスである。なお、映像信号転送区間251cと271C、255cと275Cは、それぞれ映像信号転送区間241cと261C、245cと265Cと同じものである。
(5)は、垂直転送パルスV2Aの映像信号転送区間251c、255c、・・・を示す。(7)は、垂直転送パルスV4Aの映像信号転送区間271c、274c、・・・を示す。
【0030】
(8)〜(11)は、それぞれ、蓄積部の垂直転送パルスを示す。
(8)は、垂直転送パルスV1Bの転送パルス280a、・・・、281a、282a、283a、284a、285a、286a、287a、・・・と、映像信号転送区間281c、285c、・・・を示す。(9)は、垂直転送パルスV2Bの転送パルス290a、・・・、291a、292a、293a、294a、295a、296a、297a、・・・と、映像信号転送区間291c、295c、・・・を示す。(10)は、垂直転送パルスV3Bの転送パルス2101a、2102a、2103a、2104a、2105a、2106a、2107a、・・・と、映像信号転送区間2101c、2104c、・・・を示す。(11)は、垂直転送パルスV4Bの転送パルス2111a、2112a、2113a、2114a、2115a、2116a、2117a、・・・と、映像信号転送区間2111c、2114c、・・・を示す。
【0031】
(12)は、被写体(目標物体)が近距離に存在する場合のLEDから照射された近赤外光による目標物体からの反射光がCCDに蓄積される場合の信号電荷2121a、2122a、2123a、2124a、2125a、・・・を示す。(13)は、被写体(目標物体)が遠距離に存在する場合のLEDから照射された近赤外光による目標物体からの反射光がCCDに蓄積される場合の信号電荷を示す。
なお横軸は、(1)〜(13)に共通の時間軸である。
【0032】
図2Aにおいて、1垂直走査期間(1V期間)は約17[ms]、垂直ブランキング期間(V.BL)は、約1.2[ms]、水平走査期間(1H期間)は、約64[μs]、水平ブランキング期間(H.BL)は、約11[μs]である。
(1)LEDが発光(パルス221a)した直後には、LEDの発光駆動(φSub)パルス(パルス231a)が立上り、CCDの受光部の信号電荷が掃き捨てられる。その後CCDの受光部に蓄積された信号電荷の読出しが、パルス242A及びパルス262Aで開始される。
パルス221aによりLEDから発光した近赤外光が目標物体(被写体)に到達して反射し、被写体像としてCCDに戻ってくる前に、掃き捨てのためのパルス231aが立上り、その後、信号電荷の蓄積が始まる。この結果、パルス221aの反射による被写体像だけが受光し、そのパルスに基づく信号電荷だけが読出される(読出しパルス242a、262a)。即ち、掃き捨てパルス231aの立上り時刻(または立下り時刻)から読出しパルス242a(パルス262a)の立上り時刻(または立下り時刻)までの時間が、電子シャッタの露光時間である。
【0033】
従って、(13)の実線で示す信号電荷2130a、2131a、2132a、2133a、2134a、2135a、・・・が、CCDから転送出力される。なお、(12)の破線で示す信号電荷2121a、2122a、2123a、2124a、2125a、・・・は、近距離に目標物体が存在する場合には、近赤外光が反射して戻ってくるまでの往復の時間が早い。従って、CCDが信号電荷を掃き捨てるタイミングの時刻の前に受光する。このため、信号電荷として、CCDから転送出力されない。
なお、LED発光パルス222bと掃き捨てパルス232bの立上り時間差を調整することによって、CCDが露光可能な目標物体までの距離が定まる。即ち、LEDから近赤外光が出力され、目標物体から反射して戻ってくるまでの時間が、上記時間差の最大値である。従って、陽炎等の地表付近または海上付近の大気の乱れの補正は、LEDやLD等の近赤外光を出力する光源から、目標物体に照射されその被写体像が戻ってくるまでの時間で定まる。
好ましくは、LEDまたはLD等の光源の1回の発光している時間は、発光パルスの開始時刻(立上り時刻)から、掃き捨てパルス231aの立上り時刻までの時間より長い。
【0034】
次に、図2Bにおいても、図2Aと同様に、1垂直走査期間(1V期間)は約17[ms]、垂直ブランキング期間(V.BL)は、約1.2[ms]、水平走査期間(1H期間)は、約64[μs]、水平ブランキング期間(H.BL)は、約11[μs]である。なお横軸は、(1)〜(10)に共通の時間軸である。
LEDが発光(パルス222b)した直後には、LEDの発光駆動(φSub)パルス(パルス232b)が立上り、CCDの受光部の信号電荷が掃き捨てられる。その後CCDに蓄積された信号電荷の読出しが、パルス242b及びパルス262bで開始される(以下、パルス223b〜235b。・・・でも同様)。その横方向の信号電荷の読出しと共に、垂直方向にもパルス毎に転送がなされ(例えば、(5)の転送パルス252d〜257d、・・・、(7)の転送パルス272d〜277d、・・・参照)によりフレームメモリに転送され(例えば、(8)のフレームメモリ入力期間281b〜286b、・・・参照)、CCDから転送出力される。
なお、図2Aの実施例では、フレームメモリの動作については記述していない。しかし、一般的にCCDから転送出力された信号電荷は、一度、フレームメモリに保存されてから、フレーム毎またはフィールド毎に出力される。
【0035】
即ち、LEDから発光した(パルス222b)近赤外光が目標物体(被写体)に到達して反射し、被写体像としてCCDに戻ってくる前に、掃き捨てのためのパルス232bが立上り、その後、信号電荷の蓄積が始まる。この結果、パルス222bの反射による被写体像だけが受光され、そのパルスに基づく信号電荷だけが読出転送される。即ち、掃き捨てパルス232bの立上り時刻(または立下り時刻)から読出しパルス242b(パルス262b)の立上り時刻(または立下り時刻)までの時間が、電子シャッタの露光時間である。
【0036】
従って、(10)の実線で示す信号電荷2102b、2103b、2104b、2105b、・・・が、CCDから転送出力される。なお、(9)の破線で示す信号電荷292b、293b、294b、295b、・・・は、近距離に目標物体が存在する場合には、近赤外光が反射して戻ってくるまでの往復の時間が早い。従って、CCDが信号電荷を掃き捨てるタイミングの時刻の前に受光する。このため、信号電荷として、CCDから転送出力されない。
なお、LED発光パルス222bと掃き捨てパルス232bの立上り時間差を調整することによって、CCDが露光可能な目標物体までの距離が定まる。即ち、LEDから近赤外光が出力され、目標物体から反射して戻ってくるまでの時間が、上記時間差の最大値である。従って、陽炎等の地表付近または海上付近の大気の乱れの補正は、LEDやLD等の近赤外光を出力する光源から、目標物体に照射されその被写体像が戻ってくるまでの時間で定まる。
好ましくは、LEDまたはLD等の光源の1回の発光している時間は、発光パルスの開始時刻(立上り時刻)から、掃き捨てパルス231aの立上り時刻までの時間より長い。
【0037】
なお、図2Aまたは図2Bのタイミングチャートのように、目標物体設定時は、画面ごとに可変させた水平走査に同期した短時間の基準近赤外光パルスLEDを目標物体に照射し水平走査に同期した電子シャッタ露光し、目標物体までの光の往復時を検出し、目標物体までの光の往復時に合わせて水平走査に同期した短時間の基準近赤外光パルスLEDを照射し平走査に同期した電子シャッタ露光する。
また、HDTVの場合には、図2Aまたは図2Bにおいて、1垂直走査期間(1V期間)は約17または20[ms]、垂直ブランキング期間(V.BL)は、約0.2[ms]、水平走査期間(1H期間)は、約30または36[μs]、水平ブランキング期間(H.BL)は、約30[μs]である。
【0038】
図1Aは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Aは、近赤外反射鏡と単板CCDと色分離フィルタ付きCCDを用いた撮像装置の一実施例のブロック構成図である。
【0039】
100Aは、本発明の一実施例の撮像装置、1は入射光を結像するレンズ等の光学系、2Aは入射光を近赤外光と可視光とに分光する分光光学系、3Aと3Cは分光光学系2Aから入射した光を電気信号に変換する電子増倍型CCDである。また、12はLED、13はLED駆動部である。分光光学系2Aにおいて、121は分光部、122は反射鏡である。CCD(CCD3A、または3C)において、101は撮像部のフォトダイオード( Photo Diode )、102は撮像部の垂直転送部、103は蓄積部の垂直転送部、104はCMG、105は電圧変換部である。なお、CCD3A、3Cは、例えば、EM−CCD等の電子増倍型CCDである。
4Aと4Cはメモリ付映像信号処理部、5は撮像装置100A内の各部を制御するCPU( Central Processing Unit )、6はオーバーフロードレイン(OD)駆動部、7は撮像部の垂直転送駆動部、8は蓄積部の垂直転送駆動部、9はタイミング発生部( Timing Generator:TG)、10は電子増倍の利得制御を行うためのCMG駆動部である。TG9において、106は水平周期シャッタタイミング(TG)発生部、107は水平周期読出パルスと垂直転送タイミング(TG)発生部、108は垂直転送タイミング(TG)発生部である。
11AはCCD3Aが接続されるAFE、11CはCCD3Cが接続されるAFE( Analog Front End )である。AFE11A及び11Cは、CCD3A、3Cから出力された信号から、雑音を除去するCDS109と暗電流補正と信号の利得を調整するAGC110とデジタル映像信号Viに変換する14bit以上のADC111からなるAFEで構成される。なお、AGC110を、AFEに含まず、別に設けても良い。また、AFE11A、11Cには水平転送とリセットとCDS109とAGC110とのタイミング発生部( Timing Generator:TG)を含む。
また、14は陽炎補正部である。
【0040】
図1Aにおいて、CPU5は、TG9の水平周期シャッタTG106を介して、発光駆動パルスをLED駆動部13に出力する。LED駆動部13は、入力された発光駆動パルスに基づいてLED12を駆動し、LED12は、LED駆動部13に駆動されて、所定のスペクトルまたは所定の波長帯の近赤外光を出力する。
光学系1には、復路を通って反射された近赤外光が入射する。また、光学系1には、大気を通過して目標物体に照射され、復路を通って反射された可視光が入射する。光学系1は、これらの光を集束し、分光光学系2Aに出力する。なお、目標物体から反射する近赤外光は、LED12から往路を通って照射され、復路を通って光学系1に入射するものである。
光学系1を介して入力された光は、分光光学系2Aの分光部121に入力される。分光光学系2Aの分光部121は、入力された光の可視光成分を透過し、CCD3Cに入射する。また分光部121は、近赤外光成分を反射し、反射光122に出射する。反射鏡122は入射された近赤外光をCCD3Aに出射する。
CCD3Aに入射された近赤外光は、電気信号に変換され、メモリ付映像信号処理部4Aを介して陽炎補正部14に入力される。また、CCD3Cに入射された可視光は、電気信号に変換され、メモリ付映像信号処理部4Cを介して陽炎補正部14に入力される。
【0041】
陽炎補正部14内での処理は、すでに、図3A、図3B、及び図3C、並びに、図2A及び図2Bを用いて説明した。
即ち、陽炎補正部14は、メモリ付映像信号処理部4Aから出力される近赤外光の映像信号IRViとメモリ付映像信号処理部4Aの映像信号Viとの相関を取り、その移動ベクトルを算出し、算出した移動ベクトルに応じて、メモリ付映像信号処理部4Cから出力される可視光の映像信号RViとGViとBViとの各部の画素を移動させ、NTSC( National Television System Committee )方式またはPAL( Phase Alternating by Line )方式の複合映像信号( Video Burst Sync 、以下、VBSと称する)、またはSDI( Serial Digital Interface )映像信号、あるいはHDTVのSDI(HD−SDI)等の所定方式の映像信号に変換して出力する映像信号処理部である。なお、好ましくは、陽炎補正部14は、メモリ付映像信号処理部4Aから出力される近赤外光の映像信号IRViと、メモリ付映像信号処理部4Cの可視光の赤(R)成分との相関を取り、その移動ベクトルを算出し、算出した移動ベクトルに応じて、メモリ付映像信号処理部4Cから出力される可視光の映像信号RViとGViとBViとの各部の画素を移動する。
【0042】
図1Dは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Dは、近赤外反射鏡と単板FIT−CCDとを用いた撮像装置の一実施例のブロック構成図である。
図1Dの撮像装置100Dは、図1Aの撮像装置100Aにおいて、CCD3A及び3CをEM−CCDからFIT−CCDに替え、CMG104を除くことによって構成される。
また、図1Cは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Cは、近赤外反射鏡と単板IT−CCDとを用いた撮像装置の一実施例のブロック構成図である。
図1Cの撮像装置100Cは、図1Dの撮像装置100Dにおいて、CCD3A及び3CをFIT−CCDからIT−CCDに替え、さらに、蓄積部垂直転送部103を除くことによって構成される。
【0043】
図1A、図1D、及び図1Cの実施例では、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を、LED若しくはLD等の光源から、目標物体に照射する。
そして、光学系では、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系、及び、色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子と有する。
若しくは、光学系では、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系、及び、光軸上近赤外光収差をピエゾ素子(図示しない)等で機械的に補正し、倍率近赤外光収差(近赤外光の可視光に対する倍率色収差)を電子的に補正する機能を備えた撮像素子を備える。具体的には、図示しないピエゾ素子は、図1A、図1D、若しくは図1Cにおいて、近赤外光を撮像する撮像素子に設けられ、CPU5の制御により上下方向に微小移動して色収差を補正する。
なお、目標物体に照射する光源から照射される近赤外光の波長は、上記以外でもよく、例えば、1350[nm]〜1430[nm]付近、1820[nm]〜1950[nm]付近の近赤外光を用いても良い。撮像素子としては、シリコン可視光撮像素子と高速電子シャッタを有するInGaAs(インジウムガリウム砒素)製近赤外光撮像素子、またはフレームトランスファーCCDや横型オーバーフロードレインCCDで深くフォトダイオードを形成したシリコン製撮像素子でも良い。
【0044】
図1Bは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Bは、色分解光学系と4ケのCCDを用いた撮像装置の一実施例のブロック構成図である。図1A、図1C、または図1Dと同一の機能のものには同一の符号を付し、説明をできるだけ省略する。
【0045】
100Bは本発明の一実施例の撮像装置、2Cは入射光を近赤外光と赤と緑と青とに分光する色分解光学系、3A、3R、3G、及び3Bは色分解光学系2Cから入射した光を電気信号に変換するCCD、4A、4R、4G、及び4Bはメモリ付映像信号処理部である。なお、CCD3A、3R、3G、及び3Bは、例えば、EM−CCD等の電子増倍型CCDである。
4A、4R、4B、及び4Bはメモリ付映像信号処理部、11AはCCD3Aが接続されるAFE、11RはCCD3Rが接続されるAFE、11GはCCD3Gが接続されるAFE、11BはCCD3Bが接続されるAFEである。AFE11A、11R、11G、及び11Bは、CCD3A、3R、3G、3Bからそれぞれ出力された信号から、雑音を除去するCDS109と暗電流補正と信号の利得を調整するAGC110とデジタル映像信号Viに変換する14bit以上のADC111から構成される。なお、AGC110を、AFEに含まず、別に設けても良い。また、AFE11A、11R、11G、11Bには水平転送とリセットとCDS109とAGC110とのTGを含む。
【0046】
図1Bにおいて、光学系1には、復路を通って反射された近赤外光が入射する。また、光学系1には、大気を通過して目標物体に照射され、復路を通って反射された可視光が入射する。光学系1は、これらの光を集束し、色分解光学系2Cに出力する。なお、目標物体から反射する近赤外光は、LED12から往路を通って照射され、復路を通って光学系1に入射するものである。
色分解光学系2Cは、入力された光を赤(R)、緑(G)、青(B)、及び近赤外光(IR)に分光し、分光されたRをCCD3R、分光されたGをCCD3G、分光されたBをCCD3B、分光されたIRをCCD3Aに出射する。
CCD3Aに入射された近赤外光は、電気信号に変換され、メモリ付映像信号処理部4Aを介して陽炎補正部14に入力される。また、CCD3Rに入射された可視光の赤(R)は、電気信号に変換され、メモリ付映像信号処理部4Rを介して陽炎補正部14に入力される。同様に、CCD3Gに入射された可視光の緑(G)は、電気信号に変換され、メモリ付映像信号処理部4Gを介して陽炎補正部14に入力される。また同様に、CCD3Bに入射された可視光の青(B)は、電気信号に変換され、メモリ付映像信号処理部4Bを介して陽炎補正部14に入力される。
【0047】
陽炎補正部14内での処理は、すでに、図3A、図3B、及び図3C、並びに、図2A及び図2Bを用いて説明した。
即ち、陽炎補正部14は、メモリ付映像信号処理部4Aから出力される近赤外光の映像信号IRViとメモリ付映像信号処理部4Rとの相関を取り、その移動ベクトルを算出し、算出した移動ベクトルに応じて、メモリ付映像信号処理部4R、4G、及び4Bから出力される可視光の映像信号RViとGViとBViとの各部の画素を移動させ、NTSC( National Television System Committee )方式またはPAL( Phase Alternating by Line )方式の複合映像信号( Video Burst Sync 、以下、VBSと称する)、またはSDI( Serial Digital Interface )映像信号、あるいはHDTVのSDI(HD−SDI)等の所定方式の映像信号に変換して出力する映像信号処理部である。
【0048】
図1Eは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Eは、色分解光学系と4ケのFIT−CCDとを用いた撮像装置の一実施例のブロック構成図である。
図1Eの撮像装置100Eは、図1Bの撮像装置100Bにおいて、CCD3A、3R、3G、及び3BをEM−CCDからFIT−CCDに替え、CMG104を除くことによって構成される。
また、図1Fは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Fは、色分解光学系と4ケのFIT−CCDとを用いた撮像装置の一実施例のブロック構成図である。
図1Fの撮像装置100Fは、図1Eの撮像装置100Eにおいて、CCD3A、3R、3G、及び3BをFIT−CCDからIT−CCDに替え、さらに、蓄積部垂直転送部103を除くことによって構成される。
【0049】
図1B、図1E、及び図1Fの実施例では、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を、LED若しくはLD等の光源から、目標物体に照射する。
そして、光学系では、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系、及び、色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子と有する。
若しくは、光学系では、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系、及び、光軸上近赤外光収差をピエゾ素子(図示しない)等で機械的に補正し、倍率近赤外光収差を電子的に補正する機能を備えた撮像素子を備える。具体的には、図示しないピエゾ素子は、図1B、図1E、若しくは図1Fにおいて、近赤外光を撮像する撮像素子に設けられ、CPU5の制御により上下方向に微小移動して色収差を補正する。
なお、目標物体に照射する光源から照射される近赤外光の波長は、上記以外でもよく、例えば、1350[nm]〜1430[nm]付近、1820[nm]〜1950[nm]付近の近赤外光を用いても良い。撮像素子としては、シリコン可視光撮像素子と高速電子シャッタを有するInGaAs(インジウムガリウム砒素)製近赤外光撮像素子、またはフレームトランスファーCCDや横型オーバーフロードレインCCDで深くフォトダイオードを形成したシリコン製撮像素子でも良い。
【0050】
図1Gは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Gは、近赤外反射鏡と色分離フィルタ付き単板CMOS撮像素子とを用いた撮像装置の一実施例のブロック構成図である。
100Gは、本発明の一実施例の撮像装置である。光学系1、分光光学系2A、メモリ付映像信号処理部4A、4C、LED12、LED駆動部13、及び陽炎補正部14は、図1A、図1C、図1Dと同様である。
また、1Dと1Cは、それぞれ、分光光学系2Aから入射した光を電気信号に変換するCMOS撮像素子である。分光光学系2Aにおいて、121は分光部、122は反射鏡である。CMOS撮像素子1Dと1Cは、それぞれ、CMOS1D及び1Cは、例えば、TG( Timing Generator )、駆動部、ノイズリダクション(NR:Noise Reduction )部、及びADCを内蔵したCMOS撮像素子である。
また5は撮像装置100A内の各部を制御するCPU、9はTGである。
【0051】
図1Gにおいて、CPU5は、TG9を介して、発光駆動パルスをLED駆動部13に出力する。また、CPU5は、TG9を介して、CMOS撮像素子1D及び1Cにも駆動パルスを出力し、CMOS撮像素子1D及び1Cを駆動する。LED駆動部13は、入力された発光駆動パルスに基づいてLED12を駆動し、LED12は、LED駆動部13に駆動されて、所定のスペクトルまたは所定の波長帯の近赤外光を出力する。
光学系1には、復路を通って反射された近赤外光が入射する。また、光学系1には、大気を通過して目標物体に照射され、復路を通って反射された可視光が入射する。光学系1は、これらの光を集束し、分光光学系2Aに出力する。なお、目標物体から反射する近赤外光は、LED12から往路を通って照射され、復路を通って光学系1に入射するものである。なお、目標物体から反射する近赤外光は、LED12から往路を通って照射される。
光学系1を介して入力された光は、分光光学系2Aの分光部121に入力される。分光光学系2Aの分光部121は、入力された光の可視光成分を透過し、CMOS撮像素子1Cに入射する。また分光部121は、近赤外光成分を反射し、反射光122に出射する。反射鏡122は入射された近赤外光をCMOS撮像素子1Dに出射する。
CMOS撮像素子1Dに入射された近赤外光は、電気信号に変換され、メモリ付映像信号処理部4Aを介して陽炎補正部14に入力される。また、CMOS撮像素子1Cに入射された可視光は、電気信号に変換され、メモリ付映像信号処理部4Cを介して陽炎補正部14に入力される。
【0052】
陽炎補正部14内での処理は、すでに、図3A、図3B、及び図3C、並びに、図2A及び図2Bを用いて説明した。
即ち、陽炎補正部14は、メモリ付映像信号処理部4Aから出力される近赤外光の映像信号IRViとメモリ付映像信号処理部4Aの映像信号Viとの相関を取り、その移動ベクトルを算出し、算出した移動ベクトルに応じて、メモリ付映像信号処理部4Cから出力される可視光の映像信号RViとGViとBViとの各部の画素を移動させ、NTSC( National Television System Committee )方式またはPAL( Phase Alternating by Line )方式の複合映像信号( Video Burst Sync 、以下、VBSと称する)、またはSDI( Serial Digital Interface )映像信号、あるいはHDTVのSDI(HD−SDI)等の所定方式の映像信号に変換して出力する映像信号処理部である。なお、好ましくは、陽炎補正部14は、メモリ付映像信号処理部4Aから出力される近赤外光の映像信号IRViと、メモリ付映像信号処理部4Cの可視光の赤(R)成分との相関を取り、その移動ベクトルを算出し、算出した移動ベクトルに応じて、メモリ付映像信号処理部4Cから出力される可視光の映像信号RViとGViとBViとの各部の画素を移動する。
【0053】
図1Hは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Hは、色分解光学系と4ケのCMOS撮像素子とを用いた撮像装置の一実施例のブロック構成図である。
100Hは、本発明の一実施例の撮像装置である。光学系1、色分解光学系2C、メモリ付映像信号処理部4A、4R、4G、4B、LED12、LED駆動部13、及び陽炎補正部14は、図1B、図1E、図1Fと同様である。
また、1D、1R、1G、及び1Bは、それぞれ、色分解光学系2Cから入射した光を電気信号に変換するCMOS撮像素子である。CMOS撮像素子1D、1R、1G、及び1Bは、それぞれ、例えば、TG( Timing Generator )、駆動部、ノイズリダクション(NR:Noise Reduction )部、及びADCを内蔵したCMOS撮像素子である。
また5は、図1Gと同様に、撮像装置100A内の各部を制御するCPU、9はTGである。
【0054】
図1Hにおいて、CPU5は、TG9を介して、発光駆動パルスをLED駆動部13に出力する。また、CPU5は、TG9を介して、CMOS撮像素子1D、1R、1G、及び1Bにも駆動パルスを出力し、CMOS撮像素子1D、1R、1G、及び1Bを駆動する。LED駆動部13は、入力された発光駆動パルスに基づいてLED12を駆動し、LED12は、LED駆動部13に駆動されて、所定のスペクトルまたは所定の波長帯の近赤外光を出力する。
光学系1には、復路を通って反射された近赤外光が入射する。また、光学系1には、大気を通過して目標物体に照射され、復路を通って反射された可視光が入射する。光学系1は、これらの光を集束し、色光学系2Cに出力する。なお、目標物体から反射する近赤外光は、LED12から往路を通って照射される。
色分解光学系2Cは、入力された光を赤(R)、緑(G)、青(B)、及び近赤外光(IR)に分光し、分光されたRをCMOS撮像素子1R、分光されたGをCMOS撮像素子1G、分光されたBをCMOS撮像素子1B、分光されたIRをCMOS撮像素子1Dに出射する。
CMOS撮像素子1Dに入射された近赤外光は、電気信号に変換され、メモリ付映像信号処理部4Aを介して陽炎補正部14に入力される。また、CMOS撮像素子1Rに入射された可視光の赤(R)成分は、電気信号に変換され、メモリ付映像信号処理部4Rを介して陽炎補正部14に入力される。さらに、CMOS撮像素子1Gに入射された可視光の緑(G)成分は、電気信号に変換され、メモリ付映像信号処理部4Gを介して陽炎補正部14に入力される。またさらに、CMOS撮像素子1Bに入射された可視光の青(B)成分は、電気信号に変換され、メモリ付映像信号処理部4Bを介して陽炎補正部14に入力される。
【0055】
陽炎補正部14内での処理は、すでに、図3A、図3B、及び図3C、並びに、図2A及び図2Bを用いて説明した。
即ち、陽炎補正部14は、メモリ付映像信号処理部4Aから出力される近赤外光の映像信号IRViとメモリ付映像信号処理部4Rとの相関を取り、その移動ベクトルを算出し、算出した移動ベクトルに応じて、メモリ付映像信号処理部4R、4G、及び4Bから出力される可視光の映像信号RViとGViとBViとの各部の画素を移動させ、NTSC( National Television System Committee )方式またはPAL( Phase Alternating by Line )方式の複合映像信号( Video Burst Sync 、以下、VBSと称する)、またはSDI( Serial Digital Interface )映像信号、あるいはHDTVのSDI(HD−SDI)等の所定方式の映像信号に変換して出力する映像信号処理部である。
【0056】
図1G及び図1Hの実施例では、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を、LED若しくはLD等の光源から、目標物体に照射する。
そして、光学系では、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系、及び、色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子と有する。
若しくは、光学系では、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系、及び、光軸上近赤外光収差をピエゾ素子(図示しない)等で機械的に補正し、倍率近赤外光収差を電子的に補正する機能を備えた撮像素子を備える。具体的には、図示しないピエゾ素子は、図1G、若しくは図1Hにおいて、近赤外光を撮像する撮像素子に設けられ、CPU5の制御により上下方向に微小移動して色収差を補正する。
なお、目標物体に照射する光源から照射される近赤外光の波長は、上記以外でもよく、例えば、1350[nm]〜1430[nm]付近、1820[nm]〜1950[nm]付近の近赤外光を用いても良い。撮像素子としては、シリコン可視光撮像素子と高速電子シャッタを有するInGaAs(インジウムガリウム砒素)製近赤外光撮像素子でも良い。
【0057】
次に、図1A、図2A、図4、及び図5を用いて、本発明の陽炎補正部の一実施例について説明する。図4は、本発明のCCD撮像装置の陽炎補正部一実施例の構成を示すブロック図である。14は本発明のCCD撮像装置の一実施例の陽炎補正部、15は映像メモリ、16は相関検出部、17は画素移動読出しアドレス部、18は出力部、19は画像処理部である。図5は、本発明のCCD撮像装置の陽炎補正部の相関をとる一実施例を説明するための模式図である。図5(1)は赤(R)の画像、図5(2)は近赤外光の画像を示す。
図4の陽炎補正回路では、図3A、図3B、及び図3Cで説明したように、CPU6の制御に基づいて、以下のように補正を行う。
【0058】
図4及び図5において、映像メモリ15には、近赤外光のデジタル映像信号IRVi、赤(R)のデジタル映像信号RVi、緑(G)のデジタル映像信号GVi、青(B)のデジタル映像信号BViが入力され、保存される。
映像メモリ15は、入力されたデジタル映像信号IRViから近赤外光の映像データEIR1H、・・・、EIRkH、・・・、EIRnH( IRは近赤外光を示し、kHはk番目の水平ラインであることを示す。1<k<nであり、n=243である)と、赤(R)のデジタル映像信号RViから赤の映像ラインの映像データER1H、・・・、ERmH、・・・、ERnH( Rは可視光の赤色成分を示し、mHはm番目の水平ラインであることを示す。1<m<nであり、n=243である)とを相関検出部16に出力する。
【0059】
相関検出部16は、入力された近赤外光の映像データEIR1H、・・・、EIRkH、・・・、EIRnHのそれぞれについて、入力された赤の映像ラインの映像データER1H、・・・、ERmH、・・・、ERnHとの相関を採り、映像ライン間で最も相関の高い映像データEIRkHt1及びERmHt2を検出する。検出した最も相関の高い映像データEIRkHt1及びERmHt2について、近赤外光の映像データEIRkHt1の垂直ライン番号をj、水平時間をt1とし、赤色成分の映像データERmHt2の垂直ライン番号をi、水平時間をt2とする。その時、垂直差dV(dV=i−j)及び水平差dH(dH=t2−t1)を算出し、算出した垂直差dV及び水平差dHを画素移動読出しアドレス部17に出力する。
例えば、相関検出部16は、EM−CCD等の電子増倍型CCDであるときに、近赤外光の映像ラインの映像データEIRkHが奇数フィールドである場合には、赤の映像ラインのER0H、ER1H、ER2H、・・・、ERmH、・・・、ER243Hと相関を採る。また、近赤外光の映像ラインEIRkHが偶数フィールドである時には、赤の映像ラインのER263HとER2H、・・・、ER2mH、・・・、ER505Hと相関を採る。
好ましくは、相関検出部16は、相関を採るときに、輪郭信号を発生する。
【0060】
画素移動読出しアドレス部17は、入力された垂直差dVと水平差dHとから、読出しアドレスを算出し、映像メモリ15から、赤の映像RVi、緑の映像GVi、及び青の映像BViを読出す。即ち、映像メモリ15は、画素移動読出しアドレス部17から指定されたアドレスの映像データを出力部18及び画像処理部19に出力する。
即ち、画素移動読出しアドレス部17は、垂直差dVと水平差dHとから読出しアドレスを算出して出力部18に出力する。なお、色倍率収差を更に算出して、読み出しアドレスを補正して、出力部18に出力しても良い。
出力部18及び画像処理部19には、赤(R)、緑(G)、及び青(B)の各画素を近赤外光と最も相関の高い画素を、垂直差dV及び水平差dH分逆方向に移動した映像が入力される。このため、図4の実施例によれば、大気の窓の外で地表太陽光が弱い近赤外光の水平走査に同期したパルス発光と水平走査に同期した高速電子シャッタにより、リアルタイムで画面の目標物体の可視光に隣接の近赤外光の大気の揺らぎを検出し可視光の映像の大気の揺らぎを補正することが可能となる。
即ち、出力部18は、入力された読出しアドレスに基づいて、映像メモリ15から赤(R)の映像信号RVo、緑(G)の映像信号GVo、及び青(B)の映像信号BVoとして読出すことにより、赤(R)のERmHt2、緑(G)のEGmHt2、青(B)のEBmHt2の各画素を近赤外光の映像信号IRViと最も相関の高い画素との移動ベクトルと逆方向に移動させる。
その結果、出力部18は、地表付近または海上付近の大気の揺らぎが補正された画像を出力する。
その結果、画像処理部19は、大気の揺らぎが補正された画像によって、正確な画像処理が可能となる。例えば、侵入物体の検出が的確に実行することができるため、監視等の用途に用いるための撮像装置を提供できる。
なお、画像処理部19を除去した撮像装置も可能であり、また、その場合に、出力部18の後段(撮像装置の後段)に画像処理部を別に設けることもできる。
【0061】
上記図4、図5の実施例は、近赤外光と赤緑青とに分光する色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子とを有する撮像装置であり、約970[nm]付近または約1130[nm]付近の近赤外光を、水平走査期間より短い時間、LEDまたはLDを目標物体に照射し、電子シャッタ露光を用いその反射光を取得する。そして、近赤外光の1画面分の輪郭成分(往復で距離が2倍の地表大気の揺らぎが発生する)と可視光画面の輪郭成分(片道で距離が1倍の地表大気の揺らぎ)との相関を検出し、画面各部の往復分と片道分の差から片道分の地表大気の揺らぎ成分の移動ベクトルを検出し、可視光映像の画面各部ごとに片道分の地表大気揺らぎの移動ベクトルを補正する。この結果、霞や土埃の影響を受け難い赤の映像の、霞、もや、または土埃の影響で浮きあがった暗部を沈めた映像信号で侵入者を検知することができる。
【0062】
なお好ましくは、図4において、相関検出部16は、輪郭信号を発生し、画素移動読出しアドレス部17に出力する。画素移動読出しアドレス部17は、入力された輪郭信号に基づいて出力部18に陽炎補正の画素移動読出し用のマーカ信号を出力する。出力部18は、陽炎調整時の本線(可視光映像)の輪郭成分との相関を検出して補正している画面部分に、特定色を重畳する。従って、出力映像をモニタ等に表示する場合には、特定の色が重畳されて表示される(図示しない)。このため、陽炎補正処理中か否かが表示画面で確認でき、より好ましくは、GUI( Graphical User Interface )等によって、オペレータが、陽炎補正処理を調整可能となる。なお、特定色としては、光の3原色の補色の内で目立つ黄色が好ましい。
【0063】
なお、上記図1〜図5の実施例において、近赤外光を出力する光源が、LEDであれば出力レベルについての安全上での制限を受けず、LDのような完全な平行ビームではないので、レンズとの光軸調整精度も緩くて構わない。
また、上記図1〜図5の実施例において、さらに、近赤外光を電気信号に変換する撮像素子について、軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差を電子的に補正する。この結果、地表上に太陽光がほとんどない状態に等しいので、近赤外光収差を補正すれば、基準となる照射LEDの光量は少なくても良い。
またさらに、1400[nm]以上の赤外光は、人間の眼の硝子体の液体によって伝達されないため、安全上の出力レベル制限が減るので取扱いも容易である。
さらにまた、約1350[nm]〜1430[nm]付近の光であれば、シリコン製の撮像素子であっても、FIT−CCDや横型オーバーフロードレインCCDやCMOSで深くフォトダイオードを形成した撮像素子なら撮像可能である。フォトダイオードをサブストレート内に深く形成することによって、暗電流のばらつき及び経時劣化の発生を低減できる。なおさらに好ましくは、CCDを冷却すると、CCDの結晶欠陥を低減し、電界集中を低減することができる。
【0064】
また上記図1〜図5の実施例では、赤の輪郭成分と近赤外光の輪郭成分との相関を検出し、画面各部の片道分の地表大気揺らぎ成分の移動ベクトルを検出し、赤緑青の画面各部ごとに片道分の地表大気揺らぎの移動ベクトルを補正している。近赤外光の映像と赤の映像との比較なので、目立たない彩度の低い色の被写体なら、分光反射率の影響は少なく、色収差の少ない安価なガラスを用いても本発明の撮像装置が実現可能である。この場合、近赤外光と赤を使用するので、色収差の影響が少ない。
【0065】
上述の実施例によれば、上記実施例の撮像装置によれば、太陽光が直接照射される地表付近や海上付近において、遠距離被写体の撮像位置が短時間に不規則に変化することを補正することできる。
また、近赤外光と赤との比較なので、被写体の分光反射率、つまり色とレンズの色収差との影響をほとんど受けない。このため、地表大気揺らぎの移動ベクトルを補正する誤差が少ない。更に、レンズの色収差との影響をほとんど受けないので、赤の映像のMTF( Modulation Transfer Function )が高い。
【0066】
本発明は、元々、霞、もや、土埃、等の影響を受け難い赤色成分の映像を使用している。この赤色成分の映像は、霞、もや、または土埃の影響で浮きあがった暗部を沈めた映像信号となる。このため、更に、霞や土埃の影響によるコントラスト低下が少なくなり、検出が容易になる。
【0067】
以上シリコン製のEM−CCDを用いた撮像装置について詳細に説明し、FT−CCDやCMOS撮像素子やInGaAsインジウムガリウム砒素製製の撮像素子の概略を説明したが、本発明は、ここに記載された撮像装置に限定されるものではなく、上記以外の近赤外光に高感度なCCDや近赤外光に高感度なCMOS撮像素子を用いた撮像装置他の撮像装置に広く適用することができることは言うまでもない。
【符号の説明】
【0068】
1:光学系、 2A:分光光学系、 2C:色分解光学系、 3A、3C、3R、3G、3B:CCD、 4A、4C、4R、4G、4B:メモリ付映像信号処理部、 5:CPU、 6:OD駆動部、 7:撮像部の垂直転送駆動部、 8:蓄積部の垂直転送駆動部、 9:TG、 10:CMG駆動部、 11A、11C:AFE、 12:LED、 13:LED駆動部、 15:映像メモリ、 16:相関検出部、 17:画素移動読出しアドレス部、 18:出力部、 19:画像処理部、 100A、100B、100C、100D、100E、100F、100G、100H:撮像装置、 101:フォトダイオード、 102:撮像部の垂直転送部、 103:蓄積部の垂直転送部、 104:CMG、 105:電圧変換部、 106:水平周期シャッタTG、 107:水平周期読出パルスと垂直転送TG、 108:垂直転送TG、 109:CDS、 110:AGC、 111:ADC、 112:TG、 121:分光部、122:反射鏡、 200:撮像装置、 201a、202a、・・・、211a、212a、213a、214a、215a・・・:映像信号、 201b、202b、・・・、211b、212b、213b、214b、215b、・・・:映像信号、 220a、・・・、221a、222a、223a、224a、225a、226a、・・・:LEDの発光駆動パルス、 220b、221b、・・・、222b、223b、224b、225b、・・・:LEDの発光駆動パルス、 230a、・・・、231a、232a、233a、234a、235a、236a、・・・:CCDの掃き捨てタイミングクロック、 230b、231b、・・・、232b、233b、234b、235b、・・・:CCDの掃き捨てタイミングクロック、 240a、・・・、241a、242a、243a、244a、245a、246a、・・・:垂直転送パルスV1Aの読出パルス、 240c、244c、・・・:垂直転送パルスV1Aの転送パルス、 241c、245c、・・・:垂直転送パルスV1Aの映像信号転送区間、 241c、245c、・・・:垂直転送パルスV1Aの映像信号転送区間、 240b、241b、・・・、242b、243b、244b、245b、・・・:読出パルス、 242d、243d、244d、245d、246d、247d、・・・:転送パルス、 251c、255c、・・・:垂直転送パルスV2Aの映像信号転送区間、 252d、253d、254d、255d、256d、257d、・・・:転送パルス、 260a、・・・、262a、263a、264a、265a、266a、・・・:垂直転送パルスV3Aの読出パルス、 260c、264c、・・・:垂直転送パルスV3Aの転送パルス、 261c、265c、・・・:垂直転送パルスV3Aの映像信号転送区間、 260b、261b、・・・、262b、263b、264b、265b、・・・:読出パルス、 262d、263d、264d、265d、266d、267d、・・・:転送パルス、 271c、274c、・・・:垂直転送パルスV4Aの映像信号転送区間、 272d、273d、274d、275d、276d、277d、・・・:転送パルス、 280a、・・・、281a、282a、283a、284a、285a、286a、287a、・・・:垂直転送パルスV1Bの転送パルス、 281c、285c、・・・:垂直転送パルスV1Bの映像信号転送区間、 281b、282b、283b、284b、285b、286b、・・・:フレームメモリ入力信号期間、 290a、・・・、291a、292a、293a、294a、295a、296a、297a、・・・:垂直転送パルスV2Bの転送パルス、 291c、295c、・・・:垂直転送パルスV2Bの映像信号転送区間、 290b、291b、・・・、292b、293b、290b、291b、・・・、292b、293b、294b、295b、・・・:信号電荷、 2100b、2101b、・・・、2102b、2103b、2104b、2105b、・・・:信号電荷、 2101a、2102a、2103a、2104a、2105a、2106a、2107a、・・・:垂直転送パルスV3Bの転送パルス、 2101c、2104c、・・・:垂直転送パルスV3Bの映像信号転送区間、 2111a、2112a、2113a、2114a、2115a、2116a、2117a、・・・:垂直転送パルスV4Bの転送パルス、 2111c、2114c、・・・:垂直転送パルスV4Bの映像信号転送区間、 2121a、2122a、2123a、2124a、2125a、・・・:信号電荷、 2130a、2131a、2132a、2133a、2134a、2135a、・・・:信号電荷、 301a、301b、301c:画像、 302a、302b、302c:電信柱の被写体像。
【技術分野】
【0001】
本発明は、地表や海上等、遠距離に存在する物体を撮像する技術に関するものである。
【背景技術】
【0002】
従来から、天体望遠鏡では、山頂の大気の揺らぎを検出し、所定の補正をかけて光学的に大気の揺らぎを補正している。例えば、天体望遠鏡では、589[nm]のナトリウムD2波長のレーザー光を大気圏上層部のナトリウム高濃度層にスポット照射し、ナトリウム原子を589[nm]の波長で発光させる。このナトリウム原子から発光された589[nm]の波長の光を、大気の揺らぎによる波面の乱れ(地表大気揺らぎ成分)として検出し、大気の揺らぎ(地表大気揺らぎ成分)が打ち消されるように可変形状反射鏡面を変形させて波面の乱れを打ち消す。この結果、光学的に大気の揺らぎを補正している。ただし、大気の乱れが変わらないうちに補正する必要がある(非特許文献1参照)。
【0003】
また、太陽光が直接照射される地表や海上では、照射された太陽光で暖められた大気が不規則に上昇し、陽炎と呼ばれる、時間的に不規則に振動する光の屈折現象(例えば、もや状やしま模様の影、即ち、地表大気の揺らぎ)が発生することがある。このような現象が発生したときには、特に遠距離の場合に、撮像装置が撮像した映像の撮像位置は、肉眼では観測できなくても、不規則に振動する。さらに、標高が低い地表や海上では、太陽光が水蒸気等に吸収されて減衰し、970[nm]付近と、1130[nm]付近の近赤外光の大気中の透過率は、可視光に比較して1/20以下と小さい。また、波長の短い青色成分の可視光は、霞や霧などのもや、及び土埃等で乱反射される。これらの乱反射の影響を受け難いのは、赤色成分の可視光とされている。
さらにまた、撮像装置においては、霞や霧などが発生した大気中で撮像する場合のもや等の乱反射の除去方法として、可視光短時間パルスLED( Light Emitting Diode )を目標物体に照射し、電子シャッタ露光により、所定距離以外の乱反射光を除去して、所定距離の目標物体の反射光のみ撮影することが提案されている(特許文献1参照)。
【0004】
さて、大気中の光の透過率が高い波長域のことを大気の窓と呼ぶことがある。可視光についても同様で、大気の窓の波長域の太陽光(当該色成分の太陽光)は、特に地表付近や海上付近(標高が低い地表や海上)で、あまり減衰せずに照射される。しかし、近赤外光の波長域は、大気中の分子に吸収され、太陽光が地表に届く前に減衰する。特に、970[nm]付近、1130[nm]付近、1350[nm]〜1430[nm]付近、及び、1820[nm]〜1950[nm]付近の波長帯の近赤外光は、9割以上が水蒸気に吸収されほとんど地表に届かない。また、約760[nm]の輝線スペクトラムも、酸素に吸収されほとんど地表に届かない(非特許文献2参照)。
【0005】
なお、1400[nm]以上の波長の赤外光は、人間の眼の硝子体の液体によって伝達されない。このため、その波長帯の赤外光が照射されても、網膜に送られる可能性は低い。この場合、角膜の表面が損傷する可能性はあるが、目の焦点合わせ機能によって出力密度が拡大されることはない。従って、非常に大きな出力でない限り、損傷が発生することはない。
また、放送用テレビカメラのレンズ絞りの調整確認用として、ビューファインダや確認用映像に基準輝度レベルのゼブラを重畳している。
【0006】
また、デジタル信号処理回路の集積化が進み、複数ラインの出力信号を記憶し算術処理することが、映像専用のメモリ集積DSP( Digital Signal Processor )だけでなく、安価な汎用のFPGA( Field Programmable Gate Array )でも容易に実現できるようになった。ただし、信号処理の諧調数をなるべく減らさないと回路規模が増大する。
さらに、CCD( Charge Coupled Device )から出力された信号から雑音を除去するCDS( Correlated Double Sampling )、暗電流補正と利得可変増幅回路( Automatic Gain Control 、以下、AGCと称する)、及び、デジタル映像信号Viに変換するADC( Analog Digital Converter )を内蔵したAFE( Analog Front End )が普及してきた。AFEのADCの階調は、従来10ビットだったが、12ビットや14ビットが一般化し、16ビットも製品化された。その上さらに、フレームメモリを内蔵したDNR( Digital Noise Reduction )専用IC( Integrated Circuit )も低価格で発売された。
また、手ぶれ電子補正では、動き検出信号を元に画像メモリに書き込まれている映像信号を水平と垂直方向に手ぶれによって移動した後の位置から読み出し、元の被写体の同一の点が重ね合わされるように合成している。(特許文献2参照)。
【0007】
また、有効信号の一部を繰り返すガードバンド付き直交周波数分割多重( Orthogonal Frequency Division Multiplexing 、以下、OFDMと称する)映像伝送方式では、FPGAを用い、受信したOFDM信号と該OFDM信号を有効シンボル遅延した信号と複素乗算し加算して、ガード相関のI成分の絶対値とQ成分の絶対値を加算し、ピーク値の二乗値または二乗値の平方根値の平均値から上記受信信号のレベルを算出している(特許文献3参照)。
また、OFDM伝送方式では、受信信号を離散フーリエ変換し、周波数の大きさの順に連続的に並べ替えて算出した複素ベクトル信号の列からなる全キャリア信号を、所定の周波数でキャリア方向に変調、周波数シフト後、キャリア方向内挿演算を実施し、基準信号を再生していた(特許文献4参照)。
【0008】
さらに、電子増倍型CCD撮像素子(例えば、Electron Multiplying-CCD:EM−CCD)は、電子冷却部と組み合わせて感度を高くできる。このため、該撮像素子を用いた撮像装置(電子増倍型CCD撮像装置)では、可視光と近赤外光による撮影によって、夜間や暗い場所において、照明なしの準動画の取得が可能となり、特に監視用途で使用している。
電子増倍型CCDは、電子冷却と組み合わせて感度を高くできる。例えば、EM−CCDの電子増倍電極(以下、CMGと称する)の振幅電圧が0.1V高くなると1.4倍増幅率が高くなり、EM−CCDの温度が11℃低くなると1.8倍電子増倍率が高くなる。このため、駆動波形の電圧振幅確保と高安定性と発熱低減、つまり消費電力の低減が求められる。
さらに電子増倍率は、CMGの振幅電圧に強く相関して、CMG一段当たり0〜2%の確率で発生し、例えば、一段当たり1%とすると、CMGが640段では、EM−CCDとしては、“1.01”の649乗で、約583倍の電子増倍率となる。そのため、CMGの振幅電圧が0.1V高くなると、EM−CCDの電子増倍率が約1.4倍高くなる。従って、非常に低い周波数で、電子増倍率の変動が不規則に揺らぎ、画像信号が不規則に変調され、偽信号が発生する。また、電子増倍の低入射光量レベル側の増倍感度を高くすると、画面の目視上でも非常に目立つ雑音となり、実効感度が大幅劣化する。さらに高電子増倍時は、高電子増倍率と入射光量との積の累積で電子増倍率が低下する。そのため、EM−CCDを特に強く電子冷却してCMG電圧の振幅を最小限にする必要がある(非特許文献1と非特許文献2参照)。しかし、EM−CCDは、密閉状態で使用する必要があり、熱発生部を電子冷却し、撮像装置自体を密閉された空間内に収納し、冷却ファンで空気を対流循環させている。このため、放熱が困難で、電子冷却の冷却効果が小さい。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開2008−109639号公報
【特許文献2】特開2003−189318号公報
【特許文献3】特開2003−115787号公報
【特許文献4】特開2002−232382号公報
【非特許文献】
【0010】
【非特許文献1】竹本宗一郎、「すばる望遠鏡のレーザーガイド星補償光学系の実用化」、誠文堂新光社、天文ガイド、2009 No.10 October P19-P23
【非特許文献2】土田聡、「可視・近赤外域における大気補正」、資源・環境リモートセンシング実用シリーズ2:地球観測データの処理、p.124-139,2002
【非特許文献3】TI製品カタログ、TC246RGB-B0 680 x 500 PIXEL IMPACTRONTM PRIMARY COLOR CCD IMAGE SENSOR 、SOCS087 - DECEMBER 2004 - REVISED MARCH 2005
【非特許文献4】浜松ホトニクス、「高感度カメラの原理と技術」 Cat No.SCAS0020J01 、DEC/2006
【非特許文献5】「 Longevity in EMCCD and ICCD Part I−EMCCD 」、ANDOR Technical Note 、14−Mar−06
【発明の概要】
【発明が解決しようとする課題】
【0011】
上述の従来技術では、太陽光が直接照射される地表付近や海上付近では、陽炎により遠距離被写体の撮像位置が短時間に不規則に変化する。このような変化は、山頂の大気の揺らぎと異なり、遠距離照射の基準可視光が太陽光より弱い。このため、従来の撮像装置では、撮像位置の変化を検出することが困難であった。
本発明は、上記の問題に鑑み、太陽光が直接照射される地表付近や海上付近において、遠距離被写体の撮像位置が短時間に不規則に変化することを補正する撮像装置を提供することが目的である。
【課題を解決するための手段】
【0012】
上記課題を解決するため、本発明は、水平走査に同期した水平走査より短い時間、LED( Light Emitting Diode )またはLD( Laser Diode )を用いた光源から出力された所定の波長帯の光を目標物体に照射し、照射された所定の波長帯の光による目標物体からの反射光を、画面一斉の水平走査に同期した電子シャッタ露光で撮像し、撮像された映像について、前記近赤外光の画面の輪郭成分と可視光画面の輪郭成分との相関を検出し、画面各部の往復分と片道分の差から片道分の地表大気の揺らぎ成分の移動ベクトルを検出し、可視光映像の画面各部ごとに片道分の地表大気の揺らぎの移動ベクトルを補正することを特徴とする撮像装置である。
前記所定の波長帯の光は、大気中の気体分子で吸収される近赤外光の光である。
また、前記可視光画面は、前記近赤外光の画面と別に、カラー映像を撮像する色分解系のCCD撮像素子で構成される。
若しくは、前記可視光画面は、前記近赤外光の画面と別に、カラー映像を撮像する色分離フィルタ付きのCCD撮像素子で構成される。
また、前記近赤外光画面の輪郭成分は、往復で2倍の地表大気の揺らぎを検出することであり、前記可視光画面の輪郭成分は、片道での地表大気の揺らぎである。
さらに、前記近赤外光画面の輪郭成分は、LEDまたはLDから照射される近赤外光の往路と、該LEDまたはLDから照射された所定の波長帯の光による目標物体からの反射光の復路を通った往復分の映像である。
【0013】
また、上記本発明の撮像装置は、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を用い、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系と、色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子と有するか、光軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差を電子的に補正するか、の少なくともいずれか一方を特徴とする撮像装置である。
さらに、上記本発明の撮像装置は、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を用い、近赤外光分解光学系と可視光と高速電子シャッタを有するシリコン近赤外光撮像素子と有するか、光軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差を電子的に補正するか、の少なくとも一方を特徴とする撮像装置である。
また、上記本発明の撮像装置は、1350[nm]〜1430[nm]付近と1820[nm]〜1950[nm]付近の近赤外光を用い、可視光と近赤外光とを透過する光学系と、近赤外光分解光学系とシリコン可視光撮像素子と高速電子シャッタを有するInGaAs(インジウムガリウム砒素)製近赤外光撮像素子またはフレームトランスファーCCDや横型オーバーフロードレインCCDで深くフォトダイオードを形成したシリコン製撮像素子とを有し、光軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差を電子的に補正するか、の少なくとも一方を特徴とする。
【0014】
また、上記本発明の撮像装置は、目標物体設定時には、LEDから出力され、画面ごとに可変させた基準近赤外光パルスであって、水平走査に同期し、水平走査期間より短い時間の基準近赤外光パルスを目標物体に照射し、該目標物体から反射した基準近赤外光パルスを電子シャッタ露光し、目標物体までの基準近赤外光パルスの往復時間を検出し、目標物体までの基準近赤外光パルスの往復時間に合わせて、照射し電子シャッタ露光することを特徴とする。
【0015】
また、上記本発明の撮像装置は、赤の輪郭成分と近赤外光の輪郭成分との相関を検出し、画面各部の片道分の地表大気の揺らぎ成分の移動ベクトルを検出し、検出した移動ベクトルに基づいて赤緑青の画面各部ごとに片道分の地表大気の揺らぎの移動ベクトルを補正することを特徴とする。
【0016】
また、上記本発明の撮像装置は、少なくとも調整時の本線の輪郭成分との相関を検出し補正している画面部分に、特定の色を重畳することを特徴とする。
好ましくは、上記特定の色は黄色である。
【0017】
また、上記本発明の撮像装置は、近赤外光と赤緑青とに分光する色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子とを有する撮像装置を含む監視装置であり、970[nm]付近または1130[nm]付近の近赤外光を水平走査に同期した水平走査より短い時間LEDまたはLDを目標物体に照射し反射光を電子シャッタ露光での前記近赤外光画面の輪郭成分(往復で2倍地表大気の揺らぎ)と可視光画面の輪郭成分(片道地表大気の揺らぎ)との相関を検出し、画面各部の往復分と片道分の差から片道分の地表大気の揺らぎ成分の移動ベクトルを検出し、可視光映像の画面各部ごとに片道分の地表大気の揺らぎの移動ベクトルを補正し、(霞や土埃の影響を受けにくい)赤の映像の(霞や土埃の影響で浮きあがった)暗部を沈めた映像信号で侵入者を検知することを特徴とする監視装置である。
【発明の効果】
【0018】
本発明によれば、大気の窓の外で地表太陽光が弱い近赤外光の水平走査に同期したパルス発光と水平走査に同期した高速電子シャッタにより、リアルタイムで画面の目標物体の可視光に隣接の近赤外光の大気の揺らぎを検出し可視光の映像の大気の揺らぎを補正する。
【図面の簡単な説明】
【0019】
【図1A】近赤外反射鏡と単板EM−CCDと色分離フィルタ付きEM−CCDを用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1B】色分解光学系と4ケのEM−CCDを用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1C】近赤外反射鏡と単板IT−CCDと色分離フィルタ付きEM−CCDを用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1D】近赤外反射鏡と単板FIT−CCDと色分離フィルタ付きEM−CCDを用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1E】色分解光学系と4ケのFIT−CCDを用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1F】色分解光学系と4ケのIT−CCDを用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1G】色分解光学系と単板のCMOS撮像素子を用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図1H】色分解光学系と4ケのCMOS撮像素子を用いた本発明の撮像装置の一実施例の全体構成を示すブロック図である。
【図2A】本発明のCCD撮像装置の一実施例における光源の発光と撮像とのタイミングチャートを示す図である。
【図2B】本発明のCCD撮像装置の一実施例における光源の発光と撮像とのタイミングチャートを示す図である。
【図3A】本発明の一実施例や従来技術での画面片道の大気の揺らぎの模式図。
【図3B】本発明の一実施例での画面の往復の大気の揺らぎを示す模式図。
【図3C】本発明の一実施例の画面片道の大気の揺らぎの補正後の模式図。
【図4】本発明のCCD撮像装置の陽炎補正部一実施例の構成を示すブロック図である。
【図5】本発明のCCD撮像装置の陽炎補正部の相関をとる一実施例を説明するための模式図である。
【発明を実施するための形態】
【0020】
以下に本発明の一実施形態を図面等を用いて説明する。なお、以下の説明は、本発明の一実施形態を説明するためのものであり、本願発明の範囲を制限するものではない。従って、当業者であればこれらの各要素若しくは全要素をこれと均等なものに置換した実施形態を採用することが可能であり、これらの実施形態も本願発明の範囲に含まれる。
【0021】
まず、図3A、図3B、及び図3Cによって、本発明の陽炎補正について簡単に説明する。図3A、図3B、及び図3Cは、地表上の電信柱を撮像装置が撮像した映像を示す図である。図3Aは、陽炎と呼ばれる現象が発生した時に、撮像装置が撮像した場合の映像を示す図である。図3Bは、LED( Light Emitting Diode )またはLD( Laser Diode )等の光源から出力された光が電信柱に照射され、照射された光が電信柱から反射して戻ってきた被写体像(反射光)を撮像装置が撮像した場合の映像を示す図である。図3Cは、本発明によって陽炎補正した場合に撮像装置が撮像した場合の映像の一実施例を示す図である。301a、301b、301cは、それぞれ、CCD撮像装置が撮像した視野内全体(画角全体)の表示映像出力( Video Out )画像である。302aは画像301a内の電信柱の被写体像、302bは画像301b内の電信柱の被写体像、302cは画像301c内の電信柱の被写体像である。
【0022】
通常、陽炎等、大気の揺らぎがない時には、電信柱の被写体像は、肉眼による視認や撮像装置が監視視野内を撮像した全体画像中では、図3Cの画像302bのように見える。しかし、陽炎等、大気の揺らぎが発生した時には、電信柱の被写体像は、肉眼による視認や撮像装置が撮像した画像では、図3aの画像302bのように見える。この画像は、被写体から、その可視光の反射光が、被写体像としてCCD撮像装置の撮像部まで到達することによる。この場合、太陽光が被写体に照射され、その反射光が被写体像として観察される。被写体像は、時間的に不規則に振動する大気中を通過するため、光の屈折現象が発生し、図3aのように、陽炎現象として見える。この場合は、大気中を通過する光は片道分の屈折現象は、片道分でしか影響を受けない。大気は上空方向から入射するので、揺らぎの影響がないとする。
また、この光の道筋は、被写体像からCCD撮像素子まで間だけの片道(復路)だけである。さらに、大気は、地表上付近や海上付近は、可視光の大半の波長帯が乱反射し、赤色成分(赤の波長帯)だけが通過する。このため、CCD撮像装置が撮像した映像は、画像全体が赤色に見える。
【0023】
本発明の図3A、Bの実施例では、CCD撮像装置側のLED、LD等の光源から、可視光より長い波長帯の光(例えば、近赤外光)を出力し、目標物体(被写体)に照射する。この光は、図3Aに示したように、大気の揺らぎが発生している時において、目標物体(被写体)に到達するまでの道筋(往路)で、陽炎等の大気の揺らぎによる、時間的に不規則に振動する大気中を通過する。このため、目標物体に到達した近赤外光は、すでに、屈折した光となっている。
そして、この屈折した光が目標物体に照射され、反射光が出力光源から出力された場合には、さらに復路(被写体からCCD撮像装置の撮像面に至る道筋)で光の屈折現象が発生する。この結果、図3Bの画像301bの被写体像302bのように、2倍に屈折した陽炎現象が見える。即ち、時間的に不規則に振動する大気中を、2回通過するため、光の屈折現象を2重に発生し、図3bのように、陽炎現象として見える。
そして、図3Aの可視光による画像と、図3Bの近赤外光による画像について、それぞれ、目標物体の輪郭成分抽出し、抽出された近赤外光による画像の輪郭成分と、可視光による画像の輪郭成分との相関演算を検出する。そして、検出された輪郭の各部(画素ごと)の往復分と片道分との差から、片道分の大気の揺らぎ成分の移動ベクトルを検出し、可視光による画像の画面各部(例えば、画素ごとまたは、画素ブロックごと)に検出した移動ベクトルにより画面の補正を行う。即ち、画素ごとまたは画素ブロックごとに検出した移動ベクトル量分を逆方向に画像を移動する。
なお、好ましくは、相関を採るための可視光の画像は、CCD撮像装置の撮像視野内全体(画角全体)を撮像した画像の映像信号である。また好ましくは、相関を採るための可視光の画像は、可視光の赤(R)成分の映像信号である。
【0024】
具体的には、本発明の撮像装置の一実施形態は、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を用い、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系と、色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子と有するか、光軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差を電子的に補正するか、の少なくともいずれかを備える。
さらに、本発明の撮像装置の一実施形態は、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を用い、近赤外光分解光学系と可視光と高速電子シャッタを有するシリコン近赤外光撮像素子と有するか、光軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差を電子的に補正するか、の少なくともいずれかを備える。
【0025】
また、本発明の撮像装置の一実施形態は、1350[nm]〜1430[nm]付近と1820[nm]〜1950[nm]付近の近赤外光を用い、可視光と近赤外光とを透過する光学系と、近赤外光分解光学系とシリコン可視光撮像素子と高速電子シャッタを有するInGaAs(インジウムガリウム砒素)製近赤外光撮像素子またはフレームトランスファーCCDや横型オーバーフロードレインCCDで深くフォトダイオードを形成したシリコン製撮像素子とを有し、光軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差(近赤外光の可視光に対する倍率色収差)を電子的に補正するか、の少なくともいずれかを備える。
【0026】
また、本発明の一実施例の出力回路含む陽炎補正部の内部構成を示すブロック図の図4(後述)のように、赤の輪郭成分と近赤外光の輪郭成分との相関を検出し、画面各部の片道分の地表大気の揺らぎ成分の移動ベクトルを検出し、赤緑青の画面各部ごとに片道分の地表大気の揺らぎの移動ベクトルを補正する。
また、後述の図2Aによって説明するEM−CCDまたはFIT−CCDを用いた場合の本発明の一実施例の発光と撮像とのタイミングチャートのように、あるいは、後述の図2Bによって説明するIT−CCDを用いた場合の本発明の一実施例の発光と撮像とのタイミングチャートのように、目標物体を設定した時には、高原より出力された基準近赤外光パルスを目標物体に照射し電子シャッタ露光し、目標物体までの光の往復時を検出し、目標物体までの光の往復時に合わせて照射し電子シャッタ露光する。好ましくは、上記において、LED若しくはLDを光源とする。また好ましくは、上記基準近赤外光パルスは、画面ごとに可変させたものである。また好ましくは、上記基準近赤外光パルスは、水平走査パルスに同期した、水平走査パルスより短い期間のパルスである。
さらに、好ましくは、本発明の撮像装置の一実施例の全体構成の図1A〜図1H(後述する)で説明するように、調整時の本線(可視光)の輪郭成分との相関を検出し補正している画面部分に、特定色を重畳する。好ましくは、本線(可視光)の輪郭成分のうち、赤(R)成分を用いる。
また好ましくは、上記電子シャッタ露光は、画面一斉の水平走査に同期した露光である。即ち、好ましくは、上記電子シャッタ露光は、汎用CMOS撮像素子のローリングシャッタ方式の露光ではない。
【0027】
図3A、図3B、図3Cで説明した実施例について、さらに図2Aと図2Bを用いて説明する。図2Aと図2Bは、それぞれ、本発明の一実施例のCCD撮像装置における光源の発光と撮像とのタイミングチャートを示す図である。
なお、図2Aは、本発明の一実施例のEM−CCD撮像装置を含むFIT( Frame Interline Transfer )方式を説明するタイミングチャートであり、図2Bは、本発明の一実施例のEM−CCD撮像装置を含むIT( Interline Transfer )方式を説明するタイミングチャートである。
【0028】
図2Aにおいて、(1)は、映像信号期間を、映像信号201a、202a、・・・、211a、212a、213a、214a、215a、・・・として示す。また(2)は、LEDの発光駆動パルス220a、・・・、221a、222a、223a、224a、225a、226a、・・・を示す。図2Aに示すように、LEDの発光駆動パルス長は、それぞれの映像信号期間より短い。好ましくは、LEDの発光駆動パルスは、映像信号期間それぞれと同期して立上がる。
また(3)は、CCDの掃き捨てタイミングクロック(φSub)230a、・・・、231a、232a、233a、234a、235a、236a、・・・を示す。
【0029】
(4)と(6)は、受光部のそれぞれの素子から、信号電荷をそれぞれ読出すための1対の垂直転送パルスV1AとV3Aの読出パルス240aと260A、・・・、241a、242aと262A、243aと263A、244aと264A、245aと265A、246aと266A、・・・、転送パルス240cと260C、244cと266C、・・・、及び、映像信号転送区間241cと261C、245cと265C、・・・を示す。
また(5)と(7)は、読出した信号電荷を蓄積部に高速転送するための転送パルスである。なお、映像信号転送区間251cと271C、255cと275Cは、それぞれ映像信号転送区間241cと261C、245cと265Cと同じものである。
(5)は、垂直転送パルスV2Aの映像信号転送区間251c、255c、・・・を示す。(7)は、垂直転送パルスV4Aの映像信号転送区間271c、274c、・・・を示す。
【0030】
(8)〜(11)は、それぞれ、蓄積部の垂直転送パルスを示す。
(8)は、垂直転送パルスV1Bの転送パルス280a、・・・、281a、282a、283a、284a、285a、286a、287a、・・・と、映像信号転送区間281c、285c、・・・を示す。(9)は、垂直転送パルスV2Bの転送パルス290a、・・・、291a、292a、293a、294a、295a、296a、297a、・・・と、映像信号転送区間291c、295c、・・・を示す。(10)は、垂直転送パルスV3Bの転送パルス2101a、2102a、2103a、2104a、2105a、2106a、2107a、・・・と、映像信号転送区間2101c、2104c、・・・を示す。(11)は、垂直転送パルスV4Bの転送パルス2111a、2112a、2113a、2114a、2115a、2116a、2117a、・・・と、映像信号転送区間2111c、2114c、・・・を示す。
【0031】
(12)は、被写体(目標物体)が近距離に存在する場合のLEDから照射された近赤外光による目標物体からの反射光がCCDに蓄積される場合の信号電荷2121a、2122a、2123a、2124a、2125a、・・・を示す。(13)は、被写体(目標物体)が遠距離に存在する場合のLEDから照射された近赤外光による目標物体からの反射光がCCDに蓄積される場合の信号電荷を示す。
なお横軸は、(1)〜(13)に共通の時間軸である。
【0032】
図2Aにおいて、1垂直走査期間(1V期間)は約17[ms]、垂直ブランキング期間(V.BL)は、約1.2[ms]、水平走査期間(1H期間)は、約64[μs]、水平ブランキング期間(H.BL)は、約11[μs]である。
(1)LEDが発光(パルス221a)した直後には、LEDの発光駆動(φSub)パルス(パルス231a)が立上り、CCDの受光部の信号電荷が掃き捨てられる。その後CCDの受光部に蓄積された信号電荷の読出しが、パルス242A及びパルス262Aで開始される。
パルス221aによりLEDから発光した近赤外光が目標物体(被写体)に到達して反射し、被写体像としてCCDに戻ってくる前に、掃き捨てのためのパルス231aが立上り、その後、信号電荷の蓄積が始まる。この結果、パルス221aの反射による被写体像だけが受光し、そのパルスに基づく信号電荷だけが読出される(読出しパルス242a、262a)。即ち、掃き捨てパルス231aの立上り時刻(または立下り時刻)から読出しパルス242a(パルス262a)の立上り時刻(または立下り時刻)までの時間が、電子シャッタの露光時間である。
【0033】
従って、(13)の実線で示す信号電荷2130a、2131a、2132a、2133a、2134a、2135a、・・・が、CCDから転送出力される。なお、(12)の破線で示す信号電荷2121a、2122a、2123a、2124a、2125a、・・・は、近距離に目標物体が存在する場合には、近赤外光が反射して戻ってくるまでの往復の時間が早い。従って、CCDが信号電荷を掃き捨てるタイミングの時刻の前に受光する。このため、信号電荷として、CCDから転送出力されない。
なお、LED発光パルス222bと掃き捨てパルス232bの立上り時間差を調整することによって、CCDが露光可能な目標物体までの距離が定まる。即ち、LEDから近赤外光が出力され、目標物体から反射して戻ってくるまでの時間が、上記時間差の最大値である。従って、陽炎等の地表付近または海上付近の大気の乱れの補正は、LEDやLD等の近赤外光を出力する光源から、目標物体に照射されその被写体像が戻ってくるまでの時間で定まる。
好ましくは、LEDまたはLD等の光源の1回の発光している時間は、発光パルスの開始時刻(立上り時刻)から、掃き捨てパルス231aの立上り時刻までの時間より長い。
【0034】
次に、図2Bにおいても、図2Aと同様に、1垂直走査期間(1V期間)は約17[ms]、垂直ブランキング期間(V.BL)は、約1.2[ms]、水平走査期間(1H期間)は、約64[μs]、水平ブランキング期間(H.BL)は、約11[μs]である。なお横軸は、(1)〜(10)に共通の時間軸である。
LEDが発光(パルス222b)した直後には、LEDの発光駆動(φSub)パルス(パルス232b)が立上り、CCDの受光部の信号電荷が掃き捨てられる。その後CCDに蓄積された信号電荷の読出しが、パルス242b及びパルス262bで開始される(以下、パルス223b〜235b。・・・でも同様)。その横方向の信号電荷の読出しと共に、垂直方向にもパルス毎に転送がなされ(例えば、(5)の転送パルス252d〜257d、・・・、(7)の転送パルス272d〜277d、・・・参照)によりフレームメモリに転送され(例えば、(8)のフレームメモリ入力期間281b〜286b、・・・参照)、CCDから転送出力される。
なお、図2Aの実施例では、フレームメモリの動作については記述していない。しかし、一般的にCCDから転送出力された信号電荷は、一度、フレームメモリに保存されてから、フレーム毎またはフィールド毎に出力される。
【0035】
即ち、LEDから発光した(パルス222b)近赤外光が目標物体(被写体)に到達して反射し、被写体像としてCCDに戻ってくる前に、掃き捨てのためのパルス232bが立上り、その後、信号電荷の蓄積が始まる。この結果、パルス222bの反射による被写体像だけが受光され、そのパルスに基づく信号電荷だけが読出転送される。即ち、掃き捨てパルス232bの立上り時刻(または立下り時刻)から読出しパルス242b(パルス262b)の立上り時刻(または立下り時刻)までの時間が、電子シャッタの露光時間である。
【0036】
従って、(10)の実線で示す信号電荷2102b、2103b、2104b、2105b、・・・が、CCDから転送出力される。なお、(9)の破線で示す信号電荷292b、293b、294b、295b、・・・は、近距離に目標物体が存在する場合には、近赤外光が反射して戻ってくるまでの往復の時間が早い。従って、CCDが信号電荷を掃き捨てるタイミングの時刻の前に受光する。このため、信号電荷として、CCDから転送出力されない。
なお、LED発光パルス222bと掃き捨てパルス232bの立上り時間差を調整することによって、CCDが露光可能な目標物体までの距離が定まる。即ち、LEDから近赤外光が出力され、目標物体から反射して戻ってくるまでの時間が、上記時間差の最大値である。従って、陽炎等の地表付近または海上付近の大気の乱れの補正は、LEDやLD等の近赤外光を出力する光源から、目標物体に照射されその被写体像が戻ってくるまでの時間で定まる。
好ましくは、LEDまたはLD等の光源の1回の発光している時間は、発光パルスの開始時刻(立上り時刻)から、掃き捨てパルス231aの立上り時刻までの時間より長い。
【0037】
なお、図2Aまたは図2Bのタイミングチャートのように、目標物体設定時は、画面ごとに可変させた水平走査に同期した短時間の基準近赤外光パルスLEDを目標物体に照射し水平走査に同期した電子シャッタ露光し、目標物体までの光の往復時を検出し、目標物体までの光の往復時に合わせて水平走査に同期した短時間の基準近赤外光パルスLEDを照射し平走査に同期した電子シャッタ露光する。
また、HDTVの場合には、図2Aまたは図2Bにおいて、1垂直走査期間(1V期間)は約17または20[ms]、垂直ブランキング期間(V.BL)は、約0.2[ms]、水平走査期間(1H期間)は、約30または36[μs]、水平ブランキング期間(H.BL)は、約30[μs]である。
【0038】
図1Aは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Aは、近赤外反射鏡と単板CCDと色分離フィルタ付きCCDを用いた撮像装置の一実施例のブロック構成図である。
【0039】
100Aは、本発明の一実施例の撮像装置、1は入射光を結像するレンズ等の光学系、2Aは入射光を近赤外光と可視光とに分光する分光光学系、3Aと3Cは分光光学系2Aから入射した光を電気信号に変換する電子増倍型CCDである。また、12はLED、13はLED駆動部である。分光光学系2Aにおいて、121は分光部、122は反射鏡である。CCD(CCD3A、または3C)において、101は撮像部のフォトダイオード( Photo Diode )、102は撮像部の垂直転送部、103は蓄積部の垂直転送部、104はCMG、105は電圧変換部である。なお、CCD3A、3Cは、例えば、EM−CCD等の電子増倍型CCDである。
4Aと4Cはメモリ付映像信号処理部、5は撮像装置100A内の各部を制御するCPU( Central Processing Unit )、6はオーバーフロードレイン(OD)駆動部、7は撮像部の垂直転送駆動部、8は蓄積部の垂直転送駆動部、9はタイミング発生部( Timing Generator:TG)、10は電子増倍の利得制御を行うためのCMG駆動部である。TG9において、106は水平周期シャッタタイミング(TG)発生部、107は水平周期読出パルスと垂直転送タイミング(TG)発生部、108は垂直転送タイミング(TG)発生部である。
11AはCCD3Aが接続されるAFE、11CはCCD3Cが接続されるAFE( Analog Front End )である。AFE11A及び11Cは、CCD3A、3Cから出力された信号から、雑音を除去するCDS109と暗電流補正と信号の利得を調整するAGC110とデジタル映像信号Viに変換する14bit以上のADC111からなるAFEで構成される。なお、AGC110を、AFEに含まず、別に設けても良い。また、AFE11A、11Cには水平転送とリセットとCDS109とAGC110とのタイミング発生部( Timing Generator:TG)を含む。
また、14は陽炎補正部である。
【0040】
図1Aにおいて、CPU5は、TG9の水平周期シャッタTG106を介して、発光駆動パルスをLED駆動部13に出力する。LED駆動部13は、入力された発光駆動パルスに基づいてLED12を駆動し、LED12は、LED駆動部13に駆動されて、所定のスペクトルまたは所定の波長帯の近赤外光を出力する。
光学系1には、復路を通って反射された近赤外光が入射する。また、光学系1には、大気を通過して目標物体に照射され、復路を通って反射された可視光が入射する。光学系1は、これらの光を集束し、分光光学系2Aに出力する。なお、目標物体から反射する近赤外光は、LED12から往路を通って照射され、復路を通って光学系1に入射するものである。
光学系1を介して入力された光は、分光光学系2Aの分光部121に入力される。分光光学系2Aの分光部121は、入力された光の可視光成分を透過し、CCD3Cに入射する。また分光部121は、近赤外光成分を反射し、反射光122に出射する。反射鏡122は入射された近赤外光をCCD3Aに出射する。
CCD3Aに入射された近赤外光は、電気信号に変換され、メモリ付映像信号処理部4Aを介して陽炎補正部14に入力される。また、CCD3Cに入射された可視光は、電気信号に変換され、メモリ付映像信号処理部4Cを介して陽炎補正部14に入力される。
【0041】
陽炎補正部14内での処理は、すでに、図3A、図3B、及び図3C、並びに、図2A及び図2Bを用いて説明した。
即ち、陽炎補正部14は、メモリ付映像信号処理部4Aから出力される近赤外光の映像信号IRViとメモリ付映像信号処理部4Aの映像信号Viとの相関を取り、その移動ベクトルを算出し、算出した移動ベクトルに応じて、メモリ付映像信号処理部4Cから出力される可視光の映像信号RViとGViとBViとの各部の画素を移動させ、NTSC( National Television System Committee )方式またはPAL( Phase Alternating by Line )方式の複合映像信号( Video Burst Sync 、以下、VBSと称する)、またはSDI( Serial Digital Interface )映像信号、あるいはHDTVのSDI(HD−SDI)等の所定方式の映像信号に変換して出力する映像信号処理部である。なお、好ましくは、陽炎補正部14は、メモリ付映像信号処理部4Aから出力される近赤外光の映像信号IRViと、メモリ付映像信号処理部4Cの可視光の赤(R)成分との相関を取り、その移動ベクトルを算出し、算出した移動ベクトルに応じて、メモリ付映像信号処理部4Cから出力される可視光の映像信号RViとGViとBViとの各部の画素を移動する。
【0042】
図1Dは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Dは、近赤外反射鏡と単板FIT−CCDとを用いた撮像装置の一実施例のブロック構成図である。
図1Dの撮像装置100Dは、図1Aの撮像装置100Aにおいて、CCD3A及び3CをEM−CCDからFIT−CCDに替え、CMG104を除くことによって構成される。
また、図1Cは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Cは、近赤外反射鏡と単板IT−CCDとを用いた撮像装置の一実施例のブロック構成図である。
図1Cの撮像装置100Cは、図1Dの撮像装置100Dにおいて、CCD3A及び3CをFIT−CCDからIT−CCDに替え、さらに、蓄積部垂直転送部103を除くことによって構成される。
【0043】
図1A、図1D、及び図1Cの実施例では、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を、LED若しくはLD等の光源から、目標物体に照射する。
そして、光学系では、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系、及び、色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子と有する。
若しくは、光学系では、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系、及び、光軸上近赤外光収差をピエゾ素子(図示しない)等で機械的に補正し、倍率近赤外光収差(近赤外光の可視光に対する倍率色収差)を電子的に補正する機能を備えた撮像素子を備える。具体的には、図示しないピエゾ素子は、図1A、図1D、若しくは図1Cにおいて、近赤外光を撮像する撮像素子に設けられ、CPU5の制御により上下方向に微小移動して色収差を補正する。
なお、目標物体に照射する光源から照射される近赤外光の波長は、上記以外でもよく、例えば、1350[nm]〜1430[nm]付近、1820[nm]〜1950[nm]付近の近赤外光を用いても良い。撮像素子としては、シリコン可視光撮像素子と高速電子シャッタを有するInGaAs(インジウムガリウム砒素)製近赤外光撮像素子、またはフレームトランスファーCCDや横型オーバーフロードレインCCDで深くフォトダイオードを形成したシリコン製撮像素子でも良い。
【0044】
図1Bは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Bは、色分解光学系と4ケのCCDを用いた撮像装置の一実施例のブロック構成図である。図1A、図1C、または図1Dと同一の機能のものには同一の符号を付し、説明をできるだけ省略する。
【0045】
100Bは本発明の一実施例の撮像装置、2Cは入射光を近赤外光と赤と緑と青とに分光する色分解光学系、3A、3R、3G、及び3Bは色分解光学系2Cから入射した光を電気信号に変換するCCD、4A、4R、4G、及び4Bはメモリ付映像信号処理部である。なお、CCD3A、3R、3G、及び3Bは、例えば、EM−CCD等の電子増倍型CCDである。
4A、4R、4B、及び4Bはメモリ付映像信号処理部、11AはCCD3Aが接続されるAFE、11RはCCD3Rが接続されるAFE、11GはCCD3Gが接続されるAFE、11BはCCD3Bが接続されるAFEである。AFE11A、11R、11G、及び11Bは、CCD3A、3R、3G、3Bからそれぞれ出力された信号から、雑音を除去するCDS109と暗電流補正と信号の利得を調整するAGC110とデジタル映像信号Viに変換する14bit以上のADC111から構成される。なお、AGC110を、AFEに含まず、別に設けても良い。また、AFE11A、11R、11G、11Bには水平転送とリセットとCDS109とAGC110とのTGを含む。
【0046】
図1Bにおいて、光学系1には、復路を通って反射された近赤外光が入射する。また、光学系1には、大気を通過して目標物体に照射され、復路を通って反射された可視光が入射する。光学系1は、これらの光を集束し、色分解光学系2Cに出力する。なお、目標物体から反射する近赤外光は、LED12から往路を通って照射され、復路を通って光学系1に入射するものである。
色分解光学系2Cは、入力された光を赤(R)、緑(G)、青(B)、及び近赤外光(IR)に分光し、分光されたRをCCD3R、分光されたGをCCD3G、分光されたBをCCD3B、分光されたIRをCCD3Aに出射する。
CCD3Aに入射された近赤外光は、電気信号に変換され、メモリ付映像信号処理部4Aを介して陽炎補正部14に入力される。また、CCD3Rに入射された可視光の赤(R)は、電気信号に変換され、メモリ付映像信号処理部4Rを介して陽炎補正部14に入力される。同様に、CCD3Gに入射された可視光の緑(G)は、電気信号に変換され、メモリ付映像信号処理部4Gを介して陽炎補正部14に入力される。また同様に、CCD3Bに入射された可視光の青(B)は、電気信号に変換され、メモリ付映像信号処理部4Bを介して陽炎補正部14に入力される。
【0047】
陽炎補正部14内での処理は、すでに、図3A、図3B、及び図3C、並びに、図2A及び図2Bを用いて説明した。
即ち、陽炎補正部14は、メモリ付映像信号処理部4Aから出力される近赤外光の映像信号IRViとメモリ付映像信号処理部4Rとの相関を取り、その移動ベクトルを算出し、算出した移動ベクトルに応じて、メモリ付映像信号処理部4R、4G、及び4Bから出力される可視光の映像信号RViとGViとBViとの各部の画素を移動させ、NTSC( National Television System Committee )方式またはPAL( Phase Alternating by Line )方式の複合映像信号( Video Burst Sync 、以下、VBSと称する)、またはSDI( Serial Digital Interface )映像信号、あるいはHDTVのSDI(HD−SDI)等の所定方式の映像信号に変換して出力する映像信号処理部である。
【0048】
図1Eは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Eは、色分解光学系と4ケのFIT−CCDとを用いた撮像装置の一実施例のブロック構成図である。
図1Eの撮像装置100Eは、図1Bの撮像装置100Bにおいて、CCD3A、3R、3G、及び3BをEM−CCDからFIT−CCDに替え、CMG104を除くことによって構成される。
また、図1Fは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Fは、色分解光学系と4ケのFIT−CCDとを用いた撮像装置の一実施例のブロック構成図である。
図1Fの撮像装置100Fは、図1Eの撮像装置100Eにおいて、CCD3A、3R、3G、及び3BをFIT−CCDからIT−CCDに替え、さらに、蓄積部垂直転送部103を除くことによって構成される。
【0049】
図1B、図1E、及び図1Fの実施例では、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を、LED若しくはLD等の光源から、目標物体に照射する。
そして、光学系では、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系、及び、色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子と有する。
若しくは、光学系では、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系、及び、光軸上近赤外光収差をピエゾ素子(図示しない)等で機械的に補正し、倍率近赤外光収差を電子的に補正する機能を備えた撮像素子を備える。具体的には、図示しないピエゾ素子は、図1B、図1E、若しくは図1Fにおいて、近赤外光を撮像する撮像素子に設けられ、CPU5の制御により上下方向に微小移動して色収差を補正する。
なお、目標物体に照射する光源から照射される近赤外光の波長は、上記以外でもよく、例えば、1350[nm]〜1430[nm]付近、1820[nm]〜1950[nm]付近の近赤外光を用いても良い。撮像素子としては、シリコン可視光撮像素子と高速電子シャッタを有するInGaAs(インジウムガリウム砒素)製近赤外光撮像素子、またはフレームトランスファーCCDや横型オーバーフロードレインCCDで深くフォトダイオードを形成したシリコン製撮像素子でも良い。
【0050】
図1Gは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Gは、近赤外反射鏡と色分離フィルタ付き単板CMOS撮像素子とを用いた撮像装置の一実施例のブロック構成図である。
100Gは、本発明の一実施例の撮像装置である。光学系1、分光光学系2A、メモリ付映像信号処理部4A、4C、LED12、LED駆動部13、及び陽炎補正部14は、図1A、図1C、図1Dと同様である。
また、1Dと1Cは、それぞれ、分光光学系2Aから入射した光を電気信号に変換するCMOS撮像素子である。分光光学系2Aにおいて、121は分光部、122は反射鏡である。CMOS撮像素子1Dと1Cは、それぞれ、CMOS1D及び1Cは、例えば、TG( Timing Generator )、駆動部、ノイズリダクション(NR:Noise Reduction )部、及びADCを内蔵したCMOS撮像素子である。
また5は撮像装置100A内の各部を制御するCPU、9はTGである。
【0051】
図1Gにおいて、CPU5は、TG9を介して、発光駆動パルスをLED駆動部13に出力する。また、CPU5は、TG9を介して、CMOS撮像素子1D及び1Cにも駆動パルスを出力し、CMOS撮像素子1D及び1Cを駆動する。LED駆動部13は、入力された発光駆動パルスに基づいてLED12を駆動し、LED12は、LED駆動部13に駆動されて、所定のスペクトルまたは所定の波長帯の近赤外光を出力する。
光学系1には、復路を通って反射された近赤外光が入射する。また、光学系1には、大気を通過して目標物体に照射され、復路を通って反射された可視光が入射する。光学系1は、これらの光を集束し、分光光学系2Aに出力する。なお、目標物体から反射する近赤外光は、LED12から往路を通って照射され、復路を通って光学系1に入射するものである。なお、目標物体から反射する近赤外光は、LED12から往路を通って照射される。
光学系1を介して入力された光は、分光光学系2Aの分光部121に入力される。分光光学系2Aの分光部121は、入力された光の可視光成分を透過し、CMOS撮像素子1Cに入射する。また分光部121は、近赤外光成分を反射し、反射光122に出射する。反射鏡122は入射された近赤外光をCMOS撮像素子1Dに出射する。
CMOS撮像素子1Dに入射された近赤外光は、電気信号に変換され、メモリ付映像信号処理部4Aを介して陽炎補正部14に入力される。また、CMOS撮像素子1Cに入射された可視光は、電気信号に変換され、メモリ付映像信号処理部4Cを介して陽炎補正部14に入力される。
【0052】
陽炎補正部14内での処理は、すでに、図3A、図3B、及び図3C、並びに、図2A及び図2Bを用いて説明した。
即ち、陽炎補正部14は、メモリ付映像信号処理部4Aから出力される近赤外光の映像信号IRViとメモリ付映像信号処理部4Aの映像信号Viとの相関を取り、その移動ベクトルを算出し、算出した移動ベクトルに応じて、メモリ付映像信号処理部4Cから出力される可視光の映像信号RViとGViとBViとの各部の画素を移動させ、NTSC( National Television System Committee )方式またはPAL( Phase Alternating by Line )方式の複合映像信号( Video Burst Sync 、以下、VBSと称する)、またはSDI( Serial Digital Interface )映像信号、あるいはHDTVのSDI(HD−SDI)等の所定方式の映像信号に変換して出力する映像信号処理部である。なお、好ましくは、陽炎補正部14は、メモリ付映像信号処理部4Aから出力される近赤外光の映像信号IRViと、メモリ付映像信号処理部4Cの可視光の赤(R)成分との相関を取り、その移動ベクトルを算出し、算出した移動ベクトルに応じて、メモリ付映像信号処理部4Cから出力される可視光の映像信号RViとGViとBViとの各部の画素を移動する。
【0053】
図1Hは、本発明の一実施例の撮像装置の全体構成を示すブロック図である。図1Hは、色分解光学系と4ケのCMOS撮像素子とを用いた撮像装置の一実施例のブロック構成図である。
100Hは、本発明の一実施例の撮像装置である。光学系1、色分解光学系2C、メモリ付映像信号処理部4A、4R、4G、4B、LED12、LED駆動部13、及び陽炎補正部14は、図1B、図1E、図1Fと同様である。
また、1D、1R、1G、及び1Bは、それぞれ、色分解光学系2Cから入射した光を電気信号に変換するCMOS撮像素子である。CMOS撮像素子1D、1R、1G、及び1Bは、それぞれ、例えば、TG( Timing Generator )、駆動部、ノイズリダクション(NR:Noise Reduction )部、及びADCを内蔵したCMOS撮像素子である。
また5は、図1Gと同様に、撮像装置100A内の各部を制御するCPU、9はTGである。
【0054】
図1Hにおいて、CPU5は、TG9を介して、発光駆動パルスをLED駆動部13に出力する。また、CPU5は、TG9を介して、CMOS撮像素子1D、1R、1G、及び1Bにも駆動パルスを出力し、CMOS撮像素子1D、1R、1G、及び1Bを駆動する。LED駆動部13は、入力された発光駆動パルスに基づいてLED12を駆動し、LED12は、LED駆動部13に駆動されて、所定のスペクトルまたは所定の波長帯の近赤外光を出力する。
光学系1には、復路を通って反射された近赤外光が入射する。また、光学系1には、大気を通過して目標物体に照射され、復路を通って反射された可視光が入射する。光学系1は、これらの光を集束し、色光学系2Cに出力する。なお、目標物体から反射する近赤外光は、LED12から往路を通って照射される。
色分解光学系2Cは、入力された光を赤(R)、緑(G)、青(B)、及び近赤外光(IR)に分光し、分光されたRをCMOS撮像素子1R、分光されたGをCMOS撮像素子1G、分光されたBをCMOS撮像素子1B、分光されたIRをCMOS撮像素子1Dに出射する。
CMOS撮像素子1Dに入射された近赤外光は、電気信号に変換され、メモリ付映像信号処理部4Aを介して陽炎補正部14に入力される。また、CMOS撮像素子1Rに入射された可視光の赤(R)成分は、電気信号に変換され、メモリ付映像信号処理部4Rを介して陽炎補正部14に入力される。さらに、CMOS撮像素子1Gに入射された可視光の緑(G)成分は、電気信号に変換され、メモリ付映像信号処理部4Gを介して陽炎補正部14に入力される。またさらに、CMOS撮像素子1Bに入射された可視光の青(B)成分は、電気信号に変換され、メモリ付映像信号処理部4Bを介して陽炎補正部14に入力される。
【0055】
陽炎補正部14内での処理は、すでに、図3A、図3B、及び図3C、並びに、図2A及び図2Bを用いて説明した。
即ち、陽炎補正部14は、メモリ付映像信号処理部4Aから出力される近赤外光の映像信号IRViとメモリ付映像信号処理部4Rとの相関を取り、その移動ベクトルを算出し、算出した移動ベクトルに応じて、メモリ付映像信号処理部4R、4G、及び4Bから出力される可視光の映像信号RViとGViとBViとの各部の画素を移動させ、NTSC( National Television System Committee )方式またはPAL( Phase Alternating by Line )方式の複合映像信号( Video Burst Sync 、以下、VBSと称する)、またはSDI( Serial Digital Interface )映像信号、あるいはHDTVのSDI(HD−SDI)等の所定方式の映像信号に変換して出力する映像信号処理部である。
【0056】
図1G及び図1Hの実施例では、波長が約760[nm]の酸素輝線スペクトラム、970[nm]付近、または、970[nm]付近のいずれかの近赤外光を、LED若しくはLD等の光源から、目標物体に照射する。
そして、光学系では、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系、及び、色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子と有する。
若しくは、光学系では、色収差を補正し、可視光と近赤外光とを透過し、ガラスを透過するように収差補正するレンズ等の集束光学系、及び、光軸上近赤外光収差をピエゾ素子(図示しない)等で機械的に補正し、倍率近赤外光収差を電子的に補正する機能を備えた撮像素子を備える。具体的には、図示しないピエゾ素子は、図1G、若しくは図1Hにおいて、近赤外光を撮像する撮像素子に設けられ、CPU5の制御により上下方向に微小移動して色収差を補正する。
なお、目標物体に照射する光源から照射される近赤外光の波長は、上記以外でもよく、例えば、1350[nm]〜1430[nm]付近、1820[nm]〜1950[nm]付近の近赤外光を用いても良い。撮像素子としては、シリコン可視光撮像素子と高速電子シャッタを有するInGaAs(インジウムガリウム砒素)製近赤外光撮像素子でも良い。
【0057】
次に、図1A、図2A、図4、及び図5を用いて、本発明の陽炎補正部の一実施例について説明する。図4は、本発明のCCD撮像装置の陽炎補正部一実施例の構成を示すブロック図である。14は本発明のCCD撮像装置の一実施例の陽炎補正部、15は映像メモリ、16は相関検出部、17は画素移動読出しアドレス部、18は出力部、19は画像処理部である。図5は、本発明のCCD撮像装置の陽炎補正部の相関をとる一実施例を説明するための模式図である。図5(1)は赤(R)の画像、図5(2)は近赤外光の画像を示す。
図4の陽炎補正回路では、図3A、図3B、及び図3Cで説明したように、CPU6の制御に基づいて、以下のように補正を行う。
【0058】
図4及び図5において、映像メモリ15には、近赤外光のデジタル映像信号IRVi、赤(R)のデジタル映像信号RVi、緑(G)のデジタル映像信号GVi、青(B)のデジタル映像信号BViが入力され、保存される。
映像メモリ15は、入力されたデジタル映像信号IRViから近赤外光の映像データEIR1H、・・・、EIRkH、・・・、EIRnH( IRは近赤外光を示し、kHはk番目の水平ラインであることを示す。1<k<nであり、n=243である)と、赤(R)のデジタル映像信号RViから赤の映像ラインの映像データER1H、・・・、ERmH、・・・、ERnH( Rは可視光の赤色成分を示し、mHはm番目の水平ラインであることを示す。1<m<nであり、n=243である)とを相関検出部16に出力する。
【0059】
相関検出部16は、入力された近赤外光の映像データEIR1H、・・・、EIRkH、・・・、EIRnHのそれぞれについて、入力された赤の映像ラインの映像データER1H、・・・、ERmH、・・・、ERnHとの相関を採り、映像ライン間で最も相関の高い映像データEIRkHt1及びERmHt2を検出する。検出した最も相関の高い映像データEIRkHt1及びERmHt2について、近赤外光の映像データEIRkHt1の垂直ライン番号をj、水平時間をt1とし、赤色成分の映像データERmHt2の垂直ライン番号をi、水平時間をt2とする。その時、垂直差dV(dV=i−j)及び水平差dH(dH=t2−t1)を算出し、算出した垂直差dV及び水平差dHを画素移動読出しアドレス部17に出力する。
例えば、相関検出部16は、EM−CCD等の電子増倍型CCDであるときに、近赤外光の映像ラインの映像データEIRkHが奇数フィールドである場合には、赤の映像ラインのER0H、ER1H、ER2H、・・・、ERmH、・・・、ER243Hと相関を採る。また、近赤外光の映像ラインEIRkHが偶数フィールドである時には、赤の映像ラインのER263HとER2H、・・・、ER2mH、・・・、ER505Hと相関を採る。
好ましくは、相関検出部16は、相関を採るときに、輪郭信号を発生する。
【0060】
画素移動読出しアドレス部17は、入力された垂直差dVと水平差dHとから、読出しアドレスを算出し、映像メモリ15から、赤の映像RVi、緑の映像GVi、及び青の映像BViを読出す。即ち、映像メモリ15は、画素移動読出しアドレス部17から指定されたアドレスの映像データを出力部18及び画像処理部19に出力する。
即ち、画素移動読出しアドレス部17は、垂直差dVと水平差dHとから読出しアドレスを算出して出力部18に出力する。なお、色倍率収差を更に算出して、読み出しアドレスを補正して、出力部18に出力しても良い。
出力部18及び画像処理部19には、赤(R)、緑(G)、及び青(B)の各画素を近赤外光と最も相関の高い画素を、垂直差dV及び水平差dH分逆方向に移動した映像が入力される。このため、図4の実施例によれば、大気の窓の外で地表太陽光が弱い近赤外光の水平走査に同期したパルス発光と水平走査に同期した高速電子シャッタにより、リアルタイムで画面の目標物体の可視光に隣接の近赤外光の大気の揺らぎを検出し可視光の映像の大気の揺らぎを補正することが可能となる。
即ち、出力部18は、入力された読出しアドレスに基づいて、映像メモリ15から赤(R)の映像信号RVo、緑(G)の映像信号GVo、及び青(B)の映像信号BVoとして読出すことにより、赤(R)のERmHt2、緑(G)のEGmHt2、青(B)のEBmHt2の各画素を近赤外光の映像信号IRViと最も相関の高い画素との移動ベクトルと逆方向に移動させる。
その結果、出力部18は、地表付近または海上付近の大気の揺らぎが補正された画像を出力する。
その結果、画像処理部19は、大気の揺らぎが補正された画像によって、正確な画像処理が可能となる。例えば、侵入物体の検出が的確に実行することができるため、監視等の用途に用いるための撮像装置を提供できる。
なお、画像処理部19を除去した撮像装置も可能であり、また、その場合に、出力部18の後段(撮像装置の後段)に画像処理部を別に設けることもできる。
【0061】
上記図4、図5の実施例は、近赤外光と赤緑青とに分光する色分解光学系と赤緑青と高速電子シャッタ近赤外光撮像素子とを有する撮像装置であり、約970[nm]付近または約1130[nm]付近の近赤外光を、水平走査期間より短い時間、LEDまたはLDを目標物体に照射し、電子シャッタ露光を用いその反射光を取得する。そして、近赤外光の1画面分の輪郭成分(往復で距離が2倍の地表大気の揺らぎが発生する)と可視光画面の輪郭成分(片道で距離が1倍の地表大気の揺らぎ)との相関を検出し、画面各部の往復分と片道分の差から片道分の地表大気の揺らぎ成分の移動ベクトルを検出し、可視光映像の画面各部ごとに片道分の地表大気揺らぎの移動ベクトルを補正する。この結果、霞や土埃の影響を受け難い赤の映像の、霞、もや、または土埃の影響で浮きあがった暗部を沈めた映像信号で侵入者を検知することができる。
【0062】
なお好ましくは、図4において、相関検出部16は、輪郭信号を発生し、画素移動読出しアドレス部17に出力する。画素移動読出しアドレス部17は、入力された輪郭信号に基づいて出力部18に陽炎補正の画素移動読出し用のマーカ信号を出力する。出力部18は、陽炎調整時の本線(可視光映像)の輪郭成分との相関を検出して補正している画面部分に、特定色を重畳する。従って、出力映像をモニタ等に表示する場合には、特定の色が重畳されて表示される(図示しない)。このため、陽炎補正処理中か否かが表示画面で確認でき、より好ましくは、GUI( Graphical User Interface )等によって、オペレータが、陽炎補正処理を調整可能となる。なお、特定色としては、光の3原色の補色の内で目立つ黄色が好ましい。
【0063】
なお、上記図1〜図5の実施例において、近赤外光を出力する光源が、LEDであれば出力レベルについての安全上での制限を受けず、LDのような完全な平行ビームではないので、レンズとの光軸調整精度も緩くて構わない。
また、上記図1〜図5の実施例において、さらに、近赤外光を電気信号に変換する撮像素子について、軸上近赤外光収差をピエゾ素子等で機械的に補正し、倍率近赤外光収差を電子的に補正する。この結果、地表上に太陽光がほとんどない状態に等しいので、近赤外光収差を補正すれば、基準となる照射LEDの光量は少なくても良い。
またさらに、1400[nm]以上の赤外光は、人間の眼の硝子体の液体によって伝達されないため、安全上の出力レベル制限が減るので取扱いも容易である。
さらにまた、約1350[nm]〜1430[nm]付近の光であれば、シリコン製の撮像素子であっても、FIT−CCDや横型オーバーフロードレインCCDやCMOSで深くフォトダイオードを形成した撮像素子なら撮像可能である。フォトダイオードをサブストレート内に深く形成することによって、暗電流のばらつき及び経時劣化の発生を低減できる。なおさらに好ましくは、CCDを冷却すると、CCDの結晶欠陥を低減し、電界集中を低減することができる。
【0064】
また上記図1〜図5の実施例では、赤の輪郭成分と近赤外光の輪郭成分との相関を検出し、画面各部の片道分の地表大気揺らぎ成分の移動ベクトルを検出し、赤緑青の画面各部ごとに片道分の地表大気揺らぎの移動ベクトルを補正している。近赤外光の映像と赤の映像との比較なので、目立たない彩度の低い色の被写体なら、分光反射率の影響は少なく、色収差の少ない安価なガラスを用いても本発明の撮像装置が実現可能である。この場合、近赤外光と赤を使用するので、色収差の影響が少ない。
【0065】
上述の実施例によれば、上記実施例の撮像装置によれば、太陽光が直接照射される地表付近や海上付近において、遠距離被写体の撮像位置が短時間に不規則に変化することを補正することできる。
また、近赤外光と赤との比較なので、被写体の分光反射率、つまり色とレンズの色収差との影響をほとんど受けない。このため、地表大気揺らぎの移動ベクトルを補正する誤差が少ない。更に、レンズの色収差との影響をほとんど受けないので、赤の映像のMTF( Modulation Transfer Function )が高い。
【0066】
本発明は、元々、霞、もや、土埃、等の影響を受け難い赤色成分の映像を使用している。この赤色成分の映像は、霞、もや、または土埃の影響で浮きあがった暗部を沈めた映像信号となる。このため、更に、霞や土埃の影響によるコントラスト低下が少なくなり、検出が容易になる。
【0067】
以上シリコン製のEM−CCDを用いた撮像装置について詳細に説明し、FT−CCDやCMOS撮像素子やInGaAsインジウムガリウム砒素製製の撮像素子の概略を説明したが、本発明は、ここに記載された撮像装置に限定されるものではなく、上記以外の近赤外光に高感度なCCDや近赤外光に高感度なCMOS撮像素子を用いた撮像装置他の撮像装置に広く適用することができることは言うまでもない。
【符号の説明】
【0068】
1:光学系、 2A:分光光学系、 2C:色分解光学系、 3A、3C、3R、3G、3B:CCD、 4A、4C、4R、4G、4B:メモリ付映像信号処理部、 5:CPU、 6:OD駆動部、 7:撮像部の垂直転送駆動部、 8:蓄積部の垂直転送駆動部、 9:TG、 10:CMG駆動部、 11A、11C:AFE、 12:LED、 13:LED駆動部、 15:映像メモリ、 16:相関検出部、 17:画素移動読出しアドレス部、 18:出力部、 19:画像処理部、 100A、100B、100C、100D、100E、100F、100G、100H:撮像装置、 101:フォトダイオード、 102:撮像部の垂直転送部、 103:蓄積部の垂直転送部、 104:CMG、 105:電圧変換部、 106:水平周期シャッタTG、 107:水平周期読出パルスと垂直転送TG、 108:垂直転送TG、 109:CDS、 110:AGC、 111:ADC、 112:TG、 121:分光部、122:反射鏡、 200:撮像装置、 201a、202a、・・・、211a、212a、213a、214a、215a・・・:映像信号、 201b、202b、・・・、211b、212b、213b、214b、215b、・・・:映像信号、 220a、・・・、221a、222a、223a、224a、225a、226a、・・・:LEDの発光駆動パルス、 220b、221b、・・・、222b、223b、224b、225b、・・・:LEDの発光駆動パルス、 230a、・・・、231a、232a、233a、234a、235a、236a、・・・:CCDの掃き捨てタイミングクロック、 230b、231b、・・・、232b、233b、234b、235b、・・・:CCDの掃き捨てタイミングクロック、 240a、・・・、241a、242a、243a、244a、245a、246a、・・・:垂直転送パルスV1Aの読出パルス、 240c、244c、・・・:垂直転送パルスV1Aの転送パルス、 241c、245c、・・・:垂直転送パルスV1Aの映像信号転送区間、 241c、245c、・・・:垂直転送パルスV1Aの映像信号転送区間、 240b、241b、・・・、242b、243b、244b、245b、・・・:読出パルス、 242d、243d、244d、245d、246d、247d、・・・:転送パルス、 251c、255c、・・・:垂直転送パルスV2Aの映像信号転送区間、 252d、253d、254d、255d、256d、257d、・・・:転送パルス、 260a、・・・、262a、263a、264a、265a、266a、・・・:垂直転送パルスV3Aの読出パルス、 260c、264c、・・・:垂直転送パルスV3Aの転送パルス、 261c、265c、・・・:垂直転送パルスV3Aの映像信号転送区間、 260b、261b、・・・、262b、263b、264b、265b、・・・:読出パルス、 262d、263d、264d、265d、266d、267d、・・・:転送パルス、 271c、274c、・・・:垂直転送パルスV4Aの映像信号転送区間、 272d、273d、274d、275d、276d、277d、・・・:転送パルス、 280a、・・・、281a、282a、283a、284a、285a、286a、287a、・・・:垂直転送パルスV1Bの転送パルス、 281c、285c、・・・:垂直転送パルスV1Bの映像信号転送区間、 281b、282b、283b、284b、285b、286b、・・・:フレームメモリ入力信号期間、 290a、・・・、291a、292a、293a、294a、295a、296a、297a、・・・:垂直転送パルスV2Bの転送パルス、 291c、295c、・・・:垂直転送パルスV2Bの映像信号転送区間、 290b、291b、・・・、292b、293b、290b、291b、・・・、292b、293b、294b、295b、・・・:信号電荷、 2100b、2101b、・・・、2102b、2103b、2104b、2105b、・・・:信号電荷、 2101a、2102a、2103a、2104a、2105a、2106a、2107a、・・・:垂直転送パルスV3Bの転送パルス、 2101c、2104c、・・・:垂直転送パルスV3Bの映像信号転送区間、 2111a、2112a、2113a、2114a、2115a、2116a、2117a、・・・:垂直転送パルスV4Bの転送パルス、 2111c、2114c、・・・:垂直転送パルスV4Bの映像信号転送区間、 2121a、2122a、2123a、2124a、2125a、・・・:信号電荷、 2130a、2131a、2132a、2133a、2134a、2135a、・・・:信号電荷、 301a、301b、301c:画像、 302a、302b、302c:電信柱の被写体像。
【特許請求の範囲】
【請求項1】
水平走査に同期した所定の波長の光を目標物体に照射する光源と、前記照射された所定の波長の光による前記目標物体からの第1の反射光を前記水平走査に同期した電子シャッタ露光で撮像する第1の撮像素子と、前記目標物体を含む撮像視野内全体を撮像するための可視光による第2の反射光を前記電子シャッタで露光して撮像し、撮像された前記第1の反射光による映像信号の第1の輪郭成分と、前記第2の反射光による映像信号の第2の輪郭成分との相関を採り、前記第1の輪郭成分と前記第2の輪郭成分の映像信号の、最も相関の高い映像データについて移動ベクトルを算出し、前記算出された移動ベクトルと逆方向に移動して映像出力する陽炎補正部と、撮像装置を制御する制御部とを備えたことを特徴とする撮像装置。
【請求項2】
請求項1記載の撮像装置において、前記光源は、LEDまたはレーザダイオードであり、前記光源は、近赤外光の波長であることを特徴とする撮像装置。
【請求項3】
請求項1または請求項2のいずれかに記載の撮像装置において、前記第1の反射光による映像信号の第1の輪郭成分と相関を採る前記第2の反射光は、可視光の赤色成分であることを特徴とする撮像装置。
【請求項1】
水平走査に同期した所定の波長の光を目標物体に照射する光源と、前記照射された所定の波長の光による前記目標物体からの第1の反射光を前記水平走査に同期した電子シャッタ露光で撮像する第1の撮像素子と、前記目標物体を含む撮像視野内全体を撮像するための可視光による第2の反射光を前記電子シャッタで露光して撮像し、撮像された前記第1の反射光による映像信号の第1の輪郭成分と、前記第2の反射光による映像信号の第2の輪郭成分との相関を採り、前記第1の輪郭成分と前記第2の輪郭成分の映像信号の、最も相関の高い映像データについて移動ベクトルを算出し、前記算出された移動ベクトルと逆方向に移動して映像出力する陽炎補正部と、撮像装置を制御する制御部とを備えたことを特徴とする撮像装置。
【請求項2】
請求項1記載の撮像装置において、前記光源は、LEDまたはレーザダイオードであり、前記光源は、近赤外光の波長であることを特徴とする撮像装置。
【請求項3】
請求項1または請求項2のいずれかに記載の撮像装置において、前記第1の反射光による映像信号の第1の輪郭成分と相関を採る前記第2の反射光は、可視光の赤色成分であることを特徴とする撮像装置。
【図1A】
【図1B】
【図1C】
【図1D】
【図1E】
【図1F】
【図1G】
【図1H】
【図2A】
【図2B】
【図3A】
【図3B】
【図3C】
【図4】
【図5】
【図1B】
【図1C】
【図1D】
【図1E】
【図1F】
【図1G】
【図1H】
【図2A】
【図2B】
【図3A】
【図3B】
【図3C】
【図4】
【図5】
【公開番号】特開2011−197755(P2011−197755A)
【公開日】平成23年10月6日(2011.10.6)
【国際特許分類】
【出願番号】特願2010−60940(P2010−60940)
【出願日】平成22年3月17日(2010.3.17)
【出願人】(000001122)株式会社日立国際電気 (5,007)
【Fターム(参考)】
【公開日】平成23年10月6日(2011.10.6)
【国際特許分類】
【出願日】平成22年3月17日(2010.3.17)
【出願人】(000001122)株式会社日立国際電気 (5,007)
【Fターム(参考)】
[ Back to top ]