劣化した画像を復元する装置、方法およびプログラム
【課題】 撮像時のぶれやぼけの影響を表現する点像分布関数を適切に取得して、劣化した画像から劣化のない画像を復元することが可能な技術を提供する。
【解決手段】 本発明の撮像装置は、被写体を撮像して被写体画像データを出力する第1撮像手段と、点光源を撮像して点像画像データを出力する第2撮像手段と、被写体画像データと点像画像データに基いて改善された被写体画像データを生成する画像処理手段を備えている。第1撮像手段と第2撮像手段は、共通する支持台によって支持されており、互いに同期して撮像するものである。被写体と点光源は、共通する載置台上に載置されている。画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と被写体画像データに基いて改善された被写体画像データを生成する。
【解決手段】 本発明の撮像装置は、被写体を撮像して被写体画像データを出力する第1撮像手段と、点光源を撮像して点像画像データを出力する第2撮像手段と、被写体画像データと点像画像データに基いて改善された被写体画像データを生成する画像処理手段を備えている。第1撮像手段と第2撮像手段は、共通する支持台によって支持されており、互いに同期して撮像するものである。被写体と点光源は、共通する載置台上に載置されている。画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と被写体画像データに基いて改善された被写体画像データを生成する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は撮像時のぶれやぼけの影響によって劣化した画像から、劣化のない画像を復元する技術に関する。
【背景技術】
【0002】
被写体を撮像する際に、解像度が不足したり、画像がぶれてしまったり、ぼけてしまったりすることがある。このように劣化した画像から劣化のない理想的な画像を復元する技術の開発が進められている。
【0003】
本発明者らは、これまでにも、劣化した画像から劣化のない画像を復元する技術を開発している。この技術は、例えば特許文献1や特許文献2に記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】国際公開第2006/041126号
【特許文献2】国際公開第2006/041127号
【発明の概要】
【発明が解決しようとする課題】
【0005】
劣化した画像から劣化のない画像を復元するためには、撮像時のぶれやぼけの影響を表現する点像分布関数が必要とされる。適切な点像分布関数を取得することができれば、劣化した画像から劣化のない画像を正確かつ速やかに復元することが可能となる。
【0006】
本発明は上記課題を解決する。本発明では、撮像時のぶれやぼけの影響を表現する点像分布関数を適切に取得して、劣化した画像から劣化のない画像を復元することが可能な技術を提供する。
【課題を解決するための手段】
【0007】
本発明は撮像装置として具現化される。その撮像装置は、被写体を撮像して被写体画像データを出力する第1撮像手段と、点光源を撮像して点像画像データを出力する第2撮像手段と、被写体画像データと点像画像データに基いて改善された被写体画像データを生成する画像処理手段を備えている。その撮像装置において、第1撮像手段と第2撮像手段は、共通する支持台によって支持されており、互いに同期して撮像するものである。その撮像装置において、被写体と点光源は、共通する載置台上に載置されている。その撮像装置において、画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と被写体画像データに基いて改善された被写体画像データを生成する。
【0008】
上記の撮像装置の動作内容を方法の発明として具現化することもできる。本発明の撮像方法は、第1撮像手段によって被写体を撮像して被写体画像データを出力する工程と、第2撮像手段によって点光源を撮像して点像画像データを出力する工程と、画像処理手段によって被写体画像データと点像画像データに基いて改善された被写体画像データを生成する工程を備えている。その撮像方法において、第1撮像手段と第2撮像手段は、共通する支持台によって支持されており、互いに同期して撮像するものである。その撮像方法において、被写体と点光源は、共通する載置台上に載置されている。その撮像方法において、画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と被写体画像データに基いて改善された被写体画像データを生成する。
なお本発明は上記の撮像方法における各工程をコンピュータに実行させるためのプログラムとしても具現化することができる。
【0009】
第1撮像手段で撮像される被写体の画像は、ぶれやぼけによって劣化していることがある。上記の撮像装置では、第1撮像手段と同様の条件で撮像する第2撮像手段によって点光源を撮像して、第2撮像手段で撮像された画像から点像分布関数(PSF:Point Spread Function)を取得する。そして、第1撮像手段で撮像された画像とPSFを用いて、ぶれやぼけのない改善された被写体の画像を生成する。
【0010】
以下では撮像時のぶれやぼけによって劣化している画像を劣化画像と呼び、ぶれやぼけのない理想的な画像を原画像と呼ぶ。劣化画像とPSFから原画像を復元する原理について説明する。原画像と劣化画像はそれぞれの大きさが同一であり、いずれも画像内の点の位置を座標(x、y)で表現することが可能であって、原画像の照度分布はfr(x、y)、劣化画像の照度分布はgr(x、y)で表現されるものとする。またPSFの分布をhr(x、y)とする。
【0011】
原画像の分布fr(x、y)と、劣化画像の分布gr(x、y)と、PSFの分布hr(x、y)の間には、次の関係が成り立つ。
【0012】
【数1】
【0013】
原画像の分布fr(x、y)と劣化画像の分布gr(x、y)は、以下に示す二次元フーリエ変換を実施することによって、x軸に関する空間周波数sと、y軸に関する空間周波数tについてのスペクトルをそれぞれ得ることができる。
【0014】
【数2】
【数3】
【0015】
ここでFT()は二次元フーリエ変換を示している。またPSFの分布hr(x、y)について二次元フーリエ変換を実施することによって、周波数空間における伝達関数である光学的伝達関数(OTF:Optical Transfer Function)の分布Hr(s、t)を得ることができる。
【0016】
【数4】
【0017】
式(1)の両辺についてフーリエ変換することで、以下に示す劣化画像のスペクトル分布Gr(s、t)と、原画像のスペクトル分布Fr(s、t)と、OTF分布Hr(s、t)の関係が得られる。
【0018】
【数5】
【0019】
従って、劣化画像のスペクトル分布Gr(s、t)とOTF分布Hr(s、t)が既知であれば、次式により原画像のスペクトル分布Fr(s、t)を得ることができる。
【0020】
【数6】
【0021】
上式によって原画像のスペクトル分布Fr(s、t)が得られれば、二次元の逆フーリエ変換を施すことによって、原画像の分布fr(x、y)を得ることができる。
【0022】
【数7】
【0023】
ここでFT−1()は二次元の逆フーリエ変換を示している。以上のように、本発明の画像取得装置によれば、第2撮像手段で撮像された画像からPSFの分布を取得し、第1撮像手段で撮像された画像とPSFの分布を用いて、ぶれやぼけのない被写体の画像を得ることができる。
【0024】
上記の撮像装置においては、前記画像処理手段が、点像分布関数と被写体画像データに基づいて改善された被写体画像データを生成する際に、被写体画像データから劣化画像の分布を特定する処理と、点像分布関数から光学的伝達関数を特定する処理と、原画像の最初の推定分布を特定する処理と、(1)原画像の推定分布をフーリエ変換して第1の関数を得る処理と、(2)前記第1の関数に前記光学的伝達関数を乗じて第2の関数を得る処理と、(3)前記第2の関数を逆フーリエ変換して第3の関数を得る処理と、(4)前記劣化画像の分布を前記第3の関数で除して第4の関数を得る処理と、(5)前記第4の関数をフーリエ変換して第5の関数を得る処理と、(6)前記第5の関数に前記光学的伝達関数の反転関数を乗じて第6の関数を得る処理と、(7)前記第6の関数を逆フーリエ変換して第7の関数を得る処理と、(8)原画像の推定分布に前記第7の関数を乗じて、原画像の次の推定分布を得る処理と、原画像の次の推定分布を原画像の推定分布に置き換えて、前記(1)から(8)の処理を繰返す処理と、原画像の推定分布に基づいて、改善された被写体画像データを生成する処理を実行することが好ましい。
【0025】
劣化画像から原画像を復元する際に、OTF分布H(s、t)が0となる周波数領域が存在する場合には、数式(6)の演算を行うことができず、原画像を完全に復元することができない。そこで上記の撮像装置では、原画像の分布fr(x、y)と劣化画像の分布gr(x、y)を確率密度関数として扱い、Bayesの理論に基づいて原画像の推定を行う。原画像分布fr(x、y)と劣化画像分布gr(x、y)は、下記の正規化を行うことによって、確率密度関数として扱うことが可能になる。
【0026】
【数8】
【数9】
【0027】
上記の正規化に合わせて、OTF分布Hr(s、t)についても正規化する。Hr(s、t)は、空間周波数の原点での値を用いて正規化する。
【0028】
【数10】
【0029】
正規化された原画像の分布f(x、y)と、劣化画像の分布g(x、y)は、非負の関数であり、定義された領域での積分値が1であるから、確率密度関数として扱うことができる。上記の場合において、f(x、y)は原画像の座標(x、y)における結像という事象の確率密度関数である。g(x、y)は劣化画像の座標(x、y)における結像という事象の確率密度関数である。
【0030】
原画像および劣化画像の分布を、確率密度関数と見なすことが可能な場合、Bayesの理論に基づいて、劣化画像の分布から、その劣化画像を生じさせている原画像の分布を推定することができる。
原画像の座標(x、y)に光が結像する事象は、その座標(x、y)に点光源が存在する事象として扱うことができる。原画像の座標(x1、y1)において点光源が存在する事象をV(x1、y1)、劣化画像の座標(x2、y2)において点像が結像する事象をA(x2、y2)とした場合、それぞれの事象の確率P(V)およびP(A)は以下で表現される。
【0031】
【数11】
【数12】
【0032】
また、原画像の座標(x1、y1)に点光源が存在している場合に、劣化画像の座標(x2、y2)に結像する確率は、事象V(x1、y1)の生起を条件とする事象A(x2、y2)の生起確率である。上記の確率はPSF分布h(x、y)を用いて以下で表現される。
【0033】
【数13】
【0034】
Bayesの理論に基づくと、劣化画像内の点(x2、y2)に点像を結像させる場合の原画像の分布P(V(x、y)|A(x2、y2))は、以下で推定される。
【0035】
【数14】
【0036】
上式の右辺のP(V(x、y))、P(A(x2、y2)|V(x、y))に、数式(11)および数式(13)を代入すると、次式を得る。
【0037】
【数15】
【0038】
上式の左辺は、劣化画像において点像が結像している場合に、推定される原画像の分布を表している。上式に劣化画像の分布g(x、y)を乗じて積分することによって、劣化画像の分布g(x、y)を実現するための原画像の分布f(x、y)を得ることができる。
上式の両辺に、P(A(x2、y2))=g(x2、y2)を乗じて、すべての(x2、y2)に関して積分すると、次式が得られる。
【0039】
【数16】
【0040】
上式の左辺に数式(12)を代入すると、その積分の結果はP(V(x、y))であり、f(x、y)に等しい。従って、Bayesの理論に基づくと、以下の関係が成り立つ。
【0041】
【数17】
【0042】
上記の関係は、分布f(x、y)が真の原画像の分布である場合に成立すると考えられる。すなわち、上式を満たす分布f(x、y)を算出することが、劣化画像の復元に相当する。
上記の関係を満たす分布f(x、y)は、数式(17)の右辺のf(x、y)をfk(x、y)とし、数式(17)の左辺のf(x、y)をfk+1(x、y)として、fk(x、y)に関する反復計算を実施し、fk(x、y)の収束値を求めることで算出することができる。上記の反復計算によって求まるfk(x、y)の収束値は、Bayesの理論に基づく原画像の推定分布に相当する。
【0043】
上記では、原画像の分布f(x、y)や劣化画像の分布g(x、y)を正規化した場合について説明したが、実際の反復計算を実施する上では、これらの分布は正規化することなく、そのまま使用することができる。
【0044】
上記の反復計算においては、反復計算を実施する前に、原画像の最初の推定分布f0(x、y)を設定しておく。最初の推定分布f0(x、y)としては、任意の分布を設定することができる。一般的には、劣化画像の分布g(x、y)は原画像の分布f(x、y)から大きく異なることはないため、最初の推定分布f0(x、y)としては、劣化画像の分布g(x、y)を用いることが好ましい。
【0045】
数式(17)の右辺は、PSF分布h(x、y)を用いた畳み込み積分を備えている。一般に、光学系の位相特性まで含めてPSFを正確に評価することは困難であり、上記の反復計算を正確な位相特性を含めて実施することは困難である。正確な位相特性を含まないPSFを用いた反復計算は、誤った収束の結果をもたらすため、原画像の正確な復元の妨げとなる。
そこで、PSFの代わりに正確な位相特性を含ませることが容易であるOTFを用いることで、より正確に原画像を復元することが可能となる。また、復元の過程で位相特性を正確に評価するために、原画像の推定分布fk(x、y)(k=0,1,2,・・・)を複素関数に拡張し、その実部が画像分布を表現するものとして取扱う。上式の右辺に、フーリエ変換と逆フーリエ変換を用いることで、OTFを用いた形式に変更することができる。フーリエ変換をFT()、逆フーリエ変換をFT−1()で表現すると、数式(17)は以下で表現される。
【0046】
【数18】
【0047】
上記の反復計算を、fkが収束するまで繰り返し実施することによって、原画像を推定することができる。fkが収束したか否かの判定は、例えば反復計算の回数を予め設定しておいて、反復計算の回数によって判定してもよいし、fkとfk+1の差分を算出して、算出される差分の絶対値の総和があるしきい値以下となるか否かで判断してもよい。
【0048】
上記した原理を用いる画像復元処理は、以下に示す工程を順次実施していくことで実現される。以下では繰り返し計算によって推定される原画像の分布をfk(k=0、1、・・・)とする。原画像の推定分布fkは、復元の過程で位相に関する特性を正確に評価するために、複素関数として扱う。
まずPSF分布h(x、y)を二次元フーリエ変換して、OTF分布H(s、t)を特定する。
次に原画像の最初の推定分布として、f0(x、y)の実部をg(x、y)として、f0(x、y)の虚部を0とする。
次に以下に示す演算を、fk(x、y)が収束するまで繰り返し実施する。ここでFT()は二次元のフーリエ変換を表し、FT−1()は二次元の逆フーリエ変換を表す。またH#(s、t)は、H(s、t)の反転関数であり、H#(s、t)=H(−s、−t)である。
【0049】
【数19】
【数20】
【数21】
【0050】
上記の反復計算を繰返し実施し、最終的な原画像の推定分布fkを得る。最終的に得られる原画像の推定分布fk(x、y)が、原画像の復元画像f(x、y)に相当する。
【0051】
以上のように、上記の画像取得装置によれば、劣化画像の分布g(x、y)とPSFの分布h(x、y)を用いて、Bayesの理論に基づき、劣化画像の分布g(x、y)を実現する原画像の分布f(x、y)のうちで最大に尤もらしい分布を、反復計算によって推定することができる。この画像取得装置によれば、OTFの分布H(s、t)がある周波数領域で0となる場合、すなわち数式(6)による画像復元ができない場合であっても、原画像を復元することができる。ぼけやぶれのない被写体の画像を得ることができる。
【0052】
あるいは、上記の撮像装置は、前記画像処理手段が、点像分布関数と被写体画像データに基づいて改善された被写体画像データを生成する際に、被写体画像データから劣化画像の分布を特定する処理と、原画像の最初の推定分布を特定する処理と、点像画像データに基いて取得された点像分布関数を、点像分布関数の最初の推定分布に設定する処理と、(A)前記劣化画像の分布と、原画像の推定分布と、点像分布関数の推定分布に基づいて、点像分布関数の推定分布を更新する処理と、(B)前記劣化画像の分布と、原画像の推定分布と、点像分布関数の推定分布に基づいて、原画像の推定分布を更新する処理と、上記(A)と(B)の工程を交互に繰返す処理と、原画像の推定分布に基づいて、改善された被写体画像データを生成する処理を実行するものであり、前記(A)の点像分布関数の推定分布を更新する処理は、(A1)原画像の推定分布をフーリエ変換して、原画像の推定分布のスペクトル分布を得る処理と、(A2)点像分布関数の推定分布をフーリエ変換して第1の関数を得る処理と、(A3)前記第1の関数に前記原画像の推定分布のスペクトル分布を乗じて第2の関数を得る処理と、(A4)前記第2の関数を逆フーリエ変換して第3の関数を得る処理と、(A5)前記劣化画像の分布を前記第3の関数で除して第4の関数を得る処理と、(A6)前記第4の関数をフーリエ変換して第5の関数を得る処理と、(A7)前記第5の関数に前記原画像の推定分布のスペクトル分布の反転関数を乗じて第6の関数を得る処理と、(A8)前記第6の関数を逆フーリエ変換して第7の関数を得る処理と、(A9)前記点像分布関数の推定分布に前記第7の関数を乗じて、点像分布関数の次の推定分布を得る処理と、(A10)点像分布関数の次の推定分布を点像分布関数の推定分布に置き換える処理とを備え、前記(B)の原画像の推定分布を更新する処理は、(B1)点像分布関数の推定分布をフーリエ変換して、光学的伝達関数の推定分布を得る処理と、(B2)原画像の推定分布をフーリエ変換して第1の関数を得る処理と、(B3)前記第1の関数に前記光学的伝達関数の推定分布を乗じて第2の関数を得る処理と、(B4)前記第2の関数を逆フーリエ変換して第3の関数を得る処理と、(B5)前記劣化画像の分布を前記第3の関数で除して第4の関数を得る処理と、(B6)前記第4の関数をフーリエ変換して第5の関数を得る処理と、(B7)前記第5の関数に前記光学的伝達関数の推定分布の反転関数を乗じて第6の関数を得る処理と、(B8)前記第6の関数を逆フーリエ変換して第7の関数を得る処理と、(B9)原画像の推定分布に前記第7の関数を乗じて、原画像の次の推定分布を得る処理と、(B10)原画像の次の推定分布を原画像の推定分布に置き換える処理とを備えることが好ましい。
【0053】
第2撮像手段で撮像された点像画像データから取得されるPSF分布は、第2撮像手段による撮像の際の光学的特性を反映したものであり、第1撮像手段による撮像の際の光学的特性と完全に一致している保証はない。従って、PSF分布のわずかな相違によって、原画像を完全に復元することが困難な場合がある。そこで、上記の撮像装置では、第2撮像手段で撮像された点像画像データから取得されるPSF分布を、第1撮像手段による撮像の際の真のPSF分布の最初の推定値として扱い、原画像の分布とPSF分布の双方について、Bayesの理論に基いた推定を行う。
【0054】
上述したように、劣化画像分布g(x、y)とOTF分布H(s、t)が既知であれば、未知である原画像分布f(x、y)を復元することができる。上記と同様の原理によって、OTF分布H(s、t)が未知である場合に、劣化画像分布g(x、y)と原画像分布f(x、y)が既知であれば、OTF分布H(s、t)を復元することが可能となる。
【0055】
数式(15)において、x2−xを新たにx’とし、y2−yを新たにy’とすると、次式が得られる。
【0056】
【数22】
【0057】
上式の両辺にP(A(x2、y2))を乗じると、次式が得られる。
【0058】
【数23】
【0059】
上式の左辺は、Bayesの理論に基づくと、P(A(x2、y2)|V(x2−x’、y2−y’))×P(V(x2−x’、y2−y’))に等しいため、次式となる。
【0060】
【数24】
【0061】
上式に、数式(11)、数式(12)および数式(13)を代入すると、次式が得られる。
【0062】
【数25】
【0063】
上式の両辺を、(x2、y2)に関して積分すると、次式が得られる。
【0064】
【数26】
【0065】
上式左辺の積分は1に等しいため、結局、Bayesの理論に基づくと、以下の関係が成立する。
【0066】
【数27】
【0067】
上式の関係を満たすPSF分布h(x、y)が算出されると、算出されたh(x、y)をフーリエ変換することによって、OTF分布H(s、t)を推定することができる。
【0068】
数式(27)の右辺のh(x、y)をhk(x、y)とし、数式(27)の左辺のh(x、y)をhk+1(x、y)として、hk(x、y)に関する反復計算を実施し、hk(x、y)の収束値を求める。この反復計算は、次式で表される。
【0069】
【数28】
【0070】
上記の反復計算によって求まるhk(x、y)の収束値をフーリエ変換して、Bayesの理論に基づくOTFの推定分布Hk(x、y)を得ることができる。この関係は次式で表される。
【0071】
【数29】
【0072】
上記した原理を用いるOTFの推定処理は、以下に示す工程を順次実施していくことで実現される。以下では繰り返し計算によって推定されるPSFの分布をhk(k=0、1、・・・)とする。PSFの推定分布hkは、反復計算の過程で位相に関する特性を正確に評価するために、複素関数として扱う。
まず劣化画像の分布g(x、y)と、原画像の分布f(x、y)を特定する。本発明の方法では、g(x、y)の実部を劣化画像における照度の分布として、g(x、y)の虚部を0とする。またf(x、y)の実部を原画像における照度の分布として、f(x、y)の虚部を0とする。
次に原画像の分布f(x、y)をフーリエ変換して、原画像の分布のスペクトル分布F(s、t)を算出する。
次に、PSFの最初の推定分布h0(x、y)を特定する。
次に以下に示す演算を、hk(x、y)が収束するまで繰り返し実施する。ここでFT()は二次元のフーリエ変換を表し、FT−1()は二次元の逆フーリエ変換を表す。またF#(s、t)は、F(s、t)の反転関数であり、F#(s、t)=F(−s、−t)である。
【0073】
【数30】
【数31】
【数32】
【0074】
hk(x、y)の収束の判定は、例えば反復計算の回数が予め定められた回数に到達したか否かを基準に判別してもよいし、hk(x、y)とhk+1(x、y)の差分の分布を算出して、その差分の絶対値が全ての(x、y)に対してあるしきい値以下となるか否かを基準に判別してもよいし、fkとfk+1の差分を算出して、算出される差分の絶対値を(x、y)に関して積分した値があるしきい値以下となるか否かで判断してもよい。
PSF分布hk(x、y)が収束したら、それをフーリエ変換して、OTFの推定分布Hk(s、t)を算出する。
【0075】
上記したように、劣化画像とOTFとが既知であれば原画像を復元することが可能であり、劣化画像と原画像が既知であればOTFを推定することが可能である。
これらを組み合わせることによって、劣化画像のみに基づいて、OTFを推定し、原画像を復元することが可能となる。
すなわち、原画像とPSFのそれぞれについて、適当な分布を仮定しておき、上記したPSFの推定(すなわち、OTFの推定)と原画像の推定とを交互に繰返し実施していくことによって、原画像を復元する。
OTFに関しては、劣化画像の分布と、原画像の推定分布を用いて、Bayesの理論に基づく計算によって、より改善された推定分布を得ることができる。OTFの推定に用いる原画像の推定分布が、真の原画像の分布に近いほど、真のOTFの分布に近い推定分布を得ることができる。
原画像に関しては、劣化画像の分布と、OTFの推定分布を用いて、Bayesの理論に基づく計算によって、より改善された推定分布を得ることができる。原画像の推定に用いるOTFの推定分布が、真のOTFの分布に近いほど、真の原画像の分布に近い推定分布を得ることができる。
従って、上記したOTFの推定と原画像の推定を交互に繰返し実施していくことによって、原画像の推定分布はより真の原画像の分布に近づいていき、OTFの推定分布はより真のOTFの分布に近づいていき、結果として良好に復元された原画像と良好に推定されたOTFの双方を得ることができる。
【0076】
すなわち、以下の工程を順に実施していくことによって、劣化画像のみから原画像を復元することができる。
まず原画像の最初の推定分布と、PSFの最初の推定分布を設定する。一般に、劣化画像の分布は原画像の分布から大きく異なることはないため、原画像の最初の推定分布としては劣化画像の分布を用いる。PSFの最初の推定分布としては、第2撮像手段によって撮像された点像画像データから取得されるPSF分布を用いる。
次に、数式(30)〜(32)の計算を実施して、より改善されたPSFの推定分布hk(s、t)を取得して、得られたhk(s、t)をフーリエ変換してOTFの推定分布Hk(s、t)を取得する。上記の推定を実施することによって、より真のOTF分布に近いOTFの推定分布を得ることができる。
次に、数式(19)〜(21)の計算を実施して、より改善された原画像の推定分布fk(x、y)を取得する。上記の推定を実施することによって、より真の原画像分布に近い原画像の推定分布を得ることができる。
上記したOTFの推定と原画像の推定を、交互に繰返し実施していくことによって、推定される原画像の分布は真の原画像の分布に近づいていき、推定されるOTFの分布は真のOTFの分布に近づいていく。従って、上記の反復計算を実施することによって、原画像を復元することが可能となる。
【0077】
上記の画像取得装置によれば、第1撮像手段による撮像時のPSFと第2撮像手段による撮像時のPSFが相違する場合であっても、ぶれのない被写体の画像を取得することができる。
【0078】
本発明は天体撮像装置としても具現化することができる。その天体撮像装置は、天体を撮像して天体画像データを出力する第1撮像手段と、電離層に向けてレーザ光を照射するレーザ光照射手段と、レーザ光照射手段から照射されて電離層で反射したレーザ光を撮像して点像画像データを出力する第2撮像手段と、天体画像データと点像画像データに基いて改善された天体画像データを生成する画像処理手段を備えている。その天体撮像装置において、第1撮像手段と第2撮像手段は、互いに同期して撮像するものである。その天体撮像装置において、画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と天体画像データに基いて改善された天体画像データを生成する。
【0079】
上記の天体撮像装置の動作内容を方法の発明として具現化することもできる。本発明の天体撮像方法は、第1撮像手段によって天体を撮像して天体画像データを出力する工程と、レーザ光照射手段によって電離層に向けてレーザ光を照射する工程と、レーザ光照射手段から照射されて電離層で反射したレーザ光を第2撮像手段によって撮像して点像画像データを出力する工程と、画像処理手段によって天体画像データと点像画像データに基いて改善された天体画像データを生成する工程を備えている。その天体撮像方法において、第1撮像手段と第2撮像手段は、互いに同期して撮像するものである。その天体撮像方法において、画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と天体画像データに基いて改善された天体画像データを生成する。
なお本発明は上記の天体撮像方法における各工程をコンピュータに実行させるためのプログラムとしても具現化することができる。
【0080】
第1撮像手段で撮像される天体の画像は、大気のゆれによるシーイングの影響を受けて、ぼやけた画像となってしまう。本発明の天体撮像装置では、第1撮像手段で撮像された天体の画像と、第2撮像手段で撮像されたレーザ光の画像を用いて、シーイングの影響を除去して改善された天体の画像を取得する。第2撮像手段で撮像される画像は、レーザ光照射手段から電離層へ到達するまでの間にシーイングの影響を受け、さらに電離層で反射してから第2撮像手段へ到達するまでの間にシーイングの影響を受けた点光源の画像として扱うことができる。従って、第2撮像手段で撮像された点像画像データに基づいて、天体からの光が電離層を経由して第1撮像手段に到達するまでの間に受けるシーイングの影響を表現するPSF分布を取得することができる。第1撮像手段で撮像された天体画像データとPSF分布を用いて、シーイングの影響を排除した改善された天体画像データを得ることができる。
【0081】
また、本発明者らは、ぶれ画像に特有の性質に着目して、ぶれ画像のみに基づいてぶれのない画像を復元する手法にも想到した。本発明のぶれ画像復元装置は、ぶれ画像の分布を特定する手段と、ぶれ画像の分布についての複素ケプストラムを算出する手段と、ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する手段と、抽出されたパルス列をぶれ画像の分布についての複素ケプストラムから除去して、ぶれのない画像の分布についての複素ケプストラムを推定する手段と、ぶれのない画像の分布についての複素ケプストラムからぶれのない画像の分布を算出する手段を備えている。
【0082】
上記のぶれ画像復元装置の動作内容を方法の発明として具現化することもできる。本発明のぶれ画像復元方法は、ぶれ画像の分布を特定する工程と、ぶれ画像の分布についての複素ケプストラムを算出する工程と、ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する工程と、抽出されたパルス列をぶれ画像の分布についての複素ケプストラムから除去して、ぶれのない画像の分布についての複素ケプストラムを推定する工程と、ぶれのない画像の分布についての複素ケプストラムからぶれのない画像の分布を算出する工程を備えている。
なお本発明は上記のぶれ画像復元方法における各工程をコンピュータに実行させるためのプログラムとしても具現化することができる。
【0083】
複素ケプストラムとは、ある関数について、フーリエ変換してスペクトル分布を取得し、そのスペクトル分布の複素対数関数を計算して、その結果を逆フーリエ変換したものをいう。これはフーリエ変換を続けて2回行ったもので代用することも出来る。以下ではぶれ画像を劣化画像と呼び、ぶれのない画像を原画像と呼ぶ。劣化画像の分布g(x、y)、PSFの分布h(x、y)、原画像の分布f(x、y)には、以下の関係が成り立つ。
【0084】
【数33】
【0085】
上式の両辺をフーリエ変換すると、劣化画像のスペクトル分布G(s、t)、OTFの分布H(s、t)、原画像のスペクトル分布F(s、t)の間で以下の関係が成り立つ。
【0086】
【数34】
【0087】
上式の両辺について複素対数関数を計算すると、次式を得る。
【0088】
【数35】
【0089】
上式の両辺について逆フーリエ変換することで、劣化画像の複素ケプストラムgc(x、y)、PSFの複素ケプストラムhc(x、y)、原画像の複素ケプストラムfc(x、y)について、以下の関係式を得る。
【0090】
【数36】
【0091】
一般のぶれ画像は、多数個のずれた画像が重なり合ったものとして扱うことができる。原画像の分布f(x、y)に対して、全く同じ画像を、強度をn倍として、位置を(α、β)だけずらして重ね合わせた場合、劣化画像の分布g(x、y)は次式で与えられる。
【0092】
【数37】
【0093】
上式の両辺をフーリエ変換すると、劣化画像の分布のスペクトル分布G(s、t)と原画像の分布のスペクトル分布F(x、y)の間に、次の関係が成り立つ。
【0094】
【数38】
【0095】
上式の両辺の複素対数関数を計算すると、次式が得られる。
【0096】
【数39】
【0097】
ここで、nは1に比べて十分に小さいと仮定している。上式の両辺について逆フーリエ変換すると、次式を得る。
【0098】
【数40】
【0099】
上述のように、上式の左辺gc(x、y)は、劣化画像の分布g(x、y)についての複素ケプストラムである。上式の右辺第1項fc(x、y)は、原画像の分布f(x、y)についての複素ケプストラムである。上式の右辺第2項以降は、PSF分布h(x、y)についての複素ケプストラムである。
上式から明らかなように、劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)は、原画像の分布f(x、y)の複素ケプストラムfc(x、y)に、PSF分布h(x、y)の複素ケプストラムを重ね合わせたものとなっている。画像の劣化がぶれによるものの場合には、PSF分布h(x、y)の複素ケプストラムは、ずれた画像の強度nと、ずれ量(α、β)で定まるデルタ関数の系列(すなわちパルス列)によって表現される。従って、劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)からこのパルス列を抽出して取り除くことができれば、原画像の分布f(x、y)の複素ケプストラムfc(x、y)を推定することができる。
【0100】
劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)からパルス列を抽出するには、例えば劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)の振幅値がしきい値を超える個所をパルス列として識別する。パルス列が抽出されると、例えばノッチフィルタを用いることで、劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)からパルス列を除去して、原画像の分布f(x、y)の複素ケプストラムfc(x、y)を推定することができる。
【0101】
推定された原画像の分布f(x、y)の複素ケプストラムfc(x、y)に関して、フーリエ変換を実施し、その結果の複素指数関数を計算することで、原画像のスペクトル分布F(s、t)が得られる。その後に原画像のスペクトル分布F(s、t)を逆フーリエ変換することで、原画像の分布f(x、y)を復元することができる。
【0102】
なお上記では説明を簡単にするために2つの画像が重なり合ったぶれ画像の場合を例として説明したが、多数個の画像が重なり合っている一般的なぶれ画像の場合にも、同様の手法によって原画像の分布f(x、y)を復元することができる。
【0103】
本発明の他の一つのぶれ画像復元装置は、ぶれ画像の分布を特定する手段と、ぶれ画像の分布についての複素ケプストラムを算出する手段と、ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する手段と、抽出されたパルス列に基づいて点像分布関数を取得する手段と、ぶれ画像の分布と点像分布関数に基づいてぶれのない画像の分布を推定する手段を備えている。
【0104】
上記のぶれ画像復元装置の動作内容を方法の発明として具現化することもできる。本発明の他の一つのぶれ画像復元方法は、ぶれ画像の分布を特定する工程と、ぶれ画像の分布についての複素ケプストラムを算出する工程と、ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する工程と、抽出されたパルス列に基づいて点像分布関数を取得する工程と、ぶれ画像の分布と点像分布関数に基づいてぶれのない画像の分布を推定する工程を備えている。
なお本発明は上記のぶれ画像復元方法における各工程をコンピュータに実行させるためのプログラムとしても具現化することができる。
【0105】
ここでもう一度、原画像の分布f(x、y)が撮像時のぶれによって劣化画像の分布g(x、y)となっている場合を考える。原画像の分布f(x、y)に対して、全く同じ画像を強度をn倍として、位置を(α、β)だけずらして重ね合わせた場合、劣化画像の分布g(x、y)は次式で与えられる。
【0106】
【数41】
【0107】
すなわち、この場合のPSF分布h(x、y)は、次式で与えられる。
【0108】
【数42】
【0109】
数式(40)と数式(42)を対比すると、数式(42)のPSFの分布h(x、y)の右辺第2項は、数式(40)の劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)に現れるパルス列のうち最大のもの(数式(40)の右辺第2項)と同様に、位置が(α、β)であって、大きさがnのデルタ関数となっていることが分かる。従って、劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)から抽出されたパルス列のうち最大のものに、強度が1で原点に位置するデルタ関数を重ね合わせることで、ぶれの影響を示すPSFの分布h(x、y)を直接的に取得することができる。
【0110】
あるいは、nが1より十分に小さければ、劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)に現れるパルス列に、強度が1で原点に位置するデルタ関数を単に重ね合わせることで、PSFの分布h(x、y)の近似解を取得することができる。
【0111】
ぶれの影響を表現するPSFの分布h(x、y)が取得されれば、劣化画像の分布g(x、y)とPSFの分布h(x、y)に基づいて、原画像の分布f(x、y)を推定することができる。ぶれ画像のみに基づいて、ぶれのない画像を取得することができる。
【0112】
なお上記では説明を簡単にするために2つの画像が重なり合ったぶれ画像の場合を例として説明したが、多数個の画像が重なり合っている一般的なぶれ画像の場合にも、同様の手法によって原画像の分布f(x、y)を復元することができる。
【発明の効果】
【0113】
本発明の装置、方法およびプログラムによれば、撮像時のぶれやぼけの影響を表現する点像分布関数を適切に取得して、劣化した画像から劣化のない画像を復元することができる。
【図面の簡単な説明】
【0114】
【図1】図1は実施例1の撮像装置100の構成を示す図である。
【図2】図2は実施例1の撮像装置100の動作を説明するフローチャートである。
【図3】図3は実施例1の撮像装置100によってぶれのない被写体画像を取得する様子を示している。
【図4】図4は実施例1の変形例1の撮像装置150における画像復元処理を説明するフローチャートである。
【図5】図5は実施例1の変形例2の撮像装置160における画像復元処理を説明するフローチャートである。
【図6】図6は実施例1の変形例2の撮像装置160におけるPSF分布の推定処理を説明するフローチャートである。
【図7】図7は実施例1の変形例2の撮像装置160における原画像分布の推定処理を説明するフローチャートである。
【図8】図8は実施例2の天体撮像装置800の構成を示す図である。
【図9】図9は実施例2の天体撮像装置800によってシーイングの影響を排除した天体画像を取得する様子を示す図である。
【図10】図10は実施例2の天体撮像装置800の動作を説明するフローチャートである。
【図11】図11は実施例3の画像復元装置1100の構成を示す図である。
【図12】図12は実施例3の画像復元装置1100の処理を説明するフローチャートである。
【図13】図13は実施例3の画像復元装置1100で計算されるぶれ画像の複素ケプストラム分布の概形を示す図である。
【図14】図14は実施例3の画像復元装置1100の機能ブロック図である。
【図15】図15は実施例4の画像復元装置1150の動作を説明するフローチャートである。
【図16】図16は実施例4の画像復元装置1150の機能ブロック図である。
【発明を実施するための形態】
【0115】
以下、本発明を具現化した実施例について図面を参照して説明する。
【0116】
(実施例1)
図面を参照しながら、本実施例の撮像装置100について説明する。
図1は本実施例の撮像装置100の構成を示す概略図である。本実施例の撮像装置100は、撮像台110に載置された被写体Wを撮像する第1イメージセンサ104と、撮像台110に固定されたレーザ光源108と、レーザ光源108を撮像する第2イメージセンサ102と、制御装置112を備えている。本実施例では被写体Wは表面に半導体回路が形成されたフォトマスクであって、撮像装置100は被写体Wの表面に形成された回路の形状を撮像する。
【0117】
第1イメージセンサ104と第2イメージセンサ102は、撮像台110の上面に対して平行な撮像面を備えている。第1イメージセンサ104と第2イメージセンサ102は、それぞれ撮像面に複数の撮像素子を備えており、撮像面に形成される像を撮像素子を介して認識し、RGBの各色成分の照度の分布を示す電気信号に変換して画像処理装置112へ送信する。第1イメージセンサ104と第2イメージセンサ102は、両者が一体的に移動するように、センサ支持台106に搭載されている。第1イメージセンサ104と第2イメージセンサ102は、レンズ収差等の特性が同一である。また、第1イメージセンサ104と第2イメージセンサ102は、それぞれのシャッタが同期して開閉するように制御装置112によって制御される。従って、撮像台110とセンサ支持台106の間のわずかな振動によって撮像時に第1イメージセンサ104で撮像される被写体Wの画像がぶれてしまう場合には、第2イメージセンサ102で撮像されるレーザ光源108の画像も同じようにぶれることになる。
【0118】
第2イメージセンサ102で撮像されるレーザ光源108の画像は、撮像台110に固定された点光源を撮像した画像ということができる。従って、第2イメージセンサ102で撮像される画像は、第2イメージセンサ102で撮像する際の点像分布関数(PSF:Point Spread Function)の分布として扱うことができる。第2イメージセンサ102と第1イメージセンサ104は同一の特性を有しており、それぞれのシャッタが同期して開閉するように撮像するので、第2イメージセンサ102で撮像する際のPSFの分布は、第1イメージセンサ104で撮像する際のPSFの分布として扱うことができる。レーザ光源108の発光は制御装置112によって制御される。
【0119】
制御装置112は、第1イメージセンサ104から送信されるデータと、第2イメージセンサ102から送信されるデータに基づいて、被写体Wのぶれのない画像を生成する。
【0120】
以下では図2のフローチャートを参照しながら、撮像装置100によって被写体Wのぶれのない画像を取得する方法について説明する。以下の説明では、撮像時にぶれてしまった被写体Wの画像を劣化画像と呼び、ぶれのない被写体Wの画像を原画像と呼ぶ。
【0121】
ステップS202では、被写体Wを撮像台110に載置し、位置を固定する。
【0122】
ステップS204では、点光源であるレーザ光源108の発光を開始する。
【0123】
ステップS206では、第1イメージセンサ104と第2イメージセンサ102を同期させて撮像する。第1イメージセンサ104では、被写体Wを撮像したデータが取得される。第2イメージセンサ102では点光源であるレーザ光源108を撮像したデータが取得される。第1イメージセンサ104で撮像されたデータは、被写体画像データとして制御装置112に記録される。第2イメージセンサ102で撮像されたデータは、点像画像データとして制御装置112に記録される。
【0124】
被写体画像データと点像画像データは、いずれもRGBそれぞれの色成分の照度の分布を表現している。本実施例では、RGBそれぞれの色成分に関して、ステップS208とステップS210の処理を実施して、それぞれの色成分に関して復元された照度の分布を組み合わせることで、原画像を生成する。
【0125】
ステップS208では、点像画像データから、PSFの分布h(x、y)を取得する。本実施例では、点像画像データの照度の分布を正規化して、PSFの分布h(x、y)とする。
【0126】
ステップS210では、被写体画像データにおける照度の分布を劣化画像の分布g(x、y)とし、劣化画像の分布g(x、y)と、ステップS208で取得されたPSFの分布h(x、y)を用いて、画像復元処理を行う。
【0127】
本実施例では、ステップS210において、以下のようにして画像復元処理を行う。
まず劣化画像の分布g(x、y)をフーリエ変換して、劣化画像のスペクトル分布G(s、t)を取得する。
【0128】
そして、ステップS208で取得されたPSFの分布h(x、y)をフーリエ変換して、光学的伝達関数(OTF:Optical Transfer Function)の分布H(s、t)を取得する。
【0129】
その後に、劣化画像のスペクトル分布G(s、t)をOTFの分布H(s、t)で除して、原画像のスペクトル分布F(s、t)を得る。
【0130】
最後に、原画像のスペクトル分布F(s、t)を逆フーリエ変換することで、原画像の分布f(x、y)が得られる。
【0131】
上述のように原画像の分布f(x、y)をRGBの色成分それぞれについて取得し、それぞれの色成分の照度の分布を組み合わせることで、劣化画像から原画像を復元することができる。すなわち、撮像時にぶれてしまった被写体Wの画像から、ぶれのない被写体Wの画像を得ることができる。ぶれのない被写体Wの画像は、例えばディスプレイに表示してもよいし、画像データとしてハードディスクなどの記憶装置に記憶してもよいし、通信回線を経由して他のコンピュータに送信してもよい。
【0132】
図3は本実施例の撮像装置100によって被写体Wのぶれのない画像を取得する様子を示している。本実施例の撮像装置100によれば、第1イメージセンサ104で撮像された被写体画像302と、第2イメージセンサ102で撮像された点像画像304を用いて、ぶれのない被写体画像306を取得することができる。撮像台110とセンサ支持台106の間でわずかな振動があっても、ぶれのない被写体画像306を取得することができる。撮像台110やセンサ支持台106に防振機構を設けることなく、被写体Wのぶれのない画像を得ることが可能となる。
【0133】
(実施例1の変形例1)
本実施例の撮像装置150は、図1に示す実施例1の撮像装置100と同様のハードウェア構成を備えているが、制御装置112が図2のステップS210において行う画像復元処理のみが異なっている。以下では実施例1との相違点のみについて詳細に説明する。
【0134】
図4は本実施例の撮像装置150において図2のステップS210で行う画像復元処理の詳細を示すフローチャートである。
【0135】
ステップS402では、劣化画像の分布g(x、y)を特定する。本実施例の劣化画像の分布g(x、y)は、光の照度の分布を位相特性も含めて記述する複素関数である。本実施例では、g(x、y)の実部を被写体画像データにおける照度の分布と一致させ、g(x、y)の虚部を全て0とする。
【0136】
次にステップS404では、PSFの分布h(x、y)をフーリエ変換して、光学的伝達関数(OTF:Optical Transfer Function)の分布H(s、t)を特定する。
【0137】
ステップS406では、ステップS404で特定された劣化画像の分布g(x、y)を原画像の最初の推定分布f0(x、y)に設定する。また反復計算の繰り返し数kを0に設定する。
【0138】
ステップS408では、原画像の推定分布fk(x、y)をフーリエ変換して、その結果を関数K1(s、t)に設定する。関数K1(s、t)は、第1の関数に相当する。kは非負の整数であり、反復計算の回数に応じて後のステップS426で増加していく。
【0139】
ステップS410では、ステップS408で設定した第1の関数K1(s、t)に、ステップS404で特定したH(s、t)を乗じて、関数K2(s、t)を算出する。関数K2(s、t)は、第2の関数に相当する。
【0140】
ステップS412では、ステップS410で算出した第2の関数K2(s、t)を逆フーリエ変換して、その結果を関数L3(x、y)に設定する。関数L3(x、y)は、複素関数であって、第3の関数に相当する。
【0141】
ステップS414では、ステップS402で特定した劣化画像分布g(x、y)を、ステップS412で設定した第3の関数L3(x、y)で除して、関数L4(x、y)を算出する。関数L4(x、y)は、複素関数であって、第4の関数に相当する。
【0142】
ステップS416では、ステップS414で算出した第4の関数L4(x、y)をフーリエ変換して、その結果を関数K5(s、t)に設定する。関数K5(s、t)は、第5の関数に相当する。
【0143】
ステップS418では、ステップS416で設定した第5の関数K5(s、t)に、H#(s、t)を乗じて、関数K6(s、t)を算出する。H#(s、t)は、ステップS404で特定したH(s、t)の反転関数であって、H#(s、t)=H(−s、−t)の関係を満たす。関数K6(s、t)は、第6の関数に相当する。
【0144】
ステップS420では、ステップS418で設定した第6の関数K6(s、t)を逆フーリエ変換して、その結果を関数L7(x、y)に設定する。関数L7(x、y)は、複素関数であって、第7の関数に相当する。
【0145】
ステップS422では、原画像の推定分布fk(x、y)に、ステップS420で設定した第7の関数L7(x、y)を乗じて、原画像の改善された推定分布fk+1(x、y)を算出する。前記第7の関数は一般に虚部を備える複素関数となるから、上記の方法によって原画像の推定分布を位相特性も含めて改善することができる。
【0146】
ステップS424では、ステップS422で算出された原画像の改善された推定分布fk+1(x、y)と、原画像の推定分布fk(x、y)の差分を算出し、その絶対値が全ての(x、y)に対してしきい値εを下回るか否かを判断する。前記差分の絶対値がある(x、y)に対してしきい値ε以上の場合(ステップS424でNOの場合)、原画像の改善された推定分布fk+1(x、y)はまだ収束に達していないと判断し、処理はステップS426へ進む。前記差分の絶対値が全ての(x、y)に対してしきい値εを下回る場合(ステップS424でYESの場合)、原画像の改善された推定分布fk+1(x、y)は収束に達したものと判断して、処理はステップS428へ進む。
【0147】
ステップS426では、反復計算の繰り返し数kを1増加させる。処理はステップS408へ戻り、ステップS408からステップS424までの処理を再度実施する。
【0148】
ステップS428では、反復計算の結果得られた原画像の推定分布fk+1(x、y)を原画像の分布f(x、y)として出力する。
【0149】
以上の原画像の復元処理をRGBの色成分それぞれについて行うことで、被写体Wのぶれのない画像を取得することができる。取得されたぶれのない画像は、例えばディスプレイに表示してもよいし、画像データとしてハードディスクなどの記憶装置に記憶してもよいし、通信回線を経由して他のコンピュータに送信してもよい。
【0150】
本実施例の撮像装置150によれば、劣化画像の分布g(x、y)とPSFの分布h(x、y)を用いて、Bayesの理論に基づき、劣化画像の分布g(x、y)を実現する原画像の分布f(x、y)のうちで最大に尤もらしい分布を、反復計算によって推定することができる。この撮像装置150は、OTFの分布H(s、t)がある周波数領域で0となる場合、すなわち実施例1の撮像装置100による画像復元ができない場合であっても、原画像を復元することができる。
【0151】
(実施例1の変形例2)
本実施例の撮像装置160は、図1に示す実施例1の撮像装置100や実施例1の変形例1の撮像装置150と同様のハードウェア構成を備えているが、制御装置112が図2のステップS210において行う画像復元処理の手法のみが異なっている。以下では実施例1および実施例1の変形例1との相違点のみについて詳細に説明する。
【0152】
図5は本実施例の撮像装置160において図2のステップS210で行う画像復元処理の詳細を示すフローチャートである。
【0153】
ステップS502では、劣化画像の分布g(x、y)を特定する。本実施例の劣化画像の分布g(x、y)は、光の照度の分布を位相特性も含めて記述する複素関数である。本実施例では、g(x、y)の実部を被写体画像データにおける照度の分布と一致させ、g(x、y)の虚部を全て0とする。
【0154】
ステップS504では、原画像の最初の推定分布f0(x、y)を設定する。本実施例のでは、原画像の最初の推定分布f0(x、y)として、劣化画像の分布g(x、y)を用いる。一般的に、原画像の分布と劣化画像の分布は大きく異ならないと考えられるため、上記のように原画像の最初の推定分布f0(x、y)を設定することによって、原画像の復元に伴う反復計算の回数を低減することができる。
またステップS504では、PSFの最初の推定分布h0(x、y)を設定する。本実施例では、PSFの最初の推定分布h0(x、y)として、図2のステップS208で取得されているPSFの分布h(x、y)を用いる。第2イメージセンサ102で撮像する際のPSFの分布は、第1イメージセンサ104で撮像する際のPSFの分布と大きく異ならないと考えられるため、上記のようにPSFの最初の推定分布h0(x、y)を設定することによって、原画像の復元に伴う反復計算の回数を低減することができる。
さらにステップS504では、反復計算の繰返し数kを0に設定する。
【0155】
ステップS506では、反復計算の繰返し数kを1増加させる。
【0156】
ステップS508では、PSFの推定分布hk(x、y)を算出して、PSFの推定分布を更新する。この計算については後述する。
【0157】
ステップS510では、PSFの推定分布hk(x、y)をフーリエ変換して、OTFの推定分布Hk(s、t)を算出する。
【0158】
ステップS512では、原画像の推定分布fk(x、y)を算出して、原画像の推定分布を更新する。この計算については後述する。
【0159】
ステップS514では、ステップS512で更新された原画像の推定分布fk(x、y)と、更新される前の原画像の推定分布fk−1との差分を算出し、その差分がすべての(x、y)に対してあるしきい値εを下回るか否かを判断する。前記差分がある(x、y)に対してしきい値ε以上の場合(ステップS514でNOの場合)、原画像の推定分布fk(x、y)は未だ収束に達していないと判断して、処理はステップS506へ戻り、ステップS506からステップS514までの処理を再度繰返す。前記差分がすべての(x、y)に対してしきい値εを下回る場合(ステップS514でYESの場合)、原画像の推定分布fk(x、y)は収束に達したと判断して、処理はステップS516へ進む。
【0160】
ステップS516では、反復計算の結果得られた原画像の推定分布fk(x、y)を、復元された原画像の分布f(x、y)に設定する。本実施例の方法では、反復計算の過程で画像を記述する分布を複素関数として扱っているため、上記で設定される原画像の分布f(x、y)は一般に複素関数となる。本実施例では、復元された原画像の分布f(x、y)の実部が、原画像における照度の分布を表す。
【0161】
以下では図5のステップS508のhk(x、y)の推定について詳細に説明する。本実施例では、hk(x、y)の推定として、図6のフローチャートに示すステップS602〜S626の工程を実施する。
【0162】
ステップS602では、hk(x、y)の最初の推定分布hk0(x、y)を設定する。本実施例の方法では、すでに取得されているhk−1(x、y)を、hk(x、y)の最初の推定hk0(x、y)とする。また、ステップS602では、hk(x、y)の推定に係る反復計算の繰返し数mを0に設定する。
【0163】
ステップS604では、原画像の推定スペクトル分布F(s、t)を設定する。本実施例では、すでに取得されている原画像の推定分布fk−1(x、y)をフーリエ変換して、その結果をF(s、t)とする。
【0164】
ステップS606では、hk(x、y)の推定分布hkm(x、y)をフーリエ変換して、その結果を関数K1(s、t)に設定する。関数K1(s、t)は、第1の関数に相当する。
【0165】
ステップS608では、ステップS606で算出された関数K1(s、t)に、ステップS604で算出された原画像の推定スペクトル分布F(s、t)を乗じて、関数K2(s、t)を算出する。関数K2(s、t)は、第2の関数に相当する。
【0166】
ステップS610では、ステップS608で算出された関数K2(s、t)を逆フーリエ変換して、その結果を関数L3(x、y)に設定する。関数L3(x、y)は、第3の関数に相当する。
【0167】
ステップS612では、図5のステップS504で特定された劣化画像分布g(x、y)を、図6のステップS610で算出された関数L3(x、y)で除して、関数L4(x、y)を算出する。関数L4(x、y)は、第4の関数に相当する。
【0168】
ステップS614では、ステップS612で算出された関数L4(x、y)をフーリエ変換して、その結果を関数K5(s、t)に設定する。関数K5(s、t)は、第5の関数に相当する。
【0169】
ステップS616では、ステップS614で算出された関数K5(s、t)に、F#(s、t)を乗じて、関数K6(s、t)を算出する。関数K6(s、t)は、第6の関数に相当する。F#(s、t)は、ステップS604で算出された原画像の推定スペクトル分布F(s、t)の反転関数であり、F#(s、t)=F(−s、−t)の関係を満たす。
【0170】
ステップS618では、ステップS616で算出された関数K6(s、t)を逆フーリエ変換して、その結果を関数L7(x、y)に設定する。関数L7(x、y)は、第7の関数に相当する。
【0171】
ステップS620では、hk(x、y)の推定分布hkm(x、y)に、ステップS618で設定された関数L7(x、y)を乗じて、その結果をhk(x、y)の改善された推定分布hkm+1(x、y)に設定する。
【0172】
ステップS622では、hk(x、y)の推定のための反復計算の繰返し数mを1増加させる。
【0173】
ステップS624では、hk(x、y)の推定のための反復計算の繰返し数mが、しきい値以上になったか否かを判断する。本実施例では、hk(x、y)の推定のために実施する反復計算の回数を5回としている。繰り返し数mが5未満の場合(ステップS624でNOの場合)、処理はステップS606へ進み、ステップS606からステップS622までの処理を再度実施する。繰り返し数mが5以上の場合(ステップS624でYESの場合)、処理はステップS626へ進む。
【0174】
ステップS626では、上記の反復計算の結果得られる分布hk5(x、y)を、hk(x、y)の推定分布として設定する。
上記の反復計算は、劣化画像分布g(x、y)と、原画像分布fk−1(x、y)から、PSFの分布hk(x、y)を推定することに相当する。原画像分布fk−1(x、y)が、真の原画像分布f(x、y)に近いほど、上記の反復計算によって推定されるhk(x、y)は、真のPSFの分布h(x、y)に近づく。
【0175】
以下では図5のステップS514のfk(x、y)の推定について詳細に説明する。本実施例の方法では、fk(x、y)の推定として、図7のフローチャートに示すステップS702〜S724の工程を実施する。
【0176】
ステップS702では、fk(x、y)の最初の推定分布fk0(x、y)を設定する。本実施例の方法では、既に取得されているfk−1(x、y)を、fk(x、y)の最初の推定分布fk0(x、y)として設定する。また、ステップS702では、fk(x、y)の推定のための反復計算の繰返し数nを0に設定する。
【0177】
ステップS704では、fk(x、y)の推定分布fkn(x、y)をフーリエ変換して、その結果を関数K1(s、t)に設定する。関数K1(s、t)は、第1の関数に相当する。
【0178】
ステップS706では、ステップS704で算出された関数K1(s、t)に、図5のステップS510で算出されたOTFの推定分布Hk(s、t)を乗じて、関数K2(s、t)を算出する。関数K2(s、t)は、第2の関数に相当する。
【0179】
ステップS708では、ステップS706で算出された関数K2(s、t)を逆フーリエ変換して、その結果を関数L3(x、y)に設定する。関数L3(x、y)は、第3の関数に相当する。
【0180】
ステップS710では、図5のステップS504で特定された劣化画像分布g(x、y)を、図7のステップS708で算出された関数L3(x、y)で除して、関数L4(x、y)を算出する。関数L4(x、y)は、第4の関数に相当する。
【0181】
ステップS712では、ステップS710で算出された関数L4(x、y)をフーリエ変換して、その結果を関数K5(s、t)に設定する。関数K5(s、t)は、第5の関数に相当する。
【0182】
ステップS714では、ステップS712で算出された関数K5(s、t)に、Hk#(s、t)を乗じて、関数K6(s、t)を算出する。Hk#(s、t)は、図5のステップS512で算出されたOTFの推定分布Hk(s、t)の反転関数であり、Hk#(s、t)=Hk(−s、−t)の関係を満たす。
【0183】
ステップS716では、ステップS714で算出された関数K6(s、t)を逆フーリエ変換して、その結果を関数L7(x、y)に設定する。関数L7(x、y)は、第7の関数に相当する。
【0184】
ステップS718では、fk(x、y)の推定分布fkn(x、y)に、ステップS716で算出された関数L7(x、y)を乗じて、fk(x、y)の改善された推定分布fkn+1(x、y)を算出する。
【0185】
ステップS720では、fk(x、y)の推定のための反復計算の繰返し数nを1増加する。
【0186】
ステップS722では、fk(x、y)の推定のための反復計算の繰返し数nが、しきい値以上になったか否かを判断する。本実施例では、fk(x、y)の推定のために実施する反復計算の回数を5回としている。繰り返し数nが5未満の場合(ステップS722でNOの場合)、処理はステップS704へ進み、ステップS704からステップS720までの処理を再度実施する。繰り返し数nが5以上の場合(ステップS722でYESの場合)、処理はステップS724へ進む。
【0187】
ステップS724では、上記の反復計算の結果得られる分布fk5(x、y)を、fk(x、y)の推定分布として設定する。
上記の反復計算は、劣化画像分布g(x、y)と、OTF分布Hk(s、t)とに基づいて、原画像分布fk(x、y)を推定することに相当する。OTF分布Hk(s、t)が、真のOTF分布H(s、t)に近いほど、上記の反復計算によって推定されるfk(x、y)は、真の原画像の分布f(x、y)に近づく。
【0188】
上記の実施例では、反復計算の過程において、先にOTFの推定分布を更新して、次に原画像の推定分布を更新する例を説明した。OTFの推定分布の更新と、原画像の推定分布の更新は、交互に繰返し実施すればよいため、先に原画像の推定分布を更新して、次にOTFの推定分布を更新してもよい。
【0189】
以上の原画像の復元処理をRGBの色成分それぞれについて行うことで、被写体Wのぶれのない画像を取得することができる。取得されたぶれのない画像は、例えばディスプレイに表示してもよいし、画像データとしてハードディスクなどの記憶装置に記憶してもよいし、通信回線を経由して他のコンピュータに送信してもよい。
【0190】
本実施例の撮像装置160によれば、劣化画像の分布g(x、y)とPSFの分布h(x、y)を用いて、Bayesの理論に基づき、劣化画像の分布g(x、y)を実現する原画像の分布f(x、y)のうちで最大に尤もらしい分布を、反復計算によって推定することができる。この撮像装置160は、OTFの分布H(s、t)がある周波数領域で0となる場合、すなわち実施例1の撮像装置100による画像復元ができない場合であっても、原画像を復元することができる。
【0191】
本実施例の撮像装置160によれば、第2イメージセンサ102で撮像された点像画像データに基いて取得されたPSFの分布h(x、y)が、第1イメージセンサ104で被写体Wを撮像する際の真のPSFの分布と相違する場合であっても、劣化画像の分布g(x、y)を実現するPSFの分布h(x、y)のうちで最大に尤もらしい分布を、反復計算によって推定することができる。実施例1の変形例1の撮像装置150にくらべ、より正確に原画像を復元することができる。
【0192】
(実施例2)
図面を参照しながら、本実施例の天体撮像装置800について説明する。
図8は本実施例の天体撮像装置800の構成を示す概略図である。本実施例の天体撮像装置800は、天体を撮像する第1カメラ802と、電離層に向けてレーザ光を照射するレーザ照射器806と、レーザ照射器806から照射されて電離層で反射したレーザ光を撮像する第2カメラ804と、制御装置808を備えている。
【0193】
第1カメラ802と第2カメラ804とレーザ照射器806は、同一の地域内で、地上に載置されている。
【0194】
第1カメラ802と第2カメラ804は、それぞれ撮像面に複数の撮像素子を備えており、撮像面に形成される像を撮像素子を介して認識し、RGBの各色成分の照度の分布を示す電気信号に変換して制御装置808へ送信する。第1カメラ802と第2カメラ804は、レンズ収差等の特性が同一である。また、第1カメラ802と第2カメラ804は、それぞれのシャッタが同期して開閉するように制御装置808によって制御される。
【0195】
レーザ照射器806は、制御装置808によって制御されており、電離層に向けてレーザ光を照射する。レーザ照射器806で照射されたレーザ光は、電離層で反射して、第2カメラ804で受光される。
【0196】
第1カメラ802が撮像する天体の画像は、大気のゆれによるシーイングの影響を受けて、ぼやけた画像となってしまう。本実施例の天体撮像装置800では、第1カメラ802で撮像された天体の画像と、第2カメラ804で撮像されたレーザ光の画像を用いて、シーイングの影響を除去した天体の画像を取得する。第2カメラ804で撮像される画像は、レーザ照射器806から電離層へ到達するまでの間にシーイングの影響を受け、さらに電離層で反射してから第2カメラ804へ到達するまでの間にシーイングの影響を受けた点光源の画像として扱うことができる。従って、第2カメラ804で撮像される画像に基づいて、第2カメラ804で天体を撮像する際のPSFの分布を取得することができる。第2カメラ804と第1カメラ802は同一の特性を有しており、それぞれのシャッタが同期して開閉するように撮像するので、第2カメラ804で撮像する際のPSFの分布は、第1カメラ802で撮像する際のPSFの分布として扱うことができる。
【0197】
図9は本実施例の天体撮像装置800を用いて惑星を撮像した様子を示している。図9に示すように、本実施例の天体撮像装置800によれば、大気のゆれによるシーイングの影響によってぼやけてしまっている天体画像902から、シーイングの影響を排除した鮮明な天体画像904を取得することができる。
【0198】
図10のフローチャートを参照しながら、天体撮像装置800の動作について説明する。
【0199】
ステップS1002では、レーザ照射器806によるレーザ光の照射を開始する。レーザ照射器806によって照射されたレーザ光は、電離層で反射して、第2カメラ804まで到達する。
【0200】
ステップS1004では、第1カメラ802と第2カメラ804を同期させて撮像する。第1カメラ802では、天体を撮像したデータが取得される。第2カメラ804では、レーザ照射器806から照射されて電離層によって反射されたレーザ光を撮像したデータが取得される。第1カメラで撮像されたデータは天体画像データとして制御装置808に記録される。第2カメラ804で撮像されたデータは点像画像データとして制御装置808に記録される。
【0201】
天体画像データと点像画像データは、いずれもRGBそれぞれの色成分の照度の分布を表現している。本実施例では、RGBそれぞれの色成分に関して、ステップS1006とステップS1008の処理を実施する。
【0202】
ステップS1006では、点像画像データから、PSFの分布h(x、y)を取得する。本実施例の場合、第2カメラ804で撮像される画像は、地上と電離層の間を往復する間にシーイングの影響を受けたレーザ光の画像である。従って、天体を撮像する際のPSFの分布としては、点像画像データから得られるPSFの分布を用いる。
【0203】
ステップS1008では、天体画像データにおける照度の分布と、ステップS1006で取得されたPSFの分布h(x、y)を用いて、画像復元処理を行う。ステップS1006で、すでに天体を撮像する際のPSFの分布が取得されているので、実施例1や、実施例1の変形例1や、実施例1の変形例2で詳述した画像復元処理を施すことによって、シーイングの影響を排除した天体画像を得ることができる。
【0204】
本実施例の天体撮像装置800によれば、大気のゆれによるシーイングの影響を排除した鮮明な天体画像を取得することができる。
【0205】
(実施例3)
図11、図12および図13を参照しながら、実施例3の画像復元装置1100について説明する。本実施例の画像復元装置1100は、撮像時にぶれてしまった画像のみに基づいて、ぶれの影響を表現するPSFの分布を推定して、ぶれのない理想的な画像を復元する。以下では、撮像時にぶれてしまった画像を劣化画像と呼び、ぶれのない理想的な画像を原画像と呼ぶ。
【0206】
図11は画像復元装置1100のハードウェア構成を示している。画像復元装置1100は、後述する処理を実施するプログラムがインストールされた汎用のコンピュータである。画像復元装置1100は、制御部1102と、入力部1104と、出力部1106と、演算部1108と、記憶部1110を備えている。記憶部1110は、プログラム記憶部1112と、データ記憶部1114を備えている。
画像復元装置1100では、入力部1104を介して劣化画像のデータが入力されて、データ記憶部1114に記憶される。その後、制御部1102はプログラム記憶部1112に記憶されたプログラムに従って演算部1108で処理を行い、原画像を復元して原画像のデータをデータ記憶部1114に記憶する。データ記憶部1114に記憶された原画像のデータは、出力部1106を介して出力される。
なお画像復元装置1100は、上記のような汎用のコンピュータの代わりに、同様の処理を実施可能な専用ロジックやIC、FPGAなどであってもよい。
【0207】
図12のフローチャートを参照しながら、本実施例の画像復元装置1100が行う処理の詳細を説明する。なお本実施例の画像復元装置1100では、データ記憶部1114に記憶された劣化画像データから、RGBそれぞれの色成分の照度の分布gr(x、y)、gg(x、y)、gb(x、y)を特定しておいて、RGBそれぞれの色成分について図12の処理を実行する。
【0208】
ステップS1202では、劣化画像の分布g(x、y)を特定する。劣化画像の分布g(x、y)は、光の照度の分布を位相特性も含めて記述する複素関数である。本実施例では、g(x、y)の実部を劣化画像データにおける照度の分布と一致させ、g(x、y)の虚部を全て0とする。
【0209】
ステップS1204では、劣化画像の分布g(x、y)をフーリエ変換して、劣化画像のスペクトル分布G(s、t)を算出する。
【0210】
ステップS1206では、劣化画像のスペクトル分布G(s、t)の複素対数関数であるln(G(s、t))を計算して、関数Gc(s、t)に設定する。
【0211】
ステップS1208では、関数Gc(s、t)を逆フーリエ変換して、劣化画像の複素ケプストラムgc(x、y)を算出する。
【0212】
図13は図12のステップS1208で算出される劣化画像の複素ケプストラムgc(x、y)の概略形状を示している。図13に示すように、劣化画像の複素ケプストラムgc(x、y)は、原画像の複素ケプストラムfc(x、y)に、ぶれの影響を表現するPSFの複素ケプストラムであるパルス列が重ね合わさった形状となっている。
【0213】
ステップS1210では、劣化画像の複素ケプストラムgc(x、y)からパルス列を抽出する。本実施例では、劣化画像の複素ケプストラムgc(x、y)の振幅値が所定のしきい値を超える個所をパルスとして識別する。
【0214】
ステップS1212では、劣化画像の複素ケプストラムgc(x、y)から抽出されたパルス列を劣化画像の複素ケプストラムgc(x、y)から減じて、原画像の推定複素ケプストラムfc(x、y)を算出する。
【0215】
ステップS1214では、原画像の推定複素ケプストラムfc(x、y)をフーリエ変換して、関数Fc(s、t)を算出する。
【0216】
ステップS1216では、関数Fc(s、t)の複素指数関数であるexp(Fc(s、t))を計算して、原画像の推定スペクトル分布F(s、t)を算出する。
【0217】
ステップS1218では、原画像の推定スペクトル分布F(s、t)を逆フーリエ変換して、原画像の推定分布f(x、y)を算出し、原画像の推定分布f(x、y)を原画像の分布として出力する。
【0218】
以上の処理をRGBの色成分それぞれについて行うことで、ぶれのない画像を取得することができる。ぶれのない理想的な画像は、例えばディスプレイに表示してもよいし、画像データとしてハードディスクなどの記憶装置に記憶してもよいし、通信回線を経由して他のコンピュータに送信してもよい。
【0219】
なお図14に本実施例のぶれ画像復元装置1100が実現する機能のブロック図1400を示している。データ入力ブロック1402から入力された劣化画像の分布g(x、y)について、フーリエ変換ブロック1404の処理によって劣化画像のスペクトル分布G(s、t)が計算される。複素対数ブロック1406の処理によって関数Gc(s、t)が計算される。逆フーリエ変換ブロック1408の処理によって劣化画像の複素ケプストラムgc(x、y)が計算される。パルス抽出ブロック1410の処理によって劣化画像の複素ケプストラムgc(x、y)からパルス列が抽出される。減算ブロック1412によって劣化画像の複素ケプストラムgc(x、y)からパルス列が除去されて、原画像の推定複素ケプストラムfc(x、y)が計算される。フーリエ変換ブロック1414の処理によって関数Fc(s、t)が計算される。複素指数ブロック1416の処理によって原画像の推定スペクトル分布F(s、t)が計算される。逆フーリエ変換ブロック1418の処理によって原画像の推定分布f(x、y)が計算されて、データ出力ブロック1420に出力される。
【0220】
本実施例の画像復元装置1100によれば、撮像時にぶれてしまった画像のみに基づいて、ぶれのない理想的な画像を復元することができる。
【0221】
(実施例4)
図面を参照しながら、本実施例の画像復元装置1150について説明する。本実施例の画像復元装置1150は、図11に示す実施例3の画像復元装置1100と同様のハードウェア構成を備えているが、プログラム記憶部1112にインストールされているプログラムの内容が異なる。
【0222】
図15のフローチャートを参照しながら、本実施例の画像復元装置1150が行う処理の詳細を説明する。なお本実施例の画像復元装置1150では、データ記憶部1114に記憶された劣化画像データから、RGBそれぞれの色成分の照度の分布gr(x、y)、gg(x、y)、gb(x、y)を特定しておいて、RGBそれぞれの色成分について図15の処理を実行する。
【0223】
ステップS1502では、劣化画像の分布g(x、y)を特定する。劣化画像の分布g(x、y)は、光の照度の分布を位相特性も含めて記述する複素関数である。本実施例では、g(x、y)の実部を劣化画像データにおける照度の分布と一致させ、g(x、y)の虚部を全て0とする。
【0224】
ステップS1504では、劣化画像の分布g(x、y)をフーリエ変換して、劣化画像のスペクトル分布G(s、t)を算出する。
【0225】
ステップS1506では、劣化画像のスペクトル分布G(s、t)の複素対数関数であるln(G(s、t))を計算して、関数Gc(s、t)に設定する。
【0226】
ステップS1508では、関数Gc(s、t)を逆フーリエ変換して、劣化画像の複素ケプストラムgc(x、y)を算出する。
【0227】
ステップS1510では、劣化画像の複素ケプストラムgc(x、y)からパルス列を抽出する。本実施例では、劣化画像の複素ケプストラムgc(x、y)の振幅値が所定のしきい値を超える個所をパルスとして識別する。
【0228】
ステップS1512では、劣化画像の複素ケプストラムgc(x、y)から抽出されたパルス列より、PSFの分布h(x、y)を特定する。画像の劣化がぶれによるものの場合には、劣化画像の複素ケプストラムgc(x、y)に現れるパルス列から、PSFの分布h(x、y)を直接的に求めることができる。
【0229】
ステップS1514では、ステップS1502で特定された劣化画像の分布g(x、y)と、ステップS1512で特定されたPSFの分布h(x、y)を用いて、原画像の分布f(x、y)を復元する。この画像の復元処理は、種々の手法によって行うことができる。
【0230】
例えば実施例1で詳述したように、PSF分布h(x、y)をフーリエ変換してOTF分布H(s、t)を取得し、劣化画像のスペクトル分布G(s、t)をOTF分布H(s、t)で除して原画像のスペクトル分布F(s、t)を算出し、原画像のスペクトル分布F(s、t)を逆フーリエ変換することによって、原画像の分布f(x、y)を取得することができる。
【0231】
あるいは実施例1の変形例1で詳述したように、PSF分布h(x、y)と劣化画像の分布g(x、y)を用いて、図4に示す画像復元処理を行って、原画像の分布f(x、y)を取得することもできる。
【0232】
あるいは実施例1の変形例2のように、PSF分布h(x、y)を真のPSF分布の最初の推定分布h0(x、y)として、劣化画像の分布g(x、y)を用いて、図5、図6および図7に示す画像復元処理を行って、原画像の分布f(x、y)を取得することもできる。
【0233】
なお図16は本実施例のぶれ画像復元装置1150が実現する機能のブロック図1600を示している。データ入力ブロック1602から入力された劣化画像の分布g(x、y)について、フーリエ変換ブロック1604の処理によって劣化画像のスペクトル分布G(s、t)が計算される。複素対数ブロック1606の処理によって関数Gc(x、y)が計算される。逆フーリエ変換ブロック1608の処理によって劣化画像の複素ケプストラムgc(x、y)が計算される。パルス抽出ブロック1610の処理によって劣化画像の複素ケプストラムgc(x、y)からパルス列が抽出される。PSF特定ブロック1612の処理によってPSF分布h(x、y)が計算される。画像復元ブロック1614の処理によって原画像の分布f(x、y)が計算されて、データ出力ブロック1616に出力される。
【0234】
本実施例の画像復元装置1150によれば、撮像時にぶれてしまった画像のみに基づいて、ぶれのない理想的な画像を復元することができる。
【0235】
以上、本発明の実施形態について詳細に説明したが、これらは例示に過ぎず、特許請求の範囲を限定するものではない。特許請求の範囲に記載の技術には、以上に例示した具体例を様々に変形、変更したものが含まれる。例えば、劣化復元の基本式である数式(18)の代わりに、数式(17)を反復計算に直接用いることも可能である。この場合にはフーリエ変換という過程は不要である。
また、本明細書または図面に説明した技術要素は、単独であるいは各種の組み合わせによって技術的有用性を発揮するものであり、出願時請求項記載の組み合わせに限定されるものではない。また、本明細書または図面に例示した技術は複数目的を同時に達成するものであり、そのうちの一つの目的を達成すること自体で技術的有用性を持つものである。
【符号の説明】
【0236】
100:撮像装置
102:第2イメージセンサ
104:第1イメージセンサ
106:センサ支持台
108:レーザ光源
110:撮像台
112:制御装置
150:撮像装置
160:撮像装置
302:被写体画像
304:点像画像
306:ぶれのない被写体画像
800:天体撮像装置
802:第1カメラ
804:第2カメラ
806:レーザ照射器
808:制御装置
902:天体画像
904:シーイングの影響を排除した天体画像
1100:画像復元装置
1102:制御部
1104:入力部
1106:出力部
1108:演算部
1110:記憶部
1112:プログラム記憶部
1114:データ記憶部
1150:ぶれ画像復元装置
1400:ブロック図
1402:データ入力ブロック
1404:フーリエ変換ブロック
1406:複素対数ブロック
1408:逆フーリエ変換ブロック
1410:パルス抽出ブロック
1412:減算ブロック
1414:フーリエ変換ブロック
1416:複素指数ブロック
1418:逆フーリエ変換ブロック
1420:データ出力ブロック
1600:ブロック図
1602:データ入力ブロック
1604:フーリエ変換ブロック
1606:複素対数ブロック
1608:逆フーリエ変換ブロック
1610:パルス抽出ブロック
1612:PSF特定ブロック
1614:画像復元ブロック
1616:データ出力ブロック
【技術分野】
【0001】
本発明は撮像時のぶれやぼけの影響によって劣化した画像から、劣化のない画像を復元する技術に関する。
【背景技術】
【0002】
被写体を撮像する際に、解像度が不足したり、画像がぶれてしまったり、ぼけてしまったりすることがある。このように劣化した画像から劣化のない理想的な画像を復元する技術の開発が進められている。
【0003】
本発明者らは、これまでにも、劣化した画像から劣化のない画像を復元する技術を開発している。この技術は、例えば特許文献1や特許文献2に記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】国際公開第2006/041126号
【特許文献2】国際公開第2006/041127号
【発明の概要】
【発明が解決しようとする課題】
【0005】
劣化した画像から劣化のない画像を復元するためには、撮像時のぶれやぼけの影響を表現する点像分布関数が必要とされる。適切な点像分布関数を取得することができれば、劣化した画像から劣化のない画像を正確かつ速やかに復元することが可能となる。
【0006】
本発明は上記課題を解決する。本発明では、撮像時のぶれやぼけの影響を表現する点像分布関数を適切に取得して、劣化した画像から劣化のない画像を復元することが可能な技術を提供する。
【課題を解決するための手段】
【0007】
本発明は撮像装置として具現化される。その撮像装置は、被写体を撮像して被写体画像データを出力する第1撮像手段と、点光源を撮像して点像画像データを出力する第2撮像手段と、被写体画像データと点像画像データに基いて改善された被写体画像データを生成する画像処理手段を備えている。その撮像装置において、第1撮像手段と第2撮像手段は、共通する支持台によって支持されており、互いに同期して撮像するものである。その撮像装置において、被写体と点光源は、共通する載置台上に載置されている。その撮像装置において、画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と被写体画像データに基いて改善された被写体画像データを生成する。
【0008】
上記の撮像装置の動作内容を方法の発明として具現化することもできる。本発明の撮像方法は、第1撮像手段によって被写体を撮像して被写体画像データを出力する工程と、第2撮像手段によって点光源を撮像して点像画像データを出力する工程と、画像処理手段によって被写体画像データと点像画像データに基いて改善された被写体画像データを生成する工程を備えている。その撮像方法において、第1撮像手段と第2撮像手段は、共通する支持台によって支持されており、互いに同期して撮像するものである。その撮像方法において、被写体と点光源は、共通する載置台上に載置されている。その撮像方法において、画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と被写体画像データに基いて改善された被写体画像データを生成する。
なお本発明は上記の撮像方法における各工程をコンピュータに実行させるためのプログラムとしても具現化することができる。
【0009】
第1撮像手段で撮像される被写体の画像は、ぶれやぼけによって劣化していることがある。上記の撮像装置では、第1撮像手段と同様の条件で撮像する第2撮像手段によって点光源を撮像して、第2撮像手段で撮像された画像から点像分布関数(PSF:Point Spread Function)を取得する。そして、第1撮像手段で撮像された画像とPSFを用いて、ぶれやぼけのない改善された被写体の画像を生成する。
【0010】
以下では撮像時のぶれやぼけによって劣化している画像を劣化画像と呼び、ぶれやぼけのない理想的な画像を原画像と呼ぶ。劣化画像とPSFから原画像を復元する原理について説明する。原画像と劣化画像はそれぞれの大きさが同一であり、いずれも画像内の点の位置を座標(x、y)で表現することが可能であって、原画像の照度分布はfr(x、y)、劣化画像の照度分布はgr(x、y)で表現されるものとする。またPSFの分布をhr(x、y)とする。
【0011】
原画像の分布fr(x、y)と、劣化画像の分布gr(x、y)と、PSFの分布hr(x、y)の間には、次の関係が成り立つ。
【0012】
【数1】
【0013】
原画像の分布fr(x、y)と劣化画像の分布gr(x、y)は、以下に示す二次元フーリエ変換を実施することによって、x軸に関する空間周波数sと、y軸に関する空間周波数tについてのスペクトルをそれぞれ得ることができる。
【0014】
【数2】
【数3】
【0015】
ここでFT()は二次元フーリエ変換を示している。またPSFの分布hr(x、y)について二次元フーリエ変換を実施することによって、周波数空間における伝達関数である光学的伝達関数(OTF:Optical Transfer Function)の分布Hr(s、t)を得ることができる。
【0016】
【数4】
【0017】
式(1)の両辺についてフーリエ変換することで、以下に示す劣化画像のスペクトル分布Gr(s、t)と、原画像のスペクトル分布Fr(s、t)と、OTF分布Hr(s、t)の関係が得られる。
【0018】
【数5】
【0019】
従って、劣化画像のスペクトル分布Gr(s、t)とOTF分布Hr(s、t)が既知であれば、次式により原画像のスペクトル分布Fr(s、t)を得ることができる。
【0020】
【数6】
【0021】
上式によって原画像のスペクトル分布Fr(s、t)が得られれば、二次元の逆フーリエ変換を施すことによって、原画像の分布fr(x、y)を得ることができる。
【0022】
【数7】
【0023】
ここでFT−1()は二次元の逆フーリエ変換を示している。以上のように、本発明の画像取得装置によれば、第2撮像手段で撮像された画像からPSFの分布を取得し、第1撮像手段で撮像された画像とPSFの分布を用いて、ぶれやぼけのない被写体の画像を得ることができる。
【0024】
上記の撮像装置においては、前記画像処理手段が、点像分布関数と被写体画像データに基づいて改善された被写体画像データを生成する際に、被写体画像データから劣化画像の分布を特定する処理と、点像分布関数から光学的伝達関数を特定する処理と、原画像の最初の推定分布を特定する処理と、(1)原画像の推定分布をフーリエ変換して第1の関数を得る処理と、(2)前記第1の関数に前記光学的伝達関数を乗じて第2の関数を得る処理と、(3)前記第2の関数を逆フーリエ変換して第3の関数を得る処理と、(4)前記劣化画像の分布を前記第3の関数で除して第4の関数を得る処理と、(5)前記第4の関数をフーリエ変換して第5の関数を得る処理と、(6)前記第5の関数に前記光学的伝達関数の反転関数を乗じて第6の関数を得る処理と、(7)前記第6の関数を逆フーリエ変換して第7の関数を得る処理と、(8)原画像の推定分布に前記第7の関数を乗じて、原画像の次の推定分布を得る処理と、原画像の次の推定分布を原画像の推定分布に置き換えて、前記(1)から(8)の処理を繰返す処理と、原画像の推定分布に基づいて、改善された被写体画像データを生成する処理を実行することが好ましい。
【0025】
劣化画像から原画像を復元する際に、OTF分布H(s、t)が0となる周波数領域が存在する場合には、数式(6)の演算を行うことができず、原画像を完全に復元することができない。そこで上記の撮像装置では、原画像の分布fr(x、y)と劣化画像の分布gr(x、y)を確率密度関数として扱い、Bayesの理論に基づいて原画像の推定を行う。原画像分布fr(x、y)と劣化画像分布gr(x、y)は、下記の正規化を行うことによって、確率密度関数として扱うことが可能になる。
【0026】
【数8】
【数9】
【0027】
上記の正規化に合わせて、OTF分布Hr(s、t)についても正規化する。Hr(s、t)は、空間周波数の原点での値を用いて正規化する。
【0028】
【数10】
【0029】
正規化された原画像の分布f(x、y)と、劣化画像の分布g(x、y)は、非負の関数であり、定義された領域での積分値が1であるから、確率密度関数として扱うことができる。上記の場合において、f(x、y)は原画像の座標(x、y)における結像という事象の確率密度関数である。g(x、y)は劣化画像の座標(x、y)における結像という事象の確率密度関数である。
【0030】
原画像および劣化画像の分布を、確率密度関数と見なすことが可能な場合、Bayesの理論に基づいて、劣化画像の分布から、その劣化画像を生じさせている原画像の分布を推定することができる。
原画像の座標(x、y)に光が結像する事象は、その座標(x、y)に点光源が存在する事象として扱うことができる。原画像の座標(x1、y1)において点光源が存在する事象をV(x1、y1)、劣化画像の座標(x2、y2)において点像が結像する事象をA(x2、y2)とした場合、それぞれの事象の確率P(V)およびP(A)は以下で表現される。
【0031】
【数11】
【数12】
【0032】
また、原画像の座標(x1、y1)に点光源が存在している場合に、劣化画像の座標(x2、y2)に結像する確率は、事象V(x1、y1)の生起を条件とする事象A(x2、y2)の生起確率である。上記の確率はPSF分布h(x、y)を用いて以下で表現される。
【0033】
【数13】
【0034】
Bayesの理論に基づくと、劣化画像内の点(x2、y2)に点像を結像させる場合の原画像の分布P(V(x、y)|A(x2、y2))は、以下で推定される。
【0035】
【数14】
【0036】
上式の右辺のP(V(x、y))、P(A(x2、y2)|V(x、y))に、数式(11)および数式(13)を代入すると、次式を得る。
【0037】
【数15】
【0038】
上式の左辺は、劣化画像において点像が結像している場合に、推定される原画像の分布を表している。上式に劣化画像の分布g(x、y)を乗じて積分することによって、劣化画像の分布g(x、y)を実現するための原画像の分布f(x、y)を得ることができる。
上式の両辺に、P(A(x2、y2))=g(x2、y2)を乗じて、すべての(x2、y2)に関して積分すると、次式が得られる。
【0039】
【数16】
【0040】
上式の左辺に数式(12)を代入すると、その積分の結果はP(V(x、y))であり、f(x、y)に等しい。従って、Bayesの理論に基づくと、以下の関係が成り立つ。
【0041】
【数17】
【0042】
上記の関係は、分布f(x、y)が真の原画像の分布である場合に成立すると考えられる。すなわち、上式を満たす分布f(x、y)を算出することが、劣化画像の復元に相当する。
上記の関係を満たす分布f(x、y)は、数式(17)の右辺のf(x、y)をfk(x、y)とし、数式(17)の左辺のf(x、y)をfk+1(x、y)として、fk(x、y)に関する反復計算を実施し、fk(x、y)の収束値を求めることで算出することができる。上記の反復計算によって求まるfk(x、y)の収束値は、Bayesの理論に基づく原画像の推定分布に相当する。
【0043】
上記では、原画像の分布f(x、y)や劣化画像の分布g(x、y)を正規化した場合について説明したが、実際の反復計算を実施する上では、これらの分布は正規化することなく、そのまま使用することができる。
【0044】
上記の反復計算においては、反復計算を実施する前に、原画像の最初の推定分布f0(x、y)を設定しておく。最初の推定分布f0(x、y)としては、任意の分布を設定することができる。一般的には、劣化画像の分布g(x、y)は原画像の分布f(x、y)から大きく異なることはないため、最初の推定分布f0(x、y)としては、劣化画像の分布g(x、y)を用いることが好ましい。
【0045】
数式(17)の右辺は、PSF分布h(x、y)を用いた畳み込み積分を備えている。一般に、光学系の位相特性まで含めてPSFを正確に評価することは困難であり、上記の反復計算を正確な位相特性を含めて実施することは困難である。正確な位相特性を含まないPSFを用いた反復計算は、誤った収束の結果をもたらすため、原画像の正確な復元の妨げとなる。
そこで、PSFの代わりに正確な位相特性を含ませることが容易であるOTFを用いることで、より正確に原画像を復元することが可能となる。また、復元の過程で位相特性を正確に評価するために、原画像の推定分布fk(x、y)(k=0,1,2,・・・)を複素関数に拡張し、その実部が画像分布を表現するものとして取扱う。上式の右辺に、フーリエ変換と逆フーリエ変換を用いることで、OTFを用いた形式に変更することができる。フーリエ変換をFT()、逆フーリエ変換をFT−1()で表現すると、数式(17)は以下で表現される。
【0046】
【数18】
【0047】
上記の反復計算を、fkが収束するまで繰り返し実施することによって、原画像を推定することができる。fkが収束したか否かの判定は、例えば反復計算の回数を予め設定しておいて、反復計算の回数によって判定してもよいし、fkとfk+1の差分を算出して、算出される差分の絶対値の総和があるしきい値以下となるか否かで判断してもよい。
【0048】
上記した原理を用いる画像復元処理は、以下に示す工程を順次実施していくことで実現される。以下では繰り返し計算によって推定される原画像の分布をfk(k=0、1、・・・)とする。原画像の推定分布fkは、復元の過程で位相に関する特性を正確に評価するために、複素関数として扱う。
まずPSF分布h(x、y)を二次元フーリエ変換して、OTF分布H(s、t)を特定する。
次に原画像の最初の推定分布として、f0(x、y)の実部をg(x、y)として、f0(x、y)の虚部を0とする。
次に以下に示す演算を、fk(x、y)が収束するまで繰り返し実施する。ここでFT()は二次元のフーリエ変換を表し、FT−1()は二次元の逆フーリエ変換を表す。またH#(s、t)は、H(s、t)の反転関数であり、H#(s、t)=H(−s、−t)である。
【0049】
【数19】
【数20】
【数21】
【0050】
上記の反復計算を繰返し実施し、最終的な原画像の推定分布fkを得る。最終的に得られる原画像の推定分布fk(x、y)が、原画像の復元画像f(x、y)に相当する。
【0051】
以上のように、上記の画像取得装置によれば、劣化画像の分布g(x、y)とPSFの分布h(x、y)を用いて、Bayesの理論に基づき、劣化画像の分布g(x、y)を実現する原画像の分布f(x、y)のうちで最大に尤もらしい分布を、反復計算によって推定することができる。この画像取得装置によれば、OTFの分布H(s、t)がある周波数領域で0となる場合、すなわち数式(6)による画像復元ができない場合であっても、原画像を復元することができる。ぼけやぶれのない被写体の画像を得ることができる。
【0052】
あるいは、上記の撮像装置は、前記画像処理手段が、点像分布関数と被写体画像データに基づいて改善された被写体画像データを生成する際に、被写体画像データから劣化画像の分布を特定する処理と、原画像の最初の推定分布を特定する処理と、点像画像データに基いて取得された点像分布関数を、点像分布関数の最初の推定分布に設定する処理と、(A)前記劣化画像の分布と、原画像の推定分布と、点像分布関数の推定分布に基づいて、点像分布関数の推定分布を更新する処理と、(B)前記劣化画像の分布と、原画像の推定分布と、点像分布関数の推定分布に基づいて、原画像の推定分布を更新する処理と、上記(A)と(B)の工程を交互に繰返す処理と、原画像の推定分布に基づいて、改善された被写体画像データを生成する処理を実行するものであり、前記(A)の点像分布関数の推定分布を更新する処理は、(A1)原画像の推定分布をフーリエ変換して、原画像の推定分布のスペクトル分布を得る処理と、(A2)点像分布関数の推定分布をフーリエ変換して第1の関数を得る処理と、(A3)前記第1の関数に前記原画像の推定分布のスペクトル分布を乗じて第2の関数を得る処理と、(A4)前記第2の関数を逆フーリエ変換して第3の関数を得る処理と、(A5)前記劣化画像の分布を前記第3の関数で除して第4の関数を得る処理と、(A6)前記第4の関数をフーリエ変換して第5の関数を得る処理と、(A7)前記第5の関数に前記原画像の推定分布のスペクトル分布の反転関数を乗じて第6の関数を得る処理と、(A8)前記第6の関数を逆フーリエ変換して第7の関数を得る処理と、(A9)前記点像分布関数の推定分布に前記第7の関数を乗じて、点像分布関数の次の推定分布を得る処理と、(A10)点像分布関数の次の推定分布を点像分布関数の推定分布に置き換える処理とを備え、前記(B)の原画像の推定分布を更新する処理は、(B1)点像分布関数の推定分布をフーリエ変換して、光学的伝達関数の推定分布を得る処理と、(B2)原画像の推定分布をフーリエ変換して第1の関数を得る処理と、(B3)前記第1の関数に前記光学的伝達関数の推定分布を乗じて第2の関数を得る処理と、(B4)前記第2の関数を逆フーリエ変換して第3の関数を得る処理と、(B5)前記劣化画像の分布を前記第3の関数で除して第4の関数を得る処理と、(B6)前記第4の関数をフーリエ変換して第5の関数を得る処理と、(B7)前記第5の関数に前記光学的伝達関数の推定分布の反転関数を乗じて第6の関数を得る処理と、(B8)前記第6の関数を逆フーリエ変換して第7の関数を得る処理と、(B9)原画像の推定分布に前記第7の関数を乗じて、原画像の次の推定分布を得る処理と、(B10)原画像の次の推定分布を原画像の推定分布に置き換える処理とを備えることが好ましい。
【0053】
第2撮像手段で撮像された点像画像データから取得されるPSF分布は、第2撮像手段による撮像の際の光学的特性を反映したものであり、第1撮像手段による撮像の際の光学的特性と完全に一致している保証はない。従って、PSF分布のわずかな相違によって、原画像を完全に復元することが困難な場合がある。そこで、上記の撮像装置では、第2撮像手段で撮像された点像画像データから取得されるPSF分布を、第1撮像手段による撮像の際の真のPSF分布の最初の推定値として扱い、原画像の分布とPSF分布の双方について、Bayesの理論に基いた推定を行う。
【0054】
上述したように、劣化画像分布g(x、y)とOTF分布H(s、t)が既知であれば、未知である原画像分布f(x、y)を復元することができる。上記と同様の原理によって、OTF分布H(s、t)が未知である場合に、劣化画像分布g(x、y)と原画像分布f(x、y)が既知であれば、OTF分布H(s、t)を復元することが可能となる。
【0055】
数式(15)において、x2−xを新たにx’とし、y2−yを新たにy’とすると、次式が得られる。
【0056】
【数22】
【0057】
上式の両辺にP(A(x2、y2))を乗じると、次式が得られる。
【0058】
【数23】
【0059】
上式の左辺は、Bayesの理論に基づくと、P(A(x2、y2)|V(x2−x’、y2−y’))×P(V(x2−x’、y2−y’))に等しいため、次式となる。
【0060】
【数24】
【0061】
上式に、数式(11)、数式(12)および数式(13)を代入すると、次式が得られる。
【0062】
【数25】
【0063】
上式の両辺を、(x2、y2)に関して積分すると、次式が得られる。
【0064】
【数26】
【0065】
上式左辺の積分は1に等しいため、結局、Bayesの理論に基づくと、以下の関係が成立する。
【0066】
【数27】
【0067】
上式の関係を満たすPSF分布h(x、y)が算出されると、算出されたh(x、y)をフーリエ変換することによって、OTF分布H(s、t)を推定することができる。
【0068】
数式(27)の右辺のh(x、y)をhk(x、y)とし、数式(27)の左辺のh(x、y)をhk+1(x、y)として、hk(x、y)に関する反復計算を実施し、hk(x、y)の収束値を求める。この反復計算は、次式で表される。
【0069】
【数28】
【0070】
上記の反復計算によって求まるhk(x、y)の収束値をフーリエ変換して、Bayesの理論に基づくOTFの推定分布Hk(x、y)を得ることができる。この関係は次式で表される。
【0071】
【数29】
【0072】
上記した原理を用いるOTFの推定処理は、以下に示す工程を順次実施していくことで実現される。以下では繰り返し計算によって推定されるPSFの分布をhk(k=0、1、・・・)とする。PSFの推定分布hkは、反復計算の過程で位相に関する特性を正確に評価するために、複素関数として扱う。
まず劣化画像の分布g(x、y)と、原画像の分布f(x、y)を特定する。本発明の方法では、g(x、y)の実部を劣化画像における照度の分布として、g(x、y)の虚部を0とする。またf(x、y)の実部を原画像における照度の分布として、f(x、y)の虚部を0とする。
次に原画像の分布f(x、y)をフーリエ変換して、原画像の分布のスペクトル分布F(s、t)を算出する。
次に、PSFの最初の推定分布h0(x、y)を特定する。
次に以下に示す演算を、hk(x、y)が収束するまで繰り返し実施する。ここでFT()は二次元のフーリエ変換を表し、FT−1()は二次元の逆フーリエ変換を表す。またF#(s、t)は、F(s、t)の反転関数であり、F#(s、t)=F(−s、−t)である。
【0073】
【数30】
【数31】
【数32】
【0074】
hk(x、y)の収束の判定は、例えば反復計算の回数が予め定められた回数に到達したか否かを基準に判別してもよいし、hk(x、y)とhk+1(x、y)の差分の分布を算出して、その差分の絶対値が全ての(x、y)に対してあるしきい値以下となるか否かを基準に判別してもよいし、fkとfk+1の差分を算出して、算出される差分の絶対値を(x、y)に関して積分した値があるしきい値以下となるか否かで判断してもよい。
PSF分布hk(x、y)が収束したら、それをフーリエ変換して、OTFの推定分布Hk(s、t)を算出する。
【0075】
上記したように、劣化画像とOTFとが既知であれば原画像を復元することが可能であり、劣化画像と原画像が既知であればOTFを推定することが可能である。
これらを組み合わせることによって、劣化画像のみに基づいて、OTFを推定し、原画像を復元することが可能となる。
すなわち、原画像とPSFのそれぞれについて、適当な分布を仮定しておき、上記したPSFの推定(すなわち、OTFの推定)と原画像の推定とを交互に繰返し実施していくことによって、原画像を復元する。
OTFに関しては、劣化画像の分布と、原画像の推定分布を用いて、Bayesの理論に基づく計算によって、より改善された推定分布を得ることができる。OTFの推定に用いる原画像の推定分布が、真の原画像の分布に近いほど、真のOTFの分布に近い推定分布を得ることができる。
原画像に関しては、劣化画像の分布と、OTFの推定分布を用いて、Bayesの理論に基づく計算によって、より改善された推定分布を得ることができる。原画像の推定に用いるOTFの推定分布が、真のOTFの分布に近いほど、真の原画像の分布に近い推定分布を得ることができる。
従って、上記したOTFの推定と原画像の推定を交互に繰返し実施していくことによって、原画像の推定分布はより真の原画像の分布に近づいていき、OTFの推定分布はより真のOTFの分布に近づいていき、結果として良好に復元された原画像と良好に推定されたOTFの双方を得ることができる。
【0076】
すなわち、以下の工程を順に実施していくことによって、劣化画像のみから原画像を復元することができる。
まず原画像の最初の推定分布と、PSFの最初の推定分布を設定する。一般に、劣化画像の分布は原画像の分布から大きく異なることはないため、原画像の最初の推定分布としては劣化画像の分布を用いる。PSFの最初の推定分布としては、第2撮像手段によって撮像された点像画像データから取得されるPSF分布を用いる。
次に、数式(30)〜(32)の計算を実施して、より改善されたPSFの推定分布hk(s、t)を取得して、得られたhk(s、t)をフーリエ変換してOTFの推定分布Hk(s、t)を取得する。上記の推定を実施することによって、より真のOTF分布に近いOTFの推定分布を得ることができる。
次に、数式(19)〜(21)の計算を実施して、より改善された原画像の推定分布fk(x、y)を取得する。上記の推定を実施することによって、より真の原画像分布に近い原画像の推定分布を得ることができる。
上記したOTFの推定と原画像の推定を、交互に繰返し実施していくことによって、推定される原画像の分布は真の原画像の分布に近づいていき、推定されるOTFの分布は真のOTFの分布に近づいていく。従って、上記の反復計算を実施することによって、原画像を復元することが可能となる。
【0077】
上記の画像取得装置によれば、第1撮像手段による撮像時のPSFと第2撮像手段による撮像時のPSFが相違する場合であっても、ぶれのない被写体の画像を取得することができる。
【0078】
本発明は天体撮像装置としても具現化することができる。その天体撮像装置は、天体を撮像して天体画像データを出力する第1撮像手段と、電離層に向けてレーザ光を照射するレーザ光照射手段と、レーザ光照射手段から照射されて電離層で反射したレーザ光を撮像して点像画像データを出力する第2撮像手段と、天体画像データと点像画像データに基いて改善された天体画像データを生成する画像処理手段を備えている。その天体撮像装置において、第1撮像手段と第2撮像手段は、互いに同期して撮像するものである。その天体撮像装置において、画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と天体画像データに基いて改善された天体画像データを生成する。
【0079】
上記の天体撮像装置の動作内容を方法の発明として具現化することもできる。本発明の天体撮像方法は、第1撮像手段によって天体を撮像して天体画像データを出力する工程と、レーザ光照射手段によって電離層に向けてレーザ光を照射する工程と、レーザ光照射手段から照射されて電離層で反射したレーザ光を第2撮像手段によって撮像して点像画像データを出力する工程と、画像処理手段によって天体画像データと点像画像データに基いて改善された天体画像データを生成する工程を備えている。その天体撮像方法において、第1撮像手段と第2撮像手段は、互いに同期して撮像するものである。その天体撮像方法において、画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と天体画像データに基いて改善された天体画像データを生成する。
なお本発明は上記の天体撮像方法における各工程をコンピュータに実行させるためのプログラムとしても具現化することができる。
【0080】
第1撮像手段で撮像される天体の画像は、大気のゆれによるシーイングの影響を受けて、ぼやけた画像となってしまう。本発明の天体撮像装置では、第1撮像手段で撮像された天体の画像と、第2撮像手段で撮像されたレーザ光の画像を用いて、シーイングの影響を除去して改善された天体の画像を取得する。第2撮像手段で撮像される画像は、レーザ光照射手段から電離層へ到達するまでの間にシーイングの影響を受け、さらに電離層で反射してから第2撮像手段へ到達するまでの間にシーイングの影響を受けた点光源の画像として扱うことができる。従って、第2撮像手段で撮像された点像画像データに基づいて、天体からの光が電離層を経由して第1撮像手段に到達するまでの間に受けるシーイングの影響を表現するPSF分布を取得することができる。第1撮像手段で撮像された天体画像データとPSF分布を用いて、シーイングの影響を排除した改善された天体画像データを得ることができる。
【0081】
また、本発明者らは、ぶれ画像に特有の性質に着目して、ぶれ画像のみに基づいてぶれのない画像を復元する手法にも想到した。本発明のぶれ画像復元装置は、ぶれ画像の分布を特定する手段と、ぶれ画像の分布についての複素ケプストラムを算出する手段と、ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する手段と、抽出されたパルス列をぶれ画像の分布についての複素ケプストラムから除去して、ぶれのない画像の分布についての複素ケプストラムを推定する手段と、ぶれのない画像の分布についての複素ケプストラムからぶれのない画像の分布を算出する手段を備えている。
【0082】
上記のぶれ画像復元装置の動作内容を方法の発明として具現化することもできる。本発明のぶれ画像復元方法は、ぶれ画像の分布を特定する工程と、ぶれ画像の分布についての複素ケプストラムを算出する工程と、ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する工程と、抽出されたパルス列をぶれ画像の分布についての複素ケプストラムから除去して、ぶれのない画像の分布についての複素ケプストラムを推定する工程と、ぶれのない画像の分布についての複素ケプストラムからぶれのない画像の分布を算出する工程を備えている。
なお本発明は上記のぶれ画像復元方法における各工程をコンピュータに実行させるためのプログラムとしても具現化することができる。
【0083】
複素ケプストラムとは、ある関数について、フーリエ変換してスペクトル分布を取得し、そのスペクトル分布の複素対数関数を計算して、その結果を逆フーリエ変換したものをいう。これはフーリエ変換を続けて2回行ったもので代用することも出来る。以下ではぶれ画像を劣化画像と呼び、ぶれのない画像を原画像と呼ぶ。劣化画像の分布g(x、y)、PSFの分布h(x、y)、原画像の分布f(x、y)には、以下の関係が成り立つ。
【0084】
【数33】
【0085】
上式の両辺をフーリエ変換すると、劣化画像のスペクトル分布G(s、t)、OTFの分布H(s、t)、原画像のスペクトル分布F(s、t)の間で以下の関係が成り立つ。
【0086】
【数34】
【0087】
上式の両辺について複素対数関数を計算すると、次式を得る。
【0088】
【数35】
【0089】
上式の両辺について逆フーリエ変換することで、劣化画像の複素ケプストラムgc(x、y)、PSFの複素ケプストラムhc(x、y)、原画像の複素ケプストラムfc(x、y)について、以下の関係式を得る。
【0090】
【数36】
【0091】
一般のぶれ画像は、多数個のずれた画像が重なり合ったものとして扱うことができる。原画像の分布f(x、y)に対して、全く同じ画像を、強度をn倍として、位置を(α、β)だけずらして重ね合わせた場合、劣化画像の分布g(x、y)は次式で与えられる。
【0092】
【数37】
【0093】
上式の両辺をフーリエ変換すると、劣化画像の分布のスペクトル分布G(s、t)と原画像の分布のスペクトル分布F(x、y)の間に、次の関係が成り立つ。
【0094】
【数38】
【0095】
上式の両辺の複素対数関数を計算すると、次式が得られる。
【0096】
【数39】
【0097】
ここで、nは1に比べて十分に小さいと仮定している。上式の両辺について逆フーリエ変換すると、次式を得る。
【0098】
【数40】
【0099】
上述のように、上式の左辺gc(x、y)は、劣化画像の分布g(x、y)についての複素ケプストラムである。上式の右辺第1項fc(x、y)は、原画像の分布f(x、y)についての複素ケプストラムである。上式の右辺第2項以降は、PSF分布h(x、y)についての複素ケプストラムである。
上式から明らかなように、劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)は、原画像の分布f(x、y)の複素ケプストラムfc(x、y)に、PSF分布h(x、y)の複素ケプストラムを重ね合わせたものとなっている。画像の劣化がぶれによるものの場合には、PSF分布h(x、y)の複素ケプストラムは、ずれた画像の強度nと、ずれ量(α、β)で定まるデルタ関数の系列(すなわちパルス列)によって表現される。従って、劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)からこのパルス列を抽出して取り除くことができれば、原画像の分布f(x、y)の複素ケプストラムfc(x、y)を推定することができる。
【0100】
劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)からパルス列を抽出するには、例えば劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)の振幅値がしきい値を超える個所をパルス列として識別する。パルス列が抽出されると、例えばノッチフィルタを用いることで、劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)からパルス列を除去して、原画像の分布f(x、y)の複素ケプストラムfc(x、y)を推定することができる。
【0101】
推定された原画像の分布f(x、y)の複素ケプストラムfc(x、y)に関して、フーリエ変換を実施し、その結果の複素指数関数を計算することで、原画像のスペクトル分布F(s、t)が得られる。その後に原画像のスペクトル分布F(s、t)を逆フーリエ変換することで、原画像の分布f(x、y)を復元することができる。
【0102】
なお上記では説明を簡単にするために2つの画像が重なり合ったぶれ画像の場合を例として説明したが、多数個の画像が重なり合っている一般的なぶれ画像の場合にも、同様の手法によって原画像の分布f(x、y)を復元することができる。
【0103】
本発明の他の一つのぶれ画像復元装置は、ぶれ画像の分布を特定する手段と、ぶれ画像の分布についての複素ケプストラムを算出する手段と、ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する手段と、抽出されたパルス列に基づいて点像分布関数を取得する手段と、ぶれ画像の分布と点像分布関数に基づいてぶれのない画像の分布を推定する手段を備えている。
【0104】
上記のぶれ画像復元装置の動作内容を方法の発明として具現化することもできる。本発明の他の一つのぶれ画像復元方法は、ぶれ画像の分布を特定する工程と、ぶれ画像の分布についての複素ケプストラムを算出する工程と、ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する工程と、抽出されたパルス列に基づいて点像分布関数を取得する工程と、ぶれ画像の分布と点像分布関数に基づいてぶれのない画像の分布を推定する工程を備えている。
なお本発明は上記のぶれ画像復元方法における各工程をコンピュータに実行させるためのプログラムとしても具現化することができる。
【0105】
ここでもう一度、原画像の分布f(x、y)が撮像時のぶれによって劣化画像の分布g(x、y)となっている場合を考える。原画像の分布f(x、y)に対して、全く同じ画像を強度をn倍として、位置を(α、β)だけずらして重ね合わせた場合、劣化画像の分布g(x、y)は次式で与えられる。
【0106】
【数41】
【0107】
すなわち、この場合のPSF分布h(x、y)は、次式で与えられる。
【0108】
【数42】
【0109】
数式(40)と数式(42)を対比すると、数式(42)のPSFの分布h(x、y)の右辺第2項は、数式(40)の劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)に現れるパルス列のうち最大のもの(数式(40)の右辺第2項)と同様に、位置が(α、β)であって、大きさがnのデルタ関数となっていることが分かる。従って、劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)から抽出されたパルス列のうち最大のものに、強度が1で原点に位置するデルタ関数を重ね合わせることで、ぶれの影響を示すPSFの分布h(x、y)を直接的に取得することができる。
【0110】
あるいは、nが1より十分に小さければ、劣化画像の分布g(x、y)の複素ケプストラムgc(x、y)に現れるパルス列に、強度が1で原点に位置するデルタ関数を単に重ね合わせることで、PSFの分布h(x、y)の近似解を取得することができる。
【0111】
ぶれの影響を表現するPSFの分布h(x、y)が取得されれば、劣化画像の分布g(x、y)とPSFの分布h(x、y)に基づいて、原画像の分布f(x、y)を推定することができる。ぶれ画像のみに基づいて、ぶれのない画像を取得することができる。
【0112】
なお上記では説明を簡単にするために2つの画像が重なり合ったぶれ画像の場合を例として説明したが、多数個の画像が重なり合っている一般的なぶれ画像の場合にも、同様の手法によって原画像の分布f(x、y)を復元することができる。
【発明の効果】
【0113】
本発明の装置、方法およびプログラムによれば、撮像時のぶれやぼけの影響を表現する点像分布関数を適切に取得して、劣化した画像から劣化のない画像を復元することができる。
【図面の簡単な説明】
【0114】
【図1】図1は実施例1の撮像装置100の構成を示す図である。
【図2】図2は実施例1の撮像装置100の動作を説明するフローチャートである。
【図3】図3は実施例1の撮像装置100によってぶれのない被写体画像を取得する様子を示している。
【図4】図4は実施例1の変形例1の撮像装置150における画像復元処理を説明するフローチャートである。
【図5】図5は実施例1の変形例2の撮像装置160における画像復元処理を説明するフローチャートである。
【図6】図6は実施例1の変形例2の撮像装置160におけるPSF分布の推定処理を説明するフローチャートである。
【図7】図7は実施例1の変形例2の撮像装置160における原画像分布の推定処理を説明するフローチャートである。
【図8】図8は実施例2の天体撮像装置800の構成を示す図である。
【図9】図9は実施例2の天体撮像装置800によってシーイングの影響を排除した天体画像を取得する様子を示す図である。
【図10】図10は実施例2の天体撮像装置800の動作を説明するフローチャートである。
【図11】図11は実施例3の画像復元装置1100の構成を示す図である。
【図12】図12は実施例3の画像復元装置1100の処理を説明するフローチャートである。
【図13】図13は実施例3の画像復元装置1100で計算されるぶれ画像の複素ケプストラム分布の概形を示す図である。
【図14】図14は実施例3の画像復元装置1100の機能ブロック図である。
【図15】図15は実施例4の画像復元装置1150の動作を説明するフローチャートである。
【図16】図16は実施例4の画像復元装置1150の機能ブロック図である。
【発明を実施するための形態】
【0115】
以下、本発明を具現化した実施例について図面を参照して説明する。
【0116】
(実施例1)
図面を参照しながら、本実施例の撮像装置100について説明する。
図1は本実施例の撮像装置100の構成を示す概略図である。本実施例の撮像装置100は、撮像台110に載置された被写体Wを撮像する第1イメージセンサ104と、撮像台110に固定されたレーザ光源108と、レーザ光源108を撮像する第2イメージセンサ102と、制御装置112を備えている。本実施例では被写体Wは表面に半導体回路が形成されたフォトマスクであって、撮像装置100は被写体Wの表面に形成された回路の形状を撮像する。
【0117】
第1イメージセンサ104と第2イメージセンサ102は、撮像台110の上面に対して平行な撮像面を備えている。第1イメージセンサ104と第2イメージセンサ102は、それぞれ撮像面に複数の撮像素子を備えており、撮像面に形成される像を撮像素子を介して認識し、RGBの各色成分の照度の分布を示す電気信号に変換して画像処理装置112へ送信する。第1イメージセンサ104と第2イメージセンサ102は、両者が一体的に移動するように、センサ支持台106に搭載されている。第1イメージセンサ104と第2イメージセンサ102は、レンズ収差等の特性が同一である。また、第1イメージセンサ104と第2イメージセンサ102は、それぞれのシャッタが同期して開閉するように制御装置112によって制御される。従って、撮像台110とセンサ支持台106の間のわずかな振動によって撮像時に第1イメージセンサ104で撮像される被写体Wの画像がぶれてしまう場合には、第2イメージセンサ102で撮像されるレーザ光源108の画像も同じようにぶれることになる。
【0118】
第2イメージセンサ102で撮像されるレーザ光源108の画像は、撮像台110に固定された点光源を撮像した画像ということができる。従って、第2イメージセンサ102で撮像される画像は、第2イメージセンサ102で撮像する際の点像分布関数(PSF:Point Spread Function)の分布として扱うことができる。第2イメージセンサ102と第1イメージセンサ104は同一の特性を有しており、それぞれのシャッタが同期して開閉するように撮像するので、第2イメージセンサ102で撮像する際のPSFの分布は、第1イメージセンサ104で撮像する際のPSFの分布として扱うことができる。レーザ光源108の発光は制御装置112によって制御される。
【0119】
制御装置112は、第1イメージセンサ104から送信されるデータと、第2イメージセンサ102から送信されるデータに基づいて、被写体Wのぶれのない画像を生成する。
【0120】
以下では図2のフローチャートを参照しながら、撮像装置100によって被写体Wのぶれのない画像を取得する方法について説明する。以下の説明では、撮像時にぶれてしまった被写体Wの画像を劣化画像と呼び、ぶれのない被写体Wの画像を原画像と呼ぶ。
【0121】
ステップS202では、被写体Wを撮像台110に載置し、位置を固定する。
【0122】
ステップS204では、点光源であるレーザ光源108の発光を開始する。
【0123】
ステップS206では、第1イメージセンサ104と第2イメージセンサ102を同期させて撮像する。第1イメージセンサ104では、被写体Wを撮像したデータが取得される。第2イメージセンサ102では点光源であるレーザ光源108を撮像したデータが取得される。第1イメージセンサ104で撮像されたデータは、被写体画像データとして制御装置112に記録される。第2イメージセンサ102で撮像されたデータは、点像画像データとして制御装置112に記録される。
【0124】
被写体画像データと点像画像データは、いずれもRGBそれぞれの色成分の照度の分布を表現している。本実施例では、RGBそれぞれの色成分に関して、ステップS208とステップS210の処理を実施して、それぞれの色成分に関して復元された照度の分布を組み合わせることで、原画像を生成する。
【0125】
ステップS208では、点像画像データから、PSFの分布h(x、y)を取得する。本実施例では、点像画像データの照度の分布を正規化して、PSFの分布h(x、y)とする。
【0126】
ステップS210では、被写体画像データにおける照度の分布を劣化画像の分布g(x、y)とし、劣化画像の分布g(x、y)と、ステップS208で取得されたPSFの分布h(x、y)を用いて、画像復元処理を行う。
【0127】
本実施例では、ステップS210において、以下のようにして画像復元処理を行う。
まず劣化画像の分布g(x、y)をフーリエ変換して、劣化画像のスペクトル分布G(s、t)を取得する。
【0128】
そして、ステップS208で取得されたPSFの分布h(x、y)をフーリエ変換して、光学的伝達関数(OTF:Optical Transfer Function)の分布H(s、t)を取得する。
【0129】
その後に、劣化画像のスペクトル分布G(s、t)をOTFの分布H(s、t)で除して、原画像のスペクトル分布F(s、t)を得る。
【0130】
最後に、原画像のスペクトル分布F(s、t)を逆フーリエ変換することで、原画像の分布f(x、y)が得られる。
【0131】
上述のように原画像の分布f(x、y)をRGBの色成分それぞれについて取得し、それぞれの色成分の照度の分布を組み合わせることで、劣化画像から原画像を復元することができる。すなわち、撮像時にぶれてしまった被写体Wの画像から、ぶれのない被写体Wの画像を得ることができる。ぶれのない被写体Wの画像は、例えばディスプレイに表示してもよいし、画像データとしてハードディスクなどの記憶装置に記憶してもよいし、通信回線を経由して他のコンピュータに送信してもよい。
【0132】
図3は本実施例の撮像装置100によって被写体Wのぶれのない画像を取得する様子を示している。本実施例の撮像装置100によれば、第1イメージセンサ104で撮像された被写体画像302と、第2イメージセンサ102で撮像された点像画像304を用いて、ぶれのない被写体画像306を取得することができる。撮像台110とセンサ支持台106の間でわずかな振動があっても、ぶれのない被写体画像306を取得することができる。撮像台110やセンサ支持台106に防振機構を設けることなく、被写体Wのぶれのない画像を得ることが可能となる。
【0133】
(実施例1の変形例1)
本実施例の撮像装置150は、図1に示す実施例1の撮像装置100と同様のハードウェア構成を備えているが、制御装置112が図2のステップS210において行う画像復元処理のみが異なっている。以下では実施例1との相違点のみについて詳細に説明する。
【0134】
図4は本実施例の撮像装置150において図2のステップS210で行う画像復元処理の詳細を示すフローチャートである。
【0135】
ステップS402では、劣化画像の分布g(x、y)を特定する。本実施例の劣化画像の分布g(x、y)は、光の照度の分布を位相特性も含めて記述する複素関数である。本実施例では、g(x、y)の実部を被写体画像データにおける照度の分布と一致させ、g(x、y)の虚部を全て0とする。
【0136】
次にステップS404では、PSFの分布h(x、y)をフーリエ変換して、光学的伝達関数(OTF:Optical Transfer Function)の分布H(s、t)を特定する。
【0137】
ステップS406では、ステップS404で特定された劣化画像の分布g(x、y)を原画像の最初の推定分布f0(x、y)に設定する。また反復計算の繰り返し数kを0に設定する。
【0138】
ステップS408では、原画像の推定分布fk(x、y)をフーリエ変換して、その結果を関数K1(s、t)に設定する。関数K1(s、t)は、第1の関数に相当する。kは非負の整数であり、反復計算の回数に応じて後のステップS426で増加していく。
【0139】
ステップS410では、ステップS408で設定した第1の関数K1(s、t)に、ステップS404で特定したH(s、t)を乗じて、関数K2(s、t)を算出する。関数K2(s、t)は、第2の関数に相当する。
【0140】
ステップS412では、ステップS410で算出した第2の関数K2(s、t)を逆フーリエ変換して、その結果を関数L3(x、y)に設定する。関数L3(x、y)は、複素関数であって、第3の関数に相当する。
【0141】
ステップS414では、ステップS402で特定した劣化画像分布g(x、y)を、ステップS412で設定した第3の関数L3(x、y)で除して、関数L4(x、y)を算出する。関数L4(x、y)は、複素関数であって、第4の関数に相当する。
【0142】
ステップS416では、ステップS414で算出した第4の関数L4(x、y)をフーリエ変換して、その結果を関数K5(s、t)に設定する。関数K5(s、t)は、第5の関数に相当する。
【0143】
ステップS418では、ステップS416で設定した第5の関数K5(s、t)に、H#(s、t)を乗じて、関数K6(s、t)を算出する。H#(s、t)は、ステップS404で特定したH(s、t)の反転関数であって、H#(s、t)=H(−s、−t)の関係を満たす。関数K6(s、t)は、第6の関数に相当する。
【0144】
ステップS420では、ステップS418で設定した第6の関数K6(s、t)を逆フーリエ変換して、その結果を関数L7(x、y)に設定する。関数L7(x、y)は、複素関数であって、第7の関数に相当する。
【0145】
ステップS422では、原画像の推定分布fk(x、y)に、ステップS420で設定した第7の関数L7(x、y)を乗じて、原画像の改善された推定分布fk+1(x、y)を算出する。前記第7の関数は一般に虚部を備える複素関数となるから、上記の方法によって原画像の推定分布を位相特性も含めて改善することができる。
【0146】
ステップS424では、ステップS422で算出された原画像の改善された推定分布fk+1(x、y)と、原画像の推定分布fk(x、y)の差分を算出し、その絶対値が全ての(x、y)に対してしきい値εを下回るか否かを判断する。前記差分の絶対値がある(x、y)に対してしきい値ε以上の場合(ステップS424でNOの場合)、原画像の改善された推定分布fk+1(x、y)はまだ収束に達していないと判断し、処理はステップS426へ進む。前記差分の絶対値が全ての(x、y)に対してしきい値εを下回る場合(ステップS424でYESの場合)、原画像の改善された推定分布fk+1(x、y)は収束に達したものと判断して、処理はステップS428へ進む。
【0147】
ステップS426では、反復計算の繰り返し数kを1増加させる。処理はステップS408へ戻り、ステップS408からステップS424までの処理を再度実施する。
【0148】
ステップS428では、反復計算の結果得られた原画像の推定分布fk+1(x、y)を原画像の分布f(x、y)として出力する。
【0149】
以上の原画像の復元処理をRGBの色成分それぞれについて行うことで、被写体Wのぶれのない画像を取得することができる。取得されたぶれのない画像は、例えばディスプレイに表示してもよいし、画像データとしてハードディスクなどの記憶装置に記憶してもよいし、通信回線を経由して他のコンピュータに送信してもよい。
【0150】
本実施例の撮像装置150によれば、劣化画像の分布g(x、y)とPSFの分布h(x、y)を用いて、Bayesの理論に基づき、劣化画像の分布g(x、y)を実現する原画像の分布f(x、y)のうちで最大に尤もらしい分布を、反復計算によって推定することができる。この撮像装置150は、OTFの分布H(s、t)がある周波数領域で0となる場合、すなわち実施例1の撮像装置100による画像復元ができない場合であっても、原画像を復元することができる。
【0151】
(実施例1の変形例2)
本実施例の撮像装置160は、図1に示す実施例1の撮像装置100や実施例1の変形例1の撮像装置150と同様のハードウェア構成を備えているが、制御装置112が図2のステップS210において行う画像復元処理の手法のみが異なっている。以下では実施例1および実施例1の変形例1との相違点のみについて詳細に説明する。
【0152】
図5は本実施例の撮像装置160において図2のステップS210で行う画像復元処理の詳細を示すフローチャートである。
【0153】
ステップS502では、劣化画像の分布g(x、y)を特定する。本実施例の劣化画像の分布g(x、y)は、光の照度の分布を位相特性も含めて記述する複素関数である。本実施例では、g(x、y)の実部を被写体画像データにおける照度の分布と一致させ、g(x、y)の虚部を全て0とする。
【0154】
ステップS504では、原画像の最初の推定分布f0(x、y)を設定する。本実施例のでは、原画像の最初の推定分布f0(x、y)として、劣化画像の分布g(x、y)を用いる。一般的に、原画像の分布と劣化画像の分布は大きく異ならないと考えられるため、上記のように原画像の最初の推定分布f0(x、y)を設定することによって、原画像の復元に伴う反復計算の回数を低減することができる。
またステップS504では、PSFの最初の推定分布h0(x、y)を設定する。本実施例では、PSFの最初の推定分布h0(x、y)として、図2のステップS208で取得されているPSFの分布h(x、y)を用いる。第2イメージセンサ102で撮像する際のPSFの分布は、第1イメージセンサ104で撮像する際のPSFの分布と大きく異ならないと考えられるため、上記のようにPSFの最初の推定分布h0(x、y)を設定することによって、原画像の復元に伴う反復計算の回数を低減することができる。
さらにステップS504では、反復計算の繰返し数kを0に設定する。
【0155】
ステップS506では、反復計算の繰返し数kを1増加させる。
【0156】
ステップS508では、PSFの推定分布hk(x、y)を算出して、PSFの推定分布を更新する。この計算については後述する。
【0157】
ステップS510では、PSFの推定分布hk(x、y)をフーリエ変換して、OTFの推定分布Hk(s、t)を算出する。
【0158】
ステップS512では、原画像の推定分布fk(x、y)を算出して、原画像の推定分布を更新する。この計算については後述する。
【0159】
ステップS514では、ステップS512で更新された原画像の推定分布fk(x、y)と、更新される前の原画像の推定分布fk−1との差分を算出し、その差分がすべての(x、y)に対してあるしきい値εを下回るか否かを判断する。前記差分がある(x、y)に対してしきい値ε以上の場合(ステップS514でNOの場合)、原画像の推定分布fk(x、y)は未だ収束に達していないと判断して、処理はステップS506へ戻り、ステップS506からステップS514までの処理を再度繰返す。前記差分がすべての(x、y)に対してしきい値εを下回る場合(ステップS514でYESの場合)、原画像の推定分布fk(x、y)は収束に達したと判断して、処理はステップS516へ進む。
【0160】
ステップS516では、反復計算の結果得られた原画像の推定分布fk(x、y)を、復元された原画像の分布f(x、y)に設定する。本実施例の方法では、反復計算の過程で画像を記述する分布を複素関数として扱っているため、上記で設定される原画像の分布f(x、y)は一般に複素関数となる。本実施例では、復元された原画像の分布f(x、y)の実部が、原画像における照度の分布を表す。
【0161】
以下では図5のステップS508のhk(x、y)の推定について詳細に説明する。本実施例では、hk(x、y)の推定として、図6のフローチャートに示すステップS602〜S626の工程を実施する。
【0162】
ステップS602では、hk(x、y)の最初の推定分布hk0(x、y)を設定する。本実施例の方法では、すでに取得されているhk−1(x、y)を、hk(x、y)の最初の推定hk0(x、y)とする。また、ステップS602では、hk(x、y)の推定に係る反復計算の繰返し数mを0に設定する。
【0163】
ステップS604では、原画像の推定スペクトル分布F(s、t)を設定する。本実施例では、すでに取得されている原画像の推定分布fk−1(x、y)をフーリエ変換して、その結果をF(s、t)とする。
【0164】
ステップS606では、hk(x、y)の推定分布hkm(x、y)をフーリエ変換して、その結果を関数K1(s、t)に設定する。関数K1(s、t)は、第1の関数に相当する。
【0165】
ステップS608では、ステップS606で算出された関数K1(s、t)に、ステップS604で算出された原画像の推定スペクトル分布F(s、t)を乗じて、関数K2(s、t)を算出する。関数K2(s、t)は、第2の関数に相当する。
【0166】
ステップS610では、ステップS608で算出された関数K2(s、t)を逆フーリエ変換して、その結果を関数L3(x、y)に設定する。関数L3(x、y)は、第3の関数に相当する。
【0167】
ステップS612では、図5のステップS504で特定された劣化画像分布g(x、y)を、図6のステップS610で算出された関数L3(x、y)で除して、関数L4(x、y)を算出する。関数L4(x、y)は、第4の関数に相当する。
【0168】
ステップS614では、ステップS612で算出された関数L4(x、y)をフーリエ変換して、その結果を関数K5(s、t)に設定する。関数K5(s、t)は、第5の関数に相当する。
【0169】
ステップS616では、ステップS614で算出された関数K5(s、t)に、F#(s、t)を乗じて、関数K6(s、t)を算出する。関数K6(s、t)は、第6の関数に相当する。F#(s、t)は、ステップS604で算出された原画像の推定スペクトル分布F(s、t)の反転関数であり、F#(s、t)=F(−s、−t)の関係を満たす。
【0170】
ステップS618では、ステップS616で算出された関数K6(s、t)を逆フーリエ変換して、その結果を関数L7(x、y)に設定する。関数L7(x、y)は、第7の関数に相当する。
【0171】
ステップS620では、hk(x、y)の推定分布hkm(x、y)に、ステップS618で設定された関数L7(x、y)を乗じて、その結果をhk(x、y)の改善された推定分布hkm+1(x、y)に設定する。
【0172】
ステップS622では、hk(x、y)の推定のための反復計算の繰返し数mを1増加させる。
【0173】
ステップS624では、hk(x、y)の推定のための反復計算の繰返し数mが、しきい値以上になったか否かを判断する。本実施例では、hk(x、y)の推定のために実施する反復計算の回数を5回としている。繰り返し数mが5未満の場合(ステップS624でNOの場合)、処理はステップS606へ進み、ステップS606からステップS622までの処理を再度実施する。繰り返し数mが5以上の場合(ステップS624でYESの場合)、処理はステップS626へ進む。
【0174】
ステップS626では、上記の反復計算の結果得られる分布hk5(x、y)を、hk(x、y)の推定分布として設定する。
上記の反復計算は、劣化画像分布g(x、y)と、原画像分布fk−1(x、y)から、PSFの分布hk(x、y)を推定することに相当する。原画像分布fk−1(x、y)が、真の原画像分布f(x、y)に近いほど、上記の反復計算によって推定されるhk(x、y)は、真のPSFの分布h(x、y)に近づく。
【0175】
以下では図5のステップS514のfk(x、y)の推定について詳細に説明する。本実施例の方法では、fk(x、y)の推定として、図7のフローチャートに示すステップS702〜S724の工程を実施する。
【0176】
ステップS702では、fk(x、y)の最初の推定分布fk0(x、y)を設定する。本実施例の方法では、既に取得されているfk−1(x、y)を、fk(x、y)の最初の推定分布fk0(x、y)として設定する。また、ステップS702では、fk(x、y)の推定のための反復計算の繰返し数nを0に設定する。
【0177】
ステップS704では、fk(x、y)の推定分布fkn(x、y)をフーリエ変換して、その結果を関数K1(s、t)に設定する。関数K1(s、t)は、第1の関数に相当する。
【0178】
ステップS706では、ステップS704で算出された関数K1(s、t)に、図5のステップS510で算出されたOTFの推定分布Hk(s、t)を乗じて、関数K2(s、t)を算出する。関数K2(s、t)は、第2の関数に相当する。
【0179】
ステップS708では、ステップS706で算出された関数K2(s、t)を逆フーリエ変換して、その結果を関数L3(x、y)に設定する。関数L3(x、y)は、第3の関数に相当する。
【0180】
ステップS710では、図5のステップS504で特定された劣化画像分布g(x、y)を、図7のステップS708で算出された関数L3(x、y)で除して、関数L4(x、y)を算出する。関数L4(x、y)は、第4の関数に相当する。
【0181】
ステップS712では、ステップS710で算出された関数L4(x、y)をフーリエ変換して、その結果を関数K5(s、t)に設定する。関数K5(s、t)は、第5の関数に相当する。
【0182】
ステップS714では、ステップS712で算出された関数K5(s、t)に、Hk#(s、t)を乗じて、関数K6(s、t)を算出する。Hk#(s、t)は、図5のステップS512で算出されたOTFの推定分布Hk(s、t)の反転関数であり、Hk#(s、t)=Hk(−s、−t)の関係を満たす。
【0183】
ステップS716では、ステップS714で算出された関数K6(s、t)を逆フーリエ変換して、その結果を関数L7(x、y)に設定する。関数L7(x、y)は、第7の関数に相当する。
【0184】
ステップS718では、fk(x、y)の推定分布fkn(x、y)に、ステップS716で算出された関数L7(x、y)を乗じて、fk(x、y)の改善された推定分布fkn+1(x、y)を算出する。
【0185】
ステップS720では、fk(x、y)の推定のための反復計算の繰返し数nを1増加する。
【0186】
ステップS722では、fk(x、y)の推定のための反復計算の繰返し数nが、しきい値以上になったか否かを判断する。本実施例では、fk(x、y)の推定のために実施する反復計算の回数を5回としている。繰り返し数nが5未満の場合(ステップS722でNOの場合)、処理はステップS704へ進み、ステップS704からステップS720までの処理を再度実施する。繰り返し数nが5以上の場合(ステップS722でYESの場合)、処理はステップS724へ進む。
【0187】
ステップS724では、上記の反復計算の結果得られる分布fk5(x、y)を、fk(x、y)の推定分布として設定する。
上記の反復計算は、劣化画像分布g(x、y)と、OTF分布Hk(s、t)とに基づいて、原画像分布fk(x、y)を推定することに相当する。OTF分布Hk(s、t)が、真のOTF分布H(s、t)に近いほど、上記の反復計算によって推定されるfk(x、y)は、真の原画像の分布f(x、y)に近づく。
【0188】
上記の実施例では、反復計算の過程において、先にOTFの推定分布を更新して、次に原画像の推定分布を更新する例を説明した。OTFの推定分布の更新と、原画像の推定分布の更新は、交互に繰返し実施すればよいため、先に原画像の推定分布を更新して、次にOTFの推定分布を更新してもよい。
【0189】
以上の原画像の復元処理をRGBの色成分それぞれについて行うことで、被写体Wのぶれのない画像を取得することができる。取得されたぶれのない画像は、例えばディスプレイに表示してもよいし、画像データとしてハードディスクなどの記憶装置に記憶してもよいし、通信回線を経由して他のコンピュータに送信してもよい。
【0190】
本実施例の撮像装置160によれば、劣化画像の分布g(x、y)とPSFの分布h(x、y)を用いて、Bayesの理論に基づき、劣化画像の分布g(x、y)を実現する原画像の分布f(x、y)のうちで最大に尤もらしい分布を、反復計算によって推定することができる。この撮像装置160は、OTFの分布H(s、t)がある周波数領域で0となる場合、すなわち実施例1の撮像装置100による画像復元ができない場合であっても、原画像を復元することができる。
【0191】
本実施例の撮像装置160によれば、第2イメージセンサ102で撮像された点像画像データに基いて取得されたPSFの分布h(x、y)が、第1イメージセンサ104で被写体Wを撮像する際の真のPSFの分布と相違する場合であっても、劣化画像の分布g(x、y)を実現するPSFの分布h(x、y)のうちで最大に尤もらしい分布を、反復計算によって推定することができる。実施例1の変形例1の撮像装置150にくらべ、より正確に原画像を復元することができる。
【0192】
(実施例2)
図面を参照しながら、本実施例の天体撮像装置800について説明する。
図8は本実施例の天体撮像装置800の構成を示す概略図である。本実施例の天体撮像装置800は、天体を撮像する第1カメラ802と、電離層に向けてレーザ光を照射するレーザ照射器806と、レーザ照射器806から照射されて電離層で反射したレーザ光を撮像する第2カメラ804と、制御装置808を備えている。
【0193】
第1カメラ802と第2カメラ804とレーザ照射器806は、同一の地域内で、地上に載置されている。
【0194】
第1カメラ802と第2カメラ804は、それぞれ撮像面に複数の撮像素子を備えており、撮像面に形成される像を撮像素子を介して認識し、RGBの各色成分の照度の分布を示す電気信号に変換して制御装置808へ送信する。第1カメラ802と第2カメラ804は、レンズ収差等の特性が同一である。また、第1カメラ802と第2カメラ804は、それぞれのシャッタが同期して開閉するように制御装置808によって制御される。
【0195】
レーザ照射器806は、制御装置808によって制御されており、電離層に向けてレーザ光を照射する。レーザ照射器806で照射されたレーザ光は、電離層で反射して、第2カメラ804で受光される。
【0196】
第1カメラ802が撮像する天体の画像は、大気のゆれによるシーイングの影響を受けて、ぼやけた画像となってしまう。本実施例の天体撮像装置800では、第1カメラ802で撮像された天体の画像と、第2カメラ804で撮像されたレーザ光の画像を用いて、シーイングの影響を除去した天体の画像を取得する。第2カメラ804で撮像される画像は、レーザ照射器806から電離層へ到達するまでの間にシーイングの影響を受け、さらに電離層で反射してから第2カメラ804へ到達するまでの間にシーイングの影響を受けた点光源の画像として扱うことができる。従って、第2カメラ804で撮像される画像に基づいて、第2カメラ804で天体を撮像する際のPSFの分布を取得することができる。第2カメラ804と第1カメラ802は同一の特性を有しており、それぞれのシャッタが同期して開閉するように撮像するので、第2カメラ804で撮像する際のPSFの分布は、第1カメラ802で撮像する際のPSFの分布として扱うことができる。
【0197】
図9は本実施例の天体撮像装置800を用いて惑星を撮像した様子を示している。図9に示すように、本実施例の天体撮像装置800によれば、大気のゆれによるシーイングの影響によってぼやけてしまっている天体画像902から、シーイングの影響を排除した鮮明な天体画像904を取得することができる。
【0198】
図10のフローチャートを参照しながら、天体撮像装置800の動作について説明する。
【0199】
ステップS1002では、レーザ照射器806によるレーザ光の照射を開始する。レーザ照射器806によって照射されたレーザ光は、電離層で反射して、第2カメラ804まで到達する。
【0200】
ステップS1004では、第1カメラ802と第2カメラ804を同期させて撮像する。第1カメラ802では、天体を撮像したデータが取得される。第2カメラ804では、レーザ照射器806から照射されて電離層によって反射されたレーザ光を撮像したデータが取得される。第1カメラで撮像されたデータは天体画像データとして制御装置808に記録される。第2カメラ804で撮像されたデータは点像画像データとして制御装置808に記録される。
【0201】
天体画像データと点像画像データは、いずれもRGBそれぞれの色成分の照度の分布を表現している。本実施例では、RGBそれぞれの色成分に関して、ステップS1006とステップS1008の処理を実施する。
【0202】
ステップS1006では、点像画像データから、PSFの分布h(x、y)を取得する。本実施例の場合、第2カメラ804で撮像される画像は、地上と電離層の間を往復する間にシーイングの影響を受けたレーザ光の画像である。従って、天体を撮像する際のPSFの分布としては、点像画像データから得られるPSFの分布を用いる。
【0203】
ステップS1008では、天体画像データにおける照度の分布と、ステップS1006で取得されたPSFの分布h(x、y)を用いて、画像復元処理を行う。ステップS1006で、すでに天体を撮像する際のPSFの分布が取得されているので、実施例1や、実施例1の変形例1や、実施例1の変形例2で詳述した画像復元処理を施すことによって、シーイングの影響を排除した天体画像を得ることができる。
【0204】
本実施例の天体撮像装置800によれば、大気のゆれによるシーイングの影響を排除した鮮明な天体画像を取得することができる。
【0205】
(実施例3)
図11、図12および図13を参照しながら、実施例3の画像復元装置1100について説明する。本実施例の画像復元装置1100は、撮像時にぶれてしまった画像のみに基づいて、ぶれの影響を表現するPSFの分布を推定して、ぶれのない理想的な画像を復元する。以下では、撮像時にぶれてしまった画像を劣化画像と呼び、ぶれのない理想的な画像を原画像と呼ぶ。
【0206】
図11は画像復元装置1100のハードウェア構成を示している。画像復元装置1100は、後述する処理を実施するプログラムがインストールされた汎用のコンピュータである。画像復元装置1100は、制御部1102と、入力部1104と、出力部1106と、演算部1108と、記憶部1110を備えている。記憶部1110は、プログラム記憶部1112と、データ記憶部1114を備えている。
画像復元装置1100では、入力部1104を介して劣化画像のデータが入力されて、データ記憶部1114に記憶される。その後、制御部1102はプログラム記憶部1112に記憶されたプログラムに従って演算部1108で処理を行い、原画像を復元して原画像のデータをデータ記憶部1114に記憶する。データ記憶部1114に記憶された原画像のデータは、出力部1106を介して出力される。
なお画像復元装置1100は、上記のような汎用のコンピュータの代わりに、同様の処理を実施可能な専用ロジックやIC、FPGAなどであってもよい。
【0207】
図12のフローチャートを参照しながら、本実施例の画像復元装置1100が行う処理の詳細を説明する。なお本実施例の画像復元装置1100では、データ記憶部1114に記憶された劣化画像データから、RGBそれぞれの色成分の照度の分布gr(x、y)、gg(x、y)、gb(x、y)を特定しておいて、RGBそれぞれの色成分について図12の処理を実行する。
【0208】
ステップS1202では、劣化画像の分布g(x、y)を特定する。劣化画像の分布g(x、y)は、光の照度の分布を位相特性も含めて記述する複素関数である。本実施例では、g(x、y)の実部を劣化画像データにおける照度の分布と一致させ、g(x、y)の虚部を全て0とする。
【0209】
ステップS1204では、劣化画像の分布g(x、y)をフーリエ変換して、劣化画像のスペクトル分布G(s、t)を算出する。
【0210】
ステップS1206では、劣化画像のスペクトル分布G(s、t)の複素対数関数であるln(G(s、t))を計算して、関数Gc(s、t)に設定する。
【0211】
ステップS1208では、関数Gc(s、t)を逆フーリエ変換して、劣化画像の複素ケプストラムgc(x、y)を算出する。
【0212】
図13は図12のステップS1208で算出される劣化画像の複素ケプストラムgc(x、y)の概略形状を示している。図13に示すように、劣化画像の複素ケプストラムgc(x、y)は、原画像の複素ケプストラムfc(x、y)に、ぶれの影響を表現するPSFの複素ケプストラムであるパルス列が重ね合わさった形状となっている。
【0213】
ステップS1210では、劣化画像の複素ケプストラムgc(x、y)からパルス列を抽出する。本実施例では、劣化画像の複素ケプストラムgc(x、y)の振幅値が所定のしきい値を超える個所をパルスとして識別する。
【0214】
ステップS1212では、劣化画像の複素ケプストラムgc(x、y)から抽出されたパルス列を劣化画像の複素ケプストラムgc(x、y)から減じて、原画像の推定複素ケプストラムfc(x、y)を算出する。
【0215】
ステップS1214では、原画像の推定複素ケプストラムfc(x、y)をフーリエ変換して、関数Fc(s、t)を算出する。
【0216】
ステップS1216では、関数Fc(s、t)の複素指数関数であるexp(Fc(s、t))を計算して、原画像の推定スペクトル分布F(s、t)を算出する。
【0217】
ステップS1218では、原画像の推定スペクトル分布F(s、t)を逆フーリエ変換して、原画像の推定分布f(x、y)を算出し、原画像の推定分布f(x、y)を原画像の分布として出力する。
【0218】
以上の処理をRGBの色成分それぞれについて行うことで、ぶれのない画像を取得することができる。ぶれのない理想的な画像は、例えばディスプレイに表示してもよいし、画像データとしてハードディスクなどの記憶装置に記憶してもよいし、通信回線を経由して他のコンピュータに送信してもよい。
【0219】
なお図14に本実施例のぶれ画像復元装置1100が実現する機能のブロック図1400を示している。データ入力ブロック1402から入力された劣化画像の分布g(x、y)について、フーリエ変換ブロック1404の処理によって劣化画像のスペクトル分布G(s、t)が計算される。複素対数ブロック1406の処理によって関数Gc(s、t)が計算される。逆フーリエ変換ブロック1408の処理によって劣化画像の複素ケプストラムgc(x、y)が計算される。パルス抽出ブロック1410の処理によって劣化画像の複素ケプストラムgc(x、y)からパルス列が抽出される。減算ブロック1412によって劣化画像の複素ケプストラムgc(x、y)からパルス列が除去されて、原画像の推定複素ケプストラムfc(x、y)が計算される。フーリエ変換ブロック1414の処理によって関数Fc(s、t)が計算される。複素指数ブロック1416の処理によって原画像の推定スペクトル分布F(s、t)が計算される。逆フーリエ変換ブロック1418の処理によって原画像の推定分布f(x、y)が計算されて、データ出力ブロック1420に出力される。
【0220】
本実施例の画像復元装置1100によれば、撮像時にぶれてしまった画像のみに基づいて、ぶれのない理想的な画像を復元することができる。
【0221】
(実施例4)
図面を参照しながら、本実施例の画像復元装置1150について説明する。本実施例の画像復元装置1150は、図11に示す実施例3の画像復元装置1100と同様のハードウェア構成を備えているが、プログラム記憶部1112にインストールされているプログラムの内容が異なる。
【0222】
図15のフローチャートを参照しながら、本実施例の画像復元装置1150が行う処理の詳細を説明する。なお本実施例の画像復元装置1150では、データ記憶部1114に記憶された劣化画像データから、RGBそれぞれの色成分の照度の分布gr(x、y)、gg(x、y)、gb(x、y)を特定しておいて、RGBそれぞれの色成分について図15の処理を実行する。
【0223】
ステップS1502では、劣化画像の分布g(x、y)を特定する。劣化画像の分布g(x、y)は、光の照度の分布を位相特性も含めて記述する複素関数である。本実施例では、g(x、y)の実部を劣化画像データにおける照度の分布と一致させ、g(x、y)の虚部を全て0とする。
【0224】
ステップS1504では、劣化画像の分布g(x、y)をフーリエ変換して、劣化画像のスペクトル分布G(s、t)を算出する。
【0225】
ステップS1506では、劣化画像のスペクトル分布G(s、t)の複素対数関数であるln(G(s、t))を計算して、関数Gc(s、t)に設定する。
【0226】
ステップS1508では、関数Gc(s、t)を逆フーリエ変換して、劣化画像の複素ケプストラムgc(x、y)を算出する。
【0227】
ステップS1510では、劣化画像の複素ケプストラムgc(x、y)からパルス列を抽出する。本実施例では、劣化画像の複素ケプストラムgc(x、y)の振幅値が所定のしきい値を超える個所をパルスとして識別する。
【0228】
ステップS1512では、劣化画像の複素ケプストラムgc(x、y)から抽出されたパルス列より、PSFの分布h(x、y)を特定する。画像の劣化がぶれによるものの場合には、劣化画像の複素ケプストラムgc(x、y)に現れるパルス列から、PSFの分布h(x、y)を直接的に求めることができる。
【0229】
ステップS1514では、ステップS1502で特定された劣化画像の分布g(x、y)と、ステップS1512で特定されたPSFの分布h(x、y)を用いて、原画像の分布f(x、y)を復元する。この画像の復元処理は、種々の手法によって行うことができる。
【0230】
例えば実施例1で詳述したように、PSF分布h(x、y)をフーリエ変換してOTF分布H(s、t)を取得し、劣化画像のスペクトル分布G(s、t)をOTF分布H(s、t)で除して原画像のスペクトル分布F(s、t)を算出し、原画像のスペクトル分布F(s、t)を逆フーリエ変換することによって、原画像の分布f(x、y)を取得することができる。
【0231】
あるいは実施例1の変形例1で詳述したように、PSF分布h(x、y)と劣化画像の分布g(x、y)を用いて、図4に示す画像復元処理を行って、原画像の分布f(x、y)を取得することもできる。
【0232】
あるいは実施例1の変形例2のように、PSF分布h(x、y)を真のPSF分布の最初の推定分布h0(x、y)として、劣化画像の分布g(x、y)を用いて、図5、図6および図7に示す画像復元処理を行って、原画像の分布f(x、y)を取得することもできる。
【0233】
なお図16は本実施例のぶれ画像復元装置1150が実現する機能のブロック図1600を示している。データ入力ブロック1602から入力された劣化画像の分布g(x、y)について、フーリエ変換ブロック1604の処理によって劣化画像のスペクトル分布G(s、t)が計算される。複素対数ブロック1606の処理によって関数Gc(x、y)が計算される。逆フーリエ変換ブロック1608の処理によって劣化画像の複素ケプストラムgc(x、y)が計算される。パルス抽出ブロック1610の処理によって劣化画像の複素ケプストラムgc(x、y)からパルス列が抽出される。PSF特定ブロック1612の処理によってPSF分布h(x、y)が計算される。画像復元ブロック1614の処理によって原画像の分布f(x、y)が計算されて、データ出力ブロック1616に出力される。
【0234】
本実施例の画像復元装置1150によれば、撮像時にぶれてしまった画像のみに基づいて、ぶれのない理想的な画像を復元することができる。
【0235】
以上、本発明の実施形態について詳細に説明したが、これらは例示に過ぎず、特許請求の範囲を限定するものではない。特許請求の範囲に記載の技術には、以上に例示した具体例を様々に変形、変更したものが含まれる。例えば、劣化復元の基本式である数式(18)の代わりに、数式(17)を反復計算に直接用いることも可能である。この場合にはフーリエ変換という過程は不要である。
また、本明細書または図面に説明した技術要素は、単独であるいは各種の組み合わせによって技術的有用性を発揮するものであり、出願時請求項記載の組み合わせに限定されるものではない。また、本明細書または図面に例示した技術は複数目的を同時に達成するものであり、そのうちの一つの目的を達成すること自体で技術的有用性を持つものである。
【符号の説明】
【0236】
100:撮像装置
102:第2イメージセンサ
104:第1イメージセンサ
106:センサ支持台
108:レーザ光源
110:撮像台
112:制御装置
150:撮像装置
160:撮像装置
302:被写体画像
304:点像画像
306:ぶれのない被写体画像
800:天体撮像装置
802:第1カメラ
804:第2カメラ
806:レーザ照射器
808:制御装置
902:天体画像
904:シーイングの影響を排除した天体画像
1100:画像復元装置
1102:制御部
1104:入力部
1106:出力部
1108:演算部
1110:記憶部
1112:プログラム記憶部
1114:データ記憶部
1150:ぶれ画像復元装置
1400:ブロック図
1402:データ入力ブロック
1404:フーリエ変換ブロック
1406:複素対数ブロック
1408:逆フーリエ変換ブロック
1410:パルス抽出ブロック
1412:減算ブロック
1414:フーリエ変換ブロック
1416:複素指数ブロック
1418:逆フーリエ変換ブロック
1420:データ出力ブロック
1600:ブロック図
1602:データ入力ブロック
1604:フーリエ変換ブロック
1606:複素対数ブロック
1608:逆フーリエ変換ブロック
1610:パルス抽出ブロック
1612:PSF特定ブロック
1614:画像復元ブロック
1616:データ出力ブロック
【特許請求の範囲】
【請求項1】
被写体を撮像して被写体画像データを出力する第1撮像手段と、
点光源を撮像して点像画像データを出力する第2撮像手段と、
被写体画像データと点像画像データに基いて改善された被写体画像データを生成する画像処理手段を備えており、
第1撮像手段と第2撮像手段は、共通する支持台によって支持されており、互いに同期して撮像するものであり、
被写体と点光源は、共通する載置台上に載置されており、
画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と被写体画像データに基いて改善された被写体画像データを生成する、撮像装置。
【請求項2】
前記画像処理手段が、点像分布関数と被写体画像データに基づいて改善された被写体画像データを生成する際に、
被写体画像データから劣化画像の分布を特定する処理と、
点像分布関数から光学的伝達関数を特定する処理と、
原画像の最初の推定分布を特定する処理と、
(1)原画像の推定分布をフーリエ変換して第1の関数を得る処理と、
(2)前記第1の関数に前記光学的伝達関数を乗じて第2の関数を得る処理と、
(3)前記第2の関数を逆フーリエ変換して第3の関数を得る処理と、
(4)前記劣化画像の分布を前記第3の関数で除して第4の関数を得る処理と、
(5)前記第4の関数をフーリエ変換して第5の関数を得る処理と、
(6)前記第5の関数に前記光学的伝達関数の反転関数を乗じて第6の関数を得る処理と、
(7)前記第6の関数を逆フーリエ変換して第7の関数を得る処理と、
(8)原画像の推定分布に前記第7の関数を乗じて、原画像の次の推定分布を得る処理と、
原画像の次の推定分布を原画像の推定分布に置き換えて、前記(1)から(8)の処理を繰返す処理と、
原画像の推定分布に基づいて、改善された被写体画像データを生成する処理を実行することを特徴とする、請求項1の撮像装置。
【請求項3】
前記画像処理手段が、点像分布関数と被写体画像データに基づいて改善された被写体画像データを生成する際に、
被写体画像データから劣化画像の分布を特定する処理と、
原画像の最初の推定分布を特定する処理と、
点像画像データに基いて取得された点像分布関数を、点像分布関数の最初の推定分布に設定する処理と、
(A)前記劣化画像の分布と、原画像の推定分布と、点像分布関数の推定分布に基づいて、点像分布関数の推定分布を更新する処理と、
(B)前記劣化画像の分布と、原画像の推定分布と、点像分布関数の推定分布に基づいて、原画像の推定分布を更新する処理と、
上記(A)と(B)の工程を交互に繰返す処理と、
原画像の推定分布に基づいて、改善された被写体画像データを生成する処理を実行するものであり、
前記(A)の点像分布関数の推定分布を更新する処理は、
(A1)原画像の推定分布をフーリエ変換して、原画像の推定分布のスペクトル分布を得る処理と、
(A2)点像分布関数の推定分布をフーリエ変換して第1の関数を得る処理と、
(A3)前記第1の関数に前記原画像の推定分布のスペクトル分布を乗じて第2の関数を得る処理と、
(A4)前記第2の関数を逆フーリエ変換して第3の関数を得る処理と、
(A5)前記劣化画像の分布を前記第3の関数で除して第4の関数を得る処理と、
(A6)前記第4の関数をフーリエ変換して第5の関数を得る処理と、
(A7)前記第5の関数に前記原画像の推定分布のスペクトル分布の反転関数を乗じて第6の関数を得る処理と、
(A8)前記第6の関数を逆フーリエ変換して第7の関数を得る処理と、
(A9)前記点像分布関数の推定分布に前記第7の関数を乗じて、点像分布関数の次の推定分布を得る処理と、
(A10)点像分布関数の次の推定分布を点像分布関数の推定分布に置き換える処理とを備え、
前記(B)の原画像の推定分布を更新する処理は、
(B1)点像分布関数の推定分布をフーリエ変換して、光学的伝達関数の推定分布を得る処理と、
(B2)原画像の推定分布をフーリエ変換して第1の関数を得る処理と、
(B3)前記第1の関数に前記光学的伝達関数の推定分布を乗じて第2の関数を得る処理と、
(B4)前記第2の関数を逆フーリエ変換して第3の関数を得る処理と、
(B5)前記劣化画像の分布を前記第3の関数で除して第4の関数を得る処理と、
(B6)前記第4の関数をフーリエ変換して第5の関数を得る処理と、
(B7)前記第5の関数に前記光学的伝達関数の推定分布の反転関数を乗じて第6の関数を得る処理と、
(B8)前記第6の関数を逆フーリエ変換して第7の関数を得る処理と、
(B9)原画像の推定分布に前記第7の関数を乗じて、原画像の次の推定分布を得る処理と、
(B10)原画像の次の推定分布を原画像の推定分布に置き換える処理とを備えることを特徴とする、請求項1の撮像装置。
【請求項4】
天体を撮像して天体画像データを出力する第1撮像手段と、
電離層に向けてレーザ光を照射するレーザ光照射手段と、
レーザ光照射手段から照射されて電離層で反射したレーザ光を撮像して点像画像データを出力する第2撮像手段と、
天体画像データと点像画像データに基いて改善された天体画像データを生成する画像処理手段を備えており、
第1撮像手段と第2撮像手段は、互いに同期して撮像するものであり、
画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と天体画像データに基いて改善された天体画像データを生成する、天体撮像装置。
【請求項5】
ぶれ画像からぶれのない画像を復元する装置であって、
ぶれ画像の分布を特定する手段と、
ぶれ画像の分布についての複素ケプストラムを算出する手段と、
ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する手段と、
抽出されたパルス列をぶれ画像の分布についての複素ケプストラムから除去して、ぶれのない画像の分布についての複素ケプストラムを推定する手段と、
ぶれのない画像の分布についての複素ケプストラムからぶれのない画像の分布を算出する手段を備える、ぶれ画像復元装置。
【請求項6】
ぶれ画像からぶれのない画像を復元する装置であって、
ぶれ画像の分布を特定する手段と、
ぶれ画像の分布についての複素ケプストラムを算出する手段と、
ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する手段と、
抽出されたパルス列に基づいて点像分布関数を取得する手段と、
ぶれ画像の分布と点像分布関数に基づいてぶれのない画像の分布を推定する手段を備える、ぶれ画像復元装置。
【請求項7】
第1撮像手段によって被写体を撮像して被写体画像データを出力する工程と、
第2撮像手段によって点光源を撮像して点像画像データを出力する工程と、
画像処理手段によって被写体画像データと点像画像データに基いて改善された被写体画像データを生成する工程を備えており、
第1撮像手段と第2撮像手段は、共通する支持台によって支持されており、互いに同期して撮像するものであり、
被写体と点光源は、共通する載置台上に載置されており、
画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と被写体画像データに基いて改善された被写体画像データを生成する、撮像方法。
【請求項8】
第1撮像手段によって天体を撮像して天体画像データを出力する工程と、
レーザ光照射手段によって電離層に向けてレーザ光を照射する工程と、
レーザ光照射手段から照射されて電離層で反射したレーザ光を第2撮像手段によって撮像して点像画像データを出力する工程と、
画像処理手段によって天体画像データと点像画像データに基いて改善された天体画像データを生成する工程を備えており、
第1撮像手段と第2撮像手段は、互いに同期して撮像するものであり、
画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と天体画像データに基いて改善された天体画像データを生成する、天体撮像方法。
【請求項9】
ぶれ画像からぶれのない画像を復元する方法であって、
ぶれ画像の分布を特定する工程と、
ぶれ画像の分布についての複素ケプストラムを算出する工程と、
ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する工程と、
抽出されたパルス列をぶれ画像の分布についての複素ケプストラムから除去して、ぶれのない画像の分布についての複素ケプストラムを推定する工程と、
ぶれのない画像の分布についての複素ケプストラムからぶれのない画像の分布を算出する工程を備える、ぶれ画像復元方法。
【請求項10】
ぶれ画像からぶれのない画像を復元する方法であって、
ぶれ画像の分布を特定する工程と、
ぶれ画像の分布についての複素ケプストラムを算出する工程と、
ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する工程と、
抽出されたパルス列に基づいて点像分布関数を取得する工程と、
ぶれ画像の分布と点像分布関数に基づいてぶれのない画像の分布を推定する工程を備える、ぶれ画像復元方法。
【請求項11】
請求項7の方法における各工程をコンピュータに実行させるためのプログラム。
【請求項12】
請求項8の方法における各工程をコンピュータに実行させるためのプログラム。
【請求項13】
請求項9の方法における各工程をコンピュータに実行させるためのプログラム。
【請求項14】
請求項10の方法における各工程をコンピュータに実行させるためのプログラム。
【請求項1】
被写体を撮像して被写体画像データを出力する第1撮像手段と、
点光源を撮像して点像画像データを出力する第2撮像手段と、
被写体画像データと点像画像データに基いて改善された被写体画像データを生成する画像処理手段を備えており、
第1撮像手段と第2撮像手段は、共通する支持台によって支持されており、互いに同期して撮像するものであり、
被写体と点光源は、共通する載置台上に載置されており、
画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と被写体画像データに基いて改善された被写体画像データを生成する、撮像装置。
【請求項2】
前記画像処理手段が、点像分布関数と被写体画像データに基づいて改善された被写体画像データを生成する際に、
被写体画像データから劣化画像の分布を特定する処理と、
点像分布関数から光学的伝達関数を特定する処理と、
原画像の最初の推定分布を特定する処理と、
(1)原画像の推定分布をフーリエ変換して第1の関数を得る処理と、
(2)前記第1の関数に前記光学的伝達関数を乗じて第2の関数を得る処理と、
(3)前記第2の関数を逆フーリエ変換して第3の関数を得る処理と、
(4)前記劣化画像の分布を前記第3の関数で除して第4の関数を得る処理と、
(5)前記第4の関数をフーリエ変換して第5の関数を得る処理と、
(6)前記第5の関数に前記光学的伝達関数の反転関数を乗じて第6の関数を得る処理と、
(7)前記第6の関数を逆フーリエ変換して第7の関数を得る処理と、
(8)原画像の推定分布に前記第7の関数を乗じて、原画像の次の推定分布を得る処理と、
原画像の次の推定分布を原画像の推定分布に置き換えて、前記(1)から(8)の処理を繰返す処理と、
原画像の推定分布に基づいて、改善された被写体画像データを生成する処理を実行することを特徴とする、請求項1の撮像装置。
【請求項3】
前記画像処理手段が、点像分布関数と被写体画像データに基づいて改善された被写体画像データを生成する際に、
被写体画像データから劣化画像の分布を特定する処理と、
原画像の最初の推定分布を特定する処理と、
点像画像データに基いて取得された点像分布関数を、点像分布関数の最初の推定分布に設定する処理と、
(A)前記劣化画像の分布と、原画像の推定分布と、点像分布関数の推定分布に基づいて、点像分布関数の推定分布を更新する処理と、
(B)前記劣化画像の分布と、原画像の推定分布と、点像分布関数の推定分布に基づいて、原画像の推定分布を更新する処理と、
上記(A)と(B)の工程を交互に繰返す処理と、
原画像の推定分布に基づいて、改善された被写体画像データを生成する処理を実行するものであり、
前記(A)の点像分布関数の推定分布を更新する処理は、
(A1)原画像の推定分布をフーリエ変換して、原画像の推定分布のスペクトル分布を得る処理と、
(A2)点像分布関数の推定分布をフーリエ変換して第1の関数を得る処理と、
(A3)前記第1の関数に前記原画像の推定分布のスペクトル分布を乗じて第2の関数を得る処理と、
(A4)前記第2の関数を逆フーリエ変換して第3の関数を得る処理と、
(A5)前記劣化画像の分布を前記第3の関数で除して第4の関数を得る処理と、
(A6)前記第4の関数をフーリエ変換して第5の関数を得る処理と、
(A7)前記第5の関数に前記原画像の推定分布のスペクトル分布の反転関数を乗じて第6の関数を得る処理と、
(A8)前記第6の関数を逆フーリエ変換して第7の関数を得る処理と、
(A9)前記点像分布関数の推定分布に前記第7の関数を乗じて、点像分布関数の次の推定分布を得る処理と、
(A10)点像分布関数の次の推定分布を点像分布関数の推定分布に置き換える処理とを備え、
前記(B)の原画像の推定分布を更新する処理は、
(B1)点像分布関数の推定分布をフーリエ変換して、光学的伝達関数の推定分布を得る処理と、
(B2)原画像の推定分布をフーリエ変換して第1の関数を得る処理と、
(B3)前記第1の関数に前記光学的伝達関数の推定分布を乗じて第2の関数を得る処理と、
(B4)前記第2の関数を逆フーリエ変換して第3の関数を得る処理と、
(B5)前記劣化画像の分布を前記第3の関数で除して第4の関数を得る処理と、
(B6)前記第4の関数をフーリエ変換して第5の関数を得る処理と、
(B7)前記第5の関数に前記光学的伝達関数の推定分布の反転関数を乗じて第6の関数を得る処理と、
(B8)前記第6の関数を逆フーリエ変換して第7の関数を得る処理と、
(B9)原画像の推定分布に前記第7の関数を乗じて、原画像の次の推定分布を得る処理と、
(B10)原画像の次の推定分布を原画像の推定分布に置き換える処理とを備えることを特徴とする、請求項1の撮像装置。
【請求項4】
天体を撮像して天体画像データを出力する第1撮像手段と、
電離層に向けてレーザ光を照射するレーザ光照射手段と、
レーザ光照射手段から照射されて電離層で反射したレーザ光を撮像して点像画像データを出力する第2撮像手段と、
天体画像データと点像画像データに基いて改善された天体画像データを生成する画像処理手段を備えており、
第1撮像手段と第2撮像手段は、互いに同期して撮像するものであり、
画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と天体画像データに基いて改善された天体画像データを生成する、天体撮像装置。
【請求項5】
ぶれ画像からぶれのない画像を復元する装置であって、
ぶれ画像の分布を特定する手段と、
ぶれ画像の分布についての複素ケプストラムを算出する手段と、
ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する手段と、
抽出されたパルス列をぶれ画像の分布についての複素ケプストラムから除去して、ぶれのない画像の分布についての複素ケプストラムを推定する手段と、
ぶれのない画像の分布についての複素ケプストラムからぶれのない画像の分布を算出する手段を備える、ぶれ画像復元装置。
【請求項6】
ぶれ画像からぶれのない画像を復元する装置であって、
ぶれ画像の分布を特定する手段と、
ぶれ画像の分布についての複素ケプストラムを算出する手段と、
ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する手段と、
抽出されたパルス列に基づいて点像分布関数を取得する手段と、
ぶれ画像の分布と点像分布関数に基づいてぶれのない画像の分布を推定する手段を備える、ぶれ画像復元装置。
【請求項7】
第1撮像手段によって被写体を撮像して被写体画像データを出力する工程と、
第2撮像手段によって点光源を撮像して点像画像データを出力する工程と、
画像処理手段によって被写体画像データと点像画像データに基いて改善された被写体画像データを生成する工程を備えており、
第1撮像手段と第2撮像手段は、共通する支持台によって支持されており、互いに同期して撮像するものであり、
被写体と点光源は、共通する載置台上に載置されており、
画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と被写体画像データに基いて改善された被写体画像データを生成する、撮像方法。
【請求項8】
第1撮像手段によって天体を撮像して天体画像データを出力する工程と、
レーザ光照射手段によって電離層に向けてレーザ光を照射する工程と、
レーザ光照射手段から照射されて電離層で反射したレーザ光を第2撮像手段によって撮像して点像画像データを出力する工程と、
画像処理手段によって天体画像データと点像画像データに基いて改善された天体画像データを生成する工程を備えており、
第1撮像手段と第2撮像手段は、互いに同期して撮像するものであり、
画像処理手段は、点像画像データに基づいて点像分布関数を取得し、点像分布関数と天体画像データに基いて改善された天体画像データを生成する、天体撮像方法。
【請求項9】
ぶれ画像からぶれのない画像を復元する方法であって、
ぶれ画像の分布を特定する工程と、
ぶれ画像の分布についての複素ケプストラムを算出する工程と、
ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する工程と、
抽出されたパルス列をぶれ画像の分布についての複素ケプストラムから除去して、ぶれのない画像の分布についての複素ケプストラムを推定する工程と、
ぶれのない画像の分布についての複素ケプストラムからぶれのない画像の分布を算出する工程を備える、ぶれ画像復元方法。
【請求項10】
ぶれ画像からぶれのない画像を復元する方法であって、
ぶれ画像の分布を特定する工程と、
ぶれ画像の分布についての複素ケプストラムを算出する工程と、
ぶれ画像の分布についての複素ケプストラムからパルス列を抽出する工程と、
抽出されたパルス列に基づいて点像分布関数を取得する工程と、
ぶれ画像の分布と点像分布関数に基づいてぶれのない画像の分布を推定する工程を備える、ぶれ画像復元方法。
【請求項11】
請求項7の方法における各工程をコンピュータに実行させるためのプログラム。
【請求項12】
請求項8の方法における各工程をコンピュータに実行させるためのプログラム。
【請求項13】
請求項9の方法における各工程をコンピュータに実行させるためのプログラム。
【請求項14】
請求項10の方法における各工程をコンピュータに実行させるためのプログラム。
【図1】
【図2】
【図4】
【図5】
【図6】
【図7】
【図8】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図3】
【図9】
【図2】
【図4】
【図5】
【図6】
【図7】
【図8】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図3】
【図9】
【公開番号】特開2012−178183(P2012−178183A)
【公開日】平成24年9月13日(2012.9.13)
【国際特許分類】
【出願番号】特願2012−127369(P2012−127369)
【出願日】平成24年6月4日(2012.6.4)
【分割の表示】特願2008−2638(P2008−2638)の分割
【原出願日】平成20年1月9日(2008.1.9)
【出願人】(591056226)ライトロン株式会社 (3)
【Fターム(参考)】
【公開日】平成24年9月13日(2012.9.13)
【国際特許分類】
【出願日】平成24年6月4日(2012.6.4)
【分割の表示】特願2008−2638(P2008−2638)の分割
【原出願日】平成20年1月9日(2008.1.9)
【出願人】(591056226)ライトロン株式会社 (3)
【Fターム(参考)】
[ Back to top ]