符号化開口結像法向けの処理方法
本発明は符号化開口結像の処理に関する。符号化開口結像システムによって、各々個別の符号化開口アレイを用いて取得されたデータの複数のフレームが処理されて画像を形成する。この処理は、画像解が正値でなければならないこと、また解は予期された画像領域の外部ではゼロであるべきこと、の両制約を含む。一実施形態では、画質向上は、処理された画像を空間的に一様な点広がり関数を有する画像領域に分割するステップと、各画像領域について逆問題を解いて画像ぶれを低減するステップとを含んでよい。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、符号化結像システムで取得された画像データを処理する方法に関する。
【背景技術】
【0002】
符号化開口結像法は知られている結像技術であり、一般に適当なレンズ材料が存在しないX線結像またはγ線結像など高エネルギーの結像に主として用いられ、例えばE.FenimoreおよびT.M.Cannonの「Coded aperture imaging with uniformly redundant arrays」、Applied Optics、17巻、No.3、337−347ページ、1978年2月1日、を参照されたい。符号化開口結像法は3次元結像法向けにも提案されており、例えばCannon TM、Fenimore EEの「Tomographical imaging using uniformly redundant arrays」、Applied Optics 18、no.7、1052−1057ページ、1979年、を参照されたい。
【0003】
符号化開口結像法はピンホールカメラと同一の原理を利用するが、単一の小さな開口を有するのではなく、開口のアレイを有する符号化開口マスクを使用する。開口の小さなサイズが高い角度分解能をもたらし、また、開口数が増加すると検出器に到着する照射が増し、したがって信号対雑音比が向上する。各開口が検出器のアレイへシーンの画像を通し、したがって、検出器アレイでのパターンはオーバラップした一連の画像であって、光景として認識できるものではない。録画データから元の光景の画像を再構成するために処理が必要とされる。
【0004】
再構成処理には、使用された開口アレイについての情報が必要であり、選択されたシステム構成および開口アレイは、その後の高品質の画像再構成を可能にするために符号化されることが多い。処理は、設定された位置での特定のアレイの数学的モデルを用いて実行される。
【0005】
Busboomらの「Coded aperture imaging with multiple measurement」、J.Opt.Soc.Am.A、14巻、No.5、1997年5月、は、各々が個別の符号化開口アレイを用いて取得される、光景の複数の測定を得る符号化開口結像技術を提案する。Busboomらは、相互相関技術を用いて画像再構成が実行され得ること、また、光源の量子雑音を考慮して、信号対雑音比を最大化するアレイの選択について論じている。
【0006】
従来の符号化開口結像法は、幾何学的結像技術であり、通常、例えば回折を無視できる天文学向けの用途に用いられるものと見なされ得る。上記で論じられた、Busboomらによって提案された技術は回折に無関係であり、したがって画像再構成に対する回折の効果は論じられていない。
【0007】
最近、再構成可能な符号化開口マスク手段を有する再構成可能な符号化開口結像装置を使用するために提案された、本出願人の同時係属のPCT特許出願の国際公開第2006/125975号パンフレットを参照されたい。再構成可能な符号化開口マスク手段を使用すると、個別の符号化開口マスクが別々のときに表示されることが可能になる。これによって、例えば、結像システムの方向および視野(FOV)が、いかなる可動部も必要とせずに変更されることが可能になる。さらに、結像システムの解像度も、符号化開口マスク手段上に表示される符号化開口マスクを変えることにより、変更され得る。
【0008】
符号化開口マスク手段上に表示されたパターンは符号化開口マスクであり、また、符号化開口マスクの少なくとも一部は符号化開口アレイである。すなわち、マスク手段上に表示されたパターン全体が符号化開口アレイであるか、またはパターンの一部だけが符号化開口アレイである。疑念を回避するために、本明細書に使用される用語「開口(aperture)」は、マスク手段中の実際のホールではなく、単に検出器に照射が達することを可能にするパターンの領域を意味する。
【0009】
国際公開第2006/125975号パンフレットは、いかなる可動部もなく、様々な視野または解像度を有するように迅速に構成することができる汎用かつ軽量の結像システムを教示する。それによって、従来型の光学部品が不要になり、等角画像能力が与えられ、無限の被写界深度を有することができ、画像を解読するには使用された符号化開口アレイについての情報が必要とされるので固有の電力不要の暗号化が与えられる。そこに説明された結像装置は、可視光線の周波数帯、赤外線周波数帯または紫外線周波数帯におけるいくつかの映像化および監視の用途向けに特に適する。
【発明の開示】
【発明が解決しようとする課題】
【0010】
しかし、高解像度の結像には、小さな開口サイズと検出器からマスクまでの長い光路が必要とされ、このことで回折の影響が増す。回折により、マスクによって検出器アレイ上に形成されるパターンのぶれ(blurring)が生じてその変調が低減し、それに対応して復号画像の品質に悪影響がある。
【0011】
したがって、本発明は、回折が存在する状態で優れた画像品質を回復する、符号化開口結像システムからの画像データを処理する方法を提供することを目的とする。
【課題を解決するための手段】
【0012】
したがって、本発明によれば、符号化開口結像システムから取り込まれたデータから画像を形成する方法が提供され、この方法は、符号化開口結像システムによって記録されたデータの複数のフレームの各々を個別の符号化開口アレイを使用して取得するステップと、データの各フレーム向けに、そのデータのフレームを得るのに使用された符号化開口アレイに対応する復号パターンを取得するステップと、データを処理して、データのすべてのフレームに対して、結合され正規化された最小二乗適合である復号画像をもたらすステップとを含む。好ましくは、この処理は、復号画像が正値(positive)でなければならないこと、また復号画像は予期された画像領域の外部ではゼロであるべきこと、の両制約の少なくとも1つを含む。
【0013】
したがって、本発明の方法によれば、複数の個別の符号化開口アレイすなわち複数の個別のマスクパターンを使用して取得されたデータを用い、また、データのフレーム全体およびそれに対応する符号化開口アレイに関する結合された逆問題の解決を試みる。
【0014】
当業者なら、回折のない場合には、符号化開口結像システムの検出器アレイで記録された信号は、特定の符号化開口アレイで記録されたデータの単一フレームに関して、光景の輝度と符号化開口アレイのマスクパターン(すなわち復号パターン)のコンボリューションにいくらかのノイズが加わったものとして記述され得ることを理解するであろう。回折のない場合、復号パターンは、符号化開口アレイのパターンに相当する。したがって、すべての復号アルゴリズムの目的は、マスクパターンの情報を用いることにより、例えばデコンボリューションまたは相互相関を実行することにより光景画像を回復することである。
【0015】
しかし、回折効果が顕著なとき、検出器アレイでの輝度パターンは、もはや開口の関数に直接対応しない。そうではなくて、検出器アレイで形成された回折図形は、実質的にはマスクパターンのぼかされた変形である。回折効果は、正確なデコンボリューションを妨げる。
【0016】
しかし、本出願人は、各々が個別の符号化開口アレイを使用して取得されたデータの複数のフレームを使用すると、回折が存在する状態で回復された画像の品質をかなり高めることができることを発見した。したがって、本発明の方法は、回折効果が顕著な符号化開口結像システムの検出器上に形成されて記録された輝度パターンであるデータのフレームに対して作用することができる。用語「顕著な(significant)」は、回折が、信号の著しい広がりをもたらし、かつ開口マスクの変調を低減することを意味する。
【0017】
本発明の方法では、データの複数の組が得られ、その各々が個別の符号化開口アレイを使用して取得される。本発明の方法は、各フレームデータに対してその関連する復号パターンを用いて、データを同時に復号する解決策を提供しようとするものである。後でより詳細に説明されるが、これは最小二乗問題および最小化問題に対して見出された解としてもたらされ得る。本発明の方法が個別のフレームからのデータを単純に結合するのでなく、データの各フレームによって示された別々の問題に対して同時の解を与えることに留意されたい。各符号化開口アレイ向けに用いられる復号パターンは、好ましくは、対象の波長で、符号化開口アレイによって検出器で形成される回折パターンに対応するものである。回折パターンは、動作波長で測定され得るか、または開口パターンを基に計算され得るが、これは以下で説明される。
【0018】
回折効果は、最小二乗最小化問題が不良設定問題であり、したがって、賢明な解をもたらすために、最小二乗適合に対して何らかの形の正規化が適用されるのが好ましいことを意味する。正規化の好ましい一形式は、BerteroおよびBoccacciによって提案された、M.BerteroおよびP.Boccacciの「Image Restoration Methods for the Large Binocular Telescope」、Astron.Astrophys.Suppl.147巻、323−333ページ、2000年、など、Tikhonov正規化のマルチ画像形式である。Tikhonov正規化は、逆問題の解法における知られている技術であり、例えば「Introduction to Inverse Problem in Imaging」、M.BerteroおよびP.Boccacci、Institute of Physics Publishing、1998年、ISBN 0750304359(以下BerteroおよびBoccacciと称する)の108ページも参照されたい。
【0019】
あるいは、ウィーナフィルタ技術を適用することができる。Landweber反復法などの反復技法も用いることができる。BerteroおよびBoccacciの291ページを参照されたい。
【0020】
画像品質の改善および回折効果の克服の企図のために、本発明の方法は、解に関するできるだけ多くの事前情報を含む。したがって、本発明の方法は、画像が正値であるべきこと、この復号画像が予期された領域の外部ではゼロであるべきこと、の両制約の一方または両方を含む。
【0021】
符号化開口結像法は、非干渉性の結像技術であり、再構成しようとする画像は輝度画像である。したがって、直接像は負値(negative)でないはずであり、すべての可能な解を、負値部を含まないように制約することができる。例えばG D de Villers、E R PikeおよびB McNallyの「Positive solutions to linear inverse problems」、Inverse problems、15、1999年、615−635ページによって説明された方法を用いて、解に正値性が含まれてよい。
【0022】
しかし、好都合には、Landweber反復法の変形形態を用いて解に正値性が含まれてよい。というのは、こうした方が、ともすれば実施が簡単なためである(BerteroおよびBoccacci、291ページを参照されたい)。この場合、この方法は、関数群に対して、正値の解の全部に対して1であり、負値の解の全部に対して0である射影演算子を用いることを含んでよい。換言すれば、ある反復の解の正値部だけが、その次の反復で用いられる。計算上、より大容量のメモリを食うものではあるが、Richardson−Lucy法(期待値最大化法としても知られている)は、射影されたLandweber法に類似の動作を有することに留意されたい(BerteroおよびBoccacci、179ページ)。
【0023】
前述のように、回折がない状態では、符号化開口結像法を幾何学的な結像技術と見なすことができる。したがって、符号化開口結像システム内の符号化開口アレイのサイズおよび間隔の情報が与えられると、画像が解読された後に、その予期されるサイズおよび位置があらかじめ分かる。回折は、予期された領域外のデータの広がりを効果的に引き起こす。直接像は、予期された領域内に全面的に位置するはずであり、したがって、理想的には、この予期された領域外には画像がないはずである。したがって、さらなる制約は、解すなわち復号画像は予期された領域外でゼロでなければならず、換言すれば、復号画像には一定の有限サポートがなければならない、となる。
【0024】
解のサポートすなわち復号画像は、予期された領域外でゼロでなければならないという制約も、Landweber反復法の変形形態を用いて、関数群に対して、予期された領域内の全領域に対して1であり、予期された領域外の全領域に対して0である射影演算子を用いることにより、本発明の方法に含まれてよい。
【0025】
ぶれの度合いが画像にわたって一定であると仮定すると、Landweber反復法の評価ステップは、処理が速くなるので周波数領域で実行されてよい。しかし、正値性および画像サポートを実現するためには空間領域で作業する必要がある。当業者なら、制約付きの解法にフーリエ変換を適用して周波数領域へ切り換え、新規の反復を解き、次いでフーリエ逆変換を適用して空間領域に戻すことができることがよく分かるであろう。
【0026】
したがって、本発明のとりわけ好ましい方法では、データの各フレームからのデータに対する最小二乗適合である画像解をもたらすデータ処理ステップは、画像解の第1の推定を形成する初期ステップと、それに次ぐ、解すなわち復号画像が正値でなければならず、その解は予期された画像領域内に制限されなければならない、すなわち予期された領域外で復号画像が0であるべきであるという制約を含む反復する改善ステップとを含む。反復ステップは、好ましくはLandweber反復法を適用する。
【0027】
したがって、本発明の方法は、回折効果が顕著なときでさえ、データのいくつかの個別フレームを使用して、優れた画像品質を再構成する方法を提供する。したがって、この方法は、回折効果が顕著であり得るとき、可視スペクトル、紫外線スペクトルまたは赤外線スペクトルで取得されたデータから画像を形成するのに用いられてよい。
【0028】
この方法は、現行フレームのデータおよび少なくとも1つの先行フレームのデータを用いてリアルタイムに適用されてよく、または、あらかじめ取得されたデータに対してオフラインで適用されてもよい。
【0029】
最小二乗適合で使用されるデータのフレーム数は、特定の用途次第であり、具体的には、フレームがどれくらい急速に捕えられるかということ、および光景の変遷に左右され得る。本発明の方法は、実質的に同一の光景であるデータのいくつかのフレームに基づくものである。光景が急速に変化しているか、または符号化開口システムが光景に対して急速に移動しているときにデータが取得されると、フレームをいくつ結合することができるかということに対して、さらに基本的に同一の光景であるということに関しても、制限があり得る。
【0030】
データの10フレーム程度を結合する静的な光景については、単一フレームのデータだけを処理するのと比較して、画像品質における優れた改善を示すことが認められた。同一の光景に対応するデータのより多くのフレームを使用すると、一般に画像品質が改善するはずであるが、処理のオーバヘッドも増加することになる。m+1個のフレームを処理すると、m個のフレームを使用するのと比較して画像品質の改善を示すことになるが、mの増加と共に有効性が低下する。しかし、処理負荷はmと共に増加し続けるはずであり、したがって、用途次第でフレームの最適数が存在することになる。当業者なら、約5、10、15、20または25あるいはより多い数であり得る、特定の用途向けのデータのフレームの最適数を求めることができるであろう。
【0031】
したがって、前述の本発明の方法は、データの単一フレームを処理するのと比較して、より明瞭な画像を生成する際に利点をもたらし、回折効果を克服するのに役立つ。本発明の一実施形態では、データはさらに処理されてよく、さらなる画質向上をもたらす。したがって、前述の複数フレームの手法は、符号化開口結像装置から取得されたデータの処理の包括的方法の一部を形成してよい。そのような包括的方法は、前もってデータの複数のフレームを取得し、各々を処理して初期画像を形成し、それに続いてこの複数の初期画像を使用して少なくとも1つの画質向上ステップを実行する。データは、最小二乗適合を適用する前に処理されて各フレーム向けの画像を形成する。
【0032】
各々のぼかされた初期画像は、点広がり関数と畳み込まれる直接像と見なされ得る。画質向上のステップは、次いで直接像を回復することである。
【0033】
当業者なら理解するように、点広がり関数は画像にわたって変化し得る。したがって、この方法は、画像品質を改善するために、これらの画像領域に対して最小二乗適合を実行する前に、各初期画像を点広がり関数が比較的一様な一連の画像領域に分割するステップを含んでよい。画像を複数の小さな画像領域に分割すると、その領域に関して点広がり関数が空間的に一様であることを保証するばかりでなく、全体画像を処理しようとするのと比較して計算も容易になる。小さな各画像領域を処理する際に、その特定の領域に対応する各初期画像からのデータが共に処理される。したがって、データの複数の個別フレームを使用する前述の方法は、小さな各画像領域について別々に実行される。
【0034】
初期画像は、データの各フレームについて様々なやり方で形成され得るが、好ましくは、データを取り込むのに使用された符号化開口アレイに対して適切な復号パターンを用いて、簡単な相互相関がデータの単一フレームに対して実行される。これは、回折が存在する状態で符号化開口アレイの回折パターンを用いることを除けば、符号化開口結像法における画像復号に対する従来型の手法である。
【0035】
したがって、初期画像は、全体画像に対して特定の復号パターンを使用して復号される。前述のように、復号パターンは、マスクによって動作の波長でもたらされた回折パターンに対応する。しかし、当業者なら、光景のある部分にある点光源が、光景の別の部分にある同一の点光源と比較して異なる回折パターンを形成することになることを理解するであろう。換言すれば、初期画像を形成するのに使用される復号パターンは、単に光景の一部分に対して適正な関数でよく、したがって、初期画像の他の部分は、光景のその部分に対応する実際の復号パターンとはわずかに異なる復号パターンを用いるためにぼかされ得る。したがって、各画像領域に対する最小二乗適合は、好ましくは画像のその領域向けに最適化された復号パターンを用いる。
【0036】
各領域に対して適切な復号パターンは、光景の個別の領域内の適切なスペクトル特性を有する点光源を結像して光景の各部分向けの検出器アレイ上に輝度パターンを記録することにより記録され得る。本出願人の同時係属の英国特許出願第0602373号明細書は、適切な復号パターンが記録され得る様々な方法を教示する。あるいは、各画像領域の復号パターンが計算され得る。
【0037】
好ましくは、最小二乗適合である各画像領域の処理ステップは、Tikhonov正規化を含む。好ましくは、各画像領域の処理ステップは、解が正値であるべきであるという制約を含む。
【0038】
離散的画像領域を処理すると、隣接する領域の端部で画像のアーチファクトが生じることがある。したがって、好ましくは第1の画像領域が取得されて処理される。しかし、再構成の値、すなわちこの領域の中心での最小二乗適合によって形成された復号画像だけが格納される。次いで、この領域は、数ピクセルだけ(第2の画像領域が第1の画像領域とオーバラップするように)移動され、この処理が繰り返される。これは、いかなる画像のアーチファクトの生成も防止する。
【0039】
したがって、本発明は2段階処理として実施され得る。したがって、本発明の別の態様では、符号化開口結像アレイから取り込まれたデータから画像を形成する方法が提供され、この方法は、データの複数のフレームの各々を個別の符号化開口アレイを使用して取得するステップと、データの各フレーム向けに、適切な符号化開口アレイに対応する復号パターンを取得するステップと、データを処理して、各フレームのデータに対して第1の画像解をもたらすステップと、次いで、画像の個別の領域向けに各々が最適化された1組の復号パターンから導出された1組のぼかし解除関数を用いて複数の第1の画像解をぼかし解除するステップとを含む。好ましくは、第1の画像解をぼかし解除するステップは、解が正値でなければならないという制約を含む。
【0040】
本発明は複数のマスク画像の使用に関するものであるが、第1の画像解を一連のサブ画像に分割するステップと、各々を別々に処理するステップとが、データの1つだけのフレームに対してさえ有利に適用され得ることに留意されたい。この場合、特定の復号パターンを使用してデータの単一フレームが処理され得て第1の画像解を形成し、次いで、複数の画像領域に分割され、各画像領域は、その画像領域向けに最適化された復号パターンを用いて別々に処理される。この、最適化された復号パターンを用いる別々の画像領域の処理によって、第1の画像解と比較して画像の品質が改善される。
【0041】
したがって、符号化開口結像システムによって記録されたデータから画像を形成する方法を実行することが可能になるはずであり、この方法は、画像を複数の小さな画像領域に分割し、その画像領域向けに最適化された復号パターンを別々に用いて小さな画像領域の各々を処理するステップを含む。実質上、各画像領域について逆問題を別々に解くことができる。
【0042】
各画像領域の逆問題の解法は、上記に概説された方法を用いて進めることができる。すなわち、初期解はフーリエ法を用いるTikhonov正規化で解くことができる。あるいは、「Scanning singular−value decomposition method for restration of images with space−variant blur」、D A Fish、J GrochmalickiおよびE R Pike、J.Opt.Soc.Am A、13、no.3、1996年、464−469ページで提案されたように、打切り型の特異関数展開が用いられ得る。これは、計算上Tikhonov正規化より強力な方法である。この方法は、点広がり関数に関連した特異値分解(SVD)の計算を必要とする。しかし、点広がり関数が空間的に一様であると、全体画像を処理するためにSVDを計算する必要があるのは1度だけである。繰り返しになるが、オーバラップする複数の小さな画像領域を処理して各領域向けに解を形成し、また、いかなる端部のアーチファクトも防止することだけのために各領域の中心での特定の解の値を保持するのが好ましいはずである。
【0043】
一般に、光景または光景中の対象に関する他の事前情報は、データ処理方法に含まれ得て画像を形成する。例えば、画像に少数の点の対象があると事前に分かっていれば、この方法は、曲線あてはめを含む超解像度法を用いる画質向上ステップを含むことができる。
【0044】
さらに、符号化開口結像装置が追跡用に使用されるならば、追跡が実行されるところで、高解像度のパッチが必要とされるだけでよい。これは、計算負荷をかなり削減することになる。したがって、この方法は、画像の対象部分、すなわち光景の動く部分あるいは対象の予想される領域または確認された領域でのみ画質向上を実行してよい。
【0045】
符号化開口結像装置が2つ以上の画像からの対象の追跡情報用に使用されるときも、TBD(track−before−detect)方式において結合され得る。従来、TBDアルゴリズムはレーダおよびソナーの分野で使用されており、目標識別を改善するために、センサからのいくつかのデータ収集からのデータを共に使用する。符号化開口結像システムからの個別の画像に対して類似の手法が使用され得る。
【0046】
上記説明は、本発明を方法のみに関して説明している。しかし、本発明によって、斬新な符号化開口結像システムも可能になる。したがって、本発明の別の態様では、再構成可能な符号化開口マスク手段を通して光景を結像するように配置された検出器アレイおよびプロセッサを備える符号化開口結像システムが提供され、再構成可能な符号化開口マスク手段は、複数の個別の符号化開口アレイを連続して与えるように構成され、プロセッサは、個別の符号化開口アレイごとに検出器アレイからの信号を記録し、前述の方法を適用して画像を形成する。
【0047】
次に、本発明が、以下の図面を参照しながら単に例として説明される。
【発明を実施するための最良の形態】
【0048】
符号化開口結像法(CAI)は、ピンホールカメラと同一の原理に基づくものである。ピンホールカメラでは、ピンホールから長い距離を遠ざけても色収差がない画像が形成され、はるかに大きな被写界深度を有する、よりコンパクトな結像システムの可能性を与える。しかし、輝度スループットが不十分であるという大きな不便があり、これは、ピンホールの集光特性が弱いことに起因する。それにもかかわらず、このカメラは、回折効果を考慮に入れなければならないが、ピンホールの直径によって決定された解像度を有する画像をなお生成することができる。ピンホールのアレイを使用することにより、角度分解能を維持したまま、システムの光スループットが数桁向上され得る。各検出器要素には、光景の各視点に対応して、様々なピンホールからの寄与の合計の結果が表れている。
【0049】
従来型CAIの動作の基本を理解する別のやり方には、これが単に幾何学的結像技術であることに注目するものがある。システムの視野(FOR)内の光景中のすべての点からの光は、検出器アレイ上に符号化開口の影を投じる。検出器は、これらの影の輝度の合計を測定する。符号化開口は、その自己相関関数が非常に低いサイドローブに対して鋭敏であるように特別に設計される。検出器の輝度パターンのデコンボリューションまたはデコリレーションが光景中の点の分布に対する優れた近似をもたらすことができるとき、一般に、擬似乱数的アレイまたは一様な冗長アレイ(URA)(E.FenimoreおよびT.M.Cannon「Coded aperture imaging with uniformly redundant arrays」、Applied Optics、17巻、No.3、337−347ページ、1978年2月1日、で説明されているものなど)が使用される。
【0050】
従来のCAIシステムは、一般に回折効果が最小限の用途で使用されてきた。例えば、符号化開口結像法は、天文学の結像でしばしば用いられてきた。しかし、符号化開口結像技術のいくつかの用途については、角度分解能をかなり改善する必要がある。このことは、可視波長帯、赤外線波長帯、または紫外線波長帯など、あるいは高解像度の結像を必要とする他の波長帯で動作するとき、特にあてはまり得る。検出器ピクセルが符号化開口アレイのフィーチャサイズpより小さいと仮定して、角度分解能は、tan−1(p/s)によって求められる。この式で、sはマスクと検出器アレイの間の光学距離である。したがって、結像装置の解像度を向上させるには、開口サイズを縮小するか、またはマスクから検出器への距離を増大するか、あるいはその両方が必要となる。比較的小さな開口および/またはマスクから検出器への大きな距離を用いると、回折効果が顕著になり始める。回折のぶれ効果は、検出器アレイ上に投射されたパターンが実質的に汚されて画像品質が低下することを意味する。
【0051】
図1は、全体的に2で示された符号化開口結像システムの例を概略的に示す。光景4中の点からの光線は特定の符号化開口アレイ6上に当る。符号化開口アレイはシャドウマスクとして働き、したがって、検出器アレイ8上に、一連のオーバラップするコード化画像が生成される。検出器アレイ上の各ピクセルで、オーバラップするコード化画像からの輝度が合計される。検出器アレイ8からの出力はプロセッサ10に渡され、次に、様々なデジタル信号処理技術を用いて、検知器信号から光景の画像が復号され得る。
【0052】
最近、国際出願(2006/125975)は、再構成可能なマスク手段6を使用して、再構成可能な符号化開口アレイを提供することを提案した。符号化開口マスク手段6は、再構成可能なマスク手段を制御して個別の符号化開口マスクを表示するコントローラ12によって制御される。符号化開口マスク手段の一部だけが符号化開口アレイを表示する場合には、マスクの残りは照射が検出器に達するのを妨げ、次いで、装置の視野は、符号化開口アレイの検出器に対する位置およびサイズによって決定され、その位置またはサイズの変化が、結像装置の視野および/または解像度を変化させる。
【0053】
したがって、CAIは、いかなる可動部も必要とせずに、被写界深度が大きく視野が可変で、コンパクトかつ軽量の結像装置をもたらす能力を提供する。
【0054】
前述のように、検出器アレイ8で形成された輝度パターンは、様々な開口によって生成された光景の一連のオーバラップする画像である。この輝度パターンは、光景の認識可能な画像を構成するために復号が必要である。
【0055】
図4は、データの複数のフレームの取込みを示す。再構成可能な符号化開口マスク手段6は、一連の符号化開口マスク20をもたらすように連続して構成され、また、表示される各符号化開口マスク向けに検出器アレイ8の出力22が記録される。
【0056】
単一のマスクパターンに関して、所望の光景に対する録画データに関する基本式は次式となる。
g=Af+ノイズ 式(1)
gは録画データであり、Aはマスクの回折パターンを含む線形演算子であり、また、fは所望の光景である。カメラは、輝度だけを記録することになり、したがって狭帯域照射の場合については、Aは、検出器アレイ上に記録されたマスクの回折パターンの2乗された係数を示すことになり、また、演算子Aは、コンボリューション演算子ということになる。この段階では、例えば狭帯域検出器を使用するかまたは狭帯域フィルタを適用する場合には、検出される照射は狭帯域であると仮定される。
【0057】
マルチマスクの手法は、個別のマスク構成(例えばM1−M4)に対応するデータの組を同時に復号するステップを含む。fについて、次の形の1組の演算子式を同時に解く必要がある。
Ajf=gj、 j=1、・・・、p 式(2)
pは、用いられた個別のマスク構成の数である。fに関して次式の乖離度関数(discrepancy function)を最小化しようとするとき、M.BerteroおよびP.Boccacciの「Image Restoration Methods for the Large Binocular Telescope」Astron.Astrophys.Suppl.147巻、323−333ページ、2000年、で説明されたように、これは最小二乗問題として表わされ得る。
【数1】
この最小化問題に対する解fは、次の正規方程式を満たすことになる。
【数2】
【0058】
次に、演算子Ajがコンボリューション演算子である(少なくとも狭帯域問題に関して)ことに注目して、この式の両辺の2次元DFTを取得することができて、次式をもたらす。
【数3】
【数4】
はj番目のマスクの回折パターンのフーリエ変換の共役複素数であり、
【数5】
は、j番目のマスクに対応するデータのフーリエ変換である。これは、解かなければならない重要な式である。
【0059】
回折が存在する状態では、基本式の解は不良設定の逆問題であり、賢明な解をもたらすためには何らかの形の正規化が必要である。1つの可能性に、Tikhonov正規化のマルチ画像形式(BerteroおよびBoccacci、2000年、式13)がある。
【0060】
フーリエ領域では、Tikhonovの解は次式の形をとる。
【数6】
μは正規化パラメータであり、また、次式が成り立つ。
【数7】
解が負値であってはならず、また、一定で有限のサポートを有する必要がある、すなわち、画像が画像空間中のどこにあると予期されるか分かっている必要がある、という事前情報が、この解法では考慮されていない。これを行う簡単なやり方は、通常のLandweber反復法を修正することである。
【0061】
本明細書で説明される方法は、M.BerteroおよびP.Boccacciの「Image Restoration Methods for the Large Binocular Telescope」、Astron.Astrophys.Suppl.Ser.147、323−333ページ、2000年、の式(17)で与えられるLandweber反復法の修正版である。この修正は、画像のサポートについての問題の情報を含むために必要である。
【0062】
この反復法は次式の形をとる。
【数8】
ここで、kは反復回数であり、τは緩和パラメータである。fの上の+添字は、最終的な解が負値でないはずであるということを示す。P+は、非負関数の組に対する射影演算子であり、次式で定義される。
【数9】
【0063】
この射影に加えて、所与のサポートS(すなわち画像が形成されることになる、画像空間の予期された部分)で関数群上への射影を実行する必要がある。これは次式で定義される射影演算子Psを用いて達成される。
【数10】
【0064】
検討中の問題については、画像のサイズのために、フーリエ領域でコンボリューションを行う方がはるかに簡単である。次いで、反復法は、空間領域で一定のサポートが実行されている状態で、空間領域とフーリエ領域の間で、非負関数の組上への射影と画像の組上への射影とを交換することにより進行することになる。
【0065】
したがって、本発明の方法は、一般に以下のように進行する。最初に、マルチ画像のTikhonov正規化(上の式6)を用いて解の初期推定が構成される。次いで、この結果は、所与のサポートで画像の組上に投影される(すなわち、知られている対象領域外の画像の要素がすべてゼロに設定される)。
【0066】
Tikhonov正規化に対する解の結果が、負値であるようには制約されず、一般に、正値部だけでなく顕著な負値部も有するはずであるということに留意されたい。ただ単に、この解のあらゆる負値部をゼロに設定し、正値部を使用して進行することができる。しかし、そのような技術を適用し、次いでグレースケール画像に対して前述の反復法を実行すると、反復法の進行と共に、画像上の影はサイズが増加する傾向があり、画像が不自然な外観を示すことが分かった。これは、顕著な負値部を有する初期画像の正値部を採用したことによるものと判断された。本出願人は、このタイプの起点で、初期画像上の負値領域が一旦ゼロに等しく設定されると、それらは反復法が進行するときゼロのままである傾向があり、このことが最終解を歪める恐れがあることを発見した。
【0067】
反復段階向けの初期画像がデータに正確に一致する必要はないので(一致は反復法を通して得られる)、初期画像をシフトして非負値にすることができる。これは、非常に有益な結果を与えるようである。したがって、この初期解に対してデータシフトが適用されて完全に正値の解が生成され、これは初期のfnewとして格納される。データシフトは、実質上、各ピクセルへの、すべてのピクセルを非負値にする値の単純加算である。
【0068】
このようにして初期解fnewを確立して、所定の回数だけメインの反復法が繰り返される。メインの反復法は、
(a)PSを使用して知られているサポート上にfnewを投影し、その結果をfnewに格納するステップと、
(b)P+を使用してfnewの正値部を取得し、その結果をfnewに格納するステップと、
(c)fnewの離散的フーリエ変換(DFT)を取得してこれを
【数11】
と呼ぶステップと、
(d)次式を評価するステップであって、
【数12】
ここに
【数13】
かつ
【数14】
であるステップと、
(e)
【数15】
で表わされる
【数16】
の離散的逆フーリエ変換(inverse DFT)を取得するステップとを含む。
【0069】
緩和パラメータτは、次式を満たすように選択される。
【数17】
ただし、
【数18】
である。
【0070】
前述の反復法は、様々なデータの組に対して用いられ、緩和パラメータ
【数19】
が、好結果を示すと認められた。
【0071】
前述のように、前述の方法は、狭帯域照射の仮定に基づいて導出されたものである。光景中の各点からの照射のスペクトルが他のあらゆる点でのものと同一であるなら、この方法は広帯域の状況でも用いられ得る。この場合、この問題は、コンボリューション式へ戻ると簡単になり、したがって、従来の数学が依然として用いられ得る。空間領域内の基本式は次のように書かれ得る。
【数20】
Kλ(x)は、波長λでのマスクの回折パターンである。光景の任意の点から来る光のスペクトルが、他のあらゆる点からのものと同一であると仮定すると、次いで次のように書くことができる。
f(λ,x)=h(λ)f(x) 式(18)
【0072】
次いで、式(17)における積分の順序を入れ替えると次式をもたらす。
【数21】
括弧内の項は、依然として(y−x)の関数である。この関数を
【数22】
で表わすと、次式を得る。
【数23】
これは依然としてコンボリューション式であり、したがって、狭帯域コンボリューション問題向けに考案された方法は有効なのですべて使用され得る。ただ1つの違いは、Kλの代わりに広帯域の点広がり関数
【数24】
を用いなければならないことである。
【0073】
図9aは、本発明の原理を示す。データ22の各フレーム向けに適切な復号パターン24が取得され、次いでこれらはステップ26で前述の方法を用いて処理され、画像をもたらす。各マスクパターン向けに復号パターンが計算されてよく、または、図2に示されるように、符号化開口結像システムによって実際に測定され得る。
【0074】
図2に示されるように、点光源30は結像装置の視野内に配置されてよい。点光源は、光景の予期されたスペクトル特性と一致するように選択され、その結果、適切な回折パターンを形成する。各符号化開口マスク20向けに検出器アレイからの出力が記録され、そのマスク向けの復号パターン24を表わす。
【0075】
したがって、本発明は、データの単一フレームだけを使用して形成され得る画像より明瞭な画像を形成するために、データの複数のフレームを使用する。しかし、本発明の別の実施形態では、局所的ぶれの明細を明らかにするために画像全体にわたって処理することにより、さらなる明瞭さが得られる。
【0076】
この実施形態では、各画像領域向けに最適化された復号パターンを用いることにより、複数の局所的ぼかし解除関数すなわち小さな画像領域に適するぼかし解除関数が得られる。繰り返しになるが、図2に関して、前述のように復号パターンが記録され得る。図3は、光景の別の部分に配置された点光源を示す。再び、複数の符号化開口マスクパターン20は、再構成可能な符号化開口アレイ手段に連続的に書き込まれ、また、検出器アレイ8の出力が各符号化開口アレイ向けに記録される。このことは、光景中の点光源32の位置に対応する画像の部分向けに最適化された一連の復号パターン34をもたらす。このステップは、点光源を、光景中の複数の個別のn個の位置に出現させるように、符号化開口結像装置に対して移動させ、かつ各位置について各符号化開口アレイ向けに復号パターンを記録することにより繰り返される。
【0077】
光景中の各位置について各符号化開口アレイの復号パターンを記録(または計算)すると、符号化開口結像装置は、前述のように、光景をとらえてデータ22の複数のフレームを記録するために、図4に示されるように配置される。
【0078】
しかし、この実施形態では、データ22の各フレームは、最初に適切な復号パターン24との相関関係を算定され、データの各フレームについて部分的にぼかし解除された画像28をもたらす(図5を参照されたい)。中央の画像領域に対応する復号パターン24の組(すなわち符号化開口結像装置の直前にある点光源を使用して記録され、軸上の点光源と称されることになるもの。また、これに対応する復号パターンは軸上の復号パターンと称されることになる)を使用すると都合がよいが、いかなる1つの画像領域に対応する復号パターンの組も使用され得る。これは1組のm個の初期画像をもたらし、各初期画像は少なくとも部分的にぼかし解除されており、それがなかったならば、点広がり関数は画像全体にわたって変化することになる。したがって、処理の次の段階は、m個の画像の各々をn個の別々の画像領域に分割するものであり、点広がり関数は、これら個別の画像領域にわたって空間的に一様であり、各画像領域を別々にぼかし解除する。
【0079】
次に図6および図7を参照すると、復号パターン24、34の全体の組が取得され、各画像領域につき1個の焦点ぼかし解除関数または点広がり関数からなるn個の組36を形成するために使用される(図7を参照されたい)。このさらなるぼかし解除ステップでデコンボリューションされることになる点広がり関数は、図7に示されるように、軸上の復号パターン(あるいはどの復号パターンの組でも使用されて初期画像を形成する)と、例えば図3に示される位置2の適切な画像領域向けの復号パターンの間の相互相関を形成することにより計算される。
【0080】
換言すれば、軸上にない点広がり関数は、符号化開口結像装置が軸上にない点光源で照射されるときに得られるマスク回折パターンを復号することにより計算される。この復号は、システムが軸上の点光源で照射されたときのマスク回折パターンから導出される復号パターンを使用して実行される。
【0081】
次に図8を参照すると、m個の部分的にぼかし解除された画像が画像のセグメント化アルゴリズム80に渡される。このアルゴリズムは、各画像をn個の個別の画像領域へ分割する。したがって、これは1組のm×n個の部分的にぼかし解除された画像領域82をもたらす。
【0082】
各領域について、一般に、m個の部分的にぼかし解除された画像の各々の適切な部分であるi番目の領域84が、局所的ぼかし解除関数86の対応するセットと共に取得される。
【0083】
その後、各画像領域に対して前述の方法が適用され得る。換言すれば、結合された問題に対してTikhonov正規化38が適用され、次いで、画像は正値でなければならず、また、光景の中で暗いものと知られている画像の領域でゼロであるべきであるという制約を含んでLandweber反復法が実行された。これは、i番目の領域向けのぼかし解除された画像をもたらす。この方法は各画像領域について繰り返される。n個の画像領域がオーバラップして処理され、また、各画像についての処理結果は、いかなる端部のアーチファクトも回避するために、画像領域の中心に保持されるだけである。これは、データの結合されたフレームに基づく、n個の別個の画像領域にわたってぼかし解除された画像40をもたらす。
【0084】
前述のように、局所的なぼかし解除関数を用いるこの実施形態では、各画像領域に対して、局部的なぼかし解除のない第1の実施形態で適用されるものと同一の処理が適用される。図9aに示されるように、方法への入力が何であるかという点でわずかな違いがあるが、原理は同じである。図9aは、全体画像が処理される本発明の第1の実施形態向けの入力を示す。この場合、入力は、検出器アレイによって記録されたm個の輝度パターンおよび適切なm個の復号パターンである。これらは正規化された最小二乗適合によって解かれる、結合された逆問題を形成するために用いられる。
【0085】
図9bに示される第2の実施形態では、局所的なぼかし解除関数も用いられ、各画像領域は別々に処理される。各画像領域を選択することができるように、データの各フレームは、通常、軸上の復号パターンを用いて最初に処理され、最初の画像を形成する。したがって、マルチフレーム処理への入力は、複数のサブ画像、すなわちm個の第1の画像の各々の同一部分、および各サブ画像向けの適切なぼかし解除関数も含む。前の第1の実施形態におけるのと全く同様に、解かれるべき問題はデコンボリューションであり、したがって、当業者なら同一の処理法が適用され得ることを理解するであろう。
【0086】
図10aと図10bは、標準解像度チャートである同一のテスト光景が処理された2つの画像において、マルチマスク処理による改善を示す。図10aは、単一マスクおよびLandweber反復法を用いて処理された画像を示す。図10bは、8つのマスクおよびマルチマスクLandweber反復法を用いたマルチマスク処理からの最終画像を示す。マルチマスク処理が、はるかに明瞭な最終画像をもたらすことが認められ得る。
【図面の簡単な説明】
【0087】
【図1】本発明の符号化結像システムの概略図である。
【図2】符号化開口ごとに復号パターンがどのように記録され得るかを示す図である。
【図3】光景の個別の部分に対して、符号化開口アレイごとに復号パターンを記録することを示す図である。
【図4】符号化開口結像装置を使用してデータの複数のフレームを取得する様子を示す図である。
【図5】本発明の一実施形態によるデータ処理の第1段階を示す図である。
【図6】本発明の一実施形態によるデータ処理の第2段階を示す図である。
【図7】図6に示された複数の局所的ぼかし解除関数を形成するステップをより詳細に示す図である。
【図8】図6に示された局所的マルチマスク処理のステップをより詳細に示す図である。
【図9a】全体画像を処理する場合、本発明の方法がどのように動作するかを示す図である。
【図9b】別々の画像領域を処理する場合、本発明の方法がどのように動作するかを示す図である。
【図10a】処理された画像の例を示す図である。
【図10b】処理された画像の例を示す図である。
【技術分野】
【0001】
本発明は、符号化結像システムで取得された画像データを処理する方法に関する。
【背景技術】
【0002】
符号化開口結像法は知られている結像技術であり、一般に適当なレンズ材料が存在しないX線結像またはγ線結像など高エネルギーの結像に主として用いられ、例えばE.FenimoreおよびT.M.Cannonの「Coded aperture imaging with uniformly redundant arrays」、Applied Optics、17巻、No.3、337−347ページ、1978年2月1日、を参照されたい。符号化開口結像法は3次元結像法向けにも提案されており、例えばCannon TM、Fenimore EEの「Tomographical imaging using uniformly redundant arrays」、Applied Optics 18、no.7、1052−1057ページ、1979年、を参照されたい。
【0003】
符号化開口結像法はピンホールカメラと同一の原理を利用するが、単一の小さな開口を有するのではなく、開口のアレイを有する符号化開口マスクを使用する。開口の小さなサイズが高い角度分解能をもたらし、また、開口数が増加すると検出器に到着する照射が増し、したがって信号対雑音比が向上する。各開口が検出器のアレイへシーンの画像を通し、したがって、検出器アレイでのパターンはオーバラップした一連の画像であって、光景として認識できるものではない。録画データから元の光景の画像を再構成するために処理が必要とされる。
【0004】
再構成処理には、使用された開口アレイについての情報が必要であり、選択されたシステム構成および開口アレイは、その後の高品質の画像再構成を可能にするために符号化されることが多い。処理は、設定された位置での特定のアレイの数学的モデルを用いて実行される。
【0005】
Busboomらの「Coded aperture imaging with multiple measurement」、J.Opt.Soc.Am.A、14巻、No.5、1997年5月、は、各々が個別の符号化開口アレイを用いて取得される、光景の複数の測定を得る符号化開口結像技術を提案する。Busboomらは、相互相関技術を用いて画像再構成が実行され得ること、また、光源の量子雑音を考慮して、信号対雑音比を最大化するアレイの選択について論じている。
【0006】
従来の符号化開口結像法は、幾何学的結像技術であり、通常、例えば回折を無視できる天文学向けの用途に用いられるものと見なされ得る。上記で論じられた、Busboomらによって提案された技術は回折に無関係であり、したがって画像再構成に対する回折の効果は論じられていない。
【0007】
最近、再構成可能な符号化開口マスク手段を有する再構成可能な符号化開口結像装置を使用するために提案された、本出願人の同時係属のPCT特許出願の国際公開第2006/125975号パンフレットを参照されたい。再構成可能な符号化開口マスク手段を使用すると、個別の符号化開口マスクが別々のときに表示されることが可能になる。これによって、例えば、結像システムの方向および視野(FOV)が、いかなる可動部も必要とせずに変更されることが可能になる。さらに、結像システムの解像度も、符号化開口マスク手段上に表示される符号化開口マスクを変えることにより、変更され得る。
【0008】
符号化開口マスク手段上に表示されたパターンは符号化開口マスクであり、また、符号化開口マスクの少なくとも一部は符号化開口アレイである。すなわち、マスク手段上に表示されたパターン全体が符号化開口アレイであるか、またはパターンの一部だけが符号化開口アレイである。疑念を回避するために、本明細書に使用される用語「開口(aperture)」は、マスク手段中の実際のホールではなく、単に検出器に照射が達することを可能にするパターンの領域を意味する。
【0009】
国際公開第2006/125975号パンフレットは、いかなる可動部もなく、様々な視野または解像度を有するように迅速に構成することができる汎用かつ軽量の結像システムを教示する。それによって、従来型の光学部品が不要になり、等角画像能力が与えられ、無限の被写界深度を有することができ、画像を解読するには使用された符号化開口アレイについての情報が必要とされるので固有の電力不要の暗号化が与えられる。そこに説明された結像装置は、可視光線の周波数帯、赤外線周波数帯または紫外線周波数帯におけるいくつかの映像化および監視の用途向けに特に適する。
【発明の開示】
【発明が解決しようとする課題】
【0010】
しかし、高解像度の結像には、小さな開口サイズと検出器からマスクまでの長い光路が必要とされ、このことで回折の影響が増す。回折により、マスクによって検出器アレイ上に形成されるパターンのぶれ(blurring)が生じてその変調が低減し、それに対応して復号画像の品質に悪影響がある。
【0011】
したがって、本発明は、回折が存在する状態で優れた画像品質を回復する、符号化開口結像システムからの画像データを処理する方法を提供することを目的とする。
【課題を解決するための手段】
【0012】
したがって、本発明によれば、符号化開口結像システムから取り込まれたデータから画像を形成する方法が提供され、この方法は、符号化開口結像システムによって記録されたデータの複数のフレームの各々を個別の符号化開口アレイを使用して取得するステップと、データの各フレーム向けに、そのデータのフレームを得るのに使用された符号化開口アレイに対応する復号パターンを取得するステップと、データを処理して、データのすべてのフレームに対して、結合され正規化された最小二乗適合である復号画像をもたらすステップとを含む。好ましくは、この処理は、復号画像が正値(positive)でなければならないこと、また復号画像は予期された画像領域の外部ではゼロであるべきこと、の両制約の少なくとも1つを含む。
【0013】
したがって、本発明の方法によれば、複数の個別の符号化開口アレイすなわち複数の個別のマスクパターンを使用して取得されたデータを用い、また、データのフレーム全体およびそれに対応する符号化開口アレイに関する結合された逆問題の解決を試みる。
【0014】
当業者なら、回折のない場合には、符号化開口結像システムの検出器アレイで記録された信号は、特定の符号化開口アレイで記録されたデータの単一フレームに関して、光景の輝度と符号化開口アレイのマスクパターン(すなわち復号パターン)のコンボリューションにいくらかのノイズが加わったものとして記述され得ることを理解するであろう。回折のない場合、復号パターンは、符号化開口アレイのパターンに相当する。したがって、すべての復号アルゴリズムの目的は、マスクパターンの情報を用いることにより、例えばデコンボリューションまたは相互相関を実行することにより光景画像を回復することである。
【0015】
しかし、回折効果が顕著なとき、検出器アレイでの輝度パターンは、もはや開口の関数に直接対応しない。そうではなくて、検出器アレイで形成された回折図形は、実質的にはマスクパターンのぼかされた変形である。回折効果は、正確なデコンボリューションを妨げる。
【0016】
しかし、本出願人は、各々が個別の符号化開口アレイを使用して取得されたデータの複数のフレームを使用すると、回折が存在する状態で回復された画像の品質をかなり高めることができることを発見した。したがって、本発明の方法は、回折効果が顕著な符号化開口結像システムの検出器上に形成されて記録された輝度パターンであるデータのフレームに対して作用することができる。用語「顕著な(significant)」は、回折が、信号の著しい広がりをもたらし、かつ開口マスクの変調を低減することを意味する。
【0017】
本発明の方法では、データの複数の組が得られ、その各々が個別の符号化開口アレイを使用して取得される。本発明の方法は、各フレームデータに対してその関連する復号パターンを用いて、データを同時に復号する解決策を提供しようとするものである。後でより詳細に説明されるが、これは最小二乗問題および最小化問題に対して見出された解としてもたらされ得る。本発明の方法が個別のフレームからのデータを単純に結合するのでなく、データの各フレームによって示された別々の問題に対して同時の解を与えることに留意されたい。各符号化開口アレイ向けに用いられる復号パターンは、好ましくは、対象の波長で、符号化開口アレイによって検出器で形成される回折パターンに対応するものである。回折パターンは、動作波長で測定され得るか、または開口パターンを基に計算され得るが、これは以下で説明される。
【0018】
回折効果は、最小二乗最小化問題が不良設定問題であり、したがって、賢明な解をもたらすために、最小二乗適合に対して何らかの形の正規化が適用されるのが好ましいことを意味する。正規化の好ましい一形式は、BerteroおよびBoccacciによって提案された、M.BerteroおよびP.Boccacciの「Image Restoration Methods for the Large Binocular Telescope」、Astron.Astrophys.Suppl.147巻、323−333ページ、2000年、など、Tikhonov正規化のマルチ画像形式である。Tikhonov正規化は、逆問題の解法における知られている技術であり、例えば「Introduction to Inverse Problem in Imaging」、M.BerteroおよびP.Boccacci、Institute of Physics Publishing、1998年、ISBN 0750304359(以下BerteroおよびBoccacciと称する)の108ページも参照されたい。
【0019】
あるいは、ウィーナフィルタ技術を適用することができる。Landweber反復法などの反復技法も用いることができる。BerteroおよびBoccacciの291ページを参照されたい。
【0020】
画像品質の改善および回折効果の克服の企図のために、本発明の方法は、解に関するできるだけ多くの事前情報を含む。したがって、本発明の方法は、画像が正値であるべきこと、この復号画像が予期された領域の外部ではゼロであるべきこと、の両制約の一方または両方を含む。
【0021】
符号化開口結像法は、非干渉性の結像技術であり、再構成しようとする画像は輝度画像である。したがって、直接像は負値(negative)でないはずであり、すべての可能な解を、負値部を含まないように制約することができる。例えばG D de Villers、E R PikeおよびB McNallyの「Positive solutions to linear inverse problems」、Inverse problems、15、1999年、615−635ページによって説明された方法を用いて、解に正値性が含まれてよい。
【0022】
しかし、好都合には、Landweber反復法の変形形態を用いて解に正値性が含まれてよい。というのは、こうした方が、ともすれば実施が簡単なためである(BerteroおよびBoccacci、291ページを参照されたい)。この場合、この方法は、関数群に対して、正値の解の全部に対して1であり、負値の解の全部に対して0である射影演算子を用いることを含んでよい。換言すれば、ある反復の解の正値部だけが、その次の反復で用いられる。計算上、より大容量のメモリを食うものではあるが、Richardson−Lucy法(期待値最大化法としても知られている)は、射影されたLandweber法に類似の動作を有することに留意されたい(BerteroおよびBoccacci、179ページ)。
【0023】
前述のように、回折がない状態では、符号化開口結像法を幾何学的な結像技術と見なすことができる。したがって、符号化開口結像システム内の符号化開口アレイのサイズおよび間隔の情報が与えられると、画像が解読された後に、その予期されるサイズおよび位置があらかじめ分かる。回折は、予期された領域外のデータの広がりを効果的に引き起こす。直接像は、予期された領域内に全面的に位置するはずであり、したがって、理想的には、この予期された領域外には画像がないはずである。したがって、さらなる制約は、解すなわち復号画像は予期された領域外でゼロでなければならず、換言すれば、復号画像には一定の有限サポートがなければならない、となる。
【0024】
解のサポートすなわち復号画像は、予期された領域外でゼロでなければならないという制約も、Landweber反復法の変形形態を用いて、関数群に対して、予期された領域内の全領域に対して1であり、予期された領域外の全領域に対して0である射影演算子を用いることにより、本発明の方法に含まれてよい。
【0025】
ぶれの度合いが画像にわたって一定であると仮定すると、Landweber反復法の評価ステップは、処理が速くなるので周波数領域で実行されてよい。しかし、正値性および画像サポートを実現するためには空間領域で作業する必要がある。当業者なら、制約付きの解法にフーリエ変換を適用して周波数領域へ切り換え、新規の反復を解き、次いでフーリエ逆変換を適用して空間領域に戻すことができることがよく分かるであろう。
【0026】
したがって、本発明のとりわけ好ましい方法では、データの各フレームからのデータに対する最小二乗適合である画像解をもたらすデータ処理ステップは、画像解の第1の推定を形成する初期ステップと、それに次ぐ、解すなわち復号画像が正値でなければならず、その解は予期された画像領域内に制限されなければならない、すなわち予期された領域外で復号画像が0であるべきであるという制約を含む反復する改善ステップとを含む。反復ステップは、好ましくはLandweber反復法を適用する。
【0027】
したがって、本発明の方法は、回折効果が顕著なときでさえ、データのいくつかの個別フレームを使用して、優れた画像品質を再構成する方法を提供する。したがって、この方法は、回折効果が顕著であり得るとき、可視スペクトル、紫外線スペクトルまたは赤外線スペクトルで取得されたデータから画像を形成するのに用いられてよい。
【0028】
この方法は、現行フレームのデータおよび少なくとも1つの先行フレームのデータを用いてリアルタイムに適用されてよく、または、あらかじめ取得されたデータに対してオフラインで適用されてもよい。
【0029】
最小二乗適合で使用されるデータのフレーム数は、特定の用途次第であり、具体的には、フレームがどれくらい急速に捕えられるかということ、および光景の変遷に左右され得る。本発明の方法は、実質的に同一の光景であるデータのいくつかのフレームに基づくものである。光景が急速に変化しているか、または符号化開口システムが光景に対して急速に移動しているときにデータが取得されると、フレームをいくつ結合することができるかということに対して、さらに基本的に同一の光景であるということに関しても、制限があり得る。
【0030】
データの10フレーム程度を結合する静的な光景については、単一フレームのデータだけを処理するのと比較して、画像品質における優れた改善を示すことが認められた。同一の光景に対応するデータのより多くのフレームを使用すると、一般に画像品質が改善するはずであるが、処理のオーバヘッドも増加することになる。m+1個のフレームを処理すると、m個のフレームを使用するのと比較して画像品質の改善を示すことになるが、mの増加と共に有効性が低下する。しかし、処理負荷はmと共に増加し続けるはずであり、したがって、用途次第でフレームの最適数が存在することになる。当業者なら、約5、10、15、20または25あるいはより多い数であり得る、特定の用途向けのデータのフレームの最適数を求めることができるであろう。
【0031】
したがって、前述の本発明の方法は、データの単一フレームを処理するのと比較して、より明瞭な画像を生成する際に利点をもたらし、回折効果を克服するのに役立つ。本発明の一実施形態では、データはさらに処理されてよく、さらなる画質向上をもたらす。したがって、前述の複数フレームの手法は、符号化開口結像装置から取得されたデータの処理の包括的方法の一部を形成してよい。そのような包括的方法は、前もってデータの複数のフレームを取得し、各々を処理して初期画像を形成し、それに続いてこの複数の初期画像を使用して少なくとも1つの画質向上ステップを実行する。データは、最小二乗適合を適用する前に処理されて各フレーム向けの画像を形成する。
【0032】
各々のぼかされた初期画像は、点広がり関数と畳み込まれる直接像と見なされ得る。画質向上のステップは、次いで直接像を回復することである。
【0033】
当業者なら理解するように、点広がり関数は画像にわたって変化し得る。したがって、この方法は、画像品質を改善するために、これらの画像領域に対して最小二乗適合を実行する前に、各初期画像を点広がり関数が比較的一様な一連の画像領域に分割するステップを含んでよい。画像を複数の小さな画像領域に分割すると、その領域に関して点広がり関数が空間的に一様であることを保証するばかりでなく、全体画像を処理しようとするのと比較して計算も容易になる。小さな各画像領域を処理する際に、その特定の領域に対応する各初期画像からのデータが共に処理される。したがって、データの複数の個別フレームを使用する前述の方法は、小さな各画像領域について別々に実行される。
【0034】
初期画像は、データの各フレームについて様々なやり方で形成され得るが、好ましくは、データを取り込むのに使用された符号化開口アレイに対して適切な復号パターンを用いて、簡単な相互相関がデータの単一フレームに対して実行される。これは、回折が存在する状態で符号化開口アレイの回折パターンを用いることを除けば、符号化開口結像法における画像復号に対する従来型の手法である。
【0035】
したがって、初期画像は、全体画像に対して特定の復号パターンを使用して復号される。前述のように、復号パターンは、マスクによって動作の波長でもたらされた回折パターンに対応する。しかし、当業者なら、光景のある部分にある点光源が、光景の別の部分にある同一の点光源と比較して異なる回折パターンを形成することになることを理解するであろう。換言すれば、初期画像を形成するのに使用される復号パターンは、単に光景の一部分に対して適正な関数でよく、したがって、初期画像の他の部分は、光景のその部分に対応する実際の復号パターンとはわずかに異なる復号パターンを用いるためにぼかされ得る。したがって、各画像領域に対する最小二乗適合は、好ましくは画像のその領域向けに最適化された復号パターンを用いる。
【0036】
各領域に対して適切な復号パターンは、光景の個別の領域内の適切なスペクトル特性を有する点光源を結像して光景の各部分向けの検出器アレイ上に輝度パターンを記録することにより記録され得る。本出願人の同時係属の英国特許出願第0602373号明細書は、適切な復号パターンが記録され得る様々な方法を教示する。あるいは、各画像領域の復号パターンが計算され得る。
【0037】
好ましくは、最小二乗適合である各画像領域の処理ステップは、Tikhonov正規化を含む。好ましくは、各画像領域の処理ステップは、解が正値であるべきであるという制約を含む。
【0038】
離散的画像領域を処理すると、隣接する領域の端部で画像のアーチファクトが生じることがある。したがって、好ましくは第1の画像領域が取得されて処理される。しかし、再構成の値、すなわちこの領域の中心での最小二乗適合によって形成された復号画像だけが格納される。次いで、この領域は、数ピクセルだけ(第2の画像領域が第1の画像領域とオーバラップするように)移動され、この処理が繰り返される。これは、いかなる画像のアーチファクトの生成も防止する。
【0039】
したがって、本発明は2段階処理として実施され得る。したがって、本発明の別の態様では、符号化開口結像アレイから取り込まれたデータから画像を形成する方法が提供され、この方法は、データの複数のフレームの各々を個別の符号化開口アレイを使用して取得するステップと、データの各フレーム向けに、適切な符号化開口アレイに対応する復号パターンを取得するステップと、データを処理して、各フレームのデータに対して第1の画像解をもたらすステップと、次いで、画像の個別の領域向けに各々が最適化された1組の復号パターンから導出された1組のぼかし解除関数を用いて複数の第1の画像解をぼかし解除するステップとを含む。好ましくは、第1の画像解をぼかし解除するステップは、解が正値でなければならないという制約を含む。
【0040】
本発明は複数のマスク画像の使用に関するものであるが、第1の画像解を一連のサブ画像に分割するステップと、各々を別々に処理するステップとが、データの1つだけのフレームに対してさえ有利に適用され得ることに留意されたい。この場合、特定の復号パターンを使用してデータの単一フレームが処理され得て第1の画像解を形成し、次いで、複数の画像領域に分割され、各画像領域は、その画像領域向けに最適化された復号パターンを用いて別々に処理される。この、最適化された復号パターンを用いる別々の画像領域の処理によって、第1の画像解と比較して画像の品質が改善される。
【0041】
したがって、符号化開口結像システムによって記録されたデータから画像を形成する方法を実行することが可能になるはずであり、この方法は、画像を複数の小さな画像領域に分割し、その画像領域向けに最適化された復号パターンを別々に用いて小さな画像領域の各々を処理するステップを含む。実質上、各画像領域について逆問題を別々に解くことができる。
【0042】
各画像領域の逆問題の解法は、上記に概説された方法を用いて進めることができる。すなわち、初期解はフーリエ法を用いるTikhonov正規化で解くことができる。あるいは、「Scanning singular−value decomposition method for restration of images with space−variant blur」、D A Fish、J GrochmalickiおよびE R Pike、J.Opt.Soc.Am A、13、no.3、1996年、464−469ページで提案されたように、打切り型の特異関数展開が用いられ得る。これは、計算上Tikhonov正規化より強力な方法である。この方法は、点広がり関数に関連した特異値分解(SVD)の計算を必要とする。しかし、点広がり関数が空間的に一様であると、全体画像を処理するためにSVDを計算する必要があるのは1度だけである。繰り返しになるが、オーバラップする複数の小さな画像領域を処理して各領域向けに解を形成し、また、いかなる端部のアーチファクトも防止することだけのために各領域の中心での特定の解の値を保持するのが好ましいはずである。
【0043】
一般に、光景または光景中の対象に関する他の事前情報は、データ処理方法に含まれ得て画像を形成する。例えば、画像に少数の点の対象があると事前に分かっていれば、この方法は、曲線あてはめを含む超解像度法を用いる画質向上ステップを含むことができる。
【0044】
さらに、符号化開口結像装置が追跡用に使用されるならば、追跡が実行されるところで、高解像度のパッチが必要とされるだけでよい。これは、計算負荷をかなり削減することになる。したがって、この方法は、画像の対象部分、すなわち光景の動く部分あるいは対象の予想される領域または確認された領域でのみ画質向上を実行してよい。
【0045】
符号化開口結像装置が2つ以上の画像からの対象の追跡情報用に使用されるときも、TBD(track−before−detect)方式において結合され得る。従来、TBDアルゴリズムはレーダおよびソナーの分野で使用されており、目標識別を改善するために、センサからのいくつかのデータ収集からのデータを共に使用する。符号化開口結像システムからの個別の画像に対して類似の手法が使用され得る。
【0046】
上記説明は、本発明を方法のみに関して説明している。しかし、本発明によって、斬新な符号化開口結像システムも可能になる。したがって、本発明の別の態様では、再構成可能な符号化開口マスク手段を通して光景を結像するように配置された検出器アレイおよびプロセッサを備える符号化開口結像システムが提供され、再構成可能な符号化開口マスク手段は、複数の個別の符号化開口アレイを連続して与えるように構成され、プロセッサは、個別の符号化開口アレイごとに検出器アレイからの信号を記録し、前述の方法を適用して画像を形成する。
【0047】
次に、本発明が、以下の図面を参照しながら単に例として説明される。
【発明を実施するための最良の形態】
【0048】
符号化開口結像法(CAI)は、ピンホールカメラと同一の原理に基づくものである。ピンホールカメラでは、ピンホールから長い距離を遠ざけても色収差がない画像が形成され、はるかに大きな被写界深度を有する、よりコンパクトな結像システムの可能性を与える。しかし、輝度スループットが不十分であるという大きな不便があり、これは、ピンホールの集光特性が弱いことに起因する。それにもかかわらず、このカメラは、回折効果を考慮に入れなければならないが、ピンホールの直径によって決定された解像度を有する画像をなお生成することができる。ピンホールのアレイを使用することにより、角度分解能を維持したまま、システムの光スループットが数桁向上され得る。各検出器要素には、光景の各視点に対応して、様々なピンホールからの寄与の合計の結果が表れている。
【0049】
従来型CAIの動作の基本を理解する別のやり方には、これが単に幾何学的結像技術であることに注目するものがある。システムの視野(FOR)内の光景中のすべての点からの光は、検出器アレイ上に符号化開口の影を投じる。検出器は、これらの影の輝度の合計を測定する。符号化開口は、その自己相関関数が非常に低いサイドローブに対して鋭敏であるように特別に設計される。検出器の輝度パターンのデコンボリューションまたはデコリレーションが光景中の点の分布に対する優れた近似をもたらすことができるとき、一般に、擬似乱数的アレイまたは一様な冗長アレイ(URA)(E.FenimoreおよびT.M.Cannon「Coded aperture imaging with uniformly redundant arrays」、Applied Optics、17巻、No.3、337−347ページ、1978年2月1日、で説明されているものなど)が使用される。
【0050】
従来のCAIシステムは、一般に回折効果が最小限の用途で使用されてきた。例えば、符号化開口結像法は、天文学の結像でしばしば用いられてきた。しかし、符号化開口結像技術のいくつかの用途については、角度分解能をかなり改善する必要がある。このことは、可視波長帯、赤外線波長帯、または紫外線波長帯など、あるいは高解像度の結像を必要とする他の波長帯で動作するとき、特にあてはまり得る。検出器ピクセルが符号化開口アレイのフィーチャサイズpより小さいと仮定して、角度分解能は、tan−1(p/s)によって求められる。この式で、sはマスクと検出器アレイの間の光学距離である。したがって、結像装置の解像度を向上させるには、開口サイズを縮小するか、またはマスクから検出器への距離を増大するか、あるいはその両方が必要となる。比較的小さな開口および/またはマスクから検出器への大きな距離を用いると、回折効果が顕著になり始める。回折のぶれ効果は、検出器アレイ上に投射されたパターンが実質的に汚されて画像品質が低下することを意味する。
【0051】
図1は、全体的に2で示された符号化開口結像システムの例を概略的に示す。光景4中の点からの光線は特定の符号化開口アレイ6上に当る。符号化開口アレイはシャドウマスクとして働き、したがって、検出器アレイ8上に、一連のオーバラップするコード化画像が生成される。検出器アレイ上の各ピクセルで、オーバラップするコード化画像からの輝度が合計される。検出器アレイ8からの出力はプロセッサ10に渡され、次に、様々なデジタル信号処理技術を用いて、検知器信号から光景の画像が復号され得る。
【0052】
最近、国際出願(2006/125975)は、再構成可能なマスク手段6を使用して、再構成可能な符号化開口アレイを提供することを提案した。符号化開口マスク手段6は、再構成可能なマスク手段を制御して個別の符号化開口マスクを表示するコントローラ12によって制御される。符号化開口マスク手段の一部だけが符号化開口アレイを表示する場合には、マスクの残りは照射が検出器に達するのを妨げ、次いで、装置の視野は、符号化開口アレイの検出器に対する位置およびサイズによって決定され、その位置またはサイズの変化が、結像装置の視野および/または解像度を変化させる。
【0053】
したがって、CAIは、いかなる可動部も必要とせずに、被写界深度が大きく視野が可変で、コンパクトかつ軽量の結像装置をもたらす能力を提供する。
【0054】
前述のように、検出器アレイ8で形成された輝度パターンは、様々な開口によって生成された光景の一連のオーバラップする画像である。この輝度パターンは、光景の認識可能な画像を構成するために復号が必要である。
【0055】
図4は、データの複数のフレームの取込みを示す。再構成可能な符号化開口マスク手段6は、一連の符号化開口マスク20をもたらすように連続して構成され、また、表示される各符号化開口マスク向けに検出器アレイ8の出力22が記録される。
【0056】
単一のマスクパターンに関して、所望の光景に対する録画データに関する基本式は次式となる。
g=Af+ノイズ 式(1)
gは録画データであり、Aはマスクの回折パターンを含む線形演算子であり、また、fは所望の光景である。カメラは、輝度だけを記録することになり、したがって狭帯域照射の場合については、Aは、検出器アレイ上に記録されたマスクの回折パターンの2乗された係数を示すことになり、また、演算子Aは、コンボリューション演算子ということになる。この段階では、例えば狭帯域検出器を使用するかまたは狭帯域フィルタを適用する場合には、検出される照射は狭帯域であると仮定される。
【0057】
マルチマスクの手法は、個別のマスク構成(例えばM1−M4)に対応するデータの組を同時に復号するステップを含む。fについて、次の形の1組の演算子式を同時に解く必要がある。
Ajf=gj、 j=1、・・・、p 式(2)
pは、用いられた個別のマスク構成の数である。fに関して次式の乖離度関数(discrepancy function)を最小化しようとするとき、M.BerteroおよびP.Boccacciの「Image Restoration Methods for the Large Binocular Telescope」Astron.Astrophys.Suppl.147巻、323−333ページ、2000年、で説明されたように、これは最小二乗問題として表わされ得る。
【数1】
この最小化問題に対する解fは、次の正規方程式を満たすことになる。
【数2】
【0058】
次に、演算子Ajがコンボリューション演算子である(少なくとも狭帯域問題に関して)ことに注目して、この式の両辺の2次元DFTを取得することができて、次式をもたらす。
【数3】
【数4】
はj番目のマスクの回折パターンのフーリエ変換の共役複素数であり、
【数5】
は、j番目のマスクに対応するデータのフーリエ変換である。これは、解かなければならない重要な式である。
【0059】
回折が存在する状態では、基本式の解は不良設定の逆問題であり、賢明な解をもたらすためには何らかの形の正規化が必要である。1つの可能性に、Tikhonov正規化のマルチ画像形式(BerteroおよびBoccacci、2000年、式13)がある。
【0060】
フーリエ領域では、Tikhonovの解は次式の形をとる。
【数6】
μは正規化パラメータであり、また、次式が成り立つ。
【数7】
解が負値であってはならず、また、一定で有限のサポートを有する必要がある、すなわち、画像が画像空間中のどこにあると予期されるか分かっている必要がある、という事前情報が、この解法では考慮されていない。これを行う簡単なやり方は、通常のLandweber反復法を修正することである。
【0061】
本明細書で説明される方法は、M.BerteroおよびP.Boccacciの「Image Restoration Methods for the Large Binocular Telescope」、Astron.Astrophys.Suppl.Ser.147、323−333ページ、2000年、の式(17)で与えられるLandweber反復法の修正版である。この修正は、画像のサポートについての問題の情報を含むために必要である。
【0062】
この反復法は次式の形をとる。
【数8】
ここで、kは反復回数であり、τは緩和パラメータである。fの上の+添字は、最終的な解が負値でないはずであるということを示す。P+は、非負関数の組に対する射影演算子であり、次式で定義される。
【数9】
【0063】
この射影に加えて、所与のサポートS(すなわち画像が形成されることになる、画像空間の予期された部分)で関数群上への射影を実行する必要がある。これは次式で定義される射影演算子Psを用いて達成される。
【数10】
【0064】
検討中の問題については、画像のサイズのために、フーリエ領域でコンボリューションを行う方がはるかに簡単である。次いで、反復法は、空間領域で一定のサポートが実行されている状態で、空間領域とフーリエ領域の間で、非負関数の組上への射影と画像の組上への射影とを交換することにより進行することになる。
【0065】
したがって、本発明の方法は、一般に以下のように進行する。最初に、マルチ画像のTikhonov正規化(上の式6)を用いて解の初期推定が構成される。次いで、この結果は、所与のサポートで画像の組上に投影される(すなわち、知られている対象領域外の画像の要素がすべてゼロに設定される)。
【0066】
Tikhonov正規化に対する解の結果が、負値であるようには制約されず、一般に、正値部だけでなく顕著な負値部も有するはずであるということに留意されたい。ただ単に、この解のあらゆる負値部をゼロに設定し、正値部を使用して進行することができる。しかし、そのような技術を適用し、次いでグレースケール画像に対して前述の反復法を実行すると、反復法の進行と共に、画像上の影はサイズが増加する傾向があり、画像が不自然な外観を示すことが分かった。これは、顕著な負値部を有する初期画像の正値部を採用したことによるものと判断された。本出願人は、このタイプの起点で、初期画像上の負値領域が一旦ゼロに等しく設定されると、それらは反復法が進行するときゼロのままである傾向があり、このことが最終解を歪める恐れがあることを発見した。
【0067】
反復段階向けの初期画像がデータに正確に一致する必要はないので(一致は反復法を通して得られる)、初期画像をシフトして非負値にすることができる。これは、非常に有益な結果を与えるようである。したがって、この初期解に対してデータシフトが適用されて完全に正値の解が生成され、これは初期のfnewとして格納される。データシフトは、実質上、各ピクセルへの、すべてのピクセルを非負値にする値の単純加算である。
【0068】
このようにして初期解fnewを確立して、所定の回数だけメインの反復法が繰り返される。メインの反復法は、
(a)PSを使用して知られているサポート上にfnewを投影し、その結果をfnewに格納するステップと、
(b)P+を使用してfnewの正値部を取得し、その結果をfnewに格納するステップと、
(c)fnewの離散的フーリエ変換(DFT)を取得してこれを
【数11】
と呼ぶステップと、
(d)次式を評価するステップであって、
【数12】
ここに
【数13】
かつ
【数14】
であるステップと、
(e)
【数15】
で表わされる
【数16】
の離散的逆フーリエ変換(inverse DFT)を取得するステップとを含む。
【0069】
緩和パラメータτは、次式を満たすように選択される。
【数17】
ただし、
【数18】
である。
【0070】
前述の反復法は、様々なデータの組に対して用いられ、緩和パラメータ
【数19】
が、好結果を示すと認められた。
【0071】
前述のように、前述の方法は、狭帯域照射の仮定に基づいて導出されたものである。光景中の各点からの照射のスペクトルが他のあらゆる点でのものと同一であるなら、この方法は広帯域の状況でも用いられ得る。この場合、この問題は、コンボリューション式へ戻ると簡単になり、したがって、従来の数学が依然として用いられ得る。空間領域内の基本式は次のように書かれ得る。
【数20】
Kλ(x)は、波長λでのマスクの回折パターンである。光景の任意の点から来る光のスペクトルが、他のあらゆる点からのものと同一であると仮定すると、次いで次のように書くことができる。
f(λ,x)=h(λ)f(x) 式(18)
【0072】
次いで、式(17)における積分の順序を入れ替えると次式をもたらす。
【数21】
括弧内の項は、依然として(y−x)の関数である。この関数を
【数22】
で表わすと、次式を得る。
【数23】
これは依然としてコンボリューション式であり、したがって、狭帯域コンボリューション問題向けに考案された方法は有効なのですべて使用され得る。ただ1つの違いは、Kλの代わりに広帯域の点広がり関数
【数24】
を用いなければならないことである。
【0073】
図9aは、本発明の原理を示す。データ22の各フレーム向けに適切な復号パターン24が取得され、次いでこれらはステップ26で前述の方法を用いて処理され、画像をもたらす。各マスクパターン向けに復号パターンが計算されてよく、または、図2に示されるように、符号化開口結像システムによって実際に測定され得る。
【0074】
図2に示されるように、点光源30は結像装置の視野内に配置されてよい。点光源は、光景の予期されたスペクトル特性と一致するように選択され、その結果、適切な回折パターンを形成する。各符号化開口マスク20向けに検出器アレイからの出力が記録され、そのマスク向けの復号パターン24を表わす。
【0075】
したがって、本発明は、データの単一フレームだけを使用して形成され得る画像より明瞭な画像を形成するために、データの複数のフレームを使用する。しかし、本発明の別の実施形態では、局所的ぶれの明細を明らかにするために画像全体にわたって処理することにより、さらなる明瞭さが得られる。
【0076】
この実施形態では、各画像領域向けに最適化された復号パターンを用いることにより、複数の局所的ぼかし解除関数すなわち小さな画像領域に適するぼかし解除関数が得られる。繰り返しになるが、図2に関して、前述のように復号パターンが記録され得る。図3は、光景の別の部分に配置された点光源を示す。再び、複数の符号化開口マスクパターン20は、再構成可能な符号化開口アレイ手段に連続的に書き込まれ、また、検出器アレイ8の出力が各符号化開口アレイ向けに記録される。このことは、光景中の点光源32の位置に対応する画像の部分向けに最適化された一連の復号パターン34をもたらす。このステップは、点光源を、光景中の複数の個別のn個の位置に出現させるように、符号化開口結像装置に対して移動させ、かつ各位置について各符号化開口アレイ向けに復号パターンを記録することにより繰り返される。
【0077】
光景中の各位置について各符号化開口アレイの復号パターンを記録(または計算)すると、符号化開口結像装置は、前述のように、光景をとらえてデータ22の複数のフレームを記録するために、図4に示されるように配置される。
【0078】
しかし、この実施形態では、データ22の各フレームは、最初に適切な復号パターン24との相関関係を算定され、データの各フレームについて部分的にぼかし解除された画像28をもたらす(図5を参照されたい)。中央の画像領域に対応する復号パターン24の組(すなわち符号化開口結像装置の直前にある点光源を使用して記録され、軸上の点光源と称されることになるもの。また、これに対応する復号パターンは軸上の復号パターンと称されることになる)を使用すると都合がよいが、いかなる1つの画像領域に対応する復号パターンの組も使用され得る。これは1組のm個の初期画像をもたらし、各初期画像は少なくとも部分的にぼかし解除されており、それがなかったならば、点広がり関数は画像全体にわたって変化することになる。したがって、処理の次の段階は、m個の画像の各々をn個の別々の画像領域に分割するものであり、点広がり関数は、これら個別の画像領域にわたって空間的に一様であり、各画像領域を別々にぼかし解除する。
【0079】
次に図6および図7を参照すると、復号パターン24、34の全体の組が取得され、各画像領域につき1個の焦点ぼかし解除関数または点広がり関数からなるn個の組36を形成するために使用される(図7を参照されたい)。このさらなるぼかし解除ステップでデコンボリューションされることになる点広がり関数は、図7に示されるように、軸上の復号パターン(あるいはどの復号パターンの組でも使用されて初期画像を形成する)と、例えば図3に示される位置2の適切な画像領域向けの復号パターンの間の相互相関を形成することにより計算される。
【0080】
換言すれば、軸上にない点広がり関数は、符号化開口結像装置が軸上にない点光源で照射されるときに得られるマスク回折パターンを復号することにより計算される。この復号は、システムが軸上の点光源で照射されたときのマスク回折パターンから導出される復号パターンを使用して実行される。
【0081】
次に図8を参照すると、m個の部分的にぼかし解除された画像が画像のセグメント化アルゴリズム80に渡される。このアルゴリズムは、各画像をn個の個別の画像領域へ分割する。したがって、これは1組のm×n個の部分的にぼかし解除された画像領域82をもたらす。
【0082】
各領域について、一般に、m個の部分的にぼかし解除された画像の各々の適切な部分であるi番目の領域84が、局所的ぼかし解除関数86の対応するセットと共に取得される。
【0083】
その後、各画像領域に対して前述の方法が適用され得る。換言すれば、結合された問題に対してTikhonov正規化38が適用され、次いで、画像は正値でなければならず、また、光景の中で暗いものと知られている画像の領域でゼロであるべきであるという制約を含んでLandweber反復法が実行された。これは、i番目の領域向けのぼかし解除された画像をもたらす。この方法は各画像領域について繰り返される。n個の画像領域がオーバラップして処理され、また、各画像についての処理結果は、いかなる端部のアーチファクトも回避するために、画像領域の中心に保持されるだけである。これは、データの結合されたフレームに基づく、n個の別個の画像領域にわたってぼかし解除された画像40をもたらす。
【0084】
前述のように、局所的なぼかし解除関数を用いるこの実施形態では、各画像領域に対して、局部的なぼかし解除のない第1の実施形態で適用されるものと同一の処理が適用される。図9aに示されるように、方法への入力が何であるかという点でわずかな違いがあるが、原理は同じである。図9aは、全体画像が処理される本発明の第1の実施形態向けの入力を示す。この場合、入力は、検出器アレイによって記録されたm個の輝度パターンおよび適切なm個の復号パターンである。これらは正規化された最小二乗適合によって解かれる、結合された逆問題を形成するために用いられる。
【0085】
図9bに示される第2の実施形態では、局所的なぼかし解除関数も用いられ、各画像領域は別々に処理される。各画像領域を選択することができるように、データの各フレームは、通常、軸上の復号パターンを用いて最初に処理され、最初の画像を形成する。したがって、マルチフレーム処理への入力は、複数のサブ画像、すなわちm個の第1の画像の各々の同一部分、および各サブ画像向けの適切なぼかし解除関数も含む。前の第1の実施形態におけるのと全く同様に、解かれるべき問題はデコンボリューションであり、したがって、当業者なら同一の処理法が適用され得ることを理解するであろう。
【0086】
図10aと図10bは、標準解像度チャートである同一のテスト光景が処理された2つの画像において、マルチマスク処理による改善を示す。図10aは、単一マスクおよびLandweber反復法を用いて処理された画像を示す。図10bは、8つのマスクおよびマルチマスクLandweber反復法を用いたマルチマスク処理からの最終画像を示す。マルチマスク処理が、はるかに明瞭な最終画像をもたらすことが認められ得る。
【図面の簡単な説明】
【0087】
【図1】本発明の符号化結像システムの概略図である。
【図2】符号化開口ごとに復号パターンがどのように記録され得るかを示す図である。
【図3】光景の個別の部分に対して、符号化開口アレイごとに復号パターンを記録することを示す図である。
【図4】符号化開口結像装置を使用してデータの複数のフレームを取得する様子を示す図である。
【図5】本発明の一実施形態によるデータ処理の第1段階を示す図である。
【図6】本発明の一実施形態によるデータ処理の第2段階を示す図である。
【図7】図6に示された複数の局所的ぼかし解除関数を形成するステップをより詳細に示す図である。
【図8】図6に示された局所的マルチマスク処理のステップをより詳細に示す図である。
【図9a】全体画像を処理する場合、本発明の方法がどのように動作するかを示す図である。
【図9b】別々の画像領域を処理する場合、本発明の方法がどのように動作するかを示す図である。
【図10a】処理された画像の例を示す図である。
【図10b】処理された画像の例を示す図である。
【特許請求の範囲】
【請求項1】
符号化開口結像システムによって記録されたデータの複数のフレームを取得するステップであって、データの各フレームが個別の符号化開口アレイを使用して取得されるステップと、データの各フレーム向けに、そのデータのフレームを得るのに使用された符号化開口アレイに対応する復号パターンを取得するステップと、データを処理して、データのすべてのフレームに対して、結合され正規化された最小二乗適合である画像解をもたらすステップとを含む、符号化開口結像システムから取り込まれたデータから画像を形成する方法。
【請求項2】
処理が、解が正値でなければならないこと、また予期された画像領域の外部では解がゼロでなければならないこと、の両制約の少なくとも1つを含む、請求項1に記載の画像を形成する方法。
【請求項3】
符号化開口システムによって記録されたデータが、回折効果が顕著な照射の輝度パターンである、請求項1または請求項2に記載の画像を形成する方法。
【請求項4】
マルチ画像のTikhonov正規化を含む、請求項1から3のいずれかに記載の方法。
【請求項5】
データを処理するステップが、Landweber反復法を用い、解が正値であるという制約を含む、請求項1から4のいずれかに記載の方法。
【請求項6】
Landweber反復法が、関数群に対して、正値の解の全部に対して1であり、負値の解の全部に対して0である射影演算子を適用する、請求項5に記載の方法。
【請求項7】
データを処理するステップが、Landweber反復法を用い、予期された画像領域の外部で解がゼロであるという制約を含む、請求項1から6のいずれかに記載の方法。
【請求項8】
Landweber反復法が、関数群に対して、予期された画像領域内のすべての領域に対して1であり、予期された画像領域外のすべての領域に対して0である射影演算子を適用する、請求項6に記載の方法。
【請求項9】
Landweber反復法の評価ステップが周波数領域で実行され、解に対する制約が空間領域で課される、請求項5から8のいずれかに記載の方法。
【請求項10】
データへの最小二乗適合である画像解を与えるためにデータを処理するステップが、画像解の最初の推定を形成する最初のステップと、その次に、画像解が正値でなければならないこと、また解は予期された画像領域の外部ではゼロでなければならないこと、の両制約を含む反復する改善ステップとを含む、請求項1から9のいずれかに記載の方法。
【請求項11】
反復するステップがLandweber反復法を適用する、請求項10に記載の方法。
【請求項12】
最小二乗適合を実行する前にデータの各フレームを処理して初期画像を形成する最初のステップを含む、請求項1から11のいずれかに記載の方法。
【請求項13】
最小二乗適合を実行する前に各初期画像を一連の画像領域へ分割するステップをさらに含む、請求項12に記載の方法。
【請求項14】
各画像領域についてデータに別々の最小二乗適合が適用される、請求項13に記載の方法。
【請求項15】
各領域についての最小二乗適合が、その画像領域向けに最適化された復号パターンを用いる、請求項14に記載の方法。
【請求項16】
各画像領域についてのデータに対する最小二乗適合がTikhonov正規化を含む、請求項14または請求項15に記載の方法。
【請求項17】
各画像領域についてのデータに対する最小二乗適合が、解が正値であるべきであるという制約を含む、請求項14から16のいずれかに記載の方法。
【請求項18】
画像領域がオーバラップし、各領域の中心での最小二乗適合の値だけが格納される、請求項14から17のいずれかに記載の方法。
【請求項19】
データの各フレームを処理して初期画像を形成するステップが、データの各フレームを対象にして、そのデータのフレームを取り込むのに使用された符号化開口アレイに適切な復号パターンとの相互相関を実行するステップを含む、請求項12から17のいずれかに記載の方法。
【請求項20】
データの複数のフレームの各々を個別の符号化開口アレイを使用して取得するステップと、データの各フレーム向けに、適切な符号化開口アレイに対応する復号パターンを取得するステップと、データを処理して、各フレームのデータに対して第1の画像解をもたらすステップと、その次に、画像の個別の領域向けに各々が最適化された1組の復号パターンから導出された1組のぼかし解除関数を用いて複数の第1の画像解をぼかし解除するステップとを含む、符号化開口結像アレイから取り込まれたデータから画像を形成する方法。
【請求項21】
第1の画像解をぼかし解除するステップが、解が正値であるという制約を含む、請求項20に記載の方法。
【請求項22】
符号化開口結像システムによって記録されたデータが、可視スペクトル、紫外線スペクトルまたは赤外線スペクトルの範囲内の照射の輝度パターンである、請求項1から21のいずれかに記載の方法。
【請求項23】
再構成可能な符号化開口マスク手段およびプロセッサによって光景を結像するように配置された検出器アレイを備える符号化開口結像システムであって、再構成可能な符号化開口マスク手段が複数の個別の符号化開口アレイを連続して与えるように構成され、プロセッサが個別の符号化開口アレイの各々向けに検出器アレイからの信号を記録し、請求項1から22のいずれかに記載の方法を適用して画像を形成する、符号化開口結像システム。
【請求項1】
符号化開口結像システムによって記録されたデータの複数のフレームを取得するステップであって、データの各フレームが個別の符号化開口アレイを使用して取得されるステップと、データの各フレーム向けに、そのデータのフレームを得るのに使用された符号化開口アレイに対応する復号パターンを取得するステップと、データを処理して、データのすべてのフレームに対して、結合され正規化された最小二乗適合である画像解をもたらすステップとを含む、符号化開口結像システムから取り込まれたデータから画像を形成する方法。
【請求項2】
処理が、解が正値でなければならないこと、また予期された画像領域の外部では解がゼロでなければならないこと、の両制約の少なくとも1つを含む、請求項1に記載の画像を形成する方法。
【請求項3】
符号化開口システムによって記録されたデータが、回折効果が顕著な照射の輝度パターンである、請求項1または請求項2に記載の画像を形成する方法。
【請求項4】
マルチ画像のTikhonov正規化を含む、請求項1から3のいずれかに記載の方法。
【請求項5】
データを処理するステップが、Landweber反復法を用い、解が正値であるという制約を含む、請求項1から4のいずれかに記載の方法。
【請求項6】
Landweber反復法が、関数群に対して、正値の解の全部に対して1であり、負値の解の全部に対して0である射影演算子を適用する、請求項5に記載の方法。
【請求項7】
データを処理するステップが、Landweber反復法を用い、予期された画像領域の外部で解がゼロであるという制約を含む、請求項1から6のいずれかに記載の方法。
【請求項8】
Landweber反復法が、関数群に対して、予期された画像領域内のすべての領域に対して1であり、予期された画像領域外のすべての領域に対して0である射影演算子を適用する、請求項6に記載の方法。
【請求項9】
Landweber反復法の評価ステップが周波数領域で実行され、解に対する制約が空間領域で課される、請求項5から8のいずれかに記載の方法。
【請求項10】
データへの最小二乗適合である画像解を与えるためにデータを処理するステップが、画像解の最初の推定を形成する最初のステップと、その次に、画像解が正値でなければならないこと、また解は予期された画像領域の外部ではゼロでなければならないこと、の両制約を含む反復する改善ステップとを含む、請求項1から9のいずれかに記載の方法。
【請求項11】
反復するステップがLandweber反復法を適用する、請求項10に記載の方法。
【請求項12】
最小二乗適合を実行する前にデータの各フレームを処理して初期画像を形成する最初のステップを含む、請求項1から11のいずれかに記載の方法。
【請求項13】
最小二乗適合を実行する前に各初期画像を一連の画像領域へ分割するステップをさらに含む、請求項12に記載の方法。
【請求項14】
各画像領域についてデータに別々の最小二乗適合が適用される、請求項13に記載の方法。
【請求項15】
各領域についての最小二乗適合が、その画像領域向けに最適化された復号パターンを用いる、請求項14に記載の方法。
【請求項16】
各画像領域についてのデータに対する最小二乗適合がTikhonov正規化を含む、請求項14または請求項15に記載の方法。
【請求項17】
各画像領域についてのデータに対する最小二乗適合が、解が正値であるべきであるという制約を含む、請求項14から16のいずれかに記載の方法。
【請求項18】
画像領域がオーバラップし、各領域の中心での最小二乗適合の値だけが格納される、請求項14から17のいずれかに記載の方法。
【請求項19】
データの各フレームを処理して初期画像を形成するステップが、データの各フレームを対象にして、そのデータのフレームを取り込むのに使用された符号化開口アレイに適切な復号パターンとの相互相関を実行するステップを含む、請求項12から17のいずれかに記載の方法。
【請求項20】
データの複数のフレームの各々を個別の符号化開口アレイを使用して取得するステップと、データの各フレーム向けに、適切な符号化開口アレイに対応する復号パターンを取得するステップと、データを処理して、各フレームのデータに対して第1の画像解をもたらすステップと、その次に、画像の個別の領域向けに各々が最適化された1組の復号パターンから導出された1組のぼかし解除関数を用いて複数の第1の画像解をぼかし解除するステップとを含む、符号化開口結像アレイから取り込まれたデータから画像を形成する方法。
【請求項21】
第1の画像解をぼかし解除するステップが、解が正値であるという制約を含む、請求項20に記載の方法。
【請求項22】
符号化開口結像システムによって記録されたデータが、可視スペクトル、紫外線スペクトルまたは赤外線スペクトルの範囲内の照射の輝度パターンである、請求項1から21のいずれかに記載の方法。
【請求項23】
再構成可能な符号化開口マスク手段およびプロセッサによって光景を結像するように配置された検出器アレイを備える符号化開口結像システムであって、再構成可能な符号化開口マスク手段が複数の個別の符号化開口アレイを連続して与えるように構成され、プロセッサが個別の符号化開口アレイの各々向けに検出器アレイからの信号を記録し、請求項1から22のいずれかに記載の方法を適用して画像を形成する、符号化開口結像システム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9a】
【図9b】
【図10a】
【図10b】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9a】
【図9b】
【図10a】
【図10b】
【公表番号】特表2009−526205(P2009−526205A)
【公表日】平成21年7月16日(2009.7.16)
【国際特許分類】
【出願番号】特願2008−552891(P2008−552891)
【出願日】平成19年2月6日(2007.2.6)
【国際出願番号】PCT/GB2007/000407
【国際公開番号】WO2007/091049
【国際公開日】平成19年8月16日(2007.8.16)
【出願人】(501352882)キネテイツク・リミテツド (93)
【Fターム(参考)】
【公表日】平成21年7月16日(2009.7.16)
【国際特許分類】
【出願日】平成19年2月6日(2007.2.6)
【国際出願番号】PCT/GB2007/000407
【国際公開番号】WO2007/091049
【国際公開日】平成19年8月16日(2007.8.16)
【出願人】(501352882)キネテイツク・リミテツド (93)
【Fターム(参考)】
[ Back to top ]