説明

超解像観察装置

【課題】デジタル画像データに含まれるノイズ成分の強度が異なるそれぞれの場合において、超解像周波数成分の視認性が高く偽解像の発生の少ない超解像画像を生成する装置を提供する。
【解決手段】超解像観察装置(1)は、標本Sで生じる観察光の拡大像を撮像したデジタル画像データに含まれるノイズ(15,15’)のレベルに応じて変化する空間周波数強度変調手段(16,16’)を備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、結像光学系の解像限界を超える超解像の標本画像が得られる超解像観察装置に関するものである。
【背景技術】
【0002】
近年、結像光学系の解像限界を超える解像度(以降、超解像)の標本画像を得る技術が開発され、実用化されている。そのような超解像技術の一つとして、例えば構造化照明法 (SIM:Structured Illumination Microscopy)と呼ばれる顕微鏡法が知られている。SIMについては、例えば、特許文献1や非特許文献1で開示されている。
【0003】
顕微鏡観察において一般的な広視野観察法では、照明光はできるかぎり均一に標本に照射されるが、SIMでは、照明光を変調し、主に縞模様の照明光を標本に照射する。これにより、結像に寄与する観察光強度分布の空間周波数をシフトさせることが可能であり、結像光学系を透過後した後にこの空間周波数シフトを元に戻すことにより、結像光学系の解像限界を超えた超解像の標本画像を生成することができる。
【0004】
図1は従来の超解像観察装置の基本構成を示した図である。図2Aは標本S上における観察光強度空間周波数特性を示した図である。図2Bは像位置Iにおける観察光強度空間周波数特性を示した図である。図2Cは超解像処理された超解像画像の空間周波数特性を示した図である。これらの図を参照しながら、従来の超解像観察装置の基本構成とその作用について説明する。
【0005】
図1に示される超解像観察装置(1)は、標本Sに含まれる標識を励起し観察光を発光させるための励起光を標本Sに照射する励起光照射手段(2)と、励起光の標本S上における空間強度分布を変調させる励起光変調手段(3)と、標本Sに励起光が照射されて生じた観察光から標本Sの拡大像を像位置Iに形成する拡大像形成手段(4)と、拡大像の空間強度分布をデジタル画像データに変換する撮像手段(5)と、一枚または複数枚のデジタル画像データから拡大像形成手段(4)のカットオフ周波数を上回る超解像周波数成分を有する超解像画像を生成する超解像処理手段(6)とから構成される。
【0006】
励起光照射手段(2)は、標本Sを励起することのできる波長帯域及び十分な強度をもった励起光を、標本Sに向かって照射することができる。標本Sには局所的に励起光強度にほぼ比例する強度の観察光を発生させる標識が分布し、標本Sからは、標本S上の励起光の空間強度分布と標識の空間濃度分布の積に相関した空間強度分布を持つ観察光が発生する。広視野観察法に代表される、標本S上の励起光強度が一様な場合は、標本S上の観察光の空間強度分布は標識の空間濃度分布と相似であり、観察光の空間強度分布をフーリエ変換して得られる観察光強度空間周波数特性(7)も、標識の空間濃度分布をフーリエ変換して得られる標識濃度空間周波数特性(8)と等しい。一方、標本S上の励起光強度が一様でない場合は、標本S上の観察光の空間強度分布は標識の空間濃度分布と異なり、図2Aに例示されるように、観察光強度空間周波数特性(7)には、標識濃度空間周波数特性(8)を周波数空間でシフト量fsシフトしたいくつかのシフト成分(9)が、ある線形結合係数で加わる。
【0007】
励起光変調手段(3)は、励起光照射手段(2)と標本Sとの間に配置され、または励起光照射手段(2)の内部に含有され、標本S上における励起光の空間強度分布を経時的に変化させることができる。従って、観察光強度空間周波数特性(7)に含まれる標識濃度空間周波数特性(8)の各シフト成分(9)の線形結合係数を変化させることができる。
【0008】
拡大像形成手段(4)は、標本S上における観察光の空間強度分布を像位置Iに投影する。拡大像形成手段(4)は固有のカットオフ周波数fcを持ち、標本S上における観察光強度空間周波数特性(7)のうち、絶対値がfcより高い空間周波数の部分は像位置Iに投影できない。従って、図2Bに示されるように、像位置Iにおける観察光強度空間周波数特性(7’)は、標本S上における観察光強度空間周波数特性(7)のうち絶対値がfcより低い空間周波数の部分のみが含まれることとなる。従って、fcが拡大像形成手段(4)そのものの解像限界を決定する。
【0009】
撮像手段(5)は、像位置Iにおける観察光の空間強度分布を輝度数値よりなるデジタル画像データに変換する。デジタル画像データに含まれる各輝度数値は、像位置I上の座標に関連付けられ、各座標位置における観察光強度にほぼ比例する値となる。なお、標本S上の励起光の空間強度分布が一様ならば、このデジタル画像データは標識濃度空間周波数特性(8)の絶対値がfcより低い空間周波数の部分から構成される画像となる。これを広視野画像と呼ぶ。広視野画像のカットオフ周波数は、拡大像形成手段(4)のそれと同じfcである。一方、標本S上の励起光の空間強度分布が一様でないならば、図2Bに示されるように、このデジタル画像データは標識濃度空間周波数特性(8)のシフト成分(9)の、絶対値がfcより低い空間周波数の部分も含む。
【0010】
超解像処理手段(6)は、図2Cに示されるように、撮像手段(5)で生成されたデジタル画像データに含まれる標識濃度空間周波数特性(8)のシフト成分(9)のシフト量fsを元に戻すことにより、絶対値が標識濃度空間周波数特性(8)のfcより高い空間周波数fc+fsまでを含む成分から構成される超解像画像を生成する。
【先行技術文献】
【特許文献】
【0011】
【特許文献1】国際公開2006/109448号パンフレット
【非特許文献】
【0012】
【非特許文献1】M. Gustafsson, et. al., Biophysical Journal, Vol. 94, pp. 4957−4980
【発明の概要】
【発明が解決しようとする課題】
【0013】
次に、デジタル画像データに含まれるノイズ成分が超解像画像に与える影響について、図3A,B,Cを参照しながら説明する。図3Aは、標本Sの標識濃度空間周波数特性に対する超解像画像の空間周波数空間における伝達関数(MTF)(10)と、ノイズ成分の空間周波数特性(11)を例示した図である。図3Bは、ノイズ成分の無い場合のf1,f2,f3の各空間周波数成分の結像パターン(12)を例示した図である。図3Cは、ノイズ成分(13’)のある場合の各空間周波数成分の結像パターン(12’)を例示した図である。
【0014】
超解像観察装置(1)における標本Sから超解像画像までの空間周波数成分の伝達は、図3Aに示されるように、各空間周波数成分の結像コントラストが伝達関数(MTF)(10)により記述される。一般的にMTF(10)は、空間周波数が高くなるほど結像コントラストが低くなり、超解像画像のカットオフ周波数fc'を超えるMTF(10)はゼロとなる。
【0015】
まず、ノイズ成分の無い場合における各空間周波数成分の結像パターン(12)を説明する。ノイズ成分の無い場合における各空間周波数成分の結像パターン(12)は、図3Bに示されるように、その振幅がMTF(10)で示される結像コントラストに一致し、低い順にf1,f2,f3の空間周波数に対し、結像コントラストが低下するが、fc'より低い空間周波数成分については結像コントラストが存在するため、解像はfc'で示される。
【0016】
次に、例えば図3Aに示されるようにノイズ成分の空間周波数特性(11)が空間周波数領域に広く存在するようなランダムなノイズがある場合の各空間周波数成分の結像パターンについて説明する。ノイズ成分の空間周波数特性(11)が、空間周波数f3におけるMTF(10)より高い強度を持つ場合は、図3Cに示されるように、空間周波数f3以上の成分の結像パターン(12’)がノイズ成分(13’)にかき消されて見えなくなってしまうため、このときの超解像画像の実質の解像はf3よりも低くなる。しかし、超解像画像自体の空間周波数特性にはf3以上の空間周波数成分にノイズ成分(13’)由来のコントラストによる偽解像が存在し、観察者はそれが標識の空間濃度分布に起因するものと誤って解釈してしまうおそれがある。
【0017】
特許文献1には、撮像枚数を増やすことにより相対的にノイズ成分からの影響を少なくする方法が開示されてあるが、撮像時間に制限があるなど撮像枚数が実質的に限られる場合においてはノイズ成分の強度を十分に低くすることができず、上述の課題が解決されることはない。
【0018】
本発明では、デジタル画像データに含まれるノイズ成分の強度が異なるそれぞれの場合において、超解像周波数成分の視認性が高く偽解像の発生の少ない超解像画像を生成する装置を提供することを課題とする。
【課題を解決するための手段】
【0019】
本発明の第1の態様は、標本を励起するための励起光を標本に照射する励起光照射手段と、励起光の標本上における空間強度分布を変調させる励起光変調手段と、標本に励起光が照射されて生じた観察光から標本の拡大像を像位置に形成する拡大像形成手段と、拡大像の空間強度分布をデジタル画像データに変換する撮像手段と、一枚または複数枚のデジタル画像データから拡大像形成手段のカットオフ周波数を上回る超解像周波数成分の可視化された超解像画像を生成する超解像処理手段と、を備え、超解像処理手段はデジタル画像データに含まれるノイズの強度レベルに応じて処理内容を変化させることができる空間周波数強度変調手段を有する超解像観察装置を提供する。
【0020】
本発明の第2の態様は、第1の様態に記載の超解像観察装置において、空間周波数強度変調手段は、カットオフ周波数が互いに異なる複数のローパスフィルタを含む超解像観察装置を提供する。
【0021】
本発明の第3の態様は、第2の様態に記載の超解像観察装置において、ローパスフィルタは、画像データのフーリエ変換にフィルタ処理を行う超解像観察装置を提供する。
【0022】
本発明の第4の態様は、第2の様態に記載の超解像観察装置において、ローパスフィルタは、画像データにコンボリューションフィルタ処理を行う超解像観察装置を提供する。
【0023】
本発明の第5の態様は、第1の様態に記載の超解像観察装置において、空間周波数強度変調手段は、超解像観察装置の観察パラメータに応じて処理内容を変える超解像観察装置を提供する。
【0024】
本発明の第6の態様は、第5の様態に記載の超解像観察装置において、観察パラメータは、励起光照射手段の照明パラメータである超解像観察装置を提供する。
【0025】
本発明の第7の態様は、第5の様態に記載の超解像観察装置において、観察パラメータは、励起光変調手段の変調パラメータである超解像観察装置を提供する。
【0026】
本発明の第8の態様は、第5の様態に記載の超解像観察装置において、観察パラメータは、拡大像形成手段の結像パラメータである超解像観察装置を提供する。
【0027】
本発明の第9の態様は、第5の様態に記載の超解像観察装置において、観察パラメータは、撮像手段の撮像パラメータである超解像観察装置を提供する。
【0028】
本発明の第10の態様は、第1の様態に記載の超解像観察装置において、励起光はレーザ光であり、ノイズはレーザスペックルノイズである超解像観察装置を提供する。
【0029】
本発明の第11の態様は、第1の様態に記載の超解像観察装置において、ノイズは撮像手段により発生するショットノイズである超解像観察装置を提供する。
【0030】
本発明の第12の態様は、第11の様態に記載の超解像観察装置において、空間周波数強度変調手段は、デジタル画像データの輝度値に応じて処理内容を変える超解像観察装置を提供する。
【0031】
本発明の第13の態様は、第11の様態に記載の超解像観察装置において、空間周波数強度変調手段は、撮像手段の露出時間に応じて処理内容を変える超解像観察装置を提供する。
【0032】
本発明の第14の態様は、第1の様態に記載の超解像観察装置において、空間周波数強度変調手段は、超解像画像のMTFに応じて処理内容を変える超解像観察装置を提供する。
【0033】
本発明の第15の態様は、第1の様態に記載の超解像観察装置において、超解像処理手段は励起光変調手段の状態の異なる複数のデジタル画像データを用いて超解像画像を生成する超解像観察装置を提供する。
【0034】
本発明の第16の態様は、第1の様態に記載の超解像観察装置において、超解像処理手段は励起光変調手段により標本上における強度分布を変化させながら撮像したデジタル画像データを用いて超解像画像を生成する超解像観察装置を提供する。
【発明の効果】
【0035】
本発明によれば、撮像に含まれるノイズの強度が異なるそれぞれの場合において、超解像周波数成分の視認性が高い超解像画像を生成する装置を提供することができる。
【図面の簡単な説明】
【0036】
【図1】従来の超解像観察装置の基本構成を示した図である。
【図2A】標本S上における観察光強度空間周波数特性を説明する図である。
【図2B】像位置Iにおける観察光強度空間周波数特性を説明する図である。
【図2C】超解像処理された超解像画像の空間周波数特性を説明する図である。
【図3A】伝達関数(MTF)とノイズ成分の空間周波数特性を例示した図である。
【図3B】ノイズの無い場合における図3Aに示された各空間周波数成分の結像パターンを例示した図である。
【図3C】ノイズのある場合における図3Aに示された各空間周波数成分の結像パターンを例示した図である。
【図4A】超解像画像のMTFとデジタル画像データに含まれるノイズ強度と空間周波数フィルタに対する空間周波数特性を例示した図である。
【図4B】空間周波数フィルタの実空間分布を例示した図である。
【図5A】デジタル画像データにノイズが含まれない場合の空間周波数フィルタ1および2の作用を説明する図である。
【図5B】デジタル画像データにノイズ強度1のノイズが含まる場合の空間周波数フィルタ1および2の作用を説明する図である。
【図5C】デジタル画像データにノイズ強度2のノイズが含まる場合の空間周波数フィルタ1および2の作用を説明する図である。
【図6】超解像画像のMTFが異なる場合における、デジタル画像データに含まれるノイズ強度と空間周波数フィルタの選択について例示した図である。
【図7A】本発明の実施例1にかかる超解像観察装置の構成を示す図である。
【図7B】本発明の実施例1にかかる標本S上の蛍光の強度分布の空間周波数特性を説明する図である。
【図7C】本発明の実施例1にかかる空間周波数フィルタ及び空間周波数フィルタ作用前後における超解像MTFの空間周波数特性を例示する図である。
【図8A】本発明の実施例1にかかるノイズフィルタを作用させない選択と、ノイズフィルタ強または弱を作用させる選択ができるラジオボタンタイプのGUIを例示した図である。
【図8B】本発明の実施例1にかかるノイズフィルタのカットオフ周波数を連続的に可変できるスライダタイプのGUIを例示した図である。
【図8C】本発明の実施例1にかかるノイズフィルタのタイプを選択するラジオボタンと、カットオフ周波数を連続的に可変できるスライダと、オート設定ボタンがあるGUIを例示した図である。
【図9A】本発明の実施例2にかかる超解像観察装置の構成を示す図である。
【図9B】本発明の実施例2にかかるスキャンマスク上の変調パターンを示した図である。
【図9C】本発明の実施例2にかかる変調パターンを例示した図である。
【図10A】本発明の実施例2にかかる標本上における蛍光強度空間周波数特性を説明する図である。
【図10B】本発明の実施例2にかかる中間像位置における蛍光強度空間周波数特性を示す図である。
【図10C】本発明の実施例2にかかるスキャンディスク透過後の蛍光強度空間周波数特性を示す図である。
【図11】本発明の実施例2にかかる広視野画像および空間周波数フィルタ作用前後の超解像画像の空間周波数特性を説明する図である。
【図12A】本発明の実施例2にかかるデジタル画像データにノイズが含まれない場合における、二つの空間周波数フィルタおよび空間周波数特性補正前後の超解像画像の空間周波数特性を例示した図である。
【図12B】本発明の実施例2にかかるデジタル画像データにノイズが含まれる場合における、二つの空間周波数フィルタおよび空間周波数特性補正前後の超解像画像の空間周波数特性を例示した図である。
【発明を実施するための形態】
【0037】
本発明の空間周波数強度変調手段は、デジタル画像データに含まれるノイズの強度レベルに応じて処理内容を変化させることができる。簡単のため、空間周波数強度変調手段が複数の空間周波数フィルタを切り替えて使用する場合の作用を説明する。
【0038】
図4Aは、本発明にかかる超解像観察装置における超解像画像のMTF1(14)、デジタル画像データに含まれるノイズ強度1(15)とノイズ強度2(15’)、および空間周波数強度変調手段に含まれる切替え可能な空間周波数フィルタ1(16)と空間周波数フィルタ2(16’)に対する空間周波数特性を例示した図であり、図4Bは、空間周波数フィルタ1(16)と空間周波数フィルタ2(16’)の実空間分布を例示した図である。標本濃度空間周波数特性(8)の各空間周波数成分が超解像画像上で示すコントラストの比を表す超解像画像のMTF1(14)は、図4Aに示されるように、超解像画像のカットオフ周波数fc'より低い空間周波数に対し、単調減少でコントラストが低下する。撮像手段により発生するノイズはショットノイズに代表されるホワイトノイズであることが多く、その強度の空間周波数特性はほぼ一定な値となる。ノイズ強度は照明光の強度や撮像時間などの、超解像観察装置の観察パラメータにより強度が変化するが、ここでは代表的な二つのノイズ強度1(15)およびノイズ強度2(15’)が発生し得るものとする。
【0039】
このノイズ強度1(15)およびノイズ強度2(15’)それぞれと超解像画像のMTF1(14)との交点の空間周波数をカットオフ周波数にもつ二つの空間周波数フィルタ1(16)および空間周波数フィルタ2(16’)を、空間周波数強度変調手段は用意する。空間周波数フィルタ1(16)および空間周波数フィルタ2(16’)は、それぞれのカットオフ周波数以上の空間周波数成分をカットするローパスフィルタである。空間周波数フィルタ1(16)および空間周波数フィルタ2(16’)にシャープカットフィルタを用いた場合、それぞれのカットオフ周波数未満の空間周波数成分は変化を受けず、それ以上の空間周波数成分は完全に遮断される。
【0040】
この空間周波数フィルタ1(16)および空間周波数フィルタ2(16’)の作用について、図4A,Bおよび図5A,B,Cを用いて説明する。図5A,B,Cはそれぞれ、図4Aに示された空間周波数f1,f2,f3の各成分に対し、デジタル画像データにノイズが含まれない場合、強度1(15)および強度2(15’)のノイズが含まれる場合における、空間周波数フィルタ1(16)および空間周波数フィルタ2(16’)の作用について説明する図である。f1は拡大像形成手段4のカットオフ周波数fcよりも低い、広視野画像に含まれる周波数成分であり、f2,f3はfcよりも高い超解像周波数成分である。空間周波数フィルタ1(16)のカットオフ周波数はf3より高く、空間周波数フィルタ2(16’)のそれはf2より高くf3より低い。デジタル画像データに含まれるノイズ強度が0の場合は、図5Aに示されるように、空間周波数フィルタ作用前の超解像画像に含まれる標識濃度空間周波数特性(8)の各空間周波数成分は、それぞれの空間周波数に対応するMTFのコントラストを持ってきれいな正弦波状に結像する。空間周波数フィルタ1(16)は、カットオフ周波数がf3より高いので空間周波数f1,f2,f3の各成分は変化を受けず、各空間周波数成分のコントラストは保たれる。空間周波数フィルタ2(16’)は、そのカットオフ周波数より高いf3の空間周波数成分を遮断し、その結像コントラストを0にする。
【0041】
デジタル画像データにノイズ強度1のノイズ(16)が含まれる場合、図5Bに示されるように、空間周波数フィルタ作用前の超解像画像に含まれる各空間周波数成分の結像は、ノイズの混入により多少いびつな形となる。空間周波数フィルタ1(16)作用後は、各周波数成分の信号は僅かな強度変調が残るものの、ほぼノイズ無しの場合の信号を復元できている。しかし、空間周波数フィルタ2(16’)を作用させた場合は、空間周波数f3の成分が遮断され、実質的に解像が低下する。この場合は、空間周波数フィルタ1(16)を作用させることにより、超解像画像の実質的な解像をf3以下に低下させること無く、超解像画像に含まれるノイズを大幅に低減することができる。
【0042】
デジタル画像データにノイズ強度1(16)よりも高いノイズ強度2のノイズ(16’)が含まれる場合は、図5Cに示されるように、空間周波数フィルタ作用前の超解像画像に含まれる各空間周波数成分の結像は、ノイズの混入により更にいびつな形となる。特に、超解像画像のMTF1(14)がノイズ強度2(15’)を下回るf3の空間周波数成分においては、この結像から標識濃度空間分布の正しい形を推測することが非常に困難である。空間周波数フィルタ1(16)作用後も、空間周波数f3の成分の結像はノイズ無しの場合の信号から大きく乱れ、偽解像となって観察者に誤った解釈を与える恐れがある。空間周波数フィルタ2(16’)を作用させた場合は、空間周波数f3の成分が遮断され、超解像画像の実質的な解像がf3よりは低下するものの、標識濃度空間周波数特性(8)のf2以下の空間周波数成分の結像については良好な回復を示している。従ってこの場合は、空間周波数フィルタ2(16’)を作用させた方が、偽解像を防ぎながら超解像周波数成分(f2)を視認可能にするため、観察者にとってより好ましい。
【0043】
なお、ある場合において空間周波数フィルタは、図4Aに例示されるような空間周波数特性で与えられ、画像のフーリエ変換に対して掛け算で作用させる形態をとることが、空間周波数フィルタ作用後の超解像画像のカットオフ周波数を明確にすることができる点で好ましい。一方、その他の場合において空間周波数フィルタは、図4Bに例示されるような実空間における強度分布で与えられ、超解像画像そのものにコンボリューションで作用させる形態をとるほうが、計算量が少なく高速演算可能となる点で好ましいこともある。
【0044】
また、空間周波数強度変調手段の具体的構成については、上に説明したように複数の空間周波数フィルタを用意する他、超解像観察装置(1)の観察パラメータに応じて、空間周波数フィルタの形状を切り替えるような形態でも良い。観察パラメータとノイズ強度に相関が予測される場合は、観察パラメータをもとに空間周波数強度変調手段の処理内容を変更するようにしても良い。
【0045】
ここで、観察パラメータには、励起光照射手段(2)の照明パラメータ、励起光変調手段(3)の変調パラメータ、拡大像形成手段(4)の結像パラメータ、撮像手段(5)の撮像パラメータなどが含まれる。照明パラメータには、照明光の強度や波長、標本への照射開口数、照射角度、瞳振幅分布、更に照明光がパルス光の場合はパルス幅や波長帯域、瞬間強度やパルス波形などが含まれ、それらとノイズ強度に相関が予測される場合において、照明パラメータをもとに空間周波数強度変調手段の処理内容を変更するようにしても良い。変調パラメータには、変調パターン、変調速度などが含まれ、それらとノイズ強度に相関が予測される場合において、変調パラメータをもとに空間周波数強度変調手段の処理内容を変更するようにしても良い。結像パラメータには、対物レンズの開口数、拡大倍率、透過波長帯域などが含まれ、それらとノイズ強度に相関が予測される場合において、結像パラメータをもとに空間周波数強度変調手段の処理内容を変更するようにしても良い。撮像パラメータには、撮像手段のピクセルサイズ、受光感度特性、量子効率、ゲイン、飽和レベル、露出時間、冷却温度、読み出しノイズ、サーマルノイズ、ノイズリダクションなどが含まれ、それらとノイズ強度に相関が予測される場合において、撮像パラメータをもとに空間周波数強度変調手段の処理内容を変更するようにしても良い。
【0046】
励起光がレーザ光である場合は、デジタル画像データにレーザスペックルノイズが含まれることが多く、スペックルノイズの強度レベルに応じて処理内容を変化させることができる空間周波数強度変調手段を有することが好ましい。スペックルノイズの強度レベルは、主に光学系に存在するゴミや傷による散乱や、開口絞りのフチにおける回折、光学素子の表面反射による迷光などに起因するが、レーザ光の出力や波長や波長帯域、パルスレーザの場合はパルス幅によってもノイズ強度レベルが変化する。
【0047】
蛍光観察などの微弱光観察の場合には、デジタル画像データに含まれるノイズはフォトンノイズが支配的になる。フォトンノイズは撮像手段(5)内において、露光時間内の受光フォトン数がポアソン分布に従って揺らぐために発生する。受光フォトン数が少ないほど相対的なノイズ強度が高くなるため、実効的解像の高い超解像画像を生成するためには数多くのフォトン数が必要となり、その場合においてポアソン分布は正規分布で近似され、受光したフォトンの数Nの平方根√Nがデジタル画像データの輝度の揺らぎとなって現れる。従って、フォトンノイズは露出時間や画像データの輝度や撮像素子の量子効率と相関があると予測され、それらをもとに空間周波数強度変調手段の処理内容を変更するようにしても良い。
【0048】
空間周波数フィルタを実空間におけるコンボリューションフィルタとして作用させる場合においては、コンボリューションフィルタのサイズが大きければランダムノイズを効果的に抑制することができる一方で、コンボリューションフィルタのサイズが小さいほうが計算処理にかかる時間が短くできるので、コンボリューションフィルタのサイズをノイズ強度レベルや上記パラメータなどに応じて変更できるようにしても良い。
【0049】
観察パラメータにより、超解像画像のMTFが異なる場合も生じる。例えば図6に例示されるようにデジタル画像データに含まれるノイズ強度(15)が等しい場合においても、異なる超解像画像のMTF1(14)とMTF2(14’)とでは、ノイズ強度とMTFのコントラストが等しくなる空間周波数が異なるため、超解像画像がMTF1(14)の空間周波数特性を持つ場合には空間周波数フィルタ1(16)を選択し、超解像画像がMTF2(14’)の空間周波数特性を持つ場合には空間周波数フィルタ2(16’)を選択するように、空間周波数強度変調手段の処理内容を変更するようにしても良い。
【0050】
以上説明したように、デジタル画像データに含まれるノイズの強度レベルに応じて空間周波数強度変調手段の処理内容を変化させることにより、デジタル画像データに含まれるノイズの強度が異なるそれぞれの場合において、ノイズが少なくかつ超解像周波数成分の視認性が高い超解像画像を生成する技術を提供することができる。
【0051】
以下、各実施例について、具体的に説明する。
【実施例1】
【0052】
本発明をSIMに適用させた1実施例について、図7A,B,Cを参照しながら説明する。本実施例の超解像観察装置(17)の構成は、図7Aに示されるように、標本Sに含有される標識分子を励起する励起光であるレーザ光(18)を発するレーザ光源(19)と、レーザ光を標本観察位置に集光させる照明レンズ(20)と対物レンズ(21)の組合せと、レーザ光(18)を照明レンズ(20)と対物レンズ(21)との間で折り曲げるためのダイクロイックミラー(22)とからなる励起光照明手段(2)と、励起光照明手段(2)の内部の標本Sと共役位置に配置された回折格子(23)と、回折格子(23)の位置、方位を変えるための駆動装置(24)と、回折格子(23)と標本Sとの間の光路内に配置され照明光路を一部遮蔽するストッパ(25)とからなる励起光変調手段(3)と、対物レンズ(21)と協働し、標本S内の標識分子により発生した蛍光を像位置Iに拡大投影するための結像レンズ(26)と、蛍光が対物レンズ(21)から結像レンズ(26)に直進するように蛍光の透過率を高めたダイクロイックミラー(22)と、励起光が像位置Iに届かないように励起光波長をブロックするための阻止フィルタ(27)とからなる拡大像形成手段(4)と、像位置Iにおける蛍光の強度分布を数値化してデジタル画像データを生成するCCDカメラ(28)からなる撮像手段(5)と、駆動装置(24)を用いて回折格子(23)の位置および方位を変えながら収集した像位置Iにおける蛍光の強度分布のデジタル画像データを用いて超解像画像を生成する計算機(29)とからなる超解像処理手段(6)と、から構成される。
【0053】
レーザ光源(19)から発したレーザ光(18)が回折格子(23)を通過すると、0次回折光(30)と±1次回折光(31)が発生する。0次回折光(30)は光路内を直進し、途中のストッパ(25)により遮蔽され、±1次回折光(31)が対物レンズ(21)により標本S上に所定の角度を持って交わり干渉し、励起光強度分布をつくる。
【0054】
標本S上では、局所的に励起光強度分布と標本内の標識分子濃度分布の掛け算に比例する強度分布をもつ蛍光が発生する。標本S上の蛍光の強度分布の空間周波数特性(7)は、図7Bに示されるように、標本上に一様な強度分布の励起光が照射された場合に発生する標識濃度空間周波数特性(8)と、標本S上における励起光の不均一な強度分布から発生する中心が原点からシフトしたシフト成分(9,9’)が、標本S上の励起光強度分布で定まるある線形結合定数を持って結合している。
【0055】
計算機(29)は、まずCCDカメラ(28)で撮像されたデジタル画像データから、上述の図2を用いて説明された手順により超解像画像を生成する。このとき超解像画像には、図7Cに例示されるように、レーザ光スペックル由来のノイズ(32)が混在している。空間周波数フィルタ作用前においては、このレーザ光スペックル由来のノイズ(32)の強度が空間周波数フィルタ作用前の超解像画像のMTF(33)を上回る空間周波数fc'1以上の領域において偽解像を示し、観察者は標本内の標識空間分布を正しく認識することが困難となる。そこで、カットオフ周波数がfc'1のローパスフィルタである空間周波数フィルタ(16)を超解像画像に作用させる。このローパスフィルタ(16)作用後の超解像画像は、カットオフ周波数がfc'1となり解像限界が幾分低下するものの、レーザ光由来のスペックルノイズ(32)による偽解像が目立たなくなり、同時に空間周波数がfc'1以下の超解像周波数成分は正しく視認できるようになる。
【0056】
次に、ノイズフィルタの設定を行うGUI(グラフィカルユーザインターフェイス)の例について、図8A,B,Cを参照しながら説明する。ローパスフィルタ(16)に設定すべきカットオフ周波数fc'1は、ノイズ(32)の強度レベルにより変化するため、図8A,B,Cに示されるように、計算機(29)のモニタ画面上にはノイズフィルタの設定画面(34,34’,34’’)が表示される。図8Aは、ノイズフィルタの作用をさせない選択と、カットオフ周波数fc'1が異なるノイズフィルタ強または弱を作用させる選択ができるラジオボタン(35)が表示されたGUIの例である。観察者は超解像画像を見ながらこれら空間周波数フィルタの中から適当な選択をおこなうことができる。図8Bは、スライダタイプのGUIにより、ノイズフィルタのカットオフ周波数fc'1を連続的に可変できる例である。観察者は、超解像画像を見ながらノイズフィルタを細かく設定することが可能である。更に、オート設定ボタン(36)を選択ことにより、さまざまな観察パラメータをもとにノイズフィルタの強度を自動的に設定することもできるようになっている。図8Cは、ノイズフィルタのタイプを選択するラジオボタン(35’)と、カットオフ周波数fc'1を連続的に可変できるスライダ(37’)と、オート設定ボタン(36’)があるGUIの例である。ノイズフィルタのタイプは、シャープカット型、トライアングル型、トラペゾイド型、ガウシアン型から選択できるので、観察者はフィルタ作用後の超解像画像を見ながら最適なノイズフィルタのタイプを選択することができる。更に、強度設定のスライダにより、それぞれのタイプにおいてカットオフ周波数fc'1を細かく設定することや、オート設定ボタン(36’)によりfc'1の自動設定を行うことも可能である。
【0057】
従って、本実施形態のSIMによれば、撮像に含まれるノイズの強度が異なるそれぞれの場合において、ノイズを効果的に除去しつつも超解像周波数成分の視認性が高い超解像画像を生成する技術を提供することができる。
【実施例2】
【0058】
図9Aに構成が示される本発明の1実施例である超解像観察装置(38)は、蛍光標本である標本Sを観察するための蛍光顕微鏡である。蛍光顕微鏡は、標本Sを励起するための励起光を生成する水銀ランプ(39)と、励起光を標本Sに投影すると共に、標本Sに励起光が照射されて生じた観察光である蛍光から標本Sの中間像を中間像位置(40)に形成する中間結像光学系(41)と、中間像位置(40)で励起光および中間像の空間強度分布を変調するスキャンマスク(42)と、図9Bに示されるようにスキャンマスク(42)が有する変調パターン(43)を中間像に対して相対的に移動させるモータ(44)と、変調パターン(43)により空間強度分布が変調された中間像を撮像面(45)上にリレーする撮像レンズ(46)と、撮像面(45)上にリレーされた中間像の空間強度分布をデジタル画像データに変換するCCD(47)と、デジタル画像データに対して超解像処理を行う計算機(29’)と、を含んでいる。
【0059】
結像光学系(41)は、対物レンズ(21’)と結像レンズ(26’)とを含んでいる。照明光路(50)と観察光路(51)が交差する位置には、ダイクロイックミラー(22’)が配置されている。水銀ランプ(39)とダイクロイックミラー(22’)の間には、照明レンズ(20’)が配置されている。なお、中間結像光学系(41)と撮像レンズ(46)は、それぞれ投影倍率、リレー倍率が可変であってもよい。
【0060】
スキャンマスク(42)が有する変調パターン(43)の例は、図9Cに例示されるように、遮蔽部(49)を挟んで開口幅がwで周期がpの開口部分(48)を有する周期的な開口パターンである。スキャンマスク(42)がモータ(44)の駆動により回転することで、スキャンマスク(42)が有する変調パターン(43)は、中間像位置(40)に対して相対的に移動する。
【0061】
撮像レンズ(46)のカットオフ周波数およびCCD(47)のナイキスト周波数は、中間結像光学系(41)のカットオフ周波数fcを上回っている。なお、本明細書における中間結像光学系(41)のカットオフ周波数、撮像レンズ(46)のカットオフ周波数、CCD(47)のナイキスト周波数の比較は、標本Sの中間像位置(40)への投影倍率と中間像位置(40)の撮像面(46)への投影倍率を考慮して規格化された周波数により行われる点に留意する。
【0062】
計算機(29’)は、CCD(47)で取得されるデジタル画像データに対して、中間結像光学系(40)のカットオフ周波数fcを上回る高周波成分を強調する処理を行うように構成されている。
【0063】
このように構成された蛍光顕微鏡によれば、CCD(47)で取得されるデジタル画像データに超解像周波数成分を記録することができる。これは、スキャンマスク(42)が、回転により変調パターン(49)の位置を時々刻々と変化させながら、標本S上における励起光の空間強度分布を変調することに加えて、中間像位置(40)における標本Sの蛍光像の空間強度分布を復調することによって実現される。
【0064】
より具体的には、変調バターン(49)を透過した励起光が標本S上に投影されることにより、図10Aに示されるように、標本S上における蛍光強度空間周波数特性(52)には、標識濃度空間周波数特性(8’)およびそれが変調パターン(49)の周期pの逆数に相当する空間周波数±fsだけシフトしたシフト成分(9’)が含まれる。スキャンマスク(42)透過直前の中間像位置(40)における蛍光強度空間周波数特性(52’)は、中間結像光学系(41)により、標本S上における蛍光強度空間周波数特性(52)の絶対値がfc以下の空間周波数成分のみが伝達される。スキャンマスク(42)透過直後の蛍光強度空間周波数特性には、図10Bに示されるように、中間像位置(40)における蛍光強度空間周波数特性(52’)と、その空間周波数が±fsシフトしたシフト成分が発生するが、変調バターン(49)の周期pの移動にわたる積分により、図10Cに示されるように、トータルの空間周波数シフトが0となる成分のみ残り、超解像画像が形成される。モータ(44)によるスキャンマスク(42)の回転により変調パターン(49)も回転し、CCD(47)には等方的な解像をもつデジタル画像データが記録される。
【0065】
一般的にはデジタル画像データに含まれるシフト成分の線形結合係数は小さく、そのままではfcより高い超解像周波数成分が十分に可視化されない。そこで、画像処理手段において空間周波数特性の補正が行われる。
【0066】
図11は、本実施例における空間周波数特性の補正による超解像周波数成分の可視化の原理を説明するための、広視野画像(53)、空間周波数特性の補正前の超解像画像(54)、空間周波数フィルタ(55)、および空間周波数フィルタ(55)による空間周波数特性の補正後の超解像画像(56)の空間周波数特性を示した図である。空間周波数フィルタ(55)の縦軸は右側に示されており、他の要素の縦軸(左側)とスケールを変えて書いてある。空間周波数特性の補正前の超解像画像(54)の空間周波数特性は、広視野画像(53)のカットオフ周波数fcよりも高い空間周波数の超解像周波数成分が存在するが、そのコントラストが低いため十分に可視化されない。この処理前に画像に対し、超解像周波数成分のコントラストを強調する空間周波数フィルタ(55)を作用させた補正後の超解像画像においては、超解像周波数成分のコントラストが上がり可視化される。この空間周波数フィルタ(55)は、fcより高い空間周波数領域において特に高い増幅率を持つ。
【0067】
計算機(29’)によるデータ処理は、超解像画像をユーザにとって更に好ましい特性に仕上げるための、例えば輝度値調整や擬似カラー表示などを行うための画像処理を含むこともある。
【0068】
図12A,Bは、本実施例における二つの空間周波数フィルタ1(55)および空間周波数フィルタ2(55’)、空間周波数フィルタ作用前の超解像画像(54)、空間周波数フィルタ1(55)および空間周波数フィルタ2(55’)それぞれによる空間周波数特性補正後の超解像画像(56,56’)の空間周波数特性を例示した図である。
【0069】
空間周波数フィルタ1(55)は、デジタル画像データに含まれるノイズが無視できるほど十分少ない場合において、空間周波数フィルタ1(55)作用後の超解像画像の視認可能な解像力が最も高くなるように設計された空間周波数フィルタである。そのために空間周波数フィルタ1(55)によるコントラスト増幅率は、低周波数側から高周波数側に向かっての超解像画像の理論的な解像限界に対応するまで単調増加し、fc'1付近で最も高い増幅率となっている。
【0070】
一方、空間周波数フィルタ2(55’)は、デジタル画像データに含まれるノイズ(57)がある程度強い場合において、空間周波数フィルタ2(55’)作用後の超解像画像の視認可能な解像力が、空間周波数フィルタ1(55)を作用させた場合よりも高くなるように設計された空間周波数フィルタである。そのために空間周波数フィルタ2(55’)によるコントラスト増幅率は、空間周波数が低い領域では空間周波数フィルタ1(55)とほぼ同じであるが、fc'1より低い空間周波数fc'2に極大値を持ち、そのピークの位置よりも高い空間周波数においては増幅率が減少し、空間周波数フィルタ1(55)と比較して低い値となっている。デジタル画像データに含まれるノイズが無視できる場合においては、図12Aに示されるように、空間周波数フィルタ2作用後の超解像画像の実質的なカットオフ周波数fc'2は、空間周波数フィルタ1(55)を作用させた場合のfc'1に比較して、低い値となっている。
【0071】
デジタル画像データに含まれるノイズ(57)がある程度強い場合における、空間周波数フィルタ1(55)および空間周波数フィルタ2(55’)作用後の超解像画像に含まれるノイズの特性について、図12Bを用いて説明する。デジタル画像データに含まれるノイズ(57)は、空間周波数特性がほぼフラットな特性を持つが、空間周波数フィルタが作用された超解像画像においては、fc以上の空間周波数領域のノイズ成分が特に増幅される。空間周波数フィルタ1(55)作用後の超解像画像は、それに含まれるノイズ成分(58)により、実質的なカットオフ周波数fc'3は、ノイズの無い場合のカットオフ周波数fc'1に比較して低下する。空間周波数フィルタ2(55’)作用後の実質的なカットオフ周波数fc'4も同様にノイズの無い場合のカットオフ周波数fc'2より低下するが、後者の方がノイズの強度が低いため、fc'4はfc'3よりも高くなる。この場合においては、空間周波数フィルタ2(55’)を用いたほうが、好ましい結果が得られる。
【0072】
従って、本実施例においては、デジタル画像データに含まれるノイズ(57)のレベルに応じて、使用する空間周波数フィルタを切り替えて使用することが望ましい。
【0073】
本実施例においても、上述の二つの空間周波数フィルタを選択使用する代わりに、カットオフ周波数やコントラスト増幅率の極大値を連続的に変えられるようにしたり、空間周波数フィルタの種類を複数選択可能にしたりすることが可能である。その効果は実施例1と同様である。
【0074】
以上のように、本実施形態の超解像観察装置によれば、撮像に含まれるノイズの強度が異なるそれぞれの場合において、超解像周波数成分の視認性が高い超解像画像を生成する技術を提供することができる。
【符号の説明】
【0075】
1・・・超解像観察装置
2・・・励起光照射手段
3・・・励起光変調手段
4・・・拡大像形成手段
5・・・撮像手段
6・・・超解像処理手段
7・・・標本S上における観察光強度空間周波数特性
7’・・・像位置Iにおける観察光強度空間周波数特性
7’’・・・超解像処理された超解像画像の空間周波数特性
8、8’・・・標識濃度空間周波数特性
9、9’・・・シフト成分
10・・・伝達関数(MTF)
11・・・ノイズ成分の空間周波数特性
12、12’・・・各空間周波数成分の結像パターン
13、13’、13’’・・・ノイズ成分の結像パターン
14・・・超解像画像のMTF1
14’・・・超解像画像のMTF2
15・・・デジタル画像データに含まれるノイズ強度1
15’・・・デジタル画像データに含まれるノイズ強度2
16・・・空間周波数フィルタ1
16’・・・空間周波数フィルタ2
17・・・実施例1の観察装置
18・・・レーザ光
19・・・レーザ光源
20、20’・・・照明レンズ
21、21’・・・対物レンズ
22、22’・・・ダイクロイックミラー
23・・・回折格子
24・・・駆動装置
25・・・ストッパ
26、26’・・・結像レンズ
27・・・阻止フィルタ
28・・・CCDカメラ
29、29’・・・計算機
30・・・0次回折光
31・・・±1次回折光
32・・・レーザ光スペックル由来のノイズ
33・・・空間周波数フィルタ作用前の超解像画像
34、34’、34’’・・・ノイズフィルタの設定ウィンドウ
35、35’・・・ラジオボタン
36、36’・・・オート設定ボタン
37・・・スライダ
38・・・実施例2の超解像観察装置
39・・・水銀ランプ
40・・・中間像位置
41・・・中間結像光学系
42・・・スキャンマスク
43・・・変調パターン
44・・・モータ
45・・・撮像面
46・・・撮像レンズ
47・・・CCD
48・・・開口部分
49・・・遮蔽部分
50・・・照明光路
51・・・観察光路
52,52’,52’’・・・蛍光強度空間周波数特性
53・・・広視野画像
54・・・空間周波数特性の補正前の超解像画像
55・・・空間周波数フィルタ1
55’・・・空間周波数フィルタ2
56,56’・・・空間周波数特性の補正後の超解像画像
57・・・デジタル画像データに含まれるノイズ
58・・・空間周波数フィルタ1作用後の超解像画像に含まれるノイズ成分
58’・・・空間周波数フィルタ2作用後の超解像画像に含まれるノイズ成分
59・・・空間周波数フィルタ作用後の超解像画像
60・・・励起フィルタ

【特許請求の範囲】
【請求項1】
標本を励起するための励起光を前記標本に照射する励起光照射手段と、
前記励起光の前記標本上における空間強度分布を変調させる励起光変調手段と、
前記標本に前記励起光が照射されて生じた観察光から前記標本の拡大像を像位置に形成する拡大像形成手段と、
前記拡大像の空間強度分布をデジタル画像データに変換する撮像手段と、
一枚または複数枚の前記デジタル画像データから前記拡大像形成手段のカットオフ周波数を上回る超解像周波数成分の可視化された超解像画像を生成する超解像処理手段と、
を備え、
前記超解像処理手段は前記デジタル画像データに含まれるノイズの強度レベルに応じて処理内容を変化させることができる空間周波数強度変調手段を有する
ことを特徴とする超解像観察装置。
【請求項2】
前記空間周波数強度変調手段は、カットオフ周波数が互いに異なる複数のローパスフィルタを含む
ことを特徴とする請求項1記載の超解像観察装置。
【請求項3】
前記ローパスフィルタは、画像データのフーリエ変換にフィルタ処理を行う
ことを特徴とする請求項2記載の超解像観察装置。
【請求項4】
前記ローパスフィルタは、画像データにコンボリューションフィルタ処理を行う
ことを特徴とする請求項2記載の超解像観察装置。
【請求項5】
前記空間周波数強度変調手段は、前記超解像観察装置の観察パラメータに応じて処理内容を変える
ことを特徴とする請求項1記載の超解像観察装置。
【請求項6】
前記観察パラメータは、前記励起光照射手段の照明パラメータである
ことを特徴とする請求項5記載の超解像観察装置。
【請求項7】
前記観察パラメータは、前記励起光変調手段の変調パラメータである
ことを特徴とする請求項5記載の超解像観察装置。
【請求項8】
前記観察パラメータは、前記拡大像形成手段の結像パラメータである
ことを特徴とする請求項5記載の超解像観察装置。
【請求項9】
前記観察パラメータは、前記撮像手段の撮像パラメータである
ことを特徴とする請求項5記載の超解像観察装置。
【請求項10】
前記励起光はレーザ光であり、前記ノイズはレーザスペックルノイズである
ことを特徴とする請求項1記載の超解像観察装置。
【請求項11】
前記ノイズは前記撮像手段により発生するショットノイズである
ことを特徴とする請求項1記載の超解像観察装置。
【請求項12】
前記空間周波数強度変調手段は、前記デジタル画像データの輝度値に応じて処理内容を変える
ことを特徴とする請求項11記載の超解像観察装置。
【請求項13】
前記空間周波数強度変調手段は、前記撮像手段の露出時間に応じて処理内容を変える
ことを特徴とする請求項11記載の超解像観察装置。
【請求項14】
前記空間周波数強度変調手段は、前記超解像画像のMTFに応じて処理内容を変える
ことを特徴とする請求項1記載の超解像観察装置。
【請求項15】
前記超解像処理手段は前記励起光変調手段の状態の異なる複数の前記デジタル画像データを用いて前記超解像画像を生成する
ことを特徴とする請求項1記載の超解像観察装置。
【請求項16】
前記超解像処理手段は前記励起光変調手段により前記標本上における強度分布を変化させながら撮像した前記デジタル画像データを用いて前記超解像画像を生成する
ことを特徴とする請求項1記載の超解像観察装置。

【図2A】
image rotate

【図2B】
image rotate

【図2C】
image rotate

【図3A】
image rotate

【図3B】
image rotate

【図3C】
image rotate

【図4A】
image rotate

【図4B】
image rotate

【図5A】
image rotate

【図5B】
image rotate

【図5C】
image rotate

【図6】
image rotate

【図7A】
image rotate

【図7B】
image rotate

【図7C】
image rotate

【図8A】
image rotate

【図8B】
image rotate

【図8C】
image rotate

【図9A】
image rotate

【図9B】
image rotate

【図9C】
image rotate

【図10A】
image rotate

【図10B】
image rotate

【図10C】
image rotate

【図11】
image rotate

【図12A】
image rotate

【図1】
image rotate

【図12B】
image rotate


【公開番号】特開2013−76867(P2013−76867A)
【公開日】平成25年4月25日(2013.4.25)
【国際特許分類】
【出願番号】特願2011−216945(P2011−216945)
【出願日】平成23年9月30日(2011.9.30)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】