説明

顕微鏡画像を強調する方法及びシステム

或る照明方向でサンプルに光を当てることによりサンプルを照明し散乱光を捕捉することによって形成された顕微鏡画像を用いて強調画像を作成する。これは、画像の構成部分の強度を、サンプルの複数のそれぞれの要素における散乱パラメータのそれぞれの値に関連させる式を用いて行われる。散乱パラメータは、放射係数ρemとすることもできるし、そうでない場合は吸収係数ρabに等しくすることもできる。この式を解いて、散乱パラメータの値を見つける。散乱パラメータを用いて、強調画像、例えば、散乱パラメータ自体の変動をマッピングする画像を構成する。散乱パラメータが正確に見つけられることを条件として、強調画像は、不均一な光の減衰及び散乱に起因した劣化を原画像よりも受けにくくなる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、顕微鏡を用いて取得された画像である顕微鏡画像を強調する方法及びシステムに関する。特に、強調画像は、不均一な光の減衰及び散乱による劣化の影響がより少ない画像である。
【背景技術】
【0002】
顕微鏡法[1]は、生物学の重要な光学撮像技法である。2光子励起顕微鏡法及び単一平面照明顕微鏡法等の多くの顕微鏡技法があるが、共焦点顕微鏡法[1]は、バイオイメージングにとって最も重要なツールの1つとなってきている。共焦点顕微鏡法では、焦点ずれの光が、ピンホールの使用により取り除かれる。入射照明光は、ピンホールを通過し、サンプル内の小さな領域上に合焦され、この領域で、入射照明光はサンプルによって散乱される。入射照明光と同じ経路に沿って進む散乱光のみが、戻ってピンホールを通過し、そのような光は、光電子増倍管等の光検出器において再び合焦され、これによって、画像が生成される。共焦点顕微鏡を通じて取得された画像は、従来の広視野顕微鏡によって作成される画像よりも鮮明である。しかしながら、光減衰効果による劣化は、共焦点顕微鏡法では深刻である。共焦点顕微鏡法における基本的な問題は光透過問題である。入射光は、散乱されるので減衰し、したがって、厚いサンプルを透過することができない。その結果、サンプル内の深い領域から取得された画像は、サンプルの表面に近い領域から取得された画像よりも指数関数的に暗く見える。光透過の難題は、共焦点顕微鏡法に限ったものではない。単一平面照明顕微鏡法及び広視野顕微鏡法等の他の光学顕微鏡技法も同じ問題に悩まされている。古典的な空間不変デコンボリューション手法[2]、[3]、[4]は、顕微鏡法撮像のこの問題にうまく対処することができない。
【0003】
上述した問題を解決する試みは、レーザー出力を増加させるか又は光電子増倍管の感度を増大させるかのいずれかによって行われてきた[20]。双方の技法は、不十分であり、レーザー出力の増加は光退色効果を加速させるのに対して、光電子増倍管の感度の増大は雑音を追加するという欠点を有する。Umesh Adiga及びB. B. Chaudhury[21]は、画像スタックの深度に沿った光減衰を考慮に入れて画像を復元するために、単純なしきい値処理方法を用いて前景から背景を分離することを議論している。この技法は、軸方向解像度を改善するために、画像ボクセルが、画像スタックに画像スライスを仮想的に挿入するXOR輪郭形成(XOR contouring)及びモーフィングに基づいて等方性である(これは共焦点顕微鏡法には当てはまらない)と仮定する。
【0004】
表面的には無関係な技術分野が屋外撮像の分野である。その分野内では、大気エアロゾルに起因した劣化画像の復元の問題が、監視、ナビゲーション、追跡、及びリモートセンシング[5]、[10]等のその重要な用途のために広範囲にわたって研究されてきた[5]、[6]、[7]、[8]、[9]、[10]、[11]、[12]、[13]。これらの劣化画像の復元に用いられる復元技法と類似の復元技法は、水中ビジョン[8]、[9]において、具体的には水中ケーブル及び水中パイプラインの監視等について、新しい用途も創出している。さまざまな復元アルゴリズムが、均一な媒体を通る光減衰及び光散乱(大気散乱光)の物理モデルに基づいて提案されている。そのような画像復元アルゴリズムに関するこれまでの研究の1つ[5]は、シーンの奥行きの正確な情報を必要とする。その後の研究は、シーンの奥行きの必要性を巧みに回避したが、必要とされる情報を回復するのに複数の画像を必要とする[8]、[9]、[10]、[14]。Narasimhan及びNayar[10]、[11]、[12]、[13]は、1つの劣化画像のみから全ての必要な情報を抽出する対話型アルゴリズムを開発した。この方法は、大気散乱光の色(airlight color)及び「良好な色の領域」の手動選択を必要とする。これらの復元技法に関する基本的な問題は、雑音の増幅である。この基本的な問題を取り扱う試みは、Kaftory他[14]によって提案された変分手法(variational approach)における正則化項を用いることで行われる。
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明は、上記問題を克服することができる、画像を復元する方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
概括的に言えば、本発明は、或る照明方向でサンプルに光を当てることによりサンプルを照明し散乱光を捕捉することによって形成された顕微鏡画像を用いて強調画像を作成することを提案する。これは、顕微鏡画像の構成部分の強度を、サンプルの複数のそれぞれの要素における散乱パラメータのそれぞれの値に関連させる式を用いて行われる。散乱パラメータは、放射係数ρemとすることもできるし、そうでない場合は吸収係数ρabに等しくすることもできる。この式を解いて、散乱パラメータの値を見つける。散乱パラメータの値を用いて、強調画像、例えば、散乱パラメータ自体の変動をマッピングする画像を構成する。
【0007】
散乱パラメータの値が正確に見つけられることを条件として、強調画像は、不均一な光の減衰及び散乱に起因した劣化を原画像よりも受けにくくなる。
【0008】
上記式は、各要素の散乱パラメータの値を、入射光の方向に沿った要素の散乱パラメータの値の関数として与えることができる。この場合、散乱パラメータの値は、ロケーションについて連続的に、さらに照明方向でも連続的に見つけることができる。
【0009】
上記式は、照明方向に平行な一組の要素を取り囲む領域にわたって規定された散乱パラメータの平均値を用いることができる。
【0010】
本発明は、代替的に、そのような方法を実行するコンピュータシステムとして表現することもできる。このコンピュータシステムは、画像を取得するデバイス、例えば顕微鏡と統合することができる。本発明は、上記方法のステップを実行する、コンピュータシステムによって動作可能なプログラム命令を含む、有形のコンピュータ媒体に記録されるようなコンピュータプログラム製品として表現することもできる。
【0011】
次に、単なる例示の目的で、以下の図面を参照して本発明の一実施形態を示すことにする。
【図面の簡単な説明】
【0012】
【図1】本発明の一実施形態による顕微鏡画像を強調する方法のフロー図である。
【図2】サンプルの要素に入射する光の減衰を示す図である。
【図3】微小体積によって放射される光の散乱を示す図である。
【図4】共焦点顕微鏡法のジオメトリを示す図である。
【図5】顕微鏡の焦点レンズとサンプルとの間の複数のzスタックを生成するプロセスを示す図である。
【図6】単一平面照明顕微鏡法の側方散乱ジオメトリを示す図である。
【図7】図7(a)〜図7(d)は、図1の方法を用いて得られた一組の強調結果を示す図であり、入力画像は、フルオレセイン及び液体ゲルを用いて調製されたサンプルの画像であり、共焦点顕微鏡法を用いて取得されている。
【図8】図8(a)〜図8(c)は、図1の方法を用いて得られた第1の一組の強調結果を示す図であり、入力画像は、ニューロステムセル(neuro stem cell)の画像であり、共焦点顕微鏡法を用いて取得されている。
【図9】図9(a)〜図9(c)は、1の方法を用いて得られた第2の一組の強調結果を示す図であり、入力画像は、ニューロステムセルの画像であり、共焦点顕微鏡法を用いて取得されている。
【図10】図1の方法を用いて得られた一組の強調結果を示す図であり、入力画像は、合成劣化画像(synthetically degraded image)であり、単一平面照明顕微鏡法を用いて取得されている。
【図11】図11(a)および図11(b)は、図1の方法を用いて得られた強調結果に対して1/α’nの値を変動させた効果を示す図であり、入力画像は、合成劣化画像であり、単一平面照明顕微鏡法を用いて取得されている。
【発明を実施するための形態】
【0013】
図1を参照すると、本発明の一実施形態であって、顕微鏡画像を強調する方法である方法100のステップが示されている。
【0014】
方法100への入力は、サンプルを照明しかつサンプルの要素により吸収されて散乱された光を収集する顕微鏡を用いて取得されたサンプルの画像である。画像のピクセルはサンプルの要素に対応する。サンプル内の各点における強度は、(サンプルを通過するにつれて次第に減衰される)入射光の成分と散乱に起因した散乱成分との和である。サンプルの所与の要素による入射光の散乱は、散乱パラメータの値によって記述される。散乱パラメータは、通常、放射係数ρemであるか、そうでない場合は吸収係数ρabに等しい。ステップ102において、画像ピクセルごとに、対応する要素の散乱パラメータの値が、散乱パラメータの値と画像の強度とを関連させる数式を用いて計算される。ステップ104において、強調画像が、散乱パラメータの計算された値を用いて形成される。ステップ102の前に入力画像を線形に正規化することができる。さらに、方法100は、強調画像内のピクセルの強度を0〜(2−1)の範囲に線形にスケーリングするステップをさらに含みうる。ここで、nは、ピクセルを表すのに用いられるビット数である。
【0015】
数式の微分を以下で検討する。以下の検討は、共焦点顕微鏡法の場合と側方散乱ジオメトリの場合との式を解く方法に関する議論をさらに含んでいる。
【0016】
1.場の理論的定式化
サンプル、場合によっては減衰媒体、光源、及び検出器(例えばカメラ)を含む撮像システム全体を含んだ関心領域Ω∈Rを仮定する。実際には、光源は無限遠から光を発することもできるが、一例では、光源は、関心領域∂Ωの境界から光を発するものとみなされる。しかしながら、これは本発明の実施形態の要件ではないことに留意されたい。r∈Ωは、光源内の点の集合であり、rは検出器内のボクセルのロケーションである。
【0017】
1.1 光子密度及び光強度
光子(光)密度及び光強度場の数学モデルは次のように記述される。図2は、サンプルの要素に入射する光の減衰を示している。図2において、dl及びdAは、それぞれ要素の微小長さ及び微小面積を示す。式(1)において、cは媒体内での光速度であり、f(r)dldAは、微小体積dV=dldA(図2参照)内の光子の総数である。式(1)は、単位体積あたりの光子数f(r)と光強度n(r)との間の関係を与える。n(r)は、単位時間あたりに単位面積を通過する光子の数である。
【数1】

【0018】
1.2 減衰係数及び吸収係数
媒体を通る光の減衰度は、媒体の不透明度及び媒体内を進む距離に依存する。図2を参照して、光は、(図2にn(r)とラベル付けされた矢印によって示されるように)点rにおいてx軸に沿って要素に入射すると仮定すると、微小厚さdlを有する媒体を通る強度の微分変化は、式(2)によって与えられる。式(2)において、ρab(r)は点rにおける光の吸収係数である。いくつかの論文では、ρab(r)は、吸光係数(extinction coefficient)としても知られている[5]、[8]、[14]。ρab(r)は、一般的には光の波長の関数、すなわち、
【数2】

であるが、簡単にするために、下付き文字は以下の検討では省略されていることに留意されたい。複数の波長を取り扱うために、これらの式の一般化は簡単に行うことができる。
【数3】

【0019】
の光源から点rへの全減衰効果を計算するために、式(2)は、式(3)に示すようにrからrまで積分される。ここで、γ(r:r)は、rとrとを結ぶ光線を示す。
【数4】

【0020】
次に、rからrへの全減衰効果を記述する式(4)は、全ての光源から点rへの光線にわたって式(3)のn(r)を総和することによって導出される。式(4)において、下付き文字Aを有するn(r)は、減衰成分の影響を受けた光強度を示し、全ての光源から発して光源と点r(r∈Ω)との間の光線に沿って減衰された全光強度である。式(4)は、光強度が一般に指数関数的に減衰し、指数関数的減衰率は、点が異なれば変動することを表している。
【数5】

【0021】
1.3 光子吸収率及び光子放射率
光子吸収率及び光子放射率は、式(5)に示すような連続の式(continuity equation)を用いて関係付けられる[18]
【数6】

ここで、
【数7】

は入射光の方向である。
【0022】
式(1)及び式(5)を結合すると、単位体積あたり単位時間あたりの吸収光子の数が式(6)に与えられる。
【数8】

【0023】
連続の式(すなわち式(5))を式(2)に関係付けると、単位体積あたり単位時間あたりの光子数を記述する式(7)が導出される。
【数9】

【0024】
1.4 散乱係数及び放射係数
媒体は全ての方向に光を散乱するので、散乱光は、媒体の他の部分の粒子によって再び吸収及び散乱される可能性がある。吸収される光子の数が、放射される光子の数に等しい場合、単位体積あたり単位時間あたりに放射される光子の数は、dn(r)/dlであり、式(7)によって、r’における微小体積dr’によって放射される光の率は、n(r’)ρab(r’)dr’によって与えられる。しかしながら、一部の光エネルギーは、熱を通じて又は他の或る手段によって散逸される場合がある。散逸性媒体の場合、一部の光エネルギーは散逸される。この明細書では、ρemは、放射係数を表すのに用いられ、放射率は、n(r’)ρem(r’)dr’によって与えられ、ここで、n(r’)ρem(r’)dr’≦n(r’)ρab(r’)dr’である。
【0025】
図3は、微小体積によって放射された光の散乱を示している。図3に示すように、微小体積dr’によって放射された光子の総数は、n(r’)ρem(r’)によって与えられる。図3を参照すると、これらの光子の一部分が点rに到達し、微小体積dr’からの光の散乱に起因して点rで受け取られる微小入射光強度は、式(8)に与えられる。
【数10】

【0026】
式(8)において、下付き文字Sは散乱成分を表し、γ(r’:r)はr’からrへの光線である。第1項の分母は、3D空間のジオメトリを反映するジオメトリックファクターである。分子は、体積要素dr’によって単位時間あたりに放射される光子の数である。第2項は、r’からrへの光の減衰を表す。全てのr’∈Ω,r’≠rにわたって積分すると、点rで受け取られる全散乱光は、式(9)に与えられる。
【数11】

【0027】
1.5 画像形成
点r∈Ωにおける全光強度は、式(10)に示すように減衰成分及び散乱成分の和として記述することができる。
【数12】

【0028】
式(10)に記述されるような物理モデルは、観察された画像に関係付けることができる。微小体積drによって単位時間あたりに放射される全光量は、ρem(r)n(r)drである。検出器が(例えば、共焦点顕微鏡法により)この光の一部を検出して3次元観察画像uのピクセルrを形成すると仮定すると、rにおけるピクセル強度は、式(11)によってu(r)として与えられる。
【数13】

【0029】
式(11)の積分は、全ての点r∈Ωから点rへの全ての光線にわたって行われる。光は、媒体ロケーションrからピクセルロケーションrに進むときに減衰されるので、減衰項はこの式にも再び現れる。αγ=αγ(r,r)は、検出器のレンズ系に依存する関数である。下付き文字γは、αγが光の経路に依存することを示すのに用いられる。
【0030】
撮像の目的は、どのような物体が関心領域Ωに存在するのかを見つけ出すことである。換言すれば、Ω内の物質の光学特性を見つけ出すことが必要である。これらの特性はρab(r)及びρem(r)によって与えられる。観察された画像u(r)が与えられると、ρab(r)及びρem(r)は、これらのパラメータについて式(11)を解くことによって推定される。
【0031】
以下の観察結果が上記式から作成される。
1.ジオメトリ:全てのジオメトリ情報は、点rから点r’への光線を表す経路γ(r’,r)に組み込まれる。
2.光源:光源情報は、式(4)のΩ及びγ(r:r)にわたる総和によって与えられる。
3.大気散乱光:大気散乱光効果[10]は、屋外の撮像の分野で知られている。屋外の撮像では、大気中の水粒子が太陽光を観察者に向けて反射し、これによって、光源として動作する。類似の効果は、本顕微鏡法の分野でも生じ、散乱成分に含まれる(式(10)参照)。
4.非一意解:式(11)の解は、一般に非一意である。例えば、Ωが不透明な箱を含み、この箱の画像が撮られる場合を考える。箱は不透明であるので、箱内のρab及びρemの値は確定されない。
【0032】
1.6 離散化
行列方程式が、各点rにおける全光強度(式(10))を先ず離散化してN個の有限要素を形成することにより導出される。N個の有限要素はrで示される。ここで、i=1,...,Nは、有限要素をラベル付けする整数インデックスである。有限要素は、以下では「ボクセル」と呼ばれ、離散化は、画像データ内の各それぞれのボクセルrがボクセルrのうちの1つに対応するように実行される。式(12)において、r∈γ(r:r)にわたる総和は、光線γ(r:r)が通過する全ての有限要素にわたる総和である。ρab(r)は、ボクセルkにおける吸収係数であり、Δrは、ボクセルk内に存在するγ(r:r)の線分の長さである。ΔVはボクセルの体積である。式(10)は、この場合、次のように書き換えることができる。
【数14】

【0033】
各i=1,...,Nについて、b(r)をb(r)=n(r)によって定義し、u(r)(又は略してu)をu/ρem(r)=n(r)によって定義する。その結果、式(12)は次のように書き換えることができる。
【数15】

【0034】
G(r,r)を式(14)によって定義する。
【数16】

【0035】
式(13)は次のように書き換えることができる。
【数17】

【0036】
ij=G(r,r)並びにu=(u,…,u)及びb=(b,…,b)と定義すると、式(15)は、式(16)に示すように行列形式に書き換えることができる。
【数18】

【0037】
式(16)は、以下に示すような式(16a)を用いて数値的に解くことができ、それによって、ρ=ρab(r)であり、これは、次にq−1ρem(r)又はρem(r)に等しくすることができる。ρ>0であるので、カルーシュ・キューン・タッカー(Karush-Kuhn-Tucker)条件を回避するために、絶対符号が式(16a)に必要とされる。
【数19】

【0038】
2.共焦点顕微鏡法
図4は、共焦点顕微鏡法の構成のジオメトリを示している。入射光は焦点レンズを通過し、点rに合焦される。式(4)の全ての光線にわたる総和は、焦点レンズからの全ての光線γ(r:r)にわたり総和する。レンズの面積は、入射光の発する点の集合、換言すれば入射光源Ωの点の集合となるように取ることができる。検出された光は、焦点レンズを通る同じ経路を介して進む。したがって、式(11)における全ての光線にわたる総和は、同じ経路γ(r:r)上であるが反対方向に実行される。一例では、放射係数ρemは、蛍光体の量子収量によって吸収係数ρabに関係付けられ[19]、すなわち量子収量qによって吸収係数ρabに関係付けられる。ρab(r)をより簡単にρ(r)と記述すると、ρ(r)=q−1ρem(r)が得られる。例えば、フルオレセインが蛍光体として用いられるとき、qは0.92の値をとり、Hoescht 33342が蛍光体として用いられるとき、qは0.83の値をとる。代替的に、蛍光顕微鏡法では、蛍光体が光子を吸収し、ほぼ即時に光子を再放射することが可能な場合がある。したがって、別の例では、吸収された光子の総数は、放射された光子の総数に等しい(すなわちq=1)と仮定され、ρ(r)は、ρ(r)=ρem(r)=ρab(r)と設定される。
【0039】
図5は、サンプルが離散ロケーションでどのように走査されて、画像取得プロセスでzスタック(グレイの陰影)を生成するのかを示している。一例では、焦点レンズは、最初に、第1のスライスz=0から特定の焦点距離離れた箇所に配置される。この第1のスライスz=0の画像を捕捉した後、焦点レンズは、第2のスライスz=1から同じ焦点距離離れた第2の位置にシフトされ、第2のスライスz=1の画像が捕捉される。このプロセスは、全てのスライスの画像が捕捉されるまで繰り返される。
【0040】
式(17)に示すように、zスタックごとの光円錐の円盤面積にわたる平均ρ(r)(すなわち〈ρ〉(z))を計算することによる近似が用いられて、式(4)及び式(11)が簡単化される。
【数20】

【0041】
式(17)を用い、焦点レンズの入射光強度は一定の入射光強度nであると仮定すると、式(4)は式(18)として記述することができる。
【数21】

ここで、
【数22】

である。βは光路の複雑な関数であるが、焦点レンズの焦点距離が変化しない限り定数である。
【0042】
共焦点顕微鏡法の場合、図4に示すように、rで放射された光のみが光電子増倍管によって収集される。したがって、式(11)のρem及びρabを、式(17)で定義した〈ρ〉を用いて置き換えることができ、式(19)が得られる。式(19)において、ΔVは、共焦点体積であり、
【数23】

は定数であり、u(r)=ρ(r)n(r)である。以下に示すような式(19)は、ρ(r)をρ(r)=ρab(r)=q−1ρem(r)と設定することによって導出される。ρab(r)=ρem(r)であると仮定する場合、項qは式(19)から省略される。
【数24】

【0043】
一例では、散乱項が無視できる(すなわちn≪n,n(r)≒n(r)、換言すれば、i≠jの場合にGij=0及びGii=1/ρ(r))と仮定することによって、式(16)の解析解が得られる。言い換えると、この仮定は、サンプルの各要素における光強度が、他の要素からの散乱に起因した無視できる成分のみを含むということである。式(18)及び式(19)を式(16)に代入すると、式(20)が得られる。
【数25】

ここで、u0i=u(r)であり、式(20)のρは、散乱項が無視される場合に、真の光放射係数となる。画像は、方法100において、画像ピクセルrごとに計算された放射係数ρ(r)を用いて強調される。
【0044】
一例では、ρは、第1のスライスから開始して、zスタックを通じてスライスごとに観察画像から計算される。
【0045】
1.第1のスライスz=0の場合、式(20)の積分は、ゼロの値、すなわちρ(r,z=0)=u0i/α’βnを与える。これは、ρが、観察画像内の強度に比例することを暗に意味している。一例では、α’βは、照明を最も均一にするように較正することができるチューニングパラメータである。
【0046】
2.第2のスライスのρは、式(21)に従って第1のスライスのρに依存する。ここで、Δzは離散化されたzスタックの厚さであり、〈ρ(z=0)〉は、第1のスライスのρの値を用いて計算された平均値である。
【数26】

【0047】
3.第kのスライスのρは、式(22)によって与えられる。ρの値は、第1のスライスから開始してスライスごとに計算されるので、第kのスライスのρを計算する時点では、ρの値は、第1のスライスから第(k−1)のスライスまでの全てのスライスについてすでに得られている。したがって、項
【数27】

の値を容易に得ることができる。強調画像全体を得るために、第1のスライスから最後のスライスまでのρが順に計算される。
【数28】

【0048】
代替的に、式(16)を解くときに散乱項を含めることができる。散乱項を含めた結果、非解析解がもたらされ、これは、上記に示したような式(16a)によって数値的に解くことができる。式(16a)は、式(18))によるb=b(r)=n(r)及び式(19)による
【数29】

と共に用いることができる。ベクトルb、u、及び行列Gは、画像のボクセルごとに形成され、行列Gは式(14)に従って形成される。i≠jの場合、Gijの計算は、点rと点rとの間の光線(すなわち直線)に沿ってρab(r)Δrを総和することを伴う。計算時間を削減するために、サンプリングは、各zスタックの光円錐の円盤面積にわたる平均ρ(r)を計算するときに実行することができる。
【0049】
代替的に、∂J/∂ρ,∀kの値は数値的に求めることができるので、式(16a)は勾配降下法を用いて数値的に解くことができる。一例では、ρ(式(20))は、勾配降下法においてρの初期推定値に用いられる。本発明の実施形態を用いて実行される数値シミュレーションを通じて、ρ(式(20))がρの良好な近似値であることが分かる。ρ(式(20))をρの初期推定値として用いると、勾配降下法におけるローカルミニマム問題が低減される。
【0050】
3.側方散乱ジオメトリ
側方散乱ジオメトリは、実際には、単一平面照明顕微鏡法(SPIM)のジオメトリである[22]、[23]、[24]、[25]、[26]。図6は、光源が側方から発してサンプル、すなわち図6の「サンプル」の1つの平面を照明する側方散乱のジオメトリ配置を示している。図6に示すように、散乱光は、CCDカメラによって直交方向で収集される。このジオメトリ配置では、入射光線は一定でかつ平行である。式(4)は、点r=(x,y)における一定の入射強度をnと表記することによって以下の式(24)に簡約することができる。式(24)では、積分は、図6に示すように水平のx方向にわたる。共焦点顕微鏡法の場合のように、ρは、ρ=q−1ρem=ρabとして設定することができる。
【数30】

【0051】
散乱光は、減衰することなくCCDカメラに直接進むものと仮定される。ほとんどのカメラ設定と同様に、(CCDカメラにおける)ピクセル点rとサンプルロケーションrとの間には1対1の対応関係がある。したがって、式(11)は、(ρ=q−1ρem=ρabが用いられるとき)以下に示すような式(25)として記述することができ、ここで、α’は、全ての光線にわたる総和等を含む量子収量及び検出器の積分された効果を表す。
【数31】

【0052】
式(25)を用いると、式(16)の行列方程式は、式(26)として記述することができる。
【数32】

【0053】
一例では、解析解は、散乱項が無視できると仮定することによって、式(27)に示すように得られる。式(27)では、下付き文字Aは、近似解が減衰項のみを用いて得られることを示すのに用いられる。この近似を用いると、式(27)を数値的により容易に解くことができる。式(27)の総和は、光源rからそれぞれの点rへのレーザービームの方向の光線(すなわち直線)に沿って実行される。
【数33】

【0054】
本発明の実施形態の数値実験は、式(26)を用いた強調画像及び式(16a)を用いた強調画像が約1%しか異ならないことを示し、n≪nの近似が有効であることを示していた。
【0055】
4.結果
数値計算が実行され、その結果はグラウンド・トルース(ground truth)と比較される。他の物理学に基づく復元方法[5]、[6]、[7]、[8]、[9]、[10]、[11]、[12]、[13]と比較することは可能ではない。その理由は、これらの方法を顕微鏡画像に適用することはできないからである。第1に、他の物理学に基づく方法は、3次元画像を強調するように設計されていない。第2に、これらの方法は、一定減衰媒体を仮定しているが、この仮定は顕微鏡画像では大きく破られる。
【0056】
4.1 有効性確認及び較正
方法100は、グラウンド・トルースが実験的設計によって判明している特別に調製されたサンプルに関して有効性が確認される。この場合、画像強調が方法100を用いて実行され、得られた結果がグラウンド・トルースと比較される。実験では、サンプルが、フルオレセイン及び液体ゲルを、ゲルが硬化するまでオービタルシェーカー上で混合することによって作製される。このようにして、サンプルは、3Dの体積全体にわたって均一になる。しかしながら、取得された画像の強度プロファイルは、減衰のために均一とはならない。その代わり、強度プロファイルは深度と共に減少する。図7(a)に示すように、方法100を用いて強調された画像のそれぞれは、原入力画像よりも均一な強度プロファイル(最大強度投影)を有する。強調画像は、図7では「復元(restored)」と表記されている。パラメータα’βnは、顕微鏡に対して較正される。図7(a)に示すように、α’βn=181.27が最良の結果を与える。他方、それよりも低い値121.51及び90.02は過補償を招く。パラメータα’βnの値をCと表記すると、2つのパラメータ(C,C)と異なるレーザー強度(n,n)との間の関係は、単純にC/C=n/nである。したがって、図7(a)の較正されたパラメータ値は、図7(c)に示すように、異なるレーザー強度、例えば1.5n及び2.0nで撮った画像にも用いることができる。ここで、nは、図7(a)で用いられたレーザー強度である。図7(b)には、原画像702及び(レーザー強度が1.5nであるときの)強調画像704の2D投影が示されているのに対して、図7(d)には、原画像706及び(レーザー強度が2.0nであるときの)強調画像708の2D投影が示されている。強調画像はより均一に照明されることが分かる。
【0057】
4.2 共焦点顕微鏡法
方法100の有効性を実証するために、核がHoescht 33342で染色された、マウスの胚からのニューロステムセルの3D画像が強調される。オリンパス社製の点走査共焦点(Point Scanning Confocal)FV1000システムを用いて画像を取得した。開口数1.2を有する60×の水レンズで撮像を行った。ダイオードレーザー40nmを用いて、Hoeschtで染色されたニューロスフェア(neurosphere)を励起させた。サンプリング速度は、2μm/ピクセルに設定した。原顕微鏡画像は、サイズがx方向及びy方向に0.137μmの解像度並びにz方向に0.2μmの解像度を有する512×512×n個のボクセルである。ここで、nは、画像内のzスタックの数である。
【0058】
計算時間を低減するために、原画像は、z方向の解像度を維持しながら、x方向及びy方向でボクセルを平均することによって256×256×n個のボクセルにダウンサンプリングされる。図8及び図9は、式(20)を用いて強調された256×256×n個のボクセルの画像の強調結果を示している。図8及び図9に示す共焦点顕微鏡画像は、それぞれ155個のzスタック及び163個のzスタック(すなわちn=155及びn=163)を有する。より具体的には、図8(a)及び図9(a)は、それぞれの原画像のyz平面上への最大強度投影を示している(図8及図9に原画像と表記されている)のに対して、図8(b)及び図9(b)は、それぞれの強調画像のyz平面上への最大強度投影を示している(図8及び図9に復元図と表記されている)。図8(b)及び図9(b)において、調整されたチューニングパラメータは、1/α’βn=0.014995として設定される。これは、最適な強調結果を与えることが分かる。図8(c)及び図9(c)は、原画像(実線)及び強調画像(破線)の双方のz軸上への(xy平面における最も明るい0.1%のボクセルにわたって平均された)最大強度投影を示している。照明レーザーは底部から発するので、原画像(図8(a)又は図9(a))について、ボクセルが画像の底部ではるかに明るく、画像の強度が画像の上部に向かって低下する(換言すれば、照明は均一でない)ことが図8及び図9から容易に観察することができる。しかしながら、図8(b)及び図9(b)に示すように、照明は、強調後、均一になる。さらに、図8(c)及び図9(c)は、原画像(実線)の強度プロファイルと強調画像(破線)の強度プロファイルとの間の相違を明らかに示している。加えて、図8及び図9に示すように、底部のzスタックの露出過度のエリアも、強調方法100によって正しく補償される。したがって、強調画像の均一な照明を達成することができるので、方法100を用いて画像を復元することは有利であることが図8及び図9から分かる。その後、この強調画像に対してヒストグラム等化等の他の画像強調方法を用いることができる。強調画像は、平均してより暗くもなるが、多くの画像処理技法は、平均ボクセル強度に対してロバストである。
【0059】
4.3 側方散乱顕微鏡法
合成劣化画像に対して側方散乱ジオメトリの計算を行った。不均一な照明(すなわち、光源が左から発すると仮定して最大強度投影が指数関数的に低下する)による合成画像を均一な照明の画像から生成した。図10は、256×256ピクセル画像の強調結果を示している(強調画像は、図10では「復元(Restored)」とラベル付けされている)。図10において、式(27)は、画像を強調するのに用いられる。nは、入射光強度であり、α’は、通例未知であるジオメトリックファクターである。チューニングパラメータ1/α’nは、最適な結果を得るように調整することができる。図11(a)は、小さな1/α’n(0.0011)が用いられたときの強調画像を示しているのに対して、図11(b)は、大きな1/α’n(0.0111)が用いられたときの強調画像を示している。図11(a)及び図11(b)から分かるように、小さな1/α’nが用いられたとき、画像はほとんど強調されず、大きな1/α’nが用いられたとき、減衰効果が過補償される。1/α’nの最適値は、図10の強調画像を得るのに用いられた0.0095である。図10に示すように、1/α’nが0.0095に設定されたとき、強調画像はほぼ完全に(均一に)照明される。
【0060】
上述したように、方法100は、均一な照明を有する強調画像を得ることができるので有利である。換言すれば、方法100を用いて画像を強調することによって、光学顕微鏡法の基本的な光減衰及び散乱の問題を軽減することができる。
【0061】
方法100で用いられる式b=G・uの微分は、強い理論的基礎に基づいて定式化されており、連続の式によって表わされる保存則等の物理学の基本法則に基づいている。さらに、場の理論的手法(field theoretical approach)がこの微分に用いられている。
【0062】
方法100は、物理学に基づく復元方法のタイプであり、物理学に基づく復元方法は、モデルに基づくコントラスト強調方法(例えば、ヒストグラム等化)を上回る多くの利点を有する。モデルに基づく方法[15]、[16]、[17]は、一般に、画像特性が画像全体にわたって一定であると仮定し、この仮定は、天候で劣化した画像では無視される。さらに、物理モデルは物理学の法則に基づいて構築され、物理学は、否定できない真実である可能性が最も高い。物理学に基づく復元技法は、多くの用途で用いることができる。そのような復元技法の1つの態様は、その有効性が数桁の物理的な長さスケールにわたることである。航空機による監視では、物理的な長さスケールはほぼ≒10km程度であり、水中監視では、物理的な長さスケールはほぼ≒10m程度である。
【0063】
物理学に基づく復元方法が天候により劣化した画像の復元に用いられてきたが、それらの方法は、(≒100μmの物理的な長さスケールを有する)光学顕微鏡法の画像強調の分野で適切に探求されていなかった。方法100は、顕微鏡画像に対して用いられる物理学に基づく復元技法のタイプであり、物理学に基づく復元の長さスケールを8桁に拡大する。
【0064】
方法100は、物理学に基づく復元技法のタイプであっても、全ての既存の物理学に基づく復元技法とは根本的に異なっている。既存の物理学に基づく復元技法では、減衰媒体の一定の吸収係数が前提とされるのに対して、このことは、方法100では前提とされない。さらに、方法100では、サンプルと減衰媒体とが区別されない。一般的な一組の式が導出され、画像取得におけるあらゆるジオメトリ設定を取り扱うために方法100で用いられる。方法100を用いるには、光源及びカメラ等の検出機器の詳細を指定することだけが必要である。他方、既存の物理学に基づく方法[5]、[6]、[7]、[8]、[9]、[10]、[11]、[12]、[13]は、以下の理由によって3次元顕微鏡画像に適用することさえできない。第1に、既存の物理学に基づく方法は、減衰媒体を「除去」して、2次元シーンをリトリーブする。これとは対照的に、方法100では、減衰媒体も画像情報を含む。これは、媒体を除去するのではなく媒体の真の信号を復元することが必要であるので有利である。第2に、既存の方法は均一な減衰媒体を仮定しているが、この仮定は、顕微鏡画像では大きく破られる。これとは対照的に、そのような仮定は方法100ではなされない。
【0065】
[参考文献]
【表1】

【表2】

【表3】


【特許請求の範囲】
【請求項1】
サンプルの顕微鏡画像を強調する方法であって、該顕微鏡画像は、該サンプルを或る照明方向で照明しカメラを用いて該サンプルにより散乱された光を捕捉することによって形成されたものであり、前記顕微鏡画像のそれぞれの構成部分は、該サンプルのそれぞれの要素から捕捉された散乱光の量を表しており、
該方法は、
(i)前記顕微鏡画像の構成要素と、前記サンプルの複数のそれぞれの要素の散乱パラメータの値とを関連させる数式を用いて該散乱パラメータの前記値を取得するステップであって、前記サンプルの各要素の前記散乱パラメータのそれぞれの前記値は、前記サンプルの当該各要素についての、入射光を散乱する傾向を示すものである、取得するステップと、
(ii)前記散乱パラメータの前記取得された値を用いて、前記サンプルの強調画像を形成するステップと
を含んでなる方法。
【請求項2】
前記サンプルの所与の前記要素ごとに、前記数式は、該所与の前記要素の前記散乱パラメータの前記値を、該所与の前記要素として前記照明方向にある要素の前記散乱パラメータの前記値に関して表しており、
上記ステップ(i)は、要素について連続的に、さらに前記照明方向でも連続的に前記散乱パラメータの前記値を取得することを含むものである、請求項1に記載の方法。
【請求項3】
前記顕微鏡画像は、共焦点顕微鏡法又は単一平面照明顕微鏡法を用いて取得される、請求項1に記載の方法。
【請求項4】
前記強調画像は、各構成部分が前記サンプルのそれぞれの要素に対応する画像であり、その要素の前記散乱パラメータの前記取得された値に対応する強度を有する、請求項1〜3のいずれか1項に記載の方法。
【請求項5】
前記画像は、前記散乱パラメータの前記値を取得するステップの前に線形に正規化される、請求項1〜4のいずれか1項に記載の方法。
【請求項6】
前記画像は、前記散乱パラメータの前記値を取得するステップの前にダウンサンプリングされる、請求項1〜5のいずれか1項に記載の方法。
【請求項7】
前記強調画像のピクセルの強度を0〜(2−1)の範囲に再スケーリングするステップをさらに含み、ここで、nは、前記ピクセルを表すのに用いられるビット数である、請求項1〜6のいずれか1項に記載の方法。
【請求項8】
前記数式はチューナブルパラメータを含み、前記方法は、前記強調画像に実質的に一定の平均強度を与える前記チューナブルパラメータの値を選択することを含む、請求項1〜7のいずれか1項に記載の方法。
【請求項9】
前記数式は、前記サンプルの各要素における前記光強度が、前記サンプルの他の要素からの散乱による無視できる成分のみを含むとの仮定と矛盾しない、請求項1〜8のいずれか1項に記載の方法。
【請求項10】
前記数式は、b=G・uの形式であり、ここで、b及びuは、前記サンプルを含む3次元空間内の複数のそれぞれの点の各点についての成分を有するベクトルであり、bは、減衰後に残っている入射光の振幅を表すデータ値を含み、uは、各点が散乱光を生成する度合いを表すデータ値を含み、Gは、前記散乱パラメータを組み込んだ行列である、請求項1〜9のいずれか1項に記載の方法。
【請求項11】
前記数式は、1つ以上の平均パラメータを用いることによって、前記サンプルの所与の前記要素の前記散乱パラメータの前記値を表し、各平均パラメータは、前記照明方向に平行に前記サンプルの前記所与の要素まで延びる線を取り囲む対応する領域にわたる前記散乱パラメータの前記値の平均を示す、請求項1〜10のいずれか1項に記載の方法。
【請求項12】
前記照明は、光をレンズに透過させて同じレンズを通る前記散乱光を収集することによって行われ、前記数式は、前記レンズと前記サンプルの前記所与の要素との間の円盤である複数の前記領域のそれぞれの前記平均パラメータを用い、該円盤のそれぞれは前記レンズに平行である、請求項11に記載の方法。
【請求項13】
前記サンプルは平面サンプルであり、該平面サンプルは、該平面サンプルの平面を或る照明方向で照明され、前記散乱光は、前記サンプルの前記平面を横切る方向で該サンプルから離間したカメラによって収集される、請求項1〜10のいずれか1項に記載の方法。
【請求項14】
請求項1〜13のいずれか1項に記載の方法を実行するように構成されたプロセッサを有するコンピュータシステム。
【請求項15】
有形のデータストレージデバイス等のコンピュータプログラム製品であって、コンピュータが読み取ることができるものであり、請求項1〜13のいずれか1項に記載の方法を実行させるために、コンピュータシステムのプロセッサによって動作可能な命令を含む、コンピュータプログラム製品。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate


【公表番号】特表2012−519876(P2012−519876A)
【公表日】平成24年8月30日(2012.8.30)
【国際特許分類】
【出願番号】特願2011−552913(P2011−552913)
【出願日】平成22年2月11日(2010.2.11)
【国際出願番号】PCT/SG2010/000051
【国際公開番号】WO2010/101525
【国際公開日】平成22年9月10日(2010.9.10)
【出願人】(504354117)エイジェンシー・フォー・サイエンス,テクノロジー・アンド・リサーチ (17)
【Fターム(参考)】