説明

顕微鏡システム、標本画像生成方法及びプログラム

【課題】多重染色標本に対し、標的分子を蛍光観察する際の合焦位置を短時間に精度よく検出することができる顕微鏡システム等を提供する。
【解決手段】細胞を構成する1つ以上の細胞構成要素が非蛍光色素により染色され、且つ、検出目的とする標的分子が蛍光色素により標識された標本に対する明視野観察により、細胞構成要素が表示された明視野バーチャルスライド画像を取得する制御を行う明視野VS撮像制御部272と、標本に対する蛍光観察により、標的分子に対応する蛍光バーチャルスライド画像を取得する制御を行う蛍光VS撮像制御部273と、明視野観察の際に用いられる標本内の複数箇所における第1の合焦位置を取得すると共に、第1の合焦位置を用いて、蛍光観察の際に用いられる標本内の複数箇所における第2の合焦位置を取得するフォーカス位置取得部274とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、顕微鏡を用いて標本を撮像した標本画像を取得して表示する顕微鏡システム、並びに、標本画像生成方法及びプログラムに関する。
【背景技術】
【0002】
顕微鏡を用いて標本を観察する場合、一度に観察できる範囲は主に対物レンズの倍率によって決まる。例えば対物レンズの倍率を高くすると、高精細な画像が得られる反面、観察範囲が狭くなってしまう。そこで、電動ステージ等を利用して視野を移動しながら、複数枚の画像を撮影し、それらを貼合わせる(又は結合する)ことで、広視野かつ高解像度の顕微鏡画像を作成し、病理診断等に活用するシステム(以下、バーチャル顕微鏡システムと言う)が知られている。
【0003】
例えば、特許文献1及び2には、標本の範囲を小区画に分割し、各小区画に対応する標本の部分を高解像度の対物レンズで撮影して得られた画像を繋ぎ合わせることにより、広視野且つ高解像度の標本全体の画像を構築する顕微鏡システムが開示されている。以下、このようにして構築された顕微鏡のことをバーチャルスライド(VS:Virtual Slide)画像という。同様に、特許文献3及び4にも、広視野かつ高解像度の顕微鏡画像を作成する顕微鏡システムが開示されている。
【0004】
このように標本全体を高精細に画像化したVS画像は、例えばパソコンとネットワーク環境があれば、場所や時間を問わずに閲覧することが可能となる。そのため、医学生の病理学実習や、病理医間での遠隔コンサルテーション等にも活用され始めている。なお、VS画像は、ホール・スライド・イメージング(Whole Slide Imaging)とも呼ばれる。
【0005】
ところで、病理観察においては、観察対象や目的に応じて種々の染色手法や観察法が用いられる。例えば組織や細胞の形態を観察するための形態観察染色として、ヘマトキシリン及びエオジンの2つの色素を用いるヘマトキシリン・エオジン染色(以下、「HE染色」と記す)や、パパニコロウ染色(Pap染色)等の非蛍光染色が知られている。このような形態観察染色がなされた標本に対しては、光学顕微鏡による明視野観察が行われる。
【0006】
また、病理観察においては、形態情報に基づく形態診断を補完する目的で、標本に分子情報の発現を確認するための分子標的染色を施し、標的分子(特定の遺伝子やタンパク)の発現異常といった機能異常を診断する分子学的病理検査が行われることもある。この場合、例えば、IHC(immunohistochemistry:免疫組織化学)法、ICC(immunocytochemistry:免疫細胞化学)法、ISH(in situ hybridization)法等で標本に蛍光標識(染色)を施して蛍光観察を行ったり、酵素標識を施して明視野観察を行ったりする。
【0007】
さらに、病理観察においては、上述した手法を併用して診断を行う場合もある。例えば、HE染色等を施した標本に対する明視野観察で形態異常の診断を行い、蛍光観察(FISH法(fluorescence in situ hybridization)、蛍光抗体法)で分子発現異常といった機能異常の診断を行うことがある。
【0008】
近年では、癌等の治療として、特定の分子を標的として作用する治療薬(抗体治療薬)を用いた分子標的治療と呼ばれる治療が行われており、治療効果と副作用の軽減効果とが期待されている。この分子標的治療では、癌細胞に特異的に発現する分子(抗原タンパク質)を標的とする抗体治療薬が用いられる。このような分子標的治療を行う場合、治療に先立って、例えば、細胞の表面、即ち細胞膜上に抗体治療薬の標的分子となる抗原が発現しているか否かをIHC法等で観察し、適応患者の選択が行われる。
【0009】
例えば、乳癌治療においては、抗体治療薬を選択的に用いたターゲット治療が進んでおり、腫瘍部における複数の標的分子の発現パターンに応じて病型(細胞亜型)を「Luminal B」「Luminal A」「HER2 disease」「Basal like」と称す4つの型に分類し、この分類に基づいて治療法の基本的な選択がなされる。具体的には、ホルモン受容体であるエストロゲン受容体(以下、「ER」と略記する。)やプロゲステロン受容体(以下、「PgR」と略記する。)の細胞核上での発現の有無によってホルモン依存性に増殖する癌か否かを判断し、内分泌療法(ホルモン療法)の適用可否を選択する。また、HER2受容体(以下、「HER2」と略記する。)の細胞膜上での発現の有無に応じて抗HER2抗体製剤であるトラスツズマブ(ハーセプチン(登録商標))の適用可否を選択する。そして、ER、PgR、HER2のいずれも発現していない所謂トリプルネガティブ乳癌(Triple Negative Breast Cancer:TNBC)と呼ばれるタイプでは、化学療法を中心に治療を行う。
【0010】
このように複数の標的分子を可視化する場合、蛍光観察が有用であるが、一方で、蛍光標本は長期保存ができないといった問題もある。この点において、バーチャル顕微鏡システムによって標本をVS画像化することは、診断の根拠の記録及び保持にもつながり、標本の長期保存に関する問題を考慮する必要がなくなる。
【0011】
VS画像に関連する技術として、特許文献5には、明視野観察可能な通常染色と標的分子に対する蛍光標識とを同一のスライド標本に施し、明視野VS画像上で指定した任意の領域における標的分子の発現を蛍光VS画像として取得する方法が開示されている。
【先行技術文献】
【特許文献】
【0012】
【特許文献1】特開平9−281405号公報
【特許文献2】特開平10−333056号公報
【特許文献3】特開2006−343573号公報
【特許文献4】特表2002−514319号公報
【特許文献5】特開2009−14939号公報
【発明の概要】
【発明が解決しようとする課題】
【0013】
しかしながら、蛍光観察においては、明視野観察と比べて視野が暗いため、1ショットあたりの撮影時間が長くなる。そのため、標本全体をVS画像化しようとすると、通常、数時間以上の時間がかかってしまう。また、分子病理診断において必要とされる検査領域は、主に腫瘍部といった限定された領域であり、正常部位は検査対象外であることが多い。このため、腫瘍部が標本全体の内のごく僅かな領域にしか存在しない場合、VS画像の取得に際して無駄な時間を費やすだけでなく、不必要な画像容量の増大を招くことにもなる。さらに、蛍光染色を施した標本は未励起状態では無色透明であるため、通常の形態観察染色を施した標本上で明視野観察により腫瘍部の位置を特定したとしても、未励起状態の蛍光標本においてその位置を確認し、標本上の腫瘍部を選択的に撮影することは非常に困難である。
【0014】
この点について、上記特許文献5においては、明視野VS画像上で蛍光観察を行う領域を指定するので、蛍光VS画像の作成処理時間を短縮することができる。しかしながら、特許文献5には、明視野観察と各標的分子に対する蛍光観察とにおけるフォーカス位置(合焦位置)の違いについて言及されていない。
【0015】
蛍光観察における合焦位置を取得するために、例えば、明視野画像における合焦位置をそのまま流用することが考えられる。しかしながら、この場合、蛍光画像において合焦位置のずれが生じるおそれがある。或いは、蛍光画像の各ショットにおいてオートフォーカス処理を毎回行うことも考えられる。しかしながら、上述のとおり、蛍光観察の際の視野は暗いため、オートフォーカス処理にも時間がかかる。このため、結局、蛍光VS画像の生成に長時間を要することとなってしまう。
【0016】
本発明は、上記に鑑みてなされたものであって、明視野観察可能な非蛍光染色と標的分子に対する蛍光標識とを同一スライド標本上に施した多重染色標本に対し、標的分子を蛍光観察する際の合焦位置を短時間に精度よく検出することができる顕微鏡システム、標本画像生成方法、及び標本画像生成プログラムを提供することを目的とする。
【課題を解決するための手段】
【0017】
上述した課題を解決し、目的を達成するために、本発明に係る顕微鏡システムは、明視野観察及び蛍光観察が可能な顕微鏡の対物レンズ及び標本を、前記対物レンズの光軸と直交する方向に相対的に移動させて複数枚の顕微鏡画像群を取得し、該複数枚の顕微鏡画像群を相互に繋ぎ合わせたバーチャルスライド画像を生成する顕微鏡システムにおいて、細胞を構成する1つ以上の細胞構成要素が非蛍光色素により染色され、且つ、検出目的とする標的分子が蛍光色素により標識された標本に対する明視野観察により、前記細胞構成要素が表示された明視野バーチャルスライド画像を取得する制御を行う明視野バーチャルスライド画像取得制御手段と、前記標本に対する蛍光観察により、前記標的分子に対応する蛍光バーチャルスライド画像を取得する制御を行う蛍光バーチャルスライド画像取得制御手段と、前記明視野観察の際に用いられる前記標本内の複数箇所における第1の合焦位置を取得すると共に、前記第1の合焦位置を用いて、前記蛍光観察の際に用いられる前記標本内の複数箇所における第2の合焦位置を取得するフォーカス位置取得手段とを備えることを特徴とする。
【0018】
上記顕微鏡システムにおいて、前記フォーカス位置取得手段は、前記標本内から前記第1の合焦位置を実測する複数の抽出ポイントを抽出し、該複数の抽出ポイントにおける前記第1の合焦位置を実測により取得すると共に、前記複数の抽出ポイントの内の少なくとも一部における前記第2の合焦位置を実測により取得することを特徴とする。
【0019】
上記顕微鏡システムにおいて、前記フォーカス位置取得手段は、前記複数の抽出ポイントの各々における前記第2の合焦位置を取得する際に、同一の抽出ポイントにおける前記第1の合焦位置からの所定のオフセットを用いることを特徴とする。
【0020】
上記顕微鏡システムにおいて、前記標本の観察法に応じて光路に選択的に挿入される光学キューブを切り換える光学キューブ切換部をさらに備え、前記フォーカス位置取得手段は、前記第1の合焦位置を取得する場合に、前記蛍光画像観察用の光学キューブを前記光路に挿入したままの状態で前記第1の合焦位置を実測により取得することを特徴とする。
【0021】
上記顕微鏡システムにおいて、前記蛍光バーチャルスライド画像取得制御手段は、前記第1の合焦位置を基準として光軸方向に複数の座標値を設定し、該複数の座標値において複数の蛍光画像をそれぞれ取得する処理を、前記光軸に直交する面を分割した複数の小区画の各々について実行する制御を行い、前記複数の座標値の配列順毎に、互いに隣接する前記小区画に対応する複数の蛍光画像を相互に繋ぎ合わせることにより、複数の蛍光バーチャル画像を作成することを特徴とする。
【0022】
上記顕微鏡システムにおいて、前記明視野バーチャルスライド画像と前記蛍光バーチャルスライド画像とを重ね合わせた合成画像を作成する画像合成手段をさらに備えることを特徴とする。
【0023】
上記顕微鏡システムにおいて、前記標本は、2種類以上の標的分子にそれぞれ対応する2種類以上の蛍光色素により標識がなされており、前記蛍光バーチャルスライド画像取得制御手段は、前記標的分子の種類ごとに前記蛍光バーチャルスライド画像を取得することを特徴とする。
【0024】
上記顕微鏡システムにおいて、前記明視野バーチャルスライド画像を用いて、前記標本の内、前記蛍光バーチャルスライド画像の取得対象とする領域を設定する領域設定手段をさらに備えることを特徴とする。
【0025】
上記顕微鏡システムにおいて、前記細胞構成要素は細胞核であることを特徴とする。
上記顕微鏡システムにおいて、前記細胞構成要素がヘマトキシリン染色されていることを特徴とする。
【0026】
本発明に係る標本画像生成方法は、明視野観察及び蛍光観察が可能な顕微鏡の対物レンズ及び標本を、前記対物レンズの光軸と直交する方向に相対的に移動させて複数枚の顕微鏡画像群を取得し、該複数枚の顕微鏡画像群を相互に繋ぎ合わせたバーチャルスライド画像を生成する標本画像生成方法において、細胞を構成する1つ以上の細胞構成要素が非蛍光色素により染色され、且つ、検出目的とする標的分子が蛍光色素により標識された標本に対する明視野観察により、前記細胞構成要素が表示された明視野バーチャルスライド画像を取得する制御を行う明視野バーチャルスライド画像取得制御ステップと、前記標本に対する蛍光観察により、前記標的分子に対応する蛍光バーチャルスライド画像を取得する制御を行う蛍光バーチャルスライド画像取得制御ステップと、前記明視野観察の際に用いられる前記標本内の複数箇所における第1の合焦位置を取得すると共に、前記第1の合焦位置を用いて、前記蛍光観察の際に用いられる前記標本内の複数箇所における第2の合焦位置を取得するフォーカス位置取得ステップとを含むことを特徴とする。
【0027】
本発明に係る標本画像生成プログラムは、明視野観察及び蛍光観察が可能な顕微鏡の対物レンズ及び標本を、前記対物レンズの光軸と直交する方向に相対的に移動させて複数枚の顕微鏡画像群を取得し、該複数枚の顕微鏡画像群を相互に繋ぎ合わせたバーチャルスライド画像を生成する処理をコンピュータに実行させる標本画像生成プログラムにおいて、細胞を構成する1つ以上の細胞構成要素が非蛍光色素により染色され、且つ、検出目的とする標的分子が蛍光色素により標識された標本に対する明視野観察により、前記細胞構成要素が表示された明視野バーチャルスライド画像を取得する制御を行う明視野バーチャルスライド画像取得制御ステップと、前記標本に対する蛍光観察により、前記標的分子に対応する蛍光バーチャルスライド画像を取得する制御を行う蛍光バーチャルスライド画像取得制御ステップと、前記明視野観察の際に用いられる前記標本内の複数箇所における第1の合焦位置を取得すると共に、前記第1の合焦位置を用いて、前記蛍光観察の際に用いられる前記標本内の複数箇所における第2の合焦位置を取得するフォーカス位置取得ステップとを含むことを特徴とする。
【発明の効果】
【0028】
本発明によれば、明視野観察の際に用いられる第1の合焦位置を取得し、この第1の合焦位置を用いて、蛍光観察の際に用いられる第2の合焦位置を取得するので、多重染色標本を蛍光観察する際の合焦位置を短時間に精度良く検出することが可能となる。
【図面の簡単な説明】
【0029】
【図1】図1は、本発明の実施の形態1に係る顕微鏡システム全体の構成例を示す図である。
【図2】図2は、図1に示すホストシステムの構成例を示すブロック図である。
【図3】図3は、図1に示す顕微鏡システムの動作を示すフローチャートである。
【図4】図4は、標本が配置されたスライドガラスを示す上面図である。
【図5】図5は、標本サーチ領域から検出された標本領域を示す模式図である。
【図6A】図6Aは、注目領域を格子状に分割した小区画及びフォーカス位置抽出ポイントを示す模式図である。
【図6B】図6Bは、注目領域を格子状に分割した小区画及びフォーカス位置抽出ポイントを示す模式図である。
【図7】図7は、フォーカスマップの一例を示す図である。
【図8】図8は、画像ファイルのデータ構成例を示す模式図である。
【図9】図9は、フォーカスマップの作成処理を示すフローチャートである。
【図10】図10は、ポイントBにおける合焦位置を実測する処理を示すフローチャートである。
【図11】図11は、実施の形態2におけるフォーカスマップの作成処理を示すフローチャートである。
【図12】図12は、実施の形態3において作成される3次元画像の構成を示す模式図である。
【図13】図13は、実施の形態3における蛍光画像の取得処理を示すフローチャートである。
【発明を実施するための形態】
【0030】
以下、本発明に係る実施の形態について、図面を参照しながら詳細に説明する。なお、これらの実施の形態により本発明が限定されるものではない。
本発明に係る顕微鏡システムは、多重染色された病理組織標本又は細胞診標本の全体またはその一部を、顕微鏡を用いて広視野かつ高精細にディジタル画像として記録して表示するものである。より詳細には、本発明に係る顕微鏡システムは、形態観察染色と分子標的染色とが多重に染色された標本を観察及び診断に供するものである。
【0031】
以下においては、本発明を、バーチャルスライド画像を生成する顕微鏡システム(バーチャル顕微鏡システム)に適用した場合を例にとって説明する。バーチャルスライド画像(以下、VS画像とも記す)とは、標本を載置する電動ステージを動かすなどして、顕微鏡の対物レンズ及び標本を対物レンズの光軸に対して直交する方向に相対的に移動させ、視野範囲をずらしながら標本を部分毎に撮像した複数の画像を互いに繋ぎ合わせることによって生成した画像のことである。
【0032】
(実施の形態1)
図1は、実施の形態1に係る顕微鏡システム全体の構成例を示す図である。
図1に示す顕微鏡システム1は、顕微鏡装置10と、該顕微鏡装置10とデータ送受可能に接続されたホストシステム20と、ホストシステム20の制御の下で顕微鏡装置10の各部を制御する顕微鏡コントローラ30と、ホストシステム20に接続されたテレビ(TV)カメラコントローラ40と、顕微鏡装置10に取り付けられ、TVカメラコントローラ40の制御の下で動作するテレビ(TV)カメラ50とを備える。
【0033】
顕微鏡装置10は、標本Sが配置されたスライドガラス100を載置する電動ステージ11と、側面視略コの字状を有し、電動ステージ11を支持する顕微鏡本体12と、顕微鏡本体12の底部に設けられ、標本Sを透過照明する透過照明光学系13と、顕微鏡本体12の上部に設けられ、標本Sを落射照明する落射照明光学系14と、顕微鏡本体12に回転自在に設けられ、複数の対物レンズ151が装着されたレボルバ15と、標本Sの観察光の光路Lに選択的に挿入される複数の光学キューブ161を切り替える光学キューブ切換部16と、顕微鏡本体12の上部に載置された鏡筒17とを備える。以下、図1に示す対物レンズ151aの光軸方向をZ方向とし、Z方向と直交する平面をXY平面として説明する。また、Z座標は標本面(電動ステージ11の標本載置面)が対物レンズ151から離れる方向を負の方向とし、標本面に近づく方向を正の方向とする。
【0034】
電動ステージ11は、ステージX−Y駆動制御部31の制御の下で動作するモータ32、及び、ステージZ駆動制御部33の制御の下で動作するモータ34によって駆動され、XY平面内及びZ方向にそれぞれ自在に移動する。また、電動ステージ11は、原点センサによる原点位置検出機能(不図示)を有し、電動ステージ11に載置したスライドガラス100(標本S)の各部に対して座標を設定することができる。
【0035】
透過照明光学系13は、透過照明用光源130と、透過照明用光源130から射出した照明光(以下、透過照明光という)を集光するコレクタレンズ131と、透過用フィルタユニット132と、透過シャッタ133と、透過視野絞り134と、透過開口絞り135と、透過照明光の光路L1を対物レンズ151aの光軸に沿って折り曲げる折曲げミラー136と、コンデンサ光学素子ユニット137と、トップレンズユニット138とを備える。
【0036】
落射照明光学系14は、落射照明用光源140と、落射照明用光源140から射出した照明光(以下、落射照明光という)を集光するコレクタレンズ141と、落射用フィルタユニット142と、落射シャッタ143と、落射視野絞り144と、落射開口絞り145とを備える。
【0037】
レボルバ15には、倍率(観察倍率)が互いに異なる複数の対物レンズ151a、151b、…(これらを総称して対物レンズ151ともいう)が装着されている。対物レンズ151は、レボルバ15の回転に応じて択一的に切り換えられて観察光路Lに挿入され、標本Sの観察に用いられる。なお、図1においては、対物レンズ151aが観察光路Lに挿入された状態を示している。
【0038】
レボルバ15は、対物レンズ151として、倍率が比較的低い低倍率(例えば2倍、4倍)の対物レンズ(以下、低倍対物レンズという)と、倍率が低倍対物レンズよりも高い高倍率(例えば、10倍、20倍、40倍)の対物レンズ(以下、高倍対物レンズという。)とを少なくとも1つずつ保持している。なお、低倍及び高倍とした倍率は一例であり、少なくとも一方の倍率が他方の倍率に対して高ければよい。
【0039】
光学キューブ切換部16は、複数の光学キューブ161a、161b、…(これらを総称して光学キューブ161ともいう)を保持しており、検鏡法に応じていずれかの光学キューブ161を選択して観察光路L(より詳細には、観察光路Lと落射照明光の光路L2とが交差する位置)に挿入する。
【0040】
各光学キューブ161は、標本Sを染色した蛍光色素の励起波長の光を透過させる励起フィルターと、標本Sを染色した全ての蛍光色素の蛍光波長を含む波長の光を透過させる吸収フィルターと、ダイクロイックミラーとをユニット化したものである。観察光路Lに挿入された光学キューブ161は、落射照明用光源140から射出された光の内、標本Sを染色した蛍光色素の励起波長成分を反射して標本Sの方向に導くと共に、標本Sからの反射光の内、標本Sで発光した蛍光波長成分を透過させて鏡筒17の方向に導く。
【0041】
鏡筒17には、接眼レンズを内設し、標本Sの標本像を目視観察するための双眼部171と、TVカメラ50と、標本Sからの観察光を双眼部171側とTVカメラ50側とに分岐するビームスプリッタ172とが設けられている。
【0042】
このような顕微鏡装置10の各部は電動化されており、顕微鏡コントローラ30の制御の下で動作する。なお、顕微鏡装置10の各部を、ユーザが手動で操作することも可能である。
【0043】
ホストシステム20は、CPUやビデオボード、メインメモリ等の主記憶装置、ハードディスクや各種記憶媒体等の外部記憶装置、通信装置、表示装置や印刷装置等の出力装置、入力装置、各部を接続し、あるいは外部入力を接続するインターフェース装置等を備えた公知のハードウェア構成(例えば、ワークステーションやパソコン等の汎用コンピュータ)によって実現される。
【0044】
図2は、ホストシステム20の構成を示すブロック図である。図2に示すように、ホストシステム20は、入力部21と、表示部22と、画像データ記録部23と、撮影座標記録部24と、プログラム記録部25と、TVカメラ50から入力されるビデオ信号を処理するビデオボード26と、これらの各部及び顕微鏡システム全体の動作を制御する制御部27とを備える。この他、図示はしないが、ホストシステム20は、図1に示す顕微鏡システムを構成する各部との間で各種データの授受を管理するインタフェースユニットを備える。
【0045】
入力部21は、マウスやキーボード等の入力デバイスによって実現される。入力部21は、ユーザが各種情報や命令をホストシステム20に入力する際に用いられる。
表示部22は、LCDやELディスプレイ等の表示装置によって実現される。
【0046】
画像データ記録部23、撮影座標記録部24、及びプログラム記録部25は、例えば、更新記録可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵若しくは外付けハードディスク、又は、CD−ROM等の情報記録媒体及びその読取装置によって実現される。画像データ記録部23は、TVカメラ50によって標本Sを撮影した画像(以下、観察画像ともいう)を記録する。撮影座標記録部24は、標本Sの観察画像を撮影する際のXYZ座標を記録する。プログラム記録部25は、顕微鏡システム1の動作を制御するための各種制御プログラムや、これらの制御プログラムの実行中に用いられるデータ等を記録する。
【0047】
制御部27は、例えば、プログラム記録部25に記録されている各種制御プログラムをCPU(中央演算装置)に読み込んで実行することにより実現される。制御部27は、蛍光VS画像領域設定部271と、明視野VS画像取得制御手段としての明視野VS撮像制御部272と、蛍光VS画像取得制御手段としての蛍光VS撮像制御部273と、フォーカス位置取得部274と、VS画像作成部275と、画像合成部276とを有し、顕微鏡装置10の動作を制御するための各種制御信号を生成して顕微鏡コントローラ30に出力する。また、制御部27は、TVカメラコントローラ40に制御信号を送信して、TVカメラ50による撮影を実行させる。
【0048】
蛍光VS画像領域設定部271は、ユーザ操作による入力部21からの入力信号に従って、蛍光VS画像の取得対象とする標本S上の領域(以下、注目領域ともいう)を設定する。
【0049】
明視野VS撮像制御部272は、透過照明光学系13により標本Sに透過照明光を照射して、非蛍光色素で染色された細胞を構成する1つ以上の細胞構成要素(細胞核等。以下、単に細胞構成要素ともいう)に対応する明視野画像を取得する一連の動作を制御する。
【0050】
蛍光VS撮像制御部273は、落射照明光学系14により標本Sに落射照明光を照射して、蛍光標識された標的分子に対応する蛍光画像を取得する一連の動作を制御する。
【0051】
フォーカス位置取得部274は、標本Sの明視野画像及び蛍光画像を取得する際の合焦位置を実測又は演算により取得する。より詳細には、フォーカス位置取得部274は、明視野画像用の合焦位置を取得し、この合焦位置を用いて蛍光画像用の合焦位置を取得する。合焦位置の実測は、フォーカス位置取得部274が顕微鏡コントローラ30を介して電動ステージ11をZ方向に移動させながら、TVカメラ50によって撮像された画像のコントラストを各Z座標について評価することにより行われる。なお、この合焦動作は、ビデオAF機能とも呼ばれる。
【0052】
VS画像作成部275は、顕微鏡装置10により標本Sの注目領域内を部分的に撮像した複数の明視野画像同士を繋ぎ合わせて明視野VS画像を作成すると共に、標本Sの注目領域内を部分的に撮像した複数の蛍光画像同士を繋ぎ合わせて蛍光VS画像を作成する。
画像合成部276は、明視野VS画像と蛍光VS画像とを重ね合わせた合成画像を作成する。
【0053】
顕微鏡コントローラ30は、ホストシステム20からの制御信号に応じて、顕微鏡装置10全体の動作を制御する。具体的には、顕微鏡コントローラ30は、顕微鏡装置10に対し、検鏡法(明視野観察/蛍光観察)の変更、透過照明用光源130及び落射照明用光源140の調光等といった各部の制御、現在の顕微鏡装置10の各部の状態の検出及びホストシステム20への送出等を実行する。また、顕微鏡コントローラ30は、ステージX−Y駆動制御部31及びステージZ駆動制御部33に対し、電動ステージ11の移動を制御するための制御信号を出力する。
【0054】
TVカメラコントローラ40は、ホストシステム20からの制御信号に応じて、TVカメラ50の動作を制御する。具体的には、TVカメラ50に対し、自動ゲイン制御のON/OFF、ゲイン設定、自動露出制御のON/OFF、及び露光時間の設定等を実行する。
【0055】
TVカメラ50は、標本像(詳細には対物レンズ151の視野範囲)を結像するCCDやCMOS等の撮像素子を備え、標本像を撮像して標本像の画像データをホストシステム20に出力する。
【0056】
次に、実施の形態1に係る顕微鏡システム1の動作について説明する。図3は、実施の形態1に係る顕微鏡システム1の動作を示すフローチャートである。なお、以下に説明する顕微鏡装置10の操作は、基本的にホストシステム20の制御の下で顕微鏡コントローラ30を介して自動的になされるが、ユーザが手動で操作しても良い。
【0057】
まず、ステップS10において、顕微鏡システム1は、観察法を明視野観察に設定し、顕微鏡装置10の各部に対し、透過明視野観察法を実行するために各種光学部材の光路への挿脱制御を行う。それに応じて、落射シャッタ143が落射照明用の光路L2に挿入され、透過照明用の光路L1上の透過シャッタ133が開放され、明視野観察用の光学キューブ161が選択されて観察光路Lに挿入される。それにより、透過照明光が標本Sに照射される。
続くステップS11において、顕微鏡装置10は、低倍(例えば4倍)の対物レンズ151を光路に挿入する。
【0058】
ステップS12において、顕微鏡システム1は、標本S全体に対応する低解像度の明視野画像を取得する。
図4は、標本Sが配置されたスライドガラス100全体を示す上面図である。以下の説明においては、標本Sの一例として、多重染色を施した乳癌組織標本を用いる。多重染色としては、形態観察用の染色として、細胞核に対してヘマトキシリン染色を施し、エストロゲン受容体(以下、単にERとも記す)を認識する抗ER抗体に対してAlexa555で蛍光標識を施し、HER2受容体(以下、単にHER2とも記す)を認識する抗HER2抗体に対してCy5で蛍光標識を施すものとする。実施の形態1においては、このような標本Sに対して明視野(細胞核)観察及び蛍光観察を行う。なお、ラベルLBには、標本Sに関する情報が記載されている。
【0059】
このような標本Sに対し、顕微鏡装置10は、スライドガラス100上の予め定められた標本サーチ領域R1(例えば、縦:25mm、横:50mmの領域)を、TVカメラ50に投影される1ショットの撮像領域に応じて複数の区画に分割する。なお、この撮像領域の大きさ(縦×横の長さ)は、観察光路L上に挿入された対物レンズ151の倍率によって決定される。そして、顕微鏡システム1は、電動ステージ11をXY方向に移動させ、これらの各区画をTVカメラ50により順次撮像して、複数の顕微鏡画像(明視野画像)の画像データを取得する。ホストシステム20は、これらの複数の顕微鏡画像を相互に結合することで、標本サーチ領域R1の全体画像を生成する。この全体画像に対応する画像データは、画像データ記録部23にスライドガラス全体像ファイルとして記録される。
【0060】
ステップS13において、顕微鏡装置10は、レボルバ15を回転させ、対物レンズ151を高倍(例えば20倍)のものに交換する。ここで高倍のレンズに交換するのは、明視野観察による高解像度の細胞核像と、蛍光観察による標的分子像とを取得するためである。
【0061】
ステップS14において、顕微鏡システム1は、標本サーチ領域R1の内、高解像度の明視野観察及び蛍光観察を行う対象とする注目領域を設定し、注目領域内において合焦位置を実測するポイント(以下、フォーカス位置抽出ポイントと呼ぶ)を抽出する。
【0062】
より詳細には、顕微鏡システム1は、ステップS12において取得した標本サーチ領域R1の全体画像から、標本Sを含む標本領域R2を自動検出して表示部22に表示する。図5は、自動検出された標本領域R2を示す模式図である。なお、標本領域R2の自動検出方法としては、既知の画像処理方法が用いられる。
【0063】
このような標本領域R2が表示された画面上で、ユーザが入力部21(例えば、マウス等のポインティングデバイス)を用いて矩形の注目領域R3、R4を指定すると、ホストシステム20は、入力部21からの入力信号に従って、注目領域R3、R4の座標を撮像座標記録部24に一時的に記憶する。注目領域R3、R4としては、通常、腫瘍部のように、ユーザが目視により異常を認識した部分を含む領域が指定される。
【0064】
なお、顕微鏡システム1は、ユーザに注目領域R3、R4を選択させる際に、標本サーチ領域R1全体を表示部22に表示するようにしても良いし、標本サーチ領域R1を表示部22に表示した上で、標本領域R2をユーザに目視で指定させるようにしても良い。
【0065】
さらに、図6A及び図6Bに示すように、顕微鏡システム1は、各注目領域R3、R4を格子状に分割して複数の小区画Pを設定する。各小区画Pは、TVカメラ50に投影される1ショットの撮像領域に対応しており、各小区画Pの大きさ(縦×横の長さ)は対物レンズ151の倍率によって決定される。従って、小区画Pの大きさは、ステップS12において撮像される1つの区画よりも小さくなる。
【0066】
そして、顕微鏡システム1は、これらの小区画Pの内から、合焦位置を実測する複数の小区画(フォーカス位置抽出ポイント)FPを抽出する。
ここで、全ての小区画Pについてフォーカス位置を実測で求めようとすると、非常に多くの時間がかかってしまう。そこで、本実施の形態1においては、全ての小区画Pの内からフォーカス位置をサンプリング(実測)する小区画を自動抽出し、それ以外の小区画については、サンプリングされた値に基づいて演算により求める。なお、フォーカス位置抽出ポイントの自動抽出方法は任意で良く、ランダムであっても良いし、規則的(例えば3区画おき)であっても良い。
【0067】
自動抽出されたフォーカス位置抽出ポイントFPは、明視野画像を取得する際のフォーカス位置の実測ポイントとして用いられる。また、蛍光画像用のフォーカス位置抽出ポイントは、好ましくは、明視野画像用のフォーカス位置抽出ポイントFPからさらに絞り込まれる。これは、蛍光観察は基本的に暗視野で行われ、撮像に時間がかかるため、フォーカス位置の実測処理においては明視野観察の場合よりも数倍〜数十倍、時間を要するからである。そのため、実施の形態1においては、蛍光画像用のフォーカス位置抽出ポイント数を絞ることにより、全体の処理時間の短縮を図っている。なお、明視野画像用のフォーカス位置抽出ポイントFPから蛍光画像用のフォーカス位置抽出ポイントを抽出する方法は任意で良く、ランダムに抽出しても良いし、規則的に間引くことにより抽出しても良い。以下において、明視野画像用として抽出されたフォーカス位置抽出ポイントFPの内、蛍光画像用のフォーカス位置抽出ポイントとして抽出されたポイントをポイントAと呼び、抽出されなかったポイントをポイントBと呼ぶ。
【0068】
続くステップS15において、顕微鏡システム1は、明視野画像用及び蛍光画像用のフォーカスマップを、各注目領域R3、R4について作成する。より詳細には、明視野画像用の合焦位置の実測及び算出を行ってフォーカスマップを作成した後、明視野画像用の合焦位置に基づき、蛍光画像用の合焦位置の実測及び算出を標的分子(ER、HER2)毎に行い、ER用及びHER2用のフォーカスマップをそれぞれ作成する。図7は、フォーカスマップの一例を示す図である。図7に示すように、フォーカスマップMは、注目領域R3、R4内の各小区画Pに割り当てられた座標番号((001,001)、(002,001)、…)と、各小区画Pを撮像する際の電動ステージ11の座標情報(ステージ座標)とを含む。各座標情報は、小区画Pを対物レンズ151の光軸に合わせたときの電動ステージ11のX座標及びY座標、及び、合焦位置を表すZ座標とからなる。このようなフォーカスマップMは、撮像座標記録部24に記録される。フォーカスマップ作成の詳細な処理については後述する。
【0069】
ステップS16において、顕微鏡システム1は、フォーカスマップMに基づいて顕微鏡装置10を動作させ、高倍の対物レンズ151を用いて注目領域R3、R4に対応する高解像度の明視野画像及び蛍光画像を取得する。
【0070】
より詳細には、顕微鏡装置10は、フォーカスマップに登録されている座標情報に従って電動ステージ11を移動させ、小区画P毎に合焦位置を調節する。そして、透過照明光学系13及び落射照明光学系14を順次動作させて、各小区画Pの明視野画像、ER画像、及びHER2画像をTVカメラ50に撮像させる。ホストシステム20は、TVカメラ50から入力された画像を、画像の種類(明視野画像及び各種蛍光画像)毎に、隣接する小区画Pの画像と結合する。このような画像の入力及び結合処理を、フォーカスマップMに登録された全小区画Pに対して繰り返すことにより、広視野且つ高精細な注目領域R3、R4の全体画像(VS画像)が作成される。これらのVS画像に対応する画像ファイルは、画像データ記録部23に格納される。なお、VS画像を画像データ記録部23に記録する際には、JPEG、JPEG2000等の公知の圧縮アルゴリズムにより圧縮しても良い。
【0071】
図8は、画像データ記録部23に格納される画像ファイルのデータ構成例を示す模式図である。図8に示すように、画像ファイル6は、付帯情報61、標本全体画像データ62、及び注目領域指定情報63を含む。
【0072】
付帯情報61は、スライド番号611、スライドガラス全体像(即ち、標本サーチ領域R1)の撮像倍率612、蛍光色素数(m)613、蛍光色素#1情報〜蛍光色素#m情報614といった情報を含む。スライド番号は、スライドガラス100に任意に割り当てられる識別番号である。この識別番号は、例えばラベルLB(図4参照)に印刷されたバーコードを図示しないバーコードリーダで読み込むことにより、ホストシステム20に入力される。また、スライドガラス全体像の撮像倍率は、ステップS12において標本サーチ領域R1を撮像した際に使用した低倍率の対物レンズ151の倍率である。蛍光色素数(m)は、標本Sの染色に使用した蛍光色素の種類の数であり、実施の形態1においては、Alexa555、Cy5の2種類(m=2)である。蛍光色素#1情報〜蛍光色素#m情報は、使用した各蛍光色素に関する情報を含む。
【0073】
標本全体画像データ62は、ステップS12において取得した標本サーチ領域R1に対応する低解像度画像の画像データを含む。
【0074】
注目領域指定情報63は、注目領域指定数(n)631、注目領域#1情報〜注目領域#n情報632といった情報を含む。注目領域指定数(n)631は、標本領域R2からユーザが注目領域として指定した領域の数であり、実施の形態1においては、注目領域R3及びR4の2つである(n=2)。
【0075】
各注目領域#j情報632(j=1、2、…、n)は、撮像情報632a、フォーカスマップデータ632b、及び画像データ632cを含む。撮像情報632aは、撮像倍率632a−1、スキャン(Scan)開始ステージX座標632a−2、スキャン(Scan)開始ステージY座標632a−3、X方向のピクセル数632a−4、Y方向のピクセル数632a−5といった情報を含む。この内、撮像倍率は、ステップS16において注目領域R3、R4を撮像した際に使用した高倍率の対物レンズ151の倍率である。また、スキャン開始ステージX座標及びY座標は、注目領域R3、R4内の小区画Pの撮像を開始した位置座標であり、通常は、各注目領域R3、R4の左上の小区画Pの位置となる(図6A、図6B参照)。X方向及びY方向のピクセル数は、注目領域R3、R4のX方向及びY方向の各辺に含まれる注目領域画像の画素数である。
【0076】
フォーカスマップデータ632bは、ステップS15において作成されたフォーカスマップMに関する情報を含む。画像データ632cは、ステップS16において取得された各注目領域R3、R4のVS画像(明視野(細胞核)画像、ER画像、及びHER2画像)に対応する画像データである。
【0077】
ステップS17において、顕微鏡システム1は、画像データ記録部23に格納された画像ファイルに基づいて、標本SのVS画像を表示部(モニタ)22に表示する。この際、ホストシステム20は、明視野(細胞核)画像に例えばB(青)チャネル、ER画像を例えばG(緑)チャネル、HER2画像を例えばR(赤)チャネルに割り当て、これらの画像を重ね合わせて表示する。或いは、ホストシステム20は、入力部21を介してユーザにより入力された入力信号に従い、明視野画像に対して所望の蛍光画像を重ね合わせた画像を表示しても良い。なお、各画像に割り当てるチャネルは、ユーザ所望の設定にすることができる。
【0078】
次に、ステップS15におけるフォーカスマップの作成処理について詳細に説明する。図9は、フォーカスマップの作成処理を示すフローチャートである。
まず、明視野画像用のフォーカスマップを作成する。即ち、ステップS101において、顕微鏡システム1は、ステップS14において抽出した各フォーカス位置抽出ポイントFPにおける合焦位置を実測する。より詳細には、顕微鏡装置10は、対物レンズ151の光軸にフォーカス位置抽出ポイントFPが合うように、電動ステージ11をXY平面内で移動させる。続いて、ホストシステム20は、電動ステージ11をZ方向に移動させながらTVカメラ50により撮像された画像の入力を受け付け、画像の明るさやコントラストを評価することにより、合焦位置を求める。このようにして実測された各フォーカス位置抽出ポイントFPの合焦位置座標は、フォーカスマップMに記録される。
【0079】
続くステップS102において、ホストシステム20は、フォーカス位置抽出ポイントFPとして抽出されなかった各小区画Pの合焦位置を、近傍で実測された合焦位置に基づいて補間演算を行うことにより算出する。算出された各小区画Pの合焦位置座標は、フォーカスマップMに記録される。
以上の処理により、高解像度の明視野画像用のフォーカスマップMが完成する。このフォーカスマップMは、撮像座標記録部24に格納される。
【0080】
続いて、蛍光画像用のフォーカスマップの作成処理に移行する。実施の形態1においては、ER及びHER2の2種類の蛋白の発現を観察するため、注目領域R3、R4の各々に対してER用及びHER2用(即ち、計4個)のフォーカスマップを作成する。
【0081】
ステップS103において、顕微鏡システム1は、観察法を観察対象の標的分子に合わせた蛍光観察に切り替える。それに応じて、透過シャッタ133が透過照明用の光路L1に挿入され、落射照明用の光路L2上の落射シャッタ143が開放され、標的分子の観察用の光学キューブ(例えばER用)161が選択されて観察光路Lに挿入される。それにより、標的分子に対応する励起光が標本Sに照射される。
【0082】
続くステップS104において、顕微鏡システム1は、フォーカス位置抽出ポイントFPの内、蛍光画像用に抽出された全てのポイントAにおける合焦位置を実測する。より詳細には、顕微鏡装置10は、対物レンズ151の光軸にポイントAが合うように、電動ステージ11をXY平面内で移動させる。続いて、ホストシステム20は、電動ステージ11をZ方向に移動させながらTVカメラ50により撮像された画像の入力を受け付け、画像の明るさやコントラストを評価することにより、合焦位置を求める。この際、顕微鏡コントローラ30は、ステップS101において実測された明視野画像用の合焦位置を中心とした所定の範囲内(例えば標本Sの厚さを考慮に入れた範囲内)で電動ステージ11をZ方向に上下させると良い。それにより、合焦位置の実測処理の高速化を測ることができる。
このようにして取得された各ポイントAの合焦位置座標は、フォーカスマップMに記録される。
【0083】
ステップS105において、ホストシステム20は、ポイントAにおける合焦位置の実測値から、次の統計量を算出する。即ち、あるポイントAについてステップS101において実測した明視野画像用の合焦位置と、これに対応するXY座標のポイントAについてステップS104において実測した蛍光画像用の合焦位置との差分を算出する。そして、全てのポイントAにおける当該差分の平均値μ及び標準偏差δを算出する。
【0084】
ホストシステム20は、標準偏差δが所定値(例えば、使用中の対物レンズ151の被写界深度の1/2)以下である場合(ステップS106:Yes)、明視野画像用の合焦位置から蛍光画像用の合焦位置を推定可能と判断し、全てのポイントBにおける蛍光画像用の合焦位置をオフセットで決定する(ステップS107)。具体的には、明視野画像用の合焦位置座標ZBF及び差分の平均値μから算出した値ZBF−μを、蛍光画像用の合焦位置座標とする。このように算出されたポイントBの合焦位置座標は、フォーカスマップMに記録される。
【0085】
一方、顕微鏡システム1は、標準偏差δが上記所定値よりも大きい場合(ステップS106:No)、全てのポイントBにおける蛍光画像用の合焦位置を実測する(ステップS108)。実測されたポイントBの合焦位置座標は、フォーカスマップMに記録される。
【0086】
図10は、ポイントBにおける合焦位置を実測する処理を示すフローチャートである。
まず、ステップS121において、顕微鏡システム1は、各ポイントBの近傍(例えば5区画以内)に蛍光画像用の合焦位置を実測した小区画Pが存在するか否かを判定する。なお、近傍の範囲は注目領域R3、R4の面積に応じて可変としても良い。顕微鏡システム1は、近傍に合焦位置を実測した小区画Pが存在する場合(ステップS121:Yes)、近傍の小区画Pの合焦位置座標を当該ポイントBのZ座標に設定して、第1の蛍光画像を取得する(ステップS122)。
【0087】
続くステップS123において、顕微鏡システム1は、第1の蛍光画像の合焦評価を行う。合焦評価は、既知の様々な方法で行って良い。例えば、第1の蛍光画像の明るさやコントラストを、ステップS104において実行した合焦評価演算(明るさやコントラストの評価)の平均値と比較することにより、標本状態に応じた合焦評価を行うことができる。
【0088】
ステップS123における合焦評価の結果、第1の蛍光画像が合焦状態にあると判定された場合(ステップS123:Yes)、ホストシステム20は、第1の蛍光画像を撮像した際のZ座標(即ち、近傍で実測された合焦位置座標と同じ値)を当該ポイントBの合焦位置座標として、フォーカスマップMに記録する(ステップS133)。
【0089】
第1の蛍光画像が合焦状態にないと判定された場合(ステップS123:No)、又は、当該ポイントBの近傍に合焦位置を実測した小区画Pが存在しない場合(ステップS121:No)、処理はステップS124に移行する。
【0090】
ステップS124において、顕微鏡システム1は、当該ポイントBにおいて実測された明視野画像用の合焦位置座標ZBFを取得し、この座標値ZBF及びステップS105において算出した差分の平均値μを用いて値ZBF−μを算出する。そして、Z座標を値ZBF−μに設定して、ポイントBにおける第2の蛍光画像を取得する。
続くステップS125において、顕微鏡システム1は、第2の蛍光画像の合焦評価を行う。合焦評価の詳細については、ステップS123と同様である。
【0091】
ステップS125における合焦評価の結果、第2の蛍光画像が合焦状態にあると判定された場合(ステップS125:Yes)、ホストシステム20は、この値ZBF−μを当該ポイントBの合焦位置座標として、フォーカスマップMに記録する(ステップS133)。
【0092】
一方、第2の蛍光画像が合焦状態にないと判定された場合(ステップS125:No)、ホストシステム20は、明視野画像用の合焦位置座標ZBF、並びに差分の平均値μ及び標準偏差δを用いて、値ZBF−μ−δを算出する。そして、Z座標を値ZBF−μ−δに設定して、ポイントBにおける第3の蛍光画像を取得する(ステップS126)。
【0093】
ステップS127において、ホストシステム20は、第2の蛍光画像と第3の蛍光画像との合焦状態を比較する。なお、図10においては、不等号の大きい方が、合焦状態がより良好であることを示している。
【0094】
第3の蛍光画像の方が、合焦状態がより良好である場合(ステップS127:Yes)、顕微鏡システム1は、電動ステージ11のZ座標を値ZBF−μ〜ZBF−μ−2δの範囲内で移動させながら、ポイントBにおける合焦位置を探索する(ステップS128)。その後、処理はステップS133に移行し、探索結果を当該ポイントBにおける合焦位置座標として、フォーカスマップMに記録する。
【0095】
一方、第2の蛍光画像の方が、合焦状態がより良好である場合(ステップS127:No)、顕微鏡システム1は、Z座標を値ZBF−μ+δに設定して、ポイントBにおける第4の蛍光画像を取得する(ステップS129)。
【0096】
ステップS130において、ホストシステム20は、第2の蛍光画像と第4の蛍光画像との合焦状態を比較する。そして、第4の蛍光画像の方が、合焦状態がより良好である場合(ステップS130:Yes)、顕微鏡システム1は、電動ステージ11のZ座標を値ZBF−μ〜ZBF−μ+2δの範囲内で移動させながら、ポイントBにおける合焦位置を探索する(ステップS131)。その後、処理はステップS133に移行し、探索結果を当該ポイントBの合焦位置座標として、フォーカスマップMに記録する。
【0097】
一方、第2の蛍光画像の方が、合焦状態がより良好である場合(ステップS130:No)、顕微鏡システム1は、電動ステージ11のZ座標を値ZBF−μ−δ〜ZBF−μ+δの範囲で移動させながら、ポイントBにおける合焦位置を探索する(ステップS132)。その後、処理はステップS133に移行し、探索結果を当該ポイントBの合焦位置座標として、フォーカスマップMに記録する。
これらのステップS121〜S133が全てのポイントBに対してなされた後、処理はメインルーチンに戻る。
【0098】
再び図9を参照すると、ステップS109において、ホストシステム20は、フォーカス位置抽出ポイントFP(ポイントA及びB)以外の小区画Pの合焦位置を、近傍のフォーカス位置抽出ポイントFPの合焦位置座標に基づき補間演算により求める。算出された各小区画Pの合焦位置座標は、フォーカスマップMに記録される。
【0099】
観察対象とする他の標的分子(例えば、HER2)がさらにある場合(ステップS110:Yes)、処理はステップS103に戻る。一方、観察対象とする他の標的分子がない場合(ステップS110:No)、処理はメインルーチンに戻る。
【0100】
これらのステップS103〜S110により、標的分子毎(例えば、ER用及びHER2用)のフォーカスマップMが完成する。これらのフォーカスマップMは、撮像座標記録部24に格納される。
【0101】
なお、ステップS126においては、合焦位置の探索範囲を決定する際に、差分の標準偏差δを用いて基準の座標値ZBF−μからの移動方向(プラス方向/マイナス方向)を判定しているが、対物レンズの被写界深度といった規定の値を用いてこの判定を行っても良い。また、ステップS128及びS131においては、合焦位置を探索する範囲を2δとしているが、合焦位置の検出精度をより向上させるために、3δの範囲で探索を行うこととしても良い。
【0102】
また、ステップS124、S126、S129における蛍光画像の取得の際に、座標値ZBF−μ、ZBF−μ−δ、ZBF−μ+δのいずれにおいても所定の光量又はコントラストが得られなかった場合、標的分子が存在しないと判断し、「フォーカス位置なし」を示す値をフォーカスマップMに記録しても良い。更に、明視野画像用の合焦位置ZBFが「フォーカス位置なし」と判断された場合は、蛍光画像のフォーカス位置を求めずに「フォーカス位置なし」と設定するようにしてもよい。
【0103】
また、ステップS16において、細胞核を表す明視野VS画像と各種の標的分子を表す蛍光VS画像とを重ね合わせる際に、ヘマトキシリン(細胞核)、ER、HER2をRGBチャネルに割り当てて合成表示を行ったが、例えば特開2010−134195号公報に開示されているように、標本Sを染色した各色素を仮想的なスペクトルを有する色素に変換して合成を行うことにより、RGB表色系では表示しきれない4種類以上の多重染色標本を合成表示しても良い。
【0104】
以上説明したように、実施の形態1においては、細胞構成要素(細胞核)を非蛍光色素により染色し、検出目的とする標的分子を蛍光色素によって標識した多重染色標本を観察する際に、低解像度の明視野観察により取得した明視野画像上で領域選択した上で、選択された領域に対し、高解像度の明視野観察により取得した明視野画像から明視野VS画像を作成すると共に、蛍光観察により取得した蛍光画像から蛍光VS画像を作成する。その際に、明視野画像の取得の際に使用した合焦位置を用いて、蛍光画像の取得に用いる合焦位置を決定するので、蛍光画像用の合焦位置合わせ速度を向上させることができる。それにより、精度の良い蛍光VS画像を従来よりも短時間に作成することができると共に、励起光による標本の退色を軽減することが可能となる。
【0105】
また、実施の形態1によれば、明視野画像用の合焦位置座標と蛍光画像用の合焦位置座標との差の分布(統計量)に基づいて蛍光画像用の合焦位置座標の取得方式を決定するので、標本における標的分子の発現を効率的、且つ精度良く検出することが可能となる。
【0106】
また、実施の形態1によれば、低解像度の明視野観察により取得された標本S全体に対応する明視野VS画像を画面表示するので、腫瘍部といった領域の選択をユーザが容易に行うことができる。このため、ユーザが蛍光画像のみを見ながら領域選択する場合に生じ得る選択ミスを抑制することができる。また、ユーザが対象部位を検索する時間を短縮することができるので、標本の退色を防止することが可能となる。加えて、蛍光顕微鏡の熟練者でなくても、簡単に領域選択を行うことができる。
【0107】
また、実施の形態1によれば、細胞核を明視野観察した明視野VS画像に、標的分子を蛍光観察した蛍光VS画像を重ねて表示するので、標本の全体像を容易に把握することができると共に、細胞核の画像をランドマークとして、標的分子が発現している細胞を識別することが可能となる。
【0108】
また、実施の形態1によれば、病変部等における複数種類の標的分子の発現評価を、細胞単位でタイプ別に分類して表示することができる。また、タイプ別に細胞を特異的に表示することにより、タイプ別の細胞の分布確認を容易に行うことができる。従って、標的分子の発現量等を数値化して、治療法の選択や予後予測等に活用することが可能となる。さらに、複数種類の標的分子の発現と形態情報との関係を数値化して比べることもできるようになるので、HE染色で得られる細胞核等の形態情報から、細胞タイプを推測することも可能となる。
【0109】
(実施の形態2)
次に、本発明の実施の形態2について説明する。
実施の形態2に係る顕微鏡システム全体の構成及び動作は実施の形態1と同様であり、フォーカスマップの作成処理(図3のステップS15)が実施の形態1とは異なる。より詳細には、実施の形態1においては、まず明視野画像用のフォーカスマップを作成し、これを利用して蛍光画像用のフォーカスマップを作成した。これに対し、実施の形態2においては、ステップS14において抽出したフォーカス位置抽出ポイント毎に、明視野画像用及び蛍光画像用の合焦位置を取得する。それにより、電動ステージ11の移動及び光学キューブ161の切替回数を必要最小限に留め、フォーカスマップの作成時間を短縮することを特徴とする。
【0110】
図11は、実施の形態2におけるフォーカスマップの作成処理を示すフローチャートである。なお、以下の説明においては、一例として、明視野画像、ER蛍光画像、及びHER2蛍光画像を取得する際に用いる3種類のフォーカスマップを作成する。
【0111】
まず、ステップS201において、顕微鏡システム1は、ER蛍光画像用の光学キューブ161を選択して観察光路Lに挿入する。この際、Alexa555色素で標識されたER抗体の蛍光画像を取得するため、青色〜緑色の波長領域(波長が450nm〜570nm)の可視光の透過率が高い光学キューブ161を選択する。この他、発現量が高い抗体が標識されている蛍光色素用の特定の光学キューブ161を選択しても良い。
【0112】
ステップS202において、顕微鏡コントローラ30は、ステージX−Y駆動制御部31を介して、ステップS14で抽出したフォーカス位置抽出ポイントFPが対物レンズ151の光軸に合うように、電動ステージ11をXY方向に移動させる。
【0113】
続くステップS203において、顕微鏡システム1は、標本Sに対する照明を透過照明光に切り替える。即ち、落射シャッタ143を落射照明用の光路L2に挿入すると共に、透過照明用の光路L1に挿入された透過シャッタ133を開放して、透過照明光を標本Sに照射する。
ステップS204において、顕微鏡システム1は、明視野画像の合焦位置を実測し、その合焦位置座標を明視野画像用のフォーカスマップMに記録する。
【0114】
続くステップS205において、顕微鏡システム1は、標本Sに対する照明を落射照明光に切り替える。即ち、透過シャッタ133を透過照明用の光路L1に挿入すると共に、落射照明用の光路L2に挿入された落射シャッタ143を開放し、さらに、ER蛍光観察用の上記光学キューブ161を観察光路Lに挿入して、落射照明光を標本Sに照射する。
ステップS206において、顕微鏡システム1は、ER蛍光画像の合焦位置を実測し、その合焦位置座標をER蛍光画像用のフォーカスマップMに記録する。
【0115】
続くステップS207において、顕微鏡システム1は、HER2蛍光画像用の合焦位置を求め、その合焦位置座標をHER2蛍光画像用のフォーカスマップMに記録する。この合焦位置座標は、ER蛍光画像用及び/又は明視野画像用に実測した合焦位置座標に対し所定のオフセット値を加算することにより求めても良いし、実測により求めても良い。また、実測する場合には、光学キューブ161をHER2蛍光観察用のものに切り替える。
【0116】
ここで用いるオフセット値としては、例えば、基準標本や標本Sの一領域を用いて、ER蛍光画像用及び/又は明視野画像用に実測した合焦位置座標に対するHER2蛍光画像の合焦位置のずれを事前に実験により求めておき、そのずれの値を用いてもよい。この際、複数ポイントにおける合焦位置のずれを求め、それらの平均値をオフセット値としても良い。
【0117】
ステップS208において、ホストシステム20は、ステップS14で抽出した全てのフォーカス位置抽出ポイントFPについて合焦位置を取得した否かを判定する(ステップS208)。全てのフォーカス位置抽出ポイントFPについて合焦位置を取得した場合(ステップS208:Yes)、処理はステップS209に移行する。一方、まだ合焦位置を取得していないフォーカス位置抽出ポイントFPが存在する場合(ステップS208:No)、処理はステップS202に戻る。
【0118】
この場合、繰り返し後のステップS204においては、蛍光観察用の光学キューブ161を観察光路Lに挿入したまま明視野画像の合焦位置の実測を行っても良い。それにより、光学キューブ切換部16における光学キューブ161の切り替え回数を削減することができる。また、ステップS207においてHER2蛍光画像の合焦位置を実測により求める場合、ステップS206及びステップS207の順序を交互に入れ替えても良い。即ち、あるフォーカス位置抽出ポイントFPに対しては、ステップS206→S207の順で処理を実行し、次のフォーカス位置抽出ポイントFPに対しては、ステップS207→S206の順で処理を実行する。それにより、ER用及びHER2用の光学キューブ161の切り替え回数をさらに削減することができる。
【0119】
ステップS209において、ホストシステム20は、フォーカス位置抽出ポイントFP以外の小区画Pの合焦位置を、近傍に存在するフォーカス位置抽出ポイントFPの合焦位置座標に基づき補間演算を行うことにより求める。それにより、明視野画像用、ER蛍光画像用、及びHER2蛍光画像用の3種類のフォーカスマップMが完成する。その後、処理はメインルーチンに戻る。
【0120】
以上説明したように、実施の形態2によれば、フォーカス位置抽出ポイントFPにおける合焦位置を求める際に、電動ステージ11の移動回数及び光学キューブ161の切替回数を削減することができるので、複数種類のフォーカスマップを効率良く作成することが可能となる。
【0121】
(実施の形態3)
次に、本発明の実施の形態3について説明する。
実施の形態3に係る顕微鏡システム全体の構成及び動作は実施の形態1と同様であり、フォーカスマップの作成処理(図3のステップS15)及びVS画像の表示処理(ステップS17)が実施の形態1とは異なる。より詳細には、実施の形態3においては、図12に示すように、1つの明視野VS画像GBFを作成すると共に、この明視野VS画像GBF上の合焦位置座標ZBFを基準として、標的分子毎(本実施の形態では、ER用及びHER2用)に合焦位置座標(ER用の合焦位置座標ZER、HER2用の合焦位置座標ZHER2)を求める。そして、各合焦位置座標ZER、ZHER2、及びそれらの周辺の座標ZER(k)、ZHER2(k)(k=1、2、…、及び1’、2’、…)において、各標的分子に対応する蛍光VS画像(ER用の蛍光VS画像GER、GER(k)、及び、HER2用の蛍光VS画像GHER2、GHER2(k))を作成する。さらに、これらの蛍光VS画像を標的分子毎に重ね合わせて合成することにより、3次元的な蛍光VS画像を標的分子毎に構成する。なお、図12においては、各VS画像GBF、GER、GER(k)、GHER2、及びGHER2(k)をZ座標軸と対応付けられたバーによって表している。また、図12においては、模式的に、各VS画像GBF、GER、GER(k)、GHER2、及びGHER2(k)内の合焦位置座標(Z座標)を全て等しいものとして示しているが、これらのZ座標は実測又は演算により個別に取得されるため、実際には全て等しくなるわけではなく、3次元的に構成されるものである。
【0122】
次に、実施の形態3における顕微鏡システム1の動作について説明する。
高解像度の明視野画像用のフォーカスマップの作成処理及び明視野画像GBFの取得処理については、実施の形態1において説明したものと同様である(図3及び図9参照)。
【0123】
一方、蛍光画像については、以下のようにして取得される。図13は、実施の形態3における蛍光画像の取得処理を示すフローチャートである。
まず、ステップS301において、ホストシステム20は、注目領域R3、R4内の各小区画Pにおける明視野画像用の合焦位置座標ZBFを取得する。
【0124】
続くステップS302において、ホストシステム20は、明視野画像用の合焦位置座標ZBFに所定のオフセット値α1、α2をそれぞれ加えたZ座標の値ZER及びZHER2を、ER用の蛍光VS画像GER、及びHER2用の蛍光VS画像GHER2の合焦中心位置として設定してフォーカスマップを作成する。このオフセット値α1、α2としては、実施の形態1と同様に、基準標本や標本Sの一領域を用いて、明視野画像用に実測した合焦位置座標に対するER蛍光画像及びHER2蛍光画像の合焦位置のずれをそれぞれ事前に実験により求めておき、それらのずれの値を用いても良い。
【0125】
ステップS303において、顕微鏡システム1は、ステップS302において作成したフォーカスマップに基づき、各小区画Pについて、合焦中心位置ZER、及びそこから上下方向に所定の間隔Δずつ離れた位置ZER±Δ、ZER±2Δ、…におけるER蛍光画像をTVカメラ50によって取得する。ここで、間隔Δは、対物レンズ151の焦点深度に基づいて予め設定された値である。同様にして、顕微鏡システム1は、合焦中心位置ZHER2、及びそこから上下方向に所定の間隔Δずつ離れた位置ZHER2±Δ、ZHER2±2Δ、…におけるHER2蛍光画像をTVカメラ50によって取得する。
【0126】
この際、蛍光画像を取得するZ座標の配列順に電動ステージ11を移動させると良い。それにより、電動ステージ11の移動時間を短縮することができる。また、ある小区画PについてZ座標の配列順に蛍光画像を取得した場合には、その隣の小区画Pについて、Z座標の逆配列順に蛍光画像を取得すると良い。それにより、電動ステージ11の移動時間をさらに短縮することができる。
【0127】
続くステップS304において、ホストシステム20は、Z座標の配列順毎に、互いに隣接する小区画Pに対応するER蛍光画像を繋ぎ合わせて、複数の蛍光VS画像GER、GER(k)を作成する。HER2蛍光画像についても同様に繋ぎ合わせて、複数の蛍光VS画像GHER2及びGHER2(k)を作成する。
【0128】
さらに、ホストシステム20は、明視野画像上に、作成した蛍光VS画像群を標的分子毎に、Z座標の配列順となるように重ね合わせる。それにより、細胞構成要素(細胞核等)上に標的分子が3次元的に表示された画像が生成される。具体的には、明視野VS画像GBFにER用の蛍光VS画像GER及びGER(k)を重ね合わせた3次元的な合成画像と、明視野VS画像GBFにHER2用の蛍光VS画像GHER2及びGHER2(k)を重ね合わせた3次元的な合成画像とが生成される。
【0129】
なお、明視野画像と蛍光画像を合成表示する際には、ER用3次元蛍光画像、HER2用3次元蛍光画像毎に、同一XY座標上で一番輝度の高い画素を持つZ座標の画素のみを選択することにより、各々2次元画像化して、明視野画像、ER蛍光画像、HER2蛍光画像を表示することも可能である。
また、3次元の広視野且つ高精細な画像の取得方法の詳細については、特開2006−343573号公報も参照されたい。
【0130】
以上説明したように、実施の形態3によれば、細胞核等の細胞構成要素上に標的分子が3次元的に合成表示された画像を生成することができる。また、実施の形態3によれば、蛍光画像用の合焦位置算出を実測しないで済むので、処理時間を短縮でき、3次元のVS画像を高速に作成することが可能となる。さらに、例えばマルチカラーFISH標本のように、複数の遺伝子をターゲットに蛍光標識を行った場合、細胞核内で互いに異なるZ座標に位置する複数種類の遺伝子の発現をもれなく画像化することができるので、診断の際の見落としを低減することが可能となる。
【0131】
以上説明した実施の形態1〜3においては、1種類の非蛍光染色と、2種類の蛍光染色とを組み合わせた3種類の多重染色を行ったが、本実施の形態は、非蛍光染色を含む少なくとも2種類の染色法を施した多重染色標本に対して適用することができる。
【0132】
また、本発明は、上記した各実施の形態そのままに限定されるものではなく、各実施の形態に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、実施の形態に示される全構成要素からいくつかの構成要素を除外して形成してもよい。あるいは、異なる実施の形態に示した構成要素を適宜組み合わせて形成してもよい。
【符号の説明】
【0133】
1 顕微鏡システム
10 顕微鏡装置
11 電動ステージ
12 顕微鏡本体
13 透過照明光学系
130 透過照明用光源
131 コレクタレンズ
132 透過用フィルタユニット
133 透過シャッタ
134 透過視野絞り
135 透過開口絞り
136 折曲げミラー
137 コンデンサ光学素子ユニット
138 トップレンズユニット
14 落射照明光学系
140 落射照明用光源
141 コレクタレンズ
142 落射用フィルタユニット
143 落射シャッタ
144 落射視野絞り
145 落射開口絞り
15 レボルバ
151、151a、151b 対物レンズ
16 光学キューブ切換部
161、161a、161b 光学キューブ
17 鏡筒
171 双眼部
172 ビームスプリッタ
20 ホストシステム
21 入力部
22 表示部
23 画像データ記録部
24 撮影座標記録部
25 プログラム記録部
26 ビデオボード
27 制御部
271 蛍光VS画像領域設定部
272 明視野VS撮像制御部
273 蛍光VS撮像制御部
274 フォーカス位置取得部
275 VS画像作成部
276 画像合成部
30 顕微鏡コントローラ
31 ステージX−Y駆動制御部
32、34 モータ
33 ステージZ駆動制御部
40 TVカメラコントローラ
50 TVカメラ
100 スライドガラス

【特許請求の範囲】
【請求項1】
明視野観察及び蛍光観察が可能な顕微鏡の対物レンズ及び標本を、前記対物レンズの光軸と直交する方向に相対的に移動させて複数枚の顕微鏡画像群を取得し、該複数枚の顕微鏡画像群を相互に繋ぎ合わせたバーチャルスライド画像を生成する顕微鏡システムにおいて、
細胞を構成する1つ以上の細胞構成要素が非蛍光色素により染色され、且つ、検出目的とする標的分子が蛍光色素により標識された標本に対する明視野観察により、前記細胞構成要素が表示された明視野バーチャルスライド画像を取得する制御を行う明視野バーチャルスライド画像取得制御手段と、
前記標本に対する蛍光観察により、前記標的分子に対応する蛍光バーチャルスライド画像を取得する制御を行う蛍光バーチャルスライド画像取得制御手段と、
前記明視野観察の際に用いられる前記標本内の複数箇所における第1の合焦位置を取得すると共に、前記第1の合焦位置を用いて、前記蛍光観察の際に用いられる前記標本内の複数箇所における第2の合焦位置を取得するフォーカス位置取得手段と、
を備えることを特徴とする顕微鏡システム。
【請求項2】
前記フォーカス位置取得手段は、
前記標本内から前記第1の合焦位置を実測する複数の抽出ポイントを抽出し、該複数の抽出ポイントにおける前記第1の合焦位置を実測により取得すると共に、前記複数の抽出ポイントの内の少なくとも一部における前記第2の合焦位置を実測により取得することを特徴とする請求項1に記載の顕微鏡システム。
【請求項3】
前記フォーカス位置取得手段は、
前記複数の抽出ポイントの各々における前記第2の合焦位置を取得する際に、同一の抽出ポイントにおける前記第1の合焦位置からの所定のオフセットを用いることを特徴とする請求項1又は2に記載の顕微鏡システム。
【請求項4】
前記標本の観察法に応じて光路に選択的に挿入される光学キューブを切り換える光学キューブ切換部をさらに備え、
前記フォーカス位置取得手段は、前記第1の合焦位置を取得する場合に、前記蛍光画像観察用の光学キューブを前記光路に挿入したままの状態で前記第1の合焦位置を実測により取得することを特徴とする請求項3に記載の顕微鏡システム。
【請求項5】
前記蛍光バーチャルスライド画像取得制御手段は、前記第1の合焦位置を基準として光軸方向に複数の座標値を設定し、該複数の座標値において複数の蛍光画像をそれぞれ取得する処理を、前記光軸に直交する面を分割した複数の小区画の各々について実行する制御を行い、前記複数の座標値の配列順毎に、互いに隣接する前記小区画に対応する複数の蛍光画像を相互に繋ぎ合わせることにより、複数の蛍光バーチャル画像を作成することを特徴とする請求項1に記載の顕微鏡システム。
【請求項6】
前記明視野バーチャルスライド画像と前記蛍光バーチャルスライド画像とを重ね合わせた合成画像を作成する画像合成手段をさらに備えることを特徴とする請求項1〜5のいずれか1項に記載の顕微鏡システム。
【請求項7】
前記標本は、2種類以上の標的分子にそれぞれ対応する2種類以上の蛍光色素により標識がなされており、
前記蛍光バーチャルスライド画像取得制御手段は、前記標的分子の種類ごとに前記蛍光バーチャルスライド画像を取得することを特徴とする請求項1〜6のいずれか1項に記載の顕微鏡システム。
【請求項8】
前記明視野バーチャルスライド画像を用いて、前記標本の内、前記蛍光バーチャルスライド画像の取得対象とする領域を設定する領域設定手段をさらに備えることを特徴とする請求項1〜7のいずれか1項に記載の顕微鏡システム。
【請求項9】
前記細胞構成要素は細胞核であることを特徴とする請求項1〜8のいずれか1項に記載の顕微鏡システム。
【請求項10】
前記細胞構成要素がヘマトキシリン染色されていることを特徴とする請求項9に記載の顕微鏡システム。
【請求項11】
明視野観察及び蛍光観察が可能な顕微鏡の対物レンズ及び標本を、前記対物レンズの光軸と直交する方向に相対的に移動させて複数枚の顕微鏡画像群を取得し、該複数枚の顕微鏡画像群を相互に繋ぎ合わせたバーチャルスライド画像を生成する標本画像生成方法において、
細胞を構成する1つ以上の細胞構成要素が非蛍光色素により染色され、且つ、検出目的とする標的分子が蛍光色素により標識された標本に対する明視野観察により、前記細胞構成要素が表示された明視野バーチャルスライド画像を取得する制御を行う明視野バーチャルスライド画像取得制御ステップと、
前記標本に対する蛍光観察により、前記標的分子に対応する蛍光バーチャルスライド画像を取得する制御を行う蛍光バーチャルスライド画像取得制御ステップと、
前記明視野観察の際に用いられる前記標本内の複数箇所における第1の合焦位置を取得すると共に、前記第1の合焦位置を用いて、前記蛍光観察の際に用いられる前記標本内の複数箇所における第2の合焦位置を取得するフォーカス位置取得ステップと、
を含むことを特徴とする標本画像生成方法。
【請求項12】
明視野観察及び蛍光観察が可能な顕微鏡の対物レンズ及び標本を、前記対物レンズの光軸と直交する方向に相対的に移動させて複数枚の顕微鏡画像群を取得し、該複数枚の顕微鏡画像群を相互に繋ぎ合わせたバーチャルスライド画像を生成する処理をコンピュータに実行させる標本画像生成プログラムにおいて、
細胞を構成する1つ以上の細胞構成要素が非蛍光色素により染色され、且つ、検出目的とする標的分子が蛍光色素により標識された標本に対する明視野観察により、前記細胞構成要素が表示された明視野バーチャルスライド画像を取得する制御を行う明視野バーチャルスライド画像取得制御ステップと、
前記標本に対する蛍光観察により、前記標的分子に対応する蛍光バーチャルスライド画像を取得する制御を行う蛍光バーチャルスライド画像取得制御ステップと、
前記明視野観察の際に用いられる前記標本内の複数箇所における第1の合焦位置を取得すると共に、前記第1の合焦位置を用いて、前記蛍光観察の際に用いられる前記標本内の複数箇所における第2の合焦位置を取得するフォーカス位置取得ステップと、
を含むことを特徴とする標本画像生成プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6A】
image rotate

【図6B】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate


【公開番号】特開2013−44967(P2013−44967A)
【公開日】平成25年3月4日(2013.3.4)
【国際特許分類】
【出願番号】特願2011−183064(P2011−183064)
【出願日】平成23年8月24日(2011.8.24)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】