説明

顕微鏡システム、情報処理装置、及び情報処理プログラム

【課題】高精度な画像解析を効率的に行うことができる顕微鏡システム、情報処理装置、及び情報処理プログラムを提供する。
【解決手段】顕微鏡システムは、標本の観察像を生成する顕微鏡10と、標本のRGB画像を取得するRGB撮像装置20と、標本の分光情報を取得する分光計測装置30と、RGB画像を解析する第1解析部405と、該第1解析部405の解析結果に基づいて、標本に関する分光情報の取得の要否を判定する判定部407と、該判定部407の判定結果に基づいて、分光計測装置30の動作を制御する制御部410とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、顕微鏡を利用して取得した病理標本画像を処理する顕微鏡システム、情報処理装置、及び情報処理プログラムに関するものである。
【背景技術】
【0002】
従来から、病理診断における診断支援、スクリーニング、自動診断等のために、染色した病理標本のRGB画像を解析して異常部等を検出し、陰性/陽性等を判定する技術が知られている。例えば、特許文献1には、デジタルカラー画像を解析して異常領域等を抽出する技術が開示されている。
【0003】
一方、染色した病理標本の分光データを解析して診断支援等に利用する技術も提案されている(特許文献2〜4参照)。例えば、特許文献2には、組織標本を撮影して得られたカメラの信号値から分光透過率画像を推定し、この分光透過率画像から標本の色素量分布を求めて組織構造等を解析する画像処理方法が開示されている。また、分光データの取得方法としては、分光計を用いる分光計測(例えば、特許文献3参照)と、光学フィルタ及びRGBカメラを用いるマルチバンド撮像とが知られている(例えば、特許文献4参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−180539号公報
【特許文献2】特開2003−65948号公報
【特許文献3】特表2001−523334号公報
【特許文献4】特開2008−51654号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、RGB画像を構成するRGB信号値は、そのRGB画像を撮像した装置やシステムの特性に依存し易い。そのため、RGB画像を解析しても、観察対象の状態を正確に反映した特徴量を抽出することが困難となる場合がある。その結果、スクリーニングや自動診断等において、判断精度が不十分となる場合がある。
【0006】
それに対して、分光特性を解析する手法によれば、対象の状態を反映した解析を行うことができるので、高精度な診断を行うことができる。しかしながら、一方で、分光データの取得には長時間を要するという問題がある。例えば分光計を用いる場合、計測点を逐一指定し、位置合わせを行った上で計測を行う必要がある。また、マルチバンド撮像を行う場合には、バンド数に応じた回数だけ光学フィルタを交換して撮像を行う必要がある。そのため、分光特性に基づく高精度な画像解析を大量の標本に対するスクリーニングや自動診断に適用することは、時間やコストの面で非常に効率が悪く、非常に困難である。
【0007】
本発明は、上記に鑑みて為されたものであって、高精度な画像解析を効率的に行うことができる顕微鏡システム、情報処理装置、及び情報処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0008】
上記した課題を解決し、目的を達成するために、本発明に係る顕微鏡システムは、標本の観察像を生成する顕微鏡と、前記標本のRGB画像を取得する画像取得部と、前記標本の分光情報を取得する分光情報取得部と、前記RGB画像を解析する解析部と、前記解析部の解析結果に基づいて、前記分光情報の取得の要否を判定する判定部と、前記判定部の判定結果に基づいて、前記分光情報取得部の動作を制御する制御部とを備えることを特徴とする。
【0009】
上記顕微鏡システムにおいて、前記分光情報取得部は、分光計測装置であり、前記解析部の解析結果に基づいて、前記標本において分光情報を取得する位置を決定する位置決定部をさらに備え、前記制御部は、前記位置における分光情報を取得するよう、前記分光計測装置の動作、及び、前記顕微鏡における前記標本の位置を制御することを特徴とする。
【0010】
上記顕微鏡システムは、前記RGB画像の画像情報、及び、前記位置に関する分光情報を用いて前記標本の解析を行う第2の解析部をさらに備えることを特徴とする。
【0011】
上記顕微鏡システムにおいて、前記分光情報取得部は、少なくとも4バンドを有するマルチバンド撮像装置であることを特徴とする。
【0012】
上記顕微鏡システムは、前記マルチバンド撮像装置によって撮像されたマルチバンド画像の画像情報を用いて前記標本の解析を行う第2の解析部をさらに備えることを特徴とする。
【0013】
上記顕微鏡システムは、前記解析部の解析結果に基づいて、前記マルチバンド撮像装置によって撮像されたマルチバンド画像内で解析に用いる領域を決定する解析領域決定部と、前記RGB画像の画像情報、及び、前記領域に関する前記マルチバンド画像の画像情報を用いて前記標本の解析を行う第2の解析部とをさらに備えることを特徴とする。
【0014】
上記顕微鏡システムにおいて、前記画像取得部と前記分光情報取得部とは互いに異なる位置に設置されており、前記顕微鏡において生成された前記標本の観察光の光路を、前記画像取得部及び前記分光情報取得部の方向に分岐する分岐部をさらに備えることを特徴とする。
【0015】
上記顕微鏡システムにおいて、前記画像取得部と前記分光情報取得部とは互いに異なる位置に設置されており、前記顕微鏡において生成された前記標本の観察光の光路を、前記画像取得部又は前記分光情報取得部のいずれかの方向に切り換える切換部をさらに備えることを特徴とする。
【0016】
上記顕微鏡システムにおいて、前記画像取得部は、前記顕微鏡に設置されており、前記分光情報取得部が設置された第2の顕微鏡と、前記第1の顕微鏡から前記第2の顕微鏡に標本を搬送する搬送部と、前記判定部の判定結果に基づいて、前記搬送部の動作を制御する搬送制御部とをさらに備えることを特徴とする。
【0017】
上記顕微鏡システムは、前記顕微鏡における前記標本の位置を制御して、前記標本の部分的な画像を複数回に分けて前記画像取得部に取得させる標本位置制御部と、複数回に分けて取得された前記標本の部分的の画像をつなぎ合わせる画像処理部とをさらに備えることを特徴とする。
【0018】
本発明に係る情報処理装置は、標本の観察像を生成する顕微鏡を備える顕微鏡システムにおいて、前記標本のRGB画像及び前記標本の分光情報に基づいて生成された情報を処理する情報処理装置であって、前記RGB画像を解析する解析部と、前記解析部の解析結果に基づいて、前記分光情報の取得の要否を判定する判定部と、前記判定部の判定結果に基づいて、前記分光情報取得装置の動作を制御する制御部とを備えることを特徴とする。
【0019】
本発明に係る情報処理プログラムは、標本の観察像を生成する顕微鏡を備える顕微鏡システムにおいて、前記標本のRGB画像及び前記標本の分光情報に基づいて生成された情報を処理する情報処理プログラムであって、前記RGB画像を解析する解析ステップと、前記解析ステップにおける解析結果に基づいて、前記分光情報の取得の要否を判定する判定ステップと、前記判定ステップにおける判定結果に基づいて、前記分光情報取得装置の動作を制御する制御ステップとをコンピュータに実行させることを特徴とする。
【発明の効果】
【0020】
本発明によれば、標本を映したRGB画像の解析結果に基づき、詳細な画像情報が必要な標本についてのみ分光情報を取得するので、高精度な画像解析を効率良く行うことが可能となる。
【図面の簡単な説明】
【0021】
【図1】図1は、本発明の第1の実施の形態に係る顕微鏡システムの構成例を示す模式図である。
【図2】図2は、図1に示す情報処理装置の構成を示すブロック図である。
【図3】図3は、図1に示す顕微鏡システムの動作を示すフローチャートである。
【図4A】図4Aは、HE染色した病理標本のRGB画像の例を示す図である。
【図4B】図4Bは、図4Aに示す画像に対する解析によって得られた核領域の抽出画像の例を示す図である。
【図4C】図4Cは、図4Bに示す核領域の解析値の算出例を示す表である。
【図4D】図4Dは、分光測定によって取得された分光データを用いて抽出された核領域の例を示す図である。
【図5A】図5Aは、HE染色を行った病理標本の吸光度スペクトルの例を示す図である。
【図5B】図5Bは、標本ごと、又は染色の際に生じるヘマトキシリンの急高度スペクトルのばらつきの例を示す図である。
【図6】図6は、変形例1−1に係る顕微鏡システムの構成を示す模式図である。
【図7】図7は、本発明の第2の実施の形態に係る顕微鏡システムの構成例を示す模式図である。
【図8】図8は、図7に示す情報処理装置の構成を示すブロック図である。
【図9】図9は、図7に示す顕微鏡システムの動作を示すフローチャートである。
【図10】図10は、変形例2−2に係る顕微鏡システムの構成を示す模式図である。
【図11】図11は、本発明の第3の実施の形態に係る顕微鏡システムにおける情報処理装置の構成を示すブロック図である。
【図12】図12は、本発明の第3の実施の形態に係る顕微鏡システムの動作を示すブロック図である。
【図13】図13は、本発明の第4の実施の形態に係る顕微鏡システムの構成例を示す模式図である。
【図14】図14は、図13に示す顕微鏡システムの構成を示すブロック図である。
【図15】図15は、図13に示す顕微鏡システムの動作を示すフローチャートである。
【図16】図16は、本発明の第5の実施の形態に係る顕微鏡システムの構成例を示す模式図である。
【図17】図17は、図16に示す顕微鏡システムの構成を示すブロック図である。
【図18】図18は、図16に示す顕微鏡システムの動作を示すブロック図である。
【発明を実施するための形態】
【0022】
以下、図面を参照し、本発明を実施するための形態について詳細に説明する。なお、この実施の形態によって本発明が限定されるものではない。また、図面の記載において、同一部分には同一の符号を付して示している。
【0023】
(実施の形態1)
図1は、本発明の実施の形態1に係る顕微鏡システムの構成例を示す模式図である。図1に示すように、顕微鏡システム1は、標本100を観察するための顕微鏡10と、標本100のRGB画像を取得する画像取得部としてのRGB撮像装置20と、標本100の分光情報を取得する分光情報取得部としての分光計測装置30と、当該顕微鏡システム1の各部の動作を統括的に制御すると共に、RGB撮像装置20及び分光計測装置30から入力された情報に基づいて標本100に関する診断情報(例えば異常部の有無や位置、特徴量等)を生成する情報処理装置40とを備える。RGB撮像装置20及び分光計測装置30は、それぞれ、情報処理装置40とデータの送受可能に接続される。
【0024】
顕微鏡10は、標本100が載置されるステージ11と、標本100を裏面側から透過照明する照明光学系12と、標本100を透過した照明光を入射させる観察光学系13と、情報処理装置40の制御の下でステージ11の位置を調整するステージ駆動部14とを備える。
【0025】
ステージ11は、観察光軸(対物レンズ13aの光軸)Lに垂直な面内及び観察光軸Lの方向に移動自在に構成される。これによって標本100上の観察対象領域が調整されると共に、標本100が観察光軸Lに沿って焦準移動されて焦点合わせ(ピント合わせ)される。
【0026】
照明光学系12は、照明光を射出する光源12a、及び光源12aからの照明光を集光して標本100に照射するための不図示の各種光学系が適所に配置されて構成される。この照明光学系12によって標本100に照射された照明光は、観察光として対物レンズ13aに入射する。
【0027】
観察光学系13は、標本100の上部に配置される対物レンズ13a及び鏡筒13bを含む。鏡筒13bの光路上には、対物レンズ13aを透過した観察光の光路を、観察光軸Lの方向と観察光軸Lに直交する光軸L’の方向とに分岐するビームスプリッタ15が設けられている。
【0028】
RGB撮像装置20は、CCD等の撮像素子を備えたRGBカメラで構成される。RGB撮像装置20は、対物レンズ13aの倍率に応じて定まる視野(画像取得範囲)内の標本100の観察像を撮像してRGB画像の画像データ(RGB画像データ)を生成し、情報処理装置40に出力する。RGBカメラは、デジタルカメラ等で広く用いられているものであり、モノクロの撮像素子上にRGBの各色のカラーフィルタをベイヤー配列した単板方式のRGBカメラであってもよいし、3板構成のものでもよい。このようなRGB撮像装置20は、取得されるRGB画像の中心が観察光軸L上に位置するように、鏡筒13bの端部に設置される。
【0029】
分光計測装置30は、所定範囲の領域(分光測定範囲)内の標本100の観察光を分光測定し、波長帯域ごとの光強度(又は吸光度)を表す分光データを生成して情報処理装置40に出力する。この分光計測装置30は、その測定中心(分光測定範囲の中心)が光軸L’上に位置するように設置される。
【0030】
図2は、情報処理装置40の構成を示すブロック図である。図2に示すように、情報処理装置40は、当該情報処理装置40における処理に関する情報の入力を受け付ける入力部401と、RGB撮像装置20の動作を制御するRGB撮像制御部402と、分光計測装置30の動作を制御する分光計測制御部403と、記憶部404と、RGB撮像装置20において取得されたRGB画像を解析する第1解析部405と、画像データ及び分光データに基づく解析を行う第2解析部406と、分光情報取得の要否を判定する判定部407と、標本100に対する分光測定位置を決定する位置決定部408と、情報処理装置40における処理に関する情報を出力する出力部409と、これらの各部を制御する制御部410とを備える。
【0031】
入力部401は、例えばキーボードやマウス、タッチパネル、各種スイッチ等の入力装置によって実現され、操作入力に応じた入力信号を制御部410に出力する。
【0032】
RGB撮像制御部402は、標本100のRGB撮像を実行させる制御信号を生成してRGB撮像装置20に送信すると共に、RGB撮像装置20において生成されたRGB画像データの入力を受け付けて、その画像データを記憶部404に格納させる。
【0033】
分光計測制御部403は、標本100の分光計測を実行させる制御信号を生成して分光計測装置30に送信すると共に、分光計測装置30において生成された分光データの入力を受け付けて記憶部404に格納させる。
【0034】
記憶部404は、更新記憶可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵あるいはデータ通信端子で接続されたハードディスク、各種情報記録媒体(例えばCD−ROM)及びその読取装置等によって実現される。記憶部404は、上述した標本100の画像データ及び分光データの他、顕微鏡システム1を動作させると共に、顕微鏡システム1が備える種々の機能を実現するためのプログラムを予め格納し、さらに、このプログラムの実行中に使用されるデータ等を処理の都度一時的に格納する。
【0035】
第1解析部405は、標本100のRGB画像を解析して、RGB画像から検査目的に応じた組織を抽出すると共に、抽出した各組織の特徴量を算出する。
【0036】
第2解析部406は、分光測定位置に関する分光データと、それ以外の領域に関するRGB画像データとに基づいて解析を行い、標本100に関するより詳細な解析情報を生成する。
【0037】
判定部407は、第1解析部405の解析結果に基づいて、標本100の分光計測を行って、分光情報(分光データ)を取得する必要があるか否かを判定する。
【0038】
位置決定部408は、RGB画像から検出された異常部の位置を分光測定位置として決定し、その位置情報を出力する。
【0039】
制御部410は、入力部401から入力される入力信号や、記憶部404に記憶されるプログラムやデータ等に基づいて、情報処理装置40を構成する各部への指示やデータの転送等を行う。また、制御部410は、顕微鏡10を構成する各部の動作を制御して、顕微鏡システム1全体の動作を統括的に制御する。例えば、制御部410は、位置決定部408によって決定された分光測定位置について分光測定を行うよう、分光計測制御部403及びステージ駆動部14を制御する。
【0040】
出力部409は、例えばLCD、ELディスプレイ、CRTディスプレイ等の表示装置を備え、制御部410の制御の下で、当該情報処理装置40における処理状況や第1解析部405及び第2解析部406の解析結果、その他各種情報を表示する。
【0041】
このような情報処理装置40は、CPU、メインメモリ等の主記憶装置、外部記憶装置、通信装置、表示装置等の出力装置、入力装置、各部を接続し、あるいは外部入力を接続するインターフェース装置等を備えた公知のハードウェア構成で実現でき、例えばワークステーションやパソコン等の汎用コンピュータを用いることができる。
【0042】
次に、顕微鏡システム1の動作について説明する。図3は、顕微鏡システム1の動作を示すフローチャートである。
まず、ステップS101において、RGB撮像装置20は、標本100に対し、画像取得範囲内の観察像のRGB撮像を行う。なお、病理標本を検査対象とする場合、標本100は予め所定の色素で染色(例えば、ヘマトキシリン及びエオジンの2つを用いるヘマトキシリン−エオジン(HE)染色)される。RGB撮像により生成されたRGB画像データは、記憶部404に格納される。
【0043】
ステップS102において、第1解析部405は、ステップS101において撮像されたRBG画像の画像データを記憶部404から読み出して解析を行う。具体的には、第1解析部405は、RGB画像を構成する各画素の画素値に基づいて組織分類を行い、抽出された各組織の特徴量を算出する。この解析結果(各組織の特徴量)は、記憶部404に格納される。
【0044】
ステップS103において、判定部407は、RGB画像の解析結果に基づいて、標本100の分光情報を取得する必要があるか否かを判定する。具体的には、判定部407は、第1解析部405によって算出された特徴量(例えば、組織のサイズ(面積)、周囲長、円形度、並びに周囲長及び円形度から算出される異型度等)を所定の閾値と比較し、特徴量が閾値よりも大きい組織(異常部)を検出する。判定部407は、標本100に1つ以上の異常部が検出された場合、分光情報の取得が必要であると判定する。
【0045】
ここで、特徴量が閾値からよりも大きい組織には、病理学的に陽性である異常組織(例えば癌細胞)の他に、正常組織(病理学的に陰性)でありながら、RGB撮像装置20等の特性に起因して、見かけ上異常部として検出されてしまう組織も含まれる。そこで、実施の形態1においては、異常部として抽出された組織について更なる詳細情報を取得するために、分光情報を取得することとしている。
【0046】
分光情報の取得が必要であると判定された場合(ステップS103:Yes)、位置決定部408は、検出された各異常部の位置を分光測定位置として決定する(ステップS104)。
【0047】
ステップS105において、制御部410は、位置決定部408によって決定された分光測定位置が分光計測装置30の測定中心に配置されるように、ステージ駆動部14を制御してステージ11の位置を調節させる。
【0048】
ステップS106において、分光計測装置30は、標本100上の各分光測定位置に対して分光測定を行い、分光データを生成する。より詳細には、制御部410は、ステージ11の位置を調整しながら、分光測定位置が分光計測装置30の測定中心と略一致したタイミングで分光測定が行われるよう、分光計測制御部403を制御する。それによって取得された分光データは、記憶部404に格納される。
【0049】
ステップS107において、制御部410は、位置決定部408により決定された全ての位置について分光測定が行われたか否かを判定する。分光測定を行うべき位置が残っている場合(ステップS107:No)、動作はステップS105に戻る。
【0050】
一方、全ての分光測定位置について分光測定が終了すると(ステップS107:Yes)、第2解析部406は、標本100の分光データ及びRGB画像データを記憶部404から読み出して解析を行う(ステップS108)。解析方法としては、分光データから各分光測定位置における組織を直接判別し、組織を抽出して解析する方法や、分光データから所定のパラメータを算出し、算出したパラメータを介して組織を抽出する方法等、種々の公知の手法が用いられる。実施の形態1においては、色素量をパラメータとする方法を用いている。具体的には、第2解析部406は、分光データから各分光測定位置における色素量を推定し、この色素量に対応するRGB値を算出する。そして、第2解析部406は、算出されたRGB値を用いて、ステップS101において撮像されたRGB画像を補正する。さらに、第2解析部406は、補正されたRGB画像について再度解析(所定の組織の抽出及び特徴量の算出)を行う。
【0051】
ステップS109において、出力部409は、補正されたRGB画像の解析結果を出力する。出力される解析結果としては、補正されたRGB画像、そこから抽出された組織を表す画像、抽出された各組織の特徴量等が含まれる。また、抽出された各組織の特徴量を再度閾値と比較した結果、検出された陽性の異常部(特徴量が閾値よりも大きい組織)を出力しても良い。なお、このとき用いられる閾値は、ステップS103において用いられた閾値と同じであっても良いし、異なっていても良い。例えば、ステップS103においては、RGB画像の補正のため、閾値を低めに設定して異常部を広く検出し、ステップS109においては、診断情報として用いるため、閾値を通常用いられる値に設定し直しても良い。
その後、動作は終了する。
【0052】
一方、ステップS103において分光情報の取得は不要と判定された場合(ステップS103:No)、動作は直接ステップS109に移行する。この場合、出力部409は、第1解析部405によって取得されたRGB画像の解析結果を出力する。
【0053】
以上説明したように、実施の形態1によれば、標本100のRGB画像において不足している画像情報を、分光データを用いて補正するので、高精度な画像解析を行うことができる。従って、このように補正されたRGB画像の解析結果に基づいて、信頼性の高い診断支援、スクリーニング、及び自動診断等を行うことが可能となる。
【0054】
また、実施の形態1によれば、RGB画像の解析結果に基づき、標本100に対する分光測定の要否を判定すると共に、標本100上の必要な部分(分光測定位置)に対してのみ分光測定を行うので、測定時間を大幅に増加させることなく、高精度な画像情報(分光データ)を取得することが可能となる。特に、大量の標本を検査する場合には、分光測定を行う標本を限定することができるので、トータルの検査効率及びスループットを向上させることが可能となる。
【0055】
以上の説明においては、第1解析部405によるRGB画像の解析結果に基づいて、位置決定部408が分光測定位置を自動的に決定したが、ユーザが分光測定位置を手動で設定しても良い。具体的には、第1解析部405が抽出した組織画像を表示装置に出力表示させ、ユーザが、表示された画像を見ながら、陽性か否かの判定がつかない領域を選択して入力部401から入力する。位置決定部408は、入力された選択された領域を分光測定位置として決定すれば良い。
【0056】
(実施例)
次に、実施の形態1に係る顕微鏡システムによる画像解析の実施例を説明する。ここでは、HE染色した病理標本から核を抽出する場合について説明する。
【0057】
図4Aは、ステップS101におけるRGB撮像により取得されたHE染色した病理標本のRGB画像である。
図4Bは、図4Aに示すRGB画像を解析することによって取得された画像であり(ステップS102)、ヘマトキシリン(色素H)によって染色された核領域を抽出した抽出画像を表す。このような抽出画像は、色素Hの色範囲に含まれる画素値を有する画素を抽出することによって取得される。
【0058】
図4Cは、図4Bに示す核領域a1、a2、…について算出された特徴量(面積、周囲長、及び円形度)を表す表である。ここで、病理標本においては、抽出された核領域の異型度から異常を判定することができる。異型度とは、抽出された核領域が正常な核の大きさや形状から異なっている度合いを示す特徴量である。具体的には、一般に核は略円形状を有しているため、例えば核領域の面積及び周囲長を用いて算出される円形度(円形度=4π×(面積)/(周囲長))によって異型度を表すことができる。この場合、異型度(円形度)の数値が小さいほど、判定対象の核領域の形状が円形から離れている、即ち、正常な核とは異なる度合いが大きいことを示す。ステップS103においては、異型度が所定の閾値よりも小さい核領域が異常部であると判断され、分光測定の対象と判定される。
【0059】
例えば、図4Bに示す核領域a1、a2、…の内、円形状とは著しく異なる核領域a2〜a5の円形度は、図4Cに示すように、比較的小さい値となっている。ステップS104〜S106においては、このような核領域a2〜a5等に対して分光測定が行われる。
【0060】
図4Dは、ステップS108における分光データを用いた解析によって抽出された核領域の抽出画像である。図4Dに示す核領域b1、b2、…は、図4Bに示す核領域a1、a2、…と対応している。図4Bと比較して明らかなように、RGB画像のみの解析では異常部と判定された核領域a2〜a5は、分光データを用いた解析により、正常な核領域b2〜b5であったことが判明した。また、図4Dに示す核領域b6に対応する核領域は、図4Bには示されていない。即ち、RGB画像解析では抽出できなかった核領域が、分光データを用いた解析により抽出することができたと言える。
【0061】
このように、RGB画像解析の結果と、分光データを用いた解析の結果とに違いが生じる理由は、次の通りである。
HE染色された病理標本の染色成分は、例えば、細胞核を染色したヘマトキシリン(色素H)、細胞質を染色したエオジン(色素E)、及びその他の染色成分(例えば、赤血球を染色したエオジンや、染色されていない赤血球の色(色素R))の3つとなる。図5Aは、HE染色を行った病理標本のヘマトキシリン(H)及びエオジン(E)の吸光度スペクトルの例である。また、図5Bは、標本ごと、又は染色設備ごとに生じるヘマトキシリンの吸光度スペクトル(H1、H2、H3)のばらつきの例を示す。このように、標本ごとに吸光度スペクトルにばらつきが生じている場合、RGB画像のみの解析では、核領域の抽出精度に影響が生じてしまう。そこで、このようなばらつきに起因して形状が正確に抽出されていない可能性がある核領域に対して、染色成分に対応する単色光の吸光度を測定する分光測定を行うことにより、核領域をより正確に抽出することが可能となる。
【0062】
(変形例1−1)
次に、本発明の実施の形態1に係る顕微鏡システムの変形例について説明する。図6は、変形例1−1に係る顕微鏡システムの構成を示す模式図である。本変形例1−1においては、標本100からの観察光の光路を、RGB撮像装置20及び分光計測装置30の方向に交互に切り替える構成としている。
【0063】
即ち、本変形例1−1においては、鏡筒13bの光路上に光路切換ユニット16を設ける。光路切換ユニット16は、対物レンズ13aを経た観察光の光路に対して挿抜自在に設けられた全反射ミラー16aと、制御部410の制御の下で全反射ミラー16aを観察光軸L上から挿抜する切換装置16bとを有する。光路切換ユニット16は、全反射ミラー16aを観察光軸Lから抜去した状態で、観察光を直線的に通過させて(全透過状態)RGB撮像装置20の方向に導く一方、全反射ミラー16aを観察光軸L上に挿入した状態で、観察光を全て反射させて(全反射状態)分光計測装置30の方向(即ち、光軸L’に沿った方向)に導く。なお、図6は全反射状態を示している。
【0064】
このような光路切換ユニット16を用いる場合、制御部410は、分光計測装置30が標本100に対して分光測定を行うタイミングで全反射ミラー16aを観察光軸L上に挿入するよう、切換装置16bを制御する。
【0065】
(変形例1−2)
分光計測装置30によって取得された分光データを用いる解析処理は、情報処理装置40とは別の装置において行っても良い。具体的には、分光データ解析処理用の情報処理装置を、情報処理装置40とデータ送受可能に接続し、情報処理装置40は、分光計測制御部403が分光計測装置30から受け付けた分光データを、分光データ解析処理用の情報処理装置にそのまま出力する。或いは、分光計測制御部403が分光計測装置30から受け付けた分光データを携帯可能な情報記録媒体に格納し、この情報記録媒体を介して、分光データを別の情報処理装置に転送しても良い。この変形例1−2によれば、情報処理装置40において、一般的に負荷の高い分光データの解析処理を実行しないで済むので、負荷を低減して、他の処理(第1解析部405における解析や制御処理)を高速化することが可能となる。
【0066】
(変形例1−3)
上記実施の形態1は、1つの標本に対して1つの画像を取得する場合だけでなく、1つの標本に対して部分的な撮像を複数回に渡って行い、それによって取得された複数の部分的なRGB画像をつなぎ合わせて1つの画像を取得するシステムにも適用することができる。このようなシステムは、バーチャルスライドシステムと呼ばれる。
【0067】
バーチャルスライドシステムにおいては、図1に示すステージ駆動部14が、制御部410の制御の下で、XY平面上の所定の原点を基点として所定量ずつステージ11を移動させて、対物レンズ13aの視野内における標本100の観察領域を順次ずらしつつ、RGB撮像装置20によってRGB撮像が行われる。この場合、RGB画像の解析により検出された異常部に対する分光測定は、標本100の全ての観察領域に対するRGB撮像が終了した後で行っても良いし、1つの観察領域に対するRGB撮像が終了する都度行っても良い。
【0068】
この変形例1−3によれば、異常部が検出された観察領域内の分光測定位置についてのみ分光測定を行うので、標本100に対するトータルの検査時間の増加を抑制しつつ、必要な領域(異常部)についての高精度な画像情報を取得することが可能となる。
【0069】
(実施の形態2)
次に、本発明の実施の形態2について説明する。図7は、実施の形態2に係る顕微鏡システムの構成例を示す模式図である。図7に示すように、顕微鏡システム2は、図1に示す分光計測装置30、情報処理装置40、及びビームスプリッタ15の代わりに、マルチスペクトル(MS)撮像装置32、情報処理装置42、及び光路切換ユニット16を備える。その他の構成は、図1に示すものと同様である。なお、光路切換ユニット16の構成及び動作は、変形例1−1において説明したものと同様である。
【0070】
MS撮像装置32は、透過させる光の波長帯域(バンド)が互いに異なる複数のバンドパスフィルタを切り換えながら標本100の観察像を面順次方式でマルチスペクトル撮像するマルチスペクトルカメラである。なお、バンドパスフィルタは、4つ以上用いることが好ましい。MS撮像装置32は、RGB撮像装置20と同様の視野、即ち、対物レンズ13aの倍率に応じて定まる視野である画像取得範囲内の標本100に対してMS撮像を行い、それによって生成したMS画像の画像データ(MS画像データ)を情報処理装置42に入力する。このMS画像を構成する各画素の画素値は、各バンドパスフィルタのバンドにおける観察光の強度、即ち、対応する標本100上の各点におけるバンド毎の分光データに対応する。
【0071】
図8は、図7に示す情報処理装置42の構成を示すブロック図である。図7に示すように、情報処理装置42は、入力部401と、RGB撮像装置20の動作を制御するRGB撮像制御部402と、MS撮像装置32の動作を制御するMS撮像制御部421と、記憶部404と、RGB撮像装置20において取得されたRGB画像を解析する第1解析部422と、MS撮像装置32において取得されたMS画像を解析する第2解析部423と、分光情報の取得の要否を判定する判定部424と、出力部409と、これらの各部を制御する制御部425とを備える。この内、入力部401、RGB撮像制御部402、記憶部404、及び出力部409の構成及び動作は、図1に示すものと同様である。
【0072】
MS撮像制御部421は、標本100のMS撮像を実行させる制御信号を生成してMS撮像装置32に送信すると共に、MS撮像装置32おいて生成されたMS画像データの入力を受け付けて記憶部404に格納させる。
【0073】
第1解析部422は、図2に示す第1解析部405と同様に、標本100のRGB画像から、検査目的に応じた組織を抽出して、各組織の特徴量を算出する解析処理を実行する。
【0074】
第2解析部423は、標本100のMS画像から所定の組織を抽出して、抽出された組織の特徴量等を算出する解析処理を実行する。
【0075】
判定部424は、第1解析部422の解析結果に基づいて、標本100のMS撮像を行って、分光情報を取得する必要があるか否かを判定する。
【0076】
制御部425は、情報処理装置42を構成する各部を制御すると共に、判定部424において分光情報の取得が必要であると判定された場合に、RGB画像と同じ画像取得範囲についてMS撮像を行うよう、MS撮像制御部421、ステージ駆動部14、及び光路切換ユニット16の切換装置16bを制御する。
【0077】
次に、顕微鏡システム2の動作について説明する。図9は、顕微鏡システム2の動作を示すフローチャートである。
まず、ステップS201において、RGB撮像装置20は、標本100に対し、画像取得範囲内の観察像のRGB撮像を行う。このとき、制御部425は、切換装置16bを制御して、観察光をRGB撮像装置20に入射させるため、観察光の光路を光軸L側に設定しておく。
【0078】
ステップS202において、第1解析部422は、ステップS201において撮像されたRGB画像の解析を行う。なお、この解析方法は、実施の形態1(図3のステップS102)において説明したものと同様である。
【0079】
ステップS203において、判定部424は、RGB画像の解析結果に基づいて、標本100の分光情報を取得する必要があるか否かを判定する。なお、この判定方法は、実施の形態1(図3のステップS103)において説明したものと同様である。
【0080】
分光情報の取得が必要であると判定された場合(ステップS203:Yes)、制御部425は光路切換ユニット16を制御して、観察光をMS撮像装置32に入射させるため、観察光の光路を光軸L’に沿った方向に切り換えさせる(ステップS204)。
【0081】
ステップS205において、MS撮像装置32は、標本100に対し、ステップS201において撮像されたRGB画像と同じ画像取得範囲内の観察像のMS撮像を行い、MS画像データを生成する。
【0082】
ステップS206において、第2解析部423は、ステップS205において撮像されたMS画像の解析を行う。解析方法としては、種々の公知の方法が用いられる。例えば、第2解析部423は、標本100を映した各バンドのスペクトル画像を構成する各画素の画素値を取得し、当該画素に対応する標本100上の位置における色素量を推定する。第2解析部423は、この推定された色素量に基づいて、標本100の画像を再構成する。さらに、第2解析部423は、再構成された画像に基づいて所定の組織を抽出し、抽出された各組織の特徴量を算出する。
【0083】
ステップS207において、出力部409は、第2解析部423による解析結果(再構成された画像、特徴量等)を出力して表示装置に表示させる。なお、出力される内容については、図3のステップS109と同様である。
【0084】
一方、分光情報の取得は不要であると判定された場合(ステップS203:No)、動作は直接ステップS207に移行する。この場合、出力部409は、RGB画像の解析結果を出力する(ステップS207)。
【0085】
以上説明したように、実施の形態2においては、RGB画像の解析結果に基づき、標本100に対してMS撮像を行うか否かを決定する。即ち、高精度であるが処理に時間がかかるMS撮像及びMS画像の解析を必要な場合にのみ実行するので、必要な精度を保ちつつ効率の良い検査を行うことができる。
【0086】
また、実施の形態2においては、MS撮像によって分光データを取得するので、1つの視野に含まれる異常部の数によらず、バンド数に応じた回数だけ撮像を行うことで分光データを取得することができる。従って、1つの視野に含まれる異常部の数が多い場合には、分光測定と比較して、分光データの取得に要する時間を短縮することができる。
【0087】
さらに、実施の形態2によれば、大量の標本を検査する場合に、MS撮像を行う標本数を限定することができるので、トータルの検査効率及びスループットを向上させることが可能となる。
【0088】
(変形例2−1)
上記実施の形態2は、バーチャルスライドシステムに適用しても良い。この場合、情報処理装置42は、標本100の1つの観察領域に対してRGB撮像を行うたびに、RGB画像の解析を行い、分光情報の取得が必要と判定された観察領域に対して同じ画角でMS撮像を行うと良い。それにより、RGB画像と全く同じ位置及び画角におけるMS画像を取得することができるので、ある観察領域のRGB画像と、隣接する観察領域のMS画像に基づいて再構成された画像とを自然につなげることが可能となる。
【0089】
(変形例2−2)
図10は、実施の形態2の変形例2−2に係る顕微鏡システム2’の構成を示す模式図である。実施の形態2においては、RGB撮像及びMS撮像をそれぞれ別の撮像装置で行ったが、これらを1つの撮像装置で兼用することも可能である。この場合、図10に示すように、鏡筒13bにフィルタ切換ユニット17を設けて、RGB撮像装置20にRGB撮像及びMS撮像を実行させる。
【0090】
フィルタ切換ユニット17は、透過させる光の波長帯域が互いに異なる複数(好ましくは4つ以上)のバンドパスフィルタと、これらのバンドパスフィルタの観察光軸Lへの挿入状態(挿入/非挿入)を切り換えると共に、バンドパスフィルタが観察光字句Lに挿入されている場合に、バンドパスフィルタの種類を切り換える切換装置とを備える。この切換装置は、制御部425の制御の下で動作する。
【0091】
顕微鏡システム2’においてRGB画像を取得する場合、情報処理装置42は、フィルタ切換ユニット17に対してバンドパスフィルタを非挿入状態に切り換えさせ、RGB撮像装置20に撮像を実行させる。一方、MS画像を取得する場合、情報処理装置42は、フィルタ切換ユニット17に対し、バンドパスフィルタを観察光軸Lに挿入させた後、バンドパスフィルタの種類を切り換えさせながら、RGB撮像装置20に撮像を実行させる。
【0092】
この変形例2−2によれば、顕微鏡システムの小型化及びコストの低減を図ることが可能となる。
【0093】
(実施の形態3)
次に、本発明の実施の形態3について説明する。実施の形態3に係る顕微鏡システム全体の構成は図7に示す顕微鏡システム2と同様であり、情報処理装置42の代わりに、図11に示す情報処理装置43が用いられる。
【0094】
図11に示すように、情報処理装置43は、図8に示す第2解析部423の代わりに、解析領域決定部431及び第2解析部432を有する。
【0095】
解析領域決定部431は、判定部424によって分光情報の取得が必要であると判定された場合に、標本100を映したRGB画像の解析結果に基づいて、同じ画像取得範囲を映したMS画像内で画像解析を行う領域(解析領域)を決定する。具体的には、RGB画像から検出された異常部に対応するMS画像内の領域が解析領域となる。
第2解析部432は、解析領域決定部431によって決定された解析領域に対して画像解析を行う。
【0096】
次に、実施の形態3に係る顕微鏡システムの動作について説明する。図12は、実施の形態3に係る顕微鏡システムの動作を示すフローチャートである。なお、図12のステップS201〜S205における動作は、実施の形態2において説明したものと同様である。
【0097】
ステップS205に続くステップS301において、解析領域決定部431は、標本100を映したRGB画像の解析結果に基づいて、RGB画像から検出された異常部の領域を解析領域として決定し、領域情報を出力する。
【0098】
ステップS302において、第2解析部432は、解析領域決定部431から出力された領域情報に基づき、MS画像内の解析領域に対して画像解析を行う。解析方法としては、種々の公知の方法が用いられる。例えば、第2解析部432は、標本100を映した各バンドのスペクトル画像から解析領域に含まれる各画素の画素値を取得し、当該画素に対応する標本100上の領域における色素量を推定する。第2解析部432は、この推定された色素量に基づいて、解析領域の画像を再構成すると共に、再構成された部分の特徴量を算出する。なお、第2解析部432は、元のRGB画像に、MS画像から再構成した解析領域の画像を合成した合成画像を生成し、この合成画像について画像解析を行っても良い。
【0099】
ステップS303において、出力部409は、第2解析部432による解析結果(再構成された解析領域の画像、特徴量等)を出力する。なお、出力部409は、第2解析部432が合成画像を生成した場合には、この合成画像や、合成画像の解析結果を出力しても良い。
なお、出力部409は、分光情報の取得が不要であると判定された場合(ステップS203:No)、RGB画像の解析結果のみを出力する(ステップS303)。
【0100】
以上説明したように、実施の形態3においては、RGB画像の解析結果に基づいて、MS撮像を行うか否かを判定すると共に、MS撮像が行われた場合には、RGB画像の解析により検出された異常部に対応するMS画像の領域のみについて画像解析を行う。従って、画像解析に要する時間を短縮しつつ、必要な領域に対しては高精度な解析結果を得ることが可能となる。
【0101】
なお、上記実施の形態3も、実施の形態2と同様、1つの標本に対して部分的な撮像を複数回行い、それによって得られる複数の画像をつなぎ合わせて1つの画像を取得するバーチャルスライドシステムに適用しても良い。
【0102】
(実施の形態4)
次に、実施の形態4について説明する。図13は、実施の形態4に係る顕微鏡システムの構成例を示す模式図である。図13に示す顕微鏡システム4は、第1顕微鏡システム50と、第2顕微鏡システム60と、標本移動制御装置70とを備える。
【0103】
第1顕微鏡システム50は、第1顕微鏡51と、RGB撮像装置52と、第1情報処理装置53とを備える。顕微鏡51は、標本100が載置されるステージ11と、標本100を裏面側から透過照明する照明光学系12と、標本100を透過した照明光を入射させる観察光学系18と、ステージ11の位置を調整するステージ駆動部14とを備える。観察光学系18は、対物レンズ18aと、対物レンズ18aを透過した観察光を観察光軸Lに沿ってRGB撮像装置52に導く鏡筒18bとを含む。RGB撮像装置52はCCD等の撮像素子を備えたRGBカメラであり、取得するRGB画像の中心が観察光軸L上に位置するように、鏡筒18bの端部に設置される。
【0104】
第2顕微鏡システム60は、第1顕微鏡51と同様の構成を有する第2顕微鏡61と、分光計測装置62と、第2情報処理装置63とを備える。分光計測装置62は、測定中心が観察光軸L上に位置するように、鏡筒18bの端部に設置される。
【0105】
標本移動制御装置70は、第1顕微鏡システム50と第2顕微鏡システム60との間やそれらの前後の搬送路で標本100を移動させる。
【0106】
図14は、顕微鏡システム4の構成を示すブロック図である。
第1情報処理装置53は、当該第1情報処理装置53における処理に関する情報の入力を受け付ける入力部531と、RGB撮像装置52の動作を制御するRGB撮像制御部532と、記憶部533と、RGB撮像装置52において取得されたRGB画像データを解析する第1解析部534と、第1情報処理装置53における処理状況や処理結果等の情報を表示装置に表示させる出力部535と、これらの各部を統括的に制御すると共に、ステージ駆動部14の動作を制御する制御部536とを有する。
【0107】
標本移動制御装置70は、第1情報処理装置53及び第2情報処理装置63とデータ送受可能に接続され、第1情報処理装置53から出力されたRGB画像の解析結果に基づいて、当該標本100について更に分光情報の取得が必要か否かを判定する判定部701と、判定部701の判定結果に従って標本100の搬送先を決定する搬送制御部702と、搬送制御部702の制御の下で標本100を搬送する搬送部703とを備える。
【0108】
第2情報処理装置63は、当該第2情報処理装置63における処理に関する情報の入力を受け付ける入力部631と、標本100上で分光計測を行う位置を決定する位置決定部632と、分光計測装置62の動作を制御する分光計測制御部633と、記憶部634と、分光計測装置62において取得された分光データを解析する第2解析部635と、第2情報処理装置63における処理状況や処理結果等の情報を表示装置に表示させる出力部636と、これらの各部を統括して制御すると共に、第2顕微鏡61のステージ駆動部14の動作を制御する制御部637とを有する。
【0109】
次に、顕微鏡システム4の動作について説明する。図15は、顕微鏡システム4の動作を示すフローチャートである。
まず、ステップS400において、標本移動制御装置70は、図示しない未処理標本用のラックから、標本100を第1顕微鏡51のステージ11に搬送する。
【0110】
ステップS401において、RGB撮像装置52は、標本100に対し、画像取得範囲内の観察像のRGB撮像を行い、RGB画像データを生成する。生成されたRGB画像データは、記憶部533に格納される。
【0111】
続くステップS402において、第1解析部534は、ステップS401において撮像されたRGB画像を解析し、この解析結果(抽出された組織の特徴量等)を標本移動制御装置70に送信する。
【0112】
ステップS403において、判定部701は、RGB画像の解析結果に基づいて、標本100の分光情報の取得が必要であるか否かを判定する。なお、この判定方法については、実施の形態1のステップS103と同様である。
【0113】
分光情報の取得が必要であると判定された場合(ステップS403:Yes)、位置決定部632は、判定結果、RGB画像データ、及びその解析結果を含む情報を判定部701から受信し、これらの情報に基づいて、標本100から検出された各異常部の位置を分光測定位置として決定する(ステップS404)。
続くステップS405において、搬送部703は、搬送制御部702の制御に従って、標本100を第2顕微鏡61のステージ11に搬送する。
【0114】
ステップS406において、制御部637は、位置決定部632によって決定された分光測定位置が分光計測装置62の測定範囲の中心に配置されるように、ステージ駆動部14を制御してステージ11の位置を調整させる。
【0115】
ステップS407において、分光計測装置62は、標本100上の各分光測定位置に対して分光測定を行い、分光データを生成する。
【0116】
ステップS408において、制御部637は、全ての分光測定位置について分光測定が行われたか否かを判定する。分光測定を行うべき位置が残っている場合(ステップS408:No)、動作はステップS406に戻る。一方、全ての分光測定位置に対する分光測定が終了すると(ステップS408:Yes)、動作はステップS409に移行する。
【0117】
ステップS409において、第2解析部635は、分光測定によって取得された分光データ、及び、標本移動制御装置70を介して第1情報処理装置53から受信したRGB画像データに基づいて画像解析を行う。なお、この解析方法は、実施の形態1(図3のステップS108)において説明したものと同様である。
【0118】
ステップS410において、出力部636は、第2解析部635による解析結果を表示装置に出力して表示させる。
さらに、ステップS411において、標本移動制御装置70は、標本100を第2顕微鏡61のステージ11から処理済み標本用のラックに搬送する。
【0119】
一方、ステップS403において分光情報の取得は不要であると判定された場合(ステップS403:No)、出力部535が、第1解析部534によるRGB画像の解析結果を出力する(ステップS410)。この場合、標本移動制御装置70は、標本100を第1顕微鏡51のステージ11から処理済標本用のラックに直接搬送する(ステップS411)。
【0120】
以上説明したように、実施の形態4によれば、第1顕微鏡システムにおけるRGB画像解析の結果、分光情報の取得が必要となった標本については、第2顕微鏡システムに移動させて分光測定を行うので、RGB撮像と分光測定とを並行して行うことができる。従って、大量の標本を処理するスクリーニング等において、RGB画像の解析のみの処理で足りる標本の待ち時間が減り、スループットを向上させることが可能となる。
【0121】
(実施の形態5)
次に、実施の形態5について説明する。図16は、実施の形態5に係る顕微鏡システムの構成例を示す模式図である。図16に示すように、顕微鏡システム5は、図14に示す第2顕微鏡システム60の代わりに、第2顕微鏡システム80を備える。その他の構成は実施の形態4と同様である。
【0122】
第2顕微鏡システム80は、第2顕微鏡61と、MS撮像装置81と、第2情報処理装置82とを備える。なお、第2顕微鏡61の構成は、実施の形態4において説明したものと同様である。
【0123】
MS撮像装置81は、透過させる光の波長帯域(バンド)が互いに異なる複数(例えば4つ以上)のバンドパスフィルタを切り換えながら標本100の観察像を面順次方式でマルチスペクトル撮像するマルチスペクトルカメラであり、取得するMS画像の中心が観察光軸L上に位置するように、鏡筒18bの端部に設置される。
【0124】
図17は、顕微鏡システム5の構成を示すブロック図である。このうち、第1情報処理装置53及び標本移動制御装置70の構成は、実施の形態4において説明したものと同様である。
【0125】
第2情報処理装置82は、当該第2情報処理装置82における処理に関する情報の入力を受け付ける入力部821と、MS撮像装置81の動作を制御するMS撮像制御部822と、記憶部823と、MS撮像装置81において取得されたMS画像を解析する第2解析部824と、第2情報処理装置82における処理状況や処理結果等の情報を表示装置に表示させる出力部825と、これらの各部を統括して制御すると共に、第2顕微鏡61のステージ駆動部14の動作を制御する制御部826とを有する。
【0126】
次に、顕微鏡システム5の動作について説明する。図18は、顕微鏡システム5の動作を示すフローチャートである。なお、図18のステップS500〜S503は、図15のステップS400〜S403に対応している。
【0127】
ステップS503において分光情報の取得が必要と判定された場合(ステップS503:Yes)、標本移動制御装置70は、標本100を第2顕微鏡61のステージ11に搬送する(ステップS504)。
【0128】
続くステップS505において、制御部826は、MS撮像制御部822及びステージ駆動部14を制御して、標本100に対し、ステップS501において撮像されたRGB画像と同じ画像取得範囲内の観察像のMS撮像を実行させる。
【0129】
ステップS506において、第2解析部824は、ステップS505において撮像されたMS画像の解析を行う。この解析方法の詳細は、実施の形態2(図9のステップS206)において説明したものと同様である。
【0130】
ステップS507において、出力部825は、第2解析部824によるMS画像の解析結果を出力する。
さらに、ステップS508において、標本移動制御装置70は、標本100を第2顕微鏡61のステージ11から処理済み標本用のラックに搬送する。
【0131】
一方、ステップS503において分光情報の取得は不要であると判定された場合(ステップS503:No)、出力部535が、第1解析部534によるRGB画像の解析結果を出力する(ステップS507)。この場合、標本移動制御装置70は、標本100を第1顕微鏡51のステージ11から処理済み標本用のラックに直接搬送する(ステップS508)。
【0132】
以上説明したように、実施の形態5によれば、第1顕微鏡システム50におけるRGB画像に対する解析の結果、分光情報の取得が必要と判定された標本については、第2顕微鏡システム80に搬送してMS撮像を行うので、RGB撮像とMS撮像とを並行して処理することができる。従って、大量の標本を処理するスクリーニング等において、RGB画像の解析のみの処理で足りる標本の待ち時間が減り、スループットを向上させることが可能となる。
【0133】
(変形例5−1)
第2解析部824においては、実施の形態3と同様に、RGB画像から検出された異常部に対応する領域に対してのみ、MS画像の解析を行っても良い。この場合、第2情報処理装置82に、RGB画像の解析結果に基づいて、解析を行うMS画像内の領域を決定する解析領域決定部をさらに設ければよい。
【符号の説明】
【0134】
1、2、4、5 顕微鏡システム
10 顕微鏡
11 ステージ
12 照明光学系
12a 光源
13、18 観察光学系
13a、18a 対物レンズ
13b、18b 鏡筒
14 ステージ駆動部
15 ビームスプリッタ
16 光路切換ユニット
16a 全反射ミラー
16b 切換装置
17 フィルタ切換ユニット
20、52 RGB撮像装置
30、62 分光計測装置
32、81 MS撮像装置
40、42、43 情報処理装置
50 第1顕微鏡システム
51 第1顕微鏡
53 第1情報処理装置
60、80 第2顕微鏡システム
61 第2顕微鏡
63、82 第2情報処理装置
70 標本移動制御装置
100 標本
401、531、631、821 入力部
402、532 RGB撮像制御部
403、633 分光計測制御部
404、533、634、823 記憶部
405、422、534 第1解析部
406、423、432、635、824 第2解析部
407、424、701 判定部
408、632 位置決定部
409、535、636、825 出力部
410、425、536、637、826 制御部
421、822 MS撮像制御部
431 解析領域決定部
702 搬送制御部
703 搬送部

【特許請求の範囲】
【請求項1】
標本の観察像を生成する顕微鏡と、
前記標本のRGB画像を取得する画像取得部と、
前記標本の分光情報を取得する分光情報取得部と、
前記RGB画像を解析する解析部と、
前記解析部の解析結果に基づいて、前記分光情報の取得の要否を判定する判定部と、
前記判定部の判定結果に基づいて、前記分光情報取得部の動作を制御する制御部と、
を備えることを特徴とする顕微鏡システム。
【請求項2】
前記分光情報取得部は、分光計測装置であり、
前記解析部の解析結果に基づいて、前記標本において分光情報を取得する位置を決定する位置決定部をさらに備え、
前記制御部は、前記位置における分光情報を取得するよう、前記分光計測装置の動作、及び、前記顕微鏡における前記標本の位置を制御することを特徴とする請求項1に記載の顕微鏡システム。
【請求項3】
前記RGB画像の画像情報、及び、前記位置に関する分光情報を用いて前記標本の解析を行う第2の解析部をさらに備えることを特徴とする請求項2に記載の顕微鏡システム。
【請求項4】
前記分光情報取得部は、少なくとも4バンドを有するマルチバンド撮像装置であることを特徴とする請求項1に記載の顕微鏡システム。
【請求項5】
前記マルチバンド撮像装置によって撮像されたマルチバンド画像の画像情報を用いて前記標本の解析を行う第2の解析部をさらに備えることを特徴とする請求項4に記載の顕微鏡システム。
【請求項6】
前記解析部の解析結果に基づいて、前記マルチバンド撮像装置によって撮像されたマルチバンド画像内で解析に用いる領域を決定する解析領域決定部と、
前記RGB画像の画像情報、及び、前記領域に関する前記マルチバンド画像の画像情報を用いて前記標本の解析を行う第2の解析部と、
をさらに備えることを特徴とする請求項4に記載の顕微鏡システム。
【請求項7】
前記画像取得部と前記分光情報取得部とは互いに異なる位置に設置されており、
前記顕微鏡において生成された前記標本の観察光の光路を、前記画像取得部及び前記分光情報取得部の方向に分岐する分岐部をさらに備えることを特徴とする請求項1〜6のいずれか1項に記載の顕微鏡システム。
【請求項8】
前記画像取得部と前記分光情報取得部とは互いに異なる位置に設置されており、
前記顕微鏡において生成された前記標本の観察光の光路を、前記画像取得部又は前記分光情報取得部のいずれかの方向に切り換える切換部をさらに備えることを特徴とする請求項1〜6のいずれか1項に記載の顕微鏡システム。
【請求項9】
前記画像取得部は、前記顕微鏡に設置されており、
前記分光情報取得部が設置された第2の顕微鏡と、
前記第1の顕微鏡から前記第2の顕微鏡に標本を搬送する搬送部と、
前記判定部の判定結果に基づいて、前記搬送部の動作を制御する搬送制御部と、
をさらに備えることを特徴とする請求項1〜5のいずれか1項に記載の顕微鏡システム。
【請求項10】
前記顕微鏡における前記標本の位置を制御して、前記標本の部分的な画像を複数回に分けて前記画像取得部に取得させる標本位置制御部と、
複数回に分けて取得された前記標本の部分的の画像をつなぎ合わせる画像処理部と、
をさらに備えることを特徴とする請求項1〜9のいずれか1項に記載の顕微鏡システム。
【請求項11】
標本の観察像を生成する顕微鏡を備える顕微鏡システムにおいて、前記標本のRGB画像及び前記標本の分光情報に基づいて生成された情報を処理する情報処理装置であって、
前記RGB画像を解析する解析部と、
前記解析部の解析結果に基づいて、前記分光情報の取得の要否を判定する判定部と、
前記判定部の判定結果に基づいて、前記分光情報取得装置の動作を制御する制御部と、
を備えることを特徴とする情報処理装置。
【請求項12】
標本の観察像を生成する顕微鏡を備える顕微鏡システムにおいて、前記標本のRGB画像及び前記標本の分光情報に基づいて生成された情報を処理する情報処理プログラムであって、
前記RGB画像を解析する解析ステップと、
前記解析ステップにおける解析結果に基づいて、前記分光情報の取得の要否を判定する判定ステップと、
前記判定ステップにおける判定結果に基づいて、前記分光情報取得装置の動作を制御する制御ステップと、
をコンピュータに実行させることを特徴とする情報処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4C】
image rotate

【図5A】
image rotate

【図5B】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図4A】
image rotate

【図4B】
image rotate

【図4D】
image rotate


【公開番号】特開2012−154628(P2012−154628A)
【公開日】平成24年8月16日(2012.8.16)
【国際特許分類】
【出願番号】特願2011−11025(P2011−11025)
【出願日】平成23年1月21日(2011.1.21)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】