説明

上皮層検出器およびそれに関連する方法

組織試料の上皮部分を自動的に同定する上皮組織検出器および方法は、組織試料を少なくとも2つの染料で染色することと、組織試料のカラー画像に色変換を適用して1つまたは2つ以上のカラーチャネルを得ることと、カラーチャネルにトレーニングされた畳み込みニューラルネットワークを適用して、組織の位置について、該位置が上皮層内または上皮層外であるのかどうかについての決定を得ることとを含んでいる。畳み込みニューラルネットワークをトレーニングする方法も提供される。

【発明の詳細な説明】
【技術分野】
【0001】
本開示は、デジタル病理学に関する。より詳細には、本開示は、組織試料の上皮部分を自動的に同定する上皮層検出器および対応する方法に関する。
【0002】
本出願は2008年7月03日に出願された米国特許仮出願番号第61/077,974号の利益を主張し、その全開示は参照によりここに組み込まれている。
【0003】
本出願は、2008年7月03日に出願された米国特許仮出願番号第61/077,969号の利益を主張する、「印環細胞検出器および関連方法(Signet Ring Cell Detector and Related Methods)」と題する2009年7月2日に出願された米国特許出願番号第 号(代理人整理番号08032)、および2008年7月03日に出願された米国特許仮出願第61/077,966号の利益を主張する、「有糸分裂像検出器およびカウンターシステム、および有糸分裂像を検出、計数する方法(Mitotic Figure Detector and Counter System and Method for Detecting and Counting Mitotic Figures)」と題する2009年7月2日に出願された米国特許出願番号第 号(代理人整理番号08031)に関連する。「印環細胞検出器および関連方法」と題する2009年7月2日に出願された米国特許出願番号第 号(代理人整理番号08032)および「有糸分裂像検出器およびカウンターシステム、および有糸分裂像を検出、計数する方法」と題する2009年7月2日に出願された米国特許出願番号第 号(代理人整理番号08031)の全開示は参照によりここに組み込まれている。
【背景技術】
【0004】
デジタル病理学は、病理医が組織標本を類別するのを支援するコンピュータの使用を含んでいる。例えば、専門家が乳癌診断用の組織試料を類別するのに通常5分以上はかかる。いくつかの調査によれば、同一事例についての病理医の類別の間の一致は低いことが実証されており、それらの診断の客観性が問題になっている。優れたシステムは診断の際に病理医を支援することができるので、より再現可能な結果をより低いコストで達成することを助けることができる。
【0005】
上皮組織の同定は、上皮組織周辺の細胞核密度が高レベルに達するので(悪性腫瘍に関する誤った警告を与える原因となる)、乳癌および胃癌の診断にとって重要である。診断値の組織学的統計量を生成するために、これらの領域は核の密度推定から取り除かれる必要がある。
【0006】
乳癌および胃癌の場合には、組織試料は患者から取り出され、スライスされ、ヘマトキシリン・エオシン染料により染色され、微視的な分解能を持つデジタルスキャナで画像化することができる。問題は、上皮層内にある組織部を上皮層内にない組織部から識別することである。
【0007】
先行技術では、2、3の方法で組織部を識別する問題が取り扱われている。1つの方法では、スキャンされた画像の各画素を、該画素の色に応じて4つの組織カテゴリのうちの1つに分類する、線形分類器(線形ニューラルネットワークによりトレーニングされた)が用いられる。次に、手動設計の発見的問題解決法を用いて上皮組織の境界を見つける。他の方法では、まずカラーセグメンテーションが画像に適用される。次に、各セグメントは、該セグメントの色、いくつかの基本的形状特徴、および近傍のセグメントの以前の分類に基づき、手動設計の発見的問題解決法に従って、いくつかの異なる物体の1つとして分類される。利用可能な種類のうちの1つは、ヘマトキシリン色を持つセグメントとして定義され、「間質核」のように見えるほど十分に円形でなくまた大きくもなく、「アポトーシス核」のように見えるほど黒っぽい、「上皮核」である。
【0008】
都合の悪いことに、上述の方法の適応性は限られている。手動設計の発見的問題解決法に基づいた方法は、認識されるべき各パターンに適用される新たな規則群を必要とする。加えて、上記カラーセグメンテーションの方法は、上皮層の一部として核物質を認識できるのみである。該方法は、上皮層の一部と適正に見なされるべき、ゴブレット細胞のムチン性細胞体のような、他の物質を認識することができない。
【0009】
したがって、上皮層内にある組織部を上皮層内にない組織部から自動的に識別するのに、改善された、より適応性のある装置および方法が必要とされる。
【発明の概要】
【0010】
組織試料の上皮部分を自動的に同定する方法が提供される。本方法は、組織試料を1つまたは2つ以上の染料で染色すること、色変換計算機処理を適用して、染色された組織試料のカラー画像を1つまたは2つ以上のカラーチャネルに分離すること、カラーチャネルに畳み込みニューラルネットワーク計算機処理を適用して、組織試料の各位置について、該位置が上皮層内または上皮層外であるのかどうかについての決定を得ることを含む。
【0011】
さらに、組織試料の上皮部分を自動的に同定する方法がここに開示される。本方法は、組織試料を少なくとも2つの染料で染色すること、組織試料のカラー画像に色変換計算機処理を適用して、各色組織画像の各画素が該画像の対応する画素において対応する染料の推定濃度を示す色の濃さを持つ、複数の画素で形成された少なくとも2つの個別の色組織画像を得ること、色組織画像に畳み込みニューラルネットワーク計算機処理を適用して、画素群について、該群の中心が上皮層内または上皮層外にあるのかどうかについての決定を得ることを含む。
【0012】
組織試料の上皮部分を同定するのに使用される上皮層検出器の畳み込みニューラルネットワーク計算機処理の1つまたは2つ以上のパラメータをトレーニングする方法もここに開示される。本方法は、1つまたは2つ以上の組織試料を少なくとも2つの染料で染色すること、1つまたは2つ以上の組織試料をスキャンして、該1つまたは2つ以上の組織試料のカラー画像を生成すること、各マスクが、複数の画像のうちの対応する1つの画像の各画素について、該画素が上皮層内または上皮層外であるのかを示す、マスク群を生成すること、組織試料の各画像に色変換計算機処理を適用して、各カラーチャネルの各画素が走査内の対応する画素において対応する染料の推定濃度を示す色の濃さを持つカラーチャネルに、画像を分離すること、個別の色組織画像群からトレーニングデータとして使用するパッチ群を選択することであって、各パッチは該パッチ群のすべての色組織画像からの画素の連続的収集を含み、いくつかのパッチは上皮層内に中心があり、その他のパッチは上皮層外に中心がある、パッチ群を選択すること、畳み込みニューラルネットワーク計算機処理のパラメータを任意の値に初期化すること、畳み込みニューラルネットワーク計算機処理をパッチ群に反復して適用すること、前記パラメータを調整し、畳み込みニューラルネットワーク計算機処理の予測と各パッチの正しいラベルとの間の一致を改善することを含む。
【0013】
さらに、組織試料の上皮部分を自動的に同定する上皮層検出器がここに開示される。本検出器は、1つまたは2つ以上の染料で染色された組織試料のカラースキャンに色変換処理を適用して、画像をカラーチャネルに分離する色変換装置であって、各カラーチャネルの各画素が走査の対応する画素において対応する染料の推定濃度を示す色の濃さを持つ、色変換装置と、カラーチャネルに畳み込みニューラルネットワーク処理を適用して、組織の各位置について、該位置が上皮層内または上皮層外であるのかどうかについての決定を得る、畳み込みニューラルネットワーク装置とを有する。
【図面の簡単な説明】
【0014】
【図1】組織試料の上皮部分を同定する上皮組織検出器の典型的な実施形態の機能ブロックダイアグラムである。
【図2】従来のCNNを概略的に示す図である。
【図3】上皮組織検出器のCNNの典型的な実施形態を概略的に示す図である。
【図4】上皮組織検出器をトレーニングする方法の典型的な実施形態を示すフローチャートである。
【図5】図4のフローチャートに示した方法を概略的に示す図である。
【図6】ここで説明している上皮組織検出器および方法を実現するためのコンピュータシステムの典型的な実施形態のブロックダイアグラムである。
【発明を実施するための形態】
【0015】
組織試料の上皮部分を自動的に同定する畳み込みニューラルネットワークを用いた、上皮組織検出器および方法がここに開示される。畳み込みニューラルネットワークをトレーニングして組織試料の上皮部分を同定する方法もここに開示される。畳み込みニューラルネットワークは、一連の畳み込みと、複数の非線形伝達関数と、各サブサンプリングが重み群で管理された複数のサブサンプリングとを含んでいる。該重み群は、手動でラベル付けされた生検画像の収集について好結果を得る確率的勾配降下法を用いてトレーニングされる。
【0016】
図1は、組織試料の上皮部分を自動的に同定する上皮組織検出器100の典型的な実施形態の機能ブロックダイアグラムである。組織試料は、該組織試料を各染料が異なる色を持つ複数の染料で染色することによって準備されてもよく、次に、撮像装置が、組織試料の1つまたは2つ以上のデジタル高分解能カラースキャンまたは画像101を得るのに使用されてもよい。組織試料の1つまたは2つ以上の高解像度カラースキャンまたは画像101は、色変換器102の入力に加えられる。色変換器102は、スキャンまたは画像の各画素に、該画素の位置における各染料の濃度を推定するために、色変換処理を実行する。色変換処理は、色変換器102の出力として、各画素の色の濃さが染料の推定濃度を示す染色チャネル群103を各染料に対して1つ生成する。そのような色変換処理に関するより詳細については、例えば、2008年6月2日に出願された米国特許番号第12/131,346号を参照されたい。米国特許番号第12/131,346号の開示は、該開示が色変換処理に関連するものとして、参照によりここに組み込まれている。他の非限定的な実施形態では、赤、緑、および青のカラーチャネルへの簡単な分離(色分離器により実行される)が、色変換器102により行われた染色チャネルへの分離の代わりに適用されてもよい。
【0017】
1つの典型的な実施形態では、色変換器102は、3次元色空間のベクトルとして染料の各々に対する主調色(dominant color)を推定する。次に、画素の各染料の濃度が、画素の色と染料の主調色との間の相関関係を算出することによって推定される。
【0018】
1つの典型的な実施形態では、組織試料は、通常黒っぽいシアン色で画像化されるヘマトキシリンおよび通常明るいマジェンタ色で画像化されるエオシンの2つの染料で染色されてもよい。しかしながら、サンプルの古さ、全体的色素濃度、および撮像装置の諸特性が染料の正確な色調の変化をもたらす可能性がある。それゆえ、染料がすべての画像において同一色を持つと仮定することはできない。したがって、この実施形態では、画像内の基本シアン色は、画素のシアン含有量に基づいた各画素の重みを持つ、すべての画素の加重平均として次式のように推定される。
【0019】
【数1】

【0020】
なおここで、Cは基本シアン色、Piは画素iの3つの構成色、wiは画素iの重み、PiCyanは、シアン・マジェンタ・イエロー(CMY)色空間の画素iのシアン値である。次に、基本マジェンタ色Mがもう一つの加重平均として算出され、ここで、今回は、該重みは、基本シアン色で記述されない各色ベクトルの大きさから算出され、次式が得られる(これらの重みの使用は、画像が主にシアンおよびマジェンタから構成されているという仮定に基づいている)。
【0021】
【数2】

【0022】
次に、画素が主にヘマトキシリンである場合、該画素はエオシンをほとんど持っておらずその逆も成立すると仮定すると、ヘマトキシリンHの主調色は、基本シアンC色内の任意の基本マジェンタMの寄与を取り除くことにより推定され、エオシンの主調色は、基本マジェンタM色の中の任意の基本シアンCの寄与を取り除くことによって推定され、次式が得られる。
【0023】
【数3】

【0024】
【数4】

【0025】
よって、画素i内のヘマトキシリンHの推定濃度はPi・H、エオシンEの推定濃度はPi・Eとなる。
【0026】
他の実施形態では、色変換器は、ヘマトキシリンH染料およびエオシンE染料に対する束縛ベクトルを用いて、1つまたは2つ以上のスキャンまたは画像に色変換処理を行う。大きな色変化が画像間で推測されない場合、色変換処理のこの実施形態は適切である。ヘマトキシリンH染料およびエオシンE染料の3次元色空間のベクトルは、いくつかの試料画像に上述の計算を適用して結果を一緒に平均化することによって選ぶことができる。
【0027】
図1をなお参照して、染色チャネル群103は、組織部が上皮層内または上皮層外であるのかどうかを判断する畳み込みニューラルネットワーク(CNN)104の入力に加えられる。通常、CNNは、畳み込みカーネル(convolution kernel)のトレーニングされた値を用いて、畳み込み、非線形伝達関数、およびサブサンプリングを連続して該CNNの入力に適用することによって進行し、いくつかの入力特性を記述する多くの出力105を得る。上皮組織検出器100では、入力103は色素濃度画像であり、出力105は、対応する組織部が上皮層内または上皮層外であるのかどうかを示す指標である。
【0028】
図2は、従来のCNN200を概略的に示す図である。CNN200の構成および機能は当技術分野においてよく知られている。CNNは、特徴マップと呼ばれる入力201(入力層)の積み重ねを小さなフィルター202で畳み込んで、内層または第1の内層203と呼ばれる特徴マップの新たな積み重ねを得る。この第1の内層203の特徴マップの各々は、トレーニングされたカーネル(通常異なる重みを持つ)によって1つまたは2つ以上の入力マップを畳み込み、結果を一緒に加算することによって得られる。次に、結果として生じた値は非線形伝達関数204を通して渡され、第2の内層205を得る。第3の内層207がサブサンプリング206によって得られ、ここで、各値は、前の内層(例えば第2の内層205)からの隣接値群を一緒に平均化することによって得られる。該群は重複しないので、結果として得られた内層は前の内層よりも実質的に小さい。いくつかの内層の後、出力層208の各値209が入力層201の隣接値の入力ウィンドウ210に依存することは明らかである。さらに、これらのウィンドウは互いに重複する。
【0029】
図1の上皮組織検出器100に用いられるCNN104は、入力ウィンドウの中心が上皮層内にあるのかどうかを、該CNN104の出力層の各値が示すように構成されている。図3は、上皮組織検出器100のCNN104の典型的な実施形態を概略的に示す図である。CNN104は、入力層301と、それぞれ第1、第2、第3、第4、第5および第6の内層である302,303,304,305,306および307と、出力層308とを含んでいる。
【0030】
入力層301は2つの特徴マップを含んでいる。2つの特徴マップのうちの1つはヘマトキシリン濃度を推定し、2つの特徴マップの他の1つはエオシン濃度を推定する。
【0031】
第1の内層302は、5×5個のカーネルを持つ2つの入力特徴マップを畳み込み、一定の補正値を加算し、該計算結果の双曲正接を算出することによって得られる、9つの特徴マップを含んでいる。該カーネルの値および一定の補正値は、後で説明するトレーニング処理によって得られる。第1の内層302には9つの特徴マップがあるので、トレーニングされるに違いない18個のカーネルと9つの一定の補正値とがある。5×5の畳み込みのために、第1の内層302の9つの特徴マップの各々は、入力層301の2つの特徴マップの各々よりも、xおよびyの両方でより小さい4つの画素となる。
【0032】
第2の内層303はサブサンプリングによって得られる。第1の内層302から出力された9つの特徴マップの各々のすべての2×2群の値は一緒に平均化され、定数を掛けられ、他の定数によって相殺され、双曲正接関数を通して渡される。これは、第1の内層302の出力において、9つの特徴マップの各々について別々に行われる。したがって、第2の内層303は、各特徴マップが第1の内層302の出力において9個の特徴マップのうちの1つから算出された、9個の特徴マップを含んでいる。対応する9個の乗算値および9個の補正値が、トレーニングによって得られる。第2の内層303の9個の特徴マップの各々は、第1の内層302のそれらの対応する9個の特徴マップの半分の幅および半分の高さである。
【0033】
第3の内層304は、第1の内層302に関して説明した方法と同一の方法で、5×5個のカーネルで畳み込み、定数で相殺し、双曲正接関数を通して結果を渡すことによって得られる、16個の特徴マップを持っている。16個の特徴マップの各々は、第2の内層303から出力された9個の特徴マップから算出されるので、144個のカーネルをトレーニングする必要がある。
【0034】
第4の内層305は、第2の内層303に関して説明した方法と同一の方法で、サブサンプリングによって算出される。したがって、第4の内層は、各特徴マップが第3の内層304の出力において16個の特徴マップのうちの1つから得られる、16個の特徴マップを含んでいる。
【0035】
第5の内層306は、第1の内層302に関して説明した方法と同一の方法で、5×5個のカーネルで畳み込み、定数で相殺し、双曲正接関数を通して結果を渡すことによって得られる、32個の特徴マップを持っている。32個の特徴マップの各々は、第4の内層305の出力において16個の特徴マップから算出されるので、512個のカーネルをトレーニングする必要がある。
【0036】
第6の内層307は、第1の内層302と同一の方法で、5×5個のカーネルで畳み込み、定数で相殺し、双曲正接関数を通して結果を渡すことによって得られる、64個の特徴マップを持っている。64の特徴マップの各々は、第5の内層307の出力において32個の特徴マップから算出されるので、2048個のカーネルをトレーニングする必要がある。
【0037】
出力層308は2つの特徴マップを含んでいる。入力層301の2つの特徴マップのうちの1つの隣接値の入力ウィンドウの中心が上皮層内にある場合、該2つの出力層特徴マップのうちの1つは、大きな値を持つようにトレーニングされ、入力層301の2つの特徴マップのうちの1つの隣接値の入力ウィンドウの中心が上皮層内にない場合、該2つの出力層特徴マップうちの他の1つは、大きな値を持つようにトレーニングされる。2つの出力層特徴マップは1×1個のカーネルによる畳み込みによって得られ、その結果、出力層308の各出力は、トレーニングによって得られた重みにより、第6の内層307の出力においてすべての64個の特徴マップの対応する値のちょうど加重和になる。このアーキテクチャにより、各出力値は48×48個のウィンドウに依存する。ウィンドウはxおよびyの44個の画素だけ重複する。
【0038】
図4および図5は、組織試料の上皮部分を同定する上皮組織検出器をトレーニングする方法の典型的な実施形態を集合的に示す図である。図4は該方法のフローチャートであり、図5はトレーニング方法の対応する概略図である。ボックス401(図4)で、N個の染料により染色された組織試料の高解像度カラースキャン501のコーパス(図5)が、対応する複数のユーザ生成のマスク502(2値画像)(図5)と共に提供され、該マスクの各々は、対応する1つのスキャンの各画素について、該画素が上皮層内または上皮層外であるのかどうかを示している。そのようなマスクは当技術分野においてよく知られている。マスクに関する2進情報は、内在する画素の任意のブール特性を符号化することができる。ここで、マスクは、画像中の各位置が上皮層に属するかどうかを符号化する。この実施形態では、組織試料はヘマトキシリンとエオシン(したがって、N=2)とにより染色され、各画像のマスクはデータタブレットを持つ画像を手動でラベル付けすることにより得られる。
【0039】
ボックス402(図4)で、検出器100の色変換102(図1)が各カラースキャン503(図5)に適用される。これは、各カラースキャンについてN個の染色チャネル504(図5)を生み出す。
【0040】
ボックス403(図4)で、パッチ505(図5)がトレーニング群として働くように染色チャネルから選択される。各パッチ505は、CNN104(図1)の1つの入力ウィンドウに対応し、パッチが生じた画像に対応するマスクに応じて、パッチの中心画素が上皮層内または上皮層外であるのかどうかを示すラベル506(図5)に関連づけられている。図5に示すように、「1」のラベルはパッチが上皮層内であることを示し、「0」はパッチが上皮層内でないことを示している。
【0041】
1つの典型的な実施形態では、上皮層内および上皮層外であるようにラベル付けされた数と等しい数のパッチがボックス403で選択される。同数のパッチが各画像から選択され、白色領域(すなわち組織がない領域)からのパッチは選択されない。これらの制約に加えて、トレーニングパッチがボックス403で任意に選択される。
【0042】
ボックス404(図4)で、CNN104の重み値が、浮動小数点数の分布から選択された乱数値で初期化される。もう1つの選択肢として、CNN104は、ボックス403でパッチを選択する前に初期化されてもよい。ボックス405で、CNN104は、確率的勾配降下法および逆伝播法507(図5)のよく知られている原理に従ってパッチでトレーニングされ、組織試料の上皮部分を同定可能なCNN10のトレーニングされたバージョン508(図5)を生成する。
【0043】
当業者には、ここで説明している上皮組織検出器および方法が、任意の適切に適応されたコンピュータシステムを用いて実現できることが認識されよう。コンピュータシステムは、メインフレームコンピュータシステム、ワークステーション、パーソナルコンピュータシステム、携帯情報端末(PDA)、または、記憶媒体からの命令を実行する少なくとも1つのプロセッサを持つ他のデバイスまたは装置を含んでいてもよいが、それらに限定されるものではない。
【0044】
コンピュータシステムは、1つまたは2つ以上のコンピュータプログラムまたはソフトウエアコンポーネントを格納できる、1つまたは2つ以上の記憶媒体を含んでいてもよい。ここで説明している方法を行うのに実行可能な1つまたは2つ以上のソフトウェアプログラムは、記憶媒体に格納されてもよい。該1つまたは2つ以上の記憶媒体は、CD−ROM、フロッピーディスク、テープ装置、DRAM、SRAM、EDO RAM、およびRambus RAM(しかしこれらに限定されるものではない)のようなランダムアクセスメモリ、ハードディスクドライブおよび光記憶装置(しかしこれらに限定されるものではない)のような不揮発性メモリ、およびそれらの組み合わせを含んでいてもよいが、それらに限定されるものではない。加えて、記憶媒体は、インターネットのようなネットワーク上のコンピュータシステムに接続した、1つまたは2つ以上の関連するコンピュータまたはコンピュータシステムに完全にまたは部分的に配置されていてもよい。
【0045】
ここで説明している上皮組織検出器および方法は、ハードウェア、ソフトウェアとハードウェアとの組み合わせ、または他の適切な実行可能な実装において実行されてもよい。ソフトウェアで実行される方法は、コンピュータシステムのプロセッサ、または、コンピュータシステムに接続された1つまたは2つ以上の関連するコンピュータまたはコンピュータシステムの1つまたは2つ以上のプロセッサによって実行されてもよい。
【0046】
図6は、ここで説明している上皮組織検出器および方法を実現するコンピュータシステム600の典型的な実施形態のブロックダイアグラムである。コンピュータシステム600は、プロセッサ620と、ここで説明している上皮組織検出器および方法を実現するプロセッサ620によって実行可能な、1つまたは2つ以上のプログラムを格納するメモリ630と、入力データ、例えばラベル付されていないカラースキャンデータおよびラベル付けされたカラースキャンデータ(トレーニングデータ)を受け取る入力640と、データ(例えば、群の中心が上皮層内にあることを示す1つまたは2つ以上の予測ラベル、および群の中心が上皮層外にあることを示す1つまたは2つ以上の予測ラベル)を出力する出力660とを含んでいる。
【0047】
本開示の例示的図面および特定の実施形態を説明および例示したが、本発明の範囲は説明した特定の実施形態に限定されないことが理解されるべきである。したがって、実施形態は限定的であるよりも例示的と見なすべきであり、添付の特許請求の範囲に記載された本発明の範囲ならびに構造的等価物および機能的等価物から逸脱することなくこれらの実施形態に変更を加えることができることが当業者には理解されよう。

【特許請求の範囲】
【請求項1】
組織試料の上皮部分を自動的に同定する方法であって、
前記組織試料を1つまたは2つ以上の染料で染色するステップと、
色変換計算機処理を適用して、前記染色された組織試料のカラー画像を1つまたは2つ以上のカラーチャネルに分離するステップと、
前記カラーチャネルに畳み込みニューラルネットワーク計算機処理を適用して、前記組織試料の各位置について、該位置が上皮層内または上皮層外であるのかどうかについての決定を得るステップとを含む方法。
【請求項2】
請求項1に記載の方法において、
前記色変換計算機処理を適用するステップによって生成された前記カラーチャネルが染色チャネルである方法。
【請求項3】
請求項2に記載の方法において、
前記各カラー画像は複数の画素で形成されており、
前記色変換適用ステップが、
前記画像の各染料の主調色を推定して複数の染料色ベクトルを得ることと、
各画素の色と前記各染料色ベクトルとの間の相関関係を決定して前記各カラー画像内の対応する画素の色の濃さを得ることとによって行われる方法。
【請求項4】
請求項3に記載の方法において、
前記少なくとも2つの染料はヘマトキシリンとエオシンとを含んでおり、
前記主調色推定ステップが、
前記各画素の重みがシアン・マジェンタ・イエロー色体系の該画素のシアン値に基づいている、前記各カラー画像内のすべての画素の加重平均を決定し、基本シアン成分の推定を得ることと、
前記各画素の重みが前記推定された基本シアン成分を取り除いた後の重みの大きさに基づいている、前記各カラー画像内のすべての画素の加重平均を決定し、基本マジェンタ成分の推定を得ることと、
前記基本シアン成分の推定から前記推定された基本マジェンタ成分を取り除き、前記複数の染料色ベクトルのうちの1つである、ヘマトキシリンの染料色ベクトルを得ることと、
前記推定された基本マジェンタ成分から前記推定された基本シアン成分を取り除き、前記複数の染料色ベクトルの他の1つである、エオシンの染料色ベクトルを得ることとによって行われる方法。
【請求項5】
請求項2に記載の方法において、
L1、L2、L3、およびL4が正の整数であり、
前記畳み込みニューラルネットワーク計算機処理適用ステップが、
前記各カラーチャネルを、該チャネルに対して指定されたL1個のトレーニングされたカーネル群で畳み込み、同一の特徴マップに対応する結果を加算し、L1個の結果の各々にトレーニングされた定数を加算し、その結果を、非線形伝達関数を通して渡し、L1個の特徴マップ層を生成することと、
第1の層からの前記L1個の特徴マップの各々の隣接値群を一緒に平均化して前記L1個の特徴マップの平均隣接値を生成し、その結果にトレーニングされた定数を掛け、前記L1個の結果の各々にトレーニングされた定数を加算し、その結果を、非線形伝達関数を通して渡し、L1個の特徴マップの第2の層を生成することと、
それらのL1個の特徴マップを、該特徴マップに対して指定されたL2個のトレーニングされたカーネル群で畳み込み、同一の特徴マップに対応する結果を加算し、前記L2個の結果の各々にトレーニングされた定数を加算し、その結果を、非線形伝達関数を通して渡し、L2個の特徴マップの第3の層を生成することと、
前記L2個の特徴マップの各々の隣接値群を一緒に平均化して前記L2個の特徴マップの平均隣接値を生成し、その結果にトレーニングされた定数を掛け、前記L2個の結果の各々にトレーニングされた定数を加算し、その結果を、非線形伝達関数を通して渡し、L2個の特徴マップの第4の層を生成することと、
前記第4の層のL2個の特徴マップを、該特徴マップに対して指定されたL3個のトレーニングされたカーネル群で畳み込み、同一の特徴マップに対応する結果を加算し、前記L3個の結果の各々にトレーニングされた定数を加算し、その結果を、非線形伝達関数を通して渡し、L3個の特徴マップの第5の層を生成することと、
前記第5の層のL3個の特徴マップを、該特徴マップに対して指定されたL4個のトレーニングされたカーネル群で畳み込み、同一の特徴マップに対応する結果を加算し、前記L4個の結果の各々にトレーニングされた定数を加算し、その結果を、非線形伝達関数を通して渡し、L4個の特徴マップの第6の層を生成することと、
前記第6の層のL4個の特徴マップの各々に第1のトレーニングされた重みを掛け、その結果を一緒に加算して第1の出力マップを生成することと、
前記第6の層のL4個の特徴マップの各々に第2のトレーニングされた重みを掛け、その結果を一緒に加算して第2の出力マップを生成することと、
前記第1の出力マップと第2の出力マップとを互いに比較して、どの位置が上皮層にあるかおよびどの位置が上皮層にないかを決定することとによって行われる方法。
【請求項6】
請求項5に記載の方法において、
畳み込むステップが各々5×5個のカーネルで行われる方法。
【請求項7】
請求項6に記載の方法において、
L1は9、L2は16、L3は32、L4は64である方法。
【請求項8】
組織試料の上皮部分を同定するのに使用される上皮層検出器の畳み込みニューラルネットワーク計算機処理の1つまたは2つ以上のパラメータをトレーニングする方法であって、
1つまたは2つ以上の組織試料を少なくとも2つの染料で染色するステップと、
前記1つまたは2つ以上の組織試料をスキャンして、該1つまたは2つ以上の組織試料のカラー画像を生成するステップと、
各マスクが、複数の画像のうちの対応する1つの画像の各画素について、該画素が上皮層内または上皮層外であるのかを示すマスク群を生成するステップと、
前記組織試料の各画像に色変換計算機処理を適用して、前記画像を、各カラーチャネルの各画素が前記組織の対応する位置で対応する染料の推定濃度を示す色の濃さを持つカラーチャネルに分離するステップと、
個別の色組織画像群からトレーニングデータとして使用するパッチ群を選択することであって、各パッチは該パッチ群のすべての色組織画像からの画素の連続的収集を含み、いくつかのパッチは上皮層内に中心があり、その他のパッチは上皮層外に中心がある、パッチ群を選択するステップと、
計算機処理において、前記畳み込みニューラルネットワーク計算機処理のパラメータを任意の値に初期化するステップと、
前記畳み込みニューラルネットワーク計算機処理を前記パッチ群に反復して適用するステップと、
計算機処理において前記パラメータを調整し、前記畳み込みニューラルネットワーク計算機処理の予測と前記各パッチの正しいラベルとの間の一致を改善するステップとを含む方法。
【請求項9】
請求項8に記載の方法において、
前記色変換適用ステップが、
前記画像の各染料の主調色を推定して複数の染料色ベクトルを得ることと、
各画素の色と前記各染料色ベクトルとの間の相関関係を決定して前記各色組織画像内の対応する画素の色の濃さを得ることとによって行われる方法。
【請求項10】
請求項9に記載の方法において、
前記少なくとも2つの染料はヘマトキシリンとエオシンとを含んでおり、
前記主調色推定ステップが、
前記各画素の重みがシアン・マジェンタ・イエロー色体系の該画素のシアン値に基づいている、前記各カラー画像内のすべての画素の加重平均を決定し、基本シアン成分の推定を得ることと、
前記各画素の重みが前記推定された基本シアン成分を取り除いた後の重みの大きさに基づいている、前記各カラー画像内のすべての画素の加重平均を決定し、基本マジェンタ成分の推定を得ることと、
前記基本シアン成分の推定から前記推定された基本マジェンタ成分を取り除き、前記複数の染料色ベクトルのうちの1つである、ヘマトキシリンの染料色ベクトルを得ることと、
前記推定された基本マジェンタ成分から前記推定された基本シアン成分を取り除き、前記複数の染料色ベクトルの他の1つである、エオシンの染料色ベクトルを得ることとによって行われる方法。
【請求項11】
請求項8に記載の方法において、
前記パッチ群を選択するステップが無作為に行われる方法。
【請求項12】
請求項8に記載の方法において、
前記パッチ群を選択するステップが、該パッチ群が内部上皮層および外部上皮層と等しい数を持つように行われる方法。
【請求項13】
請求項8に記載の方法において、
前記パラメータ初期化ステップで初期化された前記パラメータが無作為に初期化される方法。
【請求項14】
請求項8に記載の方法において、
前記畳み込みニューラルネットワーク計算機処理を適用するステップが逆伝播法を用いて行われる方法。
【請求項15】
組織試料の上皮部分を自動的に同定する上皮層検出器であって、
色変換計算機処理を適用して、染色された組織試料のカラー画像を1つまたは2つ以上のカラーチャネルに分離する色変換装置と、
前記カラーチャネルに畳み込みニューラルネットワーク計算機処理を適用して、前記組織試料の各位置について、該位置が上皮層内または上皮層外であるのかどうかについての決定を得る畳み込みニューラルネットワーク装置とを有する検出器。
【請求項16】
請求項15に記載の検出器において、
前記色変換処理で生成されたカラーチャネルは染色チャネルである検出器。
【請求項17】
請求項16に記載の検出器において、
前記各カラー画像は複数の画素で形成されており、
前記色変換装置が、
前記画像の各染料の主調色を推定して複数の染料色ベクトルを得ることと、
各画素の色と前記各染料色ベクトルとの間の相関関係を決定して前記各色組織画像内の対応する画素の色の濃さを得ることとによって色変換処理を行う検出器。
【請求項18】
請求項17に記載の検出器において、
前記少なくとも2つの染料はヘマトキシリンとエオシンとを含んでおり、
前記主調色が、
前記各画素の重みがシアン・マジェンタ・イエロー色体系の該画素のシアン値に基づいている、前記各カラー画像内のすべての画素の加重平均を決定し、基本シアン成分の推定を得ることと、
前記各画素の重みが前記推定された基本シアン成分を取り除いた後の重みの大きさに基づいている、前記各カラー画像内のすべての画素の加重平均を決定し、基本マジェンタ成分の推定を得ることと、
前記基本シアン成分の推定から前記推定された基本マジェンタ成分を取り除き、前記複数の染料色ベクトルのうちの1つである、ヘマトキシリンの染料色ベクトルを得ることと、
前記推定された基本マジェンタ成分から前記推定された基本シアン成分を取り除き、前記複数の染料色ベクトルの他の1つである、エオシンの染料色ベクトルを得ることとによって推定される検出器。
【請求項19】
請求項16に記載の検出器において、
L1、L2、L3、L4が正の整数であり、
前記畳み込みニューラルネットワーク装置が、
前記各カラーチャネルを、該チャネルに対して指定されたL1個のトレーニングされたカーネル群で畳み込み、同一の特徴マップに対応する結果を加算し、前記L1個の結果の各々にトレーニングされた定数を加算し、その結果を、非線形伝達関数を通して渡し、L1個の特徴マップ層を生成することと、
第1の層からの前記L1個の特徴マップの各々の隣接値群を一緒に平均化して前記L1個の特徴マップの平均隣接値を生成し、その結果にトレーニングされた定数を掛け、前記L1個の結果の各々にトレーニングされた定数を加算し、その結果を、非線形伝達関数を通して渡し、L1個の特徴マップの第2の層を生成することと、
それらのL1個の特徴マップを、該特徴マップに対して指定されたL2個のトレーニングされたカーネル群で畳み込み、同一の特徴マップに対応する結果を加算し、前記L2個の結果の各々にトレーニングされた定数を加算し、その結果を、非線形伝達関数を通して渡し、L2個の特徴マップの第3の層を生成することと、
前記L2個の特徴マップの各々の隣接値群を一緒に平均化して前記L2個の特徴マップの平均隣接値を生成し、その結果にトレーニングされた定数を掛け、前記L2個の結果の各々にトレーニングされた定数を加算し、その結果を、非線形伝達関数を通して渡し、L2個の特徴マップの第4の層を生成することと、
前記第4の層のL2個の特徴マップを、該特徴マップに対して指定されたL3個のトレーニングされたカーネル群で畳み込み、同一の特徴マップに対応する結果を加算し、前記L3個の結果の各々にトレーニングされた定数を加算し、その結果を、非線形伝達関数を通して渡し、L3個の特徴マップの第5の層を生成することと、
前記第5の層のL3個の特徴マップを、該特徴マップに対して指定されたL4個のトレーニングされたカーネル群で畳み込み、同一の特徴マップに対応する結果を加算し、L4個の結果の各々にトレーニングされた定数を加算し、その結果を、非線形伝達関数を通して渡し、L4個の特徴マップの第6の層を生成することと、
前記第6の層のL4個の特徴マップの各々に第1のトレーニングされた重みを掛け、その結果を一緒に加算して第1の出力マップを生成することと、
前記第6の層のL4個の特徴マップの各々に第2のトレーニングされた重みを掛け、その結果を一緒に加算して第2の出力マップを生成することと、
前記第1の出力マップと第2の出力マップとを互いに比較して、どの位置が上皮層にあるかおよびどの位置が上皮層にないかを決定することとによって前記畳み込みニューラルネットワーク処理を行う検出器。
【請求項20】
請求項19に記載の検出器において、
前記畳み込みステップが各々5×5個のカーネルで行われる検出器。
【請求項21】
請求項19に記載の検出器において、
L1は9、L2は16、L3は32、L4は64である検出器。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate


【公表番号】特表2011−527178(P2011−527178A)
【公表日】平成23年10月27日(2011.10.27)
【国際特許分類】
【出願番号】特願2011−516869(P2011−516869)
【出願日】平成21年7月2日(2009.7.2)
【国際出願番号】PCT/US2009/049487
【国際公開番号】WO2010/003044
【国際公開日】平成22年1月7日(2010.1.7)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.フロッピー
【出願人】(504080663)エヌイーシー ラボラトリーズ アメリカ インク (68)
【氏名又は名称原語表記】NEC Laboratories America, Inc.
【Fターム(参考)】