説明

画像処理装置、画像処理システム及び画像処理プログラム

【課題】高速かつ高精度な顕微鏡画像の生成が可能な画像処理装置、画像処理システム及び画像処理システムを提供すること
【解決手段】本技術の画像処理装置は、画像取得部と、タイル領域設定部と、仮タイル領域設定部と、仮タイル画像生成部と、ノイズ除去部と、タイル画像生成部とを具備する。
上記画像取得部は、スキャン画像を取得する。タイル領域設定部はスキャン画像を複数のタイル領域に区画する。仮タイル領域設定部はスキャン画像にタイル領域を含みタイル領域より大きい仮タイル領域を設定する。仮タイル画像生成部はスキャン画像を仮タイル領域毎に抽出して仮タイル画像を生成する。ノイズ除去部は、仮タイル画像にノイズ除去処理を施す。タイル画像生成部は仮タイル画像をタイル領域毎に抽出してタイル画像を生成する。

【発明の詳細な説明】
【技術分野】
【0001】
本技術は、病理診断において顕微鏡を介して撮像されたスキャン画像のタイル分割処理に係る画像処理装置、画像処理システム及び画像処理プログラムに関する。
【背景技術】
【0002】
病理診断等の分野において、高解像度の顕微鏡画像を処理するためにタイリング(タイル分割)と呼ばれる処理が実行されることが多い。観察対象物を高解像度(高倍率)で撮像すると一回の撮像の撮像範囲が狭くなるが、観察対象物の異なる領域を順次撮像し、撮像された複数の画像(スキャン画像)を連結(スティッチング)することによりひとつの大きな高解像度の画像を取得することができる。
【0003】
タイリングは、観察対象物のスキャン画像を所定の大きさ(例えば256画素×256画素)のタイルに分割し、HDD(Hard disk drive)等に保存するものである。これにより、スキャン画像が読み込まれているメモリを開放し、次のスキャン画像を取得することが可能となる。例えば特許文献1には、スキャンによって取得された「イメージがタイル化され」ことが記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−37250号公報(段落[0036]、図16)
【発明の概要】
【発明が解決しようとする課題】
【0005】
ここで顕微鏡画像、特に蛍光顕微鏡を用いて撮像された蛍光顕微鏡画像において、画像に含まれるノイズを数学的手法(ウェーブレット変換等)により除去することが一般的である。しかしながら、上記スキャン画像に対してノイズ除去処理を実行する場合、タイリングに起因する現象によって、高速かつ高精度な顕微鏡画像の生成が困難であるという問題が生じる。
【0006】
以上のような事情に鑑み、本技術の目的は、高速かつ高精度な顕微鏡画像の生成が可能な画像処理装置、画像処理システム及び画像処理システムを提供することにある。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本技術の一形態に係る画像処理装置は、画像取得部と、タイル領域設定部と、仮タイル領域設定部と、仮タイル画像生成部と、ノイズ除去部と、タイル画像生成部とを具備する。
上記画像取得部は、スキャン画像を取得する。
上記タイル領域設定部は、上記スキャン画像を複数のタイル領域に区画する。
上記仮タイル領域設定部は、上記スキャン画像に、上記タイル領域を含み上記タイル領域より大きい仮タイル領域を設定する。
上記仮タイル画像生成部は、上記スキャン画像を上記仮タイル領域毎に抽出して仮タイル画像を生成する。
上記ノイズ除去部は、上記仮タイル画像にノイズ除去処理を施す。
上記タイル画像生成部は、上記仮タイル画像を上記タイル領域毎に抽出してタイル画像を生成する。
【0008】
この構成によれば、仮タイル画像生成部が仮タイル画像を生成した時点で画像処理装置のメモリが開放され、次のスキャン画像を取得することが可能となるが、仮タイル画像の生成までの間にはノイズ除去処理は実行されないため、早期にメモリを開放することが可能となる。したがって、本画像処理装置においては画像取得部が次のスキャン画像を迅速に取得することが可能となる。また、ノイズ除去部が仮タイル画像にノイズ除去処理を施す際、仮タイル画像の周縁においては、連続する画素の情報が欠落することに起因する「不連続領域」が生成する。これに対してタイル画像生成部が、ノイズ除去処理が施された仮タイル画像のタイル領域をタイル画像とすることにより、タイル画像に不連続領域が含まれることが防止される。したがって、本画像処理装置においては、タイル画像が配列されて表示される際、隣接するタイル画像の境界で画像が不連続となることを防止することが可能である。
【0009】
上記画像取得部は、連続する複数のスキャン画像を取得し、上記画像処理装置は、上記複数のスキャン画像の相互の相対位置を算出するスティッチング部をさらに具備し、上記タイル領域設定部は、上記相対位置に基づいて上記スキャン画像を複数のタイル領域に区画してもよい。
【0010】
この構成によれば、タイル領域設定部が、特定のスキャン画像に対してタイル領域を設定する際、連続するスキャン画像に跨ってタイル領域を設定することが可能となり、したがって、仮タイル画像生成部が、連続するスキャン画像も利用して仮タイル画像を生成することが可能となる。これにより、ひとつの観察対象物に対して複数のスキャン画像が撮像される場合であっても、当該複数のスキャン画像間で連続するタイル画像を生成することが可能となる。
【0011】
上記スキャン画像は、蛍光顕微鏡を介して撮像された蛍光顕微鏡画像であってもよい。
【0012】
蛍光顕微鏡画像は、その原理上観察対象物の明るさが小さく、したがって撮像素子による露光を長時間実行する必要がある。このため、蛍光顕微鏡画像にはノイズが生じ易く、本技術画像処理装置によるノイズ除去処理が特に有効である。
【0013】
上記目的を達成するため、本技術の一形態に係る画像処理システムは、撮像装置と、画像処理装置とを具備する。
上記撮像装置は、観察対象物のスキャン画像を撮像する。
上記画像処理装置は、上記スキャン画像を取得する画像取得部と、上記スキャン画像を複数のタイル領域に区画するタイル領域設定部と、上記スキャン画像に上記タイル領域を含み上記タイル領域よりより大きい仮タイル領域を設定する仮タイル領域設定部と、上記スキャン画像を上記仮タイル領域毎に抽出して仮タイル画像を生成する仮タイル画像生成部と、上記仮タイル画像にノイズ除去処理を施すノイズ除去部と、上記仮タイル画像を上記タイル領域毎に抽出してタイル画像を生成するタイル画像生成部とを有する。
【0014】
上記撮像装置は、蛍光顕微鏡を介して上記観察対象物を撮像してもよい。
【0015】
上記目的を達成するため、本技術の一形態に係る画像処理プログラムは、画像取得部と、タイル領域設定部と、仮タイル領域設定部と、仮タイル画像生成部と、ノイズ除去部と、タイル画像生成部ととしてコンピュータを機能させる。
上記画像取得部は、スキャン画像を取得する。
上記タイル領域設定部は、上記スキャン画像を複数のタイル領域に区画する。
上記仮タイル領域設定部は、上記スキャン画像に、上記タイル領域を含み上記タイル領域より大きい仮タイル領域を設定する。
上記仮タイル画像生成部は、上記スキャン画像を上記仮タイル領域毎に抽出して仮タイル画像を生成する。
上記ノイズ除去部は、上記仮タイル画像にノイズ除去処理を施す。
上記タイル画像生成部は、上記仮タイル画像を上記タイル領域毎に抽出してタイル画像を生成する。
【発明の効果】
【0016】
以上のように、本技術によれば、高速かつ高精度な顕微鏡画像の生成が可能な画像処理装置、画像処理システム及び画像処理システムを提供することが可能となる。
【図面の簡単な説明】
【0017】
【図1】本技術の実施形態に係る画像処理システムの機能的構成を示すブロック図である。
【図2】同画像処理システムを構成する撮像装置による撮像対象物の撮像を説明するための概念図である。
【図3】同画像処理システムを構成する画像処理装置の画像取得部が取得するスキャン画像の例である。
【図4】同画像処理システムを構成する画像処理装置のスティッチング部によるスティッチングを示す概念図である。
【図5】同画像処理システムを構成する画像処理装置のタイル領域設定部によりスキャン画像に設定されたタイル領域を示す概念図である。
【図6】同画像処理システムを構成する画像処理装置の仮タイル領域設定部によりスキャン画像に設定された仮タイル領域を示す概念図である。
【図7】同画像処理システムを構成する画像処理装置の仮タイル画像生成部により生成された仮タイル画像を示す概念図である。
【図8】同画像処理システムを構成する画像処理装置のノイズ除去部によるノイズ除去を示す概念図である。
【図9】同画像処理システムを構成する画像処理装置のタイル画像生成部により生成されたタイル画像を示す概念図である。
【図10】同画像処理システムを構成する画像処理装置の表示部に表示される配列されたタイル画像を示す概念図である。
【図11】比較例1に係るノイズ除去方法を示す概念図である。
【図12】比較例2に係るノイズ除去方法を示す概念図である。
【図13】本技術の実施形態に係る画像処理システムを構成する撮像装置の具体例である蛍光顕微鏡の構成を示す模式図である。
【図14】同画像処理システムを構成する画像処理装置の具体例である顕微鏡用コンピュータの構成を示す模式図である。
【図15】同画像処理システムの効果を示す各画像である。
【図16】同画像処理システムの効果を示す各画像の輝度分布のグラフである。
【図17】同画像処理システムの効果を示す各画像の輝度分布のグラフである。
【図18】同画像処理システムの効果を示す各画像の輝度分布のグラフである。
【発明を実施するための形態】
【0018】
以下、本技術に係る実施形態を、図面を参照しながら説明する。
【0019】
<画像処理システムの機能的構成>
本実施形態に係る画像処理システムの機能的構成について説明する。
【0020】
図1は、本技術の実施形態に係る画像処理システム1の機能的構成を示すブロックである。同図に示すように、画像処理システム1は画像処理装置10、及び撮像装置20によって構成され、撮像装置20は画像処理装置10に接続されている。なお、画像処理装置10は例えば顕微鏡用コンピュータであり、撮像装置20は例えば蛍光顕微鏡撮像装置である。
【0021】
画像処理装置10は、画像取得部11、スティッチング部12、タイル領域設定部13、仮タイル領域設定部14、仮タイル画像生成部15、ノイズ除去部16、タイル画像生成部17、記憶部18及び表示部19を有する。画像取得部11、スティッチング部12、タイル領域設定部13、仮タイル領域設定部14及び仮タイル画像生成部15はこの順に順次接続され、続いて仮タイル画像生成部15、記憶部18、ノイズ除去部16、タイル画像生成部17、記憶部18の順で接続されている。表示部19は記憶部18と接続されている。
【0022】
撮像装置20は撮像対象物のスキャン画像を撮像する。図2は、撮像装置20による撮像対象物Pの撮像を説明するための概念図である。同図に示すように、撮像対象物P上に撮像装置20の一回(1ショット)の撮像によって撮像される撮像範囲S1、その次の撮像によって撮像される撮像範囲S2、さらに次の撮像によって撮像される撮像範囲S3を示す。
【0023】
撮像装置20が顕微鏡撮像装置である場合、その一回の撮像の撮像範囲は拡大倍率に応じて異なるが撮像対象物Pの全体には及ばず、撮像対象物Pの部分的領域となることが通常である。したがって、撮像対象物Pの全体の高倍率画像を撮像するためには撮像範囲をずらしながら撮像する必要がある。なお、撮像範囲は、撮像対象物Pの全体を低倍率で撮像したサムネイル画像から、領域検出処理によって決定されるものとすることができる。
【0024】
以下、撮像装置20による一回の撮像によって撮像される画像を「スキャン画像」とする。スキャン画像の画素数は、撮像装置20の撮像素子の画素数となるが、例えば24Mピクセル(2400万画素)とすることができる。撮像装置20はこれらのスキャン画像を、撮像毎に順次、画像処理装置10の画像取得部11に出力する。
【0025】
画像取得部11は、上述のように撮像装置20から出力されたスキャン画像を取得する。図3は画像取得部11が取得するスキャン画像の例を示す図である。図3(a)は上記撮像範囲S1において撮像されたスキャン画像G1、図3(b)は撮像範囲S2において撮像されたスキャン画像G2、図3(c)は撮像範囲S3において撮像されたスキャン画像G3を示す。画像取得部11は、これらのスキャン画像を順次スティッチング部12に供給する。
【0026】
スティッチング部12は、画像取得部11から供給されたスキャン画像を「スティッチング」する。図4はスティッチングを示す概念図である。同図に示すように、スティッチングとは、別々に撮像されたスキャン画像の相互の相対位置を算出することを意味する。スティッチング部12は、例えばスキャン画像の各画素について輝度値の相関関数等を用いてスキャン画像の相対位置を算出することができる。
【0027】
スティッチング部12は、例えば図4(a)に示すように、画像取得部11からスキャン画像G1とスキャン画像G2が供給された時点でスキャン画像G1に対するスキャン画像G2の相対位置を算出する。続いてスティッチング部12は、図4(b)に示すようにスキャン画像G3が供給された時点でスキャン画像G2に対するスキャン画像G3の相対位置を算出する。これによりスティッチング部12は、スキャン画像G1からスキャン画像G3の相対位置を算出することができる。
【0028】
なお、スティッチング部12は、実際にスキャン画像を連結させた画像を生成するのではなく、スキャン画像相互の相対位置(例えばオフセット値)を算出するものである。スティッチング部12は、算出した相対位置をタイル領域設定部13に供給する。なお、以下の説明において、スキャン画像G1〜G3のひとつを単にスキャン画像Gとする。
【0029】
タイル領域設定部13は、スキャン画像Gを複数の「タイル領域」に区画する。図5は、スキャン画像Gに設定されたタイル領域R1を示す概念図である。タイル領域R1は、後に説明するタイル画像生成部17がスキャン画像Gを分割して「タイル画像」を生成する際に分割単位となる領域である。タイル領域R1は、任意の大きさとすることができるが、画像容量や演算処理の便宜から256画素×256画素の大きさが好適である。
【0030】
図5(a)に示すタイル領域R1はスキャン画像Gの周縁に一致しているが、例えば図5(b)に示すようにタイル領域R1がスキャン画像Gからはみ出す場合も考えられる。この場合はタイル画像生成部17が、上記スティッチング部12により算出された相対位置に基づいて他のスキャン画像の一部を利用するため問題とはならない。タイル領域設定部13は、タイル領域R1をスキャン画像Gと共に仮タイル領域設定部14に供給する。
【0031】
仮タイル領域設定部14は、上記スキャン画像に「仮タイル領域」を設定する。図6はスキャン画像Gに設定された仮タイル領域R2を示す概念図である。仮タイル領域R2は、タイル領域R1を少なくとも一つ含む、そのタイル領域R1より大きい領域とすることができる。
【0032】
図6(a)に示すように、仮タイル領域R2は、各タイル領域R1から所定幅大きい領域とすることができる。具体的には、タイル領域R1のサイズが256画素×256画素である場合に、仮タイル領域R2は288画素×288画素(即ち所定幅を16画素)とすることができる。所定幅は、特に限定されないが、後述するノイズ除去における演算処理の負担を軽減するため、8の倍数の画素が望ましい。また、仮タイル領域R2は図6(b)に示すように、隣接する複数(例えば4つや9つ)のタイル領域R1から所定幅大きい領域とすることもできる。
【0033】
上記のようにタイル領域R1はスキャン画像Gを区画する領域であるから、各タイル領域R1は隣接するタイル領域R1と重複しない。しかし、仮タイル領域R2はそのタイル領域R1より所定幅大きい領域であるから、仮タイル領域R2は隣接する仮タイル領域R2と重複することになる。仮タイル領域設定部14は仮タイル領域R2をタイル領域R1及びスキャン画像Gと共に仮タイル画像生成部15に供給する。
【0034】
仮タイル画像生成部15は、「仮タイル画像」をスキャン画像Gから生成する。図7は、仮タイル画像Xを示す概念図である。同図に示すように仮タイル画像生成部15は、スキャン画像Gにおいて仮タイル領域R2毎にスキャン画像を抽出し、仮タイル画像Xを生成する。上記のように仮タイル領域R2は隣接する仮タイル領域R2と重複するものであるから、2つ以上の仮タイル領域R2に含まれていた画像領域は、各タイル画像Xに含まれている。
【0035】
なお仮タイル画像生成部15は、タイル領域設定部13によって設定されたタイル領域R1(及び仮タイル領域R2)が、スキャン画像Gからはみ出す場合(図5(b)参照)次のように動作する。即ち仮タイル画像生成部15は、スティッチング部12において算出された各スキャン画像G間の相対位置に基づいて、隣接するスキャン画像Gから仮タイル領域R2に含まれるべき画像領域を抽出し、仮タイル画像Xを生成する。仮タイル画像生成部15は、生成した仮タイル画像Xを記憶部18に供給する。
【0036】
記憶部18は、仮タイル画像生成部15から供給された仮タイル画像Xを記憶する。この時点で上記画像取得部11から仮タイル画像生成部15の処理に使用されていたメモリが開放される。即ち、画像取得部11から仮タイル画像生成部15は新たなスキャン画像に対して上記処理を実行することが可能となる。
【0037】
ノイズ除去部16は、記憶部18に記憶されている各仮タイル画像Xを読み出し、ノイズ除去処理を実行する。ノイズ除去は、ウェーブレット変換や高周波成分カット等の各種アルゴリズムにより実行することができ、具体的には、MATLAB(登録商標:MathWorks社)の拡張パッケージであるwavelet toolbox(登録商標:同社)を用いて実行することができる。図8は、ノイズ除去部16によるノイズ除去を概念的に示す図である。図8(a)にノイズ除去前の仮タイル画像Xのひとつを示し、図8(b)にノイズ除去後の仮タイル画像X(以下、仮タイル画像X’とする)を示す。
【0038】
図8(a)に示す仮タイル画像Xには、画像全体にノイズ成分が存在している。これに対しノイズ除去処理を実行すると、図8(b)に示すようにノイズ成分が除去される。ただし、仮タイル画像X’の周縁部において「不連続領域」Hが生じる。不連続領域Hは、ノイズ除去処理の際、仮タイル画像Xの周縁において画像が途切れていることに起因するものであり、詳細は後述する比較例2との対比において説明する。ノイズ除去部16は、全ての仮タイル画像Xにノイズ除去処理を施し、生成された仮タイル画像X’を再び記憶部18に供給し、記憶させる。
【0039】
タイル画像生成部17は、記憶部18に記憶されているノイズ除去済みの仮タイル画像X’を読み出し、「タイル画像」を生成する。図9は、タイル画像生成部17によるタイル画像の生成を概念的に示す図である。図9(a)に仮タイル画像X’を示し、図9(b)にタイル画像生成部17によって生成されるタイル画像Yを示す。タイル画像生成部17は、仮タイル画像X’からタイル領域R1を抽出し(即ち、タイル領域R1以外の部分を除去し)、タイル画像Yとする。上記のように仮タイル画像X’に存在していた不連続領域Hはタイル領域R1には含まれない(そのようにタイル領域R1を設定している)ため、タイル画像Yにも含まれない。タイル画像生成部17は全ての仮タイル画像X’についてタイル画像Yを生成して記憶部18に供給し、記憶させる。
【0040】
画像取得部11からタイル画像生成部17までの動作によって、記憶部18には各スキャン画像から生成されたタイル画像Yが記憶されることとなる。表示部19は、ユーザによる指示に応じて、タイル画像生成部17からこれらのタイル画像Yを読み出してディスプレイ等に表示させることができる。図10に、表示部19が表示させる画像(配列されたタイル画像Y)を示す。
【0041】
以上のようにして、スキャン画像Gからタイル画像Yが生成される。仮タイル画像生成部15が、スキャン画像Gを仮タイル画像Xに分割して記憶部18に記憶させるので、この時点でメモリを開放することができる。これにより、画像取得部11が速やかに次のスキャン画像Gを取得することが可能となる。
【0042】
また、上述のように仮タイル領域設定部14がタイル領域R1を含む仮タイル領域R2を設定し、タイル画像生成部17が仮タイル画像X’からタイル領域R1のみを抽出してタイル画像Yを生成することにより、ノイズ除去処理により発生する不連続領域Hはタイル領域R1には含まれない。したがって表示部19がタイル画像Yを配列して表示させる際に表示画像に不連続領域が含まれないものとすることが可能となる。
【0043】
<他のノイズ除去処理との比較>
[比較例1:スキャン画像のタイル化前にノイズ除去する場合]
比較として、スキャン画像をタイル画像に分割する前に、スキャン画像にノイズ除去処理を施す場合について検討する。図11は、比較例1に係るノイズ除去方法を概念的に説明する図である。
【0044】
図11(a)にスキャン画像A1を示す。本比較例ではこのスキャン画像A1に対してノイズ除去処理を施し図11(b)に示すスキャン画像A1’が生成し、さらにスキャン画像A1’を分割して図11(c)に示すタイル画像A2を生成させるとする。最終的には図11(d)に示す画像(配列されたタイル画像A2)が表示画像となる。
【0045】
この場合、スキャン画像A1は一般に画像サイズ(画素数)が大きいので、ノイズ除去処理の速度が極めて遅くなる。このため、スキャン画像A1からスキャン画像A1’を生成させるまでに非常に長い時間が必要となる。スキャン画像A1’をタイル画像A2に分割してHDD等に保存させることによってはじめてメモリを開放させることが可能となるから、撮像装置にひとつのスキャン画像を撮像させてからすぐに次のスキャン画像を撮像させることができず、観察対象物全体の撮像に非常に長い時間が必要となる。
【0046】
[比較例2:スキャン画像のタイル化後にノイズ除去する場合]
さらに比較として、スキャン画像をタイル画像に分割した後に、タイル画像にノイズ除去処理を施す場合について検討する。図12は、比較例2に係るノイズ除去方法を概念的に説明する図である。
【0047】
図12(a)にスキャン画像B1を示す。本比較例ではこのスキャン画像B1を分割して図12(b)に示すタイル画像B2を生成させ、さらに各タイル画像B2に対しノイズ除去処理を施して図12(c)に示すタイル画像B2’を生成させるとする。最終的には図12(d)に示す画像(配列されたタイル画像B2’)が表示画像となる。
【0048】
この場合、スキャン画像B1にノイズ除去処理を施すことなくタイル画像B2に分割するので、タイル画像B2の生成には時間を要しない。したがって、タイル画像B2を保存させてメモリを開放させることにより、撮像装置にひとつのスキャン画像を撮像させてからすぐに次のスキャン画像を撮像させることは可能となる。
【0049】
ただし、この方法では「不連続領域」が問題となる。上述のようにタイル画像B2にノイズ除去処理を施す際、タイル画像B2の周縁において画像が途切れているため、隣接する画素の情報(輝度値等)が欠落することとなる。したがってタイル画像B2’の周縁において、隣接するタイル画像B2’と連続性を有しない領域(不連続領域J)が生じる。即ち、図12(d)に示すように、表示部に表示される画像において、タイル画像B2’の境界に不連続領域Jが存在することとなる。
【0050】
この不連続領域Jはユーザが表示画像を観察する際に妨げとなり、また、病理診断においてはこのような画像にさらに画像処理(蛍光画像における輝点計数処理等)を施すことが多いが、その際にも誤検出等の原因となる。
【0051】
[本実施形態に係る画像処理システムの比較例1及び2との比較]
比較例1に対して画像処理システム1では、仮タイル画像生成部15がノイズ除去処理を実行する前にスキャン画像Gから仮タイル画像Xを生成し、記憶部18に記憶させる。したがって比較例1のように、(メモリが開放される)タイル分割までに時間を要するためにスキャン画像の撮像が遅延するという問題は生じない。
【0052】
比較例2に対して画像処理装置10では、タイル画像生成部17が、不連続領域Hが含まれない仮タイル画像X’のタイル領域R1のみをタイル画像Yとする。したがって、比較例2のように(最終的な表示画像となる)タイル画像Yには不連続領域Hが含まれず、不連続領域Hによる影響のない表示画像を生成させることが可能となる。
【0053】
<スキャン画像について>
本実施形態に係る画像処理システム1が処理対象とするスキャン画像は、顕微鏡画像であれば特に限定されないが、蛍光顕微鏡によって撮像された蛍光顕微鏡画像が特に有効である。蛍光顕微鏡とは、特定の染色剤によって染色された観察対象物に励起光を照射し、観察対象物から放出される蛍光を撮像する顕微鏡である。
【0054】
蛍光顕微鏡では、可視光を対象とする通常の顕微鏡(明視野顕微鏡)に比べその観察対象物の明るさが小さく、したがって撮像素子による露光を長時間実行する必要がある。このため、蛍光顕微鏡画像にはノイズが生じ易く、蛍光顕微鏡画像にノイズ除去処理を実行することは蛍光画像による病理診断の分野において一般的である。したがって、本実施形態に係る画像処理システム1は、蛍光顕微鏡画像に対して特に有効である。
【0055】
<画像処理システムの具体的構成>
本技術の実施形態に係る画像処理システム1の具体的構成ついて説明する。図13は画像処理システム1の撮像装置20の一例である蛍光顕微鏡200を示し、図14は画像処理システム1の画像処理装置10の一例である顕微鏡用コンピュータ100を示す。
【0056】
図13に示すようにスライドガラスストック201は、観察対象物Pが載置されたスライドガラスSを複数保持する。搬送用ロボット202がスライドガラスストック201から、一つのスライドガラスSを取り出し、ステージ203に載置する。
【0057】
スライドガラスSは、ステージ203上においてマクロ画像用照明204から照明されている状態で、マクロ画像撮像用カメラ205によって撮像される。マクロ画像撮像用カメラ205は撮像したマクロ画像をカメラ制御基板206に出力する。カメラ制御基板206はマクロ画像を顕微鏡用コンピュータ100のマザー基板101に供給する。
【0058】
マザー基板101は、スライドガラスSのマクロ画像に対して撮像領域検出処理を実行し、顕微鏡によって撮像させる領域を選定する。マザー基板101は、選定した領域の情報(以下、領域情報)をシステムコントロール基板207に供給する。
【0059】
スライドガラスSはステージ203によって顕微鏡の撮像範囲に搬送される。システムコントロール基板207は、領域情報に基づいてステージ制御部208を制御し、スライドガラスSの観察対象物Pが顕微鏡の撮像範囲となるようにステージ203を微調整する。
【0060】
システムコントロール基板207は蛍光光源209を制御し、蛍光照明光を発生させる。蛍光照明光は、ライトガイド210及び蛍光照明光学系211を経てエキサイトフィルタ212を透過し、励起光となる。励起光はダイクロイックミラー213によって反射され、対物レンズ214で集束され、観察対象物Pに照射される。観察対象物Pにおいて、入射した励起光により蛍光が発生する。
【0061】
観察対象物Pにおいて発生した蛍光は対物レンズ214によって拡大され、ダイクロイックミラー213を直進する。エミッションフィルタ215によって蛍光以外の波長の光が除去され、結像レンズ216を経て撮像素子217(CMOS(Complementary Metal Oxide Semiconductor)等)によって撮像される。撮像素子217によって撮像された蛍光画像(スキャン画像)はカメラ制御基板206に出力される。
【0062】
また、撮像の前に位相差検出部218が蛍光の位相差を検出し、顕微鏡用コンピュータ100のマザー基板101に供給してもよい。マザー基板101によって蛍光の位相差から焦点深度を規定するフォーカス信号が生成され、システムコントロール基板207を介してステージ制御部208によるステージ制御に反映されるものとすることができる。
【0063】
撮像素子217によって撮像されたスキャン画像は、図14に示すように、顕微鏡用コンピュータ100のGPGPU(General-purpose computing on graphics processing unit:汎用演算処理が可能なGPU)102に供給される。
【0064】
GPGPU102はスキャン画像Gを現像(画像取得部11)し、マザー基板101に供給する。また、GPGPU102はスキャン画像Gの画素圧縮を実行し、ディスプレイ103にスキャン画像を表示させてもよい。マザー基板101はスキャン画像Gのスティッチングを実行(スティッチング部12)し、タイル領域R1及び仮タイル領域R2を設定(タイル領域設定部13及び仮タイル領域設定部14)する。マザー基板101はタイル領域R1及び仮タイル領域R2が設定されたスキャン画像Gを、GPGPU104に供給する。
【0065】
GPGPU104はスキャン画像GにJPEGコーディングを実行して仮タイル画像Xを生成(仮タイル画像生成部15)し、HDD105(記憶部18)に記憶させる。マザー基板101は、HDD105に記憶されている仮タイル画像Xを読み込み、ノイズ除去処理を実行(ノイズ除去部16)する。マザー基板101は、ノイズ除去処理により生成された仮タイル画像X’からタイル領域R1を抽出し、タイル画像Yを生成(タイル画像生成部17)する。マザー基板101は、タイル画像YをHDD105に記憶させる。マザー基板101は必要に応じて、生成されたタイル画像Yをネットワークカード106を介してサーバに送信する。
【0066】
<画像処理システムの効果>
本実施形態に係る画像処理システムの効果について説明する。図15に各種の画像を示す。図15(a)は、ノイズ除去処理が施されていないスキャン画像(200画素×100画素)、図15(b)はタイル化後にノイズ除去処理が施された(上記比較例2に相等する)タイル画像である。図15(c)は本実施形態に係る画像処理システム1によってノイズ除去処理が施されたタイル画像である。
【0067】
図16乃至図19は、図15(a)〜(c)に示す各画像における輝度分布を示すグラフである。図16乃至図19は図15(a)〜(c)に示す各画像のタイル(図15(a)を除く)の継ぎ目に垂直なライン(図15(a)〜(c)に白破線で示す)における輝度分布である。それぞれ図16は赤色(R)、図17は緑(G)、図18は青(B)についての輝度分布を示す。なお、図16(b)、図17(b)、図18(b)はそれぞれ図16(a)、図17(a)、図18(a)の縦軸を拡大したグラフである。
【0068】
図16乃至図18の各プロットは、それぞれ「ノイズ除去処理前(original)(図15(a)に対応)」、「タイル化後ノイズ除去(tile denoising)(図15(b)に対応))」、「本実施形態のノイズ除去(subtile denoising)(図15(c)に対応)」を示す。
【0069】
図16乃至図18に示すように、「タイル化後ノイズ除去(tile denoising)」のプロットは「ノイズ除去処理前(original)」に比べてタイルの境界において不連続となっている。これに対し、「本実施形態のノイズ除去(subtile denoising)」のプロットは不連続ではなくなり、「ノイズ除去処理前(original)」に近いプロットとなっている。
【0070】
したがって、これらのプロットから、図15(a)に示すノイズ除去処理前のスキャン画像に比べて、図15(b)に示すタイル化後にノイズ除去処理が施されたタイル画像では、タイルを連結した境界に上記不連続領域に起因する「継ぎ目」(図中に矢印で示す)が生じていることがわかる。これに対し図15(c)に示すタイル画像では、継ぎ目が存在していないことがわかる。即ち、本実施形態に係る画像処理システム1は、不連続領域の発生を防止し、高精度なタイル画像を得ることを可能とするといえる。
【0071】
以上のように、本実施形態に係る顕微鏡画像処理システムは、仮タイル画像の生成によりメモリを迅速に開放させるものである。また、同画像処理システムは、ノイズ除去処理を施した仮タイル画像において、不連続領域が発生し得る周縁部分を除いてタイル画像を生成させることにより、タイル画像の境界に不連続領域が存在しないタイル画像を生成させるものである。したがって、本実施形態に係る顕微鏡画像処理システムによって、高速かつ高精度な顕微鏡画像の生成が可能となる。
【0072】
本技術は上記各実施形態にのみ限定されるものではなく、本技術の要旨を逸脱しない範囲内において変更することが可能である。
【0073】
なお、本技術は以下のような構成も採ることができる。
【0074】
(1)
スキャン画像を取得する画像取得部と、
上記スキャン画像を複数のタイル領域に区画するタイル領域設定部と、
上記スキャン画像に、上記タイル領域を含み上記タイル領域より大きい仮タイル領域を設定する仮タイル領域設定部と、
上記スキャン画像を上記仮タイル領域毎に抽出して仮タイル画像を生成する仮タイル画像生成部と、
上記仮タイル画像にノイズ除去処理を施すノイズ除去部と、
上記仮タイル画像を上記タイル領域毎に抽出してタイル画像を生成するタイル画像生成部と
を具備する画像処理装置。
【0075】
(2)
上記(1)に記載の画像処理装であって、
上記画像取得部は、連続する複数のスキャン画像を取得し、
上記画像処理装置は、上記複数のスキャン画像の相互の相対位置を算出するスティッチング部をさらに具備し、
上記タイル領域設定部は、上記相対位置に基づいて上記スキャン画像を複数のタイル領域に区画する
画像処理装置。
【0076】
(3)
上記(1)又は(2)に記載の画像処理装置であって、
上記スキャン画像は、蛍光顕微鏡を介して撮像された蛍光顕微鏡画像である
画像処理装置。
【0077】
(4)
観察対象物のスキャン画像を撮像する撮像装置と、
上記スキャン画像を取得する画像取得部と、上記スキャン画像を複数のタイル領域に区画するタイル領域設定部と、上記スキャン画像に上記タイル領域を含み上記タイル領域よりより大きい仮タイル領域を設定する仮タイル領域設定部と、上記スキャン画像を上記仮タイル領域毎に抽出して仮タイル画像を生成する仮タイル画像生成部と、上記仮タイル画像にノイズ除去処理を施すノイズ除去部と、上記仮タイル画像を上記タイル領域毎に抽出してタイル画像を生成するタイル画像生成部とを有する画像処理装置と
を具備する画像処理システム。
【0078】
(5)
上記(4)に記載の画像処理システムであって、
上記撮像装置は、蛍光顕微鏡を介して上記観察対象物を撮像する
画像処理システム。
【0079】
(6)
スキャン画像を取得する画像取得部と、
上記スキャン画像を複数のタイル領域に区画するタイル領域設定部と、
上記スキャン画像に、上記タイル領域を含み上記タイル領域より大きい仮タイル領域を設定する仮タイル領域設定部と、
上記スキャン画像を上記仮タイル領域毎に抽出して仮タイル画像を生成する仮タイル画像生成部と、
上記仮タイル画像にノイズ除去処理を施すノイズ除去部と、
上記仮タイル画像を上記タイル領域毎に抽出してタイル画像を生成するタイル画像生成部と
としてコンピュータを機能させる画像処理プログラム。
【符号の説明】
【0080】
1…画像処理システム
10…画像処理装置
11…画像取得部
12…スティッチング部
13…タイル領域設定部
14…仮タイル領域設定部
15…仮タイル画像生成部
16…ノイズ除去部
17…タイル画像生成部
20…撮像装置

【特許請求の範囲】
【請求項1】
スキャン画像を取得する画像取得部と、
前記スキャン画像を複数のタイル領域に区画するタイル領域設定部と、
前記スキャン画像に、前記タイル領域を含み前記タイル領域より大きい仮タイル領域を設定する仮タイル領域設定部と、
前記スキャン画像を前記仮タイル領域毎に抽出して仮タイル画像を生成する仮タイル画像生成部と、
前記仮タイル画像にノイズ除去処理を施すノイズ除去部と、
前記仮タイル画像を前記タイル領域毎に抽出してタイル画像を生成するタイル画像生成部と
を具備する画像処理装置。
【請求項2】
請求項1に記載の画像処理装置であって、
前記画像取得部は、連続する複数のスキャン画像を取得し、
前記画像処理装置は、前記複数のスキャン画像の相互の相対位置を算出するスティッチング部をさらに具備し、
前記タイル領域設定部は、前記相対位置に基づいて前記スキャン画像を複数のタイル領域に区画する
画像処理装置。
【請求項3】
請求項1に記載の画像処理装置であって、
前記スキャン画像は、蛍光顕微鏡を介して撮像された蛍光顕微鏡画像である
画像処理装置。
【請求項4】
観察対象物のスキャン画像を撮像する撮像装置と、
前記スキャン画像を取得する画像取得部と、前記スキャン画像を複数のタイル領域に区画するタイル領域設定部と、前記スキャン画像に前記タイル領域を含み前記タイル領域よりより大きい仮タイル領域を設定する仮タイル領域設定部と、前記スキャン画像を前記仮タイル領域毎に抽出して仮タイル画像を生成する仮タイル画像生成部と、前記仮タイル画像にノイズ除去処理を施すノイズ除去部と、前記仮タイル画像を前記タイル領域毎に抽出してタイル画像を生成するタイル画像生成部とを有する画像処理装置と
を具備する画像処理システム。
【請求項5】
請求項4に記載の画像処理システムであって、
前記撮像装置は、蛍光顕微鏡を介して前記観察対象物を撮像する
画像処理システム。
【請求項6】
スキャン画像を取得する画像取得部と、
前記スキャン画像を複数のタイル領域に区画するタイル領域設定部と、
前記スキャン画像に、前記タイル領域を含み前記タイル領域より大きい仮タイル領域を設定する仮タイル領域設定部と、
前記スキャン画像を前記仮タイル領域毎に抽出して仮タイル画像を生成する仮タイル画像生成部と、
前記仮タイル画像にノイズ除去処理を施すノイズ除去部と、
前記仮タイル画像を前記タイル領域毎に抽出してタイル画像を生成するタイル画像生成部と
としてコンピュータを機能させる画像処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図13】
image rotate

【図14】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図15】
image rotate


【公開番号】特開2013−25466(P2013−25466A)
【公開日】平成25年2月4日(2013.2.4)
【国際特許分類】
【出願番号】特願2011−157980(P2011−157980)
【出願日】平成23年7月19日(2011.7.19)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】