画像生成装置、及び、画像生成方法
【課題】人の介在を必要としない自動設定、およびデータ量の削減によるスループット向上を図る。
【解決手段】画像生成方法が、撮像ユニットでステージ上の被写体を撮像するプレ計測ステップと、プレ計測ステップで得られた画像データを分析することにより、その被写体の撮像枚数を決定する決定ステップと、決定ステップで決定された撮像枚数に従って、ステージ上の被写体を撮像して1枚の画像データを取得する第1の処理、又は、焦点位置を変更しながらステージ上の被写体を複数回撮像することで焦点位置の異なる複数枚の画像データを取得する第2の処理を実行する本計測ステップと、を含む。
【解決手段】画像生成方法が、撮像ユニットでステージ上の被写体を撮像するプレ計測ステップと、プレ計測ステップで得られた画像データを分析することにより、その被写体の撮像枚数を決定する決定ステップと、決定ステップで決定された撮像枚数に従って、ステージ上の被写体を撮像して1枚の画像データを取得する第1の処理、又は、焦点位置を変更しながらステージ上の被写体を複数回撮像することで焦点位置の異なる複数枚の画像データを取得する第2の処理を実行する本計測ステップと、を含む。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像生成装置、及び、その方法に関し、特に、光学顕微鏡の観察対象であるプレパラート内の検体の特徴を分析し、その情報に基づき、光学顕微鏡の光軸方向に焦点位置を変化させた複数枚の2次元画像を取得する画像生成装置、及び、その方法に関する。
【背景技術】
【0002】
病理分野において、病理診断のツールである光学顕微鏡の代替として、プレパラートに載置された被検試料を撮像しデジタル化してディスプレイ上での病理診断を可能とするバーチャル・スライド・システムがある。バーチャル・スライド・システムによる病理診断画像のデジタル化により、従来の被検試料の光学顕微鏡像をデジタルデータとして取り扱える。それによって、遠隔診断の迅速化、デジタル画像を使った患者への説明、希少症例の共有化、教育・実習の効率化、などのメリットが得られる。
【0003】
バーチャル・スライド・システムで光学顕微鏡での操作を仮想化で実現するためには、プレパラート上の被検試料全体像をデジタル化する必要がある。被検試料全体像のデジタル化により、バーチャル・スライド・システムで作成したデジタルデータをPCやワークステーション上で動作するビューアソフトで観察することができる。被検試料全体像をデジタル化した場合の画素数は、通常、数億画素から数十億画素であり、非常に大きなデータ量となる。
【0004】
バーチャル・スライド・システムで作成したデータの量は膨大であるが、それゆえ、ビューアで拡縮を行うことでミクロ(細部拡大像)からマクロ(全体俯瞰像)まで観察することができ、種々の利便性を提供する。必要な情報を予め全て取得しておくことで、低倍画像から高倍画像までユーザが欲する解像度・倍率による即時の表示が可能となる。
【0005】
このように様々な利便性を提供するバーチャル・スライド・システムであるが、従来の光学顕微鏡観察に対して使い勝手で及んでいない部分も依然として残っている。
その1つが奥行き方向(光学顕微鏡の光軸に沿った方向或いはプレパラートの観察面に垂直な方向)の観察である。従来、医師は光学顕微鏡で観察する際には、ステージを光軸方向に微動させてプレパラート中の検体中のピント位置を変えて、組織や細胞の立体構造を把握していた。しかし、バーチャル・スライド・システムでは画像一枚のデータ量が非常に大きいため、通常、1枚の平面(または曲面)で画像を撮像し、奥行き方向の画像は取得しないのが一般的である。これは奥行き方向を変えた複数枚の2次元画像の取得がデータ容量の点でも撮像時間の点でも難があることを示している。
【0006】
仮に奥行き方向の情報が必要な場合には、事前に撮像する枚数または間隔を設定して撮像するが、検体によって厚さが異なるため、単一の設定ではデータ量の不要な増大やスループット(単位時間あたりの処理枚数)の低下が起こりうる。
また別の対策として標本ごとに人が介在し、個別に奥行き方向の撮像条件を設定する対応も考えうるが、大量枚数処理においては、人が介在する手間が掛かり、作業効率が落ちることになる。
【0007】
奥行き方向の情報取得方法に関しては、従来、以下の提案がされている。
特許文献1に開示された方法では、オートフォーカスを用いてプレパラートのカバーグラスの位置を計測し、ユーザの操作で中心位置を定める。そして、ユーザが指定する間隔と枚数(或いは範囲と枚数)の設定値を用いて、奥行き方向にステージをシフトさせて、
焦点位置を変えた複数枚の画像を取得する。
また特許文献2では拡大観察装置による三次元画像データの取得において、装置から被写界深度の情報を取得し、被写界深度分だけ奥行き方向にシフトして焦点位置を変えた複数枚の画像を取得する方法を開示している。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2005−128493号公報
【特許文献2】特開2007−316433号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら上述した従来の技術においては、以下のような問題があった。
一般に病理診断では医師は多数のスライドを観察する。そのため、診断数が多い病院では大量のプレパラートを短時間(例えば一晩)でデジタル化できる大量枚数のバッチ処理機能を備えたバーチャル・スライド・システムを必要としている。
【0010】
特許文献1の装置では、プレパラート一枚ごとに撮像間隔と枚数(或いは範囲と枚数)を定める必要があり、大量枚数の自動撮像に対応できないという問題があった。
特許文献2の装置においては、対象物の高さを被写界深度で割ることで撮像枚数を決定するフルオートモードを利用することで、大量枚数の自動撮像が可能である。しかしながら、この方法では、検体(観察対象)の種類や状態によらず、被写界深度に応じた一定の間隔で撮像が行われるため、過剰な枚数取得になるという問題があった。
撮像枚数の増加はデータ量の増大や処理効率(スループット)の低下を招くため好ましくない。特に画像の高解像度化、大サイズ化が進むにつれ、この問題は深刻となる。とはいえ、枚数を減らすために単純に撮像間隔を広げるなどしてしまうと、観察すべき情報が欠落してしまうおそれもある。このように、自動撮像の効率化と重要な情報の欠落防止とはトレードオフの関係にある。
【0011】
本発明は、このような問題点に鑑みてなされたものであり、人の介在を必要としない自動設定、およびデータ量の削減によるスループット向上の実現を目的とする。
【課題を解決するための手段】
【0012】
本発明の第1態様は、被写体が設置されるステージと、撮像手段、および、前記ステージ上の被写体の像を拡大して前記撮像手段に導く撮像光学系を有する撮像ユニットと、前記ステージおよび前記撮像ユニットを制御する制御手段と、前記撮像ユニットにより得られる画像データを処理する画像処理手段と、を備え、前記画像処理手段は、前記ステージ上の被写体を撮像することで得られた画像データを分析することにより、その被写体の撮像枚数を決定し、前記制御手段は、前記画像処理手段で決定された撮像枚数に従って、前記ステージ上の被写体を撮像して1枚の画像データを取得する第1の処理、又は、焦点位置を変更しながら前記ステージ上の被写体を複数回撮像することで焦点位置の異なる複数枚の画像データを取得する第2の処理を実行する画像生成装置を提供する。
【0013】
本発明の第2態様は、被写体が設置されるステージと、撮像手段、および、前記ステージ上の被写体の像を拡大して前記撮像手段に導く撮像光学系を有する撮像ユニットと、を備える画像生成装置における画像生成方法であって、前記撮像ユニットで前記ステージ上の被写体を撮像するプレ計測ステップと、前記プレ計測ステップで得られた画像データを分析することにより、その被写体の撮像枚数を決定する決定ステップと、前記決定ステップで決定された撮像枚数に従って、前記ステージ上の被写体を撮像して1枚の画像データを取得する第1の処理、又は、焦点位置を変更しながら前記ステージ上の被写体を複数回
撮像することで焦点位置の異なる複数枚の画像データを取得する第2の処理を実行する本計測ステップと、を含む画像生成方法を提供する。
【発明の効果】
【0014】
本発明によれば、人の介在を必要としない自動設定、およびデータ量の削減によるスループット向上が実現できる。
【図面の簡単な説明】
【0015】
【図1】バーチャル・スライド・システムの構成図。
【図2】本計測ユニットとプレ計測ユニットの構成図。
【図3】ホストコンピュータの内部構成図。
【図4】実施例1の本計測処理とプレ計測推定制御処理のフローチャート。
【図5】本計測とプレ計測の撮像領域を説明する図。
【図6】XYステージおよびZステージの移動方向を説明する図。
【図7】実施例1のプレ計測データ取得処理と奥行き情報推定処理のフローチャート。
【図8】実施例1の染色方法推定に用いる色ヒストグラムを説明する図。
【図9】実施例1の染色方法推定方法を説明する図。
【図10】実施例1の撮像条件計算処理のフローチャート。
【図11】レーザ変位計を用いた検体厚さの測定方法を説明する図。
【図12】実施例1のZステージ制御パラメータ計算処理のフローチャート。
【図13】実施例1の撮像条件計算処理のフローチャート。
【図14】実施例2のプレ計測データ取得処理のフローチャート。
【図15】実施例2の絞り撮像と開放撮像の被写界深度を説明する図。
【図16】実施例2の絞り撮像と開放撮像で得られる画像の違いを説明する図。
【図17】実施例2の撮像条件計算処理のフローチャート。
【図18】実施例2の変形例である奥行き方向の層分割を説明する図。
【図19】実施例3のプレ計測推定制御処理のフローチャート。
【図20】実施例3の関心領域推定処理と個別評価値計算処理のフローチャート。
【図21】実施例3の撮像条件計算処理とZステージ制御パラメータ計算処理のフローチャート。
【図22】実施例3の撮像制御処理のフローチャート。
【発明を実施するための形態】
【0016】
[実施例1]
(システムの全体構成)
図1は、本発明の画像生成装置の一実施例である、バーチャル・スライド・システムの構成を示している。
バーチャル・スライド・システムは、プレパラートの検体の撮像データを取得するバーチャル・スライド・スキャナ120とそのデータ処理・制御を行うホストコンピュータ110およびその周辺機器から構成されている。
【0017】
ホストコンピュータ110にはユーザからの入力をキーボードやマウスなどの操作デバイスを通じて受け付ける操作部111、処理画像を表示する表示部112が接続される。
またホストコンピュータ110には、記憶装置113、他のコンピュータシステム114が接続されている。バーチャル・スライド・スキャナ120から取得した大容量のデータの記憶装置113への保存や他のコンピュータシステム114への送信が可能となっている。
【0018】
バーチャル・スライド・スキャナ120の制御は、まずホストコンピュータ110がコ
ントローラ108に指示を送り、次にコントローラ108が接続している本計測ユニット101とプレ計測ユニット102を制御することで実現される。
本計測ユニット101はプレパラート内の検体診断のための高精細な画像を取得するユニットである。プレ計測ユニット102は本計測に先立って撮像を行うユニットで、本計測で精度の良い画像取得をするための制御情報取得を目的とした画像取得を行う。詳しくは後述するが、本発明において特徴的な処理はこのプレ計測ユニット102で撮像したデータを用いて本計測ユニット101を制御することで、奥行き方向に焦点位置を変えた複数枚の画像を取得する点にある。
【0019】
本計測ユニット101およびプレ計測ユニット102で撮像された画像データはホストコンピュータ110に送られる。ホストコンピュータ110は送られた画像データを内部で処理できる構成となっている。本実施例で後述する奥行き情報推定処理では、プレ計測ユニット102で撮像した画像を解析対象とし、ホストコンピュータ110で分析する。
【0020】
コントローラ108には変位計103が接続され、本計測ユニット101またはプレ計測ユニット102内のステージに設置されるプレパラートの位置や距離が測定できる構成となっている。変位計103は、本計測およびプレ計測を行うにあたり、プレパラート内の検体の厚みを計測するために用いられる。
またコントローラ108には本計測ユニット101およびプレ計測ユニット102の撮像条件を制御するための、開口絞り制御104、ステージ制御105、照明制御106、センサ制御107が接続されている。そして、それぞれはコントローラ108からの制御信号に従って、開口絞り、ステージ、照明、イメージセンサの動作を制御する構成となっている。
【0021】
ステージにはプレパラートを光軸に垂直な方向に移動するXYステージと光軸に沿った方向に移動するZステージがある。それぞれ、XYステージは光軸に垂直な方向に分布する検体画像を、Zステージは奥行き方向に焦点位置を変えた画像を撮像するために用いる。図示しないが、バーチャル・スライド・スキャナ120は、複数のプレパラートをセット可能なラックと、ラックからステージ上の撮像位置へとプレパラートを送り出す搬送機構とが設けられている。多数のプレパラートの撮像をバッチ処理で行う場合は、コントローラ108が搬送機構を制御することで、ラックからプレパラートを1枚ずつプレ計測ユニット102のステージ、本計測ユニット101のステージの順に送り出す。
【0022】
本計測ユニット101、プレ計測ユニット102には撮像した画像を用いてオートフォーカスを実現するAFユニット109が接続されており、コントローラ108を介して、本計測ユニット101、プレ計測ユニット102のステージの位置を制御することで合焦位置を探し出すことが出来る。オートフォーカスの方式は画像を用いるパッシブ型であり、公知の位相差検出方式やコントラスト検出方式が用いられる。
本実施例では、本計測ユニット101、プレ計測ユニット102がそれぞれ本発明の第1の撮像ユニット、第2の撮像ユニットに対応する。また、コントローラ108とホストコンピュータ110がそれぞれ本発明の制御手段と画像処理手段に対応する。
【0023】
(本計測ユニット)
図2(a)は実施例1における本計測ユニット101の内部構成を示す図である。
光源201の光は照明光学系202を通じ、光量ムラが無いように均一化され、ステージ203の上に設置されたプレパラート204を照射する。プレパラート204は観察対象となる組織の切片や塗抹した細胞をスライドグラス上に貼り付け、封入剤とともにカバーグラスの下に固定したものであり、観察対象(被写体)を観察可能な状態に準備したものである。
【0024】
撮像光学系205は観察対象の像を拡大して撮像手段である撮像部207に導くものである。プレパラート204を通った光は撮像光学系205を介して、撮像部207上の撮像面で結像する。撮像光学系205の中には開口絞り206が存在し、開口絞り206を調整することで被写界深度が制御できる。
【0025】
撮像面で結像したプレパラート内の像は、複数のイメージセンサから構成される撮像部207で光電変換が行われ、A/D変換を実行した後、像は電気信号としてホストコンピュータ110に送られる。本実施例ではA/D変換を実行した後のノイズ除去や色変換処理、鮮鋭化処理に代表される現像処理はホストコンピュータ110内部で行うとして説明する。しかし、現像処理は撮像部207に接続された専用の画像処理ユニット(不図示)で行い、その後ホストコンピュータ110にデータを送信することも可能であり、そのような形態での実施も本発明の範疇とする。
【0026】
(プレ計測ユニット)
図2(b)は実施例1におけるプレ計測ユニット102の内部構成を示す図である。
光源301の光は照明光学系302を通じ、光量ムラが無いように均一化され、ステージ303の上に設置されたプレパラート204を照射する。プレパラート204を通った光は撮像光学系305により、撮像部307上の撮像面で結像する。撮像光学系305の中には開口絞り306が存在し、開口絞り306を調整することで被写界深度が制御できる。
【0027】
撮像面で結像したプレパラート内の像は、イメージセンサを備えた撮像部307で光電変換が行われ、A/D変換を実行した後、像は電気信号としてホストコンピュータ110に送られる。本実施例ではA/D変換を実行した後のノイズ除去や色変換処理、鮮鋭化処理に代表される現像処理はホストコンピュータ110内部で行うとして説明する。しかし、現像処理は撮像部307に接続された専用の画像処理ユニット(不図示)で行い、その後ホストコンピュータ110にデータを送信することも可能であり、そのような形態での実施も本発明の範疇とする。
【0028】
(ホストコンピュータ)
図3は本発明におけるホストコンピュータ110の内部構成を示す図である。
CPU401はRAM402やROM403に格納されているプログラムやデータを用いてホストコンピュータ全体の制御を行う。またCPU401は、以降の実施例で説明する各種演算処理、データ処理、例えば、後述する奥行き情報推定処理や撮像条件計算処理を行う。
【0029】
RAM402は外部記憶装置411からロードされたプログラムやデータ、他のコンピュータシステム405からI/F(インターフェース)404を介してダウンロードしたプログラムやデータを一時的に記憶するエリアを備える。またRAM402は、CPU401が各種の処理を行うために必要とするワークエリアを備える。ROM403はコンピュータの機能プログラムや設定データなどを記憶する。ディスプレイ制御装置406は画像や文字等をディスプレイ407に表示させるための制御処理を行う。ディスプレイ407はユーザに入力を求めるための画面表示を行うとともに、バーチャル・スライド・スキャナ120から取得しCPU401で処理した画像データを画像表示する。
【0030】
操作入力デバイス409はキーボードやマウスなどCPU401に各種の指示を入力することのできるデバイスにより構成される。ユーザはバーチャル・スライド・スキャナ120の動作を制御する情報を操作入力デバイス409により入力する。408は操作入力デバイス409を介して入力された各種の指示等をCPU401に通知するためのI/Oである。
【0031】
外部記憶装置411はハードディスクなどの大容量情報記憶装置であり、OS(オペレーティングシステム)や以降の実施例で説明する処理をCPU401に実行させるためのプログラムやバッチ処理によりスキャンした画像データなどを記憶する。
外部記憶装置411への情報の書き込みや外部記憶装置411からの情報の読み出しはI/O410を介して行われる。コントローラ413はバーチャル・スライド・スキャナ120を制御するためのユニットであり、I/F(インターフェース)412を介してCPU401と制御信号および応答信号のやり取りをする。
【0032】
コントローラ413は本計測ユニット101およびプレ計測ユニット102を制御する機能を持つ。I/F(インターフェース)414には上述以外のインターフェース、例えば、CMOSイメージセンサやCCDイメージセンサの出力データを取り込むための外部インターフェースが接続されている。なおインターフェースとしてはUSB、IEEE1394などのシリアルインターフェースやカメラリンクなどのインターフェースを使うことが出来る。このI/F414を通じて様々な周辺機器が接続できる。
【0033】
(本計測処理)
本実施例のバーチャル・スライド・システムは、検体の撮像条件(撮像枚数など)を決定するための「プレ計測」と、検体を高解像で撮像する「本計測」とを実行する。本計測では、検体から1枚の画像データを取得する第1の処理と、焦点位置を変更しながら検体を複数回撮像することで焦点位置の異なる複数枚の画像データを取得する第2の処理(Zスタックとよばれる)とが可能である。プレ計測で得られた画像に基づき決定された撮像条件に従って、第1の処理と第2の処理のいずれを実行するかが制御される。ここでは、プレ計測で得られた画像データを分析して撮像条件を決定し、その撮像条件に従って本計測ユニット101を制御する処理を「プレ計測推定制御処理」とよぶ。
以下、実際の処理の順番とは逆になるが、最初に本計測処理について説明し、その後で本実施例の特徴であるプレ計測推定制御処理について詳しく説明する。
【0034】
図4(a)は本計測処理の処理フローを示す図である。
本計測データ取得処理S501では、コントローラ108の制御により、本計測ユニット101がプレパラートを撮像し、ホストコンピュータ110に画像データを送信する。
次に現像・補正処理S502において、ホストコンピュータ110が画像データに対し色変換処理、鮮鋭化処理、ノイズ低減処理などを実施する。これらの処理により、モニタ表示される画像の色を標本の実際の色に近づけることができるとともに、画像のノイズが抑えられる。
次に合成処理S503では、ホストコンピュータ110が、分割して撮像した物体面の画像をつなぎ合わせ、プレパラート上の対象領域(例えば20mm角の領域)を映した像を作る。
次に圧縮処理S504では、ホストコンピュータ110が、合成したデータを圧縮し、データ容量を削減する。圧縮方法としては静止画圧縮符号化方式のJPEGやJPEG2000などを用いることが可能である。続いて、伝送処理S505では、ホストコンピュータ110が記憶装置113に画像データを送り、保存する。或いはホストコンピュータ110は、ネットワークI/Fを介してネットワーク上のコンピュータシステム114や画像サーバに画像データを送信してもよい。
【0035】
(本計測処理:本計測データ取得処理S501)
図5、図6を用いて本計測データ取得処理S501について説明する。
【0036】
図5(a)はプレパラートの模式図である。スライドグラス610上にはカバーグラス611によって検体600を封入した領域とラベルエリア612がある。本実施例の本計
測データ取得処理S501では、カバーグラス611があると想定される領域を撮像対象とする。なお、プレ計測で検体600が存在する外接矩形領域を求め、本計測ではその領域のみを撮像することでデータ量を削減することも好ましい。
【0037】
図5(b)は本計測データ取得処理S501でカバーグラス611が存在する領域を複数領域に分割して撮像する様子を表している。図5(c)は撮像面を表しており、有効視野602は本計測ユニット101の撮像光学系205を通して像が映る範囲を、センサ有効領域603は撮像部207のイメージセンサで撮像可能な領域を示している。
物体面における撮像領域601(斜線領域)は本計測ユニット101の撮像光学系205を通じて結像し、撮像面における撮像領域604に対応する。
図5(c)に示すように、センサ有効領域603には、撮像領域604に対して若干広い領域が割り当てられている。これは、撮像光学系205が有する光学的な収差やイメージセンサの取付位置のズレを許容するためのマージンである。すなわち、光学的な収差やセンサの取付位置のズレがあったとしても、物体面の撮像領域601がセンサ有効領域603内に収まるようにしてある。合成処理S603では、センサ有効領域603の画像に対して収差補正や位置ズレ補正を行い、補正した画像から撮像領域604に対応する部分を切り出し、その画像を合成に用いる。
【0038】
図6(a)は図5(b)で示す分割領域をラスタースキャン順に撮像する場合のステージ203のXY方向の移動方向と順序を表している。プレパラートの左上から右下の領域を撮像するには、プレパラートを搭載するステージ203は逆方向の右下から左上に移動する。
このように撮像領域を複数領域に分割し、ステージ203を移動しながら繰り返し撮像することで比較的小さなイメージセンサでも広い領域を撮像することができる。
【0039】
図6(b)は本計測データ取得処理S501で、焦点位置(観察深さ、フォーカス位置、或いはピント位置ともいう)の異なる複数の画像を取得する場合のステージ203のZ方向(奥行き方向)の移動方向を示している。図に示すように、プレパラート204内の検体の上側(カバーグラス裏面側)に焦点位置を移動するには、撮像光学系205の光軸方向に沿って、ステージ203をZ方向下向きに移動させる。逆に、検体の下側(スライドグラス表面側)に焦点位置を移動するには、ステージ203をZ方向上向きに移動させる。焦点位置を変更しながら検体を複数回撮像することで、焦点位置の異なる複数枚の画像データを取得する処理は一般に「Zスタック」とよばれている。
【0040】
以降の説明では、説明の簡略化のため、ステージ203をZ方向に移動して焦点位置を変更する構成のみ説明する。しかし、撮像部207、或いは、撮像部207とステージ203の両方を撮像光学系205の光軸方向に沿って移動することでも焦点位置を変更することができる。また、撮像光学系205のレンズを制御することにより光学的に焦点距離を変更することでも、焦点位置を変更可能である。なお、プレ計測ユニット102のステージ機構は本計測ユニット101とほぼ同じため、説明は省略する。
【0041】
(プレ計測推定制御処理)
図4(b)はプレ計測推定制御処理の処理フローを示す図である。
プレ計測データ取得処理S901では、コントローラ108の制御により、プレ計測ユニット102がプレパラートを撮像し、ホストコンピュータ110に画像データを送信する。
次に、奥行き情報推定処理S902では、ホストコンピュータ110が、撮像部307で撮像した画像を解析し、被写体の3次元的な奥行きを推測する。この奥行き情報推定処理S902は本実施例の特徴である為、後ほど図を用いて詳しく説明する。
次に、撮像条件計算処理S903では、ホストコンピュータ110が、奥行き情報推定
処理S902で推定した情報を元にZステージ制御パラメータを決定し出力する。このパラメータは、本計測においてコントローラ108が奥行き方向のステージ制御を行う為に用いられるパラメータであり、撮像を行う際の始点位置を示すシフト開始位置、奥行き方向の移動間隔であるシフト間隔、および、撮像枚数からなる。
最後に撮像制御処理S904では、コントローラ108が、撮像条件計算処理S903で計算されたZステージ制御パラメータを用いて本計測ユニット101のステージ203の位置を制御する。そしてスライドグラスとカバーグラスで挟まれた検体内の所望の位置にフォーカスを合わせ、本計測ユニット101で画像取得を繰り返す。そして図4(a)で説明した本計測処理により、高解像度の合成画像を生成する。
【0042】
図5(d)はプレ計測におけるプレパラート204の撮像領域605を示している。プレ計測は本計測を精度よく撮像するための制御情報取得を目的としており、画像の特徴が大まかに把握できれば良く、本計測ほどの倍率は必要ない。また、プレ計測では被写界深度を深くするとよい。これにより、検体にピントを合わせやすくできる。
本実施例のプレ計測では低倍率でプレパラート204の全体を撮像する。また、本計測と異なり複数の領域に分割することなく1つのイメージセンサでプレパラート204の全体を一括撮像する。これによりプレ計測ユニット102の構成を簡易化することができるとともに、プレ計測に要する時間、ひいてはプレ計測と本計測を含む撮像処理全体の時間を短縮することができる。ただし、プレ計測でも本計測相当の解像度が必要な場合、本計測同様に倍率を上げて、物体面での撮像対象領域を複数に分割して撮像しても良い。
【0043】
(プレ計測推定制御処理:プレ計測データ取得処理S901)
図7(a)は、本実施例のプレ計測データ取得処理S901の詳細を示している。
ステージ設定処理S1001では、コントローラ108が搬送機構を制御して、プレ計測ユニット102のステージ303にプレパラート204をセットする。
【0044】
照明照射処理S1002では、光源301が点灯し、プレパラート204に光を照射する。撮像処理S1003では、照明光学系302、プレパラート204、撮像光学系305を通って撮像面に結像した像を撮像部307のイメージセンサで画像化する。なお、本実施例では、RGBの3つの光源301で順番に露光し、3回撮像を行うことで、カラー画像を取得する。すなわち、S1002とS1003が3回繰り返される。
【0045】
現像・合成処理S1004では、撮像処理S1003で取得した生データ(RAWデータ)に対し、ホストコンピュータ110が現像・合成処理を行う。現像・合成処理S1004では、色変換、ノイズ除去処理などを行う。sRGBやAdobeRGBなどの様々な色空間規格が存在し、そのいずれを用いても良いが、本実施例では代表的なsRGB色空間に色変換する。
【0046】
(プレ計測推定制御処理:奥行き情報推定処理S902)
図7(b)は、本実施例の特徴である奥行き情報推定処理S902の処理内容を示している。本実施例の奥行き情報推定処理は、プレ計測で得られた画像データの色に基づいて検体の染色方法を推定する処理である。
まず色空間変換処理S1101では、プレ計測で得られた画像データの色空間変換が行われる。色空間としては、xyY表色系(xy色度図)、輝度色差信号YUV、均等色空間CIE L*a*b*、HSV色空間、HLS色空間などがある。本実施例ではCIE
L*a*b*色空間に変換される。なお、sRGBのまま以降の処理を行う場合には、S1101の処理を省略することもできる。
【0047】
ヒストグラム生成処理S1102では、ホストコンピュータ110が、色空間変換した画像データから色ヒストグラム(色出現分布情報)を作成する。
図8(a)、図8(b)はヒストグラム生成処理S1102の一例を示す。図8(a)に示すように、例えば、L*a*b*色空間をL*軸を中心軸として30度ずつ12等分し、それぞれの領域A1〜A12に出現する画素の数を数える。そして図8(b)に示すように、プレ計測で得られた画像データに対する一次元ヒストグラムを描く。図8(b)の横軸は領域A1〜A12であり、縦軸は画素の出現頻度(画素の数)である。
図5(a)と図5(d)から分かるように、プレ計測撮像領域605の中には検体600が存在しない部分もある。検体600が存在しない部分は、照明の色、即ち、無彩色の色となる。検体以外の画素を取り除いた方が精度良く検体の染色方法を推定できるため、L*軸から所定の距離にある画素(ほぼ無彩色の画素)をヒストグラムから取り除くと良い。
【0048】
マッチング度算出処理S1103では、ホストコンピュータ110が、データベース1304から染色方法毎の色ヒストグラム(色出現分布情報)を取得する。なおデータベース1304には、各染色方法の検体サンプルを用いて作成された、各染色方法の典型的な色出現分布を示す色ヒストグラムがあらかじめ格納されている。図9の1302はA染色方法の色ヒストグラム、1303はB染色方法の色ヒストグラムを示している。そして、ホストコンピュータ110は、ヒストグラム生成処理S1102で計算したヒストグラム1301と、各染色方法の典型的なヒストグラム1302、1303とを比較し、染色方法毎のマッチング度を計算する。
【0049】
ヒストグラム同士のマッチング度(類似度)は、例えば、ヒストグラムの内積や、ヒストグラム・インターセクションなどで評価できる。正規化相互相関(内積を計算する前にそれぞれの1次元ヒストグラムの総和が0になるように正規化してから内積を計算)を用いれば、内積の最大値は1に抑えられるため、次のステップで判定する際の閾値が導入しやすく、確度の低い推定が排除できる。
【0050】
次に染色方法推定処理S1104では、マッチング度の最も大きい染色方法を、プレ計測した検体の染色方法として選定する。例えば、図9の例では、プレ計測した検体の色ヒストグラム1301は、A染色方法の色ヒストグラム1302との内積(相関)が最も大きくなる。
染色方法推定処理S1104において、最大のマッチング度が所定の閾値より小さい場合には、「染色方法不明」と判定すると良い。誤判定により検体の染色方法と異なる染色方法を選定してしまうと、適切な撮像条件が設定できない可能性があるため、閾値の導入により誤判定の確率を下げることが望ましい。
【0051】
染色方法推定処理S1104で決定された染色方法の情報は、RAM402や外部記憶装置411などホストコンピュータ110がアクセスできる適切な場所に記憶される。なお、染色方法毎の色ヒストグラムを格納するデータベース1304は、外部記憶装置411に存在しても良いし、他のコンピュータシステム405に存在しても良い。
【0052】
(プレ計測推定制御処理:撮像条件計算処理S903)
図10は、撮像条件計算処理S903の詳細を示している。
まずS1401で、ホストコンピュータ110は、有意な染色推定が出来たか否かを判定する。もし確度の高い推定ができていればS1402に進み、ホストコンピュータ110は、データベース1400にアクセスし、格納された染色方法毎の制御情報を取得する。そして、S1403にて、ホストコンピュータ110は、S1402で取得した制御情報に基づき、本計測における奥行き方向の移動量を制御するためのパラメータであるZステージ制御パラメータを計算する。一方、S1401で有意な染色推定が出来なかった(すなわち染色方法不明)と判定された場合、S1404において、ホストコンピュータ110は、予め決められているデフォルト条件を設定する事前条件設定を行う。
【0053】
S1402で取得する染色方法毎の制御情報について詳細に説明する。
染色方法毎の制御情報とは、
(染色方法、撮像枚数、検体厚さ、シフト開始位置、シフト間隔、計算モード)
の項目からなる情報である。本実施例のデータベース1400には、例えば、以下のように染色方法をインデックスとしたデータが格納されている。
(HE染色、1枚、3μm、中心、0μm、枚数指定)
(パパニコロウ染色、9枚、20μm、上端、2.5μm、深度指定)
(ギムザ染色、9枚、20μm、上端、2.5μm、深度指定)
【0054】
HE染色(ヘマトキシリン・エオシン染色)は、組織診において組織薄片の全体観察のために一般に利用される染色方法である。通常、検体は薄くスライスされ一定の厚さとなる傾向があるため、撮像枚数としては1枚で十分である。パパニコロウ染色とギムザ染色は、細胞診に利用される染色法であるため、検体厚さは厚くなる傾向にある。それゆえ数μm間隔で複数枚の撮像を行うことが望ましい。本実施例の方法は、このような染色方法と撮像条件(枚数やシフト間隔)の関連性に着目し、プレ計測画像の色分布から推定した染色方法に応じて適切な撮像条件を設定するものである。
【0055】
検体厚さに関しては、制御情報に記された検体厚さ以外にも、別の手段で測定した検体厚さの値を用いることも可能である。例えば、レーザ変位計などの変位計103を用いれば、スライドグラスやカバーグラスの表面・裏面反射の情報を用いて検体の厚みが計測できる。
シフト開始位置は「中心」、「上端」、「下端」がある。「中心」はスライドグラス表面位置に検体厚みの半分の長さを加えた位置、「上端」はカバーグラスの裏面位置、「下端」はスライドグラスの表面位置を表している。実際の位置は、変位計103の測定値から計算して求める。
計算モードは「枚数指定」、「間隔指定」、「深度指定」の3つがあり、それぞれ撮像制御パラメータの計算方法が異なる。
【0056】
上記の制御情報は個々の医師や診療拠点ごとに異ならせても良いし、一連のバッチ処理を開始する前にユーザがその都度設定しても良い。検体厚さは標本の作り方にも依存するが、一般に組織診では標本を薄くスライスして作成する為、一定の厚さとなる傾向があり、細胞診ではスライドグラス上に取得した細胞を塗抹し固定するため、厚くなる傾向がある。
【0057】
図11(a)はレーザ変位計103を使って検体厚さを測るための構成を示した図である。レーザ変位計103では投光素子1510から出た光は投光レンズ1511を通り、測定対象物によって反射(または拡散)された光が受光レンズ1512を介して位置検出素子1513で受光される。このとき、測定対象物の位置に応じて受光位置が異なる。位置検出素子1513での位置の違いは対象物の奥行き方向の違いに比例することから、三角測距の原理を用いて物体の位置が求められる。
【0058】
次に図11(b)を参照し、レーザ変位計103を用いて検体厚さを求める方法を説明する。プレパラート204の端に近い位置1500aにおいて、プレパラート204のスライドグラス1501の表面反射光を検出する。次にステージを移動し、プレパラート204のほぼ中心の位置1500bにおいて、カバーグラス1503の表面反射光を検出する。そして、スライドグラス1501の表面反射光とカバーグラス1503の表面反射光の位置検出素子1513での受光位置の差から、三角測距の原理を用いて、カバーグラス1503と検体1502の厚さの和が求められる。カバーグラス1503の厚さが既知であるとすると、検体1502の厚さを求めることができる。なお、カバーグラス1503
の厚さは、カバーグラス1503の表面の反射光と裏面の反射光から求めた変位をグラスの屈折率で補正することでも求められる。
【0059】
レーザ変位計103で求めた検体厚さを、制御情報に記された検体厚さと比較することで、万一誤判定した場合にも検体の存在範囲を外れた撮像を防ぐことができる。
【0060】
次に、図12を用いて計算モードによる計算方法の違いを説明する。
S1601において、ホストコンピュータ110は、計算モードが枚数指定か否かを判定する。枚数指定の場合には、S1602において、ホストコンピュータ110が検体厚さを制御情報に記載の枚数で割ることで、シフト間隔を計算する。
検体厚さをT[μm],撮像枚数をN[枚]、シフト間隔をS[μm]とすると、シフト間隔Sの計算式は、
N=1のときは S=0[μm]、
N>1のときは S=T/(N−1)[μm]、
となる。
【0061】
枚数指定でない場合にはS1603に進み、ホストコンピュータ110は、計算モードが間隔指定か否かを判定する。間隔指定の場合には、S1605に進み、そうでない場合(即ち、深度指定に相当)はS1604に進む。S1604ではホストコンピュータ110は、本計測ユニット101の被写界深度の値をシフト間隔に設定する。S1605ではこの時点で設定された値を元に撮像枚数を計算する。
撮像枚数Nの計算式は、
T<Sのときは N=1[枚]、
T≧Sであり、シフト開始位置が上端または下端のときは、
N=CEIL(T/S)+1[枚] (1)
T≧Sであり、シフト開始位置が中心のときは、
N=2×CEIL(T/2/S)+1[枚] (2)
となる。
ここで、CEIL(X)は、X以上の最小の整数を求める関数である。
【0062】
なお、式(1)において「+1」をしているのは、検体の上端と下端の両方の位置が必ず撮像する範囲の内部に含まれるようにするためである。例えば、シフト開始位置が下端でT=3μm、S=2μmのとき、撮像枚数は3枚となり、3枚目の撮像位置は検体の上端を超えるが、検体が存在する範囲をカバーしている。式(2)においても同様の考え方を用い、中心から一方の端に対する厚みT/2をカバーするのに必要な枚数(CEIL(T/2/S)+1)を求め、それを2倍し、重複する中心の1枚を引いた式となっている。前記の計算式はあくまで一例で、式(1)でT/Sが整数とならない場合には、検体の上端と下端の両方の位置で撮像を行うため、N−1枚目とN枚目の間のシフト間隔Sではなく、T−S×(N−2)に設定する等の変形も可能である。
【0063】
被写界深度は、像面位置を固定したときに像面に鮮明な像を結び得る物体の位置に対する許容範囲である。被写界深度は物体側の光軸上のピントが合う範囲を表し、像面の光軸方向のピントが合う範囲である焦点深度と対応関係にある。
被写界深度はプレ計測ユニット102の撮像光学系305および開口絞り306の状態から計算できる。しかし、逐次計算で求めるのは煩雑なため、焦点位置や開口絞りなどの撮像条件ごとに被写界深度を予め計算して、被写界深度のデータベースを用意しておき、ホストコンピュータ110が必要に応じてデータベースから被写界深度の値を読み出すようにするとよい。
【0064】
理解を助けるため、Zステージ制御パラメータの計算の具体例を示す。
例えば、撮像光学系305の被写界深度が0.5μmであり、プレ計測により推定された染色方法がパパニコロウ染色であり、制御情報として、
(パパニコロウ染色、9枚、20μm、上端、2.5μm、深度指定)
が得られたとする。
「深度指定」のため、図14のS1604において被写界深度0.5μmがシフト間隔に設定され、撮像枚数Nは、式(1)により、
N=CEIL(20[μm]/0.5[μm])+1=41[枚]
となる。
従って、計算されるZステージ制御パラメータは、
(シフト開始位置、シフト間隔、枚数)=(上端、0.5μm、41枚)
となる。
【0065】
次に、プレ計測により推定された染色方法がHE染色であり、制御情報として、
(HE染色、1枚、3μm、中心、0μm、枚数指定)
が得られたとする。
「枚数指定」のため、S1602にてシフト間隔を計算するが、N=1ゆえ、シフト間隔は0μmとなる。
従って、計算されるZステージ制御パラメータは、
(シフト開始位置、シフト間隔、枚数)=(中心、0μm、1枚)
となる。
【0066】
以上述べた方法により、検体の染色方法に応じて適切な撮像枚数や撮像間隔が設定される。すなわち、奥行き方向の観察が必要なパパニコロウ染色では、細かいシフト間隔で複数枚の撮像が行われ、逆に奥行き方向の観察が必要ないHE染色では撮像枚数を1とすることでデータ量を抑制できる。
【0067】
(プレ計測推定制御処理:撮像制御処理S904)
図13は撮像制御処理S904の内部処理を示している。
S1701では、まずコントローラ108が搬送機構を制御して、プレパラート204をプレ計測ユニット102から本計測ユニット101のステージ203へと移動させる。そしてコントローラ108は、S903で計算したZステージ制御パラメータを参照し、本計測ユニット101のフォーカス位置制御を行う。例えば、シフト開始位置が「下端」であれば、スライドグラス上端に、「中心」ならスライドグラス上端から検体厚さの半分だけ検体内部に進んだ位置に、「上端」ならスライドグラス上端から検体厚さだけ検体内部に進んだ位置にフォーカスを合わせる。
【0068】
次にS1702では、コントローラ108が、撮像枚数が1より多いか否かを判定する。撮像枚数が1の場合には、S1706に進み、本計測ユニット101にて現在のフォーカス位置の画像を撮像し、終了する。
撮像枚数が1より多い場合にはS1703に進み、本計測ユニット101にて撮像を行う。S1704では、コントローラ108が、全ての画像を取得したかを判定し、未取得の場合にはS1705に進む。S1705では、コントローラ108が、Zステージ制御パラメータに基づいて、ステージ203を奥行き方向にシフト間隔だけ移動させる。これにより、フォーカス位置が検体の厚さ方向にシフト間隔分ずれることになる。そして、再びS1703により撮像が行われる。Zステージ制御パラメータで指定された撮像枚数の画像が取得されるまで、S1703〜S1705の処理が繰り返される。
【0069】
本計測ユニット101で取得した画像データはホストコンピュータ110に送られる。奥行き方向を変えて撮像した画像データは奥行き位置毎に別のファイルとして保存・管理しても良いし、1つのファイルにまとめて保存・管理しても良い。
【0070】
以上述べた実施例1の方法によれば、プレ計測により検体の染色方法を推定し、それに基づいて適切な撮像枚数、シフト間隔、撮像方法を自動で設定することができる。その結果、データ量(撮像枚数)を削減し、データ送信/保存の両面でスループットを向上させる効果が実現できる。また奥行き方向の観察が必要な場合には複数枚の撮像が行われるため、観察に必要な情報が欠落することを防ぐことができる。
これにより、バーチャル・スライド・システムで様々な部位に様々な染色を施したスライドを混在させた大量のスライドをバッチ処理で撮像する場合でも、スライド毎に人の判断が介在する必要がないため、撮像に必要な作業量を低減する効果が実現できる。
【0071】
本実施例の方法は、既にある染色方法に留まらず、新しい染色方法にも簡単に対応できるという利点も有する。すなわち、新しい染色方法が現れた場合には、図9に示すように、新しい染色方法の色ヒストグラムを作成し、データベース1304に追加するだけで良い。
【0072】
本実施例では、RGBの3色で撮像した情報を色変換して染色方法を判定する方法を述べたが、本発明はこの方法に限定されない。例えば、プレ計測で検体のスペクトル(分光特性)データを取得し、データベース1304に格納した染色方法毎のスペクトルデータと比較することで、染色方法を特定してもよい。スペクトルの比較により、色以上に正確に染色方法を区別することが出来る。
【0073】
[実施例2]
実施例2では、実施例1とは別の手段を用いてプレ計測による奥行き情報を推定することで実施例1と同様の効果を実現する。
実施例2のプレ計測推定制御処理のフローは実施例1と同じく図4(b)で表されるが、図4(b)の各ステップの内部処理が若干異なっている。
【0074】
(プレ計測推定制御処理:プレ計測データ取得処理S901)
まず、図14を用いて実施例2におけるプレ計測データ取得処理S901の処理を説明する。
ステージ設定処理S1801では、コントローラ108が搬送機構を制御して、プレ計測ユニット102のステージ303にプレパラート204をセットする。次に照明照射処理S1802で光源301を点灯させる。次に絞り撮像処理S1803ではある程度絞りを絞った状態で検体の撮像を行う。次に開放撮像処理S1804ではS1803よりも絞りを開けた状態で検体の撮像を行う。すなわち、異なる絞り(F値)で複数回の撮像を行うのである。その結果、プレ計測データ取得処理S901では、焦点位置と画素数は同じであるが、被写界深度が異なる複数(本実施例では2枚)のプレ計測画像が得られる。
【0075】
(プレ計測推定制御処理:奥行き情報推定処理S902)
続いて、奥行き情報推定処理S902の内部処理について説明する。実施例2の奥行き情報推定処理S902では、実施例1と異なり、画質評価指標を用いて、プレ計測データ取得処理S901で取得した2枚の画像の違いを評価する点に特徴がある。
【0076】
画質評価方法として、単純に2枚の画像の各画素の差の絶対値から画像全体の標準偏差を求める方法を用いることができる。また、画質評価の分野でよく知られているPSNR(Peak Signal−to−Noise Ratio)やSSIM(Structual Similarity)などの客観評価指標を用いることも可能である。センサノイズの影響を排除するため、撮像画像にメディアンフィルタなどのフィルタリング処理を行ってから画質評価しても良い。
また焦点が合った画像領域を比較対象とするため、中周波成分や高周波成分を抽出する
周波数フィルタリング(バンドパスフィルタやハイパスフィルタなど)を適用してから画質評価しても良い。
計算した画質評価指標値はRAM402などコンピュータ上の適切な場所に記憶しておく。
【0077】
図15と図16を用いて、絞り撮像処理S1803および開放撮像処理S1804で取得される画像の違いを説明する。
図15において、1902は検体であり、検体1902中の2つの円形部分は染色された観察対象を模式的に示している。焦点位置1901は検体1902よりも1μm上側に設定されている。撮像光学系305では開口絞り306を絞ると被写界深度が深くなり、開けると被写界深度が浅くなる傾向がある。絞り撮像の被写界深度Dcは5μm、開放撮像の被写界深度Doは2.0μmとする。また検体1902の厚みは4μmとする。検体1902の厚みは実施例1で述べたレーザ変位計103を用いて測定される。
【0078】
絞り撮像では被写界深度Dcが検体1902の厚さよりも深いため、検体1902の厚さ全体に焦点が合った画像が得られる。一方、開放撮像では被写界深度Doが検体1902の厚さよりも浅いため、検体内部の像がぼけた画像が得られる。(一般に絞りを開くと合焦位置で解像度が向上するが、被写界深度が浅くなることによるボケと比較して変化は僅かであり、画質評価指標値への影響は少ない。)
【0079】
図16(a)〜図16(c)は絞り撮像と開放撮像で得られる画像の違いを定性的に説明する模式図である。
図16(a)は絞り撮像処理S1803で取得した画像2001、図16(b)は開放撮像処理S1804で取得した画像2002、図16(c)は2つの画像2001と2002の差分画像2003を示している。
各画像に示された2つの円形の像が、染色された観察対象を表している。画像2001では検体全体に合焦しており鮮鋭な像が得られているのに対し、画像2002では光学的なボケにより像がぼやけている様子が示されている。差分画像2003は、画像2001と画像2002の各画素の差の絶対値をCPU401で計算することで得られる。
【0080】
上記から、絞りを変えて撮像した2枚の画像の違いは、検体1902に含まれる物体の3次元的な情報の分布を間接的に表現していると言える。すなわち、画像の違いが大きい場合には、染色された観察対象が開放撮像での被写界深度の外側の領域にも多く存在しており、奥行き方向の観察が必要であると推定できる。逆に画像の違いが小さい場合には、染色された観察対象の奥行き方向の分布は小さく、奥行き方向の観察の必要性も小さいと推定できる。このような推定結果に基づいて本計測での奥行き方向の撮像枚数を制御すれば、観察に必要な情報を欠落させることなく、撮像枚数(データ量)を削減することが可能となる。
【0081】
(プレ計測推定制御処理:撮像条件計算処理S903)
続いて、撮像条件計算処理S903の内部処理を図17を用いて説明する。
撮像条件計算処理S903では、ホストコンピュータ110が以下の手順でZステージ制御パラメータを計算する。
【0082】
S2101では、ホストコンピュータ110は、S902で計算された画質評価指標値に対応する制御情報をデータベース2100から取得する。このデータベース2100は、外部記憶装置411または他のコンピュータシステム405に格納されている。ここで得る制御情報は、画質評価指標値とそれに対応する撮像枚数である。
データベース2100に格納されている画質評価指標値毎の制御情報の一例を以下に示す。
【表1】
この例では、画質評価指標値としてPSNRを用いている。PSNRは2枚の画像の違いが小さいほど値が大きくなる性質がある。上記は画像の違いが小さい場合には撮像枚数を減らし、差が大きい場合には撮像枚数を増やすルールとなっている。
例えば、絞り撮像と開放撮像で得られた2枚の画像のPSNRが30未満であった場合は、撮像枚数は9枚となる。PSNRが45以上であった場合には撮像枚数は1枚となる。
【0083】
画質評価指標値毎の撮像枚数の最適値は、プレ計測ユニット102の絞り撮像と開放撮像の被写界深度の差、本計測ユニット101の絞り(被写界深度)などの撮像条件に依存する。そのため、プレ計測ユニット102と本計測ユニット101の撮像条件ごとに求めた制御情報(撮像枚数)をデータベース2100に格納しておくことが望ましい。ホストコンピュータ110は、コントローラ108を通じてプレ計測ユニット102および本計測ユニット101の撮像条件を取得し、適切な制御情報を読み出せばよい。
【0084】
続いてS2102では、ホストコンピュータ110は、制御情報に基づき撮像枚数が1より多いか否かを判定する。撮像枚数が1枚の場合には、シフト間隔を計算する必要はないため、そのまま終了する。撮像枚数が1枚より多い場合にはS2103に進み、シフト間隔を計算する。
【0085】
S2103では、ホストコンピュータ110は、検体厚さT[μm]と撮像枚数Nから、次式でシフト間隔S[μm]を計算する。なお、本実施例ではシフト開始位置は上端として考える。また検体厚さTはレーザ変位計103を用いて測定された値である。
S=T/(N−1)
例えば、検体厚さが4μmであり、PSNRが30未満で撮像枚数が9枚である場合、シフト間隔Sは、0.5μm(=4/(9−1))と求まる。
【0086】
最後に撮像制御処理S904において本計測ユニット101を用いて本計測の撮像を実行する。処理は実施例1と同じであるため、説明を省略する。
【0087】
(実施例2の変形例)
本実施例では検体の奥行きを一つの層として撮像枚数を求めたが、検体に厚みがある場合には奥行き方向に複数の層に分け、層ごとに必要な撮像枚数を求めることもできる。この方法によれば、検体の奥行き方向の特徴に応じて撮像枚数の最適化を行うことができ、更なるデータ量の削減が期待出来る。図18を用いてその例を示す。
【0088】
図18の斜線部2201はスライドグラス2203とカバーグラス2204の間に封入された病理切片の一領域を示す。斜線部2201とカバーグラス2204の間には、染色された物体(黒い円で示した部分)が存在しない領域2202が存在するとする。
プレ計測では、検体(カバーグラス2204の下端とスライドグラス2203の上端の間の距離)を所定の厚みG[μm]の層に分割し、層ごとに上述したS901〜S903の処理を行う。厚みGは、絞り撮像と開放撮像における被写界深度の差に基づいて決定す
るとよい。
【0089】
例えば図18に示すように、検体が3つの層に分割された場合には、奥行き方向に位置の異なる3つの焦点位置2200a、2200b、2200cで絞りを変えた撮像を行い、それぞれの画質評価指標値I1、I2、I3を求める。
焦点位置2200aでは被写界深度内に染色された物体が存在しないため、絞り撮像と開放撮像の画像の違いは小さい。一方、焦点位置2200b、2200cでは、焦点位置近傍に染色された物体が存在するため、絞り撮像と開放撮像の画像の違いは大きくなる。例えば画質評価指標値としてPSNRを用いた場合、I1に比べてI2、I3は小さい値となる。
【0090】
ホストコンピュータ110は、画質評価指標値I1、I2、I3を用いてデータベース2100から各層の制御情報を取得し、各層の撮像枚数N1、N2、N3を決定する。そして、各層のシフト間隔S1、S2、S3を次式で求める。
Si=G/(Ni−1) (i=1,2,・・・)
【0091】
以上述べた実施例2の方法によれば、プレ計測において開口絞りを変えたときのボケ量を評価することで検体内部の三次元的な物体の分布を推測し、撮像に必要な枚数を求めることができる。その結果、撮像枚数を適正化し、データ量を抑え、スループットを向上させることができる。また奥行き方向の観察が必要な場合には複数枚の撮像が行われるため、観察に必要な情報が欠落することを防ぐことができる。
【0092】
標本の色の濃さや染色による色の違いが画像の差に影響する場合も想定されるが、その場合には実施例1の染色方法推定と組み合わせ、染色方法をインデックスとして分類された画質評価指標値毎の制御情報を参照することで、精度を高めることが出来る。
【0093】
また本実施例では、絞り撮像処理では開口絞りを狭めることによりピントを合わせた画像を生成したが、例えば、焦点位置を変えながら連続的に撮影した動画像(焦点位置の異なる複数枚の画像)を取得し、その複数枚の画像を合成することにより全焦点画像を生成しても良い。この処理は焦点合成(フォーカス・スタッキング)と呼ばれる。この場合、全焦点画像と全焦点画像を作る元となった複数枚の画像のそれぞれの間で画像の違いを評価することで、本実施例と同様に奥行き方向の情報を推定し、必要な撮像枚数を決定できる。
【0094】
また本実施例ではモノクロ(グレースケール)画像を想定して説明を行ったが、カラー画像でも同様の画質評価は可能であり、カラー画像で撮像する場合も本発明の範疇とする。
また本実施例では、画質評価指標の例としてPSNR、SSIMを挙げたが、差分の標準偏差や正規化相互相関(Normalized Cross Correlation)など様々な画質評価指標が適用可能である。画像全体の値だけでなく差の最大値に注目して評価しても良い。これにより局所的に存在する大きな変化を見逃さず画像を取得することができる。
また本実施例では、プレパラート全体で検体内物体の3次元的な分布を推定したが、図5(b)の領域分割のようにプレパラートの撮像領域毎に、検体内物体の3次元的な分布を推定しても良い。この場合、領域分割のサイズは任意に設定できる。
【0095】
[実施例3]
図19に示すように、実施例3では、プレ計測推定制御処理の処理フローの奥行き情報推定処理S902(図4(b)参照)が関心領域推定処理S2302に置き換わる点に特徴がある。関心領域推定処理S2302では、プレ計測で撮像した画像データを分析し、
その特徴からユーザの関心領域を推定する処理を行う。そして撮像条件計算処理S2303では、関心領域の推定結果に基づいてZステージ制御パラメータが計算される。
以下、関心領域推定処理S2302から撮像制御処理S2304について詳しく説明する。なお、プレ計測データ取得処理S2301の内容は実施例1と同じであるため、説明を省略する。
【0096】
(プレ計測推定制御処理:関心領域推定処理S2302)
関心領域の推定は、図20(a)に示すように、個別評価値計算処理S2401、総合評価値計算処理S2402、撮像領域計算処理S2403の3ステップからなる。S2401では、複数の指標について評価を行い、指標別にプレ計測データ内の関心領域を推定する。評価指標としては、画像輝度・分散・彩度などが挙げられる。評価指標ごとにプレ計測データと同じサイズの評価マップを出力する。次に、S2402では、評価指標ごとの評価マップを重みを付けて統合することで総合評価マップを生成する。最後に、S2403で総合評価マップを用いて撮像する意味のある有効領域を決定する。
以下、各ステップの詳細について述べる。
【0097】
(1)個別評価値計算処理S2401
生物顕微鏡ではプレパラートの下側から照らした光、即ち、透過光を色の差で観察する。そのため、検体の厚みと観察画像の輝度低下には一定の相関がある。また彩度が高い(特定の色に偏っている)ことは元々透明に近い細胞が観察のために染色されていることと相関が高い。また分散が大きいことはその画素は周囲と比べて変化を有する、即ち観察対象である可能性が高いことを示す。従って、これらの評価値は、間接的ではあるが、詳細な観察が必要なことを示している。そして間接的な条件が重複することで観察対象である確率は高くなる。
【0098】
図20(b)は個別評価値計算処理S2401の内部処理フローを示している。
まず輝度評価処理S2501について説明する。ホストコンピュータ110は、プレ計測データの画素ごとの輝度値Yを求める。例えば、プレ計測データを色変換処理でsRGBに変換した後、
Y=0.299R+0.587G+0.114B
により輝度値Yを求める。
次にホストコンピュータ110は、輝度値Yから画素ごとの輝度評価値V1を求める。輝度評価値V1は輝度値Yが小さいほど(低輝度であるほど)大きくなるように設定される。例えば本実施例では、
V1=((Ymax−Y)/Ymax)×L1
によりV1を求める。ここでYmaxは輝度Yの最大値であり、L1は輝度評価値V1の値域を調整するためのパラメータである。本実施例では、L1は10に設定され、輝度評価値V1は0から10の間の値をとる。
輝度評価処理S2501ではプレ計測データの全画素について輝度評価値V1が計算され、輝度評価画像EV1が生成される。
【0099】
次に彩度評価処理S2502について説明する。
ホストコンピュータ110は、プレ計測データをCIE L*a*b*色空間に色空間変換する。この処理は、sRGB色空間をXYZ色空間に変換し、その後CIE L*a*b*色空間に変換することで実現できる。CIE L*a*b*色空間では、L*は輝度成分を、a*、b*は色成分を表す。色の鮮やかさ、即ち彩度Cは、色成分(a*,b*)の原点からの距離として求めることができる。
次にホストコンピュータ110は、彩度Cから画素ごとの彩度評価値V2を求める。彩度評価値V1は彩度Cが大きいほど(高彩度であるほど)大きくなるように設定される。例えば本実施例では、
V2=(C/Cmax)×L2
によりV2を求める。ここでCmaxは彩度の最大値(同じ色相の最も色純度が高い色点の彩度)であり、L2は彩度評価値V2の値域を調整するためのパラメータである。本実施例では、L2は10に設定され、彩度評価値V2は0から10の間の値をとる。
彩度評価値V2を求める際に、特定の色相に重みを付けることも可能である。染色により頻繁に見られる色、例えばヘマトキシリンで核を染色したときに現れる青が出現したときには評価値V2が大きくなるようにしてもよい。
彩度評価処理S2502ではプレ計測データの全画素について彩度評価値V2が計算され、彩度評価画像EV2が生成される。
【0100】
次に分散評価処理S2503について説明する。
ホストコンピュータ110は、RGBの各チャネルについて分散を計算し、それらを合計することで画素ごとの分散評価値V3を求める。本実施例では、他の評価値V1、V2と同様、0から10の値をとるように分散評価値V3が正規化される。
以下、各画素における分散の計算方法を述べる。まず処理対象画素を中心として一定サイズの矩形(例えば、9×9画素)内の平均を計算する。次にその平均値を用いてその矩形内の分散を求める。この処理をチャネルごとに行う。
分散評価処理S2503ではプレ計測データの全画素について分散評価値V3が計算され、分散評価画像EV3が生成される。
【0101】
(2)総合評価値計算処理S2402
次に、S2402の総合評価値計算処理の詳細を述べる。
前述したように、S2401の処理でプレ計測データと同じサイズを持つ輝度評価画像EV1、彩度評価画像EV2、分散評価画像EV3が生成される。S2402ではそれらを元に総合評価した総合評価画像を作成する。今、総合評価画像をTEVとすると、
TEV=f(EV1,EV2,EV3)
で表現できる。関数fには種々の変形例が考えられるが、本実施例では代表として、
TEV=EV1+EV2+EV3
の形を考える。
この総合評価画像TEVでは、各画素の値(総合評価値とよぶ)は0から30の値をとり、低輝度・高彩度・高分散の箇所が大きな値をとる。すなわち、総合評価値が大きい画素は近似的に関心領域を示していることが分かる。
【0102】
総合評価画像の求め方は上記の方法に限られない。例えば、α、β、γの重み付け係数を用いて、
TEV=αEV1+βEV2+γEV3
のように求めても良い。
また加算以外にも、関心領域である低輝度・高彩度・高分散の箇所が特定できるならば、様々な個別評価関数、総合評価関数を設定することが出来る。
例えば、以下のような乗算表現も可能である。
TEV=K(EV1)α×(EV2)β×(EV3)γ
(α、β、γ、Kは定数)
【0103】
(3)撮像領域計算処理S2403
最後に、撮像領域計算処理S2403では、ホストコンピュータ110は、前述の総合評価値を用いて撮像対象領域を決定する。ここでは、総合評価値が所定の閾値以上(例えば5以上)の画素を抽出して、その抽出された画素群の外接矩形を撮像対象領域とし、それ以外の領域は撮像対象外とする。
【0104】
(プレ計測推定制御処理:撮像条件計算処理S903)
次に撮像条件計算処理S2303の内部処理を、図21(a)と図21(b)を用いて説明する。
S2601では、ホストコンピュータ110は、S902で計算された総合評価値に対応する制御情報と領域分割サイズとをデータベース2600から取得する。このデータベース2600は、外部記憶装置411または他のコンピュータシステム405に格納されている。
この制御情報には総合評価値の範囲をインデックスとして、
(総合評価値範囲、シフト間隔)
が記載されている。
また、領域分割サイズは次のS2602で行う領域分割のサイズを示している。
【0105】
総合評価値が高ければ、関心領域である可能性が高いのでシフト間隔は小さく、逆に総合評価値が低ければ、関心領域である可能性が低いのでシフト間隔は大きくする。例えば、総合評価値とシフト間隔には以下のような関係がある。
【表2】
Dは、本計測ユニット101の被写界深度である。被写界深度Dは撮像光学系205や開口絞り206の状態などの撮像条件により変化する。そのため、焦点位置や開口絞りなどの撮像条件ごとに被写界深度Dを予め計算して、被写界深度のデータベースを用意しておき、ホストコンピュータ110が必要に応じてデータベースから被写界深度Dの値を読み出すようにするとよい。
【0106】
次にS2602では、ホストコンピュータ110が、S2601で取得した領域分割サイズを用いて、S2403で決定した撮像対象領域を複数のブロックに分割する。本実施例では、領域分割サイズは図5(b)で示す領域601に対応する大きさに設定されている。このとき、図5(b)で示す領域601より小さいサイズのブロックに分割しても良いが、ブロック毎に細かな制御ができる反面、全体の撮像回数は増えることになる。
【0107】
次にS2603では、ホストコンピュータ110が、ブロック毎に制御情報を用いてZステージ制御パラメータを計算する。図21(b)に、S2603の詳細を示す。
S2701では、ホストコンピュータ110は、ブロック毎の繰り返し処理を開始するため、最初の処理対象となるブロック(例えば、撮像対象領域内の左上のブロック)を初期ブロックに設定する。
S2702では、ホストコンピュータ110は、制御情報に基づき、シフト間隔を求める。具体的には、ホストコンピュータ110は、ブロック内の総合評価値の最大値を当該ブロックの総合評価値に選び、その総合評価値に対応するシフト間隔を制御情報から選び出す。
例えば、総合評価値が15のブロックに対しては、シフト間隔が被写界深度Dの2倍に設定される。本計測ユニット101の被写界深度Dが0.5μmの場合、シフト間隔は1.0μmとなる。
【0108】
次にS2703では、ホストコンピュータ110は、S2702で計算したシフト間隔と検体の厚さとから撮像枚数を決定する。なお、検体厚さは実施例1で述べたレーザ変位計103などを使って測定してあるものとする。また、本実施例ではシフト開始位置は常
に検体厚さの下端、即ちスライドグラスの表面位置として説明する。
今、測定した検体厚さをT[μm]、シフト間隔をSi[μm]とすると、ブロックiにおける撮像枚数Niは、
T<Siのときは Ni=1[枚]、
T≧Siのときは Ni=CEIL(T/Si)+1[枚]、
となる。(i=1,2,・・・)
【0109】
(プレ計測推定制御処理:撮像制御処理S904)
次に図22を用いて、撮像制御処理S2304の処理内容を説明する。
まず、コントローラ108が、本計測ユニット101に対し、撮像対象の初期ブロックを設定する。本実施例では、撮像対象領域内の左上のブロックを最初の撮像対象に選ぶ。次にS2802にて、コントローラ108が本計測ユニット101のフォーカス位置を設定する。今、シフト開始位置は下端であるため、スライドグラス表面に焦点位置を合わせる。
次にS2803で、コントローラ108は処理対象ブロックiにおける撮像枚数が1より多いか否かを判定する。1枚の場合はS2807に進み、撮像処理を行いS2808に進む。複数枚撮像の場合にはS2804に進み、ブロック毎のシフト間隔および枚数に従って撮像処理を行いS2805に進む。次にS2805ではブロック毎に設定された枚数の撮像が終了したかを判定し、終了した場合にはS2808に進み、未了の場合には、S2806で奥行き方向に焦点位置をシフトし、S2804で撮像処理を行う。
S2808では、コントローラ108は全ブロックの撮像が終了したかを判定し、未了の場合にはS2809に進み、次のブロックに移動する。全ブロックの撮像が終了した場合には処理を終了する。
【0110】
以上述べた実施例3によれば、プレ計測において画像特徴を分析し、関心領域を推定することにより、関心領域を撮像するために必要なシフト間隔を決定する。これにより、撮像に必要な枚数が適正化でき、撮像時に必要なファイル容量を削減し、データ送信/保存の両面でスループットを向上させる効果が実現できる。また奥行き方向の観察が必要な関心領域に対しては複数枚の撮像が行われるため、観察に必要な情報が欠落することを防ぐことができる。
【0111】
標本の色の濃さや染色による色の違いが画像の差に影響する場合も想定されるが、その場合には実施例1の染色方法推定と組み合わせ、染色方法をインデックスとして分類された総合評価値毎の制御情報を参照することで、精度を高めることが出来る。
また実施例3においても、実施例2と同様、図18に示すように奥行き方向に焦点位置を変えてプレ計測を行い、総合評価値に従って、焦点位置近傍の撮像枚数を定めることが出来る。総合評価値が低い場合、観察対象が少ないと推測できるため、その近傍における撮像枚数を減らすことができる。
また実施例3では、輝度、彩度、分散の3つの評価値を用いたが、それらのうちの1つ又は2つの評価値を用いて関心領域を推定してもよい。また他の評価値を組み合わせることもできる。
【0112】
(他の実施例)
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
例えば、上記実施例では、本計測ユニット101(第1の撮像ユニット)とそれより低倍率の撮像を行うプレ計測ユニット102(第2の撮像ユニット)の2つの撮像ユニットを用いている。別ユニット構成は、倍率ごとに撮像ユニットを分けることでレンズ駆動系が不要となり、撮像光学系のハードウエア構造を簡単化できるという利点と、プレ計測と本計測を並行処理できるためスループットが向上するという利点がある。しかし、プレ計
測と本計測とを同一の撮像ユニットを用いて行うこともできる。単一ユニット構成は、装置の小型化を図ることができるという利点がある。なお単一ユニット構成の場合は、撮像光学系で低倍率に設定しプレ計測を行っても良いし、固定倍率(つまりプレ計測と本計測とで同じ倍率)で撮像した画像データを間引き処理により低解像度化したものを撮像枚数の決定に用いても良い。
また、上記実施例では、カバーグラスが存在する領域を撮像対象として説明したが、検体が存在する領域のみを撮像対象とし、データ量を削減しても良い。その場合にはまず検体が存在する領域の外接矩形を求め、その領域内のみを撮像対象領域とする。撮像対象領域の決め方として、輝度が低い領域の外接矩形を求める手法は良く知られた公知の手法である。
【0113】
また、上記実施例では、染色方法毎の制御情報、画質評価指標値毎の制御情報、総合評価値に対する制御情報は予め準備された場合を想定し説明した。しかし、バーチャル・スライド・システムが持つマニュアル操作時のプレパラート毎のプレ計測で得た画像とその際にユーザが設定する撮像条件を利用することで新たな規則を作ることも可能である。例えば、多数のデータの分析に機械学習法を用いて有用な規則、判断基準を抽出し、新たな規則とすることも出来る。
【0114】
また上記実施例では、プレ計測ユニットでRGB3色のカラー画像あるいはモノクロ画像で撮像する場合について述べたが、分光画像データを用いても同様の処理が実行できる。分光画像データを用いるとスペクトル単位で検体の特徴を分析できる。
また、検体の分光データと人間の目の感度特性を表す2度視野等色関数の演算により、分光画像データからRGB3色のカラー画像データを容易に得ることが出来る。そのため、分光測定機能のあるプレ計測ユニットを用いることもできる。
【0115】
また上記実施例では、本計測装置およびプレ計測装置におけるカラーの撮像方法としてRGBの3つの光源による3回露光で取得する方法を説明したが、それ以外の方法でもカラー撮像は可能である。
例えば、RGB3色カラーフィルタがベイヤー配列された撮像素子を用いた場合、現像・合成処理S1004でデモザイク処理を行うことでRGBのカラー画像を取得できる。また撮像光学系305にダイクロイックプリズムなどの色分離素子を置き、RGBに色分離した像を3個の撮像素子を用いて撮像しても良い。その場合、現像処理においてRGBに色分離した画像を合成することでRGBのカラー画像を取得できる。
【0116】
また上記実施例では、図1に示すようなホストコンピュータ110とバーチャル・スライド・スキャナ120からなる構成のバーチャル・スライド・システムを説明したが、システム全体で本発明を実現できれば良く、装置構成は上記の限りではない。例えば、ホストコンピュータ110とバーチャル・スライド・スキャナ120を一体の装置としてもよい。
【符号の説明】
【0117】
101:本計測ユニット、102:プレ計測ユニット、108:コントローラ、110:ホストコンピュータ
【技術分野】
【0001】
本発明は、画像生成装置、及び、その方法に関し、特に、光学顕微鏡の観察対象であるプレパラート内の検体の特徴を分析し、その情報に基づき、光学顕微鏡の光軸方向に焦点位置を変化させた複数枚の2次元画像を取得する画像生成装置、及び、その方法に関する。
【背景技術】
【0002】
病理分野において、病理診断のツールである光学顕微鏡の代替として、プレパラートに載置された被検試料を撮像しデジタル化してディスプレイ上での病理診断を可能とするバーチャル・スライド・システムがある。バーチャル・スライド・システムによる病理診断画像のデジタル化により、従来の被検試料の光学顕微鏡像をデジタルデータとして取り扱える。それによって、遠隔診断の迅速化、デジタル画像を使った患者への説明、希少症例の共有化、教育・実習の効率化、などのメリットが得られる。
【0003】
バーチャル・スライド・システムで光学顕微鏡での操作を仮想化で実現するためには、プレパラート上の被検試料全体像をデジタル化する必要がある。被検試料全体像のデジタル化により、バーチャル・スライド・システムで作成したデジタルデータをPCやワークステーション上で動作するビューアソフトで観察することができる。被検試料全体像をデジタル化した場合の画素数は、通常、数億画素から数十億画素であり、非常に大きなデータ量となる。
【0004】
バーチャル・スライド・システムで作成したデータの量は膨大であるが、それゆえ、ビューアで拡縮を行うことでミクロ(細部拡大像)からマクロ(全体俯瞰像)まで観察することができ、種々の利便性を提供する。必要な情報を予め全て取得しておくことで、低倍画像から高倍画像までユーザが欲する解像度・倍率による即時の表示が可能となる。
【0005】
このように様々な利便性を提供するバーチャル・スライド・システムであるが、従来の光学顕微鏡観察に対して使い勝手で及んでいない部分も依然として残っている。
その1つが奥行き方向(光学顕微鏡の光軸に沿った方向或いはプレパラートの観察面に垂直な方向)の観察である。従来、医師は光学顕微鏡で観察する際には、ステージを光軸方向に微動させてプレパラート中の検体中のピント位置を変えて、組織や細胞の立体構造を把握していた。しかし、バーチャル・スライド・システムでは画像一枚のデータ量が非常に大きいため、通常、1枚の平面(または曲面)で画像を撮像し、奥行き方向の画像は取得しないのが一般的である。これは奥行き方向を変えた複数枚の2次元画像の取得がデータ容量の点でも撮像時間の点でも難があることを示している。
【0006】
仮に奥行き方向の情報が必要な場合には、事前に撮像する枚数または間隔を設定して撮像するが、検体によって厚さが異なるため、単一の設定ではデータ量の不要な増大やスループット(単位時間あたりの処理枚数)の低下が起こりうる。
また別の対策として標本ごとに人が介在し、個別に奥行き方向の撮像条件を設定する対応も考えうるが、大量枚数処理においては、人が介在する手間が掛かり、作業効率が落ちることになる。
【0007】
奥行き方向の情報取得方法に関しては、従来、以下の提案がされている。
特許文献1に開示された方法では、オートフォーカスを用いてプレパラートのカバーグラスの位置を計測し、ユーザの操作で中心位置を定める。そして、ユーザが指定する間隔と枚数(或いは範囲と枚数)の設定値を用いて、奥行き方向にステージをシフトさせて、
焦点位置を変えた複数枚の画像を取得する。
また特許文献2では拡大観察装置による三次元画像データの取得において、装置から被写界深度の情報を取得し、被写界深度分だけ奥行き方向にシフトして焦点位置を変えた複数枚の画像を取得する方法を開示している。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2005−128493号公報
【特許文献2】特開2007−316433号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら上述した従来の技術においては、以下のような問題があった。
一般に病理診断では医師は多数のスライドを観察する。そのため、診断数が多い病院では大量のプレパラートを短時間(例えば一晩)でデジタル化できる大量枚数のバッチ処理機能を備えたバーチャル・スライド・システムを必要としている。
【0010】
特許文献1の装置では、プレパラート一枚ごとに撮像間隔と枚数(或いは範囲と枚数)を定める必要があり、大量枚数の自動撮像に対応できないという問題があった。
特許文献2の装置においては、対象物の高さを被写界深度で割ることで撮像枚数を決定するフルオートモードを利用することで、大量枚数の自動撮像が可能である。しかしながら、この方法では、検体(観察対象)の種類や状態によらず、被写界深度に応じた一定の間隔で撮像が行われるため、過剰な枚数取得になるという問題があった。
撮像枚数の増加はデータ量の増大や処理効率(スループット)の低下を招くため好ましくない。特に画像の高解像度化、大サイズ化が進むにつれ、この問題は深刻となる。とはいえ、枚数を減らすために単純に撮像間隔を広げるなどしてしまうと、観察すべき情報が欠落してしまうおそれもある。このように、自動撮像の効率化と重要な情報の欠落防止とはトレードオフの関係にある。
【0011】
本発明は、このような問題点に鑑みてなされたものであり、人の介在を必要としない自動設定、およびデータ量の削減によるスループット向上の実現を目的とする。
【課題を解決するための手段】
【0012】
本発明の第1態様は、被写体が設置されるステージと、撮像手段、および、前記ステージ上の被写体の像を拡大して前記撮像手段に導く撮像光学系を有する撮像ユニットと、前記ステージおよび前記撮像ユニットを制御する制御手段と、前記撮像ユニットにより得られる画像データを処理する画像処理手段と、を備え、前記画像処理手段は、前記ステージ上の被写体を撮像することで得られた画像データを分析することにより、その被写体の撮像枚数を決定し、前記制御手段は、前記画像処理手段で決定された撮像枚数に従って、前記ステージ上の被写体を撮像して1枚の画像データを取得する第1の処理、又は、焦点位置を変更しながら前記ステージ上の被写体を複数回撮像することで焦点位置の異なる複数枚の画像データを取得する第2の処理を実行する画像生成装置を提供する。
【0013】
本発明の第2態様は、被写体が設置されるステージと、撮像手段、および、前記ステージ上の被写体の像を拡大して前記撮像手段に導く撮像光学系を有する撮像ユニットと、を備える画像生成装置における画像生成方法であって、前記撮像ユニットで前記ステージ上の被写体を撮像するプレ計測ステップと、前記プレ計測ステップで得られた画像データを分析することにより、その被写体の撮像枚数を決定する決定ステップと、前記決定ステップで決定された撮像枚数に従って、前記ステージ上の被写体を撮像して1枚の画像データを取得する第1の処理、又は、焦点位置を変更しながら前記ステージ上の被写体を複数回
撮像することで焦点位置の異なる複数枚の画像データを取得する第2の処理を実行する本計測ステップと、を含む画像生成方法を提供する。
【発明の効果】
【0014】
本発明によれば、人の介在を必要としない自動設定、およびデータ量の削減によるスループット向上が実現できる。
【図面の簡単な説明】
【0015】
【図1】バーチャル・スライド・システムの構成図。
【図2】本計測ユニットとプレ計測ユニットの構成図。
【図3】ホストコンピュータの内部構成図。
【図4】実施例1の本計測処理とプレ計測推定制御処理のフローチャート。
【図5】本計測とプレ計測の撮像領域を説明する図。
【図6】XYステージおよびZステージの移動方向を説明する図。
【図7】実施例1のプレ計測データ取得処理と奥行き情報推定処理のフローチャート。
【図8】実施例1の染色方法推定に用いる色ヒストグラムを説明する図。
【図9】実施例1の染色方法推定方法を説明する図。
【図10】実施例1の撮像条件計算処理のフローチャート。
【図11】レーザ変位計を用いた検体厚さの測定方法を説明する図。
【図12】実施例1のZステージ制御パラメータ計算処理のフローチャート。
【図13】実施例1の撮像条件計算処理のフローチャート。
【図14】実施例2のプレ計測データ取得処理のフローチャート。
【図15】実施例2の絞り撮像と開放撮像の被写界深度を説明する図。
【図16】実施例2の絞り撮像と開放撮像で得られる画像の違いを説明する図。
【図17】実施例2の撮像条件計算処理のフローチャート。
【図18】実施例2の変形例である奥行き方向の層分割を説明する図。
【図19】実施例3のプレ計測推定制御処理のフローチャート。
【図20】実施例3の関心領域推定処理と個別評価値計算処理のフローチャート。
【図21】実施例3の撮像条件計算処理とZステージ制御パラメータ計算処理のフローチャート。
【図22】実施例3の撮像制御処理のフローチャート。
【発明を実施するための形態】
【0016】
[実施例1]
(システムの全体構成)
図1は、本発明の画像生成装置の一実施例である、バーチャル・スライド・システムの構成を示している。
バーチャル・スライド・システムは、プレパラートの検体の撮像データを取得するバーチャル・スライド・スキャナ120とそのデータ処理・制御を行うホストコンピュータ110およびその周辺機器から構成されている。
【0017】
ホストコンピュータ110にはユーザからの入力をキーボードやマウスなどの操作デバイスを通じて受け付ける操作部111、処理画像を表示する表示部112が接続される。
またホストコンピュータ110には、記憶装置113、他のコンピュータシステム114が接続されている。バーチャル・スライド・スキャナ120から取得した大容量のデータの記憶装置113への保存や他のコンピュータシステム114への送信が可能となっている。
【0018】
バーチャル・スライド・スキャナ120の制御は、まずホストコンピュータ110がコ
ントローラ108に指示を送り、次にコントローラ108が接続している本計測ユニット101とプレ計測ユニット102を制御することで実現される。
本計測ユニット101はプレパラート内の検体診断のための高精細な画像を取得するユニットである。プレ計測ユニット102は本計測に先立って撮像を行うユニットで、本計測で精度の良い画像取得をするための制御情報取得を目的とした画像取得を行う。詳しくは後述するが、本発明において特徴的な処理はこのプレ計測ユニット102で撮像したデータを用いて本計測ユニット101を制御することで、奥行き方向に焦点位置を変えた複数枚の画像を取得する点にある。
【0019】
本計測ユニット101およびプレ計測ユニット102で撮像された画像データはホストコンピュータ110に送られる。ホストコンピュータ110は送られた画像データを内部で処理できる構成となっている。本実施例で後述する奥行き情報推定処理では、プレ計測ユニット102で撮像した画像を解析対象とし、ホストコンピュータ110で分析する。
【0020】
コントローラ108には変位計103が接続され、本計測ユニット101またはプレ計測ユニット102内のステージに設置されるプレパラートの位置や距離が測定できる構成となっている。変位計103は、本計測およびプレ計測を行うにあたり、プレパラート内の検体の厚みを計測するために用いられる。
またコントローラ108には本計測ユニット101およびプレ計測ユニット102の撮像条件を制御するための、開口絞り制御104、ステージ制御105、照明制御106、センサ制御107が接続されている。そして、それぞれはコントローラ108からの制御信号に従って、開口絞り、ステージ、照明、イメージセンサの動作を制御する構成となっている。
【0021】
ステージにはプレパラートを光軸に垂直な方向に移動するXYステージと光軸に沿った方向に移動するZステージがある。それぞれ、XYステージは光軸に垂直な方向に分布する検体画像を、Zステージは奥行き方向に焦点位置を変えた画像を撮像するために用いる。図示しないが、バーチャル・スライド・スキャナ120は、複数のプレパラートをセット可能なラックと、ラックからステージ上の撮像位置へとプレパラートを送り出す搬送機構とが設けられている。多数のプレパラートの撮像をバッチ処理で行う場合は、コントローラ108が搬送機構を制御することで、ラックからプレパラートを1枚ずつプレ計測ユニット102のステージ、本計測ユニット101のステージの順に送り出す。
【0022】
本計測ユニット101、プレ計測ユニット102には撮像した画像を用いてオートフォーカスを実現するAFユニット109が接続されており、コントローラ108を介して、本計測ユニット101、プレ計測ユニット102のステージの位置を制御することで合焦位置を探し出すことが出来る。オートフォーカスの方式は画像を用いるパッシブ型であり、公知の位相差検出方式やコントラスト検出方式が用いられる。
本実施例では、本計測ユニット101、プレ計測ユニット102がそれぞれ本発明の第1の撮像ユニット、第2の撮像ユニットに対応する。また、コントローラ108とホストコンピュータ110がそれぞれ本発明の制御手段と画像処理手段に対応する。
【0023】
(本計測ユニット)
図2(a)は実施例1における本計測ユニット101の内部構成を示す図である。
光源201の光は照明光学系202を通じ、光量ムラが無いように均一化され、ステージ203の上に設置されたプレパラート204を照射する。プレパラート204は観察対象となる組織の切片や塗抹した細胞をスライドグラス上に貼り付け、封入剤とともにカバーグラスの下に固定したものであり、観察対象(被写体)を観察可能な状態に準備したものである。
【0024】
撮像光学系205は観察対象の像を拡大して撮像手段である撮像部207に導くものである。プレパラート204を通った光は撮像光学系205を介して、撮像部207上の撮像面で結像する。撮像光学系205の中には開口絞り206が存在し、開口絞り206を調整することで被写界深度が制御できる。
【0025】
撮像面で結像したプレパラート内の像は、複数のイメージセンサから構成される撮像部207で光電変換が行われ、A/D変換を実行した後、像は電気信号としてホストコンピュータ110に送られる。本実施例ではA/D変換を実行した後のノイズ除去や色変換処理、鮮鋭化処理に代表される現像処理はホストコンピュータ110内部で行うとして説明する。しかし、現像処理は撮像部207に接続された専用の画像処理ユニット(不図示)で行い、その後ホストコンピュータ110にデータを送信することも可能であり、そのような形態での実施も本発明の範疇とする。
【0026】
(プレ計測ユニット)
図2(b)は実施例1におけるプレ計測ユニット102の内部構成を示す図である。
光源301の光は照明光学系302を通じ、光量ムラが無いように均一化され、ステージ303の上に設置されたプレパラート204を照射する。プレパラート204を通った光は撮像光学系305により、撮像部307上の撮像面で結像する。撮像光学系305の中には開口絞り306が存在し、開口絞り306を調整することで被写界深度が制御できる。
【0027】
撮像面で結像したプレパラート内の像は、イメージセンサを備えた撮像部307で光電変換が行われ、A/D変換を実行した後、像は電気信号としてホストコンピュータ110に送られる。本実施例ではA/D変換を実行した後のノイズ除去や色変換処理、鮮鋭化処理に代表される現像処理はホストコンピュータ110内部で行うとして説明する。しかし、現像処理は撮像部307に接続された専用の画像処理ユニット(不図示)で行い、その後ホストコンピュータ110にデータを送信することも可能であり、そのような形態での実施も本発明の範疇とする。
【0028】
(ホストコンピュータ)
図3は本発明におけるホストコンピュータ110の内部構成を示す図である。
CPU401はRAM402やROM403に格納されているプログラムやデータを用いてホストコンピュータ全体の制御を行う。またCPU401は、以降の実施例で説明する各種演算処理、データ処理、例えば、後述する奥行き情報推定処理や撮像条件計算処理を行う。
【0029】
RAM402は外部記憶装置411からロードされたプログラムやデータ、他のコンピュータシステム405からI/F(インターフェース)404を介してダウンロードしたプログラムやデータを一時的に記憶するエリアを備える。またRAM402は、CPU401が各種の処理を行うために必要とするワークエリアを備える。ROM403はコンピュータの機能プログラムや設定データなどを記憶する。ディスプレイ制御装置406は画像や文字等をディスプレイ407に表示させるための制御処理を行う。ディスプレイ407はユーザに入力を求めるための画面表示を行うとともに、バーチャル・スライド・スキャナ120から取得しCPU401で処理した画像データを画像表示する。
【0030】
操作入力デバイス409はキーボードやマウスなどCPU401に各種の指示を入力することのできるデバイスにより構成される。ユーザはバーチャル・スライド・スキャナ120の動作を制御する情報を操作入力デバイス409により入力する。408は操作入力デバイス409を介して入力された各種の指示等をCPU401に通知するためのI/Oである。
【0031】
外部記憶装置411はハードディスクなどの大容量情報記憶装置であり、OS(オペレーティングシステム)や以降の実施例で説明する処理をCPU401に実行させるためのプログラムやバッチ処理によりスキャンした画像データなどを記憶する。
外部記憶装置411への情報の書き込みや外部記憶装置411からの情報の読み出しはI/O410を介して行われる。コントローラ413はバーチャル・スライド・スキャナ120を制御するためのユニットであり、I/F(インターフェース)412を介してCPU401と制御信号および応答信号のやり取りをする。
【0032】
コントローラ413は本計測ユニット101およびプレ計測ユニット102を制御する機能を持つ。I/F(インターフェース)414には上述以外のインターフェース、例えば、CMOSイメージセンサやCCDイメージセンサの出力データを取り込むための外部インターフェースが接続されている。なおインターフェースとしてはUSB、IEEE1394などのシリアルインターフェースやカメラリンクなどのインターフェースを使うことが出来る。このI/F414を通じて様々な周辺機器が接続できる。
【0033】
(本計測処理)
本実施例のバーチャル・スライド・システムは、検体の撮像条件(撮像枚数など)を決定するための「プレ計測」と、検体を高解像で撮像する「本計測」とを実行する。本計測では、検体から1枚の画像データを取得する第1の処理と、焦点位置を変更しながら検体を複数回撮像することで焦点位置の異なる複数枚の画像データを取得する第2の処理(Zスタックとよばれる)とが可能である。プレ計測で得られた画像に基づき決定された撮像条件に従って、第1の処理と第2の処理のいずれを実行するかが制御される。ここでは、プレ計測で得られた画像データを分析して撮像条件を決定し、その撮像条件に従って本計測ユニット101を制御する処理を「プレ計測推定制御処理」とよぶ。
以下、実際の処理の順番とは逆になるが、最初に本計測処理について説明し、その後で本実施例の特徴であるプレ計測推定制御処理について詳しく説明する。
【0034】
図4(a)は本計測処理の処理フローを示す図である。
本計測データ取得処理S501では、コントローラ108の制御により、本計測ユニット101がプレパラートを撮像し、ホストコンピュータ110に画像データを送信する。
次に現像・補正処理S502において、ホストコンピュータ110が画像データに対し色変換処理、鮮鋭化処理、ノイズ低減処理などを実施する。これらの処理により、モニタ表示される画像の色を標本の実際の色に近づけることができるとともに、画像のノイズが抑えられる。
次に合成処理S503では、ホストコンピュータ110が、分割して撮像した物体面の画像をつなぎ合わせ、プレパラート上の対象領域(例えば20mm角の領域)を映した像を作る。
次に圧縮処理S504では、ホストコンピュータ110が、合成したデータを圧縮し、データ容量を削減する。圧縮方法としては静止画圧縮符号化方式のJPEGやJPEG2000などを用いることが可能である。続いて、伝送処理S505では、ホストコンピュータ110が記憶装置113に画像データを送り、保存する。或いはホストコンピュータ110は、ネットワークI/Fを介してネットワーク上のコンピュータシステム114や画像サーバに画像データを送信してもよい。
【0035】
(本計測処理:本計測データ取得処理S501)
図5、図6を用いて本計測データ取得処理S501について説明する。
【0036】
図5(a)はプレパラートの模式図である。スライドグラス610上にはカバーグラス611によって検体600を封入した領域とラベルエリア612がある。本実施例の本計
測データ取得処理S501では、カバーグラス611があると想定される領域を撮像対象とする。なお、プレ計測で検体600が存在する外接矩形領域を求め、本計測ではその領域のみを撮像することでデータ量を削減することも好ましい。
【0037】
図5(b)は本計測データ取得処理S501でカバーグラス611が存在する領域を複数領域に分割して撮像する様子を表している。図5(c)は撮像面を表しており、有効視野602は本計測ユニット101の撮像光学系205を通して像が映る範囲を、センサ有効領域603は撮像部207のイメージセンサで撮像可能な領域を示している。
物体面における撮像領域601(斜線領域)は本計測ユニット101の撮像光学系205を通じて結像し、撮像面における撮像領域604に対応する。
図5(c)に示すように、センサ有効領域603には、撮像領域604に対して若干広い領域が割り当てられている。これは、撮像光学系205が有する光学的な収差やイメージセンサの取付位置のズレを許容するためのマージンである。すなわち、光学的な収差やセンサの取付位置のズレがあったとしても、物体面の撮像領域601がセンサ有効領域603内に収まるようにしてある。合成処理S603では、センサ有効領域603の画像に対して収差補正や位置ズレ補正を行い、補正した画像から撮像領域604に対応する部分を切り出し、その画像を合成に用いる。
【0038】
図6(a)は図5(b)で示す分割領域をラスタースキャン順に撮像する場合のステージ203のXY方向の移動方向と順序を表している。プレパラートの左上から右下の領域を撮像するには、プレパラートを搭載するステージ203は逆方向の右下から左上に移動する。
このように撮像領域を複数領域に分割し、ステージ203を移動しながら繰り返し撮像することで比較的小さなイメージセンサでも広い領域を撮像することができる。
【0039】
図6(b)は本計測データ取得処理S501で、焦点位置(観察深さ、フォーカス位置、或いはピント位置ともいう)の異なる複数の画像を取得する場合のステージ203のZ方向(奥行き方向)の移動方向を示している。図に示すように、プレパラート204内の検体の上側(カバーグラス裏面側)に焦点位置を移動するには、撮像光学系205の光軸方向に沿って、ステージ203をZ方向下向きに移動させる。逆に、検体の下側(スライドグラス表面側)に焦点位置を移動するには、ステージ203をZ方向上向きに移動させる。焦点位置を変更しながら検体を複数回撮像することで、焦点位置の異なる複数枚の画像データを取得する処理は一般に「Zスタック」とよばれている。
【0040】
以降の説明では、説明の簡略化のため、ステージ203をZ方向に移動して焦点位置を変更する構成のみ説明する。しかし、撮像部207、或いは、撮像部207とステージ203の両方を撮像光学系205の光軸方向に沿って移動することでも焦点位置を変更することができる。また、撮像光学系205のレンズを制御することにより光学的に焦点距離を変更することでも、焦点位置を変更可能である。なお、プレ計測ユニット102のステージ機構は本計測ユニット101とほぼ同じため、説明は省略する。
【0041】
(プレ計測推定制御処理)
図4(b)はプレ計測推定制御処理の処理フローを示す図である。
プレ計測データ取得処理S901では、コントローラ108の制御により、プレ計測ユニット102がプレパラートを撮像し、ホストコンピュータ110に画像データを送信する。
次に、奥行き情報推定処理S902では、ホストコンピュータ110が、撮像部307で撮像した画像を解析し、被写体の3次元的な奥行きを推測する。この奥行き情報推定処理S902は本実施例の特徴である為、後ほど図を用いて詳しく説明する。
次に、撮像条件計算処理S903では、ホストコンピュータ110が、奥行き情報推定
処理S902で推定した情報を元にZステージ制御パラメータを決定し出力する。このパラメータは、本計測においてコントローラ108が奥行き方向のステージ制御を行う為に用いられるパラメータであり、撮像を行う際の始点位置を示すシフト開始位置、奥行き方向の移動間隔であるシフト間隔、および、撮像枚数からなる。
最後に撮像制御処理S904では、コントローラ108が、撮像条件計算処理S903で計算されたZステージ制御パラメータを用いて本計測ユニット101のステージ203の位置を制御する。そしてスライドグラスとカバーグラスで挟まれた検体内の所望の位置にフォーカスを合わせ、本計測ユニット101で画像取得を繰り返す。そして図4(a)で説明した本計測処理により、高解像度の合成画像を生成する。
【0042】
図5(d)はプレ計測におけるプレパラート204の撮像領域605を示している。プレ計測は本計測を精度よく撮像するための制御情報取得を目的としており、画像の特徴が大まかに把握できれば良く、本計測ほどの倍率は必要ない。また、プレ計測では被写界深度を深くするとよい。これにより、検体にピントを合わせやすくできる。
本実施例のプレ計測では低倍率でプレパラート204の全体を撮像する。また、本計測と異なり複数の領域に分割することなく1つのイメージセンサでプレパラート204の全体を一括撮像する。これによりプレ計測ユニット102の構成を簡易化することができるとともに、プレ計測に要する時間、ひいてはプレ計測と本計測を含む撮像処理全体の時間を短縮することができる。ただし、プレ計測でも本計測相当の解像度が必要な場合、本計測同様に倍率を上げて、物体面での撮像対象領域を複数に分割して撮像しても良い。
【0043】
(プレ計測推定制御処理:プレ計測データ取得処理S901)
図7(a)は、本実施例のプレ計測データ取得処理S901の詳細を示している。
ステージ設定処理S1001では、コントローラ108が搬送機構を制御して、プレ計測ユニット102のステージ303にプレパラート204をセットする。
【0044】
照明照射処理S1002では、光源301が点灯し、プレパラート204に光を照射する。撮像処理S1003では、照明光学系302、プレパラート204、撮像光学系305を通って撮像面に結像した像を撮像部307のイメージセンサで画像化する。なお、本実施例では、RGBの3つの光源301で順番に露光し、3回撮像を行うことで、カラー画像を取得する。すなわち、S1002とS1003が3回繰り返される。
【0045】
現像・合成処理S1004では、撮像処理S1003で取得した生データ(RAWデータ)に対し、ホストコンピュータ110が現像・合成処理を行う。現像・合成処理S1004では、色変換、ノイズ除去処理などを行う。sRGBやAdobeRGBなどの様々な色空間規格が存在し、そのいずれを用いても良いが、本実施例では代表的なsRGB色空間に色変換する。
【0046】
(プレ計測推定制御処理:奥行き情報推定処理S902)
図7(b)は、本実施例の特徴である奥行き情報推定処理S902の処理内容を示している。本実施例の奥行き情報推定処理は、プレ計測で得られた画像データの色に基づいて検体の染色方法を推定する処理である。
まず色空間変換処理S1101では、プレ計測で得られた画像データの色空間変換が行われる。色空間としては、xyY表色系(xy色度図)、輝度色差信号YUV、均等色空間CIE L*a*b*、HSV色空間、HLS色空間などがある。本実施例ではCIE
L*a*b*色空間に変換される。なお、sRGBのまま以降の処理を行う場合には、S1101の処理を省略することもできる。
【0047】
ヒストグラム生成処理S1102では、ホストコンピュータ110が、色空間変換した画像データから色ヒストグラム(色出現分布情報)を作成する。
図8(a)、図8(b)はヒストグラム生成処理S1102の一例を示す。図8(a)に示すように、例えば、L*a*b*色空間をL*軸を中心軸として30度ずつ12等分し、それぞれの領域A1〜A12に出現する画素の数を数える。そして図8(b)に示すように、プレ計測で得られた画像データに対する一次元ヒストグラムを描く。図8(b)の横軸は領域A1〜A12であり、縦軸は画素の出現頻度(画素の数)である。
図5(a)と図5(d)から分かるように、プレ計測撮像領域605の中には検体600が存在しない部分もある。検体600が存在しない部分は、照明の色、即ち、無彩色の色となる。検体以外の画素を取り除いた方が精度良く検体の染色方法を推定できるため、L*軸から所定の距離にある画素(ほぼ無彩色の画素)をヒストグラムから取り除くと良い。
【0048】
マッチング度算出処理S1103では、ホストコンピュータ110が、データベース1304から染色方法毎の色ヒストグラム(色出現分布情報)を取得する。なおデータベース1304には、各染色方法の検体サンプルを用いて作成された、各染色方法の典型的な色出現分布を示す色ヒストグラムがあらかじめ格納されている。図9の1302はA染色方法の色ヒストグラム、1303はB染色方法の色ヒストグラムを示している。そして、ホストコンピュータ110は、ヒストグラム生成処理S1102で計算したヒストグラム1301と、各染色方法の典型的なヒストグラム1302、1303とを比較し、染色方法毎のマッチング度を計算する。
【0049】
ヒストグラム同士のマッチング度(類似度)は、例えば、ヒストグラムの内積や、ヒストグラム・インターセクションなどで評価できる。正規化相互相関(内積を計算する前にそれぞれの1次元ヒストグラムの総和が0になるように正規化してから内積を計算)を用いれば、内積の最大値は1に抑えられるため、次のステップで判定する際の閾値が導入しやすく、確度の低い推定が排除できる。
【0050】
次に染色方法推定処理S1104では、マッチング度の最も大きい染色方法を、プレ計測した検体の染色方法として選定する。例えば、図9の例では、プレ計測した検体の色ヒストグラム1301は、A染色方法の色ヒストグラム1302との内積(相関)が最も大きくなる。
染色方法推定処理S1104において、最大のマッチング度が所定の閾値より小さい場合には、「染色方法不明」と判定すると良い。誤判定により検体の染色方法と異なる染色方法を選定してしまうと、適切な撮像条件が設定できない可能性があるため、閾値の導入により誤判定の確率を下げることが望ましい。
【0051】
染色方法推定処理S1104で決定された染色方法の情報は、RAM402や外部記憶装置411などホストコンピュータ110がアクセスできる適切な場所に記憶される。なお、染色方法毎の色ヒストグラムを格納するデータベース1304は、外部記憶装置411に存在しても良いし、他のコンピュータシステム405に存在しても良い。
【0052】
(プレ計測推定制御処理:撮像条件計算処理S903)
図10は、撮像条件計算処理S903の詳細を示している。
まずS1401で、ホストコンピュータ110は、有意な染色推定が出来たか否かを判定する。もし確度の高い推定ができていればS1402に進み、ホストコンピュータ110は、データベース1400にアクセスし、格納された染色方法毎の制御情報を取得する。そして、S1403にて、ホストコンピュータ110は、S1402で取得した制御情報に基づき、本計測における奥行き方向の移動量を制御するためのパラメータであるZステージ制御パラメータを計算する。一方、S1401で有意な染色推定が出来なかった(すなわち染色方法不明)と判定された場合、S1404において、ホストコンピュータ110は、予め決められているデフォルト条件を設定する事前条件設定を行う。
【0053】
S1402で取得する染色方法毎の制御情報について詳細に説明する。
染色方法毎の制御情報とは、
(染色方法、撮像枚数、検体厚さ、シフト開始位置、シフト間隔、計算モード)
の項目からなる情報である。本実施例のデータベース1400には、例えば、以下のように染色方法をインデックスとしたデータが格納されている。
(HE染色、1枚、3μm、中心、0μm、枚数指定)
(パパニコロウ染色、9枚、20μm、上端、2.5μm、深度指定)
(ギムザ染色、9枚、20μm、上端、2.5μm、深度指定)
【0054】
HE染色(ヘマトキシリン・エオシン染色)は、組織診において組織薄片の全体観察のために一般に利用される染色方法である。通常、検体は薄くスライスされ一定の厚さとなる傾向があるため、撮像枚数としては1枚で十分である。パパニコロウ染色とギムザ染色は、細胞診に利用される染色法であるため、検体厚さは厚くなる傾向にある。それゆえ数μm間隔で複数枚の撮像を行うことが望ましい。本実施例の方法は、このような染色方法と撮像条件(枚数やシフト間隔)の関連性に着目し、プレ計測画像の色分布から推定した染色方法に応じて適切な撮像条件を設定するものである。
【0055】
検体厚さに関しては、制御情報に記された検体厚さ以外にも、別の手段で測定した検体厚さの値を用いることも可能である。例えば、レーザ変位計などの変位計103を用いれば、スライドグラスやカバーグラスの表面・裏面反射の情報を用いて検体の厚みが計測できる。
シフト開始位置は「中心」、「上端」、「下端」がある。「中心」はスライドグラス表面位置に検体厚みの半分の長さを加えた位置、「上端」はカバーグラスの裏面位置、「下端」はスライドグラスの表面位置を表している。実際の位置は、変位計103の測定値から計算して求める。
計算モードは「枚数指定」、「間隔指定」、「深度指定」の3つがあり、それぞれ撮像制御パラメータの計算方法が異なる。
【0056】
上記の制御情報は個々の医師や診療拠点ごとに異ならせても良いし、一連のバッチ処理を開始する前にユーザがその都度設定しても良い。検体厚さは標本の作り方にも依存するが、一般に組織診では標本を薄くスライスして作成する為、一定の厚さとなる傾向があり、細胞診ではスライドグラス上に取得した細胞を塗抹し固定するため、厚くなる傾向がある。
【0057】
図11(a)はレーザ変位計103を使って検体厚さを測るための構成を示した図である。レーザ変位計103では投光素子1510から出た光は投光レンズ1511を通り、測定対象物によって反射(または拡散)された光が受光レンズ1512を介して位置検出素子1513で受光される。このとき、測定対象物の位置に応じて受光位置が異なる。位置検出素子1513での位置の違いは対象物の奥行き方向の違いに比例することから、三角測距の原理を用いて物体の位置が求められる。
【0058】
次に図11(b)を参照し、レーザ変位計103を用いて検体厚さを求める方法を説明する。プレパラート204の端に近い位置1500aにおいて、プレパラート204のスライドグラス1501の表面反射光を検出する。次にステージを移動し、プレパラート204のほぼ中心の位置1500bにおいて、カバーグラス1503の表面反射光を検出する。そして、スライドグラス1501の表面反射光とカバーグラス1503の表面反射光の位置検出素子1513での受光位置の差から、三角測距の原理を用いて、カバーグラス1503と検体1502の厚さの和が求められる。カバーグラス1503の厚さが既知であるとすると、検体1502の厚さを求めることができる。なお、カバーグラス1503
の厚さは、カバーグラス1503の表面の反射光と裏面の反射光から求めた変位をグラスの屈折率で補正することでも求められる。
【0059】
レーザ変位計103で求めた検体厚さを、制御情報に記された検体厚さと比較することで、万一誤判定した場合にも検体の存在範囲を外れた撮像を防ぐことができる。
【0060】
次に、図12を用いて計算モードによる計算方法の違いを説明する。
S1601において、ホストコンピュータ110は、計算モードが枚数指定か否かを判定する。枚数指定の場合には、S1602において、ホストコンピュータ110が検体厚さを制御情報に記載の枚数で割ることで、シフト間隔を計算する。
検体厚さをT[μm],撮像枚数をN[枚]、シフト間隔をS[μm]とすると、シフト間隔Sの計算式は、
N=1のときは S=0[μm]、
N>1のときは S=T/(N−1)[μm]、
となる。
【0061】
枚数指定でない場合にはS1603に進み、ホストコンピュータ110は、計算モードが間隔指定か否かを判定する。間隔指定の場合には、S1605に進み、そうでない場合(即ち、深度指定に相当)はS1604に進む。S1604ではホストコンピュータ110は、本計測ユニット101の被写界深度の値をシフト間隔に設定する。S1605ではこの時点で設定された値を元に撮像枚数を計算する。
撮像枚数Nの計算式は、
T<Sのときは N=1[枚]、
T≧Sであり、シフト開始位置が上端または下端のときは、
N=CEIL(T/S)+1[枚] (1)
T≧Sであり、シフト開始位置が中心のときは、
N=2×CEIL(T/2/S)+1[枚] (2)
となる。
ここで、CEIL(X)は、X以上の最小の整数を求める関数である。
【0062】
なお、式(1)において「+1」をしているのは、検体の上端と下端の両方の位置が必ず撮像する範囲の内部に含まれるようにするためである。例えば、シフト開始位置が下端でT=3μm、S=2μmのとき、撮像枚数は3枚となり、3枚目の撮像位置は検体の上端を超えるが、検体が存在する範囲をカバーしている。式(2)においても同様の考え方を用い、中心から一方の端に対する厚みT/2をカバーするのに必要な枚数(CEIL(T/2/S)+1)を求め、それを2倍し、重複する中心の1枚を引いた式となっている。前記の計算式はあくまで一例で、式(1)でT/Sが整数とならない場合には、検体の上端と下端の両方の位置で撮像を行うため、N−1枚目とN枚目の間のシフト間隔Sではなく、T−S×(N−2)に設定する等の変形も可能である。
【0063】
被写界深度は、像面位置を固定したときに像面に鮮明な像を結び得る物体の位置に対する許容範囲である。被写界深度は物体側の光軸上のピントが合う範囲を表し、像面の光軸方向のピントが合う範囲である焦点深度と対応関係にある。
被写界深度はプレ計測ユニット102の撮像光学系305および開口絞り306の状態から計算できる。しかし、逐次計算で求めるのは煩雑なため、焦点位置や開口絞りなどの撮像条件ごとに被写界深度を予め計算して、被写界深度のデータベースを用意しておき、ホストコンピュータ110が必要に応じてデータベースから被写界深度の値を読み出すようにするとよい。
【0064】
理解を助けるため、Zステージ制御パラメータの計算の具体例を示す。
例えば、撮像光学系305の被写界深度が0.5μmであり、プレ計測により推定された染色方法がパパニコロウ染色であり、制御情報として、
(パパニコロウ染色、9枚、20μm、上端、2.5μm、深度指定)
が得られたとする。
「深度指定」のため、図14のS1604において被写界深度0.5μmがシフト間隔に設定され、撮像枚数Nは、式(1)により、
N=CEIL(20[μm]/0.5[μm])+1=41[枚]
となる。
従って、計算されるZステージ制御パラメータは、
(シフト開始位置、シフト間隔、枚数)=(上端、0.5μm、41枚)
となる。
【0065】
次に、プレ計測により推定された染色方法がHE染色であり、制御情報として、
(HE染色、1枚、3μm、中心、0μm、枚数指定)
が得られたとする。
「枚数指定」のため、S1602にてシフト間隔を計算するが、N=1ゆえ、シフト間隔は0μmとなる。
従って、計算されるZステージ制御パラメータは、
(シフト開始位置、シフト間隔、枚数)=(中心、0μm、1枚)
となる。
【0066】
以上述べた方法により、検体の染色方法に応じて適切な撮像枚数や撮像間隔が設定される。すなわち、奥行き方向の観察が必要なパパニコロウ染色では、細かいシフト間隔で複数枚の撮像が行われ、逆に奥行き方向の観察が必要ないHE染色では撮像枚数を1とすることでデータ量を抑制できる。
【0067】
(プレ計測推定制御処理:撮像制御処理S904)
図13は撮像制御処理S904の内部処理を示している。
S1701では、まずコントローラ108が搬送機構を制御して、プレパラート204をプレ計測ユニット102から本計測ユニット101のステージ203へと移動させる。そしてコントローラ108は、S903で計算したZステージ制御パラメータを参照し、本計測ユニット101のフォーカス位置制御を行う。例えば、シフト開始位置が「下端」であれば、スライドグラス上端に、「中心」ならスライドグラス上端から検体厚さの半分だけ検体内部に進んだ位置に、「上端」ならスライドグラス上端から検体厚さだけ検体内部に進んだ位置にフォーカスを合わせる。
【0068】
次にS1702では、コントローラ108が、撮像枚数が1より多いか否かを判定する。撮像枚数が1の場合には、S1706に進み、本計測ユニット101にて現在のフォーカス位置の画像を撮像し、終了する。
撮像枚数が1より多い場合にはS1703に進み、本計測ユニット101にて撮像を行う。S1704では、コントローラ108が、全ての画像を取得したかを判定し、未取得の場合にはS1705に進む。S1705では、コントローラ108が、Zステージ制御パラメータに基づいて、ステージ203を奥行き方向にシフト間隔だけ移動させる。これにより、フォーカス位置が検体の厚さ方向にシフト間隔分ずれることになる。そして、再びS1703により撮像が行われる。Zステージ制御パラメータで指定された撮像枚数の画像が取得されるまで、S1703〜S1705の処理が繰り返される。
【0069】
本計測ユニット101で取得した画像データはホストコンピュータ110に送られる。奥行き方向を変えて撮像した画像データは奥行き位置毎に別のファイルとして保存・管理しても良いし、1つのファイルにまとめて保存・管理しても良い。
【0070】
以上述べた実施例1の方法によれば、プレ計測により検体の染色方法を推定し、それに基づいて適切な撮像枚数、シフト間隔、撮像方法を自動で設定することができる。その結果、データ量(撮像枚数)を削減し、データ送信/保存の両面でスループットを向上させる効果が実現できる。また奥行き方向の観察が必要な場合には複数枚の撮像が行われるため、観察に必要な情報が欠落することを防ぐことができる。
これにより、バーチャル・スライド・システムで様々な部位に様々な染色を施したスライドを混在させた大量のスライドをバッチ処理で撮像する場合でも、スライド毎に人の判断が介在する必要がないため、撮像に必要な作業量を低減する効果が実現できる。
【0071】
本実施例の方法は、既にある染色方法に留まらず、新しい染色方法にも簡単に対応できるという利点も有する。すなわち、新しい染色方法が現れた場合には、図9に示すように、新しい染色方法の色ヒストグラムを作成し、データベース1304に追加するだけで良い。
【0072】
本実施例では、RGBの3色で撮像した情報を色変換して染色方法を判定する方法を述べたが、本発明はこの方法に限定されない。例えば、プレ計測で検体のスペクトル(分光特性)データを取得し、データベース1304に格納した染色方法毎のスペクトルデータと比較することで、染色方法を特定してもよい。スペクトルの比較により、色以上に正確に染色方法を区別することが出来る。
【0073】
[実施例2]
実施例2では、実施例1とは別の手段を用いてプレ計測による奥行き情報を推定することで実施例1と同様の効果を実現する。
実施例2のプレ計測推定制御処理のフローは実施例1と同じく図4(b)で表されるが、図4(b)の各ステップの内部処理が若干異なっている。
【0074】
(プレ計測推定制御処理:プレ計測データ取得処理S901)
まず、図14を用いて実施例2におけるプレ計測データ取得処理S901の処理を説明する。
ステージ設定処理S1801では、コントローラ108が搬送機構を制御して、プレ計測ユニット102のステージ303にプレパラート204をセットする。次に照明照射処理S1802で光源301を点灯させる。次に絞り撮像処理S1803ではある程度絞りを絞った状態で検体の撮像を行う。次に開放撮像処理S1804ではS1803よりも絞りを開けた状態で検体の撮像を行う。すなわち、異なる絞り(F値)で複数回の撮像を行うのである。その結果、プレ計測データ取得処理S901では、焦点位置と画素数は同じであるが、被写界深度が異なる複数(本実施例では2枚)のプレ計測画像が得られる。
【0075】
(プレ計測推定制御処理:奥行き情報推定処理S902)
続いて、奥行き情報推定処理S902の内部処理について説明する。実施例2の奥行き情報推定処理S902では、実施例1と異なり、画質評価指標を用いて、プレ計測データ取得処理S901で取得した2枚の画像の違いを評価する点に特徴がある。
【0076】
画質評価方法として、単純に2枚の画像の各画素の差の絶対値から画像全体の標準偏差を求める方法を用いることができる。また、画質評価の分野でよく知られているPSNR(Peak Signal−to−Noise Ratio)やSSIM(Structual Similarity)などの客観評価指標を用いることも可能である。センサノイズの影響を排除するため、撮像画像にメディアンフィルタなどのフィルタリング処理を行ってから画質評価しても良い。
また焦点が合った画像領域を比較対象とするため、中周波成分や高周波成分を抽出する
周波数フィルタリング(バンドパスフィルタやハイパスフィルタなど)を適用してから画質評価しても良い。
計算した画質評価指標値はRAM402などコンピュータ上の適切な場所に記憶しておく。
【0077】
図15と図16を用いて、絞り撮像処理S1803および開放撮像処理S1804で取得される画像の違いを説明する。
図15において、1902は検体であり、検体1902中の2つの円形部分は染色された観察対象を模式的に示している。焦点位置1901は検体1902よりも1μm上側に設定されている。撮像光学系305では開口絞り306を絞ると被写界深度が深くなり、開けると被写界深度が浅くなる傾向がある。絞り撮像の被写界深度Dcは5μm、開放撮像の被写界深度Doは2.0μmとする。また検体1902の厚みは4μmとする。検体1902の厚みは実施例1で述べたレーザ変位計103を用いて測定される。
【0078】
絞り撮像では被写界深度Dcが検体1902の厚さよりも深いため、検体1902の厚さ全体に焦点が合った画像が得られる。一方、開放撮像では被写界深度Doが検体1902の厚さよりも浅いため、検体内部の像がぼけた画像が得られる。(一般に絞りを開くと合焦位置で解像度が向上するが、被写界深度が浅くなることによるボケと比較して変化は僅かであり、画質評価指標値への影響は少ない。)
【0079】
図16(a)〜図16(c)は絞り撮像と開放撮像で得られる画像の違いを定性的に説明する模式図である。
図16(a)は絞り撮像処理S1803で取得した画像2001、図16(b)は開放撮像処理S1804で取得した画像2002、図16(c)は2つの画像2001と2002の差分画像2003を示している。
各画像に示された2つの円形の像が、染色された観察対象を表している。画像2001では検体全体に合焦しており鮮鋭な像が得られているのに対し、画像2002では光学的なボケにより像がぼやけている様子が示されている。差分画像2003は、画像2001と画像2002の各画素の差の絶対値をCPU401で計算することで得られる。
【0080】
上記から、絞りを変えて撮像した2枚の画像の違いは、検体1902に含まれる物体の3次元的な情報の分布を間接的に表現していると言える。すなわち、画像の違いが大きい場合には、染色された観察対象が開放撮像での被写界深度の外側の領域にも多く存在しており、奥行き方向の観察が必要であると推定できる。逆に画像の違いが小さい場合には、染色された観察対象の奥行き方向の分布は小さく、奥行き方向の観察の必要性も小さいと推定できる。このような推定結果に基づいて本計測での奥行き方向の撮像枚数を制御すれば、観察に必要な情報を欠落させることなく、撮像枚数(データ量)を削減することが可能となる。
【0081】
(プレ計測推定制御処理:撮像条件計算処理S903)
続いて、撮像条件計算処理S903の内部処理を図17を用いて説明する。
撮像条件計算処理S903では、ホストコンピュータ110が以下の手順でZステージ制御パラメータを計算する。
【0082】
S2101では、ホストコンピュータ110は、S902で計算された画質評価指標値に対応する制御情報をデータベース2100から取得する。このデータベース2100は、外部記憶装置411または他のコンピュータシステム405に格納されている。ここで得る制御情報は、画質評価指標値とそれに対応する撮像枚数である。
データベース2100に格納されている画質評価指標値毎の制御情報の一例を以下に示す。
【表1】
この例では、画質評価指標値としてPSNRを用いている。PSNRは2枚の画像の違いが小さいほど値が大きくなる性質がある。上記は画像の違いが小さい場合には撮像枚数を減らし、差が大きい場合には撮像枚数を増やすルールとなっている。
例えば、絞り撮像と開放撮像で得られた2枚の画像のPSNRが30未満であった場合は、撮像枚数は9枚となる。PSNRが45以上であった場合には撮像枚数は1枚となる。
【0083】
画質評価指標値毎の撮像枚数の最適値は、プレ計測ユニット102の絞り撮像と開放撮像の被写界深度の差、本計測ユニット101の絞り(被写界深度)などの撮像条件に依存する。そのため、プレ計測ユニット102と本計測ユニット101の撮像条件ごとに求めた制御情報(撮像枚数)をデータベース2100に格納しておくことが望ましい。ホストコンピュータ110は、コントローラ108を通じてプレ計測ユニット102および本計測ユニット101の撮像条件を取得し、適切な制御情報を読み出せばよい。
【0084】
続いてS2102では、ホストコンピュータ110は、制御情報に基づき撮像枚数が1より多いか否かを判定する。撮像枚数が1枚の場合には、シフト間隔を計算する必要はないため、そのまま終了する。撮像枚数が1枚より多い場合にはS2103に進み、シフト間隔を計算する。
【0085】
S2103では、ホストコンピュータ110は、検体厚さT[μm]と撮像枚数Nから、次式でシフト間隔S[μm]を計算する。なお、本実施例ではシフト開始位置は上端として考える。また検体厚さTはレーザ変位計103を用いて測定された値である。
S=T/(N−1)
例えば、検体厚さが4μmであり、PSNRが30未満で撮像枚数が9枚である場合、シフト間隔Sは、0.5μm(=4/(9−1))と求まる。
【0086】
最後に撮像制御処理S904において本計測ユニット101を用いて本計測の撮像を実行する。処理は実施例1と同じであるため、説明を省略する。
【0087】
(実施例2の変形例)
本実施例では検体の奥行きを一つの層として撮像枚数を求めたが、検体に厚みがある場合には奥行き方向に複数の層に分け、層ごとに必要な撮像枚数を求めることもできる。この方法によれば、検体の奥行き方向の特徴に応じて撮像枚数の最適化を行うことができ、更なるデータ量の削減が期待出来る。図18を用いてその例を示す。
【0088】
図18の斜線部2201はスライドグラス2203とカバーグラス2204の間に封入された病理切片の一領域を示す。斜線部2201とカバーグラス2204の間には、染色された物体(黒い円で示した部分)が存在しない領域2202が存在するとする。
プレ計測では、検体(カバーグラス2204の下端とスライドグラス2203の上端の間の距離)を所定の厚みG[μm]の層に分割し、層ごとに上述したS901〜S903の処理を行う。厚みGは、絞り撮像と開放撮像における被写界深度の差に基づいて決定す
るとよい。
【0089】
例えば図18に示すように、検体が3つの層に分割された場合には、奥行き方向に位置の異なる3つの焦点位置2200a、2200b、2200cで絞りを変えた撮像を行い、それぞれの画質評価指標値I1、I2、I3を求める。
焦点位置2200aでは被写界深度内に染色された物体が存在しないため、絞り撮像と開放撮像の画像の違いは小さい。一方、焦点位置2200b、2200cでは、焦点位置近傍に染色された物体が存在するため、絞り撮像と開放撮像の画像の違いは大きくなる。例えば画質評価指標値としてPSNRを用いた場合、I1に比べてI2、I3は小さい値となる。
【0090】
ホストコンピュータ110は、画質評価指標値I1、I2、I3を用いてデータベース2100から各層の制御情報を取得し、各層の撮像枚数N1、N2、N3を決定する。そして、各層のシフト間隔S1、S2、S3を次式で求める。
Si=G/(Ni−1) (i=1,2,・・・)
【0091】
以上述べた実施例2の方法によれば、プレ計測において開口絞りを変えたときのボケ量を評価することで検体内部の三次元的な物体の分布を推測し、撮像に必要な枚数を求めることができる。その結果、撮像枚数を適正化し、データ量を抑え、スループットを向上させることができる。また奥行き方向の観察が必要な場合には複数枚の撮像が行われるため、観察に必要な情報が欠落することを防ぐことができる。
【0092】
標本の色の濃さや染色による色の違いが画像の差に影響する場合も想定されるが、その場合には実施例1の染色方法推定と組み合わせ、染色方法をインデックスとして分類された画質評価指標値毎の制御情報を参照することで、精度を高めることが出来る。
【0093】
また本実施例では、絞り撮像処理では開口絞りを狭めることによりピントを合わせた画像を生成したが、例えば、焦点位置を変えながら連続的に撮影した動画像(焦点位置の異なる複数枚の画像)を取得し、その複数枚の画像を合成することにより全焦点画像を生成しても良い。この処理は焦点合成(フォーカス・スタッキング)と呼ばれる。この場合、全焦点画像と全焦点画像を作る元となった複数枚の画像のそれぞれの間で画像の違いを評価することで、本実施例と同様に奥行き方向の情報を推定し、必要な撮像枚数を決定できる。
【0094】
また本実施例ではモノクロ(グレースケール)画像を想定して説明を行ったが、カラー画像でも同様の画質評価は可能であり、カラー画像で撮像する場合も本発明の範疇とする。
また本実施例では、画質評価指標の例としてPSNR、SSIMを挙げたが、差分の標準偏差や正規化相互相関(Normalized Cross Correlation)など様々な画質評価指標が適用可能である。画像全体の値だけでなく差の最大値に注目して評価しても良い。これにより局所的に存在する大きな変化を見逃さず画像を取得することができる。
また本実施例では、プレパラート全体で検体内物体の3次元的な分布を推定したが、図5(b)の領域分割のようにプレパラートの撮像領域毎に、検体内物体の3次元的な分布を推定しても良い。この場合、領域分割のサイズは任意に設定できる。
【0095】
[実施例3]
図19に示すように、実施例3では、プレ計測推定制御処理の処理フローの奥行き情報推定処理S902(図4(b)参照)が関心領域推定処理S2302に置き換わる点に特徴がある。関心領域推定処理S2302では、プレ計測で撮像した画像データを分析し、
その特徴からユーザの関心領域を推定する処理を行う。そして撮像条件計算処理S2303では、関心領域の推定結果に基づいてZステージ制御パラメータが計算される。
以下、関心領域推定処理S2302から撮像制御処理S2304について詳しく説明する。なお、プレ計測データ取得処理S2301の内容は実施例1と同じであるため、説明を省略する。
【0096】
(プレ計測推定制御処理:関心領域推定処理S2302)
関心領域の推定は、図20(a)に示すように、個別評価値計算処理S2401、総合評価値計算処理S2402、撮像領域計算処理S2403の3ステップからなる。S2401では、複数の指標について評価を行い、指標別にプレ計測データ内の関心領域を推定する。評価指標としては、画像輝度・分散・彩度などが挙げられる。評価指標ごとにプレ計測データと同じサイズの評価マップを出力する。次に、S2402では、評価指標ごとの評価マップを重みを付けて統合することで総合評価マップを生成する。最後に、S2403で総合評価マップを用いて撮像する意味のある有効領域を決定する。
以下、各ステップの詳細について述べる。
【0097】
(1)個別評価値計算処理S2401
生物顕微鏡ではプレパラートの下側から照らした光、即ち、透過光を色の差で観察する。そのため、検体の厚みと観察画像の輝度低下には一定の相関がある。また彩度が高い(特定の色に偏っている)ことは元々透明に近い細胞が観察のために染色されていることと相関が高い。また分散が大きいことはその画素は周囲と比べて変化を有する、即ち観察対象である可能性が高いことを示す。従って、これらの評価値は、間接的ではあるが、詳細な観察が必要なことを示している。そして間接的な条件が重複することで観察対象である確率は高くなる。
【0098】
図20(b)は個別評価値計算処理S2401の内部処理フローを示している。
まず輝度評価処理S2501について説明する。ホストコンピュータ110は、プレ計測データの画素ごとの輝度値Yを求める。例えば、プレ計測データを色変換処理でsRGBに変換した後、
Y=0.299R+0.587G+0.114B
により輝度値Yを求める。
次にホストコンピュータ110は、輝度値Yから画素ごとの輝度評価値V1を求める。輝度評価値V1は輝度値Yが小さいほど(低輝度であるほど)大きくなるように設定される。例えば本実施例では、
V1=((Ymax−Y)/Ymax)×L1
によりV1を求める。ここでYmaxは輝度Yの最大値であり、L1は輝度評価値V1の値域を調整するためのパラメータである。本実施例では、L1は10に設定され、輝度評価値V1は0から10の間の値をとる。
輝度評価処理S2501ではプレ計測データの全画素について輝度評価値V1が計算され、輝度評価画像EV1が生成される。
【0099】
次に彩度評価処理S2502について説明する。
ホストコンピュータ110は、プレ計測データをCIE L*a*b*色空間に色空間変換する。この処理は、sRGB色空間をXYZ色空間に変換し、その後CIE L*a*b*色空間に変換することで実現できる。CIE L*a*b*色空間では、L*は輝度成分を、a*、b*は色成分を表す。色の鮮やかさ、即ち彩度Cは、色成分(a*,b*)の原点からの距離として求めることができる。
次にホストコンピュータ110は、彩度Cから画素ごとの彩度評価値V2を求める。彩度評価値V1は彩度Cが大きいほど(高彩度であるほど)大きくなるように設定される。例えば本実施例では、
V2=(C/Cmax)×L2
によりV2を求める。ここでCmaxは彩度の最大値(同じ色相の最も色純度が高い色点の彩度)であり、L2は彩度評価値V2の値域を調整するためのパラメータである。本実施例では、L2は10に設定され、彩度評価値V2は0から10の間の値をとる。
彩度評価値V2を求める際に、特定の色相に重みを付けることも可能である。染色により頻繁に見られる色、例えばヘマトキシリンで核を染色したときに現れる青が出現したときには評価値V2が大きくなるようにしてもよい。
彩度評価処理S2502ではプレ計測データの全画素について彩度評価値V2が計算され、彩度評価画像EV2が生成される。
【0100】
次に分散評価処理S2503について説明する。
ホストコンピュータ110は、RGBの各チャネルについて分散を計算し、それらを合計することで画素ごとの分散評価値V3を求める。本実施例では、他の評価値V1、V2と同様、0から10の値をとるように分散評価値V3が正規化される。
以下、各画素における分散の計算方法を述べる。まず処理対象画素を中心として一定サイズの矩形(例えば、9×9画素)内の平均を計算する。次にその平均値を用いてその矩形内の分散を求める。この処理をチャネルごとに行う。
分散評価処理S2503ではプレ計測データの全画素について分散評価値V3が計算され、分散評価画像EV3が生成される。
【0101】
(2)総合評価値計算処理S2402
次に、S2402の総合評価値計算処理の詳細を述べる。
前述したように、S2401の処理でプレ計測データと同じサイズを持つ輝度評価画像EV1、彩度評価画像EV2、分散評価画像EV3が生成される。S2402ではそれらを元に総合評価した総合評価画像を作成する。今、総合評価画像をTEVとすると、
TEV=f(EV1,EV2,EV3)
で表現できる。関数fには種々の変形例が考えられるが、本実施例では代表として、
TEV=EV1+EV2+EV3
の形を考える。
この総合評価画像TEVでは、各画素の値(総合評価値とよぶ)は0から30の値をとり、低輝度・高彩度・高分散の箇所が大きな値をとる。すなわち、総合評価値が大きい画素は近似的に関心領域を示していることが分かる。
【0102】
総合評価画像の求め方は上記の方法に限られない。例えば、α、β、γの重み付け係数を用いて、
TEV=αEV1+βEV2+γEV3
のように求めても良い。
また加算以外にも、関心領域である低輝度・高彩度・高分散の箇所が特定できるならば、様々な個別評価関数、総合評価関数を設定することが出来る。
例えば、以下のような乗算表現も可能である。
TEV=K(EV1)α×(EV2)β×(EV3)γ
(α、β、γ、Kは定数)
【0103】
(3)撮像領域計算処理S2403
最後に、撮像領域計算処理S2403では、ホストコンピュータ110は、前述の総合評価値を用いて撮像対象領域を決定する。ここでは、総合評価値が所定の閾値以上(例えば5以上)の画素を抽出して、その抽出された画素群の外接矩形を撮像対象領域とし、それ以外の領域は撮像対象外とする。
【0104】
(プレ計測推定制御処理:撮像条件計算処理S903)
次に撮像条件計算処理S2303の内部処理を、図21(a)と図21(b)を用いて説明する。
S2601では、ホストコンピュータ110は、S902で計算された総合評価値に対応する制御情報と領域分割サイズとをデータベース2600から取得する。このデータベース2600は、外部記憶装置411または他のコンピュータシステム405に格納されている。
この制御情報には総合評価値の範囲をインデックスとして、
(総合評価値範囲、シフト間隔)
が記載されている。
また、領域分割サイズは次のS2602で行う領域分割のサイズを示している。
【0105】
総合評価値が高ければ、関心領域である可能性が高いのでシフト間隔は小さく、逆に総合評価値が低ければ、関心領域である可能性が低いのでシフト間隔は大きくする。例えば、総合評価値とシフト間隔には以下のような関係がある。
【表2】
Dは、本計測ユニット101の被写界深度である。被写界深度Dは撮像光学系205や開口絞り206の状態などの撮像条件により変化する。そのため、焦点位置や開口絞りなどの撮像条件ごとに被写界深度Dを予め計算して、被写界深度のデータベースを用意しておき、ホストコンピュータ110が必要に応じてデータベースから被写界深度Dの値を読み出すようにするとよい。
【0106】
次にS2602では、ホストコンピュータ110が、S2601で取得した領域分割サイズを用いて、S2403で決定した撮像対象領域を複数のブロックに分割する。本実施例では、領域分割サイズは図5(b)で示す領域601に対応する大きさに設定されている。このとき、図5(b)で示す領域601より小さいサイズのブロックに分割しても良いが、ブロック毎に細かな制御ができる反面、全体の撮像回数は増えることになる。
【0107】
次にS2603では、ホストコンピュータ110が、ブロック毎に制御情報を用いてZステージ制御パラメータを計算する。図21(b)に、S2603の詳細を示す。
S2701では、ホストコンピュータ110は、ブロック毎の繰り返し処理を開始するため、最初の処理対象となるブロック(例えば、撮像対象領域内の左上のブロック)を初期ブロックに設定する。
S2702では、ホストコンピュータ110は、制御情報に基づき、シフト間隔を求める。具体的には、ホストコンピュータ110は、ブロック内の総合評価値の最大値を当該ブロックの総合評価値に選び、その総合評価値に対応するシフト間隔を制御情報から選び出す。
例えば、総合評価値が15のブロックに対しては、シフト間隔が被写界深度Dの2倍に設定される。本計測ユニット101の被写界深度Dが0.5μmの場合、シフト間隔は1.0μmとなる。
【0108】
次にS2703では、ホストコンピュータ110は、S2702で計算したシフト間隔と検体の厚さとから撮像枚数を決定する。なお、検体厚さは実施例1で述べたレーザ変位計103などを使って測定してあるものとする。また、本実施例ではシフト開始位置は常
に検体厚さの下端、即ちスライドグラスの表面位置として説明する。
今、測定した検体厚さをT[μm]、シフト間隔をSi[μm]とすると、ブロックiにおける撮像枚数Niは、
T<Siのときは Ni=1[枚]、
T≧Siのときは Ni=CEIL(T/Si)+1[枚]、
となる。(i=1,2,・・・)
【0109】
(プレ計測推定制御処理:撮像制御処理S904)
次に図22を用いて、撮像制御処理S2304の処理内容を説明する。
まず、コントローラ108が、本計測ユニット101に対し、撮像対象の初期ブロックを設定する。本実施例では、撮像対象領域内の左上のブロックを最初の撮像対象に選ぶ。次にS2802にて、コントローラ108が本計測ユニット101のフォーカス位置を設定する。今、シフト開始位置は下端であるため、スライドグラス表面に焦点位置を合わせる。
次にS2803で、コントローラ108は処理対象ブロックiにおける撮像枚数が1より多いか否かを判定する。1枚の場合はS2807に進み、撮像処理を行いS2808に進む。複数枚撮像の場合にはS2804に進み、ブロック毎のシフト間隔および枚数に従って撮像処理を行いS2805に進む。次にS2805ではブロック毎に設定された枚数の撮像が終了したかを判定し、終了した場合にはS2808に進み、未了の場合には、S2806で奥行き方向に焦点位置をシフトし、S2804で撮像処理を行う。
S2808では、コントローラ108は全ブロックの撮像が終了したかを判定し、未了の場合にはS2809に進み、次のブロックに移動する。全ブロックの撮像が終了した場合には処理を終了する。
【0110】
以上述べた実施例3によれば、プレ計測において画像特徴を分析し、関心領域を推定することにより、関心領域を撮像するために必要なシフト間隔を決定する。これにより、撮像に必要な枚数が適正化でき、撮像時に必要なファイル容量を削減し、データ送信/保存の両面でスループットを向上させる効果が実現できる。また奥行き方向の観察が必要な関心領域に対しては複数枚の撮像が行われるため、観察に必要な情報が欠落することを防ぐことができる。
【0111】
標本の色の濃さや染色による色の違いが画像の差に影響する場合も想定されるが、その場合には実施例1の染色方法推定と組み合わせ、染色方法をインデックスとして分類された総合評価値毎の制御情報を参照することで、精度を高めることが出来る。
また実施例3においても、実施例2と同様、図18に示すように奥行き方向に焦点位置を変えてプレ計測を行い、総合評価値に従って、焦点位置近傍の撮像枚数を定めることが出来る。総合評価値が低い場合、観察対象が少ないと推測できるため、その近傍における撮像枚数を減らすことができる。
また実施例3では、輝度、彩度、分散の3つの評価値を用いたが、それらのうちの1つ又は2つの評価値を用いて関心領域を推定してもよい。また他の評価値を組み合わせることもできる。
【0112】
(他の実施例)
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
例えば、上記実施例では、本計測ユニット101(第1の撮像ユニット)とそれより低倍率の撮像を行うプレ計測ユニット102(第2の撮像ユニット)の2つの撮像ユニットを用いている。別ユニット構成は、倍率ごとに撮像ユニットを分けることでレンズ駆動系が不要となり、撮像光学系のハードウエア構造を簡単化できるという利点と、プレ計測と本計測を並行処理できるためスループットが向上するという利点がある。しかし、プレ計
測と本計測とを同一の撮像ユニットを用いて行うこともできる。単一ユニット構成は、装置の小型化を図ることができるという利点がある。なお単一ユニット構成の場合は、撮像光学系で低倍率に設定しプレ計測を行っても良いし、固定倍率(つまりプレ計測と本計測とで同じ倍率)で撮像した画像データを間引き処理により低解像度化したものを撮像枚数の決定に用いても良い。
また、上記実施例では、カバーグラスが存在する領域を撮像対象として説明したが、検体が存在する領域のみを撮像対象とし、データ量を削減しても良い。その場合にはまず検体が存在する領域の外接矩形を求め、その領域内のみを撮像対象領域とする。撮像対象領域の決め方として、輝度が低い領域の外接矩形を求める手法は良く知られた公知の手法である。
【0113】
また、上記実施例では、染色方法毎の制御情報、画質評価指標値毎の制御情報、総合評価値に対する制御情報は予め準備された場合を想定し説明した。しかし、バーチャル・スライド・システムが持つマニュアル操作時のプレパラート毎のプレ計測で得た画像とその際にユーザが設定する撮像条件を利用することで新たな規則を作ることも可能である。例えば、多数のデータの分析に機械学習法を用いて有用な規則、判断基準を抽出し、新たな規則とすることも出来る。
【0114】
また上記実施例では、プレ計測ユニットでRGB3色のカラー画像あるいはモノクロ画像で撮像する場合について述べたが、分光画像データを用いても同様の処理が実行できる。分光画像データを用いるとスペクトル単位で検体の特徴を分析できる。
また、検体の分光データと人間の目の感度特性を表す2度視野等色関数の演算により、分光画像データからRGB3色のカラー画像データを容易に得ることが出来る。そのため、分光測定機能のあるプレ計測ユニットを用いることもできる。
【0115】
また上記実施例では、本計測装置およびプレ計測装置におけるカラーの撮像方法としてRGBの3つの光源による3回露光で取得する方法を説明したが、それ以外の方法でもカラー撮像は可能である。
例えば、RGB3色カラーフィルタがベイヤー配列された撮像素子を用いた場合、現像・合成処理S1004でデモザイク処理を行うことでRGBのカラー画像を取得できる。また撮像光学系305にダイクロイックプリズムなどの色分離素子を置き、RGBに色分離した像を3個の撮像素子を用いて撮像しても良い。その場合、現像処理においてRGBに色分離した画像を合成することでRGBのカラー画像を取得できる。
【0116】
また上記実施例では、図1に示すようなホストコンピュータ110とバーチャル・スライド・スキャナ120からなる構成のバーチャル・スライド・システムを説明したが、システム全体で本発明を実現できれば良く、装置構成は上記の限りではない。例えば、ホストコンピュータ110とバーチャル・スライド・スキャナ120を一体の装置としてもよい。
【符号の説明】
【0117】
101:本計測ユニット、102:プレ計測ユニット、108:コントローラ、110:ホストコンピュータ
【特許請求の範囲】
【請求項1】
被写体が設置されるステージと、
撮像手段、および、前記ステージ上の被写体の像を拡大して前記撮像手段に導く撮像光学系を有する撮像ユニットと、
前記ステージおよび前記撮像ユニットを制御する制御手段と、
前記撮像ユニットにより得られる画像データを処理する画像処理手段と、を備え、
前記画像処理手段は、前記ステージ上の被写体を撮像することで得られた画像データを分析することにより、その被写体の撮像枚数を決定し、
前記制御手段は、前記画像処理手段で決定された撮像枚数に従って、前記ステージ上の被写体を撮像して1枚の画像データを取得する第1の処理、又は、焦点位置を変更しながら前記ステージ上の被写体を複数回撮像することで焦点位置の異なる複数枚の画像データを取得する第2の処理を実行する
ことを特徴とする画像生成装置。
【請求項2】
前記撮像ユニットは、第1の撮像ユニットと前記第1の撮像ユニットよりも低倍率の撮像を行う第2の撮像ユニットとを有し、
前記画像処理手段は、前記第2の撮像ユニットで得られる画像データを用いて被写体の撮像枚数を決定し、
前記制御手段は、前記第1の撮像ユニットを制御して前記第1の処理又は第2の処理を実行する
ことを特徴とする請求項1に記載の画像生成装置。
【請求項3】
前記画像処理手段は、前記画像データを分析することにより被写体の染色方法を推定し、推定された染色方法に応じて前記被写体の撮像枚数を決定する
ことを特徴とする請求項1又は2に記載の画像生成装置。
【請求項4】
前記画像処理手段は、被写界深度の異なる同じ被写体の複数の画像データを分析することにより被写界深度の違いによる前記被写体の画像の違いを評価し、違いが大きいほど前記被写体の撮像枚数を多くする
ことを特徴とする請求項1又は2に記載の画像生成装置。
【請求項5】
前記画像処理手段は、前記被写体を光軸方向に複数の層に分割し、層ごとに被写界深度の違いによる画像の違いを評価することで、層ごとに撮像枚数を決定する
ことを特徴とする請求項4に記載の画像生成装置。
【請求項6】
前記撮像ユニットは開口絞りを有しており、
前記被写界深度の異なる複数の画像データは、前記開口絞りの絞りを変えて同じ被写体を撮像することで得られる画像データである
ことを特徴とする請求項4又は5に記載の画像生成装置。
【請求項7】
前記被写界深度の異なる複数の画像データのうち被写界深度が深い画像データは、異なる焦点位置で同じ被写体を撮像することで得られた複数の画像データを合成することにより生成される画像データである
ことを特徴とする請求項4又は5に記載の画像生成装置。
【請求項8】
前記画像処理手段は、前記画像データの輝度を評価し、輝度が低いほど前記被写体の撮像枚数を多くする
ことを特徴とする請求項1又は2に記載の画像生成装置。
【請求項9】
前記画像処理手段は、前記画像データの彩度を評価し、彩度が高いほど前記被写体の撮像枚数を多くする
ことを特徴とする請求項1、2、8のいずれか1項に記載の画像生成装置。
【請求項10】
前記画像処理手段は、前記画像データの分散を評価し、分散が大きいほど前記被写体の撮像枚数を多くする
ことを特徴とする請求項1、2、8、9のいずれか1項に記載の画像生成装置。
【請求項11】
前記画像処理手段は、前記画像データを複数のブロックに分割し、ブロックごとに撮像枚数を決定する
ことを特徴とする請求項1〜10のうちいずれか1項に記載の画像生成装置。
【請求項12】
前記画像データを分析することで得られる情報と、その情報に対応する撮像枚数と、を含む制御情報を記憶するデータベースを有しており、
前記画像処理手段は、前記制御情報を参照することにより撮像枚数を決定する
ことを特徴とする請求項1〜11のうちいずれか1項に記載の画像生成装置。
【請求項13】
前記画像データを分析することで得られる情報と、その情報に対応する焦点位置のシフト間隔と、を含む制御情報を記憶するデータベースを有しており、
前記画像処理手段は、前記被写体の厚みと前記制御情報のシフト間隔とから撮像枚数を決定する
ことを特徴とする請求項1〜11のうちいずれか1項に記載の画像生成装置。
【請求項14】
被写体が設置されるステージと、撮像手段、および、前記ステージ上の被写体の像を拡大して前記撮像手段に導く撮像光学系を有する撮像ユニットと、を備える画像生成装置における画像生成方法であって、
前記撮像ユニットで前記ステージ上の被写体を撮像するプレ計測ステップと、
前記プレ計測ステップで得られた画像データを分析することにより、その被写体の撮像枚数を決定する決定ステップと、
前記決定ステップで決定された撮像枚数に従って、前記ステージ上の被写体を撮像して1枚の画像データを取得する第1の処理、又は、焦点位置を変更しながら前記ステージ上の被写体を複数回撮像することで焦点位置の異なる複数枚の画像データを取得する第2の処理を実行する本計測ステップと、
を含むことを特徴とする画像生成方法。
【請求項1】
被写体が設置されるステージと、
撮像手段、および、前記ステージ上の被写体の像を拡大して前記撮像手段に導く撮像光学系を有する撮像ユニットと、
前記ステージおよび前記撮像ユニットを制御する制御手段と、
前記撮像ユニットにより得られる画像データを処理する画像処理手段と、を備え、
前記画像処理手段は、前記ステージ上の被写体を撮像することで得られた画像データを分析することにより、その被写体の撮像枚数を決定し、
前記制御手段は、前記画像処理手段で決定された撮像枚数に従って、前記ステージ上の被写体を撮像して1枚の画像データを取得する第1の処理、又は、焦点位置を変更しながら前記ステージ上の被写体を複数回撮像することで焦点位置の異なる複数枚の画像データを取得する第2の処理を実行する
ことを特徴とする画像生成装置。
【請求項2】
前記撮像ユニットは、第1の撮像ユニットと前記第1の撮像ユニットよりも低倍率の撮像を行う第2の撮像ユニットとを有し、
前記画像処理手段は、前記第2の撮像ユニットで得られる画像データを用いて被写体の撮像枚数を決定し、
前記制御手段は、前記第1の撮像ユニットを制御して前記第1の処理又は第2の処理を実行する
ことを特徴とする請求項1に記載の画像生成装置。
【請求項3】
前記画像処理手段は、前記画像データを分析することにより被写体の染色方法を推定し、推定された染色方法に応じて前記被写体の撮像枚数を決定する
ことを特徴とする請求項1又は2に記載の画像生成装置。
【請求項4】
前記画像処理手段は、被写界深度の異なる同じ被写体の複数の画像データを分析することにより被写界深度の違いによる前記被写体の画像の違いを評価し、違いが大きいほど前記被写体の撮像枚数を多くする
ことを特徴とする請求項1又は2に記載の画像生成装置。
【請求項5】
前記画像処理手段は、前記被写体を光軸方向に複数の層に分割し、層ごとに被写界深度の違いによる画像の違いを評価することで、層ごとに撮像枚数を決定する
ことを特徴とする請求項4に記載の画像生成装置。
【請求項6】
前記撮像ユニットは開口絞りを有しており、
前記被写界深度の異なる複数の画像データは、前記開口絞りの絞りを変えて同じ被写体を撮像することで得られる画像データである
ことを特徴とする請求項4又は5に記載の画像生成装置。
【請求項7】
前記被写界深度の異なる複数の画像データのうち被写界深度が深い画像データは、異なる焦点位置で同じ被写体を撮像することで得られた複数の画像データを合成することにより生成される画像データである
ことを特徴とする請求項4又は5に記載の画像生成装置。
【請求項8】
前記画像処理手段は、前記画像データの輝度を評価し、輝度が低いほど前記被写体の撮像枚数を多くする
ことを特徴とする請求項1又は2に記載の画像生成装置。
【請求項9】
前記画像処理手段は、前記画像データの彩度を評価し、彩度が高いほど前記被写体の撮像枚数を多くする
ことを特徴とする請求項1、2、8のいずれか1項に記載の画像生成装置。
【請求項10】
前記画像処理手段は、前記画像データの分散を評価し、分散が大きいほど前記被写体の撮像枚数を多くする
ことを特徴とする請求項1、2、8、9のいずれか1項に記載の画像生成装置。
【請求項11】
前記画像処理手段は、前記画像データを複数のブロックに分割し、ブロックごとに撮像枚数を決定する
ことを特徴とする請求項1〜10のうちいずれか1項に記載の画像生成装置。
【請求項12】
前記画像データを分析することで得られる情報と、その情報に対応する撮像枚数と、を含む制御情報を記憶するデータベースを有しており、
前記画像処理手段は、前記制御情報を参照することにより撮像枚数を決定する
ことを特徴とする請求項1〜11のうちいずれか1項に記載の画像生成装置。
【請求項13】
前記画像データを分析することで得られる情報と、その情報に対応する焦点位置のシフト間隔と、を含む制御情報を記憶するデータベースを有しており、
前記画像処理手段は、前記被写体の厚みと前記制御情報のシフト間隔とから撮像枚数を決定する
ことを特徴とする請求項1〜11のうちいずれか1項に記載の画像生成装置。
【請求項14】
被写体が設置されるステージと、撮像手段、および、前記ステージ上の被写体の像を拡大して前記撮像手段に導く撮像光学系を有する撮像ユニットと、を備える画像生成装置における画像生成方法であって、
前記撮像ユニットで前記ステージ上の被写体を撮像するプレ計測ステップと、
前記プレ計測ステップで得られた画像データを分析することにより、その被写体の撮像枚数を決定する決定ステップと、
前記決定ステップで決定された撮像枚数に従って、前記ステージ上の被写体を撮像して1枚の画像データを取得する第1の処理、又は、焦点位置を変更しながら前記ステージ上の被写体を複数回撮像することで焦点位置の異なる複数枚の画像データを取得する第2の処理を実行する本計測ステップと、
を含むことを特徴とする画像生成方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【公開番号】特開2012−173391(P2012−173391A)
【公開日】平成24年9月10日(2012.9.10)
【国際特許分類】
【出願番号】特願2011−33116(P2011−33116)
【出願日】平成23年2月18日(2011.2.18)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成24年9月10日(2012.9.10)
【国際特許分類】
【出願日】平成23年2月18日(2011.2.18)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]