説明

画像処理装置および画像表示システム

【課題】標本の高さ方向が異なる画像において、高さ方向に垂直な平面間の撮像領域のずれを補正して、高精度の全焦点画像および3次元画像を構築することができる画像処理装置および画像表示システムを提供すること。
【解決手段】固定された軸に沿って移動しながら撮像された一群の画像をもとに全焦点画像および/または3次元画像の構築処理を行う画像処理部33であって、一群の画像において、各画像における軸に垂直な平面内のずれの検出を行なう検出部331と、検出部331の検出結果に応じてずれの補正を行う補正部332と、固定された軸に沿って移動して撮像された画像および/または補正部332で補正された画像を含む一群の画像をもとに、全焦点画像および/または3次元画像を構築する画像構築部333と、を備えた。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えば、CCD(Charge−Coupled Device)カメラ等によって撮像された画像の画像処理を行う画像処理装置および画像表示システムに関するものである。
【背景技術】
【0002】
従来から、医学や生物学等の分野では、細胞等の観察に、標本を照明して観察する顕微鏡が用いられている。また、工業分野においても、金属組織等の品質管理や、新素材の研究開発、電子デバイスや磁気ヘッドの検査等、種々の用途で顕微鏡が利用されている。顕微鏡による標本の観察は、目視によるものの他、CCDカメラ等の撮像素子を用いて標本像を撮像し、モニタ表示する構成を有するものが知られている。
【0003】
ところで、顕微鏡のような焦点距離の浅い光学系を有する装置では、観察の際に標本全体の把握が困難であった。このため、CCDカメラ等で撮像された画像に対し、全ての領域に焦点が合った画像である全焦点画像および凹凸を容易に把握できる画像である3次元画像の構築が求められている。
【0004】
この要望に対して、標本の高さ方向において所定間隔で撮像される画像に基づいて全焦点画像および3次元画像を構築する方法が開示されている(例えば、特許文献1を参照)。この方法では、例えば、画像における各画素についてそれぞれ近傍の画素との輝度の微分値を算出し、この微分値を評価値として他の同一の高さ方向に沿って撮像した画像の評価値と比較し、最も評価値の高い画像を高さ方向におけるその画素の焦点とみなして全焦点画像を構築する。また、各画像における高さ方向の座標がわかるため、座標から算出される距離をもとに、3次元画像を構築することもできる。
【0005】
このような方法は、一般的にShape From Focus(SFF)法と呼ばれている。また、SFF法のほか、合焦時の合焦位置からの距離を算出するDepth From Focus(DFF)法や、ぼけを解析して焦点を推定するDepth From Defocus(DFD)法があり、このDFD法においても全焦点画像および3次元画像を構築することができる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2010−117229号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、CCDカメラ等で画像を取得する過程において、顕微鏡等の振動が影響し、高さ方向に沿って画像を平面視した際に、各画像の撮像領域にずれが生じてしまうことがあった。しかしながら、特許文献1が開示する方法は、このずれに対する考慮がなされずに画像構築が行われていたため、画像間でずれが生じた場合、構築された画像に歪みが生じるなど、構築された画像の精度が低下してしまうというおそれがあった。
【0008】
本発明は、上記に鑑みてなされたものであり、標本の高さ方向が異なる画像において、高さ方向に垂直な平面間の撮像領域のずれを補正して、高精度の全焦点画像および3次元画像を構築することができる画像処理装置および画像表示システムを提供することを目的とする。
【課題を解決するための手段】
【0009】
上述した課題を解決し、目的を達成するために、本発明にかかる画像処理装置は、固定された軸に沿って移動しながら撮像された一群の画像をもとに全焦点画像および/または3次元画像の構築処理を行う画像処理装置であって、前記一群の画像において、各画像における前記軸に垂直な平面内のずれの検出を行なう検出部と、前記検出部の検出結果に応じて前記ずれの補正を行う補正部と、前記固定された軸に沿って移動して撮像された画像および/または前記補正部で補正された画像を含む前記一群の画像をもとに、全焦点画像および/または3次元画像を構築する画像構築部と、を備えたことを特徴とする。
【0010】
また、本発明にかかる画像処理装置は、上記の発明において、前記一群の画像は、倍率が異なる複数の対物レンズを有する顕微鏡を介して撮像された画像であって、前記一群の画像の撮像倍率を判断する判断部を備え、前記判断部が所定倍率より低倍の対物レンズを介して撮像された画像であると判断した場合、前記画像構築部が、前記一群の画像を用いて全焦点画像および/または3次元画像を構築することを特徴とする。
【0011】
また、本発明にかかる画像処理装置は、上記の発明において、前記検出部は、ずれが生じている画像を検出した際、前記ずれのずれ量を算出し、該ずれ量と閾値との大小関係を判断し、前記ずれ量が前記閾値より大きい場合、当該画像を削除することを特徴とする。
【0012】
また、本発明にかかる画像処理装置は、上記の発明において、前記検出部は、ずれが生じている画像を検出した際、前記ずれのずれ量を算出し、該ずれ量と閾値との大小関係を判断し、前記ずれ量が前記閾値より大きい場合、対応する画像を再取得することを特徴とする。
【0013】
また、本発明にかかる画像表示システムは、上記の発明にかかる画像処理装置と、前記画像処理装置によって構築された前記全焦点画像および/または3次元画像を表示する表示部と、を備えたことを特徴とする。
【発明の効果】
【0014】
本発明にかかる画像処理装置および画像表示システムは、順次取得される標本の高さ方向が異なる画像(固定された軸に沿って移動して撮像された画像)において、各画像間のずれの補正を行い、補正された画像を用いて全焦点画像および3次元画像の構築を行うようにしたので、標本の高さ方向が異なる画像において、高さ方向に垂直な平面間の撮像領域のずれを補正して、高精度の全焦点画像および3次元画像を構築することができるという効果を奏する。
【図面の簡単な説明】
【0015】
【図1】図1は、本発明の実施の形態にかかる顕微鏡システムの全体構成を示す模式図である。
【図2】図2は、本発明の実施の形態にかかる顕微鏡システムの画像処理を示すフローチャートである。
【図3】図3は、本発明の実施の形態にかかる顕微鏡システムの画像処理の変形例1を示すフローチャートである。
【図4】図4は、本発明の実施の形態にかかる顕微鏡システムの画像処理の変形例2を示すフローチャートである。
【図5】図5は、本発明の実施の形態にかかる顕微鏡システムの画像処理の変形例3を示すフローチャートである。
【発明を実施するための形態】
【0016】
以下、本発明を実施するための形態を図面と共に詳細に説明する。なお、以下の実施の形態により本発明が限定されるものではない。また、以下の説明において参照する各図は、本発明の内容を理解し得る程度に形状、大きさ、および位置関係を概略的に示してあるに過ぎない。すなわち、本発明は各図で例示された形状、大きさ、および位置関係のみに限定されるものではない。
【0017】
まず、実施の形態の顕微鏡システム1の構成について説明する。図1は、顕微鏡システム1の全体構成例を説明する模式図である。図1に示すように、顕微鏡システム1は、顕微鏡装置2と画像表示システムとしてのホストシステム3とが情報を送受可能に接続されて構成される。以下、図1に示す対物レンズ21の光軸方向をZ方向とし、Z方向と垂直な平面をXY平面として定義する。
【0018】
顕微鏡装置2は、標本Sが載置される電動ステージ22と、側面視略コの字状を有し、電動ステージ22を支持するとともにレボルバ23を介して対物レンズ21を保持する顕微鏡本体24と、顕微鏡本体24の底部後方(図1の右方)に配設された光源25と、顕微鏡本体24の上部に載置された鏡筒26とを備える。また、鏡筒26には、標本Sの標本像を目視観察するための双眼部27と、標本Sの標本像を撮像するためのCCDカメラ28が取り付けられている。顕微鏡装置2は、顕微鏡装置2を構成する各部の動作を統括的に制御する制御部C1を備える。
【0019】
電動ステージ22は、移動自在(図中のXYZ方向に移動自在)に構成されている。具体的には、電動ステージ22は、電動ステージ22の標本Sの載置面をこの載置面に平行な平面(XY平面)上で移動させるモータ221およびこのモータ221の駆動を制御するXY駆動制御部C11によってXY平面内で移動自在である。XY駆動制御部C11は、制御部C1の制御のもと、図示しないXY位置の原点センサによって電動ステージ22のXY平面における所定の原点位置を検知し、この原点位置を基点としてモータ221の駆動量を制御することによって、標本S上の観察箇所を移動させる。そして、XY駆動制御部C11は、観察時の電動ステージ22のX位置およびY位置を適宜制御部C1に出力する。
【0020】
また、電動ステージ22は、電動ステージ22の標本Sの載置面をこの載置面(XY平面)に垂直な方向(Z方向)に移動させるモータ222およびこのモータ222の駆動を制御するZ駆動制御部C12によってZ方向に移動自在である。Z駆動制御部C12は、制御部C1の制御のもと、図示しないZ位置の原点センサによって電動ステージ22のZ方向における所定の原点位置を検知し、この原点位置を基点としてモータ222の駆動量を制御することによって、所定の高さ範囲内の任意のZ位置に標本Sを焦準移動させる。そして、Z駆動制御部C12は、観察時の電動ステージ22のZ位置を適宜制御部C1に出力する。
【0021】
レボルバ23は、顕微鏡本体24に対して回転自在に保持され、対物レンズ21を標本Sの上方に配置する。対物レンズ21は、レボルバ23に対して倍率(観察倍率)の異なる他の対物レンズとともに交換自在に装着されており、レボルバ23の回転に応じて観察光の光路上に挿入されて標本Sの観察に用いる対物レンズ21が択一的に切り換えられるようになっている。なお、実施の形態1では、レボルバ23は、倍率の異なる複数の対物レンズを保持している。レボルバ23は、対物レンズ21として、例えば2倍,4倍といった比較的倍率の低い対物レンズ(以下、適宜「低倍対物レンズ」と呼ぶ)と、10倍,20倍,40倍といった低倍対物レンズの倍率に対して高倍率である対物レンズ(以下、適宜「高倍対物レンズ」と呼ぶ)と、を少なくとも1つずつ保持していることとする。ただし、低倍および高倍とした倍率は一例であり、レボルバ23は、所定倍率よりも低倍の対物レンズと所定倍率よりも高倍の対物レンズとを保持していればよい。
【0022】
顕微鏡本体24は、底部において標本Sを透過照明するための照明光学系を内設している。この照明光学系は、例えば、光源25から射出された照明光を集光するコレクタレンズ251、照明系フィルタユニット252、視野絞り253、開口絞り254、照明光の光路を対物レンズ21の光軸に沿って偏向させる折曲げミラー255、コンデンサ光学素子ユニット256、トップレンズユニット257等が、照明光の光路に沿って適所に配置されて構成される。光源25から射出された照明光は、照明光学系によって標本Sに照射され、観察光として対物レンズ21に入射する。
【0023】
また、顕微鏡本体24は、その上部においてフィルタユニット29を内設している。フィルタユニット29は、標本像として結像する光の波長帯域を所定範囲に制限するための複数の光学フィルタ291を回転自在に保持し、使用対象の光学フィルタ291を、適宜対物レンズ21後段において観察光の光路上に挿入する。対物レンズ21を経た観察光は、このフィルタユニット29を経由して鏡筒26に入射する。
【0024】
鏡筒26は、フィルタユニット29を経た観察光の光路を切り換えて双眼部27またはCCDカメラ28へと導くビームスプリッタ261を内設している。標本Sの標本像は、このビームスプリッタ261によって双眼部27内に導入され、接眼レンズ271を介して検鏡者に目視観察される。あるいはCCDカメラ28によって撮像される。
【0025】
CCDカメラ28は、標本像(詳細には対物レンズ21の視野範囲)を結像するCCDやCMOS等の撮像素子を備えて構成され、標本像を撮像し、標本像の画像データをホストシステム3に出力する。CCDカメラ28は、入射する観察光を電気信号に変換することによって、標本Sの画像を取得する。
【0026】
ここで、顕微鏡装置2は、図1に示すように、制御部C1とCCDカメラコントローラC2とを備える。制御部C1は、ホストシステム3の制御のもと、顕微鏡装置2を構成する各部の動作を統括的に制御する。例えば、制御部C1は、レボルバ23を回転させて観察光の光路上に配置する対物レンズ21を切り換える処理や、切り換えた対物レンズ21
の倍率等に応じた光源25の調光制御や各種光学素子の切り換え、あるいはXY駆動制御部C11やZ駆動制御部C12に対する電動ステージ22の移動指示等、標本Sの観察に伴う顕微鏡装置2の各部の調整を行うとともに、各部の状態を適宜ホストシステム3に通知する。CCDカメラコントローラC2は、ホストシステム3の制御のもと、自動ゲイン制御のON/OFF切換、ゲインの設定、自動露出制御のON/OFF切換、露光時間の設定等を行ってCCDカメラ28を駆動し、CCDカメラ28の撮像動作を制御する。
【0027】
一方、ホストシステム3は、入力部31と、表示部32と、画像処理部33と、記憶部34と、ホストシステム3を構成する各部への動作タイミングの指示やデータの転送等を行い、各部の動作を統括的に制御する制御部C3とを備える。
【0028】
入力部31は、例えば、キーボードやマウス、タッチパネル、各種スイッチ等によって実現されるものであり、操作入力に応じた操作信号を制御部C3に出力する。表示部32は、CRT(Cathode Ray Tube)、LCD(Liquid Crystal Display)や有機EL(ElectroLuminescence)ディスプレイ等の表示装置によって実現されるものであり、制御部C3から入力される表示信号をもとに各種画面を表示する。なお、表示部32がタッチパネル機能を有する場合、表示部32が入力部31の機能を担ってもよい。
【0029】
画像処理部33は、画像処理装置として機能し、制御部C3を介して顕微鏡装置2で撮像された標本画像を観察モード情報とともに取得し、撮像時の観察モードに応じて標本画像を画像処理する。具体的には、画像処理部33は、通常観察モードで得られた標本画像については、必要な画像処理を施して制御部C3を介して記憶部34に記憶させ、あるいは表示部32に表示出力させる。
【0030】
また、画像処理部33は、Z方向に移動して所定間隔で撮像された画像を構成する各画素におけるXY平面内のずれを検出する検出部331と、検出部331の検出結果に応じて対象画像のXY平面内のずれを補正する補正部332と、補正部332によって補正された画像を含むCCDカメラ28によって撮像された画像をもとに全焦点画像または3次元画像を構築する画像構築部333と、を含む。
【0031】
記憶部34は、更新記憶可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵或いはデータ通信端子で接続されたハードディスク、CD−ROM等の記憶媒体およびその読書装置等によって実現されるものである。この記憶部34には、ホストシステム3を動作させ、このホストシステム3が備える種々の機能を実現するためのプログラム、例えば本実施の形態にかかる画像処理プログラムや、このプログラムの実行中に使用されるデータ等が記録される。
【0032】
なお、ホストシステム3は、CPUやビデオボード、メインメモリ等の主記憶装置、ハードディスクや各種記憶媒体等の外部記憶装置、通信装置、表示装置や印刷装置等の出力装置、入力装置、各部を接続し、あるいは外部入力を接続するインターフェース装置等を備えた公知のハードウェア構成で実現でき、例えばワークステーションやパソコン等の汎用コンピュータを利用することができる。
【0033】
次に、本実施の形態にかかる顕微鏡システム1の制御部C3が行う画像処理について、図2を参照して説明する。まず、制御部C3は、入力部31から画像処理に関する条件を取得して設定を行う(ステップS102)。ステップS102における条件設定では、標本SのZ方向の範囲や、ピッチ(撮像間隔)を設定する。
【0034】
続いて、制御部C3は、Z駆動制御部C12およびCCDカメラコントローラC2に対して、標本Sを撮像するよう指示する(ステップS104)。制御部C3は、ステップS102で設定されたピッチにおける同一XY平面でZ方向が異なる画像(Zスタック画像)を撮像領域における複数のXY平面ごとに取得する。
【0035】
このとき、Z駆動制御部C12は、標本SのZ方向における一端と一致する位置まで電動ステージ22を移動した後、電動ステージ22をステップS102で設定されたZ方向の範囲で移動させる。ここで、Z駆動制御部C12は、ステップS102で設定されたピッチごとに移動と停止とを繰り返して電動ステージ22を移動させてもよいし、ある一定の速度で電動ステージ22を連続的に移動させてもよい。また、電動ステージ22が移動するZ方向の範囲は、対物レンズ21を含む拡大光学系の焦点深度以下であることが好ましい。これにより、標本Sの各撮像領域(同一XY座標)のZスタック画像において、合焦された画像を少なくとも1つ得ることができる。
【0036】
制御部C3は、画像取得後、取得した画像を記憶部34に記憶させる(ステップS106)。制御部C3は、画像に少なくとも画像の中心座標(x,y,z)を対応付けて記憶部34に記憶させる。
【0037】
画像を記憶部34に記憶後、制御部C3は、各Zスタック画像の各画素においてXY方向にずれが生じているか否かを検出部331に検出するよう指示する(ステップS108)。ここで、検出部331が行なうずれ検出は、例えばテンプレートマッチングや、コーナー検出等の特徴点を利用したマッチング処理によって行われる。この際、ずれ検出を行なうためのテンプレート画像は、Zスタック画像における最初の画像であってもよいし、ずれ検出対象のZスタック画像の直前のZスタック画像(1ピッチ前のZスタック画像)であってもよい。検出部331は、ずれ検出対象のZスタック画像と、Zスタック画像における最初の画像またはずれ検出対象Zスタック画像の直前のZスタック画像とを記憶部34から取得してずれの有無を検出する。
【0038】
検出部331によってZスタック画像のずれが検出されると(ステップS110:Yes)、制御部C3は、Zスタック画像のずれを補正するよう補正部332に指示する(ステップS112)。補正部332は、例えばニアレストネイバー(nearest neighbor)法、バイリニア(bilinear)法、またはバイキュービック法(bicubic)法を用いてずれの補正(補間)を行う。補正されたZスタック画像は、再度記憶部34に記憶される。このとき、記憶部34は、補正されたZスタック画像をCCDカメラ28から取得した画像と置き換えてもよいし、これらの画像を別々に記憶するようにしてもよい。
【0039】
一方、検出部331によってZスタック画像のずれが検出されない場合(ステップS110:No)、制御部C3は、ステップS114に移行して、次の取得画像があるか否かを判断する。
【0040】
ずれ補正処理終了後、制御部C3は、ずれの検出を行なう次の取得画像(Zスタック画像)があるか否かを判断し、次の取得画像がない場合(ステップS114:No)、ステップS104で取得されたZスタック画像またはステップS112で補正されたZスタック画像を用いて、全焦点画像または3次元画像を構築するよう画像構築部333に指示する(ステップS116)。また、ずれの検出を行なう次の取得画像がある場合(ステップS114:Yes)、制御部C3は、ステップS108に移行して、検出部331に次の取得画像に対するずれ検出処理を行わせる。
【0041】
画像構築部333は、上述したDFF法を用いて全焦点画像または3次元画像を構築する。画像構築部333は、各Zスタック画像を合成して、全体に焦点が合った2次元画像(全焦点画像)を構築する。また、画像構築部333は、各Zスタック画像の座標情報をもとに基準座標からの焦点位置までの距離をそれぞれ算出して、3次元画像を構築する。
【0042】
画像構築部333による画像構築が終了すると、制御部C3は、構築された全焦点画像および/または3次元画像を記憶部34に記憶させるとともに、全焦点画像および/または3次元画像を表示するよう表示部32に指示する(ステップS118)。このとき、表示部32は、全焦点画像および3次元画像において、入力部31からの指示により、指示のあった画像の表示を行う。
【0043】
上述した本実施の形態によれば、順次取得されるZスタック画像において、各Zスタック画像間のずれの補正を行い、補正されたZスタック画像を用いて全焦点画像および3次元画像の構築を行うようにしたので、Zスタック画像においてZ方向に垂直な平面間の撮像領域のずれを補正して、高精度の全焦点画像および3次元画像を構築することができる。
【0044】
なお、電動ステージ22が移動するZ方向の範囲が対物レンズ21を含む拡大光学系の焦点深度以下であるものとして説明したが、焦点深度に近い距離であればよい。これにより、電動ステージ22が移動するZ方向の範囲が狭まり、取得するZスタック画像を少なくすることができる。
【0045】
また、制御部C1(Z駆動制御部C12)は、各Zスタック画像を取得する際、電動ステージ22をZ方向に移動させるものとして説明したが、電動ステージ22は移動させず、レボルバ23と共に対物レンズ21をZ方向に移動させるものであってもよい。
【0046】
図3は、本発明の実施の形態にかかる顕微鏡システムの画像処理の変形例1を示すフローチャートである。まず、制御部C3は、上述したステップS102〜S106に対応する画像取得処理および記憶処理(ステップS202〜S206)を行い、Zスタック画像を取得する。
【0047】
Zスタック画像取得後、制御部C3は、取得されたZスタック画像の撮像倍率を判断する(ステップS208)。具体的には、制御部C3は、取得されたZスタック画像が、所定の倍率よりも低倍の対物レンズを介して撮像されたものであるのか、所定の倍率よりも高倍の対物レンズを介して撮像されたものであるのかを判断する。ここで、低倍対物レンズを介して撮像されたものである場合(ステップS208:低倍)、制御部C3は、ステップS216に移行して、Zスタック画像の補正を行わずに、次の取得画像があるか否かを判断する。
【0048】
また、高倍対物レンズを介して撮像されたものである場合(ステップS208:高倍)、制御部C3は、上述したステップS108〜S112に対応するずれ補正処理(ステップS210〜S214)を行う。
【0049】
ずれ補正処理終了後、制御部C3は、ずれの検出を行なう次の取得画像(Zスタック画像)があるか否かを判断し、次の取得画像がない場合(ステップS216:No)、ステップS204で取得されたZスタック画像またはステップS214で補正されたZスタック画像を用いて、全焦点画像または3次元画像を構築するよう画像構築部333に指示する(ステップS218)。また、ずれの検出を行なう次の取得画像がある場合(ステップS216:Yes)、制御部C3は、ステップS208に移行して、次の取得画像に対する処理を行う。
【0050】
画像構築部333は、上述したDFF法を用いて全焦点画像または3次元画像を構築する。画像構築部333は、各Zスタック画像を合成して、全体に焦点が合った2次元画像(全焦点画像)を構築する。また、画像構築部333は、各Zスタック画像の座標情報をもとに基準座標からの焦点位置までの距離をそれぞれ算出して、3次元画像を構築する。
【0051】
画像構築部333による画像構築が終了すると、制御部C3は、構築された全焦点画像および/または3次元画像を記憶部34に記憶させるとともに、全焦点画像および/または3次元画像を表示するよう表示部32に指示する(ステップS220)。このとき、表示部32は、全焦点画像および3次元画像において、入力部31からの指示により、指示のあった画像の表示を行う。
【0052】
上述した変形例1によれば、上述した本実施の形態と同様、順次取得されるZスタック画像において、各Zスタック画像間のずれの補正を行い、補正されたZスタック画像を用いて全焦点画像および3次元画像の構築を行うようにしたので、Zスタック画像においてZ方向に垂直な平面間の撮像領域のずれを補正して、高精度の全焦点画像および3次元画像を構築することができる。
【0053】
また、変形例1では、全焦点画像および3次元画像の構築に影響するほどのずれが生じにくい低倍対物レンズを介して取得されたZスタック画像について、ずれ検出処理およびずれ補正処理を行わずに全焦点画像および3次元画像の構築を行うため、画像処理にかかる負荷を軽減することが可能となる。
【0054】
図4は、本発明の実施の形態にかかる顕微鏡システムの画像処理の変形例2を示すフローチャートである。まず、制御部C3は、上述したステップS102〜S106に対応する画像取得処理および記憶処理(ステップS302〜S306)を行い、Zスタック画像を取得する。
【0055】
Zスタック画像取得後、制御部C3は、取得されたZスタック画像が、低倍対物レンズを介して撮像されたものであるのか、高倍対物レンズを介して撮像されたものであるのかを判断する(ステップS308)。ここで、低倍対物レンズを介して撮像されたものである場合(ステップS308:低倍)、制御部C3は、ステップS320に移行して、Zスタック画像の補正を行わずに、次の取得画像があるか否かを判断する。
【0056】
また、高倍対物レンズを介して撮像されたものである場合(ステップS308:高倍)、制御部C3は、各Zスタック画像の各画素においてXY方向にずれが生じているか否かを検出部331に検出するよう指示する(ステップS310)。ここで、検出部331によってZスタック画像のずれが検出されない場合(ステップS312:No)、制御部C3は、ステップS320に移行して、次の取得画像があるか否かを判断する。
【0057】
一方、検出部331によってZスタック画像のずれが検出されると(ステップS312:Yes)、制御部C3は、検出部331にずれ量を算出させ、そのずれ量と閾値との大小関係を判断させる(ステップS314)。
【0058】
ここで、ずれ量が閾値以上の場合(ステップS314:No)、制御部C3は、ステップS316に移行して、対象画像(ずれ量が閾値以上のZスタック画像)を削除する。その後、制御部C3は、ステップS320に移行して次の取得画像があるか否かを判断する。
【0059】
一方、ずれ量が閾値より小さい場合(ステップS314:Yes)、制御部C3は、ステップS318に移行して、Zスタック画像のずれを補正するよう補正部332に指示する。
【0060】
ずれ補正処理終了後、制御部C3は、ずれの検出を行なう次の取得画像(Zスタック画像)があるか否かを判断し、次の取得画像がない場合(ステップS320:No)、ステップS304で取得されたZスタック画像またはステップS318で補正されたZスタック画像を用いて、全焦点画像または3次元画像を構築するよう画像構築部333に指示する(ステップS322)。また、ずれの検出を行なう次の取得画像がある場合(ステップS320:Yes)、制御部C3は、ステップS308に移行して、次の取得画像に対する処理を行う。
【0061】
画像構築部333による画像構築が終了すると、制御部C3は、構築された全焦点画像および/または3次元画像を記憶部34に記憶させるとともに、全焦点画像および/または3次元画像を表示するよう表示部32に指示する(ステップS324)。このとき、表示部32は、全焦点画像および3次元画像において、入力部31からの指示により、指示のあった画像の表示を行う。
【0062】
上述した変形例2によれば、上述した本実施の形態と同様、順次取得されるZスタック画像において、各Zスタック画像間のずれの補正を行い、補正されたZスタック画像を用いて全焦点画像および3次元画像の構築を行うようにしたので、Zスタック画像においてZ方向に垂直な平面間の撮像領域のずれを補正して、高精度の全焦点画像および3次元画像を構築することができる。
【0063】
また、変形例2では、全焦点画像および3次元画像の構築に影響するほどのずれが生じにくい低倍対物レンズを介して取得されたZスタック画像について、ずれ検出処理およびずれ補正処理を行わずに全焦点画像および3次元画像の構築を行うとともに、ずれ量の大きさに応じて対象のZスタック画像を間引くようにしたため、画像処理にかかる負荷を一段と軽減することができる。
【0064】
図5は、本発明の実施の形態にかかる顕微鏡システムの画像処理の変形例3を示すフローチャートである。まず、制御部C3は、上述したステップS102〜S106に対応する画像取得処理および記憶処理(ステップS402〜S406)を行い、Zスタック画像を取得する。
【0065】
Zスタック画像取得後、制御部C3は、取得されたZスタック画像が、低倍対物レンズを介して撮像されたものであるのか、高倍対物レンズを介して撮像されたものであるのかを判断する(ステップS408)。ここで、低倍対物レンズを介して撮像されたものである場合(ステップS408:低倍)、制御部C3は、ステップS420に移行して、Zスタック画像の補正を行わずに、次の取得画像があるか否かを判断する。
【0066】
また、高倍対物レンズを介して撮像されたものである場合(ステップS408:高倍)、制御部C3は、各Zスタック画像の各画素においてXY方向にずれが生じているか否かを検出部331に検出するよう指示する(ステップS410)。ここで、検出部331によってZスタック画像のずれが検出されない場合(ステップS412:No)、制御部C3は、ステップS420に移行して、次の取得画像があるか否かを判断する。
【0067】
一方、検出部331によってZスタック画像のずれが検出されると(ステップS412:Yes)、制御部C3は、検出部331にずれ量を算出させ、そのずれ量と閾値との大小関係を判断させる(ステップS414)。
【0068】
ここで、ずれ量が閾値以上の場合(ステップS414:No)、制御部C3は、ステップS416に移行して、ずれ量が閾値以上のZスタック画像に対応する画像(対象画像に対応する座標における画像)の再取得を行う。再取得後、制御部C3は、ステップS406に移行して上述した処理を再度行う。
【0069】
一方、ずれ量が閾値より小さい場合(ステップS414:Yes)、制御部C3は、ステップS418に移行して、Zスタック画像のずれを補正するよう補正部332に指示する。
【0070】
ずれ補正処理終了後、制御部C3は、ずれの検出を行なう次の取得画像(Zスタック画像)があるか否かを判断し、次の取得画像がない場合(ステップS420:No)、ステップS404で取得されたZスタック画像またはステップS418で補正されたZスタック画像を用いて、全焦点画像または3次元画像を構築するよう画像構築部333に指示する(ステップS422)。また、ずれの検出を行なう次の取得画像がある場合(ステップS420:Yes)、制御部C3は、ステップS408に移行して、次の取得画像に対する処理を行う。
【0071】
画像構築部333による画像構築が終了すると、制御部C3は、構築された全焦点画像および/または3次元画像を記憶部34に記憶させるとともに、全焦点画像および/または3次元画像を表示するよう表示部32に指示する(ステップS424)。このとき、表示部32は、全焦点画像および3次元画像において、入力部31からの指示により、指示のあった画像の表示を行う。
【0072】
上述した変形例3よれば、全焦点画像および3次元画像の構築に影響するほどのずれが生じにくい低倍対物レンズを介して取得されたZスタック画像について、ずれ検出処理およびずれ補正処理を行わずに全焦点画像および3次元画像の構築を行うとともに、ずれ量の大きさに応じて対象のZスタック画像の再取得を行うようにしたため、画像処理にかかる負荷を軽減し、かつ精度の高い全焦点画像および3次元画像の構築を行うことができる。
【0073】
なお、上述した変形例3のステップS416における対象画像の再取得と、変形例2のステップS316で行なう対象画像の削除と、を選択して処理できるようにしてもよい。これにより、状況に応じて、画像を再取得するか間引くかを選択し、処理の選択的に効率よく行うことが可能となる。
【0074】
以上のように、本発明にかかる画像処理装置および画像表示システムは、標本の高さ方向が異なる画像において、高さ方向に垂直な平面間の撮像領域のずれを補正して、高精度の全焦点画像および3次元画像を構築することに有用である。
【符号の説明】
【0075】
1 顕微鏡システム
2 顕微鏡装置
3 ホストシステム
21 対物レンズ
22 電動ステージ
23 レボルバ
24 顕微鏡本体
25 光源
26 鏡筒
27 双眼部
28 CCDカメラ
31 入力部
32 表示部
33 画像処理部
34 記憶部
29 フィルタユニット
221,222 モータ
251 コレクタレンズ
252 照明系フィルタユニット
253 視野絞り
254 開口絞り
255 折曲げミラー
256 コンデンサ光学素子ユニット
257 トップレンズユニット
261 ビームスプリッタ
271 接眼レンズ
291 光学フィルタ
C1,C3 制御部
C2 CCDカメラコントローラ
C11 XY駆動制御部
C12 Z駆動制御部

【特許請求の範囲】
【請求項1】
固定された軸に沿って移動しながら撮像された一群の画像をもとに全焦点画像および/または3次元画像の構築処理を行う画像処理装置であって、
前記一群の画像において、各画像における前記軸に垂直な平面内のずれの検出を行なう検出部と、
前記検出部の検出結果に応じて前記ずれの補正を行う補正部と、
前記固定された軸に沿って移動して撮像された画像および/または前記補正部で補正された画像を含む前記一群の画像をもとに、全焦点画像および/または3次元画像を構築する画像構築部と、
を備えたことを特徴とする画像処理装置。
【請求項2】
前記一群の画像は、倍率が異なる複数の対物レンズを有する顕微鏡を介して撮像された画像であって、
前記一群の画像の撮像倍率を判断する判断部を備え、
前記判断部が所定倍率より低倍の対物レンズを介して撮像された画像であると判断した場合、前記画像構築部が、前記一群の画像を用いて全焦点画像および/または3次元画像を構築することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記検出部は、ずれが生じている画像を検出した際、前記ずれのずれ量を算出し、該ずれ量と閾値との大小関係を判断し、前記ずれ量が前記閾値より大きい場合、当該画像を削除することを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記検出部は、ずれが生じている画像を検出した際、前記ずれのずれ量を算出し、該ずれ量と閾値との大小関係を判断し、前記ずれ量が前記閾値より大きい場合、対応する画像を再取得することを特徴とする請求項1に記載の画像処理装置。
【請求項5】
請求項1〜4のいずれか一つに記載の画像処理装置と、
前記画像処理装置によって構築された前記全焦点画像および/または3次元画像を表示する表示部と、
を備えたことを特徴とする画像表示システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate


【公開番号】特開2013−20140(P2013−20140A)
【公開日】平成25年1月31日(2013.1.31)
【国際特許分類】
【出願番号】特願2011−154090(P2011−154090)
【出願日】平成23年7月12日(2011.7.12)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】