撮像装置およびその制御方法
【課題】表面形状の計測処理を効率的に行い、撮像装置のスループットを向上させる技術を提供する。
【解決手段】撮像装置が、被写体を保持する保持手段と、前記被写体の表面形状を計測する表面形状計測手段と、前記表面形状計測手段により計測された表面形状に合わせて撮像面を調整して、前記被写体の撮像を行う撮像手段と、前記被写体の全体領域のなかから撮像すべき対象物が存在する存在領域を特定する特定手段とを備える。前記表面形状計測手段は、前記特定手段により特定された存在領域の表面形状のみを計測する。
【解決手段】撮像装置が、被写体を保持する保持手段と、前記被写体の表面形状を計測する表面形状計測手段と、前記表面形状計測手段により計測された表面形状に合わせて撮像面を調整して、前記被写体の撮像を行う撮像手段と、前記被写体の全体領域のなかから撮像すべき対象物が存在する存在領域を特定する特定手段とを備える。前記表面形状計測手段は、前記特定手段により特定された存在領域の表面形状のみを計測する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置およびその制御方法に関する。
【背景技術】
【0002】
病理学の分野等で、プレパラートの像を撮像してデジタル画像(バーチャルスライド画像)を取得する撮像装置と、そのデジタル画像を処理・解析して表示装置に表示する画像処理装置とから構成される撮像システムが注目されている。
この種のシステムではプレパラートを高解像度で高速に撮像することが求められている。そこで、高解像度のデジタル画像を効率良く取得するために、プレパラートをマクロ撮像することでプレパラート上の試料(検体、生体サンプル)の存在する領域を予め計測し、その領域のみで高解像度の撮像を行う撮像装置が提案されている(特許文献1)。また、プリビューカメラと高倍率の撮像手段を有し、プリビュー画像から標本が存在する画素を探索するルーチンを有する撮像装置が提案されている(特許文献2)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2007−310231号公報
【特許文献2】特表2009−528580号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、上記のような高倍率の撮像装置においては、結像光学系(対物レンズ)の被写界深度は極めて浅い。一方、スライドグラスとカバーグラスの間に試料を密封するためにスライドグラスとカバーグラスを接着すると、カバーグラスおよび試料が変形して試料の表面がうねってしまう場合がある。試料の表面がうねっていると、試料の一部が被写界深度内に入りきらなくなり、ボケの少ない良好な画像を取得できない。そのため、高倍率撮像の前に、カバーグラス表面の表面形状(うねり)を計測して、表面形状に応じて撮像素子の位置および姿勢を調整することが望ましい。
【0005】
この際、カバーグラス全域の表面形状計測を一度で行おうとすると、表面形状計測手段が大型化してしまう。表面形状計測手段を大型化させないためには、表面形状の計測領域を狭くせざるを得ない。その場合、試料が存在する領域のカバーグラスの表面形状を効率良く計測しなければ、撮像装置の処理速度(スループット)を低下させてしまう。
【0006】
本発明は上記実情に鑑みてなされたものであって、表面形状の計測処理を効率的に行い、撮像装置のスループットを向上させる技術を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の第1態様は、被写体を保持する保持手段と、前記被写体の表面形状を計測する表面形状計測手段と、前記表面形状計測手段により計測された表面形状に合わせて撮像面を調整して、前記被写体の撮像を行う撮像手段と、を備えた撮像装置であって、前記被写体の全体領域のなかから撮像すべき対象物が存在する存在領域を特定する特定手段を有しており、前記表面形状計測手段は、前記特定手段により特定された存在領域の表面形状のみを計測する撮像装置を提供する。
【0008】
本発明の第2態様は、被写体を保持する保持手段と、前記被写体の表面形状を計測する表面形状計測手段と、前記表面形状計測手段により計測された表面形状に合わせて撮像面
を調整して、前記被写体の撮像を行う撮像手段と、を備えた撮像装置の制御方法であって、前記被写体の全体領域のなかから撮像すべき対象物が存在する存在領域を特定する特定工程と、前記特定工程において特定された存在領域の表面形状のみを前記表面形状計測手段により計測する計測工程と、を含む撮像装置の制御方法を提供する。
【発明の効果】
【0009】
本発明によれば、表面形状の計測処理を効率的に行い、撮像装置のスループットを向上させることができる。
【図面の簡単な説明】
【0010】
【図1】実施例1の撮像装置を示す図。
【図2】被検物(プレパラート)30を示す図。
【図3】結像光学系40を示す図。
【図4】撮像部50を示す図。
【図5】表面形状計測装置2を示す図。
【図6】被検物30の試料302の存在領域Eを説明する図。
【図7】実施例1の動作フローチャート。
【図8】実施例1のタイムチャート。
【図9】実施例2の撮像装置を示す図。
【図10】実施例2の動作フローチャート。
【図11】実施例2のタイムチャート。
【図12】回転テーブルによる搬送方法を示す図。
【発明を実施するための形態】
【0011】
[実施例1]
(撮像装置の構成)
図1は、本発明の実施例1に係る撮像装置100を示す図である。図1に基づいて、撮像装置100の構成について説明する。この撮像装置100は、被写体である被検物30の光学像を高倍率で撮像し、高精細のデジタル画像を取得するための装置である。撮像装置100で取得されたデジタル画像は、不図示の画像処理装置(コンピュータ)へ伝送し、或いは、表示装置へ表示し、或いは、記憶装置に格納される。上記の撮像装置と画像処理装置(さらには表示装置や記憶装置)を合わせて、撮像システムを構成することができる。なお、撮像装置の構成はこの例に限らず、たとえば、画像処理装置、記憶装置、表示装置などの機能の全部或いは一部を撮像装置に搭載してもよい。
【0012】
撮像装置100は、顕微鏡1と、表面形状計測装置2と、広範囲撮影装置3と、搬入搬出装置200と、制御部4からなる。
【0013】
まず、顕微鏡1について説明する。
顕微鏡1は、被写体である被検物(プレパラート)30を照明する照明部10と、被検物30の像を結像する結像光学系40と、被検物30の像を撮像する撮像部50とを有する。撮像部50は、複数の撮像素子とそれらを保持する撮像ステージ60から構成される。被検物ステージ20は、被検物30を保持し移動する保持手段である。
【0014】
被検物ステージ20は、被検物30を保持する保持部(不図示)と、保持部をX方向・Y方向に移動するXYステージ23と、保持部をZ方向に移動するZステージ24を含む。ここで、Z方向は、結像光学系40の光軸方向に相当し、X方向・Y方向は、光軸に垂直な方向に相当する。保持部としては、板バネ、真空吸着、静電吸着などが考えられる。保持部に板バネを用いる場合は、被検物30の非撮像領域をZ方向から押さえる、或いは被検物30の側面をX方向・Y方向から押さえる方法が考えられる。保持部に真空吸着、
静電吸着を用いる場合は、被検物30の非撮像領域を被検物30の裏面から吸着する方法が考えられる。XYステージ23およびZステージ24には、照明部10からの光を通過させるための開口が設けられている。
【0015】
実施例1の被検物ステージ20は、被検物30を保持したまま、広範囲撮影装置3と、表面形状計測装置2と、顕微鏡1とのあいだを往来可能に構成されている。これにより、実施例1の被検物ステージ20は、被検物30の保持状態を一定に保つことができる。よって、実施例1は、広範囲撮影装置3、表面形状計測装置2、顕微鏡1において高精度な保持再現性を要求される場合に適している。
【0016】
図2(a)は、被検物30をZ方向からみた図であり、図2(b)は、被検物30をX方向からみた図である。被検物30の一例であるプレパラートは、図2(a)、(b)に示したように、カバーグラス301と試料302とスライドグラス303を含む。スライドグラス303上に配置された試料302(組織切片等の生体サンプルなど)は、カバーグラス301および接着剤(不図示)で密封されている。スライドグラス303上には、例えばスライドグラスの識別番号およびカバーグラスの厚さなど被検物30(試料302)を管理するのに必要な情報が記録されたラベル333が貼付されていてもよい。ラベル333の例としては、1次元バーコード、2次元バーコード(マトリックスコード、スタックコード)、手書きメモなどがある。なお、本実施例では、画像取得の対象となる被検物30としてプレパラートを例示したが、それ以外の物を被検物としても良い。
【0017】
図3は、結像光学系40のレンズ構成を示す模式図である。結像光学系40は、被検物30の像を所定の倍率で拡大しつつ撮像部50の撮像面上に結像するための光学系である。具体的には、図3に示したように、結像光学系40は、複数のレンズおよびミラーを含み、物体面A上の物体の像を像面B上に結像する。本実施例において、結像光学系40は被検物30と撮像部50の撮像面とが光学的に共役となるように配置されている。物体面Aが被検物30上の合焦面に相当し、像面Bが撮像部50の撮像面に相当する。図3の光学配置図は、画角10mm×10mm以上で、物体面側の開口数NAが0.7以上となる結像光学系を、レンズおよびミラーを用いて構成した例を示している。
【0018】
図4(a)は、撮像部50の上面図である。撮像部50は、図4(a)に示したように、結像光学系40の視野F内に2次元的に配列している(タイリングされている)複数の撮像素子501からなる撮像素子群555を含み、一度に複数の画像を撮像する構成となっている。撮像素子501としては、CCDやCMOS等を用いることができる。撮像部50に搭載される撮像素子501の数は、結像光学系40の視野Fの面積に応じて適宜決定される。撮像素子501の配置も、結像光学系40の視野Fの形状や撮像素子501の形状・構成などによって適宜決定される。本実施例では、説明を分かり易くするために、撮像素子群555としてXY平面上に5×4個のCMOSが並んでいるものを用いる。
【0019】
一般的な撮像部50では、撮像素子501の受光領域(図4(a)の灰色部分)の周囲に基板等の不感領域(図4(a)の白色部分)が存在するため、撮像素子501どうしを隙間なく隣接して配置することは不可能である。そのため、撮像部50での1回の撮影で得られる画像は、撮像素子501どうしの隙間に対応する部分が抜け落ちたものとなってしまう。そこで本実施例の撮像装置100では、この撮像素子501どうしの隙間を埋めるため、被検物ステージ20を移動して被検物30と撮像素子群555との相対位置を変更しながら撮像を複数回行うことで、抜けのない試料302の画像を取得する。この動作を高速に行うことにより、撮像に要する時間を短縮しつつ、広い領域の撮像を行うことができる。
【0020】
図4(b)は、撮像部50をX方向からみた図である。図示のように、撮像部50は、
複数の駆動部を含む駆動機構506を有しており、撮像素子501の位置および姿勢を個別に制御することができる。各撮像素子501の位置および姿勢制御は、後述する表面形状計測装置2にて得られる表面形状情報91を用いて行われる。
【0021】
次に、表面形状計測装置2について説明する。表面形状計測装置2は、被検物30の表面形状(高さ分布)を計測する手段である。被検物30のカバーグラス301がうねっていた場合、試料302に対する合焦面もうねった曲面になる。このような場合に、撮像素子群555の撮像面を同一平面上に並べた状態で試料302の像を撮像すると、一部の撮像面が、合焦面(合焦位置)から離れてしまい、結像光学系40の焦点深度内に収まらなくなる。その結果、その一部の撮像面上に投影される試料302の像がボケてしまい、ボケた部分が存在するデジタル画像を撮像装置100で取得してしまう。そこで、本実施例の撮像装置100では、被検物30の表面形状を表面形状計測装置2で計測し、その計測情報を基にして制御部4が各駆動機構506の駆動量を演算する。制御部4は、撮像素子群555のうち合焦面と撮像面が離れている撮像素子501を合焦面に近づけるように駆動量を演算し、指令値52を駆動機構506に送る。
【0022】
表面形状計測装置2は、図1に示したように、被検物30を照明する照明部70と、被検物30の表面形状を計測する計測部90を有する。図5に示したように、計測部90は、変倍光学系901と、入射光の波面を測定する波面センサ902を有する。変倍光学系901は、被検物30と波面センサ902とが光学的に共役になり、結像倍率が可変となるように構成されている。本実施例では、波面センサ902としてシャックハルトマン波面センサを用いているが、シャックハルトマン波面センサの代わりに干渉計(例えば、シアリング干渉計など)を用いて反射光の波面を検出してもよい。
【0023】
波面センサ902の計測領域は、カバーグラス301の表面全体の形状(高さ分布)を一度に検出できることが望ましいが、計測領域が広くなると計測装置2が大型化してしまう。一方、波面センサ902の計測領域が狭いと計測装置2を小型化できるが、カバーグラス301の試料302が存在する領域全体を計測するのに、被検物ステージ20を移動させて複数回計測する必要がある。実施例1では、計測装置2を必要以上に大型化することなく、更に、効率良く被検体の表面形状計測を行うために、表面形状計測装置2の計測領域の画角を顕微鏡1の撮像領域の画角と等しくしている。なお、計測領域と撮像領域の画角は同じにする必要はなく、それぞれ任意のサイズに設定することができる。
【0024】
次に、広範囲撮影装置3について説明する。広範囲撮影装置3は、被写体である被検物30の全体領域のなかから試料302(撮像すべき対象物)が存在する領域を特定するために用いられる画像を取得するための手段である。広範囲撮影装置3は、図1に示すように、広範囲撮影カメラ80を有する。広範囲撮影カメラ80は、顕微鏡1の撮像部50よりも低解像でよいが、少なくとも被検物30のカバーグラスの全域を撮影可能な画角を有している必要がある。広範囲撮影カメラ80により、表面形状計測装置2での計測や、顕微鏡1での撮像に先立って、被検物30の試料302が存在する領域を事前に把握することができるようになる。広範囲撮影カメラ80で撮影された被検物の全体領域の画像は、広範囲撮影情報81として制御部4に伝送される。
【0025】
図6は被検物30の存在領域Eを説明する図である。図6に示したように、存在領域Eを矩形で定義する場合には、広範囲撮影カメラ80の広範囲撮影情報81を基にして、座標値X1、X2、Y1、Y2の値を制御部4で求めて、試料302の存在領域Eを決定することができる。なお図6の破線で区切られた各矩形領域が一つの計測領域(或いは撮像領域)を表している。
【0026】
制御部4は、被検物30の試料302が存在する存在領域Eのみを表面形状計測装置2
で計測するように、表面形状計測装置2には計測指令92を送り、被検物ステージ20には駆動指令22を送る。更に、制御部4は、被検物30の試料302が存在する存在領域Eのみを顕微鏡1で撮像するように、撮像部50に撮像指令52を送り、被検物ステージ20に駆動指令22を送る。これにより、試料302の存在領域E以外の領域に対する表面形状計測や撮像を省略することができ、処理時間の短縮を図ることができる。図6の例では、カバーグラス301の全体の表面形状を計測するには、10×25=250回の計測が必要になる。これに対し、存在領域Eだけであれば、8×8=64回の計測で済むため、表面形状の計測時間が単純計算で約1/4に短縮される。
【0027】
また、撮像装置100は、広範囲撮影カメラ80の広範囲撮影情報81を用いて、被検物30のエラー検出を行うことも可能である。被検物30のエラーとしては、カバーグラス301がずれてスライドグラス303からはみ出した状態、試料の形状や染色の異常などが考えられる。この種のエラー検出は、たとえば二値化、特徴量抽出、輪郭検出などの公知の画像解析処理を利用して行うことが可能である。エラーが検出された被検物30は、表面形状計測装置2に送られる前に、搬入搬出装置200により回収される。
また、広範囲撮影カメラ80の撮像領域を広げて、ラベル333の領域まで撮像できるようにして、広範囲撮影カメラ80の広範囲撮影情報81を用いてラベル333の読み取りを行っても良い。
【0028】
搬入搬出装置200は、ストッカー201に格納された被検物30を搬送手段(不図示)により被検物ステージ20に搭載する。搬送手段の具体的な機構としては、ハンド装置などが考えられる。搬入搬出装置200の内部に被検物30のラベル読み取り装置(不図示)を搭載して、ラベル333の読み取りを行っても良い。
【0029】
顕微鏡1での撮像が完了した後、制御部4は、撮像部50からの撮像情報51を基にして得られた被検物30の顕微鏡撮像画像を、不図示の画像処理装置、記憶装置、或いは表示装置に伝送する。顕微鏡1で取得された画像データに対し、現像、ガンマ変換、色変換、合成などの処理が必要な場合、これらの処理は画像処理装置において行ってもよいし、撮像装置100内に設けられた不図示の演算回路において行うこともできる。
【0030】
(撮像装置の動作)
次に、実施例1の撮像装置100の動作を図7のフローチャートに基づいて説明する。
まず、制御部4からの搬送指令に基づき、搬入搬出装置200が被検物30をストッカー201から取り出し、広範囲撮影装置3の位置にある被検物ステージ20上に搭載する(S10)。制御部4からの撮影指令82に基づき、広範囲撮影カメラ80が被検物30の広範囲撮影(全体撮影)を行う。そして制御部4は、画像解析により広範囲撮影情報81から試料302が存在する部分を検出し、存在領域Eを特定する(S20)。被検物(プレパラート)30の試料302の部分とそれ以外の背景部分とは、輝度および色が有意に異なっているのが通常である。したがって、二値化、特徴量抽出、輪郭検出などの公知の画像解析処理を用いて試料302の部分を検出することができる。
【0031】
次に、制御部4からの搬送指令に基づき、被検物30を保持した被検物ステージ20は、表面形状計測装置2の計測位置に移動する(S30)。制御部4からの計測指令92に従って、表面形状計測装置2が被検物30の表面形状を計測する(S40)。このとき、表面形状計測装置2は、S20で特定された試料302の存在領域Eのみを計測する。1回の表面形状計測で存在領域Eの全体を計測できない場合は、被検物ステージ20を次の計測位置に移動して(S50)、表面形状の計測を再度行う(S40)。存在領域Eの全体の表面形状の計測が完了するまで、S40、S50を繰り返す。
【0032】
存在領域Eの表面形状の計測が完了したら、制御部4からの搬送指令に基づき、被検物
ステージ20が顕微鏡1の撮像位置に移動する(S60)。制御部4は、S40で取得した被検物30の表面形状情報91と結像光学系40の倍率とに基づいて、試料302の合焦曲面を演算する。制御部4は、各撮像素子501の駆動機構506に指令値52を送り、演算された合焦曲面に撮像面が沿うように、各撮像素子501の姿勢を制御する(S70)。
【0033】
その後、顕微鏡1で撮像を行いデジタル画像を取得する(S80)。1回の撮像で、存在領域Eの全体を撮像できない場合は、被検物ステージ20を次の撮像位置に移動して(S90)、撮像素子501の撮像面を調整し(S70)、撮像を再度行う(S80)。存在領域Eの全体の撮像が完了するまで、S70、S80、S90を繰り返す。存在領域Eの撮像が完了したら、制御部4からの搬送指令に基づき、被検物ステージ20を広範囲撮影装置3の位置に移動し(S100)、被検物30をストッカー201に回収する(S110)。
【0034】
以上のように、実施例1の構成によれば、広範囲撮影カメラ80により、表面形状計測装置2での計測や、顕微鏡1での撮像に先立って、被検物30の試料302が存在する領域Eを事前に把握することができるようになる。これにより、試料302が存在しない領域に対する表面形状の計測や撮像を省くことができるため、表面形状計測ならびに撮像の処理時間を短縮できる。その結果、撮像装置100の全体の処理能力(スループット)を向上することができる。
【0035】
図8(A)は、実施例1の撮像装置の各動作の処理時間を時間軸上で表したものである。また比較のため、表面形状計測装置2でカバーグラス全域の表面形状を計測した場合の処理時間を図8(B)に示す。図8(A)、図8(B)では、それぞれの動作に必要な処理時間を下記のように表している。
【0036】
T10:被検物30の搬入時間
T20:広範囲撮影および存在領域Eの演算時間
T30S:被検物ステージ20の広範囲撮影位置から表面形状計測位置までの移動時間
T40:表面形状計測時間
T60:被検物ステージ20の表面形状計測位置から顕微鏡撮像位置までの移動時間、もしくは、被検物ステージ20の顕微鏡撮像位置から表面形状計測位置までの移動時間
T80:顕微鏡撮像時間(撮像素子501同士の隙間を埋めるため、被検物ステージ20の微小移動時間を含む)
T100:被検物ステージ20の顕微鏡撮像位置から広範囲撮影位置までの移動時間
T110:被検物30の搬出時間
【0037】
実施例1において、一つの被検物30の画像取得に要する処理時間TSは、下記式のように表される。
TS=T10+T20+T30S+T40+T60+T80+T100+T110
【0038】
実施例1では、表面形状の計測範囲を試料の存在領域Eに限定したことにより、表面形状計測時間T40が大幅に短縮され、処理時間TSが従来(図8(B))に比べて短くなっていることがわかる。
【0039】
[実施例2]
実施例1は、被検物30の保持状態を一定に保つことができるので、広範囲撮影装置3、表面形状計測装置2、および顕微鏡1において高精度な保持再現性を要求される場合に適している。しかしながら、一つの被検物に対する処理をすべて終えた後(つまり被検物をストッカーに戻した後)でなければ、次の被検物に対する処理を開始することができな
いため、多数の被検物を連続処理する際の総処理時間が長くなってしまう。
【0040】
そこで実施例2では、画像取得に関する動作の一部を並列処理することにより、撮像装置のスループットを更に向上させる構成を採用する。並列処理を行うためには、画像取得に関する動作の中で、被検物ステージ20とは別に、被検物30を保持する部材を設け、この部材と被検物ステージ20とのあいだで被検物30の受け渡しができれば良い。これにより、被検物30の受け渡し前後の動作を並列に処理できるようになる。
【0041】
表面形状計測装置2と顕微鏡1の間で被検物30の受け渡しを行うと、表面形状計測装置2と顕微鏡1とのあいだで、被検物30の保持状態(ステージ上の位置や姿勢、被検物30に生じる応力など)が変わってしまう。そうすると、表面形状計測位置にあるときと顕微鏡1の撮像位置にあるときとで、カバーグラス301の表面形状(うねり)が変化する。そのため、表面形状計測装置2で計測した表面形状に応じて顕微鏡1の撮像素子群555の位置や姿勢を調整したとしても、その撮像面を正しい合焦面に近づけることができなくなる。このような理由により、表面形状計測装置2と顕微鏡1とのあいだで被検物30の受け渡しを行うことは望ましくない。
【0042】
そこで、実施例2の撮像装置では、広範囲撮影装置3と表面形状計測装置2の間で被検物30の受け渡しを行う。その理由は、広範囲撮影装置3では、被検物30の試料302が存在する存在領域Eを大まかに(100μm程度の精度で)把握できれば良いので、広範囲撮影装置3と表面形状計測装置2の間で被検物30の保持状態が完全に同じである必要はないからである。一方、表面形状計測装置2と顕微鏡1との間は、被検物30の保持状態が同じである(許容誤差は0.1μm程度)必要があるので、被検物30を保持した被検物ステージ20が、被検物30の保持状態を変えることなく往復運動するようになっている。以上により実施例2は、広範囲撮影装置3と表面形状計測装置2の間で被検物30の受け渡しを行うことにより、図7のS10、S20およびS110の動作と、S40〜S90の動作を並列処理できるようになり、処理速度を向上した撮像装置を実現している。
【0043】
よって、実施例2は、広範囲撮影装置3と表面形状計測装置2における被検物30の保持状態を完全に一致させる必要が無い場合において、処理速度を向上した撮像装置を実現するのに適している。
【0044】
実施例2の撮像装置101の構成を図9に示す。実施例1との違いは、搬入搬出装置200から搬入された被検物30が、広範囲撮影装置3の広範囲撮影台83に置かれ、その後、交換ハンド400によって、広範囲撮影台83から被検物ステージ20に受け渡される点である。被検物ステージ20は、搭載した被検物30の保持状態を変えることなく、表面形状計測装置2と顕微鏡1の間を往復運動できるようになっている。
【0045】
次に、実施例2の撮像装置101の動作を図10のフローチャートに基づいて説明する。
まず、制御部4からの搬送指令に基づき、搬入搬出装置200が被検物30bをストッカー201から取り出し、広範囲撮影台83に搭載する(U10)。実施例1と同様、広範囲撮影カメラ80が被検物30bを撮影し、制御部4が広範囲撮影情報81から試料302の存在領域Eを計算する(U20)。
【0046】
交換ハンド400は、広範囲撮影が終わった被検物30bを被検物ステージ20上に移動させると同時に、顕微鏡1での撮像が完了して、表面形状計測装置2の位置にある被検物30aを広範囲撮影台83上に移動する(U30)。つまり、交換ハンド400によって、広範囲撮影台83上の被検物と被検物ステージ20上の被検物とを入れ替えるのであ
る。
【0047】
その後、被検物30aは、搬入搬出装置200によりストッカー201に回収され(U110a)、被検物30bは、表面形状計測装置2により、表面形状を計測される(U40)。ここでも実施例1と同様、U20で決定された試料の存在領域Eについてのみ、表面形状の計測が行われ、存在領域E以外の領域については計測が省かれる(U40,U50)。
【0048】
存在領域Eの表面形状の計測が完了したら、制御部4からの搬送指令に基づき、被検物ステージ20が顕微鏡1の位置に移動する(U60)。そして、実施例1と同様、被検物30bの表面形状に応じて各撮像素子501の姿勢を制御した後、顕微鏡1で撮像を行い、デジタル画像を取得する(U70,U80,U90)。
【0049】
存在領域Eの撮像が完了したら、制御部4からの搬送指令に基づき、被検物ステージ20が表面形状計測装置2の位置に移動する(U100)。前述したように、顕微鏡撮像が終わった被検物30bは、交換ハンド400によって、新たに搬入されてきた被検物と交換され、広範囲撮影台83上に搭載される(U30)。最後に、被検物30bは搬入搬出装置200によりストッカー201に回収される(U110b)。
【0050】
実施例2の撮像装置の各動作の処理時間を時間軸上で表すと、図11のようになる。ここでは、それぞれの動作に必要な処理時間を下記のように表している。
T10:被検物30の搬入時間
T20:広範囲撮影および存在領域Eの演算時間
T30U:交換ハンド400による広範囲撮影位置と表面形状計測位置のあいだの移動時間
T40:表面形状計測時間
T60:被検物ステージ20の表面形状計測位置から顕微鏡撮像位置までの移動時間、もしくは、被検物ステージ20の顕微鏡撮像位置から表面形状計測位置までの移動時間
T80:顕微鏡撮像時間(撮像素子501同士の隙間を埋めるため、被検物ステージ20の微小移動時間を含む)
T110:被検物30の搬出時間
【0051】
図11に示すように、実施例2では、先に撮像された被検物が搬出されるよりも前に、次の被検物の搬入を開始し、広範囲撮影などの処理を行うことができる。ここで、被検物ステージ20上の被検物30に対し計測処理や撮像処理が行われているあいだに、次の被検物30の搬入を開始し、広範囲撮影や存在領域特定などの処理が行われるようにすれば、処理時間の短縮を図ることができる。最も時間のロスが少ないのは、先に撮像された被検物がステージ移動により表面形状計測位置に戻る(U100)タイミングと、次の被検物の広範囲撮影(U20)が終了するタイミングとが合う場合である。制御部4は、このようなタイミングとなるように、次の被検物の搬入動作を開始するとよい。なお、搬入時間T10、広範囲撮影の時間T20、交換ハンドによる移動時間T30U、ステージ移動時間T60は予め知ることができ、表面形状計測時間T40、顕微鏡撮像時間T80は、存在領域Eの大きさ(計測/撮像回数)に基づき計算可能である。
【0052】
上記のように最も時間のロスを少なくした場合、一つの被検物30の画像取得に要する処理時間TUは、下記式のように表される。
TU=T40+T60×2+T80+T30U
【0053】
実施例2では、実施例1に比べて被検物一つあたりの処理時間がTS−TUだけ短縮されている。
TS−TU=T10+T20+T110+(T30S−T30U+T100−T60)
【0054】
T30S−T30U+T100−T60≧0とすると、実施例2は、実施例1に比べて、少なくともT10+T20+T110、すなわち、搬入時間、広範囲撮影および存在領域Eの演算時間および搬出時間だけ短縮できていることが分かる。
【0055】
以上、本発明の好ましい実施例について説明したが、本発明はこれらの実施例に限定されないことはいうまでもなく、その要旨の範囲内で種々の変形及び変更が可能である。
たとえば、実施例2では表面形状計測装置2と顕微鏡1との間を、図9に示すような直動ステージを往復運動させて被検物30を搬送したが、図12に示すような回転テーブル29を用いて被検物30を搬送しても良い。また、被検物30の位置決めの精度が確保できる場合には、表面形状計測装置2と顕微鏡1とのあいだで被検物30の受け渡しを行っても構わない。
また上記実施例ではカメラで撮影した画像を用いて試料の存在範囲を特定したが、カメラ以外のセンサを用いて試料の存在範囲を検出する構成も好ましい。
【符号の説明】
【0056】
1:顕微鏡、2:表面形状計測装置、3:広範囲撮影装置、4:制御部、50:撮像部、100,101:撮像装置
【技術分野】
【0001】
本発明は、撮像装置およびその制御方法に関する。
【背景技術】
【0002】
病理学の分野等で、プレパラートの像を撮像してデジタル画像(バーチャルスライド画像)を取得する撮像装置と、そのデジタル画像を処理・解析して表示装置に表示する画像処理装置とから構成される撮像システムが注目されている。
この種のシステムではプレパラートを高解像度で高速に撮像することが求められている。そこで、高解像度のデジタル画像を効率良く取得するために、プレパラートをマクロ撮像することでプレパラート上の試料(検体、生体サンプル)の存在する領域を予め計測し、その領域のみで高解像度の撮像を行う撮像装置が提案されている(特許文献1)。また、プリビューカメラと高倍率の撮像手段を有し、プリビュー画像から標本が存在する画素を探索するルーチンを有する撮像装置が提案されている(特許文献2)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2007−310231号公報
【特許文献2】特表2009−528580号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、上記のような高倍率の撮像装置においては、結像光学系(対物レンズ)の被写界深度は極めて浅い。一方、スライドグラスとカバーグラスの間に試料を密封するためにスライドグラスとカバーグラスを接着すると、カバーグラスおよび試料が変形して試料の表面がうねってしまう場合がある。試料の表面がうねっていると、試料の一部が被写界深度内に入りきらなくなり、ボケの少ない良好な画像を取得できない。そのため、高倍率撮像の前に、カバーグラス表面の表面形状(うねり)を計測して、表面形状に応じて撮像素子の位置および姿勢を調整することが望ましい。
【0005】
この際、カバーグラス全域の表面形状計測を一度で行おうとすると、表面形状計測手段が大型化してしまう。表面形状計測手段を大型化させないためには、表面形状の計測領域を狭くせざるを得ない。その場合、試料が存在する領域のカバーグラスの表面形状を効率良く計測しなければ、撮像装置の処理速度(スループット)を低下させてしまう。
【0006】
本発明は上記実情に鑑みてなされたものであって、表面形状の計測処理を効率的に行い、撮像装置のスループットを向上させる技術を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の第1態様は、被写体を保持する保持手段と、前記被写体の表面形状を計測する表面形状計測手段と、前記表面形状計測手段により計測された表面形状に合わせて撮像面を調整して、前記被写体の撮像を行う撮像手段と、を備えた撮像装置であって、前記被写体の全体領域のなかから撮像すべき対象物が存在する存在領域を特定する特定手段を有しており、前記表面形状計測手段は、前記特定手段により特定された存在領域の表面形状のみを計測する撮像装置を提供する。
【0008】
本発明の第2態様は、被写体を保持する保持手段と、前記被写体の表面形状を計測する表面形状計測手段と、前記表面形状計測手段により計測された表面形状に合わせて撮像面
を調整して、前記被写体の撮像を行う撮像手段と、を備えた撮像装置の制御方法であって、前記被写体の全体領域のなかから撮像すべき対象物が存在する存在領域を特定する特定工程と、前記特定工程において特定された存在領域の表面形状のみを前記表面形状計測手段により計測する計測工程と、を含む撮像装置の制御方法を提供する。
【発明の効果】
【0009】
本発明によれば、表面形状の計測処理を効率的に行い、撮像装置のスループットを向上させることができる。
【図面の簡単な説明】
【0010】
【図1】実施例1の撮像装置を示す図。
【図2】被検物(プレパラート)30を示す図。
【図3】結像光学系40を示す図。
【図4】撮像部50を示す図。
【図5】表面形状計測装置2を示す図。
【図6】被検物30の試料302の存在領域Eを説明する図。
【図7】実施例1の動作フローチャート。
【図8】実施例1のタイムチャート。
【図9】実施例2の撮像装置を示す図。
【図10】実施例2の動作フローチャート。
【図11】実施例2のタイムチャート。
【図12】回転テーブルによる搬送方法を示す図。
【発明を実施するための形態】
【0011】
[実施例1]
(撮像装置の構成)
図1は、本発明の実施例1に係る撮像装置100を示す図である。図1に基づいて、撮像装置100の構成について説明する。この撮像装置100は、被写体である被検物30の光学像を高倍率で撮像し、高精細のデジタル画像を取得するための装置である。撮像装置100で取得されたデジタル画像は、不図示の画像処理装置(コンピュータ)へ伝送し、或いは、表示装置へ表示し、或いは、記憶装置に格納される。上記の撮像装置と画像処理装置(さらには表示装置や記憶装置)を合わせて、撮像システムを構成することができる。なお、撮像装置の構成はこの例に限らず、たとえば、画像処理装置、記憶装置、表示装置などの機能の全部或いは一部を撮像装置に搭載してもよい。
【0012】
撮像装置100は、顕微鏡1と、表面形状計測装置2と、広範囲撮影装置3と、搬入搬出装置200と、制御部4からなる。
【0013】
まず、顕微鏡1について説明する。
顕微鏡1は、被写体である被検物(プレパラート)30を照明する照明部10と、被検物30の像を結像する結像光学系40と、被検物30の像を撮像する撮像部50とを有する。撮像部50は、複数の撮像素子とそれらを保持する撮像ステージ60から構成される。被検物ステージ20は、被検物30を保持し移動する保持手段である。
【0014】
被検物ステージ20は、被検物30を保持する保持部(不図示)と、保持部をX方向・Y方向に移動するXYステージ23と、保持部をZ方向に移動するZステージ24を含む。ここで、Z方向は、結像光学系40の光軸方向に相当し、X方向・Y方向は、光軸に垂直な方向に相当する。保持部としては、板バネ、真空吸着、静電吸着などが考えられる。保持部に板バネを用いる場合は、被検物30の非撮像領域をZ方向から押さえる、或いは被検物30の側面をX方向・Y方向から押さえる方法が考えられる。保持部に真空吸着、
静電吸着を用いる場合は、被検物30の非撮像領域を被検物30の裏面から吸着する方法が考えられる。XYステージ23およびZステージ24には、照明部10からの光を通過させるための開口が設けられている。
【0015】
実施例1の被検物ステージ20は、被検物30を保持したまま、広範囲撮影装置3と、表面形状計測装置2と、顕微鏡1とのあいだを往来可能に構成されている。これにより、実施例1の被検物ステージ20は、被検物30の保持状態を一定に保つことができる。よって、実施例1は、広範囲撮影装置3、表面形状計測装置2、顕微鏡1において高精度な保持再現性を要求される場合に適している。
【0016】
図2(a)は、被検物30をZ方向からみた図であり、図2(b)は、被検物30をX方向からみた図である。被検物30の一例であるプレパラートは、図2(a)、(b)に示したように、カバーグラス301と試料302とスライドグラス303を含む。スライドグラス303上に配置された試料302(組織切片等の生体サンプルなど)は、カバーグラス301および接着剤(不図示)で密封されている。スライドグラス303上には、例えばスライドグラスの識別番号およびカバーグラスの厚さなど被検物30(試料302)を管理するのに必要な情報が記録されたラベル333が貼付されていてもよい。ラベル333の例としては、1次元バーコード、2次元バーコード(マトリックスコード、スタックコード)、手書きメモなどがある。なお、本実施例では、画像取得の対象となる被検物30としてプレパラートを例示したが、それ以外の物を被検物としても良い。
【0017】
図3は、結像光学系40のレンズ構成を示す模式図である。結像光学系40は、被検物30の像を所定の倍率で拡大しつつ撮像部50の撮像面上に結像するための光学系である。具体的には、図3に示したように、結像光学系40は、複数のレンズおよびミラーを含み、物体面A上の物体の像を像面B上に結像する。本実施例において、結像光学系40は被検物30と撮像部50の撮像面とが光学的に共役となるように配置されている。物体面Aが被検物30上の合焦面に相当し、像面Bが撮像部50の撮像面に相当する。図3の光学配置図は、画角10mm×10mm以上で、物体面側の開口数NAが0.7以上となる結像光学系を、レンズおよびミラーを用いて構成した例を示している。
【0018】
図4(a)は、撮像部50の上面図である。撮像部50は、図4(a)に示したように、結像光学系40の視野F内に2次元的に配列している(タイリングされている)複数の撮像素子501からなる撮像素子群555を含み、一度に複数の画像を撮像する構成となっている。撮像素子501としては、CCDやCMOS等を用いることができる。撮像部50に搭載される撮像素子501の数は、結像光学系40の視野Fの面積に応じて適宜決定される。撮像素子501の配置も、結像光学系40の視野Fの形状や撮像素子501の形状・構成などによって適宜決定される。本実施例では、説明を分かり易くするために、撮像素子群555としてXY平面上に5×4個のCMOSが並んでいるものを用いる。
【0019】
一般的な撮像部50では、撮像素子501の受光領域(図4(a)の灰色部分)の周囲に基板等の不感領域(図4(a)の白色部分)が存在するため、撮像素子501どうしを隙間なく隣接して配置することは不可能である。そのため、撮像部50での1回の撮影で得られる画像は、撮像素子501どうしの隙間に対応する部分が抜け落ちたものとなってしまう。そこで本実施例の撮像装置100では、この撮像素子501どうしの隙間を埋めるため、被検物ステージ20を移動して被検物30と撮像素子群555との相対位置を変更しながら撮像を複数回行うことで、抜けのない試料302の画像を取得する。この動作を高速に行うことにより、撮像に要する時間を短縮しつつ、広い領域の撮像を行うことができる。
【0020】
図4(b)は、撮像部50をX方向からみた図である。図示のように、撮像部50は、
複数の駆動部を含む駆動機構506を有しており、撮像素子501の位置および姿勢を個別に制御することができる。各撮像素子501の位置および姿勢制御は、後述する表面形状計測装置2にて得られる表面形状情報91を用いて行われる。
【0021】
次に、表面形状計測装置2について説明する。表面形状計測装置2は、被検物30の表面形状(高さ分布)を計測する手段である。被検物30のカバーグラス301がうねっていた場合、試料302に対する合焦面もうねった曲面になる。このような場合に、撮像素子群555の撮像面を同一平面上に並べた状態で試料302の像を撮像すると、一部の撮像面が、合焦面(合焦位置)から離れてしまい、結像光学系40の焦点深度内に収まらなくなる。その結果、その一部の撮像面上に投影される試料302の像がボケてしまい、ボケた部分が存在するデジタル画像を撮像装置100で取得してしまう。そこで、本実施例の撮像装置100では、被検物30の表面形状を表面形状計測装置2で計測し、その計測情報を基にして制御部4が各駆動機構506の駆動量を演算する。制御部4は、撮像素子群555のうち合焦面と撮像面が離れている撮像素子501を合焦面に近づけるように駆動量を演算し、指令値52を駆動機構506に送る。
【0022】
表面形状計測装置2は、図1に示したように、被検物30を照明する照明部70と、被検物30の表面形状を計測する計測部90を有する。図5に示したように、計測部90は、変倍光学系901と、入射光の波面を測定する波面センサ902を有する。変倍光学系901は、被検物30と波面センサ902とが光学的に共役になり、結像倍率が可変となるように構成されている。本実施例では、波面センサ902としてシャックハルトマン波面センサを用いているが、シャックハルトマン波面センサの代わりに干渉計(例えば、シアリング干渉計など)を用いて反射光の波面を検出してもよい。
【0023】
波面センサ902の計測領域は、カバーグラス301の表面全体の形状(高さ分布)を一度に検出できることが望ましいが、計測領域が広くなると計測装置2が大型化してしまう。一方、波面センサ902の計測領域が狭いと計測装置2を小型化できるが、カバーグラス301の試料302が存在する領域全体を計測するのに、被検物ステージ20を移動させて複数回計測する必要がある。実施例1では、計測装置2を必要以上に大型化することなく、更に、効率良く被検体の表面形状計測を行うために、表面形状計測装置2の計測領域の画角を顕微鏡1の撮像領域の画角と等しくしている。なお、計測領域と撮像領域の画角は同じにする必要はなく、それぞれ任意のサイズに設定することができる。
【0024】
次に、広範囲撮影装置3について説明する。広範囲撮影装置3は、被写体である被検物30の全体領域のなかから試料302(撮像すべき対象物)が存在する領域を特定するために用いられる画像を取得するための手段である。広範囲撮影装置3は、図1に示すように、広範囲撮影カメラ80を有する。広範囲撮影カメラ80は、顕微鏡1の撮像部50よりも低解像でよいが、少なくとも被検物30のカバーグラスの全域を撮影可能な画角を有している必要がある。広範囲撮影カメラ80により、表面形状計測装置2での計測や、顕微鏡1での撮像に先立って、被検物30の試料302が存在する領域を事前に把握することができるようになる。広範囲撮影カメラ80で撮影された被検物の全体領域の画像は、広範囲撮影情報81として制御部4に伝送される。
【0025】
図6は被検物30の存在領域Eを説明する図である。図6に示したように、存在領域Eを矩形で定義する場合には、広範囲撮影カメラ80の広範囲撮影情報81を基にして、座標値X1、X2、Y1、Y2の値を制御部4で求めて、試料302の存在領域Eを決定することができる。なお図6の破線で区切られた各矩形領域が一つの計測領域(或いは撮像領域)を表している。
【0026】
制御部4は、被検物30の試料302が存在する存在領域Eのみを表面形状計測装置2
で計測するように、表面形状計測装置2には計測指令92を送り、被検物ステージ20には駆動指令22を送る。更に、制御部4は、被検物30の試料302が存在する存在領域Eのみを顕微鏡1で撮像するように、撮像部50に撮像指令52を送り、被検物ステージ20に駆動指令22を送る。これにより、試料302の存在領域E以外の領域に対する表面形状計測や撮像を省略することができ、処理時間の短縮を図ることができる。図6の例では、カバーグラス301の全体の表面形状を計測するには、10×25=250回の計測が必要になる。これに対し、存在領域Eだけであれば、8×8=64回の計測で済むため、表面形状の計測時間が単純計算で約1/4に短縮される。
【0027】
また、撮像装置100は、広範囲撮影カメラ80の広範囲撮影情報81を用いて、被検物30のエラー検出を行うことも可能である。被検物30のエラーとしては、カバーグラス301がずれてスライドグラス303からはみ出した状態、試料の形状や染色の異常などが考えられる。この種のエラー検出は、たとえば二値化、特徴量抽出、輪郭検出などの公知の画像解析処理を利用して行うことが可能である。エラーが検出された被検物30は、表面形状計測装置2に送られる前に、搬入搬出装置200により回収される。
また、広範囲撮影カメラ80の撮像領域を広げて、ラベル333の領域まで撮像できるようにして、広範囲撮影カメラ80の広範囲撮影情報81を用いてラベル333の読み取りを行っても良い。
【0028】
搬入搬出装置200は、ストッカー201に格納された被検物30を搬送手段(不図示)により被検物ステージ20に搭載する。搬送手段の具体的な機構としては、ハンド装置などが考えられる。搬入搬出装置200の内部に被検物30のラベル読み取り装置(不図示)を搭載して、ラベル333の読み取りを行っても良い。
【0029】
顕微鏡1での撮像が完了した後、制御部4は、撮像部50からの撮像情報51を基にして得られた被検物30の顕微鏡撮像画像を、不図示の画像処理装置、記憶装置、或いは表示装置に伝送する。顕微鏡1で取得された画像データに対し、現像、ガンマ変換、色変換、合成などの処理が必要な場合、これらの処理は画像処理装置において行ってもよいし、撮像装置100内に設けられた不図示の演算回路において行うこともできる。
【0030】
(撮像装置の動作)
次に、実施例1の撮像装置100の動作を図7のフローチャートに基づいて説明する。
まず、制御部4からの搬送指令に基づき、搬入搬出装置200が被検物30をストッカー201から取り出し、広範囲撮影装置3の位置にある被検物ステージ20上に搭載する(S10)。制御部4からの撮影指令82に基づき、広範囲撮影カメラ80が被検物30の広範囲撮影(全体撮影)を行う。そして制御部4は、画像解析により広範囲撮影情報81から試料302が存在する部分を検出し、存在領域Eを特定する(S20)。被検物(プレパラート)30の試料302の部分とそれ以外の背景部分とは、輝度および色が有意に異なっているのが通常である。したがって、二値化、特徴量抽出、輪郭検出などの公知の画像解析処理を用いて試料302の部分を検出することができる。
【0031】
次に、制御部4からの搬送指令に基づき、被検物30を保持した被検物ステージ20は、表面形状計測装置2の計測位置に移動する(S30)。制御部4からの計測指令92に従って、表面形状計測装置2が被検物30の表面形状を計測する(S40)。このとき、表面形状計測装置2は、S20で特定された試料302の存在領域Eのみを計測する。1回の表面形状計測で存在領域Eの全体を計測できない場合は、被検物ステージ20を次の計測位置に移動して(S50)、表面形状の計測を再度行う(S40)。存在領域Eの全体の表面形状の計測が完了するまで、S40、S50を繰り返す。
【0032】
存在領域Eの表面形状の計測が完了したら、制御部4からの搬送指令に基づき、被検物
ステージ20が顕微鏡1の撮像位置に移動する(S60)。制御部4は、S40で取得した被検物30の表面形状情報91と結像光学系40の倍率とに基づいて、試料302の合焦曲面を演算する。制御部4は、各撮像素子501の駆動機構506に指令値52を送り、演算された合焦曲面に撮像面が沿うように、各撮像素子501の姿勢を制御する(S70)。
【0033】
その後、顕微鏡1で撮像を行いデジタル画像を取得する(S80)。1回の撮像で、存在領域Eの全体を撮像できない場合は、被検物ステージ20を次の撮像位置に移動して(S90)、撮像素子501の撮像面を調整し(S70)、撮像を再度行う(S80)。存在領域Eの全体の撮像が完了するまで、S70、S80、S90を繰り返す。存在領域Eの撮像が完了したら、制御部4からの搬送指令に基づき、被検物ステージ20を広範囲撮影装置3の位置に移動し(S100)、被検物30をストッカー201に回収する(S110)。
【0034】
以上のように、実施例1の構成によれば、広範囲撮影カメラ80により、表面形状計測装置2での計測や、顕微鏡1での撮像に先立って、被検物30の試料302が存在する領域Eを事前に把握することができるようになる。これにより、試料302が存在しない領域に対する表面形状の計測や撮像を省くことができるため、表面形状計測ならびに撮像の処理時間を短縮できる。その結果、撮像装置100の全体の処理能力(スループット)を向上することができる。
【0035】
図8(A)は、実施例1の撮像装置の各動作の処理時間を時間軸上で表したものである。また比較のため、表面形状計測装置2でカバーグラス全域の表面形状を計測した場合の処理時間を図8(B)に示す。図8(A)、図8(B)では、それぞれの動作に必要な処理時間を下記のように表している。
【0036】
T10:被検物30の搬入時間
T20:広範囲撮影および存在領域Eの演算時間
T30S:被検物ステージ20の広範囲撮影位置から表面形状計測位置までの移動時間
T40:表面形状計測時間
T60:被検物ステージ20の表面形状計測位置から顕微鏡撮像位置までの移動時間、もしくは、被検物ステージ20の顕微鏡撮像位置から表面形状計測位置までの移動時間
T80:顕微鏡撮像時間(撮像素子501同士の隙間を埋めるため、被検物ステージ20の微小移動時間を含む)
T100:被検物ステージ20の顕微鏡撮像位置から広範囲撮影位置までの移動時間
T110:被検物30の搬出時間
【0037】
実施例1において、一つの被検物30の画像取得に要する処理時間TSは、下記式のように表される。
TS=T10+T20+T30S+T40+T60+T80+T100+T110
【0038】
実施例1では、表面形状の計測範囲を試料の存在領域Eに限定したことにより、表面形状計測時間T40が大幅に短縮され、処理時間TSが従来(図8(B))に比べて短くなっていることがわかる。
【0039】
[実施例2]
実施例1は、被検物30の保持状態を一定に保つことができるので、広範囲撮影装置3、表面形状計測装置2、および顕微鏡1において高精度な保持再現性を要求される場合に適している。しかしながら、一つの被検物に対する処理をすべて終えた後(つまり被検物をストッカーに戻した後)でなければ、次の被検物に対する処理を開始することができな
いため、多数の被検物を連続処理する際の総処理時間が長くなってしまう。
【0040】
そこで実施例2では、画像取得に関する動作の一部を並列処理することにより、撮像装置のスループットを更に向上させる構成を採用する。並列処理を行うためには、画像取得に関する動作の中で、被検物ステージ20とは別に、被検物30を保持する部材を設け、この部材と被検物ステージ20とのあいだで被検物30の受け渡しができれば良い。これにより、被検物30の受け渡し前後の動作を並列に処理できるようになる。
【0041】
表面形状計測装置2と顕微鏡1の間で被検物30の受け渡しを行うと、表面形状計測装置2と顕微鏡1とのあいだで、被検物30の保持状態(ステージ上の位置や姿勢、被検物30に生じる応力など)が変わってしまう。そうすると、表面形状計測位置にあるときと顕微鏡1の撮像位置にあるときとで、カバーグラス301の表面形状(うねり)が変化する。そのため、表面形状計測装置2で計測した表面形状に応じて顕微鏡1の撮像素子群555の位置や姿勢を調整したとしても、その撮像面を正しい合焦面に近づけることができなくなる。このような理由により、表面形状計測装置2と顕微鏡1とのあいだで被検物30の受け渡しを行うことは望ましくない。
【0042】
そこで、実施例2の撮像装置では、広範囲撮影装置3と表面形状計測装置2の間で被検物30の受け渡しを行う。その理由は、広範囲撮影装置3では、被検物30の試料302が存在する存在領域Eを大まかに(100μm程度の精度で)把握できれば良いので、広範囲撮影装置3と表面形状計測装置2の間で被検物30の保持状態が完全に同じである必要はないからである。一方、表面形状計測装置2と顕微鏡1との間は、被検物30の保持状態が同じである(許容誤差は0.1μm程度)必要があるので、被検物30を保持した被検物ステージ20が、被検物30の保持状態を変えることなく往復運動するようになっている。以上により実施例2は、広範囲撮影装置3と表面形状計測装置2の間で被検物30の受け渡しを行うことにより、図7のS10、S20およびS110の動作と、S40〜S90の動作を並列処理できるようになり、処理速度を向上した撮像装置を実現している。
【0043】
よって、実施例2は、広範囲撮影装置3と表面形状計測装置2における被検物30の保持状態を完全に一致させる必要が無い場合において、処理速度を向上した撮像装置を実現するのに適している。
【0044】
実施例2の撮像装置101の構成を図9に示す。実施例1との違いは、搬入搬出装置200から搬入された被検物30が、広範囲撮影装置3の広範囲撮影台83に置かれ、その後、交換ハンド400によって、広範囲撮影台83から被検物ステージ20に受け渡される点である。被検物ステージ20は、搭載した被検物30の保持状態を変えることなく、表面形状計測装置2と顕微鏡1の間を往復運動できるようになっている。
【0045】
次に、実施例2の撮像装置101の動作を図10のフローチャートに基づいて説明する。
まず、制御部4からの搬送指令に基づき、搬入搬出装置200が被検物30bをストッカー201から取り出し、広範囲撮影台83に搭載する(U10)。実施例1と同様、広範囲撮影カメラ80が被検物30bを撮影し、制御部4が広範囲撮影情報81から試料302の存在領域Eを計算する(U20)。
【0046】
交換ハンド400は、広範囲撮影が終わった被検物30bを被検物ステージ20上に移動させると同時に、顕微鏡1での撮像が完了して、表面形状計測装置2の位置にある被検物30aを広範囲撮影台83上に移動する(U30)。つまり、交換ハンド400によって、広範囲撮影台83上の被検物と被検物ステージ20上の被検物とを入れ替えるのであ
る。
【0047】
その後、被検物30aは、搬入搬出装置200によりストッカー201に回収され(U110a)、被検物30bは、表面形状計測装置2により、表面形状を計測される(U40)。ここでも実施例1と同様、U20で決定された試料の存在領域Eについてのみ、表面形状の計測が行われ、存在領域E以外の領域については計測が省かれる(U40,U50)。
【0048】
存在領域Eの表面形状の計測が完了したら、制御部4からの搬送指令に基づき、被検物ステージ20が顕微鏡1の位置に移動する(U60)。そして、実施例1と同様、被検物30bの表面形状に応じて各撮像素子501の姿勢を制御した後、顕微鏡1で撮像を行い、デジタル画像を取得する(U70,U80,U90)。
【0049】
存在領域Eの撮像が完了したら、制御部4からの搬送指令に基づき、被検物ステージ20が表面形状計測装置2の位置に移動する(U100)。前述したように、顕微鏡撮像が終わった被検物30bは、交換ハンド400によって、新たに搬入されてきた被検物と交換され、広範囲撮影台83上に搭載される(U30)。最後に、被検物30bは搬入搬出装置200によりストッカー201に回収される(U110b)。
【0050】
実施例2の撮像装置の各動作の処理時間を時間軸上で表すと、図11のようになる。ここでは、それぞれの動作に必要な処理時間を下記のように表している。
T10:被検物30の搬入時間
T20:広範囲撮影および存在領域Eの演算時間
T30U:交換ハンド400による広範囲撮影位置と表面形状計測位置のあいだの移動時間
T40:表面形状計測時間
T60:被検物ステージ20の表面形状計測位置から顕微鏡撮像位置までの移動時間、もしくは、被検物ステージ20の顕微鏡撮像位置から表面形状計測位置までの移動時間
T80:顕微鏡撮像時間(撮像素子501同士の隙間を埋めるため、被検物ステージ20の微小移動時間を含む)
T110:被検物30の搬出時間
【0051】
図11に示すように、実施例2では、先に撮像された被検物が搬出されるよりも前に、次の被検物の搬入を開始し、広範囲撮影などの処理を行うことができる。ここで、被検物ステージ20上の被検物30に対し計測処理や撮像処理が行われているあいだに、次の被検物30の搬入を開始し、広範囲撮影や存在領域特定などの処理が行われるようにすれば、処理時間の短縮を図ることができる。最も時間のロスが少ないのは、先に撮像された被検物がステージ移動により表面形状計測位置に戻る(U100)タイミングと、次の被検物の広範囲撮影(U20)が終了するタイミングとが合う場合である。制御部4は、このようなタイミングとなるように、次の被検物の搬入動作を開始するとよい。なお、搬入時間T10、広範囲撮影の時間T20、交換ハンドによる移動時間T30U、ステージ移動時間T60は予め知ることができ、表面形状計測時間T40、顕微鏡撮像時間T80は、存在領域Eの大きさ(計測/撮像回数)に基づき計算可能である。
【0052】
上記のように最も時間のロスを少なくした場合、一つの被検物30の画像取得に要する処理時間TUは、下記式のように表される。
TU=T40+T60×2+T80+T30U
【0053】
実施例2では、実施例1に比べて被検物一つあたりの処理時間がTS−TUだけ短縮されている。
TS−TU=T10+T20+T110+(T30S−T30U+T100−T60)
【0054】
T30S−T30U+T100−T60≧0とすると、実施例2は、実施例1に比べて、少なくともT10+T20+T110、すなわち、搬入時間、広範囲撮影および存在領域Eの演算時間および搬出時間だけ短縮できていることが分かる。
【0055】
以上、本発明の好ましい実施例について説明したが、本発明はこれらの実施例に限定されないことはいうまでもなく、その要旨の範囲内で種々の変形及び変更が可能である。
たとえば、実施例2では表面形状計測装置2と顕微鏡1との間を、図9に示すような直動ステージを往復運動させて被検物30を搬送したが、図12に示すような回転テーブル29を用いて被検物30を搬送しても良い。また、被検物30の位置決めの精度が確保できる場合には、表面形状計測装置2と顕微鏡1とのあいだで被検物30の受け渡しを行っても構わない。
また上記実施例ではカメラで撮影した画像を用いて試料の存在範囲を特定したが、カメラ以外のセンサを用いて試料の存在範囲を検出する構成も好ましい。
【符号の説明】
【0056】
1:顕微鏡、2:表面形状計測装置、3:広範囲撮影装置、4:制御部、50:撮像部、100,101:撮像装置
【特許請求の範囲】
【請求項1】
被写体を保持する保持手段と、
前記被写体の表面形状を計測する表面形状計測手段と、
前記表面形状計測手段により計測された表面形状に合わせて撮像面を調整して、前記被写体の撮像を行う撮像手段と、を備えた撮像装置であって、
前記被写体の全体領域のなかから撮像すべき対象物が存在する存在領域を特定する特定手段を有しており、
前記表面形状計測手段は、前記特定手段により特定された存在領域の表面形状のみを計測する
ことを特徴とする撮像装置。
【請求項2】
前記撮像手段は、前記特定手段により特定された存在領域のみを撮像する
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記特定手段は、前記被写体の全体領域を撮影する広範囲撮影手段と、前記広範囲撮影手段で撮影された前記被写体の全体領域の画像を解析することにより前記撮像すべき対象物を検出する手段と、を有する
ことを特徴とする請求項1または2に記載の撮像装置。
【請求項4】
前記保持手段は、前記被写体を保持したまま前記表面形状計測手段の計測位置と前記撮像手段の撮像位置のあいだを移動するステージを有する
ことを特徴とする請求項3に記載の撮像装置。
【請求項5】
前記保持手段は、前記被写体を保持したまま、前記広範囲撮影手段の撮影位置、前記表面形状計測手段の計測位置、および、前記撮像手段の撮像位置のあいだを移動するステージを有する
ことを特徴とする請求項3に記載の撮像装置。
【請求項6】
前記保持手段は、前記被写体を保持したまま前記表面形状計測手段の計測位置と前記撮像手段の撮像位置のあいだを移動するステージと、前記ステージに保持されている被写体と前記広範囲撮影手段の撮影位置にある被写体とを交換する交換手段と、を有する
ことを特徴とする請求項3に記載の撮像装置。
【請求項7】
前記ステージに保持されている被写体に対し前記表面形状計測手段による計測処理および前記撮像手段による撮像処理が行われているあいだに、前記特定手段は、前記広範囲撮影手段の撮影位置にある被写体に対し存在領域を特定する処理を行う
ことを特徴とする請求項6に記載の撮像装置。
【請求項8】
複数の被写体を格納するストッカーと、前記ストッカーから被写体を搬送する搬送手段と、をさらに有し、
前記ステージに保持されている被写体に対し前記表面形状計測手段による計測処理および前記撮像手段による撮像処理が行われているあいだに、前記搬送手段は、次の被写体を前記ストッカーから前記広範囲撮影手段の撮影位置へ搬送する
ことを特徴とする請求項6または7に記載の撮像装置。
【請求項9】
前記広範囲撮影手段で撮影された前記被写体の全体領域の画像を解析することにより、前記被写体のエラー検出を行う手段をさらに有する
ことを特徴とする請求項3〜8のいずれか1項に記載の撮像装置。
【請求項10】
被写体を保持する保持手段と、前記被写体の表面形状を計測する表面形状計測手段と、前記表面形状計測手段により計測された表面形状に合わせて撮像面を調整して、前記被写体の撮像を行う撮像手段と、を備えた撮像装置の制御方法であって、
前記被写体の全体領域のなかから撮像すべき対象物が存在する存在領域を特定する特定工程と、
前記特定工程において特定された存在領域の表面形状のみを前記表面形状計測手段により計測する計測工程と、を含む
ことを特徴とする撮像装置の制御方法。
【請求項1】
被写体を保持する保持手段と、
前記被写体の表面形状を計測する表面形状計測手段と、
前記表面形状計測手段により計測された表面形状に合わせて撮像面を調整して、前記被写体の撮像を行う撮像手段と、を備えた撮像装置であって、
前記被写体の全体領域のなかから撮像すべき対象物が存在する存在領域を特定する特定手段を有しており、
前記表面形状計測手段は、前記特定手段により特定された存在領域の表面形状のみを計測する
ことを特徴とする撮像装置。
【請求項2】
前記撮像手段は、前記特定手段により特定された存在領域のみを撮像する
ことを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記特定手段は、前記被写体の全体領域を撮影する広範囲撮影手段と、前記広範囲撮影手段で撮影された前記被写体の全体領域の画像を解析することにより前記撮像すべき対象物を検出する手段と、を有する
ことを特徴とする請求項1または2に記載の撮像装置。
【請求項4】
前記保持手段は、前記被写体を保持したまま前記表面形状計測手段の計測位置と前記撮像手段の撮像位置のあいだを移動するステージを有する
ことを特徴とする請求項3に記載の撮像装置。
【請求項5】
前記保持手段は、前記被写体を保持したまま、前記広範囲撮影手段の撮影位置、前記表面形状計測手段の計測位置、および、前記撮像手段の撮像位置のあいだを移動するステージを有する
ことを特徴とする請求項3に記載の撮像装置。
【請求項6】
前記保持手段は、前記被写体を保持したまま前記表面形状計測手段の計測位置と前記撮像手段の撮像位置のあいだを移動するステージと、前記ステージに保持されている被写体と前記広範囲撮影手段の撮影位置にある被写体とを交換する交換手段と、を有する
ことを特徴とする請求項3に記載の撮像装置。
【請求項7】
前記ステージに保持されている被写体に対し前記表面形状計測手段による計測処理および前記撮像手段による撮像処理が行われているあいだに、前記特定手段は、前記広範囲撮影手段の撮影位置にある被写体に対し存在領域を特定する処理を行う
ことを特徴とする請求項6に記載の撮像装置。
【請求項8】
複数の被写体を格納するストッカーと、前記ストッカーから被写体を搬送する搬送手段と、をさらに有し、
前記ステージに保持されている被写体に対し前記表面形状計測手段による計測処理および前記撮像手段による撮像処理が行われているあいだに、前記搬送手段は、次の被写体を前記ストッカーから前記広範囲撮影手段の撮影位置へ搬送する
ことを特徴とする請求項6または7に記載の撮像装置。
【請求項9】
前記広範囲撮影手段で撮影された前記被写体の全体領域の画像を解析することにより、前記被写体のエラー検出を行う手段をさらに有する
ことを特徴とする請求項3〜8のいずれか1項に記載の撮像装置。
【請求項10】
被写体を保持する保持手段と、前記被写体の表面形状を計測する表面形状計測手段と、前記表面形状計測手段により計測された表面形状に合わせて撮像面を調整して、前記被写体の撮像を行う撮像手段と、を備えた撮像装置の制御方法であって、
前記被写体の全体領域のなかから撮像すべき対象物が存在する存在領域を特定する特定工程と、
前記特定工程において特定された存在領域の表面形状のみを前記表面形状計測手段により計測する計測工程と、を含む
ことを特徴とする撮像装置の制御方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2013−3218(P2013−3218A)
【公開日】平成25年1月7日(2013.1.7)
【国際特許分類】
【出願番号】特願2011−131594(P2011−131594)
【出願日】平成23年6月13日(2011.6.13)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成25年1月7日(2013.1.7)
【国際特許分類】
【出願日】平成23年6月13日(2011.6.13)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]