説明

撮像システムおよびその制御方法

【課題】別々に撮像された複数の部分画像を合成することにより広画角な全体画像を取得する撮像システムにおいて、つなぎ目部分が不自然でない高品質な全体画像を簡易な処理で生成可能とする。
【解決手段】撮像システムが、被写体の撮像範囲を複数の小区画に分割して撮像する撮像手段と、前記撮像手段で撮像された各小区画の部分画像を合成して全体画像を生成する画像処理手段と、前記撮像手段で被写体を撮像する前に、その被写体上の複数の点を計測し計測データを取得する計測手段と、前記計測手段で取得された各計測点の計測データに基づいて、計測データの値の空間的な変化がより小さい位置に小区画の境界が配置されるように、当該被写体の分割位置を調整する分割位置調整手段と、を備える。前記撮像手段は、前記分割位置調整手段により調整された分割位置に従って各小区画の撮像を行う。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、被写体を撮像してデジタル画像データを取得する撮像システムおよびその制御方法に関する。
【背景技術】
【0002】
近年、病理診断の分野において、被写体となる標本(人体の組織片等)の顕微鏡像を撮像し、高精細のデジタル画像を取得・蓄積・閲覧する撮像システムが注目を集めている。この種の撮像システムは、バーチャル・スライド・システムとも呼ばれる。
【0003】
特許文献1には、広視野の観察を可能にするために、撮像区画の異なる複数の画像を貼り合せることにより高解像かつ広画角な画像を生成するシステムが提案されている。このシステムでは、最初にオペレータが低解像度の全体画像上で撮像範囲を指定すると、画像処理装置が撮像範囲を小区画に分割し、小区画ごとに顕微鏡で高倍率の画像を取り込み、各小区画の画像データを貼り合わせて1つの画像を生成する。また、特許文献2には、輝度情報に基づいて全体画像の中から標本像の存在する範囲(左上座標と右下座標)を自動で検出すること、検出した範囲内を小区画に分割し、小区画ごとに顕微鏡で高倍率の画像を取り込むこと、が開示されている。このように、高解像な画像を取得する前に、スライドグラス上における標本位置や、その観察すべき範囲などを予め調べることは従来より行われている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平09−281405号公報
【特許文献2】特開2000−295462号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、従来のシステムでは、1回の撮像で取得可能なサイズに基づき、指定または検出された撮像範囲を機械的に分割しているのみであった。
そのため、画像が急激に変化する部分、たとえば、標本像の輪郭や凹凸などが小区画の境界と重なる場合がある。このような場合には、小区画の画像同士のつなぎ目部分において画像の特徴量(輝度、色、コントラストなど)が大きく変化するため、画像合成の処理が複雑あるいは困難になったり、処理時間が長大になる可能性がある。また、画像のつなぎ目部分の多くが不連続になるおそれもある。
【0006】
そこで本発明は、別々に撮像された複数の部分画像を合成することにより広画角な全体画像を取得する撮像システムにおいて、不連続なつなぎ目部分が少ない高品質な全体画像を簡易な処理で生成可能とするための技術を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の第一態様は、被写体の撮像範囲を複数の小区画に分割して撮像する撮像手段と、前記撮像手段で撮像された各小区画の部分画像を合成して全体画像を生成する画像処理手段と、を有する撮像システムにおいて、前記撮像手段で被写体を撮像する前に、その被写体上の複数の点を計測し計測データを取得する計測手段と、前記計測手段で取得された各計測点の計測データに基づいて、計測データの値の空間的な変化がより小さい位置に小区画の境界が配置されるように、当該被写体の分割位置を調整する分割位置調整手段と、を備え、前記撮像手段は、前記分割位置調整手段により調整された分割位置に従って各小
区画の撮像を行う撮像システムを提供する。
【0008】
本発明の第二態様は、被写体の撮像範囲を複数の小区画に分割して撮像する撮像手段と、前記撮像手段で撮像された各小区画の部分画像を合成して全体画像を生成する画像処理手段と、を有する撮像システムの制御方法であって、前記撮像手段で被写体を撮像する前に、その被写体上の複数の点を計測し計測データを取得する計測ステップと、前記計測ステップで取得された各計測点の計測データに基づいて、計測データの値の空間的な変化がより小さい位置に小区画の境界が配置されるように、当該被写体の分割位置を調整する分割位置調整ステップと、前記撮像手段が、前記分割位置調整ステップにより調整された分割位置に従って各小区画の撮像を行う撮像ステップと、を含む撮像システムの制御方法を提供する。
【発明の効果】
【0009】
本発明によれば、別々に撮像された複数の部分画像を合成することにより広画角な全体画像を取得する撮像システムにおいて、不連続なつなぎ目部分が少ない高品質な全体画像を簡易な処理で生成可能とすることができる。
【図面の簡単な説明】
【0010】
【図1】撮像システムの概略構成を示す図。
【図2】プレ計測処理および撮像処理の流れを示すフローチャート。
【図3】分割位置の調整処理の流れを示すフローチャート。
【図4】撮像部とステージの位置制御を説明する図。
【図5】実施例1における標本像の輝度分布に基づく分割位置の調整方法を示す図。
【図6】実施例2における標本の高さ分布に基づく分割位置の調整方法を示す図。
【図7】実施例3における撮像部の構成を示す図。
【図8】実施例3における撮像処理の例を示す図。
【発明を実施するための形態】
【0011】
以下、添付図面を参照して、本発明の実施の形態を説明する。
【0012】
(システム構成)
図1は、本発明にかかる撮像システムの一構成例を示す図である。図1に示すように、撮像システムは、概略、撮像装置1、画像処理装置2、表示装置3から構成される。
【0013】
撮像装置1は、被写体であるプレパラート上の標本を撮像してデジタル画像を生成する装置であり、計測を行う計測ユニット100と、高倍率の撮像を行う撮像ユニット300と、プレパラートを搬送する搬送部203と、制御部401とを有する。
【0014】
プレパラート(スライドとも呼ばれる)は、被写体となる標本(組織片など)をスライドグラス上に載置し、これを透明な保護部材(カバーグラス)によって挟んで固定したものである。たとえば、プレパラート上の10mm×10mmの観察領域を光学倍率10倍で撮像する場合、撮像面での撮像領域の大きさは100mm×100mm、すなわち直径141mm程度になる。これほどの面積を一括で撮像可能な大判の撮像素子(イメージセンサ)は、画素欠陥などによる歩留り低下の影響によりコスト高となる。そのため、この撮像システムでは、撮像領域を複数の小区画に分割し、小区画単位で撮像を行い、得られた部分画像をつなぎ合わせて全体画像を生成することを行う。具体的には、計測で得られた標本全体の計測データに基づき、実際に撮像する範囲や小区画への分割位置などの撮像条件を決定し、撮像ユニット300ではその撮像条件に従って各小区画の撮像が行われる。
【0015】
画像処理装置2は、撮像装置1から得られた画像データに対し所定の画像処理(現像、色変換、ガンマ補正、ノイズ除去、圧縮など)を適用する機能、小区画の画像を合成する(つなぎ合わせる)機能、画像の管理・閲覧を行う機能などを有する。画像処理装置2は、CPU、メモリ、記憶装置、入力装置などを備える汎用のコンピュータで構成することもできるし、専用の画像処理回路を設けてもよい。画像処理装置2の記憶装置には上記機能を実現するためのプログラムが格納されている。表示装置3は、画像や解析結果などの閲覧に用いられるディスプレイである。なお、システム構成はこの例に限られず、たとえば、画像処理装置2の機能を撮像装置1に組み込んでもよいし、表示装置3を撮像装置1や画像処理装置2に一体化してもよい。
【0016】
撮像装置1の計測ユニット100は、計測用照明部101、計測用ステージ102、計測用光学系104、計測部105からなる。
計測用照明部101は、計測用ステージ102上に設置されているプレパラート103に光源からの光を導く照明光学系を有する。計測用ステージ102はプレパラート103を保持し、計測用光学系104に対するプレパラート103の位置を調整する。
計測用光学系104は、プレパラート103を透過した光を計測部105に導く光学系である。計測ユニット100ではプレパラート全体の計測を行うことが目的のため、計測用光学系104は低倍率のものでよい。
【0017】
計測部105は、計測用光学系104からの光に基づき、被写体上の複数の点における物理量を計測するセンサである。標本像の輝度や色の分布を計測する目的であれば、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を用いることができる。標本もしくはカバーグラスの凹凸(表面形状)を計測する目的であれば、反射光や干渉光を利用する各種の距離センサを用いることができる。例えば特開平6−011341号公報に開示があるような三角測量法を応用した光学式距離測定方法や、特開2005−98833号公報に開示があるような共焦点光学系を用いてグラス境界面で反射するレーザ光の距離の差を測定する方法がある。なお図1では、透過型の計測ユニットを例示したが、計測する物理量やセンサの種類に応じて、カバーグラス側から光を照射し被写体での反射光を計測する反射型の計測ユニットを用いたり、複数のユニットもしくはセンサを組み合わせて用いてもよい。
【0018】
各計測点の計測データは制御部401へ伝送され、プレパラート103上の標本の大きさ、標本の存在範囲(輪郭)の検出、標本像の輝度や色の検出、標本またはカバーグラスの表面形状(凹凸)の計測などに利用される。図1に示すように、計測用光学系104(結像光学系304)の光軸に平行な方向をz方向、紙面に直交する方向をx方向とした場合には、標本像の輝度などは各x、y位置での量としてデータが作成される。また、表面形状は各x、y位置での表面のz位置としてデータが作成される。
【0019】
搬送部203は、計測が終了したプレパラート103を、計測ユニット100から撮像ユニット300へと搬送する。符号303は、撮像ユニット300の撮像用ステージ302上に配置されたプレパラートを示している。搬送部203の具体的な機構については、例えば計測用ステージ102自体が移動して撮像用ステージ302として機能する機構でもよいし、ハンド装置によりプレパラートを把持または吸着してステージ上に移動する機構でもよい。また、計測用ステージ102と撮像用ステージ302にそれぞれ異なるプレパラートが設置され、計測処理と撮像処理が並列に行われてもよい。なお、複数のプレパラートの撮像を連続的に行う場合は、不図示のストッカに収容されているプレパラートが搬送部203によって1枚ずつ計測用ステージ102、撮像用ステージ302へと順に搬送される。
【0020】
制御部401は、計測データを解析した結果に基づいて、プレパラート303を撮像する際のプレパラート(の像)と撮像部305の相対的な位置および方向(xy平面内での回転角度)を決定する。そして、制御部401は、決定した位置および方向の情報を駆動部201に伝送し、プレパラート303が所望の位置に設定されるように撮像用ステージ302を駆動する。あるいは、制御部401は、駆動部202を駆動し、撮像部305を回転させたり、光軸方向へ移動させたりすることもできる。
【0021】
駆動部201は、制御部401から伝送された信号に基づき撮像用ステージ302を駆動し、プレパラート303と撮像部305の相対位置を調整する機構である。駆動部201はおもにステージ302をx、y方向に動かし、プレパラート303の位置を微調整する。
【0022】
駆動部202は、制御部401から伝送された信号に基づき、撮像部305を駆動する。駆動部202は、おもに撮像部305のxy平面内での回転とz方向の移動を行い、撮像位置を微調整する。駆動部202が、結像光学系304と撮像部305とを一体的に駆動してもよい。あるいは、撮像用ステージ302にxy平面内での回転やz方向の駆動をさせる機構を持たせ、駆動部202を省略することもできる。
【0023】
撮像装置1の撮像ユニット300は、撮像用照明部301、撮像用ステージ302、結像光学系304、撮像部305からなる。
撮像用照明部301は、撮像用ステージ302上に設置されているプレパラート303に光源からの光を導く照明光学系を有する。光源には、例えばハロゲンランプやキセノンランプ、LED(Light Emitting Diode)を用いることができる。
結像光学系304は、被写体である標本の光学像を拡大して撮像部305に導く光学系である。プレパラート303を透過した光は結像光学系304を介して撮像部305上の撮像面で結像する。
【0024】
撮像部305は、結像光学系304を介して受光した光を光電変換し、画像データを生成、出力する。この画像データは制御部401を介して画像処理装置2に伝送される。撮像部305は、例えばCCDやCMOSといった撮像素子により構成される。撮像素子のサイズ、数、配置は任意である。たとえば、N個の小区画の撮像を行うために、1つの撮像素子でN回撮像してもよいし、複数(m個)の撮像素子でN/m回撮像してもよい。複数の撮像素子を用いる方が、撮像時間を短縮できるという利点がある。
【0025】
(画像取得の手順)
次に、図2のフローチャートを参照して、計測処理および撮像処理の手順を説明する。
まず、制御部401が搬送部203を制御し、計測用ステージ102上にプレパラート103を設置する(S101)。なお、計測用ステージ102への設置については、自動でなく、オペレータ自身が行ってもよい。
【0026】
その後、計測用照明部101が計測用ステージ102上に設置されたプレパラート103を照明する。計測用光学系104からの光を計測部105で受光し、光の強度値および光軸方向の高さを計測する(S102)。計測部105は計測データを制御部401に伝送する(S103)。
【0027】
次に、制御部401は、計測データに基づいて、標本の撮像範囲や、その撮像範囲をどのように小区画に分割するかを計算し、撮像回数(分割数)、並びに分割位置(各小区画でのプレパラートと撮像部305の相対位置)を求める。これらの情報は、駆動部201および202に指示される(S104)。S104の処理については、図3のフローチャート、並びに実施例1および2で詳しく説明する。
制御部401がS104の計算を行っている時間を利用して、搬送部203がプレパラートを計測用ステージ102から撮像用ステージ302へと搬送する(S105)。処理時間の短縮のため、S104とS105の処理は並列に行われる。
【0028】
その後、駆動部201および202がS104で指示された情報に従い、ステージ302および撮像部305を移動および/または回転し、最初の小区画の撮像位置になるようプレパラートと撮像部305の相対位置を調整する(S106)。
そして、撮像用照明部301が撮像用ステージ302上に設置されたプレパラート303を照明し、結像光学系304により高倍率に拡大された小区画の光学像を撮像部305が撮像する。撮像部305はその小区画の部分画像データを画像処理装置2へ伝送する(S107)。
【0029】
一つの小区画の撮像が終わると、駆動部201および202がステージ302と撮像部305を次の小区画の撮像位置に合わせ(S106)、撮像部305にて次の小区画の部分画像データを得る(S107)。S104で求められた撮像回数分、S106とS107の動作を繰り返し、複数の小区画の部分画像データを得る。
【0030】
その後、画像処理装置2が全部の小区画の部分画像データを合成して、高精細かつ広画角の標本全体の画像データを生成する(S108)。画像処理装置2は、画像データを内部または外部の記憶装置に格納する(S109)。また、ユーザからの指示に応じて、画像処理装置2は表示装置3に画像データを表示する。
【0031】
(分割位置の調整)
次に、図3のフローチャートを参照してS104の分割位置調整処理の流れを説明する。
前述のS102〜S103により、制御部401には、被写体上の各計測点について、光の強度(輝度、色)、カバーグラスまたは標本の表面の高さなどの、標本に関する物理量が伝送されている。これらの計測データに基づき、標本像の空間的な強度分布(輝度分布)や、標本の空間的な高さ分布(表面形状)を表す2次元画像を生成できる。以下、この2次元画像を計測画像と呼ぶ。
【0032】
まず制御部401は、計測画像の強度分布(輝度分布)から標本像の輪郭を検出し(S201)、標本像を含むように観察範囲を設定する(S202)。プレパラート上に複数の観察対象が存在する場合には、全ての観察対象を包含するように観察範囲が設定される。標本像の輪郭検出には、2値化などの一般的な輪郭検出手法を利用することができる。
【0033】
次に制御部401は、1回の撮像で取得する部分画像の大きさ(小区画の大きさ)と、S202で設定した観察範囲全体の取り込みに必要な撮像回数とを決定する(S203)。部分画像の大きさは、撮像部305の撮像素子が1回の撮像で取得可能な画像の大きさ(撮像可能サイズ)よりも小さい値に設定される。部分画像の大きさは予め与えられていてもよいし、制御部401が結像光学系304の倍率に応じて決定してもよいし、ユーザが指定してもよい。また、制御部401が、画像合成処理において必要となる画像同士の重複部(つなぎ目)を撮像可能サイズから差し引いた値を、部分画像の大きさとして設定してもよい。
【0034】
次に制御部401は、計測画像内の任意の位置に分割線の原点を仮設定し(S204)、その原点を基準にして撮像範囲およびその分割線を仮設定する(S205)。撮像範囲とは、撮像ユニット300で高解像の撮像が行われる全範囲であり、少なくともS202で設定した観察範囲を包含するように設定する必要がある。分割線とは、撮像範囲全体をS203で設定した大きさの小区画に分割する仮想的な線であり、撮像ユニット300の
撮像単位である部分画像の境界に相当するものである。
【0035】
次に制御部401は、分割線上の各計測点について、上記物理量(輝度、色、高さなど)の空間的な変化の度合いを示す特徴量を計算する(S206)。あるいは、特徴量は分割線上の近傍であってもよく、境界の内部の物理量をもちいてもよい。計測画像に対して微分演算を施したもの、たとえば、2階微分値(ラプラシアンなど)を特徴量として用いることができる。
【0036】
制御部401は、分割線上にある計測点の特徴量の総和を、評価量として計算する(S207)。このとき、分割線を中心とする所定の幅(たとえば数画素)の領域内の点の特徴量を、評価量の計算に用いるとよい。この評価量は、小区画の境界上における計測データの値の変化の小ささを示す指標であるといえる。
【0037】
その後、制御部401は、光軸に垂直な面内において、分割線の原点を平行移動し、または分割線の原点を中心にして分割線を回転することで、分割線と標本との相対位置を変更する(S208)。そして変更後の分割線について、上記と同様、評価量が求められる(S207)。分割線を移動(回転)する範囲やその移動量(回転量)については予め決められており、制御部401は、その全ての候補位置の分割線について評価量を求めるまで、S207〜S208を繰り返す。なお、分割線と標本の相対位置の変更方法としては、分割線の平行移動、回転のほか、分割線の拡大/縮小もある。これらの方法のいずれか1つを用いるだけでもよいし、複数の方法を組み合わせることもできる。
【0038】
そして、制御部401は、評価量が最小になる位置、すなわち分割線近傍における物理量の変化が最小になる位置を、撮像処理で用いる分割位置に決定する(S209)。制御部401は、上記分割位置で分割される小区画各々の中心位置を計算し、その座標値を記憶する(S210)。または、制御部401は、分割線の原点の座標および回転角を記憶してもよい。以上で、S104の処理は終了である。
【0039】
なお、上記では、分割線の全ての候補位置について評価量を求め、その中から評価量の最小値を検出する方法を採用したが、最小値探索の方法はこれに限らない。たとえば、分割線の原点の移動範囲内のまばらな位置で評価量を求めた後、その中で評価量が最小となった位置のまわりで分割線を細かく移動させて、評価量が最小値をとる位置を探索することもできる。このほか、通常用いられる最小値探索のどのような方法によって求めてもよい。
【0040】
(ステージと撮像部の位置制御)
図4(A)〜図4(C)を参照して、撮像ユニット300で小区画を撮像する際のステージと撮像部の位置制御について説明する。
【0041】
図4(A)は、ステージ302と撮像部305のS104直後の最初の位置関係を示している。ステージ302における平面上での位置は座標系(Xs,Ys)で示される。(Xs,Ys)の原点はステージ302の任意の位置になっている。実際には撮像用ステージは標本に比べて非常に大きなものであるが、図中に収まるように標本程度の大きさで示している。形状もこれに限られるものではない。
【0042】
撮像部305における平面上での位置は座標系(Xi,Yi)で示される。(Xi,Yi)の原点は撮像素子および撮像領域の中心になっている。撮像部座標系(Xi,Yi)の長さとステージ座標系(Xs,Ys)の長さとは、結像光学系304の倍率を用いて換算できる。
【0043】
さて、S104の処理によって分割位置が図4(A)のように決定されたとする。図4(A)中の1から9の小区画が高解像度の撮像を行う領域である。これらの小区画の中心の座標は、それぞれ、(Xs1,Ys1)、・・・、(Xs9,Ys9)であり、小区画はxy平面内での回転角度θだけ回転している。もちろん、初期状態はθ=0としてもよい。
【0044】
図4(B)と図4(C)はS106において、プレパラートを撮像位置にセットした後のステージ302と撮像部305の位置関係を示している。ここでは、1回目の撮像位置(小区画1)にセットされている。図4(B)では、ステージ302を−θだけ回転し、(−Xs1,−Ys1)だけ平行移動したものである。撮像部305はXiYi平面内で固定されている。このようにすると、撮像部305の撮像領域内に、小区画1が含まれる。図4(C)では、ステージ302を(−Xs1,−Ys1)だけ平行移動したものである。撮像部305はXiYi平面内でθだけ回転している。このようにすると、撮像部305の撮像領域内に、小区画1が含まれる。撮像は図4(B)と図4(C)のどちらの方法によって行われてもよい。
【0045】
[実施例1]
実施例1では、標本像の強度分布(輝度分布)に基づく分割位置の調整方法について詳しく説明する。
【0046】
図5(A)は、計測により得られる計測画像の例である。本実施例では、低解像度の標本全体画像(各画素は標本像の各点の輝度を示す)が用いられる。図5(A)において、灰色で示された部分が標本像であり、観察対象である。白い部分は標本像の背景部分である。この例では、プレパラート上に4個の観察対象が存在している。
【0047】
また、図5(A)の外側の四角形は撮像用ステージ302を示し、十字の基準位置は、撮像用ステージ302の中心位置を示している。実際には撮像用ステージは標本に比べて非常に大きなものであるが、図5(A)では図中に収まるように標本程度の大きさで示している。なお、基準位置は、撮像用ステージ302の中心位置の代わりに、プレパラート上の任意の位置に設定してもよい。
【0048】
S201において標本像の輪郭が検出され、そしてS202において全ての観察対象を含むように観察範囲が設定される。図5(B)の長破線で囲まれた部分が観察範囲である。十字で示した基準位置を、観察範囲の中心に置きなおす。S203において、小区画の大きさが決定される。図5(B)の点線は、基準位置に中心を合わせて配置した小区画(これを基準区画とよぶ)を示している。
【0049】
次に、制御部401は、基準区画内部の任意の位置に、分割線の仮の原点を配置し(S204)、観察範囲全体をおおうように小区画の集合体、すなわち分割線を仮設定する(S205)。図5(C)では、分割線の仮の原点(点で示されている)が基準位置上に配置された例を示している。つまり小区画の集合体の中心位置が基準位置に重なるように、分割線が配置されている。また、小区画の縦横それぞれの数、つまり撮像範囲の大きさは、観察範囲の外周に少なくとも一列分の小区画が余分に配置されるように、決められる。このように撮像範囲を設定することで、分割線を平行移動もしくは回転しても、観察範囲が撮像範囲から外れてしまうことを防ぐことができる。
【0050】
そして、制御部401は、分割線上の計測画像の各点の物理量に微分演算などを施した特徴量(2階微分値など)を求めた後(S206)、評価量を計算する(S207)。更に、図5(D)および図5(E)に示すように分割線の原点位置を基準区画内で動かしながら、各位置での特徴量および評価量を計算する(S208、S206、S207)。分
割線の原点は基準区画の内部内において動かすことができる。基準区画内には有限なn個の座標点が設定されており、分割線の原点位置はこのn個の座標点上に設定される。S208では、分割線の方向(回転角度θ)も変化させても良い。回転角度θも有限なm個の方向として設定される。分割線の位置や方向を変更すると、分割線(小区画の境界)と標本像との重なりが変化するため、評価量の値も変化する。全ての候補(例えば、n×m個)の評価量を計算したら、S206からS208の一連のステップが終了する。この計算した評価量(例えば、n×m個)を用いて、評価量が最小となる分割線の原点位置および回転角度を選ぶ。n個の座標点のいずれかを選ぶのではなく、評価量のデータを補完することにより、n個の座標点の間の位置を分割線の原点位置として選んでも良い。分割線の回転角度も同様である。図5(C)〜図5(E)の中では、分割線と標本像の境界との重なりが最も少ない図5(E)の分割線の原点位置において評価量が最小となり、これが撮像処理で用いる分割線として選ばれる(S209)。分割線の原点位置(および分割線の回転角度)から各小区画の中心位置を求めることができる(S210)。なお、本実施例では、分割線の移動・回転(S208)及び分割線上の計測画像の各点の特徴量の計算(S206)及び分割線の評価量の計算(S207)を繰り返した。しかし、予め観察範囲内の計測画像の各点の特徴量を全て計算しておいて、分割線の移動・回転(S208)及び分割線の評価量の計算(S207)を繰り返すこととしても良い。
【0051】
図5(E)の分割位置に従って各小領域の高解像度画像を撮像し、それらを合成することで得られた全体画像が図5(F)である。撮像時には、分割線に囲まれた領域のうち、標本の存在する部分のみを撮像してもよい。図5(F)の内側の四角形の内部が、標本の存在する部分のみを撮像した9枚の部分画像から得られた合成画像の例である。
【0052】
ところで、全体画像を合成する方法としては、隣接画像間の重複部から特徴的な部分を抽出し、相互相関係数演算などによって一致度あるいは類似度を評価することで、画像間の画素の対応付けを行い、それらを滑らかにつなぐという方法が一般的である。しかしながら、本実施例のように輝度の変化が小さい場所に分割位置を設定した場合には、画像の重複部から特徴的な部分を検出できないことが多く、良好な合成結果が得られない可能性がある。したがって、本実施例では、部分画像間の画素の対応付けのような処理は行わず、部分画像のそれぞれに対し位置ずれ等の補正を施した後、補正後の部分画像同士を単純につなぎ合わせるという方法を採る。
【0053】
たとえば、画像処理装置2が、あらかじめ記憶している小区画ごとの位置ずれ情報に基づき、部分画像に対し個別に位置ずれ等の補正を施す。小区画ごとに輝度や色のばらつきがある場合には、位置ずれ補正とともに、輝度補正や色補正などを施すことも好ましい。そして、画像処理装置2は、補正後の部分画像同士をつなぎ合わせる。このとき、画像処理装置2は、隣接する部分画像のあいだの重複部を削除した後に(つまり各部分画像を小区画の大きさでトリミングした後に)、それらをタイリングすることで全体画像を生成する。あるいは、画像処理装置2は、重複部の画素をアルファブレンドすることで、部分画像同士をつなぎ合わせてもよい。
【0054】
なお、想定される位置ずれとしては、撮像ユニット300の結像光学系や撮像用照明部301の光学系の収差(残存収差、熱収差など)による位置ずれ、ステージや撮像部のマウントや位置決めの精度に起因する位置ずれなどがある。前者については、光学系のパラメータから計算可能であるので、画像処理装置2の記憶装置にあらかじめ記憶させておけばよい。後者は、機体ごとに異なる可能性があるので、事前のキャリブレーションで位置ずれ量を取得し、画像処理装置2の記憶装置に記憶させるとよい。位置ずれ量は、撮像素子とステージの相対位置ごと、すなわち小区画ごとに異なり、また小区画内の計測点(画素)ごとに異なるものである。それゆえ厳密には、各小区画の各点について位置ずれ量の情報を記憶しておくことが望ましい。ただし、データ量が膨大となるため、好ましくは、
代表点の位置ずれ量のみ、または関数の形式で位置ずれ量を記憶し、各点の位置ずれ量(補正量)は計算により求めるようにしてもよい。
【0055】
以上述べた本実施例の構成によれば、画像の変化の小さい位置に小区画の境界がくるように撮像条件を決定したので、部分画像のつなぎ目が不自然になったり不連続になることを従来よりも少なくすることができる。そのため、位置ずれ補正を行った部分画像同士を単純につなぎ合わせるといった簡易な合成処理によっても、高品質な全体画像を生成することが可能となる。また、標本(細胞など)の輪郭や構造上の特徴部位などの観察の対象とされる部分と、部分画像のつなぎ目とが重ならないようにできるため、観察に必要な情報が損なわれることは少なくなる。
【0056】
本実施例では、強度分布(輝度分布)に基づいて分割位置を決定する方法を説明したが、計測データとしてカラー画像が得られている場合には、色分布に基づき、画素間の色差が小さい位置に小区画の境界がくるように分割位置を決定する方法でもよい。カラー画像を得る方法としては、白色光源とカラー撮像素子(例えば、ベイヤー配列の撮像素子)との組み合わせでもよいし、R(波長650nm近傍)、G(波長550nm近傍)、B(波長450nm近傍)の3色光源とモノクロ撮像素子とを用いて撮像画像を合成する方法でもよい。もちろん、計測データとしてカラー画像が得られていた場合であっても、分光した輝度分布から分割位置を決定してもよい。また、RGB値から合成した白色画像の輝度分布から分割位置を求めてもよいし、RGBの中のいずれかのチャネルの輝度分布から分割位置を求めてもよい。
【0057】
[実施例2]
実施例2では、標本もしくはカバーグラスの表面形状(高さ分布)に基づく分割位置の決定方法について説明する。
【0058】
図6(A)は、計測により得られる計測画像の例である。観察範囲の設定などの処理には、実施例1と同様、低解像度の標本全体画像(各画素は標本像の各点の輝度を示す)が用いられる。図6(A)において、灰色で示された部分が標本像であり、観察対象である。白い部分は標本像の背景部分である。この例では、プレパラート上に1個の観察対象が存在している。図中の十字の基準位置は、撮像用ステージの中心位置を示している。
【0059】
そして実施例1と同様、制御部401は、標本像の輪郭検出、観察範囲の設定、小区画の大きさと基準区画の設定を行った後、分割線を仮設定する(S201〜S205)。ここで、輪郭検出が容易ではない場合、あるいは輪郭線がない場合、任意に観察対象を設定してもよい。分割線は、分割線を移動・回転させたときに撮像範囲が観察範囲から外れてしまわないように、観察範囲よりもひとまわり大きいサイズに撮像範囲(小区画の数)となるよう設定する。
【0060】
次に、制御部401は、分割位置の決定処理を行う。以降の処理では、図6(B)に示すように、標本の表面形状(高さ分布)を表す計測画像が用いられる。この画像の各画素は標本表面の各点の光軸方向の高さを示している。なお図6(B)の太線の楕円は標本の輪郭を示し、十字は基準位置、点線は基準区画を示している。
【0061】
制御部401は、特徴量として表面形状を表す計測画像の各点の2階微分値(ラプラシアン)を求める(S206)。図6(C)は、2階微分値の分布と標本像の輪郭線を示している。そして、制御部401は、実施例1と同様、図6(D)に示すように分割線の原点位置を基準区画内で動かしながら、各位置での評価量を計算する(S207、S208)。そして、評価量が最小となる位置が分割位置として選ばれる(S209)。以降の処理は、実施例1と同様である。
【0062】
一般に、標本の表面は平らではなく、凹凸(うねり)を有している。撮像処理で用いられる結像光学系の被写界深度は非常に浅いため、光軸方向のわずかな高さの差は、画像のコントラストやぼけの差となって現れる。それゆえ、表面の傾きが大きい位置(高さが大きく変化している位置)に分割線があると、部分画像の境界における画質(コントラストやぼけ)の差が大きくなり、合成処理が困難になる場合がある。
【0063】
その点、本実施例の方法によれば、標本の表面の傾きが小さいところに小区画の境界がくるように分割線が配置されるため、部分画像のつなぎ目が不自然になったり不連続になることを従来よりも少なくすることができる。そのため、位置ずれ補正を行った部分画像同士を単純につなぎ合わせるといった簡易な合成処理によっても、高品質な全体画像を生成することが可能となる。
【0064】
[実施例3]
本実施例では、撮像ユニットにおける撮像処理の具体例について説明する。
図7(A)は、撮像部305の構成の一例を示している。図中の円は、結像光学系304の撮像領域を示している。本実施例では、中心波長が550nm、開口数NAが0.7、倍率が10倍という高解像な結像光学系304を用いている。プレパラート上の視野を10mm×10mmのサイズとすると、撮像部305の撮像面上における撮像領域は100mm×100mm、すなわち直径141mm程度になる。この面積を一括で撮像可能な撮像素子を用いることは現実的でないため、本実施例の撮像部305は、複数(図7(A)では19個)の撮像素子が配置された構成を採用している。
【0065】
撮像素子は実際に光を検知する受光領域以外に回路や基板を有しているため、そのサイズは受光領域よりもひとまわり大きい。図7(A)の上側2行では、受光領域を白い四角、受光領域のまわりの不感領域を黒色で表しており、下側3行では、不感領域の図示を省略している。このような不感領域が存在するため、撮像素子の受光領域は隙間なく並べることができない。そこで、図7(A)のように、各撮像素子は所定のピッチで互いに離間するように配置される。撮像時には、撮像素子間の隙間を埋めるため、プレパラートと撮像部305のいずれか又は両方を移動して複数回の撮像を行う必要がある。本実施例では、プレパラート(撮像用ステージ302)を移動する方法をとり、撮像部305は図7(B)に示すように回転を行うのみとした。なお、撮像部305を回転させる代わりに、撮像用ステージ302を回転させてもよい。
【0066】
図8(A)、図8(C)は撮像面上での、撮像領域と撮像素子の位置を示している。灰色の四角が撮像素子の受光領域、すなわち、1回で撮像できる部分画像の領域を示している。なお、1回で撮像できる領域は、撮像素子の大きさ、サイズ、数によって決まる。図8(B)、図8(D)は撮像面上での撮像位置を示し、1回目の撮像位置を「1」、2回目の撮像位置を「2」・・・などというように示している。
【0067】
図8(A)のように撮像部の中心位置を固定し、1,2,3,4の位置に撮像用ステージの基準位置を順次置いて撮像を繰り返すことで、図8(B)のように撮像領域全体を埋めつくす複数枚の部分画像を取得することができる。あるいは、図8(C)のように1,2,3,4の位置に撮像用ステージの基準位置を順次置いて撮像を繰り返すことで、図8(D)のように撮像領域全体を埋めつくす複数枚の部分画像を取得することができる。
撮像素子は光学視野の外側に配置してもよい。プレパラートと撮像部の相対位置を変えたときに視野の領域が動いて、視野の内側に入るからである。この場合、今まで視野の内側に入っていた撮像素子が視野の外側にはみ出すものがでてくるものもある。
したがって、このような構成の撮像部を用いる場合、制御部401は、撮像回数を4回とし、4回分の撮像位置(プレパラートと撮像部の相対位置)を決定する。分割線の位置
や方向は、前述の実施例で述べた方法により決定される。
【0068】
なお、本実施例では、複数の撮像素子を有する撮像部を用いたが、単一の撮像素子からなる撮像部を順次移動させるステップ方式により全ての小区画の撮像を行う構成を採ることもできる。また、本実施例のように4回の撮像にてプレパラート上の10mm×10mmの領域の画像を取り込んだ後、ステージまたは撮像部を移動させて、プレパラート上の別の領域を撮像してもよい。これによりさらに広画角の画像を取得することができる。
【符号の説明】
【0069】
1:撮像装置、2:画像処理装置、100:計測ユニット、300:撮像ユニット、401:制御部

【特許請求の範囲】
【請求項1】
被写体の撮像範囲を複数の小区画に分割して撮像する撮像手段と、前記撮像手段で撮像された各小区画の部分画像を合成して全体画像を生成する画像処理手段と、を有する撮像システムにおいて、
前記撮像手段で被写体を撮像する前に、その被写体上の複数の点を計測し計測データを取得する計測手段と、
前記計測手段で取得された各計測点の計測データに基づいて、計測データの値の空間的な変化がより小さい位置に小区画の境界が配置されるように、当該被写体の分割位置を調整する分割位置調整手段と、を備え、
前記撮像手段は、前記分割位置調整手段により調整された分割位置に従って各小区画の撮像を行う
ことを特徴とする撮像システム。
【請求項2】
前記計測データは、被写体の輝度の情報を含み、
前記分割位置調整手段は、前記被写体の輝度の変化がより小さい位置に小区画の境界が配置されるように、当該被写体の分割位置を調整するものである
ことを特徴とする請求項1に記載の撮像システム。
【請求項3】
前記計測データは、被写体の色の情報を含み、
前記分割位置調整手段は、前記被写体の色の変化がより小さい位置に小区画の境界が配置されるように、当該被写体の分割位置を調整するものである
ことを特徴とする請求項1に記載の撮像システム。
【請求項4】
前記計測データは、被写体の表面の光軸方向の高さ、もしくは、被写体上に配置される保護部材の表面の光軸方向の高さの情報を含み、
前記分割位置調整手段は、前記被写体もしくは保護部材の表面の高さの変化がより小さい位置に小区画の境界が配置されるように、当該被写体の分割位置を調整するものであることを特徴とする請求項1に記載の撮像システム。
【請求項5】
前記分割位置調整手段は、光軸に垂直な面内で分割位置を平行移動することにより、分割位置を調整する
ことを特徴とする請求項1〜4のいずれか1項に記載の撮像システム。
【請求項6】
前記分割位置調整手段は、光軸に垂直な面内で分割位置を回転することにより、分割位置を調整する
ことを特徴とする請求項1〜5のいずれか1項に記載の撮像システム。
【請求項7】
前記分割位置調整手段は、前記計測データから観察対象が存在する範囲である観察範囲を検出し、少なくとも前記観察範囲を包含するように前記撮像手段での撮像範囲を決定する
ことを特徴とする請求項1〜6のいずれか1項に記載の撮像システム。
【請求項8】
前記分割位置調整手段は、
被写体上の各計測点について計測データの値の空間的な変化の度合いを示す特徴量を計算する手段と、ある分割位置に対し、小区画の境界上または境界の近傍に位置する複数の計測点の特徴量から当該分割位置の評価量を計算する手段と、を有し、
分割位置を変化させながら各分割位置での評価量を計算し、評価量が最も小さくなる分割位置を採用する
ことを特徴とする請求項1〜7のいずれか1項に記載の撮像システム。
【請求項9】
前記特徴量は、2階微分値である
ことを特徴とする請求項8に記載の撮像システム。
【請求項10】
前記画像処理手段は、各小区画の部分画像に対し個別に補正を施した後、補正後の部分画像同士をつなぎ合わせることにより、全体画像を生成する
ことを特徴とする請求項1〜9のいずれか1項に記載の撮像システム。
【請求項11】
被写体の撮像範囲を複数の小区画に分割して撮像する撮像手段と、前記撮像手段で撮像された各小区画の部分画像を合成して全体画像を生成する画像処理手段と、を有する撮像システムの制御方法であって、
前記撮像手段で被写体を撮像する前に、その被写体上の複数の点を計測し計測データを取得する計測ステップと、
前記計測ステップで取得された各計測点の計測データに基づいて、計測データの値の空間的な変化がより小さい位置に小区画の境界が配置されるように、当該被写体の分割位置を調整する分割位置調整ステップと、
前記撮像手段が、前記分割位置調整ステップにより調整された分割位置に従って各小区画の撮像を行う撮像ステップと、を含む
ことを特徴とする撮像システムの制御方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2013−11856(P2013−11856A)
【公開日】平成25年1月17日(2013.1.17)
【国際特許分類】
【出願番号】特願2012−93805(P2012−93805)
【出願日】平成24年4月17日(2012.4.17)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】