説明

タイムラプス観察方法、及び、それに用いられるタイムラプス観察装置

【課題】タイムラプス観察において、標本に与えるダメージを抑制しながら、標本の所定の撮像対象領域を撮像したタイムラプス画像を取得する技術を提供することを課題とする。
【解決手段】初回のタイムラプス画像の取得処理の前に、タイムラプス画像として画像化すべき領域である撮像対象領域のうちの一部の領域(参照領域)を撮像して、参照画像を取得する。所定の時間間隔毎に行うタイムラプス画像の取得処理の前に、撮像領域のサイズを参照領域のサイズと同じサイズに設定し、参照画像を取得した位置を含む互いに対物レンズの光軸方向に異なる複数の位置で複数の比較対象画像を取得する。参照画像と複数の比較対象画像との比較し、その結果に基づいて、タイムラプス画像を取得するときの撮像領域を撮像対象領域に一致させる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、タイムラプス観察方法及びタイムラプス観察装置に関し、特に、in vivo観察で用いられるタイムラプス観察方法、及び、それに用いられるタイムラプス観察装置に関する。
【背景技術】
【0002】
近年、生物研究分野において、その重要性が認識されているin vivo観察では、生きた標本の活性や変化を記録するために、タイムラプス観察が一般的に行われている。
【0003】
ところで、タイムラプス観察では、所定の時間間隔毎に標本の同じ領域(以降、撮像対象領域と記す。)を撮像することが標本の活性や変化を観察する上で望ましい。しかしながら、生きた標本は装置の撮像領域に対して移動するため、撮像時に実際に撮像される撮像領域と標本の撮像対象領域とを一致させて、常に標本の撮像対象領域を撮像することは容易ではない。
このような課題に関連する技術は、例えば、特許文献1に開示されている。
【0004】
特許文献1では、タイムラプス観察の各ラウンドで取得したZ座標の異なる複数のスライス画像の画像データから手動または自動でラウンド毎に一枚のスライス画像を選出することにより、観察対象物を追跡する技術が開示されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008−139579号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上述した技術によっても、タイムラプス観察において、標本に与えるダメージを抑制しながら、生きた標本の予め設定した撮像対象領域を撮像したタイムラプス画像を取得することは困難である。
【0007】
特許文献1に開示される技術では、各ラウンドで取得されるZ座標の異なる複数のスライス画像からタイムラプス画像が選択される。従って、各スライス画像は、標本の撮像対象領域全体が撮像された高解像且つ高S/Nの画像であることが必要である。このため、タイムラプス画像の取得にあたり、各スライス画像を標本の撮像対象領域全体の撮像により取得する必要がある。従って、タイムラプス画像の1枚撮像毎に照明光を撮像対象領域全体に複数回照射することになり、標本に与えるダメージを抑制することはできない。
【0008】
以上のような実情を踏まえ、本発明では、タイムラプス観察において、標本に与えるダメージを抑制しながら、標本の所定の撮像対象領域を撮像したタイムラプス画像を取得する技術を提供することを課題とする。
【課題を解決するための手段】
【0009】
本発明の第1の態様は、撮像領域を予め設定した標本上の撮像対象領域に一致させて、所定の時間間隔毎に前記撮像対象領域を撮像してタイムラプス画像を取得するタイムラプス観察方法であって、初回の前記タイムラプス画像の取得処理の前に、前記撮像対象領域のうちの一部の領域、または、前記撮像対象領域の近傍で且つ前記撮像対象領域よりも狭い領域である標本上の参照領域を撮像して、参照画像を取得し、前記参照画像の撮像時における撮像領域の位置、サイズをそれぞれ参照位置、参照サイズとして記憶し、前記所定の時間間隔毎に行う前記タイムラプス画像の取得処理の前に、撮像領域のサイズを前記参照サイズに設定して、撮像領域の位置を前記参照位置を含む対物レンズの光軸方向に異なる複数の位置に順番に設定して、前記複数の位置の各々で撮像して、複数の比較対象画像を取得し、前記参照画像と前記複数の比較対象画像との比較結果に基づいて、前記タイムラプス画像を取得するときの撮像領域を前記撮像対象領域に一致させるタイムラプス観察方法を提供する。
【0010】
本発明の第2の態様は、第1の態様に記載のタイムラプス観察方法において、前記参照画像と前記複数の比較対象画像の各々とのパターンマッチング処理により前記参照画像と最も相関が高い比較対象画像を特定し、前記最も相関が高い比較対象画像と前記参照画像との前記光軸方向の位置関係に基づいて、前記タイムラプス画像を取得するときの撮像領域の前記光軸方向の位置と前記撮像対象領域の前記光軸方向の位置とを一致させるタイムラプス観察方法を提供する。
【0011】
本発明の第3の態様は、第2の態様に記載のタイムラプス観察方法において、前記参照画像と前記最も相関が高い比較対象画像との比較結果に基づいて、前記タイムラプス画像を取得するときの撮像領域の前記光軸方向と直交するXY方向の位置と前記撮像対象領域の前記XY方向の位置とを一致させるタイムラプス観察方法を提供する。
【0012】
本発明の第4の態様は、第2の態様に記載のタイムラプス観察方法において、前記参照画像と前記参照位置で撮像した前記比較対象画像との比較結果に基づいて、前記タイムラプス画像を取得するときの撮像領域の前記光軸方向と直交するXY方向の位置と前記撮像対象領域の前記XY方向の位置とを一致させるタイムラプス観察方法を提供する。
【0013】
本発明の第5の態様は、第2の態様乃至第4の態様のいずれか1つに記載のタイムラプス観察方法において、前記タイムラプス画像を取得するときに前記撮像対象領域に照射される単位面積当たりの光量に比べて少ない単位面積当たりの光量を照射して、前記複数の比較対象画像を取得するタイムラプス観察方法を提供する。
【0014】
本発明の第6の態様は、第5の態様に記載のタイムラプス観察方法において、前記タイムラプス画像を取得するときに前記撮像対象領域に光を照射する単位面積当たりの照射時間に比べて短い単位面積当たりの照明時間で光を照射して、前記複数の比較対象画像を取得するタイムラプス観察方法を提供する。
【0015】
本発明の第7の態様は、第5の態様に記載のタイムラプス観察方法において、前記タイムラプス画像を取得するときに前記撮像対象領域に照射する光の強度に比べて弱い強度の光を照射して、前記複数の比較対象画像を取得するタイムラプス観察方法を提供する。
【0016】
本発明の第8の態様は、第6の態様または第7の態様に記載のタイムラプス観察方法において、前記タイムラプス画像を取得するときの検出器の感度の設定に比べて高い検出器の感度の設定で前記複数の比較対象画像を取得するタイムラプス観察方法を提供する。
【0017】
本発明の第9の態様は、第2の態様乃至第8の態様のいずれか1つに記載のタイムラプス観察方法において、さらに、前記タイムラプス画像を取得する毎に、前記参照画像を更新し、更新された前記参照画像の撮像時における撮像領域の位置で前記参照位置を更新するタイムラプス観察方法を提供する。
【0018】
本発明の第10の態様は、第9の態様に記載にタイムラプス観察方法において、前記タイムラプス画像を取得する毎に、前回の前記タイムラプス画像を取得する前に取得した前記複数の比較対象画像からパターンマッチング処理により特定された前記最も相関が高い比較対象画像で前記参照画像を更新し、更新された前記参照画像の撮像時における撮像領域の位置で前記参照位置を更新する
タイムラプス観察方法を提供する。
【0019】
本発明の第11の態様は、第2の態様乃至第10の態様のいずれか1つに記載のタイムラプス観察方法において、前記対物レンズの前記光軸方向への移動により、前記タイムラプス画像を取得するときの撮像領域の前記光軸方向の位置と前記撮像対象領域の前記光軸方向の位置とを一致させるタイムラプス観察方法を提供する。
【0020】
本発明の第12の態様は、第2の態様乃至第10の態様のいずれか1つに記載のタイムラプス観察方法において、前記標本を配置するステージの前記光軸方向への移動により、前記タイムラプス画像を取得するときの撮像領域の前記光軸方向の位置と前記撮像対象領域の前記光軸方向の位置とを一致させるタイムラプス観察方法を提供する。
【0021】
本発明の第13の態様は、第2の態様乃至第12の態様のいずれか1つに記載のタイムラプス観察方法において、走査手段の走査範囲の変更により、前記タイムラプス画像を取得するときの撮像領域の前記光軸方向と直交するXY方向の位置と前記撮像対象領域の前記XY方向の位置とを一致させるタイムラプス観察方法を提供する。
【0022】
本発明の第14の態様は、第2の態様乃至第12の態様のいずれか1つに記載のタイムラプス観察方法において、前記標本を配置するステージの前記光軸方向と直交するXY方向への移動により、前記タイムラプス画像を取得するときの撮像領域の前記XY方向の位置と前記撮像対象領域の前記XY方向の位置とを一致させるタイムラプス観察方法を提供する。
【0023】
本発明の第15の態様は、第2の態様乃至第14の態様のいずれか1つに記載のタイムラプス観察方法において、初回のタイムラプス画像の取得処理の前に、複数の前記参照領域を撮像して、前記複数の前記参照画像を取得し、前記複数の前記参照位置を記憶し、前記所定の時間間隔毎に行うタイムラプス画像の取得処理の前に、前記複数の前記参照画像の各々に対応する、それぞれ複数の前記比較対象画像を取得し、前記複数の参照画像と対応する前記複数の前記比較対象画像との比較結果に基づいて、前記タイムラプス画像を取得するときの撮像領域を前記撮像対象領域に一致させるタイムラプス観察方法を提供する。
【0024】
本発明の第16の態様は、第2の態様乃至第15の態様のいずれか1つに記載のタイムラプス観察方法において、前記タイムラプス画像及び前記比較対象画像は、蛍光画像であるタイムラプス観察方法を提供する。
【0025】
本発明の第17の態様は、第2の態様乃至第15の態様のいずれか1つに記載のタイムラプス観察方法において、前記タイムラプス画像及び前記比較対象画像は、SHG画像であるタイムラプス観察方法を提供する。
【0026】
本発明の第18の態様は、第2の態様乃至第17の態様のいずれか1つに記載の方法に用いられるタイムラプス観察装置を提供する。
本発明の第19の態様は、第2の態様乃至第17の態様のいずれか1つに記載の方法に用いられるマルチフォトン顕微鏡を提供する。
【発明の効果】
【0027】
本発明によれば、タイムラプス観察において、標本に与えるダメージを抑制しながら、標本の所定の撮像対象領域を撮像したタイムラプス画像を取得する技術を提供することができる。
【図面の簡単な説明】
【0028】
【図1】実施例1に係るタイムラプス観察装置の構成を例示した図である。
【図2】実施例1に係るタイムラプス観察装置でタイムラプス画像の取得前に実行される処理について説明するための図である。
【図3】実施例1に係るタイムラプス観察装置で取得される複数の比較対象画像のZ座標と相関値を示した図である。
【図4】実施例1に係るタイムラプス観察装置で実行されるタイムラプス観察の処理を示すフローチャートである。
【図5】実施例1に係るタイムラプス観察装置で実行されるタイムラプス観察の処理の変形例を示すフローチャートである。
【図6】実施例1に係るタイムラプス観察装置で実行されるタイムラプス観察の処理の他の変形例を示すフローチャートである。
【図7】実施例2に係るタイムラプス観察装置で実行されるタイムラプス観察の処理を示すフローチャートである。
【図8】実施例2に係るタイムラプス観察装置でタイムラプス画像の取得前に実行される参照領域の設定処理について説明するための図である。
【図9】実施例3に係るタイムラプス観察装置で実行されるタイムラプス観察の処理を示すフローチャートである。
【図10】実施例3に係るタイムラプス観察装置で実行されるタイムラプス観察の処理の変形例を示すフローチャートである。
【図11】実施例4に係るタイムラプス観察装置で実行されるタイムラプス観察の処理を示すフローチャートである。
【図12】実施例4に係るタイムラプス観察装置でタイムラプス画像の取得前に実行される参照領域の設定処理について説明するための図である。
【発明を実施するための形態】
【実施例1】
【0029】
図1は、本実施例に係るタイムラプス観察装置の構成を例示した図である。まず、図1を参照しながら、本実施例に係るタイムラプス観察装置1の構成について説明する。
【0030】
図1に例示される本実施例に係るタイムラプス観察装置1は、所定の時間間隔毎に予め設定した標本上の撮像対象領域を撮像してタイムラプス画像を取得する装置である。標本は、例えば、蛍光を発する細胞やコラーゲンを有する生体標本である。その場合、タイムラプス観察装置1は、例えば、第2高調波顕微鏡やマルチフォトン顕微鏡であり、タイムラプス観察装置1で取得される画像(後述するタイムラプス画像、参照画像、比較対象画像など)は、SHG画像や蛍光画像である。
【0031】
タイムラプス観察装置1は、標本に照射するレーザー光を射出するレーザー光源2と、レーザー光で標本を走査するためのスキャナ3と、対物レンズ5が装着された電動ノースピース4と、標本が配置される電動ステージ6と、標本からの光を検出するディテクタ7と、タイムラプス観察装置1全体の動作を制御する制御装置8と、制御装置8で生成された標本の画像を表示する表示装置9とを備えている。
制御装置8は、駆動制御部8aと、観察条件記憶部8bと、画像記憶部8cと、画像処理部8dと、表示制御部8eとを備えている。
【0032】
駆動制御部8aは、タイムラプス観察装置1の各構成部位の駆動を制御する。例えば、レーザー光源2の駆動を制御してレーザー光の射出強度を調整する。また、スキャナ3の駆動を制御して走査範囲や走査速度を調整する。また、電動ノースピース4や電動ステージ6の駆動を制御して対物レンズ5により取得される画像領域を変化させる。さらに、ディテクタ7の駆動を制御して検出感度を調整する。
【0033】
観察条件記憶部8bは、タイムラプス観察装置1によるタイムラプス観察の観察条件を記憶する。具体的には、例えば、タイムラプス画像を取得する所定の時間間隔、取得回数などを記憶する。
画像記憶部8cは、タイムラプス観察装置1で取得したタイムラプス画像の他、後述する参照画像や比較対象画像を記憶する。
【0034】
画像処理部8dは、タイムラプス観察装置1で取得した画像を処理する。具体的には、例えば、ディテクタ7からの信号とスキャナ3を制御する駆動制御部8aからの信号に基づいて画像を生成する画像生成処理や、後述するよう参照画像と比較対象画像のパターンマッチング処理などを行う。
表示制御部8eは、表示装置9の表示を制御し、タイムラプス画像などを表示装置9に表示させる。
【0035】
図2は、本実施例に係るタイムラプス観察装置でタイムラプス画像の取得前に実行される処理について説明するための図である。図2に例示される直交座標系のZ方向は、図1に例示される対物レンズ5の光軸方向と一致している。図3は、本実施例に係るタイムラプス観察装置で取得される複数の比較対象画像のZ座標と相関値を示した図である。
【0036】
タイムラプス観察装置1は、標本が移動した場合であってもその移動に追従して標本の撮像対象領域を撮像する。これを実現するために、タイムラプス観察装置1は、タイムラプス画像を取得する前に、撮像領域を標本上の撮像対象領域に一致させる処理を実行する。
【0037】
なお、本明細書において、撮像領域とは、タイムラプス観察装置により撮像される領域のことを意味し、タイムラプス観察装置を基準として定まる標本の領域である。ディテクタ7の撮像素子の領域(受光面)を意味するものではない。一方、撮像対象領域とは、タイムラプス観察装置により撮像すべき標本の特定の領域を意味し、標本を基準として定まる領域である。従って、標本が移動してもタイムラプス観察装置が動作しない限り、撮像領域は移動しないのに対して、撮像対象領域は、標本が移動すると、移動する。
【0038】
以下、図2を参照しながら、タイムラプス観察装置1により行われる、撮像領域を標本上の撮像対象領域に一致させる処理動作について説明する。なお、本明細書で撮像領域を撮像対象領域に一致させるとは、撮像領域と撮像対象領域の位置あわせを行うといった程度の意味であり、撮像領域と撮像対象領域が厳密に一致するように位置合わせする場合のみでなく、略一致するように位置合わせする場合も含む。
【0039】
図2(a)には、タイムラプス観察でタイムラプス画像を取得する標本上の領域である撮像対象領域Sと、その撮像対象領域Sのうちの一部の領域である参照領域Rとが示されている。なお、参照領域Rも、撮像対象領域Sと同様に、標本の特定の領域を意味し、標本を基準として定まる領域である。
【0040】
まず、タイムラプス観察装置1では、タイムラプス観察開始後の初回のタイムラプス画像取得前に、表示装置9に表示される標本の画像を見ながら撮像対象領域Sを設定し、その設定時の撮像対象領域Sの位置(以降、初期位置と記す。)とサイズをそれぞれ観察条件記憶部8bに保存する。
【0041】
さらに、表示装置9に表示される標本の画像を見ながら、撮像対象領域Sのうちの一部の領域を参照領域Rとして設定する。そして、その参照領域Rを撮像し、取得した画像を参照画像として画像記憶部8cに保存する。また、その参照画像の撮像時の撮像領域の位置とサイズをそれぞれ参照位置、参照サイズとして観察条件記憶部8bに保存する。
【0042】
このように、観察条件記憶部8bが初回のタイムラプス画像取得前における撮像対象領域Sの位置(初期位置)と参照領域Rの位置(参照位置)を記憶することで、予め撮像対象領域Sと参照領域Rの位置関係を特定する。
【0043】
なお、観察条件記憶部8bに記憶されるこれらの位置は、タイムラプス観察装置1を基準とした位置である。つまり、標本が移動した場合には、移動後の撮像対象領域S、参照領域Rの位置は、それぞれ、初期位置、参照位置とは異なる位置となる。
【0044】
次に、タイムラプス画像を取得すべき時刻(以降、タイムラプス時刻と記す。)が近づくと、タイムラプス観察装置1は、タイムラプス画像を取得する前に、撮像領域を標本上の撮像対象領域Sに一致させるため、図2(b)から図2(d)に示す動作を実行する。
【0045】
図2(b)には、参照位置に対してZスタック画像を取得する様子が示されている。タイムラプス観察装置1は、まず、観察条件記憶部8bに記憶された参照位置と参照サイズを読み出して、撮像領域のサイズ、位置を、それぞれ、参照サイズ、参照位置に設定する。さらに、参照位置に対してZ方向(対物レンズ5の光軸方向)の位置のみが異なる複数の位置に順番に設定する。この際、それぞれの位置(参照位置及び複数の異なる位置)で参照領域Rと等しいサイズの比較対象領域(比較対象領域M1からM7)を走査して撮像することにより、参照位置に対するZスタック画像である複数の画像(以降、比較対象画像と記す。)を取得する。取得した複数の比較対象画像は、画像記憶部8cに保存する。なお、図2(b)では、比較対象領域M4の位置が参照位置である。
【0046】
図2(c)には、参照画像と比較対象領域M1からM7を撮像した複数の比較対象画像の各々とのパターンマッチング処理の結果が示されている。タイムラプス観察装置1では、画像処理部8dは、画像記憶部8cに記憶された参照画像と各比較対象画像とのパターンマッチング処理を実行することで、図2(c)に示されるような参照画像と各比較対象画像との相関値を得る。そして、参照画像との比較で最も高い相関を示す比較対象画像を特定する。一般的に相関係数を求める場合、相関値は-1から1の値を持つ。値がマイナスの場合は負の相関、プラスの場合は正の相関を持つ。値が1に近いほど相関が高く、値が1の場合は完全に同じ像であるといえる。
【0047】
図2(c)に示す例では、比較対象領域M6を撮像した比較対象画像が最も高い相関を示す画像として特定される。なお、画像処理部8dが実行するパターンマッチング処理の手法については特に限定されず、既存の任意の手法を用いることができる。
【0048】
図2(d)には、撮像領域Tを標本上の撮像対象領域Sと一致させた様子が示されている。タイムラプス観察装置1は、参照画像と複数の比較対象画像との比較結果に基づいて、タイムラプス画像の撮像領域Tを標本上の撮像対象領域Sに一致させる。
【0049】
パターンマッチング処理の結果から、図2(a)に示す撮像対象領域S及び参照領域Rを設定した後に、標本上の参照領域Rは参照位置(比較対象領域M4の位置)から比較対象領域M6の位置に移動していると考えられる。従って、撮像対象領域Sも標本上の参照領域Rが移動した方向に同じ移動量だけ移動していると考えられる。
【0050】
これを踏まえ、初期位置(図2(a)に示す撮像対象領域Sの位置)から参照領域Rが移動したのと同じ方向に同じ移動量だけ移動した位置に撮像領域Tを設定する。つまり、ここでは、撮像領域TのZ位置を比較対象領域M6のZ位置に一致させる。さらに、タイムラプス画像の撮像領域Tのサイズを観察条件記憶部8bに記憶されている撮像対象領域Sのサイズと同じサイズに設定する。これにより、撮像領域Tと比較対象領域M6の位置関係が画像記憶部8cに記憶されている撮像対象領域Sと参照領域Rの位置関係と一致することになり、撮像領域Tは現時点における標本の撮像対象領域Sと一致することになる。
【0051】
以上のような処理を実行することで、タイムラプス観察装置1は、タイムラプス画像取得時に撮像領域Tと標本上の撮像対象領域Sとを一致させることができる。
【0052】
なお、図2では、参照画像と最も相関の高い比較対象画像を特定することで、参照領域R、即ち、標本の移動量を算出する例を示したが、標本の移動量を算出する方法は、特にこの方法に限られない。より高精度に標本の移動量を算出するために、例えば、図3に例示されるように、複数の比較対象画像のZ座標及び相関値から、例えば最小二乗法などを用いて、Z座標と相関値の関係を示す関数を算出してもよい。そして、その関数において、相関値が最大となるZ座標(図3では、Z0)に参照領域Rが移動したと推定して標本の移動量を算出してもよい。
【0053】
図4は、本実施例に係るタイムラプス観察装置で実行されるタイムラプス観察の処理を示すフローチャートである。図4を参照しながら、タイムラプス観察装置1の処理フローについて、具体的に説明する。
【0054】
まず、ステップS1では、タイムラプス観察装置1の観察条件が利用者により設定され、観察条件記憶部8bが設定された条件を記憶する。ステップS1で設定されるタイムラプス観察装置1の観察条件は、例えば、タイムラプス画像を取得する所定の時間間隔(以降、タイムラプス間隔と記す。)や取得回数、タイムラプス画像を取得する際のレーザー光源2のレーザー光の射出強度やスキャナ3の走査速度などである。
【0055】
ステップS2では、タイムラプス画像として画像化すべき標本の領域が撮像対象領域として利用者により設定される。利用者は、表示装置9に表示された標本の画像を見ながら撮像対象領域を設定する。例えば、表示装置9に表示されている標本の領域(以降、観察領域と記す。)の全体が撮像対象領域と設定される場合であれば、利用者は、タイムラプス観察装置1を操作して観察領域を調整することにより、撮像対象領域を設定する。観察領域内の一部の領域が撮像対象領域と設定される場合であれば、利用者は、観察領域を調整してからその範囲内で撮像対象領域を設定する。観察条件記憶部8bは、その設定時の撮像対象領域の位置(初期位置)とサイズを記憶する。
【0056】
ステップS3では、撮像対象領域のうちの一部の領域が参照領域として利用者により設定される。利用者は、表示装置9に表示された標本の画像を見ながら参照領域を設定する。
【0057】
タイムラプス観察装置1は、設定された参照領域をスキャナ3により走査して撮像し、参照画像を取得する。画像記憶部8cは、参照画像を記憶する。観察条件記憶部8bは、参照画像の撮像時の撮像領域の位置とサイズをそれぞれ参照位置、参照サイズとして記憶する。
【0058】
ステップS4では、参照位置に対するZスタック画像である複数の比較対象画像を取得する条件(以降、Zスタック条件と記す。)が利用者により設定されて、観察条件記憶部8bが設定されたZスタック条件を記憶する。ステップS4で設定されるZスタック条件は、例えば、比較対象画像を取得する際のZスタック枚数やZスタック間隔、比較対象画像を取得する際のレーザー光源2からのレーザー光の射出強度やスキャナ3の走査速度である。なお、比較対象画像と参照画像は同じ条件で取得すること望ましいため、Zスタック条件(特に、レーザー光の射出強度や走査速度など)は、ステップS3で参照画像を取得する前に、設定されてもよい。
【0059】
ステップS4で設定されるレーザー光の射出強度は、ステップS1で設定されるレーザー光の射出強度よりも弱い強度に設定され、走査速度は、ステップS1で設定される走査速度よりも高速な速度に設定されることが望ましい。また、後述するパターンマッチング処理を実行するのに十分な画質の比較対象画像を得るために、これらの設定に合わせて、ディテクタ7の検出感度を高感度に設定することが望ましい。具体的には、ゲインやオフセットの設定を高くする。
【0060】
以上の設定が終了すると、設定された条件に従って所定の時間間隔(タイムラプス間隔)毎に行われるタイムラプス処理が開始される。なお、以降の処理は、利用者の操作を介すことなく、タイムラプス観察装置1により自動的に実行される。また、ステップS3、ステップS4の処理についても、予め設定された基準に従って自動的に実行されても良い。
【0061】
ステップS5では、タイムラプス観察装置1が複数の比較対象画像を取得する。具体的には、タイムラプス観察装置1は、まず、観察条件記憶部8bに記憶された参照位置、参照サイズ、Zスタック条件(Zスタック枚数、Zスタック間隔、レーザー光の射出強度、走査速度、検出感度など)を読み出す。そして、参照位置を含む互いにZスタック間隔ずつZ方向にずれた位置のそれぞれで参照サイズの領域を撮像して、Zスタック枚数の比較対象画像を取得する。画像記憶部8cは、取得した比較対象画像を記憶する。
【0062】
ステップS6では、タイムラプス観察装置1が標本のXY方向の移動量を算出する。具体的には、タイムラプス観察装置1の画像処理部8dが、ステップS3で取得した参照画像と、ステップS5で取得した任意の比較対象画像(例えば、参照位置で撮像した比較対象画像)とを比較することにより、標本のXY方向の移動量を算出する。この移動量の算出には、既知の任意の手法が用いられ得る。
【0063】
なお、ステップS6では、標本のZ方向の移動量は未だ算出されていない。従って、任意に選択された比較対象画像は、通常、対物レンズ5の焦点位置が参照画像を取得する際とは標本に対して異なるZ位置にある状態で取得された画像である。このため、任意に選択された比較対象画像は、標本の異なるZ位置に合焦した画像である。しかしながら、そのZ位置の違いがわずかであれば、問題はほとんど生じない。
【0064】
ステップS7では、タイムラプス観察装置1が、タイムラプス画像を取得する撮像領域のXY位置を設定する。具体的には、タイムラプス観察装置1は、タイムラプス画像を取得する撮像領域のXY位置を、初期位置からステップS6で算出されたXY方向の移動量だけ移動した位置に設定する。
【0065】
タイムラプス観察装置1は、ステップS7の設定に従って、スキャナ3の走査範囲を変更することにより、タイムラプス画像を取得するときの撮像領域のXY位置と撮像対象領域のXY位置とを一致させることができる。電動ステージ6をXY方向へ移動させることによりタイムラプス画像を取得するときの撮像領域のXY位置と撮像対象領域のXY位置とを一致させてもよい。
【0066】
ステップS8では、タイムラプス観察装置1がパターンマッチング処理を実行して標本のZ方向の移動量を算出する。具体的には、タイムラプス観察装置1の画像処理部8dが、ステップS3で取得した参照画像とステップS5で取得した複数の比較対象画像の各々とのパターンマッチング処理を実行し、各比較対象画像の参照画像との相関値を得る。そして、最も高い相関を示す比較対象画像が撮像された比較対象領域のZ位置と参照位置のZ位置との関係から、標本のZ方向への移動量を算出する。ステップS6にて決定されたXY移動量を比較対象画像へ適用させあらかじめ比較対象画像をXY方向にシフトさせた状態で参照画像と相関値を得ると、より精度の良い相関値を得ることができる。
【0067】
ステップS9では、タイムラプス観察装置1が、タイムラプス画像を取得する撮像領域のZ位置を設定する。具体的には、タイムラプス観察装置1は、タイムラプス画像を取得する撮像領域のZ位置を、初期位置からステップS8で算出されたZ方向の移動量だけ移動した位置に設定する。
【0068】
タイムラプス観察装置1は、ステップS9の設定に従って、対物レンズ5をZ方向への移動により、タイムラプス画像を取得するときの撮像領域のZ位置と撮像対象領域のZ位置とを一致させることができる。また、電動ステージ6をZ方向へ移動させることにより、タイムラプス画像を取得するときの撮像領域のZ位置と撮像対象領域のZ位置とを一致させてもよい。
【0069】
ステップS10では、タイムラプス観察装置1が、タイムラプス画像を取得する。具体的には、タイムラプス観察装置1は、撮像領域のサイズを観察条件記憶部8bに記憶されている撮像対象領域のサイズと同じサイズに設定する。また、レーザー光源2のレーザー光の射出強度やスキャナ3の走査速度についても、観察条件記憶部8bに記憶されたタイムラプス画像取得時の設定に変更する。その後、観察条件記憶部8bに記憶された所定の時間間隔(タイムラプス間隔)から算出されるタイムラプス時刻に合わせて、撮像領域に一致した標本の撮像対象領域を撮像して、タイムラプス画像を取得する。画像記憶部8cは、取得したタイムラプス画像を記憶する。
ステップS11では、タイムラプス観察装置1が、観察条件記憶部8bに記憶された所定の取得回数だけタイムラプス画像が取得されたか否かが判断される。
【0070】
所定の取得回数だけタイムラプス画像が取得されていない場合には、タイムラプス観察装置1は、次のタイムラプス時刻が近づくまで待機する(ステップS12)。そして、その後、ステップS5からステップS11までの処理を繰り返す。なお、待機時間間隔は、例えば、ステップS5からステップS10までの処理時間を考慮した上で、できる限りタイムラプス間隔に近い時間間隔が設定されることが望ましい。一方、所定の取得回数だけタイムラプス画像が取得されている場合には、タイムラプス観察装置1は、処理を終了する。
【0071】
以上、本実施例に係るタイムラプス観察装置1によれば、標本が移動した場合であっても標本の移動に追従して、撮像領域を標本上の撮像対象領域に一致させることができる。このため、タイムラプス観察において、標本に与えるダメージを抑制しながら、生きた標本の所定の撮像対象領域を撮像したタイムラプス画像を取得することができる。従って、標本を長時間生かした状態で標本の所定の領域を観察することができる。
【0072】
また、タイムラプス観察装置1では、標本の移動に追従するために取得する画像(比較対象画像)とは別に、タイムラプス画像を取得する。このため、タイムラプス画像を取得するタイミングはスケジュールにより正確に管理することができる。
【0073】
また、タイムラプス観察装置1では、タイムラプス画像を取得する撮像対象領域に比べて狭い領域(図2(b)の比較対象領域M1からM7)に対してレーザー光を照射してZスタック画像(比較対象画像)を取得する。このため、タイムラプス画像取得前の処理により標本が負うダメージは極めて限定的であり、例えば、Zスタック画像を取得するために撮像対象領域全体にレーザー光を照射する従来の標本追従技術に比べて、標本に与えるダメージを大きく抑制することができる。さらに、Zスタック画像を取得する領域が狭いことから、Zスタック画像の取得に要する時間も従来に比べて短縮することができる。
【0074】
また、タイムラプス画像を取得するときに撮像対象領域に照射される単位面積当たりのレーザー光の光量に比べて少ない単位面積当たりの光量を照射して、Zスタック画像(比較対象画像)を取得することで、標本に与えるダメージをさらに抑制することができる。
【0075】
単位面積当たりのレーザー光の光量を抑制して標本のダメージを抑える具体的な方法としては、例えば、次のような方法がある。第1に、タイムラプス画像を取得するときに撮像対象領域に光を照射する単位面積当たりの照射時間に比べて短い単位面積当たりの照明時間で、レーザー光を照射して、Zスタック画像(比較対象画像)を取得する方法がある。また、第2に、タイムラプス画像を取得するときに撮像対象領域に照射する光の強度に比べて弱い強度の光を照射して、Zスタック画像(比較対象画像)を取得する方法がある。いずれの方法も、比較対象画像に求められる画質がタイムラプス画像の画質に比べて低いもので足りることを利用するものである。なお、この場合、標本の移動量の算出が可能な範囲内に画質の劣化を抑えるために、検出感度を上げてディテクタ7を動作させることが望ましい。
【0076】
なお、本実施例に係るタイムラプス観察装置1は、in vivo観察で用いられる種々の顕微鏡に応用され得る。それらの中でも、コントラストAFなどの既存の合焦技術を利用して標本のZ方向への移動に追従する方法が採用し得ない顕微鏡、例えば、マルチフォトン顕微鏡などへの応用は、特に好適である。マルチフォトン顕微鏡は、例えば、標本の深部を観察することができる、標本に与えるダメージを抑制することができる、などの特徴の点からも見ても、本実施例に係るタイムラプス観察装置1の応用例として好適である。
【0077】
また、図4では、XY方向の追従に関して、ステップS6で算出したXY方向の移動量に基づいて撮像領域を標本上の撮像対象領域と一致させる例を示した。しかし、XY方向の追従の方法は、他の方法により行われても良い。例えば、ステップS10の直前に、画像処理部8dが、ステップS3で取得した参照画像とステップS8で取得した最も高い相関を示す比較対象画像とを比較することにより、標本のXY方向の移動量を算出して、その移動量に基づいて撮像領域を標本上の撮像対象領域と一致させてもよい。
【0078】
また、図4では、標本のXY方向の移動量が比較的小さい場合を例に説明したが、ステップS6で算出されたXY方向の移動量が比較的大きい場合など、撮像対象領域が観察領域外に移動している場合には、例えば、以下のような方法を併用することが望ましい。
【0079】
ステップS5で比較対象画像を取得する前に、まず、撮像領域のサイズを撮像対象領域と同じサイズに設定した上で、ステップS5で取得される比較対象画像のZスタック幅よりも広い間隔で別途Zスタック画像を取得する。そして、取得されたそれらの画像と前回のタイムラプス画像とを比較することで、ある程度の誤差を許容した上で、撮像領域を標本上の撮像対象領域に一致させる。その後、さらに、精度良く撮像領域を標本上の撮像対象領域に一致させるために、ステップS5以降の処理を実行する。
【0080】
このような方法を図4に例示される方法と併用することで、標本の移動量が大きい場合であって、標本に与えるダメージを抑制しながら、標本を追従することができる。
【0081】
図5及び図6は、それぞれ本実施例に係るタイムラプス観察装置で実行されるタイムラプス観察の処理の変形例を示すフローチャートである。なお、図4で上述した処理と同一の処理には、同一のステップ番号を付して説明を省略する。
【0082】
図5に例示されるタイムラプス観察の処理フローは、ステップS6からステップS9で示される処理の代わりに、ステップS13からステップS16で示される処理を含む点が、図4に例示されるタイムラプス観察装置1の処理フローと異なっている。
【0083】
図5に例示される処理フローで動作するタイムラプス観察装置1は、ステップS5で複数の比較対象画像を取得した後に、画像処理部8dにより標本のZ方向の移動量を算出するためにパターンマッチング処理が実行される(ステップS13)。そして、タイムラプス観察装置1は、算出されたZ方向の移動量を基に撮像領域のZ位置を設定する(ステップS14)。なお、ステップS13、ステップS14の処理は、図4に例示されるステップS8、ステップS9の処理と同じである。
【0084】
その後、標本のXY方向の移動量を算出する(ステップS15)。この処理は、図4に例示されるステップS6に相当する処理である。ただし、ステップS15では、参照画像とステップS13において最も高い相関を示す画像として特定された比較対象画像とを比較することにより、標本のXY方向の移動量を算出する点が、図4に例示されるステップS6と異なっている。
【0085】
そして、タイムラプス観察装置1が、ステップS15で算出されたXY方向の移動量を基に撮像領域のXY位置を設定する(ステップS16)。ステップS16の処理は、図4に例示されるステップS7の処理と同じである。
【0086】
本実施例に係るタイムラプス観察装置1は、図5に例示されるタイムラプス観察の処理の変形例を実行するように構成された場合であっても、図4に例示されるタイムラプス観察の処理を実行するように構成された場合と同様の効果を得ることができる。さらに、図5に例示される処理を実行する場合には、Z方向の位置が一致した画像の比較によりXY方向の移動量が算出されるため、XY方向の移動量の算出精度が向上し、その結果、より高い精度で撮像領域と撮像対象領域を一致させることが可能となる。従って、標本に与えるダメージを抑制しながら、生きた標本の所定の撮像対象領域をより精度良く撮像したタイムラプス画像を取得することができる。
【0087】
図6に例示されるタイムラプス観察の処理フローは、ステップS5からステップS9で示される処理の代わりに、ステップS17からステップS22で示される処理を含む点が、図4に例示されるタイムラプス観察装置1の処理フローと異なっている。
【0088】
図6に例示される処理フローで動作するタイムラプス観察装置1は、ステップS4でZスタック条件を設定した後に(または、ステップS12でタイムラプス時刻が近づくまで待機した後に)、まず、撮像領域の位置、サイズを、それぞれ参照位置、参照サイズに設定して、一枚の比較対象画像を取得する(ステップS17)。そして、画像処理部8dが、参照画像とステップS17で取得した比較対象画像とを比較することにより、標本のXY方向の移動量を算出する(ステップS18)。
【0089】
その後に、タイムラプス観察装置1が標本のZ方向の移動量を算出するために用いられる複数の比較対象画像を取得する(ステップS19)。ただし、ステップS19では、タイムラプス観察装置1が撮像領域の位置を参照位置からステップS18で算出されたXY方向の移動量だけ移動させてから、その移動後の位置を含む互いにZスタック間隔ずつZ方向にずれた位置のそれぞれで参照サイズの領域を撮像して、Zスタック枚数の比較対象画像を取得する。
【0090】
そして、タイムラプス観察装置1は、ステップS18で算出されたXY方向の移動量を基にタイムラプス画像を取得する撮像領域のXY位置を設定する(ステップS20)。さらに、標本のZ方向の移動量を算出するためにパターンマッチング処理を実行し(ステップS21)、算出されたZ方向の移動量を基にタイムラプス画像を取得する撮像領域のZ位置を設定する(ステップS22)。なお、ステップS20からステップS22の処理は、図4に例示されるステップS7からステップS9の処理と同じである。
【0091】
本実施例に係るタイムラプス観察装置1は、図6に例示されるタイムラプス観察の処理の変形例を実行するように構成された場合であっても、図4に例示されるタイムラプス観察の処理を実行するように構成された場合と同様の効果を得ることができる。さらに、図6に例示される処理を実行する場合には、XY方向の位置が参照画像と一致している複数の比較対象画像を用いて標本のZ方向の移動量が算出されるため、Z方向の移動量の算出精度が向上する。その結果、より高い精度で撮像領域と撮像対象領域を一致させることができる。従って、標本に与えるダメージを抑制しながら、生きた標本の所定の撮像対象領域をより精度良く撮像したタイムラプス画像を取得することができる。
【実施例2】
【0092】
図7は、本実施例に係るタイムラプス観察装置で実行されるタイムラプス観察の処理を示すフローチャートである。図8は、本実施例に係るタイムラプス観察装置でタイムラプス画像の取得前に実行される参照領域の設定処理について説明するための図である。本実施例に係るタイムラプス観察装置は、撮像対象領域の外側の領域を参照領域として設定する点が、実施例1に係るタイムラプス観察装置1と異なっている。本実施例に係るタイムラプス観察装置の構成は、図1に例示される実施例1に係るタイムラプス観察装置1の構成と同様である。
【0093】
以下、図7及び図8を参照しながら、本実施例に係るタイムラプス観察装置の処理フローについて、図4に例示される実施例1に係るタイムラプス観察装置1の処理フローとの相違点に注目して、具体的に説明する。なお、図4で上述した処理と同一の処理には、同一のステップ番号を付して説明を省略する。
【0094】
図7に例示されるタイムラプス観察の処理フローは、ステップS23、ステップS24、及び、ステップS25で示される処理が追加されている点が、図4に例示される処理フローと異なっている。
【0095】
本実施例に係るタイムラプス観察装置は、ステップS2で撮像対象領域を設定した後に、表示装置9に表示される観察領域の位置を移動させて標本の異なる領域を表示装置9に表示する(ステップS23)。
【0096】
なお、以降では、ステップS23での移動前の観察領域の位置を第1の位置と記し、ステップS23での移動後の観察領域の位置を第2の位置と記す。第1の位置は、タイムラプス画像を取得する際の観察領域の位置であり、第2の位置は、Zスタック画像を取得する際の観察領域の位置である。
【0097】
そして、ステップS3で、図8に例示されるように、撮像対象領域Sの外側の領域を参照領域R1として設定する。参照領域R1は、標本が移動した場合であっても撮像対象領域Sとの位置関係が維持される領域であることが必要である。このため、撮像対象領域Sから大きく離れた領域は好ましくなく、撮像対象領域Sの近傍に参照領域R1を設定する。なお、撮像対象領域Sとの位置関係が維持される限りは、参照領域R1は撮像対象領域Sと同一平面(XY平面)に位置する必要はない。また、標本に与えるダメージをさらに抑制するために、撮像対象領域Sよりも狭く設定する。
【0098】
また、本実施例に係るタイムラプス観察装置は、ステップS5でZスタック画像を取得した後に、観察領域の位置を第1の位置に移動させて観察領域を変更し(ステップS24)、ステップS12の待機する前に、観察領域の位置を第2の位置に移動させて観察領域を変更する(ステップS25)。
【0099】
なお、ステップS6で算出されたXY方向の移動量に基づいて、さらに観察領域の移動が必要と判断される場合には、タイムラプス画像取得前に観察領域の位置を第1の位置からさらに移動させても良い。
【0100】
以上、本実施例に係るタイムラプス観察装置によっても、実施例1に係るタイムラプス観察装置1と同様の効果を得ることができる。即ち、タイムラプス観察において、標本に与えるダメージを抑制しながら、生きた標本の所定の撮像対象領域を撮像したタイムラプス画像を取得することができる。
【0101】
また、本実施例に係るタイムラプス観察装置では、参照領域が撮像対象領域の外側に設定されているため、実施例1に係るタイムラプス観察装置1に比べて、標本の撮像部位(撮像撮像領域)へのダメージをさらに抑制することができる。
【実施例3】
【0102】
図9は、本実施例に係るタイムラプス観察装置で実行されるタイムラプス観察の処理を示すフローチャートである。本実施例に係るタイムラプス観察装置は、参照画像を最も相関が高い画像として特定された比較対象画像で更新する点が、実施例1に係るタイムラプス観察装置1と異なっている。本実施例に係るタイムラプス観察装置の構成は、図1に例示される実施例1に係るタイムラプス観察装置1の構成と同様である。
【0103】
以下、図9を参照しながら、本実施例に係るタイムラプス観察装置の処理フローについて、図4に例示される実施例1に係るタイムラプス観察装置1の処理フローとの相違点に注目して、具体的に説明する。なお、図4で上述した処理と同一の処理には、同一のステップ番号を付して説明を省略する。
図9に例示されるタイムラプス観察の処理フローは、ステップS26で示される処理が追加されている点が、図4に例示される処理フローと異なっている。
【0104】
本実施例に係るタイムラプス観察装置は、ステップS11で所定の取得回数だけタイムラプス画像が取得されていないと判断されると、画像記憶部8cに記憶されている参照画像を、ステップS8で実行されたパターンマッチング処理により特定された最も高い相関を示す比較対象画像で更新する(ステップS26)。これに合わせて、観察条件記憶部8bに記憶されている参照位置も、その最も高い相関を示す比較対象画像の撮像時の撮像領域の位置で更新する。
【0105】
なお、最も高い相関を示す比較対象画像で自動的に参照画像を更新する代わりに、例えば、表示装置9に更新前の参照画像と更新予定の画像(最も高い相関を示す比較対象画像)とを並べて表示して、参照画像を更新するか否かを利用者に選択させてもよい。また、この場合、タイムラプス処理の遅延や停止などを防止するために、更新するか否かについて利用者からの選択指示が一定時間以上入力されなかったときには、参照画像を更新せずに、または、参照画像を更新して、ステップS25を終了するように構成してもよい。
【0106】
以上、本実施例に係るタイムラプス観察装置によっても、実施例1に係るタイムラプス観察装置1と同様の効果を得ることができる。即ち、タイムラプス観察において、標本に与えるダメージを抑制しながら、生きた標本の所定の撮像対象領域を撮像したタイムラプス画像を取得することができる。
【0107】
また、一般に、生体標本を対象とするタイムラプス観察では、時間の経過とともに標本の位置だけでなく標本の形状や色も変化する。このため、タイムラプス観察開始直後の取得された参照画像に現された標本と現時点の標本との相違も、時間の経過とともに大きくなり、その結果、パターンマッチングで得られる相関値も低くなる。このような状態は、パターンマッチングの判定精度を低下させることになるため、算出される標本の移動量の精度の低下を引き起こすことがある。
【0108】
このような課題に対しても、本実施例に係るタイムラプス観察装置によれば、タイムラプス画像を取得する度に参照画像が更新されるため、参照画像に現される標本と現時点の標本との乖離を小さく抑えることが可能となり、その結果、時間の経過とともに生じる標本の移動量の精度の低下を抑えることができる。従って、実施例1に係るタイムラプス観察装置1に比べて、より長時間にわたって標本の所定の領域を観察することができる。
図10は、本実施例に係るタイムラプス観察装置で実行されるタイムラプス観察の処理の変形例を示すフローチャートである。
【0109】
図10に例示されるタイムラプス観察の処理フローは、参照画像を更新するか否かについて利用者に選択させる点(ステップS27)、参照画像を更新する場合に利用者が参照領域を改めて設定して参照画像を取得し直す点(ステップS28)、Zスタック条件を改めて設定し直す点(ステップS29)が、図9に例示されるタイムラプス観察装置の処理フローと異なっている。なお、ステップS28、ステップS29の処理は、図9に例示されるステップS3、ステップS4の処理と同じである。
【0110】
本実施例に係るタイムラプス観察装置は、図10に例示されるタイムラプス観察の処理の変形例を実行するように構成された場合であっても、図9に例示されるタイムラプス観察の処理を実行するように構成された場合と同様の効果を得ることができる。
【実施例4】
【0111】
図11は、本実施例に係るタイムラプス観察装置で実行されるタイムラプス観察の処理を示すフローチャートである。図12は、本実施例に係るタイムラプス観察装置でタイムラプス画像の取得前に実行される参照領域の設定処理について説明するための図である。本実施例に係るタイムラプス観察装置は、一の撮像対象領域に対して複数の参照領域を設定して複数の参照画像を取得する。そして、その複数の参照画像を利用して撮像領域を標本上の撮像対象領域に一致させる点が、実施例1に係るタイムラプス観察装置1と異なっている。本実施例に係るタイムラプス観察装置の構成は、図1に例示される実施例1に係るタイムラプス観察装置1の構成と同様である。
図11を参照しながら、タイムラプス観察装置の処理フローについて、具体的に説明する。
【0112】
まず、ステップS30では、タイムラプス観察装置の観察条件が利用者により設定され、観察条件記憶部8bが設定された条件を記憶する。ステップS31では、タイムラプス画像として画像化すべき標本の領域が撮像対象領域として利用者により設定される。観察条件記憶部8bは、その設定時の撮像対象領域の位置(初期位置)とサイズを記憶する。なお、ステップS30、ステップS31の処理は、図4に例示されるステップS1、ステップS2の処理と同じである。
次に、設定する参照領域の数Nを指定し(ステップS32)、参照領域の番号を管理する一時変数iをi=1に設定する(ステップS33)。
【0113】
ステップS34では、撮像対象領域のうちの一部の領域が参照領域として利用者により設定される。利用者は、表示装置9に表示された標本の画像を見ながらi番目の参照領域を設定する。タイムラプス観察装置は、設定されたi番目の参照領域を走査して撮像し、i番目の参照画像を取得する。画像記憶部8cは、取得したi番目の参照画像を記憶する。観察条件記憶部8bは、i番目の参照画像の撮像時の撮像領域の位置とサイズをそれぞれi番目の参照位置、参照サイズとして記憶する。
【0114】
ステップS35では、i番目の参照位置に対するZスタック画像である複数の比較対象画像を取得する条件(以降、Zスタック条件と記す。)が利用者により設定されて、観察条件記憶部8bが設定されたi番目のZスタック条件を記憶する。
【0115】
その後、一時変数iがi=Nであるか否か、即ち、N個の参照画像が取得済みか否かを判定する(ステップS36)。取得済みでない場合には、一時変数iを1だけインクリメントして(ステップS37)、ステップS34からステップS36の処理を繰り返す。なお、ステップS34、ステップS35の処理は、図4に例示されるステップS3、ステップS4の処理に相当する。
N個の参照画像の取得が終了すると、設定された条件に従って所定の時間間隔(タイムラプス間隔)毎に行われるタイムラプス処理が開始される。
【0116】
まず、参照領域の番号を管理する一時変数iを再びi=1に設定する(ステップS38)。そして、ステップS39では、タイムラプス観察装置がi番目の参照画像に対応する、複数の比較対象画像を取得する。具体的には、タイムラプス観察装置は、まず、観察条件記憶部8bに記憶されたi番目の参照位置、参照サイズ、Zスタック条件(Zスタック枚数、Zスタック間隔、レーザー光の射出強度、走査速度、検出感度など)に従って、複数の比較対象画像を取得する。画像記憶部8cは、取得したi番目の参照画像に対応する、複数の比較対象画像を記憶する。
【0117】
ステップS40では、タイムラプス観察装置が標本のXY方向の移動量を算出する。具体的には、タイムラプス観察装置の画像処理部8dが、ステップS34で取得したi番目の参照画像と、ステップS39で取得したi番目の参照画像に対応する比較対象画像、例えば、参照位置で撮像した比較対象画像とを比較することにより、標本のXY方向の移動量を算出する。
【0118】
ステップS41では、タイムラプス観察装置がパターンマッチング処理を実行して標本のZ方向の移動量を算出する。具体的には、タイムラプス観察装置の画像処理部8dが、ステップS34で取得したi番目の参照画像とステップS39で取得したi番目の参照画像に対応する複数の比較対象画像の各々とのパターンマッチング処理を実行し、各比較対象画像の参照画像との相関値を得る。そして、最も高い相関を示す比較対象画像が撮像された比較対象領域のZ位置と参照位置のZ位置との関係から、標本のZ方向への移動量を算出する。
【0119】
その後、一時変数iがi=Nであるか否か、N個の参照画像から標本のXY方向、Z方向の移動量をそれぞれN個算出が取得済みか否かを判定する(ステップS42)。算出済みでない場合には、一時変数iを1だけインクリメントして(ステップS43)、ステップS39からステップS42の処理を繰り返す。なお、ステップS39、ステップS40、ステップS41の処理は、図4に例示されるステップS5、ステップS6、ステップS8の処理に相当する。
【0120】
ステップS44では、タイムラプス観察装置が、タイムラプス画像を取得する撮像領域のXY位置及びZ位置を設定する。具体的には、ステップS40及びステップS41で算出されたそれぞれN個のXY方向、Z方向の移動量を考慮して、標本のXY方向の移動量とY方向の移動量を再計算する。そして、タイムラプス画像を取得する撮像領域のXY位置及びZ位置を、初期位置から再計算により得られた移動量だけ移動した位置に設定する。
ステップS45では、タイムラプス観察装置が、タイムラプス画像を取得する。そして、画像記憶部8cが、取得したタイムラプス画像を記憶する。
【0121】
ステップS46では、タイムラプス観察装置1が、観察条件記憶部8bに記憶された所定の取得回数だけタイムラプス画像が取得されたか否かが判断される。所定の取得回数だけタイムラプス画像が取得されていない場合には、タイムラプス観察装置は、次のタイムラプス時刻が近づくまで待機し(ステップS47)、その後、ステップS38からステップS46までの処理を繰り返す。一方、所定の取得回数だけタイムラプス画像が取得されている場合には、タイムラプス観察装置は、処理を終了する。
【0122】
以上、本実施例に係るタイムラプス観察装置によっても、実施例1に係るタイムラプス観察装置1と同様の効果を得ることができる。即ち、タイムラプス観察において、標本に与えるダメージを抑制しながら、生きた標本の所定の撮像対象領域を撮像したタイムラプス画像を取得することができる。
【0123】
また、本実施例に係るタイムラプス観察装置では、複数の参照領域を設定し複数の参照画像を用いて標本の移動量を算出するため、より標本の移動量をより高精度に算出することができる。従って、標本に与えるダメージを抑制しながら、生きた標本の所定の撮像対象領域をさらに精度良く撮像したタイムラプス画像を取得することができる。
なお、実施例2から実施例4に係るタイムラプス観察装置で実行される処理についても、図5や図6に例示されるような種々の変形を施すことができる。
【符号の説明】
【0124】
1・・・タイムラプス観察装置
2・・・レーザー光源
3・・・スキャナ
4・・・電動ノースピース
5・・・対物レンズ
6・・・電動ステージ
7・・・ディテクタ
8・・・制御装置
8a・・・駆動制御部
8b・・・観察条件記憶部
8c・・・画像記憶部
8d・・・画像処理部
8e・・・表示制御部
9・・・表示装置
T・・・撮像対象領域
R、R1、R2、R3・・・参照領域
M1、M2、M3、M4、M5、M6、M7・・・比較対象領域

【特許請求の範囲】
【請求項1】
撮像領域を予め設定した標本上の撮像対象領域に一致させて、所定の時間間隔毎に前記撮像対象領域を撮像してタイムラプス画像を取得するタイムラプス観察方法であって、
初回の前記タイムラプス画像の取得処理の前に、
前記撮像対象領域のうちの一部の領域、または、前記撮像対象領域の近傍で且つ前記撮像対象領域よりも狭い領域である標本上の参照領域を撮像して、参照画像を取得し、
前記参照画像の撮像時における撮像領域の位置、サイズをそれぞれ参照位置、参照サイズとして記憶し、
前記所定の時間間隔毎に行う前記タイムラプス画像の取得処理の前に、
撮像領域のサイズを前記参照サイズに設定して、撮像領域の位置を前記参照位置を含む対物レンズの光軸方向に異なる複数の位置に順番に設定して、前記複数の位置の各々で撮像して、複数の比較対象画像を取得し、
前記参照画像と前記複数の比較対象画像との比較結果に基づいて、前記タイムラプス画像を取得するときの撮像領域を前記撮像対象領域に一致させる
ことを特徴とするタイムラプス観察方法。
【請求項2】
請求項1に記載のタイムラプス観察方法において、
前記参照画像と前記複数の比較対象画像の各々とのパターンマッチング処理により前記参照画像と最も相関が高い比較対象画像を特定し、
前記最も相関が高い比較対象画像と前記参照画像との前記光軸方向の位置関係に基づいて、前記タイムラプス画像を取得するときの撮像領域の前記光軸方向の位置と前記撮像対象領域の前記光軸方向の位置とを一致させる
ことを特徴とするタイムラプス観察方法。
【請求項3】
請求項2に記載のタイムラプス観察方法において、
前記参照画像と前記最も相関が高い比較対象画像との比較結果に基づいて、前記タイムラプス画像を取得するときの撮像領域の前記光軸方向と直交するXY方向の位置と前記撮像対象領域の前記XY方向の位置とを一致させる
ことを特徴とするタイムラプス観察方法。
【請求項4】
請求項2に記載のタイムラプス観察方法において、
前記参照画像と前記参照位置で撮像した前記比較対象画像との比較結果に基づいて、前記タイムラプス画像を取得するときの撮像領域の前記光軸方向と直交するXY方向の位置と前記撮像対象領域の前記XY方向の位置とを一致させる
ことを特徴とするタイムラプス観察方法。
【請求項5】
請求項2乃至請求項4のいずれか1項に記載のタイムラプス観察方法において、
前記タイムラプス画像を取得するときに前記撮像対象領域に照射される単位面積当たりの光量に比べて少ない単位面積当たりの光量を照射して、前記複数の比較対象画像を取得する
ことを特徴とするタイムラプス観察方法。
【請求項6】
請求項5に記載のタイムラプス観察方法において、
前記タイムラプス画像を取得するときに前記撮像対象領域に光を照射する単位面積当たりの照射時間に比べて短い単位面積当たりの照明時間で光を照射して、前記複数の比較対象画像を取得する
ことを特徴とするタイムラプス観察方法。
【請求項7】
請求項5に記載のタイムラプス観察方法において、
前記タイムラプス画像を取得するときに前記撮像対象領域に照射する光の強度に比べて弱い強度の光を照射して、前記複数の比較対象画像を取得する
ことを特徴とするタイムラプス観察方法。
【請求項8】
請求項6または請求項7に記載のタイムラプス観察方法において、
前記タイムラプス画像を取得するときの検出器の感度の設定に比べて高い検出器の感度の設定で前記複数の比較対象画像を取得する
ことを特徴とするタイムラプス観察方法。
【請求項9】
請求項2乃至請求項8のいずれか1項に記載のタイムラプス観察方法において、さらに、
前記タイムラプス画像を取得する毎に、前記参照画像を更新し、更新された前記参照画像の撮像時における撮像領域の位置で前記参照位置を更新する
ことを特徴とするタイムラプス観察方法。
【請求項10】
請求項9に記載のタイムラプス観察方法において、
前記タイムラプス画像を取得する毎に、前回の前記タイムラプス画像を取得する前に取得した前記複数の比較対象画像からパターンマッチング処理により特定された前記最も相関が高い比較対象画像で前記参照画像を更新し、更新された前記参照画像の撮像時における撮像領域の位置で前記参照位置を更新する
ことを特徴とするタイムラプス観察方法。
【請求項11】
請求項2乃至請求項10のいずれか1項に記載のタイムラプス観察方法において、
前記対物レンズの前記光軸方向への移動により、前記タイムラプス画像を取得するときの撮像領域の前記光軸方向の位置と前記撮像対象領域の前記光軸方向の位置とを一致させる
ことを特徴とするタイムラプス観察方法。
【請求項12】
請求項2乃至請求項10のいずれか1項に記載のタイムラプス観察方法において、
前記標本を配置するステージの前記光軸方向への移動により、前記タイムラプス画像を取得するときの撮像領域の前記光軸方向の位置と前記撮像対象領域の前記光軸方向の位置とを一致させる
ことを特徴とするタイムラプス観察方法。
【請求項13】
請求項2乃至請求項12のいずれか1項に記載のタイムラプス観察方法において、
走査手段の走査範囲の変更により、前記タイムラプス画像を取得するときの撮像領域の前記光軸方向と直交するXY方向の位置と前記撮像対象領域の前記XY方向の位置とを一致させる
ことを特徴とするタイムラプス観察方法。
【請求項14】
請求項2乃至請求項12のいずれか1項に記載のタイムラプス観察方法において、
前記標本を配置するステージの前記光軸方向と直交するXY方向への移動により、前記タイムラプス画像を取得するときの撮像領域の前記XY方向の位置と前記撮像対象領域の前記XY方向の位置とを一致させる
ことを特徴とするタイムラプス観察方法。
【請求項15】
請求項2乃至請求項14のいずれか1項に記載のタイムラプス観察方法において、
初回のタイムラプス画像の取得処理の前に、
複数の前記参照領域を撮像して、前記複数の前記参照画像を取得し、
前記複数の前記参照位置を記憶し、
前記所定の時間間隔毎に行うタイムラプス画像の取得処理の前に、
前記複数の前記参照画像の各々に対応する、それぞれ複数の前記比較対象画像を取得し、
前記複数の参照画像と対応する前記複数の前記比較対象画像との比較結果に基づいて、前記タイムラプス画像を取得するときの撮像領域を前記撮像対象領域に一致させる
ことを特徴とするタイムラプス観察方法。
【請求項16】
請求項2乃至請求項15のいずれか1項に記載のタイムラプス観察方法において、
前記タイムラプス画像及び前記比較対象画像は、蛍光画像である
ことを特徴とするタイムラプス観察方法。
【請求項17】
請求項2乃至請求項15のいずれか1項に記載のタイムラプス観察方法において、
前記タイムラプス画像及び前記比較対象画像は、SHG画像である
ことを特徴とするタイムラプス観察方法。
【請求項18】
請求項2乃至請求項17のいずれか1項に記載の方法に用いられることを特徴とするタイムラプス観察装置。
【請求項19】
請求項2乃至請求項17のいずれか1項に記載の方法に用いられることを特徴とするマルチフォトン顕微鏡。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate


【公開番号】特開2013−61433(P2013−61433A)
【公開日】平成25年4月4日(2013.4.4)
【国際特許分類】
【出願番号】特願2011−198861(P2011−198861)
【出願日】平成23年9月12日(2011.9.12)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】