説明

形状測定方法、画像処理プログラム及び観察装置

【課題】生体試料の三次元形状を高精度に測定することが可能な構成の形状測定方法、画像処理プログラム、観察装置を提供する。
【解決手段】生体試料たる受精卵とこの受精卵の像を結像する第1観察光学系との光学的距離を変化させながら第1撮像装置により受精卵を一方側から順次撮影した複数の第1画像と、受精卵とこの受精卵の像を結像する第2観察光学系との光学的距離を変化させながら第2撮像装置により受精卵を他方側から順次撮影した複数の第2画像とを取得し、複数の第1画像及び第2画像に基づいて合焦測度を画素単位で算出し、受精卵の一方側の領域については第1画像より得られた合焦測度情報を優先適用し、受精卵の他方側の領域については第2画像より得られた合焦測度情報を優先適用して各画素の合焦点を求め、合焦点位置に基づいて受精卵の三次元形状を構築する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えば受精卵等の生体試料の三次元形状を構築することが可能な構成の形状測定方法、画像処理プログラム、及び観察装置に関する。
【背景技術】
【0002】
近年、生殖補助医療技術(ART)の発展に伴い、体外受精による受精卵を培養しながらその生育状態を観察することが行われている。受精卵などの培養物の状況を観察する装置の例として、培養顕微鏡が挙げられる(例えば、特許文献1を参照)。培養顕微鏡は、受精卵の培養に好適な環境を形成する培養装置(インベキュータ)と、培養装置に収容された培養容器内の受精卵の状態を顕微観察する顕微観察系とを備え、予め設定された一定時間ごとに受精卵の観察画像を取得し、受精卵の生育状態の観察、記録、管理等を自動で行うことができるように構成される。
【0003】
受精卵等のほぼ無色透明な生体試料を染色することなく生きたまま観察が可能な顕微観察系としては例えば位相差顕微鏡が挙げられる。位相差顕微鏡においては、生体試料を開口絞りで輪帯状に制限された照明光で照明し、対物レンズにより生体試料を通過させた光を集光させ、位相を変換するとともに透過する光の光量を調節する位相リングを上記開口絞りと共役位置に備えるものが周知となっている(例えば、特許文献2を参照)。生体試料を通過する光は、直接光と0次以外の回折光に変換されて位相差が生じ、この位相差を像の明暗として可視化することによりコントラストを上げて生体試料を観察できるようになっている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2004−229619号公報
【特許文献2】特許第3663920号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
さて、受精卵の良否(生育状態)を評価する一手法としては、受精卵の卵内全ての細胞が同時期のタイミングで卵割(細胞分裂)することが好ましいとされている。初期の卵割においては観察方向に対して重なる細胞も少ないため卵割タイミングを容易に観察できるものの、卵割が進むにつれて細胞数も倍増していき観察方向に対して細胞が重なってしまうため(オクルージョンが生じるため)、上記のような位相差顕微鏡での2次元観察では、卵内全ての細胞が同時期に卵割したか否かを定量的に評価するのは困難であった。なお、3次元形状を観察する手法としては、自家蛍光を用いた共焦点顕微観察法があるが、この観察法には、観察に時間が掛かる(1つの画像を取得するのにスキャン時間が長い)上、細胞へのダメージが大きいという弊害があるため、受精卵の観察には不適である。
【0006】
本発明は、このような課題に鑑みてなされたものであり、生体試料の三次元形状を高精度に測定することが可能な構成の形状測定方法、画像処理プログラム、観察装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明を例示する第1の態様に従えば、生体試料と生体試料の像を結像する第1観察光学系との光学的距離を変化させながら第1撮像装置により生体試料を一方側から順次撮影した複数の第1画像と、生体試料と生体試料の像を結像する第2観察光学系との光学的距離を変化させながら第2撮像装置により生体試料を一方側に対向する他方側から順次撮影した複数の第2画像とを取得し、複数の第1画像及び第2画像に基づいて合焦測度を画素単位で算出し、生体試料の一方側の領域については第1画像より得られた合焦測度情報を優先適用し、生体試料の他方側の領域については第2画像より得られた合焦測度情報を優先適用して各画素の合焦点を求め、合焦点位置に基づいて生体試料の三次元形状を構築することを特徴とする形状測定方法が提供される。
【0008】
本発明を例示する第2の態様に従えば、コンピュータにより読み取り可能であり、撮像装置により撮影されて画像を取得して画像処理する画像処理装置としてコンピュータを機能させるための画像処理プログラムであって、生体試料と生体試料の像を結像する第1観察光学系との光学的距離を変化させながら第1撮像装置により生体試料を一方側から順次撮影した複数の第1画像と、生体試料と生体試料の像を結像する第2観察光学系との光学的距離を変化させながら第2撮像装置により生体試料を一方側に対向する他方側から順次撮影した複数の第2画像とを取得するステップと、複数の第1画像及び第2画像に基づいて合焦測度を画素単位で算出するステップと、生体試料の一方側の領域については第1画像より得られた合焦測度情報を優先適用し、生体試料の前記他方側の領域については第2画像より得られた合焦測度情報を優先適用して各画素の合焦点を求めるステップと、合焦点位置に基づいて生体試料の三次元形状を構築するステップとをコンピュータに実現させることを特徴とする画像処理プログラムが提供される。
【0009】
本発明を例示する第3の態様に従えば、生体試料を保持する試料台と、生体試料を一方側から撮像する第1撮像装置及び一方側に対向する他方側から撮像する第2撮像装置と、試料台を生体試料の像を第1撮像装置の撮像面に結像させる第1観察光学系に対して相対移動させるとともに、第2撮像装置の撮像面に結像させる第2観察光学系に対して相対移動させる移動制御部と、相対移動部により試料台を第1及び第2観察光学系に対して相対移動させながら第1及び第2撮像装置により撮像して得られた、生体試料の複数の第1画像及び第2画像に対して画像処理を行う画像処理装置とを備え、画像処置装置が、複数の第1画像及び第2画像に基づいて合焦測度を画素単位で算出し、生体試料の一方側の領域については第1画像より得られた合焦測度情報を優先適用し、生体試料の他方側の領域については第2画像より得られた合焦測度情報を優先適用して各画素の合焦点を求め、合焦点位置に基づいて生体試料の三次元形状を構築する画像解析部を備えていることを特徴とする観察装置が提供される。
【発明の効果】
【0010】
本発明によれば、生体試料の三次元形状を高精度に構築することができる。
【図面の簡単な説明】
【0011】
【図1】本発明の適用例として示す培養観察システムの概要構成図である。
【図2】上記培養観察システムのブロック図である。
【図3】(A)は培養容器の平面図であり、(B)はディッシュを示す斜視図である。
【図4】受精卵の卵割の過程を説明するための図である。
【図5】位相差顕微鏡装置の構成例を示す図である。
【図6】第1位相差顕微鏡による位相差観察を説明するための図である。
【図7】第2位相差顕微鏡による位相差観察を説明するための図である。
【図8】画像処理装置の概要構成を示すブロック図である。
【図9】形状測定方法の概要を示すフローチャートである。
【図10】パラメータ取得方法を説明するためのフローチャートである。
【図11】従来のSFF方式を説明するための図である。
【図12】本実施形態のSFF処理を説明するためのフローチャートである。
【図13】SFF処理による合焦点算出を説明するための図である。
【図14】位相差顕微鏡装置の構成の変形例を示す図である。
【発明を実施するための最良の形態】
【0012】
以下、本発明を実施するための形態について、図面を参照しながら説明する。本実施形態に係る観察ユニット(観察装置)を適用したシステムの一例として、培養観察システムの概要構成図及びブロック図を、それぞれ図1及び図2に示す。
【0013】
培養観察システムBSは、大別的には、筐体1の上部に設けられた培養室2と、複数の培養容器10を収容保持する棚状のストッカー3と、培養容器10内の試料を観察する観察ユニット(観察装置)5と、培養容器10をストッカー3と観察ユニット5との間で搬送する搬送ユニット4と、システムの作動を統括的に制御する制御ユニット6と、画像表示装置を備えた操作盤7などから構成される。
【0014】
培養室2は、培養環境を形成する部屋であり、環境変化やコンタミネーションを防止するためサンプル投入後は密閉状態に保持される。培養室2に付随して、培養室2内の温度を昇温・降温させる温度調整装置21、湿度を調整する加湿器22、COガスやNガス等のガスを供給するガス供給装置23、培養室2全体の環境を均一化させるための循環ファン24、培養室2の温度や湿度、二酸化炭素濃度等を検出する環境センサ25などが設けられている。各機器の作動は制御ユニット6により制御され、培養室2の温度や湿度、二酸化炭素濃度等により規定される培養環境が、操作盤7において設定された培養条件に合致した状態に維持される。
【0015】
ストッカー3は、図1における紙面直行の前後方向、及び上下方向にそれぞれ複数に仕切られた棚状に形成されている。各棚にはそれぞれ固有の番地が設定されており、例えば前後方向をA〜C列、上下方向を1〜7段とした場合に、A列5段の棚がA−5のように設定される。
【0016】
培養容器10は、培養物の種類や目的等に応じてフラスコやディッシュ、ウェルプレートなど適宜なものが選択され、本実施形態では、図3(A)に示すように、直径約35mmの5つのディッシュ10aと、ディッシュ10aを保持するホルダ10bとを備えた構成を例示しており、図3(B)に示すように、培養物たる受精卵Jは、フェノールレッドなどのpH指示薬が入った培地ドロップDとともに各ディッシュ10aに注入される。ディッシュ10aの底面には、ピペット等により滴下された20μl程度の培地ドロップDが1〜複数個形成されており(図3(B)では1個のみを図示)、培地ドロップDはディッシュ10a内において無色透明のミネラルオイルOによって浸された状態となっている。それぞれの培地ドロップD内には、例えば対外受精のために同一母体から同時期に採卵された受精卵Jが1個ずつ挿入されている。また、培養容器10にはコード番号が付与され、ストッカー3の指定番地に対応づけて収容される。
【0017】
搬送ユニット4は、培養室2の内部に設けられて上下移動可能なZステージ41、前後移動可能なYステージ42、左右移動可能なXステージ43などからなり、Xステージ43の先端側に培養容器10を持ち上げ支持する支持アーム45が設けられている。搬送ユニット4は、支持アーム45がストッカー3の全棚と観察ユニット5との間を移動可能な移動範囲を有して構成される。
【0018】
観察ユニット(観察装置)5は、試料台15の試料を照明するバックライト照明部51、顕微観察系の光軸に沿って試料台15の試料を照明する透過照明部52、試料のマクロ観察を行うマクロ観察系54、試料のミクロ観察を行う顕微観察系55、及び画像処理装置100などから構成される。試料台15は、透光性を有する材質で構成されるとともに観察領域に透明な窓部16が設けられている。また、試料台15は、制御ユニット6からの作動制御によりXY方向(水平面内方向)およびZ方向(上下方向)に移動可能な微細駆動ステージからなり、その上面部に載置された培養容器10をXY方向に移動させることにより、培養容器10をマクロ観察系54もしくは顕微観察系55の光軸上へ挿入したり、培養容器10をZ方向に移動させることにより、各観察系54,55の観察光学系と試料との光軸方向の相対位置(光学的距離)を変化させることが可能になっている。
【0019】
バックライト照明部51は、下部フレーム1b側に設けられた面発光の光源からなり、試料台15の下側から培養容器10全体をバックライト照明する。透過照明部52は、LED等の光源81,91(図5を参照)と、位相リングやコンデンサレンズ等からなる照明光学系82a,92a(図5を参照)とを有して培養室2内及び下側フレーム1b内にそれぞれ設けられており、顕微観察系55の光軸に沿って培養容器10中の試料を照明する。
【0020】
マクロ観察系54は、観察光学系54aと、この観察光学系54aにより結像された試料の像を撮影するCCDカメラ等の撮像装置54cとを有し、バックライト照明部51の上方に位置して培養室2内に設けられている。マクロ観察系54は、バックライト照明部51により照明された培養容器10の上方からの全体観察画像(マクロ画像)を撮影する。
【0021】
顕微観察系55は、対物レンズや位相リング等からなる観察光学系82b,92b(図5を参照)と、観察光学系82b,92bにより結像された試料の像を撮影する冷却CCDカメラ等の撮像カメラ89,99(図5を参照)とを有し、培養室2内及び下部フレーム1b内にそれぞれ配設されている。上記の透過照明部52と顕微観察系55とにより位相差顕微鏡装置56が構成されている。顕微観察系55は、透過照明部52により照明されて試料を透過した透過光を顕微鏡観察した顕微観察画像(ミクロ画像)を撮影する。
【0022】
画像処理装置100は、マクロ観察系54の撮像装置54c及び顕微観察系55の撮像カメラ89,99から入力された信号をA/D変換するとともに、各種の画像処理を施して全体観察画像または顕微観察画像の画像データを生成する。また、画像処理装置100は、これらの観察画像(全体観察画像及び顕微観察画像)の画像データに対して画像解析を施し、受精卵Jの三次元形状の構築等を行う。画像処理装置100は、具体的には、次述する制御ユニット6のROMに記憶された画像処理プログラムが実行されることにより構築される。なお、この画像処理装置100については、後に詳述する。
【0023】
制御ユニット6は、処理を実行するCPU61、培養観察システムBSの制御プログラムや制御データ等が設定記憶されたROM62、観察条件や画像データ等を一時記憶するRAM63などを有し、培養観察システムBSの作動を制御する。そのため、図2に示すように、培養室2、搬送ユニット4、観察ユニット5、操作盤7の各構成機器が制御ユニット6に接続されている。RAM63には、観察プログラムに応じた培養室2の環境条件や、観察スケジュール、観察ユニット5における観察種別や観察位置、観察倍率等が設定され記憶される。また、RAM63には、観察ユニット5により撮影された画像データを記録する画像データ記憶領域が設けられ、培養容器10のコード番号や撮影日時等を含むインデックス・データと画像データとが対応付けて記録される。
【0024】
操作盤7には、キーボードやスイッチ等の入出力機器が設けられた操作パネル71、操作画面や画像データ等を表示する表示パネル72が設けられ、操作パネル71において観察プログラムの設定や条件選択、動作指令等の入力が行われる。通信部65は有線または無線の通信規格に準拠して構成されており、この通信部65に外部接続されるコンピュータ等との間でデータの送受信が可能になっている。
【0025】
このように概要構成される培養観察システムBSでは、操作盤7において設定された観察プログラムの設定条件に従い、CPU61がROM62に記憶された制御プログラムに基づいて各部の作動を制御するとともに、培養容器10内の試料の撮影を自動的に実行する。すなわち、操作パネル71に対するパネル操作(または通信部65を介したリモート操作)によって観察プログラムがスタートされると、CPU61が、RAM63に記憶された環境条件の各条件値を読み込むとともに、環境センサ25から入力される培養室2の環境状態を検出し、条件値と実測値との差異に応じて温度調整装置21、加湿器22、ガス供給装置23、循環ファン24等を作動させて、培養室2の温度や湿度、二酸化炭素濃度などの培養環境についてフィードバック制御が行われる。
【0026】
また、CPU61は、RAM63に記憶された観察条件を読み込む、観察スケジュールに基づいて搬送ユニット4のX,Y,Zステージ41,42,43を作動させてストッカー3から観察対象の培養容器10を観察ユニット5の試料台15に搬送して、観察ユニット5による観察を開始させる。例えば、観察プログラムにおいて設定された観察がマクロ観察である場合には、搬送ユニット4によりストッカー3から搬送してきた培養容器10をマクロ観察系54の光軸上に位置決めして試料台15に載置し、バックライト照明部51の光源を点灯させて、バックライト照明された培養容器10の上方から撮像装置54cにより全体観察像を撮影する。撮像装置54cから制御ユニット6に入力された信号は、画像処理装置100により処理されて全体観察画像が生成され、その画像データが撮影日時等のインデックス・データなどとともにRAM63の画像データ記憶領域に記憶される。
【0027】
また、観察プログラムにおいて設定された観察が、培養容器10内の特定位置の試料のミクロ観察である場合には、搬送ユニット4により搬送してきた培養容器10内の特定位置を顕微観察系55の光軸上に位置決めして試料台15に載置し、透過照明部52の光源を点灯させて、透過照明による顕微観察像を撮像カメラ89,99に撮影させる。撮像カメラ89,99により撮影されて制御ユニット6に入力された信号は、画像処理装置100により処理されて顕微観察画像(位相差画像)が生成され、その画像データが撮影日時等のインデックス・データなどとともにRAM63の画像データ記憶領域に記憶される。
【0028】
CPU61は、上記のような全体観察像の撮影や顕微観察像の撮影を、観察プログラムに設定された観察スケジュールに基づいて順次実行する。RAM63に記憶された画像データは、操作パネル71から入力される画像表示指令に応じてRAM63から読み出され、例えば指定時刻の全体観察画像や顕微観察画像、画像解析の解析結果などが表示パネル72に表示される。
【0029】
ここで、観察対象である受精卵の卵割(受精卵の細胞分裂)の経時的変化について図4を参照して説明する。なお、図4は、人の受精卵の卵割の様子を模式的に示す図であり、図中では第3世代までを例示しており、左から右に向かって時間が経過していくものとする。卵割前の受精卵Jの胚Hを第0世代とすると、第0世代の胚Hの表面にくびれが生じて2つに分裂され、第1世代の2つの細胞C,Cが生成される。さらに第1世代の各細胞Cが2つに分裂されて第2世代の4つの細胞C,C,…が生成され、第3世代、…と進むにつれて細胞Cの数が倍々に増えていく。このように卵割を経るごとに細胞Cの数は倍増するとともに、個々の細胞C自体の大きさは小さくなっていく。
【0030】
受精卵Jの良否の評価手法としては、卵内の全ての細胞Cにおいて卵割がほぼ同じタイミングで起こるか否かに基づいて行われる。すなわち、正常な受精卵Jの卵割については、同じ世代の各細胞Cはほぼ同時期のタイミングで分裂し、胚H内には同じ世代の細胞Cのみが存在する。一方、異常な受精卵Jの卵割については、同じ世代の細胞Cであっても分裂するタイミングがずれて、胚H内には異なる世代の細胞Cが混在してしまう。
【0031】
このように受精卵Jの生育状態を評価するには、受精卵Jの卵割のタイミングを適正に観察することが必要である。初期の卵割に対しては分裂した細胞数も比較的少ないため所定の観察方向に対して細胞Cが重なることも殆どなく卵割のタイミングを観察できるものの、卵割が進むにつれて細胞数が増えるため、観察方向に対して細胞Cが重なったり細胞Cのくびれが隠れたりする(所謂オクルージョンが生じる)ことがある。そのため、各細胞に対して卵割のタイミングを適切に観察して、定量的な評価を行うことが困難であるという問題がある。
【0032】
このような不具合を是正するため、培養観察システムBSにおいては、観察ユニット5の位相差顕微装置56(透過照明部52及び顕微観察系55)をほぼ上下対称に配置した2つの位相差顕微鏡から構成して上下2方向から受精卵Jを観察可能にし、この2方向からの観察画像に対して画像処理装置100による画像解析を施すことより受精卵Jの三次元形状を構築して、受精卵Jの卵割を適正に観察することができるように構成されている。
【0033】
それでは、観察ユニット5における位相差顕微鏡装置56の構成について図5〜図7を追加参照して説明する。前述の観察ユニット5において、透過照明部52と顕微観察系55とからなる位相差顕微鏡装置56は、第1位相差顕微鏡80と第2位相差顕微鏡90との2つの顕微鏡から構成されており、これら位相差顕微鏡80,90は試料台15の試料面に対してほぼ上下対称に配置されている。
【0034】
第1位相差顕微鏡80は、透過照明部52において培養室2内に設けられた光源81及び照明光学系82aと、顕微観察系55において下部フレーム1b内に設けられた観察光学系82b及び撮像カメラ89とを有して構成される。
【0035】
照明光学系82aは、光源側から順に、コレクタレンズ83、輪帯絞り84、可動式折り返しミラー85、及びコンデンサ兼対物レンズ86を備えて構成される。観察光学系82bは、光源側から順に、コンデンサ兼対物レンズ96、位相リング87、及び結像レンズ88を備えて構成される。
【0036】
一方、第2位相差顕微鏡90は、透過照明部52において下部フレーム1b内に設けられた光源91及び照明光学系92aと、顕微観察部55において培養室2内に設けられた観察光学系及92b及び撮像カメラ99とを有して構成される。
【0037】
照明光学系92aは、光源側から順に、コレクタレンズ93、輪帯絞り94、可動式折り返しミラー95、及びコンデンサ兼対物レンズ96を備えて構成される。観察光学系92bは、光源側から順に、コンデンサ兼対物レンズ86、位相リング97、及び結像レンズ98を備えて構成される。
【0038】
このような位相差顕微80,90において、一方の可動式折り返しミラー85から他方の可動式折り返しミラー95までの光路は共通している。各位相差顕微鏡80,90の光源81,91としては、例えばLEDやハロゲンランプ、高圧水銀ランプ等が用いられる。コンデンサ兼対物レンズ86は、照明光学系82aにおいてはコンデンサレンズとして機能し、観察光学系92bにおいては対物レンズとして機能する。同様に、コンデンサ兼対物レンズ96は、照明光学系92においてはコンデンサレンズとして機能し、観察光学系82bにおいては対物レンズとして機能する。また、各位相差顕微鏡80,90には、可動式折り返しミラー85,95を照明光学系82a,92a及び観察光学系82b,92bの光軸上にそれぞれ進退自在に移動させるミラー駆動部57(図2を参照)が設けられている。ミラー駆動部57は、制御ユニット6からの駆動信号に応じて駆動するようになっている。
【0039】
なお、上述の構成において、可動式折り返しミラー85,95に替えてビームスプリッタを用いて構成してもよい。その場合には、照明光学系82a,92a及び観察光学系82b,92bに進退移動させるミラー駆動部57を省略することができるが、その代わりに、位相リング87,97の直前に補償光学系を挿入することが必要になる。
【0040】
このように構成される第1位相差顕微鏡80において、図6に示すように、光源81から射出された照明光は、コレクタレンズ83により略平行光束に変換され、輪帯形状(リング形状)のスリットが設けられた輪帯絞り84に入射する。輪帯絞り84のスリットを通過した光は、可動式折り返しミラー85によって略垂直下方へ(折り曲げられるように)反射された後、コンデンサ兼対物レンズ86によって集光され、試料台15に載置された培養容器10内の試料(受精卵J)に照射される。
【0041】
試料に照射された照明光は、試料を透過する直接光と、位相物体である試料により回折される回折光とに分かれる。この回折現象は屈折率に違いのある部位で発生するため、当該回折光は、位相物体(受精卵J)と培地ドロップDとの境界部分、位相物体の内部構造等の位相物体の形状情報を含んでおり、この回折により照明光に対して位相が1/4波長だけ遅れることとなる。これら直接光及び回折光はコンデンサ兼対物レンズ96に集光されて、輪帯絞り84と共役な位置に配置された位相リング87に入射する。
【0042】
位相リング87に入射する光のうち直接光は、輪帯絞り84のスリットとほぼ同じ形状(リング状)に形成された位相板87aに入射して、位相板87aによって光の一部が吸収されて光量が弱められるとともに、位相が照明光の1/4波長だけずらされる。一方、位相リング87に入射する光のうち回折光は、位相板87a以外の部分をそのまま透過する。位相リング87を通過した直接光及び回折光は結像レンズ88により結像されて、撮像カメラ89の撮像面上で干渉する。このとき、直接光の位相は位相板87aによって1/4波長だけずれているため、直接光と回折光との位相差は1/2波長若しくは0になっており、その干渉によって位相の変化を光の明暗として可視化されている。これにより、撮像カメラ89の撮像面上には明暗のコントラストがついた試料(受精卵J)の拡大像が形成され、撮像カメラ89により撮像されることになる。なお、第1位相差顕微鏡80による観察のときには、第2位相差顕微鏡90の可動式折り返しミラー95はミラー駆動部57により観察光学系82bの光路上から退避されている。
【0043】
このとき上述したように、培養容器10を載置する試料台15は観察光学系82bの光軸方向に沿った方向(Z方向)に往復移動可能であり、試料と観察光学系82bとの相対位置(光学的距離)が変化することで、光学系の焦点位置が連続的に変化するようになっている。これに対し、撮像カメラ89は試料の下方からの撮像を連続的に行うため、試料台15の往復移動に応じてコントラストが変化する複数の画像を所定の撮像ピッチ(観察対象の受精卵の大きさによって適宜なピッチが選択されるようになっており、例えばミクロンピッチ)で撮像することが可能である。
【0044】
以上に第1位相差顕微鏡80の光学系の作用を概略説明したが、第2位相差顕微鏡90に関してもほぼ同様であるため(図7を参照)、第2位相差顕微鏡90についてのその説明は省略することとするが、第2位相差顕微鏡90でも、試料台15を観察光学系92bの光軸方向に沿った方向に往復移動させながら撮像カメラ99によって試料の撮像を上方から連続的に行うことで、試料台15の往復移動に応じてコントラストが変化する複数の画像を所定の撮像ピッチで撮像することが可能である。
【0045】
このように位相差顕微鏡80,90では、試料と観察光学系との相対位置(光学系の焦点位置)を変化させながら、上下2方向から試料の観察画像を撮像カメラ89,99によってそれぞれ連続的に撮影することができる。なお、第1位相差顕微鏡80と第2位相差顕微鏡90とによる同時観察は行わず、光源81,91をオン/オフ切り換えて、所定の撮像ピッチ(試料台15の1ピッチ送り)ごとに撮像カメラ89,99で交互に撮像することが望ましい。これは、受精卵Jのような透明な試料を第1及び第2位相差顕微鏡80,90により上下から同時に観察すると、対向する光学系の照明光により位相コントラストを低下させてしまう虞があるからであり、後述するSFF方式による観察を行うためには位相差顕微鏡80,90を順次切り換えて観察することが好ましい。
【0046】
撮像カメラ89,99は、CCDやCMOS等の撮像素子を有しており、撮像素子の撮像面上に形成された試料の拡大像を撮像して得られた画像信号を画像処理装置100へ出力する。また、画像処理装置100には、撮像カメラ88,89からの画像信号の他に、試料台(微細駆動ステージ)15に内蔵されたリニアエンコーダ17(図8を参照)からの検出信号が入力される。そのため、試料の表面を撮像したときの試料台15の光軸軸方向位置(Z方向位置)を知ることができる。
【0047】
本実施形態において、画像処理装置100は、撮像カメラ89,99から入力された試料表面の複数の画像に対し、所定の画像処理を行うことで、試料の三次元形状を求めることが可能である。ここで、図8に、画像処理装置100の概要構成をブロック図として示す。この画像処理装置100は、撮像カメラ89,99により所定の撮像ピッチ(サンプリング間隔)で観察対象の受精卵Jが撮影された複数の顕微観察画像を取得して記憶する画像記憶部110と、予め撮像カメラ89,99により撮影された画像に基づいて画像補正用のパラメータを求めて撮像カメラ89,99から取得した受精卵の観察画像に対して視野位置及び倍率差の補正を施す画像補正部120と、撮像取得された観察画像(顕微観察画像)と当該撮像取得が行われたときの試料台15の位置情報に基づいて所定の画像処理を施して受精卵の三次元形状を構築する画像解析部130と、画像解析部130により解析された結果を外部に出力する出力部140とを備え、画像解析部130により構築された受精卵の三次元形状データを、例えば表示パネル72に出力して表示させるように構成される。画像処理装置100は、ROM62に予め設定記憶された画像処理プログラムGPがCPU61に読み込まれ、CPU61によって画像処理プログラムGPに基づく処理が順次実行されることによって構成される。
【0048】
それでは、図9に示すフローチャートを参照して、受精卵Jの三次元形状を求めるための形状測定方法について説明する。記述したように、培養観察システムBSでは、観察プログラムにおいて設定された観察条件に従って、所定時間ごとに指定された培養容器10内の受精卵観察が行われる。
【0049】
ステップS1において、画像処理装置100は、第1位相差顕微鏡80と第2位相差顕微鏡90との観察視野及び観察倍率差を調節する(位相差顕微鏡80,90の観察画像をマッチングさせる)ための画像補正パラメータを取得する。ここで、図10のフローチャートを参照してパラメータ取得処理の詳細について説明する。
【0050】
ステップS11では、位相差のある所定のマーカを予め試料台15に載置しておき、画像補正部120が、第1位相差顕微鏡80の撮像カメラ89にマーカを下側から撮像させるととともに、第2位相差顕微鏡90の撮像カメラ99にマーカを上側から撮像させて、上下2方向からのマーカ画像を得る。マーカには、卵細胞のモデルとなる高精度の球体からなる透明ビーズや、既知のパターンを持つ位相格子(垂直に切立った位相膜)などが用いられる。
【0051】
画像補正部120は、ステップS12において、取得した2つの画像を比較して第1位相差顕微鏡80と第2位相差顕微鏡90との観察視野位置のズレ量を算出するとともに、ステップS13において、2画像間の観察倍率差を算出する。ステップS14では、求められた算出値に基づいて、第1位相差顕微鏡80及び第2位相差顕微鏡90における観察視野位置ズレと観察倍率差を補正するための画像補正パラメータを求める。このように取得された画像補正パラメータは、後述するステップS4において施される画像補正処理に用いられる。
【0052】
図9に戻り、ステップS2において、試料台15からマーカが取り除かれた後で、CPU61は、搬送ユニット4の各ステージを作動させてストッカー3から観察対象の培養容器10を観察ユニット5に搬送し(顕微観察系55の光軸上に位置決めし)、画像取得部110の制御の基で、第1及び第2位相差顕微鏡80,90による受精卵の位相差画像(観察画像)を所定の撮像ピッチで撮像カメラ89,99により撮像させる。このとき、第1及び第2位相差顕微鏡80,90による観察では、試料台15の上下移動に伴って所定の撮像ピッチごとに、両者を交互に切り換えて撮像カメラ89,99により観察画像を撮影する。これにより、受精卵の位置等の変化がない複数の画像を短時間で撮影することができるため、後述するSFF方式による解析を良好に行うことが可能になる。
【0053】
ステップS3では、画像記憶部110は、撮像カメラ89,99により撮影された複数の観察画像を取得する。このとき、画像記憶部110は、第1位相差顕微鏡80の撮像カメラ89により培養容器10中の受精卵を所定の撮像ピッチで(光学系の焦点位置を変化させながら)下方から連続的に撮影された複数の観察画像(「第1観察画像」と称する)を取得するとともに、第2位相差顕微鏡90の撮像カメラ99によって受精卵を所定の撮像ピッチで(光学系の焦点位置を変化させながら)上方から連続的に撮影した複数の観察画像(「第2観察画像」と称する)を取得する。
【0054】
画像記憶部110は、撮像カメラ89,99から取得した第1及び第2観察画像を、試料台15内のリニアエンコーダ17から出力される当該撮像取得が行われたときの試料台15の位置情報とともに、培養容器10のコード番号や観察位置、観察時刻などのインデックス・データと対応付けて保存する。
【0055】
ステップS4では、画像補正部120は、ステップS2で求めた画像補正パラメータに基づいて、画像記憶部110に記憶されたそれぞれ複数枚の第1観察画像及び第2観察画像に対し画像補正を施し、両画像の観察視野位置と観察倍率差とを一致させる。これにより、第1観察画像と第2観察画像とが画素単位でマッチングされる。
【0056】
ステップS5において、画像補正された第1観察画像及び第2観察画像に対してShape From Focus(以下、単に「SFF」と称する)による処理を施す。SFF方式の原理について簡単に説明すると、この方式は、観察対象の試料に光を照明し、試料と観察光学系(対物レンズ)とをZ方向(フォーカス方向)に相対移動させて試料と観察光学系との間の光学的距離を変化させながら試料の画像を設定距離(撮像ピッチ)ごとに撮像カメラで取得し、後述する画像処理によって、得られた画像に対して画素単位で合焦測度を求めることにより、試料が観察光学系に関して撮像カメラと共役な位置にあるときに合焦測度が最大となる特性を用いて、試料の三次元形状情報を得る手法である。合焦測度の変化の様子を図11に示しており、合焦測度(コントラスト)が最大となる位置(すなわち合焦点位置となる試料台位置)を算出することで、試料の表面形状を求めることができる。ここで、図12のフローチャートを参照して、SSF方式による画像処理の詳細について説明する。
【0057】
ステップS51において、画像解析部130は、所定の撮像ピッチごとに取得した複数の第1観察画像及び第2観察画像に対して、1枚の画像ごとに各画素の合焦測度を算出する。このとき、画像解析部130は、画像補正部120から取得した補正済みの第1及び第2観察画像について、例えば、ラプラシアンフィルタ等の微分フィルタや分散フィルタなどを適用し、画素ごとに積和演算された微分値や分散値を合焦測度として求める。なお、第1観察画像及び第2観察画像から画素ごとに求められた合焦測度は、第1観察画像と第2観察画像とで対応する画素(同一領域の画素)ごとに1セットとして記録される。
【0058】
ステップS52において、画像解析部130は、第1及び第2観察画像について、画素ごとに合焦測度がピークとなる合焦点位置を求める。このとき、非透明な試料の画像については合焦測度がピークを示す合焦点は原則的に各画素に対して1つずつであるが、観察対象が卵細胞のような球形状の透明物体の場合には、各画素に対して合焦点が複数存在することとなる。例えば、図13に示されるように、受精卵J(2細胞期のとき)における胚Hの細胞C1が細胞C11と細胞C12に卵割し、細胞C2が細胞C21と細胞C22に卵割した場合について考える。なお、図13(A)〜(C)は、受精卵を水平方向から見たときの模式図である。
【0059】
例えば、図中の注目画素位置(第1及び第2観察画像において同一の画素位置)に対して、胚の外周上の点P1,P2,P3が上下方向に点在する場合を考えると、理想的には、テクスチャとしての胚H上の点P1〜P3については、上述した試料(受精卵J)と観察光学系との光学的距離の変化に伴い、注目画素の領域と共役な関係にある試料上の点として、合焦測度がそれぞれピークとなって現れる。
【0060】
ここで、図13(A)に示すように、第1位相差顕微鏡80と第2位相差顕微鏡90との観察で、注目画素での合焦測度のピーク位置が同じ位置に検出された場合には、この同一のピーク位置をクラスタリングし、このピークなって現れた点を合焦点であると判断する。図13(A)では、3つのピーク位置全てが同じ位置に出現した場合を例示しており、画像解析部130は、このピークとなって出現した3つの点が点P1〜P3を示す合焦点であると判断する。なお、ステップS4での第1観察画像と第2観察画像との画像補正により、第1観察画像と第2観察画像での各画素領域の位置及び大きさは一致しているため、合焦点を高精度に検出することができる。
【0061】
一方、図13(B)に示すように、位相差顕微鏡80,90による両側からの観察での合焦測度の変化において、ランダムなノイズ等の影響によって合焦測度のピーク位置がずれて現れた場合には、受精卵Jの上側領域U内(上半球)については上側(第1位相差顕微鏡80)からの観察情報を優先的に、下側領域L内(下半球)については下側(第2位相差顕微鏡90)からの観察情報を優先的に採用して、合焦点を定義する。すなわち、受精卵Jの上側領域Uについては、第1位相差顕微鏡80による観察によって得られた合焦測度を用いて、この合焦測度がピークとなって現れる点(点P1,P2に対応する点)を合焦点と認定する。受精卵の下側領域Lについては、第2位相差顕微鏡90による観察によって得られた合焦測度を用いて、この合焦測度がピークとなって現れる点を合焦点と認定する。これにより上側及び下側からの観察において、合焦点の重複を回避して高精度に合焦点位置を検出することができる。
【0062】
ところで、観察方向(本実施形態では上下方向)に対して複数の細胞が存在する場合、手前側の細胞が奥側の細胞(例えば、細胞C11を手前側とすると細胞C22が奥側となる)を隠した状態、すなわちオクルージョンが生じる虞がある。すなわち、1方向観察のSFF方式においては、観察方向から見て奥側に存在する構造については、手前側に存在する構造によるボケや散乱等によって、合焦測度のピークが検出し難くなる(ピークとして出現しない虞がある)ため、合焦点を正確に見つけられないという問題があるが、2方向観察である本実施形態では、次のように解決できる。
【0063】
図13(C)に示すように、上述したオクルージョンが発生し、一方の合焦測度の変化にのみピークが現れている場合、すなわち、上側からの観察において受精卵Jの下側領域Lに対する合焦測度が手前側の細胞C11等の存在によってボケや散乱等により低下する(ピークが現れない)場合や、下側からの観察において受精卵Jの上側領域Uに対する合焦測度が手前側の細胞C22等の存在によってボケや散乱等により低下する場合には、受精卵の上側領域Uについては、第1位相差顕微鏡80から得られた合焦測度変化において合焦測度がピークとなって現れる点(点P1,P2に対する点)を合焦点と認定し、受精卵の下側領域Lについては、第2位相差顕微鏡90から得られた合焦測度変化において合焦測度がピークとなって現れる点(点P3に対する点)を合焦点と認定する。これにより、オクルージョンが生じた場合でも、SSF方式を上下2方向からの観察に適用することにより、複数の合焦点を的確に検出することが可能になる。
【0064】
これを簡単にまとめると、(それぞれ複数の)第1及び第2観察画像の各々から同一の注目画素について合焦測度のピークを全て検出した上で、上側領域U及び下側領域Lにおいて合焦測度のピーク位置が同じであれば、クラスタリングしてそのピークを直ちに合焦点と認定し、ピーク位置が異なったりピーク位置が一方にのみ出現するのであれば、受精卵の上側領域Uについては上側観察(第1位相差顕微鏡80)による観察情報を適用し、下側領域Lについては下側観察(第2位相差顕微鏡80)による観察情報を適用して、その領域内で出現するピークを優先して合焦点を認定する。
【0065】
ステップS6において、画像解析部130は、画素単位で得られた合焦点情報(合焦点位置)に基づいて、試料表面の相対高さを求めて、受精卵の三次元形状を構築する。具体的には、受精卵の三次元形状を構成する(X,Y,Z)の点群座標などが算出される。また、画像解析部130は、画素ごとに求めた合焦点位置に基づいて、コントラストの合った部分を寄せ集めた2次元のスライス画像を上記所定の撮像ピッチごとに生成する。
【0066】
ステップS7において、ステップS6で算出した三次元形状データ(点群データ)及びスライス画像は、出力部により表示パネル72に出力され、受精卵の三次元形状の測定結果として表示パネル72に表示される。また、表示パネル72では、点群座標を基に三次元形状を表示することもできる。そして、画像処理装置100により構築された三次元データから、受精卵Jの任意の位置を観察できるとともに、受精卵Jの任意の位置の寸法等を算出できるようになっている。そのため、観察者は、受精卵Jの三次元形状データに基づいて、卵割に伴う胚のくびれ部などを的確に検出して、卵内の細胞の卵割のタイミングを的確に観察することが可能になる。
【0067】
なお、上述したように培養観察システムBSでは、観察プログラムに基づく所定の時間間隔の観察スケジュールに従って、位相差顕微鏡56の撮像カメラ89,99により顕微観察画像(位相差画像)の撮影が順次実行されており、その結果、当該時間間隔ごとに三次元形状を示す画像データを取得している。そのため、この断続的に撮影された多くの画像を連続的に再生し、現実の時間軸では目視的に把握しにくい受精卵Jの変化状態(卵割状態)を、時間軸を圧縮して動画のように動的変化として可視化するタイムラプス画像を生成することにより、受精卵Jの生育状態をより正確に把握することができ、受精卵Jの生育状態の良否(卵内の各細胞が同時期のタイミングで分裂したか否か)を精度良く判定することができる。
【0068】
このように、以上説明した本実施形態に係る観察装置、画像処置プログラムGP、及びこの画像処理プログラムGPが実行されることにより構成される形状測定方法によれば、SFF方式を上下2方向(異なる方向)からの受精卵の観察に適用することよって、受精卵の三次元形状を高精度に構築することできるため、受精卵の卵割を定量的に判断でき、受精卵の生育状態の良否を正確に評価することが可能になる。
【0069】
上述の実施形態において、位相差顕微鏡装置56として試料面に対してほぼ上下対称に配置した第1及び第2位相差顕微鏡80,90を例示したが、本発明はこの実施形態に限定されるものではなく、例えば、図14に示したように、第1位相差顕微鏡180及び第2位相差顕微鏡190を左右に配置して構成した位相差顕微鏡装置156を用いても同様の効果を得ることができる。このとき、第1位相差顕微鏡180は、光源181、照明光学系182a、観察光学系182b、及び撮像カメラ189により構成される。一方、第2位相差顕微鏡190は、光源191、照明光学系192a、観察光学系192b、及び撮像カメラ199により構成される。このよう位相差顕微鏡装置156では、第1位相差顕微鏡180及び第2位相差顕微鏡190を、不図示の駆動装置によって水平方向に進退移動させ、試料台15に載置された培養容器10中の受精卵Jを上下方向から交互に観察することができる。
【0070】
また、上述の実施形態において、受精卵Jを顕微観察する顕微鏡装置として位相差顕微鏡を例示したが、これに限定されるものではなく、微分位相差顕微鏡を用いて構成しても同様の効果を得ることができる。さらに、光源及び照明光学系により落射照明装置を構成して、反射型の位相差顕微鏡を構成してもよい。
【0071】
また、上述の実施形態において、第1画像及び第2画像との画像補正処理において、更に上下方向の合焦点位置のずれ量を補正することとしてもよい。この場合、基準となるマーカとして、水平方向に位相勾配を持つ物体(例えば、半球や、横分解能より空間的に広いピッチでの階段構造、四角錘など)によれば、観察倍率の補正を行った第1画像と第2画像とでの形状が一致し、且つその形状の輪郭コントラスト(合焦測度)が最大となる位置により、上下方向(フォーカス方向)の合焦点位置のずれ量を測定して、当該ずれ量を補正することができる。
【符号の説明】
【0072】
BS 培養観察システム GP 画像処理プログラム
J 受精卵 5 観察ユニット
6 制御ユニット 15 試料台
52 透過照明部 55 顕微観察系
56 位相差顕微鏡装置 61 CPU
62 ROM 63 RAM
80 第1位相差顕微鏡 89 撮像カメラ
90 第2位相差顕微鏡 99 撮像カメラ
100 画像処理装置 120 画像補正部
130 画像解析部 140 出力部

【特許請求の範囲】
【請求項1】
生体試料と前記生体試料の像を結像する第1観察光学系との光学的距離を変化させながら第1撮像装置により前記生体試料を一方側から順次撮影した複数の第1画像と、前記生体試料と前記生体試料の像を結像する第2観察光学系との光学的距離を変化させながら第2撮像装置により前記生体試料を前記一方側に対向する他方側から順次撮影した複数の第2画像とを取得し、
前記複数の第1画像及び第2画像に基づいて合焦測度を画素単位で算出し、
前記生体試料の前記一方側の領域については前記第1画像より得られた合焦測度情報を優先適用し、前記生体試料の前記他方側の領域については前記第2画像より得られた合焦測度情報を優先適用して各画素の合焦点を求め、
前記合焦点位置に基づいて前記生体試料の三次元形状を構築することを特徴とする形状測定方法。
【請求項2】
前記第1及び第2撮像装置は、前記生体試料の位相差観察によって得られる位相差画像を撮影することを特徴とする請求項1に記載の形状測定方法。
【請求項3】
前記第1画像と前記第2画像との画像間で観察視野位置及び観察倍率を補正することを特徴とする請求項1または2に記載の形状測定方法。
【請求項4】
コンピュータにより読み取り可能であり、撮像装置により撮影されて画像を取得して画像処理する画像処理装置として前記コンピュータを機能させるための画像処理プログラムであって、
生体試料と前記生体試料の像を結像する第1観察光学系との光学的距離を変化させながら第1撮像装置により前記生体試料を一方側から順次撮影した複数の第1画像と、前記生体試料と前記生体試料の像を結像する第2観察光学系との光学的距離を変化させながら第2撮像装置により前記生体試料を前記一方側に対向する他方側から順次撮影した複数の第2画像とを取得するステップと、
前記複数の第1画像及び第2画像に基づいて合焦測度を画素単位で算出するステップと、
前記生体試料の前記一方側の領域については前記第1画像より得られた合焦測度情報を優先適用し、前記生体試料の前記他方側の領域については前記第2画像より得られた合焦測度情報を優先適用して各画素の合焦点を求めるステップと、
前記合焦点位置に基づいて前記生体試料の三次元形状を構築するステップとを
前記コンピュータに実現させることを特徴とする画像処理プログラム。
【請求項5】
前記第1及び第2撮像装置は、前記生体試料の位相差観察によって得られる位相差画像を撮影することを特徴とする請求項4に記載の画像処理プログラム。
【請求項6】
前記第1画像と前記第2画像との画像間で観察視野位置及び観察倍率を補正することを特徴とする請求項4または5に記載の画像処理プログラム。
【請求項7】
生体試料を保持する試料台と、
前記生体試料を一方側から撮像する第1撮像装置及び前記一方側に対向する他方側から撮像する第2撮像装置と、
前記試料台を前記生体試料の像を第1撮像装置の撮像面に結像させる第1観察光学系に対して相対移動させるとともに、前記第2撮像装置の撮像面に結像させる第2観察光学系に対して相対移動させる移動制御部と、
前記相対移動部により前記試料台を前記第1及び第2観察光学系に対して相対移動させながら前記第1及び第2撮像装置により撮像して得られた、前記生体試料の複数の第1画像及び第2画像に対して画像処理を行う画像処理装置とを備え、
前記画像処置装置が、前記複数の第1画像及び第2画像に基づいて合焦測度を画素単位で算出し、前記生体試料の前記一方側の領域については前記第1画像より得られた合焦測度情報を優先適用し、前記生体試料の前記他方側の領域については前記第2画像より得られた合焦測度情報を優先適用して各画素の合焦点を求め、前記合焦点位置に基づいて前記生体試料の三次元形状を構築する画像解析部を備えていることを特徴とする観察装置。
【請求項8】
前記第1及び第2撮像装置は、前記生体試料の位相差観察によって得られる位相差画像を撮影することを特徴とする請求項7に記載の観察装置。
【請求項9】
前記画像処理装置が、前記第1画像と前記第2画像との画像間で観察視野位置及び観察倍率を補正する画像補正部を備えていることを特徴とする請求項7または8に記載の観察装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate


【公開番号】特開2011−17620(P2011−17620A)
【公開日】平成23年1月27日(2011.1.27)
【国際特許分類】
【出願番号】特願2009−162490(P2009−162490)
【出願日】平成21年7月9日(2009.7.9)
【出願人】(000004112)株式会社ニコン (12,601)
【Fターム(参考)】