説明

画像処理装置および画像処理プログラム

【課題】細胞領域を容易に判別可能に表示できるとともに、細胞の経時変化の観測作業を容易にできること。
【解決手段】画像処理装置1は、各観測画像の中から個々の細胞に対応する細胞領域を認識する細胞認識部2aと、細胞認識部2aによって認識された各細胞領域の特徴を示す細胞特徴量を算出する特徴量算出部2bと、各観測画像の細胞特徴量をもとに、各観測画像内の細胞に同一性があるか否かを判断し、同一性があると判断した各細胞に対応する細胞領域を関連付ける細胞追跡部2cと、細胞認識部2aが認識した各細胞領域に表示部4によって表示可能な異なる描画色を対応付ける描画色割当部2dと、描画色割当部2dによって対応付けられた描画色によって各細胞領域を彩色した彩色画像を生成し、生成した彩色画像を表示部4に表示させる制御を行う表示処理制御部7bと、を備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、一連の画像を処理して表示する画像処理装置および画像処理プログラムに関し、特に、複数の観測時点に細胞を撮像して記録した各観測画像を処理して表示する画像処理装置および画像処理プログラムに関するものである。
【背景技術】
【0002】
従来、顕微鏡を利用して種々の細胞を標本とする観測が行われている。多くの生細胞を培養した試料の経時的な観測では、通常、顕微鏡に装着した撮像装置によって複数の観測時点に細胞を撮像して記録した一連の画像の中から、個々の細胞領域を抽出して各細胞の経時変化を解析する。
【0003】
たとえば、特許文献1に開示されている評価装置では、細胞を記録した時系列の画像に対して、先頭の画像の各細胞領域に対話的に識別マークを付与し、付与した識別マークを以降の画像に引き継がせ、細胞の移動・分裂等が生じた場合、識別マークを修正するようにして、個々の細胞の経時変化を追跡し観測するようにしている。この評価装置では、細胞分裂率や細胞の世代系譜など、細胞の発生学に関するデータを得ることができる。
【0004】
【特許文献1】特許第2930618号公報
【非特許文献1】Vincent & Soille , "Watersheds in Digital Spaces : An Efficient Algorithm Based on Immersion Simulations", IEEE TRANS ACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, VOL.13, NO.6, JUNE 1991
【発明の開示】
【発明が解決しようとする課題】
【0005】
ところで、多くの細胞を経時的に記録した一連の大量の画像を計算機によって解析する場合、記録された細胞の数や輝度の変化などの統計的な情報のみ取得して、細胞の個別の変化などを見落とす恐れがある。このため、個々の細胞の状態や状態変化を迅速に確認可能な解析手段が必要とされている。
【0006】
しかしながら、上述した従来の評価装置では、観測者によって手作業で各細胞領域に識別マークを付与することが前提とされており、多数の細胞を記録した画像を対象とする場合、すべての細胞領域に識別マークを付与するために膨大な時間と労力を要するという問題があった。
【0007】
また、多数の細胞領域に識別マークを付与した場合、識別マークに対応する細胞領域の特定や識別マーク自体の判別が困難となり、各細胞領域の把握、画像間の同一細胞の把握、画像間の各細胞の移動、変形、拡大、縮小、分裂等の状態変化の把握などが困難となる場合が生じるという問題があった。識別マーク自体の判別については、特に、画像中の細胞の密度が高くなるほど類似した識別マークが多数存在する、識別マーク同士の重なり合いが多数発生するなど、視認性が悪化するという問題があった。なお、このような問題は、識別マークの代わりに識別番号を用いた場合にも発生する。
【0008】
本発明は、上記に鑑みてなされたものであって、観測画像に記録された複数の細胞に対応する各細胞領域を自動で識別し、識別した各細胞領域を容易に判別可能に表示することができるとともに、複数の観測時点に撮像された観測画像間で生じた細胞の経時変化の観測作業を容易にすることができる画像処理装置および画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
上記の目的を達成するために、請求項1にかかる画像処理装置は、複数の細胞が記録された観測画像を処理して表示手段に表示させる画像処理装置において、前記観測画像の中から前記細胞の画像領域である細胞領域を認識する細胞認識手段と、前記細胞認識手段が認識した各細胞領域に前記表示手段によって表示可能な異なる描画色を自動的に対応付ける描画色対応付け手段と、前記対応付け手段によって対応付けられた描画色によって前記各細胞領域を彩色した彩色画像を生成し、該生成した彩色画像を前記表示手段に表示させる制御を行う表示制御手段と、を備えたことを特徴とする。
【0010】
また、請求項2にかかる画像処理装置は、上記の発明において、前記描画色対応付け手段は、前記細胞領域に対応付けるそれぞれの描画色が所定の色空間内で広く分布するように前記各細胞領域に描画色を対応付けることを特徴とする。
【0011】
また、請求項3にかかる画像処理装置は、上記の発明において、前記描画色対応付け手段は、前記各細胞領域以外の背景領域に所定の背景描画色を対応付けるとともに、所定の色空間内で前記背景描画色から所定距離以上に離れた描画色を前記各細胞領域に対応付けることを特徴とする。
【0012】
また、請求項4にかかる画像処理装置は、上記の発明において、前記描画色対応付け手段は、互いに近傍に位置する各細胞領域に、所定の色空間内で所定の識別距離以上に離れた描画色を対応付けることを特徴とする。
【0013】
また、請求項5にかかる画像処理装置は、上記の発明において、前記描画色対応付け手段は、HSI色空間内で彩度が大きい周縁部に示される描画色を前記各細胞領域に対応付けることを特徴とする。
【0014】
また、請求項6にかかる画像処理装置は、上記の発明において、前記細胞認識手段によって認識された各細胞領域の特徴を示す細胞特徴量を算出する特徴量算出手段を備え、
前記描画色対応付け手段は、前記細胞特徴量をもとに前記各細胞領域内の細胞の種類および状態を判別し、該判別した種類および状態の少なくとも一方に応じて前記各細胞領域に描画色を対応付けることを特徴とする。
【0015】
また、請求項7にかかる画像処理装置は、上記の発明において、前記描画色対応付け手段は、前記細胞の種類および状態の少なくとも一方に応じて、前記各細胞領域に、所定の色空間内の一部である部分色空間を割り当てるとともに、該部分色空間内の描画色を対応付けることを特徴とする。
【0016】
また、請求項8にかかる画像処理装置は、上記の発明において、前記細胞認識手段は、前記細胞領域が隣接した細胞領域群を認識し、前記描画色対応付け手段は、前記細胞領域群内の各細胞領域の境界部分に該各細胞領域と異なる描画色を対応付けることを特徴とする。
【0017】
また、請求項9にかかる画像処理装置は、上記の発明において、前記観測画像は、複数の観測時点に撮像された一連の画像であり、前記細胞認識手段によって認識された各細胞領域の特徴を示す細胞特徴量を算出する特徴量算出手段と、前記観測時点が異なる各観測画像の前記細胞特徴量をもとに、該各観測画像内の細胞に同一性があるか否かを判断し、同一性があると判断した各細胞に対応する細胞領域を関連付ける細胞追跡手段と、を備え、前記描画色対応付け手段は、前記細胞追跡手段によって関連付けられた各細胞領域に等しい描画色を対応付け、前記表示制御手段は、前記観測時点ごとに前記彩色画像を生成し、該生成した各彩色画像を前記表示手段に表示させる制御を行うことを特徴とする。
【0018】
また、請求項10にかかる画像処理装置は、上記の発明において、前記描画色対応付け手段は、前記観測時点が異なる各観測画像の一方の観測画像内の1細胞領域と他方の観測画像内の複数の細胞領域とが前記細胞追跡手段によって関連付けられた場合、該関連付けられたすべての細胞領域に等しい描画色を対応付けることを特徴とする。
【0019】
また、請求項11にかかる画像処理装置は、上記の発明において、前記描画色対応付け手段は、前記観測時点の時系列順に各観測画像に前記描画色の対応付けを行い、処理対象の観測画像より時系列で前にある観測画像内の隔たった細胞領域に関連付けられ類似の描画色を対応付けた各類似色細胞領域が、該処理対象の観測画像内で互いに近傍に位置した場合、該各類似色細胞領域の少なくとも1つに、互いに類似しない非類似描画色であり、かつ、該処理対象の観測画像より時系列で前にあるすべての観測画像において関連付けられた各関連細胞領域の近傍に位置する近傍細胞領域に対応付けられた描画色と類似しない非類似描画色をあらためて対応付けることを特徴とする。
【0020】
また、請求項12にかかる画像処理装置は、上記の発明において、前記表示制御手段は、各観測時点に対応する前記各彩色画像を同一位置で切り替えて表示するように前記表示手段を制御することを特徴とする。
【0021】
また、請求項13にかかる画像処理装置は、上記の発明において、前記細胞領域を選択する選択情報を受け付ける選択情報入力手段を備え、前記表示制御手段は、前記各彩色画像の中から、前記選択情報によって選択された細胞領域と、前記細胞追跡手段によって該細胞領域に関連付けられた細胞領域と、を抽出して前記表示手段に表示させる制御を行うことを特徴とする。
【0022】
また、請求項14にかかる画像処理装置は、上記の発明において、前記表示制御手段は、前記観測画像内の各細胞領域の輝度に応じて該各細胞領域の前記彩色画像上の輝度を変更した輝度補正彩色画像を生成し、該生成した輝度補正彩色画像を前記表示手段に表示させる制御を行うことを特徴とする。
【0023】
また、請求項15にかかる画像処理プログラムは、複数の細胞が記録された観測画像を処理する画像処理装置に、前記観測画像を処理して表示手段に表示させるための画像処理プログラムであって、前記画像処理装置に、前記観測画像の中から前記細胞の画像領域である細胞領域を認識する細胞認識手順と、前記細胞認識手順によって認識された各細胞領域に前記表示手段によって表示可能な異なる描画色を自動的に対応付ける描画色対応付け手順と、前記対応付け手順によって対応付けられた描画色によって前記各細胞領域を彩色した彩色画像を生成し、該生成した彩色画像を前記表示手段に表示させる制御を行う表示制御手順と、を実行させることを特徴とする。
【0024】
また、請求項16にかかる画像処理プログラムは、上記の発明において、前記描画色対応付け手順は、前記細胞領域に対応付けるそれぞれの描画色が所定の色空間内で広く分布するように前記各細胞領域に描画色を対応付けることを特徴とする。
【0025】
また、請求項17にかかる画像処理プログラムは、上記の発明において、前記描画色対応付け手順は、前記各細胞領域以外の背景領域に所定の背景描画色を対応付けるとともに、所定の色空間内で前記背景描画色から所定距離以上に離れた描画色を前記各細胞領域に対応付けることを特徴とする。
【0026】
また、請求項18にかかる画像処理プログラムは、上記の発明において、前記描画色対応付け手順は、互いに近傍に位置する各細胞領域に、所定の色空間内で所定の識別距離以上に離れた描画色を対応付けることを特徴とする。
【0027】
また、請求項19にかかる画像処理プログラムは、上記の発明において、前記描画色対応付け手順は、HSI色空間内で彩度が大きい周縁部に示される描画色を前記各細胞領域に対応付けることを特徴とする。
【0028】
また、請求項20にかかる画像処理プログラムは、上記の発明において、前記細胞認識手順によって認識された各細胞領域の特徴を示す細胞特徴量を算出する特徴量算出手順をさらに実行させ、前記描画色対応付け手順は、前記細胞特徴量をもとに前記各細胞領域内の細胞の種類および状態を判別し、該判別した種類および状態の少なくとも一方に応じて前記各細胞領域に描画色を対応付けることを特徴とする。
【0029】
また、請求項21にかかる画像処理プログラムは、上記の発明において、前記描画色対応付け手順は、前記細胞の種類および状態の少なくとも一方に応じて、前記各細胞領域に、所定の色空間内の一部である部分色空間を割り当てるとともに、該部分色空間内の描画色を対応付けることを特徴とする。
【0030】
また、請求項22にかかる画像処理プログラムは、上記の発明において、前記細胞認識手順は、前記細胞領域が隣接した細胞領域群を認識し、前記描画色対応付け手順は、前記細胞領域群内の各細胞領域の境界部分に該各細胞領域と異なる描画色を対応付けることを特徴とする。
【0031】
また、請求項23にかかる画像処理プログラムは、上記の発明において、前記観測画像は、複数の観測時点に撮像された一連の画像であり、前記細胞認識手順によって認識された各細胞領域の特徴を示す細胞特徴量を算出する特徴量算出手順と、前記観測時点が異なる各観測画像の前記細胞特徴量をもとに、該各観測画像内の細胞に同一性があるか否かを判断し、同一性があると判断した各細胞に対応する細胞領域を関連付ける細胞追跡手順と、をさらに実行させ、前記描画色対応付け手順は、前記細胞追跡手段によって関連付けられた各細胞領域に等しい描画色を対応付け、前記表示制御手順は、前記観測時点ごとに前記彩色画像を生成し、該生成した各彩色画像を前記表示手段に表示させる制御を行うことを特徴とする。
【0032】
また、請求項24にかかる画像処理プログラムは、上記の発明において、前記描画色対応付け手順は、前記観測時点が異なる各観測画像の一方の観測画像内の1細胞領域と他方の観測画像内の複数の細胞領域とが前記細胞追跡手順によって関連付けられた場合、該関連付けられたすべての細胞領域に等しい描画色を対応付けることを特徴とする。
【0033】
また、請求項25にかかる画像処理プログラムは、上記の発明において、前記描画色対応付け手順は、前記観測時点の時系列順に各観測画像に前記描画色の対応付けを行い、処理対象の観測画像より時系列で前にある観測画像内の隔たった細胞領域に関連付けられ類似の描画色を対応付けた各類似色細胞領域が、該処理対象の観測画像内で互いに近傍に位置した場合、該各類似色細胞領域の少なくとも1つに、互いに類似しない非類似描画色であり、かつ、該処理対象の観測画像より時系列で前にあるすべての観測画像において関連付けられた各関連細胞領域の近傍に位置する近傍細胞領域に対応付けられた描画色と類似しない非類似描画色をあらためて対応付けることを特徴とする。
【0034】
また、請求項26にかかる画像処理プログラムは、上記の発明において、前記表示制御手順は、各観測時点に対応する前記各彩色画像を同一位置で切り替えて表示するように前記表示手段を制御することを特徴とする。
【0035】
また、請求項27にかかる画像処理プログラムは、上記の発明において、前記細胞領域を選択する選択情報を受け付ける選択情報入力手順をさらに実行させ、前記表示制御手順は、前記各彩色画像の中から、前記選択情報によって選択された細胞領域と、前記細胞追跡手順によって該細胞領域に関連付けられた細胞領域と、を抽出して前記表示手段に表示させる制御を行うことを特徴とする。
【0036】
また、請求項28にかかる画像処理プログラムは、上記の発明において、前記表示制御手順は、前記観測画像内の各細胞領域の輝度に応じて該各細胞領域の前記彩色画像上の輝度を変更した輝度補正彩色画像を生成し、該生成した輝度補正彩色画像を前記表示手段に表示させる制御を行うことを特徴とする。
【発明の効果】
【0037】
本発明にかかる画像処理装置および画像処理プログラムによれば、観測画像に記録された複数の細胞に対応する各細胞領域を自動で識別し、識別した各細胞領域を容易に判別可能に表示することができるとともに、複数の観測時点に撮像された観測画像間で生じた細胞の経時変化の観測作業を容易にすることができる。
【発明を実施するための最良の形態】
【0038】
以下、添付図面を参照して、本発明にかかる画像処理装置の好適な実施の形態を詳細に説明する。なお、この実施の形態によりこの発明が限定されるものではない。また、図面の記載において、同一部分には同一の符号を付している。
【0039】
(実施の形態1)
まず、本発明の実施の形態1にかかる画像処理装置について説明する。図1は、この実施の形態1にかかる画像処理装置1の構成を示すブロック図である。図1に示すように、画像処理装置1は、入力された画像を処理する画像処理部2と、観察光学系OPによって拡大投影された細胞培養部OB内の細胞を撮像して観測画像を生成する撮像部3と、各種情報を表示する表示部4と、各種情報の入力を受け付ける入力部5と、各種情報を記憶する記憶部6と、画像処理装置1の各部の処理および動作を制御する制御部7と、を備える。画像処理部2、撮像部3、表示部4、入力部5および記憶部6は、制御部7に電気的に接続されている。
【0040】
細胞培養部OBは、たとえば、蛍光タンパクが導入された複数の生細胞を観測試料として培養する。観察光学系OPは、顕微鏡等を用いて実現される光学系であり、細胞培養部OB内で培養される細胞を撮像部3の撮像面に拡大投影する。なお、観察光学系OPは、細胞培養部内の細胞を照明する照明装置を備えるようにしてもよい。
【0041】
撮像部3は、CMOS、CCD等の撮像素子と、撮像素子からのアナログ信号をデジタル信号に変換するA/D変換器とを有し、撮像素子の撮像面に拡大投影された細胞を撮像して観測画像を生成する。撮像部3は、複数の観測時点で細胞を撮像し、細胞の経時変化を記録した一連の観測画像を生成する。撮像部3によって生成された一連の観測画像は、観測画像記憶部6aに記憶される。
【0042】
画像処理部2は、細胞認識部2a、特徴量算出部2b、細胞追跡部2cおよび描画色対応付け手段としての描画色割当部2dを備え、観測画像記憶部6aに記憶された一連の観測画像を処理する。細胞認識部2a、特徴量算出部2b、細胞追跡部2cおよび描画色割当部2dは、画像処理制御部7aによって制御される。
【0043】
細胞認識部2aは、一連の観測画像に含まれる各観測画像の中から、個々の細胞に対応する画像領域である細胞領域を抽出する。細胞認識部2aは、たとえば、分水嶺領域分割と呼ばれる画像処理手法(たとえば、非特許文献1参照)を利用して各観測画像を複数の画像領域に分割し、細胞領域を抽出する。非特許文献1では、画像を低輝度画素の集中する領域に分割するようにしているが、一般に細胞は高輝度画素の集合として現れるため、細胞認識部2aでは、手法上、輝度を反転して、高輝度領域の分割に適用するようにしている。なお、細胞認識部2aは、細胞領域の抽出を行う前に、前処理として各フレームに輝度補正処理、平滑化処理等を行うようにするとよい。
【0044】
また、細胞認識部2aは、抽出した各細胞領域に対して領域標識としての固有の認識番号を付与する。細胞認識部2aによって付与される認識番号は、固有のものであれば番号以外にも、アルファベット、記号等を用いた任意の表記でよい。さらに、細胞認識部2aは、各観測画像に対して、認識番号と細胞領域とを対応付けて示す細胞認識画像を生成する。生成された細胞認識画像は、観測時点に対応付けられ処理画像記憶部6bに記憶される。なお、細胞認識部2aは、認識番号と細胞領域との対応付けのみ行って、細胞認識画像の生成を省いてもよい。この場合、細胞番号と細胞領域との対応情報は、観測画像にフレームごとに対応付けられ記憶部6に記憶されるようにするとよい。
【0045】
特徴量算出部2bは、細胞認識部2aによって抽出された各細胞領域の特徴を示す細胞特徴量を算出する。具体的には、特徴量算出部2bは、細胞特徴量として、細胞領域の輝度総和、面積、輪郭長、円形度、重心位置等を算出する。算出された各細胞特徴量は、細胞認識画像および観測画像の少なくとも一方に対してフレームごとに、各細胞領域の認識番号に対応付けられ記憶部6に記憶される。なお、特徴量算出部2bによって算出される細胞特徴量は、間接的に細胞領域内の細胞の特徴を示す。
【0046】
細胞追跡部2cは、観測時点が異なる観測画像間の細胞特徴量の変化量を算出し、算出した変化量をもとに、この観測時点が異なる各観測画像に含まれる細胞に同一性があるか否かを判断し、同一性があると判断した各細胞の細胞領域を対応付ける。このとき、細胞追跡部2cは、同一性があると判断した各細胞の細胞領域に同一の認識番号を付与する。
【0047】
たとえば、細胞追跡部2cは、時系列で連続する2つのフレーム間で細胞の同一性を判断し、同一性があると判断した各細胞領域のうち観測時点が前の細胞領域に付与された認識番号を、観測時点が後の細胞領域に付与する。そして、細胞追跡部2cは、この連続するフレーム間で行う処理を、時系列で先頭の第1フレームから順次、処理対象のフレームを観測時点順に変更して繰り返し、最終的に任意のフレーム間で各細胞領域を対応付けるようにする。
【0048】
細胞追跡部2cによってあらためて付与された認識番号は、細胞認識画像のフレームごとに更新され、処理画像記憶部6bに記憶される。なお、細胞追跡部2cは、同一性を判断した各細胞領域に対して、認識番号とは異なる領域標識を新たに付与するようにしてもよい。
【0049】
描画色割当部2dは、認識番号が付与された各細胞領域と、細胞領域とは異なる画像領域である背景領域とに、表示部4によって表示可能な異なる描画色を対応付ける。このとき、描画色割当部2dは、観測画像の背景色に類似の白または黒を背景領域の背景描画色として対応付けるとともに、表示部4によって表示可能な描画色を示す表示色空間内で、背景描画色から所定距離以上に離れた描画色を各細胞領域に対応付ける。
【0050】
また、描画色割当部2dは、細胞認識画像上で互いに近傍に位置し認識番号の異なる各細胞領域に、表示色空間内で所定の識別距離以上に離れた描画色を対応付ける。この際、描画色割当部2dは、表示色空間がHSI色空間である場合には、このHSI色空間内で彩度が大きい周縁部に示される描画色を対応付けることで、できるだけ色相方向に隔たった異なる描画色を対応付ける。なお、識別距離は、一定値または観測者によって適宜定められる値のいずれでもよい。
【0051】
さらに、描画色割当部2dは、各フレームの同一の認識番号を有する細胞領域に、等しい描画色を対応付ける。1つのフレーム内に同一の認識番号を有する複数の細胞領域が存在する場合、描画色割当部2dは、このすべての細胞領域に等しい描画色を対応付ける。なお、「等しい描画色」とは、完全に等しい描画色の他にも、若干の輝度や彩度を変更した描画色を含む意味である。
【0052】
また、このように各フレームの細胞領域に描画色を対応付けた結果、任意のフレームにおいて、表示色空間内の識別距離以内にある類似した描画色が対応付けられ互いに近傍に位置する細胞領域が生じた場合、描画色割当部2dは、これらの細胞領域の少なくとも1つに、あらためて描画色を対応付け、最終的にすべてのフレームにおいて、類似した描画色を有する異なる認識番号に対応する細胞領域が互いに近傍に位置しないようにする。
【0053】
さらに、描画色割当部2dは、細胞認識部2aによって、たとえば細胞分裂直後の細胞に対応する細胞領域のような、複数の細胞領域が隣接した細胞領域群が認識された場合、細胞領域群内の各細胞領域の境界部分に、この各細胞領域と異なる描画色を対応付ける。なお、以上のように描画色割当部2dによって各細胞領域に対応付けられた描画色は、細胞認識画像のフレームごとに認識番号に対応付けられ処理画像記憶部6bに記憶される。
【0054】
表示部4は、CRT、液晶ディスプレイ等を備え、画像処理部2が観測画像を処理して生成した細胞認識画像を含む各種情報を表示する。特に、表示部4は、表示処理制御部7bからの指示をもとに、描画色割当部2dによって対応付けられた描画色により各細胞領域を彩色した彩色画像としての色分け画像を表示する。
【0055】
入力部5は、USB,IEEE1394等の通信用インターフェース、各種スイッチ、入力キー、マウス、タッチパネル等を備え、各種情報の入力を受け付ける。入力部5は、特に、表示細胞選択部5aを備え、この表示細胞入力部5aは、表示部4に表示させる少なくとも1つの細胞領域を選択する細胞選択情報の入力を受け付ける。観測者は、表示細胞選択部5aを介して細胞選択情報を入力することによって、表示させる細胞領域を任意に選択することができる。なお、細胞選択情報の入力として、たとえば、認識番号、細胞特徴量等を入力キーから入力するようにしてもよく、観測画像もしくは細胞認識画像を一旦表示させ、表示させた画像内の所望の領域をマウス等によってポインティングもしくはドラッグして選択することによって入力するようにしてもよい。
【0056】
記憶部6は、各種処理プログラム等があらかじめ記憶されたROMと、各処理の処理パラメータ、処理データ等を記憶するRAMとによって実現される。記憶部6は、特に、観測画像を記憶する観測画像記憶部6aと、細胞認識画像、色分け画像等を記憶する処理画像記憶部6bとを備える。なお、記憶部6は、フラッシュメモリ、CD、DVD、ハードディスク等の各種の携帯型記憶媒体を着脱可能な記憶部として備えるようにしてもよい。
【0057】
制御部7は、記憶部6に記憶された各種処理プログラムを実行するCPU等によって実現される。制御部7は、特に、画像処理制御部7aおよび表示処理制御部7bを備える。画像処理制御部7aは、画像処理部2の各部が行う処理および動作を制御するとともに、画像処理部2に対する各種データおよびパラメータの入出力を制御する。
【0058】
表示処理制御部7bは、描画色割当部2dによって対応付けられた描画色によって各細胞領域を彩色した色分け画像を観測時点ごとに生成し、生成した各色分け画像を表示部4に表示させる制御を行う。特に、表示処理制御部7bは、各フレームの色分け画像を表示させる際、表示画面上の同一位置で切り替えて表示するように表示部4を制御する。このとき、表示処理制御部7bは、観測時点順あるいは外部から入力された表示順序を指示する表示順指示情報等に応じて順次、各フレームの色分け画像を表示する。なお、表示処理制御部7bは、複数の色分け画像を並列に同時に表示するようにしてもよく、表示した色分け画像内の細胞領域の認識番号、細胞特徴量等の各種情報を同時に表示するようにしてもよい。
【0059】
また、表示処理制御部7bは、細胞選択情報によって選択された細胞領域と、細胞追跡部2cによってこの細胞領域に関連付けられ同一の認識番号を付与された細胞領域と、を抽出して表示部4に表示させる制御を行う。この際、表示処理制御部7bは、抽出した以外の細胞領域を背景描画色によって彩色し、表示させるようにしてもよい。なお、表示処理制御部7bによって生成された色分け画像は、観測時点に対応付けて処理画像記憶部6bに記憶される。
【0060】
ここで、画像処理装置1が行う処理手順について説明する。図2は、撮像部3によって撮像され観測画像記憶部6aに記憶された観測画像を示す模式図であり、図3は、画像処理装置1が、この観測画像を処理して表示する処理手順を示すフローチャートである。
【0061】
図2に示すように、撮像された観測画像は、背景の中に観測対象としての複数の細胞を含む。各細胞は、たとえば、第nフレーム〜第(n+1)フレーム間で移動、膨張、収縮、変形、分裂、消滅等の状態変化を起こしている。
【0062】
図3に示すように、細胞認識部2aは、観測画像の各フレームの中から各細胞に対応する細胞領域を抽出して認識番号を付与し、細胞認識画像を生成する細胞認識処理を行い(ステップS101)、特徴量算出部2bは、抽出された各細胞領域の各種細胞特徴量を算出する特徴量算出処理を行い(ステップS103)、細胞追跡部2cは、各フレーム間の細胞の同一性を判断し、同一性があると判断した各細胞の細胞領域に同一の認識番号を付与して対応付ける細胞追跡処理を行い(ステップS105)、描画色割当部2dは、認識された各細胞領域に異なる描画色を対応付ける描画色決定処理を行い(ステップS107)、表示処理制御部7bは、各細胞領域を描画色によって彩色した色分け画像を観測時点ごとに生成して表示する色分け画像表示処理を行い(ステップS109)、画像処理装置1は、一連の処理を終了する。
【0063】
ステップS103の特徴量算出処理では、特徴量算出部2bは、細胞特徴量として、各細胞領域の重心位置、面積、円形度の少なくとも1つを算出する。そして、ステップS105の細胞追跡処理では、細胞追跡部2cは、観測時点が異なる2つの観測画像に含まれる各細胞領域について評価値Jを算出し、算出した評価値Jの値に応じて、各細胞領域内の細胞の同一性を判断する。
【0064】
評価値Jは、観測時点ti,ti+1の各観測画像内で認識番号Rti,m,Rti+1,nが付与された各細胞領域に対して、重心間の距離δd、面積の差δa、円形度の差δc、所定の重み付け係数kd,ka,kcを用い、次式(1)で算出される。
J=J(Rti,m,Rti+1,n)=kdδd+kaδa+kcδc ・・・(1)
ここで、変数m,nは、観測時点ti,ti+1の各観測画像で抽出された細胞領域数M,Nに対して、1≦m≦M,1≦n≦Nの関係にある。なお、評価値Jは、式(1)の右辺の各項の中から任意の1項または2項を用いて算出するようにしてもよい。
【0065】
細胞追跡部2cは、変数m,nの可能なすべての組み合わせについて評価値Jを算出し、算出した評価値Jが所定のしきい値θ以下である場合、認識番号Rti,m,Rti+1,nが付与された各細胞領域の細胞に同一性があると判断し、この細胞領域に同一の認識番号を付与する。同様に、細胞追跡部2cは、観測時点ti,ti+1以外の各観測画像について評価値Jを算出し、算出した評価値Jがしきい値θ以下となる各細胞を同一の細胞と判断し、各細胞領域に同一の認識番号を付与する。
【0066】
図4は、図2に示した第nおよび第(n+1)フレームの観測画像をもとに、ステップS101〜S105によって生成された細胞認識画像を示す図である。図4では、ステップS101によって抽出された各細胞領域に、認識番号「L1〜L7」が付与されている。なお、認識番号「L2」の細胞領域は、ステップS105の細胞追跡処理によって、第nフレームの1つの細胞領域に対して第(n+1)フレームの2つの細胞領域が関連付けられ、それぞれに同一の認識番号が付与されている。
【0067】
つぎに、図3に示したステップS107の描画色決定処理について説明する。描画色決定処理では、描画色割当部2dは、各細胞領域に認識番号ごとに異なる描画色を対応付ける。このとき、描画色割当部2dは、各細胞領域、とりわけ互いに近傍に位置する各細胞領域に類似の描画色を対応付けないように、できるだけ表示色空間内で広く分布するように、色空間内で識別距離以上に離れた描画色を各細胞領域に対応付けるようにする。
【0068】
図5は、色空間座標および表示色空間を示す図である。図5に示す色空間座標は、図上、上下方向に明度(I)軸を有し、この明度軸を中心とする放射方向に彩度(S)を示し、明度軸を中心とする回転方向に色相(H)を示し、HSI色空間を形成している。この色空間座標上の表示色空間CB内の各点が、表示部4によって表示可能な描画色を示し、たとえば、彩度が大きな周縁部に位置する点Pr,Py,Pg,Pc,Pb,Pmは、それぞれ赤、黄、緑、シアン、青、マゼンタの各描画色を示す。なお、表示色空間CB内の明度軸上の下端および上端に位置する点PB,PWは、それぞれ黒、白を示し、これらの中点PGは、グレーを示す。
【0069】
なお、表示部4によって表色する際のRGBカラーから、表示色空間CB上に示すHSIカラーへの変換は、次のように行われる。すなわち、まず、R,G,B各色の正規化された輝度値RV,GV,BV(=0〜1)の中の最大輝度値Imaxおよび最小輝度値Iminを次式(2),(3)によって求める。
max=max{RV,GV,BV} ・・・(2)
min=min{RV,GV,BV} ・・・(3)
【0070】
つづいて、次式(4)によって明度値Ivを算出し、算出した明度値Iv≦0.5の場合、式(5)によって彩度値SVを算出し、明度値IV>0.5の場合、式(6)によって彩度値SVを算出する。
V=(Imax+Imin)/2 ・・・(4)
V=(Imax−Imin)/(Imax+Imin) ・・・(5)
V=(Imax−Imin)/(2−(Imax+Imin)) ・・・(6)
【0071】
また、次式(7)〜(9)によって中間変数r,g,bを算出し、算出したr,g,bをもとに、最大輝度値Imax=RVの場合、式(10)によって、最大輝度値Imax=GVの場合、式(11)によって、最大輝度値Imax=BVの場合、式(12)によって、それぞれ色相値Hvを算出する。
r=(Imax−RV)/(Imax−Imin) ・・・(7)
g=(Imax−GV)/(Imax−Imin) ・・・(8)
b=(Imax−BV)/(Imax−Imin) ・・・(9)
v=π(b−g)/3 ・・・(10)
v=π(2+r−b)/3 ・・・(11)
v=π(4+g−r)/3 ・・・(12)
【0072】
描画色割当部2dは、具体的には、図5に示す点P1,P2のように色相差H12が小さい描画色ではなく、点P1,P3のように色相差H13が大きい描画色を各細胞領域に対応付ける。ただし、1つのフレーム内に存在する細胞数が多くなると、任意の細胞領域間で描画色の色相差を大きく確保することが困難になるため、描画色割当部2dは、少なくとも互いに近傍に位置する細胞領域に対して色相差が大きくなる描画色を対応付ける。
【0073】
また、描画色割当部2dは、図5に示す点P4,P5のように、背景描画色とする点PB(黒)または点PW(白)に近い描画色を細胞領域に対応付けず、表示色空間CB上で点PBおよび点PWから所定距離以上に離れた点で示される描画色を対応付けるようにする。このように描画色を対応付けることによって、描画色割当部2dは、観測者が色覚的に容易に認識および判別可能な描画色を各細胞領域、とりわけ互いに近傍に位置する細胞領域に対応付けることができる。
【0074】
なお、描画色割当部2dは、HSIカラーで示される表示色空間CBと異なる色空間によって描画色の類似度を判断するようにしてもよく、たとえば、CIE−L***表色系で示される色空間を利用できる。また、描画色割当部2dは、描画色の類似度の指標として色差を用いるようにしてもよく、たとえば、CIE−L***表色系の座標値(L1*1*1*),(L2*2*2*)で示される描画色の色差ΔEを用いることができる。なお、色差ΔEは、次式(13)によって算出される。
【数1】

【0075】
ここで、描画色決定処理の処理手順の一例を、図6を参照して説明する。図6は、乱数を利用して表示色空間CBから描画色を選択し、各フレームの細胞領域に対応付ける処理手順を示す。図6に示すように、画像処理制御部7aが、処理画像記憶部6bから細胞認識画像を1フレーム読み込み(ステップS111)、描画色割当部2dは、読み込んだフレームにおいて始めて付加された初出の細胞認識番号があるか否かを判断する(ステップS113)。
【0076】
初出の細胞認識番号がある場合(ステップS113:Yes)、描画色割当部2dは、初出の各細胞認識番号に対して、乱数によって選択した描画色を対応付け(ステップS115)、前フレームまでに既に付与された既出の各細胞認識番号に対して、前フレームまでと同じ描画色を対応付ける(ステップS117)。一方、初出の細胞認識番号がない場合(ステップS113:No)、描画色割当部2dは、ただちにステップS117を実行する。なお、第1フレームを処理対象とする場合、描画色割当部2dは、ステップS113,S117の処理を省略してもよい。
【0077】
つづいて、描画色割当部2dは、処理対象のフレーム内で背景領域または近傍の細胞領域と類似の描画色を対応付けられた細胞認識番号があるか否かを判断し(ステップS119)、類似の描画色を対応付けられた細胞認識番号がある場合(ステップS119:Yes)、類似の描画色を有する細胞認識番号の少なくとも1つに対して、乱数によって再び選択した描画色を対応付ける(ステップS121)。ここで、類似の描画色とは、表示色空間CB上で、背景描画色に対して所定距離以内にある描画色、近傍の細胞領域に対して識別距離以内にある描画色を指す。なお、背景領域の背景描画色は、あらかじめ白、黒等に決定されているものとする。
【0078】
その後、描画色割当部2dは、再びステップS119の判断を行い、類似の描画色を対応付けられた細胞認識番号がないと判断した場合(ステップS119:No)、処理画像記憶部6bに記憶された前フレームまでの細胞認識画像を参照し、前フレームまでの各フレームにおいて近傍の細胞領域と類似の描画色を対応付けられた細胞認識番号があるか否かを判断し(ステップS123)、類似の描画色が対応付けられた細胞認識番号がある場合(ステップS123:Yes)、ステップS121を実行する。
【0079】
類似の描画色が対応付けられた細胞認識番号がない場合(ステップS123:No)、画像処理制御部7aは、細胞認識番号に対する描画色を決定し、決定した細胞認識番号と描画色との対応関係を細胞認識画像のフレームごとに処理画像記憶部6bに記録する(ステップS125)。そして、画像処理制御部7aは、一連の細胞認識画像について最終フレームまで処理したか否かを判断し(ステップS127)、処理していない場合(ステップS127:No)、未処理のフレームに対してステップS111からの処理を繰り返し、最終フレームまで処理している場合(ステップS127:Yes)、ステップS107へリターンする。
【0080】
ステップS115では、描画色割当部2dは、乱数によってRGBカラーの各色成分の輝度値(階調値)を求めて描画色を選択する。この際、発生させる乱数の範囲は、表示色空間CB内に示される描画色の輝度値の範囲とする。さらに、この範囲は、表示色空間CB上で背景描画色から所定距離以上、また明度軸からあらかじめ定められた距離以上に離れた描画色の輝度値の範囲に限定するようにしてもよい。
【0081】
ステップS119では、描画色割当部2dは、ステップS115によって新しく描画色を対応付けた細胞認識番号はもとより、既出の細胞認識番号も含めて、すべての細胞認識番号について類似の描画色があるか否かを判断する。既出の細胞認識番号を判断対象とするのは、前フレームにおいて類似の描画色を有する細胞領域が近傍になかったとしても、たとえば細胞が移動することによって、処理対象のフレームにおいて類似の描画色を有する細胞領域が近傍に位置する可能性があることによる。
【0082】
描画色割当部2dは、ステップS119,S121によって、処理対象のフレーム内で互いに近傍に位置する細胞領域に類似の描画色を対応付けないようにするとともに、その後のステップS123によって、一連のすべてのフレームにおいて、互いに近傍に位置する細胞領域に類似の描画色を対応付けないようにする。
【0083】
このようにして、図6に示す描画色決定処理では、描画色割当部2dは、表示色空間CB内に広く分布した描画色を各細胞領域に対応付けることができ、かつ、近隣同士の細胞領域に表示色空間CB上で識別距離以上に離れた描画色を対応付けることができ、結果として、画像表示した場合に容易に認識および判別可能な視認性の良い描画色を各細胞領域に対応付けることができる。
【0084】
図3に示したステップS109の色分け画像表示処理では、表示処理制御部7bは、たとえば図7に示すように、ステップS107によって対応付けられた描画色によって各細胞領域を彩色した色分け画像を生成し、表示部4に表示させる。図7は、図4に示した第nおよび第(n+1)フレームの細胞認識画像を彩色した色分け画像を示す図である。図7では、便宜的に、各細胞領域の表示模様の違いによって描画色の違いを示している。図4と対比して明らかなように、異なる認識番号を有する細胞領域は異なる描画色で彩色され、同一の認識番号を有する細胞領域は同一の描画色で彩色されている。
【0085】
なお、図7に示した色分け画像では、隣接した細胞領域の境界部分が背景描画色によって彩色されている。このような境界部分の彩色手法は、特に、図8に示すように、細胞分裂によって発生し同一描画色で彩色される細胞が隣接する際に、各細胞領域を独立した細胞領域として判別可能とするために有効である。図8では、境界部分を背景描画色で彩色する場合の他、細胞領域および背景領域と異なる描画色で彩色した場合を例示している。
【0086】
図8に示すように、境界部分を背景描画色によって彩色する手法は、必要な描画色数を増やすことなく、また表示を煩雑にすることなく、各細胞領域を容易に判別可能にできる。一方、境界部分を細胞領域および背景領域と異なる描画色で彩色する手法は、境界部分をより明確に表示することができる。この場合、境界部分の描画色として、細胞領域の描画色の補色を用いることもできる。
【0087】
また、色分け画像表示処理では、表示処理制御部7bは、各フレームの色分け画像を、たとえば観測時点順に表示部4上の同一位置に切り替えて表示する。この際、表示処理制御部7bは、所定周期で自動的に切り替えるようにしてもよく、あるいは入力部5から入力される切り替えを指示する切替指示情報に応じて切り替えるようにしてもよい。このように同一位置で切り替えて一連の色分け画像を表示することによって、観測者は、フレーム間で特異な変化を生じた細胞の発見、個々の細胞の位置、大きさ、形状等の変化および分裂等の状態変化の把握を容易に行うことができる。
【0088】
さらに、色分け画像表示処理では、表示処理制御部7bは、表示細胞選択部5aから入力される細胞選択情報によって選択された細胞領域のみ抽出して表示するようにしてもよい。この場合、表示処理制御部7bは、たとえば図9に示すように、選択された細胞領域以外の領域を背景描画色によって彩色して表示するとよい。このように表示することによって、観測者は、注目する細胞のみ容易に認識し観測することができる。
【0089】
なお、表示処理制御部7bは、選択された細胞領域以外の領域を観測画像の対応する領域によって表示するようにしてもよい。また、細胞選択情報を描画色決定処理より前に取得するようにして、描画色割当部2dは、選択された細胞領域のみに描画色を対応付けるようにしてもよい。
【0090】
以上説明したように、この実施の形態1にかかる画像処理装置1では、観測画像に記録された複数の細胞に対応する各細胞領域を自動で識別し、識別した各細胞領域を容易に判別可能に表示することができるとともに、複数の観測時点に撮像された観測画像間で生じた細胞の経時変化の観測作業を容易にすることができる。
【0091】
(実施の形態2)
つぎに、本発明の実施の形態2について説明する。上述した実施の形態1では、描画色割当部2dは、各細胞領域に対応付ける描画色を、識別距離等の所定の条件のもと表示色空間CB全体から選択するようにしていたが、この実施の形態2では、観測画像に記録された細胞の種類ごとに、各細胞領域に対応付け可能な描画色の範囲を割り当てるようにしている。
【0092】
図10は、本発明の実施の形態2にかかる画像処理装置11の構成を示すブロック図である。図10に示すように、画像処理装置11は、画像処理装置1が備えた画像処理部2、記憶部6および制御部7に替えて、画像処理部12、記憶部16および制御部17を備える。画像処理部12は、画像処理部2が備えた描画色割当部2dに替えて描画色割当部12dを備え、記憶部16は、記憶部6の構成に加えて描画色テーブル16cを記憶し、制御部17は、制御部7が備えた画像処理制御部7aに替えて画像処理制御部17aを備える。その他の構成は、実施の形態1と同じであり、同一構成部分には同一符号を付している。
【0093】
特徴量算出部2bは、各細胞領域の形状、状態等に関する細胞特徴量とともに、マーカーとして複数種類の蛍光色素が導入された細胞を記録した観測画像の場合、各細胞領域の蛍光色素に対応するRGBカラーの各色成分の画素値を細胞特徴量として算出する。さらに、特徴量算出部2bは、各細胞領域の細胞認識部2aによる細胞認識処理の成功度合い等を細胞特徴量として算出するようにしてもよい。
【0094】
描画色割当部12dは、特徴量算出部2bによって算出された各種の細胞特徴量をもとに、各細胞領域内の細胞の種類および状態を判別し、判別した種類および状態の少なくとも一方に応じて各細胞領域に描画色を対応付ける。この際、描画色割当部12dは、判別した種類および状態の少なくとも一方に応じて各細胞領域に、表示色空間CB内の部分的な色空間である種類別色空間を割り当てるとともに、割り当てた種類別色空間内の描画色を対応付ける。
【0095】
具体的には、描画色割当部12dは、たとえば図11に示すように、丸い形の細胞種に対応する細胞領域Aa1,Aa2およびAb1〜Ab3と、細長い形の細胞種に対応する細胞領域Ba1〜Ba3およびBb1〜Bb4とに、それぞれ図12−1に示すような種類別色空間BG,RYを割り当てる。種類別色空間BGは、表示色空間BC内の寒色系の青・緑系統色を示し、種類別色空間RYは、表示色空間BC内の暖色系の赤・黄系統色を示す。
【0096】
他にも、観測する細胞の種類に応じたマーカーとして複数種類の蛍光色素を用いた場合には、各細胞領域の画素位置におけるRGBカラーの各色成分の画素値で表される細胞特徴量に応じて細胞の種類を分類し、分類した各細胞種に対して種類別色空間を割り当てるようにすることもできる。さらに、細胞の形状についての細胞特徴量に基づいて分類される細胞種と、RGBカラーの各色成分の画素値で表される細胞特徴量に基づいて分類される細胞種との両者の組み合わせによって細胞種を分類し、各組み合わせに対して種類別色空間を割り当てるようにすることもできる。
【0097】
そして、描画色割当部12dは、種類別色空間BGの中から描画色代表点BG1〜BG10を選択し、異なる認識番号(同一性のない細胞)に対応する細胞領域Aa1,Aa2およびAb1〜Ab3に対して、描画色代表点BG1〜BG10が示す異なる描画色を対応付ける。同様に、描画色割当部12dは、種類別色空間RYの中から描画色代表点RY1〜RY10を選択し、異なる認識番号(同一性のない細胞)に対応する細胞領域Ba1,Ba2およびBb1〜Bb3に対して、描画色代表点RY1〜RY10が示す異なる描画色を対応付ける。
【0098】
各描画色代表点は、図12−1および図12−2に示すように、表示色空間CB上の最も彩度の大きな周縁部に位置する点であって、たとえば、描画色代表点BG1,BG5,BG10およびRY5は、それぞれ青、シアン、緑および赤の描画色を示す。なお、図12−2は、表示色空間CB上の点PW,PBの中点PGを含み明度軸に垂直な横断面を示している。
【0099】
また、各描画色代表点は、種類別色空間ごとにあらかじめ複数選択され、たとえば図13に示すように、HSIカラーとRGBカラーとの各表示値がテーブルによって対応付けられ、描画色テーブル16cとして記憶部16に記憶される。描画色割当部12dは、この描画色テーブル16cを参照して描画色代表点を選択し、選択した描画色代表点が示す描画色を種類別色空間ごとに各細胞領域に対応付ける。
【0100】
なお、あらかじめ選択される描画色代表点は、図13に示したように種類別色空間ごとに10点に限定する必要はなく、10点より多くても少なくてもよい。ただし、細胞領域があらかじめ選択された描画色代表点より多い場合、描画色割当部12dは、新たな描画色代表点を選択して細胞領域に対応付ける。この際、描画色割当部12dは、既存の描画色代表点を色相方向に移動させた点としての、既存の描画色代表点間の内分点もしくは外分点を新たな描画色代表点にするとよい。
【0101】
さらに、細胞領域数が多く、色相方向に移動させただけでは描画色代表点を十分に確保できない場合、描画色割当部12dは、既存の描画色代表点を彩度および明度方向に移動させた点を新たな描画色代表点にする。この場合、描画色割当部12dは、たとえば、描画色代表点BG5を基点として、図12−3に示す描画色範囲BG5a内で彩度および明度を変化させた点BG5’等を新たな描画色代表点として選択し、同様に、描画色代表点RY5を基点として描画色範囲RY5a内の点RY5’を新たな描画色代表点とする。ここで、描画色範囲BG5aは、基点とする描画色代表点BG5と明度軸とを含む平面による種類別色空間BGの縦断面内の領域であり、描画色範囲RY5aは、描画色代表点RY5と明度軸とを含む平面による種類別色空間RYの縦断面内の領域である。
【0102】
同様に、描画色割当部12dは、他の描画色代表点BG1,BG10,RY1,RY10等に対しても、図12−2に示すように描画色範囲BG1a,BG10a,RY1a,RY10a等を設定し、各描画色代表点を基点として彩度および明度を変化させた新たな描画色代表点を選択するとよい。
【0103】
また、描画色割当部12dは、あらかじめ選択された描画色代表点より細胞領域が少ない場合であっても、たとえば、細胞分裂等によって派生し同一の認識番号が付与された各細胞領域に対し、同じ描画色範囲(たとえば、BG5a)内の異なる描画色(たとえば、BG5’,BG5”)を対応付けるようにしてもよい。すなわち、描画色割当部12dは、同じ色相を対応付けることによって、同一の認識番号が付与された各細胞領域の関連性を示し、彩度および明度の少なくとも一方を変化させることによって独立した細胞領域であることを明確にすることができる。
【0104】
なお、描画色割当部12dは、細胞種類が多く、色相方向に種類別色空間を十分に確保できない場合、彩度および明度方向に表示色空間CBをさらに細分化した部分的な色空間を種類別色空間として用いるようにしてもよい。
【0105】
図14は、表示処理制御部7bが、描画色割当部12dによって対応付けられた描画色により、図11に示した第mおよび第(m+1)フレームの細胞認識画像を彩色した色分け画像を示す図である。図14では、便宜的に、各細胞領域の表示模様の違いによって描画色の違いを示している。特に、丸い形の細胞種に対応する細胞領域Aa1,Aa2およびAb1〜Ab3は、点を基調とした表示模様として、種類別色空間BG内の描画色により彩色されていることを示し、細長い形の細胞種に対応する細胞領域Ba1〜Ba3およびBb1〜Bb4は、斜線を基調とした表示模様として、種類別色空間RY内の描画色により彩色されていることを示している。
【0106】
このようにして、この実施の形態2にかかる画像処理装置11では、複数種類の細胞が記録された観測画像に対して、各細胞領域を自動で識別し、識別した各細胞領域を容易に判別可能に表示することができ、また、複数の観測時点に撮像された観測画像間で生じた細胞の経時変化の観測作業を容易にすることができることに加えて、細胞の種類および状態の少なくとも一方に応じて種類別色空間を割り当てて描画色の色系統を区別するようにしているため、各細胞が属する種類を容易に判別可能に表示することができる。
【0107】
なお、画像処理装置11では、描画色割当部12dは、画像処理装置1の描画色割当部2と同様に、一連のすべてのフレームにおいて、互いに近傍に位置する細胞領域に類似の描画色を対応付けないようにする。
【0108】
また、表示処理制御部7bは、上述した実施の形態1と同様に、各フレームの色分け画像を表示部4上の同一位置に切り替えて表示する。このように表示することによって、観測者は、フレームごとに各細胞領域の属する種類が容易に判別できることに加えて、フレーム間で生じた種類ごとの細胞分布の変化を容易に把握することができる。
【0109】
(実施の形態3)
つぎに、本発明の実施の形態3について説明する。上述した実施の形態1および2では、表示処理制御部7bは、対応付けられた描画色によって各細胞領域を彩色した色分け画像を表示するようにしていたが、この実施の形態3では、さらに、観測画像の輝度情報を反映した色分け画像を表示するようにしている。
【0110】
図15は、本発明の実施の形態3にかかる画像処理装置21の構成を示すブロック図である。図15に示すように、画像処理装置21は、画像処理装置1が備えた制御部7に替えて制御部27を備える。制御部27は、制御部7が備えた表示処理制御部7bに替えて表示処理制御部27bを備える。その他の構成は、実施の形態1と同じであり、同一構成部分には同一符号を付している。
【0111】
表示制御部27bは、観測画像内の各細胞領域の輝度に応じて色分け画像上の細胞画像領域の輝度を変更した輝度補正色分け画像を生成し、表示部4に表示させる。この表示方法は、定性的には、色分け画像を透過画像として観測画像に重ね合わせて表示させることに相当する。
【0112】
定量的には、表示処理制御部27bは、あらかじめ定められた透過率αと、色分け画像上の各点(x,y)におけるRGBカラーの各色成分の輝度値R(x,y),G(x,y),B(x,y)と、観測画像上の対応する点の輝度値I(x,y)とを用い、次式(14)〜(16)によって、輝度補正色分け画像の各点(x,y)の色成分ごとの輝度値Rnew(x,y),Gnew(x,y),Bnew(x,y)を算出する。
new(x,y)=α・R(x,y)+(1−α)・I(x,y) ・・・(14)
new(x,y)=α・G(x,y)+(1−α)・I(x,y) ・・・(15)
new(x,y)=α・B(x,y)+(1−α)・I(x,y) ・・・(16)
【0113】
なお、透過率αは、輝度値Rnew(x,y),Gnew(x,y),Bnew(x,y)によって決まる描画色が、表示色空間CB内に位置するように定められる。また、透過率αは、観測者によって適宜変更されるようにしてもよい。
【0114】
また、表示処理制御部27bは、画像処理装置1の表示処理制御部7bと同様に、各フレームの輝度補正色分け画像を、表示部4上の同一位置に切り替えて表示する。これによって、観測者は、フレーム間で生じた個々の細胞の位置、大きさ、形状等の変化に加えて、輝度の変化を容易に把握することができる。
【0115】
このようにして、この実施の形態3にかかる画像処理装置21では、複数種類の細胞が記録された観測画像に対して、各細胞領域を自動で識別し、識別した各細胞領域を容易に判別可能に表示することができるとともに、複数の観測時点に撮像された観測画像間で生じた細胞の経時変化、とりわけ輝度変化の観測作業を容易にすることができる。
【0116】
なお、画像処理装置21は、画像処理装置1をもとに表示処理制御部27bを備えるようにしたが、画像処理装置11をもとに備えるようにしてもよく、この場合、フレーム間で生じた種類ごとの細胞の分布変化とともに輝度変化を容易に判別することができる。
【0117】
また、上述した実施の形態1〜3では、撮像部3によって撮像された一連の観測画像を処理するように示したが、外部の撮像装置によって撮像され、入力部5から入力される観測画像を観測画像記憶部6aに記録して処理するようにしてもよい。
【図面の簡単な説明】
【0118】
【図1】本発明の実施の形態1にかかる画像処理装置の構成を示すブロック図である。
【図2】図1に示した画像処理装置が処理する観測画像を示す図である。
【図3】図1に示した画像処理装置が行う処理手順を示すフローチャートである。
【図4】図2に示した観測画像に対応する細胞認識画像を示す図である。
【図5】図1に示した表示部によって表示可能な描画色を示す色空間を説明する図である。
【図6】図3に示した描画色決定処理の処理手順を示すフローチャートである。
【図7】描画色によって細胞領域を彩色した色分け画像を示す図である。
【図8】境界部分を細胞領域と異なる描画色で彩色した場合の色分け画像を示す図である。
【図9】細胞選択情報によって選択された細胞領域を選択的に表示する色分け画像を示す図である。
【図10】本発明の実施の形態2にかかる画像処理装置の構成を示すブロック図である。
【図11】図10に示した画像処理装置が処理する観測画像を示す図である。
【図12−1】図10に示した描画色割当部が割り当てる種類別色空間を示す図である。
【図12−2】図11に示した種類別色空間の横断面を示す図である。
【図12−3】図11に示した種類別色空間の縦断面を示す図である。
【図13】図10に示した描画色テーブルを示す図である。
【図14】細胞種類に応じて描画色により細胞領域を彩色した色分け画像を示す図である。
【図15】本発明の実施の形態3にかかる画像処理装置の構成を示すブロック図である。
【符号の説明】
【0119】
1,11,21 画像処理装置
2,12 画像処理部
2a 細胞認識部
2b 特徴量算出部
2c 細胞追跡部
2d,12d 描画色割当部
3 撮像部
4 表示部
5 入力部
5a 表示細胞選択部
6,16 記憶部
6a 観測画像記憶部
6b 処理画像記憶部
7,17,27 制御部
7a,17a 画像処理制御部
7b,27b 表示処理制御部
16c 描画色テーブル
BG,RY 種類別色空間
CB 表示色空間
OB 細胞培養部
OP 観察光学系

【特許請求の範囲】
【請求項1】
複数の細胞が記録された観測画像を処理して表示手段に表示させる画像処理装置において、
前記観測画像の中から前記細胞の画像領域である細胞領域を認識する細胞認識手段と、
前記細胞認識手段が認識した各細胞領域に前記表示手段によって表示可能な異なる描画色を自動的に対応付ける描画色対応付け手段と、
前記対応付け手段によって対応付けられた描画色によって前記各細胞領域を彩色した彩色画像を生成し、該生成した彩色画像を前記表示手段に表示させる制御を行う表示制御手段と、
を備えたことを特徴とする画像処理装置。
【請求項2】
前記描画色対応付け手段は、前記細胞領域に対応付けるそれぞれの描画色が所定の色空間内で広く分布するように前記各細胞領域に描画色を対応付けることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記描画色対応付け手段は、前記各細胞領域以外の背景領域に所定の背景描画色を対応付けるとともに、所定の色空間内で前記背景描画色から所定距離以上に離れた描画色を前記各細胞領域に対応付けることを特徴とする請求項1または2に記載の画像処理装置。
【請求項4】
前記描画色対応付け手段は、互いに近傍に位置する各細胞領域に、所定の色空間内で所定の識別距離以上に離れた描画色を対応付けることを特徴とする請求項1〜3のいずれか一つに記載の画像処理装置。
【請求項5】
前記描画色対応付け手段は、HSI色空間内で彩度が大きい周縁部に示される描画色を前記各細胞領域に対応付けることを特徴とする請求項1〜4のいずれか一つに記載の画像処理装置。
【請求項6】
前記細胞認識手段によって認識された各細胞領域の特徴を示す細胞特徴量を算出する特徴量算出手段を備え、
前記描画色対応付け手段は、前記細胞特徴量をもとに前記各細胞領域内の細胞の種類および状態を判別し、該判別した種類および状態の少なくとも一方に応じて前記各細胞領域に描画色を対応付けることを特徴とする請求項1〜5のいずれか一つに記載の画像処理装置。
【請求項7】
前記描画色対応付け手段は、前記細胞の種類および状態の少なくとも一方に応じて、前記各細胞領域に、所定の色空間内の一部である部分色空間を割り当てるとともに、該部分色空間内の描画色を対応付けることを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記細胞認識手段は、前記細胞領域が隣接した細胞領域群を認識し、
前記描画色対応付け手段は、前記細胞領域群内の各細胞領域の境界部分に該各細胞領域と異なる描画色を対応付けることを特徴とする請求項1〜7のいずれか一つに記載の画像処理装置。
【請求項9】
前記観測画像は、複数の観測時点に撮像された一連の画像であり、
前記細胞認識手段によって認識された各細胞領域の特徴を示す細胞特徴量を算出する特徴量算出手段と、
前記観測時点が異なる各観測画像の前記細胞特徴量をもとに、該各観測画像内の細胞に同一性があるか否かを判断し、同一性があると判断した各細胞に対応する細胞領域を関連付ける細胞追跡手段と、
を備え、
前記描画色対応付け手段は、前記細胞追跡手段によって関連付けられた各細胞領域に等しい描画色を対応付け、
前記表示制御手段は、前記観測時点ごとに前記彩色画像を生成し、該生成した各彩色画像を前記表示手段に表示させる制御を行うことを特徴とする請求項1〜8のいずれか一つに記載の画像処理装置。
【請求項10】
前記描画色対応付け手段は、前記観測時点が異なる各観測画像の一方の観測画像内の1細胞領域と他方の観測画像内の複数の細胞領域とが前記細胞追跡手段によって関連付けられた場合、該関連付けられたすべての細胞領域に等しい描画色を対応付けることを特徴とする請求項9に記載の画像処理装置。
【請求項11】
前記描画色対応付け手段は、前記観測時点の時系列順に各観測画像に前記描画色の対応付けを行い、処理対象の観測画像より時系列で前にある観測画像内の隔たった細胞領域に関連付けられ類似の描画色を対応付けた各類似色細胞領域が、該処理対象の観測画像内で互いに近傍に位置した場合、該各類似色細胞領域の少なくとも1つに、互いに類似しない非類似描画色であり、かつ、該処理対象の観測画像より時系列で前にあるすべての観測画像において関連付けられた各関連細胞領域の近傍に位置する近傍細胞領域に対応付けられた描画色と類似しない非類似描画色をあらためて対応付けることを特徴とする請求項9または10に記載の画像処理装置。
【請求項12】
前記表示制御手段は、各観測時点に対応する前記各彩色画像を同一位置で切り替えて表示するように前記表示手段を制御することを特徴とする請求項9〜11のいずれか一つに記載の画像処理装置。
【請求項13】
前記細胞領域を選択する選択情報を受け付ける選択情報入力手段を備え、
前記表示制御手段は、前記各彩色画像の中から、前記選択情報によって選択された細胞領域と、前記細胞追跡手段によって該細胞領域に関連付けられた細胞領域と、を抽出して前記表示手段に表示させる制御を行うことを特徴とする請求項9〜12のいずれか一つに記載の画像処理装置。
【請求項14】
前記表示制御手段は、前記観測画像内の各細胞領域の輝度に応じて該各細胞領域の前記彩色画像上の輝度を変更した輝度補正彩色画像を生成し、該生成した輝度補正彩色画像を前記表示手段に表示させる制御を行うことを特徴とする請求項1〜13のいずれか一つに記載の画像処理装置。
【請求項15】
複数の細胞が記録された観測画像を処理する画像処理装置に、前記観測画像を処理して表示手段に表示させるための画像処理プログラムであって、
前記画像処理装置に、
前記観測画像の中から前記細胞の画像領域である細胞領域を認識する細胞認識手順と、
前記細胞認識手順によって認識された各細胞領域に前記表示手段によって表示可能な異なる描画色を自動的に対応付ける描画色対応付け手順と、
前記対応付け手順によって対応付けられた描画色によって前記各細胞領域を彩色した彩色画像を生成し、該生成した彩色画像を前記表示手段に表示させる制御を行う表示制御手順と、
を実行させることを特徴とする画像処理プログラム。
【請求項16】
前記描画色対応付け手順は、前記細胞領域に対応付けるそれぞれの描画色が所定の色空間内で広く分布するように前記各細胞領域に描画色を対応付けることを特徴とする請求項15に記載の画像処理プログラム。
【請求項17】
前記描画色対応付け手順は、前記各細胞領域以外の背景領域に所定の背景描画色を対応付けるとともに、所定の色空間内で前記背景描画色から所定距離以上に離れた描画色を前記各細胞領域に対応付けることを特徴とする請求項15または16に記載の画像処理プログラム。
【請求項18】
前記描画色対応付け手順は、互いに近傍に位置する各細胞領域に、所定の色空間内で所定の識別距離以上に離れた描画色を対応付けることを特徴とする請求項15〜17のいずれか一つに記載の画像処理プログラム。
【請求項19】
前記描画色対応付け手順は、HSI色空間内で彩度が大きい周縁部に示される描画色を前記各細胞領域に対応付けることを特徴とする請求項15〜18のいずれか一つに記載の画像処理プログラム。
【請求項20】
前記細胞認識手順によって認識された各細胞領域の特徴を示す細胞特徴量を算出する特徴量算出手順をさらに実行させ、
前記描画色対応付け手順は、前記細胞特徴量をもとに前記各細胞領域内の細胞の種類および状態を判別し、該判別した種類および状態の少なくとも一方に応じて前記各細胞領域に描画色を対応付けることを特徴とする請求項15〜19のいずれか一つに記載の画像処理プログラム。
【請求項21】
前記描画色対応付け手順は、前記細胞の種類および状態の少なくとも一方に応じて、前記各細胞領域に、所定の色空間内の一部である部分色空間を割り当てるとともに、該部分色空間内の描画色を対応付けることを特徴とする請求項20に記載の画像処理プログラム。
【請求項22】
前記細胞認識手順は、前記細胞領域が隣接した細胞領域群を認識し、
前記描画色対応付け手順は、前記細胞領域群内の各細胞領域の境界部分に該各細胞領域と異なる描画色を対応付けることを特徴とする請求項15〜21のいずれか一つに記載の画像処理プログラム。
【請求項23】
前記観測画像は、複数の観測時点に撮像された一連の画像であり、
前記細胞認識手順によって認識された各細胞領域の特徴を示す細胞特徴量を算出する特徴量算出手順と、
前記観測時点が異なる各観測画像の前記細胞特徴量をもとに、該各観測画像内の細胞に同一性があるか否かを判断し、同一性があると判断した各細胞に対応する細胞領域を関連付ける細胞追跡手順と、
をさらに実行させ、
前記描画色対応付け手順は、前記細胞追跡手段によって関連付けられた各細胞領域に等しい描画色を対応付け、
前記表示制御手順は、前記観測時点ごとに前記彩色画像を生成し、該生成した各彩色画像を前記表示手段に表示させる制御を行うことを特徴とする請求項15〜22のいずれか一つに記載の画像処理プログラム。
【請求項24】
前記描画色対応付け手順は、前記観測時点が異なる各観測画像の一方の観測画像内の1細胞領域と他方の観測画像内の複数の細胞領域とが前記細胞追跡手順によって関連付けられた場合、該関連付けられたすべての細胞領域に等しい描画色を対応付けることを特徴とする請求項23に記載の画像処理プログラム。
【請求項25】
前記描画色対応付け手順は、前記観測時点の時系列順に各観測画像に前記描画色の対応付けを行い、処理対象の観測画像より時系列で前にある観測画像内の隔たった細胞領域に関連付けられ類似の描画色を対応付けた各類似色細胞領域が、該処理対象の観測画像内で互いに近傍に位置した場合、該各類似色細胞領域の少なくとも1つに、互いに類似しない非類似描画色であり、かつ、該処理対象の観測画像より時系列で前にあるすべての観測画像において関連付けられた各関連細胞領域の近傍に位置する近傍細胞領域に対応付けられた描画色と類似しない非類似描画色をあらためて対応付けることを特徴とする請求項23または24に記載の画像処理プログラム。
【請求項26】
前記表示制御手順は、各観測時点に対応する前記各彩色画像を同一位置で切り替えて表示するように前記表示手段を制御することを特徴とする請求項23〜25のいずれか一つに記載の画像処理プログラム。
【請求項27】
前記細胞領域を選択する選択情報を受け付ける選択情報入力手順をさらに実行させ、
前記表示制御手順は、前記各彩色画像の中から、前記選択情報によって選択された細胞領域と、前記細胞追跡手順によって該細胞領域に関連付けられた細胞領域と、を抽出して前記表示手段に表示させる制御を行うことを特徴とする請求項23〜26のいずれか一つに記載の画像処理プログラム。
【請求項28】
前記表示制御手順は、前記観測画像内の各細胞領域の輝度に応じて該各細胞領域の前記彩色画像上の輝度を変更した輝度補正彩色画像を生成し、該生成した輝度補正彩色画像を前記表示手段に表示させる制御を行うことを特徴とする請求項15〜27のいずれか一つに記載の画像処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12−1】
image rotate

【図12−2】
image rotate

【図12−3】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate


【公開番号】特開2006−350740(P2006−350740A)
【公開日】平成18年12月28日(2006.12.28)
【国際特許分類】
【出願番号】特願2005−176979(P2005−176979)
【出願日】平成17年6月16日(2005.6.16)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】