説明

情報処理システム及び情報処理方法

【課題】ユーザにとっての利便性により優れた情報処理装置及び情報処理方法を提供すること。
【解決手段】本技術に係る第1の側面である情報処理システムは、1つの検体を同一方向に切断することによって得られた複数の切片が離散的に載置されたスライドを撮影して得た画像データを取得する取得部と、前記取得された画像データにおける個々の前記切片を含む同一形状の複数の検体領域を検出して、個々の前記検体領域それぞれの前記画像データの座標空間における位置を相対的に示す位置情報を算出する検出部と、前記算出された位置情報を記憶する第1の記憶部と、前記記憶された位置情報をもとに前記検体領域間での表示の切り替えを行う制御部とを具備する。

【発明の詳細な説明】
【技術分野】
【0001】
本技術は、医療、病理、生物、材料等の分野において顕微鏡により得られた画像データの表示を制御する情報処理システム及び情報処理方法に関する。
【背景技術】
【0002】
医療又は病理等の分野において、光学顕微鏡により得られた、生体の細胞、組織、臓器等の切片の画像をデジタル化し、そのデジタル画像に基づき、医師や病理学者等がその切片を検査したり、患者を診断したりするシステムが提案されている。
【0003】
例えば、特許文献1に記載の方法では、顕微鏡により光学的に得られた画像が、CCD(Charge Coupled Device)を搭載したビデオカメラによりデジタル化され、そのデジタル信号が制御コンピュータシステムに入力され、モニタに可視化される。病理学者はモニタに表示された画像を見て検査等を行う(例えば、特許文献1の段落[0027]、[0028]、図5参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−37250号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
光学顕微鏡を用いて切片の撮像をする際には切片をガラススライドに載置してプレパラートを作成するが、多数の切片を撮像する場合等には、プレパラート作成の効率化やガラススライド節約等の理由で、1枚のガラススライドに複数の切片を載置することがある。このように複数の切片が載置されたガラススライド全体を撮像すると、ガラススライド全体としての一体的な画像が得られるだけであり、個々の切片それぞれの画像を得られるわけではない。このため、個々の切片の画像を区別して扱うことが難しく、ユーザにとっての利便性を損なうおそれがある。
【0006】
一方、ガラススライドに載置された複数の切片それぞれを個別に撮像すれば、個々の切片それぞれの画像を得ることができるので、個々の切片の画像を区別して扱うことができる。しかしながら、例えば、1つの標本を複数回スライスして得られた複数の切片を1枚のガラススライドに載置した場合等には、個別に撮像された個々の切片それぞれの画像を、互いに関連づけて扱うことが難しく、ユーザにとっての利便性を損なうおそれがある。
【0007】
以上のような事情に鑑み、本技術の目的は、ユーザにとっての利便性により優れた情報処理装置及び情報処理方法を提供することにある。
【課題を解決するための手段】
【0008】
上記の課題を解決するために、本技術に係る第1の側面である情報処理システムは、1つの検体を同一方向に切断することによって得られた複数の切片が離散的に載置されたスライドを撮影して得た画像データを取得する取得部と、前記取得された画像データにおける個々の前記切片を含む同一形状の複数の検体領域を検出して、個々の前記検体領域それぞれの前記画像データの座標空間における位置を相対的に示す位置情報を算出する検出部と、前記算出された位置情報を記憶する第1の記憶部と、前記記憶された位置情報をもとに前記検体領域間での表示の切り替えを行う制御部とを具備する。
【0009】
すなわち、制御部は、メタデータである位置情報をもとに検体領域間での表示の切り替えを行う。これにより制御部は、取得部により取得される画像データは複数の切片が載置されたスライドそのものを撮影して得た画像データであるにも拘らず、検体領域以外の領域を飛ばして、検体領域間での表示の切り替えを行うことができる。また、第1の記憶部は検体領域をメタデータである位置情報として記録することで、検体領域間での表示の切り替えを効率よく高速に行うことができる。さらに、このメタデータである位置情報を用いれば、複数の検体領域が複数のスライドの画像データに亘る場合でも、1つの画像データから検出された複数の検体領域を順に表示する場合と同様に、表示処理を効率よく行うことができる。
【0010】
前記情報処理システムは、前記画像データの解像度を下げた縮小データを生成する生成部をさらに具備し、前記検出部は、前記縮小データから前記複数の検体領域を検出することで、前記画像データ内の前記複数の検体領域を検出してもよい。
【0011】
すなわち、生成部により、解像度を下げた縮小データから検体領域を検出することで、検体領域を効率よく高速に検出することができる。
【0012】
前記複数の検体領域の複数の画像データが切断順に管理され、前記制御部は、前記取得された画像データ中で表示させる前記検体領域とその中の範囲の指定をユーザから受け付けたとき、前記指定された検体領域の中の前記範囲を表示領域として算出し、前記表示領域が当該検体領域の末端にあるときに、前記表示領域を前記末端よりも外に移動させる指示をユーザより受け付けたとき、前記記憶された位置情報をもとに切断順で隣の前記検体領域の表示に切り替えてもよい。
【0013】
すなわち、検体領域の一部の表示領域を表示させるときでも、検体領域以外の領域を飛ばして、検体領域間での表示の切り替えを行うことができる。
【0014】
前記制御部は、前記算出した表示領域が当該検体領域の、前記画像データの座標空間における前記複数の検体領域の一方の軸方向の末端にあるとき、前記表示領域を前記末端よりも外に前記一方の軸方向に移動させる指示をユーザより受け付けたとき、他方の軸方向での位置を固定しつつ前記切断順で隣の検体領域の表示に切り替えてもよい。
【0015】
これにより、移動先の表示領域の検体領域内での位置が、移動元の移動先の表示領域の検体領域内での位置と対応するため、ユーザにとっての利便性が期待できる。
【0016】
前記取得部は、1つの検体を同一方向に切断することによって得られた複数の切片が一列に且つ離散的に並べて載置されたスライドを撮影して得た画像データを取得し、前記制御部は、前記算出した表示領域が当該検体領域の、前記画像データの座標空間における前記複数の検体領域の並びの方向の末端にあるとき、前記表示領域を前記末端よりも先に前記並びの方向へ移動させる指示をユーザより受け付けたとき、前記記憶された位置情報をもとに当該移動先の前記検体領域の表示領域を算出してもよい。
【0017】
これにより、一列の並びの複数の検体領域を表示させるときでも、検体領域以外の領域を飛ばして、検体領域間での表示の切り替えを行うことができる。
【0018】
前記情報処理システムは、前記複数の検体領域それぞれの特徴点を検出し、それぞれの前記特徴点の座標の前記検体領域の座標空間におけるオフセット量を算出するアライメント部と、前記算出されたオフセット量を記憶する第2の記憶部とをさらに具備し、前記制御部は、前記表示領域を他の検体領域へジャンプさせる指示をユーザより受け付けたとき、前記記憶された位置情報と前記記憶されたオフセット量をもとに、ジャンプ前後の前記表示領域内での前記特徴点の位置が一致するように、ジャンプ先の前記表示領域を算出してもよい。
【0019】
すなわち、メタデータとしての複数の検体領域に含まれる特徴点間のオフセット量をもとにアライメント部が表示領域を設定するため、制御部は、ジャンプ前後の表示領域内での特徴点の位置を一致させることができる。また、表示領域の設定にメタデータを用いることで、対応する表示領域を正確に算出するとともに、表示処理を効率よく高速に行うことができる。
【0020】
前記アライメント部は、検出された前記複数の検体領域内の特徴点を表示空間において一致させるためのアフィン変換行列を算出し、算出された前記アフィン変換行列をもとに前記オフセット量を算出してもよい。
【0021】
アフィン変換行列を用いることで、2軸方向のオフセット量を算出することができる。これにより、ジャンプ前後で対応する表示領域をより正確に算出することができる。
【0022】
前記制御部は、前記取得された画像データ中で表示させる複数の検体領域の指定をユーザから受け付けたとき、表示空間を前記指定された複数の検体領域の数と等しい数の表示空間に分割し、前記記憶された位置情報と前記記憶されたオフセット量をもとに、前記複数の表示空間に表示される前記検体領域内での前記特徴点の位置が一致するように、前記複数の表示空間に表示される前記表示領域を算出してもよい。
【0023】
すなわち、制御部は、メタデータとしての複数の検体領域に含まれる特徴点間のオフセット量をもとに複数の表示空間に表示される検体領域内での特徴点の位置を一致させることができる。また、表示領域の設定にメタデータを用いることで、対応する表示領域を正確に算出するとともに、表示処理を効率よく高速に行うことができる。
【0024】
本技術に係る第2の側面である情報処理方法は、取得部が、1つの検体を同一方向に切断することによって得られた複数の切片が離散的に載置されたスライドを撮影して得た画像データを取得し、検出部が、前記取得された画像データにおける個々の前記切片を含む同一形状の複数の検体領域を検出して、個々の前記検体領域それぞれの前記画像データの座標空間における位置を相対的に示す位置情報を算出し、第1の記憶部が前記算出された位置情報を記憶し、制御部が、前記記憶された位置情報をもとに前記検体領域間での表示の切り替えを行う。
【発明の効果】
【0025】
以上のように、本技術によれば、ユーザにとっての利便性により優れた情報処理装置及び情報処理方法を提供することができる。
【図面の簡単な説明】
【0026】
【図1】本技術に係る実施形態に係る情報処理システムの構成を示す図である。
【図2】典型的なコンピュータシステムを用いて実現される画像サーバの機能的な構成を示す図である。
【図3】スライド画像を説明するための図である。
【図4】特徴マッチングを説明するための図である。
【図5】特徴マッチングを説明するための図である。
【図6】特徴マッチングを説明するための図である。
【図7】特徴マッチングを説明するための図である。
【図8】特徴マッチングを説明するための図である。
【図9】典型的なコンピュータシステムを用いて実現されるビューワの機能的な構成を示す図である。
【図10】検体領域の番号の設定を説明するための図である。
【図11】検体領域の番号の設定を説明するための図である。
【図12】検体領域の番号の設定を説明するための図である。
【図13】離散表示を説明するための図である。
【図14】ビューワによる離散表示処理を示すフローチャートである。
【図15】検体領域選択画面を示す図である。
【図16】ジャンプ表示を説明するための図である。
【図17】ビューワによるジャンプ表示処理を示すフローチャートである。
【図18】同期表示を説明するための図である。
【図19】典型的なコンピュータのハードウェア構成を示す図である。
【図20】変形例に係る情報処理装置の構成を示す図である。
【発明を実施するための形態】
【0027】
以下、本技術に係る実施形態を、図面を参照しながら説明する。
【0028】
[情報処理システム]
図1は、本技術に係る実施形態に係る情報処理システムの構成を示す図である。
この情報処理システム1は、画像サーバ100と、1以上のビューワ200A、200Bとを有する。これらは互いにネットワーク300を通じて接続可能である。ネットワーク300は、インターネットなどのWAN(Wide Area Network)でも、LAN(Local Area Network)でもよい。また、ネットワーク300は有線、無線を問わない。ここでは説明の簡単のため、2つのビューワ200A、30Bが接続されている場合を示したが、ビューワの数は3以上であってもよい。この明細書においてビューワを個別に指定しない場合には「ビューワ200」と表記することとする。画像サーバ100と、1以上のビューワ200は、例えば、典型的なコンピュータで構成されたものでよい。
【0029】
[画像サーバ100]
画像サーバ100の機能的な構成を説明する。
図2は、典型的なコンピュータシステムを用いて実現される画像サーバ100の機能的な構成を示す図である。
【0030】
画像サーバ100は、画像取得部109(取得部)と、スライド画像蓄積部101と、サムネイル画像生成部110(生成部)と、サムネイル画像記憶部102と、検体領域検出部103(検出部)と、オフセット座標記憶部104(第1の記憶部)と、特徴マッチング部105と、三角形・行列記憶部106と、サーバ制御部107と、サーバ通信部108とを有する。各機能部は、RAM(Random Access Memory)にロードされたプログラムに基き、コンピュータ資源において実現される。
【0031】
画像取得部109は、例えば、ネットワークを通じて画像を取得し又はリムーバブルの記録媒体に記録されたスライド画像のデータを取得し、このスライド画像のデータと、スライドIDとを対応付けてスライド画像蓄積部101に蓄積する。この「スライド画像」とは、図3に示すように、1つの検体600を同一方向に切断することによって得られた複数の切片601〜607が一列に且つ離散的に並べて載置されたガラススライド610を撮影して得た画像である。1つの検体600から得られた切片の数が多い場合等、複数の切片が載置されたガラススライドが複数個作成されることもある。この「スライドID」とは、複数のスライド画像のデータを個々に識別するためのIDである。なお、「一列に…並べて」とは、厳密に直線的に並べた状態に限られず、ガラススライドの一端側から他端側へ向かう方向に配置された状態を意味する。
【0032】
サムネイル画像生成部110は、スライド画像蓄積部101に蓄積されたスライド画像のサムネイル画像を生成し、このサムネイル画像のデータと、上記スライドIDとを対応付けてサムネイル画像記憶部102に記録する。この「サムネイル画像」は、スライド画像のデータの解像度を下げた縮小データである。スライド画像蓄積部101及びサムネイル画像記憶部102は、書き換え可能な不揮発性メモリに設定される。
【0033】
検体領域検出部103は、サムネイル画像記憶部102からサムネイル画像のデータを読み出し、読み出したサムネイル画像のデータから、ガラススライドに載置されたそれぞれの複数の切片を個々に含む複数の領域(検体領域と呼ぶ。)を検出する。この検体領域の検出は、例えば、以下のように行われる。すなわち検体領域検出部103は、画像中、明るさが鋭敏に変化する箇所をガラススライド上の物体の境界と認識し(エッジ抽出)、閾値以上のサイズの閉曲線を切片のエッジ(輪郭)と認識する。続いて、検体領域検出部103は、この認識した切片を個々に含む検体領域をサムネイル画像のデータから抽出する。例えば検体領域検出部103は、切片が検体領域の略中央に位置し且つ切片が検体領域の範囲内に収まるように検体領域の範囲を選定する。それぞれの検体領域は任意の同一形状及び同一サイズを有し、本実施形態ではそれぞれの検体領域は矩形である。
【0034】
検体領域検出部103は、また、それぞれの検体領域のオフセット座標(位置情報)を算出する。この「オフセット座標」とは、複数の切片の画像を含むスライド画像の座標空間において、個々の検体領域のそれぞれの位置を表す情報である。具体的には、「オフセット座標」とは、例えば矩形のガラススライドの1つの頂点(例えば左下端)を原点とし、それぞれの検体領域内の任意の点(例えば矩形の検体領域の1つの頂点。例えば左下端)の位置をこの原点からの2軸方向の差(距離)で表した値である。検体領域検出部103は、算出したそれぞれのオフセット座標、このオフセット座標によって示される検体領域の検体領域番号及びこの検体領域が含まれるスライド画像のスライド番号の各メタデータをそれぞれ対応付けて、オフセット座標記憶部104に記録する。この「番号」とは、切片の切断の順序、つまり、切断面と略直交する方向での切片の並び順を反映し、例えば1以上の整数で表され、検体領域検出部103により設定される。オフセット座標記憶部104は、書き換え可能な不揮発性メモリに設定される。
【0035】
ここで、スライド番号及び検体領域番号の設定の方法について説明する。まず、検体領域検出部103は、上記のようにサムネイル画像のデータから検出した複数の検体領域の画像間の特徴マッチングを行う。この特徴マッチングは、後で説明する特徴マッチング部150による特徴マッチングと同様の手法で行えばよい。検体領域検出部103は、特徴マッチングの結果をもとに、1つのスライド画像に含まれる複数の検体領域内の切片A〜F同士の類似度を判定する。そして、検体領域検出部103は、図10に示すように、類似度の高い切片B、Cを含む検体領域同士が近くに位置し、類似度の高い切片D、Eを含む検体領域同士が近くに位置するようにグルーピングをする。そして、検体領域検出部103は、図11に示すように、面積の大きい切片Aが検体600の一方(例えば根元)で、そこから面積の小さい切片F(例えば先端)に向かって連続していると判断し、図12に示すように、特徴点の位置間隔が狭まって行くように連続する検体領域番号を設定する。
【0036】
全てのスライド画像に含まれる複数の検体領域の検体領域番号を設定すると、検体領域検出部103は、あるスライド画像の両端の検体領域と、別のスライド画像の両端の検体領域との類似度を判定する。検体領域検出部103は、類似度が高い検体領域を含むスライド画像同士を連続するスライド画像と判断し、連続するスライド番号を設定する。検体領域検出部103は、設定したスライド番号で、スライド画像蓄積部101及びサムネイル画像記憶部102に記録されたスライドIDを書き換える。
【0037】
なお、この検体領域番号及びスライド番号は、ユーザによりビューワ200を用いて修正可能としてもよい。あるいは、ユーザが切片をガラススライドの左から右に順序良く並べたような場合や、疾病があると疑われる検体領域を先頭に位置させたいような場合等には、ユーザによりビューワ200を用いて検体領域番号及びスライド番号を設定してもよい。あるいは、LIS(Laboratory Information System)に入力された情報をビューワ200が取り込んで検体領域番号及びスライド番号を設定してもよい。
【0038】
特徴マッチング部105は、スライド画像蓄積部101に蓄積されたスライド画像のそれぞれの検体領域の画像間の特徴マッチング(詳細は後述。)を行う。具体的には、特徴マッチング部105は、スライド画像蓄積部101からスライド画像のデータを読み出す。そして、特徴マッチング部105は、読み出したスライド画像のデータに対応付けられたスライド番号に対応付けられた複数の検体領域番号及びオフセット座標をオフセット座標記憶部104から読み出す。特徴マッチング部105は、読み出したオフセット座標と、各検体領域に共通に与えられたサイズとをもとに、スライド画像から複数の検体領域を検出する。特徴マッチング部105は、この検出した複数の検体領域の画像間の特徴マッチングを行い、三角形及びアフィン変換行列を算出する。特徴マッチング部105は、算出した三角形及びアフィン変換行列のデータ、それぞれの検体領域を特定する検体領域番号及びスライド番号の各メタデータをそれぞれ対応付けて、三角形・行列記憶部106に記録する。三角形・行列記憶部106は、書き換え可能な不揮発性メモリに設定される。
【0039】
サーバ制御部107は、ビューワ200からの要求に対して、スライド画像蓄積部101から該当する画像データを読み出し、サーバ通信部108を用いて画像データをビューワ200に供給する。
【0040】
[特徴マッチング]
ここで、特徴マッチング部105による検体領域の画像間の特徴マッチングの具体的な方法について説明する。
まず、特徴マッチング部105は、例えばハリス(Harris)アルゴリズム等の抽出アルゴリズムを用いて、図4に示すように、基準となる任意の検出領域(検出領域Aと呼ぶ。)の画像から、輝度値の変化が閾値を超えた点(特徴点と呼ぶ。図中黒点)を抽出する。このハリスアルゴリズムは、画像の回転に対してロバストであり、グラーデーション上には特徴点を取らないという利点を有する。
【0041】
続いて、特徴マッチング部105は、検出領域Aの画像におけるそれぞれの特徴点が別の検出領域(検出領域Bと呼ぶ。)の画像内のどこに対応するかを、画像の正規化相関を用いて決定する。具体的には、図5に示すように、特徴マッチング部105は、検出領域Bの画像において、基準となる検出領域Aの画像における特徴点AP(図4参照)を基準としてサーチエリアSAを設定する。特徴マッチング部105は、検出領域BのサーチエリアSA内をサーチして、検出領域Bのテクスチャパターンと検出領域Aのテクスチャパターンとの正規化相関を計算し、得られた値が最も高い点(最高点と呼ぶ。)を特徴点(図中黒点)APに対する対応点(図中白点)BPと判断する。同図に示す例では、特徴マッチング部105は、正規化相関を計算して得られた値0.04、0.87、0.98のうち、最も高い値0.98となる点を対応点BPと判断する。なお、この最高点が所定の閾値(例えば、0.90)未満の場合、特徴マッチング部105は、この特徴点APをマッチングに採用することができないと判断する。また、採用されると判断された特徴点の数が所定の閾値に達しない場合、特徴マッチング部105は、これら検出領域A、B間の類似度が低いため、検出領域A、B間のマッチングは不可と判断する。
【0042】
全ての特徴点について上記のように正規化相関を計算すると、図6に示すように、特徴マッチング部105は、例えばドロネー(Delaunay)アルゴリズム等の分割アルゴリズムを用いて、検出領域Aの画像を、採用された特徴点(図中黒点)を頂点とする複数の三角形に分割する。特徴マッチング部105は、図7に示すように、検出領域Aの分割トポロジーを保持しながら、検出領域Bの画像も、採用された特徴点(図中黒点)に対応する対応点(図中白点)を頂点とする複数の三角形に分割する。
【0043】
続いて、特徴マッチング部105は、検出領域Aの画像の表示中心座標ACを含む三角形ATを内外判定により特定する。特徴マッチング部105は、検出領域Aの三角形ATに対応する検出領域Bの三角形BTを、この三角形ATに変換するためのアフィン変換行列を算出する。算出したアフィン変換行列は、ある検出領域の任意の点の座標(例えば、中心座標)をもとに別の検出領域の対応する点の座標(この場合、中心座標)を算出するのに用いることができる。より具体的には、アフィン変換行列は、図8に示すように、例えば、検体領域A(図6参照)の画像の表示中心座標AC(図8参照)の、検体領域Bの画像上での位置BCを割り出し、その位置BCへ検体領域Bの画面の表示中心を移動させる処理に用いることができる。
【0044】
[ビューワ200]
ビューワ200の機能的な構成を説明する。
図9は、典型的なコンピュータシステムを用いて実現されるビューワ200の機能的な構成を示す図である。
【0045】
ビューワ200は、ビューワ制御部207(制御部)と、ビューワ通信部204と、アライメントデータ作成部208(アライメント部)と、アライメントデータ記憶部209(第2の記憶部)と、第1の座標算出部203(制御部)と、第2の座標算出部206(制御部)と、第3の座標算出部210(制御部)と、表示処理部205と、表示部201と、入力部202とを有する。各機能部は、RAMにロードされたプログラムに基き、コンピュータ資源において実現される。
【0046】
ビューワ制御部207は、ビューワ通信部204を用いて画像サーバ100に要求を送信し、受信したデータをビューワ200の各機能部に供給して各機能部を制御する等の処理を行う。
【0047】
アライメントデータ作成部208は、特徴マッチングにより得られた三角形及びアフィン変換行列のデータをもとに、スライド画像の座標空間での複数の検体領域間の2軸方向のオフセット量を算出する。より具体的には、アライメントデータ作成部208は、ある検体領域の例えば中心座標に位置する点を基準点として含む三角形と、別の検体領域内におけるこの基準点に対応する点を含む三角形との、検体領域の座標空間における座標の2軸方向のオフセット量をアライメントデータとして算出する。アライメントデータ作成部208は、算出したアライメントデータをアライメントデータ記憶部209に記録する。アライメントデータ記憶部209は、書き換え可能な不揮発性メモリに設定される。
【0048】
第1の座標算出部203は、検体領域以外の領域を飛ばして、検体領域だけを順に表示するための動作(離散表示)を行うための表示領域の位置情報を計算する等の処理を行う。
【0049】
第2の座標算出部206は、検体領域の対応領域を順に表示させるための動作(ジャンプ表示)を行うための表示領域の位置情報を計算する等の処理を行う。この「対応領域」とは、複数の切片内の、切断面と略直交する方向にて一致する領域を示す。
【0050】
第3の座標算出部210は、表示画面を分割して、複数の検体領域をそれぞれ同期させて表示させるための動作(同期表示)を行うための表示領域の位置情報を計算する等の処理を行う。
【0051】
表示処理部205は、画像データを表示するための表示データを表示部201に出力する。
【0052】
[ビューワ200の動作]
次に、ビューワ200の動作を説明する。動作の説明は次の順で行うものとする。
1.検体領域以外の領域を飛ばして、検体領域だけを順に表示するための動作(離散表示)
2.検体領域の対応領域を順に表示させるための動作(ジャンプ表示)
3.表示画面を分割して、複数の検体領域をそれぞれ同期させて表示させるための動作(同期表示)
【0053】
[1.離散表示]
離散表示では、スライド画像内の検体領域以外の領域(切片が載置されていない領域)を飛ばして、検体領域だけを順に表示するための処理が行われる。
【0054】
図13は離散表示の具体例を示す図である。同図は、第1のガラススライド610と、第2のガラススライド620とを示す。1つの検体から得られた切片が1枚のガラススライドに載置しきれない場合には、これらの切片は複数のガラススライドに跨って載置される。同図は、第1〜第14の切片601〜614の順に切断された複数の切片のうち、第1〜第7の切片601〜607が第1のガラススライド610にこの順に載置され、第8〜第14の切片608〜614が第2のガラススライド620にこの順に載置された例を示す。また、それぞれの第1〜第14の切片601〜614を含む第1〜第14の検体領域621〜634がそれぞれ検出されたとする。まず、第1の検体領域621の左下隅の矩形領域が表示領域641として表示部201に表示される。ユーザは例えばマウス等の入力部202を用いて、この表示領域641の画像を上下左右に移動するための命令を入力する。表示領域641を右方向への移動指示が入力されると、第1の検体領域621の右下隅の表示領域641aに至るまで、表示領域が第1の検体領域621内を水平に移動する(矢印A)。さらに右方向への移動指示が入力されると、第1及び第2の検体領域621、622の間の切片が載置されていない領域を飛ばして、第2の検体領域622の左下隅の表示領域641bに表示領域が移動する(矢印B)。この検体領域間の移動が繰り返され、第7の検体領域621の右下隅の表示領域641cに表示領域が移動し、さらに右方向への移動指示が入力されたとする。この場合、第1のガラススライド610上の第7の検体領域627の右隣には検体領域が存在しないため、第2のガラススライド620の第8の検体領域628の左下隅の表示領域641dに表示領域が移動する(矢印C)。
【0055】
次に、この離散表示の処理についてより詳細に説明する。
図14は、ビューワ200による離散表示処理を示すフローチャートである。
【0056】
ユーザは、例えば入力部202を用いて、表示モードとして離散表示を選択する。ビューワ制御部207は、選択指示を受け付けると、ビューワ通信部204を用いて、画像サーバ100のサムネイル画像記憶部102にスライド番号に対応づけて記録された、スライド画像のサムネイル画像を読み出す。ビューワ制御部207は、表示処理部205に、読み出したスライド番号及びスライド画像のサムネイル画像をもとに検体領域選択画面を生成させて表示部201に表示させる。
【0057】
図15は、検体領域選択画面を示す図である。
同図に示すように、検体領域選択画面220は、スライドトレイ221と、検体領域トレイ222と、観察表示エリア223と、表示領域表示エリア224とを含む。スライドトレイ221には、ビューワ制御部207が画像サーバ100から読み出したスライド画像のサムネイル画像230、231、232が一覧として表示される。スライド画像のサムネイル画像230、231、232は、上から下へとスライド番号の順に並べられる。ユーザは、マウス等の入力部202を用いて、スライドトレイ221に表示された複数のサムネイル画像230、231、232から1つのサムネイル画像231を選択する。ビューワ制御部207は、表示処理部205に、選択されたサムネイル画像231を枠線(231A)などにより識別可能な形態で表示させるとともに、選択されたサムネイル画像231に対応するサムネイル画像231Cを表示領域表示エリア224に表示させる。
【0058】
ビューワ制御部207は、選択されたサムネイル画像に対応付けられたスライド番号に対応付けられて画像サーバ100のオフセット座標記憶部104に記録されたメタデータとしての検体領域番号及びオフセット座標を、ビューワ通信部204を用いて読み出す。また、ビューワ制御部207は、このスライド番号に対応付けられて画像サーバ100の三角形・行列記憶部106に記録されたメタデータとしての検体領域番号、三角形及びアフィン行列を、ビューワ通信部204を用いて読み出す。ビューワ制御部207は、表示処理部205に、読み出したメタデータとしてのオフセット座標及びスライド番号をもとに、選択されたサムネイル画像231内の複数の検体領域のサムネイル画像231a〜231gを検体領域トレイ222に一覧として表示させる。検体領域のサムネイル画像231a〜231gは、左から右へと、検体領域番号の順に並べられる。
【0059】
ユーザは、マウス等の入力部202を用いて、検体領域トレイ222に表示された複数のサムネイル画像231a〜231gから1つのサムネイル画像231dを選択する。選択されたサムネイル画像231dは、枠線(231B)などにより識別可能なように表示される。また、この選択されたサムネイル画像231dの検体領域の画像が観察表示エリア223に表示される。この観察表示エリア223には、このように検体領域全体の画像が表示されるほか、検体領域の一部(表示領域)が任意の解像度で表示されたりする。また、表示領域表示エリア224に表示されたサムネイル画像231Cにおいて、現在観察表示エリア223に表示されている検体領域の位置が枠線(224a)などにより識別可能なように表示される。なお、この表示対象のスライド及び検体領域の選択の動作は、離散表示、ジャンプ表示及び同期表示において共通である。
【0060】
ビューワ制御部207は、ユーザによる入力部202への入力を検出し、最初に表示するスライド及び検体領域のスライド番号及び検体領域番号を判断する。そしてビューワ制御部207は、メタデータとしてのこのスライド番号及び検体領域番号に対応付けられたオフセット座標を、離散表示のための処理を行う第1の座標算出部203に供給する。第1の座標算出部203は、メタデータとしての検体領域のオフセット座標と、各表示領域に共通に与えられたサイズ及び初期位置(例えば検体領域の左下隅)とに基づき、最初に表示する表示領域の位置情報を算出する。これら各表示領域に共通に与えられたサイズ及び初期位置は、書き換え可能な不揮発性メモリに記録されている。第1の座標算出部203は、算出した位置情報をビューワ制御部207に供給し、ビューワ制御部207は、この表示領域に相当する画像を取得するための要求をビューワ通信部204を用いて画像サーバ100に送信する。
【0061】
画像サーバ100のサーバ制御部107は、サーバ通信部108を用いてこの要求を受信し、要求に含まれる表示領域の画像データをスライド画像蓄積部101から読み出す。サーバ制御部107は、読み出した画像データを、サーバ通信部108を用いてビューワ200に送信する。
【0062】
ビューワ200のビューワ制御部207は、ビューワ通信部204を用いて表示領域の画像データを受信し、受信した表示領域の画像データを表示処理部205に供給する。表示処理部205は、この画像データを表示するための表示データを表示部201に出力し、検体領域選択画面220の観察表示エリア223に表示させる(ステップS101)。
【0063】
ユーザは例えばマウス等の入力部202を用いて、観察表示エリア223に表示された表示領域の画像を上下左右に移動するための命令を入力する。ビューワ制御部207は、ユーザによる入力部202への移動命令の入力を検出し、検出した移動命令を第1の座標算出部203に供給する。第1の座標算出部203は、この移動命令を基に、移動先の表示領域の位置情報を算出する。第1の座標算出部203は、算出した位置情報をビューワ制御部207に供給し、ビューワ制御部207は、この表示領域に相当する画像を取得するための要求をビューワ通信部204を用いて画像サーバ100に送信する。
【0064】
その後はステップS101と同様に、画像サーバ100のサーバ制御部107が、ビューワ200からの要求に応じてスライド画像蓄積部101から該当する画像データを読み出し、サーバ通信部108を用いてビューワ200に送信する。これにより、ビューワ200は、移動先の表示領域の画像データを取得し、表示部201の表示内容を更新する(ステップS102)。
【0065】
第1の座標算出部203は、算出した位置情報をもとに、移動先の表示領域が検体領域の境界に到達したと判断すると(ステップS103でYes)、その境界が検体領域のいずれの末端(右端、下端、左端、上端)かを判断する(ステップS104、S105、S106)。第1の座標算出部203は、表示領域が検体領域の右端にあるとき、ユーザからの右方向への移動指示を検出すると(ステップS104でYes)、表示対象の検体領域の検体領域番号をインクリメントする。これにより得られた検体領域番号が、次に表示する検体領域の検体領域番号となる。第1の座標算出部203は、インクリメントにより得られた検体領域番号に対応する検体領域内の表示領域を次のように設定する。すなわち第1の座標算出部203は、検体領域の上端と表示領域の上端とのYオフセットを保ち、検体領域の左端と表示領域の左端とが一致するように、移動先の検体領域内の表示領域を設定する(ステップS107)。
【0066】
一方、第1の座標算出部203は、表示領域が検体領域の下端にあるとき、ユーザからの下方向への移動指示を検出すると(ステップS105でYes)、表示対象の検体領域の検体領域番号をインクリメントする。第1の座標算出部203は、インクリメントにより得られた検体領域番号に対応する検体領域内の表示領域を次のように設定する。すなわち第1の座標算出部203は、検体領域の左端と表示領域の左端とのXオフセットを保ち、検体領域の上端と表示領域の上端とが一致するように、移動先の検体領域内の表示領域を設定する(ステップS108)。
【0067】
一方、第1の座標算出部203は、表示領域が検体領域の左端にあるとき、ユーザからの左方向への移動指示を検出すると(ステップS106でYes)、表示対象の検体領域の検体領域番号をデクリメントする。第1の座標算出部203は、デクリメントにより得られた検体領域番号に対応する検体領域内の表示領域を次のように設定する。すなわち第1の座標算出部203は、検体領域の上端と表示領域の上端とのYオフセットを保ち、検体領域の右端と表示領域の右端とが一致するように、移動先の検体領域内の表示領域を設定する(ステップS109)。
【0068】
一方、第1の座標算出部203は、表示領域が検体領域の上端にあるとき、ユーザからの上方向への移動指示を検出すると(ステップS106でNo)、表示対象の検体領域の検体領域番号をデクリメントする。第1の座標算出部203は、デクリメントにより得られた検体領域番号に対応する検体領域内の表示領域を次のように設定する。すなわち第1の座標算出部203は、検体領域の左端と表示領域の左端とのXオフセットを保ち、検体領域の下端と表示領域の下端とが一致するように、移動先の検体領域内の表示領域を設定する(ステップS110)。
【0069】
このように、ビューワ制御部207から供給されたユーザによる移動命令を基に移動先の検体領域内の表示領域を設定すると(ステップS107〜S110)、第1の座標算出部203は、この設定した表示領域の位置情報をビューワ制御部207に供給する。そして、ビューワ制御部207は、この表示領域に相当する画像を取得するための要求をビューワ通信部204を用いて画像サーバ100に送信する。
【0070】
その後はステップS101と同様に、画像サーバ100のサーバ制御部107が、ビューワ200からの要求に応じてスライド画像蓄積部101から該当する画像データを読み出し、サーバ通信部108を用いてビューワ200に送信する。これにより、ビューワ200は、移動先の表示領域の画像データを取得し、表示部201の表示内容を更新する。
【0071】
なお、ステップS107、S108でインクリメントにより得られた検体領域番号がオフセット座標記憶部104に記録されていない場合、第1の座標算出部203は、現在表示されているスライドのスライド番号をインクリメントする。そして第1の座標算出部203は、インクリメントにより得られたスライド番号に対応づけられた検体領域番号=1に対応する検体領域内を観察対象として設定する。また、ステップS109、S110でデクリメントにより得られた検体領域番号がオフセット座標記憶部104に記録されていない場合(検体領域番号=0)、第1の座標算出部203は、現在表示されているスライドのスライド番号をデクリメントする。そして第1の座標算出部203は、デクリメントにより得られたスライド番号に対応づけられた最大の検体領域番号に対応する検体領域を観察対象として設定する。
【0072】
第1の座標算出部203は、上記演算の結果、次に表示する検体領域がないと判断すると(ステップS111でYes)、離散表示処理を終了する。
【0073】
以上、本実施形態の情報処理システム1は、1つの検体を同一方向に切断することによって得られた複数の切片が離散的に載置されたスライドを撮影して得た画像データを取得する画像取得部109と、取得された画像データにおける個々の切片を含む同一形状の複数の検体領域を検出して、個々の検体領域それぞれの画像データの座標空間における位置を相対的に示す位置情報を算出する検体領域検出部103と、算出された位置情報を記憶するオフセット座標記憶部104と、記憶された位置情報をもとに検体領域間での表示の切り替えを行うビューワ制御部207とを具備する。
【0074】
すなわち、ビューワ制御部207は、メタデータである位置情報をもとに検体領域間での表示の切り替えを行う。これによりビューワ制御部207は、取得部により取得される画像データは複数の切片が載置されたスライドそのものを撮影して得た画像データであるにも拘らず、検体領域以外の領域を飛ばして、検体領域間での表示の切り替えを行うことができる。また、第1の記憶部は検体領域をメタデータである位置情報として記録することで、検体領域間での表示の切り替えを効率よく高速に行うことができる。さらに、このメタデータである位置情報を用いれば、複数の検体領域が複数のスライドの画像データに亘る場合でも、1つの画像データから検出された複数の検体領域を順に表示する場合と同様に、表示処理を効率よく行うことができる。
【0075】
本実施形態の情報処理システム1は、画像データの解像度を下げた縮小データを生成するサムネイル画像サムネイル画像生成部110110をさらに具備し、検体領域検出部103は、縮小データから複数の検体領域を検出することで、画像データ内の複数の検体領域を検出する。
【0076】
すなわち、サムネイル画像生成部110により、解像度を下げた縮小データから検体領域を検出することで、検体領域を効率よく高速に検出することができる。
【0077】
本実施形態の情報処理システム1では、複数の検体領域の複数の画像データが切断順に管理され、ビューワ制御部207は、取得された画像データ中で表示させる検体領域とその中の範囲の指定をユーザから受け付けたとき、指定された検体領域の中の範囲を表示領域として算出し、表示領域が当該検体領域の末端にあるときに、表示領域を末端よりも外に移動させる指示をユーザより受け付けたとき、記憶された位置情報をもとに切断順で隣の検体領域の表示に切り替える。
【0078】
すなわち、検体領域の一部の表示領域を表示させるときでも、検体領域以外の領域を飛ばして、検体領域間での表示の切り替えを行うことができる。
【0079】
本実施形態の情報処理システム1では、ビューワ制御部207は、算出した表示領域が当該検体領域の、画像データの座標空間における複数の検体領域の一方の軸方向の末端にあるとき、表示領域を末端よりも外に一方の軸方向に移動させる指示をユーザより受け付けたとき、他方の軸方向での位置を固定しつつ切断順で隣の検体領域の表示に切り替える。
【0080】
これにより、移動先の表示領域の検体領域内での位置が、移動元の移動先の表示領域の検体領域内での位置と対応するため、ユーザにとっての利便性が期待できる。
【0081】
本実施形態の情報処理システム1では、画像取得部109は、1つの検体を同一方向に切断することによって得られた複数の切片が一列に且つ離散的に並べて載置されたスライドを撮影して得た画像データを取得し、ビューワ制御部207は、算出した表示領域が当該検体領域の、画像データの座標空間における複数の検体領域の並びの方向の末端にあるとき、表示領域を末端よりも先に並びの方向へ移動させる指示をユーザより受け付けたとき、記憶された位置情報をもとに当該移動先の検体領域の表示領域を算出する。
【0082】
これにより、一列の並びの複数の検体領域を表示させるときでも、検体領域以外の領域を飛ばして、検体領域間での表示の切り替えを行うことができる。
【0083】
本実施形態の情報処理方法では、画像取得部109が、1つの検体を同一方向に切断することによって得られた複数の切片が離散的に載置されたスライドを撮影して得た画像データを取得し、検体領域検出部103が、取得された画像データにおける個々の切片を含む同一形状の複数の検体領域を検出して、個々の検体領域それぞれの画像データの座標空間における位置を相対的に示す位置情報を算出し、オフセット座標記憶部104が算出された位置情報を記憶し、ビューワ制御部207が、記憶された位置情報をもとに検体領域間での表示の切り替えを行う。
【0084】
[2.ジャンプ表示]
次に、ジャンプ表示について説明する。ジャンプ表示では、検体領域の対応領域を順に表示させるための処理が行われる。
【0085】
図16はジャンプ表示の具体例を示す図である。同図は、図13と同様に、第1〜第14の切片601〜614が第1及び第2のガラススライド610、620にこの順に載置され、第1〜第14の切片601〜614をそれぞれ含む第1〜第14の検体領域621〜634がそれぞれ検出された例を示す。第1の検体領域621内の任意の位置の表示領域642が表示された状態において、検体領域選択画面220の検体領域トレイ222(図15)から、現在表示されている第1の検体領域621のサムネイル画像の右隣の検体領域622のサムネイル画像が、移動先の検体領域として選択される。このように別の検体領域の画像へ表示を移動するための命令が入力されると、第2の検体領域622の表示領域642aに表示領域が移動する(矢印D)。ここで、表示領域642、642aは、同一形状の検体領域621、622の座標空間において同じ位置にある。つまり、検体の切断面と略直交する方向に連続する部位が、表示領域642、642aとして表示される。この検体領域間の移動が繰り返され、第7の検体領域621の表示領域642b(同一形状の検体領域の座標空間において表示領域642、642aと同じ位置に位置する。)に表示領域が移動したとする。さらに、検体領域トレイ222(図15)において第1のガラススライド610のサムネイル画像の下に位置する第2のガラススライド620のサムネイル画像が操作されることで、第2のガラススライド620に移動するための命令が入力されたとする。この場合、第2のガラススライド620の第8の検体領域628の表示領域642cに表示領域(同一形状の検体領域の座標空間において表示領域642bと同じ位置に位置する。)が移動する(矢印E)。
【0086】
次に、このジャンプ表示の処理についてより詳細に説明する。
図17は、ビューワ200によるジャンプ表示処理を示すフローチャートである。
【0087】
上記離散表示において最初に表示するスライド及び検体領域が選択されたのと同様に、最初に表示するスライド及び検体領域が選択される。また、ユーザは、例えば入力部202を用いて、表示モードとしてジャンプ表示を選択する。
【0088】
ジャンプ表示の選択を判断すると、ビューワ制御部207は、メタデータとしてのスライド番号、検体領域番号、三角形及びアフィン変換行列のデータをアライメントデータ作成部208に供給する。アライメントデータ作成部208は、これらメタデータを取得すると、複数の検体領域の全ての組み合わせにおいて、検体領域のスライド画像の座標空間上での2軸方向のオフセットを算出する。より具体的には、アライメントデータ作成部208は、アフィン変換行列を用いて、ある検体領域の例えば中心座標に位置する点を基準点として含む三角形と、別の検体領域内におけるこの基準点に対応する点を含む三角形との絶対座標上での2軸方向のオフセットを算出する。このオフセットが、一方の検体領域内の表示領域を他方の検体領域内の表示領域に対して調整するためのアライメントデータとなる。アライメントデータ作成部208は、算出したアライメントデータをアライメントデータ記憶部209に記録する(ステップS201)。なお、このアライメントデータ生成の動作は、ジャンプ表示及び同期表示の表示モードにおいて共通である。
【0089】
ビューワ制御部207は、ユーザにより選択された上記表示対象のスライド及び検体領域のスライド番号及び検体領域番号に対応付けられたオフセット座標を、ジャンプ表示のための処理を行う第2の座標算出部206に供給する。第2の座標算出部206は、このオフセット座標と、各表示領域に共通に与えられたサイズ及び初期位置(例えば検体領域の左下隅)とに基づき、最初に表示する表示領域の位置情報を算出する。これら各表示領域に共通に与えられたサイズ及び初期位置は、書き換え可能な不揮発性メモリに記録されている。第2の座標算出部206は、算出した位置情報をビューワ制御部207に供給し、ビューワ制御部207は、この表示領域に相当する画像を取得するための要求をビューワ通信部204を用いて画像サーバ100に送信する。
【0090】
画像サーバ100のサーバ制御部107は、サーバ通信部108を用いてこの要求を受信し、要求に含まれる表示領域の画像データをスライド画像蓄積部101から読み出す。サーバ制御部107は、読み出した画像データを、サーバ通信部108を用いてビューワ200に送信する。
【0091】
ビューワ200のビューワ制御部207は、ビューワ通信部204を用いて表示領域の画像データを受信し、受信した表示領域の画像データを表示処理部205に供給する。表示処理部205は、この画像データを表示するための表示データを表示部201に出力し、検体領域選択画面220の観察表示エリア223に表示させる(ステップS202)。
【0092】
ユーザは例えばマウス等の入力部202を用いて、観察表示エリア223に表示された表示領域の画像を上下左右に移動するための命令を入力する。ビューワ制御部207は、ユーザによる入力部202への移動命令の入力を検出し、検出した移動命令を第2の座標算出部206に供給する。第2の座標算出部206は、この移動命令を基に、移動先の表示領域の位置情報を算出する。第2の座標算出部206は、算出した位置情報をビューワ制御部207に供給し、ビューワ制御部207は、この表示領域に相当する画像を取得するための要求をビューワ通信部204を用いて画像サーバ100に送信する。
【0093】
その後はステップS202と同様に、画像サーバ100のサーバ制御部107が、ビューワ200からの要求に応じてスライド画像蓄積部101から該当する画像データを読み出し、サーバ通信部108を用いてビューワ200に送信する。これにより、ビューワ200は、移動先の表示領域の画像データを取得し、表示部201の表示内容を更新する(ステップS203)。
【0094】
ユーザは入力部202を用いて、観察表示エリア223に表示された検体領域の画像から、別の検体領域の画像へ表示を移動するための命令を入力する。この入力は、例えば、検体領域選択画面220の検体領域トレイ222(図15)に表示された複数のサムネイル画像群から、現在表示されている検体領域の右隣又は左隣の検体領域を選択することで行われる。あるいは、この入力は、検体領域選択画面220のスライドトレイ221(図15)に表示された複数のサムネイル画像群から、現在表示されているスライドの上又は下のスライドを選択することで行われる。ビューワ制御部207は、ユーザによる入力部202への移動命令の入力を検出すると(ステップS204でYes)、入力された移動先の検体領域が右隣か左隣か又は移動先のスライドが上か下かを判断する(ステップS205、S206)。
【0095】
ビューワ制御部207は、移動先の検体領域が右隣又は移動先のスライドが下と判断すると(ステップS205でYes)、表示対象の検体領域の検体領域番号をインクリメントする。一方、ビューワ制御部207は、移動先の検体領域が左隣又は移動先のスライドが上と判断すると(ステップS206でYes)、表示対象の検体領域の検体領域番号をデクリメントする。これにより得られた検体領域番号が、移動先の検体領域の検体領域番号となる。
【0096】
ビューワ制御部207は、この移動先の検体領域の検体領域番号と、現在表示している表示領域(移動元の表示領域)の位置情報とを、第2の座標算出部206に通知する。第2の座標算出部206は、移動先の検体領域番号に対応付けられたオフセット座標をオフセット座標記憶部104から読み出す。また、第2の座標算出部206は、この移動先の検体領域を移動元の検体領域に対して座標空間上で一致させるためのアライメントデータをアライメントデータ記憶部209から読み出す。そして、第2の座標算出部206は、メタデータとしてのオフセット座標とアライメントデータとを基に、移動元と移動先の表示領域内の対応する点同士がそれぞれの表示領域内において位置が互いに一致するように、移動元の表示領域に対応する移動先の検体領域内の表示領域を設定する。
【0097】
つまり、移動元の表示領域内のある点(例えば表示領域の中心点)と、移動先の表示領域の対応する点とは、それぞれの表示領域内での位置が互いに一致しない場合がある。例えば、移動元の表示領域の中心に疾病があっても、移動先の表示領域では、中心からずれた位置にその疾病が位置する場合がある。そこで第2の座標算出部206は、アライメントデータをもとに、移動元の表示領域のある点と、移動先の表示領域の対応する点とが、それぞれの表示領域内において位置が互いに一致するように(例えば表示領域の中心)、移動先の表示領域を調整する(ステップS207、S208)。
【0098】
第2の座標算出部206は、上記ステップS207〜S208にて調整した表示領域の位置情報を算出する。第2の座標算出部206は、算出した位置情報をビューワ制御部207に供給し、ビューワ制御部207は、この表示領域に相当する画像を取得するための要求をビューワ通信部204を用いて画像サーバ100に送信させる。
【0099】
その後はステップS202と同様に、画像サーバ100のサーバ制御部107が、ビューワ200からの要求に応じてスライド画像蓄積部101から該当する画像データを読み出し、サーバ通信部108を用いてビューワ200に送信する。これにより、ビューワ200は、移動先の表示領域の画像データを取得し、表示部201の表示内容を更新する。
【0100】
第2の座標算出部206は、上記演算の結果、次に表示する検体領域がないと判断すると(ステップS209でYes)、離散表示処理を終了する。
【0101】
以上、本実施形態の情報処理システム1は、複数の検体領域それぞれの特徴点を検出し、それぞれの特徴点の座標の検体領域の座標空間におけるオフセット量を算出するアライメントデータ作成部208と、算出されたオフセット量を記憶するアライメントデータ記憶部209とをさらに具備し、ビューワ制御部207は、表示領域を他の検体領域へジャンプさせる指示をユーザより受け付けたとき、記憶された位置情報と記憶されたオフセット量をもとに、ジャンプ前後の表示領域内での特徴点の位置が一致するように、ジャンプ先の表示領域を算出する。
【0102】
すなわち、メタデータとしての複数の検体領域に含まれる特徴点間のオフセット量をもとにアライメントデータ作成部208が表示領域を設定するため、ビューワ制御部207は、ジャンプ前後の表示領域内での特徴点の位置を一致させることができる。また、表示領域の設定にメタデータを用いることで、対応する表示領域を正確に算出するとともに、表示処理を効率よく高速に行うことができる。
【0103】
本実施形態の情報処理システム1では、アライメントデータ作成部208は、検出された複数の検体領域内の特徴点を表示空間において一致させるためのアフィン変換行列を算出し、算出されたアフィン変換行列をもとにオフセット量を算出する。
【0104】
アフィン変換行列を用いることで、2軸方向のオフセット量を算出することができる。これにより、ジャンプ前後で対応する表示領域をより正確に算出することができる。
【0105】
[3.同期表示]
次に、同期表示について説明する。同期表示では、表示画面を分割して、複数の検体領域の対応領域をそれぞれ同期させて表示させるための処理が行われる。
【0106】
図18は同期表示の具体例を示す図である。この同期表示では、表示対象として複数(例えば4つ)の検体領域621〜624がユーザにより選択される。この複数の検体領域621〜624は、検体領域選択画面220の観察表示エリア223(図15)を複数の略等しいサイズのエリアに分割して得られた表示空間651〜654に個々に割り当てられて表示される。より具体的には、複数の検体領域621〜624の中心に位置する点621a〜624a同士が、表示空間651〜654内での位置が互いに一致するように(中心に位置するように)、複数の検体領域621〜624が表示される。
【0107】
次に、この同期表示の処理についてより詳細に説明する。
ユーザは、入力部202を用いて、表示部201に表示された検体領域選択画面220のスライドトレイ221(図15)から表示対象のスライドを選択し、検体領域トレイ222から表示対象の複数(例えば4つ)の検体領域を選択する。ビューワ制御部207は、ユーザによる入力部202への入力を検出し、表示するスライド及び複数の検体領域のスライド番号及び複数の検体領域番号を判断する。そしてビューワ制御部207は、このスライド番号及び複数の検体領域番号を、同期表示のための処理を行う第3の座標算出部210に供給する。さらにビューワ制御部207は、表示空間としての検体領域選択画面220の観察表示エリア223(図15)を指定された複数(例えば4つ)の検体領域の数と等しい数の表示空間に分割する。そしてビューワ制御部207は、分割した表示空間それぞれの座標情報を第3の座標算出部210に供給する。
【0108】
第3の座標算出部210は、表示対象の複数の検体領域の検体領域番号に対応付けられたオフセット座標と、表示対象の複数の検体領域同士のオフセットを調整するためのアライメントデータとを基に、複数の検体領域の中心点が一致するように、表示領域を設定する。つまり、第3の座標算出部210は、メタデータとしてのオフセット座標とアライメントデータとをもとに、複数の検体領域の中心に位置する点同士が、表示空間内での位置が互いに一致するように(中心に位置するように)、表示領域を設定する。第3の座標算出部210は、設定した各表示領域の位置情報を算出する。第3の座標算出部210は、得られた位置情報をビューワ制御部207に供給し、ビューワ制御部207は、この表示領域に相当する画像を取得するための要求をビューワ通信部204を用いて画像サーバ100に送信する。
【0109】
その後は上記ステップS202と同様に、画像サーバ100のサーバ制御部107が、ビューワ200からの要求に応じてスライド画像蓄積部101から該当する画像データを読み出し、サーバ通信部108を用いてビューワ200に送信する。これにより、ビューワ200は、複数の表示領域の画像データを取得し、表示部201に表示する。具体的には、ビューワ制御部207は、表示部201に表示される検体領域選択画面220の観察表示エリア223(図15)を、表示する検体領域の数と同じ数の略等しいサイズのエリアに分割する。そして、表示処理部205は、表示部201に表示された検体領域選択画面220の観察表示エリア223(図15)を複数の略等しいサイズのエリアに分割して得られた表示空間に、複数の表示領域の画像データを個々に割り当てて表示させる。
【0110】
以上、本実施形態の情報処理システム1では、ビューワ制御部207は、取得された画像データ中で表示させる複数の検体領域の指定をユーザから受け付けたとき、表示空間を指定された複数の検体領域の数と等しい数の表示空間に分割し、記憶された位置情報と記憶されたオフセット量をもとに、複数の表示空間に表示される検体領域内での特徴点の位置が一致するように、複数の表示空間に表示される表示領域を算出する。
【0111】
すなわち、ビューワ制御部207は、メタデータとしての複数の検体領域に含まれる特徴点間のオフセット量をもとに複数の表示空間に表示される検体領域内での特徴点の位置を一致させることができる。また、表示領域の設定にメタデータを用いることで、対応する表示領域を正確に算出するとともに、表示処理を効率よく高速に行うことができる。
【0112】
[典型的なコンピュータ]
次に、画像サーバ100及びビューワ200に用いることのできる典型的なコンピュータの構成を説明する。
【0113】
図19は、典型的なコンピュータ400のハードウェア構成を示す図である。
同図に示すように、コンピュータ400は、CPU(Central Processing Unit)401と、ROM(Read Only Memory)402と、RAM403とを備える。また、コンピュータ400は、入力装置404と、出力装置405と、ストレージ装置406と、メディアインタフェース装置407と、ネットワーク接続装置408と、これらを接続するバス409とを備える。
【0114】
CPU401は、演算処理装置および制御装置として機能し、各種プログラムに従ってコンピュータ400の動作全般を制御する。ROM402は、CPU401が使用するプログラムや演算パラメータ等を記憶する。RAM403は、CPU401により実行されるプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。
【0115】
同期サーバ40の同期処理部25、ビューワ30A、30Bのビューワ制御部37A、37Bなどは、例えば、当該コンピュータ400のハードウェア構成において、CPU401と、ROM402に格納されたプログラムと、RAM403のワーキング領域などによって実現されるものである。
【0116】
入力装置404は、マウス、キーボード、タッチパネル、ボタン、マイク、スイッチおよびレバーなどユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、CPU401に出力する入力制御回路などから構成されている。コンピュータ400のユーザは、該入力装置404を操作することにより、CPU401に対して各種のデータを入力したり処理動作を指示したりすることができる。
【0117】
出力装置405は、例えば、CRT(Cathode Ray Tube)ディスプレイ装置、液晶ディスプレイ(LCD)装置、OLED(Organic Light Emitting Diode)装置などの表示装置を含む。さらに、出力装置405は、スピーカおよびヘッドホンなどの音声出力装置を含む。
【0118】
ストレージ装置406は、プログラムやユーザデータ格納用の装置である。ストレージ装置406は、記憶媒体と、記憶媒体にデータを書き込んだり読み出したりする読み書き装置などで構成される。ストレージ装置106は、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)などで構成される。
【0119】
メディアインタフェース装置407は、記憶媒体用リーダライタである。メディアインタフェース装置407は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記録媒体2Aに対してデータの読み書きを行う。
【0120】
ネットワーク接続装置408は、例えば、ネットワーク300に接続するためのインタフェースである。ネットワーク接続装置408は、無線LAN(Local Area Network)対応の装置であっても、ワイヤレスUSB対応の装置であっても、有線による通信を行うワイヤー通信装置であってもよい。
【0121】
[変形例]
図20は、変形例に係る情報処理装置の構成を示す図である。
上記実施形態では、互いにネットワーク300を通じて接続可能な画像サーバ100と、1以上のビューワ200A、200Bとを含む情報処理システム1を説明した。これに対して、1つの情報処理装置500を情報処理システムとして採用することもできる。情報処理装置500は、上記実施形態の画像サーバ100及びビューワ200の機能的な構成と同様の構成を有するが、サーバ制御部107、サーバ通信部108及びビューワ通信部204を有さない点について異なる。さらに、制御部207Aは、上記実施形態のビューワ制御部207と同様の機能を有するとともに、スライド画像蓄積部101、サムネイル画像記憶部、オフセット座標記憶部104及び三角形・行列記憶部106から直接データを読み出す。情報処理装置500は、例えば、上記典型的なコンピュータ400で構成されたものでよい。この情報処理装置500によっても、上記実施形態と同様の処理を行うことができる。
【0122】
なお、本技術は以下のような構成も採ることができる。
(1)1つの検体を同一方向に切断することによって得られた複数の切片が離散的に載置されたスライドを撮影して得た画像データを取得する取得部と、
前記取得された画像データにおける個々の前記切片を含む同一形状の複数の検体領域を検出して、個々の前記検体領域それぞれの前記画像データの座標空間における位置を相対的に示す位置情報を算出する検出部と、
前記算出された位置情報を記憶する第1の記憶部と、
前記記憶された位置情報をもとに前記検体領域間での表示の切り替えを行う制御部と
を具備する情報処理システム。
【0123】
(2)前記(1)に記載の情報処理システムであって、
前記画像データの解像度を下げた縮小データを生成する生成部をさらに具備し、
前記検出部は、前記縮小データから前記複数の検体領域を検出することで、前記画像データ内の前記複数の検体領域を検出する
情報処理システム。
【0124】
(3)前記(1)から(2)のうちいずれか1つに記載の情報処理システムであって、
前記複数の検体領域の複数の画像データが切断順に管理され、
前記制御部は、前記取得された画像データ中で表示させる前記検体領域とその中の範囲の指定をユーザから受け付けたとき、前記指定された検体領域の中の前記範囲を表示領域として算出し、前記表示領域が当該検体領域の末端にあるときに、前記表示領域を前記末端よりも外に移動させる指示をユーザより受け付けたとき、前記記憶された位置情報をもとに切断順で隣の前記検体領域の表示に切り替える
情報処理システム。
【0125】
(4)前記(1)から(3)のうちいずれか1つに記載の情報処理システムであって、
前記制御部は、前記算出した表示領域が当該検体領域の、前記画像データの座標空間における前記複数の検体領域の一方の軸方向の末端にあるとき、前記表示領域を前記末端よりも外に前記一方の軸方向に移動させる指示をユーザより受け付けたとき、他方の軸方向での位置を固定しつつ前記切断順で隣の検体領域の表示に切り替える
情報処理システム。
【0126】
(5)前記(1)から(4)のうちいずれか1つに記載の情報処理システムであって、
前記取得部は、1つの検体を同一方向に切断することによって得られた複数の切片が一列に且つ離散的に並べて載置されたスライドを撮影して得た画像データを取得し、
前記制御部は、前記算出した表示領域が当該検体領域の、前記画像データの座標空間における前記複数の検体領域の並びの方向の末端にあるとき、前記表示領域を前記末端よりも先に前記並びの方向へ移動させる指示をユーザより受け付けたとき、前記記憶された位置情報をもとに当該移動先の前記検体領域の表示領域を算出する
情報処理システム。
【0127】
(6)前記(1)から(5)のうちいずれか1つに記載の情報処理システムであって、
前記複数の検体領域それぞれの特徴点を検出し、それぞれの前記特徴点の座標の前記検体領域の座標空間におけるオフセット量を算出するアライメント部と、
前記算出されたオフセット量を記憶する第2の記憶部とをさらに具備し、
前記制御部は、前記表示領域を他の検体領域へジャンプさせる指示をユーザより受け付けたとき、前記記憶された位置情報と前記記憶されたオフセット量をもとに、ジャンプ前後の前記表示領域内での前記特徴点の位置が一致するように、ジャンプ先の前記表示領域を算出する
情報処理システム。
【0128】
(7)前記(1)から(6)のうちいずれか1つに記載の情報処理システムであって、
前記アライメント部は、検出された前記複数の検体領域内の特徴点を表示空間において一致させるためのアフィン変換行列を算出し、算出された前記アフィン変換行列をもとに前記オフセット量を算出する
情報処理システム。
【0129】
(8)前記(1)から(7)のうちいずれか1つに記載の情報処理システムであって、
前記制御部は、前記取得された画像データ中で表示させる複数の検体領域の指定をユーザから受け付けたとき、表示空間を前記指定された複数の検体領域の数と等しい数の表示空間に分割し、前記記憶された位置情報と前記記憶されたオフセット量をもとに、前記複数の表示空間に表示される前記検体領域内での前記特徴点の位置が一致するように、前記複数の表示空間に表示される前記表示領域を算出する
情報処理システム。
【0130】
(9)取得部が、1つの検体を同一方向に切断することによって得られた複数の切片が離散的に載置されたスライドを撮影して得た画像データを取得し、
検出部が、前記取得された画像データにおける個々の前記切片を含む同一形状の複数の検体領域を検出して、個々の前記検体領域それぞれの前記画像データの座標空間における位置を相対的に示す位置情報を算出し、
第1の記憶部が前記算出された位置情報を記憶し、
制御部が、前記記憶された位置情報をもとに前記検体領域間での表示の切り替えを行う
情報処理方法。
【符号の説明】
【0131】
1…情報処理システム
103…検体領域検出部
104…オフセット座標記憶部
109…画像取得部
207…ビューワ制御部

【特許請求の範囲】
【請求項1】
1つの検体を同一方向に切断することによって得られた複数の切片が離散的に載置されたスライドを撮影して得た画像データを取得する取得部と、
前記取得された画像データにおける個々の前記切片を含む同一形状の複数の検体領域を検出して、個々の前記検体領域それぞれの前記画像データの座標空間における位置を相対的に示す位置情報を算出する検出部と、
前記算出された位置情報を記憶する第1の記憶部と、
前記記憶された位置情報をもとに前記検体領域間での表示の切り替えを行う制御部と
を具備する情報処理システム。
【請求項2】
請求項1に記載の情報処理システムであって、
前記画像データの解像度を下げた縮小データを生成する生成部をさらに具備し、
前記検出部は、前記縮小データから前記複数の検体領域を検出することで、前記画像データ内の前記複数の検体領域を検出する
情報処理システム。
【請求項3】
請求項2に記載の情報処理システムであって、
前記複数の検体領域の複数の画像データが切断順に管理され、
前記制御部は、前記取得された画像データ中で表示させる前記検体領域とその中の範囲の指定をユーザから受け付けたとき、前記指定された検体領域の中の前記範囲を表示領域として算出し、前記表示領域が当該検体領域の末端にあるときに、前記表示領域を前記末端よりも外に移動させる指示をユーザより受け付けたとき、前記記憶された位置情報をもとに切断順で隣の前記検体領域の表示に切り替える
情報処理システム。
【請求項4】
請求項3に記載の情報処理システムであって、
前記制御部は、前記算出した表示領域が当該検体領域の、前記画像データの座標空間における前記複数の検体領域の一方の軸方向の末端にあるとき、前記表示領域を前記末端よりも外に前記一方の軸方向に移動させる指示をユーザより受け付けたとき、他方の軸方向での位置を固定しつつ前記切断順で隣の検体領域の表示に切り替える
情報処理システム。
【請求項5】
請求項4に記載の情報処理システムであって、
前記取得部は、1つの検体を同一方向に切断することによって得られた複数の切片が一列に且つ離散的に並べて載置されたスライドを撮影して得た画像データを取得し、
前記制御部は、前記算出した表示領域が当該検体領域の、前記画像データの座標空間における前記複数の検体領域の並びの方向の末端にあるとき、前記表示領域を前記末端よりも先に前記並びの方向へ移動させる指示をユーザより受け付けたとき、前記記憶された位置情報をもとに当該移動先の前記検体領域の表示領域を算出する
情報処理システム。
【請求項6】
請求項5に記載の情報処理システムであって、
前記複数の検体領域それぞれの特徴点を検出し、それぞれの前記特徴点の座標の前記検体領域の座標空間におけるオフセット量を算出するアライメント部と、
前記算出されたオフセット量を記憶する第2の記憶部とをさらに具備し、
前記制御部は、前記表示領域を他の検体領域へジャンプさせる指示をユーザより受け付けたとき、前記記憶された位置情報と前記記憶されたオフセット量をもとに、ジャンプ前後の前記表示領域内での前記特徴点の位置が一致するように、ジャンプ先の前記表示領域を算出する
情報処理システム。
【請求項7】
請求項6に記載の情報処理システムであって、
前記アライメント部は、検出された前記複数の検体領域内の特徴点を表示空間において一致させるためのアフィン変換行列を算出し、算出された前記アフィン変換行列をもとに前記オフセット量を算出する
情報処理システム。
【請求項8】
請求項7に記載の情報処理システムであって、
前記制御部は、前記取得された画像データ中で表示させる複数の検体領域の指定をユーザから受け付けたとき、表示空間を前記指定された複数の検体領域の数と等しい数の表示空間に分割し、前記記憶された位置情報と前記記憶されたオフセット量をもとに、前記複数の表示空間に表示される前記検体領域内での前記特徴点の位置が一致するように、前記複数の表示空間に表示される前記表示領域を算出する
情報処理システム。
【請求項9】
取得部が、1つの検体を同一方向に切断することによって得られた複数の切片が離散的に載置されたスライドを撮影して得た画像データを取得し、
検出部が、前記取得された画像データにおける個々の前記切片を含む同一形状の複数の検体領域を検出して、個々の前記検体領域それぞれの前記画像データの座標空間における位置を相対的に示す位置情報を算出し、
第1の記憶部が前記算出された位置情報を記憶し、
制御部が、前記記憶された位置情報をもとに前記検体領域間での表示の切り替えを行う
情報処理方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2013−45069(P2013−45069A)
【公開日】平成25年3月4日(2013.3.4)
【国際特許分類】
【出願番号】特願2011−184895(P2011−184895)
【出願日】平成23年8月26日(2011.8.26)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】