説明

情報処理装置、情報処理方法及びそのプログラム

【課題】バーチャル顕微鏡における画像の表示領域の移動に必要なユーザの操作を減らし観察作業を効率化すること。
【解決手段】PC100のCPU101は、表示された部分画像に対してユーザから移動操作が入力されると、当該移動操作速度と同一の速度で表示範囲Dを移動させ、当該移動操作が入力されなくなったとき、当該移動操作速度から所定の減速度で減速された速度で、上記表示範囲Dをさらに移動させる。またCPU101は、上記部分画像に対してユーザからズーム操作が入力されると、当該ズーム操作速度と同一の速度で部分画像をより広域または狭域の画像へと変更させ、当該ズーム操作が入力されなくなったとき、当該ズーム操作速度から上記所定の減速度で減速された速度で、上記部分画像をさらに変更させる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、医療、病理、生物、材料等の分野において顕微鏡により得られた画像の表示を制御する情報処理装置、情報処理方法及びそのプログラムに関する。
【背景技術】
【0002】
医療または病理等の分野において、光学顕微鏡により得られた、生体の細胞、組織、臓器等の画像をデジタル化し、そのデジタル画像に基づき、医師や病理学者等がその組織等を検査したり、患者を診断したりするシステムが提案されている。
【0003】
例えば、特許文献1に記載の方法では、顕微鏡により光学的に得られた画像が、CCD(Charge Coupled Device)を搭載したビデオカメラによりデジタル化され、そのデジタル信号が制御コンピュータシステムに入力され、モニタに可視化される。病理学者はモニタに表示された画像を見て検査等を行う(例えば、特許文献1の段落[0027]、[0028]、図5参照)。このようなシステムは一般にバーチャル顕微鏡と呼ばれている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−37250号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、上記特許文献1に記載のような従来のバーチャル顕微鏡において、ユーザが画像の表示範囲を移動したり、画像をズームしたりする場合、ユーザは例えばマウスをドラッグしたりホイールを回転させたりする操作を繰り返す必要がある。しかしながら、上記バーチャル顕微鏡で扱われる画像は例えば50×50(Kpixel:キロピクセル)といった巨大なサイズの画像であり、このような画像中をくまなく観察するのはユーザにとって非常に骨の折れる作業であった。特に病理医はそういった作業を一日中行うため、操作が煩わしいとそれがストレスとなり、本来発見されるべき病理組織の変化の見落とし等が発生し誤診を招く可能性もある。
【0006】
以上のような事情に鑑み、本発明の目的は、バーチャル顕微鏡における画像の表示範囲の移動に必要なユーザの操作を減らし観察作業を効率化することが可能な情報処理装置、情報処理方法及びそのプログラムを提供することにある。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本発明の一形態に係る情報処理装置は、メモリと、出力部と、操作入力部と、制御部とを有する。上記メモリは、顕微鏡により得られた1つの観察対象物の画像を含む全体画像が記憶された記憶装置から、当該全体画像のうち所定の表示範囲に相当する部分画像を読み出して保持する。上記出力部は、上記保持された部分画像を表示させるために出力する。上記操作入力部は、上記表示された部分画像について、第1の速度を有する所定方向への移動操作の入力を受け付ける。上記制御部は、上記移動操作が入力されている間、上記表示された部分画像の上記表示範囲を、上記全体画像上で、上記所定方向へ上記第1の速度で移動させ、上記入力された移動操作が入力されなくなったとき、上記表示範囲を、上記全体画像上で、上記所定方向へ上記第1の速度から所定の減速度で減速された速度でさらに移動させるように上記メモリ及び上記出力部を制御する。
【0008】
ここで上記観察対象物は、生体の臓器、組織、細胞等である。また上記記憶装置は、当該情報処理装置の内部と外部のどちらに存在していてもよい。本発明の構成により、部分画像に対する移動操作が入力されなくなった後も、擬似的な慣性力により所定の減速を伴いながらその移動が継続するような表示効果が達成される。したがって、全体画像のうち特定部分の領域を表示させるために行われるユーザの移動操作が激減するため、病理診断における病理医等の作業が効率化され、ひいては特定部分の見落としによる誤診等の可能性も低減される。
【0009】
上記記憶装置には、それぞれ異なる解像度を有する第1の全体画像、第2の全体画像及び第3の全体画像が記憶されていてもよい。この場合上記操作入力部には、上記表示された部分画像について、第2の速度を有するズーム操作が入力されてもよい。この場合上記制御部は、上記ズーム操作が入力されている間、上記第1の全体画像を用いて表示された部分画像を、上記第2の全体画像を用いて、上記第2の速度でより広域または狭域の画像へと変更させ、上記入力されたズーム操作が入力されなくなったとき、上記部分画像を、上記第3の全体画像を用いて、上記第2の速度から上記所定の減速度で減速された速度で、より広域または狭域の画像へとさらに変更させるように上記メモリ及び上記出力部を制御してもよい。
【0010】
これにより、部分画像に対するズーム操作が入力されなくなった後も、擬似的な慣性力によりそのズームが継続するような表示効果が達成される。したがって、観察対象物の特定の部分をズームして病理診断等を行う際のユーザの作業が効率化され、誤診等の可能性がより排除される。
【0011】
上記制御部は、上記移動操作または上記ズーム操作が入力されなくなったとき、上記所定の減速度と、上記移動操作の上記所定方向または上記ズーム操作のズーム方向とを基に、上記さらなる表示範囲の移動または上記広域もしくは狭域の画像へのさらなる変更により出力されることになる部分画像の少なくとも一部を上記記憶装置から読み出して保持するように上記メモリを制御してもよい。
【0012】
これにより情報処理装置、上記移動操作における所定方向または上記ズーム操作におけるズーム(ズームアウトもしくはズームイン)の方向に応じて、表示に必要となる部分画像の少なくとも一部を予めバッファリングすることができる。したがって擬似的な慣性力を伴った部分画像の切り替え処理がよりスムーズに実行される。
【0013】
上記メモリは、上記第1乃至第3の全体画像から抽出された特徴を示す特徴データを保持してもよい。この場合上記制御部は、上記記憶された特徴データを基に上記減速度を変更してもよい。
【0014】
これにより情報処理装置は、各全体画像に含まれる特徴部分に応じて減速度を変更することで、擬似的な慣性力による表示効果のみならず、特徴部分とそうでない部分に応じた部分画像の切り替えを行うことができる。したがって病理医等のユーザの作業がより効率化される。
【0015】
上記特徴データは、上記第1乃至第3の全体画像中の所定単位領域毎の周波数レベルを示すデータであってもよい。この場合上記制御部は、上記移動操作または上記ズーム操作が入力されなくなったとき、上記さらなる移動後または上記さらなる変更後の上記部分画像に含まれる上記単位領域の周波数レベルが高いほど上記減速度を大きくしてもよい。
【0016】
これにより情報処理装置は、各全体画像中で周波数レベルが高い特徴的な部分(急激に変化する部分)に移動操作またはズーム操作が及ぶと、減速度をより大きくして部分画像を表示することでユーザにその部分をより詳細に観察させることができる。また情報処理装置は、例えば上記移動操作またはズーム操作により表示される部分画像が特徴的な部分を含まない場合には減速度を小さくしてより素早く次の部分画像へ切り替えることもできる。
【0017】
上記操作入力部は、上記さらなる移動中または上記さらなる変化中に任意の操作の入力を受け付けてもよい。この場合上記制御部は、上記任意の操作が入力されたとき、上記さらなる移動または上記さらなる変化を停止させてもよい。
【0018】
これにより情報処理装置は、減速された速度で移動またはズームが継続しているときにユーザが任意の操作を入力すると、当該移動またはズームを停止させることができる。したがってユーザは全体画像中の所望の部分に移動またはズームが及んだときに任意の操作を入力することで、その部分を逃さず捉えることができる。
【0019】
この場合、上記操作入力部は、上記さらなる移動中または上記さらなる変更中に圧力を検出する圧力センサを有し、上記制御部は、上記圧力センサにより検出された圧力に応じて上記減速度を変更してもよい。
【0020】
これによりユーザは、減速された速度で移動またはズームが継続している最中に、上記操作入力部により圧力を加えることで、あたかも上記移動またはズームに対してその圧力に応じた摩擦力でブレーキがかかるような操作感を得ることができる。ここで上記圧力センサは、例えば操作入力部がマウスである場合には、その表面または当該マウスのボタンの内部に設けられる。典型的には、検出された圧力が大きいほど減速度も高くされる。
【0021】
本発明の他の形態に係る情報処理方法は、顕微鏡により得られた1つの観察対象物の画像を含む全体画像が記憶された記憶装置から、当該全体画像のうち所定の表示範囲に相当する部分画像を読み出して保持することを含む。当該保持された部分画像は表示のために出力される。当該表示された部分画像については、第1の速度を有する所定方向への移動操作が入力される。上記移動操作が入力されている間、上記表示された部分画像の上記表示範囲は、上記全体画像上で、上記所定方向へ上記第1の速度で移動される。また上記入力された移動操作が入力されなくなったときには、上記表示範囲は、上記全体画像上で、上記所定方向へ上記第1の速度から所定の減速度で減速された速度でさらに移動される。
【0022】
本発明のまた別の形態に係るプログラムは、情報処理装置に、保持ステップと、出力ステップと、操作受け付けステップと、第1の移動ステップと、第2の移動ステップとを実行させる。上記保持ステップでは、顕微鏡により得られた1つの観察対象物の画像を含む全体画像が記憶された記憶装置から、当該全体画像のうち所定の表示範囲に相当する部分画像が読み出され保持される。上記出力ステップでは、上記保持された部分画像が表示のために出力される。上記操作受け付けステップでは、上記表示された部分画像について、第1の速度を有する所定方向への移動操作の入力が受け付けられる。上記第1の移動ステップでは、上記移動操作が入力されている間、上記表示された部分画像の上記表示範囲が、上記全体画像上で、上記所定方向へ上記第1の速度で移動される。上記第2の移動ステップでは、上記入力された移動操作が入力されなくなったとき、上記表示範囲が、上記全体画像上で、上記所定方向へ上記第1の速度から所定の減速度で減速された速度でさらに移動される。
【発明の効果】
【0023】
以上説明したように、本発明によれば、バーチャル顕微鏡における画像の表示範囲の移動に必要なユーザの操作を減らし観察作業を効率化することができる。
【図面の簡単な説明】
【0024】
【図1】本発明の一実施形態に係る情報処理装置を少なくとも含む情報処理システムの構成を示すブロック図である。
【図2】本発明の一実施形態における表示原理を説明するための画像ピラミッド構造を示す図である。
【図3】図2に示した画像ピラミッド構造の画像群を生成するときの手順を説明するための図である。
【図4】本発明の一実施形態に係るPCの動作の流れを示すフローチャートである。
【図5】本発明の一実施形態に係るPCの動作のうち、表示範囲の移動操作時における動作を示した図である。
【図6】本発明の一実施形態に係るPCの動作のうち、表示範囲のズーム操作時における動作を示した図である。
【図7】本発明の一実施形態における全体画像の特徴解析の様子を示す図である。
【図8】本発明の一実施形態における全体画像の各部位における周波数レベルの算出処理の流れを示したフローチャートである。
【図9】本発明の一実施形態においてPCが全体画像のDCT係数マトリクスから存在周波数マトリクスを生成する処理を概念的に示した図である。
【図10】本発明の一実施形態においてPCが存在周波数マトリクスと高周波検出マトリクスから周波数スコアマトリクスを生成する処理を概念的に示した図である。
【図11】本発明の他の実施形態において用いられるマウスの外観及び内部構造を示した図である。
【発明を実施するための形態】
【0025】
以下、図面を参照しながら、本発明の実施形態を説明する。
【0026】
[情報処理装置の構成]
図1は、本発明の一実施形態に係る情報処理装置を少なくとも含む情報処理システムの構成を示すブロック図である。情報処理装置として、例えばPC(Personal Computer)100が用いられる。
【0027】
PC100は、CPU(Central Processing Unit)101、ROM102(Read Only Memory)、RAM(Random Access Memory)103、入出力インターフェース105、及び、これらを互いに接続するバス104を備える。
【0028】
CPU101は、必要に応じてRAM103等に適宜アクセスし、各種演算処理を行いながらPC100の各ブロック全体を統括的に制御する。ROM102は、CPU101に実行させるOS、プログラムや各種パラメータなどのファームウェアが固定的に記憶されている不揮発性のメモリである。RAM103は、CPU101の作業用領域等として用いられ、OS、実行中の各種プログラム、処理中の各種データを一時的に保持する。
【0029】
入出力インターフェース105には、表示部106、入力部107、記憶部108、通信部109、ドライブ部110等が接続される。
【0030】
表示部106は、例えば液晶、EL(Electro-Luminescence)、CRT(Cathode Ray Tube)等を用いた表示デバイスである。当該表示部106は、PC100に内蔵されていてもよいし、PC100に外部接続されていてもよい。
【0031】
入力部107は、例えばポインティングデバイス、キーボード、タッチパネル、その他の操作装置である。入力部107がタッチパネルを含む場合、そのタッチパネルは表示部106と一体となり得る。
【0032】
記憶部108は、例えばHDD(Hard Disk Drive)や、フラッシュメモリ、その他の固体メモリ等の不揮発性メモリである。当該記憶部108には、後述する光学顕微鏡により得られた画像が記憶される。
【0033】
ドライブ部110は、例えば光学記録媒体、フロッピー(登録商標)ディスク、磁気記録テープ、フラッシュメモリ等、リムーバブルの記録媒体111を駆動することが可能なデバイスである。これに対し上記記憶部108は、主にリムーバブルでない記録媒体を駆動する、PC100に予め搭載されたデバイスとして使用される場合が多い。
【0034】
通信部109は、LAN(Local Area Network)、WAN(Wide Area Network)等に接続可能な、他のデバイスと通信するためのモデム、ルータ、その他の通信機器である。通信部109は、有線及び無線のどちらを利用して通信するものであってもよい。通信部109は、PC100とは別体で使用される場合が多い。
【0035】
次に、図示しない光学顕微鏡により得られた画像及びその表示原理について説明する。この画像は、PC100の主に記憶部108に記憶される。図2は、その表示原理を説明するための画像構造を示す図である。
【0036】
同図に示すように、本実施形態において扱われる画像はピラミッド構造を有する(画像ピラミッド構造50)。当該画像ピラミッド構造50は、光学顕微鏡により同じ1つの観察対象物15(図3参照)から得られる同一の画像について、異なる複数の解像度により生成された画像群である。本実施形態ではこの画像群を構成する各画像を全体画像と称する。画像ピラミッド構造50の最下には、最も大きいサイズの全体画像が配置され、最上には最も小さいサイズの全体画像が配置される。最も大きいサイズの全体画像の解像度は、例えば50×50(Kpixel)、あるいは40×60(Kpixel)である。最も小さいサイズの全体画像の解像度は、例えば256×256(pixel)、あるいは、256×512(pixel)である。またこれら各全体画像は例えばJPEG方式で圧縮された画像であるが、これに限られない。
【0037】
PC100は、この画像ピラミッド構造50に含まれる各全体画像から、表示部106の所定の表示範囲に相当する部分の画像(以下、部分画像と称する)を適宜抽出してRAM103上に読み出し、表示部106により出力する。ここで、図2では、その表示部106の表示範囲をDとして示している。
【0038】
図3は、この画像ピラミッド構造50の画像群を生成する手順を説明するための図である。
【0039】
まず、光学顕微鏡(図示せず)により所定の観察倍率で得られた元画像のデジタル画像が用意される。この元画像が、図2で示した画像ピラミッド構造50の最下の画像である最も大きいサイズの全体画像に相当し、つまり解像度が最大の全体画像となる。したがって、画像ピラミッド構造50の最下の全体画像としては、比較的高倍率で観察されて得られる光学顕微鏡の画像が用いられる。
【0040】
なお、病理の分野一般においては、生体の臓器、組織、細胞、またはこれらの一部から、薄く切り取られたものが観察対象物15となる。そして、光学顕微鏡の機能を有する図示しないスキャナ装置により、ガラススライドに収められた観察対象物15が読み取られ、これにより得られたデジタル画像が、そのスキャナ装置またはその他の記憶装置に記憶される。
【0041】
このスキャナ装置または汎用コンピュータ(図示せず)は、図3に示すように、上記のように得られた最も大きいサイズの全体画像から、段階的に解像度を小さくした複数の全体画像を生成し、これらを例えば所定サイズの単位である「タイル」単位で記憶する。1タイルのサイズは、例えば256×256(pixel)である。このように生成された画像群が画像ピラミッド構造50を形成し、この画像ピラミッド構造50がPC100の記憶部108に記憶される。実際には、PC100はそれら異なる複数の解像度の全体画像と、解像度の情報とをそれぞれ対応付けて記憶すればよい。また、画像ピラミッド構造50の生成及びその記憶は、図1に示したPC100が実行してもよい。
【0042】
PC100は、この画像ピラミッド構造50のシステムを採用するソフトウェアを用い、ユーザの入力部107を介した入力操作に応じて、画像ピラミッド構造50中の任意の解像度の全体画像から、上記表示範囲Dに相当する部分画像を抽出する。そしてPC100は、これをRAM103へ読み出した後、表示部106から出力する。またPC100は、表示された部分画像について、ユーザから移動操作が入力された場合には、当該部分画像が抽出された全体画像上で、上記表示範囲Dを移動させ、当該移動後の表示範囲Dに含まれる部分画像を抽出して出力する。さらにPC100は、表示された部分画像について、ユーザからズーム操作が入力された場合には、当該部分画像が抽出された全体画像とは解像度が異なる全体画像から、当該部分画像の広域画像または狭域画像に相当する部分画像を抽出して出力する。このような処理により、ユーザは、観察範囲や観察倍率を変えながら観察対象物15を観察しているような感覚を得ることができる。すなわち、PC100はバーチャル顕微鏡として機能する。ここでの仮想的な観察倍率は、実際には解像度に相当する。
【0043】
ここで、表示範囲Dは、表示部106が有する最大の表示範囲の大きさを意味しているのではなく、表示部106の表示範囲の全体またはその一部の範囲であり、これは例えばユーザの設定により適宜設定され得る。また当該表示範囲Dは、上記タイルを複数行×複数列に並べた面積に相当する。すなわち上記部分画像は、複数のタイルで構成される。
【0044】
[情報処理装置の動作]
次に、以上のように構成されたPC100の動作について説明する。
図4は、本実施形態に係るPC100の動作の流れを示すフローチャートである。また図5は当該PC100の動作のうち、表示範囲Dの移動操作時における動作を示した図であり、図6は当該PC100の動作のうち、当該動作のうち表示範囲Dのズーム操作時における動作を示した図である。
【0045】
以下のPC100の処理は、記憶部108またはROM102等の記憶されたソフトウェアと、PC100のハードウェア資源との協働により実現される。具体的には、CPU101が記憶部108またはROM102等に記憶された、ソフトウェアを構成するプログラムをRAM103にロードして実行することにより、以下の処理が実現される。
【0046】
まず、ユーザが入力部107を介した入力操作により、画像ピラミッド構造50の画像群を含むファイルにアクセスする。そうすると、PC100のCPU101は、記憶部108に記憶された画像ピラミッド構造50から所定の部分画像を抽出してRAM103に読み出し、これを表示部106に表示する(ステップ51)。画像ピラミッド構造50のうち、CPU101が最初にアクセスする所定の部分画像は、デフォルトあるいはユーザにより適宜設定されればよい。
【0047】
CPU101は、典型的には比較的低解像度(低倍率)、例えば1.25倍の観察倍率に対応する解像度を有する全体画像内の部分画像を最初に表示する。
【0048】
続いてCPU101は、ユーザの入力部107からの入力操作を待機する(ステップ52)。
【0049】
ユーザが、表示範囲Dを所望の位置に変更するために、入力部107を操作すると(ステップ52のYES)、CPU101は、当該操作が移動操作か否かを判断する(ステップ53)。当該移動操作は、典型的には、マウスのドラッグ操作である。
【0050】
上記ユーザの操作が移動操作である場合(ステップ53のYES)、CPU101は、当該移動操作速度に応じて(移動操作速度と同一速度で)、上記部分画像が抽出された全体画像上で表示範囲Dを移動させ、移動後の表示範囲Dが位置する部分の部分画像をRAM103に読み出して表示する(ステップ54)。
【0051】
続いてCPU101は、上記移動操作(ドラッグ操作)が終了したか否か、すなわちユーザがマウスのボタンを離したか否かを判断する(ステップ55)。
【0052】
移動操作が終了したと判断した場合(ステップ55のYES)、CPU101は、上記移動操作速度を所定の減速度で減速した速度で、上記表示範囲Dを上記全体画像上でさらに移動させる(ステップ56)。すなわち、CPU101は、移動操作が終了した後も、表示範囲Dの移動を減速させながら維持する。
【0053】
この場合の移動速度(V)は、減速度をSとすると、下記の式により表示範囲D毎に更新される。
V=V×S(ただし、0<S<1.0)・・・(1)
【0054】
図5の例では、まずマウスが左方向にドラッグされることで、表示範囲Dが右方向へ移動し、それにより部分画像P1がその右方向に位置する部分画像P2へと更新される(同図(A)及び(B))。そして、当該ドラッグ操作が終了しても、表示範囲Dの移動は減速しながら継続する(同図(B)及び(C))。これによりユーザは、ドラッグ操作を終了した後も、表示範囲Dがあたかも慣性力により移動し続けるような視覚を得ることができる。
【0055】
このような減速を伴う表示範囲Dの移動に際し、CPU101は、上記移動速度(V)と移動方向とを基に、いつどの部分画像が必要になるかを計算することができる。したがってCPU101は、表示範囲Dを移動させるのに先立って、表示範囲Dの移動後の位置に相当する部分画像の少なくとも一部、すなわち上記タイルを上記画像ピラミッド構造50からRAM103へロードしておくことができる。これにより表示範囲Dの移動がスムーズに実行される。
【0056】
図4のフローチャートへ戻り、上記ステップ53においてユーザの操作が移動操作でないと判断された場合、CPU101は、当該操作がズーム操作であるか否かを判断する(ステップ57)。当該ズーム操作は、典型的には、マウスのホイールの回転操作である。
【0057】
当該操作がズーム操作であると判断した場合(ステップ57のYES)、CPU101は、当該ズーム操作速度と同一速度で、既に表示されている元の部分画像を、当該元の部分画像が抽出された全体画像とは異なる全体画像内で当該元の部分画像の広域画像または狭域画像に相当する部分画像へと変更する(ステップ58)。
【0058】
例えば図6(A)及び(B)に示すように、部分画像P1についてズームイン操作が入力された場合、CPU101は、当該部分画像P1が抽出された全体画像とは異なる解像度の全体画像上で、上記部分画像P1の狭域画像に相当する部分画像P2を上記画像ピラミッド構造50から抽出し、上記部分画像P1を部分画像P2へと変更する。
【0059】
続いてCPU101は、上記ズーム操作(ホイール回転操作)が終了したか否か、すなわちユーザがマウスのホイールを離したか否かを判断する(ステップ59)。
【0060】
ズーム操作が終了したと判断した場合(ステップ59のYES)、CPU101は、上記ズーム操作速度を所定の減速度で減速した速度で、上記異なる全体画像間での部分画像の変更を維持する(ステップ60)。この場合の減速されたズーム速度も、上記移動速度(V)に関する式(1)と同様に算出される。
【0061】
図6の例では、ユーザがマウスのホイールを例えば奥方向へ回転させると、表示範囲D内の元の部分画像P1は、当該回転速度で、異なる全体画像内のより狭域の部分画像P2へと変更される(同図(A)及び(B))。そして、当該ホイール回転操作が終了しても、異なる全体画像間での部分画像の変更(P2からP3)は減速しながらも継続する(同図(B)及び(C))。これによりユーザは、ズーム操作を終了した後も、当該ズーム操作があたかも慣性力により継続し続けるような視覚を得ることができる。
【0062】
図4のフローチャートへ戻り、CPU101は、上記移動操作終了後に表示範囲Dが減速しながら移動している間、または、上記ズーム操作終了後に部分画像が減速しながら変更されている間に、全体画像における特徴部位に到達したか否かを判断する(ステップ61)。
【0063】
ここで特徴部位とは、例えば全体画像において画像成分が急激に変化する部位をいう。この特徴部位は、全体画像が所定の解析手法で解析されることで検出される。図7は、当該全体画像の特徴解析の様子を示す図である。
【0064】
同図に示すように、全体画像Wが例えばクラスタリング処理により、複数のクラスタ領域(C1〜C4)に分割される。当該各クラスタ領域の境界線に関するデータは特徴データとして記憶部108に記憶され、CPU101は、上記移動操作及びズーム操作にあたり、当該特徴データをRAM103へ読み出しておく。
【0065】
この特徴データの生成には、上記クラスタリング処理による複数のクラスタ領域への分割処理が必須となるわけではない。CPU101は例えば、全体画像内の周波数成分を計測することで特徴データを生成することもできる。図8は、当該周波数成分の計測による特徴データの生成処理の流れを示す図である。また図9及び図10は、当該周波数成分の計測処理のうち一部の工程を示す図である。
【0066】
当該周波数成分の計測には、例えば、上記各全体画像がJPEG方式で圧縮される際のDCT係数が用いられる。すなわち図8に示すように、CPU101はまず、全体画像から、8×8のブロック毎のDCT係数マトリクスデータを抽出する(ステップ81)。このDCT係数マトリクスにより、8×8のブロック毎にどのくらいの高周波成分が含まれるかが分かる。
【0067】
続いてCPU101は、図9に示すように、当該DCT係数マトリクスのうち、数値が0でないセルの数値を1に置き換えたマトリクス(存在周波数マトリクス)を生成する(ステップ82)。またCPU101は、高周波成分になればなるほど(マトリクスの右下へ向かうほど)数値が高くなるマトリクス(高周波検出マトリクス)を生成する(ステップ83)。
【0068】
続いてCPU101は、図10に示すように、上記生成された存在周波数マトリクスと高周波検出マトリクスの対応するセルの数値同士を乗算することで、新たなマトリクス(周波数スコアマトリクス)を生成する(ステップ84)。
【0069】
続いてCPU101は、当該周波数スコアマトリクスの全セルのデータを足し合わせ、その合計値を8×8ブロック画像の周波数値とする(ステップ85)。
【0070】
続いてCPU101は、各8×8ブロック画像の周波数値を、全体画像の全体について算出する(ステップ86)。そしてCPU101は、当該全体画像における各8×8ブロック画像の最大値で、各8×8ブロック画像の周波数値を除算することで、各8×8ブロック毎の正規化された周波数レベル(F)を算出する(ステップ87)。
【0071】
ここで、DCT係数マトリクスの代わりに、DCT係数の量子化後のデータが用いられても構わない。
【0072】
CPU101は、上記全体画像の8×8ブロック毎の周波数レベル(F)を上記特徴データとしてRAM103に保持する。
【0073】
図4のフローチャートに戻り、表示範囲Dが全体画像における特徴部位に到達したと判断した場合(ステップ61のYES)、すなわち、全体画像における周波数レベル(F)が変化したと判断した場合、CPU101は、当該周波数レベル(F)に応じて上記減速度を大きくする(ステップ62)。具体的には、CPU101は、上記減速度(S)を以下の式で算出し、それに従って部分画像を表示する。
S=1.0−F・・・(2)
【0074】
このような処理により、例えばユーザにとって関心の薄い領域での移動またはズームは素早く実行され、一方ユーザにとって重要な領域での移動またはズームは丁寧に(ゆっくり)実行されるようになる。物理的な例えをすると、全体画像の領域毎に摩擦係数が異なり、画像が変化する部位でさらにブレーキが掛かるような表示効果が得られる。したがってユーザによる特定の部位の見落としが極力防止される。
【0075】
以上のような処理を経て、CPU101は、上記表示範囲Dの減速された移動中またはズーム中にユーザのクリック操作が入力されたか否か、または上記減速により速度が0になったか否かを判断する(ステップ63)。
【0076】
そして、CPU101は、クリック操作が入力された場合または上記速度が0になった場合(ステップ63のYES)は、上記移動操作後の表示範囲Dの移動または上記ズーム操作後の部分画像の変更を停止する(ステップ64、図5(D)、図6(D))。ユーザのクリック操作により表示範囲Dの移動または部分画像の変更が停止されることで、ユーザは、擬似的な慣性力により移動中またはズーム中の部分画像が、興味のある部分に到達するタイミングを逃さず捉えることができる。
【0077】
以上の処理により、PC100は、ユーザによる移動操作またはズーム操作が入力されなくなった後も、あたかも慣性力によりその操作が減速しながら維持されるような視覚効果を与えることができる。これによりユーザが手動で移動操作またはズーム操作を行う場合における操作回数が格段に減少し、特に病理診断における病理医の作業が効率化され、重要な部位の見落としの可能性が激減する。また、特定の部位(高周波数成分)において上記減速度が大きくなるため、上記見落としの可能性がさらに低減される。
【0078】
[変形例]
本発明は上述の実施形態にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変更され得る。
【0079】
上述の実施形態においては、CPU101は、減速された移動中またはズーム中にユーザによりマウスのクリック操作が入力された場合には、上記移動操作後の表示範囲Dの移動または上記ズーム操作後の部分画像の変更を即座に停止した。しかし、この停止の態様はこれに限られない。例えばCPU101は、ユーザによる移動操作またはズーム操作の終了後(ボタンからユーザの指が離れた後)に、ユーザから上記クリック操作が入力された場合に、そのクリックによりマウスへ加えられる圧力に応じて減速度を変更してもよい。
【0080】
具体的には、図11に示すように、上記入力部107としてのマウス110の例えば左ボタン111の内部に、ユーザの指等により加えられた圧力を検出する感圧シート112等の圧力センサが設けられる。当該感圧シートは、左ボタン111の内部ではなく表面に設けられてもよい。上記圧力センサには、半導体ダイヤフラム型、静電容量型、弾性体ダイヤフラム型、圧電型、振動型、ブルドン管型、ベローズ型等のいかなる感圧素子が用いられてもよく、またシート状ではなく立体的なものが用いられても構わない。
【0081】
CPU101は、上記減速された移動操作またはズーム操作の最中に、ユーザが当該マウス110で左ボタンのクリック操作を行うと、当該クリック操作により左ボタンに加えられた圧力値、すなわち感圧シート112から入力されたアナログ量を基に、上記所定の減速度を変更する。
【0082】
典型的には、CPU101は、検出された圧力値が大きいほど上記減速度を大きくする。すなわち、CPU101は、検出された圧力値に応じて、例えば、当該圧力値を正規化した値をPとすると、以下の式で減速度を算出し、それに従って部分画像を表示する。
S=1.0−P・・・(3)
【0083】
これによりユーザは、減速された速度で移動またはズームが継続している最中に、上記マウス110により圧力を加えることで、あたかも上記移動またはズームに対してその圧力に応じた摩擦力でブレーキがかかるような操作感を得ることができる。より具体的な例えをするならば、ユーザは、回転している地球儀に指を接触させてその摩擦力で回転を止めるような操作感を得ることができる。したがってユーザは、上記移動またはズームをより直感的な操作感で停止させることができる。
【0084】
入力部107としてマウス110ではなくタッチパネルやタッチパッドが用いられる場合にも、例えば当該タッチパネルやタッチパッドの内部等に圧力センサが設けられることで、同様の処理が実現される。
【0085】
上記では、画像ピラミッド構造50を形成する画像データがPC100の記憶部108に記憶されている形態について説明した。しかし、PC100とは別のコンピュータやサーバが、画像ピラミッド構造50を形成する画像データを記憶し、ユーザが端末装置として使用するPC100が、それら別のコンピュータやサーバにアクセスしてその画像データを受信してもよい。この場合、端末装置としてのPC100とサーバ等とがLANまたはWAN等のネットワークを介して接続されてもよい。特に、WANが使用されることにより遠隔病理学(Telepathology)や遠隔診断等を実現することができる。また、上記特徴データ(周波数レベル)の生成処理も、PC100とは別のコンピュータやサーバで実行され、PC100がそれらから特徴データを受信してもよい。
【0086】
上記では、画像ピラミッド構造50の元画像として、同じ1つの観察対象物15について1つの元画像が生成される形態について説明した。しかし、元画像として、同じ1つの観察対象物15について、光学顕微鏡のフォーカス方向である観察対象物15の厚さ方向の複数の元画像が生成されてもよい。これは、いわゆるZ-stackと呼ばれ、観察対象物15の厚さ方向にも組織や細胞の形状等が異なる場合があるので、このような場合に対応するための機能である。上記スキャナ装置がこのZ-stack機能を有する場合が多く、元画像として、5〜10枚あるいは10〜30枚程度生成される。
【0087】
上述の実施形態においては、PC100は、全体画像における特徴データの生成を全体画像の周波数成分を計測することで行った。しかしながら、PC100は、周波数以外にも、例えば全体画像における標準偏差、コントラスト、エッジ等を検出し、またはそれらを組み合わせることで特徴データを生成してもよい。
【0088】
上記実施形態に係る情報処理装置としてPCが用いられたが、PCに限られず、専用の情報処理装置であってもよい。また、情報処理装置として、ハードウェア資源及びソフトウェアの協働により上記情報処理を実現する装置に限られず、専用のハードウェアにより上記情報処理が実現されてもよい。
【符号の説明】
【0089】
P(P1〜P4)…部分画像
W…全体画像
D…表示範囲
15…観察対象物
50…画像ピラミッド構造
100…PC
101…CPU
103…RAM
106…表示部
107…入力部
108…記憶部
110…マウス
112…感圧シート

【特許請求の範囲】
【請求項1】
顕微鏡により得られた1つの観察対象物の画像を含む全体画像が記憶された記憶装置から、当該全体画像のうち所定の表示範囲に相当する部分画像を読み出して保持するメモリと、
前記保持された部分画像を表示させるために出力する出力部と、
前記表示された部分画像について、第1の速度を有する所定方向への移動操作の入力を受け付ける操作入力部と、
前記移動操作が入力されている間、前記表示された部分画像の前記表示範囲を、前記全体画像上で、前記所定方向へ前記第1の速度で移動させ、前記入力された移動操作が入力されなくなったとき、前記表示範囲を、前記全体画像上で、前記所定方向へ前記第1の速度から所定の減速度で減速された速度でさらに移動させるように前記メモリ及び前記出力部を制御する制御部と
を具備する情報処理装置。
【請求項2】
請求項1に記載の情報処理装置であって、
前記記憶装置には、それぞれ異なる解像度を有する第1の全体画像、第2の全体画像及び第3の全体画像が記憶され、
前記操作入力部には、前記表示された部分画像について、第2の速度を有するズーム操作が入力され、
前記制御部は、前記ズーム操作が入力されている間、前記第1の全体画像を用いて表示された部分画像を、前記第2の全体画像を用いて、前記第2の速度でより広域または狭域の画像へと変更させ、前記入力されたズーム操作が入力されなくなったとき、前記部分画像を、前記第3の全体画像を用いて、前記第2の速度から前記所定の減速度で減速された速度で、より広域または狭域の画像へとさらに変更させるように前記メモリ及び前記出力部を制御する
情報処理装置。
【請求項3】
請求項2に記載の情報処理装置であって、
前記制御部は、前記移動操作または前記ズーム操作が入力されなくなったとき、前記所定の減速度と、前記移動操作の前記所定方向または前記ズーム操作のズーム方向とを基に、前記さらなる表示範囲の移動または前記広域もしくは狭域の画像へのさらなる変更により出力されることになる部分画像の少なくとも一部を前記記憶装置から読み出して保持するように前記メモリを制御する
情報処理装置。
【請求項4】
請求項2に記載の情報処理装置であって、
前記メモリは、前記第1乃至第3の全体画像から抽出された特徴を示す特徴データを保持し、
前記制御部は、前記記憶された特徴データを基に前記減速度を変更する
情報処理装置。
【請求項5】
請求項4に記載の情報処理装置であって、
前記特徴データは、前記第1乃至第3の全体画像中の所定単位領域毎の周波数レベルを示すデータであり、
前記制御部は、前記移動操作または前記ズーム操作が入力されなくなったとき、前記さらなる移動後または前記さらなる変更後の前記部分画像に含まれる前記単位領域の周波数レベルが高いほど前記減速度を大きくする
情報処理装置。
【請求項6】
請求項2に記載の情報処理装置であって、
前記操作入力部は、前記さらなる移動中または前記さらなる変更中に任意の操作の入力を受け付け、
前記制御部は、前記任意の操作が入力されたとき、前記さらなる移動または前記さらなる変更を停止させる
情報処理装置。
【請求項7】
請求項2に記載の情報処理装置であって、
前記操作入力部は、前記さらなる移動中または前記さらなる変更中に圧力を検出する圧力センサを有し、
前記制御部は、前記圧力センサにより検出された圧力に応じて前記減速度を変更する
情報処理装置。
【請求項8】
顕微鏡により得られた1つの観察対象物の画像を含む全体画像が記憶された記憶装置から、当該全体画像のうち所定の表示範囲に相当する部分画像を読み出して保持し、
前記保持された部分画像を表示させるために出力し、
前記表示された部分画像について、第1の速度を有する所定方向への移動操作の入力を受け付け、
前記移動操作が入力されている間、前記表示された部分画像の前記表示範囲を、前記全体画像上で、前記所定方向へ前記第1の速度で移動させ、
前記入力された移動操作が入力されなくなったとき、前記表示範囲を、前記全体画像上で、前記所定方向へ前記第1の速度から所定の減速度で減速された速度でさらに移動させる
情報処理方法。
【請求項9】
情報処理装置に、
顕微鏡により得られた1つの観察対象物の画像を含む全体画像が記憶された記憶装置から、当該全体画像のうち所定の表示範囲に相当する部分画像を読み出して保持するステップと、
前記保持された部分画像を表示させるために出力するステップと、
前記表示された部分画像について、第1の速度を有する所定方向への移動操作の入力を受け付けるステップと、
前記移動操作が入力されている間、前記表示された部分画像の前記表示範囲を、前記全体画像上で、前記所定方向へ前記第1の速度で移動させるステップと、
前記入力された移動操作が入力されなくなったとき、前記表示範囲を、前記全体画像上で、前記所定方向へ前記第1の速度から所定の減速度で減速された速度でさらに移動させるステップと
を実行させるプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図7】
image rotate

【図11】
image rotate


【公開番号】特開2011−118477(P2011−118477A)
【公開日】平成23年6月16日(2011.6.16)
【国際特許分類】
【出願番号】特願2009−272813(P2009−272813)
【出願日】平成21年11月30日(2009.11.30)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】