情報処理装置、情報処理方法、及びそのプログラム
【課題】フォーカス位置が異なる複数のフォーカス面画像を高い圧縮率で圧縮符号化することができ、また、短い処理時間で復号することができる情報処理装置、情報処理方法、及びそのプログラムを提供する。
【解決手段】
複数のフォーカス面画像I(z)のMB5の内、最もフォーカスの合致した代表MB6が選択され、全焦点画像Iall_focusedが生成される。この全焦点画像Iall_focusedの代表MB6ごとに、フォーカス面画像I(z)の位置座標zに応じたボケ補償フィルタPSFが畳み込まれ、ボケ補償予測画像9が高い精度で生成される。ボケ補償予測画像9とフォーカス面画像I(z)との差分画像10が生成されることで、フォーカス面画像I(z)が高い圧縮率で圧縮符号化される。また、ボケ補償予測画像9と差分画像10とが加算されることで、任意のフォーカス面画像I(z)を短い処理時間で復号することができる。
【解決手段】
複数のフォーカス面画像I(z)のMB5の内、最もフォーカスの合致した代表MB6が選択され、全焦点画像Iall_focusedが生成される。この全焦点画像Iall_focusedの代表MB6ごとに、フォーカス面画像I(z)の位置座標zに応じたボケ補償フィルタPSFが畳み込まれ、ボケ補償予測画像9が高い精度で生成される。ボケ補償予測画像9とフォーカス面画像I(z)との差分画像10が生成されることで、フォーカス面画像I(z)が高い圧縮率で圧縮符号化される。また、ボケ補償予測画像9と差分画像10とが加算されることで、任意のフォーカス面画像I(z)を短い処理時間で復号することができる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像データの圧縮符号化又は復号を可能とする情報処理装置、情報処理方法、及びそのプログラムに関する。
【背景技術】
【0002】
近年、光学顕微鏡により得られた画像をデジタル方式で撮影し、デジタル画像として保存又は表示するシステムが知られている。このようなシステムでは、実際の顕微鏡と同等以上の操作性により、撮影されたデジタル画像を観察可能であることが望まれる。
【0003】
例えば、被写界深度の狭い顕微鏡光学系で厚みのある試料が観察されるときには、微動焦点ねじを回してフォーカスの位置を変化させる操作が必要となる。上記したシステムでこの操作を実現するためには、同じ試料を複数のフォーカス位置で撮影することで得られる複数のフォーカス面画像が必要となる。従って、1つの試料を観察するために膨大な量の画像データが必要となるので、上記システムでは、画像データを効率よく圧縮することが求められる。
【0004】
例えば特許文献1では、複数のフォーカス面画像に対して隣接し合うフレーム間の差分をとるフレーム間符号化を用いた圧縮方法が示されている。また、基準となるフォーカス面画像にボケ補償予測が行われることで作成される予測画像を用いた圧縮方法についても触れられている。例えばあるフォーカス面画像を圧縮したい場合、そのフォーカス面と基準となるフォーカス面との距離等に応じたボケ補償予測が基準フォーカス面画像に行われる。そして作成された予測画像と圧縮したいフォーカス面画像との差分データが符号化される(特許文献1の段落[0030]、[0033]等参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2007−11977号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、特許文献1に記載のフレーム間符号化方式では、任意のフォーカス位置のフォーカス画面像を復号するためには、隣接するフォーカス画面像を復号しなければならない。従って、復号処理にかかる時間が長くなり実用性に欠く。また、上記したボケ補償予測は、ボケていく方向にしか画像予測が行えないので、1枚の基準フォーカス面画像からボケ補償予測を行う場合、高精度の予測画像を作成することが難しくなる。この結果、予測画像と圧縮したいフォーカス面画像との差分データが大きくなり圧縮率が低下してしまう。
【0007】
以上のような事情に鑑み、本発明の目的は、フォーカス位置が異なる複数のフォーカス面画像を高い圧縮率で圧縮符号化することができ、また、短い処理時間で復号することができる情報処理装置、情報処理方法、及びそのプログラムを提供することにある。
【課題を解決するための手段】
【0008】
上記目的を達成するため、本発明の一形態に係る情報処理装置は、記憶手段と、予測画像生成手段とを具備する。
前記記憶手段は、異なる複数のフォーカス位置で観察対象物が撮影されることで得られる複数のフォーカス面画像から、前記フォーカス面画像を形成する複数の分割領域の画像のうち最もフォーカスの合致した画像である代表分割画像を、前記分割領域に応じて前記フォーカス面画像ごとに選択することで生成された全焦点画像と、前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置の情報とを記憶する。
前記予測画像生成手段は、前記記憶手段により記憶された前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置情報に基づいて、前記代表分割画像ごとに前記フォーカス面画像の前記フォーカス位置情報に応じた、ボケ関数を用いたボケ補償予測を行うことで、前記フォーカス面画像に対応するボケ補償予測画像を生成する。
【0009】
この情報処理装置では、全焦点画像を形成する最もフォーカスの合致した画像である代表分割画像ごとにボケ補償予測が行われるので、各フォーカス面画像に対応したボケ補償予測画像を高い精度で生成することができる。従って、例えばフォーカス面画像とボケ補償予測画像との差分画像を生成することで、フォーカス位置が異なる複数のフォーカス面画像を高い圧縮率で圧縮符号化することができる。
【0010】
前記情報処理装置は、全焦点画像生成手段と、差分画像生成手段とをさらに具備してもよい。
前記全焦点画像生成手段は、前記分割領域画像の輝度情報に基づいて前記代表分割画像を選択することで、前記全焦点画像を生成する。
前記差分画像生成手段は、前記フォーカス面画像と、前記予測画像生成手段により生成された前記フォーカス面画像に対応する前記ボケ補償予測画像との差分画像を生成する。
【0011】
上記したように、各フォーカス面画像に対応したボケ補償予測画像が高い精度で生成されるので、フォーカス面画像とボケ補償予測画像との差分画像のデータ量を少なくすることができる。これによりフォーカス位置が異なる複数のフォーカス面画像を高い圧縮率で圧縮符号化することができる。
【0012】
前記全焦点画像生成手段は、前記分割領域画像のコントラストに基づいて前記代表分割画像を選択することで、前記全焦点画像を生成してもよい。
【0013】
前記予測画像生成手段は、前記代表分割画像ごとに前記ボケ補償予測を行い、かつ、前記全焦点画像に含まれる隣接する複数の前記代表分割画像の境界領域に、境界領域用ボケ補償予測を行ってもよい。
隣接し合う代表分割画像の境界領域に、境界領域用ボケ補償予測が行われることで、例えば代表分割画像の境界での不連続に起因する折り返し等の問題を防止することができる。
【0014】
前記記憶手段は、前記フォーカス面画像と、前記予測画像生成手段により生成された前記フォーカス面画像に対応する前記ボケ補償予測画像との差分画像を記憶してもよい。この場合、前記情報処理装置は、前記記憶手段に記憶された前記差分画像と、前記予測画像生成手段により生成された前記フォーカス面画像に対応する前記ボケ補償予測画像との加算画像を生成する加算画像生成手段をさらに具備してもよい。
【0015】
この情報処理装置では、記憶された差分画像と各フォーカス面画像に対応するボケ補償予測画像との加算画像が生成されることで、各フォーカス面画像が復号される。従って、任意のフォーカス面画像を復号するために、他のフォーカス面画像を復号する必要がない。これにより、フォーカス位置が異なる複数のフォーカス面画像を短い処理時間で復号することができる。
【0016】
本発明の一形態に係る情報処理方法は、情報処理装置により実行される以下の方法である。
すなわち、情報処理装置は、異なる複数のフォーカス位置で観察対象物が撮影されることで得られる複数のフォーカス面画像から、前記フォーカス面画像を形成する複数の分割領域の画像のうち最もフォーカスの合致した画像である代表分割画像を、前記分割領域に応じて前記フォーカス面画像ごとに選択することで生成された全焦点画像と、前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置の情報とを記憶する。
前記記憶された前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置情報に基づいて、前記代表分割画像ごとに前記フォーカス面画像の前記フォーカス位置情報に応じた、ボケ関数を用いたボケ補償予測が行われることで、前記フォーカス面画像に対応するボケ補償予測画像が生成される。
【0017】
本発明の一形態に係るプログラムは、上記情報処理方法を情報処理装置に実行させる。前記プログラムが記録媒体に記録されていてもよい。
【発明の効果】
【0018】
以上のように、本発明によれば、フォーカス位置が異なる複数のフォーカス面画像を高い圧縮率で圧縮符号化することができ、また、短い処理時間で復号することができる。
【図面の簡単な説明】
【0019】
【図1】本発明の第1の実施形態に係る情報処理装置を少なくとも含む情報処理システムの構成を示すブロック図である。
【図2】図1に示すPCにより圧縮符号化される、複数のフォーカス面画像を説明するための図である。
【図3】図1に示すPCにより圧縮符号化される、複数のフォーカス面画像を説明するための図である。
【図4】図2に示す複数のフォーカス面画像の圧縮符号化に用いられる全焦点画像について説明するための図である。
【図5】図4に示す全焦点画像を生成するためのPCの処理を示すフローチャートである。
【図6】図2に示す複数のフォーカス面画像の圧縮符号化の概要を説明するための図である。
【図7】図2に示す複数のフォーカス面画像を圧縮符号化するためのPCの処理を示すフローチャートである。
【図8】図2に示す複数のフォーカス面画像の圧縮符号化を説明するための図である。
【図9】本発明の第2の実施形態に係るPCの、圧縮符号化された各フォーカス面画像を復号するための処理を示すフローチャートである。
【図10】本発明の第3の実施形態に係る、代表MBに対するボケ補償フィルタの畳み込みについて説明するための図である。
【図11】本発明の第4の実施形態に係る、複数のフォーカス面画像の圧縮符号化の概要を説明するための図である。
【図12】本発明のその他の実施形態に係る情報処理システムの構成例を示す図である。
【発明を実施するための形態】
【0020】
以下、図面を参照しながら、本発明の実施形態を説明する。
【0021】
<第1の実施形態>
[情報処理装置の構成]
図1は、本発明の第1の実施形態に係る情報処理装置を少なくとも含む情報処理システムの構成を示すブロック図である。情報処理装置として、例えばPC(Personal Computer)100が用いられる。
【0022】
PC100は、CPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、入出力インターフェース105、及び、これらを互いに接続するバス104を備える。
【0023】
入出力インターフェース105には、表示部106、入力部107、記憶部108、通信部109、ドライブ部110等が接続される。
【0024】
表示部106は、例えば液晶、EL(Electro-Luminescence)、CRT(Cathode Ray Tube)等を用いた表示デバイスである。
【0025】
入力部107は、例えばポインティングデバイス、キーボード、タッチパネル、その他の操作装置である。入力部107がタッチパネルを含む場合、そのタッチパネルは表示部106と一体となり得る。
【0026】
記憶部108は、不揮発性の記憶デバイスであり、例えばHDD(Hard Disk Drive)、フラッシュメモリ、その他の固体メモリである。
【0027】
ドライブ部110は、例えば光学記録媒体、フロッピー(登録商標)ディスク、磁気記録テープ、フラッシュメモリ等、リムーバブルの記録媒体111を駆動することが可能なデバイスである。これに対し上記記憶部108は、主にリムーバブルでない記録媒体を駆動する、PC100に予め搭載されたデバイスとして使用される場合が多い。
【0028】
通信部109は、LAN(Local Area Network)、WAN(Wide Area Network)等に接続可能な、他のデバイスと通信するためのモデム、ルータ、その他の通信機器である。通信部109は、有線及び無線のどちらを利用して通信するものであってもよい。通信部109は、PC100とは別体で使用される場合が多い。
【0029】
[圧縮符号化される画像]
図2及び図3は、本実施形態のPC100により圧縮符号化される、複数のフォーカス面画像を説明するための図である。
【0030】
例えば光学顕微鏡の機能を有する図示しないスキャナ装置等により、2枚のスライドガラス1a及び1bの間に保持された観察対象物2が撮影される。図2に示すように光学顕微鏡のフォーカスが合致する範囲である被写界深度Fは、観察対象物2の厚みtよりも小さい。そこで観察対象物2は、光学顕微鏡のフォーカス方向である観察対象物2の厚み方向(図2に示すZ方向)で、異なる複数のフォーカス位置において撮影される。これにより、フォーカスの合致した領域がそれぞれ異なる複数のフォーカス面画像3が生成される。これら複数のフォーカス面画像3が適宜出力されることで、光学顕微鏡の微動焦点ねじを回してフォーカスの位置を変化させる操作と同様な操作が実現可能となる。
【0031】
図2では、7枚のフォーカス面画像3a〜3gが図示されているが、フォーカス面画像3の数は適宜設定可能であり、例えば数十枚程度、もしくはそれ以上の数のフォーカス面画像3が生成されてもよい。なお、上記のようなフォーカス面画像3を生成する処理は「バーチャルスライド化」と呼ばれる。
【0032】
また、図3に示すように、各フォーカス面画像3a〜3gについて画像ピラミッド構造4a〜4gが生成される。これら画像ピラミッド構造4a〜4gは、各フォーカス面画像3a〜3gについて、異なる複数の解像度により生成された画像群である。図3に示す横軸のZ軸はフォーカス方向軸を示しており、縦軸のM軸は画像の倍率(解像度)方向軸を示している。
【0033】
画像ピラミッド構造4a〜4gの最下(M=0)には、最も大きいサイズのフォーカス面画像3a〜3gが配置され、最上(M=3)には最も小さいサイズのフォーカス面画像3’a〜3’gが配置される。最も大きいサイズのフォーカス面画像3a〜3gの解像度は、例えば50×50(Kpixel:キロピクセル)、あるいは40×60(Kpixel)である。最も小さいサイズのフォーカス面画像3’a〜3’gは、例えば256×256(pixel)、あるいは、256×512(pixel)である。
【0034】
M=1,2,3の低倍率のフォーカス面画像は、M=0の高倍率のフォーカス面画像3a〜3gが、例えばLanczos等のフィルタにより縮小されることで生成される。縮小率としては、例えば1/2、1/4、1/8、あるいは、それ以上の縮小率が選択される。複数の画像ピラミッド構造4a〜4gにより、光学顕微鏡により得られる像の倍率を変更する操作と同様な操作が実現可能となる。
【0035】
[情報処理装置の動作]
本実施形態の情報処理装置である、PC100の動作を説明する。以下のPC100の処理は、記憶部108またはROM102等に記憶されたソフトウェアと、PC100のハードウェア資源との協働により実現される。具体的には、CPU101が記憶部108またはROM102等に記憶された、ソフトウェアを構成するプログラムをRAM103にロードして実行することにより、以下の処理が実現される。
【0036】
[全焦点画像]
まず、図2に示す複数のフォーカス面画像3の圧縮符号化に用いられる全焦点画像について説明する。図4はその全焦点画像を説明するための図である。
【0037】
図4に示すように、CPU101により、フォーカス面画像3a〜3gのフォーカス位置情報としての、Z方向における位置座標z(0〜6)が定められる。図4に示すZ方向は、図2示す観察対象物2の厚み方向に対応しており、例えば位置座標zが0であるフォーカス面画像3aは、観察対象物2の図2で見て最上部側にフォーカス位置が定められて撮影された画像である。以下、フォーカス面画像3a〜3gを、位置座標zを用いてフォーカス面画像I(z)と記載する。
【0038】
また図4に示すように、CPU101により、各フォーカス面画像I(z)はそれぞれ複数の分割領域の画像であるMB(マクロブロック)5に分割される。MB5のサイズは、典型的には16×16(pixel)であるが、例えば8×8(pixel)でもよく、適宜設定可能である。各MB5には、2次元上の位置情報として番号mbが付せられる。例えば図4に示すように、各フォーカス面画像I(z)上のMB5であって、それぞれ同一の番号mb(例えばmb=10)を有するMB5は、各フォーカス面画像I(z)上の同一の位置にそれぞれ配置されるMB5となる。
【0039】
CPU101により、全ての番号mbに対して、各フォーカス面画像I(z)がそれぞれ有するMB5の中から、最もフォーカスが合致している代表分割画像として代表MB6が選択される。これら代表MB6が貼り合わされて図4に示す全焦点画像Iall_focusedが生成される。代表MB6の選択方法としては、例えばMB5の各ピクセルの輝度値からMB5のコントラストが算出され、最もコントラストが大きいMB5が代表MB6として選択される。あるいは、各MB5における最大輝度値または平均輝度値が最も大きいMB5が代表MB6として選択されてもよい。その他、MB5の輝度情報に基づく各種のフォーカス検出方法を採用可能である。
【0040】
図5は全焦点画像Iall_focusedを生成するためのPC100の処理を示すフローチャートである。まず、図5に示されている記号を以下に説明する。
MB_num…各フォーカス面画像I(z)のMB5の数
Z_num…フォーカス面画像I(z)の数
I(z,mb)…フォーカス面画像I(z)上の番号mbのMB5
z0(mb)…番号mbの代表MB6を含むフォーカス面画像I(z)の位置座標z
Iall_focused(mb)…全焦点画像Iall_focusedの番号mbの代表MB6
Enc(Iall_focused(mb))…符号化後の番号mbの全焦点画像Iall_focusedの代表MB6
Enc(Iall_focused)…符号化後の全焦点画像Iall_focused
【0041】
図5に示すステップ101a及び101bは、番号mb=1のMB5から始めて、MB_numの数の全てにわたり、ステップ101a及び101bの間に記載されているステップが繰り返し行われることを意味する。ステップ102a及び102bも同様に、位置座標z=1のフォーカス面画像I(1)から始めて、Z_numの数の全てにわたり、ステップ102a及び102bの間に記載されているステップが繰り返し行われることを意味する。
【0042】
CPU101により、まず、フォーカス面画像I(1)の番号mb=1のMB5である(I(1,1))が出力される(ステップ101a及び102a)。そしてI(0,1)のMB5よりもフォーカスが合致しているか判断される(ステップ103)。I(1,1)がI(0,1)よりもフォーカスが合致していると判断された場合(ステップ103のYes)、z0(1)=1及びIall_focused(1)=I(1,1)として設定される(ステップ104)。I(1,1)がI(0,1)よりもフォーカスが合致していないと判断された場合(ステップ103のNo)、ステップ102aに戻って、次はフォーカス面画像I(2)の番号mb=1のMB5である(I(2,1))がI(0,1)と比較される(ステップ102b)。
【0043】
このようにして、番号mb=1の代表MB6が選択され、代表MB6を含むフォーカス面画像の位置座標z0(1)と、全焦点画像の番号mb=1の代表MB6がIall_focused(1)として定められる。なお、ステップ103において、全てNoと判断された場合は、フォーカス面画像I(0)の番号mb=1のMB5であるI(0,1)が代表MB6となり、位置座標z0(1)=0となる。
【0044】
ステップ105にて、Iall_focused(1)が符号化され、Enc(Iall_focused(1))が生成される。ステップ101aに戻り、番号mb=2のMB5についてステップ102a及び102bの間のステップが行われ、Iall_focused(2)としての代表MB6と、その代表MB6を有するフォーカス面画像I(z)の位置座標z0(2)が設定される。そしてIall_focused(2)が符号化される。以上全ての番号mbについて、代表MB6であるIall_focused(mb)と、その代表MB6を有するフォーカス面画像I(z)の位置座標z0(mb)が算出され、各Iall_focused(mb)が符号化される。
【0045】
ステップ106にて、符号化された全焦点画像Enc(Iall_focused)が生成され、各番号mbの代表MB6についての位置座標z0(mb)と共に、記憶部108等に記憶される。
【0046】
なお、記録容量を節約するため、全焦点画像Iall_focusedの画素値については,JPEG(Joint Photographic Experts Group)や、MPEG(Moving Picture Experts Group)等の、既知の圧縮手法により符号化されてもよい。また、位置座標z0(mb)については、可逆符号化などが用いられて圧縮されてもよい。
【0047】
なお、PC100とは別のPC等で、符号化された全焦点画像Enc(Iall_focused)が生成され、その全焦点画像Enc(Iall_focused)がPC100の記憶部108等に記憶されてもよい。
【0048】
[フォーカス面画像の圧縮符号化]
図6は、本実施形態に係るフォーカス面画像I(z)(z=0〜6)の圧縮符号化の概要を説明するための図である。図6に示すように、全焦点画像Iall_focusedの代表MB6ごとに、各代表MB6に応じたボケ補償フィルタ(PSFa、PSFb、PSFc)が畳み込まれる。そして、各フォーカス面画像I(z)にそれぞれ対応する図示しないボケ補償予測画像が生成される。フォーカス面画像I(z)と、対応するボケ補償予測画像との差分が算出され、その差分画像10a〜10gが記憶部108等に記憶される。これにより、各フォーカス面画像I(z)が圧縮符号化される。以下に詳しく説明する。
【0049】
図7は各フォーカス面画像I(z)を圧縮符号化するためのPC100の処理を示すフローチャートである。図8は、その圧縮符号化を説明するための図である。
【0050】
まず、CPU101により、図5に示すステップ106にて符号化され、記憶部108等に記憶された全焦点画像Enc(Iall_focused)の番号mbの代表MB6であるEnc(Iall_focused(mb))が復号される(ステップ202)。復号化されたEnc(Iall_focused(mb))をI’all_focused(mb)と記載する。
【0051】
復号化されたI’all_focused(mb)と、記憶部108等に記憶されたその番号mbの代表MB6についての位置座標z0(mb)が出力される(ステップ203)。そしてI’all_focused(mb)に、位置座標z0(mb)に基づいたボケ補償予測が行われる(ステップ204)。
【0052】
図7のステップ204’に示すように、ボケ補償予測は、符号化するフォーカス面画像I(z)の位置座標zと、代表MB6の位置座標z0(mb)とのZ座標変位|z−z0(mb)|に応じたボケ補償フィルタPSF(|z−z0(mb)|)が、I’all_focused(mb)に畳み込まれることで行われる。これにより、ボケ補償予測MB7としてIpred(z,mb)が出力される(ステップ205)。
【0053】
ボケ補償フィルタPSF(|z−z0(mb)|)について詳しく説明する。ボケ補償予測は、予め測定しておいた光学パラメータと、上記Z座標変位|z−z0(mb)|で決まる許容錯乱円半径R(z)を用いて、以下の点広がり関数(Point Spread Function:PSF)で表わされる。
【0054】
【数1】
【0055】
ここで、Z_pitchは、フォーカス方向(図8に示すZ方向)における撮影間隔であり、隣り合うフォーカス面画像I(z)の間隔である。その大きさは、例えば数μm程度ある。また、α、βは光学系と撮像素子との関係から定まる係数である。
【0056】
このR(z,mb)を用いて、ボケ補償フィルタPSF(|z−z0(mb)|)は、PSF(x,y,z,mb)として以下の式で表わされる。
【0057】
【数2】
【0058】
π…円周率
(x,y)…フィルタの座標
(x0,y0)…フィルタの中心座標
【0059】
上記したように、このボケ補償フィルタPSF(x,y,z,mb)がI’all_focused(mb)に畳み込まれることで、ボケ補償予測MB7であるIpred(z,mb)が出力される。これを式に表わすと、以下のようになる。
【0060】
【数3】
【0061】
CPU101により、出力されたボケ補償予測MB7であるIpred(z,mb)と、圧縮したいフォーカス面画像I(z)のMB5であるI(z,mb)との差分が算出される。これにより、差分MB8としてΔ(z,mb)が算出され、記憶部108等に記憶される(ステップ206)。これを式に表わすと以下のようになる。
【0062】
【数4】
【0063】
このように,差分MB8としてΔ(z,mb)が記録されることで、圧縮前のフォーカス面画像I(z)のMB5であるI(z,mb)のデータと比べて大幅にデータ量を削減することができる。このΔ(z,mb)に対しては、周波数変換および可逆圧縮技術等の様々な符号化方式を適用することによってさらなる高圧縮が可能となる(ステップ207)。ステップ207では、符号化後のΔ(z,mb)をEnc(Δ(z,mb))と記載する。
【0064】
ステップ201bからステップ201aに戻り、全ての番号mbについてボケ補償予測MB7であるIpred(z,mb)が出力され、圧縮したいフォーカス面画像I(z)に対応するボケ補償予測画像9としてIpred(z)が生成される。また、全ての番号mbについて差分MB8としてΔ(z,mb)が生成され、圧縮したいフォーカス面画像I(z)に対応する差分画像10としてΔ(z)が生成される。ステップ208では、符号化されたEnc(Δ(z))が出力されている。
【0065】
上記で説明したボケ補償フィルタは、ボケていく方向にしか予測画像を生成することができない。従って、例えばあるフォーカス面画像I(z’)を基準として、このフォーカス面画像I(z’)全体にボケ補償フィルタが畳み込まれ、ボケ補償予測画像が生成されたとする。この場合、圧縮したい他のフォーカス面画像I(z)に、最もフォーカスが合致した領域(代表MB6に相当)があっても、生成されたボケ補償予測画像ではその最もフォーカスが合致した領域を表現することができない。この結果、圧縮したいフォーカス面画像I(z)と、ボケ補償予測画像との差分データが大きくなり、圧縮率が低下してしまう。
【0066】
しかしながら、本実施形態の情報処理装置であるPC100では、復号された全焦点画像I’all_focusedを形成する最もフォーカスの合致した画像である代表MB6ごとにボケ補償フィルタPSF(|z−z0(mb)|)が畳み込まれる。これにより、代表MB6ごとにボケ補償予測MB7が出力される。従って、各フォーカス面画像I(z)に対応したボケ補償予測画像9を高い精度で生成することができる。この結果、フォーカス面画像I(z)とボケ補償予測画像9との差分画像10のデータ量を大幅に削減することができる。これにより、フォーカス位置が異なる複数のフォーカス面画像I(z)を高い圧縮率で圧縮符号化することができる。
【0067】
<第2の実施形態>
本発明の第2の実施形態に係る情報処理装置としてPCを例に挙げて説明する。これ以降の説明では、第1の実施形態で説明したPC100の構成及び作用と同様な部分については、その説明を省略又は簡略化する。
【0068】
本実施形態に係るPCは、第1の実施形態で圧縮符号化された複数のフォーカス面画像I(z)を復号するものである。本実施形態のPCの記憶部等には、図5に示すステップ106で生成された、符号化された全焦点画像Enc(Iall_focused)が記憶されている。またPCの記憶部等には、全焦点画像Enc(Iall_focused)の各番号mbの代表MBの位置座標z0(mb)が記憶されている。さらに、記憶部等には、図7に示すステップ208にて生成された、圧縮された各フォーカス面画像I(z)に対応する符号化された差分画像Enc(Δ(z))が記憶されている。
【0069】
[フォーカス面画像の復号]
図9は各フォーカス面画像I(z)を復号するための本実施形態に係るPCの処理を示すフローチャートである。
【0070】
本実施形態のPCが有するCPUにより、図7に示すステップ202から205までの動作と同様の処理が行われる(ステップ302−305)。すなわち、復号化された番号mbの代表MBであるI’all_focused(mb)ごとに、位置座標z0(mb)に基づいたボケ補償予測が行われ、ボケ補償予測MBであるIpred(z,mb)が出力される。
【0071】
次に、記憶部等に記憶されている符号化された差分画像Enc(Δ(z))の、符号化された差分MBであるEnc(Δ(z,mb))が復号され、復号後の差分MBとしてΔ’(z,mb)が生成される(ステップ306)。
【0072】
ステップ305で生成されたボケ補償予測MBであるIpred(z,mb)と、上記の差分MBであるΔ’(z,mb)との加算MBとして、I’(z,mb)が生成される(ステップ307)。この加算MBであるI’(z,mb)は、フォーカス面画像I(z)の番号mbのMBが復号されたものである。これを式に表わすと以下のようになる。
【0073】
【数5】
【0074】
ステップ301bからステップ301aに戻り、全ての番号mbに対して上記の処理が行われ、フォーカス面画像I’(z)が、フォーカス面画像I(z)の復号画像として出力される(ステップ308)。上記の処理が各位置座標zにおいて行われることで、複数のフォーカス面画像I(z)が復号される。
【0075】
以上、本実施形態に係る情報処理装置(PC)では、復号された差分画像Δ(z)と、ボケ補償予測画像Ipred(z)とがMBごとに加算され、加算画像であるフォーカス面画像I’(z)が、フォーカス面画像I(z)の復号画像として生成される。従って、任意のフォーカス面画像I(z)を復号するためには、復号された全焦点画像I’all_focusedを参照すればよく、他のフォーカス面画像I(z)を復号する必要がない。これにより、フォーカス位置が異なる複数のフォーカス面画像I(z)を短い処理時間で復号することができる。この結果、光学顕微鏡の微動焦点ねじを回すという操作と同様な操作を、容易に操作性よく実現することができる。
【0076】
なお、第1の実施形態で説明したPC100により、本実施形態で説明したような、複数のフォーカス面画像I(z)の復号が行われてもよい。
【0077】
<第3の実施形態>
図10は、本発明の第3の実施形態に係る、代表MBに対するボケ補償フィルタの畳み込みについて説明するための図である。
【0078】
図10に示すように、復号された全焦点画像I’all_focusedの代表MB306であるI’all_focused(A)にボケ補償フィルタPSF(|z−z0(A)|)が畳み込まれる。この際、I’all_focused(A)と、これに隣接し合う他の代表MB306であるI’all_focused(B)、I’all_focused(C)、及びI’all_focused(D)との境界に位置する境界領域Wにも、I’all_focused(A)に応じたボケ補償フィルタPSF(|z−z0(A)|)が畳み込まれる。すなわち、I’all_focused(B)、I’all_focused(C)、及びI’all_focused(D)においては、境界領域Wに含まれない領域には、ボケ補償フィルタPSF(|z−z0(B)|)、ボケ補償フィルタPSF(|z−z0(C)|)、及びボケ補償フィルタPSF(|z−z0(D)|)がそれぞれ畳み込まれる。そして、境界領域Wに含まれる領域には、上記したように、ボケ補償フィルタPSF(|z−z0(A)|)が畳み込まれる。そして、ボケ補償予測MBであるIpred(z,A)、Ipred(z,B)、Ipred(z,C)、及びIpred(z,D)がそれぞれ生成される。
【0079】
以上のように、代表MB306ごとに各ボケ補償フィルタが畳み込まれ、かつ、隣接し合う代表MB306の境界領域Wに、上記ボケ補償フィルタPSF(|z−z0(A)|)が畳み込まれる。これにより、代表MBごとにボケ補償予測が行われることで発生する可能性がある、MB境界での不連続に起因する、折り返しやエイリアシング等の問題を防ぐことが可能である。
【0080】
本実施形態では、境界領域用ボケ補償予測として、境界領域Wにボケ補償フィルタPSF(|z−z0(A)|)が畳み込まれた。しかしながら、ボケ補償フィルタPSF(|z−z0(A)|)ではなく、ボケ補償フィルタPSF(|z−z0(B)|)、ボケ補償フィルタPSF(|z−z0(C)|)、又はボケ補償フィルタPSF(|z−z0(D)|)のいずれかが境界領域Wに畳み込まれてもよい。あるいは、各代表MB306に畳み込まれるボケ補償フィルタとは異なるボケ補償フィルタが適宜設定され、境界領域Wに畳み込まれてもよい。
【0081】
<第4の実施形態>
図11は、本発明の第4の実施形態に係る、複数のフォーカス面画像I(z)の圧縮符号化及び復号の概要を説明するための図である。
【0082】
本実施形態では、M=1の解像度を有する縮小全焦点画像I"all_focusedがPCの記憶部等に記憶されている。そして、この縮小全焦点画像I"all_focusedが参照されることで、M=0の解像度を有する複数のフォーカス面画像I(z)が圧縮符号化され、また復号される。
【0083】
縮小全焦点画像I"all_focusedは、図4に示す全焦点画像Iall_focusedが縮小されることで生成される。あるいは、図3に示す画像ピラミッド構造4a〜4gにそれぞれ含まれる、M=1の解像度を有する縮小フォーカス面画像I"(z)から、縮小全焦点画像I"all_focusedが生成されてもよい。
【0084】
縮小全焦点画像I"all_focusedの、縮小代表MB6"ごとに、例えばLanczos等の拡大フィルタ及びボケ補償フィルタPSFが畳み込まれることで、M=0の解像度を有するボケ補償予測画像が生成される。M=0の解像度を有する各フォーカス面画像I(z)とボケ補償予測画像との差分が算出され、M=0の解像度を有する差分画像10a〜10gが生成される。
【0085】
フォーカス面画像I(z)の復号の際には、縮小全焦点画像I"all_focusedから、上記したようにM=0の解像度を有するボケ補償予測画像が生成される。そしてボケ補償予測画像と、M=0の解像度を有する差分画像10a〜10gとが加算されることで、M=0の解像度を有する複数のフォーカス面画像I(z)が復号される。
【0086】
このように、解像度が小さい縮小全焦点画像I"all_focusedが用いられることで、これを保持するメモリサイズを少なくすることができる。また縮小全焦点画像I"all_focusedが符号化されて記憶部等に記憶される場合、縮小全焦点画像I"all_focusedを復号するときのCPUの処理量を低減させることができる。なお、縮小全焦点画像I"all_focusedの解像度は、M=1の解像度に限られず、適宜設定されてよい。
【0087】
上記した各実施形態に係る情報処理装置は、例えば、医療または病理等の分野において、光学顕微鏡により得られた、生体の細胞、組織、臓器等の画像をデジタル化し、そのデジタル画像に基づき、医師や病理学者等がその組織等を検査したり、患者を診断したりするシステム等に用いられる。しかしながら、この分野に限られず他の分野においても適用可能である。
【0088】
<その他の実施形態>
本発明に係る実施形態は、以上説明した実施形態に限定されず、他の種々の実施形態がある。
【0089】
上記した各実施形態では、情報処理装置としてPCを一例に挙げて説明した。しかしながら、本実施形態に係る情報処理装置として光学顕微鏡の機能を有するスキャナ装置等が用いられ、このスキャナ装置等により複数のフォーカス面画像が圧縮符号化され、また復号されてもよい。
【0090】
また、図12に示すように、本発明の実施形態として用いられるスキャナ装置500により圧縮符号化された複数のフォーカス面画像が、PC200とは別のコンピュータやサーバ600に記憶されてもよい。そしてユーザが端末装置として使用するPC200が、それら別のコンピュータやサーバ600にアクセスしてその圧縮符号化された複数のフォーカス面画像を受信してもよい。圧縮符号化された複数のフォーカス面画像は、PC200により復号される。この場合、端末装置としてのPC200とサーバ600等とがLANまたはWAN等のネットワーク700を介して接続されてもよい。特に、WANが使用されることにより遠隔病理学(Telepathology)や遠隔診断等を実現することができる。
【符号の説明】
【0091】
Iall_focused…全焦点画像
PSF…ボケ補償フィルタ
W…境界領域
z…位置座標
z0(mb)…番号mbの代表MBを含むフォーカス面画像の位置座標
2…観察対象物
3(3a〜3g)、I(z)…フォーカス面画像
5…MB(マクロブロック)
6、306…代表MB
9…ボケ補償予測画像
10…差分画像
100、200…PC
101…CPU
102…ROM
103…RAM
108…記憶部
111…記録媒体
500…スキャナ装置
600…サーバ
【技術分野】
【0001】
本発明は、画像データの圧縮符号化又は復号を可能とする情報処理装置、情報処理方法、及びそのプログラムに関する。
【背景技術】
【0002】
近年、光学顕微鏡により得られた画像をデジタル方式で撮影し、デジタル画像として保存又は表示するシステムが知られている。このようなシステムでは、実際の顕微鏡と同等以上の操作性により、撮影されたデジタル画像を観察可能であることが望まれる。
【0003】
例えば、被写界深度の狭い顕微鏡光学系で厚みのある試料が観察されるときには、微動焦点ねじを回してフォーカスの位置を変化させる操作が必要となる。上記したシステムでこの操作を実現するためには、同じ試料を複数のフォーカス位置で撮影することで得られる複数のフォーカス面画像が必要となる。従って、1つの試料を観察するために膨大な量の画像データが必要となるので、上記システムでは、画像データを効率よく圧縮することが求められる。
【0004】
例えば特許文献1では、複数のフォーカス面画像に対して隣接し合うフレーム間の差分をとるフレーム間符号化を用いた圧縮方法が示されている。また、基準となるフォーカス面画像にボケ補償予測が行われることで作成される予測画像を用いた圧縮方法についても触れられている。例えばあるフォーカス面画像を圧縮したい場合、そのフォーカス面と基準となるフォーカス面との距離等に応じたボケ補償予測が基準フォーカス面画像に行われる。そして作成された予測画像と圧縮したいフォーカス面画像との差分データが符号化される(特許文献1の段落[0030]、[0033]等参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2007−11977号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、特許文献1に記載のフレーム間符号化方式では、任意のフォーカス位置のフォーカス画面像を復号するためには、隣接するフォーカス画面像を復号しなければならない。従って、復号処理にかかる時間が長くなり実用性に欠く。また、上記したボケ補償予測は、ボケていく方向にしか画像予測が行えないので、1枚の基準フォーカス面画像からボケ補償予測を行う場合、高精度の予測画像を作成することが難しくなる。この結果、予測画像と圧縮したいフォーカス面画像との差分データが大きくなり圧縮率が低下してしまう。
【0007】
以上のような事情に鑑み、本発明の目的は、フォーカス位置が異なる複数のフォーカス面画像を高い圧縮率で圧縮符号化することができ、また、短い処理時間で復号することができる情報処理装置、情報処理方法、及びそのプログラムを提供することにある。
【課題を解決するための手段】
【0008】
上記目的を達成するため、本発明の一形態に係る情報処理装置は、記憶手段と、予測画像生成手段とを具備する。
前記記憶手段は、異なる複数のフォーカス位置で観察対象物が撮影されることで得られる複数のフォーカス面画像から、前記フォーカス面画像を形成する複数の分割領域の画像のうち最もフォーカスの合致した画像である代表分割画像を、前記分割領域に応じて前記フォーカス面画像ごとに選択することで生成された全焦点画像と、前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置の情報とを記憶する。
前記予測画像生成手段は、前記記憶手段により記憶された前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置情報に基づいて、前記代表分割画像ごとに前記フォーカス面画像の前記フォーカス位置情報に応じた、ボケ関数を用いたボケ補償予測を行うことで、前記フォーカス面画像に対応するボケ補償予測画像を生成する。
【0009】
この情報処理装置では、全焦点画像を形成する最もフォーカスの合致した画像である代表分割画像ごとにボケ補償予測が行われるので、各フォーカス面画像に対応したボケ補償予測画像を高い精度で生成することができる。従って、例えばフォーカス面画像とボケ補償予測画像との差分画像を生成することで、フォーカス位置が異なる複数のフォーカス面画像を高い圧縮率で圧縮符号化することができる。
【0010】
前記情報処理装置は、全焦点画像生成手段と、差分画像生成手段とをさらに具備してもよい。
前記全焦点画像生成手段は、前記分割領域画像の輝度情報に基づいて前記代表分割画像を選択することで、前記全焦点画像を生成する。
前記差分画像生成手段は、前記フォーカス面画像と、前記予測画像生成手段により生成された前記フォーカス面画像に対応する前記ボケ補償予測画像との差分画像を生成する。
【0011】
上記したように、各フォーカス面画像に対応したボケ補償予測画像が高い精度で生成されるので、フォーカス面画像とボケ補償予測画像との差分画像のデータ量を少なくすることができる。これによりフォーカス位置が異なる複数のフォーカス面画像を高い圧縮率で圧縮符号化することができる。
【0012】
前記全焦点画像生成手段は、前記分割領域画像のコントラストに基づいて前記代表分割画像を選択することで、前記全焦点画像を生成してもよい。
【0013】
前記予測画像生成手段は、前記代表分割画像ごとに前記ボケ補償予測を行い、かつ、前記全焦点画像に含まれる隣接する複数の前記代表分割画像の境界領域に、境界領域用ボケ補償予測を行ってもよい。
隣接し合う代表分割画像の境界領域に、境界領域用ボケ補償予測が行われることで、例えば代表分割画像の境界での不連続に起因する折り返し等の問題を防止することができる。
【0014】
前記記憶手段は、前記フォーカス面画像と、前記予測画像生成手段により生成された前記フォーカス面画像に対応する前記ボケ補償予測画像との差分画像を記憶してもよい。この場合、前記情報処理装置は、前記記憶手段に記憶された前記差分画像と、前記予測画像生成手段により生成された前記フォーカス面画像に対応する前記ボケ補償予測画像との加算画像を生成する加算画像生成手段をさらに具備してもよい。
【0015】
この情報処理装置では、記憶された差分画像と各フォーカス面画像に対応するボケ補償予測画像との加算画像が生成されることで、各フォーカス面画像が復号される。従って、任意のフォーカス面画像を復号するために、他のフォーカス面画像を復号する必要がない。これにより、フォーカス位置が異なる複数のフォーカス面画像を短い処理時間で復号することができる。
【0016】
本発明の一形態に係る情報処理方法は、情報処理装置により実行される以下の方法である。
すなわち、情報処理装置は、異なる複数のフォーカス位置で観察対象物が撮影されることで得られる複数のフォーカス面画像から、前記フォーカス面画像を形成する複数の分割領域の画像のうち最もフォーカスの合致した画像である代表分割画像を、前記分割領域に応じて前記フォーカス面画像ごとに選択することで生成された全焦点画像と、前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置の情報とを記憶する。
前記記憶された前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置情報に基づいて、前記代表分割画像ごとに前記フォーカス面画像の前記フォーカス位置情報に応じた、ボケ関数を用いたボケ補償予測が行われることで、前記フォーカス面画像に対応するボケ補償予測画像が生成される。
【0017】
本発明の一形態に係るプログラムは、上記情報処理方法を情報処理装置に実行させる。前記プログラムが記録媒体に記録されていてもよい。
【発明の効果】
【0018】
以上のように、本発明によれば、フォーカス位置が異なる複数のフォーカス面画像を高い圧縮率で圧縮符号化することができ、また、短い処理時間で復号することができる。
【図面の簡単な説明】
【0019】
【図1】本発明の第1の実施形態に係る情報処理装置を少なくとも含む情報処理システムの構成を示すブロック図である。
【図2】図1に示すPCにより圧縮符号化される、複数のフォーカス面画像を説明するための図である。
【図3】図1に示すPCにより圧縮符号化される、複数のフォーカス面画像を説明するための図である。
【図4】図2に示す複数のフォーカス面画像の圧縮符号化に用いられる全焦点画像について説明するための図である。
【図5】図4に示す全焦点画像を生成するためのPCの処理を示すフローチャートである。
【図6】図2に示す複数のフォーカス面画像の圧縮符号化の概要を説明するための図である。
【図7】図2に示す複数のフォーカス面画像を圧縮符号化するためのPCの処理を示すフローチャートである。
【図8】図2に示す複数のフォーカス面画像の圧縮符号化を説明するための図である。
【図9】本発明の第2の実施形態に係るPCの、圧縮符号化された各フォーカス面画像を復号するための処理を示すフローチャートである。
【図10】本発明の第3の実施形態に係る、代表MBに対するボケ補償フィルタの畳み込みについて説明するための図である。
【図11】本発明の第4の実施形態に係る、複数のフォーカス面画像の圧縮符号化の概要を説明するための図である。
【図12】本発明のその他の実施形態に係る情報処理システムの構成例を示す図である。
【発明を実施するための形態】
【0020】
以下、図面を参照しながら、本発明の実施形態を説明する。
【0021】
<第1の実施形態>
[情報処理装置の構成]
図1は、本発明の第1の実施形態に係る情報処理装置を少なくとも含む情報処理システムの構成を示すブロック図である。情報処理装置として、例えばPC(Personal Computer)100が用いられる。
【0022】
PC100は、CPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、入出力インターフェース105、及び、これらを互いに接続するバス104を備える。
【0023】
入出力インターフェース105には、表示部106、入力部107、記憶部108、通信部109、ドライブ部110等が接続される。
【0024】
表示部106は、例えば液晶、EL(Electro-Luminescence)、CRT(Cathode Ray Tube)等を用いた表示デバイスである。
【0025】
入力部107は、例えばポインティングデバイス、キーボード、タッチパネル、その他の操作装置である。入力部107がタッチパネルを含む場合、そのタッチパネルは表示部106と一体となり得る。
【0026】
記憶部108は、不揮発性の記憶デバイスであり、例えばHDD(Hard Disk Drive)、フラッシュメモリ、その他の固体メモリである。
【0027】
ドライブ部110は、例えば光学記録媒体、フロッピー(登録商標)ディスク、磁気記録テープ、フラッシュメモリ等、リムーバブルの記録媒体111を駆動することが可能なデバイスである。これに対し上記記憶部108は、主にリムーバブルでない記録媒体を駆動する、PC100に予め搭載されたデバイスとして使用される場合が多い。
【0028】
通信部109は、LAN(Local Area Network)、WAN(Wide Area Network)等に接続可能な、他のデバイスと通信するためのモデム、ルータ、その他の通信機器である。通信部109は、有線及び無線のどちらを利用して通信するものであってもよい。通信部109は、PC100とは別体で使用される場合が多い。
【0029】
[圧縮符号化される画像]
図2及び図3は、本実施形態のPC100により圧縮符号化される、複数のフォーカス面画像を説明するための図である。
【0030】
例えば光学顕微鏡の機能を有する図示しないスキャナ装置等により、2枚のスライドガラス1a及び1bの間に保持された観察対象物2が撮影される。図2に示すように光学顕微鏡のフォーカスが合致する範囲である被写界深度Fは、観察対象物2の厚みtよりも小さい。そこで観察対象物2は、光学顕微鏡のフォーカス方向である観察対象物2の厚み方向(図2に示すZ方向)で、異なる複数のフォーカス位置において撮影される。これにより、フォーカスの合致した領域がそれぞれ異なる複数のフォーカス面画像3が生成される。これら複数のフォーカス面画像3が適宜出力されることで、光学顕微鏡の微動焦点ねじを回してフォーカスの位置を変化させる操作と同様な操作が実現可能となる。
【0031】
図2では、7枚のフォーカス面画像3a〜3gが図示されているが、フォーカス面画像3の数は適宜設定可能であり、例えば数十枚程度、もしくはそれ以上の数のフォーカス面画像3が生成されてもよい。なお、上記のようなフォーカス面画像3を生成する処理は「バーチャルスライド化」と呼ばれる。
【0032】
また、図3に示すように、各フォーカス面画像3a〜3gについて画像ピラミッド構造4a〜4gが生成される。これら画像ピラミッド構造4a〜4gは、各フォーカス面画像3a〜3gについて、異なる複数の解像度により生成された画像群である。図3に示す横軸のZ軸はフォーカス方向軸を示しており、縦軸のM軸は画像の倍率(解像度)方向軸を示している。
【0033】
画像ピラミッド構造4a〜4gの最下(M=0)には、最も大きいサイズのフォーカス面画像3a〜3gが配置され、最上(M=3)には最も小さいサイズのフォーカス面画像3’a〜3’gが配置される。最も大きいサイズのフォーカス面画像3a〜3gの解像度は、例えば50×50(Kpixel:キロピクセル)、あるいは40×60(Kpixel)である。最も小さいサイズのフォーカス面画像3’a〜3’gは、例えば256×256(pixel)、あるいは、256×512(pixel)である。
【0034】
M=1,2,3の低倍率のフォーカス面画像は、M=0の高倍率のフォーカス面画像3a〜3gが、例えばLanczos等のフィルタにより縮小されることで生成される。縮小率としては、例えば1/2、1/4、1/8、あるいは、それ以上の縮小率が選択される。複数の画像ピラミッド構造4a〜4gにより、光学顕微鏡により得られる像の倍率を変更する操作と同様な操作が実現可能となる。
【0035】
[情報処理装置の動作]
本実施形態の情報処理装置である、PC100の動作を説明する。以下のPC100の処理は、記憶部108またはROM102等に記憶されたソフトウェアと、PC100のハードウェア資源との協働により実現される。具体的には、CPU101が記憶部108またはROM102等に記憶された、ソフトウェアを構成するプログラムをRAM103にロードして実行することにより、以下の処理が実現される。
【0036】
[全焦点画像]
まず、図2に示す複数のフォーカス面画像3の圧縮符号化に用いられる全焦点画像について説明する。図4はその全焦点画像を説明するための図である。
【0037】
図4に示すように、CPU101により、フォーカス面画像3a〜3gのフォーカス位置情報としての、Z方向における位置座標z(0〜6)が定められる。図4に示すZ方向は、図2示す観察対象物2の厚み方向に対応しており、例えば位置座標zが0であるフォーカス面画像3aは、観察対象物2の図2で見て最上部側にフォーカス位置が定められて撮影された画像である。以下、フォーカス面画像3a〜3gを、位置座標zを用いてフォーカス面画像I(z)と記載する。
【0038】
また図4に示すように、CPU101により、各フォーカス面画像I(z)はそれぞれ複数の分割領域の画像であるMB(マクロブロック)5に分割される。MB5のサイズは、典型的には16×16(pixel)であるが、例えば8×8(pixel)でもよく、適宜設定可能である。各MB5には、2次元上の位置情報として番号mbが付せられる。例えば図4に示すように、各フォーカス面画像I(z)上のMB5であって、それぞれ同一の番号mb(例えばmb=10)を有するMB5は、各フォーカス面画像I(z)上の同一の位置にそれぞれ配置されるMB5となる。
【0039】
CPU101により、全ての番号mbに対して、各フォーカス面画像I(z)がそれぞれ有するMB5の中から、最もフォーカスが合致している代表分割画像として代表MB6が選択される。これら代表MB6が貼り合わされて図4に示す全焦点画像Iall_focusedが生成される。代表MB6の選択方法としては、例えばMB5の各ピクセルの輝度値からMB5のコントラストが算出され、最もコントラストが大きいMB5が代表MB6として選択される。あるいは、各MB5における最大輝度値または平均輝度値が最も大きいMB5が代表MB6として選択されてもよい。その他、MB5の輝度情報に基づく各種のフォーカス検出方法を採用可能である。
【0040】
図5は全焦点画像Iall_focusedを生成するためのPC100の処理を示すフローチャートである。まず、図5に示されている記号を以下に説明する。
MB_num…各フォーカス面画像I(z)のMB5の数
Z_num…フォーカス面画像I(z)の数
I(z,mb)…フォーカス面画像I(z)上の番号mbのMB5
z0(mb)…番号mbの代表MB6を含むフォーカス面画像I(z)の位置座標z
Iall_focused(mb)…全焦点画像Iall_focusedの番号mbの代表MB6
Enc(Iall_focused(mb))…符号化後の番号mbの全焦点画像Iall_focusedの代表MB6
Enc(Iall_focused)…符号化後の全焦点画像Iall_focused
【0041】
図5に示すステップ101a及び101bは、番号mb=1のMB5から始めて、MB_numの数の全てにわたり、ステップ101a及び101bの間に記載されているステップが繰り返し行われることを意味する。ステップ102a及び102bも同様に、位置座標z=1のフォーカス面画像I(1)から始めて、Z_numの数の全てにわたり、ステップ102a及び102bの間に記載されているステップが繰り返し行われることを意味する。
【0042】
CPU101により、まず、フォーカス面画像I(1)の番号mb=1のMB5である(I(1,1))が出力される(ステップ101a及び102a)。そしてI(0,1)のMB5よりもフォーカスが合致しているか判断される(ステップ103)。I(1,1)がI(0,1)よりもフォーカスが合致していると判断された場合(ステップ103のYes)、z0(1)=1及びIall_focused(1)=I(1,1)として設定される(ステップ104)。I(1,1)がI(0,1)よりもフォーカスが合致していないと判断された場合(ステップ103のNo)、ステップ102aに戻って、次はフォーカス面画像I(2)の番号mb=1のMB5である(I(2,1))がI(0,1)と比較される(ステップ102b)。
【0043】
このようにして、番号mb=1の代表MB6が選択され、代表MB6を含むフォーカス面画像の位置座標z0(1)と、全焦点画像の番号mb=1の代表MB6がIall_focused(1)として定められる。なお、ステップ103において、全てNoと判断された場合は、フォーカス面画像I(0)の番号mb=1のMB5であるI(0,1)が代表MB6となり、位置座標z0(1)=0となる。
【0044】
ステップ105にて、Iall_focused(1)が符号化され、Enc(Iall_focused(1))が生成される。ステップ101aに戻り、番号mb=2のMB5についてステップ102a及び102bの間のステップが行われ、Iall_focused(2)としての代表MB6と、その代表MB6を有するフォーカス面画像I(z)の位置座標z0(2)が設定される。そしてIall_focused(2)が符号化される。以上全ての番号mbについて、代表MB6であるIall_focused(mb)と、その代表MB6を有するフォーカス面画像I(z)の位置座標z0(mb)が算出され、各Iall_focused(mb)が符号化される。
【0045】
ステップ106にて、符号化された全焦点画像Enc(Iall_focused)が生成され、各番号mbの代表MB6についての位置座標z0(mb)と共に、記憶部108等に記憶される。
【0046】
なお、記録容量を節約するため、全焦点画像Iall_focusedの画素値については,JPEG(Joint Photographic Experts Group)や、MPEG(Moving Picture Experts Group)等の、既知の圧縮手法により符号化されてもよい。また、位置座標z0(mb)については、可逆符号化などが用いられて圧縮されてもよい。
【0047】
なお、PC100とは別のPC等で、符号化された全焦点画像Enc(Iall_focused)が生成され、その全焦点画像Enc(Iall_focused)がPC100の記憶部108等に記憶されてもよい。
【0048】
[フォーカス面画像の圧縮符号化]
図6は、本実施形態に係るフォーカス面画像I(z)(z=0〜6)の圧縮符号化の概要を説明するための図である。図6に示すように、全焦点画像Iall_focusedの代表MB6ごとに、各代表MB6に応じたボケ補償フィルタ(PSFa、PSFb、PSFc)が畳み込まれる。そして、各フォーカス面画像I(z)にそれぞれ対応する図示しないボケ補償予測画像が生成される。フォーカス面画像I(z)と、対応するボケ補償予測画像との差分が算出され、その差分画像10a〜10gが記憶部108等に記憶される。これにより、各フォーカス面画像I(z)が圧縮符号化される。以下に詳しく説明する。
【0049】
図7は各フォーカス面画像I(z)を圧縮符号化するためのPC100の処理を示すフローチャートである。図8は、その圧縮符号化を説明するための図である。
【0050】
まず、CPU101により、図5に示すステップ106にて符号化され、記憶部108等に記憶された全焦点画像Enc(Iall_focused)の番号mbの代表MB6であるEnc(Iall_focused(mb))が復号される(ステップ202)。復号化されたEnc(Iall_focused(mb))をI’all_focused(mb)と記載する。
【0051】
復号化されたI’all_focused(mb)と、記憶部108等に記憶されたその番号mbの代表MB6についての位置座標z0(mb)が出力される(ステップ203)。そしてI’all_focused(mb)に、位置座標z0(mb)に基づいたボケ補償予測が行われる(ステップ204)。
【0052】
図7のステップ204’に示すように、ボケ補償予測は、符号化するフォーカス面画像I(z)の位置座標zと、代表MB6の位置座標z0(mb)とのZ座標変位|z−z0(mb)|に応じたボケ補償フィルタPSF(|z−z0(mb)|)が、I’all_focused(mb)に畳み込まれることで行われる。これにより、ボケ補償予測MB7としてIpred(z,mb)が出力される(ステップ205)。
【0053】
ボケ補償フィルタPSF(|z−z0(mb)|)について詳しく説明する。ボケ補償予測は、予め測定しておいた光学パラメータと、上記Z座標変位|z−z0(mb)|で決まる許容錯乱円半径R(z)を用いて、以下の点広がり関数(Point Spread Function:PSF)で表わされる。
【0054】
【数1】
【0055】
ここで、Z_pitchは、フォーカス方向(図8に示すZ方向)における撮影間隔であり、隣り合うフォーカス面画像I(z)の間隔である。その大きさは、例えば数μm程度ある。また、α、βは光学系と撮像素子との関係から定まる係数である。
【0056】
このR(z,mb)を用いて、ボケ補償フィルタPSF(|z−z0(mb)|)は、PSF(x,y,z,mb)として以下の式で表わされる。
【0057】
【数2】
【0058】
π…円周率
(x,y)…フィルタの座標
(x0,y0)…フィルタの中心座標
【0059】
上記したように、このボケ補償フィルタPSF(x,y,z,mb)がI’all_focused(mb)に畳み込まれることで、ボケ補償予測MB7であるIpred(z,mb)が出力される。これを式に表わすと、以下のようになる。
【0060】
【数3】
【0061】
CPU101により、出力されたボケ補償予測MB7であるIpred(z,mb)と、圧縮したいフォーカス面画像I(z)のMB5であるI(z,mb)との差分が算出される。これにより、差分MB8としてΔ(z,mb)が算出され、記憶部108等に記憶される(ステップ206)。これを式に表わすと以下のようになる。
【0062】
【数4】
【0063】
このように,差分MB8としてΔ(z,mb)が記録されることで、圧縮前のフォーカス面画像I(z)のMB5であるI(z,mb)のデータと比べて大幅にデータ量を削減することができる。このΔ(z,mb)に対しては、周波数変換および可逆圧縮技術等の様々な符号化方式を適用することによってさらなる高圧縮が可能となる(ステップ207)。ステップ207では、符号化後のΔ(z,mb)をEnc(Δ(z,mb))と記載する。
【0064】
ステップ201bからステップ201aに戻り、全ての番号mbについてボケ補償予測MB7であるIpred(z,mb)が出力され、圧縮したいフォーカス面画像I(z)に対応するボケ補償予測画像9としてIpred(z)が生成される。また、全ての番号mbについて差分MB8としてΔ(z,mb)が生成され、圧縮したいフォーカス面画像I(z)に対応する差分画像10としてΔ(z)が生成される。ステップ208では、符号化されたEnc(Δ(z))が出力されている。
【0065】
上記で説明したボケ補償フィルタは、ボケていく方向にしか予測画像を生成することができない。従って、例えばあるフォーカス面画像I(z’)を基準として、このフォーカス面画像I(z’)全体にボケ補償フィルタが畳み込まれ、ボケ補償予測画像が生成されたとする。この場合、圧縮したい他のフォーカス面画像I(z)に、最もフォーカスが合致した領域(代表MB6に相当)があっても、生成されたボケ補償予測画像ではその最もフォーカスが合致した領域を表現することができない。この結果、圧縮したいフォーカス面画像I(z)と、ボケ補償予測画像との差分データが大きくなり、圧縮率が低下してしまう。
【0066】
しかしながら、本実施形態の情報処理装置であるPC100では、復号された全焦点画像I’all_focusedを形成する最もフォーカスの合致した画像である代表MB6ごとにボケ補償フィルタPSF(|z−z0(mb)|)が畳み込まれる。これにより、代表MB6ごとにボケ補償予測MB7が出力される。従って、各フォーカス面画像I(z)に対応したボケ補償予測画像9を高い精度で生成することができる。この結果、フォーカス面画像I(z)とボケ補償予測画像9との差分画像10のデータ量を大幅に削減することができる。これにより、フォーカス位置が異なる複数のフォーカス面画像I(z)を高い圧縮率で圧縮符号化することができる。
【0067】
<第2の実施形態>
本発明の第2の実施形態に係る情報処理装置としてPCを例に挙げて説明する。これ以降の説明では、第1の実施形態で説明したPC100の構成及び作用と同様な部分については、その説明を省略又は簡略化する。
【0068】
本実施形態に係るPCは、第1の実施形態で圧縮符号化された複数のフォーカス面画像I(z)を復号するものである。本実施形態のPCの記憶部等には、図5に示すステップ106で生成された、符号化された全焦点画像Enc(Iall_focused)が記憶されている。またPCの記憶部等には、全焦点画像Enc(Iall_focused)の各番号mbの代表MBの位置座標z0(mb)が記憶されている。さらに、記憶部等には、図7に示すステップ208にて生成された、圧縮された各フォーカス面画像I(z)に対応する符号化された差分画像Enc(Δ(z))が記憶されている。
【0069】
[フォーカス面画像の復号]
図9は各フォーカス面画像I(z)を復号するための本実施形態に係るPCの処理を示すフローチャートである。
【0070】
本実施形態のPCが有するCPUにより、図7に示すステップ202から205までの動作と同様の処理が行われる(ステップ302−305)。すなわち、復号化された番号mbの代表MBであるI’all_focused(mb)ごとに、位置座標z0(mb)に基づいたボケ補償予測が行われ、ボケ補償予測MBであるIpred(z,mb)が出力される。
【0071】
次に、記憶部等に記憶されている符号化された差分画像Enc(Δ(z))の、符号化された差分MBであるEnc(Δ(z,mb))が復号され、復号後の差分MBとしてΔ’(z,mb)が生成される(ステップ306)。
【0072】
ステップ305で生成されたボケ補償予測MBであるIpred(z,mb)と、上記の差分MBであるΔ’(z,mb)との加算MBとして、I’(z,mb)が生成される(ステップ307)。この加算MBであるI’(z,mb)は、フォーカス面画像I(z)の番号mbのMBが復号されたものである。これを式に表わすと以下のようになる。
【0073】
【数5】
【0074】
ステップ301bからステップ301aに戻り、全ての番号mbに対して上記の処理が行われ、フォーカス面画像I’(z)が、フォーカス面画像I(z)の復号画像として出力される(ステップ308)。上記の処理が各位置座標zにおいて行われることで、複数のフォーカス面画像I(z)が復号される。
【0075】
以上、本実施形態に係る情報処理装置(PC)では、復号された差分画像Δ(z)と、ボケ補償予測画像Ipred(z)とがMBごとに加算され、加算画像であるフォーカス面画像I’(z)が、フォーカス面画像I(z)の復号画像として生成される。従って、任意のフォーカス面画像I(z)を復号するためには、復号された全焦点画像I’all_focusedを参照すればよく、他のフォーカス面画像I(z)を復号する必要がない。これにより、フォーカス位置が異なる複数のフォーカス面画像I(z)を短い処理時間で復号することができる。この結果、光学顕微鏡の微動焦点ねじを回すという操作と同様な操作を、容易に操作性よく実現することができる。
【0076】
なお、第1の実施形態で説明したPC100により、本実施形態で説明したような、複数のフォーカス面画像I(z)の復号が行われてもよい。
【0077】
<第3の実施形態>
図10は、本発明の第3の実施形態に係る、代表MBに対するボケ補償フィルタの畳み込みについて説明するための図である。
【0078】
図10に示すように、復号された全焦点画像I’all_focusedの代表MB306であるI’all_focused(A)にボケ補償フィルタPSF(|z−z0(A)|)が畳み込まれる。この際、I’all_focused(A)と、これに隣接し合う他の代表MB306であるI’all_focused(B)、I’all_focused(C)、及びI’all_focused(D)との境界に位置する境界領域Wにも、I’all_focused(A)に応じたボケ補償フィルタPSF(|z−z0(A)|)が畳み込まれる。すなわち、I’all_focused(B)、I’all_focused(C)、及びI’all_focused(D)においては、境界領域Wに含まれない領域には、ボケ補償フィルタPSF(|z−z0(B)|)、ボケ補償フィルタPSF(|z−z0(C)|)、及びボケ補償フィルタPSF(|z−z0(D)|)がそれぞれ畳み込まれる。そして、境界領域Wに含まれる領域には、上記したように、ボケ補償フィルタPSF(|z−z0(A)|)が畳み込まれる。そして、ボケ補償予測MBであるIpred(z,A)、Ipred(z,B)、Ipred(z,C)、及びIpred(z,D)がそれぞれ生成される。
【0079】
以上のように、代表MB306ごとに各ボケ補償フィルタが畳み込まれ、かつ、隣接し合う代表MB306の境界領域Wに、上記ボケ補償フィルタPSF(|z−z0(A)|)が畳み込まれる。これにより、代表MBごとにボケ補償予測が行われることで発生する可能性がある、MB境界での不連続に起因する、折り返しやエイリアシング等の問題を防ぐことが可能である。
【0080】
本実施形態では、境界領域用ボケ補償予測として、境界領域Wにボケ補償フィルタPSF(|z−z0(A)|)が畳み込まれた。しかしながら、ボケ補償フィルタPSF(|z−z0(A)|)ではなく、ボケ補償フィルタPSF(|z−z0(B)|)、ボケ補償フィルタPSF(|z−z0(C)|)、又はボケ補償フィルタPSF(|z−z0(D)|)のいずれかが境界領域Wに畳み込まれてもよい。あるいは、各代表MB306に畳み込まれるボケ補償フィルタとは異なるボケ補償フィルタが適宜設定され、境界領域Wに畳み込まれてもよい。
【0081】
<第4の実施形態>
図11は、本発明の第4の実施形態に係る、複数のフォーカス面画像I(z)の圧縮符号化及び復号の概要を説明するための図である。
【0082】
本実施形態では、M=1の解像度を有する縮小全焦点画像I"all_focusedがPCの記憶部等に記憶されている。そして、この縮小全焦点画像I"all_focusedが参照されることで、M=0の解像度を有する複数のフォーカス面画像I(z)が圧縮符号化され、また復号される。
【0083】
縮小全焦点画像I"all_focusedは、図4に示す全焦点画像Iall_focusedが縮小されることで生成される。あるいは、図3に示す画像ピラミッド構造4a〜4gにそれぞれ含まれる、M=1の解像度を有する縮小フォーカス面画像I"(z)から、縮小全焦点画像I"all_focusedが生成されてもよい。
【0084】
縮小全焦点画像I"all_focusedの、縮小代表MB6"ごとに、例えばLanczos等の拡大フィルタ及びボケ補償フィルタPSFが畳み込まれることで、M=0の解像度を有するボケ補償予測画像が生成される。M=0の解像度を有する各フォーカス面画像I(z)とボケ補償予測画像との差分が算出され、M=0の解像度を有する差分画像10a〜10gが生成される。
【0085】
フォーカス面画像I(z)の復号の際には、縮小全焦点画像I"all_focusedから、上記したようにM=0の解像度を有するボケ補償予測画像が生成される。そしてボケ補償予測画像と、M=0の解像度を有する差分画像10a〜10gとが加算されることで、M=0の解像度を有する複数のフォーカス面画像I(z)が復号される。
【0086】
このように、解像度が小さい縮小全焦点画像I"all_focusedが用いられることで、これを保持するメモリサイズを少なくすることができる。また縮小全焦点画像I"all_focusedが符号化されて記憶部等に記憶される場合、縮小全焦点画像I"all_focusedを復号するときのCPUの処理量を低減させることができる。なお、縮小全焦点画像I"all_focusedの解像度は、M=1の解像度に限られず、適宜設定されてよい。
【0087】
上記した各実施形態に係る情報処理装置は、例えば、医療または病理等の分野において、光学顕微鏡により得られた、生体の細胞、組織、臓器等の画像をデジタル化し、そのデジタル画像に基づき、医師や病理学者等がその組織等を検査したり、患者を診断したりするシステム等に用いられる。しかしながら、この分野に限られず他の分野においても適用可能である。
【0088】
<その他の実施形態>
本発明に係る実施形態は、以上説明した実施形態に限定されず、他の種々の実施形態がある。
【0089】
上記した各実施形態では、情報処理装置としてPCを一例に挙げて説明した。しかしながら、本実施形態に係る情報処理装置として光学顕微鏡の機能を有するスキャナ装置等が用いられ、このスキャナ装置等により複数のフォーカス面画像が圧縮符号化され、また復号されてもよい。
【0090】
また、図12に示すように、本発明の実施形態として用いられるスキャナ装置500により圧縮符号化された複数のフォーカス面画像が、PC200とは別のコンピュータやサーバ600に記憶されてもよい。そしてユーザが端末装置として使用するPC200が、それら別のコンピュータやサーバ600にアクセスしてその圧縮符号化された複数のフォーカス面画像を受信してもよい。圧縮符号化された複数のフォーカス面画像は、PC200により復号される。この場合、端末装置としてのPC200とサーバ600等とがLANまたはWAN等のネットワーク700を介して接続されてもよい。特に、WANが使用されることにより遠隔病理学(Telepathology)や遠隔診断等を実現することができる。
【符号の説明】
【0091】
Iall_focused…全焦点画像
PSF…ボケ補償フィルタ
W…境界領域
z…位置座標
z0(mb)…番号mbの代表MBを含むフォーカス面画像の位置座標
2…観察対象物
3(3a〜3g)、I(z)…フォーカス面画像
5…MB(マクロブロック)
6、306…代表MB
9…ボケ補償予測画像
10…差分画像
100、200…PC
101…CPU
102…ROM
103…RAM
108…記憶部
111…記録媒体
500…スキャナ装置
600…サーバ
【特許請求の範囲】
【請求項1】
異なる複数のフォーカス位置で観察対象物が撮影されることで得られる複数のフォーカス面画像から、前記フォーカス面画像を形成する複数の分割領域の画像のうち最もフォーカスの合致した画像である代表分割画像を、前記分割領域に応じて前記フォーカス面画像ごとに選択することで生成された全焦点画像と、前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置の情報とを記憶する記憶手段と、
前記記憶手段により記憶された前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置情報に基づいて、前記代表分割画像ごとに前記フォーカス面画像の前記フォーカス位置情報に応じた、ボケ関数を用いたボケ補償予測を行うことで、前記フォーカス面画像に対応するボケ補償予測画像を生成する予測画像生成手段と
を具備する情報処理装置。
【請求項2】
請求項1に記載の情報処理装置であって、
前記分割領域画像の輝度情報に基づいて前記代表分割画像を選択することで、前記全焦点画像を生成する全焦点画像生成手段と、
前記フォーカス面画像と、前記予測画像生成手段により生成された前記フォーカス面画像に対応する前記ボケ補償予測画像との差分画像を生成する差分画像生成手段と
をさらに具備する情報処理装置。
【請求項3】
請求項2に記載の情報処理装置であって、
前記全焦点画像生成手段は、前記分割領域画像のコントラストに基づいて前記代表分割画像を選択することで、前記全焦点画像を生成する情報処理装置。
【請求項4】
請求項3に記載の情報処理装置であって、
前記予測画像生成手段は、前記代表分割画像ごとに前記ボケ補償予測を行い、かつ、前記全焦点画像に含まれる隣接する複数の前記代表分割画像の境界領域に、境界領域用ボケ補償予測を行う情報処理装置。
【請求項5】
請求項1から4のうちいずれか1項に記載の情報処理装置であって、
前記記憶手段は、前記フォーカス面画像と、前記予測画像生成手段により生成された前記フォーカス面画像に対応する前記ボケ補償予測画像との差分画像を記憶し、
前記情報処理装置は、前記記憶手段に記憶された前記差分画像と、前記予測画像生成手段により生成された前記フォーカス面画像に対応する前記ボケ補償予測画像との加算画像を生成する加算画像生成手段をさらに具備する
情報処理装置。
【請求項6】
異なる複数のフォーカス位置で観察対象物が撮影されることで得られる複数のフォーカス面画像から、前記フォーカス面画像を形成する複数の分割領域の画像のうち最もフォーカスの合致した画像である代表分割画像を、前記分割領域に応じて前記フォーカス面画像ごとに選択することで生成された全焦点画像と、前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置の情報とを記憶し、
前記記憶された前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置情報に基づいて、前記代表分割画像ごとに前記フォーカス面画像の前記フォーカス位置情報に応じた、ボケ関数を用いたボケ補償予測を行うことで、前記フォーカス面画像に対応するボケ補償予測画像を生成する
ことを情報処理装置が実行する情報処理方法。
【請求項7】
異なる複数のフォーカス位置で観察対象物が撮影されることで得られる複数のフォーカス面画像から、前記フォーカス面画像を形成する複数の分割領域の画像のうち最もフォーカスの合致した画像である代表分割画像を、前記分割領域に応じて前記フォーカス面画像ごとに選択することで生成された全焦点画像と、前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置の情報とを記憶し、
前記記憶された前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置情報に基づいて、前記代表分割画像ごとに前記フォーカス面画像の前記フォーカス位置情報に応じた、ボケ関数を用いたボケ補償予測を行うことで、前記フォーカス面画像に対応するボケ補償予測画像を生成する
ことを情報処理装置に実行させるプログラム。
【請求項1】
異なる複数のフォーカス位置で観察対象物が撮影されることで得られる複数のフォーカス面画像から、前記フォーカス面画像を形成する複数の分割領域の画像のうち最もフォーカスの合致した画像である代表分割画像を、前記分割領域に応じて前記フォーカス面画像ごとに選択することで生成された全焦点画像と、前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置の情報とを記憶する記憶手段と、
前記記憶手段により記憶された前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置情報に基づいて、前記代表分割画像ごとに前記フォーカス面画像の前記フォーカス位置情報に応じた、ボケ関数を用いたボケ補償予測を行うことで、前記フォーカス面画像に対応するボケ補償予測画像を生成する予測画像生成手段と
を具備する情報処理装置。
【請求項2】
請求項1に記載の情報処理装置であって、
前記分割領域画像の輝度情報に基づいて前記代表分割画像を選択することで、前記全焦点画像を生成する全焦点画像生成手段と、
前記フォーカス面画像と、前記予測画像生成手段により生成された前記フォーカス面画像に対応する前記ボケ補償予測画像との差分画像を生成する差分画像生成手段と
をさらに具備する情報処理装置。
【請求項3】
請求項2に記載の情報処理装置であって、
前記全焦点画像生成手段は、前記分割領域画像のコントラストに基づいて前記代表分割画像を選択することで、前記全焦点画像を生成する情報処理装置。
【請求項4】
請求項3に記載の情報処理装置であって、
前記予測画像生成手段は、前記代表分割画像ごとに前記ボケ補償予測を行い、かつ、前記全焦点画像に含まれる隣接する複数の前記代表分割画像の境界領域に、境界領域用ボケ補償予測を行う情報処理装置。
【請求項5】
請求項1から4のうちいずれか1項に記載の情報処理装置であって、
前記記憶手段は、前記フォーカス面画像と、前記予測画像生成手段により生成された前記フォーカス面画像に対応する前記ボケ補償予測画像との差分画像を記憶し、
前記情報処理装置は、前記記憶手段に記憶された前記差分画像と、前記予測画像生成手段により生成された前記フォーカス面画像に対応する前記ボケ補償予測画像との加算画像を生成する加算画像生成手段をさらに具備する
情報処理装置。
【請求項6】
異なる複数のフォーカス位置で観察対象物が撮影されることで得られる複数のフォーカス面画像から、前記フォーカス面画像を形成する複数の分割領域の画像のうち最もフォーカスの合致した画像である代表分割画像を、前記分割領域に応じて前記フォーカス面画像ごとに選択することで生成された全焦点画像と、前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置の情報とを記憶し、
前記記憶された前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置情報に基づいて、前記代表分割画像ごとに前記フォーカス面画像の前記フォーカス位置情報に応じた、ボケ関数を用いたボケ補償予測を行うことで、前記フォーカス面画像に対応するボケ補償予測画像を生成する
ことを情報処理装置が実行する情報処理方法。
【請求項7】
異なる複数のフォーカス位置で観察対象物が撮影されることで得られる複数のフォーカス面画像から、前記フォーカス面画像を形成する複数の分割領域の画像のうち最もフォーカスの合致した画像である代表分割画像を、前記分割領域に応じて前記フォーカス面画像ごとに選択することで生成された全焦点画像と、前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置の情報とを記憶し、
前記記憶された前記代表分割画像を含む前記フォーカス面画像の前記フォーカス位置情報に基づいて、前記代表分割画像ごとに前記フォーカス面画像の前記フォーカス位置情報に応じた、ボケ関数を用いたボケ補償予測を行うことで、前記フォーカス面画像に対応するボケ補償予測画像を生成する
ことを情報処理装置に実行させるプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2011−150400(P2011−150400A)
【公開日】平成23年8月4日(2011.8.4)
【国際特許分類】
【出願番号】特願2010−8989(P2010−8989)
【出願日】平成22年1月19日(2010.1.19)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成23年8月4日(2011.8.4)
【国際特許分類】
【出願日】平成22年1月19日(2010.1.19)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]