画像処理装置、画像処理方法、画像処理システム及びプログラム
【課題】 異なる撮影装置で得られる複数の画像から抽出される構造を表示する。
【解決手段】 画像取得部11が取得した断層画像に基づいて投影画像生成部12は深さ方向に垂直な面に投影した投影画像を生成する。患者データ確認部13は撮影された断層画像に対応する表面画像またはSLO画像を保存部30にて探索する。位置合わせ部14は断層画像と表面画像またはSLO画像の位置合わせを行う。解析部15は断層画像と表面画像またはSLO画像のそれぞれから血管等の構造を抽出する。表示画像作成部19は抽出結果を眼底の画像に重畳して表示するための画像データを作成する。表示部40は作成された画像データを表示する。
【解決手段】 画像取得部11が取得した断層画像に基づいて投影画像生成部12は深さ方向に垂直な面に投影した投影画像を生成する。患者データ確認部13は撮影された断層画像に対応する表面画像またはSLO画像を保存部30にて探索する。位置合わせ部14は断層画像と表面画像またはSLO画像の位置合わせを行う。解析部15は断層画像と表面画像またはSLO画像のそれぞれから血管等の構造を抽出する。表示画像作成部19は抽出結果を眼底の画像に重畳して表示するための画像データを作成する。表示部40は作成された画像データを表示する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は撮影対象の画像を表示させる画像処理装置、画像処理方法、画像処理システム及びプログラムに関する。
【背景技術】
【0002】
医療分野では、被検体を撮影した画像を見て病変の発見や病状を把握するなどの画像診断が広く行われている。この画像診断では、複数の異なる撮影装置により得られる画像を比較または検討してより詳細な検討を行うことも多い。例えば眼科では、眼底カメラ、走査型レーザ検眼鏡(SLO)または光干渉断層計(OCT)などの撮影装置で得られる画像を用いて診断を行う。ここで眼底カメラは眼底の表面のカラー画像を得ることができる。走査型レーザ検眼鏡は解像度が高い眼底表面や、網膜内部の構造の画像を得ることができる。光干渉断層計からは網膜の断層画像を得ることができる。これら撮影装置による画像を用いることで、眼底の表面及び内部構造を詳細に検討した上で診断することができる。
【0003】
このような診断を支援する技術として特許文献1には、OCTによる断層画像群を投影した画像(以下、投影画像とする)を眼底画像と重ねて表示させることが開示されている。また、OCT断層画像から抽出した血管領域などの構造情報を眼底画像上に重ねて表示させる技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−154704号広報
【発明の概要】
【発明が解決しようとする課題】
【0005】
OCT画像から血管を抽出しようとする場合には画像のノイズ等の影響により抽出が難しい。そのため、誤診を防ぐ観点から抽出の信頼性の高いごく一部の構造しか診断者に提示することができなかった。
【課題を解決するための手段】
【0006】
本発明はかかる課題を解決するためになされたものであり、光干渉断層計で被検眼を撮影して得られるOCT画像から前記被検眼の構造を抽出するとともに、眼底カメラまたは走査型レーザ検眼鏡のいずれかで前記被検眼を撮影して得られる眼底画像から前記被検眼の構造を抽出する抽出手段と、前記抽出手段によりそれぞれ抽出された構造を眼底の画像に表示させる表示制御手段と、を有することを特徴とする。
【発明の効果】
【0007】
かかる本発明によれば、光干渉断層計で得られる画像だけでなく眼底カメラまたは走査型レーザ検眼鏡で得られる画像から抽出された構造も診断者に提示することができる。
【0008】
更に、光干渉断層計と眼底カメラまたは走査型レーザ検眼鏡で撮影される画像の特性が異なるため、それぞれの特性に応じた構造が抽出される。これにより豊富な情報をユーザに提供することができる。
【図面の簡単な説明】
【0009】
【図1】撮影システム1の構成を示す図である。
【図2】撮影部22の機能構成を示す図である。
【図3】画像処理装置10の処理の概要を示す図である。
【図4】画像処理装置10の処理の流れを示すフローチャートである。
【図5】OCT断層画像群と投影画像を示す図である。
【図6】OCT断層画像とA−scanのプロファイルを示す図である。
【図7】表示部40での表示例を示す図である。
【図8】画像処理装置10のその他の処理手順を示すフローチャートである。
【図9】投影画像の透明度を変えて表面画像に重畳した表示例を示す図である。
【図10】画像処理装置10のその他の処理手順を示すフローチャートである。
【図11】眼底画像とOCT断層画像から血管領域を抽出した図と、表示部40でのその他の表示例を示す図である。
【図12】画像処理装置10のその他の処理手順を示すフローチャートである。
【図13】表示部40でのその他の表示例を示す図である。
【図14】表示部40でのその他の表示例を示す図である。
【発明を実施するための形態】
【0010】
以下に図面を適宜参照しながら本発明の実施形態を説明する。
【実施例1】
【0011】
本実施例にかかる撮影システムの構成を図1に基づいて説明する。この撮影システム1では、光干渉断層計20が被検眼を撮影して断層画像を得る。また、画像処理装置10はこの断層画像と、別途眼底カメラで撮影した眼底の表面画像または走査型レーザ検眼鏡で撮影したSLO画像(以下、表面画像とSLO画像をまとめて眼底画像とする)とから血管等の構造を抽出する。表示部40は抽出結果を画像に重畳して表示する。保存部30は撮影された断層画像と、別途眼底カメラで撮影された画像を保存する。
【0012】
画像処理装置10は光干渉断層計20、保存部30、表示部40と通信可能に接続されている。画像処理装置10は、図1に示す各ブロックをASICやFPGAその他のハードウェアとして有しており、後述する図4の処理を実行するように構成されている。
【0013】
画像取得部11が取得した断層画像に基づいて投影画像生成部12は深さ方向に垂直な面に投影した投影画像を生成する。患者データ確認部13は撮影された断層画像と同一被検眼でかつ断層画像の撮影日時から所定の期間内に撮影された画像を保存部30にて探索する。ここで探索する画像は眼底カメラにて撮影された眼底の表面画像か、走査型レーザ検眼鏡(SLO:Scanning Laser Ophthalmoscope)にて撮影されたSLO画像とする。位置合わせ部14は断層画像と表面画像またはSLO画像の位置合わせを行う。解析部15は断層画像と表面画像またはSLO画像のそれぞれから血管等の組織構造を抽出する。OCT画像解析部16は断層画像の解析を行う。表面画像解析部17は眼底カメラで得られた表面画像の解析を行う。SLO画像解析部18はSLOで得られた画像の解析を行う。表示画像作成部19は抽出結果を眼底の画像に重畳して表示するための画像データを作成する。なお表示画像作成部19が表示部40を制御する表示制御部として機能し、表示部40に作成した画像データを表示させる。
【0014】
次に図2に基づき、断層画像を形成する光干渉断層計20の構成を説明する。ここで光干渉断層計20は光干渉断層計(OCT;Optical Coherence Tomography)の原理を用いた撮影装置である。指示取得部21は、被検眼の眼底表面に対して二次元の計測範囲及び計測深度を調整する指示情報を取得する。指示情報に基づいてガルバノミラー駆動機構201はガルバノミラー202が駆動する。低コヒーレンス光源203からの光をハーフミラー204で信号光と参照光に分割する。信号光はガルバノミラー202、対物レンズ205を経由して被検眼206で反射または散乱される。参照光は固定配置された参照ミラー207で反射または散乱される。これら信号光および参照光の戻り光をハーフミラー204は重畳して干渉光を生成する。回折格子208はこの干渉光を波長λ1〜λnの波長成分に分光して、各波長成分を1次元光センサアレイ209によって検出する。画像再構成部210は1次元光センサアレイ209から出力された干渉光の各波長成分の検出信号に基づいて、網膜の断層画像が再構成する。
【0015】
なお、眼底の任意の位置に信号光を照射して一次元の画像を得ることをAスキャンと呼ぶ。またこの深さ方向の一次元の画像をAスキャン画像と呼ぶ。さらにガルバノミラー202により任意の線に沿って信号光を断続的に眼底へ入射させることにより眼底上を走査することをBスキャンと呼ぶ。また、Bスキャンにより得られた断層画像をBスキャン画像と呼ぶ。さらに、眼底表面の所定の領域内の複数の位置でAスキャンして得られた画像からAスキャンの方向と交差する画像をCスキャン画像と呼ぶ。
【0016】
このように、光干渉断層計20は被検眼の網膜を3次元的に走査し、網膜の層構造の画像を得るのに適した装置である。そのため、OCTの断層画像は網膜の深部の構造を抽出しやすい。
【0017】
これに対して眼底カメラでは、眼底に可視光を照射しその反射光を受光することにより眼底の表面画像を得る。可視光を用いることができるので、輝度情報だけでなく色情報をも取得することができ、眼底表面に現れる構造を抽出しやすい。
【0018】
また走査型レーザ検眼鏡(SLO)では、微弱なレーザ光を2次的に走査して被検眼の所定部位に照射し、その反射光を検出し画像を形成する。特に共焦点光学系(Confocal optical system)を用いたSLOでは、入射光と反射光とを両方同時に走査(二重走査)して、反射光をピンホール等の共焦点開口を介して検出する。これにより不要散乱光の影響を抑えて画像のコントラストを著しく向上すると共に、3次元的な空間分解能を向上させている。SLOでは表面画像や網膜内の構造を画像化することができる。そのため、表面の情報や内部構造の情報を抽出することができる。
【0019】
保存部30には上述のOCTにより得られた断層画像に対応する表面画像やSLO画像が格納される。これら特性の異なる複数の画像を解析することで異なる構造を抽出することができる。また、抽出の信頼性を確認することができる。
【0020】
このことを図3に基づいて具体的に説明する。図3において、RI1は眼底カメラにより得られた眼底の表面画像、PI1はOCTによる断層画像から生成された投影画像である。画像処理装置10は表面画像RI1と断層画像または投影画像(以下、OCT画像)から血管領域を抽出する。RI2、PI2は血管抽出結果をそれぞれ眼底画像、投影画像に重ねた画像であり、抽出された血管領域は太い線で表示している。次に画像処理装置10は眼底画像と投影画像の画像を重ねた画像FI1を形成し、それぞれから抽出した血管領域を併せて表示部40に表示する。このようにすることで、1つの画像上で眼底の表面画像と、積算画像と、それぞれの画像から抽出した構造の情報とを1つの画像で確認することができる。
【0021】
更に、眼底画像RI2では比較的太い血管は抽出しやすい。しかし血管と網膜のコントラストが低い場合には血管領域を抽出できないこともある。一方投影画像PI2では、血管の太さにかかわらず抽出が可能である。また、脈絡膜新生血管など表面画像からは抽出が不可能な構造を抽出することができる。しかし解像度やノイズの問題から、血管の末端部BP2などは途切れ途切れの抽出結果になることが多い。このように異なる特性を有する眼底画像とOCT画像から抽出した構造情報を併せて表示することで、それぞれの画像で情報を補い合い、より多くの情報を提供することができる。
【0022】
また、それぞれの画像からの抽出結果を確認することで、抽出結果の信頼性の情報を得ることができる。例えば、表面画像と断層画像の双方で抽出された血管は血管である信頼性が高い領域であると判断することができる。
【0023】
次に図4に従い、上述の表示を行う画像処理装置10の処理の流れを説明する。
【0024】
(ステップS401)ステップS401で画像取得部11は光干渉断層計20で撮像した断層画像を取得する。ここで取得する断層画像は、図5に示すように、複数のBスキャン画像からなる断層画像群である。また、この断層画像に対応する同一被検眼を撮影したその他の画像を保存部30から取得する。その他の画像としては、眼底カメラで撮影された眼底の表面画像か、走査型レーザ検眼鏡(SLO)で撮影されたSLO画像である。なお以下の処理は表面画像を取得した場合を説明する。
【0025】
(ステップS402)ステップS402で投影画像生成部12は断層画像群から投影画像を生成する。図5のように、断層画像T1〜Tnの各画素における輝度値をz軸の正方向に単純加算した値を投影画像PI5の画素値とする。別の例では、該輝度値の和を加算した画素数で割った値を投影画像PI5の画素値とする。また別の例では各深度位置における輝度値の最大値や最小値を投影画像PI5の画素値とする。更に別の例では、z軸方向に任意の範囲、もしくは特定の層間のみ加算した画素値を用いる。
【0026】
更に別の例では、網膜の内境界膜(ILM)と視細胞内節外節接合部(IS/OS)の間の網膜層領域を投影画像の生成に用いる領域とする。この領域における輝度値の最大値を投影画像PI5の画素値とする。ILMとIS/OSの間の領域で高輝度な領域は比較的少ない一方、白斑等の病変は高輝度な領域として画像化される。よってかかる投影画像により、投影画像において病変領域をわかりやすく表示することができる。
【0027】
(ステップS403)ステップS403で位置合わせ部14は投影画像と画像の位置合わせを行う。本実施形態では投影画像の座標系を基準とし、眼底画像のスケール(Sx,Sy)、位置座標(x,y)、回転(rot)成分を求めることにより、投影画像と眼底画像の位置を合わせる。また、画像同士が合っているかの指標を算出するため、投影画像と眼底画像における画像全体の輝度値の平均二乗誤差を用いる。つまり平均二乗誤差が最も小さくなるパラメータを本ステップの結果とする。
【0028】
なお、位置合わせの指標はこれに限定されるものではない。輝度値の平均二乗誤差の代わりに相関係数、相互情報量などを用いてもよい。なお、後述するステップS405にて抽出する構造情報を用いて投影画像と眼底画像との位置合わせを行うことで、より精度よく位置合わせを行うことができる。
【0029】
(ステップS405)ステップS405で解析部15は眼底画像から血管、視神経乳頭部、黄斑部をなどの組織構造を抽出する。眼底画像において、血管は細い線状構造で現れる。そこで、線状構造を強調するフィルタを用いて血管を抽出する。ここでは、線分を構造要素としたときに構造要素内での輝度値の平均値と構造要素を囲む局所領域内での平均値の差を計算するようなコントラストに基づく線分強調フィルタを用いる。ここでフィルタの処理結果として得られる多値領域をそのまま血管抽出結果としても良いし、ある閾値で2値化した領域を抽出結果としてもよい。ただし、線状構造を強調する方法はこれに限らない。例えば、SobelフィルタやLaplacianフィルタのような差分型フィルタを用いてもよい。また、画素ごとにヘッセ行列の固有値を計算し、結果として得られる2つの固有値の組み合わせから線分状の領域を抽出してもよい。さらには単純に線分を構造要素とするトップハット演算など、任意の公知の血管抽出法を用いてよい。また画像の輝度値の情報等を用いて視神経乳頭部と黄斑部を抽出する。
【0030】
また解析部15は病変部として白斑部を抽出する。白斑領域は、眼底画像内で局所的に存在し、且つ周辺に比べて輝度値が高いという特徴をもつ。トップハット演算と閾値処理を行うことで白斑領域を検出する。ドルーゼン、出血なども同様に解剖学的特徴を用いて抽出できる。眼底画像から得られる解剖学的特徴として、ドルーゼンは白い塊状の特徴をもつ。出血領域は、出血していない領域よりもRGB各成分において輝度値が低く、大量出血している箇所に関しては、血管部分の輝度値よりもかなり低くなるという特徴がある。このような特徴を考慮して抽出処理を行う。
【0031】
(ステップS406)ステップS406で解析部15はOCT画像から血管、視神経乳頭部、黄斑部、病変部を抽出する。OCT画像において、血管が存在した場合、吸収物質である血管よりも深度方向では信号が減衰するため偽像が発生することがある。これらの特徴を考慮して血管の検出を行う。具体的には、まず、A−scanの深度方向に見て、輝度値が低い画素から高い画素へのコントラストを強調するSobelフィルタを用いる。変換後の画像をSobel画像とする。このようにSobelフィルタに方向性をもたせることで、図6に示されている網膜内の内境界膜(ILM)L1と視細胞内接外接接合部(IS/OS)L2が強調される。次にSobel画像の各A−scanにおいて輝度値のプロファイルを作成し、極大点を数える。図6には、血管が存在しないA−scan位置A1におけるSobel画像のプロファイルPS1と血管が存在するA−scan位置A2におけるSobel画像のプロファイルPS2が示されている。これらプロファイルを深度方向に見て、閾値以上の極大点を数える。図6におけるPS1のように正常な網膜層構造であれば閾値以上の極大点が2つ存在するのに対して、PS2のように、極大点が1つ以下の場合は、そのA−scanには血管が存在すると判定する。この処理を全A−scanでおこない血管構造を抽出する。血管の抽出方法の別の例として、投影画像から血管を抽出する。投影画像上での血管は偽像の影響により、周辺より輝度値の低い線状構造が現れる。そこで、ステップS405で説明した線上構造を強調するフィルタを用いて血管構造を抽出する。
【0032】
視神経乳頭部の抽出は、視神経乳頭部にて網膜色素上皮の層が存在していないことを利用して行う。黄斑部の抽出は、神経線維層(NFL)が存在していないことを利用して行う。
【0033】
また病変部として脈絡膜新生血管及び白斑を抽出する。脈絡膜新生血管が存在するとOCT断層画像において、視細胞内節外節接合部よりも深度方向に高輝度の領域が現れる。この特徴を利用して、各A−scanにおいて視細胞内節外節接合部よりも深度方向に輝度値を積算し、閾値以上の場合は脈絡膜新生血管が存在すると判定することで抽出する。白斑の抽出は、ILMとIS/OSの間において所定の閾値より高輝度な領域を特定することにより行う。
【0034】
別の例としては、ステップS405及びS406での組織構造の抽出例として、それぞれから異なる組織構造を抽出することとする。各画像から抽出する組織構造は、抽出の精度を基準に選択する。例えば、眼底カメラの表面画像からは血管、白斑、視神経乳頭部のディスク領域、黄斑部を抽出する。OCT画像からは脈絡膜新生血管、視神経乳頭部のカップ領域を抽出する。これら抽出された組織構造を表示することにより、それぞれの画像の特徴を生かして抽出される構造を明示することができる。
【0035】
(ステップS407)ステップS407で表示画像作成部19は画面に表示する画像を作成する。ここで、投影画像に所定の透明度を設定し、この投影画像を表面画像に重畳する。透明度の設定はアルファブレンディング処理を用いる。表示される画素の値valueは、表面画像の画素値をimg1、重畳する投影画像の画素値をimg2、透明度に関する値であるαを用いて、以下の式(1)により決定する。
value=img1×(1.0−α)+img2×α ・・・(1)
【0036】
ここでαの値が小さいとき透明度が高くなり、αが大きいとき透明度が低くなる。1−αの値が透明度を示している。
【0037】
(ステップS408)ステップS408で表示制御部として機能する表示画像作成部19は表示部40にステップS407で形成した画像を表示させる。
【0038】
図7には表示制御部が表示部40に表示させる画面の例を示したものである。この表示例では、所定の透明度をもたせた投影画像を表面画像に重畳している。OCT断層画像から抽出した構造を投影画像中に、表面画像から抽出した血管領域を表面画像中に重畳した画像を形成する。血管や病変部などの構造には、色をつけるなどして画像に示す。このように、眼底カメラの画像とOCTの断層画像という異なる特性の画像から抽出された構造を1つの画像で容易に確認することができる。よって医師の診断効率を向上させることができる。特に投影画像に透明度を持たせて表示しているため、投影画像が重畳された表面画像中の領域には、眼底表面の色情報と、投影画像からのみ抽出された構造と、表面画像から抽出された構造とが同時に表示される。これにより豊富な情報をユーザに提供することができる。また診断者に被検眼の異なる特徴を1つの眼底画像でまとめて確認させることができる。これにより診断効率を向上させることができる。
【0039】
別の表示例としては、OCT断層画像の血管領域と眼底画像の血管領域は異なる色で画像中に示す。これによりいずれの画像から抽出された血管であるかをユーザにわかりやすく提示することができる。また色を変えるだけでなく、点滅のさせ方を変える、領域を囲む枠線の種類を変える等の方法により抽出元の画像を区別して表示してもよい。特に、抽出元に合わせた種類の枠線で囲むことにより、抽出元の画像が区別されると共に、抽出の対象となった領域の画素値を画像中で容易に確認することができる。
【0040】
更に別の表示例としては、OCT断層画像と眼底画像の両方から抽出された血管領域と、OCT断層画像の身から抽出された血管領域と、眼底画像から抽出された血管領域とをそれぞれ異なる色で画像中に示す。これにより、色情報によっていずれの画像から抽出された血管であるかをユーザが容易に認識することができる。また、両方の画像から抽出された血管と、眼底カメラによる表面画像から抽出された血管と、OCTの断層画像から抽出された血管とをユーザは容易に区別することができる。両方の画像から抽出された血管領域は信頼性が高いと判断できるため、抽出の信頼性を示すことができる。
【0041】
このように、OCT断層画像、眼底画像から抽出した構造情報を併せて表示することで、それぞれの画像から特徴を補い合うことができ、結果としてより精度の高い、豊富な情報をユーザに提供することができる。
【実施例2】
【0042】
本実施例では、解析部15による構造の抽出結果を用いて投影画像の表示形態を変更する例を説明する。画像中から、ある構造情報が抽出された場合、構造の種類によって投影画像と眼底画像でその構造の見え易さが違ってくる。そこで本実施形態では、表示画像における投影画像の透明度について、投影画像のほうが見え易い構造が存在する場合、透明度を低く、眼底画像のほうが見え易い構造が存在する場合、透明度を高く設定する。
【0043】
装置の構成は、実施例1における表示画像作成部19が抽出した構造に応じて投影画像の透明度を決定する点で異なっている。表示画像作成部19が行う処理は後述する。
【0044】
図8に従い、実施例2に係るステップS807の詳細を説明する。なお、ステップS801乃至S805、S807及びS808の処理については実施例1の図4におけるステップS401乃至S407までの処理と同様であるため、説明は省略する。
【0045】
(ステップS807)ステップS807で表示画像作成部19は解析部15の抽出結果を用いて投影画像の透明度を決定する。ここでの透明度は0〜100%で表し、数値が高いほど透けて表示される。本実施形態では、ステップS805とステップS806で何らかの構造情報が抽出された場合、その情報に基づき透明度を決定する。
【0046】
図9(a)ではOCT断層画像から脈絡膜新生血管B9が抽出された場合を表示例を示している。脈絡膜新生血管は投影画像PI91のほうが病変を見易いため、PI91の透明度を25%とする。また、図9(b)のように投影画像が重畳される領域内に白斑E9が抽出された場合、眼底画像RI92のほうが病変を見易いため、投影画像PI92の透明度を75%とする。これら各画像から抽出される病変の種類と透明度とを対応付けたテーブル情報を不図示の記憶部に格納しておく。表示画像作成部19は適宜このテーブル情報を参照して透明度を設定する。設定された透明度を用いて、ステップS808にて表示画像作成部19が表示画像の形成を行うと、重ね合わせ画像はそれぞれFI91、FI92のようになる。これにより白斑がある場合には、表面画像との関係で白斑の状態を確認した方がよいと考えられるため、より透明度を上げて表面画像を見やすくし、白斑の状態が確認しやすい画像をユーザに提供することができる。一方で脈絡膜新生血管がある場合には、この病変は抽出元である断層画像または投影画像との関係で状態を確認したほうがよいと考えられるため、透明度を下げることでより病変を確認しやすくすることができる。また、抽出された血管や病変の領域を枠で囲うことで構造を表示する場合において、脈絡膜新生血管の領域がある場合には透明度を下げることで見やすさを上げることができる。また、白斑の領域では投影画像の透明度が上がるため、表面画像における白斑領域の状態をより確認しやすくなる。
【0047】
透明度の設定に関する別の例を説明する。被検体が病気に犯され、病気がある程度進行しているような状態では複数種類の病変が同時に現れる場合が多い。例えば表面画像にて白斑が抽出され、断層画像にて脈絡膜新生血管が抽出されるような場合である。この場合に対応するため、表示画像作成部19は投影画像の透明度を部分毎に変える処理を行う。脈絡膜新生血管が抽出された位置の周囲の部分領域では、投影画像の透明度を下げる。一方で白斑が抽出された位置の周囲の部分領域では投影画像の透明度を上げる。このように透明度を部分毎に変更することでそれぞれの画像から抽出された構造をよりわかりやすくユーザに確認させることができる。
【0048】
表示形態の変更の別の例としては、透明度に替えて、輝度値を上下させてもよいし、このように、画像解析結果によって重ねる投影画像の透明度を全体的、または局所的に変えることで、より病変部が見易い画像をユーザに提供することができる。
【実施例3】
【0049】
実施例3は、実施例1のステップS403とS404で眼底画像、OCT断層画像から構造情報を抽出した後、その抽出結果の信頼度を計算し、表示形態に反映させる例を説明する。例えば構造情報として血管に注目した場合、眼底画像とOCT断層画像の両方から抽出される血管もあれば、どちらか片方からのみ抽出される血管もある。そこで本実施形態では、眼底画像、OCT断層画像の血管抽出結果から信頼度を計算し、画像上に表示するか否かを決定する。
【0050】
装置の構成としては、解析部15がそれぞれ抽出した構造の信頼性を示す信頼度の値を算出する点が異なっている。また表示画像作成部19が信頼度に応じて画像の表示形態を変更する点で異なっている。これら解析部15及び表示画像作成部19が行う処理は後述する。以下、図10に従い、実施例3に係るステップS1006とステップS1007の詳細を説明する。なお、ステップS1001乃至S1005、S1008及びS1009の処理については実施例1の図4のフローチャートにおけるステップS401乃至S407の処理と同様であるため、説明は省略する。
【0051】
(ステップS1006)ステップS1006において、解析部15は、OCT画像解析部16、表面画像解析部17からの抽出結果を用いて構造情報の信頼度を計算する。本実施形態では、ステップS1004とステップS1005の血管抽出結果を用いて信頼度を計算する。図11(a)に眼底画像から血管を抽出した結果RI111とOCT断層画像から血管を抽出し、投影画像に重ねた結果PI111を示す。図11(a)のBR111やBP111のように、血管なのかノイズを抽出してしまったのかわからない結果も存在する。また、BP112は眼底画像からは抽出されず、OCT投影画像のみから抽出された血管である。これらの結果を用いて信頼度を計算するには、まず、それぞれの画像の各画素(注目画素)と隣り合う画素(近傍画素)に血管が含まれているかを調べる。そして、注目画素が血管である、且つ近傍画素に血管が存在する場合には信頼度2を付与する。さらに、注目画素は血管であるが近傍画素には血管が存在しない場合と、注目画素は血管ではないが近傍画素に血管が存在する場合は信頼度1を付与する。それ以外は信頼度を付与しない。これを眼底画像、投影画像それぞれについて行う。また、信頼度の計算は血管に限られず、ステップS1004、S1005で抽出される病変部などについても算出する。このように信頼度を付与することで、ノイズ等の影響によりよって誤抽出された構造の信頼度を下げることができるため、ノイズが大きい画像において有効である。
【0052】
信頼度の算出方法についてその他の例を説明する。S1004において眼底画像から血管を抽出するとき、線分強調フィルタで各画素について得られる成分値をそのまま信頼度として用いる。ここで成分値とは、線分を構造要素としたときに構造要素内での画像濃度値の平均値と構造要素を囲む局所領域内での平均値の差であり、各画素毎に算出される値である。同様の値がSobelフィルタやLaplacianフィルタのような差分型フィルタでも算出できるため、かかるフィルタを用いた場合でもこの成分値を用いることができる。
【0053】
更に別の例としては、表面画像と投影画像のそれぞれで同一位置に同一の構造が抽出されている場合には誤りの可能性が低いとして高い信頼度を付与する。一方の画像でしか抽出されない構造については信頼度を下げる。特に、血管領域や白斑については一般に表面画像からの抽出精度が高いため、表面画像のみで抽出された血管領域は、断層画像のみで抽出された血管領域に対して高い信頼度を付与する。このように各画像の一般的な特性を用いて信頼度を設定することができる。
【0054】
(ステップS1007)ステップS1007において、表示画像作成部19は、ステップS1006で算出した信頼度を基に表示する構造情報を決定する。本実施形態では、ステップS1006で算出した血管についての信頼度から、画素単位で血管を表示するか否かを決定する。図11(b)のように、眼底画像と投影画像を重ね合わせた画像FI12の各画素において、血管の信頼度を調べる。そして、眼底画像の血管抽出結果における信頼度とOCT断層画像における信頼度を足し合わせて,合計が2以上の画素に関しては血管として表示することとする。信頼度の結果から表示される血管を黒の太い線で表わした画像がFM12である。図11(b)におけるBR111やBP111は信頼度が3であるので表示されている。また、BP112については信頼度が1であるので表示されない。眼底画像のみ、OCT断層画像のみからの抽出結果では血管であるか、ノイズであるか判定できなかった画素について、両者の抽出結果から信頼度を考慮することで判定することができる。
【0055】
その他の表示形態の例では、抽出の信頼度に応じた透明度で投影画像を表示させる。信頼度が大きいほど注目すべき構造が存在していることとなるため、透明度を下げて抽出された構造を見えやすくする。一方で信頼度が小さいほど注目すべき構造は少ないと考えられるため透明度を上げ、表面画像を見えやすくする。抽出された構造は枠で囲み表示する。
【0056】
また別の表示形態の例として、同一の領域における投影画像での抽出の信頼度と表面画像での抽出の信頼度との差の値に応じて透明度を設定する。信頼度の差が正の値を取りかつ大きいときにはより投影画像に注目させる必要があると考えられるため透明度を下げる。信頼度の差が負の値を取りかつ絶対値が大きい場合には、より表面画像に注目させる必要があると考えられるため透明度を上げる。これにより、投影画像と表面画像の信頼度を比較して透明度を設定し、注目させるべき部位をわかりやすく表示させることができる。
【0057】
このように、抽出された構造情報の結果から信頼度を計算することで、より信頼度の高い情報をユーザに提供することができる。また、信頼度に応じて表示形態を変えることにより、表示から注目すべき部位を直感的に理解させると共に、注目すべき部位をわかりやすく表示することができる。
【実施例4】
【0058】
本実施例では、患者データ確認部13は保存部30にて断層画像に対応する眼底カメラの画像やSLO画像を検索する。検索の結果発見できない場合には、例外処理として投影画像を拡大して表示させる。また、表示画像作成部19は位置合わせされた表面画像と断層画像を、投影画像を固定して表面画像を回転させて表示させる。
【0059】
本実施例の構成は患者データ確認部13及び表示画像作成部19が異なっている。これについては後述する。次に図12に従い画像処理装置10の処理の流れを説明する。なおステップS1201、S1202及びS1204乃至S1207の処理は実施例1と同様であるため説明を省略する。
【0060】
(ステップS1203)ステップS1203で患者データ確認部13は取得したOCT断層画像と同一被検眼の対応する眼底画像が保存部30に存在するかを確認する。ここで断層画像の撮影日時から数えて所定期間以上昔の画像である場合には、対応しないと判定する。同一患者の眼底画像が存在する場合(ステップS1203でYes)、ステップS1204に進む。存在しない場合(ステップS1203でNo)、ステップS1209に進む。
【0061】
(ステップS1208)ステップS1208で表示画像作成部19は位置合わせがされた表面画像と投影画像を表示部40に表示させる。ステップS1204にて位置合わせ部14が回転成分Δθを取得している場合には、まず投影画像を通常通り表示し、この投影画像に対して表面画像をこのΔθだけ回転させて表示させる。この表示例を示したのが図13である。図13に示す表示例では、画面のX方向及びY方向とそれぞれ平行な2組の線分で囲まれる矩形で投影画像FM13が所定の透明度で示されている。これに対して、略円形で表される眼底画像FI13を位置合わせ時の回転成分Δθだけ回転させて表示される。
【0062】
更に図13の表示例では、投影画像上にOCTのBスキャンラインSL13を表示させており、このスキャンラインに対応する断層画像T13が表面画像と並べて表示される。このBスキャンラインSL13はユーザのマウス操作によって上下に平行移動させることができる。このBスキャンラインSL13の位置が変わること応じて対応する断層画像が表示される。投影画像を回転させずに表示することで、投影画像上においてBスキャンラインが画面のX方向と平行になるため、マウス等で操作するとき操作しやすい。仮に投影画像が回転されて画面上に表示されている場合には、マウスの操作によってラインが斜めに動くこととなる。これは、マウスによる上下操作の方向とラインの移動方向が一致せず、不自然である。このように断層画像と表面画像の両方を確認して診断を行う場合には、直感的な操作を実現できるため診断者が利用しやすい。
【0063】
(ステップS1209)ステップS1209で表示画像作成部19は表示部40に投影画像を表示させる。この際に、表面画像がある場合に比べて投影画像を拡大して表示させる。これは、表面画像がない場合に投影画像を拡大して詳細に表示させることを意図するものである。また、投影画像の透明度を0に設定して表示させる。
【0064】
本実施例では断層画像があることを前提とし、断層画像に対応する表面画像が存在するか否かを判定しているが、表面画像が得られている場合に、保存部30に記憶された断層画像を探索することとしてもよい。また両方の場合を兼ね備えて、一方の画像と対応する他方の画像が存在するか否かを判定することとしてもよい。
【実施例5】
【0065】
本実施例では、上述の表面画像と共に表面画像から抽出された構造の位置を示した断層画像も表示させる。装置の構成及び処理としては、表示画像作成部19が先述の実施例とは異なる画像を作成する点で異なっている。
【0066】
解析部15は表面画像にて視神経乳頭部を抽出すると共に、断層画像においても視神経乳頭部を抽出する。表示画像作成部19は解析部15が抽出した視神経乳頭部の位置座標を取得する。その座標値に基づいて断層画像中に視神経乳頭部の位置を表示する。図14は本実施例における断層画像の表示例を示したものである。表示画面において断層画像の上部には表面画像から抽出した視神経乳頭部の位置を表示している。また、断層画像の株には断層画像から抽出した視神経乳頭部の位置を表示している。
【0067】
別の例としては、同様の手法を用いることにより、視神経乳頭部のカップ領域とディスク領域の位置を断層画像上に表示させる。これにより、緑内障の指標となるカップ領域やディスク領域の状態を断層画像において確認することができる。
【0068】
このように、断層画像において表面画像で抽出された構造の位置を表示することにより、断層画像において断層画像と表面画像の両方から抽出された構造をユーザに確認させることができる。
【0069】
(その他の実施例)
上述の実施例では眼底カメラにより撮影された眼底の表面画像とOCTの断層画像を用いる例を説明した。本発明の範囲はこれに限らず、SLOにより得られるSLO画像と、OCTにより得られる断層画像または投影画像を表示させることとしてもよい。または、眼底カメラで得られる表面画像と、SLOで得られるSLO画像と、OCTで得られる断層画像または投影画像とを表示させることとしてもよい。
【0070】
また、投影画像を表面画像に重畳せずに、各画像から抽出した構造を直接表面画像に重畳して表示してもよい。更には抽出した構造を、眼底カメラで得られる表面画像ではなくて、眼底の表面を模式的に示した画像に示してもよい。また、抽出した構造のみを表示することとしてもよい。
【0071】
更にその他の実施例としては、表面画像と断層画像のそれぞれで抽出された構造に不一致がある場合には画面上に警告を示す表示させ、ユーザに通知する。装置の構成及び処理は表示画像作成部19が警告を示す表示を画像に付す点が異なっている。表示画像作成部19は抽出された血管が投影画像のみから抽出された血管がある場合に、その旨を示す文字または画像を表示させ、ユーザに通知する。これによりユーザはその文字または画像を確認して、断層画像のみから抽出された血管であることを知ることができる。更に、投影画像から抽出される血管の位置と、表面画像から抽出される血管の位置とが不連続となっている位置を表示することでユーザに対して通知する。
【0072】
また別の実施例としては、断層画像のみで抽出された構造は既定では表示させない設定としておき、ユーザの指示に応じて表示、非表示を切り替え可能に制御する。表示制御部として機能する表示画像作成部19は、ユーザのキーボード入力に応じて断層画像のみで抽出された構造の表示、非表示を切り替える。また、表面画像及び断層画像から抽出された構造の表示(抽出された構造を囲む等)をユーザの操作に応じて切り替える。更には、投影画像の表示、非表示もユーザの操作に応じて切り替える。これにより、ユーザは各画像を単独で確認したり、装置により抽出された構造の位置を合わせて確認したりするなど、ユーザの希望に応じた情報をわかりやすい表示で確認することができる。
【0073】
また画像処理装置内で行われている処理を複数の装置で分散させ画像処理システムとして実現しても、1つの機能ブロックとしてまとめられている処理を複数の回路または機能ブロックで分散させて実現してもよい。また、撮影装置または検出器に上述の実施例における画像処理装置及び表示装置の機能を組み込んで撮影装置により本発明を実現することとしてもよい。この場合には画像取得部11が光干渉断層計20を有し、この画像取得部11により被写体を撮影して画像を取得する。
【0074】
上述の画像処理装置10では各ブロックは回路として実装されているが、ソフトウェアとコンピュータのハードウェアとの協働により各ブロックに対応する機能を実装してもよい。具体的には、電子計算機は例えばCPU、ROM、RAM、HDD、マウス、キーボード、ネットワークI/F、表示部を有するものがある。ここで、ROMまたはHDDには、画像処理装置10であるコンピュータの各ハードウェアと協働して図1に示す機能を発揮し、図4に示される処理をコンピュータに実行させるためのプログラムが格納される。このプログラムが、RAMに展開され、CPUがその命令を実行することで、図1に示す機能が発揮され、図4に示す処理が実現される。
【0075】
ここでCPUは1つのコンピュータ内に複数含まれていてもよく、この場合複数のCPUで分散させて本発明を実現することとしてもよい。
【0076】
また本発明を電子計算機のハードウェアとソフトウェアの協働により実現する場合、電子計算機が読み出したプログラムコードを実行させる。電子計算機上で稼動しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施例の機能が実現される場合も本発明の範囲に含まれる。更にこの場合には、プログラムまたはプログラムコードを記録した記録媒体は本発明を構成する。
【0077】
なお、上述した本実施の形態における記述は、本発明に係る好適な画像処理装置の一例であり、本発明はこれに限定されるものではない。
【符号の説明】
【0078】
1 撮影システム
10 画像処理装置
13 患者データ確認部
14 位置合わせ部
15 解析部
16 OCT画像解析部
17 表面画像解析部
18 SLO画像解析部
19 表示画像作成部
40 表示部
【技術分野】
【0001】
本発明は撮影対象の画像を表示させる画像処理装置、画像処理方法、画像処理システム及びプログラムに関する。
【背景技術】
【0002】
医療分野では、被検体を撮影した画像を見て病変の発見や病状を把握するなどの画像診断が広く行われている。この画像診断では、複数の異なる撮影装置により得られる画像を比較または検討してより詳細な検討を行うことも多い。例えば眼科では、眼底カメラ、走査型レーザ検眼鏡(SLO)または光干渉断層計(OCT)などの撮影装置で得られる画像を用いて診断を行う。ここで眼底カメラは眼底の表面のカラー画像を得ることができる。走査型レーザ検眼鏡は解像度が高い眼底表面や、網膜内部の構造の画像を得ることができる。光干渉断層計からは網膜の断層画像を得ることができる。これら撮影装置による画像を用いることで、眼底の表面及び内部構造を詳細に検討した上で診断することができる。
【0003】
このような診断を支援する技術として特許文献1には、OCTによる断層画像群を投影した画像(以下、投影画像とする)を眼底画像と重ねて表示させることが開示されている。また、OCT断層画像から抽出した血管領域などの構造情報を眼底画像上に重ねて表示させる技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−154704号広報
【発明の概要】
【発明が解決しようとする課題】
【0005】
OCT画像から血管を抽出しようとする場合には画像のノイズ等の影響により抽出が難しい。そのため、誤診を防ぐ観点から抽出の信頼性の高いごく一部の構造しか診断者に提示することができなかった。
【課題を解決するための手段】
【0006】
本発明はかかる課題を解決するためになされたものであり、光干渉断層計で被検眼を撮影して得られるOCT画像から前記被検眼の構造を抽出するとともに、眼底カメラまたは走査型レーザ検眼鏡のいずれかで前記被検眼を撮影して得られる眼底画像から前記被検眼の構造を抽出する抽出手段と、前記抽出手段によりそれぞれ抽出された構造を眼底の画像に表示させる表示制御手段と、を有することを特徴とする。
【発明の効果】
【0007】
かかる本発明によれば、光干渉断層計で得られる画像だけでなく眼底カメラまたは走査型レーザ検眼鏡で得られる画像から抽出された構造も診断者に提示することができる。
【0008】
更に、光干渉断層計と眼底カメラまたは走査型レーザ検眼鏡で撮影される画像の特性が異なるため、それぞれの特性に応じた構造が抽出される。これにより豊富な情報をユーザに提供することができる。
【図面の簡単な説明】
【0009】
【図1】撮影システム1の構成を示す図である。
【図2】撮影部22の機能構成を示す図である。
【図3】画像処理装置10の処理の概要を示す図である。
【図4】画像処理装置10の処理の流れを示すフローチャートである。
【図5】OCT断層画像群と投影画像を示す図である。
【図6】OCT断層画像とA−scanのプロファイルを示す図である。
【図7】表示部40での表示例を示す図である。
【図8】画像処理装置10のその他の処理手順を示すフローチャートである。
【図9】投影画像の透明度を変えて表面画像に重畳した表示例を示す図である。
【図10】画像処理装置10のその他の処理手順を示すフローチャートである。
【図11】眼底画像とOCT断層画像から血管領域を抽出した図と、表示部40でのその他の表示例を示す図である。
【図12】画像処理装置10のその他の処理手順を示すフローチャートである。
【図13】表示部40でのその他の表示例を示す図である。
【図14】表示部40でのその他の表示例を示す図である。
【発明を実施するための形態】
【0010】
以下に図面を適宜参照しながら本発明の実施形態を説明する。
【実施例1】
【0011】
本実施例にかかる撮影システムの構成を図1に基づいて説明する。この撮影システム1では、光干渉断層計20が被検眼を撮影して断層画像を得る。また、画像処理装置10はこの断層画像と、別途眼底カメラで撮影した眼底の表面画像または走査型レーザ検眼鏡で撮影したSLO画像(以下、表面画像とSLO画像をまとめて眼底画像とする)とから血管等の構造を抽出する。表示部40は抽出結果を画像に重畳して表示する。保存部30は撮影された断層画像と、別途眼底カメラで撮影された画像を保存する。
【0012】
画像処理装置10は光干渉断層計20、保存部30、表示部40と通信可能に接続されている。画像処理装置10は、図1に示す各ブロックをASICやFPGAその他のハードウェアとして有しており、後述する図4の処理を実行するように構成されている。
【0013】
画像取得部11が取得した断層画像に基づいて投影画像生成部12は深さ方向に垂直な面に投影した投影画像を生成する。患者データ確認部13は撮影された断層画像と同一被検眼でかつ断層画像の撮影日時から所定の期間内に撮影された画像を保存部30にて探索する。ここで探索する画像は眼底カメラにて撮影された眼底の表面画像か、走査型レーザ検眼鏡(SLO:Scanning Laser Ophthalmoscope)にて撮影されたSLO画像とする。位置合わせ部14は断層画像と表面画像またはSLO画像の位置合わせを行う。解析部15は断層画像と表面画像またはSLO画像のそれぞれから血管等の組織構造を抽出する。OCT画像解析部16は断層画像の解析を行う。表面画像解析部17は眼底カメラで得られた表面画像の解析を行う。SLO画像解析部18はSLOで得られた画像の解析を行う。表示画像作成部19は抽出結果を眼底の画像に重畳して表示するための画像データを作成する。なお表示画像作成部19が表示部40を制御する表示制御部として機能し、表示部40に作成した画像データを表示させる。
【0014】
次に図2に基づき、断層画像を形成する光干渉断層計20の構成を説明する。ここで光干渉断層計20は光干渉断層計(OCT;Optical Coherence Tomography)の原理を用いた撮影装置である。指示取得部21は、被検眼の眼底表面に対して二次元の計測範囲及び計測深度を調整する指示情報を取得する。指示情報に基づいてガルバノミラー駆動機構201はガルバノミラー202が駆動する。低コヒーレンス光源203からの光をハーフミラー204で信号光と参照光に分割する。信号光はガルバノミラー202、対物レンズ205を経由して被検眼206で反射または散乱される。参照光は固定配置された参照ミラー207で反射または散乱される。これら信号光および参照光の戻り光をハーフミラー204は重畳して干渉光を生成する。回折格子208はこの干渉光を波長λ1〜λnの波長成分に分光して、各波長成分を1次元光センサアレイ209によって検出する。画像再構成部210は1次元光センサアレイ209から出力された干渉光の各波長成分の検出信号に基づいて、網膜の断層画像が再構成する。
【0015】
なお、眼底の任意の位置に信号光を照射して一次元の画像を得ることをAスキャンと呼ぶ。またこの深さ方向の一次元の画像をAスキャン画像と呼ぶ。さらにガルバノミラー202により任意の線に沿って信号光を断続的に眼底へ入射させることにより眼底上を走査することをBスキャンと呼ぶ。また、Bスキャンにより得られた断層画像をBスキャン画像と呼ぶ。さらに、眼底表面の所定の領域内の複数の位置でAスキャンして得られた画像からAスキャンの方向と交差する画像をCスキャン画像と呼ぶ。
【0016】
このように、光干渉断層計20は被検眼の網膜を3次元的に走査し、網膜の層構造の画像を得るのに適した装置である。そのため、OCTの断層画像は網膜の深部の構造を抽出しやすい。
【0017】
これに対して眼底カメラでは、眼底に可視光を照射しその反射光を受光することにより眼底の表面画像を得る。可視光を用いることができるので、輝度情報だけでなく色情報をも取得することができ、眼底表面に現れる構造を抽出しやすい。
【0018】
また走査型レーザ検眼鏡(SLO)では、微弱なレーザ光を2次的に走査して被検眼の所定部位に照射し、その反射光を検出し画像を形成する。特に共焦点光学系(Confocal optical system)を用いたSLOでは、入射光と反射光とを両方同時に走査(二重走査)して、反射光をピンホール等の共焦点開口を介して検出する。これにより不要散乱光の影響を抑えて画像のコントラストを著しく向上すると共に、3次元的な空間分解能を向上させている。SLOでは表面画像や網膜内の構造を画像化することができる。そのため、表面の情報や内部構造の情報を抽出することができる。
【0019】
保存部30には上述のOCTにより得られた断層画像に対応する表面画像やSLO画像が格納される。これら特性の異なる複数の画像を解析することで異なる構造を抽出することができる。また、抽出の信頼性を確認することができる。
【0020】
このことを図3に基づいて具体的に説明する。図3において、RI1は眼底カメラにより得られた眼底の表面画像、PI1はOCTによる断層画像から生成された投影画像である。画像処理装置10は表面画像RI1と断層画像または投影画像(以下、OCT画像)から血管領域を抽出する。RI2、PI2は血管抽出結果をそれぞれ眼底画像、投影画像に重ねた画像であり、抽出された血管領域は太い線で表示している。次に画像処理装置10は眼底画像と投影画像の画像を重ねた画像FI1を形成し、それぞれから抽出した血管領域を併せて表示部40に表示する。このようにすることで、1つの画像上で眼底の表面画像と、積算画像と、それぞれの画像から抽出した構造の情報とを1つの画像で確認することができる。
【0021】
更に、眼底画像RI2では比較的太い血管は抽出しやすい。しかし血管と網膜のコントラストが低い場合には血管領域を抽出できないこともある。一方投影画像PI2では、血管の太さにかかわらず抽出が可能である。また、脈絡膜新生血管など表面画像からは抽出が不可能な構造を抽出することができる。しかし解像度やノイズの問題から、血管の末端部BP2などは途切れ途切れの抽出結果になることが多い。このように異なる特性を有する眼底画像とOCT画像から抽出した構造情報を併せて表示することで、それぞれの画像で情報を補い合い、より多くの情報を提供することができる。
【0022】
また、それぞれの画像からの抽出結果を確認することで、抽出結果の信頼性の情報を得ることができる。例えば、表面画像と断層画像の双方で抽出された血管は血管である信頼性が高い領域であると判断することができる。
【0023】
次に図4に従い、上述の表示を行う画像処理装置10の処理の流れを説明する。
【0024】
(ステップS401)ステップS401で画像取得部11は光干渉断層計20で撮像した断層画像を取得する。ここで取得する断層画像は、図5に示すように、複数のBスキャン画像からなる断層画像群である。また、この断層画像に対応する同一被検眼を撮影したその他の画像を保存部30から取得する。その他の画像としては、眼底カメラで撮影された眼底の表面画像か、走査型レーザ検眼鏡(SLO)で撮影されたSLO画像である。なお以下の処理は表面画像を取得した場合を説明する。
【0025】
(ステップS402)ステップS402で投影画像生成部12は断層画像群から投影画像を生成する。図5のように、断層画像T1〜Tnの各画素における輝度値をz軸の正方向に単純加算した値を投影画像PI5の画素値とする。別の例では、該輝度値の和を加算した画素数で割った値を投影画像PI5の画素値とする。また別の例では各深度位置における輝度値の最大値や最小値を投影画像PI5の画素値とする。更に別の例では、z軸方向に任意の範囲、もしくは特定の層間のみ加算した画素値を用いる。
【0026】
更に別の例では、網膜の内境界膜(ILM)と視細胞内節外節接合部(IS/OS)の間の網膜層領域を投影画像の生成に用いる領域とする。この領域における輝度値の最大値を投影画像PI5の画素値とする。ILMとIS/OSの間の領域で高輝度な領域は比較的少ない一方、白斑等の病変は高輝度な領域として画像化される。よってかかる投影画像により、投影画像において病変領域をわかりやすく表示することができる。
【0027】
(ステップS403)ステップS403で位置合わせ部14は投影画像と画像の位置合わせを行う。本実施形態では投影画像の座標系を基準とし、眼底画像のスケール(Sx,Sy)、位置座標(x,y)、回転(rot)成分を求めることにより、投影画像と眼底画像の位置を合わせる。また、画像同士が合っているかの指標を算出するため、投影画像と眼底画像における画像全体の輝度値の平均二乗誤差を用いる。つまり平均二乗誤差が最も小さくなるパラメータを本ステップの結果とする。
【0028】
なお、位置合わせの指標はこれに限定されるものではない。輝度値の平均二乗誤差の代わりに相関係数、相互情報量などを用いてもよい。なお、後述するステップS405にて抽出する構造情報を用いて投影画像と眼底画像との位置合わせを行うことで、より精度よく位置合わせを行うことができる。
【0029】
(ステップS405)ステップS405で解析部15は眼底画像から血管、視神経乳頭部、黄斑部をなどの組織構造を抽出する。眼底画像において、血管は細い線状構造で現れる。そこで、線状構造を強調するフィルタを用いて血管を抽出する。ここでは、線分を構造要素としたときに構造要素内での輝度値の平均値と構造要素を囲む局所領域内での平均値の差を計算するようなコントラストに基づく線分強調フィルタを用いる。ここでフィルタの処理結果として得られる多値領域をそのまま血管抽出結果としても良いし、ある閾値で2値化した領域を抽出結果としてもよい。ただし、線状構造を強調する方法はこれに限らない。例えば、SobelフィルタやLaplacianフィルタのような差分型フィルタを用いてもよい。また、画素ごとにヘッセ行列の固有値を計算し、結果として得られる2つの固有値の組み合わせから線分状の領域を抽出してもよい。さらには単純に線分を構造要素とするトップハット演算など、任意の公知の血管抽出法を用いてよい。また画像の輝度値の情報等を用いて視神経乳頭部と黄斑部を抽出する。
【0030】
また解析部15は病変部として白斑部を抽出する。白斑領域は、眼底画像内で局所的に存在し、且つ周辺に比べて輝度値が高いという特徴をもつ。トップハット演算と閾値処理を行うことで白斑領域を検出する。ドルーゼン、出血なども同様に解剖学的特徴を用いて抽出できる。眼底画像から得られる解剖学的特徴として、ドルーゼンは白い塊状の特徴をもつ。出血領域は、出血していない領域よりもRGB各成分において輝度値が低く、大量出血している箇所に関しては、血管部分の輝度値よりもかなり低くなるという特徴がある。このような特徴を考慮して抽出処理を行う。
【0031】
(ステップS406)ステップS406で解析部15はOCT画像から血管、視神経乳頭部、黄斑部、病変部を抽出する。OCT画像において、血管が存在した場合、吸収物質である血管よりも深度方向では信号が減衰するため偽像が発生することがある。これらの特徴を考慮して血管の検出を行う。具体的には、まず、A−scanの深度方向に見て、輝度値が低い画素から高い画素へのコントラストを強調するSobelフィルタを用いる。変換後の画像をSobel画像とする。このようにSobelフィルタに方向性をもたせることで、図6に示されている網膜内の内境界膜(ILM)L1と視細胞内接外接接合部(IS/OS)L2が強調される。次にSobel画像の各A−scanにおいて輝度値のプロファイルを作成し、極大点を数える。図6には、血管が存在しないA−scan位置A1におけるSobel画像のプロファイルPS1と血管が存在するA−scan位置A2におけるSobel画像のプロファイルPS2が示されている。これらプロファイルを深度方向に見て、閾値以上の極大点を数える。図6におけるPS1のように正常な網膜層構造であれば閾値以上の極大点が2つ存在するのに対して、PS2のように、極大点が1つ以下の場合は、そのA−scanには血管が存在すると判定する。この処理を全A−scanでおこない血管構造を抽出する。血管の抽出方法の別の例として、投影画像から血管を抽出する。投影画像上での血管は偽像の影響により、周辺より輝度値の低い線状構造が現れる。そこで、ステップS405で説明した線上構造を強調するフィルタを用いて血管構造を抽出する。
【0032】
視神経乳頭部の抽出は、視神経乳頭部にて網膜色素上皮の層が存在していないことを利用して行う。黄斑部の抽出は、神経線維層(NFL)が存在していないことを利用して行う。
【0033】
また病変部として脈絡膜新生血管及び白斑を抽出する。脈絡膜新生血管が存在するとOCT断層画像において、視細胞内節外節接合部よりも深度方向に高輝度の領域が現れる。この特徴を利用して、各A−scanにおいて視細胞内節外節接合部よりも深度方向に輝度値を積算し、閾値以上の場合は脈絡膜新生血管が存在すると判定することで抽出する。白斑の抽出は、ILMとIS/OSの間において所定の閾値より高輝度な領域を特定することにより行う。
【0034】
別の例としては、ステップS405及びS406での組織構造の抽出例として、それぞれから異なる組織構造を抽出することとする。各画像から抽出する組織構造は、抽出の精度を基準に選択する。例えば、眼底カメラの表面画像からは血管、白斑、視神経乳頭部のディスク領域、黄斑部を抽出する。OCT画像からは脈絡膜新生血管、視神経乳頭部のカップ領域を抽出する。これら抽出された組織構造を表示することにより、それぞれの画像の特徴を生かして抽出される構造を明示することができる。
【0035】
(ステップS407)ステップS407で表示画像作成部19は画面に表示する画像を作成する。ここで、投影画像に所定の透明度を設定し、この投影画像を表面画像に重畳する。透明度の設定はアルファブレンディング処理を用いる。表示される画素の値valueは、表面画像の画素値をimg1、重畳する投影画像の画素値をimg2、透明度に関する値であるαを用いて、以下の式(1)により決定する。
value=img1×(1.0−α)+img2×α ・・・(1)
【0036】
ここでαの値が小さいとき透明度が高くなり、αが大きいとき透明度が低くなる。1−αの値が透明度を示している。
【0037】
(ステップS408)ステップS408で表示制御部として機能する表示画像作成部19は表示部40にステップS407で形成した画像を表示させる。
【0038】
図7には表示制御部が表示部40に表示させる画面の例を示したものである。この表示例では、所定の透明度をもたせた投影画像を表面画像に重畳している。OCT断層画像から抽出した構造を投影画像中に、表面画像から抽出した血管領域を表面画像中に重畳した画像を形成する。血管や病変部などの構造には、色をつけるなどして画像に示す。このように、眼底カメラの画像とOCTの断層画像という異なる特性の画像から抽出された構造を1つの画像で容易に確認することができる。よって医師の診断効率を向上させることができる。特に投影画像に透明度を持たせて表示しているため、投影画像が重畳された表面画像中の領域には、眼底表面の色情報と、投影画像からのみ抽出された構造と、表面画像から抽出された構造とが同時に表示される。これにより豊富な情報をユーザに提供することができる。また診断者に被検眼の異なる特徴を1つの眼底画像でまとめて確認させることができる。これにより診断効率を向上させることができる。
【0039】
別の表示例としては、OCT断層画像の血管領域と眼底画像の血管領域は異なる色で画像中に示す。これによりいずれの画像から抽出された血管であるかをユーザにわかりやすく提示することができる。また色を変えるだけでなく、点滅のさせ方を変える、領域を囲む枠線の種類を変える等の方法により抽出元の画像を区別して表示してもよい。特に、抽出元に合わせた種類の枠線で囲むことにより、抽出元の画像が区別されると共に、抽出の対象となった領域の画素値を画像中で容易に確認することができる。
【0040】
更に別の表示例としては、OCT断層画像と眼底画像の両方から抽出された血管領域と、OCT断層画像の身から抽出された血管領域と、眼底画像から抽出された血管領域とをそれぞれ異なる色で画像中に示す。これにより、色情報によっていずれの画像から抽出された血管であるかをユーザが容易に認識することができる。また、両方の画像から抽出された血管と、眼底カメラによる表面画像から抽出された血管と、OCTの断層画像から抽出された血管とをユーザは容易に区別することができる。両方の画像から抽出された血管領域は信頼性が高いと判断できるため、抽出の信頼性を示すことができる。
【0041】
このように、OCT断層画像、眼底画像から抽出した構造情報を併せて表示することで、それぞれの画像から特徴を補い合うことができ、結果としてより精度の高い、豊富な情報をユーザに提供することができる。
【実施例2】
【0042】
本実施例では、解析部15による構造の抽出結果を用いて投影画像の表示形態を変更する例を説明する。画像中から、ある構造情報が抽出された場合、構造の種類によって投影画像と眼底画像でその構造の見え易さが違ってくる。そこで本実施形態では、表示画像における投影画像の透明度について、投影画像のほうが見え易い構造が存在する場合、透明度を低く、眼底画像のほうが見え易い構造が存在する場合、透明度を高く設定する。
【0043】
装置の構成は、実施例1における表示画像作成部19が抽出した構造に応じて投影画像の透明度を決定する点で異なっている。表示画像作成部19が行う処理は後述する。
【0044】
図8に従い、実施例2に係るステップS807の詳細を説明する。なお、ステップS801乃至S805、S807及びS808の処理については実施例1の図4におけるステップS401乃至S407までの処理と同様であるため、説明は省略する。
【0045】
(ステップS807)ステップS807で表示画像作成部19は解析部15の抽出結果を用いて投影画像の透明度を決定する。ここでの透明度は0〜100%で表し、数値が高いほど透けて表示される。本実施形態では、ステップS805とステップS806で何らかの構造情報が抽出された場合、その情報に基づき透明度を決定する。
【0046】
図9(a)ではOCT断層画像から脈絡膜新生血管B9が抽出された場合を表示例を示している。脈絡膜新生血管は投影画像PI91のほうが病変を見易いため、PI91の透明度を25%とする。また、図9(b)のように投影画像が重畳される領域内に白斑E9が抽出された場合、眼底画像RI92のほうが病変を見易いため、投影画像PI92の透明度を75%とする。これら各画像から抽出される病変の種類と透明度とを対応付けたテーブル情報を不図示の記憶部に格納しておく。表示画像作成部19は適宜このテーブル情報を参照して透明度を設定する。設定された透明度を用いて、ステップS808にて表示画像作成部19が表示画像の形成を行うと、重ね合わせ画像はそれぞれFI91、FI92のようになる。これにより白斑がある場合には、表面画像との関係で白斑の状態を確認した方がよいと考えられるため、より透明度を上げて表面画像を見やすくし、白斑の状態が確認しやすい画像をユーザに提供することができる。一方で脈絡膜新生血管がある場合には、この病変は抽出元である断層画像または投影画像との関係で状態を確認したほうがよいと考えられるため、透明度を下げることでより病変を確認しやすくすることができる。また、抽出された血管や病変の領域を枠で囲うことで構造を表示する場合において、脈絡膜新生血管の領域がある場合には透明度を下げることで見やすさを上げることができる。また、白斑の領域では投影画像の透明度が上がるため、表面画像における白斑領域の状態をより確認しやすくなる。
【0047】
透明度の設定に関する別の例を説明する。被検体が病気に犯され、病気がある程度進行しているような状態では複数種類の病変が同時に現れる場合が多い。例えば表面画像にて白斑が抽出され、断層画像にて脈絡膜新生血管が抽出されるような場合である。この場合に対応するため、表示画像作成部19は投影画像の透明度を部分毎に変える処理を行う。脈絡膜新生血管が抽出された位置の周囲の部分領域では、投影画像の透明度を下げる。一方で白斑が抽出された位置の周囲の部分領域では投影画像の透明度を上げる。このように透明度を部分毎に変更することでそれぞれの画像から抽出された構造をよりわかりやすくユーザに確認させることができる。
【0048】
表示形態の変更の別の例としては、透明度に替えて、輝度値を上下させてもよいし、このように、画像解析結果によって重ねる投影画像の透明度を全体的、または局所的に変えることで、より病変部が見易い画像をユーザに提供することができる。
【実施例3】
【0049】
実施例3は、実施例1のステップS403とS404で眼底画像、OCT断層画像から構造情報を抽出した後、その抽出結果の信頼度を計算し、表示形態に反映させる例を説明する。例えば構造情報として血管に注目した場合、眼底画像とOCT断層画像の両方から抽出される血管もあれば、どちらか片方からのみ抽出される血管もある。そこで本実施形態では、眼底画像、OCT断層画像の血管抽出結果から信頼度を計算し、画像上に表示するか否かを決定する。
【0050】
装置の構成としては、解析部15がそれぞれ抽出した構造の信頼性を示す信頼度の値を算出する点が異なっている。また表示画像作成部19が信頼度に応じて画像の表示形態を変更する点で異なっている。これら解析部15及び表示画像作成部19が行う処理は後述する。以下、図10に従い、実施例3に係るステップS1006とステップS1007の詳細を説明する。なお、ステップS1001乃至S1005、S1008及びS1009の処理については実施例1の図4のフローチャートにおけるステップS401乃至S407の処理と同様であるため、説明は省略する。
【0051】
(ステップS1006)ステップS1006において、解析部15は、OCT画像解析部16、表面画像解析部17からの抽出結果を用いて構造情報の信頼度を計算する。本実施形態では、ステップS1004とステップS1005の血管抽出結果を用いて信頼度を計算する。図11(a)に眼底画像から血管を抽出した結果RI111とOCT断層画像から血管を抽出し、投影画像に重ねた結果PI111を示す。図11(a)のBR111やBP111のように、血管なのかノイズを抽出してしまったのかわからない結果も存在する。また、BP112は眼底画像からは抽出されず、OCT投影画像のみから抽出された血管である。これらの結果を用いて信頼度を計算するには、まず、それぞれの画像の各画素(注目画素)と隣り合う画素(近傍画素)に血管が含まれているかを調べる。そして、注目画素が血管である、且つ近傍画素に血管が存在する場合には信頼度2を付与する。さらに、注目画素は血管であるが近傍画素には血管が存在しない場合と、注目画素は血管ではないが近傍画素に血管が存在する場合は信頼度1を付与する。それ以外は信頼度を付与しない。これを眼底画像、投影画像それぞれについて行う。また、信頼度の計算は血管に限られず、ステップS1004、S1005で抽出される病変部などについても算出する。このように信頼度を付与することで、ノイズ等の影響によりよって誤抽出された構造の信頼度を下げることができるため、ノイズが大きい画像において有効である。
【0052】
信頼度の算出方法についてその他の例を説明する。S1004において眼底画像から血管を抽出するとき、線分強調フィルタで各画素について得られる成分値をそのまま信頼度として用いる。ここで成分値とは、線分を構造要素としたときに構造要素内での画像濃度値の平均値と構造要素を囲む局所領域内での平均値の差であり、各画素毎に算出される値である。同様の値がSobelフィルタやLaplacianフィルタのような差分型フィルタでも算出できるため、かかるフィルタを用いた場合でもこの成分値を用いることができる。
【0053】
更に別の例としては、表面画像と投影画像のそれぞれで同一位置に同一の構造が抽出されている場合には誤りの可能性が低いとして高い信頼度を付与する。一方の画像でしか抽出されない構造については信頼度を下げる。特に、血管領域や白斑については一般に表面画像からの抽出精度が高いため、表面画像のみで抽出された血管領域は、断層画像のみで抽出された血管領域に対して高い信頼度を付与する。このように各画像の一般的な特性を用いて信頼度を設定することができる。
【0054】
(ステップS1007)ステップS1007において、表示画像作成部19は、ステップS1006で算出した信頼度を基に表示する構造情報を決定する。本実施形態では、ステップS1006で算出した血管についての信頼度から、画素単位で血管を表示するか否かを決定する。図11(b)のように、眼底画像と投影画像を重ね合わせた画像FI12の各画素において、血管の信頼度を調べる。そして、眼底画像の血管抽出結果における信頼度とOCT断層画像における信頼度を足し合わせて,合計が2以上の画素に関しては血管として表示することとする。信頼度の結果から表示される血管を黒の太い線で表わした画像がFM12である。図11(b)におけるBR111やBP111は信頼度が3であるので表示されている。また、BP112については信頼度が1であるので表示されない。眼底画像のみ、OCT断層画像のみからの抽出結果では血管であるか、ノイズであるか判定できなかった画素について、両者の抽出結果から信頼度を考慮することで判定することができる。
【0055】
その他の表示形態の例では、抽出の信頼度に応じた透明度で投影画像を表示させる。信頼度が大きいほど注目すべき構造が存在していることとなるため、透明度を下げて抽出された構造を見えやすくする。一方で信頼度が小さいほど注目すべき構造は少ないと考えられるため透明度を上げ、表面画像を見えやすくする。抽出された構造は枠で囲み表示する。
【0056】
また別の表示形態の例として、同一の領域における投影画像での抽出の信頼度と表面画像での抽出の信頼度との差の値に応じて透明度を設定する。信頼度の差が正の値を取りかつ大きいときにはより投影画像に注目させる必要があると考えられるため透明度を下げる。信頼度の差が負の値を取りかつ絶対値が大きい場合には、より表面画像に注目させる必要があると考えられるため透明度を上げる。これにより、投影画像と表面画像の信頼度を比較して透明度を設定し、注目させるべき部位をわかりやすく表示させることができる。
【0057】
このように、抽出された構造情報の結果から信頼度を計算することで、より信頼度の高い情報をユーザに提供することができる。また、信頼度に応じて表示形態を変えることにより、表示から注目すべき部位を直感的に理解させると共に、注目すべき部位をわかりやすく表示することができる。
【実施例4】
【0058】
本実施例では、患者データ確認部13は保存部30にて断層画像に対応する眼底カメラの画像やSLO画像を検索する。検索の結果発見できない場合には、例外処理として投影画像を拡大して表示させる。また、表示画像作成部19は位置合わせされた表面画像と断層画像を、投影画像を固定して表面画像を回転させて表示させる。
【0059】
本実施例の構成は患者データ確認部13及び表示画像作成部19が異なっている。これについては後述する。次に図12に従い画像処理装置10の処理の流れを説明する。なおステップS1201、S1202及びS1204乃至S1207の処理は実施例1と同様であるため説明を省略する。
【0060】
(ステップS1203)ステップS1203で患者データ確認部13は取得したOCT断層画像と同一被検眼の対応する眼底画像が保存部30に存在するかを確認する。ここで断層画像の撮影日時から数えて所定期間以上昔の画像である場合には、対応しないと判定する。同一患者の眼底画像が存在する場合(ステップS1203でYes)、ステップS1204に進む。存在しない場合(ステップS1203でNo)、ステップS1209に進む。
【0061】
(ステップS1208)ステップS1208で表示画像作成部19は位置合わせがされた表面画像と投影画像を表示部40に表示させる。ステップS1204にて位置合わせ部14が回転成分Δθを取得している場合には、まず投影画像を通常通り表示し、この投影画像に対して表面画像をこのΔθだけ回転させて表示させる。この表示例を示したのが図13である。図13に示す表示例では、画面のX方向及びY方向とそれぞれ平行な2組の線分で囲まれる矩形で投影画像FM13が所定の透明度で示されている。これに対して、略円形で表される眼底画像FI13を位置合わせ時の回転成分Δθだけ回転させて表示される。
【0062】
更に図13の表示例では、投影画像上にOCTのBスキャンラインSL13を表示させており、このスキャンラインに対応する断層画像T13が表面画像と並べて表示される。このBスキャンラインSL13はユーザのマウス操作によって上下に平行移動させることができる。このBスキャンラインSL13の位置が変わること応じて対応する断層画像が表示される。投影画像を回転させずに表示することで、投影画像上においてBスキャンラインが画面のX方向と平行になるため、マウス等で操作するとき操作しやすい。仮に投影画像が回転されて画面上に表示されている場合には、マウスの操作によってラインが斜めに動くこととなる。これは、マウスによる上下操作の方向とラインの移動方向が一致せず、不自然である。このように断層画像と表面画像の両方を確認して診断を行う場合には、直感的な操作を実現できるため診断者が利用しやすい。
【0063】
(ステップS1209)ステップS1209で表示画像作成部19は表示部40に投影画像を表示させる。この際に、表面画像がある場合に比べて投影画像を拡大して表示させる。これは、表面画像がない場合に投影画像を拡大して詳細に表示させることを意図するものである。また、投影画像の透明度を0に設定して表示させる。
【0064】
本実施例では断層画像があることを前提とし、断層画像に対応する表面画像が存在するか否かを判定しているが、表面画像が得られている場合に、保存部30に記憶された断層画像を探索することとしてもよい。また両方の場合を兼ね備えて、一方の画像と対応する他方の画像が存在するか否かを判定することとしてもよい。
【実施例5】
【0065】
本実施例では、上述の表面画像と共に表面画像から抽出された構造の位置を示した断層画像も表示させる。装置の構成及び処理としては、表示画像作成部19が先述の実施例とは異なる画像を作成する点で異なっている。
【0066】
解析部15は表面画像にて視神経乳頭部を抽出すると共に、断層画像においても視神経乳頭部を抽出する。表示画像作成部19は解析部15が抽出した視神経乳頭部の位置座標を取得する。その座標値に基づいて断層画像中に視神経乳頭部の位置を表示する。図14は本実施例における断層画像の表示例を示したものである。表示画面において断層画像の上部には表面画像から抽出した視神経乳頭部の位置を表示している。また、断層画像の株には断層画像から抽出した視神経乳頭部の位置を表示している。
【0067】
別の例としては、同様の手法を用いることにより、視神経乳頭部のカップ領域とディスク領域の位置を断層画像上に表示させる。これにより、緑内障の指標となるカップ領域やディスク領域の状態を断層画像において確認することができる。
【0068】
このように、断層画像において表面画像で抽出された構造の位置を表示することにより、断層画像において断層画像と表面画像の両方から抽出された構造をユーザに確認させることができる。
【0069】
(その他の実施例)
上述の実施例では眼底カメラにより撮影された眼底の表面画像とOCTの断層画像を用いる例を説明した。本発明の範囲はこれに限らず、SLOにより得られるSLO画像と、OCTにより得られる断層画像または投影画像を表示させることとしてもよい。または、眼底カメラで得られる表面画像と、SLOで得られるSLO画像と、OCTで得られる断層画像または投影画像とを表示させることとしてもよい。
【0070】
また、投影画像を表面画像に重畳せずに、各画像から抽出した構造を直接表面画像に重畳して表示してもよい。更には抽出した構造を、眼底カメラで得られる表面画像ではなくて、眼底の表面を模式的に示した画像に示してもよい。また、抽出した構造のみを表示することとしてもよい。
【0071】
更にその他の実施例としては、表面画像と断層画像のそれぞれで抽出された構造に不一致がある場合には画面上に警告を示す表示させ、ユーザに通知する。装置の構成及び処理は表示画像作成部19が警告を示す表示を画像に付す点が異なっている。表示画像作成部19は抽出された血管が投影画像のみから抽出された血管がある場合に、その旨を示す文字または画像を表示させ、ユーザに通知する。これによりユーザはその文字または画像を確認して、断層画像のみから抽出された血管であることを知ることができる。更に、投影画像から抽出される血管の位置と、表面画像から抽出される血管の位置とが不連続となっている位置を表示することでユーザに対して通知する。
【0072】
また別の実施例としては、断層画像のみで抽出された構造は既定では表示させない設定としておき、ユーザの指示に応じて表示、非表示を切り替え可能に制御する。表示制御部として機能する表示画像作成部19は、ユーザのキーボード入力に応じて断層画像のみで抽出された構造の表示、非表示を切り替える。また、表面画像及び断層画像から抽出された構造の表示(抽出された構造を囲む等)をユーザの操作に応じて切り替える。更には、投影画像の表示、非表示もユーザの操作に応じて切り替える。これにより、ユーザは各画像を単独で確認したり、装置により抽出された構造の位置を合わせて確認したりするなど、ユーザの希望に応じた情報をわかりやすい表示で確認することができる。
【0073】
また画像処理装置内で行われている処理を複数の装置で分散させ画像処理システムとして実現しても、1つの機能ブロックとしてまとめられている処理を複数の回路または機能ブロックで分散させて実現してもよい。また、撮影装置または検出器に上述の実施例における画像処理装置及び表示装置の機能を組み込んで撮影装置により本発明を実現することとしてもよい。この場合には画像取得部11が光干渉断層計20を有し、この画像取得部11により被写体を撮影して画像を取得する。
【0074】
上述の画像処理装置10では各ブロックは回路として実装されているが、ソフトウェアとコンピュータのハードウェアとの協働により各ブロックに対応する機能を実装してもよい。具体的には、電子計算機は例えばCPU、ROM、RAM、HDD、マウス、キーボード、ネットワークI/F、表示部を有するものがある。ここで、ROMまたはHDDには、画像処理装置10であるコンピュータの各ハードウェアと協働して図1に示す機能を発揮し、図4に示される処理をコンピュータに実行させるためのプログラムが格納される。このプログラムが、RAMに展開され、CPUがその命令を実行することで、図1に示す機能が発揮され、図4に示す処理が実現される。
【0075】
ここでCPUは1つのコンピュータ内に複数含まれていてもよく、この場合複数のCPUで分散させて本発明を実現することとしてもよい。
【0076】
また本発明を電子計算機のハードウェアとソフトウェアの協働により実現する場合、電子計算機が読み出したプログラムコードを実行させる。電子計算機上で稼動しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施例の機能が実現される場合も本発明の範囲に含まれる。更にこの場合には、プログラムまたはプログラムコードを記録した記録媒体は本発明を構成する。
【0077】
なお、上述した本実施の形態における記述は、本発明に係る好適な画像処理装置の一例であり、本発明はこれに限定されるものではない。
【符号の説明】
【0078】
1 撮影システム
10 画像処理装置
13 患者データ確認部
14 位置合わせ部
15 解析部
16 OCT画像解析部
17 表面画像解析部
18 SLO画像解析部
19 表示画像作成部
40 表示部
【特許請求の範囲】
【請求項1】
光干渉断層計で被検眼を撮影して得られるOCT画像から前記被検眼の構造を抽出するとともに、眼底カメラまたは走査型レーザ検眼鏡のいずれかで前記被検眼を撮影して得られる眼底画像から前記被検眼の構造を抽出する抽出手段と、
前記抽出手段によりそれぞれ抽出された構造を眼底の画像に表示させる表示制御手段と、
を有することを特徴とする画像処理装置。
【請求項2】
前記表示制御手段は、前記抽出された構造に応じて、該抽出された構造の透明度を変えて表示させる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記抽出された構造について前記抽出の信頼度を算出する算出手段を更に有し、
前記表示制御手段は、前記算出された信頼性に応じて前記抽出された構造の表示形態を変えることを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記OCT画像または前記眼底画像の少なくとも一方から抽出された構造を、該構造について前記算出された信頼度に応じた透明度で表示させる
ことを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記算出手段は、前記抽出された構造について複数の部分毎に前記抽出の信頼度を算出し、
前記表示制御手段は、前記OCT画像にて抽出された構造のうち信頼度が高い部分の透明度を前記信頼度が低い部分の透明度よりも低くして表示させる
ことを特徴とする請求項3に記載の画像処理装置。
【請求項6】
前記表示制御手段は、前記OCT画像である投影画像を所定の透明度で前記眼底画像に重畳して表示させるとともに、前記抽出手段で抽出された構造の位置を前記眼底画像に表示させる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項7】
前記表示制御手段は、前記OCT画像から前記抽出された構造と、前記眼底画像から前記抽出された構造とを区別して表示させる
ことを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記表示制御手段は、前記OCT画像である断層画像に前記眼底画像から前記抽出手段により抽出される構造の位置を表示させる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項9】
前記OCT画像または前記眼底画像の一方と対応する他方の画像が存在するか否かを判定する判定手段を有することを特徴とする請求項1に記載の画像処理装置。
【請求項10】
前記表示制御手段は、前記OCT画像である投影画像に対応する前記眼底画像が存在していないと判定された場合には、前記眼底画像が存在している場合よりも前記投影画像を大きく表示させる
ことを特徴とする請求項9に記載の画像処理装置。
【請求項11】
前記OCT画像である投影画像と前記眼底画像の位置ずれの回転成分を取得する位置合わせ手段を更に有し、
前記表示制御手段は、前記回転成分がある場合には、前記眼底画像を位置ずれの回転成分がない場合と比べて前記回転成分だけ回転させて表示させる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項12】
前記表示制御手段は、前記抽出手段により前記OCT画像から抽出される血管の位置と前記眼底画像から抽出される血管の位置とが不連続となっている位置を通知する通知手段を更に有する
ことを特徴とする請求項1に記載の画像処理装置。
【請求項13】
前記抽出手段は、前記OCT画像である断層画像から血管、視神経乳頭部、黄斑部または白斑の少なくとも1つを抽出し、前記眼底画像から血管、視神経乳頭部、黄斑部、白斑または脈絡膜新生血管の少なくとも1つを抽出する
ことを特徴とする請求項1に記載の画像処理装置。
【請求項14】
光干渉断層計、眼底カメラ、または走査型レーザ検眼鏡の少なくとも2つから得られる画像のそれぞれから、被検眼の構造を抽出する抽出手段と、
眼底の画像を表示させ、前記抽出手段により抽出された構造の位置を該眼底の画像に表示する表示手段と、
を有することを特徴とする画像処理システム。
【請求項15】
光干渉断層計、眼底カメラ、または走査型レーザ検眼鏡の少なくとも2つから得られる画像のそれぞれから、被検眼の構造を抽出する抽出ステップと、
眼底の画像を表示させ、前記抽出手段により抽出された構造の位置を該眼底の画像に表示する表示ステップと、
を有することを特徴とする画像処理方法。
【請求項16】
光干渉断層計、眼底カメラ、または走査型レーザ検眼鏡の少なくとも2つから得られる画像のそれぞれから、被検眼の構造を抽出する処理と、
眼底の画像を表示させ、前記抽出手段により抽出された構造の位置を該眼底の画像に表示する画像を作成する処理と、
をコンピュータに実行させるためのプログラム。
【請求項1】
光干渉断層計で被検眼を撮影して得られるOCT画像から前記被検眼の構造を抽出するとともに、眼底カメラまたは走査型レーザ検眼鏡のいずれかで前記被検眼を撮影して得られる眼底画像から前記被検眼の構造を抽出する抽出手段と、
前記抽出手段によりそれぞれ抽出された構造を眼底の画像に表示させる表示制御手段と、
を有することを特徴とする画像処理装置。
【請求項2】
前記表示制御手段は、前記抽出された構造に応じて、該抽出された構造の透明度を変えて表示させる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記抽出された構造について前記抽出の信頼度を算出する算出手段を更に有し、
前記表示制御手段は、前記算出された信頼性に応じて前記抽出された構造の表示形態を変えることを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記OCT画像または前記眼底画像の少なくとも一方から抽出された構造を、該構造について前記算出された信頼度に応じた透明度で表示させる
ことを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記算出手段は、前記抽出された構造について複数の部分毎に前記抽出の信頼度を算出し、
前記表示制御手段は、前記OCT画像にて抽出された構造のうち信頼度が高い部分の透明度を前記信頼度が低い部分の透明度よりも低くして表示させる
ことを特徴とする請求項3に記載の画像処理装置。
【請求項6】
前記表示制御手段は、前記OCT画像である投影画像を所定の透明度で前記眼底画像に重畳して表示させるとともに、前記抽出手段で抽出された構造の位置を前記眼底画像に表示させる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項7】
前記表示制御手段は、前記OCT画像から前記抽出された構造と、前記眼底画像から前記抽出された構造とを区別して表示させる
ことを特徴とする請求項6に記載の画像処理装置。
【請求項8】
前記表示制御手段は、前記OCT画像である断層画像に前記眼底画像から前記抽出手段により抽出される構造の位置を表示させる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項9】
前記OCT画像または前記眼底画像の一方と対応する他方の画像が存在するか否かを判定する判定手段を有することを特徴とする請求項1に記載の画像処理装置。
【請求項10】
前記表示制御手段は、前記OCT画像である投影画像に対応する前記眼底画像が存在していないと判定された場合には、前記眼底画像が存在している場合よりも前記投影画像を大きく表示させる
ことを特徴とする請求項9に記載の画像処理装置。
【請求項11】
前記OCT画像である投影画像と前記眼底画像の位置ずれの回転成分を取得する位置合わせ手段を更に有し、
前記表示制御手段は、前記回転成分がある場合には、前記眼底画像を位置ずれの回転成分がない場合と比べて前記回転成分だけ回転させて表示させる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項12】
前記表示制御手段は、前記抽出手段により前記OCT画像から抽出される血管の位置と前記眼底画像から抽出される血管の位置とが不連続となっている位置を通知する通知手段を更に有する
ことを特徴とする請求項1に記載の画像処理装置。
【請求項13】
前記抽出手段は、前記OCT画像である断層画像から血管、視神経乳頭部、黄斑部または白斑の少なくとも1つを抽出し、前記眼底画像から血管、視神経乳頭部、黄斑部、白斑または脈絡膜新生血管の少なくとも1つを抽出する
ことを特徴とする請求項1に記載の画像処理装置。
【請求項14】
光干渉断層計、眼底カメラ、または走査型レーザ検眼鏡の少なくとも2つから得られる画像のそれぞれから、被検眼の構造を抽出する抽出手段と、
眼底の画像を表示させ、前記抽出手段により抽出された構造の位置を該眼底の画像に表示する表示手段と、
を有することを特徴とする画像処理システム。
【請求項15】
光干渉断層計、眼底カメラ、または走査型レーザ検眼鏡の少なくとも2つから得られる画像のそれぞれから、被検眼の構造を抽出する抽出ステップと、
眼底の画像を表示させ、前記抽出手段により抽出された構造の位置を該眼底の画像に表示する表示ステップと、
を有することを特徴とする画像処理方法。
【請求項16】
光干渉断層計、眼底カメラ、または走査型レーザ検眼鏡の少なくとも2つから得られる画像のそれぞれから、被検眼の構造を抽出する処理と、
眼底の画像を表示させ、前記抽出手段により抽出された構造の位置を該眼底の画像に表示する画像を作成する処理と、
をコンピュータに実行させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2012−45298(P2012−45298A)
【公開日】平成24年3月8日(2012.3.8)
【国際特許分類】
【出願番号】特願2010−192385(P2010−192385)
【出願日】平成22年8月30日(2010.8.30)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
【公開日】平成24年3月8日(2012.3.8)
【国際特許分類】
【出願日】平成22年8月30日(2010.8.30)
【出願人】(000001007)キヤノン株式会社 (59,756)
【Fターム(参考)】
[ Back to top ]