説明

画像処理装置および方法、並びにプログラム

【課題】より簡単かつ迅速に診断のための診察用動画像を得ることができるようにする。
【解決手段】観察位置検出辞書生成部22乃至観察順序生成辞書生成部24は、任意の医用画像から、注目すべき観察位置や、それらの観察位置の観察すべき順序などを得るための各辞書を生成する。診察用動画像生成部25は、生成された各辞書を用いて、入力された医用画像から、観察位置を検出するとともに、それらの観察位置を観察すべき順序と観察パラメータを特定する。そして、診察用動画像生成部25は、各観察位置が、特定された順序および観察パラメータで表示される診察用動画像を生成する。本発明は、画像処理装置に適用することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像処理装置および方法、並びにプログラムに関し、特に、より簡単かつ迅速に診断のための病理画像を得ることができるようにした画像処理装置および方法、並びにプログラムに関する。
【背景技術】
【0002】
従来、医師などが顕微鏡等で得られた病理画像を観察し、病理診断を行なう場合があり、このような病理画像を用いて診断を行なうのに有用な技術が提案されている。
【0003】
そのような技術としては、例えばユーザの操作入力に応じて、顕微鏡で撮像された顕微鏡画像を用いて、スクリーニング(移動観察)動画像、ズーミング動画像、およびフォーカシング動画像を生成する技術が提案されている(例えば、特許文献1参照)。この技術では、過去の操作入力の履歴や現在の操作入力に応じた動画像が生成可能である。
【0004】
また、指導医の観察ログに基づいて、試料の観察された領域を観察に必要な解像度で撮像し、撮像により得られた画像を関係付けて記録することで、病理診断学の教材用の画像を生成する方法も提案されている(例えば、特許文献2参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2006−228185号公報
【0006】
【特許文献2】特開2005−266718号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、上述した技術では、診断のための病理画像を生成することで、病理診断をより効率的に行なうことができるようになるが、そのような病理画像を得るには、煩雑な操作が必要であった。
【0008】
例えば、特許文献1に記載の技術では、診断用の病理画像として、スクリーニング動画像等を得るには、ユーザは操作入力をする必要があった。特に、新規の顕微鏡画像に対しては、ユーザが手動で多くの操作入力をする必要があり、スクリーニング動画像等が得られるまでに時間がかかってしまう。
【0009】
本発明は、このような状況に鑑みてなされたものであり、より簡単かつ迅速に診断のための病理画像を得ることができるようにするものである。
【課題を解決するための手段】
【0010】
本発明の一側面の画像処理装置は、処理対象の医用画像から、第1の特徴量を抽出する第1の特徴量抽出手段と、予め統計学習により生成された、第1の特徴量から画像上の注目すべき位置である観察位置を検出するための位置検出辞書と、前記医用画像から抽出された前記第1の特徴量とに基づいて、前記医用画像から前記観察位置を検出する位置検出手段と、前記医用画像上の前記観察位置から、第2の特徴量を抽出する第2の特徴量抽出手段と、予め統計学習により生成された、第2の特徴量から画像上の各観察位置を観察すべき順序を特定するための順序生成辞書と、前記医用画像上の前記観察位置のそれぞれの前記第2の特徴量とに基づいて、前記医用画像上の前記観察位置を観察すべき観察順序を特定する観察順序特定手段と、前記医用画像、検出された前記観察位置、および特定された前記観察順序に基づいて、前記医用画像上の前記観察位置を、前記観察順序で表示するための観察画像を生成する画像生成手段とを備える。
【0011】
画像処理装置には、前記医用画像上の前記観察位置から、第3の特徴量を抽出する第3の特徴量抽出手段と、予め統計学習により生成された、第3の特徴量から画像上の観察位置の観察条件を特定するための観察条件生成辞書と、前記医用画像上の前記観察位置の前記第3の特徴量とに基づいて、前記医用画像上の前記観察位置ごとに前記観察条件を特定する観察条件特定手段とをさらに設け、前記画像生成手段には、前記観察位置が、特定された前記観察条件で表示されるように、前記観察画像を生成させることができる。
【0012】
前記観察条件は、前記観察位置の表示倍率、または前記観察位置を継続して表示する表示時間とすることができる。
【0013】
前記観察画像を、前記観察位置が前記観察順序で順番に表示される動画像とし、前記動画像の最初または最後の少なくとも何れかにおいて、前記医用画像全体が表示されるようにすることができる。
【0014】
前記観察画像を、前記観察位置が前記観察順序で順番に表示される動画像とし、前記動画像において、1つの前記観察位置が表示された後、前記医用画像全体が表示されてから、次の前記観察位置が表示されるようにすることができる。
【0015】
前記観察画像を、前記観察画像の一部の領域に継続して前記医用画像全体が表示されている状態で、前記観察位置が前記観察順序で順番に表示される動画像とすることができる。
【0016】
本発明の一側面の画像処理方法またはプログラムは、処理対象の医用画像から、第1の特徴量を抽出し、予め統計学習により生成された、第1の特徴量から画像上の注目すべき位置である観察位置を検出するための位置検出辞書と、前記医用画像から抽出された前記第1の特徴量とに基づいて、前記医用画像から前記観察位置を検出し、前記医用画像上の前記観察位置から、第2の特徴量を抽出し、予め統計学習により生成された、第2の特徴量から画像上の各観察位置を観察すべき順序を特定するための順序生成辞書と、前記医用画像上の前記観察位置のそれぞれの前記第2の特徴量とに基づいて、前記医用画像上の前記観察位置を観察すべき観察順序を特定し、前記医用画像、検出された前記観察位置、および特定された前記観察順序に基づいて、前記医用画像上の前記観察位置を、前記観察順序で表示するための観察画像を生成するステップを含む。
【0017】
本発明の一側面においては、処理対象の医用画像から、第1の特徴量が抽出され、予め統計学習により生成された、第1の特徴量から画像上の注目すべき位置である観察位置を検出するための位置検出辞書と、前記医用画像から抽出された前記第1の特徴量とに基づいて、前記医用画像から前記観察位置が検出され、前記医用画像上の前記観察位置から、第2の特徴量が抽出され、予め統計学習により生成された、第2の特徴量から画像上の各観察位置を観察すべき順序を特定するための順序生成辞書と、前記医用画像上の前記観察位置のそれぞれの前記第2の特徴量とに基づいて、前記医用画像上の前記観察位置を観察すべき観察順序が特定され、前記医用画像、検出された前記観察位置、および特定された前記観察順序に基づいて、前記医用画像上の前記観察位置を、前記観察順序で表示するための観察画像が生成される。
【発明の効果】
【0018】
本発明の一側面によれば、より簡単かつ迅速に診断のための病理画像を得ることができる。
【図面の簡単な説明】
【0019】
【図1】画像処理装置の一実施の形態の構成例を示す図である。
【図2】観察位置検出辞書生成部の構成例を示す図である。
【図3】観察パラメータ生成辞書生成部の構成例を示す図である。
【図4】観察順序生成辞書生成部の構成例を示す図である。
【図5】診察用動画像生成部の構成例を示す図である。
【図6】観察ログの生成について説明する図である。
【図7】観察ログの生成について説明する図である。
【図8】観察位置検出辞書の学習処理を説明するフローチャートである。
【図9】観察位置検出辞書の学習について説明する図である。
【図10】観察パラメータ生成辞書の学習処理を説明するフローチャートである。
【図11】観察パラメータ生成辞書の学習について説明する図である。
【図12】観察順序生成辞書の学習処理を説明するフローチャートである。
【図13】観察順序生成辞書の学習について説明する図である。
【図14】動画像生成処理を説明するフローチャートである。
【図15】コンピュータの構成例を示す図である。
【発明を実施するための形態】
【0020】
以下、図面を参照して、本発明を適用した実施の形態について説明する。
【0021】
〈第1の実施の形態〉
[画像処理装置の構成例]
図1は、本発明を適用した画像処理装置の一実施の形態の構成例を示す図である。この画像処理装置11は、例えば顕微鏡等で撮像された医用画像から、医師等が病理診断に用いる診察用動画像を生成して再生するものである。
【0022】
なお、医用画像は、一般的な医用画像であれば、どのようなものであってもよいが、以下では、医用画像が病理診断用の画像である場合を例として説明を続ける。また、医用画像は、2次元の画像データに限らず、CT(Computed Tomography)やMRI(Magnatic Resonance Image)などの3次元の画像データとすることも可能である。
【0023】
画像処理装置11は、取得部21、観察位置検出辞書生成部22、観察パラメータ生成辞書生成部23、観察順序生成辞書生成部24、診察用動画像生成部25、記録部26、表示制御部27、および表示部28から構成される。
【0024】
取得部21は、観察位置検出辞書生成部22乃至観察順序生成辞書生成部24で行なわれる学習処理に用いられる、学習用医用画像および観察ログを取得し、記録する。例えば、学習用医用画像は、記録部26から取得される。また、取得部21は、必要に応じて、学習用医用画像および観察ログを、観察位置検出辞書生成部22乃至観察順序生成辞書生成部24に供給する。
【0025】
ここで、観察ログは、熟練医師等が病理画像ビューアなどを用いて学習用医用画像を表示させ、表示倍率等を変化させながら、その学習用医用画像の各領域を観察したときの観察のログである。より詳細には、取得部21は、学習用医用画像の表示時に、1秒ごとに観察のログを取得し、その結果得られたログを加工して、観察ログとする。
【0026】
観察位置検出辞書生成部22は、取得部21からの学習用医用画像および観察ログを用いて統計学習を行い、任意の病理診断用の医用画像から、その医用画像上における注目して観察すべき領域の位置を検出するための観察位置検出辞書を生成する。
【0027】
例えば、医用画像上で注目して観察すべき領域とは、腫瘍などの診断に必要な部位、つまり医師により診断されるべき注目部位とされる。以下、観察位置検出辞書により検出される、注目して観察すべき領域の位置、および学習用医用画像において熟練医師等が注目して観察した領域の位置を観察位置とも称する。
【0028】
観察パラメータ生成辞書生成部23は、取得部21からの学習用医用画像および観察ログを用いて統計学習を行い、病理診断用の医用画像上の各観察位置を観察するときに設定すべき、各種のパラメータを特定するための観察パラメータ生成辞書を生成する。
【0029】
例えば、各観察位置を観察するときの各種のパラメータは、表示倍率、観察位置の観察時間(表示時間)などの観察条件とされる。以下、観察パラメータ生成辞書を用いて得られるこれらの観察条件を示すパラメータを、観察パラメータと称する。
【0030】
観察順序生成辞書生成部24は、取得部21からの学習用医用画像および観察ログを用いて統計学習を行い、病理診断用の医用画像上の各観察位置を観察すべき順序を特定するための観察順序生成辞書を生成する。
【0031】
診察用動画像生成部25は、観察位置検出辞書生成部22乃至観察順序生成辞書生成部24で生成された各辞書を取得して保持するとともに、それらの辞書を用いて、入力された医用画像から診察用動画像を生成して記録部26に供給する。
【0032】
記録部26は、診察用動画像生成部25から供給された診察用動画像を記録するとともに、診察用動画像を表示制御部27や取得部21に供給する。表示制御部27は、記録部26から供給された診察用動画像を表示部28に供給し、診察用動画像の再生を制御する。表示部28は、例えば液晶ディスプレイなどからなり、表示制御部27の制御にしたがって診察用動画像を表示する。
【0033】
[観察位置検出辞書生成部の構成例]
次に、図1の観察位置検出辞書生成部22乃至観察順序生成辞書生成部24、および診察用動画像生成部25のより詳細な構成例について説明する。
【0034】
図2は、観察位置検出辞書生成部22の構成例を示す図である。
【0035】
観察位置検出辞書生成部22は、周辺画像生成部51、特徴量抽出部52、学習部53、および辞書生成部54から構成される。
【0036】
周辺画像生成部51は、取得部21から学習用医用画像と観察ログを取得して、学習用医用画像の一部の領域を周辺画像として切り出して、特徴量抽出部52に供給する。このとき、観察ログに基づいて、周辺画像の切り出しが行なわれる。
【0037】
特徴量抽出部52は、周辺画像生成部51から供給された複数の周辺画像について、それらの周辺画像から予め定められた特徴の特徴量を抽出し、学習部53に供給する。学習部53は、特徴量抽出部52から供給された特徴量に基づいて統計学習を行い、その学習結果を辞書生成部54に供給する。辞書生成部54は、学習部53からの学習結果に基づいて観察位置検出辞書を生成し、診察用動画像生成部25に供給する。
【0038】
[観察パラメータ生成辞書生成部の構成例]
図3は、観察パラメータ生成辞書生成部23の構成例を示す図である。観察パラメータ生成辞書生成部23は、周辺画像生成部81、特徴量抽出部82、学習部83、および辞書生成部84から構成される。
【0039】
なお、これらの周辺画像生成部81乃至辞書生成部84は、学習のアルゴリズムや抽出する特徴量が異なるだけで、基本的に図2の周辺画像生成部51乃至辞書生成部54と同様であるので、その説明は省略する。
【0040】
但し、学習部83では、周辺画像から抽出された特徴量と、取得部21から供給された観察ログとが用いられて統計学習が行なわれる。また、辞書生成部84で生成された観察パラメータ生成辞書は、診察用動画像生成部25に供給される。
【0041】
[観察順序生成辞書生成部の構成例]
図4は、観察順序生成辞書生成部24の構成例を示す図である。観察順序生成辞書生成部24は、周辺画像生成部111、特徴量抽出部112、学習部113、および辞書生成部114から構成される。
【0042】
なお、これらの周辺画像生成部111乃至辞書生成部114は、学習のアルゴリズムや抽出する特徴量が異なるだけで、基本的に図2の周辺画像生成部51乃至辞書生成部54と同様であるので、その説明は省略する。
【0043】
但し、学習部113では、周辺画像から抽出された特徴量と、取得部21から供給された観察ログとが用いられて統計学習が行なわれる。また、辞書生成部114で生成された観察順序生成辞書は、診察用動画像生成部25に供給される。
【0044】
なお、周辺画像生成部51、周辺画像生成部81、および周辺画像生成部111で生成される周辺画像は、同じ大きさであってもよいし、異なる大きさでもよい。
【0045】
[診察用動画像生成部の構成例]
さらに、図5は、診察用動画像生成部25の構成例を示す図である。
【0046】
診察用動画像生成部25は、観察位置検出辞書保持部141、観察パラメータ生成辞書保持部142、観察順序生成辞書保持部143、観察位置検出部144、観察パラメータ生成部145、観察順序情報生成部146、および動画像生成部147から構成される。
【0047】
観察位置検出辞書保持部141乃至観察順序生成辞書保持部143は、それぞれ観察位置検出辞書生成部22乃至観察順序生成辞書生成部24から供給された観察位置検出辞書、観察パラメータ生成辞書、および観察順序生成辞書を保持する。
【0048】
観察位置検出部144は、観察位置検出辞書保持部141に記録されている観察位置検出辞書を用いて、供給された医用画像から観察位置を検出し、その検出結果と医用画像を観察パラメータ生成部145、観察順序情報生成部146、および動画像生成部147に供給する。また、観察位置検出部144は特徴量抽出部161を備えており、特徴量抽出部161は、観察位置の検出時において、医用画像から観察位置の検出に用いられる特徴量を抽出する。
【0049】
観察パラメータ生成部145は、観察位置検出部144から供給された検出結果および医用画像と、観察パラメータ生成辞書保持部142に保持されている観察パラメータ生成辞書とに基づいて、医用画像上の観察位置ごとに観察パラメータを生成し、動画像生成部147に供給する。
【0050】
また、観察パラメータ生成部145は特徴量抽出部162を備えており、特徴量抽出部162は、観察パラメータの生成時において、観察位置検出部144から供給された医用画像から、観察パラメータの生成に用いる特徴量を抽出する。
【0051】
観察順序情報生成部146は、観察位置検出部144から供給された検出結果および医用画像と、観察順序生成辞書保持部143に保持されている観察順序生成辞書とに基づいて、医用画像上の観察位置の観察順序を示す観察順序情報を生成し、動画像生成部147に供給する。
【0052】
また、観察順序情報生成部146は特徴量抽出部163を備えており、特徴量抽出部163は、観察順序情報の生成時において、観察位置検出部144から供給された医用画像から、観察順序情報の生成に用いる特徴量を抽出する。
【0053】
動画像生成部147は、観察位置検出部144からの観察位置の検出結果と医用画像、観察パラメータ生成部145から観察パラメータ、および観察順序情報生成部146からの観察順序情報に基づいて、診察用動画像を生成し、記録部26に供給する。
【0054】
[観察ログの生成について]
ところで、熟練医師等が画像処理装置11を操作し、病理診断のための病理画像として、学習用医用画像の表示を指示すると、表示制御部27は、記録部26から学習用医用画像を取得して表示部28に供給し、表示させる。このとき、表示制御部27は、熟練医師等の操作に応じて、学習用医用画像の一部の領域を拡大して表示させたり、所定の領域から他の領域までスクロール表示を行なったりする。
【0055】
これにより、例えば表示部28には、図6の左側に示す学習用医用画像が表示される。図6の例では、表示部28の表示画面の図中、右下に設けられた領域RA11には、表示対象となっている学習用医用画像全体が表示されており、その学習用医用画像の一部の領域が表示部28の表示画面全体に表示されている。すなわち、表示部28の表示画面全体には、領域RA11内の学習用医用画像上における領域RB11の画像が、拡大表示されている。
【0056】
熟練医師等は、表示部28に表示された学習用医用画像の各領域を観察することで、病理診断を行なう。例えば、熟練医師等は、癌の発見や癌の進行度合いを診断する。
【0057】
このように、熟練医師等が、学習用医用画像の各領域を所定の表示倍率で拡大、縮小させて観察すると、取得部21は、表示されている学習用医用画像を記録部26から取得するとともに、その学習用医用画像の観察のログを1秒ごとに記録する。
【0058】
これにより、例えば図6の右側に示す毎秒ごとのログLG11が得られる。ログLG11では、各時刻における熟練医師の観察位置と表示倍率とからなるデータが、図中、縦方向に時刻順に並べられている。
【0059】
ここで、観察位置は、学習用医用画像上の表示部28に表示されている領域の中心位置であり、観察位置は、学習用医用画像の所定の位置を原点とするXY座標系のX座標とY座標により表される。また、表示倍率とは、学習用医用画像の観察位置を表示するときの表示倍率(拡大倍率)である。
【0060】
図6の例では、{X座標,Y座標,表示倍率}からなるデータが、各時刻のログのデータとして、図中、縦方向に並べられている。したがって、例えばログLG11の図中、一番上側にあるデータ{330,456,10}から、熟練医師等が、X座標「330」およびY座標「456」により定まる学習用医用画像上の位置を、10倍の表示倍率で拡大表示させて観察していたことが分かる。
【0061】
熟練医師等による学習用医用画像の観察が終了すると、取得部21は、得られた毎秒ごとのログから観察ログを生成し、学習用の観察ログとして記録する。
【0062】
例えば取得部21は、図7に示すように、各時刻のX座標,Y座標,および表示倍率が含まれる毎秒ごとのログLG11から、学習用医用画像の各観察位置のX座標,Y座標,観察時間,および表示倍率が含まれる観察ログOLG11を生成する。
【0063】
なお、観察ログOLG11では、熟練医師等により観察された、学習用医用画像上の各観察位置の{X座標,Y座標,観察時間,表示倍率}からなるデータが、ログのデータとして図中、縦方向に時刻順に並べられている。
【0064】
例えば、ログLG11の図7中、上から3つのデータは{330,456,10}であり、同じデータとなっている。したがって、これらのデータから、熟練医師等が、X座標「330」およびY座標「456」により定まる学習用医用画像上の領域を、表示倍率10倍で3秒間、観察していたことが分かる。
【0065】
そこで、取得部21は、これらのデータから、観察ログOLG11の図中、一番上側のデータ{330,456,3,10}を生成する。ここで、観察時間「3」は、このデータで特定される学習用医用画像上の領域が、継続して3秒間観察されたことを示している。つまり、観察時間は、学習用医用画像の領域が継続して表示された時間を示している。
【0066】
このようにして観察ログを生成すると、取得部21は、取得した学習用医用画像と観察ログとを対応付けて記録する。
【0067】
なお、観察ログの生成にあたり、熟練医師等が実際には病理診断を行なっていなかったときのログは、反映されないようにしてもよい。
【0068】
例えば、熟練医師等が学習用医用画像を用いた病理診断を行なうときに、何らかの要因により、一旦診断を中断したとする。この場合、診断が中断されてから、診断が再開されるまでの間は、実際には熟練医師等による診断はされていないのにも関わらず、ログが記録されてしまい、その間表示されていた観察位置の観察時間が必要以上に長くなってしまう。
【0069】
そこで、例えば画像処理装置11に、画像処理装置11の操作を行なう熟練医師等の視線方向を検出するセンサを設ければ、熟練医師等が実際に病理診断を行っているか否かを検出することができる。例えば、熟練医師等の視線が、明らかに表示部28の方向から大きく外れている場合、病理診断が行なわれていないとされる。
【0070】
このように、病理診断が行なわれていないと判定された場合、取得部21は、熟練医師等の視線方向が表示部28の方向であると検出されるまで、学習用医用画像の毎秒ごとのログの記録を抑制する。これにより、より正確な観察ログを得ることができる。
【0071】
[観察位置検出辞書の学習処理の説明]
取得部21により、充分な数の学習用医用画像と観察ログが得られると、観察位置検出辞書生成部22乃至観察順序生成辞書生成部24は、これらの学習用医用画像と観察ログを用いて学習を行い、各辞書を生成する。
【0072】
以下、これらの辞書の生成について説明する。
【0073】
まず、図8のフローチャートを参照して、観察位置検出辞書生成部22による観察位置検出辞書の学習処理について説明する。
【0074】
ステップS11において、周辺画像生成部51は、取得部21から供給された学習用医用画像および観察ログに基づいて、学習用医用画像上の観察位置および非観察位置の周辺画像を切り出して、特徴量抽出部52に供給する。
【0075】
例えば、図9に示す学習用医用画像が供給され、観察ログにより5つの観察位置P11乃至観察位置P15が特定されたとする。この場合、周辺画像生成部51は、これらの観察位置P11乃至観察位置P15を中心とする、矩形状の領域のそれぞれを切り出して、観察位置を含む周辺画像PD11乃至周辺画像PD15とする。
【0076】
また、周辺画像生成部51は、学習用医用画像上の観察位置とは異なるいくつかの位置を非観察位置とし、それらの非観察位置を中心とする、矩形状の領域のそれぞれを切り出して、非観察位置の周辺画像とする。なお、非観察位置は、周辺画像生成部51により無作為に定められる。
【0077】
以上のようにして得られた観察位置の周辺画像PD11乃至周辺画像PD15は、熟練医師等が病理診断のときに注目した部位の画像である。すなわち、病理診断時に、一定の時間以上継続して表示され続けた部位である。逆に、非観察位置の周辺画像は、熟練医師等が特に注目しなかった部位の画像である。
【0078】
周辺画像生成部51は、図中、右側に示すように周辺画像PD11乃至周辺画像PD15をポジティブデータとして特徴量抽出部52に供給し、非観察位置の周辺画像をネガティブデータとして特徴量抽出部52に供給する。例えば、ポジティブデータであるか、ネガティブデータであるかの区別は、それらの何れのデータであるかを示すラベルを周辺画像に付加することで行なわれる。
【0079】
なお、学習用医用画像から、周辺画像として切り出される領域の大きさは、予め定められた大きさとされてもよいし、その大きさが変えられながら観察位置検出辞書の統計学習が行なわれ、その過程で最適な大きさが定められるようにしてもよい。
【0080】
図8のフローチャートの説明に戻り、周辺画像生成部51は、複数の学習用医用画像から周辺画像を生成すると、それらの周辺画像を特徴量抽出部52に供給し、処理はステップS12に進む。
【0081】
ステップS12において、特徴量抽出部52は、周辺画像生成部51から供給された各周辺画像から特徴量を抽出し、各周辺画像に付加されたラベルとともに学習部53に供給する。例えば、特徴量抽出部52は、周辺画像上の任意の2つの画素の組を画素ペアとし、それらの画素の輝度値の差分を特徴量として求める。特徴量抽出部52は、周辺画像上のいくつかの異なる画素ペアについて、上述した特徴量を求め、学習部53に供給する。
【0082】
ステップS13において、学習部53は、特徴量抽出部52から供給された特徴量に基づいて、Boosting等の統計学習を行い、その学習結果を辞書生成部54に供給する。
【0083】
例えば、観察位置らしさを表す関数G(x)が、複数の弱識別器g(x)を線形結合、すなわち重み付き加算して得られる関数であるとする。ここで、弱識別器g(x)は、特定の画素ペアの特徴量が所定の閾値thg以上であれば「1」を出力し、特徴量が閾値thg未満であれば「0」を出力する関数である。また、関数G(x)に、画像から抽出された特徴量を代入して得られる値が大きいほど、その画像の領域は観察位置らしいものとする。
【0084】
このような場合、学習部53は、ポジティブデータから得られた特徴量と、ネガティブデータから得られた特徴量とを用いて、いくつかの弱識別器g(x)を組み合わせながら、最も高精度に観察位置を検出できる関数G(x)を統計学習により求める。換言すれば、統計学習では、観察位置の検出に最適な画素ペアの組み合わせ(弱識別器g(x)の組み合わせ)、各弱識別器g(x)の閾値thg、および線形結合に用いられる重みが求められることになる。
【0085】
ステップS14において、辞書生成部54は、学習部53から供給された統計学習の結果に基づいて、観察位置検出辞書を生成し、診察用動画像生成部25の観察位置検出辞書保持部141に供給して保持させる。
【0086】
例えば、辞書生成部54は、統計学習により求められた関数G(x)を構成する各弱識別器g(x)、それらの弱識別器の閾値thg、および線形結合に用いる各弱識別器の重みを観察位置検出辞書とする。このようにして観察位置検出辞書が生成されると、観察位置検出辞書の学習処理は終了する。
【0087】
このように、熟練医師の観察ログと学習用医用画像とを用いて、統計学習により予め観察位置検出辞書を生成しておけば、任意の医用画像から、熟練医師等が注目すると思われる観察位置を高精度に検出することができる。
【0088】
[観察パラメータ生成辞書の学習処理の説明]
次に、図10のフローチャートを参照して、観察パラメータ生成辞書生成部23による観察パラメータ生成辞書の学習処理について説明する。
【0089】
ステップS41において、周辺画像生成部81は、取得部21から供給された学習用医用画像および観察ログに基づいて、学習用医用画像上の観察位置の周辺画像を切り出して、特徴量抽出部82に供給する。すなわち、ステップS41では、図8のステップS11における観察位置の周辺画像の切り出しと同様の処理が行われる。
【0090】
ステップS42において、特徴量抽出部82は、周辺画像生成部81から供給された各周辺画像から特徴量を抽出し、学習部83に供給する。例えば、周辺画像の画素の輝度値の分布を示すヒストグラムや、HOG(Histograms of Oriented Gradients)などが特徴量として求められる。
【0091】
ステップS43において、学習部83は、特徴量抽出部82から供給された各周辺画像の特徴量と、取得部21から供給された観察ログとに基づいて、Gradient Boosting等の統計学習を行なう。つまり、観察ログから得られる各観察パラメータが教師データとされて、統計学習が行なわれる。
【0092】
例えば、観察パラメータとしての観察時間を得るための観察パラメータ生成辞書を得ようとする場合、学習部83は、図11に示すように、各周辺画像、より詳細には周辺画像から抽出された特徴量と、周辺画像に含まれる観察位置の観察時間とを対応付ける。例えば、複数の周辺画像からなる周辺画像群PG11乃至周辺画像群PG15は、それぞれ観察時間が5秒、6秒、7秒、20秒、および21秒である観察位置を含む周辺画像の集合である。
【0093】
そして学習部83は、各周辺画像の特徴量xと観察時間yに基づいて次式(1)を計算し、損失関数L(y,F(x))が最小となる関数F(x)を求める。
【0094】
【数1】

【0095】
ここで、関数F(x)は、観察位置を含む任意の画像から抽出された特徴量xから、観察パラメータ(ここでは観察時間y)を得るための関数である。また、式(1)において、Ex,y(L(y,F(x)))は、損失関数L(y,F(x))の期待値である。この統計学習は、損失関数を最少とする関数F’を推定する問題として定式化されている。
【0096】
学習部83は、観察パラメータごとに統計学習を行なうと、その学習結果を辞書生成部84に供給する。
【0097】
ステップS44において、辞書生成部84は、学習部83から供給された学習結果に基づいて、各観察パラメータの観察パラメータ生成辞書を生成し、診察用動画像生成部25の観察パラメータ生成辞書保持部142に供給して保持させる。
【0098】
例えば、辞書生成部84は、上述した関数F(x)を観察パラメータとしての観察時間の観察パラメータ生成辞書とする。このようにして観察パラメータ生成辞書が生成されると、観察パラメータ生成辞書の学習処理は終了する。
【0099】
このように、熟練医師の観察ログと学習用医用画像とを用いて、統計学習により予め観察パラメータ生成辞書を生成しておけば、任意の医用画像の各観察位置を、熟練医師等がどのような観察パラメータで観察するかを、高精度に推定することができる。
【0100】
[観察順序生成辞書の学習処理の説明]
さらに、図12のフローチャートを参照して、観察順序生成辞書生成部24による観察順序生成辞書の学習処理について説明する。
【0101】
ステップS71において、周辺画像生成部111は、取得部21から供給された学習用医用画像および観察ログに基づいて、学習用医用画像上の観察位置の周辺画像を切り出して、特徴量抽出部112に供給する。すなわち、ステップS71では、図8のステップS11における観察位置の周辺画像の切り出しと同様の処理が行われる。
【0102】
ステップS72において、特徴量抽出部112は、周辺画像生成部111から供給された各周辺画像から特徴量を抽出し、学習部113に供給する。例えば、周辺画像の画素の輝度値の分布を示すヒストグラムや、HOGなどが特徴量として求められる。
【0103】
ステップS73において、学習部113は、特徴量抽出部112から供給された各周辺画像の特徴量と、取得部21から供給された観察ログとに基づいて、Rank Boost等の統計学習を行なう。つまり、観察ログから得られる観察位置の観察順序が教師データとされて、統計学習が行なわれる。
【0104】
例えば、図13に示すように、学習用医用画像MP11乃至学習用医用画像MP13から、周辺画像が切り出されたとする。
【0105】
図13の例では、学習用医用画像MP11からは、観察位置P31乃至観察位置P34を中心とする周辺画像PD31乃至周辺画像PD34が切り出されている。また、学習用医用画像MP12からは、観察位置P41乃至観察位置P45を中心とする周辺画像PD41乃至周辺画像PD45が切り出され、学習用医用画像MP13からは、観察位置P51乃至観察位置P55を中心とする周辺画像PD51乃至周辺画像PD55が切り出されている。
【0106】
このような場合、学習部113は観察ログに基づいて、学習用医用画像ごとに、それらの学習用医用画像から切り出された周辺画像を、観察された順番に並び替える。観察ログでは、各観察位置に関する情報が時系列に並べられているので、それらの観察位置を含む周辺画像の観察順序(表示順序)は、観察ログを参照することで特定することができる。
【0107】
例えば、学習用医用画像MP11上において、観察位置P31乃至観察位置P34の順に熟練医師による観察が行なわれたとすると、学習部113は、学習用医用画像MP11から切り出された周辺画像を、周辺画像PD31乃至周辺画像PD34の順番に並べる。
【0108】
同様にして、学習部113は観察ログを参照して、学習用医用画像MP12から切り出された周辺画像を、周辺画像PD41乃至周辺画像PD45の順番に並べる。また、学習部113は、学習用医用画像MP13から切り出された周辺画像も、周辺画像PD51乃至周辺画像PD55の順番に並べる。
【0109】
より詳細には、学習部113は、学習用医用画像ごとに、その学習用医用画像から切り出された周辺画像の特徴量を昇順または降順に並べ替えることになる。
【0110】
学習部113は、特徴量の並び替えを行なうと、各周辺画像の特徴量xに基づいて次式(2)で示される損失関数rlossD(H)が最小となるスコア関数H(x)を求める。
【0111】
【数2】

【0112】
なお、式(2)において、[[H(x)≦H(x)]]は、H(x)≦H(x)が満たされる場合に「1」を出力し、H(x)≦H(x)が満たされない場合、「0」を出力する演算子である。また、式(2)におけるD(x,x)は、重みを示している。
【0113】
さらに、スコア関数H(x)は、次式(3)に示されるように、重みαを用いて弱識別器h(x)を線形結合することで得られる関数であり、このスコア関数H(x)の値は、病理診断時に注目すべき度合いを示している。
【0114】
【数3】

【0115】
式(3)における弱識別器h(x)は、周辺画像の特徴量xが所定の閾値tho以上である場合に「1」を出力し、特徴量xが閾値tho未満である場合に「0」を出力する関数である。より詳細には、弱識別器h(x)に代入される特徴量xは、例えば特徴量として周辺画像から抽出された輝度値のヒストグラムを構成する1つのビンの頻度値などとされ、ヒストグラムを構成するビンのうちの所定のT個のビンについて、弱識別器が設定される。
【0116】
学習部113は、1つの学習用医用画像から抽出された周辺画像ごとに、スコア関数H(x)を算出し、それらのスコア関数H(x)を上述した式(2)に代入することで、損失関数rlossD(H)を算出する。
【0117】
すなわち、1つの学習用医用画像から抽出された周辺画像から、任意の2つの周辺画像をペアとする場合に、全部でK通りのペアができるものとすると、学習部113は、K個の各ペアについて、演算子[[]]の演算を行う。例えば、周辺画像PDxと周辺画像PDxのペアであり、周辺画像PDxの観察順序がより早いのであれば、周辺画像PDxのスコア関数H(x)と周辺画像PDxのスコア関数H(x)から、[[H(x)≦H(x)]]の演算が行なわれる。
【0118】
学習部113は、周辺画像の全ての取り得るペアについて、演算子[[]]の演算を行なうと、それらの演算結果に重みD(x,x)を乗算して線形結合し、損失関数rlossD(H)の値を算出する。このようにして、学習部113は、スコア関数H(x)を構成する弱識別器h(x)の組み合わせ、重みα、および弱識別器の閾値thoを変化させながら、損失関数の値を算出し、損失関数が最小となるスコア関数H(x)を求める。
【0119】
このようにして行なわれるRank Boostは、候補を順位付けするスコア関数H(x)をBoostingにより学習する手法である。学習部113は、統計学習が行なわれると、その学習結果を辞書生成部114に供給し、処理はステップS74に進む。
【0120】
ステップS74において、辞書生成部114は、学習部113から供給された学習結果に基づいて、観察順序生成辞書を生成し、診察用動画像生成部25の観察順序生成辞書保持部143に供給して保持させる。
【0121】
例えば、辞書生成部114は、上述したスコア関数H(x)を構成する各弱識別器h(x)の組み合わせ、各弱識別器の閾値tho、および重みαを、観察順序生成辞書とする。このようにして観察順序生成辞書が生成されると、観察順序生成辞書の学習処理は終了する。
【0122】
このように、熟練医師の観察ログと学習用医用画像とを用いて、統計学習により予め観察順序生成辞書を生成しておけば、任意の医用画像の各観察位置を、熟練医師等がどのような順序で観察するかを、高精度に推定することができる。
【0123】
なお、観察順序生成辞書の学習時において、学習用医用画像から抽出された各周辺画像は、観察された順番に並べられるが、この順番は、学習用医用画像を用いて病理診断を行なった熟練医師等にとって注目度合いの高い順番である。
【0124】
例えば、注目度合いの高い順番とは、観察位置の部位としての腫瘍の癌進行度が高い順番などであり、この順番は病理診断の対象となる病変等によってある程度決まってくる。
【0125】
ところが、病理診断時に、医師によって各部位に対する注目度合いの判断基準が異なる場合がある。例えば、癌の診断を行なう場合に、腫瘍の進行度が高い順に各腫瘍を観察していく医師と、悪性の腫瘍であるかがあいまいなものから順番に観察していく医師とがいることがある。
【0126】
そのような場合、医師ごとに、その医師が病理診断に用いた学習用医用画像のみを用いて学習を行い、各医師の観察順序生成辞書を生成すれば、より高精度に観察位置の注目度合いによる順序付けを行なうことができるようになる。
【0127】
例えば、所定の医師が新規の医用画像を用いて病理診断を行なおうとする場合、過去にその医師が病理診断に用いた学習用医用画像から得られた観察順序生成辞書を用いれば、より高精度に各観察位置の観察順序を推定することができるようになる。すなわち、今回新たに診断対象となる医用画像について、その医用画像から検出された各観察位置を、その医師が観察するであろう順番に並び替えることができる。
【0128】
[動画像生成処理の説明]
以上のようにして、各辞書が生成されると、診察用動画像の生成が可能となる。画像処理装置11の診察用動画像生成部25は、医用画像が入力されて医師等により診察用動画像の生成が指示されると、動画像生成処理を開始して診察用動画像を生成する。以下、図14のフローチャートを参照して、診察用動画像生成部25による動画像生成処理について説明する。
【0129】
ステップS101において、観察位置検出部144の特徴量抽出部161は、供給された医用画像から特徴量を抽出する。例えば、特徴量抽出部161は、医用画像上の所定の大きさの領域を検出用画像とし、検出用画像の位置を変化させながら、検出用画像ごとに、その検出用画像上の特定の画素ペアの輝度値の差分を特徴量として抽出する。
【0130】
ステップS102において、観察位置検出部144は、特徴量抽出部161により抽出された特徴量と、観察位置検出辞書保持部141に保持されている観察位置検出辞書とに基づいて、医用画像から観察位置を検出する。
【0131】
例えば、観察位置検出部144は、各検出用画像について、その検出用画像から抽出された特徴量xを、観察位置検出辞書から得られる関数G(x)に代入し、得られた関数G(x)の値が0より大きければ、その検出用画像の中心位置が観察位置であるとする。
【0132】
観察位置検出部144は、医用画像から観察位置を検出すると、検出された観察位置を示す情報および医用画像を、観察パラメータ生成部145、観察順序情報生成部146、および動画像生成部147に供給する。また、観察位置検出部144は、各観察位置について算出された、観察位置らしさを表す関数G(x)の値を、動画像生成部147に供給する。
【0133】
ステップS103において、観察パラメータ生成部145の特徴量抽出部162は、観察位置検出部144から供給された観察位置を示す情報と医用画像に基づいて、医用画像から特徴量を抽出する。例えば、特徴量抽出部162は、医用画像上の各観察位置について、観察位置を含む所定の領域内の画素の輝度値の分布を示すヒストグラムなどを特徴量として抽出する。
【0134】
ステップS104において、観察パラメータ生成部145は、特徴量抽出部162により抽出された特徴量と、観察パラメータ生成辞書保持部142に保持されている観察パラメータ生成辞書とに基づいて、観察パラメータを生成する。
【0135】
例えば、観察パラメータ生成部145は、各観察位置の特徴量xを、観察パラメータ生成辞書として取得した関数F(x)に代入し、得られた関数F(x)の値により定まる値を観察パラメータとする。
【0136】
すなわち、例えば関数F(x)の出力値の取り得る値の範囲は、予めいくつかの範囲に分割されており、それらの分割された範囲に対して、観察パラメータの値が対応付けられている。観察パラメータ生成部145は、特徴量を代入して得られた関数F(x)の出力値が、予め分割されたどの範囲内の値であるかを特定し、特定された範囲に対応付けられた値を、観察パラメータの値とする。
【0137】
観察パラメータ生成部145は、このようにして得られた各観察パラメータを、動画像生成部147に供給する。
【0138】
ステップS105において、観察順序情報生成部146の特徴量抽出部163は、観察位置検出部144から供給された観察位置を示す情報と医用画像に基づいて、医用画像から特徴量を抽出する。例えば、特徴量抽出部163は、医用画像上の各観察位置について、観察位置を含む所定の領域内の画素の輝度値の分布を示すヒストグラムなどを特徴量として抽出する。
【0139】
ステップS106において、観察順序情報生成部146は、特徴量抽出部163により抽出された特徴量と、観察順序生成辞書保持部143に保持されている観察順序生成辞書とに基づいて、観察順序情報を生成する。
【0140】
例えば、観察順序情報生成部146は、各観察位置の特徴量xを、観察順序生成辞書から得られるスコア関数H(x)に代入し、スコア関数H(x)の値を求める。そして、観察順序情報生成部146は、各観察位置をスコア関数H(x)の値が高い順に並べ、その順番を観察位置の観察順序とする。
【0141】
観察順序情報生成部146は、このようにして得られた観察順序を示す観察順序情報を、動画像生成部147に供給する。
【0142】
ステップS107において、動画像生成部147は、観察位置検出部144から供給された観察位置を示す情報、医用画像、および関数G(x)の値と、観察パラメータ生成部145からの観察パラメータ、および観察順序情報生成部146からの観察順序情報とに基づいて、診察用動画像を生成する。
【0143】
例えば、図13に示した学習用医用画像MP11と同じ画像が、医用画像(以下、医用画像MP11とも称することとする)として入力され、観察順序情報により示される各観察位置の観察すべき順番が観察位置P31乃至観察位置P34であったとする。
【0144】
このような場合、例えば動画像生成部147は、まず医用画像MP11全体が表示され、その後、観察位置P31乃至観察位置P34を含む領域が順番に表示され、最後に医用画像MP11全体が再び表示される画像を生成して、診察用動画像とする。
【0145】
すなわち、この診察用動画像の再生時には、再生開始後、医用画像MP11全体が表示されると、次に最初の観察位置P31を含む領域が、その観察位置P31の観察パラメータで表示される。例えば、医用画像MP11上の観察位置P31を中心とする領域が、観察パラメータとしての表示倍率(拡大倍率)で、観察パラメータとしての観察時間だけ継続して表示される。
【0146】
そして、次に、観察位置P31から観察位置P32までの間の領域がスクロール表示されて、観察位置P32を中心とする領域が、その観察位置P32の観察パラメータで表示される。つまり、診察用動画像上の中心に表示される医用画像MP11の位置が、観察位置P31から観察位置P32まで移動されながら、医用画像MP11の各位置を含む領域が表示される。
【0147】
このとき、観察位置P31と観察位置P32とで、観察パラメータとしての表示倍率が異なる場合がある。そのような場合には、観察位置P31から観察位置P32までのスクロール表示が終了してから表示倍率が変更されてもよいし、スクロール表示中に連続的に表示倍率が変化するようにしてもよい。つまり、診察用動画像上の中心に観察位置P32が表示されたときに、観察位置P32を含む領域が、その観察位置P32の観察パラメータで表示されていればよい。
【0148】
観察位置P32を含む領域が表示されると、その後、同様にして適宜、観察位置間のスクロール表示が行なわれながら、観察位置P33を含む領域と、観察位置P34を含む領域とが、それらの観察位置の観察パラメータで順番に表示されていく。そして、観察位置P34を含む領域が表示された後、再度、医用画像MP11全体が表示されると、診察用動画像の再生は終了する。
【0149】
このように、診察用動画像では、各観察位置の注目度合いや観察すべき部位の大きさ等に応じて、表示倍率や観察順序などが変化する。例えば、観察位置としての重度な腫瘍は、高拡大率でズームされて、ゆっくりとスクロール表示が行なわれ、腫瘍領域が大きい場合は、その腫瘍全体が表示されるように低拡大率で表示される。
【0150】
また、特に、診察用動画像として表示される観察位置のうち、観察位置らしさを表す関数G(x)が予め定めた閾値以上である観察位置については、その観察位置が表示されるときに、他の観察位置の表示時と異なる表示形式等で表示されるように診察用動画像が生成される。具体的には、例えば関数G(x)が閾値以上である観察位置の領域が表示される場合には、診察用動画像を囲む枠が表示されたり、診察用動画像が点滅表示されたりする。また、そのような観察位置の領域の表示時に、特定の表示形式での表示とともに警告音が発せられるようにしてもよい。
【0151】
関数G(x)の値は、観察位置らしさ、つまり注目すべき度合いの高さを示している。例えば、より進行度の高い腫瘍などの部位が、より注目すべき度合いの高い部位となる。そこで、動画像生成部147は、関数G(x)の値が所定の閾値以上である観察位置を、より注目すべき部位が表示される観察位置であるとして、診察用動画像において、そのような観察位置を他の観察位置と異なる表示形式で表示する。これにより、診察用動画像を観察する医師等の注意を引くことができる。
【0152】
なお、診察用動画像の再生時に、1つの観察位置を含む領域が診察用動画像として表示されている状態で、医師等の画像処理装置11に対する操作が行なわれると、その操作に応じて、次の観察位置を含む領域が表示されたり、前の観察位置を含む領域が表示されたりしてもよい。つまり、医師等の指示によって、1つ前または後の観察位置の表示が行なわれるようにしてもよい。
【0153】
診察用動画像が生成されると、動画像生成部147は、生成した診察用動画像を記録部26に供給して記録させ、動画像生成処理は終了する。また、記録部26に記録された診察用動画像は、適宜、表示制御部27により読み出されて再生される。
【0154】
以上のようにして、診察用動画像生成部25は、予め学習により生成された各辞書を用いて、処理対象の医用画像から、観察すべき位置や観察パラメータ、観察順序などを特定し、それらの観察位置等に基づいて医用画像から診察用動画像を生成する。
【0155】
これにより、より簡単かつ迅速に診断のための病理画像を得ることができる。すなわち、診察用動画像生成部25に保持された各辞書を用いれば、医師等に煩雑な入力操作をさせることなく、新規に入力された任意の医用画像について、熟練医師等がその医用画像を用いて病理診断をするとしたら行なうであろう画面操作を、シミュレートすることができる。
【0156】
そして、そのシミュレートの結果として、熟練医師等が注目すると推定される各観察位置が、熟練医師等が観察すると推定される順番で表示される診察用動画像を得ることができる。つまり、これから医用画像を用いた病理診断を行なおうとする医師等からすれば、対象となる医用画像を入力し、診察用動画像の生成を指示するだけで、特定部位の拡大,縮小やスクロール等の熟練医師による診断時の画面操作が自動的に行なわれることになる。
【0157】
したがって、このようにして生成された診察用動画像を再生すれば、腫瘍などの診断に必要な部位が、より効率的および効果的に表示されるので、医師等は、より効率よく診断を行なうことができ、診断時間の短縮を図ることができる。しかも、診察用動画像では、各観察位置の部位だけでなく、医用画像全体も表示されるので、辞書を用いた画像認識による観察位置の抽出にもれがあった場合でも、医師による観察すべき位置の見落としを防止することができる。
【0158】
また、このようにして得られる診察用動画像は、実際の病理診断だけでなく、学習用教材など他の用途にも用いることができる。例えば、指導医の観察ログを用いた学習により辞書を生成しておけば、その辞書を用いて生成された診察用動画像を、熟練度の低い医師の学習教材として利用できる。
【0159】
なお、以上においては、観察パラメータの例として、表示倍率と観察時間について説明したが、その他、観察位置の表示向き(角度)や、観察位置間のスクロール速度などが観察パラメータとされてもよい。また、上述した各観察位置の表示順序や表示倍率などは、医師等により設定できるようにしてもよい。
【0160】
〈変形例1〉
さらに、診察用動画像は、各観察位置が辞書により特定された観察順序で表示されるものであれば、どのようなものであってもよい。
【0161】
例えば、各観察位置が辞書により特定された観察パラメータで表示される場合に、1つの観察位置の表示が終了した後、一度、医用画像全体が表示されてから、次の観察位置が表示されるようにしてもよい。
【0162】
具体的には、例えば医用画像として、上述した医用画像MP11が入力され、観察順序情報により示される各観察位置の観察すべき順番が観察位置P31乃至観察位置P34であったとする。
【0163】
このような場合、例えば動画像生成部147は、観察位置の表示と、その次の観察位置の表示との間に医用画像MP11全体が表示される診察用動画像を生成する。
【0164】
すなわち、この診察用動画像の再生時には、まず医用画像MP11全体が表示されてから、観察位置P31を含む領域が表示される。そして、その後、観察位置P32を含む領域、医用画像MP11全体、観察位置P33を含む領域、医用画像MP11全体、観察位置P34を含む領域、および医用画像MP11全体の順番で表示が行なわれる。
【0165】
〈変形例2〉
また、上述した図6の領域RA11のように、診察用動画像上に常に医用画像全体が表示される領域が設けられてもよい。
【0166】
具体的には、例えば医用画像として、上述した医用画像MP11が入力され、観察順序情報により示される各観察位置の観察すべき順番が観察位置P31乃至観察位置P34であったとする。
【0167】
このような場合、例えば動画像生成部147は、画面の一部の領域に医用画像MP11全体が表示されたままの状態で、画面全体に観察位置P31乃至観察位置P34を含む領域が、それらの観察位置の観察パラメータで順番に表示される診察用動画像を生成する。
【0168】
なお、以上において説明した診察用動画像は、観察位置を含む領域の画像が、1つのフレームを構成する画像とされる動画像であるが、各観察位置を含む領域の静止画像が、観察順序で並べられた(順序付けられた)、静止画像群を生成するようにしてもよい。例えば、この静止画像群は、診察用動画像を構成する各フレームの画像を、フレーム順に並べて得られる画像群などとされてもよい。このような静止画像群を用いても、診断時における熟練医師の画面操作をシミュレートすることができる。
【0169】
また、診察用動画像の生成時において、医師等が、3分や1分など、制限時間や再生時間を設定できるようにしてもよい。そのような場合、例えば動画像生成部147は、設定された再生時間の動画像を診察用動画像として生成する。
【0170】
具体的には、動画像生成部147は、診察用動画像での各観察位置の表示時間の合計が、設定された再生時間となるように、観察パラメータとして得られた各観察位置の観察時間を、それらの観察時間の比率を保ったまま変化させる。これにより、各観察位置が表示される時間の長さの比を維持したまま、指定された時間内で再生される診察用動画像を得ることができる。
【0171】
さらに、診察用動画像の再生時間が、指定された時間内となるように、関数G(x)の値が低いいくつかの観察位置が間引かれるようにしてもよい。すなわち、この場合、注目度合いの低い順番に、所定数の観察位置が選択され、選択されたそれらの観察位置が表示されない(除外された)診察用動画像が生成されることになる。
【0172】
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
【0173】
図15は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0174】
コンピュータにおいて、CPU501,ROM(Read Only Memory)502,RAM(Random Access Memory)503は、バス504により相互に接続されている。
【0175】
バス504には、さらに、入出力インターフェース505が接続されている。入出力インターフェース505には、キーボード、マウス、マイクロホンなどよりなる入力部506、ディスプレイ、スピーカなどよりなる出力部507、ハードディスクや不揮発性のメモリなどよりなる記録部508、ネットワークインターフェースなどよりなる通信部509、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア511を駆動するドライブ510が接続されている。
【0176】
以上のように構成されるコンピュータでは、CPU501が、例えば、記録部508に記録されているプログラムを、入出力インターフェース505及びバス504を介して、RAM503にロードして実行することにより、上述した一連の処理が行われる。
【0177】
コンピュータ(CPU501)が実行するプログラムは、例えば、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア511に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
【0178】
そして、プログラムは、リムーバブルメディア511をドライブ510に装着することにより、入出力インターフェース505を介して、記録部508にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部509で受信し、記録部508にインストールすることができる。その他、プログラムは、ROM502や記録部508に、あらかじめインストールしておくことができる。
【0179】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0180】
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【0181】
11 画像処理装置, 21 取得部, 22 観察位置検出辞書生成部, 23 観察パラメータ生成辞書生成部, 24 観察順序生成辞書生成部, 25 診察用動画像生成部, 141 観察位置検出辞書保持部, 142 観察パラメータ生成辞書保持部, 143 観察順序生成辞書保持部, 144 観察位置検出部, 145 観察パラメータ生成部, 146 観察順序情報生成部, 147 動画像生成部

【特許請求の範囲】
【請求項1】
処理対象の医用画像から、第1の特徴量を抽出する第1の特徴量抽出手段と、
予め統計学習により生成された、第1の特徴量から画像上の注目すべき位置である観察位置を検出するための位置検出辞書と、前記医用画像から抽出された前記第1の特徴量とに基づいて、前記医用画像から前記観察位置を検出する位置検出手段と、
前記医用画像上の前記観察位置から、第2の特徴量を抽出する第2の特徴量抽出手段と、
予め統計学習により生成された、第2の特徴量から画像上の各観察位置を観察すべき順序を特定するための順序生成辞書と、前記医用画像上の前記観察位置のそれぞれの前記第2の特徴量とに基づいて、前記医用画像上の前記観察位置を観察すべき観察順序を特定する観察順序特定手段と、
前記医用画像、検出された前記観察位置、および特定された前記観察順序に基づいて、前記医用画像上の前記観察位置を、前記観察順序で表示するための観察画像を生成する画像生成手段と
を備える画像処理装置。
【請求項2】
前記医用画像上の前記観察位置から、第3の特徴量を抽出する第3の特徴量抽出手段と、
予め統計学習により生成された、第3の特徴量から画像上の観察位置の観察条件を特定するための観察条件生成辞書と、前記医用画像上の前記観察位置の前記第3の特徴量とに基づいて、前記医用画像上の前記観察位置ごとに前記観察条件を特定する観察条件特定手段と
をさらに備え、
前記画像生成手段は、前記観察位置が、特定された前記観察条件で表示されるように、前記観察画像を生成する
請求項1に記載の画像処理装置。
【請求項3】
前記観察条件は、前記観察位置の表示倍率、または前記観察位置を継続して表示する表示時間である
請求項2に記載の画像処理装置。
【請求項4】
前記観察画像は、前記観察位置が前記観察順序で順番に表示される動画像であり、前記動画像の最初または最後の少なくとも何れかにおいて、前記医用画像全体が表示される
請求項1に記載の画像処理装置。
【請求項5】
前記観察画像は、前記観察位置が前記観察順序で順番に表示される動画像であり、前記動画像において、1つの前記観察位置が表示された後、前記医用画像全体が表示されてから、次の前記観察位置が表示される
請求項1に記載の画像処理装置。
【請求項6】
前記観察画像は、前記観察画像の一部の領域に継続して前記医用画像全体が表示されている状態で、前記観察位置が前記観察順序で順番に表示される動画像である
請求項1に記載の画像処理装置。
【請求項7】
処理対象の医用画像から、第1の特徴量を抽出する第1の特徴量抽出手段と、
予め統計学習により生成された、第1の特徴量から画像上の注目すべき位置である観察位置を検出するための位置検出辞書と、前記医用画像から抽出された前記第1の特徴量とに基づいて、前記医用画像から前記観察位置を検出する位置検出手段と、
前記医用画像上の前記観察位置から、第2の特徴量を抽出する第2の特徴量抽出手段と、
予め統計学習により生成された、第2の特徴量から画像上の各観察位置を観察すべき順序を特定するための順序生成辞書と、前記医用画像上の前記観察位置のそれぞれの前記第2の特徴量とに基づいて、前記医用画像上の前記観察位置を観察すべき観察順序を特定する観察順序特定手段と、
前記医用画像、検出された前記観察位置、および特定された前記観察順序に基づいて、前記医用画像上の前記観察位置を、前記観察順序で表示するための観察画像を生成する画像生成手段と
を備える画像処理装置の画像処理方法であって、
前記第1の特徴量抽出手段が前記医用画像から前記第1の特徴量を抽出し、
前記位置検出手段が、前記観察位置を検出し、
前記第2の特徴量抽出手段が、前記観察位置から前記第2の特徴量を抽出し、
前記観察順序特定手段が、前記順序生成辞書と前記第2の特徴量とに基づいて、前記観察順序を特定し、
前記画像生成手段が、前記観察画像を生成する
ステップを含む画像処理方法。
【請求項8】
処理対象の医用画像から、第1の特徴量を抽出し、
予め統計学習により生成された、第1の特徴量から画像上の注目すべき位置である観察位置を検出するための位置検出辞書と、前記医用画像から抽出された前記第1の特徴量とに基づいて、前記医用画像から前記観察位置を検出し、
前記医用画像上の前記観察位置から、第2の特徴量を抽出し、
予め統計学習により生成された、第2の特徴量から画像上の各観察位置を観察すべき順序を特定するための順序生成辞書と、前記医用画像上の前記観察位置のそれぞれの前記第2の特徴量とに基づいて、前記医用画像上の前記観察位置を観察すべき観察順序を特定し、
前記医用画像、検出された前記観察位置、および特定された前記観察順序に基づいて、前記医用画像上の前記観察位置を、前記観察順序で表示するための観察画像を生成する
ステップを含む処理をコンピュータに実行させるプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate


【公開番号】特開2012−155455(P2012−155455A)
【公開日】平成24年8月16日(2012.8.16)
【国際特許分類】
【出願番号】特願2011−12952(P2011−12952)
【出願日】平成23年1月25日(2011.1.25)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】