画像処理システム、装置及び方法
【課題】観察者によって観察された画像を容易に出力することができる画像処理システム、装置及び方法を提供すること。
【解決手段】実施形態に係る画像処理装置においては、表示部は、視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する。視点情報検出部は、観察者による表示部の観察方向を検出する。画像出力部は、観察方向に基づいて、視差画像群の中から画像を選択して出力する。
【解決手段】実施形態に係る画像処理装置においては、表示部は、視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する。視点情報検出部は、観察者による表示部の観察方向を検出する。画像出力部は、観察方向に基づいて、視差画像群の中から画像を選択して出力する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、画像処理システム、装置及び方法に関する。
【背景技術】
【0002】
従来、立体視用メガネ等の専用機器を用いて、2つの視点から撮影された2視差画像を立体視可能なモニタが実用化されている。また、近年、レンチキュラーレンズ等の光線制御子を用いて、複数の視点から撮影された多視差画像(例えば、9視差画像)を裸眼にて立体視可能なモニタが実用化されている。なお、立体視可能なモニタにて表示される2視差画像や9視差画像は、1視点から撮影された画像の奥行き情報を推定し、推定した情報を用いた画像処理により生成される場合もある。
【0003】
一方、X線CT(Computed Tomography)装置やMRI(Magnetic Resonance Imaging)装置、超音波診断装置等の医用画像診断装置では、3次元の医用画像データ(以下、ボリュームデータ)を生成可能な装置が実用化されている。従来、かかる医用画像診断装置により生成されたボリュームデータは、種々の画像処理により2次元画像とされ、汎用モニタ上にて2次元表示される。例えば、医用画像診断装置により生成されたボリュームデータは、ボリュームレンダリング処理により3次元の情報を反映した2次元画像とされ、汎用モニタ上にて2次元表示される。しかしながら、従来技術では、観察者によって観察された画像を出力することが困難になる場合があった。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2005−86414号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明が解決しようとする課題は、観察者によって観察された画像を容易に出力することができる画像処理システム、装置及び方法を提供することである。
【課題を解決するための手段】
【0006】
実施形態の画像処理システムは、表示手段と、検出手段と、画像出力手段とを備える。表示手段は、視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する。検出手段は、観察者による前記表示手段の観察方向を検出する。画像出力手段は、前記観察方向に基づいて、視差画像群の中から画像を選択して出力する。
【図面の簡単な説明】
【0007】
【図1】図1は、第1の実施形態に係る画像処理システムの構成例を説明するための図である。
【図2】図2は、2視差画像により立体表示を行なう立体表示モニタの一例を説明するための図である。
【図3】図3は、9視差画像により立体表示を行なう立体表示モニタの一例を説明するための図である。
【図4】図4は、第1の実施形態に係るワークステーションの構成例を説明するための図である。
【図5】図5は、図4に示すレンダリング処理部の構成例を説明するための図である。
【図6】図6は、第1の実施形態に係るボリュームレンダリング処理の一例を説明するための図である。
【図7】図7は、第1の実施形態に係る制御部の構成例を説明するための図である。
【図8】図8は、第1の実施形態に係る視点情報検出部による観察者の位置の情報を取得する処理の一例を説明するための図である。
【図9】図9は、第1の実施形態に係る視点情報検出部による検出処理の一例を説明するための図である。
【図10】図10は、第1の実施形態に係る位置情報算出部による処理の一例を説明するための図である。
【図11】図11は、第1の実施形態に係る位置情報算出部による相対位置の算出処理の一例を説明するための図である。
【図12】図12は、第1の実施形態に係る位置情報算出部によって格納される相対位置情報の一例を示す図である。
【図13】図13は、第1の実施形態に係る画像出力部による処理の一例を説明するための図である。
【図14】図14は、第1の実施形態に係るワークステーションによる処理の手順を示すフローチャートである。
【図15】図15は、第2の実施形態に係る制御部の構成例を説明するための図である。
【図16】図16は、第2の実施形態に係る位置情報算出部による処理の一例を説明するための図である。
【図17】図17は、第2の実施形態に係るワークステーションによる処理の手順を示すフローチャートである。
【発明を実施するための形態】
【0008】
以下、添付図面を参照して、画像処理システム、装置及び方法の実施形態を詳細に説明する。なお、以下では、画像処理装置としての機能を有するワークステーションを含む画像処理システムを実施形態として説明する。ここで、以下の実施形態で用いる用語について説明すると、「視差画像群」とは、ボリュームデータに対して、所定の視差角ずつ視点位置を移動させてボリュームレンダリング処理を行なうことで生成された画像群のことである。すなわち、「視差画像群」は、「視点位置」が異なる複数の「視差画像」から構成される。また、「視差角」とは、「視差画像群」を生成するために設定された各視点位置のうち隣接する視点位置とボリュームデータによって表される空間内の所定位置(例えば、空間の中心)とにより定まる角度のことである。また、「視差数」とは、立体表示モニタにて立体視されるために必要となる「視差画像」の数のことである。また、以下で記載する「9視差画像」とは、9つの「視差画像」から構成される「視差画像群」のことである。また、以下で記載する「2視差画像」とは、2つの「視差画像」から構成される「視差画像群」のことである。
【0009】
(第1の実施形態)
まず、第1の実施形態に係る画像処理システムの構成例について説明する。図1は、第1の実施形態に係る画像処理システムの構成例を説明するための図である。
【0010】
図1に示すように、第1の実施形態に係る画像処理システム1は、医用画像診断装置110と、画像保管装置120と、ワークステーション130と、端末装置140とを有する。図1に例示する各装置は、例えば、病院内に設置された院内LAN(Local Area Network)2により、直接的、又は間接的に相互に通信可能な状態となっている。例えば、画像処理システム1にPACS(Picture Archiving and Communication System)が導入されている場合、各装置は、DICOM(Digital Imaging and Communications in Medicine)規格に則って、医用画像等を相互に送受信する。
【0011】
かかる画像処理システム1は、医用画像診断装置110により生成された3次元の医用画像データであるボリュームデータから視差画像群を生成し、この視差画像群を立体視可能なモニタに表示することで、病院内に勤務する医師や検査技師に立体視可能な医用画像を提供する。具体的には、第1の実施形態においては、ワークステーション130が、ボリュームデータに対して種々の画像処理を行ない、視差画像群を生成する。また、ワークステーション130及び端末装置140が、立体視可能なモニタを有し、ワークステーション130にて生成された視差画像群をこのモニタに表示する。また、画像保管装置120は、医用画像診断装置110にて生成されたボリュームデータや、ワークステーション130にて生成された視差画像群を保管する。すなわち、ワークステーション130や端末装置140は、この画像保管装置120からボリュームデータや視差画像群を取得し、これを処理したり、モニタに表示したりする。以下、各装置を順に説明する。
【0012】
医用画像診断装置110は、X線診断装置、X線CT(Computed Tomography)装置、MRI(Magnetic Resonance Imaging)装置、超音波診断装置、SPECT(Single Photon Emission Computed Tomography)装置、PET(Positron Emission computed Tomography)装置、SPECT装置とX線CT装置とが一体化されたSPECT−CT装置、PET装置とX線CT装置とが一体化されたPET−CT装置、又はこれらの装置群等である。また、第1の実施形態に係る医用画像診断装置110は、3次元の医用画像データ(ボリュームデータ)を生成可能である。
【0013】
具体的には、第1の実施形態に係る医用画像診断装置110は、被検体を撮影することによりボリュームデータを生成する。例えば、医用画像診断装置110は、被検体を撮影することにより投影データやMR信号等のデータを収集し、収集したデータから、被検体の体軸方向に沿った複数のアキシャル面の医用画像データを再構成することで、ボリュームデータを生成する。例えば、医用画像診断装置110は、500枚のアキシャル面の医用画像データを再構成する。この500枚のアキシャル面の医用画像データ群が、ボリュームデータである。
【0014】
また、第1の実施形態に係る医用画像診断装置110は、生成したボリュームデータを画像保管装置120に送信する。なお、医用画像診断装置110は、ボリュームデータを画像保管装置120に送信する際に、付帯情報として、例えば、患者を識別する患者ID、検査を識別する検査ID、医用画像診断装置110を識別する装置ID、医用画像診断装置110による1回の撮影を識別するシリーズID等を送信する。
【0015】
画像保管装置120は、医用画像を保管するデータベースである。具体的には、第1の実施形態に係る画像保管装置120は、医用画像診断装置110から送信されたボリュームデータを記憶部に格納し、これを保管する。また、第1の実施形態においては、ワークステーション130が、ボリュームデータから視差画像群を生成し、生成した視差画像群を画像保管装置120に送信する。このため、画像保管装置120は、ワークステーション130から送信された視差画像群を記憶部に格納し、これを保管する。なお、本実施形態は、大容量の画像を保管可能なワークステーション130を用いることで、図1に例示するワークステーション130と画像保管装置120とが統合される場合であっても良い。すなわち、本実施形態は、ワークステーション130そのものにボリュームデータもしくは視差画像群を記憶させる場合であっても良い。
【0016】
なお、第1の実施形態において、画像保管装置120に保管されたボリュームデータや視差画像群は、患者ID、検査ID、装置ID、シリーズID等と対応付けて保管される。このため、ワークステーション130や端末装置140は、患者ID、検査ID、装置ID、シリーズID等を用いた検索を行なうことで、必要なボリュームデータや視差画像群を画像保管装置120から取得する。
【0017】
ワークステーション130は、医用画像に対して画像処理を行なう画像処理装置である。具体的には、第1の実施形態に係るワークステーション130は、画像保管装置120から取得したボリュームデータに対して種々のレンダリング処理を行ない、視差画像群を生成する。視差画像群とは、複数の視点から撮影された複数の視差画像のことであり、例えば、9視差画像を裸眼にて立体視可能なモニタにて表示される視差画像群とは、視点位置が異なる9つの視差画像のことである。
【0018】
また、第1の実施形態に係るワークステーション130は、表示部として、立体視可能なモニタ(以下、立体表示モニタ)を有する。ワークステーション130は、視差画像群を生成し、生成した視差画像群を立体表示モニタに表示する。この結果、ワークステーション130の操作者は、立体表示モニタに表示された立体視可能な医用画像を確認しながら、視差画像群生成のための操作を行なうことができる。
【0019】
また、ワークステーション130は、生成した視差画像群を画像保管装置120に送信する。なお、ワークステーション130は、視差画像群を画像保管装置120に送信する際に、付帯情報として、例えば、患者ID、検査ID、装置ID、シリーズID等を送信する。また、視差画像群を画像保管装置120に送信する際に送信される付帯情報としては、視差画像群に関する付帯情報も挙げられる。視差画像群に関する付帯情報としては、視差画像の枚数(例えば、「9」)や、視差画像の解像度(例えば、「466×350画素」)等がある。
【0020】
端末装置140は、病院内に勤務する医師や検査技師に医用画像を閲覧させるための装置である。例えば、端末装置140は、病院内に勤務する医師や検査技師により操作されるPC(Personal Computer)やタブレット式PC、PDA(Personal Digital Assistant)、携帯電話等である。具体的には、第1の実施形態に係る端末装置140は、表示部として立体表示モニタを有する。また、端末装置140は、画像保管装置120から視差画像群を取得し、取得した視差画像群を立体表示モニタに表示する。この結果、観察者である医師や検査技師は、立体視可能な医用画像を閲覧することができる。
【0021】
ここで、ワークステーション130や端末装置140が有する立体表示モニタについて説明する。現在最も普及している一般的な汎用モニタは、2次元画像を2次元で表示するものであり、2次元画像を立体表示することができない。仮に、観察者が汎用モニタにて立体視を要望する場合、汎用モニタに対して画像を出力する装置は、平行法や交差法により観察者が立体視可能な2視差画像を並列表示させる必要がある。又は、汎用モニタに対して画像を出力する装置は、例えば、左目用の部分に赤色のセロハンが取り付けられ、右目用の部分に青色のセロハンが取り付けられたメガネを用いて余色法により観察者が立体視可能な画像を表示する必要がある。
【0022】
一方、立体表示モニタとしては、立体視用メガネ等の専用機器を用いることで、2視差画像(両眼視差画像とも称する)を立体視可能とするものがある。
【0023】
図2は、2視差画像により立体表示を行なう立体表示モニタの一例を説明するための図である。図2に示す一例は、シャッター方式により立体表示を行なう立体表示モニタであり、モニタを観察する観察者が装着する立体視用メガネとしてシャッターメガネが用いられる。かかる立体表示モニタは、モニタにて2視差画像を交互に出射する。例えば、図2の(A)に示すモニタは、左目用の画像と右目用の画像を、120Hzにて交互に出射する。ここで、モニタには、図2の(A)に示すように、赤外線出射部が設置され、赤外線出射部は、画像が切り替わるタイミングに合わせて赤外線の出射を制御する。
【0024】
また、赤外線出射部から出射された赤外線は、図2の(A)に示すシャッターメガネの赤外線受光部により受光される。シャッターメガネの左右それぞれの枠には、シャッターが取り付けられており、シャッターメガネは、赤外線受光部が赤外線を受光したタイミングに合わせて左右のシャッターそれぞれの透過状態及び遮光状態を交互に切り替える。以下、シャッターにおける透過状態及び遮光状態の切り替え処理について説明する。
【0025】
各シャッターは、図2の(B)に示すように、入射側の偏光板と出射側の偏光板とを有し、更に、入射側の偏光板と出射側の偏光板との間に液晶相を有する。また、入射側の偏光板と出射側の偏光板とは、図2の(B)に示すように、互いに直交している。ここで、図2の(B)に示すように、電圧が印加されていない「OFF」の状態では、入射側の偏光板を通った光は、液晶層の作用により90度回転し、出射側の偏光板を透過する。すなわち、電圧が印加されていないシャッターは、透過状態となる。
【0026】
一方、図2の(B)に示すように、電圧が印加された「ON」の状態では、液晶層の液晶分子による偏光回転作用が消失するため、入射側の偏光板を通った光は、出射側の偏光板で遮られてしまう。すなわち、電圧が印加されたシャッターは、遮光状態となる。
【0027】
そこで、例えば、赤外線出射部は、モニタ上に左目用の画像が表示されている期間、赤外線を出射する。そして、赤外線受光部は、赤外線を受光している期間、左目のシャッターに電圧を印加せず、右目のシャッターに電圧を印加させる。これにより、図2の(A)に示すように、右目のシャッターが遮光状態となり、左目のシャッターが透過状態となるため、観察者の左目に左目用の画像が入射する。一方、赤外線出射部は、モニタ上に右目用の画像が表示されている期間、赤外線の出射を停止する。そして、赤外線受光部は、赤外線が受光されない期間、右目のシャッターに電圧を印加せず、左目のシャッターに電圧を印加させる。これにより、左目のシャッターが遮光状態となり、右目のシャッターが透過状態であるため、観察者の右目に右目用の画像が入射する。このように、図2に示す立体表示モニタは、モニタに表示される画像とシャッターの状態を連動させて切り替えることで、観察者が立体視可能な画像を表示させる。なお、2視差画像を立体視可能な立体表示モニタとしては、上記のシャッター方式以外にも、偏光メガネ方式を採用したモニタも知られている。
【0028】
更に、近年実用化された立体表示モニタとしては、レンチキュラーレンズ等の光線制御子を用いることで、例えば、9視差画像等の多視差画像を観察者が裸眼にて立体視可能とするものがある。かかる立体表示モニタは、両眼視差による立体視を可能とし、更に、観察者の視点移動に合わせて観察される映像も変化する運動視差による立体視も可能とする。
【0029】
図3は、9視差画像により立体表示を行なう立体表示モニタの一例を説明するための図である。図3に示す立体表示モニタには、液晶パネル等の平面状の表示面200の前面に、光線制御子が配置される。例えば、図3に示す立体表示モニタには、光線制御子として、光学開口が垂直方向に延びる垂直レンチキュラーシート201が表示面200の前面に貼り付けられている。
【0030】
表示面200には、図3に示すように、縦横比が3:1であり、縦方向にサブ画素である赤(R)、緑(G)、青(B)の3つが配置された画素202がマトリクス状に配置される。図3に示す立体表示モニタは、9つの画像により構成される9視差画像を、所定フォーマット(例えば格子状)に配置した中間画像に変換したうえで、表示面200に出力する。すなわち、図3に示す立体表示モニタは、9視差画像にて同一位置にある9つの画素それぞれを、9列の画素202に割り振って出力させる。9列の画素202は、視点位置の異なる9つの画像を同時に表示する単位画素群203となる。
【0031】
表示面200において単位画素群203として同時に出力された9視差画像は、例えば、LED(Light Emitting Diode)バックライトにより平行光として放射され、更に、垂直レンチキュラーシート201により、多方向に放射される。9視差画像の各画素の光が多方向に放射されることにより、観察者の右目及び左目に入射する光は、観察者の位置(視点の位置)に連動して変化する。すなわち、観察者の見る角度により、右目に入射する視差画像と左目に入射する視差画像とは、視差角が異なる。これにより、観察者は、例えば、図3に示す9つの位置それぞれにおいて、撮影対象を立体的に視認できる。また、観察者は、例えば、図3に示す「5」の位置において、撮影対象に対して正対した状態で立体的に視認できるとともに、図3に示す「5」以外それぞれの位置において、撮影対象の向きを変化させた状態で立体的に視認できる。なお、図3に示す立体表示モニタは、あくまでも一例である。9視差画像を表示する立体表示モニタは、図3に示すように、「RRR・・・、GGG・・・、BBB・・・」の横ストライプ液晶である場合であっても良いし、「RGBRGB・・・」の縦ストライプ液晶である場合であっても良い。また、図3に示す立体表示モニタは、図3に示すように、レンチキュラーシートが垂直となる縦レンズ方式である場合であっても良いし、レンチキュラーシートが斜めとなる斜めレンズ方式である場合であっても良い。
【0032】
ここまで、第1の実施形態に係る画像処理システム1の構成例について簡単に説明した。なお、上述した画像処理システム1は、PACSが導入されている場合にその適用が限られるものではない。例えば、画像処理システム1は、医用画像が添付された電子カルテを管理する電子カルテシステムが導入されている場合にも、同様に適用される。この場合、画像保管装置120は、電子カルテを保管するデータベースである。また、例えば、画像処理システム1は、HIS(Hospital Information System)、RIS(Radiology Information System)が導入されている場合にも、同様に適用される。また、画像処理システム1は、上述した構成例に限られるものではない。各装置が有する機能やその分担は、運用の形態に応じて適宜変更されてよい。
【0033】
次に、第1の実施形態に係るワークステーションの構成例について図4を用いて説明する。図4は、第1の実施形態に係るワークステーションの構成例を説明するための図である。なお、以下において、「視差画像群」とは、ボリュームデータに対してボリュームレンダリング処理を行なうことで生成された立体視用の画像群のことである。また、「視差画像」とは、「視差画像群」を構成する個々の画像のことである。すなわち、「視差画像群」は、視点位置が異なる複数の「視差画像」から構成される。
【0034】
第1の実施形態に係るワークステーション130は、画像処理等に適した高性能なコンピュータであり、図4に示すように、入力部131と、表示部132と、通信部133と、記憶部134と、制御部135と、レンダリング処理部136と、検出部137とを有する。なお、以下では、ワークステーション130が画像処理等に適した高性能なコンピュータである場合を用いて説明するが、これに限定されるものではなく、任意の情報処理装置であって良い。例えば、任意のパーソナルコンピュータであっても良い。
【0035】
入力部131は、マウス、キーボード、トラックボール等であり、ワークステーション130に対する各種操作の入力を操作者から受け付ける。具体的には、第1の実施形態に係る入力部131は、レンダリング処理の対象となるボリュームデータを画像保管装置120から取得するための情報の入力を受け付ける。例えば、入力部131は、患者ID、検査ID、装置ID、シリーズID等の入力を受け付ける。また、第1の実施形態に係る入力部131は、レンダリング処理に関する条件(以下、レンダリング条件)の入力を受け付ける。
【0036】
表示部132は、立体表示モニタとしての液晶パネル等であり、各種情報を表示する。具体的には、第1の実施形態に係る表示部132は、操作者から各種操作を受け付けるためのGUI(Graphical User Interface)や、視差画像群等を表示する。通信部133は、NIC(Network Interface Card)等であり、他の装置との間で通信を行う。より具体的には、表示部132は、視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する。
【0037】
記憶部134は、ハードディスク、半導体メモリ素子等であり、各種情報を記憶する。具体的には、第1の実施形態に係る記憶部134は、通信部133を介して画像保管装置120から取得したボリュームデータを記憶する。また、第1の実施形態に係る記憶部134は、レンダリング処理中のボリュームデータや、レンダリング処理により生成された視差画像群、及び、2次元表示用の画像等を記憶する。
【0038】
制御部135は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等の電子回路、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路であり、ワークステーション130の全体制御を行なう。
【0039】
例えば、第1の実施形態に係る制御部135は、表示部132に対するGUIの表示や視差画像群の表示を制御する。また、例えば、制御部135は、画像保管装置120との間で通信部133を介して行なわれるボリュームデータや視差画像群の送受信を制御する。また、例えば、制御部135は、レンダリング処理部136によるレンダリング処理を制御する。また、例えば、制御部135は、ボリュームデータの記憶部134からの読み込みや、視差画像群の記憶部134への格納を制御する。
【0040】
レンダリング処理部136は、制御部135による制御の下、画像保管装置120から取得したボリュームデータに対して種々のレンダリング処理を行ない、視差画像群を生成する。なお、レンダリング処理部136の処理については、後に詳述する。
【0041】
検出部137は、表示部132に対する視差画像の観察者の位置を検出する。具体的には、検出部137は、表示部132に対する観察者の立ち位置、観察者の顔の位置、観察者の視線位置などを検出する。検出部137としては、例えば、カメラを用いたモーショントラッキング装置や、光学式又は磁気式の位置センサーや、機械式のモーションキャプチャシステムなどである。なお、第1に実施形態では、検出部137として、カメラを用いたモーショントラッキング装置を利用する場合について説明するが、その説明については、後述する。
【0042】
レンダリング処理部136は、制御部135による制御の下、画像保管装置120から取得したボリュームデータに対して種々のレンダリング処理を行ない、視差画像群を生成する。具体的には、第1の実施形態に係るレンダリング処理部136は、記憶部134からボリュームデータを読み込み、このボリュームデータに対して、まず前処理を行なう。次に、レンダリング処理部136は、前処理後のボリュームデータに対してボリュームレンダリング処理を行ない、視差画像群を生成する。続いて、レンダリング処理部136は、各種情報(目盛り、患者名、検査項目等)が描出された2次元画像を生成し、これを視差画像群それぞれに対して重畳することで、出力用の2次元画像を生成する。そして、レンダリング処理部136は、生成した視差画像群や出力用の2次元画像を記憶部134に格納する。なお、第1の実施形態において、レンダリング処理とは、ボリュームデータに対して行なう画像処理全体のことであり、ボリュームレンダリング処理とは、レンダリング処理の内、3次元の情報を反映した2次元画像を生成する処理のことである。レンダリング処理により生成される医用画像とは、例えば、視差画像が該当する。
【0043】
図5は、図4に示すレンダリング処理部の構成例を説明するための図である。図5に示すように、レンダリング処理部136は、前処理部1361と、3次元画像処理部1362と、2次元画像処理部1363とを有する。前処理部1361が、ボリュームデータに対する前処理を行い、3次元画像処理部1362が、前処理後のボリュームデータから視差画像群を生成し、2次元画像処理部1363が、視差画像群に各種情報が重畳された出力用の2次元画像を生成する。以下、各部を順に説明する。
【0044】
前処理部1361は、ボリュームデータに対してレンダリング処理を行なう際に、種々の前処理を行なう処理部であり、画像補正処理部1361aと、3次元物体フュージョン部1361eと、3次元物体表示領域設定部1361fとを有する。
【0045】
画像補正処理部1361aは、2種類のボリュームデータを1つのボリュームデータとして処理する際に画像補正処理を行なう処理部であり、図5に示すように、歪み補正処理部1361b、体動補正処理部1361c及び画像間位置合わせ処理部1361dを有する。例えば、画像補正処理部1361aは、PET−CT装置により生成されたPET画像のボリュームデータとX線CT画像のボリュームデータとを1つのボリュームデータとして処理する際に画像補正処理を行なう。或いは、画像補正処理部1361aは、MRI装置により生成されたT1強調画像のボリュームデータとT2強調画像のボリュームデータとを1つのボリュームデータとして処理する際に画像補正処理を行なう。
【0046】
また、歪み補正処理部1361bは、個々のボリュームデータにおいて、医用画像診断装置110によるデータ収集時の収集条件に起因するデータの歪みを補正する。また、体動補正処理部1361cは、個々のボリュームデータを生成するために用いられたデータの収集時期における被検体の体動に起因する移動を補正する。また、画像間位置合わせ処理部1361dは、歪み補正処理部1361b及び体動補正処理部1361cによる補正処理が行なわれた2つのボリュームデータ間で、例えば、相互相関法等を用いた位置合わせ(Registration)を行なう。
【0047】
3次元物体フュージョン部1363eは、画像間位置合わせ処理部1361dにより位置合わせが行なわれた複数のボリュームデータをフュージョンさせる。なお、画像補正処理部1361a及び3次元物体フュージョン部1361eの処理は、単一のボリュームデータに対してレンダリング処理を行なう場合、省略される。
【0048】
3次元物体表示領域設定部1361fは、操作者により指定された表示対象臓器に対応する表示領域を設定する処理部であり、セグメンテーション処理部1361gを有する。セグメンテーション処理部1361gは、操作者により指定された心臓、肺、血管等の臓器を、例えば、ボリュームデータの画素値(ボクセル値)に基づく領域拡張法により抽出する処理部である。
【0049】
なお、セグメンテーション処理部1361gは、操作者により表示対象臓器が指定されなかった場合、セグメンテーション処理を行なわない。また、セグメンテーション処理部1361gは、操作者により表示対象臓器が複数指定された場合、該当する複数の臓器を抽出する。また、セグメンテーション処理部1361gの処理は、レンダリング画像を参照した操作者の微調整要求により再度実行される場合もある。
【0050】
3次元画像処理部1362は、前処理部1361が処理を行なった前処理後のボリュームデータに対してボリュームレンダリング処理を行なう。ボリュームレンダリング処理を行なう処理部として、3次元画像処理部1362は、投影方法設定部1362aと、3次元幾何変換処理部1362bと、3次元物体アピアランス処理部1362fと、3次元仮想空間レンダリング部1362kとを有する。
【0051】
投影方法設定部1362aは、視差画像群を生成するための投影方法を決定する。例えば、投影方法設定部1362aは、ボリュームレンダリング処理を平行投影法により実行するか、透視投影法により実行するかを決定する。
【0052】
3次元幾何変換処理部1362bは、ボリュームレンダリング処理が実行されるボリュームデータを3次元幾何学的に変換するための情報を決定する処理部であり、平行移動処理部1362c、回転処理部1362d及び拡大縮小処理部1362eを有する。平行移動処理部1362cは、ボリュームレンダリング処理を行なう際の視点位置が平行移動された場合に、ボリュームデータを平行移動させる移動量を決定する処理部であり、回転処理部1362dは、ボリュームレンダリング処理を行なう際の視点位置が回転移動された場合に、ボリュームデータを回転移動させる移動量を決定する処理部である。また、拡大縮小処理部1362eは、視差画像群の拡大や縮小が要求された場合に、ボリュームデータの拡大率や縮小率を決定する処理部である。
【0053】
3次元物体アピアランス処理部1362fは、3次元物体色彩処理部1362g、3次元物体不透明度処理部1362h、3次元物体材質処理部1362i及び3次元仮想空間光源処理部1362jを有する。3次元物体アピアランス処理部1362fは、これらの処理部により、例えば、操作者の要求に応じて、表示される視差画像群の表示状態を決定する処理を行なう。
【0054】
3次元物体色彩処理部1362gは、ボリュームデータにてセグメンテーションされた各領域に対して着色される色彩を決定する処理部である。3次元物体不透明度処理部1362hは、ボリュームデータにてセグメンテーションされた各領域を構成する各ボクセルの不透過度(Opacity)を決定する処理部である。なお、ボリュームデータにおいて不透過度が「100%」とされた領域の後方の領域は、視差画像群において描出されないこととなる。また、ボリュームデータにおいて不透過度が「0%」とされた領域は、視差画像群において描出されないこととなる。
【0055】
3次元物体材質処理部1362iは、ボリュームデータにてセグメンテーションされた各領域の材質を決定することで、この領域が描出される際の質感を調整する処理部である。3次元仮想空間光源処理部1362jは、ボリュームデータに対してボリュームレンダリング処理を行なう際に、3次元仮想空間に設置する仮想光源の位置や、仮想光源の種類を決定する処理部である。仮想光源の種類としては、無限遠から平行な光線を照射する光源や、視点から放射状の光線を照射する光源等が挙げられる。
【0056】
3次元仮想空間レンダリング部1362kは、ボリュームデータに対してボリュームレンダリング処理を行ない、視差画像群を生成する。また、3次元仮想空間レンダリング部1362kは、ボリュームレンダリング処理を行なう際、必要に応じて、投影方法設定部1362a、3次元幾何変換処理部1362b、3次元物体アピアランス処理部1362fにより決定された各種情報を用いる。
【0057】
ここで、3次元仮想空間レンダリング部1362kによるボリュームレンダリング処理は、レンダリング条件に従って行なわれることになる。例えば、レンダリング条件は、「平行投影法」又は「透視投影法」である。また、例えば、レンダリング条件は、「基準の視点位置及び視差角」である。また、例えば、レンダリング条件は、「視点位置の平行移動」、「視点位置の回転移動」、「視差画像群の拡大」、「視差画像群の縮小」である。また、例えば、レンダリング条件は、「着色される色彩」、「透過度」、「質感」、「仮想光源の位置」、「仮想光源の種類」である。このようなレンダリング条件は、入力部131を介して操作者から受け付ける場合や、初期設定される場合が考えられる。いずれの場合も、3次元仮想空間レンダリング部1362kは、制御部135からレンダリング条件を受け付け、このレンダリング条件に従って、ボリュームデータに対するボリュームレンダリング処理を行なう。また、このとき、上述した投影方法設定部1362a、3次元幾何変換処理部1362b、3次元物体アピアランス処理部1362fが、このレンダリング条件に従って必要な各種情報を決定するので、3次元仮想空間レンダリング部1362kは、決定されたこれらの各種情報を用いて視差画像群を生成する。
【0058】
図6は、第1の実施形態に係るボリュームレンダリング処理の一例を説明するための図である。例えば、3次元仮想空間レンダリング部1362kが、図6の「9視差画像生成方式(1)」に示すように、レンダリング条件として、平行投影法を受け付け、更に、基準の視点位置(5)と視差角「1度」とを受け付けたとする。かかる場合、3次元仮想空間レンダリング部1362kは、視差角が「1度」おきとなるように、視点の位置を(1)〜(9)に平行移動して、平行投影法により視差角(視線方向間の角度)が1度ずつ異なる9つの視差画像を生成する。なお、平行投影法を行なう場合、3次元仮想空間レンダリング部1362kは、視線方向に沿って無限遠から平行な光線を照射する光源を設定する。
【0059】
或いは、3次元仮想空間レンダリング部1362kが、図6の「9視差画像生成方式(2)」に示すように、レンダリング条件として、透視投影法を受け付け、更に、基準の視点位置(5)と視差角「1度」とを受け付けたとする。かかる場合、3次元仮想空間レンダリング部1362kは、ボリュームデータの中心(重心)を中心に視差角が「1度」おきとなるように、視点の位置を(1)〜(9)に回転移動して、透視投影法により視差角が1度ずつ異なる9つの視差画像を生成する。なお、透視投影法を行なう場合、3次元仮想空間レンダリング部1362kは、視線方向を中心に光を3次元的に放射状に照射する点光源や面光源を各視点にて設定する。また、透視投影法を行なう場合、レンダリング条件によっては、視点(1)〜(9)は、平行移動される場合であってもよい。
【0060】
なお、3次元仮想空間レンダリング部1362kは、表示されるボリュームレンダリング画像の縦方向に対しては、視線方向を中心に光を2次元的に放射状に照射し、表示されるボリュームレンダリング画像の横方向に対しては、視線方向に沿って無限遠から平行な光線を照射する光源を設定することで、平行投影法と透視投影法とを併用したボリュームレンダリング処理を行なってもよい。
【0061】
このようにして生成された9つの視差画像が、視差画像群である。第1の実施形態において、9つの視差画像は、例えば制御部135により所定フォーマット(例えば格子状)に配置した中間画像に変換され、立体表示モニタとしての表示部132に出力される。すると、ワークステーション130の操作者は、立体表示モニタに表示された立体視可能な医用画像を確認しながら、視差画像群生成のための操作を行なうことができる。
【0062】
なお、図6の例では、レンダリング条件として、投影方法、基準の視点位置及び視差角を受け付けた場合を説明したが、レンダリング条件として、他の条件を受け付けた場合も同様に、3次元仮想空間レンダリング部1362kは、それぞれのレンダリング条件を反映しつつ、視差画像群を生成する。
【0063】
また、3次元仮想空間レンダリング部1362kは、ボリュームレンダリングだけでなく、任意の平面(例えば、アキシャル面、サジタル面、コロナル面など)の平面画像を再構成する。例えば、3次元仮想空間レンダリング部1362kは、断面再構成法(MPR:Multi Planer Reconstruction)を行なってボリュームデータからMPR画像を再構成する。なお、3次元仮想空間レンダリング部1362kは、「Curved MPR」を行なう機能や、「Intensity Projection」を行なう機能も有する。
【0064】
続いて、3次元画像処理部1362がボリュームデータから生成した視差画像群は、アンダーレイ(Underlay)とされる。そして、各種情報(目盛り、患者名、検査項目等)が描出されたオーバーレイ(Overlay)がアンダーレイに対して重畳されることで、出力用の2次元画像とされる。2次元画像処理部1363は、オーバーレイ及びアンダーレイに対して画像処理を行なうことで、出力用の2次元画像を生成する処理部であり、図5に示すように、2次元物体描画部1363a、2次元幾何変換処理部1363b及び輝度調整部1363cを有する。例えば、2次元画像処理部1363は、出力用の2次元画像の生成処理に要する負荷を軽減するために、9枚の視差画像(アンダーレイ)のそれぞれに対して1枚のオーバーレイを重畳することで、出力用の2次元画像を9枚、生成する。
【0065】
2次元物体描画部1363aは、オーバーレイに描出される各種情報を描画する処理部であり、2次元幾何変換処理部1363bは、オーバーレイに描出される各種情報の位置を平行移動処理又は回転移動処理したり、オーバーレイに描出される各種情報の拡大処理又は縮小処理したりする処理部である。
【0066】
また、輝度調整部1363cは、輝度変換処理を行なう処理部であり、例えば、出力先の立体表示モニタの諧調や、ウィンドウ幅(WW:Window Width)、ウィンドウレベル(WL:Window Level)等の画像処理用のパラメータに応じて、オーバーレイ及びアンダーレイの輝度を調整する処理部である。
【0067】
このようにして生成された出力用の2次元画像は、例えば制御部135により一旦記憶部134に格納され、その後、通信部133を介して画像保管装置120に送信される。例えば、端末装置140が、画像保管装置120からこの出力用の2次元画像を取得し、所定フォーマット(例えば格子状)に配置した中間画像に変換した上で立体表示モニタに表示すると、観察者である医師や検査技師は、各種情報(目盛り、患者名、検査項目等)が描出された状態で、立体視可能な医用画像を閲覧することができる。
【0068】
以上、第1の実施形態に係る画像処理システム1及びワークステーション130の構成について説明した。かかる構成のもと、第1の実施形態に係るワークステーション130は、以下、詳細に説明する制御部135の処理により、操作者によって観察された画像を容易に出力することが可能となるように構成されている。具体的には、第1の実施形態に係るワークステーション130は、表示部132に表示された視差画像の情報と、観察者の位置情報とに基づいて、表示されている視差画像に対する観察者の相対位置を算出し、算出した相対位置に応じた画像を表示する。
【0069】
図7は、第1の実施形態に係る制御部135の構成例を説明するための図である。図7に示すように、制御部135は、視点情報検出部1351と、位置情報算出部1352と、画像出力部1353とを有し、モーショントラッキング装置1371と接続されている。モーショントラッキング装置1371は、表示部132に対する観察者の位置を検出する。具体的には、モーショントラッキング装置1371は、観察者を撮影するためのカメラと、カメラの向きを変更させるための駆動装置(例えば、モーターなど)を有し、視点情報検出部1351による制御の元、観察者を撮影する。なお、モーショントラッキング装置1371は、図4に示す検出部137の一例である。
【0070】
視点情報検出部1351は、観察者による表示部132の観察方向を検出する。換言すると、視点情報検出部1351は、表示部132に対する表示対象物の観察者の位置を検出する。具体的には、視点情報検出部1351は、モーショントラッキング装置1371を制御して観察者を撮影させ、表示部132に対する観察者の位置を検出する。図8は、第1の実施形態に係る視点情報検出部1351による観察者の位置の情報を取得する処理の一例を説明するための図である。
【0071】
ここで、多視差(例えば、9視差)で描出した三次元の医用画像を用いた読影について、図8の(A)を用いて説明する。多視差で描出した視差画像を表示することで3次元として認識される医用画像の場合には、観察者の視点移動に合わせて観察される映像も変化する運動視差による立体視が可能である。例えば、図8の(A)に示すように、観察者が表示部132に表示された「肺」の画像を異なる視点から観察すると、その位置に応じて異なった部分を観察することが可能である。
【0072】
そこで、例えば、図8の(B)に示すように、表示部132によって視差画像が表示され、観察者が表示部132の左側に位置し、保存や印刷操作を実行すると、視点情報検出部1351は、モーショントラッキング装置1371を制御して、観察者の位置を検出する。一例を説明すると、視点情報検出部1351は、観察者から保存又は印刷の操作を受付けると、モーショントラッキング装置1371のモーターを駆動させることで撮影範囲を変えながら、表示部132の前面をカメラにより撮影させる。そして、視点情報検出部1351は、カメラによって撮影された画像に対して、顔認識のパターンマッチングを行い、観察者の顔が描出された画像を特定する。
【0073】
さらに、視点情報検出部1351は、観察者の顔が描出された画像を特定すると、当該画像が撮影された際のカメラの向きに基づいて、表示部132に対する観察者の位置を検出する。図9は、第1の実施形態に係る視点情報検出部1351による検出処理の一例を説明するための図である。ここで、図9においては、観察者及び表示部132の上面図を示す。
【0074】
例えば、視点情報検出部1351は、図9に示すように、表示部132のモニタの面と、観察者の顔が描出された画像が撮影された際のモーショントラッキング装置1371のカメラの向きとからなる角度「45°」を、表示部132に対する観察者の位置として検出する。そして、視点情報検出部1351は、検出した観察者の位置「角度:45°」を視点情報として位置情報算出部1352に出力する。
【0075】
図7に戻って、位置情報算出部1352は、表示部132における表示対象物の表示設定に関する情報に基づいて、視点情報検出部1351によって検出された観察者の位置と表示対象物との相対位置を算出する。言い換えると、位置情報算出部1352は、観察者の位置から観察される表示対象物の位置を算出する。具体的には、位置情報算出部1352は、まず、観察者によって観察された視差画像の表示設定から表示対象物がどのように表示されたかを示す情報を取得する。図10は、第1の実施形態に係る位置情報算出部1352による処理の一例を説明するための図である。
【0076】
例えば、位置情報算出部1352は、図10の(A)に示すように、表示部132に表示された「肺」の画像の表示設定の情報(以下、表示パラメータと記す)を取得する。一例を挙げると、位置情報算出部1352は、図10の(B)に示すように、「肺」のボリュームデータにおける直交三断面301、直交三断面302及び直交三断面303の情報を取得する。そして、位置情報算出部1352は、表示部132に表示された「肺」の画像の直交三断面301、直交三断面302及び直交三断面303が表示部132に対してどのような位置で表示されているかを算出する。
【0077】
例えば、位置情報算出部1352は、図10の(C)に示すように、表示部132の表示面に対して横方向に平行な直線401と直交三断面301とからなる角度501を算出する。また、位置情報算出部1352は、表示部132の表示面に対して垂直な直線402と直交三断面302とからなる角度502を算出する。また、位置情報算出部1352は、表示部132の表示面に対して縦方向に平行な直線403と直交三断面503とからなる角度503を算出する。さらに、位置情報算出部1352は、「肺」を描出する視差画像の視差角や、体軸方向などの情報を表示パラメータとして取得する。
【0078】
そして、位置情報算出部1352は、取得した表示パラメータと、視点情報検出部1351によって検出された視点情報とから、表示部120に表示された「肺」と観察者との相対位置を算出する。すなわち、位置情報算出部1352は、表示パラメータと視点情報とから、観察者が入力部110を介して入力操作を実行した際の位置から観察されうる表示対象物の位置を算出する。例えば、位置情報算出部1352は、図6に示す視点(1)から観察した場合の視差画像を特定するための情報を算出する。図11は、第1の実施形態に係る位置情報算出部1352による相対位置の算出処理の一例を説明するための図である。
【0079】
例えば、位置情報算出部1352は、図11に示すように、ボリューム中心(あるいは、重心)を原点とした3軸(x軸、y軸、z軸)からなる直交座標を設定する。そして、位置情報算出部1352は、表示パラメータと視点情報とを用いて、観察者が観察した視差画像をボリュームレンダリング処理にて生成する際の視点位置の座標を相対位置として算出する。
【0080】
ここで、位置情報算出部1352は、取得した表示パラメータの情報と、視点情報検出部1351によって検出された視点情報と、算出した相対位置とを患者情報に対応付けた相対位置情報を記憶部134に格納する。図12は、第1の実施形態に係る位置情報算出部1352によって格納される相対位置情報の一例を示す図である。例えば、位置情報算出部1352は、図11に示すように、「患者ID:1」に対して、「診断部位:肺」と、表示パラメータ「視差角:5、直交三断面301:3、直交三断面302:1、直交三断面303:1、体軸方向:上方」と、「視点情報:45」と、「相対位置:(a、b、c)」とを対応付けた相対位置情報を記憶部134に格納する。
【0081】
すなわち、上記した相対位置情報は、「患者ID:1」の患者に対して「肺」の画像診断が実行された際の画像は、「視差角」が「5°」で生成された視差画像であり、「直交三断面301」、「直交三断面302」、「直交三断面303」が、表示部132に対して、ぞれぞれ「3°」、「1°」、「1°」の角度であり、「体軸方向」が上方になるように表示された「肺」を、観察者が「視点情報:45°」の位置で観察した画像であることを示す。そして、上記した相対位置情報は、観察者によって観察された視差画像は、「相対位置:(a,b,c)」からボリュームレンダリング処理が実行された画像であることを示す。
【0082】
図7に戻って、画像出力部1353は、観察方向に基づいて、視差画像群の中から画像を選択して出力する。具体的には、画像出力部1353は、位置情報算出部1352によって格納された相対位置に関する情報に基づいて、観察者の位置に正対する向きの表示対象物を出力するように制御する。例えば、画像出力部1353は、記憶部134によって記憶された相対位置情報に含まれる「相対位置」の座標が表示部132の表示面の中心になるように出力させる。図13は、第1の実施形態に係る画像出力部1353による処理の一例を説明するための図である。
【0083】
例えば、画像出力部1353は、図13に示すように、印刷操作を受付けた際のFilming画像として、「座標:(a,b,c)」でボリュームレンダリング処理が実行された視差画像が表示部132の中心になるように配置された画像を出力する。その結果、画像出力部1353は、図13に示すように、観察者によって観察された腫瘍が描出された画像を出力させることとなる。
【0084】
そして、画像出力部1353は、後に、他の観察者によって「患者ID:1」の「診断部位:肺」の画像の表示要求を受付けた場合には、記憶部134によって記憶された相対位置情報を参照して画像を表示させる。従って、第1の実施形態に係るワークステーションは、観察者によって観察された画像を容易に出力することを可能にする。
【0085】
ここで、画像出力部1353は、単一の2次元の画像を出力する。また、画像出力部1353は、任意の数の視差画像を出力することで立体視可能な画像を出力する。具体的には、画像出力部1353は、位置情報算出部1352によって格納された相対位置に関する情報に基づいて、観察者の位置に正対する向きの表示対象物を、立体視可能な視差画像、単一視点からの2次元画像(例えば、ボリュームレンダリング画像や、MPR画像など)として出力するように制御する。例えば、画像出力部1353は、観察者の位置に正対する向きの表示対象物を、複数の視点からのレンダリング処理により視差画像として生成させ、生成させた視差画像を表示部132に表示させる。また、画像出力部1353は、観察者の位置に正対する向きの表示対象物を、単一方向からのボリュームレンダリング画像、或いは、MPR画像として生成させ、生成させた画像を表示部132に表示させる。
【0086】
上述した実施形態では、観察者によって観察された画像を表示したり、印刷したりする場合について説明した。しかしながら、開示の技術はこれに限定されるものではなく、例えば、観察者が保存操作を実行した場合に、観察者によって観察された画像を保存する場合であってもよい。
【0087】
次に、図14を用いて、第1の実施形態に係るワークステーション130の処理について説明する。図14は、第1の実施形態に係るワークステーション130による処理の手順を示すフローチャートである。図14に示すように、第1の実施形態に係るワークステーション130においては、入力部110が入力操作を受付けると(ステップS101肯定)、モーショントラッキング装置1371が観察者を検出し、視点情報検出部1351が、表示部120に対する観察者の位置を示す情報である視点情報を取得する(ステップS102)。
【0088】
そして、位置情報算出部1352が、表示部132に表示された視差画像の表示パラメータを取得し、取得した表示パラメータと視点情報とから、視差画像と観察者との相対的な位置を示す相対位置を算出して記憶部134に保存する(ステップS103)。その後、画像出力部1353が、記憶部134によって記憶された相対位置に関する情報を参照して、入力操作に応じた出力処理を実行する(ステップS104)。
【0089】
そして、入力部110が新たな出力要求を受付けると(ステップS105肯定)、画像出力部1353が、記憶部134によって記憶された相対位置に基づいた画像を出力させる(ステップS106)。なお、第1の実施形態に係るワークステーション130は、入力を介して操作が実行されるまで待機状態である(ステップS101否定、ステップS105否定)。
【0090】
上述したように、第1の実施形態によれば、表示部132は、視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する。視点情報検出部1351は、観察者による表示部132の観察方向を検出する。画像出力部1353は、観察方向に基づいて、視差画像群の中から画像を選択して出力する。従って、第1の実施形態に係るワークステーション130は、観察者によって観察された画像を容易に出力することを可能にする。
【0091】
また、第1の実施形態によれば、画像出力部1353は、単一の2次元の画像を出力する。従って、第1の実施形態に係るワークステーション130は、例えば、画像を出力するモニタの種類などに応じて2次元画像と立体視可能な3次元画像とを選択的に表示させることを可能にする。
【0092】
また、第1の実施形態によれば、画像出力部1353は、任意の数の視差画像を出力することで立体視可能な画像を出力する。従って、第1の実施形態に係るワークステーション130は、モニタごとに異なる表示可能な視差画像の数に柔軟に対応することを可能にする。
【0093】
また、第1の実施形態によれば、位置情報算出部1352は、表示部132における表示対象物の表示設定に関する情報に基づいて、視点情報検出部1351によって検出された観察者の位置と表示対象物との相対位置を算出し、算出した相対位置に関する情報を記憶部134に格納する。画像出力部1353は、位置情報算出部1352によって格納された相対位置に関する情報に基づいて、観察者の位置に正対する向きの表示対象物を、立体視可能な視差画像群、単一視点からの2次元画像として出力する。従って、第1の実施形態に係るワークステーション130は、モニタの種類に関係なく、種々の情報処理装置に対して、観察者によって観察された画像を正確に表示することを可能にする。
【0094】
また、第1の実施形態によれば、位置情報算出部1352は、相対位置に関する情報として、観察者の位置から観察される前記表示対象物の視点位置の座標を記憶部134に格納する。従って、第1の実施形態に係るワークステーション130は、記憶させる情報量を少なくすることを可能にする。
【0095】
(第2の実施形態)
上述した第1の実施形態では相対位置の情報として視点位置の座標を保存する場合について説明した。第2の実施形態では、相対位置の情報として観察者から観察された画像そのものを保存する場合について説明する。
【0096】
図15は、第2の実施形態に係る制御部135aの構成例を説明するための図である。図15に示すように、第2の実施形態に係る制御部135aは、第1に実施形態に係る制御部135と比較して、位置情報算出部1352aの処理内容が異なる。以下、これを中心に説明する。
【0097】
位置情報算出部1352aは、相対位置に関する情報として、観察者の位置から観察される表示対象物の領域の画像を記憶部134に格納する。具体的には、位置情報算出部1352aは、視点情報検出部1351によって検出された視点情報に対応する視差画像のデータを記憶部134に格納する。図16は、第2の実施形態に係る位置情報算出部1352aによる処理の一例を説明するための図である。図16においては、視点ごとの視差画像について示す。例えば、位置情報算出部1352aは、図16に示す視点ごとのボリュームレンダリング画像のデータから観察者の位置に対応する画像を抽出して、記憶部134に格納する。一例を挙げると、位置情報算出部1352aは、観察者が図16の(3)の方向に位置していた場合に、(3)に対応するボリュームレンダリング画像を患者IDなどに対応付けて記憶部134に格納する。
【0098】
画像出力部1353は、他の観察者から出力操作を受付けると、記憶部134に格納されている画像を読み出し、読み出した画像を出力させる。
【0099】
次に、図17を用いて、第2の実施形態に係るワークステーション130の処理について説明する。図17は、第2の実施形態に係るワークステーション130による処理の手順を示すフローチャートである。図17に示すように、第2の実施形態に係るワークステーション130においては、入力部110が入力操作を受付けると(ステップS201肯定)、モーショントラッキング装置1371が観察者を検出し、視点情報検出部1351が、表示部120に対する観察者の位置を示す情報である視点情報を取得する(ステップS202)。
【0100】
そして、位置情報算出部1352aが、表示部132に表示された視差画像の表示パラメータを取得し、取得した表示パラメータと視点情報とから、視点情報に対応する画像を抽出して記憶部134に保存する(ステップS203)。その後、画像出力部1353が、記憶部134によって記憶された画像を読み出し、入力操作に応じた出力処理を実行する(ステップS204)。
【0101】
そして、入力部110が新たな出力操作を受付けると(ステップS205肯定)、画像出力部1353が、出力操作を受付けた画像を記憶部134から読み出し、読み出した画像を出力させる(ステップS206)。なお、第2の実施形態に係るワークステーション130は、入力を介して操作が実行されるまで待機状態である(ステップS201否定、ステップS205否定)。
【0102】
上述したように、第2の実施形態によれば、位置情報算出部1352aは、相対位置に関する情報として、観察者の位置から観察される表示対象物の領域の画像を記憶部134に格納する。従って、第2の実施形態に係るワークステーション130は、画像を出力する際に、再度、画像を生成することなく表示することができ、処理負荷を低減することを可能にする。
【0103】
(第3の実施形態)
さて、これまで第1及び第2の実施形態について説明したが、上述した第1及び第2の実施形態以外にも、種々の異なる形態にて実施されてよいものである。
【0104】
上述した実施形態においては、ワークステーション130が、観察者の視点位置に応じた画像を表示する場合について説明した。しかしながら、開示の技術がこれに限定されるものではなく、例えば、医用画像診断装置110が観察者の視点位置に応じた画像を表示する場合であってもよい。また、医用画像診断装置110又はワークステーション130が観察者の視点位置に応じた画像や画像の座標を記憶部に格納し、端末装置140が、記憶部に記憶された情報に基づいて画像を表示する場合であってもよい。
【0105】
また、上述した実施形態においては、ワークステーション130は、画像保管装置120からボリュームデータを取得し、このボリュームデータから観察者の視点位置に応じた画像を生成して表示する場合について説明した。しかしながら、開示の技術はこれに限定されるものではなく、例えば、ワークステーション130は、医用画像診断装置110からボリュームデータを取得し、このボリュームデータから観察者の視点位置に応じた画像を生成して表示する場合であってもよい。
【0106】
上述した実施形態においては、観察者の位置を顔認識により検出する場合について説明した。しかしながら、開示の技術はこれに限定されるものではなく、例えば、観察者の視線情報から観察者の位置を検出する場合であってもよい。
【0107】
上述した実施形態においては、観察者の位置を表示部132の表示面を基準に算出する場合について説明した。しかしながら、開示の技術はこれに限定されるものではなく、例えば、カメラの撮影領域内に常時位置する不動の物体を用いる場合であってもよい。かかる場合には、表示部132によって表示された表示対象物の位置情報についても、該不動の物体を用いて算出する。
【0108】
以上説明したとおり、実施形態によれば、本実施形態の画像処理システム、画像処理装置及び方法は、観察者によって観察された画像を容易に出力することを可能にする。
【0109】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【0110】
110 医用画像診断装置
120 画像保管装置
130 ワークステーション
132 表示部
134 記憶部
135 制御部
137 検出部
1351 視点情報検出部
1352 位置情報算出部
1353 画像出力部
1371 モーショントラッキング装置
140 端末装置
【技術分野】
【0001】
本発明の実施形態は、画像処理システム、装置及び方法に関する。
【背景技術】
【0002】
従来、立体視用メガネ等の専用機器を用いて、2つの視点から撮影された2視差画像を立体視可能なモニタが実用化されている。また、近年、レンチキュラーレンズ等の光線制御子を用いて、複数の視点から撮影された多視差画像(例えば、9視差画像)を裸眼にて立体視可能なモニタが実用化されている。なお、立体視可能なモニタにて表示される2視差画像や9視差画像は、1視点から撮影された画像の奥行き情報を推定し、推定した情報を用いた画像処理により生成される場合もある。
【0003】
一方、X線CT(Computed Tomography)装置やMRI(Magnetic Resonance Imaging)装置、超音波診断装置等の医用画像診断装置では、3次元の医用画像データ(以下、ボリュームデータ)を生成可能な装置が実用化されている。従来、かかる医用画像診断装置により生成されたボリュームデータは、種々の画像処理により2次元画像とされ、汎用モニタ上にて2次元表示される。例えば、医用画像診断装置により生成されたボリュームデータは、ボリュームレンダリング処理により3次元の情報を反映した2次元画像とされ、汎用モニタ上にて2次元表示される。しかしながら、従来技術では、観察者によって観察された画像を出力することが困難になる場合があった。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2005−86414号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明が解決しようとする課題は、観察者によって観察された画像を容易に出力することができる画像処理システム、装置及び方法を提供することである。
【課題を解決するための手段】
【0006】
実施形態の画像処理システムは、表示手段と、検出手段と、画像出力手段とを備える。表示手段は、視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する。検出手段は、観察者による前記表示手段の観察方向を検出する。画像出力手段は、前記観察方向に基づいて、視差画像群の中から画像を選択して出力する。
【図面の簡単な説明】
【0007】
【図1】図1は、第1の実施形態に係る画像処理システムの構成例を説明するための図である。
【図2】図2は、2視差画像により立体表示を行なう立体表示モニタの一例を説明するための図である。
【図3】図3は、9視差画像により立体表示を行なう立体表示モニタの一例を説明するための図である。
【図4】図4は、第1の実施形態に係るワークステーションの構成例を説明するための図である。
【図5】図5は、図4に示すレンダリング処理部の構成例を説明するための図である。
【図6】図6は、第1の実施形態に係るボリュームレンダリング処理の一例を説明するための図である。
【図7】図7は、第1の実施形態に係る制御部の構成例を説明するための図である。
【図8】図8は、第1の実施形態に係る視点情報検出部による観察者の位置の情報を取得する処理の一例を説明するための図である。
【図9】図9は、第1の実施形態に係る視点情報検出部による検出処理の一例を説明するための図である。
【図10】図10は、第1の実施形態に係る位置情報算出部による処理の一例を説明するための図である。
【図11】図11は、第1の実施形態に係る位置情報算出部による相対位置の算出処理の一例を説明するための図である。
【図12】図12は、第1の実施形態に係る位置情報算出部によって格納される相対位置情報の一例を示す図である。
【図13】図13は、第1の実施形態に係る画像出力部による処理の一例を説明するための図である。
【図14】図14は、第1の実施形態に係るワークステーションによる処理の手順を示すフローチャートである。
【図15】図15は、第2の実施形態に係る制御部の構成例を説明するための図である。
【図16】図16は、第2の実施形態に係る位置情報算出部による処理の一例を説明するための図である。
【図17】図17は、第2の実施形態に係るワークステーションによる処理の手順を示すフローチャートである。
【発明を実施するための形態】
【0008】
以下、添付図面を参照して、画像処理システム、装置及び方法の実施形態を詳細に説明する。なお、以下では、画像処理装置としての機能を有するワークステーションを含む画像処理システムを実施形態として説明する。ここで、以下の実施形態で用いる用語について説明すると、「視差画像群」とは、ボリュームデータに対して、所定の視差角ずつ視点位置を移動させてボリュームレンダリング処理を行なうことで生成された画像群のことである。すなわち、「視差画像群」は、「視点位置」が異なる複数の「視差画像」から構成される。また、「視差角」とは、「視差画像群」を生成するために設定された各視点位置のうち隣接する視点位置とボリュームデータによって表される空間内の所定位置(例えば、空間の中心)とにより定まる角度のことである。また、「視差数」とは、立体表示モニタにて立体視されるために必要となる「視差画像」の数のことである。また、以下で記載する「9視差画像」とは、9つの「視差画像」から構成される「視差画像群」のことである。また、以下で記載する「2視差画像」とは、2つの「視差画像」から構成される「視差画像群」のことである。
【0009】
(第1の実施形態)
まず、第1の実施形態に係る画像処理システムの構成例について説明する。図1は、第1の実施形態に係る画像処理システムの構成例を説明するための図である。
【0010】
図1に示すように、第1の実施形態に係る画像処理システム1は、医用画像診断装置110と、画像保管装置120と、ワークステーション130と、端末装置140とを有する。図1に例示する各装置は、例えば、病院内に設置された院内LAN(Local Area Network)2により、直接的、又は間接的に相互に通信可能な状態となっている。例えば、画像処理システム1にPACS(Picture Archiving and Communication System)が導入されている場合、各装置は、DICOM(Digital Imaging and Communications in Medicine)規格に則って、医用画像等を相互に送受信する。
【0011】
かかる画像処理システム1は、医用画像診断装置110により生成された3次元の医用画像データであるボリュームデータから視差画像群を生成し、この視差画像群を立体視可能なモニタに表示することで、病院内に勤務する医師や検査技師に立体視可能な医用画像を提供する。具体的には、第1の実施形態においては、ワークステーション130が、ボリュームデータに対して種々の画像処理を行ない、視差画像群を生成する。また、ワークステーション130及び端末装置140が、立体視可能なモニタを有し、ワークステーション130にて生成された視差画像群をこのモニタに表示する。また、画像保管装置120は、医用画像診断装置110にて生成されたボリュームデータや、ワークステーション130にて生成された視差画像群を保管する。すなわち、ワークステーション130や端末装置140は、この画像保管装置120からボリュームデータや視差画像群を取得し、これを処理したり、モニタに表示したりする。以下、各装置を順に説明する。
【0012】
医用画像診断装置110は、X線診断装置、X線CT(Computed Tomography)装置、MRI(Magnetic Resonance Imaging)装置、超音波診断装置、SPECT(Single Photon Emission Computed Tomography)装置、PET(Positron Emission computed Tomography)装置、SPECT装置とX線CT装置とが一体化されたSPECT−CT装置、PET装置とX線CT装置とが一体化されたPET−CT装置、又はこれらの装置群等である。また、第1の実施形態に係る医用画像診断装置110は、3次元の医用画像データ(ボリュームデータ)を生成可能である。
【0013】
具体的には、第1の実施形態に係る医用画像診断装置110は、被検体を撮影することによりボリュームデータを生成する。例えば、医用画像診断装置110は、被検体を撮影することにより投影データやMR信号等のデータを収集し、収集したデータから、被検体の体軸方向に沿った複数のアキシャル面の医用画像データを再構成することで、ボリュームデータを生成する。例えば、医用画像診断装置110は、500枚のアキシャル面の医用画像データを再構成する。この500枚のアキシャル面の医用画像データ群が、ボリュームデータである。
【0014】
また、第1の実施形態に係る医用画像診断装置110は、生成したボリュームデータを画像保管装置120に送信する。なお、医用画像診断装置110は、ボリュームデータを画像保管装置120に送信する際に、付帯情報として、例えば、患者を識別する患者ID、検査を識別する検査ID、医用画像診断装置110を識別する装置ID、医用画像診断装置110による1回の撮影を識別するシリーズID等を送信する。
【0015】
画像保管装置120は、医用画像を保管するデータベースである。具体的には、第1の実施形態に係る画像保管装置120は、医用画像診断装置110から送信されたボリュームデータを記憶部に格納し、これを保管する。また、第1の実施形態においては、ワークステーション130が、ボリュームデータから視差画像群を生成し、生成した視差画像群を画像保管装置120に送信する。このため、画像保管装置120は、ワークステーション130から送信された視差画像群を記憶部に格納し、これを保管する。なお、本実施形態は、大容量の画像を保管可能なワークステーション130を用いることで、図1に例示するワークステーション130と画像保管装置120とが統合される場合であっても良い。すなわち、本実施形態は、ワークステーション130そのものにボリュームデータもしくは視差画像群を記憶させる場合であっても良い。
【0016】
なお、第1の実施形態において、画像保管装置120に保管されたボリュームデータや視差画像群は、患者ID、検査ID、装置ID、シリーズID等と対応付けて保管される。このため、ワークステーション130や端末装置140は、患者ID、検査ID、装置ID、シリーズID等を用いた検索を行なうことで、必要なボリュームデータや視差画像群を画像保管装置120から取得する。
【0017】
ワークステーション130は、医用画像に対して画像処理を行なう画像処理装置である。具体的には、第1の実施形態に係るワークステーション130は、画像保管装置120から取得したボリュームデータに対して種々のレンダリング処理を行ない、視差画像群を生成する。視差画像群とは、複数の視点から撮影された複数の視差画像のことであり、例えば、9視差画像を裸眼にて立体視可能なモニタにて表示される視差画像群とは、視点位置が異なる9つの視差画像のことである。
【0018】
また、第1の実施形態に係るワークステーション130は、表示部として、立体視可能なモニタ(以下、立体表示モニタ)を有する。ワークステーション130は、視差画像群を生成し、生成した視差画像群を立体表示モニタに表示する。この結果、ワークステーション130の操作者は、立体表示モニタに表示された立体視可能な医用画像を確認しながら、視差画像群生成のための操作を行なうことができる。
【0019】
また、ワークステーション130は、生成した視差画像群を画像保管装置120に送信する。なお、ワークステーション130は、視差画像群を画像保管装置120に送信する際に、付帯情報として、例えば、患者ID、検査ID、装置ID、シリーズID等を送信する。また、視差画像群を画像保管装置120に送信する際に送信される付帯情報としては、視差画像群に関する付帯情報も挙げられる。視差画像群に関する付帯情報としては、視差画像の枚数(例えば、「9」)や、視差画像の解像度(例えば、「466×350画素」)等がある。
【0020】
端末装置140は、病院内に勤務する医師や検査技師に医用画像を閲覧させるための装置である。例えば、端末装置140は、病院内に勤務する医師や検査技師により操作されるPC(Personal Computer)やタブレット式PC、PDA(Personal Digital Assistant)、携帯電話等である。具体的には、第1の実施形態に係る端末装置140は、表示部として立体表示モニタを有する。また、端末装置140は、画像保管装置120から視差画像群を取得し、取得した視差画像群を立体表示モニタに表示する。この結果、観察者である医師や検査技師は、立体視可能な医用画像を閲覧することができる。
【0021】
ここで、ワークステーション130や端末装置140が有する立体表示モニタについて説明する。現在最も普及している一般的な汎用モニタは、2次元画像を2次元で表示するものであり、2次元画像を立体表示することができない。仮に、観察者が汎用モニタにて立体視を要望する場合、汎用モニタに対して画像を出力する装置は、平行法や交差法により観察者が立体視可能な2視差画像を並列表示させる必要がある。又は、汎用モニタに対して画像を出力する装置は、例えば、左目用の部分に赤色のセロハンが取り付けられ、右目用の部分に青色のセロハンが取り付けられたメガネを用いて余色法により観察者が立体視可能な画像を表示する必要がある。
【0022】
一方、立体表示モニタとしては、立体視用メガネ等の専用機器を用いることで、2視差画像(両眼視差画像とも称する)を立体視可能とするものがある。
【0023】
図2は、2視差画像により立体表示を行なう立体表示モニタの一例を説明するための図である。図2に示す一例は、シャッター方式により立体表示を行なう立体表示モニタであり、モニタを観察する観察者が装着する立体視用メガネとしてシャッターメガネが用いられる。かかる立体表示モニタは、モニタにて2視差画像を交互に出射する。例えば、図2の(A)に示すモニタは、左目用の画像と右目用の画像を、120Hzにて交互に出射する。ここで、モニタには、図2の(A)に示すように、赤外線出射部が設置され、赤外線出射部は、画像が切り替わるタイミングに合わせて赤外線の出射を制御する。
【0024】
また、赤外線出射部から出射された赤外線は、図2の(A)に示すシャッターメガネの赤外線受光部により受光される。シャッターメガネの左右それぞれの枠には、シャッターが取り付けられており、シャッターメガネは、赤外線受光部が赤外線を受光したタイミングに合わせて左右のシャッターそれぞれの透過状態及び遮光状態を交互に切り替える。以下、シャッターにおける透過状態及び遮光状態の切り替え処理について説明する。
【0025】
各シャッターは、図2の(B)に示すように、入射側の偏光板と出射側の偏光板とを有し、更に、入射側の偏光板と出射側の偏光板との間に液晶相を有する。また、入射側の偏光板と出射側の偏光板とは、図2の(B)に示すように、互いに直交している。ここで、図2の(B)に示すように、電圧が印加されていない「OFF」の状態では、入射側の偏光板を通った光は、液晶層の作用により90度回転し、出射側の偏光板を透過する。すなわち、電圧が印加されていないシャッターは、透過状態となる。
【0026】
一方、図2の(B)に示すように、電圧が印加された「ON」の状態では、液晶層の液晶分子による偏光回転作用が消失するため、入射側の偏光板を通った光は、出射側の偏光板で遮られてしまう。すなわち、電圧が印加されたシャッターは、遮光状態となる。
【0027】
そこで、例えば、赤外線出射部は、モニタ上に左目用の画像が表示されている期間、赤外線を出射する。そして、赤外線受光部は、赤外線を受光している期間、左目のシャッターに電圧を印加せず、右目のシャッターに電圧を印加させる。これにより、図2の(A)に示すように、右目のシャッターが遮光状態となり、左目のシャッターが透過状態となるため、観察者の左目に左目用の画像が入射する。一方、赤外線出射部は、モニタ上に右目用の画像が表示されている期間、赤外線の出射を停止する。そして、赤外線受光部は、赤外線が受光されない期間、右目のシャッターに電圧を印加せず、左目のシャッターに電圧を印加させる。これにより、左目のシャッターが遮光状態となり、右目のシャッターが透過状態であるため、観察者の右目に右目用の画像が入射する。このように、図2に示す立体表示モニタは、モニタに表示される画像とシャッターの状態を連動させて切り替えることで、観察者が立体視可能な画像を表示させる。なお、2視差画像を立体視可能な立体表示モニタとしては、上記のシャッター方式以外にも、偏光メガネ方式を採用したモニタも知られている。
【0028】
更に、近年実用化された立体表示モニタとしては、レンチキュラーレンズ等の光線制御子を用いることで、例えば、9視差画像等の多視差画像を観察者が裸眼にて立体視可能とするものがある。かかる立体表示モニタは、両眼視差による立体視を可能とし、更に、観察者の視点移動に合わせて観察される映像も変化する運動視差による立体視も可能とする。
【0029】
図3は、9視差画像により立体表示を行なう立体表示モニタの一例を説明するための図である。図3に示す立体表示モニタには、液晶パネル等の平面状の表示面200の前面に、光線制御子が配置される。例えば、図3に示す立体表示モニタには、光線制御子として、光学開口が垂直方向に延びる垂直レンチキュラーシート201が表示面200の前面に貼り付けられている。
【0030】
表示面200には、図3に示すように、縦横比が3:1であり、縦方向にサブ画素である赤(R)、緑(G)、青(B)の3つが配置された画素202がマトリクス状に配置される。図3に示す立体表示モニタは、9つの画像により構成される9視差画像を、所定フォーマット(例えば格子状)に配置した中間画像に変換したうえで、表示面200に出力する。すなわち、図3に示す立体表示モニタは、9視差画像にて同一位置にある9つの画素それぞれを、9列の画素202に割り振って出力させる。9列の画素202は、視点位置の異なる9つの画像を同時に表示する単位画素群203となる。
【0031】
表示面200において単位画素群203として同時に出力された9視差画像は、例えば、LED(Light Emitting Diode)バックライトにより平行光として放射され、更に、垂直レンチキュラーシート201により、多方向に放射される。9視差画像の各画素の光が多方向に放射されることにより、観察者の右目及び左目に入射する光は、観察者の位置(視点の位置)に連動して変化する。すなわち、観察者の見る角度により、右目に入射する視差画像と左目に入射する視差画像とは、視差角が異なる。これにより、観察者は、例えば、図3に示す9つの位置それぞれにおいて、撮影対象を立体的に視認できる。また、観察者は、例えば、図3に示す「5」の位置において、撮影対象に対して正対した状態で立体的に視認できるとともに、図3に示す「5」以外それぞれの位置において、撮影対象の向きを変化させた状態で立体的に視認できる。なお、図3に示す立体表示モニタは、あくまでも一例である。9視差画像を表示する立体表示モニタは、図3に示すように、「RRR・・・、GGG・・・、BBB・・・」の横ストライプ液晶である場合であっても良いし、「RGBRGB・・・」の縦ストライプ液晶である場合であっても良い。また、図3に示す立体表示モニタは、図3に示すように、レンチキュラーシートが垂直となる縦レンズ方式である場合であっても良いし、レンチキュラーシートが斜めとなる斜めレンズ方式である場合であっても良い。
【0032】
ここまで、第1の実施形態に係る画像処理システム1の構成例について簡単に説明した。なお、上述した画像処理システム1は、PACSが導入されている場合にその適用が限られるものではない。例えば、画像処理システム1は、医用画像が添付された電子カルテを管理する電子カルテシステムが導入されている場合にも、同様に適用される。この場合、画像保管装置120は、電子カルテを保管するデータベースである。また、例えば、画像処理システム1は、HIS(Hospital Information System)、RIS(Radiology Information System)が導入されている場合にも、同様に適用される。また、画像処理システム1は、上述した構成例に限られるものではない。各装置が有する機能やその分担は、運用の形態に応じて適宜変更されてよい。
【0033】
次に、第1の実施形態に係るワークステーションの構成例について図4を用いて説明する。図4は、第1の実施形態に係るワークステーションの構成例を説明するための図である。なお、以下において、「視差画像群」とは、ボリュームデータに対してボリュームレンダリング処理を行なうことで生成された立体視用の画像群のことである。また、「視差画像」とは、「視差画像群」を構成する個々の画像のことである。すなわち、「視差画像群」は、視点位置が異なる複数の「視差画像」から構成される。
【0034】
第1の実施形態に係るワークステーション130は、画像処理等に適した高性能なコンピュータであり、図4に示すように、入力部131と、表示部132と、通信部133と、記憶部134と、制御部135と、レンダリング処理部136と、検出部137とを有する。なお、以下では、ワークステーション130が画像処理等に適した高性能なコンピュータである場合を用いて説明するが、これに限定されるものではなく、任意の情報処理装置であって良い。例えば、任意のパーソナルコンピュータであっても良い。
【0035】
入力部131は、マウス、キーボード、トラックボール等であり、ワークステーション130に対する各種操作の入力を操作者から受け付ける。具体的には、第1の実施形態に係る入力部131は、レンダリング処理の対象となるボリュームデータを画像保管装置120から取得するための情報の入力を受け付ける。例えば、入力部131は、患者ID、検査ID、装置ID、シリーズID等の入力を受け付ける。また、第1の実施形態に係る入力部131は、レンダリング処理に関する条件(以下、レンダリング条件)の入力を受け付ける。
【0036】
表示部132は、立体表示モニタとしての液晶パネル等であり、各種情報を表示する。具体的には、第1の実施形態に係る表示部132は、操作者から各種操作を受け付けるためのGUI(Graphical User Interface)や、視差画像群等を表示する。通信部133は、NIC(Network Interface Card)等であり、他の装置との間で通信を行う。より具体的には、表示部132は、視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する。
【0037】
記憶部134は、ハードディスク、半導体メモリ素子等であり、各種情報を記憶する。具体的には、第1の実施形態に係る記憶部134は、通信部133を介して画像保管装置120から取得したボリュームデータを記憶する。また、第1の実施形態に係る記憶部134は、レンダリング処理中のボリュームデータや、レンダリング処理により生成された視差画像群、及び、2次元表示用の画像等を記憶する。
【0038】
制御部135は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等の電子回路、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路であり、ワークステーション130の全体制御を行なう。
【0039】
例えば、第1の実施形態に係る制御部135は、表示部132に対するGUIの表示や視差画像群の表示を制御する。また、例えば、制御部135は、画像保管装置120との間で通信部133を介して行なわれるボリュームデータや視差画像群の送受信を制御する。また、例えば、制御部135は、レンダリング処理部136によるレンダリング処理を制御する。また、例えば、制御部135は、ボリュームデータの記憶部134からの読み込みや、視差画像群の記憶部134への格納を制御する。
【0040】
レンダリング処理部136は、制御部135による制御の下、画像保管装置120から取得したボリュームデータに対して種々のレンダリング処理を行ない、視差画像群を生成する。なお、レンダリング処理部136の処理については、後に詳述する。
【0041】
検出部137は、表示部132に対する視差画像の観察者の位置を検出する。具体的には、検出部137は、表示部132に対する観察者の立ち位置、観察者の顔の位置、観察者の視線位置などを検出する。検出部137としては、例えば、カメラを用いたモーショントラッキング装置や、光学式又は磁気式の位置センサーや、機械式のモーションキャプチャシステムなどである。なお、第1に実施形態では、検出部137として、カメラを用いたモーショントラッキング装置を利用する場合について説明するが、その説明については、後述する。
【0042】
レンダリング処理部136は、制御部135による制御の下、画像保管装置120から取得したボリュームデータに対して種々のレンダリング処理を行ない、視差画像群を生成する。具体的には、第1の実施形態に係るレンダリング処理部136は、記憶部134からボリュームデータを読み込み、このボリュームデータに対して、まず前処理を行なう。次に、レンダリング処理部136は、前処理後のボリュームデータに対してボリュームレンダリング処理を行ない、視差画像群を生成する。続いて、レンダリング処理部136は、各種情報(目盛り、患者名、検査項目等)が描出された2次元画像を生成し、これを視差画像群それぞれに対して重畳することで、出力用の2次元画像を生成する。そして、レンダリング処理部136は、生成した視差画像群や出力用の2次元画像を記憶部134に格納する。なお、第1の実施形態において、レンダリング処理とは、ボリュームデータに対して行なう画像処理全体のことであり、ボリュームレンダリング処理とは、レンダリング処理の内、3次元の情報を反映した2次元画像を生成する処理のことである。レンダリング処理により生成される医用画像とは、例えば、視差画像が該当する。
【0043】
図5は、図4に示すレンダリング処理部の構成例を説明するための図である。図5に示すように、レンダリング処理部136は、前処理部1361と、3次元画像処理部1362と、2次元画像処理部1363とを有する。前処理部1361が、ボリュームデータに対する前処理を行い、3次元画像処理部1362が、前処理後のボリュームデータから視差画像群を生成し、2次元画像処理部1363が、視差画像群に各種情報が重畳された出力用の2次元画像を生成する。以下、各部を順に説明する。
【0044】
前処理部1361は、ボリュームデータに対してレンダリング処理を行なう際に、種々の前処理を行なう処理部であり、画像補正処理部1361aと、3次元物体フュージョン部1361eと、3次元物体表示領域設定部1361fとを有する。
【0045】
画像補正処理部1361aは、2種類のボリュームデータを1つのボリュームデータとして処理する際に画像補正処理を行なう処理部であり、図5に示すように、歪み補正処理部1361b、体動補正処理部1361c及び画像間位置合わせ処理部1361dを有する。例えば、画像補正処理部1361aは、PET−CT装置により生成されたPET画像のボリュームデータとX線CT画像のボリュームデータとを1つのボリュームデータとして処理する際に画像補正処理を行なう。或いは、画像補正処理部1361aは、MRI装置により生成されたT1強調画像のボリュームデータとT2強調画像のボリュームデータとを1つのボリュームデータとして処理する際に画像補正処理を行なう。
【0046】
また、歪み補正処理部1361bは、個々のボリュームデータにおいて、医用画像診断装置110によるデータ収集時の収集条件に起因するデータの歪みを補正する。また、体動補正処理部1361cは、個々のボリュームデータを生成するために用いられたデータの収集時期における被検体の体動に起因する移動を補正する。また、画像間位置合わせ処理部1361dは、歪み補正処理部1361b及び体動補正処理部1361cによる補正処理が行なわれた2つのボリュームデータ間で、例えば、相互相関法等を用いた位置合わせ(Registration)を行なう。
【0047】
3次元物体フュージョン部1363eは、画像間位置合わせ処理部1361dにより位置合わせが行なわれた複数のボリュームデータをフュージョンさせる。なお、画像補正処理部1361a及び3次元物体フュージョン部1361eの処理は、単一のボリュームデータに対してレンダリング処理を行なう場合、省略される。
【0048】
3次元物体表示領域設定部1361fは、操作者により指定された表示対象臓器に対応する表示領域を設定する処理部であり、セグメンテーション処理部1361gを有する。セグメンテーション処理部1361gは、操作者により指定された心臓、肺、血管等の臓器を、例えば、ボリュームデータの画素値(ボクセル値)に基づく領域拡張法により抽出する処理部である。
【0049】
なお、セグメンテーション処理部1361gは、操作者により表示対象臓器が指定されなかった場合、セグメンテーション処理を行なわない。また、セグメンテーション処理部1361gは、操作者により表示対象臓器が複数指定された場合、該当する複数の臓器を抽出する。また、セグメンテーション処理部1361gの処理は、レンダリング画像を参照した操作者の微調整要求により再度実行される場合もある。
【0050】
3次元画像処理部1362は、前処理部1361が処理を行なった前処理後のボリュームデータに対してボリュームレンダリング処理を行なう。ボリュームレンダリング処理を行なう処理部として、3次元画像処理部1362は、投影方法設定部1362aと、3次元幾何変換処理部1362bと、3次元物体アピアランス処理部1362fと、3次元仮想空間レンダリング部1362kとを有する。
【0051】
投影方法設定部1362aは、視差画像群を生成するための投影方法を決定する。例えば、投影方法設定部1362aは、ボリュームレンダリング処理を平行投影法により実行するか、透視投影法により実行するかを決定する。
【0052】
3次元幾何変換処理部1362bは、ボリュームレンダリング処理が実行されるボリュームデータを3次元幾何学的に変換するための情報を決定する処理部であり、平行移動処理部1362c、回転処理部1362d及び拡大縮小処理部1362eを有する。平行移動処理部1362cは、ボリュームレンダリング処理を行なう際の視点位置が平行移動された場合に、ボリュームデータを平行移動させる移動量を決定する処理部であり、回転処理部1362dは、ボリュームレンダリング処理を行なう際の視点位置が回転移動された場合に、ボリュームデータを回転移動させる移動量を決定する処理部である。また、拡大縮小処理部1362eは、視差画像群の拡大や縮小が要求された場合に、ボリュームデータの拡大率や縮小率を決定する処理部である。
【0053】
3次元物体アピアランス処理部1362fは、3次元物体色彩処理部1362g、3次元物体不透明度処理部1362h、3次元物体材質処理部1362i及び3次元仮想空間光源処理部1362jを有する。3次元物体アピアランス処理部1362fは、これらの処理部により、例えば、操作者の要求に応じて、表示される視差画像群の表示状態を決定する処理を行なう。
【0054】
3次元物体色彩処理部1362gは、ボリュームデータにてセグメンテーションされた各領域に対して着色される色彩を決定する処理部である。3次元物体不透明度処理部1362hは、ボリュームデータにてセグメンテーションされた各領域を構成する各ボクセルの不透過度(Opacity)を決定する処理部である。なお、ボリュームデータにおいて不透過度が「100%」とされた領域の後方の領域は、視差画像群において描出されないこととなる。また、ボリュームデータにおいて不透過度が「0%」とされた領域は、視差画像群において描出されないこととなる。
【0055】
3次元物体材質処理部1362iは、ボリュームデータにてセグメンテーションされた各領域の材質を決定することで、この領域が描出される際の質感を調整する処理部である。3次元仮想空間光源処理部1362jは、ボリュームデータに対してボリュームレンダリング処理を行なう際に、3次元仮想空間に設置する仮想光源の位置や、仮想光源の種類を決定する処理部である。仮想光源の種類としては、無限遠から平行な光線を照射する光源や、視点から放射状の光線を照射する光源等が挙げられる。
【0056】
3次元仮想空間レンダリング部1362kは、ボリュームデータに対してボリュームレンダリング処理を行ない、視差画像群を生成する。また、3次元仮想空間レンダリング部1362kは、ボリュームレンダリング処理を行なう際、必要に応じて、投影方法設定部1362a、3次元幾何変換処理部1362b、3次元物体アピアランス処理部1362fにより決定された各種情報を用いる。
【0057】
ここで、3次元仮想空間レンダリング部1362kによるボリュームレンダリング処理は、レンダリング条件に従って行なわれることになる。例えば、レンダリング条件は、「平行投影法」又は「透視投影法」である。また、例えば、レンダリング条件は、「基準の視点位置及び視差角」である。また、例えば、レンダリング条件は、「視点位置の平行移動」、「視点位置の回転移動」、「視差画像群の拡大」、「視差画像群の縮小」である。また、例えば、レンダリング条件は、「着色される色彩」、「透過度」、「質感」、「仮想光源の位置」、「仮想光源の種類」である。このようなレンダリング条件は、入力部131を介して操作者から受け付ける場合や、初期設定される場合が考えられる。いずれの場合も、3次元仮想空間レンダリング部1362kは、制御部135からレンダリング条件を受け付け、このレンダリング条件に従って、ボリュームデータに対するボリュームレンダリング処理を行なう。また、このとき、上述した投影方法設定部1362a、3次元幾何変換処理部1362b、3次元物体アピアランス処理部1362fが、このレンダリング条件に従って必要な各種情報を決定するので、3次元仮想空間レンダリング部1362kは、決定されたこれらの各種情報を用いて視差画像群を生成する。
【0058】
図6は、第1の実施形態に係るボリュームレンダリング処理の一例を説明するための図である。例えば、3次元仮想空間レンダリング部1362kが、図6の「9視差画像生成方式(1)」に示すように、レンダリング条件として、平行投影法を受け付け、更に、基準の視点位置(5)と視差角「1度」とを受け付けたとする。かかる場合、3次元仮想空間レンダリング部1362kは、視差角が「1度」おきとなるように、視点の位置を(1)〜(9)に平行移動して、平行投影法により視差角(視線方向間の角度)が1度ずつ異なる9つの視差画像を生成する。なお、平行投影法を行なう場合、3次元仮想空間レンダリング部1362kは、視線方向に沿って無限遠から平行な光線を照射する光源を設定する。
【0059】
或いは、3次元仮想空間レンダリング部1362kが、図6の「9視差画像生成方式(2)」に示すように、レンダリング条件として、透視投影法を受け付け、更に、基準の視点位置(5)と視差角「1度」とを受け付けたとする。かかる場合、3次元仮想空間レンダリング部1362kは、ボリュームデータの中心(重心)を中心に視差角が「1度」おきとなるように、視点の位置を(1)〜(9)に回転移動して、透視投影法により視差角が1度ずつ異なる9つの視差画像を生成する。なお、透視投影法を行なう場合、3次元仮想空間レンダリング部1362kは、視線方向を中心に光を3次元的に放射状に照射する点光源や面光源を各視点にて設定する。また、透視投影法を行なう場合、レンダリング条件によっては、視点(1)〜(9)は、平行移動される場合であってもよい。
【0060】
なお、3次元仮想空間レンダリング部1362kは、表示されるボリュームレンダリング画像の縦方向に対しては、視線方向を中心に光を2次元的に放射状に照射し、表示されるボリュームレンダリング画像の横方向に対しては、視線方向に沿って無限遠から平行な光線を照射する光源を設定することで、平行投影法と透視投影法とを併用したボリュームレンダリング処理を行なってもよい。
【0061】
このようにして生成された9つの視差画像が、視差画像群である。第1の実施形態において、9つの視差画像は、例えば制御部135により所定フォーマット(例えば格子状)に配置した中間画像に変換され、立体表示モニタとしての表示部132に出力される。すると、ワークステーション130の操作者は、立体表示モニタに表示された立体視可能な医用画像を確認しながら、視差画像群生成のための操作を行なうことができる。
【0062】
なお、図6の例では、レンダリング条件として、投影方法、基準の視点位置及び視差角を受け付けた場合を説明したが、レンダリング条件として、他の条件を受け付けた場合も同様に、3次元仮想空間レンダリング部1362kは、それぞれのレンダリング条件を反映しつつ、視差画像群を生成する。
【0063】
また、3次元仮想空間レンダリング部1362kは、ボリュームレンダリングだけでなく、任意の平面(例えば、アキシャル面、サジタル面、コロナル面など)の平面画像を再構成する。例えば、3次元仮想空間レンダリング部1362kは、断面再構成法(MPR:Multi Planer Reconstruction)を行なってボリュームデータからMPR画像を再構成する。なお、3次元仮想空間レンダリング部1362kは、「Curved MPR」を行なう機能や、「Intensity Projection」を行なう機能も有する。
【0064】
続いて、3次元画像処理部1362がボリュームデータから生成した視差画像群は、アンダーレイ(Underlay)とされる。そして、各種情報(目盛り、患者名、検査項目等)が描出されたオーバーレイ(Overlay)がアンダーレイに対して重畳されることで、出力用の2次元画像とされる。2次元画像処理部1363は、オーバーレイ及びアンダーレイに対して画像処理を行なうことで、出力用の2次元画像を生成する処理部であり、図5に示すように、2次元物体描画部1363a、2次元幾何変換処理部1363b及び輝度調整部1363cを有する。例えば、2次元画像処理部1363は、出力用の2次元画像の生成処理に要する負荷を軽減するために、9枚の視差画像(アンダーレイ)のそれぞれに対して1枚のオーバーレイを重畳することで、出力用の2次元画像を9枚、生成する。
【0065】
2次元物体描画部1363aは、オーバーレイに描出される各種情報を描画する処理部であり、2次元幾何変換処理部1363bは、オーバーレイに描出される各種情報の位置を平行移動処理又は回転移動処理したり、オーバーレイに描出される各種情報の拡大処理又は縮小処理したりする処理部である。
【0066】
また、輝度調整部1363cは、輝度変換処理を行なう処理部であり、例えば、出力先の立体表示モニタの諧調や、ウィンドウ幅(WW:Window Width)、ウィンドウレベル(WL:Window Level)等の画像処理用のパラメータに応じて、オーバーレイ及びアンダーレイの輝度を調整する処理部である。
【0067】
このようにして生成された出力用の2次元画像は、例えば制御部135により一旦記憶部134に格納され、その後、通信部133を介して画像保管装置120に送信される。例えば、端末装置140が、画像保管装置120からこの出力用の2次元画像を取得し、所定フォーマット(例えば格子状)に配置した中間画像に変換した上で立体表示モニタに表示すると、観察者である医師や検査技師は、各種情報(目盛り、患者名、検査項目等)が描出された状態で、立体視可能な医用画像を閲覧することができる。
【0068】
以上、第1の実施形態に係る画像処理システム1及びワークステーション130の構成について説明した。かかる構成のもと、第1の実施形態に係るワークステーション130は、以下、詳細に説明する制御部135の処理により、操作者によって観察された画像を容易に出力することが可能となるように構成されている。具体的には、第1の実施形態に係るワークステーション130は、表示部132に表示された視差画像の情報と、観察者の位置情報とに基づいて、表示されている視差画像に対する観察者の相対位置を算出し、算出した相対位置に応じた画像を表示する。
【0069】
図7は、第1の実施形態に係る制御部135の構成例を説明するための図である。図7に示すように、制御部135は、視点情報検出部1351と、位置情報算出部1352と、画像出力部1353とを有し、モーショントラッキング装置1371と接続されている。モーショントラッキング装置1371は、表示部132に対する観察者の位置を検出する。具体的には、モーショントラッキング装置1371は、観察者を撮影するためのカメラと、カメラの向きを変更させるための駆動装置(例えば、モーターなど)を有し、視点情報検出部1351による制御の元、観察者を撮影する。なお、モーショントラッキング装置1371は、図4に示す検出部137の一例である。
【0070】
視点情報検出部1351は、観察者による表示部132の観察方向を検出する。換言すると、視点情報検出部1351は、表示部132に対する表示対象物の観察者の位置を検出する。具体的には、視点情報検出部1351は、モーショントラッキング装置1371を制御して観察者を撮影させ、表示部132に対する観察者の位置を検出する。図8は、第1の実施形態に係る視点情報検出部1351による観察者の位置の情報を取得する処理の一例を説明するための図である。
【0071】
ここで、多視差(例えば、9視差)で描出した三次元の医用画像を用いた読影について、図8の(A)を用いて説明する。多視差で描出した視差画像を表示することで3次元として認識される医用画像の場合には、観察者の視点移動に合わせて観察される映像も変化する運動視差による立体視が可能である。例えば、図8の(A)に示すように、観察者が表示部132に表示された「肺」の画像を異なる視点から観察すると、その位置に応じて異なった部分を観察することが可能である。
【0072】
そこで、例えば、図8の(B)に示すように、表示部132によって視差画像が表示され、観察者が表示部132の左側に位置し、保存や印刷操作を実行すると、視点情報検出部1351は、モーショントラッキング装置1371を制御して、観察者の位置を検出する。一例を説明すると、視点情報検出部1351は、観察者から保存又は印刷の操作を受付けると、モーショントラッキング装置1371のモーターを駆動させることで撮影範囲を変えながら、表示部132の前面をカメラにより撮影させる。そして、視点情報検出部1351は、カメラによって撮影された画像に対して、顔認識のパターンマッチングを行い、観察者の顔が描出された画像を特定する。
【0073】
さらに、視点情報検出部1351は、観察者の顔が描出された画像を特定すると、当該画像が撮影された際のカメラの向きに基づいて、表示部132に対する観察者の位置を検出する。図9は、第1の実施形態に係る視点情報検出部1351による検出処理の一例を説明するための図である。ここで、図9においては、観察者及び表示部132の上面図を示す。
【0074】
例えば、視点情報検出部1351は、図9に示すように、表示部132のモニタの面と、観察者の顔が描出された画像が撮影された際のモーショントラッキング装置1371のカメラの向きとからなる角度「45°」を、表示部132に対する観察者の位置として検出する。そして、視点情報検出部1351は、検出した観察者の位置「角度:45°」を視点情報として位置情報算出部1352に出力する。
【0075】
図7に戻って、位置情報算出部1352は、表示部132における表示対象物の表示設定に関する情報に基づいて、視点情報検出部1351によって検出された観察者の位置と表示対象物との相対位置を算出する。言い換えると、位置情報算出部1352は、観察者の位置から観察される表示対象物の位置を算出する。具体的には、位置情報算出部1352は、まず、観察者によって観察された視差画像の表示設定から表示対象物がどのように表示されたかを示す情報を取得する。図10は、第1の実施形態に係る位置情報算出部1352による処理の一例を説明するための図である。
【0076】
例えば、位置情報算出部1352は、図10の(A)に示すように、表示部132に表示された「肺」の画像の表示設定の情報(以下、表示パラメータと記す)を取得する。一例を挙げると、位置情報算出部1352は、図10の(B)に示すように、「肺」のボリュームデータにおける直交三断面301、直交三断面302及び直交三断面303の情報を取得する。そして、位置情報算出部1352は、表示部132に表示された「肺」の画像の直交三断面301、直交三断面302及び直交三断面303が表示部132に対してどのような位置で表示されているかを算出する。
【0077】
例えば、位置情報算出部1352は、図10の(C)に示すように、表示部132の表示面に対して横方向に平行な直線401と直交三断面301とからなる角度501を算出する。また、位置情報算出部1352は、表示部132の表示面に対して垂直な直線402と直交三断面302とからなる角度502を算出する。また、位置情報算出部1352は、表示部132の表示面に対して縦方向に平行な直線403と直交三断面503とからなる角度503を算出する。さらに、位置情報算出部1352は、「肺」を描出する視差画像の視差角や、体軸方向などの情報を表示パラメータとして取得する。
【0078】
そして、位置情報算出部1352は、取得した表示パラメータと、視点情報検出部1351によって検出された視点情報とから、表示部120に表示された「肺」と観察者との相対位置を算出する。すなわち、位置情報算出部1352は、表示パラメータと視点情報とから、観察者が入力部110を介して入力操作を実行した際の位置から観察されうる表示対象物の位置を算出する。例えば、位置情報算出部1352は、図6に示す視点(1)から観察した場合の視差画像を特定するための情報を算出する。図11は、第1の実施形態に係る位置情報算出部1352による相対位置の算出処理の一例を説明するための図である。
【0079】
例えば、位置情報算出部1352は、図11に示すように、ボリューム中心(あるいは、重心)を原点とした3軸(x軸、y軸、z軸)からなる直交座標を設定する。そして、位置情報算出部1352は、表示パラメータと視点情報とを用いて、観察者が観察した視差画像をボリュームレンダリング処理にて生成する際の視点位置の座標を相対位置として算出する。
【0080】
ここで、位置情報算出部1352は、取得した表示パラメータの情報と、視点情報検出部1351によって検出された視点情報と、算出した相対位置とを患者情報に対応付けた相対位置情報を記憶部134に格納する。図12は、第1の実施形態に係る位置情報算出部1352によって格納される相対位置情報の一例を示す図である。例えば、位置情報算出部1352は、図11に示すように、「患者ID:1」に対して、「診断部位:肺」と、表示パラメータ「視差角:5、直交三断面301:3、直交三断面302:1、直交三断面303:1、体軸方向:上方」と、「視点情報:45」と、「相対位置:(a、b、c)」とを対応付けた相対位置情報を記憶部134に格納する。
【0081】
すなわち、上記した相対位置情報は、「患者ID:1」の患者に対して「肺」の画像診断が実行された際の画像は、「視差角」が「5°」で生成された視差画像であり、「直交三断面301」、「直交三断面302」、「直交三断面303」が、表示部132に対して、ぞれぞれ「3°」、「1°」、「1°」の角度であり、「体軸方向」が上方になるように表示された「肺」を、観察者が「視点情報:45°」の位置で観察した画像であることを示す。そして、上記した相対位置情報は、観察者によって観察された視差画像は、「相対位置:(a,b,c)」からボリュームレンダリング処理が実行された画像であることを示す。
【0082】
図7に戻って、画像出力部1353は、観察方向に基づいて、視差画像群の中から画像を選択して出力する。具体的には、画像出力部1353は、位置情報算出部1352によって格納された相対位置に関する情報に基づいて、観察者の位置に正対する向きの表示対象物を出力するように制御する。例えば、画像出力部1353は、記憶部134によって記憶された相対位置情報に含まれる「相対位置」の座標が表示部132の表示面の中心になるように出力させる。図13は、第1の実施形態に係る画像出力部1353による処理の一例を説明するための図である。
【0083】
例えば、画像出力部1353は、図13に示すように、印刷操作を受付けた際のFilming画像として、「座標:(a,b,c)」でボリュームレンダリング処理が実行された視差画像が表示部132の中心になるように配置された画像を出力する。その結果、画像出力部1353は、図13に示すように、観察者によって観察された腫瘍が描出された画像を出力させることとなる。
【0084】
そして、画像出力部1353は、後に、他の観察者によって「患者ID:1」の「診断部位:肺」の画像の表示要求を受付けた場合には、記憶部134によって記憶された相対位置情報を参照して画像を表示させる。従って、第1の実施形態に係るワークステーションは、観察者によって観察された画像を容易に出力することを可能にする。
【0085】
ここで、画像出力部1353は、単一の2次元の画像を出力する。また、画像出力部1353は、任意の数の視差画像を出力することで立体視可能な画像を出力する。具体的には、画像出力部1353は、位置情報算出部1352によって格納された相対位置に関する情報に基づいて、観察者の位置に正対する向きの表示対象物を、立体視可能な視差画像、単一視点からの2次元画像(例えば、ボリュームレンダリング画像や、MPR画像など)として出力するように制御する。例えば、画像出力部1353は、観察者の位置に正対する向きの表示対象物を、複数の視点からのレンダリング処理により視差画像として生成させ、生成させた視差画像を表示部132に表示させる。また、画像出力部1353は、観察者の位置に正対する向きの表示対象物を、単一方向からのボリュームレンダリング画像、或いは、MPR画像として生成させ、生成させた画像を表示部132に表示させる。
【0086】
上述した実施形態では、観察者によって観察された画像を表示したり、印刷したりする場合について説明した。しかしながら、開示の技術はこれに限定されるものではなく、例えば、観察者が保存操作を実行した場合に、観察者によって観察された画像を保存する場合であってもよい。
【0087】
次に、図14を用いて、第1の実施形態に係るワークステーション130の処理について説明する。図14は、第1の実施形態に係るワークステーション130による処理の手順を示すフローチャートである。図14に示すように、第1の実施形態に係るワークステーション130においては、入力部110が入力操作を受付けると(ステップS101肯定)、モーショントラッキング装置1371が観察者を検出し、視点情報検出部1351が、表示部120に対する観察者の位置を示す情報である視点情報を取得する(ステップS102)。
【0088】
そして、位置情報算出部1352が、表示部132に表示された視差画像の表示パラメータを取得し、取得した表示パラメータと視点情報とから、視差画像と観察者との相対的な位置を示す相対位置を算出して記憶部134に保存する(ステップS103)。その後、画像出力部1353が、記憶部134によって記憶された相対位置に関する情報を参照して、入力操作に応じた出力処理を実行する(ステップS104)。
【0089】
そして、入力部110が新たな出力要求を受付けると(ステップS105肯定)、画像出力部1353が、記憶部134によって記憶された相対位置に基づいた画像を出力させる(ステップS106)。なお、第1の実施形態に係るワークステーション130は、入力を介して操作が実行されるまで待機状態である(ステップS101否定、ステップS105否定)。
【0090】
上述したように、第1の実施形態によれば、表示部132は、視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する。視点情報検出部1351は、観察者による表示部132の観察方向を検出する。画像出力部1353は、観察方向に基づいて、視差画像群の中から画像を選択して出力する。従って、第1の実施形態に係るワークステーション130は、観察者によって観察された画像を容易に出力することを可能にする。
【0091】
また、第1の実施形態によれば、画像出力部1353は、単一の2次元の画像を出力する。従って、第1の実施形態に係るワークステーション130は、例えば、画像を出力するモニタの種類などに応じて2次元画像と立体視可能な3次元画像とを選択的に表示させることを可能にする。
【0092】
また、第1の実施形態によれば、画像出力部1353は、任意の数の視差画像を出力することで立体視可能な画像を出力する。従って、第1の実施形態に係るワークステーション130は、モニタごとに異なる表示可能な視差画像の数に柔軟に対応することを可能にする。
【0093】
また、第1の実施形態によれば、位置情報算出部1352は、表示部132における表示対象物の表示設定に関する情報に基づいて、視点情報検出部1351によって検出された観察者の位置と表示対象物との相対位置を算出し、算出した相対位置に関する情報を記憶部134に格納する。画像出力部1353は、位置情報算出部1352によって格納された相対位置に関する情報に基づいて、観察者の位置に正対する向きの表示対象物を、立体視可能な視差画像群、単一視点からの2次元画像として出力する。従って、第1の実施形態に係るワークステーション130は、モニタの種類に関係なく、種々の情報処理装置に対して、観察者によって観察された画像を正確に表示することを可能にする。
【0094】
また、第1の実施形態によれば、位置情報算出部1352は、相対位置に関する情報として、観察者の位置から観察される前記表示対象物の視点位置の座標を記憶部134に格納する。従って、第1の実施形態に係るワークステーション130は、記憶させる情報量を少なくすることを可能にする。
【0095】
(第2の実施形態)
上述した第1の実施形態では相対位置の情報として視点位置の座標を保存する場合について説明した。第2の実施形態では、相対位置の情報として観察者から観察された画像そのものを保存する場合について説明する。
【0096】
図15は、第2の実施形態に係る制御部135aの構成例を説明するための図である。図15に示すように、第2の実施形態に係る制御部135aは、第1に実施形態に係る制御部135と比較して、位置情報算出部1352aの処理内容が異なる。以下、これを中心に説明する。
【0097】
位置情報算出部1352aは、相対位置に関する情報として、観察者の位置から観察される表示対象物の領域の画像を記憶部134に格納する。具体的には、位置情報算出部1352aは、視点情報検出部1351によって検出された視点情報に対応する視差画像のデータを記憶部134に格納する。図16は、第2の実施形態に係る位置情報算出部1352aによる処理の一例を説明するための図である。図16においては、視点ごとの視差画像について示す。例えば、位置情報算出部1352aは、図16に示す視点ごとのボリュームレンダリング画像のデータから観察者の位置に対応する画像を抽出して、記憶部134に格納する。一例を挙げると、位置情報算出部1352aは、観察者が図16の(3)の方向に位置していた場合に、(3)に対応するボリュームレンダリング画像を患者IDなどに対応付けて記憶部134に格納する。
【0098】
画像出力部1353は、他の観察者から出力操作を受付けると、記憶部134に格納されている画像を読み出し、読み出した画像を出力させる。
【0099】
次に、図17を用いて、第2の実施形態に係るワークステーション130の処理について説明する。図17は、第2の実施形態に係るワークステーション130による処理の手順を示すフローチャートである。図17に示すように、第2の実施形態に係るワークステーション130においては、入力部110が入力操作を受付けると(ステップS201肯定)、モーショントラッキング装置1371が観察者を検出し、視点情報検出部1351が、表示部120に対する観察者の位置を示す情報である視点情報を取得する(ステップS202)。
【0100】
そして、位置情報算出部1352aが、表示部132に表示された視差画像の表示パラメータを取得し、取得した表示パラメータと視点情報とから、視点情報に対応する画像を抽出して記憶部134に保存する(ステップS203)。その後、画像出力部1353が、記憶部134によって記憶された画像を読み出し、入力操作に応じた出力処理を実行する(ステップS204)。
【0101】
そして、入力部110が新たな出力操作を受付けると(ステップS205肯定)、画像出力部1353が、出力操作を受付けた画像を記憶部134から読み出し、読み出した画像を出力させる(ステップS206)。なお、第2の実施形態に係るワークステーション130は、入力を介して操作が実行されるまで待機状態である(ステップS201否定、ステップS205否定)。
【0102】
上述したように、第2の実施形態によれば、位置情報算出部1352aは、相対位置に関する情報として、観察者の位置から観察される表示対象物の領域の画像を記憶部134に格納する。従って、第2の実施形態に係るワークステーション130は、画像を出力する際に、再度、画像を生成することなく表示することができ、処理負荷を低減することを可能にする。
【0103】
(第3の実施形態)
さて、これまで第1及び第2の実施形態について説明したが、上述した第1及び第2の実施形態以外にも、種々の異なる形態にて実施されてよいものである。
【0104】
上述した実施形態においては、ワークステーション130が、観察者の視点位置に応じた画像を表示する場合について説明した。しかしながら、開示の技術がこれに限定されるものではなく、例えば、医用画像診断装置110が観察者の視点位置に応じた画像を表示する場合であってもよい。また、医用画像診断装置110又はワークステーション130が観察者の視点位置に応じた画像や画像の座標を記憶部に格納し、端末装置140が、記憶部に記憶された情報に基づいて画像を表示する場合であってもよい。
【0105】
また、上述した実施形態においては、ワークステーション130は、画像保管装置120からボリュームデータを取得し、このボリュームデータから観察者の視点位置に応じた画像を生成して表示する場合について説明した。しかしながら、開示の技術はこれに限定されるものではなく、例えば、ワークステーション130は、医用画像診断装置110からボリュームデータを取得し、このボリュームデータから観察者の視点位置に応じた画像を生成して表示する場合であってもよい。
【0106】
上述した実施形態においては、観察者の位置を顔認識により検出する場合について説明した。しかしながら、開示の技術はこれに限定されるものではなく、例えば、観察者の視線情報から観察者の位置を検出する場合であってもよい。
【0107】
上述した実施形態においては、観察者の位置を表示部132の表示面を基準に算出する場合について説明した。しかしながら、開示の技術はこれに限定されるものではなく、例えば、カメラの撮影領域内に常時位置する不動の物体を用いる場合であってもよい。かかる場合には、表示部132によって表示された表示対象物の位置情報についても、該不動の物体を用いて算出する。
【0108】
以上説明したとおり、実施形態によれば、本実施形態の画像処理システム、画像処理装置及び方法は、観察者によって観察された画像を容易に出力することを可能にする。
【0109】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【0110】
110 医用画像診断装置
120 画像保管装置
130 ワークステーション
132 表示部
134 記憶部
135 制御部
137 検出部
1351 視点情報検出部
1352 位置情報算出部
1353 画像出力部
1371 モーショントラッキング装置
140 端末装置
【特許請求の範囲】
【請求項1】
視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する表示手段と、
観察者による前記表示手段の観察方向を検出する検出手段と、
前記観察方向に基づいて、視差画像群の中から画像を選択して出力する画像出力手段と、
を備えたことを特徴とする画像処理システム。
【請求項2】
前記画像出力手段は、単一の2次元の画像を出力することを特徴とする請求項1に記載の画像処理システム。
【請求項3】
前記画像出力手段は、任意の数の視差画像を出力することで立体視可能な画像を出力することを特徴とする請求項1又は2に記載の画像処理システム。
【請求項4】
前記表示手段における前記表示対象物の表示設定に関する情報に基づいて、前記検出手段によって検出された観察者の位置と前記表示対象物との相対位置を算出し、算出した相対位置に関する情報を記憶部に格納する算出手段をさらに備え、
前記画像出力手段は、前記算出手段によって格納された相対位置に関する情報に基づいて、前記観察者の位置に正対する向きの表示対象物を、立体視可能な視差画像群又は単一視点からの2次元画像として出力することを特徴とする請求項1〜3のいずれか一つに記載の画像処理システム。
【請求項5】
前記算出手段は、前記相対位置に関する情報として、前記観察者の位置から観察される前記表示対象物の視点位置の座標を前記記憶部に格納することを特徴とする請求項4に記載の画像処理システム。
【請求項6】
前記算出手段は、前記相対位置に関する情報として、前記観察者の位置から観察される前記表示対象物の領域の画像を前記記憶部に格納することを特徴とする請求項4又は5に記載の画像処理システム。
【請求項7】
視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する表示手段と、
観察者による前記表示手段の観察方向を検出する検出手段と、
前記観察方向に基づいて、視差画像群の中から画像を選択して出力する画像出力手段と、
を備えたことを特徴とする画像処理装置。
【請求項8】
視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する表示工程と、
観察者による前記表示工程の観察方向を検出する検出工程と、
前記観察方向に基づいて、視差画像群の中から画像を選択して出力する画像出力工程と、
を含んだことを特徴とする画像処理方法。
【請求項1】
視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する表示手段と、
観察者による前記表示手段の観察方向を検出する検出手段と、
前記観察方向に基づいて、視差画像群の中から画像を選択して出力する画像出力手段と、
を備えたことを特徴とする画像処理システム。
【請求項2】
前記画像出力手段は、単一の2次元の画像を出力することを特徴とする請求項1に記載の画像処理システム。
【請求項3】
前記画像出力手段は、任意の数の視差画像を出力することで立体視可能な画像を出力することを特徴とする請求項1又は2に記載の画像処理システム。
【請求項4】
前記表示手段における前記表示対象物の表示設定に関する情報に基づいて、前記検出手段によって検出された観察者の位置と前記表示対象物との相対位置を算出し、算出した相対位置に関する情報を記憶部に格納する算出手段をさらに備え、
前記画像出力手段は、前記算出手段によって格納された相対位置に関する情報に基づいて、前記観察者の位置に正対する向きの表示対象物を、立体視可能な視差画像群又は単一視点からの2次元画像として出力することを特徴とする請求項1〜3のいずれか一つに記載の画像処理システム。
【請求項5】
前記算出手段は、前記相対位置に関する情報として、前記観察者の位置から観察される前記表示対象物の視点位置の座標を前記記憶部に格納することを特徴とする請求項4に記載の画像処理システム。
【請求項6】
前記算出手段は、前記相対位置に関する情報として、前記観察者の位置から観察される前記表示対象物の領域の画像を前記記憶部に格納することを特徴とする請求項4又は5に記載の画像処理システム。
【請求項7】
視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する表示手段と、
観察者による前記表示手段の観察方向を検出する検出手段と、
前記観察方向に基づいて、視差画像群の中から画像を選択して出力する画像出力手段と、
を備えたことを特徴とする画像処理装置。
【請求項8】
視差画像群を表示することで立体視可能に表示対象物の画像を表示するものであり、かつ、観察方向によって異なる視差画像が見えるように表示する表示工程と、
観察者による前記表示工程の観察方向を検出する検出工程と、
前記観察方向に基づいて、視差画像群の中から画像を選択して出力する画像出力工程と、
を含んだことを特徴とする画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【公開番号】特開2012−244420(P2012−244420A)
【公開日】平成24年12月10日(2012.12.10)
【国際特許分類】
【出願番号】特願2011−112637(P2011−112637)
【出願日】平成23年5月19日(2011.5.19)
【出願人】(000003078)株式会社東芝 (54,554)
【出願人】(594164542)東芝メディカルシステムズ株式会社 (4,066)
【Fターム(参考)】
【公開日】平成24年12月10日(2012.12.10)
【国際特許分類】
【出願日】平成23年5月19日(2011.5.19)
【出願人】(000003078)株式会社東芝 (54,554)
【出願人】(594164542)東芝メディカルシステムズ株式会社 (4,066)
【Fターム(参考)】
[ Back to top ]