説明

医用画像処理装置

【課題】記録された音声を手術所見の作成に際して容易に確認できるようにする。
【解決手段】医用画像撮影装置により撮影された医用画像を医療行為の実施者によりモニタさせるためにモニタ装置にて表示されるモニタ画像と実施者が発する音声とが互いに関連付けて記憶された記憶媒体にアクセス可能であるとともに、表示デバイスに任意の画像を表示させることが可能であり、さらに音声再生デバイスに任意の音声を再生させることが可能な医用画像処理装置に、表示制御手段および音声再生制御手段を備える。表示制御手段は、記憶媒体に記憶されたモニタ画像を表示デバイスに表示させる。音声再生制御手段は、音声再生が要求されたことに応じて、表示デバイスに表示させているモニタ画像に関連付けて記憶媒体に記憶された音声を音声再生デバイスに再生させる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、医用画像を保管し、観察可能とするシステムに使用される医用画像処理装置に関する。
【背景技術】
【0002】
IVR(interventional radiology)をはじめとする手技に関連して、医用画像撮影装置、医用画像保管装置、医用画像観察装置、手術所見記録装置からなるシステムがある。このシステムでは、手技中に医用画像撮影装置で撮影された画像を医用画像保管装置にて保管する。そして手術の終了後に、医用画像保管装置により保管されている医用画像を医用画像観察装置で観察しながら、手術所見記録装置で手術所見が作成される。
【0003】
手術所見の作成は、作成者(手技実施者)がキーボードなどの入力デバイスを用いて、記憶に頼りながら行われる。このため、手技のエッセンスとなる情報の記録が欠落することがあり得る。また手術所見は文章として作成されるが、このような文章に適切に、かつ分かり易く医用画像を関連付けることは困難であり、医用画像が手術所見に十分に活用されないことがある。手技後に、医用画像との関連付けをしながら所見を作成する仕組みが備わっている場合もあるが、その場合でも関連付けは手技後に行わなければならないことから、作成者の記憶に頼って行われることになり、画像と所見とが適切に関連付けられていないことがあるとともに、その関連付けのために多くの時間を費やす必要があった。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2006−122375号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
以上のように従来は、手術での手技に関連して得られた医用画像と手術所見との関連付けは、手術の終了後に記録者の記憶に基づいて行われなければならないために、医用画像を適切に関連付けた手術所見に記録することが困難であった。
【0006】
本発明はこのような事情を考慮してなされたものであり、その目的とするところは、記録された音声を手術所見の作成に際して容易に確認できるようにすることにある。
【課題を解決するための手段】
【0007】
本発明の一態様による医用画像処理装置は、医用画像撮影装置により撮影された医用画像を医療行為の実施者によりモニタさせるためにモニタ装置にて表示されるモニタ画像と前記実施者が発する音声とが互いに関連付けて記憶された記憶媒体にアクセス可能であるとともに、表示デバイスに任意の画像を表示させることが可能であり、さらに音声再生デバイスに任意の音声を再生させることが可能な医用画像処理装置において、前記記憶媒体に記憶された前記モニタ画像を前記表示デバイスに表示させる表示制御手段と、音声再生が要求されたことに応じて、前記表示デバイスに表示させている前記モニタ画像に関連付けて前記記憶媒体に記憶された前記音声を前記音声再生デバイスに再生させる音声再生制御手段とを備えた。
【発明の効果】
【0008】
本発明によれば、記録された音声を手術所見の作成に際して容易に確認できるようになる。
【図面の簡単な説明】
【0009】
【図1】本発明の一実施形態に係る医療情報システムの概略構成を示す図。
【図2】図1に示された各部がそれぞれ備える機能とそれらの機能の連携とを表した機能ブロック図。
【図3】IVR等の手技中にユーザによりモニタされるモニタ画像とユーザが発する音声とを関連付けて保管するための図2中のモニタ画像・音声管理部の処理を示すフローチャート。
【図4】IVR等の手技中にユーザによりモニタされるモニタ画像とユーザが発する音声とを関連付けて保管するための図2中のモニタ画像・音声管理部の処理を示すフローチャート。
【図5】IVR等の手技中にユーザによりモニタされるモニタ画像とユーザが発する音声とを関連付けて保管するための図2中のモニタ画像・音声管理部の処理を示すフローチャート。
【図6】IVR等の手技中にユーザによりモニタされるモニタ画像とユーザが発する音声とを関連付けて保管するための図2中のモニタ画像・音声管理部の処理を示すフローチャート。
【図7】IVR等の手技後におけるモニタ画像および音声とDICOM画像とを関連付けるための画像・音声統合管理部における処理を示すフローチャート。
【図8】手技結果をユーザに観察させるための図1中の医用画像保管装置での処理を示すフローチャート。
【図9】手技結果をユーザに観察させるための図1中の医用画像保管装置での処理を示すフローチャート。
【図10】手技結果をユーザに観察させるための図1中の医用画像保管装置での処理を示すフローチャート。
【図11】手技結果をユーザに観察させるための図1中の医用画像保管装置での処理を示すフローチャート。
【図12】検索画面の一例を示す図。
【図13】ビューア画面の一例を示す図。
【図14】編集画面の一例を示す図。
【図15】図14の状態からチェックボックスがクリックされた後の設定画面を示す図。
【図16】音声情報画面の一例を示す図。
【図17】録音操作画面の一例を示す図。
【発明を実施するための形態】
【0010】
以下、図面を参照して本発明の一実施形態について説明する。
【0011】
図1は本実施形態に係る医療情報システムの概略構成を示す図である。
【0012】
この医療情報システムは、医用画像撮影装置1、医用画像保管装置2、医用画像観察装置3、通信ユニット4、モニタ5、マイク6、キーパッド7およびマイク8を含む。
【0013】
医用画像撮影装置1、医用画像保管装置2、医用画像観察装置3および通信ユニット4は、LAN(local area network)などのネットワーク9に接続されている。
【0014】
医用画像撮影装置1は、被検体を撮影して医用画像を得る。医用画像撮影装置1としては、X線診断装置、X線CT(computed tomography)装置、MRI(magnetic resonance imaging)装置、あるいは超音波診断装置などの様々なタイプの装置が利用できる。医用画像撮影装置1は、撮影した医用画像を、ディジタル画像としてDICOM(digital imaging and communications in medicine)フォーマットで医用画像保管装置2へ送信する。
【0015】
医用画像保管装置2は、医用画像撮影装置1で撮影されたDICOMデータを保管する。また医用画像保管装置2は、通信ユニット4から後述するように送信されるモニタ画像ファイルや音声ファイルを保管する。
【0016】
医用画像観察装置3は、医用画像保管装置2により保管されているDICOMデータ、モニタ画像ファイルおよび音声ファイルをユーザU1に観察させる。
【0017】
通信ユニット4には、モニタ5、マイク6およびキーパッド7が接続されている。モニタ5は、医用画像撮影装置1により撮影された医用画像をユーザU2にモニタさせるために表示する。従って、モニタ5により表示されている画像をモニタ画像と称することとする。モニタ5は、モニタ画像を通信ユニット4に出力する。モニタ5が表示するモニタ画像をビデオカメラにより撮影して、当該撮影されたモニタ画像を通信ユニット4に出力しても良い。
【0018】
マイク6は、ユーザU2が発した音声を取り込んで、通信ユニット4に出力する。キーパッド7は、ユーザU2が患者IDなどの各種の情報を入力したり、録画や録音を指示したりするために使用される。キーパッド7は、入力された情報や指示を通信ユニット4に出力する。そして通信ユニット4は、モニタ5より出力されたモニタ画像、マイク6より出力された音声、ならびにキーパッド7から出力された情報または指示を、予め定められた形式のデータとして医用画像保管装置2へ送信する。
【0019】
マイク8は、医用画像観察装置3に接続されている。マイク8は、ユーザU1が発する音声を取り込んで、医用画像観察装置3に出力する。
【0020】
なお、ユーザU2は、医用画像撮影装置1により撮影された医用画像を見ながらIVRなどの手技を実施する実施者である。ユーザU1は、手技の終了後に、手技の際に取得された各種の情報を観察し、手術所見を作成する観察者である。なお、ユーザU1およびユーザU2は、同一人物である場合もある。
【0021】
図2は図1に示された各部がそれぞれ備える機能とそれらの機能の連携とを表した機能ブロック図である。
【0022】
医用画像撮影装置1は、撮影指示部101、撮影部102、画像表示指示部103、画像データ編集部104および画像データ送信部105を含む。医用画像保管装置2は、モニタ画像取得部201、音声取得部202、モニタ画像・音声管理部203、モニタ画像解析部204、モニタ画像・音声登録部205、モニタ画像・音声保管部206、データベース207、画像データ受信部208、画像・音声統合管理部209、DICOMデータ編集部210、DICOMデータ登録部211、DICOMデータ保管部212、統合データ検索部213、統合データ分析部214、統合データ編集部215、統合データ編集管理部216および統合データ表示指示部217を含む。医用画像観察装置3は、統合データ検索指示部301、統合データ表示再生部302、音声取得部303および統合データ編集指示部304を含む。モニタ5は、モニタ画像表示部501として機能する。マイク6は、音声入力部601として機能する。キーパッド7は、情報・要求入力部701として機能する。マイク8は、音声入力部801として機能する。
【0023】
なお、医用画像保管装置2および医用画像観察装置3は、例えば汎用のサーバ装置やコンピュータ装置を基本ハードウェアとして用いることができる。そしてモニタ画像取得部201、音声取得部202、モニタ画像・音声管理部203、モニタ画像解析部204、モニタ画像・音声登録部205、画像データ受信部208、画像・音声統合管理部209、DICOMデータ編集部210、DICOMデータ登録部211、統合データ検索部213、統合データ分析部214、統合データ編集部215、統合データ編集管理部216、統合データ表示指示部217、統合データ検索指示部301、統合データ表示再生部302、音声取得部303および統合データ編集指示部304は、上記のサーバ装置やコンピュータ装置に搭載されたプロセッサにプログラムを実行させることにより実現することができる。なお、一部の機能はさらに、上記のプロセッサと通信インタフェースデバイスなどのデバイスとの協働によって実現される。このときに医用画像保管装置2および医用画像観察装置3は、上記のプログラムが上記のサーバ装置やコンピュータ装置に予めインストールされて実現されても良いし、磁気ディスク、光磁気ディスク、光ディスク、半導体メモリなどのようなリムーバブルな記録媒体に記録して、あるいはネットワークを介して上記のプログラムを配布し、このプログラムをサーバ装置やコンピュータ装置に適宜インストールして実現されても良い。なお、上記の各部は、その一部または全てをロジック回路などのハードウェアにより実現することも可能である。また上記の各部のそれぞれは、ハードウェアとソフトウェア制御とを組み合わせて実現することも可能である。モニタ画像・音声保管部206、データベース207およびDICOMデータ保管部212は、上記のサーバ装置やコンピュータ装置に内蔵されたメモリやハードディスク装置などの記憶デバイス、上記のサーバ装置やコンピュータ装置に外付けされたメモリやハードディスク装置などの記憶デバイス、さらには磁気ディスク、光磁気ディスク、光ディスクなどのようなリムーバブルな記録媒体などを適宜利用して実現することができる。
【0024】
撮影指示部101は、ユーザU2の要求に応じて、撮影部102に画像撮影を指示する。撮影部102は、指示に従い撮影を行う。画像表示指示部103は、撮影部102により撮影された医用画像に、患者識別情報(患者ID)や撮影日時などを表すテキスト画像を合成してモニタ画像を生成し、さらにこのモニタ画像を表した映像信号を生成して、この映像信号をモニタ5に出力する。画像データ編集部104は、撮影部102により撮影された医用画像を表した画像データに、患者ID、撮影日時および撮影位置情報などの付帯情報を付加してDICOMフォーマットのDICOMデータに整形する。画像データ送信部105は、生成されたDICOMデータを医用画像保管装置2に送信する。
【0025】
モニタ画像表示部501は、画像表示指示部103から出力された映像信号に基づいて、モニタ画像を表示する。モニタ画像表示部501はまた、映像信号を通信ユニット4を介して医用画像保管装置2に送る。ただし通信ユニット4は、映像信号をディジタル化して得られる映像データ(以下、モニタ画像データと称する)を医用画像保管装置2に送る。
【0026】
音声入力部601は、ユーザU2が発した音声を音声信号に換え、この音声信号を通信ユニット4を介して医用画像保管装置2に送る。ただし通信ユニット4は、音声信号をディジタル化して得られる音声データを医用画像保管装置2に送る。
【0027】
情報・要求入力部701は、モニタ画像の記録やユーザU2の音声の録音に関してユーザU2が指定する情報やユーザU2の要求を入力する。情報・要求入力部701は、入力した情報や要求を通信ユニット4を介して医用画像保管装置2に送る。
【0028】
モニタ画像取得部201は、上記のモニタ画像データを取得する。音声取得部202は、上記の音声データを取得する。モニタ画像・音声管理部203は、モニタ画像データおよび音声データをモニタ画像取得部201および音声取得部202から受け取り、これらの保管を後述するように管理する。モニタ画像・音声管理部203は、モニタ画像データをモニタ画像解析部204に渡し、それについての解析結果をモニタ画像解析部204から受け取る。またモニタ画像・音声管理部203は、情報・要求入力部701で入力された情報や要求を取得する。モニタ画像解析部204は、モニタ画像・音声管理部203から渡されたモニタ画像データが表すモニタ画像を解析し、そこに表されている患者IDおよび撮影日時を抽出する。モニタ画像解析部204は、抽出した患者IDおよび撮影日時を解析結果としてモニタ画像・音声管理部203に返す。撮影日時がモニタ画像に映し出されていない場合は、モニタ画像解析部204は、画像・音声統合管理部209よりDICOMデータに含まれるDICOM画像データを受け取り、このDICOM画像データが表すDICOM画像とモニタ画像とのの双方に映し出された血管の形態に基づいて当該DICOM画像とモニタ画像とが互いに同一日時に撮影されたものであるか否かを解析し、この解析結果を画像・音声統合管理部209に返す。またモニタ画像・音声登録部205は、モニタ画像・音声管理部203から渡されるモニタ画像データおよび音声データをそれぞれモニタ画像ファイル(静止画ファイルまたは動画ファイル)および音声ファイルとしてモニタ画像・音声保管部206に記憶させるとともに、これらのデータファイルに関するファイル名や取得日時などの管理用情報をデータベース207に登録する。
【0029】
画像データ受信部208は、DICOMデータの受信処理を行う。画像・音声統合管理部209は、モニタ画像・音声保管部206に保管されているモニタ画像ファイルおよび音声ファイルとDICOM画像データとの統合を後述するように管理する。DICOMデータ編集部210は、モニタ画像ファイルおよび音声ファイルと統合するDICOMデータの編集を行う。具体的には、DICOMデータ内の特定のタグとして、統合するモニタ画像ファイルおよび音声ファイルのファイル名や保管場所などを示す情報を挿入する。DICOMデータ登録部211は、画像・音声統合管理部209からの要求に応じて、DICOMデータをDICOMデータ保管部212へ保管する。またDICOMデータ登録部211は、DICOMデータから医用画像保管装置2での管理または医用画像観察装置3での医用画像表示等に必要なDICOM付帯情報を抽出し、データベース207に記憶させる。
【0030】
統合データ検索部213は、統合データ検索指示部301からの指示に従い、モニタ画像・音声保管部206、データベース207、ならびにDICOMデータ保管部212からのデータの検索・収集を行い、検索結果情報を統合データ表示指示部217に渡す。統合データ分析部214は、統合データ編集管理部216からの指示に応じて、音声認識による音声ファイルのテキストへの変換や、当該テキストのセンテンス分割を行う。それと同時に統合データ分析部214は、それぞれのセンテンスの元となる音声ファイル内での再生ポイント(開始日時〜終了日時)情報を得る。なお、センテンス分割とは、文章を句点や一定時間の無音部分で区切れる単位に分割することを指す。従って、実際に区分される1単位は、狭義の「センテンス」に限らず任意であって良い。統合データ分析部214は、処理結果として、センテンス化されたテキスト情報とそれぞれのセンテンスの再生ポイントを表す再生ポイント情報とを統合データ編集管理部216に渡す。統合データ編集部215は、統合データ編集管理部216からの指示に応じて、データベース207にテキスト情報および再生ポイント情報を新たに記憶させたり、データベース207に記憶されているテキスト情報および再生ポイント情報を編集する。統合データ編集管理部216は、統合データ編集指示部304からの編集指示に基づき編集処理を後述するように管理する。統合データ表示指示部217は、統合データ検索部213から受け取った検索結果情報、または統合データ編集管理部216から受け取った編集結果情報を統合データ表示再生部302に渡し、それらの表示を指示する。
【0031】
統合データ検索指示部301は、ユーザU1の要求に応じて統合データ検索部213に検索指示を出す。統合データ表示再生部302は、統合データ表示指示部217より受け取った情報を表した画面を統合データ検索指示部301が備える表示デバイスを利用して表示する。音声取得部303は、音声入力部801から送られてきた音声データを取得し、統合データ編集指示部304に渡す。統合データ編集指示部304は、ユーザU2の要求に応じて統合データの編集指示を出す。
【0032】
音声入力部801は、ユーザU1が発した音声を音声信号に換え、さらにこの音声信号をディジタル化して得られる音声データを医用画像保管装置2に送る。
【0033】
次に以上のように構成された医療情報システムの動作について説明する。
【0034】
(手技中におけるモニタ画像と音声との関連付け)
図3乃至図6はIVR等の手技中にユーザU2によりモニタされるモニタ画像とユーザU2が発する音声とを関連付けて保管するためのモニタ画像・音声管理部203の処理を示すフローチャートである。
【0035】
医用画像保管装置2においてこの処理が起動されると、モニタ画像・音声管理部203がステップSa1乃至ステップSa3の待ち受け状態となる。この待ち受け状態においてモニタ画像・音声管理部203は、静止画の記録、動画の録画開始、あるいは録音の開始のいずれかがユーザU2により要求されるのを待ち受ける。
【0036】
ユーザU2がキーパッド7での所定の操作により静止画の記録を要求したとすると、モニタ画像・音声管理部203は、ステップSa1からステップSa4へ進む。ステップSa4においてはモニタ画像・音声管理部203は、その時点においてモニタ画像取得部201により取得された1フレーム分のモニタ画像データをモニタ画像取得部201より受け取る。そしてモニタ画像・音声管理部203は、当該モニタ画像データが表すモニタ画像をモニタ画像解析部204にて解析させ、当該モニタ画像の関連情報(患者IDおよび撮影日時)を抽出する。この関連情報は、医用画像撮影装置1で把握している情報をモニタ画像中に文字列によって表されたものである。
【0037】
ステップSa5においてモニタ画像・音声管理部203は、ステップSa4において抽出した患者ID(以下、抽出患者IDと称する)と手技開始時に取得した患者ID(入力患者ID)とが一致するか否かを確認する。入力患者IDは、手技開始時に医用画像保管装置2に対してユーザU2などによって患者IDが入力される。この患者IDの入力は、例えばキーパッド7を用いて行われ、モニタ画像・音声管理部203に送られ、モニタ画像・音声管理部203にて入力患者IDとして保持される。患者IDの入力は、マイク6を用いて音声により行うこともできる。
【0038】
抽出患者IDと入力患者IDとが一致する場合、モニタ画像・音声管理部203はステップSa5からステップSa6へ進む。ステップSa6においてモニタ画像・音声管理部203は、ステップSa4で受け取った1フレーム分のモニタ画像データを静止画ファイルとして記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当するモニタ画像データを静止画ファイルとしてモニタ画像・音声保管部206に記憶させる。このように静止画ファイルを記録するときにモニタ画像・音声管理部203は、静止画ファイルに付与したファイル名、抽出患者ID、あるいは記録日時などの情報を含んだ管理データを作成し、この管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当する管理データをデータベース207に記憶させる。なお記録日時は、静止画ファイルとして記録したモニタ画像に関して抽出された撮影日時である。
【0039】
こののちにモニタ画像・音声管理部203は、ステップSa7乃至ステップSa9の待ち受け状態となる。すなわちモニタ画像・音声管理部203は、静止画ファイルの記録を行ったのちの動画ファイルおよび音声ファイルの記録を行っていない状態においてステップSa7乃至ステップSa9の待ち受け状態となる。そしてこの待ち受け状態においてモニタ画像・音声管理部203は、静止画の記録、動画の録画開始、あるいは録音の開始のいずれかがユーザU2により要求されるのを待ち受ける。
【0040】
この待ち受け状態においてユーザU2がキーパッド7での所定の操作などにより静止画の記録を要求したとすると、モニタ画像・音声管理部203はステップSa7からステップSa10へ進む。ステップSa10においてモニタ画像・音声管理部203は、ステップSa6にて記録した静止画ファイルの関連音声ファイルが無い旨を示した管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、ステップSa6にて記録した静止画ファイルに関する管理データに、関連音声ファイルが無い旨を示した関連ファイル情報を追加する。こののちにモニタ画像・音声管理部203は、ステップSa4の処理に戻る。
【0041】
かくして、間に録音開始が要求されることなく2度連続で静止画の記録が要求された場合には、この2度のうちの先の要求に応じて記録された静止画ファイルには、音声ファイルは関連付けられない。
【0042】
一方、ステップSa7乃至ステップSa9の待ち受け状態にあるときに、ユーザU2がキーパッド7での所定の操作などにより録音開始を要求したとすると、モニタ画像・音声管理部203はステップSa9からステップSa11へ進む。ステップSa11においてモニタ画像・音声管理部203は、音声ファイルの記録を開始する。すなわちモニタ画像・音声管理部203は、モニタ画像・音声登録部205に録音開始を指示した上で、それ以降に音声取得部202より与えられる音声データをモニタ画像・音声登録部205へと順次送る。そうするとモニタ画像・音声登録部205は、こののちに録音終了が指示されるまでにモニタ画像・音声管理部203から送られてくる音声データを1つの音声ファイルとするようにモニタ画像・音声保管部206に記憶させて行く。このように音声ファイルの記録を開始するときにモニタ画像・音声管理部203は、音声ファイルに付与したファイル名、抽出患者ID、あるいは録音開始日時などの情報を含んだ管理データを作成し、この管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当する管理データをデータベース207に記憶させる。なお録音開始日時は、音声ファイルの記録を開始した日時である。
【0043】
このように録音しつつモニタ画像・音声管理部203は、ステップSa12乃至ステップSa14の待ち受け状態となる。すなわちモニタ画像・音声管理部203は、静止画ファイルの記録後に音声ファイルの記録のみを行っている状態においてステップSa12乃至ステップSa14の待ち受け状態となる。そしてこの待ち受け状態においてモニタ画像・音声管理部203は、静止画の記録、動画の録画開始、あるいは録音の終了のいずれかがユーザU2により要求されるのを待ち受ける。
【0044】
この待ち受け状態においてユーザU2がキーパッド7での所定の操作などにより静止画の記録を要求したとすると、モニタ画像・音声管理部203はステップSa12からステップSa15へ進む。ステップSa15においてモニタ画像・音声管理部203は、ステップSa6にて記録した静止画ファイルの関連音声ファイルが無い旨を示した管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、ステップSa6にて記録した静止画ファイルに関する管理データに、関連音声ファイルが無い旨を示した関連ファイル情報を追加する。なお、このステップSa15の処理は初回のみ行い、ステップSa12からステップSa15への移行が2回目以降であるときには、上記の処理を行わずにステップSa16へ進む。こののちにステップSa16においてモニタ画像・音声管理部203は、その時点においてモニタ画像取得部201により取得された1フレーム分のモニタ画像データをモニタ画像取得部201より受け取る。そしてモニタ画像・音声管理部203は、当該モニタ画像データが表すモニタ画像をモニタ画像解析部204にて解析させ、当該モニタ画像の関連情報を抽出する。
【0045】
ステップSa17においてモニタ画像・音声管理部203は、ステップSa16において得た抽出患者IDと入力患者IDとが一致するか否かを確認する。そして抽出患者IDと入力患者IDとが一致する場合、ステップSa18においてモニタ画像・音声管理部203は、ステップSa16で受け取った1フレーム分のモニタ画像データを静止画ファイルとして記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当するモニタ画像データを静止画ファイルとしてモニタ画像・音声保管部206に記憶させる。そしてこののちにモニタ画像・音声管理部203は、ステップSa12乃至ステップSa14の待ち受け状態に戻る。
【0046】
一方、ステップSa12乃至ステップSa14の待ち受け状態にあるときにユーザU2がキーパッド7での所定の操作などにより録音の終了を要求したとすると、モニタ画像・音声管理部203はステップSa14からステップSa19へ進む。ステップSa19においてモニタ画像・音声管理部203は、音声ファイルの記録を終了する。すなわちモニタ画像・音声管理部203は、モニタ画像・音声登録部205に録音終了を指示するとともに、音声データの出力を停止する。そうするとモニタ画像・音声登録部205は、音声ファイルの記録を終了する。このように音声ファイルの記録を終了するときにモニタ画像・音声管理部203は、当該音声ファイルに関して記録の開始時にデータベース207に登録した管理データに録音終了日時を含めるようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当する管理データに該当する情報を追加する。なお録音終了日時は、音声ファイルの記録を終了した日時である。こののちにステップSa20においてモニタ画像・音声管理部203は、このように記録を終了した音声ファイルとこの音声ファイルの記録中に記録された全ての静止画ファイルのそれぞれとを関連付けた管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当する音声ファイルの管理データに該当する静止画ファイルのファイル名を関連ファイル情報として追加するとともに、該当する静止画ファイルの管理データに該当する音声ファイルのファイル名を関連ファイル情報として追加する。そしてモニタ画像・音声管理部203は、これをもって図3乃至図6に示す処理を終了する。なおモニタ画像・音声管理部203は、後述する別のタイミングでの処理終了時も含めて、ユーザU2による手技が行われている期間には図3乃至図6に示す処理を再度自動的に開始しても良いし、ユーザU2による再開指示を受けて図3乃至図6に示す処理を再度開始しても良い。
【0047】
かくして、録音が行われていない状態にて静止画ファイルが記録された後に録音が開始された場合、その録音が行われている期間中に他の静止画の記録の要求および後述するような録画の開始の要求のいずれもがなされなかった場合は、録音された音声ファイルと、この音声ファイルの録音開始前に最も新しく記録された静止画ファイルとが関連付けられる。しかしながら、録音中に静止画が記録された場合には、その録音の開始前に録音が行われていない状態にて記録された静止画ファイルには、音声ファイルは関連付けられない。さらに、録音中に記録された静止画ファイルは、同時に録音されていた音声ファイルに関連付けられる。
【0048】
さて、ステップSa1乃至ステップSa3の待ち受け状態にあるときにユーザU2がキーパッド7での所定の操作などにより録画の開始を要求したとすると、モニタ画像・音声管理部203はステップSa2からステップSa22(図4)へ進む。また、ステップSa12乃至ステップSa14の待ち受け状態にあるときにユーザU2が録画の開始を要求したとすると、モニタ画像・音声管理部203はステップSa13からステップSa21(図4)を介してステップSa22へ進む。なおステップSa21においてモニタ画像・音声管理部203は、ステップSa6にて記録した静止画ファイルの関連音声ファイルが無い旨を示した管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、ステップSa6にて記録した静止画ファイルの管理データに、関連するファイルが無い旨を示した関連ファイル情報を追加する。
【0049】
ステップSa22においてモニタ画像・音声管理部203は、その時点においてモニタ画像取得部201により取得された1フレーム分のモニタ画像データをモニタ画像取得部201より受け取る。そしてモニタ画像・音声管理部203は、当該モニタ画像データが表すモニタ画像をモニタ画像解析部204にて解析させ、当該モニタ画像の関連情報を抽出する。
【0050】
ステップSa23においてモニタ画像・音声管理部203は、ステップSa22において得た抽出患者IDと入力患者IDとが一致するか否かを確認する。そして抽出患者IDと入力患者IDとが一致する場合、ステップSa24においてモニタ画像・音声管理部203は、動画ファイルの記録を開始する。すなわちモニタ画像・音声管理部203は、モニタ画像・音声登録部205に録画開始を指示した上で、それ以降にモニタ画像取得部201より与えられるモニタ画像データをモニタ画像・音声登録部205へと順次送る。そうするとモニタ画像・音声登録部205は、こののちに録画終了が指示されるまでにモニタ画像・音声管理部203から送られてくるモニタ画像データを1つの動画ファイルとするようにモニタ画像・音声保管部206に記憶させて行く。このように動画ファイルの記録を開始するときにモニタ画像・音声管理部203は、動画ファイルに付与したファイル名、抽出患者ID、あるいは録画開始日時などの情報を含んだ管理データを作成し、この管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当する管理データをデータベース207に記憶させる。なお録画開始日時は、動画ファイルとして最初に記録したモニタ画像の撮影日時である。
【0051】
このように録画を行いつつモニタ画像・音声管理部203は、ステップSa25およびステップSa26の待ち受け状態となる。すなわちモニタ画像・音声管理部203は、動画ファイルの記録のみを行っている状態においてステップSa25乃至ステップSa26の待ち受け状態となる。そしてこの待ち受け状態においてモニタ画像・音声管理部203は、録画の終了または録音の開始のいずれかがユーザU2により要求されるのを待ち受ける。
【0052】
この待ち受け状態においてユーザU2がキーパッド7での所定の操作などにより録画の終了を要求したとすると、モニタ画像・音声管理部203はステップSa25からステップSa27へ進む。ステップSa27においてモニタ画像・音声管理部203は、動画ファイルの記録を終了する。すなわちモニタ画像・音声管理部203は、モニタ画像・音声登録部205に録画終了を指示するとともに、画像データの出力を停止する。そうするとモニタ画像・音声登録部205は、動画ファイルの記録を終了する。このように動画ファイルの記録を終了するときにモニタ画像・音声管理部203は、当該動画ファイルに関して記録の開始時にデータベース207に登録した管理データに録画終了日時を含めるようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当する管理データに該当する情報を追加する。なお、録画終了日時は、動画ファイルとして最後に記録したモニタ画像の撮影日時である。こののちにステップSa28においてモニタ画像・音声管理部203は、上記の記録を終了した動画ファイルの関連音声ファイルが無い旨を示した管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当する動画ファイルに関する管理データに、関連音声ファイルが無い旨を示した関連ファイル情報を追加する。そしてモニタ画像・音声管理部203は、これをもって図3乃至図6に示す処理を終了する。
【0053】
かくして、記録されている期間に録音が行われなかった場合、記録された動画ファイルにはいずれの音声ファイルも関連付けられない。
【0054】
一方、ステップSa25およびステップSa26の待ち受け状態においてユーザU2が録音の開始を要求したとすると、モニタ画像・音声管理部203はステップSa26からステップSa29に進む。ステップSa29においてモニタ画像・音声管理部203は、音声ファイルの記録を開始する。
【0055】
このように録音を行いつつモニタ画像・音声管理部203は、ステップSa30およびステップSa31の待ち受け状態となる。すなわちモニタ画像・音声管理部203は、動画ファイルおよび音声ファイルのそれぞれの記録を行っている状態でステップSa30およびステップSa31の待ち受け状態となる。そしてこの待ち受け状態においてモニタ画像・音声管理部203は、録画の終了または録音の終了のいずれかがユーザU2により要求されるのを待ち受ける。
【0056】
この待ち受け状態においてユーザU2が録音の終了を指示したとすると、モニタ画像・音声管理部203はステップSa31からステップSa32へ進む。ステップSa32においてモニタ画像・音声管理部203は、音声ファイルの記録を終了する。こののちにステップSa33においてモニタ画像・音声管理部203は、このように記録を終了した音声ファイルと記録中の動画ファイルとを関連付けた管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当する音声ファイルの管理データに該当する動画ファイルのファイル名を関連ファイル情報として追加するとともに、該当する動画ファイルの管理データに該当する音声ファイルのファイル名を関連ファイル情報として追加する。そしてモニタ画像・音声管理部203は、ステップSa25およびステップSa26の待ち受け状態に戻る。
【0057】
一方、ステップSa25およびステップSa26の待ち受け状態においてユーザU2が録画の終了を要求したとすると、モニタ画像・音声管理部203はステップSa30からステップSa34へ進む。ステップSa34においてモニタ画像・音声管理部203は、動画ファイルの記録を終了する。こののちにモニタ画像・音声管理部203は、このように記録を終了した動画ファイルと記録中の音声ファイルとを関連付けた管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当する動画ファイルの管理データに該当する音声ファイルのファイル名を関連ファイル情報として追加するとともに、該当する音声ファイルの管理データに該当する動画ファイルのファイル名を関連ファイル情報として追加する。そしてモニタ画像・音声管理部203は、ステップSa35からステップSa37乃至ステップSa39の待ち受け状態(図5)に移行する。
【0058】
ところで、ステップSa1乃至ステップSa3の待ち受け状態にあるときにユーザU2が録音の開始を要求したとすると、モニタ画像・音声管理部203はステップSa3からステップSa36(図4)を介してステップSa37乃至ステップSa39の待ち受け状態に移行する。なおステップSa36においてモニタ画像・音声管理部203は、音声ファイルの記録を開始する。すなわちモニタ画像・音声管理部203は音声ファイルの記録のみを行っている状態において、ステップSa37乃至ステップSa39の待ち受け状態となる。このステップSa37乃至ステップSa39の待ち受け状態においてモニタ画像・音声管理部203は、静止画の記録、動画の録画開始、あるいは録音の終了のいずれかがユーザU2により要求されるのを待ち受ける。
【0059】
この待ち受け状態においてユーザU2が静止画の記録を要求したとすると、モニタ画像・音声管理部203はステップSa37からステップSa40へ進む。ステップSa40においてモニタ画像・音声管理部203は、ステップSa40においてモニタ画像・音声管理部203は、その時点においてモニタ画像取得部201により取得された1フレーム分のモニタ画像データをモニタ画像取得部201より受け取る。そしてモニタ画像・音声管理部203は、当該モニタ画像データが表すモニタ画像をモニタ画像解析部204にて解析させ、当該モニタ画像の関連情報を抽出する。
【0060】
ステップSa41においてモニタ画像・音声管理部203は、ステップSa40において得た抽出患者IDと入力患者IDとが一致するか否かを確認する。そして抽出患者IDと入力患者IDとが一致する場合、ステップSa42においてモニタ画像・音声管理部203は、ステップSa40で受け取った1フレーム分のモニタ画像データを静止画ファイルとして記録する。こののちにステップSa43においてモニタ画像・音声管理部203は、このように記録した静止画ファイルと記録中の音声ファイルとを関連付けた管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当する静止画ファイルの管理データに該当する音声ファイルのファイル名を関連ファイル情報として追加するとともに、該当する音声ファイルの管理データに該当する静止画ファイルのファイル名を関連ファイル情報として追加する。そしてこののちにモニタ画像・音声管理部203は、ステップSa37乃至ステップSa39の待ち受け状態に戻る。
【0061】
かくして、音声ファイルの記録中に静止画ファイルが記録された場合、この静止画ファイルと記録中の音声ファイルとが関連付けられる。
【0062】
ステップSa37乃至ステップSa39の待ち受け状態においてユーザU2が録画の開始を要求したとすると、モニタ画像・音声管理部203はステップSa38からステップSa44へ進む。ステップSa44においてモニタ画像・音声管理部203は、その時点においてモニタ画像取得部201により取得された1フレーム分のモニタ画像データをモニタ画像取得部201より受け取る。そしてモニタ画像・音声管理部203は、当該モニタ画像データが表すモニタ画像をモニタ画像解析部204にて解析させ、当該モニタ画像の関連情報を抽出する。
【0063】
ステップSa45においてモニタ画像・音声管理部203は、ステップSa44において得た抽出患者IDと入力患者IDとが一致するか否かを確認する。そして抽出患者IDと入力患者IDとが一致する場合、ステップSa46においてモニタ画像・音声管理部203は、動画ファイルの記録を開始する。こののちにモニタ画像・音声管理部203は、ステップSa30およびステップSa31の待ち受け状態に戻る。
【0064】
かくして、音声ファイルの記録中に動画ファイルの記録が開始された場合、この動画ファイルと記録中の音声ファイルとが関連付けられる。
【0065】
ステップSa37乃至ステップSa39の待ち受け状態においてユーザU2が録音の終了を要求したとすると、モニタ画像・音声管理部203はステップSa39からステップSa47へ進む。ステップSa47においてモニタ画像・音声管理部203は、音声ファイルの記録を終了する。こののちにモニタ画像・音声管理部203は、ステップSa48乃至ステップSa51の待ち受け状態となる。すなわちモニタ画像・音声管理部203は、静止画ファイルまたは動画ファイルが関連付けられない状態で音声ファイルの記録を終了した場合にステップSa48乃至ステップSa51の待ち受け状態となる。そしてステップSa48乃至ステップSa51の待ち受け状態においてモニタ画像・音声管理部203は、静止画の記録、動画の録画開始、あるいは録音の開始のいずれかがユーザU2により要求されるか、ステップSa47にて音声ファイルの記録を終了してから一定時間が経過するのを待ち受ける。
【0066】
この待ち受け状態においてユーザU2が静止画の記録を要求したとすると、モニタ画像・音声管理部203はステップSa48からステップSa52へ進む。ステップSa52においてモニタ画像・音声管理部203は、その時点においてモニタ画像取得部201により取得された1フレーム分のモニタ画像データをモニタ画像取得部201より受け取る。そしてモニタ画像・音声管理部203は、当該モニタ画像データが表すモニタ画像をモニタ画像解析部204にて解析させ、当該モニタ画像の関連情報を抽出する。
【0067】
ステップSa53においてモニタ画像・音声管理部203は、ステップSa52において抽出した抽出患者IDと入力患者IDとが一致するか否かを確認する。抽出患者IDと入力患者IDとが一致する場合、モニタ画像・音声管理部203はステップSa53からステップSa54へ進む。ステップSa43においてモニタ画像・音声管理部203は、ステップSa52で受け取った1フレーム分のモニタ画像データを静止画ファイルとして記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当するモニタ画像データを静止画ファイルとしてモニタ画像・音声保管部206に記憶させる。
【0068】
こののちにステップSa55においてモニタ画像・音声管理部203は、このように記録した静止画ファイルとステップSa47にて記録を終了した音声ファイルとを関連付けた管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、該当する静止画ファイルの管理データに該当する音声ファイルのファイル名を関連ファイル情報として追加するとともに、該当する音声ファイルの管理データに該当する静止画ファイルのファイル名を関連ファイル情報として追加する。そしてモニタ画像・音声管理部203は、これをもって図3乃至図6に示す処理を終了する。
【0069】
かくして、音声ファイルの記録がいずれの静止画ファイルおよび動画ファイルにも関連付けられることなく終了し、さらにその後に一定時間が経過する前に静止画ファイルが記録されたならば、この静止画ファイルと上記の既に記録が終了した音声ファイルとが関連付けられる。なお、一定時間は、任意の固定値、あるいはユーザU2や医用画像保管装置2の管理者による任意の設定値であって良い。
【0070】
一方、ステップSa48乃至ステップSa51の待ち受け状態においてユーザU2が録画の開始を要求したとすると、モニタ画像・音声管理部203はステップSa49からステップSa56へ進む。ステップSa56においてモニタ画像・音声管理部203は、ステップSa47で記録を終了した音声ファイルの関連静止画ファイルおよび関連動画ファイルが無い旨を示した管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、ステップSa47で記録を終了した音声ファイルの管理データに、関連するファイルが無い旨を示した関連ファイル情報を追加する。そしてこの後にモニタ画像・音声管理部203は、ステップSa22に戻る。
【0071】
また、ステップSa48乃至ステップSa51の待ち受け状態においてユーザU2が録音の開始を要求したとすると、モニタ画像・音声管理部203はステップSa50からステップSa57へ進む。ステップSa57においてモニタ画像・音声管理部203は、ステップSa47で記録を終了した音声ファイルの関連静止画ファイルおよび関連動画ファイルが無い旨を示した管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、ステップSa47で記録を終了した音声ファイルの管理データに、関連するファイルが無い旨を示した関連ファイル情報を追加する。そしてこの後にモニタ画像・音声管理部203は、ステップSa36に戻る。
【0072】
さらに、ステップSa48乃至ステップSa51の待ち受け状態において、静止画の記録、録画の開始、あるいは録音の開始のいずれもが要求されないまま一定時間が経過したとすると、モニタ画像・音声管理部203はステップSa51からステップSa58へ進む。ステップSa58においてモニタ画像・音声管理部203は、ステップSa47で記録を終了した音声ファイルの関連静止画ファイルおよび関連動画ファイルが無い旨を示した管理データを記録するようにモニタ画像・音声登録部205に指示する。この指示に応じてモニタ画像・音声登録部205は、ステップSa47で記録を終了した音声ファイルの管理データに、関連するファイルが無い旨を示した関連ファイル情報を追加する。そしてモニタ画像・音声管理部203は、これをもって図3乃至図6に示す処理を終了する。
【0073】
かくして、音声ファイルの記録がいずれの静止画ファイルおよび動画ファイルにも関連付けられることなく終了し、さらにその後に一定時間が経過する前に静止画の記録がなされなければ、上記の既に記録が終了した音声ファイルにはいずれのファイルも関連付けられない。
【0074】
ところで、ステップSa5、ステップSa17、ステップSa23、ステップSa41、ステップSa45、ならびにステップSa53においては抽出患者IDと入力患者IDとが一致するか否かを確認している。ここで抽出患者IDと入力患者IDとが一致しなかった場合、モニタ画像・音声管理部203は各ステップからステップSa59(図3)へ進む。ステップSa59においてモニタ画像・音声管理部203は、ユーザU2または医用画像保管装置2の管理者などに対する警告処理を行う。そしてモニタ画像・音声管理部203は、これをもって図3乃至図6に示す処理を終了する。この警告処理は例えば、患者IDが一致しないことを示した警告メッセージを表示または音声出力により提示する処理である。警告メッセージを表示する場合、そのための表示デバイス(図示せず)を用いても良いし、モニタ5や医用画像保管装置2が備える表示デバイス(図示せず)を用いても良い。
【0075】
(手技後におけるモニタ画像および音声とDICOM画像との関連付け)
図7はIVR等の手技後におけるモニタ画像および音声とDICOM画像とを関連付けるための画像・音声統合管理部209における処理を示すフローチャートである。
【0076】
ステップSb1において画像・音声統合管理部209は、画像データ送信部105から送信されるDICOMデータの受信を画像データ受信部208に行わせ、当該DICOMデータを画像データ受信部208から受け取る。
【0077】
ステップSb2において画像・音声統合管理部209は、受け取ったDICOMデータに含まれた付帯情報から患者IDおよび撮影日時を取得する。
【0078】
ステップSb3において画像・音声統合管理部209は、DICOMデータに関連付けるべき静止画ファイル(以下、関連静止画ファイルと称する)を検索する。具体的には画像・音声統合管理部209は、静止画ファイルに関する管理データであって、上記の取得した患者IDと同じ抽出患者IDを含むとともに、上記の取得した撮影日時と同じ撮影日時を含み、かつ関連DICOM情報を含んでいないものをデータベース207から検索し、該当する管理データに対応した静止画ファイルを関連静止画ファイルとする。
【0079】
ステップSb4において画像・音声統合管理部209は、DICOMデータに関連静止画ファイルが有ったか否かを確認する。そして関連静止画ファイルが有ったならば、画像・音声統合管理部209はステップSb4からステップSb5へ進む。
【0080】
ステップSb5において画像・音声統合管理部209は、DICOMデータに関連付けるべき音声ファイル(以下、関連音声ファイルと称する)があるか否かを確認する。これは、関連静止画ファイルの管理データに音声ファイルのファイル名が関連ファイル情報として含まれているか否かを確認することにより行える。そして該当する関連ファイル情報があるならば、それに対応する音声ファイルを関連音声ファイルとする。関連音声ファイルが有るならば、画像・音声統合管理部209はステップSb5からステップSb6へ進む。
【0081】
ステップSb6において画像・音声統合管理部209は、ステップSb1で取得したDICOMデータを、関連静止画ファイルのファイル名またはモニタ画像・音声保管部206での保管場所を示した付帯情報と、関連音声ファイルのファイル名またはモニタ画像・音声保管部206での保管場所を示した付帯情報とを含むように編集するようDICOMデータ編集部210に指示する。この指示を受けてDICOMデータ編集部210は、DICOMデータを編集し、編集後のDICOMデータを画像・音声統合管理部209に返す。
【0082】
ステップSb7において画像・音声統合管理部209は、編集されたDICOMデータの登録をDICOMデータ登録部211に指示する。この指示に応じてDICOMデータ登録部211は、編集されたDICOMデータをDICOMデータ保管部212に記憶させるとともに、当該DICOMデータの関連情報(患者ID、検査ID、シリーズID、画像ID等々、DICOMデータの検索や管理に必要な情報)をデータベース207に記憶させる。
【0083】
さらにステップSb8において画像・音声統合管理部209は、データベース207に記憶されている関連静止画ファイルの管理データおよび関連音声ファイルの管理データを、ステップSb7で登録されたDICOMデータの識別情報またはDICOMデータ保管部212での保管場所を示した関連DICOM情報を含むようにそれぞれ変更する。こののち画像・音声統合管理部209は、図7に示す処理を終了する。
【0084】
このようにして、DICOMデータが、モニタ画像・音声保管部206に保管されている静止画ファイルおよび音声ファイルと関連付けられ、これらのデータが統合される。
【0085】
さて、関連静止画ファイルが見つかったものの関連音声ファイルは無い場合には、画像・音声統合管理部209はステップSb5からステップSb9へ進む。ステップSb9において画像・音声統合管理部209は、ステップSb1で取得したDICOMデータを、関連静止画ファイルのファイル名またはモニタ画像・音声保管部206での保管場所を示した付帯情報を含むように編集するようDICOMデータ編集部210に指示する。この指示を受けてDICOMデータ編集部210は、DICOMデータを編集し、編集後のDICOMデータを画像・音声統合管理部209に返す。
【0086】
ステップSb10において画像・音声統合管理部209は、編集されたDICOMデータの登録をDICOMデータ登録部211に指示する。この指示に応じてDICOMデータ登録部211は、編集されたDICOMデータをDICOMデータ保管部212に記憶させるとともに、当該DICOMデータの関連情報をデータベース207に記憶させる。
【0087】
さらにステップSb11において画像・音声統合管理部209は、データベース207に記憶されている関連静止画ファイルの管理データを、ステップSb10で登録されたDICOMデータの識別情報またはDICOMデータ保管部212での保管場所を示した関連DICOM情報を含むように変更する。こののち画像・音声統合管理部209は、図7に示す処理を終了する。
【0088】
このようにして、DICOMデータが、モニタ画像・音声保管部206に保管されている静止画ファイルと関連付けられ、これらのデータが統合される。
【0089】
一方、関連静止画ファイルが見つからなかった場合、画像・音声統合管理部209はステップSb4からステップSb12へ進む。ステップSb12において画像・音声統合管理部209は、DICOMデータに関連付けるべき動画ファイル(以下、関連動画ファイルと称する)を検索する。具体的には画像・音声統合管理部209は、動画ファイルに関する管理データであって、上記の取得した患者IDと同じ抽出患者IDを含むとともに、上記の取得した撮影日時を内在する撮影期間を表す録画開始日時および録画終了日時を含み、かつ関連DICOM情報を含んでいないものをデータベース207から検索し、該当する管理データに対応した動画ファイルを関連動画ファイルとする。
【0090】
ステップSb13において画像・音声統合管理部209は、DICOMデータに関連動画ファイルが有ったか否かを確認する。そして関連動画ファイルが有ったならば、画像・音声統合管理部209はステップSb13からステップSb14へ進む。
【0091】
ステップSb14において画像・音声統合管理部209は、関連音声ファイルがあるか否かを確認する。これは、関連動画ファイルの管理データに音声ファイルのファイル名が関連ファイル情報として含まれているか否かを確認することにより行える。そして該当する関連ファイル情報があるならば、それに対応する音声ファイルを関連音声ファイルとする。関連音声ファイルが有るならば、画像・音声統合管理部209はステップSb14からステップSb15へ進む。
【0092】
ステップSb15において画像・音声統合管理部209は、ステップSb1で取得したDICOMデータを、関連動画ファイルのファイル名またはモニタ画像・音声保管部206での保管場所を示した付帯情報と、関連音声ファイルのファイル名またはモニタ画像・音声保管部206での保管場所を示した付帯情報とを含むように編集するようDICOMデータ編集部210に指示する。この指示を受けてDICOMデータ編集部210は、DICOMデータを編集し、編集後のDICOMデータを画像・音声統合管理部209に返す。
【0093】
ステップSb16において画像・音声統合管理部209は、編集されたDICOMデータの登録をDICOMデータ登録部211に指示する。この指示に応じてDICOMデータ登録部211は、編集されたDICOMデータをDICOMデータ保管部212に記憶させるとともに、当該DICOMデータの関連情報をデータベース207に記憶させる。
【0094】
さらにステップSb17において画像・音声統合管理部209は、データベース207に記憶されている関連動画ファイルの管理データおよび関連音声ファイルの管理データを、ステップSb16で登録されたDICOMデータを一意に識別するための情報、このDICOMデータに含まれたDICOM画像を一意に識別するための情報(SOPインスタンスUIDなど)、あるいはDICOMデータ保管部212での保管場所を示した関連DICOM情報などを含むようにそれぞれ変更する。こののち画像・音声統合管理部209は、図7に示す処理を終了する。
【0095】

このようにして、DICOMデータが、モニタ画像・音声保管部206に保管されている動画ファイルおよび音声ファイルと関連付けられ、これらのデータが統合される。
【0096】
さて、関連動画ファイルが見つかったものの関連音声ファイルは無い場合には、画像・音声統合管理部209はステップSb14からステップSb18へ進む。ステップSb18において画像・音声統合管理部209は、ステップSb1で取得したDICOMデータを、関連動画ファイルのファイル名またはモニタ画像・音声保管部206での保管場所を示した付帯情報を含むように編集するようDICOMデータ編集部210に指示する。この指示を受けてDICOMデータ編集部210は、DICOMデータを編集し、編集後のDICOMデータを画像・音声統合管理部209に返す。
【0097】
ステップSb19において画像・音声統合管理部209は、編集されたDICOMデータの登録をDICOMデータ登録部211に指示する。この指示に応じてDICOMデータ登録部211は、編集されたDICOMデータをDICOMデータ保管部212に記憶させるとともに、当該DICOMデータの関連情報をデータベース207に記憶させる。
【0098】
さらにステップSb20において画像・音声統合管理部209は、データベース207に記憶されている関連動画ファイルの管理データを、ステップSb19で登録されたDICOMデータの識別情報またはDICOMデータ保管部212での保管場所を示した関連DICOM情報を含むように変更する。こののち画像・音声統合管理部209は、図7に示す処理を終了する。
【0099】
このようにして、DICOMデータが、モニタ画像・音声保管部206に保管されている動画ファイルと関連付けられ、これらのデータが統合される。
【0100】
なお、関連静止画ファイルも関連動画ファイルも見つからなかった場合、画像・音声統合管理部209はステップSb14からステップSb21へ進む。ステップSb21において画像・音声統合管理部209は、ステップSb1で取得したままの未編集のDICOMデータをDICOMデータ保管部212に記憶させるとともに、当該DICOMデータの関連情報をデータベース207に記憶させる。こののち画像・音声統合管理部209は、図7に示す処理を終了する。
【0101】
(手技結果の観察)
図8乃至図11は手技結果をユーザU1に観察させるための医用画像保管装置2での処理を示すフローチャートである。
【0102】
ユーザU1からの要求に応じて医用画像保管装置2は、検索画面を医用画像観察装置3にて表示させる。具体的には、統合データ検索指示部301が、統合データ検索部213に検索指示を出す。この検索指示を受けると統合データ検索部213は、データベース207に記憶された管理データおよびDICOMデータ保管部212に記憶されたDICOMデータのうちの予め定められた情報を検索する。そして統合データ検索部213は、見つかった情報を抽出して、統合データ表示指示部217に送る。統合データ表示指示部217は、統合データ検索部213から送られた情報に基づいて検索画面を作成し、この検索画面の表示を統合データ表示再生部302に指示する。この指示に応じて統合データ表示再生部302は、検索画面を表示する。
【0103】
図12は検索画面の一例を示す図である。
【0104】
検索画面は、検査リスト、シリーズリストおよび画像リストを含む。
【0105】
検査リストは、DICOMデータ保管部212に保管されたDICOMデータが取得された検査のそれぞれに関する情報の一覧を示す。検査リストには、ネットワーク9を介して図示しないRIS(radiology information system)などの検査管理システムから取得した情報を含んでも良いし、あるいは当該情報のみの一覧としても良い。シリーズリストは、検査リストから選択された検査内のシリーズのそれぞれに関する情報の一覧を示す。画像リストは、シリーズリストから選択されたシリーズ内で取得された画像に関する情報の一覧を示す。画像リストにリストアップされるのは、主としてDICOM画像に関する情報である。しかし、DICOMデータが関連付けられていない映像ファイル(静止画ファイルまたは動画ファイル)が存在するならば、それらのファイルに関する情報を含んでも良い。また、用途によっては、モニタ画像・音声保管部206に記憶された映像ファイルに関する情報のみを画像リストとしてリストアップしても良い。これらの各リストには、音声ファイルまたは映像ファイルが関連付けられているか否かを黒丸マークの有無により表している。
【0106】
検査リストを表示させつつステップSc2において統合データ表示再生部302は、画像表示が要求されるのを待ち受ける。そしてこの待ち受け状態においてユーザU1が画像表示を要求したとすると、統合データ表示再生部302はステップSc2からステップSc3へ進む。
【0107】
ステップSc3において医用画像観察装置2は、指定されたDICOM画像またはモニタ画像を含んだビューア画面を医用画像観察装置3にて表示させる。具体的には、統合データ検索指示部301が、ユーザU1が指定したDICOM画像のDICOM画像データの検索を統合データ検索部213に指示する。この指示に応じて統合データ検索部213は、指示されたDICOM画像データをDICOMデータ保管部212から読み出し、統合データ表示指示部217に渡す。統合データ表示指示部217は、受け取ったDICOM画像データが表すDICOM画像を含んだビューア画面を作成し、このビューア画面の表示を統合データ表示再生部302に指示する。この指示に応じて統合データ表示再生部302は、ビューア画面を表示する。
【0108】
図13はビューア画面の一例を示す図である。
【0109】
ビューア画面には、DICOM画像IM1のほかに、再生ボタンB1、編集ボタンB2、内容確認ボタンB3および新規追加ボタンB4を含む。
【0110】
ビューア画面を表示させつつステップSc4乃至ステップSc7の待ち受け状態において医用画像観察装置2は、再生、編集開始、音声情報表示、あるいは新規追加のいずれかが要求されるのを待ち受ける。なお、再生ボタンB1は、DICOM画像IM1に関連付けられた音声ファイルまたは映像ファイルが有る場合にのみ表示する。また編集ボタンB2および内容確認ボタンB3は、DICOM画像IM1に関連付けられた音声ファイルが有る場合にのみ表示する。
【0111】
この待ち受け状態にあるときに、ユーザU1が例えば再生ボタンB1をクリックするなどして再生を要求したとすると、医用画像観察装置2はステップSc4からステップSc8へ進む。ステップSc8において医用画像観察装置2は、表示中の画像に関連付けられているファイルに基づいて映像や音声を再生する。具体的には、ユーザU1が再生を要求したことに応じて、表示中の画像に関連付けられているファイルの検索を統合データ検索指示部301が統合データ検索部213に指示する。この指示に応じて統合データ検索部213は、該当するファイルをモニタ画像・音声保管部206から読み出し、統合データ表示指示部217に渡す。統合データ表示指示部217は、受け取ったファイルを統合データ表示再生部302に送り、その表示および再生を指示する。この指示に応じて統合データ表示再生部302は、静止画ファイルが与えられたならば、これに基づいて静止画を表示し、動画ファイルが与えられたならば、これに基づいて動画を表示し、音声ファイルが与えられたならば、これに基づいて音声を再生し、DICOMデータが与えられたならば、これに基づいてDICOM画像を表示する。そして表示および再生を終えたならば、医用画像観察装置2はステップSa3に戻る。
【0112】
かくして、ユーザU1は、ユーザU2が手技の際に注目していたモニタ画像とユーザU2が発した音声とを観察することができる。
【0113】
ステップSc4乃至ステップSc7の待ち受け状態にあるときに、ユーザU1が例えば編集ボタンB2をクリックするなどして編集開始を要求したとすると、医用画像観察装置2はステップSc5からステップSc9(図9)へ進む。ステップSc9において医用画像観察装置2は、表示中のDICOM画像に関連付けられている音声ファイルが表す音声が既に分析済みであるか否かを確認する。具体的には、音声ファイルが分析済みである場合、この音声ファイルには後述するようにテキスト情報が関連付けられてモニタ画像・音声保管部206に保管されている。そこで統合データ編集管理部216が、表示中のDICOM画像に関連付けられている音声ファイルにテキスト情報が関連付けられているか否かを統合データ検索部213に検索させて、その検索結果を受ける。そして該当するテキスト情報が見つからない場合に、分析済みではないと統合データ編集管理部216が判定する。そしてこのように分析済みではないと判定した場合には、医用画像保管装置2はステップSc9からステップSc10へ進む。ステップSc10において医用画像保管装置2は、表示中のDICOM画像に関連付けられている音声ファイルが表す音声を分析する。具体的には、統合データ編集管理部216が統合データ分析部214に対して分析の実行を指示する。この指示に応じて統合データ分析部214は、分析対象となる音声ファイルをモニタ画像・音声保管部206から読み出して、音声認識によりテキスト化し、さらにセンテンス分割する。さらに統合データ分析部214は、分割したセンテンスのそれぞれについて、元となる音声ファイル内での対応する音声の開示日時および終了日時を判定し、この開示日時および終了日時を示した再生ポイント情報を生成する。
【0114】
ステップSc11においては統合データ分析部214が、上記の分析の結果として得られるセンテンスの情報と再生ポイント情報との集合からなるテキスト情報を、分析対象の音声ファイルに関連付けてモニタ画像・音声保管部206に保存する。そしてこののちに医用画像保管装置2は、ステップSc13へ進む。
【0115】
一方、音声が既に分析済みである場合には、医用画像保管装置2はステップSc9からステップSc10へ進む。ステップSc10においては統合データ編集管理部216が、音声ファイルに関連付けられているテキスト情報を統合データ検索部213を介してモニタ画像・音声保管部206から取得する。そしてこののちに医用画像保管装置2は、ステップSc13へ進む。
【0116】
ステップSc13において医用画像保管装置2は、編集画面を医用画像観察装置3にて表示させる。具体的には、統合データ編集管理部216が、ステップSc10での分析で得られたか、またはステップSc12で取得したテキスト情報を統合データ表示指示部217に渡す。統合データ表示指示部217は、受け取ったテキスト情報の内容を表す音声編集エリアを含んだ編集画面を作成し、この編集画面の表示を統合データ表示再生部302に指示する。この指示に応じて統合データ表示再生部302は、編集画面を表示する。
【0117】
図14は編集画面の一例を示す図である。
【0118】
符号AR1を付して示されるエリアが音声編集エリアである。編集画面はほかに、再生ボタンB11および保存ボタンB12を含む。
【0119】
音声編集エリアAR1には、「このじょうたいでがいどわいやーはうまくせんこうしたが えー きゅうげきなまいくろかてーてるのそうさにより がいでぃんぐかてーてるはあおるたにじゃんぷした いこうちゅういをようする」という音声から得られた「この状態でガイドワイヤーはうまく潜行したが」「えー、急激なマイクロカテーテルの操作により」「ガイディングカテーテルはアオルタにジャンプした。」および「以降注意を要する。」という4つのセンテンスが表されている。さらにこれらのセンテンスのそれぞれに対応付けてチェックボックスCB1〜CB4が表されている。
【0120】
編集画面が表示された状態で医用画像保管装置2はステップSc14乃至ステップSc16において、チェックボックスがクリックされるか、再生が要求されるか、あるいは保存が要求されるのを待ち受ける。
【0121】
この待ち受け状態において、ユーザU1がチェックボックスをクリックしたとすると、医用画像観察装置2はステップSc14からステップSc17へ進む。ステップSc17において医用画像観察装置2は、クリックされたチェックボックスに対応するセンテンスの要否設定を反転する。具体的には、各センテンスの要否設定は、ステップSc10で分析された直後には、統合データ編集管理部216によっていずれも例えば「要」に設定される。そしてチェックボックスがクリックされる毎に、そのチェックボックスに対応するセンテンスの要否設定を統合データ編集管理部216が反転させる。また、統合データ編集部216は、各センテンスの要否設定を統合データ表示指示部217に渡す。統合データ表示指示部217は、各センテンスの要否設定に応じて、設定画面におけるチェックボックスの表示形態を変更する。こののちに医用画像保管装置2は、ステップSc14乃至ステップSc16の待ち受け状態に戻る。
【0122】
例えば、図14ではチェックボックスCB1〜CB4はいずれも要否設定が「要」であることを示している。図15は図14の状態からチェックボックスCB4がクリックされた後の設定画面を示す図である。図15でのチェックボックスCB4は、要否設定が「否」であることを示している。
【0123】
ステップSc14乃至ステップSc16の待ち受け状態において、ユーザU1が例えば再生ボタンB11をクリックするなどして再生を要求したとすると、医用画像保管装置2はステップSc15からステップSc18へ進む。ステップSc18において医用画像保管装置2は、要否設定が「要」であるセンテンスに相当する音声のみを統合データ表示再生部302に再生させる。具体的には、統合データ表示指示部217が、要否設定が「要」であるセンテンスに相当する音声のそれぞれのデータを統合データ検索部213を介してモニタ画像・音声保管部206から抽出して、これらのデータをつなぎ合わせて再生用の音声データを生成する。そして統合データ表示指示部217は、このように生成した再生用の音声データを統合データ表示再生部302へを送り、その再生を指示する。この指示に応じて統合データ表示再生部302は、上記の再生用の音声データに基づいて音声を再生する。こののちに医用画像保管装置2は、ステップSc14乃至ステップSc16の待ち受け状態に戻る。
【0124】
かくして、ユーザU1は現状の要否設定により得られる音声の内容を確認することができる。なお、音声の内容は表示されたテキストから判断が可能であるが、音声認識率の問題でテキストは音声の内容を完全に正しくは表さないことがある。また、テキストからは、ユーザU2の発声の微妙なニュアンスなどを知ることはできない。このため、音声の再生により音声の内容を確認できることは有用である。
【0125】
ステップSc14乃至ステップSc16の待ち受け状態において、ユーザU1が例えば保存ボタンB12をクリックするなどして保存を要求したとすると、医用画像保管装置2はステップSc16からステップSc19へ進む。ステップSc19において医用画像保管装置2は、各センテンスの要否設定を記録する。具体的には、統合データ編集管理部216が統合データ編集部215に要否設定の記録を指示する。この指示に応じて統合データ編集部215は、要否設定を表す設定情報をデータベース207に記憶させる。こののちに医用画像保管装置2は、ステップSc3に戻る。
【0126】
ステップSc4乃至ステップSc7の待ち受け状態にあるときに、ユーザU1が例えば内容確認ボタンB3をクリックするなどして音声情報表示を要求したとすると、医用画像観察装置2はステップSc6からステップSc20(図10)へ進む。ステップSc20において医用画像観察装置2は、表示中のDICOM画像に関連付けられている音声ファイルが表す音声が既に分析済みであるか否かを確認する。そして分析済みではないと判定した場合には、医用画像保管装置2はステップSc20からステップSc21へ進む。ステップSc21において医用画像保管装置2は、表示中のDICOM画像に関連付けられている音声ファイルが表す音声を分析する。ステップSc22においては統合データ分析部214が、上記の分析の結果として得られるテキスト情報を、分析対象の音声ファイルに関連付けてモニタ画像・音声保管部206に保存する。そしてこののちに医用画像保管装置2は、ステップSc24へ進む。
【0127】
一方、音声が既に分析済みである場合には、医用画像保管装置2はステップSc20からステップSc23へ進む。ステップSc23においては統合データ編集管理部216が、音声ファイルに関連付けられているテキスト情報を統合データ検索部213を介してモニタ画像・音声保管部206から、また当該テキスト情報に関する設定情報を統合データ検索部213を介してデータベース207からそれぞれ取得する。そしてこののちに医用画像保管装置2は、ステップSc24へ進む。
【0128】
ステップSc24において医用画像保管装置2は、音声情報画面を医用画像観察装置3にて表示させる。具体的には、統合データ編集管理部216が、ステップSc21での分析で得られたテキスト情報および全てのセンテンスの要否設定を「要」とした設定情報か、またはステップSc23で取得したテキスト情報および設定情報を統合データ表示指示部217に渡す。統合データ表示指示部217は、受け取ったテキスト情報および設定情報に基づく音声情報表示エリアを含んだ音声情報画面を作成し、この音声情報画面の表示を統合データ表示再生部302に指示する。この指示に応じて統合データ表示再生部302は、音声情報画面を表示する。
【0129】
図16は音声情報画面の一例を示す図である。
【0130】
符号AR2を付して示されるエリアが音声情報表示エリアである。音声情報画面はほかに、全文再生ボタンB21を含む。
【0131】
音声情報表示エリアAR2には、要否設定が「要」となっているセンテンスがそれぞれ表されている。
【0132】
音声情報画面が表示された状態で医用画像保管装置2はステップSc25乃至ステップSc27において、表示されているセンテンスのいずれかが選択されるか、全文再生が要求されるか、あるいは音声情報表示の終了が要求されるのを待ち受ける。
【0133】
この待ち受け状態において、ユーザU1が表示されているセンテンスの表示範囲のいずれかをクリックしたとすると、医用画像観察装置2はステップSc25からステップSc28へ進む。ステップSc28において医用画像観察装置2は、クリックされたセンテンスの先頭に相当する日時を始点として、それ以降の期間に対応し、かつ要否設定が「要」である各センテンスの音声を統合データ表示再生部302に再生させる。また、音声情報表示エリアAR2に表示したテキスト情報の抽出元である音声ファイルに静止画ファイルまたは動画ファイルが関連付けられているならば、医用画像保管装置2は当該静止画ファイルまたは動画ファイルに基づいて静止画または動画を統合データ表示再生部302に表示させる。なお、動画を表示させる場合には、音声を再生する期間と同じ期間に関する動画を音声と同期させて表示させる。ただし、動画と音声とは、同期していなくても良い場合もあり、この場合には動画と音声とをそれぞれに表示させる。こののちに医用画像保管装置2は、ステップSc25乃至ステップSc27の待ち受け状態に戻る。
【0134】
かくして、ユーザU1は音声情報画面における表示や再生される音声により、ユーザU2が手技の際に注目していたモニタ画像とユーザU2が発した音声とを任意の時点から観察することができる。
【0135】
ステップSc25乃至ステップSc26の待ち受け状態において、ユーザU1が例えば全文再生ボタンB21をクリックするなどして全文の再生を要求したとすると、医用画像保管装置2はステップSc26からステップSc29へ進む。ステップSc29において医用画像保管装置2は、要否設定が「要」であるセンテンスに相当する音声の全てを統合データ表示再生部302に再生させる。こののちに医用画像保管装置2は、ステップSc25乃至ステップSc27の待ち受け状態に戻る。
【0136】
かくして、ユーザU2は現状の要否設定により得られる音声全文の内容を確認することができる。
【0137】
ステップSc25乃至ステップSc27の待ち受け状態において、ユーザU1が音声情報表示の終了を要求したとすると、医用画像保管装置2はステップSc27からステップSc3に戻る。
【0138】
ところで、図8に示すステップSc4乃至ステップSc7の待ち受け状態において、ユーザU1が例えば新規追加ボタンB4をクリックするなどして新規追加を要求したとすると、医用画像保管装置2はステップSc7からステップSc30(図11)へ進む。ステップSc30において医用画像保管装置2は、録音操作画面を医用画像観察装置3にて表示させる。具体的には、統合データ表示指示部217は、新規追加ボタンB4がクリックされた際にビューア画面に含まれていたDICOM画像を含むとともに、録音ボタン、確認再生ボタンおよび確定ボタンを含んだ画面として録音操作画面を作成し、この録音操作画面の表示を統合データ表示再生部302に指示する。この指示に応じて統合データ表示再生部302は、録音操作画面を表示する。
【0139】
図17は録音操作画面の一例を示す図である。
【0140】
図17における符号IM2、B31、B32およびB33が、DICOM画像、録音ボタン、確認再生ボタンおよび確定ボタンをそれぞれ示す。
【0141】
録音操作画面を表示させつつステップSc31乃至ステップSc33の待ち受け状態において医用画像観察装置2は、録音開始、確認再生および確定のいずれかが要求されるのを待ち受ける。
【0142】
この待ち受け状態にあるときに、ユーザU1が例えば録音ボタンB31をクリックするなどして録音開始を要求したとすると、医用画像観察装置2はステップSc31からステップSc34へ進む。ステップSc34において医用画像観察装置2は、音声ファイルの記録を開始する。具体的には、ユーザU1の録音開始の要求は、統合データ編集指示部304によって統合データ編集管理部216に伝えられる。そして統合データ編集指示部304は、それ以降において音声取得部303が音声入力部801から取得する音声データを統合データ編集管理部216に送る。そこで統合データ編集管理部216は、この音声データを統合データ編集部215に渡す。そうすると統合データ編集部215は、この音声データを新たな音声ファイルとしてモニタ画像・音声保管部206に記録して行く。
【0143】
このように音声ファイルを記録しつつ医用画像保管装置2は、ステップSc35にて録音終了が要求されるのを待ち受ける。そしてユーザU1が例えば録音ボタンB31を再度クリックするなどして録音終了を要求したとすると、医用画像保管装置2はステップSc35からステップSc36へ進み、音声ファイルの記録を終了する。こののちに医用画像保管装置2は、ステップSc31乃至ステップSc33の待ち受け状態に戻る。
【0144】
ステップSc31乃至ステップSc33の待ち受け状態において、ユーザU1が例えば確認再生ボタンB32をクリックするなどして確認再生を要求したとすると、医用画像保管装置2はステップSc32からステップSc37へ進む。ステップSc37において医用画像保管装置2は、ステップSc34乃至ステップSc36において記録した音声ファイルに基づく音声の再生を医用画像観察装置3に行わせる。具体的には、確認再生の要求がなされたことが統合データ編集指示部304から伝えられると、統合データ編集管理部216がステップSc34乃至ステップSc36において記録した音声ファイルの読み出しを統合データ検索部213に指示する。この指示に応じて統合データ検索部213は、ステップSc34乃至ステップSc36において記録された音声ファイルをモニタ画像・音声保管部206から読み出し、この音声ファイルを統合データ表示指示部217に渡す。統合データ表示指示部217は、この音声データに基づく音声の再生を統合データ表示再生部302に指示する。この指示に応じて統合データ表示再生部302は、当該音声データに基づいて音声を再生する。こののち、医用画像保管装置2はステップSc31乃至ステップSc33の待ち受け状態に戻る。
【0145】
かくして、ユーザU1はステップSc34乃至ステップSc36において新たに記録した音声の内容を確認することができる。
【0146】
ステップSc31乃至ステップSc33の待ち受け状態において、ユーザU1が例えば確定ボタンB33をクリックするなどして確定を要求したとすると、医用画像保管装置2はステップSc33からステップSc38へ進む。ステップSc38において医用画像保管装置2は、ステップSc34乃至ステップSc36において記録した音声ファイルに関する管理データをデータベース207に記録することによって、上記音声ファイルの記録を有効化、すなわち音声ファイルを確定する。具体的には、確定の要求がなされたことが統合データ編集指示部304から伝えられると、統合データ編集管理部216がステップSc34乃至ステップSc36において記録した音声ファイルに関する管理データを作成し、この管理データの記録を統合データ編集部215に指示する。この指示に応じて統合データ編集部215は、該当する管理データをデータベース207に記憶させる。
【0147】
続いて医用画像保管装置2はステップSc39において、今回記録した音声ファイルの関連付けを行う。具体的には、統合データ編集部215が、録音操作画面に含まれたDICOM画像についてのDICOM画像データを含んだDICOMデータを、今回記録した音声ファイルのファイル名またはモニタ画像・音声保管部206での保管場所を示した付帯情報を含むように編集する。また、このDICOMデータに対して静止画ファイルまたは動画ファイルが関連付けられているならば、そのファイルのファイル名をステップSc38で記録した管理データに追加するとともに、そのファイルの管理データに今回記録した音声ファイルのファイル名を追加する。こののちに医用画像保管装置2は、ステップSc3に戻る。
【0148】
以上のように本実施形態によれば、手技中の手技内容を音声によってモニタ画像に関連付けて記録できる。このため、手技後に手技内容を容易に、かつ的確に確認することが可能となり、手術所見の記録におけるユーザの負担を大幅に軽減できる。
【0149】
また本実施形態によれば、モニタ画像と音声との関連付けのみならず、DICOM画像と音声との関連付けも行うので、DICOM画像を参照した手術所見の作成も容易となる また本実施形態によれば、記録されている音声の内容をセンテンス分割してテキストで提示するので、ユーザは音声を再生させなくとも音声の内容の概略を把握することが可能となる。
【0150】
また本実施形態によれば、センテンス毎に音声や動画の再生開始タイミングを選択可能としているから、ユーザは観察したい情報を容易に得ることができる。
【0151】
この実施形態は、次のような種々の変形実施が可能である。
【0152】
(1) 音声ファイル、静止画ファイルおよび動画ファイルは、DICOMデータの特定タグ内に取り込んで、実データレベルでの統合を図っても良い。
【0153】
(2) 静止画データまたは画像データと音声データとを統合したマルチメディアファイルとして保管しても良い。
【0154】
(3) DICOMデータと他のデータファイルとの関連付けを示す付帯情報をDICOMデータに含めずに、それらの関連性を示した管理情報をDICOMデータのそれぞれに関連付けてデータベース207に記憶させても良い。
【0155】
(4) 全てのデータの関連性を一覧として示した管理情報によって各データの関連性を管理しても良い。
【0156】
(5) 管理情報に検査インスタンスUIDなどの検査を一意に識別するための情報を含めることで、検査に対する各データファイルの関連付けを容易に把握することも可能となる。同様にシリーズを一意に識別するための情報を付加し、シリーズに対する各データファイルの関連付けを保持することとしても良い。
【0157】
(6) DICOMの特定タグに関連付けを保持する方法では、関連付けを行った装置とは別の装置にDICOMファイルを転送した場合でも容易に関連付けを把握できるといったメリットが期待できる。また、データベース207に関連付けを記述した管理データを保持する方法では、管理対象データが増加しても検索・参照時のレスポンス劣化を低減できるというメリットが期待できる。そこで、装置内ではデータベース207内に管理データを保持しておき、転送時にはDICOMの特定タグに関連付けを持たせて転送する、といった手段もとることができる。
【0158】
(7) 抽出患者IDと入力患者IDとが一致しなかった場合でも、ユーザが許容するならば静止画ファイルまたは動画ファイルの記録を行っても良い。このとき、記録を許容するか否かのユーザ設定は、複数の検査で共通に適用されるものであっても良いし、検査毎に適用されるものであっても良い。
【0159】
(8) 事前の設定があるものとして、患者IDが異なっておりユーザがそれを許容しない場合、ユーザに対し警告メッセージを出す際に取得画像の処理方法選択を促し、それに応じて処理方法を決めることとしても良い。例えば「許容」「関連付けずに保存」「削除」といった選択ボタンを表示し、「許容」を押したら許容と設定されていた場合の処理に移行し、「関連付けずに保存」では関連付けをせずに取得画像を保存し、「削除」の場合は取得画像を削除する、といった処理のしかたもありうる。
【0160】
(9) モニタ5によるモニタ画像は、カメラを用いて通信ユニット4に入力することもできる。
【0161】
(10) モニタ5によるモニタ画像に撮影日時が映し出されていない場合、DICOM画像に関連付けるべきモニタ画像を選定するために、両画像を比較しても良い。例えば、画像内の血管の形態を比較することにより、同時期に撮影された画像を見つけ出すことが可能である。
【0162】
(11) 同一の画像が見つからない場合、同一の画像が判定できなかった場合、またはモニタ画像を特定のDICOM画像ではなく特定患者や検査に関連付けたい場合がある。この場合、モニタ画像とDICOM画像とで同一のものがなかった、または判定できない場合は、モニタ画像と特定のDICOM画像とを関連付けることは止め、モニタ画像は特定の患者、または特定の検査に関連付くデータとして扱うこととしても良い。特定の検査に関連付けるためには、モニタ画像取得時に患者IDのみでなく検査IDも入力しておくこととすれば良い。
【0163】
(12) 検査にのみ関連付けることを設定ファイルなどで設定しておくことも考えられる。
【0164】
(13) モニタ5に映し出されたモニタ画像を取得できない場合、以下のような対応も可能である。すなわち、手技中には音声および録音日時と予め入力された患者IDのみを記録しておく。手技後に受信したDICOM画像との紐付けには、患者IDと撮影日時を用いる。DICOM画像の付帯情報にある患者IDをキーに紐付け前の音声情報を取得し、DICOM画像の付帯情報にある撮影日時と音声情報録音日時を比較する。録音日時が撮影日時より後で最も近い日時のものを該当のDICOM画像に統合(関連付け)して保管しても良いし、録音日時が撮影日時の前後一定時間内のものを該当のDICOM画像に統合(関連付け)して保管しても良い。いずれの手法を取るか、また後者で一定時間とはどのくらいか、については予めユーザが設定しておくこととしても良い。
【0165】
(14) 音声の分析は、統合データ表示再生部302および統合データ編集指示部304に再生機能および再生ポイント指定機能を持たせて、ユーザU1の補助を得て行っても良い。
【0166】
(15) 必要に応じ、音声ファイルや動画ファイルを再生ポイント情報に基づき分割して保管しても良い。その場合、管理データやDICOMデータに付加された関連付けを示した付帯情報も更新する。DICOMデータ内に音声ファイルや動画ファイルを保持している場合は、それを分割処理しても良い。
【0167】
(16)追加録音により生成された音声データをDICOMデータの特定タグに挿入しても良い。
【0168】
(17) ユーザU1により不要であると指定されたセンテンスに関する情報をテキスト情報から削除したり、当該センテンスに対応する音声データを音声ファイルから削除しても良い。
【0169】
(18) 統合データ編集管理部216は、編集後の音声ファイルや動画ファイルを分割するかどうかは選択可能としている。これは統合データ分析部214により再生ポイントの情報を得ていることから、オリジナルのファイルからでも再生ポイントを指定して部分再生が可能なためである。データ保管容量の削減などのため、分割して不要な部分を削除するなどしても良いし、オリジナルのファイル容量が大きいためそのまま部分再生するには時間がかかるなどの理由でファイルを分割することとしても良い。
【0170】
(19) 図12乃至図17は一例であり、音声や映像の識別表示方法、再生方法などはこれに限らない。音声情報と映像情報のそれぞれについて有無を表示しても良い。再生ボタンやメニューを複数用意し、音声のみの再生、映像のみの再生、動画(音声付き映像)の再生を選択できるようにしても良い。映像の再生時には、別ウィンドウが開いて再生することとしても良いし、同一ウィンドウ内の特定エリアなどで再生することとしても良い。
【0171】
(20) 図16では、センテンスのそれぞれに対応付けてボタンを用意しておき、クリックされたボタンに対応するセンテンスから再生を開始しても良い。
【0172】
(21) 表示中のDICOM画像がダブルクリックされたなどの上記実施形態に例示した以外の操作がなされたことをもって再生要求がなされたものとしても良い。DICOM画像IM1にモニタ画像と音声との双方が関連付けられている場合には、設定によりどちらをダブルクリックされたなどの上記実施形態に例示した以外の操作で再生開始するかを判断しても良い。
【0173】
(22) DICOM画像に関連する音声やモニタ画像の重要度を判断する目安として、一覧画面や画像参照画面で関連する音声やモニタ画像の再生秒数を表示しても良い。長時間の記録には重要な情報が含まれている可能性が高いからである。また、ユーザの操作により特に重要なものにチェックマークをつける機能を付加しても良い。
【0174】
(23) 一覧画面や各画像の参照画面で、既に参照した音声やモニタ画像と未参照の音声やモニタ画像とを識別可能とする表示も有用である。この場合、その情報をいつ参照したかや、何回参照したかも分かるように表示することで、無駄な参照を減ずることができる。
【0175】
(24) 各画像の参照画面から、同一患者の過去検査をすぐに参照できるようにし、特に音声やモニタ画像が関連付けられているものをすぐ参照できるようにすることも有用である。
【0176】
(25) 読影の際など、複数の画像を同時にモニタに並べて参照することもあるが、この場合にも特定の画像を選択し、関連する音声およびモニタ画像を参照するようにすることは有用である。その場合、現在再生中の情報がどの画像に関連するものかを示す工夫も重要である。例えば関連情報を再生中の画像についてはウィンドウ枠やタイトルバーの色を変えたり、画像上のマークや形を変えたるするなどが考えられる。
【0177】
(26) 聞き漏らし等を防ぐためには、音声およびモニタ画像が複数存在している場合に、それが一覧または各画像の参照画面上で識別できるような表示も有用である。関連付いた音声およびモニタ画像の数、未参照の音声およびモニタ画像の数や存在有無などを表示する例が考えられる。
【0178】
(27) 追加記録された音声ファイルは、別の音声ファイルが既に関連付けられているファイルやDICOMデータに関連付けても良い。複数の音声ファイルが関連付けられた画像の参照時には、それら複数の音声ファイルに関する全ての情報を表示しスクロールさせても良いし、どの音声等を参照するか選択するリストを表示し、選択したものを次画面で表示するなどしても良い。当該画面上に削除ボタンを付加し、該当する音声等を削除する機能を設けても良い。
【0179】
(28) 統合データ表示指示部217は、各種のデータを統合データ検索部213または統合データ編集管理部216から受け取るようにしているが、これらからはキーとなる情報のみ受け取り、統合データ表示指示部217が直接データベース207などにアクセスして情報を収集しても良い。
【0180】
(29) 統合データ分析部214、統合データ編集部215、統合データ編集管理部216および統合データ表示指示部217の機能の一部または全てを医用画像観察装置3に備え、図8乃至図11の処理を医用画像観察装置3にて行うようにしても良い。
【0181】
(30) 静止画ファイルおよび動画ファイルと音声ファイルとの関連付けのルールは任意に設定が可能である。例えば、既に記録された音声ファイルに関連付けられなかった静止画の全てを次に記録される音声ファイルに関連付けても良い。また例えば、音声ファイルに対して、それの録音が開始される前の一定期間に記録された静止画ファイルの全てを関連付けても良い。また例えば、録音が行われていないときに記録された静止画ファイルは、それが記録される前または後に記録された音声ファイルが動画ファイルに関連付けられようとも、当該音声ファイルに対して関連付けても良い。また例えば、音声ファイルに対しては、その録音中に記録された複数の静止画ファイルの一部のみを関連付けても良い。
【0182】
(31) 上記の変形例(30)の一例として示したように1つの音声ファイルに静止画ファイルおよび動画ファイルの双方を関連付ける場合には、これらの音声ファイル、静止画ファイルおよび動画ファイルのそれぞれにDICOM画像を関連付けても良い。
【0183】
(32) 音声再生の要求と画像表示の要求とを個別に受け付けるようにし、音声再生が要求された場合には表示されている画像に関連付けられている音声の再生を行い、画像表示が要求された場合には表示されている画像に関連付けられている別の画像を表示しても良い。
【0184】
(33) ステップSc3においては、互いに関連付けられたDICOM画像と静止画または動画とを並べて表示しても良い。
【0185】
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除しても良い。
【符号の説明】
【0186】
1…医用画像撮影装置、2…医用画像保管装置、3…医用画像観察装置、4…通信ユニット、5…モニタ、6…マイク、7…キーパッド、8…マイク、9…ネットワーク、101…撮影指示部、102…撮影部、103…画像表示指示部、104…画像データ編集部、105…画像データ送信部、201…モニタ画像取得部、202…音声取得部、203…モニタ画像・音声管理部、204…モニタ画像解析部、205…モニタ画像・音声登録部、206…モニタ画像・音声保管部、207…データベース、208…画像データ受信部、209…画像・音声統合管理部、210…DICOMデータ編集部、211…DICOMデータ登録部、212…DICOMデータ保管部、213…統合データ検索部、214…統合データ分析部、215…統合データ編集部、216…統合データ編集管理部、217…統合データ表示指示部、301…統合データ検索指示部、302…統合データ表示再生部、303…音声取得部、304…統合データ編集指示部、501…モニタ画像表示部、601…音声入力部、701…情報・要求入力部、801…音声入力部。

【特許請求の範囲】
【請求項1】
医用画像撮影装置により撮影された医用画像および当該医用画像を医療行為の実施者によりモニタさせるためにモニタ装置にて表示されるモニタ画像の少なくともいずれか一方と前記実施者が発する音声とが互いに関連付けて記憶された記憶媒体にアクセス可能であるとともに、表示デバイスに任意の画像を表示させることが可能であり、さらに音声再生デバイスに任意の音声を再生させることが可能な医用画像処理装置において、
前記記憶媒体に記憶された前記医用画像または前記モニタ画像を前記表示デバイスに表示させる表示制御手段と、
音声再生が要求されたことに応じて、前記表示デバイスに表示させている前記医用画像または前記モニタ画像に関連付けて前記記憶媒体に記憶された前記音声を前記音声再生デバイスに再生させる音声再生制御手段とを具備したことを特徴とする医用画像処理装置。
【請求項2】
前記記憶媒体に記憶された前記音声が表す文章を当該文章を構成する複数の要素を取り出す手段をさらに備え、
前記表示制御手段は、前記記憶媒体に記憶された前記モニタ画像と、当該モニタ画像に関連付けて前記記憶媒体に記憶された前記音声に関して取り出された複数の前記要素のそれぞれを文字により表した音声確認画像とを前記表示デバイスに表示させることを特徴とする請求項1に記載の医用画像処理装置。
【請求項3】
前記表示デバイスに表示されている前記音声確認画像に表された複数の前記要素のそれぞれについて、前記医用画像処理装置の使用者の指示に応じて表示/非表示を設定する手段をさらに備え、
前記表示制御手段は、前記非表示として設定された前記要素を表した文字を前記音声確認画像から除外することを特徴とする請求項2に記載の医用画像処理装置。
【請求項4】
前記音声確認画像に表された複数の前記要素のうちのいずれかを前記医用画像処理装置の使用者の指示に応じて選択する手段をさらに備え、
前記音声制御手段は、前記表示デバイスに表示されている前記モニタ画像に関連付けて前記記憶媒体に記憶された前記音声のうちの前記選択された要素に関連する一部分を前記音声再生デバイスに再生させることを特徴とする請求項2または請求項3に記載の医用画像処理装置。
【請求項5】
前記医用画像処理装置の使用者が発する音声を取得する手段と、
前記表示デバイスでの表示対象となっていて前記記憶手段に記憶されている前記医用画像または前記モニタ画像に関連付けて、取得された前記音声を前記記憶媒体に記憶させる音声記憶制御手段とを更に具備したことを特徴とする請求項1に記載の医用画像処理装置。
【請求項6】
医用画像撮影装置により撮影された医用画像、当該医用画像を医療行為の実施者によりモニタさせるためにモニタ装置にて表示されるモニタ画像、ならびに前記実施者が発する音声が互いに関連付けて記憶された記憶媒体にアクセス可能であるとともに、表示デバイスに任意の画像を表示させることが可能であり、さらに音声再生デバイスに任意の音声を再生させることが可能な医用画像処理装置において、
前記記憶媒体に記憶された前記医用画像または前記モニタ画像を前記表示デバイスに表示させる表示制御手段と、
表示が要求されたことに応じて、前記表示デバイスに表示させている前記医用画像に関連付けて前記記憶媒体に記憶された前記モニタ画像、または前記表示デバイスに表示させている前記モニタ画像に関連付けて前記記憶媒体に記憶された前記医用画像を前記表示デバイスに表示させる関連画像表示制御手段と、
音声再生が要求されたことに応じて、前記表示デバイスに表示させている前記医用画像または前記モニタ画像に関連付けて前記記憶媒体に記憶された前記音声を前記音声再生デバイスに再生させる音声再生制御手段とを具備したことを特徴とする医用画像処理装置。
【請求項7】
記憶媒体にアクセス可能な医用画像処理装置において、
医用画像撮影装置により撮影された医用画像を取得する手段と、
取得された前記モニタ画像を前記記憶媒体に記憶させる画像記憶制御手段と、
前記実施者が発する音声を音声取得期間において取得する手段と、
取得された前記音声を前記記憶媒体に記憶させる音声記憶制御手段と、
前記記憶媒体に記憶された前記音声およびこの音声が取得された前記音声取得期間中に撮影されて前記記憶媒体に記憶された前記医用画像を互いに関連付けて管理する管理手段とを具備したことを特徴とする医用画像処理装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate


【公開番号】特開2013−48990(P2013−48990A)
【公開日】平成25年3月14日(2013.3.14)
【国際特許分類】
【出願番号】特願2012−273496(P2012−273496)
【出願日】平成24年12月14日(2012.12.14)
【分割の表示】特願2008−150899(P2008−150899)の分割
【原出願日】平成20年6月9日(2008.6.9)
【出願人】(000003078)株式会社東芝 (54,554)
【出願人】(594164542)東芝メディカルシステムズ株式会社 (4,066)
【Fターム(参考)】