焦点位置制御装置、内視鏡装置及び焦点位置制御方法
【課題】撮像光学系の撮像方向に対する体内被写体の状況情報を判定することにより、状況に応じた焦点位置の制御が可能な焦点位置制御装置、内視鏡装置及び焦点位置制御方法等を提供する。
【解決手段】焦点位置制御装置は、撮像光学系を介した体内被写体の撮像によって、体内被写体の像を含む体内画像を取得する画像取得部(A/D変換部310に相当)と、取得された体内画像に基づいて、撮像時の撮像光学系の撮像方向に対する体内被写体の状況情報を判定する判定部(正対判定部、静止判定部に相当)と、判定部における判定結果に基づいて、撮像光学系の駆動を制御することで、撮像光学系の焦点位置を制御する焦点位置制御部を含む。
【解決手段】焦点位置制御装置は、撮像光学系を介した体内被写体の撮像によって、体内被写体の像を含む体内画像を取得する画像取得部(A/D変換部310に相当)と、取得された体内画像に基づいて、撮像時の撮像光学系の撮像方向に対する体内被写体の状況情報を判定する判定部(正対判定部、静止判定部に相当)と、判定部における判定結果に基づいて、撮像光学系の駆動を制御することで、撮像光学系の焦点位置を制御する焦点位置制御部を含む。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、焦点位置制御装置、内視鏡装置及び焦点位置制御方法等に関する。
【背景技術】
【0002】
内視鏡のような撮像装置においては、術者の診断に支障をきたさないため、パンフォーカスの画像が求められる。このため、内視鏡では比較的Fナンバーが大きい光学系を使用して被写界深度を深くすることでこのような性能を達成している。しかし近年、内視鏡システムにおいても数十〜百万画素程度の高画素の撮像素子が使用されるようになっている。光学系が一定の場合、その被写界深度は許容錯乱円の大きさによって決定されるが、高画素の撮像素子では画素ピッチと共に許容錯乱円も小さくなるため撮像装置の被写界深度は狭くなる。このため、特許文献1には内視鏡の撮像部に対物光学系の焦点位置を駆動する焦点位置駆動部を設け、被写体に対してオートフォーカス(以下、AF)を行う内視鏡装置が提案されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平8−106060号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
内視鏡における通常観察では、図8(A)に示すように奥行きのある消化管を観察するため、取得される画像上の位置により、対応する被写体までの距離が大きく異なる。そのため、AFを動作させたとしてもピントが合うのは画像の一部分であり、他の部分はぼけてしまう。よって、ユーザーが観察したい領域(例えば病変部等)にピントが合わずユーザーの観察に支障をきたす可能性がある。つまり、AF動作が効果的でない場合もありうるため、AF動作の停止/起動を適切に制御する必要がある。
【0005】
特許文献1では、AF動作の停止/起動の切り替えを操作部に設けられたスイッチで制御する。このため、術者は従来の内視鏡操作に加えて、AF動作の停止/起動の操作を行う必要があり、作業の煩雑性が増すことになる。
【0006】
本発明の幾つかの態様によれば、撮像光学系の撮像方向に対する体内被写体の状況情報を判定することにより、状況に応じた焦点位置の制御が可能な焦点位置制御装置、内視鏡装置及び焦点位置制御方法等を提供することができる。
【課題を解決するための手段】
【0007】
本発明の一態様は、撮像光学系を介した体内被写体の撮像によって、前記体内被写体の像を含む体内画像を取得する画像取得部と、取得された前記体内画像に基づいて、撮像時の前記撮像光学系の撮像方向に対する前記体内被写体の状況情報を判定する判定部と、前記判定部における判定結果に基づいて、前記撮像光学系の駆動を制御することで、前記撮像光学系の焦点位置を制御する焦点位置制御部と、を含む焦点位置制御装置に関係する。
【0008】
本発明の一態様では、体内画像に基づいて撮像方向に対する体内被写体の状況情報を判定する。そして、判定結果に基づいて撮像光学系の焦点位置を制御するため、撮像光学系の撮像方向と体内被写体との相対的な状況に応じた焦点位置制御ができ、ユーザーにとって見やすい画像を提供すること等が可能になる。
【0009】
また、本発明の他の態様は、撮像光学系を介した体内被写体の撮像によって、前記体内被写体の像を含む体内画像を取得する画像取得部と、取得された前記体内画像に基づいて、撮像時の前記撮像光学系の撮像方向に対する前記体内被写体の状況情報を判定する判定部と、前記判定部における判定結果に基づいて、前記撮像光学系の駆動を制御することで、前記撮像光学系の焦点位置を制御する焦点位置制御部と、前記焦点位置制御部の制御に基づいて前記撮像光学系を駆動する焦点位置駆動部と、を含む内視鏡装置に関係する。
【0010】
また、本発明の他の態様は、撮像光学系を介した体内被写体の撮像によって、前記体内被写体の像を含む体内画像を取得し、取得された前記体内画像に基づいて、撮像時の前記撮像光学系の撮像方向に対する前記体内被写体の状況情報を判定し、判定結果に基づいて、前記撮像光学系の駆動を制御することで、前記撮像光学系の焦点位置を制御する焦点位置制御方法に関係する。
【図面の簡単な説明】
【0011】
【図1】本実施形態にかかる焦点位置制御装置を含む内視鏡装置の構成例。
【図2】回転色フィルターの構成例。
【図3】回転色フィルターの分光特性例。
【図4】画像処理部の構成例。
【図5】フォーカスレンズ制御部の構成例。
【図6】評価領域の設定例。
【図7】コントラスト値算出部の構成例。
【図8】図8(A)〜図8(F)は撮像光学系と体内被写体との位置関係、及び当該位置関係において取得される体内画像の例。
【図9】正対判定部の構成例。
【図10】体内画像に対する画像処理に用いられるゲインマップの例。
【図11】図11(A)〜図11(C)はゲインマップによる処理後の体内画像の例。
【図12】図12(A)〜図12(C)は低域抽出後の体内画像の例。
【図13】分割部における体内画像の領域分割例。
【図14】分割された領域と当該領域で算出された輝度値の対応関係を説明する図。
【図15】図15(A)〜図15(C)は撮像光学系と体内被写体との位置関係に応じた明るさ分布の違いと、分割領域との関係を説明する図。
【図16】本実施形態にかかる焦点位置制御装置を含む内視鏡装置の他の構成例。
【図17】フォーカスレンズ制御部の他の構成例。
【図18】フォーカスレンズ制御部の他の構成例。
【図19】静止判定部の構成例。
【図20】フォーカスレンズ制御部の他の構成例。
【図21】体内画像上での代表点の設定例。
【図22】図22(A)〜図22(D)は消失点の検出手法を説明する図。
【発明を実施するための形態】
【0012】
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0013】
本出願人は、撮像光学系の撮像方向に対する体内被写体の状況情報を判定することにより、適切な状態においてAFを実行可能な手法を提案するものであり、具体的には第1の実施形態において、体内被写体が撮像光学系に正対しているか否かを状況情報として用いる。第2の実施形態では、体内被写体が撮像光学系に正対しているか否かに加えて、撮像光学系(具体的には撮像光学系に含まれるズームレンズ等)が望遠端にあるか否かに応じてAFを制御する。第3の実施形態では、体内被写体が撮像光学系に対して相対的に静止しているか否か、及び撮像光学系が望遠端にあるか否かに応じてAFを制御する。第4の実施形態では、体内被写体が撮像光学系に正対しているか否か、体内被写体が撮像光学系に対して相対的に静止しているか否か、及び撮像光学系が望遠端にあるか否かに応じてAFを制御する。
【0014】
1.第1の実施形態
図1に、本実施形態にかかる焦点位置制御装置を含む内視鏡装置の構成例を示す。内視鏡装置は、光源部100、撮像部200、制御装置300(プロセッサ部)、表示部400、外部I/F部500を含む。本実施形態にかかる焦点位置制御装置は、例えば制御装置300に対応する。
【0015】
光源部100は、白色光源110と、複数の分光透過率のフィルターを有する回転色フィルター120を有する。また光源部100は、回転色フィルター120を駆動させる回転駆動部130と、回転色フィルター120を透過した光をライトガイドファイバー210の入射端面に集光させる集光レンズ140を含む。図2に回転色フィルター120の詳細な構成例を示す。回転色フィルター120は、三原色の赤色(以下Rと略す)フィルター701と、緑色(以下Gと略す)フィルター702と、青色(以下Bと略す)フィルター703と、回転モーター704と、から構成されている。図3に、これらの色フィルター701〜703の分光特性例を示す。回転駆動部130は、制御部340からの制御信号に基づいて、撮像素子260の撮像期間と同期して回転色フィルター120を所定回転数で回転させる。例えば、回転色フィルター120を1秒間に20回転させると、各色フィルターは60分の1秒間隔で入射白色光を横切ることになる。この場合、撮像素子260は、60分の1秒間隔で画像信号の撮像と転送を完了することになる。ここで、撮像素子260は例えばモノクロ用撮像素子である。即ち、本実施形態では、3原色の各色光(R或はG或はB)の画像が60分の1秒間隔で撮像される面順次方式の撮像が行われる。
【0016】
撮像部200は、例えば、体腔への挿入を可能にするため細長くかつ湾曲可能に形成されている。撮像部200は、光源部100で集光された光を照明レンズ220に導くためのライトガイドファイバー210と、そのライトガイドファイバー210により先端まで導かれてきた光を拡散させて観察対象(被写体、具体的には体内被写体)に照射する照明レンズ220を含む。また、撮像部200は、観察対象から戻る反射光を集光する対物レンズ230と、焦点位置を調整するための焦点調整レンズ240と、焦点調整レンズ240を駆動するための焦点位置駆動部250と、集光した反射光を検出するための撮像素子260を備えている。焦点位置駆動部250は例えばステッピングモーターであり、焦点調整レンズ240と接続されている。焦点位置駆動部250は焦点調整レンズ240の位置を変更することで焦点位置を調整する。撮像素子260は、例えばモノクロ単板撮像素子であり、例えばCCDやCMOSイメージセンサー等により構成される。
【0017】
制御装置300は、内視鏡装置の各部の制御や画像処理を行う。制御装置300は、A/D変換部310(広義には画像取得部)と、フォーカスレンズ制御部320と、画像処理部330と、制御部340を含む。
【0018】
A/D変換部310によりデジタル信号に変換された画像信号は、画像処理部330に転送される。画像処理部330により処理された画像信号は、フォーカスレンズ制御部320と、表示部400に転送される。フォーカスレンズ制御部320は、焦点位置駆動部250に制御信号を転送することで、焦点調整レンズ240の位置を変更する。制御部340は、内視鏡装置の各部の制御を行う。具体的には制御部340は、回転駆動部130と、フォーカスレンズ制御部320と、画像処理部330の同期を行う。また、外部I/F部500に接続されており、外部I/F部500からの入力に基づき、フォーカスレンズ制御部320と、画像処理部330の制御を行う。
【0019】
表示部400は、動画表示可能な表示装置であり、例えばCRTや液晶モニター等により構成される。
【0020】
外部I/F部500は、内視鏡装置に対する術者からの入力等を行うためのインターフェースである。外部I/F部500は、例えば電源のオン/オフを行うための電源スイッチや、撮影モードやその他各種のモードを切り換えるためのモード切換ボタンなどを含む。外部I/F部500は、入力された情報を制御部340へ転送する。
【0021】
図4に、本実施形態における画像処理部330の詳細な構成例を示す。画像処理部330は、前処理部331と、同時化部332と、後処理部333と、を含む。
【0022】
A/D変換部310は、前処理部331に接続される。前処理部331は、同時化部332に接続される。同時化部332は、後処理部333と、フォーカスレンズ制御部320に接続される。後処理部333は、表示部400に接続される。制御部340は、前処理部331と、同時化部332と、後処理部333と、に接続されており、これらの制御を行う。
【0023】
前処理部331は、A/D変換部310から入力される画像信号に対して、制御部340に予め保存されているOBクランプ値、ゲイン補正値、WB係数値を用いて、OBクランプ処理、ゲイン補正処理、WB補正処理を行う。前処理部331は、前処理後の画像信号を同時化部332へ転送する。
【0024】
同時化部332は、前処理部331により処理された画像信号に対して、制御部340の制御信号に基づいて、面順次の画像信号を同時化する。具体的には、同時化部332は、面順次で入力された各色光(R或はG或はB)の画像信号を1フレーム分ずつ蓄積し、蓄積した各色光の画像信号を同時に読み出す。同時化部332は、同時化された画像信号を、後処理部333とフォーカスレンズ制御部320へ転送する。
【0025】
後処理部333は、同時化後の画像信号に対して、制御部340に予め保存されている階調変換係数や色変換係数、輪郭強調係数を用いて、階調変換処理や色処理、輪郭強調処理を行う。後処理部333は、後処理後の画像信号を表示部400へ転送する。
【0026】
図5に、本実施形態におけるフォーカスレンズ制御部320の詳細な構成例を示す。フォーカスレンズ制御部320は正対判定部321と、評価領域設定部322と、コントラスト値算出部323と、合焦位置検出部324と、焦点位置制御部325を含む。
【0027】
画像処理部330は、正対判定部321と、評価領域設定部322に接続される。正対判定部321は、焦点位置制御部325に接続される。評価領域設定部322は、コントラスト値算出部323に接続される。コントラスト値算出部323は、合焦位置検出部324に接続される。合焦位置検出部324は、焦点位置制御部325に接続される。焦点位置制御部325は、合焦位置検出部324と、焦点位置駆動部250に接続される。制御部340は、正対判定部321と、評価領域設定部322と、コントラスト値算出部323と、合焦位置検出部324と、焦点位置制御部325と、に接続されており、これらの制御を行う。
【0028】
正対判定部321は、画像処理部330から転送された画像信号に基づいて、被写体が撮像部200に正対しているか否かを判定する。正対判定部321は、被写体が撮像部200に正対していると判定した場合は、AF動作を開始する制御信号を、焦点位置制御部325に転送する。一方、被写体が撮像部200に正対していないと判定した場合は、AF動作を停止する制御信号を、焦点位置制御部325に転送する。正対判定部321が行う処理については、詳細に後述する。
【0029】
評価領域設定部322は、画像処理部330から転送された画像信号に対して、コントラスト値を算出するための評価領域を設定する。ここでは図6に示すように、事前に設定した領域を評価領域として設定してもよいし、外部I/F部500から術者が評価領域に関する情報を入力し、これに基づいて画像に任意の評価領域を設定するようにしてもよい。その後、評価領域設定部322は、設定された評価領域情報と画像信号をコントラスト値算出部323に転送する。
【0030】
コントラスト値算出部323は、評価領域情報と画像信号から、評価領域のコントラスト値を算出する。本実施形態では、評価領域設定部322から転送される画像信号は、任意のチャンネルに対してコントラスト値を算出すればよい。また、R,G,Bの3チャンネルの画素値から輝度信号を生成し、生成した輝度信号の画素値に対してコントラスト値を算出してもよい。ここでは例えばコントラスト値算出部323は、評価領域に含まれるすべての画素に対して任意のハイパスフィルター処理を行い、各画素のハイパスフィルター出力値をすべて加算することでコントラスト値を算出すればよい。また、コントラスト値算出部323は、例えば図7に示すようにハイパスフィルター処理を行う高域抽出部3232の前段に輝点除去部3231を備えるような構成としてもよい。ここで例えば輝点除去部3231は、評価領域に含まれるすべての画素における任意のチャンネルもしくは輝度信号の画素値に対して閾値処理を行い、画素値が閾値以上の場合は、輝点と判断して後段のハイパスフィルター処理の出力値を0とする制御信号を転送することで、輝点がコントラスト値に与える影響を低減することができる。その後、コントラスト値算出部323は合焦位置検出部324に評価領域のコントラスト値を転送する。
【0031】
合焦位置検出部324は、焦点位置制御部325から合焦位置を検出する制御信号が転送されると、コントラスト値算出部323から転送されたコントラスト値に基づき、合焦位置を検出する。ここで合焦位置とは、被写体にピントが合っていると考えられる焦点調整レンズ240の位置情報のことである。ここで合焦位置を検出するには、コントラスト値算出部323から順次転送されるコントラスト情報を用いて、コントラスト値のピークを検出する。合焦位置検出部324は、コントラスト値のピーク位置を合焦位置として焦点位置制御部325に転送する。
【0032】
焦点位置制御部325は、位置情報を焦点位置駆動部250に転送し、焦点調整レンズ240の位置を変更する。具体的には、焦点位置制御部325は、正対判定部321からAF動作を開始する制御信号が転送されると、合焦位置検出部324に合焦位置を検出する制御信号を転送する。さらに、公知の山登り法などのAF手法を用いて、焦点調整レンズ240の位置を少しずつ変位させるよう焦点位置駆動部250を制御する。焦点位置制御部325は、合焦位置検出部324から合焦位置情報が転送されると、焦点調整レンズ240を合焦位置に移動させ、AF動作を終了する。一方、焦点位置制御部325は、正対判定部321からAF動作を停止する制御信号が転送された場合は、制御部340に予め保存されている所定の位置に焦点調整レンズ240を移動するよう、焦点位置駆動部250を制御する。
【0033】
図8(A)〜図8(F)を用いて、被写体と撮像部の相対的な位置関係と、画像信号の関係について詳細に説明する。
【0034】
図8(A)に示すように、管腔状の被写体(臓器)において病変をスクリーニングする場合、スコープを被写体と平行にし、スコープを挿入又は抜去しながら観察を行う。しかし、このように奥行きのある被写体に対してAF動作を行うと、術者の関心のある領域と合焦位置が一致するとは限らないため、AF動作は行わないことが望ましい。このときの画像信号は、図8(B)に示すように、画像の中心が暗く、画像周辺にいくほど明るい画像となる。一方、図8(C)に示すように、術者が被写体に関心のある領域が存在する場合、術者はスコープを被写体に近づけるため、スコープを被写体に正対する方向に傾ける。このような場合も、撮像部に対して被写体は奥行きをもつことから、AF動作は行わないことが望ましい。このときの画像信号は、図8(D)に示すように、画像の対角線上で明暗差のある画像となる。また、図8(E)に示すように、術者が被写体を精査する場合は、術者はスコープを被写体に対して正対させる。このような場合は、撮像部に対して被写体の奥行きが十分に小さくなることから、AF動作を行うことが望ましい。このときの画像信号は、図8(F)に示すように、画像の中心が明るく、画像周辺にいくほど暗い画像となる。
【0035】
図9に、本実施形態における正対判定部321の詳細な構成例を示す。正対判定部321は補正部3211と、低域抽出部3212と、分割部3213と、明るさ算出部3214と、比較部3215と、判定部3216を含む。
【0036】
補正部3211は、画像処理部330から転送された画像信号に対して、光学系のシェーディングを補正する。一般的に、内視鏡の光学系は、画像の中心から離れるほど暗くなるシェーディング特性を有する。ここでは、制御部340に予め保存されているゲインマップを、画像信号に乗算することで、シェーディング補正を行う。シェーディン補正に用いるゲインマップを図10に示す。また、図8(B)等で示した各画像信号に対して、シェーディング補正を施した画像信号を図11(A)〜図11(C)に示す。管腔状の被写体に対して撮像部200が平行に位置する場合は、図11(A)に示すように、画像信号の明暗差は、補正前に比べて大きくなる。また、被写体が撮像部200に対して斜めに位置する場合は、図11(B)に示すように、画像信号の明暗差は解消されない。一方、被写体が撮像部200に正対している場合は、図11(C)に示すように、画像信号の明るさは均一になる。シェーディング補正後の画像信号は、低域抽出部3212に転送される。
【0037】
低域抽出部3212は、補正部3211から転送された画像信号に対して低周波成分を抽出する。ここでは、画像信号に対してローパスフィルターを施すことで、画像信号の低周波成分を抽出する。具体的には、画像信号に対してガウシアンフィルターを施す。図11で示した各画像信号に対して、低周波成分を抽出した画像信号を図12(A)〜図12(C)に示す。低周波成分を抽出した画像信号は、画像信号に含まれる(例えば血管のような)微細な構造が除かれ、被写体の明るさ分布を示す画像となる。ここでは、低周波成分を抽出する処理としてガウシアンフィルターを施したが、これに限らず、例えば、平均化フィルターやメディアンフィルター等の公知の平滑化フィルターを用いてもよい。また、画像信号を縮小することで高周波成分を除去し、縮小した画像信号を元の大きさに拡大することで低周波成分を抽出してもよい。低周波成分を抽出した画像信号は、分割部3213に転送される。
【0038】
分割部3213は、低域抽出部3212から転送された画像信号を領域分割する。具体的には、図13に示すように、画像信号を画像中心領域と、その外周に位置する領域とで、9分割する。ここでは、分割する領域を9分割としたが、これに限らず、5分割や17分割としてもよい。領域分割された画像信号は、明るさ算出部3214に転送される。
【0039】
明るさ算出部3214は、分割部3213から転送された画像信号の各領域について明るさを算出する。具体的には、各領域に含まれる画素(x,y)の輝度値Y(x,y)を平均した値を、領域の明るさYとして算出する。ここでは、図14に示すように、領域iの明るさをYiと表記する。算出した各領域の明るさYiは比較部3215に転送される。
【0040】
比較部3215は、明るさ算出部3214から転送された明るさYiを比較することで、領域間の明暗差の最大値を算出する。具体的には、まず下式(1)に示すように画像中心と周辺の明暗差D1を算出する。
【0041】
【数1】
【0042】
続いて、下式(2)に示すように画像周辺の対角方向の明暗差D2〜D5を算出する。
【0043】
【数2】
【0044】
上式(2)において、abs(A)は、Aの絶対値を返す関数である。その後、各領域間の明暗差D1〜D5の最大値Dmaxを算出する。ここで、管腔状の被写体に対して撮像部200が平行に位置する場合は、図15(A)に示すように、画像中心と周辺の明暗差が最大値Dmaxとなる。また、被写体が撮像部200に対して斜めに位置する場合は、図15(B)に示すように、対角方向の明暗差が最大値Dmaxとなる。一方、被写体が撮像部200に正対している場合は、図15(C)に示すように、明暗差D1〜D5のいずれかが最大値Dmaxとなるが、最大値Dmaxの値は図15(A)、図15(B)の場合に比べ十分に小さな値となる。明暗差の最大値Dmaxは、判定部3216に転送される。
【0045】
判定部3216は、比較部3215から転送された明暗差の最大値Dmaxに基づき、被写体が撮像部に対して正対しているか否かの判定を行う。具体的には、明暗差の最大値Dmaxが制御部340に予め保存されている閾値ThDより小さい場合、被写体は撮像部200に正対していると判定する。判定部3216は、被写体が撮像部200に正対していない状態から正対している状態へ変わった場合、焦点位置制御部325にAF動作を開始する制御信号を転送する。一方、判定部3216は、被写体が撮像部に正対している状態から正対していない状態へ変わった場合、焦点位置制御部325にAF動作を停止する制御信号を転送する。ここで、AF動作を安定して行うため、被写体の状態が変わってから、数フレームその状態が保持された場合に、制御信号を転送してもよい。
【0046】
以上のように、本実施形態では、画像信号から撮像部が被写体に正対しているか否かの判定を行い、撮像部が被写体に正対していると判定した場合は、AF動作を開始する。一方、撮像部が被写体に正対していないと判定した場合は、AF動作を停止する。これにより、術者はAF動作の開始/停止の操作を行う必要がなく、シーンに応じた好適な画像を得ることができる。
【0047】
なお、以上ではAFの動作としてシングルAFを想定していたが、これに限定されるものではなく、例えばAFの動作としてコンティニュアスAFを用いてもよい。この場合、全体構成は上述の場合と同様であるが、フォーカスレンズ制御部320の動作が異なる。
【0048】
焦点位置制御部325は、正対判定部321からAF動作を開始する制御信号が転送された場合は、コンティニアスAFを開始する。一方、焦点位置制御部325は、正対判定部321からAF動作を停止する制御信号が転送された場合は、制御部340に予め保存されている所定の位置に焦点調整レンズ240を移動するよう、焦点位置駆動部250を制御する。
【0049】
以下に、本実施形態のコンティニアスAFの流れを記載する。ここで、ウォブリング時の往復幅を±dwとし、焦点調整レンズ240の移動幅(焦点位置の更新値)をdnとして説明する。まず、焦点位置制御部325が、焦点位置駆動部250を介して、焦点調整レンズ240の焦点位置をds−dwに変更する(dsは焦点調整レンズ240の初期位置)。また、焦点位置制御部325は、焦点調整レンズ240の位置情報ds−dwを、合焦位置検出部324に転送する。そして、コントラスト値算出部323が、コントラスト値C-dwを算出する。算出したコントラスト値C-dwを、合焦位置検出部324に転送する。次に、焦点位置制御部325が、焦点位置駆動部250を介して、焦点調整レンズ240の焦点位置をds+dwに変更する。また、焦点位置制御部325は、焦点調整レンズ240の位置情報ds+dwを、合焦位置検出部324に転送する。そして、コントラスト値算出部323が、コントラスト値C+dwを算出する。算出したコントラスト値C+dwを、合焦位置検出部324に転送する。
【0050】
C-dw及びC+dwを算出したら、合焦位置検出部324は、焦点位置制御部325から転送された位置情報と、コントラスト値算出部323から転送されたコントラスト値に基づき、焦点位置の初期値dsを以下の条件に従って更新する。C-dw>C+dwの場合にはdsの値をdnだけ小さくし、C+dw>C-dwの場合にはdsの値をdnだけ大きくする。
【0051】
更新された焦点調整レンズ240の初期位置dsからウォブリング時の往復幅dwを減算した、焦点位置をds−dwを焦点位置制御部325に転送する。その後、同様の処理を繰り返す。
【0052】
なお、上述のdw及びdnの値は、予め一定の値を設定しておいても良いし、外部I/F部500よりユーザーが任意の値を設定する構成としても良い。
【0053】
また、コンティニュアスAFを行う場合には、正対判定部321の動作も異なり、コンティニアスAFのため正対している間は常にAF動作を行う制御信号を送ることになる。判定部3216は、被写体が撮像部200に正対していると判定した場合、焦点位置制御部325にAF動作を開始する制御信号を転送する。一方、判定部3216は、被写体が撮像部に正対していないと判定した場合、焦点位置制御部325にAF動作を停止する制御信号を転送する。
【0054】
なお、本実施形態にかかる焦点位置制御装置で制御される撮像光学系は、ズームレンズを動作させることにより、画角(撮像倍率)を変化させると同時にフォーカスの調整も行うレンズ一群駆動のものを想定している。ただし、これに限定されるものではなく、ズームレンズとフォーカスレンズの位置を独立に調整可能なレンズ二群駆動の撮像光学系を用いてもよい。
【0055】
以上の本実施形態では、焦点位置制御装置は、撮像光学系(図1における対物レンズ230及び焦点調整レンズ240等を含む)を介した体内被写体の像を含む体内画像を取得する画像取得部(図1におけるA/D変換部310に相当)と、体内画像に基づいて、撮像時の撮像光学系の撮像方向に対する体内被写体の状況情報を判定する判定部(図5における正対判定部321や図18における静止判定部326に相当)と、判定部における判定結果に基づいて撮像光学系の焦点位置を制御する焦点位置制御部325(図5)を含む。
【0056】
ここで、撮像光学系の撮像方向とは、撮像光学系を用いて撮像している方向のことであり、撮像光学系の光軸方向であってもよい。また、撮像方向に対する体内被写体の状況情報とは、撮像方向に対して体内被写体がどのような状況にあるかを表す情報である。よって、撮像方向に依存しない体内被写体の状態(例えば、病変部を含むか否か、或いは血管構造が集中しているか否か等の状態)は、本実施形態における状況情報には含まれない。ただし、病変部等の情報は必ずしも状況情報に含まれないものではなく、例えば撮像方向に応じて病変部の大きさや形状が変化し、当該変化に基づいて焦点位置制御に必要な判定が行えるのであれば、病変部の情報が状況情報に含まれることもあり得る。
【0057】
これにより、撮像光学系の撮像方向に対する体内被写体の状況情報に基づいて、撮像光学系の焦点位置を制御することが可能になる。焦点位置の制御とは、具体的には後述するように体内被写体に焦点を合わせる動作(AF動作)であってもよい。この場合には、AF動作を状況情報に応じて制御することが可能になり、適切な状況においてAFを動作させることができる。上述したように、図8(A)のような状況では、体内画像(撮像画像)の画像上位置に応じて、撮像光学系から被写体までの距離が大きく異なることになる。その場合には、AFを動作させたとしても体内画像の一部にしかピントが合わず、ユーザーの観察したい領域がぼけてしまう可能性がある。よって、AFは常に動作させるのではなく、状況情報に基づいてAFが効果的な状況であると判定された場合に動作させるようにするとよい。
【0058】
また、判定部は、撮像光学系の撮像方向に対する体内被写体の姿勢情報、及び、撮像光学系の撮像方向に対する体内被写体の動き情報の少なくとも一方を、体内被写体の状況情報として判定してもよい。
【0059】
ここで姿勢情報とは、例えば撮像方向に対して、体内被写体(撮像対象となる生体の表面)がなす角度等を表す情報であってもよい。例えば、図8(A)は撮像方向に対して体内被写体が平行な姿勢である状況であり、図8(B)は撮像方向に対して体内被写体が斜めの姿勢を取っている。図8(C)は撮像方向に対して体内被写体が垂直或いはそれに近い姿勢を取っている(後述するように、この状態を「正対している」と呼ぶ)。このような姿勢の違いを表す情報が姿勢情報である。また、動き情報とは、撮像光学系と体内被写体の相対的な動きを、撮像方向に関連づけて表した情報である。具体的には動きの方向と動きの量を表す情報等が考えられる。その際には撮像方向を基準方向として、当該基準方向に対する方向として、動きの方向を表現することになる。
【0060】
これにより、体内被写体の状況情報として、具体的に姿勢情報及び動き情報の少なくとも一方を用いることが可能になる。つまり、本実施形態においては、状況情報として撮像光学系と体内被写体の相対的な位置関係情報(位置関係そのものの情報であってもよいし、位置関係の変化を表す情報であってもよい)を用いる。図8(A)等を用いて上述したように、焦点位置の制御(特にAF動作)が効果的であるか否かは、位置関係情報に応じて決まることが想定されるため、状況情報として位置関係情報を用いることで、状況に応じた適切な焦点位置制御が可能となる。
【0061】
また、判定部は、体内被写体が撮像光学系に正対しているか否かに関する情報を、上述した姿勢情報として用いて判定を行う正対判定部321を含んでもよい。そして焦点位置制御部325は、正対判定部321における判定結果に基づいて、撮像光学系の焦点位置を制御する。
【0062】
ここで、体内被写体が撮像光学系に正対しているとは、撮像光学系の撮像方向(光軸方向)と、体内被写体(例えば、生体表面を平面と見なせるのであれば当該平面)とが直交する状態を表すものとする。ただし、必ずしも直交している状態に限定されるものではなく、所与の角度閾値をx(°)とした場合に、撮像方向と体内被写体のなす角度が90±x(°)の範囲に収まっていれば、正対していると判定してもよい。角度閾値xは、システムにより決定されてもよいし、外部I/F部500等からユーザーが入力してもよい。なお本実施形態では、上述したように分割された領域ごとの明るさ情報を用いて正対しているか否かの判定を行っており、判定に用いられる閾値は明るさ情報により表される値の差分値に関するものである。つまり、本実施形態の焦点位置制御装置においては、上述の角度閾値xを用いないケースも十分考えられることになるが、その場合にも、正対しているか否かは、撮像方向と体内被写体が直交或いは直交に近い角度状態にあるか否かに基づいて判定されることに変わりはない。
【0063】
これにより、体内被写体が撮像光学系に正対していると判定されたか否かに基づいて、撮像光学系の焦点位置の制御を行うことが可能になる。図8(A)等の例で言えば、図8(A)及び図8(C)の状態は正対していないと判定され、図8(E)の状態は正対していると判定される。各図において2本の点線の内側に対応する領域が体内画像として撮像されることに鑑みれば、正対している場合には正対していない場合に比べて、体内画像上の画素位置に応じた被写体までの距離の差が小さくなる。つまり、正対している場合には体内画像の広い領域にピントを合うのに対し、正対していない場合には体内画像の狭い領域にしかピントが合わないことが想定される。よって、このような状況の差に応じて適切に焦点位置を制御することで、ユーザーにとって見やすい画像を提供することが可能になる。
【0064】
また、焦点位置制御部325は、正対判定部321において体内被写体が撮像光学系に正対していると判定された場合には、体内被写体に対して焦点を合わせる動作(合焦動作)を開始してもよい。また、体内被写体が撮像光学系に正対していないと判定された場合には、合焦動作を停止して、撮像光学系(具体的には撮像光学系に含まれるズームレンズ等)を所与の位置に移動させてもよい。
【0065】
ここで、正対していない場合に撮像光学系が移動される所与の位置とは、システムによって決定されてもよいし、外部I/F部500等からユーザーが入力してもよい。正対していない場合とは図8(A)のようなケースであり、内視鏡装置を用いたスクリーニング等の状況であることが想定される。この場合、上述したように近い被写体から遠い被写体まで撮像しており、画像上位置に応じた被写体距離差が大きいため、パンフォーカスが必要になる。また、スクリーニングであればズーム倍率はそれほど必要とされない。つまり、撮像光学系を所与の位置に移動させる処理の一例としては、パンフォーカス及び低倍率を実現する位置への移動であり、レンズ一群駆動であれば、ズームレンズ(図1における焦点調整レンズ240に対応)の位置をある程度望遠側(例えば望遠端)に移動させる処理となる。なお、所与の位置に移動されるのはズームレンズに限定されるものではなく、ズームレンズ位置を移動させるとともに、撮像光学系に含まれる他のレンズを移動させてもよい。レンズ二群駆動であれば、ズームレンズとは独立してフォーカスレンズ位置を制御することで、焦点位置を制御することができる。上述したスクリーニング等の場合には、病変部等を発見するためにある程度広い範囲を撮像することが想定され、撮像光学系と体内被写体との距離は、拡大観察時等に比べて大きくなる。よって、ズームレンズ位置の移動により被写界深度を広くしたとしても、当該被写界深度が撮像光学系に近い位置に設定されていたのでは、被写体にピントが合わず観察が困難になる可能性がある。このようなケースに対応するために、レンズ二群駆動ではズームレンズ位置を移動させるとともに、フォーカスレンズ位置も移動させ、撮像光学系からある程度離れた位置に被写界深度を設定するとよい。
【0066】
これにより、正対しているか否かに応じて、撮像している体内被写体への合焦動作を制御する(つまり、AFの制御に相当する)ことが可能になる。上述したように、図8(A)のような状況では、AFを実行したとしても画像上の一部領域にしかピントが合わないところ、ユーザーの観察したい領域を画像から判定すること等は困難であることからAFを実行しても効果的でない。つまり、正対しているか否かの判定に基づいてAFの動作を制御することで、AFが有効な状況においてはAFを動作させ、AFが有効でない状況においてはAFを動作させないことが可能になり、ユーザーの観察(内視鏡装置を用いた診断等)をスムーズにすることができる。
【0067】
また、正対判定部321は、体内画像の画像信号に基づいて、明るさ情報を算出する明るさ算出部3214を含んでもよい。そして、正対判定部321は、明るさ情報に基づいて、体内被写体が撮像光学系に正対しているか否かの判定を行う。
【0068】
ここで、明るさ情報とは、画像信号に含まれる画素の輝度値に基づいて求められる値であるが、これに限定されるものではない。R,G,Bの3チャンネルを用いるのであれば、どれか1つのチャンネルの画素値に基づいて求められてもよいし、他の手法により求められてもよい。
【0069】
これにより、正対しているか否かの判定を画像信号の明るさ情報に基づいて行うことが可能になる。上述したように、正対している状態とは、撮像方向と体内被写体が直交或いはそれに近い(所与の角度範囲内にある)場合を指すものとするが、撮像方向と体内被写体のなす角度を実際に求めることは困難である。明るさ情報を用いることで、厳密な角度の値を求めることなく、撮像方向(光軸)と体内被写体との位置関係を推定することが可能になるため、処理を容易にすることができる。
【0070】
また、正対判定部321は、体内画像を複数の領域に分割する分割部3213を含んでもよい。そして明るさ算出部3214は、分割された領域ごとに明るさ情報を算出する。正対判定部321は、領域ごとに算出された明るさ情報に基づいて、体内被写体が撮像光学系に正対しているか否かの判定を行う。
【0071】
ここで、分割部3213における体内画像の分割は、例えば図13に示したような9領域への分割が考えられる。また、9領域に限定されるものではなく、異なる分割を行ってもよい。
【0072】
これにより、体内画像を複数の領域に分割した上で明るさ情報を求め、正対判定に用いることが可能になる。図12(A)〜図12(C)に示したように、正対しているか否かによって、体内画像における明るさの分布傾向が変化する。なお、図12(A)〜図12(C)は、図10のゲインマップによる処理や、低域抽出処理が行われた後のものである。正対している場合には、図12(C)のように明るさは均一に近くなるのに対して、正対していない場合には、図12(A)のように、中心と周縁で明るさが大きく異なったり、図12(B)のように、上部と下部で明るさが大きく異なったりする(図12(B)については左右、或いは斜め方向における明るさの差であってもよい)。つまり、正対しているか否かの判定は、体内画像上のある領域と、他の領域との明るさ情報の差分値を見ればよいことになり、実際の手法としては分割部3213による領域分割を行うことになる。
【0073】
また、分割部3213は、体内画像を中心領域と少なくとも1つの周縁領域に分割してもよい。そして、中心領域の明るさ情報と、周縁領域の明るさ情報の比較処理に基づいて、体内被写体と撮像光学系の正対判定を行う。
【0074】
ここで例えば、中心領域とは図13における領域1に相当し、周縁領域とは図13における領域2〜9に相当する。ただし、体内画像の全領域が中心領域及び周縁領域のいずれかに含まれるケースに限定されるものではなく、中心領域にも周縁領域にも含まれない領域があってもよいものとする。
【0075】
これにより、中心領域と周縁領域に基づく正対判定が可能になる。具体的には、図12(A)のような状況を、正対していないものと判定することが可能になる。図8(A)のように管空の壁面と撮像方向が平行になる場合には、体内画像の中心領域は撮像光学系からの距離が遠い被写体に対応するため暗くなり、周縁領域は距離が近い被写体に対応するため明るくなることから、中心領域と周縁領域の明るさ情報の比較結果(具体的には明るさ情報により表される値の差が所与の閾値よりも大きいか否かの比較結果)に基づいて、正対している場合(図12(C))と区別可能となる。具体的には式(1)のD1を判定に用いることに相当する。
【0076】
また、分割部3213は、体内画像を中心領域と、第1〜第N(Nは2以上の整数)の周縁領域に分割してもよい。そして、正対判定部321は、第1〜第Nの周縁領域のうちの第i(iは1≦i<Nの整数)〜第j(jはi≦j<Nの整数)の周縁領域における明るさ情報と、第1〜第Nの周縁領域のうちの第k(kはj<k≦Nの整数)〜第m(mはk≦m≦Nの整数)の周縁領域における明るさ情報の比較処理に基づいて、体内被写体と撮像光学系の正対判定を行う。
【0077】
ここで例えば、中心領域とは図13における領域1に相当し、第1〜第Nの周縁領域とは図13における領域2〜9に相当する(つまりN=8であり、第zの周縁領域とは図13における領域z+1になる)。1≦i≦j<k≦m≦Nであることから、例えばi=1、j=4、k=5、m=8の場合には、領域2〜5の明るさ情報と、領域6〜9の明るさ情報の比較となり、右側と左側の明るさの差を判定することになる。なお、第1〜第Nの周縁領域の始点(第1の周縁領域の位置)は図13のものに限定されず、任意の位置から開始してもよい。例えば、図13を基準にして90°時計回りに回転させてもよく、その場合には、領域2〜5が下半分に相当し、領域6〜9が上半分に相当することになり、上下の明るさの差を判定することになる。同様に時計回りの回転を45°或いは135°にすることで、右下と左上、左下と右上といった斜め方向の比較も可能となる。また、i、j、k、mについては上述の条件を満たせばよい。そのため、第i〜第jの周縁領域に含まれる周縁領域の数と、第k〜第mの周縁領域に含まれる周縁領域の数が一致する必要はないし、第1〜第Nの周縁領域の中に、第i〜第j及び第k〜第mの周縁領域に含まれない周縁領域があってもよい。
【0078】
これにより、第1〜第Nの周縁領域に基づく正対判定が可能になる。具体的には上述したように、左右方向・上下方向・斜め方向等、特定の方向における明るさの分布を判定することになる。よって、図12(B)のような状況を、正対していないものと判定することが可能になる。図8(B)のように体内被写体と撮像方向が斜めになる場合には、体内画像の周縁領域の第1の部分(図8(C)では上側)は撮像光学系からの距離が遠い被写体に対応するため暗くなり、周縁領域の第2の部分(図8(C)では下側)は距離が近い被写体に対応するため明るくなる。よって、周縁領域内の第1の部分と第2の部分の明るさ情報の比較結果(具体的には明るさ情報により表される値の差が所与の閾値よりも大きいか否かの比較結果)に基づいて、正対している場合(図12(C))と区別可能となる。上述した本実施形態においては、式(2)のD2〜D5を判定に用いることに相当する。
【0079】
また、正対判定部321は、分割部3213で分割された領域ごとに算出された明るさ情報により表される値が、所与の閾値よりも小さい場合には、体内被写体が撮像光学系に正対していると判定する。
【0080】
これにより、領域ごとに算出された明るさ情報により表される値(例えば輝度値の平均値等)と、所与の閾値との比較処理により正対判定が可能になる。正対している場合には、図12(C)に示したように、体内画像全体において明るさが均一に近くなるため、領域ごとの明るさの差は小さくなる。よって、一例としては、複数の領域の中から2つの領域を抽出し、抽出した領域の明るさ情報により表される値の差分値と閾値との比較処理を、すべての領域抽出の組み合わせ(体内画像がM個の領域に分割されたとすれば、M×(M−1)/2通り)について行う手法が考えられる。ただし、正対しない場合の特徴的な明るさ分布として、図12(A)及び図12(B)が考えられるため、比較処理の処理負担を軽減することも可能である。例えば、上述したように体内画像を中心領域と周縁領域に分割し、中心領域の明るさ情報により表される値と、周縁領域の明るさ情報により表される値から差分値を求め、所与の閾値との比較処理を行ってもよい。また、体内画像を中心領域と第1〜第Nの周縁領域に分割し、第i〜第jの周縁領域の明るさ情報により表される値と、第k〜第mの周縁領域の明るさ情報により表される値から差分値を求め、所与の閾値と比較処理を行ってもよい。
【0081】
また、焦点位置制御装置は、図5に示したように体内画像に対して評価領域を設定する評価領域設定部322と、設定された評価領域のコントラスト値を算出するコントラスト値算出部323とを含んでもよい。そして、焦点位置制御部325は、コントラスト値に基づいて撮像光学系の焦点位置を制御する。
【0082】
ここで、評価領域とは、コントラスト値の算出対象となる領域のことであり、評価領域の位置や大きさ等は、システムによって決定されてもよいし、外部I/F部500等からユーザーが入力してもよい。
【0083】
これにより、コントラスト値を用いた、撮像光学系の焦点位置制御が可能になる。具体的にはコントラストAF等として実現される。
【0084】
また、コントラスト値算出部323は、図7に示したように評価領域に含まれる輝点を除去する輝点除去部3231を含んでもよい。そして、コントラスト値算出部323は、輝点を除去した評価領域のコントラスト値を算出する。
【0085】
これにより、輝点が存在することにより、焦点位置制御への悪影響を抑止することが可能になる。コントラスト値の算出は、例えば評価領域に対してハイパスフィルターを施すことにより求めることが考えられる。つまり、高周波成分が存在するほど、コントラスト値が高くなる。コントラストAFは、本来、被写体に起因する高周波成分(例えば被写体の構造が鮮明である場合に画像信号に含まれる成分等)に基づきコントラスト値を算出し、コントラスト値が高い状態を合焦状態であると判定し、焦点位置を制御する。しかし、輝点が存在してしまうと、輝点は周辺画素との画素値の差が大きい点であるため、被写体の合焦状態とは関係なく高周波成分が現れてしまう。よって、被写体にピントが合っていない状態でもコントラスト値が大きくなる可能性があり、焦点位置制御(AF動作)が適切に行えなくなってしまう。以上の理由から、評価領域に含まれる輝点は、コントラスト値の算出前に除去することが望ましい。
【0086】
また、以上の本実施形態は、撮像光学系(図1における対物レンズ230及び焦点調整レンズ240等を含む)を介した体内被写体の像を含む体内画像を取得する画像取得部(図1におけるA/D変換部310に相当)と、体内画像に基づいて、撮像時の撮像光学系の撮像方向に対する体内被写体の状況情報を判定する判定部(図5における正対判定部321や図18における静止判定部326に相当)と、判定部における判定結果に基づいて撮像光学系の焦点位置を制御する焦点位置制御部325と、焦点位置制御部325の制御に基づいて撮像光学系を駆動する焦点位置駆動部250を含む内視鏡装置に関係する。
【0087】
これにより、撮像光学系の撮像方向に対する体内被写体の状況情報に基づいて、焦点位置の制御し、制御に従って撮像光学系を駆動する内視鏡装置を実現することが可能になる。状況情報とは、上述したように姿勢情報(具体的には正対しているか否か)であってもよいし、動き情報(具体的には第3、第4の実施形態で後述するように、相対的に静止しているか否か)であってもよい。
【0088】
2.第2の実施形態
図16に、本実施形態にかかる焦点位置制御装置を含む内視鏡装置の構成例を示す。第1の実施形態では、焦点調整レンズ240を焦点位置駆動部250で駆動することで、焦点位置及び画角を調整していたが、本実施形態においては図16に示したように、焦点調整レンズ240(狭義にはフォーカスレンズ)を焦点位置駆動部250で駆動して焦点位置を調整するとともに、ズームレンズ270をズームレンズ駆動部280で駆動して画角を調整するものとする。ただし、本実施形態ではレンズ二群駆動の撮像光学系を用いて説明するが、撮像光学系はレンズ一群駆動のものであってもよい。
【0089】
図17に、第2の実施形態におけるフォーカスレンズ制御部320の詳細な構成例を示す。第1の実施の形態とは、焦点位置制御部325の機能が異なる。ズームレンズ制御部350は、焦点位置制御部325に接続される。
【0090】
焦点位置制御部325は、正対判定部321からAF動作を開始する制御信号が転送され、かつ、ズームレンズ制御部350からズームレンズ270が望遠端にあることを示す制御信号が転送された場合は、合焦位置検出部324から転送された合焦位置情報に基づき、焦点位置駆動部250を制御する。一方、焦点位置制御部325は、正対判定部321からAF動作を停止する制御信号が転送された場合、または、ズームレンズ制御部350からズームレンズ270が望遠端にないことを示す制御信号が転送された場合は、制御部340に予め保存されている所定の位置に焦点調整レンズ240を移動するよう、焦点位置駆動部250を制御する。
【0091】
なお、ここではズームレンズ270が望遠端にあることが、合焦動作を行う1つの条件であるものとして説明したが、これに限定されるものではなく、望遠端を含む所与の範囲内にズームレンズ270が位置した場合に合焦動作を行う1つの条件を満たしたと判断してもよい。具体的には後述するように、ズームレンズが基準点よりも望遠側にあり、かつ、正対している場合に合焦動作を行ってもよい。
【0092】
以上のように、本実施形態では、光学系の被写界深度が狭い場合に限り、撮像部が被写体に正対するとAF動作を開始する。これにより、被写体が奥行きをもっている場合はパンフォーカスで観察を行い、拡大観察時等の被写界深度が狭くなる条件ではAF動作を行うことで、シーンに応じた好適な画像を得ることができる。
【0093】
以上の本実施形態では、焦点位置制御部325は、ズームレンズ270(撮像光学系に含まれる)の可動範囲における望遠端と広角端の間に位置する基準点に対して、ズームレンズ270が望遠側に位置し、かつ、正対判定部321において体内被写体と撮像光学系が正対していると判定された場合には、合焦動作を開始する。
【0094】
これにより、第1の実施形態における正対判定に加えて、ズームレンズ270と基準点との位置関係も考慮した上で、合焦動作を行うか否かの制御を行うことが可能になる。一般的な光学特性として、画角が狭くなるほど(ズームレンズ270が望遠端に移動し、倍率が高くなるほど)被写界深度は狭くなる。被写界深度が狭くなれば、ユーザーが手動でピントを合わせることが困難になるため、システムによる自動的な合焦動作(AF動作)を行う利点が大きくなる。逆にズームレンズ270が広角側にある場合には、比較的被写界深度が広いため、AFを用いなくとも手動でピント合わせが行える可能性が高い。また、AFではピントを合わせる領域(コントラストAFであればコントラスト値を算出する評価領域)とユーザーの観察したい領域とが一致せず、AFを行うことでむしろ観察を妨げてしまうことがあることを考慮すれば、AFを動作させないことも選択肢に含めることが望ましい。以上のことから、ズームレンズ270と基準点との位置関係を焦点位置制御の判定条件とすることで、ズームレンズ位置(つまりは被写界深度の幅)を考慮した適切なAF動作を実現することが可能になる。
【0095】
3.第3の実施形態
本実施形態にかかる焦点位置制御装置を含む内視鏡装置の構成例は、第2の実施形態と同様に図16に示したものである。図16に示したように、本実施形態においてはレンズ二群駆動の撮像光学系を用いて説明するが、撮像光学系はレンズ一群駆動のものであってもよい。
【0096】
本実施形態では、第2の実施形態とは、フォーカスレンズ制御部320の動作が異なる。図18に、本実施形態におけるフォーカスレンズ制御部320の詳細な構成例を示す。第2の実施形態から正対判定部321が除かれ、静止判定部326が追加される。画像処理部330は、評価領域設定部322と、静止判定部326に接続される。静止判定部326は、焦点位置制御部325に接続される。
【0097】
図19に、静止判定部326の詳細な構成例を示す。静止判定部326は、記憶部3261と、動き検出部3262と、判定部3263を含む。画像処理部330は、記憶部3261と、動き検出部3262に接続されている。記憶部3261は、動き検出部3262に接続されている。動き検出部3262は、判定部3263に接続されている。判定部3263は、焦点位置制御部325に接続されている。
【0098】
記憶部3261は、画像処理部330から転送された画像信号を記憶する。動き検出部3262は、画像信号から被写体と撮像部との相対的な動きを検出する。具体的には、動き検出部3262は、画像処理部330から入力された画像信号と、記憶部3261に記憶された1フレーム前に取得された画像信号の特徴点をマッチングし、マッチングした特徴点の動きベクトルから動き量Mvを算出する。例えば、動き量Mvは、画像全体の特徴点の動きベクトルの平均である。算出された動き量Mvは判定部3263に転送される。
【0099】
判定部3263は、算出された動き量Mvと所定の閾値ThMv1とを比較し、画像上での被写体の動きが大きいか否かの判定を行う。閾値ThMv1は、予め設定された値を用いてもよいし、制御部340により自動的に設定されてもよい。判定部3263は、動き量Mv1が閾値ThMv1より小さい場合、すなわち被写体の動きが少ない場合には、術者が被写体を詳細に観察している状態であると判断する。この場合、判定部3263は、AF動作を開始する制御信号を焦点位置制御部325に転送する。一方、判定部3263は、動き量Mv1が閾値ThMv1以上である場合、すなわち被写体の動きが大きい場合には、術者が被写体をスクリーニングしている状態であると判断する。この場合、判定部3263はAF動作を停止する制御信号を焦点位置制御部325に転送する。
【0100】
焦点位置制御部325は、静止判定部326からAF動作を開始する制御信号が転送され、かつ、ズームレンズ制御部350からズームレンズ270が望遠端にあることを示す制御信号が転送された場合は、合焦位置検出部324から転送された合焦位置情報に基づき、焦点位置駆動部250を制御する。一方、焦点位置制御部325は、静止判定部326からAF動作を停止する制御信号が転送された場合、または、ズームレンズ制御部350からズームレンズ270が望遠端にないことを示す制御信号が転送された場合は、制御部340に予め保存されている所定の位置に焦点調整レンズ240を移動するよう、焦点位置駆動部250を制御する。
【0101】
以上のように、本実施の形態では、画像信号から撮像部と被写体が相対的に静止しているか否かの判定を行い、撮像部が被写体に対して静止していると判定した場合は、AF動作を開始する。一方、撮像部が被写体に対して静止していないと判定した場合は、AF動作を停止する。これにより、術者はAF動作の開始/停止の操作を行う必要がなく、シーンに応じた好適な画像を得ることができる。
【0102】
なお、以上の説明においては、静止判定部326は静止しているか否かの判定を行っているものであり、動きの方向については考慮していなかった。しかし、撮像部200と被写体との相対的な動きには、撮像部200の撮像方向(光軸方向)に沿った方向での第1の動きと、撮像方向に交差する(狭義には直交する)方向での第2の動きが考えられる。第1の動きがある場合には、撮像部200と被写体との相対的な距離が変動することになるため、被写体が被写界深度から外れてしまう可能性が高くなる。また、撮像されている被写体自体は大きく変化するものではない。よって、この場合には動き量が大きく、静止していないと判定された場合にも、AFが効果的であることが考えられる。つまり、第2の動きについては、上述の通り動き量が小さい(静止している)場合にAFを動作させればよいが、第1の動きについては上述の手法とは異なる動作を行った方がよいケースが考えられる。以上のことから、本実施形態の変形例として、静止判定部326における判定に用いられる動き量として、第1の動きに起因するものは除外し、第2の動きに起因するものを用いる手法について説明する。
【0103】
動き検出部3262は、上述した動きベクトルを算出する際に、現フレーム画像(画像処理部330から出力された画像)の画素に対し一定間隔かつ格子状に代表点を設定する。図21にて代表点を黒丸で示す。そして、代表点における現フレーム画像および前フレーム画像(記憶部3261に記憶された画像)の局所的な動きベクトルを、公知の技術であるブロックマッチング等を用いて検出する。設定した代表点の座標および各代表点において検出した動きベクトルは、判定部3263に出力される。
【0104】
次に判定部3263において、動きベクトルにより表される動きが、第1の動きであるか第2の動きであるかの判定を行う。具体的な判定手法について、図22(A)〜図22(D)を用いて説明する。まず、代表点における動きベクトルに基づいて、前記動きベクトルの消失点を検出する。
【0105】
図22(A)において、黒丸が代表点、実線矢印が動きベクトル、バツ印が消失点をそれぞれ示す。消失点とは、各代表点を始点として各代表点における前記動きベクトルの方向にそれぞれ延長した直線の交点である。観察対象が内径の一定な円筒状であり、前記動きベクトルが撮像部200の動きのみにより生じる場合、第1の動きのときには、直線は消失点において一点で交わる。実際には、観察対象である管腔状臓器の内径は一定ではなく、また動きベクトルは生体拍動によっても生じるため、第1の動きが生じているであっても前記直線が消失点において一点で交わらない。このため、全ての直線からの距離の和を第1の評価値とし、該第1の評価値が最も小さい点をまず消失点候補とする。
【0106】
次に、消失点候補における第1の評価値が所定の第1の閾値以下の場合、かつ消失点候補が画像内に存在する場合には、当該消失点候補を消失点とし、そうでない場合には消失点が検出できないと判定する。ここで、説明のため内視鏡先端の動く方向を図22(B)のように定義する。各x,y,z方向は画像上でそれぞれ、水平方向、鉛直方向、水平方向および鉛直方向と直交する奥行きの方向に対応する。さらに各x,y,z方向について矢印に沿う動きを正の動き、反対の動きを負の動きと定義する。第1の動きがあるでは、撮像部200の先端はz方向負の動きを示す。第1の動きではない場合(例えば第2の動きの場合)、例えば撮像部200の先端の動きがx方向正の動きとなり、図22(C)に示すように前記動きベクトルはほぼ平行となるため、該消失点候補は画像外に存在するか、画像内に存在したとしても当該消失点候補における第1の評価値は大きな値となる。よって消失点の存在を、消失点候補の位置および第1の評価値に基づき検出することで、z方向の動きを検出することができる。但し、図22(D)に示すように、内視鏡を挿入した場合でも該消失点を検出できるため、各代表点から消失点へのベクトル(破線矢印)および前記動きベクトル(実線矢印)に基づいた判定をさらに行う。具体的には、消失点へのベクトルと前記動きベクトルとの内積が負となる代表点が所定の個数以上あれば、消失点が検出できないと判定する。消失点が検出できない場合、その際の動きは第1の動きではないと判定する。
【0107】
以上の本実施形態では、判定部は、体内被写体が撮像光学系に対して相対的に静止しているか否かに関する情報を、第1の実施形態において上述した動き情報として用いて判定を行う静止判定部326を含んでもよい。そして焦点位置制御部325は、静止判定部326における判定結果に基づいて、撮像光学系の焦点位置を制御する。
【0108】
ここで、体内被写体が撮像光学系に対して相対的に静止しているとは、相対的な動きが全くない状態に限定されるものではなく、動きを表す指標値が所与の閾値以下であるような小さな動きがある場合も含むものとする。動きを表す指標値としては、例えば上述したように動き量が用いられることが考えられる。
【0109】
これにより、体内被写体が撮像光学系に相対的に静止していると判定されたか否かに基づいて、撮像光学系の焦点位置の制御を行うことが可能になる。静止していない場合とは、例えば内視鏡装置におけるスクリーニング等の状況が想定される。この場合、ズーム倍率は低くても十分であるため、被写界深度は広くなり焦点位置制御(特にAF動作)を行う利点は大きくない。また、撮像される被写体は短時間の間に大きく変化するため、そのたびに焦点位置制御を行うことになり効率的ではない。よって、静止しているか否かの判定を行うことで、状況に応じた適切な焦点位置制御が可能になる。
【0110】
また、焦点位置制御部325は、静止判定部326において体内被写体が撮像光学系に対して相対的に静止していると判定された場合には、体内被写体に対して焦点を合わせる動作(合焦動作)を開始してもよい。また、体内被写体が相対的に静止していないと判定された場合には、合焦動作を停止して、撮像光学系(具体的には撮像光学系に含まれるズームレンズ270等)を所与の位置に移動させてもよい。
【0111】
ここで、静止していない場合に撮像光学系が移動される所与の位置とは、第1の実施形態で上述した正対していない場合と同様であるため、詳細な説明は省略する。
【0112】
これにより、静止しているか否かに応じて、撮像している体内被写体への合焦動作を制御する(つまり、AFの制御に相当する)ことが可能になる。上述したように、静止していない状態では、AFを実行しても効果的でない。つまり、静止しているか否かの判定に基づいてAFの動作を制御することで、AFが有効な状況においてはAFを動作させ、AFが有効でない状況においてはAFを動作させないことが可能になり、ユーザーの観察(内視鏡装置を用いた診断等)をスムーズにすることができる。
【0113】
また、静止判定部326は、図19に示したように、記憶部3261と、動き検出部3262を含んでもよい。記憶部3261は、第1のタイミングで取得された第1の体内画像と、第1のタイミングとは異なる第2のタイミングで取得された第2の体内画像を記憶する。動き検出部3262は、第1の体内画像と第2の体内画像に基づいて、体内被写体と撮像光学系の相対的な動き量を検出する。そして、静止判定部326は、動き量が所与の閾値よりも小さい場合には、体内被写体が撮像光学系に対して相対的に静止していると判定する。
【0114】
ここで、動き量とは2つの体内画像間での体内被写体の動きの程度を表すものであり、例えば、第1の体内画像と第2の体内画像から求められた動きベクトルの平均値であってもよい。動きベクトルは、例えばマッチング処理等により求められる。
【0115】
これにより、動き量に基づいた静止判定が可能になる。動き量は上述したようにマッチング処理等の比較的単純なアルゴリズムから求めることができるため、動き量に基づいた静止判定は容易に実現可能である。
【0116】
また、撮像光学系の撮像方向(光軸方向)に沿った、体内被写体の撮像光学系に対する相対的な動きである第1の動きと、撮像光学系の撮像方向(光軸方向)に交差する方向に沿った、体内被写体の撮像光学系に対する相対的な動きである第2の動きを考える。この場合に、静止判定部326は、第1の動きと第2の動きのうち、第2の動きに基づいて、体内被写体が撮像光学系に対して相対的に静止しているか否かの判定を行ってもよい。
【0117】
ここで、第1の動きとは、狭義には撮像光学系の光軸方向の動きを表すものであるが、光軸方向となす角度が所与の角度閾値以下となる動きも含むものとする。同様に、第2の動きとは、狭義には撮像光学系の光軸方向に直交する方向での動きを表すものであるが、光軸に直交する方向となす角度が所与の角度閾値以下となる動きも含むものとする。
【0118】
これにより、第1の動きと第2の動きがあった場合に、第2の動きに基づいて静止判定を行うことが可能になる。第2の動きがある(第2の動きに起因する動き量が閾値よりも大きい)場合とは、上述したとおり撮像対象となる被写体が大きく変化したり、内視鏡装置によるスクリーニングが想定されたりする状況に対応するため、本実施形態で述べたとおりに静止判定に用いても(具体的には静止している場合にAFを動作させ、静止していない場合にはAFを動作させない等の処理を行っても)問題ない。しかし、第1の動きとは、撮像対象となる被写体は大きく変化せず、体内画像における被写体の大きさが変化するものである。よって、第1の動きがある場合とは、ユーザーは同一の被写体の継続的な観察を望んでいることが想定される。さらに、動きにより体内被写体と撮像光学系の距離が変化するため、体内被写体が被写界深度の範囲から外れ、ぼけてしまう可能性も高い。つまり、第1の動きとは動きが大きい(静止していない)と判定された場合にも、積極的に焦点位置の制御を行う(例えばAFを動作させる)ことが望ましい。以上の理由から、静止判定部326において実行される本実施形態の静止判定においては、第1の動きと第2の動きのうちの第2の動きを用いるとよい。
【0119】
また、静止判定部326は、体内画像上に設定された複数の代表点における複数の動きベクトルに基づいて、消失点の検出処理を行い、消失点の検出結果に基づいて、体内被写体が撮像光学系に対して相対的に静止しているか否かを判定してもよい。
【0120】
これにより、体内画像において消失点の検出処理を行うことで、静止判定を行うことが可能になる。消失点の有無により、体内被写体と撮像光学系の相対的な動きの方向が推定できるため、推定した相対的な動きの方向を考慮した静止判定を行うことができる。具体的には、消失点の検出処理により、体内被写体と撮像光学系との相対的な動きが、第1の動きに属する動きであるか第2の動きに属する動きであるかを判定し、第2の動きに属する動きであると判定された場合に、静止判定を行ってもよい。例えば、図22(A)、図22(D)に示したように、消失点が検出された場合の動きを第2の動きと判定し、図22(C)に示したように、消失点が検出されなかった場合の動きを第1の動きと判定する。なお消失点の検出処理は、上述したように、動きベクトルを延長した直線との距離の総和が最も小さい点を消失点候補とした場合に、消失点候補が体内画像内に存在し、かつ、第1の評価値が閾値以下であるか否かの判定によって行ってもよい。この際、第1の評価値とは、動きベクトルを延長した直線との距離の総和をそのまま用いればよい。
【0121】
また、焦点位置制御部325は、ズームレンズ270(撮像光学系に含まれる)の可動範囲における望遠端と広角端の間に位置する基準点に対して、ズームレンズ270が望遠側に位置し、かつ、静止判定部326において体内被写体と撮像光学系が相対的に静止していると判定された場合には、合焦動作を開始してもよい。
【0122】
これにより、静止判定に加えて、ズームレンズ270と基準点との位置関係も考慮した上で、合焦動作を行うか否かの制御を行うことが可能になる。ズームレンズ位置を考慮することの利点については、第2の実施形態の場合と同様であるため詳細な説明は省略する。
【0123】
4.第4の実施形態
本実施形態にかかる焦点位置制御装置を含む内視鏡装置の構成例は、第2の実施形態と同様に図16に示したものである。図16に示したように、本実施形態においてはレンズ二群駆動の撮像光学系を用いて説明するが、撮像光学系はレンズ一群駆動のものであってもよい。
【0124】
本実施形態では、第2の実施の形態とは、フォーカスレンズ制御部320の動作が異なる。図20に、第4の実施形態におけるフォーカスレンズ制御部320の詳細な構成例を示す。第2の実施形態に静止判定部326が追加される。画像処理部330は、正対判定部321と、評価領域設定部322と、静止判定部326に接続される。静止判定部326は、焦点位置制御部325に接続される。
【0125】
静止判定部326の構成、動作は第3の実施形態と同様である。焦点位置制御部325は、正対判定部321からAF動作を開始する制御信号が転送され、かつ、静止判定部326からAF動作を開始する制御信号が転送され、かつ、ズームレンズ制御部350からズームレンズ240が望遠端にあることを示す制御信号が転送された場合は、合焦位置検出部324から転送された合焦位置情報に基づき、焦点位置駆動部250を制御する。一方、焦点位置制御部325は、正対判定部321からAF動作を停止する制御信号が転送された場合、または、静止判定部326からAF動作を停止する制御信号が転送された場合、または、ズームレンズ制御部350からズームレンズ270が望遠端にないことを示す制御信号が転送された場合は、制御部340に予め保存されている所定の位置に焦点調整レンズ240を移動するよう、焦点位置駆動部250を制御する。
【0126】
以上の本実施形態では、判定部は、体内画像に基づいて、体内被写体が撮像光学系に正対しているか否かを、姿勢情報として判定する正対判定部321と、体内画像に基づいて、体内被写体が撮像光学系に対して相対的に静止しているか否かを、動き情報として判定する静止判定部326を含む。そして、焦点位置制御部325は、正対判定部321において正対していると判定され、かつ、静止判定部326において静止していると判定された場合に、合焦動作を開始する。
【0127】
これにより、第1の実施形態において述べた正対判定と、第3の実施形態において述べた静止判定の両方の判定を行った上で、合焦動作を開始させる(AFを動作させる)ことが可能になる。よって、AFが効果的ではない或いはAFが不要である状況において、AFを動作させてしまうことを抑止することができ、ユーザーにとって見やすい画像を提供することが可能になる。
【0128】
また、焦点位置制御部325は、ズームレンズ270(撮像光学系に含まれる)の可動範囲における望遠端と広角端の間に位置する基準点に対して、ズームレンズ270が望遠側に位置し、かつ、正対判定部321において体内被写体と撮像光学系が正対していると判定され、かつ、静止判定部326において体内被写体と撮像光学系が相対的に静止していると判定された場合には、合焦動作を開始してもよい。
【0129】
これにより、正対判定・静止判定に加えて、ズームレンズ270と基準点との位置関係も考慮した上で、合焦動作を行うか否かの制御を行うことが可能になる。ズームレンズ位置を考慮することの利点については、第2の実施形態の場合と同様であるため詳細な説明は省略する。
【0130】
以上、本発明を適用した4つの実施の形態1〜4およびその変形例について説明したが、本発明は、各実施の形態1〜4やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜4や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜4や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
【符号の説明】
【0131】
100 光源部、110 白色光源、120 回転色フィルター、130 回転駆動部、
140 集光レンズ、200 撮像部、210 ライトガイドファイバー、
220 照明レンズ、230 対物レンズ、240 焦点調整レンズ、
250 焦点位置駆動部、260 撮像素子、270 ズームレンズ、
280 ズームレンズ駆動部、300 制御装置、310 A/D変換部、
320 フォーカスレンズ制御部、321 正対判定部、322 評価領域設定部、
323 コントラスト値算出部、324 合焦位置検出部、
325 焦点位置制御部、326 静止判定部、330 画像処理部、
331 前処理部、332 同時化部、333 後処理部、340 制御部、
350 ズームレンズ制御部、400 表示部、500 外部I/F部、
3211 補正部、3212 低域抽出部、3213 分割部、
3214 明るさ算出部、3215 比較部、3216 判定部、
3231 輝点除去部、3232 高域抽出部、3261 記憶部、
3262 検出部、3263 判定部
【技術分野】
【0001】
本発明は、焦点位置制御装置、内視鏡装置及び焦点位置制御方法等に関する。
【背景技術】
【0002】
内視鏡のような撮像装置においては、術者の診断に支障をきたさないため、パンフォーカスの画像が求められる。このため、内視鏡では比較的Fナンバーが大きい光学系を使用して被写界深度を深くすることでこのような性能を達成している。しかし近年、内視鏡システムにおいても数十〜百万画素程度の高画素の撮像素子が使用されるようになっている。光学系が一定の場合、その被写界深度は許容錯乱円の大きさによって決定されるが、高画素の撮像素子では画素ピッチと共に許容錯乱円も小さくなるため撮像装置の被写界深度は狭くなる。このため、特許文献1には内視鏡の撮像部に対物光学系の焦点位置を駆動する焦点位置駆動部を設け、被写体に対してオートフォーカス(以下、AF)を行う内視鏡装置が提案されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開平8−106060号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
内視鏡における通常観察では、図8(A)に示すように奥行きのある消化管を観察するため、取得される画像上の位置により、対応する被写体までの距離が大きく異なる。そのため、AFを動作させたとしてもピントが合うのは画像の一部分であり、他の部分はぼけてしまう。よって、ユーザーが観察したい領域(例えば病変部等)にピントが合わずユーザーの観察に支障をきたす可能性がある。つまり、AF動作が効果的でない場合もありうるため、AF動作の停止/起動を適切に制御する必要がある。
【0005】
特許文献1では、AF動作の停止/起動の切り替えを操作部に設けられたスイッチで制御する。このため、術者は従来の内視鏡操作に加えて、AF動作の停止/起動の操作を行う必要があり、作業の煩雑性が増すことになる。
【0006】
本発明の幾つかの態様によれば、撮像光学系の撮像方向に対する体内被写体の状況情報を判定することにより、状況に応じた焦点位置の制御が可能な焦点位置制御装置、内視鏡装置及び焦点位置制御方法等を提供することができる。
【課題を解決するための手段】
【0007】
本発明の一態様は、撮像光学系を介した体内被写体の撮像によって、前記体内被写体の像を含む体内画像を取得する画像取得部と、取得された前記体内画像に基づいて、撮像時の前記撮像光学系の撮像方向に対する前記体内被写体の状況情報を判定する判定部と、前記判定部における判定結果に基づいて、前記撮像光学系の駆動を制御することで、前記撮像光学系の焦点位置を制御する焦点位置制御部と、を含む焦点位置制御装置に関係する。
【0008】
本発明の一態様では、体内画像に基づいて撮像方向に対する体内被写体の状況情報を判定する。そして、判定結果に基づいて撮像光学系の焦点位置を制御するため、撮像光学系の撮像方向と体内被写体との相対的な状況に応じた焦点位置制御ができ、ユーザーにとって見やすい画像を提供すること等が可能になる。
【0009】
また、本発明の他の態様は、撮像光学系を介した体内被写体の撮像によって、前記体内被写体の像を含む体内画像を取得する画像取得部と、取得された前記体内画像に基づいて、撮像時の前記撮像光学系の撮像方向に対する前記体内被写体の状況情報を判定する判定部と、前記判定部における判定結果に基づいて、前記撮像光学系の駆動を制御することで、前記撮像光学系の焦点位置を制御する焦点位置制御部と、前記焦点位置制御部の制御に基づいて前記撮像光学系を駆動する焦点位置駆動部と、を含む内視鏡装置に関係する。
【0010】
また、本発明の他の態様は、撮像光学系を介した体内被写体の撮像によって、前記体内被写体の像を含む体内画像を取得し、取得された前記体内画像に基づいて、撮像時の前記撮像光学系の撮像方向に対する前記体内被写体の状況情報を判定し、判定結果に基づいて、前記撮像光学系の駆動を制御することで、前記撮像光学系の焦点位置を制御する焦点位置制御方法に関係する。
【図面の簡単な説明】
【0011】
【図1】本実施形態にかかる焦点位置制御装置を含む内視鏡装置の構成例。
【図2】回転色フィルターの構成例。
【図3】回転色フィルターの分光特性例。
【図4】画像処理部の構成例。
【図5】フォーカスレンズ制御部の構成例。
【図6】評価領域の設定例。
【図7】コントラスト値算出部の構成例。
【図8】図8(A)〜図8(F)は撮像光学系と体内被写体との位置関係、及び当該位置関係において取得される体内画像の例。
【図9】正対判定部の構成例。
【図10】体内画像に対する画像処理に用いられるゲインマップの例。
【図11】図11(A)〜図11(C)はゲインマップによる処理後の体内画像の例。
【図12】図12(A)〜図12(C)は低域抽出後の体内画像の例。
【図13】分割部における体内画像の領域分割例。
【図14】分割された領域と当該領域で算出された輝度値の対応関係を説明する図。
【図15】図15(A)〜図15(C)は撮像光学系と体内被写体との位置関係に応じた明るさ分布の違いと、分割領域との関係を説明する図。
【図16】本実施形態にかかる焦点位置制御装置を含む内視鏡装置の他の構成例。
【図17】フォーカスレンズ制御部の他の構成例。
【図18】フォーカスレンズ制御部の他の構成例。
【図19】静止判定部の構成例。
【図20】フォーカスレンズ制御部の他の構成例。
【図21】体内画像上での代表点の設定例。
【図22】図22(A)〜図22(D)は消失点の検出手法を説明する図。
【発明を実施するための形態】
【0012】
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0013】
本出願人は、撮像光学系の撮像方向に対する体内被写体の状況情報を判定することにより、適切な状態においてAFを実行可能な手法を提案するものであり、具体的には第1の実施形態において、体内被写体が撮像光学系に正対しているか否かを状況情報として用いる。第2の実施形態では、体内被写体が撮像光学系に正対しているか否かに加えて、撮像光学系(具体的には撮像光学系に含まれるズームレンズ等)が望遠端にあるか否かに応じてAFを制御する。第3の実施形態では、体内被写体が撮像光学系に対して相対的に静止しているか否か、及び撮像光学系が望遠端にあるか否かに応じてAFを制御する。第4の実施形態では、体内被写体が撮像光学系に正対しているか否か、体内被写体が撮像光学系に対して相対的に静止しているか否か、及び撮像光学系が望遠端にあるか否かに応じてAFを制御する。
【0014】
1.第1の実施形態
図1に、本実施形態にかかる焦点位置制御装置を含む内視鏡装置の構成例を示す。内視鏡装置は、光源部100、撮像部200、制御装置300(プロセッサ部)、表示部400、外部I/F部500を含む。本実施形態にかかる焦点位置制御装置は、例えば制御装置300に対応する。
【0015】
光源部100は、白色光源110と、複数の分光透過率のフィルターを有する回転色フィルター120を有する。また光源部100は、回転色フィルター120を駆動させる回転駆動部130と、回転色フィルター120を透過した光をライトガイドファイバー210の入射端面に集光させる集光レンズ140を含む。図2に回転色フィルター120の詳細な構成例を示す。回転色フィルター120は、三原色の赤色(以下Rと略す)フィルター701と、緑色(以下Gと略す)フィルター702と、青色(以下Bと略す)フィルター703と、回転モーター704と、から構成されている。図3に、これらの色フィルター701〜703の分光特性例を示す。回転駆動部130は、制御部340からの制御信号に基づいて、撮像素子260の撮像期間と同期して回転色フィルター120を所定回転数で回転させる。例えば、回転色フィルター120を1秒間に20回転させると、各色フィルターは60分の1秒間隔で入射白色光を横切ることになる。この場合、撮像素子260は、60分の1秒間隔で画像信号の撮像と転送を完了することになる。ここで、撮像素子260は例えばモノクロ用撮像素子である。即ち、本実施形態では、3原色の各色光(R或はG或はB)の画像が60分の1秒間隔で撮像される面順次方式の撮像が行われる。
【0016】
撮像部200は、例えば、体腔への挿入を可能にするため細長くかつ湾曲可能に形成されている。撮像部200は、光源部100で集光された光を照明レンズ220に導くためのライトガイドファイバー210と、そのライトガイドファイバー210により先端まで導かれてきた光を拡散させて観察対象(被写体、具体的には体内被写体)に照射する照明レンズ220を含む。また、撮像部200は、観察対象から戻る反射光を集光する対物レンズ230と、焦点位置を調整するための焦点調整レンズ240と、焦点調整レンズ240を駆動するための焦点位置駆動部250と、集光した反射光を検出するための撮像素子260を備えている。焦点位置駆動部250は例えばステッピングモーターであり、焦点調整レンズ240と接続されている。焦点位置駆動部250は焦点調整レンズ240の位置を変更することで焦点位置を調整する。撮像素子260は、例えばモノクロ単板撮像素子であり、例えばCCDやCMOSイメージセンサー等により構成される。
【0017】
制御装置300は、内視鏡装置の各部の制御や画像処理を行う。制御装置300は、A/D変換部310(広義には画像取得部)と、フォーカスレンズ制御部320と、画像処理部330と、制御部340を含む。
【0018】
A/D変換部310によりデジタル信号に変換された画像信号は、画像処理部330に転送される。画像処理部330により処理された画像信号は、フォーカスレンズ制御部320と、表示部400に転送される。フォーカスレンズ制御部320は、焦点位置駆動部250に制御信号を転送することで、焦点調整レンズ240の位置を変更する。制御部340は、内視鏡装置の各部の制御を行う。具体的には制御部340は、回転駆動部130と、フォーカスレンズ制御部320と、画像処理部330の同期を行う。また、外部I/F部500に接続されており、外部I/F部500からの入力に基づき、フォーカスレンズ制御部320と、画像処理部330の制御を行う。
【0019】
表示部400は、動画表示可能な表示装置であり、例えばCRTや液晶モニター等により構成される。
【0020】
外部I/F部500は、内視鏡装置に対する術者からの入力等を行うためのインターフェースである。外部I/F部500は、例えば電源のオン/オフを行うための電源スイッチや、撮影モードやその他各種のモードを切り換えるためのモード切換ボタンなどを含む。外部I/F部500は、入力された情報を制御部340へ転送する。
【0021】
図4に、本実施形態における画像処理部330の詳細な構成例を示す。画像処理部330は、前処理部331と、同時化部332と、後処理部333と、を含む。
【0022】
A/D変換部310は、前処理部331に接続される。前処理部331は、同時化部332に接続される。同時化部332は、後処理部333と、フォーカスレンズ制御部320に接続される。後処理部333は、表示部400に接続される。制御部340は、前処理部331と、同時化部332と、後処理部333と、に接続されており、これらの制御を行う。
【0023】
前処理部331は、A/D変換部310から入力される画像信号に対して、制御部340に予め保存されているOBクランプ値、ゲイン補正値、WB係数値を用いて、OBクランプ処理、ゲイン補正処理、WB補正処理を行う。前処理部331は、前処理後の画像信号を同時化部332へ転送する。
【0024】
同時化部332は、前処理部331により処理された画像信号に対して、制御部340の制御信号に基づいて、面順次の画像信号を同時化する。具体的には、同時化部332は、面順次で入力された各色光(R或はG或はB)の画像信号を1フレーム分ずつ蓄積し、蓄積した各色光の画像信号を同時に読み出す。同時化部332は、同時化された画像信号を、後処理部333とフォーカスレンズ制御部320へ転送する。
【0025】
後処理部333は、同時化後の画像信号に対して、制御部340に予め保存されている階調変換係数や色変換係数、輪郭強調係数を用いて、階調変換処理や色処理、輪郭強調処理を行う。後処理部333は、後処理後の画像信号を表示部400へ転送する。
【0026】
図5に、本実施形態におけるフォーカスレンズ制御部320の詳細な構成例を示す。フォーカスレンズ制御部320は正対判定部321と、評価領域設定部322と、コントラスト値算出部323と、合焦位置検出部324と、焦点位置制御部325を含む。
【0027】
画像処理部330は、正対判定部321と、評価領域設定部322に接続される。正対判定部321は、焦点位置制御部325に接続される。評価領域設定部322は、コントラスト値算出部323に接続される。コントラスト値算出部323は、合焦位置検出部324に接続される。合焦位置検出部324は、焦点位置制御部325に接続される。焦点位置制御部325は、合焦位置検出部324と、焦点位置駆動部250に接続される。制御部340は、正対判定部321と、評価領域設定部322と、コントラスト値算出部323と、合焦位置検出部324と、焦点位置制御部325と、に接続されており、これらの制御を行う。
【0028】
正対判定部321は、画像処理部330から転送された画像信号に基づいて、被写体が撮像部200に正対しているか否かを判定する。正対判定部321は、被写体が撮像部200に正対していると判定した場合は、AF動作を開始する制御信号を、焦点位置制御部325に転送する。一方、被写体が撮像部200に正対していないと判定した場合は、AF動作を停止する制御信号を、焦点位置制御部325に転送する。正対判定部321が行う処理については、詳細に後述する。
【0029】
評価領域設定部322は、画像処理部330から転送された画像信号に対して、コントラスト値を算出するための評価領域を設定する。ここでは図6に示すように、事前に設定した領域を評価領域として設定してもよいし、外部I/F部500から術者が評価領域に関する情報を入力し、これに基づいて画像に任意の評価領域を設定するようにしてもよい。その後、評価領域設定部322は、設定された評価領域情報と画像信号をコントラスト値算出部323に転送する。
【0030】
コントラスト値算出部323は、評価領域情報と画像信号から、評価領域のコントラスト値を算出する。本実施形態では、評価領域設定部322から転送される画像信号は、任意のチャンネルに対してコントラスト値を算出すればよい。また、R,G,Bの3チャンネルの画素値から輝度信号を生成し、生成した輝度信号の画素値に対してコントラスト値を算出してもよい。ここでは例えばコントラスト値算出部323は、評価領域に含まれるすべての画素に対して任意のハイパスフィルター処理を行い、各画素のハイパスフィルター出力値をすべて加算することでコントラスト値を算出すればよい。また、コントラスト値算出部323は、例えば図7に示すようにハイパスフィルター処理を行う高域抽出部3232の前段に輝点除去部3231を備えるような構成としてもよい。ここで例えば輝点除去部3231は、評価領域に含まれるすべての画素における任意のチャンネルもしくは輝度信号の画素値に対して閾値処理を行い、画素値が閾値以上の場合は、輝点と判断して後段のハイパスフィルター処理の出力値を0とする制御信号を転送することで、輝点がコントラスト値に与える影響を低減することができる。その後、コントラスト値算出部323は合焦位置検出部324に評価領域のコントラスト値を転送する。
【0031】
合焦位置検出部324は、焦点位置制御部325から合焦位置を検出する制御信号が転送されると、コントラスト値算出部323から転送されたコントラスト値に基づき、合焦位置を検出する。ここで合焦位置とは、被写体にピントが合っていると考えられる焦点調整レンズ240の位置情報のことである。ここで合焦位置を検出するには、コントラスト値算出部323から順次転送されるコントラスト情報を用いて、コントラスト値のピークを検出する。合焦位置検出部324は、コントラスト値のピーク位置を合焦位置として焦点位置制御部325に転送する。
【0032】
焦点位置制御部325は、位置情報を焦点位置駆動部250に転送し、焦点調整レンズ240の位置を変更する。具体的には、焦点位置制御部325は、正対判定部321からAF動作を開始する制御信号が転送されると、合焦位置検出部324に合焦位置を検出する制御信号を転送する。さらに、公知の山登り法などのAF手法を用いて、焦点調整レンズ240の位置を少しずつ変位させるよう焦点位置駆動部250を制御する。焦点位置制御部325は、合焦位置検出部324から合焦位置情報が転送されると、焦点調整レンズ240を合焦位置に移動させ、AF動作を終了する。一方、焦点位置制御部325は、正対判定部321からAF動作を停止する制御信号が転送された場合は、制御部340に予め保存されている所定の位置に焦点調整レンズ240を移動するよう、焦点位置駆動部250を制御する。
【0033】
図8(A)〜図8(F)を用いて、被写体と撮像部の相対的な位置関係と、画像信号の関係について詳細に説明する。
【0034】
図8(A)に示すように、管腔状の被写体(臓器)において病変をスクリーニングする場合、スコープを被写体と平行にし、スコープを挿入又は抜去しながら観察を行う。しかし、このように奥行きのある被写体に対してAF動作を行うと、術者の関心のある領域と合焦位置が一致するとは限らないため、AF動作は行わないことが望ましい。このときの画像信号は、図8(B)に示すように、画像の中心が暗く、画像周辺にいくほど明るい画像となる。一方、図8(C)に示すように、術者が被写体に関心のある領域が存在する場合、術者はスコープを被写体に近づけるため、スコープを被写体に正対する方向に傾ける。このような場合も、撮像部に対して被写体は奥行きをもつことから、AF動作は行わないことが望ましい。このときの画像信号は、図8(D)に示すように、画像の対角線上で明暗差のある画像となる。また、図8(E)に示すように、術者が被写体を精査する場合は、術者はスコープを被写体に対して正対させる。このような場合は、撮像部に対して被写体の奥行きが十分に小さくなることから、AF動作を行うことが望ましい。このときの画像信号は、図8(F)に示すように、画像の中心が明るく、画像周辺にいくほど暗い画像となる。
【0035】
図9に、本実施形態における正対判定部321の詳細な構成例を示す。正対判定部321は補正部3211と、低域抽出部3212と、分割部3213と、明るさ算出部3214と、比較部3215と、判定部3216を含む。
【0036】
補正部3211は、画像処理部330から転送された画像信号に対して、光学系のシェーディングを補正する。一般的に、内視鏡の光学系は、画像の中心から離れるほど暗くなるシェーディング特性を有する。ここでは、制御部340に予め保存されているゲインマップを、画像信号に乗算することで、シェーディング補正を行う。シェーディン補正に用いるゲインマップを図10に示す。また、図8(B)等で示した各画像信号に対して、シェーディング補正を施した画像信号を図11(A)〜図11(C)に示す。管腔状の被写体に対して撮像部200が平行に位置する場合は、図11(A)に示すように、画像信号の明暗差は、補正前に比べて大きくなる。また、被写体が撮像部200に対して斜めに位置する場合は、図11(B)に示すように、画像信号の明暗差は解消されない。一方、被写体が撮像部200に正対している場合は、図11(C)に示すように、画像信号の明るさは均一になる。シェーディング補正後の画像信号は、低域抽出部3212に転送される。
【0037】
低域抽出部3212は、補正部3211から転送された画像信号に対して低周波成分を抽出する。ここでは、画像信号に対してローパスフィルターを施すことで、画像信号の低周波成分を抽出する。具体的には、画像信号に対してガウシアンフィルターを施す。図11で示した各画像信号に対して、低周波成分を抽出した画像信号を図12(A)〜図12(C)に示す。低周波成分を抽出した画像信号は、画像信号に含まれる(例えば血管のような)微細な構造が除かれ、被写体の明るさ分布を示す画像となる。ここでは、低周波成分を抽出する処理としてガウシアンフィルターを施したが、これに限らず、例えば、平均化フィルターやメディアンフィルター等の公知の平滑化フィルターを用いてもよい。また、画像信号を縮小することで高周波成分を除去し、縮小した画像信号を元の大きさに拡大することで低周波成分を抽出してもよい。低周波成分を抽出した画像信号は、分割部3213に転送される。
【0038】
分割部3213は、低域抽出部3212から転送された画像信号を領域分割する。具体的には、図13に示すように、画像信号を画像中心領域と、その外周に位置する領域とで、9分割する。ここでは、分割する領域を9分割としたが、これに限らず、5分割や17分割としてもよい。領域分割された画像信号は、明るさ算出部3214に転送される。
【0039】
明るさ算出部3214は、分割部3213から転送された画像信号の各領域について明るさを算出する。具体的には、各領域に含まれる画素(x,y)の輝度値Y(x,y)を平均した値を、領域の明るさYとして算出する。ここでは、図14に示すように、領域iの明るさをYiと表記する。算出した各領域の明るさYiは比較部3215に転送される。
【0040】
比較部3215は、明るさ算出部3214から転送された明るさYiを比較することで、領域間の明暗差の最大値を算出する。具体的には、まず下式(1)に示すように画像中心と周辺の明暗差D1を算出する。
【0041】
【数1】
【0042】
続いて、下式(2)に示すように画像周辺の対角方向の明暗差D2〜D5を算出する。
【0043】
【数2】
【0044】
上式(2)において、abs(A)は、Aの絶対値を返す関数である。その後、各領域間の明暗差D1〜D5の最大値Dmaxを算出する。ここで、管腔状の被写体に対して撮像部200が平行に位置する場合は、図15(A)に示すように、画像中心と周辺の明暗差が最大値Dmaxとなる。また、被写体が撮像部200に対して斜めに位置する場合は、図15(B)に示すように、対角方向の明暗差が最大値Dmaxとなる。一方、被写体が撮像部200に正対している場合は、図15(C)に示すように、明暗差D1〜D5のいずれかが最大値Dmaxとなるが、最大値Dmaxの値は図15(A)、図15(B)の場合に比べ十分に小さな値となる。明暗差の最大値Dmaxは、判定部3216に転送される。
【0045】
判定部3216は、比較部3215から転送された明暗差の最大値Dmaxに基づき、被写体が撮像部に対して正対しているか否かの判定を行う。具体的には、明暗差の最大値Dmaxが制御部340に予め保存されている閾値ThDより小さい場合、被写体は撮像部200に正対していると判定する。判定部3216は、被写体が撮像部200に正対していない状態から正対している状態へ変わった場合、焦点位置制御部325にAF動作を開始する制御信号を転送する。一方、判定部3216は、被写体が撮像部に正対している状態から正対していない状態へ変わった場合、焦点位置制御部325にAF動作を停止する制御信号を転送する。ここで、AF動作を安定して行うため、被写体の状態が変わってから、数フレームその状態が保持された場合に、制御信号を転送してもよい。
【0046】
以上のように、本実施形態では、画像信号から撮像部が被写体に正対しているか否かの判定を行い、撮像部が被写体に正対していると判定した場合は、AF動作を開始する。一方、撮像部が被写体に正対していないと判定した場合は、AF動作を停止する。これにより、術者はAF動作の開始/停止の操作を行う必要がなく、シーンに応じた好適な画像を得ることができる。
【0047】
なお、以上ではAFの動作としてシングルAFを想定していたが、これに限定されるものではなく、例えばAFの動作としてコンティニュアスAFを用いてもよい。この場合、全体構成は上述の場合と同様であるが、フォーカスレンズ制御部320の動作が異なる。
【0048】
焦点位置制御部325は、正対判定部321からAF動作を開始する制御信号が転送された場合は、コンティニアスAFを開始する。一方、焦点位置制御部325は、正対判定部321からAF動作を停止する制御信号が転送された場合は、制御部340に予め保存されている所定の位置に焦点調整レンズ240を移動するよう、焦点位置駆動部250を制御する。
【0049】
以下に、本実施形態のコンティニアスAFの流れを記載する。ここで、ウォブリング時の往復幅を±dwとし、焦点調整レンズ240の移動幅(焦点位置の更新値)をdnとして説明する。まず、焦点位置制御部325が、焦点位置駆動部250を介して、焦点調整レンズ240の焦点位置をds−dwに変更する(dsは焦点調整レンズ240の初期位置)。また、焦点位置制御部325は、焦点調整レンズ240の位置情報ds−dwを、合焦位置検出部324に転送する。そして、コントラスト値算出部323が、コントラスト値C-dwを算出する。算出したコントラスト値C-dwを、合焦位置検出部324に転送する。次に、焦点位置制御部325が、焦点位置駆動部250を介して、焦点調整レンズ240の焦点位置をds+dwに変更する。また、焦点位置制御部325は、焦点調整レンズ240の位置情報ds+dwを、合焦位置検出部324に転送する。そして、コントラスト値算出部323が、コントラスト値C+dwを算出する。算出したコントラスト値C+dwを、合焦位置検出部324に転送する。
【0050】
C-dw及びC+dwを算出したら、合焦位置検出部324は、焦点位置制御部325から転送された位置情報と、コントラスト値算出部323から転送されたコントラスト値に基づき、焦点位置の初期値dsを以下の条件に従って更新する。C-dw>C+dwの場合にはdsの値をdnだけ小さくし、C+dw>C-dwの場合にはdsの値をdnだけ大きくする。
【0051】
更新された焦点調整レンズ240の初期位置dsからウォブリング時の往復幅dwを減算した、焦点位置をds−dwを焦点位置制御部325に転送する。その後、同様の処理を繰り返す。
【0052】
なお、上述のdw及びdnの値は、予め一定の値を設定しておいても良いし、外部I/F部500よりユーザーが任意の値を設定する構成としても良い。
【0053】
また、コンティニュアスAFを行う場合には、正対判定部321の動作も異なり、コンティニアスAFのため正対している間は常にAF動作を行う制御信号を送ることになる。判定部3216は、被写体が撮像部200に正対していると判定した場合、焦点位置制御部325にAF動作を開始する制御信号を転送する。一方、判定部3216は、被写体が撮像部に正対していないと判定した場合、焦点位置制御部325にAF動作を停止する制御信号を転送する。
【0054】
なお、本実施形態にかかる焦点位置制御装置で制御される撮像光学系は、ズームレンズを動作させることにより、画角(撮像倍率)を変化させると同時にフォーカスの調整も行うレンズ一群駆動のものを想定している。ただし、これに限定されるものではなく、ズームレンズとフォーカスレンズの位置を独立に調整可能なレンズ二群駆動の撮像光学系を用いてもよい。
【0055】
以上の本実施形態では、焦点位置制御装置は、撮像光学系(図1における対物レンズ230及び焦点調整レンズ240等を含む)を介した体内被写体の像を含む体内画像を取得する画像取得部(図1におけるA/D変換部310に相当)と、体内画像に基づいて、撮像時の撮像光学系の撮像方向に対する体内被写体の状況情報を判定する判定部(図5における正対判定部321や図18における静止判定部326に相当)と、判定部における判定結果に基づいて撮像光学系の焦点位置を制御する焦点位置制御部325(図5)を含む。
【0056】
ここで、撮像光学系の撮像方向とは、撮像光学系を用いて撮像している方向のことであり、撮像光学系の光軸方向であってもよい。また、撮像方向に対する体内被写体の状況情報とは、撮像方向に対して体内被写体がどのような状況にあるかを表す情報である。よって、撮像方向に依存しない体内被写体の状態(例えば、病変部を含むか否か、或いは血管構造が集中しているか否か等の状態)は、本実施形態における状況情報には含まれない。ただし、病変部等の情報は必ずしも状況情報に含まれないものではなく、例えば撮像方向に応じて病変部の大きさや形状が変化し、当該変化に基づいて焦点位置制御に必要な判定が行えるのであれば、病変部の情報が状況情報に含まれることもあり得る。
【0057】
これにより、撮像光学系の撮像方向に対する体内被写体の状況情報に基づいて、撮像光学系の焦点位置を制御することが可能になる。焦点位置の制御とは、具体的には後述するように体内被写体に焦点を合わせる動作(AF動作)であってもよい。この場合には、AF動作を状況情報に応じて制御することが可能になり、適切な状況においてAFを動作させることができる。上述したように、図8(A)のような状況では、体内画像(撮像画像)の画像上位置に応じて、撮像光学系から被写体までの距離が大きく異なることになる。その場合には、AFを動作させたとしても体内画像の一部にしかピントが合わず、ユーザーの観察したい領域がぼけてしまう可能性がある。よって、AFは常に動作させるのではなく、状況情報に基づいてAFが効果的な状況であると判定された場合に動作させるようにするとよい。
【0058】
また、判定部は、撮像光学系の撮像方向に対する体内被写体の姿勢情報、及び、撮像光学系の撮像方向に対する体内被写体の動き情報の少なくとも一方を、体内被写体の状況情報として判定してもよい。
【0059】
ここで姿勢情報とは、例えば撮像方向に対して、体内被写体(撮像対象となる生体の表面)がなす角度等を表す情報であってもよい。例えば、図8(A)は撮像方向に対して体内被写体が平行な姿勢である状況であり、図8(B)は撮像方向に対して体内被写体が斜めの姿勢を取っている。図8(C)は撮像方向に対して体内被写体が垂直或いはそれに近い姿勢を取っている(後述するように、この状態を「正対している」と呼ぶ)。このような姿勢の違いを表す情報が姿勢情報である。また、動き情報とは、撮像光学系と体内被写体の相対的な動きを、撮像方向に関連づけて表した情報である。具体的には動きの方向と動きの量を表す情報等が考えられる。その際には撮像方向を基準方向として、当該基準方向に対する方向として、動きの方向を表現することになる。
【0060】
これにより、体内被写体の状況情報として、具体的に姿勢情報及び動き情報の少なくとも一方を用いることが可能になる。つまり、本実施形態においては、状況情報として撮像光学系と体内被写体の相対的な位置関係情報(位置関係そのものの情報であってもよいし、位置関係の変化を表す情報であってもよい)を用いる。図8(A)等を用いて上述したように、焦点位置の制御(特にAF動作)が効果的であるか否かは、位置関係情報に応じて決まることが想定されるため、状況情報として位置関係情報を用いることで、状況に応じた適切な焦点位置制御が可能となる。
【0061】
また、判定部は、体内被写体が撮像光学系に正対しているか否かに関する情報を、上述した姿勢情報として用いて判定を行う正対判定部321を含んでもよい。そして焦点位置制御部325は、正対判定部321における判定結果に基づいて、撮像光学系の焦点位置を制御する。
【0062】
ここで、体内被写体が撮像光学系に正対しているとは、撮像光学系の撮像方向(光軸方向)と、体内被写体(例えば、生体表面を平面と見なせるのであれば当該平面)とが直交する状態を表すものとする。ただし、必ずしも直交している状態に限定されるものではなく、所与の角度閾値をx(°)とした場合に、撮像方向と体内被写体のなす角度が90±x(°)の範囲に収まっていれば、正対していると判定してもよい。角度閾値xは、システムにより決定されてもよいし、外部I/F部500等からユーザーが入力してもよい。なお本実施形態では、上述したように分割された領域ごとの明るさ情報を用いて正対しているか否かの判定を行っており、判定に用いられる閾値は明るさ情報により表される値の差分値に関するものである。つまり、本実施形態の焦点位置制御装置においては、上述の角度閾値xを用いないケースも十分考えられることになるが、その場合にも、正対しているか否かは、撮像方向と体内被写体が直交或いは直交に近い角度状態にあるか否かに基づいて判定されることに変わりはない。
【0063】
これにより、体内被写体が撮像光学系に正対していると判定されたか否かに基づいて、撮像光学系の焦点位置の制御を行うことが可能になる。図8(A)等の例で言えば、図8(A)及び図8(C)の状態は正対していないと判定され、図8(E)の状態は正対していると判定される。各図において2本の点線の内側に対応する領域が体内画像として撮像されることに鑑みれば、正対している場合には正対していない場合に比べて、体内画像上の画素位置に応じた被写体までの距離の差が小さくなる。つまり、正対している場合には体内画像の広い領域にピントを合うのに対し、正対していない場合には体内画像の狭い領域にしかピントが合わないことが想定される。よって、このような状況の差に応じて適切に焦点位置を制御することで、ユーザーにとって見やすい画像を提供することが可能になる。
【0064】
また、焦点位置制御部325は、正対判定部321において体内被写体が撮像光学系に正対していると判定された場合には、体内被写体に対して焦点を合わせる動作(合焦動作)を開始してもよい。また、体内被写体が撮像光学系に正対していないと判定された場合には、合焦動作を停止して、撮像光学系(具体的には撮像光学系に含まれるズームレンズ等)を所与の位置に移動させてもよい。
【0065】
ここで、正対していない場合に撮像光学系が移動される所与の位置とは、システムによって決定されてもよいし、外部I/F部500等からユーザーが入力してもよい。正対していない場合とは図8(A)のようなケースであり、内視鏡装置を用いたスクリーニング等の状況であることが想定される。この場合、上述したように近い被写体から遠い被写体まで撮像しており、画像上位置に応じた被写体距離差が大きいため、パンフォーカスが必要になる。また、スクリーニングであればズーム倍率はそれほど必要とされない。つまり、撮像光学系を所与の位置に移動させる処理の一例としては、パンフォーカス及び低倍率を実現する位置への移動であり、レンズ一群駆動であれば、ズームレンズ(図1における焦点調整レンズ240に対応)の位置をある程度望遠側(例えば望遠端)に移動させる処理となる。なお、所与の位置に移動されるのはズームレンズに限定されるものではなく、ズームレンズ位置を移動させるとともに、撮像光学系に含まれる他のレンズを移動させてもよい。レンズ二群駆動であれば、ズームレンズとは独立してフォーカスレンズ位置を制御することで、焦点位置を制御することができる。上述したスクリーニング等の場合には、病変部等を発見するためにある程度広い範囲を撮像することが想定され、撮像光学系と体内被写体との距離は、拡大観察時等に比べて大きくなる。よって、ズームレンズ位置の移動により被写界深度を広くしたとしても、当該被写界深度が撮像光学系に近い位置に設定されていたのでは、被写体にピントが合わず観察が困難になる可能性がある。このようなケースに対応するために、レンズ二群駆動ではズームレンズ位置を移動させるとともに、フォーカスレンズ位置も移動させ、撮像光学系からある程度離れた位置に被写界深度を設定するとよい。
【0066】
これにより、正対しているか否かに応じて、撮像している体内被写体への合焦動作を制御する(つまり、AFの制御に相当する)ことが可能になる。上述したように、図8(A)のような状況では、AFを実行したとしても画像上の一部領域にしかピントが合わないところ、ユーザーの観察したい領域を画像から判定すること等は困難であることからAFを実行しても効果的でない。つまり、正対しているか否かの判定に基づいてAFの動作を制御することで、AFが有効な状況においてはAFを動作させ、AFが有効でない状況においてはAFを動作させないことが可能になり、ユーザーの観察(内視鏡装置を用いた診断等)をスムーズにすることができる。
【0067】
また、正対判定部321は、体内画像の画像信号に基づいて、明るさ情報を算出する明るさ算出部3214を含んでもよい。そして、正対判定部321は、明るさ情報に基づいて、体内被写体が撮像光学系に正対しているか否かの判定を行う。
【0068】
ここで、明るさ情報とは、画像信号に含まれる画素の輝度値に基づいて求められる値であるが、これに限定されるものではない。R,G,Bの3チャンネルを用いるのであれば、どれか1つのチャンネルの画素値に基づいて求められてもよいし、他の手法により求められてもよい。
【0069】
これにより、正対しているか否かの判定を画像信号の明るさ情報に基づいて行うことが可能になる。上述したように、正対している状態とは、撮像方向と体内被写体が直交或いはそれに近い(所与の角度範囲内にある)場合を指すものとするが、撮像方向と体内被写体のなす角度を実際に求めることは困難である。明るさ情報を用いることで、厳密な角度の値を求めることなく、撮像方向(光軸)と体内被写体との位置関係を推定することが可能になるため、処理を容易にすることができる。
【0070】
また、正対判定部321は、体内画像を複数の領域に分割する分割部3213を含んでもよい。そして明るさ算出部3214は、分割された領域ごとに明るさ情報を算出する。正対判定部321は、領域ごとに算出された明るさ情報に基づいて、体内被写体が撮像光学系に正対しているか否かの判定を行う。
【0071】
ここで、分割部3213における体内画像の分割は、例えば図13に示したような9領域への分割が考えられる。また、9領域に限定されるものではなく、異なる分割を行ってもよい。
【0072】
これにより、体内画像を複数の領域に分割した上で明るさ情報を求め、正対判定に用いることが可能になる。図12(A)〜図12(C)に示したように、正対しているか否かによって、体内画像における明るさの分布傾向が変化する。なお、図12(A)〜図12(C)は、図10のゲインマップによる処理や、低域抽出処理が行われた後のものである。正対している場合には、図12(C)のように明るさは均一に近くなるのに対して、正対していない場合には、図12(A)のように、中心と周縁で明るさが大きく異なったり、図12(B)のように、上部と下部で明るさが大きく異なったりする(図12(B)については左右、或いは斜め方向における明るさの差であってもよい)。つまり、正対しているか否かの判定は、体内画像上のある領域と、他の領域との明るさ情報の差分値を見ればよいことになり、実際の手法としては分割部3213による領域分割を行うことになる。
【0073】
また、分割部3213は、体内画像を中心領域と少なくとも1つの周縁領域に分割してもよい。そして、中心領域の明るさ情報と、周縁領域の明るさ情報の比較処理に基づいて、体内被写体と撮像光学系の正対判定を行う。
【0074】
ここで例えば、中心領域とは図13における領域1に相当し、周縁領域とは図13における領域2〜9に相当する。ただし、体内画像の全領域が中心領域及び周縁領域のいずれかに含まれるケースに限定されるものではなく、中心領域にも周縁領域にも含まれない領域があってもよいものとする。
【0075】
これにより、中心領域と周縁領域に基づく正対判定が可能になる。具体的には、図12(A)のような状況を、正対していないものと判定することが可能になる。図8(A)のように管空の壁面と撮像方向が平行になる場合には、体内画像の中心領域は撮像光学系からの距離が遠い被写体に対応するため暗くなり、周縁領域は距離が近い被写体に対応するため明るくなることから、中心領域と周縁領域の明るさ情報の比較結果(具体的には明るさ情報により表される値の差が所与の閾値よりも大きいか否かの比較結果)に基づいて、正対している場合(図12(C))と区別可能となる。具体的には式(1)のD1を判定に用いることに相当する。
【0076】
また、分割部3213は、体内画像を中心領域と、第1〜第N(Nは2以上の整数)の周縁領域に分割してもよい。そして、正対判定部321は、第1〜第Nの周縁領域のうちの第i(iは1≦i<Nの整数)〜第j(jはi≦j<Nの整数)の周縁領域における明るさ情報と、第1〜第Nの周縁領域のうちの第k(kはj<k≦Nの整数)〜第m(mはk≦m≦Nの整数)の周縁領域における明るさ情報の比較処理に基づいて、体内被写体と撮像光学系の正対判定を行う。
【0077】
ここで例えば、中心領域とは図13における領域1に相当し、第1〜第Nの周縁領域とは図13における領域2〜9に相当する(つまりN=8であり、第zの周縁領域とは図13における領域z+1になる)。1≦i≦j<k≦m≦Nであることから、例えばi=1、j=4、k=5、m=8の場合には、領域2〜5の明るさ情報と、領域6〜9の明るさ情報の比較となり、右側と左側の明るさの差を判定することになる。なお、第1〜第Nの周縁領域の始点(第1の周縁領域の位置)は図13のものに限定されず、任意の位置から開始してもよい。例えば、図13を基準にして90°時計回りに回転させてもよく、その場合には、領域2〜5が下半分に相当し、領域6〜9が上半分に相当することになり、上下の明るさの差を判定することになる。同様に時計回りの回転を45°或いは135°にすることで、右下と左上、左下と右上といった斜め方向の比較も可能となる。また、i、j、k、mについては上述の条件を満たせばよい。そのため、第i〜第jの周縁領域に含まれる周縁領域の数と、第k〜第mの周縁領域に含まれる周縁領域の数が一致する必要はないし、第1〜第Nの周縁領域の中に、第i〜第j及び第k〜第mの周縁領域に含まれない周縁領域があってもよい。
【0078】
これにより、第1〜第Nの周縁領域に基づく正対判定が可能になる。具体的には上述したように、左右方向・上下方向・斜め方向等、特定の方向における明るさの分布を判定することになる。よって、図12(B)のような状況を、正対していないものと判定することが可能になる。図8(B)のように体内被写体と撮像方向が斜めになる場合には、体内画像の周縁領域の第1の部分(図8(C)では上側)は撮像光学系からの距離が遠い被写体に対応するため暗くなり、周縁領域の第2の部分(図8(C)では下側)は距離が近い被写体に対応するため明るくなる。よって、周縁領域内の第1の部分と第2の部分の明るさ情報の比較結果(具体的には明るさ情報により表される値の差が所与の閾値よりも大きいか否かの比較結果)に基づいて、正対している場合(図12(C))と区別可能となる。上述した本実施形態においては、式(2)のD2〜D5を判定に用いることに相当する。
【0079】
また、正対判定部321は、分割部3213で分割された領域ごとに算出された明るさ情報により表される値が、所与の閾値よりも小さい場合には、体内被写体が撮像光学系に正対していると判定する。
【0080】
これにより、領域ごとに算出された明るさ情報により表される値(例えば輝度値の平均値等)と、所与の閾値との比較処理により正対判定が可能になる。正対している場合には、図12(C)に示したように、体内画像全体において明るさが均一に近くなるため、領域ごとの明るさの差は小さくなる。よって、一例としては、複数の領域の中から2つの領域を抽出し、抽出した領域の明るさ情報により表される値の差分値と閾値との比較処理を、すべての領域抽出の組み合わせ(体内画像がM個の領域に分割されたとすれば、M×(M−1)/2通り)について行う手法が考えられる。ただし、正対しない場合の特徴的な明るさ分布として、図12(A)及び図12(B)が考えられるため、比較処理の処理負担を軽減することも可能である。例えば、上述したように体内画像を中心領域と周縁領域に分割し、中心領域の明るさ情報により表される値と、周縁領域の明るさ情報により表される値から差分値を求め、所与の閾値との比較処理を行ってもよい。また、体内画像を中心領域と第1〜第Nの周縁領域に分割し、第i〜第jの周縁領域の明るさ情報により表される値と、第k〜第mの周縁領域の明るさ情報により表される値から差分値を求め、所与の閾値と比較処理を行ってもよい。
【0081】
また、焦点位置制御装置は、図5に示したように体内画像に対して評価領域を設定する評価領域設定部322と、設定された評価領域のコントラスト値を算出するコントラスト値算出部323とを含んでもよい。そして、焦点位置制御部325は、コントラスト値に基づいて撮像光学系の焦点位置を制御する。
【0082】
ここで、評価領域とは、コントラスト値の算出対象となる領域のことであり、評価領域の位置や大きさ等は、システムによって決定されてもよいし、外部I/F部500等からユーザーが入力してもよい。
【0083】
これにより、コントラスト値を用いた、撮像光学系の焦点位置制御が可能になる。具体的にはコントラストAF等として実現される。
【0084】
また、コントラスト値算出部323は、図7に示したように評価領域に含まれる輝点を除去する輝点除去部3231を含んでもよい。そして、コントラスト値算出部323は、輝点を除去した評価領域のコントラスト値を算出する。
【0085】
これにより、輝点が存在することにより、焦点位置制御への悪影響を抑止することが可能になる。コントラスト値の算出は、例えば評価領域に対してハイパスフィルターを施すことにより求めることが考えられる。つまり、高周波成分が存在するほど、コントラスト値が高くなる。コントラストAFは、本来、被写体に起因する高周波成分(例えば被写体の構造が鮮明である場合に画像信号に含まれる成分等)に基づきコントラスト値を算出し、コントラスト値が高い状態を合焦状態であると判定し、焦点位置を制御する。しかし、輝点が存在してしまうと、輝点は周辺画素との画素値の差が大きい点であるため、被写体の合焦状態とは関係なく高周波成分が現れてしまう。よって、被写体にピントが合っていない状態でもコントラスト値が大きくなる可能性があり、焦点位置制御(AF動作)が適切に行えなくなってしまう。以上の理由から、評価領域に含まれる輝点は、コントラスト値の算出前に除去することが望ましい。
【0086】
また、以上の本実施形態は、撮像光学系(図1における対物レンズ230及び焦点調整レンズ240等を含む)を介した体内被写体の像を含む体内画像を取得する画像取得部(図1におけるA/D変換部310に相当)と、体内画像に基づいて、撮像時の撮像光学系の撮像方向に対する体内被写体の状況情報を判定する判定部(図5における正対判定部321や図18における静止判定部326に相当)と、判定部における判定結果に基づいて撮像光学系の焦点位置を制御する焦点位置制御部325と、焦点位置制御部325の制御に基づいて撮像光学系を駆動する焦点位置駆動部250を含む内視鏡装置に関係する。
【0087】
これにより、撮像光学系の撮像方向に対する体内被写体の状況情報に基づいて、焦点位置の制御し、制御に従って撮像光学系を駆動する内視鏡装置を実現することが可能になる。状況情報とは、上述したように姿勢情報(具体的には正対しているか否か)であってもよいし、動き情報(具体的には第3、第4の実施形態で後述するように、相対的に静止しているか否か)であってもよい。
【0088】
2.第2の実施形態
図16に、本実施形態にかかる焦点位置制御装置を含む内視鏡装置の構成例を示す。第1の実施形態では、焦点調整レンズ240を焦点位置駆動部250で駆動することで、焦点位置及び画角を調整していたが、本実施形態においては図16に示したように、焦点調整レンズ240(狭義にはフォーカスレンズ)を焦点位置駆動部250で駆動して焦点位置を調整するとともに、ズームレンズ270をズームレンズ駆動部280で駆動して画角を調整するものとする。ただし、本実施形態ではレンズ二群駆動の撮像光学系を用いて説明するが、撮像光学系はレンズ一群駆動のものであってもよい。
【0089】
図17に、第2の実施形態におけるフォーカスレンズ制御部320の詳細な構成例を示す。第1の実施の形態とは、焦点位置制御部325の機能が異なる。ズームレンズ制御部350は、焦点位置制御部325に接続される。
【0090】
焦点位置制御部325は、正対判定部321からAF動作を開始する制御信号が転送され、かつ、ズームレンズ制御部350からズームレンズ270が望遠端にあることを示す制御信号が転送された場合は、合焦位置検出部324から転送された合焦位置情報に基づき、焦点位置駆動部250を制御する。一方、焦点位置制御部325は、正対判定部321からAF動作を停止する制御信号が転送された場合、または、ズームレンズ制御部350からズームレンズ270が望遠端にないことを示す制御信号が転送された場合は、制御部340に予め保存されている所定の位置に焦点調整レンズ240を移動するよう、焦点位置駆動部250を制御する。
【0091】
なお、ここではズームレンズ270が望遠端にあることが、合焦動作を行う1つの条件であるものとして説明したが、これに限定されるものではなく、望遠端を含む所与の範囲内にズームレンズ270が位置した場合に合焦動作を行う1つの条件を満たしたと判断してもよい。具体的には後述するように、ズームレンズが基準点よりも望遠側にあり、かつ、正対している場合に合焦動作を行ってもよい。
【0092】
以上のように、本実施形態では、光学系の被写界深度が狭い場合に限り、撮像部が被写体に正対するとAF動作を開始する。これにより、被写体が奥行きをもっている場合はパンフォーカスで観察を行い、拡大観察時等の被写界深度が狭くなる条件ではAF動作を行うことで、シーンに応じた好適な画像を得ることができる。
【0093】
以上の本実施形態では、焦点位置制御部325は、ズームレンズ270(撮像光学系に含まれる)の可動範囲における望遠端と広角端の間に位置する基準点に対して、ズームレンズ270が望遠側に位置し、かつ、正対判定部321において体内被写体と撮像光学系が正対していると判定された場合には、合焦動作を開始する。
【0094】
これにより、第1の実施形態における正対判定に加えて、ズームレンズ270と基準点との位置関係も考慮した上で、合焦動作を行うか否かの制御を行うことが可能になる。一般的な光学特性として、画角が狭くなるほど(ズームレンズ270が望遠端に移動し、倍率が高くなるほど)被写界深度は狭くなる。被写界深度が狭くなれば、ユーザーが手動でピントを合わせることが困難になるため、システムによる自動的な合焦動作(AF動作)を行う利点が大きくなる。逆にズームレンズ270が広角側にある場合には、比較的被写界深度が広いため、AFを用いなくとも手動でピント合わせが行える可能性が高い。また、AFではピントを合わせる領域(コントラストAFであればコントラスト値を算出する評価領域)とユーザーの観察したい領域とが一致せず、AFを行うことでむしろ観察を妨げてしまうことがあることを考慮すれば、AFを動作させないことも選択肢に含めることが望ましい。以上のことから、ズームレンズ270と基準点との位置関係を焦点位置制御の判定条件とすることで、ズームレンズ位置(つまりは被写界深度の幅)を考慮した適切なAF動作を実現することが可能になる。
【0095】
3.第3の実施形態
本実施形態にかかる焦点位置制御装置を含む内視鏡装置の構成例は、第2の実施形態と同様に図16に示したものである。図16に示したように、本実施形態においてはレンズ二群駆動の撮像光学系を用いて説明するが、撮像光学系はレンズ一群駆動のものであってもよい。
【0096】
本実施形態では、第2の実施形態とは、フォーカスレンズ制御部320の動作が異なる。図18に、本実施形態におけるフォーカスレンズ制御部320の詳細な構成例を示す。第2の実施形態から正対判定部321が除かれ、静止判定部326が追加される。画像処理部330は、評価領域設定部322と、静止判定部326に接続される。静止判定部326は、焦点位置制御部325に接続される。
【0097】
図19に、静止判定部326の詳細な構成例を示す。静止判定部326は、記憶部3261と、動き検出部3262と、判定部3263を含む。画像処理部330は、記憶部3261と、動き検出部3262に接続されている。記憶部3261は、動き検出部3262に接続されている。動き検出部3262は、判定部3263に接続されている。判定部3263は、焦点位置制御部325に接続されている。
【0098】
記憶部3261は、画像処理部330から転送された画像信号を記憶する。動き検出部3262は、画像信号から被写体と撮像部との相対的な動きを検出する。具体的には、動き検出部3262は、画像処理部330から入力された画像信号と、記憶部3261に記憶された1フレーム前に取得された画像信号の特徴点をマッチングし、マッチングした特徴点の動きベクトルから動き量Mvを算出する。例えば、動き量Mvは、画像全体の特徴点の動きベクトルの平均である。算出された動き量Mvは判定部3263に転送される。
【0099】
判定部3263は、算出された動き量Mvと所定の閾値ThMv1とを比較し、画像上での被写体の動きが大きいか否かの判定を行う。閾値ThMv1は、予め設定された値を用いてもよいし、制御部340により自動的に設定されてもよい。判定部3263は、動き量Mv1が閾値ThMv1より小さい場合、すなわち被写体の動きが少ない場合には、術者が被写体を詳細に観察している状態であると判断する。この場合、判定部3263は、AF動作を開始する制御信号を焦点位置制御部325に転送する。一方、判定部3263は、動き量Mv1が閾値ThMv1以上である場合、すなわち被写体の動きが大きい場合には、術者が被写体をスクリーニングしている状態であると判断する。この場合、判定部3263はAF動作を停止する制御信号を焦点位置制御部325に転送する。
【0100】
焦点位置制御部325は、静止判定部326からAF動作を開始する制御信号が転送され、かつ、ズームレンズ制御部350からズームレンズ270が望遠端にあることを示す制御信号が転送された場合は、合焦位置検出部324から転送された合焦位置情報に基づき、焦点位置駆動部250を制御する。一方、焦点位置制御部325は、静止判定部326からAF動作を停止する制御信号が転送された場合、または、ズームレンズ制御部350からズームレンズ270が望遠端にないことを示す制御信号が転送された場合は、制御部340に予め保存されている所定の位置に焦点調整レンズ240を移動するよう、焦点位置駆動部250を制御する。
【0101】
以上のように、本実施の形態では、画像信号から撮像部と被写体が相対的に静止しているか否かの判定を行い、撮像部が被写体に対して静止していると判定した場合は、AF動作を開始する。一方、撮像部が被写体に対して静止していないと判定した場合は、AF動作を停止する。これにより、術者はAF動作の開始/停止の操作を行う必要がなく、シーンに応じた好適な画像を得ることができる。
【0102】
なお、以上の説明においては、静止判定部326は静止しているか否かの判定を行っているものであり、動きの方向については考慮していなかった。しかし、撮像部200と被写体との相対的な動きには、撮像部200の撮像方向(光軸方向)に沿った方向での第1の動きと、撮像方向に交差する(狭義には直交する)方向での第2の動きが考えられる。第1の動きがある場合には、撮像部200と被写体との相対的な距離が変動することになるため、被写体が被写界深度から外れてしまう可能性が高くなる。また、撮像されている被写体自体は大きく変化するものではない。よって、この場合には動き量が大きく、静止していないと判定された場合にも、AFが効果的であることが考えられる。つまり、第2の動きについては、上述の通り動き量が小さい(静止している)場合にAFを動作させればよいが、第1の動きについては上述の手法とは異なる動作を行った方がよいケースが考えられる。以上のことから、本実施形態の変形例として、静止判定部326における判定に用いられる動き量として、第1の動きに起因するものは除外し、第2の動きに起因するものを用いる手法について説明する。
【0103】
動き検出部3262は、上述した動きベクトルを算出する際に、現フレーム画像(画像処理部330から出力された画像)の画素に対し一定間隔かつ格子状に代表点を設定する。図21にて代表点を黒丸で示す。そして、代表点における現フレーム画像および前フレーム画像(記憶部3261に記憶された画像)の局所的な動きベクトルを、公知の技術であるブロックマッチング等を用いて検出する。設定した代表点の座標および各代表点において検出した動きベクトルは、判定部3263に出力される。
【0104】
次に判定部3263において、動きベクトルにより表される動きが、第1の動きであるか第2の動きであるかの判定を行う。具体的な判定手法について、図22(A)〜図22(D)を用いて説明する。まず、代表点における動きベクトルに基づいて、前記動きベクトルの消失点を検出する。
【0105】
図22(A)において、黒丸が代表点、実線矢印が動きベクトル、バツ印が消失点をそれぞれ示す。消失点とは、各代表点を始点として各代表点における前記動きベクトルの方向にそれぞれ延長した直線の交点である。観察対象が内径の一定な円筒状であり、前記動きベクトルが撮像部200の動きのみにより生じる場合、第1の動きのときには、直線は消失点において一点で交わる。実際には、観察対象である管腔状臓器の内径は一定ではなく、また動きベクトルは生体拍動によっても生じるため、第1の動きが生じているであっても前記直線が消失点において一点で交わらない。このため、全ての直線からの距離の和を第1の評価値とし、該第1の評価値が最も小さい点をまず消失点候補とする。
【0106】
次に、消失点候補における第1の評価値が所定の第1の閾値以下の場合、かつ消失点候補が画像内に存在する場合には、当該消失点候補を消失点とし、そうでない場合には消失点が検出できないと判定する。ここで、説明のため内視鏡先端の動く方向を図22(B)のように定義する。各x,y,z方向は画像上でそれぞれ、水平方向、鉛直方向、水平方向および鉛直方向と直交する奥行きの方向に対応する。さらに各x,y,z方向について矢印に沿う動きを正の動き、反対の動きを負の動きと定義する。第1の動きがあるでは、撮像部200の先端はz方向負の動きを示す。第1の動きではない場合(例えば第2の動きの場合)、例えば撮像部200の先端の動きがx方向正の動きとなり、図22(C)に示すように前記動きベクトルはほぼ平行となるため、該消失点候補は画像外に存在するか、画像内に存在したとしても当該消失点候補における第1の評価値は大きな値となる。よって消失点の存在を、消失点候補の位置および第1の評価値に基づき検出することで、z方向の動きを検出することができる。但し、図22(D)に示すように、内視鏡を挿入した場合でも該消失点を検出できるため、各代表点から消失点へのベクトル(破線矢印)および前記動きベクトル(実線矢印)に基づいた判定をさらに行う。具体的には、消失点へのベクトルと前記動きベクトルとの内積が負となる代表点が所定の個数以上あれば、消失点が検出できないと判定する。消失点が検出できない場合、その際の動きは第1の動きではないと判定する。
【0107】
以上の本実施形態では、判定部は、体内被写体が撮像光学系に対して相対的に静止しているか否かに関する情報を、第1の実施形態において上述した動き情報として用いて判定を行う静止判定部326を含んでもよい。そして焦点位置制御部325は、静止判定部326における判定結果に基づいて、撮像光学系の焦点位置を制御する。
【0108】
ここで、体内被写体が撮像光学系に対して相対的に静止しているとは、相対的な動きが全くない状態に限定されるものではなく、動きを表す指標値が所与の閾値以下であるような小さな動きがある場合も含むものとする。動きを表す指標値としては、例えば上述したように動き量が用いられることが考えられる。
【0109】
これにより、体内被写体が撮像光学系に相対的に静止していると判定されたか否かに基づいて、撮像光学系の焦点位置の制御を行うことが可能になる。静止していない場合とは、例えば内視鏡装置におけるスクリーニング等の状況が想定される。この場合、ズーム倍率は低くても十分であるため、被写界深度は広くなり焦点位置制御(特にAF動作)を行う利点は大きくない。また、撮像される被写体は短時間の間に大きく変化するため、そのたびに焦点位置制御を行うことになり効率的ではない。よって、静止しているか否かの判定を行うことで、状況に応じた適切な焦点位置制御が可能になる。
【0110】
また、焦点位置制御部325は、静止判定部326において体内被写体が撮像光学系に対して相対的に静止していると判定された場合には、体内被写体に対して焦点を合わせる動作(合焦動作)を開始してもよい。また、体内被写体が相対的に静止していないと判定された場合には、合焦動作を停止して、撮像光学系(具体的には撮像光学系に含まれるズームレンズ270等)を所与の位置に移動させてもよい。
【0111】
ここで、静止していない場合に撮像光学系が移動される所与の位置とは、第1の実施形態で上述した正対していない場合と同様であるため、詳細な説明は省略する。
【0112】
これにより、静止しているか否かに応じて、撮像している体内被写体への合焦動作を制御する(つまり、AFの制御に相当する)ことが可能になる。上述したように、静止していない状態では、AFを実行しても効果的でない。つまり、静止しているか否かの判定に基づいてAFの動作を制御することで、AFが有効な状況においてはAFを動作させ、AFが有効でない状況においてはAFを動作させないことが可能になり、ユーザーの観察(内視鏡装置を用いた診断等)をスムーズにすることができる。
【0113】
また、静止判定部326は、図19に示したように、記憶部3261と、動き検出部3262を含んでもよい。記憶部3261は、第1のタイミングで取得された第1の体内画像と、第1のタイミングとは異なる第2のタイミングで取得された第2の体内画像を記憶する。動き検出部3262は、第1の体内画像と第2の体内画像に基づいて、体内被写体と撮像光学系の相対的な動き量を検出する。そして、静止判定部326は、動き量が所与の閾値よりも小さい場合には、体内被写体が撮像光学系に対して相対的に静止していると判定する。
【0114】
ここで、動き量とは2つの体内画像間での体内被写体の動きの程度を表すものであり、例えば、第1の体内画像と第2の体内画像から求められた動きベクトルの平均値であってもよい。動きベクトルは、例えばマッチング処理等により求められる。
【0115】
これにより、動き量に基づいた静止判定が可能になる。動き量は上述したようにマッチング処理等の比較的単純なアルゴリズムから求めることができるため、動き量に基づいた静止判定は容易に実現可能である。
【0116】
また、撮像光学系の撮像方向(光軸方向)に沿った、体内被写体の撮像光学系に対する相対的な動きである第1の動きと、撮像光学系の撮像方向(光軸方向)に交差する方向に沿った、体内被写体の撮像光学系に対する相対的な動きである第2の動きを考える。この場合に、静止判定部326は、第1の動きと第2の動きのうち、第2の動きに基づいて、体内被写体が撮像光学系に対して相対的に静止しているか否かの判定を行ってもよい。
【0117】
ここで、第1の動きとは、狭義には撮像光学系の光軸方向の動きを表すものであるが、光軸方向となす角度が所与の角度閾値以下となる動きも含むものとする。同様に、第2の動きとは、狭義には撮像光学系の光軸方向に直交する方向での動きを表すものであるが、光軸に直交する方向となす角度が所与の角度閾値以下となる動きも含むものとする。
【0118】
これにより、第1の動きと第2の動きがあった場合に、第2の動きに基づいて静止判定を行うことが可能になる。第2の動きがある(第2の動きに起因する動き量が閾値よりも大きい)場合とは、上述したとおり撮像対象となる被写体が大きく変化したり、内視鏡装置によるスクリーニングが想定されたりする状況に対応するため、本実施形態で述べたとおりに静止判定に用いても(具体的には静止している場合にAFを動作させ、静止していない場合にはAFを動作させない等の処理を行っても)問題ない。しかし、第1の動きとは、撮像対象となる被写体は大きく変化せず、体内画像における被写体の大きさが変化するものである。よって、第1の動きがある場合とは、ユーザーは同一の被写体の継続的な観察を望んでいることが想定される。さらに、動きにより体内被写体と撮像光学系の距離が変化するため、体内被写体が被写界深度の範囲から外れ、ぼけてしまう可能性も高い。つまり、第1の動きとは動きが大きい(静止していない)と判定された場合にも、積極的に焦点位置の制御を行う(例えばAFを動作させる)ことが望ましい。以上の理由から、静止判定部326において実行される本実施形態の静止判定においては、第1の動きと第2の動きのうちの第2の動きを用いるとよい。
【0119】
また、静止判定部326は、体内画像上に設定された複数の代表点における複数の動きベクトルに基づいて、消失点の検出処理を行い、消失点の検出結果に基づいて、体内被写体が撮像光学系に対して相対的に静止しているか否かを判定してもよい。
【0120】
これにより、体内画像において消失点の検出処理を行うことで、静止判定を行うことが可能になる。消失点の有無により、体内被写体と撮像光学系の相対的な動きの方向が推定できるため、推定した相対的な動きの方向を考慮した静止判定を行うことができる。具体的には、消失点の検出処理により、体内被写体と撮像光学系との相対的な動きが、第1の動きに属する動きであるか第2の動きに属する動きであるかを判定し、第2の動きに属する動きであると判定された場合に、静止判定を行ってもよい。例えば、図22(A)、図22(D)に示したように、消失点が検出された場合の動きを第2の動きと判定し、図22(C)に示したように、消失点が検出されなかった場合の動きを第1の動きと判定する。なお消失点の検出処理は、上述したように、動きベクトルを延長した直線との距離の総和が最も小さい点を消失点候補とした場合に、消失点候補が体内画像内に存在し、かつ、第1の評価値が閾値以下であるか否かの判定によって行ってもよい。この際、第1の評価値とは、動きベクトルを延長した直線との距離の総和をそのまま用いればよい。
【0121】
また、焦点位置制御部325は、ズームレンズ270(撮像光学系に含まれる)の可動範囲における望遠端と広角端の間に位置する基準点に対して、ズームレンズ270が望遠側に位置し、かつ、静止判定部326において体内被写体と撮像光学系が相対的に静止していると判定された場合には、合焦動作を開始してもよい。
【0122】
これにより、静止判定に加えて、ズームレンズ270と基準点との位置関係も考慮した上で、合焦動作を行うか否かの制御を行うことが可能になる。ズームレンズ位置を考慮することの利点については、第2の実施形態の場合と同様であるため詳細な説明は省略する。
【0123】
4.第4の実施形態
本実施形態にかかる焦点位置制御装置を含む内視鏡装置の構成例は、第2の実施形態と同様に図16に示したものである。図16に示したように、本実施形態においてはレンズ二群駆動の撮像光学系を用いて説明するが、撮像光学系はレンズ一群駆動のものであってもよい。
【0124】
本実施形態では、第2の実施の形態とは、フォーカスレンズ制御部320の動作が異なる。図20に、第4の実施形態におけるフォーカスレンズ制御部320の詳細な構成例を示す。第2の実施形態に静止判定部326が追加される。画像処理部330は、正対判定部321と、評価領域設定部322と、静止判定部326に接続される。静止判定部326は、焦点位置制御部325に接続される。
【0125】
静止判定部326の構成、動作は第3の実施形態と同様である。焦点位置制御部325は、正対判定部321からAF動作を開始する制御信号が転送され、かつ、静止判定部326からAF動作を開始する制御信号が転送され、かつ、ズームレンズ制御部350からズームレンズ240が望遠端にあることを示す制御信号が転送された場合は、合焦位置検出部324から転送された合焦位置情報に基づき、焦点位置駆動部250を制御する。一方、焦点位置制御部325は、正対判定部321からAF動作を停止する制御信号が転送された場合、または、静止判定部326からAF動作を停止する制御信号が転送された場合、または、ズームレンズ制御部350からズームレンズ270が望遠端にないことを示す制御信号が転送された場合は、制御部340に予め保存されている所定の位置に焦点調整レンズ240を移動するよう、焦点位置駆動部250を制御する。
【0126】
以上の本実施形態では、判定部は、体内画像に基づいて、体内被写体が撮像光学系に正対しているか否かを、姿勢情報として判定する正対判定部321と、体内画像に基づいて、体内被写体が撮像光学系に対して相対的に静止しているか否かを、動き情報として判定する静止判定部326を含む。そして、焦点位置制御部325は、正対判定部321において正対していると判定され、かつ、静止判定部326において静止していると判定された場合に、合焦動作を開始する。
【0127】
これにより、第1の実施形態において述べた正対判定と、第3の実施形態において述べた静止判定の両方の判定を行った上で、合焦動作を開始させる(AFを動作させる)ことが可能になる。よって、AFが効果的ではない或いはAFが不要である状況において、AFを動作させてしまうことを抑止することができ、ユーザーにとって見やすい画像を提供することが可能になる。
【0128】
また、焦点位置制御部325は、ズームレンズ270(撮像光学系に含まれる)の可動範囲における望遠端と広角端の間に位置する基準点に対して、ズームレンズ270が望遠側に位置し、かつ、正対判定部321において体内被写体と撮像光学系が正対していると判定され、かつ、静止判定部326において体内被写体と撮像光学系が相対的に静止していると判定された場合には、合焦動作を開始してもよい。
【0129】
これにより、正対判定・静止判定に加えて、ズームレンズ270と基準点との位置関係も考慮した上で、合焦動作を行うか否かの制御を行うことが可能になる。ズームレンズ位置を考慮することの利点については、第2の実施形態の場合と同様であるため詳細な説明は省略する。
【0130】
以上、本発明を適用した4つの実施の形態1〜4およびその変形例について説明したが、本発明は、各実施の形態1〜4やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜4や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜4や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
【符号の説明】
【0131】
100 光源部、110 白色光源、120 回転色フィルター、130 回転駆動部、
140 集光レンズ、200 撮像部、210 ライトガイドファイバー、
220 照明レンズ、230 対物レンズ、240 焦点調整レンズ、
250 焦点位置駆動部、260 撮像素子、270 ズームレンズ、
280 ズームレンズ駆動部、300 制御装置、310 A/D変換部、
320 フォーカスレンズ制御部、321 正対判定部、322 評価領域設定部、
323 コントラスト値算出部、324 合焦位置検出部、
325 焦点位置制御部、326 静止判定部、330 画像処理部、
331 前処理部、332 同時化部、333 後処理部、340 制御部、
350 ズームレンズ制御部、400 表示部、500 外部I/F部、
3211 補正部、3212 低域抽出部、3213 分割部、
3214 明るさ算出部、3215 比較部、3216 判定部、
3231 輝点除去部、3232 高域抽出部、3261 記憶部、
3262 検出部、3263 判定部
【特許請求の範囲】
【請求項1】
撮像光学系を介した体内被写体の撮像によって、前記体内被写体の像を含む体内画像を取得する画像取得部と、
取得された前記体内画像に基づいて、撮像時の前記撮像光学系の撮像方向に対する前記体内被写体の状況情報を判定する判定部と、
前記判定部における判定結果に基づいて、前記撮像光学系の駆動を制御することで、前記撮像光学系の焦点位置を制御する焦点位置制御部と、
を含むことを特徴とする焦点位置制御装置。
【請求項2】
請求項1において、
前記判定部は、
前記撮像光学系の前記撮像方向に対する前記体内被写体の姿勢情報及び前記撮像方向に対する前記体内被写体の動き情報の少なくとも一方を、前記体内被写体の前記状況情報として判定することを特徴とする焦点位置制御装置。
【請求項3】
請求項2において、
前記判定部は、
前記体内画像に基づいて、前記体内被写体が前記撮像光学系に正対しているか否かを、前記姿勢情報として判定する正対判定部を含み、
前記焦点位置制御部は、
前記正対判定部における判定結果に基づいて、前記撮像光学系の前記焦点位置を制御することを特徴とする焦点位置制御装置。
【請求項4】
請求項3において、
前記焦点位置制御部は、
前記正対判定部において、前記体内被写体が前記撮像光学系に正対していると判定された場合には、前記体内被写体に対して焦点を合わせる合焦動作を開始することを特徴とする焦点位置制御装置。
【請求項5】
請求項4において、
前記焦点位置制御部は、
前記正対判定部において、前記体内被写体が前記撮像光学系に正対していないと判定された場合には、前記合焦動作を停止し、前記撮像光学系に含まれるズームレンズを所与の位置に移動させることを特徴とする焦点位置制御装置。
【請求項6】
請求項3において、
前記焦点位置制御部は、
望遠端と広角端の間に位置する基準点に対して、前記撮像光学系に含まれるズームレンズが望遠側にあり、かつ、前記正対判定部において、前記体内被写体が前記撮像光学系に正対していると判定された場合には、前記体内被写体に対して焦点を合わせる合焦動作を開始することを特徴とする焦点位置制御装置。
【請求項7】
請求項3において、
前記正対判定部は、
前記体内画像の画像信号に基づいて、明るさ情報を算出する明るさ算出部を含み、
前記正対判定部は、
算出した前記明るさ情報に基づいて、前記体内被写体が前記撮像光学系に正対しているか否かを判定することを特徴とする焦点位置制御装置。
【請求項8】
請求項7において、
前記正対判定部は、
前記体内画像を複数の領域に分割する分割部を含み、
前記明るさ算出部は、
分割された前記領域ごとに前記明るさ情報を算出し、
前記正対判定部は、
前記領域ごとに算出された前記明るさ情報に基づいて、前記体内被写体が前記撮像光学系に正対しているか否かを判定することを特徴とする焦点位置制御装置。
【請求項9】
請求項8において、
前記分割部は、
前記体内画像を中心領域と少なくとも1つの周縁領域に分割し、
前記正対判定部は、
前記中心領域の前記明るさ情報と、前記周縁領域の前記明るさ情報の比較処理を行うことで、前記体内被写体が前記撮像光学系に正対しているか否かを判定することを特徴とする焦点位置制御装置。
【請求項10】
請求項8において、
前記分割部は、
前記体内画像を中心領域と、第1〜第N(Nは2以上の整数)の周縁領域に分割し、
前記正対判定部は、
前記第1〜第Nの周縁領域のうちの第i(iは1≦i<Nの整数)〜第j(jはi≦j<Nの整数)の周縁領域における前記明るさ情報と、前記第1〜第Nの周縁領域のうちの第k(kはj<k≦Nの整数)〜第m(mはk≦m≦Nの整数)の周縁領域における前記明るさ情報の比較処理を行うことで、前記体内被写体が前記撮像光学系に正対しているか否かを判定することを特徴とする焦点位置制御装置。
【請求項11】
請求項8において、
前記正対判定部は、
前記領域ごとに算出された前記明るさ情報により表される値の差が、所与の閾値よりも小さい場合には、前記体内被写体が前記撮像光学系に正対していると判定することを特徴とする焦点位置制御装置。
【請求項12】
請求項2において、
前記判定部は、
前記体内画像に基づいて、前記体内被写体が前記撮像光学系に対して相対的に静止しているか否かを、前記動き情報として判定する静止判定部を含み、
前記焦点位置制御部は、
前記静止判定部における判定結果に基づいて、前記撮像光学系の前記焦点位置を制御することを特徴とする焦点位置制御装置。
【請求項13】
請求項12において、
前記焦点位置制御部は、
前記静止判定部において、前記体内被写体が前記撮像光学系に対して相対的に静止していると判定された場合には、前記体内被写体に対して焦点を合わせる合焦動作を開始することを特徴とする焦点位置制御装置。
【請求項14】
請求項13において、
前記焦点位置制御部は、
前記静止判定部において、前記体内被写体が前記撮像光学系に対して相対的に静止していないと判定された場合には、前記合焦動作を停止し、前記撮像光学系に含まれるズームレンズを所与の位置に移動させることを特徴とする焦点位置制御装置。
【請求項15】
請求項12において、
前記静止判定部は、
第1のタイミングで取得された第1の体内画像と、前記第1のタイミングとは異なる第2のタイミングで取得された第2の体内画像を記憶する記憶部と、
前記第1の体内画像と前記第2の体内画像とに基づいて、前記体内被写体と前記撮像光学系の相対的な動き量を検出する動き検出部を含み、
前記静止判定部は、
検出された前記動き量が所与の閾値よりも小さい場合には、前記体内被写体が前記撮像光学系に対して相対的に静止していると判定することを特徴とする焦点位置制御装置。
【請求項16】
請求項15において、
前記静止判定部は、
前記撮像光学系の前記撮像方向に沿った前記体内被写体の相対的な第1の動きと、前記撮像光学系の前記撮像方向に交差する方向に沿った前記体内被写体の相対的な第2の動きのうち、前記第2の動きに基づいて、前記体内被写体が前記撮像光学系に対して相対的に静止しているか否かを判定することを特徴とする焦点位置制御装置。
【請求項17】
請求項16において、
前記静止判定部は、
前記体内画像上に設定された複数の代表点における複数の動きベクトルに基づいて、消失点の検出処理を行い、前記消失点の検出結果に基づいて、前記体内被写体が前記撮像光学系に対して相対的に静止しているか否かを判定することを特徴とする焦点位置制御装置。
【請求項18】
請求項12において、
前記焦点位置制御部は、
望遠端と広角端の間に位置する基準点に対して、前記撮像光学系に含まれるズームレンズが望遠側にあり、かつ、前記静止判定部において、前記体内被写体が前記撮像光学系に対して相対的に静止していると判定された場合には、前記体内被写体に対して焦点を合わせる合焦動作を開始することを特徴とする焦点位置制御装置。
【請求項19】
請求項2において、
前記判定部は、
前記体内画像に基づいて、前記体内被写体が前記撮像光学系に正対しているか否かを、前記姿勢情報として判定する正対判定部と、
前記体内画像に基づいて、前記体内被写体が前記撮像光学系に対して相対的に静止しているか否かを、前記動き情報として判定する静止判定部を含み、
前記焦点位置制御部は、
前記正対判定部において、前記体内被写体が前記撮像光学系に正対していると判定され、かつ、前記静止判定部において、前記体内被写体が前記撮像光学系に対して相対的に静止していると判定された場合には、前記体内被写体に対して焦点を合わせる合焦動作を開始することを特徴とする焦点位置制御装置。
【請求項20】
請求項19において、
前記焦点位置制御部は、
望遠端と広角端の間に位置する基準点に対して、前記撮像光学系に含まれるズームレンズが望遠側にあり、かつ、前記正対判定部において、前記体内被写体が前記撮像光学系に正対していると判定され、かつ、前記静止判定部において、前記体内被写体が前記撮像光学系に対して相対的に静止していると判定された場合には、前記合焦動作を開始することを特徴とする焦点位置制御装置。
【請求項21】
請求項1において、
前記体内画像に対して評価領域を設定する評価領域設定部と、
設定された前記評価領域のコントラスト値を算出するコントラスト値算出部を含み、
前記焦点位置制御部は、
前記コントラスト値に基づいて前記撮像光学系の前記焦点位置を制御することを特徴とする焦点位置制御装置。
【請求項22】
請求項21において、
前記コントラスト値算出部は、
前記評価領域に含まれる輝点を除去する輝点除去部を含み、
前記コントラスト値算出部は、
前記輝点を除去した前記評価領域の前記コントラスト値を算出することを特徴とする焦点位置制御装置。
【請求項23】
撮像光学系を介した体内被写体の撮像によって、前記体内被写体の像を含む体内画像を取得する画像取得部と、
取得された前記体内画像に基づいて、撮像時の前記撮像光学系の撮像方向に対する前記体内被写体の状況情報を判定する判定部と、
前記判定部における判定結果に基づいて、前記撮像光学系の駆動を制御することで、前記撮像光学系の焦点位置を制御する焦点位置制御部と、
前記焦点位置制御部の制御に基づいて前記撮像光学系を駆動する焦点位置駆動部と、
を含むことを特徴とする内視鏡装置。
【請求項24】
撮像光学系を介した体内被写体の撮像によって、前記体内被写体の像を含む体内画像を取得し、
取得された前記体内画像に基づいて、撮像時の前記撮像光学系の撮像方向に対する前記体内被写体の状況情報を判定し、
判定結果に基づいて、前記撮像光学系の駆動を制御することで、前記撮像光学系の焦点位置を制御することを特徴とする焦点位置制御方法。
【請求項25】
請求項24において、
前記撮像光学系の前記撮像方向に対する前記体内被写体の姿勢情報及び前記撮像方向に対する前記体内被写体の動き情報の少なくとも一方を、前記体内被写体の前記状況情報として判定することを特徴とする焦点位置制御方法。
【請求項1】
撮像光学系を介した体内被写体の撮像によって、前記体内被写体の像を含む体内画像を取得する画像取得部と、
取得された前記体内画像に基づいて、撮像時の前記撮像光学系の撮像方向に対する前記体内被写体の状況情報を判定する判定部と、
前記判定部における判定結果に基づいて、前記撮像光学系の駆動を制御することで、前記撮像光学系の焦点位置を制御する焦点位置制御部と、
を含むことを特徴とする焦点位置制御装置。
【請求項2】
請求項1において、
前記判定部は、
前記撮像光学系の前記撮像方向に対する前記体内被写体の姿勢情報及び前記撮像方向に対する前記体内被写体の動き情報の少なくとも一方を、前記体内被写体の前記状況情報として判定することを特徴とする焦点位置制御装置。
【請求項3】
請求項2において、
前記判定部は、
前記体内画像に基づいて、前記体内被写体が前記撮像光学系に正対しているか否かを、前記姿勢情報として判定する正対判定部を含み、
前記焦点位置制御部は、
前記正対判定部における判定結果に基づいて、前記撮像光学系の前記焦点位置を制御することを特徴とする焦点位置制御装置。
【請求項4】
請求項3において、
前記焦点位置制御部は、
前記正対判定部において、前記体内被写体が前記撮像光学系に正対していると判定された場合には、前記体内被写体に対して焦点を合わせる合焦動作を開始することを特徴とする焦点位置制御装置。
【請求項5】
請求項4において、
前記焦点位置制御部は、
前記正対判定部において、前記体内被写体が前記撮像光学系に正対していないと判定された場合には、前記合焦動作を停止し、前記撮像光学系に含まれるズームレンズを所与の位置に移動させることを特徴とする焦点位置制御装置。
【請求項6】
請求項3において、
前記焦点位置制御部は、
望遠端と広角端の間に位置する基準点に対して、前記撮像光学系に含まれるズームレンズが望遠側にあり、かつ、前記正対判定部において、前記体内被写体が前記撮像光学系に正対していると判定された場合には、前記体内被写体に対して焦点を合わせる合焦動作を開始することを特徴とする焦点位置制御装置。
【請求項7】
請求項3において、
前記正対判定部は、
前記体内画像の画像信号に基づいて、明るさ情報を算出する明るさ算出部を含み、
前記正対判定部は、
算出した前記明るさ情報に基づいて、前記体内被写体が前記撮像光学系に正対しているか否かを判定することを特徴とする焦点位置制御装置。
【請求項8】
請求項7において、
前記正対判定部は、
前記体内画像を複数の領域に分割する分割部を含み、
前記明るさ算出部は、
分割された前記領域ごとに前記明るさ情報を算出し、
前記正対判定部は、
前記領域ごとに算出された前記明るさ情報に基づいて、前記体内被写体が前記撮像光学系に正対しているか否かを判定することを特徴とする焦点位置制御装置。
【請求項9】
請求項8において、
前記分割部は、
前記体内画像を中心領域と少なくとも1つの周縁領域に分割し、
前記正対判定部は、
前記中心領域の前記明るさ情報と、前記周縁領域の前記明るさ情報の比較処理を行うことで、前記体内被写体が前記撮像光学系に正対しているか否かを判定することを特徴とする焦点位置制御装置。
【請求項10】
請求項8において、
前記分割部は、
前記体内画像を中心領域と、第1〜第N(Nは2以上の整数)の周縁領域に分割し、
前記正対判定部は、
前記第1〜第Nの周縁領域のうちの第i(iは1≦i<Nの整数)〜第j(jはi≦j<Nの整数)の周縁領域における前記明るさ情報と、前記第1〜第Nの周縁領域のうちの第k(kはj<k≦Nの整数)〜第m(mはk≦m≦Nの整数)の周縁領域における前記明るさ情報の比較処理を行うことで、前記体内被写体が前記撮像光学系に正対しているか否かを判定することを特徴とする焦点位置制御装置。
【請求項11】
請求項8において、
前記正対判定部は、
前記領域ごとに算出された前記明るさ情報により表される値の差が、所与の閾値よりも小さい場合には、前記体内被写体が前記撮像光学系に正対していると判定することを特徴とする焦点位置制御装置。
【請求項12】
請求項2において、
前記判定部は、
前記体内画像に基づいて、前記体内被写体が前記撮像光学系に対して相対的に静止しているか否かを、前記動き情報として判定する静止判定部を含み、
前記焦点位置制御部は、
前記静止判定部における判定結果に基づいて、前記撮像光学系の前記焦点位置を制御することを特徴とする焦点位置制御装置。
【請求項13】
請求項12において、
前記焦点位置制御部は、
前記静止判定部において、前記体内被写体が前記撮像光学系に対して相対的に静止していると判定された場合には、前記体内被写体に対して焦点を合わせる合焦動作を開始することを特徴とする焦点位置制御装置。
【請求項14】
請求項13において、
前記焦点位置制御部は、
前記静止判定部において、前記体内被写体が前記撮像光学系に対して相対的に静止していないと判定された場合には、前記合焦動作を停止し、前記撮像光学系に含まれるズームレンズを所与の位置に移動させることを特徴とする焦点位置制御装置。
【請求項15】
請求項12において、
前記静止判定部は、
第1のタイミングで取得された第1の体内画像と、前記第1のタイミングとは異なる第2のタイミングで取得された第2の体内画像を記憶する記憶部と、
前記第1の体内画像と前記第2の体内画像とに基づいて、前記体内被写体と前記撮像光学系の相対的な動き量を検出する動き検出部を含み、
前記静止判定部は、
検出された前記動き量が所与の閾値よりも小さい場合には、前記体内被写体が前記撮像光学系に対して相対的に静止していると判定することを特徴とする焦点位置制御装置。
【請求項16】
請求項15において、
前記静止判定部は、
前記撮像光学系の前記撮像方向に沿った前記体内被写体の相対的な第1の動きと、前記撮像光学系の前記撮像方向に交差する方向に沿った前記体内被写体の相対的な第2の動きのうち、前記第2の動きに基づいて、前記体内被写体が前記撮像光学系に対して相対的に静止しているか否かを判定することを特徴とする焦点位置制御装置。
【請求項17】
請求項16において、
前記静止判定部は、
前記体内画像上に設定された複数の代表点における複数の動きベクトルに基づいて、消失点の検出処理を行い、前記消失点の検出結果に基づいて、前記体内被写体が前記撮像光学系に対して相対的に静止しているか否かを判定することを特徴とする焦点位置制御装置。
【請求項18】
請求項12において、
前記焦点位置制御部は、
望遠端と広角端の間に位置する基準点に対して、前記撮像光学系に含まれるズームレンズが望遠側にあり、かつ、前記静止判定部において、前記体内被写体が前記撮像光学系に対して相対的に静止していると判定された場合には、前記体内被写体に対して焦点を合わせる合焦動作を開始することを特徴とする焦点位置制御装置。
【請求項19】
請求項2において、
前記判定部は、
前記体内画像に基づいて、前記体内被写体が前記撮像光学系に正対しているか否かを、前記姿勢情報として判定する正対判定部と、
前記体内画像に基づいて、前記体内被写体が前記撮像光学系に対して相対的に静止しているか否かを、前記動き情報として判定する静止判定部を含み、
前記焦点位置制御部は、
前記正対判定部において、前記体内被写体が前記撮像光学系に正対していると判定され、かつ、前記静止判定部において、前記体内被写体が前記撮像光学系に対して相対的に静止していると判定された場合には、前記体内被写体に対して焦点を合わせる合焦動作を開始することを特徴とする焦点位置制御装置。
【請求項20】
請求項19において、
前記焦点位置制御部は、
望遠端と広角端の間に位置する基準点に対して、前記撮像光学系に含まれるズームレンズが望遠側にあり、かつ、前記正対判定部において、前記体内被写体が前記撮像光学系に正対していると判定され、かつ、前記静止判定部において、前記体内被写体が前記撮像光学系に対して相対的に静止していると判定された場合には、前記合焦動作を開始することを特徴とする焦点位置制御装置。
【請求項21】
請求項1において、
前記体内画像に対して評価領域を設定する評価領域設定部と、
設定された前記評価領域のコントラスト値を算出するコントラスト値算出部を含み、
前記焦点位置制御部は、
前記コントラスト値に基づいて前記撮像光学系の前記焦点位置を制御することを特徴とする焦点位置制御装置。
【請求項22】
請求項21において、
前記コントラスト値算出部は、
前記評価領域に含まれる輝点を除去する輝点除去部を含み、
前記コントラスト値算出部は、
前記輝点を除去した前記評価領域の前記コントラスト値を算出することを特徴とする焦点位置制御装置。
【請求項23】
撮像光学系を介した体内被写体の撮像によって、前記体内被写体の像を含む体内画像を取得する画像取得部と、
取得された前記体内画像に基づいて、撮像時の前記撮像光学系の撮像方向に対する前記体内被写体の状況情報を判定する判定部と、
前記判定部における判定結果に基づいて、前記撮像光学系の駆動を制御することで、前記撮像光学系の焦点位置を制御する焦点位置制御部と、
前記焦点位置制御部の制御に基づいて前記撮像光学系を駆動する焦点位置駆動部と、
を含むことを特徴とする内視鏡装置。
【請求項24】
撮像光学系を介した体内被写体の撮像によって、前記体内被写体の像を含む体内画像を取得し、
取得された前記体内画像に基づいて、撮像時の前記撮像光学系の撮像方向に対する前記体内被写体の状況情報を判定し、
判定結果に基づいて、前記撮像光学系の駆動を制御することで、前記撮像光学系の焦点位置を制御することを特徴とする焦点位置制御方法。
【請求項25】
請求項24において、
前記撮像光学系の前記撮像方向に対する前記体内被写体の姿勢情報及び前記撮像方向に対する前記体内被写体の動き情報の少なくとも一方を、前記体内被写体の前記状況情報として判定することを特徴とする焦点位置制御方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図7】
【図9】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図6】
【図8】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図2】
【図3】
【図4】
【図5】
【図7】
【図9】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図6】
【図8】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【公開番号】特開2013−43007(P2013−43007A)
【公開日】平成25年3月4日(2013.3.4)
【国際特許分類】
【出願番号】特願2011−183762(P2011−183762)
【出願日】平成23年8月25日(2011.8.25)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
【公開日】平成25年3月4日(2013.3.4)
【国際特許分類】
【出願日】平成23年8月25日(2011.8.25)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
[ Back to top ]