画像処理装置、内視鏡システム、画像処理方法及びプログラム
【課題】 ウォブリングを行いながら、合焦状態になるようにレンズを移動させる場合に、表示画像の画角の変動を抑制することができる画像処理装置、内視鏡システム、画像処理方法及びプログラム等の提供。
【解決手段】 画像処理装置300は、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部(合焦状態判定部330)と、ウォブリング中のレンズを通して撮像された複数の画像を取得する画像取得部(補間処理部310)と、ウォブリング経路上にある複数の折り返し位置のうちの、いずれかの折り返し位置にレンズが位置する時に撮像された画像を、取得された複数の画像の中から選択する表示用画像選択部340と、選択された画像を表示画像として表示部400に出力する出力部(表示画像生成部350)とを含む。
【解決手段】 画像処理装置300は、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部(合焦状態判定部330)と、ウォブリング中のレンズを通して撮像された複数の画像を取得する画像取得部(補間処理部310)と、ウォブリング経路上にある複数の折り返し位置のうちの、いずれかの折り返し位置にレンズが位置する時に撮像された画像を、取得された複数の画像の中から選択する表示用画像選択部340と、選択された画像を表示画像として表示部400に出力する出力部(表示画像生成部350)とを含む。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、内視鏡システム、画像処理方法及びプログラム等に関係する。
【背景技術】
【0002】
一般にコントラストAF(autofocus)と呼ばれる方法では、取得される画像から検出したコントラスト情報(高周波成分やエッジ量など)を基に、画像に映る被写体が合焦状態となる被写体の位置を推定する。画像に映る被写体が合焦状態である場合には、画像のコントラスト情報が最大となる特徴がある。そのためコントラストAFと呼ばれる方法では、レンズを移動させ、焦点位置を変化させながら取得した複数の画像に基づいて、画像のコントラスト情報を検出し、コントラスト情報が最大となる時に合焦状態であると判断する。
【0003】
ここで、合焦状態となる被写体の位置の検出方法としては、レンズを往復駆動させることによりレンズの焦点位置を近点及び遠点よりに微小変化(ウォブリング:wobbling)させ、この場合におけるコントラスト情報に基づいて、合焦状態となる被写体の位置を検出する方法が一般に用いられる。
【0004】
画像処理装置に関する発明としては特許文献1に記載される従来技術がある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平11−023949号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
内視鏡スコープにおいては、スコープの細径化を実現するために、比較的簡便な構成のレンズが用いられることが一般的である。具体的には、焦点位置及び画角を同時に制御するレンズが用いられる。
【0007】
従って、内視鏡スコープにおいて、合焦状態となる被写体の位置を前述したウォブリングにより検出する場合、ウォブリングに起因して画角が変動するため、取得される画像上において被写体の大きさが変動する。さらにウォブリング時には、レンズが高速に駆動されるため、画像上における被写体の大きさが高速に変動する。そのため、ウォブリング時に取得される画像は非常に見にくい画像となり、医師の負担の増加や、病変の見落としの増加を招くおそれがある。
【0008】
前述した特許文献1は、画像の画角の変動を、電子ズーム処理により補償し表示画像の大きさを一定にする方法を開示している。しかし、特許文献1では、画像に映る被写体が合焦状態になった後に撮像された画像に対して、電子ズーム処理を行い、画像の画角を一定にしているのであって、合焦状態になるようにレンズ位置を動かしている最中に撮像された画像の画角を一定にする方法については記載されていない。
【0009】
本発明の幾つかの態様によれば、ウォブリングを行いながら、合焦状態になるようにレンズを移動させる場合に、表示画像の画角の変動を抑制することができる画像処理装置、内視鏡システム、画像処理方法及びプログラム等を提供することができる。
【課題を解決するための手段】
【0010】
本発明の一態様は、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部と、ウォブリング中の前記レンズを通して撮像された複数の画像を取得する画像取得部と、ウォブリング経路上にある複数の折り返し位置のうちの、いずれかの折り返し位置に前記レンズが位置する時に撮像された画像を、取得された前記複数の画像の中から選択する表示用画像選択部と、選択された前記画像を表示画像として表示部に出力する出力部と、を含む画像処理装置に関係する。
【0011】
これにより、ウォブリング経路上にある複数の折り返し位置のうち、いずれかの折り返し位置にレンズが位置する時に撮像された画像を、表示部に出力することが可能となる。例えば、一方の折り返し位置において撮像された画像のみを表示画像として選択すれば、画角の差は小さくなり、表示画像の画角が高速に変化することを抑制することができる。
【0012】
また、本発明の他の態様では、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部と、ウォブリング中の前記レンズを通して撮像された第1の画像と第2の画像と第3の画像とを取得する画像取得部と、前記第1の画像の画角と前記第2の画像の画角との差が所定の許容範囲外であり、前記第1の画像の画角と前記第3の画像の画角との差が前記所定の許容範囲内である時に、前記第1の画像と前記第3の画像とを選択する表示用画像選択部と、選択された前記画像を表示画像として表示部に出力する出力部と、を含む画像処理装置に関係する。
【0013】
これにより、画角の差が所定の許容範囲内にある画像のみを表示画像として選択して、表示画像の画角が高速に変化することを抑制することができる。
【0014】
また、本発明の他の態様では、前記画像処理装置を含む内視鏡システムに関係する。
【0015】
また、本発明の他の態様では、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力し、ウォブリング中の前記レンズを通して撮像された複数の画像を取得し、ウォブリング経路上にある複数の折り返し位置のうち、いずれかの折り返し位置に前記レンズが位置する時に撮像された画像を、取得された前記複数の画像の中から選択し、選択された前記画像を表示画像として表示部に出力することを特徴とする画像処理方法に関係する。
【0016】
また、本発明の他の態様では、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力し、ウォブリング中の前記レンズを通して撮像された第1の画像と第2の画像と第3の画像とを取得し、前記第1の画像の画角と前記第2の画像の画角との差が所定の許容範囲外であり、前記第1の画像の画角と前記第3の画像の画角との差が前記所定の許容範囲内である時に、前記第1の画像と前記第3の画像とを選択し、選択された前記画像を表示画像として表示部に出力することを特徴とする画像処理方法に関係する。
【0017】
また、本発明の他の態様では、前記各部としてコンピューターを機能させるプログラムに関係する。
【図面の簡単な説明】
【0018】
【図1】本実施形態のシステム構成図。
【図2】焦点位置とレンズ位置の説明図。
【図3】本実施形態で用いる撮像素子のベイヤ配列。
【図4】本実施形態で用いる色フィルタの特性。
【図5】本実施形態の合焦状態判定部の詳細な構成図。
【図6】焦点位置とコントラスト値の関係の説明図。
【図7】折り返し地点の片方の画像のみを表示する処理のフローチャート。
【図8】図8(A)〜図8(C)は、ウォブリングの説明図。
【図9】焦点位置と画角の関係の説明図。
【図10】本実施形態の表示用画像選択部の詳細な構成図。
【図11】非選択画像に電子ズーム処理を行う場合の画像選択処理のフローチャート。
【図12】画角と電子ズーム処理の説明図。
【図13】図13(A)及び図13(B)は、表示画像の表示倍率の説明図。
【発明を実施するための形態】
【0019】
以下、本実施形態について説明する。まず、本実施形態の概要を説明し、次に本実施形態のシステム構成例について説明する。そして、本実施形態の手法について説明し、最後に、フローチャートを用いて本実施形態の処理の詳細について具体例を挙げて説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また、本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0020】
1.概要
一般にコントラストAF(autofocus)と呼ばれる方法では、取得される画像から検出したコントラスト情報(高周波成分やエッジ量など)を基に、画像に映る被写体が合焦状態となる被写体の位置を推定する。画像に映る被写体が合焦状態である場合には、画像のコントラスト情報が最大となる特徴がある。そのためコントラストAFと呼ばれる方法では、レンズを移動させ、焦点位置を変化させながら取得した複数の画像に基づいて、画像のコントラスト情報を検出し、コントラスト情報が最大となる時に合焦状態であると判断する。
【0021】
ここで、合焦状態となる被写体の位置の検出方法としては、レンズを往復駆動させることによりレンズの焦点位置を近点及び遠点よりに微小変化(ウォブリング:wobbling)させ、この場合におけるコントラスト情報に基づいて、合焦状態となる被写体の位置を検出する方法が一般に用いられる。
【0022】
内視鏡スコープにおいては、スコープの細径化を実現するために、比較的簡便な構成のレンズが用いられることが一般的である。具体的には、焦点位置及び画角を同時に制御するレンズが用いられる。
【0023】
従って、内視鏡スコープにおいて、合焦状態となる被写体の位置を前述したウォブリングにより検出する場合、ウォブリングに起因して画角が変動するため、取得される画像上において被写体の大きさが変動する。さらにウォブリング時には、レンズが高速に駆動されるため、画像上における被写体の大きさが高速に変動する。そのため、ウォブリング時に取得される画像は非常に見にくい画像となり、医師の負担の増加や、病変の見落としの増加を招くおそれがある。
【0024】
前述した特許文献1は、画像の画角の変動を、電子ズーム処理により補償し表示画像の大きさを一定にする方法を開示している。しかし、特許文献1では、画像に映る被写体が合焦状態になった後に撮像された画像に対して、電子ズーム処理を行い、画像の画角を一定にしているのであって、合焦状態になるようにレンズ位置を動かしている最中に撮像された画像の画角を一定にする方法については記載されていない。
【0025】
本実施形態の画像処理装置等によれば、ウォブリングを行いながら、合焦状態になるようにレンズを移動させる場合に、表示画像の画角の変動を抑制することができる。
【0026】
2.第1の実施形態
まず、図1に本実施形態の画像処理装置300及びこれを含む内視鏡システムの構成例を示す。本実施形態に係る内視鏡システムは、光源部100と、撮像部200と、画像処理装置300と、表示部400と、外部I/F部500と、を含む。そして、画像処理装置300は、補間処理部(画像取得部)310と、合焦状態判定部330と、表示用画像選択部340と、表示画像生成部(出力部)350と、制御部390を備えている。なお、画像処理装置300及びこれを含む内視鏡システムは、図1の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加したりするなどの種々の変形実施が可能である。例えば、合焦状態判定部330を省略した実施が可能である。
【0027】
次に各部の接続について説明する。補間処理部310は、合焦状態判定部330と、表示用画像選択部340と、に接続されている。合焦状態判定部330は、表示用画像選択部340と、制御部390と、に接続されている。表示用画像選択部340は、表示画像生成部350に接続されている。表示画像生成部350は、表示部400に接続されている。制御部390は、後述するレンズ駆動部250と、補間処理部310と、合焦状態判定部330と、表示用画像選択部340と、表示画像生成部350と、に接続されている。
【0028】
次に内視鏡システムの各部について説明する。
【0029】
まず、光源部100は、白色光を発生する白色光源110と、白色光をライトガイドファイバ210に集光するためのレンズ120と、を含む。
【0030】
次に、撮像部200は、体腔への挿入を可能にするため細長く且つ湾曲可能に形成されている。撮像部200は、光源部100で集光された光を導くためのライトガイドファイバ210と、ライトガイドファイバ210により導かれた光を拡散させて被写体に照射する照明レンズ220と、被写体からの反射光を集光する集光レンズ230と、集光レンズ230により集光された反射光を検出するための撮像素子240と、レンズ駆動部250と、を含む。レンズ駆動部250は、集光レンズ230と、合焦状態判定部330と、に接続されている。
【0031】
そして、集光レンズ230は、焦点位置及び画角を制御できるものとする。
【0032】
ここで、レンズLSとスクリーンSCが図2のように配置される場合について、具体的に図2を用いて用語の説明をする。
【0033】
まず、焦点とは、レンズに対して無限遠からの並行な光が入射した場合に、光軸と交わる点のこという。焦点はレンズ固有の点であり、レンズに対して一意に定まる。図2では、(後側)焦点はFPである。
【0034】
次に、レンズ位置とは、被写体に対するレンズ自体の位置のこという。具体的に図2では、レンズの中央部MP(MPのことを主点という)の位置のことをレンズ位置という。
【0035】
また、焦点位置とは、レンズを通して撮像される画像に映る被写体が合焦状態となる被写体側の位置のことをいう。
【0036】
さらに、合焦状態とは、レンズを通して撮像される画像に映る被写体が合焦している状態、すなわちピントが合っている状態のことをいう。言い換えれば、実際の被写体の位置と焦点位置が一致している状態のことである。ただし、両者の位置が完全に一致している必要はなく、両者の位置が所定の距離範囲内にある場合を合焦状態としてもよい。さらに、具体的には、画像のコントラスト値が所定の閾値以上となる状態などのことを合焦状態という。
【0037】
例えば、図2のように被写体SBの像をスクリーンSC上に結像させる場合について考える。この場合には、被写体SBの先端部からレンズLSに対して並行に入射し、焦点FPを通る光R1と主点MPを通る入射光R2とが、スクリーンSCの同じ点IMPで交わる時に合焦状態となる。また、この時の被写体の位置FOPが焦点位置となる。
【0038】
なお、撮像素子(スクリーン)の位置とレンズ位置が固定である場合には、前述したレンズの焦点位置は一意に定まる。言い換えれば、撮像素子(スクリーン)の位置とレンズ位置が固定である場合には、レンズ位置と焦点位置は一対一の対応関係にある。従って、このような場合に合焦状態にするためには、カメラを動かして、被写体とレンズの距離(相互位置)を調整する必要がある。
【0039】
逆に、図2において、被写体SBを位置FOPから位置NGPに移動させた場合には、合焦状態ではなくなってしまう。被写体SBの位置が焦点位置からずれてしまうためである。この場合には、被写体SBの先端部からレンズLSの主点MPを通る入射光R3は、スクリーンSC上のNGIPの点に照射され、入射光R1がスクリーンSC上に照射される点IMPとずれが生じ、合焦状態とならない。
【0040】
なお、本実施形態では、焦点位置及び画角を、それぞれdmin〜dmax[mm](dmax>dmin)、θmin〜θmax[deg](θmax>θmin)の範囲で調整できるものとする。画角については後述する。
【0041】
また、撮像素子240は、図3に示されるようなベイヤ配列を有する撮像素子である。また、図3に示した3種類の色フィルタr、g、bは、図4に示されるようにrフィルタが580〜700nm、gフィルタが480〜600nm、bフィルタが400〜500nmの光を透過させる特徴を有するものとする。
【0042】
レンズ駆動部250は、後述するレンズ駆動制御部391から出力される制御信号に基づいて、集光レンズ230のレンズ位置を移動する。
【0043】
次に、画像処理装置300は、撮像部200により撮像された画像を取得して、画像処理を行い、表示部400に表示する画像(表示画像)を生成し、生成された画像を出力する。画像処理装置300の各部については、後述する。
【0044】
そして、表示部400は、後述する表示画像生成部350から出力される表示画像を表示する。
【0045】
さらに、外部I/F部500は、画像処理装置300に対するユーザからの入力等を行うためのインターフェースであり、電源のオン/オフを行うための電源スイッチ、撮影モードやその他各種のモードを切り換えるためのモード切換ボタンなどを含んで構成されている。また、外部I/F部500は、入力された情報を後述する制御部390へ出力するようになっている。
【0046】
次に、画像処理装置300の各部で行われる処理について説明する。
【0047】
まず、補間処理部310は、撮像素子240で取得される画像に対し、補間処理を施す。前述したように、撮像素子240は図3に示すベイヤ配列を有するため、撮像素子240で取得される画像の各画素は、R、G、B信号のうち、何れか1つの信号値を有するのみで、他の2種類の信号が欠落した状態である。
【0048】
そのため、補間処理部310では、取得した画像の各画素に対し補間処理を施すことで、欠落している信号値を補間し、各画素でR、G、B信号の全ての信号値を有する画像(以下、RGB画像)を生成する。ここで補間処理としては、例えば公知のバイキュービック補間処理を用いれば良い。補間処理部310は、生成したRGB画像を表示用画像選択部340に出力する。
【0049】
次に、補間処理部310は、生成したRGB画像より、輝度画像を生成する。具体的には、RGB画像の全ての画素について、(1)式を用いて輝度信号Yを算出することで、輝度画像を生成する。さらに補間処理部310は、生成した輝度画像を合焦状態判定部330に出力する。
【0050】
【数1】
【0051】
そして、合焦状態判定部330は、補間処理部310より出力される輝度画像よりコントラスト値を算出し、算出したコントラスト値に基づいて、後述する方法で合焦状態(ピントが合っている状態)となるような集光レンズ230の焦点位置を求め、制御部390に出力する。
【0052】
また、本実施例においては、合焦状態判定部330は、図5に示すように、コントラスト値算出部331と、焦点位置制御部332と、を含む。この時、補間処理部310は、コントラスト値算出部331に接続されている。コントラスト値算出部331は、焦点位置制御部332に接続されている。焦点位置制御部332は、表示用画像選択部340と、レンズ駆動制御部391に接続されている。制御部390は、焦点位置制御部332に接続されている。なお、合焦状態判定部330は、図5の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加したりするなどの種々の変形実施が可能である。
【0053】
さらに、コントラスト値としては、公知のエッジ抽出処理により得られたエッジ量の絶対値を輝度画像全体で積算した値などを用いる。
【0054】
一般に、合焦状態においては、輝度画像のコントラスト値が最大となることが知られている。ここで、集光レンズ230を用いた場合に合焦状態となる被写体の位置をdmとする(dmin<dm<dmax)。この場合には、集光レンズ230の焦点位置とコントラスト値の関係は、図6に示すようになる。具体的には、合焦状態となる被写体の位置dmにおいてコントラスト値が最大となる。
【0055】
したがって、焦点位置制御部332は、補間処理部310から出力される輝度画像のコントラスト値が最大となる焦点位置を検出することによって、合焦状態となる被写体の位置を検出可能である。
【0056】
さらに、表示用画像選択部340は、補間処理部310から取得されるRGB画像のうち、特定のRGB画像のみを選択して表示画像生成部350に出力する。
【0057】
そして、表示画像生成部350は、表示用画像選択部340より出力されるRGB画像に対し、既存のホワイトバランス、色変換、階調変換処理を施し、表示画像を生成する。さらに、表示画像生成部350は、生成した表示画像を表示部400に出力する。
【0058】
最後に、制御部390は、外部I/F部500から入力される情報を、補間処理部310と、合焦状態判定部330と、表示用画像選択部340と、表示画像生成部350に通知して、これら各部を制御する。
【0059】
また、本実施例においては、制御部390は、図1に示すように、レンズ駆動制御部391と、を含む。レンズ駆動制御部391は、合焦状態判定部330から取得された情報に基づいて、レンズ位置を制御するために用いる制御信号を求めて、制御信号をレンズ駆動部250に出力する。この時、レンズ駆動制御部391は、レンズ駆動部250に接続されている。なお、制御部390は、図1の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加したりするなどの種々の変形実施が可能である。
【0060】
次に、第1の実施形態で行う処理の流れについて、図7のフローチャートを用いて説明する。また、以下で行うウォブリング(往復駆動)については、図8(A)〜図8(C)を用いて説明する。図8(A)は、内視鏡ESを用いて患部LAを撮像する様子を示している。
【0061】
まず、合焦状態となる被写体の位置を算出する際には、焦点位置制御部332が、現在の焦点位置を初期位置ds0に設定する(S1)。すなわち、ステップS2前の焦点位置をds1とし、ds1=ds0に設定する。そして、焦点位置制御部332は、レンズ駆動部250を介して、集光レンズ230の現在の焦点位置をds1からds2=ds1−dw(初回はds2=ds0−dw)に変更する(S2)。(図8(A)参照)すなわち、レンズ位置をls1からls2=ls1−lw(初回はls2=ls0−lw)に変更する。さらに、焦点位置制御部332は、表示用画像選択部340に対しトリガ信号を出力する。
【0062】
次に、焦点位置を変更した後に、撮像部200が第1の画像を撮像する(S3)。この時、第1の画像は、図8(B)に示すIM1のような画像となる。そして、コントラスト値算出部331が、補間処理部310から出力される輝度画像より、コントラスト値C−dwを算出する(S4)。その後、算出したコントラスト値C−dwを、焦点位置制御部332に出力する。
【0063】
同様にして、補間処理部310は、レンズ駆動部250を介して、集光レンズ230の現在の焦点位置をds2からds3=ds1+dw(初回はds3=ds0+dwとなる)に変更する(S5)。すなわち、レンズ位置をls2からls3=ls1+lw(初回はls3=ls0+lw)に変更する。なお、焦点位置制御部332は、ここではトリガ信号を出力しない。焦点位置を変更した後は、ステップS3と同様に、撮像部200が第2の画像を撮像し(S6)、コントラスト値算出部331が、補間処理部310から出力される輝度画像より、コントラスト値C+dwを算出し(S7)、算出したコントラスト値C+dwを焦点位置制御部332に出力する。この時、第2の画像は、図8(C)に示すIM2のような画像となる。第2の画像IM2は、第1の画像IM1に比べて画角が大きく、より広い範囲が映されているが、患部LAが小さく映ることとなる。
【0064】
ここで、(2)式により、前述したウォブリングをしながら算出した二つのコントラスト値の差の絶対値Cabsを算出し、コントラスト値の差分絶対値Cabsが所定の閾値Thc以下であるか否かを判定する(S8)。なお、閾値Thcは、予め一定の値を定めておいても良いし、外部I/F部500よりユーザが任意の値を設定する構成としても良い。
【0065】
【数2】
【0066】
コントラスト値の差分絶対値Cabsが閾値Thc以下である場合(図6のピークにあると判定できる場合)には、合焦状態であると判定する。一方、コントラスト値の差分絶対値Cabsが閾値Thcよりも大きい場合には、合焦状態ではないと判定する。
【0067】
ステップS8において、コントラスト値の差分絶対値Cabsが所定の閾値Thcより大きいと判定した場合、すなわち合焦状態ではない場合には、二つのコントラスト値の大小関係を判断する(S9)。
【0068】
ここで、C−dw>C+dwであると判断する場合には、現在の焦点位置がds3から(ds1−dn)(初回は(ds0−dn))となるようにレンズを移動し、ds1を(ds1−dn)に更新する(S10)。すなわち、レンズ位置をls3から(ls1−ln)(初回は(ls0−ln))に変更する。
【0069】
一方、C+dw>C−dwであると判断する場合には、現在の焦点位置がds3から(ds1+dn)(初回は(ds0+dn))となるようにレンズを移動し、ds1を(ds1+dn)に更新する(S11)。すなわち、レンズ位置をls3から(ls1+ln)(初回は(ls0+ln))に変更する。図8(A)では、ステップS11の処理を行った様子を示している。なお、前述したウォブリングによる往復幅dwと、山登りAFによる焦点位置の移動幅dnの値は、予め一定の値を設定しておいても良いし、外部I/F部500よりユーザが任意の値を設定する構成としても良い。
【0070】
通常は、この後、前述した処理によって得られた第1の画像IM1と第2の画像IM2とを表示部に表示する。しかし、本実施形態で用いられる集光レンズ230は、前述したように焦点位置と画角が同時に変化する特徴がある。そのため、前述した方法で集光レンズ230の焦点位置が制御されている間、補間処理部310から出力される画像は、画角(画像に映し出される被写体の範囲の大きさ)が時間的に変動するという問題がある。
【0071】
そこで、本実施形態では、表示用画像選択部340は、焦点位置制御部332からトリガ信号が出力された時に、補間処理部310から出力されるRGB画像(第1の画像IM1)を表示画像として選択する(S12)。そして、選択した画像を表示画像生成部350に出力する。これにより、集光レンズ230の焦点位置が近点よりであるds2に変更された時に取得された画像のみが、表示画像生成部350に出力されることとなり、表示画像の画角の変動を抑えることができる。
【0072】
なお、本実施形態では、集光レンズ230の焦点位置が近点よりであるds2にある場合の画像(第1の画像IM1)を表示する例を示したが、本発明はこれに限定されるものではなく、集光レンズ230の焦点位置が遠点よりであるds3にある場合に撮像された画像(第2の画像IM2)を表示しても良い。
【0073】
そして、表示画像生成部350は、表示用画像選択部340より出力されるRGB画像に対し、既存のホワイトバランス、色変換、階調変換処理を施し、表示画像を生成し、生成した表示画像を表示部400に出力する(S13)。
【0074】
ここで、ユーザ等から撮影終了指示があるか否かを判定し、撮影終了指示がある場合には処理を終了する(S14)。一方、終了指示がない場合には、ステップS2から処理を繰り返す。
【0075】
以上の方法を用いた場合、表示画像のフレームレートが、撮像素子240により取得される画像のフレームレートの1/2になるという問題がある。
【0076】
そこで、本実施の形態では、合焦状態にあると判定された場合には、表示用画像選択部340が、補間処理部310から出力される全てのRGB画像を、表示画像生成部350に出力する。これにより、合焦状態である場合には、撮像素子240から取得される画像と同一のフレームレートで表示画像を得ることが可能となる。
【0077】
ステップS8において、コントラスト値の差分絶対値Cabsが閾値Thc以下である場合、すなわち合焦状態であると判定した場合には、焦点位置制御部332は、焦点位置がステップS2を行う前の焦点位置となるように集光レンズ230の位置を変更する(S15)。すなわち、現在の焦点位置がds3からds1となるように、集光レンズ230の位置をls3からls1に変更する。その後、焦点位置制御部332は集光レンズ230の駆動を停止する。さらに、焦点位置制御部332は、表示用画像選択部340に対し、合焦状態にあることを示すトリガ信号を出力する。
【0078】
そして、撮像部200が画像を撮像し(S16)、表示用画像選択部340は、焦点位置制御部332からトリガ信号を受信して、補間処理部310から出力される全てのRGB画像を表示画像として選択する。そして、表示画像生成部350は全てのRGB画像から表示画像を生成して、表示部に出力する(S17)。ここで、焦点位置制御部332は、前記のコントラスト値C−dwとC+dwの平均値Caveを保持しておく。
【0079】
その後、焦点位置制御部332は、ウォブリングを停止している期間中に、コントラスト値算出部331より出力されるコントラスト値と、閾値A×Caveとを比較し、合焦状態か否かを判定する(S18)。ここで、コントラスト値算出部331より出力されるコントラスト値が、閾値A×Caveよりも小さくなった場合には、合焦状態でなくなったと判定し、集光レンズの駆動(ウォブリング)を再開する(ステップS2に戻る)。
【0080】
一方、コントラスト値算出部331より出力されるコントラスト値が、閾値A×Cave以上である場合には、合焦状態を維持していると判定する。そして、ユーザ等から撮影終了指示があるか否かを判定し(S19)、撮影終了指示がある場合には処理を終了する。一方、終了指示がない場合には、ステップS16から処理を繰り返す。なお、係数Aは、予め一定の値を定めておいても良いし、外部I/F部500よりユーザが任意の値を設定する構成としても良い。
【0081】
以上に示した方法により、ウォブリングに起因して画像の大きさが変動する問題を解決することができる。さらに、合焦状態においては、通常のフレームレートで表示画像を取得することが可能である。
【0082】
3.第2の実施形態
次に、第2の実施形態に係る内視鏡システムについて、図1を参照して説明する。図1に示す集光レンズ230と、合焦状態判定部330と、表示用画像選択部340以外の処理は、第1の実施形態と同一であるため、説明を省略する。
【0083】
集光レンズ230は、焦点位置及び画角をそれぞれdmin〜dmax[mm](dmax>dmin)、θmin〜θmax[deg](θmax>θmin)の範囲で調整できるものとし、焦点位置と画角の間には、図9に示す関係が成立するものとする。
【0084】
また、合焦状態判定部330の構成は第1の実施形態と同様に図5に示す通りであり、焦点位置制御部332以外の処理は第1の実施形態と同一であるため、説明を省略する。
【0085】
また、図10に示すように、表示用画像選択部340は、画像選択部341と、電子ズーム処理部342と、拡大率算出部343と、を含む。この時、制御部390は、画像選択部341と、電子ズーム処理部342と、拡大率算出部343に接続されている。補間処理部310は、画像選択部341に接続されている。画像選択部341は、電子ズーム処理部342と、表示画像生成部350に接続されている。電子ズーム処理部342は、表示画像生成部350に接続されている。拡大率算出部343は、電子ズーム処理部342に接続されている。焦点位置制御部332は、画像選択部341と、拡大率算出部343に接続されている。なお、表示用画像選択部340は、図10の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加したりするなどの種々の変形実施が可能である。
【0086】
次に、第2の実施形態で行う処理の流れについて、図7と図11のフローチャートを用いて説明する。処理の流れは図7に示した第1の実施形態と同様であるが、表示画像の選択処理(S12)が異なる。第2の実施形態では、図11に示すような流れで表示画像の選択処理を行う。また、後述する電子ズーム処理を行う場合において、現在の第2の画像の画角と目標画角について図12を用いて説明する。
【0087】
まず、画像選択部341は、焦点位置制御部332から前述のトリガ信号が出力されている期間に補間処理部310から出力されるRGB画像(第1の画像)を選択し、表示画像生成部350に出力する(S121)。一方、トリガ信号が出力されていない場合に取得したRGB画像(第2の画像)は電子ズーム処理部342に出力する。図12では、IM2が第2の画像(または第2の画像に映し出される被写体の範囲)を示している。
【0088】
なお本実施形態では、図7のステップS7において、焦点位置制御部332は、拡大倍率を算出するために、焦点位置がds3の場合における画角θ+dw(すなわち図12に示す第2の画像IM2の画角θ+dw)を取得し、後述する拡大率算出部343に出力しておく。
【0089】
次に、第2の画像の目標画角θnewを算出する(S122)。具体的には、C−dw>C+dwである場合にはθnew=θ(ds1−dn/2)とし、C+dw>C−dwである場合には、θnew=θ(ds1+dn/2)として、焦点位置制御部332が目標画角θnewを算出し、後述する拡大率算出部343に出力する。ただし、θ(ds)は、集光レンズ230の焦点位置がdsの場合における画角を表すものとする。図12には、目標画角θnewを有する画像を目標画像TIMとして示している。
【0090】
なお、本実施形態では、画角θnewをθ(ds1−dn/2)若しくはθ(ds1+dn/2)とする例を示したが、本発明はこれに限定されるものではない。例えば、C−dw>C+dwの場合には、θ(ds1−dn)≦θnew≦θ(ds1)の範囲で画角θnewを求めれば良く、C+dw>C―dwの場合には、θ(ds1)≦θnew≦θ(ds1+dn)の範囲で画角θnewを求めれば良い。
【0091】
次に、拡大率算出部343は、焦点位置制御部332より出力される画角θ+dw、θnewに基づき、電子ズーム処理部342における電子ズーム処理の拡大倍率Zを算出する(S123)。拡大倍率Zは(3)式を用いて算出する。
【0092】
【数3】
【0093】
そして、電子ズーム処理部342は、求められた拡大倍率に基づいて、画像選択部341から出力されるRGB画像に対し、電子ズーム処理を施し(S124)、表示画像生成部350に出力する(S125)。
【0094】
以上に示した方法により、ウォブリングに起因して画像の大きさが変動する問題を解決することができる。さらに、本実施の形態によれば、非合焦時においても通常のフレームレートで表示画像を取得できる利点がある。
【0095】
また、本実施形態では、焦点位置が近点よりの画像のみを選択して表示し、さらに選択されなかった画像(焦点位置が遠点よりの画像)に対し、電子ズーム処理による拡大処理を施した画像を表示する例を示した。
【0096】
ここで他の方法としては、焦点位置が遠点よりの画像のみを選択して表示し、さらに選択されなかった画像(焦点位置が近点よりの画像)に対し、電子ズーム処理を施した画像を表示する例も考えられる。しかしこの方法では、選択されなかった画像に対して、縮小処理が施される。そのため、電子ズーム処理後の画像は、前記選択された画像よりも小さい画像となるため、画像周辺部に信号値が存在しない画像となる問題がある。
【0097】
そこで、本実施形態で示したように、焦点位置が近点よりの画像のみを選択して表示し、さらに選択されなかった画像(焦点位置が遠点よりの画像)に対して電子ズーム処理による拡大処理を施せば、前記の問題は生じない。
【0098】
4.作用・効果
以上の本実施形態の画像処理装置300は、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部391と、ウォブリング中のレンズを通して撮像された複数の画像を取得する画像取得部(補間処理部310)と、ウォブリング経路上にある複数の折り返し位置のうちの、いずれかの折り返し位置にレンズが位置する時に撮像された画像を、取得された複数の画像の中から選択する表示用画像選択部340と、選択された画像を表示画像として表示部400に出力する出力部350(表示画像生成部)と、を含む。
【0099】
ここで、折り返し位置とは、ウォブリングを行う場合に、レンズの移動方向を変更する位置のことをいう。具体的に図8(A)の例で言えば、ls0−lw及びls0+lwの位置のことをいう。また、折り返し位置は、実際にレンズの移動方向を変更する位置と完全に一致する位置でなくてもよい。例えば、実際にレンズの移動方向を変更する位置から所定の距離だけ離れた位置を、折り返し位置として扱ってもよい。
【0100】
これにより、ウォブリング経路上にある複数の折り返し位置のうち、いずれかの折り返し位置にレンズが位置する時に撮像された画像を、表示部400に出力することが可能となる。
【0101】
その具体例を図13(A)に示す。図13(A)では、縦軸が表示画像の表示倍率を表し、横軸がウォブリングを行っている場合の時間軸を表す。本例では、ウォブリングの一方の折り返し位置に対応する時刻tn(tn+2、tn+4)において取得された画像を選択画像SIMとし、ウォブリングの他方の折り返し位置に対応する時刻tn+1(tn+3、tn+5)において取得された画像を非選択画像NSIMとする(tn+5は不図示)。言い換えれば、時刻tnにおいて取得された画像が第1の画像であり、時刻tn+1において取得された画像が第2の画像であり、時刻tn+2において取得された画像が第3の画像である。そして、第1の画像と第3の画像を表示する。
【0102】
図13(A)からも分かる通り、選択画像SIM同士の表示倍率(画角)の差は、選択画像SIMと非選択画像NSIMの表示倍率の差よりも小さい。また、選択画像SIM同士の表示倍率(画角)の差は、ウォブリングに起因するものではなく、被写体が合焦状態となるレンズ位置にレンズ位置を近づける際に生じる画角の変化であり、ウォブリングによる画角の変化と比べてゆったりと変化するため、問題とはならない。
【0103】
このように、一方の折り返し位置において撮像された画像のみを表示画像として選択すれば、画角の差は小さくなり、表示画像の画角が高速に変化することを抑制することができる。
【0104】
さらに、本実施形態では、電子ズーム処理等を行う必要がないため、回路規模の増大や内視鏡の構成の複雑化等を防ぎつつ、表示画像の画角の変動を抑制することが可能となる。
【0105】
また、取得された複数の画像に基づいて、画像に映る被写体が合焦状態であるか否かを判定する合焦状態判定部(合焦状態判定部330)を含んでもよい。そして、レンズ駆動制御部391は、現在の焦点位置に対応するレンズ位置を中心として、レンズをウォブリングさせるための制御信号を出力してもよい。さらに、合焦状態判定部は、ウォブリング中に撮像された画像に基づいて、フォーカス評価値を求め、求めたフォーカス評価値に基づいて、画像に映る被写体が合焦状態であるか否かを判定してもよい。
【0106】
ここで、前述したように、撮像素子(スクリーン)の位置とレンズ位置が固定である場合には、レンズ位置と焦点位置は一対一の対応関係にある。本実施形態では、スクリーンの位置とレンズ位置が固定である場合を想定しているため、焦点位置が定まればレンズ位置も定まる。具体的には例えば、図8(A)に示すような場合には、焦点位置ds0に対応するレンズ位置はls0となる。すなわち、本実施形態では、レンズ位置ls0を中心として、図8(A)に示すようなウォブリングを行う。
【0107】
またここで、フォーカス評価値とは、撮像された画像に映る被写体が合焦状態である否かを判定するために用いる値または情報のことをいう。例えば、コントラストAFを行う場合には、後述するようにフォーカス評価値としてコントラスト値等が用いられ、位相差AFを行う場合には位相差等が用いられる。
【0108】
これにより、画像に映る被写体が合焦状態であるか否かを判定すること等が可能となる。よって、画像に映る被写体が合焦状態であると判定された場合と、合焦状態ではないと判定された場合とで、後述するような異なる処理を行うこと等が可能となる。
【0109】
また、レンズ駆動制御部391は、合焦状態判定部により画像に映る被写体が合焦状態であると判定された場合には、レンズのウォブリングの停止処理を行ってもよい。
【0110】
ここで、レンズのウォブリングの停止処理は、レンズをウォブリングさせるための制御信号の出力を停止することを含む処理であっても良いし、ウォブリングの停止を指示する制御信号(停止信号)を出力することを含む処理であってもよい。
【0111】
これにより、合焦状態であると判定された場合に、ウォブリングを停止すること等が可能になる。既に合焦状態になった場合には、ウォブリングを行う目的を達成していると言うことができ、目標達成後の無駄なウォブリングを継続する必要がなくなり、処理負荷を低減することが可能となる。
【0112】
また、画像取得部は、レンズ駆動制御部391によりウォブリングの停止処理が行われた場合にも、画像を取得し続けてもよい。そして、出力部350は、ウォブリングの停止中に画像取得部により取得された画像を、表示部400に出力してもよい。
【0113】
この時、出力部350が表示部400に出力する画像は、折り返し位置にレンズが位置する時に撮像された画像であってもよいし、折り返し位置以外の位置にレンズが位置する時に撮像された画像であってもよい。また、表示用画像選択部340が、ウォブリングの停止中に画像取得部により取得された画像の中から表示画像を選択してもよいし、選択せずに画像取得部から得られた画像を出力部350に出力してもよい。
【0114】
これにより、合焦状態であると判定された場合に、合焦状態で画像を撮像し、取得し続けること等が可能になる。前述した手法でウォブリングのいずれかの折り返し位置で撮像された画像のみを表示部400に出力する場合には、フレームレートが半分になるという問題があったが、本実施形態の場合には、例えば、取得した全ての画像を表示部400に出力することが可能となるため、画像の画角の変化がない状態で、フレームレートを通常の値に戻すこと等が可能となる。
【0115】
また、合焦状態判定部は、レンズ駆動制御部391によりウォブリングの停止処理が行われた場合にも、画像に映る被写体が合焦状態であるか否かを判定し続けてもよい。そして、レンズ駆動制御部391は、合焦状態でないと判定された場合には、レンズのウォブリングの再開処理を行ってもよい。
【0116】
ここで、レンズのウォブリングの再開処理は、レンズをウォブリングさせるための制御信号を出力することを含む処理であってもよいし、ウォブリングの再開を指示する制御信号(再開信号)を出力することを含む処理であってもよい。
【0117】
例えば、一度合焦状態となった後に、合焦状態ではなくなった場合に、前述したように全ての画像を表示し続けても、ピントが合っていない画像が表示されたままになる。本実施形態では、このような問題を解決するために、例えば、一度合焦状態となった後に、合焦状態ではなくなったことを検出して、再度ウォブリングを開始することができ、再度合焦状態にすること等が可能となる。
【0118】
また、画像取得部(補間処理部310)は、取得した画像に基づいて、輝度画像を生成してもよい。そして、合焦状態判定部は、生成された輝度画像のコントラスト値をフォーカス評価値として算出し、コントラスト値に基づいて、画像に映る被写体が合焦状態であるか否かを判定してもよい。
【0119】
ここで、輝度画像とは、各画素が映す被写体の輝度が、各画素に割り当てられた画像のことをいう。本実施形態では、輝度画像の他に各画素の輝度を羅列した情報等を用いてもよく、画像に限定されない。
【0120】
また、コントラスト値とは、例えばコントラスト比などの情報のことをいう。コントラスト値は、数学的にコントラスト比と等価な情報であれば、コントラスト比以外の値を用いてもよい。
【0121】
これにより、コントラスト値に基づいて、画像に映る被写体が合焦状態であるか否かを判定すること等が可能になる。
【0122】
また、表示用画像選択部340は、電子ズーム処理部342を含んでもよい。そして、画像取得部は、ウォブリング中に、第1の画像に続いて、第2の画像を取得し、さらに第3の画像を取得してもよい。そして、電子ズーム処理部は、表示用画像選択部340により、第1の画像と第3の画像とが選択され、第2の画像が選択されない場合に、第2の画像に対して電子ズーム処理を行ってもよい。さらに、出力部350は、電子ズーム処理後の第2の画像を表示画像として出力してもよい。
【0123】
ここで、第1の画像と、第2の画像と、第3の画像は、時系列順に撮像される画像のことをいう。具体的には、図8(A)のようにウォブリングの折り返し位置で画像を撮像する場合には、1回目のウォブリングの左側の折り返し位置(ls0−lw)で撮像された画像が第1の画像であり、右側の折り返し位置(ls0+lw)で撮像された画像が第2の画像であり、2回目のウォブリングの左側の折り返し位置で撮像された画像が第3の画像である。
【0124】
また、電子ズーム処理とは、元々の画像情報はそのままに、画像の周辺部をカットし、トリミングすることによって画像の一部を拡大し、あたかもレンズでズーミングしたような画像を生成する処理などのことをいう。
【0125】
前述した手法ではウォブリングを行っている間は、表示画像のフレームレートが半分になるという問題があったが、本実施形態によれば、ウォブリングを行っている間にも、画像の画角の変化を抑制しつつ、フレームレートを通常の値に戻すこと等が可能となる。
【0126】
その具体例を図13(A)及び図13(B)に示す。前述したように、図13(A)では、ウォブリングの一方の折り返し位置に対応する時刻tn(tn+2、tn+4)において取得された画像を選択画像SIMとし、ウォブリングの他方の折り返し位置に対応する時刻tn+1(tn+3、tn+5)において取得された画像を非選択画像NSIMとして、選択画像SIMのみを表示部400に出力する。言い換えれば、時刻tnにおいて取得された画像が第1の画像であり、時刻tn+1において取得された画像が第2の画像であり、時刻tn+2において取得された画像が第3の画像である。そして、第1の画像と第3の画像を表示部400に出力する。この場合には、図13(A)からも分かる通り、表示画像のフレームレートが半分になるという問題があった。
【0127】
そこで、本実施形態では、図13(A)の非選択画像NSIM(第2の画像)に対して電子ズーム処理を行うことによって、表示倍率が選択画像SIMに近い画像LIMを生成し、表示部400に出力する。これによって、画像の画角の変化を抑制しつつ、通常のフレームレートの値に戻すことができる。
【0128】
また、表示用画像選択部340は、拡大率算出部343を更に含んでもよい。そして、拡大率算出部は、第1の画像の画角θ1と第3の画像の画角θ3とに基づいて、第2の画像の目標画角θnewを求めて、目標画角θnewと電子ズーム処理前の第2の画像の画角θ2とに基づいて拡大倍率を求めてもよい。さらに、電子ズーム処理部は、求めた拡大倍率で第2の画像に対して電子ズーム処理を行ってもよい。
【0129】
ここで、第1の画像の画角は、実際の第1の画像の画角を用いても良いし、第1の画像を撮像した時のウォブリングの中心点にレンズが位置する場合に取得される画像の画角を用いても良い。具体的には、図8(A)の例においては、実際の第1の画像の画角は、図8(B)のIM1の画角のことを指す。また、後者の場合には、第1の画像IM1は、レンズ位置ls0を中心としてウォブリングしている際に撮像された画像であるため、レンズ位置ls0に対応する焦点位置ds0を求め、図9のグラフから焦点位置ds0に対応する画角を第1の画像として求めて用いる。なお、第3の画像についても同様である。また、ここで挙げた例以外の画角を用いてもよい。
【0130】
一方、第2の画像の画角は、実際の第2の画像の画角を用いる。具体的には、図8(A)の例においては、実際の第2の画像の画角は、図8(C)のIM2の画角のことを指す。
【0131】
また、拡大倍率とは、電子ズーム後の画像の画角に対する電子ズーム前の画像の画角の比率を表す情報のことをいう。または、拡大倍率とは、電子ズーム前の画像の画素の大きさに対する電子ズーム後の画像の画素の大きさの比率を表す情報のことをいう。拡大倍率は数学的にこれらと等価な情報を用いても良い。
【0132】
これにより、第1の画像の画角と第3の画像の画角に基づいて決定した画角を有する第2の画像を、表示部400に出力して、ウォブリングを行っている間も表示画像のフレームレートを通常の値に保つこと等が可能になる。
【0133】
また、拡大率算出部は、θ1≦θnew≦θ3となる第2の画像の目標画角θnewを求めて、求めた目標画角θnewと電子ズーム処理前の第2の画像の画角θ2とに基づいて拡大倍率を求めてもよい。
【0134】
これにより、第1の画像の画角と第3の画像の画角の中間値となるように第2の画像の画角を調整して、画角が滑らかに変化するように画像を出力すること等が可能になる。
【0135】
また、他の実施形態の画像処理装置300は、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部391と、ウォブリング中のレンズを通して撮像された第1の画像と第2の画像と第3の画像とを取得する画像取得部(補間処理部310)と、第1の画像の画角と第2の画像の画角との差が所定の許容範囲外であり、第1の画像の画角と第3の画像の画角との差が所定の許容範囲内である時に、第1の画像と第3の画像とを選択する表示用画像選択部340と、選択された画像を表示画像として表示部400に出力する出力部350(表示画像生成部)と、を含む。
【0136】
本実施形態の目的は、ウォブリングによる画角の変化を排除することである。また、本例は、ウォブリングによる往復幅(図8(A)のdw)の方が、山登りAF処理による焦点位置の移動幅(図8(A)のdn)よりも大きい場合を前提としている。すなわち、本例の前提に則れば、ウォブリングによる画角変動の方が、山登りAF処理による画角変動よりも大きくなる。
【0137】
そのため、第1の画像の画角と第2の画像の画角の差、及び第1の画像の画角と第3の画像の画角の差に対して、所定の許容範囲を設定して、所定の許容範囲よりも画角の差が大きい場合には、ウォブリングに起因する画角変動だと判断する。そして、ウォブリングの一方の折り返し位置において取得された画像のみを選択し、表示部400に出力する。
【0138】
これにより、画角の差が所定の許容範囲内にある画像のみを表示画像として選択して、表示画像の画角が高速に変化することを抑制することができる。
【0139】
さらに、本実施形態では、電子ズーム処理等を行う必要がないため、回路規模の増大や内視鏡の構成の複雑化等を防ぎつつ、表示画像の画角の変動を抑制することが可能となる。
【0140】
なお、本実施形態の画像処理装置300等は、プログラムにより実現してもよい。この場合には、CPU等のプロセッサーがプログラムを実行することで、本実施形態の画像処理装置300等が実現される。具体的には、情報記憶媒体に記憶されたプログラムが読み出され、読み出されたプログラムをCPU等のプロセッサーが実行する。ここで、情報記憶媒体(コンピューターにより読み取り可能な媒体)は、プログラムやデーターなどを格納するものであり、その機能は、光ディスク(DVD、CD等)、HDD(ハードディスクドライブ)、或いはメモリー(カード型メモリー、ROM等)などにより実現できる。そして、CPU等のプロセッサーは、情報記憶媒体に格納されるプログラム(データ)に基づいて本実施形態の種々の処理を行う。即ち、情報記憶媒体には、本実施形態の各部としてコンピューター(操作部、処理部、記憶部、出力部を備える装置)を機能させるためのプログラム(各部の処理をコンピューターに実行させるためのプログラム)が記憶される。
【0141】
以上のように本実施形態について詳細に説明したが、本発明の新規事項および効果から実体的に逸脱しない多くの変形が可能であることは当業者には容易に理解できるであろう。従って、このような変形例はすべて本発明の範囲に含まれるものとする。例えば、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。また、画像処理装置、内視鏡システム、画像処理方法及びプログラムの構成、動作も本実施形態で説明したものに限定されず、種々の変形実施が可能である。
【符号の説明】
【0142】
100 光源部、110 白色光源、120 レンズ、200 撮像部、
210 ライトガイドファイバ、220 照明レンズ、230 集光レンズ、
240 撮像素子、250 レンズ駆動部、300 画像処理装置、
310 補間処理部、330 合焦状態判定部、331 コントラスト値算出部、
332 焦点位置制御部、340 表示用画像選択部、341 画像選択部、
342 電子ズーム処理部、343 拡大率算出部、350 表示画像生成部、
390 制御部、400 表示部、500 外部I/F部
【技術分野】
【0001】
本発明は、画像処理装置、内視鏡システム、画像処理方法及びプログラム等に関係する。
【背景技術】
【0002】
一般にコントラストAF(autofocus)と呼ばれる方法では、取得される画像から検出したコントラスト情報(高周波成分やエッジ量など)を基に、画像に映る被写体が合焦状態となる被写体の位置を推定する。画像に映る被写体が合焦状態である場合には、画像のコントラスト情報が最大となる特徴がある。そのためコントラストAFと呼ばれる方法では、レンズを移動させ、焦点位置を変化させながら取得した複数の画像に基づいて、画像のコントラスト情報を検出し、コントラスト情報が最大となる時に合焦状態であると判断する。
【0003】
ここで、合焦状態となる被写体の位置の検出方法としては、レンズを往復駆動させることによりレンズの焦点位置を近点及び遠点よりに微小変化(ウォブリング:wobbling)させ、この場合におけるコントラスト情報に基づいて、合焦状態となる被写体の位置を検出する方法が一般に用いられる。
【0004】
画像処理装置に関する発明としては特許文献1に記載される従来技術がある。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平11−023949号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
内視鏡スコープにおいては、スコープの細径化を実現するために、比較的簡便な構成のレンズが用いられることが一般的である。具体的には、焦点位置及び画角を同時に制御するレンズが用いられる。
【0007】
従って、内視鏡スコープにおいて、合焦状態となる被写体の位置を前述したウォブリングにより検出する場合、ウォブリングに起因して画角が変動するため、取得される画像上において被写体の大きさが変動する。さらにウォブリング時には、レンズが高速に駆動されるため、画像上における被写体の大きさが高速に変動する。そのため、ウォブリング時に取得される画像は非常に見にくい画像となり、医師の負担の増加や、病変の見落としの増加を招くおそれがある。
【0008】
前述した特許文献1は、画像の画角の変動を、電子ズーム処理により補償し表示画像の大きさを一定にする方法を開示している。しかし、特許文献1では、画像に映る被写体が合焦状態になった後に撮像された画像に対して、電子ズーム処理を行い、画像の画角を一定にしているのであって、合焦状態になるようにレンズ位置を動かしている最中に撮像された画像の画角を一定にする方法については記載されていない。
【0009】
本発明の幾つかの態様によれば、ウォブリングを行いながら、合焦状態になるようにレンズを移動させる場合に、表示画像の画角の変動を抑制することができる画像処理装置、内視鏡システム、画像処理方法及びプログラム等を提供することができる。
【課題を解決するための手段】
【0010】
本発明の一態様は、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部と、ウォブリング中の前記レンズを通して撮像された複数の画像を取得する画像取得部と、ウォブリング経路上にある複数の折り返し位置のうちの、いずれかの折り返し位置に前記レンズが位置する時に撮像された画像を、取得された前記複数の画像の中から選択する表示用画像選択部と、選択された前記画像を表示画像として表示部に出力する出力部と、を含む画像処理装置に関係する。
【0011】
これにより、ウォブリング経路上にある複数の折り返し位置のうち、いずれかの折り返し位置にレンズが位置する時に撮像された画像を、表示部に出力することが可能となる。例えば、一方の折り返し位置において撮像された画像のみを表示画像として選択すれば、画角の差は小さくなり、表示画像の画角が高速に変化することを抑制することができる。
【0012】
また、本発明の他の態様では、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部と、ウォブリング中の前記レンズを通して撮像された第1の画像と第2の画像と第3の画像とを取得する画像取得部と、前記第1の画像の画角と前記第2の画像の画角との差が所定の許容範囲外であり、前記第1の画像の画角と前記第3の画像の画角との差が前記所定の許容範囲内である時に、前記第1の画像と前記第3の画像とを選択する表示用画像選択部と、選択された前記画像を表示画像として表示部に出力する出力部と、を含む画像処理装置に関係する。
【0013】
これにより、画角の差が所定の許容範囲内にある画像のみを表示画像として選択して、表示画像の画角が高速に変化することを抑制することができる。
【0014】
また、本発明の他の態様では、前記画像処理装置を含む内視鏡システムに関係する。
【0015】
また、本発明の他の態様では、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力し、ウォブリング中の前記レンズを通して撮像された複数の画像を取得し、ウォブリング経路上にある複数の折り返し位置のうち、いずれかの折り返し位置に前記レンズが位置する時に撮像された画像を、取得された前記複数の画像の中から選択し、選択された前記画像を表示画像として表示部に出力することを特徴とする画像処理方法に関係する。
【0016】
また、本発明の他の態様では、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力し、ウォブリング中の前記レンズを通して撮像された第1の画像と第2の画像と第3の画像とを取得し、前記第1の画像の画角と前記第2の画像の画角との差が所定の許容範囲外であり、前記第1の画像の画角と前記第3の画像の画角との差が前記所定の許容範囲内である時に、前記第1の画像と前記第3の画像とを選択し、選択された前記画像を表示画像として表示部に出力することを特徴とする画像処理方法に関係する。
【0017】
また、本発明の他の態様では、前記各部としてコンピューターを機能させるプログラムに関係する。
【図面の簡単な説明】
【0018】
【図1】本実施形態のシステム構成図。
【図2】焦点位置とレンズ位置の説明図。
【図3】本実施形態で用いる撮像素子のベイヤ配列。
【図4】本実施形態で用いる色フィルタの特性。
【図5】本実施形態の合焦状態判定部の詳細な構成図。
【図6】焦点位置とコントラスト値の関係の説明図。
【図7】折り返し地点の片方の画像のみを表示する処理のフローチャート。
【図8】図8(A)〜図8(C)は、ウォブリングの説明図。
【図9】焦点位置と画角の関係の説明図。
【図10】本実施形態の表示用画像選択部の詳細な構成図。
【図11】非選択画像に電子ズーム処理を行う場合の画像選択処理のフローチャート。
【図12】画角と電子ズーム処理の説明図。
【図13】図13(A)及び図13(B)は、表示画像の表示倍率の説明図。
【発明を実施するための形態】
【0019】
以下、本実施形態について説明する。まず、本実施形態の概要を説明し、次に本実施形態のシステム構成例について説明する。そして、本実施形態の手法について説明し、最後に、フローチャートを用いて本実施形態の処理の詳細について具体例を挙げて説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また、本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0020】
1.概要
一般にコントラストAF(autofocus)と呼ばれる方法では、取得される画像から検出したコントラスト情報(高周波成分やエッジ量など)を基に、画像に映る被写体が合焦状態となる被写体の位置を推定する。画像に映る被写体が合焦状態である場合には、画像のコントラスト情報が最大となる特徴がある。そのためコントラストAFと呼ばれる方法では、レンズを移動させ、焦点位置を変化させながら取得した複数の画像に基づいて、画像のコントラスト情報を検出し、コントラスト情報が最大となる時に合焦状態であると判断する。
【0021】
ここで、合焦状態となる被写体の位置の検出方法としては、レンズを往復駆動させることによりレンズの焦点位置を近点及び遠点よりに微小変化(ウォブリング:wobbling)させ、この場合におけるコントラスト情報に基づいて、合焦状態となる被写体の位置を検出する方法が一般に用いられる。
【0022】
内視鏡スコープにおいては、スコープの細径化を実現するために、比較的簡便な構成のレンズが用いられることが一般的である。具体的には、焦点位置及び画角を同時に制御するレンズが用いられる。
【0023】
従って、内視鏡スコープにおいて、合焦状態となる被写体の位置を前述したウォブリングにより検出する場合、ウォブリングに起因して画角が変動するため、取得される画像上において被写体の大きさが変動する。さらにウォブリング時には、レンズが高速に駆動されるため、画像上における被写体の大きさが高速に変動する。そのため、ウォブリング時に取得される画像は非常に見にくい画像となり、医師の負担の増加や、病変の見落としの増加を招くおそれがある。
【0024】
前述した特許文献1は、画像の画角の変動を、電子ズーム処理により補償し表示画像の大きさを一定にする方法を開示している。しかし、特許文献1では、画像に映る被写体が合焦状態になった後に撮像された画像に対して、電子ズーム処理を行い、画像の画角を一定にしているのであって、合焦状態になるようにレンズ位置を動かしている最中に撮像された画像の画角を一定にする方法については記載されていない。
【0025】
本実施形態の画像処理装置等によれば、ウォブリングを行いながら、合焦状態になるようにレンズを移動させる場合に、表示画像の画角の変動を抑制することができる。
【0026】
2.第1の実施形態
まず、図1に本実施形態の画像処理装置300及びこれを含む内視鏡システムの構成例を示す。本実施形態に係る内視鏡システムは、光源部100と、撮像部200と、画像処理装置300と、表示部400と、外部I/F部500と、を含む。そして、画像処理装置300は、補間処理部(画像取得部)310と、合焦状態判定部330と、表示用画像選択部340と、表示画像生成部(出力部)350と、制御部390を備えている。なお、画像処理装置300及びこれを含む内視鏡システムは、図1の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加したりするなどの種々の変形実施が可能である。例えば、合焦状態判定部330を省略した実施が可能である。
【0027】
次に各部の接続について説明する。補間処理部310は、合焦状態判定部330と、表示用画像選択部340と、に接続されている。合焦状態判定部330は、表示用画像選択部340と、制御部390と、に接続されている。表示用画像選択部340は、表示画像生成部350に接続されている。表示画像生成部350は、表示部400に接続されている。制御部390は、後述するレンズ駆動部250と、補間処理部310と、合焦状態判定部330と、表示用画像選択部340と、表示画像生成部350と、に接続されている。
【0028】
次に内視鏡システムの各部について説明する。
【0029】
まず、光源部100は、白色光を発生する白色光源110と、白色光をライトガイドファイバ210に集光するためのレンズ120と、を含む。
【0030】
次に、撮像部200は、体腔への挿入を可能にするため細長く且つ湾曲可能に形成されている。撮像部200は、光源部100で集光された光を導くためのライトガイドファイバ210と、ライトガイドファイバ210により導かれた光を拡散させて被写体に照射する照明レンズ220と、被写体からの反射光を集光する集光レンズ230と、集光レンズ230により集光された反射光を検出するための撮像素子240と、レンズ駆動部250と、を含む。レンズ駆動部250は、集光レンズ230と、合焦状態判定部330と、に接続されている。
【0031】
そして、集光レンズ230は、焦点位置及び画角を制御できるものとする。
【0032】
ここで、レンズLSとスクリーンSCが図2のように配置される場合について、具体的に図2を用いて用語の説明をする。
【0033】
まず、焦点とは、レンズに対して無限遠からの並行な光が入射した場合に、光軸と交わる点のこという。焦点はレンズ固有の点であり、レンズに対して一意に定まる。図2では、(後側)焦点はFPである。
【0034】
次に、レンズ位置とは、被写体に対するレンズ自体の位置のこという。具体的に図2では、レンズの中央部MP(MPのことを主点という)の位置のことをレンズ位置という。
【0035】
また、焦点位置とは、レンズを通して撮像される画像に映る被写体が合焦状態となる被写体側の位置のことをいう。
【0036】
さらに、合焦状態とは、レンズを通して撮像される画像に映る被写体が合焦している状態、すなわちピントが合っている状態のことをいう。言い換えれば、実際の被写体の位置と焦点位置が一致している状態のことである。ただし、両者の位置が完全に一致している必要はなく、両者の位置が所定の距離範囲内にある場合を合焦状態としてもよい。さらに、具体的には、画像のコントラスト値が所定の閾値以上となる状態などのことを合焦状態という。
【0037】
例えば、図2のように被写体SBの像をスクリーンSC上に結像させる場合について考える。この場合には、被写体SBの先端部からレンズLSに対して並行に入射し、焦点FPを通る光R1と主点MPを通る入射光R2とが、スクリーンSCの同じ点IMPで交わる時に合焦状態となる。また、この時の被写体の位置FOPが焦点位置となる。
【0038】
なお、撮像素子(スクリーン)の位置とレンズ位置が固定である場合には、前述したレンズの焦点位置は一意に定まる。言い換えれば、撮像素子(スクリーン)の位置とレンズ位置が固定である場合には、レンズ位置と焦点位置は一対一の対応関係にある。従って、このような場合に合焦状態にするためには、カメラを動かして、被写体とレンズの距離(相互位置)を調整する必要がある。
【0039】
逆に、図2において、被写体SBを位置FOPから位置NGPに移動させた場合には、合焦状態ではなくなってしまう。被写体SBの位置が焦点位置からずれてしまうためである。この場合には、被写体SBの先端部からレンズLSの主点MPを通る入射光R3は、スクリーンSC上のNGIPの点に照射され、入射光R1がスクリーンSC上に照射される点IMPとずれが生じ、合焦状態とならない。
【0040】
なお、本実施形態では、焦点位置及び画角を、それぞれdmin〜dmax[mm](dmax>dmin)、θmin〜θmax[deg](θmax>θmin)の範囲で調整できるものとする。画角については後述する。
【0041】
また、撮像素子240は、図3に示されるようなベイヤ配列を有する撮像素子である。また、図3に示した3種類の色フィルタr、g、bは、図4に示されるようにrフィルタが580〜700nm、gフィルタが480〜600nm、bフィルタが400〜500nmの光を透過させる特徴を有するものとする。
【0042】
レンズ駆動部250は、後述するレンズ駆動制御部391から出力される制御信号に基づいて、集光レンズ230のレンズ位置を移動する。
【0043】
次に、画像処理装置300は、撮像部200により撮像された画像を取得して、画像処理を行い、表示部400に表示する画像(表示画像)を生成し、生成された画像を出力する。画像処理装置300の各部については、後述する。
【0044】
そして、表示部400は、後述する表示画像生成部350から出力される表示画像を表示する。
【0045】
さらに、外部I/F部500は、画像処理装置300に対するユーザからの入力等を行うためのインターフェースであり、電源のオン/オフを行うための電源スイッチ、撮影モードやその他各種のモードを切り換えるためのモード切換ボタンなどを含んで構成されている。また、外部I/F部500は、入力された情報を後述する制御部390へ出力するようになっている。
【0046】
次に、画像処理装置300の各部で行われる処理について説明する。
【0047】
まず、補間処理部310は、撮像素子240で取得される画像に対し、補間処理を施す。前述したように、撮像素子240は図3に示すベイヤ配列を有するため、撮像素子240で取得される画像の各画素は、R、G、B信号のうち、何れか1つの信号値を有するのみで、他の2種類の信号が欠落した状態である。
【0048】
そのため、補間処理部310では、取得した画像の各画素に対し補間処理を施すことで、欠落している信号値を補間し、各画素でR、G、B信号の全ての信号値を有する画像(以下、RGB画像)を生成する。ここで補間処理としては、例えば公知のバイキュービック補間処理を用いれば良い。補間処理部310は、生成したRGB画像を表示用画像選択部340に出力する。
【0049】
次に、補間処理部310は、生成したRGB画像より、輝度画像を生成する。具体的には、RGB画像の全ての画素について、(1)式を用いて輝度信号Yを算出することで、輝度画像を生成する。さらに補間処理部310は、生成した輝度画像を合焦状態判定部330に出力する。
【0050】
【数1】
【0051】
そして、合焦状態判定部330は、補間処理部310より出力される輝度画像よりコントラスト値を算出し、算出したコントラスト値に基づいて、後述する方法で合焦状態(ピントが合っている状態)となるような集光レンズ230の焦点位置を求め、制御部390に出力する。
【0052】
また、本実施例においては、合焦状態判定部330は、図5に示すように、コントラスト値算出部331と、焦点位置制御部332と、を含む。この時、補間処理部310は、コントラスト値算出部331に接続されている。コントラスト値算出部331は、焦点位置制御部332に接続されている。焦点位置制御部332は、表示用画像選択部340と、レンズ駆動制御部391に接続されている。制御部390は、焦点位置制御部332に接続されている。なお、合焦状態判定部330は、図5の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加したりするなどの種々の変形実施が可能である。
【0053】
さらに、コントラスト値としては、公知のエッジ抽出処理により得られたエッジ量の絶対値を輝度画像全体で積算した値などを用いる。
【0054】
一般に、合焦状態においては、輝度画像のコントラスト値が最大となることが知られている。ここで、集光レンズ230を用いた場合に合焦状態となる被写体の位置をdmとする(dmin<dm<dmax)。この場合には、集光レンズ230の焦点位置とコントラスト値の関係は、図6に示すようになる。具体的には、合焦状態となる被写体の位置dmにおいてコントラスト値が最大となる。
【0055】
したがって、焦点位置制御部332は、補間処理部310から出力される輝度画像のコントラスト値が最大となる焦点位置を検出することによって、合焦状態となる被写体の位置を検出可能である。
【0056】
さらに、表示用画像選択部340は、補間処理部310から取得されるRGB画像のうち、特定のRGB画像のみを選択して表示画像生成部350に出力する。
【0057】
そして、表示画像生成部350は、表示用画像選択部340より出力されるRGB画像に対し、既存のホワイトバランス、色変換、階調変換処理を施し、表示画像を生成する。さらに、表示画像生成部350は、生成した表示画像を表示部400に出力する。
【0058】
最後に、制御部390は、外部I/F部500から入力される情報を、補間処理部310と、合焦状態判定部330と、表示用画像選択部340と、表示画像生成部350に通知して、これら各部を制御する。
【0059】
また、本実施例においては、制御部390は、図1に示すように、レンズ駆動制御部391と、を含む。レンズ駆動制御部391は、合焦状態判定部330から取得された情報に基づいて、レンズ位置を制御するために用いる制御信号を求めて、制御信号をレンズ駆動部250に出力する。この時、レンズ駆動制御部391は、レンズ駆動部250に接続されている。なお、制御部390は、図1の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加したりするなどの種々の変形実施が可能である。
【0060】
次に、第1の実施形態で行う処理の流れについて、図7のフローチャートを用いて説明する。また、以下で行うウォブリング(往復駆動)については、図8(A)〜図8(C)を用いて説明する。図8(A)は、内視鏡ESを用いて患部LAを撮像する様子を示している。
【0061】
まず、合焦状態となる被写体の位置を算出する際には、焦点位置制御部332が、現在の焦点位置を初期位置ds0に設定する(S1)。すなわち、ステップS2前の焦点位置をds1とし、ds1=ds0に設定する。そして、焦点位置制御部332は、レンズ駆動部250を介して、集光レンズ230の現在の焦点位置をds1からds2=ds1−dw(初回はds2=ds0−dw)に変更する(S2)。(図8(A)参照)すなわち、レンズ位置をls1からls2=ls1−lw(初回はls2=ls0−lw)に変更する。さらに、焦点位置制御部332は、表示用画像選択部340に対しトリガ信号を出力する。
【0062】
次に、焦点位置を変更した後に、撮像部200が第1の画像を撮像する(S3)。この時、第1の画像は、図8(B)に示すIM1のような画像となる。そして、コントラスト値算出部331が、補間処理部310から出力される輝度画像より、コントラスト値C−dwを算出する(S4)。その後、算出したコントラスト値C−dwを、焦点位置制御部332に出力する。
【0063】
同様にして、補間処理部310は、レンズ駆動部250を介して、集光レンズ230の現在の焦点位置をds2からds3=ds1+dw(初回はds3=ds0+dwとなる)に変更する(S5)。すなわち、レンズ位置をls2からls3=ls1+lw(初回はls3=ls0+lw)に変更する。なお、焦点位置制御部332は、ここではトリガ信号を出力しない。焦点位置を変更した後は、ステップS3と同様に、撮像部200が第2の画像を撮像し(S6)、コントラスト値算出部331が、補間処理部310から出力される輝度画像より、コントラスト値C+dwを算出し(S7)、算出したコントラスト値C+dwを焦点位置制御部332に出力する。この時、第2の画像は、図8(C)に示すIM2のような画像となる。第2の画像IM2は、第1の画像IM1に比べて画角が大きく、より広い範囲が映されているが、患部LAが小さく映ることとなる。
【0064】
ここで、(2)式により、前述したウォブリングをしながら算出した二つのコントラスト値の差の絶対値Cabsを算出し、コントラスト値の差分絶対値Cabsが所定の閾値Thc以下であるか否かを判定する(S8)。なお、閾値Thcは、予め一定の値を定めておいても良いし、外部I/F部500よりユーザが任意の値を設定する構成としても良い。
【0065】
【数2】
【0066】
コントラスト値の差分絶対値Cabsが閾値Thc以下である場合(図6のピークにあると判定できる場合)には、合焦状態であると判定する。一方、コントラスト値の差分絶対値Cabsが閾値Thcよりも大きい場合には、合焦状態ではないと判定する。
【0067】
ステップS8において、コントラスト値の差分絶対値Cabsが所定の閾値Thcより大きいと判定した場合、すなわち合焦状態ではない場合には、二つのコントラスト値の大小関係を判断する(S9)。
【0068】
ここで、C−dw>C+dwであると判断する場合には、現在の焦点位置がds3から(ds1−dn)(初回は(ds0−dn))となるようにレンズを移動し、ds1を(ds1−dn)に更新する(S10)。すなわち、レンズ位置をls3から(ls1−ln)(初回は(ls0−ln))に変更する。
【0069】
一方、C+dw>C−dwであると判断する場合には、現在の焦点位置がds3から(ds1+dn)(初回は(ds0+dn))となるようにレンズを移動し、ds1を(ds1+dn)に更新する(S11)。すなわち、レンズ位置をls3から(ls1+ln)(初回は(ls0+ln))に変更する。図8(A)では、ステップS11の処理を行った様子を示している。なお、前述したウォブリングによる往復幅dwと、山登りAFによる焦点位置の移動幅dnの値は、予め一定の値を設定しておいても良いし、外部I/F部500よりユーザが任意の値を設定する構成としても良い。
【0070】
通常は、この後、前述した処理によって得られた第1の画像IM1と第2の画像IM2とを表示部に表示する。しかし、本実施形態で用いられる集光レンズ230は、前述したように焦点位置と画角が同時に変化する特徴がある。そのため、前述した方法で集光レンズ230の焦点位置が制御されている間、補間処理部310から出力される画像は、画角(画像に映し出される被写体の範囲の大きさ)が時間的に変動するという問題がある。
【0071】
そこで、本実施形態では、表示用画像選択部340は、焦点位置制御部332からトリガ信号が出力された時に、補間処理部310から出力されるRGB画像(第1の画像IM1)を表示画像として選択する(S12)。そして、選択した画像を表示画像生成部350に出力する。これにより、集光レンズ230の焦点位置が近点よりであるds2に変更された時に取得された画像のみが、表示画像生成部350に出力されることとなり、表示画像の画角の変動を抑えることができる。
【0072】
なお、本実施形態では、集光レンズ230の焦点位置が近点よりであるds2にある場合の画像(第1の画像IM1)を表示する例を示したが、本発明はこれに限定されるものではなく、集光レンズ230の焦点位置が遠点よりであるds3にある場合に撮像された画像(第2の画像IM2)を表示しても良い。
【0073】
そして、表示画像生成部350は、表示用画像選択部340より出力されるRGB画像に対し、既存のホワイトバランス、色変換、階調変換処理を施し、表示画像を生成し、生成した表示画像を表示部400に出力する(S13)。
【0074】
ここで、ユーザ等から撮影終了指示があるか否かを判定し、撮影終了指示がある場合には処理を終了する(S14)。一方、終了指示がない場合には、ステップS2から処理を繰り返す。
【0075】
以上の方法を用いた場合、表示画像のフレームレートが、撮像素子240により取得される画像のフレームレートの1/2になるという問題がある。
【0076】
そこで、本実施の形態では、合焦状態にあると判定された場合には、表示用画像選択部340が、補間処理部310から出力される全てのRGB画像を、表示画像生成部350に出力する。これにより、合焦状態である場合には、撮像素子240から取得される画像と同一のフレームレートで表示画像を得ることが可能となる。
【0077】
ステップS8において、コントラスト値の差分絶対値Cabsが閾値Thc以下である場合、すなわち合焦状態であると判定した場合には、焦点位置制御部332は、焦点位置がステップS2を行う前の焦点位置となるように集光レンズ230の位置を変更する(S15)。すなわち、現在の焦点位置がds3からds1となるように、集光レンズ230の位置をls3からls1に変更する。その後、焦点位置制御部332は集光レンズ230の駆動を停止する。さらに、焦点位置制御部332は、表示用画像選択部340に対し、合焦状態にあることを示すトリガ信号を出力する。
【0078】
そして、撮像部200が画像を撮像し(S16)、表示用画像選択部340は、焦点位置制御部332からトリガ信号を受信して、補間処理部310から出力される全てのRGB画像を表示画像として選択する。そして、表示画像生成部350は全てのRGB画像から表示画像を生成して、表示部に出力する(S17)。ここで、焦点位置制御部332は、前記のコントラスト値C−dwとC+dwの平均値Caveを保持しておく。
【0079】
その後、焦点位置制御部332は、ウォブリングを停止している期間中に、コントラスト値算出部331より出力されるコントラスト値と、閾値A×Caveとを比較し、合焦状態か否かを判定する(S18)。ここで、コントラスト値算出部331より出力されるコントラスト値が、閾値A×Caveよりも小さくなった場合には、合焦状態でなくなったと判定し、集光レンズの駆動(ウォブリング)を再開する(ステップS2に戻る)。
【0080】
一方、コントラスト値算出部331より出力されるコントラスト値が、閾値A×Cave以上である場合には、合焦状態を維持していると判定する。そして、ユーザ等から撮影終了指示があるか否かを判定し(S19)、撮影終了指示がある場合には処理を終了する。一方、終了指示がない場合には、ステップS16から処理を繰り返す。なお、係数Aは、予め一定の値を定めておいても良いし、外部I/F部500よりユーザが任意の値を設定する構成としても良い。
【0081】
以上に示した方法により、ウォブリングに起因して画像の大きさが変動する問題を解決することができる。さらに、合焦状態においては、通常のフレームレートで表示画像を取得することが可能である。
【0082】
3.第2の実施形態
次に、第2の実施形態に係る内視鏡システムについて、図1を参照して説明する。図1に示す集光レンズ230と、合焦状態判定部330と、表示用画像選択部340以外の処理は、第1の実施形態と同一であるため、説明を省略する。
【0083】
集光レンズ230は、焦点位置及び画角をそれぞれdmin〜dmax[mm](dmax>dmin)、θmin〜θmax[deg](θmax>θmin)の範囲で調整できるものとし、焦点位置と画角の間には、図9に示す関係が成立するものとする。
【0084】
また、合焦状態判定部330の構成は第1の実施形態と同様に図5に示す通りであり、焦点位置制御部332以外の処理は第1の実施形態と同一であるため、説明を省略する。
【0085】
また、図10に示すように、表示用画像選択部340は、画像選択部341と、電子ズーム処理部342と、拡大率算出部343と、を含む。この時、制御部390は、画像選択部341と、電子ズーム処理部342と、拡大率算出部343に接続されている。補間処理部310は、画像選択部341に接続されている。画像選択部341は、電子ズーム処理部342と、表示画像生成部350に接続されている。電子ズーム処理部342は、表示画像生成部350に接続されている。拡大率算出部343は、電子ズーム処理部342に接続されている。焦点位置制御部332は、画像選択部341と、拡大率算出部343に接続されている。なお、表示用画像選択部340は、図10の構成に限定されず、これらの一部の構成要素を省略したり、他の構成要素を追加したりするなどの種々の変形実施が可能である。
【0086】
次に、第2の実施形態で行う処理の流れについて、図7と図11のフローチャートを用いて説明する。処理の流れは図7に示した第1の実施形態と同様であるが、表示画像の選択処理(S12)が異なる。第2の実施形態では、図11に示すような流れで表示画像の選択処理を行う。また、後述する電子ズーム処理を行う場合において、現在の第2の画像の画角と目標画角について図12を用いて説明する。
【0087】
まず、画像選択部341は、焦点位置制御部332から前述のトリガ信号が出力されている期間に補間処理部310から出力されるRGB画像(第1の画像)を選択し、表示画像生成部350に出力する(S121)。一方、トリガ信号が出力されていない場合に取得したRGB画像(第2の画像)は電子ズーム処理部342に出力する。図12では、IM2が第2の画像(または第2の画像に映し出される被写体の範囲)を示している。
【0088】
なお本実施形態では、図7のステップS7において、焦点位置制御部332は、拡大倍率を算出するために、焦点位置がds3の場合における画角θ+dw(すなわち図12に示す第2の画像IM2の画角θ+dw)を取得し、後述する拡大率算出部343に出力しておく。
【0089】
次に、第2の画像の目標画角θnewを算出する(S122)。具体的には、C−dw>C+dwである場合にはθnew=θ(ds1−dn/2)とし、C+dw>C−dwである場合には、θnew=θ(ds1+dn/2)として、焦点位置制御部332が目標画角θnewを算出し、後述する拡大率算出部343に出力する。ただし、θ(ds)は、集光レンズ230の焦点位置がdsの場合における画角を表すものとする。図12には、目標画角θnewを有する画像を目標画像TIMとして示している。
【0090】
なお、本実施形態では、画角θnewをθ(ds1−dn/2)若しくはθ(ds1+dn/2)とする例を示したが、本発明はこれに限定されるものではない。例えば、C−dw>C+dwの場合には、θ(ds1−dn)≦θnew≦θ(ds1)の範囲で画角θnewを求めれば良く、C+dw>C―dwの場合には、θ(ds1)≦θnew≦θ(ds1+dn)の範囲で画角θnewを求めれば良い。
【0091】
次に、拡大率算出部343は、焦点位置制御部332より出力される画角θ+dw、θnewに基づき、電子ズーム処理部342における電子ズーム処理の拡大倍率Zを算出する(S123)。拡大倍率Zは(3)式を用いて算出する。
【0092】
【数3】
【0093】
そして、電子ズーム処理部342は、求められた拡大倍率に基づいて、画像選択部341から出力されるRGB画像に対し、電子ズーム処理を施し(S124)、表示画像生成部350に出力する(S125)。
【0094】
以上に示した方法により、ウォブリングに起因して画像の大きさが変動する問題を解決することができる。さらに、本実施の形態によれば、非合焦時においても通常のフレームレートで表示画像を取得できる利点がある。
【0095】
また、本実施形態では、焦点位置が近点よりの画像のみを選択して表示し、さらに選択されなかった画像(焦点位置が遠点よりの画像)に対し、電子ズーム処理による拡大処理を施した画像を表示する例を示した。
【0096】
ここで他の方法としては、焦点位置が遠点よりの画像のみを選択して表示し、さらに選択されなかった画像(焦点位置が近点よりの画像)に対し、電子ズーム処理を施した画像を表示する例も考えられる。しかしこの方法では、選択されなかった画像に対して、縮小処理が施される。そのため、電子ズーム処理後の画像は、前記選択された画像よりも小さい画像となるため、画像周辺部に信号値が存在しない画像となる問題がある。
【0097】
そこで、本実施形態で示したように、焦点位置が近点よりの画像のみを選択して表示し、さらに選択されなかった画像(焦点位置が遠点よりの画像)に対して電子ズーム処理による拡大処理を施せば、前記の問題は生じない。
【0098】
4.作用・効果
以上の本実施形態の画像処理装置300は、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部391と、ウォブリング中のレンズを通して撮像された複数の画像を取得する画像取得部(補間処理部310)と、ウォブリング経路上にある複数の折り返し位置のうちの、いずれかの折り返し位置にレンズが位置する時に撮像された画像を、取得された複数の画像の中から選択する表示用画像選択部340と、選択された画像を表示画像として表示部400に出力する出力部350(表示画像生成部)と、を含む。
【0099】
ここで、折り返し位置とは、ウォブリングを行う場合に、レンズの移動方向を変更する位置のことをいう。具体的に図8(A)の例で言えば、ls0−lw及びls0+lwの位置のことをいう。また、折り返し位置は、実際にレンズの移動方向を変更する位置と完全に一致する位置でなくてもよい。例えば、実際にレンズの移動方向を変更する位置から所定の距離だけ離れた位置を、折り返し位置として扱ってもよい。
【0100】
これにより、ウォブリング経路上にある複数の折り返し位置のうち、いずれかの折り返し位置にレンズが位置する時に撮像された画像を、表示部400に出力することが可能となる。
【0101】
その具体例を図13(A)に示す。図13(A)では、縦軸が表示画像の表示倍率を表し、横軸がウォブリングを行っている場合の時間軸を表す。本例では、ウォブリングの一方の折り返し位置に対応する時刻tn(tn+2、tn+4)において取得された画像を選択画像SIMとし、ウォブリングの他方の折り返し位置に対応する時刻tn+1(tn+3、tn+5)において取得された画像を非選択画像NSIMとする(tn+5は不図示)。言い換えれば、時刻tnにおいて取得された画像が第1の画像であり、時刻tn+1において取得された画像が第2の画像であり、時刻tn+2において取得された画像が第3の画像である。そして、第1の画像と第3の画像を表示する。
【0102】
図13(A)からも分かる通り、選択画像SIM同士の表示倍率(画角)の差は、選択画像SIMと非選択画像NSIMの表示倍率の差よりも小さい。また、選択画像SIM同士の表示倍率(画角)の差は、ウォブリングに起因するものではなく、被写体が合焦状態となるレンズ位置にレンズ位置を近づける際に生じる画角の変化であり、ウォブリングによる画角の変化と比べてゆったりと変化するため、問題とはならない。
【0103】
このように、一方の折り返し位置において撮像された画像のみを表示画像として選択すれば、画角の差は小さくなり、表示画像の画角が高速に変化することを抑制することができる。
【0104】
さらに、本実施形態では、電子ズーム処理等を行う必要がないため、回路規模の増大や内視鏡の構成の複雑化等を防ぎつつ、表示画像の画角の変動を抑制することが可能となる。
【0105】
また、取得された複数の画像に基づいて、画像に映る被写体が合焦状態であるか否かを判定する合焦状態判定部(合焦状態判定部330)を含んでもよい。そして、レンズ駆動制御部391は、現在の焦点位置に対応するレンズ位置を中心として、レンズをウォブリングさせるための制御信号を出力してもよい。さらに、合焦状態判定部は、ウォブリング中に撮像された画像に基づいて、フォーカス評価値を求め、求めたフォーカス評価値に基づいて、画像に映る被写体が合焦状態であるか否かを判定してもよい。
【0106】
ここで、前述したように、撮像素子(スクリーン)の位置とレンズ位置が固定である場合には、レンズ位置と焦点位置は一対一の対応関係にある。本実施形態では、スクリーンの位置とレンズ位置が固定である場合を想定しているため、焦点位置が定まればレンズ位置も定まる。具体的には例えば、図8(A)に示すような場合には、焦点位置ds0に対応するレンズ位置はls0となる。すなわち、本実施形態では、レンズ位置ls0を中心として、図8(A)に示すようなウォブリングを行う。
【0107】
またここで、フォーカス評価値とは、撮像された画像に映る被写体が合焦状態である否かを判定するために用いる値または情報のことをいう。例えば、コントラストAFを行う場合には、後述するようにフォーカス評価値としてコントラスト値等が用いられ、位相差AFを行う場合には位相差等が用いられる。
【0108】
これにより、画像に映る被写体が合焦状態であるか否かを判定すること等が可能となる。よって、画像に映る被写体が合焦状態であると判定された場合と、合焦状態ではないと判定された場合とで、後述するような異なる処理を行うこと等が可能となる。
【0109】
また、レンズ駆動制御部391は、合焦状態判定部により画像に映る被写体が合焦状態であると判定された場合には、レンズのウォブリングの停止処理を行ってもよい。
【0110】
ここで、レンズのウォブリングの停止処理は、レンズをウォブリングさせるための制御信号の出力を停止することを含む処理であっても良いし、ウォブリングの停止を指示する制御信号(停止信号)を出力することを含む処理であってもよい。
【0111】
これにより、合焦状態であると判定された場合に、ウォブリングを停止すること等が可能になる。既に合焦状態になった場合には、ウォブリングを行う目的を達成していると言うことができ、目標達成後の無駄なウォブリングを継続する必要がなくなり、処理負荷を低減することが可能となる。
【0112】
また、画像取得部は、レンズ駆動制御部391によりウォブリングの停止処理が行われた場合にも、画像を取得し続けてもよい。そして、出力部350は、ウォブリングの停止中に画像取得部により取得された画像を、表示部400に出力してもよい。
【0113】
この時、出力部350が表示部400に出力する画像は、折り返し位置にレンズが位置する時に撮像された画像であってもよいし、折り返し位置以外の位置にレンズが位置する時に撮像された画像であってもよい。また、表示用画像選択部340が、ウォブリングの停止中に画像取得部により取得された画像の中から表示画像を選択してもよいし、選択せずに画像取得部から得られた画像を出力部350に出力してもよい。
【0114】
これにより、合焦状態であると判定された場合に、合焦状態で画像を撮像し、取得し続けること等が可能になる。前述した手法でウォブリングのいずれかの折り返し位置で撮像された画像のみを表示部400に出力する場合には、フレームレートが半分になるという問題があったが、本実施形態の場合には、例えば、取得した全ての画像を表示部400に出力することが可能となるため、画像の画角の変化がない状態で、フレームレートを通常の値に戻すこと等が可能となる。
【0115】
また、合焦状態判定部は、レンズ駆動制御部391によりウォブリングの停止処理が行われた場合にも、画像に映る被写体が合焦状態であるか否かを判定し続けてもよい。そして、レンズ駆動制御部391は、合焦状態でないと判定された場合には、レンズのウォブリングの再開処理を行ってもよい。
【0116】
ここで、レンズのウォブリングの再開処理は、レンズをウォブリングさせるための制御信号を出力することを含む処理であってもよいし、ウォブリングの再開を指示する制御信号(再開信号)を出力することを含む処理であってもよい。
【0117】
例えば、一度合焦状態となった後に、合焦状態ではなくなった場合に、前述したように全ての画像を表示し続けても、ピントが合っていない画像が表示されたままになる。本実施形態では、このような問題を解決するために、例えば、一度合焦状態となった後に、合焦状態ではなくなったことを検出して、再度ウォブリングを開始することができ、再度合焦状態にすること等が可能となる。
【0118】
また、画像取得部(補間処理部310)は、取得した画像に基づいて、輝度画像を生成してもよい。そして、合焦状態判定部は、生成された輝度画像のコントラスト値をフォーカス評価値として算出し、コントラスト値に基づいて、画像に映る被写体が合焦状態であるか否かを判定してもよい。
【0119】
ここで、輝度画像とは、各画素が映す被写体の輝度が、各画素に割り当てられた画像のことをいう。本実施形態では、輝度画像の他に各画素の輝度を羅列した情報等を用いてもよく、画像に限定されない。
【0120】
また、コントラスト値とは、例えばコントラスト比などの情報のことをいう。コントラスト値は、数学的にコントラスト比と等価な情報であれば、コントラスト比以外の値を用いてもよい。
【0121】
これにより、コントラスト値に基づいて、画像に映る被写体が合焦状態であるか否かを判定すること等が可能になる。
【0122】
また、表示用画像選択部340は、電子ズーム処理部342を含んでもよい。そして、画像取得部は、ウォブリング中に、第1の画像に続いて、第2の画像を取得し、さらに第3の画像を取得してもよい。そして、電子ズーム処理部は、表示用画像選択部340により、第1の画像と第3の画像とが選択され、第2の画像が選択されない場合に、第2の画像に対して電子ズーム処理を行ってもよい。さらに、出力部350は、電子ズーム処理後の第2の画像を表示画像として出力してもよい。
【0123】
ここで、第1の画像と、第2の画像と、第3の画像は、時系列順に撮像される画像のことをいう。具体的には、図8(A)のようにウォブリングの折り返し位置で画像を撮像する場合には、1回目のウォブリングの左側の折り返し位置(ls0−lw)で撮像された画像が第1の画像であり、右側の折り返し位置(ls0+lw)で撮像された画像が第2の画像であり、2回目のウォブリングの左側の折り返し位置で撮像された画像が第3の画像である。
【0124】
また、電子ズーム処理とは、元々の画像情報はそのままに、画像の周辺部をカットし、トリミングすることによって画像の一部を拡大し、あたかもレンズでズーミングしたような画像を生成する処理などのことをいう。
【0125】
前述した手法ではウォブリングを行っている間は、表示画像のフレームレートが半分になるという問題があったが、本実施形態によれば、ウォブリングを行っている間にも、画像の画角の変化を抑制しつつ、フレームレートを通常の値に戻すこと等が可能となる。
【0126】
その具体例を図13(A)及び図13(B)に示す。前述したように、図13(A)では、ウォブリングの一方の折り返し位置に対応する時刻tn(tn+2、tn+4)において取得された画像を選択画像SIMとし、ウォブリングの他方の折り返し位置に対応する時刻tn+1(tn+3、tn+5)において取得された画像を非選択画像NSIMとして、選択画像SIMのみを表示部400に出力する。言い換えれば、時刻tnにおいて取得された画像が第1の画像であり、時刻tn+1において取得された画像が第2の画像であり、時刻tn+2において取得された画像が第3の画像である。そして、第1の画像と第3の画像を表示部400に出力する。この場合には、図13(A)からも分かる通り、表示画像のフレームレートが半分になるという問題があった。
【0127】
そこで、本実施形態では、図13(A)の非選択画像NSIM(第2の画像)に対して電子ズーム処理を行うことによって、表示倍率が選択画像SIMに近い画像LIMを生成し、表示部400に出力する。これによって、画像の画角の変化を抑制しつつ、通常のフレームレートの値に戻すことができる。
【0128】
また、表示用画像選択部340は、拡大率算出部343を更に含んでもよい。そして、拡大率算出部は、第1の画像の画角θ1と第3の画像の画角θ3とに基づいて、第2の画像の目標画角θnewを求めて、目標画角θnewと電子ズーム処理前の第2の画像の画角θ2とに基づいて拡大倍率を求めてもよい。さらに、電子ズーム処理部は、求めた拡大倍率で第2の画像に対して電子ズーム処理を行ってもよい。
【0129】
ここで、第1の画像の画角は、実際の第1の画像の画角を用いても良いし、第1の画像を撮像した時のウォブリングの中心点にレンズが位置する場合に取得される画像の画角を用いても良い。具体的には、図8(A)の例においては、実際の第1の画像の画角は、図8(B)のIM1の画角のことを指す。また、後者の場合には、第1の画像IM1は、レンズ位置ls0を中心としてウォブリングしている際に撮像された画像であるため、レンズ位置ls0に対応する焦点位置ds0を求め、図9のグラフから焦点位置ds0に対応する画角を第1の画像として求めて用いる。なお、第3の画像についても同様である。また、ここで挙げた例以外の画角を用いてもよい。
【0130】
一方、第2の画像の画角は、実際の第2の画像の画角を用いる。具体的には、図8(A)の例においては、実際の第2の画像の画角は、図8(C)のIM2の画角のことを指す。
【0131】
また、拡大倍率とは、電子ズーム後の画像の画角に対する電子ズーム前の画像の画角の比率を表す情報のことをいう。または、拡大倍率とは、電子ズーム前の画像の画素の大きさに対する電子ズーム後の画像の画素の大きさの比率を表す情報のことをいう。拡大倍率は数学的にこれらと等価な情報を用いても良い。
【0132】
これにより、第1の画像の画角と第3の画像の画角に基づいて決定した画角を有する第2の画像を、表示部400に出力して、ウォブリングを行っている間も表示画像のフレームレートを通常の値に保つこと等が可能になる。
【0133】
また、拡大率算出部は、θ1≦θnew≦θ3となる第2の画像の目標画角θnewを求めて、求めた目標画角θnewと電子ズーム処理前の第2の画像の画角θ2とに基づいて拡大倍率を求めてもよい。
【0134】
これにより、第1の画像の画角と第3の画像の画角の中間値となるように第2の画像の画角を調整して、画角が滑らかに変化するように画像を出力すること等が可能になる。
【0135】
また、他の実施形態の画像処理装置300は、レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部391と、ウォブリング中のレンズを通して撮像された第1の画像と第2の画像と第3の画像とを取得する画像取得部(補間処理部310)と、第1の画像の画角と第2の画像の画角との差が所定の許容範囲外であり、第1の画像の画角と第3の画像の画角との差が所定の許容範囲内である時に、第1の画像と第3の画像とを選択する表示用画像選択部340と、選択された画像を表示画像として表示部400に出力する出力部350(表示画像生成部)と、を含む。
【0136】
本実施形態の目的は、ウォブリングによる画角の変化を排除することである。また、本例は、ウォブリングによる往復幅(図8(A)のdw)の方が、山登りAF処理による焦点位置の移動幅(図8(A)のdn)よりも大きい場合を前提としている。すなわち、本例の前提に則れば、ウォブリングによる画角変動の方が、山登りAF処理による画角変動よりも大きくなる。
【0137】
そのため、第1の画像の画角と第2の画像の画角の差、及び第1の画像の画角と第3の画像の画角の差に対して、所定の許容範囲を設定して、所定の許容範囲よりも画角の差が大きい場合には、ウォブリングに起因する画角変動だと判断する。そして、ウォブリングの一方の折り返し位置において取得された画像のみを選択し、表示部400に出力する。
【0138】
これにより、画角の差が所定の許容範囲内にある画像のみを表示画像として選択して、表示画像の画角が高速に変化することを抑制することができる。
【0139】
さらに、本実施形態では、電子ズーム処理等を行う必要がないため、回路規模の増大や内視鏡の構成の複雑化等を防ぎつつ、表示画像の画角の変動を抑制することが可能となる。
【0140】
なお、本実施形態の画像処理装置300等は、プログラムにより実現してもよい。この場合には、CPU等のプロセッサーがプログラムを実行することで、本実施形態の画像処理装置300等が実現される。具体的には、情報記憶媒体に記憶されたプログラムが読み出され、読み出されたプログラムをCPU等のプロセッサーが実行する。ここで、情報記憶媒体(コンピューターにより読み取り可能な媒体)は、プログラムやデーターなどを格納するものであり、その機能は、光ディスク(DVD、CD等)、HDD(ハードディスクドライブ)、或いはメモリー(カード型メモリー、ROM等)などにより実現できる。そして、CPU等のプロセッサーは、情報記憶媒体に格納されるプログラム(データ)に基づいて本実施形態の種々の処理を行う。即ち、情報記憶媒体には、本実施形態の各部としてコンピューター(操作部、処理部、記憶部、出力部を備える装置)を機能させるためのプログラム(各部の処理をコンピューターに実行させるためのプログラム)が記憶される。
【0141】
以上のように本実施形態について詳細に説明したが、本発明の新規事項および効果から実体的に逸脱しない多くの変形が可能であることは当業者には容易に理解できるであろう。従って、このような変形例はすべて本発明の範囲に含まれるものとする。例えば、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。また、画像処理装置、内視鏡システム、画像処理方法及びプログラムの構成、動作も本実施形態で説明したものに限定されず、種々の変形実施が可能である。
【符号の説明】
【0142】
100 光源部、110 白色光源、120 レンズ、200 撮像部、
210 ライトガイドファイバ、220 照明レンズ、230 集光レンズ、
240 撮像素子、250 レンズ駆動部、300 画像処理装置、
310 補間処理部、330 合焦状態判定部、331 コントラスト値算出部、
332 焦点位置制御部、340 表示用画像選択部、341 画像選択部、
342 電子ズーム処理部、343 拡大率算出部、350 表示画像生成部、
390 制御部、400 表示部、500 外部I/F部
【特許請求の範囲】
【請求項1】
レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部と、
ウォブリング中の前記レンズを通して撮像された複数の画像を取得する画像取得部と、
ウォブリング経路上にある複数の折り返し位置のうちの、いずれかの折り返し位置に前記レンズが位置する時に撮像された画像を、取得された前記複数の画像の中から選択する表示用画像選択部と、
選択された前記画像を表示画像として表示部に出力する出力部と、
を含む画像処理装置。
【請求項2】
請求項1において、
取得された前記複数の画像に基づいて、画像に映る被写体が合焦状態であるか否かを判定する合焦状態判定部を含み、
前記レンズ駆動制御部は、
現在の前記焦点位置に対応する前記レンズ位置を中心として、前記レンズをウォブリングさせるための前記制御信号を出力し、
前記合焦状態判定部は、
ウォブリング中に撮像された画像に基づいて、フォーカス評価値を求め、求めた前記フォーカス評価値に基づいて、前記画像に映る前記被写体が前記合焦状態であるか否かを判定することを特徴とする画像処理装置。
【請求項3】
請求項2において、
前記レンズ駆動制御部は、
前記合焦状態判定部により前記画像に映る前記被写体が前記合焦状態であると判定された場合には、前記レンズのウォブリングの停止処理を行うことを特徴とする画像処理装置。
【請求項4】
請求項3において、
前記画像取得部は、
前記レンズ駆動制御部によりウォブリングの前記停止処理が行われた場合にも、画像を取得し続け、
前記出力部は、
ウォブリングの停止中に前記画像取得部により取得された画像を、前記表示部に出力することを特徴とする画像処理装置。
【請求項5】
請求項3において、
前記合焦状態判定部は、
前記レンズ駆動制御部によりウォブリングの前記停止処理が行われた場合にも、前記画像に映る前記被写体が前記合焦状態であるか否かを判定し続け、
前記レンズ駆動制御部は、
前記合焦状態でないと判定された場合には、前記レンズのウォブリングの再開処理を行うことを特徴とする画像処理装置。
【請求項6】
請求項2において、
前記画像取得部は、
取得した画像に基づいて、輝度画像を生成し、
前記合焦状態判定部は、
生成された前記輝度画像のコントラスト値を前記フォーカス評価値として算出し、前記コントラスト値に基づいて、前記画像に映る前記被写体が前記合焦状態であるか否かを判定することを特徴とする画像処理装置。
【請求項7】
請求項1において、
前記表示用画像選択部は、電子ズーム処理部を含み、
前記画像取得部は、
ウォブリング中に、第1の画像に続いて、第2の画像を取得し、さらに第3の画像を取得し、
前記電子ズーム処理部は、
前記表示用画像選択部により、前記第1の画像と前記第3の画像とが選択され、前記第2の画像が選択されない場合に、前記第2の画像に対して電子ズーム処理を行い、
前記出力部は、
前記電子ズーム処理後の前記第2の画像を前記表示画像として出力することを特徴とする画像処理装置。
【請求項8】
請求項7において、
前記表示用画像選択部は、拡大率算出部を更に含み、
前記拡大率算出部は、
前記第1の画像の画角θ1と前記第3の画像の画角θ3とに基づいて、前記第2の画像の目標画角θnewを求めて、前記目標画角θnewと前記電子ズーム処理前の前記第2の画像の画角θ2とに基づいて拡大倍率を求め、
前記電子ズーム処理部は、
求めた前記拡大倍率で前記第2の画像に対して前記電子ズーム処理を行うことを特徴とする画像処理装置。
【請求項9】
請求項8において、
前記拡大率算出部は、
θ1≦θnew≦θ3となる前記第2の画像の目標画角θnewを求めて、求めた前記目標画角θnewと前記電子ズーム処理前の前記第2の画像の画角θ2とに基づいて前記拡大倍率を求めることを特徴とする画像処理装置。
【請求項10】
レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部と、
ウォブリング中の前記レンズを通して撮像された第1の画像と第2の画像と第3の画像とを取得する画像取得部と、
前記第1の画像の画角と前記第2の画像の画角との差が所定の許容範囲外であり、前記第1の画像の画角と前記第3の画像の画角との差が前記所定の許容範囲内である時に、前記第1の画像と前記第3の画像とを選択する表示用画像選択部と、
選択された前記画像を表示画像として表示部に出力する出力部と、
を含む画像処理装置。
【請求項11】
請求項1に記載の画像処理装置を含むことを特徴とする内視鏡システム。
【請求項12】
請求項10に記載の画像処理装置を含むことを特徴とする内視鏡システム。
【請求項13】
レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力し、
ウォブリング中の前記レンズを通して撮像された複数の画像を取得し、
ウォブリング経路上にある複数の折り返し位置のうちの、いずれかの折り返し位置に前記レンズが位置する時に撮像された画像を、取得された前記複数の画像の中から選択し、
選択された前記画像を表示画像として表示部に出力することを特徴とする画像処理方法。
【請求項14】
レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力し、
ウォブリング中の前記レンズを通して撮像された第1の画像と第2の画像と第3の画像とを取得し、
前記第1の画像の画角と前記第2の画像の画角との差が所定の許容範囲外であり、前記第1の画像の画角と前記第3の画像の画角との差が前記所定の許容範囲内である時に、前記第1の画像と前記第3の画像とを選択し、
選択された前記画像を表示画像として表示部に出力することを特徴とする画像処理方法。
【請求項15】
レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部と、
ウォブリング中の前記レンズを通して撮像された複数の画像を取得する画像取得部と、
ウォブリング経路上にある複数の折り返し位置のうちの、いずれかの折り返し位置に前記レンズが位置する時に撮像された画像を、取得された前記複数の画像の中から選択する表示用画像選択部と、
選択された前記画像を表示画像として表示部に出力する出力部として、
コンピューターを機能させることを特徴とするプログラム。
【請求項16】
レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部と、
ウォブリング中の前記レンズを通して撮像された第1の画像と第2の画像と第3の画像とを取得する画像取得部と、
前記第1の画像の画角と前記第2の画像の画角との差が所定の許容範囲外であり、前記第1の画像の画角と前記第3の画像の画角との差が前記所定の許容範囲内である時に、前記第1の画像と前記第3の画像とを選択する表示用画像選択部と、
選択された前記画像を表示画像として表示部に出力する出力部として、
コンピューターを機能させることを特徴とするプログラム。
【請求項1】
レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部と、
ウォブリング中の前記レンズを通して撮像された複数の画像を取得する画像取得部と、
ウォブリング経路上にある複数の折り返し位置のうちの、いずれかの折り返し位置に前記レンズが位置する時に撮像された画像を、取得された前記複数の画像の中から選択する表示用画像選択部と、
選択された前記画像を表示画像として表示部に出力する出力部と、
を含む画像処理装置。
【請求項2】
請求項1において、
取得された前記複数の画像に基づいて、画像に映る被写体が合焦状態であるか否かを判定する合焦状態判定部を含み、
前記レンズ駆動制御部は、
現在の前記焦点位置に対応する前記レンズ位置を中心として、前記レンズをウォブリングさせるための前記制御信号を出力し、
前記合焦状態判定部は、
ウォブリング中に撮像された画像に基づいて、フォーカス評価値を求め、求めた前記フォーカス評価値に基づいて、前記画像に映る前記被写体が前記合焦状態であるか否かを判定することを特徴とする画像処理装置。
【請求項3】
請求項2において、
前記レンズ駆動制御部は、
前記合焦状態判定部により前記画像に映る前記被写体が前記合焦状態であると判定された場合には、前記レンズのウォブリングの停止処理を行うことを特徴とする画像処理装置。
【請求項4】
請求項3において、
前記画像取得部は、
前記レンズ駆動制御部によりウォブリングの前記停止処理が行われた場合にも、画像を取得し続け、
前記出力部は、
ウォブリングの停止中に前記画像取得部により取得された画像を、前記表示部に出力することを特徴とする画像処理装置。
【請求項5】
請求項3において、
前記合焦状態判定部は、
前記レンズ駆動制御部によりウォブリングの前記停止処理が行われた場合にも、前記画像に映る前記被写体が前記合焦状態であるか否かを判定し続け、
前記レンズ駆動制御部は、
前記合焦状態でないと判定された場合には、前記レンズのウォブリングの再開処理を行うことを特徴とする画像処理装置。
【請求項6】
請求項2において、
前記画像取得部は、
取得した画像に基づいて、輝度画像を生成し、
前記合焦状態判定部は、
生成された前記輝度画像のコントラスト値を前記フォーカス評価値として算出し、前記コントラスト値に基づいて、前記画像に映る前記被写体が前記合焦状態であるか否かを判定することを特徴とする画像処理装置。
【請求項7】
請求項1において、
前記表示用画像選択部は、電子ズーム処理部を含み、
前記画像取得部は、
ウォブリング中に、第1の画像に続いて、第2の画像を取得し、さらに第3の画像を取得し、
前記電子ズーム処理部は、
前記表示用画像選択部により、前記第1の画像と前記第3の画像とが選択され、前記第2の画像が選択されない場合に、前記第2の画像に対して電子ズーム処理を行い、
前記出力部は、
前記電子ズーム処理後の前記第2の画像を前記表示画像として出力することを特徴とする画像処理装置。
【請求項8】
請求項7において、
前記表示用画像選択部は、拡大率算出部を更に含み、
前記拡大率算出部は、
前記第1の画像の画角θ1と前記第3の画像の画角θ3とに基づいて、前記第2の画像の目標画角θnewを求めて、前記目標画角θnewと前記電子ズーム処理前の前記第2の画像の画角θ2とに基づいて拡大倍率を求め、
前記電子ズーム処理部は、
求めた前記拡大倍率で前記第2の画像に対して前記電子ズーム処理を行うことを特徴とする画像処理装置。
【請求項9】
請求項8において、
前記拡大率算出部は、
θ1≦θnew≦θ3となる前記第2の画像の目標画角θnewを求めて、求めた前記目標画角θnewと前記電子ズーム処理前の前記第2の画像の画角θ2とに基づいて前記拡大倍率を求めることを特徴とする画像処理装置。
【請求項10】
レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部と、
ウォブリング中の前記レンズを通して撮像された第1の画像と第2の画像と第3の画像とを取得する画像取得部と、
前記第1の画像の画角と前記第2の画像の画角との差が所定の許容範囲外であり、前記第1の画像の画角と前記第3の画像の画角との差が前記所定の許容範囲内である時に、前記第1の画像と前記第3の画像とを選択する表示用画像選択部と、
選択された前記画像を表示画像として表示部に出力する出力部と、
を含む画像処理装置。
【請求項11】
請求項1に記載の画像処理装置を含むことを特徴とする内視鏡システム。
【請求項12】
請求項10に記載の画像処理装置を含むことを特徴とする内視鏡システム。
【請求項13】
レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力し、
ウォブリング中の前記レンズを通して撮像された複数の画像を取得し、
ウォブリング経路上にある複数の折り返し位置のうちの、いずれかの折り返し位置に前記レンズが位置する時に撮像された画像を、取得された前記複数の画像の中から選択し、
選択された前記画像を表示画像として表示部に出力することを特徴とする画像処理方法。
【請求項14】
レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力し、
ウォブリング中の前記レンズを通して撮像された第1の画像と第2の画像と第3の画像とを取得し、
前記第1の画像の画角と前記第2の画像の画角との差が所定の許容範囲外であり、前記第1の画像の画角と前記第3の画像の画角との差が前記所定の許容範囲内である時に、前記第1の画像と前記第3の画像とを選択し、
選択された前記画像を表示画像として表示部に出力することを特徴とする画像処理方法。
【請求項15】
レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部と、
ウォブリング中の前記レンズを通して撮像された複数の画像を取得する画像取得部と、
ウォブリング経路上にある複数の折り返し位置のうちの、いずれかの折り返し位置に前記レンズが位置する時に撮像された画像を、取得された前記複数の画像の中から選択する表示用画像選択部と、
選択された前記画像を表示画像として表示部に出力する出力部として、
コンピューターを機能させることを特徴とするプログラム。
【請求項16】
レンズ位置が変化すると焦点位置および画角の両方が変化するレンズをウォブリングさせるための制御信号を出力するレンズ駆動制御部と、
ウォブリング中の前記レンズを通して撮像された第1の画像と第2の画像と第3の画像とを取得する画像取得部と、
前記第1の画像の画角と前記第2の画像の画角との差が所定の許容範囲外であり、前記第1の画像の画角と前記第3の画像の画角との差が前記所定の許容範囲内である時に、前記第1の画像と前記第3の画像とを選択する表示用画像選択部と、
選択された前記画像を表示画像として表示部に出力する出力部として、
コンピューターを機能させることを特徴とするプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【公開番号】特開2013−76823(P2013−76823A)
【公開日】平成25年4月25日(2013.4.25)
【国際特許分類】
【出願番号】特願2011−216302(P2011−216302)
【出願日】平成23年9月30日(2011.9.30)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
【公開日】平成25年4月25日(2013.4.25)
【国際特許分類】
【出願日】平成23年9月30日(2011.9.30)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
[ Back to top ]