画像処理装置、内視鏡装置及びプログラム
【課題】 光学系により被写体像が結像されない領域の情報による階調変換処理への影響を抑止することで、適切な階調変換処理を行う画像処理装置、内視鏡装置及びプログラム等を提供すること。
【解決手段】 画像処理装置は、結像領域においては光学系により被写体像が結像され、非結像領域においては被写体像が非結像の撮像素子1021から、被写体像の信号を部分的に含む画像信号を取得する画像信号取得部102と、画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部104と、設定された処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部106とを含む。
【解決手段】 画像処理装置は、結像領域においては光学系により被写体像が結像され、非結像領域においては被写体像が非結像の撮像素子1021から、被写体像の信号を部分的に含む画像信号を取得する画像信号取得部102と、画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部104と、設定された処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部106とを含む。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、内視鏡装置及びプログラム等に関する。
【背景技術】
【0002】
従来、画像処理装置は、レンズを通じた光が撮像素子上に結像されることで信号を取得し、所定の画像処理を行って画像を生成し、表示装置等に出力する。しかし、レンズにより結像される領域(ここでは結像領域と呼ぶ)と、撮像素子が並んでいて信号が得られる領域(ここでは画像領域と呼ぶ)とは必ずしも一致しない。
【0003】
また、画像領域の中でも結像領域に含まれない領域の画素値は、像から得られるものではなくノイズ等の意味のないデータが入っていることになる。そのため、画像領域の中にマスク領域を予め設定し、得られた画像に対してマスク領域をつぶすマスク処理を行い最終的な画像を出力する手法が知られている。例えば、特許文献1では、電子スコープがマスク信号を生成し、画像処理後の信号にマスク処理を行う方法が提案されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2003−070735号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
マスク処理をかけたマスク領域は、最終的にはマスクがかかっているのでユーザにとっては意味のない領域になる。一方、各画像処理は画像領域に対して行われている。階調変換など画像全体の情報を元に行う処理の場合には、最終的にマスクがかかってつぶされる領域の情報も用いた上で処理が行われてしまう。例えば、階調変換を行う場合、表示されない画像領域に非常に明るい部分があるとすると、画像全体としては明るいので、全体的に暗くする方向の階調変換が行われ、実際に出力される領域が暗くなってしまい、適切な階調変換処理がなされない。
【0006】
本発明の幾つかの態様によれば、光学系により被写体像が結像されない領域の情報による階調変換処理への影響を抑止することで、適切な階調変換処理を行う画像処理装置、内視鏡装置及びプログラム等を提供することができる。
【0007】
また、本発明の幾つかの態様によれば、結像領域と画像領域との共通部分の部分集合である処理領域の情報を用いることで、適切な階調変換処理を行う画像処理装置、内視鏡装置及びプログラム等を提供することができる。
【課題を解決するための手段】
【0008】
本発明の一態様は、結像領域においては光学系により被写体像が結像され、非結像領域においては前記被写体像が非結像の撮像素子から、前記被写体像の信号を部分的に含む画像信号を取得する画像信号取得部と、前記画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部と、設定された前記処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部と、を含む画像処理装置に関係する。
【0009】
本発明の一態様では、結像領域の内側に処理領域を設定し、処理領域内の画素の画素値に基づいて階調変換処理を行う。よって、光学系により被写体像が結像される領域に対応する画素の画素値に基づく階調変換処理が行われるため、被写体像が結像されない領域に対応する画素の画素値まで用いる場合の階調変換処理に比べて、適切な処理を行うこと等が可能になる。
【0010】
本発明の他の態様は、結像領域においては光学系により被写体像が結像され、非結像領域においては前記被写体像が非結像の撮像素子から、前記被写体像の信号を部分的に含む画像信号を取得する画像信号取得部と、前記画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部と、設定された前記処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部と、を含む内視鏡装置に関係する。
【0011】
本発明の他の態様は、結像領域においては光学系により被写体像が結像され、非結像領域においては前記被写体像が非結像の撮像素子から、前記被写体像の信号を部分的に含む画像信号を取得する画像信号取得部と、前記画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部と、設定された前記処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部として、コンピュータを機能させるプログラムに関係する。
【図面の簡単な説明】
【0012】
【図1】第1の実施形態のシステム構成例。
【図2】図2(A)〜図2(D)は結像領域、画像領域及び被写体像領域を説明する図。
【図3】図3(A)〜図3(D)は処理領域、マスク領域及び表示領域を説明する図。
【図4】区間情報による処理領域の設定手法を説明する図。
【図5】本実施形態の画像処理を説明するためのフローチャート。
【図6】第2の実施形態のシステム構成例。
【図7】極座標を用いた処理領域の設定手法を説明する図。
【図8】図8(A)〜図8(C)は第2の実施形態における結像領域及び画像領域を説明する図。
【図9】図9(A)〜図9(D)は第2の実施形態における処理領域、マスク領域及び表示領域を説明する図。
【図10】図10(A)、図10(B)は管路により死角部分が生ずることを説明する図。
【図11】図11(A)、図11(B)は従来の階調変換処理を説明する図、図11(C)、図11(D)は本実施形態における階調変換処理を説明する図。
【図12】第3の実施形態のシステム構成例。
【図13】図13(A)〜図13(C)は参照画像を用いた処理領域の設定手法を説明する図。
【図14】前方領域、側方領域及び後方領域を説明する図。
【発明を実施するための形態】
【0013】
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0014】
1.本実施形態の手法
まず、本実施形態の手法について説明する。図2(A)に示したように、画像処理装置は、レンズを通過した光が撮像素子上で結像されることにより画像信号を取得する。しかし、レンズの形状を考慮すれば、レンズを通過した光が結像する領域は円形になると考えられる(この円形の領域を結像領域と呼ぶ)のに対して、撮像素子は方形である場合がほとんどである(この撮像素子に対応する方形の領域を画像領域と呼ぶ)。
【0015】
よって、結像領域と画像領域とは形状が一致しないため、一般的には、結像領域に含まれながら画像領域に含まれない領域と、画像領域に含まれながら結像領域に含まれない領域が存在することになる。画像を形成する画像信号は、撮像素子の一画素一画素の信号に基づいて取得されることから、画像領域分の領域で画像信号が取得されることになる。
【0016】
つまり、結像領域に含まれながら画像領域に含まれない領域では、被写体の像を含む光は入射しているが対応する撮像素子の画素が存在しないため、画像信号には寄与しない。それに対して、画像領域に含まれながら結像領域に含まれない領域(以下適宜、非結像領域と呼ぶが、非結像領域とは結像領域に含まれない領域全体を指してもよい)では、被写体の像を含む光が来ていないのに、画像信号は取得されることになる。よって後者の領域では、意味のないデータ(例えば光が来ないことによる暗い画素値や、或いはノイズ等に基づく画素値)が取得されてしまうことになる。
【0017】
従って画像領域全体を考えたときに、結像領域にも画像領域にも含まれる領域(以下、被写体像領域と呼ぶ。例えば図2(D))に関しては、被写体像の情報を反映した意味のあるデータが取得されるのに対して、非結像領域では意味のないデータが取得される。この意味のあるデータと意味のないデータを等価に扱って画像処理を行うことは適切でない場合がある。
【0018】
例えば、階調変換処理においては、画像全体の明るさ(例えば画素値や輝度値等)をみて、明るさの偏りをなくすような処理が行われる(具体例としては図11(A)〜図11(B)のような処理となる)。つまり、暗い画素が多い場合には、全体として明るくするような処理となり、明るい画素が多い場合には、全体として暗くするような処理となる。このとき上述したように、非結像領域では、レンズからの光が到達しないことから暗い画像が得られることが想定される。そのため、被写体像領域に対応する意味のあるデータの明るさはそれほど暗いわけではなくても、意味のないデータの暗さの影響を受けて、画像全体を明るくするような処理が行われてしまう。それでは、意味のあるデータ部分が白飛びするような不適切な処理が起こりかねない。
【0019】
よって、本出願人は図3(A)〜図3(B)に示したように、被写体像領域に含まれるような処理領域を設定し、当該処理領域の画素値を用いて(つまり、画像領域に含まれ且つ処理領域に含まれない画素の画素値は用いずに)階調変換処理を行う手法を提案する。このようにすることで、意味のあるデータ(被写体像の情報が反映されたデータ)を用いて、意味のないデータを用いないことになるため、意味のないデータによる階調変換処理への悪影響を抑止することが可能になる。
【0020】
以下、第1の実施形態及び第2の実施形態では、処理領域のデータが予め与えられているケースについて説明する。特に第1の実施形態では処理領域の情報を、ランレングスを用いて保持する手法について説明する。第2の実施形態では超広角の内視鏡装置を想定した上で、極座標を用いて処理領域の情報を保持する手法について説明する。また、第3の実施形態では、処理領域を参照画像から取得する手法について説明する。
【0021】
2.第1の実施形態
図1に本実施形態にかかる画像処理装置の構成例を示す。画像処理装置は、光学系101と、画像信号取得部102と、バッファ103と、処理領域設定部104と、前処理部105と、階調変換部106と、後処理部107と、マスク処理部108と、画像出力部109と、制御部110と、外部I/F部111とを含む。なお、構成はこれに限定されず、これらの構成要素の一部を省略するなどの種々の変形実施が可能である。
【0022】
画像信号取得部102は撮像素子1021とA/D変換部1022を含み、光学系101、撮像素子1021を介して撮影されたアナログの信号は、A/D変換部1022にてデジタルの信号へ変換される。A/D変換部1022はバッファ103へ接続されている。バッファ103は前処理部105へ接続されている。処理領域設定部104は階調変換部106へ接続されている。前処理部105は階調変換部106へ接続されている。階調変換部106は後処理部107へ接続されている。後処理部107はマスク処理部108へ接続されている。マスク処理部108は画像出力部109へ接続されている。
【0023】
また、マイクロコンピュータなどの制御部110はA/D変換部1022、処理領域設定部104、前処理部105、階調変換部106、後処理部107、マスク処理部108、画像出力部109と双方向に接続されている。
【0024】
また、電源スイッチ、変数設定を行うためのインターフェースを備えた外部I/F部111も制御部110に双方向に接続されている。外部I/F部111を介して撮像サイズなどの撮影条件が設定される。
【0025】
被写体から反射した反射光が光学系101により集光され、RGB三原色の光をそれぞれ透過する色フィルタがBayer型に配置された撮像素子1021上に像が結像される(図2(A))。撮像素子1021により光電変換を行い、アナログ信号を取得する。
【0026】
A/D変換部1022は、アナログ信号をデジタル信号へ変換し、画像信号としてバッファ103に格納する。この画像信号の取得される領域を画像領域(図2の(C))と呼ぶこととする。前処理部105は、バッファ103に格納した画像信号を読み出し、黒補正やゲインコントロールなどの画像処理を行う。
【0027】
処理領域設定部104は、予め格納されている処理領域、または、外部I/F111から設定される処理領域を設定する。処理領域としては例えば図3(A)のような領域が考えられる。そして、処理領域は図3(B)に示したように結像領域の内側(狭義には被写体像領域の内側)に設定されることになる。処理領域設定部104で設定される処理領域は、図4に示すように、処理領域または処理領域以外の領域が連続して表れる画素数を持つランレングスの状態で保持される。図4に示すように、p0は左上の画素から右に連続して存在する非処理領域の画素数、q0はその次の画素からの連続する処理領域の画素数、p1はその次の画素から連続する非処理領域の画素数、といったように、以下例えばp0〜p9、q0〜q8のようなデータで保持される。ランレングスは同じデータが続く場合には特にメモリの圧縮効果が高く、データの保持に用いるメモリを比較的少なくすることができる。
【0028】
また、処理領域の設定手法はランレングスに限定されるものではなく、その他の2値画像圧縮方法で圧縮したデータとして保持してもかまわない。また、画像の1画素が対応する1bit以上のメモリを全画素分保持し、処理領域または処理領域以外の領域(非処理領域)を示す値を保持してもよい。全画素分のメモリを準備しておくことで、処理領域か否かの演算処理をなくすことができ、処理速度を早くすることができる。
【0029】
階調変換部106は、画像領域から処理領域設定部104で設定された処理領域を抽出し、処理領域の画像信号に対して階調変換処理を行う。具体的には、処理領域の画像信号の画素値のヒストグラムを作成する。作成したヒストグラムが平滑化するように階調変換処理を行う。階調変換処理の詳細は後述する。
【0030】
後処理部107は、階調変換部106で階調変換された画像信号に対して、色補正やエッジ強調などの画像処理を行う。後処理部における処理は処理領域だけでなく、画像領域に対して行ってもよい。
【0031】
マスク処理部108は、処理領域の画像信号に対して、予め設定されているマスク領域のマスクをかける。ここでのマスクをかける処理は、マスク領域に含まれない領域はそのまま透過し、マスク領域に含まれる領域の画像信号を黒相当の信号値に変換する処理である。なお、マスク領域に含まれない領域(=透過される領域、表示領域)は処理領域の部分集合である。両者の領域が全く同じでもかまわない。マスク領域の例を図3(C)に、表示領域と処理領域との関係を図3(D)に示す。
【0032】
画像出力部109では、マスクをかけた後の画像信号をメモリカードなどの記録媒体に画像を記録保存したり、不図示の表示部に画像を出力したりする。
【0033】
階調変換部106で行われる階調変換処理について、図11(A)〜図11(D)を用いて詳しく説明する。通常、処理領域以外の領域は結像されない領域を多く含んでいるので暗い(小さい)画素信号しか得られない。画像領域全体に対してヒストグラムを作成すると、例えば図11(A)のように暗部の画素が多いヒストグラムが得られる。このヒストグラムを平滑化するような階調変換を行うと、明るくなる方向に階調変換が行われ、本来必要な領域である処理領域が明るくなりすぎてしまう(図11(B))。しかし本実施形態のように、処理領域のみからヒストグラムを作成し(図11(C))階調変換処理を行うことで、処理領域が過度に明るくなりすぎるのを防ぐことができ、適切なレンジでの階調変換を行うことができる(図11(D))。
【0034】
また、処理領域以外の領域は結像されない領域を多く含んでいるので暗い(画素値の小さい)画素信号しか得られないが数画素のノイズ(明るい画素)が存在することが多い。画像領域全体に対して階調変換を行うと、これらノイズが更に増幅されてしまう問題がある。本実施形態のように処理領域にのみ階調変換を行うことで、処理領域以外のノイズの増幅を抑えることができる。このようなノイズが存在する場合には、マスク処理部108でマスク処理をかける場合に、マスク領域は処理領域に少し食い込むようにマージンをもって設定しないとマスク領域の境界部分でノイズが気になる画像となってしまう。なお、処理領域以外の領域に階調変換を行わないように設定すれば、ノイズが増幅されることもないので、マスク領域を結像領域に一致する大きさ或いはそれに近い大きさに設定しても良好な画像が得られる。
【0035】
上述の実施形態ではハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。別途ソフトウェアにて処理する構成も可能である。また、上述の実施形態では撮像素子を原色Bayer配列型としていたがこれに限定される必要はなく、補色等の撮像素子でもかまわない。更に、階調変換処理はヒストグラムを平滑化する適応階調変換処理を例にしたがそれに限定されず、人間の視覚特性(局所的な色順応)を利用した適応階調変換を用いても良い。
【0036】
局所領域を用いた階調変換について説明する。階調変換部106は、前処理部105から入力された画像のうち、処理領域設定部104で設定された処理領域に対して処理を行う。この際に、処理領域を局所領域に分割する。例えば、処理領域に対応する画像信号を所定サイズの矩形領域に分割し、分割した各矩形領域を局所領域とすればよい。矩形領域のサイズは適宜設定できるが、例えば16×16画素単位等でもよい。そして、図11(C)に示したようなヒストグラムを算出する際に、局所領域ごとのヒストグラムを算出する。局所領域ごとに求められたヒストグラムに基づいて階調変換の特性を決定し、決定された特性に基づいて階調変換を行う。
【0037】
次に、図5にソフトウェア処理に関するフローを示す。本実施形態では、処理の一部または全部をソフトウェアで構成することとしてもよく、この場合、例えばコンピュータシステムのCPUが画像処理プログラムを実行する。
【0038】
この処理が開始されると、S101で、処理領域やマスク領域等のパラメータ情報が入力される。S102で、画像を入力し、S103にて、公知のOBクランプ処理やゲイン補正処理、WB補正処理等の画像処理を行う。S104で、画像の各画素が処理領域内かどうか判定する。画素が処理領域内のときはS105へ分岐し、処理領域外のときはS106へ分岐する。
【0039】
S105で、画素値の情報を蓄積し、ヒストグラムを作成し、S106へ移行する。S106では、入力された画像の画素が残っているか判定する。まだ画素が残っている場合にはS103に戻る。
【0040】
S106で入力した画素が終了したと判定された場合には、S107へ移行し、S105において蓄積されたヒストグラムを元に、階調変換を行う。S108で、色処理や輪郭強調等の画像処理を行い、S109で、画像の各画素がS101で入力されたマスク領域内かどうか判定する。マスク領域内の場合にはS110へ分岐し、マスク領域外のときはS111へ分岐する。
【0041】
S110では、画素値をゼロあるいは黒相当の画素値に変更し、S111へ移行する。S111では、入力された画像の画素が残っているか判定する。まだ画素が残っている場合にはS107に戻る。S111で入力した画素が終了したと判定された場合には、S112にて、画像を出力し終了する。
【0042】
なお、S107の前に、画素が処理領域か否かの分岐を入れて、処理領域のときのみS107の階調変換処理やS108の後処理を行うようにしてもよい。
【0043】
以上の本実施形態では、図1に示したように、画像処理装置は画像信号を取得する画像信号取得部102と、処理領域を設定する処理領域設定部104と、階調変換処理を行う階調変換部106とを含む。撮像素子1021は、結像領域においては光学系101により被写体像が結像され、非結像領域においては被写体像が結像されない。画像信号取得部102は、当該撮像素子1021から被写体像の信号を部分的に含む画像信号を取得する。処理領域設定部104は、撮像素子1021から取得される画像(画像領域の画像)のうち、結像領域の内側に対して、処理領域を設定する。階調変換部106は、処理領域内の画素の画素値に基づいて階調変換処理を行う。
【0044】
ここで、図2(B)に示したように、本実施形態においては結像領域とは、光学系101を通過した光が結像する領域を表し、通常は光学系101に含まれるレンズの形状に従って円形状になる。それに対して、撮像素子は通常は方形であり、撮像素子に対応する画像信号を取得することができる領域である画像領域は図2(C)に示したように方形となる。本実施形態における非結像領域とは、結像領域に含まれない領域を指すものとし、必ずしも画像領域に含まれる必要はないものとするが、これに限定されるものではない。また、結像領域と、画像領域の共通部分を被写体像領域(図2(D))とする。
【0045】
本実施形態においては、処理領域は結像領域の内側に設けられるものとしたが、狭義には被写体像領域の内側に設けられる。なぜなら、結像領域に含まれながら被写体像領域に含まれない領域とは、撮像素子1021に対応する画像領域にも含まれないことになり、当該領域においては画像信号が取得されない。つまり、本実施形態での処理領域は階調変換処理に用いられる領域のことであるから、画像信号が取得されない領域を処理領域に設定したとしても、その後の階調変換に寄与しないことになり意味がないからである。しかし、処理領域のうち画像信号が取得された部分を用いて階調変換処理を行うものとすれば、被写体領域からはみ出す領域(且つ結像領域に含まれる領域)を処理領域に設定することを妨げるものではない。
【0046】
なお、処理領域とは、画像出力部109で出力される(例えば表示される)画像に対応する領域(例えば、図3(D)で示した表示領域)を少なくとも含む大きさの領域である。公知の階調変換処理の一例として、画像領域を複数の局所領域に分割し、局所領域ごとに処理を行う場合がある。その場合、画像領域を複数の局所領域に分割した結果、ある局所領域が結像領域の内側に設定されることがあり得る。しかし、このような局所領域は表示領域を含む大きさの領域とはならないため、本実施形態における処理領域には含まれない。本実施形態での処理領域とは、結像領域の内側に設定され、且つ、それ単体で表示領域に対応しうるものを指すものとする。
【0047】
これにより、階調変換処理に用いられる領域である処理領域を、結像領域の内側に設定することができるため、被写体の像を含む光が届いている画素の画素値を用いつつ、被写体の像を含む光が届いていない画素の画素値を用いずに階調変換処理を行うことが可能になる。上述したように、撮像素子1021に対応する画像領域の中には、結像領域に含まれないため、被写体の像を含む光が届かない領域が存在する。そのような領域は意味のない画素値が得られている(一般的には光が届かないため暗かったり、或いはノイズがのっていたりする)ため、階調変換処理に用いてしまうと、誤った傾向の処理を行ってしまう可能性がある。本実施形態の手法を用いることで、意味のある(つまりは被写体像の光が届いている)画素値を用いて処理が可能になるため、適切な階調変換処理を行うことができる。
【0048】
また、画像処理装置は、処理領域以外の非処理領域を少なくともマスクするマスク処理を施すマスク処理部108を含んでもよい。また、マスク処理部108によりマスク処理が施された画像を表示画像として取得する画像出力部109を含んでもよい。
【0049】
ここで、非処理領域とは、処理領域以外の領域を表す。非処理領域がマスク処理の対象となるものであり、当該マスク処理は画像信号が取得されない画素に対して行われても意味のないものであることに鑑みれば、非処理領域は処理領域に含まれず、且つ、画像領域に含まれる領域として設定されるものとする。ただし、これに限定されるものではない。
【0050】
これにより、非処理領域をマスクするマスク処理を施した上で、マスク処理後の画像を取得することが可能になる。なお、ここではマスク処理とは画像をつぶして見えなくする(例えば黒い画素で置き換える等)の処理を指すものとする。そのため、マスク処理が施されていない領域とは図3(D)の表示領域に対応することになる。処理領域が結像領域の内側に設定されることから、非処理領域とは、基本的に非結像領域に対応する領域となる。もちろん、非処理領域であり且つ結像領域である領域は存在しうるが、処理領域の大きさを結像領域(被写体像領域)に近づけるほど、より多くの画素値を用いて階調変換処理を行えることに鑑みれば、非処理領域に含まれる結像領域は広くないことが想定される。よって、非処理領域をマスクすることで、画像領域内の非結像領域に対応する領域をマスクすることが可能になり、被写体像の光が届いていない意味のない画素値を黒くつぶす等の処理ができる。
【0051】
また、画像出力部109は、マスク処理が施された画像のうち、マスク処理によりマスクされる領域であるマスク領域を除いた画像を取得してもよい。
【0052】
これにより、マスクされている部分の画像を取得しなくてもよいことになり、データ量の削減等が可能になる。マスクされている領域とは、例えば黒でつぶされている領域であり、ユーザに対して何ら情報を提示するものではない。よって、黒い画像を取得しても特に有益ではない以上、黒い部分を初めから削除した画像(図3(D)の例でいえば表示領域に対応する8角形の画像)を取得してもよい。
【0053】
また、マスク処理部108は、非処理領域を含み、且つ処理領域の周縁領域を含む領域をマスク領域として設定してもよい。
【0054】
これにより、図3(D)に示したように、表示領域にマージンを持たせることが可能になる。図3(A)〜図3(D)の例では、処理領域が既に被写体像領域よりも狭く(マージンを持って)設定されているが、そうでない場合には、処理領域の境界部分がすぐ非結像領域であるケースが考えられる。その場合、非結像領域にはノイズがのっている可能性が大いにあり、更に階調変換処理によって当該ノイズが強調されてしまっていることがあり得る。つまり、非処理領域に対してのみマスク処理を行ったのでは、処理領域との境界部分に存在するノイズが表示領域に含まれ、目立ってしまうことが考えられる。そこで、本実施形態では表示領域にマージンを持たせることで目立つノイズが表示されてしまうことを抑止している。
【0055】
また、階調変換部106は、画像に対して局所領域を設定し、設定された局所領域に基づいて(例えば局所領域に適応的な)階調変換処理を行ってもよい。
【0056】
これにより、スペースバリアントな階調変換処理が可能になる。画像全体を見た場合に、比較的画素値の小さい領域と、比較的画素値の大きい領域とがあったとき、局所領域を設定しないとすると、中間的な処理が全体に施されることになるが、局所領域を設定することで、各領域の特徴を反映させた処理が可能になる。
【0057】
また、階調変換部106は、処理領域の画素値のヒストグラムを平滑化する処理を行ってもよい。
【0058】
これにより、図11(C)〜図11(D)に示したような処理が可能になる。全体を平滑化することにより、小さい画素値が持ち上げられ、大きい画素値が下げられることになる。
【0059】
また、処理領域設定部104は、画像領域の画像の各行における処理領域の始点に対応する画素位置を第1の画素位置とし、画像領域の画像の各行における処理領域の終点に対応する画素位置を第2の画素位置とした場合に、第1の画素位置と第2の画素位置を特定するための区間情報により、処理領域を設定してもよい。そして、区間情報とは、具体的には始点から終点までの画素数により表される情報であってもよい。
【0060】
これにより、図4に示したような処理が可能になる。後述するように、処理領域に対応する画素には1を割り当て、非処理領域に対応する画素には0を割り当てることで処理領域に関する情報を保持してもよい。しかし、処理領域、非処理領域ともにある程度の画素数が連続して並ぶことで構成されることが想定される。つまり、一回処理領域に含まれる画素が現れたら、同じ行においてはある程度の画素数分だけ処理領域が続く。よって、始点及び終点の情報を保持することにより、より少ないデータサイズで処理領域の情報を保持することが可能になる。具体的には、始点から終点までの画素数により表される情報であってもよい。例えば、ランレングス符号化に用いられる手法のように、「AAAAABBBCCCC」という情報を「A5B3C4」という形で保持することが考えられる。ここでは、処理領域と非処理領域の2値しかとらないのであるから、上述した例のようにA,B,Cを記述する必要も必ずしも無く、始点から終点までの画素数を表す数値を並べて記述するだけでもよい。
【0061】
また、処理領域設定部104は、画像の各画素に対して設定された処理領域判定情報に基づいて処理領域を設定してもよい。
【0062】
これにより、画素ごとに設定された処理領域判定情報を用いて処理領域を表現することが可能になる。これは上述したように、処理領域である画素に1を割り当て、非処理領域である画素に0を割り当てるような手法により実現できる。上述した区間情報や後述する極座標を用いた形式に比べて、データサイズは大きくなるものの、目的の画素が処理領域か否かを簡単に判定することができる。例えば、区間情報を用いた場合、始点から終点までの画素数しか保持していないため、目的の画素が左上の画素から数えて何画素目に相当するかを演算した上で、区間情報により表される画素数と比較する等の処理が必要になってくる。その点、処理領域判定情報を画素ごとに保持しておけば、目的の画素の処理領域判定情報を参照するだけで、処理領域に含まれるか否かを判定することが可能である。
【0063】
また、光学系は、画角が180°以上であってもよい。
【0064】
これにより、従来より広い画角の撮像光学系を用いることが可能になる。例えば内視鏡用途に用いるのであれば、大腸等のヒダの裏側にある病変部等の探索に効果を発揮する。
【0065】
また、光学系の光軸を含む領域を前方領域とし、光軸に直交する軸を含む領域を側方領域とした場合に、光学系は前方領域又は側方領域に設定される撮像領域を撮像可能な光学系であってもよい。
【0066】
ここで、前方領域及び側方領域は図14のように定義される。図14の矢印が光軸を表し、C1が前方領域となり、C2及びC3が側方領域となる。また、図14では平面的に描いたが、当然領域は3次元的な広がりを持っていてもよい。
【0067】
これにより、前方のみならず、側方に対しても撮像領域を設定可能になるため、広い領域を撮像することができる。
【0068】
また、光学系の光軸方向と反対方向の軸を含む領域を後方領域とした場合に、撮像光学系は後方領域内に設定される撮像領域を撮像可能な光学系であってもよい。
【0069】
ここで、後方領域は図14のC4のように定義される。後方領域が3次元的な広がりを持ってもよいのは上述した例と同様である。
【0070】
これにより、後方に対しても撮像領域を設定可能になる。より広い範囲を撮像可能になるため、例えば内視鏡用途等では、病変部のサーチ等を効率的に行うことができる。
【0071】
また、画像信号取得部102は、光学系の視野範囲の一部を遮る障害物によって発生する死角部分によって非結像領域が生じた画像信号を取得してもよい。具体的には図10(A)、図10(B)に示すように、光学系は内視鏡装置の挿入部の先端に設けられており、障害物とは内視鏡装置の挿入部の先端部に形成された管路の開口部であってもよい。なお、図10(A)は挿入部の先端を前方から見た図であり、図10(B)は挿入部の先端を側方から見た図である。
【0072】
これにより、画像信号取得部102では、図8(A)〜図8(B)のような画像を取得することが可能になる。特に、図10(B)に示したように前方視野に加えて側方視野を撮像可能な光学系を持つ内視鏡装置においては、処置を行う鉗子等を通す管(或いは送気・送水用の管)を持たせた場合に、当該管が側方視野用の光学系にとって障害物となってしまうことが想定される。その場合には、側方視野に対応する画像は360度取得できるわけではなく、図8(B)のように欠けが生じる。よって、そのような欠け部分を含まないように適切に処理領域を設定する必要がある。
【0073】
また、以上の本実施形態は、画像信号を取得する画像信号取得部102と、処理領域を設定する処理領域設定部104と、階調変換処理を行う階調変換部106としてコンピュータを機能させるプログラムに関係する。撮像素子1021は、結像領域においては光学系101により被写体像が結像され、非結像領域においては被写体像が結像されない。画像信号取得部102は、当該撮像素子1021から被写体像の信号を部分的に含む画像信号を取得する。処理領域設定部104は、撮像素子1021から取得される画像(画像領域の画像)のうち、結像領域の内側に対して、処理領域を設定する。階調変換部106は、処理領域内の画素の画素値に基づいて階調変換処理を行う。
【0074】
これにより、上述した処理をプログラムによりソフトウェア的に実現することが可能になる。内視鏡装置の場合であれば、画像信号をまとめて取得しておき、あとでまとめて処理を行うようなカプセル内視鏡を実現することも可能になる。そして、上記プログラムは、情報記憶媒体に記録される。ここで、情報記憶媒体としては、DVDやCD等の光ディスク、光磁気ディスク、ハードディスク(HDD)、不揮発性メモリやRAM等のメモリなど、情報処理装置等によって読み取り可能な種々の記録媒体を想定できる。例えば、PC等の機器によって読み取り可能な種々の記録媒体にプログラムが記憶され、PC等の処理部(例えばCPU)において実行されるケースが考えられる。
【0075】
3.第2の実施形態
図6に、本実施形態の画像処理装置を含む内視鏡装置の構成例を示す。内視鏡装置は、照明部200と、撮像部210と、プロセッサ部220と、表示装置230と、I/F部240とを含む。第1の実施形態とは異なり、画像出力部227から出力された画像は表示装置230で表示される。
【0076】
照明部200は、白色光光源S02や集光レンズS03を含む光源装置S01と、ライトガイドファイバS05や照明光学系S06を含む。撮像部210は、集光レンズS07、撮像素子S08、A/D変換部211を含む。
【0077】
プロセッサ部220は、第1の実施形態において図1で示した画像処理装置に対応し、バッファ221と、処理領域設定部222と、前処理部223と、階調変換部224と、後処理部225と、マスク処理部226と、画像出力部227と、制御部228とを含む。制御部228はマイクロコンピュータやCPU等を備えている。I/F部240は電源スイッチ、変数設定などを行うためのインターフェースを備えている。
【0078】
白色光光源S02から白色光が発光される。白色光が集光レンズS03に達し集光される。集光された白色光はライトガイドファイバS05を通って照明光学系S06から被写体に照射される。被写体から反射した反射光が集光レンズS07により集光され、RGB三原色の光をそれぞれ透過する色フィルタがBayer型に配置された撮像素子S08に到達し光電変換を行いアナログの信号となりA/D変換部211へ送られる。A/D変換部211ではアナログの信号をデジタルの信号に変換し、画像としてバッファ221へ格納する。
【0079】
上述の集光レンズS07は挿入部先端から突出しており、前方および側方が観察できる、例えば視野角が230°のレンズを用いる。一方、図10(A)のように、撮像部の先端には、レンズと照明と、処置具を出したり送水送気を行うための鉗子口が配置されていて、図10(B)のように、側方視野に照明を当てるために先端付近の側面に照明を配置する必要がある。また、内視鏡を体内に挿入したまま処置や生検などをする際には、鉗子などの処置具を用いたり送水や送気を行ったりするが、それら処置具の通り道を確保する必要がある。そのため側方視野にかかってしまう位置に外装を配置せざるを得ない。このとき図8(A)〜図8(C)のように側方視野が360度ではなく欠ける領域が生じる。
【0080】
画像領域中のこの欠けた領域からは意味のないデータしか得られない。前方視野と360度の側方視野全部を元に階調変換を行うとこの意味のないデータも反映された階調変換がなされてしまう。そこでこの欠けた領域を除いた処理領域を処理領域設定部222にて予め設定しておく。
【0081】
処理領域を図7に示したような極座標で保持しておく。予め保持しておくデータとしては、中心座標(x0,y0)及び半径Rが考えられる。また、各画素の座標(x,y)として下式(1)、(2)で表されるkとθを保持する。
【数1】
【数2】
【0082】
また、処理領域とそれ以外の領域との境界を表す関数をf(θ)とするとき、処理領域以外の領域は下式(3)で求められる。
【0083】
f(θ)>k ・・・・・(3)
【0084】
特に、欠けた領域が扇形の場合、処理領域をシンプルに保持することも可能である。更に前方視野の半径をr、欠けている側方視野の角度をθ1〜θ2とすると、処理領域は下式(4)で求められる。
【0085】
k<r または (r<k≦Rかつ(θ≦θ1またはθ2≦θ)) ・・・・・(4)
【0086】
処理領域が設定された後の処理は、第1の実施形態と同様であるため、詳細な説明は省略する。処理領域、マスク領域及び表示領域の関係についても第1の実施形態と同様であり、図9(A)〜図9(D)に示したとおりである。また、本実施形態のプロセッサ部220における処理もソフトウェア的に実現されてもよい。その場合の処理も第1の実施形態において図5で示したフローチャートと同様であるため、詳細な説明は省略する。
【0087】
以上の本実施形態では、処理領域設定部222は、画像領域の画像のうち結像領域の画像の中心座標からの距離により、処理領域を設定してもよい。
【0088】
これにより、上述した式(1)〜(4)のように、極座標の形で処理領域に関する情報を保持することが可能になる。第1の実施形態では8角形の処理領域を設定しているが、処理領域を円形(及び円形に準ずる形状)に設定する場合には、処理領域を極座標を用いて設定することで容易に表現することが可能になる。
【0089】
また、処理領域設定部222は、中心座標からの距離を中心座標に対して設定される基準方向に対する角度に基づいて変更してもよい。特に、光学系の視野範囲を遮る障害物によって発生する死角部分により非結像領域が生じる場合には、障害物の存在方向に対応する角度における距離を、障害物の非存在方向に対応する角度における距離に比べて短く設定してもよい。
【0090】
これにより、極座標での距離を角度に応じて変更することが可能になるため、円形状に限定されず任意の形状の処理範囲を極座標を用いて表現することが可能になる。ただし、処理負荷等を考慮すれば、円形状から大幅に離れる形状は極座標により表現するメリットは小さい。よって、例えば図9(A)に示したように、前方領域と側方領域を取得する光学系を有する場合のような、円形状に準ずる形状に対して用いると利点が大きい。特に、欠けた範囲が扇形であるものとできる場合には、処理領域を上述した式(4)のように簡潔に記述することができる。
【0091】
また、以上の本実施形態は、図6に示したように、画像信号を取得する画像信号取得部(撮像部210)と、処理領域を設定する処理領域設定部222と、階調変換処理を行う階調変換部224とを含む内視鏡装置に関係する。撮像素子S08は、結像領域においては光学系(照明部200)により被写体像が結像され、非結像領域においては被写体像が結像されない。画像信号取得部は、当該撮像素子S08から被写体像の信号を部分的に含む画像信号を取得する。処理領域設定部222は、撮像素子S08から取得される画像(画像領域の画像)のうち、結像領域の内側に対して、処理領域を設定する。階調変換部224は、処理領域内の画素の画素値に基づいて階調変換処理を行う。
【0092】
これにより、上述してきた処理を実行可能な内視鏡装置を実現することが可能になる。内視鏡装置で取得された画像とは、生体内を撮像した画像であることが想定され、特に病変部等を観察し発見することを目的とすることが多い。そのため、階調変換処理が適切に行われず、白飛び等を発生させてしまった場合には、病変部の見逃し等につながり好ましくない。よって、処理領域を設定し適切に階調変換処理を行うことは、内視鏡装置において特に意義を有する。
【0093】
また、画像信号取得部(撮像部210)は、光学系の視野範囲の一部を遮る障害物によって発生する死角部分によって非結像領域が生じた画像信号を取得してもよい。
【0094】
これにより、内視鏡装置においても、視野の一部が欠けた画像信号から取得された画像に対して適切に処理領域を設定することが可能になる。内視鏡装置においては、病変部の観察だけでなく器具を用いた処置を行う必要があるため、図10(B)に示したように鉗子を通す管等が側方視野用の光学系に対する障害物になってしまう。よって、そのような場合にも適切に処理領域を設定することが必要となる。
【0095】
4.第3の実施形態
図12に本実施形態の画像処理装置の構成例を示す。第1の実施形態(図1)に比べて、A/D変換部1022が前処理部105に接続され、前処理部105がバッファ103に接続されている点が異なる。また、バッファ103は、処理領域設定部104と、階調変換部106に接続されている。
【0096】
本実施形態においては、画像信号取得部102が動作する動作モードとして、参照画像取得モードと通常動作モードの2つの動作モードがある。各動作モードの切り替えは、外部I/F部111に具備された参照画像取得ボタンが押されることで行われる。参照画像取得ボタンが押されるまでは、初期モードとして通常動作モードが設定されている。参照画像取得ボタンがユーザにより押されると、参照画像取得モードへと切り替わり前処理部105より出力される画像信号が参照画像としてバッファ103に保存される。そして、保存された参照画像に基づいて処理領域設定部104は処理領域を設定する。処理領域が設定されると自動的に通常動作モードへと切り替わり、以後設定された処理領域に基づき、階調変換部106は階調変換処理を入力された画像信号に対し行う。また、参照画像取得ボタンが再び押されると前処理部105より出力される画像信号を同様に取得し、参照画像としてバッファ103に上書き保存する。
【0097】
参照画像取得モードについて具体的に説明する。例えば、参照画像とはホワイトバランスキャップ(白い被写体)を撮影したホワイトバランス画像であり、ユーザはホワイトバランスキャップを光学系101の先端にかぶせて参照画像取得ボタンを押す。ホワイトバランスキャップは、可視光領域においてほぼ一様な分光反射率を有している。ホワイトバランス画像は、ホワイトバランス係数を算出するのに用いられる。ホワイトバランス係数とは、白い被写体を撮影した場合に画像信号のRGBがそれぞれ等しくなるよう、R信号およびB信号に対して乗算する係数である。
【0098】
バッファ103は、参照画像取得ボタンが押されると画像信号取得部102より出力されるホワイトバランス画像を参照画像として保存する。
【0099】
処理領域設定部104は、バッファ103に参照画像が保存されると、参照画像に基づき、画像信号上に処理領域を設定する。具体的には処理領域設定部104は、参照画像を所定の閾値に基づき二値化し、二値化した参照画像に基づき処理領域を設定する。例えば、参照画像はRGBのチャンネルを有したカラー画像であり、処理領域設定部104は参照画像のG信号(図13(A))と所定の閾値とを比較し、所定の閾値以上である画素を処理領域として設定する(図13(B))。ここで、参照画像の輝度信号が所定の閾値以上である画素を処理領域として設定してもかまわない。
【0100】
本実施例の変形例として、処理領域設定部104は、参照画像のエッジを検出し、検出した参照画像のエッジに基づき処理領域を設定する。例えば、参照画像のG信号に対して公知のラプラシアンフィルタによるフィルタリング処理を行い、フィルタリング処理結果が所定の閾値以上である画素をエッジとして検出する(図13(C))。ここで、参照画像の輝度信号に対してフィルタリング処理を行ってもかまわない。また、Cannyエッジ検出処理など公知のエッジ検出処理を用いてエッジを検出してもかまわない。
【0101】
ただし、キャップの形状等の問題から、図13(C)のA2に示したように、本来検出すべきエッジ(A1)以外のエッジを検出してしまうことも考えられる。その場合には、検出したエッジを公知のラベリング処理によりラベリングし、ラベリングしたエッジ毎に、閉領域を形成しているかを判定し、形成している場合閉領域の面積をそれぞれ取得する。そして、閉領域の面積の最大値が所定の閾値以上である場合、当該閉領域を処理領域として設定する。閉領域を形成するエッジが存在しない場合、また閉領域の面積の最大値が所定の閾値未満であった場合、処理領域を設定せず、処理領域を設定できなかった旨のメッセージをユーザに通知する。設定できなかった場合は、第1の実施の形態例と同様に、予め保持されている処理領域を設定しても良い。
【0102】
次に、通常動作モードについて説明する。第1の実施の形態例と同様に、前処理部105以降の処理を行う。処理領域設定部104で処理領域が設定できていない場合には、階調変換部106では画像信号全体に対し階調変換処理を行う。
【0103】
その後の処理については、第1の実施形態と同様であるため、詳細な説明は省略する。
【0104】
以上の本実施形態では、処理領域設定部104は、画像信号取得部102があらかじめ取得した参照画像に基づいて処理領域を設定してもよい。
【0105】
これにより、光学系の製造ばらつき等による差異を吸収することが可能になる。本来、結像領域の大きさや画像領域の大きさ(撮像素子の大きさ)は設計により求めることができる。そのため、設計通りの光学系等が実現されていれば、当該設計に基づいて処理領域をあらかじめ決めておくことができる。しかし、製造工程におけるばらつき等により、あらかじめ設定した処理領域が適切でなくなってしまうケースも考えられる。よって、そのようなケースに対応するために、参照用の画像(参照画像)を取得し、取得した参照画像に基づいて処理領域を設定してもよい。
【0106】
また、画像信号取得部102は、参照画像として、所定のチャートを撮像した画像を取得してもよい。そして、所定のチャートを撮像した画像とは、照明光に対する白を規定する分光反射率を有するチャートを撮像した画像(ホワイトバランス画像)であってもよい。
【0107】
ここでチャートとは、カラーチャートを指すものとする。つまり色味の基準となるものであり、例えば白いチャートとは当該チャートを撮像した際に画素値が最大値を取るように設定することで、白さの度合いを調節することができるような基準である。
【0108】
これにより、参照画像として所定チャートを撮像した画像を用いることが可能になる。具体的には白いキャップを撮像部に対してはめた状態で取得されたホワイトバランス画像を用いることが考えられる。つまり、光が届く範囲では画像全体として白い画像が得られることが想定されるため、光が届かず暗くなっている領域との判別処理を行うことで処理領域として設定すべき領域を決定することが可能になる。
【0109】
また、処理領域設定部104は、参照画像の画素値が所定の閾値以上となる領域を処理領域として設定してもよい。
【0110】
これにより、閾値判断により処理領域を設定することが可能になる。具体的には図13(A)の画像に対して閾値判断を行うことで、図13(B)のように、処理領域(白い部分)を設定することができる。
【0111】
また、処理領域設定部104は、参照画像の画素値に基づいてエッジ検出を行い、検出したエッジに基づいて処理領域を設定してもよい。
【0112】
これにより、エッジ検出により処理領域を設定することが可能になる。図13(A)のような画像が得られた場合、比較的明るい領域(光が届いている領域)と暗い領域とのエッジが検出できるため、当該エッジを処理領域と非処理領域の境界とすればよい。ただし、ホワイトバランス画像がキャップをはめて撮像するという特性上、図13(A)のようにキャップの形状に応じた濃淡が生じてしまうことが想定され、それに基づいて、図13(C)のA2のように、キャップの形状によるエッジが検出されてしまう可能性がある。その場合には、閉領域を形成するエッジを検出し、当該閉領域の面積が最も大きいもの(且つ閾値以上のもの)を採用すればよい。図13(C)でいえばA1とA2が検出されるが、処理領域の境界として採用されるのはA1となる。
【0113】
以上、本発明を適用した3つの実施の形態1〜3およびその変形例について説明したが、本発明は、各実施の形態1〜3やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜3や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜3や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
【符号の説明】
【0114】
101 光学系、102 画像信号取得部、103 バッファ、
104 処理領域設定部、105 前処理部、106 階調変換部、107 後処理部、
108 マスク処理部、109 画像出力部、110 制御部、111 外部I/F部、
200 照明部、210 撮像部、211 A/D変換部、220 プロセッサ部、
221 バッファ、222 処理領域設定部、223 前処理部、224 階調変換部、
225 後処理部、226 マスク処理部、227 画像出力部、228 制御部、
230 表示装置、240 外部I/F部、
1021 撮像素子、1022 A/D変換部、
S01 光源装置、S02 白色光光源、S03 集光レンズ、
S05 ライトガイドファイバ、S06 照明光学系、S07 集光レンズ、
S08 撮像素子
【技術分野】
【0001】
本発明は、画像処理装置、内視鏡装置及びプログラム等に関する。
【背景技術】
【0002】
従来、画像処理装置は、レンズを通じた光が撮像素子上に結像されることで信号を取得し、所定の画像処理を行って画像を生成し、表示装置等に出力する。しかし、レンズにより結像される領域(ここでは結像領域と呼ぶ)と、撮像素子が並んでいて信号が得られる領域(ここでは画像領域と呼ぶ)とは必ずしも一致しない。
【0003】
また、画像領域の中でも結像領域に含まれない領域の画素値は、像から得られるものではなくノイズ等の意味のないデータが入っていることになる。そのため、画像領域の中にマスク領域を予め設定し、得られた画像に対してマスク領域をつぶすマスク処理を行い最終的な画像を出力する手法が知られている。例えば、特許文献1では、電子スコープがマスク信号を生成し、画像処理後の信号にマスク処理を行う方法が提案されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2003−070735号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
マスク処理をかけたマスク領域は、最終的にはマスクがかかっているのでユーザにとっては意味のない領域になる。一方、各画像処理は画像領域に対して行われている。階調変換など画像全体の情報を元に行う処理の場合には、最終的にマスクがかかってつぶされる領域の情報も用いた上で処理が行われてしまう。例えば、階調変換を行う場合、表示されない画像領域に非常に明るい部分があるとすると、画像全体としては明るいので、全体的に暗くする方向の階調変換が行われ、実際に出力される領域が暗くなってしまい、適切な階調変換処理がなされない。
【0006】
本発明の幾つかの態様によれば、光学系により被写体像が結像されない領域の情報による階調変換処理への影響を抑止することで、適切な階調変換処理を行う画像処理装置、内視鏡装置及びプログラム等を提供することができる。
【0007】
また、本発明の幾つかの態様によれば、結像領域と画像領域との共通部分の部分集合である処理領域の情報を用いることで、適切な階調変換処理を行う画像処理装置、内視鏡装置及びプログラム等を提供することができる。
【課題を解決するための手段】
【0008】
本発明の一態様は、結像領域においては光学系により被写体像が結像され、非結像領域においては前記被写体像が非結像の撮像素子から、前記被写体像の信号を部分的に含む画像信号を取得する画像信号取得部と、前記画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部と、設定された前記処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部と、を含む画像処理装置に関係する。
【0009】
本発明の一態様では、結像領域の内側に処理領域を設定し、処理領域内の画素の画素値に基づいて階調変換処理を行う。よって、光学系により被写体像が結像される領域に対応する画素の画素値に基づく階調変換処理が行われるため、被写体像が結像されない領域に対応する画素の画素値まで用いる場合の階調変換処理に比べて、適切な処理を行うこと等が可能になる。
【0010】
本発明の他の態様は、結像領域においては光学系により被写体像が結像され、非結像領域においては前記被写体像が非結像の撮像素子から、前記被写体像の信号を部分的に含む画像信号を取得する画像信号取得部と、前記画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部と、設定された前記処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部と、を含む内視鏡装置に関係する。
【0011】
本発明の他の態様は、結像領域においては光学系により被写体像が結像され、非結像領域においては前記被写体像が非結像の撮像素子から、前記被写体像の信号を部分的に含む画像信号を取得する画像信号取得部と、前記画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部と、設定された前記処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部として、コンピュータを機能させるプログラムに関係する。
【図面の簡単な説明】
【0012】
【図1】第1の実施形態のシステム構成例。
【図2】図2(A)〜図2(D)は結像領域、画像領域及び被写体像領域を説明する図。
【図3】図3(A)〜図3(D)は処理領域、マスク領域及び表示領域を説明する図。
【図4】区間情報による処理領域の設定手法を説明する図。
【図5】本実施形態の画像処理を説明するためのフローチャート。
【図6】第2の実施形態のシステム構成例。
【図7】極座標を用いた処理領域の設定手法を説明する図。
【図8】図8(A)〜図8(C)は第2の実施形態における結像領域及び画像領域を説明する図。
【図9】図9(A)〜図9(D)は第2の実施形態における処理領域、マスク領域及び表示領域を説明する図。
【図10】図10(A)、図10(B)は管路により死角部分が生ずることを説明する図。
【図11】図11(A)、図11(B)は従来の階調変換処理を説明する図、図11(C)、図11(D)は本実施形態における階調変換処理を説明する図。
【図12】第3の実施形態のシステム構成例。
【図13】図13(A)〜図13(C)は参照画像を用いた処理領域の設定手法を説明する図。
【図14】前方領域、側方領域及び後方領域を説明する図。
【発明を実施するための形態】
【0013】
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0014】
1.本実施形態の手法
まず、本実施形態の手法について説明する。図2(A)に示したように、画像処理装置は、レンズを通過した光が撮像素子上で結像されることにより画像信号を取得する。しかし、レンズの形状を考慮すれば、レンズを通過した光が結像する領域は円形になると考えられる(この円形の領域を結像領域と呼ぶ)のに対して、撮像素子は方形である場合がほとんどである(この撮像素子に対応する方形の領域を画像領域と呼ぶ)。
【0015】
よって、結像領域と画像領域とは形状が一致しないため、一般的には、結像領域に含まれながら画像領域に含まれない領域と、画像領域に含まれながら結像領域に含まれない領域が存在することになる。画像を形成する画像信号は、撮像素子の一画素一画素の信号に基づいて取得されることから、画像領域分の領域で画像信号が取得されることになる。
【0016】
つまり、結像領域に含まれながら画像領域に含まれない領域では、被写体の像を含む光は入射しているが対応する撮像素子の画素が存在しないため、画像信号には寄与しない。それに対して、画像領域に含まれながら結像領域に含まれない領域(以下適宜、非結像領域と呼ぶが、非結像領域とは結像領域に含まれない領域全体を指してもよい)では、被写体の像を含む光が来ていないのに、画像信号は取得されることになる。よって後者の領域では、意味のないデータ(例えば光が来ないことによる暗い画素値や、或いはノイズ等に基づく画素値)が取得されてしまうことになる。
【0017】
従って画像領域全体を考えたときに、結像領域にも画像領域にも含まれる領域(以下、被写体像領域と呼ぶ。例えば図2(D))に関しては、被写体像の情報を反映した意味のあるデータが取得されるのに対して、非結像領域では意味のないデータが取得される。この意味のあるデータと意味のないデータを等価に扱って画像処理を行うことは適切でない場合がある。
【0018】
例えば、階調変換処理においては、画像全体の明るさ(例えば画素値や輝度値等)をみて、明るさの偏りをなくすような処理が行われる(具体例としては図11(A)〜図11(B)のような処理となる)。つまり、暗い画素が多い場合には、全体として明るくするような処理となり、明るい画素が多い場合には、全体として暗くするような処理となる。このとき上述したように、非結像領域では、レンズからの光が到達しないことから暗い画像が得られることが想定される。そのため、被写体像領域に対応する意味のあるデータの明るさはそれほど暗いわけではなくても、意味のないデータの暗さの影響を受けて、画像全体を明るくするような処理が行われてしまう。それでは、意味のあるデータ部分が白飛びするような不適切な処理が起こりかねない。
【0019】
よって、本出願人は図3(A)〜図3(B)に示したように、被写体像領域に含まれるような処理領域を設定し、当該処理領域の画素値を用いて(つまり、画像領域に含まれ且つ処理領域に含まれない画素の画素値は用いずに)階調変換処理を行う手法を提案する。このようにすることで、意味のあるデータ(被写体像の情報が反映されたデータ)を用いて、意味のないデータを用いないことになるため、意味のないデータによる階調変換処理への悪影響を抑止することが可能になる。
【0020】
以下、第1の実施形態及び第2の実施形態では、処理領域のデータが予め与えられているケースについて説明する。特に第1の実施形態では処理領域の情報を、ランレングスを用いて保持する手法について説明する。第2の実施形態では超広角の内視鏡装置を想定した上で、極座標を用いて処理領域の情報を保持する手法について説明する。また、第3の実施形態では、処理領域を参照画像から取得する手法について説明する。
【0021】
2.第1の実施形態
図1に本実施形態にかかる画像処理装置の構成例を示す。画像処理装置は、光学系101と、画像信号取得部102と、バッファ103と、処理領域設定部104と、前処理部105と、階調変換部106と、後処理部107と、マスク処理部108と、画像出力部109と、制御部110と、外部I/F部111とを含む。なお、構成はこれに限定されず、これらの構成要素の一部を省略するなどの種々の変形実施が可能である。
【0022】
画像信号取得部102は撮像素子1021とA/D変換部1022を含み、光学系101、撮像素子1021を介して撮影されたアナログの信号は、A/D変換部1022にてデジタルの信号へ変換される。A/D変換部1022はバッファ103へ接続されている。バッファ103は前処理部105へ接続されている。処理領域設定部104は階調変換部106へ接続されている。前処理部105は階調変換部106へ接続されている。階調変換部106は後処理部107へ接続されている。後処理部107はマスク処理部108へ接続されている。マスク処理部108は画像出力部109へ接続されている。
【0023】
また、マイクロコンピュータなどの制御部110はA/D変換部1022、処理領域設定部104、前処理部105、階調変換部106、後処理部107、マスク処理部108、画像出力部109と双方向に接続されている。
【0024】
また、電源スイッチ、変数設定を行うためのインターフェースを備えた外部I/F部111も制御部110に双方向に接続されている。外部I/F部111を介して撮像サイズなどの撮影条件が設定される。
【0025】
被写体から反射した反射光が光学系101により集光され、RGB三原色の光をそれぞれ透過する色フィルタがBayer型に配置された撮像素子1021上に像が結像される(図2(A))。撮像素子1021により光電変換を行い、アナログ信号を取得する。
【0026】
A/D変換部1022は、アナログ信号をデジタル信号へ変換し、画像信号としてバッファ103に格納する。この画像信号の取得される領域を画像領域(図2の(C))と呼ぶこととする。前処理部105は、バッファ103に格納した画像信号を読み出し、黒補正やゲインコントロールなどの画像処理を行う。
【0027】
処理領域設定部104は、予め格納されている処理領域、または、外部I/F111から設定される処理領域を設定する。処理領域としては例えば図3(A)のような領域が考えられる。そして、処理領域は図3(B)に示したように結像領域の内側(狭義には被写体像領域の内側)に設定されることになる。処理領域設定部104で設定される処理領域は、図4に示すように、処理領域または処理領域以外の領域が連続して表れる画素数を持つランレングスの状態で保持される。図4に示すように、p0は左上の画素から右に連続して存在する非処理領域の画素数、q0はその次の画素からの連続する処理領域の画素数、p1はその次の画素から連続する非処理領域の画素数、といったように、以下例えばp0〜p9、q0〜q8のようなデータで保持される。ランレングスは同じデータが続く場合には特にメモリの圧縮効果が高く、データの保持に用いるメモリを比較的少なくすることができる。
【0028】
また、処理領域の設定手法はランレングスに限定されるものではなく、その他の2値画像圧縮方法で圧縮したデータとして保持してもかまわない。また、画像の1画素が対応する1bit以上のメモリを全画素分保持し、処理領域または処理領域以外の領域(非処理領域)を示す値を保持してもよい。全画素分のメモリを準備しておくことで、処理領域か否かの演算処理をなくすことができ、処理速度を早くすることができる。
【0029】
階調変換部106は、画像領域から処理領域設定部104で設定された処理領域を抽出し、処理領域の画像信号に対して階調変換処理を行う。具体的には、処理領域の画像信号の画素値のヒストグラムを作成する。作成したヒストグラムが平滑化するように階調変換処理を行う。階調変換処理の詳細は後述する。
【0030】
後処理部107は、階調変換部106で階調変換された画像信号に対して、色補正やエッジ強調などの画像処理を行う。後処理部における処理は処理領域だけでなく、画像領域に対して行ってもよい。
【0031】
マスク処理部108は、処理領域の画像信号に対して、予め設定されているマスク領域のマスクをかける。ここでのマスクをかける処理は、マスク領域に含まれない領域はそのまま透過し、マスク領域に含まれる領域の画像信号を黒相当の信号値に変換する処理である。なお、マスク領域に含まれない領域(=透過される領域、表示領域)は処理領域の部分集合である。両者の領域が全く同じでもかまわない。マスク領域の例を図3(C)に、表示領域と処理領域との関係を図3(D)に示す。
【0032】
画像出力部109では、マスクをかけた後の画像信号をメモリカードなどの記録媒体に画像を記録保存したり、不図示の表示部に画像を出力したりする。
【0033】
階調変換部106で行われる階調変換処理について、図11(A)〜図11(D)を用いて詳しく説明する。通常、処理領域以外の領域は結像されない領域を多く含んでいるので暗い(小さい)画素信号しか得られない。画像領域全体に対してヒストグラムを作成すると、例えば図11(A)のように暗部の画素が多いヒストグラムが得られる。このヒストグラムを平滑化するような階調変換を行うと、明るくなる方向に階調変換が行われ、本来必要な領域である処理領域が明るくなりすぎてしまう(図11(B))。しかし本実施形態のように、処理領域のみからヒストグラムを作成し(図11(C))階調変換処理を行うことで、処理領域が過度に明るくなりすぎるのを防ぐことができ、適切なレンジでの階調変換を行うことができる(図11(D))。
【0034】
また、処理領域以外の領域は結像されない領域を多く含んでいるので暗い(画素値の小さい)画素信号しか得られないが数画素のノイズ(明るい画素)が存在することが多い。画像領域全体に対して階調変換を行うと、これらノイズが更に増幅されてしまう問題がある。本実施形態のように処理領域にのみ階調変換を行うことで、処理領域以外のノイズの増幅を抑えることができる。このようなノイズが存在する場合には、マスク処理部108でマスク処理をかける場合に、マスク領域は処理領域に少し食い込むようにマージンをもって設定しないとマスク領域の境界部分でノイズが気になる画像となってしまう。なお、処理領域以外の領域に階調変換を行わないように設定すれば、ノイズが増幅されることもないので、マスク領域を結像領域に一致する大きさ或いはそれに近い大きさに設定しても良好な画像が得られる。
【0035】
上述の実施形態ではハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。別途ソフトウェアにて処理する構成も可能である。また、上述の実施形態では撮像素子を原色Bayer配列型としていたがこれに限定される必要はなく、補色等の撮像素子でもかまわない。更に、階調変換処理はヒストグラムを平滑化する適応階調変換処理を例にしたがそれに限定されず、人間の視覚特性(局所的な色順応)を利用した適応階調変換を用いても良い。
【0036】
局所領域を用いた階調変換について説明する。階調変換部106は、前処理部105から入力された画像のうち、処理領域設定部104で設定された処理領域に対して処理を行う。この際に、処理領域を局所領域に分割する。例えば、処理領域に対応する画像信号を所定サイズの矩形領域に分割し、分割した各矩形領域を局所領域とすればよい。矩形領域のサイズは適宜設定できるが、例えば16×16画素単位等でもよい。そして、図11(C)に示したようなヒストグラムを算出する際に、局所領域ごとのヒストグラムを算出する。局所領域ごとに求められたヒストグラムに基づいて階調変換の特性を決定し、決定された特性に基づいて階調変換を行う。
【0037】
次に、図5にソフトウェア処理に関するフローを示す。本実施形態では、処理の一部または全部をソフトウェアで構成することとしてもよく、この場合、例えばコンピュータシステムのCPUが画像処理プログラムを実行する。
【0038】
この処理が開始されると、S101で、処理領域やマスク領域等のパラメータ情報が入力される。S102で、画像を入力し、S103にて、公知のOBクランプ処理やゲイン補正処理、WB補正処理等の画像処理を行う。S104で、画像の各画素が処理領域内かどうか判定する。画素が処理領域内のときはS105へ分岐し、処理領域外のときはS106へ分岐する。
【0039】
S105で、画素値の情報を蓄積し、ヒストグラムを作成し、S106へ移行する。S106では、入力された画像の画素が残っているか判定する。まだ画素が残っている場合にはS103に戻る。
【0040】
S106で入力した画素が終了したと判定された場合には、S107へ移行し、S105において蓄積されたヒストグラムを元に、階調変換を行う。S108で、色処理や輪郭強調等の画像処理を行い、S109で、画像の各画素がS101で入力されたマスク領域内かどうか判定する。マスク領域内の場合にはS110へ分岐し、マスク領域外のときはS111へ分岐する。
【0041】
S110では、画素値をゼロあるいは黒相当の画素値に変更し、S111へ移行する。S111では、入力された画像の画素が残っているか判定する。まだ画素が残っている場合にはS107に戻る。S111で入力した画素が終了したと判定された場合には、S112にて、画像を出力し終了する。
【0042】
なお、S107の前に、画素が処理領域か否かの分岐を入れて、処理領域のときのみS107の階調変換処理やS108の後処理を行うようにしてもよい。
【0043】
以上の本実施形態では、図1に示したように、画像処理装置は画像信号を取得する画像信号取得部102と、処理領域を設定する処理領域設定部104と、階調変換処理を行う階調変換部106とを含む。撮像素子1021は、結像領域においては光学系101により被写体像が結像され、非結像領域においては被写体像が結像されない。画像信号取得部102は、当該撮像素子1021から被写体像の信号を部分的に含む画像信号を取得する。処理領域設定部104は、撮像素子1021から取得される画像(画像領域の画像)のうち、結像領域の内側に対して、処理領域を設定する。階調変換部106は、処理領域内の画素の画素値に基づいて階調変換処理を行う。
【0044】
ここで、図2(B)に示したように、本実施形態においては結像領域とは、光学系101を通過した光が結像する領域を表し、通常は光学系101に含まれるレンズの形状に従って円形状になる。それに対して、撮像素子は通常は方形であり、撮像素子に対応する画像信号を取得することができる領域である画像領域は図2(C)に示したように方形となる。本実施形態における非結像領域とは、結像領域に含まれない領域を指すものとし、必ずしも画像領域に含まれる必要はないものとするが、これに限定されるものではない。また、結像領域と、画像領域の共通部分を被写体像領域(図2(D))とする。
【0045】
本実施形態においては、処理領域は結像領域の内側に設けられるものとしたが、狭義には被写体像領域の内側に設けられる。なぜなら、結像領域に含まれながら被写体像領域に含まれない領域とは、撮像素子1021に対応する画像領域にも含まれないことになり、当該領域においては画像信号が取得されない。つまり、本実施形態での処理領域は階調変換処理に用いられる領域のことであるから、画像信号が取得されない領域を処理領域に設定したとしても、その後の階調変換に寄与しないことになり意味がないからである。しかし、処理領域のうち画像信号が取得された部分を用いて階調変換処理を行うものとすれば、被写体領域からはみ出す領域(且つ結像領域に含まれる領域)を処理領域に設定することを妨げるものではない。
【0046】
なお、処理領域とは、画像出力部109で出力される(例えば表示される)画像に対応する領域(例えば、図3(D)で示した表示領域)を少なくとも含む大きさの領域である。公知の階調変換処理の一例として、画像領域を複数の局所領域に分割し、局所領域ごとに処理を行う場合がある。その場合、画像領域を複数の局所領域に分割した結果、ある局所領域が結像領域の内側に設定されることがあり得る。しかし、このような局所領域は表示領域を含む大きさの領域とはならないため、本実施形態における処理領域には含まれない。本実施形態での処理領域とは、結像領域の内側に設定され、且つ、それ単体で表示領域に対応しうるものを指すものとする。
【0047】
これにより、階調変換処理に用いられる領域である処理領域を、結像領域の内側に設定することができるため、被写体の像を含む光が届いている画素の画素値を用いつつ、被写体の像を含む光が届いていない画素の画素値を用いずに階調変換処理を行うことが可能になる。上述したように、撮像素子1021に対応する画像領域の中には、結像領域に含まれないため、被写体の像を含む光が届かない領域が存在する。そのような領域は意味のない画素値が得られている(一般的には光が届かないため暗かったり、或いはノイズがのっていたりする)ため、階調変換処理に用いてしまうと、誤った傾向の処理を行ってしまう可能性がある。本実施形態の手法を用いることで、意味のある(つまりは被写体像の光が届いている)画素値を用いて処理が可能になるため、適切な階調変換処理を行うことができる。
【0048】
また、画像処理装置は、処理領域以外の非処理領域を少なくともマスクするマスク処理を施すマスク処理部108を含んでもよい。また、マスク処理部108によりマスク処理が施された画像を表示画像として取得する画像出力部109を含んでもよい。
【0049】
ここで、非処理領域とは、処理領域以外の領域を表す。非処理領域がマスク処理の対象となるものであり、当該マスク処理は画像信号が取得されない画素に対して行われても意味のないものであることに鑑みれば、非処理領域は処理領域に含まれず、且つ、画像領域に含まれる領域として設定されるものとする。ただし、これに限定されるものではない。
【0050】
これにより、非処理領域をマスクするマスク処理を施した上で、マスク処理後の画像を取得することが可能になる。なお、ここではマスク処理とは画像をつぶして見えなくする(例えば黒い画素で置き換える等)の処理を指すものとする。そのため、マスク処理が施されていない領域とは図3(D)の表示領域に対応することになる。処理領域が結像領域の内側に設定されることから、非処理領域とは、基本的に非結像領域に対応する領域となる。もちろん、非処理領域であり且つ結像領域である領域は存在しうるが、処理領域の大きさを結像領域(被写体像領域)に近づけるほど、より多くの画素値を用いて階調変換処理を行えることに鑑みれば、非処理領域に含まれる結像領域は広くないことが想定される。よって、非処理領域をマスクすることで、画像領域内の非結像領域に対応する領域をマスクすることが可能になり、被写体像の光が届いていない意味のない画素値を黒くつぶす等の処理ができる。
【0051】
また、画像出力部109は、マスク処理が施された画像のうち、マスク処理によりマスクされる領域であるマスク領域を除いた画像を取得してもよい。
【0052】
これにより、マスクされている部分の画像を取得しなくてもよいことになり、データ量の削減等が可能になる。マスクされている領域とは、例えば黒でつぶされている領域であり、ユーザに対して何ら情報を提示するものではない。よって、黒い画像を取得しても特に有益ではない以上、黒い部分を初めから削除した画像(図3(D)の例でいえば表示領域に対応する8角形の画像)を取得してもよい。
【0053】
また、マスク処理部108は、非処理領域を含み、且つ処理領域の周縁領域を含む領域をマスク領域として設定してもよい。
【0054】
これにより、図3(D)に示したように、表示領域にマージンを持たせることが可能になる。図3(A)〜図3(D)の例では、処理領域が既に被写体像領域よりも狭く(マージンを持って)設定されているが、そうでない場合には、処理領域の境界部分がすぐ非結像領域であるケースが考えられる。その場合、非結像領域にはノイズがのっている可能性が大いにあり、更に階調変換処理によって当該ノイズが強調されてしまっていることがあり得る。つまり、非処理領域に対してのみマスク処理を行ったのでは、処理領域との境界部分に存在するノイズが表示領域に含まれ、目立ってしまうことが考えられる。そこで、本実施形態では表示領域にマージンを持たせることで目立つノイズが表示されてしまうことを抑止している。
【0055】
また、階調変換部106は、画像に対して局所領域を設定し、設定された局所領域に基づいて(例えば局所領域に適応的な)階調変換処理を行ってもよい。
【0056】
これにより、スペースバリアントな階調変換処理が可能になる。画像全体を見た場合に、比較的画素値の小さい領域と、比較的画素値の大きい領域とがあったとき、局所領域を設定しないとすると、中間的な処理が全体に施されることになるが、局所領域を設定することで、各領域の特徴を反映させた処理が可能になる。
【0057】
また、階調変換部106は、処理領域の画素値のヒストグラムを平滑化する処理を行ってもよい。
【0058】
これにより、図11(C)〜図11(D)に示したような処理が可能になる。全体を平滑化することにより、小さい画素値が持ち上げられ、大きい画素値が下げられることになる。
【0059】
また、処理領域設定部104は、画像領域の画像の各行における処理領域の始点に対応する画素位置を第1の画素位置とし、画像領域の画像の各行における処理領域の終点に対応する画素位置を第2の画素位置とした場合に、第1の画素位置と第2の画素位置を特定するための区間情報により、処理領域を設定してもよい。そして、区間情報とは、具体的には始点から終点までの画素数により表される情報であってもよい。
【0060】
これにより、図4に示したような処理が可能になる。後述するように、処理領域に対応する画素には1を割り当て、非処理領域に対応する画素には0を割り当てることで処理領域に関する情報を保持してもよい。しかし、処理領域、非処理領域ともにある程度の画素数が連続して並ぶことで構成されることが想定される。つまり、一回処理領域に含まれる画素が現れたら、同じ行においてはある程度の画素数分だけ処理領域が続く。よって、始点及び終点の情報を保持することにより、より少ないデータサイズで処理領域の情報を保持することが可能になる。具体的には、始点から終点までの画素数により表される情報であってもよい。例えば、ランレングス符号化に用いられる手法のように、「AAAAABBBCCCC」という情報を「A5B3C4」という形で保持することが考えられる。ここでは、処理領域と非処理領域の2値しかとらないのであるから、上述した例のようにA,B,Cを記述する必要も必ずしも無く、始点から終点までの画素数を表す数値を並べて記述するだけでもよい。
【0061】
また、処理領域設定部104は、画像の各画素に対して設定された処理領域判定情報に基づいて処理領域を設定してもよい。
【0062】
これにより、画素ごとに設定された処理領域判定情報を用いて処理領域を表現することが可能になる。これは上述したように、処理領域である画素に1を割り当て、非処理領域である画素に0を割り当てるような手法により実現できる。上述した区間情報や後述する極座標を用いた形式に比べて、データサイズは大きくなるものの、目的の画素が処理領域か否かを簡単に判定することができる。例えば、区間情報を用いた場合、始点から終点までの画素数しか保持していないため、目的の画素が左上の画素から数えて何画素目に相当するかを演算した上で、区間情報により表される画素数と比較する等の処理が必要になってくる。その点、処理領域判定情報を画素ごとに保持しておけば、目的の画素の処理領域判定情報を参照するだけで、処理領域に含まれるか否かを判定することが可能である。
【0063】
また、光学系は、画角が180°以上であってもよい。
【0064】
これにより、従来より広い画角の撮像光学系を用いることが可能になる。例えば内視鏡用途に用いるのであれば、大腸等のヒダの裏側にある病変部等の探索に効果を発揮する。
【0065】
また、光学系の光軸を含む領域を前方領域とし、光軸に直交する軸を含む領域を側方領域とした場合に、光学系は前方領域又は側方領域に設定される撮像領域を撮像可能な光学系であってもよい。
【0066】
ここで、前方領域及び側方領域は図14のように定義される。図14の矢印が光軸を表し、C1が前方領域となり、C2及びC3が側方領域となる。また、図14では平面的に描いたが、当然領域は3次元的な広がりを持っていてもよい。
【0067】
これにより、前方のみならず、側方に対しても撮像領域を設定可能になるため、広い領域を撮像することができる。
【0068】
また、光学系の光軸方向と反対方向の軸を含む領域を後方領域とした場合に、撮像光学系は後方領域内に設定される撮像領域を撮像可能な光学系であってもよい。
【0069】
ここで、後方領域は図14のC4のように定義される。後方領域が3次元的な広がりを持ってもよいのは上述した例と同様である。
【0070】
これにより、後方に対しても撮像領域を設定可能になる。より広い範囲を撮像可能になるため、例えば内視鏡用途等では、病変部のサーチ等を効率的に行うことができる。
【0071】
また、画像信号取得部102は、光学系の視野範囲の一部を遮る障害物によって発生する死角部分によって非結像領域が生じた画像信号を取得してもよい。具体的には図10(A)、図10(B)に示すように、光学系は内視鏡装置の挿入部の先端に設けられており、障害物とは内視鏡装置の挿入部の先端部に形成された管路の開口部であってもよい。なお、図10(A)は挿入部の先端を前方から見た図であり、図10(B)は挿入部の先端を側方から見た図である。
【0072】
これにより、画像信号取得部102では、図8(A)〜図8(B)のような画像を取得することが可能になる。特に、図10(B)に示したように前方視野に加えて側方視野を撮像可能な光学系を持つ内視鏡装置においては、処置を行う鉗子等を通す管(或いは送気・送水用の管)を持たせた場合に、当該管が側方視野用の光学系にとって障害物となってしまうことが想定される。その場合には、側方視野に対応する画像は360度取得できるわけではなく、図8(B)のように欠けが生じる。よって、そのような欠け部分を含まないように適切に処理領域を設定する必要がある。
【0073】
また、以上の本実施形態は、画像信号を取得する画像信号取得部102と、処理領域を設定する処理領域設定部104と、階調変換処理を行う階調変換部106としてコンピュータを機能させるプログラムに関係する。撮像素子1021は、結像領域においては光学系101により被写体像が結像され、非結像領域においては被写体像が結像されない。画像信号取得部102は、当該撮像素子1021から被写体像の信号を部分的に含む画像信号を取得する。処理領域設定部104は、撮像素子1021から取得される画像(画像領域の画像)のうち、結像領域の内側に対して、処理領域を設定する。階調変換部106は、処理領域内の画素の画素値に基づいて階調変換処理を行う。
【0074】
これにより、上述した処理をプログラムによりソフトウェア的に実現することが可能になる。内視鏡装置の場合であれば、画像信号をまとめて取得しておき、あとでまとめて処理を行うようなカプセル内視鏡を実現することも可能になる。そして、上記プログラムは、情報記憶媒体に記録される。ここで、情報記憶媒体としては、DVDやCD等の光ディスク、光磁気ディスク、ハードディスク(HDD)、不揮発性メモリやRAM等のメモリなど、情報処理装置等によって読み取り可能な種々の記録媒体を想定できる。例えば、PC等の機器によって読み取り可能な種々の記録媒体にプログラムが記憶され、PC等の処理部(例えばCPU)において実行されるケースが考えられる。
【0075】
3.第2の実施形態
図6に、本実施形態の画像処理装置を含む内視鏡装置の構成例を示す。内視鏡装置は、照明部200と、撮像部210と、プロセッサ部220と、表示装置230と、I/F部240とを含む。第1の実施形態とは異なり、画像出力部227から出力された画像は表示装置230で表示される。
【0076】
照明部200は、白色光光源S02や集光レンズS03を含む光源装置S01と、ライトガイドファイバS05や照明光学系S06を含む。撮像部210は、集光レンズS07、撮像素子S08、A/D変換部211を含む。
【0077】
プロセッサ部220は、第1の実施形態において図1で示した画像処理装置に対応し、バッファ221と、処理領域設定部222と、前処理部223と、階調変換部224と、後処理部225と、マスク処理部226と、画像出力部227と、制御部228とを含む。制御部228はマイクロコンピュータやCPU等を備えている。I/F部240は電源スイッチ、変数設定などを行うためのインターフェースを備えている。
【0078】
白色光光源S02から白色光が発光される。白色光が集光レンズS03に達し集光される。集光された白色光はライトガイドファイバS05を通って照明光学系S06から被写体に照射される。被写体から反射した反射光が集光レンズS07により集光され、RGB三原色の光をそれぞれ透過する色フィルタがBayer型に配置された撮像素子S08に到達し光電変換を行いアナログの信号となりA/D変換部211へ送られる。A/D変換部211ではアナログの信号をデジタルの信号に変換し、画像としてバッファ221へ格納する。
【0079】
上述の集光レンズS07は挿入部先端から突出しており、前方および側方が観察できる、例えば視野角が230°のレンズを用いる。一方、図10(A)のように、撮像部の先端には、レンズと照明と、処置具を出したり送水送気を行うための鉗子口が配置されていて、図10(B)のように、側方視野に照明を当てるために先端付近の側面に照明を配置する必要がある。また、内視鏡を体内に挿入したまま処置や生検などをする際には、鉗子などの処置具を用いたり送水や送気を行ったりするが、それら処置具の通り道を確保する必要がある。そのため側方視野にかかってしまう位置に外装を配置せざるを得ない。このとき図8(A)〜図8(C)のように側方視野が360度ではなく欠ける領域が生じる。
【0080】
画像領域中のこの欠けた領域からは意味のないデータしか得られない。前方視野と360度の側方視野全部を元に階調変換を行うとこの意味のないデータも反映された階調変換がなされてしまう。そこでこの欠けた領域を除いた処理領域を処理領域設定部222にて予め設定しておく。
【0081】
処理領域を図7に示したような極座標で保持しておく。予め保持しておくデータとしては、中心座標(x0,y0)及び半径Rが考えられる。また、各画素の座標(x,y)として下式(1)、(2)で表されるkとθを保持する。
【数1】
【数2】
【0082】
また、処理領域とそれ以外の領域との境界を表す関数をf(θ)とするとき、処理領域以外の領域は下式(3)で求められる。
【0083】
f(θ)>k ・・・・・(3)
【0084】
特に、欠けた領域が扇形の場合、処理領域をシンプルに保持することも可能である。更に前方視野の半径をr、欠けている側方視野の角度をθ1〜θ2とすると、処理領域は下式(4)で求められる。
【0085】
k<r または (r<k≦Rかつ(θ≦θ1またはθ2≦θ)) ・・・・・(4)
【0086】
処理領域が設定された後の処理は、第1の実施形態と同様であるため、詳細な説明は省略する。処理領域、マスク領域及び表示領域の関係についても第1の実施形態と同様であり、図9(A)〜図9(D)に示したとおりである。また、本実施形態のプロセッサ部220における処理もソフトウェア的に実現されてもよい。その場合の処理も第1の実施形態において図5で示したフローチャートと同様であるため、詳細な説明は省略する。
【0087】
以上の本実施形態では、処理領域設定部222は、画像領域の画像のうち結像領域の画像の中心座標からの距離により、処理領域を設定してもよい。
【0088】
これにより、上述した式(1)〜(4)のように、極座標の形で処理領域に関する情報を保持することが可能になる。第1の実施形態では8角形の処理領域を設定しているが、処理領域を円形(及び円形に準ずる形状)に設定する場合には、処理領域を極座標を用いて設定することで容易に表現することが可能になる。
【0089】
また、処理領域設定部222は、中心座標からの距離を中心座標に対して設定される基準方向に対する角度に基づいて変更してもよい。特に、光学系の視野範囲を遮る障害物によって発生する死角部分により非結像領域が生じる場合には、障害物の存在方向に対応する角度における距離を、障害物の非存在方向に対応する角度における距離に比べて短く設定してもよい。
【0090】
これにより、極座標での距離を角度に応じて変更することが可能になるため、円形状に限定されず任意の形状の処理範囲を極座標を用いて表現することが可能になる。ただし、処理負荷等を考慮すれば、円形状から大幅に離れる形状は極座標により表現するメリットは小さい。よって、例えば図9(A)に示したように、前方領域と側方領域を取得する光学系を有する場合のような、円形状に準ずる形状に対して用いると利点が大きい。特に、欠けた範囲が扇形であるものとできる場合には、処理領域を上述した式(4)のように簡潔に記述することができる。
【0091】
また、以上の本実施形態は、図6に示したように、画像信号を取得する画像信号取得部(撮像部210)と、処理領域を設定する処理領域設定部222と、階調変換処理を行う階調変換部224とを含む内視鏡装置に関係する。撮像素子S08は、結像領域においては光学系(照明部200)により被写体像が結像され、非結像領域においては被写体像が結像されない。画像信号取得部は、当該撮像素子S08から被写体像の信号を部分的に含む画像信号を取得する。処理領域設定部222は、撮像素子S08から取得される画像(画像領域の画像)のうち、結像領域の内側に対して、処理領域を設定する。階調変換部224は、処理領域内の画素の画素値に基づいて階調変換処理を行う。
【0092】
これにより、上述してきた処理を実行可能な内視鏡装置を実現することが可能になる。内視鏡装置で取得された画像とは、生体内を撮像した画像であることが想定され、特に病変部等を観察し発見することを目的とすることが多い。そのため、階調変換処理が適切に行われず、白飛び等を発生させてしまった場合には、病変部の見逃し等につながり好ましくない。よって、処理領域を設定し適切に階調変換処理を行うことは、内視鏡装置において特に意義を有する。
【0093】
また、画像信号取得部(撮像部210)は、光学系の視野範囲の一部を遮る障害物によって発生する死角部分によって非結像領域が生じた画像信号を取得してもよい。
【0094】
これにより、内視鏡装置においても、視野の一部が欠けた画像信号から取得された画像に対して適切に処理領域を設定することが可能になる。内視鏡装置においては、病変部の観察だけでなく器具を用いた処置を行う必要があるため、図10(B)に示したように鉗子を通す管等が側方視野用の光学系に対する障害物になってしまう。よって、そのような場合にも適切に処理領域を設定することが必要となる。
【0095】
4.第3の実施形態
図12に本実施形態の画像処理装置の構成例を示す。第1の実施形態(図1)に比べて、A/D変換部1022が前処理部105に接続され、前処理部105がバッファ103に接続されている点が異なる。また、バッファ103は、処理領域設定部104と、階調変換部106に接続されている。
【0096】
本実施形態においては、画像信号取得部102が動作する動作モードとして、参照画像取得モードと通常動作モードの2つの動作モードがある。各動作モードの切り替えは、外部I/F部111に具備された参照画像取得ボタンが押されることで行われる。参照画像取得ボタンが押されるまでは、初期モードとして通常動作モードが設定されている。参照画像取得ボタンがユーザにより押されると、参照画像取得モードへと切り替わり前処理部105より出力される画像信号が参照画像としてバッファ103に保存される。そして、保存された参照画像に基づいて処理領域設定部104は処理領域を設定する。処理領域が設定されると自動的に通常動作モードへと切り替わり、以後設定された処理領域に基づき、階調変換部106は階調変換処理を入力された画像信号に対し行う。また、参照画像取得ボタンが再び押されると前処理部105より出力される画像信号を同様に取得し、参照画像としてバッファ103に上書き保存する。
【0097】
参照画像取得モードについて具体的に説明する。例えば、参照画像とはホワイトバランスキャップ(白い被写体)を撮影したホワイトバランス画像であり、ユーザはホワイトバランスキャップを光学系101の先端にかぶせて参照画像取得ボタンを押す。ホワイトバランスキャップは、可視光領域においてほぼ一様な分光反射率を有している。ホワイトバランス画像は、ホワイトバランス係数を算出するのに用いられる。ホワイトバランス係数とは、白い被写体を撮影した場合に画像信号のRGBがそれぞれ等しくなるよう、R信号およびB信号に対して乗算する係数である。
【0098】
バッファ103は、参照画像取得ボタンが押されると画像信号取得部102より出力されるホワイトバランス画像を参照画像として保存する。
【0099】
処理領域設定部104は、バッファ103に参照画像が保存されると、参照画像に基づき、画像信号上に処理領域を設定する。具体的には処理領域設定部104は、参照画像を所定の閾値に基づき二値化し、二値化した参照画像に基づき処理領域を設定する。例えば、参照画像はRGBのチャンネルを有したカラー画像であり、処理領域設定部104は参照画像のG信号(図13(A))と所定の閾値とを比較し、所定の閾値以上である画素を処理領域として設定する(図13(B))。ここで、参照画像の輝度信号が所定の閾値以上である画素を処理領域として設定してもかまわない。
【0100】
本実施例の変形例として、処理領域設定部104は、参照画像のエッジを検出し、検出した参照画像のエッジに基づき処理領域を設定する。例えば、参照画像のG信号に対して公知のラプラシアンフィルタによるフィルタリング処理を行い、フィルタリング処理結果が所定の閾値以上である画素をエッジとして検出する(図13(C))。ここで、参照画像の輝度信号に対してフィルタリング処理を行ってもかまわない。また、Cannyエッジ検出処理など公知のエッジ検出処理を用いてエッジを検出してもかまわない。
【0101】
ただし、キャップの形状等の問題から、図13(C)のA2に示したように、本来検出すべきエッジ(A1)以外のエッジを検出してしまうことも考えられる。その場合には、検出したエッジを公知のラベリング処理によりラベリングし、ラベリングしたエッジ毎に、閉領域を形成しているかを判定し、形成している場合閉領域の面積をそれぞれ取得する。そして、閉領域の面積の最大値が所定の閾値以上である場合、当該閉領域を処理領域として設定する。閉領域を形成するエッジが存在しない場合、また閉領域の面積の最大値が所定の閾値未満であった場合、処理領域を設定せず、処理領域を設定できなかった旨のメッセージをユーザに通知する。設定できなかった場合は、第1の実施の形態例と同様に、予め保持されている処理領域を設定しても良い。
【0102】
次に、通常動作モードについて説明する。第1の実施の形態例と同様に、前処理部105以降の処理を行う。処理領域設定部104で処理領域が設定できていない場合には、階調変換部106では画像信号全体に対し階調変換処理を行う。
【0103】
その後の処理については、第1の実施形態と同様であるため、詳細な説明は省略する。
【0104】
以上の本実施形態では、処理領域設定部104は、画像信号取得部102があらかじめ取得した参照画像に基づいて処理領域を設定してもよい。
【0105】
これにより、光学系の製造ばらつき等による差異を吸収することが可能になる。本来、結像領域の大きさや画像領域の大きさ(撮像素子の大きさ)は設計により求めることができる。そのため、設計通りの光学系等が実現されていれば、当該設計に基づいて処理領域をあらかじめ決めておくことができる。しかし、製造工程におけるばらつき等により、あらかじめ設定した処理領域が適切でなくなってしまうケースも考えられる。よって、そのようなケースに対応するために、参照用の画像(参照画像)を取得し、取得した参照画像に基づいて処理領域を設定してもよい。
【0106】
また、画像信号取得部102は、参照画像として、所定のチャートを撮像した画像を取得してもよい。そして、所定のチャートを撮像した画像とは、照明光に対する白を規定する分光反射率を有するチャートを撮像した画像(ホワイトバランス画像)であってもよい。
【0107】
ここでチャートとは、カラーチャートを指すものとする。つまり色味の基準となるものであり、例えば白いチャートとは当該チャートを撮像した際に画素値が最大値を取るように設定することで、白さの度合いを調節することができるような基準である。
【0108】
これにより、参照画像として所定チャートを撮像した画像を用いることが可能になる。具体的には白いキャップを撮像部に対してはめた状態で取得されたホワイトバランス画像を用いることが考えられる。つまり、光が届く範囲では画像全体として白い画像が得られることが想定されるため、光が届かず暗くなっている領域との判別処理を行うことで処理領域として設定すべき領域を決定することが可能になる。
【0109】
また、処理領域設定部104は、参照画像の画素値が所定の閾値以上となる領域を処理領域として設定してもよい。
【0110】
これにより、閾値判断により処理領域を設定することが可能になる。具体的には図13(A)の画像に対して閾値判断を行うことで、図13(B)のように、処理領域(白い部分)を設定することができる。
【0111】
また、処理領域設定部104は、参照画像の画素値に基づいてエッジ検出を行い、検出したエッジに基づいて処理領域を設定してもよい。
【0112】
これにより、エッジ検出により処理領域を設定することが可能になる。図13(A)のような画像が得られた場合、比較的明るい領域(光が届いている領域)と暗い領域とのエッジが検出できるため、当該エッジを処理領域と非処理領域の境界とすればよい。ただし、ホワイトバランス画像がキャップをはめて撮像するという特性上、図13(A)のようにキャップの形状に応じた濃淡が生じてしまうことが想定され、それに基づいて、図13(C)のA2のように、キャップの形状によるエッジが検出されてしまう可能性がある。その場合には、閉領域を形成するエッジを検出し、当該閉領域の面積が最も大きいもの(且つ閾値以上のもの)を採用すればよい。図13(C)でいえばA1とA2が検出されるが、処理領域の境界として採用されるのはA1となる。
【0113】
以上、本発明を適用した3つの実施の形態1〜3およびその変形例について説明したが、本発明は、各実施の形態1〜3やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜3や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜3や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。
【符号の説明】
【0114】
101 光学系、102 画像信号取得部、103 バッファ、
104 処理領域設定部、105 前処理部、106 階調変換部、107 後処理部、
108 マスク処理部、109 画像出力部、110 制御部、111 外部I/F部、
200 照明部、210 撮像部、211 A/D変換部、220 プロセッサ部、
221 バッファ、222 処理領域設定部、223 前処理部、224 階調変換部、
225 後処理部、226 マスク処理部、227 画像出力部、228 制御部、
230 表示装置、240 外部I/F部、
1021 撮像素子、1022 A/D変換部、
S01 光源装置、S02 白色光光源、S03 集光レンズ、
S05 ライトガイドファイバ、S06 照明光学系、S07 集光レンズ、
S08 撮像素子
【特許請求の範囲】
【請求項1】
結像領域においては光学系により被写体像が結像され、非結像領域においては前記被写体像が非結像の撮像素子から、前記被写体像の信号を部分的に含む画像信号を取得する画像信号取得部と、
前記画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部と、
設定された前記処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部と、
を含むことを特徴とする画像処理装置。
【請求項2】
請求項1において、
前記処理領域以外の領域である非処理領域を少なくともマスクするマスク処理を施すマスク処理部を含むことを特徴とする画像処理装置。
【請求項3】
請求項2において、
前記マスク処理部による前記マスク処理が施された画像を、表示部に表示される表示画像として出力する画像出力部を含むことを特徴とする画像処理装置。
【請求項4】
請求項3において、
前記画像出力部は、
前記マスク処理が施された前記画像領域の画像のうち、前記マスク処理によりマスクされる領域であるマスク領域を除いた画像を、前記表示部に表示される前記表示画像として出力することを特徴とする画像処理装置。
【請求項5】
請求項3において、
前記マスク処理部は、
前記非処理領域を含み、且つ、前記処理領域の周縁領域を含む領域を、前記マスク処理によりマスクされるマスク領域として設定することを特徴とする画像処理装置。
【請求項6】
請求項1において、
前記階調変換部は
前記画像領域の画像又は前記処理領域の画像に対して局所領域を設定し、設定された前記局所領域に基づいて前記階調変換処理を行うことを特徴とする画像処理装置。
【請求項7】
請求項1において、
前記階調変換部は
前記階調変換処理として、前記処理領域の画素値のヒストグラムを平滑化する処理を行うことを特徴とする画像処理装置。
【請求項8】
請求項1において、
前記処理領域設定部は
前記画像領域の画像の各行における前記処理領域の始点に対応する画素位置を第1の画素位置とし、前記画像領域の画像の各行における前記処理領域の終点に対応する画素位置を第2の画素位置とした場合に、前記第1の画素位置と前記第2の画素位置を特定するための区間情報に基づいて、前記処理領域を設定することを特徴とする画像処理装置。
【請求項9】
請求項8において、
前記区間情報は前記始点に対応する前記第1の画素位置から前記終点に対応する前記第2の画素位置までの画素数により表される情報であることを特徴とする画像処理装置。
【請求項10】
請求項1において、
前記処理領域設定部は
前記画像領域の画像のうち前記結像領域の画像の中心座標からの距離により、前記処理領域を設定することを特徴とする画像処理装置。
【請求項11】
請求項10において、
前記処理領域設定部は、
前記中心座標からの前記距離を、前記中心座標に対して設定される基準方向に対する角度に基づいて変更することを特徴とする画像処理装置。
【請求項12】
請求項11において、
前記光学系の視野範囲の一部を遮る障害物によって発生する死角部分によって、前記非結像領域が生じる場合に、
前記処理領域設定部は、
前記死角部分を発生させる前記障害物の存在方向に対応する前記角度における前記距離を、前記障害物の非存在方向に対応する前記角度における前記距離に比べて短く設定することを特徴とする画像処理装置。
【請求項13】
請求項1において、
前記処理領域設定部は
前記画像領域の画像の各画素に対して設定された処理領域判定情報に基づいて、前記処理領域を設定することを特徴とする画像処理装置。
【請求項14】
請求項1において、
前記処理領域設定部は
前記画像信号取得部があらかじめ取得した参照画像に基づいて、前記処理領域を設定することを特徴とする画像処理装置。
【請求項15】
請求項14において、
前記画像信号取得部は、
所定チャートを撮像した画像を、前記参照画像として取得することを特徴とする画像処理装置。
【請求項16】
請求項15において、
前記画像信号取得部は、
照明光に対する白を規定する分光反射率を有する前記チャートを撮像した画像を、前記参照画像として取得することを特徴とする画像処理装置。
【請求項17】
請求項14において、
前記処理領域設定部は、
前記参照画像の画素値が所定の閾値以上となる領域を、前記処理領域として設定することを特徴とする画像処理装置。
【請求項18】
請求項14において、
前記処理領域設定部は、
前記参照画像の画素値に基づきエッジの検出を行い、検出した前記エッジに基づいて前記処理領域を設定することを特徴とする画像処理装置。
【請求項19】
請求項1において、
前記光学系は、画角が180度以上であることを特徴とする画像処理装置。
【請求項20】
請求項1において、
前記光学系の光軸を含む領域を前方領域とし、前記光軸に直交する軸を含む領域を側方領域とした場合に、
前記光学系は、
前記前方領域又は前記側方領域内に設定される撮像領域を撮像可能な前記光学系であることを特徴とする画像処理装置。
【請求項21】
請求項20において、
前記光学系の前記光軸の方向と反対方向の軸を含む領域を後方領域とした場合に、
前記光学系は、
前記後方領域内に設定される撮像領域を撮像可能な前記光学系であることを特徴とする画像処理装置。
【請求項22】
請求項1において、
前記画像信号取得部は、
前記光学系の視野範囲の一部を遮る障害物によって発生する死角部分によって、前記非結像領域が生じた前記画像信号を取得することを特徴とする画像処理装置。
【請求項23】
請求項22において、
前記光学系は、
内視鏡装置の挿入部の先端に設けられており、
前記障害物は、
前記内視鏡装置の前記挿入部の先端部に形成された、管路の開口部であることを特徴とする画像処理装置。
【請求項24】
結像領域においては光学系により被写体像が結像され、非結像領域においては前記被写体像が非結像の撮像素子から、前記被写体像の信号を部分的に含む画像信号を取得する画像信号取得部と、
前記画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部と、
設定された前記処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部と、
を含むことを特徴とする内視鏡装置。
【請求項25】
請求項24において、
前記画像信号取得部は、
前記光学系の視野範囲の一部を遮る障害物によって発生する死角部分によって、前記非結像領域が生じた前記画像信号を取得することを特徴とする内視鏡装置。
【請求項26】
結像領域においては光学系により被写体像が結像され、非結像領域においては前記被写体像が非結像の撮像素子から、前記被写体像の信号を部分的に含む画像信号を取得する画像信号取得部と、
前記画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部と、
設定された前記処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部として、
コンピュータを機能させることを特徴とするプログラム。
【請求項1】
結像領域においては光学系により被写体像が結像され、非結像領域においては前記被写体像が非結像の撮像素子から、前記被写体像の信号を部分的に含む画像信号を取得する画像信号取得部と、
前記画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部と、
設定された前記処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部と、
を含むことを特徴とする画像処理装置。
【請求項2】
請求項1において、
前記処理領域以外の領域である非処理領域を少なくともマスクするマスク処理を施すマスク処理部を含むことを特徴とする画像処理装置。
【請求項3】
請求項2において、
前記マスク処理部による前記マスク処理が施された画像を、表示部に表示される表示画像として出力する画像出力部を含むことを特徴とする画像処理装置。
【請求項4】
請求項3において、
前記画像出力部は、
前記マスク処理が施された前記画像領域の画像のうち、前記マスク処理によりマスクされる領域であるマスク領域を除いた画像を、前記表示部に表示される前記表示画像として出力することを特徴とする画像処理装置。
【請求項5】
請求項3において、
前記マスク処理部は、
前記非処理領域を含み、且つ、前記処理領域の周縁領域を含む領域を、前記マスク処理によりマスクされるマスク領域として設定することを特徴とする画像処理装置。
【請求項6】
請求項1において、
前記階調変換部は
前記画像領域の画像又は前記処理領域の画像に対して局所領域を設定し、設定された前記局所領域に基づいて前記階調変換処理を行うことを特徴とする画像処理装置。
【請求項7】
請求項1において、
前記階調変換部は
前記階調変換処理として、前記処理領域の画素値のヒストグラムを平滑化する処理を行うことを特徴とする画像処理装置。
【請求項8】
請求項1において、
前記処理領域設定部は
前記画像領域の画像の各行における前記処理領域の始点に対応する画素位置を第1の画素位置とし、前記画像領域の画像の各行における前記処理領域の終点に対応する画素位置を第2の画素位置とした場合に、前記第1の画素位置と前記第2の画素位置を特定するための区間情報に基づいて、前記処理領域を設定することを特徴とする画像処理装置。
【請求項9】
請求項8において、
前記区間情報は前記始点に対応する前記第1の画素位置から前記終点に対応する前記第2の画素位置までの画素数により表される情報であることを特徴とする画像処理装置。
【請求項10】
請求項1において、
前記処理領域設定部は
前記画像領域の画像のうち前記結像領域の画像の中心座標からの距離により、前記処理領域を設定することを特徴とする画像処理装置。
【請求項11】
請求項10において、
前記処理領域設定部は、
前記中心座標からの前記距離を、前記中心座標に対して設定される基準方向に対する角度に基づいて変更することを特徴とする画像処理装置。
【請求項12】
請求項11において、
前記光学系の視野範囲の一部を遮る障害物によって発生する死角部分によって、前記非結像領域が生じる場合に、
前記処理領域設定部は、
前記死角部分を発生させる前記障害物の存在方向に対応する前記角度における前記距離を、前記障害物の非存在方向に対応する前記角度における前記距離に比べて短く設定することを特徴とする画像処理装置。
【請求項13】
請求項1において、
前記処理領域設定部は
前記画像領域の画像の各画素に対して設定された処理領域判定情報に基づいて、前記処理領域を設定することを特徴とする画像処理装置。
【請求項14】
請求項1において、
前記処理領域設定部は
前記画像信号取得部があらかじめ取得した参照画像に基づいて、前記処理領域を設定することを特徴とする画像処理装置。
【請求項15】
請求項14において、
前記画像信号取得部は、
所定チャートを撮像した画像を、前記参照画像として取得することを特徴とする画像処理装置。
【請求項16】
請求項15において、
前記画像信号取得部は、
照明光に対する白を規定する分光反射率を有する前記チャートを撮像した画像を、前記参照画像として取得することを特徴とする画像処理装置。
【請求項17】
請求項14において、
前記処理領域設定部は、
前記参照画像の画素値が所定の閾値以上となる領域を、前記処理領域として設定することを特徴とする画像処理装置。
【請求項18】
請求項14において、
前記処理領域設定部は、
前記参照画像の画素値に基づきエッジの検出を行い、検出した前記エッジに基づいて前記処理領域を設定することを特徴とする画像処理装置。
【請求項19】
請求項1において、
前記光学系は、画角が180度以上であることを特徴とする画像処理装置。
【請求項20】
請求項1において、
前記光学系の光軸を含む領域を前方領域とし、前記光軸に直交する軸を含む領域を側方領域とした場合に、
前記光学系は、
前記前方領域又は前記側方領域内に設定される撮像領域を撮像可能な前記光学系であることを特徴とする画像処理装置。
【請求項21】
請求項20において、
前記光学系の前記光軸の方向と反対方向の軸を含む領域を後方領域とした場合に、
前記光学系は、
前記後方領域内に設定される撮像領域を撮像可能な前記光学系であることを特徴とする画像処理装置。
【請求項22】
請求項1において、
前記画像信号取得部は、
前記光学系の視野範囲の一部を遮る障害物によって発生する死角部分によって、前記非結像領域が生じた前記画像信号を取得することを特徴とする画像処理装置。
【請求項23】
請求項22において、
前記光学系は、
内視鏡装置の挿入部の先端に設けられており、
前記障害物は、
前記内視鏡装置の前記挿入部の先端部に形成された、管路の開口部であることを特徴とする画像処理装置。
【請求項24】
結像領域においては光学系により被写体像が結像され、非結像領域においては前記被写体像が非結像の撮像素子から、前記被写体像の信号を部分的に含む画像信号を取得する画像信号取得部と、
前記画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部と、
設定された前記処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部と、
を含むことを特徴とする内視鏡装置。
【請求項25】
請求項24において、
前記画像信号取得部は、
前記光学系の視野範囲の一部を遮る障害物によって発生する死角部分によって、前記非結像領域が生じた前記画像信号を取得することを特徴とする内視鏡装置。
【請求項26】
結像領域においては光学系により被写体像が結像され、非結像領域においては前記被写体像が非結像の撮像素子から、前記被写体像の信号を部分的に含む画像信号を取得する画像信号取得部と、
前記画像信号が取得された画像領域の画像のうち、階調変換処理に用いる画素を含む処理領域を、前記結像領域の内側に設定する処理領域設定部と、
設定された前記処理領域内の画素の画素値に基づいて、階調変換処理を行う階調変換部として、
コンピュータを機能させることを特徴とするプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図10】
【図11】
【図12】
【図7】
【図8】
【図9】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図10】
【図11】
【図12】
【図7】
【図8】
【図9】
【図13】
【図14】
【公開番号】特開2013−17638(P2013−17638A)
【公開日】平成25年1月31日(2013.1.31)
【国際特許分類】
【出願番号】特願2011−153131(P2011−153131)
【出願日】平成23年7月11日(2011.7.11)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
【公開日】平成25年1月31日(2013.1.31)
【国際特許分類】
【出願日】平成23年7月11日(2011.7.11)
【出願人】(000000376)オリンパス株式会社 (11,466)
【Fターム(参考)】
[ Back to top ]