距離測定装置および距離測定方法
【課題】対象物の距離情報を短時間で測定できる、小型の情報測定装置を提供する。
【解決手段】画像センサカメラ1と、画像キャプチャボード2と、画像データを保存するメモリ3と、メモリ3に保存された画像データから対象物までの距離情報を算出する画像処理部4と、画像処理部4で算出された距離情報を表示する表示モニタ5とを備える。画像センサカメラ1は、メインレンズ11と、シャッター12と、マイクロレンズアレイ13と、撮像セルアレイ14とを含む。シャッター12の開口パターンは複数あり、各パターンにおいて、シャッター12の各開口部を通過する光は、撮像セルアレイ14の互いに異なる領域に入射する。
【解決手段】画像センサカメラ1と、画像キャプチャボード2と、画像データを保存するメモリ3と、メモリ3に保存された画像データから対象物までの距離情報を算出する画像処理部4と、画像処理部4で算出された距離情報を表示する表示モニタ5とを備える。画像センサカメラ1は、メインレンズ11と、シャッター12と、マイクロレンズアレイ13と、撮像セルアレイ14とを含む。シャッター12の開口パターンは複数あり、各パターンにおいて、シャッター12の各開口部を通過する光は、撮像セルアレイ14の互いに異なる領域に入射する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像素子で取得した、対象物の画像データに基づいて、対象物までの距離を測定する技術に関する。
【背景技術】
【0002】
近年、産業用ロボットや各種FA(Factory Automation)機器を用いた生産ラインを自動化するシステムの構築、あるいは、知能ロボットのインテリジェント化を図るために、対象物の距離情報を取得するための視覚センサが重要となってきている。特に、ロボットアームを用いたシステムにおいては、ワークの位置、姿勢、形状等の計測のための視覚センサとして画像センサカメラが多く用いられている。
【0003】
また、半導体デバイスや回路部品の実装基板の製造などにおいても、品質を管理するために半田バンプや金バンプなど2次元状に配置された微小なデバイスの高さ情報を測定するというニーズが高まっている。
【0004】
このようなニーズに対応するために、従来、2次元の画像センサカメラの画像から擬似的に高さや姿勢情報を検出する方法や、複数の画像センサカメラを用いたステレオ方式による3次元情報測定システムなどが用いられている。
【0005】
また、比較的小さな対象物の高さ情報を測定する方法として、共焦点顕微鏡の原理を利用した高さ測定法が提案されている。例えば、特開2003−75119号公報(特許文献1)には、共焦点顕微鏡の原理を用いた高さ情報測定装置が記載されている。
【0006】
この高さ情報測定装置について、図15、図16を用いて説明する。図15は、共焦点顕微鏡の原理を用いた高さ情報測定装置の構成を示す図である。また、図16は、共焦点顕微鏡の原理を用いた高さ情報測定装置による試料の高さ情報の検出アルゴリズムを説明する図である。図15に示すように、光源103、対物レンズ104、2次元画像カメラ102を備えた共焦点光学系101により、試料106を載せたステージ105を高さ方向に移動させながら、その高さ方向において互いに異なる複数の高さ位置で水平面の共焦点画像をそれぞれ撮像する構成を有している(図16(a)(b))。この高さ情報測定装置は、複数の共焦点画像の画素毎の輝度情報を比較し最大輝度を求め、最大輝度を有する画素を含む共焦点画素データを用いて粒子解析を行なって特定領域を抽出する。そして、抽出された領域における輝度と高さの代表値を算出し、試料の高さ情報を求めるものである(図16(c))。
【0007】
また、撮像素子を用いたカメラシステムにおいて、取得した画像データをデジタル処理により合成し、後で好きなようにピントを手前または奥に移動できるプレノプティックカメラ技術が、“Single Lens Stereo with a Plenoptic Camera”,IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE,VOL.14,NO.2,FEBRUARY 1992(非特許文献1)や“Light Field Photography with a Hand−held Plenoptic Camera”,Stanford Tech Report CTSR 2005−02(非特許文献2)の中で提案されている。これらの文献に記載のプレノプティックカメラは、普通のカメラレンズと同様の撮像レンズを有するが、普通のカメラとは、マイクロレンズアレイが像平面に正確に配置され、さらにマイクロレンズアレイより多くの撮像ピクセルを有するイメージセンサアレイ(撮像セルアレイ)がマイクロレンズアレイのすぐ背後に置かれている点で異なる。マイクロレンズアレイ内のレンズの数で最終画像の画素数は決まるが、単一マイクロレンズに割り当てられた多数のセンサピクセルにより、そのマイクロレンズに入射する光の方向と強度を記録することができる。そのデータを用いて、所定の距離にピントを合せた画像を再構成することができるというものである。
【特許文献1】特開2003−75119号公報
【非特許文献1】“Single Lens Stereo with a Plenoptic Camera”,IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE,VOL.14,NO.2,FEBRUARY 1992
【非特許文献2】“Light Field Photography with a Hand−held Plenoptic Camera”,Stanford Tech Report CTSR 2005−02
【発明の開示】
【発明が解決しようとする課題】
【0008】
2次元の画像センサカメラの画像から擬似的に高さや姿勢情報を検出する方法では直接奥行き距離や高さ情報が検出できないといった問題がある。また、複数の画像センサカメラを用いたステレオ方式による3次元情報測定システムを用いた距離測定には、複数のカメラや複雑な画像処理が必要などの課題があった。
【0009】
また、特許文献1に記載の、共焦点顕微鏡の原理を用いて複数の共焦点画像を取得する場合には、ステージの面方向への走査と高さ方向への移動という操作が必要で、オートフォーカス機構を含む移動機構系が大型になるという問題がある。また、試料の高さを変えて、試料の2次元画像データを複数回取得するには、ステージの移動、静止、対物レンズのオートフォーカシングなどのため、要する時間が長くなるといった課題もある。
【0010】
また、非特許文献1や2に記載のプレノプティックカメラ技術においては、取得画像データに対して、例えばオペレータがピント位置(距離)を入力することで、その位置にフォーカシングされた画像をデータの並び替え(再構成)により作り出すことはできるが、それを用いて対象物の距離情報を算出することはできない。
【0011】
本発明は、このような課題に着目してなされたものであり、その目的とするところは、対象物の距離情報を短時間で測定できる、小型の情報測定装置を提供することにある。
【課題を解決するための手段】
【0012】
1つの局面に係る本願発明は、対象物までの距離を測定するための距離測定装置であって、撮像素子を有するカメラを備え、撮像素子は、それぞれが対象物からの物体光を画像信号に変換する複数の撮像セルからなり、カメラは、物体光を集光する撮像レンズと、撮像レンズを通過した物体光が入射する複数の集光器からなる集光アレイと、撮像素子に入射する光を制御するシャッターとを含み、シャッターは、複数の集光器を透過する光を遮蔽する複数の遮光部および複数の集光器を透過する光を通す複数の開口部が、それぞれ配置される複数の配置パターンを有し、各集光部を透過する光は、いずれか1つの配置パターンにおいて、シャッターを通過し、各配置パターンにおいて、各開口部を透過した物体光は、撮像素子上の互いに異なり、各々が集光器の大きさよりも大きい領域に入射し、各配置パターンにおいてカメラで得た画像信号を、各領域における物体光を検出した撮像セルの位置により定まる物体光の集光器への入射方向に基づいて並び替えて、並び替えた各画像信号を合成し、撮像素子が複数の仮想位置の各々に位置する場合に得られるべき再構成画像を生成する再構成手段と、各領域に入射する光量が最大となる仮想位置を特定し、カメラの光学系のパラメータに基づき特定された仮想位置を変換し距離を算出する距離算出手段とをさらに備える。
【0013】
好ましくは、各領域の外周が互いに接する。
好ましくは、各配置パターンにおいて、複数の遮光部および複数の開口部は市松模様に配置される。
【0014】
好ましくは、各配置パターンにおいて、近接する2×2の集光器に対応する複数の遮光部および複数の開口部は、2×2の集光器のうち所定の1つの集光器の光を透過するように配置される。
【0015】
好ましくは、シャッターは、液晶シャッターである。
好ましくは、シャッターは、所定の開口を持ち、複数のパターンに対応して移動可能な遮光マスクである。
【0016】
他の局面に係る本願発明は、撮像素子を有するカメラを用いて、対象物までの距離を測定するための距離測定方法であって、撮像素子は、それぞれが対象物からの物体光を画像信号に変換する複数の撮像セルからなり、カメラは、物体光を集光する撮像レンズと、撮像レンズを通過した物体光が入射する複数の集光器からなる集光アレイと、撮像素子に入射する光を制御するシャッターとを含み、シャッターは、複数の集光器を透過する光を遮蔽する複数の遮光部および複数の集光器を透過する光を通す複数の開口部が、それぞれ配置される複数の配置パターンを有し、各集光部を透過する光は、いずれか1つの配置パターンにおいて、シャッターを通過し、各配置パターンにおいて、各開口部を透過した物体光は、撮像素子上の互いに異なり、各々が集光器の大きさよりも大きい領域に入射し、各配置パターンにおいてカメラで画像信号を得るステップと、各配置パターンにおいてカメラで得た画像信号を、各領域における物体光を検出した撮像セルの位置により定まる物体光の集光器への入射方向に基づいて並び替えて、並び替えた各画像信号を合成し、撮像素子が複数の仮想位置の各々に位置する場合に得られるべき再構成画像を生成するステップと、各領域に入射する光量が最大となる仮想位置を特定し、カメラの光学系のパラメータに基づき特定された仮想位置を変換し距離を算出するステップとを備える。
【発明の効果】
【0017】
本発明は、複数パターンのシャッターを透過した物体光の撮像データから画像処理により、異なるフォーカシング状態の複数の画像データを生成し、その画像データより対象物までの距離情報を得ることができる。従って、カメラレンズのフォーカシング機構やステージなどの移動機構が不要となり、小型の距離情報測定装置が実現できる。また、カメラの移動時間や移動に伴う各画像のマッチング操作などの時間が不要となり、短時間で距離測定を行なえる。
【発明を実施するための最良の形態】
【0018】
以下、図面を参照しながら本発明の実施形態を説明する。なお、本発明は以下の実施形態に限定されるものではない。
【0019】
[第1の実施の形態]
(1.構成)
図1を用いて、第1の実施の形態に係る距離測定装置の構成について説明する。図1は、本発明の実施の形態に係る距離測定装置の概略構成図である。
【0020】
距離測定装置は、画像センサカメラ1と、画像キャプチャボード2と、画像データを保存するメモリ3と、メモリ3に保存された画像データから対象物までの距離情報を算出する画像処理部4と、画像処理部4で算出された距離情報を表示する表示モニタ5とを備える。
【0021】
画像センサカメラ1は、対象物の画像データを取得する。画像センサカメラ1は、撮像レンズ11(以後は、メインレンズと呼ぶ)と、シャッター12と、複数のマイクロレンズからなるマイクロレンズアレイ13と、撮像セルアレイ14とからなる。
【0022】
メインレンズ11には、対象物からの物体光が入射する。メインレンズ11は、入射した対象物からの物体光を集光する。
【0023】
シャッター12は、マイクロレンズアレイ13の手前(メインレンズ11側)に設置され、マイクロレンズを透過する光量を制御する。なお、ここでは、シャッター12は、マイクロレンズアレイ13の手前に設置されるものとしているが、マイクロレンズアレイ13の後方(撮像セルアレイ14側)に設置されていてもよい。つまり、各マイクロレンズを透過する光量を制御できるように、マイクロレンズアレイ13の近傍に配置されていればよい。シャッター12は、あとで詳しく述べるように、複数の開口パターンで光量を制御する。本実施の形態では、シャッター12として、液晶シャッターを用いる。ただし、シャッター12は、液晶シャッターに限られるものではない。例えば、所定の開口パターンをもち、複数の開口パターンに対応して移動可能な遮光マスクをシャッター12として用いることもできる。
【0024】
マイクロレンズアレイ13には、メインレンズ11およびシャッター12を通過した物体光が入射する。マイクロレンズアレイ13に含まれる複数のマイクロレンズの各々は、物体光を集光する。なお、マイクロレンズアレイ13は、複数の集光器からなる集光アレイの一例である。例えば、マイクロレンズアレイ13のかわりに、複数のピンホールからなるピンホールアレイを用いても構わない。
【0025】
撮像セルアレイ14は、シャッター12およびマイクロレンズアレイ13を通過した物体光の画像データを取得する。撮像セルアレイ14は、複数の撮像セルを有する。撮像セルアレイ14の撮像セルおよび撮像セルアレイ14により取得される画像データについては、後で詳述する。撮像セルとしては、例えば、CCD(charge-coupled device)やCMOS(Complementary Metal Oxide Semiconductor)センサなどを用いることができる。
【0026】
画像キャプチャーボード2は、撮像セルアレイ14で取得された画像データを取り込み、以降の処理が行なえる形に変換する。メモリ3は、画像キャプチャーボード2から転送された画像データを格納する。
【0027】
画像処理部4は、メモリ3から画像データを読出し、読み出した画像データに基づき、物体までの距離を算出する処理を行なう。画像処理部4は、画像データに含まれる画素データを並び替えて、撮像セルアレイ14が異なる複数の仮想位置の各々に位置する場合に得られるべき再構成画像を生成する再構成部4aと、再構成画像に基づいて対象物までの距離を算出する距離情報算出部4bとからなる。画像処理部4の行なう処理の詳細については、後述する。
【0028】
(2.画像センサカメラの特徴について)
本発明においては、画像センサカメラ1の光学系の構成に特徴があり、図2を用いて、その特徴を説明する。図2は、画像センサカメラ1の光学系を示す図である。なお、簡単のため、図2には、対象物15が点光源である場合を示す。
【0029】
画像センサカメラ1のマイクロレンズアレイ13は、対象物15がAの位置にある場合に、メインレンズ12より対象物15がほぼ結像する位置に配置される。このときのAの位置を合焦点位置、合焦点位置よりもメインレンズ11に近い側を近点位置、合焦点位置よりもメインレンズ11から遠い側を遠点位置と呼ぶ。撮像セルアレイ14はマイクロレンズアレイ13のほぼ焦点位置に配置されている。撮像セルアレイ14には、対象物の光が、マイクロレンズを通して、入射される。また、それぞれのマイクロレンズを通過した光が、互いに重なることなく撮像セルアレイ14上に入射するように、画像センサカメラ1の光学系は調整されているものとする。
【0030】
次に、図3〜図9を用いて、この画像センサカメラ1により撮像される画像について説明する。
【0031】
図3を用いて、対象物15の結像について説明する。図3は、対象物15が近点位置Bまたは遠点位置Cにある場合の集光の様子を示す図である。対象物15が位置Bにある場合、対象物15からの光は、メインレンズ11により、面Dに集光(結像)する。また、位置Cにある場合、面Fに集光(結像)する。また、面Eは、合焦位置Aに対する集光面であり、ほぼマイクロレンズアレイ13の位置に相当する。面F,E,DをそれぞれC,A,Bに対する仮想焦点面と呼ぶ。
【0032】
続いて、対象物15が図3の位置A,B,Cにある場合に撮像セルアレイ14により、どのような画像が撮像されるかを図4、図5を用いて説明する。図4はマイクロレンズアレイ13上の入射光15の形状を示す図であり、図5は撮像セルアレイ14上の入射光16の形状を示す図である。
【0033】
まず、対象物15が図3の位置A,B,Cにある場合にマイクロレンズアレイ13上にどのような形状の入射光15が入射するかについて図4を用いて説明する。図4に示すように、本実施例においては、マイクロレンズアレイ13は、2次元面内に配列された円形のマイクロレンズからなるものとする。また、各マイクロレンズには、それらを識別するための番号M(i,j)が与えられているものとする。
【0034】
図4においては、シャッター12の開口パターンを合わせて示している。本実施の形態においては、シャッター12は、図4(a)、図4(b)、図4(c)に示す第1パターン、および、図4(d)、図4(e)、図4(f)に示す第2パターンをもつ。図4の白色の部分が開口部、斜線の部分が遮光部をそれぞれ表わす。図4に示すように、第1パターンおよび第2パターンにおいて、開口部および遮光部は市松模様に配置される。すなわち、各パターンの開口部および遮光部は、互いに隣り合うように配置されている。また、第1パターンおよび第2パターンでは、遮光部と開口部とが反転している。
【0035】
図4(a)(d)、図4(b)(e)、図4(c)(f)は、それぞれ、対象物15が、遠点位置Cにある場合、合焦位置Aにある場合、近点位置Bにある場合のマイクロレンズアレイ13上の入射光15の形状を示す図である。
【0036】
合焦位置Aにある対象物15からの光は図4(b)(e)のようにほぼマイクロレンズM(2,2)上に集光される。
【0037】
対象物15が遠点位置Cにある場合、対象物15からの光は、メインレンズ11を通して一旦集光された後、さらにデフォーカス状態になって広がってマイクロレンズ12上に入射する。したがって、図4(a)(d)に示すように、マイクロレンズアレイ13上の入射光15は、マイクロレンズM(3,3)の周辺レンズM(2,3)、M(3,2)、M(3,4)、M(4,3)にまで広がる。
【0038】
対象物15が近点位置Bにある場合は、集光前のデフォーカス状態の光が、マイクロレンズ12上に入射する。したがって、図4(c)(f)に示すように、マイクロレンズアレイ13上の入射光15は、マイクロレンズM(3,3)の周辺レンズM(2,3)、M(3,2)、M(3,4)、M(4,3)にまで広がる。
【0039】
撮像セルアレイ14上の入射光16について図5を用いて説明する。図5に示すように、撮像セルアレイ14は、複数の撮像セルからなる。図5では、撮像セルアレイ14を、マイクロレンズの番号に対応する番号T(i,j)を付した区域に分けて示している。なお、図では、各区域が10×10の撮像セルで構成されている場合を示しているが、撮像セルアレイ14のセルの数はこれに限られない。
【0040】
対象物15が合焦位置Aにある場合、図4(b)(e)のようにほぼマイクロレンズM(3,3)上に集光された光が、撮像セルアレイ14に入射する。したがって、シャッター12の開口位置が第1パターンのときは、撮像セルアレイ14に入射する光は、図5(b)に示すように、撮像セルアレイ14の区域T(3,3)を中心とする数区域に広がる。シャッター12の開口位置が第1パターンのときは、シャッター12により光が遮られるため、図5(e)に示すように、撮像セルアレイ14には、光は入射しない。
【0041】
対象物15が遠点位置Cにあり、シャッター12の開口位置が第1パターンのときは、図5(a)に示すように、区域T(3,3)の中心付近に光が入射する。開口位置が第2パターンのときは、マイクロレンズアレイ13上で、図4(d)のように周辺レンズM(2,3)、M(3,2)、M(3,4)、M(4,3)に広がった光が、撮像セルアレイ14に入射する。これらの周辺レンズに入射した光は、撮像セルアレイ14上では、図5(d)に示すように、区域T(1,3)、T(2,3)、T(3,1)、T(3,2)、T(3,4)、T(3,5)、T(4,3)、T(4,5)の一部に入射する。
【0042】
近点位置Bに対象物15が位置する場合に、撮像セルアレイ14に入射する光の形状は、図5(c)あるいは図5(f)のようになる。開口位置が第1パターンのときは、図5(c)のように、区域T(3,3)に光が入射する。開口位置が第2パターンのときは、区域T(3,3)、T(3,2)、T(3,4)、T(2,3)T(4,3)の一部に光が入射する。
【0043】
(3.画像の再構成について)
次に、本装置において距離情報を算出するための基本操作である、各仮想面での像の再構成について説明する。
【0044】
画像の再構成にあたっては、画像センサカメラ1で取得した画像データから、マイクロレンズへの物体光の入射方向の情報を得られるという点が重要である。画像データから入射方向の情報が得られることを、図5を再度用いて説明する。例えば、開口位置が第2パターンであるとき、遠点位置Cにある対象物15からの光は、図5(d)に示すように、区域T(3,3)の周囲のセルに入射する。また、近点位置Bにある対象物15からの光は、図5(f)に示すように、区域T(3,3)を中心とするセルに入射する。このように、対象物15が遠点位置Cにあるか近点位置Bにあるかにより、光が入射するセルの、区域T(3,3)からの距離が異なる。このことを利用し、どのセルに光が入射したかにより、各マイクロレンズへの物体光の入射方向の情報を得ることができる。
【0045】
この入射方向の情報、仮想面の位置(仮想位置)、および、光学系のパラメータ(メインレンズ11とマイクロレンズアレイ13間の距離など)に基づき、撮像セルアレイ14が取得した画素データを並び替え、さらに並び替えで得られた画像データを合成することで、撮像セルアレイ14が仮想位置にある場合に取得されるべき画像データを再構成することができる。
【0046】
再構成の具体例を図6を用いて説明する。図6は、対象物15の撮影像のデータから得た再構成画像を示す図である。
【0047】
物体が合焦位置Aにある場合、図5(b)および図5(e)の画像データを合成して、図6(b)の再構成画像が得られる。
【0048】
図6(a)は、図5(a)および図5(d)に示した画像データから再構成した仮想面F上での光の分布を示したもので、合焦位置での光ビーム状態とほぼ同じになる。周囲の決まったセルに入射する光を変換して得られる出力信号(画像信号)を、セル位置に基づいて分かる入射方向に応じて並び替え、区域T(3,3)の中央付近の出力信号と足し合わせることで、仮想の焦点面での画像を作り出すことができる。
【0049】
近点位置Bにある対象物(点像)に対しても、同様に、図6(c)の再構成画像が生成できる。ただし、撮像セルアレイ14上での広がり(分割状態)は、図5(c)のように遠点状態とは異なるので、並び替えの演算は図6(a)の再構成像を得る場合とは異なる。
【0050】
図6に示したのは、焦点位置にある仮想面で得られるべき再構成画像である。一般には、複数の仮想位置に対して、再構成画像を計算する。複数の仮想位置の中には、図6(b)のようなピントの合った再構成画像を得られる位置がある。その位置から、対象物までの距離を求めることができる。
【0051】
具体的には、各開口部を透過した光が入射しうる領域に、最大の光量が入射した仮想位置を、ピントの合う位置として求める。本実施例では、各領域に入射する光量の総和あるいは平均値(以下、これらを総称して「輝度情報」とよぶ)を計算し、輝度情報が最大となる場合の仮想位置をピントの合う位置として求めるものとする。
【0052】
なお、ここでは対象物が点像の場合の例を示したが、大きさを有する対象物の場合にも、同様の操作で画像の再構成ができる。ただし、大きさを有する画像の場合、全ての開口部に光が入射するので、各開口部を透過した光に対して同様の操作を行う必要がある。
【0053】
(4.距離の分解能について)
本発明のように、複数の開口パターンで取得した画像データを利用することで、シャッターを用いない場合に比べ、距離の分解能を向上することができる。このことを、図7、図8を参照して説明する。図7は、シャッターを用いない場合の光学系および撮像セルへの入射光を示す図である。図8は、第1の実施の形態に係る光学系および撮像セルへの入射光を示す図である。
【0054】
まず、シャッターを用いない場合の距離の分解能について、図7を参照して説明する。 距離分解能は、各マイクロレンズを透過した入射光のX軸上あるいはY軸上に配列された画素数に依存し、この画素数が少なくなると、距離分解能が低下する。
【0055】
したがって、距離分解能は、メインレンズおよびマイクロレンズのFナンバーに依存する。ここで、レンズのFナンバーとは、(レンズの焦点距離)÷(レンズ直径)であり、図7(a)において、メインレンズのFナンバー(Fm)はfm/Wm、マイクロレンズのFナンバー(Fa)はfa/Waで表される。
【0056】
Fmを大きくすると、撮像セルアレイ14上の光のサイズが小さくなるため、距離分解能が低下する。よって、距離分解能の向上のためには、Fmを小さくすればよいように思われる。
【0057】
ところが、Fm<Faの条件下では、マイクロレンズを透過する光のサイズが、マイクロレンズアレイピッチよりも大きくなるため、異なるマイクロレンズを通過した光の外縁同士が重なる。この重なりのために、距離情報を得ることができなくなる。
【0058】
したがって、シャッターを用いない場合に最大の距離分解能が得られるのは、メインレンズのFナンバーFmと、マイクロレンズのFナンバーFaが、Fm≒Faを満たすときである。このときの、撮像セルアレイ14上の光の分布パターンを図7(b)に示す。図7(b)では、各マイクロレンズを透過する光の強度分布を、破線で示している。破線の円を囲む正方形の領域内で画像信号を並び替えることにより、再構成画像が得られる。
【0059】
次に、図8(a)に示すようにシャッター12を用いる場合について説明する。この場合、シャッターを用いない場合に比べ、Faを大きくできる。本実施の形態では、Fa=√2×Fmを満たすものとする。
【0060】
Fa=√2×Fmとした場合でも、シャッター12より一部のマイクロレンズからの光が遮られているため、シャッター12およびマイクロレンズアレイ13を透過した光の撮像セルアレイ14上での分布パターンは、図8(b)の破線のようになる。すなわち、異なるマイクロレンズを透過する光は、互いに異なる領域に入射する。Fa=√2×Fmの場合、各領域の外周同士は接し、各開口部からの光に対応するセル数が最大になる。
【0061】
このように、撮像セルアレイ14上での光分布パターンのサイズをマイクロレンズアレイピッチの√2倍(≒1.4倍)まで拡大しても、光分布パターンの外縁が重ならないので、距離情報を得るためのセル数を拡大することができる。
【0062】
本実施例では、Fa=√2×Fmの関係となるようメインレンズのFナンバーを定めているので、撮像セルアレイ14上での光分布パターンのサイズはマイクロレンズアレイピッチの√2倍に拡大される。よって、1つのマイクロレンズに対応する領域として、図8(b)の太線で囲まれる正方形領域を用いることができる。この領域中のX軸上あるいはY軸上のセル数は、シャッターなしの場合に比べ、ほぼ1.4倍となり、1.4倍の距離分解能が得られる。
【0063】
シャッター12の1つのパターンに対応する画像から、距離情報を取得すると仮定すると、X方向およびY方向の分解能が1/2になってしまう。そこで、本実施の形態では、開口位置を変化させて2回のステップに分けて、撮影像を取得することにより、水平分解能を保ったまま、奥行き(距離)分解能を1.4倍に改善している。
【0064】
(5.処理の流れについて)
第1の実施の形態に係る距離測定装置を用いた距離測定における処理の流れについて図9を参照して説明する。図9は、第1の実施の形態に係る距離測定のフローチャートである。
【0065】
ステップS101において、カメラ1により、シャッター12の開口パターンが第1パターンであるときの画像データを取得する。
【0066】
次に、ステップS102において、カメラ1により、シャッター12の開口が第2パターンであるときの画像データを取得する。
【0067】
そして、ステップS103において、再構成部4aは、ステップS101、ステップS102で得られた各画像データを、並び替える。さらに並び替えた画像データを合成し、複数の仮想面における再構成画像を作成する。
【0068】
ステップS104において、距離情報算出部4bは、再構成画像の輝度情報を算出する。すなわち、各開口部を通過した光に対応する領域で検出される光強度の総和あるいは平均値を算出する。
【0069】
ステップS105において、距離情報算出部4bは、各領域について、最も大きな輝度情報を与える仮想面を求める。ここでは、そのような仮想面を代表面と呼ぶ。
【0070】
ステップS106において、距離情報算出部4bは、光学系のパラメータを用いて、代表面の位置を対象物までの距離に変換する。
【0071】
(6.第1の実施の形態の変形例)
第1の実施の形態では、シャッター12は液晶シャッターであるとしていた。しかし、説明した2つのパターンを実現できるものを液晶シャッターのかわりに用いることもできる。例えば、図10に示す開口部を有する金属マスクであって、XあるいはY方向にマイクロレンズの直径に相当する距離だけ移動させることができるものを、シャッター12として用いることができる。
【0072】
[第2の実施の形態]
次に、第2の実施の形態に係る距離測定装置について説明する。第2の実施の形態に係る距離測定装置は、第1の実施の形態に係る距離測定装置とほぼ同様の構成をもつ。ただし、第1の実施の形態とは、シャッター12の開口パターンが異なる。よって、画像の再構成方法も異なる。
【0073】
シャッター12の開口パターンについて図11を参照して説明する。図11はマイクロレンズアレイ13上の入射光16の形状を示す図である。図11の白色部が、シャッター12の開口部、斜線部がシャッター12の遮光部を示す。
【0074】
シャッター12は、まず、第1ステップで図11(a)に示すように4区画のうち1区画に開口を設けるよう制御される。第2ステップでは、シャッター12は、図11(b)に示すように、4区画のうち第1ステップとは異なる区画に開口を設けるように制御される。さらに、シャッター12は、第3、第4ステップでは、それぞれ、図11(c)、図11(d)に示すように開口位置が変化するよう制御される。
【0075】
また、本実施の形態では、マイクロレンズのFナンバーはメインレンズのFナンバーの2倍に設定されているものとする。よって、シャッター12およびマイクロレンズアレイ13を透過後の合焦位置Aの点像からの光の分布パターンの撮像セルアレイ14上でのサイズ(図11中、太線の円で示す)は、マイクロレンズのFナンバーとメインレンズのFナンバーを同一にしたときの2倍になる。
【0076】
図3の対象物15が遠点位置Cに位置した場合の、撮像セルアレイ14への入射光16について、図12を参照して説明する。図12は、対象物15が遠点位置Cに位置した場合の、撮像セルアレイ14上の入射光16の形状を示す図である。
【0077】
このときの撮影像は、シャッター12のパターンの切り替えに対応して、図12に示すように変化する。図11(a)〜(d)の開口状態での撮影像は、それぞれ、図12(a)〜(d)のようになる。
【0078】
点Cからの光はメインレンズ11を通して一旦集光された後、デフォーカス状態になって広がり、シャッター12、マイクロレンズアレイ13に入射する。このとき、図11に示すように、M(3,3)のマイクロレンズだけでなく、M(2,2)、M(3,2)、M(4,2)、M(2,3)、M(4,3)、M(2,4)、M(3,4)、M(4,4)のマイクロレンズ(以下、周辺レンズ)の一部にも光が広がる。
【0079】
第1パターンのシャッター12は、周辺レンズを透過する光を遮る。よって、第1ステップにおいては、マイクロレンズM(3,3)を透過した光のみが撮像セルアレイ14に導かれる。このとき撮像セルアレイ14には、図12(a)に示されるような光が入射する。
【0080】
第2ステップでは、図11(b)に示すような開口パターンとなるので、マイクロレンズM(3,3)は遮光され、周辺レンズM(3,2)、M(3,4)上のシャッターは開放される。よって、撮像セルアレイ14上には、図12(b)に示される形状の光が入射する。
【0081】
第3ステップでは、シャッター12の開口位置は図11(c)のようになり、マイクロレンズM(3,3)は遮光され、周辺レンズM(2,2)、M(4,2)、M(2,4)、M(4,4)上のシャッターは開放される。撮像セルアレイ14には、図12(c)に示されるような形状の光が入射する。
【0082】
第4ステップでは、液晶シャッター12の開口位置は図11(d)のように変化する。このときレンズM(3,3)は遮光され、周辺レンズM(2,3)、M(4,3)上のシャッターは開放される。撮像セルアレイ14には、図12(d)に示されるような形状の光が入射する。
【0083】
4回のステップで得た4枚の撮影像に対し、第1の実施例で説明したのと同様の操作により、図12(e)に示すような再構成画像が得られる。図12(e)に示した再構成画像は、仮想面が、ピントのあった位置にある場合のものである。複数の仮想面に対応する再構成画像から、距離情報を求めることができる。
【0084】
本実施の形態では、図13に示すように、合焦位置Aの点像からの光により撮像セルアレイ14に形成されるスポット径が、マイクロレンズのFナンバーとメインレンズのFナンバーを同一にしたときの2倍になる。図13(b)の太線で囲まれる正方形領域に含まれる画素群が、そのスポット径に対応する。画素群の各方向の画素数は、マイクロレンズのFナンバーとメインレンズのFナンバーを同一にしたときの2倍である。よって、Z方向の距離分解能は、そのときの2倍になる。
【0085】
しかし、このときXおよびY方向の分解能は1/4になるため、開口位置を変化させて4回のステップに分けて撮影像を取得することにより、水平分解能を保ったまま、奥行き分解能を2倍に改善している。
【0086】
なお、この開口位置変化については、第1の実施の形態と同様に、図11に示す開口部を有する金属マスクをXおよびY方向にマイクロレンズの直径に相当する距離だけ移動させることでも実現できる。
【0087】
図14を参照して、第2の実施の形態に係る距離測定の処理の流れを説明する。図14は、第2の実施の形態に係る距離測定のフローチャートである。
【0088】
ステップS201において、カメラ1により、シャッター12の開口パターンが第1パターンであるときの画像データを取得する。
【0089】
次に、ステップS202において、カメラ1により、シャッター12の開口が第2パターンであるときの画像データを取得する。
【0090】
次に、ステップS203において、カメラ1により、シャッター12の開口が第3パターンであるときの画像データを取得する。
【0091】
次に、ステップS204において、カメラ1により、シャッター12の開口が第4パターンであるときの画像データを取得する。
【0092】
そして、ステップS205において、再構成部4aは、ステップS201〜ステップS204で得られた各画像データを、並び替える。さらに並び替えた画像データを合成し、複数の仮想面における再構成画像を作成する。
【0093】
ステップS206において、距離情報算出部4bは、再構成画像の輝度情報を算出する。すなわち、各開口部を通過した光に対応する領域で検出される光強度の総和あるいは平均値を算出する。
【0094】
ステップS207において、距離情報算出部4bは、各領域について、最も大きな輝度情報を与える仮想面を求める。ここでは、そのような仮想面を代表面と呼ぶ。
【0095】
ステップS208において、距離情報算出部4bは、光学系のパラメータを用いて、代表面の位置を対象物までの距離に変換する。
【0096】
[まとめ]
上述したように、距離情報算出アルゴリズムにより、シャッターの開口パターンを変化させて取得した複数の撮像データから画像処理により、異なるフォーカシング状態(仮想面)の複数の画像を生成し、そのデータより対象物の距離画像を得ることができる。また、奥行き方向の前後の位置関係や、対象物の異なるエッジの距離情報から傾きや姿勢を求めることも可能である。非特許文献1や2に記載されているような従来のプレノプティックカメラは、設定した距離にピントを合せた画像は再構成できるが、対象物までの距離情報を求めることはできなかった。これに対し、本発明では、撮像素子のセル単位ではなく、1つのマイクロレンズに対応し、複数のセルを含む領域での輝度情報を用いることで、距離情報を算出することができる。
【0097】
一部のマイクロレンズを遮光したパターンをもつシャッターを用いることで、1マイクロレンズ下のセル数を増やし、奥行き分解能を改善することができる。さらに、複数のシャッターの開口パターンに対して取得した画像データを用いることで、水平方向の分解能を保ったまま、奥行き分解能を改善することができる。
【0098】
また、特許文献1のようにステージ等で対象物の高さを変化させて、オートフォーカシングを行った後、複数枚の画像を取得し、それらの輝度情報に基づいて、高さ情報を求める方法に対して、本発明の方法は、カメラレンズのフォーカシング機構やステージなどの移動機構が不要となるため、小型かつ低コストである。
【0099】
さらに、本光学系は、撮像素子のごく近傍にマイクロレンズアレイを組み込む構成なので、従来の画像センサカメラとほぼ同サイズであるため、広くFA用途としてロボットなどの視覚センサに用いられている2次元画像センサカメラとほぼ同じ外径サイズに収まるため、従来カメラとの互換性(置換え)が高い。
【0100】
今回開示された実施の形態はすべての点で例示であって制限的なものではない。本発明の範囲は上記した実施の形態ではなくて特許請求の範囲によって示され、特許請求の範囲と均等な意味および範囲内でのすべての変更点が含まれることが意図される。
【図面の簡単な説明】
【0101】
【図1】本発明の実施の形態に係る距離測定装置の概略構成図である。
【図2】画像センサカメラ1の光学系を示す図である。
【図3】対象物15が近点位置Bまたは遠点位置Cにある場合の集光の様子を示す図である。
【図4】マイクロレンズアレイ13上の入射光15の形状を示す図である。
【図5】撮像セルアレイ14上の入射光16の形状を示す図である。
【図6】対象物15の撮影像のデータから得た再構成画像を示す図である。
【図7】シャッターを用いない場合の光学系および撮像セルへの入射光を示す図である。
【図8】第1の実施の形態に係る光学系および撮像セルへの入射光を示す図である。
【図9】第1の実施の形態に係る距離測定のフローチャートである。
【図10】シャッターとして用いることのできる金属マスクを示す図である。
【図11】マイクロレンズアレイ13上の入射光16の形状を示す図である。
【図12】対象物15が遠点位置Cに位置した場合の、撮像セルアレイ14上の入射光16の形状を示す図である。
【図13】第2の実施の形態に係る光学系および撮像セルへの入射光を示す図である。
【図14】第2の実施の形態に係る距離測定のフローチャートである。
【図15】共焦点顕微鏡の原理を用いた高さ情報測定装置の構成を示す図である。
【図16】共焦点顕微鏡の原理を用いた高さ情報測定装置による試料の高さ情報の検出アルゴリズムを説明する図である。
【符号の説明】
【0102】
1 画像センサカメラ、2 画像キャプチャボード、3 メモリ、4 画像処理部、4a 再構成部、4b 輝度情報算出部、4c 距離情報算出部、5 表示モニタ、11 撮像レンズ、12 シャッター、13 マイクロレンズアレイ、14 撮像セルアレイ、15 対象物、16 入射光。
【技術分野】
【0001】
本発明は、撮像素子で取得した、対象物の画像データに基づいて、対象物までの距離を測定する技術に関する。
【背景技術】
【0002】
近年、産業用ロボットや各種FA(Factory Automation)機器を用いた生産ラインを自動化するシステムの構築、あるいは、知能ロボットのインテリジェント化を図るために、対象物の距離情報を取得するための視覚センサが重要となってきている。特に、ロボットアームを用いたシステムにおいては、ワークの位置、姿勢、形状等の計測のための視覚センサとして画像センサカメラが多く用いられている。
【0003】
また、半導体デバイスや回路部品の実装基板の製造などにおいても、品質を管理するために半田バンプや金バンプなど2次元状に配置された微小なデバイスの高さ情報を測定するというニーズが高まっている。
【0004】
このようなニーズに対応するために、従来、2次元の画像センサカメラの画像から擬似的に高さや姿勢情報を検出する方法や、複数の画像センサカメラを用いたステレオ方式による3次元情報測定システムなどが用いられている。
【0005】
また、比較的小さな対象物の高さ情報を測定する方法として、共焦点顕微鏡の原理を利用した高さ測定法が提案されている。例えば、特開2003−75119号公報(特許文献1)には、共焦点顕微鏡の原理を用いた高さ情報測定装置が記載されている。
【0006】
この高さ情報測定装置について、図15、図16を用いて説明する。図15は、共焦点顕微鏡の原理を用いた高さ情報測定装置の構成を示す図である。また、図16は、共焦点顕微鏡の原理を用いた高さ情報測定装置による試料の高さ情報の検出アルゴリズムを説明する図である。図15に示すように、光源103、対物レンズ104、2次元画像カメラ102を備えた共焦点光学系101により、試料106を載せたステージ105を高さ方向に移動させながら、その高さ方向において互いに異なる複数の高さ位置で水平面の共焦点画像をそれぞれ撮像する構成を有している(図16(a)(b))。この高さ情報測定装置は、複数の共焦点画像の画素毎の輝度情報を比較し最大輝度を求め、最大輝度を有する画素を含む共焦点画素データを用いて粒子解析を行なって特定領域を抽出する。そして、抽出された領域における輝度と高さの代表値を算出し、試料の高さ情報を求めるものである(図16(c))。
【0007】
また、撮像素子を用いたカメラシステムにおいて、取得した画像データをデジタル処理により合成し、後で好きなようにピントを手前または奥に移動できるプレノプティックカメラ技術が、“Single Lens Stereo with a Plenoptic Camera”,IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE,VOL.14,NO.2,FEBRUARY 1992(非特許文献1)や“Light Field Photography with a Hand−held Plenoptic Camera”,Stanford Tech Report CTSR 2005−02(非特許文献2)の中で提案されている。これらの文献に記載のプレノプティックカメラは、普通のカメラレンズと同様の撮像レンズを有するが、普通のカメラとは、マイクロレンズアレイが像平面に正確に配置され、さらにマイクロレンズアレイより多くの撮像ピクセルを有するイメージセンサアレイ(撮像セルアレイ)がマイクロレンズアレイのすぐ背後に置かれている点で異なる。マイクロレンズアレイ内のレンズの数で最終画像の画素数は決まるが、単一マイクロレンズに割り当てられた多数のセンサピクセルにより、そのマイクロレンズに入射する光の方向と強度を記録することができる。そのデータを用いて、所定の距離にピントを合せた画像を再構成することができるというものである。
【特許文献1】特開2003−75119号公報
【非特許文献1】“Single Lens Stereo with a Plenoptic Camera”,IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE,VOL.14,NO.2,FEBRUARY 1992
【非特許文献2】“Light Field Photography with a Hand−held Plenoptic Camera”,Stanford Tech Report CTSR 2005−02
【発明の開示】
【発明が解決しようとする課題】
【0008】
2次元の画像センサカメラの画像から擬似的に高さや姿勢情報を検出する方法では直接奥行き距離や高さ情報が検出できないといった問題がある。また、複数の画像センサカメラを用いたステレオ方式による3次元情報測定システムを用いた距離測定には、複数のカメラや複雑な画像処理が必要などの課題があった。
【0009】
また、特許文献1に記載の、共焦点顕微鏡の原理を用いて複数の共焦点画像を取得する場合には、ステージの面方向への走査と高さ方向への移動という操作が必要で、オートフォーカス機構を含む移動機構系が大型になるという問題がある。また、試料の高さを変えて、試料の2次元画像データを複数回取得するには、ステージの移動、静止、対物レンズのオートフォーカシングなどのため、要する時間が長くなるといった課題もある。
【0010】
また、非特許文献1や2に記載のプレノプティックカメラ技術においては、取得画像データに対して、例えばオペレータがピント位置(距離)を入力することで、その位置にフォーカシングされた画像をデータの並び替え(再構成)により作り出すことはできるが、それを用いて対象物の距離情報を算出することはできない。
【0011】
本発明は、このような課題に着目してなされたものであり、その目的とするところは、対象物の距離情報を短時間で測定できる、小型の情報測定装置を提供することにある。
【課題を解決するための手段】
【0012】
1つの局面に係る本願発明は、対象物までの距離を測定するための距離測定装置であって、撮像素子を有するカメラを備え、撮像素子は、それぞれが対象物からの物体光を画像信号に変換する複数の撮像セルからなり、カメラは、物体光を集光する撮像レンズと、撮像レンズを通過した物体光が入射する複数の集光器からなる集光アレイと、撮像素子に入射する光を制御するシャッターとを含み、シャッターは、複数の集光器を透過する光を遮蔽する複数の遮光部および複数の集光器を透過する光を通す複数の開口部が、それぞれ配置される複数の配置パターンを有し、各集光部を透過する光は、いずれか1つの配置パターンにおいて、シャッターを通過し、各配置パターンにおいて、各開口部を透過した物体光は、撮像素子上の互いに異なり、各々が集光器の大きさよりも大きい領域に入射し、各配置パターンにおいてカメラで得た画像信号を、各領域における物体光を検出した撮像セルの位置により定まる物体光の集光器への入射方向に基づいて並び替えて、並び替えた各画像信号を合成し、撮像素子が複数の仮想位置の各々に位置する場合に得られるべき再構成画像を生成する再構成手段と、各領域に入射する光量が最大となる仮想位置を特定し、カメラの光学系のパラメータに基づき特定された仮想位置を変換し距離を算出する距離算出手段とをさらに備える。
【0013】
好ましくは、各領域の外周が互いに接する。
好ましくは、各配置パターンにおいて、複数の遮光部および複数の開口部は市松模様に配置される。
【0014】
好ましくは、各配置パターンにおいて、近接する2×2の集光器に対応する複数の遮光部および複数の開口部は、2×2の集光器のうち所定の1つの集光器の光を透過するように配置される。
【0015】
好ましくは、シャッターは、液晶シャッターである。
好ましくは、シャッターは、所定の開口を持ち、複数のパターンに対応して移動可能な遮光マスクである。
【0016】
他の局面に係る本願発明は、撮像素子を有するカメラを用いて、対象物までの距離を測定するための距離測定方法であって、撮像素子は、それぞれが対象物からの物体光を画像信号に変換する複数の撮像セルからなり、カメラは、物体光を集光する撮像レンズと、撮像レンズを通過した物体光が入射する複数の集光器からなる集光アレイと、撮像素子に入射する光を制御するシャッターとを含み、シャッターは、複数の集光器を透過する光を遮蔽する複数の遮光部および複数の集光器を透過する光を通す複数の開口部が、それぞれ配置される複数の配置パターンを有し、各集光部を透過する光は、いずれか1つの配置パターンにおいて、シャッターを通過し、各配置パターンにおいて、各開口部を透過した物体光は、撮像素子上の互いに異なり、各々が集光器の大きさよりも大きい領域に入射し、各配置パターンにおいてカメラで画像信号を得るステップと、各配置パターンにおいてカメラで得た画像信号を、各領域における物体光を検出した撮像セルの位置により定まる物体光の集光器への入射方向に基づいて並び替えて、並び替えた各画像信号を合成し、撮像素子が複数の仮想位置の各々に位置する場合に得られるべき再構成画像を生成するステップと、各領域に入射する光量が最大となる仮想位置を特定し、カメラの光学系のパラメータに基づき特定された仮想位置を変換し距離を算出するステップとを備える。
【発明の効果】
【0017】
本発明は、複数パターンのシャッターを透過した物体光の撮像データから画像処理により、異なるフォーカシング状態の複数の画像データを生成し、その画像データより対象物までの距離情報を得ることができる。従って、カメラレンズのフォーカシング機構やステージなどの移動機構が不要となり、小型の距離情報測定装置が実現できる。また、カメラの移動時間や移動に伴う各画像のマッチング操作などの時間が不要となり、短時間で距離測定を行なえる。
【発明を実施するための最良の形態】
【0018】
以下、図面を参照しながら本発明の実施形態を説明する。なお、本発明は以下の実施形態に限定されるものではない。
【0019】
[第1の実施の形態]
(1.構成)
図1を用いて、第1の実施の形態に係る距離測定装置の構成について説明する。図1は、本発明の実施の形態に係る距離測定装置の概略構成図である。
【0020】
距離測定装置は、画像センサカメラ1と、画像キャプチャボード2と、画像データを保存するメモリ3と、メモリ3に保存された画像データから対象物までの距離情報を算出する画像処理部4と、画像処理部4で算出された距離情報を表示する表示モニタ5とを備える。
【0021】
画像センサカメラ1は、対象物の画像データを取得する。画像センサカメラ1は、撮像レンズ11(以後は、メインレンズと呼ぶ)と、シャッター12と、複数のマイクロレンズからなるマイクロレンズアレイ13と、撮像セルアレイ14とからなる。
【0022】
メインレンズ11には、対象物からの物体光が入射する。メインレンズ11は、入射した対象物からの物体光を集光する。
【0023】
シャッター12は、マイクロレンズアレイ13の手前(メインレンズ11側)に設置され、マイクロレンズを透過する光量を制御する。なお、ここでは、シャッター12は、マイクロレンズアレイ13の手前に設置されるものとしているが、マイクロレンズアレイ13の後方(撮像セルアレイ14側)に設置されていてもよい。つまり、各マイクロレンズを透過する光量を制御できるように、マイクロレンズアレイ13の近傍に配置されていればよい。シャッター12は、あとで詳しく述べるように、複数の開口パターンで光量を制御する。本実施の形態では、シャッター12として、液晶シャッターを用いる。ただし、シャッター12は、液晶シャッターに限られるものではない。例えば、所定の開口パターンをもち、複数の開口パターンに対応して移動可能な遮光マスクをシャッター12として用いることもできる。
【0024】
マイクロレンズアレイ13には、メインレンズ11およびシャッター12を通過した物体光が入射する。マイクロレンズアレイ13に含まれる複数のマイクロレンズの各々は、物体光を集光する。なお、マイクロレンズアレイ13は、複数の集光器からなる集光アレイの一例である。例えば、マイクロレンズアレイ13のかわりに、複数のピンホールからなるピンホールアレイを用いても構わない。
【0025】
撮像セルアレイ14は、シャッター12およびマイクロレンズアレイ13を通過した物体光の画像データを取得する。撮像セルアレイ14は、複数の撮像セルを有する。撮像セルアレイ14の撮像セルおよび撮像セルアレイ14により取得される画像データについては、後で詳述する。撮像セルとしては、例えば、CCD(charge-coupled device)やCMOS(Complementary Metal Oxide Semiconductor)センサなどを用いることができる。
【0026】
画像キャプチャーボード2は、撮像セルアレイ14で取得された画像データを取り込み、以降の処理が行なえる形に変換する。メモリ3は、画像キャプチャーボード2から転送された画像データを格納する。
【0027】
画像処理部4は、メモリ3から画像データを読出し、読み出した画像データに基づき、物体までの距離を算出する処理を行なう。画像処理部4は、画像データに含まれる画素データを並び替えて、撮像セルアレイ14が異なる複数の仮想位置の各々に位置する場合に得られるべき再構成画像を生成する再構成部4aと、再構成画像に基づいて対象物までの距離を算出する距離情報算出部4bとからなる。画像処理部4の行なう処理の詳細については、後述する。
【0028】
(2.画像センサカメラの特徴について)
本発明においては、画像センサカメラ1の光学系の構成に特徴があり、図2を用いて、その特徴を説明する。図2は、画像センサカメラ1の光学系を示す図である。なお、簡単のため、図2には、対象物15が点光源である場合を示す。
【0029】
画像センサカメラ1のマイクロレンズアレイ13は、対象物15がAの位置にある場合に、メインレンズ12より対象物15がほぼ結像する位置に配置される。このときのAの位置を合焦点位置、合焦点位置よりもメインレンズ11に近い側を近点位置、合焦点位置よりもメインレンズ11から遠い側を遠点位置と呼ぶ。撮像セルアレイ14はマイクロレンズアレイ13のほぼ焦点位置に配置されている。撮像セルアレイ14には、対象物の光が、マイクロレンズを通して、入射される。また、それぞれのマイクロレンズを通過した光が、互いに重なることなく撮像セルアレイ14上に入射するように、画像センサカメラ1の光学系は調整されているものとする。
【0030】
次に、図3〜図9を用いて、この画像センサカメラ1により撮像される画像について説明する。
【0031】
図3を用いて、対象物15の結像について説明する。図3は、対象物15が近点位置Bまたは遠点位置Cにある場合の集光の様子を示す図である。対象物15が位置Bにある場合、対象物15からの光は、メインレンズ11により、面Dに集光(結像)する。また、位置Cにある場合、面Fに集光(結像)する。また、面Eは、合焦位置Aに対する集光面であり、ほぼマイクロレンズアレイ13の位置に相当する。面F,E,DをそれぞれC,A,Bに対する仮想焦点面と呼ぶ。
【0032】
続いて、対象物15が図3の位置A,B,Cにある場合に撮像セルアレイ14により、どのような画像が撮像されるかを図4、図5を用いて説明する。図4はマイクロレンズアレイ13上の入射光15の形状を示す図であり、図5は撮像セルアレイ14上の入射光16の形状を示す図である。
【0033】
まず、対象物15が図3の位置A,B,Cにある場合にマイクロレンズアレイ13上にどのような形状の入射光15が入射するかについて図4を用いて説明する。図4に示すように、本実施例においては、マイクロレンズアレイ13は、2次元面内に配列された円形のマイクロレンズからなるものとする。また、各マイクロレンズには、それらを識別するための番号M(i,j)が与えられているものとする。
【0034】
図4においては、シャッター12の開口パターンを合わせて示している。本実施の形態においては、シャッター12は、図4(a)、図4(b)、図4(c)に示す第1パターン、および、図4(d)、図4(e)、図4(f)に示す第2パターンをもつ。図4の白色の部分が開口部、斜線の部分が遮光部をそれぞれ表わす。図4に示すように、第1パターンおよび第2パターンにおいて、開口部および遮光部は市松模様に配置される。すなわち、各パターンの開口部および遮光部は、互いに隣り合うように配置されている。また、第1パターンおよび第2パターンでは、遮光部と開口部とが反転している。
【0035】
図4(a)(d)、図4(b)(e)、図4(c)(f)は、それぞれ、対象物15が、遠点位置Cにある場合、合焦位置Aにある場合、近点位置Bにある場合のマイクロレンズアレイ13上の入射光15の形状を示す図である。
【0036】
合焦位置Aにある対象物15からの光は図4(b)(e)のようにほぼマイクロレンズM(2,2)上に集光される。
【0037】
対象物15が遠点位置Cにある場合、対象物15からの光は、メインレンズ11を通して一旦集光された後、さらにデフォーカス状態になって広がってマイクロレンズ12上に入射する。したがって、図4(a)(d)に示すように、マイクロレンズアレイ13上の入射光15は、マイクロレンズM(3,3)の周辺レンズM(2,3)、M(3,2)、M(3,4)、M(4,3)にまで広がる。
【0038】
対象物15が近点位置Bにある場合は、集光前のデフォーカス状態の光が、マイクロレンズ12上に入射する。したがって、図4(c)(f)に示すように、マイクロレンズアレイ13上の入射光15は、マイクロレンズM(3,3)の周辺レンズM(2,3)、M(3,2)、M(3,4)、M(4,3)にまで広がる。
【0039】
撮像セルアレイ14上の入射光16について図5を用いて説明する。図5に示すように、撮像セルアレイ14は、複数の撮像セルからなる。図5では、撮像セルアレイ14を、マイクロレンズの番号に対応する番号T(i,j)を付した区域に分けて示している。なお、図では、各区域が10×10の撮像セルで構成されている場合を示しているが、撮像セルアレイ14のセルの数はこれに限られない。
【0040】
対象物15が合焦位置Aにある場合、図4(b)(e)のようにほぼマイクロレンズM(3,3)上に集光された光が、撮像セルアレイ14に入射する。したがって、シャッター12の開口位置が第1パターンのときは、撮像セルアレイ14に入射する光は、図5(b)に示すように、撮像セルアレイ14の区域T(3,3)を中心とする数区域に広がる。シャッター12の開口位置が第1パターンのときは、シャッター12により光が遮られるため、図5(e)に示すように、撮像セルアレイ14には、光は入射しない。
【0041】
対象物15が遠点位置Cにあり、シャッター12の開口位置が第1パターンのときは、図5(a)に示すように、区域T(3,3)の中心付近に光が入射する。開口位置が第2パターンのときは、マイクロレンズアレイ13上で、図4(d)のように周辺レンズM(2,3)、M(3,2)、M(3,4)、M(4,3)に広がった光が、撮像セルアレイ14に入射する。これらの周辺レンズに入射した光は、撮像セルアレイ14上では、図5(d)に示すように、区域T(1,3)、T(2,3)、T(3,1)、T(3,2)、T(3,4)、T(3,5)、T(4,3)、T(4,5)の一部に入射する。
【0042】
近点位置Bに対象物15が位置する場合に、撮像セルアレイ14に入射する光の形状は、図5(c)あるいは図5(f)のようになる。開口位置が第1パターンのときは、図5(c)のように、区域T(3,3)に光が入射する。開口位置が第2パターンのときは、区域T(3,3)、T(3,2)、T(3,4)、T(2,3)T(4,3)の一部に光が入射する。
【0043】
(3.画像の再構成について)
次に、本装置において距離情報を算出するための基本操作である、各仮想面での像の再構成について説明する。
【0044】
画像の再構成にあたっては、画像センサカメラ1で取得した画像データから、マイクロレンズへの物体光の入射方向の情報を得られるという点が重要である。画像データから入射方向の情報が得られることを、図5を再度用いて説明する。例えば、開口位置が第2パターンであるとき、遠点位置Cにある対象物15からの光は、図5(d)に示すように、区域T(3,3)の周囲のセルに入射する。また、近点位置Bにある対象物15からの光は、図5(f)に示すように、区域T(3,3)を中心とするセルに入射する。このように、対象物15が遠点位置Cにあるか近点位置Bにあるかにより、光が入射するセルの、区域T(3,3)からの距離が異なる。このことを利用し、どのセルに光が入射したかにより、各マイクロレンズへの物体光の入射方向の情報を得ることができる。
【0045】
この入射方向の情報、仮想面の位置(仮想位置)、および、光学系のパラメータ(メインレンズ11とマイクロレンズアレイ13間の距離など)に基づき、撮像セルアレイ14が取得した画素データを並び替え、さらに並び替えで得られた画像データを合成することで、撮像セルアレイ14が仮想位置にある場合に取得されるべき画像データを再構成することができる。
【0046】
再構成の具体例を図6を用いて説明する。図6は、対象物15の撮影像のデータから得た再構成画像を示す図である。
【0047】
物体が合焦位置Aにある場合、図5(b)および図5(e)の画像データを合成して、図6(b)の再構成画像が得られる。
【0048】
図6(a)は、図5(a)および図5(d)に示した画像データから再構成した仮想面F上での光の分布を示したもので、合焦位置での光ビーム状態とほぼ同じになる。周囲の決まったセルに入射する光を変換して得られる出力信号(画像信号)を、セル位置に基づいて分かる入射方向に応じて並び替え、区域T(3,3)の中央付近の出力信号と足し合わせることで、仮想の焦点面での画像を作り出すことができる。
【0049】
近点位置Bにある対象物(点像)に対しても、同様に、図6(c)の再構成画像が生成できる。ただし、撮像セルアレイ14上での広がり(分割状態)は、図5(c)のように遠点状態とは異なるので、並び替えの演算は図6(a)の再構成像を得る場合とは異なる。
【0050】
図6に示したのは、焦点位置にある仮想面で得られるべき再構成画像である。一般には、複数の仮想位置に対して、再構成画像を計算する。複数の仮想位置の中には、図6(b)のようなピントの合った再構成画像を得られる位置がある。その位置から、対象物までの距離を求めることができる。
【0051】
具体的には、各開口部を透過した光が入射しうる領域に、最大の光量が入射した仮想位置を、ピントの合う位置として求める。本実施例では、各領域に入射する光量の総和あるいは平均値(以下、これらを総称して「輝度情報」とよぶ)を計算し、輝度情報が最大となる場合の仮想位置をピントの合う位置として求めるものとする。
【0052】
なお、ここでは対象物が点像の場合の例を示したが、大きさを有する対象物の場合にも、同様の操作で画像の再構成ができる。ただし、大きさを有する画像の場合、全ての開口部に光が入射するので、各開口部を透過した光に対して同様の操作を行う必要がある。
【0053】
(4.距離の分解能について)
本発明のように、複数の開口パターンで取得した画像データを利用することで、シャッターを用いない場合に比べ、距離の分解能を向上することができる。このことを、図7、図8を参照して説明する。図7は、シャッターを用いない場合の光学系および撮像セルへの入射光を示す図である。図8は、第1の実施の形態に係る光学系および撮像セルへの入射光を示す図である。
【0054】
まず、シャッターを用いない場合の距離の分解能について、図7を参照して説明する。 距離分解能は、各マイクロレンズを透過した入射光のX軸上あるいはY軸上に配列された画素数に依存し、この画素数が少なくなると、距離分解能が低下する。
【0055】
したがって、距離分解能は、メインレンズおよびマイクロレンズのFナンバーに依存する。ここで、レンズのFナンバーとは、(レンズの焦点距離)÷(レンズ直径)であり、図7(a)において、メインレンズのFナンバー(Fm)はfm/Wm、マイクロレンズのFナンバー(Fa)はfa/Waで表される。
【0056】
Fmを大きくすると、撮像セルアレイ14上の光のサイズが小さくなるため、距離分解能が低下する。よって、距離分解能の向上のためには、Fmを小さくすればよいように思われる。
【0057】
ところが、Fm<Faの条件下では、マイクロレンズを透過する光のサイズが、マイクロレンズアレイピッチよりも大きくなるため、異なるマイクロレンズを通過した光の外縁同士が重なる。この重なりのために、距離情報を得ることができなくなる。
【0058】
したがって、シャッターを用いない場合に最大の距離分解能が得られるのは、メインレンズのFナンバーFmと、マイクロレンズのFナンバーFaが、Fm≒Faを満たすときである。このときの、撮像セルアレイ14上の光の分布パターンを図7(b)に示す。図7(b)では、各マイクロレンズを透過する光の強度分布を、破線で示している。破線の円を囲む正方形の領域内で画像信号を並び替えることにより、再構成画像が得られる。
【0059】
次に、図8(a)に示すようにシャッター12を用いる場合について説明する。この場合、シャッターを用いない場合に比べ、Faを大きくできる。本実施の形態では、Fa=√2×Fmを満たすものとする。
【0060】
Fa=√2×Fmとした場合でも、シャッター12より一部のマイクロレンズからの光が遮られているため、シャッター12およびマイクロレンズアレイ13を透過した光の撮像セルアレイ14上での分布パターンは、図8(b)の破線のようになる。すなわち、異なるマイクロレンズを透過する光は、互いに異なる領域に入射する。Fa=√2×Fmの場合、各領域の外周同士は接し、各開口部からの光に対応するセル数が最大になる。
【0061】
このように、撮像セルアレイ14上での光分布パターンのサイズをマイクロレンズアレイピッチの√2倍(≒1.4倍)まで拡大しても、光分布パターンの外縁が重ならないので、距離情報を得るためのセル数を拡大することができる。
【0062】
本実施例では、Fa=√2×Fmの関係となるようメインレンズのFナンバーを定めているので、撮像セルアレイ14上での光分布パターンのサイズはマイクロレンズアレイピッチの√2倍に拡大される。よって、1つのマイクロレンズに対応する領域として、図8(b)の太線で囲まれる正方形領域を用いることができる。この領域中のX軸上あるいはY軸上のセル数は、シャッターなしの場合に比べ、ほぼ1.4倍となり、1.4倍の距離分解能が得られる。
【0063】
シャッター12の1つのパターンに対応する画像から、距離情報を取得すると仮定すると、X方向およびY方向の分解能が1/2になってしまう。そこで、本実施の形態では、開口位置を変化させて2回のステップに分けて、撮影像を取得することにより、水平分解能を保ったまま、奥行き(距離)分解能を1.4倍に改善している。
【0064】
(5.処理の流れについて)
第1の実施の形態に係る距離測定装置を用いた距離測定における処理の流れについて図9を参照して説明する。図9は、第1の実施の形態に係る距離測定のフローチャートである。
【0065】
ステップS101において、カメラ1により、シャッター12の開口パターンが第1パターンであるときの画像データを取得する。
【0066】
次に、ステップS102において、カメラ1により、シャッター12の開口が第2パターンであるときの画像データを取得する。
【0067】
そして、ステップS103において、再構成部4aは、ステップS101、ステップS102で得られた各画像データを、並び替える。さらに並び替えた画像データを合成し、複数の仮想面における再構成画像を作成する。
【0068】
ステップS104において、距離情報算出部4bは、再構成画像の輝度情報を算出する。すなわち、各開口部を通過した光に対応する領域で検出される光強度の総和あるいは平均値を算出する。
【0069】
ステップS105において、距離情報算出部4bは、各領域について、最も大きな輝度情報を与える仮想面を求める。ここでは、そのような仮想面を代表面と呼ぶ。
【0070】
ステップS106において、距離情報算出部4bは、光学系のパラメータを用いて、代表面の位置を対象物までの距離に変換する。
【0071】
(6.第1の実施の形態の変形例)
第1の実施の形態では、シャッター12は液晶シャッターであるとしていた。しかし、説明した2つのパターンを実現できるものを液晶シャッターのかわりに用いることもできる。例えば、図10に示す開口部を有する金属マスクであって、XあるいはY方向にマイクロレンズの直径に相当する距離だけ移動させることができるものを、シャッター12として用いることができる。
【0072】
[第2の実施の形態]
次に、第2の実施の形態に係る距離測定装置について説明する。第2の実施の形態に係る距離測定装置は、第1の実施の形態に係る距離測定装置とほぼ同様の構成をもつ。ただし、第1の実施の形態とは、シャッター12の開口パターンが異なる。よって、画像の再構成方法も異なる。
【0073】
シャッター12の開口パターンについて図11を参照して説明する。図11はマイクロレンズアレイ13上の入射光16の形状を示す図である。図11の白色部が、シャッター12の開口部、斜線部がシャッター12の遮光部を示す。
【0074】
シャッター12は、まず、第1ステップで図11(a)に示すように4区画のうち1区画に開口を設けるよう制御される。第2ステップでは、シャッター12は、図11(b)に示すように、4区画のうち第1ステップとは異なる区画に開口を設けるように制御される。さらに、シャッター12は、第3、第4ステップでは、それぞれ、図11(c)、図11(d)に示すように開口位置が変化するよう制御される。
【0075】
また、本実施の形態では、マイクロレンズのFナンバーはメインレンズのFナンバーの2倍に設定されているものとする。よって、シャッター12およびマイクロレンズアレイ13を透過後の合焦位置Aの点像からの光の分布パターンの撮像セルアレイ14上でのサイズ(図11中、太線の円で示す)は、マイクロレンズのFナンバーとメインレンズのFナンバーを同一にしたときの2倍になる。
【0076】
図3の対象物15が遠点位置Cに位置した場合の、撮像セルアレイ14への入射光16について、図12を参照して説明する。図12は、対象物15が遠点位置Cに位置した場合の、撮像セルアレイ14上の入射光16の形状を示す図である。
【0077】
このときの撮影像は、シャッター12のパターンの切り替えに対応して、図12に示すように変化する。図11(a)〜(d)の開口状態での撮影像は、それぞれ、図12(a)〜(d)のようになる。
【0078】
点Cからの光はメインレンズ11を通して一旦集光された後、デフォーカス状態になって広がり、シャッター12、マイクロレンズアレイ13に入射する。このとき、図11に示すように、M(3,3)のマイクロレンズだけでなく、M(2,2)、M(3,2)、M(4,2)、M(2,3)、M(4,3)、M(2,4)、M(3,4)、M(4,4)のマイクロレンズ(以下、周辺レンズ)の一部にも光が広がる。
【0079】
第1パターンのシャッター12は、周辺レンズを透過する光を遮る。よって、第1ステップにおいては、マイクロレンズM(3,3)を透過した光のみが撮像セルアレイ14に導かれる。このとき撮像セルアレイ14には、図12(a)に示されるような光が入射する。
【0080】
第2ステップでは、図11(b)に示すような開口パターンとなるので、マイクロレンズM(3,3)は遮光され、周辺レンズM(3,2)、M(3,4)上のシャッターは開放される。よって、撮像セルアレイ14上には、図12(b)に示される形状の光が入射する。
【0081】
第3ステップでは、シャッター12の開口位置は図11(c)のようになり、マイクロレンズM(3,3)は遮光され、周辺レンズM(2,2)、M(4,2)、M(2,4)、M(4,4)上のシャッターは開放される。撮像セルアレイ14には、図12(c)に示されるような形状の光が入射する。
【0082】
第4ステップでは、液晶シャッター12の開口位置は図11(d)のように変化する。このときレンズM(3,3)は遮光され、周辺レンズM(2,3)、M(4,3)上のシャッターは開放される。撮像セルアレイ14には、図12(d)に示されるような形状の光が入射する。
【0083】
4回のステップで得た4枚の撮影像に対し、第1の実施例で説明したのと同様の操作により、図12(e)に示すような再構成画像が得られる。図12(e)に示した再構成画像は、仮想面が、ピントのあった位置にある場合のものである。複数の仮想面に対応する再構成画像から、距離情報を求めることができる。
【0084】
本実施の形態では、図13に示すように、合焦位置Aの点像からの光により撮像セルアレイ14に形成されるスポット径が、マイクロレンズのFナンバーとメインレンズのFナンバーを同一にしたときの2倍になる。図13(b)の太線で囲まれる正方形領域に含まれる画素群が、そのスポット径に対応する。画素群の各方向の画素数は、マイクロレンズのFナンバーとメインレンズのFナンバーを同一にしたときの2倍である。よって、Z方向の距離分解能は、そのときの2倍になる。
【0085】
しかし、このときXおよびY方向の分解能は1/4になるため、開口位置を変化させて4回のステップに分けて撮影像を取得することにより、水平分解能を保ったまま、奥行き分解能を2倍に改善している。
【0086】
なお、この開口位置変化については、第1の実施の形態と同様に、図11に示す開口部を有する金属マスクをXおよびY方向にマイクロレンズの直径に相当する距離だけ移動させることでも実現できる。
【0087】
図14を参照して、第2の実施の形態に係る距離測定の処理の流れを説明する。図14は、第2の実施の形態に係る距離測定のフローチャートである。
【0088】
ステップS201において、カメラ1により、シャッター12の開口パターンが第1パターンであるときの画像データを取得する。
【0089】
次に、ステップS202において、カメラ1により、シャッター12の開口が第2パターンであるときの画像データを取得する。
【0090】
次に、ステップS203において、カメラ1により、シャッター12の開口が第3パターンであるときの画像データを取得する。
【0091】
次に、ステップS204において、カメラ1により、シャッター12の開口が第4パターンであるときの画像データを取得する。
【0092】
そして、ステップS205において、再構成部4aは、ステップS201〜ステップS204で得られた各画像データを、並び替える。さらに並び替えた画像データを合成し、複数の仮想面における再構成画像を作成する。
【0093】
ステップS206において、距離情報算出部4bは、再構成画像の輝度情報を算出する。すなわち、各開口部を通過した光に対応する領域で検出される光強度の総和あるいは平均値を算出する。
【0094】
ステップS207において、距離情報算出部4bは、各領域について、最も大きな輝度情報を与える仮想面を求める。ここでは、そのような仮想面を代表面と呼ぶ。
【0095】
ステップS208において、距離情報算出部4bは、光学系のパラメータを用いて、代表面の位置を対象物までの距離に変換する。
【0096】
[まとめ]
上述したように、距離情報算出アルゴリズムにより、シャッターの開口パターンを変化させて取得した複数の撮像データから画像処理により、異なるフォーカシング状態(仮想面)の複数の画像を生成し、そのデータより対象物の距離画像を得ることができる。また、奥行き方向の前後の位置関係や、対象物の異なるエッジの距離情報から傾きや姿勢を求めることも可能である。非特許文献1や2に記載されているような従来のプレノプティックカメラは、設定した距離にピントを合せた画像は再構成できるが、対象物までの距離情報を求めることはできなかった。これに対し、本発明では、撮像素子のセル単位ではなく、1つのマイクロレンズに対応し、複数のセルを含む領域での輝度情報を用いることで、距離情報を算出することができる。
【0097】
一部のマイクロレンズを遮光したパターンをもつシャッターを用いることで、1マイクロレンズ下のセル数を増やし、奥行き分解能を改善することができる。さらに、複数のシャッターの開口パターンに対して取得した画像データを用いることで、水平方向の分解能を保ったまま、奥行き分解能を改善することができる。
【0098】
また、特許文献1のようにステージ等で対象物の高さを変化させて、オートフォーカシングを行った後、複数枚の画像を取得し、それらの輝度情報に基づいて、高さ情報を求める方法に対して、本発明の方法は、カメラレンズのフォーカシング機構やステージなどの移動機構が不要となるため、小型かつ低コストである。
【0099】
さらに、本光学系は、撮像素子のごく近傍にマイクロレンズアレイを組み込む構成なので、従来の画像センサカメラとほぼ同サイズであるため、広くFA用途としてロボットなどの視覚センサに用いられている2次元画像センサカメラとほぼ同じ外径サイズに収まるため、従来カメラとの互換性(置換え)が高い。
【0100】
今回開示された実施の形態はすべての点で例示であって制限的なものではない。本発明の範囲は上記した実施の形態ではなくて特許請求の範囲によって示され、特許請求の範囲と均等な意味および範囲内でのすべての変更点が含まれることが意図される。
【図面の簡単な説明】
【0101】
【図1】本発明の実施の形態に係る距離測定装置の概略構成図である。
【図2】画像センサカメラ1の光学系を示す図である。
【図3】対象物15が近点位置Bまたは遠点位置Cにある場合の集光の様子を示す図である。
【図4】マイクロレンズアレイ13上の入射光15の形状を示す図である。
【図5】撮像セルアレイ14上の入射光16の形状を示す図である。
【図6】対象物15の撮影像のデータから得た再構成画像を示す図である。
【図7】シャッターを用いない場合の光学系および撮像セルへの入射光を示す図である。
【図8】第1の実施の形態に係る光学系および撮像セルへの入射光を示す図である。
【図9】第1の実施の形態に係る距離測定のフローチャートである。
【図10】シャッターとして用いることのできる金属マスクを示す図である。
【図11】マイクロレンズアレイ13上の入射光16の形状を示す図である。
【図12】対象物15が遠点位置Cに位置した場合の、撮像セルアレイ14上の入射光16の形状を示す図である。
【図13】第2の実施の形態に係る光学系および撮像セルへの入射光を示す図である。
【図14】第2の実施の形態に係る距離測定のフローチャートである。
【図15】共焦点顕微鏡の原理を用いた高さ情報測定装置の構成を示す図である。
【図16】共焦点顕微鏡の原理を用いた高さ情報測定装置による試料の高さ情報の検出アルゴリズムを説明する図である。
【符号の説明】
【0102】
1 画像センサカメラ、2 画像キャプチャボード、3 メモリ、4 画像処理部、4a 再構成部、4b 輝度情報算出部、4c 距離情報算出部、5 表示モニタ、11 撮像レンズ、12 シャッター、13 マイクロレンズアレイ、14 撮像セルアレイ、15 対象物、16 入射光。
【特許請求の範囲】
【請求項1】
対象物までの距離を測定するための距離測定装置であって、
撮像素子を有するカメラを備え、
前記撮像素子は、それぞれが前記対象物からの物体光を画像信号に変換する複数の撮像セルからなり、
前記カメラは、
前記物体光を集光する撮像レンズと、
前記撮像レンズを通過した前記物体光が入射する複数の集光器からなる集光アレイと、
前記撮像素子に入射する光を制御するシャッターとを含み、
前記シャッターは、複数の前記集光器を透過する光を遮蔽する複数の遮光部および複数の前記集光器を透過する光を通す複数の開口部が、それぞれ配置される複数の配置パターンを有し、
各前記集光部を透過する光は、いずれか1つの前記配置パターンにおいて、前記シャッターを通過し、
各前記配置パターンにおいて、各前記開口部を透過した前記物体光は、前記撮像素子上の互いに異なり、各々が前記集光器の大きさよりも大きい領域に入射し、
各前記配置パターンにおいて前記カメラで得た前記画像信号を、各前記領域における前記物体光を検出した前記撮像セルの位置により定まる前記物体光の前記集光器への入射方向に基づいて並び替えて、並び替えた各前記画像信号を合成し、前記撮像素子が複数の仮想位置の各々に位置する場合に得られるべき再構成画像を生成する再構成手段と、
各前記領域に入射する光量が最大となる前記仮想位置を特定し、前記カメラの光学系のパラメータに基づき前記特定された前記仮想位置を変換し前記距離を算出する距離算出手段とをさらに備える、距離測定装置。
【請求項2】
各前記領域の外周が互いに接する、請求項1に記載の距離測定装置。
【請求項3】
各前記配置パターンにおいて、前記複数の遮光部および前記複数の開口部は市松模様に配置される、請求項1または2に記載の距離測定装置。
【請求項4】
各前記配置パターンにおいて、近接する2×2の前記集光器に対応する前記複数の遮光部および前記複数の開口部は、2×2の前記集光器のうち所定の1つの前記集光器の光を透過するように配置される、請求項1または2に記載の距離測定装置。
【請求項5】
前記シャッターは、液晶シャッターである、請求項1から4のいずれか1項に記載の距離測定装置。
【請求項6】
前記シャッターは、所定の開口を持ち、前記複数のパターンに対応して移動可能な遮光マスクである、請求項1から4のいずれか1項に記載の距離測定装置。
【請求項7】
撮像素子を有するカメラを用いて、対象物までの距離を測定するための距離測定方法であって、
前記撮像素子は、それぞれが前記対象物からの物体光を画像信号に変換する複数の撮像セルからなり、
前記カメラは、
前記物体光を集光する撮像レンズと、
前記撮像レンズを通過した前記物体光が入射する複数の集光器からなる集光アレイと、
前記撮像素子に入射する光を制御するシャッターとを含み、
前記シャッターは、複数の前記集光器を透過する光を遮蔽する複数の遮光部および複数の前記集光器を透過する光を通す複数の開口部が、それぞれ配置される複数の配置パターンを有し、
各前記集光部を透過する光は、いずれか1つの前記配置パターンにおいて、前記シャッターを通過し、
各前記配置パターンにおいて、各前記開口部を透過した前記物体光は、前記撮像素子上の互いに異なり、各々が前記集光器の大きさよりも大きい領域に入射し、
各前記配置パターンにおいて前記カメラで前記画像信号を得るステップと、
各前記配置パターンにおいて前記カメラで得た前記画像信号を、各前記領域における前記物体光を検出した前記撮像セルの位置により定まる前記物体光の前記集光器への入射方向に基づいて並び替えて、並び替えた各前記画像信号を合成し、前記撮像素子が複数の仮想位置の各々に位置する場合に得られるべき再構成画像を生成するステップと、
各前記領域に入射する光量が最大となる前記仮想位置を特定し、前記カメラの光学系のパラメータに基づき前記特定された前記仮想位置を変換し前記距離を算出するステップとを備える、距離測定方法。
【請求項1】
対象物までの距離を測定するための距離測定装置であって、
撮像素子を有するカメラを備え、
前記撮像素子は、それぞれが前記対象物からの物体光を画像信号に変換する複数の撮像セルからなり、
前記カメラは、
前記物体光を集光する撮像レンズと、
前記撮像レンズを通過した前記物体光が入射する複数の集光器からなる集光アレイと、
前記撮像素子に入射する光を制御するシャッターとを含み、
前記シャッターは、複数の前記集光器を透過する光を遮蔽する複数の遮光部および複数の前記集光器を透過する光を通す複数の開口部が、それぞれ配置される複数の配置パターンを有し、
各前記集光部を透過する光は、いずれか1つの前記配置パターンにおいて、前記シャッターを通過し、
各前記配置パターンにおいて、各前記開口部を透過した前記物体光は、前記撮像素子上の互いに異なり、各々が前記集光器の大きさよりも大きい領域に入射し、
各前記配置パターンにおいて前記カメラで得た前記画像信号を、各前記領域における前記物体光を検出した前記撮像セルの位置により定まる前記物体光の前記集光器への入射方向に基づいて並び替えて、並び替えた各前記画像信号を合成し、前記撮像素子が複数の仮想位置の各々に位置する場合に得られるべき再構成画像を生成する再構成手段と、
各前記領域に入射する光量が最大となる前記仮想位置を特定し、前記カメラの光学系のパラメータに基づき前記特定された前記仮想位置を変換し前記距離を算出する距離算出手段とをさらに備える、距離測定装置。
【請求項2】
各前記領域の外周が互いに接する、請求項1に記載の距離測定装置。
【請求項3】
各前記配置パターンにおいて、前記複数の遮光部および前記複数の開口部は市松模様に配置される、請求項1または2に記載の距離測定装置。
【請求項4】
各前記配置パターンにおいて、近接する2×2の前記集光器に対応する前記複数の遮光部および前記複数の開口部は、2×2の前記集光器のうち所定の1つの前記集光器の光を透過するように配置される、請求項1または2に記載の距離測定装置。
【請求項5】
前記シャッターは、液晶シャッターである、請求項1から4のいずれか1項に記載の距離測定装置。
【請求項6】
前記シャッターは、所定の開口を持ち、前記複数のパターンに対応して移動可能な遮光マスクである、請求項1から4のいずれか1項に記載の距離測定装置。
【請求項7】
撮像素子を有するカメラを用いて、対象物までの距離を測定するための距離測定方法であって、
前記撮像素子は、それぞれが前記対象物からの物体光を画像信号に変換する複数の撮像セルからなり、
前記カメラは、
前記物体光を集光する撮像レンズと、
前記撮像レンズを通過した前記物体光が入射する複数の集光器からなる集光アレイと、
前記撮像素子に入射する光を制御するシャッターとを含み、
前記シャッターは、複数の前記集光器を透過する光を遮蔽する複数の遮光部および複数の前記集光器を透過する光を通す複数の開口部が、それぞれ配置される複数の配置パターンを有し、
各前記集光部を透過する光は、いずれか1つの前記配置パターンにおいて、前記シャッターを通過し、
各前記配置パターンにおいて、各前記開口部を透過した前記物体光は、前記撮像素子上の互いに異なり、各々が前記集光器の大きさよりも大きい領域に入射し、
各前記配置パターンにおいて前記カメラで前記画像信号を得るステップと、
各前記配置パターンにおいて前記カメラで得た前記画像信号を、各前記領域における前記物体光を検出した前記撮像セルの位置により定まる前記物体光の前記集光器への入射方向に基づいて並び替えて、並び替えた各前記画像信号を合成し、前記撮像素子が複数の仮想位置の各々に位置する場合に得られるべき再構成画像を生成するステップと、
各前記領域に入射する光量が最大となる前記仮想位置を特定し、前記カメラの光学系のパラメータに基づき前記特定された前記仮想位置を変換し前記距離を算出するステップとを備える、距離測定方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2009−250685(P2009−250685A)
【公開日】平成21年10月29日(2009.10.29)
【国際特許分類】
【出願番号】特願2008−96434(P2008−96434)
【出願日】平成20年4月2日(2008.4.2)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
【公開日】平成21年10月29日(2009.10.29)
【国際特許分類】
【出願日】平成20年4月2日(2008.4.2)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
[ Back to top ]