距離情報検出装置
【課題】1回の撮像で画像データ内の対象物の距離情報を算出することが可能な距離情報検出装置を提供する。
【解決手段】距離情報検出装置20Aは、対象物PXからの光を集光する撮像レンズ11と、撮像レンズ11からの光を受けるマイクロレンズアレイ12と、マイクロレンズアレイ12を介して対象物PXを撮像する撮像素子13とを含む画像センサカメラ1と、画像処理部4Aとを備える。画像処理部4Aは、撮像素子13で撮像された画像のエッジ部分を検出するエッジ検出部41Aと、検出された画像のエッジ部分の撮像素子13上の画素値の分布状態を検出する分布状態検出部42Aと、検出された分布状態に基づいてエッジ部分の撮像素子13からの距離情報を検出する距離検出部43Aとを含む。
【解決手段】距離情報検出装置20Aは、対象物PXからの光を集光する撮像レンズ11と、撮像レンズ11からの光を受けるマイクロレンズアレイ12と、マイクロレンズアレイ12を介して対象物PXを撮像する撮像素子13とを含む画像センサカメラ1と、画像処理部4Aとを備える。画像処理部4Aは、撮像素子13で撮像された画像のエッジ部分を検出するエッジ検出部41Aと、検出された画像のエッジ部分の撮像素子13上の画素値の分布状態を検出する分布状態検出部42Aと、検出された分布状態に基づいてエッジ部分の撮像素子13からの距離情報を検出する距離検出部43Aとを含む。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、距離情報検出装置に関し、特に、マイクロレンズを用いた距離情報検出装置に関する。
【背景技術】
【0002】
近年、産業用ロボットや各種FA(Factory Automation)機器を用いて生産ラインを自動化するシステムおよび知能ロボットのインテリジェント化を図るために、視覚センサが重要となっている。特に、ロボットアームを用いたシステムにおいては、ワークの位置、姿勢、形状等の計測に視覚センサとして画像センサカメラが多く用いられている。
【0003】
また、半導体デバイスや回路部品の実装基板の製造においては、製品の品質を管理するために、半田バンプや金バンプなど2次元状に配置された微小なデバイスの高さ情報を測定するというニーズが高まっている。さらに、製造ラインにおける機器部品の3次元的な位置、姿勢、形状の計測、および製品の外形形状を検査するニーズが高まっている。
【0004】
上記のようなニーズに対応すべく、従来より、2次元画像センサカメラの画像から擬似的に高さおよび姿勢情報を検出したり、複数の画像センサカメラを用いたステレオ方式による3次元情報測定システムが用いられたりしている。しかしながら、前者の2次元画像センサカメラの場合、対象物の奥行き距離および高さ情報を直接検出できないという課題があった。また、後者の3次元情報測定システムの場合、複数のカメラや複雑な画像処理が必要になる等の課題があった。
【0005】
図25は、共焦点顕微鏡の原理を用いた従来の高さ情報測定装置100の概略的な構成を示した図である。
【0006】
図25を参照して、従来の高さ情報測定装置100は、共焦点光学系101と、2次元画像カメラ102と、光源103と、対物レンズ104と、ステージ105とを備える。共焦点光学系101は、フォーカス駆動信号FSを受けて対物レンズ104を駆動する。2次元画像カメラ102は、測定された試料106の画像データPDを出力する。このように、高さ情報測定装置100は、比較的小さな対象物の高さ情報を測定する方法として、共焦点顕微鏡の原理を利用している(例えば、特許文献1参照)。
【0007】
図26は、図25の高さ情報測定装置100で試料106の高さ情報HDがどのように測定されるのかを示した模式図である。
【0008】
図26に示すように、高さ情報測定装置100は、ステージ105上の試料106を高さ方向に移動させながら、複数の高さ位置a〜dで水平面の共焦点画像を撮像する。高さ情報測定装置100は、得られた画像データPDの画素ごとの輝度情報を比較し、最大輝度を有する画素を含む共焦点画素データを用いて粒子解析を行なう。高さ情報測定装置100は、粒子解析によって特定領域を抽出した後、抽出された領域における輝度および高さの代表値を算出し、試料106の高さ情報HDを求める。
【0009】
また、撮像素子を用いたカメラシステムにおいて、取得した画像データをデジタル処理により合成し、後で好きなようにピントを手前または奥に移動できるプレノプティックカメラが提案されている(たとえば、非特許文献1参照)。
【0010】
プレノプティックカメラは、普通のカメラレンズを用いて通常の方法で画像を形成するが、マイクロレンズアレイを像平面に正確に配置している。さらに、マイクロレンズアレイより多くの撮像ピクセルを有するイメージセンサアレイ(撮像素子)をマイクロレンズアレイのすぐ背後に配置している。
【0011】
プレノプティックカメラでは、マイクロレンズアレイ内のレンズの数で最終画像の画素数が決まる。プレノプティックカメラは、単一のマイクロレンズに割り当てられた多数のセンサピクセルにより、そのマイクロレンズに入射する光の方向および強度を同時に記録することができる。プレノプティックカメラは、記録された光の方向および強度のデータを用いて、所定の距離にピントを合わせた画像を再構築することができる。
【特許文献1】特開2003−75119号公報
【非特許文献1】レン・Ng(Ren Ng) 外5名、「携帯型プレノプティックカメラを備えた光電界写真技術(Light Field Photography with a Hand-held Plenoptic Camera)」、スタンフォード・テクニカルレポート(Stanford Tech Report)、CTSR2005−02
【発明の開示】
【発明が解決しようとする課題】
【0012】
特許文献1のように、共焦点顕微鏡の原理を用いて複数の共焦点画像を取得する場合、ステージの面方向への走査に加え、高さ方向への移動という操作が必要となる。この場合、2次元画像データを高さを変えて複数回取得する度に、ステージ105の移動および停止、対物レンズ104のオートフォーカシングなどに時間が必要となる。また、オートフォーカス機構を含む移動機構系が大型化される。
【0013】
また、非特許文献1に開示されたプレノプティックカメラでは、取得画像データに対して、たとえばオペレータがピント位置(距離)を入力する。これにより、その位置にフォーカシングされた画像を、データの並び替え(再構成)を通じて作り出している。しかし、非特許文献1には、フォーカシング画像を用いて対象物の距離情報を算出することは開示されていない。
【0014】
それゆえに、この発明の目的は、1回の撮像で画像データ内の対象物の距離情報を算出することが可能な距離情報検出装置を提供することである。
【課題を解決するための手段】
【0015】
この発明のある局面によれば、対象物の距離情報を検出する距離情報検出装置であって、対象物からの光を集光する撮像レンズと、撮像レンズからの光を受けるマイクロレンズアレイと、マイクロレンズアレイを介して対象物を撮像する撮像素子とを含む撮像部と、撮像素子で撮像された画像のエッジ部分を検出するエッジ検出部と、検出された画像のエッジ部分の撮像素子上の画素値の分布状態を検出する分布状態検出部と、検出された分布状態に基づいてエッジ部分の撮像素子からの距離情報を検出する距離検出部とを備える。
【0016】
好ましくは、分布状態検出部は、マイクロレンズアレイの中の1つのマイクロレンズに対応する撮像画素群を単位として画素値の分布状態を検出する。
【0017】
好ましくは、分布状態検出部は、マイクロレンズアレイの中の1つのマイクロレンズに対応する画素群を中心とした複数の隣接する撮像画素群を単位として画素値の分布状態を検出する。
【0018】
好ましくは、撮像素子上の画素値の対象物の位置に応じた分布状態を予め格納したメモリをさらに備え、分布状態検出部は、メモリに格納された分布状態とのパターンマッチングにより画素値の分布状態を検出する。
【0019】
好ましくは、エッジ部分の対象物の位置に応じた撮像素子からの距離情報を予め格納したメモリをさらに備え、距離検出部は、メモリに格納された距離情報との対応付けにより撮像素子からの距離情報を検出する。
【0020】
好ましくは、分布状態検出部は、エッジ付近の画素群の輝度の中心位置を求めることにより、対象物が近点側にあるのか遠点側にあるのかを判別する。
【0021】
好ましくは、距離検出部は、分布状態検出で検出される複数のエッジ部分での画素値の分布状態を平均化して、エッジ部分の撮像素子からの距離情報を検出する。
【0022】
好ましくは、エッジ検出部は、画像データに対して画素単位で隣接画素群との輝度の差分値を計算することにより画像のエッジ部分を検出する。
【0023】
好ましくは、エッジ検出部は、撮像素子で撮像された単一画像のエッジ部分を検出する。
【0024】
好ましくは、エッジ検出部は、微分フィルタを含む。
【発明の効果】
【0025】
この発明によれば、1回の撮像により、画像データ内の対象物の距離情報を算出することができる。
【発明を実施するための最良の形態】
【0026】
以下、この発明の実施の形態について図面を参照して詳しく説明する。なお、図中同一または相当部分には同一符号を付してその説明は繰り返さない。
【0027】
[実施の形態1]
図1は、この発明の実施の形態1による距離情報検出装置20Aの概略的な構成を示したブロック図である。
【0028】
図1を参照して、実施の形態1の距離情報検出装置20Aは、画像センサカメラ1と、画像キャプチャボード2と、メモリ3と、画像処理部4Aと、表示モニタ5とを備える。画像センサカメラ1は、撮像レンズ(以後、メインレンズと称す)11と、マイクロレンズアレイ12と、撮像素子13とを含む。撮像素子13は、たとえばCCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)である。
【0029】
画像キャプチャボード2は、撮像素子13の画像を取得する。メモリ3は、当該画像データを保存する。画像処理部4Aは、エッジ検出部41Aと、分布状態検出部42Aと、距離検出部43Aとを含む。エッジ検出部41Aは、画像キャプチャボード2により取得した対象物の単一画像から画像のエッジ部分を検出する。分布状態検出部42Aは、検出されたエッジ部分の撮像画素への投影分布状態を検出する。距離検出部43Aは、分布状態検出部42Aでの検出結果を距離情報に変換する。表示モニタ5は、上述した各種の検出結果などを表示する。
【0030】
図2は、図1の距離情報検出装置20Aにおける画像センサカメラ1の光学系の構成を示した図である。
【0031】
図2を参照して、画像センサカメラ1は、メインレンズ11と、複数のマイクロレンズ12mを有するマイクロレンズアレイ12と、撮像素子13とを含む。実施の形態1の距離情報検出装置20Aは、画像センサカメラ1の光学系に1つの特徴がある。
【0032】
画像センサカメラ1では、対象物PXがA1の位置にある場合、その像がほぼマイクロレンズ12m上に結像されるように、メインレンズ11およびマイクロレンズアレイ12を配置する。このときの対象物PXの位置を合焦点位置A1と呼び、それよりもメインレンズ11に近い側を近点位置B1、遠い側を遠点位置C1と呼ぶ。撮像素子13は、マイクロレンズアレイ12のほぼ焦点位置に配置されている。マイクロレンズ12m上に集光された合焦位置にある点像の対象物PXの光が、マイクロレンズ12mを通って拡大され、撮像素子13に入射する。
【0033】
次に、図3〜15を参照して、画像センサカメラ1を用いた撮像および距離情報検出の原理を説明する。
【0034】
図3は、点像の対象物PXが合焦点位置A1から近点位置B1または遠点位置C1に移動した場合のメインレンズ11の集光位置を示した図である。
【0035】
図3において、対象物PXが配置されている位置が合焦点位置A1である。合焦点位置A1から見てメインレンズ11に近い側を、対象物PX側から順に近点位置B1,B2,B3と呼ぶ。合焦点位置A1から見てメインレンズ11から遠い側を、対象物PX側から順に遠点位置C1,C2,C3と呼ぶ。
【0036】
点像の対象物PXが合焦点位置A1にある場合のメインレンズ11の集光位置をE1と呼ぶ。集光位置E1は、ほぼマイクロレンズアレイ12の位置となる。図3は、点像の対象物PXが、合焦点位置A1から近点位置B1,B2,B3または遠点位置C1,C2,C3に移動した場合のメインレンズ11での集光位置(結像位置)を示している。
【0037】
図4は、点像の対象物PXの位置に応じたマイクロレンズアレイ12上の入射光PLの形状を示した図である。図4の(a)〜(c)は、対象物PXが遠点位置C1、合焦点位置A1、近点位置B1にある場合のマイクロレンズアレイ12上の入射光PLの形状をそれぞれ示す。図4では、マイクロレンズアレイ12上のマイクロレンズ12mの位置をM(i,j)と表わす(i,j=1,2,3)。
【0038】
図5は、点像の対象物PXの位置に応じた撮像素子13上の入射光PLの形状を示した図である。図5の(a)〜(c)は、対象物PXが遠点位置C1、合焦点位置A1、近点位置B1にある場合の撮像素子13上の入射光PLの形状をそれぞれ示す。図5では、撮像素子13上の画素群の位置をT(i,j)と表わす(i,j=1,2,3)。
【0039】
撮像素子13上の1つの画素群は、マイクロレンズ12mの1個に対応する。1つの画素群は、たとえば12×12個程度の画素で構成される。なお、撮像素子13上の1つの画素群が、隣接する複数のマイクロレンズ12mに対応してもよい。
【0040】
図3〜5を参照して、合焦点位置A1の対象物PXからの入射光PLは、図4(b)に示すように、ほぼマイクロレンズM(2,2)上に集光される。マイクロレンズM(2,2)を通過した当該入射光PLは、図5(b)に示すように、撮像素子13の画素群T(2,2)に対して全面に広がって入射する。
【0041】
遠点位置C1の対象物PXからの入射光PLは、メインレンズ11を通っていったん集光された後、デフォーカス状態になって広がり、図4(a)に示すように、マイクロレンズM(1,2),M(2,1),M(2,2),M(2,3),M(3,2)上に入射する。マイクロレンズM(1,2)等を通過した当該入射光PLは、図5(a)に示すように、撮像素子13の画素群T(1,2),T(2,1),T(2,2),T(2,3),T(3,2)の一部にそれぞれ入射する。
【0042】
近点位置B1の対象物PXからの入射光PLは、メインレンズ11を通って、図4(c)に示すように、マイクロレンズM(1,2),M(2,1),M(2,2),M(2,3),M(3,2)上に入射する。マイクロレンズM(1,2)等を通過した当該入射光PLは、図5(c)に示すように、撮像素子13の画素群T(1,2),T(2,1),T(2,2),T(2,3),T(3,2)の一部にそれぞれ入射する。
【0043】
図4(a),(c)に示すように、マイクロレンズアレイ12上での入射光PLの分布は、対象物PXが遠点位置C1であっても近点位置B1であっても、合焦点位置A1から位置が対称であれば変わらない。一方、図5(a),(c)に示すように、撮像素子13上での入射光PLの分布は、対象物PXのメインレンズ11からの距離に応じて、マイクロレンズM(i,j)ごとの撮像素子13の画素群T(i,j)を1つの単位として、特徴的な分布を示す。この特徴的な分布を以下に詳述する。
【0044】
図6〜12は、点像の対象物PXの位置に応じたマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示した図である。図6〜12では、マイクロレンズアレイ12上のマイクロレンズ12mの位置をM(i,j)と表わす(i,j=1〜5)。また、撮像素子13上の画素群の位置をT(i,j)と表わす(i,j=1〜5)。
【0045】
図6は、対象物PXが近点位置B3にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0046】
図3,6を参照して、近点位置B3の対象物PXからの入射光PLは、メインレンズ11を通って、図6(a)に示すように、マイクロレンズM(1,2)〜M(1,4),M(2,1)〜M(4,5),M(5,2)〜M(5,4)上に入射する。マイクロレンズM(1,2)等を通過した当該入射光PLは、図6(b)に示すように、撮像素子13の画素群T(1,2)〜T(1,4),T(2,1)〜T(4,5),T(5,2)〜T(5,4)の一部にそれぞれ入射する。
【0047】
図7は、対象物PXが近点位置B2にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0048】
図3,7を参照して、近点位置B2の対象物PXからの入射光PLは、メインレンズ11を通って、図7(a)に示すように、マイクロレンズM(2,2)〜M(2,4),M(3,2)〜M(3,4),M(4,2)〜M(4,4)上に入射する。マイクロレンズM(2,2)等を通過した当該入射光PLは、図7(b)に示すように、撮像素子13の画素群T(2,2)〜T(2,4),T(3,2)〜T(3,4),T(4,2)〜T(4,4)の一部にそれぞれ入射する。
【0049】
図8は、対象物PXが近点位置B1にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0050】
図3,8を参照して、近点位置B1の対象物PXからの入射光PLは、メインレンズ11を通って、図8(a)に示すように、マイクロレンズM(2,3),M(3,2)〜M(3,4),M(4,3)上に入射する。マイクロレンズM(2,3)等を通過した当該入射光PLは、図8(b)に示すように、撮像素子13の画素群T(2,3),T(3,2)〜T(3,4),T(4,3)の一部にそれぞれ入射する。
【0051】
図9は、対象物PXが合焦点位置A1にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0052】
図3,9を参照して、合焦点位置A1の対象物PXからの入射光PLは、メインレンズ11を通って、図9(a)に示すように、ほぼマイクロレンズM(3,3)上に集光される。マイクロレンズM(3,3)を通過した当該入射光PLは、図9(b)に示すように、撮像素子13の画素群T(3,3)に対して全面に広がって入射する。
【0053】
図10は、対象物PXが遠点位置C1にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0054】
図3,10を参照して、遠点位置C1の対象物PXからの入射光PLは、メインレンズ11を通って、図10(a)に示すように、マイクロレンズM(2,3),M(3,2)〜M(3,4),M(4,3)上に入射する。マイクロレンズM(2,3)等を通過した当該入射光PLは、図10(b)に示すように、撮像素子13の画素群T(2,3),T(3,2)〜T(3,4),T(4,3)の一部にそれぞれ入射する。
【0055】
図11は、対象物PXが遠点位置C2にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0056】
図3,11を参照して、遠点位置C2の対象物PXからの入射光PLは、メインレンズ11を通って、図11(a)に示すように、マイクロレンズM(2,2)〜M(2,4),M(3,2)〜M(3,4),M(4,2)〜M(4,4)上に入射する。マイクロレンズM(2,2)等を通過した当該入射光PLは、図11(b)に示すように、撮像素子13の画素群T(2,2)〜T(2,4),T(3,2)〜T(3,4),T(4,2)〜T(4,4)の一部にそれぞれ入射する。
【0057】
図12は、対象物PXが遠点位置C3にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0058】
図3,12を参照して、遠点位置C3の対象物PXからの入射光PLは、メインレンズ11を通って、図12(a)に示すように、マイクロレンズM(1,2)〜M(1,4),M(2,1)〜M(4,5),M(5,2)〜M(5,4)上に入射する。マイクロレンズM(1,2)等を通過した当該入射光PLは、図12(b)に示すように、撮像素子13の画素群T(1,2)〜T(1,4),T(2,1)〜T(4,5),T(5,2)〜T(5,4)の一部にそれぞれ入射する。
【0059】
図6〜12に示すように、点像の対象物PXからの入射光PLは、合焦点位置A1ではマイクロレンズアレイ12上で集光する。これに対し、近点位置B1〜B3および遠点位置C1〜C3では、点像の対象物PXからの入射光PLは像が拡大し、中央部だけでなく周囲のマイクロレンズ12mにも光が入射する。図6(a)〜図12(a)に示すように、近点位置B1〜B3と遠点位置C1〜C3とでは、マイクロレンズアレイ12上において同じように像が拡大する。
【0060】
上記に対し、撮像素子13上では、図6(b)〜図12(b)に示すように、中央の画素群を中心に、対象物PXが合焦点位置A1から距離的に離れるほど、周囲の画素群に入射光PLの分布が広がっていく。さらに、近点位置B1〜B3と遠点位置C1〜C3とで、画素群上での入射光PLの像の形状が異なる。近点位置B1〜B3では、中央の画素群を中心に周囲の画素群では画素群領域の内側に分割された光が入射する。これに対し、遠点位置C1〜C3では、中央の画素群を中心に周囲の画素群では画素群領域の外側に分割された光が入射する。
【0061】
上記のように、撮像素子13の画素群における入射光PLの分布は、対象物PXの合焦点位置A1からの距離に応じた特徴的なものとなる。したがって、撮像素子13において、中央の画素群を中心にどのように入射光PLが拡散して分布しているかを知ることで、対象物PXまでの距離を知ることができる。
【0062】
以上の画像センサカメラ1を用いた撮像および距離情報検出の原理では、対象物PXが点像である場合について説明した。次に、対象物PXが有限の大きさを持つ矢印形状である場合について、図13〜15を用いて説明する。
【0063】
図13は、矢印形状の対象物PXが近点位置B1にある場合のメインレンズ11の集光位置を示した図である。図13に示すように、近点位置B1における矢印形状の対象物PXからの入射光PLは、メインレンズ11を通って、マイクロレンズアレイ12上および撮像素子13上に広がって入射する。
【0064】
図14は、矢印形状の対象物PXが近点位置B1にある場合の撮像素子13での取得画像を示した図である。撮像素子13は、画素群13aを含む。図14に示すように、撮像素子13上において、矢印形状の対象物PXはボケた画像となる。当該取得画像は、マイクロレンズアレイ12を通して取得した画像に相当する。
【0065】
図15は、矢印形状の対象物PXが近点位置B1にある場合の撮像素子13での取得画像を画素群13aで拡大した図である。図15に示すように、矢印形状の対象物PXからの入射光PLは、撮像素子13の画素群13aにおいて、画素群T(1,1)〜T(4,5)の一部にそれぞれ入射する。
【0066】
図15に示す取得画像は、図6〜12に示した点像での現象が矢印形状の対象物PXのエッジ部分で起こっている画像と考えることができる。言い換えると、図15に示す矢印形状の対象物PXの取得画像は、図6〜12で説明した点像の対象物PXでの取得画像の重ね合わせであると考えられる。
【0067】
上記のことは、対象物PXが近点位置B2〜B3および遠点位置C1〜C3にある場合にも当てはまる。すなわち、画像センサカメラ1において、撮像画像に対してエッジ部分の検出を行ない、エッジ部分の撮像画像に対する点像の分布状態を検出することにより、対象物PXまでの距離を計測することができる。
【0068】
次に、この発明の特徴である、単一の取得画像から画像の中の対象物の距離情報(3次元情報)を取得する方法について詳しく説明する。
【0069】
図16は、この発明の実施の形態1による距離情報検出装置20Aが距離情報を算出する画像処理ステップを示したフロー図である。
【0070】
図1,16を参照して、実施の形態1の距離情報検出装置20Aは、まず、画像キャプチャボード2を介して、撮像素子13からの対象物PXの画像データを取得する(ステップS10)。当該画像データは、画像処理部4Aに送られる。画像処理部4Aは、エッジ検出部41Aと、分布状態検出部42Aと、距離検出部43Aとを含む。
【0071】
(1) エッジ検出処理(ステップS20)
エッジ検出部41Aは、画像キャプチャボード2から送られてきた画像データに対して、エッジ強調処理を行ない(ステップS21)、画像のエッジ部分を抽出する(ステップS22)。エッジ強調処理の一例として、空間フィルタに微分フィルタを適用すれば、画像のエッジ部分が強調された画像が得られる。微分フィルタの適用において、たとえば、画像データに対して画素単位で隣接画素群との輝度の差分値を計算することにより、エッジ部分が強調された輝度分布が算出される。
【0072】
エッジ検出法としては、よく知られたロバート(Roberts)法のほか、単純な微分法、そーベル(Sobel)法、2次微分を用いるラプラシアン法など様々な方法がある。各方法に応じて、様々なフィルタが用いられる。
【0073】
エッジが強調された画像は、一般に、元画像のエッジが強い部分について大きな画素値を示すが、エッジではない部分についてもノイズ成分等で小さな画素値が認められる。このような画素値が大小入り混じった画像に対しては、フィルタにしきい値を適宜設定することでノイズ成分の除去が可能になる。このようにして、撮像画像のエッジ部分を検出することが可能となる。
【0074】
(2) 分布検出処理(ステップS30)
分布状態検出部42Aは、エッジ検出部41Aからのエッジ強調データに対して、分布パターンマッチング(ステップS31)および分布検出(ステップS32)を行なう。
【0075】
図17は、矢印形状の対象物PXが近点位置B1〜B3側にあった場合の撮像素子13での取得画像を示した図である。図17の(a)〜(d)は、対象物PXが近点位置B3〜B1および合焦点位置A1にある場合の撮像素子13上の入射光PLの形状をそれぞれ示す。撮像素子13は、画素群13aを含む。
【0076】
図18は、矢印形状の対象物PXが近点位置B1〜B3側にあった場合の撮像素子13での取得画像を画素群13aで拡大した図である。図18の(a)〜(d)は、対象物PXが近点位置B3〜B1および合焦点位置A1にある場合の撮像素子13の画素群13a上の入射光PLの形状をそれぞれ示す。図18では、画素群13a上の画素群の位置をT(i,j)と表わす(i,j=1〜5)。
【0077】
図18(a)〜(d)に示すように、近点位置B3において画素群T(1,1)〜T(5,5)の一部にそれぞれ入射する矢印形状の対象物PXからの入射光PLは、合焦点位置A1では画素群T(1,1)〜T(3,5)の全面に広がって入射する。
【0078】
図19は、矢印形状の対象物PXが遠点位置C1〜C3側にあった場合の撮像素子13での取得画像を示した図である。図19の(a)〜(d)は、対象物PXが遠点位置C3〜C1および合焦点位置A1にある場合の撮像素子13上の入射光PLの形状をそれぞれ示す。撮像素子13は、画素群13aを含む。
【0079】
図20は、矢印形状の対象物PXが遠点位置C1〜C3側にあった場合の撮像素子13での取得画像を画素群13aで拡大した図である。図20の(a)〜(d)は、対象物PXが遠点位置C3〜C1および合焦点位置A1にある場合の撮像素子13の画素群13a上の入射光PLの形状をそれぞれ示す。図20では、画素群13a上の画素群の位置をT(i,j)と表わす(i,j=1〜5)。
【0080】
図20(a)〜(d)に示すように、遠点位置C3において画素群T(1,1)〜T(5,5)の一部に近点位置B3とは異なる形状でそれぞれ入射する矢印形状の対象物PXからの入射光PLは、合焦点位置A1では画素群T(1,1)〜T(3,5)の全面に広がって入射する。
【0081】
仮に、対象物PXの被写体が近点位置B1にあったとする。分布状態検出方法の例として、図1のメモリ3は、図18,20の入射光PLの分布パターンを、近点位置B3〜遠点位置C3という距離情報とともに格納しておく。図1の分布状態検出部42Aは、エッジ検出部41Aで検出された対象物PXのエッジ部分について、図18,20の入射光PLの各分布パターンとパターンマッチングを行なう。
【0082】
マッチングの評価結果として、最も近似性の強いパターンを検出することで、対象物PXのエッジ部分の入射光PLの分布状態を検出することができる。今回の例では、図18(c)の分布パターンが検出される。
【0083】
(3) 距離検出処理(ステップS40)
距離検出部43Aは、分布状態検出部42Aからの分布データに対して、検出分布の距離換算(ステップS41)および距離検出(ステップS42)を行なう。具体的には、マッチングの評価結果として最も近似性の強いパターンの距離情報を、そのエッジ部分の撮像素子13からの距離として検出する。今回の例では、撮像素子13から近点位置B1までの距離が検出される。分布パターンと距離情報との対応付けについては、たとえば図1のメモリ3内にルックアップテーブルを設けることで簡便に実現できる。
【0084】
[実施の形態1の変形例]
次に、実施の形態1の距離情報検出装置20Aにおいて、距離検出を高速化する方法について説明する。
【0085】
図18,20では、矢印形状の対象物PXの位置に応じた撮像素子13での取得画像の画素群13aでの拡大図を示した。図18(d)および図20(d)に示すように、対象物PXが合焦点位置A1にある場合、撮像素子13の画素群T(3,j)(j=1〜5)と画素群T(5,j)(j=1〜5)との輝度差は大きくなる。
【0086】
しかしながら、対象物PXの位置が近点側または遠点側にずれていくにしたがって、図18(a)〜(c)および図20(a)〜(c)に示すように、光の一部が隣接する画素列群に分割移動していく。そのため、撮像素子13の画素群T(3,j)(j=1〜5)と画素群T(5,j)(j=1〜5)との輝度差は小さくなる。
【0087】
図18(a)〜(c)に示すように、対象物PXが近点位置B1〜B3側にあった場合、分割されて入射する光は、画素群の中でエッジに近い側(画素群T(1,j)(j=1〜5)側)に落射する。一方、図20(a)〜(c)に示すように、対象物PXが遠点位置C1〜C3側にあった場合、分割されて入射する光は、画素群の中でエッジに遠い側(画素群T(5,j)(j=1〜5)側)に落射する。
【0088】
したがって、エッジ付近の画素群の輝度の中心位置を求めることで、対象物PXが近点側にあるのか遠点側にあるのかを判別することができる。よって、距離情報検出装置20Aは、分布状態検出部42Aにおいて上記の判別を行なうことにより、パターンマッチングに用いるパターン数が半減する。その結果、処理時間を短縮することができる。
【0089】
以上のように、実施の形態1によれば、図16で説明したステップS10〜S40の距離検出アルゴリズムにより、単一の撮像画像からの画像処理で対象物PXの撮像素子13からの距離を検出することができる。
【0090】
上記のように一度の撮像データから画像処理により距離情報を得ることで、カメラレンズのフォーカシング機構およびステージなどの移動機構が不要となる。そのため、小型かつ低コストな距離情報検出装置を実現できる。
【0091】
また、一度の撮像操作で距離情報を取得できるため、カメラや対象物の複数回の移動時間および撮影時間が短縮される。さらに、上記移動にともなう各画像のマッチング操作などの時間も不要となる。よって、対象物PXの測定時間を大幅に短縮できる。
【0092】
また、実施の形態1の距離情報検出装置における光学系は、撮像素子のごく近傍にマイクロレンズアレイを組込む構成なので、従来の画像センサカメラとほぼ同サイズとなる。そのため、装置を小型化することができ、従来装置との互換性の点でも有利となる。
【0093】
[実施の形態2]
図21は、この発明の実施の形態2による距離情報検出装置20Bの概略的な構成を示したブロック図である。
【0094】
図21を参照して、実施の形態2の距離情報検出装置20Bは、画像処理部4Aが画像処理部4Bに置き換えられた点において、実施の形態1の距離情報検出装置20Aと異なる。よって、実施の形態1と重複する部分の説明は、ここでは繰り返さない。画像処理部4Bは、エッジ検出部41Bと、分布状態検出部42Bと、距離検出部43Bとを含む。エッジ検出部41Bは、画像キャプチャボード2により取得した対象物PXの単一画像から画像の複数のエッジ部分を検出する。分布状態検出部42Bは、検出された複数のエッジ部分の撮像画素への投影分布状態をそれぞれ検出する。距離検出部43Bは、分布状態検出部42Bでの複数の検出結果をを平均化して距離情報に変換する。
【0095】
実施の形態1の距離情報検出装置20Aでは、画像処理部4Aにおいて、1つの直線状のエッジについて1回の距離検出を行なっていた。しかし、距離情報の検出精度を上げるためには、別の場所でも検出を実行して平均化した上で距離検出することが望ましい。
【0096】
そこで、実施の形態2の距離情報検出装置20Bは、1つのエッジに対して複数の箇所で距離検出を行なう距離検出部43Bを備えている。以下では、1つのエッジに対して2箇所で距離検出を行なう場合を例に説明する。検出箇所は適宜決定すればよいが、平均化があるため、近接する箇所から検出するのが望ましい。
【0097】
図22は、この発明の実施の形態2による距離情報検出装置20Bが距離情報を算出する画像処理ステップを示したフロー図である。
【0098】
図21,22を参照して、実施の形態2の距離情報検出装置20Bは、まず、画像キャプチャボード2を介して、撮像素子13からの対象物PXの画像データを取得する(ステップS10)。当該画像データは、画像処理部4Bに送られる。画像処理部4Bは、エッジ検出部41Bと、分布状態検出部42Bと、距離検出部43Bとを含む。
【0099】
(1) エッジ検出処理(ステップS20)
エッジ検出部41Bは、画像キャプチャボード2から送られてきた画像データに対して、エッジ強調処理を行ない(ステップS21)、画像のエッジ部分を抽出する(ステップS22)。さらに、対象物PXの第1の画像領域においてエッジを検出する(ステップS23)。その後、分布状態検出部42Bおよび距離検出部43Bを経て1回目の距離情報が検出されると、エッジ検出部41Bに戻って対象物PXの第2の画像領域において再びエッジを検出する(ステップS24)。
【0100】
エッジが強調された画像は、一般に、元画像のエッジが強い部分について大きな画素値を示すが、エッジではない部分についてもノイズ成分等で小さな画素値が認められる。このような画素値が大小入り混じった画像に対しては、フィルタにしきい値を適宜設定することでノイズ成分の除去が可能になる。このようにして、撮像画像のエッジ部分を検出することが可能となる。
【0101】
(2) 分布検出処理(ステップS30)
分布状態検出部42Bは、エッジ検出部41Bからの第1のエッジ強調データに対して、分布パターンマッチング(ステップS31)および分布検出(ステップS32)を行なう。その後、エッジ検出部41Bからの第2のエッジ強調データに対しても、分布パターンマッチング(ステップS33)および分布検出(ステップS34)を行なう。
【0102】
分布状態検出部42Bは、エッジ検出部41Bで検出された対象物PXのエッジ部分について、メモリ3に格納された入射光PLの距離情報ごとの分布パターンとパターンマッチングを行なう。マッチングの評価結果として、最も近似性の強いパターンを検出することで、対象物PXのエッジ部分の入射光PLの分布状態を検出することができる。
【0103】
(3) 距離検出処理(ステップS40)
距離検出部43Bは、分布状態検出部42Bからの第1の分布データに対して、検出分布の距離換算(ステップS41)および距離検出(ステップS42)を行なう。その後、分布状態検出部42Bからの第2の分布データに対しても、検出分布の距離換算(ステップS43)および距離検出(ステップS44)を行なう。
【0104】
距離情報の検出は、具体的には、マッチングの評価結果として最も近似性の強いパターンの距離情報を、そのエッジ部分の撮像素子13からの距離として検出する。さらに、距離検出部43Bは、検出された第1および第2の距離検出値を平均する(ステップS45)。これにより、対象物PXの距離検出値が確定する(ステップS46)。分布パターンと距離情報との対応付けについては、たとえば図21のメモリ3内にルックアップテーブルを設けることで簡便に実現できる。
【0105】
図23は、矢印形状の対象物PXが近点位置B2〜B1にあった場合の撮像素子13での取得画像を示した図である。図23は、対象物PXが近点位置B2〜B1にある場合の撮像素子13上の入射光PLの形状を示している。撮像素子13は、画素群13a,13bを含む。
【0106】
図24は、矢印形状の対象物PXが近点位置B2〜B1にあった場合の撮像素子13での取得画像を画素群13a,13bで拡大した図である。図24の(a),(b)は、対象物PXが近点位置B2〜B1にある場合の撮像素子13の画素群13a,13b上の入射光PLの形状をそれぞれ示す。図24では、画素群13a,13b上の画素群の位置をT(i,j)と表わす(i,j=1〜5)。
【0107】
図22で説明したように、距離検出部43Bは、ステップS45において、画素群13a,13b上でそれぞれ検出された第1および第2の距離検出値を平均する。これにより、ステップS46において、距離検出値が確定する。
【0108】
従来の高さ情報測定装置は、ステージで対象物の高さを変化させてオートフォーカシングを行なった後、複数枚の画像を取得し、それらの画像の輝度情報に基づいて高さ情報を求める(例えば、特許文献1参照)。
【0109】
これに対し、この発明の実施の形態1,2による距離情報検出装置では、カメラレンズのフォーカシング機構およびステージなどの移動機構が不要となる。さらに、小型かつ低コストで、しかも一度の撮像操作で距離情報を取得することができる。そのため、カメラおよび対象物の複数の移動時間および撮像時間が不要となり、大幅な測定時間の短縮が可能となる。
【0110】
また、従来のプレノプティクカメラは、撮像素子を用いたカメラシステムにおいて、取得した画像データをデジタル処理により合成し、後で好きなようにピントを手前または奥に移動できる(たとえば、非特許文献1参照)。しかし、非特許文献1には、画像の対象物の距離情報を求めることは開示されていなかった。
【0111】
これに対し、この発明の実施の形態1,2による距離情報検出装置は、光学系の基本構成は同じであるが、撮像素子の画素単位ではなく、1つのマイクロレンズに対応する複数の画素から構成される画素単位群での輝度情報を用いる。これにより、対象物の距離情報を算出することができる。
【0112】
以上のように、実施の形態2によれば、図22で説明したステップS10〜S40の距離検出アルゴリズムにより、単一の撮像画像における複数の距離情報を画像処理で平均化して対象物PXの撮像素子13からの距離を検出することができる。これにより、距離情報の検出精度を上げることができる。
【0113】
実施の形態1,2による距離情報検出装置は、撮像素子のごく近傍にマイクロレンズアレイを組込む構成であり、光学系は従来の画像センサカメラとほぼ同サイズである。そのため、広くFA用途としてロボットなどの視覚センサに用いられている2次元画像センサとほぼ同じ外径サイズに光学系が収まる。したがって、実施の形態1,2による距離情報検出装置は、光学系において従来のカメラとの互換性が高い。
【0114】
今回開示された実施の形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した実施の形態の説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【図面の簡単な説明】
【0115】
【図1】この発明の実施の形態1による距離情報検出装置20Aの概略的な構成を示したブロック図である。
【図2】図1の距離情報検出装置20Aにおける画像センサカメラ1の光学系の構成を示した図である。
【図3】点像の対象物PXが合焦点位置A1から近点位置B1または遠点位置C1に移動した場合のメインレンズ11の集光位置を示した図である。
【図4】点像の対象物PXの位置に応じたマイクロレンズアレイ12上の入射光PLの形状を示した図である。
【図5】点像の対象物PXの位置に応じた撮像素子13上の入射光PLの形状を示した図である。
【図6】対象物PXが近点位置B3にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図7】対象物PXが近点位置B2にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図8】対象物PXが近点位置B1にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図9】対象物PXが合焦点位置A1にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図10】対象物PXが遠点位置C1にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図11】対象物PXが遠点位置C2にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図12】対象物PXが遠点位置C3にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図13】矢印形状の対象物PXが近点位置B1にある場合のメインレンズ11の集光位置を示した図である。
【図14】矢印形状の対象物PXが近点位置B1にある場合の撮像素子13での取得画像を示した図である。
【図15】矢印形状の対象物PXが近点位置B1にある場合の撮像素子13での取得画像を画素群13aで拡大した図である。
【図16】この発明の実施の形態1による距離情報検出装置20Aが距離情報を算出する画像処理ステップを示したフロー図である。
【図17】矢印形状の対象物PXが近点位置B1〜B3側にあった場合の撮像素子13での取得画像を示した図である。
【図18】矢印形状の対象物PXが近点位置B1〜B3側にあった場合の撮像素子13での取得画像を画素群13aで拡大した図である。
【図19】矢印形状の対象物PXが遠点位置C1〜C3側にあった場合の撮像素子13での取得画像を示した図である。
【図20】矢印形状の対象物PXが遠点位置C1〜C3側にあった場合の撮像素子13での取得画像を画素群13aで拡大した図である。
【図21】この発明の実施の形態2による距離情報検出装置20Bの概略的な構成を示したブロック図である。
【図22】この発明の実施の形態2による距離情報検出装置20Bが距離情報を算出する画像処理ステップを示したフロー図である。
【図23】矢印形状の対象物PXが近点位置B2〜B1にあった場合の撮像素子13での取得画像を示した図である。
【図24】矢印形状の対象物PXが近点位置B2〜B1にあった場合の撮像素子13での取得画像を画素群13a,13bで拡大した図である。
【図25】共焦点顕微鏡の原理を用いた従来の高さ情報測定装置100の概略的な構成を示した図である。
【図26】図25の高さ情報測定装置100で試料106の高さ情報HDがどのように測定されるのかを示した模式図である。
【符号の説明】
【0116】
1 画像センサカメラ、2 画像キャプチャボード、3 メモリ、4A,4B 画像処理部、5 表示モニタ、11 撮像レンズ、12 マイクロレンズアレイ、12m マイクロレンズ、13 撮像素子、13a,13b 画素群、20A,20B 距離情報検出装置、41A,41B エッジ検出部、42A,42B 分布状態検出部、43A 距離検出部、100 高さ情報測定装置、101 共焦点光学系、102 2次元画像カメラ、103 光源、104 対物レンズ、105 ステージ、106 試料。
【技術分野】
【0001】
この発明は、距離情報検出装置に関し、特に、マイクロレンズを用いた距離情報検出装置に関する。
【背景技術】
【0002】
近年、産業用ロボットや各種FA(Factory Automation)機器を用いて生産ラインを自動化するシステムおよび知能ロボットのインテリジェント化を図るために、視覚センサが重要となっている。特に、ロボットアームを用いたシステムにおいては、ワークの位置、姿勢、形状等の計測に視覚センサとして画像センサカメラが多く用いられている。
【0003】
また、半導体デバイスや回路部品の実装基板の製造においては、製品の品質を管理するために、半田バンプや金バンプなど2次元状に配置された微小なデバイスの高さ情報を測定するというニーズが高まっている。さらに、製造ラインにおける機器部品の3次元的な位置、姿勢、形状の計測、および製品の外形形状を検査するニーズが高まっている。
【0004】
上記のようなニーズに対応すべく、従来より、2次元画像センサカメラの画像から擬似的に高さおよび姿勢情報を検出したり、複数の画像センサカメラを用いたステレオ方式による3次元情報測定システムが用いられたりしている。しかしながら、前者の2次元画像センサカメラの場合、対象物の奥行き距離および高さ情報を直接検出できないという課題があった。また、後者の3次元情報測定システムの場合、複数のカメラや複雑な画像処理が必要になる等の課題があった。
【0005】
図25は、共焦点顕微鏡の原理を用いた従来の高さ情報測定装置100の概略的な構成を示した図である。
【0006】
図25を参照して、従来の高さ情報測定装置100は、共焦点光学系101と、2次元画像カメラ102と、光源103と、対物レンズ104と、ステージ105とを備える。共焦点光学系101は、フォーカス駆動信号FSを受けて対物レンズ104を駆動する。2次元画像カメラ102は、測定された試料106の画像データPDを出力する。このように、高さ情報測定装置100は、比較的小さな対象物の高さ情報を測定する方法として、共焦点顕微鏡の原理を利用している(例えば、特許文献1参照)。
【0007】
図26は、図25の高さ情報測定装置100で試料106の高さ情報HDがどのように測定されるのかを示した模式図である。
【0008】
図26に示すように、高さ情報測定装置100は、ステージ105上の試料106を高さ方向に移動させながら、複数の高さ位置a〜dで水平面の共焦点画像を撮像する。高さ情報測定装置100は、得られた画像データPDの画素ごとの輝度情報を比較し、最大輝度を有する画素を含む共焦点画素データを用いて粒子解析を行なう。高さ情報測定装置100は、粒子解析によって特定領域を抽出した後、抽出された領域における輝度および高さの代表値を算出し、試料106の高さ情報HDを求める。
【0009】
また、撮像素子を用いたカメラシステムにおいて、取得した画像データをデジタル処理により合成し、後で好きなようにピントを手前または奥に移動できるプレノプティックカメラが提案されている(たとえば、非特許文献1参照)。
【0010】
プレノプティックカメラは、普通のカメラレンズを用いて通常の方法で画像を形成するが、マイクロレンズアレイを像平面に正確に配置している。さらに、マイクロレンズアレイより多くの撮像ピクセルを有するイメージセンサアレイ(撮像素子)をマイクロレンズアレイのすぐ背後に配置している。
【0011】
プレノプティックカメラでは、マイクロレンズアレイ内のレンズの数で最終画像の画素数が決まる。プレノプティックカメラは、単一のマイクロレンズに割り当てられた多数のセンサピクセルにより、そのマイクロレンズに入射する光の方向および強度を同時に記録することができる。プレノプティックカメラは、記録された光の方向および強度のデータを用いて、所定の距離にピントを合わせた画像を再構築することができる。
【特許文献1】特開2003−75119号公報
【非特許文献1】レン・Ng(Ren Ng) 外5名、「携帯型プレノプティックカメラを備えた光電界写真技術(Light Field Photography with a Hand-held Plenoptic Camera)」、スタンフォード・テクニカルレポート(Stanford Tech Report)、CTSR2005−02
【発明の開示】
【発明が解決しようとする課題】
【0012】
特許文献1のように、共焦点顕微鏡の原理を用いて複数の共焦点画像を取得する場合、ステージの面方向への走査に加え、高さ方向への移動という操作が必要となる。この場合、2次元画像データを高さを変えて複数回取得する度に、ステージ105の移動および停止、対物レンズ104のオートフォーカシングなどに時間が必要となる。また、オートフォーカス機構を含む移動機構系が大型化される。
【0013】
また、非特許文献1に開示されたプレノプティックカメラでは、取得画像データに対して、たとえばオペレータがピント位置(距離)を入力する。これにより、その位置にフォーカシングされた画像を、データの並び替え(再構成)を通じて作り出している。しかし、非特許文献1には、フォーカシング画像を用いて対象物の距離情報を算出することは開示されていない。
【0014】
それゆえに、この発明の目的は、1回の撮像で画像データ内の対象物の距離情報を算出することが可能な距離情報検出装置を提供することである。
【課題を解決するための手段】
【0015】
この発明のある局面によれば、対象物の距離情報を検出する距離情報検出装置であって、対象物からの光を集光する撮像レンズと、撮像レンズからの光を受けるマイクロレンズアレイと、マイクロレンズアレイを介して対象物を撮像する撮像素子とを含む撮像部と、撮像素子で撮像された画像のエッジ部分を検出するエッジ検出部と、検出された画像のエッジ部分の撮像素子上の画素値の分布状態を検出する分布状態検出部と、検出された分布状態に基づいてエッジ部分の撮像素子からの距離情報を検出する距離検出部とを備える。
【0016】
好ましくは、分布状態検出部は、マイクロレンズアレイの中の1つのマイクロレンズに対応する撮像画素群を単位として画素値の分布状態を検出する。
【0017】
好ましくは、分布状態検出部は、マイクロレンズアレイの中の1つのマイクロレンズに対応する画素群を中心とした複数の隣接する撮像画素群を単位として画素値の分布状態を検出する。
【0018】
好ましくは、撮像素子上の画素値の対象物の位置に応じた分布状態を予め格納したメモリをさらに備え、分布状態検出部は、メモリに格納された分布状態とのパターンマッチングにより画素値の分布状態を検出する。
【0019】
好ましくは、エッジ部分の対象物の位置に応じた撮像素子からの距離情報を予め格納したメモリをさらに備え、距離検出部は、メモリに格納された距離情報との対応付けにより撮像素子からの距離情報を検出する。
【0020】
好ましくは、分布状態検出部は、エッジ付近の画素群の輝度の中心位置を求めることにより、対象物が近点側にあるのか遠点側にあるのかを判別する。
【0021】
好ましくは、距離検出部は、分布状態検出で検出される複数のエッジ部分での画素値の分布状態を平均化して、エッジ部分の撮像素子からの距離情報を検出する。
【0022】
好ましくは、エッジ検出部は、画像データに対して画素単位で隣接画素群との輝度の差分値を計算することにより画像のエッジ部分を検出する。
【0023】
好ましくは、エッジ検出部は、撮像素子で撮像された単一画像のエッジ部分を検出する。
【0024】
好ましくは、エッジ検出部は、微分フィルタを含む。
【発明の効果】
【0025】
この発明によれば、1回の撮像により、画像データ内の対象物の距離情報を算出することができる。
【発明を実施するための最良の形態】
【0026】
以下、この発明の実施の形態について図面を参照して詳しく説明する。なお、図中同一または相当部分には同一符号を付してその説明は繰り返さない。
【0027】
[実施の形態1]
図1は、この発明の実施の形態1による距離情報検出装置20Aの概略的な構成を示したブロック図である。
【0028】
図1を参照して、実施の形態1の距離情報検出装置20Aは、画像センサカメラ1と、画像キャプチャボード2と、メモリ3と、画像処理部4Aと、表示モニタ5とを備える。画像センサカメラ1は、撮像レンズ(以後、メインレンズと称す)11と、マイクロレンズアレイ12と、撮像素子13とを含む。撮像素子13は、たとえばCCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)である。
【0029】
画像キャプチャボード2は、撮像素子13の画像を取得する。メモリ3は、当該画像データを保存する。画像処理部4Aは、エッジ検出部41Aと、分布状態検出部42Aと、距離検出部43Aとを含む。エッジ検出部41Aは、画像キャプチャボード2により取得した対象物の単一画像から画像のエッジ部分を検出する。分布状態検出部42Aは、検出されたエッジ部分の撮像画素への投影分布状態を検出する。距離検出部43Aは、分布状態検出部42Aでの検出結果を距離情報に変換する。表示モニタ5は、上述した各種の検出結果などを表示する。
【0030】
図2は、図1の距離情報検出装置20Aにおける画像センサカメラ1の光学系の構成を示した図である。
【0031】
図2を参照して、画像センサカメラ1は、メインレンズ11と、複数のマイクロレンズ12mを有するマイクロレンズアレイ12と、撮像素子13とを含む。実施の形態1の距離情報検出装置20Aは、画像センサカメラ1の光学系に1つの特徴がある。
【0032】
画像センサカメラ1では、対象物PXがA1の位置にある場合、その像がほぼマイクロレンズ12m上に結像されるように、メインレンズ11およびマイクロレンズアレイ12を配置する。このときの対象物PXの位置を合焦点位置A1と呼び、それよりもメインレンズ11に近い側を近点位置B1、遠い側を遠点位置C1と呼ぶ。撮像素子13は、マイクロレンズアレイ12のほぼ焦点位置に配置されている。マイクロレンズ12m上に集光された合焦位置にある点像の対象物PXの光が、マイクロレンズ12mを通って拡大され、撮像素子13に入射する。
【0033】
次に、図3〜15を参照して、画像センサカメラ1を用いた撮像および距離情報検出の原理を説明する。
【0034】
図3は、点像の対象物PXが合焦点位置A1から近点位置B1または遠点位置C1に移動した場合のメインレンズ11の集光位置を示した図である。
【0035】
図3において、対象物PXが配置されている位置が合焦点位置A1である。合焦点位置A1から見てメインレンズ11に近い側を、対象物PX側から順に近点位置B1,B2,B3と呼ぶ。合焦点位置A1から見てメインレンズ11から遠い側を、対象物PX側から順に遠点位置C1,C2,C3と呼ぶ。
【0036】
点像の対象物PXが合焦点位置A1にある場合のメインレンズ11の集光位置をE1と呼ぶ。集光位置E1は、ほぼマイクロレンズアレイ12の位置となる。図3は、点像の対象物PXが、合焦点位置A1から近点位置B1,B2,B3または遠点位置C1,C2,C3に移動した場合のメインレンズ11での集光位置(結像位置)を示している。
【0037】
図4は、点像の対象物PXの位置に応じたマイクロレンズアレイ12上の入射光PLの形状を示した図である。図4の(a)〜(c)は、対象物PXが遠点位置C1、合焦点位置A1、近点位置B1にある場合のマイクロレンズアレイ12上の入射光PLの形状をそれぞれ示す。図4では、マイクロレンズアレイ12上のマイクロレンズ12mの位置をM(i,j)と表わす(i,j=1,2,3)。
【0038】
図5は、点像の対象物PXの位置に応じた撮像素子13上の入射光PLの形状を示した図である。図5の(a)〜(c)は、対象物PXが遠点位置C1、合焦点位置A1、近点位置B1にある場合の撮像素子13上の入射光PLの形状をそれぞれ示す。図5では、撮像素子13上の画素群の位置をT(i,j)と表わす(i,j=1,2,3)。
【0039】
撮像素子13上の1つの画素群は、マイクロレンズ12mの1個に対応する。1つの画素群は、たとえば12×12個程度の画素で構成される。なお、撮像素子13上の1つの画素群が、隣接する複数のマイクロレンズ12mに対応してもよい。
【0040】
図3〜5を参照して、合焦点位置A1の対象物PXからの入射光PLは、図4(b)に示すように、ほぼマイクロレンズM(2,2)上に集光される。マイクロレンズM(2,2)を通過した当該入射光PLは、図5(b)に示すように、撮像素子13の画素群T(2,2)に対して全面に広がって入射する。
【0041】
遠点位置C1の対象物PXからの入射光PLは、メインレンズ11を通っていったん集光された後、デフォーカス状態になって広がり、図4(a)に示すように、マイクロレンズM(1,2),M(2,1),M(2,2),M(2,3),M(3,2)上に入射する。マイクロレンズM(1,2)等を通過した当該入射光PLは、図5(a)に示すように、撮像素子13の画素群T(1,2),T(2,1),T(2,2),T(2,3),T(3,2)の一部にそれぞれ入射する。
【0042】
近点位置B1の対象物PXからの入射光PLは、メインレンズ11を通って、図4(c)に示すように、マイクロレンズM(1,2),M(2,1),M(2,2),M(2,3),M(3,2)上に入射する。マイクロレンズM(1,2)等を通過した当該入射光PLは、図5(c)に示すように、撮像素子13の画素群T(1,2),T(2,1),T(2,2),T(2,3),T(3,2)の一部にそれぞれ入射する。
【0043】
図4(a),(c)に示すように、マイクロレンズアレイ12上での入射光PLの分布は、対象物PXが遠点位置C1であっても近点位置B1であっても、合焦点位置A1から位置が対称であれば変わらない。一方、図5(a),(c)に示すように、撮像素子13上での入射光PLの分布は、対象物PXのメインレンズ11からの距離に応じて、マイクロレンズM(i,j)ごとの撮像素子13の画素群T(i,j)を1つの単位として、特徴的な分布を示す。この特徴的な分布を以下に詳述する。
【0044】
図6〜12は、点像の対象物PXの位置に応じたマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示した図である。図6〜12では、マイクロレンズアレイ12上のマイクロレンズ12mの位置をM(i,j)と表わす(i,j=1〜5)。また、撮像素子13上の画素群の位置をT(i,j)と表わす(i,j=1〜5)。
【0045】
図6は、対象物PXが近点位置B3にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0046】
図3,6を参照して、近点位置B3の対象物PXからの入射光PLは、メインレンズ11を通って、図6(a)に示すように、マイクロレンズM(1,2)〜M(1,4),M(2,1)〜M(4,5),M(5,2)〜M(5,4)上に入射する。マイクロレンズM(1,2)等を通過した当該入射光PLは、図6(b)に示すように、撮像素子13の画素群T(1,2)〜T(1,4),T(2,1)〜T(4,5),T(5,2)〜T(5,4)の一部にそれぞれ入射する。
【0047】
図7は、対象物PXが近点位置B2にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0048】
図3,7を参照して、近点位置B2の対象物PXからの入射光PLは、メインレンズ11を通って、図7(a)に示すように、マイクロレンズM(2,2)〜M(2,4),M(3,2)〜M(3,4),M(4,2)〜M(4,4)上に入射する。マイクロレンズM(2,2)等を通過した当該入射光PLは、図7(b)に示すように、撮像素子13の画素群T(2,2)〜T(2,4),T(3,2)〜T(3,4),T(4,2)〜T(4,4)の一部にそれぞれ入射する。
【0049】
図8は、対象物PXが近点位置B1にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0050】
図3,8を参照して、近点位置B1の対象物PXからの入射光PLは、メインレンズ11を通って、図8(a)に示すように、マイクロレンズM(2,3),M(3,2)〜M(3,4),M(4,3)上に入射する。マイクロレンズM(2,3)等を通過した当該入射光PLは、図8(b)に示すように、撮像素子13の画素群T(2,3),T(3,2)〜T(3,4),T(4,3)の一部にそれぞれ入射する。
【0051】
図9は、対象物PXが合焦点位置A1にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0052】
図3,9を参照して、合焦点位置A1の対象物PXからの入射光PLは、メインレンズ11を通って、図9(a)に示すように、ほぼマイクロレンズM(3,3)上に集光される。マイクロレンズM(3,3)を通過した当該入射光PLは、図9(b)に示すように、撮像素子13の画素群T(3,3)に対して全面に広がって入射する。
【0053】
図10は、対象物PXが遠点位置C1にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0054】
図3,10を参照して、遠点位置C1の対象物PXからの入射光PLは、メインレンズ11を通って、図10(a)に示すように、マイクロレンズM(2,3),M(3,2)〜M(3,4),M(4,3)上に入射する。マイクロレンズM(2,3)等を通過した当該入射光PLは、図10(b)に示すように、撮像素子13の画素群T(2,3),T(3,2)〜T(3,4),T(4,3)の一部にそれぞれ入射する。
【0055】
図11は、対象物PXが遠点位置C2にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0056】
図3,11を参照して、遠点位置C2の対象物PXからの入射光PLは、メインレンズ11を通って、図11(a)に示すように、マイクロレンズM(2,2)〜M(2,4),M(3,2)〜M(3,4),M(4,2)〜M(4,4)上に入射する。マイクロレンズM(2,2)等を通過した当該入射光PLは、図11(b)に示すように、撮像素子13の画素群T(2,2)〜T(2,4),T(3,2)〜T(3,4),T(4,2)〜T(4,4)の一部にそれぞれ入射する。
【0057】
図12は、対象物PXが遠点位置C3にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【0058】
図3,12を参照して、遠点位置C3の対象物PXからの入射光PLは、メインレンズ11を通って、図12(a)に示すように、マイクロレンズM(1,2)〜M(1,4),M(2,1)〜M(4,5),M(5,2)〜M(5,4)上に入射する。マイクロレンズM(1,2)等を通過した当該入射光PLは、図12(b)に示すように、撮像素子13の画素群T(1,2)〜T(1,4),T(2,1)〜T(4,5),T(5,2)〜T(5,4)の一部にそれぞれ入射する。
【0059】
図6〜12に示すように、点像の対象物PXからの入射光PLは、合焦点位置A1ではマイクロレンズアレイ12上で集光する。これに対し、近点位置B1〜B3および遠点位置C1〜C3では、点像の対象物PXからの入射光PLは像が拡大し、中央部だけでなく周囲のマイクロレンズ12mにも光が入射する。図6(a)〜図12(a)に示すように、近点位置B1〜B3と遠点位置C1〜C3とでは、マイクロレンズアレイ12上において同じように像が拡大する。
【0060】
上記に対し、撮像素子13上では、図6(b)〜図12(b)に示すように、中央の画素群を中心に、対象物PXが合焦点位置A1から距離的に離れるほど、周囲の画素群に入射光PLの分布が広がっていく。さらに、近点位置B1〜B3と遠点位置C1〜C3とで、画素群上での入射光PLの像の形状が異なる。近点位置B1〜B3では、中央の画素群を中心に周囲の画素群では画素群領域の内側に分割された光が入射する。これに対し、遠点位置C1〜C3では、中央の画素群を中心に周囲の画素群では画素群領域の外側に分割された光が入射する。
【0061】
上記のように、撮像素子13の画素群における入射光PLの分布は、対象物PXの合焦点位置A1からの距離に応じた特徴的なものとなる。したがって、撮像素子13において、中央の画素群を中心にどのように入射光PLが拡散して分布しているかを知ることで、対象物PXまでの距離を知ることができる。
【0062】
以上の画像センサカメラ1を用いた撮像および距離情報検出の原理では、対象物PXが点像である場合について説明した。次に、対象物PXが有限の大きさを持つ矢印形状である場合について、図13〜15を用いて説明する。
【0063】
図13は、矢印形状の対象物PXが近点位置B1にある場合のメインレンズ11の集光位置を示した図である。図13に示すように、近点位置B1における矢印形状の対象物PXからの入射光PLは、メインレンズ11を通って、マイクロレンズアレイ12上および撮像素子13上に広がって入射する。
【0064】
図14は、矢印形状の対象物PXが近点位置B1にある場合の撮像素子13での取得画像を示した図である。撮像素子13は、画素群13aを含む。図14に示すように、撮像素子13上において、矢印形状の対象物PXはボケた画像となる。当該取得画像は、マイクロレンズアレイ12を通して取得した画像に相当する。
【0065】
図15は、矢印形状の対象物PXが近点位置B1にある場合の撮像素子13での取得画像を画素群13aで拡大した図である。図15に示すように、矢印形状の対象物PXからの入射光PLは、撮像素子13の画素群13aにおいて、画素群T(1,1)〜T(4,5)の一部にそれぞれ入射する。
【0066】
図15に示す取得画像は、図6〜12に示した点像での現象が矢印形状の対象物PXのエッジ部分で起こっている画像と考えることができる。言い換えると、図15に示す矢印形状の対象物PXの取得画像は、図6〜12で説明した点像の対象物PXでの取得画像の重ね合わせであると考えられる。
【0067】
上記のことは、対象物PXが近点位置B2〜B3および遠点位置C1〜C3にある場合にも当てはまる。すなわち、画像センサカメラ1において、撮像画像に対してエッジ部分の検出を行ない、エッジ部分の撮像画像に対する点像の分布状態を検出することにより、対象物PXまでの距離を計測することができる。
【0068】
次に、この発明の特徴である、単一の取得画像から画像の中の対象物の距離情報(3次元情報)を取得する方法について詳しく説明する。
【0069】
図16は、この発明の実施の形態1による距離情報検出装置20Aが距離情報を算出する画像処理ステップを示したフロー図である。
【0070】
図1,16を参照して、実施の形態1の距離情報検出装置20Aは、まず、画像キャプチャボード2を介して、撮像素子13からの対象物PXの画像データを取得する(ステップS10)。当該画像データは、画像処理部4Aに送られる。画像処理部4Aは、エッジ検出部41Aと、分布状態検出部42Aと、距離検出部43Aとを含む。
【0071】
(1) エッジ検出処理(ステップS20)
エッジ検出部41Aは、画像キャプチャボード2から送られてきた画像データに対して、エッジ強調処理を行ない(ステップS21)、画像のエッジ部分を抽出する(ステップS22)。エッジ強調処理の一例として、空間フィルタに微分フィルタを適用すれば、画像のエッジ部分が強調された画像が得られる。微分フィルタの適用において、たとえば、画像データに対して画素単位で隣接画素群との輝度の差分値を計算することにより、エッジ部分が強調された輝度分布が算出される。
【0072】
エッジ検出法としては、よく知られたロバート(Roberts)法のほか、単純な微分法、そーベル(Sobel)法、2次微分を用いるラプラシアン法など様々な方法がある。各方法に応じて、様々なフィルタが用いられる。
【0073】
エッジが強調された画像は、一般に、元画像のエッジが強い部分について大きな画素値を示すが、エッジではない部分についてもノイズ成分等で小さな画素値が認められる。このような画素値が大小入り混じった画像に対しては、フィルタにしきい値を適宜設定することでノイズ成分の除去が可能になる。このようにして、撮像画像のエッジ部分を検出することが可能となる。
【0074】
(2) 分布検出処理(ステップS30)
分布状態検出部42Aは、エッジ検出部41Aからのエッジ強調データに対して、分布パターンマッチング(ステップS31)および分布検出(ステップS32)を行なう。
【0075】
図17は、矢印形状の対象物PXが近点位置B1〜B3側にあった場合の撮像素子13での取得画像を示した図である。図17の(a)〜(d)は、対象物PXが近点位置B3〜B1および合焦点位置A1にある場合の撮像素子13上の入射光PLの形状をそれぞれ示す。撮像素子13は、画素群13aを含む。
【0076】
図18は、矢印形状の対象物PXが近点位置B1〜B3側にあった場合の撮像素子13での取得画像を画素群13aで拡大した図である。図18の(a)〜(d)は、対象物PXが近点位置B3〜B1および合焦点位置A1にある場合の撮像素子13の画素群13a上の入射光PLの形状をそれぞれ示す。図18では、画素群13a上の画素群の位置をT(i,j)と表わす(i,j=1〜5)。
【0077】
図18(a)〜(d)に示すように、近点位置B3において画素群T(1,1)〜T(5,5)の一部にそれぞれ入射する矢印形状の対象物PXからの入射光PLは、合焦点位置A1では画素群T(1,1)〜T(3,5)の全面に広がって入射する。
【0078】
図19は、矢印形状の対象物PXが遠点位置C1〜C3側にあった場合の撮像素子13での取得画像を示した図である。図19の(a)〜(d)は、対象物PXが遠点位置C3〜C1および合焦点位置A1にある場合の撮像素子13上の入射光PLの形状をそれぞれ示す。撮像素子13は、画素群13aを含む。
【0079】
図20は、矢印形状の対象物PXが遠点位置C1〜C3側にあった場合の撮像素子13での取得画像を画素群13aで拡大した図である。図20の(a)〜(d)は、対象物PXが遠点位置C3〜C1および合焦点位置A1にある場合の撮像素子13の画素群13a上の入射光PLの形状をそれぞれ示す。図20では、画素群13a上の画素群の位置をT(i,j)と表わす(i,j=1〜5)。
【0080】
図20(a)〜(d)に示すように、遠点位置C3において画素群T(1,1)〜T(5,5)の一部に近点位置B3とは異なる形状でそれぞれ入射する矢印形状の対象物PXからの入射光PLは、合焦点位置A1では画素群T(1,1)〜T(3,5)の全面に広がって入射する。
【0081】
仮に、対象物PXの被写体が近点位置B1にあったとする。分布状態検出方法の例として、図1のメモリ3は、図18,20の入射光PLの分布パターンを、近点位置B3〜遠点位置C3という距離情報とともに格納しておく。図1の分布状態検出部42Aは、エッジ検出部41Aで検出された対象物PXのエッジ部分について、図18,20の入射光PLの各分布パターンとパターンマッチングを行なう。
【0082】
マッチングの評価結果として、最も近似性の強いパターンを検出することで、対象物PXのエッジ部分の入射光PLの分布状態を検出することができる。今回の例では、図18(c)の分布パターンが検出される。
【0083】
(3) 距離検出処理(ステップS40)
距離検出部43Aは、分布状態検出部42Aからの分布データに対して、検出分布の距離換算(ステップS41)および距離検出(ステップS42)を行なう。具体的には、マッチングの評価結果として最も近似性の強いパターンの距離情報を、そのエッジ部分の撮像素子13からの距離として検出する。今回の例では、撮像素子13から近点位置B1までの距離が検出される。分布パターンと距離情報との対応付けについては、たとえば図1のメモリ3内にルックアップテーブルを設けることで簡便に実現できる。
【0084】
[実施の形態1の変形例]
次に、実施の形態1の距離情報検出装置20Aにおいて、距離検出を高速化する方法について説明する。
【0085】
図18,20では、矢印形状の対象物PXの位置に応じた撮像素子13での取得画像の画素群13aでの拡大図を示した。図18(d)および図20(d)に示すように、対象物PXが合焦点位置A1にある場合、撮像素子13の画素群T(3,j)(j=1〜5)と画素群T(5,j)(j=1〜5)との輝度差は大きくなる。
【0086】
しかしながら、対象物PXの位置が近点側または遠点側にずれていくにしたがって、図18(a)〜(c)および図20(a)〜(c)に示すように、光の一部が隣接する画素列群に分割移動していく。そのため、撮像素子13の画素群T(3,j)(j=1〜5)と画素群T(5,j)(j=1〜5)との輝度差は小さくなる。
【0087】
図18(a)〜(c)に示すように、対象物PXが近点位置B1〜B3側にあった場合、分割されて入射する光は、画素群の中でエッジに近い側(画素群T(1,j)(j=1〜5)側)に落射する。一方、図20(a)〜(c)に示すように、対象物PXが遠点位置C1〜C3側にあった場合、分割されて入射する光は、画素群の中でエッジに遠い側(画素群T(5,j)(j=1〜5)側)に落射する。
【0088】
したがって、エッジ付近の画素群の輝度の中心位置を求めることで、対象物PXが近点側にあるのか遠点側にあるのかを判別することができる。よって、距離情報検出装置20Aは、分布状態検出部42Aにおいて上記の判別を行なうことにより、パターンマッチングに用いるパターン数が半減する。その結果、処理時間を短縮することができる。
【0089】
以上のように、実施の形態1によれば、図16で説明したステップS10〜S40の距離検出アルゴリズムにより、単一の撮像画像からの画像処理で対象物PXの撮像素子13からの距離を検出することができる。
【0090】
上記のように一度の撮像データから画像処理により距離情報を得ることで、カメラレンズのフォーカシング機構およびステージなどの移動機構が不要となる。そのため、小型かつ低コストな距離情報検出装置を実現できる。
【0091】
また、一度の撮像操作で距離情報を取得できるため、カメラや対象物の複数回の移動時間および撮影時間が短縮される。さらに、上記移動にともなう各画像のマッチング操作などの時間も不要となる。よって、対象物PXの測定時間を大幅に短縮できる。
【0092】
また、実施の形態1の距離情報検出装置における光学系は、撮像素子のごく近傍にマイクロレンズアレイを組込む構成なので、従来の画像センサカメラとほぼ同サイズとなる。そのため、装置を小型化することができ、従来装置との互換性の点でも有利となる。
【0093】
[実施の形態2]
図21は、この発明の実施の形態2による距離情報検出装置20Bの概略的な構成を示したブロック図である。
【0094】
図21を参照して、実施の形態2の距離情報検出装置20Bは、画像処理部4Aが画像処理部4Bに置き換えられた点において、実施の形態1の距離情報検出装置20Aと異なる。よって、実施の形態1と重複する部分の説明は、ここでは繰り返さない。画像処理部4Bは、エッジ検出部41Bと、分布状態検出部42Bと、距離検出部43Bとを含む。エッジ検出部41Bは、画像キャプチャボード2により取得した対象物PXの単一画像から画像の複数のエッジ部分を検出する。分布状態検出部42Bは、検出された複数のエッジ部分の撮像画素への投影分布状態をそれぞれ検出する。距離検出部43Bは、分布状態検出部42Bでの複数の検出結果をを平均化して距離情報に変換する。
【0095】
実施の形態1の距離情報検出装置20Aでは、画像処理部4Aにおいて、1つの直線状のエッジについて1回の距離検出を行なっていた。しかし、距離情報の検出精度を上げるためには、別の場所でも検出を実行して平均化した上で距離検出することが望ましい。
【0096】
そこで、実施の形態2の距離情報検出装置20Bは、1つのエッジに対して複数の箇所で距離検出を行なう距離検出部43Bを備えている。以下では、1つのエッジに対して2箇所で距離検出を行なう場合を例に説明する。検出箇所は適宜決定すればよいが、平均化があるため、近接する箇所から検出するのが望ましい。
【0097】
図22は、この発明の実施の形態2による距離情報検出装置20Bが距離情報を算出する画像処理ステップを示したフロー図である。
【0098】
図21,22を参照して、実施の形態2の距離情報検出装置20Bは、まず、画像キャプチャボード2を介して、撮像素子13からの対象物PXの画像データを取得する(ステップS10)。当該画像データは、画像処理部4Bに送られる。画像処理部4Bは、エッジ検出部41Bと、分布状態検出部42Bと、距離検出部43Bとを含む。
【0099】
(1) エッジ検出処理(ステップS20)
エッジ検出部41Bは、画像キャプチャボード2から送られてきた画像データに対して、エッジ強調処理を行ない(ステップS21)、画像のエッジ部分を抽出する(ステップS22)。さらに、対象物PXの第1の画像領域においてエッジを検出する(ステップS23)。その後、分布状態検出部42Bおよび距離検出部43Bを経て1回目の距離情報が検出されると、エッジ検出部41Bに戻って対象物PXの第2の画像領域において再びエッジを検出する(ステップS24)。
【0100】
エッジが強調された画像は、一般に、元画像のエッジが強い部分について大きな画素値を示すが、エッジではない部分についてもノイズ成分等で小さな画素値が認められる。このような画素値が大小入り混じった画像に対しては、フィルタにしきい値を適宜設定することでノイズ成分の除去が可能になる。このようにして、撮像画像のエッジ部分を検出することが可能となる。
【0101】
(2) 分布検出処理(ステップS30)
分布状態検出部42Bは、エッジ検出部41Bからの第1のエッジ強調データに対して、分布パターンマッチング(ステップS31)および分布検出(ステップS32)を行なう。その後、エッジ検出部41Bからの第2のエッジ強調データに対しても、分布パターンマッチング(ステップS33)および分布検出(ステップS34)を行なう。
【0102】
分布状態検出部42Bは、エッジ検出部41Bで検出された対象物PXのエッジ部分について、メモリ3に格納された入射光PLの距離情報ごとの分布パターンとパターンマッチングを行なう。マッチングの評価結果として、最も近似性の強いパターンを検出することで、対象物PXのエッジ部分の入射光PLの分布状態を検出することができる。
【0103】
(3) 距離検出処理(ステップS40)
距離検出部43Bは、分布状態検出部42Bからの第1の分布データに対して、検出分布の距離換算(ステップS41)および距離検出(ステップS42)を行なう。その後、分布状態検出部42Bからの第2の分布データに対しても、検出分布の距離換算(ステップS43)および距離検出(ステップS44)を行なう。
【0104】
距離情報の検出は、具体的には、マッチングの評価結果として最も近似性の強いパターンの距離情報を、そのエッジ部分の撮像素子13からの距離として検出する。さらに、距離検出部43Bは、検出された第1および第2の距離検出値を平均する(ステップS45)。これにより、対象物PXの距離検出値が確定する(ステップS46)。分布パターンと距離情報との対応付けについては、たとえば図21のメモリ3内にルックアップテーブルを設けることで簡便に実現できる。
【0105】
図23は、矢印形状の対象物PXが近点位置B2〜B1にあった場合の撮像素子13での取得画像を示した図である。図23は、対象物PXが近点位置B2〜B1にある場合の撮像素子13上の入射光PLの形状を示している。撮像素子13は、画素群13a,13bを含む。
【0106】
図24は、矢印形状の対象物PXが近点位置B2〜B1にあった場合の撮像素子13での取得画像を画素群13a,13bで拡大した図である。図24の(a),(b)は、対象物PXが近点位置B2〜B1にある場合の撮像素子13の画素群13a,13b上の入射光PLの形状をそれぞれ示す。図24では、画素群13a,13b上の画素群の位置をT(i,j)と表わす(i,j=1〜5)。
【0107】
図22で説明したように、距離検出部43Bは、ステップS45において、画素群13a,13b上でそれぞれ検出された第1および第2の距離検出値を平均する。これにより、ステップS46において、距離検出値が確定する。
【0108】
従来の高さ情報測定装置は、ステージで対象物の高さを変化させてオートフォーカシングを行なった後、複数枚の画像を取得し、それらの画像の輝度情報に基づいて高さ情報を求める(例えば、特許文献1参照)。
【0109】
これに対し、この発明の実施の形態1,2による距離情報検出装置では、カメラレンズのフォーカシング機構およびステージなどの移動機構が不要となる。さらに、小型かつ低コストで、しかも一度の撮像操作で距離情報を取得することができる。そのため、カメラおよび対象物の複数の移動時間および撮像時間が不要となり、大幅な測定時間の短縮が可能となる。
【0110】
また、従来のプレノプティクカメラは、撮像素子を用いたカメラシステムにおいて、取得した画像データをデジタル処理により合成し、後で好きなようにピントを手前または奥に移動できる(たとえば、非特許文献1参照)。しかし、非特許文献1には、画像の対象物の距離情報を求めることは開示されていなかった。
【0111】
これに対し、この発明の実施の形態1,2による距離情報検出装置は、光学系の基本構成は同じであるが、撮像素子の画素単位ではなく、1つのマイクロレンズに対応する複数の画素から構成される画素単位群での輝度情報を用いる。これにより、対象物の距離情報を算出することができる。
【0112】
以上のように、実施の形態2によれば、図22で説明したステップS10〜S40の距離検出アルゴリズムにより、単一の撮像画像における複数の距離情報を画像処理で平均化して対象物PXの撮像素子13からの距離を検出することができる。これにより、距離情報の検出精度を上げることができる。
【0113】
実施の形態1,2による距離情報検出装置は、撮像素子のごく近傍にマイクロレンズアレイを組込む構成であり、光学系は従来の画像センサカメラとほぼ同サイズである。そのため、広くFA用途としてロボットなどの視覚センサに用いられている2次元画像センサとほぼ同じ外径サイズに光学系が収まる。したがって、実施の形態1,2による距離情報検出装置は、光学系において従来のカメラとの互換性が高い。
【0114】
今回開示された実施の形態は、すべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した実施の形態の説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【図面の簡単な説明】
【0115】
【図1】この発明の実施の形態1による距離情報検出装置20Aの概略的な構成を示したブロック図である。
【図2】図1の距離情報検出装置20Aにおける画像センサカメラ1の光学系の構成を示した図である。
【図3】点像の対象物PXが合焦点位置A1から近点位置B1または遠点位置C1に移動した場合のメインレンズ11の集光位置を示した図である。
【図4】点像の対象物PXの位置に応じたマイクロレンズアレイ12上の入射光PLの形状を示した図である。
【図5】点像の対象物PXの位置に応じた撮像素子13上の入射光PLの形状を示した図である。
【図6】対象物PXが近点位置B3にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図7】対象物PXが近点位置B2にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図8】対象物PXが近点位置B1にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図9】対象物PXが合焦点位置A1にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図10】対象物PXが遠点位置C1にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図11】対象物PXが遠点位置C2にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図12】対象物PXが遠点位置C3にある場合のマイクロレンズアレイ12および撮像素子13上の入射光PLの形状を示す。
【図13】矢印形状の対象物PXが近点位置B1にある場合のメインレンズ11の集光位置を示した図である。
【図14】矢印形状の対象物PXが近点位置B1にある場合の撮像素子13での取得画像を示した図である。
【図15】矢印形状の対象物PXが近点位置B1にある場合の撮像素子13での取得画像を画素群13aで拡大した図である。
【図16】この発明の実施の形態1による距離情報検出装置20Aが距離情報を算出する画像処理ステップを示したフロー図である。
【図17】矢印形状の対象物PXが近点位置B1〜B3側にあった場合の撮像素子13での取得画像を示した図である。
【図18】矢印形状の対象物PXが近点位置B1〜B3側にあった場合の撮像素子13での取得画像を画素群13aで拡大した図である。
【図19】矢印形状の対象物PXが遠点位置C1〜C3側にあった場合の撮像素子13での取得画像を示した図である。
【図20】矢印形状の対象物PXが遠点位置C1〜C3側にあった場合の撮像素子13での取得画像を画素群13aで拡大した図である。
【図21】この発明の実施の形態2による距離情報検出装置20Bの概略的な構成を示したブロック図である。
【図22】この発明の実施の形態2による距離情報検出装置20Bが距離情報を算出する画像処理ステップを示したフロー図である。
【図23】矢印形状の対象物PXが近点位置B2〜B1にあった場合の撮像素子13での取得画像を示した図である。
【図24】矢印形状の対象物PXが近点位置B2〜B1にあった場合の撮像素子13での取得画像を画素群13a,13bで拡大した図である。
【図25】共焦点顕微鏡の原理を用いた従来の高さ情報測定装置100の概略的な構成を示した図である。
【図26】図25の高さ情報測定装置100で試料106の高さ情報HDがどのように測定されるのかを示した模式図である。
【符号の説明】
【0116】
1 画像センサカメラ、2 画像キャプチャボード、3 メモリ、4A,4B 画像処理部、5 表示モニタ、11 撮像レンズ、12 マイクロレンズアレイ、12m マイクロレンズ、13 撮像素子、13a,13b 画素群、20A,20B 距離情報検出装置、41A,41B エッジ検出部、42A,42B 分布状態検出部、43A 距離検出部、100 高さ情報測定装置、101 共焦点光学系、102 2次元画像カメラ、103 光源、104 対物レンズ、105 ステージ、106 試料。
【特許請求の範囲】
【請求項1】
対象物の距離情報を検出する距離情報検出装置であって、
前記対象物からの光を集光する撮像レンズと、前記撮像レンズからの光を受けるマイクロレンズアレイと、前記マイクロレンズアレイを介して前記対象物を撮像する撮像素子とを含む撮像部と、
前記撮像素子で撮像された画像のエッジ部分を検出するエッジ検出部と、
前記検出された画像のエッジ部分の前記撮像素子上の画素値の分布状態を検出する分布状態検出部と、
前記検出された分布状態に基づいて前記エッジ部分の前記撮像素子からの距離情報を検出する距離検出部とを備える、距離情報検出装置。
【請求項2】
前記分布状態検出部は、前記マイクロレンズアレイの中の1つのマイクロレンズに対応する撮像画素群を単位として画素値の分布状態を検出する、請求項1に記載の距離情報検出装置。
【請求項3】
前記分布状態検出部は、前記マイクロレンズアレイの中の1つのマイクロレンズに対応する画素群を中心とした複数の隣接する撮像画素群を単位として画素値の分布状態を検出する、請求項1に記載の距離情報検出装置。
【請求項4】
前記撮像素子上の画素値の前記対象物の位置に応じた分布状態を予め格納したメモリをさらに備え、前記分布状態検出部は、前記メモリに格納された分布状態とのパターンマッチングにより画素値の分布状態を検出する、請求項1に記載の距離情報検出装置。
【請求項5】
前記エッジ部分の前記対象物の位置に応じた前記撮像素子からの距離情報を予め格納したメモリをさらに備え、前記距離検出部は、前記メモリに格納された距離情報との対応付けにより前記撮像素子からの距離情報を検出する、請求項1に記載の距離情報検出装置。
【請求項6】
前記分布状態検出部は、エッジ付近の画素群の輝度の中心位置を求めることにより、前記対象物が近点側にあるのか遠点側にあるのかを判別する、請求項1に記載の距離情報検出装置。
【請求項7】
前記距離検出部は、前記分布状態検出で検出される複数のエッジ部分での画素値の分布状態を平均化して、前記エッジ部分の前記撮像素子からの距離情報を検出する、請求項1に記載の距離情報検出装置。
【請求項8】
前記エッジ検出部は、画像データに対して画素単位で隣接画素群との輝度の差分値を計算することにより画像のエッジ部分を検出する、請求項1に記載の距離情報検出装置。
【請求項9】
前記エッジ検出部は、前記撮像素子で撮像された単一画像のエッジ部分を検出する、請求項1に記載の距離情報検出装置。
【請求項10】
前記エッジ検出部は、微分フィルタを含む、請求項1に記載の距離情報検出装置。
【請求項1】
対象物の距離情報を検出する距離情報検出装置であって、
前記対象物からの光を集光する撮像レンズと、前記撮像レンズからの光を受けるマイクロレンズアレイと、前記マイクロレンズアレイを介して前記対象物を撮像する撮像素子とを含む撮像部と、
前記撮像素子で撮像された画像のエッジ部分を検出するエッジ検出部と、
前記検出された画像のエッジ部分の前記撮像素子上の画素値の分布状態を検出する分布状態検出部と、
前記検出された分布状態に基づいて前記エッジ部分の前記撮像素子からの距離情報を検出する距離検出部とを備える、距離情報検出装置。
【請求項2】
前記分布状態検出部は、前記マイクロレンズアレイの中の1つのマイクロレンズに対応する撮像画素群を単位として画素値の分布状態を検出する、請求項1に記載の距離情報検出装置。
【請求項3】
前記分布状態検出部は、前記マイクロレンズアレイの中の1つのマイクロレンズに対応する画素群を中心とした複数の隣接する撮像画素群を単位として画素値の分布状態を検出する、請求項1に記載の距離情報検出装置。
【請求項4】
前記撮像素子上の画素値の前記対象物の位置に応じた分布状態を予め格納したメモリをさらに備え、前記分布状態検出部は、前記メモリに格納された分布状態とのパターンマッチングにより画素値の分布状態を検出する、請求項1に記載の距離情報検出装置。
【請求項5】
前記エッジ部分の前記対象物の位置に応じた前記撮像素子からの距離情報を予め格納したメモリをさらに備え、前記距離検出部は、前記メモリに格納された距離情報との対応付けにより前記撮像素子からの距離情報を検出する、請求項1に記載の距離情報検出装置。
【請求項6】
前記分布状態検出部は、エッジ付近の画素群の輝度の中心位置を求めることにより、前記対象物が近点側にあるのか遠点側にあるのかを判別する、請求項1に記載の距離情報検出装置。
【請求項7】
前記距離検出部は、前記分布状態検出で検出される複数のエッジ部分での画素値の分布状態を平均化して、前記エッジ部分の前記撮像素子からの距離情報を検出する、請求項1に記載の距離情報検出装置。
【請求項8】
前記エッジ検出部は、画像データに対して画素単位で隣接画素群との輝度の差分値を計算することにより画像のエッジ部分を検出する、請求項1に記載の距離情報検出装置。
【請求項9】
前記エッジ検出部は、前記撮像素子で撮像された単一画像のエッジ部分を検出する、請求項1に記載の距離情報検出装置。
【請求項10】
前記エッジ検出部は、微分フィルタを含む、請求項1に記載の距離情報検出装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図15】
【図16】
【図18】
【図20】
【図21】
【図22】
【図24】
【図25】
【図26】
【図14】
【図17】
【図19】
【図23】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図15】
【図16】
【図18】
【図20】
【図21】
【図22】
【図24】
【図25】
【図26】
【図14】
【図17】
【図19】
【図23】
【公開番号】特開2009−92584(P2009−92584A)
【公開日】平成21年4月30日(2009.4.30)
【国際特許分類】
【出願番号】特願2007−265347(P2007−265347)
【出願日】平成19年10月11日(2007.10.11)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
【公開日】平成21年4月30日(2009.4.30)
【国際特許分類】
【出願日】平成19年10月11日(2007.10.11)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】
[ Back to top ]