三次元形状計測装置および半導体集積回路
【課題】低コストで車載環境における周辺監視手段での利用に適した光切断法による三次元形状計測装置を提供する。
【解決手段】光源列310と、監視領域を撮像するカメラ200と、カメラ200および光源列310に対するインタフェースとCPU110とを有する画像認識部100とを有し、光切断法により立体物500の三次元形状を計測する三次元形状計測装置1であって、画像認識部100は、光源列310から照射された光を各光源320から照射された光の光源中心を結ぶ線分を含む照射パターンで照射するスリット光とみなし、擬似スリット光420が照射された監視領域について撮像された画像データから、各画素ラインの輝度データに基づいて推定した擬似スリット光420の照射位置の情報と照射パターンとの差分に基づいて照射位置におけるカメラ200からの距離を算出し、立体物500の擬似スリット光420による切断面形状を計測する。
【解決手段】光源列310と、監視領域を撮像するカメラ200と、カメラ200および光源列310に対するインタフェースとCPU110とを有する画像認識部100とを有し、光切断法により立体物500の三次元形状を計測する三次元形状計測装置1であって、画像認識部100は、光源列310から照射された光を各光源320から照射された光の光源中心を結ぶ線分を含む照射パターンで照射するスリット光とみなし、擬似スリット光420が照射された監視領域について撮像された画像データから、各画素ラインの輝度データに基づいて推定した擬似スリット光420の照射位置の情報と照射パターンとの差分に基づいて照射位置におけるカメラ200からの距離を算出し、立体物500の擬似スリット光420による切断面形状を計測する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、光切断法を利用した非接触での三次元形状計測技術に関し、特に、車載環境における周辺監視手段等での利用に適した三次元形状計測装置および当該装置における処理を行う半導体集積回路に適用して有効な技術に関するものである。
【背景技術】
【0002】
近年、自動車等の車両においては、運転の補助や事故の削減に資するため、車両の周辺物体の存在を認識・検知できるようにする手段が開発・提供されてきている。例えば、車両の後方に設置したカメラで撮像した画像を運転席に設置したモニタに表示することで、車両後退時に運転者によって周辺の障害物等を識別できるようにする後方認識手段などが提供されている。
【0003】
また、車両の周辺物体の情報に基づいて車両が自身の挙動を制御することも可能となるように、車両自身が周辺物体を認識可能とする技術も開発されている。これには、例えば、レーダやセンサ等を用いるものがある。また、カメラを用いた画像処理によって周辺物体の三次元形状を非接触で計測し、車両だけでなく運転者にも周辺物体の形状を認識可能とする手法として、いわゆるステレオカメラ法を用いるものが提案されている。
【0004】
ステレオカメラ法では、2つのカメラから撮像された画像に対し、2つのカメラのそれぞれの結像の特性(レンズの焦点距離、画像中心、画素サイズなど)、2つのカメラの位置、姿勢、および2つの画像における点の対応の情報に基づいて、その対応する点の空間での位置を特定することができる。
【0005】
これに関連する技術として、例えば、特開2004−198212号公報(特許文献1)には以下のような技術が開示されている。すなわち、移動体が移動中に、光パターン投影手段によって特定平面上に対し所定の光パターンを投影し、撮像手段が撮像した画像の中から、光パターン内の少なくとも四つの特徴点を特徴点抽出手段によって抽出する。移動体が第1の状態から第2の状態に移動したときに抽出した前記特徴点を、特徴点追跡手段によって追跡する。この追跡結果に基づき、移動状態特定手段にて、第1及び第2の状態で撮像した画像の前記特徴点の平面座標に応じて、撮像手段ひいては移動体の相対的な位置及び姿勢を特定する。これにより、単一の撮像手段によって2点から撮像した画像に基づいて、ステレオカメラ法により精度の高い画像表示を行うことを可能とする。
【0006】
一方、物体の三次元形状を非接触で計測する技術としては、上記のステレオカメラ法の他にスリット光を用いた光切断法も広く用いられている。この方法では、スリット光を対象物に照射し、スリット光の照射方向に対して光軸を所定の角度ずらして配置した単眼カメラで撮像する。撮像されたスリット光の画像データから画像処理によりスリット光の位置を特定し、対象物が存在しない場合のスリット光の位置との差分に基づいて、三角測量の原理により対象物の切断面形状に対応する位置データを求めて三次元形状を計測する。
【0007】
光切断法による三次元形状の計測方法に関連した技術としては種々のものがあり、例えば、特開平11−160050号公報(特許文献2)には以下のような三次元形状の計測装置が開示されている。すなわち、算出手段のピーク検出部により、各水平走査線上において最大輝度レベルとなる一つの画素位置のみをスリット光の通過位置として処理する。また、算出手段が比較部と更新部とを備えており、一画面分の記憶容量の輝度メモリに対して、既に取り込まれた一つのスリット光画像の上から新たに他のスリット光画像を取り込む。これらにより、測定対象物の表面の反射率の違いや背景光等の輝度の低いノイズを拾うことがなく計測の精度の向上を図ることが可能となり、また、従来のように撮像回数と等しい画面数のメモリを必要とせず、省メモリ化を図ることが可能となる。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2004−198212号公報
【特許文献2】特開平11−160050号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
自動車等の車両において周辺物体を認識する際に、例えば、車両に設置したカメラで撮像した画像を運転席に設置したモニタに表示するような後方認識手段では、日中であれば運転者が周辺物体をモニタにより視認することが可能である。しかし、夜間の場合は周囲が暗くなり画像も暗くなるため、運転者が周辺物体を視認することが難しい場合がある。これに対して、例えば、カメラを暗視カメラ等にすることはコストが高くなるため車載用途としては適当ではない。同様に、レーダやセンサ等を利用する場合でも、運転者が周辺物体を視認することはできず、またこれらを設置するためのコストも高くなる。
【0010】
また、特許文献1において利用されているステレオカメラ法を用いる場合も同様に、夜間の場合は周辺物体を識別することは難しい。また、一般的には周辺物体に対する距離情報を得るために2台のカメラを必要とするため、これを増設することはコストが高くなり、やはり車載用途としては適当ではない。また、特許文献1に記載されているように1台のカメラで行う場合であっても、車両の移動により2点から撮像することが必要であり、車両の停止状態における周辺監視ができない場合がある。
【0011】
一方で、上述したような光切断法では、スリット光を照射してその照射位置を特定するため、むしろ夜間など周囲が暗いほうがノイズとなる光が少なく精度良く周辺物体の三次元形状を計測することができる。従って、夜間であっても車両の周辺物体を検知・認識するためには、光切断法を利用することが考えられる。さらに、光切断法では単一のカメラによって計測するため、後方認識用カメラなどの既存の車載カメラを利用することもできる。
【0012】
ここで、特許文献2などにもあるように、光切断法による三次元形状計測方法では、一般的にスリット光の光源には拡散が少ないレーザ光源が用いられる。従って、この方法を自動車等の車両における周辺監視手段に適用しようとした場合、レーザ光源を車両に搭載して車両周囲を照射する必要がある。しかし、レーザ光源によって車両周囲を照射することには危険性が伴う。また、レーザ光源を新たに搭載することはコスト増となるため、可能な限り新たな装置を車両に設置することなく実装できることが望ましい。
【0013】
そこで本発明の目的は、低コストで車載環境における周辺監視手段での利用に適した光切断法による三次元形状計測装置および当該装置における処理を行う半導体集積回路を提供することにある。本発明の前記ならびにその他の目的と新規な特徴は、本明細書の記述および添付図面から明らかになるであろう。
【課題を解決するための手段】
【0014】
本願において開示される発明のうち、代表的なものの概要を簡単に説明すれば、以下のとおりである。
【0015】
本発明の代表的な実施の形態は、三次元形状計測装置および当該装置における処理を行う半導体集積回路などに適用される。前記三次元形状計測装置は、複数の光源の配列からなり、監視領域に対して光を照射する光源列と、前記光源列により照射された前記監視領域を撮像し、撮像した画像をデジタルデータにより出力するカメラと、前記カメラおよび前記光源列に対する入出力を行うインタフェースと、CPUとを有する画像認識部とを有し、光切断法により前記監視領域に存在する立体物の三次元形状を計測するものであって、以下のような特徴を有するものである。
【0016】
すなわち、前記画像認識部は、前記光源列から照射された光を、照射面において前記光源列内の前記各光源から照射された光の光源中心を結ぶ線分を含む照射パターンで照射するスリット光とみなし、前記スリット光とみなされた擬似スリット光が照射された前記監視領域について前記カメラによって撮像された画像データから、光切断法により、前記画像データの画素ライン毎に、前記各画素ラインの輝度データに基づいて推定した前記擬似スリット光の照射位置の情報と、前記監視領域に前記立体物が存在しない場合の前記照射パターンとの差分に基づいて前記擬似スリット光の前記照射位置における前記カメラからの距離を算出し、算出した距離の情報に基づいて前記監視領域に存在する前記立体物の前記擬似スリット光による切断面形状を計測することを特徴とする。
【発明の効果】
【0017】
本願において開示される発明のうち、代表的なものによって得られる効果を簡単に説明すれば以下のとおりである。
【0018】
本発明の代表的な実施の形態によれば、光切断法による三次元形状計測において、自動車等の車両での後方認識用等に用いられるカメラを利用し、また、ブレーキランプやバックランプ等に用いられる光源を擬似スリット光として利用することができるため、車両の周辺物体の三次元形状の計測を行う周辺監視手段を低コストで実現することができる。
【図面の簡単な説明】
【0019】
【図1】本発明の一実施の形態である三次元形状計測装置の構成例の概要を示した図である。
【図2】一般的な光切断法による三次元形状の計測方法の概要について説明する図である。
【図3】LEDを光源として単純に対象物に照射した場合の例を示した図である。
【図4】本発明の一実施の形態における擬似スリット光の例の概要を説明する図である。
【図5】本発明の一実施の形態である三次元形状計測装置を車両に適用した場合の例を示した図である。
【図6】本発明の一実施の形態である三次元形状計測装置における光源の構成例を示した図である。
【図7】本発明の一実施の形態における擬似スリット光を用いた光切断法による三次元形状の計測方法の概要について説明する図である。
【図8】本発明の一実施の形態における擬似スリット光を立体物に照射したときのカメラ画像における画素ラインの輝度値の例を示した図である。
【図9】本発明の一実施の形態における画素ラインにおける輝度値の分布から正規分布曲線を推定する例を示した図である。
【図10】本発明の一実施の形態における実験に使用した三次元形状計測装置の概要を模式的に示した図である。
【図11】本発明の一実施の形態における板状の立体物の切断面形状を計測したときの実験環境の概要を模式的に示した図である。
【図12】本発明の一実施の形態における板状の立体物の切断面形状を計測したときの測定結果の概要を示した図である。
【図13】本発明の一実施の形態におけるより複雑な形状の立体物の切断面形状を計測したときの実験環境の概要を模式的に示した図である。
【図14】本発明の一実施の形態におけるより複雑な形状の立体物の切断面形状を計測したときの測定結果の概要を示した図である。
【図15】本発明の一実施の形態における箱状の立体物の三次元形状を計測したときの実験環境の概要を模式的に示した図である。
【図16】本発明の一実施の形態における箱状の立体物の三次元形状を計測したときの測定結果の概要を示した図である。
【図17】本発明の一実施の形態における階段状の立体物の三次元形状を計測したときの実験環境の概要を模式的に示した図である。
【図18】本発明の一実施の形態における階段状の立体物の三次元形状を計測したときの測定結果の概要を示した図である。
【図19】本発明の一実施の形態における傾いた箱状の立体物の三次元形状を計測したときの実験環境の概要を模式的に示した図である。
【図20】本発明の一実施の形態における傾いた箱状の立体物の三次元形状を計測したときの測定結果の概要を示した図である。
【発明を実施するための形態】
【0020】
以下、本発明の実施の形態を図面に基づいて詳細に説明する。なお、実施の形態を説明するための全図において、同一部には原則として同一の符号を付し、その繰り返しの説明は省略する。
【0021】
[光切断法による三次元形状計測]
図2は、一般的な光切断法による三次元形状の計測方法の概要について説明する図である。図2において、光源300から照射された光は、スリット400によってスリット光410とされ、立体物500に照射されている。精度の高いスリット光400を得るため、光源300には拡散の少ないレーザ光源などが用いられる。
【0022】
立体物500に照射したスリット光を、当該スリット光の照射方向に対して光軸を所定の角度ずらして配置したカメラ200で撮像する。カメラ画像210は、撮像された立体物500およびスリット光410の状態を示している。このカメラ画像210の各画素ライン(カメラ画像210における点線)を走査し、各画素ラインでのスリット光410の照射位置を画像処理により特定する(例えば、特許文献2のように輝度がピークの画素とする)。
【0023】
特定したスリット光410の照射位置と、予め保持している立体物500が存在しない場合のスリット光410の照射位置(照射パターン)との差分に基づいて、三角測量の原理により、特定したスリット光410の照射位置の光源300もしくはカメラ200からの距離、すなわち、立体物500のスリット光410による切断面形状に対応する距離データを算出する。スリット光410の照射位置を立体物500に対して少しずつ変えて走査し、立体物500の各切断面形状の距離データを同様に算出して集計することで、立体物500の三次元形状を計測することができる。
【0024】
なお、スリット光410の照射パターンは直線状である必要はない。例えば、曲線状のスリット光410であっても、各画素ラインにおいて立体物500が存在する場合としない場合とのスリット光410の位置の差分に基づいて同様に切断面形状を計測することができる。
【0025】
ここで、上述した光切断法を自動車等の車両に適用する場合、危険性やコストの観点からレーザ光源を光源として用いることは適当ではない。そこで、車両に一般的に設置されているブレーキランプやバックランプなどの車両外部を照射するランプを光源として用いることを考える。近年、ブレーキランプ等の車載のランプには、消費電力や寿命、輝度、反応速度などの観点から光源としてLED(Light Emitting Diode:発光ダイオード)の使用が拡大している。
【0026】
図3は、LEDを光源として単純に対象物に照射した場合の例を示した図である。図3に示すように、光源320をLEDとした場合、LEDの光は拡散するためそのままでは照射光はスリット光とはならない。また、実際にスリットを配置することは、車載のランプとしての用途をなさなくなるため適当ではない。
【0027】
そこで、本実施の形態では、1つのLEDにつき1つの光源中心があるとし、それを並べたものをスリット光と見立てる。図4は、擬似スリット光の例の概要を説明する図である。図4に示すように、本実施の形態では、光源(LED)を複数並べた配列(光源列)によって対象物を照射することにより、照射面に対して各光源中心を結んだ線分を含む照射パターンで照射するスリット光(擬似スリット光)であるものとして取り扱う。
【0028】
なお、擬似スリット光についても照射パターンは直線状である必要はない。すなわち、図4における擬似スリット光の各光源中心(および実際の光源の配列)は直線状に並んでいなくてもよく、折れ線や曲線で結ばれる配列であってもよい。また、本実施の形態では、図4や以降の例において光源を縦方向に並べることにより擬似スリット光を縦方向の直線状としているが、横方向や斜め方向等に並べたものであってもよい。
【0029】
図1は、上述した擬似スリット光を用いた、本発明の一実施の形態である三次元形状計測装置の構成例の概要を示した図である。三次元形状計測装置1は、画像認識部100、カメラ200、複数の光源320の配列からなる光源列310、光源制御装置330とを有する構成となっている。光源列310から上述したような擬似スリット光420を出力して立体物500を照射し、照射光をカメラ200で撮像する。カメラ200での撮像データ、およびカメラ200と光源列310の相対位置の情報に基づいて、画像認識部100での演算処理により光切断法によって立体物500の切断面形状を計測する。
【0030】
画像認識部100は、CPU(Central Processing Unit)110、カメラインタフェース(I/F)120、光源インタフェース(I/F)130を有し、例えば、LSI(Large Scale Integration)等の半導体集積回路により実現される。カメラI/F120および光源I/F130は、それぞれ、カメラ200および光源制御装置330を介した光源列310に対する入出力のインタフェースを提供する。CPU110は、ソフトウェアプログラムの実行により、カメラ200での撮像データに基づいて光切断法によって立体物500の切断面形状を計測し、処理結果を出力する。また、カメラI/F120および光源I/F130を介してカメラ200および光源320の動作を制御する。
【0031】
カメラ200は、立体物500に照射された擬似スリット光420を撮像し、撮像データを画像認識部100に出力する。カメラ200は、例えば、デジタルスチルカメラやデジタルビデオカメラ等のデジタルカメラである。光源320は、LEDなどのレーザではない光源であり、複数の光源320の配列である光源列310が点灯することで擬似スリット光420を照射する。光源列310を複数列有していてもよい。光源制御装置330は、CPU110からの指示に基づいて光源列310の点灯/消灯などを制御する。
【0032】
図5は、本実施の形態の三次元形状計測装置1を車両に適用した場合の例を示した図である。例えば、図1におけるカメラ200に相当するものとして、後方認識用の車載カメラ201が車両2の後方に配置されている。また、図1における光源列310および光源制御装置330に相当するものとして、複数のLEDを利用したバックランプ340を用いている。バックランプ340は車両2の左右両側に存在するため、擬似スリット光420を左右両側から照射することができる。また、車両2の内部の特定の位置には、図1における画像認識部100が配置される。
【0033】
この構成により、車両2の後方の監視領域に存在する立体物501について、画像認識部100がその距離と三次元形状を計測して出力することができ、夜間等であっても車両2の運転席に設置されたモニタ等により運転者が視認することが可能となる。また、事故回避のため立体物501の認識によって車両2の挙動を自動的に制御してもよい。
【0034】
図6は、本実施の形態の三次元形状計測装置1における光源の構成例を示した図である。図6の構成は、図5におけるバックランプ340等の内部の構成と同等のものであり、その光源としてLED321を使用している。本実施の形態では、例えば赤色LEDを使用するものとする。このLED321を複数(図6の例では10個)列状に並べたLED321を複数列(図6の例では8列)有する。
【0035】
このLED列311を1列毎に点灯させて(例えば図6の例では、右から2列目のLED列311が点灯している)、図4に示したような擬似スリット光を生成する。点灯するLED列311を順次変更することによって擬似スリット光の照射位置を立体物500上で変更して走査することができる。
【0036】
図7は、擬似スリット光420を用いた光切断法による三次元形状の計測方法の概要について説明する図である。図7において、LED列311から立体物500に照射された光は擬似スリット光420として取り扱われる。カメラ200によって撮像したカメラ画像210に対して、後述する手法により各画素ラインでの擬似スリット光420の照射位置、すなわち光源中心の位置を特定する。擬似スリット光420の光源中心の位置が特定された後は、図2で説明したものと同様の手法によって三角測量の原理により立体物500の切断面形状を計測することができる。
【0037】
また、点灯するLED列311を変更して擬似スリット光420の照射位置を変更し、各擬似スリット光420について上述した手法により立体物500の切断面形状を計測して集計することで、立体物500の三次元形状を計測することができる。
【0038】
図8は、擬似スリット光420を立体物500に照射したときのカメラ画像210における画素ラインの輝度値の例を示した図である。左側のカメラ画像210は、LED列311から擬似スリット光420を立体物500に照射したものをカメラ200にて撮像した場合の撮像画像の例を示している。カメラ画像210中の点線は撮像データにおける各画素ラインを示している。そのうちの太点線で示される画素ラインを例として、各画素の水平方向の位置とその赤成分の輝度値を示したものが右側の図である。
【0039】
この輝度の分布データに基づいて当該画素ラインにおける擬似スリット光420の照射位置(光源中心の位置)を推定する。このとき、特許文献2に記載されているように輝度値がピーク値となる位置を光源中心と推定することも可能である。しかしながら、擬似スリット光420ではスリット光410と異なり照射光が拡散しているため、輝度のピーク値による推定では誤差が大きくなる。そこで本実施の形態では、図8の右側の図の輝度値の分布が正規分布に従っていると仮定し、輝度の分布を表す正規分布曲線を推定してその中心位置を光源中心と推定する。
【0040】
図9は、画素ラインにおける輝度値の分布から正規分布曲線を推定する例を示した図である。本実施の形態では、得られた輝度値のデータから数値解析的に正規分布曲線を推定する手法として、例えば、EM(Expectation-maximization)アルゴリズムを用いる。
【0041】
EMアルゴリズムの詳細については一般に知られているため本明細書では説明を省略するが、確率モデル(本実施の形態では正規分布曲線)のパラメータを反復法により数値解析的に最尤推定するアルゴリズムであり、特に確率モデルが観測できない隠れたパラメータに依存する場合に用いられる。EMアルゴリズムは他の推定手法と比べて良い解に収束し易く、また実装が簡単になることが多く処理速度も基本的に高速であるため有効である。
【0042】
図9の下図では、上図の輝度値の分布に対してEMアルゴリズムを適用して正規分布曲線を推定した場合の例を示している。この正規分布曲線の中心の位置を当該画素ラインでの擬似スリット光420の光源中心の位置と推定する。この処理を全画素ラインについて行うことで、擬似スリット光420の光源中心の位置を推定することができる。なお、本実施の形態では正規分布曲線を推定する際にEMアルゴリズムを用いているが、他のアルゴリズムを用いることも当然可能である。
【0043】
[実験結果]
以下では、上述した擬似スリット光420を用いた光切断法による三次元形状計測手法により、種々の立体物500の三次元形状を計測する実験を行った結果について説明する。
【0044】
図10は、実験に使用した三次元形状計測装置1の概要を模式的に示した図である。画像認識部100に対してカメラ200と光源320であるLED321が接続されている。LED321は縦に10個並べたLED列311として5列配置されている。LED列311は画像認識部100によって制御されて1列ずつ点灯して擬似スリット光420を生成する。また、カメラ200から出力された撮像データに基づいて画像認識部100によって三次元形状計測が行われた結果は、図示しないPC等に出力され、PC等によってグラフ等のデータとして加工されて出力される。
【0045】
実験では、まず、三次元形状計測装置1のLED列311を1列点灯して対象物を照射する、すなわち、1本の擬似スリット光420により対象物を照射する。その照射光をカメラ200により撮像し、撮像データに基づいて画像認識部100によって光切断法により擬似スリット光420の光源中心の位置のカメラ200からの距離を計測することで、擬似スリット光420による切断面の形状を計測する。
【0046】
図11は、板状の立体物の切断面形状を計測したときの実験環境の概要を模式的に示した図である。三次元形状計測装置1のLED列311に対して板状の立体物502(例えばノート)を傾けて配置し、擬似スリット光420を照射している。このとき、カメラ200と立体物502との間の距離の実測値は約75cm(立体物502の下部)〜80cm(立体物502の上部)である。
【0047】
図12は、図11の実験環境により板状の立体物の切断面形状を計測したときの測定結果の概要を示した図である。左上の図は、カメラ200によって撮像されたカメラ画像210の概要を示したものであり、板状の立体物502に擬似スリット光420が照射された状態を示している。このカメラ画像210のデータについて、例えば、上から240行目の画素ラインおよび260行目の画素ラインの輝度値を取得し、それぞれの輝度値の分布についてEMアルゴリズムを適用して正規分布曲線を推定したものが右図に示されている。
【0048】
このように各画素ラインについて輝度値の正規分布曲線を推定し、光源中心の位置(カメラ200からの距離)を推定したものをプロットした図が下図に示されている。下図では画素ラインを横軸としているため、図の左方がカメラ画像210での上方に相当する。なお、下図で示された光源中心の推定位置の情報が左上のカメラ画像210の図中に太線で追記されている。下図に示されるように、下図中の太線で示されたカメラ200から立体物502までの距離の実測値とは若干の誤差があるが、立体物502の擬似スリット光420による切断面形状および距離をほぼ特定できていることが分かる。
【0049】
同様に、図13は、より複雑な形状の立体物の切断面形状を計測したときの実験環境の概要を模式的に示した図である。三次元形状計測装置1のLED列311に対してより複雑な形状の立体物503(例えば市販の赤外線ヒーター)を配置し、擬似スリット光420を照射している。このとき、カメラ200と立体物503との間の距離の実測値は約85cmである。
【0050】
図14は、図13の実験環境により複雑な形状の立体物の切断面形状を計測したときの測定結果の概要を示した図である。左上の図は、カメラ200によって撮像されたカメラ画像210の概要を示したものであり、複雑な形状の立体物503に擬似スリット光420が照射された状態を示している。このカメラ画像210のデータについて、例えば、上から200行目の画素ラインおよび240行目の画素ラインの輝度値を取得し、それぞれの輝度分布についてEMアルゴリズムを適用して正規分布曲線を推定したものが右図に示されている。ここでは図12の場合と比較して立体物503の形状が複雑であることから輝度値のばらつきが大きくなっているが、EMアルゴリズムを適用することにより適切な正規分布曲線が推定できていることが分かる。
【0051】
このように各画素ラインについて輝度値の正規分布曲線を推定し、光源中心の位置(カメラ200からの距離)を推定したものをプロットした図が下図に示されている。下図では画素ラインを横軸としているため、図の左方がカメラ画像210での上方に相当する。なお、下図で示された光源中心の推定位置の情報が左上のカメラ画像210の図中に太線で追記されている。下図に示されるように、下図中の太線で示されたカメラ200から立体物503までの距離の実測値とは若干の誤差があるが、複雑な形状の立体物503の擬似スリット光420による切断面形状および距離をほぼ特定できていることが分かる。
【0052】
次の実験では、三次元形状計測装置1のLED列311を1列ずつ順次点灯して対象物を照射する、すなわち、異なる擬似スリット光420により対象物を照射して走査する。その照射光をそれぞれカメラ200により撮像し、撮像データに基づいて画像認識部100によって光切断法によりそれぞれの擬似スリット光420の光源中心の位置のカメラ200からの距離を計測する。本実験では2本の擬似スリット光420により走査しているが、実際は走査する擬似スリット光420の数をさらに増やすことで対象物の三次元形状をモデリングする。
【0053】
図15は、箱状の立体物の三次元形状を計測したときの実験環境の概要を模式的に示した図である。三次元形状計測装置1のLED列311に対して箱状の立体物504を配置し、異なるLED列311からそれぞれ個別に2本の擬似スリット光420を照射している。このとき、カメラ200と立体物504との間の距離の実測値は約60cmである。
【0054】
図16は、図15の実験環境により箱状の立体物の三次元形状を計測したときの測定結果の概要を示した図である。図16の左の図は、2本の擬似スリット光420について、それぞれカメラ200によって撮像されたカメラ画像210の概要を示したものであり、箱状の立体物504に擬似スリット光420が照射された状態を示している。
【0055】
図16の右の図は、2本の擬似スリット光420に対して、それぞれ上述した手法により光源中心の位置を推定した結果をプロットしている。図16では画素ラインを縦軸としているため、図の上方がカメラ画像210での上方に相当する。なお、右の図で示された光源中心の推定位置の情報が左のカメラ画像210の図中にそれぞれ太線で追記されている。
【0056】
図16の右の図に示されるように、照射するLED列311を順次切り換えて異なる擬似スリット光420によって対象物を照射して走査し、各擬似スリット光420についてそれぞれ対象物の切断面形状を計測して集計することにより、対象物の三次元形状をモデリングすることが可能であることが分かる。
【0057】
同様に、図17は、階段状の立体物の三次元形状を計測したときの実験環境の概要を模式的に示した図である。三次元形状計測装置1のLED列311に対して、階段状の立体物505(例えば、ずらして積み重ねた本)を配置し、異なるLED列311からそれぞれ個別に2本の擬似スリット光420を照射している。このとき、カメラ200と立体物505との間の距離の実測値は約60cmである。
【0058】
図18は、図17の実験環境により階段状の立体物の三次元形状を計測したときの測定結果の概要を示した図である。図18の左の図は、2本の擬似スリット光420について、それぞれカメラ200によって撮像されたカメラ画像210の概要を示したものであり、階段状の立体物505に擬似スリット光420が照射された状態を示している。
【0059】
図18の右の図は、2本の擬似スリット光420に対して、それぞれ上述した手法により光源中心の位置を推定した結果をプロットしている。図18では画素ラインを縦軸としているため、図の上方がカメラ画像210での上方に相当する。なお、右の図で示された光源中心の推定位置の情報が左のカメラ画像210の図中にそれぞれ太線で追記されている。
【0060】
図18の右の図に示されるように、照射するLED列311を順次切り換えて異なる擬似スリット光420によって対象物を照射して走査し、各擬似スリット光420についてそれぞれ対象物の切断面形状を計測して集計することにより、表面形状が複雑な対象物の三次元形状についてもモデリングすることが可能であることが分かる。
【0061】
同様に、図19は、傾いた箱状の立体物の三次元形状を計測したときの実験環境の概要を模式的に示した図である。三次元形状計測装置1のLED列311に対して、傾いた箱状の立体物506を配置し、異なるLED列311からそれぞれ個別に2本の擬似スリット光420を照射している。このとき、カメラ200と立体物506との間の距離の実測値は約55cm(立体物506の下部)〜60cm(立体物506の上部)である。
【0062】
図20は、図19の実験環境により階段状の立体物の三次元形状を計測したときの測定結果の概要を示した図である。図20の左の図は、2本の擬似スリット光420について、それぞれカメラ200によって撮像されたカメラ画像210の概要を示したものであり、傾いた箱状の立体物506に擬似スリット光420が照射された状態を示している。
【0063】
図20の右の図は、2本の擬似スリット光420に対して、それぞれ上述した手法により光源中心の位置を推定した結果をプロットしている。図20では画素ラインを縦軸としているため、図の上方がカメラ画像210での上方に相当する。なお、右の図で示された光源中心の推定位置の情報が左のカメラ画像210の図中にそれぞれ太線で追記されている。
【0064】
図20の右の図に示されるように、照射するLED列311を順次切り換えて異なる擬似スリット光420によって対象物を照射して走査し、各擬似スリット光420についてそれぞれ対象物の切断面形状を計測して集計することにより、奥行きのある対象物の三次元形状についてもモデリングすることが可能であることが分かる。
【0065】
なお、以上に示した各実験の結果のカメラ画像210においては、擬似スリット光420が直接照射されていない領域や、照射されていても対象物がない領域では輝度が低くなっている。これらの領域における画素ラインで推定された擬似スリット光420の光源中心の位置は、輝度が低いことにより誤推定が生じ、画素ライン毎にばらつきが大きくなっている。従って、例えば、ばらつきが所定のレベル以上である領域のデータを除外するなどにより、対象物が存在する領域に絞り込んで三次元形状の計測を行うことができる。
【0066】
以上に説明したように、本実施の形態の三次元計測装置によれば、光切断法を利用して、自動車等の車両の周辺物体についての三次元形状を計測する際に、カメラとして車両に設置されている後方認識用のカメラを用いる。また、スリット光の光源としてブレーキランプやバックランプなどLEDが列状に配置された光源を用い、照射光を擬似スリット光として取り扱う。これらにより、車両に設置された既存の設備を用いて低コストで光切断法による三次元形状の計測を行うことが可能となる。
【0067】
また、光切断法においてカメラ画像の各画素ラインでの光源中心の位置を推定する際に、各画素ラインにおける擬似スリット光の輝度分布を正規分布と仮定し、EMアルゴリズムを適用して正規分布曲線を最尤推定して、その正規部分布曲線の中心を光源中心の位置と推定する。これにより、擬似スリット光を用いた場合であっても高精度で光切断法による三次元形状の計測を行うことが可能となる。
【0068】
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は前記実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。
【0069】
例えば、本実施の形態では図5に示すように三次元形状計測装置を車両における後方認識用として用いる場合を例としているが、これに限るものではなく、車両における後方以外の周辺の立体物の検知・認識に用いることもできる。また、車両以外の他の製造装置や検査装置等における立体物の三次元形状の計測手段に用いることもできる。
【産業上の利用可能性】
【0070】
本発明の三次元形状計測装置および当該装置における処理を行う半導体集積回路は、車載環境における周辺監視手段等に利用可能である。
【符号の説明】
【0071】
1…三次元形状計測装置、2…車両、
100…画像認識部、110…CPU、120…カメラI/F、130…光源I/F、
200…カメラ、201…車載カメラ、210…カメラ画像、
300…光源、310…光源列、311…LED列、320…光源、321…LED、330…光源制御装置、340…バックランプ、
400…スリット、410…スリット光、420…擬似スリット光、
500〜506…立体物。
【技術分野】
【0001】
本発明は、光切断法を利用した非接触での三次元形状計測技術に関し、特に、車載環境における周辺監視手段等での利用に適した三次元形状計測装置および当該装置における処理を行う半導体集積回路に適用して有効な技術に関するものである。
【背景技術】
【0002】
近年、自動車等の車両においては、運転の補助や事故の削減に資するため、車両の周辺物体の存在を認識・検知できるようにする手段が開発・提供されてきている。例えば、車両の後方に設置したカメラで撮像した画像を運転席に設置したモニタに表示することで、車両後退時に運転者によって周辺の障害物等を識別できるようにする後方認識手段などが提供されている。
【0003】
また、車両の周辺物体の情報に基づいて車両が自身の挙動を制御することも可能となるように、車両自身が周辺物体を認識可能とする技術も開発されている。これには、例えば、レーダやセンサ等を用いるものがある。また、カメラを用いた画像処理によって周辺物体の三次元形状を非接触で計測し、車両だけでなく運転者にも周辺物体の形状を認識可能とする手法として、いわゆるステレオカメラ法を用いるものが提案されている。
【0004】
ステレオカメラ法では、2つのカメラから撮像された画像に対し、2つのカメラのそれぞれの結像の特性(レンズの焦点距離、画像中心、画素サイズなど)、2つのカメラの位置、姿勢、および2つの画像における点の対応の情報に基づいて、その対応する点の空間での位置を特定することができる。
【0005】
これに関連する技術として、例えば、特開2004−198212号公報(特許文献1)には以下のような技術が開示されている。すなわち、移動体が移動中に、光パターン投影手段によって特定平面上に対し所定の光パターンを投影し、撮像手段が撮像した画像の中から、光パターン内の少なくとも四つの特徴点を特徴点抽出手段によって抽出する。移動体が第1の状態から第2の状態に移動したときに抽出した前記特徴点を、特徴点追跡手段によって追跡する。この追跡結果に基づき、移動状態特定手段にて、第1及び第2の状態で撮像した画像の前記特徴点の平面座標に応じて、撮像手段ひいては移動体の相対的な位置及び姿勢を特定する。これにより、単一の撮像手段によって2点から撮像した画像に基づいて、ステレオカメラ法により精度の高い画像表示を行うことを可能とする。
【0006】
一方、物体の三次元形状を非接触で計測する技術としては、上記のステレオカメラ法の他にスリット光を用いた光切断法も広く用いられている。この方法では、スリット光を対象物に照射し、スリット光の照射方向に対して光軸を所定の角度ずらして配置した単眼カメラで撮像する。撮像されたスリット光の画像データから画像処理によりスリット光の位置を特定し、対象物が存在しない場合のスリット光の位置との差分に基づいて、三角測量の原理により対象物の切断面形状に対応する位置データを求めて三次元形状を計測する。
【0007】
光切断法による三次元形状の計測方法に関連した技術としては種々のものがあり、例えば、特開平11−160050号公報(特許文献2)には以下のような三次元形状の計測装置が開示されている。すなわち、算出手段のピーク検出部により、各水平走査線上において最大輝度レベルとなる一つの画素位置のみをスリット光の通過位置として処理する。また、算出手段が比較部と更新部とを備えており、一画面分の記憶容量の輝度メモリに対して、既に取り込まれた一つのスリット光画像の上から新たに他のスリット光画像を取り込む。これらにより、測定対象物の表面の反射率の違いや背景光等の輝度の低いノイズを拾うことがなく計測の精度の向上を図ることが可能となり、また、従来のように撮像回数と等しい画面数のメモリを必要とせず、省メモリ化を図ることが可能となる。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2004−198212号公報
【特許文献2】特開平11−160050号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
自動車等の車両において周辺物体を認識する際に、例えば、車両に設置したカメラで撮像した画像を運転席に設置したモニタに表示するような後方認識手段では、日中であれば運転者が周辺物体をモニタにより視認することが可能である。しかし、夜間の場合は周囲が暗くなり画像も暗くなるため、運転者が周辺物体を視認することが難しい場合がある。これに対して、例えば、カメラを暗視カメラ等にすることはコストが高くなるため車載用途としては適当ではない。同様に、レーダやセンサ等を利用する場合でも、運転者が周辺物体を視認することはできず、またこれらを設置するためのコストも高くなる。
【0010】
また、特許文献1において利用されているステレオカメラ法を用いる場合も同様に、夜間の場合は周辺物体を識別することは難しい。また、一般的には周辺物体に対する距離情報を得るために2台のカメラを必要とするため、これを増設することはコストが高くなり、やはり車載用途としては適当ではない。また、特許文献1に記載されているように1台のカメラで行う場合であっても、車両の移動により2点から撮像することが必要であり、車両の停止状態における周辺監視ができない場合がある。
【0011】
一方で、上述したような光切断法では、スリット光を照射してその照射位置を特定するため、むしろ夜間など周囲が暗いほうがノイズとなる光が少なく精度良く周辺物体の三次元形状を計測することができる。従って、夜間であっても車両の周辺物体を検知・認識するためには、光切断法を利用することが考えられる。さらに、光切断法では単一のカメラによって計測するため、後方認識用カメラなどの既存の車載カメラを利用することもできる。
【0012】
ここで、特許文献2などにもあるように、光切断法による三次元形状計測方法では、一般的にスリット光の光源には拡散が少ないレーザ光源が用いられる。従って、この方法を自動車等の車両における周辺監視手段に適用しようとした場合、レーザ光源を車両に搭載して車両周囲を照射する必要がある。しかし、レーザ光源によって車両周囲を照射することには危険性が伴う。また、レーザ光源を新たに搭載することはコスト増となるため、可能な限り新たな装置を車両に設置することなく実装できることが望ましい。
【0013】
そこで本発明の目的は、低コストで車載環境における周辺監視手段での利用に適した光切断法による三次元形状計測装置および当該装置における処理を行う半導体集積回路を提供することにある。本発明の前記ならびにその他の目的と新規な特徴は、本明細書の記述および添付図面から明らかになるであろう。
【課題を解決するための手段】
【0014】
本願において開示される発明のうち、代表的なものの概要を簡単に説明すれば、以下のとおりである。
【0015】
本発明の代表的な実施の形態は、三次元形状計測装置および当該装置における処理を行う半導体集積回路などに適用される。前記三次元形状計測装置は、複数の光源の配列からなり、監視領域に対して光を照射する光源列と、前記光源列により照射された前記監視領域を撮像し、撮像した画像をデジタルデータにより出力するカメラと、前記カメラおよび前記光源列に対する入出力を行うインタフェースと、CPUとを有する画像認識部とを有し、光切断法により前記監視領域に存在する立体物の三次元形状を計測するものであって、以下のような特徴を有するものである。
【0016】
すなわち、前記画像認識部は、前記光源列から照射された光を、照射面において前記光源列内の前記各光源から照射された光の光源中心を結ぶ線分を含む照射パターンで照射するスリット光とみなし、前記スリット光とみなされた擬似スリット光が照射された前記監視領域について前記カメラによって撮像された画像データから、光切断法により、前記画像データの画素ライン毎に、前記各画素ラインの輝度データに基づいて推定した前記擬似スリット光の照射位置の情報と、前記監視領域に前記立体物が存在しない場合の前記照射パターンとの差分に基づいて前記擬似スリット光の前記照射位置における前記カメラからの距離を算出し、算出した距離の情報に基づいて前記監視領域に存在する前記立体物の前記擬似スリット光による切断面形状を計測することを特徴とする。
【発明の効果】
【0017】
本願において開示される発明のうち、代表的なものによって得られる効果を簡単に説明すれば以下のとおりである。
【0018】
本発明の代表的な実施の形態によれば、光切断法による三次元形状計測において、自動車等の車両での後方認識用等に用いられるカメラを利用し、また、ブレーキランプやバックランプ等に用いられる光源を擬似スリット光として利用することができるため、車両の周辺物体の三次元形状の計測を行う周辺監視手段を低コストで実現することができる。
【図面の簡単な説明】
【0019】
【図1】本発明の一実施の形態である三次元形状計測装置の構成例の概要を示した図である。
【図2】一般的な光切断法による三次元形状の計測方法の概要について説明する図である。
【図3】LEDを光源として単純に対象物に照射した場合の例を示した図である。
【図4】本発明の一実施の形態における擬似スリット光の例の概要を説明する図である。
【図5】本発明の一実施の形態である三次元形状計測装置を車両に適用した場合の例を示した図である。
【図6】本発明の一実施の形態である三次元形状計測装置における光源の構成例を示した図である。
【図7】本発明の一実施の形態における擬似スリット光を用いた光切断法による三次元形状の計測方法の概要について説明する図である。
【図8】本発明の一実施の形態における擬似スリット光を立体物に照射したときのカメラ画像における画素ラインの輝度値の例を示した図である。
【図9】本発明の一実施の形態における画素ラインにおける輝度値の分布から正規分布曲線を推定する例を示した図である。
【図10】本発明の一実施の形態における実験に使用した三次元形状計測装置の概要を模式的に示した図である。
【図11】本発明の一実施の形態における板状の立体物の切断面形状を計測したときの実験環境の概要を模式的に示した図である。
【図12】本発明の一実施の形態における板状の立体物の切断面形状を計測したときの測定結果の概要を示した図である。
【図13】本発明の一実施の形態におけるより複雑な形状の立体物の切断面形状を計測したときの実験環境の概要を模式的に示した図である。
【図14】本発明の一実施の形態におけるより複雑な形状の立体物の切断面形状を計測したときの測定結果の概要を示した図である。
【図15】本発明の一実施の形態における箱状の立体物の三次元形状を計測したときの実験環境の概要を模式的に示した図である。
【図16】本発明の一実施の形態における箱状の立体物の三次元形状を計測したときの測定結果の概要を示した図である。
【図17】本発明の一実施の形態における階段状の立体物の三次元形状を計測したときの実験環境の概要を模式的に示した図である。
【図18】本発明の一実施の形態における階段状の立体物の三次元形状を計測したときの測定結果の概要を示した図である。
【図19】本発明の一実施の形態における傾いた箱状の立体物の三次元形状を計測したときの実験環境の概要を模式的に示した図である。
【図20】本発明の一実施の形態における傾いた箱状の立体物の三次元形状を計測したときの測定結果の概要を示した図である。
【発明を実施するための形態】
【0020】
以下、本発明の実施の形態を図面に基づいて詳細に説明する。なお、実施の形態を説明するための全図において、同一部には原則として同一の符号を付し、その繰り返しの説明は省略する。
【0021】
[光切断法による三次元形状計測]
図2は、一般的な光切断法による三次元形状の計測方法の概要について説明する図である。図2において、光源300から照射された光は、スリット400によってスリット光410とされ、立体物500に照射されている。精度の高いスリット光400を得るため、光源300には拡散の少ないレーザ光源などが用いられる。
【0022】
立体物500に照射したスリット光を、当該スリット光の照射方向に対して光軸を所定の角度ずらして配置したカメラ200で撮像する。カメラ画像210は、撮像された立体物500およびスリット光410の状態を示している。このカメラ画像210の各画素ライン(カメラ画像210における点線)を走査し、各画素ラインでのスリット光410の照射位置を画像処理により特定する(例えば、特許文献2のように輝度がピークの画素とする)。
【0023】
特定したスリット光410の照射位置と、予め保持している立体物500が存在しない場合のスリット光410の照射位置(照射パターン)との差分に基づいて、三角測量の原理により、特定したスリット光410の照射位置の光源300もしくはカメラ200からの距離、すなわち、立体物500のスリット光410による切断面形状に対応する距離データを算出する。スリット光410の照射位置を立体物500に対して少しずつ変えて走査し、立体物500の各切断面形状の距離データを同様に算出して集計することで、立体物500の三次元形状を計測することができる。
【0024】
なお、スリット光410の照射パターンは直線状である必要はない。例えば、曲線状のスリット光410であっても、各画素ラインにおいて立体物500が存在する場合としない場合とのスリット光410の位置の差分に基づいて同様に切断面形状を計測することができる。
【0025】
ここで、上述した光切断法を自動車等の車両に適用する場合、危険性やコストの観点からレーザ光源を光源として用いることは適当ではない。そこで、車両に一般的に設置されているブレーキランプやバックランプなどの車両外部を照射するランプを光源として用いることを考える。近年、ブレーキランプ等の車載のランプには、消費電力や寿命、輝度、反応速度などの観点から光源としてLED(Light Emitting Diode:発光ダイオード)の使用が拡大している。
【0026】
図3は、LEDを光源として単純に対象物に照射した場合の例を示した図である。図3に示すように、光源320をLEDとした場合、LEDの光は拡散するためそのままでは照射光はスリット光とはならない。また、実際にスリットを配置することは、車載のランプとしての用途をなさなくなるため適当ではない。
【0027】
そこで、本実施の形態では、1つのLEDにつき1つの光源中心があるとし、それを並べたものをスリット光と見立てる。図4は、擬似スリット光の例の概要を説明する図である。図4に示すように、本実施の形態では、光源(LED)を複数並べた配列(光源列)によって対象物を照射することにより、照射面に対して各光源中心を結んだ線分を含む照射パターンで照射するスリット光(擬似スリット光)であるものとして取り扱う。
【0028】
なお、擬似スリット光についても照射パターンは直線状である必要はない。すなわち、図4における擬似スリット光の各光源中心(および実際の光源の配列)は直線状に並んでいなくてもよく、折れ線や曲線で結ばれる配列であってもよい。また、本実施の形態では、図4や以降の例において光源を縦方向に並べることにより擬似スリット光を縦方向の直線状としているが、横方向や斜め方向等に並べたものであってもよい。
【0029】
図1は、上述した擬似スリット光を用いた、本発明の一実施の形態である三次元形状計測装置の構成例の概要を示した図である。三次元形状計測装置1は、画像認識部100、カメラ200、複数の光源320の配列からなる光源列310、光源制御装置330とを有する構成となっている。光源列310から上述したような擬似スリット光420を出力して立体物500を照射し、照射光をカメラ200で撮像する。カメラ200での撮像データ、およびカメラ200と光源列310の相対位置の情報に基づいて、画像認識部100での演算処理により光切断法によって立体物500の切断面形状を計測する。
【0030】
画像認識部100は、CPU(Central Processing Unit)110、カメラインタフェース(I/F)120、光源インタフェース(I/F)130を有し、例えば、LSI(Large Scale Integration)等の半導体集積回路により実現される。カメラI/F120および光源I/F130は、それぞれ、カメラ200および光源制御装置330を介した光源列310に対する入出力のインタフェースを提供する。CPU110は、ソフトウェアプログラムの実行により、カメラ200での撮像データに基づいて光切断法によって立体物500の切断面形状を計測し、処理結果を出力する。また、カメラI/F120および光源I/F130を介してカメラ200および光源320の動作を制御する。
【0031】
カメラ200は、立体物500に照射された擬似スリット光420を撮像し、撮像データを画像認識部100に出力する。カメラ200は、例えば、デジタルスチルカメラやデジタルビデオカメラ等のデジタルカメラである。光源320は、LEDなどのレーザではない光源であり、複数の光源320の配列である光源列310が点灯することで擬似スリット光420を照射する。光源列310を複数列有していてもよい。光源制御装置330は、CPU110からの指示に基づいて光源列310の点灯/消灯などを制御する。
【0032】
図5は、本実施の形態の三次元形状計測装置1を車両に適用した場合の例を示した図である。例えば、図1におけるカメラ200に相当するものとして、後方認識用の車載カメラ201が車両2の後方に配置されている。また、図1における光源列310および光源制御装置330に相当するものとして、複数のLEDを利用したバックランプ340を用いている。バックランプ340は車両2の左右両側に存在するため、擬似スリット光420を左右両側から照射することができる。また、車両2の内部の特定の位置には、図1における画像認識部100が配置される。
【0033】
この構成により、車両2の後方の監視領域に存在する立体物501について、画像認識部100がその距離と三次元形状を計測して出力することができ、夜間等であっても車両2の運転席に設置されたモニタ等により運転者が視認することが可能となる。また、事故回避のため立体物501の認識によって車両2の挙動を自動的に制御してもよい。
【0034】
図6は、本実施の形態の三次元形状計測装置1における光源の構成例を示した図である。図6の構成は、図5におけるバックランプ340等の内部の構成と同等のものであり、その光源としてLED321を使用している。本実施の形態では、例えば赤色LEDを使用するものとする。このLED321を複数(図6の例では10個)列状に並べたLED321を複数列(図6の例では8列)有する。
【0035】
このLED列311を1列毎に点灯させて(例えば図6の例では、右から2列目のLED列311が点灯している)、図4に示したような擬似スリット光を生成する。点灯するLED列311を順次変更することによって擬似スリット光の照射位置を立体物500上で変更して走査することができる。
【0036】
図7は、擬似スリット光420を用いた光切断法による三次元形状の計測方法の概要について説明する図である。図7において、LED列311から立体物500に照射された光は擬似スリット光420として取り扱われる。カメラ200によって撮像したカメラ画像210に対して、後述する手法により各画素ラインでの擬似スリット光420の照射位置、すなわち光源中心の位置を特定する。擬似スリット光420の光源中心の位置が特定された後は、図2で説明したものと同様の手法によって三角測量の原理により立体物500の切断面形状を計測することができる。
【0037】
また、点灯するLED列311を変更して擬似スリット光420の照射位置を変更し、各擬似スリット光420について上述した手法により立体物500の切断面形状を計測して集計することで、立体物500の三次元形状を計測することができる。
【0038】
図8は、擬似スリット光420を立体物500に照射したときのカメラ画像210における画素ラインの輝度値の例を示した図である。左側のカメラ画像210は、LED列311から擬似スリット光420を立体物500に照射したものをカメラ200にて撮像した場合の撮像画像の例を示している。カメラ画像210中の点線は撮像データにおける各画素ラインを示している。そのうちの太点線で示される画素ラインを例として、各画素の水平方向の位置とその赤成分の輝度値を示したものが右側の図である。
【0039】
この輝度の分布データに基づいて当該画素ラインにおける擬似スリット光420の照射位置(光源中心の位置)を推定する。このとき、特許文献2に記載されているように輝度値がピーク値となる位置を光源中心と推定することも可能である。しかしながら、擬似スリット光420ではスリット光410と異なり照射光が拡散しているため、輝度のピーク値による推定では誤差が大きくなる。そこで本実施の形態では、図8の右側の図の輝度値の分布が正規分布に従っていると仮定し、輝度の分布を表す正規分布曲線を推定してその中心位置を光源中心と推定する。
【0040】
図9は、画素ラインにおける輝度値の分布から正規分布曲線を推定する例を示した図である。本実施の形態では、得られた輝度値のデータから数値解析的に正規分布曲線を推定する手法として、例えば、EM(Expectation-maximization)アルゴリズムを用いる。
【0041】
EMアルゴリズムの詳細については一般に知られているため本明細書では説明を省略するが、確率モデル(本実施の形態では正規分布曲線)のパラメータを反復法により数値解析的に最尤推定するアルゴリズムであり、特に確率モデルが観測できない隠れたパラメータに依存する場合に用いられる。EMアルゴリズムは他の推定手法と比べて良い解に収束し易く、また実装が簡単になることが多く処理速度も基本的に高速であるため有効である。
【0042】
図9の下図では、上図の輝度値の分布に対してEMアルゴリズムを適用して正規分布曲線を推定した場合の例を示している。この正規分布曲線の中心の位置を当該画素ラインでの擬似スリット光420の光源中心の位置と推定する。この処理を全画素ラインについて行うことで、擬似スリット光420の光源中心の位置を推定することができる。なお、本実施の形態では正規分布曲線を推定する際にEMアルゴリズムを用いているが、他のアルゴリズムを用いることも当然可能である。
【0043】
[実験結果]
以下では、上述した擬似スリット光420を用いた光切断法による三次元形状計測手法により、種々の立体物500の三次元形状を計測する実験を行った結果について説明する。
【0044】
図10は、実験に使用した三次元形状計測装置1の概要を模式的に示した図である。画像認識部100に対してカメラ200と光源320であるLED321が接続されている。LED321は縦に10個並べたLED列311として5列配置されている。LED列311は画像認識部100によって制御されて1列ずつ点灯して擬似スリット光420を生成する。また、カメラ200から出力された撮像データに基づいて画像認識部100によって三次元形状計測が行われた結果は、図示しないPC等に出力され、PC等によってグラフ等のデータとして加工されて出力される。
【0045】
実験では、まず、三次元形状計測装置1のLED列311を1列点灯して対象物を照射する、すなわち、1本の擬似スリット光420により対象物を照射する。その照射光をカメラ200により撮像し、撮像データに基づいて画像認識部100によって光切断法により擬似スリット光420の光源中心の位置のカメラ200からの距離を計測することで、擬似スリット光420による切断面の形状を計測する。
【0046】
図11は、板状の立体物の切断面形状を計測したときの実験環境の概要を模式的に示した図である。三次元形状計測装置1のLED列311に対して板状の立体物502(例えばノート)を傾けて配置し、擬似スリット光420を照射している。このとき、カメラ200と立体物502との間の距離の実測値は約75cm(立体物502の下部)〜80cm(立体物502の上部)である。
【0047】
図12は、図11の実験環境により板状の立体物の切断面形状を計測したときの測定結果の概要を示した図である。左上の図は、カメラ200によって撮像されたカメラ画像210の概要を示したものであり、板状の立体物502に擬似スリット光420が照射された状態を示している。このカメラ画像210のデータについて、例えば、上から240行目の画素ラインおよび260行目の画素ラインの輝度値を取得し、それぞれの輝度値の分布についてEMアルゴリズムを適用して正規分布曲線を推定したものが右図に示されている。
【0048】
このように各画素ラインについて輝度値の正規分布曲線を推定し、光源中心の位置(カメラ200からの距離)を推定したものをプロットした図が下図に示されている。下図では画素ラインを横軸としているため、図の左方がカメラ画像210での上方に相当する。なお、下図で示された光源中心の推定位置の情報が左上のカメラ画像210の図中に太線で追記されている。下図に示されるように、下図中の太線で示されたカメラ200から立体物502までの距離の実測値とは若干の誤差があるが、立体物502の擬似スリット光420による切断面形状および距離をほぼ特定できていることが分かる。
【0049】
同様に、図13は、より複雑な形状の立体物の切断面形状を計測したときの実験環境の概要を模式的に示した図である。三次元形状計測装置1のLED列311に対してより複雑な形状の立体物503(例えば市販の赤外線ヒーター)を配置し、擬似スリット光420を照射している。このとき、カメラ200と立体物503との間の距離の実測値は約85cmである。
【0050】
図14は、図13の実験環境により複雑な形状の立体物の切断面形状を計測したときの測定結果の概要を示した図である。左上の図は、カメラ200によって撮像されたカメラ画像210の概要を示したものであり、複雑な形状の立体物503に擬似スリット光420が照射された状態を示している。このカメラ画像210のデータについて、例えば、上から200行目の画素ラインおよび240行目の画素ラインの輝度値を取得し、それぞれの輝度分布についてEMアルゴリズムを適用して正規分布曲線を推定したものが右図に示されている。ここでは図12の場合と比較して立体物503の形状が複雑であることから輝度値のばらつきが大きくなっているが、EMアルゴリズムを適用することにより適切な正規分布曲線が推定できていることが分かる。
【0051】
このように各画素ラインについて輝度値の正規分布曲線を推定し、光源中心の位置(カメラ200からの距離)を推定したものをプロットした図が下図に示されている。下図では画素ラインを横軸としているため、図の左方がカメラ画像210での上方に相当する。なお、下図で示された光源中心の推定位置の情報が左上のカメラ画像210の図中に太線で追記されている。下図に示されるように、下図中の太線で示されたカメラ200から立体物503までの距離の実測値とは若干の誤差があるが、複雑な形状の立体物503の擬似スリット光420による切断面形状および距離をほぼ特定できていることが分かる。
【0052】
次の実験では、三次元形状計測装置1のLED列311を1列ずつ順次点灯して対象物を照射する、すなわち、異なる擬似スリット光420により対象物を照射して走査する。その照射光をそれぞれカメラ200により撮像し、撮像データに基づいて画像認識部100によって光切断法によりそれぞれの擬似スリット光420の光源中心の位置のカメラ200からの距離を計測する。本実験では2本の擬似スリット光420により走査しているが、実際は走査する擬似スリット光420の数をさらに増やすことで対象物の三次元形状をモデリングする。
【0053】
図15は、箱状の立体物の三次元形状を計測したときの実験環境の概要を模式的に示した図である。三次元形状計測装置1のLED列311に対して箱状の立体物504を配置し、異なるLED列311からそれぞれ個別に2本の擬似スリット光420を照射している。このとき、カメラ200と立体物504との間の距離の実測値は約60cmである。
【0054】
図16は、図15の実験環境により箱状の立体物の三次元形状を計測したときの測定結果の概要を示した図である。図16の左の図は、2本の擬似スリット光420について、それぞれカメラ200によって撮像されたカメラ画像210の概要を示したものであり、箱状の立体物504に擬似スリット光420が照射された状態を示している。
【0055】
図16の右の図は、2本の擬似スリット光420に対して、それぞれ上述した手法により光源中心の位置を推定した結果をプロットしている。図16では画素ラインを縦軸としているため、図の上方がカメラ画像210での上方に相当する。なお、右の図で示された光源中心の推定位置の情報が左のカメラ画像210の図中にそれぞれ太線で追記されている。
【0056】
図16の右の図に示されるように、照射するLED列311を順次切り換えて異なる擬似スリット光420によって対象物を照射して走査し、各擬似スリット光420についてそれぞれ対象物の切断面形状を計測して集計することにより、対象物の三次元形状をモデリングすることが可能であることが分かる。
【0057】
同様に、図17は、階段状の立体物の三次元形状を計測したときの実験環境の概要を模式的に示した図である。三次元形状計測装置1のLED列311に対して、階段状の立体物505(例えば、ずらして積み重ねた本)を配置し、異なるLED列311からそれぞれ個別に2本の擬似スリット光420を照射している。このとき、カメラ200と立体物505との間の距離の実測値は約60cmである。
【0058】
図18は、図17の実験環境により階段状の立体物の三次元形状を計測したときの測定結果の概要を示した図である。図18の左の図は、2本の擬似スリット光420について、それぞれカメラ200によって撮像されたカメラ画像210の概要を示したものであり、階段状の立体物505に擬似スリット光420が照射された状態を示している。
【0059】
図18の右の図は、2本の擬似スリット光420に対して、それぞれ上述した手法により光源中心の位置を推定した結果をプロットしている。図18では画素ラインを縦軸としているため、図の上方がカメラ画像210での上方に相当する。なお、右の図で示された光源中心の推定位置の情報が左のカメラ画像210の図中にそれぞれ太線で追記されている。
【0060】
図18の右の図に示されるように、照射するLED列311を順次切り換えて異なる擬似スリット光420によって対象物を照射して走査し、各擬似スリット光420についてそれぞれ対象物の切断面形状を計測して集計することにより、表面形状が複雑な対象物の三次元形状についてもモデリングすることが可能であることが分かる。
【0061】
同様に、図19は、傾いた箱状の立体物の三次元形状を計測したときの実験環境の概要を模式的に示した図である。三次元形状計測装置1のLED列311に対して、傾いた箱状の立体物506を配置し、異なるLED列311からそれぞれ個別に2本の擬似スリット光420を照射している。このとき、カメラ200と立体物506との間の距離の実測値は約55cm(立体物506の下部)〜60cm(立体物506の上部)である。
【0062】
図20は、図19の実験環境により階段状の立体物の三次元形状を計測したときの測定結果の概要を示した図である。図20の左の図は、2本の擬似スリット光420について、それぞれカメラ200によって撮像されたカメラ画像210の概要を示したものであり、傾いた箱状の立体物506に擬似スリット光420が照射された状態を示している。
【0063】
図20の右の図は、2本の擬似スリット光420に対して、それぞれ上述した手法により光源中心の位置を推定した結果をプロットしている。図20では画素ラインを縦軸としているため、図の上方がカメラ画像210での上方に相当する。なお、右の図で示された光源中心の推定位置の情報が左のカメラ画像210の図中にそれぞれ太線で追記されている。
【0064】
図20の右の図に示されるように、照射するLED列311を順次切り換えて異なる擬似スリット光420によって対象物を照射して走査し、各擬似スリット光420についてそれぞれ対象物の切断面形状を計測して集計することにより、奥行きのある対象物の三次元形状についてもモデリングすることが可能であることが分かる。
【0065】
なお、以上に示した各実験の結果のカメラ画像210においては、擬似スリット光420が直接照射されていない領域や、照射されていても対象物がない領域では輝度が低くなっている。これらの領域における画素ラインで推定された擬似スリット光420の光源中心の位置は、輝度が低いことにより誤推定が生じ、画素ライン毎にばらつきが大きくなっている。従って、例えば、ばらつきが所定のレベル以上である領域のデータを除外するなどにより、対象物が存在する領域に絞り込んで三次元形状の計測を行うことができる。
【0066】
以上に説明したように、本実施の形態の三次元計測装置によれば、光切断法を利用して、自動車等の車両の周辺物体についての三次元形状を計測する際に、カメラとして車両に設置されている後方認識用のカメラを用いる。また、スリット光の光源としてブレーキランプやバックランプなどLEDが列状に配置された光源を用い、照射光を擬似スリット光として取り扱う。これらにより、車両に設置された既存の設備を用いて低コストで光切断法による三次元形状の計測を行うことが可能となる。
【0067】
また、光切断法においてカメラ画像の各画素ラインでの光源中心の位置を推定する際に、各画素ラインにおける擬似スリット光の輝度分布を正規分布と仮定し、EMアルゴリズムを適用して正規分布曲線を最尤推定して、その正規部分布曲線の中心を光源中心の位置と推定する。これにより、擬似スリット光を用いた場合であっても高精度で光切断法による三次元形状の計測を行うことが可能となる。
【0068】
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は前記実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。
【0069】
例えば、本実施の形態では図5に示すように三次元形状計測装置を車両における後方認識用として用いる場合を例としているが、これに限るものではなく、車両における後方以外の周辺の立体物の検知・認識に用いることもできる。また、車両以外の他の製造装置や検査装置等における立体物の三次元形状の計測手段に用いることもできる。
【産業上の利用可能性】
【0070】
本発明の三次元形状計測装置および当該装置における処理を行う半導体集積回路は、車載環境における周辺監視手段等に利用可能である。
【符号の説明】
【0071】
1…三次元形状計測装置、2…車両、
100…画像認識部、110…CPU、120…カメラI/F、130…光源I/F、
200…カメラ、201…車載カメラ、210…カメラ画像、
300…光源、310…光源列、311…LED列、320…光源、321…LED、330…光源制御装置、340…バックランプ、
400…スリット、410…スリット光、420…擬似スリット光、
500〜506…立体物。
【特許請求の範囲】
【請求項1】
複数の光源の配列からなり、監視領域に対して光を照射する光源列と、
前記光源列により照射された前記監視領域を撮像し、撮像した画像をデジタルデータにより出力するカメラと、
前記カメラおよび前記光源列に対する入出力を行うインタフェースと、CPUとを有する画像認識部とを有し、光切断法により前記監視領域に存在する立体物の三次元形状を計測する三次元形状計測装置であって、
前記画像認識部は、前記光源列から照射された光を、照射面において前記光源列内の前記各光源から照射された光の光源中心を結ぶ線分を含む照射パターンで照射するスリット光とみなし、前記スリット光とみなされた擬似スリット光が照射された前記監視領域について前記カメラによって撮像された画像データから、光切断法により、前記画像データの画素ライン毎に、前記各画素ラインの輝度データに基づいて推定した前記擬似スリット光の照射位置の情報と、前記監視領域に前記立体物が存在しない場合の前記照射パターンとの差分に基づいて前記擬似スリット光の前記照射位置における前記カメラからの距離を算出し、算出した距離の情報に基づいて前記監視領域に存在する前記立体物の前記擬似スリット光による切断面形状を計測することを特徴とする三次元形状計測装置。
【請求項2】
請求項1に記載の三次元形状計測装置において、
前記光源列を構成する前記各光源はLEDであることを特徴とする三次元形状計測装置。
【請求項3】
請求項2に記載の三次元形状計測装置において、
前記光源列を構成する前記各光源は車両に設置されているバックランプもしくはブレーキランプもしくは前記車両の外部を照射するその他のランプを構成するLEDであり、
前記カメラは、前記車両に設置されている後方認識用カメラであることを特徴とする三次元形状計測装置。
【請求項4】
請求項1〜3のいずれか1項に記載の三次元形状計測装置において、
前記画像認識部は、前記カメラによって撮像された前記画像データから、前記各画素ラインにおける前記擬似スリット光の前記照射位置を推定する際に、前記各画素ラインの輝度の分布を表す正規分布曲線を推定し、前記正規分布曲線の中心を前記照射位置として推定することを特徴とする三次元形状計測装置。
【請求項5】
請求項4に記載の三次元形状計測装置において、
前記画像認識部は、前記各画素ラインの輝度の分布を表す前記正規分布曲線を推定する際に、EMアルゴリズムを用いることを特徴とする三次元形状計測装置。
【請求項6】
請求項1〜5のいずれか1項に記載の三次元形状計測装置において、
前記光源列を構成する前記各光源の配列、および、前記光源列によって照射される前記擬似スリット光の前記照射パターンはともに直線状であることを特徴とする三次元形状計測装置。
【請求項7】
請求項1〜6のいずれか1項に記載の三次元形状計測装置において、
前記監視領域の異なる場所をそれぞれ照射する複数の前記光源列を有し、
前記画像認識部は、複数の前記光源列を順次点灯することによって前記監視領域の異なる場所を前記擬似スリット光によりそれぞれ照射し、前記各擬似スリット光の前記照射位置における前記カメラからの距離をそれぞれ算出し、算出した距離の情報に基づいて前記監視領域に存在する前記立体物の三次元形状を計測することを特徴とする三次元形状計測装置。
【請求項8】
請求項1〜7のいずれか1項に記載の三次元形状計測装置における前記画像認識部として動作することを特徴とする半導体集積回路。
【請求項1】
複数の光源の配列からなり、監視領域に対して光を照射する光源列と、
前記光源列により照射された前記監視領域を撮像し、撮像した画像をデジタルデータにより出力するカメラと、
前記カメラおよび前記光源列に対する入出力を行うインタフェースと、CPUとを有する画像認識部とを有し、光切断法により前記監視領域に存在する立体物の三次元形状を計測する三次元形状計測装置であって、
前記画像認識部は、前記光源列から照射された光を、照射面において前記光源列内の前記各光源から照射された光の光源中心を結ぶ線分を含む照射パターンで照射するスリット光とみなし、前記スリット光とみなされた擬似スリット光が照射された前記監視領域について前記カメラによって撮像された画像データから、光切断法により、前記画像データの画素ライン毎に、前記各画素ラインの輝度データに基づいて推定した前記擬似スリット光の照射位置の情報と、前記監視領域に前記立体物が存在しない場合の前記照射パターンとの差分に基づいて前記擬似スリット光の前記照射位置における前記カメラからの距離を算出し、算出した距離の情報に基づいて前記監視領域に存在する前記立体物の前記擬似スリット光による切断面形状を計測することを特徴とする三次元形状計測装置。
【請求項2】
請求項1に記載の三次元形状計測装置において、
前記光源列を構成する前記各光源はLEDであることを特徴とする三次元形状計測装置。
【請求項3】
請求項2に記載の三次元形状計測装置において、
前記光源列を構成する前記各光源は車両に設置されているバックランプもしくはブレーキランプもしくは前記車両の外部を照射するその他のランプを構成するLEDであり、
前記カメラは、前記車両に設置されている後方認識用カメラであることを特徴とする三次元形状計測装置。
【請求項4】
請求項1〜3のいずれか1項に記載の三次元形状計測装置において、
前記画像認識部は、前記カメラによって撮像された前記画像データから、前記各画素ラインにおける前記擬似スリット光の前記照射位置を推定する際に、前記各画素ラインの輝度の分布を表す正規分布曲線を推定し、前記正規分布曲線の中心を前記照射位置として推定することを特徴とする三次元形状計測装置。
【請求項5】
請求項4に記載の三次元形状計測装置において、
前記画像認識部は、前記各画素ラインの輝度の分布を表す前記正規分布曲線を推定する際に、EMアルゴリズムを用いることを特徴とする三次元形状計測装置。
【請求項6】
請求項1〜5のいずれか1項に記載の三次元形状計測装置において、
前記光源列を構成する前記各光源の配列、および、前記光源列によって照射される前記擬似スリット光の前記照射パターンはともに直線状であることを特徴とする三次元形状計測装置。
【請求項7】
請求項1〜6のいずれか1項に記載の三次元形状計測装置において、
前記監視領域の異なる場所をそれぞれ照射する複数の前記光源列を有し、
前記画像認識部は、複数の前記光源列を順次点灯することによって前記監視領域の異なる場所を前記擬似スリット光によりそれぞれ照射し、前記各擬似スリット光の前記照射位置における前記カメラからの距離をそれぞれ算出し、算出した距離の情報に基づいて前記監視領域に存在する前記立体物の三次元形状を計測することを特徴とする三次元形状計測装置。
【請求項8】
請求項1〜7のいずれか1項に記載の三次元形状計測装置における前記画像認識部として動作することを特徴とする半導体集積回路。
【図1】
【図2】
【図5】
【図6】
【図9】
【図10】
【図11】
【図13】
【図15】
【図17】
【図19】
【図3】
【図4】
【図7】
【図8】
【図12】
【図14】
【図16】
【図18】
【図20】
【図2】
【図5】
【図6】
【図9】
【図10】
【図11】
【図13】
【図15】
【図17】
【図19】
【図3】
【図4】
【図7】
【図8】
【図12】
【図14】
【図16】
【図18】
【図20】
【公開番号】特開2011−7711(P2011−7711A)
【公開日】平成23年1月13日(2011.1.13)
【国際特許分類】
【出願番号】特願2009−153273(P2009−153273)
【出願日】平成21年6月29日(2009.6.29)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 平成21年3月5日 社団法人精密工学会主催の「DIA2009動的画像処理実利用化ワークショップ」において文書をもって発表
【出願人】(508236240)公立大学法人公立はこだて未来大学 (16)
【出願人】(302062931)ルネサスエレクトロニクス株式会社 (8,021)
【Fターム(参考)】
【公開日】平成23年1月13日(2011.1.13)
【国際特許分類】
【出願日】平成21年6月29日(2009.6.29)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 平成21年3月5日 社団法人精密工学会主催の「DIA2009動的画像処理実利用化ワークショップ」において文書をもって発表
【出願人】(508236240)公立大学法人公立はこだて未来大学 (16)
【出願人】(302062931)ルネサスエレクトロニクス株式会社 (8,021)
【Fターム(参考)】
[ Back to top ]