形状測定装置およびプログラム
【課題】重複画像における誤対応点を自動判定することで、三次元形状の測定に必要な初期値を始めとする測定値を自動で取得する。
【解決手段】
形状測定装置1は、重複撮影領域で測定対象物18を撮影する撮影部2〜9と、撮影部2〜9によって撮影された測定対象物18の特徴点の位置を対応付ける特徴点対応付部21と、特徴点対応付部21で対応付けた特徴点の重複画像における視差を求める視差測定部22と、視差測定部22で求めた視差に基づき、測定対象物18の特徴点の三次元座標を求める三次元座標演算部23と、視差測定部22で求めた視差、および、三次元座標演算部23で求めた三次元座標または三次元座標系における測定対象物18の形態に基づいて、誤対応点を判定する誤対応点判定部24と、誤対応点判定部24で誤対応点と判定された点を除いた特徴点の位置等に基づき、測定対象物18の三次元形状を求める三次元形状測定部25とを備える。
【解決手段】
形状測定装置1は、重複撮影領域で測定対象物18を撮影する撮影部2〜9と、撮影部2〜9によって撮影された測定対象物18の特徴点の位置を対応付ける特徴点対応付部21と、特徴点対応付部21で対応付けた特徴点の重複画像における視差を求める視差測定部22と、視差測定部22で求めた視差に基づき、測定対象物18の特徴点の三次元座標を求める三次元座標演算部23と、視差測定部22で求めた視差、および、三次元座標演算部23で求めた三次元座標または三次元座標系における測定対象物18の形態に基づいて、誤対応点を判定する誤対応点判定部24と、誤対応点判定部24で誤対応点と判定された点を除いた特徴点の位置等に基づき、測定対象物18の三次元形状を求める三次元形状測定部25とを備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の撮影位置から測定対象物を撮影した重複画像に基づいて、測定対象物の三次元形状を測定する形状測定技術に係り、特に三次元形状の測定に必要な初期値を始めとする測定値を自動で取得する技術に関する。
【背景技術】
【0002】
従来から写真測量の理論が研究されている。近年では、写真測量の理論を用いて、複数の撮影位置から撮影した重複画像から測定対象物の三次元形状を測定する技術が開示されている。測定対象物の三次元位置を測定するためには、左右画像で6点以上の点を対応付ける必要があるが、この処理は手動で行うか、測定対象物にマークを貼り付けて自動で行う必要があった。
【0003】
また、測定対象物の三次元形状を測定するために、測定対象物の画素についてステレオマッチングを行う。ステレオマッチングには、テンプレート画像を変形させながら探索する最小二乗マッチング(Least−Square Matching:LSM)や正規化相関法などが用いられる。この処理には、左右画像で対応付けられた多くの点や線が必要であるが、これらの点や線などの初期値を手動で設定するのは煩雑でスキルを伴う。
【0004】
このような課題を解決する技術が、例えば、特許文献1や2に開示されている。特許文献1に記載の発明では、基準となる特徴パターンが設けられた測定対象物を異なる方向から撮影した一対の第1撮影画像と、基準となる特徴パターンが設けられていない測定対象物を第1撮影画像の撮影方向と同じ方向から撮影した一対の第2撮影画像とに基づいて、各方向で得られた第1撮影画像と第2撮影画像との差をとり特徴パターンを抽出する。
【0005】
この態様によれば、特徴パターンのみの画像が作成できることから、特徴パターンの位置検出を自動で精度よく行うことができる。また、特徴パターンの点の数を増やすことにより、左右画像で対応する面の検出を自動で行うことできる。
【0006】
また、特許文献2に記載の発明では、測定対象の撮影位置と設計データによって決定されている測定対象の基準位置との位置補正を行い、測定対象の三次元形状と設計データを比較することによって、誤って対応付けられた誤対応点を削除する。この態様によれば、三次元形状の測定処理を自動化することができる。
【特許文献1】特開平10−318732号公報
【特許文献2】特開2007−212430号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
このような背景を鑑み、本発明は、重複画像における誤対応点を自動判定することで、三次元形状の測定に必要な初期値を始めとする測定値を自動で取得する技術を提供することを目的とする。
【課題を解決するための手段】
【0008】
請求項1に記載の発明は、複数の撮影位置から重複した撮影領域で、測定対象物を撮影する撮影部と、前記撮影部によって撮影された重複画像における前記測定対象物の特徴点の位置を対応付ける特徴点対応付部と、前記特徴点対応付部で対応付けた特徴点の重複画像における視差を求める視差測定部と、前記視差測定部で求めた視差に基づき、前記測定対象物の特徴点の三次元座標を求める三次元座標演算部と、前記視差測定部で求めた視差、および、前記三次元座標演算部で求めた三次元座標または三次元座標系における測定対象物の形態に基づいて、誤対応点を判定する誤対応点判定部と、前記誤対応点判定部で誤対応点と判定された点を除いた特徴点の位置および前記複数の撮影位置に基づき、前記測定対象物の特徴点の三次元座標または前記測定対象物の三次元形状を求める三次元形状測定部と、を備えることを特徴とする形状測定装置である。
【0009】
請求項1に記載の発明によれば、重複画像における誤対応点を自動判定することで、三次元形状の測定に必要な初期値を始めとする測定値を自動で取得することができる。
【0010】
請求項2に記載の発明は、請求項1に記載の発明において、基準点を設けた校正用被写体と、前記校正用被写体を撮影した重複画像内の対応する基準点の位置に基づき、前記撮影部の撮影位置および姿勢を求める撮影位置姿勢測定部とをさらに備えることを特徴とする。
【0011】
請求項2に記載の発明によれば、測定対象物の撮影前に校正用被写体を撮影し、撮影部の位置を事前に求める第1方式のやり方を用いて、撮影部の撮影位置および姿勢を求めることができる。
【0012】
請求項3に記載の発明は、請求項1に記載の発明において、前記撮影部の撮影位置を測定する水平角測部および鉛直角測部の少なくとも一つをさらに備えることを特徴とする。
【0013】
請求項3に記載の発明によれば、校正用被写体を撮影した画像に基づいて撮影部の撮影位置および姿勢を求める必要がない。
【0014】
請求項4に記載の発明は、請求項1に記載の発明において、所定の位置関係で基準点を設けた校正用被写体と、前記校正用被写体を撮影した重複画像内の対応する基準点の位置に基づき、前記撮影部の撮影位置および姿勢を求める撮影位置姿勢測定部とをさらに備えることを特徴とする。
【0015】
請求項4に記載の発明によれば、測定対象物と一緒に校正用被写体を撮影し、撮影部の位置と測定対象物の三次元位置を並列的に求める第2方式のやり方を用いて、撮影部の撮影位置および姿勢を求めることができる。
【0016】
請求項5に記載の発明は、請求項2〜4のいずれかに記載の発明において、前記特徴点対応付部は、撮影部を所定の基線長だけ離して撮影した少なくとも一対のステレオ画像における特徴点の位置を対応付けることを特徴とする。
【0017】
請求項5に記載の発明によれば、少なくとも一対のステレオ画像に基づき、測定対象物の三次元形状を測定することができる。
【0018】
請求項6に記載の発明は、請求項2〜4のいずれかに記載の発明において、前記誤対応点判定部は、視差のヒストグラムを作成し、視差の平均から所定範囲内にない視差に相当する特徴点を誤対応点として判定することを特徴とする。
【0019】
請求項6に記載の発明によれば、測定対象物から離れた位置の誤対応点を判定することができる。
【0020】
請求項7に記載の発明は、請求項2〜4のいずれかに記載の発明において、前記測定対象物に対して特徴を投影する特徴投影部をさらに備えることを特徴とする。
【0021】
請求項7に記載の発明によれば、測定対象物の特徴が乏しい部分に特徴が入るため、多くの特徴点を検出することができる。
【0022】
請求項8に記載の発明は、請求項4に記載の発明において、前記視差測定部は、前記特徴点対応付部で対応付けた特徴点の視差を求める際に、前記特徴点近傍の位置が分かっている基準点の視差に基づき、前記特徴点の視差を推定することを特徴とする。
【0023】
請求項8に記載の発明によれば、重複画像における特徴点の位置を対応付ける際に、特徴点の推定視差に相当する位置から横方向または縦方向に対応点を探索することができる。
【0024】
請求項9に記載の発明は、請求項4に記載の発明において、前記誤対応点判定部は、特徴点近傍の位置が分かっている基準点の視差に基づき、前記特徴点が誤対応点か否かを判定することを特徴とする。
【0025】
請求項9に記載の発明によれば、特徴点近傍の基準点の視差に基づき、誤対応点を判定することができる。
【0026】
請求項10に記載の発明は、請求項1に記載の発明において、前記誤対応点判定部は、横視差および縦視差の少なくとも一つに基づき、誤対応点を判定することを特徴とする。
【0027】
請求項10に記載の発明によれば、縦視差を除去した撮影、横視差を除去した撮影、または縦視差および横視差の両方を除去した撮影を行うことができる。
【0028】
請求項11に記載の発明は、請求項1に記載の発明において、前記三次元形状測定部は、前記測定対象物の輪郭の内側を処理領域として三次元形状を測定することを特徴とする。
【0029】
請求項11に記載の発明によれば、測定対象物の輪郭部分に不要な三次元形状が形成されない。
【0030】
請求項12に記載の発明は、請求項2〜4のいずれかに記載の発明において、前記誤対応点判定部が誤対応点であると判定した場合には、前記誤対応点に相当する特徴点の指定が解除されることを特徴とする。
【0031】
請求項12に記載の発明によれば、誤対応点を除いた特徴点の三次元座標を求めることができる。
【0032】
請求項13に記載の発明は、請求項1に記載の発明において、前記特徴点対応付部は、既知の奥行量に基づいて特徴点の視差を求め、前記視差に基づいて誤対応点を判定することを特徴とする。
【0033】
請求項13に記載の発明によれば、奥行量が既知の場合に、誤対応点を判定することができる。
【0034】
請求項14に記載の発明は、請求項1に記載の発明において、重複画像における測定対象物の輪郭を抽出する輪郭抽出部をさらに備え、前記特徴点対応付部は、前記輪郭抽出部によって抽出された輪郭より内側の領域内で特徴点の位置を対応付けることを特徴とする。
【0035】
請求項14に記載の発明によれば、重複画像内で重複しない領域から特徴点を抽出しないため、輪郭近傍の誤対応点が抽出されない。
【0036】
請求項15に記載の発明は、請求項2または4に記載の発明において、前記誤対応点判定部は、前記校正用被写体に設けた基準点の重心から前記三次元座標演算部で求めた特徴点の三次元座標までの距離に基づき、前記特徴点を誤対応点と判定することを特徴とする。
【0037】
請求項15に記載の発明によれば、測定対象物から離れた位置の誤対応点を判定することができる。
【0038】
請求項16に記載の発明は、請求項1に記載の発明において、前記誤対応点判定部は、前記測定対象物の基準形態から前記三次元座標演算部で求めた特徴点の三次元座標までの距離に基づき、前記特徴点を誤対応点と判定することを特徴とする。
【0039】
請求項16に記載の発明によれば、測定対象物の輪郭部分の誤対応点を判定することができる。
【0040】
請求項17に記載の発明は、請求項1に記載の発明において、前記三次元形状測定部は、前記誤対応点判定部で初期値を求める際に行った誤対応点の除去の処理を、その後に測定値を求める際に行うように構成されていることを特徴とする。
【0041】
請求項17に記載の発明によれば、三次元形状測定部で測定値を求める際の測定の信頼性が向上する。
【0042】
請求項18に記載の発明は、複数の撮影位置から撮影した重複画像における測定対象物の特徴点の位置を対応付ける特徴点対応付ステップと、前記特徴点対応付ステップで対応付けた特徴点における視差を求める視差測定ステップと、前記視差測定ステップで求めた視差に基づき、前記測定対象物の特徴点の三次元座標を求める三次元座標演算ステップと、前記視差測定ステップで求めた視差、および、前記三次元座標演算ステップで求めた三次元座標または三次元座標系における測定対象物の形態に基づいて、誤対応点を判定する誤対応点判定ステップと、前記誤対応点判定ステップで誤対応点と判定された点を除いた特徴点の位置および前記複数の撮影位置に基づき、前記測定対象物の特徴点の三次元座標または前記測定対象物の三次元形状を求める三次元形状測定ステップと、を実行させるためのプログラムである。
【0043】
請求項18に記載の発明によれば、重複画像における誤対応点を自動判定することで、三次元形状の測定に必要な初期値を始めとする測定値を自動で取得することができる。
【発明の効果】
【0044】
本発明によれば、重複画像における誤対応点を自動判定することで、三次元形状の測定に必要な初期値を始めとする測定値を自動で与えることができる。
【発明を実施するための最良の形態】
【0045】
本発明は、撮影部の位置を、測定対象物の撮影前に校正用被写体を撮影し、事前に求める第1方式と、撮影部の位置を、測定対象物と一緒に校正用被写体を撮影し、並列的に求める第2方式とに適用が可能である。その両者のそれぞれに適用した例について以下に説明する。
【0046】
1.第1の実施形態
以下、本発明を、第1方式に適用した形状測定装置およびプログラムの一例について、図面を参照して説明する。この第1方式は、最初に校正用被写体により撮影部の位置と姿勢を算出するので、2台以上の撮影部を固定した構成とする。この方法の利点は、動きのあるようなもの(たとえば生体)を計測するときでも、一瞬にして測定対象物をとらえて計測ができることである。また、一度撮影部の位置姿勢を校正用被写体で求めておけば、測定対象物をその空間内に置くことで、三次元計測がいつでも可能である。
【0047】
(形状測定装置の構成)
図1は、第1方式を採用した形状測定装置の上面図である。形状測定装置1は、撮影部2〜9、特徴投影部10〜13、中継部14、計算処理部15、表示部17、操作部16を備える。形状測定装置1は、撮影部2〜9の中央に配置された測定対象物18の形状を測定する。
【0048】
撮影部2〜9には、例えば、ビデオカメラ、工業計測用のCCDカメラ(Charge Coupled Device Camera)、CMOSカメラ(Complementary Metal Oxide Semiconductor Camera)等を用いる。撮影部2〜9は、測定対象物18の周囲に配置される。撮影部2〜9は、複数の撮影位置から重複した撮影領域で測定対象物18を撮影する。
【0049】
撮影部2〜9は、所定の基線長だけ離して横方向または縦方向に並べられる。なお、撮影部を追加して、横方向および縦方向の両方に並べてもよい。形状測定装置1は、少なくとも一対の重複画像に基づき、測定対象物18の三次元形状を測定する。したがって、撮影部2〜9は、撮影被写体の大きさや形状により、一つもしくは複数に適宜することができる。
【0050】
特徴投影部10〜13には、例えば、プロジェクター、レーザー装置などが用いられる。特徴投影部10〜13は、測定対象物18に対してランダムドットパターン、点状のスポット光、線状のスリット光などのパターンを投影する。これにより、測定対象物18の特徴が乏しい部分に特徴が入る。特徴投影部10〜13は、撮影部2と3の間、撮影部4と5の間、撮影部6と7の間、および撮影部8と9の間に配置される。なお、測定対象物18に特徴がある場合、あるいは模様を塗布できる場合には、特徴投影部10〜13を省略することもできる。
【0051】
撮影部2〜9は、イーサネット(登録商標)、または、カメラリンクもしくはIEEE1394(Institute of Electrical and Electronic Engineers 1394)などのインターフェースを介して中継部14に接続する。中継部14には、スイッチングハブ、または、画像キャプチャボード等を用いる。撮影部2〜9が撮影した画像は、中継部14を介して、計算処理部15に入力される。
【0052】
計算処理部15には、パーソナルコンピューター(Personal Computer:PC)、または、FPGA(Field Programmable Gate Array)もしくはASIC(Application Specific Integrated Circuit)などのPLD(Programmable Logic Device)で構成したハードウェアを用いる。計算処理部15は、操作部16によって操作され、計算処理部15の処理内容および計算結果は、表示部17に表示される。操作部16には、キーボードやマウスが用いられ、表示部17には、液晶モニタが用いられる。また、操作部16および表示部17は、タッチパネル式液晶モニタで一体として構成してもよい。
【0053】
図2は、形状測定装置のブロック図である。計算処理部15は、撮影位置姿勢測定部20、特徴点対応付部21、視差測定部22、三次元座標演算部23、誤対応点判定部24、三次元形状測定部25を備える。これらは、PCで実行可能なプログラムのモジュールとして実装してもよいし、FPGAなどのPLDとして実装してもよい。
【0054】
撮影位置姿勢測定部20は、図1の校正用被写体19を撮影した画像に基づき、撮影部2〜9の外部標定要素(撮影位置および姿勢)を測定する。なお、撮影位置姿勢測定部20は、撮影部2〜9の内部標定要素(主点、焦点距離、レンズ歪み)が既知でない場合は、これも同時に求める。校正用被写体19は、複数の基準点を配置した立方体形状のキャリブレーションボックスである。
【0055】
基準点には、カラーコードターゲットを用いる(特開2007−64627号公報参照)。カラーコードターゲットは、3つのレトロターゲット(再帰反射性ターゲット)を有する。まず、撮影位置姿勢測定部20は、校正用被写体19を撮影した画像を二値化することで、レトロターゲットを検出し、その重心位置(基準点の画像座標)を求める。また、撮影位置姿勢測定部20は、カラーコードターゲットの配色(カラーコード)に基づき、各基準点にラベルをつける。これにより、重複画像内で対応する基準点の位置が分かる。
【0056】
そして、撮影位置姿勢測定部20は、相互標定法、または、単写真標定法もしくはDLT法、あるいはバンドル調整法を使うことによって、撮影部2〜9の外部標定要素を算出する。これらは単独で使っても、組み合わせて使ってもよい。なお、第1方式については、本実施形態で、第2方式については、第7の実施形態で詳述する。
【0057】
この第1方式は、最初に校正用被写体19により撮影部2〜9の位置と姿勢を算出するので、2台以上の撮影部2〜9を固定した構成とする。この方法の利点は、動きのあるようなもの(たとえば生体)を計測するときでも、一瞬にして測定対象物18をとらえて計測ができることである。また、一度撮影部2〜9の位置姿勢を校正用被写体19で求めておけば、測定対象物18をその空間内に置くことで、三次元計測がいつでも可能である。
【0058】
特徴点対応付部21は、少なくとも一対のステレオ画像から測定対象物18の特徴点を抽出し、ステレオ画像中の特徴点の位置を対応付ける。なお、撮影部2〜9を横方向に並べた場合には、特徴点対応付部21は、横方向に特徴点の位置を探索し、撮影部2〜9を縦方向に並べた場合には、縦方向に特徴点の位置を探索し、撮影部2〜9を横方向および縦方向に並べた場合には、横方向および縦方向に特徴点の位置を探索する。
【0059】
特徴点対応付部21は、背景除去部26、特徴点抽出部27、対応点探索部28を備える。背景除去部26は、測定対象物18が写された処理画像から背景画像を差分することで、測定対象物18のみが写された背景除去画像を生成する。
【0060】
特徴点抽出部27は、背景除去画像から特徴点を抽出する。この際、対応点の探索範囲を制限するため、左右のステレオ画像から特徴点を抽出する。特徴点の抽出方法としては、ソーベル、ラプラシアン、プリューウィット、ロバーツなどの微分フィルタが用いられる。
【0061】
対応点探索部28は、一方の画像で抽出された特徴点に対応する対応点を他方の画像内で探索する。対応点の探索方法としては、残差逐次検定法(Sequential Similarity Detection Algorithm Method:SSDA)、正規化相関法、方向符号照合法(Orientation Code Matching:OCM)などのテンプレートマッチングが用いられる。
【0062】
視差測定部22は、特徴点対応付部21で対応付けた特徴点の視差を求める。なお、視差測定部22は、撮影部2〜9を横方向に並べた場合には、横視差を求め、撮影部2〜9を縦方向に並べた場合には、縦視差を求め、撮影部2〜9を横方向および縦方向に並べた場合には、横視差および縦視差を求める。
【0063】
三次元座標演算部23は、撮影位置姿勢測定部20で測定された外部標定要素、および、特徴点対応付部21で対応付けた特徴点の画像座標に基づき、測定対象物18の特徴点の三次元座標を演算する。
【0064】
誤対応点判定部24は、視差測定部22で求めた視差(横視差および縦視差の少なくとも一つ)、および、三次元座標演算部23で求めた三次元座標または三次元座標系における測定対象物18の形態に基づいて、誤対応点を判定する。誤対応点判定部24は、視差判定部29、空間判定部30、形態判定部31を備える。誤対応点判定部24が誤対応点であると判定した場合には、誤対応点に相当する特徴点の指定が解除される。
【0065】
視差判定部29は、視差測定部22で求めた視差のヒストグラムを作成し、視差の平均値から所定範囲内にない視差に相当する特徴点を誤対応点として判定する。特徴点の三次元座標は、視差に基づいて算出されるため、視差の平均値から大きく外れた視差は、誤対応点の可能性が高い。
【0066】
空間判定部30は、校正用被写体19の基準点の重心から所定距離の空間を計測空間として定義し、三次元座標演算部23で演算された特徴点の三次元座標がその計測空間からはみ出していた場合に、その特徴点を誤対応点として判定する。
【0067】
形態判定部31は、三次元座標演算部23で演算された特徴点の三次元座標から、測定対象物18の基準形態を作成し、基準形態と特徴点の三次元座標との距離に基づき、誤対応点を判定する。
【0068】
三次元形状測定部25は、誤対応点判定部24で誤対応点と判定された点を除いた特徴点群を初期値として、所定領域内の画素についてステレオマッチングを行い、測定対象物18の三次元形状を求める。ステレオマッチングには、テンプレート画像を変形させながら探索するLSM、または正規化相関法などが用いられる。三次元形状は、特徴点の点群または不整三角形網(TIN:Triangulated Irregular Network)として、表示部17に表示される。
【0069】
さらに、誤対応点判定部24で初期値を求める際に行った誤対応点の除去の処理を、三次元形状測定部25が、その後に測定値を求める際にも、同様に行うことができる。
【0070】
(形状測定装置の処理)
以下、形状測定装置の詳細な処理について図3を参照して説明する。図3は、形状測定装置のプログラムのフローチャートである。このフローチャートを実行するプログラムは、CDROMなどの記録媒体に格納して提供が可能である。
【0071】
まず、処理画像と背景画像を入力する(ステップS10)。次に、背景除去部26によって、被計測対象物18の背景が除去される(ステップS11)。図4は、処理画像を示す図面代用写真(A)と、背景画像を示す図面代用写真(B)と、背景除去画像を示す図面代用写真(C)である。背景除去画像は、処理画像から背景画像を差分することで生成される。背景除去は、左右画像に対して行われる。なお、背景画像が得られない場合には、この処理を行わなくてもよい。
【0072】
次に、特徴点抽出部27によって、左右画像から特徴点が抽出される(ステップS12)。左右の両画像から特徴点を抽出することによって、対応点の探索範囲を小さくすることができる。
【0073】
特徴点抽出部27は、必要に応じて縮小処理、明度補正、コントラスト補正などの前処理を行う(ステップS12−1)。次に、ソーベルフィルタによって、前処理された左右画像からエッジ強度が算出される(ステップS12−2)。図5は、x方向およびy方向のソーベルフィルタである。ソーベルフィルタのマトリクスに対応する9つの画素の輝度値を、左上から右下へ向かってI1〜I9とし、x方向の強度をdx、y方向の強度をdyとすると、注目画素(中央の画素)のエッジ強度Magは、以下の数1で算出される。
【0074】
【数1】
【0075】
図6は、1/4圧縮した入力画像を示す図面代用写真(A)と、ソーベルフィルタによるエッジ強度画像を示す図面代用写真(B)である。特徴点抽出部27は、図6(B)のエッジ強度画像に対して細線化などの後処理を行う(ステップS12−3)。細線化することで、エッジは1画素幅になる。この結果、最終的に抽出される特徴点の位置が間引かれるため、画像中で偏りのなく特徴点が抽出される。
【0076】
次に、特徴点抽出部27は、二値化処理を行う(ステップS12−4)。二値化の閾値を自動で決定するため、エッジ強度のヒストグラムが作成される。図7は、エッジ強度のヒストグラムである。特徴点抽出部27は、作成したヒストグラムにおいて、エッジ強度の強い方から数えた累積度数が全エッジ画素数の50%の位置に相当するエッジ強度を二値化の閾値とする。
【0077】
図7の場合、エッジの画素数は56986画素であり、強度の強い方から数えた累積度数が全エッジ画素数の50%となる28493画素目のエッジ強度は、52である。したがって、二値化の閾値は52となる。図8は、閾値52で二値化した結果を示す図面代用写真であり、図9は、左右画像で抽出された特徴点を示す図面代用写真である。
【0078】
次に、対応点探索部28によって、左右画像中の特徴点が対応付けられる(ステップS13)。対応点探索部28は、左画像中の各特徴点を中心としたテンプレート画像を作成し、右画像中の所定の領域でテンプレート画像に最も相関の強い対応点を探索する。
【0079】
図10は、テンプレート作成法を説明する説明図(A)と、探索ラインの決定方法を説明する説明図(B)と、探索幅の決定方法を説明する説明図(C)である。図10(A)に示すように、テンプレート画像は、注目特徴点を中心とした21画素×21画素で構成される。ステレオ画像は縦視差が除去されているため、図10(B)に示すように、x軸に平行に探索ラインが設けられる。また、図10(C)に示すように、対応点探索部28は、右画像の探索ライン上で最も左側の特徴点と、最も右側の特徴点を検出し、最も左側の特徴点と最も右側の特徴点までを探索幅として対応点を探索する。
【0080】
この結果、テンプレート画像と最も相関の強い点が対応点となる。なお、撮影部2〜9を縦方向に並べた場合、探索ラインはy軸に平行となる。また、撮影部2〜9を縦方向および横方向に並べた場合、探索ラインはx軸およびy軸となる。
【0081】
次に、誤対応点判定部24によって、誤って対応付けた特徴点(誤対応点)が判定される(ステップS14)。誤対応点の判定処理には、視差による判定(ステップS14−1)と、計測空間の制限による判定(ステップS14−2)と、測定対象物18の形態による判定(ステップS14−3)とがある。これらの判定処理は、段階的に行われるが、少なくとも一つの処理を行う態様でもよい。
【0082】
以下、視差による判定方法について説明する(ステップS14−1)。ステレオ法では、特徴点の三次元座標は、視差に基づいて算出される。したがって、背景における特徴点の視差は、測定対象物18の特徴点の視差とは異なる傾向を持つ。図11は、誤対応点の視差を説明する説明図である。図11に示すように、誤対応点における視差(−10)は、その他の視差(−50、−50、−40、−60)と比べて大きく異なる。このため、視差判定部29は、視差測定部22によって測定された視差のヒストグラムを作成し、視差の平均値から大きく外れた視差を持つ特徴点を誤対応点として判定する。
【0083】
図12は、視差のヒストグラムである。視差の平均をμとし、標準偏差をσとした場合、視差が平均μから標準偏差σの1.5倍の区間[μ−1.5σ,μ+1.5σ]になければ、その視差に相当する特徴点は誤対応点と判定される。なお、1.5という値は、複数のサンプルの実験により得られた初期値であり、予め変更可能である。
【0084】
図13は、視差判定前の特徴点の点群を示す図面代用写真(A)と、視差判定後の特徴点の点群を示す図面代用写真(B)である。図13に示すように、視差判定を行うことで、測定対象物18から大きく離れた背景の特徴点が誤対応点として除去される。
【0085】
次に、計測空間の制限による判定方法について説明する(ステップS14−2)。計測空間は、校正用被写体19の基準点の重心を中心とした空間として定義される。図14は、校正用被写体の基準点とその重心を示す図面代用写真である。校正用被写体19は、測定対象物18の重心位置に置かれているものとする。
【0086】
まず、空間判定部30は、全ての基準点座標の平均をとることで重心座標を算出する。そして、重心から50cmの空間を計測空間として定義する。基準点の重心から三次元座標演算部23で求めた特徴点の三次元座標までの距離が、50cmを超えている場合には、空間判定部30は、その特徴点を誤対応点と判定する。50cmという閾値は、測定対象物18の大きさに基づいて予め変更可能である。図15は、空間判定によって除去される特徴点を示す図面代用写真である。
【0087】
次に、測定対象物18の形態による判定方法について説明する(ステップS14−3)。上述した視差判定および空間判定は、大きな誤差をもつ場合に有効であり、測定対象物18の輪郭部分に位置する誤対応点は除去されない。そこで、形態判定部31は、測定対象物18の基準形態を作成し、基準形態と特徴点の三次元座標との距離に基づき、誤対応点を判定する。
【0088】
図16は、メッシュ間隔4mmで作成したTINを示す図面代用写真(A)と、メッシュ間隔10mmで作成したTINを示す図面代用写真(B)である。まず、形態判定部31は、空間判定(ステップS14−2)までに残存した特徴点をLSMの初期値とし、基準形態の元になるTINを作成する。図16(A)に示すように、TINのメッシュ間隔が小さいと、残存する誤対応点によって凹凸面ができてしまう。したがって、形態判定部31は、図16(B)に示すように、TINのメッシュ間隔を大きくして、測定対象物18の大まかな形状(粗面)を作成する。
【0089】
次に、形態判定部31は、辺の長さが長いTINを除去する。辺の長さの閾値は、作成するメッシュ間隔が10mmの場合には、その4倍の40mmとする。作成するメッシュ間隔の4倍という閾値は、複数のサンプルの実験により得られた値であり、この閾値は、予め変更可能である。
【0090】
図17は、辺の長いTINを除去した結果を示す図面代用写真である。図17に示すように、辺の長いTINが除去された結果、主要な部分と分離したTINの塊が発生する。分離したTINの塊は、辺の長さが短くても、特徴が少ない背景や頭髪の部分であること多いため、測定対象物18の面であるという信頼性が低い。したがって、形態判定部31は、TINの塊ごとにラベリングを行い、その連結数に基づいて、TINの塊を除去する。図18は、TINのラベリング結果を示す図面代用写真である。形態判定部31は、ラベリングの連結数が10以下のTINの塊を除去することで、最終的な粗面(基準形態)を作成する。なお、ラベリングの連結数の閾値は、予め変更可能である。
【0091】
次に、形態判定部31は、作成した基準形態から残存する特徴点の三次元座標までの距離が所定の閾値を越えている場合に、その特徴点を誤対応点と判定する。図19は、基準形態と特徴点の点群を示す図面代用写真(A)と、形態判定後の特徴点の点群を示す図面代用写真(B)である。まず、形態判定部31は、残っている特徴点群の各点から粗面を形成しているTINの頂点のうちで最も近い点を探索する。最も近いTINの頂点から特徴点までの距離が、所定の閾値を越えている場合、形態判定部31は、その特徴点を誤対応点と判定する。閾値は、作成するメッシュ間隔10mmの2倍である20mmとする。作成するメッシュ間隔の2倍という閾値は、複数のサンプルの実験により得られた値であり、この閾値は、予め変更可能である。
【0092】
初期値に関する誤対応点の判定が終了すると、三次元形状測定部25によって、測定対象物の三次元形状が測定される(ステップS15)。三次元形状測定部25は、図19(B)に示す特徴点群をLSMの初期値として、ステレオマッチングを行い、三次元形状(密面)を測定する。図20は、密面計測の結果を示す図面代用写真である。図20では、LSMの処理領域は、誤対応点を除去した後の特徴点群を凸包線で囲んだ凸領域としている。このため、頭から肩にかけて不要なTINが生成されているが、特徴投影部10〜13によって投影されたランダムドットパターンの部分は、指定されたメッシュ間隔のTINが生成されている。
【0093】
図21は、複数モデルにおける三次元形状の計測結果を示す図面代用写真である。図21に示す複数のモデルを合成した場合、正面のモデルに形成された頭から肩をつなぐ不要なTINが、側面のモデルに形成された本来の面を隠してしまう。したがって、この頭から肩にかけて形成された不要なTINを生成しないように、LSMの処理領域を制限する。
【0094】
図22は、LSMの処理領域の制限を示す図である。図22に示すように、特徴点群の囲み線を作成する。囲み線は、凸包線を作成し、その構成する点の点間距離と角度をみながら内側に処理領域を削っていく処理を繰り返すことで作成される。
【0095】
なお、誤対応点判定部24で初期値を求める際に行った誤対応点の除去の処理を、三次元形状測定部25が、その後に測定値を求める際にも、同様に行うことができる。
【0096】
図23は、LSMの処理領域を調整した計測結果を示す図面代用写真であり、図24は、図23の複数モデルの合成結果を示す図面代用写真である。図23および図24に示すように、頭から肩にかけて不要なTINが除去されているのが分かる。
【0097】
以下、測定対象物の撮影前に校正用被写体を撮影し、撮影部の位置を事前に求める第1方式において、撮影位置姿勢測定部20が、相互標定法を採用した場合の具体的処理について説明する。
【0098】
相互標定法によれば、重複画像に写された6点以上の対応する基準点に基づき、外部標定要素を求めることができる。また、基準点の三次元上の位置が既知であれば、絶対標定によって撮影部2〜9の絶対座標が求められる。
【0099】
図25は、相互標定を説明する説明図である。相互標定は、左右2枚の画像における6点以上の対応点(パスポイント)によって外部標定要素を求める。相互標定では、投影中心O1とO2と基準点Pを結ぶ2本の光線が同一平面内になければならいという共面条件を用いる。以下の数2に、共面条件式を示す。
【0100】
【数2】
【0101】
図25に示すように、モデル座標系の原点を左側の投影中心O1にとり、右側の投影中心O2を結ぶ線をX軸にとるようにする。縮尺は、基線長を単位長さとする。このとき、求めるパラメータは、左側のカメラのZ軸の回転角κ1、Y軸の回転角φ1、右側のカメラのZ軸の回転角κ2、Y軸の回転角φ2、X軸の回転角ω2の5つの回転角となる。この場合、左側のカメラのX軸の回転角ω1は0なので、考慮する必要はない。このような条件にすると、数2の共面条件式は数3のようになり、この式を解けば各パラメータが求められる。
【数3】
【0102】
ここで、モデル座標系XYZとカメラ座標系xyzの間には、次に示すような座標変換の関係式が成り立つ。
【0103】
【数4】
【0104】
これらの式を用いて、次の手順により、未知パラメータ(外部標定要素)を求める。
(1)未知パラメータ(κ1,φ1,κ2,φ2,ω2)の初期近似値は通常0とする。
(2)数3の共面条件式を近似値のまわりにテーラー展開し、線形化したときの微分係数の値を数4により求め、観測方程式をたてる。
(3)最小二乗法をあてはめ、近似値に対する補正量を求める。
(4)近似値を補正する。
(5)補正された近似値を用いて、(1)〜(4)までの操作を収束するまで繰り返す。
【0105】
相互標定が収束した場合、さらに接続標定が行われる。接続標定とは、複数のモデル間の傾き、縮尺を統一して同一座標系とする処理である。この処理を行った場合、以下の数5で表される接続較差を算出する。算出した結果、ΔZjおよびΔDjが、所定値(例えば、0.0005(1/2000))以下であれば、接続標定が正常に行われたと判定する。
【0106】
【数5】
【0107】
(第1の実施形態の優位性)
第1の実施形態によれば、左右の重複画像における誤対応点を自動判定することで、ステレオマッチングに用いられるLSMまたは正規化相関法の初期値を自動で取得することができる。
【0108】
また、ステレオマッチングの処理領域を制限することで、測定対象物18の本来の形状のみを形成でき、複数のモデルを合成することができる。
【0109】
さらに、撮影部2〜9の撮影位置および姿勢を校正用被写体19により測定することができる。撮影位置および姿勢を求めた後には、三次元計測は、測定対象物18をその空間内に置くことでいつでもできる。また、動きをもった動的な測定対象物18でも、撮影部2〜9により同時撮影すれば、計測が可能である。
【0110】
2.第2の実施形態
第2の実施形態は、特徴点近傍の基準点の視差に基づき、特徴点の視差を推定または誤対応点を判定するものであり、上述した第1方式を採用した第1実施形態における誤差対応点判定部が行う視差による判定方法の一変形例である。
【0111】
図28は、特徴点の視差推定方法を説明する説明図である。図28に示すように、左ステレオ画像と右ステレオ画像には、測定対象物の特徴点Fと基準点P1〜P3が写される。このとき、左画像の特徴点Fと右画像上の特徴点F’の視差Dは、以下の数6に示すように、基準点P1〜P3の視差をD1〜D3とすると、基準点P1〜P3の平均視差によって推定される。
【0112】
【数6】
【0113】
特徴点対応付部21は、特徴点F’の位置を探索する場合に、推定視差Dに相当する位置から横方向に探索する。なお、撮影部2〜9を縦方向に並べた場合には、特徴点対応付部21は、推定視差Dに相当する位置から縦方向に探索する。
【0114】
さらに、以上のような視差推定法を用いて、誤対応点を判定してもよい。すなわち、視差判定部29は、特徴点近傍の基準点の平均視差に基づき、その特徴点の誤対応点を判定する。なお、特徴点から基準点までの距離を重み付け、その特徴点の誤対応点を判定することもできる。
【0115】
(第2の実施形態の優位性)
第2の実施形態によれば、左右画像における特徴点の位置を対応付ける際に、特徴点の推定視差に相当する位置から横方向または縦方向に対応点を探索することができる。また、特徴点近傍の基準点の視差に基づき、誤対応点を判定することができる。
【0116】
3.第3の実施形態
以下、第1の実施形態の変形例について説明する。第3の実施形態は、既知の奥行量に基づいて特徴点の視差を求め、誤対応点を判定するものである。上述した第1方式を採用した第1の実施形態における視差による判定方法の変形例の一つである。
【0117】
ステレオ撮影の場合、2つのカメラの光軸は平行であり、主点からCCD面までの距離a(焦点距離)が等しく、CCDは光軸に直角に配置される。このため、カメラの光軸間の距離(基線長)をlとすると、画像上の特徴点F1(x1,y1)、F2(x2,y2)の座標間には、以下の数7の関係が成り立つ。ただし、全体の座標系(x,y,z)の原点を片方のカメラレンズの主点にとる。
【0118】
【数7】
【0119】
数7によれば、奥行量zは、視差x2−x1に反比例する。したがって、誤対応点判定部24は、既知の奥行量に基づいて、誤対応点を判定することができる。
【0120】
図29は、奥行量に基づく誤対応点の判定方法を説明する説明図である。特徴点F1とF2の間の奥行量Zが既知であるとする。この際、特徴点F1の視差D1と特徴点F2の視差D2との差D1−D2は、焦点距離をa、基線長をlとすれば、以下の数8によって求められる。
【0121】
【数8】
【0122】
特徴点F1およびF2のいずれかが誤対応点でない場合には、特徴点F1の視差と特徴点F2の視差の差を、既知の奥行量Zに基づいて数8から求めたD1−D2と比較することで、特徴点F1もしくはF2を誤対応点と判定することができる。
【0123】
(第3の実施形態の優位性)
第3の実施形態によれば、奥行量が既知の場合に、誤対応点を判定することができる。
【0124】
4.第4の実施形態
以下、第1の実施形態の変形例について説明する。第4の実施形態は、測定対象物の輪郭を抽出する輪郭抽出部をさらに備えるものである。
【0125】
図30は、第4の実施形態に係る形状測定装置のブロック図である。形状測定装置1は、輪郭抽出部37を背景除去部26と特徴点抽出部27との間に備える。まず、輪郭抽出部37は、ソーベル、ラプラシアン、プリューウィット、ロバーツなどの微分フィルタを用いて、測定対象物18のエッジ強度画像を作成する。
【0126】
次に、輪郭抽出部37は、エッジ強度画像を細線化した画像に対してラベリング処理を行い、連結する画素数からエッジの長さを求める。そして、エッジ強度とエッジの長さを掛け合わせた値を2値化処理することで、輪郭エッジが抽出される。図31(A)は、輪郭エッジを示す図面代用写真である。輪郭エッジ38は、測定対象物18の内部の特徴と比べてエッジ強度が強く、直線成分が多い。
【0127】
特徴点抽出部27は、輪郭抽出部37によって抽出された輪郭エッジ38より内側の領域内で特徴点を抽出する。図31(B)は、特徴点の抽出領域を示す図面代用写真(B)である。抽出領域39は、輪郭エッジの横幅の所定割合(例えば、80%)の領域である。この80%という値は、予め変更可能である。
【0128】
(第4の実施形態の優位性)
図32は、ステレオ画像の撮影範囲の違いを示す図面代用写真である。図32に示すように、ステレオ画像では、右画像に写らない左画像の撮影範囲40と、左画像に写らない右画像の撮影範囲41が存在する。この撮影領域40,41で抽出される特徴点は、特徴点の対応付けができないため、全て誤対応点となる。しかしながら、第4の実施形態によれば、特徴点の抽出領域が制限されるため、誤対応点が抽出されない。
【0129】
5.第5の実施形態
第5の実施形態は、第1の実施形態において、撮影部の位置と姿勢を求める方法として、水平測角部および鉛直測角部の少なくとも一つにより、撮影部の撮影位置を測定する手段を採用したものである。
【0130】
図26は、水平測角部を備えた形状測定装置の上面図である。水平測角部32は、ロータリーエンコーダであり、水平角スケール33、エンコーダ34を備える。撮影部2〜9は、水平角スケール33の任意の位置に固定可能であり、撮影部2〜9と水平角スケール33は、一体となって時計回りおよび反時計回りに回転可能に支持される。一方、エンコーダ34は、水平角スケール33円周上の任意の位置に固定される。
【0131】
水平角スケール33は、撮影部検出用パターン33a〜33d、水平角検出用スリット33eを有する。撮影部検出用パターン33a〜33dは、水平角スケール33円周上の任意の位置に着脱可能であり、撮影部2〜9が固定される位置に装着される。例えば、撮影部検出用パターン33a〜33dは、撮影部2と3の中間、撮影部4と5の中間、撮影部6と7の中間、撮影部8と9の中間や、撮影部2,4,6,8の直下に装着される。
【0132】
エンコーダ34は、撮影部2〜9および水平角スケール33が回転すると、撮影部検出用パターン33a〜33dを検出する。この際、エンコーダ34は、撮影部検出用パターン33a〜33dのうち最初に検出したパターンの位置の水平角をゼロに設定する。そして、エンコーダ34は、そこから他の撮影部検出用パターン33a〜33dまでの水平角を水平角検出用スリット33eによって検出する。
【0133】
撮影部2〜9が、同一の水平面を回転するように高さを調整した場合、撮影部2〜9の撮影位置は、エンコーダ34によって検出された水平角のみに基づいて求められる。エンコーダ34は、撮影部2〜9の水平角を計算処理部15に出力する。計算処理部15は、入力した撮影部2〜9の水平角に基づいて、撮影部2〜9の相対的な三次元上の撮影位置を求める。また、実スケールの撮影部2〜9の撮影位置を求める場合、計算処理部15は、水平角スケール33の径を入力する。
【0134】
また、形状測定装置1は、水平測角部32の代わりに、撮影部2〜9と一体となって鉛直方向に回転する鉛直測角部を備える構成でもよい。この場合、計算処理部15は、鉛直測角部で検出された鉛直角に基づいて撮影部2〜9の撮影位置を求める。
【0135】
さらに、形状測定装置1は、撮影部2〜9および水平測角部32と一体となって鉛直方向に回転する鉛直角測部を備える構成でもよい。この場合、計算処理部15は、撮影部2〜9の水平角および鉛直角に基づいて撮影部2〜9の撮影位置を求める。
【0136】
(第5の実施形態の優位性)
第5の実施形態によれば、校正用被写体19を撮影した画像に基づいて撮影部2〜9の撮影位置および姿勢を求める必要がない。すなわち、形状測定装置1は、撮影位置姿勢測定部20を備える必要がない。
【0137】
6.第6の実施形態
第1方式を採用した第1の実施形態において、撮影位置姿勢測定部20が、相互標定法を用いて撮影部の撮影位置や姿勢を求める例を説明した。第6の実施形態では、相互標定法の変わりに、採用しうる具体的処理の例として、単写真標定、およびDLT法について説明する。
【0138】
6−1.単写真標定
図27は、単写真標定を説明する説明図である。単写真標定は、1枚の写真の中に写された基準点に成り立つ共線条件を用いて、写真を撮影したカメラの位置O(X0,Y0,Z0)およびカメラの姿勢(ω,φ,κ)を求める。共線条件とは、投影中心、写真像および地上の対象点(Op1P1,Op2P2,Op3P3)が、一直線上にあるという条件である。また、カメラの位置O(X0,Y0,Z0)とカメラの姿勢(ω,φ,κ)は外部標定要素である。
【0139】
まず、カメラ座標系をx,y,z、写真座標系x,y、地上座標系をX,Y,Zとする。カメラを各座標軸の正方向に対して左回りにそれぞれω,φ,κだけ順次回転させた向きで撮影が行われたものとする。そして、4点の画像座標(少なくとも3点)と対応する基準点の三次元座標を数9に示す2次の射影変換式に代入し、観測方程式を立ててパラメ−タb1〜b8を求める。
【0140】
【数9】
【0141】
数9のパラメータb1〜b8を用いて、以下の数10から外部標定要素を求める。
【数10】
【0142】
6−2.DLT法
DLT法は、写真座標と対象空間の三次元座標との関係を3次の射影変換式で近似したものである。DLT法の基本式は以下の数11となる。なお、DLT法の詳細については、「村井俊治:解析写真測量、p46−51、p149−155」等を参照する。
【0143】
【数11】
【0144】
数11の式の分母を消去すると、数12の線形式を導き出せる。
【0145】
【数12】
【0146】
さらに、数12を変形すると、以下の数13となる。
【0147】
【数13】
【0148】
数13に6点以上の基準点の三次元座標を代入し、最小二乗法を用いて解くと、写真座標と対象点座標との関係を決定するL1〜L11の11個の未知変量を取得できる。なお、L1〜L11には、外部標定要素が含まれる。
【0149】
(第6の実施形態の優位性)
第6の実施形態によれば、単写真標定を採用した場合には、少ない画像からの測定に有利であり、DLTを採用した場合には、単写真標定よりも演算処理が簡易となる優位がある。
【0150】
7.第7の実施形態
第7の実施形態は、撮影部の位置を、測定対象物と一緒に基準尺(校正用被写体)を撮影し、並列的に求める第2方式に基づくものであり、第1の実施形態における撮影位置姿勢測定部20の処理方法の一変形例である。
【0151】
第2方式は、計測対象である測定対象物と校正用被写体を同時に写し込み、撮影部の位置姿勢を求めて三次元計測する方法である。この場合は、撮影部を固定する必要がなく、撮影部は1台から複数台でもよく、撮影枚数が2枚以上あれば、計測可能である。この方法の利点は、撮影部の位置は自由でかつ1台からでも計測できるため、構成が簡単にできるという点である。また、測定対象物を撮影するのと同時に撮影部の位置姿勢を求めるので、事前に撮影部の位置姿勢を求めておく必要はない。一緒に写し込む校正用被写体は、基準尺のような長さの決まったものや、あるいは、座標が決まったものなどを使用する。
【0152】
撮影部は基本的に固定する必要がなく、どこに置くのも自由である。図33は、第7の実施形態に係る形状測定装置の上面図であり、図34は、第7の実施形態に係る形状測定装置の変形例の上面図である。図33は、撮影部1台で場所を移動しながら撮影する態様における、基準尺19、撮影部2と測定対象物18、計測処理部15、操作部16、および表示部17の関係を示している。一方、図34は、2台でステレオカメラ構成にしたり、複数台でマルチカメラ構成とした態様における変形例を示している。
【0153】
この場合、計測処理部15と、操作部16と、表示部17の三者は、PCを利用すれば、撮影部とPCだけで構成できる。また対象物に模様がない場合は、プロジェクターでパターンを投影するか、もしくは対象に模様を塗布する。撮影部の撮影位置、姿勢を求める方法は、相互標定法、または、単写真標定法もしくはDLT法、バンドル調整法を使い、これらは単独でも組み合わせて使ってもよい。
【0154】
撮影部の撮影位置および姿勢(外部標定要素)を、単写真標定またはDLT法により求めれば、1枚の写真に写された基準点の相対的な位置関係に基づき、外部標定要素を求めることができる。
【0155】
図35は、基準尺と測定対象物を撮影した左画像を示す図面代用写真(A)と、右画像を示す図面代用写真(B)である。図35に示すように、測定対象物18は、カラーコードターゲット36a〜36dを相対的な位置関係で配置した基準尺35(校正用被写体)とともに撮影される。
【0156】
図2に示す撮影位置姿勢測定部20は、図35に示す重複画像を取得する。撮影位置姿勢測定部20は、重複画像を2値化することで、カラーコードターゲット36a〜36dの重心位置(基準点の画像座標)を求める。また、撮影位置姿勢測定部20は、カラーコードターゲット36a〜36dの配色からカラーコードを読み取り、各カラーコードターゲット36a〜36dにラベルを付ける。
【0157】
このラベルによって、重複画像における基準点の対応が分かる。撮影位置姿勢測定部20は、基準点の画像座標、および基準点の三次元上の相対的な位置関係に基づき、相互標定法、単写真標定またはDLT法、あるいはバンドル調整法によって、撮影部2〜9の撮影位置と姿勢を求める。これらを組み合わせることでも高精度な位置姿勢が求められる。
【0158】
本実施形態において採用した撮影位置姿勢測定部20の処理方式である第2方式は、第1の実施形態で採用した第1方式の変形例であり、それ以外の構成や処理については、第1〜第6の実施形態で示した構成や処理を採用できる。
【0159】
(第7の実施形態の優位性)
第7の実施形態によれば、第2方式を採用しており、測定対象物18と校正用被写体を同時に撮影することにより、撮影部の位置姿勢を求め、三次元測定することが可能なので、撮影部は1台から何台でも構成でき、また撮影部を固定する必要がないので簡単な構成にできる。
【産業上の利用可能性】
【0160】
本発明は、測定対象物の三次元形状を測定する形状測定装置およびそのプログラムに利用することができる。
【図面の簡単な説明】
【0161】
【図1】第1方式を採用した形状測定装置の上面図である。
【図2】第1の実施形態に係る形状測定装置のブロック図である。
【図3】形状測定装置のフローチャートである。
【図4】処理画像を示す図面代用写真(A)と、背景画像を示す図面代用写真(B)と、背景除去画像を示す図面代用写真(C)である。
【図5】x方向およびy方向のソーベルフィルタである。
【図6】1/4圧縮した入力画像を示す図面代用写真(A)と、ソーベルフィルタによるエッジ強度画像を示す図面代用写真(B)である。
【図7】エッジ強度のヒストグラムである。
【図8】閾値52で二値化した結果を示す図面代用写真である。
【図9】左右画像で抽出された特徴点を示す図面代用写真である。
【図10】テンプレート作成法を説明する説明図(A)と、探索ラインの決定方法を説明する説明図(B)と、探索幅の決定方法を説明する説明図(C)である。
【図11】誤対応点の視差を説明する説明図である。
【図12】視差のヒストグラムである。
【図13】視差判定前の特徴点の点群を示す図面代用写真(A)と、視差判定後の特徴点の点群を示す図面代用写真(B)である。
【図14】校正用被写体の基準点とその重心を示す図面代用写真である。
【図15】空間判定によって除去される特徴点を示す図面代用写真である。
【図16】メッシュ間隔4mmで作成したTINを示す図面代用写真(A)と、メッシュ間隔10mmで作成したTINを示す図面代用写真(B)である。
【図17】辺の長いTINを除去した結果を示す図面代用写真である。
【図18】TINのラベリング結果を示す図面代用写真である。
【図19】基準形態と特徴点の点群を示す図面代用写真(A)と、形態判定後の特徴点の点群を示す図面代用写真(B)である。
【図20】密面計測の結果を示す図面代用写真である。
【図21】複数モデルにおける三次元形状の計測結果を示す図面代用写真である。
【図22】LSMの処理領域の制限を示す図である。
【図23】LSMの処理領域を調整した計測結果を示す図面代用写真である。
【図24】図23の複数モデルの合成結果を示す図面代用写真である。
【図25】相互標定を説明する説明図である。
【図26】第5の実施形態に係る形状測定装置の上面図である。
【図27】単写真標定を説明する説明図である。
【図28】特徴点の視差推定方法を説明する説明図である。
【図29】奥行量に基づく誤対応点の判定方法を説明する説明図である。
【図30】第4の実施形態に係る形状測定装置のブロック図である。
【図31】輪郭エッジを示す図面代用写真(A)と、特徴点の抽出領域を示す図面代用写真(B)である。
【図32】ステレオ画像の撮影範囲の違いを示す図面代用写真である。
【図33】第7の実施形態に係る形状測定装置の上面図である。
【図34】第7の実施形態に係る形状測定装置の変形例の上面図である。
【図35】基準尺と測定対象物を撮影した左画像を示す図面代用写真(A)と、右画像を示す図面代用写真(B)である。
【符号の説明】
【0162】
1…形状測定装置、2〜9…撮影部、10〜13…特徴投影部、14…中継部、15…計算処理部、16…操作部、17…表示部、18…測定対象物、19…校正用被写体、20…撮影位置姿勢測定部、21…特徴点対応付部、22…視差測定部、23…三次元座標演算部、24…誤対応点判定部、25…三次元形状測定部、26…背景除去部、27…特徴点抽出部、28…対応点探索部、29…視差測定部、30…空間判定部、31…形態判定部。
【技術分野】
【0001】
本発明は、複数の撮影位置から測定対象物を撮影した重複画像に基づいて、測定対象物の三次元形状を測定する形状測定技術に係り、特に三次元形状の測定に必要な初期値を始めとする測定値を自動で取得する技術に関する。
【背景技術】
【0002】
従来から写真測量の理論が研究されている。近年では、写真測量の理論を用いて、複数の撮影位置から撮影した重複画像から測定対象物の三次元形状を測定する技術が開示されている。測定対象物の三次元位置を測定するためには、左右画像で6点以上の点を対応付ける必要があるが、この処理は手動で行うか、測定対象物にマークを貼り付けて自動で行う必要があった。
【0003】
また、測定対象物の三次元形状を測定するために、測定対象物の画素についてステレオマッチングを行う。ステレオマッチングには、テンプレート画像を変形させながら探索する最小二乗マッチング(Least−Square Matching:LSM)や正規化相関法などが用いられる。この処理には、左右画像で対応付けられた多くの点や線が必要であるが、これらの点や線などの初期値を手動で設定するのは煩雑でスキルを伴う。
【0004】
このような課題を解決する技術が、例えば、特許文献1や2に開示されている。特許文献1に記載の発明では、基準となる特徴パターンが設けられた測定対象物を異なる方向から撮影した一対の第1撮影画像と、基準となる特徴パターンが設けられていない測定対象物を第1撮影画像の撮影方向と同じ方向から撮影した一対の第2撮影画像とに基づいて、各方向で得られた第1撮影画像と第2撮影画像との差をとり特徴パターンを抽出する。
【0005】
この態様によれば、特徴パターンのみの画像が作成できることから、特徴パターンの位置検出を自動で精度よく行うことができる。また、特徴パターンの点の数を増やすことにより、左右画像で対応する面の検出を自動で行うことできる。
【0006】
また、特許文献2に記載の発明では、測定対象の撮影位置と設計データによって決定されている測定対象の基準位置との位置補正を行い、測定対象の三次元形状と設計データを比較することによって、誤って対応付けられた誤対応点を削除する。この態様によれば、三次元形状の測定処理を自動化することができる。
【特許文献1】特開平10−318732号公報
【特許文献2】特開2007−212430号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
このような背景を鑑み、本発明は、重複画像における誤対応点を自動判定することで、三次元形状の測定に必要な初期値を始めとする測定値を自動で取得する技術を提供することを目的とする。
【課題を解決するための手段】
【0008】
請求項1に記載の発明は、複数の撮影位置から重複した撮影領域で、測定対象物を撮影する撮影部と、前記撮影部によって撮影された重複画像における前記測定対象物の特徴点の位置を対応付ける特徴点対応付部と、前記特徴点対応付部で対応付けた特徴点の重複画像における視差を求める視差測定部と、前記視差測定部で求めた視差に基づき、前記測定対象物の特徴点の三次元座標を求める三次元座標演算部と、前記視差測定部で求めた視差、および、前記三次元座標演算部で求めた三次元座標または三次元座標系における測定対象物の形態に基づいて、誤対応点を判定する誤対応点判定部と、前記誤対応点判定部で誤対応点と判定された点を除いた特徴点の位置および前記複数の撮影位置に基づき、前記測定対象物の特徴点の三次元座標または前記測定対象物の三次元形状を求める三次元形状測定部と、を備えることを特徴とする形状測定装置である。
【0009】
請求項1に記載の発明によれば、重複画像における誤対応点を自動判定することで、三次元形状の測定に必要な初期値を始めとする測定値を自動で取得することができる。
【0010】
請求項2に記載の発明は、請求項1に記載の発明において、基準点を設けた校正用被写体と、前記校正用被写体を撮影した重複画像内の対応する基準点の位置に基づき、前記撮影部の撮影位置および姿勢を求める撮影位置姿勢測定部とをさらに備えることを特徴とする。
【0011】
請求項2に記載の発明によれば、測定対象物の撮影前に校正用被写体を撮影し、撮影部の位置を事前に求める第1方式のやり方を用いて、撮影部の撮影位置および姿勢を求めることができる。
【0012】
請求項3に記載の発明は、請求項1に記載の発明において、前記撮影部の撮影位置を測定する水平角測部および鉛直角測部の少なくとも一つをさらに備えることを特徴とする。
【0013】
請求項3に記載の発明によれば、校正用被写体を撮影した画像に基づいて撮影部の撮影位置および姿勢を求める必要がない。
【0014】
請求項4に記載の発明は、請求項1に記載の発明において、所定の位置関係で基準点を設けた校正用被写体と、前記校正用被写体を撮影した重複画像内の対応する基準点の位置に基づき、前記撮影部の撮影位置および姿勢を求める撮影位置姿勢測定部とをさらに備えることを特徴とする。
【0015】
請求項4に記載の発明によれば、測定対象物と一緒に校正用被写体を撮影し、撮影部の位置と測定対象物の三次元位置を並列的に求める第2方式のやり方を用いて、撮影部の撮影位置および姿勢を求めることができる。
【0016】
請求項5に記載の発明は、請求項2〜4のいずれかに記載の発明において、前記特徴点対応付部は、撮影部を所定の基線長だけ離して撮影した少なくとも一対のステレオ画像における特徴点の位置を対応付けることを特徴とする。
【0017】
請求項5に記載の発明によれば、少なくとも一対のステレオ画像に基づき、測定対象物の三次元形状を測定することができる。
【0018】
請求項6に記載の発明は、請求項2〜4のいずれかに記載の発明において、前記誤対応点判定部は、視差のヒストグラムを作成し、視差の平均から所定範囲内にない視差に相当する特徴点を誤対応点として判定することを特徴とする。
【0019】
請求項6に記載の発明によれば、測定対象物から離れた位置の誤対応点を判定することができる。
【0020】
請求項7に記載の発明は、請求項2〜4のいずれかに記載の発明において、前記測定対象物に対して特徴を投影する特徴投影部をさらに備えることを特徴とする。
【0021】
請求項7に記載の発明によれば、測定対象物の特徴が乏しい部分に特徴が入るため、多くの特徴点を検出することができる。
【0022】
請求項8に記載の発明は、請求項4に記載の発明において、前記視差測定部は、前記特徴点対応付部で対応付けた特徴点の視差を求める際に、前記特徴点近傍の位置が分かっている基準点の視差に基づき、前記特徴点の視差を推定することを特徴とする。
【0023】
請求項8に記載の発明によれば、重複画像における特徴点の位置を対応付ける際に、特徴点の推定視差に相当する位置から横方向または縦方向に対応点を探索することができる。
【0024】
請求項9に記載の発明は、請求項4に記載の発明において、前記誤対応点判定部は、特徴点近傍の位置が分かっている基準点の視差に基づき、前記特徴点が誤対応点か否かを判定することを特徴とする。
【0025】
請求項9に記載の発明によれば、特徴点近傍の基準点の視差に基づき、誤対応点を判定することができる。
【0026】
請求項10に記載の発明は、請求項1に記載の発明において、前記誤対応点判定部は、横視差および縦視差の少なくとも一つに基づき、誤対応点を判定することを特徴とする。
【0027】
請求項10に記載の発明によれば、縦視差を除去した撮影、横視差を除去した撮影、または縦視差および横視差の両方を除去した撮影を行うことができる。
【0028】
請求項11に記載の発明は、請求項1に記載の発明において、前記三次元形状測定部は、前記測定対象物の輪郭の内側を処理領域として三次元形状を測定することを特徴とする。
【0029】
請求項11に記載の発明によれば、測定対象物の輪郭部分に不要な三次元形状が形成されない。
【0030】
請求項12に記載の発明は、請求項2〜4のいずれかに記載の発明において、前記誤対応点判定部が誤対応点であると判定した場合には、前記誤対応点に相当する特徴点の指定が解除されることを特徴とする。
【0031】
請求項12に記載の発明によれば、誤対応点を除いた特徴点の三次元座標を求めることができる。
【0032】
請求項13に記載の発明は、請求項1に記載の発明において、前記特徴点対応付部は、既知の奥行量に基づいて特徴点の視差を求め、前記視差に基づいて誤対応点を判定することを特徴とする。
【0033】
請求項13に記載の発明によれば、奥行量が既知の場合に、誤対応点を判定することができる。
【0034】
請求項14に記載の発明は、請求項1に記載の発明において、重複画像における測定対象物の輪郭を抽出する輪郭抽出部をさらに備え、前記特徴点対応付部は、前記輪郭抽出部によって抽出された輪郭より内側の領域内で特徴点の位置を対応付けることを特徴とする。
【0035】
請求項14に記載の発明によれば、重複画像内で重複しない領域から特徴点を抽出しないため、輪郭近傍の誤対応点が抽出されない。
【0036】
請求項15に記載の発明は、請求項2または4に記載の発明において、前記誤対応点判定部は、前記校正用被写体に設けた基準点の重心から前記三次元座標演算部で求めた特徴点の三次元座標までの距離に基づき、前記特徴点を誤対応点と判定することを特徴とする。
【0037】
請求項15に記載の発明によれば、測定対象物から離れた位置の誤対応点を判定することができる。
【0038】
請求項16に記載の発明は、請求項1に記載の発明において、前記誤対応点判定部は、前記測定対象物の基準形態から前記三次元座標演算部で求めた特徴点の三次元座標までの距離に基づき、前記特徴点を誤対応点と判定することを特徴とする。
【0039】
請求項16に記載の発明によれば、測定対象物の輪郭部分の誤対応点を判定することができる。
【0040】
請求項17に記載の発明は、請求項1に記載の発明において、前記三次元形状測定部は、前記誤対応点判定部で初期値を求める際に行った誤対応点の除去の処理を、その後に測定値を求める際に行うように構成されていることを特徴とする。
【0041】
請求項17に記載の発明によれば、三次元形状測定部で測定値を求める際の測定の信頼性が向上する。
【0042】
請求項18に記載の発明は、複数の撮影位置から撮影した重複画像における測定対象物の特徴点の位置を対応付ける特徴点対応付ステップと、前記特徴点対応付ステップで対応付けた特徴点における視差を求める視差測定ステップと、前記視差測定ステップで求めた視差に基づき、前記測定対象物の特徴点の三次元座標を求める三次元座標演算ステップと、前記視差測定ステップで求めた視差、および、前記三次元座標演算ステップで求めた三次元座標または三次元座標系における測定対象物の形態に基づいて、誤対応点を判定する誤対応点判定ステップと、前記誤対応点判定ステップで誤対応点と判定された点を除いた特徴点の位置および前記複数の撮影位置に基づき、前記測定対象物の特徴点の三次元座標または前記測定対象物の三次元形状を求める三次元形状測定ステップと、を実行させるためのプログラムである。
【0043】
請求項18に記載の発明によれば、重複画像における誤対応点を自動判定することで、三次元形状の測定に必要な初期値を始めとする測定値を自動で取得することができる。
【発明の効果】
【0044】
本発明によれば、重複画像における誤対応点を自動判定することで、三次元形状の測定に必要な初期値を始めとする測定値を自動で与えることができる。
【発明を実施するための最良の形態】
【0045】
本発明は、撮影部の位置を、測定対象物の撮影前に校正用被写体を撮影し、事前に求める第1方式と、撮影部の位置を、測定対象物と一緒に校正用被写体を撮影し、並列的に求める第2方式とに適用が可能である。その両者のそれぞれに適用した例について以下に説明する。
【0046】
1.第1の実施形態
以下、本発明を、第1方式に適用した形状測定装置およびプログラムの一例について、図面を参照して説明する。この第1方式は、最初に校正用被写体により撮影部の位置と姿勢を算出するので、2台以上の撮影部を固定した構成とする。この方法の利点は、動きのあるようなもの(たとえば生体)を計測するときでも、一瞬にして測定対象物をとらえて計測ができることである。また、一度撮影部の位置姿勢を校正用被写体で求めておけば、測定対象物をその空間内に置くことで、三次元計測がいつでも可能である。
【0047】
(形状測定装置の構成)
図1は、第1方式を採用した形状測定装置の上面図である。形状測定装置1は、撮影部2〜9、特徴投影部10〜13、中継部14、計算処理部15、表示部17、操作部16を備える。形状測定装置1は、撮影部2〜9の中央に配置された測定対象物18の形状を測定する。
【0048】
撮影部2〜9には、例えば、ビデオカメラ、工業計測用のCCDカメラ(Charge Coupled Device Camera)、CMOSカメラ(Complementary Metal Oxide Semiconductor Camera)等を用いる。撮影部2〜9は、測定対象物18の周囲に配置される。撮影部2〜9は、複数の撮影位置から重複した撮影領域で測定対象物18を撮影する。
【0049】
撮影部2〜9は、所定の基線長だけ離して横方向または縦方向に並べられる。なお、撮影部を追加して、横方向および縦方向の両方に並べてもよい。形状測定装置1は、少なくとも一対の重複画像に基づき、測定対象物18の三次元形状を測定する。したがって、撮影部2〜9は、撮影被写体の大きさや形状により、一つもしくは複数に適宜することができる。
【0050】
特徴投影部10〜13には、例えば、プロジェクター、レーザー装置などが用いられる。特徴投影部10〜13は、測定対象物18に対してランダムドットパターン、点状のスポット光、線状のスリット光などのパターンを投影する。これにより、測定対象物18の特徴が乏しい部分に特徴が入る。特徴投影部10〜13は、撮影部2と3の間、撮影部4と5の間、撮影部6と7の間、および撮影部8と9の間に配置される。なお、測定対象物18に特徴がある場合、あるいは模様を塗布できる場合には、特徴投影部10〜13を省略することもできる。
【0051】
撮影部2〜9は、イーサネット(登録商標)、または、カメラリンクもしくはIEEE1394(Institute of Electrical and Electronic Engineers 1394)などのインターフェースを介して中継部14に接続する。中継部14には、スイッチングハブ、または、画像キャプチャボード等を用いる。撮影部2〜9が撮影した画像は、中継部14を介して、計算処理部15に入力される。
【0052】
計算処理部15には、パーソナルコンピューター(Personal Computer:PC)、または、FPGA(Field Programmable Gate Array)もしくはASIC(Application Specific Integrated Circuit)などのPLD(Programmable Logic Device)で構成したハードウェアを用いる。計算処理部15は、操作部16によって操作され、計算処理部15の処理内容および計算結果は、表示部17に表示される。操作部16には、キーボードやマウスが用いられ、表示部17には、液晶モニタが用いられる。また、操作部16および表示部17は、タッチパネル式液晶モニタで一体として構成してもよい。
【0053】
図2は、形状測定装置のブロック図である。計算処理部15は、撮影位置姿勢測定部20、特徴点対応付部21、視差測定部22、三次元座標演算部23、誤対応点判定部24、三次元形状測定部25を備える。これらは、PCで実行可能なプログラムのモジュールとして実装してもよいし、FPGAなどのPLDとして実装してもよい。
【0054】
撮影位置姿勢測定部20は、図1の校正用被写体19を撮影した画像に基づき、撮影部2〜9の外部標定要素(撮影位置および姿勢)を測定する。なお、撮影位置姿勢測定部20は、撮影部2〜9の内部標定要素(主点、焦点距離、レンズ歪み)が既知でない場合は、これも同時に求める。校正用被写体19は、複数の基準点を配置した立方体形状のキャリブレーションボックスである。
【0055】
基準点には、カラーコードターゲットを用いる(特開2007−64627号公報参照)。カラーコードターゲットは、3つのレトロターゲット(再帰反射性ターゲット)を有する。まず、撮影位置姿勢測定部20は、校正用被写体19を撮影した画像を二値化することで、レトロターゲットを検出し、その重心位置(基準点の画像座標)を求める。また、撮影位置姿勢測定部20は、カラーコードターゲットの配色(カラーコード)に基づき、各基準点にラベルをつける。これにより、重複画像内で対応する基準点の位置が分かる。
【0056】
そして、撮影位置姿勢測定部20は、相互標定法、または、単写真標定法もしくはDLT法、あるいはバンドル調整法を使うことによって、撮影部2〜9の外部標定要素を算出する。これらは単独で使っても、組み合わせて使ってもよい。なお、第1方式については、本実施形態で、第2方式については、第7の実施形態で詳述する。
【0057】
この第1方式は、最初に校正用被写体19により撮影部2〜9の位置と姿勢を算出するので、2台以上の撮影部2〜9を固定した構成とする。この方法の利点は、動きのあるようなもの(たとえば生体)を計測するときでも、一瞬にして測定対象物18をとらえて計測ができることである。また、一度撮影部2〜9の位置姿勢を校正用被写体19で求めておけば、測定対象物18をその空間内に置くことで、三次元計測がいつでも可能である。
【0058】
特徴点対応付部21は、少なくとも一対のステレオ画像から測定対象物18の特徴点を抽出し、ステレオ画像中の特徴点の位置を対応付ける。なお、撮影部2〜9を横方向に並べた場合には、特徴点対応付部21は、横方向に特徴点の位置を探索し、撮影部2〜9を縦方向に並べた場合には、縦方向に特徴点の位置を探索し、撮影部2〜9を横方向および縦方向に並べた場合には、横方向および縦方向に特徴点の位置を探索する。
【0059】
特徴点対応付部21は、背景除去部26、特徴点抽出部27、対応点探索部28を備える。背景除去部26は、測定対象物18が写された処理画像から背景画像を差分することで、測定対象物18のみが写された背景除去画像を生成する。
【0060】
特徴点抽出部27は、背景除去画像から特徴点を抽出する。この際、対応点の探索範囲を制限するため、左右のステレオ画像から特徴点を抽出する。特徴点の抽出方法としては、ソーベル、ラプラシアン、プリューウィット、ロバーツなどの微分フィルタが用いられる。
【0061】
対応点探索部28は、一方の画像で抽出された特徴点に対応する対応点を他方の画像内で探索する。対応点の探索方法としては、残差逐次検定法(Sequential Similarity Detection Algorithm Method:SSDA)、正規化相関法、方向符号照合法(Orientation Code Matching:OCM)などのテンプレートマッチングが用いられる。
【0062】
視差測定部22は、特徴点対応付部21で対応付けた特徴点の視差を求める。なお、視差測定部22は、撮影部2〜9を横方向に並べた場合には、横視差を求め、撮影部2〜9を縦方向に並べた場合には、縦視差を求め、撮影部2〜9を横方向および縦方向に並べた場合には、横視差および縦視差を求める。
【0063】
三次元座標演算部23は、撮影位置姿勢測定部20で測定された外部標定要素、および、特徴点対応付部21で対応付けた特徴点の画像座標に基づき、測定対象物18の特徴点の三次元座標を演算する。
【0064】
誤対応点判定部24は、視差測定部22で求めた視差(横視差および縦視差の少なくとも一つ)、および、三次元座標演算部23で求めた三次元座標または三次元座標系における測定対象物18の形態に基づいて、誤対応点を判定する。誤対応点判定部24は、視差判定部29、空間判定部30、形態判定部31を備える。誤対応点判定部24が誤対応点であると判定した場合には、誤対応点に相当する特徴点の指定が解除される。
【0065】
視差判定部29は、視差測定部22で求めた視差のヒストグラムを作成し、視差の平均値から所定範囲内にない視差に相当する特徴点を誤対応点として判定する。特徴点の三次元座標は、視差に基づいて算出されるため、視差の平均値から大きく外れた視差は、誤対応点の可能性が高い。
【0066】
空間判定部30は、校正用被写体19の基準点の重心から所定距離の空間を計測空間として定義し、三次元座標演算部23で演算された特徴点の三次元座標がその計測空間からはみ出していた場合に、その特徴点を誤対応点として判定する。
【0067】
形態判定部31は、三次元座標演算部23で演算された特徴点の三次元座標から、測定対象物18の基準形態を作成し、基準形態と特徴点の三次元座標との距離に基づき、誤対応点を判定する。
【0068】
三次元形状測定部25は、誤対応点判定部24で誤対応点と判定された点を除いた特徴点群を初期値として、所定領域内の画素についてステレオマッチングを行い、測定対象物18の三次元形状を求める。ステレオマッチングには、テンプレート画像を変形させながら探索するLSM、または正規化相関法などが用いられる。三次元形状は、特徴点の点群または不整三角形網(TIN:Triangulated Irregular Network)として、表示部17に表示される。
【0069】
さらに、誤対応点判定部24で初期値を求める際に行った誤対応点の除去の処理を、三次元形状測定部25が、その後に測定値を求める際にも、同様に行うことができる。
【0070】
(形状測定装置の処理)
以下、形状測定装置の詳細な処理について図3を参照して説明する。図3は、形状測定装置のプログラムのフローチャートである。このフローチャートを実行するプログラムは、CDROMなどの記録媒体に格納して提供が可能である。
【0071】
まず、処理画像と背景画像を入力する(ステップS10)。次に、背景除去部26によって、被計測対象物18の背景が除去される(ステップS11)。図4は、処理画像を示す図面代用写真(A)と、背景画像を示す図面代用写真(B)と、背景除去画像を示す図面代用写真(C)である。背景除去画像は、処理画像から背景画像を差分することで生成される。背景除去は、左右画像に対して行われる。なお、背景画像が得られない場合には、この処理を行わなくてもよい。
【0072】
次に、特徴点抽出部27によって、左右画像から特徴点が抽出される(ステップS12)。左右の両画像から特徴点を抽出することによって、対応点の探索範囲を小さくすることができる。
【0073】
特徴点抽出部27は、必要に応じて縮小処理、明度補正、コントラスト補正などの前処理を行う(ステップS12−1)。次に、ソーベルフィルタによって、前処理された左右画像からエッジ強度が算出される(ステップS12−2)。図5は、x方向およびy方向のソーベルフィルタである。ソーベルフィルタのマトリクスに対応する9つの画素の輝度値を、左上から右下へ向かってI1〜I9とし、x方向の強度をdx、y方向の強度をdyとすると、注目画素(中央の画素)のエッジ強度Magは、以下の数1で算出される。
【0074】
【数1】
【0075】
図6は、1/4圧縮した入力画像を示す図面代用写真(A)と、ソーベルフィルタによるエッジ強度画像を示す図面代用写真(B)である。特徴点抽出部27は、図6(B)のエッジ強度画像に対して細線化などの後処理を行う(ステップS12−3)。細線化することで、エッジは1画素幅になる。この結果、最終的に抽出される特徴点の位置が間引かれるため、画像中で偏りのなく特徴点が抽出される。
【0076】
次に、特徴点抽出部27は、二値化処理を行う(ステップS12−4)。二値化の閾値を自動で決定するため、エッジ強度のヒストグラムが作成される。図7は、エッジ強度のヒストグラムである。特徴点抽出部27は、作成したヒストグラムにおいて、エッジ強度の強い方から数えた累積度数が全エッジ画素数の50%の位置に相当するエッジ強度を二値化の閾値とする。
【0077】
図7の場合、エッジの画素数は56986画素であり、強度の強い方から数えた累積度数が全エッジ画素数の50%となる28493画素目のエッジ強度は、52である。したがって、二値化の閾値は52となる。図8は、閾値52で二値化した結果を示す図面代用写真であり、図9は、左右画像で抽出された特徴点を示す図面代用写真である。
【0078】
次に、対応点探索部28によって、左右画像中の特徴点が対応付けられる(ステップS13)。対応点探索部28は、左画像中の各特徴点を中心としたテンプレート画像を作成し、右画像中の所定の領域でテンプレート画像に最も相関の強い対応点を探索する。
【0079】
図10は、テンプレート作成法を説明する説明図(A)と、探索ラインの決定方法を説明する説明図(B)と、探索幅の決定方法を説明する説明図(C)である。図10(A)に示すように、テンプレート画像は、注目特徴点を中心とした21画素×21画素で構成される。ステレオ画像は縦視差が除去されているため、図10(B)に示すように、x軸に平行に探索ラインが設けられる。また、図10(C)に示すように、対応点探索部28は、右画像の探索ライン上で最も左側の特徴点と、最も右側の特徴点を検出し、最も左側の特徴点と最も右側の特徴点までを探索幅として対応点を探索する。
【0080】
この結果、テンプレート画像と最も相関の強い点が対応点となる。なお、撮影部2〜9を縦方向に並べた場合、探索ラインはy軸に平行となる。また、撮影部2〜9を縦方向および横方向に並べた場合、探索ラインはx軸およびy軸となる。
【0081】
次に、誤対応点判定部24によって、誤って対応付けた特徴点(誤対応点)が判定される(ステップS14)。誤対応点の判定処理には、視差による判定(ステップS14−1)と、計測空間の制限による判定(ステップS14−2)と、測定対象物18の形態による判定(ステップS14−3)とがある。これらの判定処理は、段階的に行われるが、少なくとも一つの処理を行う態様でもよい。
【0082】
以下、視差による判定方法について説明する(ステップS14−1)。ステレオ法では、特徴点の三次元座標は、視差に基づいて算出される。したがって、背景における特徴点の視差は、測定対象物18の特徴点の視差とは異なる傾向を持つ。図11は、誤対応点の視差を説明する説明図である。図11に示すように、誤対応点における視差(−10)は、その他の視差(−50、−50、−40、−60)と比べて大きく異なる。このため、視差判定部29は、視差測定部22によって測定された視差のヒストグラムを作成し、視差の平均値から大きく外れた視差を持つ特徴点を誤対応点として判定する。
【0083】
図12は、視差のヒストグラムである。視差の平均をμとし、標準偏差をσとした場合、視差が平均μから標準偏差σの1.5倍の区間[μ−1.5σ,μ+1.5σ]になければ、その視差に相当する特徴点は誤対応点と判定される。なお、1.5という値は、複数のサンプルの実験により得られた初期値であり、予め変更可能である。
【0084】
図13は、視差判定前の特徴点の点群を示す図面代用写真(A)と、視差判定後の特徴点の点群を示す図面代用写真(B)である。図13に示すように、視差判定を行うことで、測定対象物18から大きく離れた背景の特徴点が誤対応点として除去される。
【0085】
次に、計測空間の制限による判定方法について説明する(ステップS14−2)。計測空間は、校正用被写体19の基準点の重心を中心とした空間として定義される。図14は、校正用被写体の基準点とその重心を示す図面代用写真である。校正用被写体19は、測定対象物18の重心位置に置かれているものとする。
【0086】
まず、空間判定部30は、全ての基準点座標の平均をとることで重心座標を算出する。そして、重心から50cmの空間を計測空間として定義する。基準点の重心から三次元座標演算部23で求めた特徴点の三次元座標までの距離が、50cmを超えている場合には、空間判定部30は、その特徴点を誤対応点と判定する。50cmという閾値は、測定対象物18の大きさに基づいて予め変更可能である。図15は、空間判定によって除去される特徴点を示す図面代用写真である。
【0087】
次に、測定対象物18の形態による判定方法について説明する(ステップS14−3)。上述した視差判定および空間判定は、大きな誤差をもつ場合に有効であり、測定対象物18の輪郭部分に位置する誤対応点は除去されない。そこで、形態判定部31は、測定対象物18の基準形態を作成し、基準形態と特徴点の三次元座標との距離に基づき、誤対応点を判定する。
【0088】
図16は、メッシュ間隔4mmで作成したTINを示す図面代用写真(A)と、メッシュ間隔10mmで作成したTINを示す図面代用写真(B)である。まず、形態判定部31は、空間判定(ステップS14−2)までに残存した特徴点をLSMの初期値とし、基準形態の元になるTINを作成する。図16(A)に示すように、TINのメッシュ間隔が小さいと、残存する誤対応点によって凹凸面ができてしまう。したがって、形態判定部31は、図16(B)に示すように、TINのメッシュ間隔を大きくして、測定対象物18の大まかな形状(粗面)を作成する。
【0089】
次に、形態判定部31は、辺の長さが長いTINを除去する。辺の長さの閾値は、作成するメッシュ間隔が10mmの場合には、その4倍の40mmとする。作成するメッシュ間隔の4倍という閾値は、複数のサンプルの実験により得られた値であり、この閾値は、予め変更可能である。
【0090】
図17は、辺の長いTINを除去した結果を示す図面代用写真である。図17に示すように、辺の長いTINが除去された結果、主要な部分と分離したTINの塊が発生する。分離したTINの塊は、辺の長さが短くても、特徴が少ない背景や頭髪の部分であること多いため、測定対象物18の面であるという信頼性が低い。したがって、形態判定部31は、TINの塊ごとにラベリングを行い、その連結数に基づいて、TINの塊を除去する。図18は、TINのラベリング結果を示す図面代用写真である。形態判定部31は、ラベリングの連結数が10以下のTINの塊を除去することで、最終的な粗面(基準形態)を作成する。なお、ラベリングの連結数の閾値は、予め変更可能である。
【0091】
次に、形態判定部31は、作成した基準形態から残存する特徴点の三次元座標までの距離が所定の閾値を越えている場合に、その特徴点を誤対応点と判定する。図19は、基準形態と特徴点の点群を示す図面代用写真(A)と、形態判定後の特徴点の点群を示す図面代用写真(B)である。まず、形態判定部31は、残っている特徴点群の各点から粗面を形成しているTINの頂点のうちで最も近い点を探索する。最も近いTINの頂点から特徴点までの距離が、所定の閾値を越えている場合、形態判定部31は、その特徴点を誤対応点と判定する。閾値は、作成するメッシュ間隔10mmの2倍である20mmとする。作成するメッシュ間隔の2倍という閾値は、複数のサンプルの実験により得られた値であり、この閾値は、予め変更可能である。
【0092】
初期値に関する誤対応点の判定が終了すると、三次元形状測定部25によって、測定対象物の三次元形状が測定される(ステップS15)。三次元形状測定部25は、図19(B)に示す特徴点群をLSMの初期値として、ステレオマッチングを行い、三次元形状(密面)を測定する。図20は、密面計測の結果を示す図面代用写真である。図20では、LSMの処理領域は、誤対応点を除去した後の特徴点群を凸包線で囲んだ凸領域としている。このため、頭から肩にかけて不要なTINが生成されているが、特徴投影部10〜13によって投影されたランダムドットパターンの部分は、指定されたメッシュ間隔のTINが生成されている。
【0093】
図21は、複数モデルにおける三次元形状の計測結果を示す図面代用写真である。図21に示す複数のモデルを合成した場合、正面のモデルに形成された頭から肩をつなぐ不要なTINが、側面のモデルに形成された本来の面を隠してしまう。したがって、この頭から肩にかけて形成された不要なTINを生成しないように、LSMの処理領域を制限する。
【0094】
図22は、LSMの処理領域の制限を示す図である。図22に示すように、特徴点群の囲み線を作成する。囲み線は、凸包線を作成し、その構成する点の点間距離と角度をみながら内側に処理領域を削っていく処理を繰り返すことで作成される。
【0095】
なお、誤対応点判定部24で初期値を求める際に行った誤対応点の除去の処理を、三次元形状測定部25が、その後に測定値を求める際にも、同様に行うことができる。
【0096】
図23は、LSMの処理領域を調整した計測結果を示す図面代用写真であり、図24は、図23の複数モデルの合成結果を示す図面代用写真である。図23および図24に示すように、頭から肩にかけて不要なTINが除去されているのが分かる。
【0097】
以下、測定対象物の撮影前に校正用被写体を撮影し、撮影部の位置を事前に求める第1方式において、撮影位置姿勢測定部20が、相互標定法を採用した場合の具体的処理について説明する。
【0098】
相互標定法によれば、重複画像に写された6点以上の対応する基準点に基づき、外部標定要素を求めることができる。また、基準点の三次元上の位置が既知であれば、絶対標定によって撮影部2〜9の絶対座標が求められる。
【0099】
図25は、相互標定を説明する説明図である。相互標定は、左右2枚の画像における6点以上の対応点(パスポイント)によって外部標定要素を求める。相互標定では、投影中心O1とO2と基準点Pを結ぶ2本の光線が同一平面内になければならいという共面条件を用いる。以下の数2に、共面条件式を示す。
【0100】
【数2】
【0101】
図25に示すように、モデル座標系の原点を左側の投影中心O1にとり、右側の投影中心O2を結ぶ線をX軸にとるようにする。縮尺は、基線長を単位長さとする。このとき、求めるパラメータは、左側のカメラのZ軸の回転角κ1、Y軸の回転角φ1、右側のカメラのZ軸の回転角κ2、Y軸の回転角φ2、X軸の回転角ω2の5つの回転角となる。この場合、左側のカメラのX軸の回転角ω1は0なので、考慮する必要はない。このような条件にすると、数2の共面条件式は数3のようになり、この式を解けば各パラメータが求められる。
【数3】
【0102】
ここで、モデル座標系XYZとカメラ座標系xyzの間には、次に示すような座標変換の関係式が成り立つ。
【0103】
【数4】
【0104】
これらの式を用いて、次の手順により、未知パラメータ(外部標定要素)を求める。
(1)未知パラメータ(κ1,φ1,κ2,φ2,ω2)の初期近似値は通常0とする。
(2)数3の共面条件式を近似値のまわりにテーラー展開し、線形化したときの微分係数の値を数4により求め、観測方程式をたてる。
(3)最小二乗法をあてはめ、近似値に対する補正量を求める。
(4)近似値を補正する。
(5)補正された近似値を用いて、(1)〜(4)までの操作を収束するまで繰り返す。
【0105】
相互標定が収束した場合、さらに接続標定が行われる。接続標定とは、複数のモデル間の傾き、縮尺を統一して同一座標系とする処理である。この処理を行った場合、以下の数5で表される接続較差を算出する。算出した結果、ΔZjおよびΔDjが、所定値(例えば、0.0005(1/2000))以下であれば、接続標定が正常に行われたと判定する。
【0106】
【数5】
【0107】
(第1の実施形態の優位性)
第1の実施形態によれば、左右の重複画像における誤対応点を自動判定することで、ステレオマッチングに用いられるLSMまたは正規化相関法の初期値を自動で取得することができる。
【0108】
また、ステレオマッチングの処理領域を制限することで、測定対象物18の本来の形状のみを形成でき、複数のモデルを合成することができる。
【0109】
さらに、撮影部2〜9の撮影位置および姿勢を校正用被写体19により測定することができる。撮影位置および姿勢を求めた後には、三次元計測は、測定対象物18をその空間内に置くことでいつでもできる。また、動きをもった動的な測定対象物18でも、撮影部2〜9により同時撮影すれば、計測が可能である。
【0110】
2.第2の実施形態
第2の実施形態は、特徴点近傍の基準点の視差に基づき、特徴点の視差を推定または誤対応点を判定するものであり、上述した第1方式を採用した第1実施形態における誤差対応点判定部が行う視差による判定方法の一変形例である。
【0111】
図28は、特徴点の視差推定方法を説明する説明図である。図28に示すように、左ステレオ画像と右ステレオ画像には、測定対象物の特徴点Fと基準点P1〜P3が写される。このとき、左画像の特徴点Fと右画像上の特徴点F’の視差Dは、以下の数6に示すように、基準点P1〜P3の視差をD1〜D3とすると、基準点P1〜P3の平均視差によって推定される。
【0112】
【数6】
【0113】
特徴点対応付部21は、特徴点F’の位置を探索する場合に、推定視差Dに相当する位置から横方向に探索する。なお、撮影部2〜9を縦方向に並べた場合には、特徴点対応付部21は、推定視差Dに相当する位置から縦方向に探索する。
【0114】
さらに、以上のような視差推定法を用いて、誤対応点を判定してもよい。すなわち、視差判定部29は、特徴点近傍の基準点の平均視差に基づき、その特徴点の誤対応点を判定する。なお、特徴点から基準点までの距離を重み付け、その特徴点の誤対応点を判定することもできる。
【0115】
(第2の実施形態の優位性)
第2の実施形態によれば、左右画像における特徴点の位置を対応付ける際に、特徴点の推定視差に相当する位置から横方向または縦方向に対応点を探索することができる。また、特徴点近傍の基準点の視差に基づき、誤対応点を判定することができる。
【0116】
3.第3の実施形態
以下、第1の実施形態の変形例について説明する。第3の実施形態は、既知の奥行量に基づいて特徴点の視差を求め、誤対応点を判定するものである。上述した第1方式を採用した第1の実施形態における視差による判定方法の変形例の一つである。
【0117】
ステレオ撮影の場合、2つのカメラの光軸は平行であり、主点からCCD面までの距離a(焦点距離)が等しく、CCDは光軸に直角に配置される。このため、カメラの光軸間の距離(基線長)をlとすると、画像上の特徴点F1(x1,y1)、F2(x2,y2)の座標間には、以下の数7の関係が成り立つ。ただし、全体の座標系(x,y,z)の原点を片方のカメラレンズの主点にとる。
【0118】
【数7】
【0119】
数7によれば、奥行量zは、視差x2−x1に反比例する。したがって、誤対応点判定部24は、既知の奥行量に基づいて、誤対応点を判定することができる。
【0120】
図29は、奥行量に基づく誤対応点の判定方法を説明する説明図である。特徴点F1とF2の間の奥行量Zが既知であるとする。この際、特徴点F1の視差D1と特徴点F2の視差D2との差D1−D2は、焦点距離をa、基線長をlとすれば、以下の数8によって求められる。
【0121】
【数8】
【0122】
特徴点F1およびF2のいずれかが誤対応点でない場合には、特徴点F1の視差と特徴点F2の視差の差を、既知の奥行量Zに基づいて数8から求めたD1−D2と比較することで、特徴点F1もしくはF2を誤対応点と判定することができる。
【0123】
(第3の実施形態の優位性)
第3の実施形態によれば、奥行量が既知の場合に、誤対応点を判定することができる。
【0124】
4.第4の実施形態
以下、第1の実施形態の変形例について説明する。第4の実施形態は、測定対象物の輪郭を抽出する輪郭抽出部をさらに備えるものである。
【0125】
図30は、第4の実施形態に係る形状測定装置のブロック図である。形状測定装置1は、輪郭抽出部37を背景除去部26と特徴点抽出部27との間に備える。まず、輪郭抽出部37は、ソーベル、ラプラシアン、プリューウィット、ロバーツなどの微分フィルタを用いて、測定対象物18のエッジ強度画像を作成する。
【0126】
次に、輪郭抽出部37は、エッジ強度画像を細線化した画像に対してラベリング処理を行い、連結する画素数からエッジの長さを求める。そして、エッジ強度とエッジの長さを掛け合わせた値を2値化処理することで、輪郭エッジが抽出される。図31(A)は、輪郭エッジを示す図面代用写真である。輪郭エッジ38は、測定対象物18の内部の特徴と比べてエッジ強度が強く、直線成分が多い。
【0127】
特徴点抽出部27は、輪郭抽出部37によって抽出された輪郭エッジ38より内側の領域内で特徴点を抽出する。図31(B)は、特徴点の抽出領域を示す図面代用写真(B)である。抽出領域39は、輪郭エッジの横幅の所定割合(例えば、80%)の領域である。この80%という値は、予め変更可能である。
【0128】
(第4の実施形態の優位性)
図32は、ステレオ画像の撮影範囲の違いを示す図面代用写真である。図32に示すように、ステレオ画像では、右画像に写らない左画像の撮影範囲40と、左画像に写らない右画像の撮影範囲41が存在する。この撮影領域40,41で抽出される特徴点は、特徴点の対応付けができないため、全て誤対応点となる。しかしながら、第4の実施形態によれば、特徴点の抽出領域が制限されるため、誤対応点が抽出されない。
【0129】
5.第5の実施形態
第5の実施形態は、第1の実施形態において、撮影部の位置と姿勢を求める方法として、水平測角部および鉛直測角部の少なくとも一つにより、撮影部の撮影位置を測定する手段を採用したものである。
【0130】
図26は、水平測角部を備えた形状測定装置の上面図である。水平測角部32は、ロータリーエンコーダであり、水平角スケール33、エンコーダ34を備える。撮影部2〜9は、水平角スケール33の任意の位置に固定可能であり、撮影部2〜9と水平角スケール33は、一体となって時計回りおよび反時計回りに回転可能に支持される。一方、エンコーダ34は、水平角スケール33円周上の任意の位置に固定される。
【0131】
水平角スケール33は、撮影部検出用パターン33a〜33d、水平角検出用スリット33eを有する。撮影部検出用パターン33a〜33dは、水平角スケール33円周上の任意の位置に着脱可能であり、撮影部2〜9が固定される位置に装着される。例えば、撮影部検出用パターン33a〜33dは、撮影部2と3の中間、撮影部4と5の中間、撮影部6と7の中間、撮影部8と9の中間や、撮影部2,4,6,8の直下に装着される。
【0132】
エンコーダ34は、撮影部2〜9および水平角スケール33が回転すると、撮影部検出用パターン33a〜33dを検出する。この際、エンコーダ34は、撮影部検出用パターン33a〜33dのうち最初に検出したパターンの位置の水平角をゼロに設定する。そして、エンコーダ34は、そこから他の撮影部検出用パターン33a〜33dまでの水平角を水平角検出用スリット33eによって検出する。
【0133】
撮影部2〜9が、同一の水平面を回転するように高さを調整した場合、撮影部2〜9の撮影位置は、エンコーダ34によって検出された水平角のみに基づいて求められる。エンコーダ34は、撮影部2〜9の水平角を計算処理部15に出力する。計算処理部15は、入力した撮影部2〜9の水平角に基づいて、撮影部2〜9の相対的な三次元上の撮影位置を求める。また、実スケールの撮影部2〜9の撮影位置を求める場合、計算処理部15は、水平角スケール33の径を入力する。
【0134】
また、形状測定装置1は、水平測角部32の代わりに、撮影部2〜9と一体となって鉛直方向に回転する鉛直測角部を備える構成でもよい。この場合、計算処理部15は、鉛直測角部で検出された鉛直角に基づいて撮影部2〜9の撮影位置を求める。
【0135】
さらに、形状測定装置1は、撮影部2〜9および水平測角部32と一体となって鉛直方向に回転する鉛直角測部を備える構成でもよい。この場合、計算処理部15は、撮影部2〜9の水平角および鉛直角に基づいて撮影部2〜9の撮影位置を求める。
【0136】
(第5の実施形態の優位性)
第5の実施形態によれば、校正用被写体19を撮影した画像に基づいて撮影部2〜9の撮影位置および姿勢を求める必要がない。すなわち、形状測定装置1は、撮影位置姿勢測定部20を備える必要がない。
【0137】
6.第6の実施形態
第1方式を採用した第1の実施形態において、撮影位置姿勢測定部20が、相互標定法を用いて撮影部の撮影位置や姿勢を求める例を説明した。第6の実施形態では、相互標定法の変わりに、採用しうる具体的処理の例として、単写真標定、およびDLT法について説明する。
【0138】
6−1.単写真標定
図27は、単写真標定を説明する説明図である。単写真標定は、1枚の写真の中に写された基準点に成り立つ共線条件を用いて、写真を撮影したカメラの位置O(X0,Y0,Z0)およびカメラの姿勢(ω,φ,κ)を求める。共線条件とは、投影中心、写真像および地上の対象点(Op1P1,Op2P2,Op3P3)が、一直線上にあるという条件である。また、カメラの位置O(X0,Y0,Z0)とカメラの姿勢(ω,φ,κ)は外部標定要素である。
【0139】
まず、カメラ座標系をx,y,z、写真座標系x,y、地上座標系をX,Y,Zとする。カメラを各座標軸の正方向に対して左回りにそれぞれω,φ,κだけ順次回転させた向きで撮影が行われたものとする。そして、4点の画像座標(少なくとも3点)と対応する基準点の三次元座標を数9に示す2次の射影変換式に代入し、観測方程式を立ててパラメ−タb1〜b8を求める。
【0140】
【数9】
【0141】
数9のパラメータb1〜b8を用いて、以下の数10から外部標定要素を求める。
【数10】
【0142】
6−2.DLT法
DLT法は、写真座標と対象空間の三次元座標との関係を3次の射影変換式で近似したものである。DLT法の基本式は以下の数11となる。なお、DLT法の詳細については、「村井俊治:解析写真測量、p46−51、p149−155」等を参照する。
【0143】
【数11】
【0144】
数11の式の分母を消去すると、数12の線形式を導き出せる。
【0145】
【数12】
【0146】
さらに、数12を変形すると、以下の数13となる。
【0147】
【数13】
【0148】
数13に6点以上の基準点の三次元座標を代入し、最小二乗法を用いて解くと、写真座標と対象点座標との関係を決定するL1〜L11の11個の未知変量を取得できる。なお、L1〜L11には、外部標定要素が含まれる。
【0149】
(第6の実施形態の優位性)
第6の実施形態によれば、単写真標定を採用した場合には、少ない画像からの測定に有利であり、DLTを採用した場合には、単写真標定よりも演算処理が簡易となる優位がある。
【0150】
7.第7の実施形態
第7の実施形態は、撮影部の位置を、測定対象物と一緒に基準尺(校正用被写体)を撮影し、並列的に求める第2方式に基づくものであり、第1の実施形態における撮影位置姿勢測定部20の処理方法の一変形例である。
【0151】
第2方式は、計測対象である測定対象物と校正用被写体を同時に写し込み、撮影部の位置姿勢を求めて三次元計測する方法である。この場合は、撮影部を固定する必要がなく、撮影部は1台から複数台でもよく、撮影枚数が2枚以上あれば、計測可能である。この方法の利点は、撮影部の位置は自由でかつ1台からでも計測できるため、構成が簡単にできるという点である。また、測定対象物を撮影するのと同時に撮影部の位置姿勢を求めるので、事前に撮影部の位置姿勢を求めておく必要はない。一緒に写し込む校正用被写体は、基準尺のような長さの決まったものや、あるいは、座標が決まったものなどを使用する。
【0152】
撮影部は基本的に固定する必要がなく、どこに置くのも自由である。図33は、第7の実施形態に係る形状測定装置の上面図であり、図34は、第7の実施形態に係る形状測定装置の変形例の上面図である。図33は、撮影部1台で場所を移動しながら撮影する態様における、基準尺19、撮影部2と測定対象物18、計測処理部15、操作部16、および表示部17の関係を示している。一方、図34は、2台でステレオカメラ構成にしたり、複数台でマルチカメラ構成とした態様における変形例を示している。
【0153】
この場合、計測処理部15と、操作部16と、表示部17の三者は、PCを利用すれば、撮影部とPCだけで構成できる。また対象物に模様がない場合は、プロジェクターでパターンを投影するか、もしくは対象に模様を塗布する。撮影部の撮影位置、姿勢を求める方法は、相互標定法、または、単写真標定法もしくはDLT法、バンドル調整法を使い、これらは単独でも組み合わせて使ってもよい。
【0154】
撮影部の撮影位置および姿勢(外部標定要素)を、単写真標定またはDLT法により求めれば、1枚の写真に写された基準点の相対的な位置関係に基づき、外部標定要素を求めることができる。
【0155】
図35は、基準尺と測定対象物を撮影した左画像を示す図面代用写真(A)と、右画像を示す図面代用写真(B)である。図35に示すように、測定対象物18は、カラーコードターゲット36a〜36dを相対的な位置関係で配置した基準尺35(校正用被写体)とともに撮影される。
【0156】
図2に示す撮影位置姿勢測定部20は、図35に示す重複画像を取得する。撮影位置姿勢測定部20は、重複画像を2値化することで、カラーコードターゲット36a〜36dの重心位置(基準点の画像座標)を求める。また、撮影位置姿勢測定部20は、カラーコードターゲット36a〜36dの配色からカラーコードを読み取り、各カラーコードターゲット36a〜36dにラベルを付ける。
【0157】
このラベルによって、重複画像における基準点の対応が分かる。撮影位置姿勢測定部20は、基準点の画像座標、および基準点の三次元上の相対的な位置関係に基づき、相互標定法、単写真標定またはDLT法、あるいはバンドル調整法によって、撮影部2〜9の撮影位置と姿勢を求める。これらを組み合わせることでも高精度な位置姿勢が求められる。
【0158】
本実施形態において採用した撮影位置姿勢測定部20の処理方式である第2方式は、第1の実施形態で採用した第1方式の変形例であり、それ以外の構成や処理については、第1〜第6の実施形態で示した構成や処理を採用できる。
【0159】
(第7の実施形態の優位性)
第7の実施形態によれば、第2方式を採用しており、測定対象物18と校正用被写体を同時に撮影することにより、撮影部の位置姿勢を求め、三次元測定することが可能なので、撮影部は1台から何台でも構成でき、また撮影部を固定する必要がないので簡単な構成にできる。
【産業上の利用可能性】
【0160】
本発明は、測定対象物の三次元形状を測定する形状測定装置およびそのプログラムに利用することができる。
【図面の簡単な説明】
【0161】
【図1】第1方式を採用した形状測定装置の上面図である。
【図2】第1の実施形態に係る形状測定装置のブロック図である。
【図3】形状測定装置のフローチャートである。
【図4】処理画像を示す図面代用写真(A)と、背景画像を示す図面代用写真(B)と、背景除去画像を示す図面代用写真(C)である。
【図5】x方向およびy方向のソーベルフィルタである。
【図6】1/4圧縮した入力画像を示す図面代用写真(A)と、ソーベルフィルタによるエッジ強度画像を示す図面代用写真(B)である。
【図7】エッジ強度のヒストグラムである。
【図8】閾値52で二値化した結果を示す図面代用写真である。
【図9】左右画像で抽出された特徴点を示す図面代用写真である。
【図10】テンプレート作成法を説明する説明図(A)と、探索ラインの決定方法を説明する説明図(B)と、探索幅の決定方法を説明する説明図(C)である。
【図11】誤対応点の視差を説明する説明図である。
【図12】視差のヒストグラムである。
【図13】視差判定前の特徴点の点群を示す図面代用写真(A)と、視差判定後の特徴点の点群を示す図面代用写真(B)である。
【図14】校正用被写体の基準点とその重心を示す図面代用写真である。
【図15】空間判定によって除去される特徴点を示す図面代用写真である。
【図16】メッシュ間隔4mmで作成したTINを示す図面代用写真(A)と、メッシュ間隔10mmで作成したTINを示す図面代用写真(B)である。
【図17】辺の長いTINを除去した結果を示す図面代用写真である。
【図18】TINのラベリング結果を示す図面代用写真である。
【図19】基準形態と特徴点の点群を示す図面代用写真(A)と、形態判定後の特徴点の点群を示す図面代用写真(B)である。
【図20】密面計測の結果を示す図面代用写真である。
【図21】複数モデルにおける三次元形状の計測結果を示す図面代用写真である。
【図22】LSMの処理領域の制限を示す図である。
【図23】LSMの処理領域を調整した計測結果を示す図面代用写真である。
【図24】図23の複数モデルの合成結果を示す図面代用写真である。
【図25】相互標定を説明する説明図である。
【図26】第5の実施形態に係る形状測定装置の上面図である。
【図27】単写真標定を説明する説明図である。
【図28】特徴点の視差推定方法を説明する説明図である。
【図29】奥行量に基づく誤対応点の判定方法を説明する説明図である。
【図30】第4の実施形態に係る形状測定装置のブロック図である。
【図31】輪郭エッジを示す図面代用写真(A)と、特徴点の抽出領域を示す図面代用写真(B)である。
【図32】ステレオ画像の撮影範囲の違いを示す図面代用写真である。
【図33】第7の実施形態に係る形状測定装置の上面図である。
【図34】第7の実施形態に係る形状測定装置の変形例の上面図である。
【図35】基準尺と測定対象物を撮影した左画像を示す図面代用写真(A)と、右画像を示す図面代用写真(B)である。
【符号の説明】
【0162】
1…形状測定装置、2〜9…撮影部、10〜13…特徴投影部、14…中継部、15…計算処理部、16…操作部、17…表示部、18…測定対象物、19…校正用被写体、20…撮影位置姿勢測定部、21…特徴点対応付部、22…視差測定部、23…三次元座標演算部、24…誤対応点判定部、25…三次元形状測定部、26…背景除去部、27…特徴点抽出部、28…対応点探索部、29…視差測定部、30…空間判定部、31…形態判定部。
【特許請求の範囲】
【請求項1】
複数の撮影位置から重複した撮影領域で、測定対象物を撮影する撮影部と、
前記撮影部によって撮影された重複画像における前記測定対象物の特徴点の位置を対応付ける特徴点対応付部と、
前記特徴点対応付部で対応付けた特徴点の重複画像における視差を求める視差測定部と、
前記視差測定部で求めた視差に基づき、前記測定対象物の特徴点の三次元座標を求める三次元座標演算部と、
前記視差測定部で求めた視差、および、前記三次元座標演算部で求めた三次元座標または三次元座標系における測定対象物の形態に基づいて、誤対応点を判定する誤対応点判定部と、
前記誤対応点判定部で誤対応点と判定された点を除いた特徴点の位置および前記複数の撮影位置に基づき、前記測定対象物の特徴点の三次元座標または前記測定対象物の三次元形状を求める三次元形状測定部と、を備えることを特徴とする形状測定装置。
【請求項2】
基準点を設けた校正用被写体と、
前記校正用被写体を撮影した重複画像内の対応する基準点の位置に基づき、前記撮影部の撮影位置および姿勢を求める撮影位置姿勢測定部とをさらに備えることを特徴とする請求項1に記載の形状測定装置。
【請求項3】
前記撮影部の撮影位置を測定する水平角測部および鉛直角測部の少なくとも一つをさらに備えることを特徴とする請求項1に記載の形状測定装置。
【請求項4】
所定の位置関係で基準点を設けた校正用被写体と、
前記校正用被写体を撮影した重複画像内の対応する基準点の位置に基づき、前記撮影部の撮影位置および姿勢を求める撮影位置姿勢測定部とをさらに備えることを特徴とする請求項1に記載の形状測定装置。
【請求項5】
前記特徴点対応付部は、撮影部を所定の基線長だけ離して撮影した少なくとも一対のステレオ画像における特徴点の位置を対応付けることを特徴とする請求項2〜4のいずれかに記載の形状測定装置。
【請求項6】
前記誤対応点判定部は、視差のヒストグラムを作成し、視差の平均から所定範囲内にない視差に相当する特徴点を誤対応点として判定することを特徴とする請求項2〜4のいずれかに記載の形状測定装置。
【請求項7】
前記測定対象物に対して特徴を投影する特徴投影部をさらに備えることを特徴とする請求項2〜4のいずれかに記載の形状測定装置。
【請求項8】
前記視差測定部は、前記特徴点対応付部で対応付けた特徴点の視差を求める際に、前記特徴点近傍の位置が分かっている基準点の視差に基づき、前記特徴点の視差を推定することを特徴とする請求項4に記載の形状測定装置。
【請求項9】
前記誤対応点判定部は、特徴点近傍の位置が分かっている基準点の視差に基づき、前記特徴点が誤対応点か否かを判定することを特徴とする請求項4に記載の形状測定装置。
【請求項10】
前記誤対応点判定部は、横視差および縦視差の少なくとも一つに基づき、誤対応点を判定することを特徴とする請求項1に記載の形状測定装置。
【請求項11】
前記三次元形状測定部は、前記測定対象物の輪郭の内側を処理領域として三次元形状を測定することを特徴とする請求項1に記載の形状測定装置。
【請求項12】
前記誤対応点判定部が誤対応点であると判定した場合には、前記誤対応点に相当する特徴点の指定が解除されることを特徴とする請求項2〜4のいずれかに記載の形状測定装置。
【請求項13】
前記特徴点対応付部は、既知の奥行量に基づいて特徴点の視差を推定し、前記視差に基づいて誤対応点を判定することを特徴とする請求項1に記載の形状測定装置。
【請求項14】
重複画像における測定対象物の輪郭を抽出する輪郭抽出部をさらに備え、前記特徴点対応付部は、前記輪郭抽出部によって抽出された輪郭より内側の領域内で特徴点の位置を対応付けることを特徴とする請求項1に記載の形状測定装置。
【請求項15】
前記誤対応点判定部は、前記校正用被写体に設けた基準点の重心から前記三次元座標演算部で求めた特徴点の三次元座標までの距離に基づき、前記特徴点を誤対応点と判定することを特徴とする請求項2または4に記載の形状測定装置。
【請求項16】
前記誤対応点判定部は、前記測定対象物の基準形態から前記三次元座標演算部で求めた特徴点の三次元座標までの距離に基づき、前記特徴点を誤対応点と判定することを特徴とする請求項1に記載の形状測定装置。
【請求項17】
前記三次元形状測定部は、前記誤対応点判定部で初期値を求める際に行った誤対応点の除去の処理を、その後に測定値を求める際に行うように構成されていることを特徴とする請求項1に記載の形状測定装置。
【請求項18】
複数の撮影位置から撮影した重複画像における測定対象物の特徴点の位置を対応付ける特徴点対応付ステップと、
前記特徴点対応付ステップで対応付けた特徴点における視差を求める視差測定ステップと、
前記視差測定ステップで求めた視差に基づき、前記測定対象物の特徴点の三次元座標を求める三次元座標演算ステップと、
前記視差測定ステップで求めた視差、および、前記三次元座標演算ステップで求めた三次元座標または三次元座標系における測定対象物の形態に基づいて、誤対応点を判定する誤対応点判定ステップと、
前記誤対応点判定ステップで誤対応点と判定された点を除いた特徴点の位置および前記複数の撮影位置に基づき、前記測定対象物の特徴点の三次元座標または前記測定対象物の三次元形状を求める三次元形状測定ステップと、を実行させるためのプログラム。
【請求項1】
複数の撮影位置から重複した撮影領域で、測定対象物を撮影する撮影部と、
前記撮影部によって撮影された重複画像における前記測定対象物の特徴点の位置を対応付ける特徴点対応付部と、
前記特徴点対応付部で対応付けた特徴点の重複画像における視差を求める視差測定部と、
前記視差測定部で求めた視差に基づき、前記測定対象物の特徴点の三次元座標を求める三次元座標演算部と、
前記視差測定部で求めた視差、および、前記三次元座標演算部で求めた三次元座標または三次元座標系における測定対象物の形態に基づいて、誤対応点を判定する誤対応点判定部と、
前記誤対応点判定部で誤対応点と判定された点を除いた特徴点の位置および前記複数の撮影位置に基づき、前記測定対象物の特徴点の三次元座標または前記測定対象物の三次元形状を求める三次元形状測定部と、を備えることを特徴とする形状測定装置。
【請求項2】
基準点を設けた校正用被写体と、
前記校正用被写体を撮影した重複画像内の対応する基準点の位置に基づき、前記撮影部の撮影位置および姿勢を求める撮影位置姿勢測定部とをさらに備えることを特徴とする請求項1に記載の形状測定装置。
【請求項3】
前記撮影部の撮影位置を測定する水平角測部および鉛直角測部の少なくとも一つをさらに備えることを特徴とする請求項1に記載の形状測定装置。
【請求項4】
所定の位置関係で基準点を設けた校正用被写体と、
前記校正用被写体を撮影した重複画像内の対応する基準点の位置に基づき、前記撮影部の撮影位置および姿勢を求める撮影位置姿勢測定部とをさらに備えることを特徴とする請求項1に記載の形状測定装置。
【請求項5】
前記特徴点対応付部は、撮影部を所定の基線長だけ離して撮影した少なくとも一対のステレオ画像における特徴点の位置を対応付けることを特徴とする請求項2〜4のいずれかに記載の形状測定装置。
【請求項6】
前記誤対応点判定部は、視差のヒストグラムを作成し、視差の平均から所定範囲内にない視差に相当する特徴点を誤対応点として判定することを特徴とする請求項2〜4のいずれかに記載の形状測定装置。
【請求項7】
前記測定対象物に対して特徴を投影する特徴投影部をさらに備えることを特徴とする請求項2〜4のいずれかに記載の形状測定装置。
【請求項8】
前記視差測定部は、前記特徴点対応付部で対応付けた特徴点の視差を求める際に、前記特徴点近傍の位置が分かっている基準点の視差に基づき、前記特徴点の視差を推定することを特徴とする請求項4に記載の形状測定装置。
【請求項9】
前記誤対応点判定部は、特徴点近傍の位置が分かっている基準点の視差に基づき、前記特徴点が誤対応点か否かを判定することを特徴とする請求項4に記載の形状測定装置。
【請求項10】
前記誤対応点判定部は、横視差および縦視差の少なくとも一つに基づき、誤対応点を判定することを特徴とする請求項1に記載の形状測定装置。
【請求項11】
前記三次元形状測定部は、前記測定対象物の輪郭の内側を処理領域として三次元形状を測定することを特徴とする請求項1に記載の形状測定装置。
【請求項12】
前記誤対応点判定部が誤対応点であると判定した場合には、前記誤対応点に相当する特徴点の指定が解除されることを特徴とする請求項2〜4のいずれかに記載の形状測定装置。
【請求項13】
前記特徴点対応付部は、既知の奥行量に基づいて特徴点の視差を推定し、前記視差に基づいて誤対応点を判定することを特徴とする請求項1に記載の形状測定装置。
【請求項14】
重複画像における測定対象物の輪郭を抽出する輪郭抽出部をさらに備え、前記特徴点対応付部は、前記輪郭抽出部によって抽出された輪郭より内側の領域内で特徴点の位置を対応付けることを特徴とする請求項1に記載の形状測定装置。
【請求項15】
前記誤対応点判定部は、前記校正用被写体に設けた基準点の重心から前記三次元座標演算部で求めた特徴点の三次元座標までの距離に基づき、前記特徴点を誤対応点と判定することを特徴とする請求項2または4に記載の形状測定装置。
【請求項16】
前記誤対応点判定部は、前記測定対象物の基準形態から前記三次元座標演算部で求めた特徴点の三次元座標までの距離に基づき、前記特徴点を誤対応点と判定することを特徴とする請求項1に記載の形状測定装置。
【請求項17】
前記三次元形状測定部は、前記誤対応点判定部で初期値を求める際に行った誤対応点の除去の処理を、その後に測定値を求める際に行うように構成されていることを特徴とする請求項1に記載の形状測定装置。
【請求項18】
複数の撮影位置から撮影した重複画像における測定対象物の特徴点の位置を対応付ける特徴点対応付ステップと、
前記特徴点対応付ステップで対応付けた特徴点における視差を求める視差測定ステップと、
前記視差測定ステップで求めた視差に基づき、前記測定対象物の特徴点の三次元座標を求める三次元座標演算ステップと、
前記視差測定ステップで求めた視差、および、前記三次元座標演算ステップで求めた三次元座標または三次元座標系における測定対象物の形態に基づいて、誤対応点を判定する誤対応点判定ステップと、
前記誤対応点判定ステップで誤対応点と判定された点を除いた特徴点の位置および前記複数の撮影位置に基づき、前記測定対象物の特徴点の三次元座標または前記測定対象物の三次元形状を求める三次元形状測定ステップと、を実行させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【公開番号】特開2010−133751(P2010−133751A)
【公開日】平成22年6月17日(2010.6.17)
【国際特許分類】
【出願番号】特願2008−308048(P2008−308048)
【出願日】平成20年12月2日(2008.12.2)
【出願人】(000220343)株式会社トプコン (904)
【Fターム(参考)】
【公開日】平成22年6月17日(2010.6.17)
【国際特許分類】
【出願日】平成20年12月2日(2008.12.2)
【出願人】(000220343)株式会社トプコン (904)
【Fターム(参考)】
[ Back to top ]