説明

三次元計測装置における計測対象物の動き検出方法

【課題】 撮影後に、すばやい目の瞬きや、手先等の非剛体の動きを迅速に検出し、三次元形状計算をする前に使用者にメッセージを出し、計測対象者への負担を軽減することなどを可能とする。
【解決手段】 複数の画像に微分フィルタを適用した後、ある画像領域内で、各画像のエッジ強度の絶対値の差分の絶対値の和を求め、この絶対値の和を、前記画像領域内の複数の画像の一の画像のエッジ強度で除した値を求め、この値が所定の閾値を超えた場合には、画像領域内において計測対象物が動いたと判断する。計測中に手等が動いた時に、その旨計測対象者に知らせることができる。簡単な計算によって、短時間で計測対象者の動きを検出することができる。微分フィルタとして、平滑化微分フィルタ又はソーベル微分フィルタを用いることができ、微分フィルタを適用した後の画像にメジアンフィルタを適用してもよい。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、多眼正弦波格子位相シフト法によって計測対象物の三次元形状を計測する装置において、計測対象物の非剛体としての動きを検出する方法に関する。
【背景技術】
【0002】
従来、CG(Computer Graphics)コンテンツの作成や、FA(Factory Automation )・工業計測用途等の様々な分野で非接触式の三次元形状計測装置が開発、製品化されている。実際の三次元形状計測装置は、主に、2つのカメラと、2つの光パターン投影器(正弦波状のパターン)から構成され、多眼正弦波格子位相シフト法と呼ばれる計測原理により形状計測を行っている。
【発明の開示】
【発明が解決しようとする課題】
【0003】
しかし、上記多眼正弦波格子位相シフト法では、縞を数枚撮影する必要があるため、ある程度の計測時間が必要となる。計測を行っている間に、対象物は動いてはならず、人間等を撮影している場合に動作のすばやい目の瞬きや、手先の微動等があると、計測精度が悪化したり、画像がぼけるなどの問題が発生する。
【0004】
従来の方法では、三次元形状計測の計算が完了した後、初めて対象物が動いていることに気づくことが多く、そのような場合には、再計測が必要となり、計測対象者に過度の負担を強いることとなる。また、計測担当者が対象物の動きを目視で検出するのは困難である。
【0005】
また、画像の特徴点を抽出し、それらを追跡することによって動きを検出することも考えられる。例えば、抽出された特徴点が複数枚にわたって動かなければ、追跡された点は同じ座標のままである。しかし、この方法では、特徴点の検出が困難な画像を撮影する場合には問題となる。また、多眼正弦波格子位相シフト法では、縞の位相をシフトさせながら撮影しているので、追跡の際に縞の動きを検出する可能性が高い。特に、眉毛の動きなどの非剛体的な動きを検出することは困難である。
【0006】
そこで、本発明は、上記従来の方法における問題点に鑑みてなされたものであって、動作のすばやい目の瞬きや、手先等の動きを、撮影後に迅速に検出し、三次元形状計算をする前に使用者にメッセージを出すことにより、形状計測を効率よく行うことなどを可能とした三次元計測装置における計測対象物の動き検出方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本発明は、三次元計測装置における計測対象物の動き検出方法であって、複数の画像に微分フィルタを適用した後、各エッジ画像の差分を求め、ある画像領域内で、前記各エッジ画像の差分の絶対値の和が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とする。
【0008】
そして、本発明によれば、撮影後に、すばやい目の瞬きや、手先等の非剛体の動きを迅速に検出し、三次元形状計算をする前に使用者にメッセージを出すことにより、計測対象者への負担を軽減することができる。また、計測中に手が動いたとすると、手が動いたことを計測対象者に知らせれば、再度撮影をするときに注意しやすくなるため、どの部分が最も動いているかという情報も付与可能であることも重要である。さらに、本発明によれば、簡単な計算によって動きを検出することができるため、短時間で検出することができる。
【0009】
また、本発明は、三次元計測装置における計測対象物の動き検出方法であって、複数の画像に微分フィルタを適用した後、ある画像領域内で、各画像のエッジ強度の絶対値の差分の絶対値の和を求め、該絶対値の和が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とし、上記と同様の作用効果を奏する。
【0010】
さらに、本発明は、三次元計測装置における計測対象物の動き検出方法であって、複数の画像に微分フィルタを適用した後、各エッジ画像の差分を求め、ある画像領域内で、前記各エッジ画像の差分の絶対値の和を、該画像領域内の前記複数の画像の一の画像のエッジ強度で除した値を求め、該値が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とする。これによって、入力画像が変化した場合に容易に対応することができ、上記と同様の作用効果を奏する。
【0011】
また、本発明は、三次元計測装置における計測対象物の動き検出方法であって、複数の画像に微分フィルタを適用した後、ある画像領域内で、各画像のエッジ強度の絶対値の差分の絶対値の和を求め、該絶対値の和を、該画像領域内の前記複数の画像の一の画像のエッジ強度で除した値を求め、該値が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とし、上記と同様の作用効果を奏する。
【0012】
前記三次元計測装置における計測対象物の動き検出方法において、前記微分フィルタを、平滑化微分フィルタ又はソーベル微分フィルタとすることができ、微分フィルタを適用した後の画像に、メジアンフィルタを適用するようにしてもよい。平滑化微分フィルタを用いることによって、ノイズの影響や若干の画像のずれなどを考慮することができ、メジアンフィルタを適用してエッジ画像に残っているノイズを除去することもできる。
【発明の効果】
【0013】
以上のように、本発明によれば、撮影後に、すばやい目の瞬きや、手先等の非剛体の動きを迅速に検出し、三次元形状計算をする前に使用者にメッセージを出すことにより、計測対象者への負担を軽減することなどが可能となる。
【発明を実施するための最良の形態】
【0014】
図1は、本発明にかかる計測対象物の動き検出方法を適用可能な1台の三次元形状計測装置を示し、この装置は、2台のカメラ100と、2台のプロジェクタ101と、各々のプロジェクタ101を保持しながら、一定の方向に一定量ずつ移動させる図示しない格子駆動手段とで構成され、多眼正弦波格子位相シフト法と呼ばれる計測原理により形状計測を行う。
【0015】
この手法は、まず、プロジェクタ101内に設けた正弦波状に濃淡値が印刷されている格子を通して、図示しない光源から計測対象物に対して正弦波状の輝度分布を持つ光パターンを投射する。そして、計測対象物上の縞画像をカメラ100で撮影する。次に、計測対象物を静止させたままで、格子を縞の直角方向へと、波長の1/Nずつ、N回ずらしながらカメラ100で画像を撮影して行く。撮影された画像は、計測対象物に投射された正弦波光パターンが2π/Nラジアンずつ進行して行くように見える。計測点の輝度値を投射方向から計測し、各輝度値より格子パターンの位相値を計算する。計測点の高さ変位に応じて格子パターンの位相が変調するため、この位相の変調量を計算し、光学装置の幾何関係式に代入することにより、計測対象物の高さ変位量を計算し、三次元形状を求めるものである。
【0016】
縞画像にはメイン画像とサブ画像がある。メイン画像の位相で三次元情報を求めるが、この際、絶対位相を求める必要がある。この絶対位相を求めるときに用いられるのがサブ画像である。従って、三次元計測の精度やぼけに影響するのはメイン画像のみである。結果的に、4枚の画像間で物体が動いているかどうかを判定すればよく、メイン画像は、例えば、図3に示すように、片側のプロジェクタ101で4枚存在する。
【0017】
正弦波格子は各画像間で動いているため、これらの縞の動きと実際の計測対象物との動きを区別する必要がある。縞は正弦波状であるため、滑らかな輝度の変化を示す。一方、物体のエッジは、輝度の変化が急である。そのため、全画像に対して微分フィルタを施すと、正弦波のエッジ強度は小さく、物体のエッジ強度は大きくなる。
【0018】
実際に微分フィルタを施す場合には、例えば、後述するソーベル微分フィルタを利用する。またノイズの影響や若干の画像のずれなどを考慮に入れる場合は、後述する平滑化微分フィルタを使用してもよい。平滑化微分フィルタは、エッジの強度に応じて、その度合いを変えることが可能であるため、正弦波がエッジとして検出された場合には、その度合いを変えて調整する。上記フィルタを適用した画像をエッジ画像と呼ぶ。尚、各エッジ画像に若干のノイズが残っている場合があるため、場合によってはメジアンフィルタを適用してノイズを除去する。
【0019】
各4枚の画像間で計測対象物が動いていない場合には、1枚目のエッジ画像と2枚目のエッジ画像の差分を取れば、ある領域S内において、エッジ強度の絶対値の和は、動いたものの差分に比べて小さくなる。計測対象物が動いていない場合には、1枚目と2枚目の画像でエッジ強度が打ち消し合うからである。
【0020】
ここで、ある領域内におけるエッジ強度の差の絶対値の和を評価値Kと呼ぶ。評価値Kは、式(1)〜(3)のように表される。
【0021】
【数1】

【0022】
【数2】

【0023】
【数3】

【0024】
ここで、本出願人による実験の評価結果によれば、上記式(1)〜(3)は、以下の式(4)〜(6)のように調整した方がよいことが分かった。
【0025】
【数4】

【0026】
【数5】

【0027】
【数6】

【0028】
上記評価値Kが、ある閾値より一つでも大きければ、その領域は動いていると判断する。しかし、閾値を用いて判別する場合には、入力画像が変化すれば、判別に用いるべき閾値も変化させる必要性が生ずる。そのため、評価値を正規化することが必要である。正規化した評価値を正規化評価値Nと呼ぶ。この正規化評価値Nは、以下のように計算する。この正規化評価値Nは、エッジ強度の変化割合を意味する。
【0029】
【数7】

【0030】
【数8】

【0031】
【数9】

【0032】
次に、本発明にかかる三次元計測装置における計測対象物の動き検出方法の具体的なプログラムの流れの一例について、図2を参照しながら説明する。
【0033】
まず、図1に示したプロジェクタ101及びカメラ100を用いて撮影した、位相0、π/2、π、3π/2における各縞画像をロードし(ステップS1)、各画像にソーベル微分フィルタ又は平滑化微分フィルタを適用する(ステップS2)。尚、平滑化微分フィルタを適用する場合には、パラメータであるσを記載しておく。また、必要に応じて、ノイズ除去のため、メジアンフィルタを適用する。尚、メジアンフィルタとは、ある画素の濃度に代えて、その画素を中心とした一定領域の画素の中央値を与えるフィルタである。
【0034】
次に、上記式(4)〜(6)によって評価値Kを計算し(ステップS3)、さらに、式(7)〜(9)によって、正規化評価値Nを計算し(ステップS4)、ある画像領域内で、正規化評価値Nと所定の閾値とを比較し(ステップS5)、正規化評価値Nが所定の閾値を超えた場合には、その画像領域内において計測対象物が動いたと判断する(ステップS6)。
【0035】
上記平滑化微分フィルタを用いた画像I(i,j)での平滑化微分は次のように計算される。
【0036】
【数10】

【0037】
【数11】

【0038】
Dx(k,l)、Dy(k,l)は、テンプレート領域N(フィルタ)で以下のように定義される。
【0039】
【数12】

【0040】
【数13】

【0041】
ここで、σは、平滑化のためのガウス窓の幅である。テンプレート領域を、(2s+1)×(2s+1)の正方領域とすると、S=2σとしておく。例えば、s=2、σ=1とすると、フィルタは以下のようになる。
【0042】
【数14】

【0043】
【数15】

【0044】
このフィルタを各画素に掛ければよい(但し、σを可変にしておく)。
【0045】
上記ソーベル微分フィルタを用いた画像I(i,j)でのソーベル微分は次のように計算される。尚、ソーベル微分フィルタとは、中央画素の周囲の画素濃度に係数を乗じて加えたものを中央画素の濃度とするフィルタである。図4は、三次元形状計測装置によって取得された画像にソーベル微分フィルタを施した状態の一例を示す。
【0046】
【数16】

【0047】
【数17】

【0048】
Dx(k,l)、Dy(k,l)は、テンプレート領域N(フィルタ)で以下のように定義される。
【0049】
【数18】

【0050】
【数19】

【図面の簡単な説明】
【0051】
【図1】本発明を適用可能な1台の三次元形状計測装置を示す図であって、(a)は斜視図、(b)は側面図である。
【図2】本発明にかかる動き検出方法の具体的なプログラムの流れを示す図である。
【図3】図1の三次元形状計測装置によって取得された画像を示す参考図である。
【図4】図1の三次元形状計測装置によって取得された画像にソーベル微分フィルタを施した状態を示す参考図であって、(a)は原画像、(b)はソーベル微分フィルタによるエッジ画像を示す。
【符号の説明】
【0052】
100 1台の三次元形状計測装置のカメラ
101 1台の三次元形状計測装置のプロジェクタ

【特許請求の範囲】
【請求項1】
複数の画像に微分フィルタを適用した後、各エッジ画像の差分を求め、ある画像領域内で、前記各エッジ画像の差分の絶対値の和が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とする三次元計測装置における計測対象物の動き検出方法。
【請求項2】
複数の画像に微分フィルタを適用した後、ある画像領域内で、各画像のエッジ強度の絶対値の差分の絶対値の和を求め、該絶対値の和が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とする三次元計測装置における計測対象物の動き検出方法。
【請求項3】
複数の画像に微分フィルタを適用した後、各エッジ画像の差分を求め、ある画像領域内で、前記各エッジ画像の差分の絶対値の和を、該画像領域内の前記複数の画像の一の画像のエッジ強度で除した値を求め、該値が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とする三次元計測装置における計測対象物の動き検出方法。
【請求項4】
複数の画像に微分フィルタを適用した後、ある画像領域内で、各画像のエッジ強度の絶対値の差分の絶対値の和を求め、該絶対値の和を、該画像領域内の前記複数の画像の一の画像のエッジ強度で除した値を求め、該値が所定の閾値を超えた場合には、該画像領域内において計測対象物が動いたと判断することを特徴とする三次元計測装置における計測対象物の動き検出方法。
【請求項5】
前記微分フィルタは、平滑化微分フィルタ又はソーベル微分フィルタであることを特徴とする請求項1乃至4のいずれかに記載の三次元計測装置における計測対象物の動き検出方法。
【請求項6】
前記微分フィルタを適用した後の画像に、メジアンフィルタを適用することを特徴とする請求項1乃至5のいずれかに記載の三次元計測装置における計測対象物の動き検出方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate


【公開番号】特開2006−194748(P2006−194748A)
【公開日】平成18年7月27日(2006.7.27)
【国際特許分類】
【出願番号】特願2005−6993(P2005−6993)
【出願日】平成17年1月14日(2005.1.14)
【出願人】(303013763)NECエンジニアリング株式会社 (651)
【Fターム(参考)】