説明

画像校正評価装置及び画像校正評価プログラム

【課題】画像情報に基づいて校正の成否を定量化することにより評価の頑健性や精度を向上させる。
【解決手段】撮像手段により得られる画像から、前記撮像手段の撮像パラメータにおける画像校正の成否を評価する画像校正評価装置において、前記撮像手段で撮影された校正対象の画像を取り込む画像入力手段と、校正用図形である直線又は曲線を含む3次元パターンの図形特徴を保持するパターン記憶手段と、前記図形特徴と入力された撮像パラメータとを用いて、画像座標系に投影された図形特徴を求める投影手段と、前記投影手段により投影された図形に基づき、前記校正用図形の投影像上に1以上の点を設定し、設定された各点を通る線分を設定するスキャン線分設定手段と、前記画像入力手段により取り込まれた画像において、前記線分上の各画素の画素値を取得し、取得した画素値を用いて校正の成否を定量化した評価値を算出する評価値演算手段とを有することにより、上記課題を解決する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像校正評価装置及び画像校正評価プログラムに係り、特に、画像情報に基づいて校正の成否を定量化することにより評価の頑健性や精度を向上させるための画像校正評価装置及び画像校正評価プログラムに関する。
【背景技術】
【0002】
従来のカメラ校正では、既定或いは予め測定済みのパターンを校正対象のカメラで撮影し、パターンの像の形状から解析的手法或いは繰り返し収束演算する手法によりカメラパラメータを求めることが行われている。
【0003】
ここで、上述した繰り返し収束演算による手法の代表例としては、例えば実際に観測されたパターンの像と、カメラパラメータ及びパターンのモデルから推測した観測されるべきパターンの像との一致の度合を評価しつつ、その一致の度合が最大となるようにカメラパラメータを逐次修正する手法がある。また、上述したパターンとしては、複数の観測点とモデル上の点との対応関係を用いる手法(例えば、非特許文献1参照。)や、観測された複数の線(直線、線分、曲線等)とモデル上の線との対応関係を用いる手法がある。
【0004】
また、上述した複数の点情報を用いる手法では、例えば線同士の交差した点や折れ線の頂点、円或いは矩形等の特定パターンの代表点(重心等)を特徴点として抽出し、モデルとの対応関係を求めることが主流である。
【0005】
一方、複数の線情報を用いる手法では、例えばハフ変換や一般化ハフ変換によって、直線や曲線のパラメータを算出し、そのパラメータとモデルとの対応を取ることが行われている(例えば、特許文献1参照。)。
【非特許文献1】Roger Y. Tsai:“A Versatile Camera Calibration Technique for High−Accuracy 3D Machine Vision Metrology Using Off−the−Shelf TV Cameras and Lenses,”IEEE Journal of Robotics and Automation,Vol.RA−3,No.4,pp.323−344,August 1987.
【特許文献1】特開2004−234333号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
ところで、上述した従来のカメラ校正手法では、画像内の特徴点や直線、曲線を抽出し、その座標やパラメータを得ることが最初の段階として行われ、続いてモデルを投影変換した点や線の座標やパラメータと、観測画像から得た座標やパラメータとの距離の比較が行われる。
【0007】
ここで、通常、点や線の抽出処理は、画像に対する非線形の演算であり、元の画像情報の多くを喪失する傾向にある。このため、画像からの点や線の抽出が不安定になると、校正の成否を評価することができなくなり、カメラパラメータの推定が不可能となってしまう。
【0008】
本発明は、上述した問題点に鑑みなされたものであり、画像情報に基づいて校正の成否を定量化することにより評価の頑健性や精度を向上させるための画像校正評価装置及び画像校正評価プログラムを提供することを目的とする。
【0009】
なお、具体的には、本発明におけるカメラ校正評価は、点や線の抽出処理における情報喪失を回避するため、校正対象のカメラで撮影された画像の画素値の情報を直接的に用いて校正の成否を判定できるようにすることを目的とする。
【課題を解決するための手段】
【0010】
上記課題を解決するために、本件発明は、以下の特徴を有する課題を解決するための手段を採用している。
【0011】
請求項1に記載された発明は、撮像手段により得られる画像から、前記撮像手段の撮像パラメータにおける画像校正の成否を評価する画像校正評価装置において、前記撮像手段で撮影された校正対象の画像を取り込む画像入力手段と、校正用図形である直線又は曲線を含む3次元パターンの図形特徴を保持するパターン記憶手段と、前記図形特徴と入力された撮像パラメータとを用いて、画像座標系に投影された図形特徴を求める投影手段と、前記投影手段により投影された図形に基づき、前記校正用図形の投影像上に1以上の点を設定し、設定された各点を通る線分を設定するスキャン線分設定手段と、前記画像入力手段により取り込まれた画像において、前記線分上の各画素の画素値を取得し、取得した画素値を用いて校正の成否を定量化した評価値を算出する評価値演算手段とを有することを特徴とする。
【0012】
請求項1記載の発明によれば、画像情報に基づいて校正の成否を定量化することにより評価の頑健性や精度を向上させることができる。
【0013】
請求項2に記載された発明は、前記評価値演算手段は、前記スキャン線分設定手段で得られた全ての線分上の各画素の画素値に各線分上の位置に応じた予め設定された重み係数を掛けて積分値又は総和を求めることを特徴とする。
【0014】
請求項2記載の発明によれば、例えば画像校正に必要な近距離部分の重みを重くすることで、より高精度な評価値を算出することができる。
【0015】
請求項3に記載された発明は、前記投影手段は、前記パターン記憶手段に記憶された複数の幾何特徴情報から、前記撮像パラメータに対応した幾何特徴情報を前記図形特徴として取得し、取得した幾何特徴情報を投影変換して、画像座標系における幾何特徴情報を出力することを特徴とする。
【0016】
請求項3記載の発明によれば、幾何特徴情報を用いることで、より高精度な評価値を容易に算出することができる。
【0017】
請求項4に記載された発明は、前記図形特徴は、前記撮像手段により得られる直線又は曲線を含むパターン上の1以上の代表点と、前記代表点における前記直線又は曲線の接線方向とを含むことを特徴とする。
【0018】
請求項4記載の発明によれば、パターンの代表点とその代表点における接線方向と含む図形特徴を利用することで、画像校正を容易に行うことができる。
【0019】
請求項5に記載された発明は、前記スキャン線分設定手段は、前記図形特徴における前記代表点毎の像を通り、前記代表点における接線方向の像に直交する線分をスキャン線分として設定することを特徴とする。
【0020】
請求項5記載の発明によれば、容易に校正評価に必要なスキャン線分を効率的に取得することができる。
【0021】
請求項6に記載された発明は、撮像手段により得られる画像から、前記撮像手段の撮像パラメータにおける画像校正の成否を評価する画像校正評価プログラムにおいて、コンピュータを、前記撮像手段で撮影された校正対象の画像を取り込む画像入力手段、校正用図形である直線又は曲線を含む3次元パターンの図形特徴を保持するパターン記憶手段、前記図形特徴と入力された撮像パラメータとを用いて、画像座標系に投影された図形特徴を求める投影手段、前記投影手段により投影された図形に基づき、前記校正用図形の投影像上に1以上の点を設定し、設定された各点を通る線分を設定するスキャン線分設定手段、及び、前記画像入力手段により取り込まれた画像において、前記線分上の各画素の画素値を取得し、取得した画素値を用いて校正の成否を定量化した評価値を算出する評価値演算手段として機能させる。
【0022】
請求項6記載の発明によれば、画像情報に基づいて校正の成否を定量化することにより評価の頑健性や精度を向上させることができる。更に、実行プログラムをコンピュータにインストールすることにより、容易に画像校正評価を実現することができる。
【発明の効果】
【0023】
本発明によれば、画像情報に基づいて校正の成否を定量化することにより評価の頑健性や精度を向上させることができる。
【発明を実施するための最良の形態】
【0024】
<本発明の概要>
本発明は、撮像手段であるカメラの位置、姿勢、又は焦点距離の各情報のうち、1以上からなるカメラパラメータ(撮像パラメータ)が、正しいか否かを評価する校正評価装置に関し、特に校正対象のカメラにより撮影された画像に基づいて評価を行う装置に関する。
【0025】
具体的には本発明は、撮影空間中に含まれる既知の直線又は曲線パターンを用いて撮像手段であるカメラの設置位置、姿勢、又は焦点距離を校正する場合において、撮影したカメラにより得られた画像情報に基づき校正の成否の度合を定量化する。
【0026】
例えば、カメラによって直線又は曲線を含むパターンを撮影し、次に直線又は曲線パターン(以下、曲線群)の既知のモデルに基づいて、曲線群上に点(代表点)を1以上取得する。また、代表点及び代表点における曲線の接線方向を、評価対象となるカメラパラメータ(カメラの設置位置、姿勢又は焦点距離)に基づき、画像座標系へ投影する。
【0027】
次に、各代表点の投影像に関して、上述の投影像を通り、接線の投影像と直交する線分(スキャン線分)を求める。また、撮影画像においては、全てスキャン線分上の画素に対し、その画素値に各スキャン線分上の位置に応じて予め設定された重み係数を掛けつつ、その積分値若しくは総和を求め、校正の成否を定量化した評価値を算出して出力する。
【0028】
以下に、上述したような特徴を有する本発明における画像校正評価装置及び画像校正評価プログラムを好適に実施した形態について、図面を用いて詳細に説明する。
【0029】
<画像校正評価装置:機能構成>
図1は、本実施形態における映像構成評価装置の機能構成の一例を示す図である。図1に示す画像校正評価装置10は、画像入力手段11と、パターン記憶手段12と、投影手段13と、スキャン線分設定手段14と、評価値演算手段15とを有するよう構成されている。
【0030】
画像入力手段11は、校正対象である撮像手段としてのカメラにより撮影された画像を読み込み、読み取った画像を内蔵されるメモリ等に記憶する。なお、画像入力手段11は、画像の記憶において、例えば画像座標(x,y)に対する画素値I(x,y)を参照可能な形式で記憶する。
【0031】
ここで、上述のx及びyは整数値とし、例えばxは画像座標の水平成分を表し、yは画像座標の垂直成分を表すものとする。このとき、画像入力手段11は、例えば画像の左上の隅の画素の画像座標をx=0,y=0とおき、右に1画素移動する毎にxの値を1ずつ増加させ、下に1画素移動する毎にyの値を1ずつ増加させるように画像座標系を定義することができる。
【0032】
また、校正対象のカメラとしては、例えばスチルカメラであってもよく、またビデオカメラであってもよい。また、出力される画像は、デジタル画像でもよく、また電子的なアナログ画像でもよい。ここで、校正対象のカメラがデジタル画像出力を有する場合、画像入力手段11は、カメラから出力されるデータから各画素位置における画素値を取り出して、取り出した画素値をメモリに記憶することで、画像座標(x,y)に対する画素値I(x,y)を参照可能な状態とする。また、校正対象のカメラが電子的なアナログ画像出力を有する場合、画像入力手段11は、カメラから出力される画像に対してアナログ/デジタル変換を施し、各画素位置における画素値を取得し、これらの画素値をメモリに記憶することで画像座標(x,y)に対する画素値I(x,y)を参照可能な状態とする。
【0033】
更に、校正対象のカメラとしては、例えば化学反応によって画像を記録する方式(例えば、銀塩写真等)を用いることができる。このような場合、画像入力手段11は、カメラにより撮影され現像されたフィルム、乾板、印画紙、若しくはこれらを光学的に拡大、縮小、等倍に転写したフィルム、乾板、印画紙を写真スキャナにより読み込む。また、画像入力手段11は、読み込まれた画素値をメモリに記憶することで画像座標(x,y)に対する画素値I(x,y)を参照可能な状態とする。
【0034】
パターン記憶手段12は、実空間内に描画又は設置される直線群、曲線群又はこれらの組み合わせ(以下、曲線群という)によるカメラ校正に用いるカメラパターン(校正用パターン)の幾何特徴(図形特徴)を記憶するメモリである。
【0035】
ここで、校正用パターンは、予め設定された寸法や角度、曲率に基づき作成されたパターンであってもよく、既に実空間内に存在する人工物や自然物の寸法や形状を測定したものであってもよい。
【0036】
ここで、図2は、カメラ校正に用いるカメラパターンの一例を示す図である。例えば、図2に示すような各線分の長さや配置、姿勢が既知の線図を校正用パターン21として用いることができる。したがって、例えばカメラからの撮影映像から取得できるサッカー場やラグビー場における競技場上のライン等、スポーツ競技に用いられるコートのライン等を校正用パターン21として用いることができる。
【0037】
なお、スポーツ競技のコートのラインを校正用パターン21として用いる場合には、曲線群の長さや配置、姿勢、曲率等を予め測定しておくか、或いは競技ルールに定める値を用いるか、或いはそれらの併用によるものとする。
【0038】
つまり、パターン記憶手段12には、校正用パターンを構成する曲線群の幾何特徴を表す数値群等からなる幾何特徴情報が記憶される。ここで、上述した幾何特徴情報とは、校正用パターンを構成する曲線(直線、半直線、及び線分を含む、以下同じ)上の、1以上の代表点の座標と、各代表点における曲線の接線方向を記述することができる情報とを含むものとする。
【0039】
例えば、幾何特徴情報としては、校正用パターンに含まれる線分の両端点の3次元座標、円の中心及び半径、楕円の中心、短半径、長半径及び長軸の位相角、円弧の中心、半径、始点の位相角及び終点の位相角、曲線上の代表点の座標及び代表点における接線方向等を用いることができる。
【0040】
ここで、図3は、本実施形態における幾何特徴情報の一例を示す図である。図3に示す幾何特徴情報は、上述した図2に示す校正用パターン21の曲線(この場合、線分)上に設定した代表点及び代表点における接線方向の例を示している。つまり、校正用パターン21のライン上に有する1以上の代表点31と、その代表点31における接線方向32とにより、幾何特徴情報を定義することができる。
【0041】
なお、複数の代表点の設置間隔は、予め設定された画像中に存在するラインを基準にした間隔でもよく、また実際に撮影された場所に存在するラインを基準にした間隔でもよい。また、その間隔は、等間隔でも不等間隔でもよい。つまり、本発明における代表点の数及び位置については特に限定されるものではない。また、代表点31における接線方向32についても校正用パターン21の線分上であればよい。
【0042】
投影手段13は、画像入力手段11から入力される画像を撮影したカメラ(撮像手段)に対応して入力されたカメラパラメータ(撮像パラメータ)θに基づき、パターン記憶手段12に記憶された幾何特徴情報から対応するカメラパラメータの幾何特徴情報を抽出し、抽出した幾何特徴情報を投影変換し、画像座標系における幾何特徴情報を出力する。
【0043】
ここで、上述したカメラパラメータθには、例えば、カメラの設置位置、姿勢、及びレンズ(反射鏡、ピンホールを含む、以下同じ)の焦点距離(又は画角)のうち、1以上のパラメータを含むものとする。また、カメラパラメータθは、これらに加えてレンズの歪みパラメータや、光軸と画像平面の交点の画像座標、光軸の画像平面に対する傾き等の各パラメータのうち、1以上のパラメータを含んでいても構わない。
【0044】
また、投影手段13における投影変換は、校正対象のカメラのレンズ及び撮像面の構成や形状に対応して予め設定された投影を行う変換である。例えば、ピンホールやピンホールモデルによる近似が可能なレンズや反射鏡を用いて平面の画像面に投影する場合においては、透視投影を行うものとする。また、魚眼レンズによる場合には、等距離射影、等立体角射影、或いは正射影等の使用レンズと撮像面の関係に最も適合した投影モデルを適用する。
【0045】
ここで、実空間における座標(X,Y,Z)からカメラパラメータθの投影手段13により画像座標(x,y)へ変換する数式を、以下に示す(1)式とおく。
【0046】
【数1】

ここで、例えばパターン記憶手段12には、曲線上の第i番目(但し、i∈{0,1,N−1}、Nは1以上の整数)の代表点の座標(X,Y,Z)、及びその代表点における接線方向(U,V,W)が記憶されている。投影手段13は、例えば投影変換が透視投影による場合、以下に示す(2)式〜(4)式により代表点の像(x,y)、及び代表点における接線方向の像(u,v)を取得することができる。
【0047】
【数2】

スキャン線分設定手段14は、投影手段13により得られた校正用パターンの像に関する情報(例えば、代表点の像、及び代表点における接線方向の像)に基づき、画像平面内において1以上の線分を設定する。この線分は、後述する評価値演算手段15における評価値の計算に用いるためのものであり、画素値の走査を行うための領域として用いられる。
【0048】
例えば、スキャン線分設定手段14は、上述した(2)式の各代表点の像(x,y)を通り、その代表点における接線方向の像(u,v)に直交する線分を、スキャン線分として設定する。
【0049】
また、スキャン線分は、例えば以下に示す(5)式のようにtを媒介変数として、(p(t),q(t))の軌跡として表すことができる。
【0050】
【数3】

なお、上述した(5)式において、T及びTは、T<Tなる実数の定数とし、好ましくはT<0、T>0とする。例えば、T=−10、T=10とおく。
【0051】
ここで、図4は、スキャン線分の一例を示す図である。図4に示すように、スキャン線分は、校正用図形の投影像41に対して上述した各代表点31の像を通り、接線方向の像に直交する線分をスキャン線分42として設定する。
【0052】
なお、複数のスキャン線分42の設置間隔は、例えば予め設定された画像中の投影像41を基準にした間隔でもよく、また実際に撮影された場所に存在するラインを基準にした間隔でもよい。また、その間隔は、等間隔でも不等間隔でもよい。つまり、本発明におけるスキャン線分の数及び位置については特に限定されるものではない。
【0053】
評価値演算手段15は、画像I(x,y)において、スキャン線分設定手段14により設定された全線分上を走査し、走査された画素の画素値群に基づき評価値Eを算出して出力する。
【0054】
例えば、評価値演算手段15は、以下に示す(6)式により評価値Eを計算することができる。
【0055】
【数4】

ここで、上述した(6)式において、f(I)は画素値Iを引数に取り、実数を返す関数である。
【0056】
例えば、画素値Iが赤I、緑I、及び青Iの各色成分からなるベクトルである場合に、以下に示す(7)式からなる線形結合により、f(I)を定義することができる。
【0057】
【数5】

ここで、上述した(7)式において、k、k、及びkは、何れも実数とし、k、k、及びkの全てが0とはならないものとする。
【0058】
また、例えば、f(I)は、Iの画素値が色空間の既定の領域Cに含まれる場合と、そうでない場合とに応じて、以下に示す(8)式に示すように返す値を変化させるものとしてもよい。
【0059】
【数6】

ここで、上述した(8)式は、ハードクロマキーによるキー値生成と等価である。したがって、例えば、校正対象の映像としてサッカー場を撮影している場合には、その映像から得られる画像の色が白色(コートのライン)か否か(例えば、緑色(サッカー場の芝生)等)を判断し、白線の場合は「1」とし、それ以外の場合(例えば、緑色等)は「0」とすることができる。
【0060】
また、Iの値のそれぞれに応じて、f(I)の返す値を全て定義しても構わない。つまり、画素値Iが離散的である場合には、例えばf(I)は画素値Iに対するルックアップテーブルを用いて実現可能である。
【0061】
また、上述した(6)式の重み関数w(t)は、スキャン線分上の点の位置を表す媒介変数tに応じて変化する重み関数である。したがって、重み関数w(t)は、以下に示す(9)式を満たすことが好ましい。
【0062】
【数7】

ここで、図5は、引数が連続値である場合の重み関数の一例を示す図である。例えば、重み関数w(t)として図5(a),(b)に示すような関数を用いることができる。具体的には、例えば図5(a)の関数では、以下に示す(10)式により表すことができる。
【0063】
【数8】

なお、図5(a)と同様に、図5(a)の関数を反転させた図5(b)の関数を用いてもよい。
【0064】
更に、図6は、図5と異なる引数が連続値である場合の重み関数の一例を示す図である。例えば、重み関数w(t)として、図5に示す連続関数の他にコサインカーブ(余弦波)を用いて図6(a),(b)に示すような関数を用いることができる。具体的には、例えば図6(a)の関数は、以下に示す(11)式により表すことができる。
【0065】
【数9】

なお、図6(a)と同様に、図6(a)の関数を反転させた図6(b)の関数を用いてもよい。
【0066】
また、上述した(6)式の積分の部分を離散化し、総和演算に置き換えても構わない。この場合には、評価値Eは、例えば以下に示す(12)式で表すことができる。
【0067】
【数10】

ここで、t(j∈{0,1,…,J−1})は、T≦t≦Tなる数列である。このとき、重み関数w(t)は、例えば、以下に示す(13)式で表すことが好ましい。
【0068】
【数11】

ここで、上述した(13)式において、tとしては、例えばT≦τ≦Tを満たす実数τを、ある一定の間隔で昇順又は降順に並べたものとすることができる。なお、実数τは、画像負荷等を考慮して設定することができる。
【0069】
更に、例えばtとしてT≦τ≦Tを満たす整数τを昇順に並べたものとすることができ、以下に示す(14)式とすることができる。
【0070】
【数12】

ここで、floor[T]は、Tより大きくない最大の整数(即ち、Tに対する床関数)を表し、ceil[T]はTより小さくない最小の整数(即ち、Tに対する天井関数)を表す。このとき、例えば、T=−10,T=10の場合には、以下に示す(15)式のようになる。
【0071】
【数13】

また、上述した(12)式は、以下に示す(16)式のように表すことができる。
【0072】
【数14】

ここで、図7は、引数が離散値である場合の重み関数の一例を示す図である。このとき、重み関数w(t)として、例えば図7に示す関数、即ち、以下に示す(17)式のような関数を用いることができる。
【0073】
【数15】

なお、上述した(17)式に示す関数は、上述した(13)式の条件を満たす。
【0074】
また、上述した(17)式の他にも、例えば重み関数w(t)において、T≦T≦Tの範囲の場合には、上に凸となる連続する関数であり、それ以外は0となる関数であれば、任意に適用することができる。
【0075】
ここで、上述した(6)式、(12)式、及び(16)式において、画像座標(p,q)が、画像の外側にある場合には、画素値I(p,q)を零(0)又は零ベクトルと定義する。
【0076】
また、画像座標(p,q)の成分p又はqの何れか一方又は両方が非整数値である場合には、例えば画像座標(p,q)の最近傍にある格子点(p’,q’)の画素値I(p’,q’)を用いて画素値I(p,q)とおくことができる。また、例えば画像座標(p,q)の周囲の複数の格子点における画素値からの補間処理により画素値I(p,q)を定めることもできる。
【0077】
また、例えば画像座標(p,q)が画像の内側になるか否かを判定する関数として、以下に示す(18)式を用いる。
【0078】
【数16】

また、評価値Eは、上述した(6)式の代わりに、以下に示す(19)式を用いることもできる。
【0079】
【数17】

これにより、画像内に存在するスキャン線分(の部分)の総延長で規格化された評価値Eを定義することができる。また、評価値Eは、同様に上述した(12)式の代わりに、以下に示す(20)式を用いてもよい。
【0080】
【数18】

以上により、例えばサッカーコートのライン(白線の)ように、色の各成分が周囲よりもラインの方が高い場合において、上述した(7)式のk、k、及びkの各係数を0以上(但し、k、k、及びkの何れか一つ以上は0より大きいものとする。例えば、k=0.30、k=0.59、及びk=0.11等)とし、更に、上述したT=−10、T=10とし、上述した(15)式〜(17)式を適用した場合には、カメラパラメータの校正が精密であればあるほど、上述した(16)式の評価値Eは大きくなる。
【0081】
上述した実施形態により、画像情報に基づいて校正の成否を定量化することにより評価の頑健性や精度を向上させることができる。具体的には、校正用図形のパターンの幾何特徴を画像面へ投影し、校正対象のカメラで撮影された画像上における幾何特徴情報の投影像近傍において、画素値を評価することができる。これにより、特徴点や線を予め抽出する従来の手法では喪失されてしまう原画像の画素値情報を有効活用することができ、校正の成否の評価の頑健性や精度を向上させることができる。
【0082】
<画像校正評価プログラム>
ここで、上述した画像校正評価装置10は、上述した専用の装置構成により本発明における画像校正評価処理を行うこともできるが、画像校正評価装置10の一部、例えば、画像入力手段、パターン記憶手段、投影手段、スキャン線分設定手段、評価値演算手段等における各機能をコンピュータで実現するようにしてもよい。
【0083】
この場合、上述した各制御機能を実現するための実行プログラム(画像校正評価プログラム)を生成し、例えば汎用のパーソナルコンピュータやサーバ等のコンピュータに実行プログラムをインストールすることにより、本発明における画像校正評価処理を実現することができる。
【0084】
また、コンピュータ本体にインストールされる実行プログラムは、例えばCD−ROM等の記録媒体等により提供することができる。この場合、実行プログラムを記録した記録媒体は、コンピュータが備えるドライブ装置等にセットされ、記録媒体に含まれる実行プログラムが、記録媒体からドライブ装置を介してコンピュータが備える補助記憶装置等にインストールされる。
【0085】
なお、記録媒体としては、CD−ROM以外でも、例えばフレキシブルディスク、光磁気ディスク等のように情報を光学的、電気的或いは磁気的に記録する記録媒体、ROM(Read Only Memory)、フラッシュメモリ等のように情報を電気的に記録する半導体メモリ等、様々なタイプの記録媒体を用いることができる。
【0086】
また、コンピュータは、通信ネットワークに接続可能なネットワーク接続装置等を備え、通信ネットワークに接続されている他の端末等から実行プログラムを取得したり、プログラムを実行することで得られた実行結果又は本発明における実行プログラム自体を他の端末等に提供することができる。
【0087】
なお、コンピュータが備える補助記憶装置は、ハードディスク等のストレージ手段であり、本発明における実行プログラムや、コンピュータに設けられた制御プログラム等を蓄積し必要に応じて入出力を行うことができる。また、コンピュータが備えるメモリ装置は、CPUにより補助記憶装置から読み出された実行プログラム等を格納する。なお、メモリ装置は、ROMやRAM(Random Access Memory)等からなる。
【0088】
また、コンピュータは、CPU(Central Processing Unit)を備え、OS(Operating System)等の制御プログラムや実行プログラムに基づいて、各種演算や各構成部間のデータの入出力等、コンピュータ全体の処理を制御して各処理を実現することができる。
【0089】
これにより、特別な装置構成を必要とせず、低コストで効率的に画像校正評価処理を実現することができる。また、プログラムをインストールすることにより、画像校正評価処理を容易に実現することができる。
【0090】
<画像校正評価処理>
次に、本発明における実行プログラムによる画像校正評価処理手順についてフローチャートを用いて説明する。
【0091】
<画像校正評価処理手順>
図8は、本実施形態における画像校正評価処理手順の一例を示すフローチャートである。図8において、まず校正対象のカメラで撮影された映像に含まれる画像を取り込む(S01)。次に、予め蓄積された校正用図形である直線又は曲線を含む3次元パターンの図形特徴(幾何特徴)と、入力されたカメラパラメータとに基づき、画像座標系に投影された図形特徴を求める(S02)。
【0092】
次に、上述したS02の処理において、投影された図形に基づき、画像平面上において、校正用図形の投影像上に1以上の点を設定し(S03)、その各点について、その点を通る線分をスキャン線分として設定する(S04)。
【0093】
次に、S01の処理により、画像入力手段11から取り込まれた画像において、スキャン線分群上の画素に対し、その画素値に各スキャン線分上の位置に応じた予め設定された重み係数を掛けつつ、その総和を求め(S05)、求めた総和に基づいて校正の成否を定量化した評価値を上述した数式等により算出して出力する(S06)。
【0094】
これにより、カメラ校正評価を数値により確実且つ迅速に行うことができる。また、その結果に応じて、校正対象のカメラの各種カメラパラメータにフィードバックする等の制御を行うことができる。
【0095】
<評価値Eの算出処理手順>
次に、上述したS06の処理における本実施形態における評価値の算出処理手順についてフローチャートを用いて具体的に説明する。図9は、本実施形態における評価値の算出処理手順の一例を示すフローチャートである。なお、以下に示す説明では、上述した評価値Eの算出手法に基づいて説明する。
【0096】
評価値Eを算出する場合、まず初期化(i=0,E=0)を行い(S11)、次にパターン記憶手段12により第i番目(但し、i∈{0,1,N−1}、Nは1以上の整数)の代表点の座標(X,Y,Z)と接線方向(U,V,W)を読み出す(S12)。次に、座標(X,Y,Z)と上述した(2)式とにより、代表点の像(x,y)を取得する(S13)。また、座標(X,Y,Z)、接線方向(U,V,W)、及び上述した(3)式、(4)式により、接線方向の像(u,v)を取得する(S14)。
【0097】
ここで、変数であるjの値を初期化(j=0)とし(S15)、t=[T]+jとして(S16)、代表点の像(x,y)と接線方向の像(u,v)と上述した(4)式とに基づいて、スキャン線分上の点(p(t),q(t))を取得する(S17)。また、評価値Eは、E+w(t)f(I(p(t),q(t)))とし(S18)、変数jを1増加し(j=j+1)(S19)、変数jが“floor[T]−ceil[T]+1”以上であるか否かを判断する(S20)。ここで、jが“floor[T]−ceil[T]+1”未満である場合(S20において、NO)、S16に戻り後述の処理を行う。また、S20の処理において、jが“floor[T]−ceil[T]+1”以上である場合(S20において、YES)、iに1を増加し(i=i+1)(S21)、iがN以上であるか否かを判断する(S22)。
【0098】
ここで、iがN未満である場合(S22において、NO)、S12に戻り後述の処理を行う。また、S22の処理において、iがN以上である場合(S22において、YES)、その評価値Eを出力し(S23)、処理を終了する。
【0099】
上述したような処理により、本実施形態における評価値Eを高精度に算出することができる。また、上述の処理にて得られた評価値Eに基づいて、正確且つ迅速に画像校正評価を行うことができ、その結果に対応させて正確な映像を取得するためにフィードバック処理による制御を行って高精度な処理を実現することができる。
【0100】
上述したように本発明によれば、画像情報に基づいて校正の成否を定量化することにより評価の頑健性や精度を向上させることができる。具体的には、校正用図形のパターンの幾何特徴(図形特徴)を画像面へ投影し、校正対象のカメラで撮影された画像上における幾何特徴情報の投影像近傍において、画素値を評価することができる。これにより、特徴点や線を予め抽出する従来の手法では喪失されてしまう原画像の画素値情報を有効活用することができ、校正の成否の評価の頑健性や精度を向上させることができる。
【0101】
以上本発明の好ましい実施形態について詳述したが、本発明は係る特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形、変更が可能である。
【図面の簡単な説明】
【0102】
【図1】本実施形態における映像構成評価装置の機能構成の一例を示す図である。
【図2】カメラ校正に用いるカメラパターンの一例を示す図である。
【図3】本実施形態における幾何特徴情報の一例を示す図である。
【図4】スキャン線分の一例を示す図である。
【図5】引数が連続値である場合の重み関数の一例を示す図である。
【図6】図5と異なる引数が連続値である場合の重み関数の一例を示す図である。
【図7】引数が離散値である場合の重み関数の一例を示す図である。
【図8】本実施形態における画像校正評価処理手順の一例を示すフローチャートである。
【図9】本実施形態における評価値の算出処理手順の一例を示すフローチャートである。
【符号の説明】
【0103】
10 画像校正評価装置
11 画像入力手段
12 パターン記憶手段
13 投影手段
14 スキャン線分設定手段
15 評価値演算手段
21 校正用パターン
31 代表点
32 接線方向
41 投影像
42 スキャン線分

【特許請求の範囲】
【請求項1】
撮像手段により得られる画像から、前記撮像手段の撮像パラメータにおける画像校正の成否を評価する画像校正評価装置において、
前記撮像手段で撮影された校正対象の画像を取り込む画像入力手段と、
校正用図形である直線又は曲線を含む3次元パターンの図形特徴を保持するパターン記憶手段と、
前記図形特徴と入力された撮像パラメータとを用いて、画像座標系に投影された図形特徴を求める投影手段と、
前記投影手段により投影された図形に基づき、前記校正用図形の投影像上に1以上の点を設定し、設定された各点を通る線分を設定するスキャン線分設定手段と、
前記画像入力手段により取り込まれた画像において、前記線分上の各画素の画素値を取得し、取得した画素値を用いて校正の成否を定量化した評価値を算出する評価値演算手段とを有することを特徴とする画像校正評価装置。
【請求項2】
前記評価値演算手段は、
前記スキャン線分設定手段で得られた全ての線分上の各画素の画素値に各線分上の位置に応じた予め設定された重み係数を掛けて積分値又は総和を求めることを特徴とする請求項1に記載の画像校正評価装置。
【請求項3】
前記投影手段は、
前記パターン記憶手段に記憶された複数の幾何特徴情報から、前記撮像パラメータに対応した幾何特徴情報を前記図形特徴として取得し、取得した幾何特徴情報を投影変換して、画像座標系における幾何特徴情報を出力することを特徴とする請求項1又は2に記載の画像校正評価装置。
【請求項4】
前記図形特徴は、
前記撮像手段により得られる直線又は曲線を含むパターン上の1以上の代表点と、前記代表点における前記直線又は曲線の接線方向とを含むことを特徴とする請求項1乃至3の何れか1項に記載の画像校正評価装置。
【請求項5】
前記スキャン線分設定手段は、
前記図形特徴における前記代表点毎の像を通り、前記代表点における接線方向の像に直交する線分をスキャン線分として設定することを特徴とする請求項4に記載の画像校正評価装置。
【請求項6】
撮像手段により得られる画像から、前記撮像手段の撮像パラメータにおける画像校正の成否を評価する画像校正評価プログラムにおいて、
コンピュータを、
前記撮像手段で撮影された校正対象の画像を取り込む画像入力手段、
校正用図形である直線又は曲線を含む3次元パターンの図形特徴を保持するパターン記憶手段、
前記図形特徴と入力された撮像パラメータとを用いて、画像座標系に投影された図形特徴を求める投影手段、
前記投影手段により投影された図形に基づき、前記校正用図形の投影像上に1以上の点を設定し、設定された各点を通る線分を設定するスキャン線分設定手段、及び、
前記画像入力手段により取り込まれた画像において、前記線分上の各画素の画素値を取得し、取得した画素値を用いて校正の成否を定量化した評価値を算出する評価値演算手段として機能させることを特徴とする画像校正評価プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2010−122976(P2010−122976A)
【公開日】平成22年6月3日(2010.6.3)
【国際特許分類】
【出願番号】特願2008−297032(P2008−297032)
【出願日】平成20年11月20日(2008.11.20)
【出願人】(000004352)日本放送協会 (2,206)
【Fターム(参考)】