説明

カメラ装置、カメラ装置用プログラム、および、画像マッチング方法

【課題】計算コストを増大させずに高精度な画像マッチングを実現するカメラ装置、カメラ装置用プログラムとこれを記録した記録媒体、および、画像マッチング方法を提供する。
【解決手段】複数のカメラ100からそれぞれ出力された複数の画像を取得する画像取得手段110、111と、画像取得手段が取得した複数の画像内において複数の画素を包含する同一サイズのウィンドウを設定し、ウィンドウを比較することにより、各画像における対応する箇所を検索する対応箇所検索手段120、121、130、131、140と、を有し、対応箇所検索手段は、複数のカメラの基線長方向の長さのみが異なる複数種類のウィンドウを用いて対応する箇所を検索する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラ装置、カメラ装置用プログラム、および、画像マッチング方法に関し、特に、複数のカメラを有するカメラ装置、カメラ装置用プログラム、および、画像マッチング方法に関する。
【背景技術】
【0002】
近年、移動体にステレオカメラを設置して三次元画像を取得することで周囲環境を認識し、移動体の安全を確保するシステムが開発されている。
【0003】
ステレオカメラにより高精度な三次元画像を得るためには、基準カメラの画像内の基準点に対応する参照カメラの画像内の対応点を検出する処理、すなわち、画像マッチングを高精度に行なう必要がある。
【0004】
下記特許文献1には、画像マッチングを行なう単位である複数の画素を包含するウィンドウのサイズを上下左右方向に拡張してウィンドウ内の画素数を増大することにより、ミスマッチの発生率を低減し、画像マッチングの精度を向上させる技術が記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2004−102323号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかし、上下左右方向にウィンドウサイズを拡大し、拡大したウィンドウですべての画素についてマッチングをとると、画像マッチングのための計算量が増大し、マッチング計算のためのシステム規模、計算時間等(以下、「計算コスト」と称する)が増大するという問題がある。
【0007】
本発明は、このような問題を解決するためになされたものであり、計算コストを抑制するとともに高精度な画像マッチングを実現するものである。
【課題を解決するための手段】
【0008】
本発明の上記課題は、以下の手段によって解決される。
【0009】
(1)複数のカメラからそれぞれ出力された複数の画像を取得する画像取得手段と、前記画像取得手段が取得した前記複数の画像内において複数の画素を包含する同一サイズのウィンドウを設定し、前記ウィンドウを比較することにより、各画像における対応する箇所を検索する対応箇所検索手段と、を有し、前記対応箇所検索手段は、前記複数のカメラの基線長方向の長さのみが異なる複数種類の前記ウィンドウを用いて対応する箇所を検索することを特徴とするカメラ装置。
【0010】
(2)前記複数のカメラのレンズは、変倍レンズであることを特徴とする上記(1)に記載のカメラ装置。
【0011】
(3)前記ウィンドウの縦横比は、物面での前記ウィンドウの縦横比が前記レンズによる変倍比を是正するように定められたことを特徴とする上記(2)に記載のカメラ装置。
【0012】
(4)前記ウィンドウの縦横比は、物面での前記ウィンドウの縦横比が1となるように定められたことを特徴とする上記(2)または(3)に記載のカメラ装置。
【0013】
(5)前記複数のカメラのレンズは、アナモフィックレンズまたは中心窩レンズであることを特徴とする上記(2)〜(4)のいずれかに記載のカメラ装置。
【0014】
(6)前記ウィンドウは、前記ウィンドウが包含する各画素について重み付け関数により重み付けがされた後に比較され、前記重み付け関数は、物面での前記ウィンドウの縦横比が前記レンズによる変倍比を是正するように重み付けすることを特徴とする上記(2)〜(5)のいずれかに記載のカメラ装置。
【0015】
(7)前記画像における前記ウィンドウの位置と前記ウィンドウの縦横比との関係を、前記カメラのレンズの特性に基づいてあらかじめ定めたテーブルを参照することにより、前記ウィンドウの縦横比が定められることを特徴とする上記(1)〜(6)のいずれかに記載のカメラ装置。
【0016】
(8)前記対応箇所検索手段は、位相限定相関法により前記ウィンドウ同士を比較することを特徴とする上記(1)〜(7)のいずれかに記載のカメラ装置。
【0017】
(9)複数のカメラからそれぞれ出力された複数の画像を取得する手順(a)と、前記手順(a)において取得した前記複数の画像内において複数の画素を包含する同一サイズのウィンドウを設定し、前記ウィンドウを比較することにより、各画像における対応する箇所を検索する手順(b)と、前記複数の画像内において、前記手順(b)で設定した前記ウィンドウに対し前記複数のカメラの基線長方向の長さのみが異なる前記ウィンドウを設定し、前記ウィンドウを比較することにより、各画像における対応する箇所を検索する手順(c)と、をカメラ装置に実行させることを特徴とするカメラ装置用プログラム。
【0018】
(10)前記複数のカメラのレンズは、変倍レンズであることを特徴とする上記(9)に記載のカメラ装置用プログラム。
【0019】
(11)前記ウィンドウの縦横比は、物面での前記ウィンドウの縦横比が前記レンズによる変倍比を是正するように定められたことを特徴とする上記(10)に記載のカメラ装置用プログラム。
【0020】
(12)前記ウィンドウの縦横比は、物面での前記ウィンドウの縦横比が1となるように定められたことを特徴とする上記(10)または(11)に記載のカメラ装置用プログラム。
【0021】
(13)前記複数のカメラのレンズは、アナモフィックレンズまたは中心窩レンズであることを特徴とする上記(10)〜(12)のいずれかに記載のカメラ装置用プログラム。
【0022】
(14)前記ウィンドウは、前記ウィンドウが包含する各画素について重み付け関数により重み付けがされた後に比較され、前記重み付け関数は、物面での前記ウィンドウの縦横比が前記レンズによる変倍比を是正するように重み付けすることを特徴とする上記(10)〜(13)のいずれかに記載のカメラ装置用プログラム。
【0023】
(15)前記画像における前記ウィンドウの位置と前記ウィンドウの縦横比との関係を、前記カメラのレンズの特性に基づいてあらかじめ定めたテーブルを参照することにより、前記ウィンドウの縦横比が定められることを特徴とする上記(10)〜(14)いずれかに記載のカメラ装置用プログラム。
【0024】
(16)前記対応箇所検索手段は、位相限定相関法により前記ウィンドウ同士を比較することを特徴とする上記(9)〜(15)のいずれかに記載のカメラ装置用プログラム。
【0025】
(17)上記(9)〜(16)のいずれかに記載されたプログラムを記録したコンピュータ読み取り可能な記録媒体。
【0026】
(18)複数のカメラからそれぞれ出力された複数の画像を取得する段階(a)と、前記段階(a)において取得した前記複数の画像内において複数の画素を包含する同一サイズのウィンドウを設定し、前記ウィンドウを比較することにより、各画像における対応する箇所を検索する段階(b)と、前記複数の画像内において、前記段階(b)で設定した前記ウィンドウに対し前記複数のカメラの基線長方向の長さのみが異なる前記ウィンドウを設定し、各ウィンドウを比較することにより、各画像における対応する箇所を検索する段階(c)と、を有することを特徴とする画像マッチング方法。
【0027】
(19)前記複数のカメラのレンズは、変倍レンズであることを特徴とする上記(18)に記載の画像マッチング方法。
【0028】
(20)前記ウィンドウの縦横比は、物面での前記ウィンドウの縦横比が前記レンズによる変倍比を是正するように定められたことを特徴とする上記(19)に記載の画像マッチング方法。
【0029】
(21)前記ウィンドウの縦横比は、物面での前記ウィンドウの縦横比が1となるように定められたことを特徴とする上記(19)または(20)に記載の画像マッチング方法。
【0030】
(22)前記複数のカメラのレンズは、アナモフィックレンズまたは中心窩レンズであることを特徴とする上記(19)〜(21)のいずれかに記載の画像マッチング方法。
【0031】
(23)前記ウィンドウは、前記ウィンドウが包含する各画素について重み付け関数により重み付けがされた後に比較され、前記重み付け関数は、物面での前記ウィンドウの縦横比が前記レンズによる変倍比を是正するように重み付けすることを特徴とする上記(19)〜(22)のいずれかに記載の画像マッチング方法。
【0032】
(24)前記画像における前記ウィンドウの位置と前記ウィンドウの縦横比との関係を、前記カメラのレンズの特性に基づいてあらかじめ定めたテーブルを参照することにより、前記ウィンドウの縦横比が定められることを特徴とする上記(18)〜(23)いずれかに記載の画像マッチング方法。
【0033】
(25)前記対応箇所検索手段は、位相限定相関法により前記ウィンドウ同士を比較することを特徴とする上記(18)〜(24)のいずれかに記載の画像マッチング方法。
【発明の効果】
【0034】
本発明に係るカメラ装置、カメラ装置用プログラム、および、画像マッチング方法によれば、画像マッチングに用いるウィンドウを、複数のカメラの基線長方向にのみ拡大することにより、計算コストを抑制するとともに高精度な画像マッチングを実現することができる。
【図面の簡単な説明】
【0035】
【図1】本発明の実施形態に係るカメラ装置の構成を示すブロック図である。
【図2】ステレオカメラによる対象物とステレオカメラとの距離の計算の原理を説明するための説明図である。
【図3】画像マッチングについて説明するための説明図である。
【図4】本発明の実施形態に係るカメラ装置の基準点ウィンドウおよび参照点ウィンドウのサイズを説明するための説明図である。
【図5】本発明の実施形態に係る画像マッチング方法のフローチャートを示す図である。
【発明を実施するための形態】
【0036】
以下、図面を参照して、本発明の実施形態に係るカメラ装置、カメラ装置用プログラム、および、画像マッチング方法について詳細に説明する。
【0037】
図1は、本発明の実施形態に係るカメラ装置の構成を示すブロック図である。ここで、図の矢印はデータの送信方向を示したものであり、データの処理は矢印の方向に沿って各ブロックにおいてなされる。しかし、各ブロックにおける処理の一部または全部が並行して実施されてもよく、処理の順番が前後し、または、処理が繰り返されることもある。
【0038】
本実施形態に係るカメラ装置10は、ステレオカメラ(複数のカメラ)100、基準画像入力部(画像取得手段)110、参照画像入力部(画像取得手段)111、基準点設定部(対応箇所検索手段)120、参照点設定部(対応箇所検索手段)121、基準点ウィンドウ設定部(対応箇所検索手段)130、参照点ウィンドウ設定部(対応箇所検索手段)131、対応点検索処理部(対応箇所検索手段)140、表示部150を有する。
【0039】
ステレオカメラ100は、基準画像を撮影する基準カメラ100Aと、参照画像を撮影する参照カメラ100Bと、を有する。基準カメラ100Aで撮影された基準画像の画像データは、基準画像入力部110に画素単位で入力される。参照カメラ100Bで撮影された参照画像の画像データは、参照画像入力部111に画素単位で入力される。基準カメラ110Aおよび参照カメラ110Bのレンズは変倍レンズであることが望ましい。例えば、基準カメラ110Aおよび参照カメラ110Bのレンズには、アナモフィックレンズ、中心窩レンズを使用することができる。これらのレンズを使用することにより、より広い視野の三次元画像を得ることができる。
【0040】
基準点設定部120には、基準画像入力部110から基準画像が入力される。基準点設定部120は、基準画像をなす画素のうちいずれかの画素を基準点として設定する。参照点設定部121には、参照画像入力部111から参照画像が入力される。参照点設定部121は、参照画像をなす画素のうちいずれかの画素を参照点として設定する。設定された参照点は、設定された基準点に対応する点(以下、「対応点」と称する)かどうかの判断対象となる点となる。本明細書においては、対応点を検出することをマッチングと称する。また、画像単位でマッチングを行なうことを画像マッチングと称する。
【0041】
基準点が設定された基準画像データは、基準点ウィンドウ設定部130に入力され、基準点を中心とする基準点ウィンドウが設定される。すなわち、基準点ウィンドウは、基準画像内の複数の画素からなる基準点ウィンドウの中心に、基準点が位置するように設定される。
【0042】
参照点が設定された参照画像データは、参照点ウィンドウ設定部131に入力され、参照点を中心とする参照点ウィンドウが設定される。すなわち、参照点ウィンドウは、参照画像内の複数の画素からなる参照点ウィンドウの中心に、参照点が位置するように設定される。
【0043】
基準点ウィンドウと参照点ウィンドウは同じサイズを有することができる。基準点ウィンドウと参照点ウィンドウは、例えば、共に等しいサイズの長方形とすることができる。以下、基準点ウィンドウおよび参照点ウィンドウをウィンドウと総称する。
【0044】
本実施形態においては、ウィンドウは、ステレオカメラ100の基線長方向の長さのみが異なる複数種類のウィンドウのいずれかを用いる。ここで、基線長方向とは、基準カメラと参照カメラの光学中心を結ぶ方向をいう。
【0045】
基準カメラ110Aおよび参照カメラ110Bのレンズに、例えば、アナモフィックレンズや中心窩レンズを使用する場合は、基準画像および参照画像は部分的または全体的に変倍された画像となる。この場合は、ウィンドウの縦横比は、物面でのウィンドウの縦横比がこれらのレンズによる変倍比を是正するように定めることができ、例えば、物面でのウィンドウの縦横比が1になるように定めることができる。このように、ウィンドウの縦横比を、物面でのウィンドウの縦横比がこれらのレンズによる変倍比を是正するように定めることにより、被写体パターンの姿勢依存性を減少させるとともに、遠近競合を抑制することができるため、マッチング精度の低下を防止することができる。
【0046】
なお、基準画像および参照画像について変倍比を是正するようにウィンドウの縦横比を定めた結果、ウィンドウのサイズが基線長方向に対し垂直方向(以下、単に「垂直方向」と称する)にも拡大される場合があるが、本実施形態にはこのような場合をも含むことは勿論である。
【0047】
対応点検索処理部140には、基準点ウィンドウ設定部130から基準点ウィンドウが設定された基準画像データが、参照点ウィンドウ設定部131から参照点ウィンドウが設定された参照画像データが、入力される。対応点検索処理部140は、設定された基準点に対応する対応点を検索する。対応点の検索は、以下のように行なう。
【0048】
対応点検索処理部140は、基準画像に設定された基準点と参照画像に設定された参照点とを比較する。該比較は、設定された基準点ウィンドウ内に含まれる複数の画素の輝度の平均値(以下、「基準点の輝度」と称する)と、設定された参照点ウィンドウ内に含まれる複数の画素の輝度の平均値(以下、「参照点の輝度」と称する)と、の差を計算することにより行なうことができる。
【0049】
すなわち、対応点検索処理部140は、設定された基準点と設定された参照点とを比較する。その後、参照点設定部121は、設定した参照点を参照画像内において一画素分移動させ、移動後の参照点と基準点とを比較する。対応点検索処理部140は、このような比較を順次繰り返すことにより、設定された一の基準点と参照画像を構成するすべての画素(参照点)とを比較する。そして、基準点の輝度との差が最も小さい輝度を有する参照点を対応点と判断する。
【0050】
対応点検索処理部140による対応点の検索は、基準画像を構成するすべての画素(基準点)について行なう。すなわち、一の基準点について対応点の検索が行なわれた後、基準点設定部120は他の基準点を設定し、基準点ウィンドウ設定部130は該他の基準点を中心とする基準点ウィンドウを設定する。参照点設定部121は参照点を設定し、参照点ウィンドウ設定部131は設定された点を中心とする参照点ウィンドウを設定する。そして、対応点検索処理部140は、設定された基準点に対応する対応点を検索する。
【0051】
対応点検索処理部140は、位相限定相関法により基準点ウィンドウと参照点ウィンドウとを比較することができる。位相限定相関法は、画像の振幅成分を除去し画像の位相成分のみで相関演算を行う。したがって、位相限定相関法を採用することにより、輝度変動やノイズの影響を抑制して参照画像上の対応点を精度よく検索できる。
【0052】
このように、基準点設定部120、参照点設定部121、基準点ウィンドウ設定部130、参照点ウィンドウ設定部131、により画像マッチングを行なうことができる。
【0053】
画像マッチングを行なうことで、基準画像および参照画像の両方に存在する対象物までの距離のデータを計算することができ、これにより、三次元画像を得ることができる。
【0054】
表示部150は、三次元画像を表示する。ここで、使用するレンズに起因して画像に歪を有する場合は、歪補正を行った後の画像である物面の画像を表示してもよい。
【0055】
本実施形態においては、基準画像および参照画像についての歪補正は、画像マッチングの前または後のいずれにおいて行なってもよい。画像マッチングの前に歪補正をし、画像マッチング時の基準画像および参照画像が補正後の画像(例えば、物面の画像)となる場合は、対応点検索処理部140は、歪補正の補正量の大きさに基づいてウィンドウ内の各画素について輝度に重み付けをしてもよい。すなわち、対応点検索処理部140は、ウィンドウ内の各画素の輝度に重み付け関数を乗算した後、画像マッチングをしてもよい。この場合、重み付け関数は、補正後の画像におけるウィンドウの縦横比がレンズによる変倍比を是正するように重み付けされることができる。このように重み付けすることにより、被写体パターンの姿勢依存性を減少させるとともに、遠近競合を抑制することができるため、マッチング精度の低下を防止することができる。
【0056】
本実施形態に係るカメラ装置10のうち、基準画像入力部110、参照画像入力部111、基準点設定部120、参照点設定部121、基準点ウィンドウ設定部130、参照点ウィンドウ設定部131は、CPU(Central Processing Unit)、メモリ、HDD(Hard Disk Drive)、入出力装置からなるコンピュータ(ハードウェア)と、コンピュータプログラム(ソフトウェア)とから構成してもよいがこれに限定されない。すなわち、基準画像入力部110、参照画像入力部111、基準点設定部120、参照点設定部121、基準点ウィンドウ設定部130、参照点ウィンドウ設定部131は、ハードウェアのみにより構成することもできる。
【0057】
図2は、ステレオカメラによる対象物とステレオカメラとの距離の計算の原理を説明するための説明図である。
【0058】
図2に示すように、ステレオカメラ100を構成する基準カメラ100Aと参照カメラ100Bは、対象物200を含む画像を撮影する。対象物200の画像は、それぞれ座標x、xとして仮想スクリーン201A、201B上に表示される。ステレオカメラから対象物までの距離zは、三角測量の原理に基づき、下記式(1)により求めることができる。
【0059】
【数1】

【0060】
ここで、Bはステレオカメラ100の基線長、Fはステレオカメラ100の基準カメラ100Aおよび参照カメラ100Bの仮想スクリーンまでの距離を示す。これらのパラメータはステレオカメラの設計値を用いることができる。
【0061】
ステレオカメラ100で撮影されたすべての対象物に対し、ステレオカメラ100からの距離を求めることにより、三次元画像を得ることができる。
【0062】
図3は、画像マッチングについて説明するための説明図である。
【0063】
図3のAは、基準画像と参照画像の例を示した図である。基準カメラ100Aと参照カメラ100Bの設置位置が基線長方向に異なるため、基準画像内の対象物200の位置と参照画像内の対象物200の位置は異なる。
【0064】
図3のBは、基準画像に設定した基準点を中心とする基準点ウィンドウ300Aと、参照画像に設定した参照点を中心とする参照点ウィンドウ300B、301B、302B(300B、301B、302Bは参照点ウィンドウの例である)と、を示している。図3のBの例では、対応点は参照点ウィンドウ300Bの中心点である。マッチングにおいては、対応点が参照点ウィンドウ300Bの中心点であることを計算により求める。
【0065】
図3のCは、基準ウィンドウ300Aを構成する画素について説明するための説明図である。図3のCでは、基準ウィンドウ300Aは9個の画素により構成されている。このとき、参照ウィンドウも同一のサイズのウィンドウを用いるため、参照ウィンドウ(図示せず)も9個の画素により構成される。画像マッチングは、上述したように、基準点の輝度と参照点の輝度の差を計算することにより行なう。図3のCの例では、基準点の輝度は、基準ウィンドウ300Aを構成する9個の画素の輝度の平均値である。
【0066】
図4は、本実施形態に係るカメラ装置の基準点ウィンドウおよび参照点ウィンドウのサイズを説明するための説明図である。
【0067】
図4のAは、ステレオカメラ100の基線長方向(X方向)と、垂直方向(Y方向)を示す図である。図4のAに示すように、基準点(例えば、基準画像内の対象物200である木の頂点200T)と対応点(参照画像内の対象物200である木の頂点200T)の各画像上の垂直方向の座標は、ステレオカメラ100は固定されるためほぼ等しくなる。そのため、ウィンドウのサイズを垂直方向に拡大しなくても、参照点ウィンドウ内に対応点が含まれる確率は十分大きいといえる。したがって、ウィンドウのサイズを垂直方向には拡大せず、基線長方向にのみ拡大することにより、垂直方向にもウィンドウを拡大した場合と比較して計算コストを削減することができる。
【0068】
図4のBは、ウィンドウのサイズの例を示す図である。
【0069】
ウィンドウ400は、基線長方向および垂直方向に16ドットの大きさを有するウィンドウである。本実施形態においては、さらに、ウィンドウのサイズを基線長方向にのみ拡大したウィンドウを用いる。ウィンドウ401は、ウィンドウ400に対し基線長方向にのみ2倍に拡大したウィンドウであり、基線長方向に32ドット、垂直方向に16ドットのサイズを有する。ウィンドウ402は、ウィンドウ400に対し基線長方向にのみ4倍に拡大したウィンドウであり、基線長方向に64ドット、垂直方向に16ドットのサイズを有する。
【0070】
このように、ウィンドウのサイズをステレオカメラ100の基線長方向に拡大することによりウィンドウ内の基線長方向の画素数を増大することができるため、ミスマッチングの発生率を低減し、画像マッチングの精度を向上させることができる。また、ウィンドウのサイズをステレオカメラ100の基線長方向にのみ拡大することにより、一の基準点に関するマッチングの計算対象となる画素数を低減することができるため、ウィンドウのサイズ拡大による計算コストの増大を抑制することができる。したがって、本実施形態によれば、計算コストの増大を抑制するとともに高精度な画像マッチングを実現することができる。
【0071】
図5は、本実施形態に係る画像マッチング方法のフローチャートを示す図である。本実施形態に係る画像マッチング方法は、図1に示す本実施形態に係るカメラ装置により実施することができる。また、本実施形態に係る画像マッチング方法は、カメラ装置にあらかじめ記憶させたコンピュータプログラムを用いて実施することができる。以下、ステップ番号を明示して各ステップについて詳細に説明する。
【0072】
基準カメラ100Aおよび参照カメラ100Bから画像データを取得する(S500)。基準カメラ100Aからの基準画像は基準画像入力部110に入力され、参照カメラ100Bからの参照画像は参照画像入力部111に入力される。
【0073】
カウンタ値iに1を設定し(S501)、ウィンドウのサイズを設定する(S502)。基準点ウィンドウ設定部130および参照点ウィンドウ設定部131は、カウンタ値iを参照し、X方向のウィンドウサイズを16にカウンタ値1を乗じた16ドットに、Y方向のウィンドウサイズを16ドットに設定する。
【0074】
基準点ウィンドウ設定部130および参照点ウィンドウ設定部131は、ステレオカメラ100のレンズの特性に基づいてあらかじめ定めたウィンドウのサイズのテーブルをカメラ装置10内のHDDに記憶しておき、検知した該レンズの種類と該テーブルとを比較することでウィンドウサイズを設定してもよい。
【0075】
カウンタ値cntに0を設定する(S503)。カウンタ値cntは、基準画像内の基準点の位置に対応する。例えば、カウンタ値cntが0のときは、基準点設定部120は、基準点が基準画像内の左上端の画素に設定されるようにしてもよい。また、カウンタ値cntは、参照画像内の参照点の位置にも対応する。例えば、カウンタ値cntが0のときは、参照点設定部121は、参照点が参照画像内の左上端の画素に設定されるようにしてもよい。
【0076】
前ステップS502におけるウィンドウのサイズの設定は、本ステップS503の後に実施してもよい。すなわち、例えば、基準点ウィンドウ設定部130および参照点ウィンドウ設定部131は、本ステップS503で定まる基準点の位置(すなわち、基準点ウィンドウの位置)とウィンドウのサイズとの関係をステレオカメラ100のレンズに基づいてあらかじめ定めたテーブルをカメラ装置10内のHDDに記憶しておき、検知した該レンズの種類と該テーブルとを比較することでウィンドウサイズを設定してもよい。
【0077】
基準点ウィンドウ設定部130は、基準画像内に基準ウィンドウを設定し、対応点検索処理部140は、基準点の輝度を計算する(S504)。基準ウィンドウのサイズは、ステップS502により、X方向が16ドット、Y方向が16ドットに設定される。基準ウィンドウの位置は、ステップS503により、基準ウィンドウの中心である基準点が基準画像内の左上端の画素となるように設定される。基準点の輝度は、設定された基準点ウィンドウ内に含まれる複数の画素の輝度の平均値により求めることができる。
【0078】
参照点ウィンドウ設定部131は、参照画像内に参照ウィンドウを設定し、対応点検索処理部140は、参照点の輝度を計算する(S505)。参照ウィンドウのサイズは、基準ウィンドウと同じサイズであり、ステップS502により、X方向が16ドット、Y方向が16ドットに設定される。参照ウィンドウの位置は、ステップ503により、参照ウィンドウの中心である参照点が参照画像内の左上端の画素となるように設定される。参照点の輝度は、設定された参照点ウィンドウ内に含まれる複数の画素の輝度の平均値により求めることができる。
【0079】
カウンタ値cntをcnt+1に設定する(S503)。すなわち、カウンタ値cntを1つカウントアップする。現在のカウンタ値cntは0であるので、本ステップによりカウンタ値cntは1になる。上述したように、カウンタ値cntは、基準画像内の基準点の位置および参照画像内の参照点の位置に対応する。例えば、カウンタ値が1つカウントアップされるごとに、基準画像内の基準点の位置および参照画像内の参照点の位置が、それぞれX方向にのみ一画素分シフトするようにしてもよい。また、その場合、基準画像内の基準点の位置または参照画像内の参照点の位置が、それぞれ基準画像または参照画像の右端に達したときは、次にカウンタ値が1つカウントアップされたときに−Y方向にのみ一画素分シフトするようにし、さらにカウンタ値が1つカウントアップされるごとに−X方向にのみ一画素分シフトするようにしてもよい。
【0080】
本ステップによりカウンタ値cntは1になるので、基準画像内の基準点の位置は、基準点が基準画像内の左上端から一画素分X方向にのみシフトした画素に設定される。また、参照画像内の参照点の位置は、参照点が参照画像内の左上端から一画素分X方向にのみシフトした画素に設定される。
【0081】
カウンタ値cntが基準画像または参照画像の全画素数より小さいかどうかを判断する(S507)。カウンタ値cntが基準画像または参照画像の全画素数より小さい場合は、ステップS504に戻って基準点の設定および基準点の輝度の計算(S504)および参照点の設定および参照点の輝度の計算(S505)を繰り返す。すなわち、基準画像をなすすべての画素に関する基準点の輝度を計算し、かつ、参照画像をなすすべての画素に関する参照点の輝度を計算する。これらの計算結果は、カメラ装置10のHDDに記憶させることができる。
【0082】
対応点検索処理部140は、ウィンドウ内の画素の平均輝度値により、基準点と参照点とのマッチングを実施する(S508)。すなわち、記憶した基準点の輝度と、記憶した参照点の輝度とを比較し、基準点の輝度との差が最も小さい参照点の輝度を有する参照点を対応点と判断する。基準点と参照点とのマッチングは、すべての基準点について行なうことができる。
【0083】
対応点検索処理部140は、マッチングした基準点と参照点の座標を出力する(S509)。すなわち、基準画像をなすすべての基準点の座標と対応点の座標との組み合わせを出力する。
【0084】
カウンタ値iをi+1に設定する(S510)。すなわち、カウンタ値iを1つカウントアップする。現在のカウンタ値iは1であるので、本ステップによりカウンタ値iは2になる。上述したように、カウンタ値iは、ウィンドウのサイズに対応する。
【0085】
カウンタ値iが4より小さいかどうかを判断する(S511)。すなわち、カウンタ値iの1〜3に対応する3つのウィンドウのサイズで画像マッチングが終了するまで、ステップS502〜S510による画像マッチングを繰り返す。
【0086】
ここで、カウンタ値iが2となっているときは、ウィンドウのサイズは、カウンタ値である2を参照し、X方向は、16にカウンタ値である2を乗じた32ドットに、Y方向は、16ドットに設定される。すなわち、カウンタ値iが2であるときのウィンドウのサイズは、カウンタ値iが1であるときのサイズに対しX方向(基線長方向)の長さのみ2倍に拡大したサイズに設定される。
【0087】
さらに、カウンタ値iが3となったときは、ウィンドウのサイズは、カウンタ値である3を参照し、X方向は、16にカウンタ値である3を乗じた48ドットに、Y方向は、16ドットに設定される。
【0088】
本発明の実施形態に係るカメラ装置、カメラ装置用プログラム、および、画像マッチング方法は次の効果を奏する。すなわち、画像マッチングに用いるウィンドウを、複数のカメラの基線長方向にのみ拡大することにより、計算コストを抑制するとともに高精度な画像マッチングを実現することができる。
【0089】
以上、本発明を実施形態に基づき説明したが、本発明の範囲は上述した実施形態に限定されるものではない。
【0090】
例えば、上述の実施形態では、カメラ装置のカメラとしてステレオカメラを用いているが、2つの単体のカメラを用いてもよい。また、3つ以上のカメラを用いてもよい。
【0091】
また、マッチングは、基準画像をなす画素(基準点)の一部のみについて行なってもよく、また、参照画像をなす画素(参照点)のうち一部のみについて行なってもよい。
【符号の説明】
【0092】
10 カメラ装置、
100 ステレオカメラ、
100A 基準カメラ、
100B 参照カメラ、
110 基準画像入力部、
111 参照画像入力部、
120 基準点設定部、
121 参照点設定部、
130 基準点ウィンドウ設定部、
131 参照点ウィンドウ設定部、
140 対応点検索処理部、
150 表示部、
200 対象物、
201A、201B 仮想スクリーン。

【特許請求の範囲】
【請求項1】
複数のカメラからそれぞれ出力された複数の画像を取得する画像取得手段と、
前記画像取得手段が取得した前記複数の画像内において複数の画素を包含する同一サイズのウィンドウを設定し、前記ウィンドウを比較することにより、各画像における対応する箇所を検索する対応箇所検索手段と、を有し、
前記対応箇所検索手段は、前記複数のカメラの基線長方向の長さのみが異なる複数種類の前記ウィンドウを用いて対応する箇所を検索することを特徴とするカメラ装置。
【請求項2】
前記複数のカメラのレンズは、変倍レンズであることを特徴とする請求項1に記載のカメラ装置。
【請求項3】
前記ウィンドウの縦横比は、物面での前記ウィンドウの縦横比が前記レンズによる変倍比を是正するように定められたことを特徴とする請求項2に記載のカメラ装置。
【請求項4】
前記ウィンドウの縦横比は、物面での前記ウィンドウの縦横比が1となるように定められたことを特徴とする請求項2または3に記載のカメラ装置。
【請求項5】
前記複数のカメラのレンズは、アナモフィックレンズまたは中心窩レンズであることを特徴とする請求項2〜4のいずれかに記載のカメラ装置。
【請求項6】
前記ウィンドウは、前記ウィンドウが包含する各画素について重み付け関数により重み付けがされた後に比較され、前記重み付け関数は、物面での前記ウィンドウの縦横比が前記レンズによる変倍比を是正するように重み付けすることを特徴とする請求項2〜5のいずれかに記載のカメラ装置。
【請求項7】
前記画像における前記ウィンドウの位置と前記ウィンドウの縦横比との関係を、前記カメラのレンズの特性に基づいてあらかじめ定めたテーブルを参照することにより、前記ウィンドウの縦横比が定められることを特徴とする請求項1〜6のいずれかに記載のカメラ装置。
【請求項8】
前記対応箇所検索手段は、位相限定相関法により前記ウィンドウ同士を比較することを特徴とする請求項1〜7のいずれかに記載のカメラ装置。
【請求項9】
複数のカメラからそれぞれ出力された複数の画像を取得する手順(a)と、
前記手順(a)において取得した前記複数の画像内において複数の画素を包含する同一サイズのウィンドウを設定し、前記ウィンドウを比較することにより、各画像における対応する箇所を検索する手順(b)と、
前記複数の画像内において、前記手順(b)で設定した前記ウィンドウに対し前記複数のカメラの基線長方向の長さのみが異なる前記ウィンドウを設定し、前記ウィンドウを比較することにより、各画像における対応する箇所を検索する手順(c)と、
をカメラ装置に実行させることを特徴とするカメラ装置用プログラム。
【請求項10】
前記複数のカメラのレンズは、変倍レンズであることを特徴とする請求項9に記載のカメラ装置用プログラム。
【請求項11】
前記ウィンドウの縦横比は、物面での前記ウィンドウの縦横比が前記レンズによる変倍比を是正するように定められたことを特徴とする請求項10に記載のカメラ装置用プログラム。
【請求項12】
前記ウィンドウの縦横比は、物面での前記ウィンドウの縦横比が1となるように定められたことを特徴とする請求項10または11に記載のカメラ装置用プログラム。
【請求項13】
前記複数のカメラのレンズは、アナモフィックレンズまたは中心窩レンズであることを特徴とする請求項10〜12のいずれかに記載のカメラ装置用プログラム。
【請求項14】
前記ウィンドウは、前記ウィンドウが包含する各画素について重み付け関数により重み付けがされた後に比較され、前記重み付け関数は、物面での前記ウィンドウの縦横比が前記レンズによる変倍比を是正するように重み付けすることを特徴とする請求項10〜13のいずれかに記載のカメラ装置用プログラム。
【請求項15】
前記画像における前記ウィンドウの位置と前記ウィンドウの縦横比との関係を、前記カメラのレンズの特性に基づいてあらかじめ定めたテーブルを参照することにより、前記ウィンドウの縦横比が定められることを特徴とする請求項10〜14いずれかに記載のカメラ装置用プログラム。
【請求項16】
前記対応箇所検索手段は、位相限定相関法により前記ウィンドウ同士を比較することを特徴とする請求項9〜15のいずれかに記載のカメラ装置用プログラム。
【請求項17】
請求項9〜16のいずれかに記載されたプログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項18】
複数のカメラからそれぞれ出力された複数の画像を取得する段階(a)と、
前記段階(a)において取得した前記複数の画像内において複数の画素を包含する同一サイズのウィンドウを設定し、前記ウィンドウを比較することにより、各画像における対応する箇所を検索する段階(b)と、
前記複数の画像内において、前記段階(b)で設定した前記ウィンドウに対し前記複数のカメラの基線長方向の長さのみが異なる前記ウィンドウを設定し、各ウィンドウを比較することにより、各画像における対応する箇所を検索する段階(c)と、
を有することを特徴とする画像マッチング方法。
【請求項19】
前記複数のカメラのレンズは、変倍レンズであることを特徴とする請求項18に記載の画像マッチング方法。
【請求項20】
前記ウィンドウの縦横比は、物面での前記ウィンドウの縦横比が前記レンズによる変倍比を是正するように定められたことを特徴とする請求項19に記載の画像マッチング方法。
【請求項21】
前記ウィンドウの縦横比は、物面での前記ウィンドウの縦横比が1となるように定められたことを特徴とする請求項19または20に記載の画像マッチング方法。
【請求項22】
前記複数のカメラのレンズは、アナモフィックレンズまたは中心窩レンズであることを特徴とする請求項19〜21のいずれかに記載の画像マッチング方法。
【請求項23】
前記ウィンドウは、前記ウィンドウが包含する各画素について重み付け関数により重み付けがされた後に比較され、前記重み付け関数は、物面での前記ウィンドウの縦横比が前記レンズによる変倍比を是正するように重み付けすることを特徴とする請求項19〜22のいずれかに記載の画像マッチング方法。
【請求項24】
前記画像における前記ウィンドウの位置と前記ウィンドウの縦横比との関係を、前記カメラのレンズの特性に基づいてあらかじめ定めたテーブルを参照することにより、前記ウィンドウの縦横比が定められることを特徴とする請求項18〜23いずれかに記載の画像マッチング方法。
【請求項25】
前記対応箇所検索手段は、位相限定相関法により前記ウィンドウ同士を比較することを特徴とする請求項18〜24のいずれかに記載の画像マッチング方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate


【公開番号】特開2011−176696(P2011−176696A)
【公開日】平成23年9月8日(2011.9.8)
【国際特許分類】
【出願番号】特願2010−40176(P2010−40176)
【出願日】平成22年2月25日(2010.2.25)
【出願人】(303000408)コニカミノルタオプト株式会社 (3,255)
【Fターム(参考)】