キャリブレーションシステム、パラメータ取得装置、標識体、及び、パラメータ取得方法
【課題】設置パラメータを取得する精度を向上する。
【解決手段】キャリブレーションシステム10においては、第1標識体31〜34が、カメラ5で取得された画像中において略真円の像として表れる略楕円のマークMi,Meを含んでいる。車載装置2は、このようなマークMi,Meの略真円の像を含む画像をディスプレイに表示させ、ユーザはこの略真円の像の位置を指定する。そして、車載装置2は、指定されたマークMi,Meの像の位置に基づいて設置パラメータを導出する。マークMi,Meの略真円の像を含む画像が表示されるため、ユーザはマークMi,Meの像の位置を正確に指定することができる。このため、設置パラメータを取得する精度を向上できる。
【解決手段】キャリブレーションシステム10においては、第1標識体31〜34が、カメラ5で取得された画像中において略真円の像として表れる略楕円のマークMi,Meを含んでいる。車載装置2は、このようなマークMi,Meの略真円の像を含む画像をディスプレイに表示させ、ユーザはこの略真円の像の位置を指定する。そして、車載装置2は、指定されたマークMi,Meの像の位置に基づいて設置パラメータを導出する。マークMi,Meの略真円の像を含む画像が表示されるため、ユーザはマークMi,Meの像の位置を正確に指定することができる。このため、設置パラメータを取得する精度を向上できる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両に搭載されたカメラの設置に関する設置パラメータを取得する技術に関する。
【背景技術】
【0002】
従来より、自動車などの車両に搭載されたカメラで車両の周辺を撮影して得られた画像を、車室内のディスプレイに表示する車載装置が知られている。このような車載装置を利用することにより、ドライバは車両の周辺の様子をほぼリアルタイムに把握することができる。
【0003】
カメラを車両に設置した場合においては、カメラの光軸に関して設計上の位置に対してわずかに誤差が発生する。このようなカメラの光軸の誤差に起因して、当該カメラで取得された画像に含まれる被写体の像の位置は、理想的な位置からズレることになる。
【0004】
このような問題に対応するため、従来より、カメラの設置に関する設置パラメータ(例えば、ロール角、チルト角、パン角など)を取得するキャリブレーション処理がなされている(例えば、特許文献1参照。)。車載装置は、このようなキャリブレーション処理で取得された設置パラメータを用いることで、画像中の被写体の像の位置を補正することができる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2011−151666号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで近年、キャリブレーション処理において、設置パラメータを取得する精度を向上することが求められている。例えば、近年、複数のカメラで得られた複数の画像を合成して仮想視点からみた車両の周辺の様子を示す合成画像を生成する技術が普及してきている。このような合成画像の生成において設置パラメータの精度が低い場合には、複数の画像が整合なく合成されてしまい、画像同士の接続部分で被写体の像が分断されるなど不適切な合成画像が生成される可能性がある。このため、適切な合成画像を生成するためには、精度の高い設置パラメータが必要となる。
【0007】
一般に、キャリブレーション処理は、車両の外部に配置された三角形などのマークをカメラで撮影し、得られた画像をディスプレイに表示させ、その画像中に含まれるマークの像の所定部分をユーザ(作業員等)が指定することで行われる(例えば、特許文献1参照。)。
【0008】
図22は、従来のキャリブレーション処理において、ディスプレイに表示された画像中の三角形のマークの像80の例を示す図である。ユーザは、例えば、このようなマークの像の3つの頂点に、3つのカーソルCをそれぞれ移動させる作業を行うことになる。
【0009】
しかしながら、図22の領域Aを拡大した図23に示すように、「マークの頂点にカーソルCを移動させる」場合において、ユーザがカーソルCを実際に移動させる位置は、図中の点P1〜点P4の例のように、ユーザによって異なることになる。また、「線の幅方向の中心にカーソルCを移動させる」という条件を加えたとしても、ユーザがカーソルCを実際に移動させる位置は、図中の点P2及び点P3の例のように、ユーザによって異なる。さらに、マークの像80は実際のマークを正面から撮影したものではないため、像80の線の中心と実際のマークの線の中心とは厳密には異なることから、実際のマークの線の中心を特定することは困難である。
【0010】
このようなことから、従来のキャリブレーション処理で取得される設置パラメータは作業するユーザによってばらつきが生じ、精度の高い設置パラメータを安定して取得することができなかった。
【0011】
本発明は、上記課題に鑑みてなされたものであり、設置パラメータを取得する精度を向上する技術を提供することを目的とする。
【課題を解決するための手段】
【0012】
上記課題を解決するため、請求項1の発明は、車両に搭載されたカメラに関するキャリブレーションシステムであって、前記車両の外部に配置される第1標識体と、前記第1標識体を前記カメラで撮影して得られた画像に基づいて、前記カメラの設置に関する設置パラメータを取得するパラメータ取得装置と、を備え、前記第1標識体は、前記画像中において略真円の像として表れる略楕円のマーク、を含み、前記パラメータ取得装置は、前記マークの略真円の像を含む前記画像を表示する表示手段と、前記表示手段が前記画像を表示中にユーザが指定する該画像における前記マークの像の位置に基づいて、前記設置パラメータを導出する導出手段と、を備えている。
【0013】
また、請求項2の発明は、請求項1に記載のキャリブレーションシステムにおいて、前記マークの像の位置を前記ユーザが指定するために用いるカーソルは、前記マークの像の円周の少なくとも3点と接する形状である。
【0014】
また、請求項3の発明は、請求項1または2に記載のキャリブレーションシステムにおいて、前記車両は、互いに異なる位置に配置された複数の前記カメラ、を有し、前記導出手段は、前記複数のカメラで得られた複数の画像に基づいて、前記複数のカメラそれぞれの前記設置パラメータを導出する。
【0015】
また、請求項4の発明は、請求項3に記載のキャリブレーションシステムにおいて、前記第1標識体は、前記略楕円のマークとして、第1マークと、前記第1マークを内包する第2マークと、を含み、前記導出手段は、前記複数のカメラのうちの一の第1カメラで得られた前記画像中の前記第1マークの略真円の像の位置に基づいて、前記第1カメラの前記設置パラメータを導出し、前記複数のカメラのうちの他の一の第2カメラで得られた前記画像中の前記第2マークの略真円の像の位置に基づいて、前記第2カメラの前記設置パラメータを導出する。
【0016】
また、請求項5の発明は、請求項3または4に記載のキャリブレーションシステムにおいて、前記パラメータ取得装置は、前記複数の車載カメラで得られた複数の画像と前記複数のカメラそれぞれの前記設置パラメータとを用いて、仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する生成手段、をさらに備えている。
【0017】
また、請求項6の発明は、請求項5に記載のキャリブレーションシステムにおいて、前記複数の画像を取得する際に前記車両の外部に配置され、所定形状の第3マークを示す第2標識体、をさらに備え、前記パラメータ取得装置は、前記複数の画像を用いて生成した前記合成画像に、前記第3マークの像が含まれるべき位置を示す指標を重畳する重畳手段、をさらに備え、前記表示手段は、前記第3マークの像と前記指標とを含む前記合成画像を表示する。
【0018】
また、請求項7の発明は、車両の外部に配置される標識体を前記車両に搭載されたカメラで撮影して得られた画像に基づいて、前記カメラの設置に関する設置パラメータを取得するパラメータ取得装置であって、前記標識体は、前記画像中において略真円の像として表れる略楕円のマーク、を含み、前記パラメータ取得装置は、前記マークの略真円の像を含む前記画像を表示する表示手段と、前記表示手段が前記画像を表示中にユーザが指定する該画像における前記マークの像の位置に基づいて、前記設置パラメータを導出する導出手段と、を備えている。
【0019】
また、請求項8の発明は、車両に搭載されたカメラで得られた画像に基づいて前記カメラの設置に関する設置パラメータを取得するために用いる標識体であって、前記画像中において略真円の像として表れる略楕円のマーク、を含む。
【0020】
また、請求項9の発明は、車両に搭載されたカメラの設置に関する設置パラメータを取得するパラメータ取得方法であって、(a)前記カメラが取得する画像中において略真円の像として表れる略楕円のマークを前記カメラで撮影する工程と、(b)前記工程(a)で得られた前記マークの略真円の像を含む画像を表示する工程と、(c)前記工程(b)において前記画像を表示中にユーザが指定する該画像における前記マークの像の位置に基づいて、前記設置パラメータを導出する工程と、を備えている。
【発明の効果】
【0021】
請求項1ないし9の発明によれば、マークの略真円の像を含む画像が表示されるため、ユーザはマークの像の位置を正確に指定することができる。このため、設置パラメータを取得する精度を向上できる。
【0022】
また、特に請求項2の発明によれば、カーソルがマークの像の円周の少なくとも3点と接する形状であるため、ユーザはカーソルをマークの像の位置により正確に合わせることができる。
【0023】
また、特に請求項3の発明によれば、互いに異なる位置に配置された複数のカメラそれぞれの設置パラメータを導出することができる。
【0024】
また、特に請求項4の発明によれば、第1マークと第2マークとがあるため、異なる位置に配置された2つのカメラで得られた画像それぞれにおいて、マークの像を略真円にすることができる。
【0025】
また、特に請求項5の発明によれば、設置パラメータを利用して、車両の周囲の全体を正しく示す合成画像を生成することができる。
【0026】
また、特に請求項6の発明によれば、合成画像に含まれる第3マークの像と指標との関係により、設置パラメータが正しく取得できたか否かを確認することができる。
【図面の簡単な説明】
【0027】
【図1】図1は、キャリブレーションシステムの概要を示す図である。
【図2】図2は、車載装置の構成を示す図である。
【図3】図3は、カメラが撮影する方向を示す図である。
【図4】図4は、合成画像を生成する手法を説明する図である。
【図5】図5は、画像中の領域を説明する図である。
【図6】図6は、車両の左前方に配置される第1標識体を示す図である。
【図7】図7は、車両の左後方に配置される第1標識体を示す図である。
【図8】図8は、キャリブレーション処理の流れを示す図である。
【図9】図9は、カメラで取得された画像の例を示す図である。
【図10】図10は、ポイントの位置を指定する手法を説明する図である。
【図11】図11は、ポイントの位置を指定する手法を説明する図である。
【図12】図12は、ポイントの位置を指定する画面の例を示す図である。
【図13】図13は、マークの像とカーソルとの関係を示す図である。
【図14】図14は、ポイントの位置を指定する画面の例を示す図である。
【図15】図15は、合成画像の例を示す図である。
【図16】図16は、基準枠が重畳された合成画像を示す図である。
【図17】図17は、合成画像を表示したディスプレイの画面の例を示す図である。
【図18】図18は、合成画像を表示したディスプレイの画面の例を示す図である。
【図19】図19は、カーソルの一例を示す図である。
【図20】図20は、カーソルの一例を示す図である。
【図21】図21は、カーソルの一例を示す図である。
【図22】図22は、従来技術においてマークの像の部分を指定する様子を示す図である。
【図23】図23は、従来技術においてマークの像の一の部分を指定する様子を示す図である。
【発明を実施するための形態】
【0028】
以下、図面を参照しつつ本発明の実施の形態について説明する。
【0029】
<1.構成>
図1は、本実施の形態に係るキャリブレーションシステム10の概要を示す図である。このキャリブレーションシステム10は、車両(本実施の形態では自動車)9に搭載される複数のカメラ5の設置に関する設置パラメータを取得するキャリブレーション処理に用いられる。キャリブレーションシステム10は、車両9に搭載される複数のカメラ5及び車載装置2、並びに、車両9の外部に配置される複数の第1標識体31〜34及び複数の第2標識体41〜43を備えている。
【0030】
車載装置2は、複数のカメラ5で撮影して得られる複数の画像に基づいて、これら複数のカメラ5それぞれの設置に関する設置パラメータを取得する。この設置パラメータは、カメラの設置誤差(光軸の設計上の位置に対する誤差)を示すものであり、例えば、ロール角、チルト角、及び、パン角などである。
【0031】
第1標識体31〜34、及び、複数の第2標識体41〜43はそれぞれ、所定形状のマークが主面に形成された鉄板やプラスチック板などの板状体である。これら複数の第1標識体31〜34、及び、複数の第2標識体41〜43は、車両工場や車両整備場などのキャリブレーション処理を実行する作業場に固定的に配置される。
【0032】
4つの第1標識体31〜34はそれぞれ、設置パラメータの導出に用いる導出用マークCmを含んでいる。4つの第1標識体31〜34は、車両9の左前方、右前方、左後方、右後方にそれぞれ配置される。
【0033】
また、5つの第2標識体41〜43はそれぞれ、キャリブレーション処理の良否判定に用いる矩形の確認用マークLmを含んでいる。1つの第2標識体41は、確認用マークLmの長手方向が車両9の左右方向に沿うように車両9の前方に配置される。また、2つの第2標識体42は、確認用マークLmの長手方向が車両9の前後方向に沿うように、車両9の左右それぞれのフロントフェンダ付近に配置される。さらに、2つの第2標識体43は、確認用マークLmの長手方向が車両9の前後方向に沿うように、車両9の左右それぞれのリアフェンダ付近に配置される。
【0034】
キャリブレーション処理を実行する場合には、作業場の所定位置に略正確に車両9が正対装置などにより停車される。これにより、第1標識体31〜34、及び、複数の第2標識体41〜43の車両9に対する相対的な位置は略一定となる。この状態で、車両9に搭載された複数のカメラ5が、第1標識体31〜34、及び、複数の第2標識体41〜43を含む車両9の周囲を撮影し、複数の画像を取得する。
【0035】
そして、車載装置2は、このようにして得られた複数の画像それぞれに含まれる導出用マークCmの像の特定部分の位置に基づいて複数のカメラ5それぞれの設置パラメータを導出する。導出用マークCmの像の特定部分の位置は、ユーザ(作業員等)が指定することになる。車載装置2は、カメラ5の設置に関する設置パラメータを取得するパラメータ取得装置であるともいえる。
【0036】
このようなキャリブレーション処理は、原則として一つの車両9に関して一回のみ、車両9に複数のカメラ5を取り付けた際に実行される。キャリブレーション処理で得られた設置パラメータは、車載装置2に記憶される。車載装置2は、複数のカメラ5で得られた複数の画像を合成して仮想視点からみた車両9の周辺の様子を示す合成画像を生成し、この合成画像を表示する機能を備えている。車載装置2は、この合成画像を生成する際に、キャリブレーション処理で得られた設置パラメータを利用する。
【0037】
図2は主に、複数のカメラ5と車載装置2との構成を示す図である。図に示すように、複数のカメラ5と車載装置2とは相互に接続されている。これら複数のカメラ5はそれぞれ、レンズと撮像素子とを備えており、車両9の周辺を示す画像を電子的に取得する。
【0038】
複数のカメラ5はそれぞれ、車載装置2とは別に、車両9の適位置に配置され、取得した画像を車載装置2に入力する。複数のカメラ5は、フロントカメラ5F、バックカメラ5B、左サイドカメラ5L、及び、右サイドカメラ5Rを含んでいる。これら4つのカメラ5F,5B,5L,5Rは、互いに異なる位置に配置され、車両9の周辺の異なる方向を撮影する。
【0039】
図3は、カメラ5F,5B,5L,5Rが撮影する方向を示す図である。フロントカメラ5Fは、車両9の前端の左右中央の近傍に設けられ、その光軸5Faは車両9の前方(直進方向)に向けられる。バックカメラ5Bは、車両9の後端の左右中央の近傍に設けられ、その光軸5Baは車両9の後方(直進方向の逆方向)に向けられる。左サイドカメラ5Lは車両9の左側のサイドミラー93Lに設けられ、その光軸5Laは車両9の左側方(直進方向の直交方向)に向けられる。また、右サイドカメラ5Rは車両9の右側のサイドミラー93Rに設けられ、その光軸5Raは車両9の右側方(直進方向の直交方向)に向けられる。
【0040】
これらのカメラ5F,5B,5L,5Rのレンズには魚眼レンズなどの広角レンズが採用され、各カメラ5F,5B,5L,5Rは180度以上の画角θを有している。このため、4つのカメラ5F,5B,5L,5Rを利用することで、車両9の全周囲を撮影することが可能である。車両9の左前方、右前方、左後方、及び、右後方の各領域A1,A2,A3,A4は、4つのカメラ5のうちの2つのカメラ5によって重複して撮影することが可能となっている。このように2つのカメラ5によって重複して撮影可能な4つの領域A1,A2,A3,A4に、4つの第1標識体31,32,33,34がそれぞれ配置される(図1参照。)。広角レンズを採用する各カメラで取得される画像においては、被写体の像に歪みが生じ、その歪みの程度は画像の周辺ほど大きくなる。
【0041】
図2に戻り、車載装置2は、ディスプレイ26と、操作部25と、画像取得部22と、画像合成部23と、記憶部24と、制御部21とを備えている。
【0042】
ディスプレイ26は、例えば、液晶パネルなどを備えた薄型の表示装置であり、各種の情報や画像を表示する。ディスプレイ26は、その画面がユーザから視認可能なように、車両9の車室内のインストルメントパネルなどに配置される。
【0043】
操作部25は、ユーザの操作を受け付ける部材であり、タッチパネル及び操作ボタンを含んでいる。タッチパネルはディスプレイ26の画面に重ねて設けられ、操作ボタンはディスプレイ26の画面の周囲に設けられる。ユーザが操作部25を操作した場合は、その操作の内容を示す信号が制御部21に入力される。
【0044】
画像取得部22は、4つのカメラ5F,5B,5L,5Rでそれぞれ得られた画像を取得する。画像取得部22は、アナログの画像をデジタルの画像に変換する機能や、画像の明るさを調整する機能など基本的な画像処理機能を有している。画像取得部22は、取得した画像に所定の画像処理を行い、処理後の画像を画像合成部23及び制御部21に入力する。
【0045】
画像合成部23は、例えば、各種の画像処理が可能なハードウェア回路である。画像合成部23は、複数のカメラ5でそれぞれ取得された複数の画像を用いて、任意の仮想視点からみた車両9の周辺の様子を示す合成画像を生成する。画像合成部23が仮想視点からみた合成画像を生成する手法については後述する。
【0046】
記憶部24は、例えば、フラッシュメモリなどの不揮発性メモリであり、各種の情報を記憶する。記憶部24は、設置パラメータ24a、及び、プログラム24bを記憶している。設置パラメータ24aは、キャリブレーション処理により取得されたものである。4つのカメラ5F,5B,5L,5Rそれぞれに対応する設置パラメータ24aが、記憶部24に記憶される。このような設置パラメータ24aは、画像合成部23が合成画像を生成する際に利用される。また、プログラム24bは車載装置2のファームウェアである。
【0047】
制御部21は、車載装置2の全体を統括的に制御するマイクロコンピュータである。制御部21は、CPU、RAM及びROMなどを備えている。制御部21の各種の機能は、記憶部24に記憶されたプログラム24bに従ってCPUが演算処理を行うことで実現される。図中に示す表示制御部21a、及び、キャリブレーション部21bは、プログラム24bに従ってCPUが演算処理を行うことで実現される機能の一部である。
【0048】
表示制御部21aは、ディスプレイ26の表示に係る各種の制御を行う。表示制御部21aは、例えば、ユーザの指示に従って、仮想視点からみた車両9の周辺の様子を示す合成画像をディスプレイ26に表示させる。
【0049】
また、キャリブレーション部21bは、4つのカメラ5それぞれの設置パラメータ24aを取得するキャリブレーション処理に係る処理を実行する。このキャリブレーション処理の詳細については後述する。
【0050】
<2.合成画像の生成>
次に、画像合成部23が合成画像を生成する手法について説明する。図4は、画像合成部23が合成画像を生成する手法を説明する図である。
【0051】
車載装置2のフロントカメラ5F、バックカメラ5B、左サイドカメラ5L、及び、右サイドカメラ5Rのそれぞれで撮影が行われると、車両9の前方、後方、左側方及び右側方をそれぞれ示す4つの画像GF,GB,GL,GRが取得される。これら4つの画像GF,GB,GL,GRには、車両9の全周囲のデータが含まれている。
【0052】
画像合成部23は、まず、これら4つの画像GF,GB,GL,GRに含まれるデータ(各画素の値)を、仮想的な三次元空間における立体曲面である投影面TSに投影する。投影面TSは、例えば略半球状(お椀形状)をしている。この投影面TSの中心部分(お椀の底部分)は、車両9が存在する位置として定められている。一方、投影面TSの他の部分は、画像GF,GB,GL,GRのいずれかと対応付けられており、画像合成部23は投影面TSのこの部分に画像に含まれるデータを投影する。
【0053】
画像合成部23は、投影面TSにおいて車両9の前方に相当する領域に、フロントカメラ5Fの画像GFのデータを投影する。また、画像合成部23は、投影面TSにおいて車両9の後方に相当する領域に、バックカメラ5Bの画像GBのデータを投影する。さらに、画像合成部23は、投影面TSにおいて車両9の左側方に相当する領域に左サイドカメラ5Lの画像GLのデータを投影し、投影面TSにおいて車両9の右側方に相当する領域に右サイドカメラ5Rの画像GRのデータを投影する。
【0054】
4つの画像GF,GB,GL,GRのそれぞれにおいて、投影面TSに投影すべきデータを含む領域は、4つのカメラ5それぞれの設置誤差に応じて変化する。このため、画像合成部23は、記憶部24に記憶された4つのカメラ5それぞれの設置パラメータ24a(ロール角、チルト角、パン角など)を用いて、画像GF,GB,GL,GRそれぞれの投影面TSに投影する領域を修正する。
【0055】
例えば、図5に示すフロントカメラ5Fで取得された画像GFを例に説明する。仮にフロントカメラ5Fに関して設置誤差がない場合は、投影面TSに投影すべきデータを含む領域はデフォルトの領域R1となる。通常はフロントカメラ5Fに関して設置誤差が存在することから、画像合成部23は、フロントカメラ5Fの設置パラメータ24aに基づいて、投影面TSに投影する領域を領域R1から領域R2に修正する。そして、画像合成部23は、この領域R2に含まれるデータを投影面TSに投影することになる。
【0056】
図4に戻り、このように投影面TSの各部分のデータを決定すると、画像合成部23は、車両9の三次元形状を示すポリゴンのモデルを仮想的に構成する。この車両9のモデルは、投影面TSが設定される三次元空間において、車両9の位置と定められた略半球状の中心部分に配置される。
【0057】
次に、画像合成部23は、三次元空間に対して仮想視点VPを設定する。画像合成部23は、三次元空間における任意の視点位置に任意の視野方向に向けて仮想視点VPを設定することができる。そして、画像合成部23は、投影面TSのうち、設定した仮想視点VPからみて所定の視野角に含まれる領域を画像として切り出す。また、画像合成部23は、設定した仮想視点VPに応じてポリゴンのモデルに関してレンダリングを行い、その結果となる二次元の車両像90を、切り出した画像に対して重畳する。これにより、画像合成部23は、仮想視点VPからみた車両9及び車両9の周辺の領域を示す合成画像CPを生成する。
【0058】
例えば図に示すように、視点位置を車両9の直上、視野方向を直下とした仮想視点VPaを設定した場合には、車両9及び車両9の周辺の領域を俯瞰する合成画像CPaが生成される。また、視点位置を車両9の左後方、視野方向を車両9の前方とした仮想視点VPbを設定した場合には、車両9の左後方からその周辺全体を見渡すように、車両9及び車両9の周辺の領域を示す合成画像CPbが生成されることになる。
【0059】
<3.第1標識体>
次に、第1標識体31〜34について説明する。図1に示したように、これら4つの第1標識体31〜34はそれぞれ、設置パラメータの導出に用いる導出用マークCmを含んでいる。
【0060】
図6は、車両9の左前方に配置される第1標識体31を示す図である。この第1標識体31は、フロントカメラ5Fと左サイドカメラ5Lとで重複して撮影可能な領域A1に配置される(図1参照。)。
【0061】
第1標識体31の導出用マークCmは、比較的小さな3つの内側マークMiと、3つの内側マークMiをそれぞれ内包する3つの外側マークMeとを含んでいる。すなわち、導出用マークCmは、内側マークMiとそれを内包する外側マークMeとのセットを3つ含んでいる。これら3つのセットは、その中心が略正三角形を形成するように配置される。そして、導出用マークCmは、3つのセットの中心間を結ぶ線上(正三角形の辺上)に沿って3つの棒状マークMcを含んでいる。
【0062】
第1標識体31〜34の背景色(素材の色)は比較的暗い色(例えば、黒)である。これに対して、外側マークMeは比較的明るい色(例えば、白)となっている。また、内側マークMiは比較的暗い色(例えば、黒)となっている。図中では、比較的暗い色の部分をハッチングで示している。また、棒状マークMcと外側マークMeとは接触せず離間している。これにより、内側マークMiの外縁、及び、外側マークMeの外縁はそれぞれ明確となっている。なお、内側マークMiの外縁と外側マークMeの外縁とで囲まれた領域のみを明るい色で着色し、内側マークMiの内部色は第1標識体31〜34の背景色を用いてもよい。
【0063】
内側マークMi及び外側マークMeの形状は、略楕円となっている。これらの楕円が延びる方向(楕円の長軸の方向)は、内側マークMiと外側マークMeとで異なっている。
【0064】
内側マークMiは、フロントカメラ5Fで取得された画像GF中において、略真円の像として表れるような形状とされている。この内側マークMiの形状は、フロントカメラ5Fからの当該内側マークMiの方向と、フロントカメラ5Fのディストーション(画像中の被写体の像に生じる歪)とを考慮して決定される。したがって、内側マークMiは、フロントカメラ5Fが存在する方向に略沿って延びるような略楕円の形状となっている(図1参照。)。
【0065】
また、外側マークMeは、左サイドカメラ5Lで取得された画像GL中において、略真円の像として表れるような形状とされている。この外側マークMeの形状は、左サイドカメラ5Lからの当該外側マークMeの方向と、左サイドカメラ5Lのディストーションとを考慮して決定される。したがって、外側マークMeは、左サイドカメラ5Lが存在する方向に略沿って延びるような略楕円の形状となっている(図1参照。)。
【0066】
内側マークMiと外側マークMeとの1つのセットに注目すると、画像GF中の略真円の内側マークMiの像の中心に対応する位置と、画像GL中の略真円の外側マークMeの像の中心に対応する位置とは一致するようになっている。
【0067】
また、車両9の右前方に配置される第1標識体32は、図6に示す第1標識体31をほぼ左右反転させたものとなる(図1参照。)。この第1標識体32は、フロントカメラ5Fと右サイドカメラ5Rとで重複して撮影可能な領域A2に配置される。第1標識体32に含まれる内側マークMiは、フロントカメラ5Fで取得された画像GF中において、略真円の像として表れるような形状とされている。一方、第1標識体32に含まれる外側マークMeは、右サイドカメラ5Rで取得された画像GR中において、略真円の像として表れるような形状とされている。
【0068】
また、図7は、車両9の左後方に配置される第1標識体33を示す図である。この第1標識体33は、バックカメラ5Bと左サイドカメラ5Lとで重複して撮影可能な領域A3に配置される(図1参照。)。
【0069】
図6の第1標識体31と同様に、第1標識体33の導出用マークCmも、比較的小さな3つの内側マークMiと、3つの内側マークMiをそれぞれ内包する3つの外側マークMeと、3つの棒状マークMcとを含んでいる。
【0070】
内側マークMiは、バックカメラ5Bで取得された画像GB中において、略真円の像として表れるような形状とされている。この内側マークMiの形状は、バックカメラ5Bからの当該内側マークMiの方向と、バックカメラ5Bのディストーションとを考慮して決定される。したがって、内側マークMiは、バックカメラ5Bが存在する方向に略沿って延びるような略楕円の形状となっている(図1参照。)。
【0071】
また、外側マークMeは、左サイドカメラ5Lで取得された画像GL中において、略真円の像として表れるような形状とされている。この外側マークMeの形状は、左サイドカメラ5Lからの当該外側マークMeの方向と、左サイドカメラ5Lのディストーションとを考慮して決定される。したがって、外側マークMeは、左サイドカメラ5Lが存在する方向に略沿って延びるような略楕円の形状となっている(図1参照。)。
【0072】
また、車両9の右後方に配置される第1標識体34は、図7に示す第1標識体33をほぼ左右反転させたものとなる(図1参照。)。この第1標識体34は、バックカメラ5Bと右サイドカメラ5Rとで重複して撮影可能な領域A4に配置される。第1標識体34に含まれる内側マークMiは、バックカメラ5Bで取得された画像GB中において、略真円の像として表れるような形状とされている。一方、第1標識体34に含まれる外側マークMeは、右サイドカメラ5Rで取得された画像GR中において、略真円の像として表れるような形状とされている。
【0073】
図1を参照して分かるように、車両9の後方に配置される第1標識体33,34の外側マークMeのサイズは、車両9の前方に配置される第1標識体31,32の外側マークMeよりも大きくなる。これは、サイドカメラ5L,5Rまでの距離が前方の第1標識体31,32よりも後方の第1標識体33,34のほうが長く、画像中における外側マークMeの像のサイズを一致させるためである。
【0074】
<4.キャリブレーション処理>
次に、設置パラメータを取得するキャリブレーション処理について説明する。図8は、キャリブレーション処理の流れを示す図である。この処理は、図1に示すように標識体31〜34,41〜43が予め配置された作業場の所定位置に車両9を停車させた状態で、車載装置2の操作部25にユーザが所定の操作を行った場合に、キャリブレーション部21bの制御により実行される。
【0075】
まず、4つのカメラ5F,5B,5L,5Rのそれぞれが、車両9の周辺を撮影する(ステップS11)。これにより、車両9の前方、後方、左側方及び右側方をそれぞれ示す4つの画像が取得される。取得された4つの画像は、車載装置2の画像取得部22を介して制御部21に入力される。
【0076】
次に、キャリブレーション部21bが、4つの画像のうちの1つ(たとえば、フロントカメラ5Fの画像)を注目画像として選択する(ステップS12)。そして、キャリブレーション部21bは、注目画像に含まれる導出用マークCmの像の特定の位置をユーザに指定させる。
【0077】
図9は、この場合に取得された画像G1の例を示す図である。図9では、フロントカメラ5Fで取得された画像を一例として示している。図に示すように画像G1には、左側及び右側にそれぞれ、導出用マークCmの像61が含まれる。また、画像G1には、確認用マークLmの像62も含まれる。ユーザは、このような画像G1中の導出用マークCmの像61における特定部分の位置を指定する。
【0078】
図10に示すように、注目画像がフロントカメラ5Fまたはバックカメラ5Bで取得された画像の場合は、注目画像中の導出用マークCmの像61に含まれる3つの内側マークMiの像(以下、「内側マーク像」という。)71i,72i,73iの形状が略真円となる。ユーザは、ディスプレイ26が注目画像を表示している状態で、このような略真円の内側マーク像71i,72i,73iの位置を指定する。ユーザは、3つの内側マーク像71i,72i,73iに対して、3つのカーソル71c,72c,73cをそれぞれ合わせることで、これらの位置を指定することになる。
【0079】
一方、図11に示すように、注目画像が左サイドカメラ5Lまたは右サイドカメラ5Rで取得された画像の場合は、注目画像中の導出用マークCmの像61に含まれる3つの外側マークMeの像(以下、「外側マーク像」という。)71e,72e,73eの形状が略真円となる。ユーザは、ディスプレイ26が注目画像を表示している状態で、このような略真円の外側マーク像71e,72e,73eの位置を指定する。ユーザは、3つの外側マーク像71e,72e,73eに対して、3つのカーソル71d,72d,73dをそれぞれ合わせることで、これらの位置を指定することになる。
【0080】
このようなカーソルを合わせる対象となる内側マーク像あるいは外側マーク像は、それぞれ「ポイント」と称される。ユーザは、ポイントごとにカーソルを合わせる。1つの画像につき6つのポイントが存在し、4つの画像があるため、ユーザは合計24のポイントに関してカーソルを合わせていくことになる。
【0081】
ユーザがポイントにカーソルを合わせる場合には、図12に示すように、注目画像の1つのポイントの近傍を拡大した画像G2がディスプレイ26の画面に表示される(図8のステップS13)。また、このディスプレイ26の画面には、上下左右の4方向をそれぞれ示す4つの方向ボタンB1と、ネクストボタンB2とが表示される。画像G2のサイズは、例えば縦300×横300ドットである。ユーザは、このようなディスプレイ26の画面を参照して、当該ポイントにカーソルを合わせることになる。
【0082】
図12の場合は、注目画像がフロントカメラ5Fの画像であるため、ユーザは内側マーク像71iの位置にカーソル71cを移動させる。ユーザは、ディスプレイ26の画面上の4つの方向ボタンB1に触れることで、カーソル71cを内側マーク像71iの位置に移動させることができる。
【0083】
カーソル71cは十字形状となっている。内側マーク像71iの直径と、カーソル71cの縦線及び横線の長さとは略一致される。例えば、内側マーク像71iの直径が24ドットとなるように設計した場合であれば、カーソル71cの縦線及び横線の長さは24ドットに設定される。
【0084】
このため、図13に示すように、ユーザは、カーソル71cの縦線及び横線の端部を、略真円の内側マーク像71iの外縁に合わせることで、内側マーク像71iの位置にカーソル71cを容易に合わせることができる。すなわち、ユーザは、カーソル71cの4つの端部を内側マーク像71iの円周に接触させることで、内側マーク像71iの中心位置とカーソル71cの中心位置とを一致させることができる。これにより、ユーザは、ポイントの位置(内側マーク像71iの中心位置)を正確かつ安定的に指定することができる。
【0085】
また、ユーザがネクストボタンB2に触れた場合は、キャリブレーション部21bは、ポイントの位置の指定を受け付ける(図8のステップS14)。すなわち、キャリブレーション部21bは、ユーザがネクストボタンB2に触れた時点のカーソルの中心位置を、ポイントの位置としてRAMなどに記憶する。
【0086】
キャリブレーション部21bは、このようにして1つのポイントの位置の指定を受け付けると、注目画像中の6つのポイントのうち、位置が指定されていないポイントがあるか否かを判定する。そして、位置が指定されていないポイントがある場合は(ステップS15にてNo)処理はステップS13に戻り、キャリブレーション部21bは、上記と同様にして、次のポイントの位置の指定を受け付ける。導出用マークCmの像61には、棒状マークMcの像74が含まれているため、ユーザは、注目画像中のいずれのポイントの位置を指定しているかを直感的に把握することができる。
【0087】
このような処理を繰り返し、キャリブレーション部21bは、注目画像中の6つのポイントの全ての位置の指定を受け付けると(ステップS15にてYes)、次に、4つの画像のうちの注目画像とされていない画像があるか否かを判定する。注目画像とされていない画像がある場合は(ステップS16にてNo)、処理はステップS12に戻る。そして、キャリブレーション部21bは、注目画像とされていない他の画像を新たな注目画像として選択し、上記と同様の処理を繰り返し、新たな注目画像の6つのポイントの位置の指定を受け付ける。ただし、注目画像が左サイドカメラ5Lまたは右サイドカメラ5Rで取得された画像の場合は、ユーザは、外側マーク像に対してカーソルを合わせることになる。
【0088】
図14は、注目画像が左サイドカメラ5Lの画像の場合におけるポイントの位置を指定するためのディスプレイ26の画面を示す図である。この画面においても、注目画像の1つのポイントの近傍を拡大した画像G3と、4つの方向ボタンB1と、ネクストボタンB2とが表示される。ユーザは、4つの方向ボタンB1に触れることで、外側マーク像71eの位置に対してカーソル71dを移動させる。
【0089】
この場合においても、外側マーク像71eの直径と、カーソル71dの縦線及び横線の長さとは一致される。例えば、外側マーク像71eの直径が48ドットとなるように設計した場合であれば、カーソル71dの縦線及び横線の長さは48ドットに設定される。
【0090】
このため、ユーザは、カーソル71dの縦線及び横線の端部を、略真円の外側マーク像71eの外縁に合わせることで、外側マーク像71eの位置にカーソル71dを容易に合わせることができる。すなわち、ユーザは、カーソル71dの4つの端部を外側マーク像71eの円周に接触させることで、外側マーク像71eの中心位置とカーソル71dの中心位置とを一致させることができる。これにより、ユーザは、ポイントの位置(外側マーク像71eの中心位置)を正確かつ安定的に指定することができる。
【0091】
キャリブレーション部21bは、このような処理により、4つの画像のそれぞれに関して6つのポイントの位置の指定を受け付ける。キャリブレーション部21bは、全てのポイント(4×6=24のポイント)の位置の指定を受け付けると(図8のステップS16にてYes)、次に、これらのポイントの位置に基づいて、4つのカメラそれぞれの設置パラメータを導出する(ステップS17)。
【0092】
キャリブレーション部21bは、まず、フロントカメラ5Fで取得された画像の6つのポイントの位置に基づいてフロントカメラ5Fの設置パラメータを導出する。キャリブレーション部21bは、例えば、画像中の左側のポイントと右側のポイントとの高さの差に基づいてロール角を導出し、画像中のポイントの上下位置に基づいてチルト角を導出し、画像中のポイントの左右位置に基づいてパン角を導出する。
【0093】
同様に、キャリブレーション部21bは、バックカメラ5Bで取得された画像の6つのポイントの位置に基づいてバックカメラ5Bの設置パラメータを導出する。さらに、キャリブレーション部21bは、左サイドカメラ5Lで取得された画像の6つのポイントの位置に基づいて左サイドカメラ5Lの設置パラメータを導出し、右サイドカメラ5Rで取得された画像の6つのポイントの位置に基づいて右サイドカメラ5Rの設置パラメータを導出する。
【0094】
このようにして全てのカメラ5の設置パラメータが導出されると、次に、画像合成部23が、4つのカメラで得られた画像と、導出された4つのカメラの設置パラメータとを用いて、仮想視点からみた車両9の周辺の様子を示す合成画像を生成する(ステップS18)。この際、仮想視点の視点位置は、車両9における左右及び前後の双方に関して中央となる位置の直上に設定され、視点方向は直下に向けられる。これにより、車両9及び車両9の周辺の領域を俯瞰する合成画像が生成される。
【0095】
図15は、このとき生成された合成画像G4の例を示す図である。この合成画像G4においては、車両像90、及び、導出用マークCmの像61とともに、5つの確認用マークLmの像(以下、「確認マーク像」という。)62が含まれている。
【0096】
キャリブレーション処理が正しくなされた場合には、これらの確認マーク像62は、合成画像G4中の略一定の位置に含まれる。しかしながら、キャリブレーション処理が正しくなされなかった場合には、これらの確認マーク像62は、合成画像G4中において含まれるべき一定の位置から外れることになる。このため、キャリブレーションシステム10では、このような合成画像G4中における確認マーク像62の位置に基づいて、キャリブレーション処理の良否判定が行われるようになっている。
【0097】
具体的には、まず、図16に示すように、キャリブレーション部21bが、合成画像G4中に、5つの確認マーク像62がそれぞれ含まれるべき位置を示す指標である5つの基準枠Fを重畳する。次に、キャリブレーション部21bは、基準枠Fが重畳された合成画像G4中の2つの領域を画像G5,G6として切り出し、切り出した画像G5,G6をディスプレイ26の画面に表示させる(図8のステップS19)。画像G5は、車両9の前方の領域に相当し、3つの基準枠Fを含む。また、画像G6は、車両9の後方の領域に相当し、2つの基準枠Fを含む。
【0098】
図17及び図18は、画像G5,G6を表示したディスプレイ26の画面の例を示す図である。2つの画像G5,G6には、確認マーク像62と基準枠Fとが含まれている。また、ディスプレイ26の画面には、2つの画像G5,G6とともに、リトライボタンB3と、完了ボタンB4とが表示される。ユーザは、このようなディスプレイ26の画面を参照して、キャリブレーション処理の良否判定を行う。
【0099】
図17に示すように、5つの確認マーク像62の全てが基準枠F内に収まっている場合は、キャリブレーション処理が正しくなされた場合である。このような場合は、ユーザは、キャリブレーション処理が正しくなされたと判断して完了ボタンB4に触れる。この場合は(ステップS20にてNo)、キャリブレーション部21bは、ステップS17で導出した設置パラメータを正しい値として確定し、記憶部24に記憶する(ステップS21)。
【0100】
一方、図18に示すように、5つの確認マーク像62のいずれかが基準枠Fから外れている場合は、キャリブレーション処理が正しくなされなかった場合である。このような場合は、ユーザは、キャリブレーション処理の再実行が必要と判断して、リトライボタンB3に触れる。この場合は(ステップS20にてYes)、処理はステップS11に戻り、キャリブレーション処理が再び実行されることになる。
【0101】
以上のように、キャリブレーションシステム10においては、第1標識体31〜34が、カメラ5で取得された画像中において略真円の像として表れる略楕円のマークMi,Meを含んでいる。車載装置2は、このようなマークMi,Meの略真円の像を含む画像をディスプレイ26に表示させ、ユーザはこの略真円の像の位置を指定する。そして、車載装置2は、指定されたマークMi,Meの像の位置に基づいて設置パラメータを導出する。マークMi,Meの略真円の像を含む画像が表示されるため、ユーザはマークMi,Meの像の位置を正確に指定することができる。このため、設置パラメータを取得する精度を向上できる。
【0102】
<5.変形例>
以上、本発明の実施の形態について説明してきたが、この発明は上記実施の形態に限定されるものではなく様々な変形が可能である。以下では、このような変形例について説明する。上記実施の形態及び以下で説明する形態を含む全ての形態は、適宜に組み合わせ可能である。
【0103】
上記実施の形態では、マークの像の位置を指定するためのカーソルは十字形状であると説明したが、カーソルはこれに限定されない。カーソルは、マークの略真円の像の円周の少なくとも3点と接する形状であればどのようなものであってもよい。カーソルがマークの像の円周の少なくとも3点と接する形状であれば、ユーザはカーソルをマークの像の位置に正確に合わせることができる。例えば、カーソルは、図19に示すようにマークの像70の円周に3点で内接する三角形のカーソルC1や、図20に示すようにマークの像70の円周に4点で内接する四角形のカーソルC2などであってもよい。また、カーソルは、図21に示すようにマークの像70の円周に外接するカーソルC3であってもよい。
【0104】
また、上記実施の形態では、第1標識体及び第2標識体は板状体であるとしていたが、紙や布などであってもよい。また、マークを作業場の床面に形成し、作業場の床面自体が標識体として機能してもよい。
【0105】
また、上記実施の形態では、確認用マークLmは棒状であったが、所定の形状であれば棒状でなくてもよい。この場合、確認用マークの形状に合わせて、確認用マークの像が含まれるべき位置を示す指標である基準枠の形状を規定すればよい。
【0106】
また、上記実施の形態では、プログラムに従ったCPUの演算処理によってソフトウェア的に各種の機能が実現されると説明したが、これら機能のうちの一部は電気的なハードウェア回路により実現されてもよい。また逆に、ハードウェア回路によって実現されるとした機能のうちの一部は、ソフトウェア的に実現されてもよい。
【符号の説明】
【0107】
2 車載装置
5 カメラ
9 車両
10 キャリブレーションシステム
21b キャリブレーション部
23 画像合成部
24a 設置パラメータ
31〜34 第1標識体
41〜43 第2標識体
【技術分野】
【0001】
本発明は、車両に搭載されたカメラの設置に関する設置パラメータを取得する技術に関する。
【背景技術】
【0002】
従来より、自動車などの車両に搭載されたカメラで車両の周辺を撮影して得られた画像を、車室内のディスプレイに表示する車載装置が知られている。このような車載装置を利用することにより、ドライバは車両の周辺の様子をほぼリアルタイムに把握することができる。
【0003】
カメラを車両に設置した場合においては、カメラの光軸に関して設計上の位置に対してわずかに誤差が発生する。このようなカメラの光軸の誤差に起因して、当該カメラで取得された画像に含まれる被写体の像の位置は、理想的な位置からズレることになる。
【0004】
このような問題に対応するため、従来より、カメラの設置に関する設置パラメータ(例えば、ロール角、チルト角、パン角など)を取得するキャリブレーション処理がなされている(例えば、特許文献1参照。)。車載装置は、このようなキャリブレーション処理で取得された設置パラメータを用いることで、画像中の被写体の像の位置を補正することができる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2011−151666号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで近年、キャリブレーション処理において、設置パラメータを取得する精度を向上することが求められている。例えば、近年、複数のカメラで得られた複数の画像を合成して仮想視点からみた車両の周辺の様子を示す合成画像を生成する技術が普及してきている。このような合成画像の生成において設置パラメータの精度が低い場合には、複数の画像が整合なく合成されてしまい、画像同士の接続部分で被写体の像が分断されるなど不適切な合成画像が生成される可能性がある。このため、適切な合成画像を生成するためには、精度の高い設置パラメータが必要となる。
【0007】
一般に、キャリブレーション処理は、車両の外部に配置された三角形などのマークをカメラで撮影し、得られた画像をディスプレイに表示させ、その画像中に含まれるマークの像の所定部分をユーザ(作業員等)が指定することで行われる(例えば、特許文献1参照。)。
【0008】
図22は、従来のキャリブレーション処理において、ディスプレイに表示された画像中の三角形のマークの像80の例を示す図である。ユーザは、例えば、このようなマークの像の3つの頂点に、3つのカーソルCをそれぞれ移動させる作業を行うことになる。
【0009】
しかしながら、図22の領域Aを拡大した図23に示すように、「マークの頂点にカーソルCを移動させる」場合において、ユーザがカーソルCを実際に移動させる位置は、図中の点P1〜点P4の例のように、ユーザによって異なることになる。また、「線の幅方向の中心にカーソルCを移動させる」という条件を加えたとしても、ユーザがカーソルCを実際に移動させる位置は、図中の点P2及び点P3の例のように、ユーザによって異なる。さらに、マークの像80は実際のマークを正面から撮影したものではないため、像80の線の中心と実際のマークの線の中心とは厳密には異なることから、実際のマークの線の中心を特定することは困難である。
【0010】
このようなことから、従来のキャリブレーション処理で取得される設置パラメータは作業するユーザによってばらつきが生じ、精度の高い設置パラメータを安定して取得することができなかった。
【0011】
本発明は、上記課題に鑑みてなされたものであり、設置パラメータを取得する精度を向上する技術を提供することを目的とする。
【課題を解決するための手段】
【0012】
上記課題を解決するため、請求項1の発明は、車両に搭載されたカメラに関するキャリブレーションシステムであって、前記車両の外部に配置される第1標識体と、前記第1標識体を前記カメラで撮影して得られた画像に基づいて、前記カメラの設置に関する設置パラメータを取得するパラメータ取得装置と、を備え、前記第1標識体は、前記画像中において略真円の像として表れる略楕円のマーク、を含み、前記パラメータ取得装置は、前記マークの略真円の像を含む前記画像を表示する表示手段と、前記表示手段が前記画像を表示中にユーザが指定する該画像における前記マークの像の位置に基づいて、前記設置パラメータを導出する導出手段と、を備えている。
【0013】
また、請求項2の発明は、請求項1に記載のキャリブレーションシステムにおいて、前記マークの像の位置を前記ユーザが指定するために用いるカーソルは、前記マークの像の円周の少なくとも3点と接する形状である。
【0014】
また、請求項3の発明は、請求項1または2に記載のキャリブレーションシステムにおいて、前記車両は、互いに異なる位置に配置された複数の前記カメラ、を有し、前記導出手段は、前記複数のカメラで得られた複数の画像に基づいて、前記複数のカメラそれぞれの前記設置パラメータを導出する。
【0015】
また、請求項4の発明は、請求項3に記載のキャリブレーションシステムにおいて、前記第1標識体は、前記略楕円のマークとして、第1マークと、前記第1マークを内包する第2マークと、を含み、前記導出手段は、前記複数のカメラのうちの一の第1カメラで得られた前記画像中の前記第1マークの略真円の像の位置に基づいて、前記第1カメラの前記設置パラメータを導出し、前記複数のカメラのうちの他の一の第2カメラで得られた前記画像中の前記第2マークの略真円の像の位置に基づいて、前記第2カメラの前記設置パラメータを導出する。
【0016】
また、請求項5の発明は、請求項3または4に記載のキャリブレーションシステムにおいて、前記パラメータ取得装置は、前記複数の車載カメラで得られた複数の画像と前記複数のカメラそれぞれの前記設置パラメータとを用いて、仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する生成手段、をさらに備えている。
【0017】
また、請求項6の発明は、請求項5に記載のキャリブレーションシステムにおいて、前記複数の画像を取得する際に前記車両の外部に配置され、所定形状の第3マークを示す第2標識体、をさらに備え、前記パラメータ取得装置は、前記複数の画像を用いて生成した前記合成画像に、前記第3マークの像が含まれるべき位置を示す指標を重畳する重畳手段、をさらに備え、前記表示手段は、前記第3マークの像と前記指標とを含む前記合成画像を表示する。
【0018】
また、請求項7の発明は、車両の外部に配置される標識体を前記車両に搭載されたカメラで撮影して得られた画像に基づいて、前記カメラの設置に関する設置パラメータを取得するパラメータ取得装置であって、前記標識体は、前記画像中において略真円の像として表れる略楕円のマーク、を含み、前記パラメータ取得装置は、前記マークの略真円の像を含む前記画像を表示する表示手段と、前記表示手段が前記画像を表示中にユーザが指定する該画像における前記マークの像の位置に基づいて、前記設置パラメータを導出する導出手段と、を備えている。
【0019】
また、請求項8の発明は、車両に搭載されたカメラで得られた画像に基づいて前記カメラの設置に関する設置パラメータを取得するために用いる標識体であって、前記画像中において略真円の像として表れる略楕円のマーク、を含む。
【0020】
また、請求項9の発明は、車両に搭載されたカメラの設置に関する設置パラメータを取得するパラメータ取得方法であって、(a)前記カメラが取得する画像中において略真円の像として表れる略楕円のマークを前記カメラで撮影する工程と、(b)前記工程(a)で得られた前記マークの略真円の像を含む画像を表示する工程と、(c)前記工程(b)において前記画像を表示中にユーザが指定する該画像における前記マークの像の位置に基づいて、前記設置パラメータを導出する工程と、を備えている。
【発明の効果】
【0021】
請求項1ないし9の発明によれば、マークの略真円の像を含む画像が表示されるため、ユーザはマークの像の位置を正確に指定することができる。このため、設置パラメータを取得する精度を向上できる。
【0022】
また、特に請求項2の発明によれば、カーソルがマークの像の円周の少なくとも3点と接する形状であるため、ユーザはカーソルをマークの像の位置により正確に合わせることができる。
【0023】
また、特に請求項3の発明によれば、互いに異なる位置に配置された複数のカメラそれぞれの設置パラメータを導出することができる。
【0024】
また、特に請求項4の発明によれば、第1マークと第2マークとがあるため、異なる位置に配置された2つのカメラで得られた画像それぞれにおいて、マークの像を略真円にすることができる。
【0025】
また、特に請求項5の発明によれば、設置パラメータを利用して、車両の周囲の全体を正しく示す合成画像を生成することができる。
【0026】
また、特に請求項6の発明によれば、合成画像に含まれる第3マークの像と指標との関係により、設置パラメータが正しく取得できたか否かを確認することができる。
【図面の簡単な説明】
【0027】
【図1】図1は、キャリブレーションシステムの概要を示す図である。
【図2】図2は、車載装置の構成を示す図である。
【図3】図3は、カメラが撮影する方向を示す図である。
【図4】図4は、合成画像を生成する手法を説明する図である。
【図5】図5は、画像中の領域を説明する図である。
【図6】図6は、車両の左前方に配置される第1標識体を示す図である。
【図7】図7は、車両の左後方に配置される第1標識体を示す図である。
【図8】図8は、キャリブレーション処理の流れを示す図である。
【図9】図9は、カメラで取得された画像の例を示す図である。
【図10】図10は、ポイントの位置を指定する手法を説明する図である。
【図11】図11は、ポイントの位置を指定する手法を説明する図である。
【図12】図12は、ポイントの位置を指定する画面の例を示す図である。
【図13】図13は、マークの像とカーソルとの関係を示す図である。
【図14】図14は、ポイントの位置を指定する画面の例を示す図である。
【図15】図15は、合成画像の例を示す図である。
【図16】図16は、基準枠が重畳された合成画像を示す図である。
【図17】図17は、合成画像を表示したディスプレイの画面の例を示す図である。
【図18】図18は、合成画像を表示したディスプレイの画面の例を示す図である。
【図19】図19は、カーソルの一例を示す図である。
【図20】図20は、カーソルの一例を示す図である。
【図21】図21は、カーソルの一例を示す図である。
【図22】図22は、従来技術においてマークの像の部分を指定する様子を示す図である。
【図23】図23は、従来技術においてマークの像の一の部分を指定する様子を示す図である。
【発明を実施するための形態】
【0028】
以下、図面を参照しつつ本発明の実施の形態について説明する。
【0029】
<1.構成>
図1は、本実施の形態に係るキャリブレーションシステム10の概要を示す図である。このキャリブレーションシステム10は、車両(本実施の形態では自動車)9に搭載される複数のカメラ5の設置に関する設置パラメータを取得するキャリブレーション処理に用いられる。キャリブレーションシステム10は、車両9に搭載される複数のカメラ5及び車載装置2、並びに、車両9の外部に配置される複数の第1標識体31〜34及び複数の第2標識体41〜43を備えている。
【0030】
車載装置2は、複数のカメラ5で撮影して得られる複数の画像に基づいて、これら複数のカメラ5それぞれの設置に関する設置パラメータを取得する。この設置パラメータは、カメラの設置誤差(光軸の設計上の位置に対する誤差)を示すものであり、例えば、ロール角、チルト角、及び、パン角などである。
【0031】
第1標識体31〜34、及び、複数の第2標識体41〜43はそれぞれ、所定形状のマークが主面に形成された鉄板やプラスチック板などの板状体である。これら複数の第1標識体31〜34、及び、複数の第2標識体41〜43は、車両工場や車両整備場などのキャリブレーション処理を実行する作業場に固定的に配置される。
【0032】
4つの第1標識体31〜34はそれぞれ、設置パラメータの導出に用いる導出用マークCmを含んでいる。4つの第1標識体31〜34は、車両9の左前方、右前方、左後方、右後方にそれぞれ配置される。
【0033】
また、5つの第2標識体41〜43はそれぞれ、キャリブレーション処理の良否判定に用いる矩形の確認用マークLmを含んでいる。1つの第2標識体41は、確認用マークLmの長手方向が車両9の左右方向に沿うように車両9の前方に配置される。また、2つの第2標識体42は、確認用マークLmの長手方向が車両9の前後方向に沿うように、車両9の左右それぞれのフロントフェンダ付近に配置される。さらに、2つの第2標識体43は、確認用マークLmの長手方向が車両9の前後方向に沿うように、車両9の左右それぞれのリアフェンダ付近に配置される。
【0034】
キャリブレーション処理を実行する場合には、作業場の所定位置に略正確に車両9が正対装置などにより停車される。これにより、第1標識体31〜34、及び、複数の第2標識体41〜43の車両9に対する相対的な位置は略一定となる。この状態で、車両9に搭載された複数のカメラ5が、第1標識体31〜34、及び、複数の第2標識体41〜43を含む車両9の周囲を撮影し、複数の画像を取得する。
【0035】
そして、車載装置2は、このようにして得られた複数の画像それぞれに含まれる導出用マークCmの像の特定部分の位置に基づいて複数のカメラ5それぞれの設置パラメータを導出する。導出用マークCmの像の特定部分の位置は、ユーザ(作業員等)が指定することになる。車載装置2は、カメラ5の設置に関する設置パラメータを取得するパラメータ取得装置であるともいえる。
【0036】
このようなキャリブレーション処理は、原則として一つの車両9に関して一回のみ、車両9に複数のカメラ5を取り付けた際に実行される。キャリブレーション処理で得られた設置パラメータは、車載装置2に記憶される。車載装置2は、複数のカメラ5で得られた複数の画像を合成して仮想視点からみた車両9の周辺の様子を示す合成画像を生成し、この合成画像を表示する機能を備えている。車載装置2は、この合成画像を生成する際に、キャリブレーション処理で得られた設置パラメータを利用する。
【0037】
図2は主に、複数のカメラ5と車載装置2との構成を示す図である。図に示すように、複数のカメラ5と車載装置2とは相互に接続されている。これら複数のカメラ5はそれぞれ、レンズと撮像素子とを備えており、車両9の周辺を示す画像を電子的に取得する。
【0038】
複数のカメラ5はそれぞれ、車載装置2とは別に、車両9の適位置に配置され、取得した画像を車載装置2に入力する。複数のカメラ5は、フロントカメラ5F、バックカメラ5B、左サイドカメラ5L、及び、右サイドカメラ5Rを含んでいる。これら4つのカメラ5F,5B,5L,5Rは、互いに異なる位置に配置され、車両9の周辺の異なる方向を撮影する。
【0039】
図3は、カメラ5F,5B,5L,5Rが撮影する方向を示す図である。フロントカメラ5Fは、車両9の前端の左右中央の近傍に設けられ、その光軸5Faは車両9の前方(直進方向)に向けられる。バックカメラ5Bは、車両9の後端の左右中央の近傍に設けられ、その光軸5Baは車両9の後方(直進方向の逆方向)に向けられる。左サイドカメラ5Lは車両9の左側のサイドミラー93Lに設けられ、その光軸5Laは車両9の左側方(直進方向の直交方向)に向けられる。また、右サイドカメラ5Rは車両9の右側のサイドミラー93Rに設けられ、その光軸5Raは車両9の右側方(直進方向の直交方向)に向けられる。
【0040】
これらのカメラ5F,5B,5L,5Rのレンズには魚眼レンズなどの広角レンズが採用され、各カメラ5F,5B,5L,5Rは180度以上の画角θを有している。このため、4つのカメラ5F,5B,5L,5Rを利用することで、車両9の全周囲を撮影することが可能である。車両9の左前方、右前方、左後方、及び、右後方の各領域A1,A2,A3,A4は、4つのカメラ5のうちの2つのカメラ5によって重複して撮影することが可能となっている。このように2つのカメラ5によって重複して撮影可能な4つの領域A1,A2,A3,A4に、4つの第1標識体31,32,33,34がそれぞれ配置される(図1参照。)。広角レンズを採用する各カメラで取得される画像においては、被写体の像に歪みが生じ、その歪みの程度は画像の周辺ほど大きくなる。
【0041】
図2に戻り、車載装置2は、ディスプレイ26と、操作部25と、画像取得部22と、画像合成部23と、記憶部24と、制御部21とを備えている。
【0042】
ディスプレイ26は、例えば、液晶パネルなどを備えた薄型の表示装置であり、各種の情報や画像を表示する。ディスプレイ26は、その画面がユーザから視認可能なように、車両9の車室内のインストルメントパネルなどに配置される。
【0043】
操作部25は、ユーザの操作を受け付ける部材であり、タッチパネル及び操作ボタンを含んでいる。タッチパネルはディスプレイ26の画面に重ねて設けられ、操作ボタンはディスプレイ26の画面の周囲に設けられる。ユーザが操作部25を操作した場合は、その操作の内容を示す信号が制御部21に入力される。
【0044】
画像取得部22は、4つのカメラ5F,5B,5L,5Rでそれぞれ得られた画像を取得する。画像取得部22は、アナログの画像をデジタルの画像に変換する機能や、画像の明るさを調整する機能など基本的な画像処理機能を有している。画像取得部22は、取得した画像に所定の画像処理を行い、処理後の画像を画像合成部23及び制御部21に入力する。
【0045】
画像合成部23は、例えば、各種の画像処理が可能なハードウェア回路である。画像合成部23は、複数のカメラ5でそれぞれ取得された複数の画像を用いて、任意の仮想視点からみた車両9の周辺の様子を示す合成画像を生成する。画像合成部23が仮想視点からみた合成画像を生成する手法については後述する。
【0046】
記憶部24は、例えば、フラッシュメモリなどの不揮発性メモリであり、各種の情報を記憶する。記憶部24は、設置パラメータ24a、及び、プログラム24bを記憶している。設置パラメータ24aは、キャリブレーション処理により取得されたものである。4つのカメラ5F,5B,5L,5Rそれぞれに対応する設置パラメータ24aが、記憶部24に記憶される。このような設置パラメータ24aは、画像合成部23が合成画像を生成する際に利用される。また、プログラム24bは車載装置2のファームウェアである。
【0047】
制御部21は、車載装置2の全体を統括的に制御するマイクロコンピュータである。制御部21は、CPU、RAM及びROMなどを備えている。制御部21の各種の機能は、記憶部24に記憶されたプログラム24bに従ってCPUが演算処理を行うことで実現される。図中に示す表示制御部21a、及び、キャリブレーション部21bは、プログラム24bに従ってCPUが演算処理を行うことで実現される機能の一部である。
【0048】
表示制御部21aは、ディスプレイ26の表示に係る各種の制御を行う。表示制御部21aは、例えば、ユーザの指示に従って、仮想視点からみた車両9の周辺の様子を示す合成画像をディスプレイ26に表示させる。
【0049】
また、キャリブレーション部21bは、4つのカメラ5それぞれの設置パラメータ24aを取得するキャリブレーション処理に係る処理を実行する。このキャリブレーション処理の詳細については後述する。
【0050】
<2.合成画像の生成>
次に、画像合成部23が合成画像を生成する手法について説明する。図4は、画像合成部23が合成画像を生成する手法を説明する図である。
【0051】
車載装置2のフロントカメラ5F、バックカメラ5B、左サイドカメラ5L、及び、右サイドカメラ5Rのそれぞれで撮影が行われると、車両9の前方、後方、左側方及び右側方をそれぞれ示す4つの画像GF,GB,GL,GRが取得される。これら4つの画像GF,GB,GL,GRには、車両9の全周囲のデータが含まれている。
【0052】
画像合成部23は、まず、これら4つの画像GF,GB,GL,GRに含まれるデータ(各画素の値)を、仮想的な三次元空間における立体曲面である投影面TSに投影する。投影面TSは、例えば略半球状(お椀形状)をしている。この投影面TSの中心部分(お椀の底部分)は、車両9が存在する位置として定められている。一方、投影面TSの他の部分は、画像GF,GB,GL,GRのいずれかと対応付けられており、画像合成部23は投影面TSのこの部分に画像に含まれるデータを投影する。
【0053】
画像合成部23は、投影面TSにおいて車両9の前方に相当する領域に、フロントカメラ5Fの画像GFのデータを投影する。また、画像合成部23は、投影面TSにおいて車両9の後方に相当する領域に、バックカメラ5Bの画像GBのデータを投影する。さらに、画像合成部23は、投影面TSにおいて車両9の左側方に相当する領域に左サイドカメラ5Lの画像GLのデータを投影し、投影面TSにおいて車両9の右側方に相当する領域に右サイドカメラ5Rの画像GRのデータを投影する。
【0054】
4つの画像GF,GB,GL,GRのそれぞれにおいて、投影面TSに投影すべきデータを含む領域は、4つのカメラ5それぞれの設置誤差に応じて変化する。このため、画像合成部23は、記憶部24に記憶された4つのカメラ5それぞれの設置パラメータ24a(ロール角、チルト角、パン角など)を用いて、画像GF,GB,GL,GRそれぞれの投影面TSに投影する領域を修正する。
【0055】
例えば、図5に示すフロントカメラ5Fで取得された画像GFを例に説明する。仮にフロントカメラ5Fに関して設置誤差がない場合は、投影面TSに投影すべきデータを含む領域はデフォルトの領域R1となる。通常はフロントカメラ5Fに関して設置誤差が存在することから、画像合成部23は、フロントカメラ5Fの設置パラメータ24aに基づいて、投影面TSに投影する領域を領域R1から領域R2に修正する。そして、画像合成部23は、この領域R2に含まれるデータを投影面TSに投影することになる。
【0056】
図4に戻り、このように投影面TSの各部分のデータを決定すると、画像合成部23は、車両9の三次元形状を示すポリゴンのモデルを仮想的に構成する。この車両9のモデルは、投影面TSが設定される三次元空間において、車両9の位置と定められた略半球状の中心部分に配置される。
【0057】
次に、画像合成部23は、三次元空間に対して仮想視点VPを設定する。画像合成部23は、三次元空間における任意の視点位置に任意の視野方向に向けて仮想視点VPを設定することができる。そして、画像合成部23は、投影面TSのうち、設定した仮想視点VPからみて所定の視野角に含まれる領域を画像として切り出す。また、画像合成部23は、設定した仮想視点VPに応じてポリゴンのモデルに関してレンダリングを行い、その結果となる二次元の車両像90を、切り出した画像に対して重畳する。これにより、画像合成部23は、仮想視点VPからみた車両9及び車両9の周辺の領域を示す合成画像CPを生成する。
【0058】
例えば図に示すように、視点位置を車両9の直上、視野方向を直下とした仮想視点VPaを設定した場合には、車両9及び車両9の周辺の領域を俯瞰する合成画像CPaが生成される。また、視点位置を車両9の左後方、視野方向を車両9の前方とした仮想視点VPbを設定した場合には、車両9の左後方からその周辺全体を見渡すように、車両9及び車両9の周辺の領域を示す合成画像CPbが生成されることになる。
【0059】
<3.第1標識体>
次に、第1標識体31〜34について説明する。図1に示したように、これら4つの第1標識体31〜34はそれぞれ、設置パラメータの導出に用いる導出用マークCmを含んでいる。
【0060】
図6は、車両9の左前方に配置される第1標識体31を示す図である。この第1標識体31は、フロントカメラ5Fと左サイドカメラ5Lとで重複して撮影可能な領域A1に配置される(図1参照。)。
【0061】
第1標識体31の導出用マークCmは、比較的小さな3つの内側マークMiと、3つの内側マークMiをそれぞれ内包する3つの外側マークMeとを含んでいる。すなわち、導出用マークCmは、内側マークMiとそれを内包する外側マークMeとのセットを3つ含んでいる。これら3つのセットは、その中心が略正三角形を形成するように配置される。そして、導出用マークCmは、3つのセットの中心間を結ぶ線上(正三角形の辺上)に沿って3つの棒状マークMcを含んでいる。
【0062】
第1標識体31〜34の背景色(素材の色)は比較的暗い色(例えば、黒)である。これに対して、外側マークMeは比較的明るい色(例えば、白)となっている。また、内側マークMiは比較的暗い色(例えば、黒)となっている。図中では、比較的暗い色の部分をハッチングで示している。また、棒状マークMcと外側マークMeとは接触せず離間している。これにより、内側マークMiの外縁、及び、外側マークMeの外縁はそれぞれ明確となっている。なお、内側マークMiの外縁と外側マークMeの外縁とで囲まれた領域のみを明るい色で着色し、内側マークMiの内部色は第1標識体31〜34の背景色を用いてもよい。
【0063】
内側マークMi及び外側マークMeの形状は、略楕円となっている。これらの楕円が延びる方向(楕円の長軸の方向)は、内側マークMiと外側マークMeとで異なっている。
【0064】
内側マークMiは、フロントカメラ5Fで取得された画像GF中において、略真円の像として表れるような形状とされている。この内側マークMiの形状は、フロントカメラ5Fからの当該内側マークMiの方向と、フロントカメラ5Fのディストーション(画像中の被写体の像に生じる歪)とを考慮して決定される。したがって、内側マークMiは、フロントカメラ5Fが存在する方向に略沿って延びるような略楕円の形状となっている(図1参照。)。
【0065】
また、外側マークMeは、左サイドカメラ5Lで取得された画像GL中において、略真円の像として表れるような形状とされている。この外側マークMeの形状は、左サイドカメラ5Lからの当該外側マークMeの方向と、左サイドカメラ5Lのディストーションとを考慮して決定される。したがって、外側マークMeは、左サイドカメラ5Lが存在する方向に略沿って延びるような略楕円の形状となっている(図1参照。)。
【0066】
内側マークMiと外側マークMeとの1つのセットに注目すると、画像GF中の略真円の内側マークMiの像の中心に対応する位置と、画像GL中の略真円の外側マークMeの像の中心に対応する位置とは一致するようになっている。
【0067】
また、車両9の右前方に配置される第1標識体32は、図6に示す第1標識体31をほぼ左右反転させたものとなる(図1参照。)。この第1標識体32は、フロントカメラ5Fと右サイドカメラ5Rとで重複して撮影可能な領域A2に配置される。第1標識体32に含まれる内側マークMiは、フロントカメラ5Fで取得された画像GF中において、略真円の像として表れるような形状とされている。一方、第1標識体32に含まれる外側マークMeは、右サイドカメラ5Rで取得された画像GR中において、略真円の像として表れるような形状とされている。
【0068】
また、図7は、車両9の左後方に配置される第1標識体33を示す図である。この第1標識体33は、バックカメラ5Bと左サイドカメラ5Lとで重複して撮影可能な領域A3に配置される(図1参照。)。
【0069】
図6の第1標識体31と同様に、第1標識体33の導出用マークCmも、比較的小さな3つの内側マークMiと、3つの内側マークMiをそれぞれ内包する3つの外側マークMeと、3つの棒状マークMcとを含んでいる。
【0070】
内側マークMiは、バックカメラ5Bで取得された画像GB中において、略真円の像として表れるような形状とされている。この内側マークMiの形状は、バックカメラ5Bからの当該内側マークMiの方向と、バックカメラ5Bのディストーションとを考慮して決定される。したがって、内側マークMiは、バックカメラ5Bが存在する方向に略沿って延びるような略楕円の形状となっている(図1参照。)。
【0071】
また、外側マークMeは、左サイドカメラ5Lで取得された画像GL中において、略真円の像として表れるような形状とされている。この外側マークMeの形状は、左サイドカメラ5Lからの当該外側マークMeの方向と、左サイドカメラ5Lのディストーションとを考慮して決定される。したがって、外側マークMeは、左サイドカメラ5Lが存在する方向に略沿って延びるような略楕円の形状となっている(図1参照。)。
【0072】
また、車両9の右後方に配置される第1標識体34は、図7に示す第1標識体33をほぼ左右反転させたものとなる(図1参照。)。この第1標識体34は、バックカメラ5Bと右サイドカメラ5Rとで重複して撮影可能な領域A4に配置される。第1標識体34に含まれる内側マークMiは、バックカメラ5Bで取得された画像GB中において、略真円の像として表れるような形状とされている。一方、第1標識体34に含まれる外側マークMeは、右サイドカメラ5Rで取得された画像GR中において、略真円の像として表れるような形状とされている。
【0073】
図1を参照して分かるように、車両9の後方に配置される第1標識体33,34の外側マークMeのサイズは、車両9の前方に配置される第1標識体31,32の外側マークMeよりも大きくなる。これは、サイドカメラ5L,5Rまでの距離が前方の第1標識体31,32よりも後方の第1標識体33,34のほうが長く、画像中における外側マークMeの像のサイズを一致させるためである。
【0074】
<4.キャリブレーション処理>
次に、設置パラメータを取得するキャリブレーション処理について説明する。図8は、キャリブレーション処理の流れを示す図である。この処理は、図1に示すように標識体31〜34,41〜43が予め配置された作業場の所定位置に車両9を停車させた状態で、車載装置2の操作部25にユーザが所定の操作を行った場合に、キャリブレーション部21bの制御により実行される。
【0075】
まず、4つのカメラ5F,5B,5L,5Rのそれぞれが、車両9の周辺を撮影する(ステップS11)。これにより、車両9の前方、後方、左側方及び右側方をそれぞれ示す4つの画像が取得される。取得された4つの画像は、車載装置2の画像取得部22を介して制御部21に入力される。
【0076】
次に、キャリブレーション部21bが、4つの画像のうちの1つ(たとえば、フロントカメラ5Fの画像)を注目画像として選択する(ステップS12)。そして、キャリブレーション部21bは、注目画像に含まれる導出用マークCmの像の特定の位置をユーザに指定させる。
【0077】
図9は、この場合に取得された画像G1の例を示す図である。図9では、フロントカメラ5Fで取得された画像を一例として示している。図に示すように画像G1には、左側及び右側にそれぞれ、導出用マークCmの像61が含まれる。また、画像G1には、確認用マークLmの像62も含まれる。ユーザは、このような画像G1中の導出用マークCmの像61における特定部分の位置を指定する。
【0078】
図10に示すように、注目画像がフロントカメラ5Fまたはバックカメラ5Bで取得された画像の場合は、注目画像中の導出用マークCmの像61に含まれる3つの内側マークMiの像(以下、「内側マーク像」という。)71i,72i,73iの形状が略真円となる。ユーザは、ディスプレイ26が注目画像を表示している状態で、このような略真円の内側マーク像71i,72i,73iの位置を指定する。ユーザは、3つの内側マーク像71i,72i,73iに対して、3つのカーソル71c,72c,73cをそれぞれ合わせることで、これらの位置を指定することになる。
【0079】
一方、図11に示すように、注目画像が左サイドカメラ5Lまたは右サイドカメラ5Rで取得された画像の場合は、注目画像中の導出用マークCmの像61に含まれる3つの外側マークMeの像(以下、「外側マーク像」という。)71e,72e,73eの形状が略真円となる。ユーザは、ディスプレイ26が注目画像を表示している状態で、このような略真円の外側マーク像71e,72e,73eの位置を指定する。ユーザは、3つの外側マーク像71e,72e,73eに対して、3つのカーソル71d,72d,73dをそれぞれ合わせることで、これらの位置を指定することになる。
【0080】
このようなカーソルを合わせる対象となる内側マーク像あるいは外側マーク像は、それぞれ「ポイント」と称される。ユーザは、ポイントごとにカーソルを合わせる。1つの画像につき6つのポイントが存在し、4つの画像があるため、ユーザは合計24のポイントに関してカーソルを合わせていくことになる。
【0081】
ユーザがポイントにカーソルを合わせる場合には、図12に示すように、注目画像の1つのポイントの近傍を拡大した画像G2がディスプレイ26の画面に表示される(図8のステップS13)。また、このディスプレイ26の画面には、上下左右の4方向をそれぞれ示す4つの方向ボタンB1と、ネクストボタンB2とが表示される。画像G2のサイズは、例えば縦300×横300ドットである。ユーザは、このようなディスプレイ26の画面を参照して、当該ポイントにカーソルを合わせることになる。
【0082】
図12の場合は、注目画像がフロントカメラ5Fの画像であるため、ユーザは内側マーク像71iの位置にカーソル71cを移動させる。ユーザは、ディスプレイ26の画面上の4つの方向ボタンB1に触れることで、カーソル71cを内側マーク像71iの位置に移動させることができる。
【0083】
カーソル71cは十字形状となっている。内側マーク像71iの直径と、カーソル71cの縦線及び横線の長さとは略一致される。例えば、内側マーク像71iの直径が24ドットとなるように設計した場合であれば、カーソル71cの縦線及び横線の長さは24ドットに設定される。
【0084】
このため、図13に示すように、ユーザは、カーソル71cの縦線及び横線の端部を、略真円の内側マーク像71iの外縁に合わせることで、内側マーク像71iの位置にカーソル71cを容易に合わせることができる。すなわち、ユーザは、カーソル71cの4つの端部を内側マーク像71iの円周に接触させることで、内側マーク像71iの中心位置とカーソル71cの中心位置とを一致させることができる。これにより、ユーザは、ポイントの位置(内側マーク像71iの中心位置)を正確かつ安定的に指定することができる。
【0085】
また、ユーザがネクストボタンB2に触れた場合は、キャリブレーション部21bは、ポイントの位置の指定を受け付ける(図8のステップS14)。すなわち、キャリブレーション部21bは、ユーザがネクストボタンB2に触れた時点のカーソルの中心位置を、ポイントの位置としてRAMなどに記憶する。
【0086】
キャリブレーション部21bは、このようにして1つのポイントの位置の指定を受け付けると、注目画像中の6つのポイントのうち、位置が指定されていないポイントがあるか否かを判定する。そして、位置が指定されていないポイントがある場合は(ステップS15にてNo)処理はステップS13に戻り、キャリブレーション部21bは、上記と同様にして、次のポイントの位置の指定を受け付ける。導出用マークCmの像61には、棒状マークMcの像74が含まれているため、ユーザは、注目画像中のいずれのポイントの位置を指定しているかを直感的に把握することができる。
【0087】
このような処理を繰り返し、キャリブレーション部21bは、注目画像中の6つのポイントの全ての位置の指定を受け付けると(ステップS15にてYes)、次に、4つの画像のうちの注目画像とされていない画像があるか否かを判定する。注目画像とされていない画像がある場合は(ステップS16にてNo)、処理はステップS12に戻る。そして、キャリブレーション部21bは、注目画像とされていない他の画像を新たな注目画像として選択し、上記と同様の処理を繰り返し、新たな注目画像の6つのポイントの位置の指定を受け付ける。ただし、注目画像が左サイドカメラ5Lまたは右サイドカメラ5Rで取得された画像の場合は、ユーザは、外側マーク像に対してカーソルを合わせることになる。
【0088】
図14は、注目画像が左サイドカメラ5Lの画像の場合におけるポイントの位置を指定するためのディスプレイ26の画面を示す図である。この画面においても、注目画像の1つのポイントの近傍を拡大した画像G3と、4つの方向ボタンB1と、ネクストボタンB2とが表示される。ユーザは、4つの方向ボタンB1に触れることで、外側マーク像71eの位置に対してカーソル71dを移動させる。
【0089】
この場合においても、外側マーク像71eの直径と、カーソル71dの縦線及び横線の長さとは一致される。例えば、外側マーク像71eの直径が48ドットとなるように設計した場合であれば、カーソル71dの縦線及び横線の長さは48ドットに設定される。
【0090】
このため、ユーザは、カーソル71dの縦線及び横線の端部を、略真円の外側マーク像71eの外縁に合わせることで、外側マーク像71eの位置にカーソル71dを容易に合わせることができる。すなわち、ユーザは、カーソル71dの4つの端部を外側マーク像71eの円周に接触させることで、外側マーク像71eの中心位置とカーソル71dの中心位置とを一致させることができる。これにより、ユーザは、ポイントの位置(外側マーク像71eの中心位置)を正確かつ安定的に指定することができる。
【0091】
キャリブレーション部21bは、このような処理により、4つの画像のそれぞれに関して6つのポイントの位置の指定を受け付ける。キャリブレーション部21bは、全てのポイント(4×6=24のポイント)の位置の指定を受け付けると(図8のステップS16にてYes)、次に、これらのポイントの位置に基づいて、4つのカメラそれぞれの設置パラメータを導出する(ステップS17)。
【0092】
キャリブレーション部21bは、まず、フロントカメラ5Fで取得された画像の6つのポイントの位置に基づいてフロントカメラ5Fの設置パラメータを導出する。キャリブレーション部21bは、例えば、画像中の左側のポイントと右側のポイントとの高さの差に基づいてロール角を導出し、画像中のポイントの上下位置に基づいてチルト角を導出し、画像中のポイントの左右位置に基づいてパン角を導出する。
【0093】
同様に、キャリブレーション部21bは、バックカメラ5Bで取得された画像の6つのポイントの位置に基づいてバックカメラ5Bの設置パラメータを導出する。さらに、キャリブレーション部21bは、左サイドカメラ5Lで取得された画像の6つのポイントの位置に基づいて左サイドカメラ5Lの設置パラメータを導出し、右サイドカメラ5Rで取得された画像の6つのポイントの位置に基づいて右サイドカメラ5Rの設置パラメータを導出する。
【0094】
このようにして全てのカメラ5の設置パラメータが導出されると、次に、画像合成部23が、4つのカメラで得られた画像と、導出された4つのカメラの設置パラメータとを用いて、仮想視点からみた車両9の周辺の様子を示す合成画像を生成する(ステップS18)。この際、仮想視点の視点位置は、車両9における左右及び前後の双方に関して中央となる位置の直上に設定され、視点方向は直下に向けられる。これにより、車両9及び車両9の周辺の領域を俯瞰する合成画像が生成される。
【0095】
図15は、このとき生成された合成画像G4の例を示す図である。この合成画像G4においては、車両像90、及び、導出用マークCmの像61とともに、5つの確認用マークLmの像(以下、「確認マーク像」という。)62が含まれている。
【0096】
キャリブレーション処理が正しくなされた場合には、これらの確認マーク像62は、合成画像G4中の略一定の位置に含まれる。しかしながら、キャリブレーション処理が正しくなされなかった場合には、これらの確認マーク像62は、合成画像G4中において含まれるべき一定の位置から外れることになる。このため、キャリブレーションシステム10では、このような合成画像G4中における確認マーク像62の位置に基づいて、キャリブレーション処理の良否判定が行われるようになっている。
【0097】
具体的には、まず、図16に示すように、キャリブレーション部21bが、合成画像G4中に、5つの確認マーク像62がそれぞれ含まれるべき位置を示す指標である5つの基準枠Fを重畳する。次に、キャリブレーション部21bは、基準枠Fが重畳された合成画像G4中の2つの領域を画像G5,G6として切り出し、切り出した画像G5,G6をディスプレイ26の画面に表示させる(図8のステップS19)。画像G5は、車両9の前方の領域に相当し、3つの基準枠Fを含む。また、画像G6は、車両9の後方の領域に相当し、2つの基準枠Fを含む。
【0098】
図17及び図18は、画像G5,G6を表示したディスプレイ26の画面の例を示す図である。2つの画像G5,G6には、確認マーク像62と基準枠Fとが含まれている。また、ディスプレイ26の画面には、2つの画像G5,G6とともに、リトライボタンB3と、完了ボタンB4とが表示される。ユーザは、このようなディスプレイ26の画面を参照して、キャリブレーション処理の良否判定を行う。
【0099】
図17に示すように、5つの確認マーク像62の全てが基準枠F内に収まっている場合は、キャリブレーション処理が正しくなされた場合である。このような場合は、ユーザは、キャリブレーション処理が正しくなされたと判断して完了ボタンB4に触れる。この場合は(ステップS20にてNo)、キャリブレーション部21bは、ステップS17で導出した設置パラメータを正しい値として確定し、記憶部24に記憶する(ステップS21)。
【0100】
一方、図18に示すように、5つの確認マーク像62のいずれかが基準枠Fから外れている場合は、キャリブレーション処理が正しくなされなかった場合である。このような場合は、ユーザは、キャリブレーション処理の再実行が必要と判断して、リトライボタンB3に触れる。この場合は(ステップS20にてYes)、処理はステップS11に戻り、キャリブレーション処理が再び実行されることになる。
【0101】
以上のように、キャリブレーションシステム10においては、第1標識体31〜34が、カメラ5で取得された画像中において略真円の像として表れる略楕円のマークMi,Meを含んでいる。車載装置2は、このようなマークMi,Meの略真円の像を含む画像をディスプレイ26に表示させ、ユーザはこの略真円の像の位置を指定する。そして、車載装置2は、指定されたマークMi,Meの像の位置に基づいて設置パラメータを導出する。マークMi,Meの略真円の像を含む画像が表示されるため、ユーザはマークMi,Meの像の位置を正確に指定することができる。このため、設置パラメータを取得する精度を向上できる。
【0102】
<5.変形例>
以上、本発明の実施の形態について説明してきたが、この発明は上記実施の形態に限定されるものではなく様々な変形が可能である。以下では、このような変形例について説明する。上記実施の形態及び以下で説明する形態を含む全ての形態は、適宜に組み合わせ可能である。
【0103】
上記実施の形態では、マークの像の位置を指定するためのカーソルは十字形状であると説明したが、カーソルはこれに限定されない。カーソルは、マークの略真円の像の円周の少なくとも3点と接する形状であればどのようなものであってもよい。カーソルがマークの像の円周の少なくとも3点と接する形状であれば、ユーザはカーソルをマークの像の位置に正確に合わせることができる。例えば、カーソルは、図19に示すようにマークの像70の円周に3点で内接する三角形のカーソルC1や、図20に示すようにマークの像70の円周に4点で内接する四角形のカーソルC2などであってもよい。また、カーソルは、図21に示すようにマークの像70の円周に外接するカーソルC3であってもよい。
【0104】
また、上記実施の形態では、第1標識体及び第2標識体は板状体であるとしていたが、紙や布などであってもよい。また、マークを作業場の床面に形成し、作業場の床面自体が標識体として機能してもよい。
【0105】
また、上記実施の形態では、確認用マークLmは棒状であったが、所定の形状であれば棒状でなくてもよい。この場合、確認用マークの形状に合わせて、確認用マークの像が含まれるべき位置を示す指標である基準枠の形状を規定すればよい。
【0106】
また、上記実施の形態では、プログラムに従ったCPUの演算処理によってソフトウェア的に各種の機能が実現されると説明したが、これら機能のうちの一部は電気的なハードウェア回路により実現されてもよい。また逆に、ハードウェア回路によって実現されるとした機能のうちの一部は、ソフトウェア的に実現されてもよい。
【符号の説明】
【0107】
2 車載装置
5 カメラ
9 車両
10 キャリブレーションシステム
21b キャリブレーション部
23 画像合成部
24a 設置パラメータ
31〜34 第1標識体
41〜43 第2標識体
【特許請求の範囲】
【請求項1】
車両に搭載されたカメラに関するキャリブレーションシステムであって、
前記車両の外部に配置される第1標識体と、
前記第1標識体を前記カメラで撮影して得られた画像に基づいて、前記カメラの設置に関する設置パラメータを取得するパラメータ取得装置と、
を備え、
前記第1標識体は、前記画像中において略真円の像として表れる略楕円のマーク、を含み、
前記パラメータ取得装置は、
前記マークの略真円の像を含む前記画像を表示する表示手段と、
前記表示手段が前記画像を表示中にユーザが指定する該画像における前記マークの像の位置に基づいて、前記設置パラメータを導出する導出手段と、
を備えることを特徴とするキャリブレーションシステム。
【請求項2】
請求項1に記載のキャリブレーションシステムにおいて、
前記マークの像の位置を前記ユーザが指定するために用いるカーソルは、前記マークの像の円周の少なくとも3点と接する形状であることを特徴とするキャリブレーションシステム。
【請求項3】
請求項1または2に記載のキャリブレーションシステムにおいて、
前記車両は、互いに異なる位置に配置された複数の前記カメラ、を有し、
前記導出手段は、前記複数のカメラで得られた複数の画像に基づいて、前記複数のカメラそれぞれの前記設置パラメータを導出することを特徴とするキャリブレーションシステム。
【請求項4】
請求項3に記載のキャリブレーションシステムにおいて、
前記第1標識体は、前記略楕円のマークとして、
第1マークと、
前記第1マークを内包する第2マークと、
を含み、
前記導出手段は、
前記複数のカメラのうちの一の第1カメラで得られた前記画像中の前記第1マークの略真円の像の位置に基づいて、前記第1カメラの前記設置パラメータを導出し、
前記複数のカメラのうちの他の一の第2カメラで得られた前記画像中の前記第2マークの略真円の像の位置に基づいて、前記第2カメラの前記設置パラメータを導出することを特徴とするキャリブレーションシステム。
【請求項5】
請求項3または4に記載のキャリブレーションシステムにおいて、
前記パラメータ取得装置は、
前記複数の車載カメラで得られた複数の画像と前記複数のカメラそれぞれの前記設置パラメータとを用いて、仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する生成手段、
をさらに備えることを特徴とするキャリブレーションシステム。
【請求項6】
請求項5に記載のキャリブレーションシステムにおいて、
前記複数の画像を取得する際に前記車両の外部に配置され、所定形状の第3マークを示す第2標識体、
をさらに備え、
前記パラメータ取得装置は、
前記複数の画像を用いて生成した前記合成画像に、前記第3マークの像が含まれるべき位置を示す指標を重畳する重畳手段、
をさらに備え、
前記表示手段は、前記第3マークの像と前記指標とを含む前記合成画像を表示することを特徴とするキャリブレーションシステム。
【請求項7】
車両の外部に配置される標識体を前記車両に搭載されたカメラで撮影して得られた画像に基づいて、前記カメラの設置に関する設置パラメータを取得するパラメータ取得装置であって、
前記標識体は、前記画像中において略真円の像として表れる略楕円のマーク、を含み、
前記パラメータ取得装置は、
前記マークの略真円の像を含む前記画像を表示する表示手段と、
前記表示手段が前記画像を表示中にユーザが指定する該画像における前記マークの像の位置に基づいて、前記設置パラメータを導出する導出手段と、
を備えることを特徴とするパラメータ取得装置。
【請求項8】
車両に搭載されたカメラで得られた画像に基づいて前記カメラの設置に関する設置パラメータを取得するために用いる標識体であって、
前記画像中において略真円の像として表れる略楕円のマーク、
を含むことを特徴とする標識体。
【請求項9】
車両に搭載されたカメラの設置に関する設置パラメータを取得するパラメータ取得方法であって、
(a)前記カメラが取得する画像中において略真円の像として表れる略楕円のマークを前記カメラで撮影する工程と、
(b)前記工程(a)で得られた前記マークの略真円の像を含む画像を表示する工程と、
(c)前記工程(b)において前記画像を表示中にユーザが指定する該画像における前記マークの像の位置に基づいて、前記設置パラメータを導出する工程と、
を備えることを特徴とするパラメータ取得方法。
【請求項1】
車両に搭載されたカメラに関するキャリブレーションシステムであって、
前記車両の外部に配置される第1標識体と、
前記第1標識体を前記カメラで撮影して得られた画像に基づいて、前記カメラの設置に関する設置パラメータを取得するパラメータ取得装置と、
を備え、
前記第1標識体は、前記画像中において略真円の像として表れる略楕円のマーク、を含み、
前記パラメータ取得装置は、
前記マークの略真円の像を含む前記画像を表示する表示手段と、
前記表示手段が前記画像を表示中にユーザが指定する該画像における前記マークの像の位置に基づいて、前記設置パラメータを導出する導出手段と、
を備えることを特徴とするキャリブレーションシステム。
【請求項2】
請求項1に記載のキャリブレーションシステムにおいて、
前記マークの像の位置を前記ユーザが指定するために用いるカーソルは、前記マークの像の円周の少なくとも3点と接する形状であることを特徴とするキャリブレーションシステム。
【請求項3】
請求項1または2に記載のキャリブレーションシステムにおいて、
前記車両は、互いに異なる位置に配置された複数の前記カメラ、を有し、
前記導出手段は、前記複数のカメラで得られた複数の画像に基づいて、前記複数のカメラそれぞれの前記設置パラメータを導出することを特徴とするキャリブレーションシステム。
【請求項4】
請求項3に記載のキャリブレーションシステムにおいて、
前記第1標識体は、前記略楕円のマークとして、
第1マークと、
前記第1マークを内包する第2マークと、
を含み、
前記導出手段は、
前記複数のカメラのうちの一の第1カメラで得られた前記画像中の前記第1マークの略真円の像の位置に基づいて、前記第1カメラの前記設置パラメータを導出し、
前記複数のカメラのうちの他の一の第2カメラで得られた前記画像中の前記第2マークの略真円の像の位置に基づいて、前記第2カメラの前記設置パラメータを導出することを特徴とするキャリブレーションシステム。
【請求項5】
請求項3または4に記載のキャリブレーションシステムにおいて、
前記パラメータ取得装置は、
前記複数の車載カメラで得られた複数の画像と前記複数のカメラそれぞれの前記設置パラメータとを用いて、仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する生成手段、
をさらに備えることを特徴とするキャリブレーションシステム。
【請求項6】
請求項5に記載のキャリブレーションシステムにおいて、
前記複数の画像を取得する際に前記車両の外部に配置され、所定形状の第3マークを示す第2標識体、
をさらに備え、
前記パラメータ取得装置は、
前記複数の画像を用いて生成した前記合成画像に、前記第3マークの像が含まれるべき位置を示す指標を重畳する重畳手段、
をさらに備え、
前記表示手段は、前記第3マークの像と前記指標とを含む前記合成画像を表示することを特徴とするキャリブレーションシステム。
【請求項7】
車両の外部に配置される標識体を前記車両に搭載されたカメラで撮影して得られた画像に基づいて、前記カメラの設置に関する設置パラメータを取得するパラメータ取得装置であって、
前記標識体は、前記画像中において略真円の像として表れる略楕円のマーク、を含み、
前記パラメータ取得装置は、
前記マークの略真円の像を含む前記画像を表示する表示手段と、
前記表示手段が前記画像を表示中にユーザが指定する該画像における前記マークの像の位置に基づいて、前記設置パラメータを導出する導出手段と、
を備えることを特徴とするパラメータ取得装置。
【請求項8】
車両に搭載されたカメラで得られた画像に基づいて前記カメラの設置に関する設置パラメータを取得するために用いる標識体であって、
前記画像中において略真円の像として表れる略楕円のマーク、
を含むことを特徴とする標識体。
【請求項9】
車両に搭載されたカメラの設置に関する設置パラメータを取得するパラメータ取得方法であって、
(a)前記カメラが取得する画像中において略真円の像として表れる略楕円のマークを前記カメラで撮影する工程と、
(b)前記工程(a)で得られた前記マークの略真円の像を含む画像を表示する工程と、
(c)前記工程(b)において前記画像を表示中にユーザが指定する該画像における前記マークの像の位置に基づいて、前記設置パラメータを導出する工程と、
を備えることを特徴とするパラメータ取得方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【公開番号】特開2013−89984(P2013−89984A)
【公開日】平成25年5月13日(2013.5.13)
【国際特許分類】
【出願番号】特願2011−225555(P2011−225555)
【出願日】平成23年10月13日(2011.10.13)
【出願人】(000237592)富士通テン株式会社 (3,383)
【Fターム(参考)】
【公開日】平成25年5月13日(2013.5.13)
【国際特許分類】
【出願日】平成23年10月13日(2011.10.13)
【出願人】(000237592)富士通テン株式会社 (3,383)
【Fターム(参考)】
[ Back to top ]