パラメータ取得装置、パラメータ取得システム、パラメータ取得方法、及び、プログラム
【課題】生成される合成画像の良否という観点において適切な設置パラメータを取得できる技術を提供する。
【解決手段】画像表示装置1においては、キャリブレーション処理において、ユーザの操作に基づいて、複数の車載カメラのそれぞれに関する設置パラメータが導出される。この設置パラメータと、複数の車載カメラで得られる複数の画像とを利用して、所定の仮想視点からみた車両9の周辺の様子を示す合成画像が生成される。そして、生成された合成画像と、車外カメラ21で得られた基準画像とを比較し、その比較結果に基づいて設置パラメータの合否が判定される。このように、生成された合成画像を基準画像と比較することにより設置パラメータの合否を判定することから、生成される合成画像の良否という観点において適切な設置パラメータを取得できる。
【解決手段】画像表示装置1においては、キャリブレーション処理において、ユーザの操作に基づいて、複数の車載カメラのそれぞれに関する設置パラメータが導出される。この設置パラメータと、複数の車載カメラで得られる複数の画像とを利用して、所定の仮想視点からみた車両9の周辺の様子を示す合成画像が生成される。そして、生成された合成画像と、車外カメラ21で得られた基準画像とを比較し、その比較結果に基づいて設置パラメータの合否が判定される。このように、生成された合成画像を基準画像と比較することにより設置パラメータの合否を判定することから、生成される合成画像の良否という観点において適切な設置パラメータを取得できる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置に関する。
【背景技術】
【0002】
従来より、自動車などの車両に搭載され、車載カメラで車両の周辺を撮影して得られた画像を車室内のディスプレイに表示する画像表示装置が知られている。この画像表示装置を利用することにより、ドライバは車両の周辺の様子をほぼリアルタイムに把握することができる。
【0003】
画像表示装置の車載カメラを車両に設置する場合においては、車両に対する車載カメラの設置上のわずかな誤差に起因して、表示される画像に含まれる被写体像の位置については設計上の位置に対しずれが生じる。このため、キャリブレーション処理を実行することで、車載カメラの実際の設置に関する設置パラメータ(例えば、ロール角、チルト角、パン角など)を取得し、当該設置パラメータを用いて表示する画像に処理を施すことがなされている(例えば、特許文献1参照。)。
【0004】
一般に、キャリブレーション処理は、所定形状のマーカを車両の外部に配置した状態で車載カメラが撮影して得られた画像を表示させ、その画像中に含まれるマーカの像の位置をユーザ(画像表示装置を設置する作業員等)が指定することで実行される。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2007−261463号公報
【特許文献2】特許第3286306号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、近年では、複数の車載カメラで車両の周辺を撮影して得られる複数の画像を利用して、車両の直上や後方などの任意の仮想視点からみた車両の周辺の様子を示す合成画像を生成してディスプレイに表示する画像表示装置が提案されている(例えば、特許文献2参照。)。この画像表示装置では、車両の周囲の全体を示す画像をディスプレイに表示させることも可能である。
【0007】
このように合成画像の生成のために複数の車載カメラを用いる場合においても、キャリブレーション処理は、複数の車載カメラのそれぞれに関して実行され、車載カメラごとに設置パラメータが取得される。そして、この車載カメラごとの設置パラメータを用いて複数の画像が合成されて合成画像が生成される。したがって、生成される合成画像の良否は、複数の車載カメラのそれぞれの設置パラメータの取得の精度に影響を受ける。
【0008】
しかしながら、従来、キャリブレーション処理が正確になされたか否かの判定基準(すなわち、設置パラメータの合否の判定基準)が存在せず、生成される合成画像の良否という観点から適切な設置パラメータが取得されていなかった。その結果、車両の周辺の様子を示すのに適さない合成画像が生成される可能性があった。
【0009】
本発明は、上記課題に鑑みてなされたものであり、生成される合成画像の良否という観点において適切な設置パラメータを取得できる技術を提供することを目的とする。
【課題を解決するための手段】
【0010】
上記課題を解決するため、請求項1の発明は、車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置であって、ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する導出手段と、前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して、所定の仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する生成手段と、生成された前記合成画像と、所定の位置からみた前記車両の周辺の様子を示す基準画像とを比較し、その比較結果に基づいて前記設置パラメータの合否を判定する判定手段と、を備えている。
【0011】
また、請求項2の発明は、請求項1に記載のパラメータ取得装置において、前記基準画像は、前記車両の外部に配置される一つの車外カメラにより実際の前記車両の周辺を撮影して取得される。
【0012】
また、請求項3の発明は、請求項1または2に記載のパラメータ取得装置において、前記生成手段は、前記仮想視点を前記車両の直上に設定し、前記判定手段は、前記合成画像と、前記車両の直上からみた基準画像とを比較する。
【0013】
また、請求項4の発明は、請求項1ないし3のいずれかに記載のパラメータ取得装置において、前記判定手段による比較前に、前記合成画像と前記基準画像との平均的な明るさが略一致するように調整する調整手段、をさらに備えている。
【0014】
また、請求項5の発明は、請求項1ないし4のいずれかに記載のパラメータ取得装置において、前記複数の画像を前記複数の車載カメラで取得する際に前記車両は、該車両の周辺に所定の模様が示された状態で配置され、前記基準画像には、前記所定の模様が含まれている。
【0015】
また、請求項6の発明は、請求項5に記載のパラメータ取得装置において、前記所定の模様は、前記車両の周囲全体を囲む。
【0016】
また、請求項7の発明は、請求項1ないし6のいずれかに記載のパラメータ取得装置において、前記判定手段は、前記導出手段による前記設置パラメータの導出に応答して、当該設置パラメータの合否を判定する。
【0017】
また、請求項8の発明は、車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置であって、ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する導出手段と、前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して生成される所定の仮想視点からみた前記車両の周辺の様子を示す合成画像と比較するための、所定の位置からみた前記車両の周辺の様子を示す基準画像を記憶する記憶手段と、を備えている。
【0018】
また、請求項9の発明は、車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得システムであって、請求項1ないし8のいずれかに記載のパラメータ取得装置と、前記車両の外部に配置され、実際の前記車両の周辺を撮影して前記基準画像を取得する車外カメラと、を備えている。
【0019】
また、請求項10の発明は、車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得方法であって、ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する工程と、前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して、所定の仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する工程と、生成された前記合成画像と、所定の位置からみた前記車両の周辺の様子を示す基準画像とを比較し、その比較結果に基づいて前記設置パラメータの合否を判定する工程と、を備えている。
【0020】
また、請求項11の発明は、車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置に含まれるコンピュータによって実行可能なプログラムであって、前記プログラムの前記コンピュータによる実行は、前記コンピュータに、ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する工程と、前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して、所定の仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する工程と、生成された前記合成画像と、所定の位置からみた前記車両の周辺の様子を示す基準画像とを比較し、その比較結果に基づいて前記設置パラメータの合否を判定する工程と、を実行させる。
【発明の効果】
【0021】
請求項1ないし11の発明によれば、生成された合成画像を基準画像と比較することにより設置パラメータの合否を判定することから、生成される合成画像の良否という観点において適切な設置パラメータを取得できる。
【0022】
また、特に請求項2の発明によれば、一つの車外カメラで実際の車両の周辺を撮影することで基準画像が取得されるため、車両やマーカ等を厳密に配置しなくても、適切な設置パラメータを取得できる。
【0023】
また、特に請求項3の発明によれば、仮想視点を車両の直上とすることで、車両の周囲全体を示す合成画像を適切に生成可能な設置パラメータを取得できる。
【0024】
また、特に請求項4の発明によれば、合成画像と基準画像との平均的な明るさが略一致するように調整するため、合成画像と基準画像との比較を正確に行うことができる。
【0025】
また、特に請求項5の発明によれば、所定の模様が含まれた基準画像と合成画像とを比較するため、合成画像と基準画像との比較を正確に行うことができる。
【0026】
また、特に請求項6の発明によれば、車両の周囲全体を示す合成画像の良否という観点において適切な設置パラメータを取得できる。
【0027】
また、特に請求項7の発明によれば、設置パラメータを取得するとそれに応答して判定が行われるため、ユーザがわずらわしい操作を必要としない。
【図面の簡単な説明】
【0028】
【図1】図1は、パラメータ取得システムの概要を示す図である。
【図2】図2は、画像表示装置の構成を示すブロック図である。
【図3】図3は、車載カメラが車両に設置される位置を示す図である。
【図4】図4は、合成画像を生成する手法を説明するための図である。
【図5】図5は、画像表示装置の動作モードの遷移を示す図である。
【図6】図6は、キャリブレーション処理に関連する処理の流れを示す図である。
【図7】図7は、車両が配置される様子を示す図である。
【図8】図8は、基準画像の一例を示す図である。
【図9】図9は、キャリブレーション処理でのディスプレイの表示例を示す図である。
【図10】図10は、合成画像の一例を示す図である。
【図11】図11は、合成画像の一例を示す図である。
【図12】図12は、合成画像と基準画像との比較を示す図である。
【図13】図13は、車両が配置される様子を示す図である。
【図14】図14は、基準画像の一例を示す図である。
【図15】図15は、合成画像の一例を示す図である。
【発明を実施するための形態】
【0029】
以下、図面を参照しつつ本発明の実施の形態について説明する。
【0030】
<1.構成>
図1は、本実施の形態に係るパラメータ取得システム100の概要を示す図である。パラメータ取得システム100は、キャリブレーション処理を実行して、車両(本実施の形態では自動車)9に搭載される車載カメラの設置に関する設置パラメータを取得するものである。パラメータ取得システム100は、車両9の外部に配置される基準画像取得装置2と、車両9に搭載される画像表示装置1とを備えている。
【0031】
基準画像取得装置2は、車両工場や車両整備場などにおける、車両9に画像表示装置1を設置する作業場に固定的に配置される。基準画像取得装置2は、車両9の外部から撮影を行う一つの車外カメラ21と、車外カメラ21で得られた画像を記録する記録部22とを備えている。車外カメラ21は車両9の直上に配置される一方で、記録部22は画像表示装置1を設置する作業員が作業しやすい位置に配置される。車外カメラ21と記録部22とは、ケーブルなどで通信可能に接続されている。
【0032】
車外カメラ21は、車両9の直上から鉛直方向に光軸21aを向けた状態で、車両9及び車両9の周辺を撮影する。これにより、車両9及び車両9の周辺の様子を示す画像が取得される。取得された画像は記録部22に送信され、記録部22において可搬性の記録媒体であるメモリカードMCに記録される。このようにして記録された画像は、画像表示装置1でのキャリブレーション処理が正確になされたか否かの判定に用いる基準画像となり、メモリカードMCを介して画像表示装置1に受け渡される。
【0033】
画像表示装置1は、車両9の周辺を撮影して画像を生成してディスプレイに表示する機能を有している。画像表示装置1は、ディスプレイの画面がドライバから視認可能なように、車両9のインストルメントパネルなどの車室内の適位置に設置される。この画像表示装置1のディスプレイの画面を閲覧することにより、車両9のドライバは当該車両9の周辺の様子をほぼリアルタイムに把握できる。また、画像表示装置1は、ナビゲーション装置としても機能し、車両9のドライバに対しナビゲーション案内を行うことが可能である。
【0034】
さらに、画像表示装置1は、車両9に搭載された車載カメラの設置に関する設置パラメータを取得するキャリブレーション処理を実行するパラメータ取得装置としても機能する。画像表示装置1は、このキャリブレーション処理が正確になされたか否かの判定(以下、「キャリブレーション判定」ともいう。)に、基準画像取得装置2から受け渡された基準画像を利用する。
【0035】
図2は、画像表示装置1の構成を主に示すブロック図である。図に示すように、画像表示装置1は、車両9の周辺を撮影する撮影部5と、撮影部5で取得された画像を処理する合成画像生成部32と、ナビゲーション機能を実現するナビゲーション部31と、各種情報を表示するディスプレイ33と、ユーザ操作を受け付ける操作部34とを備えている。
【0036】
撮影部5は、車載カメラ50であるフロントカメラ51、バックカメラ52及びサイドカメラ53を備えている。これらの車載カメラ50はそれぞれ、CCDやCMOSなどの撮像素子を備えており電子的に画像を取得する。
【0037】
図3は、車載カメラ50が車両9に設置される位置を示す図である。図3に示すように、フロントカメラ51は、車両9の前端にあるナンバープレート取付位置の近傍に設けられ、その光軸51aは車両9の直進方向に向けられている。バックカメラ52は、車両9の後端にあるナンバープレート取付位置の近傍に設けられ、その光軸52aは車両9の直進方向の逆方向に向けられている。また、サイドカメラ53は、左右のドアミラー93にそれぞれ設けられており、その光軸53aは車両9の左右方向に沿って外部に向けられている。
【0038】
これらの車載カメラ50のレンズとしては魚眼レンズなどが採用されており、各車載カメラ50は180度以上の画角αを有している。このため、4つの車載カメラ50を利用することで、車両9の全周囲の撮影が可能となっている。また、車両9の左前方、右前方、左後方、及び、右後方の各領域は、4つの車載カメラ50のうちの2つの車載カメラ50によって重複して撮影することが可能となっている。
【0039】
図2に戻り、合成画像生成部32は、各種の画像処理が可能なハードウェア回路として構成されている。合成画像生成部32は、撮影部5の複数の車載カメラ50で取得された複数の画像に基づいて、任意の仮想視点からみた車両の周辺の様子を示す合成画像を生成する。合成画像生成部32が、仮想視点からみた合成画像を生成する手法については後述する。
【0040】
ナビゲーション部31は、ナビゲーション案内のための各種情報を出力する専用の基板として構成される。具体的には、ナビゲーション部31は、車両9の現在位置に応じた地図画像を出力するとともに、目的地が設定された場合は目的地までのルートを設定して当該ルートに応じた案内情報を出力する。
【0041】
ディスプレイ33は、液晶パネルなどを備えて構成され、合成画像生成部32で生成された合成画像や、ナビゲーション部31から提供される地図画像などを表示する。ディスプレイ33は、タッチパネル機能を有しており、ユーザから各種操作を受け付けることが可能となっている。また、操作部34は、物理的な複数のボタンで構成され、ユーザから各種操作を受け付ける。
【0042】
また、画像表示装置1は、信号入力部35、カード読取部36、及び、不揮発性メモリ40を備えている。
【0043】
信号入力部35は、車両9に設けられた画像表示装置1の外部の各種装置からの信号を入力する。具体的には、信号入力部35は、シフトセンサ91及び車速度センサ92などから、各種情報を示す信号を入力する。シフトセンサ91からは、車両9の変速装置のシフトレバーの操作の位置、すなわち、”P(駐車)”,”D(前進)”,”N(中立)”,”R(後退)”などのシフトポジションが入力される。車速度センサ92からは、その時点の車両9の走行速度(km/h)が入力される。
【0044】
カード読取部36は、可搬性の記録媒体であるメモリカードMCの読み取りを行う。カード読取部36は、メモリカードMCの着脱が可能なカードスロットを備えており、そのカードスロットに装着されたメモリカードMCに記録されたデータを読み取る。メモリカードMCは、種々のデータを記憶可能なフラッシュメモリなどで構成されており、画像表示装置1はメモリカードMCに記憶された種々のデータを利用できる。
【0045】
また、不揮発性メモリ40は、電源オフ時においても記憶内容を維持可能なフラッシュメモリなどで構成されている。不揮発性メモリ40には、設置パラメータ41、基準画像42、及び、プログラム49が記憶されている。
【0046】
設置パラメータ41は、4つの車載カメラ50それぞれの車両9への設置に関する情報を示すものである。具体的には、設置パラメータ41には、車載カメラ50ごとのロール角、チルト角、パン角などが含まれている。この設置パラメータ41は、キャリブレーション処理において取得され、合成画像生成部32が合成画像を生成する際に利用される。
【0047】
基準画像42は、キャリブレーション判定において利用される。基準画像42は、基準画像取得装置2で記録されたメモリカードMCをカード読取部36で読み取ることで取得される。
【0048】
プログラム49は、画像表示装置1のファームウェアである。このプログラム49は、新たなプログラムが記憶されたメモリカードMCをカード読取部36で読み出すことで更新可能となっている。
【0049】
また、画像表示装置1は、上述した各部を制御するための制御部10を備えている。制御部10は、CPU、RAM及びROMなどを備えたコンピュータとして構成される。制御部10の各種の制御機能は、不揮発性メモリ40に記憶されたプログラム49に従ってCPUが演算処理を行うことで実現される。図中に示す、モード切替部11、画像制御部12、キャリブレーション部13、及び、処理判定部14は、このようにして実現される制御部10の機能のうちの一部を示している。
【0050】
モード切替部11は、画像表示装置1の動作モードを切り替えるものである。画像表示装置1は、ナビゲーション案内を行うためのナビゲーションモードと、車両9の周辺の様子を示す画像表示モードとを有しており、通常は所定の条件によりこれら2つのモードがモード切替部11により切り替えられる。
【0051】
画像制御部12は、合成画像生成部32によって実行される合成画像の生成処理を制御するものである。画像制御部12は、例えば、合成画像を生成する際に、設置パラメータ41を不揮発性メモリ40から読み出して合成画像生成部32に送信する。
【0052】
キャリブレーション部13は、4つの車載カメラ50の設置に関する設置パラメータを取得するキャリブレーション処理を行うものである。また、処理判定部14は、キャリブレーション判定を行うものである。すなわち、処理判定部14は、キャリブレーション処理で取得された設置パラメータ41の合否の判定を行う。これらの制御部100の機能の詳細については後述する。
【0053】
<2.合成画像の生成>
次に、合成画像生成部32が、撮影部5で得られた複数の画像に基づいて任意の仮想視点からみた車両9の周辺の様子を示す合成画像を生成する手法について説明する。合成画像を生成する際には、不揮発性メモリ40に予め記憶された設置パラメータ41が利用される。図4は、合成画像を生成する手法を説明するための図である。
【0054】
撮影部5のフロントカメラ51、バックカメラ52及びサイドカメラ53で同時に撮影が行われると、車両9の前方、後方、左側方、及び、右側方をそれぞれ示す4つの画像P1〜P4が取得される。すなわち、撮影部5で取得される4つの画像P1〜P4には、撮影時点の車両9の全周囲を示す情報が含まれていることになる。
【0055】
次に、4つの画像P1〜P4の各画素が、仮想的な三次元空間における立体曲面SPに投影される。立体曲面SPは、例えば略半球状(お椀形状)をしており、その中心部分(お椀の底部分)が車両9が存在する位置として定められている。画像P1〜P4に含まれる各画素の位置と、この立体曲面SPの各画素の位置とは対応関係がある。このため、立体曲面SPの各画素の値は、この対応関係と画像P1〜P4に含まれる各画素の値とに基づいて決定される。
【0056】
画像P1〜P4の各画素の位置と立体曲面SPの各画素の位置との対応関係は、4つの車載カメラ50の設置パラメータ41(ロール角、チルト角、パン角等)によって変化する。このため、不揮発性メモリ40に記憶された設置パラメータ41が用いられて基準となるデフォルトの対応関係が修正され、この修正された対応関係が立体曲面SPへの投影に利用される。
【0057】
また、不揮発性メモリ40などに予め記憶された車体の形状やサイズを示すポリゴンデータが用いられ、車両9の三次元形状を示すポリゴンモデルである車両像90が仮想的に構成される。構成された車両像90は、立体曲面SPが設定される三次元空間において、車両9の位置と定められた略半球状の中心部分に配置される。
【0058】
さらに、立体曲面SPが存在する三次元空間に対して、制御部10の画像制御部12により仮想視点VPが設定される。仮想視点VPは、視点位置と視野方向とで規定され、この三次元空間における車両9の周辺に相当する任意の視点位置に任意の視野方向に向けて設定される。
【0059】
そして、設定された仮想視点VPに応じて、立体曲面SPにおける必要な領域が画像として切り出される。仮想視点VPと、立体曲面SPにおける必要な領域との関係は予め定められており、テーブルデータとして不揮発性メモリ40等に予め記憶されている。一方で、設定された仮想視点VPに応じてポリゴンで構成された車両像90に関してレンダリングがなされ、その結果となる二次元の車両像90が、切り出された画像に対して重畳される。これにより、任意の仮想視点からみた車両9及びその車両9の周辺の様子を示す合成画像が生成されることになる。
【0060】
例えば、視点位置が車両9の略中央の直上で、視野方向が略直下方向とした仮想視点VP1を設定した場合は、車両9の略直上から車両9を見下ろすように、車両9及び車両9の周辺の様子を示す合成画像CP1が生成される。また、図中に示すように、視点位置が車両9の左後方で、視野方向が車両9における略前方とした仮想視点VP2を設定した場合は、車両9の左後方からその周辺全体を見渡すように、車両9及び車両9の周辺の様子を示す合成画像CP2が生成される。
【0061】
なお、実際に合成画像を生成する場合においては、立体曲面SPの全ての画素の値を決定する必要はなく、設定された仮想視点VPに対応して必要となる領域の画素の値のみを画像P1〜P4に基づいて決定することで、処理速度を向上できる。
【0062】
<3.モード切替>
前述のように、画像表示装置1は、ナビゲーションモードと画像表示モードとを動作モードとして有している。図5は、画像表示装置1の動作モードの遷移を示す図である。
【0063】
ナビゲーションモードM1においては、ナビゲーション案内に用いる地図画像NPを含む画面がディスプレイ33に表示される。一方、画像表示モードM2では、車両9の周辺の様子を示す合成画像CPが含まれる画面がディスプレイ33に表示される。
【0064】
ナビゲーションモードM1と画像表示モードM2とは、シフトセンサ91及び車速度センサ92などの信号に基づき、所定の条件に従ってモード切替部11により切り替えられる。例えば、ナビゲーションモードM1において、シフトレバーが”R(後退)”となった場合は、画像表示モードM2に切り替えられ、車両9の後方の様子を示す合成画像が含まれる画面が表示される。また、ナビゲーションモードM1において、前進時に走行速度(km/h)が所定速度(例えば10km/h)以下となった場合は、画像表示モードM2に切り替えられ、車両9の前方及び側方の様子を示す合成画像が含まれる画面が表示される。
【0065】
さらに、画像表示モードM2において所定の操作部34に所定の操作がなされると、モード切替部11は、キャリブレーション処理を行うためのキャリブレーションモードM3に動作モードを移行する。
【0066】
<4.キャリブレーション処理>
図6は、パラメータ取得システム100におけるキャリブレーション処理に関連する処理の流れを示す図である。この処理においては、まず、基準画像取得装置2において基準画像が取得される(ステップS1,S2)。その後、画像表示装置1においてキャリブレーション処理(ステップS11〜S16)と、キャリブレーション判定(ステップS16〜S22)とが実行されるようになっている。キャリブレーション処理(ステップS11〜S16)はキャリブレーション部13の制御により実行され、キャリブレーション判定(ステップS16〜S22)は処理判定部14の制御により実行される。
【0067】
この処理の開始時点においては、画像表示装置1の動作モードはキャリブレーションモードM3とされている。また、図7に示すように、キャリブレーション処理の対象となる車両9は所定の作業場に配置され、車両9の周囲には4つのマーカ8が配置される。4つのマーカ8はそれぞれ、2つの車載カメラ50によって重複して撮影される4つの領域(すなわち、車両9の左前方、右前方、左後方、及び、右後方の各領域)に配置される。各マーカ8は、平面状のプレートで構成され、表面形状は正三角形となっている。また、車両9における左右及び前後の双方に関して中央となる位置の直上に、基準画像取得装置2の車外カメラ21がその光軸を直下に向けた状態で配置される。
【0068】
まず、図7に示す状態で、実際の車両9及びその周辺のマーカ8を含む領域を被写体として、基準画像取得装置2の一つの車外カメラ21において撮影がなされる(ステップS1)。これにより、図8に示すような画像RPが取得される。この画像RPには、車両9の像(車両像)90及びマーカ8の像(マーカ像)80が含まれている。この画像RPは、記録部22に送信され、基準画像として記録部22においてメモリカードMCに記録される(ステップS2)。
【0069】
次に、メモリカードMCが基準画像取得装置2から取り出され、画像表示装置1のカードスロットに装着される。そして、画像表示装置1において、メモリカードMCに記録された基準画像RPが読み出され、不揮発性メモリ40に記録される(図6のステップS11)。
【0070】
次に、車両9の4つの車載カメラ50においてほぼ同時に撮影がなされ、それぞれの車載カメラ50において画像が取得される(ステップS12)。
【0071】
次に、取得された4つの画像のうちの一つがキャリブレーション処理の対象となる注目画像として選択され、キャリブレーション処理を行うためにディスプレイ33に表示される(ステップS13)。図9は、この場合のディスプレイ33の表示例を示す図である。図に示すように、ディスプレイ33には、車載カメラ50で取得された注目画像Pが表示されている。この注目画像Pにおいては、左右の両端付近に2つのマーカ像80が含まれている。
【0072】
また、画面上には、ユーザが操作可能な複数のコマンドボタンCと、マーカ像80の位置を指定するための複数のポイント指標Mとが表示される。ポイント指標Mは、2つの三角形のマーカ像80の頂点の位置をそれぞれ指定するものであるため、6(=2×3)個のポイント指標Mが表示される。
【0073】
表示された6つのポイント指標Mのうち一つはカーソルで選択され、選択中のポイント指標Mは上下左右の方向を示すコマンドボタンCに触れることによって画面上を移動できる。また、「ポイント切替」と表記されたコマンドボタンCに触れることで、選択するポイント指標Mを切り替えることが可能である。ユーザ(キャリブレーション処理に係る作業を行う作業員等)は、これらのコマンドボタンCに触れることで、すべてのポイント指標Mをマーカ像80の頂点の位置に移動させる。そして、ユーザが「ポイント切替」と表記されたコマンドボタンCに触れると、マーカ像80の位置を示す6つのポイント指標Mの位置が、キャリブレーション部13に受け付けられる(ステップS14)。
【0074】
次に、キャリブレーション部13は、取得された6つのポイント指標Mの位置に基づいて、所定の演算を行って、当該注目画像Pを取得した車載カメラの設置パラメータを導出する。例えば、画面左側のポイント指標Mと画面右側のポイント指標Mとの高さの差に基づいてロール角を導出し、ポイント指標Mの画面の上下位置に基づいてチルト角を導出し、ポイント指標Mの画面の左右位置に基づいてパン角を導出する(ステップS15)。導出した設置パラメータは、不揮発性メモリ40に記録される。
【0075】
次に、全ての車載カメラ50についてキャリブレーション処理を行ったか(すなわち、設置パラメータを導出したか)が判定される(ステップS16)。未処理の車載カメラ50がある場合は、再度、処理はステップS13に戻り、別の画像が注目画像として選択される。そして、上記同様にして、注目画像を取得した車載カメラの設置パラメータが導出される。このような処理が繰り返され、最終的に、4つの車載カメラ50全ての設置パラメータが導出される。
【0076】
全ての車載カメラ50の設置パラメータが導出されると、それに応答して、4つの車載カメラ50で得られた4つの画像と、導出された設置パラメータとが利用されて、合成画像生成部32により仮想視点からみた車両9の周辺の様子を示す合成画像が生成される(ステップS17)。この際、仮想視点の視点位置は、車両9における左右及び前後の双方に関して中央となる位置の直上に設定され、視点方向は直下に向けられる。すなわち、実際の車両9に対する車外カメラ21の位置関係と、車両9(立体曲面SPの車両像90)に対する仮想視点の位置関係とは、同一となるように設定される。
【0077】
図10は、キャリブレーション処理が理想的になされた場合に生成される合成画像CPを示す図である。一方、図11は、キャリブレーション処理が正確になされなかった場合に生成される合成画像CPの一例を示す図である。この合成画像CPにおいては、車両像90とともに、マーカ像80も含まれている。
【0078】
合成画像CPは、車両像90の前方領域A1はフロントカメラ51、車両像90の後方領域A2はバックカメラ52、車両像90の側方領域A3はサイドカメラ53のそれぞれで取得された画像によって構成される。したがって、車両9の左前方、右前方、左後方、及び、右後方の各領域においては、画像同士の接続部分が存在している。そして、この画像同士の接続部分において、マーカ像80が存在することになる。
【0079】
キャリブレーション処理が理想的になされた場合は、図10に示すように、合成画像CPに表現されるマーカ像80は正三角形となる。一方で、キャリブレーション処理が正確になされなかった場合は、図11に示すように、合成画像CPに表現されるマーカ像80は画像同士の接続部分で分断され、いびつな形状となる。
【0080】
図10の合成画像CPは図8に示す基準画像RPとほぼ同様の内容となるが、図11の合成画像CPは図8に示す基準画像RPとは大きく異なっている。このため、図12に示すように、処理判定部14は、生成された合成画像CPと基準画像RPとを比較し、大きく異なっていれば、キャリブレーション処理が正確になされていないと判定する。すなわち、設置パラメータの取得は不合格と判定することになる。
【0081】
この判定にあたっては、まず、合成画像CPと基準画像RPとの比較前に、合成画像CPと基準画像RPとの平均的な明るさが略一致するように調整がなされる(ステップS18)。具体的には、合成画像CPの平均輝度、及び、基準画像RPの平均輝度がそれぞれ導出される。そして、基準画像RPの平均輝度を合成画像CPの平均輝度で除算した値が係数として導出され、この係数が合成画像CPの各画素に乗算される。これにより、合成画像CPと基準画像RPとの平均的な明るさがおよそ一致することになる。このような、明るさの調整を行うことで、合成画像CPと基準画像RPとの比較を正確に行うことができる。
【0082】
次に、合成画像CPと基準画像RPとの比較がなされる(ステップS19)。この比較には周知の各種の画像比較手法を採用可能である。本実施の形態では、次の数1により、平均二乗誤差(MSE/Mean Square Error)を導出する。
【0083】
【数1】
ここで、Mは横方向の画素数、M’は縦方向の画素数、y(i,j)は合成画像CPの座標(i,j)の画素値、s(i,j)は基準画像RPの座標(i,j)の画素値をそれぞれ示している。すなわち、平均二乗誤差(MSE)は、合成画像CPと基準画像RPとにおいて、同一座標の画素間での差分をとり、その差分の二乗を平均することで導出される。
【0084】
したがって、差分二乗誤差は、合成画像CPと基準画像RPとの相違の程度を示す数値となる。差分二乗誤差が、小さいほど合成画像CPと基準画像RPとが近似し、合成画像CPは車両9の周辺の様子を良好に示すものとなる。逆に、差分二乗誤差大きいほど合成画像CPと基準画像RPとは相違し、合成画像CPは車両の周辺の様子を示すのに適さないものとなる。
【0085】
このため、本実施の形態では、この合成画像CPと基準画像RPとの比較結果となる差分二乗誤差が所定の閾値よりも小さい場合は、キャリブレーション処理が正確になされたと判断し、取得された設置パラメータを合格と判定する。逆に、差分二乗誤差が所定の閾値以上となる場合は、キャリブレーション処理が正確になされなかったと判断し、取得された設置パラメータを不合格と判定する。
【0086】
設置パラメータを合格と判定した場合は(ステップS20にてYes)、この設置パラメータが以降の合成画像の生成に用いるためのものとして確定され、不揮発性メモリ40に記録される(ステップS21)。
【0087】
一方、設置パラメータを不合格と判定した場合は(ステップS20にてYes)、キャリブレーション処理を再実行することを示すメッセージがディスプレイ33に表示される(ステップS22)。そして、処理は、ステップS12に戻り、キャリブレーション処理が再実行され、ユーザの操作に基づいて設置パラメータが再び導出される。このような処理は、設置パラメータが合格となるまで繰り返される。このため、合成画像の良否という観点において適切な設置パラメータを確実に取得することができることになる。
【0088】
以上のように、本実施の形態の画像表示装置1においては、キャリブレーション処理において、ユーザの操作に基づいて、複数の車載カメラ50のそれぞれに関する設置パラメータが導出される。この設置パラメータと、複数の車載カメラ50で得られる複数の画像とを利用して、所定の仮想視点からみた車両9の周辺の様子を示す合成画像CPが生成される。そして、生成された合成画像CPと、所定の位置からみた車両9の周辺の様子を示す基準画像RPとを比較し、その比較結果に基づいて設置パラメータの合否が判定される。このように、生成された合成画像CPを基準画像RPと比較することにより設置パラメータの合否を判定することから、生成される合成画像の良否という観点において適切な設置パラメータを取得できる。
【0089】
また、キャリブレーション処理がなされて設定パラメータが導出されると、それに応答して自動的に、設置パラメータの合否が判定される。このため、ユーザの操作を伴わずに設置パラメータの合否が判定されることから、設置パラメータの合否判定のために、ユーザのわずらわしい操作を必要としない。また、合否判定がなされないままの設置パラメータがその後の処理に用いられることも防止される。
【0090】
<5.他の実施の形態>
以上、本発明の実施の形態について説明してきたが、この発明は上記実施の形態に限定されるものではなく様々な変形が可能である。以下では、このような他の実施の形態について説明する。上記実施の形態で説明した形態及び以下で説明する形態を含む全ての形態は、適宜に組み合わせ可能である。
【0091】
<5−1.模様>
上記実施の形態では、キャリブレーション処理において複数の画像を複数の車載カメラ50で取得する際には、車両9の周囲に4つのマーカ8のみを配置していた。これに対して、図13に示すように、マーカ8以外に、床面に所定の模様7が示された作業場に車両9を配置するようにしてもよい。
【0092】
この場合において、車両9は作業場の予め定められた位置に配置される。その状態において、車両9の周辺には模様7が示され、この模様7は車両9の周囲全体を囲むことになる。そして、この状態で、上記実施の形態で説明した処理と同様の処理が実行される。
【0093】
図14は、この場合に取得される基準画像RPの一例を示す図である。基準画像RPにおいては、車両像90及びマーカ像80とともに、模様7の像(模様像70)も含まれている。また、図15は、キャリブレーション処理が正確になされなかった場合に生成された合成画像CPの一例を示す図である。この合成画像CPにおいても、車両像90及びマーカ像80とともに模様像70が含まれている。
【0094】
図14と図15とを比較してわかるように、キャリブレーション処理が正確になされなかった場合は、マーカ像80のみならず模様像70においても、合成画像CPと基準画像RPとで差が生じる。つまり、合成画像CPと基準画像RPとにおけるマーカ像80の相違は画像同士の接続部分のみとなるが、模様像70の相違は車両像90の周囲全体で生じる。このため、合成画像CPと基準画像RPとを比較した場合に、それらの相違の程度をより大きく示すことができる。このため、マーカ8のみを配置する場合よりも、合成画像CPと基準画像RPとの比較を正確に行うことが可能となる。また、模様7が車両9の周囲全体を囲むようになっていることから、車両9の周囲全体を示す合成画像の良否という観点において適切な設置パラメータを取得できる。
【0095】
<5−2.基準画像>
上記実施の形態では、車外カメラ21で実際に車両9を撮影することで基準画像RPを取得するようにしていた。これに対して、不揮発性メモリ40などに車両像とマーカ像を含む基準画像を予め記憶しておき、実際の撮影を行わないようにしてもよい。この場合は、基準画像としては、実写像ではなくCG等で作成したピクチャーなどを用いることも可能である。これによれば、基準画像取得装置2が不要になり、より簡易な構成で適切な設置パラメータを取得できる。
【0096】
ただし、この場合は、キャリブレーション処理を行う際の車両9とマーカ8との位置関係を正確に配置する必要がある。車両9とマーカ8との位置関係が多少正確でなくとも適切な設置パラメータを取得できるといった点では、上記実施の形態のように実際に車両9を撮影することで基準画像RPを取得することが望ましい。
【0097】
<5−3.その他変形例>
上記実施の形態では、車外カメラ21は車両9の直上に配置され、仮想視点の視点位置も車両9の直上に設定されていた。これに対して、車外カメラ21や仮想視点の車両9に対する位置は、車両9の前方や後方などの位置であってもよい。つまりは、実際の車両9に対する車外カメラ21の位置関係と、車両9(立体曲面SPの車両像90)に対する仮想視点の位置関係とが同一となるようにすればよい。ただし、車両9の周囲全体を示す合成画像を適切に生成可能な設置パラメータを取得するという観点からは、車外カメラ21や仮想視点の位置は車両9の直上とすることが望ましい。
【0098】
また、上記実施の形態では、合成画像CPと基準画像RPとの比較前に合成画像CPと基準画像RPとの平均的な明るさが略一致するように調整していた。これに対して、さらに、合成画像CPと基準画像RPとの比較前に、合成画像CPと基準画像RPとにおける被写体像の大きさや位置が略一致するように調整するようにしてもよい。これは、合成画像CPと基準画像RPとの双方に含まれる車両像90の位置やサイズを基準として、調整すればよい。このようにすれば、合成画像CPと基準画像RPとの比較をより正確に行うことができる。
【0099】
また、上記実施の形態では、合成画像CPと基準画像RPとを比較する際に、画像中の領域全体に関して比較を行っていたが、車両像90を除いた周辺領域のみや、マーカ像80が存在する車両像90の左前方、右前方、左後方及び右後方の領域のみを用いて比較を行うようにしてもよい。
【0100】
また、上記実施の形態では、プログラムに従ったCPUの演算処理によってソフトウェア的に各種の機能が実現されると説明したが、これら機能のうちの一部は電気的なハードウェア回路により実現されてもよい。また逆に、ハードウェア回路によって実現されるとした機能のうちの一部は、ソフトウェア的に実現されてもよい。
【符号の説明】
【0101】
1 画像表示装置
2 基準画像取得装置
5 撮影部
7 模様
8 マーカ
9 車両
13 キャリブレーション部
14 処理判定部
21 車外カメラ
50 車載カメラ
【技術分野】
【0001】
本発明は、車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置に関する。
【背景技術】
【0002】
従来より、自動車などの車両に搭載され、車載カメラで車両の周辺を撮影して得られた画像を車室内のディスプレイに表示する画像表示装置が知られている。この画像表示装置を利用することにより、ドライバは車両の周辺の様子をほぼリアルタイムに把握することができる。
【0003】
画像表示装置の車載カメラを車両に設置する場合においては、車両に対する車載カメラの設置上のわずかな誤差に起因して、表示される画像に含まれる被写体像の位置については設計上の位置に対しずれが生じる。このため、キャリブレーション処理を実行することで、車載カメラの実際の設置に関する設置パラメータ(例えば、ロール角、チルト角、パン角など)を取得し、当該設置パラメータを用いて表示する画像に処理を施すことがなされている(例えば、特許文献1参照。)。
【0004】
一般に、キャリブレーション処理は、所定形状のマーカを車両の外部に配置した状態で車載カメラが撮影して得られた画像を表示させ、その画像中に含まれるマーカの像の位置をユーザ(画像表示装置を設置する作業員等)が指定することで実行される。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2007−261463号公報
【特許文献2】特許第3286306号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、近年では、複数の車載カメラで車両の周辺を撮影して得られる複数の画像を利用して、車両の直上や後方などの任意の仮想視点からみた車両の周辺の様子を示す合成画像を生成してディスプレイに表示する画像表示装置が提案されている(例えば、特許文献2参照。)。この画像表示装置では、車両の周囲の全体を示す画像をディスプレイに表示させることも可能である。
【0007】
このように合成画像の生成のために複数の車載カメラを用いる場合においても、キャリブレーション処理は、複数の車載カメラのそれぞれに関して実行され、車載カメラごとに設置パラメータが取得される。そして、この車載カメラごとの設置パラメータを用いて複数の画像が合成されて合成画像が生成される。したがって、生成される合成画像の良否は、複数の車載カメラのそれぞれの設置パラメータの取得の精度に影響を受ける。
【0008】
しかしながら、従来、キャリブレーション処理が正確になされたか否かの判定基準(すなわち、設置パラメータの合否の判定基準)が存在せず、生成される合成画像の良否という観点から適切な設置パラメータが取得されていなかった。その結果、車両の周辺の様子を示すのに適さない合成画像が生成される可能性があった。
【0009】
本発明は、上記課題に鑑みてなされたものであり、生成される合成画像の良否という観点において適切な設置パラメータを取得できる技術を提供することを目的とする。
【課題を解決するための手段】
【0010】
上記課題を解決するため、請求項1の発明は、車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置であって、ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する導出手段と、前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して、所定の仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する生成手段と、生成された前記合成画像と、所定の位置からみた前記車両の周辺の様子を示す基準画像とを比較し、その比較結果に基づいて前記設置パラメータの合否を判定する判定手段と、を備えている。
【0011】
また、請求項2の発明は、請求項1に記載のパラメータ取得装置において、前記基準画像は、前記車両の外部に配置される一つの車外カメラにより実際の前記車両の周辺を撮影して取得される。
【0012】
また、請求項3の発明は、請求項1または2に記載のパラメータ取得装置において、前記生成手段は、前記仮想視点を前記車両の直上に設定し、前記判定手段は、前記合成画像と、前記車両の直上からみた基準画像とを比較する。
【0013】
また、請求項4の発明は、請求項1ないし3のいずれかに記載のパラメータ取得装置において、前記判定手段による比較前に、前記合成画像と前記基準画像との平均的な明るさが略一致するように調整する調整手段、をさらに備えている。
【0014】
また、請求項5の発明は、請求項1ないし4のいずれかに記載のパラメータ取得装置において、前記複数の画像を前記複数の車載カメラで取得する際に前記車両は、該車両の周辺に所定の模様が示された状態で配置され、前記基準画像には、前記所定の模様が含まれている。
【0015】
また、請求項6の発明は、請求項5に記載のパラメータ取得装置において、前記所定の模様は、前記車両の周囲全体を囲む。
【0016】
また、請求項7の発明は、請求項1ないし6のいずれかに記載のパラメータ取得装置において、前記判定手段は、前記導出手段による前記設置パラメータの導出に応答して、当該設置パラメータの合否を判定する。
【0017】
また、請求項8の発明は、車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置であって、ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する導出手段と、前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して生成される所定の仮想視点からみた前記車両の周辺の様子を示す合成画像と比較するための、所定の位置からみた前記車両の周辺の様子を示す基準画像を記憶する記憶手段と、を備えている。
【0018】
また、請求項9の発明は、車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得システムであって、請求項1ないし8のいずれかに記載のパラメータ取得装置と、前記車両の外部に配置され、実際の前記車両の周辺を撮影して前記基準画像を取得する車外カメラと、を備えている。
【0019】
また、請求項10の発明は、車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得方法であって、ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する工程と、前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して、所定の仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する工程と、生成された前記合成画像と、所定の位置からみた前記車両の周辺の様子を示す基準画像とを比較し、その比較結果に基づいて前記設置パラメータの合否を判定する工程と、を備えている。
【0020】
また、請求項11の発明は、車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置に含まれるコンピュータによって実行可能なプログラムであって、前記プログラムの前記コンピュータによる実行は、前記コンピュータに、ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する工程と、前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して、所定の仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する工程と、生成された前記合成画像と、所定の位置からみた前記車両の周辺の様子を示す基準画像とを比較し、その比較結果に基づいて前記設置パラメータの合否を判定する工程と、を実行させる。
【発明の効果】
【0021】
請求項1ないし11の発明によれば、生成された合成画像を基準画像と比較することにより設置パラメータの合否を判定することから、生成される合成画像の良否という観点において適切な設置パラメータを取得できる。
【0022】
また、特に請求項2の発明によれば、一つの車外カメラで実際の車両の周辺を撮影することで基準画像が取得されるため、車両やマーカ等を厳密に配置しなくても、適切な設置パラメータを取得できる。
【0023】
また、特に請求項3の発明によれば、仮想視点を車両の直上とすることで、車両の周囲全体を示す合成画像を適切に生成可能な設置パラメータを取得できる。
【0024】
また、特に請求項4の発明によれば、合成画像と基準画像との平均的な明るさが略一致するように調整するため、合成画像と基準画像との比較を正確に行うことができる。
【0025】
また、特に請求項5の発明によれば、所定の模様が含まれた基準画像と合成画像とを比較するため、合成画像と基準画像との比較を正確に行うことができる。
【0026】
また、特に請求項6の発明によれば、車両の周囲全体を示す合成画像の良否という観点において適切な設置パラメータを取得できる。
【0027】
また、特に請求項7の発明によれば、設置パラメータを取得するとそれに応答して判定が行われるため、ユーザがわずらわしい操作を必要としない。
【図面の簡単な説明】
【0028】
【図1】図1は、パラメータ取得システムの概要を示す図である。
【図2】図2は、画像表示装置の構成を示すブロック図である。
【図3】図3は、車載カメラが車両に設置される位置を示す図である。
【図4】図4は、合成画像を生成する手法を説明するための図である。
【図5】図5は、画像表示装置の動作モードの遷移を示す図である。
【図6】図6は、キャリブレーション処理に関連する処理の流れを示す図である。
【図7】図7は、車両が配置される様子を示す図である。
【図8】図8は、基準画像の一例を示す図である。
【図9】図9は、キャリブレーション処理でのディスプレイの表示例を示す図である。
【図10】図10は、合成画像の一例を示す図である。
【図11】図11は、合成画像の一例を示す図である。
【図12】図12は、合成画像と基準画像との比較を示す図である。
【図13】図13は、車両が配置される様子を示す図である。
【図14】図14は、基準画像の一例を示す図である。
【図15】図15は、合成画像の一例を示す図である。
【発明を実施するための形態】
【0029】
以下、図面を参照しつつ本発明の実施の形態について説明する。
【0030】
<1.構成>
図1は、本実施の形態に係るパラメータ取得システム100の概要を示す図である。パラメータ取得システム100は、キャリブレーション処理を実行して、車両(本実施の形態では自動車)9に搭載される車載カメラの設置に関する設置パラメータを取得するものである。パラメータ取得システム100は、車両9の外部に配置される基準画像取得装置2と、車両9に搭載される画像表示装置1とを備えている。
【0031】
基準画像取得装置2は、車両工場や車両整備場などにおける、車両9に画像表示装置1を設置する作業場に固定的に配置される。基準画像取得装置2は、車両9の外部から撮影を行う一つの車外カメラ21と、車外カメラ21で得られた画像を記録する記録部22とを備えている。車外カメラ21は車両9の直上に配置される一方で、記録部22は画像表示装置1を設置する作業員が作業しやすい位置に配置される。車外カメラ21と記録部22とは、ケーブルなどで通信可能に接続されている。
【0032】
車外カメラ21は、車両9の直上から鉛直方向に光軸21aを向けた状態で、車両9及び車両9の周辺を撮影する。これにより、車両9及び車両9の周辺の様子を示す画像が取得される。取得された画像は記録部22に送信され、記録部22において可搬性の記録媒体であるメモリカードMCに記録される。このようにして記録された画像は、画像表示装置1でのキャリブレーション処理が正確になされたか否かの判定に用いる基準画像となり、メモリカードMCを介して画像表示装置1に受け渡される。
【0033】
画像表示装置1は、車両9の周辺を撮影して画像を生成してディスプレイに表示する機能を有している。画像表示装置1は、ディスプレイの画面がドライバから視認可能なように、車両9のインストルメントパネルなどの車室内の適位置に設置される。この画像表示装置1のディスプレイの画面を閲覧することにより、車両9のドライバは当該車両9の周辺の様子をほぼリアルタイムに把握できる。また、画像表示装置1は、ナビゲーション装置としても機能し、車両9のドライバに対しナビゲーション案内を行うことが可能である。
【0034】
さらに、画像表示装置1は、車両9に搭載された車載カメラの設置に関する設置パラメータを取得するキャリブレーション処理を実行するパラメータ取得装置としても機能する。画像表示装置1は、このキャリブレーション処理が正確になされたか否かの判定(以下、「キャリブレーション判定」ともいう。)に、基準画像取得装置2から受け渡された基準画像を利用する。
【0035】
図2は、画像表示装置1の構成を主に示すブロック図である。図に示すように、画像表示装置1は、車両9の周辺を撮影する撮影部5と、撮影部5で取得された画像を処理する合成画像生成部32と、ナビゲーション機能を実現するナビゲーション部31と、各種情報を表示するディスプレイ33と、ユーザ操作を受け付ける操作部34とを備えている。
【0036】
撮影部5は、車載カメラ50であるフロントカメラ51、バックカメラ52及びサイドカメラ53を備えている。これらの車載カメラ50はそれぞれ、CCDやCMOSなどの撮像素子を備えており電子的に画像を取得する。
【0037】
図3は、車載カメラ50が車両9に設置される位置を示す図である。図3に示すように、フロントカメラ51は、車両9の前端にあるナンバープレート取付位置の近傍に設けられ、その光軸51aは車両9の直進方向に向けられている。バックカメラ52は、車両9の後端にあるナンバープレート取付位置の近傍に設けられ、その光軸52aは車両9の直進方向の逆方向に向けられている。また、サイドカメラ53は、左右のドアミラー93にそれぞれ設けられており、その光軸53aは車両9の左右方向に沿って外部に向けられている。
【0038】
これらの車載カメラ50のレンズとしては魚眼レンズなどが採用されており、各車載カメラ50は180度以上の画角αを有している。このため、4つの車載カメラ50を利用することで、車両9の全周囲の撮影が可能となっている。また、車両9の左前方、右前方、左後方、及び、右後方の各領域は、4つの車載カメラ50のうちの2つの車載カメラ50によって重複して撮影することが可能となっている。
【0039】
図2に戻り、合成画像生成部32は、各種の画像処理が可能なハードウェア回路として構成されている。合成画像生成部32は、撮影部5の複数の車載カメラ50で取得された複数の画像に基づいて、任意の仮想視点からみた車両の周辺の様子を示す合成画像を生成する。合成画像生成部32が、仮想視点からみた合成画像を生成する手法については後述する。
【0040】
ナビゲーション部31は、ナビゲーション案内のための各種情報を出力する専用の基板として構成される。具体的には、ナビゲーション部31は、車両9の現在位置に応じた地図画像を出力するとともに、目的地が設定された場合は目的地までのルートを設定して当該ルートに応じた案内情報を出力する。
【0041】
ディスプレイ33は、液晶パネルなどを備えて構成され、合成画像生成部32で生成された合成画像や、ナビゲーション部31から提供される地図画像などを表示する。ディスプレイ33は、タッチパネル機能を有しており、ユーザから各種操作を受け付けることが可能となっている。また、操作部34は、物理的な複数のボタンで構成され、ユーザから各種操作を受け付ける。
【0042】
また、画像表示装置1は、信号入力部35、カード読取部36、及び、不揮発性メモリ40を備えている。
【0043】
信号入力部35は、車両9に設けられた画像表示装置1の外部の各種装置からの信号を入力する。具体的には、信号入力部35は、シフトセンサ91及び車速度センサ92などから、各種情報を示す信号を入力する。シフトセンサ91からは、車両9の変速装置のシフトレバーの操作の位置、すなわち、”P(駐車)”,”D(前進)”,”N(中立)”,”R(後退)”などのシフトポジションが入力される。車速度センサ92からは、その時点の車両9の走行速度(km/h)が入力される。
【0044】
カード読取部36は、可搬性の記録媒体であるメモリカードMCの読み取りを行う。カード読取部36は、メモリカードMCの着脱が可能なカードスロットを備えており、そのカードスロットに装着されたメモリカードMCに記録されたデータを読み取る。メモリカードMCは、種々のデータを記憶可能なフラッシュメモリなどで構成されており、画像表示装置1はメモリカードMCに記憶された種々のデータを利用できる。
【0045】
また、不揮発性メモリ40は、電源オフ時においても記憶内容を維持可能なフラッシュメモリなどで構成されている。不揮発性メモリ40には、設置パラメータ41、基準画像42、及び、プログラム49が記憶されている。
【0046】
設置パラメータ41は、4つの車載カメラ50それぞれの車両9への設置に関する情報を示すものである。具体的には、設置パラメータ41には、車載カメラ50ごとのロール角、チルト角、パン角などが含まれている。この設置パラメータ41は、キャリブレーション処理において取得され、合成画像生成部32が合成画像を生成する際に利用される。
【0047】
基準画像42は、キャリブレーション判定において利用される。基準画像42は、基準画像取得装置2で記録されたメモリカードMCをカード読取部36で読み取ることで取得される。
【0048】
プログラム49は、画像表示装置1のファームウェアである。このプログラム49は、新たなプログラムが記憶されたメモリカードMCをカード読取部36で読み出すことで更新可能となっている。
【0049】
また、画像表示装置1は、上述した各部を制御するための制御部10を備えている。制御部10は、CPU、RAM及びROMなどを備えたコンピュータとして構成される。制御部10の各種の制御機能は、不揮発性メモリ40に記憶されたプログラム49に従ってCPUが演算処理を行うことで実現される。図中に示す、モード切替部11、画像制御部12、キャリブレーション部13、及び、処理判定部14は、このようにして実現される制御部10の機能のうちの一部を示している。
【0050】
モード切替部11は、画像表示装置1の動作モードを切り替えるものである。画像表示装置1は、ナビゲーション案内を行うためのナビゲーションモードと、車両9の周辺の様子を示す画像表示モードとを有しており、通常は所定の条件によりこれら2つのモードがモード切替部11により切り替えられる。
【0051】
画像制御部12は、合成画像生成部32によって実行される合成画像の生成処理を制御するものである。画像制御部12は、例えば、合成画像を生成する際に、設置パラメータ41を不揮発性メモリ40から読み出して合成画像生成部32に送信する。
【0052】
キャリブレーション部13は、4つの車載カメラ50の設置に関する設置パラメータを取得するキャリブレーション処理を行うものである。また、処理判定部14は、キャリブレーション判定を行うものである。すなわち、処理判定部14は、キャリブレーション処理で取得された設置パラメータ41の合否の判定を行う。これらの制御部100の機能の詳細については後述する。
【0053】
<2.合成画像の生成>
次に、合成画像生成部32が、撮影部5で得られた複数の画像に基づいて任意の仮想視点からみた車両9の周辺の様子を示す合成画像を生成する手法について説明する。合成画像を生成する際には、不揮発性メモリ40に予め記憶された設置パラメータ41が利用される。図4は、合成画像を生成する手法を説明するための図である。
【0054】
撮影部5のフロントカメラ51、バックカメラ52及びサイドカメラ53で同時に撮影が行われると、車両9の前方、後方、左側方、及び、右側方をそれぞれ示す4つの画像P1〜P4が取得される。すなわち、撮影部5で取得される4つの画像P1〜P4には、撮影時点の車両9の全周囲を示す情報が含まれていることになる。
【0055】
次に、4つの画像P1〜P4の各画素が、仮想的な三次元空間における立体曲面SPに投影される。立体曲面SPは、例えば略半球状(お椀形状)をしており、その中心部分(お椀の底部分)が車両9が存在する位置として定められている。画像P1〜P4に含まれる各画素の位置と、この立体曲面SPの各画素の位置とは対応関係がある。このため、立体曲面SPの各画素の値は、この対応関係と画像P1〜P4に含まれる各画素の値とに基づいて決定される。
【0056】
画像P1〜P4の各画素の位置と立体曲面SPの各画素の位置との対応関係は、4つの車載カメラ50の設置パラメータ41(ロール角、チルト角、パン角等)によって変化する。このため、不揮発性メモリ40に記憶された設置パラメータ41が用いられて基準となるデフォルトの対応関係が修正され、この修正された対応関係が立体曲面SPへの投影に利用される。
【0057】
また、不揮発性メモリ40などに予め記憶された車体の形状やサイズを示すポリゴンデータが用いられ、車両9の三次元形状を示すポリゴンモデルである車両像90が仮想的に構成される。構成された車両像90は、立体曲面SPが設定される三次元空間において、車両9の位置と定められた略半球状の中心部分に配置される。
【0058】
さらに、立体曲面SPが存在する三次元空間に対して、制御部10の画像制御部12により仮想視点VPが設定される。仮想視点VPは、視点位置と視野方向とで規定され、この三次元空間における車両9の周辺に相当する任意の視点位置に任意の視野方向に向けて設定される。
【0059】
そして、設定された仮想視点VPに応じて、立体曲面SPにおける必要な領域が画像として切り出される。仮想視点VPと、立体曲面SPにおける必要な領域との関係は予め定められており、テーブルデータとして不揮発性メモリ40等に予め記憶されている。一方で、設定された仮想視点VPに応じてポリゴンで構成された車両像90に関してレンダリングがなされ、その結果となる二次元の車両像90が、切り出された画像に対して重畳される。これにより、任意の仮想視点からみた車両9及びその車両9の周辺の様子を示す合成画像が生成されることになる。
【0060】
例えば、視点位置が車両9の略中央の直上で、視野方向が略直下方向とした仮想視点VP1を設定した場合は、車両9の略直上から車両9を見下ろすように、車両9及び車両9の周辺の様子を示す合成画像CP1が生成される。また、図中に示すように、視点位置が車両9の左後方で、視野方向が車両9における略前方とした仮想視点VP2を設定した場合は、車両9の左後方からその周辺全体を見渡すように、車両9及び車両9の周辺の様子を示す合成画像CP2が生成される。
【0061】
なお、実際に合成画像を生成する場合においては、立体曲面SPの全ての画素の値を決定する必要はなく、設定された仮想視点VPに対応して必要となる領域の画素の値のみを画像P1〜P4に基づいて決定することで、処理速度を向上できる。
【0062】
<3.モード切替>
前述のように、画像表示装置1は、ナビゲーションモードと画像表示モードとを動作モードとして有している。図5は、画像表示装置1の動作モードの遷移を示す図である。
【0063】
ナビゲーションモードM1においては、ナビゲーション案内に用いる地図画像NPを含む画面がディスプレイ33に表示される。一方、画像表示モードM2では、車両9の周辺の様子を示す合成画像CPが含まれる画面がディスプレイ33に表示される。
【0064】
ナビゲーションモードM1と画像表示モードM2とは、シフトセンサ91及び車速度センサ92などの信号に基づき、所定の条件に従ってモード切替部11により切り替えられる。例えば、ナビゲーションモードM1において、シフトレバーが”R(後退)”となった場合は、画像表示モードM2に切り替えられ、車両9の後方の様子を示す合成画像が含まれる画面が表示される。また、ナビゲーションモードM1において、前進時に走行速度(km/h)が所定速度(例えば10km/h)以下となった場合は、画像表示モードM2に切り替えられ、車両9の前方及び側方の様子を示す合成画像が含まれる画面が表示される。
【0065】
さらに、画像表示モードM2において所定の操作部34に所定の操作がなされると、モード切替部11は、キャリブレーション処理を行うためのキャリブレーションモードM3に動作モードを移行する。
【0066】
<4.キャリブレーション処理>
図6は、パラメータ取得システム100におけるキャリブレーション処理に関連する処理の流れを示す図である。この処理においては、まず、基準画像取得装置2において基準画像が取得される(ステップS1,S2)。その後、画像表示装置1においてキャリブレーション処理(ステップS11〜S16)と、キャリブレーション判定(ステップS16〜S22)とが実行されるようになっている。キャリブレーション処理(ステップS11〜S16)はキャリブレーション部13の制御により実行され、キャリブレーション判定(ステップS16〜S22)は処理判定部14の制御により実行される。
【0067】
この処理の開始時点においては、画像表示装置1の動作モードはキャリブレーションモードM3とされている。また、図7に示すように、キャリブレーション処理の対象となる車両9は所定の作業場に配置され、車両9の周囲には4つのマーカ8が配置される。4つのマーカ8はそれぞれ、2つの車載カメラ50によって重複して撮影される4つの領域(すなわち、車両9の左前方、右前方、左後方、及び、右後方の各領域)に配置される。各マーカ8は、平面状のプレートで構成され、表面形状は正三角形となっている。また、車両9における左右及び前後の双方に関して中央となる位置の直上に、基準画像取得装置2の車外カメラ21がその光軸を直下に向けた状態で配置される。
【0068】
まず、図7に示す状態で、実際の車両9及びその周辺のマーカ8を含む領域を被写体として、基準画像取得装置2の一つの車外カメラ21において撮影がなされる(ステップS1)。これにより、図8に示すような画像RPが取得される。この画像RPには、車両9の像(車両像)90及びマーカ8の像(マーカ像)80が含まれている。この画像RPは、記録部22に送信され、基準画像として記録部22においてメモリカードMCに記録される(ステップS2)。
【0069】
次に、メモリカードMCが基準画像取得装置2から取り出され、画像表示装置1のカードスロットに装着される。そして、画像表示装置1において、メモリカードMCに記録された基準画像RPが読み出され、不揮発性メモリ40に記録される(図6のステップS11)。
【0070】
次に、車両9の4つの車載カメラ50においてほぼ同時に撮影がなされ、それぞれの車載カメラ50において画像が取得される(ステップS12)。
【0071】
次に、取得された4つの画像のうちの一つがキャリブレーション処理の対象となる注目画像として選択され、キャリブレーション処理を行うためにディスプレイ33に表示される(ステップS13)。図9は、この場合のディスプレイ33の表示例を示す図である。図に示すように、ディスプレイ33には、車載カメラ50で取得された注目画像Pが表示されている。この注目画像Pにおいては、左右の両端付近に2つのマーカ像80が含まれている。
【0072】
また、画面上には、ユーザが操作可能な複数のコマンドボタンCと、マーカ像80の位置を指定するための複数のポイント指標Mとが表示される。ポイント指標Mは、2つの三角形のマーカ像80の頂点の位置をそれぞれ指定するものであるため、6(=2×3)個のポイント指標Mが表示される。
【0073】
表示された6つのポイント指標Mのうち一つはカーソルで選択され、選択中のポイント指標Mは上下左右の方向を示すコマンドボタンCに触れることによって画面上を移動できる。また、「ポイント切替」と表記されたコマンドボタンCに触れることで、選択するポイント指標Mを切り替えることが可能である。ユーザ(キャリブレーション処理に係る作業を行う作業員等)は、これらのコマンドボタンCに触れることで、すべてのポイント指標Mをマーカ像80の頂点の位置に移動させる。そして、ユーザが「ポイント切替」と表記されたコマンドボタンCに触れると、マーカ像80の位置を示す6つのポイント指標Mの位置が、キャリブレーション部13に受け付けられる(ステップS14)。
【0074】
次に、キャリブレーション部13は、取得された6つのポイント指標Mの位置に基づいて、所定の演算を行って、当該注目画像Pを取得した車載カメラの設置パラメータを導出する。例えば、画面左側のポイント指標Mと画面右側のポイント指標Mとの高さの差に基づいてロール角を導出し、ポイント指標Mの画面の上下位置に基づいてチルト角を導出し、ポイント指標Mの画面の左右位置に基づいてパン角を導出する(ステップS15)。導出した設置パラメータは、不揮発性メモリ40に記録される。
【0075】
次に、全ての車載カメラ50についてキャリブレーション処理を行ったか(すなわち、設置パラメータを導出したか)が判定される(ステップS16)。未処理の車載カメラ50がある場合は、再度、処理はステップS13に戻り、別の画像が注目画像として選択される。そして、上記同様にして、注目画像を取得した車載カメラの設置パラメータが導出される。このような処理が繰り返され、最終的に、4つの車載カメラ50全ての設置パラメータが導出される。
【0076】
全ての車載カメラ50の設置パラメータが導出されると、それに応答して、4つの車載カメラ50で得られた4つの画像と、導出された設置パラメータとが利用されて、合成画像生成部32により仮想視点からみた車両9の周辺の様子を示す合成画像が生成される(ステップS17)。この際、仮想視点の視点位置は、車両9における左右及び前後の双方に関して中央となる位置の直上に設定され、視点方向は直下に向けられる。すなわち、実際の車両9に対する車外カメラ21の位置関係と、車両9(立体曲面SPの車両像90)に対する仮想視点の位置関係とは、同一となるように設定される。
【0077】
図10は、キャリブレーション処理が理想的になされた場合に生成される合成画像CPを示す図である。一方、図11は、キャリブレーション処理が正確になされなかった場合に生成される合成画像CPの一例を示す図である。この合成画像CPにおいては、車両像90とともに、マーカ像80も含まれている。
【0078】
合成画像CPは、車両像90の前方領域A1はフロントカメラ51、車両像90の後方領域A2はバックカメラ52、車両像90の側方領域A3はサイドカメラ53のそれぞれで取得された画像によって構成される。したがって、車両9の左前方、右前方、左後方、及び、右後方の各領域においては、画像同士の接続部分が存在している。そして、この画像同士の接続部分において、マーカ像80が存在することになる。
【0079】
キャリブレーション処理が理想的になされた場合は、図10に示すように、合成画像CPに表現されるマーカ像80は正三角形となる。一方で、キャリブレーション処理が正確になされなかった場合は、図11に示すように、合成画像CPに表現されるマーカ像80は画像同士の接続部分で分断され、いびつな形状となる。
【0080】
図10の合成画像CPは図8に示す基準画像RPとほぼ同様の内容となるが、図11の合成画像CPは図8に示す基準画像RPとは大きく異なっている。このため、図12に示すように、処理判定部14は、生成された合成画像CPと基準画像RPとを比較し、大きく異なっていれば、キャリブレーション処理が正確になされていないと判定する。すなわち、設置パラメータの取得は不合格と判定することになる。
【0081】
この判定にあたっては、まず、合成画像CPと基準画像RPとの比較前に、合成画像CPと基準画像RPとの平均的な明るさが略一致するように調整がなされる(ステップS18)。具体的には、合成画像CPの平均輝度、及び、基準画像RPの平均輝度がそれぞれ導出される。そして、基準画像RPの平均輝度を合成画像CPの平均輝度で除算した値が係数として導出され、この係数が合成画像CPの各画素に乗算される。これにより、合成画像CPと基準画像RPとの平均的な明るさがおよそ一致することになる。このような、明るさの調整を行うことで、合成画像CPと基準画像RPとの比較を正確に行うことができる。
【0082】
次に、合成画像CPと基準画像RPとの比較がなされる(ステップS19)。この比較には周知の各種の画像比較手法を採用可能である。本実施の形態では、次の数1により、平均二乗誤差(MSE/Mean Square Error)を導出する。
【0083】
【数1】
ここで、Mは横方向の画素数、M’は縦方向の画素数、y(i,j)は合成画像CPの座標(i,j)の画素値、s(i,j)は基準画像RPの座標(i,j)の画素値をそれぞれ示している。すなわち、平均二乗誤差(MSE)は、合成画像CPと基準画像RPとにおいて、同一座標の画素間での差分をとり、その差分の二乗を平均することで導出される。
【0084】
したがって、差分二乗誤差は、合成画像CPと基準画像RPとの相違の程度を示す数値となる。差分二乗誤差が、小さいほど合成画像CPと基準画像RPとが近似し、合成画像CPは車両9の周辺の様子を良好に示すものとなる。逆に、差分二乗誤差大きいほど合成画像CPと基準画像RPとは相違し、合成画像CPは車両の周辺の様子を示すのに適さないものとなる。
【0085】
このため、本実施の形態では、この合成画像CPと基準画像RPとの比較結果となる差分二乗誤差が所定の閾値よりも小さい場合は、キャリブレーション処理が正確になされたと判断し、取得された設置パラメータを合格と判定する。逆に、差分二乗誤差が所定の閾値以上となる場合は、キャリブレーション処理が正確になされなかったと判断し、取得された設置パラメータを不合格と判定する。
【0086】
設置パラメータを合格と判定した場合は(ステップS20にてYes)、この設置パラメータが以降の合成画像の生成に用いるためのものとして確定され、不揮発性メモリ40に記録される(ステップS21)。
【0087】
一方、設置パラメータを不合格と判定した場合は(ステップS20にてYes)、キャリブレーション処理を再実行することを示すメッセージがディスプレイ33に表示される(ステップS22)。そして、処理は、ステップS12に戻り、キャリブレーション処理が再実行され、ユーザの操作に基づいて設置パラメータが再び導出される。このような処理は、設置パラメータが合格となるまで繰り返される。このため、合成画像の良否という観点において適切な設置パラメータを確実に取得することができることになる。
【0088】
以上のように、本実施の形態の画像表示装置1においては、キャリブレーション処理において、ユーザの操作に基づいて、複数の車載カメラ50のそれぞれに関する設置パラメータが導出される。この設置パラメータと、複数の車載カメラ50で得られる複数の画像とを利用して、所定の仮想視点からみた車両9の周辺の様子を示す合成画像CPが生成される。そして、生成された合成画像CPと、所定の位置からみた車両9の周辺の様子を示す基準画像RPとを比較し、その比較結果に基づいて設置パラメータの合否が判定される。このように、生成された合成画像CPを基準画像RPと比較することにより設置パラメータの合否を判定することから、生成される合成画像の良否という観点において適切な設置パラメータを取得できる。
【0089】
また、キャリブレーション処理がなされて設定パラメータが導出されると、それに応答して自動的に、設置パラメータの合否が判定される。このため、ユーザの操作を伴わずに設置パラメータの合否が判定されることから、設置パラメータの合否判定のために、ユーザのわずらわしい操作を必要としない。また、合否判定がなされないままの設置パラメータがその後の処理に用いられることも防止される。
【0090】
<5.他の実施の形態>
以上、本発明の実施の形態について説明してきたが、この発明は上記実施の形態に限定されるものではなく様々な変形が可能である。以下では、このような他の実施の形態について説明する。上記実施の形態で説明した形態及び以下で説明する形態を含む全ての形態は、適宜に組み合わせ可能である。
【0091】
<5−1.模様>
上記実施の形態では、キャリブレーション処理において複数の画像を複数の車載カメラ50で取得する際には、車両9の周囲に4つのマーカ8のみを配置していた。これに対して、図13に示すように、マーカ8以外に、床面に所定の模様7が示された作業場に車両9を配置するようにしてもよい。
【0092】
この場合において、車両9は作業場の予め定められた位置に配置される。その状態において、車両9の周辺には模様7が示され、この模様7は車両9の周囲全体を囲むことになる。そして、この状態で、上記実施の形態で説明した処理と同様の処理が実行される。
【0093】
図14は、この場合に取得される基準画像RPの一例を示す図である。基準画像RPにおいては、車両像90及びマーカ像80とともに、模様7の像(模様像70)も含まれている。また、図15は、キャリブレーション処理が正確になされなかった場合に生成された合成画像CPの一例を示す図である。この合成画像CPにおいても、車両像90及びマーカ像80とともに模様像70が含まれている。
【0094】
図14と図15とを比較してわかるように、キャリブレーション処理が正確になされなかった場合は、マーカ像80のみならず模様像70においても、合成画像CPと基準画像RPとで差が生じる。つまり、合成画像CPと基準画像RPとにおけるマーカ像80の相違は画像同士の接続部分のみとなるが、模様像70の相違は車両像90の周囲全体で生じる。このため、合成画像CPと基準画像RPとを比較した場合に、それらの相違の程度をより大きく示すことができる。このため、マーカ8のみを配置する場合よりも、合成画像CPと基準画像RPとの比較を正確に行うことが可能となる。また、模様7が車両9の周囲全体を囲むようになっていることから、車両9の周囲全体を示す合成画像の良否という観点において適切な設置パラメータを取得できる。
【0095】
<5−2.基準画像>
上記実施の形態では、車外カメラ21で実際に車両9を撮影することで基準画像RPを取得するようにしていた。これに対して、不揮発性メモリ40などに車両像とマーカ像を含む基準画像を予め記憶しておき、実際の撮影を行わないようにしてもよい。この場合は、基準画像としては、実写像ではなくCG等で作成したピクチャーなどを用いることも可能である。これによれば、基準画像取得装置2が不要になり、より簡易な構成で適切な設置パラメータを取得できる。
【0096】
ただし、この場合は、キャリブレーション処理を行う際の車両9とマーカ8との位置関係を正確に配置する必要がある。車両9とマーカ8との位置関係が多少正確でなくとも適切な設置パラメータを取得できるといった点では、上記実施の形態のように実際に車両9を撮影することで基準画像RPを取得することが望ましい。
【0097】
<5−3.その他変形例>
上記実施の形態では、車外カメラ21は車両9の直上に配置され、仮想視点の視点位置も車両9の直上に設定されていた。これに対して、車外カメラ21や仮想視点の車両9に対する位置は、車両9の前方や後方などの位置であってもよい。つまりは、実際の車両9に対する車外カメラ21の位置関係と、車両9(立体曲面SPの車両像90)に対する仮想視点の位置関係とが同一となるようにすればよい。ただし、車両9の周囲全体を示す合成画像を適切に生成可能な設置パラメータを取得するという観点からは、車外カメラ21や仮想視点の位置は車両9の直上とすることが望ましい。
【0098】
また、上記実施の形態では、合成画像CPと基準画像RPとの比較前に合成画像CPと基準画像RPとの平均的な明るさが略一致するように調整していた。これに対して、さらに、合成画像CPと基準画像RPとの比較前に、合成画像CPと基準画像RPとにおける被写体像の大きさや位置が略一致するように調整するようにしてもよい。これは、合成画像CPと基準画像RPとの双方に含まれる車両像90の位置やサイズを基準として、調整すればよい。このようにすれば、合成画像CPと基準画像RPとの比較をより正確に行うことができる。
【0099】
また、上記実施の形態では、合成画像CPと基準画像RPとを比較する際に、画像中の領域全体に関して比較を行っていたが、車両像90を除いた周辺領域のみや、マーカ像80が存在する車両像90の左前方、右前方、左後方及び右後方の領域のみを用いて比較を行うようにしてもよい。
【0100】
また、上記実施の形態では、プログラムに従ったCPUの演算処理によってソフトウェア的に各種の機能が実現されると説明したが、これら機能のうちの一部は電気的なハードウェア回路により実現されてもよい。また逆に、ハードウェア回路によって実現されるとした機能のうちの一部は、ソフトウェア的に実現されてもよい。
【符号の説明】
【0101】
1 画像表示装置
2 基準画像取得装置
5 撮影部
7 模様
8 マーカ
9 車両
13 キャリブレーション部
14 処理判定部
21 車外カメラ
50 車載カメラ
【特許請求の範囲】
【請求項1】
車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置であって、
ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する導出手段と、
前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して、所定の仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する生成手段と、
生成された前記合成画像と、所定の位置からみた前記車両の周辺の様子を示す基準画像とを比較し、その比較結果に基づいて前記設置パラメータの合否を判定する判定手段と、
を備えることを特徴とするパラメータ取得装置。
【請求項2】
請求項1に記載のパラメータ取得装置において、
前記基準画像は、前記車両の外部に配置される一つの車外カメラにより実際の前記車両の周辺を撮影して取得されることを特徴とするパラメータ取得装置。
【請求項3】
請求項1または2に記載のパラメータ取得装置において、
前記生成手段は、前記仮想視点を前記車両の直上に設定し、
前記判定手段は、前記合成画像と、前記車両の直上からみた基準画像とを比較することを特徴とするパラメータ取得装置。
【請求項4】
請求項1ないし3のいずれかに記載のパラメータ取得装置において、
前記判定手段による比較前に、前記合成画像と前記基準画像との平均的な明るさが略一致するように調整する調整手段、
をさらに備えることを特徴とするパラメータ取得装置。
【請求項5】
請求項1ないし4のいずれかに記載のパラメータ取得装置において、
前記複数の画像を前記複数の車載カメラで取得する際に前記車両は、該車両の周辺に所定の模様が示された状態で配置され、
前記基準画像には、前記所定の模様が含まれていることを特徴とするパラメータ取得装置。
【請求項6】
請求項5に記載のパラメータ取得装置において、
前記所定の模様は、前記車両の周囲全体を囲むことを特徴とするパラメータ取得装置。
【請求項7】
請求項1ないし6のいずれかに記載のパラメータ取得装置において、
前記判定手段は、前記導出手段による前記設置パラメータの導出に応答して、当該設置パラメータの合否を判定することを特徴とするパラメータ取得装置。
【請求項8】
車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置であって、
ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する導出手段と、
前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して生成される所定の仮想視点からみた前記車両の周辺の様子を示す合成画像と比較するための、所定の位置からみた前記車両の周辺の様子を示す基準画像を記憶する記憶手段と、
を備えることを特徴とするパラメータ取得装置。
【請求項9】
車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得システムであって、
請求項1ないし8のいずれかに記載のパラメータ取得装置と、
前記車両の外部に配置され、実際の前記車両の周辺を撮影して前記基準画像を取得する車外カメラと、
を備えることを特徴とするパラメータ取得システム。
【請求項10】
車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得方法であって、
ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する工程と、
前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して、所定の仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する工程と、
生成された前記合成画像と、所定の位置からみた前記車両の周辺の様子を示す基準画像とを比較し、その比較結果に基づいて前記設置パラメータの合否を判定する工程と、
を備えることを特徴とするパラメータ取得方法。
【請求項11】
車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置に含まれるコンピュータによって実行可能なプログラムであって、
前記プログラムの前記コンピュータによる実行は、前記コンピュータに、
ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する工程と、
前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して、所定の仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する工程と、
生成された前記合成画像と、所定の位置からみた前記車両の周辺の様子を示す基準画像とを比較し、その比較結果に基づいて前記設置パラメータの合否を判定する工程と、
を実行させることを特徴とするプログラム。
【請求項1】
車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置であって、
ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する導出手段と、
前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して、所定の仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する生成手段と、
生成された前記合成画像と、所定の位置からみた前記車両の周辺の様子を示す基準画像とを比較し、その比較結果に基づいて前記設置パラメータの合否を判定する判定手段と、
を備えることを特徴とするパラメータ取得装置。
【請求項2】
請求項1に記載のパラメータ取得装置において、
前記基準画像は、前記車両の外部に配置される一つの車外カメラにより実際の前記車両の周辺を撮影して取得されることを特徴とするパラメータ取得装置。
【請求項3】
請求項1または2に記載のパラメータ取得装置において、
前記生成手段は、前記仮想視点を前記車両の直上に設定し、
前記判定手段は、前記合成画像と、前記車両の直上からみた基準画像とを比較することを特徴とするパラメータ取得装置。
【請求項4】
請求項1ないし3のいずれかに記載のパラメータ取得装置において、
前記判定手段による比較前に、前記合成画像と前記基準画像との平均的な明るさが略一致するように調整する調整手段、
をさらに備えることを特徴とするパラメータ取得装置。
【請求項5】
請求項1ないし4のいずれかに記載のパラメータ取得装置において、
前記複数の画像を前記複数の車載カメラで取得する際に前記車両は、該車両の周辺に所定の模様が示された状態で配置され、
前記基準画像には、前記所定の模様が含まれていることを特徴とするパラメータ取得装置。
【請求項6】
請求項5に記載のパラメータ取得装置において、
前記所定の模様は、前記車両の周囲全体を囲むことを特徴とするパラメータ取得装置。
【請求項7】
請求項1ないし6のいずれかに記載のパラメータ取得装置において、
前記判定手段は、前記導出手段による前記設置パラメータの導出に応答して、当該設置パラメータの合否を判定することを特徴とするパラメータ取得装置。
【請求項8】
車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置であって、
ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する導出手段と、
前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して生成される所定の仮想視点からみた前記車両の周辺の様子を示す合成画像と比較するための、所定の位置からみた前記車両の周辺の様子を示す基準画像を記憶する記憶手段と、
を備えることを特徴とするパラメータ取得装置。
【請求項9】
車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得システムであって、
請求項1ないし8のいずれかに記載のパラメータ取得装置と、
前記車両の外部に配置され、実際の前記車両の周辺を撮影して前記基準画像を取得する車外カメラと、
を備えることを特徴とするパラメータ取得システム。
【請求項10】
車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得方法であって、
ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する工程と、
前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して、所定の仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する工程と、
生成された前記合成画像と、所定の位置からみた前記車両の周辺の様子を示す基準画像とを比較し、その比較結果に基づいて前記設置パラメータの合否を判定する工程と、
を備えることを特徴とするパラメータ取得方法。
【請求項11】
車両に搭載された複数の車載カメラの設置に関する設置パラメータを取得するパラメータ取得装置に含まれるコンピュータによって実行可能なプログラムであって、
前記プログラムの前記コンピュータによる実行は、前記コンピュータに、
ユーザの操作に基づいて、前記複数の車載カメラのそれぞれに関する前記設置パラメータを導出する工程と、
前記複数の車載カメラで得られる複数の画像と前記設置パラメータとを利用して、所定の仮想視点からみた前記車両の周辺の様子を示す合成画像を生成する工程と、
生成された前記合成画像と、所定の位置からみた前記車両の周辺の様子を示す基準画像とを比較し、その比較結果に基づいて前記設置パラメータの合否を判定する工程と、
を実行させることを特徴とするプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【公開番号】特開2011−151666(P2011−151666A)
【公開日】平成23年8月4日(2011.8.4)
【国際特許分類】
【出願番号】特願2010−12213(P2010−12213)
【出願日】平成22年1月22日(2010.1.22)
【出願人】(000237592)富士通テン株式会社 (3,383)
【Fターム(参考)】
【公開日】平成23年8月4日(2011.8.4)
【国際特許分類】
【出願日】平成22年1月22日(2010.1.22)
【出願人】(000237592)富士通テン株式会社 (3,383)
【Fターム(参考)】
[ Back to top ]