画像処理装置及び方法並びに車両
【課題】車載カメラの設置誤差を吸収しつつ、広範囲の被写界を表示可能な視界支援システムを提供する。
【解決手段】視界支援システムは、車載カメラの撮影画像を拡張鳥瞰図画像に変換して表示する。視界支援システムは、撮影画像を地面に投影するための第1の変換行列H1を平面射影変換によって求める。一方で、撮影画像を地面と異なる平面に投影するための第2の変換行列H2(例えば、無変換の単位行列)を設定する。拡張鳥瞰図画像を車両近辺に対応する第1領域(253)と車両遠方に対応する第2領域(254)に分割し、第1領域にはH1に基づく鳥瞰図画像を描画する一方で第2領域にはH1とH2とを加重加算した加重加算変換行列に基づく画像を表示する。第1及び第2領域の画像が滑らかに接合されるように、両領域間の境界からの距離に応じて加重加算の重みを変更する。
【解決手段】視界支援システムは、車載カメラの撮影画像を拡張鳥瞰図画像に変換して表示する。視界支援システムは、撮影画像を地面に投影するための第1の変換行列H1を平面射影変換によって求める。一方で、撮影画像を地面と異なる平面に投影するための第2の変換行列H2(例えば、無変換の単位行列)を設定する。拡張鳥瞰図画像を車両近辺に対応する第1領域(253)と車両遠方に対応する第2領域(254)に分割し、第1領域にはH1に基づく鳥瞰図画像を描画する一方で第2領域にはH1とH2とを加重加算した加重加算変換行列に基づく画像を表示する。第1及び第2領域の画像が滑らかに接合されるように、両領域間の境界からの距離に応じて加重加算の重みを変更する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラの撮影画像に対して画像処理を行う画像処理装置及び画像処理方法に関し、特に例えば、車載カメラの撮影画像から鳥瞰図画像に類似或いは関連する画像を生成して表示する車両周辺視界支援技術に関する。また本発明は、その画像処理装置を利用した車両に関する。
【背景技術】
【0002】
近年の安全意識の高まりに伴って、自動車などの車両にカメラ(車載カメラ)が搭載されることが多くなっている。また、カメラの映像を単に表示するのではなく、画像処理技術を利用して、より人間に優しい映像を見せる研究がなされている。その1つに、斜め下向きに設置されたカメラの撮影画像を、座標変換(換言すれば画像変換)によって地面の上方から眺めたような画像に変換する技術がある(例えば、下記特許文献1参照)。この画像は、一般的に鳥瞰図画像(或いは俯瞰図画像)と呼ばれる。
【0003】
このような座標変換の手法として、透視投影変換を用いる手法(例えば、下記特許文献2参照)と平面射影変換を用いる手法(例えば、下記特許文献3参照)が知られている。
【0004】
透視投影変換では、カメラの取り付け角度及びカメラの設置高さなどのカメラ外部情報とカメラの焦点距離(或いは画角)などのカメラ内部情報とに基づいて、撮影画像を設定平面(路面など)上に投影するための変換パラメータを算出する。このため、精度よく座標変換を行うためにはカメラ外部情報を正確に把握することが必要となる。カメラの取り付け角度やカメラの設置高さなどは、事前に設計されていることが多いが、それらの設計値と実際に車両に設置したときのそれらとの間には誤差が生じるため、正確な変換パラメータを計測または推定することは困難であることが多い。つまり、透視投影変換に基づく座標変換は、カメラの設置誤差の影響を受けやすい。
【0005】
平面射影変換では、撮影領域内に校正パターンを配置し、撮影した校正パターンに基づいて、撮影画像の座標(2次元カメラ座標)と変換画像の座標(2次元世界座標)との対応関係を示す変換行列を求める、という校正作業を行う。この変換行列は、一般的に、ホモグラフィ行列と呼ばれる。平面射影変換によれば、カメラ外部情報やカメラ内部情報を必要とせず、また、実際に撮影された校正パターンに基づいて撮影画像と変換画像との間の対応座標が指定されるため、カメラの設置誤差の影響を受けない(或いは受けにくい)。
【0006】
透視投影変換又は平面射影変換を介して得た鳥瞰図画像を表示することによって、運転者は車体と障害物の距離を把握しやすくなる。しかしながら、鳥瞰図画像は、その特性上、車両遠方の描画を不得手とする。つまり、単純に鳥瞰図画像を表示するシステムでは、カメラでは撮影されている車両遠方の映像を表示することが困難であるという問題がある。
【0007】
この問題に対して、車両近辺に対応する画像領域おいては鳥瞰図画像を表示する一方、車両遠方に対応する画像領域においては遠方用画像を表示する技術が提案されている。この技術は例えば特許文献2に記載されており、特許文献2には、更に両画像領域間を滑らかに接合する手法も開示されている。この技術によれば、鳥瞰図画像による車体と障害物の距離の把握容易化という利点を享受しつつ、車両遠方に対する視界をも支援することが可能となる。つまり、広範囲で優れた視認性を得る事が可能となる。
【0008】
【特許文献1】特開平3−99952号公報
【特許文献2】特開2006−287892号公報
【特許文献3】特開2006−148745号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
しかしながら、この特許文献2に記載の技術の実現に当たっては透視投影変換が必要となるため、カメラの設置誤差の影響を受けてしまう。平面射影変換を用いればカメラの設置誤差を吸収することも可能となるが、平面射影変換を用いたのでは特許文献2に記載の技術を実現できない。
【0010】
そこで本発明は、広範囲の画像描写を確保しつつ、カメラの設置誤差の影響を受けにくした画像処理を実現する画像処理装置及び画像処理方法を提供することを目的とする。また、本発明は、それらを利用した車両を提供することを目的とする。
【課題を解決するための手段】
【0011】
本発明に係る画像処理装置は、カメラの撮影画像を所定の第1面上に投影するための第1変換パラメータと前記撮影画像を前記第1面と異なる所定の第2面上に投影するための第2変換パラメータとを含む複数の変換パラメータに基づいて、前記撮影画像から変換画像を生成する画像処理装置であって、前記変換画像を第1領域及び第2領域を含む複数の領域に分割し、前記第1変換パラメータに基づいて前記第1領域内の画像が得られるように且つ前記第1及び第2変換パラメータを加重加算して得られる加重加算変換パラメータに基づいて前記第2領域内の画像が得られるように、前記撮影画像から前記変換画像を生成する変換画像生成手段を備えたことを特徴とする。
【0012】
第1面及び第2面を適切に設定すれば、広範囲の被写界を変換画像上に描画することが可能となる。そして、上述のように構成すれば、第1及び/又は第2変換パラメータを平面射影変換によって導出することが可能となる。故に、カメラの設置誤差の影響を受けにくくすることが可能である。また、加重加算変換パラメータを用いて第2領域内の画像を生成することにより、第1及び第2領域の画像を滑らかに接合することも可能である。
【0013】
具体的には例えば、前記カメラの設置位置に比較的近い被写体が前記第1領域内の画像に現れ且つ前記設置位置から比較的遠い被写体が前記第2領域内の画像に現れる。
【0014】
また例えば、前記第2領域内の各点に対応する前記加重加算の重みは、前記第1領域と前記第2領域との境界から各点までの距離に応じて設定される。
【0015】
これにより、第1及び第2領域の画像の滑らかな接合を実現可能である。
【0016】
具体的には例えば、前記距離が増加するに従って前記加重加算変換パラメータに対する前記第2変換パラメータの寄与度が増加するように、前記重みを設定すればよい。
【0017】
また例えば、前記カメラは車両に設置され、前記第1面は前記車両が配置される地面であり、前記変換画像生成手段は、前記第1変換パラメータに従って前記カメラの撮影画像の一部画像を前記車両の上方の仮想視点から見た鳥瞰図画像に変換し、この鳥瞰図画像を前記第1領域内の画像として前記変換画像に含める。
【0018】
そして、本発明に係る車両には、上記のカメラ及び画像処理装置が設置されている。
【0019】
また本発明に係る画像処理方法は、カメラの撮影画像を所定の第1面上に投影するための第1変換パラメータと前記撮影画像を前記第1面と異なる所定の第2面上に投影するための第2変換パラメータとを含む複数の変換パラメータに基づいて、前記撮影画像から変換画像を生成する画像処理方法であって、前記変換画像を第1領域及び第2領域を含む複数の領域に分割し、前記第1変換パラメータに基づいて前記第1領域内の画像が得られるように且つ前記第1及び第2変換パラメータを加重加算して得られる加重加算変換パラメータに基づいて前記第2領域内の画像が得られるように、前記撮影画像から前記変換画像を生成することを特徴とする。
【発明の効果】
【0020】
本発明によれば、広範囲の画像描写を確保しつつ、カメラの設置誤差の影響を受けにくした画像処理を実現する画像処理装置及び画像処理方法を提供することができる。
【0021】
本発明の意義ないし効果は、以下に示す実施の形態の説明により更に明らかとなろう。ただし、以下の実施の形態は、あくまでも本発明の一つの実施形態であって、本発明ないし各構成要件の用語の意義は、以下の実施の形態に記載されたものに制限されるものではない。
【発明を実施するための最良の形態】
【0022】
以下、本発明の実施の形態につき、図面を参照して具体的に説明する。参照される各図において、同一の部分には同一の符号を付し、同一の部分に関する重複する説明を原則として省略する。
【0023】
図1(a)は、自動車である車両100を上方から見た平面図である。図1(b)は、車両100を側方から見た平面図である。車両100は、地面上に配置されているものとする。車両100の後部には、車両100後方の安全確認を支援するためのカメラ1が設置されている。カメラ1は、車両100の後方側に視野を有するように車両100に設置される。符号110が付された破線扇型領域は、カメラ1の撮影領域を表している。カメラ1の視野に車両100付近の後方側地面が含まれるように、カメラ1は後方下向きに設置される。尚、車両100として普通乗用車を例示しているが、車両100は、普通乗用車以外(トラックなど)であってもよい。
【0024】
以下の説明において、地面は水平面上にあるものとし、「高さ」は、地面を基準とした高さを表すものとする。図1(b)に示されるhは、カメラ1の高さ(カメラ1が設置されている地点の高さ)を表す。
【0025】
図2に、本発明の実施形態に係る視界支援システムの構成ブロック図を示す。カメラ1は、撮影を行い、撮影によって得られた画像(以下、撮影画像とも言う)を表す信号を画像処理装置2に送る。画像処理装置2は、撮影画像から拡張鳥瞰図画像を生成する。但し、拡張鳥瞰図画像の基となる撮影画像に対してレンズ歪み補正などの画像処理を施し、その画像処理後の撮影画像を拡張鳥瞰図画像に変換するものとする。表示装置3は、この拡張鳥瞰図画像を映像として表示する。
【0026】
本実施形態における拡張鳥瞰図画像は、通常の鳥瞰図画像とは異なる。詳細は後述するが、概略的に言えば、本実施形態における拡張鳥瞰図画像は、車両100に比較的近い領域において通常の鳥瞰図画像が描かれるように且つ車両100から比較的遠い領域において原画像(撮影画像そのもの)に近い画像が描かれるように生成された画像である。尚、本実施形態において、「通常の鳥瞰図画像」と「鳥瞰図画像」とは同じものを指す。
【0027】
鳥瞰図画像は、実際のカメラ1の撮影画像を仮想カメラの視点(仮想視点)から見た画像に変換したものである。より具体的には、鳥瞰図画像は、実際のカメラ1の撮影画像を、地上面を鉛直方向に見下ろした画像に変換したものである。この種の画像変換は、一般に、視点変換とも呼ばれる。
【0028】
カメラ1として、例えばCCD(Charge Coupled Devices)を用いたカメラや、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いたカメラが用いられる。画像処理装置2は、例えば集積回路から形成される。表示装置3は、液晶ディスプレイパネル等から形成される。カーナビゲーションシステムなどに含まれる表示装置を、視界支援システムにおける表示装置3として流用しても良い。また、画像処理装置2は、カーナビゲーションシステムの一部として組み込まれうる。画像処理装置2及び表示装置3は、例えば、車両100の運転席付近に設置される。
【0029】
図3を参照して、図2の視界支援システムの全体的な動作手順を説明する。図3は、この動作手順を表すフローチャートである。
【0030】
拡張鳥瞰図画像を生成するためには、撮影画像を拡張鳥瞰図画像に変換するための変換パラメータが必要となる。この変換パラメータを算出するための処理がステップS1及びS2の処理に相当する。ステップS1及びS2の処理は、カメラ1の校正段階において、カメラ1の撮影画像に基づき画像処理装置2によって実施される。尚、ステップS1及びS2の処理にて実行される演算を、画像処理装置2と異なる外部の演算装置(不図示)に実行させるようにしてもよい。つまり、カメラ1の撮影画像に基づいて、外部の演算装置に後述の第1及び第2の変換行例H1及びH2を算出させ、算出された第1及び第2の変換行例H1及びH2を画像処理装置2に与えるようにしてもよい。
【0031】
ステップS1では、平面射影変換によって、カメラ1の撮影画像を通常の鳥瞰図画像に変換するための第1の変換行例H1を求める。平面射影変換そのものについては公知であり、公知の手法によって第1の変換行例H1を求めることができる。第1の変換行例H1を、以下、単にH1にて表すこともある。後に述べる、第2の変換行例H2及び第3の変換行例H3についても、夫々単にH2及びH3にて表すことがある。
【0032】
例えば、図4(a)に示すような、平面状の校正プレート120を用意し、図4(b)に示す如く、校正プレート120の全部又は一部がカメラ1の撮影領域(視野)に収まるように車両100を配置する。この配置がなされた状態にて、カメラ1が取得した撮影画像を「校正用撮影画像」という。また、校正用撮影画像を、第1の変換行例H1を用いて座標変換することによって得られる画像を「校正用変換画像」という。ステップS1では、校正用撮影画像に基づいて、第1の変換行例H1が求められる。
【0033】
校正プレート120の表面には、等間隔で縦及び横方向に配列された格子線が形成されており、撮影画像上に現れた、縦の格子線と横の格子線の各交点を画像処理装置2は抽出可能となっている。図4(a)及び(b)に示す例では、校正プレート120には所謂市松模様が描かれている。この市松模様は、互いに隣接する黒の正方形と白の正方形から形成されており、黒の正方形の一頂点と白の正方形の一頂点が接する点が、縦の格子線と横の格子線の交点に相当している。
【0034】
画像処理装置2は、校正プレート120の表面に形成された上記の各交点を特徴点として捉え、校正用撮影画像に現れている互いに異なる4つの特徴点を抽出して校正用撮影画像における該4つの特徴点の座標値を特定する。以下、図4(b)において符号121〜124が付された4つの交点を4つの特徴点とする場合を考える。上記の座標値の特定手法は任意である。例えば、エッジ検出処理などを用いて画像処理装置2に4つの特徴点を抽出させて上記座標値を特定するようにしてもよいし、外部から4つの特徴点の画像上の位置を画像処理装置2に教えるようにしてもよい。
【0035】
校正用撮影画像上における各点の座標を(xA,yA)にて表し、校正用変換画像上における各点の座標を(XA,YA)にて表す。xA及びXAは画像の水平方向の座標値であり、yA及びYAは画像の垂直方向の座標値である。校正用撮影画像上における座標(xA,yA)と校正用変換画像上における座標(XA,YA)との関係は、第1の変換行例H1を用いて下記式(1)のように表される。H1は、一般的に、ホモグラフィ行列とも呼ばれる。H1は、3行3列の行列であり、その行列の各要素をhA1〜hA9で表す。更に、hA9=1であるとする(hA9=1、となるように行列を正規化する)。また、式(1)より、座標(xA,yA)と座標(XA,YA)との関係は、下記式(2a)及び(2b)によって表すこともできる。
【0036】
【数1】
【数2】
【0037】
画像処理装置2によって特定された4つの特徴点121〜124の、校正用撮影画像上における座標値を(xA1,yA1)、(xA2,yA2)、(xA3,yA3)及び(xA4,yA4)とする。また、画像処理装置2が予め認識している既知情報に従い、校正用変換画像上における4つの特徴点の座標値を定める。定められた4つの座標値を(XA1,YA1)、(XA2,YA2)、(XA3,YA3)及び(XA4,YA4)とする。今、校正パターン120上で4つの特徴点121〜124が描く図形が正方形であるとする。そうすると、H1はカメラ1の撮影画像を通常の鳥瞰図画像に変換するための変換行例であるので、座標値(XA1,YA1)、(XA2,YA2)、(XA3,YA3)及び(XA4,YA4)を、例えば、(0,0)、(1,0)、(0,1)及び(1,1)と定義することができる。
【0038】
校正用撮影画像と校正用変換画像との間で4点の座標値対応関係が分かれば、第1の変換行列H1は一意に定まる。4点の座標値対応関係に基づきホモグラフィ行列(射影変換行列)としての第1の変換行列H1を求める手法として、公知の手法を用いればよい。例えば、特開2004−342067号公報に記載の手法(特に、段落[0059]〜[0069]に記載の手法を参照)を用いればよい。つまり、座標値(xA1,yA1)、(xA2,yA2)、(xA3,yA3)及び(xA4,yA4)が、夫々、座標値(XA1,YA1)、(XA2,YA2)、(XA3,YA3)及び(XA4,YA4)に変換されるように、H1の要素hA1〜hA8を求める。実際には、この変換の誤差(特開2004−342067号公報における評価関数)が最小化されるように要素hA1〜hA8を求める。
【0039】
一旦、第1の変換行列H1が求まれば、上記式(2a)及び(2b)に従って撮影画像上の任意の点を鳥瞰図画像上の点に変換することが可能である。尚、4点の座標値対応関係に基づいてH1を求める手法を説明したが、勿論、5点以上の座標値対応関係に基づいてH1を求めるようにしてもよい。
【0040】
図5に、カメラ1の撮影画像131と、H1を用いて撮影画像131を画像変換することによって得られる鳥瞰図画像132と、を示す。図5には、4つの特徴点(図4(b)における特徴点121〜124)の対応関係も示されている。
【0041】
図3のステップS1にて第1の変換行列H1を求めた後、ステップS2において、第2の変換行例H2を求める。第2の変換行例H2の導出法については後に詳説するが、ここで、H1とH2の違いを説明しておく。
【0042】
第1の変換行列H1はカメラ1の撮影画像を第1の平面上に投影するための変換行列である一方、第2の変換行列H2はカメラ1の撮影画像を第1の平面と異なる第2の平面上に投影するための変換行列である。今の例の場合、第1の平面は地面である。図6に、第1及び第2の平面と車両100との関係を表す平面図を示す。符号141が付された平面が第1の平面であり、符号142が付された平面が第2の平面である。第2の平面は、第1の平面(地面)に対して斜めの平面であり、第1の平面と平行ではなく且つ第1の平面と直交しない。カメラ1の光軸150は、例えば第2の平面に直交する。この場合、第2の平面はカメラ1の撮像面と平行となる。
【0043】
鳥瞰図画像は、第1の変換行列H1に基づいて実際のカメラ1の撮影画像を第1の視点から見た画像に変換したものであり、その第1の視点の高さは、カメラ1の高さh(図1(a))よりも十分に高い。一方、第2の変換行列H2は、実際のカメラ1の撮影画像を第2の視点から見た画像に変換するための変換行列であり、その第2の視点の高さは、第1の視点の高さよりも低く、例えばカメラ1の高さhと同じとされる。尚、第1及び第2の視点の水平方向の位置は、カメラ1の水平方向の位置と同じである。
【0044】
図3のステップS1及びS2にてH1及びH2が求められた後、ステップS3に移行し、ステップS3及びS4の処理が繰り返し実行される。ステップS1及びS2の処理がカメラ1の校正段階において実行されるのに対して、ステップS3及びS4の処理は、視界支援システムの実稼動時(実際の視界支援の実行時)に実行される。
【0045】
ステップS3では、図2の画像処理装置2が、カメラ1の撮影画像に対し、H1及びH2に基づく画像変換を行って拡張鳥瞰図画像を生成し、その拡張鳥瞰図画像を表す映像信号を表示装置3に送る。ステップS3に続くステップS4では、表示装置3が、与えられた映像信号を従って映像出力を行うことにより拡張鳥瞰図画像を表示画面上に表示する。
【0046】
拡張鳥瞰図画像の生成手法について詳説する。拡張鳥瞰図画像を、図7に示す如く、画像の垂直方向に分割して考える。この分割によって得られる2つの領域を、第1領域及び第2領域と呼ぶ。第1領域内の画像と第2領域内の画像とを接合した画像が拡張鳥瞰図画像である。図7において、波線200は、第1領域と第2領域との境界を表す。
【0047】
拡張鳥瞰図画像の原点をOで表す。拡張鳥瞰図画像において、原点Oを含む水平ラインを第1水平ラインとする。拡張鳥瞰図画像は、第1〜第n水平ライン上の各画素にて形成される。拡張鳥瞰図画像の上端側に第1水平ラインが配置され、下端側に第n水平ラインが配置される。拡張鳥瞰図画像において、第1水平ラインから第n水平ラインに向かって、順に、第1、第2、第3、・・・、第(m−1)、第m、第(m+1)、・・・、第(n−1)、第n水平ラインが配列されている。但し、m及びnは2以上の整数であって、m<nである。例えば、m=120、n=480である。
【0048】
第2領域内の画像は、第1〜第m水平ライン上の各画素から形成され、第1領域内の画像は、第(m+1)〜第n水平ライン上の各画素から形成される。そして、拡張鳥瞰図画像の下方側に車両100に近い領域に位置する被写体が現れるように、拡張鳥瞰図画像は生成される。つまり、カメラ1の撮像素子の中心を通る鉛直線と地面との交点を基準点とし、図8に示す如く、車両100の後方に向かう方向における基準点からの距離をDで表した場合、距離D=D1の地面上の点が第k1水平ライン上に現れ、距離D=D2の地面上の点が第k2水平ライン上に現れるように、拡張鳥瞰図画像は生成される。但し、D1<D2且つk1>k2である。
【0049】
図9に、撮影画像と拡張鳥瞰図画像との関係を示す。図9に示す如く、第1の変換行列H1を用いて撮影画像の一部領域210内の画像を座標変換したものが拡張鳥瞰図画像の第1領域220内の画像となり、加重加算変換行列H3を用いて撮影画像の一部領域211内の画像を座標変換したものが拡張鳥瞰図画像の第2領域221内の画像となる。一部領域210と一部領域211は互いに重なり合わない領域であり、一部領域210内に車両100近辺の被写体が現れ、一部領域211内に車両100遠方の被写体が現れる。
【0050】
加重加算変換行列H3は、第1の変換行列H1と第2の変換行列H2を加重加算(重み付け加算)することによって得られる。即ち、H3は、下記の式(3)によって表される。
【0051】
【数3】
【0052】
p及びqは、加重加算における重み係数である。常に、q=1−p且つ0<p<1が成立するものとする。H1による変換画像とH2による変換画像とが滑らかにつながるように、境界200(図7)からの距離に応じてp及びqは変更される。ここで、境界200からの距離とは、拡張鳥瞰図画像上における、第n水平ラインから第1水平ラインに向かう方向の距離を指すものとする。
【0053】
具体的には、境界200からの距離が増加するにつれてqを増加させてH3に対するH2の寄与度を増加させ、且つ、境界200からの距離が減少するにつれてpを増加させてH3に対するH1の寄与度を増加させる。即ち、図10に示す如く、e1<e2<mとし、第e1水平ラインについてのH3をH3=p1H1+q1H2で表し且つ第e2水平ラインについてのH3をH3=p2H1+q2H2で表した場合、p1<p2且つq1>q2が成立するようにp及びqは定められる。
【0054】
拡張鳥瞰図画像上の各画素に対応する変換行列が定まれば、拡張鳥瞰図画像の各画素の座標値に対応する撮影画像の各画素の座標値も定まる。つまり、撮影画像上のどの点に対して如何なる変換行列を適用すべきかを定めることができる。例えば、図11に示す如く、撮影画像の一部領域210内の各画素の座標値に対してH1を適用し、且つ、撮影画像の一部領域211a内の各画素の座標値に対してH3=p2H1+q2H2を適用し、且つ、撮影画像の一部領域211b内の各画素の座標値に対してH3=p1H1+q1H2を適用する、と定める。
【0055】
一旦、撮影画像の各画素の座標値に対して適用すべき変換行列が定まれば、その変換行列に従って任意の撮影画像を拡張鳥瞰図画像に変換することが可能である。実際には、例えば、上述のように定めた変換行列に従って、撮影画像の各画素の座標値と拡張鳥瞰図画像の各画素の座標値との対応関係を示すテーブルデータを作成し、これを図示されないメモリ(ルックアップテーブル)に格納しておく。そして、このテーブルデータを用いて、撮影画像を拡張鳥瞰図画像に変換するようにする。勿論、カメラ1にて撮影画像が得られる度にH1及びH3に基づく座標変換演算を行って拡張鳥瞰図画像を生成するようにしても構わない。
【0056】
図12に、撮影画像251と撮影画像251に対応する拡張鳥瞰図画像252の表示例を示す。拡張鳥瞰図画像252の下方側、即ち車両100に比較的近い領域253では、通常の鳥瞰図画像が表示される。運転者は、この通常の鳥瞰図画像を参照することにより、例えば車両100と車両後方の障害物との距離(実空間上の距離)を把握することが容易となる。
【0057】
一般的な鳥瞰変換を用いた場合、車両遠方領域を表示することが困難となるが、拡張鳥瞰図画像では、上方側の領域254に鳥瞰図画像よりも原画像(撮影画像)に近い画像が描画されるため、車両遠方に対する視界も支援される。そして、上述の如く加重加算変換行列H3を定めることにより、拡張鳥瞰図画像において、領域253内の画像と領域254内の画像が滑らかに接合され、視認性の良い映像表示が可能である。尚、一般的な鳥瞰変換を用いた場合、車両遠方領域において立体物が大きく変形してしまうという問題があるが、その問題も拡張鳥瞰図画像では改善されている。
【0058】
また、従来の如く透視投影変換を用いる場合は、カメラの設置誤差の影響を受けてしまうが、本実施形態に係る手法では、平面射影変換を用いているためカメラの設置誤差の影響を受けない(或いは受けにくい)。
【0059】
次に、図3のステップS2にて用いることの可能な、第2の変換行列H2の算出法について詳説する。H2の算出法として、以下に、第1〜第3算出法を例示する。
【0060】
各算出法に先立ち、図13(a)及び(b)を参照して、車両100に対するカメラ1の取り付け状態を考察する。図13(a)は、車両100を側方から見た平面図であり、図13(b)は、車両100を後方から見た平面図である。カメラ1は、車両100の後端に設置される訳であるが、カメラ1の光軸150を回転軸としてカメラ1が回転すると、実空間上で静止した被写体も撮影画像上において回転する。符号301は、この回転方向を示している。また、カメラ1が光軸150を含む平面上で回転すると(回転方向を符号302で表す)、実空間上で静止した被写体は撮影画像上において水平方向に移動する。
【0061】
[第1算出法]
まず、第1算出法について説明する。第1算出法は、カメラ1が、回転方向301及び回転方向302の双方において回転しておらず、車両100の後方に正確に(或いは略正確に)向けられていることを想定している。また更に、撮影画像から拡張鳥瞰図画像を生成する際に、画像を拡大又は縮小しないことを想定している。
【0062】
このような想定の下、第1算出法では、第2の変換行列H2を下記式(4)にて表されるように定める。式(4)のH2は、無変換の単位行列である。第1算出法を採用する場合、H2にて撮影画像が投影される平面(図6の第2の平面142に対応)は、カメラ1の撮像面に平行な平面(或いは撮像面そのもの)となる。
【0063】
【数4】
【0064】
[第2算出法]
次に、第2算出法について説明する。第2算出法は、カメラ1が回転方向301に回転していて撮影画像から拡張鳥瞰図画像を生成する際に画像の回転を行う必要がある場合、或いは、カメラ1が回転方向302に回転していて撮影画像から拡張鳥瞰図画像を生成する際に画像の水平移動を行う必要がある場合、或いは、撮影画像から拡張鳥瞰図画像を生成する際に画像の拡大又は縮小を行う必要がある場合、或いは、それらの組み合わせを行う必要がある場合を想定している。第2算出法を採用すれば、これらの場合に対応可能である。つまり、カメラ1の多様な設置条件に対応可能である。
【0065】
このような想定の下、第2算出法では、第2の変換行列H2を下記式(5)にて表されるように定める。ここで、Rは、式(6a)で表される、画像の回転を行うための行列であり、θは画像の回転角を表す。Tは、式(6b)で表される、画像の水平移動を行うための行列であり、tx及びtyは夫々画像の水平方向の移動量及び垂直方向の移動量を表す。Sは、式(6c)で表される、画像の拡大又は縮小を行うための行列であり、a及びbは夫々画像の水平方向の拡大率(又は縮小率)及び垂直方向の拡大率(又は縮小率)を表す。
【0066】
【数5】
【数6】
【0067】
ステップS1(図3参照)にて第1の変換行列H1を求める際に利用した校正用撮影画像に基づいて、行列R、T及びSを算出することができる。つまり、ステップS1にて特定された、校正用撮影画像上における4つの特徴点の座標値(xA1,yA1)、(xA2,yA2)、(xA3,yA3)及び(xA4,yA4)を利用して、行列R、T及びSを算出することができる。
【0068】
例えば、校正用撮影画像上において、この4つの特徴点の内、2つの特徴点(例えば、図4(b)の特徴点123及び124)間を結ぶ直線の傾きを検出し、この傾きから行列Rを決定する。画像処理装置2は、実空間における2つの特徴点の配置位置を表す既知の情報を参照しつつ、検出した傾きに応じて回転角θの値を決定する。
また例えば、校正用撮影画像上における4つの特徴点の座標値から行列Tを決定する。少なくとも1点の特徴点の座標値が分かれば、行列Tを決定することが可能である。特徴点の水平方向の座標値及び垂直方向の座標値と決定されるべき要素tx及びtyの値との関係は、校正パターン120の特性を考慮して予め設定されている。
また例えば、校正用撮影画像上において、この4つの特徴点の内、画像の水平方向に並ぶ2つの特徴点(例えば、図4(b)の特徴点123及び124)間の画素数を検出し、この画素数から行列Sの要素aを決定する。要素bについても同様に決定できる。検出された画素数と決定されるべき要素a及びbの値との関係は、校正パターン120の特性を考慮して予め設定されている。
【0069】
また、校正用撮影画像を利用することなく、車両100に対するカメラ1の設置条件を表す既知のパラメータに基づいて、行列R、T及びSを算出するようにしてもよい。
【0070】
[第3算出法]
次に、第3算出法について説明する。第3算出法では、第1の変換行列H1の算出法と同様に、平面射影変換を利用して第2の変換行列H2を算出する。つまり、具体的には以下のようにすればよい。
【0071】
今、校正用撮影画像を、第2の変換行例H2を用いて座標変換することによって得られる画像を「第2校正用変換画像」といい、第2校正用変換画像上における各点の座標を(XB,YB)にて表す。そうすると、校正用撮影画像上における座標(xA,yA)と第2校正用変換画像上における座標(XB,YB)との関係は、第2の変換行例H2を用いて下記式(7)のように表される。
【0072】
【数7】
【0073】
そして、画像処理装置2が予め認識している既知情報に従い、第2校正用変換画像上における4つの特徴点の座標値を定める。定められた4つの座標値を(XB1,YB1)、(XB2,YB2)、(XB3,YB3)及び(XB4,YB4)とする。座標値(XB1,YB1)〜(XB4,YB4)は、校正用撮影画像上の4つの特徴点を第1の平面141にではなく第2の平面142に投影したときの座標値である(図6参照)。その後、第1の変換行列H1を求めた時と同様に、校正用撮影画像と第2校正用変換画像との間における4点の座標値対応関係に基づき、H2の要素hB1〜hB8を求めればよい。
【0074】
<<変形等>>
上述した説明文中に示した具体的な数値は、単なる例示であって、当然の如く、それらを様々な数値に変更することができる。上述の実施形態の変形例または注釈事項として、以下に、注釈1〜注釈6を記す。各注釈に記載した内容は、矛盾なき限り、任意に組み合わせることが可能である。
【0075】
[注釈1]
図4(a)及び(b)に示したような複数の縦及び横の格子線が形成された校正プレート120を利用して平面射影変換を行う手法を上述したが、本発明はこれに限定されない。画像処理装置2が4点以上の特徴点を抽出可能な環境を整えれば、それで足る。
【0076】
[注釈2]
上述の実施形態では、第1及び第2の平面から成る2つの投影平面を想定し、2つの変換行列(H1及びH2)の導出を介して変換画像としての拡張鳥瞰図画像を生成したが、3以上の投影平面を想定し、3以上の変換行列の導出を介して変換画像を生成するようにしてもよい。3以上の投影平面の内、1つの投影平面が地面であるなら、この変換画像も拡張鳥瞰図画像と呼ぶことができる。
【0077】
例えば、投影平面として互いに異なる第1〜第3の平面を想定し、校正用撮影画像を第1、第2及び第3の平面に投影するための第1、第2及び第3の変換行列を求める。第1の平面は、例えば地面とする。
【0078】
そして、例えば図14(a)に示す如く、変換画像を領域321〜324から成る4つの領域に分割して考える。領域321内の画像は、第1の変換行列を用いて、カメラ1の撮影画像内の第1の一部画像を座標変換することにより得られるようにする。領域322内の画像は、第1の変換行列と第2の変換行列を加重加算して得られる加重加算変換行列を用いて、カメラ1の撮影画像内の第2の一部画像を座標変換することにより得られるようにする。領域323内の画像は、第1の変換行列と第3の変換行列を加重加算して得られる加重加算変換行列を用いて、カメラ1の撮影画像内の第3の一部画像を座標変換することにより得られるようにする。領域324内の画像は、第1、第2及び第3の変換行列を加重加算して得られる加重加算変換行列を用いて、カメラ1の撮影画像内の第4の一部画像を座標変換することにより得られるようにする。この場合、カメラ1の撮影画像は、第1〜第4の一部画像を結合した画像に相当する。
【0079】
図14(a)に示す例では、変換画像を4つの領域321〜324に分割しているが、変換画像に対する領域の分割の仕方は様々に変形されうる。例えば、図14(b)に示す如く、変換画像を3つの領域331〜333に分割するようにしてもよい。領域331内の画像は、第1の変換行列を用いて、カメラ1の撮影画像内の第1の一部画像を座標変換することにより得られる。領域332内の画像は、第1の変換行列と第2の変換行列を加重加算して得られる加重加算変換行列を用いて、カメラ1の撮影画像内の第2の一部画像を座標変換することにより得られる。領域333内の画像は、第1の変換行列と第3の変換行列を加重加算して得られる加重加算変換行列を用いて、カメラ1の撮影画像内の第3の一部画像を座標変換することにより得られる。この場合、カメラ1の撮影画像は、第1〜第3の一部画像を結合した画像に相当する。
【0080】
図14(a)又は(b)に対応するこれらの場合においても、上述したように、変換画像おける隣接する領域間の境界からの距離に応じて加重加算変換行列を生成する際の重みを徐々に変更するようにするとよい。
【0081】
[注釈3]
上述の手法は、複数のカメラの撮影画像を合成することにより広範囲の映像を出力するシステムに対しても適用可能である。例えば、車両の前後左右に1台ずつカメラを設置し、合計4台のカメラの撮影画像を幾何変換によって全周鳥瞰図画像に変換して、これを表示部に表示するシステムが既に開発されているが(例えば、特開2004−235986号公報参照)、このシステムに本発明の手法を適用することも可能である。全周鳥瞰図画像は車両周辺全周における鳥瞰図画像に相当するが、この全周鳥瞰図画像を生成する際に、複数の変換行列の加重加算を利用した画像変換を適用する。即ち、車両近辺の画像に対しては通常の鳥瞰図画像を生成するように画像変換を行い、車両遠方の画像に対しては複数の変換行列の加重加算して得られる加重加算変換行列を用いて画像変換を行うようにすればよい。
【0082】
この他、複数のカメラの撮影画像を合成してパノラマ画像を生成及び表示するシステムなどに対しても、本発明は適用可能である。
【0083】
[注釈4]
車載カメラとしてのカメラ1を用いた視界支援システムを例に挙げて本発明の実施形態を説明したが、画像処理装置2に接続されるべきカメラを車両以外に設置することも可能である。つまり、本発明は、建物などに設置される監視システムに対しても、適用可能である。この種の監視システムにおいても、上述の実施形態と同様、撮影画像から拡張鳥瞰図画像等の変換画像が生成され、該変換画像が表示装置に表示される。
【0084】
[注釈5]
図2の画像処理装置2の機能は、ハードウェア、ソフトウェア、またはハードウェアとソフトウェアの組み合わせによって実現可能である。画像処理装置2にて実現される機能の全部または一部を、プログラムとして記述し、該プログラムをコンピュータ上で実行することによって、その機能の全部または一部を実現するようにしてもよい。
【0085】
[注釈6]
例えば、以下のように考えることができる。上述の実施形態において、H1及びH2は夫々第1及び第2変換パラメータとして機能する。図2の画像処理装置2は、カメラ1の撮影画像から変換画像としての拡張鳥瞰図画像を生成する変換画像生成手段を含んでいる。
【図面の簡単な説明】
【0086】
【図1】本発明の実施形態に係り、カメラが設置された車両を上方から見た平面図(a)及び側方から見た平面図(b)である。
【図2】本発明の実施形態に係る視界支援システムの構成ブロック図である。
【図3】図2の視界支援システムの全体的な動作手順を表すフローチャートである。
【図4】図2の視界支援システムに対して校正処理を行う時に用いる校正プレートの平面図(a)と、校正処理を行う時における校正プレートと車両との配置関係を示す平面図(b)である。
【図5】図1のカメラの撮影画像と該撮影画像から得られる通常の鳥瞰図画像との関係を示す図である。
【図6】図1のカメラの撮影画像が投影される平面を示す図である。
【図7】図2の画像処理装置にて生成される拡張鳥瞰図画像を表す図である。
【図8】図1の車両後方側の距離を説明するための図である。
【図9】図2のカメラの撮影画像と拡張鳥瞰図画像との間の変換関係を表す図である。
【図10】図7の拡張鳥瞰図画像の各水平ラインに対応する変換行列を表す図である。
【図11】図2のカメラの撮影画像と拡張鳥瞰図画像との間の変換関係を表す図である。
【図12】図2のカメラの撮影画像と該撮影画像から得られる拡張鳥瞰図画像を示す図である。
【図13】図1の車両に対するカメラの取り付け状態を説明するための図である。
【図14】複数の変換行列の加重加算を利用してカメラの撮影画像から生成される変換画像の領域分割例を示す図である。
【符号の説明】
【0087】
1 カメラ
2 画像処理装置
3 表示装置
100 車両
【技術分野】
【0001】
本発明は、カメラの撮影画像に対して画像処理を行う画像処理装置及び画像処理方法に関し、特に例えば、車載カメラの撮影画像から鳥瞰図画像に類似或いは関連する画像を生成して表示する車両周辺視界支援技術に関する。また本発明は、その画像処理装置を利用した車両に関する。
【背景技術】
【0002】
近年の安全意識の高まりに伴って、自動車などの車両にカメラ(車載カメラ)が搭載されることが多くなっている。また、カメラの映像を単に表示するのではなく、画像処理技術を利用して、より人間に優しい映像を見せる研究がなされている。その1つに、斜め下向きに設置されたカメラの撮影画像を、座標変換(換言すれば画像変換)によって地面の上方から眺めたような画像に変換する技術がある(例えば、下記特許文献1参照)。この画像は、一般的に鳥瞰図画像(或いは俯瞰図画像)と呼ばれる。
【0003】
このような座標変換の手法として、透視投影変換を用いる手法(例えば、下記特許文献2参照)と平面射影変換を用いる手法(例えば、下記特許文献3参照)が知られている。
【0004】
透視投影変換では、カメラの取り付け角度及びカメラの設置高さなどのカメラ外部情報とカメラの焦点距離(或いは画角)などのカメラ内部情報とに基づいて、撮影画像を設定平面(路面など)上に投影するための変換パラメータを算出する。このため、精度よく座標変換を行うためにはカメラ外部情報を正確に把握することが必要となる。カメラの取り付け角度やカメラの設置高さなどは、事前に設計されていることが多いが、それらの設計値と実際に車両に設置したときのそれらとの間には誤差が生じるため、正確な変換パラメータを計測または推定することは困難であることが多い。つまり、透視投影変換に基づく座標変換は、カメラの設置誤差の影響を受けやすい。
【0005】
平面射影変換では、撮影領域内に校正パターンを配置し、撮影した校正パターンに基づいて、撮影画像の座標(2次元カメラ座標)と変換画像の座標(2次元世界座標)との対応関係を示す変換行列を求める、という校正作業を行う。この変換行列は、一般的に、ホモグラフィ行列と呼ばれる。平面射影変換によれば、カメラ外部情報やカメラ内部情報を必要とせず、また、実際に撮影された校正パターンに基づいて撮影画像と変換画像との間の対応座標が指定されるため、カメラの設置誤差の影響を受けない(或いは受けにくい)。
【0006】
透視投影変換又は平面射影変換を介して得た鳥瞰図画像を表示することによって、運転者は車体と障害物の距離を把握しやすくなる。しかしながら、鳥瞰図画像は、その特性上、車両遠方の描画を不得手とする。つまり、単純に鳥瞰図画像を表示するシステムでは、カメラでは撮影されている車両遠方の映像を表示することが困難であるという問題がある。
【0007】
この問題に対して、車両近辺に対応する画像領域おいては鳥瞰図画像を表示する一方、車両遠方に対応する画像領域においては遠方用画像を表示する技術が提案されている。この技術は例えば特許文献2に記載されており、特許文献2には、更に両画像領域間を滑らかに接合する手法も開示されている。この技術によれば、鳥瞰図画像による車体と障害物の距離の把握容易化という利点を享受しつつ、車両遠方に対する視界をも支援することが可能となる。つまり、広範囲で優れた視認性を得る事が可能となる。
【0008】
【特許文献1】特開平3−99952号公報
【特許文献2】特開2006−287892号公報
【特許文献3】特開2006−148745号公報
【発明の開示】
【発明が解決しようとする課題】
【0009】
しかしながら、この特許文献2に記載の技術の実現に当たっては透視投影変換が必要となるため、カメラの設置誤差の影響を受けてしまう。平面射影変換を用いればカメラの設置誤差を吸収することも可能となるが、平面射影変換を用いたのでは特許文献2に記載の技術を実現できない。
【0010】
そこで本発明は、広範囲の画像描写を確保しつつ、カメラの設置誤差の影響を受けにくした画像処理を実現する画像処理装置及び画像処理方法を提供することを目的とする。また、本発明は、それらを利用した車両を提供することを目的とする。
【課題を解決するための手段】
【0011】
本発明に係る画像処理装置は、カメラの撮影画像を所定の第1面上に投影するための第1変換パラメータと前記撮影画像を前記第1面と異なる所定の第2面上に投影するための第2変換パラメータとを含む複数の変換パラメータに基づいて、前記撮影画像から変換画像を生成する画像処理装置であって、前記変換画像を第1領域及び第2領域を含む複数の領域に分割し、前記第1変換パラメータに基づいて前記第1領域内の画像が得られるように且つ前記第1及び第2変換パラメータを加重加算して得られる加重加算変換パラメータに基づいて前記第2領域内の画像が得られるように、前記撮影画像から前記変換画像を生成する変換画像生成手段を備えたことを特徴とする。
【0012】
第1面及び第2面を適切に設定すれば、広範囲の被写界を変換画像上に描画することが可能となる。そして、上述のように構成すれば、第1及び/又は第2変換パラメータを平面射影変換によって導出することが可能となる。故に、カメラの設置誤差の影響を受けにくくすることが可能である。また、加重加算変換パラメータを用いて第2領域内の画像を生成することにより、第1及び第2領域の画像を滑らかに接合することも可能である。
【0013】
具体的には例えば、前記カメラの設置位置に比較的近い被写体が前記第1領域内の画像に現れ且つ前記設置位置から比較的遠い被写体が前記第2領域内の画像に現れる。
【0014】
また例えば、前記第2領域内の各点に対応する前記加重加算の重みは、前記第1領域と前記第2領域との境界から各点までの距離に応じて設定される。
【0015】
これにより、第1及び第2領域の画像の滑らかな接合を実現可能である。
【0016】
具体的には例えば、前記距離が増加するに従って前記加重加算変換パラメータに対する前記第2変換パラメータの寄与度が増加するように、前記重みを設定すればよい。
【0017】
また例えば、前記カメラは車両に設置され、前記第1面は前記車両が配置される地面であり、前記変換画像生成手段は、前記第1変換パラメータに従って前記カメラの撮影画像の一部画像を前記車両の上方の仮想視点から見た鳥瞰図画像に変換し、この鳥瞰図画像を前記第1領域内の画像として前記変換画像に含める。
【0018】
そして、本発明に係る車両には、上記のカメラ及び画像処理装置が設置されている。
【0019】
また本発明に係る画像処理方法は、カメラの撮影画像を所定の第1面上に投影するための第1変換パラメータと前記撮影画像を前記第1面と異なる所定の第2面上に投影するための第2変換パラメータとを含む複数の変換パラメータに基づいて、前記撮影画像から変換画像を生成する画像処理方法であって、前記変換画像を第1領域及び第2領域を含む複数の領域に分割し、前記第1変換パラメータに基づいて前記第1領域内の画像が得られるように且つ前記第1及び第2変換パラメータを加重加算して得られる加重加算変換パラメータに基づいて前記第2領域内の画像が得られるように、前記撮影画像から前記変換画像を生成することを特徴とする。
【発明の効果】
【0020】
本発明によれば、広範囲の画像描写を確保しつつ、カメラの設置誤差の影響を受けにくした画像処理を実現する画像処理装置及び画像処理方法を提供することができる。
【0021】
本発明の意義ないし効果は、以下に示す実施の形態の説明により更に明らかとなろう。ただし、以下の実施の形態は、あくまでも本発明の一つの実施形態であって、本発明ないし各構成要件の用語の意義は、以下の実施の形態に記載されたものに制限されるものではない。
【発明を実施するための最良の形態】
【0022】
以下、本発明の実施の形態につき、図面を参照して具体的に説明する。参照される各図において、同一の部分には同一の符号を付し、同一の部分に関する重複する説明を原則として省略する。
【0023】
図1(a)は、自動車である車両100を上方から見た平面図である。図1(b)は、車両100を側方から見た平面図である。車両100は、地面上に配置されているものとする。車両100の後部には、車両100後方の安全確認を支援するためのカメラ1が設置されている。カメラ1は、車両100の後方側に視野を有するように車両100に設置される。符号110が付された破線扇型領域は、カメラ1の撮影領域を表している。カメラ1の視野に車両100付近の後方側地面が含まれるように、カメラ1は後方下向きに設置される。尚、車両100として普通乗用車を例示しているが、車両100は、普通乗用車以外(トラックなど)であってもよい。
【0024】
以下の説明において、地面は水平面上にあるものとし、「高さ」は、地面を基準とした高さを表すものとする。図1(b)に示されるhは、カメラ1の高さ(カメラ1が設置されている地点の高さ)を表す。
【0025】
図2に、本発明の実施形態に係る視界支援システムの構成ブロック図を示す。カメラ1は、撮影を行い、撮影によって得られた画像(以下、撮影画像とも言う)を表す信号を画像処理装置2に送る。画像処理装置2は、撮影画像から拡張鳥瞰図画像を生成する。但し、拡張鳥瞰図画像の基となる撮影画像に対してレンズ歪み補正などの画像処理を施し、その画像処理後の撮影画像を拡張鳥瞰図画像に変換するものとする。表示装置3は、この拡張鳥瞰図画像を映像として表示する。
【0026】
本実施形態における拡張鳥瞰図画像は、通常の鳥瞰図画像とは異なる。詳細は後述するが、概略的に言えば、本実施形態における拡張鳥瞰図画像は、車両100に比較的近い領域において通常の鳥瞰図画像が描かれるように且つ車両100から比較的遠い領域において原画像(撮影画像そのもの)に近い画像が描かれるように生成された画像である。尚、本実施形態において、「通常の鳥瞰図画像」と「鳥瞰図画像」とは同じものを指す。
【0027】
鳥瞰図画像は、実際のカメラ1の撮影画像を仮想カメラの視点(仮想視点)から見た画像に変換したものである。より具体的には、鳥瞰図画像は、実際のカメラ1の撮影画像を、地上面を鉛直方向に見下ろした画像に変換したものである。この種の画像変換は、一般に、視点変換とも呼ばれる。
【0028】
カメラ1として、例えばCCD(Charge Coupled Devices)を用いたカメラや、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いたカメラが用いられる。画像処理装置2は、例えば集積回路から形成される。表示装置3は、液晶ディスプレイパネル等から形成される。カーナビゲーションシステムなどに含まれる表示装置を、視界支援システムにおける表示装置3として流用しても良い。また、画像処理装置2は、カーナビゲーションシステムの一部として組み込まれうる。画像処理装置2及び表示装置3は、例えば、車両100の運転席付近に設置される。
【0029】
図3を参照して、図2の視界支援システムの全体的な動作手順を説明する。図3は、この動作手順を表すフローチャートである。
【0030】
拡張鳥瞰図画像を生成するためには、撮影画像を拡張鳥瞰図画像に変換するための変換パラメータが必要となる。この変換パラメータを算出するための処理がステップS1及びS2の処理に相当する。ステップS1及びS2の処理は、カメラ1の校正段階において、カメラ1の撮影画像に基づき画像処理装置2によって実施される。尚、ステップS1及びS2の処理にて実行される演算を、画像処理装置2と異なる外部の演算装置(不図示)に実行させるようにしてもよい。つまり、カメラ1の撮影画像に基づいて、外部の演算装置に後述の第1及び第2の変換行例H1及びH2を算出させ、算出された第1及び第2の変換行例H1及びH2を画像処理装置2に与えるようにしてもよい。
【0031】
ステップS1では、平面射影変換によって、カメラ1の撮影画像を通常の鳥瞰図画像に変換するための第1の変換行例H1を求める。平面射影変換そのものについては公知であり、公知の手法によって第1の変換行例H1を求めることができる。第1の変換行例H1を、以下、単にH1にて表すこともある。後に述べる、第2の変換行例H2及び第3の変換行例H3についても、夫々単にH2及びH3にて表すことがある。
【0032】
例えば、図4(a)に示すような、平面状の校正プレート120を用意し、図4(b)に示す如く、校正プレート120の全部又は一部がカメラ1の撮影領域(視野)に収まるように車両100を配置する。この配置がなされた状態にて、カメラ1が取得した撮影画像を「校正用撮影画像」という。また、校正用撮影画像を、第1の変換行例H1を用いて座標変換することによって得られる画像を「校正用変換画像」という。ステップS1では、校正用撮影画像に基づいて、第1の変換行例H1が求められる。
【0033】
校正プレート120の表面には、等間隔で縦及び横方向に配列された格子線が形成されており、撮影画像上に現れた、縦の格子線と横の格子線の各交点を画像処理装置2は抽出可能となっている。図4(a)及び(b)に示す例では、校正プレート120には所謂市松模様が描かれている。この市松模様は、互いに隣接する黒の正方形と白の正方形から形成されており、黒の正方形の一頂点と白の正方形の一頂点が接する点が、縦の格子線と横の格子線の交点に相当している。
【0034】
画像処理装置2は、校正プレート120の表面に形成された上記の各交点を特徴点として捉え、校正用撮影画像に現れている互いに異なる4つの特徴点を抽出して校正用撮影画像における該4つの特徴点の座標値を特定する。以下、図4(b)において符号121〜124が付された4つの交点を4つの特徴点とする場合を考える。上記の座標値の特定手法は任意である。例えば、エッジ検出処理などを用いて画像処理装置2に4つの特徴点を抽出させて上記座標値を特定するようにしてもよいし、外部から4つの特徴点の画像上の位置を画像処理装置2に教えるようにしてもよい。
【0035】
校正用撮影画像上における各点の座標を(xA,yA)にて表し、校正用変換画像上における各点の座標を(XA,YA)にて表す。xA及びXAは画像の水平方向の座標値であり、yA及びYAは画像の垂直方向の座標値である。校正用撮影画像上における座標(xA,yA)と校正用変換画像上における座標(XA,YA)との関係は、第1の変換行例H1を用いて下記式(1)のように表される。H1は、一般的に、ホモグラフィ行列とも呼ばれる。H1は、3行3列の行列であり、その行列の各要素をhA1〜hA9で表す。更に、hA9=1であるとする(hA9=1、となるように行列を正規化する)。また、式(1)より、座標(xA,yA)と座標(XA,YA)との関係は、下記式(2a)及び(2b)によって表すこともできる。
【0036】
【数1】
【数2】
【0037】
画像処理装置2によって特定された4つの特徴点121〜124の、校正用撮影画像上における座標値を(xA1,yA1)、(xA2,yA2)、(xA3,yA3)及び(xA4,yA4)とする。また、画像処理装置2が予め認識している既知情報に従い、校正用変換画像上における4つの特徴点の座標値を定める。定められた4つの座標値を(XA1,YA1)、(XA2,YA2)、(XA3,YA3)及び(XA4,YA4)とする。今、校正パターン120上で4つの特徴点121〜124が描く図形が正方形であるとする。そうすると、H1はカメラ1の撮影画像を通常の鳥瞰図画像に変換するための変換行例であるので、座標値(XA1,YA1)、(XA2,YA2)、(XA3,YA3)及び(XA4,YA4)を、例えば、(0,0)、(1,0)、(0,1)及び(1,1)と定義することができる。
【0038】
校正用撮影画像と校正用変換画像との間で4点の座標値対応関係が分かれば、第1の変換行列H1は一意に定まる。4点の座標値対応関係に基づきホモグラフィ行列(射影変換行列)としての第1の変換行列H1を求める手法として、公知の手法を用いればよい。例えば、特開2004−342067号公報に記載の手法(特に、段落[0059]〜[0069]に記載の手法を参照)を用いればよい。つまり、座標値(xA1,yA1)、(xA2,yA2)、(xA3,yA3)及び(xA4,yA4)が、夫々、座標値(XA1,YA1)、(XA2,YA2)、(XA3,YA3)及び(XA4,YA4)に変換されるように、H1の要素hA1〜hA8を求める。実際には、この変換の誤差(特開2004−342067号公報における評価関数)が最小化されるように要素hA1〜hA8を求める。
【0039】
一旦、第1の変換行列H1が求まれば、上記式(2a)及び(2b)に従って撮影画像上の任意の点を鳥瞰図画像上の点に変換することが可能である。尚、4点の座標値対応関係に基づいてH1を求める手法を説明したが、勿論、5点以上の座標値対応関係に基づいてH1を求めるようにしてもよい。
【0040】
図5に、カメラ1の撮影画像131と、H1を用いて撮影画像131を画像変換することによって得られる鳥瞰図画像132と、を示す。図5には、4つの特徴点(図4(b)における特徴点121〜124)の対応関係も示されている。
【0041】
図3のステップS1にて第1の変換行列H1を求めた後、ステップS2において、第2の変換行例H2を求める。第2の変換行例H2の導出法については後に詳説するが、ここで、H1とH2の違いを説明しておく。
【0042】
第1の変換行列H1はカメラ1の撮影画像を第1の平面上に投影するための変換行列である一方、第2の変換行列H2はカメラ1の撮影画像を第1の平面と異なる第2の平面上に投影するための変換行列である。今の例の場合、第1の平面は地面である。図6に、第1及び第2の平面と車両100との関係を表す平面図を示す。符号141が付された平面が第1の平面であり、符号142が付された平面が第2の平面である。第2の平面は、第1の平面(地面)に対して斜めの平面であり、第1の平面と平行ではなく且つ第1の平面と直交しない。カメラ1の光軸150は、例えば第2の平面に直交する。この場合、第2の平面はカメラ1の撮像面と平行となる。
【0043】
鳥瞰図画像は、第1の変換行列H1に基づいて実際のカメラ1の撮影画像を第1の視点から見た画像に変換したものであり、その第1の視点の高さは、カメラ1の高さh(図1(a))よりも十分に高い。一方、第2の変換行列H2は、実際のカメラ1の撮影画像を第2の視点から見た画像に変換するための変換行列であり、その第2の視点の高さは、第1の視点の高さよりも低く、例えばカメラ1の高さhと同じとされる。尚、第1及び第2の視点の水平方向の位置は、カメラ1の水平方向の位置と同じである。
【0044】
図3のステップS1及びS2にてH1及びH2が求められた後、ステップS3に移行し、ステップS3及びS4の処理が繰り返し実行される。ステップS1及びS2の処理がカメラ1の校正段階において実行されるのに対して、ステップS3及びS4の処理は、視界支援システムの実稼動時(実際の視界支援の実行時)に実行される。
【0045】
ステップS3では、図2の画像処理装置2が、カメラ1の撮影画像に対し、H1及びH2に基づく画像変換を行って拡張鳥瞰図画像を生成し、その拡張鳥瞰図画像を表す映像信号を表示装置3に送る。ステップS3に続くステップS4では、表示装置3が、与えられた映像信号を従って映像出力を行うことにより拡張鳥瞰図画像を表示画面上に表示する。
【0046】
拡張鳥瞰図画像の生成手法について詳説する。拡張鳥瞰図画像を、図7に示す如く、画像の垂直方向に分割して考える。この分割によって得られる2つの領域を、第1領域及び第2領域と呼ぶ。第1領域内の画像と第2領域内の画像とを接合した画像が拡張鳥瞰図画像である。図7において、波線200は、第1領域と第2領域との境界を表す。
【0047】
拡張鳥瞰図画像の原点をOで表す。拡張鳥瞰図画像において、原点Oを含む水平ラインを第1水平ラインとする。拡張鳥瞰図画像は、第1〜第n水平ライン上の各画素にて形成される。拡張鳥瞰図画像の上端側に第1水平ラインが配置され、下端側に第n水平ラインが配置される。拡張鳥瞰図画像において、第1水平ラインから第n水平ラインに向かって、順に、第1、第2、第3、・・・、第(m−1)、第m、第(m+1)、・・・、第(n−1)、第n水平ラインが配列されている。但し、m及びnは2以上の整数であって、m<nである。例えば、m=120、n=480である。
【0048】
第2領域内の画像は、第1〜第m水平ライン上の各画素から形成され、第1領域内の画像は、第(m+1)〜第n水平ライン上の各画素から形成される。そして、拡張鳥瞰図画像の下方側に車両100に近い領域に位置する被写体が現れるように、拡張鳥瞰図画像は生成される。つまり、カメラ1の撮像素子の中心を通る鉛直線と地面との交点を基準点とし、図8に示す如く、車両100の後方に向かう方向における基準点からの距離をDで表した場合、距離D=D1の地面上の点が第k1水平ライン上に現れ、距離D=D2の地面上の点が第k2水平ライン上に現れるように、拡張鳥瞰図画像は生成される。但し、D1<D2且つk1>k2である。
【0049】
図9に、撮影画像と拡張鳥瞰図画像との関係を示す。図9に示す如く、第1の変換行列H1を用いて撮影画像の一部領域210内の画像を座標変換したものが拡張鳥瞰図画像の第1領域220内の画像となり、加重加算変換行列H3を用いて撮影画像の一部領域211内の画像を座標変換したものが拡張鳥瞰図画像の第2領域221内の画像となる。一部領域210と一部領域211は互いに重なり合わない領域であり、一部領域210内に車両100近辺の被写体が現れ、一部領域211内に車両100遠方の被写体が現れる。
【0050】
加重加算変換行列H3は、第1の変換行列H1と第2の変換行列H2を加重加算(重み付け加算)することによって得られる。即ち、H3は、下記の式(3)によって表される。
【0051】
【数3】
【0052】
p及びqは、加重加算における重み係数である。常に、q=1−p且つ0<p<1が成立するものとする。H1による変換画像とH2による変換画像とが滑らかにつながるように、境界200(図7)からの距離に応じてp及びqは変更される。ここで、境界200からの距離とは、拡張鳥瞰図画像上における、第n水平ラインから第1水平ラインに向かう方向の距離を指すものとする。
【0053】
具体的には、境界200からの距離が増加するにつれてqを増加させてH3に対するH2の寄与度を増加させ、且つ、境界200からの距離が減少するにつれてpを増加させてH3に対するH1の寄与度を増加させる。即ち、図10に示す如く、e1<e2<mとし、第e1水平ラインについてのH3をH3=p1H1+q1H2で表し且つ第e2水平ラインについてのH3をH3=p2H1+q2H2で表した場合、p1<p2且つq1>q2が成立するようにp及びqは定められる。
【0054】
拡張鳥瞰図画像上の各画素に対応する変換行列が定まれば、拡張鳥瞰図画像の各画素の座標値に対応する撮影画像の各画素の座標値も定まる。つまり、撮影画像上のどの点に対して如何なる変換行列を適用すべきかを定めることができる。例えば、図11に示す如く、撮影画像の一部領域210内の各画素の座標値に対してH1を適用し、且つ、撮影画像の一部領域211a内の各画素の座標値に対してH3=p2H1+q2H2を適用し、且つ、撮影画像の一部領域211b内の各画素の座標値に対してH3=p1H1+q1H2を適用する、と定める。
【0055】
一旦、撮影画像の各画素の座標値に対して適用すべき変換行列が定まれば、その変換行列に従って任意の撮影画像を拡張鳥瞰図画像に変換することが可能である。実際には、例えば、上述のように定めた変換行列に従って、撮影画像の各画素の座標値と拡張鳥瞰図画像の各画素の座標値との対応関係を示すテーブルデータを作成し、これを図示されないメモリ(ルックアップテーブル)に格納しておく。そして、このテーブルデータを用いて、撮影画像を拡張鳥瞰図画像に変換するようにする。勿論、カメラ1にて撮影画像が得られる度にH1及びH3に基づく座標変換演算を行って拡張鳥瞰図画像を生成するようにしても構わない。
【0056】
図12に、撮影画像251と撮影画像251に対応する拡張鳥瞰図画像252の表示例を示す。拡張鳥瞰図画像252の下方側、即ち車両100に比較的近い領域253では、通常の鳥瞰図画像が表示される。運転者は、この通常の鳥瞰図画像を参照することにより、例えば車両100と車両後方の障害物との距離(実空間上の距離)を把握することが容易となる。
【0057】
一般的な鳥瞰変換を用いた場合、車両遠方領域を表示することが困難となるが、拡張鳥瞰図画像では、上方側の領域254に鳥瞰図画像よりも原画像(撮影画像)に近い画像が描画されるため、車両遠方に対する視界も支援される。そして、上述の如く加重加算変換行列H3を定めることにより、拡張鳥瞰図画像において、領域253内の画像と領域254内の画像が滑らかに接合され、視認性の良い映像表示が可能である。尚、一般的な鳥瞰変換を用いた場合、車両遠方領域において立体物が大きく変形してしまうという問題があるが、その問題も拡張鳥瞰図画像では改善されている。
【0058】
また、従来の如く透視投影変換を用いる場合は、カメラの設置誤差の影響を受けてしまうが、本実施形態に係る手法では、平面射影変換を用いているためカメラの設置誤差の影響を受けない(或いは受けにくい)。
【0059】
次に、図3のステップS2にて用いることの可能な、第2の変換行列H2の算出法について詳説する。H2の算出法として、以下に、第1〜第3算出法を例示する。
【0060】
各算出法に先立ち、図13(a)及び(b)を参照して、車両100に対するカメラ1の取り付け状態を考察する。図13(a)は、車両100を側方から見た平面図であり、図13(b)は、車両100を後方から見た平面図である。カメラ1は、車両100の後端に設置される訳であるが、カメラ1の光軸150を回転軸としてカメラ1が回転すると、実空間上で静止した被写体も撮影画像上において回転する。符号301は、この回転方向を示している。また、カメラ1が光軸150を含む平面上で回転すると(回転方向を符号302で表す)、実空間上で静止した被写体は撮影画像上において水平方向に移動する。
【0061】
[第1算出法]
まず、第1算出法について説明する。第1算出法は、カメラ1が、回転方向301及び回転方向302の双方において回転しておらず、車両100の後方に正確に(或いは略正確に)向けられていることを想定している。また更に、撮影画像から拡張鳥瞰図画像を生成する際に、画像を拡大又は縮小しないことを想定している。
【0062】
このような想定の下、第1算出法では、第2の変換行列H2を下記式(4)にて表されるように定める。式(4)のH2は、無変換の単位行列である。第1算出法を採用する場合、H2にて撮影画像が投影される平面(図6の第2の平面142に対応)は、カメラ1の撮像面に平行な平面(或いは撮像面そのもの)となる。
【0063】
【数4】
【0064】
[第2算出法]
次に、第2算出法について説明する。第2算出法は、カメラ1が回転方向301に回転していて撮影画像から拡張鳥瞰図画像を生成する際に画像の回転を行う必要がある場合、或いは、カメラ1が回転方向302に回転していて撮影画像から拡張鳥瞰図画像を生成する際に画像の水平移動を行う必要がある場合、或いは、撮影画像から拡張鳥瞰図画像を生成する際に画像の拡大又は縮小を行う必要がある場合、或いは、それらの組み合わせを行う必要がある場合を想定している。第2算出法を採用すれば、これらの場合に対応可能である。つまり、カメラ1の多様な設置条件に対応可能である。
【0065】
このような想定の下、第2算出法では、第2の変換行列H2を下記式(5)にて表されるように定める。ここで、Rは、式(6a)で表される、画像の回転を行うための行列であり、θは画像の回転角を表す。Tは、式(6b)で表される、画像の水平移動を行うための行列であり、tx及びtyは夫々画像の水平方向の移動量及び垂直方向の移動量を表す。Sは、式(6c)で表される、画像の拡大又は縮小を行うための行列であり、a及びbは夫々画像の水平方向の拡大率(又は縮小率)及び垂直方向の拡大率(又は縮小率)を表す。
【0066】
【数5】
【数6】
【0067】
ステップS1(図3参照)にて第1の変換行列H1を求める際に利用した校正用撮影画像に基づいて、行列R、T及びSを算出することができる。つまり、ステップS1にて特定された、校正用撮影画像上における4つの特徴点の座標値(xA1,yA1)、(xA2,yA2)、(xA3,yA3)及び(xA4,yA4)を利用して、行列R、T及びSを算出することができる。
【0068】
例えば、校正用撮影画像上において、この4つの特徴点の内、2つの特徴点(例えば、図4(b)の特徴点123及び124)間を結ぶ直線の傾きを検出し、この傾きから行列Rを決定する。画像処理装置2は、実空間における2つの特徴点の配置位置を表す既知の情報を参照しつつ、検出した傾きに応じて回転角θの値を決定する。
また例えば、校正用撮影画像上における4つの特徴点の座標値から行列Tを決定する。少なくとも1点の特徴点の座標値が分かれば、行列Tを決定することが可能である。特徴点の水平方向の座標値及び垂直方向の座標値と決定されるべき要素tx及びtyの値との関係は、校正パターン120の特性を考慮して予め設定されている。
また例えば、校正用撮影画像上において、この4つの特徴点の内、画像の水平方向に並ぶ2つの特徴点(例えば、図4(b)の特徴点123及び124)間の画素数を検出し、この画素数から行列Sの要素aを決定する。要素bについても同様に決定できる。検出された画素数と決定されるべき要素a及びbの値との関係は、校正パターン120の特性を考慮して予め設定されている。
【0069】
また、校正用撮影画像を利用することなく、車両100に対するカメラ1の設置条件を表す既知のパラメータに基づいて、行列R、T及びSを算出するようにしてもよい。
【0070】
[第3算出法]
次に、第3算出法について説明する。第3算出法では、第1の変換行列H1の算出法と同様に、平面射影変換を利用して第2の変換行列H2を算出する。つまり、具体的には以下のようにすればよい。
【0071】
今、校正用撮影画像を、第2の変換行例H2を用いて座標変換することによって得られる画像を「第2校正用変換画像」といい、第2校正用変換画像上における各点の座標を(XB,YB)にて表す。そうすると、校正用撮影画像上における座標(xA,yA)と第2校正用変換画像上における座標(XB,YB)との関係は、第2の変換行例H2を用いて下記式(7)のように表される。
【0072】
【数7】
【0073】
そして、画像処理装置2が予め認識している既知情報に従い、第2校正用変換画像上における4つの特徴点の座標値を定める。定められた4つの座標値を(XB1,YB1)、(XB2,YB2)、(XB3,YB3)及び(XB4,YB4)とする。座標値(XB1,YB1)〜(XB4,YB4)は、校正用撮影画像上の4つの特徴点を第1の平面141にではなく第2の平面142に投影したときの座標値である(図6参照)。その後、第1の変換行列H1を求めた時と同様に、校正用撮影画像と第2校正用変換画像との間における4点の座標値対応関係に基づき、H2の要素hB1〜hB8を求めればよい。
【0074】
<<変形等>>
上述した説明文中に示した具体的な数値は、単なる例示であって、当然の如く、それらを様々な数値に変更することができる。上述の実施形態の変形例または注釈事項として、以下に、注釈1〜注釈6を記す。各注釈に記載した内容は、矛盾なき限り、任意に組み合わせることが可能である。
【0075】
[注釈1]
図4(a)及び(b)に示したような複数の縦及び横の格子線が形成された校正プレート120を利用して平面射影変換を行う手法を上述したが、本発明はこれに限定されない。画像処理装置2が4点以上の特徴点を抽出可能な環境を整えれば、それで足る。
【0076】
[注釈2]
上述の実施形態では、第1及び第2の平面から成る2つの投影平面を想定し、2つの変換行列(H1及びH2)の導出を介して変換画像としての拡張鳥瞰図画像を生成したが、3以上の投影平面を想定し、3以上の変換行列の導出を介して変換画像を生成するようにしてもよい。3以上の投影平面の内、1つの投影平面が地面であるなら、この変換画像も拡張鳥瞰図画像と呼ぶことができる。
【0077】
例えば、投影平面として互いに異なる第1〜第3の平面を想定し、校正用撮影画像を第1、第2及び第3の平面に投影するための第1、第2及び第3の変換行列を求める。第1の平面は、例えば地面とする。
【0078】
そして、例えば図14(a)に示す如く、変換画像を領域321〜324から成る4つの領域に分割して考える。領域321内の画像は、第1の変換行列を用いて、カメラ1の撮影画像内の第1の一部画像を座標変換することにより得られるようにする。領域322内の画像は、第1の変換行列と第2の変換行列を加重加算して得られる加重加算変換行列を用いて、カメラ1の撮影画像内の第2の一部画像を座標変換することにより得られるようにする。領域323内の画像は、第1の変換行列と第3の変換行列を加重加算して得られる加重加算変換行列を用いて、カメラ1の撮影画像内の第3の一部画像を座標変換することにより得られるようにする。領域324内の画像は、第1、第2及び第3の変換行列を加重加算して得られる加重加算変換行列を用いて、カメラ1の撮影画像内の第4の一部画像を座標変換することにより得られるようにする。この場合、カメラ1の撮影画像は、第1〜第4の一部画像を結合した画像に相当する。
【0079】
図14(a)に示す例では、変換画像を4つの領域321〜324に分割しているが、変換画像に対する領域の分割の仕方は様々に変形されうる。例えば、図14(b)に示す如く、変換画像を3つの領域331〜333に分割するようにしてもよい。領域331内の画像は、第1の変換行列を用いて、カメラ1の撮影画像内の第1の一部画像を座標変換することにより得られる。領域332内の画像は、第1の変換行列と第2の変換行列を加重加算して得られる加重加算変換行列を用いて、カメラ1の撮影画像内の第2の一部画像を座標変換することにより得られる。領域333内の画像は、第1の変換行列と第3の変換行列を加重加算して得られる加重加算変換行列を用いて、カメラ1の撮影画像内の第3の一部画像を座標変換することにより得られる。この場合、カメラ1の撮影画像は、第1〜第3の一部画像を結合した画像に相当する。
【0080】
図14(a)又は(b)に対応するこれらの場合においても、上述したように、変換画像おける隣接する領域間の境界からの距離に応じて加重加算変換行列を生成する際の重みを徐々に変更するようにするとよい。
【0081】
[注釈3]
上述の手法は、複数のカメラの撮影画像を合成することにより広範囲の映像を出力するシステムに対しても適用可能である。例えば、車両の前後左右に1台ずつカメラを設置し、合計4台のカメラの撮影画像を幾何変換によって全周鳥瞰図画像に変換して、これを表示部に表示するシステムが既に開発されているが(例えば、特開2004−235986号公報参照)、このシステムに本発明の手法を適用することも可能である。全周鳥瞰図画像は車両周辺全周における鳥瞰図画像に相当するが、この全周鳥瞰図画像を生成する際に、複数の変換行列の加重加算を利用した画像変換を適用する。即ち、車両近辺の画像に対しては通常の鳥瞰図画像を生成するように画像変換を行い、車両遠方の画像に対しては複数の変換行列の加重加算して得られる加重加算変換行列を用いて画像変換を行うようにすればよい。
【0082】
この他、複数のカメラの撮影画像を合成してパノラマ画像を生成及び表示するシステムなどに対しても、本発明は適用可能である。
【0083】
[注釈4]
車載カメラとしてのカメラ1を用いた視界支援システムを例に挙げて本発明の実施形態を説明したが、画像処理装置2に接続されるべきカメラを車両以外に設置することも可能である。つまり、本発明は、建物などに設置される監視システムに対しても、適用可能である。この種の監視システムにおいても、上述の実施形態と同様、撮影画像から拡張鳥瞰図画像等の変換画像が生成され、該変換画像が表示装置に表示される。
【0084】
[注釈5]
図2の画像処理装置2の機能は、ハードウェア、ソフトウェア、またはハードウェアとソフトウェアの組み合わせによって実現可能である。画像処理装置2にて実現される機能の全部または一部を、プログラムとして記述し、該プログラムをコンピュータ上で実行することによって、その機能の全部または一部を実現するようにしてもよい。
【0085】
[注釈6]
例えば、以下のように考えることができる。上述の実施形態において、H1及びH2は夫々第1及び第2変換パラメータとして機能する。図2の画像処理装置2は、カメラ1の撮影画像から変換画像としての拡張鳥瞰図画像を生成する変換画像生成手段を含んでいる。
【図面の簡単な説明】
【0086】
【図1】本発明の実施形態に係り、カメラが設置された車両を上方から見た平面図(a)及び側方から見た平面図(b)である。
【図2】本発明の実施形態に係る視界支援システムの構成ブロック図である。
【図3】図2の視界支援システムの全体的な動作手順を表すフローチャートである。
【図4】図2の視界支援システムに対して校正処理を行う時に用いる校正プレートの平面図(a)と、校正処理を行う時における校正プレートと車両との配置関係を示す平面図(b)である。
【図5】図1のカメラの撮影画像と該撮影画像から得られる通常の鳥瞰図画像との関係を示す図である。
【図6】図1のカメラの撮影画像が投影される平面を示す図である。
【図7】図2の画像処理装置にて生成される拡張鳥瞰図画像を表す図である。
【図8】図1の車両後方側の距離を説明するための図である。
【図9】図2のカメラの撮影画像と拡張鳥瞰図画像との間の変換関係を表す図である。
【図10】図7の拡張鳥瞰図画像の各水平ラインに対応する変換行列を表す図である。
【図11】図2のカメラの撮影画像と拡張鳥瞰図画像との間の変換関係を表す図である。
【図12】図2のカメラの撮影画像と該撮影画像から得られる拡張鳥瞰図画像を示す図である。
【図13】図1の車両に対するカメラの取り付け状態を説明するための図である。
【図14】複数の変換行列の加重加算を利用してカメラの撮影画像から生成される変換画像の領域分割例を示す図である。
【符号の説明】
【0087】
1 カメラ
2 画像処理装置
3 表示装置
100 車両
【特許請求の範囲】
【請求項1】
カメラの撮影画像を所定の第1面上に投影するための第1変換パラメータと前記撮影画像を前記第1面と異なる所定の第2面上に投影するための第2変換パラメータとを含む複数の変換パラメータに基づいて、前記撮影画像から変換画像を生成する画像処理装置であって、
前記変換画像を第1領域及び第2領域を含む複数の領域に分割し、前記第1変換パラメータに基づいて前記第1領域内の画像が得られるように且つ前記第1及び第2変換パラメータを加重加算して得られる加重加算変換パラメータに基づいて前記第2領域内の画像が得られるように、前記撮影画像から前記変換画像を生成する変換画像生成手段を備えた
ことを特徴とする画像処理装置。
【請求項2】
前記カメラの設置位置に比較的近い被写体が前記第1領域内の画像に現れ且つ前記設置位置から比較的遠い被写体が前記第2領域内の画像に現れる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記第2領域内の各点に対応する前記加重加算の重みは、前記第1領域と前記第2領域との境界から各点までの距離に応じて設定される
ことを特徴とする請求項1または請求項2に記載の画像処理装置。
【請求項4】
前記距離が増加するに従って前記加重加算変換パラメータに対する前記第2変換パラメータの寄与度が増加するように、前記重みは設定される
ことを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記カメラは車両に設置され、
前記第1面は前記車両が配置される地面であり、
前記変換画像生成手段は、前記第1変換パラメータに従って前記カメラの撮影画像の一部画像を前記車両の上方の仮想視点から見た鳥瞰図画像に変換し、この鳥瞰図画像を前記第1領域内の画像として前記変換画像に含める
ことを特徴とする請求項1〜請求項4の何れかに記載の画像処理装置。
【請求項6】
請求項1〜請求項5の何れかに記載のカメラ及び画像処理装置が設置された
ことを特徴とする車両。
【請求項7】
カメラの撮影画像を所定の第1面上に投影するための第1変換パラメータと前記撮影画像を前記第1面と異なる所定の第2面上に投影するための第2変換パラメータとを含む複数の変換パラメータに基づいて、前記撮影画像から変換画像を生成する画像処理方法であって、
前記変換画像を第1領域及び第2領域を含む複数の領域に分割し、前記第1変換パラメータに基づいて前記第1領域内の画像が得られるように且つ前記第1及び第2変換パラメータを加重加算して得られる加重加算変換パラメータに基づいて前記第2領域内の画像が得られるように、前記撮影画像から前記変換画像を生成する
ことを特徴とする画像処理方法。
【請求項1】
カメラの撮影画像を所定の第1面上に投影するための第1変換パラメータと前記撮影画像を前記第1面と異なる所定の第2面上に投影するための第2変換パラメータとを含む複数の変換パラメータに基づいて、前記撮影画像から変換画像を生成する画像処理装置であって、
前記変換画像を第1領域及び第2領域を含む複数の領域に分割し、前記第1変換パラメータに基づいて前記第1領域内の画像が得られるように且つ前記第1及び第2変換パラメータを加重加算して得られる加重加算変換パラメータに基づいて前記第2領域内の画像が得られるように、前記撮影画像から前記変換画像を生成する変換画像生成手段を備えた
ことを特徴とする画像処理装置。
【請求項2】
前記カメラの設置位置に比較的近い被写体が前記第1領域内の画像に現れ且つ前記設置位置から比較的遠い被写体が前記第2領域内の画像に現れる
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記第2領域内の各点に対応する前記加重加算の重みは、前記第1領域と前記第2領域との境界から各点までの距離に応じて設定される
ことを特徴とする請求項1または請求項2に記載の画像処理装置。
【請求項4】
前記距離が増加するに従って前記加重加算変換パラメータに対する前記第2変換パラメータの寄与度が増加するように、前記重みは設定される
ことを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記カメラは車両に設置され、
前記第1面は前記車両が配置される地面であり、
前記変換画像生成手段は、前記第1変換パラメータに従って前記カメラの撮影画像の一部画像を前記車両の上方の仮想視点から見た鳥瞰図画像に変換し、この鳥瞰図画像を前記第1領域内の画像として前記変換画像に含める
ことを特徴とする請求項1〜請求項4の何れかに記載の画像処理装置。
【請求項6】
請求項1〜請求項5の何れかに記載のカメラ及び画像処理装置が設置された
ことを特徴とする車両。
【請求項7】
カメラの撮影画像を所定の第1面上に投影するための第1変換パラメータと前記撮影画像を前記第1面と異なる所定の第2面上に投影するための第2変換パラメータとを含む複数の変換パラメータに基づいて、前記撮影画像から変換画像を生成する画像処理方法であって、
前記変換画像を第1領域及び第2領域を含む複数の領域に分割し、前記第1変換パラメータに基づいて前記第1領域内の画像が得られるように且つ前記第1及び第2変換パラメータを加重加算して得られる加重加算変換パラメータに基づいて前記第2領域内の画像が得られるように、前記撮影画像から前記変換画像を生成する
ことを特徴とする画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図13】
【図14】
【図5】
【図12】
【図2】
【図3】
【図4】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図13】
【図14】
【図5】
【図12】
【公開番号】特開2008−271308(P2008−271308A)
【公開日】平成20年11月6日(2008.11.6)
【国際特許分類】
【出願番号】特願2007−113079(P2007−113079)
【出願日】平成19年4月23日(2007.4.23)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
【公開日】平成20年11月6日(2008.11.6)
【国際特許分類】
【出願日】平成19年4月23日(2007.4.23)
【出願人】(000001889)三洋電機株式会社 (18,308)
【Fターム(参考)】
[ Back to top ]