カメラ姿勢パラメータ推定装置
【課題】広角カメラの姿勢パラメータを容易にかつ正確に推定する技術を実現する。
【解決手段】カメラ姿勢パラメータ推定装置は、半球以上の視野を有する広角カメラにより得られる広角画像から、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、第1直線及び第2直線と垂直な関係を有する1つの第3直線とから構成される特定パターンを形成し得る各線分をそれぞれ取得するパターン取得手段と、このパターン取得手段により取得された特定パターンを形成し得る各線分を用いて上記広角画像に対する2組の消失点ペアを決定する決定手段と、この決定手段で決定された2組の消失点ペアを用いて地面に対する広角カメラの姿勢パラメータを推定する推定手段と、を備える。
【解決手段】カメラ姿勢パラメータ推定装置は、半球以上の視野を有する広角カメラにより得られる広角画像から、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、第1直線及び第2直線と垂直な関係を有する1つの第3直線とから構成される特定パターンを形成し得る各線分をそれぞれ取得するパターン取得手段と、このパターン取得手段により取得された特定パターンを形成し得る各線分を用いて上記広角画像に対する2組の消失点ペアを決定する決定手段と、この決定手段で決定された2組の消失点ペアを用いて地面に対する広角カメラの姿勢パラメータを推定する推定手段と、を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、広角カメラの姿勢パラメータ推定技術に関する。
【背景技術】
【0002】
近年、運転操作の安全性を高めることを目的として、魚眼カメラ等のような広角レンズを用いた複数のカメラを搭載し、車両の周囲を死角なくモニタリングするカメラシステムを搭載する車両が存在する。このようなカメラシステムは、車両の複数箇所に設置された各カメラによって撮影された画像を用いて、車両の周辺画像を生成し、生成された画像を表示装置に表示させる。表示装置に表示される周辺画像を見ることにより、運転者は、容易かつ安全に運転操作をすることができる。
【0003】
車両内部の表示装置の表示領域は大きさに制限があるため、各カメラで撮影された複数の画像から生成される周辺画像を運転者にとって見易く瞬時に把握可能に表示させることは重要である。このような課題を解決する手法が例えば以下の特許文献1により提案されている。
【0004】
また、上述のようなカメラシステムにおいて、車両の周辺画像として、車両を上空から見下ろしたように描いたトップビュー(以降、鳥瞰図とも表記する)を生成するシステムが存在する。鳥瞰図によれば、運転者は、死角なく、車両の周囲の状況を瞬時に把握することができる。
【0005】
しかしながら、複数の魚眼カメラを持つカメラシステムにおいて鳥瞰図を生成するためには、予め、各魚眼カメラをそれぞれ校正する必要がある。
【0006】
校正の対象となり得るカメラのパラメータは、一般的には、内部パラメータ及び外部パラメータに区別される。内部パラメータには、主点(principal point)、焦点距離(focal length)、レンズ歪み(lens distortion)等が含まれる。このような内部パラメータは、カメラの環境で変化しないため、予め測定され製造プロセス等において設定される。
【0007】
一方、外部パラメータはワールド座標系(world coordinate system)に対するカメラ
の方向(orientation)と位置(position)であり、カメラ姿勢(pose)パラメータとも
呼ばれる。このようなカメラ姿勢パラメータを校正するための手法は各種提案されている。例えば、車のボンネット(hood)上に置かれた複数のマーカを用いて自動車のアプリケーションにおけるステレオビジョンシステムを較正する手法が提案されている(下記非特許文献1参照)。また、車両の前の地面に置かれた複数の円パターンを用いることにより外部パラメータを校正することが提案されている(下記非特許文献2参照)。更に、車載カメラで検出された平行の車線マーキングを用いることにより前方カメラの方向を校正する方法が提案されている(下記非特許文献3参照)。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2009−206747号公報
【非特許文献】
【0009】
【非特許文献1】A. Broggi, M. Bertozzi and A. Fascioli, “Self-calibration of a stereo system for automotive applications”, Proc. of IEEE conference on Robotics and Automation, pp.3698-3703, 2001
【非特許文献2】S. Hold, C. Nunn, A. Kummert, and S. Muller-Schnerders, “Effi-cient and robust extrinsic camera calibration procedure for lane departure warning”, Proc. of Intelligent Vehicle Symposium, pp.382-387, 2009
【非特許文献3】A. Catala-Part, J. Rataj and R. Reulke, “Self-calibration system for the orientation of a vehicle camera”, ISPR Commission V Sympo-sium on Image Engineering and Vision Metrology, pp.68-73, 2006
【発明の概要】
【発明が解決しようとする課題】
【0010】
しかしながら、上述のような従来のカメラ較正方法は、従来のピンホールカメラモデルに基づいた限定された視野(FOV(Field Of View))の一般的なカメラに対して適用される方法であり、全方向カメラや魚眼カメラのような半球より広視野の広角カメラにそのまま適用することができない。
【0011】
そこで、従来の広角カメラを用いた車載カメラシステムでは、図24に示されるように、地上の予め決められた正確な位置に設置された複数のマーカを用いてカメラの姿勢パラメータを校正する方法が採用されている。図24は、車両の後部に搭載された1つの広角カメラの姿勢パラメータを校正するための従来手法を示す図である。図24の例によれば、車両の幅方向の中心線上の車両後部から50センチメートル(cm)、1メートル(m)、2(m)の各位置にそれぞれ1つずつのマーカを設置し、更に、車両の両サイドの面と平行で車両幅間隔離された2つの線上の車両後部から1(m)の各位置に1つずつのマーカを設置する必要がある。
【0012】
このように従来手法では、複数のマーカを準備しなければならず、かつ、予め決められた正確な位置に各マーカを配置しなければならないため、カメラの校正に多大なる負担がかかっていた。
【0013】
本発明の一態様に係る課題は、このような問題点に鑑み、広角カメラの姿勢パラメータを容易にかつ正確に推定する技術を実現することにある。
【課題を解決するための手段】
【0014】
本発明の各態様では、上述した課題を解決するために、それぞれ以下の構成を採用する。
【0015】
第1の態様は、カメラ姿勢パラメータ推定装置に関する。第1の態様に係るカメラ姿勢パラメータ推定装置は、半球以上の視野を有する広角カメラにより得られる広角画像から、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、第1直線及び第2直線と垂直な関係を有する1つの第3直線とから構成される特定パターンを形成し得る各線分をそれぞれ取得するパターン取得手段と、このパターン取得手段により取得された特定パターンを形成し得る各線分を用いて上記広角画像に対する2組の消失点ペアを決定する決定手段と、この決定手段で決定された2組の消失点ペアを用いて地面に対する広角カメラの姿勢パラメータを推定する推定手段と、を備える。
【0016】
第1の態様では、広角カメラから得られる広角画像から実空間における特定パターンに対応する各線分が取得され、この取得された各線分から広角画像に対する2組の消失点ペアが決定され、この2組の消失点ペアから広角カメラの姿勢パラメータが推定される。
【0017】
従って、第1の態様によれば、当該広角カメラにより当該特定パターンが撮像されさえすれば、広角カメラの姿勢パラメータを容易にかつ正確に推定することができる。
【0018】
当該特定パターンは、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、第1直線及び第2直線と垂直な関係を有する1つの第3直線とから構成される。このような特定パターンは、駐車場の駐車ラインや建物の壁面のライン等のように一般的に実空間に存在するものが利用されればよいため、従来のようにカメラの校正に費やされる負担を大きく軽減させることができる。
【0019】
上記第1の態様において好ましくは、上記決定手段が、上記特定パターンに対応する各線分のうち第1直線に対応する線分と第2直線に対応する線分とを用いて、広角画像が広角カメラの内部パラメータを用いてマッピングされた球面画像に対する1組の消失点ペアを前記広角画像の1組の消失点ペアとして決定し、この決定された1つの消失点とその球面画像の中心とを結ぶ線を法線とする平面から1つの消失線を決定し、その平面と平行な関係となる第3直線のその球面画像への投影平面からもう1つの消失線を決定し、決定された2つの消失線の交点から更に1組の消失点ペアを決定するようにしてもよい。
【0020】
これにより、少ない情報で広角画像に対する2組の消失点ペアを決定することができ、正確に、カメラ姿勢パラメータを推定することができる。
【0021】
また、上記第1の態様において好ましくは、上記パターン取得手段が、第1直線及び第2直線、並びに、第1直線及び第2直線と垂直な関係を有す第3直線とは異なる第4直線から構成される他の特定パターンを形成し得る各線分を更にそれぞれ取得し、上記決定手段が、第4直線を用いて第3直線と同様に新たな1組の消失点ペアを決定し、この新たに決定された1組の消失点ペアと、第3直線を用いて決定された1組の消失点ペアとの平均により1組の消失点ペアを決定するようにしてもよい。
【0022】
このようにすれば、一層正確に2組の消失点ペアを決定することができる。
【0023】
また、上記第1の態様において、複数の広角カメラを対象に各広角カメラの姿勢パラメータを推定することも可能である。この場合、上記パターン取得手段が、複数の広角カメラから得られる各広角画像からそれぞれ、特定パターンに対応する各線分を取得し、上記決定手段が、2組の消失点ペアを前記各広角画像についてそれぞれ決定し、上記推定手段が、各広角画像に対する各2組の消失点ペアをそれぞれ用いて、各広角カメラの姿勢パラメータをそれぞれ推定する。そして、この態様においては、当該第1の態様に係るカメラ姿勢パラメータ推定装置が、複数の広角カメラのうち重複する視野領域を有する少なくとも2つの隣接広角カメラから得られる各広角画像内のその重複する視野領域に対応する画像領域を上記推定手段により推定されたその隣接広角カメラの各姿勢パラメータを用いて特定し、この特定された各画像領域の画像情報を用いてその隣接広角カメラの各姿勢パラメータを補整する補整手段を更に備えるようにしてもよい。
【0024】
これによれば、複数の広角カメラに関する各姿勢パラメータが推定され、この推定された各姿勢パラメータが、重複する視野領域を有する少なくとも2つの隣接広角カメラの間の相対的情報により更に洗練される。よって、第1の態様によれば、複数の広角カメラの姿勢パラメータを正確に推定することが可能である。
【0025】
また、この複数の広角カメラを対象とした態様において、上記補整手段が、特定された各画像領域の画像データ間の相関値が最大化される値となるように隣接広角カメラの各姿勢パラメータを補整するようにしてもよい。
【0026】
第2の態様は、複数の広角カメラと、上述のようなパラメータ推定装置と、各広角カメラから得られる各広角画像から画像データを生成する画像生成装置とを含むカメラシステムに関する。このカメラシステムでは、当該画像生成装置が、上述の第1の態様のような
パラメータ推定装置により推定された複数の広角カメラの各姿勢パラメータを用いて、複数の広角画像から前記複数の広角カメラが搭載された車両を中心とする鳥瞰図を示す画像データを生成する生成手段と、この生成手段により生成された画像データに応じた鳥瞰図を参照したユーザにより入力されるその鳥瞰図における車両の傾き情報を取得する傾き情報取得手段と、その傾き情報を複数の広角カメラの各姿勢パラメータに反映させる反映手段と、を備える。
【0027】
第2の態様によれば、ユーザにより入力される傾き情報に基づいて車両の地面に対する傾きを複数の広角カメラの各姿勢パラメータに反映させることができ、一層適切な鳥瞰図を出力することができるようになり、車両の運転者に安全な運転操作を提供することができる。
【0028】
なお、本発明の他の態様としては、以上の何れかの構成を実現するカメラ姿勢パラメータの推定方法であってもよいし、そのような方法を実行するプログラムであってもよいし、このようなプログラムを記録したコンピュータが読み取り可能な記憶媒体であってもよい。
【発明の効果】
【0029】
本発明の各態様によれば、広角カメラの姿勢パラメータを容易にかつ正確に校正する技術を提供することができる。
【図面の簡単な説明】
【0030】
【図1】実施例1におけるパラメータ推定装置を含むカメラシステムの構成を示す模式図。
【図2】実施例1におけるパラメータ推定装置が搭載される車両の上面図を示す模式図。
【図3】実施例1における広角画像の例を示す図。
【図4】実施例1における出力画像(鳥瞰図)の例を示す図。
【図5】画像平面とカメラレンズとの間の関連を示すモデルを示す図。
【図6】球面画像及び球面投影を示す図。
【図7】直線Lの単位球面上への投影を示す図。
【図8】線分の検出例を示す図。
【図9】消失点決定部における消失点決定のアルゴリズムを示す図。
【図10】消失点決定部における消失点決定のアルゴリズムを示す図。
【図11】球面画像におけるHパターンと消失点との関係を示す図。
【図12】実施例1におけるパラメータ推定装置の動作例を示すフローチャート。
【図13】実施例2におけるパラメータ推定装置が搭載される車両の上面図を示す模式図を示す図。
【図14】実施例2におけるパラメータ推定装置を含むカメラシステムの構成を示す模式図を示す図。
【図15】各車載カメラ7から得られる広角画像の例を示す図。
【図16】実施例2における出力画像(鳥瞰図)の例を示す図。
【図17】各車載カメラから取得された広角画像からの線分検出の例を示す図。
【図18】実施例2においてカメラ姿勢パラメータの補整の繰り返し回数に対し計算された相関値を示すグラフ。
【図19】実施例2におけるパラメータ推定装置の動作例を示すフローチャートである。
【図20】パラメータ補整部により補整される前の姿勢パラメータにより生成された鳥瞰図の例を示す図。
【図21】実施例2におけるカメラシステムで出力される鳥瞰図の例を示す図。
【図22】実施例2の変形例としてのカメラシステムの構成を示す模式図。
【図23】本変形例において微調整された姿勢パラメータを用いて生成された出力画像の例を示す図。
【図24】車両の後部に搭載された1つの広角カメラの姿勢パラメータを校正するための従来手法を示す図。
【発明を実施するための形態】
【0031】
以下、本発明の一実施形態としてのパラメータ推定装置について具体例を挙げ説明する。実施形態としてのパラメータ推定装置は、車両に搭載され、その車両に設置された広角カメラの姿勢パラメータを推定する。なお、本実施形態におけるパラメータ推定装置は、搭載される車両の種類を限定するものではない。以下に挙げた各実施例はそれぞれ例示であり、本発明は以下の各実施例の構成に限定されない。
【0032】
以下の各実施例では、駐車ラインが地面に付されている駐車場に本実施形態におけるパラメータ推定装置を搭載する車両が駐車している状態でカメラの姿勢パラメータが推定される例を示す。当該パラメータ推定装置によりパラメータ推定が行われる際には、当該車両が任意の駐車スペースに車両の進行方向と両サイドの駐車ラインとが略平行となるように駐車される。この略平行とは、完全な平行が好ましいが完全な平行でなくとも許容されることを意味する。以降、本実施形態におけるパラメータ推定装置によりパラメータ推定が行われる際の車両の姿勢を基本姿勢とも表記する。本実施形態におけるパラメータ推定装置は、基本姿勢で駐車される車両に設置されるカメラで撮影される駐車ラインを用いて車載カメラの姿勢パラメータを推定する。
【実施例1】
【0033】
以下、実施形態としてのパラメータ推定装置の第1実施例について説明する。
【0034】
[システム構成]
図1は、実施例1におけるパラメータ推定装置を含むカメラシステムの構成を示す模式図である。図2は、実施例1におけるパラメータ推定装置が搭載される車両の上面図を示す模式図である。カメラシステム1は、図1に示されるように、車載カメラ7、実施例1におけるパラメータ推定装置10、周辺画像生成装置20、表示装置30等で構成される。カメラシステム1は、車両5に搭載され、車両5の周辺を映し出す画像(映像)を車両5の運転者に提供する。
【0035】
車載カメラ7は、図2に示されるように、車両5の後方部に1つ設置される。車載カメラ7は、魚眼レンズ等のような半球以上の視野を有する広角レンズを有する広角カメラである。車載カメラ7は、少なくとも車両5の後部より後方の領域(図2で示す長鎖線)を視野領域とする。車載カメラ7で撮像された映像の信号は、周辺画像生成装置20へ送られる。なお、本発明は、車載カメラ7を設置する厳密な位置を限定するものではない。
【0036】
周辺画像生成装置20は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、入出力インタフェース等で構成され、例え
ば、ソフトウェア的又はハードウェア的な起動指示に応じて電力が投入され起動される。周辺画像生成装置20は、ROMに記録されたプログラムを実行することにより、以下のような処理を実行する。
【0037】
周辺画像生成装置20は、車載カメラ7から映像信号を受け、この映像信号から画像データを取得する。以降、車載カメラ7から得られる画像データを広角画像とも表記する。周辺画像生成装置20は、この広角画像を車載カメラ7の内部パラメータ及び外部パラメータを用いて変換することにより、車両5の周辺を映し出す画像データを生成する。この
画像データは、例えば、車載カメラ7の視野領域を車両5の上空から見下ろしたように見せる鳥瞰図として生成される。図3は、実施例1における広角画像の例を示す図であり、図4は、実施例1における出力画像(鳥瞰図)の例を示す図である。
【0038】
車載カメラ7の内部パラメータは、製造時等に予め測定され、周辺画像生成装置20が読み出し可能なメモリに予め格納されている。一方で、外部パラメータ(姿勢パラメータ)は、その初期値が当該メモリに予め格納されており、任意のタイミングでパラメータ推定装置10により校正される。この任意のタイミングとは、例えば、電力投入開始時、ハードウェア的又はソフトウェア的な操作が行なわれた時などである。なお、本発明は、このような車載カメラ7の姿勢パラメータの校正タイミングを限定するものではない。
【0039】
表示装置30は、周辺画像生成装置20により生成された画像データを受け、図4に示すような鳥瞰図をディスプレイ(表示面)に表示させる。運転者は、この表示装置30の表示面に映し出された車両後方の映像を参照することにより、死角及び見え難い車両後方の状況を正確に認識することができ、結果、安全な運転操作を行うことができる。
【0040】
本発明は、周辺画像生成装置20のハードウェア構成及び画像データの変換手法を限定するものではないため、上述のように説明を簡略化している。また、図1では、パラメータ推定装置10と周辺画像生成装置20とは別々のハードウェアとして実現される例が示されるが、両者はそれぞれソフトウェアモジュールとして実現されるようにしてもよい。
【0041】
[装置構成]
パラメータ推定装置10は、特定パターン取得部11、消失点決定部12、パラメータ推定部13等を有する。これら各処理部はそれぞれ、ハードウェア回路として実現されてもよいし、ソフトウェアモジュールとして実現されてもよい。ソフトウェアモジュールとして実現される場合には、パラメータ推定装置10のCPUにおいてメモリに格納されるプログラムが実行されることにより実現される。なお、本発明は、このようなパラメータ推定装置10のハードウェア構成を限定するものではない。
【0042】
パラメータ推定装置10は、上述したような任意のタイミングで起動され、車載カメラ7の姿勢パラメータを推定し、この推定された姿勢パラメータにより周辺画像生成装置20に格納される姿勢パラメータを更新する。パラメータ推定装置10は、起動されると、車載カメラ7から映像信号を受ける。
【0043】
パラメータ推定装置10は、ピンホールカメラモデルでは半球以上の視野を持つ広角カメラで撮像された画像を扱うことができないため、車載カメラ7から取得される広角画像を球面カメラモデルを用いることにより処理する。つまり、パラメータ推定装置10は、広角画像を球面画像にマッピングする。
【0044】
図5は、画像平面とカメラレンズとの間の関連を示すモデルを示す図である。図5では、カメラ座標系における点P(X,Y,Z)の光線方向が球面座標(θ,φ)で示され、画像平面上の投影座標が(ri,φi)で示される。例えば、一般的な魚眼レンズに関しては、以下のような射影タイプが利用される。
【0045】
等距離射影(Equidistant Projection):ri=fθ
直交射影(Orthogonal Projection):ri=f sinθ
立体射影(Stereographic Projection):ri=2f tan(θ/2)
等立体角射影(Equal Area Projection):ri=2f sin(θ/2)
実際のカメラは物理的には理想的な投影モデルには従わない。光軸が画像中心を通らないかもしれない。また、1ピクセルの縦及び横のサイズが等しくならず、実レンズの半径
方向歪み(radial distortion)及び偏心歪み(decentering distortion)が存在するか
もしれない。そこで、以下の(式1)及び(式2)で示すようなカメラ歪みモデルが利用される。以下の(式1)及び(式2)におけるθ、φ、ri、φiは図5で示すとおりであり、半径方向歪み及び偏心歪みの各パラメータが(k1,k3,k5,P1,P2)で示される。
【0046】
【数1】
【0047】
光心(xC,yC)のシフトパラメータ、アスペクト比αが用いられることにより、画像平面上の投影座標(ri,φi)は、入力された広角画像の直交座標系での射影点の座標である(xf,yf)にマッピングされる。従って、カメラ座標系における点P(X,Y,Z)と広角画像上の点(xf,yf)との対応関係は以下の(式3)のように示される。
【0048】
【数2】
【0049】
(式3)により、広角画像における任意の点がカメラ内部パラメータを用いることにより単位球面画像にマッピングされる。このような空間点の球面画像への投影は球面投影と呼ばれる。図6は、球面画像及び球面投影を示す図である。
【0050】
点P(X,Y,Z)の球面画像座標系に関する座標がMC=[X Y Z]Tとすれば、単位球面画像における点Pの投影はm=[sinθcosφ sinθsinφ cosθ]Tとして表わすことができる。これにより、球面画像座標系における座標MCと投影座標mとの関係はm=λMC≒MCである。この関係は、mがスケール因子を除いてMCと等しいことを意味する。
【0051】
このような球面モデルでは、図7に示すように、直線Lは単位球面上に大円の円弧lとして投影される。図7は、直線Lの単位球面上への投影を示す図である。図7に示すnは、直線Lの投影平面の単位法線ベクトルとされる。ここで、点pが円弧l上にあると仮定し、点pがp=[sinθcosφ sinθsinφ cosθ]と示され、単位法線ベクトルnがn=[a b c]と示されると、直線の投影平面の方程式は以下の(式4)のようになる。ここで、θ及びφは、球面座標系における極角及び方位角である。
【0052】
【数3】
【0053】
ここで、同じ直線に属している点は同じ投影平面に存在することから、球面空間におけるハフ変換は、球面画像中の空間直線の投影点を用いることにより、空間直線の投影平面の法線ベクトルを決定するのに利用され得る。
【0054】
以下、上述のような球面カメラモデルを用いて処理するパラメータ推定装置10の各処理部について説明する。
【0055】
特定パターン取得部11は、車載カメラ7から送られた映像信号を受信すると、この映像信号から広角画像を取得する。この広角画像には、図3に示すように複数の駐車ラインや駐車場のその他の風景が映し出されている。以降、車両5が基本姿勢で駐車されている場合における、車両5の進行方向と略平行な駐車ラインをサイドライン41と表記し、車両5の進行方向と略垂直な駐車ラインをリアライン42と表記する。なお、一般的な駐車場では、サイドライン41とリアライン42とは直行するように駐車ラインが引かれている。
【0056】
特定パターン取得部11は、このような広角画像から実空間における特定のパターンに対応する線分を検出する。この特定のパターンは、少なくとも2本の平行な線分(以降、平行線群と表記する)及びこれらに垂直な1本の線分(以降、垂直線と表記する)から構成される。この特定のパターンは、以降、各線分の形状に基づいてHパターンと表記する。特定パターン取得部11は、広角画像を内部パラメータを用いることにより単位球面画像にマッピングし、上述したような球面カメラモデルに基づくアルゴリズムを用いて上述のような平行線群に対応する広角画像内の各線分及び垂直線に対応する広角画像内の線分を検出する。なお、広角画像から線分を検出する手法については周知な手法(例えば、特開2009−288885号公報参照)を用いればよいため、ここでは説明を簡略化する。
【0057】
特定パターン取得部11は、広角画像から複数のエッジ点を抽出し、各エッジ点について勾配方向(gradient direction)をそれぞれ計算する。この勾配方向とはエッジ点の輝度の勾配を示す。特定パターン取得部11は、算出された各勾配方向に基づいて、各エッジ点を2つのグループに分類する。1つのグループは、0度から180度までの勾配方向を持つエッジ点の集合であり、もう1つのグループは、残りの勾配方向を持つエッジ点の集合である。この分類処理により、例えば、広角画像に含まれる各駐車ラインの対向する各境界線がそれぞれ異なるグループに属することになる。
【0058】
特定パターン取得部11は、各グループに属するエッジ点の集合からそれぞれ線分を抽出する。この線分の抽出には上述したように例えばハフ変換技術が利用される。特定パターン取得部11は、ハフ変換技術を用いて空間直線に対応する球面画像上の大円を抽出する。図8は、線分の検出例を示す図である。図8の例によれば、サイドライン41から抽出された境界線の線分41A及び41Bがそれぞれ異なるグループに分類される。同様に、リアライン42から抽出された境界線の線分42A及び42Bがそれぞれ異なるグループに分類される。
【0059】
特定パターン取得部11は、抽出された線分のうち車両5に近く広角画像の縦方向(図8の縦方向)に長い線分を当該平行線群に対応する線分として特定し、車両5に近く横方
向(図8の横方向)に長い線分を当該垂直線に対応する線分として特定する。このとき、特定パターン取得部11は、口角画像の縦方向に長い線分については上記1つのグループに関し2本以上特定する。即ち、2本以上の各サイドラインからそれぞれ得られた線分が特定される。
【0060】
図8によれば、例えば、特定パターン取得部11は、図面左側(車両5の右サイド)のサイドライン41から抽出された線分41Aと、図面右側(車両5の左サイド)のサイドライン41から抽出された線分41Aとを当該平行線群に対応する各線分として特定する。特定パターン取得部11は、更に、当該垂直線に対応する線分として線分42A及び42Bの少なくとも一方を特定する。特定パターン取得部11は、このように特定されたHパターンに対応する各線分についての情報を当該広角画像と共に消失点決定部12へ送る。特定パターン取得部11は、上記(式4)を用いて決定される各線分の投影平面の法線ベクトルを各線分についての情報として消失点決定部12に送るようにしてもよい。この法線ベクトルの決定は最小2乗法が利用される。
【0061】
消失点決定部12は、特定パターン取得部11から得られるHパターンに対応する各線分についての情報を用いて、当該広角画像内の2組の消失点ペアを決定する。具体的には、まず、消失点決定部12は、当該平行線群に対応する各線分から1対の消失点ペアを決定する。次に、消失点決定部12は、当該垂直線に対応する線分と当該平行線群に対応する各線分との関係から1対の消失点ペアを決定する。図9及び10は、消失点決定部12における消失点決定のアルゴリズムを示す図である。
【0062】
図9には、仮想球面カメラによって観察された実空間中の3本の平行線群が示されている。図9に示すように、これら平行線群は、球面画像中の1対の消失点をもたらす。
【0063】
消失線は、無限空間における平行な平面群の交わるところとして定義される。球面画像では、この消失線は、図10に示すように、平行平面の交差する箇所であり球面画像の中心を通る大円に対応する。そして、平行平面と平行な線の一対の消失点は、その線と当該平面の消失線との交差点として決定することができる。つまり、1つの線における一対の消失点は、その線を含む平行線群、又は、その線と平行な平面の消失線によって決定され得る。
【0064】
図11は、球面画像におけるHパターンと消失点との関係を示す図である。図11には、2つの平行線lS1及びlS2、並びに、その2つの線に垂直な別の線lRから構成されるHパターンが示されている。消失点決定部12は、Hパターン中の2つの平行線lS1及びlS2から一対の消失点VS及びV’Sを決定する。
【0065】
原点からVSへの法線ベクトルnを以て、球面画像の中心を通る平面Πを決定する。この平面の球面画像との交点は大円CVをもたらす。この大円CVは、平面Πを含む並行平面の消失線である。線lRは平面Πと平行であるから、線lRの球面画像への投影平面と平面Πとの交点VR及びV’Rが線lRの一対の消失点となる。これにより、消失点決定部12は、Hパターンから2組の消失点を得ることができる。
【0066】
以下、消失点決定部12の処理をより具体的に説明する。消失点決定部12は、Hパターンを形成する各線分(平行線lS1及びlS2、並びに、垂直線lR)の投影平面の各法線ベクトルをそれぞれ特定パターン決定部11から受ける。ここでは、各法線ベクトルをそれぞれnS1、nS2、nRで示す。
【0067】
消失点決定部12は、各法線ベクトルを用いて2つの平行線lS1及びlS2における一対の消失点ペア(VS及びV’S)を以下の(式5)のように算出する。
【0068】
【数4】
【0069】
ここで、原点を通りn(=nS1×nS2)を法線ベクトルとする平面Πの消失線(大円CV)は以下の(式6)のように示される。また、垂直線lRの投影平面の単位球面画像との交点は以下の(式7)のように示される。
【0070】
【数5】
【0071】
消失点決定部12は、(式6)及び(式7)の解として、垂直線lRに関する一対の消失点VR及びV’Rを算出する。具体的には、x=tanθcosφ及びy=tanθsinφとし、(式6)及び(式7)の両辺がcosθで除算され、以下の(式8)が得られる。更に、(式8)の方程式の解により、下記(式9)が得られ、結果、(式10)が得られる。
【0072】
【数6】
【0073】
消失点決定部12は、φの値を用いてθの値を算出し、そして、垂直線lRに関する一対の消失点ペアを決定する。この消失点ペアの位置は、その単位球面上における極座標(θ、φ)で決まり、その直交座標は(sinθcosφ,sinθsinφ,cosθ)と(−sinθcosφ,−sinθsinφ,−cosθ)で求められる。
【0074】
消失点決定部12は、特定パターン取得部11から2つの垂直線(図8に示す線分42A及び42B)の情報を得ている場合には、各垂直線について上述のようにそれぞれ一対の消失点ペアを決定し、これらの平均値を最終的な垂直線に関する一対の消失点ペアとしてもよい。
【0075】
パラメータ推定部13は、消失点決定部12により決定された2組の消失点ペアの情報を用いて、車載カメラ7の地面(世界座標系)に対する姿勢パラメータを推定する。広角画像において検出された2組の消失点ペアからカメラ姿勢パラメータを推定する手法については周知な手法が採用されればよいため、ここでは説明を簡略化する。
【0076】
パラメータ推定部13は、2組の消失点ペアから地面に対する回転行列(rotational matrix)を推定する。更に、パラメータ推定部13は、広角画像中のサイドラインとリア
ラインとの交点を1つの世界座標系の原点に設定し、この原点及び2組の消失点ペアに基づいて並進ベクトル(translational vector)を推定する。推定された回転行列はカメラ方位(orientation)を示し、推定された並進ベクトルはカメラ位置(displacement)を
示す。パラメータ推定部13は、このように推定された回転行列及び並進ベクトルを含む姿勢パラメータを周辺画像生成装置20へ送る。
【0077】
[動作例]
以下、実施例1におけるパラメータ推定装置1の動作例を図12を用いて説明する。図12は、実施例1におけるパラメータ推定装置1の動作例を示すフローチャートである。
【0078】
特定パターン取得部11は、車載カメラ7から送られた映像信号を受信すると、この映像信号から広角画像を取得する(S121)。特定パターン取得部11は、このような広角画像から実空間における特定のパターン(Hパターン)に対応する各線分を検出する(122)。具体的には、特定パターン取得部11は、Hパターンを構成する少なくとも2本の平行線群に対応する各線分と、当該平行線群と垂直な垂直線に対応する線分とを検出する。
【0079】
消失点決定部12は、特定パターン取得部11からHパターンに対応する各線分を取得する。消失点決定部12は、当該平行線群に対応する各線分から1組の消失点ペアを決定する(S123)。これは、広角画像が前記広角カメラの内部パラメータを用いてマッピングされた球面画像に対する1組の消失点ペアとして決定される。
【0080】
次に、消失点決定部12は、当該平行線群に対応する各線分から決定された消失点ペアと当該垂直線に対応する線分との関係からもう1組の消失点ペアを決定する(S124)。具体的には、上述のように決定された1つの消失点と当該球面画像の中心とを結ぶ線を法線とする平面から1つの消失線を決定し、その平面と平行な関係となる垂直線のその球面画像への投影平面からもう1つの消失線を決定し、決定された2つの消失線の交点からそのもう1組の消失点ペアを決定する。
【0081】
パラメータ推定部12は、消失点決定部12により決定された当該広角画像における2組の消失点ペアを用いて、車載カメラ7の姿勢パラメータを推定する(S125)。具体的には、パラメータ推定部13は、2組の消失点ペアから地面に対する回転行列を推定し、更に、広角画像中のサイドラインとリアラインとの交点を1つの世界座標系の原点に設定し、この原点及び2組の消失点ペアに基づいて並進ベクトルを推定する。
【0082】
[実施例1における作用及び効果]
上述したような実施例1におけるパラメータ推定装置1では、車載カメラ7により車両5の周辺環境として駐車場の駐車ラインが撮像されることで得られる広角画像から、特定パターン取得部11が実空間上でのHパターンに対応する線分を検出する。実施例1では、世界座標系でのHパターンとして、駐車場の地面に付されている駐車ラインのうち、少なくとも2本の平行線群とこれらに垂直な1本の垂直線とに対応する各線分が当該広角画像から検出される。
【0083】
続いて、消失点決定部12がこのように検出された実空間上のHパターンに対応する各線分を用いて広角画像中の2組の消失点ペアを決定する。続いて、パラメータ推定部13が、このように決定された2組の消失点ペアを利用して車載カメラ7の姿勢パラメータのうちの回転行列を推定し、かつ、垂直線と平行線群との交点に設定される原点及び2組の消失点ペアを用いて車載カメラ7の姿勢パラメータのうちの並進ベクトルを推定する。
【0084】
これにより、周辺画像生成装置20では、パラメータ推定部13から得られた姿勢パラメータが外部パラメータとして用いられ、車載カメラ7から得られる広角画像から図4に示すような車両5の周辺を映し出す画像データが生成される。
【0085】
このように実施例1のパラメータ推定装置1によれば、特定パターンを持つ駐車ラインが付された駐車場に対象車両5を駐車しさえすれば、簡単にかつ正確に、車載カメラ7の外部パラメータを校正することができる。通常の駐車場には上述のようなHパターンが存在しているので、実施例1によれば、従来手法のように、複数のマーカを準備し、かつ、予め決められた正確な位置に各マーカを配置する等といった負担の大きい作業を必要としない。また、駐車ラインのHパターンは必ずしも平行線群と垂直線とが直交している状態で車載カメラ7に撮像される必要はなく、その交点にトラフィックコーンのような障害物が置かれていたりその交点付近のラインが消されていたとしても姿勢パラメータを推定可能であることは言うまでもない。このような場合には、広角画像から検出された各線分をその方向に応じて延長させて交点を導くようにすればよい。
【0086】
更に、従来は、球面カメラモデルにおいて、消失点は、2つ以上の平行線群の交点として決定されていたところ、実施例1では、Hパターンから2組の消失点ペアを決定することができるため、姿勢パラメータを校正するためのシーンの制限を一層緩くすることができる。
【実施例2】
【0087】
実施例1では1つの車載カメラ7の姿勢パラメータを推定対象としていた。そこで、実施例2として、3つの車載カメラ7の各姿勢パラメータを推定対象とする例を以下に示す。以下、実施例1と異なる内容を中心に実施例2におけるパラメータ推定装置について説明する。
【0088】
図13は、実施例2におけるパラメータ推定装置が搭載される車両の上面図を示す模式図である。図14は、実施例2におけるパラメータ推定装置を含むカメラシステムの構成を示す模式図である。実施例2におけるカメラシステム1は、3つの車載カメラ7、実施例2におけるパラメータ推定装置10、周辺画像生成装置20、表示装置30等で構成される。
【0089】
実施例2では、車両5に3つの車載カメラ7が車両の後部(7B)、左サイド(7L)及び右サイド(7R)にそれぞれ設定される。各車載カメラ7は、実施例1と同様に広角カメラである。以降、車載カメラ7B、7R及び7Lをそれぞれリアカメラ、右カメラ、左カメラとも表記する。なお、本発明は、車載カメラ7B、7R及び7Lを設置する厳密な各位置を限定するものではない。
【0090】
図15は、各車載カメラ7から得られる広角画像の例を示す図である。具体的には、図15(A)は、左カメラ7Lから得られる広角画像の例を示し、図15(B)は、リアカメラ7Bから得られる広角画像の例を示し、図15(C)は、右カメラ7Rから得られる広角画像の例を示す。図15(A)及び(C)に示されるように、左カメラ7L及び右カメラ7Rから得られる各広角画像では、リアライン42が図面に対して縦方向に長く延びており、サイドライン41が図面に対して横方向に長く伸びている。逆に、図15(B)に示されるリアカメラ7Bから得られる広角画像では、リアライン42が図面に対して横方向に長く延びており、サイドライン41が図面に対して縦方向に長く伸びている。
【0091】
図13及び15から分かるように、リアカメラ7Bは、少なくとも車両5の後部より後方の領域(図13で示す長鎖線7B−FOV)を視野領域とする。右カメラ7Rは、少なくとも車両5の右側面より右方向の領域(図13で示す長鎖線7R−FOV)を視野領域とする。左カメラ7Lは、少なくとも車両5の左側面より左方向の領域(図13で示す長鎖線7L−FOV)を視野領域とする。よって、実施例2では、右カメラ7Rとリアカメラ7Bとの間には、重複する視野領域(図13で斜線で示される領域OL−FOV−R)が存在し、左カメラ7Lとリアカメラ7Bとの間には、重複する視野領域(図13で斜線
で示される領域OL−FOV−L)が存在する。
【0092】
周辺画像生成装置20は、3つの車載カメラ7からそれぞれ映像信号を受け、各映像信号から各広角画像をそれぞれ取得する。周辺画像生成装置20は、各広角画像を各車載カメラ7の内部パラメータ及び外部パラメータを用いてそれぞれ変換することにより、車両5の周辺を映し出す画像データを生成する。図16は、実施例2における出力画像(鳥瞰図)の例を示す図である。なお、図15の例のような複数の車載カメラ7から得られた広角画像から図16に示すような画像データを生成する具体的手法については周知な手法が利用されればよいため、ここでは説明を省略する。
【0093】
周辺画像生成装置20により生成された画像データは、表示装置30のディスプレイに表示される。これにより、運転者は、この表示装置30の表示面に映し出された映像を参照することにより、見え易い前方以外の各方向の状況を正確に認識することができ、結果、安全な運転操作を行うことができる。
【0094】
周辺画像生成装置20は、3つの各車載カメラ7についてそれぞれ内部パラメータ及び外部パラメータを読み出し可能なメモリに格納する。各カメラの内部パラメータについては、実施例1と同様に、製造時等に予め測定され格納されている。各カメラの外部パラメータ(姿勢パラメータ)は、その初期値が当該メモリに予めそれぞれ格納されており、任意のタイミングでパラメータ推定装置10によりそれぞれ校正される。
【0095】
[装置構成]
実施例2におけるパラメータ推定装置10は、各車載カメラ7について、特定パターン取得部11、消失点決定部12及びパラメータ推定部13のセットをそれぞれ有する。具体的には、リアカメラ7Bから得られる広角画像を処理するセットとして特定パターン取得部11B、消失点決定部12B及びパラメータ推定部13Bが備えられ、右カメラ7Rから得られる広角画像を処理するセットとして特定パターン取得部11R、消失点決定部12R及びパラメータ推定部13Rが備えられ、左カメラ7Lから得られる広角画像を処理するセットとして特定パターン取得部11L、消失点決定部12L及びパラメータ推定部13Lが備えられる。
【0096】
特定パターン取得部11B、消失点決定部12B及びパラメータ推定部13Bは、実施例1と同様の手法により、リアカメラ7Bから得られる広角画像からリアカメラ7Bの姿勢パラメータを推定する。同様に、特定パターン取得部11R、消失点決定部12R及びパラメータ推定部13Rは、実施例1と同様の手法により、右カメラ7Rから得られる広角画像から右カメラ7Rの姿勢パラメータを推定する。同様に、特定パターン取得部11L、消失点決定部12L及びパラメータ推定部13Lは、実施例1と同様の手法により、左カメラ7Lから得られる広角画像からリアカメラ7Lの姿勢パラメータを推定する。
【0097】
図17は、各車載カメラから取得された広角画像からの線分検出の例を示す図である。上述したように、リアカメラ7Bから取得された広角画像と、他のカメラ7L及び7Bから得られた広角画像とでは、リアライン42及びサイドライン41の伸びる方向が異なる。そこで、特定パターン取得部11Bは、実施例1と同様に、実空間におけるHパターンに対応する各線分を検出すればよいが、特定パターン取得部11R及び11Lは、実施例1とは若干異なる。特定パターン取得部11R及び11Lはそれぞれ、抽出された線分のうち車両5に近く広角画像の縦方向(図17の縦方向)に長い線分を当該垂直線として特定し、車両5に近く横方向(図17の横方向)に長い線分を当該平行線群として特定する。なお、特定パターン取得部11R及び11Lのその他の処理については、実施例1と同様である。
【0098】
なお、図14の例では、各車載カメラ7についてそれぞれ特定パターン取得部11、消失点決定部12及びパラメータ推定部13のセットを設ける例を示したが、本発明はこのような構成に限定するものではない。特定パターン取得部11、消失点決定部12及びパラメータ推定部13が1つずつ設けられるようにしてもよい。
【0099】
実施例2におけるパラメータ推定装置10は、更に、パラメータ補整部15を有する。パラメータ補整部15は、各パラメータ推定部13B、13L及び13Rにより推定された各姿勢パラメータを、右カメラ7Rとリアカメラ7Bとの間、及び、左カメラ7Lとリアカメラ7Bとの間の各相対姿勢に関し補整する。
【0100】
上述したように、実施例2では、隣接する2つの車載カメラ7の間には重複する視野領域OL−FOV−R及びOL−FOV−Lがある。パラメータ補整部15は、各パラメータ推定部13により推定された各姿勢パラメータを用いて、隣接する車載カメラ7のうちの一方から得られた広角画像上のピクセルを他方から得られた広角画像上にマッピングする。これにより、右カメラ7Rから得られた広角画像内の視野領域OL−FOV−Rに対応する領域、及び、左カメラ7Lから得られた広角画像内の視野領域OL−FOV−Lに対応する領域がそれぞれリアカメラ7Bから得られた広角画像にマッピングされる。
【0101】
以下、隣接する車載カメラ7から得られた広角画像間のマッピング処理についてより詳細に説明する。パラメータ補整部15は、パラメータ推定部13L及び13Bから左カメラ7Lの姿勢パラメータ(Rlg,Tlg)及びリアカメラ7Bの姿勢パラメータ(Rbg,Tbg)を取得する。このとき、左カメラ7Lから得られた広角画像及びリアカメラ7Bから得られた広角画像における地上点Pgの射影がそれぞれxl及びxblであると想定すると、以下の式が成立する。
【0102】
【数7】
【0103】
s(xl)及びs(xbl)はそれぞれ単位球面画像における対応点xl及びxblの座標を示し、各内部パラメータにより上記(式3)を用いて算出される。λl及びλbは、世界座標系のx軸及びy軸が地上平面に設定されたときに地上点Pgのz座標がゼロとなるという地上平面の制約により決定されるスケール因子である。
【0104】
上記(式11)によれば、下記(式12)が得られ、最終的に、下記(式13)が得られる。Rbg−1はRbgの逆行列を示す。また、s−1は、sの逆演算を示し、カメラの内部パラメータによって単位球面画像の点から広角画像の点を算出することを意味する。
【0105】
【数8】
【0106】
パラメータ補整部15は、例えば上記(式13)においてカメラ姿勢パラメータ及び既知の内部パラメータを用いることにより、左カメラ7Lから得られた広角画像における地上点Pgに対応する点xlをリアカメラ7Bから得られた広角画像における地上点Pgに対応する点xblにマッピングする。なお、上述の説明では、左カメラ7L及びリアカメラ7Bから得られた各広角画像間のマッピング処理について示したが、右カメラ7R及びリアカメラ7Bから得られた各広角画像間のマッピング処理の同様であるためここでは説明を省略する。
【0107】
以降、説明を簡単にするために、上記(式13)を用いたマッピング処理を以下の(式14)のように示す。同様に、右カメラ7Rから得られた広角画像及びリアカメラ7Bから得られた広角画像における地上点Pg2の射影がそれぞれxr及びxbrであると想定し、右カメラ7R及びリアカメラ7Bから得られた各広角画像間のマッピング処理を以下の(式15)のように示す。
【0108】
【数9】
【0109】
ここで、xl、xr、xbl及びxbrの明るさをLl(xl)、Lr(xr)、Lb(xbl)、Lb(xbr)で示した場合、以下の(式16)によって、隣接する2つの車載カメラ間で重複する視野領域に対応する重複画像領域の同一性を計算することができる。Ω1及びΩ2は、左カメラ7L及びリアカメラ7Bの間、並びに、右カメラ7R及びリアカメラ7Bの間の地上の重複画像領域を示し、Ll(上線付き)、Lr(上線付き)、Lb(上線付き)は、それぞれ左カメラ、右カメラ及びリアカメラから取得された各広角画像における重複領域の画素値の平均値を示す。
【0110】
【数10】
【0111】
パラメータ補整部15は、例えば上記(式16)を用いることにより、重複する視野領域に対応する重複画像領域が、リアカメラ7B、右カメラ7L、リアカメラ7Bからそれぞれ得られる各広角画像の間で近似するように、各カメラの姿勢パラメータをそれぞれ補整する。パラメータ補整部15は、例えば、シンプレックス法(simplex method)を用いることにより(式16)の値を最大化することにより各姿勢パラメータを補整する。具体的には、Ψlb及びΨrbには(式13)に示すように各姿勢パラメータが含まれているため、(式16)が最大化されたときに得られるΨlb及びΨrbから、補整された各姿勢パラメータを取得する。
【0112】
図18は、実施例2においてカメラ姿勢パラメータの補整の繰り返し回数に対し計算された相関値を示すグラフである。相関値は(式16)を用いて計算される。パラメータ補整部15は、例えば(式16)で算出される相関値が0.8より大きくなった場合に処理を終了する。図18の例では、補整前の相関値が0.69であり、補整後の相関値が0.8となっている。パラメータ補整部15は、このように洗練された各姿勢パラメータをそれぞれ周辺画像生成部20へ送る。
【0113】
[動作例]
以下、実施例2におけるパラメータ推定装置1の動作例を図19を用いて説明する。図19は、実施例2におけるパラメータ推定装置1の動作例を示すフローチャートである。
【0114】
特定パターン取得部11R、11B及び11Lは、各車載カメラ7から得られる各広角画像から実施例1と同様の手法によりHパターンに対応する平行線群及び垂直線を特定する(S121及びS122)。続いて、消失点決定部12R、12B及び12Lは、これら特定された各線分を用いて実施例1と同様の手法により各広角画像についての2組の消失点ペアをそれぞれ決定する(S123及びS124)。パラメータ推定部13R、13B及び13Lは、これら決定された2組ずつの消失点ペアに基づいて実施例1と同様の手法により各車載カメラ7の姿勢パラメータをそれぞれ推定する(S125)。
【0115】
実施例2では、続いて、パラメータ補整部15が、複数の車載カメラ7のうち重複する視野領域を有する各車載カメラ7から得られる各広角画像における当該重複領域に対応する画像領域の画像データ(ピクセルデータ)を、推定された各姿勢パラメータを用いて対応付ける(S191)。具体的には、左カメラ7L及びリアカメラ7Bから得られた各広角画像間の対応付け(マッピング)処理、及び、右カメラ7R及びリアカメラ7Bから得
られた各広角画像間の対応付け処理がそれぞれ行われる。
【0116】
パラメータ補整部15は、当該車載カメラ7間で重複する視野領域に対応する重複画像領域の画像データ(ピクセルデータ)の相関を計算する(S192)。パラメータ補整部15は、この相関値が最大化するような値で当該各姿勢パラメータを補整する(S193)。これにより、各姿勢パラメータが、右カメラ7Rとリアカメラ7Bとの間、及び、左カメラ7Lとリアカメラ7Bとの間の各相対姿勢に関し補整される。
【0117】
[実施例2における作用及び効果]
上述したような実施例2では、車両5の後部、右側面及び左側面に設置されたリアカメラ7B、右カメラ7R及び左カメラ7Lからそれぞれ広角画像が取得され、各広角画像に含まれる駐車ラインのHパターンに対応する線分を用いて実施例1と同様の手法によりリアカメラ7B、右カメラ7R及び左カメラ7Lの姿勢パラメータがそれぞれ推定される。
【0118】
実施例2におけるパラメータ推定装置10では、更に、パラメータ補整部15により、実施例1と同様の手法により推定された3つの車載カメラ7の各姿勢パラメータが隣接する2つのカメラ間の相対姿勢に関し洗練される。具体的には、各パラメータ推定部13でそれぞれ推定された各姿勢パラメータ及び予め決められた内部パラメータが利用されることにより、隣接する2つのカメラの一方から得られる広角画像の点が他方から得られる広角画像の点にマッピングされる。このマッピングされた各広角画像の点の相関値が隣接する2つのカメラの重複視野領域に対応する画像領域において最大化されるように各姿勢パラメータが決定される。このように、実施例2によれば、隣接するカメラ間における地面の重複領域を使ってカメラ間で相対的な姿勢を洗練することができる。
【0119】
図20は、パラメータ補整部15により補整される前の姿勢パラメータにより生成された鳥瞰図の例を示す図である。図21は、実施例2におけるカメラシステムで出力される鳥瞰図の例を示す図である。図20及び21では、下図の丸で囲まれた部分の拡大図が各上図でそれぞれ示されている。図20の鳥瞰図では、隣接するカメラ間の重複視野領域に相当する箇所において視覚的矛盾が見受けられる。ところが、図21の鳥瞰図では、その視覚的矛盾が解消されていることが分かる。このように、実施例2によれば、視覚的一貫性を持つ出力画像を生成することができる。
【0120】
[変形例]
上述したように、実施例1及び2におけるパラメータ推定装置10によれば、簡単にかつ正確に車載カメラ7の姿勢パラメータ(外部パラメータ)を推定し、校正することができる。しかしながら、実施例1及び2では地上のHパターンに対するカメラ姿勢が推定されるが、車両5に対するカメラ姿勢を必ずしも推定しているとは限らない。ところが、最終的な出力画像(鳥瞰図)は車両5を中心に示した画像であるため、その出力画像において車両5の側面が駐車ラインのサイドラインと平行とならない場合があり得る(図21の下図参照)。この場合、地上に対するカメラ姿勢に回転変位が生ずる可能性がある。
【0121】
そこで、上述の実施例1及び2におけるカメラシステム1を、ユーザとの対話型インタフェースを介してこのような車両5を中心とするカメラ姿勢が微調整され得るように構成してもよい。図22は、実施例2の変形例としてのカメラシステムの構成を示す模式図である。なお、図22には実施例2の変形例を示したが、実施例1にも同様の変形例を適用することが可能であることは言うまでもない。
【0122】
本変形例では、周辺画像生成装置20に微調整処理部25が設けられる。微調整処理部25は、例えば、周辺画像生成装置20内のROMに格納されたプログラムがCPUで実行されることにより実現される。微調整処理部25は、周辺画像生成装置20が生成した
鳥瞰図のような出力画像にユーザの操作メニューとして微調整用インタフェースを付加する。
【0123】
運転者等のユーザは、表示装置30に表示された出力画像において車両5の側面が駐車ラインのサイドラインと平行となっていないと判断した場合には、その操作メニューとしての微調整用インタフェースを入力装置35を介して操作する。この微調整用インタフェースは、出力画像の中心を回転中心として、長方形の出力画像の縦の両サイドが、その画像に現れる車の両サイドと並行になるように、出力画像を時計回り又は反時計周りに回転する角度を変えることができるインタフェースである。なお、このインタフェースの形態は限定されない。
【0124】
微調整処理部25は、入力装置35から得られるデータに基づいてユーザ操作に対応する回転角度を取得し、この回転角度をパラメータ推定装置10で推定された姿勢パラメータの回転行列に反映させる。これにより、周辺画像生成装置20は、この更新された姿勢パラメータを用いて再度出力画像を生成し、表示装置30へ出力させる。
【0125】
当該ユーザは、表示装置30の表示部に表示される出力画像を見ながら、回転角度を当該インタフェースを用いて車両5の側面が駐車ラインのサイドラインと平行となるように調整する。
【0126】
図23は、本変形例において微調整された姿勢パラメータを用いて生成された出力画像の例を示す図である。図23には、図21の下図に示す出力画像内における車両5の傾きが調整されていることが示されている。
【0127】
このように本変形例によれば、このようなユーザとの対話型インタフェースを提供することにより、車両5に対するカメラ姿勢パラメータについても正確に決めることができ、一層正確な姿勢パラメータを取得することが可能となる。
【0128】
また、上述の各実施例では、車載カメラ1台及び3台を用いた形態を示したが、本発明は車載カメラの台数を限定するものではない。車両5の前方に設置されたカメラを含む4台の車載カメラを用いる形態であってもよいし、それ以上の台数のカメラを用いる形態であってもよい。
【0129】
また、上述の各実施例では、地上に付された駐車ラインを実世界における特定パターン(Hパターン)として利用する例を示したが、本発明はこのような形態に限定するものではない。予め少なくとも2本の平行な線分(以降、平行線群と表記する)及びこれらに垂直な1本の線分(以降、垂直線と表記する)から構成されるとして知られているものであり、車載カメラ7で撮像可能なものであれば、例えば、建物の壁面と地面、壁面と天井面、そのような形状を有する模型などが利用されてもよい。
【符号の説明】
【0130】
1 カメラシステム
5 車両
7、7B、7L、7R 車載カメラ(リアカメラ、左カメラ、右カメラ)
10 パラメータ推定装置
11、11B、11L、11R 特定パターン取得部
12、12B、12L、12R 消失点決定部
13、13B、13L、13R パラメータ推定部
20 周辺画像生成装置
25 微調整処理部
30 表示装置
35 入力装置
【技術分野】
【0001】
本発明は、広角カメラの姿勢パラメータ推定技術に関する。
【背景技術】
【0002】
近年、運転操作の安全性を高めることを目的として、魚眼カメラ等のような広角レンズを用いた複数のカメラを搭載し、車両の周囲を死角なくモニタリングするカメラシステムを搭載する車両が存在する。このようなカメラシステムは、車両の複数箇所に設置された各カメラによって撮影された画像を用いて、車両の周辺画像を生成し、生成された画像を表示装置に表示させる。表示装置に表示される周辺画像を見ることにより、運転者は、容易かつ安全に運転操作をすることができる。
【0003】
車両内部の表示装置の表示領域は大きさに制限があるため、各カメラで撮影された複数の画像から生成される周辺画像を運転者にとって見易く瞬時に把握可能に表示させることは重要である。このような課題を解決する手法が例えば以下の特許文献1により提案されている。
【0004】
また、上述のようなカメラシステムにおいて、車両の周辺画像として、車両を上空から見下ろしたように描いたトップビュー(以降、鳥瞰図とも表記する)を生成するシステムが存在する。鳥瞰図によれば、運転者は、死角なく、車両の周囲の状況を瞬時に把握することができる。
【0005】
しかしながら、複数の魚眼カメラを持つカメラシステムにおいて鳥瞰図を生成するためには、予め、各魚眼カメラをそれぞれ校正する必要がある。
【0006】
校正の対象となり得るカメラのパラメータは、一般的には、内部パラメータ及び外部パラメータに区別される。内部パラメータには、主点(principal point)、焦点距離(focal length)、レンズ歪み(lens distortion)等が含まれる。このような内部パラメータは、カメラの環境で変化しないため、予め測定され製造プロセス等において設定される。
【0007】
一方、外部パラメータはワールド座標系(world coordinate system)に対するカメラ
の方向(orientation)と位置(position)であり、カメラ姿勢(pose)パラメータとも
呼ばれる。このようなカメラ姿勢パラメータを校正するための手法は各種提案されている。例えば、車のボンネット(hood)上に置かれた複数のマーカを用いて自動車のアプリケーションにおけるステレオビジョンシステムを較正する手法が提案されている(下記非特許文献1参照)。また、車両の前の地面に置かれた複数の円パターンを用いることにより外部パラメータを校正することが提案されている(下記非特許文献2参照)。更に、車載カメラで検出された平行の車線マーキングを用いることにより前方カメラの方向を校正する方法が提案されている(下記非特許文献3参照)。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2009−206747号公報
【非特許文献】
【0009】
【非特許文献1】A. Broggi, M. Bertozzi and A. Fascioli, “Self-calibration of a stereo system for automotive applications”, Proc. of IEEE conference on Robotics and Automation, pp.3698-3703, 2001
【非特許文献2】S. Hold, C. Nunn, A. Kummert, and S. Muller-Schnerders, “Effi-cient and robust extrinsic camera calibration procedure for lane departure warning”, Proc. of Intelligent Vehicle Symposium, pp.382-387, 2009
【非特許文献3】A. Catala-Part, J. Rataj and R. Reulke, “Self-calibration system for the orientation of a vehicle camera”, ISPR Commission V Sympo-sium on Image Engineering and Vision Metrology, pp.68-73, 2006
【発明の概要】
【発明が解決しようとする課題】
【0010】
しかしながら、上述のような従来のカメラ較正方法は、従来のピンホールカメラモデルに基づいた限定された視野(FOV(Field Of View))の一般的なカメラに対して適用される方法であり、全方向カメラや魚眼カメラのような半球より広視野の広角カメラにそのまま適用することができない。
【0011】
そこで、従来の広角カメラを用いた車載カメラシステムでは、図24に示されるように、地上の予め決められた正確な位置に設置された複数のマーカを用いてカメラの姿勢パラメータを校正する方法が採用されている。図24は、車両の後部に搭載された1つの広角カメラの姿勢パラメータを校正するための従来手法を示す図である。図24の例によれば、車両の幅方向の中心線上の車両後部から50センチメートル(cm)、1メートル(m)、2(m)の各位置にそれぞれ1つずつのマーカを設置し、更に、車両の両サイドの面と平行で車両幅間隔離された2つの線上の車両後部から1(m)の各位置に1つずつのマーカを設置する必要がある。
【0012】
このように従来手法では、複数のマーカを準備しなければならず、かつ、予め決められた正確な位置に各マーカを配置しなければならないため、カメラの校正に多大なる負担がかかっていた。
【0013】
本発明の一態様に係る課題は、このような問題点に鑑み、広角カメラの姿勢パラメータを容易にかつ正確に推定する技術を実現することにある。
【課題を解決するための手段】
【0014】
本発明の各態様では、上述した課題を解決するために、それぞれ以下の構成を採用する。
【0015】
第1の態様は、カメラ姿勢パラメータ推定装置に関する。第1の態様に係るカメラ姿勢パラメータ推定装置は、半球以上の視野を有する広角カメラにより得られる広角画像から、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、第1直線及び第2直線と垂直な関係を有する1つの第3直線とから構成される特定パターンを形成し得る各線分をそれぞれ取得するパターン取得手段と、このパターン取得手段により取得された特定パターンを形成し得る各線分を用いて上記広角画像に対する2組の消失点ペアを決定する決定手段と、この決定手段で決定された2組の消失点ペアを用いて地面に対する広角カメラの姿勢パラメータを推定する推定手段と、を備える。
【0016】
第1の態様では、広角カメラから得られる広角画像から実空間における特定パターンに対応する各線分が取得され、この取得された各線分から広角画像に対する2組の消失点ペアが決定され、この2組の消失点ペアから広角カメラの姿勢パラメータが推定される。
【0017】
従って、第1の態様によれば、当該広角カメラにより当該特定パターンが撮像されさえすれば、広角カメラの姿勢パラメータを容易にかつ正確に推定することができる。
【0018】
当該特定パターンは、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、第1直線及び第2直線と垂直な関係を有する1つの第3直線とから構成される。このような特定パターンは、駐車場の駐車ラインや建物の壁面のライン等のように一般的に実空間に存在するものが利用されればよいため、従来のようにカメラの校正に費やされる負担を大きく軽減させることができる。
【0019】
上記第1の態様において好ましくは、上記決定手段が、上記特定パターンに対応する各線分のうち第1直線に対応する線分と第2直線に対応する線分とを用いて、広角画像が広角カメラの内部パラメータを用いてマッピングされた球面画像に対する1組の消失点ペアを前記広角画像の1組の消失点ペアとして決定し、この決定された1つの消失点とその球面画像の中心とを結ぶ線を法線とする平面から1つの消失線を決定し、その平面と平行な関係となる第3直線のその球面画像への投影平面からもう1つの消失線を決定し、決定された2つの消失線の交点から更に1組の消失点ペアを決定するようにしてもよい。
【0020】
これにより、少ない情報で広角画像に対する2組の消失点ペアを決定することができ、正確に、カメラ姿勢パラメータを推定することができる。
【0021】
また、上記第1の態様において好ましくは、上記パターン取得手段が、第1直線及び第2直線、並びに、第1直線及び第2直線と垂直な関係を有す第3直線とは異なる第4直線から構成される他の特定パターンを形成し得る各線分を更にそれぞれ取得し、上記決定手段が、第4直線を用いて第3直線と同様に新たな1組の消失点ペアを決定し、この新たに決定された1組の消失点ペアと、第3直線を用いて決定された1組の消失点ペアとの平均により1組の消失点ペアを決定するようにしてもよい。
【0022】
このようにすれば、一層正確に2組の消失点ペアを決定することができる。
【0023】
また、上記第1の態様において、複数の広角カメラを対象に各広角カメラの姿勢パラメータを推定することも可能である。この場合、上記パターン取得手段が、複数の広角カメラから得られる各広角画像からそれぞれ、特定パターンに対応する各線分を取得し、上記決定手段が、2組の消失点ペアを前記各広角画像についてそれぞれ決定し、上記推定手段が、各広角画像に対する各2組の消失点ペアをそれぞれ用いて、各広角カメラの姿勢パラメータをそれぞれ推定する。そして、この態様においては、当該第1の態様に係るカメラ姿勢パラメータ推定装置が、複数の広角カメラのうち重複する視野領域を有する少なくとも2つの隣接広角カメラから得られる各広角画像内のその重複する視野領域に対応する画像領域を上記推定手段により推定されたその隣接広角カメラの各姿勢パラメータを用いて特定し、この特定された各画像領域の画像情報を用いてその隣接広角カメラの各姿勢パラメータを補整する補整手段を更に備えるようにしてもよい。
【0024】
これによれば、複数の広角カメラに関する各姿勢パラメータが推定され、この推定された各姿勢パラメータが、重複する視野領域を有する少なくとも2つの隣接広角カメラの間の相対的情報により更に洗練される。よって、第1の態様によれば、複数の広角カメラの姿勢パラメータを正確に推定することが可能である。
【0025】
また、この複数の広角カメラを対象とした態様において、上記補整手段が、特定された各画像領域の画像データ間の相関値が最大化される値となるように隣接広角カメラの各姿勢パラメータを補整するようにしてもよい。
【0026】
第2の態様は、複数の広角カメラと、上述のようなパラメータ推定装置と、各広角カメラから得られる各広角画像から画像データを生成する画像生成装置とを含むカメラシステムに関する。このカメラシステムでは、当該画像生成装置が、上述の第1の態様のような
パラメータ推定装置により推定された複数の広角カメラの各姿勢パラメータを用いて、複数の広角画像から前記複数の広角カメラが搭載された車両を中心とする鳥瞰図を示す画像データを生成する生成手段と、この生成手段により生成された画像データに応じた鳥瞰図を参照したユーザにより入力されるその鳥瞰図における車両の傾き情報を取得する傾き情報取得手段と、その傾き情報を複数の広角カメラの各姿勢パラメータに反映させる反映手段と、を備える。
【0027】
第2の態様によれば、ユーザにより入力される傾き情報に基づいて車両の地面に対する傾きを複数の広角カメラの各姿勢パラメータに反映させることができ、一層適切な鳥瞰図を出力することができるようになり、車両の運転者に安全な運転操作を提供することができる。
【0028】
なお、本発明の他の態様としては、以上の何れかの構成を実現するカメラ姿勢パラメータの推定方法であってもよいし、そのような方法を実行するプログラムであってもよいし、このようなプログラムを記録したコンピュータが読み取り可能な記憶媒体であってもよい。
【発明の効果】
【0029】
本発明の各態様によれば、広角カメラの姿勢パラメータを容易にかつ正確に校正する技術を提供することができる。
【図面の簡単な説明】
【0030】
【図1】実施例1におけるパラメータ推定装置を含むカメラシステムの構成を示す模式図。
【図2】実施例1におけるパラメータ推定装置が搭載される車両の上面図を示す模式図。
【図3】実施例1における広角画像の例を示す図。
【図4】実施例1における出力画像(鳥瞰図)の例を示す図。
【図5】画像平面とカメラレンズとの間の関連を示すモデルを示す図。
【図6】球面画像及び球面投影を示す図。
【図7】直線Lの単位球面上への投影を示す図。
【図8】線分の検出例を示す図。
【図9】消失点決定部における消失点決定のアルゴリズムを示す図。
【図10】消失点決定部における消失点決定のアルゴリズムを示す図。
【図11】球面画像におけるHパターンと消失点との関係を示す図。
【図12】実施例1におけるパラメータ推定装置の動作例を示すフローチャート。
【図13】実施例2におけるパラメータ推定装置が搭載される車両の上面図を示す模式図を示す図。
【図14】実施例2におけるパラメータ推定装置を含むカメラシステムの構成を示す模式図を示す図。
【図15】各車載カメラ7から得られる広角画像の例を示す図。
【図16】実施例2における出力画像(鳥瞰図)の例を示す図。
【図17】各車載カメラから取得された広角画像からの線分検出の例を示す図。
【図18】実施例2においてカメラ姿勢パラメータの補整の繰り返し回数に対し計算された相関値を示すグラフ。
【図19】実施例2におけるパラメータ推定装置の動作例を示すフローチャートである。
【図20】パラメータ補整部により補整される前の姿勢パラメータにより生成された鳥瞰図の例を示す図。
【図21】実施例2におけるカメラシステムで出力される鳥瞰図の例を示す図。
【図22】実施例2の変形例としてのカメラシステムの構成を示す模式図。
【図23】本変形例において微調整された姿勢パラメータを用いて生成された出力画像の例を示す図。
【図24】車両の後部に搭載された1つの広角カメラの姿勢パラメータを校正するための従来手法を示す図。
【発明を実施するための形態】
【0031】
以下、本発明の一実施形態としてのパラメータ推定装置について具体例を挙げ説明する。実施形態としてのパラメータ推定装置は、車両に搭載され、その車両に設置された広角カメラの姿勢パラメータを推定する。なお、本実施形態におけるパラメータ推定装置は、搭載される車両の種類を限定するものではない。以下に挙げた各実施例はそれぞれ例示であり、本発明は以下の各実施例の構成に限定されない。
【0032】
以下の各実施例では、駐車ラインが地面に付されている駐車場に本実施形態におけるパラメータ推定装置を搭載する車両が駐車している状態でカメラの姿勢パラメータが推定される例を示す。当該パラメータ推定装置によりパラメータ推定が行われる際には、当該車両が任意の駐車スペースに車両の進行方向と両サイドの駐車ラインとが略平行となるように駐車される。この略平行とは、完全な平行が好ましいが完全な平行でなくとも許容されることを意味する。以降、本実施形態におけるパラメータ推定装置によりパラメータ推定が行われる際の車両の姿勢を基本姿勢とも表記する。本実施形態におけるパラメータ推定装置は、基本姿勢で駐車される車両に設置されるカメラで撮影される駐車ラインを用いて車載カメラの姿勢パラメータを推定する。
【実施例1】
【0033】
以下、実施形態としてのパラメータ推定装置の第1実施例について説明する。
【0034】
[システム構成]
図1は、実施例1におけるパラメータ推定装置を含むカメラシステムの構成を示す模式図である。図2は、実施例1におけるパラメータ推定装置が搭載される車両の上面図を示す模式図である。カメラシステム1は、図1に示されるように、車載カメラ7、実施例1におけるパラメータ推定装置10、周辺画像生成装置20、表示装置30等で構成される。カメラシステム1は、車両5に搭載され、車両5の周辺を映し出す画像(映像)を車両5の運転者に提供する。
【0035】
車載カメラ7は、図2に示されるように、車両5の後方部に1つ設置される。車載カメラ7は、魚眼レンズ等のような半球以上の視野を有する広角レンズを有する広角カメラである。車載カメラ7は、少なくとも車両5の後部より後方の領域(図2で示す長鎖線)を視野領域とする。車載カメラ7で撮像された映像の信号は、周辺画像生成装置20へ送られる。なお、本発明は、車載カメラ7を設置する厳密な位置を限定するものではない。
【0036】
周辺画像生成装置20は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、入出力インタフェース等で構成され、例え
ば、ソフトウェア的又はハードウェア的な起動指示に応じて電力が投入され起動される。周辺画像生成装置20は、ROMに記録されたプログラムを実行することにより、以下のような処理を実行する。
【0037】
周辺画像生成装置20は、車載カメラ7から映像信号を受け、この映像信号から画像データを取得する。以降、車載カメラ7から得られる画像データを広角画像とも表記する。周辺画像生成装置20は、この広角画像を車載カメラ7の内部パラメータ及び外部パラメータを用いて変換することにより、車両5の周辺を映し出す画像データを生成する。この
画像データは、例えば、車載カメラ7の視野領域を車両5の上空から見下ろしたように見せる鳥瞰図として生成される。図3は、実施例1における広角画像の例を示す図であり、図4は、実施例1における出力画像(鳥瞰図)の例を示す図である。
【0038】
車載カメラ7の内部パラメータは、製造時等に予め測定され、周辺画像生成装置20が読み出し可能なメモリに予め格納されている。一方で、外部パラメータ(姿勢パラメータ)は、その初期値が当該メモリに予め格納されており、任意のタイミングでパラメータ推定装置10により校正される。この任意のタイミングとは、例えば、電力投入開始時、ハードウェア的又はソフトウェア的な操作が行なわれた時などである。なお、本発明は、このような車載カメラ7の姿勢パラメータの校正タイミングを限定するものではない。
【0039】
表示装置30は、周辺画像生成装置20により生成された画像データを受け、図4に示すような鳥瞰図をディスプレイ(表示面)に表示させる。運転者は、この表示装置30の表示面に映し出された車両後方の映像を参照することにより、死角及び見え難い車両後方の状況を正確に認識することができ、結果、安全な運転操作を行うことができる。
【0040】
本発明は、周辺画像生成装置20のハードウェア構成及び画像データの変換手法を限定するものではないため、上述のように説明を簡略化している。また、図1では、パラメータ推定装置10と周辺画像生成装置20とは別々のハードウェアとして実現される例が示されるが、両者はそれぞれソフトウェアモジュールとして実現されるようにしてもよい。
【0041】
[装置構成]
パラメータ推定装置10は、特定パターン取得部11、消失点決定部12、パラメータ推定部13等を有する。これら各処理部はそれぞれ、ハードウェア回路として実現されてもよいし、ソフトウェアモジュールとして実現されてもよい。ソフトウェアモジュールとして実現される場合には、パラメータ推定装置10のCPUにおいてメモリに格納されるプログラムが実行されることにより実現される。なお、本発明は、このようなパラメータ推定装置10のハードウェア構成を限定するものではない。
【0042】
パラメータ推定装置10は、上述したような任意のタイミングで起動され、車載カメラ7の姿勢パラメータを推定し、この推定された姿勢パラメータにより周辺画像生成装置20に格納される姿勢パラメータを更新する。パラメータ推定装置10は、起動されると、車載カメラ7から映像信号を受ける。
【0043】
パラメータ推定装置10は、ピンホールカメラモデルでは半球以上の視野を持つ広角カメラで撮像された画像を扱うことができないため、車載カメラ7から取得される広角画像を球面カメラモデルを用いることにより処理する。つまり、パラメータ推定装置10は、広角画像を球面画像にマッピングする。
【0044】
図5は、画像平面とカメラレンズとの間の関連を示すモデルを示す図である。図5では、カメラ座標系における点P(X,Y,Z)の光線方向が球面座標(θ,φ)で示され、画像平面上の投影座標が(ri,φi)で示される。例えば、一般的な魚眼レンズに関しては、以下のような射影タイプが利用される。
【0045】
等距離射影(Equidistant Projection):ri=fθ
直交射影(Orthogonal Projection):ri=f sinθ
立体射影(Stereographic Projection):ri=2f tan(θ/2)
等立体角射影(Equal Area Projection):ri=2f sin(θ/2)
実際のカメラは物理的には理想的な投影モデルには従わない。光軸が画像中心を通らないかもしれない。また、1ピクセルの縦及び横のサイズが等しくならず、実レンズの半径
方向歪み(radial distortion)及び偏心歪み(decentering distortion)が存在するか
もしれない。そこで、以下の(式1)及び(式2)で示すようなカメラ歪みモデルが利用される。以下の(式1)及び(式2)におけるθ、φ、ri、φiは図5で示すとおりであり、半径方向歪み及び偏心歪みの各パラメータが(k1,k3,k5,P1,P2)で示される。
【0046】
【数1】
【0047】
光心(xC,yC)のシフトパラメータ、アスペクト比αが用いられることにより、画像平面上の投影座標(ri,φi)は、入力された広角画像の直交座標系での射影点の座標である(xf,yf)にマッピングされる。従って、カメラ座標系における点P(X,Y,Z)と広角画像上の点(xf,yf)との対応関係は以下の(式3)のように示される。
【0048】
【数2】
【0049】
(式3)により、広角画像における任意の点がカメラ内部パラメータを用いることにより単位球面画像にマッピングされる。このような空間点の球面画像への投影は球面投影と呼ばれる。図6は、球面画像及び球面投影を示す図である。
【0050】
点P(X,Y,Z)の球面画像座標系に関する座標がMC=[X Y Z]Tとすれば、単位球面画像における点Pの投影はm=[sinθcosφ sinθsinφ cosθ]Tとして表わすことができる。これにより、球面画像座標系における座標MCと投影座標mとの関係はm=λMC≒MCである。この関係は、mがスケール因子を除いてMCと等しいことを意味する。
【0051】
このような球面モデルでは、図7に示すように、直線Lは単位球面上に大円の円弧lとして投影される。図7は、直線Lの単位球面上への投影を示す図である。図7に示すnは、直線Lの投影平面の単位法線ベクトルとされる。ここで、点pが円弧l上にあると仮定し、点pがp=[sinθcosφ sinθsinφ cosθ]と示され、単位法線ベクトルnがn=[a b c]と示されると、直線の投影平面の方程式は以下の(式4)のようになる。ここで、θ及びφは、球面座標系における極角及び方位角である。
【0052】
【数3】
【0053】
ここで、同じ直線に属している点は同じ投影平面に存在することから、球面空間におけるハフ変換は、球面画像中の空間直線の投影点を用いることにより、空間直線の投影平面の法線ベクトルを決定するのに利用され得る。
【0054】
以下、上述のような球面カメラモデルを用いて処理するパラメータ推定装置10の各処理部について説明する。
【0055】
特定パターン取得部11は、車載カメラ7から送られた映像信号を受信すると、この映像信号から広角画像を取得する。この広角画像には、図3に示すように複数の駐車ラインや駐車場のその他の風景が映し出されている。以降、車両5が基本姿勢で駐車されている場合における、車両5の進行方向と略平行な駐車ラインをサイドライン41と表記し、車両5の進行方向と略垂直な駐車ラインをリアライン42と表記する。なお、一般的な駐車場では、サイドライン41とリアライン42とは直行するように駐車ラインが引かれている。
【0056】
特定パターン取得部11は、このような広角画像から実空間における特定のパターンに対応する線分を検出する。この特定のパターンは、少なくとも2本の平行な線分(以降、平行線群と表記する)及びこれらに垂直な1本の線分(以降、垂直線と表記する)から構成される。この特定のパターンは、以降、各線分の形状に基づいてHパターンと表記する。特定パターン取得部11は、広角画像を内部パラメータを用いることにより単位球面画像にマッピングし、上述したような球面カメラモデルに基づくアルゴリズムを用いて上述のような平行線群に対応する広角画像内の各線分及び垂直線に対応する広角画像内の線分を検出する。なお、広角画像から線分を検出する手法については周知な手法(例えば、特開2009−288885号公報参照)を用いればよいため、ここでは説明を簡略化する。
【0057】
特定パターン取得部11は、広角画像から複数のエッジ点を抽出し、各エッジ点について勾配方向(gradient direction)をそれぞれ計算する。この勾配方向とはエッジ点の輝度の勾配を示す。特定パターン取得部11は、算出された各勾配方向に基づいて、各エッジ点を2つのグループに分類する。1つのグループは、0度から180度までの勾配方向を持つエッジ点の集合であり、もう1つのグループは、残りの勾配方向を持つエッジ点の集合である。この分類処理により、例えば、広角画像に含まれる各駐車ラインの対向する各境界線がそれぞれ異なるグループに属することになる。
【0058】
特定パターン取得部11は、各グループに属するエッジ点の集合からそれぞれ線分を抽出する。この線分の抽出には上述したように例えばハフ変換技術が利用される。特定パターン取得部11は、ハフ変換技術を用いて空間直線に対応する球面画像上の大円を抽出する。図8は、線分の検出例を示す図である。図8の例によれば、サイドライン41から抽出された境界線の線分41A及び41Bがそれぞれ異なるグループに分類される。同様に、リアライン42から抽出された境界線の線分42A及び42Bがそれぞれ異なるグループに分類される。
【0059】
特定パターン取得部11は、抽出された線分のうち車両5に近く広角画像の縦方向(図8の縦方向)に長い線分を当該平行線群に対応する線分として特定し、車両5に近く横方
向(図8の横方向)に長い線分を当該垂直線に対応する線分として特定する。このとき、特定パターン取得部11は、口角画像の縦方向に長い線分については上記1つのグループに関し2本以上特定する。即ち、2本以上の各サイドラインからそれぞれ得られた線分が特定される。
【0060】
図8によれば、例えば、特定パターン取得部11は、図面左側(車両5の右サイド)のサイドライン41から抽出された線分41Aと、図面右側(車両5の左サイド)のサイドライン41から抽出された線分41Aとを当該平行線群に対応する各線分として特定する。特定パターン取得部11は、更に、当該垂直線に対応する線分として線分42A及び42Bの少なくとも一方を特定する。特定パターン取得部11は、このように特定されたHパターンに対応する各線分についての情報を当該広角画像と共に消失点決定部12へ送る。特定パターン取得部11は、上記(式4)を用いて決定される各線分の投影平面の法線ベクトルを各線分についての情報として消失点決定部12に送るようにしてもよい。この法線ベクトルの決定は最小2乗法が利用される。
【0061】
消失点決定部12は、特定パターン取得部11から得られるHパターンに対応する各線分についての情報を用いて、当該広角画像内の2組の消失点ペアを決定する。具体的には、まず、消失点決定部12は、当該平行線群に対応する各線分から1対の消失点ペアを決定する。次に、消失点決定部12は、当該垂直線に対応する線分と当該平行線群に対応する各線分との関係から1対の消失点ペアを決定する。図9及び10は、消失点決定部12における消失点決定のアルゴリズムを示す図である。
【0062】
図9には、仮想球面カメラによって観察された実空間中の3本の平行線群が示されている。図9に示すように、これら平行線群は、球面画像中の1対の消失点をもたらす。
【0063】
消失線は、無限空間における平行な平面群の交わるところとして定義される。球面画像では、この消失線は、図10に示すように、平行平面の交差する箇所であり球面画像の中心を通る大円に対応する。そして、平行平面と平行な線の一対の消失点は、その線と当該平面の消失線との交差点として決定することができる。つまり、1つの線における一対の消失点は、その線を含む平行線群、又は、その線と平行な平面の消失線によって決定され得る。
【0064】
図11は、球面画像におけるHパターンと消失点との関係を示す図である。図11には、2つの平行線lS1及びlS2、並びに、その2つの線に垂直な別の線lRから構成されるHパターンが示されている。消失点決定部12は、Hパターン中の2つの平行線lS1及びlS2から一対の消失点VS及びV’Sを決定する。
【0065】
原点からVSへの法線ベクトルnを以て、球面画像の中心を通る平面Πを決定する。この平面の球面画像との交点は大円CVをもたらす。この大円CVは、平面Πを含む並行平面の消失線である。線lRは平面Πと平行であるから、線lRの球面画像への投影平面と平面Πとの交点VR及びV’Rが線lRの一対の消失点となる。これにより、消失点決定部12は、Hパターンから2組の消失点を得ることができる。
【0066】
以下、消失点決定部12の処理をより具体的に説明する。消失点決定部12は、Hパターンを形成する各線分(平行線lS1及びlS2、並びに、垂直線lR)の投影平面の各法線ベクトルをそれぞれ特定パターン決定部11から受ける。ここでは、各法線ベクトルをそれぞれnS1、nS2、nRで示す。
【0067】
消失点決定部12は、各法線ベクトルを用いて2つの平行線lS1及びlS2における一対の消失点ペア(VS及びV’S)を以下の(式5)のように算出する。
【0068】
【数4】
【0069】
ここで、原点を通りn(=nS1×nS2)を法線ベクトルとする平面Πの消失線(大円CV)は以下の(式6)のように示される。また、垂直線lRの投影平面の単位球面画像との交点は以下の(式7)のように示される。
【0070】
【数5】
【0071】
消失点決定部12は、(式6)及び(式7)の解として、垂直線lRに関する一対の消失点VR及びV’Rを算出する。具体的には、x=tanθcosφ及びy=tanθsinφとし、(式6)及び(式7)の両辺がcosθで除算され、以下の(式8)が得られる。更に、(式8)の方程式の解により、下記(式9)が得られ、結果、(式10)が得られる。
【0072】
【数6】
【0073】
消失点決定部12は、φの値を用いてθの値を算出し、そして、垂直線lRに関する一対の消失点ペアを決定する。この消失点ペアの位置は、その単位球面上における極座標(θ、φ)で決まり、その直交座標は(sinθcosφ,sinθsinφ,cosθ)と(−sinθcosφ,−sinθsinφ,−cosθ)で求められる。
【0074】
消失点決定部12は、特定パターン取得部11から2つの垂直線(図8に示す線分42A及び42B)の情報を得ている場合には、各垂直線について上述のようにそれぞれ一対の消失点ペアを決定し、これらの平均値を最終的な垂直線に関する一対の消失点ペアとしてもよい。
【0075】
パラメータ推定部13は、消失点決定部12により決定された2組の消失点ペアの情報を用いて、車載カメラ7の地面(世界座標系)に対する姿勢パラメータを推定する。広角画像において検出された2組の消失点ペアからカメラ姿勢パラメータを推定する手法については周知な手法が採用されればよいため、ここでは説明を簡略化する。
【0076】
パラメータ推定部13は、2組の消失点ペアから地面に対する回転行列(rotational matrix)を推定する。更に、パラメータ推定部13は、広角画像中のサイドラインとリア
ラインとの交点を1つの世界座標系の原点に設定し、この原点及び2組の消失点ペアに基づいて並進ベクトル(translational vector)を推定する。推定された回転行列はカメラ方位(orientation)を示し、推定された並進ベクトルはカメラ位置(displacement)を
示す。パラメータ推定部13は、このように推定された回転行列及び並進ベクトルを含む姿勢パラメータを周辺画像生成装置20へ送る。
【0077】
[動作例]
以下、実施例1におけるパラメータ推定装置1の動作例を図12を用いて説明する。図12は、実施例1におけるパラメータ推定装置1の動作例を示すフローチャートである。
【0078】
特定パターン取得部11は、車載カメラ7から送られた映像信号を受信すると、この映像信号から広角画像を取得する(S121)。特定パターン取得部11は、このような広角画像から実空間における特定のパターン(Hパターン)に対応する各線分を検出する(122)。具体的には、特定パターン取得部11は、Hパターンを構成する少なくとも2本の平行線群に対応する各線分と、当該平行線群と垂直な垂直線に対応する線分とを検出する。
【0079】
消失点決定部12は、特定パターン取得部11からHパターンに対応する各線分を取得する。消失点決定部12は、当該平行線群に対応する各線分から1組の消失点ペアを決定する(S123)。これは、広角画像が前記広角カメラの内部パラメータを用いてマッピングされた球面画像に対する1組の消失点ペアとして決定される。
【0080】
次に、消失点決定部12は、当該平行線群に対応する各線分から決定された消失点ペアと当該垂直線に対応する線分との関係からもう1組の消失点ペアを決定する(S124)。具体的には、上述のように決定された1つの消失点と当該球面画像の中心とを結ぶ線を法線とする平面から1つの消失線を決定し、その平面と平行な関係となる垂直線のその球面画像への投影平面からもう1つの消失線を決定し、決定された2つの消失線の交点からそのもう1組の消失点ペアを決定する。
【0081】
パラメータ推定部12は、消失点決定部12により決定された当該広角画像における2組の消失点ペアを用いて、車載カメラ7の姿勢パラメータを推定する(S125)。具体的には、パラメータ推定部13は、2組の消失点ペアから地面に対する回転行列を推定し、更に、広角画像中のサイドラインとリアラインとの交点を1つの世界座標系の原点に設定し、この原点及び2組の消失点ペアに基づいて並進ベクトルを推定する。
【0082】
[実施例1における作用及び効果]
上述したような実施例1におけるパラメータ推定装置1では、車載カメラ7により車両5の周辺環境として駐車場の駐車ラインが撮像されることで得られる広角画像から、特定パターン取得部11が実空間上でのHパターンに対応する線分を検出する。実施例1では、世界座標系でのHパターンとして、駐車場の地面に付されている駐車ラインのうち、少なくとも2本の平行線群とこれらに垂直な1本の垂直線とに対応する各線分が当該広角画像から検出される。
【0083】
続いて、消失点決定部12がこのように検出された実空間上のHパターンに対応する各線分を用いて広角画像中の2組の消失点ペアを決定する。続いて、パラメータ推定部13が、このように決定された2組の消失点ペアを利用して車載カメラ7の姿勢パラメータのうちの回転行列を推定し、かつ、垂直線と平行線群との交点に設定される原点及び2組の消失点ペアを用いて車載カメラ7の姿勢パラメータのうちの並進ベクトルを推定する。
【0084】
これにより、周辺画像生成装置20では、パラメータ推定部13から得られた姿勢パラメータが外部パラメータとして用いられ、車載カメラ7から得られる広角画像から図4に示すような車両5の周辺を映し出す画像データが生成される。
【0085】
このように実施例1のパラメータ推定装置1によれば、特定パターンを持つ駐車ラインが付された駐車場に対象車両5を駐車しさえすれば、簡単にかつ正確に、車載カメラ7の外部パラメータを校正することができる。通常の駐車場には上述のようなHパターンが存在しているので、実施例1によれば、従来手法のように、複数のマーカを準備し、かつ、予め決められた正確な位置に各マーカを配置する等といった負担の大きい作業を必要としない。また、駐車ラインのHパターンは必ずしも平行線群と垂直線とが直交している状態で車載カメラ7に撮像される必要はなく、その交点にトラフィックコーンのような障害物が置かれていたりその交点付近のラインが消されていたとしても姿勢パラメータを推定可能であることは言うまでもない。このような場合には、広角画像から検出された各線分をその方向に応じて延長させて交点を導くようにすればよい。
【0086】
更に、従来は、球面カメラモデルにおいて、消失点は、2つ以上の平行線群の交点として決定されていたところ、実施例1では、Hパターンから2組の消失点ペアを決定することができるため、姿勢パラメータを校正するためのシーンの制限を一層緩くすることができる。
【実施例2】
【0087】
実施例1では1つの車載カメラ7の姿勢パラメータを推定対象としていた。そこで、実施例2として、3つの車載カメラ7の各姿勢パラメータを推定対象とする例を以下に示す。以下、実施例1と異なる内容を中心に実施例2におけるパラメータ推定装置について説明する。
【0088】
図13は、実施例2におけるパラメータ推定装置が搭載される車両の上面図を示す模式図である。図14は、実施例2におけるパラメータ推定装置を含むカメラシステムの構成を示す模式図である。実施例2におけるカメラシステム1は、3つの車載カメラ7、実施例2におけるパラメータ推定装置10、周辺画像生成装置20、表示装置30等で構成される。
【0089】
実施例2では、車両5に3つの車載カメラ7が車両の後部(7B)、左サイド(7L)及び右サイド(7R)にそれぞれ設定される。各車載カメラ7は、実施例1と同様に広角カメラである。以降、車載カメラ7B、7R及び7Lをそれぞれリアカメラ、右カメラ、左カメラとも表記する。なお、本発明は、車載カメラ7B、7R及び7Lを設置する厳密な各位置を限定するものではない。
【0090】
図15は、各車載カメラ7から得られる広角画像の例を示す図である。具体的には、図15(A)は、左カメラ7Lから得られる広角画像の例を示し、図15(B)は、リアカメラ7Bから得られる広角画像の例を示し、図15(C)は、右カメラ7Rから得られる広角画像の例を示す。図15(A)及び(C)に示されるように、左カメラ7L及び右カメラ7Rから得られる各広角画像では、リアライン42が図面に対して縦方向に長く延びており、サイドライン41が図面に対して横方向に長く伸びている。逆に、図15(B)に示されるリアカメラ7Bから得られる広角画像では、リアライン42が図面に対して横方向に長く延びており、サイドライン41が図面に対して縦方向に長く伸びている。
【0091】
図13及び15から分かるように、リアカメラ7Bは、少なくとも車両5の後部より後方の領域(図13で示す長鎖線7B−FOV)を視野領域とする。右カメラ7Rは、少なくとも車両5の右側面より右方向の領域(図13で示す長鎖線7R−FOV)を視野領域とする。左カメラ7Lは、少なくとも車両5の左側面より左方向の領域(図13で示す長鎖線7L−FOV)を視野領域とする。よって、実施例2では、右カメラ7Rとリアカメラ7Bとの間には、重複する視野領域(図13で斜線で示される領域OL−FOV−R)が存在し、左カメラ7Lとリアカメラ7Bとの間には、重複する視野領域(図13で斜線
で示される領域OL−FOV−L)が存在する。
【0092】
周辺画像生成装置20は、3つの車載カメラ7からそれぞれ映像信号を受け、各映像信号から各広角画像をそれぞれ取得する。周辺画像生成装置20は、各広角画像を各車載カメラ7の内部パラメータ及び外部パラメータを用いてそれぞれ変換することにより、車両5の周辺を映し出す画像データを生成する。図16は、実施例2における出力画像(鳥瞰図)の例を示す図である。なお、図15の例のような複数の車載カメラ7から得られた広角画像から図16に示すような画像データを生成する具体的手法については周知な手法が利用されればよいため、ここでは説明を省略する。
【0093】
周辺画像生成装置20により生成された画像データは、表示装置30のディスプレイに表示される。これにより、運転者は、この表示装置30の表示面に映し出された映像を参照することにより、見え易い前方以外の各方向の状況を正確に認識することができ、結果、安全な運転操作を行うことができる。
【0094】
周辺画像生成装置20は、3つの各車載カメラ7についてそれぞれ内部パラメータ及び外部パラメータを読み出し可能なメモリに格納する。各カメラの内部パラメータについては、実施例1と同様に、製造時等に予め測定され格納されている。各カメラの外部パラメータ(姿勢パラメータ)は、その初期値が当該メモリに予めそれぞれ格納されており、任意のタイミングでパラメータ推定装置10によりそれぞれ校正される。
【0095】
[装置構成]
実施例2におけるパラメータ推定装置10は、各車載カメラ7について、特定パターン取得部11、消失点決定部12及びパラメータ推定部13のセットをそれぞれ有する。具体的には、リアカメラ7Bから得られる広角画像を処理するセットとして特定パターン取得部11B、消失点決定部12B及びパラメータ推定部13Bが備えられ、右カメラ7Rから得られる広角画像を処理するセットとして特定パターン取得部11R、消失点決定部12R及びパラメータ推定部13Rが備えられ、左カメラ7Lから得られる広角画像を処理するセットとして特定パターン取得部11L、消失点決定部12L及びパラメータ推定部13Lが備えられる。
【0096】
特定パターン取得部11B、消失点決定部12B及びパラメータ推定部13Bは、実施例1と同様の手法により、リアカメラ7Bから得られる広角画像からリアカメラ7Bの姿勢パラメータを推定する。同様に、特定パターン取得部11R、消失点決定部12R及びパラメータ推定部13Rは、実施例1と同様の手法により、右カメラ7Rから得られる広角画像から右カメラ7Rの姿勢パラメータを推定する。同様に、特定パターン取得部11L、消失点決定部12L及びパラメータ推定部13Lは、実施例1と同様の手法により、左カメラ7Lから得られる広角画像からリアカメラ7Lの姿勢パラメータを推定する。
【0097】
図17は、各車載カメラから取得された広角画像からの線分検出の例を示す図である。上述したように、リアカメラ7Bから取得された広角画像と、他のカメラ7L及び7Bから得られた広角画像とでは、リアライン42及びサイドライン41の伸びる方向が異なる。そこで、特定パターン取得部11Bは、実施例1と同様に、実空間におけるHパターンに対応する各線分を検出すればよいが、特定パターン取得部11R及び11Lは、実施例1とは若干異なる。特定パターン取得部11R及び11Lはそれぞれ、抽出された線分のうち車両5に近く広角画像の縦方向(図17の縦方向)に長い線分を当該垂直線として特定し、車両5に近く横方向(図17の横方向)に長い線分を当該平行線群として特定する。なお、特定パターン取得部11R及び11Lのその他の処理については、実施例1と同様である。
【0098】
なお、図14の例では、各車載カメラ7についてそれぞれ特定パターン取得部11、消失点決定部12及びパラメータ推定部13のセットを設ける例を示したが、本発明はこのような構成に限定するものではない。特定パターン取得部11、消失点決定部12及びパラメータ推定部13が1つずつ設けられるようにしてもよい。
【0099】
実施例2におけるパラメータ推定装置10は、更に、パラメータ補整部15を有する。パラメータ補整部15は、各パラメータ推定部13B、13L及び13Rにより推定された各姿勢パラメータを、右カメラ7Rとリアカメラ7Bとの間、及び、左カメラ7Lとリアカメラ7Bとの間の各相対姿勢に関し補整する。
【0100】
上述したように、実施例2では、隣接する2つの車載カメラ7の間には重複する視野領域OL−FOV−R及びOL−FOV−Lがある。パラメータ補整部15は、各パラメータ推定部13により推定された各姿勢パラメータを用いて、隣接する車載カメラ7のうちの一方から得られた広角画像上のピクセルを他方から得られた広角画像上にマッピングする。これにより、右カメラ7Rから得られた広角画像内の視野領域OL−FOV−Rに対応する領域、及び、左カメラ7Lから得られた広角画像内の視野領域OL−FOV−Lに対応する領域がそれぞれリアカメラ7Bから得られた広角画像にマッピングされる。
【0101】
以下、隣接する車載カメラ7から得られた広角画像間のマッピング処理についてより詳細に説明する。パラメータ補整部15は、パラメータ推定部13L及び13Bから左カメラ7Lの姿勢パラメータ(Rlg,Tlg)及びリアカメラ7Bの姿勢パラメータ(Rbg,Tbg)を取得する。このとき、左カメラ7Lから得られた広角画像及びリアカメラ7Bから得られた広角画像における地上点Pgの射影がそれぞれxl及びxblであると想定すると、以下の式が成立する。
【0102】
【数7】
【0103】
s(xl)及びs(xbl)はそれぞれ単位球面画像における対応点xl及びxblの座標を示し、各内部パラメータにより上記(式3)を用いて算出される。λl及びλbは、世界座標系のx軸及びy軸が地上平面に設定されたときに地上点Pgのz座標がゼロとなるという地上平面の制約により決定されるスケール因子である。
【0104】
上記(式11)によれば、下記(式12)が得られ、最終的に、下記(式13)が得られる。Rbg−1はRbgの逆行列を示す。また、s−1は、sの逆演算を示し、カメラの内部パラメータによって単位球面画像の点から広角画像の点を算出することを意味する。
【0105】
【数8】
【0106】
パラメータ補整部15は、例えば上記(式13)においてカメラ姿勢パラメータ及び既知の内部パラメータを用いることにより、左カメラ7Lから得られた広角画像における地上点Pgに対応する点xlをリアカメラ7Bから得られた広角画像における地上点Pgに対応する点xblにマッピングする。なお、上述の説明では、左カメラ7L及びリアカメラ7Bから得られた各広角画像間のマッピング処理について示したが、右カメラ7R及びリアカメラ7Bから得られた各広角画像間のマッピング処理の同様であるためここでは説明を省略する。
【0107】
以降、説明を簡単にするために、上記(式13)を用いたマッピング処理を以下の(式14)のように示す。同様に、右カメラ7Rから得られた広角画像及びリアカメラ7Bから得られた広角画像における地上点Pg2の射影がそれぞれxr及びxbrであると想定し、右カメラ7R及びリアカメラ7Bから得られた各広角画像間のマッピング処理を以下の(式15)のように示す。
【0108】
【数9】
【0109】
ここで、xl、xr、xbl及びxbrの明るさをLl(xl)、Lr(xr)、Lb(xbl)、Lb(xbr)で示した場合、以下の(式16)によって、隣接する2つの車載カメラ間で重複する視野領域に対応する重複画像領域の同一性を計算することができる。Ω1及びΩ2は、左カメラ7L及びリアカメラ7Bの間、並びに、右カメラ7R及びリアカメラ7Bの間の地上の重複画像領域を示し、Ll(上線付き)、Lr(上線付き)、Lb(上線付き)は、それぞれ左カメラ、右カメラ及びリアカメラから取得された各広角画像における重複領域の画素値の平均値を示す。
【0110】
【数10】
【0111】
パラメータ補整部15は、例えば上記(式16)を用いることにより、重複する視野領域に対応する重複画像領域が、リアカメラ7B、右カメラ7L、リアカメラ7Bからそれぞれ得られる各広角画像の間で近似するように、各カメラの姿勢パラメータをそれぞれ補整する。パラメータ補整部15は、例えば、シンプレックス法(simplex method)を用いることにより(式16)の値を最大化することにより各姿勢パラメータを補整する。具体的には、Ψlb及びΨrbには(式13)に示すように各姿勢パラメータが含まれているため、(式16)が最大化されたときに得られるΨlb及びΨrbから、補整された各姿勢パラメータを取得する。
【0112】
図18は、実施例2においてカメラ姿勢パラメータの補整の繰り返し回数に対し計算された相関値を示すグラフである。相関値は(式16)を用いて計算される。パラメータ補整部15は、例えば(式16)で算出される相関値が0.8より大きくなった場合に処理を終了する。図18の例では、補整前の相関値が0.69であり、補整後の相関値が0.8となっている。パラメータ補整部15は、このように洗練された各姿勢パラメータをそれぞれ周辺画像生成部20へ送る。
【0113】
[動作例]
以下、実施例2におけるパラメータ推定装置1の動作例を図19を用いて説明する。図19は、実施例2におけるパラメータ推定装置1の動作例を示すフローチャートである。
【0114】
特定パターン取得部11R、11B及び11Lは、各車載カメラ7から得られる各広角画像から実施例1と同様の手法によりHパターンに対応する平行線群及び垂直線を特定する(S121及びS122)。続いて、消失点決定部12R、12B及び12Lは、これら特定された各線分を用いて実施例1と同様の手法により各広角画像についての2組の消失点ペアをそれぞれ決定する(S123及びS124)。パラメータ推定部13R、13B及び13Lは、これら決定された2組ずつの消失点ペアに基づいて実施例1と同様の手法により各車載カメラ7の姿勢パラメータをそれぞれ推定する(S125)。
【0115】
実施例2では、続いて、パラメータ補整部15が、複数の車載カメラ7のうち重複する視野領域を有する各車載カメラ7から得られる各広角画像における当該重複領域に対応する画像領域の画像データ(ピクセルデータ)を、推定された各姿勢パラメータを用いて対応付ける(S191)。具体的には、左カメラ7L及びリアカメラ7Bから得られた各広角画像間の対応付け(マッピング)処理、及び、右カメラ7R及びリアカメラ7Bから得
られた各広角画像間の対応付け処理がそれぞれ行われる。
【0116】
パラメータ補整部15は、当該車載カメラ7間で重複する視野領域に対応する重複画像領域の画像データ(ピクセルデータ)の相関を計算する(S192)。パラメータ補整部15は、この相関値が最大化するような値で当該各姿勢パラメータを補整する(S193)。これにより、各姿勢パラメータが、右カメラ7Rとリアカメラ7Bとの間、及び、左カメラ7Lとリアカメラ7Bとの間の各相対姿勢に関し補整される。
【0117】
[実施例2における作用及び効果]
上述したような実施例2では、車両5の後部、右側面及び左側面に設置されたリアカメラ7B、右カメラ7R及び左カメラ7Lからそれぞれ広角画像が取得され、各広角画像に含まれる駐車ラインのHパターンに対応する線分を用いて実施例1と同様の手法によりリアカメラ7B、右カメラ7R及び左カメラ7Lの姿勢パラメータがそれぞれ推定される。
【0118】
実施例2におけるパラメータ推定装置10では、更に、パラメータ補整部15により、実施例1と同様の手法により推定された3つの車載カメラ7の各姿勢パラメータが隣接する2つのカメラ間の相対姿勢に関し洗練される。具体的には、各パラメータ推定部13でそれぞれ推定された各姿勢パラメータ及び予め決められた内部パラメータが利用されることにより、隣接する2つのカメラの一方から得られる広角画像の点が他方から得られる広角画像の点にマッピングされる。このマッピングされた各広角画像の点の相関値が隣接する2つのカメラの重複視野領域に対応する画像領域において最大化されるように各姿勢パラメータが決定される。このように、実施例2によれば、隣接するカメラ間における地面の重複領域を使ってカメラ間で相対的な姿勢を洗練することができる。
【0119】
図20は、パラメータ補整部15により補整される前の姿勢パラメータにより生成された鳥瞰図の例を示す図である。図21は、実施例2におけるカメラシステムで出力される鳥瞰図の例を示す図である。図20及び21では、下図の丸で囲まれた部分の拡大図が各上図でそれぞれ示されている。図20の鳥瞰図では、隣接するカメラ間の重複視野領域に相当する箇所において視覚的矛盾が見受けられる。ところが、図21の鳥瞰図では、その視覚的矛盾が解消されていることが分かる。このように、実施例2によれば、視覚的一貫性を持つ出力画像を生成することができる。
【0120】
[変形例]
上述したように、実施例1及び2におけるパラメータ推定装置10によれば、簡単にかつ正確に車載カメラ7の姿勢パラメータ(外部パラメータ)を推定し、校正することができる。しかしながら、実施例1及び2では地上のHパターンに対するカメラ姿勢が推定されるが、車両5に対するカメラ姿勢を必ずしも推定しているとは限らない。ところが、最終的な出力画像(鳥瞰図)は車両5を中心に示した画像であるため、その出力画像において車両5の側面が駐車ラインのサイドラインと平行とならない場合があり得る(図21の下図参照)。この場合、地上に対するカメラ姿勢に回転変位が生ずる可能性がある。
【0121】
そこで、上述の実施例1及び2におけるカメラシステム1を、ユーザとの対話型インタフェースを介してこのような車両5を中心とするカメラ姿勢が微調整され得るように構成してもよい。図22は、実施例2の変形例としてのカメラシステムの構成を示す模式図である。なお、図22には実施例2の変形例を示したが、実施例1にも同様の変形例を適用することが可能であることは言うまでもない。
【0122】
本変形例では、周辺画像生成装置20に微調整処理部25が設けられる。微調整処理部25は、例えば、周辺画像生成装置20内のROMに格納されたプログラムがCPUで実行されることにより実現される。微調整処理部25は、周辺画像生成装置20が生成した
鳥瞰図のような出力画像にユーザの操作メニューとして微調整用インタフェースを付加する。
【0123】
運転者等のユーザは、表示装置30に表示された出力画像において車両5の側面が駐車ラインのサイドラインと平行となっていないと判断した場合には、その操作メニューとしての微調整用インタフェースを入力装置35を介して操作する。この微調整用インタフェースは、出力画像の中心を回転中心として、長方形の出力画像の縦の両サイドが、その画像に現れる車の両サイドと並行になるように、出力画像を時計回り又は反時計周りに回転する角度を変えることができるインタフェースである。なお、このインタフェースの形態は限定されない。
【0124】
微調整処理部25は、入力装置35から得られるデータに基づいてユーザ操作に対応する回転角度を取得し、この回転角度をパラメータ推定装置10で推定された姿勢パラメータの回転行列に反映させる。これにより、周辺画像生成装置20は、この更新された姿勢パラメータを用いて再度出力画像を生成し、表示装置30へ出力させる。
【0125】
当該ユーザは、表示装置30の表示部に表示される出力画像を見ながら、回転角度を当該インタフェースを用いて車両5の側面が駐車ラインのサイドラインと平行となるように調整する。
【0126】
図23は、本変形例において微調整された姿勢パラメータを用いて生成された出力画像の例を示す図である。図23には、図21の下図に示す出力画像内における車両5の傾きが調整されていることが示されている。
【0127】
このように本変形例によれば、このようなユーザとの対話型インタフェースを提供することにより、車両5に対するカメラ姿勢パラメータについても正確に決めることができ、一層正確な姿勢パラメータを取得することが可能となる。
【0128】
また、上述の各実施例では、車載カメラ1台及び3台を用いた形態を示したが、本発明は車載カメラの台数を限定するものではない。車両5の前方に設置されたカメラを含む4台の車載カメラを用いる形態であってもよいし、それ以上の台数のカメラを用いる形態であってもよい。
【0129】
また、上述の各実施例では、地上に付された駐車ラインを実世界における特定パターン(Hパターン)として利用する例を示したが、本発明はこのような形態に限定するものではない。予め少なくとも2本の平行な線分(以降、平行線群と表記する)及びこれらに垂直な1本の線分(以降、垂直線と表記する)から構成されるとして知られているものであり、車載カメラ7で撮像可能なものであれば、例えば、建物の壁面と地面、壁面と天井面、そのような形状を有する模型などが利用されてもよい。
【符号の説明】
【0130】
1 カメラシステム
5 車両
7、7B、7L、7R 車載カメラ(リアカメラ、左カメラ、右カメラ)
10 パラメータ推定装置
11、11B、11L、11R 特定パターン取得部
12、12B、12L、12R 消失点決定部
13、13B、13L、13R パラメータ推定部
20 周辺画像生成装置
25 微調整処理部
30 表示装置
35 入力装置
【特許請求の範囲】
【請求項1】
半球以上の視野を有する広角カメラにより得られる広角画像から、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、該第1直線及び該第2直線と垂直な関係を有する1つの第3直線とから構成される特定パターンに対応する各線分をそれぞれ取得するパターン取得手段と、
前記パターン取得手段により取得された前記特定パターンに対応する各線分を用いて前記広角画像に対する2組の消失点ペアを決定する決定手段と、
前記決定手段で決定された2組の消失点ペアを用いて地面に対する前記広角カメラの姿勢パラメータを推定する推定手段と、
を備えることを特徴とするカメラ姿勢パラメータ推定装置。
【請求項2】
前記決定手段は、前記特定パターンに対応する各線分のうち前記第1直線に対応する線分と前記第2直線に対応する線分とを用いて、前記広角画像が前記広角カメラの内部パラメータを用いてマッピングされた球面画像に対する1組の消失点ペアを前記広角画像の1組の消失点ペアとして決定し、この決定された1つの消失点とその球面画像の中心とを結ぶ線を法線とする平面から1つの消失線を決定し、その平面と平行な関係となる前記第3直線のその球面画像への投影平面からもう1つの消失線を決定し、決定された2つの消失線の交点から更に1組の消失点ペアを決定する、
ことを特徴とする請求項1に記載のカメラ姿勢パラメータ推定装置。
【請求項3】
前記パターン取得手段は、前記第1直線及び前記第2直線、並びに、該第1直線及び該第2直線と垂直な関係を有す前記第3直線とは異なる第4直線から構成される他の特定パターンを形成し得る各線分を更にそれぞれ取得し、
前記決定手段は、前記第4直線を用いて前記第3直線と同様に新たな1組の消失点ペアを決定し、この新たに決定された1組の消失点ペアと、前記第3直線を用いて決定された1組の消失点ペアとの平均により1組の消失点ペアを決定する、
ことを特徴とする請求項1又は2に記載のカメラ姿勢パラメータ推定装置。
【請求項4】
前記パターン取得手段は、複数の広角カメラから得られる各広角画像からそれぞれ、前記特定パターンに対応する各線分を取得し、
前記決定手段は、2組の消失点ペアを前記各広角画像についてそれぞれ決定し、
前記推定手段は、前記各広角画像に対する各2組の消失点ペアをそれぞれ用いて、前記各広角カメラの姿勢パラメータをそれぞれ推定し、
前記カメラ姿勢パラメータ推定装置は、
前記複数の広角カメラのうち重複する視野領域を有する少なくとも2つの隣接広角カメラから得られる各広角画像内のその重複する視野領域に対応する画像領域を前記推定手段により推定されたその隣接広角カメラの各姿勢パラメータを用いて特定し、この特定された各画像領域の画像情報を用いてその隣接広角カメラの各姿勢パラメータを補整する補整手段、
を更に備えることを特徴とする請求項1から3のいずれか1項に記載のカメラ姿勢パラメータ推定装置。
【請求項5】
前記補整手段は、前記特定された各画像領域の画像データ間の相関値が最大化される値となるように前記隣接広角カメラの各姿勢パラメータを補整することを特徴とする請求項4に記載のカメラ姿勢パラメータ推定装置。
【請求項6】
車両の側面及び後部に少なくとも設置され半球以上の視野を有する複数の広角カメラと各広角カメラの姿勢パラメータをそれぞれ推定するパラメータ推定装置と前記各広角カメラから得られる各広角画像から画像データを生成する画像生成装置とを含むカメラシステ
ムにおいて、
前記パラメータ推定装置は、
前記複数の広角カメラによりそれぞれ得られる各広角画像から、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、該第1直線及び該第2直線と垂直な関係を有する1つの第3直線とから構成される特定パターンに対応する各線分をそれぞれ取得するパターン取得手段と、
前記パターン取得手段により取得された前記特定パターンに対応する各線分を用いて前記各広角画像に対する2組ずつの消失点ペアをそれぞれ決定する決定手段と、
前記決定手段で決定された2組ずつの消失点ペアをそれぞれ用いて地面に対する前記各広角カメラの姿勢パラメータをそれぞれ推定する推定手段と、
を備え、
前記画像生成装置は、
前記パラメータ推定装置により推定された前記複数の広角カメラの各姿勢パラメータを用いて、前記複数の広角画像から前記複数の広角カメラが搭載された車両を中心とする鳥瞰図を示す画像データを生成する生成手段と、
前記生成手段により生成された画像データに応じた鳥瞰図を参照したユーザにより入力されるその鳥瞰図における車両の傾き情報を取得する傾き情報取得手段と、
前記傾き情報を前記複数の広角カメラの各姿勢パラメータに反映させる反映手段と、
を備えることを特徴とするカメラシステム。
【請求項7】
コンピュータが、
半球以上の視野を有する広角カメラにより得られる広角画像から、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、該第1直線及び該第2直線と垂直な関係を有する1つの第3直線とから構成される特定パターンに対応する各線分をそれぞれ取得し、
前記取得された前記特定パターンを形成し得る各線分を用いて前記広角画像に対する2組の消失点ペアを決定し、
前記決定された2組の消失点ペアを用いて地面に対する前記広角カメラの姿勢パラメータを推定する、
ことを特徴とするカメラ姿勢パラメータ推定方法。
【請求項8】
半球以上の視野を有する広角カメラにより得られる広角画像から、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、該第1直線及び該第2直線と垂直な関係を有する1つの第3直線とから構成される特定パターンに対応する各線分をそれぞれ取得し、
前記取得された前記特定パターンを形成し得る各線分を用いて前記広角画像に対する2組の消失点ペアを決定し、
前記決定された2組の消失点ペアを用いて地面に対する前記広角カメラの姿勢パラメータを推定する、
ことをコンピュータに実行させることを特徴とするカメラ姿勢パラメータ推定プログラム。
【請求項1】
半球以上の視野を有する広角カメラにより得られる広角画像から、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、該第1直線及び該第2直線と垂直な関係を有する1つの第3直線とから構成される特定パターンに対応する各線分をそれぞれ取得するパターン取得手段と、
前記パターン取得手段により取得された前記特定パターンに対応する各線分を用いて前記広角画像に対する2組の消失点ペアを決定する決定手段と、
前記決定手段で決定された2組の消失点ペアを用いて地面に対する前記広角カメラの姿勢パラメータを推定する推定手段と、
を備えることを特徴とするカメラ姿勢パラメータ推定装置。
【請求項2】
前記決定手段は、前記特定パターンに対応する各線分のうち前記第1直線に対応する線分と前記第2直線に対応する線分とを用いて、前記広角画像が前記広角カメラの内部パラメータを用いてマッピングされた球面画像に対する1組の消失点ペアを前記広角画像の1組の消失点ペアとして決定し、この決定された1つの消失点とその球面画像の中心とを結ぶ線を法線とする平面から1つの消失線を決定し、その平面と平行な関係となる前記第3直線のその球面画像への投影平面からもう1つの消失線を決定し、決定された2つの消失線の交点から更に1組の消失点ペアを決定する、
ことを特徴とする請求項1に記載のカメラ姿勢パラメータ推定装置。
【請求項3】
前記パターン取得手段は、前記第1直線及び前記第2直線、並びに、該第1直線及び該第2直線と垂直な関係を有す前記第3直線とは異なる第4直線から構成される他の特定パターンを形成し得る各線分を更にそれぞれ取得し、
前記決定手段は、前記第4直線を用いて前記第3直線と同様に新たな1組の消失点ペアを決定し、この新たに決定された1組の消失点ペアと、前記第3直線を用いて決定された1組の消失点ペアとの平均により1組の消失点ペアを決定する、
ことを特徴とする請求項1又は2に記載のカメラ姿勢パラメータ推定装置。
【請求項4】
前記パターン取得手段は、複数の広角カメラから得られる各広角画像からそれぞれ、前記特定パターンに対応する各線分を取得し、
前記決定手段は、2組の消失点ペアを前記各広角画像についてそれぞれ決定し、
前記推定手段は、前記各広角画像に対する各2組の消失点ペアをそれぞれ用いて、前記各広角カメラの姿勢パラメータをそれぞれ推定し、
前記カメラ姿勢パラメータ推定装置は、
前記複数の広角カメラのうち重複する視野領域を有する少なくとも2つの隣接広角カメラから得られる各広角画像内のその重複する視野領域に対応する画像領域を前記推定手段により推定されたその隣接広角カメラの各姿勢パラメータを用いて特定し、この特定された各画像領域の画像情報を用いてその隣接広角カメラの各姿勢パラメータを補整する補整手段、
を更に備えることを特徴とする請求項1から3のいずれか1項に記載のカメラ姿勢パラメータ推定装置。
【請求項5】
前記補整手段は、前記特定された各画像領域の画像データ間の相関値が最大化される値となるように前記隣接広角カメラの各姿勢パラメータを補整することを特徴とする請求項4に記載のカメラ姿勢パラメータ推定装置。
【請求項6】
車両の側面及び後部に少なくとも設置され半球以上の視野を有する複数の広角カメラと各広角カメラの姿勢パラメータをそれぞれ推定するパラメータ推定装置と前記各広角カメラから得られる各広角画像から画像データを生成する画像生成装置とを含むカメラシステ
ムにおいて、
前記パラメータ推定装置は、
前記複数の広角カメラによりそれぞれ得られる各広角画像から、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、該第1直線及び該第2直線と垂直な関係を有する1つの第3直線とから構成される特定パターンに対応する各線分をそれぞれ取得するパターン取得手段と、
前記パターン取得手段により取得された前記特定パターンに対応する各線分を用いて前記各広角画像に対する2組ずつの消失点ペアをそれぞれ決定する決定手段と、
前記決定手段で決定された2組ずつの消失点ペアをそれぞれ用いて地面に対する前記各広角カメラの姿勢パラメータをそれぞれ推定する推定手段と、
を備え、
前記画像生成装置は、
前記パラメータ推定装置により推定された前記複数の広角カメラの各姿勢パラメータを用いて、前記複数の広角画像から前記複数の広角カメラが搭載された車両を中心とする鳥瞰図を示す画像データを生成する生成手段と、
前記生成手段により生成された画像データに応じた鳥瞰図を参照したユーザにより入力されるその鳥瞰図における車両の傾き情報を取得する傾き情報取得手段と、
前記傾き情報を前記複数の広角カメラの各姿勢パラメータに反映させる反映手段と、
を備えることを特徴とするカメラシステム。
【請求項7】
コンピュータが、
半球以上の視野を有する広角カメラにより得られる広角画像から、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、該第1直線及び該第2直線と垂直な関係を有する1つの第3直線とから構成される特定パターンに対応する各線分をそれぞれ取得し、
前記取得された前記特定パターンを形成し得る各線分を用いて前記広角画像に対する2組の消失点ペアを決定し、
前記決定された2組の消失点ペアを用いて地面に対する前記広角カメラの姿勢パラメータを推定する、
ことを特徴とするカメラ姿勢パラメータ推定方法。
【請求項8】
半球以上の視野を有する広角カメラにより得られる広角画像から、実空間における、相互に平行な少なくとも2つの第1直線及び第2直線と、該第1直線及び該第2直線と垂直な関係を有する1つの第3直線とから構成される特定パターンに対応する各線分をそれぞれ取得し、
前記取得された前記特定パターンを形成し得る各線分を用いて前記広角画像に対する2組の消失点ペアを決定し、
前記決定された2組の消失点ペアを用いて地面に対する前記広角カメラの姿勢パラメータを推定する、
ことをコンピュータに実行させることを特徴とするカメラ姿勢パラメータ推定プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【公開番号】特開2011−215063(P2011−215063A)
【公開日】平成23年10月27日(2011.10.27)
【国際特許分類】
【出願番号】特願2010−84819(P2010−84819)
【出願日】平成22年4月1日(2010.4.1)
【出願人】(504150461)国立大学法人鳥取大学 (271)
【Fターム(参考)】
【公開日】平成23年10月27日(2011.10.27)
【国際特許分類】
【出願日】平成22年4月1日(2010.4.1)
【出願人】(504150461)国立大学法人鳥取大学 (271)
【Fターム(参考)】
[ Back to top ]