説明

車両周辺監視装置及び方法

【課題】 視点位置をダイナミックに変更して、車内の表示装置に運転状況に応じて最適な合成画像を表示することができる車両周辺監視装置及び方法を提供する。
【解決手段】 本発明の車両周辺監視装置は、カメラ101と、アナログ・ディジタル変換器(A/D)102と、フレームメモリ103と、ディジタル・アナログ変換器(D/A)105と、液晶表示装置などのディスプレイ106と、歪み補正のための幾何学変換用テーブルを構成するROM化された変換テーブル107と、視点位置をダイナミックに変更しうるようにするために視点変換用パラメータを供給する視点変換用パラメータ供給手段108と、第1ステップとしてROM化された変換テーブル107に基づいて、各カメラから得られた画像の歪みを補正し、第2ステップとして視点変換用パラメータ供給手段108から供給される視点変換用パラメータに基づいて変換のためのアドレス計算等を高速に行うCPU又はDSP等から構成される画像合成手段104とから構成されている。

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、車両の運転者からの死角を低減したり運転操作を容易にするため、車両に設置したカメラの画像を表示出力する車両周辺監視装置に関し、特に、車両の走行状況や運転者の操作に応じた最適な画像を提供する車両周辺監視装置に関するものである。
【0002】
【従来の技術】近年、車載用のディスプレイ装置の普及やカメラなどの映像機器の低価格化に伴い、カメラによって車両の周辺を監視することで安全運転を支援する装置が実用化され、普及しつつある。
【0003】ところで従来の車両周辺監視装置の一例としては、車両の後方などの運転者から死角となる部分を映すようにカメラを設置し、カメラの画像をディスプレイで監視するというものがあり、例えば、特開昭58-110334号公報に記載される「路面視界表示装置」が知られている。
【0004】すなわち図6に示されるように、車両の周囲に複数台のカメラ(例えばカメラ1〜カメラ4)が設置され、そして図8のような状況で撮影された複数のカメラ画像から、図9のような自車を中心として上方から見た画像を変形合成し、車内の表示装置で運転者が観察する。変形合成は、例えば図7に示すように、車の真上に仮想カメラを設定し、上記カメラ1〜カメラ4で撮像された画像をそれぞれ仮想カメラ位置から見た画像に変換して合成することにより得られる。
【0005】このような車両周囲監視装置を用いると、運転席からは直接見ることができない死角をディスプレイで確認することができるため、事故を回避したり運転操作を容易にすることができる。
【0006】
【発明が解決しようとする課題】しかしながら、上記した従来構成の車両周辺監視装置では、仮想視点の位置を予め決定し、入力画像と仮想視点画像(合成画像)の対応関係を計算しておき、それをテーブル化(ROM化)しておくために、仮想視点をダイナミックに変更することができないという問題点があった。
【0007】そこで、本発明は、このような従来の問題点を解決するものであり、視点位置をダイナミックに変更して、車内の表示装置に運転状況に応じて最適な合成画像を表示することができる車両周辺監視装置及び方法を提供することを目的とするものである。
【0008】
【課題を解決するための手段】上記問題点を解決するために本発明の車両周辺監視装置は、視点位置に不変な変換である歪み補正のための変換テーブルについてあらかじめ計算してROM化しておき、視点位置によって変換規則が変化する視点変換合成については逐次、視点変換用パラメータ供給手段によって与えられるパラメータに基づき変換のためのアドレス計算等を行うようにしたものである。
【0009】この構成によって、視点位置をダイナミックに変更して、車内の表示装置に活きた合成画像を表示することができる。
【0010】
【発明の実施の形態】以下、本発明の実施の形態について、図1から図5を用いて説明する。
【0011】図1は、本発明の実施の形態における車両周囲監視装置の構成を示すブロック図である。図1において本発明の車両周囲監視装置は、カメラ101と、アナログ・ディジタル変換器(A/D)102と、フレームメモリ103と、ディジタル・アナログ変換器(D/A)105と、液晶表示装置などのディスプレイ106と、歪み補正のための幾何学変換用テーブルを構成するROM化された変換テーブル107と、視点位置をダイナミックに変更しうるようにするために視点変換用パラメータを供給する視点変換用パラメータ供給手段108と、第1ステップとしてROM化された変換テーブル107に基づいて、各カメラから得られた画像の歪みを補正し、第2ステップとして視点変換用パラメータ供給手段108から供給される視点変換用パラメータに基づいて変換のためのアドレス計算等を高速に行うCPU又はDSP等から構成される画像合成手段104とから構成されている。
【0012】なお、図1に示されるように本発明の車両周囲監視装置では、カメラ101、アナログ・ディジタル変換器(A/D)102及びフレームメモリ103を組にして、その組を車両に設置するカメラの数に応じて複数組設ける。カメラの取付位置は、図1に示される取付位置例に限らず、ブラインドコーナー対策として左右前部側方に取付けるブラインドコーナーカメラや、運転席近傍の左右側方に取付けられるサイドビューカメラなどを必要に応じて取付けることが可能である。
【0013】図2は、歪み補正のための幾何学変換の原理を説明するための図であり、図3は図1の画像合成手段104によって行われる画像合成の第1ステップとしての歪み補正によって歪みあり画像から歪みなし画像に変換される様子を示した図である。すなわち図2は、一般的な球面レンズあるいは球面凹面鏡による結像系において生じる収差の一つである歪曲収差を示すものである。歪曲収差は、他の収差と異なり、像はぼけることなく原点から放射方向へ位置ずれを起こす。すなわち、画面中心から離れるにしたがって結像倍率が変わる。
【0014】歪曲収差によって、r=(Xu2+Yu21/2 ……(1)
の画素が放射方向にずれる量Δrは、例えば、Δr=kr3 ……(2)
で近似することができる。上記式(2)のkが正のときは「糸巻き形の像」に、負のときは「樽形の像」に変形する。
【0015】ここで、放射方向へのずれ量ΔrのX軸方向の成分をΔX、Y軸方向への成分をΔYとすると、 ΔX=Δr・cosθ=Δr・(Xu/r)=k(Xu3+Xuu2) …(3)
ΔY=Δr・sinθ=Δr・(Yu/r)=k(Xu2u+Yu3) …(4)
【0016】したがって、本来歪みのない状態で座標(Xu,Yu)に撮像される像は、実際に撮像された像では、座標(Xd,Yd)に撮像されていることになる。
【0017】
d=Xu−k(Xu3+Xuu2) ……(5)
d=Yu−k(Xu2u+Yu3) ……(6)
【0018】図3は、実際に得られる歪みのある画像P(Xd,Yd)が、歪み補正による変換によって歪みのない画像I(Xu,Yu)に変換される様子を示したものである。その関係は、以下の式によって表すことができる。
I(Xu,Yu)=P(Xu−k(Xu3+Xuu2),Yu−k(Xu2u+Yu3))…(7)
この場合、歪みの度合いを表すkは光学系で決まる定数で、光学系が変わらない限り、固定の値である。
【0019】そこで、変換後の画像座標(Xu,Yu)と、変換前の画像座標(Xd,Yd)の関係をあらかじめ、座標変換テーブル(ROM等に記憶させておく)として持っておき、変換の際には、上記座標変換テーブルを参照して変換を行うことにより毎回計算することなく高速に変換できる。
【0020】図4は、歪み補正のための変換テーブルの例を示したものである。すなわち、ROM等に記憶された座標変換テーブルを使用して、変換前の画像座標(Xd,Yd)が座標変換後の画像座標(Xu,Yu)に変換される。
【0021】図5は、図1の画像合成手段104によって行われる画像合成の第2ステップとしての視点変換及び合成画像生成によって生成された画像が得られる様子を示した図である。すなわち、図5の左側に示された(a−1)においては、カメラ1で撮影した画像について上記図2及び図3に示したような歪み補正をした後の画像I1(X1u,Y1u)を、合成画像を生成するための入力画像として使用し、同様にして、図5の左側に示された(a−2)においては、カメラ2で撮影した画像について上記図2及び図3に示したような歪み補正をした後の画像I2(X2u,Y2u)を、合成画像を生成するための入力画像として使用し、同様にして、カメラnで撮影した画像について上記図2及び図3に示したような歪み補正をした後の画像In(Xnu,Ynu)を、合成画像を生成するための入力画像として使用するようにして、図5の右側に示された合成画像G(Xo,Yo)を生成するようにしたものである。
【0022】また、図8に示すようにカメラ801により撮影された図9に示す画像を、図8に示す車両の走行面802の延長面状を撮影したものと仮定して、実物との差を図10に模擬的に示すテーブル1001を用いて平面に補正することも可能である。
【0023】このようにして図6に示すように車両に取り付けたカメラ1乃至4により得られた画像を合成し、図7に示すように仮想カメラ701により撮影をしたような画像を得ることができる。例えば、図11に示すような状況に自車1101が停車している場合、後方の車両1102は、自車に搭載したカメラ1103に図5(a−1)に示すような画像として撮影される。またカメラ1104には図5(a−2)に示すような画像が撮影される。これらの画像に対し上述の補正を行い、さらに視点変換を行うことにより、図12に示すように仮想カメラ701より撮影した画像を得ることができる。
【0024】
【発明の効果】上記の説明から明らかなように、本発明の車両周囲監視装置及び方法は、視点位置に不変な変換である歪み補正のための変換テーブルについてあらかじめ計算してROM化しておき、視点位置によって変換規則が変化する視点変換合成については逐次、視点変換用パラメータ供給手段によって与えられるパラメータに基づき変換のためのアドレス計算等を行うようにしたものであるから、視点位置をダイナミックに変更して、車内の表示装置に運転状況に応じて最適な合成画像を表示することができる。
【図面の簡単な説明】
【図1】本発明の実施形態における車両周囲監視装置の構成を示すブロック図、
【図2】歪み補正のための幾何学変換の原理を説明するための図、
【図3】図1の画像合成手段によって行われる画像合成の第1ステップとしての歪み補正によって歪みあり画像から歪みが補正された画像が得られる様子を示した図、
【図4】歪み補正のための変換テーブルの例、
【図5】図1の画像合成手段によって行われる画像合成の第2ステップとしての視点変換及び合成画像生成によって生成された画像が得られる様子を示した図、
【図6】カメラの設置位置を示す例、
【図7】仮想カメラが設定される位置を示す図、
【図8】車両の後部左上に設置したカメラにより路面を撮影する様子を示した図、
【図9】図8のカメラによって撮影された画像の例、
【図10】模擬的に示すテーブル1001を用いて図9の画像を平面に補正する様子を示した図、
【図11】車の上方から見た車両状況を示す図、
【図12】図8のような状況で撮影された複数のカメラ画像から自車を中心として上方から見た画像を変形合成して車内の表示装置に表示した例を示す図である。
【符号の説明】
101 カメラ
102 アナログ・ディジタル変換器
103 フレーム・メモリ
104 画像合成手段
105 ディジタル・アナログ変換器
106 ディスプレイ
107 変換テーブル(ROM)
108 視点変換用パラメータ供給手段

【特許請求の範囲】
【請求項1】 車両に設置されたカメラで撮影された入力画像を表示する車両周辺監視装置であって、入力画像と歪み補正画像の対応関係を表す座標変換テーブルを記憶する座標変換テーブル記憶手段と、歪み補正画像と合成画像の対応関係を逐次計算して合成画像を生成する画像合成手段と、合成画像を生成するために必要となる仮想視点位置に関するパラメータを前記画像合成手段に供給する視点変換用パラメータ供給手段とを有することを特徴とする車両周辺監視装置。
【請求項2】 入力画像と歪み補正画像の対応関係を表す座標変換テーブルがカメラ光学的歪み、および前記カメラの取り付け位置に起因する映像と実物との差を補正するものである請求項1に記載の車両周辺監視装置。
【請求項3】 変換後の画像座標と変換前の画像座標との関係を、座標変換テーブルとして予め持っておき、変換の際に前記座標変換テーブルを参照して変換を行う段階と、視点変換用パラメータ供給手段によって、逐次与えられるパラメータに基づき視点変換のためのアドレス計算を行うようにした視点位置によって変換規則が変化する視点変換合成を行う段階と、視点変換合成した合成画像を表示装置に表示する段階を含む車両周辺監視方法。
【請求項4】 変換後の画像座標と変換前の画像座標との関係を、座標変換テーブルとして予め持っておき、変換の際に用いる座標変換テーブルがカメラ光学的歪み、および前記カメラの取り付け位置に起因する映像と実物との差を補正するものであり、この座標変換テーブルを参照して変換を行う段階と、視点変換用パラメータ供給手段によって、逐次与えられるパラメータに基づき視点変換のためのアドレス計算を行うようにした視点位置によって変換規則が変化する視点変換合成を行う段階と、視点変換合成した合成画像を表示装置に表示する段階を含む車両周辺監視方法。

【図1】
image rotate


【図6】
image rotate


【図7】
image rotate


【図8】
image rotate


【図2】
image rotate


【図3】
image rotate


【図4】
image rotate


【図5】
image rotate


【図9】
image rotate


【図10】
image rotate


【図11】
image rotate


【図12】
image rotate


【公開番号】特開2001−339716(P2001−339716A)
【公開日】平成13年12月7日(2001.12.7)
【国際特許分類】
【出願番号】特願2000−155162(P2000−155162)
【出願日】平成12年5月25日(2000.5.25)
【出願人】(000005821)松下電器産業株式会社 (73,050)
【Fターム(参考)】